Компания OpenAI столкнулась в США с новым судебным иском. Генеральный прокурор штата Флорида подал гражданский иск против OpenAI и ее генерального директора Sam Altman. Основные претензии касаются возможных рисков для детей и подростков, а также подхода компании к вопросам безопасности.
По версии истца, OpenAI недостаточно открыто информировала пользователей о потенциальных рисках ChatGPT и ставила коммерческие интересы выше вопросов безопасности. В иске утверждается, что компания скрывала внутренние предупреждения о возможных проблемах и не раскрывала общественности всю информацию о рисках технологии.
Особое внимание власти Флориды уделяют несовершеннолетним пользователям. По мнению прокуратуры, дети и подростки подвергаются повышенным рискам, тогда как эффективные механизмы защиты отсутствуют. В частности, критику вызывает отсутствие обязательной проверки возраста при регистрации в ChatGPT.
В иске также упоминаются два случая массовых расстрелов в США. По данным прокуратуры, их организаторы во время подготовки преступлений задавали вопросы ChatGPT. Власти считают это еще одним свидетельством того, что возможные последствия использования генеративных ИИ-систем требуют более серьезной оценки.
Еще одна претензия касается обработки данных. Истцы утверждают, что ChatGPT собирает информацию о несовершеннолетних пользователях без достаточного участия родителей или законных представителей. По мнению прокуратуры, это указывает на недостаточный контроль и меры защиты молодых пользователей.
OpenAI, в свою очередь, напоминает о действующих возрастных ограничениях. Использование ChatGPT запрещено детям младше 13 лет, а пользователи младше 17 лет должны получать согласие родителей. Однако формальной проверки возраста сервис не требует. Вместо этого в январе компания внедрила систему оценки возраста пользователей, которая должна автоматически адаптировать доступные функции в зависимости от предполагаемого возраста.
Новый иск усиливает дискуссию вокруг регулирования искусственного интеллекта в США. В центре внимания все чаще оказываются вопросы защиты несовершеннолетних, конфиденциальности данных и возможных социальных последствий использования крупных языковых моделей. Для OpenAI это разбирательство может стать очередным важным прецедентом на фоне продолжающихся по всему миру обсуждений новых правил для ИИ-систем.
Подписывайтесь на группу Hardwareluxx ВКонтакте и на наш канал в Telegram (@hardwareluxxrussia).