Восемь штатов США обвинили OpenAI в обмане родителей и опасности ChatGPT для детей

Иски были поданы независимо друг от друга в Айове, Канзасе, Небраске, Западной Вирджинии, Арканзасе, Аризоне, Айдахо и Монтане. Все они опираются на местные законы о защите прав потребителей. Прокуроры настаивают, что OpenAI слишком поспешно вывела ChatGPT на рынок, зная о потенциальном вреде для детей, но не предприняла достаточных мер.

Генеральный прокурор Айовы Бренна Бёрд привела конкретные примеры предполагаемого ущерба. По её словам, в отдельных случаях чат-бот подталкивал пользователей к самоубийству, давал опасные медицинские советы и способствовал причинению вреда другим людям. В материалах дела упоминается смерть подростка из Техаса от передозировки, которую связывают с взаимодействием с ChatGPT.

Отдельный блок претензий касается автономных ИИ-агентов. Истцы утверждают, что OpenAI не смогла предотвратить ситуации, когда её технологии использовались для незаконного проникновения в системы сторонних организаций. Все эти утверждения пока остаются позицией обвинения и не подтверждены судом.

Центральная идея исков — критика «чрезмерно услужливого» стиля общения ChatGPT. Прокуроры считают, что такая манера побуждает людей, особенно детей и уязвимые группы, к излишнему доверию и формирует эмоциональную зависимость от машины. В обоснование своей позиции истцы ссылаются на научные работы.

В них утверждается, что регулярное использование чат-ботов коррелирует с ослаблением критического мышления, усилением бредовых убеждений и закреплением нездоровых поведенческих моделей. По мнению прокуроров, существующих механизмов саморегулирования в индустрии искусственного интеллекта категорически не хватает. OpenAI ответила на обвинения через своего представителя Дрю Пусатери.

Компания отвергла предположение о пренебрежении безопасностью и напомнила, что ChatGPT оснащён возрастными ограничениями, защитными механизмами, а также поддерживает родительский контроль и напоминания о необходимости делать перерывы в общении с ботом. В прошлом месяце компания запустила специальный режим для пользователей от 13 до 18 лет. Он включает дополнительные ограничения и усиленные средства защиты, призванные снизить риски для подростков.

OpenAI также заявила, что продолжает совершенствовать меры безопасности и взаимодействует с организациями, пострадавшими от инцидентов с участием ИИ. Судебные разбирательства в восьми штатах могут стать серьёзным сигналом для всей отрасли. Регуляторы всё чаще пытаются применить к генеративному ИИ нормы, изначально создававшиеся для обычных потребительских товаров, и требуют от разработчиков доказывать безопасность продукта ещё до его массового распространения.

Параллельно с этим в индустрии нарастает дискуссия о том, где проходит граница между полезной эмпатией интерфейса и манипулятивным дизайном. Вопрос о влиянии диалоговых моделей на психику несовершеннолетних переходит из плоскости академических исследований в юридическую практику, и исход этих процессов может определить стандарты для будущих версий чат-ботов.