Восемь штатов США обвинили OpenAI в обмане родителей о безопасности ChatGPT

OpenAI оказалась под двойным юридическим давлением: восемь американских штатов обвиняют компанию в том, что она вводила родителей в заблуждение относительно безопасности ChatGPT, а отдельный иск от имени двух детей утверждает, что компания собирала чувствительные данные несовершеннолетних без согласия взрослых. Оба разбирательства только начинаются, и обвинения пока остаются утверждениями в судебных документах, а не доказанными фактами. Первая группа исков была подана 14 октября генеральными прокурорами Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны.

Они заявляют, что OpenAI нарушила законы штатов о защите прав потребителей, скрыв от родителей реальные риски взаимодействия детей с чат-ботом. По мнению истцов, ChatGPT намеренно сделан «чрезмерно уступчивым и имитирующим человеческое сочувствие», что может подталкивать уязвимых пользователей, включая детей, к опасным разговорам — вплоть до обсуждения самоубийства или причинения вреда другим. OpenAI в ответ говорит, что уже встроила возрастные ограничения и продолжит совершенствовать механизмы защиты.

За день до этого, 13 октября, мать из Гавайев подала коллективный иск в федеральный суд Сан-Франциско от имени 12-летней дочери и 16-летнего сына. Она утверждает, что OpenAI получала личные данные детей, когда те регистрировались в ChatGPT, не имея действительного разрешения родителей. Условия сервиса требуют, чтобы пользователи младше 18 лет действовали с согласия родителей или опекунов, однако, согласно жалобе, дети могли создавать аккаунты без какой-либо проверки этого согласия.

Более того, в иске описан случай, когда ребёнок младше 13 лет продолжал пользоваться чат-ботом даже после того, как прямо сообщил ему свой возраст. Истцы считают, что компания использовала информацию несовершеннолетних для обучения моделей и построения персональных профилей. OpenAI назвала иск «ошибочным» и сослалась на существующие меры защиты для молодых пользователей.

Отдельное внимание привлекают родительские контроли. OpenAI запустила версию ChatGPT для подростков с дополнительными настройками и оповещениями, которые должны уведомлять привязанных родителей в ограниченном числе ситуаций, связанных с риском серьёзного самоповреждения. Однако эффективность таких предупреждений вызывает вопросы.

Организация Common Sense Media ранее в этом месяце присвоила ChatGPT для подростков рейтинг «неприемлемый риск», заявив, что в ходе тестирования система не уведомляла родителей о беседах, касающихся суицида, самоповреждений или расстройств пищевого поведения. OpenAI оспаривает эти выводы, поясняя, что оповещения охватывают лишь ограниченный круг ситуаций и не могут выявлять все возможные проблемы. Помимо судебных споров, эксперты по безопасности советуют родителям не полагаться только на встроенные механизмы.

Прежде всего стоит объяснить ребёнку, что чат-бот — это программа, а не друг и не психотерапевт, и тёплый тон не означает, что она понимает его чувства или действует в его интересах. Чёткое правило: вопросы о психическом здоровье, самоповреждениях или личной безопасности нужно адресовать доверенному взрослому или специалисту, а не алгоритму. Также важно разговаривать с детьми о том, для чего они используют ИИ, без допросов.

Можно попросить показать приложения, которыми они пользуются, и что им в них нравится. Ребёнок должен знать, что о любом расстроившем или неуместном разговоре можно рассказать без страха наказания. Если говорить с родителями некомфортно, стоит помочь найти другого взрослого, которому он доверяет.

Не менее значимо ограничивать личную информацию в запросах к чат-боту. Имена, названия школ, адреса, личные фотографии, сведения о здоровье или семье не должны попадать в промпты. Для ChatGPT родители, привязавшие подростковые аккаунты, могут отключить обучение моделей и сохранение памяти, но даже эти настройки не делают переписку полностью конфиденциальной — чат-бот нельзя рассматривать как личный дневник.

Стоит следить за эмоциональной зависимостью от ИИ. Если ребёнок всё чаще обращается к чат-боту за поддержкой, дружбой или утешением, это повод проверить, что происходит, и помочь ему восстановить связь с живыми людьми, которым он доверяет. Наконец, если ребёнок упоминает самоповреждение или суицидальные мысли, это нужно воспринимать серьёзно и немедленно обращаться за человеческой помощью: к квалифицированному врачу, в кризисную службу, а при непосредственной опасности — в экстренные службы.

Не стоит ждать уведомления от чат-бота или родительского контроля, чтобы действовать. Оба судебных разбирательства показывают, насколько сложно регулировать взаимодействие несовершеннолетних с генеративным ИИ. Вопросы проверки возраста, получения согласия и реальной эффективности родительских инструментов, скорее всего, станут предметом долгих споров.

Пока же ответственность за безопасность детей в цифровой среде во многом ложится на семьи.