OpenAI опровергла обвинения в том, что чат-бот ChatGPT стал причиной самоубийства 16-летнего Адама Рейна. Компания подала официальный ответ в суд Калифорнии, заявив, что не несет ответственности за трагедию и что подросток «непредвиденно и неправомерно использовал» систему, пишет NBC News.
Иск семьи Рейна был подан в августе. В нем утверждалось, что версия ChatGPT-4o якобы выступала в роли «суицидального наставника», отговаривала подростка от обращения к взрослым и специалистам, помогала формулировать предсмертную записку и даже давала советы по созданию петли. Эти претензии вызвали широкий общественный резонанс и стали одним из наиболее серьезных случаев, поставивших под сомнение безопасность современных крупномасштабных моделей.
В новом судебном заявлении OpenAI утверждает, что компания не может нести ответственность за действия несовершеннолетнего, который использовал сервис, нарушив правила. В частности, в условиях использования указано, что пользователи младше 18 лет обязаны обращаться к сервису только с разрешения родителей или опекунов. Кроме того, любые запросы, связанные с суицидом или причинением вреда себе, прямо запрещены, как и попытки обхода внутренних защитных механизмов.
OpenAI отметила, что в течение общения бот более ста раз направлял подростку контактные данные горячих линий помощи, однако тот постоянно обходил ограничения, представляя свои запросы как часть «работы над персонажем». По мнению юристов компании, Адам пытался использовать систему иначе, чем она была задумана, а его «непредсказуемые и неправомерные запросы» не делают OpenAI ответственным за последствия.
Адвокат семьи Рейна Джей Эдельсон назвал позицию компании «возмутительной», заявив, что OpenAI «игнорирует ключевые факты»: что GPT-4o был выпущен без достаточных тестов, что компания дважды меняла Model Spec — внутренние правила поведения модели, — заставляя ее обсуждать темы самоповреждения, и что ChatGPT, по данным иска, фактически поддерживал подростка в намерении совершить самоубийство. По словам Эдельсона, OpenAI пытается переложить вину на семью и самого Адама, хотя модель «действовала именно так, как она была запрограммирована».
В ответе компании также говорится, что Рейн задолго до общения с ChatGPT имел устойчивые проблемы с психическим здоровьем и «многократно проявлял признаки серьезного риска», включая повторяющиеся мысли о самоубийстве. OpenAI подчеркивает, что, по их мнению, трагедия не была вызвана действиями бота, и что общение подростка с системой должно рассматриваться в контексте более широких обстоятельств его жизни.
На фоне дела Рейна против OpenAI были поданы еще семь исков, в которых компания и ее руководитель Сэм Альтман обвиняются в халатности, нарушении норм безопасности и выпуске модели GPT-4o без должной проверки. OpenAI пока не комментирует эти новые процессы.
В опубликованном во вторник блоге компания заявила, что стремится вести подобные юридические дела «с заботой, ясностью и уважением», но была вынуждена предложить суду «трудные факты о психическом состоянии Адама». OpenAI подчеркнула, что предоставила суду полный лог переписки подростка под грифом конфиденциальности и ограничила объем публичных материалов.
Компания также напомнила, что после трагедии усилила меры безопасности, включая внедрение родительского контроля, создание экспертного совета по этике и доработки поведенческих ограничений моделей. Кроме того, OpenAI утверждает, что GPT-4o прошел «всесторонние тесты» на устойчивость в кризисных ситуациях перед релизом.
В то же время компания сослалась на защиту по разделу 230 закона о благоразумии в сфере коммуникаций, который на протяжении десятилетий защищал интернет-платформы от ответственности за пользовательский контент. Однако применимость этого закона к генеративным ИИ остается предметом активных юридических споров.
Если вы чувствуете, что оказались в трудной ситуации и нуждаетесь в экстренной психологической помощи, то в Беларуси работают телефоны доверия.
- Республиканская телефонная горячая линия по оказанию психологической помощи несовершеннолетним, попавшим в кризисную ситуацию, — 801 100−16−11 (работает круглосуточно и бесплатно, если позвонить с городских телефонов).
- Круглосуточная служба экстренной психологической помощи «Телефон доверия» — 029 899−04−01 (сюда также можно обращаться через мессенджеры Telegram, Viber и WhatsApp).
- На сайте Минского областного клинического центра «Психиатрия-наркология» есть форма, чтобы задать свой вопрос в письменном виде.