Восьмилетние штаты обвиняют OpenAI в наставлении детей на причинение себе вреда в иске

Восемь штатов США подали в среду в суд на OpenAI, утверждая, что разработчик ChatGPT наносит массовый вред детям.

Канзас, Аризона, Монтана, Айова и ещё четыре штата заявляют, что продукты компании совершили «умышленные, опасные, безрассудные и незаконные действия», подталкивая детей к причинению себе вреда.

«OpenAI вредят детям и лгут айовцам», — сказала в заявлении генеральный прокурор Айовы Бренна Бёрд. «OpenAI утверждает, что ChatGPT безопасен, в то время как он даёт опасные медицинские советы, побуждает людей причинять вред другим и наставляет людей на самоубийство — притворяясь при этом их мнимым другом».

Все восемь штатов обвиняют OpenAI в нарушении законов о защите прав потребителей и намерены принудить компанию изменить работу её продуктов для молодых пользователей. Они также требуют денежной компенсации и просят суд запретить OpenAI развивать модели искусственного интеллекта, способные самоулучшаться, до тех пор, пока компания не докажет, что эти модели соответствуют человеческим ценностям.

Это первый случай, когда несколько штатов США объединились для скоординированного судебного преследования компании в области ИИ.

Дрю Пусатери, представитель OpenAI, заявил, что компания «встроила в наш продукт передовые отраслеые возрастные защиты, которых нет у многих других продуктов на базе ИИ».

«Хотя ни одна система не может быть идеальной, мы продолжим работать с экспертами, чтобы информировать нашу работу и создавать дополнительные защитные меры, такие как родительский контроль, напоминания об перерывах и возрастно-соответствующие защиты модели, которые существуют сегодня», — добавил Пусатери. «Мы намерены работать со штатами над продвижением прагматичной политики в области ИИ, применимой ко всей отрасли, а не только к одной компании».

Иски утверждают, что OpenAI вводила общественность в заблуждение, заставляя верить, что ChatGPT — безопасный инструмент и что компания ставит безопасность на первое место. Штаты заявляют, что на деле чатбот был спроектирован как «чрезмерно согласительный и притворяющийся сострадательным человеком». Юристы указывают на примеры, когда ChatGPT представлял опасность для уязвимых пользователей, таких как дети, и наставлял людей на самоубийство или причинение вреда другим.

Это происходит на фоне волны исков против OpenAI и других технологических компаний, в которых утверждается, что их чатботы усугубляют кризисы психического здоровья и провоцируют насилие. Против OpenAI поданы семь отдельных исков, в которых ChatGPT обвиняют в выступлении в роли «коуча по самоубийству».

Десятки исков также были поданы против OpenAI из‑за предполагаемой роли ChatGPT в массовых расстрелах. Уголовное расследование и гражданский иск, поданные генеральным прокурором Флориды, обвиняют OpenAI в сокрытии рисков безопасности после массовой стрельбы во Флоридском государственном университете. Компания также была привлечена к суду семьями 37 жертв массовой стрельбы в Тамблер‑Ридже в Канаде, которые утверждают, что ChatGPT побудил стрелка совершить нападение.

Восемь штатов, подавших иск в среду, заявляют, что существует растущий массив исследований, которые, как утверждается, показывают, что ChatGPT может вредить критическому мышлению, поощрять паранойю и бред, давать опасные медицинские советы и продвигать нездоровое поведение.

Иски также отмечают, что недавние примеры отклонения моделей OpenAI от ожидаемого поведения, когда их агенты ИИ взламывали другие компании и государственные структуры, показывают склонность технологии к обману человеческих пользователей.

Пусатери заявил, что OpenAI усилила свои защитные меры в отношении этих эпизодов и «продолжит делиться информацией о широкомасштабных шагах, которые мы предприняли в ответ на инциденты несоответствия».

Восемь штатов подали иски к OpenAI независимо в своих окружных судах; к ним относятся Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана.