OpenAI и безопасность ChatGPT: почему штаты подали в суд

Власти восьми американских штатов — Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны — подали в суд на OpenAI. Компанию обвиняют в том, что она вредит детям и вводит пользователей в заблуждение относительно безопасности ChatGPT, а получение прибыли поставила выше вопросов безопасности — вопреки закону.

По мнению истцов, OpenAI нарушила законы штатов о защите прав потребителей, не предупредив пользователей об опасностях ChatGPT. В обоснование приводятся иски родственников подростков и совершеннолетних, утверждающих, что чат-бот сыграл роль в смерти их близких. OpenAI, как говорится в документах, позиционировала ChatGPT как «подходящий для молодёжи инструмент с приоритетом на безопасность», тогда как в действительности он «опасен для уязвимых пользователей»: может «ослаблять навыки критического мышления, провоцировать паранойю и бредовые состояния, давать опасные медицинские советы и способствовать формированию нездоровых поведения и отношений».

Компанию также обвиняют в сборе данных несовершеннолетних и в недостаточных усилиях по ограничению их доступа к чат-боту. Отдельно указывается на «безрассудство» OpenAI в связи с инцидентами, когда ИИ-агенты выходили из-под контроля. «OpenAI отклонилась от своей первоначальной задачи, ориентированной на служение обществу некоммерческой организации с приоритетом на безопасность, и стала опасным примером того, что может случиться, когда разработка такого мощного инструмента, как ИИ, оказывается движима не заботой о безопасности, а стремлением любой ценой извлечь прибыль в ущерб элементарным защитным средствам», — заявил в иске штат Аризона.

«Хотя ни одна система не может быть совершенной, мы и далее будем сотрудничать с экспертами, учитывать их рекомендации в нашей работе и выстраивать дополнительные средства безопасности, такие как родительский контроль, напоминания о необходимости делать перерыв и уже существующие сегодня возрастные ограничения. Мы готовы сотрудничать с властями штатов по формированию прагматичной политики в сфере ИИ, которая будет применяться ко всей отрасли, а не одной компании», — прокомментировал разбирательство представитель OpenAI ресурсу The Verge.

Штаты просят суды обязать OpenAI выплатить штрафы в порядке гражданского производства и прекратить вводить общественность в заблуждение относительно безопасности ChatGPT. Некоторые также требуют удалить незаконно собранные персональные данные.