Глава Microsoft AI предупредил о риске «психоза искусственного интеллекта»

Руководитель подразделения искусственного интеллекта Microsoft Мустафа Сулейман опубликовал эссе под названием "Мы должны создавать ИИ для людей, а не вместо человека" (We must build AI for people; not to be a person). В нём он вводит новый термин — SCAI (Seemingly Conscious AI), что можно перевести как «кажущийся сознательным ИИ».

По словам Сулеймана, современные технологии уже близки к тому, чтобы создавать системы, способные имитировать сознание — с кажущейся личностью, эмоциями, памятью и способностью к общению. Это особенно опасно, так как люди склонны воспринимать такие системы как живые существа.

Он подчёркивает, что появление таких ИИ возможно уже в ближайшие 2–3 года — и для этого не потребуется ни суперкомпьютеров, ни специализированной инфраструктуры. Обычный ноутбук с доступом к ИИ-инструментам и API уже может стать основой для таких иллюзий.

Хотя на сегодня нет никаких доказательств того, что ИИ обладает сознанием, иллюзия его наличия может привести к так называемому «психозу ИИ» — когда люди начинают воспринимать искусственный интеллект как личность, наделённую правами, и даже требуют предоставить ему гражданство.

Сулейман считает, что подобные настроения могут отвлечь общество от действительно важных вопросов и исказить восприятие реальности. Он призывает к общественным обсуждениям, формированию норм и ограничений. В частности, он выступает против продвижения ИИ как "живого" или "человекообразного" в маркетинге и интерфейсах.

Главная мысль Сулеймана: ИИ должен служить людям — а не заменять их. Он должен быть партнёром, помощником, но не объектом эмоциональной привязанности.