Глава OpenAI опасается не только восстания ИИ, но и концентрации контроля над технологией

Глава OpenAI Сэм Альтман обеспокоен риском того, что контроль над искусственным интеллектом окажется сосредоточен у небольшого числа компаний и людей. В таком случае общество может потерять возможность влиять на то, как ИИ будет менять повседневную жизнь и окружающий мир, пишет Business Insider.

Альтман считает важным сохранить за людьми возможность определять направление развития технологий. По его мнению, общество и ИИ должны адаптироваться друг к другу и развиваться параллельно.

Одновременно глава OpenAI опасается сценария, при котором искусственный интеллект выйдет из-под человеческого контроля. Однако чрезмерный страх перед такими рисками, считает он, сам по себе может создать угрозу, поскольку способен привести к ужесточению ограничений и сокращению гражданских свобод под предлогом обеспечения безопасности.

Business Insider предполагает, что эти высказывания могли быть направлены в том числе в адрес главы Anthropic Дарио Амодеи. Он предупреждает о потенциальных угрозах стремительного развития ИИ и выступает за усиление государственного регулирования отрасли. Альтман, напротив, считает, что чрезмерное регулирование может привести к неоправданному ограничению свободы.

Anthropic остаётся одной из немногих крупных ИИ-компаний, не поддержавших недавнее письмо в пользу моделей с открытыми весами. Такие модели можно распространять, модифицировать и запускать на собственной инфраструктуре.

Тем временем Nvidia, Meta и Microsoft выступают за более широкое использование подобных моделей в США. Компании считают, что Вашингтону необходимо стимулировать их развитие, как это происходит в Китае, чтобы страна сохранила лидерство в глобальной гонке искусственного интеллекта.