Сотни влиятельных представителей IT-индустрии, включая Стива Возняка и Ричарда Брэнсона, подписали открытое обращение с предложением приостановить создание искусственного сверхразума до тех пор, пока не будет подтверждена его безопасность и возможность контроля со стороны человека.
Документ под названием Statement on Superintelligence был подготовлен организацией Future of Life Institute (FLI). Среди подписавших — «крёстные отцы ИИ» Джеффри Хинтон и Йошуа Бенджио, соучредитель Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, бывший советник Дональда Трампа Стив Бэннон, экс-глава Объединённого комитета начальников штабов США Майк Маллен и другие известные личности. Поддержку инициативе также выразили герцог и герцогиня Сассекские, Гарри и Меган.
При этом ряд известных фигур из сферы искусственного интеллекта не поддержали письмо. Среди них — глава OpenAI Сэм Альтман, соучредитель DeepMind и руководитель ИИ-направления Microsoft Мустафа Сулейман, CEO Anthropic Дарио Амодеи, советник Белого дома по вопросам ИИ и криптовалют Дэвид Сакс, а также основатель xAI Илон Маск. Ранее Маск подписывал письмо FLI 2023 года, в котором содержался призыв приостановить разработку систем, превосходящих GPT-4.
Авторы письма ссылаются на результаты опроса FLI, показавшего, что лишь 5% американцев выступают за стремительное и неограниченное развитие ИИ. Большинство — около 73% — поддерживают жёсткое регулирование, а 64% считают, что создание сверхразумных систем необходимо запретить до тех пор, пока не будет доказана их безопасность и управляемость.
Активисты предупреждают, что быстрый прогресс в сфере ИИ может привести к массовой утрате рабочих мест, экономическим потрясениям, а также стать угрозой для гражданских свобод, национальной безопасности и даже существования человечества.
Соучредитель FLI Энтони Агирре отметил, что, несмотря на стремление многих людей использовать ИИ во благо науки, медицины и повышения продуктивности, корпоративная гонка за созданием систем, способных заменить человека, идёт вразрез с общественными ожиданиями.
Документ под названием Statement on Superintelligence был подготовлен организацией Future of Life Institute (FLI). Среди подписавших — «крёстные отцы ИИ» Джеффри Хинтон и Йошуа Бенджио, соучредитель Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, бывший советник Дональда Трампа Стив Бэннон, экс-глава Объединённого комитета начальников штабов США Майк Маллен и другие известные личности. Поддержку инициативе также выразили герцог и герцогиня Сассекские, Гарри и Меган.
При этом ряд известных фигур из сферы искусственного интеллекта не поддержали письмо. Среди них — глава OpenAI Сэм Альтман, соучредитель DeepMind и руководитель ИИ-направления Microsoft Мустафа Сулейман, CEO Anthropic Дарио Амодеи, советник Белого дома по вопросам ИИ и криптовалют Дэвид Сакс, а также основатель xAI Илон Маск. Ранее Маск подписывал письмо FLI 2023 года, в котором содержался призыв приостановить разработку систем, превосходящих GPT-4.
Авторы письма ссылаются на результаты опроса FLI, показавшего, что лишь 5% американцев выступают за стремительное и неограниченное развитие ИИ. Большинство — около 73% — поддерживают жёсткое регулирование, а 64% считают, что создание сверхразумных систем необходимо запретить до тех пор, пока не будет доказана их безопасность и управляемость.
Активисты предупреждают, что быстрый прогресс в сфере ИИ может привести к массовой утрате рабочих мест, экономическим потрясениям, а также стать угрозой для гражданских свобод, национальной безопасности и даже существования человечества.
Соучредитель FLI Энтони Агирре отметил, что, несмотря на стремление многих людей использовать ИИ во благо науки, медицины и повышения продуктивности, корпоративная гонка за созданием систем, способных заменить человека, идёт вразрез с общественными ожиданиями.
