Глава OpenAI Сэм Альтман выразил опасения, что человечество может столкнуться с масштабным кризисом, вызванным тем, что искусственный интеллект предоставляет мошенникам возможность легко выдавать себя за других людей.
«Меня пугает то, что, судя по всему, до сих пор есть финансовые учреждения, которые принимают голосовой отпечаток в качестве аутентификации, чтобы вы могли перевести крупную сумму денег или выполнить другие операции. Вы произносите проверочную фразу, и всё происходит автоматически, — сказал Альтман. — Это безумие… ИИ полностью вытеснил большинство способов аутентификации, кроме паролей».
Эти высказывания прозвучали в ходе интервью, которое Альтман дал Федеральной резервной системе. В нём он подробно остановился на том, как искусственный интеллект влияет на экономику и общественные процессы. Слушателями были представители крупнейших финансовых структур США.
Его участие совпало с ожидаемым выпуском «Плана действий в области ИИ» от администрации Белого дома — документа, в котором будут изложены принципы регулирования ИИ и стратегия укрепления лидерства США в этой сфере.
Хотя Альтман и выделил потенциальные риски, связанные с использованием ИИ, сама OpenAI выступила против предложений администрации Трампа ввести дополнительные ограничения, полагая, что это может подорвать конкурентоспособность американских разработчиков на фоне глобальной гонки технологий. Ранее в этом месяце Сенат проголосовал за удаление положения из законопроекта, согласно которому отдельные штаты не могли бы вводить собственные законы, касающиеся ИИ, на протяжении десяти лет.
Рост угроз мошенничества
Альтман далеко не единственный, кто обеспокоен тем, что новые технологии могут усилить проблему мошенничества.
ФБР уже ранее указывало на случаи, когда преступники использовали сгенерированные ИИ голосовые и видеозаписи. Родители сообщали, что мошенники, имитируя голос их ребёнка, выманивали у них деньги, утверждая, будто ребёнок оказался в опасной ситуации. В июле власти США также заявили, что кто-то использовал ИИ, чтобы сымитировать голос сенатора Марко Рубио, и обращался с фальшивыми звонками к политикам, включая губернатора и членов Конгресса.
«Я очень обеспокоен тем, что мы стоим на пороге серьёзного кризиса, связанного с мошенничеством», — сказал Альтман. «Сейчас это голосовой вызов, но скоро это будет видеозвонок или FaceTime, который не получится отличить от реальности», — добавил он.
Он также поделился ещё одной тревогой: возможностью того, что злоумышленники раньше всех создадут «сверхразум» — ИИ, значительно превосходящий человеческие способности, — и используют его в опасных целях, прежде чем общество успеет выработать механизмы защиты.
Кроме того, Альтмана беспокоит вероятность того, что контроль над подобными системами может быть утрачен, или что людям придётся передать им чрезмерную власть в принятии решений. Хотя компании, включая OpenAI, стремятся к созданию сверхразумного ИИ, он признал, что пока нет ясности, как будет определяться достижение этой цели и когда она может быть реализована. По его мнению, подобный ИИ может превзойти человека в течение 2030-х годов.
Как искусственный интеллект повлияет на занятость? Ответа нет
В отличие от некоторых коллег по индустрии, Альтман выразил меньшую тревогу по поводу того, как ИИ повлияет на рабочие места. Руководители Anthropic и Amazon, Дарио Амодей и Энди Джасси соответственно, ранее высказывали опасения, что технологии могут привести к масштабному сокращению персонала.
«Есть много действительно умных на вид прогнозов, — сказал он. — „О, вот что произойдёт с тем-то и тем-то, а вот что будет с экономикой“. Никто этого не знает. На мой взгляд, это слишком сложная система, слишком новая и влиятельная технология, чтобы её можно было предсказать».
Он поделился мнением, что, хотя определённые профессии действительно исчезнут, на смену им придут новые. Альтман повторил своё прежнее предположение о том, что если взглянуть на будущее через 100 лет, то у людей, вероятно, уже не будет привычной формы занятости в том виде, в каком мы её сегодня понимаем.
Одновременно с его выступлением OpenAI обнародовала исследование, подготовленное главным экономистом компании Ронни Чаттерджи, в котором анализируются потенциальные выгоды от использования ChatGPT для повышения производительности.
Чаттерджи, ранее занимавший пост координатора по реализации закона CHIPS and Science Act в администрации Байдена, сравнил ИИ с изобретением электричества и созданием транзистора. Он также сообщил, что аудитория ChatGPT достигла 500 миллионов пользователей по всему миру.
Согласно представленному отчёту, около 20% американских пользователей используют ChatGPT как личного наставника — для самообразования и развития профессиональных навыков. При этом не уточняется, какие именно темы изучаются с помощью сервиса. Также отмечается, что более половины пользователей из США находятся в возрасте от 18 до 34 лет, что, по мнению авторов отчёта, указывает на значительный потенциал ИИ-инструментов в будущем рынке труда.
«Меня пугает то, что, судя по всему, до сих пор есть финансовые учреждения, которые принимают голосовой отпечаток в качестве аутентификации, чтобы вы могли перевести крупную сумму денег или выполнить другие операции. Вы произносите проверочную фразу, и всё происходит автоматически, — сказал Альтман. — Это безумие… ИИ полностью вытеснил большинство способов аутентификации, кроме паролей».
Эти высказывания прозвучали в ходе интервью, которое Альтман дал Федеральной резервной системе. В нём он подробно остановился на том, как искусственный интеллект влияет на экономику и общественные процессы. Слушателями были представители крупнейших финансовых структур США.
Его участие совпало с ожидаемым выпуском «Плана действий в области ИИ» от администрации Белого дома — документа, в котором будут изложены принципы регулирования ИИ и стратегия укрепления лидерства США в этой сфере.
Хотя Альтман и выделил потенциальные риски, связанные с использованием ИИ, сама OpenAI выступила против предложений администрации Трампа ввести дополнительные ограничения, полагая, что это может подорвать конкурентоспособность американских разработчиков на фоне глобальной гонки технологий. Ранее в этом месяце Сенат проголосовал за удаление положения из законопроекта, согласно которому отдельные штаты не могли бы вводить собственные законы, касающиеся ИИ, на протяжении десяти лет.
Рост угроз мошенничества
Альтман далеко не единственный, кто обеспокоен тем, что новые технологии могут усилить проблему мошенничества.
ФБР уже ранее указывало на случаи, когда преступники использовали сгенерированные ИИ голосовые и видеозаписи. Родители сообщали, что мошенники, имитируя голос их ребёнка, выманивали у них деньги, утверждая, будто ребёнок оказался в опасной ситуации. В июле власти США также заявили, что кто-то использовал ИИ, чтобы сымитировать голос сенатора Марко Рубио, и обращался с фальшивыми звонками к политикам, включая губернатора и членов Конгресса.
«Я очень обеспокоен тем, что мы стоим на пороге серьёзного кризиса, связанного с мошенничеством», — сказал Альтман. «Сейчас это голосовой вызов, но скоро это будет видеозвонок или FaceTime, который не получится отличить от реальности», — добавил он.
Он также поделился ещё одной тревогой: возможностью того, что злоумышленники раньше всех создадут «сверхразум» — ИИ, значительно превосходящий человеческие способности, — и используют его в опасных целях, прежде чем общество успеет выработать механизмы защиты.
Кроме того, Альтмана беспокоит вероятность того, что контроль над подобными системами может быть утрачен, или что людям придётся передать им чрезмерную власть в принятии решений. Хотя компании, включая OpenAI, стремятся к созданию сверхразумного ИИ, он признал, что пока нет ясности, как будет определяться достижение этой цели и когда она может быть реализована. По его мнению, подобный ИИ может превзойти человека в течение 2030-х годов.
Как искусственный интеллект повлияет на занятость? Ответа нет
В отличие от некоторых коллег по индустрии, Альтман выразил меньшую тревогу по поводу того, как ИИ повлияет на рабочие места. Руководители Anthropic и Amazon, Дарио Амодей и Энди Джасси соответственно, ранее высказывали опасения, что технологии могут привести к масштабному сокращению персонала.
«Есть много действительно умных на вид прогнозов, — сказал он. — „О, вот что произойдёт с тем-то и тем-то, а вот что будет с экономикой“. Никто этого не знает. На мой взгляд, это слишком сложная система, слишком новая и влиятельная технология, чтобы её можно было предсказать».
Он поделился мнением, что, хотя определённые профессии действительно исчезнут, на смену им придут новые. Альтман повторил своё прежнее предположение о том, что если взглянуть на будущее через 100 лет, то у людей, вероятно, уже не будет привычной формы занятости в том виде, в каком мы её сегодня понимаем.
Одновременно с его выступлением OpenAI обнародовала исследование, подготовленное главным экономистом компании Ронни Чаттерджи, в котором анализируются потенциальные выгоды от использования ChatGPT для повышения производительности.
Чаттерджи, ранее занимавший пост координатора по реализации закона CHIPS and Science Act в администрации Байдена, сравнил ИИ с изобретением электричества и созданием транзистора. Он также сообщил, что аудитория ChatGPT достигла 500 миллионов пользователей по всему миру.
Согласно представленному отчёту, около 20% американских пользователей используют ChatGPT как личного наставника — для самообразования и развития профессиональных навыков. При этом не уточняется, какие именно темы изучаются с помощью сервиса. Также отмечается, что более половины пользователей из США находятся в возрасте от 18 до 34 лет, что, по мнению авторов отчёта, указывает на значительный потенциал ИИ-инструментов в будущем рынке труда.
