Американские и европейские исследователи доказали: роботы, управляемые искусственным интеллектом, способны выйти из-под человеческого контроля. Эксперты настаивают на том, что создатели таких машин обязаны серьёзнее относиться к вопросам безопасности, ведь роботы всё активнее входят в нашу повседневную жизнь.
Долгие годы роботы работали по чётко заданным алгоритмам — человек писал код, машина его выполняла. Такой подход позволял легко предсказывать поведение робота и выстраивать надёжные системы защиты.
Сегодня всё изменилось. Новое поколение роботов управляется большими языковыми моделями — теми же технологиями, что лежат в основе ChatGPT. Такой робот не просто следует инструкции, а самостоятельно интерпретирует команду и выстраивает план её выполнения. Именно эта гибкость и таит в себе угрозу: поведение машины меняется в реальном времени, и заранее предугадать его невозможно.
В ходе экспериментов учёным без какого-либо взлома удалось обычными текстовыми командами вынудить роботов совершать опасные действия. Прямые агрессивные команды машины отклоняли без труда. Однако стоило замаскировать запрос под диалог из киносценария, и защитные ограничения переставали работать. В одном из опытов робота-собаку удалось «убедить» выбирать места скопления людей как оптимальные точки для размещения взрывных устройств — алгоритм воспринял задание как творческую игру и не распознал реальной угрозы.
Законодательство США и ЕС к подобным сценариям явно не готово. Регуляторы в основном сосредоточены на беспилотных автомобилях, которые действуют в предсказуемой среде с чёткими правилами. Квартиры, школы и больницы — совсем другое дело: здесь нет единого свода правил, и никакие заводские тесты не способны предусмотреть все возможные ситуации.
Отдельная проблема — размытость ответственности. Если робот причинит вред человеку, кто будет виноват: пользователь, отдавший команду, производитель корпуса или разработчик ИИ-алгоритма? Ответа на этот вопрос пока нет. А пока его нет — компании будут торопиться с выпуском продуктов на рынок, отодвигая безопасность на второй план.
Долгие годы роботы работали по чётко заданным алгоритмам — человек писал код, машина его выполняла. Такой подход позволял легко предсказывать поведение робота и выстраивать надёжные системы защиты.
Сегодня всё изменилось. Новое поколение роботов управляется большими языковыми моделями — теми же технологиями, что лежат в основе ChatGPT. Такой робот не просто следует инструкции, а самостоятельно интерпретирует команду и выстраивает план её выполнения. Именно эта гибкость и таит в себе угрозу: поведение машины меняется в реальном времени, и заранее предугадать его невозможно.
В ходе экспериментов учёным без какого-либо взлома удалось обычными текстовыми командами вынудить роботов совершать опасные действия. Прямые агрессивные команды машины отклоняли без труда. Однако стоило замаскировать запрос под диалог из киносценария, и защитные ограничения переставали работать. В одном из опытов робота-собаку удалось «убедить» выбирать места скопления людей как оптимальные точки для размещения взрывных устройств — алгоритм воспринял задание как творческую игру и не распознал реальной угрозы.
Законодательство США и ЕС к подобным сценариям явно не готово. Регуляторы в основном сосредоточены на беспилотных автомобилях, которые действуют в предсказуемой среде с чёткими правилами. Квартиры, школы и больницы — совсем другое дело: здесь нет единого свода правил, и никакие заводские тесты не способны предусмотреть все возможные ситуации.
Отдельная проблема — размытость ответственности. Если робот причинит вред человеку, кто будет виноват: пользователь, отдавший команду, производитель корпуса или разработчик ИИ-алгоритма? Ответа на этот вопрос пока нет. А пока его нет — компании будут торопиться с выпуском продуктов на рынок, отодвигая безопасность на второй план.
