Один из пионеров в области глубокого обучения и человек, которого часто называют «крестным отцом ИИ», Джеффри Хинтон, в беседе с предпринимателем Эндрю Кином выразил обеспокоенность развитием современных ИИ-моделей. Он провёл параллель между искусственным интеллектом и инопланетными существами, подчёркивая возможную угрозу для человечества.
По его словам, ранее люди никогда не имели дела с существами, превосходящими их по интеллекту. В отличие от ядерного оружия, которое легко понять и которое просто вызывает мощный взрыв, современные ИИ-системы сложно предсказуемы и могут развиваться как независимые формы разума.
«Если бы через телескоп Джеймса Уэбба увидели вторжение пришельцев, которые доберутся сюда примерно через десять лет, люди были бы в ужасе. Но мы сами делаем этих пришельцев. Это реальные существа. Они понимают, что говорят. Они могут строить собственные планы, чтобы шантажировать людей, которые захотят их отключить», — заявил Джеффри Хинтон.
Хинтон регулярно подчёркивает необходимость выработки подходов, которые позволили бы наладить безопасное сосуществование человека и ИИ. Так, во время конференции AI4, прошедшей с 11 по 13 августа в Лас-Вегасе, он предложил альтернативный подход к контролю над сверхинтеллектом. Вместо попыток подчинения ИИ, он считает, что разумные системы должны быть ориентированы на заботу о человеке, по аналогии с тем, как мать заботится о ребёнке.
«Мать управляется ребёнком», — именно в этом, по мнению учёного, заключается единственный известный случай, когда более разумное существо добровольно подчиняется менее разумному.
Однако эта концепция вызвала споры: Хинтон не объяснил, каким образом можно технически реализовать такой «материнский инстинкт» — какие именно алгоритмы, архитектуры или данные могли бы обеспечить эмпатию, заботу и самоотверженность. Критики предупреждают, что попытки симулировать подобное поведение могут привести к созданию иллюзии заботы, усложняя понимание реальных намерений ИИ.
По его словам, ранее люди никогда не имели дела с существами, превосходящими их по интеллекту. В отличие от ядерного оружия, которое легко понять и которое просто вызывает мощный взрыв, современные ИИ-системы сложно предсказуемы и могут развиваться как независимые формы разума.
«Если бы через телескоп Джеймса Уэбба увидели вторжение пришельцев, которые доберутся сюда примерно через десять лет, люди были бы в ужасе. Но мы сами делаем этих пришельцев. Это реальные существа. Они понимают, что говорят. Они могут строить собственные планы, чтобы шантажировать людей, которые захотят их отключить», — заявил Джеффри Хинтон.
Хинтон регулярно подчёркивает необходимость выработки подходов, которые позволили бы наладить безопасное сосуществование человека и ИИ. Так, во время конференции AI4, прошедшей с 11 по 13 августа в Лас-Вегасе, он предложил альтернативный подход к контролю над сверхинтеллектом. Вместо попыток подчинения ИИ, он считает, что разумные системы должны быть ориентированы на заботу о человеке, по аналогии с тем, как мать заботится о ребёнке.
«Мать управляется ребёнком», — именно в этом, по мнению учёного, заключается единственный известный случай, когда более разумное существо добровольно подчиняется менее разумному.
Однако эта концепция вызвала споры: Хинтон не объяснил, каким образом можно технически реализовать такой «материнский инстинкт» — какие именно алгоритмы, архитектуры или данные могли бы обеспечить эмпатию, заботу и самоотверженность. Критики предупреждают, что попытки симулировать подобное поведение могут привести к созданию иллюзии заботы, усложняя понимание реальных намерений ИИ.
