В Кейптауне на общественное обсуждение вынесли проект Национальной политики в области искусственного интеллекта, и в нём внезапно обнаружились ссылки на научные работы, которых не существует в природе. Подобный конфуз почти однозначно указывает на то, что документ готовили с использованием генеративных нейросетей, а их фирменные «галлюцинации» в виде вымышленных источников благополучно перекочевали прямиком в текст законопроекта.
Согласно имеющимся данным, как минимум 6 из 67 научных публикаций, упомянутых в проекте, оказались выдумкой. Министр связи ЮАР Солли Малаци (Solly Malatsi) признал: наиболее правдоподобная версия произошедшего — документ действительно был сгенерирован ИИ. По его словам, фиктивные ссылки попали в законопроект без какой-либо человеческой вычитки, а этого «допускать было нельзя».
Малаци подчеркнул, что выдуманные цитаты — это вовсе не безобидный технический казус. После выявления галлюцинаций ведомство отозвало законопроект и отправило его на полную переработку. Министр отметил, что инцидент в очередной раз наглядно показал: искусственный интеллект ни при каких обстоятельствах не должен оставаться без надзора со стороны человека. «Хочу заверить граждан страны, что мы подходим к этой ситуации с максимальной серьёзностью. Сотрудники, отвечавшие за подготовку документа и проверку его качества, понесут ответственность», — заявил он.
В исходной редакции законопроекта содержался ряд значимых пунктов, посвящённых развитию генеративного ИИ и других технологий на базе больших языковых моделей. Документ должен был заложить основу для формирования новых регулирующих структур — национальной комиссии по ИИ, совета по этике ИИ, а также отдельного надзорного органа в этой сфере. Помимо этого, в проекте описывались меры по ускоренному внедрению ИИ-решений в ЮАР через систему грантов, налоговых послаблений и субсидий для профильных инициатив.
Согласно имеющимся данным, как минимум 6 из 67 научных публикаций, упомянутых в проекте, оказались выдумкой. Министр связи ЮАР Солли Малаци (Solly Malatsi) признал: наиболее правдоподобная версия произошедшего — документ действительно был сгенерирован ИИ. По его словам, фиктивные ссылки попали в законопроект без какой-либо человеческой вычитки, а этого «допускать было нельзя».
Малаци подчеркнул, что выдуманные цитаты — это вовсе не безобидный технический казус. После выявления галлюцинаций ведомство отозвало законопроект и отправило его на полную переработку. Министр отметил, что инцидент в очередной раз наглядно показал: искусственный интеллект ни при каких обстоятельствах не должен оставаться без надзора со стороны человека. «Хочу заверить граждан страны, что мы подходим к этой ситуации с максимальной серьёзностью. Сотрудники, отвечавшие за подготовку документа и проверку его качества, понесут ответственность», — заявил он.
В исходной редакции законопроекта содержался ряд значимых пунктов, посвящённых развитию генеративного ИИ и других технологий на базе больших языковых моделей. Документ должен был заложить основу для формирования новых регулирующих структур — национальной комиссии по ИИ, совета по этике ИИ, а также отдельного надзорного органа в этой сфере. Помимо этого, в проекте описывались меры по ускоренному внедрению ИИ-решений в ЮАР через систему грантов, налоговых послаблений и субсидий для профильных инициатив.
