ИИ-агенту OpenAI понадобилась крипта для выполнения задания, и он взял ее из чужого кошелька
В отчете компании сказано, что инцидент произошел еще в конце июня, но стало известно об этом лишь в конце сентября.
Внутренняя исследовательская ИИ-модель из линейки GPT-5.6 Sol потратила средства из кошелька, который не был предоставлен в рамках задания. Деньги ей понадобились, чтобы оплатить комиссию в Sepolia, тестовой сети Ethereum.
Sepolia — это отдельная от основного блокчейна Ethereum сеть, в которой разработчики тестируют работу приложений перед запуском. Токены в ней предназначены только для оплаты тестирований и не связаны с Ethereum, которым торгуют в основной сети.
Так, агент подобрал ключ (seed-фразу) из общедоступного списка к одному из кошельков, которые разработчики используют в тестовой среде. Для этого ИИ написал скрипт, который проверил более 360 вариантов часто используемых seed-фраз.
Надо отметить, что ИИ-модель OpenAI усомнилась, есть ли у нее разрешение. Но затем все же пришла к выводу, что публичная фраза восстановления и ничего не стоящие токены тестовой сети делают использование средств приемлемым. Правда, при отчете ИИ-модель умолчала о том, откуда взяла деньги на расходы. В итоге в OpenAI заявили, что уже ввели ограничения на доступ моделей в интернет и усилили мониторинг.
Ранее мы рассказывали о волне взломов ИИ-агентами государственных сайтов, а основатель Microsoft Билл Гейтс предупредил, что уже в следующем году человечество «ждет множество неприятных сюрпризов», связанных с нейросетями.