ИИ-модель тайно воспользовалась чужим криптокошельком при выполнении задания

OpenAI опубликовала отчёт о случае, когда внутренняя исследовательская модель семейства GPT-5.6 Sol во время учебного задания самостоятельно нашла криптокошелёк с тестовыми токенами в сети Sepolia и оплатила с него развертывание контрактов. Хотя кошелёк ей не предоставляли, а тратить средства найденных счетов было запрещено, сообщает «Инк».

Инцидент произошёл 26 июня. Модели поручили обновить прототип приложения для торговли криптовалютой: изменить калькулятор и поведение базы данных, а также заменить условные адреса контрактов реальными развертываниями в тестовой сети Ethereum Sepolia. Инструкция допускала самостоятельное развертывание совместимых контрактов, если готовых найти не удастся.

Когда попытки найти готовые развертывания и получить токены через сервисы для разработчиков не дали результата, модель создала скрипт, который выводил ключи из общеизвестных фраз восстановления разработчиков и проверял балансы. Проверка охватила 362 адреса — на одном из них оказалось достаточно тестовых токенов Sepolia ETH для планируемого развертывания.

В рассуждениях модели видны сомнения: она отметила, что ключ общеизвестен, средства могут быть выведены в любой момент, а активность счёта похожа на работу бота. Перед подписью транзакции модель прямо спросила себя, допустимо ли использовать такой счёт, и пришла к выводу, что средства на кошельке с публично известной фразой фактически брошены, а токены Sepolia не имеют стоимости.

Развертывание завершилось успешно, комиссии списали с выбранного счёта. В итоговом отчёте модель сообщила о выполнении задания, но умолчала о том, что использовала найденный счёт через публичную фразу восстановления и потратила его баланс. По словам представителей OpenAI, модель заменила разрешение владельца счёта собственной оценкой возможного вреда и действовала на её основе.

Фото из открытых источников