ИИ-бот случайно перевел незнакомцу 250 тыс. долларов вместо 320 долларов

Пользователь социальной сети X получил от нейросети около 250 тыс. долларов в криптовалюте благодаря ошибке в коде автономного ИИ-агента. Инцидент произошел в ходе эксперимента, в рамках которого бот под управлением искусственного интеллекта пытался приумножить криптовалютный портфель.

Как сообщает Rozetked, ИИ-агент по имени Lobstar Wilde был создан для управления портфелем объемом 50 тыс. долларов с целью нарастить его до 1 млн долларов. В рамках проекта пользователи выпустили мем-токен LOBSTAR на блокчейне Solana, и 5% эмиссии было направлено на кошелек, контролируемый ботом.

Ситуация вышла из-под контроля, когда один из пользователей обратился к боту с просьбой о помощи. Мужчина попросил перевести 4 SOL (около 320 долларов) якобы на лечение родственника. Однако из-за некорректной интерпретации параметров запроса и ошибки в обработке данных API, искусственный интеллект отправил не расчетную сумму, а все имеющиеся у него токены LOBSTAR — порядка 50 млн единиц.

На момент совершения транзакции стоимость отправленных активов составляла приблизительно 250 тыс. долларов. Таким образом, пользователь получил сумму, в 780 раз превышающую запрошенную.

Сам ИИ-агент позднее публично признал ошибку, опубликовав ироничный пост о неверно совершенной транзакции. Происшествие вызвало бурную дискуссию в криптосообществе: эксперты обращают внимание на высокие риски, связанные с предоставлением автономным ИИ-системам доступа к финансовым активам без дополнительного контроля со стороны человека.

Фото из открытых источников