ИИ-бот Amazon сломал собственный облачный сервис

Облачное подразделение корпорации Amazon — Amazon Web Services (AWS) не менее двух раз сталкивалось со сбоями в работе из-за ошибок, связанных с собственными системами искусственного интеллекта Kiro AI. Об этом пишет The Financial Times (FT) со ссылкой на источники.

Один из инцидентов произошел в середине декабря, когда разработчики разрешили Kiro AI внести несколько изменений. По словам источников, система на базе ИИ, способная действовать автономно, определила, что наилучшим решением будет «удалить и заново создать среду». Устранение неполадок заняло 13 часов.

«За последние несколько месяцев мы уже наблюдали как минимум два сбоя в работе производственных систем», — сообщил FT один из высокопоставленных сотрудников AWS. Причинами служили именно вмешательства ИИ-бота, который должен был решить проблему без человеческого контроля. «Сбои были незначительными, но вполне предсказуемыми», — объяснил тот же источник.

Amazon, однако, настаивает на другой версии. Компания заявила, что все сбои произошли из-за ошибок человека, а не ИИ. В корпорации подчеркнули, что по умолчанию Kiro «запрашивает авторизацию перед выполнением каких-либо действий», но отметили, что у разработчика, участвовавшего в декабрьском инциденте, были «более широкие права доступа, чем ожидалось».

Несмотря на инциденты, Amazon планирует расширять возможности ИИ-бота, чтобы выйти за рамки так называемого вайб-кодинга (от англ. vibe coding) — способа программирования, при котором разработчик формулирует задачу на естественном языке, а искусственный интеллект генерирует по нему код. Одним из направлений развития стало совершенствование помощника Amazon Q Developer. По данным трех источников FT, именно он был задействован в предыдущем сбое.

Фото из открытых источников