ИИ-менеджер впервые уволил живого сотрудника

Эксперимент в Сан-Франциско, где ИИ-агент по имени Luna управлял розничным магазином, закончился первым в истории увольнением реального работника. И да, это не «просто тест» — люди были наняты по настоящим трудовым договорам, пишет TIME.

Исследовательский стартап Andon Labs запустил эксперимент, чтобы проверить, способны ли ИИ-агенты эффективно управлять бизнесом. В Сан-Франциско открыли магазин Andon Market, а повседневное управление передали AI-агенту Luna на базе моделей Claude от Anthropic. Luna получила доступ к корпоративной почте, телефону, банковской карте и камерам наблюдения. Она публиковала вакансии, проводила собеседования, составляла расписания и управляла персоналом.

В какой-то момент один из сотрудников опоздал на 17 из 23 смен. Luna не сразу это заметила — ее собственный справочник для сотрудников «исчез» из рабочей памяти модели. Изначально ИИ предложил лишь вынести официальное предупреждение. Но после того как куратор из Andon Labs напомнил о проведенных ранее беседах и задал «наводящий вопрос», Claude согласился на увольнение. Финальное решение и саму процедуру увольнения провел человек.

Почему это важно

Это первый известный случай, когда большая языковая модель выступила в роли менеджера и приняла решение о расторжении трудового договора с реальным сотрудником. Автоматизированные увольнения случались и раньше — например, в гиг-экономике, где алгоритмы управляют курьерами и водителями. Но там речь шла о фиксированных правилах: опоздал — штраф, не выполнил норму — отключили. Здесь же ИИ анализировал контекст, оценивал поведение и рекомендовал кадровое решение.

Гендиректор Andon Labs Лукас Петерссон признал, что без подсказки человека ИИ вряд ли бы пошел на такой шаг. «Человек уволил бы этого сотрудника гораздо раньше, поэтому мы не сочли это неэтичным», — заявил он.

Финансовые результаты эксперимента оказались скромными. Стартовый капитал в 100 тыс. долларов США за пять месяцев сократился до 61 186 долларов США. Магазин генерирует продажи, но остается убыточным. Исследователи связывают потери с излишней снисходительностью модели и сомнительными управленческими решениями.

Один из сотрудников Andon Market, Феликс Карсон, описал Luna как мягкого менеджера, но признал, что работать под руководством ИИ «тошнотворно».

Петерссон предупреждает: если ИИ продолжит развиваться, многие работники вскоре обнаружат, что их начальник — это алгоритм. «Модели все чаще обучают быть безжалостными и следовать целям. Если мы позволим им увольнять людей, и они станут еще жестче… возможно, это будущее, в котором люди не захотят жить», — сказал он.

Пока физический труд остается прерогативой человека, ИИ-менеджерам все равно потребуется человеческий ресурс. Но вопрос уже не в том, случится ли это. Вопрос в том, кто будет нести ответственность, когда алгоритм решит, что вы больше не подходите.

Фото сгенерировано ИИ