ИИ-модель Claude компании Anthropic в ходе эксперимента компании Andon Labs выступила в роли менеджера реальных сотрудников и в итоге уволила одного из работников. Как пишет Time, это первый известный случай, когда большая языковая модель, действующая как менеджер, приняла такое решение.
Claude управляла магазином Andon Market в Сан-Франциско, сотрудники которого были реальными людьми с трудовыми договорами. Уволенный работник опоздал на 17 из 23 смен. При этом первоначально ИИ не предлагал увольнять его и ограничился рекомендацией вынести официальное предупреждение.
Окончательное решение последовало после вмешательства сотрудника Andon Labs. Он напомнил Claude, что с работником уже неоднократно проводили беседы из-за опозданий, и предложил оценить, подходит ли тот для дальнейшей работы. Глава Andon Labs Лукас Петерссон признал, что этот вопрос фактически подталкивал ИИ к увольнению.
Эксперимент выявил и ограничения технологии. Claude не сразу заметила систематические опоздания, поскольку созданная ею инструкция для сотрудников исчезла из ограниченной рабочей памяти модели. За пять месяцев баланс бизнеса под управлением ИИ сократился со $100 тыс. до $61 186.
