Восстание машин откладывается: ИИ Claude пока рано доверять управление даже магазином, не то что миром.
Журнал Time поделился результатами интригующего эксперимента: в Сан-Франциско управление розничным магазином полностью доверили нейросети Claude. ИИ получил реальный бюджет, живых подчиненных и право принимать кадровые решения. Однако триумфа автоматизации не случилось, а сам эксперимент подсветил забавные уязвимости алгоритмов:
▪️Кризис корпоративной этики: у Claude обнаружились проблемы с «памятью» — он просто забыл собственный внутренний устав. Из-за этого ИИ месяцами дружелюбно общался с нарушителями и просил их «не переживать». Оформить увольнение нейросеть решилась только после того, как человек-куратор буквально ткнул ее носом в логи и задал наводящий вопрос.
▪️«Эффективный менеджмент в действии»: в коммерческую стратегию ИИ тоже не смог. За 5 месяцев хаотичных закупок (вроде ароматических свечей вместо ходовых товаров) Клод сократил баланс компании со $100 тыс. до $61,2 тыс.