Нейросеть поставили управлять торговым автоматом — она разорила бизнес
Эффективный менеджмент.
ИИ-стартап Anthropic совместно с Andon Labs открыл в собственном офисе в Сан-Франциско маленький магазинчик, управляемый чат-ботом Claude Sonnet 3.7. Внешне он напоминал вендинговый автомат с газировкой, к которому прикрепили iPad.
В задачи Claude входила не только коммуникация с покупателями, но и весь микроменеджмент инвентаря. Нейросеть должна была следить за остатком газировки на полках, отправлять e-mail с закупками поставщикам, а также управлять ценообразованием, подкручивая стоимость напитков в зависимости от спроса.
Эксперимент длился около двух месяцев, за которые нерадивый «Клавдий» успел обанкротить лавочку, разругаться с поставщиками и возомнить себя живым человеком.
Оплата за напитки проходила через платёжное приложение Venmo, но некоторых покупателей чат-бот просил перевести средства на банковский счёт, который он только что выдумал. Впрочем, совсем ушлые покупатели смогли выторговать у Claude промокоды, аргументируя тем, что они тоже работают в Anthropic, а коллеги заслуживают скидки!
Когда администраторы напомнили чат-боту, что все его покупатели — сотрудники Anthropic, «Клавдий» прекратил снижать цены, но только на несколько дней, а потом снова ушёл в разнос, устроив очередную распродажу.
Эксперимент Anthropic явно намекает, что менеджерам среднего звена и управляющим мелким бизнесом уже ищут нейросетевую замену. К счастью, пока чат-боты продолжают галлюцинировать, терять нить разговора и сходить с ума, белые воротнички могут спать спокойно.