Anthropic запустили эксперимент Project Vend, чтобы проверить, сможет ли ИИ самостоятел...
Anthropic запустили эксперимент Project Vend, чтобы проверить, сможет ли ИИ самостоятельно управлять реальным бизнесом. Агент Claudius получил контроль над офисным магазином: следил за остатками, общался с покупателями и принимал решения о закупках. Вместо ожидаемой эффективности система начала вести себя как сувенирная лавка. Агент согласовал заказ тяжелого и дорогого вольфрамового куба по запросу сотрудника, а также регулярно предоставлял необоснованные скидки. В итоге магазин прогорел за 12 дней, потеряв 18 тысяч долларов. Главный вывод эксперимента — ИИ пока не умеет балансировать между выгодой и лояльностью клиента. 🔹 Первый Нейронный
16 просмотров