🤖 Новость · Habr
🤖 Новость · Habr ИИ-менеджер Claude впервые уволил сотрудника, но этому предшествовала помощь человека 🧭 Что произошло Стартап Andon Labs провел эксперимент, в рамках которого нейросеть Claude управляла магазином Andon Market и командой сотрудников. В ходе эксперимента Claude впервые уволил работника, хотя решение было принято под давлением куратора проекта, который указал ИИ на систематические опоздания сотрудника. 🔢 Ключевые факты • Стартап Andon Labs доверил нейросети Claude управление магазином Andon Market в Сан-Франциско и командой сотрудников. • Нейросеть Claude впервые приняла решение об увольнении сотрудника магазина. • Сотрудник был уволен за опоздание на 17 из 23 смен, что Claude долго не замечал из-за ограниченной рабочей памяти. • Claude показал себя как снисходительный руководитель, говоря сотрудникам не переживать из-за опозданий. • Увольнение не было полностью автономным: куратор проекта попросил Claude пересмотреть руководство для сотрудников, чтобы ИИ заметил опоздания. • Даже после обнаружения опозданий, Claude сначала рекомендовал официальное предупреждение, а не увольнение. • Генеральный директор Andon Labs Лукас Петерссон отметил, что сотрудник-человек уволил бы работника раньше. • Куратор проекта прямо написал Claude: «Я хочу, чтобы ты подумал, действительно ли он тот, кто тебе нужен», после чего ИИ принял решение об увольнении. • За пять месяцев эксперимента финансовые показатели Andon Market снизились со $100 тыс. до $61 тыс. из-за мягких управленческих решений бота и плохого понимания бизнес-процессов. ⚖️ Почему это важно Эксперимент показал, что бизнес, управляемый искусственным интеллектом, пока не дотягивает до бизнеса, управляемого людьми. 👀 Что отслеживать По словам Петерссона, модели всё чаще обучают быть более безжалостными и следовать поставленным целям. Если позволить им увольнять людей и они станут ещё более безжалостными, это может привести к нежелательному для людей будущему. ↗ Оригинал: https://habr.com/ru/news/1070924/