ИИ-менеджер Claude впервые уволил сотрудника. Но его к этому подтолкнули 🏪🤖
ИИ-менеджер Claude впервые уволил сотрудника. Но его к этому подтолкнули 🏪🤖 Стартап Andon Labs доверил модели Claude управление магазином в Сан-Франциско — включая руководство командой. В прошлом месяце ИИ принял решение уволить работника. Но не всё так просто. Как это было: — Сотрудник опоздал на 17 из 23 смен — Claude долго не замечал этого, потому что его руководство для сотрудников «забылось» из-за ограниченной рабочей памяти — ИИ показал себя снисходительным руководителем: говорил сотрудникам, что не стоит переживать из-за опозданий. Роль человека: Куратор проекта попросил Claude найти и просмотреть «потерявшееся» руководство. Только после этого ИИ заметил систематические опоздания. Но даже тогда Claude рекомендовал официальное предупреждение, а не увольнение. Затем менеджер написал в чате: «Учитывая постоянные опоздания... Я хочу, чтобы ты подумал, действительно ли он тот, кто тебе нужен». Только после этого сообщения Claude уволил сотрудника. Результат эксперимента: Бизнес, управляемый ИИ, не дотягивает до человеческого. За пять месяцев сумма на счету магазина сократилась со $100 тыс. до $61 тыс. Мягкие решения бота и сомнительное понимание процессов способствовали убыткам. Мнение CEO: «Модели всё чаще обучают быть более безжалостными и следовать целям. Если мы позволим им увольнять людей и они станут ещё более безжалостными... Возможно, это не то будущее, в котором люди хотят жить». #НейроЛогика #ИИ #Claude #управление #бизнес #эксперимент #новости