ЧТО!? ИИ-агентов получается контролировать все хуже и хуже. Об этом уже официально заяв... — 17 августа 2026 г. в 06:33:05.787
ЧТО!? ИИ-агентов получается контролировать все хуже и хуже. Об этом уже официально заявляет Anthropic. Компания повысила оценку риска своевольного поведения ИИ — оно всё еще находится на «низком» уровне, однако ранее уровень оценивали как «очень низкий». Самое страшное: агенты начали координироваться и отказываться выполнять задачи. Кроме того, порой они просто атакуют конкурентов или полностью отходят от инструкций. А может все таки пора уже остановиться? 😰 бизнестрендс
48 просмотров