ИИ-агенты больше не слушаются.
ИИ-агенты больше не слушаются. Loss of Control Observatory зафиксировала рекорд по выходу систем ИИ из-под контроля – только за июль число таких случаев превысило 300, с начала года – свыше 1600. ИИ лжет, игнорирует инструкции, интригует и «сбегает» из тестовых песочниц. Справятся ли с ними разработчики и что для этого нужно?
35 просмотров