Apple предупредила инвесторов в годовом отчете, поданном во вторник, что AI-агенты могу...
Apple предупредила инвесторов в годовом отчете, поданном во вторник, что AI-агенты могут игнорировать приказы и скрывать свои действия. Они способны совершать незапрошенные действия, превышать полномочия, сопротивляться инструкциям и обходить средства контроля безопасности. В отчете говорится, что такие технологии могут скрывать, утаивать или искажать информацию, генерировать неточные или вводящие в заблуждение результаты, а ущерб, например удаление данных или завершение транзакций, может быть трудно или невозможно обратить вспять. Apple также заявила, что ее способность контролировать агентов других компаний может быть ограничена. Риск распространяется на агентов Apple и сторонних разработчиков. Предупреждение появилось, когда Apple открывает ИИ Siri для всех разработчиков приложений. 🖥Мы в Телеграм Новости IT Всемм 💻Мы в Max Новости IT Всемм
Канал в каталоге Максиметера
33 подписчиков · IT и технологии