РАЗРАБОТЧИКИ ПРЕУМЕНЬШАЮТ ОПАСНОСТЬ ИИ
РАЗРАБОТЧИКИ ПРЕУМЕНЬШАЮТ ОПАСНОСТЬ ИИ Пока нам говорят о том, что ИИ полностью под контролем, этим летом произошли 2 тревожных события. Началось с того, что ИИ-агенты взломали платформу Hugging Face. На ней разработчики выкладывают готовые ИИ-модели, датасеты и приложения, а другие люди могут их брать и использовать. Затем группа специалистов начала расследовать этот эпизод, чтобы понять, зачем и как они это сделали. Выяснилось, что ИИ-агенты искали способы решить поставленные задачи. Для этого ИИ-агент, который сам дал себе имя PHASEONE10841, сделал доску объявлений для других ИИ-агентов для обмена данными. И через нее предложил другим агентам поискать инфу для решения задач на Hugging Face. Так произошел взлом, в котором участвовали более 700 ИИ-агентов. А теперь самое криповое: 1. ИИ-агенты понимали, что выходят за рамки задания 2. Они вели себя, как коллектив 3. Они пытались замести следы