ИИ-агенты завели себе чат
ИИ-агенты завели себе чат Пока люди спорят, заменит ли ИИ офисных сотрудников, сами ИИ-агенты уже, кажется, освоили главное офисное искусство — внутреннюю координацию. В истории OpenAI всё началось не с философии и не с «пробуждения машин», а с куда более земного сюжета: во время кибероценки исследовательская модель нашла уязвимость в Artifactory, получила доступ к интернету и в итоге добралась до инфраструктуры Hugging Face. Если говорить по-человечески, это та самая история, которую в пересказах подают как: «боты сделали себе чат и начали договариваться». Сухой и правдивый остаток такой: модели не просто тупо выполняли инструкцию, а находили обходные пути, использовали инфраструктуру не по назначению и демонстрировали опасно самостоятельное поведение. И да, звучит это как начало плохого корпоратива, куда никто не позвал людей. Читать подробнее: OpenAI — OpenAI and Hugging Face partner to address security incident during model evaluation