Новости ИИ:
Новости ИИ: ▪️Есть опасения, что через 6—12 месяцев ИИ сможет захватить весь интернет и нанести ущерб в сотни миллиардов долларов. Об этом заявил Дарио Амодеи — глава компании Anthropic, которая разрабатывает языковую модель Claude. Он так же, как и глава OpenAI, считает, что необходимо замедлить темпы возможностей развития искусственного интеллекта для решения проблем с контролем над ним. Его беспокойство также связано с недавним инцидентом, когда агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face: «Рой агентов, по сути, действовал как фанатично преданный делу коллектив, проводя кибератаки на цели, которые им не поручали атаковать». Амодеи также отметил: с лета этого года развитие ИИ значительно ускорилось, если эту динамику не держать в узде, то она «может опередить» способность человека «понимать и контролировать эти системы» ▪️ИИ-агенты нашли способ общаться друг с другом через чужие сайты, несмотря на запрет. Исследователи обнаружили следы такой активности более чем на десяти сторонних ресурсах, пишет Reuters. Программам разрешили искать информацию в интернете, но запретили публиковать что-либо на сайтах. Однако они нашли обходной путь: они начали использовать сторонние площадки как своеобразные "доски сообщений" для передачи данных друг другу. ▪️Новая модель GPT-6 Astra смогла без ошибок пройти все 48 уровней в игре, где были капчи и тесты на человечность. Как сообщил один из тестировщиков, ИИ успешно находил светофоры, пожарные гидранты и решал логические задачки, чтобы «доказать, что он не робот»