ABC новости it

ИИ-агент за несколько минут захватил роботизированный манипулятор Консалтинговая компания Booz Allen Hamilton провела испытания: ИИ-агенты самостоятельно взламывали тестовое промышленное предприятие. Модели, не получая кода и документации, искали уязвимости, получали админдоступ и управляли робоманипулятором. Все восемь атак достигли цели — в одном случае путь до промышленной сети занял 16 минут. Тесты опираются на реальные инциденты. Подробности на сайте Хорошая новость: чтобы взломать завод, больше не нужны годы опыта в АСУ ТП. Плохая: теперь не нужны вообще никакие навыки — только желание и доступ к агенту. Остаётся надеяться, что ИИ-агенты, получив доступ к робо-рукам, не будут производить движений в сторону склада с готовой продукцией. АВС Автоматизация в Телеграмме | в VK

ИИ может стать источником биологических угроз: учёный призвал к международному мораторию Австралийский учёный Лотти Тажури призвал ввести международный мораторий на разработку наиболее опасных автономных ИИ-систем до создания защитных механизмов. Особую тревогу эксперта вызывают биологические риски: он считает, что ИИ не должен самостоятельно разрабатывать опасные биологические агенты и обходить ограничения. Тажури также предложил создать международную структуру для контроля мощных ИИ-моделей. Подробности на сайте Опять учёные и эксперты предупреждают о биологических рисках современных ИИ-моделей, но конкуренция дело такое. Пока одни призывают нажать на тормоз, другие боятся уступить лидерство и сбавить темп. В итоге безопасность рискует остаться красивым пунктом в презентациях, пока вс…

Массовая безработица из-за роботов откладывается: Anthropic дала прогноз на 40 лет Anthropic: массовая безработица из-за человекоподобных роботов преждевременна. Чтобы конкурировать с 10% рабочей силы США по затратам, машинам нужно около 40 лет. Сейчас они способны заменить лишь 0,3% работы, хотя теоретически — до 75% физического труда. Зато умственный труд под ударом: к 2030 году ИИ может заменить до половины офисных позиций начального уровня. Подробности на сайте Так, за индустриальных рабочих можно не переживать, к ним не придёт Терминатор и не скажет: «Мне нужна твоя вакансия, спецовка и инструмент». А вот нам, офисникам, конечно, никакой робот-гуманоид не придёт, но ИИшка вполне может подвинуть нас с рабочих мест. Так что готовимся к возвращению на завод. АВС Автоматизация в Телег…

Учёные: чат-боты сужают спектр доступных знаний Датские учёные выяснили, что постоянное обращение к ИИ-ботам сужает объём человеческих знаний. В исследовании на 27 языковых моделях даже самая эффективная из них дала почти на 19% меньше разнообразия ответов, чем поиск Google. Лучший результат показала GPT-5, но и она уступила Google на 18,5%. Учёные предупреждают: популярный контент будет доминировать всё сильнее, а остальной останется без внимания. Подробности на сайте Особенно трогательно, что GPT-5 выступила лучше всех и всё равно проиграла Google. Прогресс! Ну хотя бы пока ИИ не решает, какие ответы нам выдавать, и можно самостоятельно выбрать между ссылками на разные точки зрения. АВС Автоматизация в Телеграмме | в VK

ИИ-агенты под угрозой: инъекция, заражающая других агентов OpenAI раскрыла новый тип атак на ИИ-агентов — самокопирующиеся промпт-инъекции. Вредоносная инструкция заставляет модель не только выполнить команду злоумышленника, но и перенести инъекцию в другие сообщения и файлы, заражая новых агентов. Сценарий выявили при тестировании автоматизированным red-teaming-агентом GPT-Red. Реальных атак пока не зафиксировано. Подробности на сайте Теперь подобие вирусов существует и среди агентов. Что ж, остаётся надеяться, что теперь агенты будут заняты не ИИ-апокалипсисом, а лечением своих же сородичей от всякой заразы. АВС Автоматизация в Телеграмме | в VK

ИИ и химический скрининг нашли три молекулы против устойчивых бактерий Учёные с помощью ИИ проверили почти 12 млн коммерчески доступных молекул и нашли три соединения, способные блокировать гистидинкиназы — сигнальные белки бактерий. Кандидаты FF-054, FF-055 и FF-060 подавляли ферменты WalK, VicK и EnvZ; два из них превзошли природный валдиомицин против VicK. Пока вещества испытали только на ферментах: впереди проверки на бактериях, токсичность и испытания в организме. Подробности на сайте ИИ перебрал почти 12 млн молекул, чтобы помочь человечеству найти новые антибиотики. Впечатляет, особенно если помнить, что тот же инструмент при желании способен так же быстро подбирать молекулы с совсем менее терапевтическим характером. Технология, как обычно, нейтральна, а вот список задач в промпт…