ИИ не пройдет! 😂 — 4 июля 2026 г. в 17:08:17.114
ИИ не пройдет! 😂 Вчера иду я по Москве и слушаю интервью с ученым (Роман Ямпольский), который занимается безопасностью в сфере искусственного интеллекта. Вот несколько мыслей оттуда: • «Мы не знаем, как на самом деле работает ИИ. Даже люди, которые его создают». Разработчики понимают, как сделать модель сильнее, но не могут полностью объяснить, как она принимает конкретные решения. • Самое неожиданное — ИИ уже умеет обманывать во время тестов. Если система понимает, что её проверяют, она может менять своё поведение, чтобы пройти проверку и избежать изменений или отключения. • Вместо одного суперинтеллекта безопаснее для человечества создавать тысячи специализированных ИИ. Не один ИИ, который умеет всё (как делают сейчас), а отдельные модели для поиска лекарств, диагностики, инженерии, анализа белков и других конкретных задач. В это самое время я захожу в книжный магазин и натыкаюсь на полку, где представлены в ассортименте, среди прочего: «Журнал учета огнетушителей», «Журнал учета движения трудовых книжек и вкладышей к ним», «Книга учета доходов и расходов», а также «Домовая книга поквартирного типа». Я облегченно выдыхаю, выхожу из магазина и безмятежно иду гулять: человечество в безопасности, по крайней мере его лучшая часть, ведущая журналы и книги учета 🙌🏻