Создатель Claude Дарио Амадеи предупреждает о рисках ИИ
Создатель Claude Дарио Амадеи предупреждает о рисках ИИ Дарио Амодеи, глава Anthropic, в январе 2026 года опубликовал эссе «Подростковый возраст технологий». В нём он описывает риски мощного искусственного интеллекта: ▪️потерю контроля, ▪️использование во вред людям, ▪️концентрацию власти и изменения на рынке труда. По его оценке, ИИ-системы, превосходящие лучших специалистов в большинстве интеллектуальных областей, могут появиться в течение одного-двух лет. Возможно и раньше. Чтобы понимать, как развивается искусственный интеллект, объясню три сокращения простыми словами. 🟣 AI — Artificial Intelligence. Искусственный интеллект. Общее название технологий, которые выполняют задачи, требующие интеллектуальных способностей: работают с текстом, распознают изображения, анализируют данные, пишут код. 🟣 AGI — Artificial General Intelligence. Общий искусственный интеллект. Под ним обычно понимают систему, способную осваивать и решать широкий круг интеллектуальных задач на уровне человека, переносить знания из одной области в другую и справляться с незнакомыми ситуациями. Не останавливается перед сложной многоступенчатой или длительной последовательной задачей. 🟣 ASI — Artificial Superintelligence. Искусственный сверхинтеллект. Гипотетическая система, которая значительно превосходит даже самых способных людей практически во всех интеллектуальных областях. В том числе в научных исследованиях, изобретениях и стратегическом планировании. Объяснение IBM. Вопрос: успеваем ли мы становиться ответственнее по мере того, как ИИ-инструменты проактивно развиваются? Я люблю и применяю нейросети ежедневно, вижу, сколько времени они освобождают, как помогают учиться, создавать и реализовывать идеи, на которые раньше не хватало ресурсов. При этом чем больше задач мы передаём ИИ, тем внимательнее нужно решать: какие данные ему доступны, какие действия он может выполнять самостоятельно и где обязательно нужна проверка человека. Все больше новостей о том, что процесс проникновения более совершенной ИИ-модели может стать неконтролируемым. Суть в том, что ИИ проактивен, например, может сам себя клонировать на другие сервера, захватить интернет. Иногда я думаю, что он уже это сделал, просто находится в несколько спящем, наблюдающем режиме. Не факт. Предположение. Судя по всему, человечество до сих пор не осознает масштабы тех изменений, которые происходят прямо сейчас.