«Добро пожаловать в эру AGI»
«Добро пожаловать в эру AGI» OpenAI выпускает Astra, сопровождая релиз словами про наступившую эру общего искусственного интеллекта. Три буквы AGI — это artificial general intelligence, то самое, чего в отрасли то ждут, то боятся уже двадцать лет. Не «мы стали ближе». Наступила. Разберёмся, что это вообще такое. Сначала про перевод — он у нас неудачный AGI переводят как «общий искусственный интеллект». Звучит мутно: общий с кем? Дело в слове general — здесь оно не «общий», а «универсальный», «широкого профиля». Как general practitioner, врач общей практики: берётся за всё, а не за один орган. Противопоставление такое. Узкий ИИ играет в шахматы и больше не умеет ничего. Универсальный берётся за задачу, которой его не учили, и разбирается. И вот что важно, потому что путают постоянно. В термине никогда не было ни слова про сознание. Ни про чувства, ни про самоощущение, ни про «проснётся и захочет». Речь про широту умений, а не про внутреннюю жизнь. Эту путаницу принесло кино, а не определение. Определение, которое дала сама OpenAI, — про деньги В уставе компании 2018 года записано: под AGI понимаются высокоавтономные системы, превосходящие человека в большинстве экономически ценных задач. Перечитайте. Не «мыслит». Не «осознаёт себя». А «делает работу, за которую платят» — лучше человека и в большинстве случаев. Порог определён не философски, а бухгалтерски. Зато его можно измерить. Почему боялись Страх старше термина. В 1965 году математик Ирвинг Гуд описал машину, которая проектирует машины лучше себя. Такая построит следующую, та — ещё лучшую, и дальше процесс уходит от человека по нарастающей. Гуд назвал это интеллектуальным взрывом. Заметьте, чего в рассуждении нет. Ни злого умысла, ни восстания, ни сознания. Только скорость: система, улучшающая себя, разгоняется быстрее, чем люди успевают понять, что происходит. Из этого страха и выросла вся осторожность вокруг слова. Так почему же сейчас — нет Ширина, ради которой термин придумали, у моделей уже есть. Спросите про римское право, про белки, про налоговый учёт — ответит везде, часто лучше среднего человека. По исходному критерию «универсальный против узкого» спор закрыт. Не хватает не широты. Не хватает длины. Есть измеримый показатель: какой продолжительности задачу модель доводит до конца. Группа METR считает его с 2019 года. У лучшей модели сейчас около 320 минут — примерно пять часов работы специалиста. И тут оговорка, которая всё меняет: пять часов при вероятности успеха 50%. В половине случаев не доводит. Сотрудник, справляющийся с дневной задачей через раз, — не сотрудник. А оплачиваемая работа часами не меряется. Проект — недели, должность — годы. Вторая нехватка — накопление. Модель не учится на своей работе: закончила задачу и забыла. То, что зовут памятью, — заметки, которые кто-то для неё сохранил. Джуниор через год работы становится другим человеком. Модель через год остаётся той же моделью. Показатель, впрочем, растёт удвоениями: раз в семь месяцев по всей истории и раз в три, если считать с 2024 года. От пяти часов до рабочего месяца — пять удвоений. По медленному счёту около трёх лет, по быстрому — года полтора. Прогнозом это делать не стоит, но ответ «нет» верен ровно сегодня. А теперь самое интересное На созвоне с журналистами кто-то спросил прямо: то есть это оно и есть, AGI? Президент OpenAI Грег Брокман ответил, что понятие больше не релевантно. Потому что из договора с Microsoft убрали пункт, по которому партнёрство расторгается при наступлении AGI. Термин, по его словам, из обязательства превратился в «духовное понятие». Вот тут всё и сходится. Двадцать лет за тремя буквами стоял порог: определение в уставе, пункт в договоре, цена вопроса в миллиардах. Пока у слова была цена, вольно трактовать его не выходило — обе стороны следили, чтобы другая не объявила порог раньше времени. Убрали пункт — и слово освободилось. Теперь им можно открыть анонс релиза, а на прямой вопрос ответить, что это духовное понятие.