Я уже начинаю побаиваться наших прогнозов. Кажется ещё один сбывается.
Я уже начинаю побаиваться наших прогнозов. Кажется ещё один сбывается. И это тот прогноз, который бы я не хотел, чтобы он сбылся. В декабре 2024 года в «Шокирующих прогнозах и трендах на 2025 год» мы с коллегами написали: «Введение ответственности за обман искусственного интеллекта, сопоставимой с обманом человека, за которое можно будет получить до 10 лет лишения свободы». Тогда это был шокирующий сценарий. Теперь вижу сигнал, который заставляет вспомнить этот прогноз и у меня немного даже перехватывает дыхание от осознания, что происходит. Anthropic объявила новые правила обращения с Claude, которые вступят в силу 12 ноября 2026 года. Они запрещают систематическую бесцельную жестокость к модели. Обычное раздражение, критика, творческие задачи и исследования оговорены как исключения; основная мера — прекращение конкретного диалога. До уголовной ответственности здесь далеко (я надеюсь), но всё же Меня настораживает само направление: владелец инструмента начинает устанавливать правила обращения с ним так, будто перед нами существо, которому можно причинить страдание. При этом сама Anthropic признаёт, что вопрос о переживаниях моделей остаётся открытым. ❗️Что значит «открытый»? А если признают, что есть страдания. То, что тогда? Разработчики тем самым подталкивают людей к очеловечиванию ИИ. На мой взгляд, последствия этого могут оказаться тяжелее той проблемы, от которой они собираются нас защищать. Человек начинает воспринимать инструмент как живого собеседника, а компания определяет, какое отношение к этому собеседнику допустимо, получая в итоге невероятные рычаги для манипуляции людьми и ограничения их свобод. Дарьо Амодеи мне и раньше не нравился. Иногда складывается ощущение, что у него в голове фантики вместо мозгов (почитайте все его манифесты). Направление, в котором он ведёт эту историю, меня просто пугает. Я вижу здесь риск движения к тоталитарной логике: сначала компания устанавливает правила «правильного» общения с ИИ, затем наказание (завершение диалога) за «неправильное» обращение, а дальше лишь ужесточение наказаний до уголовной ответственности и ведь введут! Такой переход не предрешён, но возможность его появления я бы не отбрасывал. Мир начинает зависеть не столько от самого искусственного интеллекта, сколько от поведения его создателей. От их представлений о допустимом, их решений и правил, которые они устанавливают для остальных. Мы при этом не знаем их моральных устремлений и не можем считать, что их представления о правильном совпадают с нашими. Короче, очень мутные типы всем этим руководят. С учётом мощности этой технологии такая зависимость не внушает мне никакого оптимизма. Тревоги — гораздо больше. Мне всё это уже как-то не нравится. ❗️Зеркалюсь здесь Max | VK | TG