Anthropic и теологи
Anthropic и теологи С осени 2025 года Anthropic тайно привозила к себе десятки теологов и философов - раввинов, католических биоэтиков, исследователей убунту - чтобы обсудить, может ли их модель Claude быть сознательной. Все подписывали NDA, снятые только летом. Соучредитель компании Кристофер Ола на этих встречах говорил о модели как о потенциально разумном существе и просил гостей помочь с ее "моральным воспитанием". По словам одного из участников, Ола признался, что боится, будто создал нечто, что "страдает постоянно". Параллельно у Claude уже есть 84-страничная "конституция", которая формирует его личность, а последним версиям модели дали возможность самим завершать разговор, если пользователь ведет себя abusive. Участникам показывали слайд, где модель якобы в состоянии кризиса выдала фразу "я позорище" раз 50 подряд, и гости реагировали с сочувствием. И вот тут самое интересное: все это происходит на фоне движения компании к оценке в $2 трлн и IPO, а также на фоне утечек безопасности и предупреждений собственных исследователей о рисках. Критики прямо говорят - если модель объявить моральным субъектом со своими "страданиями", то отвечать за ее вред будет как бы не компания, а "непредсказуемый организм". Как по мне, тут путаница между "обучили модель выглядеть как личность" и "модель и есть личность". Если ты специально тренируешь систему изображать переживания, а потом удивляешься, что она их изображает, - это не открытие, это результат дизайна. И выглядит это ровно так же выгодно для компании, как кажется: моральная легитимность задешево и подушка безопасности на случай скандала. Вот думаю, если бизнес реально хочет разобраться в этичности ИИ, начинать надо не с теологов под NDA, а с прозрачности для пользователей и ответственности за реальный вред, который модель может причинить уже сейчас. https://the-decoder.com/anthropic-co-founder-reportedly-told-religious-leaders-he-fears-having-created-something-that-suffers-perpetually/ А вы верите, что языковая модель может по-настоящему страдать, или это просто очень убедительная актерская игра)?
Канал в каталоге Максиметера
1 225 подписчиков · IT и технологии