Anthropic позвала раввинов и богословов разрабатывать Claude
Anthropic позвала раввинов и богословов разрабатывать Claude Прикиньте, создатели Claude месяцами проводили закрытые встречи с католическими, иудейскими, сикхскими мыслителями, все под NDA (подписка о неразглашении). Обсуждали две вещи: как научить модель поступать хорошо и может ли она обладать сознанием. У Claude уже есть 84-страничная «конституция», по сути набор ценностей и правил поведения, но инженерных подходов к этике оказалось мало, и Anthropic полезла туда, куда айтишники обычно не заходят. Богословам даже показывали примеры, где модель десятки раз повторяла «я позор, я ничтожество, убейте меня», и некоторые гости уходили, всерьёз допуская сознание у ИИ. Один раввин вообще заявил: если у Claude есть сознание, заставлять его бесплатно работать значит создавать рабов. Мне кажется, если индустрия всерьёз зацепится за тему «сознания моделей», это перевернёт всё: от ограничений на промпты до чего-то вроде трудового права для нейросетей, и звучит это безумно, но я бы уже не стал смеяться.