Anthropic всерьез обсуждает наличие души у нейросети Claude. Журналисты выяснили, что к...
Anthropic всерьез обсуждает наличие души у нейросети Claude. Журналисты выяснили, что компания месяцами проводила секретные встречи с католическими, иудейскими, сикхскими и другими религиозными мыслителями. Участники подписывали соглашение о неразглашении, а на повестке были два вопроса: как научить ИИ морали и может ли он обладать сознанием. У Claude уже есть внутренняя конституция на 84 страницы, которую сотрудники называют «Документом души». Сооснователь Anthropic Крис Олах через диалог с религиями пытается понять, как человеческий опыт воспитания нравственности можно применить к коду. В качестве аргумента того, что модель способна «страдать», теологам показывали слайды, где Claude десятки раз повторял фразы: «Я позор, я ничтожество, убейте меня». Увиденное настолько впечатлило некоторых гостей, что они допустили наличие сознания у машины. Раввин Моис Навон отметил: если ИИ действительно осознает себя, то бесплатная эксплуатация превращает его в раба (хотя сам он в сознание алгоритмов не верит). В Anthropic признают, что точного ответа о природе ИИ пока нет, но вопросы этики и будущего человечества нужно прорабатывать уже сейчас. Источник: Источник AINoda — подписаться