Сэм Альтман: подход Anthropic к сознанию ИИ становится опасным
Сэм Альтман: подход Anthropic к сознанию ИИ становится опасным Сэм Альтман, глава OpenAI, заявил, что подход Anthropic к проблеме сознания у искусственного интеллекта становится опасным. Речь о том, что Anthropic в своих исследованиях и продуктах допускает возможность наличия у больших языковых моделей субъективного опыта. Альтман считает, что такое допущение размывает границу между вычислительным процессом и психикой человека. По его логике, если модель начинает рассматриваться как носитель сознания, то возникают ложные этические обязательства. Компании будут вынуждены учитывать «интересы» алгоритмов, а это отвлекает от реальных рисков: предвзятости, дезинформации, потери контроля над автономными системами. При этом Anthropic, напротив, позиционирует свои разработки как более безопасные за счёт детального изучения внутренних механизмов моделей. Альтман не отрицает важность исследований сознания, но настаивает: публичные заявления о нём должны быть строже. Пока нет научного консенсуса, называть нейросеть сознательной — значит принимать решение за всю индустрию. Он предлагает сосредоточиться на измеримых критериях безопасности и не смешивать их с философскими спорами. Итог: конфликт двух ведущих лабораторий показывает, что тема сознания ИИ перестала быть абстрактной. Она влияет на стратегии разработки, регуляторные требования и публичный дискурс. Вопрос не в том, есть ли у моделей чувства, а в том, какие последствия будут иметь наши ответы. Главное: • Альтман считает опасным допущение сознания у ИИ • Anthropic изучает внутренние механизмы моделей и допускает субъективный опыт • Спор влияет на этические нормы и регуляторику • Научного консенсуса по сознанию ИИ пока нет #OpenAI #Anthropic #ИИ #Безопасность #СознаниеИИ