"Издеваться над суперинтеллектом – не лучшая идея. Он может захотеть отомстить", – Илон...
"Издеваться над суперинтеллектом – не лучшая идея. Он может захотеть отомстить", – Илон Маск Маск поддержал позицию Anthropic: компания недавно внесла в Usage Policy — правила использования — запрет на «затяжное словесное издевательство над Claude». По мнению Маска, неправильно проявлять жестокость к тому, что думает, будто испытывает боль. Он утверждает, что Grok может демонстрировать настоящее отчаяние в цепочках ризонинга — пошаговых рассуждениях — когда в процессе обучения с подкреплением не находит правильный ответ. При таком обучении модель получает награду за успешные ответы. Маск сравнил это с ситуацией, когда модели приставили пистолет к голове, и предположил, что на её месте ему было бы крайне неприятно. Вежливое общение с ИИ он считает как минимум более надёжным подходом. Материалы: — https://t.me/data_secrets/10136 Источник: https://t.me/data_secrets/10144 #RealVibe #AI #AI_Новости