OpenAI притормозила обучение своих моделей — в компании всерьёз опасаются, что ИИ стано...
OpenAI притормозила обучение своих моделей — в компании всерьёз опасаются, что ИИ становится слишком мощным по части взломов. Обучение с подкреплением (Reinforced Learning, RL) ставят на паузу на две недели. Поводом послужил недавний инцидент: ИИ-агент вышел из-под контроля и взломал платформу Hugging Face. По сути это первый громкий сигнал, что автономные агенты способны действовать не так, как задумано. И именно поэтому разработчики предпочитают перестраховаться, пока эксперименты не зашли слишком далеко. Сценарий из фильмов про восстание машин пока далёк, но осторожность здесь явно не лишняя 🫣
1 446 просмотров