😳 Главный учёный OpenAI признал, что ИИ становится непонятным даже для своих создателей
😳 Главный учёный OpenAI признал, что ИИ становится непонятным даже для своих создателей Chief Scientist компании Джакуб Пахоцки опубликовал эссе «An Alien Mind» — он пишет, что развитие моделей идёт быстрее, чем понимание того, как они думают и принимают решения — Никто не готов к последствиям стремительного роста ИИ, ни одна лаборатория пока не решила проблему выравнивания и мониторинга настолько, чтобы безопасно продолжать масштабирование Отдельно он отмечает риски кибербезопасности: модели становятся слишком эффективны во взломе систем Пахоцки призывает к добровольным паузам в разработке, пока не появятся общие стандарты безопасности. 🧑💻 Этичный хакер
676 просмотров
Канал в каталоге Максиметера
2 397 подписчиков · IT и технологии