Новый член совета OpenAI: большинство людей может погибнуть из-за ИИ
Новый член совета OpenAI: большинство людей может погибнуть из-за ИИ Пол Кристиано, известный исследователь ИИ, вошел в совет OpenAI Foundation и комитет по безопасности компании. И его взгляд на будущее суперинтеллекта пугает: он считает, что человечество рискует потерять контроль над ИИ, а большинство людей может погибнуть. По его мнению, нынешних мер безопасности недостаточно ни у OpenAI, ни у других лабораторий. Хуже того, никто даже не пытается снизить эту угрозу. И он не одинок в своих опасениях: • Другой исследователь ушел из Anthropic, заявив, что ИИ может уничтожить человечество уже к концу десятилетия. • Несколько коллег поддержали его и призвали замедлить разработку. • Глава Alignment Science в Anthropic оценил вероятность гибели человечества от ИИ в ближайшие 10 лет более чем в 10%.