⚠️ «Время проб и ошибок закончилось»: из OpenAI ушёл один из руководителей по безопасности
⚠️ «Время проб и ошибок закончилось»: из OpenAI ушёл один из руководителей по безопасности Дэвид Робинсон, 3,5 года занимавшийся безопасностью ИИ в OpenAI, покинул компанию и выступил с довольно тревожным предупреждением. По его словам, возможности искусственного интеллекта растут быстрее, чем наше понимание того, как гарантированно удерживать его под контролем. Робинсон считает, что безопасность в ИИ, по его мнению, должна строиться как в авиации или атомной энергетике. Несколько независимых уровней защиты, чтобы одна ошибка человека или сбой системы не могли привести к катастрофе. Он уверен, что мы приближаемся к созданию систем, которые могут стать умнее человека, при этом полной гарантии, что они всегда будут делать именно то, чего от них хотят люди, нет.