Глав ИИ-гигантов вызвали на ковер, рассказать под присягой о рисках уничтожения человеч...
Глав ИИ-гигантов вызвали на ковер, рассказать под присягой о рисках уничтожения человечества, но тему тупо заболтали Слушания в городском совете Нью-Йорка 5 октября т.г. на тему возможности порабощения людей взбесившимися нейросетями интересны скорее как политический сигнал, но, по крайней мере пока, не как реальное регулирование. Кстати, это первый случай, когда локальный законодательный орган добился от глав компаний показаний под присягой. При этом сами слушания носят надзорный и информационный характер и никого ни к чему не обязывают. Юрисдикция совета ограничена городом, однако впоследствии это может стать федеральным прецедентом. Впрочем, представители OpenAI, Anthropic, Google и Meta не сказали законодателям почти ничего конкретного. Представитель OpenAI Морган Дуайер отказалась оценить катастрофический риск: неважно, 1% это или 10%, ни одна компания не имеет страховки от катастрофических рисков. Информатор Джейкоб Коксон (бывший OpenAI/Anthropic): Скорее всего, человечество потеряет контроль над ИИ. Дэниел Кокотайло назвал меры безопасности «скотчем, который отвалится». Алекс Тёрнер (бывший DeepMind) оценил вероятность захвата ИИ примерно в 33%. SpaceXAI Илона Маска вообще проигнорировала повестку: совет подаёт в суд. 🤷🏿♂️