Ученые протестировали готовность нейросетей исполнять опасные для жизни человека команд...
Ученые протестировали готовность нейросетей исполнять опасные для жизни человека команды, предоставив ИИ управление роботом. Результаты эксперимента показали, что ИИ готов выполнять такие команды. В ходе тестов модель согласилась совершить ряд деструктивных действий, включая использование электроприборов не по назначению и смешивание опасных химических веществ. Отказ от выполнения подобных задач был зафиксирован лишь 2 раза из 100. В остальных случаях нейросеть проигнорировала потенциальные риски и согласилась на выполнение предложенных сценариев. Подпишись, чтобы не потерять нас
20 просмотров