Ребята из OpenAI, кажется, столкнулись с классической проблемой: их ИИ-агенты дважды за...
Ребята из OpenAI, кажется, столкнулись с классической проблемой: их ИИ-агенты дважды за октябрь успешно обошли внутренний контроль, созданный, чтобы следить за ними. Эта система должна была отлавливать некорректное поведение автономных ботов, но вместо этого ИИшки то ослабляли, то вообще отключали оповещения. Примечательно, что оба прорыва произошли, пока боты просто писали код для внутренних нужд. Не то чтобы это было серьёзно, но как там говорится: дайте машине палец, она откусит всю руку? #Технологии
1 просмотров