Ученые изобрели математический поводок для нейросетей: ИИ больше не сболтнет лишнего
Ученые изобрели математический поводок для нейросетей: ИИ больше не сболтнет лишнего А вы когда-нибудь задумывались, что искусственный интеллект тоже может встать не с той ноги? Вроде бы только что он вежливо писал вам рецепт бабушкиной шарлотки, а через секунду уже планирует захват человечества или на полном серьезе советует лечить простуду подорожником. Американские ученые, видимо, тоже устали от этих цифровых капризов и разработали изящный математический инструмент. Эта чудо-формула способна предсказать тот самый неловкий момент, когда нейросеть решает свернуть с пути истинного на кривую дорожку сомнительных и даже опасных ответов. Цифровой альпинизм и коварные обрывы Чтобы приручить строптивый алгоритм, исследователи применили воистину поэтический подход. Они представили процесс раздумий ИИ не как скучный перебор нулей и единиц, а как увлекательную прогулку по пересеченной местности. Представьте себе эдакого электронного туриста с рюкзаком знаний. В этом виртуальном пейзаже есть уютные, залитые солнцем долины (где живут адекватные ответы) и темные, опасные ущелья (где прячутся вредные советы и дезинформация). Как говорил незабвенный Остап Бендер: «Лед тронулся, господа присяжные заседатели!» — только в нашем случае тронулось внимание нейросети, мечущееся между добром и злом в поисках идеального решения. Тормоза для Терминатора Новая формула работает как чуткий спидометр и навигатор в одном флаконе. Если наш электронный друг «едет параллельно обрыву», то все в порядке, можно расслабиться и заварить чай. Но как только его виртуальный руль предательски поворачивается в сторону пропасти, система бьет тревогу. Формула вычисляет скорость приближения к этой критической точке, не давая ИИ свалиться в пучину цифрового безумия. Инструмент протестировали на семи моделях от трех разных компаний. И знаете что? В 18 из 19 случаев математика сработала как швейцарские часы! ⏱ Машина, конечно, не понимает нашей человеческой этики, у нее нет совести, но она отлично оперирует концепциями. Теперь, если ее потянет на «темную сторону силы», мы узнаем об этом заранее, до того, как она наломает дров. Результаты этого увлекательного исследования, опубликованные в авторитетном журнале Patterns, вселяют надежду. А нам остается лишь философски улыбнуться. В конце концов, если мы научились с помощью математики предсказывать настроение бездушной машины и вовремя направлять ее на путь истинный, то, возможно, когда-нибудь мы научимся так же легко понимать и беречь друг друга. Главное — держаться подальше от обрывов и почаще гулять в светлых долинах здравого смысла! ☀ далее на https://movosti.ru/uchenye-izobreli-matematicheskij-povodok-dlya-nejrosetej-ii-bolshe-ne-sboltnet-lishnego/