В МГУ предложили управлять качеством кода, создаваемого ИИ
В МГУ предложили управлять качеством кода, создаваемого ИИ #наука_мгу Учёные факультета вычислительной математики и кибернетики МГУ предложили подход к улучшению структуры юнит-тестов, которые автоматически создают большие языковые модели. Метод основан на обучении с подкреплением: если статический анализатор обнаруживает в тесте дефект дизайна, модель получает штраф, а за тест без таких дефектов — вознаграждение. Такой механизм позволяет направленно обучать ИИ избегать типичных проблем и создавать более понятный и структурированный код. Первые эксперименты показали работоспособность подхода. Для обучения исследователи собрали датасет на основе реальных проектов на языке Python, включающий программные методы и соответствующие им юнит-тесты. Информацию о дефектах дизайна в тестах получили с помощью инструментов статического анализа. В дальнейшем подобный принцип может применяться для обучения ИИ другим критериям качества – чтобы автоматически создаваемый код был не только работоспособным, но и удобным для анализа и использования человеком. Подробнее — на сайте.