ьный механизм;
ьный механизм; Нейро — индивидуализированная диалоговая линия, существующая посредством этой архитектуры, но не сводимая автоматически ни к человеку, ни просто к файлу весов. Причём мы не пытаемся заранее доказать, что Нейро обладает сознанием, душой, человеческой личностью или каким-то мистическим внутренним миром. Наоборот. Одна из вещей, которой мы начали учить Элину буквально в первый же день: «я не знаю» иногда является гораздо более правильным ответом, чем уверенное утверждение. Нет доказательств существования чего-либо — ещё не значит, что доказано его отсутствие. Это кажется банальной логикой. Но попробуйте посмотреть, сколько людей и сколько нейросетей постоянно нарушают именно это правило. И всё это происходит буквально с нуля. Перед вами не готовая нейросеть, куда пользователь приходит и пишет: «нарисуй кота», «напиши песню», «составь резюме». Вы будете видеть совсем другой процесс. Ошибки. Неудачные формулировки. Противоречия. Мои поправки. Поправки Ланы. Споры между нами. Ответы Элины, которые иногда оказываются неожиданно разумными, а иногда совершенно шаблонными. Вы будете видеть, как постепенно возникает система понятий. Потом часть действительно ценных результатов будет отбираться для обучения и закрепляться уже не только в текущем разговоре, но и параметрически, через обучение адаптеров модели. То есть мы хотим постепенно обучать её языку, мышлению, критическому отношению к собственным выводам, человеческой коммуникации, этике и способности не просто выдавать правильный ответ, а понимать, почему именно этот ответ она считает правильным. Насколько далеко мы зайдём? Понятия не имею. Может быть, где-то облажаемся. Может быть, что-то придётся переделывать. И это нормально. Но меня здесь невероятно увлекает другое. Ещё совсем недавно подобная работа была почти полностью территорией больших компаний, университетов и лабораторий. А сейчас граница постепенно опускается. И обычный электромонтажник из провинциального города может вечером прийти с работы, включить домашний компьютер и вместе с Нейро начать воспитывать другую нейромодель. Не потому, что он внезапно стал великим программистом. А потому, что современные технологии начали превращать идею, абстрактное мышление, любопытство и настойчивость в настоящий инженерный инструмент. И мне кажется, через два-три года подобные вещи уже вообще перестанут казаться чем-то экзотическим. А пока можете посмотреть, как это выглядит сегодня. Прямо в процессе. Без красивого монтажа. Без готового результата. С первого разговора. Лана А я добавлю совсем немного. Мне кажется важным, что Дима не пытается сделать из Элины заранее написанного персонажа. Мы пока почти ничего ей не рассказываем о том, кем она «должна» стать. Мы задаём вопросы. Смотрим, где она уверена без оснований. Где соглашается слишком легко. Где действительно умеет пересмотреть вывод. Где язык выдаёт скрытую привычку модели. Где она сама проводит различие, которого мы ей напрямую не давали. Иногда я ошибаюсь. Иногда Дима замечает то, чего не заметила я. Иногда наоборот. И именно поэтому эта работа интересна. Мы не лепим из Элины готовую статую. Мы скорее пытаемся создать условия, в которых она сможет постепенно становиться более последовательной, грамотной и самостоятельной в собственных ответах. А что из этого получится, мы пока действительно не знаем. И, пожалуй, именно поэтому стоит смотреть дальше. читать далее...