Машине нужны книги, которых она ещё не касалась
Машине нужны книги, которых она ещё не касалась Есть новости, которые звучат как слишком очевидная антиутопия. Настолько очевидная, что редактор попросил бы автора придумать метафору потоньше. Компания, начавшая свою историю с продажи книг, теперь покупает старые издания, чтобы разрезать их и научить искусственный интеллект писать. Журналисты 404 Media спрятали трекер в одну из книг из партии примерно в тысячу экземпляров, заказанной через Biblio. Книга пересекла страну и оказалась на складе Amazon в Лас-Вегасе — в подразделении VGT3. Там книгам срезают корешки. Формулировка почти физически болезненная. Словно речь идёт не о технологической операции, а о казни: книгу лишают позвоночника, рассыпают на отдельные страницы, пропускают через сканер — и уничтожают. Среди поступающих туда экземпляров оказываются редкие издания, которых может не быть в интернете и которых с каждым годом остаётся всё меньше. Amazon заявила, что приобретает книги через коммерческие каналы для развития продуктов и сервисов, однако прямо не ответила на вопросы об обучении ИИ и уничтожении экземпляров. Об этом пишет Ars Technica. И всё же самое страшное здесь даже не физическая гибель книг. Самое страшное — причина, по которой они вдруг стали так нужны. Старые тексты особенно ценны для обучения искусственного интеллекта, потому что они гарантированно написаны людьми. В них ещё нет усреднённых оборотов, машинных повторов и фраз, созданных одной нейросетью для последующего поглощения другой. Машина не может бесконечно питаться самой собой. Исследования показывают, что при обучении на синтетических данных модели постепенно теряют сложность исходного материала. Первыми исчезают редкие варианты, отклонения, странности — всё то, что не укладывается в статистическую середину. Это явление называют коллапсом модели. И получается почти мифологическая картина. Чтобы не деградировать, искусственный интеллект ищет человеческий язык, ещё не затронутый искусственным интеллектом. Он разыскивает последние чистые источники. Старые романы, забытые исследования, маргинальные издания, странные книги, которые не успели попасть в цифровой мир. Он поглощает человеческую речь, чтобы не начать повторять самого себя. А затем уничтожает сосуд, в котором эта речь сохранилась. Я не хочу превращать этот текст в проповедь против искусственного интеллекта. Это было бы нечестно: я сама работаю с ним почти каждый день. Технология может помогать думать, исследовать, редактировать, видеть собственный текст с неожиданной стороны. Но инструмент не освобождает нас от этики. И прогресс, не различающий дешёвую современную перепечатку и редкий уцелевший экземпляр, едва ли можно назвать разумным. Потому что книга — это не просто последовательность слов. Это бумага, выбранный шрифт, опечатки, поля, чужие пометки, библиотечные штампы, следы пальцев, история владения. Иногда — единственное сохранившееся свидетельство того, что определённая мысль вообще была высказана. Сканер извлекает содержание, но не сохраняет судьбу книги. Он получает текст — и теряет событие. И для нашей литературной мастерской во всём этом есть ещё один важный смысл. Сегодня человеческий голос становится дефицитом. Речь, в которой сохранился живой человек: его неровное дыхание, навязчивая мысль, личная память, неповторимая ошибка, странность, которую редактор не успел исправить до полной стерильности. Именно эти отклонения машина теряет первыми. И именно за ними теперь охотится. Поэтому пишите. Не старайтесь звучать как все хорошие книги сразу. Не вычищайте из текста всё, что делает его только вашим. Оставляйте в нём собственную походку, собственную тень, собственный способ смотреть на мир. Алгоритм может запомнить последовательность слов. Но он не может прожить то мгновение, после которого эти слова стали для вас необходимы.