Теперь локальный ИИ понадобился и мне
Теперь локальный ИИ понадобился и мне Недавно писал, как нейросети помогают разбирать старые рукописи. А у меня накопилось своё хозяйство, которому тоже требуется помощь с чтением. Только читать придётся графики, журналы событий и сообщения об авариях. Наша транспортная сеть выросла настолько, что уследить за ней имеющимися силами уже просто невозможно. Устройств много, аварий много. Где-то ухудшаются параметры оптики, где-то появляются ошибки, где-то оборудование начинает вести себя нестабильно. И всё это нужно заметить, сопоставить и проверить. Zabbix у меня уже развёрнут. Данные собираются. Но количество часов в сутках у людей от этого не увеличивается. Смотреть на все графики постоянно мы физически не можем. Поэтому пришло время заниматься предиктивным контролем. Хочется иметь возможность хоть иногда спать. Идея простая: замечать признаки развивающейся проблемы до того, как связь окончательно пропадёт. Например, уровень принимаемого оптического сигнала ещё находится в допустимых пределах, но постепенно ухудшается. Обычный пороговый контроль может пока молчать. А анализ истории способен показать: раньше было стабильно, теперь появилась устойчивая отрицательная динамика. Есть повод проверить линию. Это ещё не диагноз. По одному графику нельзя уверенно объявить виновным кабель, разъём или модуль. Но уже можно выделить участок, которому требуется внимание. Причём часть прогнозов обходится без нейросетей: в Zabbix есть функции прогнозирования. Сложнее собрать общую картину из множества показателей и событий. Вот здесь я и хочу использовать локальную языковую модель: помогать разбирать сообщения, сопоставлять их с документацией, готовить сводки и объяснять, на какие изменения стоит посмотреть в первую очередь. Анализ числовых рядов будет отдельной частью системы. Модель должна получать его результаты и помогать с разбором. Никакого волшебного «установил ИИ, аварии закончились» не будет. Понадобятся интеграция, проверка на накопленной истории и настройка. Если помощник просто начнёт присылать ещё сотню тревог, спать мы будем даже меньше. Работать всё должно полностью локально, в изолированной среде. Телеметрия, журналы и сведения об устройстве сети должны оставаться у нас. Для запуска модели рассматриваю Ollama с интеграцией в существующий Zabbix. Локальный режим Ollama поддерживает, но изоляцию всей системы всё равно придётся обеспечивать отдельно. Теперь о железе. Под этот проект планирую рабочую станцию с RTX 3090 либо более подходящей по производительности и объёму видеопамяти картой, от 32 ГБ DDR5 и возможностью расширения памяти. По сути, хорошую игровую машину, которая будет работать с моделями. Для такой задачи важна не только скорость GPU: в память должны помещаться сама модель и данные, с которыми она работает. Поэтому просто взять видеокарту поновее недостаточно. Конкретную модель и нагрузку ещё предстоит проверить. Мой ориентир по бюджету — около 170 тысяч рублей за сборку на б/у комплектующих. Это RTX3090Ti, 32Gb DDR5, Ryzen 7600, пара твердотельных дисков + самый простой корпус. Поэтому снова обращаюсь к вам за помощью. Собираем на рабочую станцию для локального ИИ и мониторинга нашей сети. Если можете помочь деньгами, подходящей видеокартой или самой машиной — буду благодарен. Реквизиты остаются без изменений: Озон: 2204 2401 9205 4023 Сбер: 2202 2084 3032 0177 (Номер копируется по клику) Ссылка на сбор по СБП — прежняя. Очень хочется успевать разбираться с проблемами до ночного звонка «у нас всё пропало». И немного поспать тоже хочется. Communicatio est victoria. — Душнила t.me/zas_svo vk.com/zas_svo #СВО #связь #ИИ #Zabbix #помощь