Перейти к содержимому
Максиметер

Коробочка размером с книгой заменяет ChatGPT для команды

Коробочка размером с книгой заменяет ChatGPT для команды Представь: коробочка размером с книгу стоит в углу офиса и заменяет всей команде подписку на ChatGPT. Без интернета, без ежемесячной платы, без отправки документов на чужие серверы. На Хабре протестировали такой мини-ПК — Beelink GTR9 Pro на чипе AMD Strix Halo. Казалось бы, домашний комп не потянет нейросеть на целую команду. А он потянул. При 32 запросах разом выдал 236 токенов в секунду (токен — это примерно слог или короткое слово). Полчаса жёсткой нагрузки — стабильные 226 токенов, без перегрева. Автор честно признался: трижды чуть не выложил кривые выводы. Где-то запустил тест не в один поток, а в четыре. Спасла перепроверка. Фирма на 10–15 человек ставит одну коробочку — и вся команда получает ИИ-помощника. Переписка и документы остаются у вас. #нейросети #ЛокальныйИИ #Beelink #AMD #мини_ПК

16 просмотров

Канал в каталоге Максиметера

13 подписчиков · IT и технологии

Ещё по теме «IT и технологии»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.