TurboFieldfare — это кастомный Swift + Metal рантайм для выполнения модели искусственно...
TurboFieldfare — это кастомный Swift + Metal рантайм для выполнения модели искусственного интеллекта Gemma 4 26B-A4B на любом Mac с процессором Apple Silicon, включая базовые версии с 8 ГБ ОЗУ. Проект позволяет запускать модель с 26 миллиардами параметров, используя около 2 ГБ оперативной памяти за счёт потоковой загрузки только нужных частей модели с SSD. Доступны нативное приложение для Mac, командная строка и сервер с совместимостью OpenAI API. Для работы требуется macOS 26 и около 14,3 ГБ свободного места для установки модели. Исходный код распространяется под лицензией Apache 2.0. Источник: https://github.com/drumih/turbo-fieldfare
110 просмотров