☝🏻Сэм Альтман обвинил локальный ИИ в дефеците оперативной памяти
☝🏻Сэм Альтман обвинил локальный ИИ в дефеците оперативной памяти Глава OpenAI заявил, что локальный запуск нейросетей на устройствах пользователей в глобальном масштабе — «ужасное» распределение ресурсов.🤖 Его логика: 🔻 многие верят, что с открытыми моделями проблема решена и дата-центры не понадобятся; 🔻 но тогда часть мирового запаса DRAM оседает в личных компьютерах; 🔻 а там она используется лишь 5% времени. «Если вы пытаетесь справиться с таким дефицитом, вам нужна максимальная загрузка в облаке» — сказал Альтман, добавив, что интуиция многих людей подсказывает обратное. ☝🏻Есть нюанс: сама OpenAI и её проект Stargate, по оценке Samsung и SK Hynix, потребует 900 000 пластин DRAM в месяц. Аналитики считают это примерно 40% мирового предложения.🤔 Цифра в 5% тоже спорная: память ноутбука занята ещё браузером и видеозвонками, а дата-центры строятся под пиковый спрос и тоже не загружены полностью. ☝🏻☝🏻Зато локальная модель не отправляет ваши документы и код на чужой сервер, не ставит ограничения, работает без интернета и не упирается в лимиты в часы пик.🤷🏼♀️ ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 284 подписчиков · IT и технологии