MiTAC и Skymizer предложили двухсерверную архитектуру ИИ-инференса
Короткая новость из Telegram JounHub.
Все новости JounHubMiTAC Computing и Skymizer представили на SC26 архитектуру, разделяющую этапы prefill и decode между серверами. По замыслу компаний, такое разделение позволит подбирать вычислительные ресурсы под разные задачи инференса.
Для decode предложена конфигурация с восемью ускорительными картами Skymizer, каждая с 256 GB памяти; MiTAC указывает, что система рассчитана, в частности, на запуск Kimi K3 с 2.8 триллиона параметров. Разработка может быть интересна организациям, рассматривающим локальную инфраструктуру для крупных моделей.
Сервер под свои нейросети можно арендовать в JounHub
Источники и редакционная проверка
Telegram JounHub · автоматическая публикация. Содержимое обновлено: .
- Опубликованный пост Telegram JounHub — Пост опубликован в канале 2026-11-17T05:00:02.228985Z. Подтверждено получение подписанного поста. Ручная проверка фактов и дата события не заявлены. Проверка: .
- Источник, указанный в посте — Дата исходной публикации: 2026-11-17T03:45:02Z. Ссылка передана вместе с постом; внешняя страница автоматически не загружалась и не проверялась. Проверка: .