MiTAC и Skymizer предложили двухсерверную архитектуру ИИ-инференса

Короткая новость из Telegram JounHub.

Все новости JounHub

MiTAC Computing и Skymizer представили на SC26 архитектуру, разделяющую этапы prefill и decode между серверами. По замыслу компаний, такое разделение позволит подбирать вычислительные ресурсы под разные задачи инференса.

Для decode предложена конфигурация с восемью ускорительными картами Skymizer, каждая с 256 GB памяти; MiTAC указывает, что система рассчитана, в частности, на запуск Kimi K3 с 2.8 триллиона параметров. Разработка может быть интересна организациям, рассматривающим локальную инфраструктуру для крупных моделей.

Сервер под свои нейросети можно арендовать в JounHub

Источники и редакционная проверка

Telegram JounHub · автоматическая публикация. Содержимое обновлено: .

  • Опубликованный пост Telegram JounHub — Пост опубликован в канале 2026-11-17T05:00:02.228985Z. Подтверждено получение подписанного поста. Ручная проверка фактов и дата события не заявлены. Проверка: .
  • Источник, указанный в посте — Дата исходной публикации: 2026-11-17T03:45:02Z. Ссылка передана вместе с постом; внешняя страница автоматически не загружалась и не проверялась. Проверка: .