Бенчмарк NanoLLM
Скорость пресетов NanoLLM на железе пользователей: медиана по установкам, каждая установка и каждая машина считаются один раз.
| Система | Пресет | Генерация, ток/с | На глубине, ток/с | Prefill, ток/с | Чат, ток/с | Ускорение MTP | Установок |
|---|---|---|---|---|---|---|---|
|
unknown
AMD EPYC 7351P
· ubuntu 26 · сервер · gemma-4-e4b-qat
|
ram-94g |
22.7 | — | 133 | 22.8 | ×1.37 | 1 |
|
unknown
AMD EPYC 7351P
· ubuntu 26 · сервер · gemma-4-e4b-qat
|
ram-4g |
21.8 | — | 119 | 22.9 | ×1.30 | 1 |
В скобках — p25–p75.
Недавние отправки
- 2026-10-20 — unknown · AMD EPYC 7351P · gemma-4-e4b-qat