AMD просуває EPYC 9006 для agentic AI: CPU знову стає критичною частиною AI-стека

AI-інфраструктура поступово перестає бути історією лише про GPU. AMD у новому матеріалі робить ставку на 6-те покоління EPYC 9006 «Venice» і пояснює це зростанням агентних систем, де один запит запускає цілий ланцюжок: пошук даних, звернення до баз, інструментальні виклики, виконання коду, перевірку результату та формування відповіді. Частина такого конвеєра працює на прискорювачах, але значний обсяг залишається на CPU — і саме тут компанія просуває нове покоління серверних процесорів.

Агент — це не один inference-запит

У класичній схемі генеративного AI легко дивитися лише на швидкість моделі: скільки токенів на секунду видає GPU і скільки прискорювачів потрібно на задане навантаження. Агентна система складніша. Перед викликом моделі може працювати retrieval, після нього — код, SQL, API сторонніх сервісів, перевірки політик або додаткові моделі. Кожен етап має інший профіль навантаження, а CPU координує черги, мережу, сховище, шифрування, бази даних і частину самої AI-логіки.

AMD посилається на новий white paper, де EPYC 9006 тестують не в одному «AI benchmark», а на загальних, enterprise, cloud-native, AI та HPC-навантаженнях. Це правильний напрям для самої методики: agentic AI справді схожий радше на суміш різних серверних задач, ніж на один довгий матричний розрахунок.

Які цифри заявляє AMD

У власних тестах AMD процесор EPYC 9996 показав 1,2-кратну перевагу на ядро над платформою NVIDIA Vera у SPECrate 2026 Integer і 2,24-кратну — на рівні платформи. Для набору enterprise та cloud-native задач, куди входять Java, OpenSSL, MongoDB, Redis, NGINX і транзакційні навантаження, компанія заявляє приріст від 2,4 до 3,7 раза. У HPC-порівняннях із Intel Xeon 6980P AMD наводить перевагу від 1,8 до 3,13 раза залежно від задачі.

Ці числа важливо читати саме як результати тестування AMD, а не як незалежний універсальний рейтинг. Конфігурація сервера, компілятор, пам’ять, версія ПЗ та характер конкретного workload можуть суттєво змінити співвідношення. Найцікавішою тут є не окрема цифра, а теза про те, що CPU знову стає одним із вузьких місць у складній AI-системі.

Чому щільність сервера знову має значення

В агентному AI багато інфраструктурних операцій важко «скинути» на GPU. Якщо на один запит припадає десяток звернень до сервісів, бази, пошуку та виконання коду, то зростає важливість кількості ядер, пропускної здатності пам’яті й I/O. EPYC 9006 орієнтується саме на цю щільність: серія включає конфігурації з великою кількістю ядер і сучасним серверним I/O, а AMD позиціонує «Venice» як універсальну платформу для AI, хмари, enterprise та HPC.

У моделі 100-кВт стійки AMD також заявляє приблизно 3,3-кратну пропускну здатність проти платформи на Vera. Тут особливо важливо слово «модель»: це розрахунковий сценарій самої компанії, а не результат польового розгортання. Але він добре показує, куди рухається конкуренція — від ціни одного процесора до кількості корисної роботи на ват і на стійку.

Що з цього практично корисне

Для команд, які будують RAG, корпоративних агентів або приватний inference, висновок простий: вимірювати тільки GPU вже недостатньо. Варто профілювати весь запит від входу до відповіді — базу даних, retrieval, tool execution, мережеві черги, серіалізацію та CPU-utilization. Інакше дорогий прискорювач може просто чекати, поки повільніший компонент підготує йому наступний шматок роботи. Новий акцент AMD на CPU для agentic AI — водночас маркетинг і корисне нагадування про архітектуру реальних систем.

↗