NVIDIA 4 хв
NVIDIA випустила AIPerf: новий бенчмарк для LLM, який не має сам стати вузьким місцем
AIPerf замінює GenAI-Perf, переходить на multiprocess-архітектуру та вміє відтворювати production-подібні навантаження для LLM inference.