NVIDIA 4 мин
NVIDIA выпустила AIPerf: новый бенчмарк для LLM, который не должен сам стать узким местом
AIPerf заменяет GenAI-Perf, переходит на multiprocess-архитектуру и умеет воспроизводить production-подобные нагрузки для LLM inference.