NVIDIA veröffentlicht AITune: Open-Source-Toolkit zur automatischen Inferenz-Optimierung für PyTorch-Modelle
NVIDIA hat mit AITune ein quelloffenes Toolkit veröffentlicht, das die Inferenz-Performance von PyTorch-Modellen automatisch optimiert. Das Tool wählt selbstständig das schnellste verfügbare Inference-Backend für ein gegebenes Modell aus – ohne manuelle Konfiguration durch den Entwickler.