Afgelopen jaar meta kondigde aan dat PyTorch is toegetreden tot de Linux Foundation als een neutraal platform voor de ontwikkeling van het machine learning-project en de gemeenschap, waarbij AMD toetreedt tot de raad van bestuur.
De PyTorch Foundation bevordert actief de acceptatie van AI door het software-ecosysteem te democratiseren door middel van open source-principes, wat in overeenstemming is met de kernprincipes van het open software-ecosysteem AMD. AMD bevordert op zijn beurt innovatie en streeft ernaar het proces van het implementeren van AI in een breed scala van wetenschappelijke ontdekkingen te vereenvoudigen en te versnellen.
Toen ze een van de oprichters van de PyTorch Foundation werd, bleef ze open source AI-frameworks verbeteren. En nu introduceren AMD en PyTorch de nieuwste updates voor ROCm en PyTorch, waarmee ontwikkelaars nieuwe AI-oplossingen kunnen creëren op basis van AMD Instinct- en Radeon-versnellers.
Ondersteuning van de PyTorch-community is buitengewoon nuttig geweest bij het identificeren van specifieke hiaten, het prioriteren van belangrijke updates en het geven van feedback om de prestaties te optimaliseren en de reis van 'bèta' naar 'stabiel' te ondersteunen. De resultaten van de gezamenlijke inspanning worden duidelijk aangetoond door het prestatieniveau dat wordt gemeten aan de hand van belangrijke industriebenchmarks zoals SuperBench van Microsoft.
De incrementele verbetering van zowel de AMD CDNA-architectuur als ROCm en PyTorch toont de prestatiegroei van een enkel GPU-model van AMD Instinct MI100 tot de nieuwste generatie AMD Instinct MI200-familie van GPU's van ROCm 4.2 tot ROCm 5.3 en van PyTorch 1.7 tot PyTorch 1.12. Belangrijke updates zijn onder meer:
- Volledige continue integratie (CI) voor ROCm in PyTorch. Alle functies worden getest via het CI-proces, wat helpt om goed te bouwen en te testen vóór de verwachte Docker-release en het PIP-wiel
- Kineto Profiler-ondersteuning. Met profiler-ondersteuning voor ROCm kunnen ontwikkelaars en gebruikers krachtige diagnostische en profileringstools krijgen om prestatieknelpunten beter te begrijpen en te elimineren
- Ondersteuning voor belangrijke PyTorch-bibliotheken. Gebruikers krijgen open toegang tot het PyTorch-bibliotheekecosysteem, inclusief TorchText, TorchRec, TorchVision, TorchAudio en andere geoptimaliseerde collecties zoals MIOpen, RCCL en rocBLAS voor nieuwe niveaus van efficiëntie en hogere productiviteit
- Ondersteuning voor AITemplate Inference Engine. Om de prestaties te verbeteren kunnen de MetaAI open source AITemplate en de Composable Kernel (CK)-bibliotheek meer AMD-matrixkernen voor transformatorblokken ondersteunen.
Bovendien hebben AMD en PyTorch gezamenlijk meer dan 50 functies en functionaliteitsverbeteringen ontwikkeld om stabiele ROCm-ondersteuning toe te voegen. Deze omvatten verbeteringen aan tools, compilers, runtimes, grafische optimalisatie met TorchScript, gebruik van het INT8-kwantumpad en ONNX-runtime-integratie.
Om de toepassing van AI-mogelijkheden aan zowel de edge als het datacenter te versnellen, biedt AMD PyTorch toegang tot een portfolio van FPGA's en adaptieve SoC's. Het AMD Vitis AI-platform biedt kunstmatige-intelligentiemodellen, geoptimaliseerde deep learning-processorcores (DPU's), tools, bibliotheken en voorbeeldprojecten voor kunstmatige intelligentie.
Ook interessant: