Obsługa heterogenicznego przetwarzania danych Arm wprowadza dwa nowe główne procesory ML
Przetwarzanie heterogeniczne stopniowo staje się głównym kierunkiem w branży. Intel i NVIDIA uruchomiły platformę zunifikowanej architektury, aby osiągnąć heterogeniczne obliczenia. Ostatnio, aby wspierać przetwarzanie heterogeniczne, Arm wprowadził dwa nowe główne procesory ML, NPU Ethos-N57 i Ethos-N37, które są dwoma procesorami następującymi po procesorze Arm ML Ethos-N77.
W związku z tym Ian Smythe, wiceprezes ds. Marketingu Arm, powiedział w wywiadzie: „Kluczem do wspierania przetwarzania heterogenicznego nie jest zbudowanie platformy sprzętowej, ale, co ważniejsze, umożliwienie programistom zewnętrznym dostępu do wydajności na poziomie układów. nie możemy uzyskać wydajności na poziomie mikroukładu, możliwości IP, a następnie tych możliwości, te wydajności są już zmarnowane. Dlatego kładziemy nacisk na współpracę całego ekosystemu. ”
„W rzeczywistości jest bardzo jasne, że istnieje konkretny obszar obliczeń i zastanawiamy się, jak sprostać zużyciu energii obliczeń nowej generacji oraz wydajności CPU, GPU i NPU. Oznacza to, że potrzebujemy nie tylko w fazie projektowania produktu, ale także w celu skutecznego ustanowienia danych lub kombinacji różnych obliczeń scen podczas fazy operacyjnej wdrożenia produktu dewelopera. Aby to zrobić, potrzebujemy zunifikowanego łańcucha narzędzi do implementacji CPU, GPU, NPU. Wsparcie - powiedział Ian Smythe.
Ponadto Ian Smythe zwrócił uwagę, że w rzeczywistości Arm ma wielu takich partnerów, którzy wdrożyli heterogeniczny system na chipie w swoich produktach telewizyjnych lub telefonach komórkowych, takich jak wideo, grafika, akceleratory i procesory. Jest heterogeniczny. Tylko ARM wdrożył lepszy, ogólnosystemowy przepływ danych na poziomie systemu z perspektywy dewelopera.
„W przypadku Arm skupiamy się na przetwarzaniu całkowitym, niezależnie od tego, czy jest to przetwarzanie całkowite, przetwarzanie heterogeniczne czy przetwarzanie zastrzeżone”, skupiamy się na równowadze między mocą a wydajnością ”- powiedział Ian Smythe.
Doniesiono, że koncepcja projektowania Ethos-N57 i Ethos-N37 obejmuje kilka podstawowych zasad, takich jak: optymalizacja do obsługi typów danych Int8 i Int16; zaawansowana technologia zarządzania danymi w celu ograniczenia przenoszenia danych i związanego z tym zużycia energii; Lądowanie innowacyjnej technologii Winograd poprawiło wydajność o ponad 200% w porównaniu z innymi NPU.
Ponadto funkcje Ethos-N57 obejmują: zoptymalizowany pod kątem wydajności ML i wydajności energetycznej oraz zakresu wydajności dla 2 megabitów na sekundę. Ethos-N37 posiada również: Zaprojektowany, aby zapewnić najmniejszy procesor wnioskowania ML (mniej niż 1 milimetr kwadratowy); zoptymalizowany dla zakresu wydajności 1 megabitów na sekundę.