Windows ML ma ułatwić tworzenie aplikacji z wykorzystaniem sztucznej inteligencji
Windows ML to środowisko uruchomieniowe zaprojektowane tak, by znacząco ułatwić deweloperom tworzenie aplikacji opartych na sztucznej inteligencji. Jego kluczową zaletą jest optymalizacja pod kątem efektywnego uruchamiania modeli sztucznej inteligencji bezpośrednio na urządzeniu, co upraszcza ich wdrażanie. Poza tym stanowi fundament dla Windows AI Foundry.
Czytaj też: Emoji na pasku zadań? Tylko w nowej aktualizacji Insider dla Windows 11
Platforma ta została stworzona z myślą o różnorodnym sprzęcie, od laptopów podstawowych, przez komputery Copilot+, po wysokiej klasy stacje robocze AI. Oferuje ona deweloperom wykorzystanie najlepiej dopasowanego komponentu krzemowego do ich zadań – czy to NPU (do niskiego poboru mocy), GPU (do dużej mocy obliczeniowej), czy CPU (dla szerokiego zasięgu i elastyczności).
Czytaj też: Po ostatniej aktualizacji Windows 10 pojawia się problem
Windows ML wyewoluował z DirectML na podstawie uwag deweloperów i partnerów sprzętowych. Zapewnia on ujednoliconą strukturę dla deweloperów, którzy chcą tworzyć aplikacje z wykorzystaniem sztucznej inteligencji dla Windows 11. Dzięki ONNX Runtime Engine (ORT), Windows ML natywnie obsługuje format ONNX, co ułatwia integrację z istniejącymi modelami AI. Gigant z Redmond chwali się, że w tym projekcie aktywnie współpracuje z czołowymi producentami, takimi jak AMD, Intel, NVIDIA i Qualcomm, aby zoptymalizować wykorzystanie ich procesorów AI poprzez integrację ich dostawców wykonawczych.
Kluczowymi aspektami rozwoju tej platformy są:
- Uproszczone wdrażanie: Deweloperzy nie muszą tworzyć wielu kompilacji aplikacji ani bezpośrednio pakować ONNX lub dostawców wykonawczych. Wszystko jest dostępne na urządzeniu.
- Zaawansowane targetowanie krzemu: Pozwala na optymalizację pod kątem niskiego poboru mocy lub wysokiej wydajności, a w przyszłości umożliwi dzielenie przetwarzania między różne komponenty.
- Wydajność: Dzięki oparciu na ONNX i ONNX Runtime, Windows ML oferuje do 20% poprawy wydajności w porównaniu z innymi formatami modeli.
- Kompatybilność: Zapewniona jest zgodność i kompatybilność, co gwarantuje ciągłe ulepszenia przy zachowaniu dokładności modeli.
Czytaj też: Windows z aktualizacją KB5058481 dla wersji 10
Dodatkowo Microsoft wprowadza AI Toolkit dla VS Code (AI Toolkit), czyli zestaw narzędzi do przygotowywania modeli i aplikacji, w tym konwersji z PyTorch do ONNX, kwantyzacji, optymalizacji i profilowania. Oczywiście wszystko to jest dostępne w publicznej wersji zapoznawczej na wszystkich maszynach z Windows 11. Poza tym oferuje dwa poziomy API: ML Layer (wysokopoziomowe) i Runtime Layer (niskopoziomowe ONNX Runtime APIs).
Na końcu artykułu możemy przeczytać, że firmy takie jak Adobe, Bufferzone, Filmora, McAfee, Powder, Reincubate i Topaz Labs pozytywnie oceniają Windows ML, podkreślając jego prostotę integracji, zwiększoną wydajność i zmniejszone wymagania dotyczące rozmiaru instalatora. Ten gigant technologiczny informuje, że platforma ma być ogólnie dostępna jeszcze w tym roku, co z pewnością wielu ucieszy.