- 7/31/2025
Odcinek powstał we współpracy z firmą Intel. Co to jest NPU? W jaki sposób działa oraz dlaczego odgrywa kluczową rolę w rozwoju sztucznej inteligencji? Na te pytania odpowie Czuk.
Znajdź nas na:
IG Kacpra: https://www.instagram.com/kacper_lipa_lipski/
X Kacpra: https://twitter.com/KacperLipski_TT
IG Czuka: https://www.instagram.com/czuk91/
X Czuka: https://twitter.com/czuk911
Znajdź nas na:
IG Kacpra: https://www.instagram.com/kacper_lipa_lipski/
X Kacpra: https://twitter.com/KacperLipski_TT
IG Czuka: https://www.instagram.com/czuk91/
X Czuka: https://twitter.com/czuk911
Category
🤖
TechTranscript
00:00W świecie komputerów osobistych od lat królują dwa bardzo dobrze znane układy, to jest CPU jako jednostka centralna oraz GPU odpowiedzialna za procesy graficzne.
00:10W ostatnim czasie coraz częściej usłyszeć można jednak o trzecim graczu, który kryje się pod pojęciem NPU, a więc strukturze przystosowanej specjalnie do zadań związanych z AI.
00:20Czym właściwie jest ta tajemnicza jednostka, jakimi cechami się charakteryzuje oraz przede wszystkim do czego można ją wykorzystać?
00:26Na te oraz inne pytania postaram się odpowiedzieć podczas dzisiejszego materiału. Zapraszam!
00:40Odcinek powstał we współpracy z Intelem, który dzięki zastosowaniu procesorów z serii Intel Core Ultra zapewnia wsparcie NPU m.in. dla modeli laptopów MSI z linii prezentacji.
00:50Jeden z nich posłużył mi zresztą jako naturalny poligon doświadczalny, na którym testowałem różne opcje wykorzystania omawianej technologii.
00:58Sprzęt, który nam dostarczono dysponuje wyposażonym w moduł NPU procesorem Intel Core Ultra 9 o taktowaniu 2,9 GHz, kartą graficzną Intel Arc 140T, 32 GB RAMu oraz matrycą 2560x1600 o odświeżaniu 60 Hz.
01:15Jeżeli jednak skrót składający się z trzech tajemniczych literek nic Wam nie mówi, czym prędzej spieszę z wyjaśnieniami.
01:21Co do zasady, tyczy się on określenia Neural Processing Unit, a więc tłumacząc na nasze jednostki przetwarzania neuronowego.
01:28Pod nazewnictwem tym kryje się wyspecjalizowany mikroukład, którego zaprojektowano w celu przyspieszenia zadań związanych ze sztuczną inteligencją.
01:36W przeciwieństwie do innych elementów komputera, najczęściej nie jest to również oddzielny duży komponent, a zintegrowany bezpośrednio z głównym procesorem układ w ramach systemu SOC.
01:47Wyrażenie neuronowe również nie wzięło się z przypadku, ponieważ podczas tworzenia architektury NPU inspirowano się budową oraz funkcjonowaniem sieci neuronowych ludzkiego mózgu.
01:56Dzięki temu omawiana elektronika jest w stanie przetwarzać ogromne ilości danych w sposób równoległy, wykonując potężne ilości operacji na sekundę przy zachowaniu rozsądnej efektywności energetycznej.
02:08Głównym zadaniem jednostki jest zatem uruchamianie tzw. inferencji, czyli wykonywanie obliczeń na wytrenowanym już modelu AI, korzystając skutecznie z poszczególnych rozwiązań na gotowym już urządzeniu końcowym.
02:19Mówiąc po ludzku, NPU nie tyle zajmuje się nauczaniem sztucznej inteligencji, a kompetentnym i konstruktywnym wykorzystaniem wiedzy, którą ta już posiadła.
02:29Komponent ma więc za zadanie odpowiednie wsparcie sprzętowe, aby praca z inteligentnymi systemami przebiegała możliwie szybko, energooszczędnie oraz lokalnie, bez potrzeby wysyłania danych do chmury.
02:40Skoro cała magia odbywa się zaś offline, funkcje uczenia maszynowego mogą działać nawet wówczas, kiedy nie mamy dostępu do połączenia z internetem.
02:48Przetwarzanie zadań sztucznej inteligencji na własnym urządzeniu zauważalnie redukuje zatem czas potrzebny na reakcję, a dla użytkowników oznacza to znacznie szybsze działanie poszczególnych inteligentnych funkcji bez zauważalnego opóźnienia w ramach integralnej części systemu.
03:02Chcemy tego czy nie, coraz więcej ludzi na całym świecie korzysta z różnych modeli sztucznej inteligencji.
03:07Wciąż najpopularniejszym sposobem korzystania z tego narzędzia jest mimo wszystko działanie online, opierające się na pracy zewnętrznych odmiotów.
03:15Oznacza to, że robiąc zdjęcie swoim smartfonem, prosząc o napisanie maila asystenta czy generując śmieszny obrazek, wszelkie dane najpierw trafiają na serwer, gdzie są analizowane, a dopiero potem wracają do swojego użytkownika.
03:28Niesie to za sobą nie tylko konieczność podłączenia do sieci i różne opóźnienia, ale i ryzyko naruszenia prywatności.
03:34Nawet bowiem przy najlepszych zabezpieczeniach i obietnicach ze strony producentów, podobane informacje wciąż są narażone na potencjalne przechwycenie, wyciek lub niewłaściwe wykorzystanie.
03:44Przetwarzanie lokalne eliminuje ten problem u samego źródła, a wszystko dzieje się w zamkniętym obiegu posiadanego sprzętu.
03:51Samą ideologię nazywa się zaś AIPC i choć w teorii brzmi ona bardzo obiecująco, niewiele mówi się również na temat konkretnych korzyści, które wynikają np. z użytkowania laptopa wyposażonego w NPU.
04:04Tych jest naprawdę sporo, choć nie muszą być widoczne na pierwszy rzut oka.
04:07Szczególnie mocno na lokalną sztuczną inteligencję postawił Microsoft, który uczynił z tej technologii centralny element komputerów z ich systemem operacyjnym.
04:15Najlepszym tego przykładem jest Windows Studio FX, czyli zestaw przydatny zwłaszcza w pracy biurowej.
04:20Posiada on bowiem ciekawe funkcje, które realnie wpłyną na wideokonferencje w aplikacjach takich jak Zoom czy Teamsy.
04:27Co konkretnie obejmuje?
04:28Np. płynne i precyzyjne rozmycie tła w kamerce, które nie powoduje spadku płynności laptopa,
04:33albo subtelne algorytmy korygujące, za sprawą których obraz będzie wyglądał tak jakby osoba znajdująca się w kadrze cały czas patrzyła prosto w kamerę.
04:42Ta ostatnia wciąż będzie oczywiście podążała za swoim użytkownikiem, utrzymując go w centrum kompozycji,
04:47co zapewni profesjonalny wizerunek podczas spotkań przy jednoczesnym zwolnieniu zasobów na inne zadania oraz wydłużeniu czasu pracy na baterii.
04:55Kluczowe w przełamywaniu barier komunikacyjnych mogą również okazać się rozwiązania pozwalające na prowadzenie rozmów w czasie rzeczywistym
05:02pomiędzy osobami niesłyszącymi a słyszącymi, oferując tłumaczenie języka migowego na mowę i odwrotnie.
05:09Lokalny asystent z pewnością pomoże również w przypadku, gdyby zaistniała potrzeba streszczenia długiego dokumentu, książki lub innych materiałów dydaktycznych,
05:17z których warto sporządzić notatki, konspekty i innego rodzaju raporty podsumowujące.
05:23Co ciekawe, producenci oprogramowania kreatywnego, tacy jak Black Magic Design albo Adobe, również głośno obiecują wsparcie dla nowej technologii oraz możliwość wykorzystania jej w swoich najnowszych produktach.
05:35Potencjał jest ogromny, ponieważ mówimy o takich feature'ach jak inteligentne maskowanie obiektów, automatyczne wycinanie postaci stła czy generowanie całych obrazów podlegając w całości akcelerowaniu NPU.
05:47Na tym polu warto jednak zachować odrobinę dystansu, ponieważ póki co wspomniane układy nie są jeszcze przygotowane na zbyt skomplikowane operacje,
05:54wciąż pozostając w tyle za dedykowanymi kartami graficznymi, z których profesjonalne oprogramowanie korzystać będzie w pierwszej kolejności.
06:02Nie zmienia to jednak faktu, że NPU jest w stanie wspomóc nas w nieco mniejszych i prostszych projektach już teraz.
06:09Możemy wykorzystać ją na przykład w programach graficznych typu Adobe, Photoshop oraz Gimp, przerabiając swoje zdjęcia lub tworząc różne materiały wizualne.
06:17Zwolennicy montażu w Premiere Pro sprawnią za to swoje klipy, korzystając z ulepszonej jakości nagranego głosu, automatycznego kadrowania lub edycji wideo na podstawie jego tekstowej transkrypcji.
06:28Idąc dalej, warto wspomnieć również o narzędziach do nagrywania, takich jak na przykład darmowe AutoCity.
06:34Laptopy wyposażone w procesory Intel Core Ultra będą bowiem mogły za jego pomocą wygenerować dźwięk albo automatycznie przekonwertować mowę na tekst.
06:42Z pewnością przyda się również rozdzielenie pliku audio na osobne ścieżki, na przykład jeżeli zajdzie potrzeba wyodrębnienia wokalu, tekstu lub linii melodycznej.
06:50Konkretne usprawnienia można również podać opierając się na kwestiach bezpieczeństwa.
06:54Oprogramowanie Buffer Zone, koncentrując się na ochronie danych przed złośliwym oprogramowaniem, stworzy bezpieczną wirtualną strefę buforową, w której uruchomione zostaną potencjalne ryzykowne aplikacje lub pliki.
07:05Zamiast automatycznie więc blokować wszelkie zagrożenia, soft wykorzysta sztuczną inteligencję do ich analizy i w razie potrzeby uwięzi niebezpieczeństwo w odizolowanej strefie.
07:15Narzędzie Citrix zapewni za to poprawę jakości pracy na wirtualnych pulpitach oraz w usługach typu Desktop Asa Service.
07:22GoToLogMeInRescue wprowadzi z kolei optymalizację w zakresie wsparcia technicznego poprzez szybsze działanie połączenia zdalnego.
07:29Roofpoint zaoferuje natomiast wsparcie w zaawansowanym zapobieganiu utraty danych poprzez klasyfikację dokumentów, a także analizę intencji użytkownika.
07:38Różnych opcji jest naprawdę mnóstwo, a wszystkie łączy to, że ich funkcjonalność dostępna jest lokalnie, na własnym komputerze.
07:45Dzięki temu cała analiza odbędzie się szybko i sprawnie, praca i działania kreatywne otrzymają odpowiednie wsparcie, a przy okazji żadne z podanych danych nie trafią w niepowołane ręce.
07:55Jak dla mnie jest to całkiem niezła zaliczka w kontekście zaufania oraz trafny argument do zaopatrzenia się w sprzęt oparty na NPU w przyszłości.
08:03Koniecznie dajcie znać co o tym myślicie wy.
08:06Tymczasem to tyle ode mnie, dziękuję za uwagę i do następnego.
08:10Na razie, ha!
08:15KONIEC!
Recommended
9:13
|
Up next
12:15
11:12
11:54
15:40
19:31
12:13
12:41
11:41
11:09
14:38
12:04
14:03
11:47
15:00
12:00