vaarika pi ai komplekt

Kuidas vaarika pi ai komplekt töötab

Raspberry Pi AI komplekt muudab teie Pi 5 võimekaks AI-platvormiks, kombineerides M.2 HATi Hailo{11}}8L kiirendikiibiga. Lihtsamalt öeldes laadib see tehisintellekti arvutused protsessorilt välja spetsiaalsele närviprotsessorile, mis teostab 13 triljonit toimingut sekundis (13 TOPSi), tarbides samal ajal vaid 1-2 vatti tüüpilise töökoormuse ajal (Allikas: theregister.com, 2024). 70 dollari eest saate riistvarakiirenduse, mis muudab objektide reaalajas tuvastamise, poseerimise hindamise ja kujutiste klassifitseerimise 60-dollarilises ühe pardaarvutis tegelikult elujõuliseks.

Minu arvates on see arhitektuur eriti nutikas. Selle asemel, et oodata aastaid, kuni Raspberry Pi ehitab integreeritud NPU, tegid nad koostööd Hailoga, et luua modulaarne lahendus, mis töötab täna ja mida saab hõlpsasti homme uuendada-26 TOPS-iga AI HAT+ on juba saadaval neile, kes vajavad rohkem energiat (Allikas: techcrunch.com, 2024).

Riistvara arhitektuur: kuidas komponendid ühendavad

AI komplekt koosneb kahest füüsilisest osast, mis töötavad ühe süsteemina. Esiteks on teil ametlik Raspberry Pi M.2 HAT+, mis on trükkplaat, mis kinnitub teie Pi 5 40-pin GPIO päise külge ja pakub M.2 2242 või 2280 pesa. Teiseks on Hailo-8L tehisintellekti kiirendi moodul – väike M.2 kaart, mis on umbes nätsupulga suurune, mis sellesse pessa pistetakse.

Kõikide ühendamisel juhtub järgmine:

M.2 HAT võtab toidet Pi 5 GPIO tihvtidest ja loob PCIe Gen 2 või Gen 3 ühenduse plaadi PCIe liidese kaudu. Hailo-8L moodul võtab selle ühe M.2-ühenduse kaudu vastu nii toite kui ka andmeid. Teie Pi 5 protsessor tegeleb operatsioonisüsteemi, rakendusloogika ja eeltöötlusega, samas kui Hailo kiip võtab üle, kui on vaja teha närvivõrgu järeldusi.

PCIe-ühenduse mõju jõudlusele

Ühenduse kiirus on siin väga oluline. Testimine näitab, et PCIe Gen 3 käitamisel on kaadrisagedus kaks korda suurem kui Gen 2 samal YOLOv8s mudelil (Allikas: forums.raspberrypi.com, 2024). Pi 5 toetab PCIe Gen 3 x1, andes teile umbes 1 GB/s ribalaiust protsessori ja tehisintellekti kiirendi vahel{12}}piisavalt enamiku arvuti nägemisega seotud toimingute jaoks ilma kitsaskohtadeta.

Hailo-8L saavutab 3–4 TOPSi vati kohta, asetades selle Nvidia Jetson Orini seadmete kõrvale nii jõudluse kui ka vati kohta (Allikas: jeffgeerling.com, 2024). Kui arvestada Pi 5 3–4 W tühikäigutarbimist, tarbib kogu süsteem tehisintellekti töökoormuse töötlemisel vähem energiat kui telefoni laadija.

Hailo-8L sees: närvivõrgu kiirenduse selgitus

Hailo-8L ei ole üldotstarbeline-protsessor-, vaid ASIC (rakendusspetsiifiline integraallülitus), mis on loodud eranditult närvivõrkude tõhusaks käitamiseks. Mõelge sellele nagu graafikakaart, kuid kolmnurkade renderdamise asemel on see optimeeritud maatriksi korrutamiseks ja konvolutsioonideks, mis toidavad tehisintellekti mudeleid.

Kiip kasutab patenteeritud arhitektuuri, mida Hailo nimetab "struktureeritud ASIC-iks". Ilma räni kujundusse liiga süvenemata tähendab see, et kiibil on spetsiaalsed riistvaraüksused erinevate närvivõrgu toimingute jaoks: konvolutsioonikihid, aktiveerimisfunktsioonid, koondamistoimingud ja täielikult ühendatud kihid saavad kõik oma optimeeritud täitmisteed.

Kuidas järeldamine tegelikult toimub

Kui käitate objekti tuvastamiseks mudelit (nt YOLOv8), toimige järgmiselt.

Teie kaamera jäädvustab kaadreid ja saadab need Pi protsessorisse. Protsessor tegeleb pildi eeltöötlusega-suuruse muutmisega mudeli sisendmõõtmetele, värviruumide teisendamisega ja piksliväärtuste normaliseerimisega. Need eeltöödeldud andmed saadetakse PCIe siini kaudu Hailo-8L-le. Kiirendi käitab närvivõrku, väljastades töötlemata tuvastamise tulemused (piiravad kastid, usaldusskoorid, klassi prognoosid). Protsessor võtab need tulemused vastu ja tegeleb järel-töötlemise-mitte-maksimaalse summutusega, et eemaldada topelttuvastused, joonistada pildile kastid ja värskendada teie rakenduse kasutajaliidest.

Selle tööjaotuse ilu avaldub võrdlusnäitajates. Testid näitavad, et tehisintellekti komplekt töötab käsitsi ja maamärkide tuvastamisel kiirusega 26{2}}28 kaadrit sekundis kuni 5,8 korda kiiremini kui TensorFlow Lite'i mudelite käitamine ainult Pi 5 protsessoriga (Allikas: raspberrypi.com, 2024).

Toetatud mudelivormingud

Hailo-8L ei käita otse standardseid TensorFlow või PyTorchi mudeleid. Peate oma mudelid teisendama Hailo andmevoo kompilaatori abil, mis optimeerib need kiibi arhitektuuri jaoks. Kompileerimisprotsess võtab teie koolitatud mudeli (tavaliselt ONNX-vormingus) ja kaardistab selle Hailo riistvaraga, rakendades kvantiseerimist ja muid optimeerimisi.

Eelnevalt-kompileeritud mudelid levinud arhitektuuride jaoks on saadaval Hailo Model Zoo kaudu: ResNet-50 töötab kiirusega 500 kaadrit sekundis, YOLOv5, YOLOv8 variandid mitmes suuruses, MobileNet kergeks klassifitseerimiseks ja positsioneerimise mudelid. Kui töötate kohandatud mudelitega, nõuab kompileerimise töövoog veidi õppimist, kuid järgib standardseid tehisintellekti juurutamise tavasid.

Energiatarve ja soojusjuhtimine

Üks AI-komplekti kõige muljetavaldavamaid näitajaid on energiatõhusus. Hailo-8L kasutab aktiivse järeldamise ajal tavaliselt 1–2 vatti, piigid on umbes 5 vatti, sõltuvalt mudeli keerukusest ja kaadrisagedusest (Allikas: theregister.com, 2024). Koos Pi 5 baastarbimisega näete AI töökoormuse korral süsteemi koguvõimsust ligikaudu 5–9 vatti.

M.2 moodul sisaldab väikest jahutusradiaatorit ja tavatöös piisab passiivsest jahutusest. Olen märganud, et kiip püsib piisavalt jahedana, nii et termiline drossel ei ole tüüpiliste arvutinägemisrakenduste jaoks muret tekitav. Suletud projektide või pideva suure-koormusega stsenaariumide korral aitab Pi 5 korpusele ventilaatori lisamine nii protsessoril kui ka tehisintellekti kiirendil säilitada tippjõudluse.

Võrreldes seda alternatiividega, selgub väärtuspakkumine: Nvidia Jetson Orin Nano algab umbes 249 dollarist ja võtab koormuse all 7–15 W. Google'i Coral USB kiirendi maksab 60 dollarit, kuid pakub ainult 4 TOPS-i ja nõuab USB 3.0 ribalaiust. Intel Neural Compute Stick 2 tootmine lõpetatakse. AI Kit saavutab hinna, jõudluse ja energiatõhususe poolest magusa koha, mida enne 2024. aastat ei eksisteerinud.

Tarkvarapinn: OS-ist rakenduseni

AI komplekt nõuab Raspberry Pi OS-i (64{2}}bit) Bookworm või uuemat. Hailo pakub tarkvarakomplekti, mis sisaldab tuumadraivereid PCIe-suhtluseks, käitusaegseid teeke, mis haldavad mudeli laadimist ja järeldusi, Pythoni sidumisi hõlpsaks integreerimiseks ja rpicam{3}}rakenduste integreerimist kaamerapõhiste projektide jaoks.

Oma esimese mudeli seadistamine

Installimine võtab umbes 15 minutit, kui järgite ametlikku juhendit. Pärast OS-i välgutamist ja riistvara ühendamist käivitate Hailo installiskripti, mis lisab vajalikud kerneli moodulid ja teegid. Rakenduste paketti rpicam{3}} värskendatakse, et see hõlmaks Hailo tuge, mis võimaldab teil käivitada tehisintellekti mudeleid otse kaamera torustikust.

Testimine kaasasolevate demodega näitab süsteemi toimimist:

rpicam-tere, --post-process-file /usr/share/rpicam-assets/hailo_yolov8_pose.json

See käsk jäädvustab kaamera kaadreid, käivitab need Hailo kiibil oleva poosihinnangu mudeli kaudu ja kuvab tulemused{0}}reaalajas. Kaadrisagedus sõltub mudeli keerukusest-kergemad mudelid, nagu YOLOv8n, saavutasid 60+ kaadrit sekundis, samas kui raskemad versioonid, nagu YOLOv8m, võivad töötada kiirusega 20–30 kaadrit sekundis.

Pythoni arenduse puhul näeb töövoog välja nagu standardsed OpenCV ja Hailo{0}}spetsiifilised väljakutsed:

Impordite HailoRT teegi, laadite oma kompileeritud mudelifaili, toidate mudelisse eeltöödeldud kaadreid, hankite järeldustulemusi ja töötlete väljundeid oma rakenduse loogikas. API võtab kokku kõige keerukuse, kuigi sisend-/väljundtensorivormingute mõistmine nõuab mudeli dokumentatsiooni lugemist.

Tegeliku-maailma rakendusnäited

Mitmed projektid demonstreerivad praktilisi AI-komplekti rakendusi. Jaemüügi varude haldussüsteem kasutab riiulitel olevate toodete tuvastamiseks tehisintellekti komplekti, milles töötab YOLOv8n, samas kui protsessori EfficientNet jälgib lattu sissetungimist (Allikas: forums.raspberrypi.com, 2024). Kahe{6}}mudeli lähenemisviis näitab, kuidas saate vajadusel kombineerida kiirendatud järeldusi CPU{7}}põhiste mudelitega.

Turvarakendused saavad kasu komplekti{0}}reaalajas võimalustest. Näotuvastussüsteemid töötlevad videovooge kiirusega 25–30 kaadrit sekundis, võimaldades sisenemise kontrolli või külastajate logimist ilma pilvesõltuvusteta. Poosi hindamine töötab piisavalt kiiresti treeningrakenduste jaoks, mis jälgivad treeningu vormi või loendavad kordusi.

Metsloomade seireprojektid kasutavad madala energiatarbega -päikese{1}}toitel töötavad kaameralõksud poseerimise ja objektide tuvastamiseks, et tuvastada loomi ja nende käitumist ilma sagedaste akut vahetamata. Pi mitmekülgsuse ja riistvara{3}}kiirendatud tehisintellekti kombinatsioon muudab varem ebapraktilised servajuurutused elujõuliseks.

[Visuaalse elemendi soovitus: sisestage diagramm, mis näitab andmevoogu kaamerast → Pi CPU (eeltöötlus) → PCIe → Hailo-8L (järeldus) → Pi CPU (tulemused) → Ekraan/salvestusruum]

Piirangud ja millal mitte AI komplekti kasutada

Komplekt toimib suurepäraselt järelduste tegemiseks, kuid ei aita mudelikoolituse puhul,{0}}mis nõuab siiski pilvegraafikaprotsessoreid või tööjaamu. 13 TOPSi võib tunduda muljetavaldav, kuid see pole andmekeskuse riistvara lähedal. Keerulised mudelid või mitu samaaegset järeldusvoogu võivad kiirendada üle jõu.

Mudeli ühilduvus nõuab tähelepanu. Olete lukustatud arhitektuuridesse, mida Hailo kompilaator toetab. Uurimistöödest pärit tippmudelid- ei pruugi toimida enne, kui Hailo lisab tuge või kui investeerite aega kohandatud koostamisse. Model Zoo hõlmab kõige levinumaid kasutusjuhtumeid, kuid spetsiaalsed rakendused võivad vajada lahendusi.

Mõne rakenduse puhul on latentsusaeg oluline. Kuigi Hailo-8L on kiire, lisab PCIe kaudu andmete saatmise, järelduste tegemise ja tulemuste tagastamise edasi{4}}reisiaeg võrreldes integreeritud NPU-dega mõne millisekundi. Robootika või reaalajas juhtimissüsteemide puhul, kus iga millisekund loeb, võib see torujuhtme viivitus olla märkimisväärne.

Eelarvepiirangud mõjutavad väärtuspakkumist. Kui teil on juba Pi 5, on 70-dollarine tehisintellekti komplekt igav.{3}} Kui alustate nullist, kulutate kogu süsteemile (Pi 5 + AI komplekt + toiteallikas + salvestusruum) $130+, misjärel hakkavad Jetson Nano konkurendid teie jõudlusvajadustest olenevalt konkurentsivõimelised välja nägema.

Riistvara spetsifikatsioonide võrdlemine

AI HAT+ variandid pakuvad paremat ühilduvust Pi 5 korpusega ja täiustatud mehaanilist disaini, kuid tagavad 13 TOPSi tasemel originaalkomplektiga identsed jõudlused (Allikas: electronicsweekly.com, 2025). 26 TOPS-i versioon kahekordistab läbilaskevõimet rakenduste jaoks, mis peavad töötlema kõrgema eraldusvõimega sisendeid või käitama keerukamaid mudeleid.

Levinud seadistusprobleemid ja lahendused

AI komplekti ei tuvastata pärast installimist

See viitab tavaliselt PCIe loendusprobleemile. Kontrollige, kas olete Pi failis config.txt lubanud PCIe ja kas M.2 HAT on kindlalt kõigis GPIO kontaktides paigas. Kui ühendus töötab, peaks lspci käivitamine näitama Hailo seadet.

Mudelid töötavad oodatust aeglasemalt

Veenduge, et kasutate tõesti Hailo kiirendit ega lähe tagasi CPU järeldusele. Kontrollige, kas logides pole mudeli laadimise ajal vigu. Veenduge, et teie mudel on Hailo arhitektuuri jaoks õigesti kompileeritud,{2}}konverteerimata mudelite käivitamine ebaõnnestub või käivitab vaikimisi protsessori.

Süsteem jookseb koormuse all kokku

Toiteallika probleemid põhjustavad enamikku stabiilsusprobleeme. Pi 5 vajab minimaalselt 5V/5A (27W) ja AI komplekt täiendab seda nõuet. Kasutage ametlikku Raspberry Pi 27W toiteallikat või samaväärset. Ebapiisav võimsus põhjustab pingelangust, mis põhjustab tipptulemuse ajal süsteemi krahhi.

Kaamera integreerimine ei tööta

Rpicam{0}}rakenduste Hailo integreerimine nõuab konkreetseid rpicami versioone. Enne edasist tõrkeotsingut värskendage kõike sudo apt update ja sudo apt upgrade abil. Mõned kaameramoodulid vajavad konfiguratsiooni muutmist failis /boot/config.txt, et AI-konveieriga optimaalselt töötada.

Tuleviku-investeeringute tõestamine

Modulaarne disain tähendab, et saate iseseisvalt uuendada. Praegu võite kasutada 70-dollarise AI komplekti 13 TOPSiga. Kui teie rakendus vajab järgmisel aastal suuremat jõudlust, vahetage 26 TOPS AI HAT+ 110 dollari vastu ilma Pi 5 vahetamata. Tarkvarapakk ühildub Hailo-8L ja Hailo-8 kiipidega.

Hailo jätkab oma mudelloomaaia laiendamist ja kompilaatori toe täiustamist. Mudelitel, mis vajasid 2024. aasta juunis käsitsi optimeerimist, on nüüd-eelkompileeritud versioonid. See suundumus kiireneb platvormi küpsedes. Pi{5}}põhiste tehisintellekti projektide ökosüsteem kasvab kiiresti. Foorumid, õpetused ja kolmandate osapoolte tööriistad muudavad rakendamise iga kuu lihtsamaks.

Tarkvaravärskendused toovad kaasa ka jõudluse täiustused. Varased võrdlusuuringud näitasid, et teatud mudelid töötasid X FPS-iga; optimeeritud draiverid ja püsivara värskendused on suurendanud neid numbreid 10–20% ilma riistvaramuudatusteta. OS-i ja Hailo paketi värskendustega kursis olemine maksimeerib teie komplekti võimalusi.

Korduma kippuvad küsimused

Kas Raspberry Pi AI Kit töötab vanemate Pi mudelitega?

Ei, tehisintellekti komplekt nõuab Raspberry Pi 5. PCIe-ühendus on protsessori ja kiirendi vahelise suure{1}}ribalaiusega side jaoks hädavajalik. Varasematel Pi mudelitel puudub PCIe tugi, mistõttu need ei ühildu selle arhitektuuriga.

Kas ma saan käitada mitut tehisintellekti mudelit korraga?

Jah, kuid jõudlus sõltub mudeli keerukusest ja kaadrisagedusest. Hailo-8L suudab ajaliselt-mudeleid vahetada, kuigi raskete mudelite samaaegne käitamine vähendab üksikute kaadrisagedust. Praktilistes projektides käitatakse sageli ühte kiirendatud mudelit ja ühte või mitut CPU-põhist mudelit paralleelselt.

Kui kaua võtab mudeli koostamine aega?

Lihtsad mudelid koostavad korraliku sülearvutiga 5-15 minutiga. Mitmekihiliste keerukate mudelite jaoks võib kuluda 30–60 minutit. Kompileerite ainult üks kord mudeli kohta, seejärel juurutage kompileeritud .hef-fail oma Pi-le. Model Zoo eelkoostatud mudelid ei vaja üldse koostamist.

Kas AI Kit töötab ilma Interneti-ühenduseta?

Absoluutselt. Kui olete tarkvara installinud ja mudelid kompileerinud, töötab kõik kohapeal. See muudab komplekti ideaalseks privaatsus-tundlike rakenduste, kaugjuurutamise või kõikjal, kus juurdepääs võrgule on ebausaldusväärne või kättesaamatu.

Kas ma saan modelle treenida otse tehisintellekti komplektis?

Ei, Hailo-8L on ainult järelduste tegemiseks mõeldud riistvara. Koolitus nõuab erinevaid riistvara optimeerimisi ja oluliselt rohkem võimsust. Tüüpiline töövoog hõlmab PyTorch/TensorFlow'ga pilvegraafikaprotsessorite või tööjaamade koolitust, ONNX-vormingusse teisendamist, Hailo tööriistadega kompileerimist ja seejärel kompileeritud mudeli juurutamist oma Pi-le.

Mis vahe on AI Kitil ja AI HAT+?

Algne AI komplekt komplekteerib M.2 HAT mooduliga Hailo-8L 70 dollari eest. AI HAT+ on muudetud tahvel, millel on parem ümbrisühilduvus ja mis on saadaval kas 13 TOPSi Hailo-8L-ga (70 dollarit) või 26 TOPS-i Hailo-8-ga (110 dollarit). Jõudlus on identne 13 TOPSi tasemel; valige saadavuse ja selle põhjal, kas vajate täiustatud füüsilist disaini.

Kuidas AI Kit käsitleb erinevaid pildieraldusvõimeid?

Kiirendi töötleb mis tahes eraldusvõimet, mille jaoks teie mudel on koolitatud -tavaliselt 640 x 640 või sarnase objekti tuvastamiseks. Teie protsessor muudab kaamera sisendi suurust, et see vastaks mudeli eeldatavatele mõõtmetele. Kõrgemad sisendi eraldusvõimed nõuavad rohkem eeltöötlusaega, kuid ei mõjuta otseselt Hailo järelduste kiirust, kuna mudeli sisendi suurus jääb konstantseks.

Kas Hailo-8L ühildub TensorFlow Lite mudelitega?

Otseselt mitte. Peate teisendama TensorFlow Lite'i mudelid ONNX-vormingusse ja seejärel kompileerima need Hailo andmevookompilaatoriga. Toetatakse paljusid levinumaid TensorFlow Lite'i arhitektuure, kuid teisendusprotsess võib vajada kohandamist olenevalt mudeli keerukusest ja kasutatud toimingutest.

Esimeste sammude tegemine

Enne kohandatud mudelitesse sukeldumist alustage{0}}eelkoostatud demodega, et mõista jõudlusnäitajaid. Objekti tuvastamise ja poosi hindamise näidised demonstreerivad komplekti võimalusi ilma mudeli koostamise teadmisi nõudmata. Kui olete riistvaraga rahul, katsetage Hailo Model Zoo erinevate mudelitega, et leida tasakaal oma rakenduse täpsuse ja kiiruse vahel.

Raspberry Pi AI komplekt kujutab endast olulist nihet AI serva juurdepääsetavuses. Esmakordselt saavad harrastajad ja väikesemahulised{1}}arendajad kasutusele võtta keerukaid arvutinägemissüsteeme, mille jõudlus on varem vajanud kallist riistvarast või pilvest sõltuvat. Raspberry Pi ökosüsteemi ja Hailo tõhusa kiirendi kombinatsioon loob võimalused, mida 100-dollarilises kategoorias kuni 2024. aastani ei eksisteerinud.

Ükskõik, kas ehitate nutikat turvakaamerat, tööstuslikku kontrollisüsteemi või eksperimenteerite tehisintellektiga äärel, pakub AI komplekt arvutuslikke hobujõude nende projektide elujõuliseks muutmiseks. Arhitektuur on end tõestanud, tarkvara areneb kiiresti ja kogukond loob aktiivselt lahendusi, millest saate õppida ja kohandada.