Un grup de cercetători de la Computer Era din ETH Zurich doresc să joace rolul lor în îmbunătățirea dezvoltării AI pe smartphone-uri. Pentru a ilustra, ei au dezvoltat un sistem de benchmarking pentru a evalua performantele mai multor arhitecturi de retea neuronale cheie pentru sarcini generale de AI

sperand ca va fi util si pentru alti cercetatori AI, precum si pentru producatorii de cipuri, pentru perspective competitive); Android Dezvoltator (pentru a vedea cât de repede modelele AI rulează pe diferite dispozitive); și, de exemplu, să apelați pe tocilari – de exemplu, arătând dacă un anumit dispozitiv conține sau nu șoferii necesari pentru acceleratorul AI. (Și, prin urmare, dacă ar trebui să creadă mesajele de marketing ale unei companii sau nu).

Aplicația numită AI Benchmark este disponibilă pentru descărcare pe Google Play și rulează pe orice dispozitiv Android 4.1

+ Cercetătorii descriu ca o "judecată finală" cu privire la performanța AI a dispozitivului.

Sarcinile AI care sunt evaluate prin sistemul lor de referință includ clasificarea imaginilor, recunoașterea feței, corecția imaginii, rezoluția imaginii, îmbunătățirea fotografiilor sau segmentarea.

Ele testează chiar și unii algoritmi utilizați în sistemele autonome de conducere, deși nu există niciun scop practic în acest moment. Nu încă. (Privind pe drum, cercetatorii spun ca nu este clar ce platforma hardware este folosita pentru condusul autonom – si cred ca procesoarele mobile "destul de posibile" vor deveni destul de repede in viitor pentru a fi utilizate pentru aceasta sarcina

Aplicația include, de asemenea, vizualizări ale rezultatelor algoritmilor pentru a ajuta utilizatorii să evalueze rezultatele și să obțină un sentiment pentru stadiul tehnicii în diferite domenii ale AI.

Cercetătorii speră că vor Scorul devine o măsură general acceptată, similară cu cea utilizată de DxOMark pentru evaluarea performanței camerei, iar toți algoritmii incluse în benchmark sunt open source, iar clasamentul actual al diferitelor smartphone-uri și procesoare mobile este disponibil pe site-ul proiectului

Sistemul de benchmarking și aplicația au fost în curs de dezvoltare timp de aproximativ trei luni, spune cercetătorul și dezvoltatorul AI, Andrey Ignatov

. a explicat că scorul afișat reflectă două aspecte principale: viteza și memoria disponibilă a SoC

"Să luăm în considerare două dispozitive: unul cu un scor de 6000 și unul cu un scor de 200. Dacă un algoritm AI timp de 5 secunde pe care rulează pe primul dispozitiv, aceasta înseamnă că este nevoie de aproximativ 30 de ori mai mult pe cel de-al doilea dispozitiv, adică aproape 2,5 minute. Și când ne gândim la aplicații cum ar fi recunoașterea feței, nu este vorba doar de viteză, ci și de aplicabilitatea abordării: nimeni nu va aștepta 10 secunde ca telefonul să încerce să le recunoască.

"Același lucru este valabil și pentru memento: cu cât este mai mare imaginea de rețea / intrare – cu atât este nevoie de mai multă memorie RAM pentru procesare – dacă telefonul are o cantitate mică de memorie RAM, de exemplu, suficient pentru a face o fotografie de 0.3MP această îmbunătățire va fi în mod clar inutilă, dar dacă poate face același lucru pentru imaginile Full HD – aceasta deschide posibilități mult mai largi – în principiu, cu atât mai mare este scorul – pot fi utilizați algoritmi mai complexi / pot fi procesate imagini mai mari /

Discutați despre ideea de referință Ignatov spune că laboratorul este "strâns legat" atât de cercetare, cât și de industrie – deci "La un moment dat am devenit curioși de limitările algoritmilor AI moderni pe smartphone-uri."

"Pentru că nu au existat informații despre el (în prezent, toți algoritmii AI sunt difuzați de la distanță pe servere, nu pe dispozitiv, cu excepția unor aplicații încorporate încorporate în firmware-ul telefonului) Am decis să ne dezvoltăm propriul instrument, performanța și capabilitățile fiecărui dispozitiv ", adaugă el.

"Putem spune că suntem foarte mulțumiți de rezultatele obținute – în pofida tuturor problemelor actuale, industria se îndreaptă în mod clar spre AI pe smartphone-uri și sperăm că eforturile noastre vor contribui la această mișcare pentru a accelera și a oferi câteva informații utile celorlalți membri care participă la această dezvoltare. "

După construirea sistemului de benchmarking și colectarea de scoruri pe un număr de dispozitive Android, Ignatov rezumă situația actuală a KI pe smartphone-uri ca "interesant și absurd" împreună. De exemplu, echipa a constatat că dispozitivele cu jetoane Qualcomm nu au fost câștigătorii clare pe care le-au imaginat, pe baza materialelor promoționale ale companiei privind capabilitățile Snapdragon 845 AI și îmbunătățiri ale performanțelor de 8x.

presupune că această accelerare este disponibilă numai pentru rețelele "cuantificate" care în prezent nu pot fi utilizate pe telefoane, astfel încât pentru rețelele "normale" nu veți obține nici o accelerare ", spune el. Ar putea teoretic să ofere și accelerații pentru cele din urmă rețele, dar tocmai nu au implementat încă driverele potrivite, iar singura modalitate posibilă de a obține acea accelerare chiar acum este să folosiți SDK-ul propriu al lui Snapdragon pentru ei înșiși doar procesoare. Ca rezultat – dacă dezvoltați o aplicație care utilizează AI, nu veți obține o accelerare asupra SoCs-ului Snapdragon decât dacă o dezvoltați doar pentru procesoarele lor.

În timp ce cercetătorii au descoperit că procesorul lui Huawei Kirin 970 – tehnic, chiar mai lent decât Snapdragon 636 – a oferit o performanță surprinzător de puternică

"NPU-ul lor integrat oferă o accelerație de aproape 10x pentru rețelele neuronale, Chiar și cele mai puternice CPU-uri și GPU-uri de telefonie mobilă nu pot concura ", spune Ignatov." În plus, Huawei P20 / P20 Pro sunt singurele smartphone-uri de pe piață care rulează Android 8.1 care oferă în prezent accelerație AI. Toate celelalte telefoane vor primi acest suport doar în Android 9 sau mai mult. "

Nu numai că sunt vesti bune pentru proprietarii de telefoane Huawei, așa cum declară Ignatov, NPU nu oferă accelerație pentru rețelele" cuantificate " a promis să adauge acest sprijin până la sfârșitul acestui an) și utilizează, de asemenea, propriul RAM – care este "destul de limitat" în dimensiune, și astfel nu puteți "manipula imaginile mari cu el"

spun că dacă rezolvă aceste două probleme – probabil că nimeni nu va fi capabil să concureze cu ei în următorii câțiva ani ", sugerează el, deși el subliniază, de asemenea, că această revizuire se aplică doar unui SoC și afirmă că procesoarele Huawei nu au un modul NPU

Pentru procesoarele Samsung, cercetătorii arată că toate dispozitivele companiei încă rulează Android 8.0, dar AI Besch Toll este disponibil numai de la Android 8.1 și versiuni ulterioare. Natch.

De asemenea, au descoperit că performanța procesorului poate "varia foarte mult" datorită reducerii logicii de optimizare a performanței – până la 50% pe același dispozitiv Samsung. Aceasta ar avea apoi un impact asupra performanței AI.

Pentru Mediatek, cercetătorii au descoperit că producătorul de cipuri poate accelera atât rețelele "cuantificate" cât și cele "normale", obținând astfel performanța "procesoarelor de top".

Dar pe de altă parte, Ignatov numește sloganul companiei: "Lead the Edge AI Technology Revolution" – este "nimic mai mult decât visul ei" și adaugă: "Chiar și procesorul Samsung Exynos menționat mai sus poate depăși ceva fără a folosi nici o accelerare, să nu mai vorbim de Huawei cu Kirin 970 NPU "

" În rezumat: Snapdragon – poate da teoretic rezultate bune, dar nu are șoferi, Huawei – rezultate excelente acum și cel mai probabil în următoarea Viitorul, Samsung – nu are suport pentru accelerare (este posibil sa se schimbe in curand in momentul in care acum isi dezvolta propriul chip AI), dar CPU-uri puternice, Mediatek – rezultate bune pentru dispozitivele de la mijlocul gamei, dar cu siguranta nu sunt un progres "

De asemenea, este de remarcat faptul că unele dintre rezultatele au fost obținute pe eșantioane prototip în loc de smartphone-uri trimise, adică porturi (19659 002) "Vom aștepta ca dispozitivele cu firmware-ul final să intre pe piață, deoarece se pot introduce și unele modificări", adaugă el

Aflați mai multe despre avantajele și dezavantajele smartphone-urilor bazate pe AI Caracteristicile pot fi găsite în articolul nostru de la începutul acestui an.