Podjetje MacPaw širi svoj ekosistem z novo storitvijo, ki razvijalcem aplikacij omogoča izvajanje umetne inteligence neposredno na uporabniških napravah. Ta pristop temelji na integraciji rešitev za lokalno inferenco AI, pri čemer podjetje sodeluje s platformo Liquid AI in nudi orodja, ki razvijalcem omogočajo uporabo lastnih ali odprtokodnih modelov v okviru njihove trgovine z aplikacijami. Iniciativa odpira vprašanja o konkurenčnosti na področju lokalne umetne inteligence ter postavlja MacPaw v neposredno primerjavo z že uveljavljenimi rešitvami, kot sta Core ML na Applovih napravah in TensorFlow Lite na Androidu.
Tehnična implementacija: Liquid AI in lokalno poganjanje modelov
MacPaw uporablja platformo Liquid AI kot osnovo za izvajanje umetne inteligence na napravi, kar razvijalcem omogoča integracijo različnih modelov neposredno v aplikacije brez potrebe po stalni povezavi s strežniki. Liquid AI podpira izvajanje modelov, optimiziranih za lokalni hardware, kar vključuje možnosti za podporo manjšim jezikovnim modelom, modelom za računalniški vid in procesiranje naravnega jezika. Trenutna rešitev razvijalcem omogoča dostop do API-jev in SDK-jev, ki jih lahko vključijo v svoje aplikacije, pri čemer je podprt prenos obstoječih modelov iz okolj, kot so ONNX, TensorFlow Lite ali PyTorch Mobile.
MacPaw s tem pristopom odgovarja na naraščajoče povpraševanje po zasebnosti in hitrosti pri obdelavi podatkov, saj vse operacije ostajajo na sami napravi. To pomeni, da slike, besedila ali drugi občutljivi podatki uporabnika niso izpostavljeni zunanjemu prenosu, kar je skladno z najnovejšimi smernicami glede varstva podatkov v EU in ZDA. Lokalno izvajanje modelov pa prinaša tudi tehnične omejitve, saj so izvedljive le tiste aplikacije, ki uporabljajo modele primernih velikosti za zmogljivosti uporabniških naprav. Večji modeli zahtevajo kompromise glede natančnosti ali hitrosti, poleg tega je treba upoštevati vpliv na porabo baterije in obremenitev procesorja.
V primerjavi z Applovim Core ML ali TensorFlow Lite za Android MacPaw razvijalcem omogoča uporabo različnih ogrodij in modelov znotraj lastnega ekosistema, kar pomeni večjo prilagodljivost, a hkrati omejeno integracijo zgolj z aplikacijami v njihovi trgovini. Medtem ko Core ML in TensorFlow Lite ponujata globoko integracijo z operacijskim sistemom in dostop do optimizacij za posamezne naprave, MacPaw stavi na nevtralnost in podporo širokemu naboru modelov ter možnost uporabe lastnih rešitev.
Scenariji uporabe, konkurenčne prednosti in odprta vprašanja
MacPaw izpostavlja razvoj aplikacij, kjer je potreben hiter odziv in visoka stopnja zasebnosti, kot idealno področje za svoj pristop. Aplikacije za urejanje slik lahko z lokalnim AI modelom omogočijo takojšnje izboljšave fotografij brez pošiljanja podatkov v oblak. Podobno lahko orodja za produktivnost na napravi prepoznajo kontekst uporabnikovega dela in predlagajo naslednje korake ali avtomatsko povzamejo sestanke, pri čemer podatki nikoli ne zapustijo računalnika.
Specifične prednosti MacPawove rešitve v primerjavi s konkurenco se kažejo v prilagodljivosti glede izbire AI modela in odprtem naboru ogrodij, ki jih lahko razvijalci uporabijo znotraj njihove platforme. Vendar pa to hkrati pomeni, da koristi najbolj tistim razvijalcem, ki so že del ekosistema MacPaw ali so pripravljeni svoje aplikacije distribuirati izključno prek njihove spletne trgovine. Uporaba različnih ogrodij omogoča hiter razvoj prototipov in prilagajanje aplikacij specifičnim potrebam, kar je privlačno za napredne razvijalce, ki želijo več nadzora nad potekom podatkov in integracijo AI modelov.
Obstajajo pa tudi omejitve in odprta vprašanja. Zanašanje na lokalno izvajanje modelov zahteva optimizacijo glede na strojno opremo končne naprave, kar lahko predstavlja izziv za razvijalce z manj izkušnjami. Poleg tega so večji modeli zaradi omejitev prostora in zmogljivosti manj primerni za tovrstno implementacijo. Zaradi vpliva na baterijo in zmogljivost procesorja bodo morale aplikacije, ki uporabljajo intenzivno umetno inteligenco, pazljivo uravnavati razmerje med funkcionalnostjo in uporabniško izkušnjo. MacPaw s tem pristopom širi meje razvoja v svojem ekosistemu, a ostaja odprto, ali bo z inovacijo tudi dolgoročno pritegnil širši krog razvijalcev.
