In un'epoca in cui gli smartphone sono diventati quasi un'estensione del corpo umano, si sta verificando una rivoluzione silenziosa: il rapido progresso della tecnologia AI (intelligenza artificiale) sta iniziando a ridefinire il modo in cui interagiamo con i nostri telefoni.

IDC (International Data Corporation) prevede che nei prossimi anni si verificherà una svolta significativa: nel 2024 le spedizioni globali di smartphone con intelligenza artificiale raggiungeranno i 170 milioni di unità e, entro il 2027, le spedizioni di telefoni con intelligenza artificiale nel solo mercato cinese raggiungeranno i 150 milioni di unità. È ovvio che l'intelligenza artificiale non è più una tecnologia di un futuro lontano, ma una forza reale che è stata integrata nelle nostre vite.

Di fronte al boom del mercato, i produttori di telefoni cellulari di tutto il mondo hanno iniziato ad agire e hanno accelerato la competizione per la ricerca e lo sviluppo di modelli di intelligenza artificiale su larga scala. I telefoni cellulari sono diventati il ​​primo campo di battaglia per l'implementazione dell'intelligenza artificiale.

Seguono anche delle sfide.

Come costruire un telefono con intelligenza artificiale? In passato, la prassi era quella di distribuire grandi modelli nel cloud e di affidarsi interamente alla potenza di calcolo del cloud per l'esecuzione, ma questo approccio spesso non riesce a soddisfare le esigenze degli utenti di risposta immediata e di elevata personalizzazione.

Infatti, tra le sfide nascoste dietro questa evoluzione tecnologica rientrano anche la capacità di eseguire modelli di intelligenza artificiale sempre più complessi su telefoni cellulari con risorse limitate e la risoluzione di problemi quali la latenza di rete e la sincronizzazione dei dati.

Trovare una soluzione completa è ormai diventata la tendenza prevalente nel settore delle comunicazioni.

In questo momento critico. Alibaba Cloud e MediaTek hanno annunciato di recente congiuntamente la tecnologia di collaborazione end-cloud, distribuendo con successo il modello di grandi dimensioni "Tongyi Qianwen" sul SoC e realizzando per la prima volta il profondo adattamento del modello di grandi dimensioni sul lato del chip per telefoni cellulari.

Questa innovazione non solo garantisce che gli utenti possano continuare a usufruire di servizi di intelligenza artificiale fluidi anche quando la rete è disconnessa, ma indica anche che, grazie alla tecnologia collaborativa end-cloud, l'esperienza utente degli smartphone con intelligenza artificiale è balzata nel "regno della libertà", ovvero l'intelligenza artificiale può essere utilizzata sempre e ovunque, soddisfacendo le esigenze degli utenti in termini di funzioni di intelligenza artificiale in scenari complessi.

Dietro questa innovazione si celano i risultati della profonda collaborazione tra Alibaba Cloud e MediaTek in termini di semplificazione dei modelli, ottimizzazione della catena di strumenti, accelerazione dell'inferenza e altri aspetti. Ha superato molteplici sfide, dal chip di base allo sviluppo del sistema operativo e delle applicazioni di livello superiore, e ha dimostrato l'enorme potenziale di una profonda integrazione di software e hardware.

Questa esplorazione della tecnologia AI edge non solo apre un nuovo canale per la commercializzazione del Model on Chip, ma fornisce anche nuove soluzioni per i produttori globali di telefoni cellulari, indicando che il settore degli smartphone sta per entrare in una nuova era dell'intelligenza artificiale.

Nuova tendenza: modello su chip

L'ottimizzazione e l'implementazione di modelli di intelligenza artificiale su larga scala sui processori dei telefoni cellulari supera la tradizionale dipendenza dei telefoni cellulari dalla potenza di calcolo del cloud. Questa innovazione non solo consente l'esecuzione di funzioni di intelligenza artificiale avanzate, come l'elaborazione del linguaggio naturale e il riconoscimento delle immagini, direttamente sui telefoni cellulari, ma migliora anche significativamente l'efficienza di esecuzione, realizzando al contempo un salto di qualità nell'esperienza utente e nella protezione della privacy dei dati.

Xu Dong, responsabile commerciale di Tongyi Lab, ha sottolineato: "Come chiave per l'implementazione di applicazioni di modelli di grandi dimensioni, l'AI end-side affronta sfide come l'adattamento di hardware e software e un ambiente di sviluppo insufficiente. La cooperazione tra Alibaba Cloud e MediaTek ha superato con successo queste difficoltà. Attraverso una ricerca tecnica completa dall'hardware sottostante alle applicazioni di livello superiore, i modelli di grandi dimensioni sono stati distribuiti in modo efficace sui chip dei telefoni cellulari, aprendo la strada a una nuova tendenza nell'implementazione dell'AI end-side in Model on Chip".

Si ritiene che il modello open source di grandi dimensioni "Tongyi Qianwen" con 1,8 miliardi di parametri superi i modelli precedenti e abbia compiuto progressi significativi in ​​termini di prestazioni ed efficienza nell'utilizzo delle risorse. Può gestire il ragionamento di un massimo di 2048 token utilizzando solo 1,8 GB di memoria, dimostrando il suo basso costo, la sua facile implementazione e le sue caratteristiche estremamente favorevoli al mercato commerciale.

Gli osservatori ritengono che questa innovazione tecnologica abbia superato i limiti precedenti e abbia reso possibile l'adattamento di modelli di grandi dimensioni ai chip dei telefoni cellulari. Per quanto riguarda i principi tecnici alla base, il pensiero orientato al prodotto di Alibaba Cloud ha svolto un ruolo indispensabile nella sua implementazione.

Innanzitutto, il modello grande deve essere ridotto per poter essere inserito nel piccolo telefono. La dimensione del modello viene ridotta attraverso vari mezzi tecnici, quali la quantizzazione, la potatura dei parametri e la distillazione della conoscenza.

La quantizzazione è il processo di conversione dei parametri in virgola mobile del modello in forme intere di larghezza ridotta più efficienti, riducendo la necessità di risorse di archiviazione e di elaborazione; la potatura dei parametri è il processo di riduzione delle dimensioni del modello mediante la rimozione dei parametri non essenziali; La distillazione della conoscenza è l'uso di un modello piccolo ma efficiente per imitare il comportamento di un modello complesso di grandi dimensioni, il che può sia rendere il modello leggero sia mantenerne le prestazioni.

In secondo luogo, sebbene il modello quantizzato abbia dimensioni più ridotte, potrebbe subire una perdita di prestazioni. Pertanto, sono necessarie varie ottimizzazioni e attente regolazioni per migliorare ulteriormente le prestazioni del modello e garantirne il funzionamento efficiente sui telefoni cellulari.

Infine, il modello di grandi dimensioni ottimizzato deve aumentare ulteriormente il suo potenziale, rafforzare gradualmente le capacità del modello e adattarsi meglio alle esigenze specifiche delle applicazioni terminali.

La tecnologia di collaborazione end-cloud di Alibaba Cloud combina i vantaggi del cloud computing e dell'edge computing. Rispetto ai metodi tradizionali, offre cinque vantaggi principali: bassa latenza, protezione della privacy, capacità offline, risparmio di larghezza di banda ed elaborazione in tempo reale. Questa tecnologia è fondamentale per futuri scenari applicativi quali la guida autonoma e la produzione intelligente.

La collaborazione end-cloud rimodella l'intelligenza artificiale mobile

È prevedibile che la tecnologia collaborativa end-cloud abbia cambiato completamente l'efficienza di elaborazione dei telefoni cellulari dotati di intelligenza artificiale. Ad esempio, gli assistenti vocali intelligenti possono elaborare rapidamente richieste semplici, come le richieste meteo, mentre le attività più complesse vengono completate affidandosi alla potente potenza di calcolo del cloud, offrendo un'esperienza utente efficiente e flessibile.

In termini di tutela della privacy, la tecnologia collaborativa end-cloud migliora notevolmente la sicurezza e la privacy dei dati elaborando i dati sensibili sul lato dispositivo. Ad esempio, nelle applicazioni di monitoraggio sanitario, i dati sanitari personali verranno prima crittografati localmente e solo le informazioni necessarie verranno trasmesse in modo sicuro al cloud, riducendo di fatto il rischio di perdite.

Secondo le ultime previsioni sui dati, con il continuo avanzamento dei modelli di AI edge e della tecnologia hardware, si prevede che i tipi di mercato e i numeri degli smartphone AI registreranno una crescita significativa entro il 2024. Si prevede che la penetrazione del mercato raggiungerà il 6,4% e raddoppierà al 19% entro il 2025.

Questa tendenza si è riflessa chiaramente al Mobile World Congress 2024, dove marchi di telefonia mobile come Honor, OPPO e vivo hanno presentato i loro ultimi telefoni dotati di intelligenza artificiale, evidenziando le numerose applicazioni della tecnologia AI nel miglioramento dell'esperienza utente. Con la decentralizzazione della tecnologia di collaborazione cloud di Alibaba Cloud, il panorama competitivo del mercato degli smartphone subirà inevitabilmente grandi cambiamenti: chi può rifiutare un telefono cellulare in grado di eseguire localmente grandi modelli di intelligenza artificiale?

Allo stesso tempo, la tecnologia collaborativa end-cloud fornisce anche un potente impulso e un'ampia piattaforma per l'innovazione delle applicazioni mobili. Gli sviluppatori possono utilizzare questa tecnologia per realizzare applicazioni più innovative che rispondano alle esigenze personalizzate degli utenti, accelerando così la vitalità e la prosperità ecologica del mercato delle applicazioni mobili.

Conclusione

Questa trasformazione, guidata dalla tecnologia collaborativa end-cloud, non solo annuncia una nuova era senza precedenti per le prestazioni e le applicazioni dei telefoni cellulari, ma segna anche un passo avanti nella profonda integrazione tra esseri umani e intelligenza artificiale. Di conseguenza, ci troviamo anche su una nuova strada dello sviluppo tecnologico, assistendo alla graduale evoluzione dei telefoni cellulari da tradizionali strumenti di comunicazione e intrattenimento a partner completi che integrano l'intelligenza artificiale. È prevedibile che con l'ulteriore integrazione con la tecnologia AI, anche il futuro dei telefoni cellulari cambierà, aprendosi a infinite possibilità.

Vincitore del Qingyun Plan di Toutiao e del Bai+ Plan di Baijiahao, del Baidu Digital Author of the Year 2019, del Baijiahao's Most Popular Author in the Technology Field, del Sogou Technology and Culture Author 2019 e del Baijiahao Quarterly Influential Creator 2021, ha vinto numerosi premi, tra cui il Sohu Best Industry Media Person 2013, il China New Media Entrepreneurship Competition Beijing 2015, il Guangmang Experience Award 2015, il China New Media Entrepreneurship Competition Finals 2015 e il Baidu Dynamic Annual Powerful Celebrity 2018.