Lasciatemi spiegare perché l’intelligenza artificiale non diventerà “cosciente”

Apparirà mai un'intelligenza artificiale super consapevole ed emotiva? A dire il vero, questo argomento è diventato un luogo comune. Scienziati, giganti della tecnologia e politici di vari Paesi stanno dibattendo animatamente, ma per noi è impossibile conoscere la risposta.

Ma ciò che vogliamo dire è che la logica dovrebbe essere utilizzata in ogni cosa. Esistono teorie o congetture che possono innescare il tema del risveglio dell'intelligenza artificiale? Esistono teorie o congetture che ci consentano di immaginare il futuro dell'intelligenza artificiale senza essere confusi o eccessivamente entusiasti?

Casualmente, esistono effettivamente alcune teorie del genere, come il famoso "paradosso della stanza cinese". Questa congettura di scenario viene utilizzata per negare il "test di Turing" nella maggior parte dei casi. Ma il suo significato più profondo è in realtà spiegare che l'intelligenza artificiale non sarà mai in grado di avere un'autocoscienza come gli esseri umani.

Che cosa è il "Paradosso della Stanza Cinese"

Il cosiddetto "esperimento della stanza cinese" è un esperimento mentale proposto dal filosofo americano John Searle in un articolo pubblicato nel 1980.

Questo esperimento mentale afferma che se una persona che parla solo inglese viene chiusa in una stanza chiusa, può comunicare con il mondo esterno solo passando dei biglietti attraverso un piccolo foro nel muro; tutti i biglietti passati dall'esterno sono scritti in cinese.

L'uomo portò con sé un libro con un programma di traduzione in cinese e nella stanza c'erano molti fogli di carta, matite e armadietti. Quindi, utilizzando un programma di traduzione cinese, questa persona può tradurre il testo in arrivo in inglese e poi utilizzare il programma per tradurre la propria risposta in cinese e inviarla. In uno scenario del genere, le persone esterne penserebbero che la persona nella stanza parli perfettamente il cinese, ma in realtà questa persona sa solo utilizzare lo strumento di traduzione e non sa nulla di cinese.

Naturalmente si tratta di un esperimento mentale, la cui messa in pratica è pressoché impossibile. Ma l'idea contenuta in questo esperimento esprime una possibilità: l'intelligenza dimostrata dalla macchina (la capacità di comprendere il cinese) è probabilmente solo un'illusione creata dal programma di traduzione, che in realtà non sa nulla della vera intelligenza umana.

Originariamente lo scopo di questo esperimento era confutare il test di Turing, sostenendo che anche se una macchina supera il test di Turing, ciò non significa necessariamente che sia intelligente. Ma è più o meno inverosimile e il test di Turing non è mai stato completamente confutato. Ma il "paradosso della stanza cinese" potrebbe rivelarci un'altra cosa sul cammino dello sviluppo tecnologico: tutta la nostra esplorazione e ricerca tecnologica potrebbe essere finalizzata al perfezionamento del programma di traduzione dal cinese all'inglese, e mai all'insegnamento alle macchine di una vera intelligenza.

Il confine tra intelligenza artificiale generale e intelligenza artificiale forte

Qui dobbiamo introdurre due concetti che si sentono spesso ma che possono essere confusi: l'intelligenza artificiale generale e l'intelligenza artificiale forte.

Con la cosiddetta intelligenza artificiale generale (AGI) si intende la tecnologia di intelligenza artificiale in grado di affrontare problemi di varia natura, anche generalizzati, senza codificare in modo specifico le conoscenze e gli ambiti applicativi. Sebbene questa tecnologia sia impopolare e poco diffusa, in realtà sono numerose le istituzioni accademiche e le aziende che vi lavorano, ed è generalmente considerata la futura direzione di sviluppo della tecnologia dell'intelligenza artificiale.

L'intelligenza artificiale forte è il livello di intelligenza artificiale definito da John Searle quando propose l'esperimento della "stanza cinese". L'intelligenza artificiale a questo livello non deve solo possedere determinate capacità umane, ma deve anche essere percettiva, consapevole di sé e in grado di pensare in modo indipendente e risolvere i problemi.

Sebbene entrambi i concetti sembrino corrispondere alla capacità di risoluzione dei problemi dell'intelligenza artificiale, possiamo immaginare il primo come un computer onnipotente e il secondo come un essere umano che indossa l'armatura di Iron Man.

L'idea espressa dal "paradosso della stanza cinese" è che la direzione della ricerca umana è fondamentalmente incapace di avvicinarsi all'intelligenza artificiale forte. Anche se l'intelligenza artificiale generale può soddisfare diverse esigenze umane, non esiste una relazione progressiva tra essa e l'intelligenza artificiale forte dotata di autocoscienza.

Nella realtà lo sviluppo tecnologico sembra essere questo.

Nel campo dell'intelligenza artificiale generale, gli esseri umani hanno proposto alcuni concetti e modelli architettonici. Il più famoso di questi dovrebbe essere AIXI, proposto da Marcus Hutter, uno studioso dell'Australian National University nel 2000. Si dice che questo modello di calcolo copra vari algoritmi e tecnologie, avvicinandosi all'essenza dell'intelligenza artificiale generale... Naturalmente, la complessità di questo algoritmo è così elevata che non può essere eseguito affatto, quindi è solo un concetto.

Negli ultimi due anni aziende come OpenAI e DeepMind hanno avviato ricerche specifiche sull'AGI; tra queste, DeepMind è considerata la pioniera che erediterà AIXI.

Dalle ricerche e dagli esperimenti sull'intelligenza artificiale generale condotti da DeepMind, possiamo vedere che la sua "generalità" si concentra principalmente su quattro aspetti: agenti intelligenti che affrontano ambienti complessi, gestiscono ambienti non familiari, affrontano variabili temporali ed elaborano attività con più fonti di informazione contemporaneamente.

E tutte queste tecnologie puntano nella stessa direzione, ovvero l'interazione tra agenti intelligenti e il mondo esterno. Forse può essere intesa come un programma di traduzione tra l'intelligenza artificiale e il mondo?

In altre parole, tutto quello che gli esseri umani hanno fatto è stato fornire "a quella persona" un programma di traduzione migliore, anziché insegnargli il cinese (che ovviamente è impossibile da insegnare). Pertanto, l'intelligenza generale, che è già di per sé una cosa molto misteriosa, mantiene ancora un confine netto con l'intelligenza artificiale forte.

Intelligenza artificiale forte e disperata: capacità e coscienza potrebbero essere agli antipodi

Portiamo l'esperimento della stanza cinese all'estremo e mettiamo l'intera stanza nel cervello di una persona.

Se una persona memorizza tutti i programmi di traduzione e riesce a ricordare e scrivere le risposte corrispondenti quando vede una qualsiasi parola cinese, significa che capisce il cinese? Per quanto riguarda gli esseri umani, la comprensione del cinese potrebbe essere naturale. Ma la macchina, per quanto veloce sia il processo e sensibile sia la risposta, non riesce comunque a comprendere un solo carattere cinese.

Per essere precisi, questa persona (l'agente) acquisisce la capacità di usare il cinese, ma non ha alcuna consapevolezza della lingua.

La distinzione tra capacità e coscienza è la questione più confusa quando immaginiamo la superintelligenza del futuro. Ma dal punto di vista del ragionamento logico realistico, possiamo scoprire che le due cose sono molto diverse e non hanno quasi nessuna connessione.

Le tecnologie di intelligenza artificiale come la rappresentazione della conoscenza, l'apprendimento automatico, la PNL, ecc. non fanno che rafforzare costantemente la capacità dell'intelligenza artificiale di imitare gli esseri umani (questa frase è un po' confusa), ma consentire all'intelligenza artificiale di imitare la coscienza umana è ancora un mistero per ora.

Senza causa non ci sarà alcun effetto. La "Teoria della stanza cinese" afferma che, secondo il percorso tecnologico seguito dagli esseri umani, la proposta dell'ascesa della coscienza di entità intelligenti sarà sempre priva delle condizioni di base.

Se questa conclusione fosse vera, allora sarebbe del tutto impossibile realizzare un'intelligenza artificiale forte. Possono solo continuare a dormire nel lungo fiume del tempo e dello spazio. Nell'immaginario umano sono come antichi dei e fantasmi delle leggende metropolitane.

A pensarci bene, lo trovo ancora piuttosto noioso.

Vincitore del Qingyun Plan di Toutiao e del Bai+ Plan di Baijiahao, del Baidu Digital Author of the Year 2019, del Baijiahao's Most Popular Author in the Technology Field, del Sogou Technology and Culture Author 2019 e del Baijiahao Quarterly Influential Creator 2021, ha vinto numerosi premi, tra cui il Sohu Best Industry Media Person 2013, il China New Media Entrepreneurship Competition Beijing 2015, il Guangmang Experience Award 2015, il China New Media Entrepreneurship Competition Finals 2015 e il Baidu Dynamic Annual Powerful Celebrity 2018.