Il braccio di ferro tra umano e macchina

Giacomo Ramella Pralungo;

Negli ultimi anni l’ intelligenza artificiale è divenuta un argomento di discussione particolarmente disputato da più soggetti, divisi da opinioni nettamente diverse: chi la vede come un’ opportunità e chi invece un pericolo. Giacomo Ramella Pralungo, autore di narrativa fantascientifica a sfondo sociale e articolista storico e culturale, esprime scetticismo su questa particolare invenzione che trova inutile seppur affascinante.

«Mi sono formato leggendo le opere di Herbert George Wells, Frank Herbert e Michael Crichton, grandi autori di fantascienza di cui mi reputo un umile discepolo.» esordisce con fermezza Giacomo Ramella Pralungo «E nelle loro opere il concetto è chiaro: l’ uomo deve rimanere al centro, le sue invenzioni fungere soltanto da supporto e sempre e comunque dipendere da lui e garantire il suo bene.».

Non usa mezzi termini, parla con parole semplici e dirette e in difesa di un valore per lui irrinunciabile: «Il computer è stato un’ invenzione molto utile, dalle grandi capacità, su questo siamo tutti concordi. Io stesso me ne servo moltissimo per scrivere e comunicare. Difficilmente potrei arrivare adeguatamente alla gente, se ne fossi sprovvisto. Ma il principio stesso di intelligenza artificiale mi fa rabbrividire.». Gliene chiediamo il motivo, e dopo un’ attenta riflessione parla valutando con cura le parole: «E’ per il concetto stesso di intelligenza, ossia la capacità di imparare, capire e affrontare nuove situazioni. Si tratta della caratteristica fondamentale delle forme di vita, che negli umani si è evoluto al punto di sviluppare la consapevolezza, ossia il sapere di sapere. Io ho sempre trovato paradossale soltanto l’ idea che un umano pensi di realizzare uno strumento, nel nostro caso un computer, a immagine e somiglianza della propria mente, e rendendolo capace di prestazioni infinitamente superiori e immediate. Dovremmo piuttosto avere la saggezza di migliorare noi stessi, che siamo la vera tecnologia!».

Un supercomputer addetto ai programmi IA;

Lo scrittore avanza tra le strade del borgo storico del Ricetto di Candelo, struttura fortificata risalente all’ alto Medioevo, e racconta dei grandi autori da cui ha sempre tratto ispirazione per i propri lavori. Herbert George Wells, professore universitario britannico e autore forgiatosi nella tarda epoca vittoriana, denunciò con polemica la lotta di classe, il senso di superiorità tipico dell’ umanità e l’ impiego della scienza a fini di prevaricazione: «Di lui ho letto ‘La macchina del tempo’, ‘La guerra dei mondi’, ‘L’ isola del dottor Moreau’ e ‘L’ uomo invisibile’. Grandi opere che, ne sono fermamente convinto, dovrebbero essere insegnate a scuola. Ho sempre molto apprezzato il suo stile, di facile lettura e senza paroloni o astrusità. Secondo lui, l’ uomo è un essere intelligente ma portato spesso ad allontanarsi dalla via più giusta, e la scienza diviene buona o cattiva a seconda dell’ impiego che ne facciamo noi: anche un semplice coltello da cucina è utile se tagliamo una cotoletta, ma se uccidiamo qualcuno diventa ben più pericoloso. Basta poco, e tutto cambia (risata)!». Si indica la testa: «Tutto nasce da qui, dalla nostra coscienza.». Frank Herbert, scrittore, giornalista e fotografo statunitense dai grandi interessi per la storia, l’ antropologia, le discipline orientali e la psicologia, è invece ricordato soprattutto per la serie di Dune: «Devo molto della mia mentalità ai sei romanzi ambientati nel futuro dell’ umanità e sul pianeta desertico Arrakis, detto anche Dune, che per l’ Impero galattico ha un valore fondamentale perché unica fonte del Melange, una sostanza dalle numerose applicazioni. In questa serie non appaiono tecnologie supersviluppate e neppure computer o organismi cibernetici: il genere umano le ha bandite dopo essere stato dominato per lungo tempo dalle cosiddette macchine pensanti, e ha sviluppato una società incentrata sul pieno sviluppo delle capacità fisiche e mentali partendo da individui particolarmente dotati. In questi romanzi la sola idea di concepire una macchina che somigli ad una mente umana è imperdonabile.». Michael Crichton, medico, scrittore, sceneggiatore, regista e produttore statunitense, è invece passato alla storia per alcuni romanzi di successo ma soprattutto per «Jurassic Park» e «Il mondo perduto»: «Ebbe l’ idea di denunciare la genetica a fini industriali e commerciali fin dall’ inizio degli Anni Novanta. Ricordo che nelle prime pagine di ‘Jurassic Park’ scrisse apertamente che la generazione di prodotti biologici come elefanti in miniatura come animali domestici oppure piante dal tronco quadrato per facilitare la produzione di legna da ardere erano tra le cose considerate dall’ imprenditoria di allora, più in generale uno sconsiderato dell’ ingegneria genetica avrebbe provocato danni ben peggiori della bomba atomica. Io lo credo vero!».

Quanto all’ intelligenza artificiale, Giacomo è categorico. Si sofferma, contempla per un po’ l’ atmosfera millenaria di questo centro storico biellese, e parla senza dubbi: «Ho studiato l’ argomento per curiosità, e mi verrà utile per alcune storie fantascientifiche future. Ciò che so mi è già stato utile per il primo lavoro che ho pubblicato, ‘Cuore di droide’. Da un punto di vista tecnico, quanto noi oggi chiamiamo intelligenza artificiale mi affascina, perché sa già fare molte cose benché si noti la differenza da quanto siamo in grado di realizzare noi.». Il paradosso di quest’ invenzione sta proprio in ciò che è stata concepita per essere e saper fare: «Prima di tutto è ancora presto per parlare di intelligenza artificiale, perché i programmi attualmente esistenti ancora non sono autonomi e indipendenti, dipendono da noi e dalle nostre richieste. Il pericolo quindi sta nel fatto che gli faremo fare tutto ciò che possiamo e quindi dovremmo fare noi stessi. Per mancanza di tempo oppure per pigrizia impiegheremo l’ intelligenza artificiale, lasciando paralizzare la nostra mente con tutte le sue immense capacità. Un pericolo da non sottovalutare.».

L’ autore di fantascienza teme la comparsa di un’ intelligenza artificiale autonoma e indipendente come se ne sono viste tante nel suo genere? La sua risposta è lapidaria: «Sì!». Spiega che la ricerca scientifica sta cercando di arrivare proprio a questo risultato: «Un prodotto perfetto da un punto di vista tecnico, ma profondamente discutibile sotto quello pratico e morale. Un conto è affidarsi, ed entro ragionevoli limiti, ad un computer da noi dipendente. Tutt’ altra cosa è invece interagire con una mente tecnologica capace di milioni di operazioni estremamente precise, capace di recepire e prendere l’ iniziativa.». Attualmente, però, il risultato pare ancora molto lontano: «La questione se un’ intelligenza artificiale possa raggiungere la consapevolezza di sé stessa o la dimensione emotiva in questo momento rimane controversa. Io rabbrividisco al solo pensiero. I programmi in uso non riuscirebbero probabilmente a qualificarsi. Sono molto potenti, eppure rimangono essenzialmente immagazzinatori di dati, dispositivi per la coordinazione e ritrovamento degli stessi. In un futuro non molto distante però potrebbe cambiare tutto...». Gli domandiamo se teme una rivolta dell’ intelligenza artificiale o un suo impiego nei teatri di guerra, e la sua espressione denota preoccupazione: «Tutto può essere, non si deve escludere niente a priori. Un altro motivo importante per cui guardo questo soggetto con preoccupazione è la serie di Terminator, con Arnold Schwarzenegger, con la quale sono cresciuto. Oltre le abituali scene di azione e l’ ostentazione del suo fisico statuario è evidente il messaggio di un programma militare, nei film chiamato Skynet, che apprende a ritmo geometrico e diviene autonomo per poi decretare la fine del mondo, sterminando il genere umano con il lancio di bombe atomiche.». Ma la serie cinematografica fu prodotta tra gli Anni Ottanta e gli inizi del Duemila, ora però lui vede un rischio più subdolo e raffinato: «Erano gli anni della Guerra fredda, oggi è tutto diverso. Un eventuale Skynet di oggi non avrebbe più bisogno di perpetrare un genocidio nucleare per risolvere il problema degli umani: gli basterebbe gestirci in ogni cosa, dalle incombenze della vita quotidiana a quella lavorativa, e perfino prendendo decisioni al posto nostro. Ci ritroveremmo quindi a prendere il sole tutto il giorno in spiaggia sorseggiando tè freddo. Diverremo come la cicala, con l’ intelligenza artificiale che sarà invece la nostra formica (risata amara). A questo proposito cito sempre le parole di Elon Musk: ‘Arriverà il punto in cui non sarà più necessario alcun lavoro: puoi avere un lavoro se lo desideri, per soddisfazione personale. Ma l’ intelligenza artificiale farà tutto. E’ che sia un bene sia un male, una delle sfide del futuro sarà come trovare un significato nella vita.’.».

Occorre peraltro precisare che lo sviluppo dell’ intelligenza artificiale prevede non solo programmi a cui fare impiego per mezzo del computer, ma anche la realizzazione di androidi, automi di fattezze umane dotati di arti flessibili e capaci di rispondere a comandi provenienti dall’ esterno, prodotti in modo tale da favorire l’ interazione con gli umani. Il primo prototipo, Wabot-1, venne prodotto nel 1973 in Giappone. Successivamente, nel 1990, l’ MIT creò Kismet, il primo androide capace di simulare emozioni: «Oggi, alcuni, come quelli realizzati da Hiroshi Ishiguro, sono così realistici da sembrare repliche umane. E secondo il futurologo Ian Pearson, il numero di androidi potrebbe aumentare drasticamente nei prossimi trent’ anni. Sono già impiegati in vari settori, come l’ accoglienza negli alberghi e l’ assistenza ospedaliera.». E secondo un sondaggio condotto in Gran Bretagna il settantuno percento delle persone teme lo sviluppo delle tecnologie legate all’ intelligenza artificiale, e un altro cinquantanove crede che gli androidi possano diventare una minaccia per l’ umanità: «In particolare, le preoccupazioni riguardano la perdita di posti di lavoro, con un aumento delle disuguaglianze, una riduzione dei salari e la scomparsa di molte figure professionali. Parliamo quindi di un prodotto destinato a provocare una vera e propria rivoluzione sociale, un braccio di ferro tra umano e macchina.».

Un esempio che Giacomo tiene a fare delle pericolose derive a cui siamo a rischio in tema di intelligenza artificiale riguarda lo sviluppo dell’ influencer virtuale: «Io sono scettico dinnanzi al fenomeno stesso degli influencer umani, perché si tratta di una moda esasperata, di divi pubblicitari che vengono osannati e imitati oltre ogni ragionevolezza. Ma quelli virtuali mi fanno accapponare la pelle: sono personaggi creati al computer ed esistenti in rete. Sono letteralmente modellati da più fonti di ispirazione, reali o immaginarie, e generati dalla convergenza tra tecnologie e discipline come intelligenza e grafica artificiali, realtà aumentata, processo di registrazione del movimento del corpo e apprendimento automatico.». I risultati sono sempre più realistici e interattivi, capaci di generare contenuti originali e comunicare con il pubblico: «Pensate che esiste un’ influencer virtuale di nome Miquela che ha ben tre milioni di seguaci. Migliaia di uomini le fanno la corte, scrivendole che è bellissima, che la amano e, addirittura, che vogliono sposarla. Non so se ridere o piangere dinnanzi a uomini che civettano con un computer e si innamorano di un programma virtuale, e a ragazzine che prendono questo e altri come modello, imitandone modo di parlare, abbigliamento e comportamento!». Per lo scrittore questo dramma umano è dovuto ad un problema molto semplice, costituito da noi stessi: «Preferisco nettamente un influencer umano piuttosto che uno digitale. Questo mondo è creato da noi, l’ essere umano. Lo Spirito Santo è impegnato altrove. Abbiamo costituito una società in cui l’ ignoranza è una moda e l’ intelligenza e l’ educazione reperti da museo. La mente umana è ancora soggetta a mostruosi inganni. Una società che non sa o non vuole distinguere una persona vera da una inventata è all’ apice della decadenza, soprattutto quando chi critica queste tendenze viene tacciato di essere retrogrado.».

Tra tanti che temono l’ umanizzazione dell’ intelligenza artificiale, Giacomo paventa invece l’ opposto, ossia l’ automazione degli esseri umani: «Bisogna continuare a educare per evitare questo rischio, i giovani devono leggere, studiare e capire. Gli anni a scuola sono preziosi, io ho avuto la fortuna di essere allievo di insegnanti estremamente illuminati che mi hanno sempre detto che il loro primo dovere era farmi capire ciò che insegnavano. La gente non deve parlare con questi programmi, coltivi piuttosto i sentimenti e la consapevolezza, concepisca idee, poiché se non saremo noi adulti a porre un limite, in un futuro vicino ci troveremo con una generazione che saprà tutto fuorché essere umana e viva, e quindi stare al mondo.». Senza mezzi termini, afferma che non sempre la possibilità di conseguire un risultato significa che lo si debba per forza realizzare. Anziché pensare all’ intelligenza artificiale andrebbe sviluppata quella umana: «Psicologi, neuroscienziati ed esperti di ogni disciplina sono concordi nel dire che in ognuno di noi, nella nostra mente, esistono grandi capacità che dobbiamo coltivare. Il cervello umano supera nettamente i computer, ma dobbiamo usarlo. Lo scorso 17 aprile alle ore 21:00 il professor Alessandro Barbero, docente emerito dell’ Università di Vercelli con cui una decina di anni fa ho avuto personalmente a che fare con una corrispondenza via posta elettronica per alcune mie ricerche, venne al Duomo di Biella per una lezione su San Francesco su cui ha scritto uno dei suoi ultimi libri. E detto tra noi lui stesso è contro l’ intelligenza artificiale (risata)! Durante l’ attesa ho stretto amicizia con una giovane signora e il suo bambino, di circa dieci anni. Durante la conversazione ho riscontrato in questo fanciullo un potenziale non da poco, un’ elevata intelligenza accompagnata da altrettanta curiosità e interessi culturali. Le facoltà che ho incontrato solo raramente in persone speciali e ben più adulte, e consapevolmente coltivate, erano davanti a me in questo gradevolissimo ragazzino. Ho personalmente avuto una prova ulteriore di quanto sia più urgente e meritorio dedicare tempo, risorse umane, discipline e stanziamenti a beneficio di ciò che la natura ci ha dato. Altro che macchine pensanti!».