Il braccio di ferro tra umano e macchina

Giacomo Ramella Pralungo;

Negli ultimi anni l’ intelligenza artificiale è divenuta un argomento di discussione particolarmente disputato da più soggetti, divisi da opinioni nettamente diverse: chi la vede come un’ opportunità e chi invece un pericolo. Giacomo Ramella Pralungo, autore di narrativa fantascientifica a sfondo sociale e articolista storico e culturale, esprime scetticismo su questa particolare invenzione che trova inutile seppur affascinante.

«Mi sono formato leggendo le opere di Herbert George Wells, Frank Herbert e Michael Crichton, grandi autori di fantascienza di cui mi reputo un umile discepolo.» esordisce con fermezza Giacomo Ramella Pralungo «E nelle loro opere il concetto è chiaro: l’ uomo deve rimanere al centro, le sue invenzioni fungere soltanto da supporto e sempre e comunque dipendere da lui e garantire il suo bene.».

Non usa mezzi termini, parla con parole semplici e dirette e in difesa di un valore per lui irrinunciabile: «Il computer è stato un’ invenzione molto utile, dalle grandi capacità, su questo siamo tutti concordi. Io stesso me ne servo moltissimo per scrivere e comunicare. Difficilmente potrei arrivare adeguatamente alla gente, se ne fossi sprovvisto. Ma il principio stesso di intelligenza artificiale mi fa rabbrividire.». Gliene chiediamo il motivo, e dopo un’ attenta riflessione parla valutando con cura le parole: «E’ per il concetto stesso di intelligenza, ossia la capacità di imparare, capire e affrontare nuove situazioni. Si tratta della caratteristica fondamentale delle forme di vita, che negli umani si è evoluto al punto di sviluppare la consapevolezza, ossia il sapere di sapere. Io ho sempre trovato paradossale soltanto l’ idea che un umano pensi di realizzare uno strumento, nel nostro caso un computer, a immagine e somiglianza della propria mente, e rendendolo capace di prestazioni infinitamente superiori e immediate. Dovremmo piuttosto avere la saggezza di migliorare noi stessi, che siamo la vera tecnologia!».

Un supercomputer addetto ai programmi IA;

Lo scrittore avanza tra le strade del borgo storico del Ricetto di Candelo, struttura fortificata risalente all’ alto Medioevo, e racconta dei grandi autori da cui ha sempre tratto ispirazione per i propri lavori. Herbert George Wells, professore universitario britannico e autore forgiatosi nella tarda epoca vittoriana, denunciò con polemica la lotta di classe, il senso di superiorità tipico dell’ umanità e l’ impiego della scienza a fini di prevaricazione: «Di lui ho letto ‘La macchina del tempo’, ‘La guerra dei mondi’, ‘L’ isola del dottor Moreau’ e ‘L’ uomo invisibile’. Grandi opere che, ne sono fermamente convinto, dovrebbero essere insegnate a scuola. Ho sempre molto apprezzato il suo stile, di facile lettura e senza paroloni o astrusità. Secondo lui, l’ uomo è un essere intelligente ma portato spesso ad allontanarsi dalla via più giusta, e la scienza diviene buona o cattiva a seconda dell’ impiego che ne facciamo noi: anche un semplice coltello da cucina è utile se tagliamo una cotoletta, ma se uccidiamo qualcuno diventa ben più pericoloso. Basta poco, e tutto cambia (risata)!». Si indica la testa: «Tutto nasce da qui, dalla nostra coscienza.». Frank Herbert, scrittore, giornalista e fotografo statunitense dai grandi interessi per la storia, l’ antropologia, le discipline orientali e la psicologia, è invece ricordato soprattutto per la serie di Dune: «Devo molto della mia mentalità ai sei romanzi ambientati nel futuro dell’ umanità e sul pianeta desertico Arrakis, detto anche Dune, che per l’ Impero galattico ha un valore fondamentale perché unica fonte del Melange, una sostanza dalle numerose applicazioni. In questa serie non appaiono tecnologie supersviluppate e neppure computer o organismi cibernetici: il genere umano le ha bandite dopo essere stato dominato per lungo tempo dalle cosiddette macchine pensanti, e ha sviluppato una società incentrata sul pieno sviluppo delle capacità fisiche e mentali partendo da individui particolarmente dotati. In questi romanzi la sola idea di concepire una macchina che somigli ad una mente umana è imperdonabile.». Michael Crichton, medico, scrittore, sceneggiatore, regista e produttore statunitense, è invece passato alla storia per alcuni romanzi di successo ma soprattutto per «Jurassic Park» e «Il mondo perduto»: «Ebbe l’ idea di denunciare la genetica a fini industriali e commerciali fin dall’ inizio degli Anni Novanta. Ricordo che nelle prime pagine di ‘Jurassic Park’ scrisse apertamente che la generazione di prodotti biologici come elefanti in miniatura come animali domestici oppure piante dal tronco quadrato per facilitare la produzione di legna da ardere erano tra le cose considerate dall’ imprenditoria di allora, più in generale uno sconsiderato dell’ ingegneria genetica avrebbe provocato danni ben peggiori della bomba atomica. Io lo credo vero!».

Quanto all’ intelligenza artificiale, Giacomo è categorico. Si sofferma, contempla per un po’ l’ atmosfera millenaria di questo centro storico biellese, e parla senza dubbi: «Ho studiato l’ argomento per curiosità, e mi verrà utile per alcune storie fantascientifiche future. Ciò che so mi è già stato utile per il primo lavoro che ho pubblicato, ‘Cuore di droide’. Da un punto di vista tecnico, quanto noi oggi chiamiamo intelligenza artificiale mi affascina, perché sa già fare molte cose benché si noti la differenza da quanto siamo in grado di realizzare noi.». Il paradosso di quest’ invenzione sta proprio in ciò che è stata concepita per essere e saper fare: «Prima di tutto è ancora presto per parlare di intelligenza artificiale, perché i programmi attualmente esistenti ancora non sono autonomi e indipendenti, dipendono da noi e dalle nostre richieste. Il pericolo quindi sta nel fatto che gli faremo fare tutto ciò che possiamo e quindi dovremmo fare noi stessi. Per mancanza di tempo oppure per pigrizia impiegheremo l’ intelligenza artificiale, lasciando paralizzare la nostra mente con tutte le sue immense capacità. Un pericolo da non sottovalutare.».

L’ autore di fantascienza teme la comparsa di un’ intelligenza artificiale autonoma e indipendente come se ne sono viste tante nel suo genere? La sua risposta è lapidaria: «Sì!». Spiega che la ricerca scientifica sta cercando di arrivare proprio a questo risultato: «Un prodotto perfetto da un punto di vista tecnico, ma profondamente discutibile sotto quello pratico e morale. Un conto è affidarsi, ed entro ragionevoli limiti, ad un computer da noi dipendente. Tutt’ altra cosa è invece interagire con una mente tecnologica capace di milioni di operazioni estremamente precise, capace di recepire e prendere l’ iniziativa.». Attualmente, però, il risultato pare ancora molto lontano: «La questione se un’ intelligenza artificiale possa raggiungere la consapevolezza di sé stessa o la dimensione emotiva in questo momento rimane controversa. Io rabbrividisco al solo pensiero. I programmi in uso non riuscirebbero probabilmente a qualificarsi. Sono molto potenti, eppure rimangono essenzialmente immagazzinatori di dati, dispositivi per la coordinazione e ritrovamento degli stessi. In un futuro non molto distante però potrebbe cambiare tutto...». Gli domandiamo se teme una rivolta dell’ intelligenza artificiale o un suo impiego nei teatri di guerra, e la sua espressione denota preoccupazione: «Tutto può essere, non si deve escludere niente a priori. Un altro motivo importante per cui guardo questo soggetto con preoccupazione è la serie di Terminator, con Arnold Schwarzenegger, con la quale sono cresciuto. Oltre le abituali scene di azione e l’ ostentazione del suo fisico statuario è evidente il messaggio di un programma militare, nei film chiamato Skynet, che apprende a ritmo geometrico e diviene autonomo per poi decretare la fine del mondo, sterminando il genere umano con il lancio di bombe atomiche.». Ma la serie cinematografica fu prodotta tra gli Anni Ottanta e gli inizi del Duemila, ora però lui vede un rischio più subdolo e raffinato: «Erano gli anni della Guerra fredda, oggi è tutto diverso. Un eventuale Skynet di oggi non avrebbe più bisogno di perpetrare un genocidio nucleare per risolvere il problema degli umani: gli basterebbe gestirci in ogni cosa, dalle incombenze della vita quotidiana a quella lavorativa, e perfino prendendo decisioni al posto nostro. Ci ritroveremmo quindi a prendere il sole tutto il giorno in spiaggia sorseggiando tè freddo. Diverremo come la cicala, con l’ intelligenza artificiale che sarà invece la nostra formica (risata amara). A questo proposito cito sempre le parole di Elon Musk: ‘Arriverà il punto in cui non sarà più necessario alcun lavoro: puoi avere un lavoro se lo desideri, per soddisfazione personale. Ma l’ intelligenza artificiale farà tutto. E’ che sia un bene sia un male, una delle sfide del futuro sarà come trovare un significato nella vita.’.».

Occorre peraltro precisare che lo sviluppo dell’ intelligenza artificiale prevede non solo programmi a cui fare impiego per mezzo del computer, ma anche la realizzazione di androidi, automi di fattezze umane dotati di arti flessibili e capaci di rispondere a comandi provenienti dall’ esterno, prodotti in modo tale da favorire l’ interazione con gli umani. Il primo prototipo, Wabot-1, venne prodotto nel 1973 in Giappone. Successivamente, nel 1990, l’ MIT creò Kismet, il primo androide capace di simulare emozioni: «Oggi, alcuni, come quelli realizzati da Hiroshi Ishiguro, sono così realistici da sembrare repliche umane. E secondo il futurologo Ian Pearson, il numero di androidi potrebbe aumentare drasticamente nei prossimi trent’ anni. Sono già impiegati in vari settori, come l’ accoglienza negli alberghi e l’ assistenza ospedaliera.». E secondo un sondaggio condotto in Gran Bretagna il settantuno percento delle persone teme lo sviluppo delle tecnologie legate all’ intelligenza artificiale, e un altro cinquantanove crede che gli androidi possano diventare una minaccia per l’ umanità: «In particolare, le preoccupazioni riguardano la perdita di posti di lavoro, con un aumento delle disuguaglianze, una riduzione dei salari e la scomparsa di molte figure professionali. Parliamo quindi di un prodotto destinato a provocare una vera e propria rivoluzione sociale, un braccio di ferro tra umano e macchina.».

Un esempio che Giacomo tiene a fare delle pericolose derive a cui siamo a rischio in tema di intelligenza artificiale riguarda lo sviluppo dell’ influencer virtuale: «Io sono scettico dinnanzi al fenomeno stesso degli influencer umani, perché si tratta di una moda esasperata, di divi pubblicitari che vengono osannati e imitati oltre ogni ragionevolezza. Ma quelli virtuali mi fanno accapponare la pelle: sono personaggi creati al computer ed esistenti in rete. Sono letteralmente modellati da più fonti di ispirazione, reali o immaginarie, e generati dalla convergenza tra tecnologie e discipline come intelligenza e grafica artificiali, realtà aumentata, processo di registrazione del movimento del corpo e apprendimento automatico.». I risultati sono sempre più realistici e interattivi, capaci di generare contenuti originali e comunicare con il pubblico: «Pensate che esiste un’ influencer virtuale di nome Miquela che ha ben tre milioni di seguaci. Migliaia di uomini le fanno la corte, scrivendole che è bellissima, che la amano e, addirittura, che vogliono sposarla. Non so se ridere o piangere dinnanzi a uomini che civettano con un computer e si innamorano di un programma virtuale, e a ragazzine che prendono questo e altri come modello, imitandone modo di parlare, abbigliamento e comportamento!». Per lo scrittore questo dramma umano è dovuto ad un problema molto semplice, costituito da noi stessi: «Preferisco nettamente un influencer umano piuttosto che uno digitale. Questo mondo è creato da noi, l’ essere umano. Lo Spirito Santo è impegnato altrove. Abbiamo costituito una società in cui l’ ignoranza è una moda e l’ intelligenza e l’ educazione reperti da museo. La mente umana è ancora soggetta a mostruosi inganni. Una società che non sa o non vuole distinguere una persona vera da una inventata è all’ apice della decadenza, soprattutto quando chi critica queste tendenze viene tacciato di essere retrogrado.».

Tra tanti che temono l’ umanizzazione dell’ intelligenza artificiale, Giacomo paventa invece l’ opposto, ossia l’ automazione degli esseri umani: «Bisogna continuare a educare per evitare questo rischio, i giovani devono leggere, studiare e capire. Gli anni a scuola sono preziosi, io ho avuto la fortuna di essere allievo di insegnanti estremamente illuminati che mi hanno sempre detto che il loro primo dovere era farmi capire ciò che insegnavano. La gente non deve parlare con questi programmi, coltivi piuttosto i sentimenti e la consapevolezza, concepisca idee, poiché se non saremo noi adulti a porre un limite, in un futuro vicino ci troveremo con una generazione che saprà tutto fuorché essere umana e viva, e quindi stare al mondo.». Senza mezzi termini, afferma che non sempre la possibilità di conseguire un risultato significa che lo si debba per forza realizzare. Anziché pensare all’ intelligenza artificiale andrebbe sviluppata quella umana: «Psicologi, neuroscienziati ed esperti di ogni disciplina sono concordi nel dire che in ognuno di noi, nella nostra mente, esistono grandi capacità che dobbiamo coltivare. Il cervello umano supera nettamente i computer, ma dobbiamo usarlo. Lo scorso 17 aprile alle ore 21:00 il professor Alessandro Barbero, docente emerito dell’ Università di Vercelli con cui una decina di anni fa ho avuto personalmente a che fare con una corrispondenza via posta elettronica per alcune mie ricerche, venne al Duomo di Biella per una lezione su San Francesco su cui ha scritto uno dei suoi ultimi libri. E detto tra noi lui stesso è contro l’ intelligenza artificiale (risata)! Durante l’ attesa ho stretto amicizia con una giovane signora e il suo bambino, di circa dieci anni. Durante la conversazione ho riscontrato in questo fanciullo un potenziale non da poco, un’ elevata intelligenza accompagnata da altrettanta curiosità e interessi culturali. Le facoltà che ho incontrato solo raramente in persone speciali e ben più adulte, e consapevolmente coltivate, erano davanti a me in questo gradevolissimo ragazzino. Ho personalmente avuto una prova ulteriore di quanto sia più urgente e meritorio dedicare tempo, risorse umane, discipline e stanziamenti a beneficio di ciò che la natura ci ha dato. Altro che macchine pensanti!».

Conversando su «Cuore di droide»

Giacomo Ramella Pralungo

Giacomo Ramella Pralungo tiene in mano una copia di «Cuore di droide», libro di fantascienza di sessantasei pagine, edito sia in formato cartaceo che elettronico da www.lulu.com, con un ampio sorriso. Proprio non riesce a nascondere l’ emozione: «Sapete che effetto mi ha fatto vederlo la prima volta, leggere il mio nome stampato sulla copertina?». Sostiene che sia un po’ come tenere in braccio per la prima volta un figlio, qualcosa scaturito dal suo essere, e che ha fatto crescere.

«Cuore di droide» è la sua prima pubblicazione. Come ha avuto l’ idea?

«Nel 2012 scelsi di candidarmi al Premio Robot di Milano, un concorso letterario annuale di genere fantastico e fantascientifico bandito dalla rivista specializzata Robot, aderente alla casa editrice Delos Books, a cui si partecipa con due racconti brevi. In conformità con il titolo di questo bando ho pensato di scrivere due storie basate sui robot. Purtroppo non vinsi quell’ edizione, ma divenni amico tramite posta elettronica del finalista, Dario Tonani, con cui ebbi il grande piacere di complimentarmi. Siamo in contatto ancora oggi.

In un secondo momento pensai che avrei potuto pubblicare comunque i due racconti, ‘Essere o non essere’ e ‘Il droide di Troia’, in un unico testo, in modo tale da confermare l’ appassionante sforzo compiuto nelle settimane precedenti. ‘Cuore di droide’ nacque semplicemente così.».

La versione cartacea del libro;

Lei afferma sempre di scrivere una storia basandosi su precisi principi e considerazioni. Di che cosa parla quindi in questo libro?

«Da ragazzino ebbi l’ opportunità di seguire la serie cinematografica di ‘Terminator’, con Arnold Schwarzenegger nei panni di vari T-800, sofisticati robot assassini, e il telefilm ‘Star Trek: The Next Generation’, con Brent Spiner nella parte del tenente-comandante Data, un androide a immagine e somiglianza dell’ uomo. Nella serie di ‘Terminator’, il tema dell’ intelligenza artificiale assume toni negativi, altamente drammatici, poiché la storia si basa sulla rivolta della macchina contro il genere umano, che spinge sull’ orlo dell’ estinzione attraverso una mostruosa guerra nucleare, mentre in ‘Star Trek: The Next Generation’ si basa su un certo ottimismo, dal momento che Data, in grado di imparare, di capire e affrontare nuove situazioni, in altre parole di evolversi, è affascinato dagli uomini tra cui vive e fa di tutto per essere sempre più umano egli stesso.

In ‘Essere o non essere’ e ‘Il droide di Troia’ ho scelto proprio questi due temi: nel primo racconto punto sul grande valore della natura umana, mentre nel secondo parlo del pericolo della tecnologia militare, dotata di enorme potenza ma fredda, priva di remore e sentimenti.».

In sostanza, il testo rispecchia la sua idea di sviluppo tecnologico?

Il Terminator, protagonista di una fortunata serie di film;

«Esatto. Io ho sempre sostenuto che il progresso non sia mai da confondere con lo sviluppo materiale, che ne è solamente una parte. Il progresso si fonda sullo sviluppo interiore di una persona insieme a quello materiale. Lo sviluppo materiale soltanto non basta, e possiamo nominarlo solo quando le nostre invenzioni si rivelano utili e non nocive. Soprattutto, un’ invenzione di qualsiasi tipo deve rimanere uno strumento nelle nostre mani. Che l’ essere umano non perda mai la centralità nella propria esistenza!».

Può anticiparci qualcosa sulla trama?

Il formato elettronico del libro;

«‘Essere o non essere’, il primo racconto, si ambienta nel 1993, nello Stato di New York. La vicenda ruota attorno agli studi del professor Noriyuki Iwamatsu, grande genio di cibernetica e robotica di discendenza giapponese formatosi alla Columbia University. Dopo anni di ricerche è finalmente in grado di realizzare il primo droide funzionante della storia, ma gli manca ancora uno schema neuronale che faccia base al modello del cervello elettronico dell’ automa, ragion per cui chiede a un suo giovane amico, Richard Flanagan, di scansionare il suo encefalo. In un secondo momento, però, il dottor Kieran Cassidy, avido capitalista e presidente di un colosso tecnologico di Newark, e vecchia conoscenza del cibernetico nippoamericano, irrompe sulla scena per rubargli l’ invenzione e fare una fortuna.

‘Il droide di Troia’ si svolge invece nel 1955, nel pieno della Guerra fredda. Draga, droide militare costruito dai servizi segreti del pianeta Hōtonam, raggiunge la Terra con il compito di distruggerla servendosi di una possente fonte di energia, aumentandone gli effetti distruttivi tramite una massiccia dose di minerale che custodisce nei propri sistemi. La sua capacità di assumere le sembianze e le memorie altrui lo rende un avversario formidabile. La sua presenza viene però scoperta dalla CIA e dalle spie del KGB sul suolo statunitense, e inizia una caccia serrata per catturarlo e verificarne la provenienza, in quanto entrambi gli schieramenti lo ritengono un’ arma sviluppata dal blocco nemico. La CIA scarcera il capitano Raymond Laurel, internato a Fort Leavenworth per aver provocato la morte della propria squadra nel tentativo di uccidere alcune spie sovietiche durante una missione segreta in Europa orientale, e gli promette il condono della pena e la riammissione nell’ esercito se riuscirà a fermare e catturare Draga, diretto all’ installazione dove è custodito l’ apocalittico ordigno al cobalto realizzato dal Progetto Manhattan, a cui lo stesso Laurel ha partecipato, ma senza ucciderlo. Lo scontro si rivelerà durissimo, e il capitano conterà a sorpresa sull’ aiuto del caporale Aleksej Sedov, dei servizi segreti sovietici.».

Droide è un termine più insolito di ‘automa’, ‘robot’ o ‘androide’.

«E’ vero. Sono poche le opere di fantascienza in cui viene citato, tra cui quella di ‘Guerre stellari’. Durante le mie ricerche, comunque, ho scoperto che sul piano tecnico e di programmazione si pone a metà strada tra il robot e l’ androide. Il termine mi ha affascinato, e ho pensato di utilizzarlo in questa narrazione pur attribuendogli caratteristiche più proprie dell’ androide.».

E’ vero che lei è contrario alle intelligenze artificiali?

Data, personaggio dell' universo di Star Trek;

«Oh sì, assolutamente! Come dicevo prima, io attribuisco un netto primato all’ essere umano. L’ uomo e la donna hanno in sé tutto quello che occorre, e secondo il parere di alcuni valenti scienziati evoluzionisti dobbiamo ancora maturare moltissime abilità mentali e fisiche. In noi esistono dimensioni che nemmeno immaginiamo e che attendono di essere scoperte, quindi credo che anziché elucubrare come matti sullo sviluppo delle intelligenze artificiali dovremmo impegnarci tanto di più a migliorare noi stessi. La vera tecnologia da studiare siamo noi stessi! Un mondo di uomini e robot? Pura follia, per carità (risata)!».

Eppure ha espresso posizioni molto più aperte circa l’ impiego di protesi artificiali, come mani, braccia e gambe.

«Sì, certamente. Componenti tecniche del genere compensano una menomazione, e soprattutto rispondono direttamente al nostro cervello, alla nostra volontà. Un’ intelligenza artificiale invece è autonoma e indipendente, ha una volontà intrinseca: è proprio quello che mi spaventa.».

Ritiene possibile arrivare un giorno a forme di vita artificiale come i T-800 e il tenente-comandante Data?

«A dispetto delle intense ricerche credo proprio di no. Prima dovremmo conoscere i meccanismi del nostro cervello e della nostra mente, ma oggi ci sfuggono ancora molti concetti fondamentali in materia. Ma anche se un giorno riuscissimo ad averne una conoscenza totale ritengo improbabile che si possano riprodurre le dinamiche di un cervello biologico in uno elettronico. Lasciamo le macchine ai libri di fantascienza (risata)!».

Grazie.

«Grazie a lei.».