Nell’aprile dello scorso anno, uscì per le edizioni Salvioni il secondo libro di aforismi di Livio Zanolari: Cavie online.
In quell’occasione intervistammo l’autore (https://ilmoesano.ch/cavie-online-2/) che rispose in modo esauriente alle nostre domande. A distanza di un anno abbiamo pensato di riprendere l’argomento con una seconda intervista.
Livio Zanolari ha avuto una vita professionale molto legata alla comunicazione e alla sua grande evoluzione in molti ambiti: giornalista radiotelevisivo, esperto di comunicazione in due dipartimenti federali al servizio di sei consiglieri federali, insegnante di scuola secondaria e docente al corso di master dell’USI su “Gli strumenti classici della comunicazione esterna”.
Zanolari segue molto da vicino il rincorrersi di novità nel campo dell’alta tecnologia, specie negli ambiti della comunicazione, dell’educazione, della lingua, dei nuovi indirizzi culturali e sociali. Nelle sue spiegazioni Zanolari ricorre spesso agli aforismi, che consentono di concentrare il messaggio in pochissime parole.
1. Lei scrive che i sistemi di IA generativa “si fanno strada da soli”. Che cosa intende dire, e quali sono i pericoli di una tecnologia che “si muove da sé”?
Ricorro a un aforisma per contestualizzare questa affermazione: “La tecnologia rincorre se stessa, perché non è mai paga.” La riflessione parte dal cuore immateriale dei sistemi informatici: il software. È grazie ad esso che il computer può svolgere una molteplicità di specifiche operazioni, dall’archiviazione dei dati all’elaborazione di testi, dalla gestione finanziaria all’interazione con gli utenti, fino alla sicurezza informatica o ai giochi digitali.
Fino a pochi anni fa, il software operava su precise istruzioni dell’uomo, con un inizio e una fine ben definiti. Oggi, con l’avvento dell’IA generativa assistiamo a un ulteriore cambiamento radicale: i sistemi più evoluti sono in grado di creare nuovi contenuti e generare idee autonomamente, basandosi sui dati con cui sono stati addestrati. In questo senso “si fanno strada da soli”: non seguono più solo le precise istruzioni, com’era il caso con i software tradizionali. I meccanismi e gli automatismi dei giorni nostri possono generare risposte originali molto utili a soddisfare le nuove esigenze, ma possono anche essere imprevedibili e non necessariamente comprensibili.
Questa autonomia porta con sé grandi potenzialità, risposte originali, soluzioni innovative, adattabilità alle esigenze emergenti. Ma sono ambiti non del tutto controllabili, mai affrontati prima nell’evoluzione tecnologica e che possono celare nuovi rischi. Possono emergere distorsioni, inganni, tentativi di dominio in settori opachi e non sempre in linea con i principi etici e morali. Quindi non è solo una questione di intelligenza: “L’IA ha un tremendo bisogno di sapienza.” Serve una guida umana consapevole, capace di orientare lo sviluppo tecnologico verso il bene comune.
2. Secondo lei, siamo già entrati in una fase in cui l’essere umano ha perso parte del controllo sulla tecnologia?
Sì, è evidente. Prendiamo l’esempio del telefonino. Forse non ne siamo pienamente consapevoli, ma ci appartiene solo in minima parte. L’hardware, vale a dire le componenti fisiche come la scocca, la custodia, la batteria, sono effettivamente nostre. Tuttavia, la parte immateriale, ovvero il software con tutti i suoi sistemi operativi, le applicazioni, i file e i dati digitali, non ci appartiene: è semplicemente a disposizione per usufruire dei numerosi servizi digitali. Siamo molto attivi con il telefonino, ci sentiamo liberi, ma questa libertà la deleghiamo a operatori che difficilmente conosciamo. E intanto si creano nuovi poteri, nuove gerarchie.
Chi controlla il software detiene il cuore dell’informazione e delle funzionalità. Ha in mano un potere inaccessibile alla grande maggioranza degli utenti: “Il potere dell’IA detta ritmi e algoritmi.”
Accanto a questa travolgente evoluzione tecnologica, sta avvenendo un continuo adattamento antropologico. Gli stimoli che si affacciano incessantemente sul display non smettono di stuzzicarci, alterando le abitudini, i ritmi, i modelli di vita, il modo di relazionarci. La tecnologia non è più solo uno strumento: è diventata un ambiente che ci plasma.
3. Qual è, secondo lei, il contributo più significativo che la Chiesa, e in particolare figure come Paolo Benanti, stanno dando al dibattito etico sull’IA?
La Chiesa è presente e vigile nel dibattito sull’IA, spesso con toni critici che invitano sempre alla riflessione e che interpellano la coscienza. Papa Leone XIV prosegue il cammino tracciato da Papa Francesco, ribadendo con forza che lo sviluppo dell’AI generativa non deve mai trasformarsi in un pericolo per l’umanità.
Nel mondo ecclesiastico e non solo si ricorre spesso all’espressione algoretica. Il termine deriva dalla combinazione tra algoritmo ed etica ed è stato coniato da Padre Paolo Benanti, francescano e autorevole esperto di etica, bioetica ed etica delle tecnologie emergenti. È uno dei principali intenditori e studiosi delle implicazioni dell’IA in ogni ambito toccato dall’evoluzione tecnologica. Si focalizza in particolare sulla gestione dell’innovazione, che deve essere in grado di attenersi ai valori etici, appunto!
A mio avviso, il concetto dell’algoretica offre un contributo irrinunciabile nell’ampio discorso sull’evoluzione dell’IA. Non è solo una parola: è una visione, un orientamento, una bussola morale, un vero e proprio programma della ragione. Indica la giusta direzione da seguire e, soprattutto, da non abbandonare. Senza un saldo rispetto dei valori etici si rischia di scadere nella regressione.
La mia aspirazione si riassume in un aforisma: “Undicesimo comandamento: Segui e rispetta l’algoretica.”
4. C’è il rischio che l’IA amplifichi i pregiudizi culturali, sociali o religiosi. E come si può contrastare o almeno attenuare questa deriva?
Ognuno può approfittare delle molteplici modalità interattive e selettive offerte dalla rete, che creano nuovi ambienti comunitari a ogni livello, anche nei contesti culturali, sociali o religiosi da lei menzionati. È lecito, anzi doveroso, interrogarsi sulla consapevolezza degli utenti riguardo non solo ai benefici, ma anche agli effetti collaterali delle interazioni in rete.
Si pensi alla difficoltà di distinguere spesso tra un’informazione vera o falsa, molto più che nell’immensità dei dati in rete (big data) la fonte delle informazioni è spesso poco riconoscibile e tracciabile. Determinate informazioni o tendenze che riflettono pregiudizi culturali, sociali, confessionali rischiano di essere percepite come verità condivise, perpetuando o addirittura ingigantendo il loro effetto distorsivo.
In questo nuovo eldorado iperconnesso circolano purtroppo anche pseudo-contenuti, affermazioni travisate, banalità e quisquilie, presentate con una parvenza di plausibilità e sdoganate come ricette originali e innovative. “La riduzione della complessità del linguaggio può limitare le facoltà intellettive: in tal caso un pensiero viene solo abbozzato, non articolato.”
Come difendersi? Occorrono consapevolezza, spirito critico, disponibilità all’approfondimento, mentalità analitica, indipendenza di giudizio, assenza di preconcetti. Occorre infine evitare di prendere tutto per oro colato. Vale per tutti, grandi e piccoli.
5. Nel campo dell’istruzione, l’IA è vista da alcuni come una risorsa, da altri come un pericolo. Qual è la sua opinione in merito?
Sono ben note le preoccupazioni legate all’impatto digitale sulla crescita dei giovanissimi. L’Organizzazione mondiale della salute (OMS) segnala al riguardo effetti negativi sulle relazioni sociali, difficoltà di attenzione e concentrazione, e persino di ritardi cognitivi. Siamo quindi ben consapevoli delle insidie per i giovani in età scolare, ma non dobbiamo demonizzare l’IA.
Al contrario, è fondamentale imparare a relazionarsi con essa in modo consapevole e attivo, molto attivo. Penso soprattutto al ruolo dei genitori, che condividono con i loro figli più di metà della giornata. Insegnare a rapportarsi con le nuove tecnologie implica uno sforzo regolare e non indifferente dell’adulto, un impegno costante e responsabile.
A mio avviso va insegnato, proprio sulla base di contenuti in rete, a sviluppare il pensiero critico, ad attivare la percezione mediante l’approfondimento e la valutazione dei significati, a distinguere tra l’utile e il futile.
Dobbiamo renderci conto che in Internet non c’è quasi più bisogno della memoria. Ne consegue che le competenze della memoria vengono allenate meno, poiché tutto viene velocizzato, facilitato, reso disponibile in tempo reale. Ma questa comodità rischia di sbiadire le potenzialità cognitive e intuitive.
Occorre insegnare ai figli con un fitto dialogo che l’apprendimento non avviene senza sforzo e fatica. Il mondo digitale tende invece a rimuovere gli ostacoli, per pensare meno, paradossalmente: “I poteri algoritmici approfondiscono la ricerca di scorciatoie nei ragionamenti.” Ma la realtà è ben diversa. Infatti, non è possibile imparare e approfondire senza impegnarsi più di tanto. La crescita cognitiva deve rimanere dominio della mente e della volontà di pensare.
6. Comunque la vediamo l’IA sta diventando uno strumento imprescindibile per lo studio e l’apprendimento. Possiamo stabilire un confine tra “uso intelligente” e “dipendenza” da questi strumenti?
In tanti campi della formazione l’IA non è più solo un’opzione, ma una necessità. Quando i giovani entrano e superano l’età adolescenziale, cambiano in modo rilevante le condizioni che regolano il loro rapporto con l’IA. Emergono il pensiero astratto e critico, la consapevolezza delle proprie scelte, la capacità di ricerca mirata, il senso di responsabilità e indipendenza, la gestione delle emozioni, una personalità più strutturata e un ragionamento differenziato.
Queste sono le premesse ideali per trarre beneficio da uno strumento tanto potente quanto prezioso e per raggiungere gli obiettivi dello studio attraverso la riflessione e la volontà. Più si vive l’esperienza dell’IA, più la si conosce e più se ne sfruttano le potenzialità.
Buona parte del mondo del lavoro attende con impazienza le giovani leve, quelle che danno del “tu” alle nuove tecnologie. C’è bisogno di loro per proseguire il cammino dell’innovazione: aumentare la produttività, automatizzare le attività, comprendere e gestire nuove applicazioni, impostare processi aziendali, razionalizzare la logistica, e molto altro.
L’approccio all’IA nello studio ha sicuramente un’importanza centrale. Tuttavia ritengo ancora più cruciale l’assistenza educativa rivolta ai giovanissimi nel loro rapporto con l’IA. I danni di una connessione permanente e incontrollata possono essere gravi e irreversibili. Basti pensare per esempio a come, spesso, i giovani lasciati in balia dei social media siano meno attratti dai giochi convenzionali: “I giochi elettronici annebbiano l’incantesimo del gioco.” E questo, in fondo, dice già molto.
7. Cosa possiamo fare, individualmente e come società, per sfruttare al meglio lo sviluppo dell’IA?
Innanzitutto va riservata molta attenzione alla centralità dell’agire umano nell’ambito della transizione tecnologica. La rapida evoluzione dei programmi applicativi dell’IA deve rimanere dominio della mente umana, nel rispetto dei principi morali e etici. Al riguardo riprendo volentieri l’espressione particolarmente significativa dell’algoretica, proposta da Padre Benanti.
L’esortazione agli operatori del settore è di orientare lo sviluppo dell’IA secondo valori quali: integrità morale, etica professionale, attenzione deontologica, responsabilità leale, onestà intellettuale, principi orientati alla saggezza, valorizzazione diligente delle risorse umane.
Attraverso questi principi, dobbiamo contrastare il rischio che l’IA pensi al posto nostro, alimentando l’illusione che lo sforzo cognitivo non sia più necessario.
Lo sviluppo dell’IA non è un destino già scritto o ineluttabile. Al contrario, può e deve essere influenzato dalle nostre scelte. “L’IA ci rende consapevoli di essere umani”. Il nostro modo di agire deve e può influenzare lo sviluppo dell’IA. Lo sviluppo va controllato, guidato, governato con accortezza, senza tuttavia ricorrere a contromisure eccessive o inutilmente restrittive: “Siamo tutelati anche da regole bizzarre, che regolano tutto fuorché la bizzarria.” E l’IA, più di ogni altra tecnologia, è capace di suggerire in tempo reale come aggirare anche le contromisure più sofisticate.
8. In che modo l’IA rischia di alterare i meccanismi democratici, ad esempio nella circolazione delle informazioni e nella formazione dell’opinione pubblica?
I rischi sono latenti, proprio perché all’IA generativa si concede grande fiducia. È apprezzata e consultata con frequenza. Le si attribuisce affidabilità, nonostante la conoscenza del suo funzionamento sia ancora limitata. Questo è particolarmente rischioso, anche perché le novità del settore si susseguono con tale rapidità da rendere difficile, se non impossibile, prevederne gli sviluppi.
L’IA è un moltiplicatore potentissimo. Purtroppo lo è anche nella moltiplicazione di errori, manipolazioni, fake news e contenuti devianti. “L’imprecisione nell’informazione si moltiplica in modo esponenziale. Crea danni alla potenza X.” Ci troviamo di fronte a una sorta di scatola nera invisibile e intangibile, che apporta innovazione e modifica le regole del gioco, saltando le tappe del pensiero, quello umano.
Esistono, purtroppo, condizioni tutt’altro che ideali, per far circolare in rete in modo deliberato notizie false, con il rischio di influenzare l’opinione pubblica e quindi le scelte democratiche. Inoltre, si possono creare, soprattutto nelle piattaforme social, le cosiddette “bolle informative” in cui l’utente, guidato dagli algoritmi, naviga in uno spazio che rafforza le sue convinzioni, limitando la pluralità delle idee.
È evidente che chi detiene questi nuovi poteri può influenzare le correnti di pensiero, decidendo quali opinioni promuovere e quali silenziare.
9. Lei dice che “l’IA ci rende consapevoli di essere umani”. Vuol dire che l’IA può diventare anche un’opportunità di crescita?
L’IA è già da decenni un potente motore di crescita, alla base di servizi ormai imprescindibili. Beneficiamo quotidianamente del forte progresso tecnologico e abbiamo vissuto come fosse un miracolo il passaggio dall’analogico al digitale, sperimentando un tangibile salto di qualità.
Sull’onda di questo progresso inarrestabile, per troppo tempo abbiamo creduto che l’IA fosse soltanto un’assistente al nostro servizio. Ma la realtà è ben diversa. L’IA ci scruta, penetra nella nostra sfera comportamentale senza chiedere permesso, cattura la nostra attenzione, interpreta il nostro linguaggio e ci trasforma, spesso inconsapevolmente, in clienti e consumatori di una moltitudine di prodotti e servizi.
Ne siamo in parte consapevoli, ma ormai viaggiamo tutti sullo stesso treno: quello dell’IA. La sfida più ardua della trasformazione digitale? Rimanere fedeli a se stessi, preservare la propria identità e riconoscere che l’essere umano non può delegare alle macchine il diritto di decidere, indipendentemente dalle straordinarie scoperte tecnologiche, comprese quelle provenienti dalla Silicon Valley: “L’intelligenza umana si aggrappa alla sua natura analogica, per non essere assorbita dall’IA.”
Livio Zanolari ha pubblicato:
Cavie online, Salvioni Edizioni, Bellinzona 2024, con prefazione di Dalmazio Ambrosioni e postfazione di Massimo Lardi.
Schiavitù moderne – aforismi, ossimori, assiomi, massime, giochi di parole, Salvioni Edizioni, Bellinzona 2022, con prefazione di Massimo Lardi.
