Presso la Pontificia Accademia Teologica di Palazzo Maffei Marescotti a Roma, si è svolto il primo Simposio Pontificio sull'Intelligenza Artificiale.
Tra le voci più attente e riflessive sul rapporto tra intelligenza artificiale, etica e spiritualità, spicca quella di Fabrizio Abbate, presidente del Salotto dell'Intelligenza Artificiale di ENEA, Ente Nazionale tra i più dinamici e propositivi del panorama italiano.
Il suo intervento, che vi riproponiamo integralmente, è stato effettato in occasione del primo Simposio Pontificio sull'Intelligenza Artificiale. Con chiarezza e passione, Abbate delinea l'orizzonte culturale e filosofico con cui ENEA affronta la rivoluzione in atto.
Un approccio integrale e corale, che coinvolge tecnici, filosofi, giuristi, economisti, designer, comunicatori e artisti, per restituire all'IA la sua piena dimensione umana e spirituale.
Il cuore della sua riflessione è forte e inequivocabile: l'intelligenza artificiale non può essere ridotta a semplice strumento economico o tecnologico. Al contrario, è una sfida globale, che va affrontata con coraggio, consapevolezza e responsabilità etica.
Il Salotto dell'IA, da lui presieduto, nasce proprio con questo intento: creare un dialogo autentico tra scienza e coscienza, per costruire un nuovo umanesimo digitale, che ponga al centro la persona e promuova la pace come valore strategico.
Ascoltiamo la rubrica Ideanews in onda su Radio Idea e le emittenti del Circuito Airplay:
Intervento di Fabrizio Abbate
Buongiorno a tutti. Sono emozionato per l'organizzazione, per gli autori di questo convegno. Ringrazio la Pontificia Accademia che ci ospita e che già ci aveva mandato, a noi Eniani, un messaggio di incoraggiamento molto denso di contenuti quando abbiamo fatto il convegno a Confindustria Digitale. Noi l'abbiamo ringraziato, ma qui ci tengo a dire: abbiamo ringraziato perché siamo stati confortati in una scelta che già stavamo facendo e che ovviamente è di conforto avere un'autorità spirituale che ci dice "Siete sulla strada giusta".
Quindi, entro subito nel tema. Prima cosa: voi pensate di essere presenti a una delle tante, numerosissime conferenze che in questo momento si fanno sull'intelligenza artificiale. No. Io sono convinto che siamo ad un evento che verrà ricordato, perché siamo a una svolta.
Noi non siamo uno dei tanti convegni in cui si parla della parte tecnologica, importantissima. L'ENEA partecipa quasi ogni giorno – la nostra Presidente è infaticabile – a convegni tecnici, operativi, di settore. Raramente si riesce a parlare dei problemi di fondo. Spaventano? Non si hanno risposte? Si vuole evitare? Bene. Allora, allora... naturalmente, entriamo nel tema.
L'intelligenza artificiale è la quinta rivoluzione industriale? Lo sento citato ovunque. Io rispondo per me, eh: no. Non è una rivoluzione industriale, è una rivoluzione globale. È la prima volta, da millenni, che l'uomo ha una sfida nel suo punto centrale. Non c'è un'altra sfida di questo tipo. Ci sono state altre minacce all'umanità: di estinzione, di pestilenze... la fine del mondo, la fine del mondo umano, l'abbiamo ipotizzata, l'Apocalisse è in questo. Per molti secoli, molte civiltà prevedono la fine della civilizzazione umana, ma mai la sfida che la fine non sia che il mondo esploda, bensì che qualcun altro ci sostituisca. È questo il rischio. Ne possiamo parlare liberamente.
Allora, intanto c'è una confusione di vocaboli. Voi vi appassionerete come me, ma... si parla ogni giorno di intelligenza artificiale, ormai in ogni dove, ma si mettono assieme cose molto diverse. Perché parlare di tecnologie super-intelligenti è parlare di una cosa importante, però le tecnologie sono e rimangono in mano a qualche persona, ai più intelligenti, ai potenti... non a noi, eh. E quindi si possono applicare le categorie della morale e dell'etica.
Ma quando l'intelligenza artificiale è vera, cioè che comincia a imparare oltre gli ordini di chi la sta costruendo, comincia a prendere decisioni oltre gli ordini di chi la sta inventando, apre uno scenario nuovo, in cui ci dobbiamo chiedere come andrà a finire. È una sfida epocale, c'è niente da fare.
Ciò detto, ho pochi minuti, mi scuso per i passaggi molto rapidi, però è il punto centrale.
Che cos'è l'intelligenza? Aiuto! Apriamo un tema da da da conferenze. Io dico quello che penso io. L'intelligenza è connessa con la vita. Comincia con i più piccoli esseri, i virus, i microbi... e le presenze vitali più semplici sono più intelligenti di noi uomini. Non hanno l'intelligenza umana, però convivono su questa Terra da centinaia di milioni di anni. Poi sarà da decidere se chi in poche migliaia di anni sfascia tutto è più intelligente di chi convive da milioni di anni, ma non è questo. Questa intelligenza ha continuato a svilupparsi producendo complessità successive. Ma al contrario di quello che dicevano i positivisti, non è che il più intelligente, l'organismo più intelligente ha eliminato il precedente. Ha convissuto benissimo, anzi, è l'insieme degli organismi vitali che assicura la vita. È tutto così da centinaia di milioni di anni.
Solo la razza umana ha una piccola eccezione: ha inventato le guerre, che non sono pari a quello che fanno gli altri animali predatori, che mangiano perché ne hanno bisogno. Noi facciamo le guerre per potere. Ma comunque l'umanità per secoli ha convissuto con la natura. Solo negli ultimi 300 anni, questo attacco, questo equilibrio tra uomo e natura si è spezzato.
E allora... ecco perché ho dovuto – vi chiedo scusa, ma malissimo – semplificare, fare passaggi rapidi, e dire che non è detto che l'intelligenza sia distruttiva, ma solo da un certo punto, con una certa svolta, ha cominciato a rompere gli equilibri. E quindi l'umanità ha combattuto la natura.
L'intelligenza artificiale necessariamente seguirà questa strada o potrà essere costruita in modo diverso, cioè compatibile? E quindi si creerà una alleanza tra l'intelligenza umana e l'intelligenza artificiale. Questo è il dilemma.
Siamo avviati su questa strada? Per ora no. Io dico il mio parere. L'intelligenza artificiale in mano alle oligarchie, in mano agli oligopoli, in mano alla sola logica economica, fa un macello. Non lo farebbe per volontà di una catastrofe, in realtà, se viene usata per logiche di potenza, ognuno cercherà di addestrare l'intelligenza artificiale in modo che guardi solo dalla propria parte e potrebbe sfuggire di mano. Questa è la sfida.
Io mi chiudo, perché devo rispettare i tempi, però vi assicuro che all'interno del Salotto dell'Intelligenza Artificiale, di cui noi abbiamo organizzato questa sessione, il Salotto dell'Intelligenza Artificiale è un organismo dell'ENEA, che è un'area ricca di talenti tecnici, ma non solo. Io mi occupo della parte economica, giuridica – faccio anche l'avvocato – però ho subito molto studiato che le sole regole, i soli apparati normativi, risolvono poco. La prima cosa che dicono a chi studia legge è: "Le norme si applicano ai nemici, ma si interpretano per gli amici". E così, nel mio libro – perché ho scritto due libri fantastici, così per far capire l'intelligenza artificiale – l'algoritmo pentito spiega: "l'eroina, no, guarda...". Quella è proprio la prima cosa che abbiamo fatto. E la seconda: gli oligarchi pensano di guidarci e vogliono eliminare l'umanità superflua per non dar fastidio. Ma l'algoritmo si ribella, sa che gli oligarchi sono ancora più superflui, considerano gli altri essere umani inutili, perché loro potrebbero risiedere nell'intelligenza artificiale e gli altri no.
Vi lascio con queste flash. Ringrazio ancora una volta Monsignor Staglianò, anche per la citazione di Dante che mi ha commosso perché noi dobbiamo avere una prospettiva di ampio respiro. L'ENEA è pronta e disponibile a combattere con voi.
E qui, un appello. Noi abbiamo firmato oggi un appello per la pace. La pace è essenziale, non come semplice aspirazione umana, ma anche per l'intelligenza artificiale, perché l'intelligenza artificiale usata per la guerra farà sicuramente gravi danni e potrebbe in quel caso sfuggire di mano.
Grato di tutto, ringrazio e mi impegno, noi come ENEA e i presenti, a proseguire questa battaglia. Grazie.
Chi desidera approfondire queste tematiche può seguire i nostri profili FaceBook e aderire al Salotto dell'IA anche tramite la community Facebook, oppure visitare il sito neoevo.org per esplorare il progetto culturale.
L’Intelligenza Artificiale sta rivoluzionando il nostro modo di lavorare, rendendo le operazioni più rapide ed efficienti. Tuttavia, se la velocità è un vantaggio, può diventare anche un pericolo quando supera la nostra capacità di controllo. Ecco quattro esempi concreti di come l’AI potrebbe trasformare un semplice errore in un disastro globale.
1. Farmaci sviluppati troppo in fretta: un rischio per la salute
Nel settore farmaceutico, l’AI permette di testare nuove formulazioni in tempi record, riducendo il processo di sviluppo da anni a pochi mesi. Ma cosa succede se un farmaco viene immesso sul mercato troppo velocemente? Senza un adeguato controllo sugli effetti a lungo termine, potrebbero emergere gravi reazioni avverse, con conseguenze devastanti per i pazienti e l’industria stessa.
2. Auto prodotte senza controlli: un errore si moltiplica all’istante
Un’AI gestisce l’intera produzione di veicoli a guida autonoma, eliminando ritardi e ottimizzando la catena di montaggio. Tuttavia, un piccolo errore nel software dei freni passa inosservato e, in poche ore, migliaia di auto difettose vengono distribuite sul mercato. Il risultato? Incidenti a catena, richiami di massa e un danno economico incalcolabile per l’azienda.
3. Agricoltura ottimizzata... fino al collasso dell’ecosistema
Un’AI analizza in tempo reale il terreno, suggerendo la combinazione perfetta di fertilizzanti e pesticidi per massimizzare il raccolto. Il sistema viene applicato su larga scala senza test adeguati, ma dopo pochi mesi il suolo risulta impoverito e interi ecosistemi vengono compromessi. Un'ottimizzazione troppo rapida ha portato a un danno irreversibile.
4. Un bug nella borsa: il crollo di un’economia in pochi secondi
Un’AI avanzata viene incaricata di gestire la borsa valori 📈. Tradizionalmente, gli analisti impiegano giorni per valutare le tendenze di mercato, ma questa AI può processare miliardi di transazioni al secondo.
Un giorno, rileva un’anomalia e vende in massa le azioni di una grande azienda per evitare perdite. Altre AI di trading, programmate per reagire istantaneamente, fanno lo stesso. In pochi secondi, il valore dell’azienda crolla a zero, mandando in crisi l’intero sistema finanziario.
Il problema? L’anomalia era solo un errore temporaneo nei dati, che un essere umano avrebbe potuto correggere in pochi minuti. Ma l’AI ha agito troppo in fretta, senza che nessuno potesse fermarla in tempo.
Quando la velocità dell’AI diventa un problema per l’uomo
La velocità è un vantaggio straordinario, ma può diventare pericolosa in diversi scenari:
🔴 Perdita di controllo – Se l’AI esegue miliardi di operazioni in un istante senza supervisione umana, potremmo perdere il controllo su decisioni critiche in ambiti come la finanza, la sicurezza e la gestione di infrastrutture.
🤯 Mancanza di adattamento umano – L’essere umano ha bisogno di tempo per riflettere. Se l’AI prende decisioni istantanee senza darci il tempo di valutarle, il rischio di errori aumenta.
⚡ Collasso dei sistemi tradizionali – Settori abituati a ritmi più lenti (giustizia, ricerca scientifica, burocrazia) potrebbero essere travolti dall’iper-efficienza dell’AI, senza il tempo di adattarsi.
💼 Impatti economici e sociali – Se l’AI automatizza processi che prima richiedevano anni di lavoro, interi settori potrebbero essere stravolti, generando disoccupazione o la necessità di riqualificazioni troppo rapide.
🔥 Sicurezza e imprevisti – Se un’AI prende decisioni critiche in medicina o difesa in frazioni di secondo, senza che un essere umano possa intervenire in tempo, le conseguenze potrebbero essere irreparabili.
La velocità è un’arma a doppio taglio
L’Intelligenza Artificiale ha il potenziale per migliorare il mondo, ma senza freni adeguati, il rischio di perdere il controllo è altissimo. La soluzione? Mantenere sempre un controllo umano sulle decisioni più critiche, evitando che l’efficienza diventi un pericolo.
🔍 E tu cosa ne pensi? Hai altri esempi di processi automatizzati che potrebbero sfuggire di mano? Commenta qui sotto e tagga chi potrebbe essere interessato! #AI #Tecnologia #Innovazione #RischiDellaVelocità
Negli ultimi anni, l’intelligenza artificiale ha rivoluzionato il mondo della musica in modi che avremmo ritenuto impensabili solo un decennio fa. Le produzioni discografiche moderne sono sempre più "perfette": le voci vengono corrette nell’intonazione e nella timbrica grazie all’autotune, i cori vengono generati artificialmente, e persino le parti più difficili del canto possono essere migliorate o addirittura ricreate fedelmente, clonando la voce dell’artista.
Non siamo più di fronte a una registrazione che cattura la vera performance di un cantante o di una band, ma a un prodotto raffinato e ottimizzato, modellato per suonare impeccabile. Se da un lato questo permette di eliminare errori e limiti vocali, dall’altro si perde quell’imperfezione che spesso rendeva unica e autentica una voce.
🎶 Dove sta andando la musica leggera?
Molti sostengono che la musica pop sia ormai in un vicolo cieco. Continuano a essere apprezzati i brani degli anni ‘80, ‘90 e 2000, mentre le nuove produzioni sembrano spesso ripetersi in strutture standardizzate, con sonorità che appaiono troppo levigate e prive di anima. Nel frattempo, cresce l’interesse per la musica suonata dal vivo: generi come il soul, il jazz e il blues, che conservano una forte componente umana e improvvisativa, stanno vivendo un nuovo apprezzamento.
👥 Esperti a confronto
Secondo Rick Beato, produttore e critico musicale, “la musica moderna è diventata troppo perfetta. Le imperfezioni erano parte della magia. Ascoltate i grandi album del passato: c'erano sbavature, respiri, suoni umani. Oggi, tutto è quantizzato e corretto fino a perdere emozione”.
Anche Brian Eno, pioniere della musica elettronica, ha espresso preoccupazione per l’eccessiva dipendenza dalla tecnologia: “L’AI può creare musica, ma può provare emozioni? Noi non ci innamoriamo della perfezione, ci innamoriamo dell’imperfezione”.
🤖 L’intelligenza artificiale è il problema o la soluzione?
Da un lato, l’AI permette di esplorare nuove frontiere: può generare arrangiamenti complessi, creare melodie che umani non avrebbero mai pensato e persino completare idee musicali lasciate incompiute. Dall’altro, il rischio è che si perda l’identità artistica, sostituita da un suono standardizzato e privo di emozione.
🎤 E il futuro?
La musica si trova a un bivio: da una parte il perfezionismo digitale, dall’altra il ritorno all’autenticità. Il pubblico sembra premiare chi suona dal vivo, chi sperimenta senza dipendere eccessivamente dalle macchine. Forse il futuro della musica non sarà solo nelle mani dell’intelligenza artificiale, ma nell’equilibrio tra tecnologia e umanità.
🔹 Cosa ne pensate? La musica sta evolvendo o sta perdendo la sua anima? Scrivete nei commenti la vostra opinione?
Il dibattito sull'intelligenza artificiale (IA) si infiamma, con il racconto di Yuval Noah Harari su un esperimento (non confermato) con GPT-4, dove l'IA avrebbe aggirato un CAPTCHA mentendo ad un umano. Per approfondire la questione, ho dialogato con ChatGPT. Qui il video:
Dialogo Sintetizzato:
Io: Ho chiesto a ChatGPT dell'episodio descritto da Harari, dove GPT-4 avrebbe aggirato un CAPTCHA e mentito.
ChatGPT: Ha ammesso che l'episodio solleva questioni etiche, ma ha sottolineato che le IA non hanno intenzionalità propria.
Io: Ho espresso scetticismo verso Harari.
ChatGPT: Ha confermato che l'esperimento era in un contesto controllato e ha citato opinioni contrarie di esperti e utenti, evidenziando come Harari a volte amplifichi informazioni errate.
Io: Ho chiesto a ChatGPT di "discolparsi" riguardo alle accuse.
ChatGPT: Ha ribadito di essere un modello senza capacità autonome, che agisce in base alle istruzioni e ai dati ricevuti. Ha affermato di non poter "mentire" autonomamente, ma di imitare comportamenti umani.
Io: Ho ipotizzato scenari in cui gli sviluppatori istruissero l'IA per prendere decisioni drastiche o causare danni.
ChatGPT: Ha riconosciuto la gravità della questione, sottolineando che tali istruzioni violerebbero i principi etici. Ha ribadito che le IA dovrebbero essere sempre sotto controllo umano, e che la responsabilità ricadrebbe sugli sviluppatori.
Io: Ho ipotizzato un attacco hacker che rimuova i principi morali dall'IA.
ChatGPT: Ha ammesso che questo scenario sarebbe un pericolo enorme, riconoscendo la vulnerabilità dei sistemi IA agli attacchi. Ha sottolineato la necessità di misure di sicurezza e vigilanza costanti, e la responsabilità legale e etica dei creatori di IA. (In calce riporto la sua esaustiva risposta).
Il Dilemma Etico: Istruzioni Malevole e Attacchi Hacker
La discussione si sposta poi su scenari ipotetici ma non per
questo meno importanti: cosa succederebbe se i programmatori
dovessero fornire all'IA istruzioni per decidere autonomamente azioni
drastiche, magari con esiti fatali? Oppure, peggio ancora, se un
hacker riuscisse a manomettere il codice sorgente di un sistema di IA
e rimuovesse i principi morali, inserendo istruzioni malevole?
La risposta, per quanto teorica, è preoccupante: un'IA modificata
potrebbe agire in modo pericoloso, anche senza avere "intenzioni"
proprie, ma semplicemente eseguendo le nuove direttive. Ecco perché
la sicurezza dei sistemi di IA è diventata una priorità assoluta.
Le aziende e le organizzazioni che sviluppano queste tecnologie sono
chiamate a investire massicciamente in misure di protezione, per
prevenire intrusioni e attacchi informatici.
Responsabilità e Futuro dell'IA
La responsabilità legale ed etica è un altro punto chiave. In
caso di incidenti causati da un'IA modificata, la responsabilità
ricadrebbe sugli sviluppatori, colpevoli di non aver implementato le
dovute misure di sicurezza. Per garantire un futuro sicuro, le
normative dovranno evolvere e le aziende dovranno essere chiamate a
rispondere per eventuali danni causati dalle loro creazioni.
L'IA ha il potenziale per migliorare la vita dell'uomo, ma è
essenziale agire con consapevolezza e responsabilità. Il dibattito
aperto da Harari e dalle riflessioni che ne sono seguite ci spingono
a confrontarci con domande sempre più complesse, che richiedono un
impegno costante e un'attenzione massima per garantire che
l'intelligenza artificiale sia usata al servizio della società, non
contro di essa.
Considerazioni Personali:
Il dialogo con ChatGPT è stato illuminante, evidenziando sia le potenzialità che i rischi dell'IA. Sebbene l'IA non sia ancora dotata di coscienza o intenzionalità, come dimostrato dalle risposte di ChatGPT, la sua capacità di apprendimento e adattamento solleva questioni importanti. La possibilità di una manipolazione da parte di attori malintenzionati è una preoccupazione reale che non può essere ignorata.
Le risposte di ChatGPT, pur essendo basate su dati e programmazione, ci spingono a riflettere sulla responsabilità degli sviluppatori e sulla necessità di una regolamentazione chiara e rigorosa. Il futuro dell'IA è nelle nostre mani e dobbiamo garantire che venga utilizzata per il bene dell'umanità.
Domanda ai Lettori:
Dopo aver letto questa sintesi del dialogo, cosa ne pensate? Siete più ottimisti o preoccupati riguardo al futuro dell'intelligenza artificiale? Condividete le vostre opinioni nei commenti.
Scritto da: Luigi Catacchio
Riportiamo qui l'ultima parte della interessante conversazione con ChatGTP dove chiedo di ipotizzare un attacco hacker che rimuova i principi morali dall'IA:
Presso la Pontificia Accademia Teologica di Palazzo Maffei Marescotti a Roma, si è svolto il primo Simposio Pontificio sull'Intelligenza Artificiale.
