Un «interruttore di spegnimento» obbligatorio per fermare completamente i sistemi di intelligenza artificiale qualora diventassero pericolosi. A prospettare questa possibilità è Jack Clark, cofondatore di Anthropic, una delle aziende protagoniste della corsa mondiale all’AI.

In un’intervista alla Bbc, Clark ha spiegato che la presenza di sistemi capaci di interrompere il funzionamento dell’intelligenza artificiale potrebbe diventare in futuro un requisito imposto per legge alle società che sviluppano i modelli più avanzati.

Un sistema per fermare l’AI

«La maggior parte dei laboratori dispone di diversi metodi per interrompere l’alimentazione elettrica, incluso Anthropic», ha spiegato Clark.

La questione, però, secondo il cofondatore della società che sviluppa Claude, potrebbe presto superare l’ambito delle decisioni volontarie delle singole aziende.

«Dovremmo imporre alle aziende l’obbligo di avere un interruttore di sicurezza? Questo interruttore deve essere verificabile da terzi?», si è chiesto Clark.

L’idea è quindi quella di garantire non soltanto l’esistenza di procedure per disattivare sistemi potenzialmente pericolosi, ma anche la possibilità che organismi indipendenti possano verificarne l’effettiva efficacia.

Il problema dei controlli indipendenti

È proprio la verifica esterna uno degli aspetti più delicati della proposta. Lasciare esclusivamente alle aziende il compito di stabilire se i propri sistemi possano essere arrestati significa affidare agli stessi sviluppatori sia la tecnologia sia il controllo delle misure di sicurezza.

Secondo Clark, requisiti e modalità di verifica dovrebbero quindi entrare nel più ampio dibattito politico sulla regolamentazione dell’intelligenza artificiale.

«Penso che questo sia il tipo di informazione che la società vorrà conoscere e su cui potrebbe eventualmente emanare delle regole», ha affermato.

La corsa all’AI e il nodo della sicurezza

Il tema diventa sempre più rilevante con l’aumento delle capacità dei modelli di frontiera e con lo sviluppo di sistemi maggiormente autonomi, capaci di eseguire sequenze complesse di operazioni con un intervento umano sempre più ridotto.

La questione non riguarda quindi un fantascientifico «pulsante rosso» destinato a spegnere tutta l’intelligenza artificiale mondiale, ma procedure tecniche e organizzative che consentano di interrompere sistemi specifici qualora rappresentino un rischio.

La posizione espressa da uno dei fondatori di Anthropic introduce però un principio politicamente significativo: per i sistemi di intelligenza artificiale più potenti, la possibilità di essere fermati potrebbe un giorno non essere più soltanto una scelta delle aziende, ma diventare un obbligo stabilito dalla legge.

L’intelligenza artificiale è ormai entrata stabilmente nella vita degli studenti italiani. La utilizza il 94% dei ragazzi coinvolti in una vasta indagine nazionale e per il 62% il ricorso agli strumenti di IA avviene almeno una volta alla settimana. Ma accanto alle opportunità emergono timori sulla capacità di ragionare autonomamente e un dato particolarmente significativo: più di uno studente su due ha utilizzato almeno una volta l’IA per sfogarsi o affrontare un problema personale.

È la fotografia che emerge dall’indagine “Io e l’Intelligenza Artificiale”, promossa da Indire e dal Festival dell’Innovazione Scolastica e realizzata coinvolgendo 5.342 studenti delle scuole secondarie di primo e secondo gradodi istituti distribuiti sul territorio nazionale.

L’84% degli intervistati utilizza l’intelligenza artificiale anche nello studio: dall’italiano alla matematica, dalla scrittura allo svolgimento degli esercizi. In alcuni istituti il 70-80% degli studenti dichiara un rapporto quasi quotidiano con le tecnologie digitali, IA compresa.

Il dato forse più interessante riguarda però la consapevolezza dei rischi. Il 44% teme che l’uso dell’intelligenza artificiale possa portarlo a pensare meno con la propria testa, mentre il 26% individua nella possibile perdita del senso critico uno dei principali pericoli per il futuro. Il 54% chiede inoltre che l’IA rimanga sotto il controllo umano.

C’è poi la dimensione più personale. Il 53% degli studenti dichiara di essersi rivolto almeno una volta all’intelligenza artificiale per sfogarsi o affrontare un problema, un comportamento che risulta particolarmente presente tra le ragazze e gli studenti più giovani.

La grande maggioranza, il 77%, utilizza le versioni gratuite dei servizi disponibili.

A leggere la trasformazione in corso è Mauro Magatti, professore ordinario di Sociologia all’Università Cattolica del Sacro Cuore, intervenuto nella Sala Nassirya del Senato durante la presentazione dell’indagine.

«L’intelligenza artificiale, come tutte le grandi innovazioni tecnologiche, è un “farmaco”: può essere insieme cura e veleno», ha osservato Magatti, invitando a evitare la contrapposizione tra tecno-ottimisti e pessimisti.

Per il sociologo, i ragazzi hanno ormai «in tasca l’accesso pressoché istantaneo a tutto lo scibile umano»: una possibilità enorme che, senza strumenti culturali adeguati, può trasformarsi in un rischio. «Se non imparano a navigare e non hanno una barca solida rischiano di affondare. E in questo mare nessuno si salva da solo».

La risposta, secondo Magatti, non può essere affidata esclusivamente alle regole. Servono obiettivi etici e pedagogici, sperimentazione nelle scuole, condivisione delle esperienze migliori e soprattutto investimenti nell’educazione.

Il paragone è con la Rivoluzione industriale e con la scelta compiuta nell’Ottocento di investire nella scuola pubblica mentre la società attraversava una trasformazione radicale. Oggi, sostiene Magatti, l’IA pone una sfida analoga: «Dobbiamo decidere di immettere risorse massicce nell’educazione. Questa è una grande sfida di civiltà».

I numeri raccontano dunque una realtà già molto più avanti del dibattito: gli studenti non stanno aspettando l’intelligenza artificiale. La stanno già usando. La questione per scuola, famiglie e istituzioni è ora insegnare loro a farlo senza rinunciare all’autonomia di giudizio.

«Non vi mentirò: esistono pericoli reali». A lanciare un nuovo, pesante avvertimento sullo sviluppo dell’intelligenza artificiale è Dario Amodei, co-fondatore e amministratore delegato di Anthropic, una delle società protagoniste della corsa mondiale all’IA.

Intervistato dalla Cbs, Amodei ha sostenuto che per troppo tempo l’industria tecnologica avrebbe minimizzato davanti all’opinione pubblica i rischi legati alla nuova tecnologia.

«Credo che, per troppo tempo, il settore abbia mentito alle persone riguardo ai rischi connessi a questa tecnologia», ha affermato.

«La crescita è esponenziale»

Amodei ha ammesso anche di non avere inizialmente compreso fino in fondo quali conseguenze avrebbe potuto determinare una progressione tanto veloce delle capacità dei sistemi di intelligenza artificiale.

Secondo il manager, lo sviluppo dell’IA sta seguendo una curva esponenziale sempre più ripida. Questo, precisa, non significa fermare immediatamente la ricerca o lasciarsi prendere dal panico, ma impone una riflessione sulla velocità con cui si sta procedendo.

«Non significa che dobbiamo farci prendere dal panico oggi e che dobbiamo bloccare tutto. Ma direi che è un segnale d’allarme. Un segnale che ci indica la necessità di rallentare».

Il dibattito sui rischi estremi dell’IA è stato alimentato anche dalle dichiarazioni di Jacob Coxon, ex ricercatore di Anthropic, che ha accusato la sua ex società e OpenAI di «giocare con le nostre vite» attraverso lo sviluppo di sistemi potenzialmente capaci di migliorare autonomamente le proprie capacità.

Si tratta di scenari discussi e controversi: non esiste oggi una superintelligenza autonoma di questo tipo, né è possibile stabilire con certezza se e quando possa essere sviluppata.

Controllori indipendenti sui modelli

Amodei propone quindi maggiori controlli. Anthropic, ha annunciato, intende consentire a valutatori indipendenti un accesso permanente ai propri modelli, con possibilità di verifica simili a quelle disponibili internamente all’azienda.

Il principio sarebbe quello di affidare a soggetti terzi la possibilità di controllare se un’impresa rispetti realmente gli standard di sicurezza ai quali dichiara di attenersi.

Amodei utilizza un paragone molto semplice: una sorta di «ispettore sanitario» dell’intelligenza artificiale.

Il «kill switch» per fermare un’IA pericolosa

Il fondatore di Anthropic si dice inoltre favorevole a una regolamentazione federale negli Stati Uniti. Tra le ipotesi discusse figurano limitazioni allo sviluppo della superintelligenza e l’introduzione obbligatoria di un kill switch, un sistema di emergenza progettato per arrestare modelli considerati pericolosi.

«Un kill switch è una buona idea», sostiene Amodei.

Il manager non condivide invece l’ipotesi di vietare completamente lo sviluppo delle tecnologie più avanzate. Una scelta del genere, osserva, significherebbe rinunciare anche agli enormi potenziali benefici dell’IA, a partire dalla ricerca scientifica e dalle possibili nuove cure mediche.

C’è poi la questione geopolitica. Anche qualora gli Stati Uniti decidessero di fermarsi, sostiene Amodei, altri Paesi continuerebbero a sviluppare sistemi avanzati, comprese nazioni autoritarie.

Il problema diventa così trovare un equilibrio sempre più difficile: sfruttare le opportunità offerte dall’intelligenza artificiale senza perdere il controllo sui rischi generati dalla rapidità della sua evoluzione.