La sicurezza dell’intelligenza artificiale è stata al centro di un vertice riservato organizzato in Scozia, con la partecipazione di esponenti delle principali aziende tecnologiche, rappresentanti del governo e figure religiose. Durante l’incontro, re Carlo III ha richiamato l’attenzione sui rischi legati a un uso incontrollato dell’AI e sulla necessità di predisporre strumenti di supervisione prima che possano verificarsi conseguenze irreversibili.
sicurezza dell’intelligenza artificiale al centro del vertice in scozia
La riunione si è svolta a Dumfries House, nella tenuta dell’Ayrshire situata nei pressi di Cumnock e sede della King’s Foundation. L’iniziativa è stata promossa congiuntamente da Ditchley Foundation, King’s Trust, King’s Foundation e Sustainable Markets Initiative. L’incontro si è svolto a porte chiuse e non è stato diffuso alcun ordine del giorno pubblico.
Secondo le informazioni disponibili, alla riunione hanno preso parte circa 30 esponenti del settore. Re Carlo III è entrato nella sede dell’incontro insieme a Jensen Huang, fondatore e amministratore delegato di Nvidia, e a Demis Hassabis, fondatore e presidente di Google DeepMind.
re carlo iii definisce l’intelligenza artificiale una minaccia esistenziale
Nel suo intervento, il sovrano ha riconosciuto il potenziale dell’AI nel migliorare e salvare vite umane, soprattutto nei campi della medicina e delle scienze della vita. Allo stesso tempo, ha evidenziato i possibili sviluppi più pericolosi della tecnologia, compreso il rischio che possa essere impiegata da soggetti ostili o trasformarsi in uno strumento capace di provocare danni catastrofici.
Re Carlo III ha quindi sollecitato i partecipanti a chiedersi se siano già disponibili controlli sufficientemente solidi per affrontare questi scenari prima che sia troppo tardi. Il sovrano ha descritto l’evoluzione dell’intelligenza artificiale come un fenomeno affascinante e al tempo stesso fonte di profonda preoccupazione, soprattutto per chi teme una perdita del controllo umano sul futuro.
Secondo una spiegazione fornita da esponenti della casa reale, il ruolo del re consiste nel favorire il dialogo e riunire posizioni differenti, senza presentare una valutazione personale sull’argomento.
partecipanti al vertice sull’intelligenza artificiale
La composizione dell’incontro ha riunito figure di primo piano dell’industria tecnologica, delle istituzioni britanniche e del mondo religioso. Tra i partecipanti confermati figuravano:
- Jensen Huang, fondatore e amministratore delegato di Nvidia;
- Demis Hassabis, fondatore e presidente di Google DeepMind;
- Sarah Friar, direttrice finanziaria di OpenAI;
- Tino Cuéllar, responsabile globale degli affari pubblici di Anthropic;
- Kanishka Narayan, ministro britannico per l’intelligenza artificiale;
- Paolo Benanti, consulente di papa Leone XIV.
governo britannico e aziende discutono dello sviluppo responsabile
Dopo il vertice, Kanishka Narayan ha spiegato che il confronto si è concentrato sulla responsabilità delle imprese nel garantire che l’intelligenza artificiale venga sviluppata nell’interesse della collettività. L’incontro non sarebbe destinato a rimanere un episodio isolato, ma rappresenterebbe una delle iniziative all’interno di un più ampio percorso britannico dedicato allo sviluppo responsabile dell’AI.
Il ministro ha inoltre sottolineato le capacità del Regno Unito nella valutazione, nella comprensione e nella riduzione dei rischi associati alle nuove tecnologie.
nvidia sostiene un approccio basato sull’ottimismo responsabile
Jensen Huang ha dichiarato che la ricerca e la produzione di sistemi di intelligenza artificiale devono fondarsi su un principio definito “ottimismo responsabile”. Secondo il dirigente, il compito di assicurare la sicurezza dei prodotti spetta soprattutto agli sviluppatori, che devono verificare con maggiore rigore la loro preparazione prima del lancio.
La posizione espressa prevede di procedere rapidamente, senza però agire in modo precipitoso. Huang ha inoltre riferito che re Carlo III aveva già introdotto il tema della sicurezza dell’AI durante il loro primo incontro, mostrando particolare attenzione alla necessità di combinare innovazione e responsabilità.
anthropic chiede di rallentare lo sviluppo dei modelli avanzati
Il vertice si è svolto mentre il settore tecnologico discuteva sull’opportunità di ridurre la velocità con cui vengono potenziati i modelli di intelligenza artificiale. Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare l’avanzamento dei sistemi più sofisticati e ha proposto di consentire a gruppi di valutazione esterni un accesso paragonabile a quello dei dipendenti, così da controllare con continuità le pratiche di sicurezza adottate dalle aziende.
Amodei ha avvertito che, senza una pausa o una riduzione del ritmo, l’AI potrebbe arrivare nel giro di sei-dodici mesi a gestire reti di computer compromessi su larga scala, con la possibilità di paralizzare l’intera rete internet. Un rallentamento potrebbe invece offrire uno o due anni aggiuntivi per sviluppare sistemi di allineamento prima del raggiungimento di capacità considerate critiche.
Le sue dichiarazioni hanno prodotto reazioni immediate nel settore. Sam Altman ha comunicato che OpenAI avrebbe seguito una delle proposte avanzate e ha indicato la sicurezza e l’allineamento come priorità. Elon Musk ha espresso pubblicamente il proprio sostegno alla posizione di Amodei.
- Dario Amodei, amministratore delegato di Anthropic;
- Sam Altman, amministratore delegato di OpenAI;
- Elon Musk, sostenitore delle richieste di rallentamento;
- Joe Benton, membro del team sicurezza di Anthropic;
- Jacob Coxon, membro del team sicurezza di Anthropic;
- Volker Türk, alto commissario delle Nazioni Unite per i diritti umani.
i precedenti interventi di re carlo iii sull’intelligenza artificiale
Re Carlo III aveva già affrontato il tema durante il vertice sulla sicurezza dell’intelligenza artificiale organizzato a Bletchley Park nel 2023. In quell’occasione aveva paragonato l’importanza dell’AI a eventi come la scoperta dell’elettricità, la scissione dell’atomo, la nascita del World Wide Web e l’utilizzo del fuoco.
Il sovrano ha inoltre richiamato più volte l’attenzione sull’impatto ambientale dell’intelligenza artificiale, in linea con il suo storico interesse per la tutela della natura.
Lascia un commento