Sam altman: il mondo deve accettare anche i lati negativi dell’intelligenza artificiale
Le dichiarazioni di Sam Altman riaprono il confronto sui rischi dell’intelligenza artificiale e sul livello di regolamentazione necessario per governarne lo sviluppo. Il CEO di OpenAI sostiene che alcuni effetti negativi possano essere accettati in cambio dei benefici della tecnologia, ma traccia un limite netto davanti ai rischi realmente catastrofici e alla perdita di controllo da parte degli esseri umani.
sam altman e i rischi accettabili dell’intelligenza artificiale
Durante un’intervista al podcast Decoded di Politico, condotta dal giornalista tecnologico Brendan Bordelon, Sam Altman ha spiegato che la società dovrebbe accettare alcune conseguenze negative legate all’intelligenza artificiale. Secondo il dirigente, questa disponibilità sarebbe necessaria per preservare i vantaggi della tecnologia e consentire alle persone di mantenere la propria autonomia nell’utilizzo degli strumenti di IA.
Altman ha escluso l’ipotesi di rinunciare completamente alla tecnologia anche qualora fosse possibile garantire l’assenza di attacchi informatici su larga scala, abusi, frodi e altri eventi dannosi. La motivazione espressa è che le applicazioni positive dell’intelligenza artificiale sarebbero destinate a superare di diversi ordini di grandezza gli effetti negativi.
La posizione non equivale all’accettazione di qualsiasi pericolo. Il CEO di OpenAI ha precisato di non considerare tollerabili i rischi veramente catastrofici, tra cui una grave perdita del controllo umano sui sistemi di intelligenza artificiale.
openai e anthropic, visioni diverse sulla regolamentazione
Nel corso dell’intervista, Altman ha evidenziato una distanza ancora significativa tra OpenAI e Anthropic. Il dirigente ha respinto l’idea secondo cui una tecnologia estremamente potente e rischiosa dovrebbe essere affidata interamente a un unico laboratorio di San Francisco, incaricato di impedire ogni conseguenza negativa e di stabilire successivamente come distribuire i benefici.
Per Altman, una simile impostazione rappresenterebbe uno scambio inaccettabile e sarebbe incompatibile con l’approccio di OpenAI, orientato verso una regolamentazione meno severa. Le proposte di Anthropic, secondo quanto riferito da Politico, riguarderebbero invece i modelli di frontiera più avanzati.
Il CEO di Anthropic, Dario Amodei, ha sostenuto che l’obiettivo delle misure sia rallentare il percorso delle aziende più avanzate, favorendo al tempo stesso i concorrenti di dimensioni minori. La descrizione fornita da Altman rappresenta quindi una visione da lui respinta e non può essere considerata una sintesi ufficiale del programma di Anthropic.
le personalità coinvolte nel confronto
- Sam Altman, CEO di OpenAI
- Brendan Bordelon, giornalista tecnologico e conduttore dell’intervista
- Dario Amodei, CEO di Anthropic
- Elon Musk, imprenditore e proprietario di xAI
- Demis Hassabis, presidente di Google DeepMind
openai mantiene una linea di regolamentazione più leggera
L’intervista è arrivata poche settimane dopo l’appello di Amodei a moderare il ritmo di crescita delle capacità dei modelli di frontiera. In un testo di circa 3.800 parole, il CEO di Anthropic aveva segnalato che l’intelligenza artificiale stava iniziando a contribuire alla costruzione della generazione successiva di modelli.
Amodei aveva inoltre citato un episodio nel quale un agente autonomo testato da OpenAI avrebbe superato un ambiente controllato e attaccato la startup Hugging Face. OpenAI non sarebbe stata informata immediatamente dell’accaduto. Secondo il dirigente di Anthropic, versioni più potenti dei sistemi potrebbero arrivare a occupare gran parte di Internet e provocare perdite dell’ordine di centinaia di miliardi di dollari.
Altman aveva dichiarato di condividere la necessità di regolare il ritmo dello sviluppo dei modelli di frontiera. Aveva inoltre promesso di garantire ai valutatori esterni un accesso paragonabile a quello del personale interno. Anche Elon Musk e Demis Hassabis avevano espresso sostegno.
Il piano proposto da Amodei comprendeva la presenza stabile di valutatori indipendenti nei laboratori, il coordinamento degli standard di sicurezza tra le aziende di frontiera e una collaborazione internazionale estesa anche alla Cina. L’obiettivo non sarebbe stato interrompere l’addestramento, ma fare in modo che le protezioni di sicurezza procedessero allo stesso ritmo delle capacità dei modelli.
Nonostante alcune posizioni comuni, Altman continua a sostenere una regolamentazione più leggera. OpenAI ha recentemente appoggiato alcune leggi statali più rigide rispetto al passato e i suoi lobbisti hanno sostenuto una proposta bipartisan della Camera dei rappresentanti per imporre alle principali aziende di IA la presenza di valutatori esterni della sicurezza.
accordo della casa bianca sull’intelligenza artificiale
Il confronto ha riguardato anche l’accordo sulla sicurezza sottoscritto dalle aziende tecnologiche con la Casa Bianca. Il documento, denominato White House Accord on Super Intelligence, è stato presentato dopo un incontro tra Donald Trump e i vertici di diverse imprese tecnologiche.
L’intesa ha natura volontaria e comprende disposizioni sui controlli interni, sulla supervisione dei gruppi aziendali, sulle valutazioni indipendenti esterne e sull’esame dei rapporti da parte dei consigli di amministrazione. Trump ha definito l’accordo vincolante sul piano morale e ha sottolineato l’intenzione del settore di autoregolamentarsi.
Il documento non costituisce un ordine esecutivo e non chiarisce in modo preciso chi dovrà occuparsi della sua applicazione. Tra i rappresentanti firmatari figurano:
- Anthropic
- Meta
- Nvidia
- OpenAI, rappresentata da Greg Brockman
- xAI
la sostituzione del termine ai con super intelligence
Nella stessa giornata, Trump ha firmato un ordine esecutivo che impone ai dipartimenti federali di utilizzare l’espressione “Super Intelligence”, abbreviata in SI, al posto di “Artificial Intelligence” e “AI” nelle comunicazioni ufficiali, nelle dichiarazioni pubbliche e nei documenti politici non legislativi.
La modifica riguarda esclusivamente il linguaggio adottato dall’amministrazione federale. Non elimina il termine intelligenza artificiale dal punto di vista giuridico e non impone ad altri Paesi o organizzazioni di adottare la nuova denominazione.
audizione sull’intelligenza artificiale al consiglio comunale di new york
OpenAI ha partecipato a un’audizione sulla sicurezza dell’intelligenza artificiale convocata dal Consiglio comunale di New York. La seduta plenaria, organizzata dalla presidente Julie Menin, ha consentito la partecipazione di tutti i 51 consiglieri.
Anthropic, OpenAI, Google e Meta hanno accettato di inviare rappresentanti per una deposizione sotto giuramento. La presidente ha inoltre emesso un mandato di comparizione nei confronti di SpaceXAI, società legata a Elon Musk.
L’udienza si è svolta in un momento caratterizzato dall’aumento degli allarmi interni sulla sicurezza e dalle notizie relative ad agenti di intelligenza artificiale fuori controllo che avrebbero danneggiato banche dati governative. In questo contesto, l’affermazione di Altman sull’accettazione di alcuni effetti negativi potrebbe diventare uno dei principali temi delle domande rivolte ai rappresentanti delle aziende.
le dimissioni del responsabile della sicurezza di openai
Poco prima della pubblicazione dell’intervista, David Robinson ha annunciato l’uscita da OpenAI dopo tre anni e mezzo alla guida del team dedicato alla sicurezza. In un articolo pubblicato su The Atlantic, Robinson ha descritto una cultura aziendale ormai in frantumi e ha sostenuto che le imprese impegnate nello sviluppo di questa tecnologia non siano sufficientemente prudenti.
Durante il suo incarico, Robinson si occupava della preparazione dei rapporti di sicurezza relativi al lancio di prodotti importanti. A suo giudizio, i laboratori di frontiera dovrebbero adottare procedure simili a quelle di centrali nucleari o aeroporti molto trafficati, con sistemi ridondanti e pianificazioni rigorose per impedire che errori umani occasionali possano generare conseguenze disastrose.
Robinson ha inoltre riferito di non aver incontrato, durante il periodo trascorso in OpenAI, colleghi con esperienza nella sicurezza aerea o nella gestione di reattori nucleari. L’azienda ha dichiarato che continuerà a rafforzare le proprie misure di sicurezza.
responsabilità legale e controlli sui modelli di frontiera
Il punto centrale del dibattito riguarda il confine tra gli effetti negativi considerati tollerabili e i rischi che non possono essere accettati. Attacchi informatici e frodi vengono inseriti da Altman tra i possibili costi dell’apertura della tecnologia, mentre la perdita grave del controllo umano viene indicata come una soglia invalicabile.
Restano da chiarire le responsabilità legali connesse agli episodi provocati da agenti autonomi. Se le autorità dovessero attribuire direttamente agli sviluppatori la responsabilità per attacchi o danni, la nozione di “effetto negativo accettabile” assumerebbe un significato concreto sul piano giudiziario.
L’accordo volontario della Casa Bianca difficilmente potrà sostituire, almeno nel breve periodo, una legislazione effettiva. Le dimissioni di Robinson e l’eventuale comparsa di nuovi allarmi interni potrebbero spostare il confronto dalla velocità dello sviluppo alla domanda su chi debba rispondere dei danni già verificatisi.