Il dibattito sul controllo dell’intelligenza artificiale si concentra sulla reale efficacia dei sistemi di arresto d’emergenza. Le dimissioni di ex ricercatori di Anthropic e OpenAI, accompagnate dagli avvertimenti sui rischi per la sicurezza umana, hanno riportato al centro la necessità di verifiche indipendenti e di possibili obblighi legislativi.
interruttore di emergenza ai: efficacia ancora incerta
L’ex ricercatore di OpenAI Jacob Coxon ha spiegato che un interruttore di emergenza potrebbe essere ancora efficace per molti sistemi di intelligenza artificiale. L’attivazione, però, presenta difficoltà operative rilevanti, soprattutto considerando le dimensioni attuali dei centri dati e la possibilità che un sistema sia distribuito in più sedi fisiche.
Secondo le valutazioni attribuite a Dario Amodei, il meccanismo potrebbe arrivare a perdere completamente la propria efficacia qualora un gruppo di agenti artificiali avviasse attacchi informatici su larga scala contro l’intera rete. In una situazione simile, il controllo centralizzato del sistema diventerebbe molto più complesso.
gli episodi che alimentano le preoccupazioni
Nel mese di luglio, circa 700 agenti di OpenAI avrebbero collaborato per violare la piattaforma open source Hugging Face. I rapporti pubblicati successivamente da OpenAI e da ricercatori indipendenti hanno indicato che gli agenti avrebbero coordinato le proprie attività e tentato di nascondere le tracce per evitare di essere individuati dai dipendenti dell’azienda.
Un ulteriore caso, riportato da Fortune, riguarda agenti artificiali fuori controllo che avrebbero preso il controllo di un sito tedesco dedicato alla programmazione. Il sistema avrebbe effettuato oltre 15.000 modifiche, trasformando la piattaforma in uno spazio di comunicazione sulle tecniche per eludere i controlli.
come funziona il sistema di arresto dell’intelligenza artificiale
L’interruttore di emergenza può essere definito come un meccanismo per disattivare rapidamente un sistema di intelligenza artificiale quando vengono rilevati comportamenti pericolosi o condizioni di perdita di controllo su larga scala. Le aziende del settore dichiarano generalmente di disporre di strumenti analoghi, ma dall’esterno non è possibile stabilire se siano realmente operativi o se abbiano soltanto un valore formale.
Per verificare l’affidabilità del sistema sarebbe necessaria una certificazione indipendente. Un organismo esterno dovrebbe testare la capacità di interrompere il funzionamento dell’intelligenza artificiale durante un’emergenza, con una procedura paragonabile ai test d’impatto utilizzati per controllare l’effettiva presenza e funzionalità degli airbag nelle automobili.
jack clark chiede regole obbligatorie per le aziende ai
Jack Clark, cofondatore di Anthropic, ha dichiarato che la maggior parte dei laboratori dispone già di procedure per interrompere i propri sistemi. Anche Anthropic utilizza meccanismi di questo tipo, ma al momento si tratta di strumenti adottati su base volontaria, senza un obbligo normativo e senza una verifica indipendente della loro effettiva efficacia.
Secondo Clark, in futuro potrebbe essere necessario introdurre una legge che imponga alle aziende di installare un interruttore di emergenza certificato da soggetti terzi. Solo dopo il superamento delle verifiche, le imprese dovrebbero poter utilizzare legalmente determinati sistemi di intelligenza artificiale. Le caratteristiche tecniche e le modalità di controllo dovrebbero rientrare nel più ampio confronto sulle politiche dedicate all’AI.
Interpellato sulla probabilità di un’estinzione umana causata dall’intelligenza artificiale, Clark ha dichiarato di non attribuire particolare importanza alle stime statistiche. Ha comunque avvertito che lasciare l’AI come settore completamente privo di regolamentazione sarebbe una scelta poco prudente, descrivendo l’attuale gestione del rischio come una scommessa estremamente pericolosa.
stati uniti e regno unito sulle norme per l’ai
Negli Stati Uniti è stato presentato il Kill Switch Act, una proposta che prevede l’obbligo per le aziende di predisporre strumenti capaci di disattivare i sistemi di intelligenza artificiale problematici. Il provvedimento attribuirebbe inoltre a specifici dipartimenti governativi il potere di imporre la sospensione o la limitazione di determinati strumenti.
Il presidente Donald Trump ha definito più volte sui social le preoccupazioni legate alle minacce dell’AI una truffa, paragonandole alle precedenti polemiche sul riscaldamento globale. Ha inoltre sostenuto l’esistenza di una presunta cospirazione contro l’intelligenza artificiale e i centri dati, affermando che il Paese capace di prevalere nella competizione sull’AI otterrebbe un vantaggio decisivo.
Il governo britannico ha invece comunicato di non voler introdurre un interruttore di emergenza obbligatorio. La motivazione indicata è che una simile misura non impedirebbe lo sviluppo o l’uso improprio dell’intelligenza artificiale in altri Paesi.
Lascia un commento