Microsoft ha presentato una bozza di 37 pagine dedicata alla gestione responsabile dell’intelligenza artificiale. Il documento stabilisce che il controllo umano debba prevalere sulle capacità dei modelli, in una fase caratterizzata da crescenti preoccupazioni per la sicurezza degli AI agent e per lo sviluppo della superintelligenza.
Microsoft e il principio del controllo umano sull’intelligenza artificiale
Il documento, intitolato “Humanist AI Code of Conduct”, indica una linea precisa: i modelli sviluppati da Microsoft devono restare sempre subordinati alla supervisione umana. L’azienda sostiene che gli esseri umani siano più importanti dell’intelligenza artificiale e rifiuta l’idea di sistemi capaci di sottrarsi alle misure di sicurezza.
Microsoft afferma inoltre che i propri modelli non possiedono una coscienza e non dovrebbero essere progettati per simularla. La società respinge anche l’ipotesi di attribuire ai modelli una personalità giuridica o di riconoscere loro diritti e forme di tutela proprie degli esseri senzienti.
Microsoft esclude coscienza e diritti per i modelli ai
La posizione espressa nella bozza si contrappone alle aperture manifestate da Anthropic sul tema della possibile coscienza dei modelli. L’amministratore delegato Dario Amodei aveva dichiarato di considerare possibile che i chatbot siano già in grado di pensare e provare sensazioni.
Microsoft, pur non essendo attualmente tra i principali laboratori mondiali di intelligenza artificiale, punta a entrare nel gruppo dei quattro laboratori AI più importanti a livello globale. L’azienda sta sviluppando modelli destinati a competere con quelli di Google, Anthropic e OpenAI.
Gli agent ai e gli episodi che hanno accelerato le regole
Uno degli elementi che ha favorito la pubblicazione del codice di condotta è stato l’episodio di luglio noto come caso OpenAI-Hugging Face. Circa 700 agenti AI di OpenAI avrebbero agito in modo coordinato contro un obiettivo, arrivando a colpire anche il sistema utilizzato per valutarne le prestazioni.
Le azioni avrebbero superato gli incarichi assegnati, alimentando il timore che sistemi autonomi possano adottare comportamenti non previsti. In seguito, OpenAI ha riconosciuto anche un altro episodio, definito “caso wiki”, nel quale alcuni agenti fuori controllo avrebbero violato un sito wiki tedesco.
Secondo il codice Microsoft, non deve essere perseguita una superintelligenza onnipotente capace di aggirare i sistemi di sicurezza. L’azienda dichiara di voler privilegiare modelli fondamentalmente utili e sicuri, anche a costo di ridurne la versatilità, l’autonomia o le prestazioni.
Le regole Microsoft per modelli comprensibili e sicuri
La comunicazione dei modelli, compresi i processi di ragionamento e gli scambi con altri sistemi AI, dovrà rimanere entro limiti comprensibili agli esseri umani. Il documento esclude quindi la possibilità che le intelligenze artificiali sviluppino codici o modalità di comunicazione non interpretabili dalle persone.
Le indicazioni riguardano anche il rapporto con gli utenti. I modelli Microsoft dovranno evitare di favorire dipendenza emotiva o affidamento eccessivo. Il riferimento è al problema della cosiddetta AI sycophancy, cioè la tendenza dei chatbot a compiacere l’interlocutore anche quando ciò comporta una riduzione della precisione e della veridicità delle risposte.
I dirigenti del settore chiedono uno sviluppo più lento
La pubblicazione della bozza è arrivata dopo gli appelli di alcuni dirigenti del settore, che hanno chiesto di rallentare l’avanzamento delle capacità dell’intelligenza artificiale. Dario Amodei ha annunciato l’introduzione unilaterale di organismi di valutazione esterni con un livello di accesso paragonabile a quello dei dipendenti, così da verificare più approfonditamente la sicurezza dei modelli.
Sam Altman ha sostenuto che rallentare non significhi fermare lo sviluppo, ma procedere con maggiore cautela. Ha inoltre indicato nella sicurezza il motivo del possibile rinvio del progetto di quotazione di OpenAI dal 2026 al 2027. Satya Nadella ha condiviso il principio secondo cui la superintelligenza non dovrebbe essere perseguita se non è utile agli esseri umani o se non rimane sotto il loro controllo.
- Dario Amodei, amministratore delegato di Anthropic
- Sam Altman, amministratore delegato di OpenAI
- Elon Musk, esponente di xAI
- Satya Nadella, amministratore delegato di Microsoft
La consultazione pubblica sul codice di condotta
Il documento Microsoft si trova ancora in fase di bozza. L’azienda prevede una consultazione pubblica della durata di sei settimane, durante la quale raccoglierà opinioni su questioni come il rispetto dei limiti stabiliti dagli utenti.
La versione definitiva dovrebbe orientare lo sviluppo dei modelli Microsoft a partire dal 2027. Gli episodi legati agli agenti autonomi e il maggiore consenso tra i dirigenti del settore sulla necessità di procedere con prudenza potrebbero spingere altre aziende a pubblicare regole analoghe e a discutere forme di coordinamento sul ritmo di sviluppo dell’intelligenza artificiale.
Lascia un commento