Dario Amodei (Anthropic) propone un rallentamento dello sviluppo AI per motivi di sicurezza. La Cina rifiuta, vedendovi un tentativo USA di mantenere il primato.

Il ritmo dell'intelligenza artificiale sta superando la capacità umana di renderla sicura. È la tesi di Dario Amodei, CEO di Anthropic, che ha lanciato un appello globale per rallentare lo sviluppo dei modelli di frontiera. Non si tratta di un arresto totale, ma di una decelerazione strategica per evitare che le capacità dei sistemi crescano in modo incontrollato rispetto alle misure di protezione.

Più chip e meno velocità

L'annuncio è arrivato attraverso un saggio intitolato 'We Must Pace the Frontier'. Amodei ammette di non aver pienamente previsto l'impatto di un progresso così rapido, definendo l'attuale evoluzione dell'AI come esponenziale. Il punto critico è il cosiddetto miglioramento ricorsivo: l'AI che aiuta a costruire versioni ancora più potenti di se stessa, accelerando un ciclo che rischia di sfuggire al controllo umano.

Per Amodei, il rischio non è teorico. Ha citato preoccupazioni concrete legate a potenziali cyberattacchi, usi impropri in ambito biologico e comportamenti dei sistemi imprevisti dai loro stessi sviluppatori. Un incidente legato a un agente AI, se scalato a versioni più capaci, potrebbe causare danni economici enormi. In questo scenario, la velocità non è più un vantaggio competitivo, ma un fattore di rischio sistemico.

Il piano di Dario Amodei

La proposta di Amodei si articola su tre pilastri fondamentali per gestire ciò che definisce il ritmo di avanzamento dei modelli. Primo: Anthropic intende concedere a valutatori indipendenti un accesso simile a quello dei dipendenti per alcune parti del proprio lavoro interno sulla sicurezza. Secondo: Amodei auspica che le aziende AI nei paesi democratici concordino standard di sicurezza comuni. Terzo: è necessario un coordinamento internazionale che includa la Cina.

Per rendere efficace questo rallentamento, Amodei ha delineato misure drastiche per limitare lo sviluppo cinese, al fine di ottenere il 'respiro' necessario per calibrare i passi. Queste includono:

• Il blocco delle vendite di chip AI potenti e di attrezzature per la produzione di semiconduttori verso la Cina.
• Una lotta più severa al contrabbando di chip.
• Restrizioni all'accesso remoto ai data center situati al di fuori del territorio cinese.

Questa posizione ha creato una spaccatura nel panorama tech statunitense. Se da un lato Sam Altman (OpenAI) ed Elon Musk (xAI) hanno espresso un sostegno insolito, dall'altro Mark Zuckerberg (Meta) e il presidente Donald Trump hanno respinto l'idea, sostenendo la necessità di una crescita rapida e senza ostacoli.

Perché Pechino rifiuta il patto

La risposta della Cina è stata immediata e netta. Attraverso i media statali, come il Global Times, e i canali ufficiali, Pechino ha interpretato la proposta di Amodei non come un'iniziativa di sicurezza, ma come un tentativo di preservare la leadership tecnologica degli Stati Uniti. La domanda che emerge dai circoli governativi cinesi è esplicita: 'Why do you always get to define the game — and change the rules?'.

Analisi strategica: Per Pechino, accettare un limite di velocità dettato da un CEO americano significherebbe cristallizzare lo svantaggio attuale. Mentre le startup cinesi stanno guadagnando terreno contro OpenAI e Anthropic, un accordo di rallentamento agirebbe come un freno artificiale proprio nel momento di massima accelerazione cinese. Alvin Wang Graylin, senior fellow dell'Asia Society Policy Institute, ha chiarito che non vi è motivo per cui la Cina debba cooperare per essere frenata più di quanto lo sia già dalle sanzioni USA.

Tuttavia, Graylin suggerisce che la Cina potrebbe essere aperta a discutere il ritmo dello sviluppo, a patto di non accettare i termini di Amodei così come sono stati formulati. Il tema sarà centrale nell'incontro tra Donald Trump e Xi Jinping a Washington, previsto per il 24 settembre, dove gli Stati Uniti dovrebbero sollevare la questione dei rischi condivisi legati all'AI.

Jacob Coxon e il rischio catastrofico

Dietro la proposta di Amodei c'è anche l'eco di allarmi interni. Jacob Coxon, ex ricercatore di Anthropic, ha recentemente lasciato l'azienda lanciando un avvertimento severo. Secondo Coxon, sia Anthropic che OpenAI stanno 'gambling with our lives'.

Il ritratto che emerge da Coxon è quello di un'industria spinta da incentivi economici e di mercato che oscurano la prudenza scientifica. La sua uscita sottolinea una tensione etica profonda: l'idea che la corsa al profitto e al primato geopolitico stia portando le aziende a ignorare segnali di pericolo che potrebbero portare a danni catastrofici per l'umanità. Per Amodei, il dilemma più difficile rimane proprio questo: cosa succede se le nazioni avversarie, in particolare la Cina, decidono di non rallentare?

Chi definisce le regole del gioco?

Il dibattito sollevato da CNBC e altre fonti evidenzia un problema di governance globale. Attualmente, le regole dell'AI sono scritte da un ristretto gruppo di CEO della Silicon Valley e dai governi delle superpotenze. La proposta di Amodei, pur essendo presentata come un atto di responsabilità, è percepita come un esercizio di potere.

Analisi di business: È interessante notare il timing di questa proposta. Anthropic si sta preparando per una possibile quotazione in borsa (IPO). Posizionarsi come l'azienda 'responsabile' e 'sicura' potrebbe essere una mossa strategica per attrarre investitori istituzionali preoccupati dai rischi regolatori e reputazionali, differenziandosi da competitor più aggressivi.

Se il piano di Amodei fallisse, lo scenario più probabile è una corsa agli armamenti AI senza freni. Indicatore verificabile: L'eventuale annuncio di un nuovo modello di frontiera da parte di una startup cinese con capacità superiori a GPT-4 o Claude 3 entro i prossimi sei mesi confermerebbe l'inefficacia di qualsiasi tentativo di coordinamento internazionale.

La corsa agli armamenti tra AI Act e NIS2

Per l'imprenditore europeo e italiano, questo scontro tra USA e Cina non è solo geopolitica, ma definisce il perimetro normativo in cui operare. Mentre Washington e Pechino litigano sulla velocità, l'Unione Europea ha già tracciato una linea con l'AI Act, che introduce obblighi rigorosi per i modelli ad alto rischio. Il rischio per le imprese UE è di trovarsi schiacciate tra una regolamentazione interna severa e un mercato globale dove i leader (USA e Cina) accelerano ignorando i limiti di sicurezza.

L'integrazione tra AI Act e la direttiva NIS2 (Network and Information Security) impone alle aziende italiane di rivedere la propria resilienza informatica. Se l'AI accelerasse senza controlli, come teme Amodei, la superficie di attacco per le infrastrutture critiche europee aumenterebbe esponenzialmente. Le imprese italiane devono quindi monitorare non solo le performance dei modelli, ma la loro conformità a standard di sicurezza che, in assenza di un accordo globale, rimarranno frammentati e potenzialmente conflittuali.

FAQ

Q: Cosa propone esattamente Dario Amodei? A: Propone di rallentare lo sviluppo dei modelli AI più avanzati per permettere alla ricerca sulla sicurezza di tenere il passo, suggerendo standard comuni tra democrazie e coordinamento con la Cina. Q: Perché la Cina rifiuta il piano? A: Pechino vede la proposta come un tentativo degli Stati Uniti di mantenere il proprio vantaggio tecnologico, impedendo alla Cina di colmare il gap. Q: Quali sono i rischi citati nel dossier? A: Amodei e l'ex ricercatore Jacob Coxon menzionano rischi di cyberattacchi, usi impropri in ambito biologico e danni economici massivi causati da agenti AI fuori controllo. Q: Qual è la posizione di altre aziende tech? A: Sam Altman (OpenAI) ed Elon Musk (xAI) supportano il rallentamento; Mark Zuckerberg (Meta) e Donald Trump invece spingono per una crescita rapida e senza limiti.

---

Fonti: Restofworld, CNBC, News9live ·

glacom · Intelligenza artificiale per aziende: i modelli girano sui tuoi server, i dati non escono →