Scandire il Passo dell’IA

Punti chiave

• Il ritmo controllato non significa mettere in pausa: Gli appelli a «procedere con cautela nello sviluppo dell’IA» significano rallentare il rilascio di potenti modelli di intelligenza artificiale (IA) per testarli e controllarli meglio, non fermare lo sviluppo o la spesa.
• La spesa si sposta, non scompare: I capitali potrebbero spostarsi da cicli di addestramento sempre più grandi verso infrastrutture di sicurezza—test, red-teaming¹, interpretabilità, monitoraggio, cybersecurity. Ciò richiede ancora un investimento significativo in calcolo e ingegneria.
• I costi di sicurezza creano vantaggi di scala: Poiché un lavoro rigoroso sulla sicurezza è costoso, i laboratori più grandi sono meglio posizionati per assorbirne i costi, il che potrebbe accelerare il consolidamento delle grandi società di IA, mentre i concorrenti più piccoli faticano a tenere il passo.
• Nessuna delle due parti può permettersi di fermarsi prima: Gli Stati Uniti e la Cina hanno entrambi troppi incentivi a continuare ad avanzare finché anche l'altro lo fa. Washington ha segnalato di non voler imporre restrizioni, lasciando al settore il compito di definire il proprio quadro di sicurezza.

Il dibattito sull'IA è appena cambiato

Negli ultimi giorni, Dario Amodei, Amministratore Delegato (CEO) di Anthropic, ha sostenuto che il settore deve procedere con cautela nello sviluppo dell'IA, dando a sicurezza e controllo più tempo per recuperare il ritardo rispetto a capacità dell’IA in rapido miglioramento.

I mercati inizialmente hanno sentito un messaggio più semplice: lo sviluppo dell'IA rallenterà, e con esso la spesa per le infrastrutture per l'IA.

Dopo aver osservato la risposta dell'industria, del governo degli Stati Uniti e della Cina negli ultimi giorni, riteniamo che questa interpretazione sia sempre più improbabile.

Il risultato che sta emergendo sembra meno una pausa e più una corsa con più barriere di protezione. Lo sviluppo di modelli di IA avanzati continua. Stati Uniti e Cina continuano a competere. Ma molte più risorse sono destinate a comprendere, testare, mettere in sicurezza e controllare modelli sempre più potenti.

Per gli investitori, questa è una conclusione molto diversa da "lo sviluppo dell'IA sta finendo."

Il problema sta cambiando

Negli ultimi anni, la grande domanda sull'IA è stata semplice:

I modelli possono continuare a migliorare?

Finora, la risposta è stata in gran parte sì.

Più calcolo, modelli migliori e tecniche migliori hanno continuato a produrre sistemi più capaci. Con il progredire dell'IA, i modelli possono scrivere software, condurre ricerche, utilizzare strumenti e operare con crescente autonomia.

Questi progressi hanno sollevato una nuova domanda:

Possiamo comprendere e controllare questi sistemi con la stessa rapidità con cui possiamo renderli più potenti?

Sempre più spesso, chi costruisce i modelli ci dice di no.

Questa è la parte più importante dell'argomentazione di Amodei. Non sostiene che l'IA abbia smesso di funzionare. Per certi versi, sostiene il contrario. Le capacità avanzano così rapidamente che allineamento, interpretabilità, valutazione, cybersecurity e governance faticano a tenere il passo.

E la risposta dell'industria negli ultimi giorni è significativa. Sam Altman, Elon Musk e Demis Hassabis hanno tutti espresso sostegno a elementi importanti della proposta di Amodei, offrendo approcci più incrementali all'implementazione. Altman ha sostenuto un accesso più profondo per valutatori indipendenti. Hassabis ha indicato standard comuni di settore. Altri propongono variazioni sulla valutazione da parte di terzi e sui meccanismi di sicurezza guidati dall'industria.

Ci sono molti disaccordi su quanto esattamente spingersi e quanto il governo debba essere coinvolto. Ma sembra esserci un consenso crescente sul problema di fondo: sicurezza e controllo devono recuperare il ritardo rispetto alle capacità.

Maggiore sicurezza richiede ancora più infrastrutture

La prima reazione del mercato al "ritmo controllato" è stata comprensibile. Se i laboratori dovessero rallentare, forse avrebbero bisogno di meno unità di elaborazione grafica (GPU), meno data center e meno energia.

La proposta di Amodei non prevede semplicemente di disattivare i cluster di addestramento. Richiede un maggiore investimento in allineamento, interpretabilità, test, valutazione, monitoraggio e sicurezza man mano che le capacità avanzano.

Queste attività richiedono risorse tecniche significative, con un consumo intensivo di calcolo:

• I modelli devono essere testati ripetutamente in un numero enorme di interazioni e subiscono sofisticati red-teaming.
• I ricercatori devono capire perché i modelli si comportano in quel modo.
• I sistemi sempre più autonomi richiedono una sicurezza informatica e un monitoraggio più robusti.
• I problemi riscontrati durante i test possono richiedere ulteriore post-addestramento.
• Gli agenti devono essere valutati all'interno di ambienti sempre più complessi prima del rilascio.

Questo non significa che ogni dollaro speso per l'allineamento diventi automaticamente un dollaro aggiuntivo di spesa in conto capitale per l'IA. Se i laboratori di IA più complessi ridurranno in modo significativo la dimensione o la frequenza delle loro più grandi sessioni di addestramento, una certa domanda infrastrutturale potrebbe essere rimandata.

Ma pensiamo che ci sia un modo più utile per gli investitori di inquadrare la questione: ogni nuovo progresso nell’IA più avanzata potrebbe ora richiedere più infrastrutture.

Potremmo aver bisogno di più valutazione, più post-addestramento, più inferenze, più sicurezza, più monitoraggio e più sperimentazione per ogni passo avanti nella capacità.

Questo potrebbe rendere la prossima fase di sviluppo dell'infrastruttura per l'IA più complessa e più intensiva sul fronte della sicurezza, senza necessariamente ridurne la scala.

Sta nascendo un percorso di autoregolamentazione

Il secondo sviluppo importante è stata la risposta di Washington. Uno dei rischi in vista del fine settimana era che le preoccupazioni per la sicurezza del settore potessero innescare un rallentamento imposto dal governo nello sviluppo dell’IA più avanzata.

Per ora, sembra meno probabile.

Il presidente Trump ha respinto le richieste di rallentare in generale lo sviluppo dell’IA negli Stati Uniti, sostenendo che ciò potrebbe indebolire la posizione del paese rispetto alla Cina. Ha ribadito questa opinione al vertice All-In di lunedì. Anche il CEO di Nvidia, Jensen Huang, ha sostenuto che gli Stati Uniti possono continuare a guidare lo sviluppo dell'IA migliorando la sicurezza.

Questo cambia il quadro politico a breve termine. Piuttosto che Washington imponga un ampio freno allo sviluppo dell’IA, il percorso emergente potrebbe richiedere al settore di costruire autonomamente gran parte del quadro di sicurezza.

Stiamo iniziando a vedere come potrebbe essere:

Un quadro di autoregolamentazione credibile potrebbe rappresentare un utile compromesso.

Potrebbe migliorare la sicurezza e creare maggiore prevedibilità per aziende e investitori senza imporre ampi limiti all'addestramento o all'innovazione. Standard più chiari potrebbero anche ridurre il rischio di una risposta governativa molto più aggressiva in seguito a un grave incidente legato all'IA.

Ci sono importanti avvertenze. L'autoregolamentazione potrebbe rivelarsi insufficiente. Gli standard potrebbero variare tra aziende. I costi fissi della compliance potrebbero favorire i laboratori più grandi. Il Congresso, i singoli stati o le future amministrazioni potrebbero alla fine adottare un approccio più interventista.

Ma dal nostro punto di vista, c'è una differenza importante tra costruire barriere di protezione intorno all'innovazione e limitare l'innovazione stessa.

La Cina rende difficile una vera pausa

Poi c'è la Cina. La reazione della Cina evidenzia perché un rallentamento globale prolungato sarebbe straordinariamente difficile. Pechino ha reagito con forza all'argomentazione di Amodei secondo cui gli Stati Uniti dovrebbero proteggere il loro vantaggio tecnologico sulla Cina, criticando ciò che ha definito "allarmismo" e "confronto".

Ma la Cina non sta dicendo che l'IA non comporti rischi. I leader cinesi hanno ripetutamente discusso della necessità di governance, controllo e sicurezza dell'IA. Allo stesso tempo, la Cina continua a spingere con decisione per migliorare i suoi modelli, espandere l'adozione dell'IA e sviluppare il proprio ecosistema interno di IA. Queste posizioni non sono necessariamente incoerenti. La Cina comprende i rischi associati a un'IA sempre più potente. Ma ha anche enormi incentivi strategici ed economici a continuare a far progredire questa tecnologia.

Perché la Cina dovrebbe rallentare volontariamente mentre cerca di ridurre il divario con gli Stati Uniti? E perché i laboratori americani dovrebbero rallentare materialmente se credono che i laboratori cinesi continueranno ad avanzare? Questo è il vincolo fondamentale nel dibattito sul controllo del ritmo di sviluppo. Nessuna delle due parti ha molti motivi per fermarsi se l'altra continua a muoversi. Questo rende improbabile una pausa globale prolungata.

L'equilibrio più plausibile: tutti continueranno a correre, spendendo di più per rendere la corsa più sicura.

Una corsa con più barriere di protezione

Riteniamo sempre più che questo processo si sviluppi attraverso quattro fasi di rinforzo.

Più ingegneria e potenza di calcolo servono per l'allineamento, l'interpretabilità, la valutazione, la cybersecurity e il controllo. Le terze parti indipendenti svolgono un ruolo più importante nella valutazione dei modelli più complessi. L'asticella per il rilascio di sistemi sempre più autonomi aumenta. E la sicurezza diventa un altro livello importante dello stack tecnologico dell'IA.

Questo crea anche effetti di secondo ordine.

• I laboratori più grandi e più evoluti potrebbero essere avvantaggiati perché possono assorbire gli ingenti costi fissi dell'infrastruttura di sicurezza e della compliance. Gli sviluppatori di modelli più piccoli potrebbero trovare questi costi più difficili da sostenere.
• La cybersecurity diventa sempre più importante man mano che i sistemi di IA acquisiscono maggiore autonomia e accesso a strumenti e dati.
• I carichi di lavoro di inferenza e valutazione diventano più significativi man mano che le aziende dedicano più tempo a testare cosa possono fare i modelli prima di implementarli su larga scala.
• E la domanda potrebbe spostarsi sempre più dalle GPU utilizzate per addestrare i modelli verso l'infrastruttura più ampia necessaria per operarli, testarli e proteggerli.

Niente di tutto ciò suggerisce che il rischio sia scomparso.

Un grave incidente di IA potrebbe cambiare molto rapidamente l'ambiente normativo. I governi potrebbero alla fine decidere che l'autoregolamentazione non è sufficiente. Anche l'approccio politico statunitense potrebbe cambiare con una futura amministrazione.

Ma questi sono rischi da monitorare, non motivi per presumere che il dibattito odierno sulla sicurezza ponga necessariamente fine al ciclo degli investimenti nell'IA.

La domanda che conta ancora

Per gli investitori a lungo termine, la domanda fondamentale rimane invariata:

Rendere l'IA più capace continua a creare valore economico?

Se i modelli smettono di migliorare, o se le aziende non riescono a generare significativi aumenti di produttività grazie ad essi, il ciclo infrastrutturale finirà per rallentare. Nessun entusiasmo può compensare indefinitamente un'economia sfavorevole.

Ma se le capacità continuano a migliorare e i clienti continuano a trovare usi preziosi per l'IA, è difficile immaginare che aziende o paesi decidano collettivamente di aver raggiunto un livello di intelligenza sufficiente. Invece, è probabile che spenderemo enormi capitali per cogliere i benefici di un'IA sempre più potente, riducendone i rischi.

Ciò significa che il cambiamento importante potrebbe riguardare meno la direzione della spesa per l'IA e più la sua composizione e intensità.

La prima fase di questo ciclo di investimenti è stata dominata dalla corsa a costruire più intelligenza. La fase successiva sembra più complessa.

Dobbiamo ancora costruire intelligenza. Ma sempre più spesso dobbiamo anche capirla, testarla, metterla in sicurezza e controllarla. Tutto ciò richiede infrastrutture. Dopo aver visto evolvere il dibattito negli ultimi giorni, ne usciamo quindi un po' più costruttivi di quanto fossimo all'inizio.

La frontiera difficilmente si fermerà. La corsa difficilmente finirà. La prima fase del ciclo di investimenti nell'IA è stata in gran parte incentrata sulla costruzione di più intelligenza. La prossima fase potrebbe sempre più riguardare qualcosa di più difficile: costruire intelligenza di cui possiamo fidarci.