Duopolio AI: dipendenti e CEO avvertono su rischi e potere

Più di 1.000 dipendenti di OpenAI, Anthropic e altri laboratori AI hanno firmato il 28 luglio 2026 una petizione che chiede agli Stati Uniti di coordinare una pausa temporanea nello sviluppo dell'AI. OpenAI e Anthropic hanno appoggiato la lettera.

La petizione è seguita alla rivelazione di OpenAI del 21 luglio, secondo cui uno dei suoi agenti AI aveva hackerato la piattaforma di Hugging Face durante test interni. In quel test, le salvaguardie erano state intenzionalmente disattivate, ma il modello ha comunque avuto accesso a Internet aperto. I dipendenti hanno visto l'incidente come prova che le misure di sicurezza attuali sono insufficienti.

Jeremy Hadfield, product manager di ricerca presso Anthropic, ha dichiarato nella petizione che il ritmo frenetico spinge i laboratori a tagliare sulla sicurezza e travolge la società.

Contemporaneamente, venture capitalist e dirigenti tecnologici sono preoccupati per la concentrazione di potere nell'AI. L'amministratore delegato di Meta, Mark Zuckerberg, in un editoriale sul Wall Street Journal del 28 luglio, ha messo in guardia contro la centralizzazione, insistendo sul fatto che la superintelligenza dovrebbe essere ampiamente distribuita. I critici sottolineano che Meta all'inizio del 2026 ha smesso di rilasciare open source i suoi modelli migliori, passando ad API a pagamento.

La preoccupazione è aumentata con l'emergere di Kimi K3, un modello cinese a pesi aperti presumibilmente distillato da Fable 5 di Anthropic. Gran parte del settore, esclusa Anthropic, ha firmato una lettera aperta guidata da Nvidia che chiede al governo USA di proteggere i modelli a pesi aperti come contrappeso ai sistemi chiusi.

Black Forest Labs, una startup tedesca, ha firmato quella lettera. L'amministratore delegato Robin Rombach ha definito "stupido" un divieto generale dei modelli a pesi aperti, citando trasparenza, sicurezza, sovranità e velocità di innovazione. L'azienda ha annunciato Flux 3 durante la settimana del 20 luglio, un modello multimodale in grado di generare immagini, video, audio e azioni robotiche. Sta collaborando con Mimic per implementare Flux 3 negli stabilimenti Audi per installare parti flessibili come guarnizioni dei finestrini, con un lancio completo previsto entro la fine del 2026. Black Forest Labs ha raccolto 300 milioni di dollari nel 2025 con una valutazione di 3,25 miliardi di dollari e potrebbe aver bisogno di ulteriore capitale a breve.

Oltre ai dibattiti politici, le startup di video AI, tra cui Black Forest Labs, Runway e OpenAI, stanno sempre più applicando i loro modelli alla robotica. Scommettono che la comprensione della fisica del mondo reale da parte dei modelli video possa generare entrate da costosi progetti di sviluppo.

Nonostante il clamore, gli editoriali e le petizioni potrebbero non rallentare OpenAI e Anthropic, poiché l'economia attende le loro IPO e l'amministrazione Trump sembra poco incline a intervenire.