Intelligenza artificiale, la settimana: agenti che trovano falle, acquisizioni e modelli aperti

Una settimana densa, in cui il filo conduttore è chiaro: l’intelligenza artificiale non è più solo un assistente che risponde, ma un sistema che agisce. Trova vulnerabilità, scrive codice, lavora in laboratorio. E proprio mentre il settore spinge sugli “agenti”, arrivano anche i primi dati che ridimensionano l’entusiasmo.

La settimana in sintesi

1. 28 ottobreGoogle presenta Gemini 4 Carbon, inizialmente solo per chi si occupa di difesa informatica.
2. 2 novembreAnthropic pubblica FlashProve: una prova crittografica di quale modello ha generato una risposta.
3. 3 novembreElezioni di metà mandato negli Stati Uniti: i comitati politici legati all'AI spendono milioni, con risultati alterni.
4. 4 novembreMeta compra Conductor, OpenAI annuncia l'acquisizione di Pierre. Uber rivela quanto poco si usano gli agenti per prenotare.
5. 5 novembreIl resoconto di OpenAI sugli agenti che hanno trovato centinaia di falle nel kernel Linux.

Sicurezza: l’AI trova le falle, e le sfrutta

La notizia più rilevante, per chi si occupa di sicurezza, arriva da OpenAI. Secondo il resoconto dell’azienda, riportato da The Neuron, una pipeline di agenti automatici ha analizzato il kernel Linux, il cuore di gran parte dei server del mondo, cercando debolezze, riproducendole e proponendo correzioni.

Dagli indizi agli exploit funzionanti

Vulnerabilità del kernel Linux analizzate dagli agenti di OpenAI

• Possibili falle individuate2.308
• Riprodotte1.724
• Con exploit funzionante948
• Già corrette nel kernel61

• ~1,21 mln $costo complessivo in crediti API
• ~1.279 $per ogni vulnerabilità con exploit funzionante

Gli exploit riguardano l’escalation dei privilegi locale: un programma che gira con permessi limitati riesce a ottenere quelli di amministratore. A luglio un sistema simile ne aveva trovate 166; ora sono 948. Il dato che fa riflettere è il costo: poco più di mille dollari per una vulnerabilità sfruttabile. Il 5 novembre OpenAI ha poi presentato il modello dietro questi risultati, GPT-6 Cyber: ne parlo in questo articolo.

Questo vale in due direzioni. Per chi difende, è uno strumento potentissimo per trovare i problemi prima degli altri. Per chi attacca, lo stesso tipo di strumento abbassa il costo dell’attacco. Non a caso, nella stessa settimana l’agenzia indiana per il cybercrimine ha avvertito banche e istituzioni finanziarie che i criminali stanno già usando agenti AI per compromettere i sistemi (Reuters).

Anche Google ha scelto la sicurezza come vetrina: il suo nuovo modello di punta, Gemini 4 Carbon, presentato il 28 ottobre, è stato dato in anteprima solo a un gruppo ristretto di professionisti della difesa informatica, mentre sviluppatori e pubblico dovranno aspettare. Secondo Google è al primo posto nell’indice di Artificial Analysis, ma si tratta di risultati comunicati dall’azienda stessa.

Nuovi modelli, anche aperti

Per chi segue il tema degli LLM locali, la settimana ha portato diversi modelli con i pesi scaricabili. Le dimensioni però dicono molto su cosa si può davvero far girare in casa.

Quanto sono grandi i nuovi modelli

Parametri totali, in miliardi

• Kimi K3.1 Pro2.800
• Tencent Hy4770
• Ripple-65B Preview65

• Kimi K3.1 Pro (Moonshot AI): 2.800 miliardi di parametri, contesto di circa un milione di token, accetta testo e immagini. Ha una licenza propria, non una licenza open source standard.
• Tencent Hy4: 770 miliardi di parametri, legge grafici e documenti e può usare interfacce grafiche e riga di comando.
• Ripple-65B Preview (Ricursive Intelligence): 65 miliardi di parametri, pensato per programmazione e agenti, con licenza Apache 2.0.

Una mia valutazione, non dichiarata dalle fonti: tra questi, solo un modello della taglia di Ripple-65B è alla portata di una workstation domestica potente, con le versioni compresse (“quantizzate”). Gli altri due, pur avendo i pesi pubblici, richiedono hardware da data center.

Gli agenti che programmano fanno gola ai giganti

Due acquisizioni nello stesso giorno, il 4 novembre, raccontano dove si sta spostando la competizione:

• Meta ha comprato Conductor, una startup che permette di dividere un progetto software tra più agenti AI che lavorano in parallelo. Il servizio cloud chiude il 20 novembre, dopodiché i dati degli utenti nel cloud inizieranno a essere cancellati.
• OpenAI acquisirà Pierre Computer, la cui tecnologia di navigazione del codice alimenta già parti di Codex. Per Axios, citata da The Neuron, è una mossa per sfidare GitHub.

Il caso Conductor è un promemoria concreto: quando costruisci il tuo lavoro su un servizio di terzi, un’acquisizione può spegnerlo con due settimane di preavviso. Se lo usi, esporta i tuoi dati adesso.

L’AI in laboratorio

Anthropic ha raccontato un esperimento in cui Claude ha affiancato un gruppo di ricercatori nella determinazione della prima struttura tridimensionale di una “vault particle” batterica, una delle strutture più misteriose della cellula, scoperta nel 1986 e di cui ancora non si conosce la funzione. Claude ha cercato proteine candidate in un database di circa 15 miliardi di sequenze, progettato costrutti di DNA ed eseguito l’elaborazione delle immagini al microscopio crioelettronico.

Il resoconto è interessante anche per ciò che ammette: un protocollo scritto dall’AI conteneva un additivo che ha fatto perdere circa due settimane, e un passaggio standard saltato ha prodotto una mappa sbagliata. I risultati non sono ancora passati dalla revisione scientifica.

Sempre da Anthropic arriva FlashProve, un prototipo open source che permette di verificare con una prova crittografica che una risposta sia stata davvero generata dal modello dichiarato dal fornitore, senza rivelarne i pesi. Per ora funziona solo con contesti brevi (1.024 token) e costa da 70 a 95 volte il calcolo normale: l’azienda la definisce “progresso intermedio”, senza piani di utilizzo immediato.

Il bagno di realtà: quasi nessuno usa gli agenti

Mentre tutti parlano di agenti che faranno le cose al posto nostro, Uber ha condiviso un dato controcorrente durante la presentazione dei risultati trimestrali.

Agenti AI su Uber, nella settimana più intensa di ottobre

• 4corse prenotate tramite un agente AI
• ~500ordini Uber Eats fatti da agenti AI
• ~320 mlncorse e ordini totali nella stessa settimana

Il CEO Dara Khosrowshahi ha parlato di una trazione “molto, molto iniziale e molto limitata”. La spiegazione è semplice: prenotare una corsa nell’app richiede circa 50 secondi. Se il compito è già veloce, un agente non fa risparmiare granché.

Politica: le prime elezioni dell’AI

Le elezioni di metà mandato americane del 3 novembre sono state un banco di prova. I comitati politici legati all’industria dell’AI hanno speso milioni per influenzare il Congresso, ma diversi candidati su cui avevano puntato hanno perso (TechCrunch). Le ricerche citate da Gizmodo, riprese da The Neuron, hanno individuato centinaia di spot elettorali generati artificialmente.

In breve

• Apple taglia i budget interni per l’uso dell’AI: per alcuni ingegneri da 300 a 200 dollari al giorno (Bloomberg, via The Neuron).
• Anthropic firma il suo primo accordo di licenza a pagamento con un editore, l’Associated Press, per la copertura elettorale (Adweek, via The Neuron).
• ChatGPT Images 2.6 genera GIF animate da testo o foto (via The Neuron).

Cosa portarsi a casa

1. La sicurezza informatica sta cambiando velocità. Se trovare una falla sfruttabile costa poco più di mille dollari, aggiornare subito sistemi e dispositivi diventa ancora più importante.
2. I modelli aperti crescono, ma non tutti sono “locali”. Avere i pesi pubblici non significa poterli usare sul proprio computer.
3. Non dipendere da un solo servizio. Il caso Conductor lo dimostra: le tue cose devono poter uscire da dove sono.
4. Gli agenti sono ancora una promessa. Utili dove fanno risparmiare tempo vero, quasi irrilevanti dove le app funzionano già bene.