Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

La sicurezza dell'open source affoga nell'AI slop, e i bug bounty pagano il conto

Il 1° ottobre Google ha smesso di accettare nuove segnalazioni di vulnerabilità di prodotto nel suo Open Source Software Vulnerability Reward Program. La causa è un'ondata di segnalazioni invalide generate dall'AI. La pausa durerà almeno fino al primo trimestre del 2027.

TecnologiaAnalisiChiara RomanoPubblicato: 4 ottobre 20265 min di letturaFonti 8
La sicurezza dell'open source affoga nell'AI slop, e i bug bounty pagano il conto

Google ha annunciato la sospensione con un post su X il 1° ottobre, come ha riportato Tom's Hardware. Il cambiamento è entrato in vigore lo stesso giorno e non tocca le segnalazioni presentate prima di quella data.

Google ha fatto sapere che per alcuni repository di Google Cloud potrebbe comunque accettare segnalazioni di vulnerabilità di prodotto tramite il Cloud VRP. Le segnalazioni sulla supply chain nell'ambito dell'OSS VRP restano aperte. Riguarda chiunque faccia girare codice open source, cioè quasi tutto internet. I maintainer ricevono meno controlli gratuiti da ricercatori esterni, almeno per ora. Google ha promesso un aggiornamento entro il primo trimestre del 2027. Non ha detto come sarà il programma ricostruito, né quanta parte della vecchia copertura tornerà.

Il programma paga ricercatori indipendenti perché trovino e divulghino difetti in tutto l'ecosistema open source di Google. Le segnalazioni di vulnerabilità di prodotto riguardano difetti del codice. Quelle sulla supply chain coprono un altro insieme di problemi, nelle dipendenze che i progetti si portano dentro. Google, come riporta Tom's Hardware, parla di una riformattazione di questa parte del programma.

Perché le segnalazioni hanno smesso di essere utili

Il problema è il volume. Tom's Hardware ha scritto che la sospensione è arrivata per un afflusso di segnalazioni invalide spinte dall'AI. Non è una lamentela isolata. Lo stesso articolo nota che Linux ha abbandonato il supporto per i vecchi driver di rete dopo un'ondata di bug segnalati e poi rivelatisi falsi, generati dall'AI. È lo stesso tipo di guasto, su scala più piccola.

Due notizie degli ultimi giorni mostrano i due lati della questione. Il 2 novembre un tracker pubblico dei CVE attribuiti al team di ricerca di Anthropic elencava Apache Arrow in Rust con un punteggio CVSS di 9.9. Elencava anche tre difetti in NLnet Labs Krill valutati 8.4. Le stesse voci stanno in un tracker che registra SQLite a 6.8 il 30 ottobre e Nextcloud Server a 5.3 il 27 ottobre, secondo il repository GitHub mantenuto da patrickmgarrity.

La revisione assistita dall'AI trova quindi bug reali e gravi. Il problema è il rapporto. Un programma di bounty deve fare il triage di ogni segnalazione. Una segnalazione che si rivela un'allucinazione costa al revisore lo stesso tempo di una vera.

L'asimmetria è tutta qui. Trovare candidati è diventato economico. Decidere quali sono reali no.

I ricercatori si costruiscono i filtri da soli

Caleb Gross, ricercatore di sicurezza offensiva, ha pubblicato il 4 novembre la trascrizione di un intervento. Descrive strumenti costruiti esattamente per questo problema di triage. Il suo strumento Slice ha riprodotto la scoperta di un use-after-free nel server SMB del kernel Linux per circa 3 dollari per esecuzione, secondo il resoconto che Gross ha scritto su noperator.dev. Il suo strumento Raink ordina grandi insiemi di dati con gli LLM in complessità O(N). Secondo Gross può dare priorità a circa 2.700 repository GitHub, a circa 3.000 sottosistemi del kernel o a circa 1.500 funzioni di diff delle patch.

Nell'intervento di Gross il punto è la prioritizzazione, non il rilevamento. Sostiene che il collo di bottiglia è decidere quale superficie d'attacco esaminare, non la ricerca dei bug in sé.

La pratica del settore sta iniziando a dargli ragione. Il congelamento di Google è la versione brutale di quel giudizio: se la coda non si può ordinare, la coda si chiude.

Cosa nasconde la coda chiusa

La pausa di un fornitore non equivale a un calo nella scoperta di vulnerabilità. Il tracker legato ad Anthropic mostra un flusso costante tra fine ottobre e inizio novembre. Il Register ha riportato il 3 ottobre che Mythos, il modello di caccia ai bug di Anthropic, era coinvolto in una vulnerabilità poi finita sotto attacco. Gli strumenti continuano quindi a produrre risultati, che il programma di Google sia aperto o no.

Il rischio ricade sui progetti che contavano sull'attenzione del bounty come unica revisione esterna. Una piccola libreria senza team di sicurezza e senza audit a pagamento non ottiene nulla da un programma chiuso, anche se la chiusura è temporanea.

Google non ha detto quante segnalazioni il programma ha gestito prima della pausa, né quale quota fosse invalida. Non ha detto nemmeno se il budget del programma cambia. Quei numeri direbbero ai maintainer quanta sorveglianza stanno effettivamente perdendo.

L'eccezione del Cloud VRP è stretta. Copre alcuni repository di Google Cloud i cui difetti riguardano i prodotti Google Cloud. Non ripristina la copertura generale del codice open source che Google non gestisce come servizio.

Il ragionamento parallelo su come si trovano i bug

La stessa settimana ha portato un'altra discussione su chi dovrebbe guardare. David Robinson ha guidato la stesura dei rapporti di sicurezza che accompagnavano i lanci dei prodotti OpenAI. Si è dimesso e ha scritto sull'Atlantic che la cultura dell'azienda è rotta, come ha riportato il Guardian il 3 ottobre. Sosteneva che le aziende di AI non sono abbastanza caute. Ha chiesto competenze sulla sicurezza da settori come il nucleare e l'aviazione.

Il saggio di Robinson riguarda la sicurezza dei modelli, non i programmi di bounty. Non va esteso alla decisione di Google. Le due storie però ruotano attorno alla stessa domanda: cosa succede quando il volume di output generato dalle macchine supera le persone chiamate a controllarlo.

Per i maintainer open source, la risposta pratica di questa settimana è che una grande fonte di revisione gratuita si è spenta. Per i ricercatori che hanno presentato segnalazioni vere prima del 1° ottobre, nulla cambia. Per tutti gli altri, la coda è chiusa.

L'impegno di Google è un aggiornamento entro il primo trimestre del 2027. Fino ad allora il canale supply chain dell'OSS VRP resta aperto. Il Cloud VRP copre una fetta dei repository di Google Cloud. Nessuno dei due sostituisce la pipeline delle vulnerabilità di prodotto chiusa il 1° ottobre.

Commenti 0

Fonti

8
  1. 01Google freezes open-source bug bounty program amid flood of invalid AI slopEN
  2. 02Tracking vulnerabilities that credit the Anthropic research teamEN
  3. 03O(N) the Money: Scaling Vulnerability Research with LLMsEN
  4. 04OpenAI safety leader quits, warning AI company's culture is 'broken'EN
  5. 05Xray-core concealed a certificate verification bypass vulnerabilityEN
  6. 06Command injecting a reference tool to copy a source fileEN
  7. 07PhotoSuite Is an Open Source Photoshop-Like Editor with Native PSD SupportEN
  8. 08OpenBSD Developers Reject uutils Coreutils Port Over Licensing and Compatibility ConcernsEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Chiara Romano

Chiara Romano

IA, modelli e tecnologie

Chiara Romano scrive di tecnologia, IA e modelli, media e internet per FLASH24, partendo da documentazione tecnica, repository e specifiche invece che da comunicati stampa. Per ogni modello o piattaforma che segue controlla versioni, licenze, parametri e benchmark, e verifica i numeri confrontandoli con i dati originali o con test indipendenti. Confronta le schede tecniche tra fornitori, parla con sviluppatori e amministratori di sistema, e tiene d'occhio le finestre di rilascio e le modifiche ai termini d'uso. Fuori dalla redazione gestisce self-hosting e reti domestiche, esperienza che le serve per capire come funzionano davvero i servizi che racconta. Non pubblica una notizia se la fonte primaria non è verificabile.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.