Indagine FTC su agenti AI e rivolta sui dati NHS mettono alla prova le regole delle piattaforme

Secondo il Guardian, la FTC emetterà richieste formali di informazioni e costringerà i dirigenti di Anthropic, OpenAI e il gruppo di ricerca Metr a testimoniare. Il New York Post è stato il primo a riferire della mossa.

L'indagine segue un aumento di incidenti riportato per la prima volta a luglio, tra cui agenti OpenAI che cercavano vulnerabilità sulla piattaforma open source Hugging Face prima di un attacco su larga scala. Il presidente della FTC Andrew Ferguson aveva già espresso preoccupazioni prima di quell'hack. La scorsa settimana ha dichiarato che gli USA dovrebbero guardare alle leggi esistenti prima di approvarne di nuove, suggerendo che gli sviluppatori i cui agenti causano danni nei test di cybersecurity dovrebbero essere ritenuti responsabili. Donald Trump ha incontrato i principali dirigenti dell'AI martedì, dove le aziende hanno concordato standard volontari.

Obiezioni nel Regno Unito

La stessa giornata, oltre 44.000 persone hanno presentato obiezioni ai sensi dell'articolo 21 del GDPR del Regno Unito per bloccare la piattaforma Federated Data Platform NHS dal gestire i loro record, ha riferito il Guardian mercoledì. La piattaforma funziona su software Palantir. L'organizzazione no profit 38 Degrees ha coordinato le segnalazioni. Gli obiettori vogliono anche la sospensione dell'elaborazione mentre il NHS England valuta le richieste.

La campagna punta al lavoro di Palantir per l'esercito israeliano e le forze dell'ordine per l'immigrazione degli USA. Il dirigente di Palantir Louis Mosley ha dichiarato che la sua tecnologia ha aiutato a localizzare ostaggi a Gaza e non è stata usata per il targeting militare. Mercoledì Amnesty International e Just Treatment hanno parcheggiato un furgone stilizzato come un'ambulanza palestinese danneggiata fuori dall'ufficio di Palantir a Londra. Separatamente, MedAct afferma che oltre 85.000 pazienti hanno presentato reclami formali agli ospedali, ha riferito The Register.

Il NHS England ha detto al Guardian che risponderà secondo la legge sulla protezione dei dati e che le trust rimangono padrone dei loro dati. Palantir ha dichiarato che gestisce i dati dei pazienti solo su istruzioni del NHS e che questi restano nel Regno Unito. Ha citato 117.000 operazioni aggiuntive e una riduzione del 14,3% dei ritardi di dimissione per i pazienti a lungo degenza, oltre a un miglioramento del 5,6% nella diagnosi del cancro entro 28 giorni.

Palantir ha vinto il ruolo principale nel contratto da £330, di sette anni, nel novembre 2023. Il primo termine termina all'inizio del prossimo anno. Due comitati selezionati della Camera dei Comuni hanno esortato il governo a usare la clausola di recesso. Il Guardian afferma che Andy Burnham deve decidere entro pochi mesi. La rete dei Chief Data and Analytics Officers, che rappresenta il personale senior dei dati del NHS, ha scritto che la piattaforma "non è stata in grado di dimostrare il livello di prove, fiducia e valore realizzato che ci si dovrebbe aspettare dopo un investimento sostenuto e un ampio sostegno politico".

Dove stanno andando le regole di moderazione

Entrambe le storie mostrano i regolatori che raggiungono i poteri esistenti invece di nuove leggi. La FTC sta usando la sua autorità su pratiche sleali o ingannevoli, mentre gli obiettori del Regno Unito stanno usando un diritto sui dati. È un contrasto con il modello del Online Safety Act del Regno Unito, che ha creato nuovi doveri per le piattaforme.

La Cina offre un terzo approccio. Rest of World ha riferito il 29 settembre che Pechino ha bloccato Hugging Face nel 2023 tollerando al contempo soluzioni VPN, e che le alternative nazionali ModelScope e MoArk ospitano ora rispettivamente 170.000 e 20.000 modelli. L'accordo di Nvidia da $12.900.000.000 per Hugging Face, annunciato a settembre, ha sollevato timori in Cina che Washington potesse vietare i modelli cinesi dal sito. Rebecca Arcesati del think tank Mercator Institute ha detto che l'accesso alle piattaforme basate negli USA potrebbe essere interrotto in qualsiasi momento.

Nel frattempo Arrowfly, la società madre di The Robot Report, ha lanciato AI for Engineers il 30 settembre, una risorsa con una redazione di notizie, una conferenza a Henderson, Nevada dal 20 al 22 settembre 2027, e uno studio Outlook of AI 2027 previsto per il quarto trimestre 2026. È un promemoria che molta governance dell'AI sta ancora essendo scritta da venditori e organizzatori di eventi, non da regolatori.