Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Gates chiede regole per l'IA mentre TikTok paga 12,7 milioni e Kontext raccoglie 4 milioni

Bill Gates ha detto a Meet the Press della NBC che l'IA lasciata senza controlli potrebbe causare "un miliardo di morti" e che l'autoregolamentazione non basta. L'intervista va in onda domenica 27 settembre.

Media e internetAnalisiGiulia FerrariPubblicato: 28 settembre 20265 min di letturaFonti 6
Gates chiede regole per l'IA mentre TikTok paga 12,7 milioni e Kontext raccoglie 4 milioni

Gates non ha usato giri di parole. "Servono le forze dell'ordine e i politici nella discussione su come devono essere le tutele e i controlli", ha detto alla conduttrice Kristen Welker, secondo The Guardian. "E deve essere una cosa obbligatoria."

Il cofondatore di Microsoft ha descritto la conformità come un costo d'impresa, non come un freno allo sviluppo. "Sarà un po' di lavoro in più per il settore, ma non un rallentamento drastico di quello che fanno." Ha anche respinto l'idea che un kill switch basti come tutela. "Non basta avere un kill switch", ha detto, e il dibattito "dimostra solo quanto poco tecnici siano certi personaggi".

La tempistica non è casuale. A fine agosto Gates ha pubblicato un saggio di quasi 6.000 parole sui rischi dell'IA su larga scala. Le sue dichiarazioni arrivano quattro giorni dopo la proposta di legge presentata dal senatore americano Bernie Sanders il 23 settembre. Quel testo sospenderebbe temporaneamente lo sviluppo dell'IA avanzata finché non saranno in vigore le tutele, ha riferito The Guardian. Gates non è il solo, tra i nomi del settore, a chiedere di rallentare. Lo stesso articolo ricorda che Sam Altman ed Elon Musk hanno fatto argomenti simili sul ritmo dello sviluppo.

Due binari normativi, due velocità molto diverse

Mentre Washington discute di una pausa, il Regno Unito ha già incassato una multa che precede la discussione attuale. Il 24 settembre TikTok ha ritirato il ricorso contro una sanzione da 12.700.000 di sterline. L'Information Commissioner's Office l'aveva emessa nel 2.023 per non aver tenuto gli under 13 fuori dalla piattaforma. L'ICO ha detto che TikTok aveva fatto "molto poco, se non nulla" per affrontare l'uso da parte dei minori. Secondo l'autorità fino a 1.750.000 bambini britannici sotto i 13 anni usavano il servizio nel 2.020.

TikTok ha detto di non condividere la decisione ma di essere pronta a pagare. Il caso riguardava il periodo dal 2.018 al 2.020, dopo il quale l'azienda sostiene di aver introdotto "molte misure e politiche per la sicurezza dei giovani". La società ha anche ritirato un ricorso contro una richiesta di informazioni dell'ICO su come il suo algoritmo tratta i dati personali degli adolescenti. Il regolatore dice che riprenderà quell'indagine. TikTok ha più di trenta milioni di utenti nel Regno Unito.

"La nostra azione contro TikTok dimostra quanto sia importante per le aziende avere le giuste tutele, anche per impedire l'accesso a bambini che non hanno l'età per usare i loro servizi." Emily Keaney, vice commissaria ICO, secondo The Guardian

Emily Keaney, vice commissaria dell'ICO, lo ha detto senza giri di parole: il caso dimostra "quanto sia importante per le aziende avere le giuste tutele", ha riferito il Guardian. L'intervento conta al di là di una singola multa. La verifica dell'età è al centro del limite ai social media sotto i 16 anni voluto dal governo britannico, in vigore dal prossimo anno. Ofcom ha detto che "serve più impegno da parte del settore tech" mentre si avvicina quel divieto. L'Australia ha introdotto il proprio divieto under 16 lo scorso dicembre, e offre un dato che mette in guardia. La commissaria eSafety del Paese ha detto che una "quota sostanziale" degli under 16 ha mantenuto i propri account, ne ha creati di nuovi o ha aggirato i sistemi di verifica dell'età.

I due binari, quindi, non si somigliano per niente. Uno è un legislatore che discute se fermare lo sviluppo di frontiera. L'altro è un regolatore dei dati che incassa una multa per una mancanza finita sei anni fa. Quel regolatore avverte che la prova più difficile non è ancora cominciata.

I fornitori di sicurezza si muovono dove le regole non arrivano

In quello spazio si è inserita una piccola azienda europea di sicurezza. Il 24 settembre Tech.eu ha riferito che Kontext ha raccolto 4.000.000 di dollari per ampliare una piattaforma di sicurezza runtime per agenti IA. Il round è stato guidato da 42CAP, con il sostegno di a16z CSX e HTGF.

La premessa di Kontext è che i controlli tradizionali smettono di funzionare quando gli agenti non generano più solo testo e iniziano a far funzionare software. La piattaforma dell'azienda si colloca tra gli agenti IA e gli strumenti che toccano. Valuta ogni azione in tempo reale rispetto a policy e segnali di rischio. Tra questi segnali ci sono l'identità dell'agente, l'azione richiesta, la risorsa di destinazione e il compito assegnato. I team possono avviarla prima in modalità osservazione, poi attivare l'applicazione delle regole. L'applicazione blocca le azioni non autorizzate prima dell'esecuzione e tiene un registro verificabile di ogni decisione.

I fondatori, Jens Ernstberger e Michel Osswald, vengono dal mondo del calcolo sicuro, della crittografia applicata e dei sistemi IA. Tech.eu cita direttamente l'argomento dell'azienda: un agente può essere autenticato correttamente, usare uno strumento approvato e compiere comunque un'azione che nessuno ha autorizzato. I fondi andranno all'ingegneria e alla piattaforma di applicazione runtime.

Vale la pena notare cosa sta succedendo. Il livello di controllo dell'IA più concreto descritto nelle notizie di questa settimana non è una legge. È il motore di policy di una startup, venduto a imprese che non possono aspettare i legislatori.

Cosa ha davvero chiarito la settimana

Tre date, tre meccanismi diversi.

  • 27 settembre: Gates usa un'intervista televisiva nazionale per chiedere tutele obbligatorie, non volontarie.
  • 24 settembre: TikTok smette di combattere una multa ICO da 12.700.000 di sterline e una separata richiesta di informazioni, e il regolatore riavvia l'indagine sull'algoritmo.
  • 24 settembre: Kontext chiude un round da 4.000.000 di dollari per controllare gli agenti IA nel momento dell'azione.

Le tre cose non compongono ancora un sistema coerente. Gates vuole forze dell'ordine e politici al tavolo, e dice che il costo per il settore sarebbe modesto. L'ICO ha dimostrato che una multa si può emettere e alla fine incassare. Ma ci sono voluti anni di ricorso, e riguardava solo una condotta finita nel 2.020. Kontext vende il punto di controllo mancante che le imprese hanno bisogno oggi. Gli agenti hanno già le credenziali aziendali e scrivono codice.

Nell'intervista di Gates c'è anche una domanda più scomoda, a cui nessun regolatore ha risposto. Ha avvertito che l'IA nelle mani sbagliate sarebbe "certamente abbastanza potente da guidare eventi che, sapete, causano un miliardo di morti". Ha aggiunto che "non c'è mai stata un'arma potente come la combinazione di persone con cattive intenzioni che usano gli strumenti IA più recenti". Un kill switch, secondo lui, non basta a coprirla.

Intanto la macchina dell'applicazione è ancora indietro sugli account dei bambini di mezzo decennio fa. Quel divario tra la minaccia dichiarata e il rimedio dimostrato è la storia della settimana. Né la proposta Sanders né l'indagine ripresa dall'ICO lo hanno colmato.

Commenti 0

Fonti

6
  1. 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
  2. 02TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
  3. 03Kontext raises $4M for runtime security platform for AI agentsEN
  4. 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
  5. 05Show HN: Digitron – a virtual analog synth and sequencerEN
  6. 06Show HN: M0saic – deterministic video compiler (CLI, web, desktop)EN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.