TikTok paie 12,7 m de livres au Royaume-Uni, Gates réclame une régulation de l'IA

TikTok versera 12,7 m de livres au gendarme britannique des données. L'entreprise a retiré son appel contre une décision de 2023, rapporte le Guardian. L'Information Commissioner's Office a jugé que l'application vidéo n'avait pas fait assez pour tenir les moins de 13 ans à l'écart. Elle ne les supprimait pas non plus une fois qu'elle savait qu'ils étaient là.

Jusqu'à 1 750 000 enfants britanniques de moins de 13 ans ont utilisé le service en 2020, selon l'ICO. TikTok appartient à l'entreprise chinoise ByteDance et fixe l'âge minimum à 13 ans. Au moment de l'amende, le commissaire à l'information de l'époque, John Edwards, a déclaré au Guardian que l'entreprise n'en faisait "pas assez" sur trois fronts : empêcher les moins de 13 ans de s'inscrire, les retirer lorsqu'ils étaient identifiés, les détecter dès le départ.

Désaccord, puis paiement

TikTok dit ne pas être d'accord avec la décision, mais avoir choisi de payer. L'affaire portait sur la période de 2018 à 2020, après laquelle l'entreprise affirme avoir introduit "de nombreuses mesures et politiques de protection des jeunes". Elle a aussi retiré un appel distinct contre une demande d'information de l'ICO. Cette demande portait sur la manière dont son algorithme traite les données personnelles des adolescents et leur sert des contenus potentiellement nuisibles. L'ICO a annoncé qu'elle reprendrait cette enquête.

La commissaire adjointe de l'ICO, Emily Keaney, a présenté l'issue comme un précédent : "Notre action réussie contre TikTok montre combien il est important que les entreprises disposent des bonnes protections, y compris pour empêcher l'accès des enfants qui ne sont pas assez âgés pour utiliser leurs services."

La vérification de l'âge est au centre du projet britannique de limite des réseaux sociaux pour les moins de 16 ans, qui doit entrer en vigueur l'an prochain. Ofcom a déclaré que "davantage d'actions de l'industrie technologique sont nécessaires" à l'approche de cette échéance. La commissaire à la sécurité en ligne de l'Australie, citée dans le même article du Guardian, a indiqué qu'une "proportion substantielle" des moins de 16 ans y ont conservé des comptes, en ont créé de nouveaux ou contourné le contrôle d'âge depuis l'entrée en vigueur de l'interdiction du pays en décembre dernier. Voilà une comparaison gênante pour qui soutient que les barrières d'âge fonctionnent comme prévu.

Gates : l'autorégulation ne suffit pas

Trois jours après l'affaire TikTok, Bill Gates a déclaré à Kristen Welker, de NBC, dans un entretien diffusé dimanche, qu'une IA sans contrôle pourrait causer "un milliard de morts". L'autodiscipline de l'industrie ne suffira pas, a-t-il ajouté. "Il faut que les forces de l'ordre et les politiques participent à la discussion sur ce que doivent être les garde-fous et la surveillance", a dit le cofondateur de Microsoft, ajoutant que cela "doit être une obligation". Il a qualifié le coût de "un peu de charge pour l'industrie", et non d'un ralentissement brutal.

"Il n'y a jamais eu d'arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les derniers outils d'IA."

Gates a également écarté l'idée qu'un interrupteur d'arrêt suffise à lui seul. Le débat à ce sujet "montre simplement à quel point diverses personnes sont peu techniques", a-t-il dit. Ses propos font suite à un essai de près de 6 000 mots publié fin août sur le même thème. Ils accompagnent des avertissements similaires de Sam Altman et Elon Musk, selon le Guardian. Le sénateur Bernie Sanders a proposé une loi le 23 septembre pour suspendre le développement de l'IA avancée le temps de mettre en place des garde-fous.

Le schéma est le même dans les deux affaires. Les plateformes et les concepteurs de modèles affirment pouvoir se policer eux-mêmes, et les législateurs disent de plus en plus que cela ne suffit pas. La différence est que l'affaire TikTok s'est terminée par un paiement et une enquête relancée, alors que les règles sur l'IA que veut Gates n'existent pas encore.

Un contre-courant mérite d'être signalé. L'argent continue d'affluer vers les entreprises qui vendent des contrôles plutôt que d'attendre qu'ils existent. Kontext, jeune pousse berlinoise de sécurité de l'IA, a levé 4 m le 24 septembre lors d'un tour mené par 42CAP, avec la participation d'a16z CSX et de HTGF, rapporte Tech.eu. Son logiciel se place entre les agents d'IA et les systèmes qu'ils touchent. Il évalue chaque action au regard des règles avant qu'elle ait lieu et bloque les actions non autorisées. C'est la version commerciale de l'argument que Gates présente aux politiques : quelqu'un doit tenir l'interrupteur, et pour l'instant ce sont surtout des fournisseurs qui en vendent un.