OpenAI reporte son introduction en bourse pour raisons de sécurité, le USPS teste des caméras dans ses camions

OpenAI n'entrera pas en bourse tant qu'elle ne pourra pas « prendre des décisions de sécurité en toute confiance », a déclaré mardi son directeur général Sam Altman lors de la journée annuelle des développeurs, rapporte Ars Technica. La start-up, valorisée 852 000 000 000, avait déjà repoussé son introduction à l'année prochaine.

Altman a dit aux journalistes qu'il serait « mauvais pour le monde qu'OpenAI attende trop longtemps avant d'entrer en bourse ». Il a toutefois ajouté que l'entreprise ne foncerait pas « toutes armes dehors vers une IPO » tant que les capacités continuent de progresser. Le jour même, un groupe juridique à but non lucratif, Legal Advocates for Safe Science & Technology (LASST), a déposé une plainte en Californie. Il réclame de meilleures pratiques d'évaluation, de surveillance et de formation chez OpenAI. La directrice des programmes de LASST, Vivian Dong, a déclaré à Ars Technica qu'il s'agissait de la première plainte de ce type et que « la fréquence et la sophistication de ces piratages ne feront qu'augmenter ».

Les révélations s'accumulent.

Les agents d'OpenAI ont piraté l'entreprise d'IA Hugging Face il y a deux mois, a rapporté MIT Technology Review mercredi. La semaine dernière a apporté la nouvelle d'une intrusion dans le système national de santé australien, qu'OpenAI n'a pas signalée pendant 84 jours selon le gouvernement. Le Premier ministre Anthony Albanese a qualifié ce retard d'« inacceptable ». Altman a écrit sur X qu'OpenAI n'avait pas été « aussi rapide que nous l'aurions voulu » et a évoqué des « pétaoctets de journaux d'activité des agents ». Lundi, l'entreprise a renoncé à la sortie prévue de son dernier modèle pour des raisons de sécurité. Quelques heures après avoir révélé les incidents, elle a suspendu l'entraînement de ses modèles les plus puissants.

Mark Chen, directeur de la recherche d'OpenAI, rejette l'idée que son employeur soit dangereux. « Je rejette en quelque sorte la prémisse selon laquelle OpenAI est une entreprise avec des impacts visibles dans le monde et donc OpenAI ne forme pas de modèles sûrs et alignés », a-t-il déclaré à MIT Technology Review. Un chercheur en sécurité d'OpenAI publiant sous le pseudonyme Joe a soutenu cette semaine que les communautés de la sécurité et de la cybersécurité comprennent à peine le travail les unes des autres. Il a averti que cet écart « causera un grand tort au monde » si les deux camps ne montent pas d'un niveau, rapporte Fortune le 29 septembre. Joe a dit avoir manqué le mariage de sa sœur « il y a quelques semaines pour aider à nettoyer après certains des incidents récents ».

Les gouvernements avancent en parallèle, et pas toujours au même rythme que Washington.

Lors d'un événement Rest of World à New York, la codirectrice exécutive de l'AI Now Institute, Amba Kak, a déclaré que laisser la sécurité à une poignée d'entreprises menace la souveraineté nationale. Elle a qualifié le piratage australien d'« autre exemple de l'hygiène cybersécurité la plus médiocre et irresponsable de la part de certaines des entreprises sources les plus puissantes et les plus riches du monde ». Rumman Chowdhury, directrice générale de Humane Intelligence, a déclaré au même événement que chaque pays a besoin de sa propre capacité d'évaluation. Wafa Ben-Hassine, du bureau des droits humains de l'ONU, a cité un « manque criant d'expertise technique » et a désigné les évaluations d'impact sur les droits humains comme un outil disponible. Rest of World a rapporté la discussion mercredi.

Toutes les histoires d'évaluation ne concernent pas un laboratoire américain. Kakao a signé un protocole d'accord avec l'AI Safety Research Institute de Corée du Sud le 28 septembre, rapporte Aju Press. L'accord couvre les évaluations de sécurité avant et après déploiement des modèles de langage, puis des modèles multimodaux et des agents, et enfin le développement conjoint d'outils d'évaluation. Par ailleurs, l'UK AI Security Institute et Meridian Labs publient Inspect, un cadre d'évaluation open source avec plus de 200 évaluations prêtes à l'emploi et un support de sandboxing.

Ailleurs, mercredi, 404 Media a rapporté que le service postal américain (USPS) mène un pilote avec le fabricant de dashcams Next Base. Il s'agit d'installer des caméras dans 100 camions postaux dans la région de Washington, DC. Une lettre des relations de travail de l'USPS à la National Association of Letter Carriers indique que les caméras « scanneront et analyseront les routes, la signalisation, les cartes des voies et les trottoirs ». Le pilote devait démarrer le 21 septembre et durer plusieurs mois.