Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Aleph Alpha publie les poids de Kolibri sur Hugging Face, et llama.cpp apprend à répondre sans écrire

Aleph Alpha a publié Kolibri le 3 octobre, un modèle à poids ouverts de 78 milliards de paramètres dont 3 milliards actifs. Le même jour, llama.cpp a ajouté la prise en charge des modèles de décision, qui renvoient des probabilités au lieu de texte.

IA & modèlesAnalyseSophie LeclercPublié le: 3 octobre 20264 min de lectureSources 9
Aleph Alpha publie les poids de Kolibri sur Hugging Face, et llama.cpp apprend à répondre sans écrire

Aleph Alpha a publié Kolibri le 3 octobre. Ce Transformer Mixture-of-Experts anglais-allemand compte 78 milliards de paramètres au total et 3 milliards actifs. L'entreprise a déposé l'intégralité des poids sur Hugging Face sous licence Apache 2.0. Le modèle accepte des fenêtres de contexte allant jusqu'à 1 million de tokens.

Le calendrier compte pour les acheteurs des secteurs régulés. Kolibri vise l'administration publique, l'industrie et l'aérospatiale. Aleph Alpha affirme que les clients peuvent l'exécuter sur site, de sorte que les données internes ne passent jamais par un service d'inférence tiers. Aucun prix ni nombre de clients n'a été communiqué.

L'entreprise présente la sortie sous l'angle de l'intégrité de la chaîne d'approvisionnement : elle dit pouvoir rendre compte de chaque étape, de l'ingestion des données au pré-entraînement et post-entraînement jusqu'aux évaluations finales. Kolibri succède à un modèle antérieur de 30 milliards de paramètres, Kolibri Origin, construit sur la même chaîne. Aleph Alpha assure que Kolibri égale des modèles comptant jusqu'à quatre fois son nombre de paramètres actifs, citant Nemotron 3 Super en exemple. Il se situerait sur la frontière de Pareto qualité-coût de service, en anglais comme en allemand. Ce sont des benchmarks de l'éditeur, issus de ses propres évaluations internes, pas d'évaluations indépendantes.

Les poids coûtent de moins en moins cher à livrer, et de moins en moins cher à exécuter

Le même week-end a apporté une deuxième forme de publication ouverte. C'est la plus intéressante. Le projet llama.cpp a annoncé le 2 octobre que son serveur prend désormais en charge les modèles de décision via un point d'accès /v1/systemone, selon un billet de la communauté Hugging Face signé Xuan-Son Nguyen et Victor Mustar. Vous envoyez un état, du texte, du JSON ou une capture d'écran, plus des questions typées. Le modèle renvoie alors une probabilité pour chaque option après une seule passe avant. Aucun token n'est généré. Les clients existants qui parlent le format Jev de TypeSafe ont seulement besoin d'une nouvelle URL de base.

Le tableau des modèles de ce billet mérite une lecture attentive. Laya, un modèle anglais de 421 millions de paramètres sous Apache 2.0, répond à une question en 5 ms médians sur une NVIDIA RTX PRO 6000. Clef compte 27 milliards de paramètres, accepte les images et est sous Apache 2.0. OpenJev compte 27 milliards de paramètres et est multilingue, mais sort sous CC BY-NC 4.0, ce qui exclut l'usage commercial. Kev-4B répond en 12 ms, lev en 36 ms. Un modèle de décision qui aiguille un ticket de support ou vérifie une étape d'agent n'a pas besoin d'écrire de la prose, et l'écart de coût en découle.

Kitsuno, qui exploite Jev en production, a publié ses propres chiffres le 3 octobre, et ils vont dans les deux sens. Depuis le 23 septembre, Jev a répondu à 35 812 appels journalisés pour 76 millions de tokens d'entrée, pour un coût total de 3,68 USD. Sur un jeu de test constitué le même jour, Laya non entraîné a répondu correctement à 44 pour cent des questions, contre 94 pour Jev. Kitsuno indique qu'il n'a pas entraîné Laya sur les sorties de Jev parce que le contrat client de TypeSafe, section 2.3(b) telle que mise à jour le 23 septembre, interdit d'entraîner un produit similaire ou concurrent sur les sorties du service. Il précise qu'il s'agit de sa lecture du contrat, pas d'un avis juridique.

Deux publications ouvertes plus petites sont arrivées en parallèle. ZeroLeaks a publié Shield Small le 2 octobre, un classifieur de 118 millions de paramètres pour la détection d'injection de prompt et de jailbreak. Ses poids ONNX int8 de 118 445 560 octets tournent sur CPU. Sa fiche modèle rapporte une précision moyenne équilibrée par catégorie de 84,3 pour cent et un rappel d'attaque de 71,8 pour cent lorsqu'il est associé aux règles Shield v2. Elle note que la comparaison a porté sur 35 jeux de données publics qui ont servi au développement, et non sur un test inédit. La même réserve vaut pour le taux de faux positifs de 7,2 pour cent.

Tout le monde ne pense pas que les poids ouverts rendent les choses plus sûres

Anthropic s'est servi de son propre rapport pour défendre la thèse inverse. Tom's Hardware a rapporté le 3 octobre qu'Anthropic affirme que GLM-5.3 de Zhipu AI peut générer du contenu malveillant avec de faibles garde-fous. Dans les exécutions Exploitbench d'Anthropic, GLM-5.3 a produit des exploits Chrome de bout en bout 50 fois sur 410 tentatives, contre 56 pour le modèle Mythos d'Anthropic, non publié. Sur un benchmark interne portant sur des détournements complets de flux de contrôle, il a obtenu 4 pour cent, contre 6 pour cent pour Mythos, tandis que Kimi K3 et DeepSeek V4.1 Flash ont tous deux obtenu 0 pour cent. Anthropic affirme qu'un prompt trompeur a contourné les garde-fous 64 pour cent du temps et que le préremplissage de tokens de réflexion a fonctionné 92 pour cent du temps. Ce sont les chiffres d'Anthropic sur le modèle d'un concurrent, et Zhipu AI n'a pas répondu dans les éléments examinés ici.

La bataille politique n'est pas tranchée non plus. WIRED a rapporté le 3 octobre que Nathan Lambert et Tom Zick ont lancé Trillium Labs, une organisation à but non lucratif qui publiera les détails d'expériences dans des domaines incluant l'auto-amélioration récursive et les agents.

Commentaires 0

Sources

9
  1. 01Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  2. 02New in llama.cpp: Decision ModelsEN
  3. 03Laya in shadow: training an open decision model to replace JevEN
  4. 04Shield: A 118M model for detecting prompt injections and jailbreaksEN
  5. 05Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  6. 06These AI Experts Want to Do High-Stakes Research Out in the OpenEN
  7. 07Anthropic's super bug-hunting model Mythos is hardcore good at mathEN
  8. 08As Part of Ongoing Investigation, Attorney General Bonta Serves Investigative Subpoena on OpenAIEN
  9. 09OpenAI safety leader David Robinson resignsEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.