Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

OpenELM d'Apple et Gemma 3n de Google poussent les petits modèles sur les téléphones

Apple a publié en avril 2024 huit petits modèles de langage capables de tourner sur un smartphone, le plus petit comptant 270 millions de paramètres, tandis que Google propose désormais Gemma 3n en aperçu pour le texte, l'image, la vidéo et l'audio embarqués.

IA & modèlesActualitéSophie LeclercPublié le: 28 septembre 20263 min de lectureSources 2
OpenELM d'Apple et Gemma 3n de Google poussent les petits modèles sur les téléphones

L'argument des petits modèles de langage tient en une phrase : garder l'inférence sur l'appareil, éviter l'aller-retour vers un centre de données et laisser les données de l'utilisateur là où elles sont.

Deux publications montrent à quel point on est passé de la démonstration de recherche à l'outillage pour développeurs. Le 24 avril 2024, Apple a présenté OpenELM, une série de huit modèles mis en ligne sur Hugging Face sous une licence Apple Sample Code, comme l'a rapporté Ars Technica. Ils vont de 270 millions à 3 milliards de paramètres, répartis en quatre versions pré-entraînées et quatre versions ajustées sur instructions. Ars Technica note que la licence impose des restrictions : la publication ne répond donc peut-être pas à la définition habituelle de l'open source, même si le code source est disponible. Les modèles utilisent une fenêtre de contexte de 2 048 tokens et ont été entraînés sur RefinedWeb, une version dédoublonnée de PILE, un sous-ensemble de RedPajama et un sous-ensemble de Dolma v1.6, soit environ 1 800 milliards de tokens selon Apple. La société a aussi publié le code de CoreNet, la bibliothèque utilisée pour l'entraînement, ainsi que des recettes d'entraînement reproductibles.

Ce que disent les chiffres

Le nombre de paramètres sert ici de tableau de bord grossier. Le plus petit OpenELM d'Apple est environ 14 fois plus petit que Phi-3-mini de Microsoft, fort de 3,8 milliards de paramètres, dont Ars Technica avait parlé la veille.

Le plus grand modèle Llama 3 publié par Meta compte 70 milliards de paramètres, une version à 400 milliards étant en préparation, et GPT-3 d'OpenAI, sorti en 2020, embarquait 175 milliards de paramètres. Le livre blanc d'Apple revendique un gain de précision de 2,36 pour cent face à OLMo 1B d'Allen AI, avec deux fois moins de tokens de pré-entraînement. Il s'agit d'un benchmark déclaré par le fournisseur sur une seule comparaison, pas d'une preuve indépendante, et Ars Technica l'a rapporté comme une affirmation tirée de l'article. Apple prévient aussi que, les données d'entraînement provenant de sources publiques, les modèles peuvent produire des sorties inexactes, nuisibles, biaisées ou choquantes.

« La reproductibilité et la transparence des grands modèles de langage sont essentielles pour faire avancer la recherche ouverte, garantir la fiabilité des résultats et permettre d'étudier les biais des données et des modèles, ainsi que les risques potentiels. »

Cette phrase vient du résumé de l'article d'Apple sur OpenELM, cité par Ars Technica. L'entreprise dit vouloir renforcer et enrichir la communauté de la recherche ouverte. Elle n'a pas intégré cette génération de modèles à ses appareils grand public, et Ars Technica rapportait qu'iOS 18, attendu en juin au WWDC, devait selon les rumeurs apporter des fonctions d'IA embarquée, Apple pouvant confier les traitements les plus lourds à Google ou à OpenAI.

Google élargit la boîte à outils

L'équipe AI Edge de Google a pris un autre chemin. Dans une note datée du 20 mai 2025, elle indique avoir étendu le support embarqué de quatre modèles initiaux à plus d'une douzaine, dont Gemma 3 et Gemma 3n, hébergés dans une communauté LiteRT sur Hugging Face.

Gemma 3 1B pèse 529 Mo et peut atteindre 2 585 tokens par seconde en pré-remplissage sur un GPU mobile, ce qui suffit selon Google à traiter une page de contenu en moins d'une seconde. Gemma 3n arrive en aperçu, avec des variantes de 2 milliards et 4 milliards de paramètres acceptant le texte, l'image, la vidéo et l'audio ; le texte et l'image sont sur Hugging Face, l'audio devant suivre. Google a également publié une bibliothèque de génération augmentée par récupération et une bibliothèque d'appel de fonctions, toutes deux disponibles d'abord sur Android, pour qu'un modèle embarqué puisse tirer le contexte utile d'un millier de pages ou de photos et déclencher des fonctions d'application en langage naturel.

Une réserve accompagne tout cela. Les recommandations de quantification de Google indiquent que l'int4 peut réduire la taille d'un modèle de 2,5 à 4 fois par rapport au bf16 tout en diminuant la latence et la mémoire de pointe, et que ce compromis a un coût : une précision plus faible fait perdre de l'exactitude, un réglage que chaque déploiement embarqué doit choisir.

Commentaires 0

Sources

2
  1. 01Apple releases eight small AI language models aimed at on-device useEN
  2. 02On-device small language models with multimodality, RAG, and Function CallingEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Sophie Leclerc

Sophie Leclerc

IA, modèles et technologies

Sophie Leclerc couvre les technologies, l'IA et les modèles ainsi que les médias et l'internet pour FLASH24, en travaillant à partir des dépôts de code, des articles scientifiques et des documents techniques plutôt que des annonces. Elle vérifie chaque chiffre en remontant aux jeux de données d'origine et en comparant les versions successives des modèles. Elle interroge régulièrement des ingénieurs et des chercheurs, et suit les calendriers de publication des principales conférences du secteur. Son intérêt personnel pour l'auto-hébergement et les réseaux domestiques nourrit directement sa couverture des infrastructures et des modèles ouverts. Elle ne publie pas de performance annoncée sans méthode de mesure vérifiable.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.