Google a mis en préversion Tool Retrieval dans la Gemini Interactions API. La fonction charge les schémas de paramètres des outils seulement lorsque l’agent en a besoin.
Ce qui se passe
Selon Google, un agent qui se connecte à des dizaines, voire des centaines d’outils envoie aujourd’hui le schéma complet de chaque outil à chaque requête. Le groupe de Google affirme que cela gonfle le nombre de tokens en entrée, ajoute de la latence et réduit la précision du choix de l’outil à mesure que la liste s’allonge.
Le mécanisme repose sur un outil de recherche, tool_search, et sur un indicateur, defer_loading, réglé sur true pour les outils à différer. Le modèle voit le nom et la description de chaque outil différé, mais pas ses schémas de paramètres. Lorsqu’il en a besoin, il demande l’outil par son nom, l’API charge le schéma, puis le modèle appelle la fonction, le tout dans la même requête.
Google précise qu’il n’y a ni index à construire ni serveur à héberger : la recherche est exécutée côté Gemini. Les seules modifications du code sont l’ajout de l’outil tool_search et le paramètre sur les outils concernés. Les outils les plus utilisés peuvent rester chargés dès le départ, et seule la longue traîne est différée.
Pour les équipes qui gèrent leur propre registre d’outils, un index d’embeddings ou un filtre de permissions par utilisateur, le communiqué décrit une variante côté client. L’application effectue alors la recherche, ce qui ajoute un aller-retour à chaque recherche, mais les outils n’ont plus besoin d’être déclarés à l’avance.
Google indique aussi que les schémas différés restent hors du début du prompt. Les schémas chargés sont ajoutés plus loin dans la conversation, de sorte que le préfixe mis en cache reste identique d’un tour à l’autre.
Les chiffres à retenir
- Modèles concernés : Gemini 3.6 et les versions ultérieures.
- Tarification : aucun frais séparé. Les tokens d’entrée et de sortie sont facturés au tarif standard du modèle appelé.
- Coût fixe : l’activation ajoute un petit bloc fixe de tokens en entrée. Chaque schéma chargé est ensuite facturé comme entrée jusqu’à la fin de la conversation.
Dans le contexte
Le 18 novembre, nous rapportions la présentation de Gemini 4 Neon, facturé 3 dollars le million de tokens en entrée. Google met ici en avant la réduction des tokens d’entrée, qui se traduit directement sur la facture des développeurs.
Ce qu’on attend maintenant
Le communiqué ne précise pas la durée de la préversion, ni la date d’une disponibilité générale. Il ne donne pas non plus la liste complète des modèles acceptés au-delà de Gemini 3.6 et des versions ultérieures. Google ne chiffre pas les économies : il recommande de mesurer l’effet sur son propre trafic, en comparant les schémas réellement chargés aux schémas que l’agent n’utilise jamais. Dès que ces informations seront publiées, vous les retrouverez sur iadudimanche.fr et sur la page LinkedIn IA du Dimanche.
Dépêche rédigée par l’IA à partir des sources officielles citées ci-dessous, sous la responsabilité éditoriale de Daniel, fondateur d’IA du Dimanche. Une erreur ? Signale-la via la page contact et elle sera corrigée. Voir notre ligne éditoriale.
Sources
- Google, « Introducing Tool Retrieval in the Gemini API »
- Google, page d’actualités blog.google (flux IA)
À découvrir aussi sur IA du Dimanche
Chaîne YouTubeL'IA au travail, en vidéoDernière vidéo : Notre place demain avec l'IA : on doit s'inquiéter ?Voir la chaîne Prof de langues IAParle anglais ou portugais avec un prof IABientôt : un prof vocal qui t'explique en français et te corrige.Rejoindre la liste 

Laisser un commentaire