Après des annonces et des tests à l’occasion de son évènement I/O, Google passe à l’étape suivante en rendant disponible plusieurs fonctionnalités en preview sur ses modèles et son AI Studio. En premier lieu, la fenêtre contextuelle de Gemini 1.5 Pro passe à 2 millions de tokens. Cette capacité était auparavant accessible sur liste d’attente, elle est dorénavant disponible pour l’ensemble des développeurs.

La société observe qu'à mesure que la fenêtre contextuelle s'agrandit, les coûts d'entrée potentiels augmentent également. Pour aider les développeurs à réduire les coûts des tâches qui utilisent les mêmes jetons dans plusieurs invites, Google a introduit la mise en cache du contexte dans l'API Gemini pour Gemini 1.5 Pro et Flash. Cette fonction est pratique dans des scénarios comme les chatbots, les analyses répétitives de fichiers vidéos longue durée, des requêtes récurrentes sur un grand ensemble de documents, une analyse fréquente du dépôt de code ou des bugs.

L’exécution de code disponible et Gemma 2 s’invite dans AI Studio

Parmi les autres annonces, il y a l’activation de la génération de code pour Gemini 1.5 Pro et Flash. Les modèles sont ainsi capables de développer et d’exécuter du code en Python et d’apprendre de manière itérative. Pour rassurer sur la sécurité, la fonction est réalisée dans une sandbox et est livrée en standard avec quelques bibliothèques. Elle est disponible via l'API Gemini et dans Google AI Studio sous "paramètres avancés".

Enfin, le fournisseur a également mis à disposition des développeurs le modèle Gemma 2 dans AI Studio à des fins de test. Pour mémoire, Gemma est une famille de modèle open source comprenant des systèmes de 9 et 27 milliards de paramètres. Par ailleurs, Gemini 1.5 Flash, un modèle multimodal similaire à GPT-4o, voit ses réglages s’enrichir. La partie texte est maintenant prête pour la red team et sera déployée progressivement pour tous les développeurs. Ces derniers auront accès à l'optimisation de Gemini 1.5 Flash via l'API Gemini et dans AI Studio d'ici la mi-juillet, a indiqué la société.