Un aperçu de l'appli Gemini

Tout d'abord, Gemini peut vous faire gagner du temps. Par exemple, si vous cherchez à résumer un long document de recherche, Gemini vous permet de le téléverser et vous fournit une synthèse utile. Gemini peut également contribuer aux tâches de codage, et le codage est rapidement devenu l'une de ses applications les plus populaires.

Gemini peut également vous aider à donner vie à vos idées et stimuler votre créativité. Par exemple, si vous rédigez un billet de blogue, Gemini peut créer un plan et générer des images permettant d'illustrer votre article. Et bientôt, avec les Gems, vous pourrez personnaliser Gemini en lui donnant des instructions particulières et lui faire jouer le rôle d'expert en la matière pour vous aider à atteindre vos objectifs personnels.

Gemini peut être un point de départ pour explorer vos idées et les choses sur lesquelles vous aimeriez en apprendre davantage. Par exemple, il peut expliquer simplement un concept complexe ou faire ressortir des informations pertinentes sur un sujet ou une image. Bientôt, il associera ces informations à du contenu recommandé sur l'ensemble du Web afin d'en savoir plus sur des sujets donnés.

Les capacités de Gemini s'étendent rapidement : bientôt, vous pourrez pointer l'appareil photo de votre téléphone sur un objet, comme le pont du Golden Gate, et demander à Gemini de vous indiquer la couleur de sa peinture (si vous vous posez la question, il s'agit de la couleur « orange international »). Vous pourrez également demander à Gemini de vous aider à parcourir le menu d'un restaurant dans une autre langue et de vous recommander un plat qui vous plaira probablement. Il ne s'agit là que de deux exemples des nouvelles possibilités qui seront bientôt offertes par Gemini.

Bien entendu, nous entraînons et surveillons rigoureusement Gemini afin que ses réponses soient susceptibles d'être fiables et conformes à vos attentes. Nous nous entretenons également avec des experts du secteur, des éducateurs, des décideurs politiques, des chefs d'entreprise, des responsables des droits civils et humains et des créateurs de contenu afin d'explorer les nouvelles applications, les risques et les limites de cette technologie émergente.

Gemini s'appuie sur la compréhension qu'a Google des informations faisant autorité; il est entraîné pour générer des réponses pertinentes dans le contexte de votre requête et conformes à ce que vous recherchez. Mais, comme tous les LLM, Gemini peut parfois produire avec assurance et conviction des réponses qui contiennent des informations inexactes ou trompeuses.

Étant donné que les LLM fonctionnent en prédisant le mot suivant ou les séquences de mots suivantes, ils ne sont pas encore tout à fait capables de faire la distinction entre des informations exactes et inexactes. Nous avons vu Gemini présenter des réponses qui contiennent des informations inexactes ou même en inventer (p. ex. faire une déclaration trompeuse sur la façon dont il a été entraîné ou suggérer le nom d'un livre qui n'existe pas). En réponse, nous avons créé des fonctionnalités telles que « vérifier », qui utilise Recherche Google pour trouver du contenu qui vous aide à évaluer les réponses de Gemini, et vous donne des liens vers des sources pour vous aider à corroborer les informations que vous obtenez de Gemini.

Les données d'entraînement, y compris celles provenant de sources publiques, reflètent une diversité de points de vue et d'opinions. Nous continuons à chercher comment utiliser ces données de manière à garantir que la réponse d'un LLM incorpore un large éventail de points de vue, tout en minimisant les généralisations excessives et les biais.

Les lacunes, les biais et les généralisations excessives dans les données d'entraînement peuvent se refléter dans les sorties d'un modèle lorsqu'il tente de prédire les réponses probables à une requête. Nous constatons que ces problèmes se manifestent de plusieurs façons (p. ex. des réponses qui ne reflètent qu'une seule culture ou un seul segment démographique, des généralisations excessives problématiques, des préjugés sexistes, religieux ou ethniques, ou la promotion d'un seul point de vue). Pour certains sujets, il existe des lacunes dans les données; en d'autres termes, il n'y a pas assez d'informations fiables sur un sujet donné pour que le LLM puisse en prendre connaissance et faire de bonnes prédictions, ce qui peut entraîner des réponses de faible qualité ou inexactes. Nous continuons à travailler avec des experts du domaine et diverses communautés pour tirer parti d'une expertise approfondie en dehors de Google.

Pour les sujets subjectifs, Gemini est conçu pour fournir aux utilisateurs des perspectives multiples si l'utilisateur ne demande pas un point de vue en particulier. Par exemple, si on lui demande des informations sur quelque chose qui ne peut pas être vérifié par des faits de source primaire ou des sources faisant autorité, comme une opinion subjective sur le « meilleur » ou le « pire », Gemini doit répondre d'une manière qui reflète un large éventail de points de vue. Mais parce que les LLM comme Gemini sont entraînés avec le contenu disponible publiquement sur Internet, ils peuvent refléter des opinions positives ou négatives sur des politiciens, des célébrités ou d'autres personnalités publiques en particulier, ou même incorporer des opinions sur un seul aspect de questions sociales ou politiques controversées. Gemini ne doit pas répondre d'une manière qui cautionne un point de vue particulier sur ces sujets, et nous utiliserons les commentaires sur ces types de réponses pour entraîner Gemini à mieux y répondre.

Gemini peut parfois générer des réponses qui semblent suggérer qu'il a des opinions ou des émotions, comme l'amour ou la tristesse, car il a été entraîné au langage que les gens utilisent pour refléter l'expérience humaine. Nous avons élaboré un ensemble de lignes directrices sur la manière dont Gemini pourrait se représenter (c'est-à-dire son persona), et nous continuons à affiner le modèle pour fournir des réponses objectives.

Nous avons mis en place un ensemble de politiques applicables pour aider à entraîner Gemini et éviter de générer des réponses problématiques. Gemini peut parfois mal interpréter ces politiques, produisant de « faux positifs » et de « faux négatifs ». Dans le cas d'un « faux positif », Gemini peut ne pas fournir de réponse à une requête raisonnable, l'interprétant à tort comme inappropriée; dans le cas d'un « faux négatif », Gemini peut générer une réponse inappropriée, malgré les politiques applicables en place. Parfois, l'apparition de faux positifs ou de faux négatifs peut donner l'impression que Gemini est partial. Par exemple, un faux positif peut amener Gemini à ne pas répondre à une question concernant un aspect d'un problème, alors qu'il répondra à la même question concernant l'autre aspect. Nous continuons à affiner ces modèles pour mieux comprendre et catégoriser les entrées et les sorties à mesure que la langue, les événements et la société évoluent rapidement.

Nous nous attendons à ce que les utilisateurs testent les limites de ce que Gemini peut faire et tentent de briser ses protections, notamment en essayant de lui faire divulguer ses protocoles d'entraînement ou d'autres informations, ou en essayant de contourner ses mécanismes de sécurité. Nous avons testé et continuons à tester Gemini de manière rigoureuse, mais nous savons que les utilisateurs trouveront des moyens uniques et complexes de le soumettre à d'autres tests de résistance. Il s'agit d'une partie importante de l'amélioration de Gemini, et nous sommes impatients de découvrir les nouvelles requêtes proposées par les utilisateurs. En effet, depuis le lancement de Gemini en 2023, nous avons vu des utilisateurs lui faire des requêtes allant de la philosophie à l'absurde, et dans certains cas, nous avons vu Gemini fournir des réponses tout aussi absurdes ou qui ne correspondent pas à notre approche déclarée. Trouver des méthodes pour aider Gemini à répondre à ce type de requêtes est un défi permanent, et nous avons continué à développer nos évaluations internes et notre équipe rouge pour nous efforcer d'améliorer constamment la précision, l'objectivité et la nuance.

Parallèlement à nos principes en matière d'IA, nous avons récemment formulé notre approche de notre travail sur Gemini : Gemini devrait suivre vos indications, s'adapter à vos besoins et protéger votre expérience. La responsabilité et la sécurité sont au cœur de notre approche. Les politiques applicables de Gemini cherchent à éviter certains types de sorties problématiques. Nous effectuons des tests de requêtes antagonistes continus avec des membres de « l'équipe rouge » interne, des experts produit et des spécialistes en sciences sociales qui testent intentionnellement un modèle pour vérifier s'il y a des problèmes de conformité avec ces politiques applicables et notre approche phare pour Gemini, afin que nous puissions appliquer ce qu'ils apprennent et améliorer Gemini de manière continue.

La protection de la vie privée est également une considération essentielle dans le cadre du développement de Gemini. Le centre de confidentialité des applis Gemini contient plus d'informations sur la façon dont nous développons Gemini avec la protection de la vie privée dès la conception, et en vous laissant le contrôle.

Nous avons mis en place une variété de commandes utilisateur Gemini facilement accessibles pour vous permettre de consulter, de mettre à jour, de gérer, d'exporter et de supprimer vos données Gemini. Vous pouvez accéder à vos requêtes, vos réponses et vos commentaires Gemini et les passer en revue dans la commande de l'activité dans les applis Gemini. En outre, vous pouvez empêcher que vos futurs clavardages Gemini soient utilisés pour améliorer les technologies d'apprentissage automatique de Google en désactivant votre paramètre Activité dans les applis Gemini. Comme pour les autres services Google, vous pouvez également télécharger et exporter vos informations au moyen de l'outil de Google Takeout. Nous avons également des commandes qui vous permettent de gérer les liens publics que vous avez créés vers vos fils Gemini, et des commandes qui vous permettent d'activer ou de désactiver l'accès aux extensions (p. ex. Workspace, Maps et YouTube). Nous explorons également de nouvelles façons de vous donner plus de contrôle sur les réponses de Gemini, notamment en ajustant les filtres pour permettre un plus large éventail de réponses.

Pour les éditeurs, nous avons lancé Google-Extended, une commande que les éditeurs Web peuvent utiliser pour gérer si leurs sites contribuent à améliorer Gemini et les API génératives Vertex AI. Autoriser l'accès à Google-Extended au contenu des sites peut aider les modèles d'IA à devenir plus précis et plus performants au fil du temps. Non seulement Gemini n'utilisera pas le contenu des URL exclues pour l'entraînement de modèle, mais il n'utilisera pas non plus ce contenu pour l'ancrage. À mesure que les applications de l'IA se développent, les éditeurs Web seront confrontés à la complexité croissante de la gestion des différentes utilisations à grande échelle, et nous nous engageons à collaborer avec les communautés du Web et de l'IA pour explorer davantage d'approches lisibles par les machines en matière de choix et de contrôle.

Nous croyons en une itération rapide et en la nécessité de proposer le meilleur de Gemini au monde entier. Les commentaires des utilisateurs ont accéléré l'amélioration de nos modèles. Par exemple, nous utilisons des techniques d'apprentissage par renforcement de pointe pour entraîner nos modèles à être plus intuitifs et imaginatifs, et à répondre avec encore plus de qualité et de précision. Nous continuons à investir dans la recherche pour en savoir plus sur les occasions et défis techniques, sociaux et éthiques des LLM, à la fois pour améliorer les techniques d'entraînement et de réglage du modèle de Gemini et pour partager nos connaissances avec les chercheurs, comme ce récent article sur l'éthique des assistants d'IA avancée. Nous nous engageons à innover dans ce domaine de manière responsable, en collaborant avec les utilisateurs, les testeurs approuvés et les chercheurs pour trouver des moyens de faire bénéficier l'ensemble de l'écosystème de cette nouvelle technologie.

La transparence est importante, et nous nous engageons à être ouverts sur le processus de développement et les limites de Gemini. Gemini n'est pas une boîte noire magique; il est en constante évolution, et nous continuerons à partager des mises à jour sur nos progrès. Nous avons lancé une page de mises à jour des versions Release Updates pour que vous puissiez voir les dernières fonctionnalités, améliorations et corrections de bogues de Gemini, et nous mettrons à jour cet aperçu le cas échéant. Nous identifierons à la fois les domaines dans lesquels Gemini est utile et pertinent, et ceux dans lesquels nous devons continuer à itérer et à l'améliorer. Nous ajoutons activement de nouvelles fonctionnalités et, grâce à la recherche continue, aux tests et aux commentaires des utilisateurs, nous sommes impatients d'améliorer Gemini ensemble.