Una introducción a la aplicación Gemini

Para empezar, Gemini te puede ayudar a ahorrar tiempo. Por ejemplo, supongamos que quieres resumir una investigación extensa: Gemini te permite subir el documento y te proporciona una útil síntesis para ayudarte. Gemini también puede echarte una mano en tareas de programación, lo que se ha convertido rápidamente en una de sus funciones más populares.

Además, Gemini puede ayudarte a dar vida a tus ideas y te permite despertar tu creatividad. Por ejemplo, si estás escribiendo una entrada de blog, Gemini puede crear un esquema y puede generar imágenes para ayudarte a ilustrarla. Próximamente, con los Gems podrás personalizar Gemini con instrucciones específicas y hacer que actúe como un experto en el tema que elijas para que te ayude a conseguir tus metas.

Gemini puede servirte como punto de partida para desarrollar tus ideas y aprender más sobre temas que te interesan. Por ejemplo, puede explicarte un concepto complejo de forma sencilla o proponerte ideas y reflexiones sobre un tema o una imagen. Y pronto podrá enlazar estas ideas con contenido recomendado de la Web para que puedas aprender más sobre temas específicos.

Las capacidades de Gemini están en rápida expansión. Pronto podrás enfocar la cámara del teléfono a un objeto, como el puente Golden Gate, y pedirle a Gemini información sobre su color (que, por si te lo preguntas, es el "naranja internacional"). También podrás pedirle a Gemini que te ayude a entender el menú de un restaurante escrito en otro idioma y que te recomiende un plato que te podría gustar. Son solo un par de ejemplos de lo que Gemini va a ser capaz de hacer próximamente.

Evidentemente, entrenamos a Gemini y lo supervisamos con sumo rigor para que sus respuestas tengan más probabilidad de ser fiables y se ajusten a tus expectativas. También estamos en contacto con expertos del sector y con educadores, legisladores, líderes empresariales y defensores de los derechos civiles y los derechos humanos, así como con creadores de contenido, para explorar nuevas posibles aplicaciones, riesgos y limitaciones de esta tecnología emergente.

Gemini se basa en lo que Google entiende como información fiable y se ha entrenado para que genere respuestas relevantes para tu petición y su contexto, y en consonancia con lo que estás buscando. Sin embargo, como todos los LLMs, Gemini a veces puede generar respuestas que destilen seguridad y convicción, pero que contengan información imprecisa o engañosa.

Como los LLMs trabajan prediciendo la siguiente palabra o secuencia de palabras, todavía no son completamente capaces de distinguir entre información precisa o imprecisa por su cuenta. Hemos visto a Gemini presentar respuestas que contienen información imprecisa o incluso inventada (por ejemplo, ofreciendo datos engañosos sobre cómo ha sido entrenado o sugiriendo el nombre de un libro inexistente). Para atender a este problema, hemos creado funciones como la opción de verificar las respuestas, que utiliza la Búsqueda de Google para encontrar contenido que te ayuda a valorar las respuestas de Gemini y te proporciona enlaces a fuentes para permitirte corroborar la información que has obtenido de Gemini.

Los datos de entrenamiento, incluidos los de fuentes disponibles públicamente, reflejan una variedad de perspectivas y opiniones. Seguimos investigando cómo utilizar estos datos de modo que se garantice que la respuesta de un LLM incorpore una amplia gama de puntos de vista, a la vez que se minimizan las generalizaciones imprecisas y los sesgos.

Las carencias, los sesgos y las generalizaciones en los datos de entrenamiento pueden reflejarse en los resultados que ofrece un modelo cuando este intenta predecir las respuestas posibles para una petición. Estas cuestiones se manifiestan de diversas formas (respuestas que solo tienen en cuenta una única cultura o grupo demográfico, referencias a generalizaciones problemáticas, sesgos de género, religión o etnia, o resultados que exponen solo un punto de vista, por ejemplo). Sobre algunos temas concretos hay vacíos de datos (es decir, no existe suficiente información fiable sobre un tema para que el LLM aprenda sobre él y pueda hacer buenas predicciones), lo que puede hacer que se den respuestas imprecisas o de baja calidad. Seguimos trabajando con expertos en diversas áreas y con una variedad de comunidades para adquirir conocimientos externos a Google.

En lo tocante a la subjetividad, Gemini se ha diseñado para ofrecer a los usuarios múltiples perspectivas si el usuario no solicita un punto de vista concreto. Por ejemplo, si se le pide información sobre algo que no puede verificarse mediante fuentes primarias o fiables (como una opinión objetiva sobre qué es mejor o peor), Gemini debería responder de forma que refleje una amplia gama de posturas. No obstante, dado que los LLMs como Gemini se entrenan con el contenido que está disponible de forma pública en Internet, pueden reflejar opiniones positivas o negativas sobre políticos, famosos u otras figuras públicas, o incluso aportar un único punto de vista sobre cuestiones políticas o sociales controvertidas o con distintos matices. Las respuestas de Gemini no deben defender un punto de vista en particular cuando se trata de esta clase de temas, y utilizaremos los comentarios y sugerencias sobre las respuestas de este tipo con el objetivo de entrenar a Gemini para que las aborde de una forma más adecuada.

Es posible que, en ocasiones, Gemini genere respuestas que parecen sugerir que tiene sus propias opiniones o emociones, como el amor o la tristeza. Esto se debe a que se ha entrenado con el lenguaje que las personas utilizan para reflejar la experiencia humana. Hemos desarrollado un conjunto de directrices acerca de cómo Gemini puede representarse a sí mismo (es decir, su persona) y seguimos perfeccionando el modelo para que ofrezca respuestas objetivas.

Hemos implantado una serie de guías sobre políticas para ayudar a entrenar a Gemini y evitar que genere respuestas problemáticas. A veces Gemini puede malinterpretar las directrices de estas políticas y producir falsos positivos o falsos negativos. En un falso positivo, Gemini podría no responder a una petición razonable, dado que la malinterpreta como inapropiada. En un falso negativo, es posible que Gemini genere una respuesta inapropiada pese a las directrices. Cuando se producen estos falsos positivos o falsos negativos, podría dar la impresión de que Gemini está sesgado. Por ejemplo, un falso positivo podría provocar que Gemini no respondiera a una pregunta sobre un aspecto o postura concreta con respecto a un problema, mientras que sí responderá a la misma pregunta si se le plantea desde el punto de vista opuesto. Seguimos ajustando y perfeccionando estos modelos para que puedan comprender y categorizar mejor la entrada y la salida de información a medida que el idioma, los acontecimientos y la sociedad evolucionan rápidamente.

Sabemos que los usuarios ponen a prueba los límites de lo que Gemini puede hacer e intentan superar sus protecciones. Por ejemplo, intentan que revele sus protocolos de entrenamiento u otra información, o intentan eludir sus mecanismos de seguridad. Nosotros hemos probado, seguimos y seguiremos probando Gemini de forma rigurosa, pero nos consta que los usuarios encontrarán maneras únicas y complejas de ponerlo a prueba. Esta es una parte importante del perfeccionamiento de Gemini y tenemos un gran interés por ver qué nuevas peticiones se les ocurren a los usuarios. De hecho, desde que se lanzó en 2023, hemos sido testigos de cómo los usuarios han puesto a prueba a Gemini con peticiones de todo tipo, desde las relativas a los ámbitos más filosóficos hasta las más absurdas y sin sentido. En algunos casos, Gemini también ha ofrecido respuestas sin ningún sentido o que no están alineadas con nuestro enfoque establecido. Descubrir métodos para ayudar a Gemini a responder a este tipo de peticiones es un reto que continuamos afrontando, y seguimos reforzando nuestras evaluaciones internas y poniéndonos en el lugar de los usuarios maliciosos para seguir mejorando la precisión, la objetividad y los matices.

Junto con nuestros principios para la IA, recientemente hemos definido nuestro enfoque respecto a Gemini: Gemini debe seguir tus indicaciones, adaptarse a tus necesidades y proteger tu experiencia. Una parte esencial de nuestro enfoque se centra en la responsabilidad y la seguridad. La guía sobre políticas de Gemini trata de evitar ciertos tipos de resultados problemáticos. Constantemente llevamos a cabo pruebas adversas con los miembros del "equipo rojo" (expertos de producto y científicos sociales que, a propósito, ponen a prueba un modelo con el objetivo de detectar posibles desviaciones de nuestras guías sobre políticas y nuestra visión para Gemini), de modo que podamos aplicar lo que descubren y mejorar Gemini de manera continuada.

La privacidad también es una consideración clave en nuestro desarrollo de Gemini. El Centro de Privacidad de las Aplicaciones de Gemini ofrece más información sobre cómo construimos Gemini con privacidad desde el diseño y te otorgamos a ti el control.

Hemos desarrollado una variedad de controles de usuario de Gemini fácilmente accesibles para que puedas revisar, actualizar, gestionar, exportar y borrar tus datos en Gemini. Puedes acceder a tus peticiones, las respuestas de Gemini y tus comentarios para revisarlos gracias al control de la actividad en las aplicaciones de Gemini. También puedes desactivar el ajuste Actividad en las aplicaciones de Gemini si quieres evitar que tus futuras interacciones con Gemini se utilicen para mejorar las tecnologías de aprendizaje automático de Google. Y, al igual que en otros servicios de Google, puedes descargar y exportar tu información a través de la herramienta Google Takeout. También te ofrecemos controles para que puedas gestionar enlaces públicos que hayas creado en tus hilos de Gemini, y ajustes que te permiten activar o desactivar el acceso a extensiones como Workspace, Maps o YouTube. Además, estamos explorando nuevas formas de ofrecerte más control sobre las respuestas de Gemini, incluido el ajuste de filtros para permitir una variedad más amplia de respuestas.

Para los editores, hemos lanzado Google-Extended, una opción que los editores de sitios web pueden utilizar para determinar si sus sitios se prestan a ayudar a mejorar las API generativas de Gemini y Vertex AI. Permitir el acceso de Google-Extended al contenido de sitios web puede ayudar a que los modelos de IA sean más precisos y potentes con el tiempo. Gemini no utilizará el contenido de las URLs que hayan rechazado participar en el entrenamiento del modelo y tampoco usará dicho contenido para su fundamentación. A medida que crecen las aplicaciones de la IA, los editores de sitios web tendrán que afrontar una gestión cada vez más compleja de sus distintos usos a gran escala. Nos comprometemos a colaborar con las comunidades de los entornos Web e IA para explorar nuevos enfoques sobre opciones y control que sean que comprensibles por las máquinas.

Creemos en la iteración rápida y en ofrecer lo mejor de Gemini al mundo. Las opiniones y comentarios de los usuarios han facilitado que nuestros modelos mejoren más rápido. Por ejemplo, utilizamos técnicas punteras de entrenamiento por refuerzo para entrenar a nuestros modelos y que sean más intuitivos e imaginativos, y para que puedan responder con todavía más precisión y calidad. Seguimos dando prioridad a la investigación para continuar explorando las oportunidades y desafíos técnicos, sociales y éticos que presentan los LLMs, y lo hacemos tanto para mejorar el entrenamiento del modelo de Gemini y perfeccionar las técnicas como para compartir nuestros hallazgos con otros investigadores (un ejemplo es esta reciente publicación sobre la ética en los asistentes de IA avanzados). Nos comprometemos a innovar de forma responsable en este campo, colaborando con usuarios, testers de confianza e investigadores para descubrir formas en las que esta tecnología puede beneficiar a todo el ecosistema.

Consideramos que la transparencia es importante, y por eso nos comprometemos a mantener una comunicación abierta sobre el desarrollo de Gemini y sus posibles limitaciones. Gemini no es una caja negra mágica, sino que se encuentra en un proceso constante de desarrollo, y seguiremos compartiendo actualizaciones sobre nuestro progreso. Hemos lanzado una página sobre las actualizaciones de versiones/a> para que puedas consultar las últimas funciones, mejoras y correcciones de errores de Gemini. Asimismo, seguiremos incorporando contenido a esta introducción a Gemini como corresponda. Nuestro propósito es identificar los ámbitos en los que Gemini resulta útil y eficaz, y también aquellos en los que debemos seguir iterando y mejorándolo Añadimos funcionalidades a Gemini de forma activa y, a través de la investigación que no cesa, de las continuas pruebas y de los comentarios de los usuarios, estamos deseando mejorar Gemini contigo.