En oversikt over Gemini-appen

For det første kan du spare tid med Gemini. Tenk deg for eksempel at du trenger å få oppsummert et langt forskningsdokument. Med Gemini kan du laste det opp og få en nyttig syntese. Gemini kan også hjelpe deg med programmeringsoppgaver, og koding har på kort tid blitt et av de mest populære bruksområdene.

Gemini kan også hjelpe deg med å gjøre idéene dine om til virkelighet og gi deg en kreativ gnist. Hvis du for eksempel skal skrive et blogginnlegg, kan Gemini lage en disposisjon og generere bilder som kan illustrere innlegget ditt. Og snart kommer Gemer, som du kan bruke til å tilpasse Gemini med spesifikke instruksjoner, slik at den kan opptre som innholdsekspert og hjelpe deg med å oppnå personlige mål.

Gemini kan være et utgangspunkt for å utforske idéene dine og ting du vil finne ut mer om. Den kan for eksempel forklare et komplekst konsept enklere eller grave frem relevant kunnskap om et emne eller bilde. Og snart kan den kombinere denne typen innsikt med anbefalt innhold fra nettet for å finne ut mer om spesifikke emner.

Funksjonaliteten i Gemini utvikles raskt. Snart kan du rette telefonkameraet mot et objekt, for eksempel Golden Gate Bridge, og spørre Gemini hvilken farge det er («internasjonal oransje», hvis du lurte). Og du kan be Gemini hjelpe deg med å lese restaurantmenyer på andre språk og anbefale retter du kanskje kommer til å like. Dette er bare to eksempler på de nye funksjonene Gemini snart får.

Vi lærer selvfølgelig opp Gemini nøye og følger med på resultatene, slik at den gir svar som mest sannsynlig er pålitelige og i overensstemmelse med forventningene dine. Vi snakker også med bransjeeksperter, lærere, politiske beslutningstakere, bedriftsledere, borger- og menneskerettighetsledere samt innholdsskapere for å utforske nye bruksområder, risikoer og begrensninger i denne fremadstormende teknologien.

Gemini er fundamentert på Googles forståelse av autoritativ informasjon og er lært opp til å generere svar som er relevante i konteksten for forespørselen din, og som stemmer med det du er ute etter. Men i likhet med enhver SSM kan Gemini noen ganger generere overbevisende og selvsikre svar som i realiteten inneholder unøyaktig eller villedende informasjon.

Siden SSM-er fungerer ved å forutsi neste ord eller sekvens av ord, er de foreløpig ikke fullstendig i stand til å skille mellom nøyaktig og unøyaktig informasjon på egen hånd. Vi har sett Gemini presentere svar som inneholder unøyaktig eller til og med fabrikert informasjon (f.eks. feilaktige fremstillinger av hvordan den ble opplært, eller forslag til bøker som ikke finnes). Derfor har vi laget funksjoner som «dobbeltsjekk», som bruker Google Søk til å finne innhold som hjelper deg med å vurdere svarene fra Gemini, og som gir deg linker til kilder som underbygger informasjonen fra Gemini.

Opplæringsdata, også fra offentlig tilgjengelige kilder, gjenspeiler et mangfold av perspektiver og meninger. Vi fortsetter å forske på hvordan vi kan bruke disse dataene på en måte som sikrer at svaret fra SSM-er fletter inn et bredt spenn av synspunkter, samtidig som unøyaktige overgeneraliseringer og skjevheter minimaliseres.

Hull, skjevheter og overgeneraliseringer i opplæringsdata kan komme til uttrykk i svarene fra modellene når de prøver å forutsi sannsynlige svar på en forespørsel. Vi ser at disse problemene fremkommer på en rekke ulike måter, for eksempel i svar som bare tar hensyn til én kultur eller demografi, refererer til problematiske overgeneraliseringer, gjenspeiler kjønnsmessige, religiøse eller etniske skjevheter eller kun promoterer ett synspunkt. For noen emner er det hull i dataene – det finnes med andre ord ikke nok pålitelig informasjon om visse emner til at SSM-en kan lære seg om dem og deretter gjøre gode forutsigelser – noe som kan føre til svar av lav kvalitet eller unøyaktige svar. Vi fortsetter å samarbeide med domeneeksperter og et mangfold av ulike samfunnsgrupper for å tilegne oss den omfattende ekspertisen som finnes utenfor Google.

For subjektive emner er Gemini designet for å gi brukere flere perspektiver hvis de ikke ber om noe spesifikt synspunkt. Hvis Gemini for eksempel blir spurt om informasjon om noe som ikke kan bekreftes av fakta fra primærkilder eller autoritative kilder – for eksempel en subjektiv mening om hva som er «best» eller «verst» – skal Gemini svare på en måte som gjenspeiler et bredt spenn av synspunkter. Men siden SSM-er som Gemini læres opp med innhold som er offentlig tilgjengelig på internett, kan de gjenspeile de positive eller negative ståstedene til spesifikke politikere, kjendiser eller andre offentlige personer, og det kan til og med hende de kun tar hensyn til én side av kontroversielle sosiale eller politiske problemstillinger. Gemini skal ikke svare på en måte som støtter bestemte synspunkter om disse emnene, og vi bruker tilbakemeldinger om denne typen svar for å lære opp Gemini til å håndtere dem bedre.

Gemini kan noen ganger generere svar som antyder at den har meninger eller følelser, som kjærlighet eller sorg, siden den er lært opp på språk som mennesker bruker, for å gjenspeile opplevelsen av å snakke med en person. Vi har utviklet et sett med retningslinjer for hvordan Gemini kan fremstille seg selv (dvs. Geminis persontype), og vi fortsetter å finstemme modellen for å gi objektive svar.

Vi har laget et sett med retningslinjer for å gjøre det lettere å lære opp Gemini og unngå generering av problematiske svar. Gemini kan noen ganger feiltolke disse retningslinjene og produsere «falskt positive» og «falskt negative» klassifiseringer. En «falskt positiv» klassifisering kan føre til at Gemini ikke svarer på en rimelig forespørsel fordi den feiltolker forespørselen som upassende, og en «falskt negativ» klassifisering kan føre til at Gemini genererer et upassende svar som ikke er i tråd med retningslinjene den skal følge. Noen ganger kan falskt positive eller falskt negative klassifiseringer gi inntrykk av skjevheter i Gemini. En falskt positiv klassifisering kan for eksempel gjøre at Gemini ikke svarer på spørsmål om den ene siden av en sak, selv om den gjerne svarer på det samme spørsmålet om den andre siden av saken. Vi fortsetter å justere disse modellene for å forstå og kategorisere forespørsler og svar i takt med den raske utviklingen i språk, begivenheter og samfunnet.

Vi forventer at brukere tester grensene for hva Gemini kan gjøre, og forsøker å bryte gjennom beskyttelseslagene, blant annet ved å prøve å få den til å avsløre opplæringsprotokollene sine eller annen informasjon, eller ved å prøve å omgå sikkerhetsmekanismene. Vi har testet og fortsetter å teste Gemini omhyggelig, men vi vet at brukere kommer til å finne unike, komplekse måter å stressteste den ytterligere på. Dette er en viktig del av arbeidet med å finstemme Gemini, og vi ser frem til å se hvilke nye forespørsler brukere kan finne på. Siden Gemini ble lansert i 2023, har vi sett brukere utfordre den med alle slags forespørsler, fra det filosofiske til det meningsløse, og i noen tilfeller har vi sett Gemini gi svar som er like meningsløse, eller som ikke er i tråd med den uttalte tilnærmingen vår. Vi jobber kontinuerlig med hvordan vi kan hjelpe Gemini med å svare på denne typen forespørsler, og vi har fortsatt å utvide interne evalueringer og red-team-øvelser med mål om kontinuerlige forbedringer i nøyaktighet, objektivitet og nyansering.

I tillegg til AI-prinsippene våre har vi nylig beskrevet tilnærmingen vår til arbeidet vårt med Gemini: Den skal følge instruksjonene dine, tilpasse seg behovene dine og beskytte opplevelsen din. Kjernen i tilnærmingen vår er et fokus på ansvarlighet og trygghet. Målet med retningslinjene for Gemini er å unngå visse typer problematiske svar. Vi gjennomfører fortløpende fiendtlig testing med interne «red team»-medlemmer – produkteksperter og samfunnsfaglige forskere som med vilje stresstester en modell for å avdekke tilfeller av brudd på retningslinjene og visjonen vår for Gemini – slik at vi kan dra nytte av lærdommen deres og fortsette å gjøre Gemini bedre.

Personvern er også viktig når vi utvikler Gemini. Hjelpesenteret for personvern i Gemini-apper inneholder mer informasjon om hvordan vi utvikler Gemini med innebygd personvern, slik at du har kontrollen.

Vi har laget en rekke lett tilgjengelige kontroller du kan bruke for å gå gjennom, oppdatere, administrere, eksportere og slette Gemini-dataene dine. Du kan se og gjennomgå Gemini-forespørslene, -svarene og -tilbakemeldingene dine i aktivitetslagringen for Gemini-apper. I tillegg kan du forhindre at de fremtidige Gemini-chattene dine brukes til å forbedre Googles maskinlæringsteknologi, ved å slå av innstillingen for aktivitet i Gemini-apper. Og som på andre Google-tjenester kan du også laste ned og eksportere informasjonen din gjennom Googles Takeout-verktøy. Vi har også kontroller du kan bruke for å administrere offentlige linker du har laget til Gemini-trådene dine, samt kontroller du kan bruke for å slå av/på tilgang til utvidelser (f.eks. Workspace, Maps og YouTube). Vi utforsker også hvordan du kan få bedre kontroll over svarene fra Gemini, blant annet ved å justere filtrene slik at du kan få et bredere spenn av svar.

For publisister har vi lansert Google-Extended, en kontroll som nettpublisister kan bruke for å administrere om nettstedene deres skal bidra til å forbedre Gemini og generative Vertex AI-API-er. Nettsteder som gir Google-Extended-tilgang til innholdet sitt, kan bidra til å gjøre AI-modeller mer nøyaktige og funksjonsrike over tid. I tillegg til at vi ikke bruker innholdet fra bortvalgte nettadresser til modellopplæring, bruker Gemini heller ikke slikt innhold til empirisk baserte slutninger. Etter hvert som AI får flere bruksområder, kommer nettpublisister til å oppleve den økende kompleksiteten i å administrere ulike bruksmønstre i stor skala, og vi er opptatt av å samarbeide med nettet og AI-fellesskapene om å utforske mer maskinlesbare tilnærminger til valgfrihet og kontroll.

Vi mener det er viktig å iterere raskt og å gi verden det beste Gemini har å by på. Tilbakemeldinger fra brukere har akselerert forbedringer i modellene våre. Vi bruker for eksempel moderne teknikker for forsterkende læring til å lære modellene våre å være enda mer intuitive og kreative, slik at de gir mer nøyaktige svar av enda høyere kvalitet. Vi fortsetter å investere i forskning for å finne ut mer om de tekniske, sosiale og etiske utfordringene og mulighetene knyttet til SSM-er. Dette gjør vi både for å forbedre teknikkene våre for opplæring og finstemming av Gemini-modellene og for å dele lærdommen vår med forskere – for eksempel gjennom denne nylige artikkelen om etiske problemstillinger rundt avanserte AI-assistenter (Ethics of Advanced AI Assistants). Vi er opptatt av ansvarlig innovasjon på dette feltet, og vi samarbeider med brukere, betrodde testere og forskere for å finne ut hvordan denne nye teknologien kan komme hele økosystemet til nytte.

Åpenhet er viktig, og vi er opptatt av å være åpne om utviklingsprosessen for Gemini og hvilke begrensninger den har. Gemini er ingen magisk, svart boks – den utvikler seg hele tiden, og vi kommer til å fortsette å fortelle om fremdriften vår. Vi har lansert en side med versjonsoppdateringer, slik at du kan se de nyeste funksjonene, forbedringene og feilrettingene i Gemini, og vi oppdaterer denne oversikten fortløpende. Vi jobber med å identifisere både områder der Gemini er nyttig og hjelpsom, og hvor vi må fortsette å iterere for å gjøre den bedre. Nye funksjoner legges til aktivt, og gjennom pågående forskning, testing og tilbakemeldinger fra brukerne ser vi frem til å forbedre Gemini sammen.