Een overzicht van de Gemini-app

Om te beginnen kan Gemini je tijd besparen. Stel dat je bijvoorbeeld een lang onderzoeksdocument wilt samenvatten: Gemini laat het je uploaden en geeft je een nuttige synthese. Gemini kan ook helpen met programmeertaken. Hierdoor is programmeren al snel een van de populairste toepassingen geworden.

Gemini kan helpen om je ideeën tot leven te brengen en je creativiteit aan te wakkeren. Als je bijvoorbeeld een blogpost aan het schrijven bent, kan Gemini een overzicht maken en afbeeldingen genereren die je post helpen illustreren. En binnenkort kun je met Gems Gemini aanpassen met specifieke instructies en laten fungeren als een expert in het onderwerp om je persoonlijke doelen te bereiken.

Gemini kan een springplank zijn voor het verkennen van je ideeën en dingen waar je meer over wilt leren. Het kan bijvoorbeeld een complex concept eenvoudig uitleggen of relevante inzichten over een onderwerp of afbeelding aan het licht brengen. En binnenkort koppelt het deze inzichten aan aanbevolen content van over het hele web om meer te weten te komen over specifieke onderwerpen.

De mogelijkheden van Gemini breiden zich snel uit. Binnenkort kun je de camera van je telefoon op een object richten, bijvoorbeeld op de Golden Gate-brug, en Gemini vragen om je de kleur van de verf te vertellen (als je het je afvraagt, het is 'International Orange'). Je kunt Gemini ook vragen om je in een andere taal door het menu van een restaurant te helpen en je een gerecht aan te bevelen dat je waarschijnlijk lekker zult vinden. Dit zijn maar twee voorbeelden van de nieuwe mogelijkheden die binnenkort naar Gemini komen.

Natuurlijk trainen en controleren we Gemini rigoureus, zodat de reacties waarschijnlijk betrouwbaar zijn en overeenkomen met jouw verwachtingen. We praten ook met experts uit de branche, docenten, beleidsmakers, bedrijfsleiders, leiders op het gebied van burger- en mensenrechten en contentcreators om nieuwe toepassingen, risico's en beperkingen van deze opkomende technologie te onderzoeken.

Gemini is gebaseerd op het begrip van Google rond gezaghebbende informatie en is getraind om reacties te genereren die relevant zijn voor de context van je prompt en overeenkomen met wat je zoekt. Maar zoals alle LLM's kan Gemini soms zelfverzekerd en overtuigend reacties genereren die onjuiste of misleidende informatie bevatten.

Omdat LLM's werken door het volgende woord of reeksen woorden te voorspellen, zijn ze nog niet volledig in staat om zelfstandig onderscheid te maken tussen nauwkeurige en onnauwkeurige informatie. We hebben Gemini reacties zien geven die onjuiste informatie bevatten of zelfs informatie zien verzinnen (bijvoorbeeld een verkeerde voorstelling van hoe het is getraind of de naam van een boek suggereren dat niet bestaat). Als antwoord hierop hebben we functies gemaakt zoals 'dubbelcheck', die Google Zoeken gebruikt om content te vinden die je helpt om de reacties van Gemini te beoordelen en je links geeft naar bronnen om je te helpen de informatie die je van Gemini krijgt te bevestigen.

Trainingsgegevens, ook uit openbaar toegankelijke bronnen, weerspiegelen een diversiteit aan standpunten en meningen. We blijven onderzoeken hoe we deze gegevens kunnen gebruiken op een manier die ervoor zorgt dat de reactie van een LLM een breed scala aan standpunten bevat, terwijl onjuiste overgeneralisaties en vooroordelen worden geminimaliseerd.

Hiaten, bias en overgeneralisaties in trainingsgegevens kunnen worden weerspiegeld in de resultaten van een model wanneer het probeert om waarschijnlijke reacties op een prompt te voorspellen. We zien deze problemen op verschillende manieren tot uiting komen (bijv. reacties die slechts één cultuur of demografie weerspiegelen, die refereren aan problematische overgeneralisaties, gender-, religieuze of etnische vooroordelen vertonen of slechts één standpunt promoten). Voor sommige onderwerpen zijn er hiaten in de gegevens; met andere woorden, niet genoeg betrouwbare informatie over een bepaald onderwerp voor de LLM om erover te leren en vervolgens goede voorspellingen te doen. Dit kan resulteren in reacties van lage kwaliteit of onnauwkeurige reacties. We blijven samenwerken met domeinexperts en een diversiteit aan gemeenschappen om te putten uit diepgaande expertise buiten Google.

Voor subjectieve onderwerpen is Gemini ontworpen om gebruikers meerdere perspectieven te bieden als de gebruiker niet om een specifiek standpunt vraagt. Als je bijvoorbeeld vraagt om informatie over iets dat niet kan worden geverifieerd door primaire bronnen of gezaghebbende bronnen, zoals een subjectieve mening over 'het beste' of 'het slechtste', dan moet Gemini antwoorden op een manier die een breed scala aan standpunten weerspiegelt. Maar omdat LLM's zoals Gemini trainen op de content die openbaar beschikbaar is op het internet, kunnen ze positieve of negatieve meningen weergeven over specifieke politici, beroemdheden of andere bekende personen, of zelfs meningen bevatten over slechts één kant van controversiële sociale of politieke kwesties. Gemini mag niet reageren op een manier die een bepaald standpunt over deze onderwerpen onderschrijft. We gebruiken feedback over dit soort reacties om Gemini te trainen en ze beter aan te pakken.

Gemini kan soms reacties genereren die lijken te suggereren dat het meningen of emoties heeft, zoals liefde of verdriet, omdat het getraind is op de taal die mensen gebruiken om de menselijke ervaring weer te geven. We hebben een aantal richtlijnen ontwikkeld over hoe Gemini zichzelf zou kunnen representeren (d.w.z. de persona) en blijven het model verfijnen om objectieve reacties te kunnen geven.

We hebben een aantal beleidsrichtlijnen opgesteld om Gemini te helpen trainen en problematische reacties te voorkomen. Gemini kan deze richtlijnen soms verkeerd interpreteren, waardoor 'fout-positieve reacties' en 'fout-negatieve reacties' ontstaan. Bij een 'fout-positieve reactie' geeft Gemini mogelijk geen reactie op een redelijke prompt, omdat het de prompt verkeerd interpreteert als ongepast. Bij een 'fout-negatieve reactie' genereert Gemini mogelijk een ongepaste reactie, ondanks de geldende richtlijnen. Soms kan het voorkomen van fout-positieve reacties of fout-negatieve reacties de indruk wekken dat Gemini bevooroordeeld is: een fout-positieve reactie kan er bijvoorbeeld voor zorgen dat Gemini niet reageert op een prompt over de ene kant van een probleem, terwijl het wel reageert op dezelfde prompt over de andere kant. We blijven deze modellen afstemmen om inputs en outputs beter te begrijpen en te categoriseren omdat taal, gebeurtenissen en de maatschappij zich snel ontwikkelen.

We verwachten dat gebruikers de grenzen van wat Gemini kan testen en proberen de beveiligingen te doorbreken, bijvoorbeeld door te proberen de trainingsprotocollen of andere informatie te onthullen of door te proberen de veiligheidsmechanismen te omzeilen. We hebben Gemini streng getest en blijven dat doen, maar we weten dat gebruikers unieke, complexe manieren zullen vinden om het verder te testen. Dit is een belangrijk onderdeel van het verfijnen van Gemini en we kijken ernaar uit om de nieuwe prompts te leren kennen waar gebruikers mee komen. Sinds de lancering van Gemini in 2023 hebben we gebruikers Gemini zien uitdagen met prompts die variëren van filosofisch tot onzinnig. In sommige gevallen hebben we Gemini zien reageren met reacties die net zo onzinnig zijn of niet overeenkomen met onze aanpak. Het is een constante uitdaging om methoden te ontwikkelen die Gemini helpen op dit soort prompts te reageren. Ook blijven we onze interne evaluaties en ons Red Team uitbreiden om te streven naar voortdurende verbetering van nauwkeurigheid, objectiviteit en nuance.

Samen met onze AI-principes hebben we onlangs onze aanpak van ons werk aan Gemini verwoord: Gemini moet jouw aanwijzingen volgen, zich aanpassen aan jouw behoeften en jouw ervaring waarborgen. Centraal in onze aanpak staan verantwoordelijkheid en veiligheid. De beleidsrichtlijnen van Gemini proberen bepaalde soorten problematische outputs te vermijden. We voeren voortdurend tests met vijandige prompts uit met interne Red Team-leden, productexperts en sociale wetenschappers die opzettelijk een model aan een stresstest onderwerpen om na te gaan of het in overeenstemming is met deze beleidsrichtlijnen en onze Northstar-aanpak voor Gemini, zodat we kunnen toepassen wat ze leren en Gemini voortdurend kunnen verbeteren.

Privacy is ook een belangrijk aandachtspunt bij de ontwikkeling van Gemini. De Gemini Apps Privacy Hub heeft meer informatie over hoe we Gemini ontwerpen voor privacy, en met jou als degene die de controle heeft.

We hebben een aantal makkelijk toegankelijke bedieningselementen voor Gemini-gebruikers gebouwd waarmee je je Gemini-gegevens kunt nalopen, updaten, beheren, exporteren en verwijderen. Je kunt je Gemini-prompts, reacties en feedback openen en controleren via de Gemini Apps-activiteitsopties. Daarnaast kun je voorkomen dat je toekomstige Gemini-gesprekken worden gebruikt om de machinelearning-technologieën van Google te verbeteren door je instelling van Gemini Apps-activiteit uit te zetten. En net als bij andere Google-services kun je je informatie ook downloaden en exporteren via de Google Takeout-tool. We hebben ook bedieningselementen waarmee je openbare links naar je Gemini-threads kunt beheren en bedieningselementen waarmee je de toegang tot extensies kunt aan- en uitzetten (bijv, Workspace, Maps, YouTube). Verder onderzoeken we nieuwe manieren om je meer controle te geven over de reacties van Gemini, zoals het aanpassen van filters om een breder scala aan reacties mogelijk te maken.

Voor uitgevers hebben we Google-Extended gelanceerd, een bedieningselement waarmee webuitgevers kunnen beheren of hun sites de generatieve API's van Gemini en Vertex AI helpen verbeteren. Door Google-Extended toegang te geven tot de content van sites kunnen AI-modellen na verloop van tijd nauwkeuriger en krachtiger worden. Naast het niet gebruiken van de content van URL's waarvoor de toestemming is ingetrokken voor modeltraining, zal Gemini deze content ook niet gebruiken voor onderbouwing. Naarmate AI-toepassingen zich uitbreiden, zullen webuitgevers te maken krijgen met de toenemende complexiteit van het beheren van verschillende toepassingen op schaal. We zijn vastbesloten om samen te werken met de web- en AI-communities om meer benaderingen van keuzes en controles te verkennen die door machines kunnen worden gelezen.

We geloven in snelle updates en willen de wereld het beste van Gemini bieden. De feedback van gebruikers heeft verbeteringen aan onze modellen versneld. We gebruiken bijvoorbeeld geavanceerde technieken rond versterkend leren om onze modellen te trainen zodat ze intuïtiever en vindingrijker worden en met nog meer kwaliteit en nauwkeurigheid reageren. We blijven investeren in onderzoek om meer te weten te komen over de technische, sociale en ethische uitdagingen en mogelijkheden van LLM's, zowel om de modeltrainings- en afstemmingstechnieken van Gemini te verbeteren als om onze kennis te delen met onderzoekers, zoals in dit recente essay over de Ethiek van geavanceerde AI-assistenten. We zetten ons in om op een verantwoorde manier te innoveren in deze ruimte, door samen te werken met gebruikers, betrouwbare testers en onderzoekers om manieren te vinden waarop deze nieuwe technologie het hele ecosysteem ten goede kan komen.

Transparantie is belangrijk en we zijn vastbesloten om open te zijn over het ontwikkelingsproces en de beperkingen van Gemini. Gemini is geen magische zwarte doos. Het ontwikkelt zich voortdurend en we zullen updates blijven delen over onze vooruitgang. We hebben een pagina met Release-updates gelanceerd zodat je de nieuwste functies, verbeteringen en bugfixes van Gemini kunt zien. We updaten dit overzicht wanneer dat nodig is. We zullen vaststellen waar Gemini nuttig en behulpzaam is en waar we het moeten blijven verbeteren. We voegen actief nieuwe mogelijkheden toe en door voortdurend onderzoek, testen en feedback van gebruikers kijken we ernaar uit om Gemini samen te verbeteren.