Ga aan de slag met ingebouwde AI

Alexandra Klepper
Alexandra Klepper
GitHub Bluesky

Gepubliceerd: 12 december 2024, Laatst bijgewerkt: 20 mei 2025

Met ingebouwde AI API's kan uw webapplicatie AI-gestuurde taken uitvoeren zonder dat u eigen AI-modellen hoeft te implementeren of beheren. We werken eraan om deze API's voor alle browsers te standaardiseren .

Vereisten

Om ingebouwde AI te kunnen gebruiken, zijn er model- en hardwarevereisten.

Modellen

De Translator- en Language Detector-API's gebruiken expertmodellen. Alle andere API's gebruiken een taalmodel, ontworpen om lokaal op desktops en laptops te draaien.

De Summarizer API, Writer API, Rewriter API en Proofreader API ondersteunen alleen tekst-naar-tekst. De Prompt API heeft multimodale mogelijkheden .

Gemini Nano in Chrome

In Chrome is het taalmodel Gemini Nano. Gemini Nano is niet beschikbaar op mobiele apparaten.

Vanaf Chrome 140 ondersteunt Gemini Nano Engels, Spaans en Japans voor invoer- en uitvoertekst.

Voordat u de ingebouwde AI API's gebruikt, dient u het beleid van Google inzake verboden toepassingen van generatieve AI te raadplegen.

Hardware

De volgende vereisten gelden voor ontwikkelaars en gebruikers die functies gebruiken met deze API's in Chrome. Andere browsers kunnen andere vereisten hebben.

De Language Detector- en Translator-API's werken in Chrome op desktopcomputers. Deze API's werken niet op mobiele apparaten. De Prompt API, Summarizer API, Writer API, Rewriter API en Proofreader API werken in Chrome wanneer aan de volgende voorwaarden is voldaan:

  • Besturingssysteem : Windows 10 of 11; macOS 13+ (Ventura en hoger); Linux; of ChromeOS (vanaf platform 16389.0.0 en hoger) op Chromebook Plus- apparaten. Chrome voor Android, iOS en ChromeOS op apparaten zonder Chromebook Plus worden nog niet ondersteund door de API's die Gemini Nano gebruiken.
  • Opslag : minimaal 22 GB vrije ruimte op het volume met uw Chrome-profiel.
  • GPU : absoluut meer dan 4 GB VRAM.
  • Netwerk : Onbeperkt dataverbruik of een onbeperkte verbinding.

De exacte grootte van de Gemini Nano kan variëren naarmate de browser het model bijwerkt. Ga naar chrome://on-device-internals om de huidige grootte te bepalen.

Begin met bouwen

Er zijn verschillende ingebouwde AI API's beschikbaar in verschillende ontwikkelingsfasen. Sommige zijn beschikbaar in Chrome stable, sommige zijn beschikbaar voor deelnemers aan Origin Trials, en andere zijn alleen beschikbaar voor deelnemers aan het Early Preview Program .

Elke API heeft zijn eigen instructies om aan de slag te gaan en het model te downloaden, zowel voor lokale prototypes als in productieomgevingen met de oorspronkelijke tests.

Al deze API's kunnen worden gebruikt bij het bouwen van Chrome-extensies.

Model downloaden

API's zijn ingebouwd in Chrome, net als de modellen. De eerste keer dat een gebruiker met deze API's werkt, moet het model worden gedownload naar de browser.

Om te bepalen of een API bruikbaar en gereed is, roept u de asynchrone functie availability() aan. Deze retourneert een belofte met een van de volgende waarden:

  • "unavailable" : Het apparaat van de gebruiker of de gevraagde sessieopties worden niet ondersteund. Het apparaat heeft mogelijk onvoldoende stroom of schijfruimte.
  • "downloadable" : Er zijn extra downloads nodig om een ​​sessie te creëren, waaronder mogelijk een expertmodel, een taalmodel of finetuning. Activering door de gebruiker kan vereist zijn om create() aan te roepen.
  • "downloading" : Downloads zijn gaande en moeten voltooid zijn voordat u een sessie kunt gebruiken.
  • "available" : U kunt direct een sessie aanmaken.

Gebruikersactivering

Als het apparaat de ingebouwde AI API's ondersteunt, maar het model nog niet beschikbaar is, is er een gebruikersinteractie nodig om een ​​sessie te starten met create() .

Met de eigenschap UserActivation.isActive kunt u de activering van een gebruiker bevestigen. Dit kan een klik, tik of het indrukken van een toets zijn.

// Check for user activation.
if (navigator.userActivation.isActive) {
  // Create an instance of a built-in API
}

U kunt bijvoorbeeld met de Summarizer API gebruikers vragen om te interacteren met de knop 'Samenvatten' om Summarizer.create() te activeren.

Gebruik API's op localhost

Alle API's zijn beschikbaar op localhost in Chrome.

  1. Ga naar chrome://flags/#prompt-api-for-gemini-nano-multimodal-input .
  2. Selecteer Ingeschakeld .
  3. Klik op Opnieuw starten of start Chrome opnieuw.

Om te bevestigen dat Gemini Nano is gedownload en werkt zoals bedoeld, opent u DevTools en typt u await LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Problemen met localhost oplossen

Als het model niet werkt zoals verwacht, volg dan deze stappen:

  1. Start Chrome opnieuw.
  2. Ga naar chrome://on-device-internals .
  3. Selecteer het tabblad Modelstatus en controleer of er geen fouten zijn.
  4. Open DevTools en typ LanguageModel.availability(); in de console. Dit zou available moeten retourneren.

Wacht indien nodig even en herhaal deze stappen.

Normeringsproces

We werken eraan deze API's te standaardiseren , zodat ze in alle browsers werken. Dit betekent dat we de API's hebben voorgesteld aan de webplatformgemeenschap en ze hebben verplaatst naar de W3C Web Incubator Community Group voor verdere discussie.

We vragen voor elke API om feedback van het W3C, Mozilla en WebKit.

Betrek en deel feedback

Als u de ingebouwde AI uitprobeert en feedback hebt, horen we dat graag.