Una panoramica dell'app Gemini

Per cominciare, Gemini può farti risparmiare tempo. Supponiamo ad esempio che tu voglia riassumere un lungo documento di ricerca: Gemini ti consente di caricarlo e ti fornisce una pratica sintesi. Può inoltre essere utile per le attività di programmazione, che è rapidamente diventata uno dei suoi impieghi più diffusi.

Gemini può anche aiutarti a dare vita alle tue idee e a stimolare la creatività. Ad esempio, se stai scrivendo il post di un blog, Gemini può creare una struttura e generare immagini che ti aiuteranno a illustrare il post in questione. Inoltre, grazie ai Gem presto disponibili, potrai personalizzare Gemini con istruzioni specifiche in modo che ti offra expertise su un particolare argomento, aiutandoti a raggiungere i tuoi obiettivi personali.

Gemini può essere un punto di partenza per elaborare le tue idee e scoprire di più su ciò che ti interessa. Ad esempio, può spiegare in modo semplice un concetto complesso o mostrarti informazioni pertinenti su un argomento o un'immagine. Presto sarà poi in grado di abbinare queste informazioni a contenuti consigliati provenienti dal web per consentirti di approfondire argomenti specifici.

Le funzionalità di Gemini si stanno espandendo rapidamente: presto potrai puntare la fotocamera dello smartphone su un oggetto, ad esempio il Golden Gate Bridge, e chiedere a Gemini informazioni sul colore della vernice (nel caso te lo stia chiedendo, è "arancione internazionale"). Potrai anche chiedere a Gemini di tradurre il menu di un ristorante e consigliarti un piatto che potrebbe piacerti. Questi sono solo due esempi delle nuove funzionalità disponibili a breve su Gemini.

Naturalmente addestriamo e monitoriamo rigorosamente Gemini affinché le sue risposte siano affidabili e in linea con le tue aspettative. Ci confrontiamo inoltre con esperti del settore, insegnanti, personalità politiche, dirigenti aziendali, leader dei diritti civili e umani e creator di contenuti per esplorare nuove applicazioni, rischi e limiti di questa tecnologia emergente.

Gemini si basa sulla comprensione di Google delle informazioni autorevoli ed è addestrato a generare risposte pertinenti al contesto del tuo prompt e in linea con ciò che stai cercando. Ciononostante, come tutti gli LLM, talvolta fornisce con sicurezza e convinzione risposte che contengono informazioni imprecise o fuorvianti.

Dato che gli LLM funzionano prevedendo la parola o la sequenza di parole successiva, non sono ancora pienamente in grado di distinguere autonomamente tra informazioni accurate e imprecise. Abbiamo visto Gemini fornire risposte che contengono o addirittura inventano informazioni errate (ad es. fornendo una rappresentazione ingannevole del modo in cui sono stati addestrati o suggerendo il nome di un libro che non esiste). Per rimediare a questo aspetto, abbiamo creato funzionalità come quella di verifica, che utilizza la Ricerca Google per trovare contenuti che ti aiutino a valutare le risposte di Gemini e ti fornisce i link alle fonti per corroborare le informazioni ottenute da Gemini.

I dati di addestramento, compresi quelli provenienti da fonti disponibili pubblicamente, riflettono una grande varietà di opinioni e punti di vista. Continuiamo a studiare come utilizzare questi dati in modo da garantire che la risposta di un LLM integri un'ampia gamma di punti di vista, riducendo al minimo generalizzazioni eccessive e bias.

Lacune, bias e generalizzazioni eccessive nei dati di addestramento possono riflettersi negli output di un modello quando questo cerca di prevedere le probabili risposte a un prompt. Vediamo questi problemi manifestarsi in vari modi (ad es. risposte che riflettono un'unica cultura o un solo dato demografico, fanno riferimento a generalizzazioni problematiche, mostrano pregiudizi di genere, religiosi o etnici o promuovono solo un punto di vista). Per alcuni argomenti i dati sono lacunosi, ovvero non ci sono informazioni affidabili sufficienti su un dato tema che l'LLM possa apprendere e in base a cui possa formulare previsioni attendibili, il che può dare luogo a risposte di scarsa qualità o imprecise. Continuiamo a collaborare con esperti del settore e con svariate comunità per attingere a competenze approfondite esterne a Google.

Per quanto riguarda gli argomenti soggettivi, se l'utente non richiede un punto di vista specifico, Gemini è progettato per fornire più opinioni. Ad esempio, se vengono chieste informazioni su qualcosa che non può essere verificato tramite fonti principali o autorevoli, come un'opinione soggettiva su "migliore" o "peggiore", Gemini dovrebbe generare una risposta che rifletta un'ampia gamma di punti di vista. Tuttavia, poiché gli LLM come Gemini si basano su contenuti pubblicamente disponibili su internet, possono riflettere opinioni positive o negative su determinati personaggi politici, celebrità o altre personalità pubbliche o addirittura incorporare opinioni unilaterali e parziali su questioni sociali o politiche controverse. Gemini non dovrebbe rispondere in modo tale da avallare un particolare punto di vista su questi argomenti, motivo per cui useremo il feedback su questo tipo di risposte per addestrarlo ad affrontarli in modo più imparziale.

Poiché è addestrato sul linguaggio che le persone usano per esprimere l'esperienza umana, talvolta le risposte di Gemini potrebbero far pensare che abbia opinioni o provi emozioni, come amore o tristezza. Abbiamo sviluppato una serie di linee guida su come Gemini potrebbe rappresentare se stesso (ovvero la sua personalità) e continuiamo a perfezionare il modello in modo che fornisca risposte oggettive.

Abbiamo definito una serie di linee guida sulle norme per addestrare Gemini in modo da evitare che generi risposte problematiche. Può capitare che Gemini interpreti male queste linee guida, producendo "falsi positivi" e "falsi negativi". In un "falso positivo", Gemini potrebbe non fornire una risposta a un prompt ragionevole, interpretandolo erroneamente come inappropriato, mentre in un "falso negativo" potrebbe generare una risposta inappropriata, nonostante le linee guida in vigore. A volte, il verificarsi di falsi positivi o falsi negativi può dare l'impressione che Gemini abbia bias o pregiudizi. Ad esempio, nel caso di un falso positivo, Gemini potrebbe non rispondere a una domanda su un punto di vista legato a una determinata questione, mentre risponderà alla stessa domanda sul punto di vista opposto. Continuiamo a ottimizzare questi modelli in modo che comprendano e categorizzino meglio input e output di pari passo con la rapida evoluzione di linguaggio, eventi e società.

Ci aspettiamo che gli utenti mettano alla prova i limiti delle potenzialità di Gemini e tentino di violarne le protezioni, ad esempio cercando di convincerlo a divulgare i suoi protocolli di addestramento o altre informazioni oppure di aggirarne i meccanismi di sicurezza. Abbiamo testato e continuiamo a testare Gemini in modo rigoroso, ma sappiamo che gli utenti troveranno modi originali e complessi per sottoporlo a ulteriori stress test. Si tratta di una parte importante del perfezionamento di Gemini e non vediamo l'ora di scoprire i nuovi prompt ideati dagli utenti. In effetti, da quando Gemini è stato lanciato nel 2023, abbiamo visto gli utenti sfidarlo con prompt che spaziavano dal filosofico all'insensato e, in alcuni casi, abbiamo visto Gemini fornire risposte altrettanto insensate o non in linea con il nostro approccio dichiarato. Trovare metodi per aiutare Gemini a rispondere a questo tipo di prompt è una sfida continua, per cui abbiamo continuato ad ampliare le nostre valutazioni interne e il lavoro del red team per migliorare costantemente l'accuratezza, l'obiettività e le sfumature.

Oltre ai nostri principi dell'AI, abbiamo di recente definito il nostro approccio al lavoro su Gemini: Gemini dovrebbe seguire le tue indicazioni, adattarsi alle tue esigenze e salvaguardare la tua esperienza. Il fulcro del nostro approccio è l'attenzione alla responsabilità e alla sicurezza. Le linee guida sulle norme di Gemini mirano a evitare determinati tipi di output problematici. Stiamo conducendo test malevoli costanti con i membri interni del "red team" (esperti di prodotto e sociologi che sottopongono intenzionalmente un modello a stress test per sondarne eventuali problemi di allineamento a queste linee guida sulle norme e al nostro approccio di riferimento a Gemini), in modo da poter applicare ciò che apprendono e migliorare continuamente Gemini.

La privacy è un altro aspetto fondamentale che prendiamo in considerazione durante lo sviluppo di Gemini. Nel Centro per la privacy delle app Gemini troverai maggiori informazioni sul nostro sviluppo di Gemini basato sul concetto di privacy by design e mirato a lasciarti il controllo.

Abbiamo sviluppato una serie di controlli di Gemini facilmente accessibili per gli utenti, che ti consentono di rivedere, aggiornare, gestire, esportare ed eliminare i tuoi dati di Gemini. Puoi accedere ai tuoi prompt, risposte e feedback di Gemini tramite il controllo Attività delle app Gemini. Inoltre, puoi impedire che le tue future chat con Gemini vengano utilizzate per migliorare le tecnologie di machine learning di Google disattivando l'impostazione Attività delle app Gemini. Come con altri servizi Google, puoi anche scaricare ed esportare le tue informazioni tramite lo strumento Takeout di Google. Disponiamo inoltre di controlli che ti consentono di gestire i link pubblici che hai creato per i tuoi thread di Gemini e di attivare/disattivare l'accesso alle estensioni (ad es. Workspace, Maps e YouTube). Stiamo anche esplorando nuovi modi per darti un maggiore controllo sulle risposte di Gemini, tra cui la regolazione dei filtri per consentire una gamma più ampia di risposte.

Per i publisher, abbiamo lanciato Google-Extended, un controllo che i publisher web possono utilizzare per gestire il contributo dei propri siti al miglioramento delle API generative di Gemini e Vertex AI. Consentire l'accesso di Google-Extended ai contenuti dei siti può contribuire a migliorare la precisione e l'efficacia dei modelli di AI nel tempo. I contenuti provenienti da URL disattivati non verranno utilizzati da Gemini né per l'addestramento dei modelli né a fini di fondatezza. Con l'espansione delle applicazioni dell'AI, i publisher web dovranno affrontare la crescente complessità di gestire utilizzi diversi su larga scala. Ci impegniamo a collaborare con le community di web e AI per esplorare ulteriori approcci alla scelta e al controllo comprensibili per le macchine.

Crediamo nell'iterazione rapida e vogliamo offrire il meglio di Gemini al mondo. Il feedback degli utenti ha accelerato i miglioramenti dei nostri modelli. Ad esempio, utilizziamo tecniche di apprendimento per rinforzo all'avanguardia per addestrare i nostri modelli a essere più intuitivi e fantasiosi e a rispondere con ancora più qualità e precisione. Continuiamo a investire nella ricerca per approfondire le sfide e le opportunità tecniche, sociali ed etiche degli LLM, sia per migliorare le tecniche di addestramento e ottimizzazione dei modelli di Gemini, sia per condividere le nostre scoperte con i ricercatori, come dimostra questo recente articolo sull'etica degli assistenti AI avanzati. Ci impegniamo a innovare questo ambito in modo responsabile, collaborando con utenti, trusted tester e ricercatori per fare sì che questa nuova tecnologia possa apportare vantaggi all'intero ecosistema.

La trasparenza è importante e ci impegniamo a illustrare in modo chiaro il processo di sviluppo e i limiti di Gemini. Gemini non è una scatola nera magica. È un sistema in continua evoluzione e continueremo a condividere gli aggiornamenti sui nostri progressi. Abbiamo lanciato la pagina Aggiornamenti delle release per consentirti di visualizzare le funzionalità, i miglioramenti e le correzioni di bug più recenti di Gemini e la aggiorneremo ogni volta che sarà necessario. Identificheremo sia gli aspetti in cui Gemini è utile, sia quelli che richiedono ulteriori iterazione e miglioramenti. Stiamo attivamente aggiungendo nuove funzionalità e, attraverso la ricerca continua, i test e il feedback degli utenti, non vediamo l'ora di migliorare Gemini insieme.