LiteRT: Framework Machine Learning di Perangkat Berperforma Tinggi | Google AI Edge

Memperkenalkan Google AI Edge Portal: Lakukan benchmark Edge AI dalam skala besar. Daftar untuk meminta akses selama pratinjau pribadi.

LiteRT adalah framework di perangkat Google untuk deployment ML & AI generatif berperforma tinggi di platform edge.

Konversi, runtime, dan pengoptimalan yang efisien untuk machine learning di perangkat.

Dibuat berdasarkan fondasi TensorFlow Lite yang telah teruji

LiteRT bukan hanya baru, tetapi juga merupakan runtime machine learning generasi berikutnya yang paling banyak di-deploy di dunia. Layanan ini mendukung aplikasi yang Anda gunakan setiap hari, memberikan latensi rendah dan privasi tinggi di miliaran perangkat.

Dipercaya oleh aplikasi Google yang paling penting

Lebih dari 100 ribu aplikasi, miliaran pengguna global

Sorotan LiteRT

Siap Lintas Platform

Mengoptimalkan AI Generatif

Akselerasi hardware yang disederhanakan

Dukungan multi-framework

Men-deploy melalui LiteRT

Sederhanakan alur kerja deep learning Anda dari pelatihan hingga deployment di perangkat.

1.Mendapatkan model

Gunakan model terlatih .tflite atau konversi model PyTorch, JAX, atau TensorFlow ke .tflite.

Mempelajari konversi

2.Optimalkan

Gunakan toolkit pengoptimalan LiteRT untuk menguantisasi model Anda setelah pelatihan.

Menjelajahi pengoptimalan

3.Jalankan

Deploy model Anda dengan LiteRT dan pilih akselerator yang optimal untuk aplikasi Anda.

Melihat target deployment

Memilih Jalur Pengembangan Anda

Gunakan LiteRT untuk men-deploy AI di mana saja—mulai dari aplikasi seluler berperforma tinggi hingga perangkat IoT dengan keterbatasan resource.

Pengguna TFLite Lama

Beralih ke LiteRT untuk memanfaatkan peningkatan performa dan API terpadu di seluruh platform (Android, Desktop, Web).

BYOM : Bawa Model Anda sendiri

Memiliki model PyTorch dan ingin menerapkan pengalaman audio atau visi di perangkat.

Men-deploy Model AI Generatif

Membuat chatbot canggih di perangkat menggunakan model AI generatif dengan bobot terbuka yang dioptimalkan seperti Gemma atau model dengan bobot terbuka lainnya.