Google AI Edge Gallery

Research at Google

Om appen

AI Edge Gallery är den främsta destinationen för att köra världens mest kraftfulla stora språkmodeller (LLM) med öppen källkod på din mobila enhet. Upplev högpresterande generativ AI direkt på din hårdvara – helt offline, privat och blixtsnabbt.

Nu med: Gemma 4

Denna uppdatering ger officiellt stöd för den nyligen släppta Gemma 4-familjen. Som mittpunkten i den här versionen låter Gemma 4 dig testa det allra senaste inom AI på enheten. Upplev avancerad resonemang, logik och kreativa funktioner utan att någonsin skicka dina data till en server.

Kärnfunktioner

- Agentfärdigheter: Förvandla din LLM från en konversatör till en proaktiv assistent. Använd Agentfärdigheter-panelen för att utöka modellfunktionerna med verktyg som Wikipedia för faktabasering, interaktiva kartor och omfattande visuella sammanfattningskort. Du kan till och med ladda modulära färdigheter från en URL eller bläddra bland communitybidrag på GitHub-diskussioner.

- AI-chatt med tankeläge: Delta i flytande konversationer med flera vändningar och aktivera det nya tankeläget för att kika "under huven". Den här funktionen låter dig se modellens stegvisa resonemangsprocess, vilket är perfekt för att förstå komplex problemlösning. Obs: Thinking Mode fungerar för närvarande med modeller som stöds, med början i Gemma 4-familjen.
- Ask Image: Använd multimodal kraft för att identifiera objekt, lösa visuella pussel eller få detaljerade beskrivningar med hjälp av enhetens kamera eller fotogalleri.
- Audio Scribe: Transkribera och översätt röstinspelningar till text i realtid med hjälp av högeffektiva språkmodeller på enheten.

Prompt Lab: En dedikerad arbetsyta för att testa olika prompter och användningsfall med en enda vändning med detaljerad kontroll över modellparametrar som temperatur och top-k.
- Mobila åtgärder: Lås upp offline-enhetskontroller och automatiserade uppgifter som drivs helt av en finjustering av FunctionGemma 270m.
- Tiny Garden: Ett roligt, experimentellt minispel som använder naturligt språk för att plantera och skörda en virtuell trädgård med hjälp av en finjustering av FunctionGemma 270m.
- Model Management & Benchmark: Gallery är en flexibel sandlåda för en mängd olika modeller med öppen källkod. Ladda enkelt ner modeller från listan eller ladda dina egna anpassade modeller. Hantera ditt modellbibliotek enkelt och kör benchmarktester för att förstå exakt hur varje modell presterar på din specifika hårdvara.

- 100 % integritet på enheten: Alla modellinferenser sker direkt på din enhets hårdvara. Inget internet krävs, vilket garanterar total integritet för dina uppmaningar, bilder och känsliga data.

Byggt för communityn

AI Edge Gallery är ett öppen källkodsprojekt utformat för både utvecklarcommunityn och AI-entusiaster. Utforska våra exempelfunktioner, bidra med dina egna färdigheter och hjälp till att forma framtiden för enhetens agentekosystem.

Kolla in källkoden på GitHub:
https://github.com/google-ai-edge/gallery

Obs! Den här appen är under aktiv utveckling. Prestandan beror på din enhets hårdvara (CPU/GPU). För support eller feedback, kontakta oss på [e-mail]

Nyheter

- Support Gemma 4's built-in Multi Token Prediction (MTP) to accelerate decoding.
- Bug fixes.