KI offline auf dem Handy: Sprachmodell im Flugmodus, für 0 Euro
Ein aktuelles Smartphone rechnet ein vollwertiges KI-Modell inzwischen selbst: ohne Internet, ohne Konto, ohne Abo. Wir zeigen, welche Apps und Modelle Sie dafür auf iPhone und Android laden, wie die Einrichtung abläuft und wo die Grenzen liegen.
Worum es geht
Auslöser für diesen Beitrag ist ein zweiminütiger Clip des amerikanischen IT-Erklärers NetworkChuck. Er schaltet sein iPhone in den Flugmodus, öffnet die App AI Edge Gallery von Google und stellt dem Modell Gemma 4 eine Frage. Die Antwort kommt sofort, obwohl das Gerät keine Verbindung hat. Danach fotografiert er in Japan ein Medikamentenfläschchen mit japanischer Beschriftung und lässt sich erklären, was er in der Hand hält. Auch das funktioniert ohne Netz.
Wir haben den Clip ausgewertet, die Angaben gegengeprüft und daraus diese Anleitung gebaut. Die Bildschirme in diesem Beitrag sind nachempfundene Darstellungen und keine Bildschirmfotos der App.
Direkt ausprobieren: Apps und Modelle zum Laden
Öffnen Sie diesen Beitrag auf dem Handy und tippen Sie auf den passenden Knopf. Die Modelle selbst laden Sie anschließend in der jeweiligen App, am besten im WLAN.
iPhone
| App | Modelle darin | Laden |
|---|---|---|
| AI Edge Gallery | Gemma 4 E2B und E4B, dazu Bildfragen, Sprachaufnahmen und Gerätesteuerung. Die App aus dem Clip. | App Store |
| PocketPal AI | Gemma, Qwen, Phi und Llama. Weitere offene Modelle lassen sich in der App suchen und laden. Quelloffen. | App Store |
| Locally AI | Unter anderem Gemma, Llama und Qwen. Aufgeräumte Oberfläche, guter Einstieg für reinen Textchat. Benötigt iOS 18.1 oder neuer. | App Store |
Android
| App | Modelle darin | Laden |
|---|---|---|
| AI Edge Gallery | Gemma 4 E2B und E4B, dazu Bildfragen, Sprachaufnahmen und Gerätesteuerung. | Google Play |
| PocketPal AI | Gemma, Qwen, Phi und Llama. Weitere offene Modelle lassen sich in der App suchen und laden. Quelloffen. | Google Play |
| AI Edge Gallery als APK | Dieselbe App als Installationsdatei von Google, für Geräte ohne Play Store. | GitHub |
Die Modelldateien
| Modell | Größe und Einsatz | Laden |
|---|---|---|
| Gemma 4 E2B | rund 2,6 GB. Schnell, für die meisten Handys ab 6 GB Arbeitsspeicher. | Hugging Face |
| Gemma 4 E4B | rund 3,6 GB. Genauer, sinnvoll ab 8 GB Arbeitsspeicher. | Hugging Face |
Die Modelldateien brauchen Sie nur, wenn Sie ein Modell von Hand in die App einbinden möchten. Im Normalfall genügt der Download innerhalb der App.
Cloud-KI und lokale KI im Vergleich
Bei den bekannten Chat-Diensten verlässt jede Eingabe Ihr Gerät. Ein Rechenzentrum erzeugt die Antwort und schickt sie zurück. Bei lokaler KI liegt das Modell als Datei auf dem Handy, und der Prozessor des Handys rechnet selbst.
Die Einrichtung in vier Schritten
Für den Download brauchen Sie einmalig WLAN, denn die Modelldateien sind mehrere Gigabyte groß. Danach kann das Gerät dauerhaft offline bleiben.
AI Edge Gallery von Google im App Store oder bei Google Play installieren.
Gemma 4 E2B oder E4B antippen und laden. Die App zeigt die Größe vorher an.
Zur Probe alle Verbindungen trennen. So sehen Sie, dass das Gerät selbst rechnet.
Bereich „AI Chat“ öffnen, Modell auswählen, Frage eintippen.
Was offline funktioniert
Die App bündelt mehrere Bereiche. Vier davon sind im Clip zu sehen, und alle vier laufen ohne Verbindung.
Das Beispiel mit dem Fläschchen zeigt den praktischen Wert am deutlichsten. Wer im Ausland ohne Datentarif vor einem Schild, einer Speisekarte oder einer Verpackung steht, bekommt trotzdem eine Übersetzung. Bei Medikamenten gilt allerdings: Die Antwort ist eine Orientierung und ersetzt nicht den Blick in den Beipackzettel oder die Frage in der Apotheke.
Welches Modell passt zu welchem Handy
Gemma 4 gibt es in mehreren Größen. Für Smartphones gedacht sind E2B und E4B. Das „E“ steht für die effektiv genutzten Parameter, also rund zwei beziehungsweise vier Milliarden.
| Modell | Download | Arbeitsspeicher | Geeignet für |
|---|---|---|---|
| Gemma 4 E2B | rund 2,6 GB | ab 6 GB empfohlen | Chat, kurze Texte, Übersetzungen, schnelle Antworten |
| Gemma 4 E4B | rund 3,6 GB | ab 8 GB empfohlen | Bildfragen, längere Texte, genauere Antworten |
Verbindlich ist die Größe, die Ihnen die App vor dem Download anzeigt. Unser Rat: mit E2B beginnen und E4B erst laden, wenn das Handy flüssig damit arbeitet. Auf einem iPhone 17 Pro und einem Galaxy S26 Ultra wurden mit E2B jeweils mehr als 50 Wortteile pro Sekunde gemessen. Das ist schneller, als man mitlesen kann.
Voraussetzungen
| Punkt | iPhone | Android |
|---|---|---|
| Betriebssystem | iOS 17 oder neuer | Android 12 oder neuer |
| Freier Speicher | 6 bis 7 GB, wenn beide Gemma-Modelle geladen werden sollen | |
| Gerät | Je neuer und je mehr Arbeitsspeicher, desto flüssiger. Ältere Mittelklasse mit weniger als 6 GB wird zäh. | |
| Konto | Für die mitgelieferten Gemma-Modelle ist laut aktuellen Berichten keine gesonderte Anmeldung nötig. | |
Im Clip heißt es ausdrücklich, dass unklar sei, welche Hardware mindestens nötig ist. Gezeigt wird ein iPhone der neuesten Generation.
Die Grenzen
- Kein aktuelles Wissen. Das Modell kennt nur, was beim Training vorlag. Wetter, Nachrichten und Preise von heute kann es offline nicht wissen.
- Kleiner als die großen Dienste. Für Alltagsfragen reicht es gut. Bei kniffligen Fachfragen, langen Dokumenten und Rechenaufgaben liegen die großen Cloud-Modelle vorn.
- Fehler bleiben möglich. Auch ein lokales Modell formuliert falsche Antworten überzeugend. Wichtiges gehört gegengeprüft.
- Kein Gesprächsverlauf. Die AI Edge Gallery speichert Unterhaltungen nicht dauerhaft. Was Sie behalten möchten, kopieren Sie heraus.
- Akku und Wärme. Längeres Rechnen zieht spürbar am Akku, und ein warmes Gerät antwortet langsamer.
- Einige Zusatzfunktionen brauchen Netz. Dazu gehören die Wikipedia-Suche und Karten innerhalb der App.
Wenn ein Modell auf dem Gerät rechnet, verlassen Kundendaten, Fotos von Baustellen oder diktierte Notizen das Gerät nicht. Das vereinfacht die Datenschutzfrage erheblich und funktioniert auch im Keller, auf dem Acker oder in der Werkshalle ohne Empfang.
Mehr zum Thema: Lokale Sprachmodelle und die passende Hardware im Vergleich und Digitale Vorsorge mit Offline-KI.
Quellen
- NetworkChuck: Gemma 4 on the iPhone (local AI, no internet required)
- AI Edge Gallery im App Store: Funktionen, Mindestversion, Datenschutzangaben
- Modellkarte Gemma 4 E2B: Dateigröße, Lizenz, Messwerte
- The Decoder zu Gemma 4: Modellvarianten, Arbeitsspeicher, Sprachen
- PocketPal AI auf GitHub: unterstützte Modelle, Lizenz
Stand der Angaben: 12. Oktober 2026. Versionsnummern und Größen ändern sich mit jedem Update der Apps.
Wir bauen eigene Anwendungen mit lokal laufender KI, zugeschnitten auf Ihre Abläufe und so, dass Ihre Daten im Haus bleiben.