Lexikon · E
Edge AI
Kurzantwort
Edge AI bedeutet, dass ein KI-Modell dort rechnet, wo die Daten entstehen: im Smartphone, in der Kamera, im Fahrzeug oder im kleinen Rechner neben der Maschine. Die Eingaben müssen dafür nicht in ein Rechenzentrum, und die Funktion bleibt auch ohne Netz verfügbar1.

Eine Kamera an der Haustür soll Personen von Paketen unterscheiden. Sie kann jedes Bild an einen Server schicken und auf die Antwort warten, oder sie wertet es selbst aus und meldet nur das Ergebnis. Im zweiten Fall spricht man von Edge AI. "Edge" meint den Rand des Netzes, an dem Geräte und Sensoren sitzen, im Gegensatz zum zentralen Rechenzentrum.
Vom Smartphone bis zur Werkhalle
Auf Android-Telefonen läuft Googles Sprachmodell Gemini Nano direkt auf dem Gerät, verwaltet vom Systemdienst AICore1. Apps nutzen es zum Zusammenfassen, für Korrekturen kurzer Nachrichten, für Bildbeschreibungen und zur Spracherkennung, ohne dass Daten in die Cloud gehen1.
Für Bastler und kleine Betriebe gibt es Zusatzplatinen. Das AI HAT+ für den Raspberry Pi 5 bringt mit den Chips Hailo-8L oder Hailo-8 eine Rechenleistung von 13 oder 26 TOPS und ist für Aufgaben wie Objekterkennung, Bildsegmentierung und Haltungserkennung gedacht2.
In Robotern und Maschinen stecken Module wie das NVIDIA Jetson Orin Nano Super mit 67 INT8-TOPS, 8 GB LPDDR5-Speicher mit 102 GB/s und einer Leistungsaufnahme von 7 bis 25 Watt3. Auch große Sprachmodelle rücken näher an die Geräte: OpenAI gibt für gpt-oss-20b an, dass es auf Edge-Geräten mit 16 GB Speicher läuft4. Im Laptop übernimmt die NPU solche Aufgaben, ein eigenes Rechenwerk für KI im Prozessor.
Warum Rechnen vor Ort sich lohnt
Google nennt für die Ausführung auf dem Gerät drei Vorteile: Sensible Daten bleiben auf dem Gerät, die Funktion arbeitet offline, und Kosten für Server entfallen1. Die Wartezeit für das Netz fällt ebenfalls weg. Für den Datenschutz hat Google AICore zusätzlich abgeschottet: Der Dienst hat keinen direkten Internetzugang und behält nach der Verarbeitung weder Eingaben noch Ergebnisse1. Wie schnell die Antwort kommt, hängt dann von der Hardware des Geräts ab1.
Für Unternehmen kann der Datenschutz den Ausschlag geben, etwa wenn Bilder aus einer Produktionshalle das Werksgelände nicht verlassen sollen. Reicht die Rechenleistung im Gerät dafür nicht, ist ein Server im eigenen Haus der nächste Schritt, den wir unter lokale KI im Unternehmen beschreiben.
Wo die Cloud vorn bleibt
Auf kleinen Geräten laufen nur kleine Modelle. Google beschreibt für Gemini Nano Grenzen bei der Tokenzahl, der Hardware und den Fähigkeiten des Modells; für schwierigere Anfragen empfiehlt es eine hybride Lösung, bei der die App auf Gemini Flash oder Pro in der Cloud ausweicht1. Damit ein Modell überhaupt auf das Gerät passt, wird es meist verkleinert, etwa durch Quantisierung oder als Small Language Model.
Auch die Pflege ist aufwendiger. Ein Modell, das auf tausenden Geräten liegt, muss auf jedes einzelne gebracht werden; bei Android übernimmt AICore die Verteilung und die Aktualisierung von Gemini Nano1.
Häufige Fragen
Ist Edge AI dasselbe wie lokale KI auf dem PC?
Beides meint KI, die ohne Rechenzentrum auskommt. Von Edge AI spricht man meist bei kleinen Geräten wie Kameras, Sensoren und Telefonen, von lokaler KI eher beim eigenen Rechner mit Grafikkarte.
Funktioniert Edge AI ohne Internet?
Ja, die Berechnung selbst braucht kein Netz. Für Updates des Modells muss das Gerät aber gelegentlich online sein; Android lädt neue Fassungen von Gemini Nano über AICore1.
Quellen
Stand:
- Android Developers: Gemini Nano und AICore, abgerufen am 22.11.2026. zurück
- Raspberry Pi: AI HAT+: Produktseite und Spezifikationen, abgerufen am 22.11.2026. zurück
- NVIDIA: Jetson Orin Nano Super Developer Kit, abgerufen am 22.11.2026. zurück
- OpenAI: Introducing gpt-oss, Stand 05.08.2025, abgerufen am 22.11.2026. zurück





