Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Lexikon · E

Edge AI

Kurzantwort

Edge AI bedeutet, dass ein KI-Modell dort rechnet, wo die Daten entstehen: im Smartphone, in der Kamera, im Fahrzeug oder im kleinen Rechner neben der Maschine. Die Eingaben müssen dafür nicht in ein Rechenzentrum, und die Funktion bleibt auch ohne Netz verfügbar⁠1.

Autor
Veröffentlicht
Geprüft
Lesezeit
3 Minuten
Weiße Kuppelkamera, seitlich liegende Smartwatch mit schwarzem Armband und kleiner schwarzer Router mit zwei Antennen nebeneinander auf grauem Filz
Edge AI rechnet in den Geräten, die die Daten erfassen. Bild: KI-generiert

Eine Kamera an der Haustür soll Personen von Paketen unterscheiden. Sie kann jedes Bild an einen Server schicken und auf die Antwort warten, oder sie wertet es selbst aus und meldet nur das Ergebnis. Im zweiten Fall spricht man von Edge AI. "Edge" meint den Rand des Netzes, an dem Geräte und Sensoren sitzen, im Gegensatz zum zentralen Rechenzentrum.

Vom Smartphone bis zur Werkhalle

Auf Android-Telefonen läuft Googles Sprachmodell Gemini Nano direkt auf dem Gerät, verwaltet vom Systemdienst AICore⁠1. Apps nutzen es zum Zusammenfassen, für Korrekturen kurzer Nachrichten, für Bildbeschreibungen und zur Spracherkennung, ohne dass Daten in die Cloud gehen⁠1.

Für Bastler und kleine Betriebe gibt es Zusatzplatinen. Das AI HAT+ für den Raspberry Pi 5 bringt mit den Chips Hailo-8L oder Hailo-8 eine Rechenleistung von 13 oder 26 TOPS und ist für Aufgaben wie Objekterkennung, Bildsegmentierung und Haltungserkennung gedacht⁠2.

In Robotern und Maschinen stecken Module wie das NVIDIA Jetson Orin Nano Super mit 67 INT8-TOPS, 8 GB LPDDR5-Speicher mit 102 GB/s und einer Leistungsaufnahme von 7 bis 25 Watt⁠3. Auch große Sprachmodelle rücken näher an die Geräte: OpenAI gibt für gpt-oss-20b an, dass es auf Edge-Geräten mit 16 GB Speicher läuft⁠4. Im Laptop übernimmt die NPU solche Aufgaben, ein eigenes Rechenwerk für KI im Prozessor.

Warum Rechnen vor Ort sich lohnt

Google nennt für die Ausführung auf dem Gerät drei Vorteile: Sensible Daten bleiben auf dem Gerät, die Funktion arbeitet offline, und Kosten für Server entfallen⁠1. Die Wartezeit für das Netz fällt ebenfalls weg. Für den Datenschutz hat Google AICore zusätzlich abgeschottet: Der Dienst hat keinen direkten Internetzugang und behält nach der Verarbeitung weder Eingaben noch Ergebnisse⁠1. Wie schnell die Antwort kommt, hängt dann von der Hardware des Geräts ab⁠1.

Für Unternehmen kann der Datenschutz den Ausschlag geben, etwa wenn Bilder aus einer Produktionshalle das Werksgelände nicht verlassen sollen. Reicht die Rechenleistung im Gerät dafür nicht, ist ein Server im eigenen Haus der nächste Schritt, den wir unter lokale KI im Unternehmen beschreiben.

Wo die Cloud vorn bleibt

Auf kleinen Geräten laufen nur kleine Modelle. Google beschreibt für Gemini Nano Grenzen bei der Tokenzahl, der Hardware und den Fähigkeiten des Modells; für schwierigere Anfragen empfiehlt es eine hybride Lösung, bei der die App auf Gemini Flash oder Pro in der Cloud ausweicht⁠1. Damit ein Modell überhaupt auf das Gerät passt, wird es meist verkleinert, etwa durch Quantisierung oder als Small Language Model.

Auch die Pflege ist aufwendiger. Ein Modell, das auf tausenden Geräten liegt, muss auf jedes einzelne gebracht werden; bei Android übernimmt AICore die Verteilung und die Aktualisierung von Gemini Nano⁠1.

Häufige Fragen

Ist Edge AI dasselbe wie lokale KI auf dem PC?

Beides meint KI, die ohne Rechenzentrum auskommt. Von Edge AI spricht man meist bei kleinen Geräten wie Kameras, Sensoren und Telefonen, von lokaler KI eher beim eigenen Rechner mit Grafikkarte.

Funktioniert Edge AI ohne Internet?

Ja, die Berechnung selbst braucht kein Netz. Für Updates des Modells muss das Gerät aber gelegentlich online sein; Android lädt neue Fassungen von Gemini Nano über AICore⁠1.

Quellen

Stand:

  1. Android Developers: Gemini Nano und AICore, abgerufen am 22.11.2026. zurück
  2. Raspberry Pi: AI HAT+: Produktseite und Spezifikationen, abgerufen am 22.11.2026. zurück
  3. NVIDIA: Jetson Orin Nano Super Developer Kit, abgerufen am 22.11.2026. zurück
  4. OpenAI: Introducing gpt-oss, Stand 05.08.2025, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert