What is edge AI, and when does it make sense?

Edge AI runs the model on the device instead of in the cloud. It makes sense when latency, bandwidth, privacy or connectivity matter — a camera that must react in 20 ms, a sensor that has no network, or data that must never leave the site.

How small can a model get?

With quantisation, pruning and the right architecture we routinely fit keyword spotting, anomaly detection and simple vision models into a few hundred kilobytes on a Cortex-M microcontroller; richer vision runs on Jetson, Coral or an NPU-equipped SoC.

Do you also build the training pipeline?

Yes. Data collection from the devices, labelling, training, evaluation and the export/quantisation step are one pipeline, so a better model can be pushed over the air as a normal update.

How does this connect to your AI Labs work?

Directly. Edge AI is where our AI Labs research (vision, voice, local-first models) meets our embedded team — the on-device voice work behind our Sofi assistant is the same engineering.

Alle Leistungen

Edge AI und TinyML

Ihr Produkt sieht, hört und entscheidet von selbst.

Sofortige Reaktionen, keine Cloud-Rechnung und Daten, die das Gerät nie verlassen.

Wenn ein Produkt in dem Moment reagieren muss, in dem etwas passiert, ist der Umweg in die Cloud zu langsam, zu teuer und bricht ab, sobald die Verbindung abreißt. Wir bringen das Modell auf das Gerät selbst – damit es in Millisekunden reagiert, offline weiterläuft und die Daten, die es liest, nie die Hand des Kunden verlassen müssen. Es sind die Modelle aus unseren AI Labs, passend gemacht für einen Mikrocontroller, eine Jetson oder die NPU Ihres SoC.

Legen wir los Kanban öffnen

Computer Vision, ausgeführt auf einem Edge-Gerät

01 / Was es löst

Produkte, die von selbst reagieren.

In Echtzeit sehen und handeln

Erkennen, zählen und verfolgen, was im Kamerabild zählt – sofort, von einem winzigen Cortex-M-Sensor bis zu einem Multi-Kamera-Jetson-Rig.

Freihändig auf Sprache reagieren

Weckwörter, Sprachbefehle und Tonwarnungen werden auf dem Gerät verarbeitet, ohne dass Audio irgendwohin gesendet wird.

Probleme erkennen, bevor sie Geld kosten

Vorausschauende Wartung, Gesten- und Aktivitätserkennung direkt aus den Sensoren an Bord gelesen.

Wird nach dem Marktstart immer besser

Eine einzige Schleife von Daten über Training bis zu On-Device-Evaluierungen und Over-the-Air-Updates, damit sich das Produkt im Feld verbessert.

02 / Stack

Die Technologie, mit der wir bauen.

Branchenstandard, langweilig im besten Sinne: Werkzeuge mit Zukunft, die auch der nächste Entwickler kennt.

Inferenz-Runtimes

TensorFlow Lite / LiteRT
Quantisierte Modelle auf MCUs und mobilen SoCs
ONNX Runtime
Portable Inferenz über CPUs, GPUs und NPUs hinweg
TensorRT & DeepStream
GPU-beschleunigte Vision-Pipelines auf Jetson
Edge Impulse & TinyML
Schnelle Modell-Iteration für ressourcenbeschränkte Ziele

Zielhardware

Cortex-M with CMSIS-NN
Keyword-Spotting und Anomalieerkennung in wenigen Kilobyte
NVIDIA Jetson
Multi-Kamera-Vision am Edge
Google Coral / Hailo
Dedizierte Beschleuniger für stromsparende Inferenz
Qualcomm & NXP NPUs
Beschleunigung direkt auf dem SoC in Produktionsgeräten

Modell-Pipeline

PyTorch
Training, Distillation und Export
Quantisation & pruning
INT8-/INT4-Modelle, die ihre Genauigkeit behalten
Evals on-device
Genauigkeit, Latenz und Stromverbrauch auf dem Zielgerät gemessen
OTA model delivery
Modelle werden ausgeliefert und wie Firmware zurückgerollt

03 / Vorgehen

Wie wir Dinge bauen, die bleiben.

Auf dem Zielgerät gemessen

Latenz, Speicher und Stromaufnahme werden bei jeder Modellrevision auf dem echten Gerät gemessen.

Milliwatt, nicht Watt

Duty-cycled Inferenz und Beschleuniger, gewählt nach dem tatsächlichen Energiebudget des Produkts.

Privat by Design

Rohdaten bleiben auf dem Gerät; nur das, was das Produkt braucht, verlässt es – wenn überhaupt etwas.

Eine Pipeline, vom Gerät bis zur Cloud

Daten aus der Flotte fließen ins Training; ein besseres Modell kommt als gewöhnliches Update zurück.

04 / Standards

Best Practices, die wir nicht auslassen.

Wir halten uns bei jedem Projekt an Branchenstandards und bewährte Methoden – sie sorgen dafür, dass der Kostenvoranschlag hält.

Die Aufgabe mit dem einfachsten Modell, das funktionieren könnte, als Baseline ansetzen
Quantisierungsbewusstes Training vor Post-Training-Tricks
Genauigkeitsevaluierungen auf echten Geräteaufnahmen, nicht auf dem Labor-Datensatz
Latenz- und Energiebudgets als feste Abnahmekriterien
Fallback-Verhalten für Ausgaben mit geringer Konfidenz definiert
Modellversionierung und Rollback über den OTA-Kanal
Drift-Überwachung aus der Flottentelemetrie
Datenschutzprüfung jedes Signals, das das Gerät verlässt

05 / Infrastruktur

Wo es läuft und wie es am Laufen bleibt.

On-Device-Benchmarking-Aufbauten (Latenz, Speicher, Stromverbrauch)
Trainingspipeline, gespeist aus Flottendaten
OTA-Modellauslieferung mit Rollback
Drift- und Genauigkeitsüberwachung im Produktivbetrieb

Start

Wollen Sie das Modell auf dem Gerät?

Sagen Sie uns, was es sehen, hören oder vorhersagen muss – und auf welcher Hardware. Ein Ingenieur antwortet mit einem ehrlichen Umfang und Preis.

Let’s manage oder AI Labs entdecken

Ihr Produkt sieht, hört und entscheidet von selbst.

Sofortige Reaktionen, keine Cloud-Rechnung und Daten, die das Gerät nie verlassen.