What is edge AI, and when does it make sense?

Edge AI runs the model on the device instead of in the cloud. It makes sense when latency, bandwidth, privacy or connectivity matter — a camera that must react in 20 ms, a sensor that has no network, or data that must never leave the site.

How small can a model get?

With quantisation, pruning and the right architecture we routinely fit keyword spotting, anomaly detection and simple vision models into a few hundred kilobytes on a Cortex-M microcontroller; richer vision runs on Jetson, Coral or an NPU-equipped SoC.

Do you also build the training pipeline?

Yes. Data collection from the devices, labelling, training, evaluation and the export/quantisation step are one pipeline, so a better model can be pushed over the air as a normal update.

How does this connect to your AI Labs work?

Directly. Edge AI is where our AI Labs research (vision, voice, local-first models) meets our embedded team — the on-device voice work behind our Sofi assistant is the same engineering.

Alle Leistungen

Edge AI und TinyML

KI, die dort läuft, wo die Daten sind.

Vision-, Audio- und Sensormodelle auf dem Gerät – ohne Umweg

Wir nehmen die Modelle aus unseren AI Labs und bringen sie zum Passen: quantisiert, beschnitten und profiliert, damit sie auf einem Mikrocontroller, einer Jetson oder der NPU Ihres SoC laufen. Das Gerät sieht, hört und entscheidet selbst – in Millisekunden, mit Milliwatt, ohne dass die Daten es je verlassen.

Legen wir los Kanban öffnen

Computer Vision, ausgeführt auf einem Edge-Gerät

01 / Was wir bauen

Wahrnehmung und Entscheidungen, auf dem Gerät.

Vision am Edge

Erkennung, Klassifizierung und Tracking auf Kameras – von einem Cortex-M bis zu einem Multi-Kamera-Jetson-Rig.

Sprache & Audio

Weckwörter, Keyword-Spotting, Sprache auf dem Gerät und akustische Anomalieerkennung.

Sensor-Intelligenz

Vorausschauende Wartung, Gesten- und Aktivitätserkennung aus IMU- und Industriesensoren.

Modell-Pipeline

Datenerfassung, Training, Quantisierung, On-Device-Evaluierungen und OTA-Auslieferung als eine einzige Schleife.

02 / Stack

Die Technologie, mit der wir bauen.

Branchenstandard, langweilig im besten Sinne: Werkzeuge mit Zukunft, die auch der nächste Entwickler kennt.

Inferenz-Runtimes

TensorFlow Lite / LiteRT
Quantisierte Modelle auf MCUs und mobilen SoCs
ONNX Runtime
Portable Inferenz über CPUs, GPUs und NPUs hinweg
TensorRT & DeepStream
GPU-beschleunigte Vision-Pipelines auf Jetson
Edge Impulse & TinyML
Schnelle Modell-Iteration für ressourcenbeschränkte Ziele

Zielhardware

Cortex-M with CMSIS-NN
Keyword-Spotting und Anomalieerkennung in wenigen Kilobyte
NVIDIA Jetson
Multi-Kamera-Vision am Edge
Google Coral / Hailo
Dedizierte Beschleuniger für stromsparende Inferenz
Qualcomm & NXP NPUs
Beschleunigung direkt auf dem SoC in Produktionsgeräten

Modell-Pipeline

PyTorch
Training, Distillation und Export
Quantisation & pruning
INT8-/INT4-Modelle, die ihre Genauigkeit behalten
Evals on-device
Genauigkeit, Latenz und Stromverbrauch auf dem Zielgerät gemessen
OTA model delivery
Modelle werden ausgeliefert und wie Firmware zurückgerollt

03 / Vorgehen

Wie wir Dinge bauen, die bleiben.

Auf dem Zielgerät gemessen

Latenz, Speicher und Stromaufnahme werden bei jeder Modellrevision auf dem echten Gerät gemessen.

Milliwatt, nicht Watt

Duty-cycled Inferenz und Beschleuniger, gewählt nach dem tatsächlichen Energiebudget des Produkts.

Privat by Design

Rohdaten bleiben auf dem Gerät; nur das, was das Produkt braucht, verlässt es – wenn überhaupt etwas.

Eine Pipeline, vom Gerät bis zur Cloud

Daten aus der Flotte fließen ins Training; ein besseres Modell kommt als gewöhnliches Update zurück.

04 / Standards

Best Practices, die wir nicht auslassen.

Wir halten uns bei jedem Projekt an Branchenstandards und bewährte Methoden – sie sorgen dafür, dass der Kostenvoranschlag hält.

Die Aufgabe mit dem einfachsten Modell, das funktionieren könnte, als Baseline ansetzen
Quantisierungsbewusstes Training vor Post-Training-Tricks
Genauigkeitsevaluierungen auf echten Geräteaufnahmen, nicht auf dem Labor-Datensatz
Latenz- und Energiebudgets als feste Abnahmekriterien
Fallback-Verhalten für Ausgaben mit geringer Konfidenz definiert
Modellversionierung und Rollback über den OTA-Kanal
Drift-Überwachung aus der Flottentelemetrie
Datenschutzprüfung jedes Signals, das das Gerät verlässt

05 / Infrastruktur

Wo es läuft und wie es am Laufen bleibt.

On-Device-Benchmarking-Aufbauten (Latenz, Speicher, Stromverbrauch)
Trainingspipeline, gespeist aus Flottendaten
OTA-Modellauslieferung mit Rollback
Drift- und Genauigkeitsüberwachung im Produktivbetrieb

Start

Wollen Sie das Modell auf dem Gerät?

Sagen Sie uns, was es sehen, hören oder vorhersagen muss – und auf welcher Hardware. Ein Ingenieur antwortet mit einem ehrlichen Umfang und Preis.

Let’s manage oder AI Labs entdecken

KI, die dort läuft, wo die Daten sind.

Vision-, Audio- und Sensormodelle auf dem Gerät – ohne Umweg