Edge-AI-Engineering Wie man Künstliche Intelligenz am Netzwerkrand Aufbaut, Bereitstellt und Optimiert
By Sloane Garrett
Length6h 32m
About this audiobook
Was passiert, wenn Ihr perfekt trainiertes Modell auf einem Mikrocontroller mit 256 KB RAM aufschlägt — und plötzlich jede Millisekunde zählt?
Edge AI ist kein Buzzword. Sie ist die Antwort auf eine echte Produktionsrealität, in der ein halbe Sekunde Latenz eine Ewigkeit bedeutet. Dieses Buch liefert keine vorgefertigten Modelle, sondern das Handwerkszeug, um selbst zu entscheiden: Was läuft am Netzwerkrand? Was bleibt in der Cloud? Und wie verschmelzen beide Welten nahtlos?
• Warum ein neuronales Netz im Labor anders reagiert als in einer Halle voller Vibrationen, Temperaturschwankungen und elektromagnetischer Störungen — und wie Sie diese Diskrepanz quantifizieren und beherrschen.
• Wie Quantisierung weit mehr ist als Bitreduktion: eine systemische Optimierung des gesamten Datenflusses von Sensor bis Entscheidung.
• Methoden zur Messung und Verbesserung der Energieeffizienz, denn an der Edge zählt jedes Milliwatt.
• Architekturentscheidungen, Hardware-Auswahl und Inferenz-Pipelines für verteilte Umgebungen — aus der Praxis für die Praxis.
Greifen Sie zu den Kapiteln, die Ihr aktuelles Projekt fordert. Kehren Sie zu den Grundlagen zurück, wenn Sie sie brauchen. Das beste System ist nicht das mit der höchsten Genauigkeit — sondern das, das unter realen Bedingungen zuverlässig funktioniert. Beginnen Sie jetzt.
Audiobook details
GenreTechnology
Length6 hrs 32 mins
Narrated byListen with 1,000+ voices
FormateBook with Audio
LanguageEnglish
Table of contents
1Introduction
55VPU mit Intel Movidius und OpenVINO
2Vorwort
56Grenzen der Beschleunigung: Nicht unterstützte Operationen identifizieren
3Warum dieses Buch?
57Latenzvergleich: GPU vs. TPU vs. VPU
4Was dich erwartet
58Dockerfile für ein TFLite-Modell
5Für wen ist dieses Buch?
59Hardware-Passthrough: GPU und TPU im Container
Show all chaptersShow less
6Meine Perspektive
60Orchestrierung mit docker-compose: Edge-Stack
7Danke
61Image-Größe optimieren: Alpine und Multi-Stage
8Für wen dieses Buch ist
62Deployment-Strategien für Edge-Geräte
9Softwareentwickler mit ML-Erfahrung
63Zusammenfassung
10Embedded-Entwickler, die ML einführen
64HTTP-basiertes OTA-Update
11DevOps- und MLOps-Ingenieure
65A/B-Partitionierung: Sicheres Zurücksetzen
12Studierende und Forscher mit Praxisbezug
66Delta-Updates
13Was du mitbringen solltest
67Delta-Updates: Effiziente OTA-Update-Strategien für Edge-Geräte
14Struktur des Buches
68Binär-Diffs als Grundlage effizienter Aktualisierung
15Was du am Ende können wirst
69Versionierung und Delta-Ketten
16Was Sie brauchen
70Signatur- und Verifikationsmechanismen
17Was Sie brauchen
71Rollback-Strategien für fehlgeschlagene Updates
18Hardware
72Die Bedrohungslandschaft am Netzwerkrand
19Software
73Modellverschlüsselung mit AES-256
20Optionale Cloud-Dienste
74Geräteauthentifizierung implementieren
21Hardware
75Datenschutz durch lokale Verarbeitung
22Software
76Kapitel 11 — Monitoring und Logging in Produktion: Warum Monitoring? Von der Entwicklung in die Produktion
23Software
77Strukturiertes Logging mit Python
24Vorkenntnisse
78Metriken erfassen und senden (Telegraf / MQTT)
25Was wir nicht abdecken
79Healthchecks und automatische Alarme
26Zeitaufwand
80Kapitel 12 — Federated Learning: Training am Rand
27Ein letzter Hinweis
81Warum Federated Learning? Daten bleiben lokal
28Kapitel 1 — Warum Edge-AI? Grundlagen und Motivation: Das Problem mit der Cloud
82Federated Averaging (FedAvg) implementieren
29Edge-AI-Architektur im Überblick
83Kommunikationseffizienz: Sparsame Updates
30Hardware für den Rand
84Hürden in der Praxis: Heterogenität und Ausfälle
31Erste Schritte: Toolchain aufsetzen
85Automatisiertes Deployment per SSH
32TensorFlow Lite Konverter
86Rollback-Strategie in der Pipeline
33Quantisierung in der Praxis
87Anforderungsanalyse: Qualitätskontrolle in der Fertigung
34Modell-Auswahl: Mobilenet, EfficientNet-Lite, YOLO-Nano
88Systemarchitektur und Komponenten
35Kapitel 3 — Inferenz auf dem Edge-Gerät
89Integration und Lasttest
36Der TFLite-Interpreter
90Anhang: Referenztabellen: Hardware-Spezifikationen und Befehle: Anhang: Edge-AI-Deployment-Checkliste
37Bildvorverarbeitung: Von der Kamera zum Tensor
91Checkliste für Edge-AI-Deployments
38Ausgabe dekodieren und bewerten
921. Modelloptimierung
39Benchmarking: Latenz und Durchsatz messen
932. Hardware-Auswahl
40Kapitel 4 — Datenmanagement und Pipelines am Edge
943. Containerisierung
41Datenquellen am Edge: Sensoren, Kameras, APIs
954. Netzwerk-Konfiguration
42Pufferung mit Ringpuffern
965. Sicherheit
43Lokale Persistenz mit SQLite
976. Monitoring
44Datenhoheit: Wann bleibt alles lokal?
987. OTA-Updates
45Asynchrone Pipeline: Alles zusammen
99Anhang: Vergleichstabelle: Edge-Hardware-Plattformen
46Tasks und Koroutinen für Edge-Workloads
100Vergleich von Edge-Hardware-Plattformen für KI-Anwendungen
47MQTT: Ergebnisse an die Zentrale senden
101Raspberry Pi
48Asynchrone Inferenzschleife mit TensorFlow Lite
102NVIDIA Jetson (Nano/Orin)
49Praktische Fallstricke: Überlastung und Backpressure
103Coral TPU (USB/Dev Board)
50Weniger ist mehr: Einführung in Pruning
104Intel Neural Compute Stick 2 (NCS2)
51Strukturiertes Pruning mit TensorFlow Model Optimization
105ESP32
52Wissensdestillation: Teacher lehrt Student
106Arduino Nano 33 BLE
53Entscheidungsmatrix: Welche Methode für welches Szenario?
107Zusammenfassung der Vergleichskriterien
54Coral Edge TPU: Setup und erste Inferenz
108Empfehlungen nach Anwendungsfall
More from Sloane Garrett
Augmented Reality und Computer Vision Wie AR-Anwendungen die reale Welt verstehen, um virtuelle Objekte nahtlos zu integrierenSloane Garrett8h 50m$14 · $0.00
Automatisierte Textklassifizierung Wie man Dokumente, Tickets und Nachrichten mit überwachtem Lernen automatisch kategorisiertSloane Garrett7h 40m$10.20 · $0.00
Security Gates in GitHub ActionsSloane Garrett8h 4m$21.50 · $0.00
Grundlagen der 3D-Computer Vision Tiefenschätzung, Punktwolkenverarbeitung und Volumetrische Rekonstruktion aus KameraanordnungenSloane Garrett7h 59m$13 · $0.00
Eingebettetes Machine Learning Vereinfacht Von Sensordaten zu Intelligenten Entscheidungen auf Ressourcenbeschränkter HardwareSloane Garrett8h 22m$13.50 · $0.00
Dialogsysteme und Chatbots Design konversationeller KI, die Kontext Versteht, Sich an Verlauf Erinnert und Natürlich AntwortetSloane Garrett8h 46m$16.50 · $0.00
LiftoffEric Berger9h 4m$29 · $0.00
ApolloCharles Murray, Catherine Bly Cox18h 15m$30
Improvised Weapons and Munitions - The Official U.S. Army ManualU.S. Department of the Army4h 38m$2 · $0.00
Frosty: The incredible true story of the boy from Doonside who became a Bathurst kingMark Winterbottom8h 9m$26 · $0.00
Cadillac Desert, Revised and Updated EditionMarc Reisner27h 56m$30
The Honey BusMeredith May9h 31m$25 · $0.00
Operation PedestalMax Hastings12h 29m$29 · $0.00
When the Heavens Went on SaleAshlee Vance18h 20m$40 · $0.00
Hands of TimeRebecca Struthers8h 8m5.0 (1)$26 · $0.00
Everybody Has a Podcast (Except You)Justin McElroy, Travis McElroy, Griffin McElroy5h 9m$24 · $0.00
The Collected WorksNikola Tesla50h 9m$1 · $0.00
Never Lost AgainBill Kilday10h 1m$29 · $0.00
How the Internet HappenedBrian McCullough13h 28m$23 · $0.00
Collected Writings of Nikola TeslaNikola Tesla, Thomas Commerford Martin21h 50m$1 · $0.00
Just AspireAjai Chowdhry9h 13m$29 · $0.00
The Little Book of AliensAdam Frank8h 20m$26 · $0.00
The inventions, researches and writings of Nikola Tesla (Annotated)Thomas Commerford Martin16h 59m$2 · $0.00
KargilV.P. Malik15h 18m$24 · $0.00
Fire on the HorizonTom Shroder, John Konrad8h 23m$26 · $0.00
The Smell of Kerosene (Annotated)National Aeronautics and Space Administration, Donald L. Mallick, Peter W. Merlin11h 32m$2 · $0.00
You may also like
Chatgpt Complete GuideJoaquin Gener1h 23m$6 · $0.00
DriverlessHod Lipson, Melba Kurman9h 57m$20
ITIL Foundation Essentials ITIL 4 Edition - The ultimate revision guide, second editionClaire Agutter1h 12m$27 · $0.00
The Future Ready OrganizationGyan Nagpal7h 44m$26 · $0.00
Artificial IntelligenceJ.C.Lesko2h 43m$15 · $0.00
Machines at WorkMary Elting37m$2 · $0.00
Computers The Machines We Think WithD. S. Halacy8h 40m$2.30
Master AiHenrique Xavier Oliveira2h 5m$6 · $0.00
Giant Brains, or, Machines That ThinkEdmund Callis Berkeley9h 21m$2.30
AutonomyLawrence D. Burns, Christopher Shulgan11h 21m$29 · $0.00
The Artificial AuthorSimone Aliprandi7h 42m$15 · $0.00
The Evolution of Technologythe Speech Resource Company9h 30m$20
12 BytesJeanette Winterson9h$20
Me, My Customer, and AIHenrik Werdelin, Nicholas Thorne3h 41m$20
The Definitive Guide To The World's Leading Artificial IntelligenceKael Novera6h 51m$8 · $0.00
RepluggedSatnam Bains13h 47m$14 · $0.00
The Start-up Founder's Guide to Digital MarketingPramod Maloo8h 17m$20 · $0.00
Robot RightsDavid J. Gunkel10h 58m$23 · $0.00
How To Code For Quantum ComputersNivio Dos Santos2h 19m$46 · $0.00
Story Behind HyperfaceRekha Balakrishnan9m$4