Machine learning lokaal uitvoeren kan met een Coral USB Accelerator, maar alleen als model, runtime én hostomgeving op elkaar aansluiten. Controleer daarom de volledige softwareketen voordat je op een TOPS-getal of algemene compatibiliteitslijst vertrouwt.
Wat is de Coral USB Accelerator?
De Coral USB Accelerator is een USB-accessoire met een Edge TPU voor machine learning-inferentie. Inferentie is het toepassen van een getraind model op nieuwe data. De accelerator is niet bedoeld voor volledige modeltraining; voor speciaal opgebouwde classificatiemodellen bestaat wel beperkte transfer learning van de laatste laag.
| Controlepunt | Wat je moet weten |
|---|---|
| Rekenprestatie | 4 TOPS piek |
| Efficiëntie | Tot 2 TOPS per watt; dit is geen vaste claim dat het apparaat altijd 2 watt gebruikt |
| Verbinding | USB 3.0 voor de bedoelde prestaties; USB 2.0 beperkt de verbinding |
| Software | Volledig 8-bit-gekwantiseerd TensorFlow Lite-model, gecompileerd voor de Edge TPU |
| Omgeving | Controleer OS, processorarchitectuur, Python-versie en libedgetpu/PyCoral als één keten |
Wat is het verschil met inferentie op de CPU?
Voor volledige uitvoering op de Edge TPU is een volledig 8-bit-gekwantiseerd TensorFlow Lite-model nodig dat voor de Edge TPU is gecompileerd. Niet-ondersteunde bewerkingen vallen terug op de CPU. Daardoor kan een klein niet-ondersteund deel de totale inferentie veel trager maken.
Controleer de compileruitvoer en benchmark het exacte model met de echte invoer op de beoogde host en USB-poort. Algemene vergelijkingen in milliseconden of frames per seconde zijn zonder model, host, invoerformaat en meetopzet niet overdraagbaar.
Wat kun je er in de praktijk mee doen?
- Beeldclassificatie — objecten, afwijkingen of dieren lokaal herkennen wanneer het gekozen model volledig wordt ondersteund.
- Objectdetectie — bijvoorbeeld aanwezigheidsdetectie of telcamera's, na meting op de echte invoer.
- Trefwoordherkenning — lokale geluidsclassificatie met een geschikt gecompileerd model.
- Anomaliedetectie — sensordata analyseren wanneer model en Edge TPU-operatoren bij elkaar passen.
Controleer model, software en host
- Model en compiler. Controleer volledige 8-bit-kwantisatie, ondersteunde operatoren en eventuele CPU-fallback.
- Runtime en host. Verifieer OS, processorarchitectuur, Python-versie, libedgetpu/PyCoral en USB 3.0 samen.
- Onderhoudsstatus. De officiële PyCoral- en Edge TPU-repositories zijn gearchiveerd; behandel dit als bestaand Edge TPU-hardwarepad en controleer de actuele installatie vóór aankoop.
- Meting. Test snelheid, temperatuur en stabiliteit met de echte invoer en belasting.
- Alternatieven. Een Coral-board of M.2-module is niet automatisch uitwisselbaar; controleer interface, host, koeling, voeding en software.
Aan de slag
Begin bij het exacte model en de gewenste latency. Leg daarna framework, compiler, host, besturingssysteem, processorarchitectuur en Python-versie vast. Zo voorkom je dat passende hardware vastloopt op een niet-ondersteunde softwareomgeving.
Niet zeker of model, runtime en host bij elkaar passen? Stuur ons het exacte model en je opstelling.
