Zurück

Deep Learning Optimizer

Was ist der EYYES Deep Learning Optimizer?

Der Deep Learning Optimizer ist ein Service zur Optimierung von neuronalen Netzen. Neuronale Netze benötigen im Einsatz viel Speicher und Rechenleistung. Für viele Anwendungen, speziell im Embedded Systems Bereich, stellte dies lange Zeit eine Hürde dar. Heute kann durch den gezielten Einsatz von arithmetischen und topologischen Optimierungsverfahren wie Quantisierung und Pruning die Komplexität (für gewöhnlich) um ein Vielfaches verringert werden ohne negative Auswirkungen auf die Qualität.

Ihre Daten sind der Input für Ihr individuelles Neuronales Netz. Egal ob Bild oder Videodaten aus den Bereichen Automotive, öffentlicher Verkehr oder Manufacturing – Ihr Use Case ist die Basis auf der das Neuronale Netz aufgebaut wird.
Anhand Ihrer Daten erarbeiten unsere KI-Experten maßgeschneiderte Lösungen, die den Trade-Off zwischen Genauigkeit und Geschwindigkeit des Neuronalen Netzes optimieren. Zusätzlich erfolgen umfassende Tests gemäß der Vorgaben des Use-Cases.
Die Optimierung ist der wichtigste Schritt um das Neuronale Netz leistungsfähiger zu machen. Durch gezieltes Entfernen von Schichten und Knoten kann die Komplexität reduziert werden ohne dass die Erkennnungsrate des Netzes maßgeblich abnimmt.

  • Je nach Optimierungsverfahren kommt es zu keinem oder nur zu geringen Qualitätverlusten. Die maximalen Verluste können zu Beginn der Optimierung festgelegt werden.
Die Umstellung der Arithmetik des Neuronalen Netzes von Fließkommaarithmetik auf Festkommaarithmetik ist notwendig, da die Hardwareressourcen hinsichtlich Fließkommaoperationen begrenzt sind. Berechnungen im Festkommaformat können deutlich schneller verarbeitet werden.

  • Das von EYYES entwickelte Quantisierungsverfahren setzt den Fokus auf Geschwindigkeit sowie Genauigkeit und ermöglicht die Portierung der CNNs auf den EYYES Deep Learning IP Core.
 

Nutzen und Vorteil des Optimizers

Durch die Optimierung von neuronalen Netzen kann günstigere oder energieeffizientere Hardware für die Anwendung eingesetzt werden. Durch Post-Training-Optimization kann das kosten- und zeitintensive Model Training normal stattfinden:

  • Keine aufwendigen Experimente während des Trainingsvorgangs
  • Volle Konzentration auf die Qualität
  • Für die Optimierung werden keine zusätzlichen Bilddaten benötigt
  • 17-50% geringere Quantisierungsverluste