EYYES Deep Learning Optimizer

Was ist der EYYES Deep Learning Optimizer?

Beim Deep Learning Optimizer handelt es sich um einen Service zur Optimierung von neuronalen Netzen. Neuronale Netze benötigen im Einsatz viel Speicher und viel Rechenleistung, was in vielen Anwendungen, speziell in Embedded Systems, lange Zeit eine Hürde darstellte. Durch arithmetische und topologische Optimierungsverfahren wie Quantisierung und Pruning kann die Komplexität (für gewöhnlich) um ein Vielfaches verringert werden, ohne dass es sich signifikant auf die Qualität auswirkt.

Was tut der EYYES Deep Learning Optimizer?

Der Deep Learning Optimizer erhält ein bereits trainiertes Netz. Mittels sogenannten Post-Training-Optimization Verfahren wird die Komplexität des Models verringert. Eine automatisierte Evaluierung zeigt die erreichte Reduktion. Wenn Use-Case Bilddaten zur Verfügung stehen zeigt die Evaluierung außerdem die Qualitätsergebnisse gegenüber dem unoptimierten Model. Als Ergebnis wird das optimierte Model, sowie ein Binary Model für den EYYES Deep Learning Accelerator zurück gegeben.

Warum ist das so gut?

Durch die Optimierung von neuronalen Netzen kann günstigere oder energieeffizientere Hardware für die Anwendung eingesetzt werden, wie unser EYYES Deep Learning Accelerator. Durch Post-Training-Optimization kann das kosten- und zeitintensive Model Training ganz normal stattfinden:

Keine aufwendigen Experimente während des Trainingsvorgangs und volle Konzentration auf die Qualität. Für die Optimierung selbst werden, anders als bei anderen beliebten Optimizern keine zusätzlichen Bilddaten benötigt (repräsentative Bilddaten, die von Deep Learning Experten ausgewählt werden müssten) und es werden dennoch um 17-50% geringere Quantisierungsverluste erreicht.