株式会社モルフォ

ディープラーニング推論エンジン

SoftNeuro®

製品概要

「SoftNeuro」は、世界最速級(※1)のディープラーニング推論エンジンです。様々なディープラーニング・フレームワークを用いて行われた学習結果を活用して、多くの環境上で高速に動作します。また、汎用的な推論エンジンであるため、画像認識だけでなく、音声認識やテキスト解析等にも利用可能です。
単体でライセンス提供するだけでなく、当社の既存の画像向け認識エンジン「Morpho Deep Recognizer™」等に組み込むことで、それら既存エンジンの更なる高速化を実現します。

ディープラーニング推論エンジン「SoftNeuro」の特徴

1.世界最速級(当社調べ)(※1)
「SoftNeuro」は、後述の特徴も備えながら、CPUのみの処理において世界最速級の処理速度を実現しています。この高速性は、様々な最適化(ニューラルネットワーク、メモリ使用方法、等)を各プラットフォーム向けに最適化することで実現しています。

2.マルチフレームワーク対応
「SoftNeuro」は、主要なフレームワークの学習結果を活用して、高速な処理を実現します。(図2)これまで利用してきたフレームワークの学習資産を無駄にすること無く、推論処理部分の高速化や、マルチプラットフォーム対応を実現することが可能です。

3.マルチプラットフォーム対応
「SoftNeuro」は、現時点ではCPUのみで推論を実行可能ですが、順次多様なプラットフォームに応じた最適化(GPU、DSPの活用等)も行う予定です。(図1)このマルチプラットフォーム対応により、学習結果を広範な動作プラットフォームへ展開することが容易になるだけでなく、動作プラットフォームの変更等に柔軟に対応可能となります。

4.セキュアファイルフォーマット対応
「SoftNeuro」は、学習済みネットワークを暗号化する機能を有するため、学習時のノウハウや結果の漏洩リスクの軽減を実現します。

(※1)世界最速級:推論処理速度の測定は、当社にて入手可能な主要な推論エンジンを比較対象とし、CPU環境上で実施しています。(GPUは利用していません。)
推論処理速度測定結果は、図2-1、図2-2の通りです。


■図1.「SoftNeuro」のシステム構成


■図2-1.推論処理速度測定結果(CPU:ARM)
測定環境:Snapdragon 835(推論対象画像サイズ 224x224ピクセル)


■図2-2.推論処理速度測定結果(CPU:Intel)
測定環境:Intel Core i7-6700K CPU @ 4.00GHz(推論対象画像サイズ 224x224ピクセル)

このページのトップへ