JPWO2020236993A5

JPWO2020236993A5 -

Info

Publication number: JPWO2020236993A5
Application number: JP2021568891A
Authority: JP
Publication date: 2023-05-29
Anticipated expiration: 2040-05-20

Description

本開示の付加的および他の目的、特徴、および利点が、詳細な説明、図、および請求項に説明される。
本発明は、例えば、以下を提供する。
（項目１）
マシンビジョンのためのマルチタスク深層学習パラダイムにおけるニューラルネットワークであって、
エンコーダであって、前記エンコーダは、第１階層と、第２階層と、第３階層とを備え、
前記第１階層は、第１階層ユニットを備え、
前記第１階層ユニットは、１つ以上の第１ユニットブロックを備え、
前記第２階層は、前記第２階層内の１つ以上の第２階層ユニットにおいて前記第１階層から第１階層出力を受信し、
第２階層ユニットが、１つ以上の第２階層ブロックを備え、
前記第３階層は、前記第３階層内の１つ以上の第３階層ユニットにおいて前記第２階層から第２階層出力を受信し、
第３階層ユニットが、１つ以上の第３階層ブロックを備える、
エンコーダと、
デコーダであって、前記デコーダは、前記エンコーダからエンコーダ出力を受信するために、前記エンコーダに動作的に結合される、デコーダと、
１つ以上の損失関数層であって、前記１つ以上の損失関数層は、深層学習パラダイムにおける前記ニューラルネットワークの少なくとも前記エンコーダを訓練するために、１つ以上の損失を逆伝搬するように構成される、１つ以上の損失関数層と
を備える、ニューラルネットワーク。
（項目２）
前記第１階層ユニット内の前記１つ以上の第１ユニットブロックは、畳み込み層を備え、バッチ正規化層が論理的に続き、スケール層がさらに論理的に続き、前記１つ以上の第１ユニットブロックはさらに、前記スケール層に論理的に続く整流線形ユニットを備える、項目１に記載のニューラルネットワーク。
（項目３）
前記第２階層は、第１の第２階層ユニットと、第２の第２階層ユニットとを備え、
前記第１の第２階層ユニットは、前記第１階層から第１階層出力を受信し、第１の第２階層第１ユニットブロックと、第２の第２階層第１ユニットブロックとを備え、
前記第１の第２階層第１ユニットブロックおよび前記第２の第２階層第１ユニットブロックは両方とも、それぞれ、バッチ正規化層を備え、スケール層が続き、整流線形ユニットがさらに論理的に続き、
前記第１の第２階層第１ユニットブロック内の前記バッチ正規化層は、第１の畳み込み層に論理的に続き、
前記第２の第２階層第１ユニットブロック内の前記バッチ正規化層は、第２の畳み込み層に論理的に続き、
前記第１の畳み込み層は、前記第２の畳み込み層と異なる、
項目１に記載のニューラルネットワーク。
（項目４）
前記第２の第２階層ユニットは、前記第２の第２階層第１ユニットブロックおよび前記第１階層出力から連結された出力を受信する第１の第２階層第２ユニットブロックと、第２の第２階層第２ユニットブロックと、第３の第２階層第２ユニットブロックとを備え、
前記第１の第２階層第２ユニットブロック、前記第２の第２階層第２ユニットブロック、および前記第３の第２階層第２ユニットブロックは、それぞれ、前記バッチ正規化層を備え、前記スケール層が続き、前記整流線形ユニットがさらに論理的に続き、前記第１の第２階層第２ユニットブロック内の前記バッチ正規化層は、前記第２の畳み込み層に論理的に続き、
前記第２の第２階層第２ユニットブロック内の前記バッチ正規化層は、前記第１の畳み込み層に論理的に続き、
前記第３の第２階層第２ユニットブロック内の前記バッチ正規化層は、前記第２の畳み込み層に論理的に続き、
前記第３の第２階層第２ユニットブロックは、第２階層出力を発生させるように構成される、
項目３に記載のニューラルネットワーク。
（項目５）
前記第１階層によって発生された第１階層出力が、前記第２階層によって発生された第２階層出力と連結され、第３階層入力として前記第３階層に提供され、
前記第３階層は、第１の第３階層ユニットと、第２の第３階層ユニットとを備え、
前記第１の第３階層ユニットは、個別の第１ユニット階層的レベルに位置する複数の第３階層第１ユニットブロックを備え、
前記複数の第３階層第１ユニットブロックのうちの少なくともいくつかは、１つを上回る第１の拡張係数に対応する異なる拡張された畳み込み層を備える、
項目１に記載のニューラルネットワーク。
（項目６）
前記第２の第３階層ユニットは、個別の第２ユニット階層的レベルに位置する複数の第３階層第２ユニットブロックを備え、前記複数の第３階層第２ユニットブロックのうちの少なくともいくつかは、１つを上回る第２の拡張係数に対応する複数の拡張された畳み込み層を備え、前記複数の第３階層第１ユニットブロックおよび前記複数の第３階層第２ユニットブロックは、前記深層学習パラダイムにおける前記ニューラルネットワークの少なくともエンコーダを訓練するために、少なくとも１つの個別の拡張された畳み込み層と、複数の個別の残差ブロックとを備える、項目５に記載のニューラルネットワーク。
（項目７）
第２階層出力が、第３階層入力として前記第３階層に提供され、前記ニューラル出力のための最終連結出力として前記第３階層によって発生された第３階層出力とさらに連結され、前記深層学習パラダイムにおける前記ニューラルネットワークの少なくともエンコーダを訓練することは、少なくとも活性化層および交差エントロピ損失を使用して、前記１つ以上の損失を逆伝搬することを含む、項目１に記載のニューラルネットワーク。
（項目８）
ニューラルネットワークの埋込実装を伴うモバイル電子デバイスであって、
モバイル通信デバイスと、
マシンビジョンのためのマルチタスク深層学習パラダイムにおけるニューラルネットワークの埋込実装であって、前記埋込実装における前記ニューラルネットワークは、
複数のスーパーハイビジョンプロセッサまたはプロセッサコアを有するビジョン処理ユニットと、
エンコーダであって、前記エンコーダは、第１階層と、第２階層と、第３階層とを備え、
前記第１階層は、第１階層ユニットを備え、
前記第１階層ユニットは、１つ以上の第１ユニットブロックを備え、
前記第２階層は、前記第２階層内の１つ以上の第２階層ユニットにおいて前記第１階層から第１階層出力を受信し、
第２階層ユニットが、１つ以上の第２階層ブロックを備え、
前記第３階層は、前記第３階層内の１つ以上の第３階層ユニットにおいて前記第２階層から第２階層出力を受信し、
第３階層ブロックが、１つ以上の第３階層ブロックを備える、
エンコーダと
を備える、ニューラルネットワークの埋込実装と
を備える、モバイル電子デバイス。
（項目９）
前記埋込実装における前記ニューラルネットワークは、
前記エンコーダからエンコーダ出力を受信するために、前記エンコーダに動作的に結合される可視性デコーダ層と、
前記エンコーダから前記エンコーダ出力を受信するために、前記エンコーダに動作的に結合される特徴姿勢デコーダ層と、
前記エンコーダから前記エンコーダ出力を受信するために、前記エンコーダに動作的に結合される配向デコーダ層と
を備える、項目８に記載のモバイル電子デバイス。
（項目１０）
前記第１階層ユニット内の前記１つ以上の第１ユニットブロックは、畳み込み層を備え、バッチ正規化層が論理的に続き、スケール層がさらに論理的に続き、前記１つ以上の第１ユニットブロックはさらに、前記スケール層に論理的に続く整流線形ユニットを備える、項目８に記載のモバイル電子デバイス。
（項目１１）
前記第２階層は、第１の第２階層ユニットと、第２の第２階層ユニットとを備え、
前記第１の第２階層ユニットは、前記第１階層から第１階層出力を受信し、第１の第２階層第１ユニットブロックと、第２の第２階層第１ユニットブロックとを備え、
前記第１の第２階層第１ユニットブロックおよび前記第２の第２階層第１ユニットブロックは両方とも、それぞれ、バッチ正規化層を備え、スケール層が続き、整流線形ユニットがさらに論理的に続き、
前記第１の第２階層第１ユニットブロック内の前記バッチ正規化層は、第１の畳み込み層に論理的に続き、
前記第２の第２階層第１ユニットブロック内の前記バッチ正規化層は、第２の畳み込み層に論理的に続き、
前記第１の畳み込み層は、前記第２の畳み込み層と異なる、
項目８に記載のモバイル電子デバイス。
（項目１２）
前記第１階層によって発生された第１階層出力が、前記第２階層によって発生された第２階層出力と連結され、第３階層入力として前記第３階層に提供され、
前記第３階層は、第１の第３階層ユニットと、第２の第３階層ユニットとを備え、
前記第１の第３階層ユニットは、個別の第１ユニット階層的レベルに位置する複数の第３階層第１ユニットブロックを備え、
前記複数の第３階層第１ユニットブロックのうちの少なくともいくつかは、１つを上回る第１の拡張係数に対応する異なる拡張された畳み込み層を備える、
項目８に記載のモバイル電子デバイス。
（項目１３）
前記第２の第３階層ユニットは、個別の第２ユニット階層的レベルに位置する複数の第３階層第２ユニットブロックを備え、前記複数の第３階層第２ユニットブロックのうちの少なくともいくつかは、１つを上回る第２の拡張係数に対応する複数の拡張された畳み込み層を備え、前記複数の第３階層第１ユニットブロックおよび前記複数の第３階層第２ユニットブロックは、前記深層学習パラダイムにおける前記ニューラルネットワークの少なくともエンコーダを訓練するために、少なくとも１つの個別の拡張された畳み込み層と、複数の個別の残差ブロックとを備える、項目１２に記載のモバイル電子デバイス。
（項目１４）
第２階層出力が、第３階層入力として前記第３階層に提供され、前記ニューラル出力のための最終連結出力として前記第３階層によって発生された第３階層出力とさらに連結され、前記深層学習パラダイムにおける前記ニューラルネットワークの少なくともエンコーダを訓練することは、少なくとも活性化層および交差エントロピ損失を使用して、１つ以上の損失を逆伝搬することを含む、項目１２に記載のモバイル電子デバイス。
（項目１５）
マシンビジョンのためのマルチタスク深層学習パラダイム内のニューラルネットワークであって、
空間パス層であって、前記空間パス層は、空間パスにおいて入力データセット内の空間情報を保全するように構成され、前記空間パスは、前記空間情報をエンコードする、空間パス層と、
コンテキストパス層であって、前記コンテキストパス層は、コンテキストパスを使用することによって、前記ニューラルネットワークの受容フィールドを増加させるように構成され、前記コンテキストパスは、前記入力データセット内のコンテキスト情報をエンコードする、コンテキストパス層と、
特徴融合層であって、前記特徴融合層は、前記空間パス層からの第１の出力および前記コンテキストパスからの第２の出力を融合するように構成される、特徴融合層と
を備える、ニューラルネットワーク。
（項目１６）
項目１５に記載のマシンビジョンのためのマルチタスク深層学習パラダイム内のニューラルネットワークであって、前記空間パス層は、
エンコーダであって、前記エンコーダは、第１階層と、第２階層と、第３階層とを備え、
前記第１階層は、第１階層ユニットを備え、
前記第１階層ユニットは、１つ以上の第１ユニットブロックを備え、
前記第２階層は、前記第２階層内の１つ以上の第２階層ユニットにおいて前記第１階層から第１階層出力を受信し、
第２階層ユニットが、１つ以上の第２階層ブロックを備え、
前記第３階層は、前記第３階層内の１つ以上の第３階層ユニットにおいて前記第２階層から第２階層出力を受信し、
第３階層ブロックが、１つ以上の第３階層ブロックを備える、
エンコーダ
を備える、ニューラルネットワーク。
（項目１７）
項目１６に記載のマシンビジョンのためのマルチタスク深層学習パラダイム内のニューラルネットワークであって、前記空間パス層は、
デコーダであって、前記デコーダは、前記エンコーダからエンコーダ出力を受信するために、前記エンコーダに動作的に結合される、デコーダと、
１つ以上の損失関数層であって、前記１つ以上の損失関数層は、深層学習パラダイムにおける前記ニューラルネットワークの少なくとも前記エンコーダを訓練するために、１つ以上の損失を逆伝搬するように構成される、１つ以上の損失関数層と
を備える、ニューラルネットワーク。
（項目１８）
項目１６に記載のマシンビジョンのためのマルチタスク深層学習パラダイム内のニューラルネットワークであって、前記第２階層は、第１の第２階層ユニットと、第２の第２階層ユニットとを備え、
前記第１の第２階層ユニットは、前記第１階層から第１階層出力を受信し、第１の第２階層第１ユニットブロックと、第２の第２階層第１ユニットブロックとを備え、
前記第１の第２階層第１ユニットブロックおよび前記第２の第２階層第１ユニットブロックは両方とも、それぞれ、バッチ正規化層を備え、スケール層が続き、整流線形ユニットがさらに論理的に続き、
前記第１の第２階層第１ユニットブロック内の前記バッチ正規化層は、第１の畳み込み層に論理的に続き、
前記第２の第２階層第１ユニットブロック内の前記バッチ正規化層は、第２の畳み込み層に論理的に続き、
前記第１の畳み込み層は、前記第２の畳み込み層と異なり、
前記第１階層ユニット内の前記１つ以上の第１ユニットブロックは、畳み込み層を備え、バッチ正規化層が論理的に続き、スケール層がさらに論理的に続き、前記１つ以上の第１ユニットブロックはさらに、前記スケール層に論理的に続く整流線形ユニットを備える、
ニューラルネットワーク。
（項目１９）
項目１６に記載のマシンビジョンのためのマルチタスク深層学習パラダイム内のニューラルネットワークであって、前記コンテキストパス層は、
軽量モデルであって、前記軽量モデルは、少なくとも部分的に、軽量モデルによって前記ニューラルネットワークに提供される受容フィールドに基づいて、入力画像をダウンサンプリングするように構成される、軽量モデルと、
プーリング層であって、前記プーリング層は、前記軽量モデルに結合され、前記コンテキスト情報を捕捉するように構成される畳み込み層が論理的に続く、プーリング層と
を備える、ニューラルネットワーク。
（項目２０）
項目１９に記載のマシンビジョンのためのマルチタスク深層学習パラダイム内のニューラルネットワークであって、
注意精緻化層であって、前記注意精緻化層は、前記複数のプーリング層に動作的に結合され、特徴選択または組み合わせを誘導するための注意ベクトルを決定するように構成される、注意精緻化層と、
特徴融合層であって、前記特徴融合層は、前記空間パス層からの空間パス出力および前記コンテキストパス層からのコンテキストパス出力を融合するように構成される、特徴融合層と、
前記空間パス層を訓練するように構成される第１の損失関数と、
前記コンテキストパス層を訓練するように構成される第２の損失関数と
をさらに備える、ニューラルネットワーク。

Claims

ニューラルネットワークの埋込実装を伴うモバイル電子デバイスであって、
モバイル通信デバイスと、
マシンビジョンのためのマルチタスク深層学習パラダイムにおけるニューラルネットワークの埋込実装と
を備え、
前記埋込実装における前記ニューラルネットワークは、
複数のスーパーハイビジョン（ＳＨＶ）プロセッサまたはプロセッサコアを有するビジョン処理ユニットと、
エンコーダであって、前記エンコーダは、第１階層と、第２階層と、第３階層とを備え、各階層は、個別の数のユニットブロックを備え、各後続の階層は、直前の階層から個別の出力を受信し、前記直前の階層より高いネットワーク複雑性を有する、エンコーダと
を備え、
前記ニューラルネットワークの前記埋込実装は、
前記エンコーダに動作可能に結合される可視性デコーダ層であって、前記可視性デコーダ層は、前記エンコーダから受信されたエンコーダ出力と前記可視性デコーダ層のバイナリ交差エントロピ損失とに少なくとも部分的に基づいて、１つ以上のマスクを決定するために使用される、可視性デコーダ層と、
前記エンコーダに動作可能に結合される特徴姿勢デコーダ層であって、前記特徴姿勢デコーダ層は、前記エンコーダから前記エンコーダ出力を受信するために使用され、前記埋込実装への入力における１つ以上の特徴点から予測される特徴姿勢の分類損失に対応する、特徴姿勢デコーダ層と、
前記エンコーダに動作可能に結合される配向デコーダ層であって、前記配向デコーダ層は、前記エンコーダから受信された前記エンコーダ出力と前記配向デコーダ層のカテゴリ配向損失とに少なくとも部分的に基づいて、前記埋込実装による予測を正則化するために使用される、配向デコーダ層と
を備える、モバイル電子デバイス。
第１階層ユニットは、畳み込み層を備え、バッチ正規化層が論理的に続き、スケール層がさらに論理的に続き、
前記第１階層ユニットは、前記スケール層に論理的に続く整流線形ユニットをさらに備え、
前記第２階層は、グループ化畳み込みを含むボトルネックブロックまたは半ボトルネックブロックを備え、
前記複数のＳＨＶプロセッサまたはプロセッサコアのうちの少なくとも１つは、前記ニューラルネットワークが、複数の命令を明示的に規定し、前記複数の命令を逐次的に実行するのではなく並行して実行することを可能にする、請求項１に記載のモバイル電子デバイス。
前記第２階層は、第１の第２階層ユニットと、第２の第２階層ユニットとを備え、
前記第１階層は、１つ以上の第１階層ユニットブロックをさらに備える第１階層ユニットを備え、
前記第２階層は、第１の第２階層ユニットを備え、
前記第１の第２階層ユニットは、前記第１階層から第１階層出力を受信し、第１の第２階層第１ユニットブロックと、第２の第２階層第１ユニットブロックとを備え、
前記第１の第２階層第１ユニットブロックおよび前記第２の第２階層第１ユニットブロックは両方とも、それぞれ、対応するバッチ正規化層を備え、対応するスケール層が続き、対応する整流線形ユニットがさらに論理的に続き、
前記第１の第２階層第１ユニットブロック内の前記対応するバッチ正規化層は、第１の畳み込み層に論理的に続き、
前記第２の第２階層第１ユニットブロック内の前記対応するバッチ正規化層は、第２の畳み込み層に論理的に続き、
前記第１の畳み込み層は、前記第２の畳み込み層と異なる、請求項１に記載のモバイル電子デバイス。
前記第２の第２階層ユニットは、第２の第２階層第１ユニットブロックおよび第１階層出力から連結出力を受信する第１の第２階層第２ユニットブロックと、第２の第２階層第２ユニットブロックと、第３の第２階層第２ユニットブロックとを備え、
前記第１の第２階層第２ユニットブロック、前記第２の第２階層第２ユニットブロック、および、前記第３の第２階層第２ユニットブロックは、それぞれ、前記バッチ正規化層を備え、前記スケール層が続き、前記整流線形ユニットがさらに論理的に続き、前記第１の第２階層第２ユニットブロック内の前記バッチ正規化層は、前記第２の畳み込み層に論理的に続き、
前記第２の第２階層第２ユニットブロック内の前記バッチ正規化層は、前記第１の畳み込み層に論理的に続き、
前記第３の第２階層第２ユニットブロック内の前記バッチ正規化層は、前記第２の畳み込み層に論理的に続き、
前記第３の第２階層第２ユニットブロックは、第２階層出力を発生させるように構成される、請求項３に記載のモバイル電子デバイス。
少なくとも、１つ以上の第１の係数を用いて前記第２階層を構成することおよび１つ以上の第２の係数を用いて前記ニューラルネットワークの前記第３階層を構成することによって、分解能または被覆率の損失を伴わずに前記ニューラルネットワークの受容フィールドを非線形的に拡大することをさらに含み、
前記１つ以上の第１の係数および前記１つ以上の第２の係数は、前記ニューラルネットワークの前記受容フィールドの拡大の非線形性を共同で定義し、
前記第１階層によって発生された第１階層出力が、前記第２階層によって発生された第２階層出力と連結され、第３階層入力として前記第３階層に提供され、
前記第３階層は、第１の第３階層ユニットと、第２の第３階層ユニットとを備え、
前記第１の第３階層ユニットは、個別の第１ユニット階層的レベルに位置する複数の第３階層第１ユニットブロックを備え、
前記複数の第３階層第１ユニットブロックのうちの少なくともいくつかは、１つを上回る第１の拡張係数に対応する異なる拡張された畳み込み層を備える、請求項１に記載のモバイル電子デバイス。
前記第２の第３階層ユニットは、個別の第２ユニット階層的レベルに位置する複数の第３階層第２ユニットブロックを備え、前記複数の第３階層第２ユニットブロックのうちの少なくともいくつかは、１つを上回る第２の拡張係数にそれぞれ対応する複数の拡張された畳み込み層を備え、前記複数の第３階層第１ユニットブロックおよび前記複数の第３階層第２ユニットブロックは、深層学習パラダイムにおける前記ニューラルネットワークの少なくとも前記エンコーダを訓練するために、少なくとも１つの個別の拡張された畳み込み層と、複数の個別の残差ブロックとを備える、請求項５に記載のモバイル電子デバイス。
第２階層出力が、第３階層入力として前記第３階層に提供され、ニューラル出力のための最終連結出力として前記第３階層によって発生された第３階層出力とさらに連結され、前記深層学習パラダイムにおける前記ニューラルネットワークの少なくとも前記エンコーダを訓練することは、少なくとも活性化層および前記バイナリ交差エントロピ損失を使用して、１つ以上の損失を逆伝搬することを含む、請求項５に記載のモバイル電子デバイス。
前記エンコーダからエンコーダ出力を受信するために、前記エンコーダに動作可能に結合されるデコーダをさらに備え、少なくとも前記埋込実装における前記第２階層および前記第３階層は、前記埋込実装の出力における分解能を維持する一方で逆畳み込み層を含まないように構成される、請求項１に記載のモバイル電子デバイス。
前記埋込実装における前記ニューラルネットワークは、カーネルスタックを同時に再順序付けする、請求項１に記載のモバイル電子デバイス。
前記埋込実装における前記ニューラルネットワークが、前記ニューラルネットワークの複数の畳み込み層を１つ以上のグループに、前記１つ以上のグループのグループにおけるフィルタの数がＳＨＶプロセッサまたはプロセッサコアのレーンの複数の合計数に等しいように、グループ化することをさらに含み、前記ＳＨＶプロセッサまたはプロセッサコアは、プロセッサ命令において１つ以上のデータ要素を処理するために前記レーンの合計数の中で分割されるレジスタの合計数を備える、請求項１に記載のモバイル電子デバイス。
前記埋込実装は、
前記埋込実装の前記ニューラルネットワークにおける低レベル情報またはデータをエンコードするために構成される空間パスと、
前記埋込実装の前記ニューラルネットワークにおける高レベル情報またはデータをエンコードするために構成されるコンテキストパスと
をさらに備え、
前記空間パスは、第１の出力を発生させるように構成され、
前記コンテキストパスは、第２の出力を発生させるように構成され、
前記高レベル情報またはデータは、グローバルコンテキスト情報を備え、
前記低レベル情報またはデータは、前記高レベル情報またはデータよりもさらなる詳細を備える、請求項１に記載のモバイル電子デバイス。
前記埋込実装は、
前記空間パスからの前記第１の出力に関連する第１のデータを前記コンテキストパスからの前記第２の出力に関連する第２のデータと連結し、連結出力にする融合ブロックと、
前記連結出力の連結データにおける複数のスケールを平衡させる正規化ブロックと
をさらに備える、請求項１１に記載のモバイル電子デバイス。
前記埋込実装は、行為のセットを実施するように構成され、前記行為のセットは、
前記空間パスから前記第１の出力を受信することと、
複数のダウンサンプリング層を通して前記空間パスの前記第１の出力を処理し、前記空間パスのためのダウンサンプリングされた出力を生産することと
を含み、
各ダウンサンプリング層は、個別のダウンサンプリング率に対応し、各後続のダウンサンプリング層は、直前のダウンサンプリング層を上回るダウンサンプリング率を有する、請求項１２に記載のモバイル電子デバイス。
前記埋込実装は、行為のセットを実施するようにさらに構成され、前記行為のセットは、
前記複数のダウンサンプリング層の最後のダウンサンプリング層の次からの第１のダウンサンプリングされた出力を最後のダウンサンプリング層および第１の注意層に伝送することと、
前記第１の注意層が、第１の注意層出力を発生させることと、
前記複数のダウンサンプリング層の前記最後のダウンサンプリング層からの第２のダウンサンプリングされた出力を第２の注意層に伝送することと、
前記第２の注意層が、第２の注意層出力を発生させることと、
第１の注意出力および第２の注意出力を連結のために前記融合ブロックに伝送することと
をさらに含む、請求項１３に記載のモバイル電子デバイス。
前記第１および第２の注意層は、それぞれ、アップサンプリングすることなく、コンテキストデータを捕捉し、前記ニューラルネットワークの予測を精緻化する、請求項１４に記載のモバイル電子デバイス。
前記埋込実装は、プーリング層をさらに備え、前記プーリング層は、前記連結出力の前記連結データのための加重ベクトルを決定し、組み合わせられた連結データへの前記連結データのうちの少なくともいくつかの選択および組み合わせのために前記連結データを再加重する、請求項１２に記載のモバイル電子デバイス。
前記埋込実装は、
前記組み合わせられた連結データを入力として受信し、前記入力に少なくとも部分的に基づいて第１の畳み込み出力を発生させるように構成される第１の畳み込み層と、
前記畳み込み層から前記畳み込み出力を受信し、前記空間パスおよび前記コンテキストパスによって発生された前記畳み込み出力からの複数のスケールを平衡させ、正規化された出力を発生させるように構成される正規化層と、
前記正規化層から前記正規化された出力を受信し、活性化された出力を発生させるように構成される活性化関数と、
前記活性化関数から前記活性化された出力を受信し、前記活性化された出力に少なくとも部分的に基づいて第２の畳み込み出力を決定するように構成される第２の畳み込み層と
をさらに備える、請求項１６に記載のモバイル電子デバイス。
グループ化係数および第２の数のチャネルを使用して前記第２階層においてグループ化畳み込みを実施することであって、前記第１階層は、処理するための第１の数のチャネルを採用するが、グループ化畳み込みを実施しない、ことと、
異なるグループ化係数および第３の数のチャネルを使用して前記第３階層において別個のグループ化畳み込みを実施することと
をさらに含む、請求項１に記載のモバイル電子デバイス。
前記第２の数は、前記第１の数を上回り、前記第３の数は、前記第２の数を上回り、前記第３階層のための前記異なるグループ化係数は、前記第２階層のための前記グループ化係数を上回る、請求項１８に記載のモバイル電子デバイス。