JP2024523098A - 個別の演算パラメータのバリデーションを伴う複数の演算を実行するための単一関数 - Google Patents

個別の演算パラメータのバリデーションを伴う複数の演算を実行するための単一関数 Download PDF

Info

Publication number
JP2024523098A
JP2024523098A JP2023564573A JP2023564573A JP2024523098A JP 2024523098 A JP2024523098 A JP 2024523098A JP 2023564573 A JP2023564573 A JP 2023564573A JP 2023564573 A JP2023564573 A JP 2023564573A JP 2024523098 A JP2024523098 A JP 2024523098A
Authority
JP
Japan
Prior art keywords
function
dimension
value
tensor
values
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023564573A
Other languages
English (en)
Inventor
リヒテナウ、セドリック
ブラドブリー、ジョナサン
アルバラカト、ライス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2024523098A publication Critical patent/JP2024523098A/ja
Pending legal-status Critical Current

Links

Images

Abstract

Figure 2024523098000001
実行される関数のインジケーションが取得され、ここで、関数は、命令の１つの関数であり、複数の演算を実行するように構成されている。複数の演算のうちの実行されるべき演算が判定され、値のセット及び対応する関係のセットを使用して関数特有のパラメータのセットがバリデートされる。値のセット及び対応する関係のセットは、実行される演算に基づく。値の１つのセット、及び、対応する関係のセットは、実行される演算に使用され、別の値のセット、及び、対応する関係のセットが、複数の演算のうちの別の演算に使用される。

Description

１又は複数の態様は概して、コンピューティング環境内の処理を促進すること、特に、そのような処理を改善することに関する。
データ及び／又は計算集約的であるコンピューティング環境における処理を強化するべく、人工知能アクセラレータ（ニューラルネットワークプロセッサ又はニューラルネットワークアクセラレータとも称される）などのコプロセッサが利用される。そのようなアクセラレータは、例えば、行列又はテンソルに対する計算など、複雑な計算の実行において使用される莫大な計算能力を提供する。
テンソル計算は、例として、機械学習のサブセットである深層学習を含む複雑な処理において使用される。人工知能の態様である深層学習又は機械学習は、限定されるものではないが、エンジニアリング、製造業、医療技術、自動車技術、コンピュータ処理などを含む、様々な技術で使用される。
深層学習は、テンソルデータに対して演算する様々な演算を使用する。演算の各々は、独立に実装され、開発及び検証の労力が増加する。
コンピューティング環境内の処理を促進するために、コンピュータプログラム製品のプロビジョニングを通じて、従来技術の短所が克服され、追加の利点が提供される。コンピュータプログラム製品は、方法を実行するために１又は複数のコンピュータ可読記憶媒体にまとめて格納された１又は複数のコンピュータ可読記憶媒体及びプログラム命令を含む。方法は、実行される関数のインジケーションを取得する段階を備え、ここで、関数は、命令の１つの関数であり、複数の演算を実行するように構成される。複数の演算のうちの実行されるべき演算が判定され、値のセット及び対応する関係のセットを使用して関数特有のパラメータのセットがバリデートされる。値のセット及び対応する関係のセットは、実行される演算に基づく。例として、値の１つのセット、及び、対応する関係のセットは、実行される演算に使用され、別の値のセット、及び、対応する関係のセットが、複数の演算のうちの別の演算に使用される。
単一関数、例えば、設計された命令の単一関数を使用して、演算パラメータごとのバリデーションを伴う複数の演算を実行することにより、コードの複雑性、コードの重複、及び／又は、検証の労力が低減され、システム性能が改善する。
一例において、実行される演算を判定することは、少なくとも１つの特定の値に対して１又は複数の関数特有のパラメータをチェックすることを含む。少なくとも１つの特定の値に関する第１選択関係を有する１又は複数の関数特有のパラメータに基づいて、演算は１つの演算であり、少なくとも１つの特定の値に関して第２選択関係を有する１又は複数の関数特有のパラメータに基づいて、演算は別の演算である。
同一の関数特有のパラメータ、異なる関係を使用して、実行される演算を判定することによって、コードの複雑性及び検証の労力が低減される。
例として、関数は平均プール関数を含み、１又は複数の関数特有のパラメータは、１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル上を移動する量であり、少なくとも１つの特定の値はゼロを含み、第１選択関係は、等しいことを含み、演算は、１又は複数のストライド値がゼロに等しいことに基づく平均－低減（ｍｅａｎ－ｒｅｄｕｃｅ）演算である。
更に、一例において、第２選択関係は、より大きいことを含み、演算は、１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である。
例として、関数特有のパラメータのセットは、１又は複数の選択ディメンションウィンドウサイズ値を含む。選択ディメンションウィンドウサイズ値は、スライディングウィンドウが含む選択ディメンションにおける要素の数を指定し、スライディングウィンドウは、関数の入力テンソル上を移動して出力テンソルを生成するように構成されている。
一例において、関数は平均プール関数を含み、演算は平均－低減演算を含み、関数特有のパラメータのセットをバリデートするために使用される値のセット及び対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及び等しいことである対応する関係、選択入力テンソルの別のディメンションの別の値及び等しいことである対応する関係、並びに、選択値及びより小さい又は等しいことである対応する関係を含む。
バリデートは、例えば、ディメンション２ウィンドウサイズの値が第１入力テンソルのディメンション２の値に等しいこと、ディメンション３ウィンドウサイズの値が第１入力テンソルのディメンション３の値に等しいこと、ディメンション２ウィンドウサイズの値が選択値より小さい又はそれに等しいこと、及び、ディメンション３ウィンドウサイズの値が選択値より小さい又はそれに等しいことをチェックすることを含む。
一例において、関数は平均プール関数を含み、演算はプーリング演算を含み、関数特有のパラメータのセットをバリデートするために使用される値のセット及び対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及びより小さい又は等しいことである対応する関係、並びに、選択入力テンソルの別のディメンションの別の値及びより小さい又は等しいことである対応する関係を含む。
バリデートは、例えば、ディメンション２ウィンドウサイズの値が、第１入力テンソルのディメンション２の値より小さい又はそれに等しいこと、及び、ディメンション３ウィンドウサイズの値が第１入力テンソルのディメンション３の値より小さい又はそれに等しいことをチェックすることを含む。
一例において、パディングのタイプが特定のタイプにセットされるかどうかについて判定が行われ、ここで、パディングのタイプは、ウィンドウのどの要素が出力を計算することに使用されるかを示し、１又は複数の実施形態では、パディングのタイプが特定のタイプにセットされることに基づいて、バリデートが実行される。更に、一例において、パディングのタイプが特定のタイプにセットされないことに基づいて、出力テンソルの１又は複数のディメンションに関連する１又は複数のチェックが実行される。
一例において、演算を判定することは、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む。
１又は複数の態様に関連するコンピュータ実装方法及びシステムも本明細書において説明及び請求される。さらに、１又は複数の態様に関連するサービスも、本明細書において説明されており、請求され得る。
追加の機能および利点が、本明細書に記載の技術を通して実現される。他の実施形態及び態様が本明細書において詳細に説明され、請求される態様の一部とみなされる。
１又は複数の態様が特に指摘され、本明細書の最後にある請求項における例として、個別に請求される。上記、並びに、１又は複数の態様の目的、特徴、及び利点は、添付図面と併せて、以下の詳細な説明から明らかである。
本発明の１又は複数の態様を組み込み使用するためのコンピューティング環境の一例を図示する。 本発明の１又は複数の態様による、図１Ａのプロセッサの更なる詳細を図示する。 本発明の１又は複数の態様による、複数の演算を実行するように構成されているが、複数の演算についての個別のパラメータ条件をチェックすることが可能である命令の単一関数を実行することに関連する処理の一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令のフォーマットの一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によって使用される汎用レジスタの一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によってサポートされる関数コードの例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によって使用される別の汎用レジスタの一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令のクエリ関数によって使用されるパラメータブロックの一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令の１又は複数の非クエリ関数によって使用されるパラメータブロックの一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によって使用されるテンソル記述子の一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理（ＮＮＰ）データタイプ１のデータ型のフォーマットの一例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によって使用される入力データレイアウトの例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によって使用される入力データレイアウトの例を図示する。 本発明の１又は複数の態様による、ニューラルネットワーク処理支援命令によって使用される入力データレイアウトの例を図示する。 本発明の１又は複数の態様による、図５Ａ～図５Ｃの入力データレイアウトに対応する例示的出力を図示する。 本発明の１又は複数の態様による、図５Ａ～図５Ｃの入力データレイアウトに対応する例示的出力を図示する。 本発明の１又は複数の態様による、図５Ａ～図５Ｃの入力データレイアウトに対応する例示的出力を図示する。 本発明の１又は複数の態様による、コンピューティング環境における処理を促進する一例を図示する。 本発明の１又は複数の態様による、コンピューティング環境における処理を促進する一例を図示する。 本発明の１又は複数の態様による、コンピューティング環境における処理を促進する一例を図示する。 本発明の１又は複数の態様を組み込み使用するためのコンピューティング環境の別の例を図示する。 本発明の１又は複数の態様による、図８Ａのメモリの更なる詳細の一例を図示する。 本発明の１又は複数の態様による、図８Ａのメモリの更なる詳細の別の例を図示する。 本発明の１又は複数の態様を組み込み使用するためのコンピューティング環境の更に別の例を図示する。 本発明の１又は複数の態様による、図９Ａのメモリの更なる詳細を図示する。 本発明の１又は複数の態様による、クラウドコンピューティング環境の一実施形態を図示する。 本発明の１又は複数の態様による、抽象化モデル層の一例を図示する。
本発明の１又は複数の態様によれば、コンピューティング環境内の処理を促進するための能力が提供される。例として、複数の関数を実装するように構成されている命令が提供され、少なくとも１つの関数が、演算ごとに別個のパラメータバリデーションを伴う複数の演算を実行するように構成されている。１つの関数を使用して複数の演算を実行するが、複数の演算間で異なるパラメータ境界条件をチェックすることが可能であることにより、コードの複雑性、コードの重複、及び／又は検証の労力が低減される。
例として、複数の演算を実装するように構成されている関数は平均プーリング関数であり、複数の演算は、例えば深層学習において使用される平均－低減演算及びプーリング演算を含む。平均プーリング関数は、異なる演算を実行するが、同一の入力テンソル及び関数特有のパラメータを使用するが異なる相対的制約を有する共通アルゴリズム関数にアルゴリズム的に低減される。
一例において、複数の演算を実行するように構成されている関数は、命令によって開始される。例として、命令は、複数の関数を実行するように構成されている単一命令（例えば、ハードウェア／ソフトウェアインタフェースにおけるシングルアーキテクチャハードウェアマシン命令）であるニューラルネットワーク処理支援命令である。関数の各々は、単一命令（例えば、シングルアーキテクチャ命令）の一部として構成され、システムリソースの使用及び複雑性を低減し、システム性能を改善する。更に、関数の少なくとも１つ、例が下で説明されるＡＶＧＰＯＯＬ２Ｄ関数は、命令によって提供される関数特有のパラメータ（例えば、下で説明される関数特有のパラメータ２および３）の値などの入力データに基づいて複数の演算（例えば、平均－低減及びプーリング）を実装するように構成されている。
命令は、汎用プロセッサなどのプロセッサ上でプログラムによってディスパッチされる汎用プロセッサ命令セットアーキテクチャ（ＩＳＡ）の一部であり得る。それは汎用プロセッサによって実行され得、及び／又は、命令の１又は複数の関数が、汎用プロセッサに結合された、又はその一部である、特定の関数について構成されているプロセッサなどの専用プロセッサによって実行され得る。他の変形例も適用可能である。
本発明の１又は複数の態様を組み込み使用するためのコンピューティング環境の一実施形態が図１Ａを参照して説明される。例として、コンピューティング環境は、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ（登録商標）命令セットアーキテクチャに基づく。ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャの一実施形態は、参照によって全体が本明細書に組み込まれる、２０１９年９月のＩＢＭ Ｐｕｂｌｉｃａｔｉｏｎ Ｎｏ． ＳＡ２２－７８３２－１２、第１３版、「ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ Ｐｒｉｎｃｉｐｌｅｓ ｏｆ Ｏｐｅｒａｔｉｏｎ」と題する出版物において説明される。しかしながら、ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャは、１つの例示的なアーキテクチャに過ぎず、インターナショナルビジネスマシンズコーポレーション及び／又は他のエンティティ又の他のアーキテクチャ及び／又は他のタイプのコンピューティング環境又が、本発明の１又は複数の態様を含む及び／又は使用し得る。ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ及びＩＢＭは、少なくも１つの法域において、インターナショナルビジネスマシンズコーポレーションの商標又は登録商標である。
図１Ａを参照すると、例えば、コンピューティング環境１００は、例えば汎用コンピューティングデバイスの形態で示されるコンピュータシステム１０２を含む。コンピュータシステム１０２は、１又は複数の汎用プロセッサ又は処理ユニット１０４（例えば、中央処理装置（ＣＰＵ））、ニューラルネットワークプロセッサ１０５などの少なくとも１つの専用プロセッサ、メモリ１０６（すなわち、例としてシステムメモリ、メインメモリ、メインストレージ、中央ストレージ、又はストレージ）、及び、１又は複数のバス及び／又は他の接続を介して互いに結合された１又は複数の入出力（Ｉ／Ｏ）インタフェース１０８を含み得るが、これらに限定されない。例えば、プロセッサ１０４、１０５、及びメモリ１０６は、１又は複数のバス１１０を介してＩ／Ｏインタフェース１０８に結合され、プロセッサ１０４、１０５は、１又は複数のバス１１１を介して互いに結合される。
バス１１１は、例えば、メモリ又はキャッシュコヒーレンスバスであり、バス１１０は例えば、様々なバスアーキテクチャのいずれかを使用するメモリバス又はメモリコントローラ、ペリフェラルバス、アクセラレーテッドグラフィックスポート、プロセッサ又はローカルバスを含む複数のタイプのバス構造のいずれかのうち１又は複数を表す。限定ではなく例として、そのようなアーキテクチャは、業界標準アーキテクチャ（ＩＳＡ）、マイクロチャネルアーキテクチャ（ＭＣＡ）、エンハンスドＩＳＡ（ＥＩＳＡ）、ビデオエレクトロニクススタンダードアソシエーション（ＶＥＳＡ）ローカルバス、及びペリフェラルコンポーネントインターコネクト（ＰＣＩ）を含む。
例として、１又は複数の特定用途向けプロセッサ（例えば、ニューラルネットワークプロセッサ）は、１又は複数の汎用プロセッサから分離されるが結合され得、及び／又は、１又は複数の汎用プロセッサ内に組み込まれ得る。多くの変形例が可能である。
例えば、メモリ１０６は、プロセッサ１０４のローカルキャッシュ１１４及び／又はニューラルネットワークプロセッサ１０５に、例えば１又は複数のバス１１１を介して結合され得る共有キャッシュなどのキャッシュ１１２を含み得る。更に、メモリ１０６は、１又は複数のプログラム又はアプリケーション１１６及び少なくとも１つのオペレーティングシステム１１８を含み得る。例示的なオペレーティングシステムは、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるｚ／ＯＳ（登録商標）オペレーティングシステムを含む。ｚ／ＯＳは、少なくも１つの法域におけるインターナショナルビジネスマシンズコーポレーションの商標又は登録商標である。インターナショナルビジネスマシンズコーポレーション及び／又は他のエンティティによって提供される他のオペレーティングシステムも使用され得る。メモリ１０６はまた、本発明の態様の実施形態の関数を実行するように構成され得る１又は複数のコンピュータ可読プログラム命令１２０を含み得る。
また、１又は複数の実施形態において、メモリ１０６はプロセッサファームウェア１２２を含む。プロセッサファームウェアは、例えば、プロセッサのマイクロコード又はミリコードを含む。それは、例えば、より高いレベルのマシンコードの実装において使用されるハードウェアレベル命令及び／又はデータ構造を含む。一実施形態において、それは、例えば、基礎となるハードウェアに特有の信頼されるソフトウェア、マイクロコード、又はミリコードを含み、システムハードウェアへのオペレーティングシステムのアクセスを制御するマイクロコード又はミリコードとして通常は供給されるプロプライエタリコードを含む。
コンピュータシステム１０２は、例えば、Ｉ／Ｏインタフェース１０８を介して、ユーザ端末、テープドライブ、ポインティングデバイス、ディスプレイ、及び１又は複数のデータストレージデバイス１３４などの１又は複数の外部デバイス１３０と通信し得る。データストレージデバイス１３４は、１又は複数のプログラム１３６、１又は複数のコンピュータ可読プログラム命令１３８、及び／又は、データなどを格納し得る。コンピュータ可読プログラム命令は、発明の態様の実施形態の関数を実行するように構成され得る。
コンピュータシステム１０２はまた、例えばＩ／Ｏインタフェース１０８を介して、ローカルエリアネットワーク（ＬＡＮ）、汎用ワイドエリアネットワーク（ＷＡＮ）、及び／又は、パブリックネットワーク（例えばインターネット）などの１又は複数のネットワークとコンピュータシステム１０２が通信することを可能にするネットワークインタフェース１３２と通信し得、他のコンピューティングデバイス又はシステムとの通信を提供する。
コンピュータシステム１０２は、取り外し可能／取り外し不可能、揮発性／不揮発性コンピュータシステム記憶媒体を含む、及び／又は、それと結合され得る。例えば、それは、取り外し不可能な不揮発性磁気媒体（通常、「ハードドライブ」と呼ばれる）、取り外し可能な不揮発性磁気ディスク（例えば、「フロッピディスク」）から読み取り、それに書き込むための磁気ディスクドライブ、及び／又は、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、又は他の光媒体などの取り外し可能な不揮発性光ディスクから読み取り、又は、それに書き込むための光ディスクドライブを含み得、及び／又は、それと結合され得る。他のハードウェア及び／又はソフトウェアコンポーネントは、コンピュータシステム１０２に関連して使用され得ることが理解されるべきである。例は、マイクロコード又はミリコード、デバイスドライバ、冗長処理ユニット、外部ディスクドライブアレイ、ＲＡＩＤシステム、テープドライブ、及びデータアーカイブストレージシステムなどを含むが、これらに限定されない。
コンピュータシステム１０２は、多くの他の汎用又は特定用途向けコンピューティングシステム環境又は構成で動作し得る。コンピュータシステム１０２と共に使用するのに好適であり得る周知のコンピューティングシステム、環境、及び／又は構成の例は、上のシステム又はデバイス及び同様のもののいずれかを含む、パーソナルコンピュータ（ＰＣ）システム、サーバコンピュータシステム、シンクライアント、シッククライアント、ハンドヘルド又はラップトップデバイス、マルチプロセッサシステム、マイクロプロセッサベースシステム、セットトップボックス、プログラマブルコンシューマエレクトロニクス、ネットワークＰＣ、ミニコンピュータシステム、メインフレームコンピュータシステム、及び分散クラウドコンピューティング環境を含むが、これらに限定されない。
一例において、プロセッサ（例えばプロセッサ１０４及び／又はプロセッサ１０５）は、命令を実行するために使用される複数の機能コンポーネント（又はそのサブセット）を含む。図１Ｂに図示されるように、これらの機能コンポーネントは、例えば、実行される命令をフェッチするための命令フェッチコンポーネント１５０；フェッチされた命令を復号し、復号された命令のオペランドを取得するための命令復号ユニット１５２；復号された命令を実行するための１又は複数の命令実行コンポーネント１５４；必要な場合に命令実行のためにメモリにアクセスするためのメモリアクセスコンポーネント１５６；及び、実行された命令の結果を提供するためのライトバックコンポーネント１５８を含む。コンポーネントの１又は複数は、命令処理における１又は複数のレジスタ１６０にアクセスし、及び／又は、それを使用し得る。更に、コンポーネントの１又は複数は、本発明の１又は複数の態様によれば、本明細書において説明されるように、単一関数の実行に基づく、個別のパラメータチェックを有する複数の演算を実行すること、及び／又は、例えばニューラルネットワーク処理支援命令（又は、本発明の１又は複数の態様を使用し得る他の処理）のニューラルネットワーク処理支援処理を実行することに使用される１又は複数の他のコンポーネントの少なくとも一部を含むか、又はそれに対するアクセスを有し得る。１又は複数の他のコンポーネントは、例えば、単一関数、複数の演算－別個のパラメータバリデーションコンポーネント１７０、及び／又は、ニューラルネットワーク処理支援コンポーネント１７２（及び／又は、１又は複数の他のコンポーネント）を含み得る。
本発明の１又は複数の態様によれば、複数の関数を実行可能である命令が実行され、少なくとも１つの関数が、別個のパラメータバリデーションで複数の演算を実装する。この処理の例は、図２を参照して更に説明される。
図２を参照すると、一例において、ニューラルネットワーク処理支援（ＮＮＰＡ）命令（又は別の命令）などの命令が、汎用プロセッサ１０４などのプロセッサで開始される２００。実行される関数についての判定が行われる。これは例えば、命令の関数コードをチェックすることによって判定される。実行される関数が、例えば、平均プール関数（例えば、ＮＮＰＡ＿ＡＶＧＰＯＯＬ２Ｄ）を指定する関数コードなどの選択関数コードでない場合、他の処理が実行される２０４。
しかしながら、問い合わせ２０２に戻ると、関数コードが選択関数コード、例えば、平均プール関数を指定する関数コードを指定する場合、本明細書に説明されるように処理が継続する。一例において、処理は、命令を開始する汎用プロセッサによって実行される。しかしながら、他の実施形態において、処理は、ニューラルネットワークアクセラレータ（例えば、ニューラルネットワークアクセラレータ１０５）などの専用プロセッサによって、又は、別の汎用プロセッサ、専用プロセッサ、又は他のプロセッサによって実行され得る。他の変形例も適用可能である。
一例において、ＡＶＧＰＯＯＬ２Ｄ関数を指定することに基づいて、入力テンソル、例えば、入力テンソル１が、入力のウィンドウをまとめるための指定された演算によって低減される。ウィンドウは例えば、定義されたサイズを有する入力テンソルの選択部分である。入力のウィンドウは、例えば、入力テンソルのディメンション２および３にわたって２Ｄスライディングウィンドウを移動させることによって選択される。ウィンドウの概要は、出力テンソルにおける要素である。スライディングウィンドウディメンションは、例えば、命令によって提供される関数特有のパラメータ、例えば関数特有のパラメータ４及び関数特有のパラメータ５によって説明され、その例は本明細書に説明される。
関数の処理において、一実施形態において、関数は複数の演算を実行するように構成されているので、実行される演算についての判定が行われる。一例において、実行される演算の判定は、（例えば、命令と共に使用されるパラメータブロックにおいて）入力として命令に提供される選択関数特有のパラメータをチェックすることによって行われる。例として、選択関数特有のパラメータは関数特有のパラメータ２（すなわちｆｎ．ｓｐ２）及び関数特有のパラメータ３（すなわちｆｎ．ｓｐ３）であり、その各々は、例えばスライディングウィンドウストライドを指定する。スライディングウィンドウストライド又はストライドは、隣の出力テンソル要素を計算するときに入力テンソル１上をスライディングウィンドウが移動する量である。
一例において、関数特有のパラメータ２及び関数特有のパラメータ３の値がゼロなどの選択値に等しいかどうかの判定が行われる（２０６）。例えば、ｆｎ．ｓｐ２によって指定されるディメンション２ストライド、及び、ｆｎ．ｓｐ３によって指定されるディメンション３ストライドの値が選択値（例えばゼロ）に等しい場合、平均－低減演算が実行され、従って、平均－低減固有テストが実行２１０される。これらのテストは、例えば、以下の是非をチェックすることを含む。
パディングタイプは、Ｖａｌｉｄなどの選択パディングタイプに等しい。例えば、特定の関数特有のパラメータ、例えば、入力として関数に提供される関数特有のパラメータ１の値（すなわちｆｎ．ｓｐ１）についてチェックが行われる。指定されたパディングタイプがＶａｌｉｄである場合、ウィンドウにおけるすべての要素は、結果として得られる出力要素を計算するために使用される集合に追加される。
関数特有のパラメータ４の値（ｆｎ．ｓｐ４）は、第１入力テンソルのディメンション２の値（例えば、ｅ２）に等しい（例えば、ｆｎ．ｓｐ４＝＝ｉｎ１．ｅ２であるとチェックする）。例えば、ｆｎ．ｓｐ４におけるディメンション２ウィンドウサイズ（すなわち、スライディングウィンドウ値）は、ｉｎ１．ｅ２の値に対してチェックされる。
関数特有のパラメータ５の値（ｆｎ．ｓｐ５）が、第１入力テンソルのディメンション３の値（例えば、ｅ３）に等しい（例えば、ｆｎ．ｓｐ５＝＝ｉｎ１．ｅ３であるとチェックする）。例えば、ｆｎ．ｓｐ５におけるディメンション３ウィンドウサイズ（すなわち、スライディングウィンドウ値）が、ｉｎ１．ｅ３の値に対してチェックされる。
関数特有のパラメータ４の値は、選択値（例えば、１０２４）（例えば、ｆｎ．ｓｐ４＜＝１０２４）より小さい又はそれに等しい。例えば、ディメンション２ウィンドウサイズが選択値、例えば１０２４と比較される。
関数特有のパラメータ５の値は、選択値（例えば、１０２４）（例えば、ｆｎ．ｓｐ５＜＝１０２４）より小さい又はそれに等しい。例えば、ディメンション３ウィンドウサイズが選択値、例えば１０２４と比較される。
より多くの、より少ない、及び／又は、他のテストが実行され得る。
テストが不十分である場合２１２、エラー処理が実行される２１４。しかしながら、テストが十分である場合２１２、関数／選択された演算（例えば、ＡＶＧＰＯＯＬ２Ｄ関数の平均－低減演算）が実行される２１６。例えば、一実施形態において、汎用プロセッサ（例えば、汎用プロセッサ１０４）が、ニューラルネットワーク処理支援命令を開始し、ＡＶＧＰＯＯＬ２Ｄ関数のような非クエリ関数などの特定の関数については、汎用プロセッサは、実行される関数／演算のインジケーションなどの情報、及び、専用プロセッサ（例えば、ニューラルネットワークプロセッサ１０５）への入力データ（例えば、１又は複数の入力テンソル）のメモリアドレス情報を提供し、それにより、専用プロセッサは、本明細書において説明されるような関数／演算を実行し得る。関数が完了するとき、処理が汎用プロセッサに戻り、命令を完了する。他の実施形態において、汎用プロセッサ又は専用プロセッサは命令を開始し、関数／演算を実行し、命令を完了する。他の変形が可能である。
問い合わせ２０６に戻ると、例えば、関数特有のパラメータ２及び関数特有のパラメータ３の値がゼロなどの選択値に等しくない場合、ｆｎ．ｓｐ２及びｆｎ．ｓｐ３の値が例えば選択値（例えばゼロ）より大きいかどうかについて更なるチェックが行われる（２２０）。例えば、ｆｎ．ｓｐ２によって指定されるディメンション２ストライド、及び、ｆｎ．ｓｐ３によって指定されるディメンション３ストライドの値が、選択値（例えば、０）より大きくない場合、エラー処理が実行される２１４。しかしながら、ｆｎ．ｓｐ２によって指定されるディメンション２ストライド及びｆｎ．ｓｐ３によって指定されるディメンション３ストライドの値が選択値（例えばゼロ）より大きい場合、プーリング演算が実行され、従って、プーリング特有のテストが実行される２３０。これらのテストの例は、例えば、以下の是非をチェックすることを含む。
ｆｎ．ｓｐ２及びｆｎ．ｓｐ３の値が、３０などの特定の値より小さい又はそれに等しい。例えば、ディメンション２及びディメンション３ストライド値が、例えば３０など特定の値と比較される。
関数特有のパラメータ１（ｆｎ．ｓｐ１）によって指定されるパディングタイプが、Ｖａｌｉｄなどの選択パディングタイプと等しい。ｆｎ．ｓｐ１における値が、例えば、Ｖａｌｉｄである場合、ｆｎ．ｓｐ４において指定されるスライディングウィンドウ値（ディメンション２ウィンドウサイズとも称される）が第１入力テンソルのディメンション２の値（ｉｎ１．ｅ２）より小さい又はそれに等しいかどうか、及び、ｆｎ．ｓｐ５において指定されるスライディングウィンドウ値（ディメンション３ウィンドウサイズとも称される）が、第１入力テンソルのディメンション３の値（ｉｎ１．ｅ３）より小さい又はそれに等しいかどうかのチェックが行われる。
一例において、ｆｎ．ｓｐ１において指定されたパディングタイプが、Ｖａｌｉｄなどの選択パディングタイプに等しくない場合、例えば、出力テンソルのディメンション２（ｅ２）の値（例えば、ｏｕｔ．ｅ２）が、セルの値（ｉｎ１．ｅ２／ｆｎ．ｓｐ４）に等しいかどうかのチェックが行われ、出力テンソルのディメンション３（ｅ３）の値（例えば、ｏｕｔ．ｅ３）がセルの値（ｉｎ１．ｅ３／ｆｎ．ｓｐ５）に等しいかどうかのチェックが行われる。すなわち、
Figure 2024523098000002
Figure 2024523098000003
ここで、
ＩｘＤｙＩＳ：テンソル記述子ｘにおいて定義される入力テンソルｘのディメンションｙインデックスサイズ
ＯｘＤｙＩＳ：テンソル記述子ｘにおいて定義される出力テンソルｘのディメンションｙインデックスサイズ
Ｄ２Ｓ：ディメンション２ストライド
Ｄ３Ｓ：ディメンション３ストライド
より多くの、より少ない、及び／又は、他のテストが実行され得る。
テストが十分でない場合、エラー処理が実行される２１４。しかしながら、これらのテストが十分である場合２１２、本明細書において説明されるように関数／選択された演算（例えば、ＡＶＧＰＯＯＬ２Ｄ関数のプーリング演算）が実行される２１６。
関数／演算が完了すると、処理は汎用プロセッサに戻り、命令が完了する２４０。
示されるように、一例において、ＡＶＧＰＯＯＬ２Ｄ関数は、ニューラルネットワーク処理支援命令などの命令の一部として実装される。ニューラルネットワーク処理支援命令、ＡＶＧＰＯＯＬ２Ｄ関数、並びに、平均－低減及びプーリング演算に関連する更なる詳細が図３Ａ～図３Ｇを参照して説明される。最初に図３Ａを参照すると、一例において、ニューラルネットワーク処理支援命令３００は、拡張演算コード（オペコード）を用いてレジスタ及びレジスタ演算を記述するＲＲＥフォーマットを有する。一例において、ニューラルネットワーク処理支援命令３００は、ニューラルネットワーク処理支援演算を示す演算コード（オペコード）フィールド３０２（例えば、ビット０－１５）を含む。一例において、命令のビット１６～３１は予約され、ゼロを含む。本明細書における説明において、命令、命令の関数及び／又は演算、特定の位置、特定のフィールド、及び／又は、フィールドの特定のサイズが示される（例えば、特定のバイト及び／又はビット）。しかしながら、他の位置、フィールド、及び／又はサイズが提供され得る。更に、ビットを特定の値、例えば１又はゼロにセットすることが指定され得るが、これは単に例である。ビットは、セットされる場合、他の例において、反対の値又は別の値などの異なる値にセットされ得る。多くの変形例が可能である。
一例において、命令は、命令によって暗黙に指定される複数の汎用レジスタを使用する。例えば、ニューラルネットワーク処理支援命令３００は、暗黙のレジスタ、汎用レジスタ０及び汎用レジスタ１を使用し、この例は、それぞれ、図３Ｂおよび図３Ｄを参照して説明される。
図３Ｂを参照すると、一例において、汎用レジスタ０は、命令の完了時に更新され得る、関数コードフィールド及びステータスフィールドを含む。例として、汎用レジスタ０は、応答コードフィールド３１０（例えば、ビット０～１５）、例外フラグフィールド３１２（例えば、ビット２４～３１）、及び関数コードフィールド３１４（例えば、ビット５６～６３）を含む。更に、一例において、汎用レジスタ０のビット１６～２３及び３２～５５が予約され、ゼロを含む。１又は複数のフィールドが、命令によって実行される特定の関数によって使用される。一例において、すべてのフィールドがすべての関数によって使用されるわけではない。フィールドの各々は下で説明される。
応答コード（ＲＣ）３１０：このフィールド（例えば、ビット位置０～１５）は応答コードを含む。ニューラルネットワーク処理支援命令の実行が、例えば１の条件コードで完了するとき、応答コードが格納される。無効入力条件に遭遇したとき、非ゼロ値が応答コードフィールドに格納され、これは、実行中に認識される無効入力条件の原因、及び、選択された条件コード、例えば１がセットされていることを示す。応答コードフィールドに格納されたコードは、一例において、以下のとおり定義される。
応答コード 意味
０００１ パラメータブロックバージョン番号によって指定されるパラメータブロックのフォーマットがモデルによってサポートされていない。
０００２ 指定された関数が、マシン上に定義又はインストールされていない。
００１０ 指定されたテンソルデータレイアウトフォーマットがサポートされていない。
００１１ 指定されたテンソルデータ型がサポートされていない。
００１２ 指定された単一テンソルディメンションが最大ディメンションインデックスサイズより大きい。
００１３ 指定されたテンソルのサイズが最大テンソルサイズより大きい。
００１４ 指定されたテンソルアドレスが４Ｋバイト境界上で整合されない。
００１５ 関数特有の保存エリアアドレスが４Ｋバイト境界上で整合されない。
Ｆ０００～ＦＦＦＦ 関数特有の応答コード。
これらの応答コードは特定の関数について定義される。
例外フラグ（ＥＦ）３１２：このフィールド（例えば、ビット位置２４～３１）は、例外フラグを含む。例外条件が命令の実行中に検出される場合、対応する例外フラグコントロール（例えばビット）が例えば１にセットされ、さもなければ、コントロールは不変のままである。例外フラグフィールドは、命令の最初の呼び出しの前にゼロに初期化される。予約フラグは、命令の実行中に不変である。例外フラグフィールドに格納されたフラグは、一例において以下のとおり定義される。
ＥＦ（ビット） 意味
０ 範囲違反。
このフラグは、数値以外の値が入力テンソルにおいて検出されたか、又は、出力テンソルに格納されたときのいずれかにおいてセットされる。このフラグは、例えば、命令が条件コード、例えば０で完了するときにのみ有効である。
１～７ 予約済み
関数コード（ＦＣ）３１４：このフィールド（例えばビット位置５６～６３）は関数コードを含む。ニューラルネットワーク処理支援命令についての割り当てられた関数コードの例は図３Ｃに図示される。すべての他の関数コードは割り当てられていない。割り当てられていない、又は、インストールされていない関数コードが指定される場合、例えば０００２ ｈｅｘの応答コード及び例えば１の選択条件コードがセットされる。このフィールドは、実行中に修正されない。
示されるように、汎用レジスタ０に加えて、ニューラルネットワーク処理支援命令はまた、汎用レジスタ１を使用し、この例は図３Ｄにおいて図示される。例として、２４ビットアドレス指定モードにおけるビット４０～６３、３１ビットアドレス指定モードにおけるビット３３～６３、又は、６４ビットアドレス指定モードにおけるビット０～６３は、パラメータブロック３２０のアドレスを含む。汎用レジスタ１の内容は、例えば、ストレージにおけるパラメータブロックの左端のバイトの論理アドレスを指定する。パラメータブロックは、ダブルワード境界上で指定され、さもなければ、仕様の例外が認識される。すべての関数について、汎用レジスタ１の内容は修正されない。
アクセスレジスタモードにおいて、アクセスレジスタ１は、パラメータブロック、入力テンソル、出力テンソル、及び関数特有の保存エリアを含むアドレス空間を例として指定する。
一例において、パラメータブロックは、実行される命令によって指定される関数に依存する異なるフォーマットを有し得る。例えば、命令のクエリ関数は、１つのフォーマットのパラメータブロックを有し、命令の他の関数は、別のフォーマットのパラメータブロックを有する。別の例において、すべての関数は、同一のパラメータブロックフォーマットを使用する。他の変形例も適用可能である。
例として、パラメータブロック及び／又はパラメータブロックにおける情報は、メモリ、ハードウェアレジスタ、及び／又は、メモリ及び／又はレジスタの組み合わせに格納される。他の例もまた可能である。
ＮＮＰＡ－Ｑｕｅｒｙ Ａｖａｉｌａｂｌｅ Ｆｕｎｃｔｉｏｎｓ（ＱＡＦ）演算などのクエリ関数によって使用されるパラメータブロックの一例が図３Ｅを参照して説明される。示されるように、一例において、ＮＮＰＡ－Ｑｕｅｒｙ Ａｖａｉｌａｂｌｅ Ｆｕｎｃｔｉｏｎｓパラメータブロック３３０は、例えば以下を含む。
インストールされる関数のベクトル３３２：パラメータブロックのこのフィールド（例えば、バイト０～３１）は、インストールされる関数のベクトルを含む。一例において、インストールされる関数のベクトルのビット０～２５５は、それぞれ、ニューラルネットワーク処理支援命令の関数コード０～２５５に対応する。ビットが例えば１であるとき、対応する関数はインストールされ、さもなければ、関数はインストールされない。
インストールされるパラメータブロックフォーマットのベクトル３３４：パラメータブロックのこのフィールド（例えば、バイト３２－４７）は、インストールされるパラメータブロックフォーマットのベクトルを含む。一例において、インストールされるパラメータブロックフォーマットのベクトルのビット０～１２７は、ニューラルネットワーク処理支援命令の非クエリ関数についてのパラメータブロックフォーマット０～１２７に対応する。ビットが例えば１であるとき、対応するパラメータブロックフォーマットがインストールされ、さもなければ、パラメータブロックフォーマットはインストールされない。
インストールされるデータ型３３６：パラメータブロックのこのフィールド（例えばバイト４８～４９）は、インストールされるデータ型のベクトルを含む。一例において、インストールされたデータ型のベクトルのビット０～１５は、インストールされるデータ型に対応する。ビットが例えば１であるとき、対応するデータ型はインストールされ、さもなければ、データ型はインストールされない。例示的なデータ型は以下を含む（より多くの、より少ない、及び／又は、他のデータ型が可能である）。
ビット データ型
０ ＮＮＰデータタイプ１
１～１５ 予約済み
インストールされるデータレイアウトフォーマット３３８：パラメータブロックのこのフィールド（例えば、バイト５２～５５）は、インストールされるデータレイアウトフォーマットのベクトルを含む。一例において、インストールされたデータレイアウトフォーマットのベクトルのビット０～３１は、インストールされるデータレイアウトフォーマットに対応する。ビットが例えば１であるとき、対応するデータレイアウトフォーマットはインストールされ；さもなければ、データレイアウトフォーマットはインストールされない。例示的なデータレイアウトフォーマットは、以下を含む（より多くの、より少ない、及び／又は、他のデータ型が可能である）。
ビット データレイアウトフォーマット
０ ４Ｄフィーチャテンソル
１ ４Ｄカーネルテンソル
２～３１ 予約済み
最大ディメンションインデックスサイズ３４０：パラメータブロックのこのフィールド（例えば、バイト６０～６３）は、例えば、任意の指定されたテンソルについての指定されたディメンションインデックスサイズにおける最大数の要素を指定する３２ビット符号なしバイナリ整数を含む。別の例において、最大ディメンションインデックスサイズは、任意の指定されたテンソルについて、指定されたディメンションインデックスサイズにおけるバイトの最大数を指定する。他の例もまた可能である。
最大テンソルサイズ３４２：パラメータブロックのこのフィールド（例えばバイト６４～７１）は、例えば、テンソルフォーマットによって要求される任意のパッドバイトを含む任意の指定されたテンソルにおけるバイトの最大数を指定する３２ビット符号なしバイナリ整数を含む。別の例において、最大テンソルサイズは、テンソルフォーマットによって要求される任意のパディングを含む任意の指定されたテンソルにおける要素全体の最大数を指定する。他の例もまた可能である。
インストールされたＮＮＰデータタイプ１変換ベクトル３４４：パラメータブロックのこのフィールド（例えば、バイト７２～７３）は、インストールされたＮＮＰデータタイプ１変換ベクトルを含む。一例において、インストールされたＮＮＰデータタイプ１変換ベクトルのビット０～１５は、インストールされたＮＮＰデータタイプ１フォーマットとの間のデータ型変換に対応する。ビットが１であるとき、対応する変換はインストールされ；さもなければ、変換はインストールされない。より多くの、より少ない、及び／又は、他の変換が指定され得る。
ビット データ型
０ 予約済み
１ ＢＦＰ小フォーマット
２ ＢＦＰ短フォーマット
３－１５ 予約済み
クエリ関数についてのパラメータブロックの一例が図３Ｅを参照して説明されるが、ＮＮＰＡ－Ｑｕｅｒｙ Ａｖａｉｌａｂｌｅ Ｆｕｎｃｔｉｏｎｓ演算を含むクエリ関数についてのパラメータブロックの他のフォーマットが使用され得る。フォーマットは、一例において、実行されるクエリ関数のタイプに依存し得る。更に、パラメータブロック及び／又はパラメータブロックの各フィールドは、より多くの、より少ない、及び／又は、他の情報を含み得る。
クエリ関数についてのパラメータブロックに加えて、一例において、Ｎｅｕｒａｌ－Ｎｅｔｗｏｒｋ Ｐｒｏｃｅｓｓｉｎｇ Ａｓｓｉｓｔ命令の非クエリ関数など、非クエリ関数についてのパラメータブロックフォーマットがある。ニューラルネットワーク処理支援命令のＡＶＧＰＯＯＬ２Ｄ関数などの非クエリ関数によって使用されるパラメータブロックの一例が図３Ｆを参照して説明される。
示されるように、一例において、例えばニューラルネットワーク処理支援命令の非クエリ関数によって採用されるパラメータブロック３５０は例えば以下を含む。
パラメータブロックバージョン番号３５２：パラメータブロックのこのフィールド（例えば、バイト０～１）は、パラメータブロックのバージョン及びサイズを指定する。一例において、パラメータブロックバージョン番号のビット０～８が予約され、ゼロを含み、パラメータブロックバージョン番号のビット９～１５は、パラメータブロックのフォーマットを指定する符号なしバイナリ整数を含む。クエリ関数は、利用可能なパラメータブロックフォーマットを示す機構を提供する。指定されたパラメータブロックのサイズ又はフォーマットがモデルによってサポートされないとき、例えば、０００１ ｈｅｘの応答コードが汎用レジスタ０に格納され、命令は、条件コード、例えば条件コード１をセットすることによって完了する。パラメータブロックバージョン番号は、プログラムによって指定され、命令の実行中に修正されない。
モデルバージョン番号３５４：パラメータブロックのこのフィールド（例えば、バイト２）は、命令（例えば、特定の非クエリ関数）を実行するモデルを識別する符号なしバイナリ整数である。継続フラグ（下で説明される）が１であるとき、モデルバージョン番号は、パラメータブロックの継続状態バッファフィールド（下で説明される）の内容を解釈して演算を再開することを目的とする演算に対する入力であり得る。
継続フラグ３５６：パラメータブロックのこのフィールド（例えば、ビット６３）は、例えば１のとき、演算が部分的に完了することを示し、継続状態バッファの内容が演算を再開するために使用され得る。プログラムは、継続フラグをゼロに初期化し、命令が演算を再開する目的で再実行される場合に継続フラグを修正しない；さもなければ、結果は予測不可能である。
継続フラグが演算の最初にセットされ、パラメータブロックの内容が最初の呼び出しから変化している場合、結果は予測不可能である。
関数特有の保存エリアアドレス３５８：パラメータブロックのこのフィールド（例えば、バイト５６～６３）は、関数特有の保存エリアの論理アドレスを含む。一例において、関数特有の保存エリアアドレスは、４Ｋバイト境界上で整合される；さもなければ、例えば００１５ ｈｅｘの応答コードが汎用レジスタ０にセットされ、命令は、例えば１の条件コードで完了する。アドレスは、現在のアドレス指定モードの影響を受ける。関数特有の保存エリアのサイズは関数コードに依存する。
関数特有の保存エリアの全体がプログラムイベント記録（ＰＥＲ）ストレージエリア指定と重なるとき、適用可能であるとき、ＰＥＲストレージ変更イベントが関数特有の保存エリアについて認識される。関数特有の保存エリアの一部のみがＰＥＲストレージエリア指定と重なるとき、以下のどれが発生するかについてはモデル依存である。
＊ 適用可能であるとき、ＰＥＲストレージ変更イベントが関数特有の保存エリアの全体について認識される。
＊ 適用可能であるとき、ＰＥＲストレージ変更イベントが、格納された関数特有の保存エリアの一部について認識される。
パラメータブロック全体がＰＥＲストレージエリア指定と重なるとき、適用可能であるとき、ＰＥＲストレージ変更イベントがパラメータブロックについて認識される。パラメータブロックの一部のみがＰＥＲストレージエリア指定と重なるとき、以下のどれが発生するかはモデル依存である。
＊ 適用可能であるとき、ＰＥＲストレージ変更イベントがパラメータブロック全体について認識される。
＊ 適用可能であるとき、ＰＥＲストレージ変更イベントが、格納されたパラメータブロックの一部について認識される。
適用可能であるとき、ＰＥＲゼロアドレス検出イベントがパラメータブロックについて認識される。ゼロアドレス検出は、一例において、テンソルアドレス又は関数特有の保存エリアアドレスを適用しない。
出力テンソル記述子（例えば、１～２）３６０／入力テンソル記述子（例えば、１～３）３６５：テンソル記述子の一例が図３Ｇを参照して説明される。一例において、テンソル記述子３６０、３６５は以下を含む。
データレイアウトフォーマット３８２：テンソル記述子のこのフィールド（例えばバイト０）はデータレイアウトフォーマットを指定する。有効なデータレイアウトフォーマットは例えば、以下を含む（より多くの、より少ない、及び／又は、他のデータレイアウトフォーマットが可能である）。
フォーマット 説明 アライメント（バイト）
０ ４Ｄフィーチャテンソル ４０９６
１ ４Ｄカーネルテンソル ４０９６
２－２５５ 予約済み
サポートされない、又は予約されたデータレイアウトフォーマットが指定される場合、例えば００１０ ｈｅｘの応答コードが汎用レジスタ０に格納され、命令は、条件コード、例えば１をセットすることによって完了する。
データ型３８４：このフィールド（例えば、バイト１）は、テンソルのデータ型を指定する。サポートされるデータ型の例が下で説明される（より多くの、より少ない、及び／又は、他のデータ型が可能である）。
値 データ型 データサイズ（ビット）
０ ＮＮＰデータ型１ １６
１～２５５ 予約済み
サポートされない、又は予約されたデータ型が指定される場合、例えば００１１ ｈｅｘの応答コードが汎用レジスタ０に格納され、命令は条件コード、例えば１をセットすることによって完了する。
ディメンション１～４インデックスサイズ３８６：ディメンションインデックスサイズ１～４は、４Ｄテンソルの形状をまとめて指定する。各ディメンションインデックスサイズは、ゼロより大きく、最大ディメンションインデックスサイズ（３４０、図３Ｅ）より小さい又はそれに等しい；さもなければ、例えば００１２ ｈｅｘの応答コードが汎用レジスタ０に格納され、命令は条件コード、例えば１をセットすることによって完了する。総テンソルサイズは、最大テンソルサイズ（３４２、図３Ｅ）より小さい又はそれに等しい；さもなければ、応答コード、例えば００１３ ｈｅｘが汎用レジスタ０に格納され、命令は、条件コード、例えば１をセットすることによって完了する。
一例において、ＮＮＰＡデータタイプ１の要素を有する４Ｄフィーチャテンソルにおけるバイトの数（すなわち、総テンソルサイズ）を判定するために、以下に示される、ディメンションインデックス４＊ディメンションインデックス３＊セル（ディメンションインデックス２／３２）＊３２＊セル（ディメンションインデックス１／６４）＊６４＊２が使用される。
テンソルアドレス３８８：テンソル記述子のこのフィールド（例えばバイト２４～３１）は、テンソルの左端バイトの論理アドレスを含む。アドレスは、現在のアドレス指定モードの影響を受ける。
アドレスが、関連付けられたデータレイアウトフォーマットの境界上で整合されていない場合、例えば００１４ ｈｅｘの応答コードが汎用レジスタ０に格納され、命令は、条件コード、例えば１をセットすることによって完了する。
アクセスレジスタモードにおいて、アクセスレジスタ１は、ストレージにおけるすべてのアクティブ入力及び出力テンソルを含むアドレス空間を指定する。
図３Ｆに戻ると、パラメータブロック３５０は更に、一例において、本明細書において説明されるように、特定の関数によって使用され得る関数特有のパラメータ１～５を含む（３７０）。
更に、パラメータブロック３５０は、一例において、この命令の演算が再開される場合に使用されるデータ（又は、データの位置）を含む継続状態バッファフィールド３７５を含む。
演算への入力として、パラメータブロックの予約フィールドはゼロを含むべきである。演算が終了するとき、予約フィールドは、ゼロとして格納され得るか、又は、不変のままであり得る。
非クエリ関数についてのパラメータブロックの一例が図３Ｆを参照して説明されるが、ニューラルネットワーク処理支援命令の非クエリ関数を含む、非クエリ関数についてのパラメータブロックの他のフォーマットが使用され得る。フォーマットは、一例において、実行される関数のタイプに依存し得る。更に、テンソル記述子の一例が図３Ｇを参照して説明されるが、他のフォーマットが使用され得る。更に、入力及び出力テンソルについての異なるフォーマットが使用され得る。他の変形が可能である。
ニューラルネットワーク処理支援命令の一実施形態によってサポートされる様々な関数に関する更なる詳細が下で説明される。
関数コード０：ＮＮＰＡ－ＱＡＦ（Ｑｕｅｒｙ Ａｖａｉｌａｂｌｅ Ｆｕｎｃｔｉｏｎｓ）
ニューラルネットワーク処理支援（ＮＮＰＡ）クエリ関数は、例えば、インストールされる関数、インストールされるパラメータブロックフォーマット、インストールされるデータ型、インストールされるデータレイアウトフォーマット、最大ディメンションインデックスサイズ、及び最大テンソルサイズの可用性など、選択された情報を示すための機構を提供する。情報は、パラメータブロック（例えば、パラメータブロック３３０）などの選択された位置において取得及び配置される。演算が終了するとき、パラメータブロックの予約フィールドは、ゼロとして格納され得、又は、不変のままであり得る。
クエリ関数の一実施形態の実行において、汎用プロセッサ１０４などのプロセッサは、ニューラルネットワークプロセッサ１０５などのニューラルネットワークプロセッサの特定のモデルなどの特定のプロセッサに関連する情報を取得する。プロセッサ又はマシンの特定のモデルは特定の能力を有する。プロセッサ又はマシンの別のモデルは、より多くの、より少ない、及び／又は、異なる能力を有し得、及び／又は、より多くの、より少ない、及び／又は、異なる能力を有する異なる世代（例えば、現在又は将来の世代）のものであり得る。取得された情報は、パラメータブロック（例えば、パラメータブロック３３０）、又は、更なる処理においてこの情報を使用し得る１又は複数のアプリケーションからアクセス可能である、及び／又は、それ共に使用するための他の構造に配置される。一例において、パラメータブロックのパラメータブロック及び／又は情報はメモリに維持される。他の実施形態において、パラメータブロック及び／又は情報は、１又は複数のハードウェアレジスタにおいて維持され得る。別の例として、クエリ関数は、オペレーティングシステムによって実行される特権演算であり得、これは、アプリケーションプログラムインタフェースが、この情報を、アプリケーション又は非特権プログラムに対して利用可能にするように利用可能にする。なお更なる例において、クエリ関数は、ニューラルネットワークプロセッサ１０５などの専用プロセッサによって実行される。他の変形が可能である。
情報は、例えば、クエリ関数を実行するプロセッサのファームウェアによって取得される。ファームウェアは、特定のプロセッサ（例えば、ニューラルネットワークプロセッサ）の特定のモデルの属性の知識を有する。この情報は例えば、制御ブロックレジスタ及び／又はメモリに格納され得、及び／又は、さもなければ、クエリ関数を実行するプロセッサからアクセス可能であり得る。
取得された情報は、例えば、特定のプロセッサの選択されたモデルの、１又は複数のインストール又はサポートされるデータ型、１又は複数のインストール又はサポートされるデータレイアウトフォーマット、及び／又は、１又は複数のインストール又はサポートされるデータサイズを含む、例えば、特定のプロセッサの少なくとも１又は複数のデータ属性に関するモデル依存詳細情報を含む。この情報は、他のモデル（例えば、前のモデル、及び／又は、将来のモデル）が、同一のデータ型、データサイズ、及び／又はデータレイアウトフォーマットなどの同一のデータ属性をサポートしないことがあり得るという点でモデル依存である。クエリ関数（例えば、ＮＮＰＡ－ＱＡＦ関数）の実行が完了するとき、例として条件コード０がセットされる。条件コード１、２および３は、一例において、クエリ関数に適用可能でない。取得された情報に関連する更なる情報が下で説明される。
示されるように、一例において、取得される情報は、例えばニューラルネットワークプロセッサの特定のモデルの１又は複数のデータ属性についてのモデル依存情報を含む。データ属性の一例は、ニューラルネットワークプロセッサのインストールされたデータ型である。例えば、ニューラルネットワークプロセッサ（又は他のプロセッサ）の特定のモデルが、例として、ＮＮＰデータタイプ１データ型（ニューラルネットワーク処理データタイプ１データ型とも称される）及び／又は他のデータ型などの１又は複数のデータ型をサポートし得る。ＮＮＰデータタイプ１データ型は、例えば、深層学習ネットワークの正確度を維持すること；丸めモード及びコーナーケースの処理を単純化する非正規フォーマットを排除すること；算術演算についての最も近い値への自動丸め；及び、無限及び非数（ＮａＮ）の特殊なエンティティが１つの値（ＮＩＮＦ）に組み合わされ、算術演算によって受け入れられ、処理されることを含む、複数の利点を深層学習訓練及び推論計算に提供する１６ビット浮動小数点フォーマットである。ＮＩＮＦは、指数オーバーフロー及び無効な演算（ゼロによる除算など）についてのより良いデフォルトを提供する。これにより、多くのプログラムが、そのようなエラーを隠すことなく、且つ専用の例外ハンドラを使用することなく、実行を継続することが可能となる。他のモデル依存データ型も可能である。
ＮＮＰデータタイプ１データ型のフォーマットの一例が図４に図示される。図示されるように、一例において、ＮＮＰデータタイプ１データは、例えば、符号４０２（例えばビット０）、指数＋３１ ４０４（例えばビット１～６）、及び、端数４０６（例えば、ビット７～１５）を含むフォーマット４００で表され得る。
ＮＮＰデータタイプ１フォーマットの例示的な特性が下に図示される。
特性 ＮＮＰデータタイプ１
フォーマット長（ビット） １６ビット
バイアス指数長（ビット） ６ビット
端数長（ビット） ９ビット
精度（ｐ） １０ビット
最大左単位表示指数（Ｅｍａｘ） ３２
最小左単位表示指数（Ｅｍｉｎ） －３１
左単位表示（ＬＵＶ）バイアス ３１
Ｎｍａｘ （１－２－９）×２３３≒８．６×１０９
Ｎｍｉｎ （１＋２－９）×２－３１≒４．６×１０－１０
Ｄｍｉｎ ―――
ここで、≒は、値が近似値であることを示し、Ｎｍａｘは、（大きさにおいて）最大の表現可能な有限数であり、Ｎｍｉｎは、（大きさにおいて）最小の表現可能な数である。
ＮＮＰデータタイプ１データ型に関連する更なる詳細は下で説明される。
バイアス指数：指数を符号なしの数として表現することを可能にするために使用されるバイアスは上で示される。バイアス指数は、バイナリ浮動小数点フォーマットの特性と類似しているが、ＮＮＰデータタイプ１データ型のクラスを参照して下で説明されるように、すべてゼロ及びすべて１のバイアス指数に対して特殊な意味が付与されていないことを除く。
仮数：ＮＮＰデータタイプ１数の２進小数点は、左端の端数ビットの左であるとみなされる。２進小数点の左には、正規数については１、ゼロについてはゼロとみなされる、暗黙の単位ビットがある。左に付加された暗黙の単位ビットを有する端数は、数の仮数である。
通常のＮＮＰデータタイプ１の値は、仮数を、非バイアス指数乗した基数２で乗算したものである。
非ゼロ数の値：非ゼロ数の値が下で示される。
数クラス 値
正規数 ±２ｅ－３１ ×（１．ｆ）
ここで、ｅは、１０進数で示されるバイアス指数であり、ｆは２進数の端数である。
一実施形態において、数値及び関連する非数値エンティティを含む、ＮＮＰデータタイプ１データの３つのクラスがある。各データ項目は、符号、指数、及び仮数を含む。指数は、すべてのバイアス指数が負でない符号なし数であり、最小バイアス指数がゼロであるようにバイアスされる。仮数は、２進小数点の左に明示的な端数及び暗黙的な単位ビットを含む。符号ビットは、正の場合ゼロであり、負の場合１である。
許容されるすべての非ゼロ有限数は、固有のＮＮＰデータタイプ１表現を有する。同一の値について複数の表現を可能にし得る数である非正規数が無く、非正規算術演算が無い。３つのクラスは、例えば以下を含む。
データクラス 符号 バイアス指数 単位ビット＊ 端数
ゼロ ± ０ ０ ０
正規数 ± ０ １ 非０
正規数 ± 非０、すべてが１でない １ 任意
正規数 ± すべて１ すべてが１でない
ＮＩＮＦ ± すべて１ すべて１
ここで、－は、該当しないことを示し、＊は、単位ビットが暗黙であることを示し、ＮＩＮＦは、数字でない、又は無限である。
クラスの各々に関する更なる詳細が下で説明される。
ゼロ：ゼロは、ゼロのバイアス指数及びゼロ端数を有する。暗黙の単位ビットはゼロである。
正規数：正規数は、任意の値のバイアス指数を有し得る。バイアス指数が０であるとき、端数は非ゼロである。バイアス指数がすべて１であるとき、端数はすべて１でない。他のバイアス指数の値は、任意の端数値を有し得る。暗黙の単位ビットは、すべて正規数である場合、１である。
ＮＩＮＦ：ＮＩＮＦが、すべて１のバイアス指数、及び、すべて１の端数によって表される。ＮＩＮＦは、ＮＮＰデータタイプ１における表現可能な値の範囲（すなわち、６個の指数ビット及び９個の端数ビットを有する、深層学習について設計された１６ビット浮動小数点）にない値を表す。通常、ＮＩＮＦは、最後まで表示されたままであるように、計算中に伝播されるだけである。
ＮＮＰデータタイプ１データ型は、一例においてサポートされるが、他の専用又は非標準のデータ型がサポートされ得、いくつか例を挙げると、ＩＥＥＥ７５４短精度、２進浮動小数点１６ビット、ＩＥＥＥ半精度浮動小数点、８ビット浮動小数点、４ビット整数フォーマット、及び／又は、８ビット整数フォーマットを含むがこれらに限定されない１又は複数の標準データ型も同様である。これらのデータフォーマットは、ニューラルネットワーク処理について異なる品質を有する。例として、より小さいデータ型（例えば、より少ないビット）は、より速く処理でき、より少ないキャッシュ／メモリを使用し、より大きいデータ型は、ニューラルネットワークにおいて、より高い正確度の結果を提供する。サポートされるデータ型は、クエリパラメータブロックにおいて（例えば、パラメータブロック３３０のインストールされたデータ型フィールド３３６において）１又は複数の割り当てられたビットを有し得る。例えば、特定のプロセッサによってサポートされる専用の又は非標準のデータ型は、インストールされたデータ型フィールドにおいて示されるが、標準のデータ型は示されない。他の実施形態において、１又は複数の標準のデータ型も示される。他の変形が可能である。
１つの特定の例において、インストールされたデータ型フィールド３３６のビット０がＮＮＰデータタイプ１データ型について予約され、例えば１にセットされるとき、プロセッサがＮＮＰデータタイプ１をサポートすることを示す。例として、インストールされたデータ型のビットベクトルは、ビットが各データ型に割り当てられる、最大１６のデータ型を表すように構成される。しかしながら、他の実施形態におけるビットベクトルは、より多くの、又はより少ないデータ型をサポートし得る。更に、１又は複数のビットがデータ型に割り当てられるベクトルが構成され得る。多くの例が可能であり、及び／又は、より多くの、より少ない、及び／又は、他のデータ型が、ベクトルにおいてサポートされ、及び／又は示され得る。
一例において、クエリ関数は、モデル依存プロセッサ上にインストールされたデータ型のインジケーションを取得し、例えば、パラメータブロック３３０のインストールされたデータ型フィールド３３６において１又は複数のビットをセットすることによって、パラメータブロックにインジケーションを配置する。更に、一例において、クエリ関数は、インストールされたデータレイアウトフォーマット（別のデータ属性）のインジケーションを取得し、例えば、インストールされたデータレイアウトフォーマットフィールド３３８において１又は複数のビットをセットすることによって、パラメータブロックに情報を配置する。例示的なデータレイアウトフォーマットは、例えば、４Ｄフィーチャテンソルレイアウト及び４Ｄカーネルテンソルレイアウトを含む。４Ｄフィーチャテンソルレイアウトは、一例において、本明細書において示される関数によって使用され、一例において、畳み込み関数は４Ｄカーネルテンソルレイアウトを使用する。これらのデータレイアウトフォーマットは、ニューラルネットワーク処理支援命令の関数の実行における処理効率を増加させる方式で、データをテンソルについてのストレージ内に配置する。例えば、効率的に演算するべく、ニューラルネットワーク処理支援命令は、特定のデータレイアウトフォーマットにおいて提供される入力テンソルを使用する。例のレイアウトが提供されるが、より多くの、より少ない、及び／又は、他のレイアウトが、本明細書において説明される関数及び／又は他の関数に提供され得る。
特定のプロセッサモデルについてのレイアウトの使用又は可用性は、インストールされたデータレイアウトフォーマット（例えば、パラメータブロック３３０のフィールド３３８）のベクトルによって提供される。ベクトルは例えば、どのレイアウトがサポートされるかをＣＰＵがアプリケーションに伝えることを可能にする、インストールされたデータレイアウトフォーマットのビットベクトルである。例えば、ビット０が４Ｄフィーチャテンソルレイアウトについて予約され、例えば１にセットされるとき、プロセッサが４Ｄフィーチャテンソルレイアウトをサポートすることを示し；ビット１が４Ｄカーネルテンソルレイアウトについて予約され、例えば１にセットされるとき、プロセッサが４Ｄカーネルテンソルレイアウトをサポートすることを示す。一例において、インストールされたデータレイアウトフォーマットのビットベクトルは、ビットが各データレイアウトに割り当てられる、最大１６のデータレイアウトを表すように構成される。しかしながら、他の実施形態におけるビットベクトルは、より多くの、又はより少ないデータレイアウトをサポートし得る。更に、１又は複数のビットがデータレイアウトに割り当てられるベクトルが構成され得る。多くの例が可能である。４Ｄフィーチャテンソルレイアウト及び４Ｄカーネルテンソルレイアウトに関する更なる詳細が下で説明される。同様に、性能を最適化するために、他のレイアウトがここで、又は将来に使用され得る。
一例において、ニューラルネットワーク処理支援命令は、４Ｄテンソル、すなわち、４ディメンションのテンソルを用いて演算する。これらの４Ｄテンソルは、本明細書において説明される汎用入力テンソルから、例えば行優先で取得され、すなわち、メモリアドレスが増加する順序でテンソル要素を列挙するとき、Ｅ１と呼ばれる、より内側のディメンションが、０から開始してＥ１インデックスサイズ－１までＥ１インデックスサイズ値を通じて最初にステップアップされ、その後、Ｅ２ディメンションのインデックスが増加され、Ｅ１ディメンションを通じたステップが反復される。Ｅ４ディメンションと呼ばれるより外側のディメンションのインデックスが最後に増加される。
より低い数のディメンション（例えば、３Ｄ又は１Ｄテンソル）を有するテンソルは、４Ｄテンソルとして表され、４Ｄテンソルの１又は複数のディメンションは、１にセットされた元のテンソルディメンションを超える。
ディメンションＥ４、Ｅ３、Ｅ２、Ｅ１を有する行優先汎用４Ｄテンソルを４Ｄフィーチャテンソルレイアウト（本明細書において、ＮＮＰＡデータレイアウトフォーマット０ ４Ｄフィーチャテンソルとも称される）に変換することが本明細書において説明される。
例えば、結果として得られるテンソルは、例えば６４要素ベクトル又はディメンションを有する５Ｄテンソルの４Ｄテンソルとして表され得る。
Figure 2024523098000004
 ここで、
Figure 2024523098000005
 は、天井（ｃｅｉｌ）関数を指す。（換言すると、Ｅ４＊Ｅ３＊ｃｅｉｌ（Ｅ２／３２）＊３２＊ｃｅｉｌ（Ｅ１／６４）＊６４要素。）
汎用テンソルの要素［ｅ４］［ｅ３］［ｅ２］［ｅ１］は、結果として得られる５Ｄテンソルの以下の要素にマッピングされ得る。
Figure 2024523098000006
 ここで、
Figure 2024523098000007
 は床（ｆｌｏｏｒ）関数であり、ｍｏｄはモジュロである。（換言すると、要素（Ｅ３＊ｅ２＿ｌｉｍｉｔ＊ｅ１＿ｌｉｍｉｔ＊ｅ４ｘ）＋（ｅ２＿ｌｉｍｉｔ＊ｅ３ｘ＊６４）＋（ｅ２ｘ＊６４）＋（
Figure 2024523098000008
 ＊ｅ２＿ｌｉｍｉｔ＊Ｅ３＊６４）＋（ｅ１ ｘ ｍｏｄ ６４）、ここで、ｅ２＿ｌｉｍｉｔ＝
Figure 2024523098000009
 ＊３２、及び、ｅ１＿ｌｉｍｉｔ＝
Figure 2024523098000010
 ＊６４。）
結果として得られるテンソルは、汎用テンソルより大きいことがあり得る。汎用テンソルにおける対応する要素が無い結果として得られるテンソルの要素は、パッド要素と呼ばれる。
６４要素ベクトルのＮＮＰＡデータレイアウトフォーマット０ ４Ｄフィーチャテンソルの要素［ｆｅ４］［ｆｅ１］［ｆｅ３］［ｆｅ２］［ｆｅ０］又は同等の表現を要素の５Ｄテンソルとみなす。この要素はパッド要素であるか、又は、ディメンションＥ４、Ｅ３、Ｅ２、Ｅ１の汎用４Ｄテンソルにおけるその対応する要素は、以下の式で判定され得る。
ｆｅ２≧Ｅ２である場合、これは、Ｅ２（又はページ）パッド要素である。
そうでなく、ｆｅ１＊６４＋ｆｅ０≧Ｅ１である場合、これは、Ｅ１（又は行）パッド要素である。
そうでない場合、汎用４Ｄテンソルにおける対応する要素は、
［ｆｅ４］［ｆｅ３］［ｆｅ２］［ｆｅ１＊６４＋ｆｅ０］である。
畳み込みニューラルネットワークベースの人工知能モデルについては、フィーチャテンソルの４ディメンションの意味は概して以下にマッピングされ得る。
Ｅ４：Ｎ－ミニバッチのサイズ
Ｅ３：Ｈ－３Ｄテンソル／イメージの高さ
Ｅ２：Ｗ－３Ｄテンソル／イメージの幅
Ｅ１：Ｃ－３Ｄテンソルのチャネル又はクラス
機械学習又はリカレントニューラルネットワークベースの人工知能モデルについては、４Ｄフィーチャテンソルの４ディメンションの意味は、概して以下にマッピングされ得る。
Ｅ４：Ｔ－タイムステップ又はモデルの数
Ｅ３：予約済み、概して１にセットされる
Ｅ２：Ｎｍｂ－ミニバッチサイズ
Ｅ１：Ｌ－フィーチャ
ＮＮＰＡデータレイアウトフォーマット０は、例えば、データの４Ｋバイトブロック（ページ）を有する２ディメンションデータ局所性、及び、生成されたテンソルの外側のディメンションについての４Ｋバイトブロックデータアライメントを提供する。
パッド要素バイトは、入力テンソルでは無視され、出力テンソルでは予測不可能である。パッドバイト上のＰＥＲストレージ変更は予測不可能である。
ディメンションＥ１、Ｅ２、Ｅ３、及びＥ４を有する４Ｄフィーチャテンソルレイアウトについての入力データレイアウトの一例が図５Ａ～図５Ｃに示され、４Ｄフィーチャテンソルレイアウトについての例示的な出力が図６Ａ～図６Ｃに図示される。図５Ａを参照すると、ディメンションＥ１、Ｅ２、及びＥ３を有する３Ｄテンソル５００が示される。一例において、各３Ｄテンソルは、複数の２Ｄテンソル５０２を含む。各２Ｄテンソル５０２における数は、その要素の各々がメモリのどこにあるかのメモリオフセットを説明する。入力は、図５Ａ～図５Ｃに対応する図６Ａ～図６Ｃに示されるように、元のテンソル（例えば、図５Ａ～図５Ｃの元の４Ｄテンソル）のデータをメモリ内にレイアウトするために使用される。
図６Ａにおいて、例として、メモリ６００のユニット（例えば、メモリページ）は、行６０２の予め選択された数（例えば３２）を含み、その各々は、例えば、ｅ２＿ｐａｇｅ＿ｉｄｘによって識別され、各行は、各々が例えばｅ１＿ｐａｇｅ＿ｉｄｘによって識別される予め選択された数（例えば６４）の要素６０４を有する。行が予め選択された数の要素を含まない場合、それは、行又はＥ１パディングと称されるパッド６０６であり；メモリユニットが予め選択された数の行を有しない場合、それは、ページ又はＥ２パディングと称されるパッド６０８である。例として、行パディングは、例えば、ゼロ又は他の値であり、ページパディングは、例えば、既存の値、ゼロ、又は他の値である。
一例において、行の出力要素は、その対応する入力のＥ１方向における要素位置に基づいて、メモリにおいて（例えばページにおいて）提供される。例えば、図５Ａを参照すると、示される３つの行列の要素位置０、１および２（例えば、各行列における同一位置の要素位置）が図６Ａなどのページ０の行０に示される。この例において、４Ｄテンソルは小さく、４Ｄテンソルを表す各２Ｄテンソルの要素のすべては、１つのページに収まる。しかしながら、これは単なる一例である。２Ｄテンソルは、１又は複数のページを含み得る。２Ｄテンソルが、４Ｄテンソルのリフォーマットに基づいて生成される場合、２Ｄテンソルのページの数は、４Ｄテンソルのサイズに基づく。一例において、１又は複数のセル関数は、いくつのページが使用されるかを示す、２Ｄテンソルにおける行の数、及び、各行における要素の数を判定するために使用される。他の変形が可能である。
４Ｄフィーチャテンソルレイアウトに加えて、一例において、ニューラルネットワークプロセッサは、４Ｄテンソルの要素を再構成する４Ｄカーネルテンソルをサポートし、畳み込みなどの特定の人工知能（例えば、ニューラルネットワーク処理支援）演算を実行するときのメモリアクセス及びデータ収集段階の数を低減し得る。例として、ディメンションＥ４、Ｅ３、Ｅ２、Ｅ１を用いる行優先汎用４Ｄテンソルが、本明細書において説明されるＮＮＰＡデータレイアウトフォーマット１ ４Ｄカーネルテンソル（４Ｄ－ｋｅｒｎｅｌ ｔｅｎｓｏｒ）に変換される。
結果として得られるテンソルは、例えば６４要素ベクトルの４Ｄテンソル、又は、以下のディメンションを有する５Ｄテンソルとして表され得る。
Figure 2024523098000011
 ここで、
Figure 2024523098000012
 は、天井（ｃｅｉｌ）関数を指す。（換言すると、Ｅ４＊Ｅ３＊ｃｅｉｌ（Ｅ２／３２）＊３２＊ｃｅｉｌ（Ｅ１／６４）＊６４要素。）
汎用テンソルの要素［ｅ４］［ｅ３］［ｅ２］［ｅ１］は、結果として得られる５Ｄテンソルの以下の要素にマッピングされ得る。
Figure 2024523098000013
 ここで、
Figure 2024523098000014
 は床（ｆｌｏｏｒ）関数を指し、ｍｏｄはモジュロである。換言すると、（
Figure 2024523098000015
 ＊Ｅ４＊Ｅ３＊ｅ２＿ｌｉｍｉｔ＊６４）＋（ｅ４ｘ＊Ｅ３＊ｅ２＿ｌｉｍｉｔ＊６４）＋（ｅ３ｘ＊ｅ２＿ｌｉｍｉｔ＊６４）＋（ｅ２ｘ＊６４）＋（ｅ１ ｘ ｍｏｄ ６４）、ここで、ｅ２＿ｌｉｍｉｔ＝
Figure 2024523098000016
 ＊３２、及び、ｅ１＿ｌｉｍｉｔ ＝
Figure 2024523098000017
 ＊６４である。
結果として得られるテンソルは、汎用テンソルより大きいことがあり得る。汎用テンソルにおける対応する要素が無い結果として得られるテンソルの要素は、パッド要素と呼ばれる。
６４要素ベクトルのＮＮＰＡデータレイアウトフォーマット１ ４Ｄフィーチャテンソルの要素［ｆｅ１］［ｆｅ４］［ｆｅ３］［ｆｅ２］［ｆｅ０］、又は同等の表現を要素の５Ｄテンソルとして考える。この要素はパッド要素であるか、又は、ディメンションＥ４、Ｅ３、Ｅ２、Ｅ１を有する汎用４Ｄテンソルにおけるその対応する要素は、以下の式で判定され得る。
ｆｅ２≧Ｅ２である場合、これは、Ｅ２（又はページ）パッド要素である。
そうでない場合であって、ｆｅ１＊６４＋ｆｅ０≧Ｅ１である場合、これは、Ｅ１（又は行）パッド要素である。
そうでない場合、汎用４Ｄテンソルにおける対応する要素は、
［ｆｅ４］［ｆｅ３］［ｆｅ２］［ｆｅ１＊６４＋ｆｅ０］
畳み込みニューラルネットワークベースの人工知能モデルについては、カーネルテンソルの４ディメンションの意味は概して以下にマッピングされ得る。
Ｅ４：Ｈ－３Ｄテンソル／イメージの高さ
Ｅ３：Ｗ－３Ｄテンソル／イメージの幅
Ｅ２：Ｃ－３Ｄテンソルのチャネルの数
Ｅ１：Ｋ－カーネルの数
ＮＮＰＡデータレイアウトフォーマット１は、例えば、４ｋバイトブロックのデータ（ページ）内の２ディメンションカーネル並列性、及び、４ｋバイトブロックデータアライメントを、効率的な処理のために、生成テンソルの外側のディメンションに提供する。
パッドバイトは、入力テンソルの場合に無視される。パッドバイト上のＰＥＲストレージ変更は予測不可能である。
同様に、例示的なデータレイアウトフォーマットは、４Ｄフィーチャテンソルレイアウト及び４Ｄカーネルテンソルレイアウトを含むが、他のデータレイアウトフォーマットがプロセッサ（例えばニューラルネットワークプロセッサ１０５）によってサポートされ得る。サポートされるデータレイアウトのインジケーションが取得され、例えばフィールド３３８における１又は複数のビットをセットすることによってクエリパラメータブロックに配置される。
クエリパラメータブロックはまた、本発明の１又は複数の態様による、例えばデータについてのサポートされるサイズ情報を含む、他のデータ属性情報を含む。ニューラルネットワークプロセッサなどのプロセッサは通常、テンソルディメンションの最大サイズ及び／又はテンソルの全体サイズを制限し得る、内部バッファサイズ、処理ユニット、データバス構造、ファームウェアの制限などに基づく制限を有する。したがって、クエリ関数は、これらの制限をアプリケーションに伝えるためのフィールドを提供する。例えば、プロセッサは、クエリ関数の実行に基づいて、最大ディメンションインデックスサイズ（例えば、６５，５３６の要素）などの様々なデータサイズ、及び、最大テンソルサイズ（例えば、８ＧＢ）を取得し、パラメータブロック（例えば、パラメータブロック３３０）のフィールド３４０および３４２におけるこの情報をそれぞれ含む。より多くの、より少ない、及び／又は、他のサイズ情報も、プロセッサ（例えば、ニューラルネットワークプロセッサ１０５）によってサポートされ、したがって、パラメータブロック、例えば、フィールド３４０、３４２及び／又は他のフィールドに取得及び配置され得る。他の実施形態において、制限は、より小さい、又は、より大きいことがあり得、及び／又は、サイズは、要素でなくバイトなどの他の単位、バイトではなく要素などであり得る。更に、他の実施形態は、すべてのディメンションについて同一の最大値ではなく、各ディメンションの異なる最大サイズを可能にする。多くの変形例が可能である。
本発明の１又は複数の態様によれば、選択されたプロセッサ（例えば、ニューラルネットワークプロセッサ１０５）の特定のモデルに関連する詳細情報を伝えるクエリ関数が提供される。詳細情報は、例えば、特定のプロセッサに関連するモデル依存情報を含む。（プロセッサはまた、暗黙であり必ずしもクエリ関数によって提示されない、標準データ型、標準データレイアウトなどの、標準データ属性をサポートし得る；他の実施形態において、クエリ関数は、データ属性のすべての、又は、様々な選択されたサブセットなどを示し得る。）例示的な情報が提供されるが、他の情報が他の実施形態において提供され得る。プロセッサの異なるモデル、及び／又は、異なるプロセッサについて異なり得る、取得された情報が、人工知能及び／又は他の処理を実行するために使用される。人工知能及び／又は他の処理は、例えばニューラルネットワーク処理支援命令の１又は複数の非クエリ関数を採用し得る。処理において採用される特定の非クエリ関数は、ニューラルネットワーク処理支援命令を１又は複数の回数にわたって実行し、非クエリ固有関数を指定することによって実行される。
ニューラルネットワーク処理支援命令によってサポートされる非クエリ関数の例は、ＡＶＧＰＯＯＬ２Ｄ関数及びＭＡＸＰＯＯＬ２Ｄ関数を含み、その各々は下で説明される（より多くの、より少ない、及び／又は、他の関数が１又は複数の実施形態においてサポートされる）。
関数コード８０：ＮＮＰＡ－ＭＡＸＰＯＯＬ２Ｄ
関数コード８１：ＮＮＰＡ－ＡＶＧＰＯＯＬ２Ｄ
ＮＮＰＡ－ＭＡＸＰＯＯＬ２Ｄ又はＮＮＰＡ－ＡＶＧＰＯＯＬ２Ｄ関数のいずれかが指定されるとき、入力テンソル１記述子（例えば図３Ｇを参照）によって説明される入力テンソル１が、入力のウィンドウをまとめるための指定された演算によって低減される。入力のウィンドウは、ディメンション２および３上で２Ｄスライディングウィンドウを移動させることによって選択される。ウィンドウの概要は、出力テンソルにおける要素である。スライディングウィンドウディメンションは、例えば、関数特有のパラメータ４及び関数特有のパラメータ５によって説明される。隣の出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル１の上を移動する量は、ストライドと呼ばれる。スライディングウィンドウストライドは、例えば、関数特有のパラメータ２及び関数特有のパラメータ３によって指定される。ＮＮＰＡ－ＭＡＸＰＯＯＬ２Ｄ演算が指定されるとき、下で定義されるＭａｘ演算がウィンドウに対して実行される。ＮＮＰＡ－ＡＶＧＰＯＯＬ２Ｄ演算が指定されるとき、下で定義されるＡＶＧ演算がウィンドウに対して実行される。指定されたパディングタイプがＶａｌｉｄである場合、ウィンドウにおけるすべての要素が、結果として得られる出力要素を計算するために使用される集合に追加される。指定されたパディングタイプが同一である場合、ウィンドウの位置に依存して、ウィンドウからの要素のサブセットのみが、結果として得られる出力要素を計算するために使用される集合に追加され得る（例えば、テンソルの境界の外側にあるそれらの要素は無視され得る）。
一例において、ＣｏｌｌｅｃｔＥｌｅｍｅｎｔｓ演算は、要素を要素の集合に追加し、集合における要素の数をインクリメントする。ウィンドウ開始位置が移動するたびに集合が空になる。演算を実行するのに必要でない要素がアクセスされるかどうかは予測不可能である。
Ｍａｘ演算：一例において、ウィンドウにおける要素の集合の最大値は、集合におけるすべての要素を互いに比較し、最大値を返すことによって計算される。
ＡＶＧ（平均）演算：一例において、ウィンドウにおける要素の集合の平均値は、例えば、集合におけるすべての要素を集合における要素の数で除算した値の和として計算される。
一例において、フィールドが以下のとおり割り当てられる。
＊ プーリング関数特有のパラメータ１はパディングタイプを制御する。例えば、関数特有のパラメータ１のビット２９～３１は、パディングタイプを指定するパッドフィールドを含む。タイプの例は、例えば以下を含む。
パッド パディングタイプ
０ 有効
１ 同一
２～７ 予約済み
予約された値が、パッドフィールドについて指定される場合、例えば、Ｆ０００ ｈｅｘの応答コードが報告され、演算は、条件コード、例えば１で完了する。
一例において、関数特有のパラメータ１のビット位置０～２８は予約され、ゼロを含む。
＊ 関数特有のパラメータ２は、例えば、ディメンション２においてスライディングウィンドウが移動する要素の数（ｅ２とも称される）を指定するディメンション２ストライド（Ｄ２Ｓ）を指定する３２ビット符号なしバイナリ整数を含む。
＊ 関数特有のパラメータ３は、例えば、ディメンション３においてスライディングウィンドウが移動する要素の数（ｅ３とも称される）を指定するディメンション３ストライド（Ｄ３Ｓ）を指定する３２ビット符号なしバイナリ整数を含む。
＊ 関数特有のパラメータ４が、例えば、スライディングウィンドウが含むディメンション２における要素の数を指定するディメンション２ウィンドウサイズ（Ｄ２ＷＳ）を指定する３２ビット符号なしバイナリ整数を含む。
＊ 関数特有のパラメータ５は、例えば、スライディングウィンドウが含むディメンション３における要素の数を指定するディメンション３ウィンドウサイズ（Ｄ３ＷＳ）を指定する３２ビット符号なしバイナリ整数を含む。
一例において、関数特有のパラメータ２－５における指定された値は、最大ディメンションインデックスサイズより小さい又はそれに等しく、関数特有のパラメータ４－５における指定された値は、例えばゼロより大きく；さもなければ、応答コード、例えば、００１２ ｈｅｘが報告され、演算は、条件コード、例えば１で完了する。
ディメンション２ストライド及びディメンション３ストライドの両方がゼロである、及び、ディメンション２ウィンドウサイズ又はディメンション３ウィンドウサイズのいずれかが、例えば１０２４より大きい場合、応答コード、例えばＦ００１ ｈｅｘが格納される。ディメンション２ストライド及びディメンション３ストライドの両方が、例えばゼロより大きい、及び、ディメンション２ウィンドウサイズ又はディメンション３ウィンドウサイズのいずれかが、例えば６４より大きい場合、応答コード、例えばＦ００２ ｈｅｘが格納される。ディメンション２ストライド及びディメンション３ストライドの両方が、例えばゼロより大きい、及び、ディメンション２ストライド又はディメンション３のストライドのいずれかが、例えば３０より大きい場合、応答コード、例えばＦ００３ ｈｅｘが格納される。ディメンション２ストライド及びディメンション３ストライドの両方が、例えばゼロより大きい、及び、入力テンソルディメンション２インデックスサイズ又は入力テンソルディメンション３インデックスサイズのいずれかが、例えば１０２４より大きい場合、応答コード、例えばＦ００４ ｈｅｘが格納される。上の条件のすべてについて、命令は、条件コード、例えば１で完了する。
一例において、指定されたテンソル記述子のいずれかにおける指定されたデータレイアウトが、４Ｄフィーチャテンソルを指定しない場合（例えば、データレイアウト＝０）、又は、いずれかの指定されたテンソル記述子におけるデータ型が、ＮＮＰデータタイプ１を指定しない場合（例えば、データ型＝０）、応答コード、例えば、００１０ ｈｅｘ又は００１１ ｈｅｘがそれぞれ汎用レジスタ０においてセットされ、命令は、条件コード、例えば１で完了する。
一例において、以下の条件が真であり、さもなければ、汎用オペランドデータ例外が認識される。
＊ 入力テンソル及び出力テンソルのディメンション４インデックスサイズ及びディメンション１インデックスサイズは同一である。
＊ 入力テンソル及び出力テンソルのデータレイアウト及びデータ型は同一である。
＊ ディメンション２ストライド及びディメンション３ストライドの両方がゼロである場合（例えば、ＡＶＧＰＯＯＬ２Ｄ関数の平均－低減演算を指定する）、一例において、以下の追加の条件が真である。
＊ 入力テンソルディメンション２インデックスサイズは、ディメンション２ウィンドウサイズに等しい。
入力テンソルディメンション３インデックスサイズは、ディメンション３ウィンドウサイズに等しい。
出力テンソルのディメンション２インデックスサイズ及びディメンション３インデックスサイズは１である。
＊ 指定されたパディングは有効である。
＊ ディメンション２ストライド又はディメンション３ストライドのいずれかが非ゼロである場合、一例において、両方のストライドは非ゼロである。
＊ ディメンション２ストライド及びディメンション３ストライドの両方がゼロより大きい場合（例えば、ＡＶＧＰＯＯＬ２Ｄ関数のプーリング演算を指定する）、一例において、以下の追加の条件が真である。
指定されたパディングが有効であるとき、ディメンション２ウィンドウサイズは、入力テンソルのディメンション２インデックスサイズより小さい又はそれに等しい。
指定されたパディングが有効であるとき、ディメンション３ウィンドウサイズは、入力テンソルのディメンション３インデックスサイズより小さい又はそれに等しい。
＊ 指定されたパディングが同一であるとき、入力及び出力テンソルのディメンション２インデックスサイズ及びディメンション３インデックスサイズの間の以下の関係が満たされる（Ｐｏｏｌｉｎｇ Ｓａｍｅ Ｐａｄｄｉｎｇ）。
Figure 2024523098000018
Figure 2024523098000019
ここで、
ＩｘＤｙＩＳ：テンソル記述子ｘにおいて定義される入力テンソルｘのディメンションｙインデックスサイズ
ＯｘＤｙＩＳ：テンソル記述子ｘにおいて定義される出力テンソルｘのディメンションｙインデックスサイズ
Ｄ２Ｓ：ディメンション２ストライド
Ｄ３Ｓ：ディメンション３ストライド
＊ 指定されたパディングが有効であるとき、入力及び出力テンソルのディメンション２インデックスサイズ及びディメンション３インデックスサイズの間の以下の関係が満たされる（Ｐｏｏｌｉｎｇ Ｖａｌｉｄ Ｐａｄｄｉｎｇ）。
Figure 2024523098000020
Figure 2024523098000021
ここで、Ｄ２ＷＳは、ディメンション２ウィンドウサイズであり、Ｄ３ＷＳは、ディメンション３ウィンドウサイズである。
出力テンソル記述子２、入力テンソル記述子２および３、及び関数特有の保存エリアアドレスフィールドが無視される。
ニューラルネットワーク処理支援命令については、一実施形態において、出力テンソルが入力テンソル又はパラメータブロックのいずれかと重なる場合、結果は予測不可能である。
ニューラルネットワーク処理支援命令の実行が試みられ、パラメータブロックが例えばダブルワード境界上で例として指定されないとき、仕様例外が認識される。
ニューラルネットワーク処理支援命令の実行が試みられ、例えば、テンソル記述子の不整合があるとき、汎用オペランドデータ例外が認識される。
ニューラルネットワーク処理支援命令についての結果として得られる条件コードは、例えば、０－正常完了；１－応答コードがセットされる；２－；３－ＣＰＵによって判定された量のデータが処理される、を含む。
一実施形態において、ニューラルネットワーク処理支援命令についての実行の優先度は、例えば以下を含む。
１－７．一般的な場合についてのプログラム割り込み条件の優先度と同一の優先度を有する例外
８．Ａ 割り当てられていない又はインストールされていない関数コードが指定されることに起因する条件コード１
８．Ｂ ダブルワード境界上で指定されていないパラメータブロックに起因する仕様例外
９．パラメータブロックへのアクセスについてのアクセス例外
１０．モデルによってサポートされないパラメータブロックの指定されたフォーマットに起因する条件コード１。
１１．Ａ 指定されたテンソルデータレイアウトがサポートされていないことに起因する条件コード１
１１．Ｂ テンソル記述子間の異なるデータレイアウトに起因する汎用オペランドデータ例外
１２．Ａ 上の項目８．Ａ、１０、及び１１．Ａ並びに下の１２．Ｂ．１に含まれるもの以外の条件に起因する条件コード１。
１２．Ｂ．１ ＮＮＰＡ－ＲＥＬＵ 及びＮＮＰＡ－ＣＯＮＶＯＬＵＴＩＯＮについての無効な出力テンソルデータ型に起因する条件コード１
１２．Ｂ．２ ＮＮＰＡ－ＲＥＬＵ関数特有のパラメータ１及びＮＮＰＡ－ＣＯＮＶＯＬＵＴＩＯＮ関数特有のパラメータ４についての無効な値についての汎用オペランドデータ例外
１３．Ａ 出力テンソルへのアクセスのためのアクセス例外
１３．Ｂ 入力テンソルへのアクセスのためのアクセス例外
１３．Ｃ 関数特有の保存エリアへのアクセスについてのアクセス例外
１４．条件コード０
本明細書において説明されるように、単一命令（例えば、ニューラルネットワーク処理支援命令）は、クエリ関数及び複数の非クエリ関数を含む複数の関数を実行するように構成されている。少なくとも１つの非クエリ関数、ＡＶＧＰＯＯＬ２Ｄ関数は、複数の演算（例えば、平均－低減及びプーリング）を実装するように構成されている。１つの関数を使用して複数の演算を実行することによって、例として、重複する符号化及び検証が除去される。実行される特定の演算は、関数への選択入力パラメータの値に依存する。同一の入力パラメータが、関数の両方の演算に使用されるが、選択パラメータの異なる値は、実行される演算を示し、他の入力パラメータの異なる境界チェックをもたらす。平均－低減及びプーリング演算は異なるように実行するが、それらは、同一の入力テンソル及び関数特有のパラメータを有するが異なる相対的制約を有する共通のアルゴリズム演算にアルゴリズム的に低減され得る。１つの相違点は、２つの演算の間で異なる条件（例えば、ストライド、ウィンドウサイズ）をチェックすることである。本明細書において説明されるように、複数の演算を実行する命令の単一関数が提供され、パラメータのいくつかに対する両方の演算についての異なる境界チェックを実装する。これにより、少なくとも、コードの複雑性、コードの重複、及び検証の労力を低減する。
本発明の１又は複数の態様は、コンピュータ技術と密接に結び付いており、コンピュータ内の処理を促進し、その性能を改善する。様々な関数を実行するように構成されているシングルアーキテクチャマシン命令の使用は、複雑性を低減し、リソースの使用を低減し、処理速度を増加することにより、コンピューティング環境内の性能を改善する。複数の演算を実装するための単一関数の使用は、複雑性、リソースの使用、符号化及び／又は検証の労力を低減し、システム性能を改善する。命令、関数、及び／又は演算は、コンピュータ処理、医療処理、エンジニアリング、自動車技術、製造業などの多くの技術分野において使用され得る。最適化を提供することによって、これらの技術分野は、例えば、エラー及び／又は実行時間を低減することによって改善される。
本発明の１又は複数の態様に関連する、コンピューティング環境内の処理を促進する一実施形態の更なる詳細が、図７Ａ～図７Ｃを参照して説明される。
図７Ａを参照すると、実行される関数のインジケーションが取得され、ここで、関数は、命令の１つの関数であり、複数の演算７００を実行するように構成されている。複数の演算のうちの実行されるべき演算が判定され７０２、値のセット及び対応する関係のセットを使用して関数特有のパラメータのセットがバリデートされる７０４。値のセット及び対応する関係のセットは、実行される演算に基づく７０６。例として、値の１つのセット、及び、対応する関係のセットは、実行される演算に使用され７０８、別の値のセット、及び、対応する関係のセットが、複数の演算のうちの別の演算に使用される７１０。
単一関数、例えば、設計された命令の単一関数を使用して、演算パラメータごとのバリデーションを伴う複数の演算を実行することにより、コードの複雑性、コードの重複、及び／又は、検証の労力が低減され、システム性能が改善する。
一例において、実行される演算を判定することは、少なくとも１つの特定の値に対して１又は複数の関数特有のパラメータをチェックすることを含む７２０。少なくとも１つの特定の値に関する第１選択関係を有する１又は複数の関数特有のパラメータに基づいて、演算は１つの演算であり７２２、少なくとも１つの特定の値に関して第２選択関係を有する１又は複数の関数特有のパラメータに基づいて、演算は別の演算である７２４。
同一の関数特有のパラメータ、異なる関係を使用して、実行される演算を判定することによって、コードの複雑性及び検証の労力が低減される。
例として、関数は平均プール関数を含み、１又は複数の関数特有のパラメータは、１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル上を移動する量であり、少なくとも１つの特定の値はゼロを含み、第１選択関係は、等しいことを含み、演算は、１又は複数のストライド値がゼロに等しいことに基づく平均－低減（ｍｅａｎ－ｒｅｄｕｃｅ）演算である７２６。
更に、一例において、図７Ｂを参照すると、第２選択関係は、より大きいことを含み、演算は、１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である７２８。
例として、関数特有のパラメータのセットは、１又は複数の選択ディメンションウィンドウサイズ値を含む７３０。選択ディメンションウィンドウサイズ値は、スライディングウィンドウが含む選択ディメンションにおける要素の数を指定し７３２、スライディングウィンドウは、関数の入力テンソル上を移動して出力テンソルを生成するように構成されている７３４。
一例において、関数は平均プール関数を含み、演算は平均－低減演算を含み、関数特有のパラメータのセットをバリデートするために使用される値のセット及び対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及び等しいことである対応する関係、選択入力テンソルの別のディメンションの別の値及び等しいことである対応する関係、並びに、選択値及びより小さい又は等しいことである対応する関係を含む７４０。
バリデートは、例えば、ディメンション２ウィンドウサイズの値が第１入力テンソルのディメンション２の値に等しいこと、ディメンション３ウィンドウサイズの値が第１入力テンソルのディメンション３の値に等しいこと、ディメンション２ウィンドウサイズの値が選択値より小さい又はそれに等しいこと、及び、ディメンション３ウィンドウサイズの値が選択値より小さい又はそれに等しいことをチェックすることを含む７４６。
一例において、図７Ｃをを参照すると、関数は平均プール関数を含み、演算はプーリング演算を含み、関数特有のパラメータのセットをバリデートするために使用される値のセット及び対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及びより小さい又は等しいことである対応する関係、並びに、選択入力テンソルの別のディメンションの別の値及びより小さい又は等しいことである対応する関係を含む７５０。
バリデートは、例えば、ディメンション２ウィンドウサイズの値が、第１入力テンソルのディメンション２の値より小さい又はそれに等しいこと、及び、ディメンション３ウィンドウサイズの値が第１入力テンソルのディメンション３の値より小さい又はそれに等しいことをチェックすることを含む７５６。
一例において、パディングのタイプが特定のタイプにセットされるかどうかについて判定が行われ、ここで、パディングのタイプは、ウィンドウのどの要素が出力を計算することに使用されるかを示し、１又は複数の実施形態、例えばプーリング演算では、パディングのタイプが特定のタイプにセットされることに基づいて、バリデートが実行される７６０。更に、一例において、パディングのタイプが特定のタイプにセットされないことに基づいて、出力テンソルの１又は複数のディメンションに関連する１又は複数のチェックが実行される７６２。
一例において、演算を判定することは、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき７７０、関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む７７２。
他の変形例および実施形態も可能である。
本発明の態様は、多くのタイプのコンピューティング環境によって使用され得る。本発明の１又は複数の態様を組み込み使用するためのコンピューティング環境の別の例が図８Ａを参照して説明される。例として、図８Ａのコンピューティング環境は、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ（登録商標）命令セットアーキテクチャに基づく。しかしながら、ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャは、単なる１つの例示的なアーキテクチャである。同様に、コンピューティング環境は、Ｉｎｔｅｌ（登録商標）ｘ８６アーキテクチャ、インターナショナルビジネスマシンズコーポレーションの他のアーキテクチャ、及び／又は、他の企業のアーキテクチャを含むがこれらに限定されない他のアーキテクチャに基づき得る。Ｉｎｔｅｌは、インテルコーポレーション、又は、米国及び他の国における子会社の商標又は登録商標である。
一例において、コンピューティング環境１０は、中央電子処理装置（ＣＥＣ）１１を含む。中央電子処理装置１１は、例えば、１又は複数の汎用プロセッサ（すなわち中央処理装置（ＣＰＵ）１３）及び１又は複数の特定用途向けプロセッサ（例えば、ニューラルネットワークプロセッサ３１）などの１又は複数のプロセッサ、並びに、入出力（Ｉ／Ｏ）サブシステム１４に結合されたメモリ１２（すなわち、システムメモリ、メインメモリ、メインストレージ、中央ストレージ、ストレージ）などの複数のコンポーネントを含む。
例として、１又は複数の特定用途向けプロセッサは、１又は複数の汎用プロセッサとは別であり得、及び／又は、少なくとも１つの専用プロセッサは、少なくとも１つの汎用プロセッサ内に組み込まれ得る。他の変形例も適用可能である。
Ｉ／Ｏサブシステム１４は、中央電子処理装置の一部、又はそこから分離されたものであり得る。それは、メインストレージ１２と、中央電子処理装置に連結された入出力制御部１５および入出力（Ｉ／Ｏ）デバイス１６との間の情報の流れを指示する。
多くのタイプのＩ／Ｏデバイスが使用され得る。１つの特定のタイプは、データストレージデバイス１７である。データストレージデバイス１７は、１又は複数のプログラム１８、１又は複数のコンピュータ可読プログラム命令１９、及び／又はデータなどを格納し得る。コンピュータ可読プログラム命令は、本発明の態様の実施形態の機能を実行するように構成され得る。
中央電子処理装置１１は、取り外し可能／取り外し不可能、揮発性／不揮発性コンピュータシステム記憶媒体に含まれる及び／又は連結され得る。例えば、それは、取り外し不可能な不揮発性磁気媒体（通常、「ハードドライブ」と呼ばれる）、取り外し可能な不揮発性磁気ディスク（例えば、「フロッピディスク」）から読み取る又はそこに書き込むための磁気ディスクドライブ、及び／又は、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ又は他の光媒体などの取り外し可能な不揮発性光ディスクから読み取る又はそこに書き込むための光ディスクドライブに含まれる及び／又は連結され得る。他のハードウェア及び／又はソフトウェアコンポーネントが、中央電子処理装置１１と併せて使用され得ることを理解されたい。例は、マイクロコード又はミリコード、デバイスドライバ、冗長処理ユニット、外部ディスクドライブアレイ、ＲＡＩＤシステム、テープドライブ、及びデータアーカイブストレージシステムなどを含むが、これらに限定されない。
さらに、中央電子処理装置１１は、多数の他の汎用又は専用コンピューティングシステム環境又は構成とともに動作可能であり得る。中央電子処理装置１１と共に使用するのに好適であり得る周知のコンピューティングシステム、環境、及び／又は構成の例は、上のシステム又はデバイス及び同様のもののいずれかを含む、パーソナルコンピュータ（ＰＣ）システム、サーバコンピュータシステム、シンクライアント、シッククライアント、ハンドヘルド又はラップトップデバイス、マルチプロセッサシステム、マイクロプロセッサベースシステム、セットトップボックス、プログラマブルコンシューマエレクトロニクス、ネットワークＰＣ、ミニコンピュータシステム、メインフレームコンピュータシステム、及び分散クラウドコンピューティング環境を含むが、これらに限定されない。
中央電子処理装置１１は、１又は複数の実施形態において、論理パーティション及び／又は仮想化サポートを提供する。一実施形態において、図８Ｂに示されるように、メモリ１２は、例えば、１又は複数の論理パーティション２０、論理パーティションを管理するハイパーバイザ２１、およびプロセッサファームウェア２２を含む。ハイパーバイザ２１の１つの例としては、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるプロセッサリソース／システムマネージャ（ＰＲ／ＳＭＴＭ）がある。ＰＲ／ＳＭは、少なくも１つの法域におけるインターナショナルビジネスマシンズコーポレーションの商標又は登録商標である。
各論理パーティション２０は、別個のシステムとして機能することが可能である。すなわち、各論理パーティションは、独立にリセットされ得、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるｚ／ＯＳ（登録商標）オペレーティングシステムなどのゲストオペレーティングシステム２３、又は、カップリングファシリティコントロールコード（ＣＦＣＣ）などの他の制御コード２４を実行し、異なるプログラム２５を用いて演算する。論理パーティションにおいて実行されているオペレーティングシステム又はアプリケーションプログラムは、全体の且つ完全なシステムへのアクセスを有するように見えるが、実際には、その一部のみが利用可能である。ｚ／ＯＳオペレーティングシステムが一例として提供されているが、インターナショナルビジネスマシンズコーポレーション及び／又は他の企業によって提供される他のオペレーティングシステムが、本発明の１又は複数の態様に従って使用され得る。
メモリ１２は例えば、論理パーティションに割り当てられ得る物理的プロセッサリソースであるＣＰＵ１３（図８Ａ）に結合される。例えば、論理パーティション２０は、１又は複数の論理プロセッサを含み得、その各々は、論理パーティションに動的に割り当てられ得る物理プロセッサリソース１３のすべて又は一部を表す。
さらに別の実施形態において、中央電子処理装置は、仮想マシンサポート（論理パーティションサポートを有するもの又は有しないもののいずれか）を提供する。図８Ｃに示されるように、中央電子処理装置１１のメモリ１２は、例えば、１又は複数の仮想マシン２６と、仮想マシンを管理するハイパーバイザ２７などの仮想マシンマネージャと、プロセッサファームウェア２８とを含む。ハイパーバイザ２７の１つの例としては、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるｚ／ＶＭ（登録商標）ハイパーバイザがある。ハイパーバイザは、場合によっては、ホストと称される。ｚ／ＶＭは、少なくも１つの法域におけるインターナショナルビジネスマシンズコーポレーションの商標又は登録商標である。
中央電子処理装置の仮想マシンサポートは、多くの数の仮想マシン２６を演算する能力を提供し、その各々は、異なるプログラム２９を用いて演算し、Ｌｉｎｕｘ（登録商標）オペレーティングシステムなどのゲストオペレーティングシステム３０を実行することが可能である。各仮想マシン２６は、別個のシステムとして機能することが可能である。すなわち、各仮想マシンは独立してリセットされ、ゲストオペレーティングシステムを実行し、異なるプログラムとともに動作し得る。仮想マシンにおいて実行されているオペレーティングシステム又はアプリケーションプログラムは、全体の且つ完全なシステムへのアクセスを有するように見えるが、実際には、その一部のみが利用可能である。ｚ／ＶＭおよびＬｉｎｕｘが例として提供されているが、他の仮想マシンマネージャ及び／又はオペレーティングシステムが、本発明の１又は複数の態様に従って使用され得る。登録商標であるＬｉｎｕｘ（登録商標）は、世界的に当該商標の所有者であるＬｉｎｕｓ Ｔｏｒｖａｌｄｓの専用ライセンシであるＬｉｎｕｘ Ｆｏｕｎｄａｔｉｏｎからのサブライセンスに従って使用されている。
本発明の１又は複数の態様を組み込みおよび使用するためのコンピューティング環境の別の実施形態は、図９Ａを参照して説明される。この例において、コンピューティング環境３６は、例えば、例えば１又は複数のバス４０及び／又は他のタイプの接続を介して互いに連結されている、ネイティブ中央処理装置（ＣＰＵ）３７、メモリ３８、および、１又は複数の入出力デバイス及び／又はインタフェース３９を含む。例として、コンピューティング環境３６は、ニューヨーク州アーモンクのインターナショナルビジネスマシンズコーポレーションによって提供されるＰｏｗｅｒＰＣ（登録商標）プロセッサ；カリフォルニア州パロアルトのＨｅｗｌｅｔｔ Ｐａｃｋａｒｄ社によって提供される、Ｉｎｔｅｌ（登録商標）Ｉｔａｎｉｕｍ（登録商標）ＩＩプロセッサを用いるＨＰ Ｓｕｐｅｒｄｏｍｅ；及び／又は、インターナショナルビジネスマシンズコーポレーション、Ｈｅｗｌｅｔｔ Ｐａｃｋａｒｄ、インテルコーポレーション、オラクル及び／又は他社によって提供されるアーキテクチャに基づく他の機械を含み得る。（ＰｏｗｅｒＰＣは、少なくとも１つの法域におけるインターナショナルビジネスマシンズコーポレーションの商標又は登録商標である）。Ｉｔａｎｉｕｍは、米国および他の国におけるインテルコーポレーション又はその子会社の商標又は登録商標である。
ネイティブ中央処理装置３７は、環境内における処理中に使用される１又は複数の汎用レジスタ及び／又は１又は複数の専用レジスタ又などの、１又は複数のネイティブレジスタ４１を含む。これらのレジスタは、任意の特定時点における環境の状態を表す情報を含む。
さらに、ネイティブ中央処理装置３７は、メモリ３８に格納されている命令およびコードを実行する。１つの特定の例において、中央処理装置は、メモリ３８に格納されているエミュレータコード４２を実行する。このコードは、１つのアーキテクチャにおいて構成されているコンピューティング環境が別のアーキテクチャをエミュレートすることを可能にする。例えば、エミュレータコード４２は、ＰｏｗｅｒＰＣプロセッサ、ＨＰ Ｓｕｐｅｒｄｏｍｅサーバ、又はその他などの、ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャ以外のアーキテクチャに基づくマシンがｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャをエミュレートすること、及び、ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャに基づいて開発されたソフトウェア及び命令を実行することを可能にする。
エミュレータコード４２に関連するさらなる詳細が、図９Ｂを参照して説明される。メモリ３８に格納されているゲスト命令４３は、ネイティブＣＰＵ３７以外のアーキテクチャにおいて実行されるように開発されたソフトウェア命令（例えば、マシン命令と相互に関連付けられた）を備える。例えば、ゲスト命令４３は、ｚ／Ａｒｃｈｉｔｅｃｔｕｒｅ命令セットアーキテクチャに基づくプロセッサ上で実行するように設計され得るが、代わりに、例えばＩｎｔｅｌ Ｉｔａｎｉｕｍ ＩＩプロセッサであり得るネイティブＣＰＵ３７上でエミュレートされている。一例において、エミュレータコード４２は、メモリ３８から１又は複数のゲスト命令４３を取得することと、取得された命令に対してローカルバッファリングを任意選択的に提供することとを行うための命令フェッチルーチン４４を含む。それはまた、取得されたゲスト命令のタイプを判定することと、ゲスト命令を１又は複数の対応するネイティブ命令４６に変換することとを行うための命令変換ルーチン４５を含む。この変換は、例えば、ゲスト命令によって実行される機能を識別することと、その機能を実行するためのネイティブ命令を選択することとを含む。
さらに、エミュレータコード４２は、ネイティブ命令を実行させるためのエミュレーション制御ルーチン４７を含む。エミュレーション制御ルーチン４７は、ネイティブＣＰＵ３７に、１又は複数の以前に取得されたゲスト命令をエミュレートするネイティブ命令のルーチンを実行させて、そのような実行の終了において、次のゲスト命令又はゲスト命令のグループの取得をエミュレートするための命令フェッチルーチンに制御を返し得る。ネイティブ命令４６の実行は、メモリ３８からレジスタにデータをロードすること；レジスタからメモリにデータを戻して格納すること；又は、変換ルーチンによって判定されるようないくつかのタイプの算術又は論理演算を実行することを含み得る。
各ルーチンは、例えば、メモリに格納され且つネイティブ中央処理装置３７によって実行されるソフトウェアにおいて実装される。他の例において、ルーチン又は動作のうち１又は複数は、ファームウェア、ハードウェア、ソフトウェア又はそれらのいくつかの組み合わせにおいて実装される。エミュレートされたプロセッサのレジスタは、ネイティブＣＰＵのレジスタ４１を使用して、又はメモリ３８における位置を使用してエミュレートされ得る。実施形態において、ゲスト命令４３、ネイティブ命令４６およびエミュレータコード４２は、同じメモリ内に存在し得、又は異なるメモリデバイス間に分散され得る。
エミュレートされ得る命令は、本発明の１又は複数の態様による、本明細書において説明されるニューラルネットワーク支援処理命令を含む。更に、ニューラルネットワーク処理の他の命令、関数、演算、及び／又は１又は複数の態様は、本発明の１又は複数の態様に従ってエミュレートされ得る。
上記のコンピューティング環境は、使用され得るコンピューティング環境の単なる例である。パーティション化されていない環境、パーティション化されている環境、クラウド環境及び／又はエミュレートされた環境を含むが、これらに限定されない他の環境が使用され得、実施形態は、任意の１つの環境に限定されない。コンピューティング環境の様々な例が本明細書に説明されているが、本発明の１又は複数の態様は多くのタイプの環境とともに使用され得る。本明細書に提供されているコンピューティング環境は単なる例である。
各コンピューティング環境は、本発明の１又は複数の態様を含むように構成されることが可能である。
１又は複数の態様が、クラウドコンピューティングに関連し得る。
本開示はクラウドコンピューティングに関する詳細な説明を含むが、本明細書に記載される教示内容の実装は、クラウドコンピューティング環境に限定されないことを理解されたい。むしろ、本発明の実施形態は、現在知られている、又は、今後開発される他の任意のタイプのコンピューティング環境と併せて実装することが可能である。
クラウドコンピューティングは、管理の労力又はサービスのプロバイダとの対話を最小限に抑えながら迅速にプロビジョニング及びリリースされ得る構成可能なコンピューティングリソース（例えば、ネットワーク、ネットワーク帯域幅、サーバ、処理、メモリ、ストレージ、アプリケーション、仮想マシン、及び、サービス）の共有プールに対する便利なオンデマンドネットワークアクセスを可能にするためのサービス提供モデルである。本クラウドモデルは、少なくとも５つの特性、少なくとも３つのサービスモデル、及び少なくとも４つの展開モデルを含んでよい。
特徴は以下のとおりである。
オンデマンドセルフサービス：クラウドコンシューマは、サービスのプロバイダとの人的対話を必要とすることなく、必要に応じて自動的に、サーバ時間及びネットワークストレージなどのコンピューティング能力を一方的にプロビジョニングすることができる。
幅広いネットワークアクセス：能力は、ネットワークを介して利用可能であり、また、異種混交のシンクライアントプラットフォーム又はシッククライアントプラットフォーム（例えば、携帯電話、ラップトップ、及びＰＤＡ（登録商標））による使用を促進する標準的なメカニズムを通じてアクセスされる。
リソースプーリング：プロバイダのコンピューティングリソースは、マルチテナントモデルを用いて複数のコンシューマにサービスを提供するようにプールされており、様々な物理リソース及び仮想リソースが需要に沿って動的に割り当てられ、また再割り当てされる。コンシューマは、概して、提供されたリソースの正確な位置に対して制御又は知識を有していないが、より高いレベルの抽象化（例えば、国、州、又はデータセンタ）において位置を指定することが可能であり得るという点で、一種の位置独立性がある。
迅速な拡張性：能力は迅速に且つ伸縮自在に、場合によっては自動的にプロビジョニングされ、即座にスケールアウトすることも、迅速にリリースして即座にスケールインすることもできる。コンシューマにとって、多くの場合、プロビジョニングのために利用可能な能力は無制限に見え、任意の時点において任意の量で購入され得る。
計測されるサービス：クラウドシステムは、サービスのタイプ（例えば、ストレージ、処理、帯域幅、及びアクティブなユーザアカウント）に適したある抽象化レベルで計量能力を活用することにより、リソースの使用を自動的に制御及び最適化する。リソース使用量をモニタリング、制御及び報告することができ、それにより、利用されるサービスのプロバイダ及びコンシューマの両方に透明性が提供される。
サービスモデルは以下のとおりである。
サービスとしてのソフトウェア（ＳａａＳ）：コンシューマに提供される能力は、クラウドインフラストラクチャ上で動作しているプロバイダのアプリケーションを使用することである。アプリケーションは、ウェブブラウザ（例えば、ウェブベースの電子メール）などのシンクライアントインタフェースを通じて様々なクライアントデバイスからアクセス可能である。コンシューマは、限定されたユーザ固有のアプリケーション構成設定を考え得る例外として、ネットワーク、サーバ、オペレーティングシステム、ストレージ又は更には個々のアプリケーション能力を含む、基礎をなすクラウドインフラストラクチャを管理又は制御しない。
サービスとしてのプラットフォーム（ＰａａＳ）：コンシューマに提供される能力は、プロバイダによってサポートされるプログラミング言語及びツールを用いて作成された、コンシューマが作成又は取得したアプリケーションをクラウドインフラストラクチャ上に展開することである。コンシューマは、ネットワーク、サーバ、オペレーティングシステム、又はストレージを含む、基礎をなすクラウドインフラストラクチャを管理又は制御しないが、展開されたアプリケーション、及び場合によってはアプリケーションホスティング環境構成に対して制御を有する。
サービスとしてのインフラストラクチャ（ＩａａＳ）：コンシューマに提供される能力は、処理、ストレージ、ネットワーク、及び他の基本的なコンピューティングリソースをプロビジョニングすることであり、コンシューマは、オペレーティングシステム及びアプリケーションを含み得る任意のソフトウェアを展開し、動作させることができる。コンシューマは、基礎をなすクラウドインフラストラクチャを管理又は制御しないが、オペレーティングシステム、ストレージ、展開されたアプリケーションに対する制御及び、場合によっては、選択されたネットワーキングコンポーネント（例えば、ホストファイアウォール）に対する限定的な制御を有する。
展開モデルは以下のとおりである。
プライベートクラウド：クラウドインフラストラクチャは、組織のためにのみ運用される。それは、組織又は第三者によって管理されてよく、オンプレミス又はオフプレミスで存在してよい。
コミュニティクラウド：クラウドインフラストラクチャは、複数の組織により共有されており、共通の関心事（例えば、ミッション、セキュリティ要件、ポリシ、及び法令順守に関わる考慮事項）を有する特定のコミュニティをサポートする。コミュニティクラウドは、それらの組織又はサードパーティによって管理されてよく、オンプレミス又はオフプレミスで存在してよい。
パブリッククラウド：クラウドインフラストラクチャは、一般大衆又は大規模な業界団体により利用可能になり、クラウドサービスを販売する組織により所有されている。
ハイブリッドクラウド：クラウドインフラストラクチャは、２又はそれより多くのクラウド（プライベート、コミュニティ、又は、パブリック）を組み合わせたものであり、これらのクラウドは、固有のエンティティであり続けるが、データ及びアプリケーションの移植性（例えば、クラウド間で負荷分散するためのクラウドバースト）を可能にする標準化技術又は独自技術によって結びつけられている。
クラウドコンピューティング環境は、ステートレス性、低結合性、モジュール性、及び意味的相互運用性に重点を置いたサービス指向型である。クラウドコンピューティングの中核には、相互接続されたノードからなるネットワークを含むインフラストラクチャが存在する。
ここで、図１０を参照すると、例示的なクラウドコンピューティング環境５０が示される。図示されている通り、クラウドコンピューティング環境５０は、例えば、パーソナルデジタルアシスタント（ＰＤＡ）又はセルラー電話５４Ａ、デスクトップコンピュータ５４Ｂ、ラップトップコンピュータ５４Ｃ、及び／又は自動車コンピュータシステム５４Ｎなど、クラウドコンシューマによって使用されるローカルコンピューティングデバイスが通信し得る１又は複数のクラウドコンピューティングノード５２を含む。ノード５２は、互いに通信し得る。それらは、上述したようなプライベートクラウド、コミュニティクラウド、パブリッククラウド、又はハイブリッドクラウド、又はその組み合わせなどの、１又は複数のネットワークにおいて物理的に又は仮想的にグループ化（図示せず）されてよい。これは、クラウドコンピューティング環境５０が、インフラストラクチャ、プラットフォーム、及び／又はソフトウェアを、クラウドコンシューマがそのためにローカルコンピューティングデバイス上にリソースを維持する必要がないサービスとして提供することを可能にする。図１０に示されるコンピューティングデバイス５４Ａ－Ｎのタイプは、単なる例示を意図したものであり、コンピューティングノード５２及びクラウドコンピューティング環境５０は、任意のタイプのネットワーク及び／又はネットワークアドレス可能接続を介して（例えば、ウェブブラウザを使用して）、任意のタイプのコンピュータ化デバイスと通信し得るが理解される。
ここで、図１１を参照すると、クラウドコンピューティング環境５０（図１０）によって提供される機能抽象化レイヤのセットが示される。図１１に示されているコンポーネント、層、及び機能が例示のみを意図したものであり、本発明の実施形態がそれらに限定されないことを事前に理解されるべきである。図示されている通り、以下の層及び対応する機能が提供されている。
ハードウェア及びソフトウェア層６０は、ハードウェア及びソフトウェアコンポーネントを備える。ハードウェアコンポーネントの例は、メインフレーム６１；ＲＩＳＣ（縮小命令セットコンピュータ）アーキテクチャベースのサーバ６２；サーバ６３；ブレードサーバ６４；ストレージデバイス６５；及び、ネットワーク及びネットワーキングコンポーネント６６を含む。幾つかの実施形態において、ソフトウェアコンポーネントは、ネットワークアプリケーションサーバソフトウェア６７及びデータベースソフトウェア６８を含む。
仮想化層７０は、仮想サーバ７１、仮想ストレージ７２、仮想プライベートネットワークを含む仮想ネットワーク７３、仮想アプリケーションおよびオペレーティングシステム７４、ならびに仮想クライアント７５である、仮想エンティティの例が提供され得る抽象化層を提供する。
一例において、管理層８０は、以下で説明する機能を提供してもよい。リソースプロビジョニング８１は、クラウドコンピューティング環境内でタスクを実行するために利用される、コンピューティングリソース及び他のリソースの動的な調達を提供する。計量及び価格設定８２は、クラウドコンピューティング環境内でリソースが利用される際のコスト追跡、及びこれらのリソースの消費に対する請求又はインボイス作成を提供する。一例において、これらのリソースは、アプリケーションソフトウェアライセンスを含んでよい。セキュリティは、クラウドコンシューマ及びタスクのアイデンティティ検証、並びに、データ及び他のリソースの保護を提供する。ユーザポータル８３は、コンシューマ及びシステム管理者のために、クラウドコンピューティング環境へのアクセスを提供する。サービスレベル管理８４は、必要とされるサービスレベルが満たされるように、クラウドコンピューティングリソース割り当て及び管理を提供する。サービスレベルアグリーメント（ＳＬＡ）計画及び履行８５は、ＳＬＡに従って将来の要件が予測されるクラウドコンピューティングリソースの事前準備及び調達を提供する。
ワークロード層９０は、クラウドコンピューティング環境が利用され得る機能の例を提供する。この層から提供され得るワークロード及び機能の例は、マッピング及びナビゲーション９１、ソフトウェア開発及びライフサイクル管理９２、仮想教室教育配信９３、データ分析処理９４、取引処理９５、及びニューラルネットワーク処理支援処理９６を含む。
本発明の態様は、任意の可能な技術詳細レベルの統合におけるシステム、方法及び／又はコンピュータプログラム製品であり得る。コンピュータプログラム製品は、プロセッサに本発明の態様を実行させるコンピュータ可読プログラム命令を有するコンピュータ可読記憶媒体（又は複数の媒体）を含んでよい。
コンピュータ可読記憶媒体は、命令実行デバイスによって使用されるための命令を保持及び記憶することができる有形デバイスとすることができる。コンピュータ可読記憶媒体は、例えば、電子記憶デバイス、磁気記憶デバイス、光記憶デバイス、電磁記憶デバイス、半導体記憶デバイス、又は上述したものの任意の好適な組み合わせであってよいが、これらに限定されない。コンピュータ可読記憶媒体のさらに具体的な例の非網羅的リストは、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ：ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、読み取り専用メモリ（ＲＯＭ：ｒｅａｄ－ｏｎｌｙ ｍｅｍｏｒｙ）、消去可能プログラマブル読み取り専用メモリ（ＥＰＲＯＭ：ｅｒａｓａｂｌｅ ｐｒｏｇｒａｍｍａｂｌｅ ｒｅａｄ－ｏｎｌｙ ｍｅｍｏｒｙ又はフラッシュメモリ）、スタティックランダムアクセスメモリ（ＳＲＡＭ：ｓｔａｔｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、ポータブルコンパクトディスク読み取り専用メモリ（ＣＤ－ＲＯＭ：ｃｏｍｐａｃｔ ｄｉｓｃ ｒｅａｄ－ｏｎｌｙ ｍｅｍｏｒｙ）、デジタルバーサタイルディスク（ＤＶＤ：ｄｉｇｉｔａｌ ｖｅｒｓａｔｉｌｅ ｄｉｓｋ）、メモリスティック、フロッピディスク、命令が記録されているパンチカード又は溝の中の隆起構造などの機械的にエンコードされるデバイス、及びこれらの任意の好適な組み合わせを含む。本明細書において使用されるコンピュータ可読記憶媒体は、電波又は他の自由に伝播する電磁波、導波路又は他の伝送媒体を通って伝播する電磁波（例えば、光ファイバケーブルを通過する光パルス）、又はワイヤを通じて伝送される電気信号等、それ自体が一時的な信号であると解釈されるべきではない。
本明細書において説明されるコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体から、それぞれのコンピューティング／処理デバイスに、又は、ネットワーク、例えば、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク及び／又は無線ネットワークを介して、外部コンピュータ又は外部記憶デバイスに、ダウンロードすることができる。ネットワークは、銅伝送ケーブル、光伝送ファイバ、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ及び／又はエッジサーバを備え得る。各コンピューティング／処理デバイス内のネットワークアダプタカード又はネットワークインタフェースは、ネットワークからのコンピュータ可読プログラム命令を受信し、コンピュータ可読プログラム命令を、それぞれのコンピューティング／処理デバイス内のコンピュータ可読記憶媒体に記憶するために転送する。
本発明の動作を実行するコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、集積回路の構成データであってもよく、Ｓｍａｌｌｔａｌｋ（登録商標）又はＣ＋＋等のようなオブジェクト指向プログラミング言語、および「Ｃ」プログラミング言語又は同様のプログラミング言語のような手続き型プログラミング言語を含む１又は複数のプログラミング言語の任意の組み合わせで記述したソースコード又はオブジェクトコードであってもよい。コンピュータ可読プログラム命令は、スタンドアロンのソフトウェアパッケージとして、ユーザのコンピュータ上で全体を実行すること、ユーザのコンピュータ上で一部分を実行することができ、ユーザのコンピュータ上で一部分を、リモートコンピュータ上で一部分を実行すること、又は、リモートコンピュータ又はサーバ上で全体を実行することができる。後者のシナリオでは、リモートコンピュータが、ローカルエリアネットワーク（ＬＡＮ）又はワイドエリアネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを介してユーザのコンピュータに接続されてよく、又はその接続が、（例えば、インターネットサービスプロバイダを用いたインターネットを介して）外部コンピュータに対して行われてよい。幾つかの実施形態において、例えば、プログラマブルロジック回路、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、又はプログラマブルロジックアレイ（ＰＬＡ）を含む電子回路は、本発明の態様を実行するために、コンピュータ可読プログラム命令の状態情報を利用することによりコンピュータ可読プログラム命令を実行し、電子回路をパーソナライズしてよい。
本発明の態様は、本明細書において、本発明の実施形態に係る方法、装置（システム）、及びコンピュータプログラム製品のフローチャート図及び／又はブロック図を参照して説明されている。フローチャート図及び／又はブロック図の各のブロック、及び、フローチャート図及び／又はブロック図におけるブロックの組み合わせが、コンピュータ可読プログラム命令によって実装され得ることが理解されよう。
これらのコンピュータ可読プログラム命令をコンピュータ、又は他のプログラマブルデータ処理装置のプロセッサに提供してマシンを生み出してよく、それにより、コンピュータ又は他のプログラマブルデータ処理装置のプロセッサを介して実行される命令が、フローチャート及び／又はブロック図の１又は複数のブロックで指定された機能／動作を実装するための手段を作成する。これらのコンピュータ可読プログラム命令は、コンピュータ、プログラマブルデータ処理装置及び／又は他のデバイスに特定の様式で機能するように指示することができるコンピュータ可読記憶媒体にも記憶され得、それにより、その中に命令が記憶されたコンピュータ可読記憶媒体が、フローチャート及び／又はブロック図の１又は複数のブロックで指定された機能／動作の態様を実装する命令を含む製品を有する。
コンピュータ可読プログラム命令はまた、コンピュータ、他のプログラマブルデータ処理装置、又は他のデバイス上にロードして、一連の動作段階をコンピュータ、他のプログラマブル装置又は他のデバイス上で実行させ、コンピュータ実装プロセスを生成してよく、それにより、コンピュータ、他のプログラマブル装置、又は他のデバイス上で実行される命令は、フローチャート及び／又はブロック図の１又は複数のブロックで指定された機能／動作を実装する。
図面におけるフローチャート及びブロック図は、本発明の様々な実施形態に係るシステム、方法、及びコンピュータプログラム製品の考えられる実装形態のアーキテクチャ、機能、及び動作を示している。これに関して、フローチャート又はブロック図における各ブロックは、指定された論理機能を実装するための１又は複数の実行可能命令を含む命令のモジュール、セグメント、又は一部を表し得る。いくつかの代替的な実装形態において、ブロックに記されている機能は、図面に記されている順序とは異なる順序で行われ得る。例えば、連続して示されている２つのブロックが、実際には、１つの段階として実現されてよく、同時に、実質的に同時に、部分的に又は全体的に時間が重複する方式で実行されてよく、又は、ブロックは、場合によっては、関与する機能に応じて逆の順序で実行されてよい。ブロック図及び／又はフローチャート図の各ブロック、および、ブロック図及び／又はフローチャート図のブロックの組合せを、指定された機能もしくは動作を行う、又は、特殊目的のハードウェア命令およびコンピュータ命令の組合せを実行する特殊目的のハードウェアベースのシステムにより実装することが可能であることも留意されるであろう。
上記に加えて、顧客環境の管理をオファーするサービスプロバイダによって、１又は複数の態様が提供され、オファーされ、展開され、管理され、サービス提供されるなどのことができる。例えば、サービスプロバイダは、１又は複数の顧客のために１又は複数の態様を実行するコンピュータコード及び／又はコンピュータインフラストラクチャを作成、維持、サポートするなどのことができる。返答として、サービスプロバイダは、例として、サブスクリプション及び／又は手数料契約の下の顧客から支払いを受け取り得る。加えて又は代替的に、サービスプロバイダは、１又は複数のサードパーティに対する広告コンテンツの販売から、支払いを受け取り得る。
１つの態様において、アプリケーションは、１又は複数の実施形態を実行するために展開され得る。１つの例として、アプリケーションの展開は、１又は複数の実施形態を実行するために動作可能なコンピュータインフラストラクチャを提供することを含む。
さらなる態様として、コンピューティングシステムにコンピュータ可読コードを統合することを含むコンピューティングインフラストラクチャが展開され得、ここで、コンピューティングシステムと組み合わされたコードは、１又は複数の実施形態を実行することが可能である。
さらに別の態様として、コンピュータ可読コードをコンピュータシステムに統合することを含むコンピューティングインフラストラクチャを統合するためのプロセスが提供され得る。コンピュータシステムはコンピュータ可読媒体を含み、ここで、コンピュータ媒体は１又は複数の実施形態を含む。コンピュータシステムと組み合わされたコードは、１又は複数の実施形態を実行することが可能である。
様々な実施形態が上記に説明されているが、これらは単なる例である。例えば、他のアーキテクチャのコンピューティング環境が、１又は複数の態様の組み込み及び／又は使用を行うために使用され得る。更に、異なる命令、関数、及び／又は演算が使用され得る。追加的に、異なるタイプのレジスタ及び／又は異なるレジスタが使用され得る。更に、他のデータフォーマット、データレイアウト、及び／又はデータサイズがサポートされ得る。１又は複数の実施形態において、１又は複数の汎用プロセッサ、１又は複数の特定用途向けプロセッサ、又は、汎用及び専用プロセッサの組み合わせが使用され得る。多くの変形例が可能である。
様々な態様が本明細書に説明されている。さらに、多くの変形例を、本発明の態様の趣旨から逸脱することなく行うことが可能である。別様に矛盾していない限り、本明細書に説明された各態様又は特徴とその変形とは、任意の他の態様又は特徴と組み合わせ可能であり得ることに留意されたい。
さらに、他のタイプのコンピューティング環境が利益を得て、使用され得る。一例として、プログラムコードを格納及び／又は実行するのに好適なデータ処理システムが使用可能であり、システムバスを通じてメモリ要素に直接的又は間接的に連結された少なくとも２つのプロセッサを含む。メモリ素子は、例えば、プログラムコードを実際に実行する間に利用されるローカルメモリと、大容量記憶装置と、実行中にコードが大容量記憶装置から検索されなければならない回数を減らすべく、少なくとも一部のプログラムコードの一時的なストレージを提供するキャッシュメモリとを含む。
入出力又はＩ／Ｏデバイス（キーボード、ディスプレイ、ポインティングデバイス、ＤＡＳＤ、テープ、ＣＤ、ＤＶＤ、サムドライブ、および他のメモリ媒体などを含むが、これらに限定されない）は、直接又は介在するＩ／Ｏコントローラを介して、システムに連結され得る。ネットワークアダプタもまた、データ処理システムが他のデータ処理システム又はリモートプリンタ又は記憶装置と結合されることを可能するために、間にあるプライベート又はパブリックネットワークを通じて、システムと結合され得る。モデム、ケーブルモデムおよびイーサネット（登録商標）カードは、利用可能なネットワークアダプタのタイプのほんの一部にすぎない。
本明細書で使用される用語は、特定の実施形態のみを説明することを目的としており、限定を行うことを意図しない。本明細書で使用される場合、文脈が別段明確に示さない限りは、単数形の「ａ」、「ａｎ」、及び「ｔｈｅ」は、複数形も含むことを意図する。用語「含む」及び／又は「含み」は、本明細書において使用されるとき、記載された特徴、整数、段階、オペレーション、要素及び／又はコンポーネントの存在を指定するが、１又は複数の他の特徴、整数、段階、オペレーション、要素、コンポーネント、もしくは、それらのグループ、又はその組み合わせの存在又は追加を除外するものではないことを更に理解されたい。
以下の請求項におけるあらゆる手段又は段階プラス機能要素の、対応する構造、材料、動き、およびそれらと同等のものがある場合は、特に請求されるものとして他の請求される要素との組み合わせで機能を実行するための構造、材料、又は行為を含むものとして意図される。１又は複数の実施形態の説明は、例示および説明の目的のために提示されているが、網羅的であること又は開示された形に限定されることを意図するものではない。当業者には多くの修正および変形が明らかとなるであろう。様々な態様および実際の適用を最良に説明するべく、ならびに、企図される特定の使用に好適なように様々な修正を有する様々な実施形態を当業者が理解することを可能にするべく、実施形態が選択および説明された。
以下の請求項におけるあらゆる手段又は段階プラス機能要素の、対応する構造、材料、動き、およびそれらと同等のものがある場合は、特に請求されるものとして他の請求される要素との組み合わせで機能を実行するための構造、材料、又は行為を含むものとして意図される。１又は複数の実施形態の説明は、例示および説明の目的のために提示されているが、網羅的であること又は開示された形に限定されることを意図するものではない。当業者には多くの修正および変形が明らかとなるであろう。様々な態様および実際の適用を最良に説明するべく、ならびに、企図される特定の使用に好適なように様々な修正を有する様々な実施形態を当業者が理解することを可能にするべく、実施形態が選択および説明された。
［項目１］
１又は複数のコンピュータ可読記憶媒体、及び、前記１又は複数のコンピュータ可読記憶媒体にまとめて格納されるプログラム命令
を備え、前記プログラム命令は、
実行される関数のインジケーションを取得する手順、ここで、前記関数は、命令の１つの関数であり、複数の演算を実行するように構成されている；
実行される前記複数の演算のうちの演算を判定する手順；及び
値のセット、及び、対応する関係のセットを使用して、関数特有のパラメータのセットをバリデートする手順、ここで、前記値のセット、及び、前記対応する関係のセットは、実行される前記演算に基づき、ここで、値の１つのセット及び対応する関係のセットは、実行される前記演算のために使用され、別の値のセット及び対応する関係のセットが、前記複数の演算の別の演算のために使用される、
を備える方法を実行するためのものである、
コンピューティング環境内の処理を促進するためのコンピュータプログラム製品。
［項目２］
実行される前記演算を判定する前記手順は、１又は複数の関数特有のパラメータを少なくとも１つの特定の値に対してチェックする手順を含み、ここで、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第１選択関係を有することに基づいて、前記演算は１つの演算であり、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第２選択関係を有することに基づいて、前記演算は別の演算である、項目１に記載のコンピュータプログラム製品。
［項目３］
前記関数は平均プール関数を含み、前記１又は複数の関数特有のパラメータは、１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するとき、スライディングウィンドウが入力テンソル上を移動する量であり、前記少なくとも１つの特定の値はゼロを含み、前記第１選択関係は、等しいことを含み、前記演算は、１又は複数のストライド値がゼロに等しいことに基づく平均－低減演算である、項目２に記載のコンピュータプログラム製品。
［項目４］
前記第２選択関係は、より大きいことを含み、前記演算は、前記１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である、項目３に記載のコンピュータプログラム製品。
［項目５］
前記関数特有のパラメータのセットは、１又は複数の選択ディメンションウィンドウサイズ値を含み、ここで、選択ディメンションウィンドウサイズ値は、スライディングウィンドウが含む選択ディメンションにおける要素の数を指定し、前記スライディングウィンドウは、前記関数の入力テンソル上を移動して出力テンソルを生成するように構成されている、項目１から４のいずれか一項に記載のコンピュータプログラム製品。
［項目６］
前記関数は平均プール関数を含み、前記演算は平均－低減演算を含み、前記関数特有のパラメータのセットをバリデートするために使用される前記値のセット及び前記対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及び等しいことである対応する関係、前記選択入力テンソルの別のディメンションの別の値及び等しいことである対応する関係、並びに、選択値及びより小さい又は等しいことである対応する関係を含む、項目５に記載のコンピュータプログラム製品。
［項目７］
前記バリデートする手順は、ディメンション２ウィンドウサイズの値が第１入力テンソルのディメンション２の値に等しいこと、ディメンション３ウィンドウサイズの値が前記第１入力テンソルのディメンション３の値に等しいこと、前記ディメンション２ウィンドウサイズの前記値が前記選択値より小さい又はそれに等しいこと、及び、前記ディメンション３ウィンドウサイズの前記値が前記選択値より小さい又はそれに等しいことをチェックすることを含む、項目６に記載のコンピュータプログラム製品。
［項目８］
前記関数は平均プール関数を含み、前記演算はプーリング演算を含み、前記関数特有のパラメータのセットをバリデートするために使用される前記値のセット及び対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及びより小さい又は等しいことである対応する関係を含み、前記選択入力テンソルの別のディメンションの別の値及びより小さい又は等しいことである対応する関係を含む、項目５に記載のコンピュータプログラム製品。
［項目９］
前記バリデートする手順は、ディメンション２ウィンドウサイズの値が、第１入力テンソルのディメンション２の値より小さい又はそれに等しいこと、及び、ディメンション３ウィンドウサイズの値が前記第１入力テンソルのディメンション３の値より小さい又はそれに等しいことをチェックすることを含む、項目８に記載のコンピュータプログラム製品。
［項目１０］
前記方法は更に、パディングのタイプが特定のタイプにセットされるかどうかを判定する手順、ここで、前記パディングのタイプは、ウィンドウのどの要素が出力を計算するために使用されるかを示し、前記パディングのタイプが前記特定のタイプにセットされることに基づいて、前記バリデートする手順が実行されることを含む、項目８に記載のコンピュータプログラム製品。
［項目１１］
前記パディングのタイプが前記特定のタイプにセットされていないことに基づいて、出力テンソルの１又は複数のディメンションに関連する１又は複数のチェックが実行される、項目１０に記載のコンピュータプログラム製品。
［項目１２］
前記演算を判定する前記手順は、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、前記関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む、項目１から１１のいずれか一項に記載のコンピュータプログラム製品。
［項目１３］
コンピューティング環境内の処理を促進するためのコンピュータシステムであって、前記コンピュータシステムは、
メモリ；及び
前記メモリと通信する少なくとも１つのプロセッサ
を備え、前記コンピュータシステムは方法を実行するように構成されており、前記方法は、
実行される関数のインジケーションを取得する手順、ここで、前記関数は、命令の１つの関数であり、複数の演算を実行するように構成されている；
実行される前記複数の演算のうちの演算を判定する手順；及び
値のセット及び対応する関係のセットを使用して、関数特有のパラメータのセットをバリデートする手順、ここで、前記値のセット及び対応する関係のセットは、実行される前記演算に基づき、ここで、値の１つのセット及び対応する関係のセットは、実行される前記演算のために使用され、別の値のセット及び対応する関係のセットは、前記複数の演算の別の演算のために使用される、
を備える、コンピュータシステム。
［項目１４］
実行される前記演算を判定する前記手順は、１又は複数の関数特有のパラメータを少なくとも１つの特定の値に対してチェックする手順を含み、ここで、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第１選択関係を有することに基づいて、前記演算は１つの演算であり、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第２選択関係を有することに基づいて、前記演算は別の演算である、項目１３に記載のコンピュータシステム。
［項目１５］
前記関数は平均プール関数を含み、前記１又は複数の関数特有のパラメータは１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル上を移動する量であり、前記少なくとも１つの特定の値はゼロを含み、前記第１選択関係は、等しいことを含み、前記演算は、前記１又は複数のストライド値がゼロに等しいことに基づく平均－低減演算であり、ここで、前記第２選択関係は、より大きいことを含み、前記演算は、前記１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である、項目１４に記載のコンピュータシステム。
［項目１６］
前記演算を判定する前記手順は、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、前記関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む、項目１３から１５のいずれか一項に記載のコンピュータシステム。
［項目１７］
コンピューティング環境内の処理を促進するコンピュータ実装方法であって、
実行される関数のインジケーションを取得する段階、ここで、前記関数は、命令の１つの関数であり、複数の演算を実行するように構成されている；
実行される前記複数の演算のうちの演算を判定する段階；及び
値のセット及び対応する関係のセットを使用して関数特有のパラメータのセットをバリデートする段階、ここで、前記値のセット及び対応する関係のセットは、実行される前記演算に基づき、ここで、値の１つのセット及び対応する関係のセットは、実行される前記演算のために使用され、値の別のセット及び対応する関係のセットは、前記複数の演算の別の演算のために使用される、
を備えるコンピュータ実装方法。
［項目１８］
実行される前記演算を判定する前記段階は、１又は複数の関数特有のパラメータを少なくとも１つの特定の値に対してチェックする段階を含み、ここで、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第１選択関係を有することに基づいて、前記演算は１つの演算であり、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第２選択関係を有することに基づいて、前記演算は別の演算である、項目１７に記載のコンピュータ実装方法。
［項目１９］
前記関数は平均プール関数を含み、前記１又は複数の関数特有のパラメータは１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル上を移動する量であり、前記少なくとも１つの特定の値はゼロを含み、前記第１選択関係は、等しいことを含み、前記演算は、前記１又は複数のストライド値がゼロに等しいことに基づく平均－低減演算であり、ここで、前記第２選択関係は、より大きいことを含み、前記演算は、前記１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である、項目１８に記載のコンピュータ実装方法。
［項目２０］
前記演算を判定する前記段階は、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、前記関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む、項目１７から１９のいずれか一項に記載のコンピュータ実装方法。

Claims (20)

  1. １又は複数のコンピュータ可読記憶媒体、及び、前記１又は複数のコンピュータ可読記憶媒体にまとめて格納されるプログラム命令
    を備え、前記プログラム命令は、
    実行される関数のインジケーションを取得する手順、ここで、前記関数は、命令の１つの関数であり、複数の演算を実行するように構成されている；
    実行される前記複数の演算のうちの演算を判定する手順；及び
    値のセット、及び、対応する関係のセットを使用して、関数特有のパラメータのセットをバリデートする手順、ここで、前記値のセット、及び、前記対応する関係のセットは、実行される前記演算に基づき、ここで、値の１つのセット及び対応する関係のセットは、実行される前記演算のために使用され、別の値のセット及び対応する関係のセットが、前記複数の演算の別の演算のために使用される、
    を備える方法を実行するためのものである、
    コンピューティング環境内の処理を促進するためのコンピュータプログラム製品。
  2. 実行される前記演算を判定する前記手順は、１又は複数の関数特有のパラメータを少なくとも１つの特定の値に対してチェックする手順を含み、ここで、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第１選択関係を有することに基づいて、前記演算は１つの演算であり、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第２選択関係を有することに基づいて、前記演算は別の演算である、請求項１に記載のコンピュータプログラム製品。
  3. 前記関数は平均プール関数を含み、前記１又は複数の関数特有のパラメータは、１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するとき、スライディングウィンドウが入力テンソル上を移動する量であり、前記少なくとも１つの特定の値はゼロを含み、前記第１選択関係は、等しいことを含み、前記演算は、１又は複数のストライド値がゼロに等しいことに基づく平均－低減演算である、請求項２に記載のコンピュータプログラム製品。
  4. 前記第２選択関係は、より大きいことを含み、前記演算は、前記１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である、請求項３に記載のコンピュータプログラム製品。
  5. 前記関数特有のパラメータのセットは、１又は複数の選択ディメンションウィンドウサイズ値を含み、ここで、選択ディメンションウィンドウサイズ値は、スライディングウィンドウが含む選択ディメンションにおける要素の数を指定し、前記スライディングウィンドウは、前記関数の入力テンソル上を移動して出力テンソルを生成するように構成されている、請求項１から４のいずれか一項に記載のコンピュータプログラム製品。
  6. 前記関数は平均プール関数を含み、前記演算は平均－低減演算を含み、前記関数特有のパラメータのセットをバリデートするために使用される前記値のセット及び前記対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及び等しいことである対応する関係、前記選択入力テンソルの別のディメンションの別の値及び等しいことである対応する関係、並びに、選択値及びより小さい又は等しいことである対応する関係を含む、請求項５に記載のコンピュータプログラム製品。
  7. 前記バリデートする手順は、ディメンション２ウィンドウサイズの値が第１入力テンソルのディメンション２の値に等しいこと、ディメンション３ウィンドウサイズの値が前記第１入力テンソルのディメンション３の値に等しいこと、前記ディメンション２ウィンドウサイズの前記値が前記選択値より小さい又はそれに等しいこと、及び、前記ディメンション３ウィンドウサイズの前記値が前記選択値より小さい又はそれに等しいことをチェックすることを含む、請求項６に記載のコンピュータプログラム製品。
  8. 前記関数は平均プール関数を含み、前記演算はプーリング演算を含み、前記関数特有のパラメータのセットをバリデートするために使用される前記値のセット及び対応する関係のセットは、選択入力テンソルの１つのディメンションの１つの値及びより小さい又は等しいことである対応する関係を含み、前記選択入力テンソルの別のディメンションの別の値及びより小さい又は等しいことである対応する関係を含む、請求項５に記載のコンピュータプログラム製品。
  9. 前記バリデートする手順は、ディメンション２ウィンドウサイズの値が、第１入力テンソルのディメンション２の値より小さい又はそれに等しいこと、及び、ディメンション３ウィンドウサイズの値が前記第１入力テンソルのディメンション３の値より小さい又はそれに等しいことをチェックすることを含む、請求項８に記載のコンピュータプログラム製品。
  10. 前記方法は更に、パディングのタイプが特定のタイプにセットされるかどうかを判定する手順を備え、ここで、前記パディングのタイプは、ウィンドウのどの要素が出力を計算するために使用されるかを示し、前記パディングのタイプが前記特定のタイプにセットされることに基づいて、前記バリデートする手順が実行されることを含む、請求項８に記載のコンピュータプログラム製品。
  11. 前記パディングのタイプが前記特定のタイプにセットされていないことに基づいて、出力テンソルの１又は複数のディメンションに関連する１又は複数のチェックが実行される、請求項１０に記載のコンピュータプログラム製品。
  12. 前記演算を判定する前記手順は、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、前記関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む、請求項１から１１のいずれか一項に記載のコンピュータプログラム製品。
  13. コンピューティング環境内の処理を促進するためのコンピュータシステムであって、前記コンピュータシステムは、
    メモリ；及び
    前記メモリと通信する少なくとも１つのプロセッサ
    を備え、前記コンピュータシステムは方法を実行するように構成されており、前記方法は、
    実行される関数のインジケーションを取得する手順、ここで、前記関数は、命令の１つの関数であり、複数の演算を実行するように構成されている；
    実行される前記複数の演算のうちの演算を判定する手順；及び
    値のセット及び対応する関係のセットを使用して、関数特有のパラメータのセットをバリデートする手順、ここで、前記値のセット及び対応する関係のセットは、実行される前記演算に基づき、ここで、値の１つのセット及び対応する関係のセットは、実行される前記演算のために使用され、別の値のセット及び対応する関係のセットは、前記複数の演算の別の演算のために使用される、
    を備える、コンピュータシステム。
  14. 実行される前記演算を判定する前記手順は、１又は複数の関数特有のパラメータを少なくとも１つの特定の値に対してチェックする手順を含み、ここで、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第１選択関係を有することに基づいて、前記演算は１つの演算であり、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第２選択関係を有することに基づいて、前記演算は別の演算である、請求項１３に記載のコンピュータシステム。
  15. 前記関数は平均プール関数を含み、前記１又は複数の関数特有のパラメータは１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル上を移動する量であり、前記少なくとも１つの特定の値はゼロを含み、前記第１選択関係は、等しいことを含み、前記演算は、前記１又は複数のストライド値がゼロに等しいことに基づく平均－低減演算であり、ここで、前記第２選択関係は、より大きいことを含み、前記演算は、前記１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である、請求項１４に記載のコンピュータシステム。
  16. 前記演算を判定する前記手順は、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、前記関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む、請求項１３から１５のいずれか一項に記載のコンピュータシステム。
  17. コンピューティング環境内の処理を促進するコンピュータ実装方法であって、
    実行される関数のインジケーションを取得する段階、ここで、前記関数は、命令の１つの関数であり、複数の演算を実行するように構成されている；
    実行される前記複数の演算のうちの演算を判定する段階；及び
    値のセット及び対応する関係のセットを使用して関数特有のパラメータのセットをバリデートする段階、ここで、前記値のセット及び対応する関係のセットは、実行される前記演算に基づき、ここで、値の１つのセット及び対応する関係のセットは、実行される前記演算のために使用され、値の別のセット及び対応する関係のセットは、前記複数の演算の別の演算のために使用される、
    を備えるコンピュータ実装方法。
  18. 実行される前記演算を判定する前記段階は、１又は複数の関数特有のパラメータを少なくとも１つの特定の値に対してチェックする段階を含み、ここで、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第１選択関係を有することに基づいて、前記演算は１つの演算であり、前記１又は複数の関数特有のパラメータが前記少なくとも１つの特定の値に関して第２選択関係を有することに基づいて、前記演算は別の演算である、請求項１７に記載のコンピュータ実装方法。
  19. 前記関数は平均プール関数を含み、前記１又は複数の関数特有のパラメータは１又は複数のストライド値を含み、ここで、ストライド値は、１又は複数の隣接する出力テンソル要素を計算するときにスライディングウィンドウが入力テンソル上を移動する量であり、前記少なくとも１つの特定の値はゼロを含み、前記第１選択関係は、等しいことを含み、前記演算は、前記１又は複数のストライド値がゼロに等しいことに基づく平均－低減演算であり、ここで、前記第２選択関係は、より大きいことを含み、前記演算は、前記１又は複数のストライド値がゼロより大きいことに基づくプーリング演算である、請求項１８に記載のコンピュータ実装方法。
  20. 前記演算を判定する前記段階は、入力テンソルの少なくも１つのスライディングウィンドウストライド値に基づき、前記関数特有のパラメータのセットは、入力テンソルの少なくも１つのスライディングウィンドウディメンションを含む、請求項１７から１９のいずれか一項に記載のコンピュータ実装方法。
JP2023564573A 2021-06-17 2022-06-09 個別の演算パラメータのバリデーションを伴う複数の演算を実行するための単一関数 Pending JP2024523098A (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US17/350,550 2021-06-17

Publications (1)

Publication Number Publication Date
JP2024523098A true JP2024523098A (ja) 2024-06-28

Family

ID=

Similar Documents

Publication Publication Date Title
TWI833205B (zh) 用於遞歸神經網路中使用之串連輸入/輸出張量
AU2022292887A1 (en) Data conversion to/from selected data type with implied rounding mode
US12008395B2 (en) Program event recording storage alteration processing for a neural network accelerator instruction
TWI807767B (zh) 神經網路處理輔助指令
US11797270B2 (en) Single function to perform multiple operations with distinct operation parameter validation
JP2024523098A (ja) 個別の演算パラメータのバリデーションを伴う複数の演算を実行するための単一関数
TWI804285B (zh) 查詢模型相依資訊之指令
TWI840785B (zh) 用於在指令執行期間偵測之無效值之例外摘要
AU2022292046B2 (en) Reformatting of tensors to provide sub-tensors
TWI840790B (zh) 用於促進一運算環境內之處理的電腦程式產品、電腦系統及電腦實施方法
JP2024523093A (ja) サブテンソルを提供するためのテンソルの再フォーマット
JP2024522737A (ja) 行列乗算演算とバイアス加算演算を組み合わせて実行する単一関数
JP2024523880A (ja) 畳み込み演算と選択演算を組み合わせて実行する単一関数
JP2024523782A (ja) 単一の起動において複数の動作を実行するためのリカレントニューラルネットワークセル活性化
TW202303420A (zh) 遞歸神經網路單元啟動以執行一單一引動中之複數個運算
JP2024523790A (ja) ニューラル・ネットワーク・アクセラレータ命令のためのプログラム・イベント記録ストレージ変更処理
JP2024522435A (ja) ニューラル・ネットワーク処理支援命令
JP2024522443A (ja) 暗黙の丸めモードを使用する選択されたデータ型との間でのデータ変換
TW202301112A (zh) 用於在指令執行期間偵測之無效值之例外摘要
TW202301108A (zh) 執行組合卷積及選擇運算之單一函式
TW202301109A (zh) 執行組合矩陣乘法及偏差加法運算之單一函式