JP7002592B2 - 機械学習の異種エッジデバイス、方法、およびシステム - Google Patents

機械学習の異種エッジデバイス、方法、およびシステム Download PDF

Info

Publication number
JP7002592B2
JP7002592B2 JP2020072501A JP2020072501A JP7002592B2 JP 7002592 B2 JP7002592 B2 JP 7002592B2 JP 2020072501 A JP2020072501 A JP 2020072501A JP 2020072501 A JP2020072501 A JP 2020072501A JP 7002592 B2 JP7002592 B2 JP 7002592B2
Authority
JP
Japan
Prior art keywords
model
information
devices
update
processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020072501A
Other languages
English (en)
Other versions
JP2020123379A (ja
Inventor
ジャスティン、ビー.クレイトン
大輔 岡野原
徹 西川
将平 比戸
展行 久保田
信行 大田
誠也 得居
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Preferred Networks Inc
Original Assignee
Preferred Networks Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Preferred Networks Inc filed Critical Preferred Networks Inc
Publication of JP2020123379A publication Critical patent/JP2020123379A/ja
Priority to JP2021211350A priority Critical patent/JP7350050B2/ja
Application granted granted Critical
Publication of JP7002592B2 publication Critical patent/JP7002592B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Image Analysis (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Traffic Control Systems (AREA)

Description

優先権主張
本出願は、2015年1月22日に出願された米国特許出願第14/602,867号の優先権を主張するものであり、その開示の全体は参照により本明細書に組み込まれる。
機械学習デバイスは、機械学習モデルを用いて、収集されたデータを処理し、結果を出力する。機械学習デバイスはフィードバックを使用して、機械学習モデルを更新または改良することができる。例えば、機械学習デバイスは、回帰分析モデルを使用して予測を行い、その予測が正しかったかどうかを示すフィードバックに基づいて回帰分析モデルを更新することができる。様々なタイプの機械学習モデルが存在する(例えば、線形回帰モデル、単純ベイズ分類器)。機械学習モデルは、処理されるデータの量が大きくなり得、かつ/またはリアルタイムのデータ処理が望まれ得る「ビッグデータ」問題に対処するために一般的に使用される。
本開示は、新規かつ革新的な機械学習の異種エッジデバイス、方法、およびシステムを提供する。例示的な実施形態では、エッジデバイスは、複数の異なるエッジデバイスと通信するように構成された通信モジュールと、第1のタイプのデータを収集するように構成されたデータ収集デバイスと、データ収集デバイスによって収集されたデータを格納するように構成されたメモリと、機械学習モジュールと、グループ決定モジュールと、リーダー選定モジュールと、を含む。エッジデバイスは、所定のタスクに関連する第1のモデルを使用して、データ収集デバイスによって収集された第1のデータを分析し、予測、分類、クラスタリング、異常検出、および認識のうちの少なくとも1つを含む結果を出力し、結果の正確さに基づいて、所定のタスクに関連する第1の局所モデルを作成するために第1のモデルを更新するように構成することができる。エッジデバイスは、エッジデバイスの第1の異種グループ内の少なくとも1つの他のエッジデバイスと通信することができ、エッジデバイスの第1の異種グループは、少なくとも第1のエッジデバイスおよび第2のエッジデバイスを含み、第1のエッジデバイスは第1のタイプのデータを収集して分析し、第2のエッジデバイスは異なる第2のタイプのデータを収集して分析する。エッジデバイスは、エッジデバイスの第1の異種グループからエッジデバイスの第2の異種グループのメンバーシップを決定することができ、エッジデバイスの第2のグループは、エッジデバイスの第1の異種グループのサブセットである。エッジデバイスは、エッジデバイスの第2の異種グループからリーダーエッジデバイスを決定することができる。エッジデバイスは、リーダーエッジデバイスから第1の局所モデルに対する要求を受信し、第1の局所モデルをリーダーエッジデバイスに送信し、リーダーエッジデバイスから所定のタスクに関連する混合モデルを受信し、混合モデルは、リーダーエッジデバイスが、複数の第1の局所モデルと少なくとも1つの異なるそれぞれの局所モデルとのミキシング演算を実行することによって作成され、第1の局所モデルを混合モデルに置き換えることができる。
開示された方法および装置のさらなる特徴および利点は、以下の詳細な説明および図面に記載され、それらから明らかになるであろう。
本開示の例示的な実施形態による、エッジデバイスの一例のブロック図である。 本開示の例示的な実施形態による例示的な機械学習モジュールのブロック図である。 本開示の例示的な実施形態による、エッジデバイスの異種グループを示す高レベルブロック図である。 本開示の例示的な実施形態による、エッジデバイスの異種グループを示すブロック図である。 本開示の例示的な実施形態による、エッジデバイスの異種グループにおける機械学習の例示的なプロセスを示すフローチャートである。 本開示の例示的な実施形態による、機械学習の例示的なプロセスを示すフローチャートである。 本開示の例示的な実施形態による、異種グループ構築のための例示的なプロセスを示すフローチャートである。 本開示の例示的な実施形態による、エッジデバイスの異種グループにおける機械学習のための例示的なプロセスを示す流れ図である。
図1は、本開示の例示的な実施形態による、エッジデバイス100の一例のブロック図である。例示的な実施形態では、エッジデバイス100はビデオカメラであってもよい。別の例示的な実施形態では、エッジデバイス100はショッピングカートであってもよい。エッジデバイス100は、他のデバイスとの通信、データ収集、機械学習を行うことができるデバイスである。例示的な実施形態では、エッジデバイス100は、中央サーバー、中間サーバー、データレポジトリ、ゲートウェイ、ルータなどを含む、データ接続されたデバイスの大規模な分散ネットワークのエッジ、すなわち最外層にある。エッジデバイス100は、記録デバイス(例えば、デジタルカメラ、ビデオカメラ、オーディオレコーダ)、都市管理デバイス(例えば、駐車センサ、交通センサ、水質デバイス)、車両(例えば、自動車、トラック)、身体センサ(例えば、活動センサ、バイタルサインセンサ、歩数計)、環境センサ(例えば、気象センサ、汚染センサ、空気品質センサ)、ウェアラブルコンピューティングデバイス(例えば、スマートウォッチ、眼鏡、衣類)、パーソナルコンピューティングデバイス(例えば、携帯電話、タブレット、ラップトップ)、ホームデバイス(例えば、家電製品、サーモスタット、照明システム、セキュリティシステム)、広告デバイス(例えば、ビルボード、情報キオスク)などを含む多種多様なデバイスを含んでもよい。エッジデバイス100は、通信モジュール102と、データ収集デバイス104と、メモリ106と、機械学習モジュール108と、グループ決定モジュール110と、リーダー選定モジュール112と、モデルミキシングモジュール114と、調整モジュール116と、を含むことができる。
通信モジュール102は、同じタイプ(例えば、複数のビデオカメラ)または異なるタイプ(例えば、ビデオカメラおよびショッピングカート)の他のエッジデバイス100を含む他のデバイスと通信するように構成される。例えば、以下でさらに詳細に説明するように、通信モジュール102は、インターネット、もしくは任意の適切な広域ネットワーク、ローカルエリアネットワーク、ゲートウェイ、または他の通信チャネルもしくはネットワークを含む、1つまたは複数のネットワークもしくは通信チャネルを介して他のデバイスと通信するように構成されてもよい。例えば、通信モジュール102は、セルラーネットワーク(例えば、4G、3G、GSM(登録商標))、無線ローカルエリアネットワーク(例えば、Wi-Fi)、衛星(例えば、VSAT)、または無線通信の任意の適切な形態(例えば、ブルートゥース(登録商標)、RFID、NFC、IrDA、Li-Fi)により用いられる複数のプロトコルを介して無線通信するように構成されてもよい。また、例えば、通信モジュール102は、別のエッジデバイス100に有線接続(例えば、イーサネット(登録商標)、DSL、USB、RS-232、同軸ケーブル)するように構成されてもよい。さらに、通信モジュール102は、例えば、タッチスクリーンディスプレイで実現されるグラフィカルユーザインターフェースを介して、ユーザと通信することができる。ユーザは、エッジデバイス100に特定のタスクを実行するよう要求し、かつ/またはエッジデバイス100から情報を受信することができる。したがって、通信モジュール102は、1つまたは複数の通信プロトコルを使用して1つまたは複数の通信インターフェースを介して通信するように構成されたハードウェアおよび/またはソフトウェアを含むことができる。
データ収集デバイス104は、センサ、検出器、または実世界の特性(例えば、速度、加速度、ショッピングカート内の品目、手の動き、形状、温度、角度、音声認識、単語認識、トルク、スリップレベル)を表すデータのリアルタイム収集に適した任意のデバイスであってもよい。データ収集デバイス104は、連続するデータストリームを受信し、または周期的な基準(例えば、ミリ秒、秒、分毎)でデータを収集することができ、それは収集されるデータのタイプおよびデータストリームの変動性に一般的に依存することがある。データ収集デバイス104は、通常、特定のタイプのデータを収集するように具体的に構成された特定のハードウェアおよび/または物理的構造(例えば、画像センサ、加速度計、ジャイロスコープセンサ、温度計、高度計、ホール効果センサ、速度計、光検出器、流量センサ、ひずみゲージ、トルクセンサ、タコメータ、クリノメータ、マイクロフォン、磁力計、電圧計、電流計、オーム計、化学センサ、圧力センサ、降雨センサ、湿度計、ヒューミスタ、風速計、地震計、ガイガーカウンタなど)を含む。例示的な実施形態では、1つのエッジデバイス100は、異なるタイプのデータを収集する複数の異なるデータ収集デバイス104を含むことができる。データ収集デバイス104は、収集されたデータをメモリ106に提供する。例示的な実施形態では、メモリ106は、ビデオ画像データ(例えば、VRAM)などの大量のデータを受け取り、格納するための専用メモリであってもよい。したがって、メモリ106は、例えば、エッジデバイス100の高スループットかつ低レイテンシ仕様を満たすために、タスク特有の特殊なハードウェアを有することができる。メモリ106は、バッファ、シフトレジスタなどの異なるメモリの階層を含むことができる。メモリ106は、収集されたデータを一時的に格納するように構成されてもよいし、収集されたデータが機械学習モジュール108にもはや必要でなくなると、上書きされてもよい。
機械学習モジュール108は、データ収集デバイス104によって収集されて、メモリ106に格納されたデータを使用して、機械学習モデルを実行する。機械学習モジュール108は、収集されたデータを入力として受け取り、収集したデータを用いて機械学習モデルを実行し、予測、分類、クラスタリング、異常検出、および/または認識を行い、結果として出力する。機械学習モデルは、結果を反復的に更新することができる。例えば、機械学習モデルは、メモリに格納された利用可能な収集データを全て使用して連続的に実行してもよく、連続的な結果または周期的な結果を生成してもよい。例えば、収集されるデータのボリュームおよび速度が比較的低い(低密度および/または低速)場合には、機械学習モデルは周期的にしか実行されず、各結果が出力された後一定期間休止してもよく、その間に新しいデータが収集される。各機械学習モデルは、所定のタスク(例えば、品目の予測、レジでの共謀窃盗の認識、捜索指令(BOLO)警告のための容疑者の認識、コーナリング速度の分類)に関係する。例えば、ショッピングカート・エッジデバイス100の機械学習モデルでは、所定のタスクは、品目を消費者に提案することであってもよい。消費者がショッピングカートを押しながら、食料雑貨店やショッピングの中を歩いている間に、ショッピングカートの機械学習モジュール108は、その品目を消費者に提案すればその消費者が最も購入しそうな品目に関する予測を出力することができる。この予測は、消費者のカート内の他の品目に基づくことができる。さらに、消費者の年齢、性別、人種および/または民族性などの追加の情報を用いて、どの品目が最も購入される可能性が高いかの予測を行うこともできる。例示的な実施形態では、機械学習モジュール108は、いくつかの機械学習モデルを含むことができ、各機械学習モデルは、サブセットまたはカテゴリ(例えば、40歳以上の男性消費者のカテゴリ)に固有であってもよく、その場合には、状況および機械学習モデルを特定するために使用される変数の数に応じて、1つの所定のタスクに対して2、4、8、または16の異なるモデルを選択することができる。
図2は、本開示の例示的な実施形態による例示的な機械学習モジュール108のブロック図である。機械学習モジュール108は、インターフェースモジュール202、モデル選択モジュール204、および1つもしくは複数の機械学習モデル206を含むことができる。本明細書で説明するように、機械学習モデル206は、簡潔にするために単にモデル206と呼ぶことがある。インターフェースモジュール202は、機械学習モジュール108と、エッジデバイス100内の他のモジュールまたは構成要素(例えば、メモリ106、通信モジュール102)との間のインターフェースである。モデル選択モジュール204は、どの所定のタスクが分析されるかを含む情報を受信し、所定のタスクについて適切なモデル206(例えば、40歳以上の男性消費者)を選択するために、複数のモデル206から選択するための情報を含むことができる。図2に示すように、モデル1は所定のタスクAに関連し、モデル2、3および4は異なる所定のタスクBに関連し、モデル5は別の異なる所定のタスクCに関連する。例示的な実施形態では、エッジデバイス100はタスクを定期的に切り替えることができる。例えば、第1の所定のタスクは営業時間中に処理されてもよく、数時間後に第2の異なる所定のタスクが処理されてもよい。モデル206は、例えば、製造時に、エッジデバイス100に提供されてもよく、あるいは、新しいモデル206として、またはモデル206の更新されたバージョンとして、後で別のデバイスからエッジデバイス100にロードされてもよい。機械学習モデル206は、収集されたデータを入力として処理して、モデル206の出力として結果を生成するように実行される実行可能コンポーネント210を含む。機械学習モデル206は、モデルのタイプ(例えば、線形分類器、線形またはロジスティック回帰モデル、決定木、クラスタリングモデル、ベイジアンモデル、ニューラルネットワーク)およびモデルの構造(例えば、パラメトリック固定構造または非パラメトリック、パラメータの数と構造、入力変数、出力変数、データ型、フィーチャ定義)などの構造メタデータ212を含む。構造メタデータ212は、モデル206が何であるか、およびモデル206が何をするかを識別するための任意の必要な情報を含むことができるので、モデル206は、以下でさらに説明するように分散型機械学習に使用することができる。機械学習モデル206はまた、モデルが動作していたかまたは動作しているコンテキスト状況を記述することができるコンテキストメタデータ214(例えば、データ収集環境、モデル履歴、モデル安定性)を含むことができる。例示的な実施形態では、コンテキストメタデータは、ビデオカメラ・エッジデバイス100の地理的位置を示すことができ、ビデオカメラが暗い環境もしくは明るい環境、および/または屋内環境もしくは屋外環境で動作していることを示すことができる。機械学習モデル206は、結果ログ216を含み、これは、例えばある期間の結果または特定の数の結果を格納することができる。結果ログ216はまた、例えば、モデル206の分析に有用であり得る概略統計または他の情報を含むことができる。結果ログ216は、以前にメモリ106に格納されていたが、新しい収集データによって上書きされた収集データの要約を含むことができる。機械学習モデル206は、モデル206からの結果出力に対するフィードバックに基づいてモデル206を更新すべきかどうかを決定する更新モジュール218を含む。例えば、モデル206が正しい予測を行う場合には、これはモデルを更新すべきであることを示すものではないが、モデル206が誤った予測を行う場合には、これはモデルが改良され得ることを示す傾向がある。したがって、更新モジュール218は、内部分析に基づいて機械学習モデル206を更新することができ、更新する外部命令に基づいて更新することもできる。モデル206が更新モジュール218によって更新されると、モデル206は、モデル206が常駐する特定のエッジデバイス100に対して局所的であり、したがって、グローバルモデル206とは対照的に、局所モデル206と呼ぶことができる。製造業者は、新しいエッジデバイス100にグローバルモデル206を提供することができ、各エッジデバイス100は、それらのモデル206を更新して、グローバルモデル206とは異なる局所モデル206が得られる。局所モデル206は、グローバルモデル206が提供するよりも特定の環境においてより良い結果を提供するように、特定の環境に基づいて訓練することができる。
グループ決定モジュール110は、どのエッジデバイス100が、そのグループのメンバーであるエッジデバイス100上の機械学習モデル206の分析に参加するグループを形成するかを決定する。グループメンバーシップは、エッジデバイス100間の地理的近接度に基づいてもよい。リーダー選定モジュール112は、どのエッジデバイス100がエッジデバイスのグループのリーダーとして機能すべきかを決定する。リーダーは、グループの全てのメンバーからの入力を受信することができる合意プロトコルを使用して選出することができる。モデルミキシングモジュール114は、リーダーエッジデバイス100によって、グループ内の異なるエッジデバイス100からの局所モデル206をミキシングして、混合モデル206を作成するために使用される。モデルミキシングモジュール114は、混合モデル206に応じていくつかの異なる技術を使用してモデル206をミキシングすることができる。調整モジュール116は、通信モジュール102、データ収集デバイス104、メモリ106、機械学習モジュール108、グループ決定モジュール110、リーダー選定モジュール112、およびモデルミキシングモジュール114のプロセスを調整することができる。エッジデバイス100は、中央処理ユニットを有することができ、様々な特定のタスク専用の1つまたは複数のさらなるプロセッサを有することもできる。各エッジデバイス100は、1つまたは複数のプロセッサ、メモリ、バスなどを使用することができる。また、通信モジュール102、データ収集デバイス104、メモリ106、機械学習モジュール108、グループ決定モジュール110、リーダー選定モジュール112、モデルミキシングモジュール114、および調整モジュール116の各々は、1つまたは複数のプロセッサ、メモリ、バスなどを使用することができる。通信モジュール102、データ収集デバイス104、メモリ106、機械学習モジュール108、グループ決定モジュール110、リーダー選定モジュール112、モデルミキシングモジュール114、および調整モジュール116のうちの1つまたは複数によって、プロセッサ、メモリ、および任意の他の構成要素が共有されてもよい。例示的な実施形態では、通信モジュール102、データ収集デバイス104、メモリ106、機械学習モジュール108、グループ決定モジュール110、リーダー選定モジュール112、モデルミキシングモジュール114、および調整モジュール116の各々は、互いのモジュールまたはコンポーネントとは異なる専用のハードウェアおよびソフトウェアを使用する。
図2に示すエッジデバイス100は、センサを用いて物理的世界とインターフェースし、次いでセンサによって収集されたデータを使用して、機械学習モデル206を自律的に実行し、機械学習モデル206を用いて実行される機械学習に関する他のデバイスと通信することができる。ショッピングカートの例に関して、エッジデバイス100は、エッジデバイス100の全ての構成要素および機能を一体的に含むショッピングカートであってもよいし、あるいはショッピングカートは、既存の標準ショッピングカートに固定されるように構成されたインストールされたエッジデバイス100を含んでもよい。したがって、例えば、食料品店は、通常のショッピングカートにエッジデバイス100を取り付けることができる。別の例示的な実施形態では、通常の自動車は、自動車内の既存のデータ収集デバイスを使用するソフトウェアモジュールをダウンロードすることによって、エッジデバイス100を形成するように適合された牽引制御システムを含むことができる。さらに、多種多様な異なるタイプのデバイスをエッジデバイス100(例えば、ショッピングカート、自動車、サーモスタット、GPSデバイス)に適合させることができ、したがって、エッジデバイス100が別の異なるタイプのエッジデバイス100と通信する際に、エッジデバイス100の異種グループを形成することができる。エッジデバイスの異種グループは、同じタイプのデバイスであって、同じタイプのデータ収集および同じタイプの機械学習を実行するエッジデバイス100のみを含む、エッジデバイス100の同種のグループとは異なっている。
図3Aは、本開示の例示的な実施形態による、エッジデバイスの異種グループを示す高レベルブロック図である。異種グループ300は、両方とも同じタイプのエッジデバイス100(例えば、両方ともビデオカメラ302)である2つのエッジデバイス302a、302bを含む。異種グループ300はまた、それぞれ異なるタイプのデバイス100(例えば、サーモスタット1台、現金自動預け払い機1台、およびショッピングカート1台)である3つのエッジデバイス304、306、308をさらに含む。サーバー310は、ネットワーク312を介して1つまたは複数のエッジデバイス302a、302b、304、306、308と通信することができる。サーバー310は、1つまたは複数のエッジデバイス100と通信することができる。例示的な実施形態では、サーバー310は、1つまたは複数のエッジデバイス100および1つまたは複数の異なるサーバー(例えば、中央サーバー)と通信する中間サーバーである。例示的な実施形態では、サーバー310は、クラウドコンピューティングを実行する「クラウド」の一部であってもよい。サーバー310は、情報および/またはコマンドをエッジデバイス100に提供することができ、例えば局所モデル206の履歴および/または精度に関する情報を受信することができる。例えば、サーバー310は、製造業者の更新に基づいて、更新されたモデル206を提供することができる。サーバー310は、エッジデバイスと同じ機能の多くを実行することができるが、エッジデバイス100とは異なり、サーバー310は、データ収集デバイス104を使用してデータ収集を実行しない。ネットワーク312は、1つまたは複数のネットワークおよび/または通信経路を含むことができ、ピアツーピアネットワークとして構成することができる。例示的な実施形態では、異種グループ300は、任意のタイプのネットワーク312(例えば、LAN、WAN、Wi-Fi、BT、Z波、衛星、地上波など)内で構成することができ、任意の適切なネットワークトポロジ(例えば、メッシュ、バス、グリッド、リング、スター、ツリー、ライン)で構成することができる。
図3Bは、本開示の例示的な実施形態による、エッジデバイスの異種グループを示すブロック図である。図3Bに示すように、異種グループ300は、エッジデバイス302a、302b、304、306、308a、308b、308cの半接続メッシュネットワークとして提供され、それは4つの異なるタイプのエッジデバイス(例えば、ビデオカメラ302、サーモスタット304、現金自動預け払い機306、およびショッピングカート308)を含む。本明細書で説明するように、エッジデバイス100を参照する場合に、2つの異なるタイプのエッジデバイス302、304は、異なる符号302、304(例えば、ビデオカメラとサーモスタット)、または同じタイプの2つのエッジデバイスは、同じタイプの複数の異なるエッジデバイス(例えば、2つのビデオカメラ302)が参照されていることを示す文字「a」および「b」を付した同じ符号302aおよび302bによって示すことができる。また、エッジデバイス100は、エッジデバイス100が同じタイプかまたは異なるタイプのエッジデバイス100であるかどうかを特定することなく、符号100で参照されてもよい。
例示的な実施形態では、異種グループ300内で複数の異なるタイプのネットワーク通信(例えば、Wi-Fi、4G、BT、NFC、Li-Fi、IrDA)を使用することができるが、1つのタイプの通信しかできないエッジデバイス100が別のエッジデバイス100を有する異種グループ300に存在する可能性があり、それは両方の形式の通信が可能な仲介者として機能するエッジデバイス100を介してしか、異なるタイプの通信ができない。例示的な実施形態では、ネットワーク312は、無線モバイル・アドホック・メッシュ・ネットワーク(例えば、MANET、VANET、SPAN)であってもよい。例示的な実施形態では、ネットワーク312はスキャッタネットであってもよい。本明細書で説明するように、エッジデバイス100の異種グループ300は、簡潔にするために、単にグループ300と呼ぶことができる。グループ300は、しばしばグループ300内で変化を受けやすい。例えば、グループ300内のエッジデバイス100は、グループ300との通信を予期せず失う場合がある。例えば、エッジデバイス100は、電力を失うことがあり(例えば、プラグが抜かれる、および/またはバッテリが切れる)、干渉(例えば、山、雨)のために接続が制限されているかまたは接続されない領域に移動することがあり、あるいはユーザがスイッチを切ることもある。したがって、グループ300は、静的ではなく、むしろ、通常、異なるエッジデバイス100が自発的におよび/または予期せずにグループ300に出入りすることによって動的に変化する異種環境において、通常、動作している。例示的な実施形態では、本願で説明したように、異種グループ300は、ショッピングカート、自動車、監視カメラ、現金自動預け払い機、GPSデバイス、医療デバイス、ロボット、遠隔制御、煙検知器、ヘッドマウントディスプレイのうちの1つまたは複数を含むエッジデバイス100、あるいは任意の他のエッジデバイス100を有することができる。例示的な実施形態では、異種グループ300は、Internet of Things(IoT)の一部である複数のエッジデバイス100を含み、IoTは急速に成長しており、既に何十億ものデバイスを含んでいる。図3Bに示すように、エッジデバイス302aは、リーダーエッジデバイス302aとして指定されており、リーダーエッジデバイス302aは、グループ300のリーダーとして機能するデバイスであり、これについては後でさらに詳しく説明する。
図4は、本開示の例示的な実施形態による、エッジデバイスの異種グループにおける機械学習の例示的なプロセスを示すフローチャートである。プロセス400は、図4に示すフローチャートを参照して説明しているが、プロセス400に関連する動作を実行する他の多くの方法を使用することができることが理解されよう。例えば、ブロックのうちのいくつかは順序が変更されてもよく、特定のブロックが他のブロックと組み合わされてもよく、また記載されたブロックのうちのいくつかは任意である。
例示的なプロセス400は、機械学習モデルの実行から開始することができる(ブロック402)。例えば、エッジデバイス100は、機械学習モデル206を使用して画像データを分析して予測を行うことができる。エッジデバイス308がショッピングカートである場合の例示的な実施形態では、ショッピングカートによって実行されるモデル206は、品目を消費者に提案する所定のタスクに関連し得る。エッジデバイス302がビデオカメラである場合の例示的な実施形態では、ビデオカメラによって実行されるモデル206は、共謀窃盗の認識の所定のタスクに関連し得る。例示的な実施形態では、エッジデバイス100は、例えば、2つの異なるタスクに向けられた2つの異なる機械学習モデル206が同時に実行されている場合には、複数の機械学習モデル206を同時に実行する。2つの異なる機械学習モデル206は、同じ収集データを使用してもよく、または異なるデータ収集デバイス104(例えば、画像センサおよびマイクロフォン)から収集された異なるデータを使用してもよい。また、いくつかの機械学習モデル206は、異なるデータ収集デバイス104から収集された複数の異なるタイプのデータを使用することができる。
例示的なプロセス400は、異種エッジデバイス間の通信を含む(ブロック404)。例えば、エッジデバイス100は、範囲内の様々な異なるタイプのエッジデバイス302、304、306、308との接続を求める定期的なピングメッセージを送信することができる。例示的な実施形態では、ビデオカメラおよびショッピングカートは、ショッピングカートがビデオカメラに近接したときに、例えば、チェックアウトレーンにおいて、消費者がショッピングカート内の商品の代金を支払っているときに通信することができる。例示的な実施形態では、範囲は、ピングメッセージの存続時間または中間デバイスを介したホップ数に基づいて設定される。例示的な実施形態では、その範囲は、信号電力、干渉など(例えば、電力クラスおよび干渉のない視線に基づく30フィートのブルートゥース範囲)によって規定される有効範囲に限定され得る。例示的な実施形態では、その範囲は地理的描写によって設定されてもよい。機械学習モデル206の実行および異種エッジデバイス100間の通信が、同時に発生することがあり得るので、エッジデバイス100は、既知のエッジデバイス100との通信を維持し、例えば、通信の範囲内で移動した新しく利用可能なエッジデバイス100との新たな接続を行い、その間にデータ収集デバイス104によって収集されたデータの着信ストリーム上で機械学習モデル206を継続的に実行する。
通信エッジデバイス100は、グループ300の構築を実行する(ブロック406)。例えば、グループ300のグループメンバーシップおよびリーダーが決定される。例示的な実施形態では、図3Bに示すように、エッジデバイス302a、302b、304、306、308a、308b、308c(例えば、ビデオカメラ、サーモスタット、現金自動預け払い機、およびショッピングカート)がグループ300のメンバーであると決定され、グループ300はリーダーエッジデバイス302aを一括して決定することができる。グループ300のメンバーは、異種グループ300内の分散型機械学習に関与してもよく、リーダーエッジデバイス302a(例えば、ビデオカメラ)は、グループ300の分散型機械学習を導くことができる。例えば、リーダーエッジデバイス302aは、異なるエッジデバイス(例えば、302aおよび302b)のモデル206をミキシングするべきかどうかを決定するために、グループ300と定期的に通信するための構造を決定することができる。また、グループ300は、サーバー310(例えば、中間サーバー)と通信することができ、サーバー310は、グループ300を監視し(例えば、モデル206の履歴およびミキシングに関する情報を記録する)、および/または更新されたモデル206をグループ300に提供することができる。例示的な実施形態では、サーバー310は、グループ300の構築に参加することができる。また、サーバー310は、多くの異なるグループ300を監視してもよく、局所モデル206の履歴および精度に関する情報を受信してもよい。例示的な実施形態では、グループメンバーシップおよびリーダーエッジデバイス302aの決定は、エッジデバイス100間の地理的近接度および/または接続信号強度に基づくことができる。
混合モデルが生成される(ブロック408)。例えば、リーダー302aは、エッジデバイス100から局所モデル206を要求し、受信した局所モデル206をミキシングする。例示的な実施形態では、ビデオカメラであるリーダー302aは、2つのショッピングカートからの2つの局所モデル206をミキシングして、品目を消費者に提案することに関連する混合モデル206を生成する。リーダー302aは、どのモデル206がミキシング可能であるかを判定し、構造メタデータ、コンテキストメタデータ、データ分布などに基づいて、ミキシング可能なモデル206をミキシングすることが適切であるかどうかを判定することもできる。リーダーは、2つの局所モデル206上でミキシング演算(例えば、平均化演算、遺伝的アルゴリズム演算、列挙演算、アンサンブル演算)を実行して、混合モデル206を作成することができる。
混合モデルがグループに分配される(ブロック410)。例えば、リーダー302aは、混合モデル206をエッジデバイス100に送信し、局所モデル206を更新する。次いで、混合モデル206は、グループ300内のエッジデバイス100によって実装され得る(ブロック412)。例えば、エッジデバイス100は、その局所モデル206を混合モデル206に置き換える。例示的な実施形態では、ショッピングカートはそれぞれ、リーダー302aから受信された混合モデル206により消費者への品目を提案するための局所モデル206を置き換える。例示的なプロセス400は、設定された間隔で周期的に繰り返される進行中のプロセスであってもよい。例えば、ブロック402~412は、通常、30秒の期間にわたって発生し得るが、この期間の持続時間は、例えば、収集されるデータの速度および量(例えば、1秒、5分)、リーダー302aの計算能力、エッジデバイス100間の通信速度、必要とされるモデルミキシングの程度などに応じて短くなったり、長くなったりしてもよい。例えば、期間が1秒である場合には、収集されたデータは数秒以内に非常に変化する可能性があり、モデル206が可能な限り正確であることが重要であり得る(例えば、自己運転機能を備えた自動車)。一方、期間が5分である場合には、収集されたデータは、数分の経過にわたって比較的小さな変化を含むことがあるので、モデル206の精度は重要ではない可能性がある(例えば、駐車可能性の予測)。期間は、一般に、異種エッジデバイス100間の通信が維持されている間に機械学習モデル206が実行される第1のフェーズ(ブロック402および404)と、グループ300が構築され、グループ100内のエッジデバイスによってモデル206がミキシングされ、配信され、実装される第2のフェーズ(ブロック406~412)と、を含む。第1および第2のフェーズは、通常、オーバーラップしてもよく、第2のフェーズの開始は、同期またはタイムアウト期間を必要とする場合がある。通常、第1のフェーズは、期間の大部分を構成する。また、期間は、例えばグループ300内のエッジデバイス100の数、リーダー302aの計算能力に基づいて、イベントによってトリガされた場合に(例えば、消費者がチェックアウトするたびに、消費者のショッピングカートが第2のフェーズを開始してもよい)、モデル206の変更または更新を必要とする収集されたデータの重要な変更に基づいて、動的に決定されてもよい。
図5は、本開示の例示的な実施形態による、機械学習の例示的なプロセスを示すフローチャートである。プロセス500について、図5に示すフローチャートを参照して説明しているが、プロセス500に関連する動作を実行する他の多くの方法を使用することができることが理解されよう。例えば、ブロックのうちのいくつかは順序が変更されてもよく、特定のブロックが他のブロックと組み合わされてもよく、また記載されたブロックのうちのいくつかは任意である。
例示的なプロセス500は、データ収集デバイスから収集されたデータを受信することから開始することができる(ブロック502)。例えば、ショッピングカート内の品目を含むデータストリームがタグリーダから受信される。ショッピングカートは、タグリーダ(例えば、RFIDリーダー)および位置検出デバイス(例えば、GPSデバイス)などの複数のデータ収集デバイス104を含むことができる。例えば、買い物客が食料品店を移動すると、タグリーダを使用してショッピングカートに入れた品目を識別することができる。メモリ106は、どの品目がショッピングカートに置かれているか、およびショッピングカートが店舗内に位置しているかを示すデータを定期的に格納することができる。例えば、メモリ106は、0.5秒毎に現在の場所およびショッピングカート内の品目のリストを格納することができ、したがって、店舗全体にわたって買い物客の行動のログを作成することができる。例示的な実施形態では、店舗は、棚上の1,000個の異なる商品を追跡し、これらの品目の1つがショッピングカートに入れられると、その商品の有無を示すようにベクトルが更新される。例えば、1000個の品目のうちの品目3と5がショッピングカートに置かれると、1,000個のベクトルが<0,0,1,0,1,0,0,...,0>に更新され、店舗内の位置およびタイムスタンプと共に格納され得る。店舗内の全ての品目が、ショッピングカート内のタグリーダによって読み取り可能なタグ(例えば、RFIDタグ)を有さなければならないわけではないことを理解されたい。
収集されたデータは、所定のタスクに関連するモデルを用いて分析されてもよい(ブロック504)。例えば、ショッピングカートによって収集されたデータストリームを分析して、品目の予測を行い、それを買い物客に提案することができる。例示的な実施形態では、モデル206は、買い物客に提案された場合に、所定の日にモデル206によって提案され得る所定の品目リストから購入される最も有望な品目である品目を予測することができる。例えば、買い物客に提案された品目は、高い利益率の品目であってもよいし、および/または過剰に在庫されているか間もなく期限切れの品目であってもよい。例示的な実施形態では、モデル206は、提案することができる3つの品目のリスト(例えば、宝くじチケット、ペストリートレイ、またはフラワーブーケ)を有することができる。モデル206は、カート内に置かれた品目、滞留時間(例えば、1つの場所で10秒以上)、店舗を通る移動(例えば、通路の順序およびバイパス通路)、曜日、時刻、休日または特別イベント(例えばスーパーボウル)などを分析することができる。例えば、収集されたデータは、モデル206の実行可能コンポーネント210の入力変数として入力され、消費者が一定期間立ち止まる(例えば、買い物客が製品に興味を持っている、または決定している)滞留時間、品目がカートに置かれる順序、バイパスされる店の部分などを分析する。収集されたデータは全て、モデル206によって分析されて、どの品目を買い物客に提案すべきかを予測することができる。例示的な実施形態では、モデル206は、単純ベイズ分類器を含むことができ、それは宝くじチケット、ペストリートレイ、およびフラワーブーケのそれぞれの購入確率を出力し、最も高い購入確率を有する品目を提案する品目とすることができる。上述したように、店舗内の全ての品目が、ショッピングカート内のタグリーダによって読み取り可能なタグ(例えば、RFIDタグ)を有さなければならないわけではないが、そのような品物は、品目を消費者に提案するためにモデル206によって考慮されなくてもよい。
結果がモデルの分析に基づいて出力される(ブロック506)。例えば、実行可能コンポーネント210は、グローバルモデル206に基づいて、宝くじチケットを推薦することにより宝くじチケットを購入する可能性が最も高くなるという予測を行う。例えば、買い物客は、5つの品目をショッピングカートに入れ、次に実行可能コンポーネント210は、品目の購入確率を決定することができる(例えば、<宝くじチケット0.847>、<ペストリートレイ0.017>、<フラワーブーケ、0.136>)。したがって、モデル206は、宝くじチケットを買い物客に提案するべきであると予測する結果を出力することができる。例示的な実施形態では、通信モジュール102は、モデルから出力された結果に基づいて、例えばデジタル表示画面上に品目を提案することができる。また、例示的な実施形態では、提案した品目について消費者にクーポンを提供することもできる。モデル206によって出力される結果は、予測、分類、クラスタリング、異常検出、および/または認識を含むことができる。上述のように、メモリ106は、収集されたデータを一時的に格納することができ、収集されたデータが分析されて結果が出力されると、メモリ106は新しい収集されたデータで上書きされる。例えば、メモリ106は、50ミリ秒毎、500ミリ秒毎、5秒毎、または5分毎に上書きされてもよい。
結果の正確さがモデルによって判定される(ブロック508)。例えば、モデル206は、フィードバックを使用して、宝くじチケットが購入されたかどうかを判定する。例示的な実施形態では、ショッピングカートの通信モジュール102は、どの商品が購入されたかを示す情報を別のエッジデバイス100(例えば、レジ、ビデオ監視カメラ)から受信することができ、したがって、モデル206は、提案した品目が購入されたか購入されなかったかを判定することができる。場合によっては、エッジデバイス100は、出力された結果の正確さを判定するためのフィードバックを得ることができないことを理解されたい。
このモデルは、所定のタスクに関連する局所モデルを作成するように更新される(ブロック510)。例えば、更新モジュール218は、グローバルモデル206のパラメータ値を変更して局所モデル206を作成する。例えば、消費者が宝くじチケットを購入することをショッピングカートが提案した後に宝くじチケットが購入されなかった場合には、更新モジュール218は、このフィードバックを訓練データとして使用して、モデル206のパラメータ値を更新することができる。局所モデル206は、比較的短時間の後に特定の環境に対して非常によく訓練され得る。環境が変化する場合には、モデル206は一般に、最適な結果を提供するために再度、通常は数回更新する必要がある。エッジデバイス100が動作する環境は、エッジデバイス100が異なる場所に移動するか、または環境が経時的に変化するか、またはこれらの両方の組み合わせのために変化し得る。
上述のショッピングカートの例は単に例示的なものであり、モデル206は任意の適切な所定のタスクに関連し、所定のタスクに対処するための任意の適切なタイプのモデル206を含んでもよいことを理解されたい。例示的な実施形態では、モデル206は、食料品店におけるレジ係による共謀窃盗の認識に向けられてもよい。例えば、チェックアウトレーンに位置する監視ビデオカメラは、エッジデバイス100として動作することができる。ビデオカメラは、画像データのストリームを収集し、モデル206によって分析されて、レジ係の手の動きが、レジ係が消費者を呼び出すための品目を適切にスキャンしていないことを示していることを検出することができる。モデル206が、共謀窃盗が発生している、または発生しそうであると判断した場合には、または店の管理者にメッセージを送って、管理者が店の出口で消費者のバッグおよび領収書をチェックすることができる。消費者がスキャンされなかった品目を持っていたかどうかに基づいて、フィードバックをモデル206に提供することができ、フィードバックに基づいてモデルを更新することができる。したがって、更新された局所モデル206は、レジ係の品目をスキャンするスタイルに適応することができ、それは異なるレジ係の別のモデル206とは異なっていてもよい。
別の例示的な実施形態では、モデル206は、自動車の目標コーナリング速度を決定する所定のタスクに関連してもよい。例えば、自動車は、予測される衝突に基づく自動制動、およびドライバへの警報または警告などの自己運転機能を含むことができる。例示的な実施形態では、自動車は、次に来るコーナー(例えば、道路のカーブまたはターン)を分析するためのビデオカメラなどのデータ収集デバイス104を含むエッジデバイス100であってもよい。データ収集デバイス104は、曲がりの鋭さ、道路の傾斜、および道路のキャンバ、現在の速さもしくは速度、スリップ角、タイヤ舗装摩擦、自動車の重量、重量の分布、湿度、温度などを決定するために使用されるデータストリームを提供することができる。モデル206は、次に来る各コーナーの目標速度を出力することができ、ブレーキを掛ける、または危険な状態をユーザに警告するなどのために自動車によって使用することができる。自動車内のデータ収集デバイス104(例えば、牽引制御システム)からコーナーを通って運転中に得られるフィードバック(例えば、タイヤスリップ、車輪の差)をモデル206に提供することができる。自動車が走行するにつれて、更新モジュール218はフィードバックを使用してモデル206を改良することができ、それは場所の変化(例えば、砂漠、山)、天候の変化(乾燥、雨、雪、風、暑さ、凍結)、重量の変化(例えば、乗客の乗り降りもしくは荷物の積み降ろし)、または他の任意の環境変化に基づいてもよい。
図6は、本開示の例示的な実施形態による、異種グループ構築のための例示的なプロセスを示すフローチャートである。プロセス600について、図6に示すフローチャートを参照して説明しているが、プロセス600に関連する動作を実行する他の多くの方法を使用することができることが理解されよう。例えば、ブロックのうちのいくつかは順序が変更されてもよく、特定のブロックが他のブロックと組み合わされてもよく、また記載されたブロックのうちのいくつかは任意である。
例示的なプロセス600では、互いに通信しているエッジデバイス302、304、306、308は、グループメンバーシップを決定することができる(ブロック602)。例えば、グループメンバーシップは、エッジデバイス100の地理的近接度に基づいて決定されてもよい。例示的な実施形態では、通信しているショッピングカートおよびビデオカメラは、(例えば、食料雑貨品店内における近接度に基づいて)両方のデバイスがグループ300のメンバーであるべきであると判断することができる。例えば、食料雑貨品店内の様々なエッジデバイス100のメンバーシップを含むグループ300が形成されてもよい。エッジデバイス100は、複数のグループ300の範囲内にあってもよく、その場合には、エッジデバイス100は、どのグループ300に入るか、および/または別のグループ300に対して1つのグループ300を残すかどうかを(例えば、場所、無線信号強度、直接通信中のデバイスの数に基づいて)決定することができる。例えば、エッジデバイス308(例えば、ショッピングカート)が、グループ300内の1つのエッジデバイス306に対して低い強度の無線接続のみを有する(例えば、ショッピングカートが店外の駐車場内にある)場合には、エッジデバイス308がグループ300との通信を失う可能性が高い。この場合には、異なるグループ300がメンバーシップにより適しているかもしれない。グループ300に入ると、エッジデバイス100はグループメンバーシップ情報を受信し、エッジデバイス100が処理している所定のタスクに応じて初期化され得る。所定のタスクが局所環境に対して非常に特有である場合には、新しいモデル206をエッジデバイス100に提供する必要があり得る。例示的な実施形態では、各エッジデバイス100は、任意の所与の時刻において、1つのグループ300のメンバーであることのみが許可されてもよい。グループメンバーシップを有すると判定されたエッジデバイス100は、通信中のエッジデバイス100のグループ300のサブセットであってもよい。エッジデバイス100のサブセットは、狭義のサブセットであってもよいし(例えば、7つのエッジデバイス100が通信を維持しているが、2つのエッジデバイス100が、それらは接続不良のためにグループ300のメンバーにするべきではないと判断してもよい)、あるいはグループ300内の各エッジデバイス100を含めてもよい(例えば、7つのエッジデバイス100が通信を維持していてもよく、かつ、7つのエッジデバイス100の全てがグループ300のメンバーでなければならないと決定してもよい)。例示的な実施形態では、1つのエッジデバイス100がグループメンバーシップを決定する。例えば、要求する各エッジデバイス302b、304、306、308の近接度および/または接続性が適切である場合には、リーダー302aは、グループに参加するための他のエッジデバイス302b、304、306、308からの要求を受け入れることによってグループメンバーシップを決定することができる。また、例えば、グループ300と通信しているランダムに選択されたエッジデバイス100が、グループメンバーシップを決定してもよい。
グループ300内のエッジデバイス100は、リーダーエッジデバイス302aを決定することができる(ブロック604)。例えば、リーダーエッジデバイス302a(例えば、ビデオカメラ)を、合意プロトコルを使用して選定することができる。本明細書で説明するように、リーダーエッジデバイス302aは、簡潔さのために単にリーダー302aと呼ぶ場合がある。リーダー302aは、グループ300内のメンバーシップを有する全てのエッジデバイス100と直接的または間接的に通信し、グループ300内のエッジデバイス100から局所モデル206を受信し、局所モデル206をミキシングして混合モデル206を形成し、混合モデル206を配信することができる。リーダー302aは、様々な異なる方法でグループ300によって決定されてもよい。例えば、リーダー302aは、ユーザの指定、環境条件および/またはグループ300内の他のエッジデバイス100の条件に基づいたルールに基づく選択、ランダム割り当て、IDに基づく選択(例えば、最大MACアドレス)、合意プロトコル、あるいは機能に基づく選択に基づいて決定することができる。例えば、各エッジデバイス100の計算能力を決定する所定の能力関数を用いてリーダー302aを選択してもよいし、所定の能力関数を最大にするエッジデバイス100をリーダー302aとして決定してもよい。所定の能力関数は、CPU処理能力、CPUコア数、メモリ量、メモリ速度、通信速度などに基づくことができ、各エッジデバイス100は、それ自体の計算能力スコアを決定することができる。例えば、各エッジデバイス100が計算能力スコアをグループ300の前のリーダー302aに送信して、前のリーダー302aが次のリーダー302aをグループ300に通知することができる。
リーダー302aは、リーダー302aとグループ300との間の通信を開始することができる(ブロック606)。例えば、リーダー302aは、局所モデル206に対する要求を、グループ300内のエッジデバイス302b、304、306、308に送信することができる。局所モデル206に対する要求を送信した後に、リーダー302aは、グループ300から送信された局所モデル206を受信することができる。例示的な実施形態では、リーダー302aは、エッジデバイス308a、308b、308c(例えば、ショッピングカート)から品目を消費者に提案することに関連する局所モデル206を受信してもよいし、エッジデバイス302b(例えば、ビデオカメラ)からレジ係の共謀窃盗の認識に関連する局所モデル206を受信してもよい。リーダー302aは、第1の所定のタスクに関連するモデル206と、異なる第2の所定のタスクに関連するモデル206と、を受信することができる。リーダー302aは、第1および第2の所定のタスクの一方または両方に関連するモデル206を実行していてもよいし、あるいは、第1または第2の所定のタスクのどちらかに関連するモデル206を実行していなくてもよい。したがって、リーダー302aが異なるタイプのデバイスであっても、リーダーエッジデバイス302aをグループ300のリーダー302aとして指定してもよいし、異種グループ300内の他のエッジデバイス304、306、308の1つまたは複数と同じ所定のタスクに関連する機械学習を実行しなくてもよい。上述のように、リーダー302aは、モデルミキシングおよび混合モデルの配信を実行することができる。
図7は、本開示の例示的な実施形態による、エッジデバイスの異種グループにおける機械学習のための例示的なプロセスを示す流れ図である。プロセス700について、図7に示す流れ図を参照して説明しているが、プロセス700に関連する動作を実行する他の多くの方法を使用することができることが理解されよう。例えば、ブロックのうちのいくつかは順序が変更されてもよく、特定のブロックが他のブロックと組み合わされてもよく、また記載されたブロックのうちのいくつかは任意であってもよいし、あるいは異なるデバイスによって実行されてもよい。
例示的なプロセス700では、データは、例えば、ネットワーク312を介して、エッジデバイス302a、302n、304a、304nの間を流れることができる。エッジデバイス302a、302n、304a、304nは、任意のタイプのエッジデバイス100であってもよい。4つの特定のエッジデバイス302a、302n、304a、304nについてのプロセスが4つの別々の列に示されているが、より多くのエッジデバイス100がプロセス700に関与してもよく、1つまたは複数のサーバー310がプロセス700に参加してもよい。例えば、エッジデバイス302nは、エッジデバイス302aと同じタイプの第2の、第10の、または第50のデバイスを表すことができる。同様に、エッジデバイス304nは、エッジデバイス304aと同じタイプの第3の、第20の、または第100のデバイスを表すことができる。通常、全てのエッジデバイス302a、302n、304a、304nが互いに直接通信することができるわけではないので、通信は中間エッジデバイス(例えば302n、304a)を介して、および/または他のデバイス(例えば、ルータ、ゲートウェイ、サーバー310)を介して行われる。また、プロセス700は、第1のフェーズ750および第2のフェーズ760を示す。第1のフェーズ750では、エッジデバイス302a、302n、304a、304nがモデル206を実行し、他のエッジデバイス302a、302n、304a、304nと接続して通信を維持し、第2のフェーズ760では、グループ構築とモデルミキシングが行われる。
例示的なプロセス700は、エッジデバイス302aがモデルを実行することで開始することができる(ブロック702a)。同様に、エッジデバイス302nがモデルを実行しており(ブロック702b)、エッジデバイス304aがモデルを実行しており(ブロック702c)、エッジデバイス304nがモデルを実行している(ブロック702d)。実行モデルのいずれかまたは全ては、局所モデル206であってもよい。上述のように、実行モデル206は、収集されたデータを分析して、結果を出力することができる。第1のフェーズ750は、例えば、エッジデバイス302aが90の結果(例えば、毎秒2つの結果)を出力することができる45秒の持続時間を有することができるが、異なるエッジデバイス(例えば、304a)は、例えば、モデル206に応じて、かつエッジデバイス(例えば、304a)によって収集されたデータストリームに応じて、より多くの結果またはより少ない結果を出力することができる。エッジデバイス302aは、エッジデバイス302nにピングメッセージ704aを送って、最初に接続を行い、次に接続を維持することができる。さらに、ピングメッセージ704b、704cが、例えばエッジデバイス302n、304a、304nの間で送信される。プロセス700では例示的な通信のみが示され、例えば、エッジデバイス302aから304nへのピングメッセージの直接通信を含む、より多くの通信が行われてもよいことを理解されたい。
エッジデバイス302nではトリガイベントが発生する(ブロック706)。例えば、トリガイベントは、ショッピングカート内の品目の販売が完了した後のチェックアウトレーン内のショッピングカートであってもよい。また、例えば、トリガイベントは、時間に基づくイベント(例えば、第1のフェーズ750が開始してから45秒後)であってもよく、タイマー満了によってトリガされてもよい。例示的な実施形態では、エッジデバイス302nは、複数の異なるトリガイベントを有するように構成されてもよい。
エッジデバイス302nでトリガイベントが発生すると、そのエッジデバイス302nは、グループ構築を開始することによって第2のフェーズ760に入ることができる。具体的には、エッジデバイス302nは、構築要求710をグループの前のリーダー302aに送信することによってグループ構築を開始することができる(ブロック708)。別の例示的な実施形態では、エッジデバイス302nは、例えば、エッジデバイス302nと通信する全てのエッジデバイス302a、304a、304nにメッセージをブロードキャストすることによって、グループ構築を直接開始することができる。前のリーダー302aは、グループメンバーシップおよびリーダー情報に対する要求をブロードキャストすることができる(ブロック712)。グループ情報714に対する要求(例えば、グループメンバーシップおよびリーダー選定)は、エッジデバイス302nからエッジデバイス304aおよびエッジデバイス304nに送ることができる。
全てのエッジデバイス302n、304a、304nがグループ情報714に対する要求を受信すると、エッジデバイス302n、304a、304nは、それぞれグループ決定モジュール110を用いてグループ情報718a、718b、718cを決定して送信し、グループに入って、リーダーを選定するためのプロセスを実行する(ブロック716a、716b、716c)。例えば、全てのエッジデバイス302a、302n、304a、304nは、それらがグループメンバーシップを有するべきであると決定してもよい。しかしながら、例えば、1つまたは複数のエッジデバイスは、例えば、貧弱な無線接続が、第2のフェーズ760で失敗するか、または問題を引き起こす可能性が高い場合には、グループメンバーシップを拒否することができる。また、例えば、リーダーを選定するためのプロセスは、合意プロトコル、ルールに基づく選択、ランダム割り当て、IDに基づく選択、および/または計算能力関数に基づく選択を含むことができる。前のリーダー302aがグループ情報718a、718b、718cを有すると、前のリーダー302aは、グループ決定モジュール110を使用してグループメンバーシップおよび現在のリーダーを決定する(ブロック720)。図7は、前のリーダー302aが再び現在のリーダー302aであると決定される典型的な例を示す。例えば、リーダー302aは、第1のフェーズ750および第2のフェーズ760を一般に含むことができるいくつかの期間において繰り返してリーダー302aであってもよい。しかしながら、リーダー302aの処理能力が低下させる期間がある場合には、大部分の時間(例えば、使用されていない間)に未使用の高レベルの処理能力を有することができる現金自動預け払い機などの、異なるリーダーを選ぶことができる。上述したように、グループメンバーシップの決定およびリーダーの決定は、両方とも多くの異なる方法で実行されてもよく、特定の決定方法は、エッジデバイス302a、302n、304a、304nによって動的に使用されてもよい。また、グループメンバーシップを決定し、現在のリーダーを決定することは、例えば、合意プロトコルを実施する前にグループメンバーシップを確定しなければならない場合には、逐次的に実行されてもよい。
リーダー302aが決定されると、モデルミキシングモジュール114を使用してモデルミキシングプロセスを開始することができる。現在のリーダー302aは、モデルを要求し、モデルをミキシングし、モデルを配信する(ブロック722)。モデルに対する要求が送信されると、リーダー302aと他のエッジデバイス302n、304a、304nとの間でモデルミキシング情報724a、724b、724cが通信される。エッジデバイス302n、304a、304nは、リーダー302にモデルを提出し、その後、混合モデルを実装する(ブロック726a、726b、726c)。また、リーダー302aは、リーダー自体のモデル206の1つが別のモデル206とミキシングされた場合には、混合モデル206を実装してもよい。モデルミキシング情報724a、724b、724cは、構造メタデータ、コンテキストメタデータ、結果ログ、データ分布などを含むことができる要求、グローバルモデル、局所モデル、混合モデルを含むことができる。リーダー302aは、どのモデルをミキシングするかを決定するために、構造メタデータ、コンテキストメタデータ、およびデータ分布によるフィルタリングを実行することができる。第2のフェーズ760は、例えば15秒の持続時間を有することができ、その後、第1のフェーズ750が再び開始する。
以前に存在していた機械学習方法は、一般的には、同種の環境からのデータストリームを処理するのに有用であった。しかし、我々は、環境の変化が一般的である異種環境で利用可能なデータの量と速度を既存の方法では適切に処理できないことを認識している。より高度で高速なコンピュータおよび/またはネットワークハードウェアでこの問題に対処することは不十分であることが判明しており、それは、技術的に最も高度なコンピュータハードウェア、ソフトウェア、およびネットワーキング機能であっても、異種環境(例えば、接続が変化する異なるタイプのエッジデバイス100)における変化を処理することはできるが、我々が必要とする速度でデータ量を処理するのに適していないためである。換言すれば、既存の機械学習技術は、一般に、異種環境における機械学習を処理するには不十分である。一方、本明細書で提案するようなエッジデバイス100による異種環境における機械学習は、従来の方法およびシステムを用いては不可能であった異なる技術的アプローチをとる。したがって、本明細書に記載の方法およびシステムを使用することによって、エッジデバイス100および異種環境が改良される。
本明細書に記載の開示された方法および手順の全ては、1つまたは複数のコンピュータプログラム、モジュール、またはコンポーネントを使用して実装できることが理解されよう。これらのモジュールまたはコンポーネントは、RAM、ROM、フラッシュメモリ、磁気もしくは光学ディスク、光学メモリ、または他の記憶媒体などの揮発性または不揮発性メモリを含む、任意の従来のコンピュータ可読媒体または機械可読媒体上の一連のコンピュータ命令として提供されてもよい。命令は、ソフトウェアまたはファームウェアとして提供されてもよく、かつ/またはASIC、FPGA、DSPまたは他の同様のデバイスなどのハードウェアコンポーネントの全体または一部に実装されてもよい。命令は、1つまたは複数のプロセッサによって実行されるように構成することができ、1つまたは複数のプロセッサは、一連のコンピュータ命令を実行する場合に、開示された方法および手順の全部または一部の処理を実行し、または容易にする。
本明細書に記載した主題の態様は、単独で、あるいは本明細書に記載した1つまたは複数の他の態様と組み合わせて、有用であり得る。以下の記述を限定することなく、本開示の例示的な態様では、エッジデバイスは、複数の異なるエッジデバイスと通信するように構成された通信モジュールと、第1のタイプのデータを収集するように構成されたデータ収集デバイスと、データ収集デバイスによって収集されたデータを格納するように構成されたメモリと、機械学習モジュールと、グループ決定モジュールと、リーダー選定モジュールと、を含み、エッジデバイスは、所定のタスクに関連する第1のモデルを使用して、データ収集デバイスによって収集された第1のデータを分析し、予測、分類、クラスタリング、異常検出、および認識のうちの少なくとも1つを含む結果を出力し、結果の正確さに基づいて、所定のタスクに関連する第1の局所モデルを作成するために第1のモデルを更新し、エッジデバイスの第1の異種グループ内の少なくとも1つの他のエッジデバイスと通信し、エッジデバイスの第1の異種グループは、少なくとも第1のエッジデバイスおよび第2のエッジデバイスを含み、第1のエッジデバイスは第1のタイプのデータを収集して分析し、第2のエッジデバイスは異なる第2のタイプのデータを収集して分析し、エッジデバイスの第1の異種グループからエッジデバイスの第2の異種グループのメンバーシップを決定し、エッジデバイスの第2のグループは、エッジデバイスの第1の異種グループのサブセットであり、エッジデバイスの第2の異種グループからリーダーエッジデバイスを決定し、リーダーエッジデバイスから第1の局所モデルに対する要求を受信し、第1の局所モデルをリーダーエッジデバイスに送信し、リーダーエッジデバイスから所定のタスクに関連する混合モデルを受信し、混合モデルは、リーダーエッジデバイスが、複数の第1の局所モデルと少なくとも1つの異なるそれぞれの局所モデルとのミキシング演算を実行することによって作成され、第1の局所モデルを混合モデルに置き換えるように構成される。上記態様と組み合わせて使用することができる、本開示の別の例示的な態様によれば、第1のタイプのデータはビデオ画像データであり、第2のタイプのデータは速度データである。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスはリーダーエッジデバイスとして選定される。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスの第2の異種グループ内の各エッジデバイスは、それぞれの局所モデルを作成する。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスの第2の異種グループは、異なるタイプの結果を出力する局所モデルを含む。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、異なるタイプの結果は異なるデータタイプを含む。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、異なるタイプの結果は異なる出力変数を含む。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、ランダムに選択されたエッジデバイスは、第2のグループのメンバーシップを決定する。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、第1の期間の後に、所定のタスクは新しいタスクに変更される。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、第1のモデルは固定構造を有する。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスの第2の異種グループは、エッジデバイスの第1の異種グループの狭義のサブセットである。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスは、ショッピングカートデバイスおよび監視カメラの一方である。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスは自動車内に組み込まれる。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスは現金自動預け払い機である。
前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、コンピュータ可読媒体は命令を格納し、命令は、複数の異なるエッジデバイスと通信するように構成された通信モジュールと、第1のタイプのデータを収集するように構成されたデータ収集デバイスと、データ収集デバイスによって収集されたデータを格納するように構成されたメモリと、機械学習モジュールと、グループ決定モジュールと、リーダー選定モジュールと、を含むエッジデバイスによって実行された場合に、エッジデバイスに対して、所定のタスクに関連する第1のモデルを使用して、データ収集デバイスによって収集された第1のデータを分析させ、予測、分類、クラスタリング、異常検出、および認識のうちの少なくとも1つを含む結果を出力させ、結果の正確さに基づいて、所定のタスクに関連する第1の局所モデルを作成するために第1のモデルを更新させ、エッジデバイスの第1の異種グループ内の少なくとも1つの他のエッジデバイスと通信させ、エッジデバイスの第1の異種グループは、少なくとも第1のエッジデバイスおよび第2のエッジデバイスを含み、第1のエッジデバイスは第1のタイプのデータを収集して分析し、第2のエッジデバイスは異なる第2のタイプのデータを収集して分析し、エッジデバイスの第1の異種グループからエッジデバイスの第2の異種グループのメンバーシップを決定させ、エッジデバイスの第2のグループは、エッジデバイスの第1の異種グループのサブセットであり、エッジデバイスの第2の異種グループからリーダーエッジデバイスを決定させ、リーダーエッジデバイスから第1の局所モデルに対する要求を受信させ、第1の局所モデルをリーダーエッジデバイスに送信させ、リーダーエッジデバイスから所定のタスクに関連する混合モデルを受信させ、混合モデルは、リーダーエッジデバイスが、複数の第1の局所モデルと少なくとも1つの異なるそれぞれの局所モデルとのミキシング演算を実行することによって作成され、第1の局所モデルを混合モデルに置き換えさせる。
前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスによって実行される方法は、エッジデバイス内の通信モジュールによって、複数の異なるエッジデバイスと通信するステップと、データ収集デバイスによって、第1のタイプのデータを収集するステップと、データ収集デバイスによって収集されたデータをメモリに格納するステップと、所定のタスクに関連する第1のモデルを使用して、データ収集デバイスによって収集された第1のデータを分析するステップと、予測、分類、クラスタリング、異常検出、および認識のうちの少なくとも1つを含む結果を出力するステップと、結果の正確さに基づいて、所定のタスクに関連する第1の局所モデルを作成するために第1のモデルを更新するステップと、エッジデバイスの第1の異種グループ内の少なくとも1つの他のエッジデバイスと通信するステップであって、エッジデバイスの第1の異種グループは、少なくとも第1のエッジデバイスおよび第2のエッジデバイスを含み、第1のエッジデバイスは第1のタイプのデータを収集して分析し、第2のエッジデバイスは異なる第2のタイプのデータを収集して分析する、ステップと、エッジデバイスの第1の異種グループからエッジデバイスの第2の異種グループのメンバーシップを決定するステップであって、エッジデバイスの第2のグループは、エッジデバイスの第1の異種グループのサブセットである、ステップと、エッジデバイスの第2の異種グループからリーダーエッジデバイスを決定するステップと、リーダーエッジデバイスから第1の局所モデルに対する要求を受信するステップと、第1の局所モデルをリーダーエッジデバイスに送信するステップと、リーダーエッジデバイスから所定のタスクに関連する混合モデルを受信するステップであって、混合モデルは、リーダーエッジデバイスが、複数の第1の局所モデルと少なくとも1つの異なるそれぞれの局所モデルとのミキシング演算を実行することによって作成される、ステップと、第1の局所モデルを混合モデルに置き換えるステップと、を含む。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、第1のタイプのデータはビデオ画像データであり、第2のタイプのデータは速度データである。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスはリーダーエッジデバイスとして選定される。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスの第2の異種グループ内の各エッジデバイスは、それぞれの局所モデルを作成する。前述の態様のうちの任意の1つまたは複数と組み合わせて使用することができる、本開示の別の例示的な態様によれば、エッジデバイスの第2の異種グループは、異なるタイプの結果を出力する局所モデルを含む。
本明細書に記載した例示的な実施形態に対する様々な変更および修正は、当業者には明らかであることを理解されたい。そのような変更および修正は、本主題の趣旨および範囲から逸脱することなく、かつ意図する利点を損なうことなく行うことができる。したがって、そのような変更および修正は添付の特許請求の範囲によって包含されることが意図されている。

Claims (34)

  1. 少なくとも1つのメモリと、
    少なくとも1つのプロセッサと、を備え、
    前記少なくとも1つのプロセッサは、
    複数のデバイスから要求を受信することと、
    前記要求に基づいて、複数のデバイスを決定することと、
    決定された前記複数のデバイスからモデル更新に関する情報を受信することと、
    前記モデル更新に関する情報に基づいて、モデルを生成することと、
    を実行可能に構成され、
    決定された前記複数のデバイスのそれぞれにはグローバルモデルが提供され、
    前記モデル更新に関する情報は、送信元のデバイスで収集されたデータの前記グローバルモデルを用いた分析に基づく前記グローバルモデルの更新に関する情報であり、
    前記少なくとも1つのプロセッサは、前記モデルの生成のための、前記送信元のデバイスで分析された前記データの受信をしない、
    デバイス。
  2. 前記少なくとも1つのプロセッサは、更に、
    決定された前記複数のデバイスの少なくとも1つのデバイスに、前記モデルを送信すること、
    を実行可能に構成される、
    請求項1に記載のデバイス。
  3. 前記少なくとも1つのプロセッサは、更に、
    受信した前記モデル更新に関する情報から前記モデルの生成に用いる情報を選択すること、
    を実行可能に構成され、
    前記少なくとも1つのプロセッサは、選択された前記情報を用いて、前記モデルを生成する、
    請求項1又は請求項2に記載のデバイス。
  4. 前記少なくとも1つのプロセッサは、
    構造メタデータ、コンテキストメタデータ、及び、データ分布の少なくとも1つに関する情報に基づいて、前記モデルの生成に用いる情報を選択する、
    請求項1から請求項3のいずれかに記載のデバイス。
  5. 前記モデル更新に関する情報は、前記送信元のデバイスで更新されたモデル、前記送信元のデバイスで収集された前記データを前記グローバルモデルで分析した結果、構造メタデータ、コンテキストメタデータ、及び、データ分布のいずれか1つに関する情報を含む、
    請求項1から請求項のいずれかに記載のデバイス。
  6. 前記少なくとも1つのプロセッサは、
    前記モデル更新に関する情報に平均化処理を適用することで、前記モデルを生成する、
    請求項1から請求項のいずれかに記載のデバイス。
  7. 前記少なくとも1つのプロセッサは、
    少なくとも、地理的情報、及び、無線接続状態に関する情報のいずれか1つに基づいて、前記複数のデバイスを決定する、
    請求項1から請求項6のいずれかに記載のデバイス。
  8. 前記少なくとも1つのプロセッサは、
    複数のデバイスから要求を受信することと、
    前記要求に基づいて、複数のデバイスを決定することと、
    決定された前記複数のデバイスからモデル更新に関する情報を受信することと、
    前記モデル更新に関する情報に基づいて、モデルを生成することと、
    を繰り返し実行可能に構成される、
    請求項1から請求項7のいずれかに記載のデバイス。
  9. 前記繰り返しの期間は、少なくとも、前記送信元のデバイスで収集されたデータ、計算能力、通信速度、及び、デバイスの数のいずれか1つに基づいて決定される、
    請求項8に記載のデバイス。
  10. 前記少なくとも1つのプロセッサは、
    前記複数のデバイスが決定した後、決定された前記複数のデバイスとは異なる組み合わせの複数のデバイスを決定する、
    請求項1から請求項9のいずれかに記載のデバイス。
  11. 前記少なくとも1つのプロセッサは、更に、
    決定された前記複数のデバイスに前記グローバルモデルを提供すること、
    を実行可能に構成される、
    請求項1から請求項10のいずれかに記載のデバイス。
  12. 前記少なくとも1つのプロセッサは、
    決定された前記複数のデバイスに、他のデバイスを追加し、
    追加した前記他のデバイスから前記モデル更新に関する情報を受信する、
    請求項1から請求項11のいずれかに記載のデバイス。
  13. 前記少なくとも1つのプロセッサは、更に、
    前記他のデバイスを追加した後、前記他のデバイスに前記グローバルモデルを提供すること、
    を実行可能に構成される、
    請求項12に記載のデバイス。
  14. 前記少なくとも1つのプロセッサは、
    前記他のデバイスから受信した要求に基づいて、決定された前記複数のデバイスに前記他のデバイスを追加する、
    請求項12又は請求項13に記載のデバイス。
  15. サーバ、又は、エッジデバイスである、
    請求項1から請求項14のいずれかに記載のデバイス。
  16. 少なくとも1つのメモリと、
    少なくとも1つのプロセッサと、を備え、
    前記少なくとも1つのプロセッサは、
    第2のデバイスに要求を送信することと、
    データを収集することと、
    グローバルモデルを用いて、前記データを分析することと、
    前記分析に基づいて、前記グローバルモデルの更新に関する情報を生成することと、 前記更新に関する情報を、前記第2のデバイスに送信することと、
    前記更新に関する情報の送信後、前記第2のデバイスからモデルを受信することと、
    を実行可能に構成され、
    前記モデルは、前記第2のデバイスが、少なくとも前記更新に関する情報及び第3のデバイスが生成した前記グローバルモデルの更新に関する情報を用いて生成したモデルであり、
    前記少なくとも1つのプロセッサは、前記更新に関する情報の生成に用いた前記データを前記第2のデバイスに送信しない、
    デバイス。
  17. 前記更新に関する情報は、前記分析に基づいて更新したモデル、前記分析の結果、構造メタデータ、コンテキストメタデータ、及び、データ分布のいずれか1つに関する情報を含む、
    請求項16に記載のデバイス。
  18. 自装置の局所モデルを、前記第2のデバイスから受信した前記モデルで置き換える、
    請求項16又は請求項17に記載のデバイス。
  19. 前記少なくとも1つのプロセッサは、
    前記第2のデバイスに要求を送信することと、
    データを収集することと、
    グローバルモデルを用いて、前記データを分析することと、
    前記分析に基づいて、前記グローバルモデルの更新に関する情報を生成することと、
    前記更新に関する情報を、前記第2のデバイスに送信することと、
    前記更新に関する情報の送信後、前記第2のデバイスからモデルを受信することと、
    を繰り返し実行可能に構成される、
    請求項16から請求項18のいずれかに記載のデバイス。
  20. 少なくとも1つのプロセッサが、
    複数のデバイスから要求を受信し、
    前記要求に基づいて、複数のデバイスを決定し、
    決定された前記複数のデバイスからモデル更新に関する情報を受信し、
    前記モデル更新に関する情報に基づいて、モデルを生成する、
    方法であって、
    決定された前記複数のデバイスのそれぞれにはグローバルモデルが提供され、
    前記モデル更新に関する情報は、送信元のデバイスで収集されたデータの前記グローバルモデルを用いた分析に基づく前記グローバルモデルの更新に関する情報であり、
    前記少なくとも1つのプロセッサは、前記モデルの生成のための、前記送信元のデバイスで分析された前記データの受信をしない、
    方法。
  21. 前記少なくとも1つのプロセッサが、
    決定された前記複数のデバイスの少なくとも1つのデバイスに、前記モデルを送信する、
    請求項20に記載の方法。
  22. 前記少なくとも1つのプロセッサが、
    受信した前記モデル更新に関する情報から前記モデルの生成に用いる情報を選択し、 選択された前記情報を用いて、前記モデルを生成する、
    請求項20又は請求項21に記載の方法。
  23. 前記少なくとも1つのプロセッサが、
    前記モデル更新に関する情報に平均化処理を適用することで、前記モデルを生成する、
    請求項20から請求項22のいずれかに記載の方法。
  24. 前記少なくとも1つのプロセッサが、
    少なくとも、地理的情報、及び、無線接続状態に関する情報のいずれか1つに基づいて、前記複数のデバイスを決定する、
    請求項20から請求項23のいずれかに記載の方法。
  25. 前記少なくとも1つのプロセッサが、
    複数のデバイスから要求を受信することと、
    前記要求に基づいて、複数のデバイスを決定することと、
    決定された前記複数のデバイスからモデル更新に関する情報を受信することと、
    前記モデル更新に関する情報に基づいて、モデルを生成することと、
    を繰り返し実行する、
    請求項20から請求項24のいずれかに記載の方法。
  26. 前記少なくとも1つのプロセッサが、
    前記複数のデバイスが決定した後、決定された前記複数のデバイスとは異なる組み合わせの複数のデバイスを決定する、
    請求項20から請求項25のいずれかに記載の方法。
  27. 前記少なくとも1つのプロセッサが、
    決定された前記複数のデバイスに前記グローバルモデルを提供する、
    請求項20から請求項26のいずれかに記載の方法。
  28. 前記少なくとも1つのプロセッサが、
    決定された前記複数のデバイスに、他のデバイスを追加し、
    追加した前記他のデバイスから前記モデル更新に関する情報を受信する、
    請求項20から請求項27のいずれかに記載の方法。
  29. 前記少なくとも1つのプロセッサが、
    前記他のデバイスを追加した後、前記他のデバイスに前記グローバルモデルを提供する、
    請求項28に記載の方法。
  30. 前記少なくとも1つのプロセッサが、
    前記他のデバイスから受信した要求に基づいて、決定された前記複数のデバイスに前記他のデバイスを追加する、
    請求項28又は請求項29に記載の方法。
  31. 少なくとも1つのプロセッサが、
    第2のデバイスに要求を送信し、
    データを収集し、
    グローバルモデルを用いて、前記データを分析し、
    前記分析に基づいて、前記グローバルモデルの更新に関する情報を生成し、
    前記更新に関する情報を、前記第2のデバイスに送信し、
    前記更新に関する情報の送信後、前記第2のデバイスからモデルを受信する、
    方法であって、
    前記モデルは、前記第2のデバイスが、少なくとも前記更新に関する情報及び第3のデバイスが生成した前記グローバルモデルの更新に関する情報を用いて生成したモデルであり、
    前記少なくとも1つのプロセッサは、前記更新に関する情報の生成に用いた前記データを前記第2のデバイスに送信しない、
    方法。
  32. 自装置の局所モデルを、前記第2のデバイスから受信した前記モデルで置き換える、
    請求項31に記載の方法。
  33. 前記少なくとも1つのプロセッサが、
    前記第2のデバイスに要求を送信することと、
    データを収集することと、
    グローバルモデルを用いて、前記データを分析することと、
    前記分析に基づいて、前記グローバルモデルの更新に関する情報を生成することと、
    前記更新に関する情報を、前記第2のデバイスに送信することと、
    前記更新に関する情報の送信後、前記第2のデバイスからモデルを受信することと、
    を繰り返し実行する、
    請求項31又は請求項32に記載の方法。
  34. 請求項20から請求項33のいずれかに記載の方法を少なくとも1台のコンピュータに実行させるプログラム。
JP2020072501A 2015-01-22 2020-04-14 機械学習の異種エッジデバイス、方法、およびシステム Active JP7002592B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021211350A JP7350050B2 (ja) 2015-01-22 2021-12-24 機械学習の異種エッジデバイス、方法、およびシステム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US14/602,867 2015-01-22
US14/602,867 US9990587B2 (en) 2015-01-22 2015-01-22 Machine learning heterogeneous edge device, method, and system

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2017538722A Division JP6893874B2 (ja) 2015-01-22 2016-01-22 機械学習の異種エッジデバイス、方法、およびシステム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021211350A Division JP7350050B2 (ja) 2015-01-22 2021-12-24 機械学習の異種エッジデバイス、方法、およびシステム

Publications (2)

Publication Number Publication Date
JP2020123379A JP2020123379A (ja) 2020-08-13
JP7002592B2 true JP7002592B2 (ja) 2022-01-20

Family

ID=56417782

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2017538722A Active JP6893874B2 (ja) 2015-01-22 2016-01-22 機械学習の異種エッジデバイス、方法、およびシステム
JP2020072501A Active JP7002592B2 (ja) 2015-01-22 2020-04-14 機械学習の異種エッジデバイス、方法、およびシステム
JP2021211350A Active JP7350050B2 (ja) 2015-01-22 2021-12-24 機械学習の異種エッジデバイス、方法、およびシステム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2017538722A Active JP6893874B2 (ja) 2015-01-22 2016-01-22 機械学習の異種エッジデバイス、方法、およびシステム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021211350A Active JP7350050B2 (ja) 2015-01-22 2021-12-24 機械学習の異種エッジデバイス、方法、およびシステム

Country Status (4)

Country Link
US (2) US9990587B2 (ja)
EP (1) EP3248109A4 (ja)
JP (3) JP6893874B2 (ja)
WO (1) WO2016118815A1 (ja)

Families Citing this family (89)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11004007B2 (en) 2015-03-23 2021-05-11 Nec Corporation Predictor management system, predictor management method, and predictor management program
US20160299978A1 (en) * 2015-04-13 2016-10-13 Google Inc. Device dependent search experience
JP5816771B1 (ja) 2015-06-08 2015-11-18 株式会社Preferred Networks 学習装置ユニット
JP6925321B2 (ja) * 2015-08-27 2021-08-25 フォグホーン システムズ, インコーポレイテッドFoghorn Systems, Inc. エッジインテリジェンスプラットフォーム、およびインターネット・オブ・シングス・センサストリームシステム
US9846856B2 (en) 2015-11-12 2017-12-19 Twyst LLC Portal configured to inventory items within a user-portable container associated with a user
US10410113B2 (en) * 2016-01-14 2019-09-10 Preferred Networks, Inc. Time series data adaptation and sensor fusion systems, methods, and apparatus
US10164991B2 (en) * 2016-03-25 2018-12-25 Cisco Technology, Inc. Hierarchical models using self organizing learning topologies
CN114040153B (zh) 2016-05-09 2024-04-12 格拉班谷公司 用于在环境内计算机视觉驱动应用的系统
WO2018013439A1 (en) 2016-07-09 2018-01-18 Grabango Co. Remote state following devices
US11087236B2 (en) 2016-07-29 2021-08-10 Splunk Inc. Transmitting machine learning models to edge devices for edge analytics
US10536351B2 (en) * 2016-07-29 2020-01-14 Splunk Inc. Analytics for edge devices
US10460255B2 (en) 2016-07-29 2019-10-29 Splunk Inc. Machine learning in edge analytics
KR102067013B1 (ko) * 2016-10-07 2020-01-17 한국전자통신연구원 사물들의 집단 기계학습 장치 및 방법
US10579942B2 (en) 2016-10-14 2020-03-03 Cisco Technology, Inc. Distributed and centralized modes for isolation networks
JP6346253B2 (ja) * 2016-12-05 2018-06-20 ファナック株式会社 工作機械及び機械学習装置
US20200019882A1 (en) * 2016-12-15 2020-01-16 Schlumberger Technology Corporation Systems and Methods for Generating, Deploying, Discovering, and Managing Machine Learning Model Packages
US10338802B2 (en) * 2017-02-08 2019-07-02 International Business Machines Corporation Monitoring an activity and determining the type of actor performing the activity
WO2018148613A1 (en) 2017-02-10 2018-08-16 Grabango Co. A dynamic customer checkout experience within an automated shopping environment
EP3605405A4 (en) 2017-03-21 2020-12-02 Preferred Networks, Inc. SERVER DEVICE, TRAINED MODEL DELIVERY PROGRAM, TRAINED MODEL DELIVERY PROCESS, AND DRIVEN MODEL DELIVERY SYSTEM
EP3622447A1 (en) * 2017-05-08 2020-03-18 British Telecommunications Public Limited Company Interoperation of machine learning algorithms
WO2018209156A1 (en) 2017-05-10 2018-11-15 Grabango Co. Series-configured camera array for efficient deployment
US11443226B2 (en) * 2017-05-17 2022-09-13 International Business Machines Corporation Training a machine learning model in a distributed privacy-preserving environment
US10472096B2 (en) * 2017-05-30 2019-11-12 The Boeing Company Advanced analytic methods and systems utilizing trust-weighted machine learning models
IL271528B1 (en) 2017-06-21 2024-04-01 Grabango Co Observed link of human activity in the video to a user account
US11823067B2 (en) * 2017-06-27 2023-11-21 Hcl Technologies Limited System and method for tuning and deploying an analytical model over a target eco-system
US11657316B2 (en) * 2017-07-10 2023-05-23 General Electric Company Self-feeding deep learning method and system
US11108575B2 (en) * 2017-07-26 2021-08-31 Amazon Technologies, Inc. Training models for IOT devices
US10980085B2 (en) 2017-07-26 2021-04-13 Amazon Technologies, Inc. Split predictions for IoT devices
JP6972783B2 (ja) * 2017-08-30 2021-11-24 日本電気株式会社 分散システム、バックエンドサービス、エッジサーバ、及びその方法
US20190079591A1 (en) 2017-09-14 2019-03-14 Grabango Co. System and method for human gesture processing from video input
US10963704B2 (en) 2017-10-16 2021-03-30 Grabango Co. Multiple-factor verification for vision-based systems
US11816552B2 (en) * 2017-10-26 2023-11-14 International Business Machines Corporation Dynamically reconfigurable networked virtual neurons for neural network processing
US11354301B2 (en) 2017-11-13 2022-06-07 LendingClub Bank, National Association Multi-system operation audit log
US11243941B2 (en) * 2017-11-13 2022-02-08 Lendingclub Corporation Techniques for generating pre-emptive expectation messages
GB2569333A (en) * 2017-12-13 2019-06-19 Univ Oxford Innovation Ltd Diagnostic modelling method and apparatus
US11481805B2 (en) 2018-01-03 2022-10-25 Grabango Co. Marketing and couponing in a retail environment using computer vision
WO2019171443A1 (ja) * 2018-03-05 2019-09-12 株式会社ウフル 機械学習済みモデルアップデートシステム、エッジデバイス、機械学習済みモデルアップデート方法、及びプログラム
WO2019171468A1 (ja) * 2018-03-06 2019-09-12 株式会社ウフル 機械学習済みモデル切り替えシステム、エッジデバイス、機械学習済みモデル切り替え方法、及びプログラム
WO2019193660A1 (ja) * 2018-04-03 2019-10-10 株式会社ウフル 機械学習済みモデル切り替えシステム、エッジデバイス、機械学習済みモデル切り替え方法、及びプログラム
JP6828216B2 (ja) * 2018-04-03 2021-02-10 株式会社ウフル 機械学習済みモデル切り替えシステム、エッジデバイス、機械学習済みモデル切り替え方法、及びプログラム
US11207181B2 (en) 2018-04-18 2021-12-28 Edwards Lifesciences Corporation Heart valve sealing devices and delivery devices therefor
EP3565218B1 (en) 2018-04-30 2023-09-27 Hewlett Packard Enterprise Development LP System and method of decentralized management of multi-owner nodes using blockchain
EP3564883B1 (en) 2018-04-30 2023-09-06 Hewlett Packard Enterprise Development LP System and method of decentralized management of device assets outside a computer network
US11347970B2 (en) 2018-04-30 2022-05-31 International Business Machines Corporation Optimizing machine learning-based, edge computing networks
EP3564873B1 (en) 2018-04-30 2022-11-30 Hewlett Packard Enterprise Development LP System and method of decentralized machine learning using blockchain
US20210133495A1 (en) * 2018-05-07 2021-05-06 Nec Corporation Model providing system, method and program
WO2019230254A1 (ja) * 2018-05-31 2019-12-05 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
WO2019232466A1 (en) * 2018-06-01 2019-12-05 Nami Ml Inc. Machine learning model re-training based on distributed feedback
JP7106997B2 (ja) * 2018-06-04 2022-07-27 日本電信電話株式会社 データ分析システムおよびデータ分析方法
JP6632770B1 (ja) * 2018-06-05 2020-01-22 三菱電機株式会社 学習装置、学習推論装置、方法、及びプログラム
US11663659B2 (en) 2018-06-08 2023-05-30 Jpmorgan Chase Bank, N.A. Methods for early credit risk escalation and management and devices thereof
US20190392333A1 (en) * 2018-06-22 2019-12-26 International Business Machines Corporation Adaptive multi-agent cooperative computation and inference
US11604837B2 (en) * 2018-08-21 2023-03-14 At&T Intellectual Property I, L.P. Edge metadata
SE1851127A1 (en) * 2018-09-21 2019-06-17 Scania Cv Ab Method and control arrangement for outsourcing execution of a model of an application in a vehicle
KR102456900B1 (ko) * 2018-10-23 2022-10-19 삼성에스디에스 주식회사 에지 컴퓨팅 기반 데이터 분석 시스템 및 그 방법
WO2020092450A1 (en) 2018-10-29 2020-05-07 Grabango Co. Commerce automation for a fueling station
KR101957648B1 (ko) * 2018-11-16 2019-03-12 주식회사 아이코어이앤씨 인공지능 기반의 모듈 식별 및 어시스턴트 시스템
US10991249B2 (en) 2018-11-30 2021-04-27 Parkifi, Inc. Radar-augmentation of parking space sensors
US11089654B2 (en) * 2018-11-30 2021-08-10 Dish Network L.L.C. Universal narrow-band internet of things communication node for use with environmental sensors and stations
JP7097006B2 (ja) * 2018-12-05 2022-07-07 オムロン株式会社 センサシステム
US11490307B2 (en) * 2018-12-12 2022-11-01 Akamai Technologies, Inc. Intelligently pre-positioning and migrating compute capacity in an overlay network, with compute handoff and data consistency
EP3895009A4 (en) * 2018-12-13 2022-06-22 Telefonaktiebolaget Lm Ericsson (Publ) METHOD AND MACHINE LEARNING AGENT FOR PERFORMING MACHINE LEARNING IN AN EDGE CLOUD
JP7262232B2 (ja) * 2019-01-29 2023-04-21 東京エレクトロン株式会社 画像認識システムおよび画像認識方法
US11966818B2 (en) 2019-02-21 2024-04-23 Hewlett Packard Enterprise Development Lp System and method for self-healing in decentralized model building for machine learning using blockchain
US11507933B2 (en) 2019-03-01 2022-11-22 Grabango Co. Cashier interface for linking customers to virtual data
WO2020204938A1 (en) * 2019-04-05 2020-10-08 Google Llc Selective inference generation with distributed machine-learned models
US11616839B2 (en) 2019-04-09 2023-03-28 Johnson Controls Tyco IP Holdings LLP Intelligent edge computing platform with machine learning capability
US11474518B2 (en) 2019-05-13 2022-10-18 International Business Machines Corporation Event validation using multiple sources
US11928583B2 (en) 2019-07-08 2024-03-12 International Business Machines Corporation Adaptation of deep learning models to resource constrained edge devices
WO2021018370A1 (en) * 2019-07-26 2021-02-04 Telefonaktiebolaget Lm Ericsson (Publ) Methods for data model sharing for a radio access network and related infrastructure
KR102310187B1 (ko) * 2019-09-25 2021-10-08 한국전자기술연구원 복수의 엣지와 클라우드를 포함하는 분산 컴퓨팅 시스템 및 이의 적응적 지능 활용을 위한 분석 모델 제공 방법
US11348121B2 (en) 2019-10-14 2022-05-31 Bank Of America Corporation Multi-source anomaly detection and automated dynamic resolution system
US20210125105A1 (en) * 2019-10-23 2021-04-29 The United States Of America, As Represented By The Secretary Of The Navy System and Method for Interest-focused Collaborative Machine Learning
US11525684B2 (en) 2019-11-21 2022-12-13 International Business Machines Corporation Assistive mechanism via edge device personalization
CN110891330A (zh) * 2019-12-06 2020-03-17 深圳大学 基于边缘计算的LoRa网关设备
KR102283523B1 (ko) * 2019-12-16 2021-07-28 박병훈 인공지능 서비스를 제공하기 위한 방법
US11108646B2 (en) 2019-12-31 2021-08-31 Hughes Network Systems, Llc Managing Internet of Things network traffic using federated machine learning
US11669071B2 (en) 2020-01-08 2023-06-06 International Business Machines Corporation Organizing a temporary device group for collaborative computing
US11218293B2 (en) 2020-01-27 2022-01-04 Hewlett Packard Enterprise Development Lp Secure parameter merging using homomorphic encryption for swarm learning
US11748835B2 (en) 2020-01-27 2023-09-05 Hewlett Packard Enterprise Development Lp Systems and methods for monetizing data in decentralized model building for machine learning using a blockchain
US11539719B2 (en) * 2020-06-08 2022-12-27 Bank Of America Corporation Target aware adaptive application for anomaly detection at the network edge
EP4224368A4 (en) 2020-09-29 2024-05-22 Sony Semiconductor Solutions Corporation INFORMATION PROCESSING SYSTEM AND INFORMATION PROCESSING METHOD
US20220182802A1 (en) * 2020-12-03 2022-06-09 Qualcomm Incorporated Wireless signaling in federated learning for machine learning components
US11461591B2 (en) 2020-12-16 2022-10-04 Microsoft Technology Licensing, Llc Allocating computing resources during continuous retraining
CN113297415B (zh) * 2021-04-27 2023-09-15 安徽继远软件有限公司 面向电力边缘侧的边缘视频分析智能服务方法及系统
FR3116370B1 (fr) * 2021-04-28 2023-09-29 Jcdecaux Sa Procédé et système d’affichage digital.
US11881107B2 (en) 2021-12-17 2024-01-23 Toyota Motor Engineering & Manufacturing North America, Inc. Systems and methods for inferring parking departures
US20240135192A1 (en) * 2022-10-21 2024-04-25 Qualcomm Incorporated Zone gradient diffusion (zgd) for zone-based federated learning
CN117555250B (zh) * 2024-01-02 2024-05-31 珠海格力电器股份有限公司 控制方法、装置、设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010519807A (ja) 2007-02-19 2010-06-03 テレフオンアクチーボラゲット エル エム エリクソン(パブル) 通信ネットワーク内で、ユーザサービスを提供するための方法及び装置
JP2014228972A (ja) 2013-05-20 2014-12-08 日本電信電話株式会社 情報処理装置、情報処理システム、情報処理方法、および学習プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7868912B2 (en) 2000-10-24 2011-01-11 Objectvideo, Inc. Video surveillance system employing video primitives
US7788195B1 (en) * 2006-03-24 2010-08-31 Sas Institute Inc. Computer-implemented predictive model generation systems and methods
JP4208898B2 (ja) * 2006-06-09 2009-01-14 株式会社ソニー・コンピュータエンタテインメント 対象物追跡装置および対象物追跡方法
US7742425B2 (en) 2006-06-26 2010-06-22 The Boeing Company Neural network-based mobility management for mobile ad hoc radio networks
WO2009040777A2 (en) * 2007-09-27 2009-04-02 Koninklijke Philips Electronics, N.V. Leader robot election in collaborative robot groups
US20090240539A1 (en) 2008-03-21 2009-09-24 Microsoft Corporation Machine learning system for a task brokerage system
JP2009251660A (ja) 2008-04-01 2009-10-29 Canon Inc ネットワークシステム及びその管理構成変更方法、デバイス装置及びその制御方法、並びにプログラム
JP4710932B2 (ja) 2008-07-09 2011-06-29 ソニー株式会社 学習装置、学習方法、およびプログラム
US8659643B2 (en) 2011-01-18 2014-02-25 Disney Enterprises, Inc. Counting system for vehicle riders
US8988984B2 (en) 2011-02-04 2015-03-24 Cisco Technology, Inc. Designated forwarder election for VPLS with BGP-based MAC learning
US9239989B2 (en) * 2012-03-28 2016-01-19 General Electric Company Computer-implemented system with adaptive cognitive features and method of using the same
US9633315B2 (en) 2012-04-27 2017-04-25 Excalibur Ip, Llc Method and system for distributed machine learning
US8429103B1 (en) 2012-06-22 2013-04-23 Google Inc. Native machine learning service for user adaptation on a mobile platform
US10356753B2 (en) * 2012-10-19 2019-07-16 Qualcomm Incorporated Suppressing wireless broadcast/multicast data transmissions
US9508347B2 (en) 2013-07-10 2016-11-29 Tencent Technology (Shenzhen) Company Limited Method and device for parallel processing in model training
US20150324688A1 (en) * 2014-05-12 2015-11-12 Qualcomm Incorporated Customized classifier over common features

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010519807A (ja) 2007-02-19 2010-06-03 テレフオンアクチーボラゲット エル エム エリクソン(パブル) 通信ネットワーク内で、ユーザサービスを提供するための方法及び装置
JP2014228972A (ja) 2013-05-20 2014-12-08 日本電信電話株式会社 情報処理装置、情報処理システム、情報処理方法、および学習プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
丸山 宏,エッジ・ヘビー・データとそのアーキテクチャ,情報管理 2013年8月号,日本,独立行政法人科学技術振興機構 Japan Science and Technology Agency(JST),2013年08月01日,第56巻 第5号,269-275頁
比戸 将平,並列分散環境における機械学習技術の最新動向,電子情報通信学会誌,日本,一般社団法人電子情報通信学会,2015年01月01日,第98巻 第1号,54-58頁

Also Published As

Publication number Publication date
JP2020123379A (ja) 2020-08-13
WO2016118815A1 (en) 2016-07-28
EP3248109A4 (en) 2018-10-17
JP2018508874A (ja) 2018-03-29
EP3248109A1 (en) 2017-11-29
JP6893874B2 (ja) 2021-06-23
US9990587B2 (en) 2018-06-05
US20180253665A1 (en) 2018-09-06
JP7350050B2 (ja) 2023-09-25
US20160217388A1 (en) 2016-07-28
JP2022043229A (ja) 2022-03-15

Similar Documents

Publication Publication Date Title
JP7002592B2 (ja) 機械学習の異種エッジデバイス、方法、およびシステム
JP7002594B2 (ja) 異種環境におけるエッジデバイスのためのモデルフィルタリングおよびモデルミキシングによる機械学習
US10186155B2 (en) Method and system for providing interactive parking management via artificial intelligence analytic (AIA) services using cloud network
Tong et al. Artificial intelligence for vehicle-to-everything: A survey
JP6856072B2 (ja) ユニファイド・コネクテッドネットワークのためのシステム及び方法
CN101965566B (zh) 用于多用户传感器数据集的高效流共享
CN104797484B (zh) 用于定制内容的系统和方法
JP2019016351A (ja) 歩行者安全メッセージに基づく人密度推定
US11605298B2 (en) Pedestrian navigation based on vehicular collaborative computing
CN108353254A (zh) 机器对机器系统中的基于组的数据传输
CN114662376A (zh) 用于学习特定于情境的驾驶模式的分布式学习
US11240707B2 (en) Adaptive vehicle identifier generation
US11485377B2 (en) Vehicular cooperative perception for identifying a connected vehicle to aid a pedestrian
CN107750339B (zh) 基于无线信号特性使用移动装置检测用户的场境
Gao et al. Sharing instant delivery UAVs for crowdsensing: A data-driven performance study
US20240171657A1 (en) Digital edge services orchestration of awareness, on-demand, and event-triggered services

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200414

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210511

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210518

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211227

R150 Certificate of patent or registration of utility model

Ref document number: 7002592

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150