JP7158633B2 - 説明提示装置、説明提示方法、及び説明提示プログラム - Google Patents

説明提示装置、説明提示方法、及び説明提示プログラム Download PDF

Info

Publication number
JP7158633B2
JP7158633B2 JP2022542564A JP2022542564A JP7158633B2 JP 7158633 B2 JP7158633 B2 JP 7158633B2 JP 2022542564 A JP2022542564 A JP 2022542564A JP 2022542564 A JP2022542564 A JP 2022542564A JP 7158633 B2 JP7158633 B2 JP 7158633B2
Authority
JP
Japan
Prior art keywords
feature
unit
explanation
explicit knowledge
sensor data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022542564A
Other languages
English (en)
Other versions
JPWO2022034685A1 (ja
JPWO2022034685A5 (ja
Inventor
雄一 佐々木
翔貴 宮川
勝 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2022034685A1 publication Critical patent/JPWO2022034685A1/ja
Application granted granted Critical
Publication of JP7158633B2 publication Critical patent/JP7158633B2/ja
Publication of JPWO2022034685A5 publication Critical patent/JPWO2022034685A5/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04—Manufacturing
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00—Teaching not covered by other main groups of this subclass
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Manufacturing & Machinery (AREA)
  • General Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Quality & Reliability (AREA)
  • Automation & Control Theory (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Educational Administration (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Educational Technology (AREA)
  • General Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Description

本開示は、説明提示装置、説明提示方法、及び説明提示プログラムに関する。
機械学習によって取得された学習済モデルを用いるＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）の挙動として、「もし…していれば、……を達成していた。」というような反実仮想的な説明（Ｃｏｕｎｔｅｒｆａｃｔｕａｌ Ｅｘｐｌａｎａｔｉｏｎ）の提示がある。反実仮想的な説明では、実際にはデータとして観測されていないが仮説としてある状況が発生した場合に、どのようなことが実現されるか、が説明される。
例えば、ＡＩを活用した住宅ローン審査では、ＡＩは、ローンの申請者に対し、実際には実現されていない状況が発生した場合に、どのようなことが実現されるかの説明（すなわち、反実仮想的な説明）を申請者に提示することがある。例えば、ＡＩは、「もし年収が…万円高ければ、申請されたローンの借入が可能です。」又は「もし他のローンの借入残額が…万円少なければ、申請されたローンの借入が可能です。」、などのような反実仮想的な説明を提示する。
また、特許文献１は、対象者に作業を習得させるための作業支援装置を提案している。この装置は、対象者（例えば、作業者）に対し指導内容のテンプレートを提示することで、対象者の動作が模範者（例えば、熟練者）の動作に近付くようにするための装置である。上記住宅ローン審査の場合と同様に、特許文献１に記載の装置にＡＩを適用し、対象者と模範者との間の特徴量の差異（例えば、技能レベルの差異）に基づいて、対象者に対し、「もし…していれば、……を達成していた。」というような反実仮想的な説明を提示することが可能である。
特開２０２０－０３４８４９号公報（例えば、要約書、段落００４３、００５４）
しかしながら、例えば、機械学習で用いられる特徴量が、経験的に使っている知識であるが簡単に言葉で説明できない知識である暗黙知（ｔａｃｉｔ ｋｎｏｗｌｅｄｇｅ）である場合に、対象者は、提示された反実仮想的な説明の意味（すなわち、ＡＩの挙動の意味）を理解できない可能性がある。ここで、暗黙知は、個人の過去の経験から成り立つ主観的な知識、例えば、経験又は勘などに基づく知識のことである。
本開示は、上記課題を解決するためになされたものであり、機械学習の結果に基づいて提示される反実仮想的な説明を理解しやすくすることを目的とする。
本開示に係る説明提示装置は、作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得する特徴取得部と、前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録する技能判定部と、前記データベースにおいて、前記特徴量に形式知を紐付ける形式知紐付け部と、前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出する説明抽出部とを有し、前記特徴取得部、前記技能判定部、及び前記形式知紐付け部は、前記特徴量と前記技能レベルとを含む第２の学習用データを用いて、前記特徴量に紐づけられる形式知を出力するための第２の学習済モデルを生成する。
本開示に係る説明提示方法は、説明提示装置によって実行される方法であって、作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得するステップと、前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録するステップと、前記データベースにおいて、前記特徴量に形式知を紐付けるステップと、前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出するステップと、前記特徴量と前記技能レベルとを含む学習用データを用いて、前記特徴量に紐づけられる前記形式知を出力するための学習済モデルを生成するステップと、を有する。
本開示によれば、機械学習の結果に基づいて提示される反実仮想的な説明を理解しやすくすることができる。
説明提示装置のハードウェア構成の例を示す図である。 （Ａ）及び（Ｂ）は、機械学習を行って学習済モデルを生成する学習装置及び学習済モデルを用いた推論を行って推論結果を出力する推論装置の構成の例を示す図である。 実施の形態１に係る説明提示装置の構成を示す機能ブロック図である。 実施の形態１に係る説明提示装置における学習済モデルの生成動作を示すフローチャートである。 全結合のニューラルネットワークを用いたモデルの例を示す図である。 実施の形態１に係る説明提示装置において、暗黙的特徴量に形式知を紐付ける学習済モデルの生成動作を示すフローチャートである。 実施の形態１に係る説明提示装置の動作の例を示すフローチャートである。 実施の形態１に係る説明提示装置によって生成されるデータの例を表形式（表１）で示す図である。 実施の形態１に係る説明提示装置によって生成されるデータの例を表形式（表２）で示す図である。 暗黙的特徴量空間における探索の例を示す図である。 可視化された説明の例を示す図である。 実施の形態２に係る説明提示装置の構成を示す機能ブロック図である。 実施の形態２に係る説明提示装置の動作の例を示すフローチャートである。 実施の形態２に係る説明提示装置によって生成されるデータの例を表形式（表３）で示す図である。 得られた相関係数の例を表形式（表４）で示す図である。 行動に紐付けられた形式知を相関係数で重み付けた値の和によって得られる熟練技能を得るために推奨される行動を表形式（表５）で示す図である。 実施の形態３に係る説明提示装置の構成を示す機能ブロック図である。 マルチタスクラーニングを実行するネットワークの構成例を示す図である。 実施の形態３に係る説明提示装置の動作の例を示すフローチャートである。 実施の形態３に係る説明提示装置によって生成されるデータの例を表形式（表６）で示す図である。 図２０に示されるセンサデータを可視化し、特に異なる部分を変化＃１、変化＃２として表示した図である。 Ａｔｔｅｎｔｉｏｎ Ｂｒａｎｃｈ Ｎｅｔｗｏｒｋの例を示す図である。 実施の形態４に係る説明提示装置の構成を示す機能ブロック図である。 実施の形態５に係る説明提示装置の構成を示す機能ブロック図である。 実施の形態５に係る説明提示装置における時分割センサデータの例を示す図である。 実施の形態５に係る説明提示装置において可視化された提示情報の例を示す図である。
以下に、実施の形態に係る説明提示装置、説明提示方法、及び説明提示プログラムを、図面を参照しながら説明する。実施の形態に係る説明提示装置、説明提示方法、及び説明提示プログラムによれば、機械学習の結果を用いて説明を提示する場合に、形式知（ｅｘｐｌｉｃｉｔ ｋｎｏｗｌｅｄｇｅ）を伴う説明を提示することで、例えば、反実仮想的な説明が暗黙知であっても、反実仮想的な説明を理解しやすくすることができる。ここで、形式知は、人間が理解できる知識である。形式知は、例えば、文章、図表、数式などによって説明、表現できる知識である。なお、以下の実施の形態は、例にすぎず、実施の形態を適宜組み合わせること及び各実施の形態を適宜変更することが可能である。
《実施の形態１》
図１は、実施の形態１に係る説明提示装置１のハードウェア（Ｈ／Ｗ）構成の例を示す図である。図１に示されるように、説明提示装置１は、情報処理部としてのプロセッサ１１と、情報を記憶するメモリ１２と、ハードディスクドライブ（ＨＤＤ）、ソリッドステートドライブ（ＳＳＤ）などの記憶装置１３と、ユーザ操作を受け付けるユーザインタフェースとしての操作装置１４とを有する。説明提示装置１は、例えば、コンピュータである。説明提示装置１は、人間に情報を表示する画像表示部である表示器１５を有してもよい。表示器１５は、音声出力の機能を備えた装置であってもよい。また、説明提示装置１は、人間（例えば、作業者）の行動（例えば、動き）を検出する検出部であるセンサ１６を有してもよい。センサ１６は、映像を撮影する撮像装置であるカメラであってもよい。センサ１６は、センサデータを出力する。センサ１６がカメラである場合、センサデータは、映像データを含む。
プロセッサ１１は、例えば、機械学習による学習済モデルの生成と、機械学習の結果である学習済モデルを用いる推論とを実行する。図１では、機械学習を行うプロセッサと推論を行うプロセッサとは、共通の１つのプロセッサであるが、異なるプロセッサであってもよい。プロセッサ１１は、例えば、メモリ１２に記憶されているソフトウェアであるプログラムを実行する。メモリ１２に記憶されているプログラムは、実施の形態１に係る説明提示装置１に説明提示方法を実施させるための説明提示プログラムを含むことができる。説明提示プログラムは、例えば、コンピュータにより読み取り可能な記録媒体に記録されたプログラムとして説明提示装置１に提供される。或いは、説明提示プログラムは、ネットワークを介するダウンロードによって説明提示装置１に提供される。なお、後述される実施の形態２～５に係る説明提示装置２～５も、図１に示されるハードウェア構成と同様の構成を有する。
図２（Ａ）及び（Ｂ）は、機械学習を行って学習済モデルを生成する学習装置２０及び学習済モデルを用いた推論を行って推論結果を出力する推論装置３０の構成の例を示す図である。図２（Ａ）に示されるように、学習装置２０は、データ取得部２１と、モデル生成部２２とを有する。学習装置２０は、学習済モデル記憶部２３を備えてもよい。データ取得部２１とモデル生成部２２とは、例えば、図１に示されるメモリ１２及びプロセッサ１１によって実現可能である。学習済モデル記憶部２３は、例えば、図１に示される記憶装置１３によって実現可能である。
データ取得部２１は、学習用データを取得する。学習用データは、例えば、センサデータ（すなわち、入力信号）と正解データ（すなわち、教師信号）とを含む。モデル生成部２２は、データ取得部２１から出力される学習用データに基づいて、最適な出力を推論するために用いられる学習済モデルを生成する。
モデル生成部２２が用いる学習アルゴリズムとしては、教師あり学習、教師なし学習、強化学習、などの公知のアルゴリズムを用いることができる。モデル生成部２２は、例えば、ニューラルネットワークのモデルに従って、教師あり学習により学習する。教師あり学習とは、入力と結果（ラベル）とのデータの組を学習データとして学習装置に与えることで、学習用データに存在する特徴を学習し、入力から結果を推論可能にする方法である。モデル生成部２２は、以上のような学習を実行することで学習済モデルを生成し、出力する。学習済モデル記憶部２３は、モデル生成部２２から出力された学習済モデルを記憶する。
図２（Ｂ）に示されるように、推論装置３０は、データ取得部３１と、推論部３２とを備える。推論装置３０は、学習済モデル記憶部３３を備えてもよい。データ取得部３１と推論部３２とは、例えば、図１に示されるメモリ１２とプロセッサ１１によって実現可能である。学習済モデル記憶部３３は、例えば、図１に示される記憶装置１３によって実現可能である。学習済モデル記憶部３３と、図２（Ａ）に示される学習済モデル記憶部２３とは、異なる記憶装置に備えられているが、同じ記憶装置に備えられてもよい。
データ取得部３１は、技能を習得したい対象者である作業者のセンサデータを取得する。作業者のセンサデータは、例えば、作業者を撮影した映像データである。推論部３２は、学習装置２０で生成された学習済モデルを利用して得られる推論結果を出力する。すなわち、推論部３２は、学習済モデル記憶部３３に記憶されている学習済モデルにデータ取得部３１で取得したセンサデータを入力することで、推論結果を出力することができる。
図３は、実施の形態１に係る説明提示装置１の構成を示す機能ブロック図である。図３に示されるように、説明提示装置１は、データ記憶部１０１と、特徴取得部としての特徴抽出部１０２と、技能判定部１０３と、形式知紐付け部１０４と、反実仮想的説明抽出部である説明抽出部１０５と、形式知選択部１０６とを有する。
データ記憶部１０１は、例えば、図１に示される記憶装置１３の一部である。データ記憶部１０１は、データベースを記憶する。データ記憶部１０１は、説明提示装置１と通信可能な外部の記憶装置（例えば、ネットワーク上のサーバの記憶装置）であってもよい。特徴抽出部１０２、技能判定部１０３、形式知紐付け部１０４、説明抽出部１０５、及び形式知選択部１０６は、例えば、説明提示プログラムを実行するプロセッサ１１によって実現される。特徴抽出部１０２、技能判定部１０３、及び形式知紐付け部１０４は、例えば、図２（Ａ）に示される学習装置２０を構成することができる。また、説明抽出部１０５及び形式知選択部１０６は、例えば、図２（Ｂ）に示される推論装置３０を構成することができる。
機械学習時には、データ記憶部１０１は、様々な分野の熟練者（すなわち、高度な技能を既に体得している熟練作業者）から取得した形式知と、熟練者の行動と同じ行動（同様の行動を含む。）をとることによって得られた結果とを、教師信号として記憶する。ここで、形式知は、取得した人間が解釈できる知識である。形式知は、例えば、熟練者を撮影することによって得られたセンサデータ（例えば、映像データなど）、熟練者からヒアリングなどによって聞き出した情報、などを含むことができる。熟練者の行動と同じ行動をとることによって得られた結果は、技能レベル（例えば、熟練度、加工精度、など）を含む。熟練度は、作業者の技能レベルを示す値である。技能レベルは、作業を遂行する能力の程度である。熟練度は、主観的で定性的である場合がある。熟練度は、例えば、ヒアリング（アンケートを含む。）などにより作業者から聞き出した、技能を数値として評価した値である。また、熟練度は、作業者から聞き出した値を定量データ等と照らし合わせた結果に基づいて修正されてもよい。アンケートでは、同じ熟練度であるにも関わらず、自分自身の熟練度を高く評価する人（例えば、「俺はすごく高い技能レベルを持っている。」と回答する人）もいれば、自分自身の熟練度を謙虚に評価する人（例えば、「私の技能レベルは十分ではない。」と回答する人）もいる。このため、熟練度を、例えば、集められたアンケート全体のスコアの平均で偏差を取り除いた値とすることも可能である。このように、熟練度は、作業者又はその管理者などのヒアリングを通して得られた作業者のスキルを、数値化したものである。また、学習時には、ヒアリングなどを通してえられた上記のような定性データに加え、加工精度のような定量データを、教師として合わせて学習するとも可能である。加工精度は、作業者が加工した対象物の寸法、形状の正確さを評価する指標であり、技能レベルに対応する値であるから、技能レベルに含まれる。また、技能レベルは、作業者が行う作業の正確性、速度、安定性、などを含むことも可能である。正確性は、複数回の作業を行う場合に、各作業が正しい手順で実行されているか否かの度合いを示す指標である。安定性は、複数回の作業を行う場合に、各作業が一定の手順で実行されているか否かの度合いを示す指標である。速度は、複数回の作業を行う場合に、各作業に費やす時間の長さを示す指標である。
図４は、実施の形態１に係る説明提示装置１の機械学習時における動作を示すフローチャートである。ステップＳ１０１において、特徴抽出部１０２と技能判定部１０３とは、データ記憶部１０１に記憶されている学習用データを取得する。学習用データは、センサデータｄｉ（ｉ＝１、２、…）と、教師信号とを含む。
ステップＳ１０２において、例えば、ニューラルネットワークのモデル（例えば、後述の図５に示される。）に従って、データ記憶部１０１に記憶されたセンサデータ、教師信号のデータの組み合わせを学習用データとして学習装置（例えば、図２（Ａ）における学習装置２０）に与え、それらの学習用データにある特徴を機械学習し、入力から結果を推論することにより得られた出力（例えば、熟練度、加工精度、など）を機械学習する。ニューラルネットワークの機械学習では、教師信号とニューラルネットワークの出力との間の誤差が小さくなるように、誤差逆伝播法などを用いて、技能判定部１０３及び特徴抽出部１０２が使用する学習済モデルのパラメータを自動調整する。
図５は、全結合のニューラルネットワークを用いたモデルの例を示す図である。図５において、Ｘ１～Ｘ３は入力層、Ｙ１及びＹ２は中間層、Ｚ１及びＺ２は出力層、ｗ１１～ｗ１６及びｗ２１～ｗ２４は重み係数である。ただし、センサデータが時系列のデータである場合は、ＬＳＴＭ（Ｌｏｎｇ ｓｈｏｒｔ－ｔｅｒｍ ｍｅｍｏｒｙ）を用いることが好適である。また、センサデータが画像系のデータである場合は、ＣＮＮ（Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）を用いることが好適である。なお、学習済モデルの生成には、公知の様々なニューラルネットワークを用いることが可能である。
図４のステップＳ１０３において、データ記憶部１０１は、特徴抽出部１０２と技能判定部１０３によって生成された第１の学習済モデルである学習済モデルＭ１を記憶する。
特徴抽出部１０２は、センサデータを入力とし、技能判定部１０３が熟練度、加工精度などの技能レベルを判定できるようにするための特徴量である暗黙的特徴量を抽出する。暗黙的特徴量は、暗黙知の一例である。暗黙的特徴量は、ニューラルネットワークの最終出力層（例えば、図５のＺ１、Ｚ２）の手前の層から抽出される。技能判定部１０３は、特徴抽出部１０２から暗黙的特徴量を得て、暗黙的特徴量に基づいて熟練度、加工精度、などの技能レベルを判定する。
次に、人が暗黙的特徴量の挙動を容易に理解できるようにするために行う、形式知の紐付け動作について説明する。図６は、暗黙的特徴量に形式知を紐付ける学習済モデルの生成動作を示すフローチャートである。ステップＳ２０１において、特徴抽出部１０２は、データ記憶部１０１に記憶されたセンサデータを取得する。
ステップＳ２０２において、特徴抽出部１０２は、センサデータを学習済モデルＭ１に入力する。ステップＳ２０３において、特徴抽出部１０２は、暗黙的特徴量を抽出して出力する。ここで、特徴抽出部１０２は、例えば、ニューラルネットワークの最終出力層（例えば、図５のＺ１、Ｚ２）の手前の層の出力値を、暗黙的特徴量として抽出する。
ステップＳ２０４において、形式知紐付け部１０４は、データ記憶部１０１に記憶された形式知を取得する。形式知は、例えば、熟練者を撮影することによって得られた映像データ、又は熟練者からヒアリングなどによって聞き出した情報、などを含む。
ステップＳ２０５において、例えば、図５に示されるようなニューラルネットワークのモデルに従って、暗黙的特徴量と形式知とのデータの組み合わせを学習装置（例えば、図２（Ａ）における学習装置２０）に与え、それらの学習用データにある特徴を機械学習し、入力から結果を推論することにより出力を機械学習する。ニューラルネットワークの機械学習では、教師信号とニューラルネットワークの出力との間の誤差が小さくなるように、誤差逆伝播法などを用いて技能判定部１０３及び特徴抽出部１０２のモデルパラメータを自動調整する。ステップＳ２０６において、データ記憶部１０１は、形式知紐付け部１０４が生成した第２の学習済モデルである学習済モデルＭ２を記憶する。
暗黙的特徴量を入力とし、形式知を出力する学習済モデルは、ニューラルネットワークに限定されるものではなく、ＳＶＲ（Ｓｕｐｐｏｒｔ ｖｅｃｔｏｒ ｒｅｇｒｅｓｓｉｏｎ）、ナイーブベイズ（Ｎａｉｖｅ Ｂａｙｅｓ）による形式知部分の欠損値推定などの方法を用いてもよい。
最終的に、技能を体得したい作業者Ｐ（すなわち、ユーザ）が、形式知紐付け部１０４が紐付けし、技能判定部１０３が技能レベル（例えば、熟練度及び加工精度など）を判定するモデルに対して、反実仮想的な説明の提示を要求する動作について詳細に説明する。
図７は、実施の形態１に係る説明提示装置１の動作の例を示すフローチャートである。ステップＳ３０１において、作業者Ｐは、ある改善したい技能行動に関するセンサデータを、データ記憶部１０１に登録する。すなわち、作業者Ｐは、自身が技能レベルの向上を希望する技能に関するセンサデータが何であるかを、例えば、操作装置（図１における操作装置１４）で登録する。
ステップＳ３０２において、特徴抽出部１０２は、データ記憶部１０１に登録された作業者Ｐが技能レベルの向上を希望する技能に関するセンサデータを取得する。ステップＳ３０３において、特徴抽出部１０２は、取得したセンサデータを、データ記憶部１０１に記憶した学習済モデルＭ１に入力する。
ステップＳ３０４において、特徴抽出部１０２は、学習済モデルＭ１から暗黙的特徴量を取得する。ここで、特徴抽出部１０２は、例えば、ニューラルネットワークの最終出力層の手前の層の出力値を暗黙的特徴量として抽出する。
図８は、実施の形態１に係る説明提示装置１によって生成されるデータの例を表形式（表１）で示す図である。なお、Ｌは、正の整数であり、ｉは、１以上Ｌ以下の整数である。
図８に表１として記述されるように、形式知Ｓは、技ｓ１，ｓ２，ｓ３，…，ｓｍ（ｍは、正の整数）とラベル付けされている。図８に示されるように、データ記憶部１０１には、作業者の行動Ａｉ（ｉ＝１，…，Ｌ）と対応付けされて、技ｓ１，技ｓ２，技ｓ３，…，技ｓｍと、センサデータｄと、暗黙的特徴量ｘと、技能レベルである熟練度ｙとが、記憶されている。そして、作業者Ｐが、技能を体得したいと考えている行動Ａａがデータ記憶部１０１に入力される。ここで、作業者Ｐが、どのような形式知に該当する行動を行っているかは未知と仮定する。
図９は、実施の形態１に係る説明提示装置１によって生成されるデータの例を表形式（表２）で示す図である。ステップＳ３０５～Ｓ３１０を繰り返すことで、説明抽出部１０５は、特徴抽出部１０２が取得した暗黙的特徴量ｘａを基に得られた特徴ベクトルの各要素の値を変更して、技能判定部１０３を通じて技能レベルがどのように変わるかの探索を行い、図９の表２に示されるような反実仮想的な説明に用いられるデータを得る。
ステップＳ３０５において、説明抽出部１０５は、特徴抽出部１０２が取得した暗黙的特徴量ｘａを基に、得られた特徴ベクトルの各要素の値を変更し暗黙的特徴量ｘｉを得る。ステップＳ３０６において、技能判定部１０３は、説明抽出部１０５から取得した暗黙的特徴量ｘｉを学習済モデルＭ１に入力する。ステップＳ３０７において、技能判定部１０３は、入力された暗黙的特徴量ｘｉに対応する技能レベルとして熟練度ｙｉを出力する。
ステップＳ３０８において、形式知紐付け部１０４は、学習済モデルＭ２に暗黙的特徴量ｘｉを入力する。ステップＳ３０９において、形式知紐付け部１０４は、入力された暗黙的特徴量ｘｉに対応する形式知を出力する。ステップＳ３１０において、データ記憶部１０１は、それぞれのステップで得られた暗黙的特徴量と、熟練度、形式知をデータベースに記憶する。
ステップＳ３０５において、説明抽出部１０５の値の変更方法としては、ｘａからΔｘずつ各要素の値に変更を加えた場合に、ｘａ＋Δｘのうち熟練度が最も大きくなる要素を記憶して、大きい熟練度を与えるｘａであるほど優先的に探索を行うアルゴリズムを用いてもよい（例えば、図１０を参照）。
図１０は、暗黙的特徴量空間における探索の例を示す図である。ｘａを開始点として、Δｘを各要素に足して技能判定部１０３が判定した熟練度を探索キューに予め記憶する。なお、探索キューには、熟練度が高いものほど前になるように並べ替える。そして、探索キューの先頭の要素を選ぶ。図１０には、１番目の要素にΔｘを加えた際に、熟練度が最も高かった場合が示されている。この場合ｘｉ＝ｘａ＋Δｘ１の暗黙的特徴量が次に探索する特徴量として選ばれ、暗黙的特徴量ｘｉの各要素にさらにΔｘを加え、技能判定部１０３で各特徴量に対応する技能レベルである熟練度を得る。このように探索を繰り返していくことで、反実仮想的な暗黙的特徴量を得ることができる。
図１０では、例えば、指定した形式知の値Ｙが１に近づくほど評価が高くなるような評価関数が用いられる。或いは、図１０では、暗黙的特徴量が近いものほど評価が高くなるような評価関数が用いられる。そして、評価が高い暗黙的特徴量が、優先して探索される。
ステップＳ３１１において、説明抽出部１０５は、作業者Ｐが形式知選択部１０６に入力した形式知を基に、例えば、図９の表２の選択された形式知と相関の高い暗黙的特徴量の軸を選択し、形式知の変化に伴う特徴空間上のプロット情報及び、熟練度の情報を可視化して表示するための提示情報を抽出する。図１に示される表示器１５は、提示情報に基づく画像を表示する。可視化された例は、後述の図１１に示される。
また、ｘａを形式知紐付け部１０４に入力して、得られた形式知Ｓである技ｓｉ，…，ｓｍを形式知選択部１０６の初期ラベルとして用いて、作業者Ｐが形式知選択部１０６で形式知を変更できるように構成してもよい。これに加えて、説明抽出部１０５は、形式知Ｓである技ｓｉ，…，ｓｍの有無によって、熟練度が目標値以上になる確率を提示するための提示情報を抽出してもよい。説明抽出部１０５は、技ｓｉ，…，ｓｍは、互いに独立であるという仮定のもと、熟練度が目標以上になったときに、技ｓｉ，…，ｓｍが含まれている確率を求め、ベイズルール（Ｂａｙ’ｓ ｒｕｌｅ）によって熟練度が目標以上になる要因として形式知Ｓである技ｓｉ，…，ｓｍが含まれる確率を算出し、これを形式知選択部１０６の設定参考値として作業者Ｐに提示するための提示情報を抽出してもよい。
図１１は、可視化された説明の例を示す図である。図１１において、９０１ａ及び９０１ｂは、作業者Ｐの操作に基づいて形式知選択部１０６によって選択された形式知Ｓである技ｓｉ，…，ｓｍ、もしくは、説明抽出部１０５の探索から、熟練度の向上に最も寄与する形式知Ｓである技ｓｉ，…，ｓｍである。９０２ａ及び９０２ｂは、形式知Ｓである技ｓｉ，…，ｓｍの変化を示す。また、９０３は、作業者Ｐが入力したセンサデータに対応する暗黙的特徴量の位置付けをプロットしたものである。９０４は、目標熟練度をヒートマップによる可視化したものである。図１１のヒートマップは、２次元データの値を濃淡として表現した可視化グラフである。図１１において、９０５ａ及び９０５ｂは、形式知Ｓである技ｓｉ，…，ｓｍと相関の高い暗黙的特徴量の座標軸である。
ただし、可視化は、作業者Ｐがどの技ｓｉ，…，ｓｍを習得するか判断するための一助となるような見せ方として、特徴空間を表示せずに形式知の空間のみを表示するように行われてもよい。また、可視化は、作業者Ｐが習得を希望する技能に関するセンサデータ以外のセンサデータに対応する暗黙的特徴量をプロットしたサーマルマップを、並べて表示するように行われてもよい。或いは、可視化は、説明抽出部１０５の探索で得られた他の暗黙的特徴量をプロットしたサーマルマップを並べて表示するように行われてもよい。
これに加え、説明抽出部１０５は、技ｓｉ，…，ｓｍの有無によって、熟練度が目標値以上になる確率を提示するための提示情報を抽出してもよい。例えば、説明抽出部１０５は、技ｓｉ，…，ｓｍは、互いに独立であるという仮定のもと、熟練度が目標以上になったときに、技ｓｉ，…，ｓｍが含まれている確率を求め、ベイズルールによって熟練度が目標以上になる要因として技ｓｉ，…，ｓｍが含まれる確率を算出し、これを形式知選択部１０６の設定参考値として作業者Ｐに提示するための提示情報を抽出してもよい。図１に示される表示器１５は、提示情報に基づく画像を表示する。
以上のように構成された説明提示装置１を用いることで、作業者Ｐは、技ｓｉ，…，ｓｍに基づいてどのようにして技能を体得すればよいかを、直感的に理解することが可能になる。
《実施の形態２》
実施の形態１では、暗黙的特徴量を用いた反実仮想的な説明を容易に理解できるようにするために、暗黙的特徴量に形式知を紐付けし、暗黙的特徴量と形式知とを、技能の向上を希望する作業者Ｐに提示するための提示情報を抽出する。しかし、実施の形態１では、技能の向上を希望する作業者Ｐに関するセンサデータを、他の作業者に関するセンサデータと比較して、比較結果を参照する処理は行われていない。そのため、例えば、以下の状況（１）～（３）が発生する可能性がある。
（１）形式知を習得することが目標クラスの出力を実現するための最短パスであっても、実例が無く非現実的な提案となる状況。
（２）技能を習得するまでの道のりが遠いため習得が困難である状況。
（３）反実仮想的な説明の探索空間が広いため、処理時間が長くなる状況。
そこで、実施の形態２では、他の作業者のセンサデータも加味して、習得すべき技を提示するための提示情報を抽出する説明提示装置２を提案する。
図１２は、実施の形態２に係る説明提示装置２の構成を示す機能ブロック図である。図１２に示されるように、説明提示装置２は、データ記憶部２０１と、特徴取得部としての特徴抽出部２０２と、技能判定部２０３と、形式知紐付け部２０４と、反実仮想的説明抽出部である説明抽出部２０５と、形式知選択部２０６と、特徴比較部２０７とを有する。実施の形態２に係る説明提示装置２は、作業者Ｐのセンサデータを特徴抽出部２０２に入力して得られた暗黙的特徴量と、他の作業者のセンサデータから得られた暗黙的特徴量とを比較する特徴比較部２０７を備えた点が、実施の形態１に係る説明提示装置１と相違する。データ記憶部２０１、特徴抽出部２０２、技能判定部２０３、形式知紐付け部２０４、説明抽出部２０５、及び形式知選択部２０６は、実施の形態１におけるデータ記憶部１０１、特徴抽出部１０２、技能判定部１０３、形式知紐付け部１０４、説明抽出部１０５、及び形式知選択部１０６とそれぞれ同様である。
図１３は、実施の形態２に係る説明提示装置２の動作の例を示すフローチャートである。説明提示装置２の動作は、他の作業者の特徴と比較するステップＳ４１２を有する点が、実施の形態１に係る説明提示装置１の動作と異なる。ステップＳ４０１～Ｓ４０４、Ｓ４１１は、図７におけるステップＳ３００～Ｓ３０４、Ｓ３１１と同様である。
ステップＳ４１２において、特徴比較部２０７は、作業者Ｐのセンサデータから得られた暗黙的特徴量ｘａと、データ記憶部２０１に記憶しておいた他の作業者の暗黙的特徴量との距離を算出し、データ記憶部２０１に予め記憶する。
例えば、特徴比較部２０７は、暗黙的特徴量同士の近さを示す相関ベースの類似度を、例えば、分散共分散行列により算出し、行動Ａａの熟練度ｙａよりも熟練度が高いデータの中から、距離の近い順にＫ個（Ｋは正の整数）のデータを得る。特徴抽出部２０２は、前記距離に基づいて特徴量を抽出する。
ここでは、距離として、相関ベースのものを挙げた。しかし、用いられる距離は、コサイン距離、ＰＣＡ（ｐｒｉｎｃｉｐａｌ ｃｏｍｐｏｎｅｎｔ ａｎａｌｙｓｉｓ）によって次元圧縮をかけた上でのユークリッド距離、などのような公知の様々な距離算出法で得られるいずれの距離であってもよい。
ステップＳ４０５～Ｓ４１０において、説明抽出部２０５は、暗黙的特徴量に変更を加えて探索を行う。ここで、説明抽出部２０５は、特徴比較部２０７により抽出したＫ個のデータを基に、熟練度の期待値が高くなるような暗黙的特徴量の要素を優先的に変化させ、かつ、Ｋ個のデータの暗黙的特徴量の範囲を大きく逸脱しないように探索を行う。
このように作業者Ｐと暗黙的特徴量が近いデータを基に反実仮想的な説明を抽出することで、実例を考慮した形式知の習得を促すことができ、効率的な習熟が可能であり、習熟時間の短縮が期待できる。
また、暗黙的特徴量同士の比較を実現することで、形式知紐付け部２０４は、ニューラルネットワークなどの教師あり学習による紐付けだけでなく、協調フィルタリングなどのモデル生成を必要としない紐付け方法を用いることが可能となる。
協調フィルタリングの例として、相関ベースの距離に基づく協調フィルタリングが挙げられる。図１４は、実施の形態２に係る説明提示装置２によって生成されるデータの例を表形式（表３）で示す図である。図１５は、得られた相関係数の例を表形式（表４）で示す図である。図１６は、行動に紐付けられた形式知を相関係数で重み付けた値の和によって得られる熟練技能を得るために推奨される行動を表形式（表５）で示す図である。
図１４の表３に示されるように、熟練度ｙ１，…，ｙＬ＞ｙａとなる行動１ａ，…，Ｌａを抽出し、これらの特徴量同士の相関係数ｃｏｖ（ａ，ｊ）を式（１）によって算出する。
Figure 0007158633000001
その結果、図１５の表４に示されるような相関係数が得られる。行動Ａ１ａと相関係数０．７以上の行動を選択した場合、行動Ａ３ａ、行動ＡＬａが協調フィルタリングするためのデータとして選択される。これを基に、説明抽出部２０５は、図１６の表５に示されるように、各行動と紐付けられた形式知を上記の相関係数で重み付けし、重み付けされた形式知の和を行動Ａａが熟練技能を得るために推奨される行動として提示するための提示情報を抽出する。図１に示される表示器１５は、提示情報に基づく画像を表示する。
説明抽出部２０５は、ステップＳ４０５で相関係数の閾値をいくつに設定するか、目標とする到達熟練度をいくつに設定するかを変更することで、他の作業者の形式知を考慮して、暗黙的特徴量と形式知の紐付けが可能となる。
形式知紐付け部２０４は、上述した協調フィルタリングのような手法に限らず、ベイジアンネットワーク（Ｂａｙｅｓｉａｎ ｎｅｔｗｏｒｋ）を用いて、熟練度ｙ＞ｙａが得られたとき、その要因は、形式知である確率を算出するなどによって、事象の発生確率を基に値を推定することで、暗黙的特徴量と形式知の紐付けを行ってもよい。
以上の説明は、作業者と他の作業者のみの比較に基づいた例について示している。しかし、説明抽出部２０５の仮想現実的な暗黙的特徴量の探索方法を変えることで、説明抽出部２０５は、作業者Ｐが技能を体得したとして、少しずつ行動が近い人のやり方を学びながら、目標クラスに近づけていく学習方法になるように説明を提示するための提示情報を抽出することができる。
例えば、評価関数Ｆは、図１０の探索キューを記憶済みの他の作業者の暗黙的特徴量と探索中の特徴量の距離の差が大きいほど評価が低く、目標熟練度に達するまでの形式知の変動ΣΔＳが小さいほど評価が高く、熟練度が高いほど評価が高くなるように設計される。具体的には、評価関数Ｆは、以下の式（２）に示されるように設計されればよい。
Figure 0007158633000002
ステップＳ４１２において、特徴比較部２０７は、作業者Ｐのセンサデータから得られた暗黙的特徴量ｘａと、データ記憶部２０１に記憶されている他の作業者のセンサデータから得られた暗黙的特徴量とを比較し、熟練度ｙａよりも値が大きく、目標となる熟練度が達成できるようなセンサデータｊがＫ個以上含まれるように、センサデータを抽出する。そして、特徴比較部２０７は、得られた全てのセンサデータについて評価関数Ｆによるスコアを求め、距離算出用の比較対象集合Ｊにｊを加える。
ステップＳ４０５～Ｓ４１０において、説明抽出部２０５は、行動（式２におけるａ）を開始点として、評価関数Ｆの値が高い順に探索キューから暗黙的特徴量ｘｉを取り出し、この値にΔｘだけ変更を加えて、特徴比較部２０７により抽出したＪ個のデータと形式知の行動（式２におけるａからｉ－１まで）の変化量の合計を基に評価関数Ｆでスコアを算出し、探索キューへのデータの追加を行う。以上のような評価関数Ｆを用いた処理を繰り返すことによって、目標とする熟練度を達成しつつ、特徴量が、獲得したデータから大きく離れないような探索が可能となる。
実施の形態２に係る説明提示装置２を用いれば、特徴比較部２０７を設けて他の作業者の行動との比較をし、その結果を用いることで、現実とかけ離れた反実仮想的な説明が提示されることを防ぐことが可能である。
《実施の形態３》
実施の形態１に係る説明提示装置１は、自動的に求められた暗黙的特徴量に形式知を紐付けし、どのような技を習得すれば、熟練度を向上させることができるかを作業者に提示する。しかし、作業者に対し、具体的に、どのような行動変容をすればよいかを提示できれば、作業者の技能の習得はより一層加速するものと考えられる。そこで、実施の形態３に係る説明提示装置３は、特徴取得部として技能データ生成部３０２を備えている。実施の形態３では、技能データ生成部３０２は、技能判定部が熟練度及び加工精度などの技能レベルを判定できるように、特徴抽出部が特徴量を自動抽出するのではなく、元のセンサデータを生成データとして再現できるように特徴量を抽出する。
図１７は、実施の形態３に係る説明提示装置３の構成を示す機能ブロック図である。図１７に示されるように、説明提示装置３は、データ記憶部３０１と、特徴取得部としての技能データ生成部３０２と、技能判定部３０３と、形式知紐付け部３０４と、反実仮想的説明抽出部である説明抽出部３０５と、形式知選択部３０６とを有する。実施の形態３に係る説明提示装置３は、特徴取得部として技能データ生成部３０２を備えた点が、実施の形態１に係る説明提示装置１と異なる。つまり、技能データ生成部３０２は、技能判定部が熟練度及び加工精度を判定できるように、元のセンサデータを再現できるように特徴量を抽出する。データ記憶部３０１、技能判定部３０３、形式知紐付け部３０４、説明抽出部３０５、及び形式知選択部３０６は、実施の形態１におけるデータ記憶部１０１、技能判定部１０３、形式知紐付け部１０４、説明抽出部１０５、及び形式知選択部１０６とそれぞれ同様である。
技能データ生成部３０２は、ニューラルネットワークにより特徴量の圧縮を行う。その後、技能判定部３０３は、技能レベルとして熟練度を判定する。また、技能データ生成部３０２の後半部分にはデコーダが設けられており、技能データ生成部３０２は、元のセンサデータを復元するようなマルチタスクラーニングを行う。
図１８は、マルチタスクラーニングを実行するネットワークの構成例を示す図である。図１８のネットワークでは、入力層１４１ａからセンサデータｄｉをニューラルネットワーク１４２ａに与え、中間層１４５とニューラルネットワーク１４２ｂを介して熟練度ｙｉを出力する。また、これと共に、ニューラルネットワークの中間層１４５から、デコーダ１４３を介して、センサデータｄｉを復元し、出力層１４１ｂから出力する。技能データ生成部３０２は、この分岐点の出力値を、暗黙的特徴量ｘｉとして抽出する。
図１８の学習方法では、基本構成図のモデルと同様であり、教師信号となる熟練度ｙｉとセンサデータｄｉとを用い、ニューラルネットワーク１４２ｂから出力される熟練度ｙｉとセンサデータｄｉで構成されるロス関数Ｌが小さくなるようにパラメータの調整を行う。パラメータ調整後、データ記憶部３０１は、技能データ生成部３０２と技能判定部３０３が生成した学習済モデルＭ１を記憶する。
ロス関数Ｌは、例えば、デコーダ１４３のロスＬｄｅｃｏｄｅと熟練度の推定部分のロスＬｙの重み付き和で定義することができる。
図１８のデコーダ１４３は、データを生成するモデルであれば、ＶＡＥ（ｖａｒｉａｔｉｏｎａｌ ａｕｔｏｅｎｃｏｄｅｒ）、ＧＡＮ（Ｇｅｎｅｒａｔｉｖｅ Ａｄｖｅｒｓａｒｉａｌ Ｎｅｔｗｏｒｋ）、など公知のものであることが可能である。
次に、反実仮想的な説明を提供する動作を説明する。図１９は、反実仮想的な説明を提供する動作を示すフローチャートである。
ステップＳ５０７において、技能データ生成部３０２及び技能判定部３０３は、データ記憶部３０１から取得したデータを学習済モデルＭ１に暗黙的特徴量ｘｉとして入力する。そして、技能データ生成部３０２が学習したモデルは、図１８に示されるように構成されているため、暗黙的特徴量ｘｉから熟練度ｙｉとセンサデータｄｉの２つのデータが出力される。ステップＳ５１０でデータ記憶部３０１は、暗黙的特徴量ｘｉ，センサデータｄｉ，熟練度ｙｉ，形式知Ｓを記憶し、表６を得る。
図２０は、実施の形態３に係る説明提示装置３によって生成されるデータの例を表形式（表６）で示す図である。図２１は、図２０に示されるセンサデータを可視化し、特に異なる部分を変化＃１、変化＃２として表示した図である。ステップＳ５１１で説明抽出部３０５は、図２０の表６の反実仮想行動Ｃ１～ＣＮのセンサデータｄｉを可視化し、センサデータｄａと特に異なる部分を、図２１の変化＃１、変化＃２の部分のように強調表示するための提示情報を抽出する。図１に示される表示器１５は、提示情報に基づく画像を表示する。
以上に説明したように、実施の形態３では、技能データ生成部３０２が暗黙的特徴量の抽出とセンサデータの復元とを共に行い、熟練度を判別するための特徴表現とセンサデータを紐付けることで、形式知を変化させた場合に実際にセンサデータがどのように変容するか示す提示情報を生成する。実施の形態３では、この対応関係（すなわち、形式知の変化と、センサデータの変容との対応関係）を利用し、技を習得する上で取るべき行動変容のヒントを示すことができる。
なお、実施の形態３では、センサデータの生成を行う生成モデルを用いているが、センサデータのどの部分の行動を変容するべきかを着目する方法として、アテンション機構（Ａｔｔｅｎｔｉｏｎ Ｍｅｃｈａｎｉｓｍ）を用いてもよい。
図２２は、Ａｔｔｅｎｔｉｏｎ Ｂｒａｎｃｈ Ｎｅｔｗｏｒｋ（ＡＢＮ）の例を示す図である。実施の形態３に火且つ説明提示装置３は、例えば、図２２に示されるＡＢＮに示されるように、中間の特徴量のうちどこに着目すべきかを抽出するアテンション機構を設け、このアテンション機構で、アテンションが高い箇所に該当するセンサデータを強調表示させるための提示情報を生成してもよい。この強調表示には、例えば、非特許文献１に記載の方法を用いることができる。
Ｈ．Ｆｕｋｕｉ、 他３名著、 "Ａｔｔｅｎｔｉｏｎ Ｂｒａｎｃｈ Ｎｅｔｗｏｒｋ： Ｌｅａｒｎｉｎｇ ｏｆ Ａｔｔｅｎｔｉｏｎ Ｍｅｃｈａｎｉｓｍ ｆｏｒ Ｖｉｓｕａｌ Ｅｘｐｌａｎａｔｉｏｎ"、 ａｒＸｉｖ ｐｒｅｐｒｉｎｔ， ａｒＸｉｖ：１８１２．１００２５， ２０１８、 インターネット〈https://arxiv.org/pdf/1812.10025.pdf〉
《実施の形態４》
実施の形態３では、技能データ生成部３０２は、行動変容させるべき領域（例えば、変化＃１、変化＃２）を確認するために用いられている。実施の形態４では、熟練技能に関する領域のセンサデータに対して摂動を与えることで、熟練度及び加工精度などの技能レベルがどのように変わりそうか、そして技能レベルの信憑性の確認、などを行うことが可能になる。これを実現するために、実施の形態４に係る説明提示装置４は、摂動確認部を備える。
図２３は、実施の形態４に係る説明提示装置４の構成を示す機能ブロック図である。図２３に示されるように、説明提示装置４は、データ記憶部４０１と、特徴取得部としての技能データ生成部４０２と、技能判定部４０３と、形式知紐付け部４０４と、反実仮想的説明抽出部である説明抽出部４０５と、形式知選択部４０６と、摂動確認部４０８とを有する。実施の形態４に係る説明提示装置４は、摂動確認部４０８を備えた点が、実施の形態３に係る説明提示装置３と異なる。データ記憶部４０１、技能データ生成部４０２、技能判定部４０３、形式知紐付け部４０４、説明抽出部４０５、及び形式知選択部４０６は、実施の形態３におけるデータ記憶部３０１、技能データ生成部３０２、技能判定部３０３、形式知紐付け部３０４、説明抽出部３０５、及び形式知選択部３０６とそれぞれ同様である。
以下に摂動確認の流れを示す。まず、作業者Ｐは、技能を習得したいと考えている行動に該当するセンサデータを入力し、形式知選択部４０６により形式知が選択される。その結果を受け、説明抽出部４０５は、選択された形式知だけができるだけ大きく変化するように探索の評価関数Ｆを変更し、暗黙的特徴量を変更して反実仮想的な説明としての暗黙的特徴量ｘｉの生成を行う。形式知紐付け部４０４は、生成された暗黙的特徴量ｘｉに対応する形式知を取得し、技能判定部４０３は、熟練度ｙｉを判定し、技能データ生成部４０２は、センサデータｄｉを生成データとして再現する。
説明抽出部４０５は、上記の探索により目標の熟練度ｙを満たすようにするために、反実仮想的な形式知の候補を作業者Ｐに提示する。次に、作業者Ｐは、提示されたセンサデータのうち特に熟練度に影響を及ぼす重要な部分について、摂動確認部４０８によって摂動を加える（すなわち、入力するセンサデータに変化を与える）。これにより、摂動確認部４０８は、摂動により変更されたセンサデータをデータ記憶部４０１に登録し、技能データ生成部４０２は、摂動が加えられたセンサデータを読み込み、元のデータの生成を行い、データ記憶部４０１にセンサデータを登録する。
摂動確認部４０８は、技能データ生成部４０２に入力したセンサデータと、技能データ生成部４０２が出力したセンサデータを比較し、生成データと摂動が加えられたセンサデータとの差異を作業者Ｐに提示するための処理を行う。また、これに合わせて説明抽出部４０５は、センサデータに摂動が加えられた結果、熟練技能は、どのように変わったかを合わせて提示するための提示情報を抽出する。図１に示される表示器１５は、提示情報に基づく画像を表示する。
以上に説明したように、実施の形態４に係る説明提示装置４は、摂動時に生成されるセンサデータの挙動を可視化することで、学習済モデルに含まれていないデータを用いた場合、適切な説明が生成され難くなり、説明の精度が著しく落ちることを利用する。実施の形態４に係る説明提示装置４は、このような方法により、生成される学習済モデルが扱うことのできるデータの許容範囲を決定でき、また、摂動がどのように熟練度に影響を与えるかを知ることができる。
また、実施の形態４の変形例として、作業者Ｐは、説明抽出部４０５のセンサデータの可視化のうち、特にどこに着目すべきかの範囲を摂動確認部４０８に入力（例えば、図２１の変化＃１、変化＃２のいずれかを選択）すると、説明抽出部４０５は、該当部分のセンサデータのみが変化し、かつ、熟練度が現状よりも高くように暗黙的特徴量を探索し、そのセンサデータの変化の振れ幅を提示するようにしてもよい。
以上に説明したように、実施の形態４に係る説明提示装置４を用いれば、センサデータの摂動の幅を提示することで、作業者Ｐは、技能と体得する上で許容される行動変容を、再度の行動の登録を行う前に確認することが可能である。
《実施の形態５》
実施の形態１では、図３に示されるように、技能判定部１０３、特徴抽出部１０２、及び形式知紐付け部１０４のセットである学習装置によって形成される学習済モデルが、１個の学習済モデルＭ１である例を説明している。これに対し、実施の形態５に係る説明提示装置５は、複数の学習済モデルＭ１を生成し、これらの中から、作業者が習得を希望する技能に近い技能（すなわち、関連技能）に関する学習済モデルを探し当てる。
図２４は、実施の形態５に係る説明提示装置５の構成を示す機能ブロック図である。図２４に示されるように、説明提示装置５は、データ記憶部５０１と、特徴取得部としての特徴抽出部５０２と、技能判定部５０３と、形式知紐付け部５０４と、反実仮想的説明抽出部である説明抽出部５０５と、形式知選択部５０６と、モデル優先順位決定部５０９とを有する。実施の形態５に係る説明提示装置５は、複数の学習済モデルＭ１を生成する点と、モデル優先順位決定部５０９が複数の学習済モデルＭ１の中から作業者が習得を希望する技能に近い技能に関する学習済モデルを探し当てる点が、実施の形態１に係る説明提示装置１と異なる。言い換えれば、説明提示装置５は、技能判定部５０３、特徴抽出部５０２、及び形式知紐付け部５０４のセットを複数有し、モデル優先順位決定部５０９は、複数のセットの優先順位を決定する。つまり、説明提示装置５は、それぞれが技能判定部５０３、特徴抽出部５０２、及び形式知紐付け部５０４からなる複数の学習セットと、複数の学習セットの優先順位を決定するモデル優先順位決定部５０９とを有し、複数の学習セットは、データベースから時分割でセンサデータを取得する。データ記憶部５０１、特徴抽出部５０２、技能判定部５０３、形式知紐付け部５０４、説明抽出部５０５、及び形式知選択部５０６は、実施の形態１におけるデータ記憶部１０１、特徴抽出部１０２、技能判定部１０３、形式知紐付け部１０４、説明抽出部１０５、及び形式知選択部１０６とそれぞれ同様である。
モデル優先順位決定部５０９は、データ記憶部５０１に登録された作業者Ｐのセンサデータを読み出し、複数の学習済モデルの各々が扱うのに適した時間幅のセンサデータ（すなわち、時分割センサデータ）を取得する。
図２５は、実施の形態５に係る説明提示装置５における時分割センサデータの例を示す図である。学習済モデル＃１は、機械学習時に時間Ｒ１の時間データを用いているため、センサデータを時間Ｒ１ずつ区切って、且つ時間をｔ１ずつ進めて時分割を行う。学習済モデル＃２は、機械学習時に時間Ｒ２の時間データを用いているため、センサデータを時間Ｒ２ずつ区切って、且つ時間をｔ２ずつ進めて時分割を行う。
次に、モデル優先順位決定部５０９は、取得した各時間幅のセンサデータを全ての学習済モデルに入力し、技能判定部５０３及び特徴抽出部５０２のニューラルネットワークの最終層におけるデータの分布が正規分布から外れているかどうかをチェックする。このチェックには、例えば、非特許文献２に記載の方法を用いることができる。
Ｓｅｈｕｎ Ｙｕ、他２名 著、 "Ｏｕｔ－ｏｆ－Ｄｉｓｔｒｉｂｕｔｉｏｎ Ｉｍａｇｅ Ｄｅｔｅｃｔｉｏｎ Ｕｓｉｎｇ ｔｈｅ Ｎｏｒｍａｌｉｚｅｄ Ｃｏｍｐｒｅｓｓｉｏｎ Ｄｉｓｔａｎｃｅ"、 ＩＣＬＲ２０２０
モデル優先順位決定部５０９は、上記最終層において、データの分布が正規分布から外れていない学習済モデルとセンサデータとの組み合わせを優先的に選択し、説明抽出部５０５の特徴空間の探索を行う。作業者Ｐが予め形式知選択部５０６で着目したい形式知を選択した場合、モデル優先順位決定部５０９は、形式知を学習データとして含んでいた学習済モデルに選択範囲を絞り込む。
モデル優先順位決定部５０９は、時分割したセンサデータｄｔ１，ｄｔ２，…，ｄｔｒを各学習済モデルに入力し、熟練度の変動のしやすさを基準に学習済モデルを選択してもよい。また、モデル優先順位決定部５０９は、熟練度が全く変動しない学習済モデルは、関連が無いものとし、熟練度の変動が確認できる学習済モデルを優先的に用いてもよい。
また、実施の形態３及び４で説明したように、技能データ生成部３０２及び４０２がＶＡＥ、ＧＡＮなどの手法を用いて、中間層から出力されるデータの分布が正規分布になるように次元圧縮を行い、元のセンサデータを復元するように構成し、実施の形態５におけるモデル優先順位決定部５０９が、データの分布が正規分布から外れているどうかによって、相関のあるセンサデータと学習済モデルのセットを決定してもよい。
図２６は、可視化された提示情報の例を示す図である。まず、説明抽出部５０５は、これまでに蓄積されたデータベースの情報を基に、表７に示されるように、ベイズルールによって熟練度が目標以上になる要因として、形式知１～ｍが含まれる確率を算出し、これを形式知選択部５０６を操作するための設定参考値として、技能を習得したい作業者Ｐに提示するために、表示器（図１に示される）に表示させてもよい。図２６の表８には、技能を習得したい作業者Ｐが形式知選択部５０６で形式知として「技１」を選択した場合の可視化の例が示される。表８では、「技１」の値が大きく、熟練度が現在のものよりも大きい反実仮想行動Ｃ１～Ｃ１０の例が、一覧表示される。例えば、図２６の表８の例では、熟練度が現在の作業者のセンサデータを基にして技能判定部５０３によって判定されたものよりも大きく、かつ、「技１」を降順に、１０件の反実仮想行動の例が並べ替えて可視化されている。また、表８の左から３列目には「技１」と関連の高い技能である関連技能（Ｓａ、Ｓｂ、など）を１つ提示している。また、表８のセンサデータの列には、技能データ生成部５０３によって生成されたデータを基に、大きな変化が発生した箇所を太線枠又はカラー枠などで、強調表示した例が示されている。なお、作業者Ｐが形式知を選択しない場合、熟練度が高い順もしくは、暗黙的特徴量の相関が高い順もしくは、これらを組み合わせたスコア順に、１０件の反実仮想行動の例が並べ替えられてもよい。なお、図２６に示される形式知の可視化の方法は一例であり、センサデータの重畳度合い、特徴量の相関度合い、などをベースにして、形式知を可視化し、形式知同士のつながりを作業者Ｐが分かるように提示してもよい。なお、図２６に示される提示情報の例を、他の実施の形態に適用してもよい。
以上に説明したように、実施の形態５に係る説明提示装置５を用いれば、作業者Ｐが、複数の学習済モデルの中から、学習済モデルに入力するデータに適した学習済モデルを選択する操作が不要又は容易になり、説明提示装置５が自動的に技能が抽出されそうな部分を選択し、これと共に対応する学習済モデルを選択することができる。
また、実施の形態５に係る説明提示装置５は、作業者Ｐが形式知選択部５０６で形式知を選択した際に、対応する形式知が取り込まれていて、かつ入力されたセンサデータと関連があると思われる学習済モデルを選択することが可能である。そして、複数の技能を扱う場合に、適切な学習済モデルが選択され、暗黙的特徴量に加えて技能の習得に適した形式知の提示が可能となる。
１～５ 説明提示装置、 １１ プロセッサ、 １２ メモリ、 １３ 記憶装置、 １４ 操作装置、 １５ 表示器、 １６ センサ、 ２０ 学習装置、 ２１ データ取得部、 ２２ モデル生成部、 ２３ 学習済モデル記憶部、 ３０ 推論装置、 ３１ データ取得部、 ３２ 推論部、 ３３ 学習済モデル記憶部、 １０１、２０１、３０１、４０１、５０１ データ記憶部、 １０２、２０２、５０２ 特徴抽出部（特徴取得部）、 ３０２、４０２ 技能データ生成部（特徴取得部）、 １０３、２０３、３０３、４０３、５０３ 技能判定部、 １０４、２０４、３０４、４０４、５０４ 形式知紐付け部、 １０５、２０５、３０５、４０５、５０５ 説明抽出部、 １０６、２０６、３０６、４０６、５０６ 形式知選択部、 ２０７ 特徴比較部、 ４０８ 摂動確認部、 ５０９ モデル優先順位決定部。

Claims (14)

  1. 作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得する特徴取得部と、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録する技能判定部と、
    前記データベースにおいて、前記特徴量に形式知を紐付ける形式知紐付け部と、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出する説明抽出部と、
    を有し、
    前記特徴取得部、前記技能判定部、及び前記形式知紐付け部は、前記特徴量と前記技能レベルとを含む第２の学習用データを用いて、前記特徴量に紐づけられる形式知を出力するための第２の学習済モデルを生成する
    説明提示装置。
  2. 前記特徴取得部及び前記技能判定部は、前記センサデータと前記センサデータの正解信号とを含む第１の学習用データを用いて、前記センサデータから前記技能レベルを判定するための第１の学習済モデルを生成する
    請求項１に記載の説明提示装置。
  3. 前記特徴取得部及び前記技能判定部は、前記第１の学習済モデルを用いて前記センサデータから前記技能レベルを判定する
    請求項２に記載の説明提示装置。
  4. 前記特徴取得部、前記技能判定部、及び前記形式知紐付け部は、前記第２の学習済モデルを用いて前記形式知を出力する
    請求項１に記載の説明提示装置。
  5. 前記技能レベルは、熟練度及び加工精度の少なくとも一方を含む
    請求項１から４のいずれか１項に記載の説明提示装置。
  6. 前記センサデータは、映像データを含む
    請求項１から５のいずれか１項に記載の説明提示装置。
  7. 前記提示情報に基づく画像を表示する表示器をさらに有する
    請求項１から６のいずれか１項に記載の説明提示装置。
  8. 作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得する特徴取得部と、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録する技能判定部と、
    前記データベースにおいて、前記特徴量に形式知を紐付ける形式知紐付け部と、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出する説明抽出部と、
    前記作業者のセンサデータから得られた暗黙的特徴量と他の作業者のセンサデータから得られた他の暗黙的特徴量との距離を算出し前記データベースに予め記憶する特徴比較部と、
    を有し、
    前記特徴取得部は、前記距離に基づいて前記特徴量を取得する
    説明提示装置。
  9. 前記特徴取得部は、前記距離に基づいて抽出された、限られた個数の特徴量を取得する
    請求項８に記載の説明提示装置。
  10. 作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得する特徴取得部と、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録する技能判定部と、
    前記データベースにおいて、前記特徴量に形式知を紐付ける形式知紐付け部と、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出する説明抽出部と、
    を有し、
    前記特徴取得部は、前記特徴量を取得するとともに、前記特徴量から元のセンサデータを生成データとして再現する技能データ生成部であり、
    前記説明抽出部は、前記提示情報を、前記センサデータと前記生成データの差の大きい範囲を強調表示させる表示にする
    説明提示装置。
  11. 作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得する特徴取得部と、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録する技能判定部と、
    前記データベースにおいて、前記特徴量に形式知を紐付ける形式知紐付け部と、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出する説明抽出部と、
    前記データベースに入力する前記センサデータに変化を与え、摂動が加えられたセンサデータを前記データベースに記憶させる摂動確認部と、
    を有し、
    前記特徴取得部は、前記特徴量を取得するとともに、前記特徴量から元のセンサデータを生成データとして再現する技能データ生成部であり、
    前記説明抽出部は、前記生成データと、前記摂動が加えられたセンサデータとの差異を提示する
    説明提示装置。
  12. 作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得する特徴取得部と、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録する技能判定部と、
    前記データベースにおいて、前記特徴量に形式知を紐付ける形式知紐付け部と、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出する説明抽出部と、
    それぞれが前記技能判定部、前記特徴取得部、及び前記形式知紐付け部からなる複数の学習セットと、
    前記複数の学習セットの優先順位を決定するモデル優先順位決定部と
    を有し、
    前記複数の学習セットは、前記データベースから時分割でセンサデータを取得する
    説明提示装置。
  13. 説明提示装置によって実行される説明提示方法であって、
    作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得するステップと、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録するステップと、
    前記データベースにおいて、前記特徴量に形式知を紐付けるステップと、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出するステップと、
    前記特徴量と前記技能レベルとを含む学習用データを用いて、前記特徴量に紐づけられる前記形式知を出力するための学習済モデルを生成するステップと、
    を有する説明提示方法。
  14. 作業者の行動を検出して得られたセンサデータと取得した人間が解釈できる知識である形式知とを記憶するデータベースから、前記行動の特徴量を取得するステップと、
    前記特徴量から前記作業者の技能レベルを判定し、前記データベースに前記技能レベルを登録するステップと、
    前記データベースにおいて、前記特徴量に形式知を紐付けるステップと、
    前記特徴量と前記特徴量に紐付けられた前記形式知とを含む提示情報を抽出するステップと、
    前記特徴量と前記技能レベルとを含む学習用データを用いて、前記特徴量に紐づけられる前記形式知を出力するための学習済モデルを生成するステップと、
    をコンピュータに実行させる説明提示プログラム。
JP2022542564A 2020-08-14 2020-08-14 説明提示装置、説明提示方法、及び説明提示プログラム Active JP7158633B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/030891 WO2022034685A1 (ja) 2020-08-14 2020-08-14 説明提示装置、説明提示方法、及び説明提示プログラム

Publications (3)

Publication Number Publication Date
JPWO2022034685A1 JPWO2022034685A1 (ja) 2022-02-17
JP7158633B2 true JP7158633B2 (ja) 2022-10-21
JPWO2022034685A5 JPWO2022034685A5 (ja) 2022-11-16

Family

ID=80247072

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022542564A Active JP7158633B2 (ja) 2020-08-14 2020-08-14 説明提示装置、説明提示方法、及び説明提示プログラム

Country Status (2)

Country Link
JP (1) JP7158633B2 (ja)
WO (1) WO2022034685A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002333826A (ja) 2001-05-10 2002-11-22 Nec Corp 技能向上支援装置
JP2017146577A (ja) 2016-02-15 2017-08-24 日本電信電話株式会社 技術支援装置、方法、プログラムおよびシステム
JP2020034849A (ja) 2018-08-31 2020-03-05 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002333826A (ja) 2001-05-10 2002-11-22 Nec Corp 技能向上支援装置
JP2017146577A (ja) 2016-02-15 2017-08-24 日本電信電話株式会社 技術支援装置、方法、プログラムおよびシステム
JP2020034849A (ja) 2018-08-31 2020-03-05 オムロン株式会社 作業支援装置、作業支援方法及び作業支援プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
竜田 力、Dong Phuong、梶原祐輔、島川博光，身体動作に着目した農業指導，ＦＩＴ２０１６ 第１５回情報科学技術フォーラム 講演論文集 第４分冊，日本，一般社団法人電子情報通信学会，2016年08月23日，ｐｐ．２６１－２６２（M-034）

Also Published As

Publication number Publication date
JPWO2022034685A1 (ja) 2022-02-17
WO2022034685A1 (ja) 2022-02-17

Similar Documents

Publication Publication Date Title
Dieber et al. Why model why? Assessing the strengths and limitations of LIME
US9721221B2 (en) Skill estimation method in machine-human hybrid crowdsourcing
US20180268262A1 (en) Information processing device and non-transitory computer readable medium
Altuwairqi et al. Student behavior analysis to measure engagement levels in online learning environments
JP7433601B2 (ja) エキスパートレポートエディタ
Rajendran et al. A theory-driven approach to predict frustration in an ITS
Shen et al. A scenario-driven decision support system for serious crime investigation
CN112231491A (zh) 基于知识结构的相似试题识别方法
Medjden et al. Adaptive user interface design and analysis using emotion recognition through facial expressions and body posture from an RGB-D sensor
Stanković et al. Artificial neural network model for prediction of students’ success in learning programming
Situmorang Analysis optimization k-nearest neighbor algorithm with certainty factor in determining student career
Beriwal et al. Techniques for suicidal ideation prediction: a qualitative systematic review
JP7158633B2 (ja) 説明提示装置、説明提示方法、及び説明提示プログラム
JP5931021B2 (ja) 対人認知傾向モデル学習装置、対人認知状態推定装置、対人認知傾向モデル学習方法、対人認知状態推定方法及びプログラム
CN102959560A (zh) 自动吸引力测量方法
JP2017207691A (ja) 択一問題の正答率予測方法
JP7409731B1 (ja) テキスト動画分類モデルを用いた事象判定方法、判定装置、及び判定プログラム
WO2023175802A1 (ja) 作業分析装置、作業分析システム、作業分析方法および記憶媒体
Mohamad Generating visualisation for crime scene investigation based on probability result of knowledge-based system
CN113658713B (zh) 传染趋势预测方法、装置、设备及存储介质
US20240020644A1 (en) Inclusive product design
Adilakshmi et al. A medical diagnosis system based on explainable artificial intelligence: autism spectrum disorder diagnosis
Chauhan et al. An experimental protocol for the evaluation of open-ended category learning algorithms
JP7435821B2 (ja) 学習装置、心理状態系列予測装置、学習方法、心理状態系列予測方法、及びプログラム
Kim Group affect and group cohesion in human-agent teams

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220721

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220721

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221011

R150 Certificate of patent or registration of utility model

Ref document number: 7158633

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150