JP7009810B2 - 条件付き確率の推定 - Google Patents
条件付き確率の推定 Download PDFInfo
- Publication number
- JP7009810B2 JP7009810B2 JP2017143487A JP2017143487A JP7009810B2 JP 7009810 B2 JP7009810 B2 JP 7009810B2 JP 2017143487 A JP2017143487 A JP 2017143487A JP 2017143487 A JP2017143487 A JP 2017143487A JP 7009810 B2 JP7009810 B2 JP 7009810B2
- Authority
- JP
- Japan
- Prior art keywords
- state
- probability
- determined
- user
- states
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims description 42
- 238000011524 similarity measure Methods 0.000 claims description 17
- 230000001537 neural effect Effects 0.000 claims description 15
- 230000002996 emotional effect Effects 0.000 claims description 14
- 230000007704 transition Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 8
- 230000006998 cognitive state Effects 0.000 claims description 6
- 230000009471 action Effects 0.000 description 60
- 238000004891 communication Methods 0.000 description 10
- 230000008451 emotion Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000000007 visual effect Effects 0.000 description 8
- 230000001364 causal effect Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 5
- 208000019901 Anxiety disease Diseases 0.000 description 4
- 230000036506 anxiety Effects 0.000 description 4
- 230000008909 emotion recognition Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000006996 mental state Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 206010021703 Indifference Diseases 0.000 description 1
- 241000287181 Sturnus vulgaris Species 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000003925 brain function Effects 0.000 description 1
- 230000037185 brain physiology Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 235000015243 ice cream Nutrition 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000003607 modifier Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 230000035922 thirst Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/01—Customer relationship services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Strategic Management (AREA)
- Finance (AREA)
- Economics (AREA)
- Marketing (AREA)
- Development Economics (AREA)
- Accounting & Taxation (AREA)
- General Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Tourism & Hospitality (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Entrepreneurship & Innovation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Resources & Organizations (AREA)
- Primary Health Care (AREA)
- Game Theory and Decision Science (AREA)
- Probability & Statistics with Applications (AREA)
- Algebra (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- User Interface Of Digital Computer (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Machine Translation (AREA)
Description
本明細書で説明する実施形態は、条件付き確率の推定に関し、より具体的には、あるユーザ状態の他のユーザ状態への遷移の確率の推定に関する。
近時、オンラインコーチングウェブサイト（ｏｎｌｉｎｅ ｃｏａｃｈｉｎｇ ｗｅｂｓｉｔｅｓ）が人気を集めている。ユーザは、感情的健康（ｅｍｏｔｉｏｎａｌ ｗｅｌｌｎｅｓｓ）、肉体的健康（ｐｈｙｓｉｃａｌ ｈｅａｌｔｈ）などのさまざまな心配事に関して、専門のライフコーチから助けを得ることができる。
特許請求の範囲に記載した主題は、何らかの欠点を解消する実施形態や、上記のような環境のみで動作する実施形態に限定されない。むしろ、この背景技術は、この明細書に説明する幾つかの実施形態を実施できる技術分野例を示すだけである。
本開示の一以上の実施形態は、一以上の条件付き確率を推定する方法を含み得る。本方法は、ユーザ入力に基づき一以上の状態を決定するステップと、一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップとを含み得る。本方法はさらに、前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップを含み得る。さらに、本方法は、決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップとを含み得る。
実施形態の目的と利点は、少なくとも、特許請求の範囲に具体的に記載した要素、特徴、及び組み合わせにより実現及び達成される。上記の概要及び下記の詳細な説明は両方とも例示的かつ説明のためのものであり、限定するものではない。
添付した図面を用いて、実施形態の例をさらに具体的に詳しく説明する。
適時かつ有効にユーザを支援するため、会話中にユーザがどう変化（ｅｖｏｌｖｅ）するかオンラインコーチが理解することが重要である。ユーザの感情的状態の遷移（「ユーザエボルーション（ｕｓｅｒ ｅｖｏｌｕｔｉｏｎ）」）を理解することは、ユーザに与える次のアドバイスを決定するときに、コーチの役に立つ。
本開示のさまざまな実施形態は、条件付き確率の推定に関し得る。より具体的には、例えば、さまざまな実施形態は、ある状態の、他の状態になる（ｌｅａｄｉｎｇ ｔｏ ａｎｏｔｈｅｒ ｓｔａｔｅ）確率の推定に使われ得る。「状態（ｓｔａｔｅ）」は感情的状態（例えば、幸せ、怒りなど）または認知的状態（例えば、興味の有無）を含み得る。一実施形態では、さまざまな実施形態は、会話中にユーザの心理状態がどのように進行し（「ユーザエボリューション」）、そのためアドバイスに対してユーザがどう応答するかをコーチ（例えば、オンラインコーチ）が理解するのを支援し得る。
ワードエンベディング（ｗｏｒｄ ｅｍｂｅｄｄｉｎｇ）は、ある言語のワードを（例えば、一般的には数百次元の）高次元ベクトルに写像するパラメータ化関数（ｐａｒａｍｅｔｅｒｉｚｅｄ ｆｕｎｃｔｉｏｎ）である。上記の写像を生成する方法がニューラルネットワークである場合、結果として得られるワードエンベディングはニューラルワードエンベディング（ｎｅｕｒａｌ ｗｏｒｄ ｅｍｂｅｄｄｉｎｇ）である。他の方法には、ワード共起行列における次元縮退（ｄｉｍｅｎｓｉｏｎａｌｉｔｙ ｒｅｄｕｃｔｉｏｎ）が含まれる。ワードエンベディング／フレーズエンベディング（ｐｈｒａｓｅ ｅｍｂｅｄｄｉｎｇ）は、基底表示（ｕｎｄｅｒｌｙｉｎｇ ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ）として用いられるとき、多くの自然言語処理タスクにおいて良い性能を示している。「ｗｏｒｄ２ｖｅｃ」ニューラルエンベディングは特に興味深い。「ｗｏｒｄ２ｖｅｃ」は関連した複数のモデルのグループであり、ワードの言語的文脈を再構成してワードエンベディングを生成するようにトレーニングされた浅い、２層ニューラルネットワークである。
十分なデータ、使用、及び文脈が与えられれば、ｗｏｒｄ２ｖｅｃは、過去におけるワードの出現に基づいてそのワードの意味についてかなり正確な推測をすることができる。こうした推測は、ワードの、他のワードとの関連性（例えば、「少女」に対し「女性」であれば、「少年」に対するのは「男性」であることなど）の確立などに用いることができる。
本開示のさまざまな実施形態は、ｗｏｒｄ２ｖｅｃニューラルエンベディング（例えば、方法とフレームワークを有するもの）を拡張して、動作及び／又はイベント間の因果関係を学習し、入力（例えば、テキスト）の基礎にある感情から計算される前状態とともに、ベイズフレームワークにおける尤度確率（ｌｉｋｅｌｉｈｏｏｄ ｐｒｏｂａｂｉｌｉｔｉｅｓ）として、ワードレベルの感情的セマンティクスを組み込み、次いで、ユーザエボルーションを理解する条件付き確率を推定する。例えば、Ｐ（Ａ）はユーザが悲しい確率を表し、Ｐ（Ｂ）はユーザが怒っている確率を表すとすると、悲しみから怒りがわき起こる確率（Ｐ（Ｂ／Ａ））を決定できる。
「ビジュアルｗｏｒｄ２ｖｅｃ」は、ｖｉｓｕａｌｌｙ ｇｒｏｕｎｄｅｄワードエンベディングを学習し、セマンティックな関連性の視覚的イメージ（ｖｉｓｕａｌ ｎｏｔｉｏｎｓ）を捕捉するモデルである。ビジュアルｗｏｒｄ２ｖｅｃは、ｖｉｓｕａｌ ｇｒｏｕｎｄｉｎｇをワードのコンテキストとして学習し予測する。「ｅａｔｉｎｇ」と「ｓｔａｒｅｓ ａｔ」はテキストでは関係していないように見えるが、視覚的にセマンティックスを共有している。ビジュアルｗｏｒｄ２ｖｅｃは、常識的主張分類（ｃｏｍｍｏｎ ｓｅｎｓｅ ａｓｓｅｒｔｉｏｎ ｃｌａｓｓｉｆｉｃａｔｉｏｎ）、ビジュアルパラフレージング（ｖｉｓｕａｌ ｐａｒａｐｈｒａｓｉｎｇ）及びテキストベースの画像検索（ｔｅｘｔ ｂａｓｅｄ ｉｍａｇｅ ｒｅｔｒｉｅｖａｌ）において、一貫してｗｏｒｄ２ｖｅｃより改良されている。しかし、ビジュアルｗｏｒｄ２ｖｅｃは、オブジェクトと人々との間の因果関係（例えば、何が少女にアイスクリームを凝視させたか？ある少女が他の少女にどのように影響を受けたか？）をモデル化するものではない。かかる因果関係の学習は、影響パターンを推定できる豊富なボキャブラリーを求めるのに有益であり、それにより能力を強化し、また人間行動を理解するときに独立かつ補足的なエビデンス源（ｓｏｕｒｃｅ ｏｆ ｅｖｉｄｅｎｃｅ）を提供することにより心理学研究に有益であり得る。
ベイズの定理は、科学、スポーツ、法律、哲学など様々な分野における統計的推定に用いられ得るが、イベントに関連するかも知れない条件に基づき、そのイベントの確率を記述する。例えば、ＡとＢがそれぞれ確率Ｐ（Ａ）とＰ（Ｂ）を有する２つのイベントであるとすると、ベイズの定理は、Ａが発生したときのＢの確率が
により与えられることを述べている。
式（１）を少し変形したものは
である。ここで、Ｐ（Ａ）は、結果としてＡが生じる可能性のあるすべての状態Ｂｉにわたる全確率として表せる。
例えば、Ｐ（Ａ）はユーザが悲しい確率を表し、Ｐ（Ｂ）はユーザが怒っている確率を表すとすると、悲しみから怒りがわき起こる確率は：ワードエンベディングから類似性（Ａ，Ｂ）を計算し、入力（例えば、テキスト）に対する感情認識アルゴリズムからＰ（Ｂ）を推定し、Ｐ（Ｂ／Ａ）を計算する。Ｐ（Ｂ／Ａ）は上記の式（２）による条件付き確率の尺度である。推定された一以上の条件付き確率を用いて、ユーザエボリューション（ｕｓｅｒ ｅｖｏｌｕｔｉｏｎ）（例えば、会話中のユーザの考え方のエボリューション）を推定してもよい。
様々な実施形態では、影響する複数のパラメータを組み込んでもよい。例えば、Ｐ（Ａ）が悲しい確率を表し、Ｐ（Ｂ）が怒りの確率を表し、Ｐ（Ｃ）が激怒の確率を表すとすると、悲しく怒っているときに激怒する確率Ｐ（Ｃ／Ａ，Ｂ）は次のように決定し得る：Ｐ（Ｃ／Ａ）とＰ（Ｂ）は上記の通り決定でき、Ｐ（Ｃ／Ａ，Ｂ）は、２つ以上の状態の他の状態に対する因果的影響の尺度であり、次の式
により決定できる。
ベイズの推論理論が使われ、コンピュータビジョンにおいて（例えば、人間の動作検出と行動認識などにおいて）多くの種類の因果的現象が理解され、経済学において減少問題（ｐｒｏｂｌｅｍｓ ｏｆ ａｔｔｒｉｔｉｏｎ）を理解し、減少により損なわれたデータから因果的効果の回復を特徴づけ、脳の機能がある主のベイズフレームワークにマッピングできることが判明している。ベイズの推論理論は認知科学コミュニティでも使われている（例えば、知覚の計算モデルの発見であり、これは脳の生理学に関係する）。しかし、上記の因果的現象では、ある精神状態が他の精神状態にどのようになるか分からない。
ここに説明する様々な実施形態は、一連の考え方（ｍｉｎｄｓｅｔｓ）／感情の定量的モデリングを提供することができ、ある感情（ａｆｆｅｃｔ）が他の感情の原因となる確率を推定することができる。
ここで、本開示の実施形態を、添付した図面を参照して説明する。
図１は、本開示の少なくとも１つの実施形態による、条件付き確率を推定するのに用いることができる例示としてのフロー１００を示す図である。フロー１００は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、フロー１００に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、フロー１００の動作のうち一以上を実行してもよい。
ブロック１０４において、ユーザ入力１０２（例えば、ユーザによりオンラインコーチに提供されたテキスト）に基づき、一以上のユーザ状態が認識され一以上の先行状態（ｓｔａｔｅ ｐｒｉｏｒｓ）１０６が決定されてもよい。単なる一例として、トピックモデリング（ｔｏｐｉｃ ｍｏｄｅｌｉｎｇ）及び／又は関連性加重（ｒｅｌｅｖａｎｃｅ ｗｅｉｇｈｔｉｎｇ）を用いて、そのユーザの一以上の状態を認識してもよい。さらに、一例として、一以上の先行状態（ｓｔａｔｅ ｐｒｉｏｒｓ）は、一以上の感情的状態、例えば、喜び、怒り、不安などを含んでもよく、及び／又は一以上の認知的状態、例えば、楽観的、興味、無関心などを含んでもよい。
ブロック１１４において、一以上のモデルパラメータ１１２に基づいて、トレーニングプロセスが２つのワード（ｗｏｒｄｓ）間の類似性尺度（例えば、２つのワードがどのくらい関連しているか、「２つのワードの関連度（ｒｅｌａｔｅｄｎｅｓｓ）」）を決定するモデルを生成してもよい。例えば、モデルパラメータは、ニューラルネットワーク中のレイヤ数、要求される精度、最小ワード数（例えば、関連すると考えられるため共起しなければならない最小回数）などを含む。
ブロック１１０において、ブロック１１４で受け取ったモデルと、データセットコーパス（ｄａｔａｓｅｔ ｃｏｒｐｕｓ）１０８とに基づいて、二以上のワード間の類似性尺度（例えば、関連度（ｒｅｌａｔｅｄｎｅｓｓ））が決定されてもよい。例えば、データセットコーパス１０８は、ニュース記事、ウェブページ、ブログなどの任意のデータ源を含んでいてもよい。
ブロック１１６において、ブロック１１０で受け取られたデータ（ワード間の類似性尺度）に基づいて、一以上のワードペアの確率の尤度（ｌｉｋｅｌｉｈｏｏｄ ｏｆ ｐｒｏｂａｂｉｌｉｔｙ）が決定されてもよい。例えば、２つの状態（例えば、２つの感情的状態）が共起（ｏｃｃｕｒｒｉｎｇ ｔｏｇｅｔｈｅｒ）する尤度を決定してもよい。より具体的に、一例として、ユーザが悲しいとき、ユーザが怒っている尤度が決定されてもよく、ユーザが激怒している尤度が決定されてもよく、及び／又はユーザがおびえている尤度が決定されてもよい。留意点として、ワード間の類似性を規格化してから、尤度確率（ｌｉｋｅｌｉｈｏｏｄ ｐｒｏｂａｂｉｌｉｔｉｅｓ）をワードエンベディング（ｗｏｒｄ ｅｍｂｅｄｄｉｎｇｓ）から推定してもよい。
ブロック１１８において、先行状態（ｓｔａｔｅ ｐｒｉｏｒｓ）１０６とブロック１１６で生成されたデータとに基づいて、ベイズ推論を用いて条件付き確率（例えば、ユーザエボルーション推定１２０）を推定してもよい。
例えば、ｅｐは計算された先行状態を表し、例えば、Ｐ（ｓａｄ）＝０．１、Ｐ（ｒａｇｅ）＝０．２、Ｐ（ａｎｇｒｙ）＝０．２及びＰ（ｆｅａｒ）＝０．５であり、関連する状態ｅｎは激怒、怒り及び恐れを含む。上記の通り、可能性のある様々な場合に対して、（ワード間の類似性を規格化した後のワードエンベディングから推定される）尤度確率Ｐ（ｅｐ／ｅｎ）が決定できる。さらに、上記のシナリオ中の式（２）を用いて、次の式
が得られる。
さらに、確率値を代入し、式（４）を用いて、例えば、ユーザが怒っているという条件の下でそのユーザが悲しんでいる確率Ｐ（ｓａｄ／ａｎｇｒｙ）＝０．０７／０．７４～９％と決定できる。推定された条件付き確率を用いて、ユーザエボリューション（ｕｓｅｒ ｅｖｏｌｕｔｉｏｎ）（例えば、会話中のユーザの考え方のエボリューション）を推定してもよい。
本開示の範囲から逸脱することなく、フロー１００に修正、追加、または削除をすることができる。例えば、フロー１００の動作（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。要するに、フロー１００は条件付き確率を推定する一例に過ぎず、本開示はその一例に限定されない。
図２は、本開示の少なくとも１つの実施形態による、感情認識に用いることができる例示としてのフロー１４０を示す図である。一実施形態では、図１のフロー１００に示したブロック１０４はフロー１４０を含んでいてもよい。フロー１４０は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、フロー１４０に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、フロー１４０の動作のうち一以上を実行してもよい。
ブロック１４２において、入力が受け取られ、フロー１４０はブロック１４４に進むことができる。例えば、入力はユーザにより入力されたテキストを含んでいてもよい。
ブロック１４４において、ユーザ入力が処理され、フロー１４０はブロック１４６に進んでもよい。例えば、ユーザ入力は、例えば、スペルを訂正したり、「ストップワード」を除去したりするため、語彙処理（Ｌｅｘｉｃａｌ ｐｒｏｃｅｓｓｉｎｇ）により処理されてもよい。
ブロック１４６において、受け取ったテキスト（例えば、ブロック１４４で生成されたクリーンテキスト）に対して、モデルパラメータ１５２に基づいて、トピックモデリングが実行されてもよい。これはｅｍｏｔｉｏｎ ｓｙｎｓｅｔデータベース１５０に基づいてもよい。トピックモデリングにより、各トピックに対して一以上のトップワード（ｔｏｐ ｗｏｒｄｓ）を特定してもよい。例えば、トピックモデリングは潜在的ディリクレアロケーション（ｌａｔｅｎｔ Ｄｉｒｉｃｈｌｅｔ ａｌｌｏｃａｔｉｏｎ、ＬＤＡ）モデルに基づいても良い。さらに、例えば、モデルパラメータ１５２はボキャブラリー、文書、反復回数、トピック数、トピック特性のハイパーパラメータなどに関連していてもよい。
ブロック１４８において、ブロック１４６で受け取ったトップワードに基づいて、感情との関連性に基づいてトップワードに加重し、フロー１４０はブロック１５４に進み得る。ブロック１５４において、ユーザ入力（例えば、テキスト）の感情加重ベクトルに基づき、ユーザの一以上の感情が認識され得る。
本開示の範囲から逸脱することなく、フロー１４０に修正、追加、または削除をすることができる。例えば、フロー１４０のステップ（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。要するに、フロー１４０は感情を認識する一例に過ぎず、本開示はその一例に限定されない。
図３は、本開示の少なくとも１つの実施形態による、関連性加重（ｒｅｌｅｖａｎｃｅ ｗｅｉｇｈｔｉｎｇ）に用いることができる例示としてのフロー１６０を示す図である。一実施形態では、図２のフロー１４０に示したブロック１４８はフロー１６０を含んでいてもよい。フロー１６０は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、フロー１６０に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、フロー１６０の動作のうち一以上を実行してもよい。
ブロック１６２において、一以上のトピックのトップワードが特定され、フロー１６０はブロック１６４に進み得る。例えば、テキスト入力から特定された各トピックのトップワード（ｔｏｐ ｗｏｒｄｓ）はＬＤＡモジュールにより特定されてもよい。
ブロック１６４において、トップワードのランキングがスケール（ｓｃａｌｅｄ）されてもよく、フロー１６０はブロック１６５に進んでも良い。例えば、トップワードは、各トピックのワードランクの逆スケーリング（ｉｎｖｅｒｓｅ ｓｃａｌｉｎｇ）によりスケールされてもよい。一例では、トピックのトップワードは、第２のトップワードより高いランクを受けても良い。より具体的に、例えば、トピックのトップワードは加重１を割り当てられても良く、トピックの上から２つめのワード（ｓｅｃｏｎｄ ｔｏｐ ｗｏｒｄ）は加重０．５を割り当てられても良い。
ブロック１６５において、要素ごとの行列乗算を各トピックで実行し、各トピック１６６のトップワードの数（ａ ｎｕｍｂｅｒ ｏｆ ｔｏｐ ｗｏｒｄｓ）を特定してもよく、フロー１６０はブロック１６８に進んでもよい。 ブロック１６８において、感情加重（ｅｍｏｔｉｏｎ ｗｅｉｇｈｔｉｎｇ）を各トピックに対して実行し、合成感情加重ベクトル（ｃｏｍｂｉｎｅｄ ｅｍｏｔｉｏｎ ｗｅｉｇｈｔ ｖｅｃｔｏｒ）１７０を生成してもよい。
本開示の範囲から逸脱することなく、フロー１６０に修正、追加、または削除をすることができる。例えば、フロー１６０の動作（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。要するに、フロー１６０は関連性を加重する一例に過ぎず、本開示はその一例に限定されない。
図４は、本開示の少なくとも１つの実施形態による、ワード間の類似性を決定するのに用いることができる例示としてのフロー２００を示す図である。一実施形態では、フロー２００は図１のフロー１００に示したブロック１０８、１１０、１１２、１１４及び１１６を含んでいてもよい。フロー２００は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、フロー２００に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、フロー２００の動作のうち一以上を実行してもよい。
ブロック２０４において、データコーパス２０２に基づいて、トレーニングプロセスは２つのワード間の類似性を決定するモデル２０６を生成してもよい。例えば、トレーニングプロセスはワード数（例えば、１千億語）に基づいてもよい。さらに、例えば、データセットコーパス２０２は、ニュース記事、ウェブページ、ブログなどの任意のデータ源を含んでいてもよい。
ブロック２０８において、ブロック２０６で受け取られたデータ（ワード間の類似性尺度）に基づいて、ワードペアの確率の尤度（ｌｉｋｅｌｉｈｏｏｄ ｏｆ ｐｒｏｂａｂｉｌｉｔｙ）が決定されてもよい。例えば、２つの状態（例えば、２つの感情的状態）が共起（ｏｃｃｕｒｒｉｎｇ ｔｏｇｅｔｈｅｒ）する尤度を決定してもよい。より具体的に、一例として、ユーザが悲しいとき、ユーザが怒っている尤度が決定されてもよく、ユーザが激怒している尤度が決定されてもよく、及び／又はユーザがおびえている尤度が決定されてもよい。
本開示の範囲から逸脱することなく、フロー２００に修正、追加、または削除をすることができる。例えば、フロー２００の動作（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。要するに、フロー２００はワード間の類似性を決定する一例に過ぎず、本開示はその一例に限定されない。
図５は、本開示の少なくとも１つの実施形態による、確率の尤度（ｌｉｋｅｌｉｈｏｏｄ ｏｆ ｐｒｏｂａｂｉｌｉｔｙ）を決定するのに用いることができる例示としてのフロー３００を示す図である。一実施形態では、図１のフロー１００に示したブロック１１０及び１１６はフロー３００を含んでいてもよい。フロー３００は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、フロー３００に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、フロー３００の動作のうち一以上を実行してもよい。
ブロック３０２において、ニューラルワードエンベディングモデル（ｎｅｕｒａｌ ｗｏｒｄ ｅｍｂｅｄｄｉｎｇ ｍｏｄｅｌ）により、可能性のあるワードペア（例えば、状態ペア）間の類似性（例えば、関連度（ｒｅｌａｔｅｄｎｅｓｓ））が決定され得る。例えば、図６は仮説例を示すが、図６を参照して、現在の状態が「悲しみ（ｓａｄ）」であり、可能性のある遷移状態が「怒り（ａｎｇｒｙ）」、「激怒（ｒａｇｅ）」、「恐れ（ｆｅａｒ）」及び「悲しみ」である。図示したように、この例では、「悲しみ」と「怒り」との間の類似性尺度（ｓｉｍｉｌａｒｉｔｙ ｍｅａｓｕｒｅｍｅｎｔ）は０．７であり、「悲しみ」と「激怒」との間の類似性尺度は０．５であり、「悲しみ」と「恐れ」との間の類似性尺度は０．８であり、「悲しみ」と「悲しみ」との間の類似性尺度は１である。
再び図５を参照して、ブロック３０６において、可能性のあるワードペアの間の類似性（例えば、関連度）は規格化され、ワードペアの確率の尤度（ｌｉｋｅｌｉｈｏｏｄ ｏｆ ｐｒｏｂａｂｉｌｉｔｙ）３０８を決定してもよい。再び図６を参照して、この例では、規格化後、「悲しみ（ｓａｄ）」が「怒り（ａｎｇｒｙ）」に遷移する確率の尤度（Ｐ（ａｎｇｅｒ／ｓａｄ））は０．２３であり、「悲しみ（ｓａｄ）」が「激怒（ｒａｇｅ）」に遷移する確率の尤度（Ｐ（ｒａｇｅ／ｓａｄ））は０．１６６であり、「悲しみ（ｓａｄ）」が「恐れ（ｆｅａｒ）」に遷移する確率の尤度（Ｐ（ｆｅａｒ／ｓａｄ））は０．２６６であり、「悲しみ（ｓａｄ）」が「悲しみ」に遷移する確率の尤度（Ｐ（ｓａｄ／ｓａｄ））は０．３３３である。
本開示の範囲から逸脱することなく、フロー３００に修正、追加、または削除をすることができる。例えば、フロー３００の動作（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。要するに、フロー３００は確率の尤度（ｌｉｋｅｌｉｈｏｏｄ ｏｆ ｐｒｏｂａｂｉｌｉｔｙ）を決定する一例に過ぎず、本開示はその一例に限定されない。
図７は、本開示の少なくとも１つの実施形態による、条件付き状態確率（ｃｏｎｄｉｔｉｏｎａｌ ｓｔａｔｅ ｐｒｏｂａｂｉｌｉｔｉｅｓ）を推定するのに用いることができる例示としてのフロー４００を示す図である。フロー４００は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、フロー４００に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、フロー４００の動作のうち一以上を実行してもよい。
ブロック４０６において、先行状態４０２（例えば、テキストに対する感情認識から計算した望み、怒り、渇望など）と、２つの状態間の類似性４０４（例えば、２つの状態がどのくらい関連しているか）（例えば、ニューラルワードエンベディングモジュールにより決定される類似性（望み、欲望）など）とに基づくベイズ推論を用いて、条件付き状態確率４０８（例えば、一般的に、ある状態（例えば、望み）が他の状態（例えば、欲望）にどれだけ影響するか）を決定してもよい。推定された条件付き確率を用いて、ユーザエボリューション（ｕｓｅｒ ｅｖｏｌｕｔｉｏｎ）（例えば、会話中のユーザの考え方のエボリューション）を推定してもよい。
本開示の範囲から逸脱することなく、フロー４００に修正、追加、または削除をすることができる。例えば、フロー４００の動作（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。要するに、フロー４００は条件付き確率の一例に過ぎず、本開示はその一例に限定されない。
図８は、本開示の少なくとも１つの実施形態による、条件付き確率を推定する例示的方法５００を示すフローチャートである。方法５００は、好適なシステム、装置またはデバイスにより実行されてもよい。例えば、図１０のデバイス８００またはその一以上のコンポーネントが、方法５００に関連する動作の一以上を実行してもよい。これらの実施形態またはその他の実施形態では、コンピュータ可読媒体上に格納されたプログラム命令が実行され、方法５００の動作のうち一以上を実行してもよい。
ブロック５０２において、ユーザにより提供される入力が受け取られ、方法５００はブロック５０４に進む。例えば、オンラインコーチングプログラムのユーザにより提供された入力（例えば、テキスト）が受け取られ得る。より具体的には、例えば、図９は仮説例を示すが、図９を参照して、ユーザにより提供された入力６０２が受け取られる。
再び図８を参照して、ブロック５０４において、ユーザの先行状態が決定され、方法５００はブロック５０６に進み得る。例えば、再び図９を参照して、先行状態６０４は、ユーザが約１３％悲しく、約４５％心配し（ｗｏｒｒｉｅｄ）、約４１％不安（ｔｒｏｕｂｌｅｄ）であることを示し得る。
図６を参照して、ブロック５０６において、ニューラルワードエンベディングモデルがトレーニングされ、状態ペア間の類似性を決定してもよく、方法５００はブロック５０８に進み得る。例えば、再び図９を参照して、参照数字６０６で示したように、「心配」と「不安」との間の類似性は０．２６３１であり、「心配」と「悲しみ」との間の類似性は０．３３２４であり、「心配」と「心配」との間の類似性は１であり、「不安」と「悲しみ」との間の類似性は０．２３９６である。
再び図８を参照して、ブロック５０８において、状態ペアの確率の尤度（ｌｉｋｅｌｉｈｏｏｄ ｏｆ ｐｒｏｂａｂｉｌｉｔｙ）が計算され、方法５００はブロック５１０に進み得る。例えば、再び図９を参照して、参照数字６０８により示すように、「悲しい（ｓａｄ）」が「心配な（ｗｏｒｒｉｅｄ）」に遷移する確率の尤度（Ｐ（ｗｏｒｒｉｅｄ／ｓａｄ））は０．２１１であり、「心配な（ｗｏｒｒｉｅｄ）」が「心配な（ｗｏｒｒｉｅｄ）」に遷移する確率の尤度（Ｐ（ｗｏｒｒｉｅｄ／ｗｏｒｒｉｅｄ））は０．６３６であり、「不安な（ｔｒｏｕｂｌｅｄ）」が「心配な（ｗｏｒｒｉｅｄ）」に遷移する確率の尤度（Ｐ（ｗｏｒｒｉｅｄ／ｔｒｏｕｂｌｅｄ））は０．１５２４である。
再び図８を参照して、ブロック５１０において、ベイズ推論を用いて、推定される条件付き確率を決定する。例えば、再び図９を参照して、様々な状態に対する推定された条件付き確率（ある感情（ａｆｆｅｃｔ）が他の感情を引き起こす確率）が示されている。推定された条件付き確率を用いて、ユーザエボリューション（ｕｓｅｒ ｅｖｏｌｕｔｉｏｎ）（例えば、会話中のユーザの考え方のエボリューション）を推定してもよい。
本開示の範囲から逸脱することなく、方法５００に修正、追加、または削除をすることができる。例えば、方法５００の動作（ｏｐｅｒａｔｉｏｎｓ）は異なる順序で実装してもよい。さらに、概要を述べた動作とアクションは、単なる例であり、開示された実施形態の本質を損なうことなく、その動作とアクションのうち幾つかは、任意的であり、結合されてより少ない動作とアクションにされてもよく、拡張されてより多くの動作とアクションにされてもよい。
推定された一以上の条件付き確率を用いて、ユーザエボリューション（ｕｓｅｒ ｅｖｏｌｕｔｉｏｎ）（例えば、会話中のユーザの考え方のエボリューション）を推定してもよい。より具体的には、推定された一以上の条件付き確率を用いて、ある感情的状態（例えば、悲しい）が他の感情的状態（例えば、怒り）を引き起こす確率を推定してもよい。推定ユーザエボリューションは、コーチがユーザの考え方（ｍｉｎｄｓｅｔ）に関するより情報を得た上での意思決定をする役に立ち得る。さらに、ユーザエボリューションの推定は、自分のユーザへのアドバイスが有効であるかコーチが自分で評価する役に立ち得る。
本開示の様々な実施形態の可能性のある１つの応用は、ユーザのインターラクション（ｉｎｔｅｒａｃｔｉｏｎｓ）／アクション（ａｃｔｉｏｎｓ）を理解してより有効な個別のアドバイスをすることを含む。可能性のある他の応用は、会話エージェントを含み、ユーザのアクション／精神状態に応じて「ｂｏｔ」により次の質問のフレーミングのカスタマイズをより良くできる。この例では、音声、テキスト、ビデオ、画像などのマルチモーダル入力を使うこともできる。また、監視／セキュリティ関連の応用など例外検出（ａｎｏｍａｌｙ ｄｅｔｅｃｔｉｏｎ）において、様々な実施形態では、低確率のイベントを検出し、警告を発信してもよい。
図１０は、本開示の少なくとも一実施形態による、計算デバイス８００を示すブロック図である。計算デバイス８００は、デスクトップコンピュータ、ラップトップコンピュータ、サーバコンピュータ、タブレットコンピュータ、携帯電話、スマートフォン、パーソナルデジタルアシスタント（ＰＤＡ）、電子書籍端末、ネットワークスイッチ、ネットワークルータ、ネットワークハブ、その他のネットワークデバイス、その他の好適な計算デバイスを含み得る。
計算デバイス８００はプロセッサ８１０、ストレージデバイス８２０、メモリ８３０、通信デバイス８４０を含み得る。プロセッサ８１０、ストレージデバイス８２０、メモリ８３０及び／又は通信デバイス８４０はすべて、通信可能に結合し、各コンポーネントが他のコンポーネントと通信するようになっていてもよい。計算デバイス８００は、本開示において説明したどの動作を実行してもよい。
一般的に、プロセッサ８１０は、任意の好適な特定目的又は汎用コンピュータ、計算エンティティ、又は様々なコンピュータハードウェア又はソフトウェアモジュールを含む処理デバイスを含んでも良く、任意の適用し得るコンピュータ可読ストレージメディアに格納された命令を実行するように構成されていてもよい。例えば、プロセッサ８１０は、マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ（ＤＳＰ）、特定用途集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、又はプログラム命令を解釈及び／又は実行する、及び／又はデータを処理するように構成されたその他のデジタル又はアナログ回路を含んでもよい。図８には１つのプロセッサとして例示したが、プロセッサ８１０が含むプロセッサの数は幾つでもよく、個別に又は集合的に実行するように構成された本開示で説明した動作の数はいくつでもよい。
幾つかの実施形態では、プロセッサ８１０は、ストレージデバイス８２０、メモリ８３０、又はストレージデバイス８２０及びメモリ８３０に格納されたプログラム命令及び／又はプロセスデータを解釈及び／又は実行できる。幾つかの実施形態では、プロセッサ８１０は、ストレージデバイス８２０からプログラム命令をフェッチし、そのプログラム命令をメモリ８３０にロードしてもよい。プログラム命令がメモリ８３０にロードされた後、プロセッサ８１０は、そのプログラム命令を実行してもよい。
例えば、幾つかの実施形態では、条件付き確率を推定する一以上の処理動作は、データストレージ８２０中にプログラム命令として含まれていても良い。プロセッサ８１０は、一以上の処理動作のプログラム命令をフェッチしてもよく、その処理動作のプログラム命令をメモリ８３０にロードしてもよい。処理動作のプログラム命令がメモリ８３０にロードされた後、プロセッサ８１０はそのプログラム命令を実行して、プログラム命令により指示されるように計算デバイス８００がその処理動作に関連する動作を実装するようにしてもよい。
ストレージデバイス８２０とメモリ８３０は、コンピュータ実行可能命令又はデータ構造を担う又は有するコンピュータ可読記憶媒体を含んでもよい。かかるコンピュータ可読記憶媒体は、プロセッサ８１０などの汎用又は特殊用途コンピュータによりアクセスできる、利用可能などんな媒体も含み得る。限定ではなく一例として、かかるコンピュータ可読媒体は、非一時的コンピュータ可読記憶媒体を含み、これはランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、電気的消去可能プログラマブルリードオンリーメモリ（ＥＥＰＲＯＭ）、コンパクトディスクリードオンリーメモリ（ＣＤ－ＲＯＭ）、又はその他の光ディスクストレージ、磁気ディスクストレージ、その他の磁気ストレージデバイス、フラッシュメモリデバイス（例えば、ソリッドステートメモリデバイス）、又はその他の任意のストレージ媒体であって所望のプログラムコードを、汎用又は特殊用途コンピュータによりアクセスしてもよいコンピュータ実行可能命令又はデータ構造の形式で担う又は格納するのに用いられるものを含む。上記のものの任意の組合せを、コンピュータ可読ストレージ媒体の範囲内に含んでもよい。コンピュータ実行可能命令は、例えば、プロセッサ８１０に、ある動作又は動作のグループを実行させるように構成された命令及びデータを含んでも良い。
幾つかの実施形態では、ストレージデバイス８２０及び／又はメモリ８３０は、条件付き確率の推定に関連するデータを格納してもよい。例えば、ストレージデバイス８２０及び／又はメモリ８３０は、先行状態（ｓｔａｔｅ ｐｒｉｏｒｓ）、ニューラルワードエンベディングモデル、尤度確率（ｌｉｋｅｌｉｈｏｏｄ ｐｒｏｂａｂｉｌｉｔｉｅｓ）に関するデータ、ワードペアの類似性に関するデータを格納してもよい。
通信デバイス８４０は、任意のデバイス、システム、コンポーネント、又は計算デバイス８００と他の電子デバイスとの間の通信を可能にする又は容易にするように構成されたコンポーネントの集まりを含んでもよい。例えば、通信デバイス８４０は、モデム、（有線又は無線の）ネットワークカード、赤外線通信デバイス、光通信デバイス、（アンテナなどの）無線通信デバイス、及び／又は（例えば、ブルートゥース(登録商標)デバイス、８０２．６デバイス（例えば、メトロポリタンエリアネットワーク（ＭＡＮ）などの）チップセット、ＷｉＦｉデバイス、ＷｉＭａｘデバイス、セルラー通信施設などを含む。通信デバイス８４０により、例を挙げると、セルラーネットワーク、ＷｉＦｉネットワーク、ＭＡＮ、光ネットワークなどの任意のネットワーク、及び／又はリモートデバイスを含む本開示で説明するその他の任意のデバイスでデータを交換できる。
本開示の範囲から逸脱することなく、図８に修正、追加、または削除をすることができる。例えば、計算デバイス８００が含む要素は、本開示で例示及び説明した要素より多くても少なくてもよい。例えば、計算デバイス８００は、タブレットまたは携帯電話のスクリーンのような統合ディスプレイデバイスを含むことができ、または外部モニタ、プロジェクタ、テレビジョン、または計算デバイス８００とは別個であるが通信可能に結合された他の適切なディスプレイデバイスを含む。
本開示において、「モジュール」又は「コンポーネント」との用語は、計算システムの汎用ハードウェア（例えば、コンピュータ可読媒体、プロセッサデバイスなど）により格納及び／又は実行され得るモジュール又はコンポーネント、及び／又はソフトウェアオブジェクト又はソフトウェアルーチンを実行するように構成されたハードウェア実施形態を指してもよい。幾つかの実施形態では、本開示に説明する異なるコンポーネント、モジュール、エンジン、及びサービスは、（例えば、別のスレッドとして）計算システム上で実行されるオブジェクト又はプロセスとして実施してもよい。本開示に説明のシステムと方法の幾つかは、概して（汎用ハードウェアにより格納及び／又は実行される）ソフトウェアで実装されると説明したが、ハードウェアの実施形態、又はソフトウェアとハードウェアの実施形態の組み合わせも可能であり、想定されている。本開示において、「計算エンティティ（ｃｏｍｐｕｔｉｎｇ ｅｎｔｉｔｙ）」とは、本開示において定義したどの計算システムであってもよく、計算システム上で実行されているどのモジュール又はモジュールの組み合わせであってもよい。
本開示に用い、特に添付した特許請求の範囲で用いる用語は、一般的に「オープン」タームであることが意図されている（例えば、用語「含む」は「含むが限定されない」と解釈すべきであり、用語「有する」は「少なくとも～を有する」と解釈すべきであり、用語「含む」は「含むが限定されない」と解釈すべきである。
また、請求項において数を特定しようと意図する場合は、請求項中に明示的に記載し、そうでなければ、そのような意図はない。例えば、理解の助けとして、下記に添付した特許請求の範囲は、その記載に「少なくとも１つの」や「一以上の」との導入句を含んでいることがある。しかし、かかるフレーズの使用は、不定冠詞「ａ」または「ａｎ」を付けることが、たとえ同じ請求項が「一以上の」又は「少なくとも１つの」という導入句と「ａ」や「ａｎ」などの不定冠詞を含んでいたとしても、かかる請求項記載を含む請求項を、かかる記載を１つだけ含む実施形態に限定することを示唆していると解してはならない。（例えば、「ａ」及び／又は「ａｎ」は「少なくとも１つの」又は「一以上の」を意味するものと解釈すべきである）；請求項記載を導入する定冠詞の使用についても同様である。
また、導入された請求項記載について特定の数が明示的に記載されていたとしても、当業者には言うまでもなく、かかる記載は少なくとも記載された数という意味と解釈すべきである（例えば、他の修飾語を付けずに「２つの」と言った場合、これは少なくとも２つ、すなわち２以上を意味する）。さらに、「Ａ、Ｂ、及びＣなどのうち少なくとも１つ」又は「Ａ、Ｂ、及びＣなどのうち一以上」などの表現を用いる場合、一般的に、かかる表現は、Ａのみ、Ｂのみ、Ｃのみ、ＡとＢ、ＡとＣ、ＢとＣ、又はＡとＢとＣなどを含むことを意図している。
さらに、２以上の代替的用語を提示する宣言的ワード又は句は、明細書、特許請求の範囲、又は図面にかかわらず、その用語のうち一つ、その用語のどちらか、又は両方の用語を含む可能性を想定していると理解すべきである。例えば、「ＡまたはＢ」は、「Ａ」、または「Ｂ」、又は「Ａ及びＢ」の可能性を含むと理解すべきである。
本開示に記載したすべての例と条件付きの言葉は、発明者が技術発展に対してなした本発明とコンセプトとを、読者が理解しやすいようにするためのものであり、その解釈は具体的に記載した実施例や条件に限定されるべきではない。本開示の実施形態を詳細に説明したが、言うまでもなく、本開示の精神と範囲から逸脱することなく、これらの実施形態に変更、置換、代替を施すことができる。
実施形態に関し付記する。
（付記１） 一以上の条件付き確率を推定する方法であって、
ユーザ入力に基づき一以上の状態を決定するステップと、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップと、
前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップと、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップとを含む、
方法。
（付記２） 一以上の状態を決定するステップは、
ユーザ入力に基づいて、ユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識するステップを含む、
付記１に記載の方法。
（付記３） 一以上の状態を決定するステップは、
ユーザが提供するテキストを含む前記ユーザ入力に基づいて一条の状態を決定するステップを含む、
付記１に記載の方法。
（付記４） 条件付き確率を決定するステップは、
ベイズ推論により条件付き確率を決定するステップを含む、
付記１に記載の方法。
（付記５） 一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップは、
ニューラルワードエンベディングモデルにより類似性尺度を決定するステップを含む、
付記１に記載の方法。
（付記６） ニューラルワードエンベディングモデルにより類似性尺度を決定するステップは、
一以上のモデルパラメータに基づいてニューラルワードエンベディングモデルをトレーニングするステップを含む、
付記５に記載の方法。
（付記７） 一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップは、
前記一以上の状態ペアの可能性のあるすべての状態ペアにわたり各状態ペアを規格化するステップを含む、
付記１に記載の方法。
（付記８） 決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するステップをさらに含む、
付記１に記載の方法。
（付記９） プロセッサに、
ユーザ入力に基づき一以上の状態を決定するステップと、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップと、
前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップと、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップと
を実行させるコンピュータプログラム。
（付記１０） 一以上の状態を決定するステップは、
ユーザ入力に基づいて、ユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１１） 条件付き確率を決定するステップは、
ベイズ推論により条件付き確率を決定するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１２） 一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップは、
ニューラルワードエンベディングモデルにより類似性尺度を決定するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１３） ニューラルワードエンベディングモデルにより類似性尺度を決定するステップは、
一以上のモデルパラメータに基づいてニューラルワードエンベディングモデルをトレーニングするステップを含む、
付記１２に記載のコンピュータプログラム。
（付記１４） 前記プロセッサに、
決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するステップをさらに実行させる、
付記９に記載のコンピュータプログラム。
（付記１５） 一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップは、
前記一以上の状態ペアの可能性のあるすべての状態ペアにわたり各状態ペアを規格化するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１６） システムであって、
一以上のプロセッサを有し、前記一以上のプロセッサは、
ユーザ入力に基づき一以上の状態を決定し、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定し、
前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定し、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するように構成される、
システム。
（付記１７） 前記一以上のプロセッサはさらに、決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するように構成される、
付記１６に記載のシステム。
（付記１８） 前記一以上のプロセッサはさらに、ユーザ入力に基づいてユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識し、前記一以上の状態を決定するように構成される、
付記１６に記載のシステム。
（付記１９） 前記一以上のプロセッサはさらに、ベイズ推論により条件付き確率を決定するように構成される、
付記１６に記載のシステム。
（付記２０） 前記一以上のプロセッサはさらに、ニューラルワードエンベディングにより類似性尺度を決定するように構成される、
付記１６に記載のシステム。
（付記１） 一以上の条件付き確率を推定する方法であって、
ユーザ入力に基づき一以上の状態を決定するステップと、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップと、
前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップと、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップとを含む、
方法。
（付記２） 一以上の状態を決定するステップは、
ユーザ入力に基づいて、ユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識するステップを含む、
付記１に記載の方法。
（付記３） 一以上の状態を決定するステップは、
ユーザが提供するテキストを含む前記ユーザ入力に基づいて一条の状態を決定するステップを含む、
付記１に記載の方法。
（付記４） 条件付き確率を決定するステップは、
ベイズ推論により条件付き確率を決定するステップを含む、
付記１に記載の方法。
（付記５） 一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップは、
ニューラルワードエンベディングモデルにより類似性尺度を決定するステップを含む、
付記１に記載の方法。
（付記６） ニューラルワードエンベディングモデルにより類似性尺度を決定するステップは、
一以上のモデルパラメータに基づいてニューラルワードエンベディングモデルをトレーニングするステップを含む、
付記５に記載の方法。
（付記７） 一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップは、
前記一以上の状態ペアの可能性のあるすべての状態ペアにわたり各状態ペアを規格化するステップを含む、
付記１に記載の方法。
（付記８） 決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するステップをさらに含む、
付記１に記載の方法。
（付記９） プロセッサに、
ユーザ入力に基づき一以上の状態を決定するステップと、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップと、
前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップと、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップと
を実行させるコンピュータプログラム。
（付記１０） 一以上の状態を決定するステップは、
ユーザ入力に基づいて、ユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１１） 条件付き確率を決定するステップは、
ベイズ推論により条件付き確率を決定するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１２） 一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップは、
ニューラルワードエンベディングモデルにより類似性尺度を決定するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１３） ニューラルワードエンベディングモデルにより類似性尺度を決定するステップは、
一以上のモデルパラメータに基づいてニューラルワードエンベディングモデルをトレーニングするステップを含む、
付記１２に記載のコンピュータプログラム。
（付記１４） 前記プロセッサに、
決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するステップをさらに実行させる、
付記９に記載のコンピュータプログラム。
（付記１５） 一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップは、
前記一以上の状態ペアの可能性のあるすべての状態ペアにわたり各状態ペアを規格化するステップを含む、
付記９に記載のコンピュータプログラム。
（付記１６） システムであって、
一以上のプロセッサを有し、前記一以上のプロセッサは、
ユーザ入力に基づき一以上の状態を決定し、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定し、
前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定し、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するように構成される、
システム。
（付記１７） 前記一以上のプロセッサはさらに、決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するように構成される、
付記１６に記載のシステム。
（付記１８） 前記一以上のプロセッサはさらに、ユーザ入力に基づいてユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識し、前記一以上の状態を決定するように構成される、
付記１６に記載のシステム。
（付記１９） 前記一以上のプロセッサはさらに、ベイズ推論により条件付き確率を決定するように構成される、
付記１６に記載のシステム。
（付記２０） 前記一以上のプロセッサはさらに、ニューラルワードエンベディングにより類似性尺度を決定するように構成される、
付記１６に記載のシステム。
８１０ プロセッサ
８２０ ストレージデバイス
８３０ メモリ
８４０ 通信デバイス
８２０ ストレージデバイス
８３０ メモリ
８４０ 通信デバイス
Claims (9)
- 一以上のプロセッサを有するシステムが、一以上の条件付き確率を推定する方法であって、
前記一以上のプロセッサが、ユーザ入力に基づき一以上の状態を決定するステップと、
前記一以上のプロセッサが、一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップと、
前記一以上のプロセッサが、決定された少なくとも１つの状態ペアの間の類似性尺度に基づき、前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップと、
前記一以上のプロセッサが、決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップとを含む、
方法。 - 一以上の状態を決定するステップは、
ユーザ入力に基づいて、ユーザの一以上の感情的状態と一以上の認知的状態とのうち少なくとも１つを認識するステップを含む、
請求項１に記載の方法。 - 一以上の状態を決定するステップは、
ユーザが提供するテキストを含む前記ユーザ入力に基づいて一以上の状態を決定するステップを含む、
請求項１に記載の方法。 - 条件付き確率を決定するステップは、
ベイズ推論により条件付き確率を決定するステップを含む、
請求項１に記載の方法。 - 一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップは、
ニューラルワードエンベディングモデルにより類似性尺度を決定するステップを含む、
請求項１に記載の方法。 - 一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップは、
前記一以上の状態ペアの可能性のあるすべての状態ペアにわたり各状態ペアを規格化するステップを含む、
請求項１に記載の方法。 - 前記一以上のプロセッサが、決定された前記少なくとも１つの状態ペアの条件付き確率に基づいて、前記少なくとも１つの状態ペアのある状態から、前記少なくとも１つの状態ペアの他の状態に、ユーザが遷移する状態の確率を推定するステップをさらに含む、
請求項１に記載の方法。 - プロセッサに、
ユーザ入力に基づき一以上の状態を決定するステップと、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定するステップと、
決定された少なくとも１つの状態ペアの間の類似性尺度に基づき、前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定するステップと、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するステップと
を実行させるコンピュータプログラム。 - システムであって、
一以上のプロセッサを有し、前記一以上のプロセッサは、
ユーザ入力に基づき一以上の状態を決定し、
一以上の状態ペアのうち少なくとも１つの状態ペアの間の類似性尺度を決定し、
決定された少なくとも１つの状態ペアの間の類似性尺度に基づき、前記一以上の状態ペアのうち少なくとも１つの状態ペアの確率の尤度を決定し、
決定された確率の尤度と、決定された一以上の状態とに基づいて、前記一以上の状態ペアのうち少なくとも１つの状態ペアの条件付き確率を推定するように構成される、
システム。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US15/260,226 | 2016-09-08 | ||
| US15/260,226 US11222278B2 (en) | 2016-09-08 | 2016-09-08 | Estimating conditional probabilities |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018041444A JP2018041444A (ja) | 2018-03-15 |
| JP7009810B2 true JP7009810B2 (ja) | 2022-01-26 |
Family
ID=58489181
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017143487A Active JP7009810B2 (ja) | 2016-09-08 | 2017-07-25 | 条件付き確率の推定 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11222278B2 (ja) |
| EP (1) | EP3293689A1 (ja) |
| JP (1) | JP7009810B2 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10740365B2 (en) * | 2017-06-14 | 2020-08-11 | International Business Machines Corporation | Gap identification in corpora |
| US10423665B2 (en) | 2017-08-02 | 2019-09-24 | Oath Inc. | Method and system for generating a conversational agent by automatic paraphrase generation based on machine translation |
| JP6965846B2 (ja) * | 2018-08-17 | 2021-11-10 | 日本電信電話株式会社 | 言語モデルスコア算出装置、学習装置、言語モデルスコア算出方法、学習方法及びプログラム |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012185727A (ja) | 2011-03-07 | 2012-09-27 | Nippon Telegr & Teleph Corp <Ntt> | 対話状態推定装置、方法、及びプログラム |
| JP2012215668A (ja) | 2011-03-31 | 2012-11-08 | Fujitsu Ltd | 話者状態検出装置、話者状態検出方法及び話者状態検出用コンピュータプログラム |
| JP2016110284A (ja) | 2014-12-03 | 2016-06-20 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び、プログラム |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CA2490475A1 (en) | 2002-06-25 | 2003-12-31 | Abs Software Partners Llc | System and method for online monitoring of and interaction with chat and instant messaging participants |
| WO2006119437A2 (en) | 2005-05-03 | 2006-11-09 | Cyberalliances, Inc. | Method and system for managing project work using bayesian inference |
| US20080096533A1 (en) | 2006-10-24 | 2008-04-24 | Kallideas Spa | Virtual Assistant With Real-Time Emotions |
| US8892488B2 (en) | 2011-06-01 | 2014-11-18 | Nec Laboratories America, Inc. | Document classification with weighted supervised n-gram embedding |
| US20150242745A1 (en) | 2014-02-21 | 2015-08-27 | Qualcomm Incorporated | Event-based inference and learning for stochastic spiking bayesian networks |
| DE112017002604T5 (de) * | 2016-06-21 | 2019-02-21 | Sri International | Systeme und Verfahren für das maschinelle Lernen unter Verwendung eines vertrauenswürdigen Modells |
-
2016
- 2016-09-08 US US15/260,226 patent/US11222278B2/en active Active
-
2017
- 2017-03-31 EP EP17164378.6A patent/EP3293689A1/en not_active Withdrawn
- 2017-07-25 JP JP2017143487A patent/JP7009810B2/ja active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012185727A (ja) | 2011-03-07 | 2012-09-27 | Nippon Telegr & Teleph Corp <Ntt> | 対話状態推定装置、方法、及びプログラム |
| JP2012215668A (ja) | 2011-03-31 | 2012-11-08 | Fujitsu Ltd | 話者状態検出装置、話者状態検出方法及び話者状態検出用コンピュータプログラム |
| JP2016110284A (ja) | 2014-12-03 | 2016-06-20 | 日本電気株式会社 | 情報処理システム、情報処理方法、及び、プログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| US11222278B2 (en) | 2022-01-11 |
| EP3293689A1 (en) | 2018-03-14 |
| US20180068229A1 (en) | 2018-03-08 |
| JP2018041444A (ja) | 2018-03-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Kour et al. | An hybrid deep learning approach for depression prediction from user tweets using feature-rich CNN and bi-directional LSTM | |
| WO2022007823A1 (zh) | 一种文本数据处理方法及装置 | |
| Wu et al. | Identifying emotion labels from psychiatric social texts using a bi-directional LSTM-CNN model | |
| Sun et al. | Dynamic emotion modelling and anomaly detection in conversation based on emotional transition tensor | |
| US20230316003A1 (en) | Natural Language Processing for Identifying Bias in a Span of Text | |
| CN113707307A (zh) | 病情分析方法、装置、电子设备及存储介质 | |
| Rai et al. | Supervised metaphor detection using conditional random fields | |
| JP7009810B2 (ja) | 条件付き確率の推定 | |
| CN114300127A (zh) | 问诊处理方法、装置、设备及存储介质 | |
| US11928437B2 (en) | Machine reading between the lines | |
| Agrawal et al. | Ars_nitk at mediqa 2019: Analysing various methods for natural language inference, recognising question entailment and medical question answering system | |
| Zhang et al. | Detecting depression tendency with multimodal features | |
| Triwijoyo et al. | Deep learning approach for sign language recognition | |
| Lu et al. | An emotion analysis method using multi-channel convolution neural network in social networks | |
| CN113868437A (zh) | 基于知识图谱的可解释的情绪逻辑识别方法、系统及介质 | |
| Li et al. | Hierarchical prediction and adversarial learning for conditional response generation | |
| Kumnunt et al. | Detection of Depression in Thai Social Media Messages using Deep Learning. | |
| US20230085786A1 (en) | Multi-stage machine learning techniques for profiling hair and uses thereof | |
| CN112257424A (zh) | 一种关键词提取方法、装置、存储介质及设备 | |
| Garg et al. | KL-NF technique for sentiment classification | |
| Su et al. | Depressive emotion recognition based on behavioral data | |
| Baiju | Word Sense Disambiguation in the domain of Sentiment Analysis through Deep Learning | |
| Bhaskoro et al. | Identification of causal pattern using opinion analysis in Indonesian medical texts | |
| Aljwari et al. | Emotion Detection in Arabic Short Text: A Deep-Learning Approach | |
| Gao et al. | An intelligent assessment method of criminal psychological attribution based on unbalance data |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200409 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210601 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210729 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211214 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211227 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7009810 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |