JP7478610B2 - 情報検索装置 - Google Patents

情報検索装置 Download PDF

Info

Publication number
JP7478610B2
JP7478610B2 JP2020116165A JP2020116165A JP7478610B2 JP 7478610 B2 JP7478610 B2 JP 7478610B2 JP 2020116165 A JP2020116165 A JP 2020116165A JP 2020116165 A JP2020116165 A JP 2020116165A JP 7478610 B2 JP7478610 B2 JP 7478610B2
Authority
JP
Japan
Prior art keywords
information
user
unit
linguistic
retrieval device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020116165A
Other languages
English (en)
Other versions
JP2022014034A (ja
JP2022014034A5 (ja
Inventor
健太郎 佐野
敦 牧
佑人 小松
梓 網野
卓男 姚
佐知 田中
昭義 大平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2020116165A priority Critical patent/JP7478610B2/ja
Priority to US18/008,343 priority patent/US20230297611A1/en
Priority to CN202180039469.4A priority patent/CN115917581A/zh
Priority to PCT/JP2021/016110 priority patent/WO2022009504A1/ja
Publication of JP2022014034A publication Critical patent/JP2022014034A/ja
Publication of JP2022014034A5 publication Critical patent/JP2022014034A5/ja
Application granted granted Critical
Publication of JP7478610B2 publication Critical patent/JP7478610B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/632Query formulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/242Query formulation
    • G06F16/243Natural language query formulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G06F16/63Querying
    • G06F16/638Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services

Description

本発明は、情報検索装置に関する。
本技術分野の背景技術として、特許文献1がある。特許文献1には、「人の行動と当該行動の対象となるモノや場所、状況、時間等との組み合わせを言語情報で記述した行動知識ベース記憶部を備えている。そして、先ず上記行動の対象に関する検出値をセンサから取得し、当該取得した検出値を解析して同一時刻に得られた検出値を統合した後、上記対象を表す言語情報に変換する。そして、この変換された対象を表す言語情報をもとに、上記行動知識ベース記憶部から対応する行動を表す言語情報を検索し、この検索された言語情報の中から出現確率が最も高いものを選択して、文章化し出力する」と記載されている。
この方式によれば、教師データや人手により作成した知識ベースを使用することなく行動を認識できるようにし、これにより多大な手間と時間およびコストを要することなく、しかも認識対象の行動が時間・場所等の状況によって変わる場合であっても、行動を正確に認識することができる(要約参照)。
別の背景技術として、特許文献2がある。特許文献2には、「撮像時の使用者の生体情報と、撮像画像における被写体情報を撮像画像データに関連づけて保存する。検索の際には生体情報と被写体情報を用いて検索条件を生成し、検索を行う。また、検索時の閲覧者の生体情報も検索条件の生成に用いる。撮像画像における被写体情報とは、例えば撮像画像に撮し込まれてる人の画像に関する情報である。つまり撮像者の感情等と、被写体となった人の表情等を条件とし、さらには検索時のユー ザの感情等を加味して、ユーザにとって適切な画像を選択し、表示する。」と記載されている。
この方式によれば、大量の撮像画像データから、簡易かつ適切に撮像画像を検索することができる(要約参照)。
特開2016-126569号公報 特開2008-263274号公報
特許文献1に記載の発明によれば、センサ情報から人間行動の対象となるモノ、場所、状況、時間等の組み合わせを言語化し、行動知識ベースをその言語で検索し、対象に対応する行動を表す言語情報を検索できる。しかし、任意の人間行動を的確に表すために必要十分なモノ、場所、状況、時間等の組み合わせの情報を、その行動が生じる前に想定することは容易でないため、十分な種類のセンサを予め設置することは容易でない。さらに、既存の行動知識ベースを利用するため、個人の趣味嗜好、傾向を反映した情報を提供することも困難である。
また、特許文献2に記載の発明によれば、撮像画像データと、使用者の撮像の際の生体情報と、撮像画像データの解析結果としての被写体情報を取得し、これらを関連付けて記録媒体に記録することで、生体情報および被写体情報を用いて検索処理を実行できる。しかし、生体情報および被写体情報は、センシングする情報の種類、処理するアルゴリズム、使用するセンサ、担当者等により処理結果のフォーマットが異なるため、検索のキーワードとして不適当である。
そこで本発明は、人間およびその行動をセンシングした結果に基づいて、人間およびその行動に関連性の高い情報を出力することを課題とする。
上記課題を解決するために、本発明の情報検索装置は、ユーザの行動をセンシングしたセンサ情報を取得する情報取得部と、前記情報取得部が取得した前記センサ情報を前記ユーザの行動を表す言語情報に言語化する情報言語化部と、言語情報と前記言語情報に関連する各種情報とが関連付けて保存されている汎用的知識データベースと、前記情報言語化部が言語化した言語情報をもとに前記汎用的知識データベースを検索して、前記言語情報および当該言語情報に類似する言語情報に関連付けられた前記各種情報を出力する検索部と、を備えることを特徴とする。
その他の手段については、発明を実施するための形態のなかで説明する。
本発明によれば、人間およびその行動をセンシングした結果に基づいて、人間およびその行動に関連性の高い情報を出力できる。
本発明の一実施形態に係る情報検索装置を中心としたネットワーク構成を示すブロック図である。 情報検索装置の構成を示すブロック図である。 端末装置の構成を示すブロック図である。 情報検索装置の機能ブロック図である。 情報言語化部の構成を示すブロック図である。 第2の実施形態の情報検索装置の機能ブロック図である。 第3の実施形態の情報検索装置の機能ブロック図である。 情報検索装置の動作を説明するフローチャート(その1)である。 情報検索装置の動作を説明するフローチャート(その2)である。 本実施形態に係る情報検索装置が実行する処理の具体例である。 端末装置の表示部に表示された動作モード選択画面を示す図である。 端末装置の表示部に表示されたお手本行動画面を示す図である。 端末装置の表示部に表示された「過去の自分の行動と比較」画面を示す図である。 端末装置の表示部に表示されたお勧め画面を示す図である。
以下、本発明の実施形態について図面を用いて詳細に説明するが、本発明は以下の実施形態に限定されることなく、本発明の技術的な概念の中で種々の変形例や応用例をもその範囲に含む。
図1は、本実施形態に係る情報検索装置1を中心としたネットワーク構成を示すブロック図である。
情報検索装置1は、ネットワーク、例えば、インターネット101等に接続されたサーバ装置である。ユーザは、自らが保有する端末装置102によってインターネット101を介して情報検索装置1と通信可能である。
端末装置102は、例えばスマートフォン、タブレット、パーソナルコンピュータ等の各種の情報端末装置である。端末装置102がスマートフォン等の場合、端末装置102は、ゲートウェイ103を介してインターネット101と接続された移動体通信網104の基地局105を介して情報検索装置1と通信を行う。もちろん、端末装置102は、移動体通信網104を介さずにインターネット101上の情報検索装置1と通信を行うこともできる。端末装置102がタブレット、パーソナルコンピュータの場合、端末装置102は、移動体通信網104を介さずにインターネット101上の情報検索装置1と通信することができる。もちろん、端末装置102は、無線LAN(Local Area Network)対応機器を用いて、移動体通信網104経由で情報検索装置1と通信することもできる。
図2は、情報検索装置1の構成を示すブロック図である。
情報検索装置1は、CPU(Central Processing Unit)11と、RAM(Random Access Memory)12と、ROM(Read Only Memory)13と、大容量記憶部14を備える。情報検索装置1は、通信制御部15と、記憶媒体読取部17と、入力部18と、表示部19と、行動推定演算部29とを備えており、それぞれバスを介してCPU11に接続されている。
CPU11は、各種演算を行い、情報検索装置1の各部を集中的に制御するプロセッサである。
RAM12は、揮発性メモリであり、CPU11の作業エリアとして機能する。
ROM13は、不揮発性メモリであり、例えばBIOS(Basic Input Output System)等を記憶している。
大容量記憶部14は、各種データを記憶する不揮発性の記憶装置であり、例えばハードディスク等である。大容量記憶部14には、情報検索プログラム20がセットアップされている。情報検索プログラム20は、インターネット101等からダウンロードされて、大容量記憶部14にセットアップされる。なお、後記する記憶媒体16に情報検索プログラム20のセットアッププログラムが格納されていてもよい。このとき記憶媒体読取部17は、記憶媒体16から情報検索プログラム20のセットアッププログラムを読み取って、大容量記憶部14にセットアップする。
通信制御部15は、例えばNIC(Network Interface Card)等であり、インターネット101等を介して他の装置と通信する機能を有している。
記憶媒体読取部17は、例えば光ディスク装置等であり、DVD(Digital Versatile Disc)、CD(Compact Disc)等である記憶媒体16のデータを読み取る機能を有している。
入力部18は、例えばキーボードやマウス等であり、キーコードや位置座標等の情報を入力する機能を有している。
表示部19は、例えは液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ等であり、文字や図形や画像を表示する機能を有している。
行動推定演算部29は、グラフィックカードやTPU(Tensor processing unit)等の演算処理ユニットであり、ディープラーニング等の機械学習を実行する機能を有している。
図3は、端末装置102の構成を示すブロック図である。この端末装置102はスマートフォンの例である。
端末装置102は、CPU111と、RAM112と、不揮発性記憶部113とを備えており、これらはCPU111とバスを介して接続されている。端末装置102は更に、通信制御部114と、表示部115と、入力部116と、GPS(Global Positioning System)部117と、スピーカ118と、マイク119とを備えており、これらもCPU111とバスを介して接続されている。
CPU111は、各種演算を行い、端末装置102の各部を集中的に制御する機能を備えている。
RAM112は、揮発性メモリであり、CPU111の作業エリアとして機能する。
不揮発性記憶部113は、半導体記憶装置または磁気記憶装置等から構成され、各種データやプログラムを記憶する。この不揮発性記憶部113には、所定のアプリケーションプログラム120がセットアップされている。CPU111がアプリケーションプログラム120を実行することにより、情報検索装置1に対して検索したい情報を入力し、かつ情報検索装置1が検索した結果を表示する。
通信制御部114は、移動体通信網104等を介して他の装置と通信する機能を有している。CPU111は、通信制御部114により、情報検索装置1と通信する。
表示部115は、例えば液晶ディスプレイ、有機ELディスプレイ等であり、文字や図形や画像や動画を表示する機能を有している。
入力部116は、例えばボタンやタッチパネル等であり、情報を入力する機能を有している。ここで入力部116を構成するタッチパネルは、表示部115の表面に積層されるとよい。ユーザは、表示部115の上層に設けられたタッチパネルを指で触ることにより、入力部116に対して情報を入力可能である。
GPS部117は、測位衛星から受信した電波に基づき、端末装置102の現在位置を検出する機能を有している。
スピーカ118は、電気信号を音声に変換するものである。
マイク119は、音声を収録して電気信号に変換するものである。
図4は、情報検索装置1の機能ブロック図である。この機能ブロック図は、情報検索プログラム20に基づいて情報検索装置1が実行する処理の内容を図示したものである。
情報取得部21は、或るユーザ環境130からセンサ情報を取得する。更に情報取得部21は、或るユーザが求めるサービスに関する要求や、ユーザに関わる属性情報等を端末装置102から取得する。
情報言語化部22は、情報取得部21が取得したセンサ情報を言語化する。情報言語化部22は更に、その結果である言葉と言葉に係るセンサ情報とを関連付けて個人履歴データベース23に保存する。これにより、情報検索装置1は、このユーザに係る過去の行動と現在の行動とを比較した結果を提示可能である。
情報取得部21がユーザ環境130から新たにセンサ情報を取得すると、情報言語化部22は、そのセンサ情報を再び言語化する。検索部25は、その結果である言葉等の情報を用いて、汎用的知識データベース26を検索し、言葉等の情報およびその類似の情報と関連付けられた各種情報を出力する。
情報取得部21は、ユーザ環境130から様々な手段で、様々な形式のセンサ情報を取得する。ユーザ環境130からセンサ情報を取得する手段は、例えはカメラ、マイク等を含むセンシング装置や各種センサである。ユーザ環境130から取得するセンサ情報は、脳波等の生体情報を変換した電気信号、インターネット101等を経由した天候情報や人流情報、疾病に関する情報、経済情報、環境情報、他の知識データベースからの情報等である。ユーザ環境130から取得するセンサ情報の形式は、CSV(Comma-Separated Values)やJSON(JavaScript Object Notation)等のテキスト形式、音声データ、画像データ、電圧、デジタル信号、座標値、センサ指示値、特徴量等のうち何れかである。
情報言語化部22は、情報取得部21より出力されたセンサ情報を受け取り、言語化する。
図5は、情報言語化部22の構成を示すブロック図である。
情報言語化部22は、受信部22aと、変換部22bと、出力部22cと、変換方針決定部22dとを含んで構成される。
受信部22aは、情報取得部21より出力したセンサ情報を受け取る。ここで、受信部22aの動作方式は、受信状態を常に維持してもよく、情報取得部21より情報が発信されたことを別の信号で確認して受信状態に移行してもよく、受信部22aから情報取得部21に情報の有無を問い合わせてもよい。また、受信部22aは、新たなセンシング装置を使用するたびに、その出力形式をユーザが登録できる機能を有してもよい。
変換部22bは、受信部22aが受け取ったセンサ情報を言葉等の情報に変換する。以下、変換部22bが変換した言葉等の情報のことを、「言語情報」と記載する場合がある。変換部22bがセンサ情報を言葉等の情報に変換する方針は、変換方針決定部22dに格納されている。変換部22bは、その方針に従って動作する。
変換方針決定部22dには、複数の変換方針の選択肢が予め用意されている。変換方針には、例えば画像やこれを分析して得た被写体の感情を言葉に変換し、数値を機械が理解できる情報に変換し、音声を符号に変換し、匂いや香りを深層学習等により特徴量に変換する、等がある。ユーザは、複数の変換方針から任意に一つを選択可能である。
また、変換方針決定部22dには、複数のセンサ情報の種類と複数の変換後の言葉等の情報の形式が、選択肢として予め用意されてもよい。これによりユーザは、変換方針決定部22dに格納されたセンサ情報の種類と変換後の言葉等の情報の形式を組み合わせて選択することができる。
出力部22cは、変換部22bが言語化した結果である言葉等の情報を言語入力部24に出力する。出力部22cが出力する言葉等の情報は、何らかの符号化がなされている。これにより、検索部25が言葉等の情報を用いて汎用的知識データベース26を検索可能である。
図4にもどり説明を続ける。言語入力部24は、情報言語化部22の出力結果である言葉等の情報が入力されると、この言葉等の情報を検索部25に対して出力する。検索部25は、言葉等の情報を検索のキーワードとして用いる。
言語入力部24は、検索の負荷に応じて、検索部25に言葉等の情報を入力するタイミングを変更してもよい。また言語入力部24は、言語以外のユーザの名前、性別、年齢等の属性情報、過去に情報検索装置1により、このユーザに提示済みの情報等を個人履歴データベース23より取得し、検索範囲を限定する条件の一つとして入力してもよい。
個人履歴データベース23は、このユーザが過去に情報検索装置1を使用した際の条件、設定、個人情報、過去にユーザに対して情報検索装置1が提示した情報等を保存し、次回以降、同一ユーザが情報検索装置1を使用した際に参照することができるデータベースである。個人履歴データベース23により、個人の趣味嗜好に即した情報を提供できる。
検索部25は、言語入力部24より入力された言葉等の情報および個人履歴データベース23より入力された情報をもとに、汎用的知識データベース26を検索し、入力した言葉等の情報に関連付けて保存されている各種情報を送信内容決定部27に出力する。
検索部25は、言葉等の情報の類似度を指標として検索を実行する。検索範囲を限定する条件が入力されている場合は、それをもとに検索範囲が限定される。ここで、言葉の類似性は、例えば同義語であれば類似度が高く、対義語であれば類似度が小さいといった、言語の意味に基づき定義してもよい。または、BERT(Bidirectional Encoder Representations from Transformers)アルゴリズムにおけるCBOW(Continuous Bag-of-Words)に代表される、深層学習等を用いた手段により、文章における周辺単語との関係性に応じた単語ベクトルを生成し、そのベクトルどうしの距離に基づいて類似性を定義してもよい。ここで、ベクトルどうしの距離とは、例えばコサイン距離、マンハッタン距離、ユークリッド距離、マハラノビス距離等、類似性を測定できる指標であれば、その種類は限定されない。
送信内容決定部27は、検索部25が出力する言葉等の情報に関連付けられた各種情報を受信し、個人履歴データベース23を参照し、送信部28に出力する情報を取捨選択する。
例えば、ユーザがゴルフを練習している動画情報を情報取得部21が受信した場合、その動画情報は個人履歴データベース23を経由して、送信内容決定部27に伝達される。検索部25からは、「ゴルフ」という言葉に関連付けられた情報が複数出力される。送信内容決定部27は、ゴルフの練習の動画情報に基づき、例えばゴルフのフォームに関する情報のみを選択して、送信部28に出力する。
送信部28は、受信した情報をユーザに提供する。ここで、ユーザへの提供手段にはパソコン、スマートフォン、タブレット等のデバイス、音声、嗅覚、味覚等の五感を刺激する手法、仮想現実(VR:Virtual Reality)、拡張現実(AR:Augmented Reality)等の様々な手段がある。また、それらの手段を用いる際、情報言語化部22により言語化された結果を併記することで、ユーザが提示されている情報への理解を深めやすくしてもよい。
図6は、第2の実施形態の情報検索装置1の機能ブロック図である。
第2の実施形態は、汎用的知識データベース26の少なくとも一部が別システムに存在する点が特徴的である。第2の実施形態において、汎用的知識データベース26は、自社の別システムのみならず、他社のシステム、クラウド環境等に存在してもよい。
図7は、第3の実施形態の情報検索装置1の機能ブロック図である。
第3の実施形態の情報検索装置1の特徴は、情報取得部21および情報言語化部22がユーザ環境130に包含されていることである。第3の実施形態において、情報取得部21および情報言語化部22は、エッジ端末により実行されてもよい。また、エッジ端末において言語化された言葉等の情報は、ユーザ環境130の外部に発信される際にフィルタリングされ、セキュリティレベルに応じて発信内容が制限されてもよい。これにより、ユーザのプライバシーを守ることができる。
図8Aと図8Bは、情報検索装置1を含むシステムの動作を説明するフローチャートである。
ユーザは、センシング装置等が設置されたユーザ環境130にいるか、または、センシング装置を身体に装着した状態である。ユーザは更にコンピュータ、タブレット、スマートフォン等の端末装置102の表示部115、仮想現実または拡張現実等の手段により、情報検索装置1とのユーザインタフェースを提供されている。
センシングデバイスは、ユーザおよびその環境情報を収集している。このセンシングデバイスは、例えば温度、湿度、気圧、加速度、照度、二酸化炭素濃度、人感、着座、距離、におい、味、触覚等を検出する各種センサや、マイク、スマートスピーカ等の音声デバイス、カメラ等の撮像機器などである。
情報取得部21は、ユーザ環境130に係るセンサ情報をセンシング装置から取得する。(S10)。
情報言語化部22は、センシングデバイスが収集したセンサ情報を言語化する(S11)。言語化のアルゴリズムの一例を挙げれば、機械学習等によりセンシングデバイスにより収集されたセンサ情報と言葉の組み合わせからなる教師データを予め学習させておき、学習済みのニューラルネットワークにセンシングデバイスが収集したセンサ情報を入力する方法がある。
情報言語化部22が変換する情報は、必ずしも日本語、英語等の人類が意思疎通に使用する言葉に限られず、例えば、点字等に代表される触覚的な記号による言語情報、機械がそのまま読み込み理解できる符号情報、標識等に代表される視覚的な記号情報、色情報、音声情報、数値情報、嗅覚情報、深層学習のオートエンコーダ等により抽出された特徴量、ベクトル情報などでもよい。情報言語化部22が変換する情報は、人や機械またはアルゴリズムにとって特定の意味を有するものであればよく、限定されない。
そしてユーザが、自身が求めるサービスに関する要求を端末装置102のユーザインタフェースに入力する。情報取得部21は、端末装置102から、この要求を取得する(S12)。ここで情報取得部21が取得する要求は、例えばお手本動作の動画の提示、過去の自分の動作との差分提示、現在の自分の行動の分析など、情報検索装置1の出力に期待する要求である。
なお、情報取得部21は、当日の日付、時刻、天候、寒暖、流行、混雑、交通手段等の周辺環境に関する情報、または、性別、宗教、同伴者、快不快、喜怒哀楽等の感情、呼吸、脈拍、脳波、怪我、疾病等の健康状態、当日の行動の目標値など、本人および環境に関する様々な属性情報を取得してもよい。
更に情報取得部21は、取得した要求や属性情報に基づくユーザの設定や行動等を個人履歴データベース23に蓄積する(S13)。この個人履歴データベース23を分析することで、ユーザが高頻度で設定する内容、ユーザの行動の傾向等を抽出できる。
次に、検索部25は、情報言語化部22が変換した言葉等の情報を用い、汎用的知識データベース26を検索する(S13)。汎用的知識データベース26には、言葉等の情報に関連付けられた動画情報、言葉、音声情報、匂い情報、味覚情報、触覚情報等の各種情報が保存されている。これにより、人間の五感に訴える情報を提供することができる。
更に、この汎用的知識データベース26には、感情を表す表現を含む情報が格納されている。これにより、ユーザの感情に即した情報を提供することができる。
検索部25は、検索した言葉等の情報に関連付けられた情報と、検索した言葉等の情報と近い意味の情報に関連付けられた情報を汎用的知識データベース26から取得し、送信内容決定部27に出力する(S14)。
送信内容決定部27は、個人履歴データベース23を分析して、高頻度な要求や、ユーザの行動の傾向、趣味、嗜好等を抽出する(S15)。
更に送信内容決定部27は、汎用的知識データベース26を検索して得られた各種情報、ユーザの高頻度な要求、ユーザの行動の傾向、趣味、嗜好等を総合し、ユーザに提示する情報を選択する(S16)。送信内容決定部27が提示情報を選択する基準は、例えば、過去にユーザから高評価を与えられた提示情報、ユーザが高頻度で要求する情報から僅かに異なり新しい視点を与える提示情報、ユーザの将来の行動を予測した提示情報、直近数回でユーザが触れていない提示情報、人間の健康管理として望ましい提示情報など、様々な基準を設けてよい。
そして、送信内容決定部27は、このユーザの要求に対して、既に情報を提示済みであるか否かを判定する(S17)。送信内容決定部27は、このユーザの要求に対して既に情報を提示済みならば(Yes)、そのユーザの要求に対して提示済の情報を個人履歴データベース23から抽出して今回のユーザの行動と比較し(S18)、ユーザが提示済の情報をどの様に行動に反映したか評価して、その評価結果を今回の提示情報に反映させる(S19)。送信内容決定部27は、このユーザの要求に対して未だ情報を提示していなければ、ステップS20の処理に進む。
例えば、情報検索装置1が、或るユーザに対して、「もう少し腕を上げるとよい」という情報を提示し、このユーザは、今回の行動で腕が5cm上がっていた場合を考える。情報検索装置1の送信内容決定部27は、このユーザにとっての「少し」という言葉は5cm程度を意味すると個人履歴データベース23に蓄積する。
ここでユーザに更に3cm腕を上げさせたければ「もう少し」、更に10cm腕を上げさせたければ「大きく」等の表現を使用することが適切である。この「少し」という言葉が示す距離は、ユーザによって異なる。このため、情報検索装置1は、ユーザごとに言葉と客観的な数値との関係を、個人履歴データベース23に蓄積するとよい。更に、或るユーザに前回提示した情報を、このユーザが反映していない場合、情報検索装置1は、その情報も併せて提示してもよい。
ステップS20において、送信部28は、最終的に選択された提示情報を端末装置102に送信する。端末装置102は、表示部115を介して提示情報を表示する。この時、情報言語化部22により変換された言葉等の情報も同時に提示することで、ユーザは提示情報への理解度を更に深められる。
ユーザは、入力部116を介して提示情報の評価をフィードバック可能である。入力部116を介して入力された評価は、通信制御部114により情報検索装置1に送信される。情報取得部21は、提示情報に対するユーザの評価を端末装置102から取得して(S21)、個人履歴データベース23に蓄積すると(S22)、図9の処理を終了する。個人履歴データベース23に蓄積されたユーザ評価により、情報検索装置1は、ユーザの評価が高い情報を選択して提供可能である。例えば、リハビリにおいて腕の角度の情報を提供したが、ユーザの評価を低かった場合には、例えばリハビリにおける歩行の情報などのように、他の観点からの情報を提供することが好適である。
次に、本実施形態に係る情報検索装置1が実行する処理の具体例について説明する。
図9は、本実施形態に係る情報検索装置1が実行する処理の具体例である。まず、ユーザは事前準備として、センサ122およびカメラ、マイク等を含むセンシングデバイス123が設置されたユーザ環境130に移動するか、センサ122を身体に装着する。このセンサ122は、例えば歩数計や脈拍計、温度計、加速度計等の機能を有する小型のセンサであり、無線でデータを送信する機能を有してもよい。
次に、ユーザは、コンピュータ、タブレット、スマートフォン等の端末装置102、仮想現実および拡張現実等の手段により、情報検索装置1に対して希望する動作モードを入力する。
図10は、端末装置102の表示部115に表示された動作モード選択画面51を示す図である。
この動作モード選択画面51には、スピンコントロール上に「お手本行動」511と、「過去の自分の行動と比較」512と、「新規提案」513が表示されている。この動作モード選択画面51は、ユーザの要求や属性情報を入力するユーザインタフェースとして機能する。
「お手本行動」511は、プロや同レベルの他者等によるお手本動作の提示である。「過去の自分の行動と比較」512は、過去の自分自身の動作との差分の表示である。「新規提案」513は、新しい視点からの新規提案である。
[具体例1]
以下では、ユーザがゴルフの動作をすると仮定し、情報検索装置1を含むシステム全体の動作を具体的に説明する。以下の説明では、図9を適宜参照している。
上述の事前準備を済ませたユーザは、動作モード選択画面51において、例えば「お手本行動」511を選択する。次に、実際にゴルフの動作をすると、センサ122およびセンシングデバイス123が取得したスイングの速度、打ち出された球の速度、スイングの姿勢、表情、打球音、使用している道具、周辺環境の温湿度、時刻、呼吸、心拍数等のセンサ情報が情報検索装置1の情報取得部21に送信される。
情報言語化部22は、これらセンサ情報から現在の行動を「ゴルフ」という言葉に言語化する。次に、検索部25は、この「ゴルフ」という言葉を利用して、汎用的知識データベース26を検索し、「ゴルフ」という言葉に関連付けられたプロの動画情報、打球音、イメージ写真、ルール、人間関係において果たす役割、健康維持に対する効果、競技人口、歴史、費用等の各種情報を抽出する。汎用的知識データベース26は、言葉を含む情報261と、情報261に関連付けられた動画262、言葉263、音声264等の各種情報を含んで構成されている。
送信内容決定部27は、検索部25が抽出した情報と、ユーザのお手本行動の要求とを合わせて、プロの動画情報をお手本行動として決定する。送信内容決定部27は、ユーザの行動とプロの行動とを比較して、ユーザの行動をお手本行動に近づけるためのアドバイスを生成する。また送信内容決定部27は、この提示情報を個人履歴データベース23にも蓄積する。送信部28は、この提示情報を端末装置102に送信する。
端末装置102は、この提示情報を表示部115に表示する。
図11は、端末装置102の表示部115に表示されたお手本行動画面52を示す図である。
端末装置102の表示部115には、お手本行動画面52が表示される。このお手本行動画面52には、情報言語化部22が変換した言葉である「ゴルフ」、ゴルフに係るお手本動画521と、被写体の名前や職業や年齢等のお手本動画521に関する情報522とが同時に表示される。
お手本行動画面52には更に、ユーザの行動をお手本行動に近づけるためのアドバイス523が表示される。このアドバイス523は、ユーザの行動とお手本動画とを比較することによって生成される。アドバイス523は更に、過去の同一ユーザに提示した情報を受け、ユーザの行動がどの程度変化したかを、個人履歴データベース23のデータから算出し、個人ごとに最適化されたものである。
評価ボタン528は、提示された内容に対するユーザの評価を入力するものである。評価ボタン528をタップすると、別画面が開き、そこに評価の文を自由に記述できる。「1~10より選択」ボタン529は、提示された内容に対するユーザの評価を1から10までの10段階で入力するものである。
情報検索装置1は、例えば、過去に「もう少し腕を振る」という言葉で情報を提示し、ユーザが5cm多く腕を振った場合、さらに10cm腕を振ることを表現するために、今回は「もっと」という言葉を選択してもよい。この「もう少し」という言葉が示す距離はユーザによって異なるため、ユーザごとに言葉と、客観的な数値との関係を、個人履歴データベース23に蓄積してもよい。
[具体例2]
以下では、ユーザが介護現場において、リハビリに臨む当事者であると仮定し、情報検索装置1を含むシステムの動作を具体的に説明する。以下の説明では、図9を適宜参照している。
具体例1と同様に、事前準備を済ませたユーザは、図10に示す動作モード選択画面51において、例えば「過去の自分の行動と比較」512を選択する。
次に、ユーザがリハビリのために腕を上側に上げる動作をすると、センサ122およびセンシングデバイス123がそのセンサ情報を取得する。情報言語化部22は、取得したセンサ情報をもとに「(個人名)」「リハビリ」という言葉に変換する。
次に、検索部25は、これらの言葉を利用して汎用的知識データベース26を検索し、「(個人名)」「リハビリ」という言葉に関連付けられた各種情報を検索する。
送信内容決定部27は、ユーザの「過去の自分の行動と比較」の要求により、今回はユーザの過去の行動データをユーザに提示することが適切と判定する。送信内容決定部27は、「(個人名)」「リハビリ」という言葉に基づいて、個人履歴データベース23から過去のリハビリに関する行動情報(動画情報など)を抽出し、この行動情報と現在の動画情報とを比較して提示情報を決定する。なお、送信内容決定部27は、個人履歴データベース23からリハビリに関する情報を検索し、リハビリの開始日、過去の行動情報(センサ情報)、過去のユーザ評価、親族との面会日、性格、国籍、宗教、年齢、身長、体重等の情報を抽出してもよい。
また、送信内容決定部27は、この提示情報を個人履歴データベース23にも蓄積する。この提示情報は送信部28により、例えば図12に示す形式で端末装置102の表示部115に表示される。
図12は、端末装置102の表示部115に表示された「過去の自分の行動と比較」画面53を示す図である。
「過去の自分の行動と比較」画面53には、情報言語化部22が言語化した結果である「(個人名)」「リハビリ」という言葉と、提示情報である「過去の自分」画像531と、その日時532と、「現在の自分」画像533と、その日時534とが表示され、更に「腕が+30度上がるようになりました」の言葉が表示されている。
「現在の自分」画像533には、「過去の自分」画像531における腕の位置が破線で示され、更にその角度差が示されている。このように、過去の自分の行動との比較結果は、数字や図面の変化によって具体的に示される。
評価ボタン538は、提示された内容に対するユーザの評価を入力するものである。評価ボタン538をタップすると、別画面が開き、そこに評価の文を自由に記述できる。「1~10より選択」ボタン539は、提示された内容に対するユーザの評価を1から10までの10段階で入力するものである。
[具体例3]
以下では、ユーザに対して好みに合った新製品のコーヒーを提案する状況を想定し、情報検索装置1を含むシステムの動作を具体的に説明する。以下の説明では、図9を適宜参照している。
具体例1と同様に、事前準備を済ませたユーザは、図10に示す動作モード選択画面51において、例えば「新規提案」513を選択する。
次に、ユーザがコーヒーを飲むと、センサ122およびセンシングデバイス123がセンサ情報を取得する。情報言語化部22は、このセンサ情報を「(個人名)」「コーヒー」という言葉に変換する。次に、検索部25は、変換された言葉で汎用的知識データベース26を検索し、「(個人名)」「コーヒー」という言葉に関連付けられた、摂取間隔、摂取量、味の好み、香りの好み、付け合わせの好み、BGM(Back Ground Music)の好み、摂取場所の好み等の各種情報を抽出する。
送信内容決定部27は、検索部25が抽出した各種情報と、ユーザの新規提案の要求とを合わせて、今回は新製品のコーヒーの中でも、味、香り、付け合わせがユーザの好みに合ったコーヒーをユーザに提示することが適切と判定する。この提示する新製品の選択方法は、例えば、ユーザごとに「コーヒー」という言葉と、好みのコーヒーの味、香りとの関係を表す変換ベクトルを保存しておき、新製品のコーヒーの中から、そのユーザの好みを表す変換ベクトルに近い変換ベクトルを持つ製品を選択する。
また送信内容決定部27は、ユーザの好みを表す変換ベクトルを、正規分布等を用いて微小量摂動させることで、ユーザの好みに沿っているが、一部新しい要素を含む新製品を選択することも可能である。更に送信内容決定部27は、ユーザの好みを表す変換ベクトルのうち少なくとも一成分をあえて反転させることで、ユーザの好みに沿う部分を残しつつも、ユーザが普段は経験することの少ないと予想される要素が含まれるコーヒーを提案してもよい。
また、この提示情報は、個人履歴データベース23にも蓄積されている。この提示情報は送信部28により、例えば図13に示す形式でお勧め画面54に表示される。
図13は、端末装置102の表示部115に表示されたお勧め画面54を示す図である。
表示部115には、お勧め画面54が表示されており、情報言語化部22が言語化した結果である「(個人名)」「コーヒー」という言葉とともに、提案情報が示されている。画像541は、お勧めのコーヒー豆の画像である。情報542には、コーヒー豆の産地や味や香りや他のユーザの評価が示されている。画像543は、カップに淹れられたコーヒーの画像である。情報544には、お勧めの飲み方が具体的に記載されている。
また、この提示された内容に対しても、具体例1と同様、ユーザが評価可能である。
評価ボタン548は、提示された内容に対するユーザの評価を入力するものである。評価ボタン548をタップすると、別画面が開き、そこに評価の文を自由に記述できる。「1~10より選択」ボタン549は、提示された内容に対するユーザの評価を1から10までの10段階で入力するものである。
(変形例)
本発明は上記した実施形態に限定されるものではなく、様々な変形例が含まれる。例えば上記した実施形態は、本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることも可能である。
上記の各構成、機能、処理部、処理手段などは、それらの一部または全部を、例えば集積回路等のハードウェアで実現してもよい。上記の各構成、機能などは、プロセッサがそれぞれの機能を実現するプログラムを解釈して実行することにより、ソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、SSD(Solid State Drive)等の記録装置、または、フラッシュメモリカード、DVD(Digital Versatile Disk)等の記録媒体に置くことができる。
各実施形態に於いて、制御線や情報線は、説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には、殆ど全ての構成が相互に接続されていると考えてもよい。
1 情報検索装置
11 CPU
12 RAM
13 ROM
14 大容量記憶部
15 通信制御部
16 記憶媒体
17 記憶媒体読取部
18 入力部
19 表示部
20 情報検索プログラム
21 情報取得部
22 情報言語化部
22a 受信部
22b 変換部
22c 出力部
22d 変換方針決定部
23 個人履歴データベース
24 言語入力部
25 検索部
26 汎用的知識データベース
27 送信内容決定部
28 送信部
29 行動推定演算部
101 インターネット
102 端末装置
103 ゲートウェイ
104 移動体通信網
105 基地局
111 CPU
112 RAM
113 不揮発性記憶部
114 通信制御部
115 表示部
116 入力部
117 GPS部
118 スピーカ
119 マイク
120 アプリケーションプログラム
121 無線通信
122 センサ
123 センシングデバイス
130 ユーザ環境
51 動作モード選択画面
511 「お手本行動」
512 「過去の自分の行動と比較」
513 「新規提案」
52 お手本行動画面
521 お手本動画
522 情報
523 アドバイス
528 評価ボタン
529 「1~10より選択」ボタン
53 「過去の自分の行動と比較」画面
531 「過去の自分」画像
532 日時
533 「現在の自分」画像
534 日時
538 評価ボタン
539 「1~10より選択」ボタン
54 お勧め画面
541 画像
542 情報
543 画像
544 情報
548 評価ボタン
549 「1~10より選択」ボタン

Claims (13)

  1. ユーザの行動をセンシングしたセンサ情報を取得する情報取得部と、
    前記情報取得部が取得した前記センサ情報を前記ユーザの行動を表す言語情報に言語化する情報言語化部と、
    言語情報と前記言語情報に関連する各種情報とが関連付けて保存されている汎用的知識データベースと、
    前記情報言語化部が言語化した言語情報をもとに前記汎用的知識データベースを検索して、前記言語情報および当該言語情報に類似する言語情報に関連付けられた前記各種情報を出力する検索部と、
    を備えることを特徴とする情報検索装置。
  2. ユーザが前記情報検索装置を使用した際に、当該ユーザに対して前記情報検索装置が提示した情報、および、検索結果への評価を記録する個人履歴データベースと、
    前記検索部が抽出した情報と前記個人履歴データベースから抽出した情報とを参照して、前記言語情報および当該言語情報に類似する言語情報に関連付けられた前記各種情報のうち、前記ユーザの評価が高い情報を選択して、当該ユーザへの送信内容として決定する送信内容決定部と、
    を備えることを特徴とする請求項1に記載の情報検索装置。
  3. 前記送信内容決定部は、前記ユーザごとに製品とセンサ情報との関係を表す変換ベクトルを保存し、前記変換ベクトルを用いて選択した製品を当該ユーザへの送信内容として決定する、
    ことを特徴とする請求項2に記載の情報検索装置。
  4. 前記送信内容決定部は、前記ユーザの好みを表す変換ベクトルに近い変換ベクトルを持つ製品を当該ユーザへの送信内容として決定する、
    ことを特徴とする請求項3に記載の情報検索装置。
  5. 前記送信内容決定部は、前記ユーザの好みを表す変換ベクトルを微小量だけ摂動させて選択した製品を当該ユーザへの送信内容として決定する、
    ことを特徴とする請求項3に記載の情報検索装置。
  6. 前記送信内容決定部は、前記ユーザの好みを表す変換ベクトルのうち少なくとも一成分を反転させて選択した製品を当該ユーザへの送信内容として決定する、
    ことを特徴とする請求項3に記載の情報検索装置。
  7. 前記個人履歴データベースには、前記情報言語化部から出力された言語情報が格納される、
    ことを特徴とする請求項3に記載の情報検索装置。
  8. 前記情報言語化部の出力は、符号化されている、
    ことを特徴とする請求項1に記載の情報検索装置。
  9. ユーザの行動をセンシングしたセンサ情報および前記センサ情報が前記ユーザの行動を表す言語情報に言語化された言語情報をエッジ装置から取得する情報取得部と、
    言語情報と前記言語情報に関連する各種情報とが関連付けて保存されている汎用的知識データベースと、
    前記情報取得部が取得した前記言語情報をもとに前記汎用的知識データベースを検索して、前記言語情報および当該言語情報に類似する言語情報に関連付けられた前記各種情報を出力する検索部と、
    を備えることを特徴とする情報検索装置。
  10. 前記センサ情報が言語化された言語情報はフィルタリングされている、
    ことを特徴とする請求項に記載の情報検索装置。
  11. ユーザの行動をセンシングしたセンサ情報および前記センサ情報が前記ユーザの行動を表す言語情報に言語化された言語情報を取得する情報取得部と、
    前記言語情報をもとに、言語情報と前記言語情報に関連する各種情報とが関連付けて保存されている汎用的知識データベースを検索して、前記言語情報および当該言語情報に類似する言語情報に関連付けられた前記各種情報を出力する検索部と、
    を備えることを特徴とする情報検索装置。
  12. 前記汎用的知識データベースに言語情報と関連付けられ保存される各種情報は、感情を表す表現を含む、
    ことを特徴とする請求項11に記載の情報検索装置。
  13. 前記汎用的知識データベースに言語情報と関連付けられ保存されている各種情報は、動画情報、音声情報、匂い情報、味覚情報、触覚情報の何れか1つ以上を含む、
    ことを特徴とする請求項11に記載の情報検索装置。
JP2020116165A 2020-07-06 2020-07-06 情報検索装置 Active JP7478610B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020116165A JP7478610B2 (ja) 2020-07-06 2020-07-06 情報検索装置
US18/008,343 US20230297611A1 (en) 2020-07-06 2021-04-21 Information search device
CN202180039469.4A CN115917581A (zh) 2020-07-06 2021-04-21 信息检索装置
PCT/JP2021/016110 WO2022009504A1 (ja) 2020-07-06 2021-04-21 情報検索装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020116165A JP7478610B2 (ja) 2020-07-06 2020-07-06 情報検索装置

Publications (3)

Publication Number Publication Date
JP2022014034A JP2022014034A (ja) 2022-01-19
JP2022014034A5 JP2022014034A5 (ja) 2023-03-06
JP7478610B2 true JP7478610B2 (ja) 2024-05-07

Family

ID=79552898

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020116165A Active JP7478610B2 (ja) 2020-07-06 2020-07-06 情報検索装置

Country Status (4)

Country Link
US (1) US20230297611A1 (ja)
JP (1) JP7478610B2 (ja)
CN (1) CN115917581A (ja)
WO (1) WO2022009504A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7180940B1 (ja) * 2022-05-31 2022-11-30 株式会社エヌアンドエヌ 情報伝達システムと情報伝達プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002108918A (ja) 2000-09-27 2002-04-12 Nec Corp 嗜好学習装置、嗜好学習システム、嗜好学習方法および記録媒体
JP2016126569A (ja) 2015-01-05 2016-07-11 日本電信電話株式会社 行動認識装置、方法およびプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4878131B2 (ja) * 2005-08-04 2012-02-15 株式会社エヌ・ティ・ティ・ドコモ ユーザ行動推定システム、ユーザ行動推定方法
US8909624B2 (en) * 2011-05-31 2014-12-09 Cisco Technology, Inc. System and method for evaluating results of a search query in a network environment
KR102353486B1 (ko) * 2017-07-18 2022-01-20 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20200115695A (ko) * 2019-03-07 2020-10-08 삼성전자주식회사 전자 장치 및 이의 제어 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002108918A (ja) 2000-09-27 2002-04-12 Nec Corp 嗜好学習装置、嗜好学習システム、嗜好学習方法および記録媒体
JP2016126569A (ja) 2015-01-05 2016-07-11 日本電信電話株式会社 行動認識装置、方法およびプログラム

Also Published As

Publication number Publication date
JP2022014034A (ja) 2022-01-19
US20230297611A1 (en) 2023-09-21
WO2022009504A1 (ja) 2022-01-13
CN115917581A (zh) 2023-04-04

Similar Documents

Publication Publication Date Title
US10951602B2 (en) Server based methods and systems for conducting personalized, interactive and intelligent searches
US11244163B2 (en) Information processing apparatus, information processing method, and program
US10956007B2 (en) Electronic device and method for providing search result thereof
US11954150B2 (en) Electronic device and method for controlling the electronic device thereof
WO2016189908A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US20210160230A1 (en) Methods and systems for conducting multi-user personalized, interactive and intelligent searches
US11573988B2 (en) Storage of point of interest data on a user device for offline use
US20220237915A1 (en) Electronic apparatus and controlling method thereof
CN110998507B (zh) 电子装置及其用于提供搜索结果的方法
KR20200039365A (ko) 전자 장치 및 이의 제어 방법
JP6572886B2 (ja) 情報処理装置および情報処理方法
JP7478610B2 (ja) 情報検索装置
KR20150105514A (ko) 생체신호기반 서비스 방법 및 이를 적용한 휴대용 단말기 및 컴퓨터로 읽을 수 있는 기록매체
KR102493790B1 (ko) 인공지능 기반 장소 연계 안면 인식 정보 생성 방법, 장치 및 시스템
KR20230081584A (ko) 자동 및 멀티 모달리티 정보 입력을 활용하는 일상 추적 시스템을 위한 인공지능 기반의 상황 추론 장치 및 방법
JP2023143752A (ja) プログラム、情報処理装置、及び方法
KR20240016815A (ko) 얼굴 인식 기반 상호작용 상대방에 대한 사용자의 관계 감정 지수를 측정하는 시스템 및 방법
CN117688159A (zh) 信息搜索方法、装置、计算机设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230222

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240422