JP6880556B2 - Information presentation device, information presentation method, information presentation system, and program - Google Patents

Information presentation device, information presentation method, information presentation system, and program Download PDF

Info

Publication number
JP6880556B2
JP6880556B2 JP2016046880A JP2016046880A JP6880556B2 JP 6880556 B2 JP6880556 B2 JP 6880556B2 JP 2016046880 A JP2016046880 A JP 2016046880A JP 2016046880 A JP2016046880 A JP 2016046880A JP 6880556 B2 JP6880556 B2 JP 6880556B2
Authority
JP
Japan
Prior art keywords
rule
information
content
presentation
extended
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016046880A
Other languages
Japanese (ja)
Other versions
JP2017162253A (en
Inventor
亮平 波多野
亮平 波多野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Inc filed Critical Toppan Inc
Priority to JP2016046880A priority Critical patent/JP6880556B2/en
Publication of JP2017162253A publication Critical patent/JP2017162253A/en
Application granted granted Critical
Publication of JP6880556B2 publication Critical patent/JP6880556B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、情報提示装置、情報提示方法、情報提示システム、およびプログラムに関する。 The present invention relates to an information presentation device, an information presentation method, an information presentation system, and a program.

ユーザからの発話をはじめとする意図を伝える行為を示す情報を取得し、取得された情報に基づいて応答内容を示す情報を生成してユーザへ提示する対話型の情報提示装置がある。例えば、オンラインアシスタントサービス、カーナビゲーションシステム、および特許文献1に記載されたような応答生成装置もそのような情報提示装置にあたる。 There is an interactive information presenting device that acquires information indicating an act of conveying an intention such as an utterance from a user, generates information indicating a response content based on the acquired information, and presents the information to the user. For example, an online assistant service, a car navigation system, and a response generator as described in Patent Document 1 are also such information presenting devices.

特開2013−205523号公報Japanese Unexamined Patent Publication No. 2013-205523

従来の情報提示装置においては、応答内容を示す情報がテキスト情報を中心として(または、テキスト情報のみによって)生成されるなど、応答内容を提示する表現力が乏しいことがある。例えば、「録画予約をする方法を知りたい」というユーザの問い合わせに対して、「マニュアルの12ページを参照してください」という応答内容が生成される。このように、応答内容を表現する表現力が乏しいこと、情報提示装置と応答内容のコンテンツ間の連携が不十分なことにより、従来の情報提示装置は、応答内容に対するユーザの理解度を向上させ難いという課題があった。また、テキスト情報を中心とした(または、テキスト情報のみによる)応答内容を生成する従来の情報提示装置においては、様々な問い合わせに対する応答内容を文字によって表現しなければならない。そのため、従来の情報提示装置においては、応答文が冗長化し、応答内容の生成や管理が煩雑になるという課題があった。 In the conventional information presenting device, the expressive power for presenting the response content may be poor, for example, the information indicating the response content is generated mainly by the text information (or only by the text information). For example, in response to a user inquiry "I want to know how to make a recording reservation", a response content "Please refer to page 12 of the manual" is generated. As described above, the conventional information presenting device improves the user's understanding of the response content due to the lack of expressive power for expressing the response content and the insufficient coordination between the information presenting device and the content of the response content. There was a problem that it was difficult. Further, in the conventional information presenting device that generates the response contents centered on the text information (or only by the text information), the response contents for various inquiries must be expressed by characters. Therefore, in the conventional information presenting device, there is a problem that the response sentence becomes redundant and the generation and management of the response contents become complicated.

本発明は上記の点に鑑みてなされたものであり、応答内容の提示における表現力を向上させコンテンツ間の連携を強化するとともに、応答内容の生成や管理を容易にすることができる、情報提示装置、情報提示方法、情報提示システム、およびプログラムを提供する。 The present invention has been made in view of the above points, and it is possible to improve the expressiveness in presenting the response contents, strengthen the cooperation between the contents, and facilitate the generation and management of the response contents. It provides devices, information presentation methods, information presentation systems, and programs.

(1)本発明は上記の課題を解決するためになされたものであり、本発明の一態様としては、少なくとも一人以上のユーザによる入力に対し応答を提示する機能を有する情報提示装置であって、コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築部と、前記入力に対応するルールを前記対話規則より取得する制御部であって、ユーザとの双方向の対話を制御する制御部と、前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定部と、特定された前記識別子または前記指定子に基づいて前記コンテンツと共に前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示部と、を備え、前記対話規則とは、入力とルールとの対応関係を定義した規則であり、前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、ことを特徴とする情報提示装置である。
また、本発明の一態様としては、少なくとも一人以上のユーザによる入力に対し応答を提示する機能を有する情報提示装置であって、前記入力と前記応答の履歴である対話履歴から対話規則を生成し、前記対話履歴と前記対話規則から拡張規則を生成する対話規則構築部と、前記入力に対応するルールを前記対話規則より取得する制御部であって、ユーザとの双方向の対話を制御する制御部と、前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定部と、特定された前記識別子または前記指定子に基づいて前記コンテンツと共に前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示部と、を備える、前記対話規則とは、入力とルールとの対応関係を定義した規則であり、前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、ことを特徴とする情報提示装置である。
(1) The present invention has been made to solve the above problems, and one aspect of the present invention is an information presenting device having a function of presenting a response to an input by at least one or more users. , A dialogue rule construction unit that collects content, generates a dialogue rule from the collected content, and generates an extended rule from the collected content and the dialogue rule, and obtains a rule corresponding to the input from the dialogue rule. A control unit, which is a control unit that controls a two-way dialogue with a user, and a specific unit that acquires extended presentation information corresponding to the acquired rule from the extended rule, based on the extended presentation information. A specific part that specifies either an identifier that specifies an element of the content used in the response or a specifier that specifies a subset of the components of the content used in the response, and the identified identifier or the designation. The dialogue rule is a rule that defines a correspondence relationship between an input and a rule , and includes a presentation unit that performs an extended presentation that attracts attention to a specific area in the content together with the content based on a child. The extended rule is a rule that defines a correspondence relationship between a rule and extended presentation information, and the extended presentation information includes at least information indicating a portion to be extended and presented in the content. It is a device.
Further, one aspect of the present invention is an information presenting device having a function of presenting a response to an input by at least one or more users, and generating a dialogue rule from a dialogue history which is a history of the input and the response. , A dialogue rule construction unit that generates an extended rule from the dialogue history and the dialogue rule, and a control unit that acquires a rule corresponding to the input from the dialogue rule, and controls two-way dialogue with the user. A unit and a specific unit that acquires extended presentation information corresponding to the acquired rule from the extended rule, and is an identifier that specifies an element of content used in the response based on the extended presentation information, or the response. A specific part that specifies one of the specifiers that specifies a subset of the components of the content to be used, and a specific area within the content with the content based on the identified identifier or the specifier. The dialogue rule, which comprises a presentation unit that performs an extended presentation that attracts attention, is a rule that defines a correspondence relationship between an input and a rule, and the extended rule is a correspondence relationship between a rule and the extended presentation information. It is a defined rule, and the extended presentation information is an information presenting device characterized in that it includes at least information indicating a portion to be extendedly presented in the content.

(2)本発明の一態様としては、前記拡張提示は、コンテンツの選択・移動、注釈や補足情報の重畳描画、非注目領域の隠消、注目領域と非注目領域と間の色相・彩度・明度または透過度の差異化、および前記注目領域の時間的な提示状態変化の少なくとも一つを用いた提示である、ことを特徴とする(1)に記載の情報提示装置である。 (2) As one aspect of the present invention, the extended presentation includes selection / movement of content, superimposed drawing of annotations and supplementary information, hiding of non-attention areas, and hue / saturation between attention areas and non-attention areas. The information presenting apparatus according to (1), wherein the presentation is performed by differentiating the brightness or the transparency and using at least one of the temporal presentation state changes of the region of interest.

(3)本発明の一態様としては、前記提示部は、前記コンテンツの選択・移動を用いた前記拡張提示において、ユーザが辿った経路に関する情報、階層構造を持つコンテンツの場合においては現在の階層および前記階層の性質に関する情報、または、複数の移動を伴う場合においてはユーザが辿った経路および残りの経路に関する情報を提示することを特徴とする(2)に記載の情報提示装置である。 (3) As one aspect of the present invention, the presenting unit is the information about the route followed by the user in the extended presentation using the selection / movement of the content, and in the case of the content having a hierarchical structure, the current hierarchy. The information presenting device according to (2), which presents information on the nature of the hierarchy, or information on the route followed by the user and the remaining routes when a plurality of movements are involved.

(4)本発明の一態様としては、前記コンテンツは、構造化文書を構成要素の一部として持つコンテンツであり、前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、ことを特徴とする(2)に記載の情報提示装置である。 (4) In one aspect of the present invention, the content is content having a structured document as a part of the constituent elements, and the specific unit includes an identifier indicating the content element or a subset of the constituent elements of the content. The information presenting apparatus according to (2), wherein at least one of the indicated specifiers can be extracted.

(5)本発明の一態様としては、前記構造化文書は、前記コンテンツ要素が並列または再帰的に繰り返す階層によって構造化された文書であり、前記特定部は、前記文書を構造化する階層の構造を木構造として認識し、前記木構造における特定の要素の位置を指定する手段、または前記木構造において特定の要素以下を構成する部分木を指定する手段により、前記拡張提示に必要な前記識別子または前記指定子を特定する、ことを特徴とする(4)に記載の情報提示装置である。 (5) In one aspect of the present invention, the structured document is a document structured by a hierarchy in which the content elements are repeated in parallel or recursively, and the specific part is a hierarchy in which the document is structured. The identifier required for the extended presentation by means of recognizing a structure as a tree structure and designating the position of a specific element in the tree structure, or by designating a subtree that constitutes a specific element or less in the tree structure. Alternatively, the information presenting device according to (4), characterized in that the specifier is specified.

(6)本発明の一態様としては、前記コンテンツは、静止画または動画を構成要素の一部として持つコンテンツであり、前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、ことを特徴とする請求項(2)に記載の情報提示装置である。 (6) In one aspect of the present invention, the content is content having a still image or a moving image as a part of a component, and the specific part is an identifier indicating the content element or a subset of the component of the content. The information presenting apparatus according to claim (2), wherein at least one of the specifiers indicating the above can be extracted.

(7)本発明の一態様としては、前記特定部は、前記識別子、または予め学習した前記指定子の少なくとも一方を特定する、ことを特徴とする(6)に記載の情報提示装置である。 (7) As one aspect of the present invention, the information presenting device according to (6), wherein the specific unit specifies at least one of the identifier and the pre-learned specifier.

(8)本発明の一態様としては、前記コンテンツは、音響信号を構成要素の一部として持つコンテンツであり、前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、ことを特徴とする(2)に記載の情報提示装置である。 (8) In one aspect of the present invention, the content is content having an acoustic signal as a part of the component, and the specific unit indicates an identifier indicating the content element or a subset of the component of the content. The information presenting apparatus according to (2), wherein at least one of the specifiers can be extracted.

(9)本発明の一態様としては、前記指定子は、音響信号に付随するメタデータ、歌詞、チャプター、またはタイムコードのうち少なくとも1つ以上を指定する、ことを特徴とする(8)に記載の情報提示装置である。 (9) One aspect of the present invention is characterized in that the specifier specifies at least one or more of metadata, lyrics, chapters, or time codes associated with an acoustic signal (8). The information presentation device described.

(10)本発明の一態様としては、前記コンテンツは、三次元モデルを構成要素の一部として持つコンテンツであり、前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、ことを特徴とする(2)に記載の情報提示装置である。 (10) In one aspect of the present invention, the content is content having a three-dimensional model as a part of the constituent elements, and the specific unit includes an identifier indicating the content element or a subset of the constituent elements of the content. The information presenting apparatus according to (2), wherein at least one of the indicated specifiers can be extracted.

(11)本発明の一態様としては、前記指定子は、頂点座標集合、辺集合、または面集合を指定する、ことを特徴とする(10)に記載の情報提示装置である。 (11) One aspect of the present invention is the information presenting device according to (10), wherein the specifier specifies a vertex coordinate set, an edge set, or a face set.

(12)本発明の一態様としては、前記提示部は、前記入力と前記応答との対応関係を定義した対話規則と、コンテンツ要素を示す識別子、または前記コンテンツの構成要素であるコンテンツ要素の部分集合を指定する指定子と前記対話規則との対応関係を定義した拡張規則との少なくとも一方を用いて前記拡張提示を行う、ことを特徴とする(1)に記載の情報提示装置である。 (12) In one aspect of the present invention, the presentation unit is a dialogue rule that defines a correspondence between the input and the response, an identifier indicating the content element, or a portion of the content element that is a component of the content. The information presenting apparatus according to (1), wherein the extended presentation is performed using at least one of a specifier that specifies a set and an extended rule that defines a correspondence between the dialogue rule.

(13)本発明の一態様としては、前記拡張提示は、識別子または指定子と対話規則との関連性を定義する場合において、前記識別子または前記指定子を直接的な表現で記述する方法、または、任意の前記識別子または前記指定子と一意の記号列を対で記録したデータ群から前記記号列を用いて間接的な表現で記述する方法を用いる、ことを特徴とする(12)に記載の情報提示装置である。 (13) In one aspect of the present invention, the extended presentation is a method of describing the identifier or the specifier in a direct expression when defining the relationship between the identifier or the specifier and the dialogue rule, or , A method described in an indirect expression using the symbol string from a data group in which an arbitrary identifier or a symbol string unique to the specifier is recorded as a pair is used. It is an information presentation device.

(14)本発明の一態様としては、ユーザによる入力に対し応答を提示する機能を有するコンピュータを用いた情報提示方法であって、対話規則構築部が、コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築ステップと、制御部が、前記入力に対応するルールを前記対話規則より取得し、ユーザとの双方向の対話を制御する制御ステップと、特定部が、前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定ステップと、提示部が、特定された前記識別子または前記指定子に基づいて前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示ステップと、を有し、前記対話規則とは、入力とルールとの対応関係を定義した規則であり、前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、ことを特徴とする情報提示方法である。 (14) One aspect of the present invention is an information presentation method using a computer having a function of presenting a response to an input by a user, in which a dialogue rule construction unit collects content and uses the collected content. A dialogue rule construction step that generates a dialogue rule and generates an extended rule from the collected contents and the dialogue rule, and a control unit acquires a rule corresponding to the input from the dialogue rule and bidirectionally with the user. The control step that controls the dialogue and the specific unit are specific units that acquire the extended presentation information corresponding to the acquired rule from the extended rule, and are elements of the content used in the response based on the extended presentation information. A specific step that specifies either an identifier that specifies, or a specifier that specifies a subset of the content components used in the response, and a presenter based on the identified identifier or the specifier. It has a presentation step of performing an extended presentation that attracts attention to a specific area in the content, and the dialogue rule is a rule that defines a correspondence relationship between an input and a rule, and the extended rule is a rule. , The rule defines the correspondence between the rule and the extended presentation information, and the extended presentation information is an information presentation method characterized in that it includes at least information indicating a portion to be extended presentation in the content.

(15)本発明の一態様としては、ユーザによる入力に対し応答を提示する機能を有する情報提示システムであって、前記情報提示システムは、端末装置と情報提示装置とを有し、前記端末装置は、前記入力を受け付ける入力部と、前記入力部から入力された要求情報を前記情報提示装置へ送信する送信部と、を備え、前記情報提示装置は、コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築部と、前記入力に対応するルールを前記対話規則より取得する制御部であって、ユーザとの双方向の対話を制御する制御部と、前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定部と、特定された前記識別子または前記指定子に基づいて前記コンテンツと共に前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示部と、を備え、前記対話規則とは、入力とルールとの対応関係を定義した規則であり、前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、ことを特徴とする情報提示システムである。 (15) One aspect of the present invention is an information presentation system having a function of presenting a response to an input by a user, wherein the information presentation system has a terminal device and an information presentation device, and the terminal device. Includes an input unit that accepts the input and a transmission unit that transmits the request information input from the input unit to the information presenting device. The information presenting device collects content and uses the collected content. A dialogue rule construction unit that generates a dialogue rule and generates an extended rule from the collected contents and the dialogue rule, and a control unit that acquires a rule corresponding to the input from the dialogue rule, and is bidirectional with the user. A control unit that controls the dialogue of the above, and a specific unit that acquires the extended presentation information corresponding to the acquired rule from the extended rule, and specifies an element of the content used in the response based on the extended presentation information. A specific part that specifies either an identifier or a specifier that specifies a subset of the components of the content used in the response, and in the content along with the content based on the identified identifier or the specifier. The dialogue rule is a rule that defines a correspondence between an input and a rule, and the extended rule is a rule and an extended presentation. It is a rule that defines a correspondence relationship with information, and the extended presentation information is an information presentation system characterized in that it includes at least information indicating a portion to be extended presentation in the content.

(16)本発明の一態様としては、ユーザによる入力に対し応答を提示する機能を有するコンピュータに、コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築ステップと、 前記入力に対応するルールを前記対話規則より取得し、ユーザとの双方向の対話を制御する制御ステップと、前記取得したルールに対応する拡張提示情報を前記拡張規則より取得し、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定ステップと、特定された前記識別子または前記指定子に基づいて前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示ステップと、を実行させるためのプログラムであって、前記対話規則とは、入力とルールとの対応関係を定義した規則であり、前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、プログラムである。 (16) As one aspect of the present invention, content is collected on a computer having a function of presenting a response to input by a user, a dialogue rule is generated from the collected content, and the collected content and the dialogue rule are generated. A dialogue rule construction step that generates an extended rule from, a control step that acquires a rule corresponding to the input from the dialogue rule and controls a two-way dialogue with the user, and extended presentation information corresponding to the acquired rule. Is obtained from the extended rule, and based on the extended presentation information , either an identifier that specifies an element of the content used in the response or a specifier that specifies a subset of the components of the content used in the response. A program for executing a specific step for specifying a specific step and an extended presentation for attracting attention to a specific area in the content based on the specified identifier or the specifier . The dialogue rule is a rule that defines the correspondence between the input and the rule, the extended rule is a rule that defines the correspondence between the rule and the extended presentation information, and the extended presentation information is at least the said. It is a program that includes information indicating the parts to be extended and presented in the content.

本発明によれば、応答内容の提示における表現力を向上させるとともに、応答内容の生成や管理を容易にすることができる。 According to the present invention, it is possible to improve the expressiveness in presenting the response content and facilitate the generation and management of the response content.

本発明の実施形態に係る情報提示システム1の構成の一例を示す概略図である。It is the schematic which shows an example of the structure of the information presentation system 1 which concerns on embodiment of this invention. 本発明の実施形態に係る情報提示システム1の端末装置10におけるコンテンツの拡張提示の一例を示す図である。It is a figure which shows an example of extended presentation of the content in the terminal apparatus 10 of the information presentation system 1 which concerns on embodiment of this invention. 従来の対話システムにおける対話処理の一例を示す図である。It is a figure which shows an example of the dialogue processing in the conventional dialogue system. 本発明の実施形態に係る情報提示システム1の情報提示処理の一例を示す図である。It is a figure which shows an example of the information presentation processing of the information presentation system 1 which concerns on embodiment of this invention. 本発明の実施形態に係る情報提示システム1の情報提示装置20の機能構成を示すブロック図である。It is a block diagram which shows the functional structure of the information presentation apparatus 20 of the information presentation system 1 which concerns on embodiment of this invention. 本発明の実施形態に係る情報提示システム1の情報提示処理の動作を示すフローチャートである。It is a flowchart which shows the operation of the information presentation processing of the information presentation system 1 which concerns on embodiment of this invention. 本発明の実施形態に係る情報提示システム1の応答処理の動作を示すフローチャートである。It is a flowchart which shows the operation of the response processing of the information presentation system 1 which concerns on embodiment of this invention. 本発明の実施形態に係る情報提示システム1の規則構築処理の動作を示すフローチャートである。It is a flowchart which shows the operation of the rule construction processing of the information presentation system 1 which concerns on embodiment of this invention. は、本発明の実施形態に係る情報提示システム1によって提示される情報提示画面の一例を示す概略図である。Is a schematic diagram showing an example of an information presentation screen presented by the information presentation system 1 according to the embodiment of the present invention.

(実施形態)
以下、本発明の実施形態について、図面を参照しながら説明する。
(情報提示システムの構成)
図1は、本発明の実施形態に係る情報提示システム1の構成の一例を示す概略図である。
(Embodiment)
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(Configuration of information presentation system)
FIG. 1 is a schematic view showing an example of the configuration of the information presentation system 1 according to the embodiment of the present invention.

情報提示システム1は、端末装置10と、情報提示装置20と、を含んで構成される。情報提示システム1の端末装置10は、ユーザからの情報提示要求を取得し、当該情報提示要求を示す要求情報を情報提示装置20へ送信する。情報提示装置20は、情報提示要求に対する応答において提示するコンテンツ、および当該コンテンツの提示を拡張するために用いられる情報である拡張提示情報と、前記要求情報に該当するルールと、を対応付けて記憶している。情報提示装置20は、端末装置10から取得した要求情報を解析し、当該要求情報に該当するルール(対話規則)を抽出する。そして、情報提示装置20は、抽出したルールに対応するコンテンツを、抽出したルールに対応する拡張提示情報に基づいて拡張して提示する。 The information presentation system 1 includes a terminal device 10 and an information presentation device 20. The terminal device 10 of the information presentation system 1 acquires an information presentation request from the user and transmits the request information indicating the information presentation request to the information presentation device 20. The information presenting device 20 stores the content to be presented in the response to the information presentation request, the extended presentation information which is the information used to extend the presentation of the content, and the rule corresponding to the request information in association with each other. doing. The information presenting device 20 analyzes the request information acquired from the terminal device 10 and extracts a rule (dialogue rule) corresponding to the request information. Then, the information presenting device 20 expands and presents the content corresponding to the extracted rule based on the extended presentation information corresponding to the extracted rule.

以下に、本発明の実施形態に係る情報提示システム1の構成について、更に詳細に説明する。
端末装置10は、情報の提示を要求するユーザによって使用する端末、例えば、スマートフォン、またはタブレット型端末である。端末装置10は、ユーザの発話(情報提示要求)による音声を、自らの端末装置10が備える入力部(図示せず、例えばマイクロフォン)によって取得する。端末装置10は、取得した音声を音声データ(要求情報)に変換する。端末装置10は、自らの端末装置10が備える送信部(図示せず、例えばアンテナ)により、当該音声データ(要求情報)を、通信ネットワークを介して情報提示装置20へ送信する。
The configuration of the information presentation system 1 according to the embodiment of the present invention will be described in more detail below.
The terminal device 10 is a terminal used by a user who requests the presentation of information, for example, a smartphone or a tablet type terminal. The terminal device 10 acquires the voice of the user's utterance (information presentation request) by the input unit (not shown, for example, a microphone) included in the terminal device 10. The terminal device 10 converts the acquired voice into voice data (request information). The terminal device 10 transmits the voice data (request information) to the information presenting device 20 via a communication network by a transmission unit (not shown, for example, an antenna) included in the terminal device 10.

情報提示装置20は、端末装置10から取得した音声データ(要求情報)に基づく情報提示要求に対する応答のためのコンテンツを生成する。情報提示装置20は、生成したコンテンツを端末装置10へ提示するサーバ装置、例えば、汎用コンピュータ、またはパーソナルコンピュータである。 The information presenting device 20 generates content for responding to an information presenting request based on voice data (request information) acquired from the terminal device 10. The information presenting device 20 is a server device that presents the generated content to the terminal device 10, for example, a general-purpose computer or a personal computer.

情報提示装置20は、音声認識技術により、端末装置10から取得した音声データを、情報提示要求を示す文字データへ変換する。また、情報提示装置20は、当該文字データによって示される情報提示要求のパターンを表すルールと、当該ルールに該当する場合に端末装置10へ提示するコンテンツ、および当該コンテンツの提示を拡張するために用いられる情報である拡張提示情報と、を対応付けて記憶している(または、対応付けるためのアルゴリズムを保持している)。
情報提示装置20は、変換した文字データを解析して当該文字データに該当するルールを抽出する。情報提示装置20は、抽出したルールに対応するコンテンツを提示すると共に、抽出したルールに対応する拡張提示情報に基づいてコンテンツを拡張して提示する。
The information presenting device 20 converts the voice data acquired from the terminal device 10 into character data indicating an information presentation request by the voice recognition technology. Further, the information presenting device 20 is used to extend a rule representing the pattern of the information presentation request indicated by the character data, the content to be presented to the terminal device 10 when the rule is applicable, and the presentation of the content. The extended presentation information, which is the information to be received, is stored in association with each other (or an algorithm for associating is held).
The information presenting device 20 analyzes the converted character data and extracts a rule corresponding to the character data. The information presenting device 20 presents the content corresponding to the extracted rule, and expands and presents the content based on the extended presentation information corresponding to the extracted rule.

なお、コンテンツは、情報提示装置20に格納されていてもよいし、外部のサーバ装置である少なくとも1つのコンテンツサーバ30から情報提示装置20が取得するようにしてもよい。その場合、情報提示装置20は、情報提示要求のパターンを表すルールと、当該ルールに該当する場合に端末装置10へ提示するコンテンツの格納場所を示す情報(例えば、URL)、および拡張提示情報と、を対応付けて記憶している。 The content may be stored in the information presenting device 20, or may be acquired by the information presenting device 20 from at least one content server 30 which is an external server device. In that case, the information presenting device 20 includes a rule representing the pattern of the information presenting request, information indicating the storage location of the content to be presented to the terminal device 10 when the rule is met (for example, a URL), and extended presentation information. , Are associated and stored.

なお、本実施形態においては、情報提示装置20が、音声データから文字データへ変換するものとしたが、これに限られない。例えば、端末装置10が、音声データから文字データへ変換して、当該文字データを情報提示装置へ送信するようにしてもよい。
または、情報提示装置20が、端末装置10から取得した音声データを、音声データから文字データへ変換可能な外部のサーバ(図示せず)へ送信し、当該外部のサーバから文字データを取得するようにしてもよい。
In the present embodiment, the information presenting device 20 converts the voice data into the character data, but the present invention is not limited to this. For example, the terminal device 10 may convert the voice data into character data and transmit the character data to the information presenting device.
Alternatively, the information presenting device 20 transmits the voice data acquired from the terminal device 10 to an external server (not shown) capable of converting the voice data into character data, and acquires the character data from the external server. You may do it.

なお、本実施形態においては、端末装置10が備えるマイクロフォン(図示せず)によってユーザからの情報提示要求が入力されるものとしたが、これに限られない。例えば、人間の意図を伝えることができるデバイス(または、センサ)であれば、何でもよい。例えば、文字情報がキーボードやタッチパネルによって入力されるような構成であってもよい。または、例えば、人間のジェスチャによって示される情報がカメラによって入力されるような構成であってもよい。 In the present embodiment, the information presentation request from the user is input by the microphone (not shown) included in the terminal device 10, but the present invention is not limited to this. For example, any device (or sensor) capable of communicating human intentions may be used. For example, the character information may be input by a keyboard or a touch panel. Alternatively, for example, the information presented by the human gesture may be input by the camera.

なお、本実施形態においては、端末装置10と情報提示装置20とは別々の装置であるものとしたが、これに限られない。例えば、本実施形態に係る端末装置10の機能と情報提示装置20の機能とが、いずれもユーザが所持するスマートフォンに備えられているような構成であってもよい。
なお、本実施形態においては、情報提示装置20で決定される提示情報は拡張提示情報を含まない場合もある。例えば、「はい/いいえ」で応答するようなクローズド・クエスチョンのような場合である。
In the present embodiment, the terminal device 10 and the information presenting device 20 are separate devices, but the present invention is not limited to this. For example, the function of the terminal device 10 and the function of the information presenting device 20 according to the present embodiment may both be provided in the smartphone possessed by the user.
In the present embodiment, the presentation information determined by the information presentation device 20 may not include the extended presentation information. For example, a closed question that responds with "yes / no".

(コンテンツの拡張提示の実施例)
次に、拡張提示情報に基づくコンテンツの拡張された提示(以下、拡張提示とも称する)の一例について説明する。
図2は、本発明の実施形態に係る情報提示システム1の端末装置10におけるコンテンツの拡張提示の一例を示す図である。
図2(A)に図示するように、端末装置10が備える表示部100(本実施例においては、ディスプレイ)には、コンテンツct01が表示されている。本実施例においては、コンテンツct01は、各種の情報を提供するウェブサイトである。表示部100には、ウェブサイトであるコンテンツct01の他に、拡張提示ext01と拡張提示ext02が表示されている。
(Example of extended presentation of content)
Next, an example of an extended presentation of the content based on the extended presentation information (hereinafter, also referred to as an extended presentation) will be described.
FIG. 2 is a diagram showing an example of extended presentation of contents in the terminal device 10 of the information presentation system 1 according to the embodiment of the present invention.
As shown in FIG. 2A, the content ct01 is displayed on the display unit 100 (display in this embodiment) included in the terminal device 10. In this embodiment, the content ct01 is a website that provides various types of information. In addition to the content ct01, which is a website, the display unit 100 displays the extended presentation ext01 and the extended presentation ext02.

拡張提示ext01は、コンテンツct01に含まれる文言の一部分(拡張提示の対象となる箇所)を太線で囲み、囲まれた部分を色付けすることによってユーザの注目を促すための拡張提示である。また、拡張提示ext02は、拡張提示の対象となる箇所を指す吹き出しを表示することによって、拡張提示の対象となる箇所に関する補足情報をユーザへ提示するための拡張提示である。拡張提示ext01と同様に、拡張提示ext02も、太線によって吹き出しを表示し、吹き出しの内側を色付けすることによってユーザの注目を促すための拡張提示である。
なお、拡張提示は、拡張提示対象の範囲を色付けすることによる以外にも、例えば、拡張提示対象の範囲と拡張提示対象の範囲外とを、色相、彩度、明度、または透過度を異ならせることによる差異化によって行われてもよい。
The extended presentation ext01 is an extended presentation for attracting the user's attention by enclosing a part of the wording (the part to be the target of the extended presentation) included in the content ct01 with a thick line and coloring the enclosed portion. Further, the extended presentation ext02 is an extended presentation for presenting supplementary information about the target portion of the extended presentation to the user by displaying a balloon pointing to the target portion of the extended presentation. Like the extended presentation ext01, the extended presentation ext02 is also an extended presentation for displaying a balloon with a thick line and coloring the inside of the balloon to attract the attention of the user.
In the extended presentation, in addition to coloring the range of the extended presentation target, for example, the hue, saturation, lightness, or transparency of the range of the extended presentation target and the outside of the range of the extended presentation target are different. It may be done by differentiating by.

また、拡張提示ext01、および拡張提示ext02は、いずれも半透明で表示され、コンテンツct01に重畳しているように表示される(重畳描画される)。これにより、情報提示装置20は、コンテンツct01に含まれる情報が拡張提示ext01および拡張提示ext02によって覆い隠されてユーザにより視認できなくなることを防ぐことができる。 Further, the extended presentation ext01 and the extended presentation ext02 are both displayed in a semi-transparent manner, and are displayed as if they are superimposed on the content ct01 (superimposed drawing). As a result, the information presenting device 20 can prevent the information contained in the content ct01 from being obscured by the extended presentation ext01 and the extended presentation ext02 and becoming invisible to the user.

なお、コンテンツct01の特定の箇所の指定は、例えば、マークアップ言語XML(Extensible Markup Language;エクステンシブル マークアップ ランゲージ)に準拠した文書の特定の部分を指定する言語構文であるXPath(XML Path Language;XMLパス言語)を用いることによって行うことができる。 The specification of a specific part of the content ct01 is, for example, XPath (XML Path Language;), which is a language syntax for designating a specific part of a document conforming to the markup language XML (XML (XML) Language). It can be done by using XML path language).

上述したように、情報提示装置20は、コンテンツ(例えば、コンテンツct01、またはコンテンツct01の格納場所を示すデータ)、および拡張提示(例えば、拡張提示ext01、および拡張提示ext02)と、情報提示要求のパターンを表すルールとを対応付けて記憶している。 As described above, the information presenting device 20 includes the content (for example, the content ct01 or the data indicating the storage location of the content ct01), the extended presentation (for example, the extended presentation ext01 and the extended presentation ext02), and the information presentation request. It is stored in association with the rule representing the pattern.

なお、図2(A)に示す拡張提示の実施例においては拡張提示箇所(注目領域)に色付けをするものとしたが、例えば、図2(B)のように、拡張提示箇所ではない範囲(非注目領域、すなわち、拡張提示ext03および拡張提示ext04以外の領域)を、逆に暗く(隠消)して目立たなくすることによって、コンテンツct02における拡張提示箇所にユーザの注目を促すような拡張提示であってもよい。 In the example of the extended presentation shown in FIG. 2A, the extended presentation portion (attention area) is colored, but as shown in FIG. 2B, for example, a range that is not the extended presentation portion ( The non-attention area, that is, the area other than the extended presentation ext03 and the extended presentation ext04) is conversely darkened (hidden) to make it inconspicuous, so that the extended presentation portion in the content ct02 is attracted by the user. It may be.

また、上述したような、コンテンツの背景色や拡張提示箇所の背景色を変更する拡張提示ではなく、例えば、コンテンツに含まれる文字の文字色や拡張提示が提示する文字の文字色を変更するような拡張提示であってもよい。 Further, instead of changing the background color of the content or the background color of the extended presentation portion as described above, for example, the character color of the characters included in the content or the character color of the characters presented by the extended presentation should be changed. It may be an extended presentation.

また、例えば、コンテンツであるウェブサイトを構成するHTMLコードの中の一部のタグを削除することによって、コンテンツの一部が表示しないようにするような拡張提示であってもよい。タグの削除は、例えば、JavaScript(登録商標)ライブラリであるJQuery(ジェイクエリー)等を用いることによって行うことができる。 Further, for example, the extended presentation may be such that a part of the content is not displayed by deleting a part of the tags in the HTML code constituting the website which is the content. The tag can be deleted by using, for example, JQuery (JQuery) which is a Javascript (registered trademark) library.

また、例えば、拡張提示対象の箇所のみ(または、拡張提示対象の箇所以外の範囲のみ)の提示状態が、時間とともに変化(時間的に提示状態変化)して表示されるような拡張提示であってもよい。 Further, for example, it is an extended presentation in which the presentation state of only the part to be extended presentation (or only the range other than the part to be extended presentation) is displayed changing with time (change in presentation state with time). You may.

例えば、拡張提示箇所に含まれる文字列の文字サイズ(フォントサイズ)や、拡張提示箇所に含まれる画像の画像サイズを、時間とともに繰り返し拡大・縮小するような(拡縮表示するような)拡張提示であってもよい。また、文字列のフォントデザインを変更するような拡張提示であってもよい。 For example, in an extended presentation in which the character size (font size) of the character string included in the extended presentation location and the image size of the image included in the extended presentation location are repeatedly enlarged / reduced (such as enlarged / reduced display) over time. There may be. Further, it may be an extended presentation that changes the font design of the character string.

また、例えば、コンテンツに重畳したように表示させる拡張提示(例えば、図2における拡張提示ext01、拡張提示ext02、拡張提示ext03、および拡張提示ext04)を、時間とともに(例えば、ディスプレイの奥行き方向に)回転しているように表示させるような(回転表示するような)拡張提示であってもよい。 Further, for example, an extended presentation (for example, extended presentation ext01, extended presentation ext02, extended presentation ext03, and extended presentation ext04 in FIG. 2) to be displayed as if superimposed on the content is displayed over time (for example, in the depth direction of the display). It may be an extended presentation that makes the display appear to be rotating (such as rotating the display).

また、例えば、コンテンツに重畳したように表示させる拡張提示(例えば、図2における拡張提示ext01、拡張提示ext02、拡張提示ext03、および拡張提示ext04)を、点滅して表示させるような(点滅表示するような)拡張提示であってもよい。 Further, for example, the extended presentation (for example, the extended presentation ext01, the extended presentation ext02, the extended presentation ext03, and the extended presentation ext04 in FIG. 2) to be displayed as if superimposed on the content is blinked and displayed (blinking display). It may be an extended presentation (such as).

なお、本実施例におけるコンテンツct01はウェブサイトであるものとしたが、コンテンツの種類は、これに限られない。コンテンツは、当該コンテンツを構成する要素であるコンテンツ要素である部分集合を指定できる(特定可能な)構造を持つコンテンツであれば何でもよい。例えば、コンテンツは、ウェブサイトやPDF、Wordファイルで作成されたマニュアルのような構造化文書を基に構築された文書、静止画、動画、音響信号(例えば、音声や音楽)、または三次元形状モデルデータ(立体データ)でもよい。
ここで言う文書(構造化文書)とは、例えば、当該文書の構成要素であるコンテンツ要素が並列または再帰的に繰り返す階層によって構造化された文書であり、情報提示装置20は、構造化に応じたナビゲーションを行い特定のコンテンツ要素を指定する手段により当該コンテンツ要素を特定する。
Although the content ct01 in this embodiment is assumed to be a website, the type of content is not limited to this. The content may be any content having a structure that can specify (identifiable) a subset that is a content element that is an element that constitutes the content. For example, the content can be a document built on a structured document such as a website, PDF, or a manual created in a Word file, a still image, a video, an acoustic signal (eg, audio or music), or a three-dimensional shape. It may be model data (three-dimensional data).
The document (structured document) referred to here is, for example, a document structured by a hierarchy in which content elements that are constituent elements of the document are repeated in parallel or recursively, and the information presenting device 20 responds to the structuring. The content element is specified by means of performing navigation and designating a specific content element.

また、例えば、文書においての部分集合とは、本実施例における拡張提示ext01で囲まれた範囲に含まれる文言である。また、例えば、静止画における部分集合とは、画像に含まれる一部の画像領域である。また、例えば、動画や音楽における部分集合とは、一部のチャプター、動画や音楽の再生開始から特定の時間が経過した時点(すなわち、特定のタイムコード)から始まる一部の再生範囲である。また、例えば、音楽における部分集合とは、音響情報に付随するメタデータや歌詞等に基づく再生範囲である。また、例えば、三次元形状モデルデータにおける部分集合とは、頂点座標集合、辺集合、または面集合等である。 Further, for example, the subset in the document is a wording included in the range surrounded by the extended presentation ext01 in the present embodiment. Further, for example, a subset in a still image is a part of an image area included in an image. Further, for example, a subset in a moving image or music is a part of a chapter, or a part of a reproduction range starting from a time when a specific time elapses from the start of reproduction of the moving image or music (that is, a specific time code). Further, for example, a subset in music is a reproduction range based on metadata, lyrics, and the like associated with acoustic information. Further, for example, the subset in the three-dimensional shape model data is a vertex coordinate set, an edge set, a face set, or the like.

これにより、情報提示装置20は、例えば、コンテンツが静止画である場合には、画像に含まれる一部の領域を囲む拡張提示をしたり、拡張提示によって囲まれた範囲に吹き出しを付けて補足情報を提示するような更なる拡張提示をしたりすることができる。
また、情報提示装置20は、例えば、コンテンツが動画や音楽である場合には、動画や音楽の冒頭から再生するのではなく、動画や音楽の中の特定の箇所のみを再生するような拡張提示をしたり、動画や音楽の中の特定の箇所が再生されている時に画面に補足情報を表示するような拡張提示をしたりすることができる。
As a result, for example, when the content is a still image, the information presenting device 20 makes an extended presentation that surrounds a part of the area included in the image, or adds a balloon to the range surrounded by the extended presentation to supplement the content. Further extended presentations such as presenting information can be made.
Further, for example, when the content is a moving image or music, the information presenting device 20 does not reproduce from the beginning of the moving image or music, but reproduces only a specific part in the moving image or music. Or you can make an extended presentation that displays supplementary information on the screen when a specific part of the video or music is playing.

(ルール抽出の実施例)
次に、情報提示装置20が、ユーザからの情報提示要求を示す要求情報を解析してルールを抽出し、抽出されたルールに対応する拡張提示を決定する処理の実施例について説明する。
まず、従来の対話システムにおいて一般的(もっともナイーブな)なルール抽出および対話処理の一例について図面を参照しながら説明する。
図3は、従来の対話システムにおける対話処理の一例を示す図である。
(Example of rule extraction)
Next, an example of a process in which the information presenting device 20 analyzes request information indicating an information presentation request from a user, extracts a rule, and determines an extended presentation corresponding to the extracted rule will be described.
First, an example of general (most naive) rule extraction and dialogue processing in a conventional dialogue system will be described with reference to the drawings.
FIG. 3 is a diagram showing an example of dialogue processing in a conventional dialogue system.

図3における各行は、ユーザから対話システムへの1回の問い掛け(例えば、情報提示要求)、または対話システムからユーザへの1回の応答を表すステップを示している。
図示するように、例えば、ステップst01では、話者はユーザであり、ユーザから対話システムへ向けて「こんにちは」という問い掛けが行われたことを表す(ステップst01)。
Each line in FIG. 3 shows a step representing a single question from the user to the dialogue system (eg, an information presentation request) or a single response from the dialogue system to the user.
As shown in the figure, for example, in step st01, the speaker is a user, and the user asks the dialogue system "hello" (step st01).

対話システムは、ユーザの発話に基づく音声データを取得し、音声認識技術により「こんにちは」という文字データを取得する。対話システムは、ルールと応答内容との対応関係を示すテーブルを予め記憶している。対話システムは、取得した「こんにちは」という文字列に対応するルールを、当該テーブルにおいて検索する。テーブルには、例えば、「こんにちは*」というルールと、「こんにちは」という応答内容を示すデータとが対応付けて記憶されている。「*(アスタリスク)」は基本正規表現における表現方法であり、0文字以上の任意の文字列を表す。すなわち、このルールは、ユーザからの問い掛けにおける冒頭の文字列が「こんにちは」であった場合には、「こんにちは」という応答をすることを表す。対話システムは、このルールに基づき、ユーザに対し「こんにちは」という応答をする(ステップst02)。なお、応答は、スピーカを介して音声によって行われてもよいし、画面に表示される文字によって行われてもよい。 The dialogue system acquires voice data based on the user's utterance, and acquires the character data of "hello" by voice recognition technology. The dialogue system stores in advance a table showing the correspondence between the rule and the response content. The dialogue system searches the table for the rule corresponding to the acquired character string "hello". In the table, for example, the rule "Hello *" and the data indicating the response content of "Hello" are stored in association with each other. "* (Asterisk)" is an expression method in the basic regular expression, and represents an arbitrary character string of 0 or more characters. That is, this rule indicates that if the first character string in the question from the user is "hello", the response is "hello". Based on this rule, the dialogue system responds to the user with "hello" (step st02). The response may be made by voice through the speaker or by characters displayed on the screen.

次に、ユーザが対話システムに対し、「あなたの名前は何?」という問い掛けを行ったとする(ステップst03)。 Next, suppose that the user asks the dialogue system "What is your name?" (Step st03).

対話システムは、ユーザの発話に基づく音声データを取得し、「あなたの名前は何?」という文字データを取得する。対話システムは、取得した「あなたの名前は何?」という文字列に対応するルールを、テーブルにおいて検索する。テーブルには、例えば、「*名前*何*」というルールと、「xxです」という応答内容を示すデータが対応付けて記憶されている。すなわち、このルールは、ユーザからの問い掛けに含まれる文字列が「*名前*何*」であった場合には、「xxです」という応答をすることを表す。対話システムは、このルールに基づき、ユーザに対し「xxです」という応答をする(ステップst04)。 The dialogue system acquires voice data based on the user's utterance, and acquires character data such as "What is your name?". The dialogue system searches the table for the rule corresponding to the acquired character string "What is your name?". In the table, for example, the rule "* name * what *" and the data indicating the response content "xx" are stored in association with each other. That is, this rule indicates that when the character string included in the question from the user is "* name * what *", the response "is xx" is given. Based on this rule, the dialogue system responds to the user as "xx" (step st04).

次に、本発明の実施形態に係る情報提示システム1におけるルール抽出および情報提示処理について図面を参照しながら説明する。
図4は、本発明の実施形態に係る情報提示システム1の情報提示処理の一例を示す図である。
図3と同様に、図4における各行は、ユーザから情報提示システム1への1回の問い掛け(情報提示要求)、または情報提示システム1からユーザへの1回の応答を表すステップを示している。
Next, the rule extraction and the information presentation process in the information presentation system 1 according to the embodiment of the present invention will be described with reference to the drawings.
FIG. 4 is a diagram showing an example of information presentation processing of the information presentation system 1 according to the embodiment of the present invention.
Similar to FIG. 3, each line in FIG. 4 shows a step representing one question from the user to the information presentation system 1 (information presentation request) or one response from the information presentation system 1 to the user. ..

図示するように、まずユーザは、情報提示システム1へ向けて「XXの方法を教えて」という問い掛けを行ったとする(ステップst11)。 As shown in the figure, it is assumed that the user first asks the information presentation system 1 "Tell me the method of XX" (step st11).

情報提示システム1は、ユーザの発話に基づく音声データを取得し、音声認識技術により「XXの方法を教えて」という文字データを取得する。情報提示システム1は、ルールと、コンテンツおよび拡張提示情報と、を対応付けたテーブルを予め記憶している。情報提示システム1は、取得した「XXの方法を教えて」という文字列に対応するルールを、当該テーブルにおいて検索する。テーブルには、例えば、「{録画|再生}*方法*教え*」というルールと、「move:{http://・・・} annotate1:{<h1>} annotate2:{・・・}」というデータとが対応付けて記憶されている。 The information presentation system 1 acquires voice data based on the user's utterance, and acquires character data "Tell me the method of XX" by voice recognition technology. The information presentation system 1 stores in advance a table in which rules, contents, and extended presentation information are associated with each other. The information presentation system 1 searches the table for the rule corresponding to the acquired character string "Tell me the method of XX". On the table, for example, the rule "{recording | playback} * method * teaching *" and "move: {http: // ...} annotate1: {<h1>} annotate2: {...}" The data is stored in association with the data.

「|(縦線)」は拡張正規表現における表現方法であり、「または」(OR条件)を表す。また、「move:{指定子X}」は、「{指定子X}」内に対応付けられたURLよって指定される箇所へ移動することを表す。また、「annotate1:{指定子Y}」は、「{指定子Y(<h1>)}」内に記述されたタグが拡張提示の対象となるタグであることを表す。なお、「<h1>」は、最上位の見出しを表すタグである。また、「annotate2:{指定子Z}」は、「annotate2:{指定子Z}」によって指定されたタグに対して、「{指定子Z}」内に記述された文字列を注釈として付与することを表す。 "| (Vertical line)" is an expression method in the extended regular expression, and represents "or" (OR condition). Further, "move: {specifier X}" indicates that the user moves to a location designated by the URL associated with "{specifier X}". Further, "annotate1: {designator Y}" indicates that the tag described in "{specifier Y (<h1>)}" is a tag to be extended presentation. In addition, "<h1>" is a tag representing the top heading. Further, "annotate2: {specifier Z}" adds a character string described in "{specifier Z}" as an annotation to the tag specified by "annotate2: {specifier Z}". Represents that.

すなわち、このルールは、ユーザからの問い掛けに含まれる文字列が「(録画または再生)*方法*教え*」に該当する場合には、例えば、「指定子X」のURLによって指定されるウェブサイトにおける最上位の見出しの部分を強調表示する拡張提示を行い、更に強調表示した部分に対して吹き出しを重畳描画することによって注釈を付与したコンテンツを提示することを表す。情報提示システム1は、このルールに基づき、ユーザに対し情報提示をする応答を行う(ステップst12)。(なお、ユーザの発話の「XX」の部分には、「録画」または「再生」の文字列が含まれているものとする。) That is, this rule is that when the character string included in the question from the user corresponds to "(recording or playback) * method * teaching *", for example, the website specified by the URL of "specifier X". Indicates that the extended presentation that highlights the top-level heading part in the above is performed, and the annotated content is presented by superimposing and drawing a balloon on the highlighted part. The information presentation system 1 makes a response to present information to the user based on this rule (step st12). (It is assumed that the "XX" part of the user's utterance contains the character string "recording" or "playback".)

なお、対話規則および拡張規則を含む拡張提示情報の記述形式としては、例えば、XML、JSON(JavaScript(登録商標) Object Notation;ジェイソン)、PHP(ピー・エイチ・ピー)シリアライズ、またはCSV(Comma−Separated Values;シー・エス・ブイ)等、どのような記述形式が用いられてもよい。 The description format of the extended presentation information including the dialogue rule and the extended rule includes, for example, XML, JSON (Javascript® Object Notation; Jason), PHP (PHP) serialization, or CSV (Comma-). Any description format may be used, such as Serialized Values (CS Buoy).

なお、対話規則は、図3および図4のようにテキスト情報のみで構成される必要はない。同様に、マッチングはテキストの完全一致だけではなく部分一致やベクトル距離や類似度などを用いた手法で行うことも可能である。ベクトルを用いる場合はテキスト情報ではなく、テキストをベクトル化した値を保持しておき、距離や類似度を求めるアルゴリズムを用いて算出したスコアに基づいた応答を返す。 It should be noted that the dialogue rule does not have to be composed only of text information as in FIGS. 3 and 4. Similarly, matching can be performed not only by exact text matching, but also by partial matching, vector distance, similarity, and the like. When using a vector, the value obtained by vectorizing the text is retained instead of the text information, and a response based on the score calculated by using the algorithm for obtaining the distance and similarity is returned.

このように、本実施形態に係る情報提示システム1は、ユーザの情報提示要求のパターンを表すルールに対し、コンテンツ(または、コンテンツの格納場所)および拡張提示情報を対応付けて記憶しているため、従来の対話システムと比べて、応答内容の提示における表現力を向上させることができる。さらに、本実施形態に係る情報提示システム1は、応答内容をすべて文字データで表現する必要は無いため、予め記憶しておかれる応答内容の生成が容易になり、また、応答内容の作成コストを削減することができる。 As described above, the information presentation system 1 according to the present embodiment stores the content (or the storage location of the content) and the extended presentation information in association with the rule representing the pattern of the user's information presentation request. , It is possible to improve the expressiveness in presenting the response content as compared with the conventional dialogue system. Further, in the information presentation system 1 according to the present embodiment, since it is not necessary to express all the response contents with character data, it becomes easy to generate the response contents stored in advance, and the cost of creating the response contents is reduced. Can be reduced.

(情報提示装置の構成)
次に、情報提示装置20の機能構成について、図面を参照しながら説明する。
図5は、本発明の実施形態に係る情報提示システム1の情報提示装置20の機能構成を示すブロック図である。
情報提示システム1は、取得部201と、解析部202と、言語・概念知識格納部203と、対話制御部204と、対話規則格納部205と、応答生成部206と、拡張規則格納部207と、提示部208と、対話履歴格納部209と、対話規則構築部210と、を含んで構成される。
(Configuration of information presentation device)
Next, the functional configuration of the information presentation device 20 will be described with reference to the drawings.
FIG. 5 is a block diagram showing a functional configuration of the information presentation device 20 of the information presentation system 1 according to the embodiment of the present invention.
The information presentation system 1 includes an acquisition unit 201, an analysis unit 202, a language / concept knowledge storage unit 203, a dialogue control unit 204, a dialogue rule storage unit 205, a response generation unit 206, and an extended rule storage unit 207. , A presentation unit 208, a dialogue history storage unit 209, and a dialogue rule construction unit 210.

取得部201は、端末装置10から情報提示要求を示す要求情報を取得する外部入力インターフェースである。取得部201は、取得した要求情報を解析部202へ出力する。 The acquisition unit 201 is an external input interface that acquires request information indicating an information presentation request from the terminal device 10. The acquisition unit 201 outputs the acquired request information to the analysis unit 202.

なお、上述したように、情報提示装置20自体が直接ユーザからの入力を受け付ける装置である構成であっても構わない。その場合には、取得部201は、例えば、マイクロフォン、キーボード、またはカメラ等を含んで構成される。 As described above, the information presenting device 20 itself may be configured to receive input directly from the user. In that case, the acquisition unit 201 includes, for example, a microphone, a keyboard, a camera, and the like.

解析部202は、取得部201から入力された要求情報を文字データに変換する。なお、要求情報は、ユーザが入力するユーザインタフェースによってデータの種類が異なる。例えば、入力インターフェースがマイクロフォンであるならば要求情報は音声データであり、入力インターフェースがカメラであるならば要求情報は画像データである。また、入力インターフェースがキーボードであるならば、要求情報は既に文字データであるため、解析部202はデータ形式の変換を行う必要はない。 The analysis unit 202 converts the request information input from the acquisition unit 201 into character data. The type of data of the request information differs depending on the user interface input by the user. For example, if the input interface is a microphone, the request information is audio data, and if the input interface is a camera, the request information is image data. Further, if the input interface is a keyboard, the analysis unit 202 does not need to convert the data format because the request information is already character data.

解析部202は、言語・概念知識格納部203に格納された言語・概念知識情報に基づいて、要求情報を文字データへ変換する。言語・概念知識情報とは、同義関係や上位下位関係などの関係をグラフ構造でデータ化したものや、より複雑な関係や、関係の関係も含めてデータ化した情報である(例えば、「食べる」の主語は人や動物で、目的語は食べ物である、という関係など)。また、例えば、音声データや画像データ等と文字データとを対応付けて記憶される情報であるなどを含んでも良い。言語・概念知識情報は、予め外部API(Application Programming Interface;エー・ピー・アイ)を介して言語・概念知識格納部203に格納される。 The analysis unit 202 converts the request information into character data based on the language / concept knowledge information stored in the language / concept knowledge storage unit 203. Language / conceptual knowledge information is information in which relationships such as synonymous relationships and upper / lower relationships are converted into data in a graph structure, and information in which more complicated relationships and relationships are also converted into data (for example, "eat"). The subject of "is human or animal, and the object is food, etc.). Further, for example, it may include information stored in association with character data such as voice data and image data. The language / concept knowledge information is stored in the language / concept knowledge storage unit 203 in advance via an external API (Application Programming Interface).

言語・概念知識格納部203は、記憶媒体、例えば、HDD(Hard Disk Drive;ハードディスクドライブ)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory;イーイープロム)、ROM(Read Only Memory;読み出し専用メモリ)、RAM(Random Access read/write Memory;読み書き可能なメモリ)、又はそれらの任意の組み合わせを含んで構成される。
解析部202は、(ユーザの情報提示要求を示す)変換された文字データを、対話制御部204へ出力する。
また、解析部202、後述する対話制御部204、後述する応答生成部206、および後述する対話規則構築部210は、例えば、CPU(Central Processing Unit;中央演算処理装置)を含んで構成される。
The language / conceptual knowledge storage unit 203 includes a storage medium, for example, an HDD (Hard Disk Drive), a flash memory, an EEPROM (Electrical Erasable Programmable Read Only Memory), a ROM (Read Only Memory), and a ROM (Read Only Memory). , RAM (Random Access read / write memory), or any combination thereof.
The analysis unit 202 outputs the converted character data (indicating the user's information presentation request) to the dialogue control unit 204.
Further, the analysis unit 202, the dialogue control unit 204 described later, the response generation unit 206 described later, and the dialogue rule building unit 210 described later include, for example, a CPU (Central Processing Unit).

対話制御部204は、情報提示システム1のユーザからの情報提示要求と、当該情報提示要求に対する情報提示システム1による応答との双方向の対話を制御する。
対話制御部204は、対話規則格納部205に記憶されたルールのリストを決定し、解析部202から入力された文字データに該当するルール(対話規則)を取得する。例えば、図4に示した「XXの方法を教えて」という文字データが解析部202から入力され、対話制御部204は、当該文字データに該当するルールである「{録画|再生}*方法*教え*」を対話規則格納部205から取得する。対話規則格納部205は、記憶媒体、例えば、HDD、フラッシュメモリ、EEPROM、ROM、RAM、またはそれらの任意の組み合わせを含んで構成される。
対話制御部204は、対話規則格納部205から取得したルール、および文字データを応答生成部206へ出力する。
The dialogue control unit 204 controls a two-way dialogue between the information presentation request from the user of the information presentation system 1 and the response by the information presentation system 1 to the information presentation request.
The dialogue control unit 204 determines a list of rules stored in the dialogue rule storage unit 205, and acquires a rule (dialogue rule) corresponding to the character data input from the analysis unit 202. For example, the character data "Tell me the method of XX" shown in FIG. 4 is input from the analysis unit 202, and the dialogue control unit 204 has the rule "{recording | playback} * method *" corresponding to the character data. "Teaching *" is acquired from the dialogue rule storage unit 205. The dialogue rule storage unit 205 is configured to include a storage medium such as an HDD, a flash memory, an EEPROM, a ROM, a RAM, or any combination thereof.
The dialogue control unit 204 outputs the rules and character data acquired from the dialogue rule storage unit 205 to the response generation unit 206.

応答生成部206は、拡張規則格納部207に記憶された、ルールと拡張提示情報とが対応付けられたデータを決定し、対話制御部204から入力されたルールに対応する拡張提示情報を拡張規則格納部207から取得する。なお、拡張提示情報には、情報提示要求に対する応答に用いられるコンテンツそのもの(または、コンテンツの格納場所を示す情報)、コンテンツにおいて拡張提示(例えば、強調表示)する箇所を示す情報、および拡張提示対象の箇所に表示する補足情報(例えば、注釈を示す情報)が含まれる。拡張規則格納部207は、記憶媒体、例えば、HDD、フラッシュメモリ、EEPROM、ROM、RAM、またはそれらの任意の組み合わせを含んで構成される。
応答生成部206(特定部)は、当該拡張提示する箇所を示す情報に基づいて、拡張提示対象の箇所(コンテンツの特定の領域、またはコンテンツ要素のいずれか一方)を特定する。
応答生成部206は、拡張規則格納部207から入力された拡張提示情報、ルール、および文字データを、提示部208へ出力する。
The response generation unit 206 determines the data in which the rule and the extended presentation information are associated with each other stored in the extended rule storage unit 207, and extends the extended presentation information corresponding to the rule input from the dialogue control unit 204. Obtained from the storage unit 207. The extended presentation information includes the content itself (or information indicating the storage location of the content) used in the response to the information presentation request, information indicating the location of the extended presentation (for example, highlighting) in the content, and the extended presentation target. Supplementary information (for example, information indicating annotations) to be displayed in the place of is included. The extended rule storage unit 207 is configured to include a storage medium such as an HDD, a flash memory, an EEPROM, a ROM, a RAM, or any combination thereof.
The response generation unit 206 (specific unit) specifies a location (either a specific area of the content or a content element) to be extended presentation based on the information indicating the location to be extended and presented.
The response generation unit 206 outputs the extended presentation information, the rule, and the character data input from the extended rule storage unit 207 to the presentation unit 208.

提示部208は、応答生成部206から入力された拡張提示情報に基づいて、拡張提示情報が示すコンテンツに拡張提示情報が示す拡張提示を施したコンテンツを生成する。提示部208は、生成したコンテンツを示すデータを、端末装置10からの要求に応じて端末装置10へ送信する。または、提示部208は、生成したコンテンツを示すデータを、端末装置10へプッシュ配信する。 Based on the extended presentation information input from the response generation unit 206, the presentation unit 208 generates the content indicated by the extended presentation information with the extended presentation indicated by the extended presentation information. The presentation unit 208 transmits data indicating the generated content to the terminal device 10 in response to a request from the terminal device 10. Alternatively, the presentation unit 208 push-distributes the data indicating the generated content to the terminal device 10.

なお、上述したように、情報提示装置20自体が、ユーザに対して情報を直接提示する装置である構成であっても構わない。その場合には、提示部208は、ディスプレイ、例えば、液晶ディスプレイ、有機EL(Electroluminescence;イー・エル)ディスプレイ、等を含んで構成される。 As described above, the information presenting device 20 itself may be configured to directly present information to the user. In that case, the presentation unit 208 includes a display, for example, a liquid crystal display, an organic EL (Electroluminescence) display, and the like.

また、提示部208は、生成したコンテンツ、拡張提示情報、ルール、および文字データを、対話履歴格納部209へ出力する。 In addition, the presentation unit 208 outputs the generated content, extended presentation information, rules, and character data to the dialogue history storage unit 209.

対話履歴格納部209には、上記の情報提示において用いられたデータが履歴データとして記憶される。
対話規則構築部210は、定期的に(例えば、1日毎に)対話履歴格納部に格納された履歴データを用いて、例えば、情報提示要求の傾向(対話の傾向)を機械学習により学習し、対話規則格納部205に格納されたルール、および拡張規則格納部207に格納された拡張提示情報に反映させる。
The data used in the above information presentation is stored as history data in the dialogue history storage unit 209.
The dialogue rule construction unit 210 uses the history data stored in the dialogue history storage unit on a regular basis (for example, every day) to learn, for example, the tendency of information presentation request (dialogue tendency) by machine learning. It is reflected in the rule stored in the dialogue rule storage unit 205 and the extended presentation information stored in the extended rule storage unit 207.

なお、対話規則構築部210が、大量の文書(文字データ)から共通するルール(対話規則)を抽出する方法として、例えば、形態素解析、構文解析、述語項構造解析、照応・省略解析をはじめとした自然言語処理技術や共起やパターンマイニングなどを組み合わせた手法を用いてもよい。
また、対話規則構築部210が、画像データから、当該画像データに基づく画像を構成する構成要素の部分集合を抽出する方法として、例えば、一般物体認識技術を用いてもよい。例えば、人間と馬とが写っている写真を示す写真データにおいて、どの領域(座標)が人間を示す領域(座標)であり、どの領域(座標)が馬を示す領域(座標)であるかを、対話規則構築部210が、一般物体認識技術を用いることよって特定するようにしてもよい。
As a method for the dialogue rule construction unit 210 to extract common rules (dialogue rules) from a large amount of documents (character data), for example, morphological analysis, parsing, predicate term structure analysis, matching / abbreviation analysis, etc. You may use a method that combines natural language processing technology, co-occurrence, and pattern mining.
Further, as a method for the dialogue rule construction unit 210 to extract a subset of components constituting an image based on the image data from the image data, for example, a general object recognition technique may be used. For example, in photographic data showing a photograph showing a human and a horse, which area (coordinates) is the area (coordinates) indicating a human and which area (coordinates) is the area (coordinates) indicating a horse. , The dialogue rule construction unit 210 may be specified by using a general object recognition technique.

なお、対話規則構築部210が拡張規則格納部207に格納された拡張提示情報を更新する際に、更新された拡張提示情報が示すコンテンツを、対話規則構築部210がコンテンツ群(例えば、コンテンツサーバ30)から取得するようにしてもよい。 When the dialogue rule building unit 210 updates the extended presentation information stored in the extended rule storage unit 207, the dialogue rule building unit 210 displays the content indicated by the updated extended presentation information as a content group (for example, a content server). It may be obtained from 30).

(情報提示システムの動作)
次に、情報提示システム1の動作について、図面を参照しながら説明する。まず、情報提示システム1の動作のうち、情報提示処理の動作について説明する。
図6は、本発明の実施形態に係る情報提示システム1の情報提示処理の動作を示すフローチャートである。
図6に示すフローチャートは、例えば、情報提示システム1を利用するユーザの認証が行われた際や、Cookieなどのセッション情報を利用可能な際に開始する。
(Operation of information presentation system)
Next, the operation of the information presentation system 1 will be described with reference to the drawings. First, among the operations of the information presentation system 1, the operation of the information presentation processing will be described.
FIG. 6 is a flowchart showing the operation of the information presentation process of the information presentation system 1 according to the embodiment of the present invention.
The flowchart shown in FIG. 6 is started, for example, when the user who uses the information presentation system 1 is authenticated or when session information such as Cookie is available.

(ステップst001)端末装置10は、情報提示装置20へ、ユーザ情報、例えば、ユーザを特定するユーザID(Identifier;識別子)等を送信する。情報提示装置20は、取得部201により、端末装置10から送信されたユーザ情報を受信する。取得部201は、受信したユーザ情報を、情報提示装置20が備える記憶部(図示せず)に記憶させる。
認証部(図示せず)は、受信したユーザ情報に基づいて認証(個人特定)を行う。認証に成功した場合には、ステップst002へ進む。そうでない場合は、ステップst003へ進む。
(Step st001) The terminal device 10 transmits user information, for example, a user ID (identifier) that identifies a user, or the like to the information presenting device 20. The information presenting device 20 receives the user information transmitted from the terminal device 10 by the acquisition unit 201. The acquisition unit 201 stores the received user information in a storage unit (not shown) included in the information presenting device 20.
The authentication unit (not shown) performs authentication (personal identification) based on the received user information. If the authentication is successful, the process proceeds to step st002. If not, the process proceeds to step st003.

(ステップst002)解析部202は、記憶部(図示せず)に記憶されたユーザ情報に基づいて、ユーザパラメータの読み込みを行う。ここで言うユーザパラメータの読み込みとは、例えば、情報提示システム1を利用するユーザに最適化された対話規則や拡張規則に基づいて応答が生成されるように情報提示装置20を設定させるためのユーザ情報の読み込み処理である。
その後、ステップst003へ進む。
(Step st002) The analysis unit 202 reads the user parameters based on the user information stored in the storage unit (not shown). The reading of the user parameter referred to here means, for example, a user for setting the information presenting device 20 so that a user using the information presenting system 1 can generate a response based on an optimized dialogue rule or an extended rule. Information reading process.
Then, the process proceeds to step st003.

(ステップst003)解析部202は、全体最適パラメータの読み込みを行う。ここで言う全体最適パラメータの読み込みとは、例えば、情報提示システム1を利用するユーザが誰かに関わらず、全体最適化された対話規則や拡張規則に基づいて応答が生成されるように情報提示装置20を設定させるための設定情報の読み込み処理である。
その後、ステップst004へ進む。
(Step st003) The analysis unit 202 reads the overall optimum parameter. The reading of the overall optimum parameter referred to here is, for example, an information presentation device so that a response is generated based on an overall optimized dialogue rule or an extended rule regardless of who is the user who uses the information presentation system 1. This is a process of reading setting information for setting 20.
After that, the process proceeds to step st004.

(ステップst004)端末装置10において、ユーザによる入力操作(例えば、発話)に基づいて、ユーザの情報提示要求を示す要求情報が入力される。端末装置10は、入力された要求情報を情報提示装置20へ送信する。情報提示装置20は、取得部201により、端末装置10から送信された要求情報を受信する。取得部201は、受信した要求情報を、解析部202へ出力する。
その後、ステップst005へ進む。
(Step st004) In the terminal device 10, request information indicating a user's information presentation request is input based on an input operation (for example, utterance) by the user. The terminal device 10 transmits the input request information to the information presenting device 20. The information presenting device 20 receives the request information transmitted from the terminal device 10 by the acquisition unit 201. The acquisition unit 201 outputs the received request information to the analysis unit 202.
Then, the process proceeds to step st005.

(ステップst005)解析部202は、取得部201から入力された要求情報を解析し、文字データへの変換をする変換処理を行う。
変換処理が成功し、文字データを取得できた場合には、解析部202は取得した文字データを対話制御部204へ出力する。その後、ステップst006へ進む。
また、変換処理が成功せず、文字データを取得できなかった場合には、ステップst008へ進む。
(Step st005) The analysis unit 202 analyzes the request information input from the acquisition unit 201 and performs a conversion process for converting into character data.
When the conversion process is successful and the character data can be acquired, the analysis unit 202 outputs the acquired character data to the dialogue control unit 204. Then, the process proceeds to step st006.
If the conversion process is not successful and the character data cannot be acquired, the process proceeds to step st008.

(ステップst006)解析部202から出力された文字データに基づいて、対話制御部204、応答生成部206、および提示部208によって、ユーザからの情報提示要求に対する応答処理が行われる。この応答処理の動作の詳細については後述する。
その後、ステップst007へ進む。
(Step st006) Based on the character data output from the analysis unit 202, the dialogue control unit 204, the response generation unit 206, and the presentation unit 208 perform response processing to the information presentation request from the user. The details of the operation of this response processing will be described later.
Then, the process proceeds to step st007.

(ステップst007)
情報提示装置20の取得部201が、ユーザからの情報提示要求が終了したことを示す情報を取得した場合には、本フローチャートの処理が終了する。ユーザからの情報提示要求が終了した(例えば、対話が終了した)ことを示す情報とは、例えば、端末装置10のユーザにより対話を終了させることを示す入力操作が行われたことを示す情報、ユーザからの入力(例えば、発話)が一定時間、行われなかったことを示す情報、または端末装置10と情報提示装置20との通信接続が切断されたされたことを示す情報等である。
取得部201が、ユーザからの情報提示要求が終了したことを示す情報を取得していない場合には、ステップst008へ進む。
(Step st007)
When the acquisition unit 201 of the information presentation device 20 acquires information indicating that the information presentation request from the user has been completed, the processing of this flowchart ends. The information indicating that the information presentation request from the user has ended (for example, the dialogue has ended) is, for example, information indicating that the user of the terminal device 10 has performed an input operation indicating that the dialogue has ended. Information indicating that the input (for example, speech) from the user has not been performed for a certain period of time, information indicating that the communication connection between the terminal device 10 and the information presenting device 20 has been disconnected, and the like.
If the acquisition unit 201 has not acquired the information indicating that the information presentation request from the user has been completed, the process proceeds to step st008.

(ステップst008)解析部202は、上記の処理において生成されたコンテンツ、拡張提示情報、ルール、および文字データに基づいて、記憶部(図示せず)に記憶されたユーザステータスデータを更新する。
ユーザステータスデータ(局所最適)の他に、対話制御の全体最適を行うためのステータスデータの保持と更新も行う.
その後、ステップst002へ戻る。
以上で、図6に示したフローチャートの処理の説明を終了する。
(Step st008) The analysis unit 202 updates the user status data stored in the storage unit (not shown) based on the content, extended presentation information, rules, and character data generated in the above process.
In addition to user status data (local optimization), it also retains and updates status data for overall optimization of dialogue control.
After that, the process returns to step st002.
This is the end of the description of the flow chart processing shown in FIG.

次に、図6に示した情報処理提示処理のステップst004で行われる応答処理の動作の詳細について、図面を参照しながら説明する。
図7は、本発明の実施形態に係る情報提示システム1の応答処理の動作を示すフローチャートである。
図7に示すフローチャートは、情報提示装置20の解析部202が、対話制御部204へ、上述した文字データを出力した際に開始する。
Next, the details of the operation of the response processing performed in step st004 of the information processing presentation processing shown in FIG. 6 will be described with reference to the drawings.
FIG. 7 is a flowchart showing the operation of the response processing of the information presentation system 1 according to the embodiment of the present invention.
The flowchart shown in FIG. 7 starts when the analysis unit 202 of the information presenting device 20 outputs the above-mentioned character data to the dialogue control unit 204.

(ステップst101)対話制御部204が、解析部202から出力された上記の文字データを取得することにより処理要求を取得する。
その後、ステップst102へ進む。
(Step st101) The dialogue control unit 204 acquires a processing request by acquiring the above character data output from the analysis unit 202.
Then, the process proceeds to step st102.

(ステップst102)対話制御部204は、対話規則格納部205に記憶されたルールのリストと、解析部202から入力された文字データとのマッチングを行う。
その後、ステップst103へ進む。
(Step st102) The dialogue control unit 204 matches the list of rules stored in the dialogue rule storage unit 205 with the character data input from the analysis unit 202.
Then, the process proceeds to step st103.

なお、上記のマッチングを行う方法として、例えば、テンプレートマッチングをはじめとしたルールベースマッチング、または(ルールベースのように完全一致しない場合でも)ベクトル類似度をはじめとした何らかのスコアリングに基づき応答を決定する方法等、任意のマッチング方法が用いられる。
また、本実施形態においては、入力された文字データと対話規則(ルール)とのマッチングを行っているが、更に、入力された文字データとユーザステータスデータの双方を利用したマッチングも行うようにしてもよい。
As a method of performing the above matching, for example, the response is determined based on rule-based matching such as template matching, or some scoring such as vector similarity (even if the exact match does not occur as in rule-based). Any matching method is used, such as the method of performing.
Further, in the present embodiment, the input character data and the dialogue rule (rule) are matched, but further, the matching using both the input character data and the user status data is also performed. May be good.

(ステップst103)対話制御部204が、対話規則格納部205に記憶されたルールのリストを検索し、解析部202から入力された文字データと一致するルール(対話規則)を抽出した場合には、抽出したルールおよび応答データを応答生成部206へ出力する。その後、ステップst104へ進む。
また、対話制御部204が、解析部202から入力された文字データと一致するルールを抽出しなかった場合には、ステップst109へ進む。
(Step st103) When the dialogue control unit 204 searches the list of rules stored in the dialogue rule storage unit 205 and extracts a rule (dialogue rule) that matches the character data input from the analysis unit 202, The extracted rule and response data are output to the response generation unit 206. Then, the process proceeds to step st104.
If the dialogue control unit 204 does not extract a rule that matches the character data input from the analysis unit 202, the process proceeds to step st109.

(ステップst104)応答生成部206は、拡張規則格納部207に記憶された、ルールと拡張提示情報とが対応付けられたデータを検索し、対話制御部204から入力されたルールに対応する拡張提示情報を拡張規則格納部207から取得する。応答生成部206は、取得した拡張提示情報に基づいて応答を生成する。なお、拡張提示情報には、例えば、情報提示要求に対する応答に用いられるコンテンツそのものを示すデータ(または、コンテンツの格納場所を示す情報)、コンテンツにおいて拡張提示(例えば、強調表示)する箇所を示す情報、および拡張提示された箇所に表示する補足情報(例えば、注釈を示す情報)等が含まれる。
その後、ステップst105へ進む。
(Step st104) The response generation unit 206 searches for the data in which the rule and the extended presentation information are associated with each other stored in the extended rule storage unit 207, and the extended presentation corresponding to the rule input from the dialogue control unit 204. Information is acquired from the extended rule storage unit 207. The response generation unit 206 generates a response based on the acquired extended presentation information. The extended presentation information includes, for example, data indicating the content itself (or information indicating the storage location of the content) used in response to the information presentation request, and information indicating a portion of the content to be extendedly presented (for example, highlighted). , And supplementary information (for example, information indicating annotations) to be displayed in the extended presentation location.
Then, the process proceeds to step st105.

(ステップst105)上記のステップst104において取得された拡張提示情報が、外部連携(例えば、外部のコンテンツサーバ30等からのコンテンツ取得など)が必要であることを示している場合には、ステップst106へ進む。
また、上記のステップst104において取得された拡張提示情報が、外部連携は必要ではないことを示している場合(例えば、拡張提示情報に、情報提示要求に対する応答に用いられるコンテンツそのものが含まれている場合)には、応答生成部206は、拡張規則格納部207から入力された拡張提示情報、応答情報、ルール、および文字データを、提示部208へ出力する。その後、ステップst107へ進む。
(Step st105) If the extended presentation information acquired in step st104 above indicates that external cooperation (for example, content acquisition from an external content server 30 or the like) is required, the process proceeds to step st106. move on.
Further, when the extended presentation information acquired in step st104 above indicates that external cooperation is not necessary (for example, the extended presentation information includes the content itself used for responding to the information presentation request). In the case), the response generation unit 206 outputs the extended presentation information, the response information, the rule, and the character data input from the extended rule storage unit 207 to the presentation unit 208. Then, the process proceeds to step st107.

(ステップst106)応答生成部206は、拡張提示情報が示す外部情報(例えば、コンテンツ)を、情報提示装置20が備える外部情報取得部(図示せず)または対話規則構築部210を介して、外部の装置(例えば、コンテンツサーバ30)から取得する。
その後、ステップst107へ進む。
(Step st106) The response generation unit 206 externally obtains the external information (for example, the content) indicated by the extended presentation information via the external information acquisition unit (not shown) or the dialogue rule construction unit 210 included in the information presentation device 20. (For example, the content server 30).
Then, the process proceeds to step st107.

(ステップst107)提示部208は、応答生成部206から入力された拡張提示情報および応答情報に基づいて、拡張提示情報が示すコンテンツに拡張提示情報が示す拡張提示を施したコンテンツを生成する。提示部208は、生成したコンテンツを示すデータを、端末装置10からの要求に応じて端末装置10へ送信する。または、提示部208は、生成したコンテンツを示すデータを、端末装置10へプッシュ型で配信する。
その後、ステップst108へ進む。
(Step st107) Based on the extended presentation information and the response information input from the response generation unit 206, the presentation unit 208 generates the content indicated by the extended presentation information with the extended presentation indicated by the extended presentation information. The presentation unit 208 transmits data indicating the generated content to the terminal device 10 in response to a request from the terminal device 10. Alternatively, the presentation unit 208 delivers the generated content-indicating data to the terminal device 10 in a push-type manner.
Then, the process proceeds to step st108.

(ステップst108)解析部202は、上記の処理において生成されたコンテンツ、拡張提示情報、ルール、および文字データの少なくともいずれか一つに基づいて、記憶部(図示せず)に記憶されたユーザステータスデータを更新する。
以上で、本フローチャートの処理が終了する。
(Step st108) The analysis unit 202 stores the user status stored in the storage unit (not shown) based on at least one of the content, the extended presentation information, the rule, and the character data generated in the above process. Update the data.
This completes the processing of this flowchart.

(ステップst109)
対話制御部204は、提示部208を介して、ユーザに情報提示要求の再入力を促すための提示をさせる。例えば、対話制御部204は、「お問い合わせ内容が理解できませんでした。恐れ入りますが、別の言葉でもう一度発話してください」といったような応答を示す文字データを生成する。対話制御部204は、生成した文字データに基づく応答内容を、提示部208を介しユーザに対して提示させる。
または、コンテキストマッチのスコアが最も高い内容を暫定的な応答として返した上でユーザの反応を得た上で、再入力を促す提示をする「○○○○○ということでしょうか?もし間違っているようでしたら、恐れ入りますが、別の表現でもう一度入力してください」という応答内容を提示する。
以上で、本フローチャートの処理が終了する。
以上で、図7に示したフローチャートの処理の説明を終了する。
(Step st109)
The dialogue control unit 204 causes the user to make a presentation for prompting the user to re-enter the information presentation request via the presentation unit 208. For example, the dialogue control unit 204 generates character data indicating a response such as "I did not understand the content of the inquiry. Excuse me, but please speak again in another language." The dialogue control unit 204 causes the user to present the response content based on the generated character data via the presentation unit 208.
Or, after returning the content with the highest score of context match as a provisional response and getting the user's reaction, the presentation prompting re-entry is "○○○○○? If so, I'm sorry, but please enter it again in a different expression. "
This completes the processing of this flowchart.
This is the end of the description of the flow chart processing shown in FIG. 7.

次に、本実施形態に係る情報提示システム1の規則構築処理の動作について、図面を参照しながら説明する。
図8は、本発明の実施形態に係る情報提示システム1の規則構築処理の動作を示すフローチャートである。
図8に示すフローチャートは、情報提示装置20の対話規則構築部210が、規則構築処理の実行命令を示す情報を取得した際に開始する。規則構築処理の実行命令を示す情報は、例えば、情報提示装置20が備えるタイマー(図示せず)から定期的に対話規則構築部210へ出力される。
または、図8に示すフローチャートは、情報提示装置20の取得部201が、ユーザからの情報提示要求が終了したことを示す情報を取得した際(すなわち、対話が終了した際など)に開始する。
Next, the operation of the rule construction process of the information presentation system 1 according to the present embodiment will be described with reference to the drawings.
FIG. 8 is a flowchart showing the operation of the rule construction process of the information presentation system 1 according to the embodiment of the present invention.
The flowchart shown in FIG. 8 starts when the dialogue rule building unit 210 of the information presenting device 20 acquires information indicating an execution command of the rule building process. Information indicating an execution command of the rule construction process is periodically output to the dialogue rule construction unit 210 from, for example, a timer (not shown) included in the information presenting device 20.
Alternatively, the flowchart shown in FIG. 8 starts when the acquisition unit 201 of the information presentation device 20 acquires information indicating that the information presentation request from the user has ended (that is, when the dialogue ends, etc.).

(ステップst201)対話規則構築部210は、コンテンツ(例えば、ウェブ上の文書や画像等)を収集する。コンテンツの収集は、(例えば、クローラによって)自動的に収集するようにしてもよいし、(例えば、情報提示装置20の運用者によって)手動で収集するようにしてもよい。
その後、ステップst202へ進む。
(Step st201) The dialogue rule construction unit 210 collects contents (for example, documents and images on the Web). The content may be collected automatically (for example, by a crawler) or manually (for example, by the operator of the information presenting device 20).
Then, the process proceeds to step st202.

(ステップst202)対話規則構築部210は、収集したコンテンツを解析し、対話規則(ルール)を示すデータを構築する。対話規則構築部210は、構築した対話規則(ルール)を示すデータによって、対話規則格納部205に格納された対話規則(ルール)のリストを更新する。
その後、ステップst203へ進む。
(Step st202) The dialogue rule construction unit 210 analyzes the collected contents and constructs data indicating the dialogue rules (rules). The dialogue rule construction unit 210 updates the list of dialogue rules (rules) stored in the dialogue rule storage unit 205 with the data indicating the constructed dialogue rules (rules).
Then, the process proceeds to step st203.

(ステップst203)また、対話規則構築部210は、収集したコンテンツとステップst202で構築した対話規則(ルール)とに基づいて、拡張規則(拡張提示情報)を示すデータを構築する。
その後、ステップst204へ進む。
(Step st203) Further, the dialogue rule construction unit 210 constructs data indicating an extended rule (extended presentation information) based on the collected contents and the dialogue rule (rule) constructed in step st202.
Then, the process proceeds to step st204.

(ステップst204)対話規則構築部210は、ステップst203において構築した拡張規則(拡張提示情報)に含まれるコンテンツを示すコンテンツデータを、ステップst201で収取したコンテンツデータから抽出する。
その後、ステップst205へ進む。
(Step st204) The dialogue rule construction unit 210 extracts the content data indicating the content included in the extended rule (extended presentation information) constructed in step st203 from the content data collected in step st201.
Then, the process proceeds to step st205.

(ステップst205)対話規則構築部210は、抽出したコンテンツデータの種類を検出する。コンテンツデータの種類とは、例えば、テキストデータ、静止画データ、動画データ、音声データ、および三次元形状モデルデータ(立体データ)等である。対話規則構築部210は、コンテンツデータの種類に応じた方法によって、抽出したコンテンツデータから指定子を抽出する。 (Step st205) The dialogue rule construction unit 210 detects the type of the extracted content data. The types of content data include, for example, text data, still image data, moving image data, audio data, three-dimensional shape model data (three-dimensional data), and the like. The dialogue rule construction unit 210 extracts a specifier from the extracted content data by a method according to the type of the content data.

指定子とは、例えば、コンテンツがマークアップ言語で記述されたテキストデータであるならば、タグ等である。また、指定子とは、例えば、コンテンツが動画データや音声データであるならば、チャプターやタイムコード等である。また、指定子とは、例えば、コンテンツが静止画データや立体データであるならば、座標データ等である。
対話規則構築部210は、ステップst203において構築した拡張規則(拡張提示情報)に、上記で抽出した指定子を示す情報を付与して拡張提示情報を更新する。
その後、ステップst206へ進む。
The specifier is, for example, a tag or the like if the content is text data described in a markup language. Further, the specifier is, for example, a chapter, a time code, or the like if the content is video data or audio data. Further, the specifier is, for example, coordinate data or the like if the content is still image data or three-dimensional data.
The dialogue rule construction unit 210 updates the extended presentation information by adding information indicating the specifier extracted above to the extended rule (extended presentation information) constructed in step st203.
Then, the process proceeds to step st206.

(ステップst206)対話規則構築部210は、ステップst202において構築した対話規則(ルール)と、ステップst205において更新した拡張提示情報との関連付けを行う。対話規則構築部210は、関連付けたデータによって拡張規則格納部207に格納された拡張規則を示すデータを更新する。
以上で、本フローチャートの処理が終了する。
以上で、本実施形態に係る情報提示システム1の動作についての説明を終了する。
(Step st206) The dialogue rule construction unit 210 associates the dialogue rule (rule) constructed in step st202 with the extended presentation information updated in step st205. The dialogue rule construction unit 210 updates the data indicating the extension rule stored in the extension rule storage unit 207 by the associated data.
This completes the processing of this flowchart.
This is the end of the description of the operation of the information presentation system 1 according to the present embodiment.

(情報提示の画面例)
以下に、情報提示の画面例について、図面を参照しながら説明する。
図9は、本発明の実施形態に係る情報提示システム1によって提示される情報提示画面の一例を示す概略図である。
(Example of information presentation screen)
An example of a screen for presenting information will be described below with reference to the drawings.
FIG. 9 is a schematic view showing an example of an information presentation screen presented by the information presentation system 1 according to the embodiment of the present invention.

まず、図9(A)に図示するように、情報提示システム1が、ユーザからの入力に基づく「商品Xの購入方法は?」という商品Xの購入方法の問い合わせを示すデータを取得する。情報提示システム1は、応答処理を実行し、ECサイトにおける商品Xの購入ページを示すコンテンツct03を提示する。図9(A)において、提示するコンテンツct03おける拡張提示の対象箇所は「カートに入れる」ボタンである。 First, as illustrated in FIG. 9A, the information presentation system 1 acquires data indicating an inquiry about the purchase method of the product X, such as "How to purchase the product X?" Based on the input from the user. The information presentation system 1 executes response processing and presents the content ct03 indicating the purchase page of the product X on the EC site. In FIG. 9A, the target part of the extended presentation in the content ct03 to be presented is the "Add to cart" button.

情報提示システム1は、この「カートに入れる」ボタンの位置を指す矢印型の画像である拡張提示ext05を、コンテンツct03に重畳させるように提示する。また、情報提示システム1は、この「カートに入れる」ボタンの位置を指す吹き出しを示す画像である拡張提示ext06を、コンテンツct03に重畳させるように提示する。図示するように、拡張提示ext06に基づく吹き出しには、「このボタンをクリックしてください」という文言が表示されている。 The information presentation system 1 presents the extended presentation ext05, which is an arrow-shaped image pointing to the position of the “add to cart” button, so as to be superimposed on the content ct03. Further, the information presentation system 1 presents the extended presentation ext06, which is an image showing a balloon pointing to the position of the "add to cart" button, so as to be superimposed on the content ct03. As shown in the figure, the balloon based on the extended presentation ext06 displays the words "Please click this button".

このように、本発明の実施形態に係る情報提示システム1は、ユーザの入力(例えば、発話)に基づく情報提示要求に対し、単にコンテンツを提示して応答するだけでなく、当該コンテンツにおける拡張提示箇所を特定して当該拡張提示箇所に対して拡張提示を施したコンテンツを提示して応答することができる。 As described above, the information presentation system 1 according to the embodiment of the present invention not only presents and responds to the information presentation request based on the user's input (for example, utterance), but also presents the content in an extended manner. It is possible to specify a location and present the content to which the extended presentation is applied to the extended presentation location to respond.

本実施例の場合、情報提示システム1は、ユーザからの「商品Xの購入方法は?」という問い合わせに対し、ECサイトにおける商品Xの購入ページを提示するだけでなく、当該購入ページの「カートに入れる」ボタンの位置を指す矢印の画像を付与し、また当該購入ページの「カートに入れる」ボタンの位置に対して「このボタンをクリックしてください」と記載された吹き出しを付与して提示することができる。
これにより、本発明の実施形態に係る情報提示システム1は、コンテンツにおける拡張提示対象の箇所にユーザの注目を集めさせる(注目を促す)情報提示を行うことができる。
In the case of this embodiment, the information presentation system 1 not only presents the purchase page of the product X on the EC site in response to the inquiry from the user "How to purchase the product X?", But also presents the "cart" of the purchase page. An image of an arrow pointing to the position of the "Add to" button is added, and a balloon stating "Click this button" is added to the position of the "Add to cart" button on the purchase page. can do.
As a result, the information presentation system 1 according to the embodiment of the present invention can present information that attracts (promotes attention) the user's attention to the extended presentation target portion in the content.

次に、図9(A)に図示された「カートに入れる」ボタンがユーザによってクリックされたことを示す入力がなされると、情報提示システム1は、図9(B)に図示するような情報提示画面を表示する。
図示するように、情報提示システム1は、ECサイトにおける商品Xの購入ページを示すコンテンツct04を提示する。図9(B)において、提示するコンテンツct04における拡張提示の対象箇所は「レジに進む」ボタンである。
Next, when an input indicating that the "Add to cart" button shown in FIG. 9A is clicked by the user is made, the information presentation system 1 sets the information as shown in FIG. 9B. Display the presentation screen.
As shown in the figure, the information presentation system 1 presents the content ct04 indicating the purchase page of the product X on the EC site. In FIG. 9B, the target portion of the extended presentation in the content ct04 to be presented is the "Proceed to checkout" button.

情報提示システム1は、この「レジに進む」ボタンの位置を指す吹き出しを示す画像である拡張提示ext07をコンテンツct04に重畳描画して提示する。図示するように、拡張提示ext07に基づく吹き出しには、「このボタンをクリックしてください」という文言が表示されている。 The information presentation system 1 superimposes and draws the extended presentation ext07, which is an image showing a balloon indicating the position of the “go to cash register” button, on the content ct04 and presents it. As shown in the figure, the balloon based on the extended presentation ext07 displays the words "Please click this button".

上述した図9(A)における説明と同様に、本実施例において、情報提示システム1は、ユーザによる「カートに入れる」ボタンのクリックという入力に対して、ECサイトにおける商品Xの購入ページを提示するだけでなく、当該購入ページの「レジに進む」ボタンの位置に「このボタンをクリックしてください」と記載された吹き出しを付与して提示する応答をすることができる。
これにより、本発明の実施形態に係る情報提示システム1は、コンテンツにおける拡張提示対象の箇所にユーザの注目を集めさせる(注目を促す)情報提示を行うことができる。
Similar to the above description in FIG. 9A, in the present embodiment, the information presentation system 1 presents the purchase page of the product X on the EC site in response to the user's input of clicking the "add to cart" button. In addition to this, it is possible to give a response by adding a balloon stating "Please click this button" to the position of the "Proceed to checkout" button on the purchase page.
As a result, the information presentation system 1 according to the embodiment of the present invention can present information that attracts (promotes attention) the user's attention to the extended presentation target portion in the content.

また、コンテンツ移動を伴う提示を行う場合、ユーザが同様の操作を行うことを想定し、図9(B)の右上に図示するような経路を提示し操作フローを把握しやすくする。 Further, when presenting with content movement, assuming that the user performs the same operation, a route as shown in the upper right of FIG. 9B is presented to facilitate understanding of the operation flow.

以上、説明したように、本発明の実施形態に係る情報提示システム1は、ユーザからの情報提示要求に対し、単にコンテンツを提示して応答するだけでなく、拡張提示情報(例えば、補足情報)を付与したコンテンツを提示して応答することができるため、テキスト情報を中心とした(または、テキスト情報のみで)応答内容を生成する従来技術と比べて、応答内容の表現力を高めることができる。これにより、本発明の実施形態に係る情報提示システム1は、応答内容に対するユーザの理解度を向上させることができる。 As described above, the information presentation system 1 according to the embodiment of the present invention not only presents and responds to the information presentation request from the user, but also extends the presentation information (for example, supplementary information). Since it is possible to present and respond to the content with the above, the expressive power of the response content can be enhanced as compared with the conventional technique of generating the response content centered on the text information (or only with the text information). .. As a result, the information presentation system 1 according to the embodiment of the present invention can improve the user's understanding of the response content.

また、本発明の実施形態に係る情報提示システム1は、テキスト情報だけでなく、ウェブサイト、静止画、動画、音声および三次元モデルデータ(立体データ)等の様々なデータ形式による既存のデータ(または、当該データの格納場所)と、拡張提示情報とを組み合わせた応答内容を生成すればよいため、様々なユーザからの要求に対する応答内容を文字によって表現しなければならない従来技術と比べて、応答内容を示すデータの生成や管理を容易にすることができる。 In addition, the information presentation system 1 according to the embodiment of the present invention includes not only text information but also existing data in various data formats such as websites, still images, moving images, sounds, and three-dimensional model data (three-dimensional data) (three-dimensional data). Alternatively, since the response content may be generated by combining the data storage location) and the extended presentation information, the response content is compared with the conventional technique in which the response content to the request from various users must be expressed in characters. It is possible to facilitate the generation and management of data indicating the contents.

以上により、本発明の実施形態に係る情報提示システム1は、応答内容の提示における表現力を向上させるとともに、応答内容の生成や管理を容易にすることができる。 As described above, the information presentation system 1 according to the embodiment of the present invention can improve the expressive power in presenting the response contents and facilitate the generation and management of the response contents.

以上、この発明の実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。 Although the embodiments of the present invention have been described in detail above, the specific configuration is not limited to the above, and various design changes and the like can be made without departing from the gist of the present invention. is there.

なお、上述した実施形態における端末装置10および情報提示装置20の一部又は全部をコンピュータで実現するようにしてもよい。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。 In addition, a part or all of the terminal device 10 and the information presenting device 20 in the above-described embodiment may be realized by a computer. In that case, the program for realizing this control function may be recorded on a computer-readable recording medium, and the program recorded on the recording medium may be read by the computer system and executed.

なお、ここでいう「コンピュータシステム」とは、端末装置10および情報提示装置20に内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。 The "computer system" referred to here is a computer system built into the terminal device 10 and the information presenting device 20, and includes hardware such as an OS and peripheral devices. Further, the "computer-readable recording medium" refers to a portable medium such as a flexible disk, a magneto-optical disk, a ROM, or a CD-ROM, or a storage device such as a hard disk built in a computer system.

さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信回線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。 Furthermore, a "computer-readable recording medium" is a medium that dynamically holds a program for a short period of time, such as a communication line when a program is transmitted via a network such as the Internet or a communication line such as a telephone line. In that case, a program may be held for a certain period of time, such as a volatile memory inside a computer system serving as a server or a client. Further, the above-mentioned program may be a program for realizing a part of the above-mentioned functions, and may be a program for realizing the above-mentioned functions in combination with a program already recorded in the computer system.

また、上述した実施形態における端末装置10および情報提示装置20を、LSI(Large Scale Integration)等の集積回路として実現してもよい。端末装置10および情報提示装置20の各機能ブロックは個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。 Further, the terminal device 10 and the information presentation device 20 in the above-described embodiment may be realized as an integrated circuit such as an LSI (Large Scale Integration). Each functional block of the terminal device 10 and the information presenting device 20 may be individually made into a processor, or a part or all of them may be integrated into a processor. Further, the method of making an integrated circuit is not limited to the LSI, and may be realized by a dedicated circuit or a general-purpose processor. Further, when an integrated circuit technology that replaces an LSI appears due to advances in semiconductor technology, an integrated circuit based on this technology may be used.

1・・・情報提示システム、10・・・端末装置、20・・・情報提示装置、30・・・コンテンツサーバ、100・・・表示部、201・・・取得部、202・・・解析部、203・・・言語・概念知識格納部、204・・・対話制御部、205・・・対話規則格納部、206・・・応答生成部、207・・・拡張規則格納部、208・・・提示部、209・・・対話履歴格納部、210・・・対話規則構築部、ct01〜ct04・・・コンテンツ、ext01〜ext07・・・拡張提示 1 ... Information presentation system, 10 ... Terminal device, 20 ... Information presentation device, 30 ... Content server, 100 ... Display unit, 201 ... Acquisition unit, 202 ... Analysis unit , 203 ... Language / concept knowledge storage unit, 204 ... Dialogue control unit, 205 ... Dialogue rule storage unit, 206 ... Response generation unit, 207 ... Extended rule storage unit, 208 ... Presentation unit, 209 ... Dialogue history storage unit, 210 ... Dialogue rule construction unit, ct01 to ct04 ... Contents, ext01 to ext07 ... Extended presentation

Claims (16)

少なくとも一人以上のユーザによる入力に対し応答を提示する機能を有する情報提示装置であって、
コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築部と、
前記入力に対応するルールを前記対話規則より取得する制御部であって、ユーザとの双方向の対話を制御する制御部と、
前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定部と、
特定された前記識別子または前記指定子に基づいて前記コンテンツと共に前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示部と、
を備え、
前記対話規則とは、入力とルールとの対応関係を定義した規則であり、
前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、
前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、
ことを特徴とする情報提示装置。
An information presentation device having a function of presenting a response to an input by at least one user.
A dialogue rule construction unit that collects content, generates a dialogue rule from the collected content, and generates an extended rule from the collected content and the dialogue rule.
A control unit that acquires a rule corresponding to the input from the dialogue rule, and controls a two-way dialogue with the user.
An identifier that specifies an element of the content used in the response based on the extended presentation information, or a content used in the response, which is a specific unit that acquires the extended presentation information corresponding to the acquired rule from the extended rule. A specific part that specifies one of the specifiers that specifies a subset of the components of
A presentation unit that performs an extended presentation that draws attention to a specific area in the content together with the content based on the identified identifier or the specifier.
With
The dialogue rule is a rule that defines the correspondence between the input and the rule.
The extended rule is a rule that defines the correspondence between the rule and the extended presentation information.
The extended presentation information includes at least information indicating a portion to be extendedly presented in the content.
An information presentation device characterized by the fact that.
少なくとも一人以上のユーザによる入力に対し応答を提示する機能を有する情報提示装置であって、
前記入力と前記応答の履歴である対話履歴から対話規則を生成し、前記対話履歴と前記対話規則から拡張規則を生成する対話規則構築部と、
前記入力に対応するルールを前記対話規則より取得する制御部であって、ユーザとの双方向の対話を制御する制御部と、
前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定部と、
特定された前記識別子または前記指定子に基づいて前記コンテンツと共に前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示部と、
を備える、
前記対話規則とは、入力とルールとの対応関係を定義した規則であり、
前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、
前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、
ことを特徴とする情報提示装置。
An information presentation device having a function of presenting a response to an input by at least one user.
A dialogue rule construction unit that generates a dialogue rule from the dialogue history, which is a history of the input and the response, and generates an extended rule from the dialogue history and the dialogue rule.
A control unit that acquires a rule corresponding to the input from the dialogue rule, and controls a two-way dialogue with the user.
An identifier that specifies an element of the content used in the response based on the extended presentation information, or a content used in the response, which is a specific unit that acquires the extended presentation information corresponding to the acquired rule from the extended rule. A specific part that specifies one of the specifiers that specifies a subset of the components of
A presentation unit that performs an extended presentation that draws attention to a specific area in the content together with the content based on the identified identifier or the specifier.
To prepare
The dialogue rule is a rule that defines the correspondence between the input and the rule.
The extended rule is a rule that defines the correspondence between the rule and the extended presentation information.
The extended presentation information includes at least information indicating a portion to be extendedly presented in the content.
An information presentation device characterized by the fact that.
前記対話規則を格納する対話規則格納部と、
前記拡張規則を格納する拡張規則格納部と、
を備え、
前記対話規則構築部が生成した前記対話規則により前記対話規則格納部に記憶された前記対話規則を更新し、
前記対話規則構築部が生成した前記拡張規則により前記拡張規則格納部に記憶された前記拡張規則を更新する
ことを特徴とする請求項1または請求項2に記載の情報提示装置。
A dialogue rule storage unit that stores the dialogue rule and
An extended rule storage unit that stores the extended rule,
With
The dialogue rule stored in the dialogue rule storage unit is updated by the dialogue rule generated by the dialogue rule construction unit.
The information presenting device according to claim 1 or 2, wherein the extended rule stored in the extended rule storage unit is updated by the extended rule generated by the dialogue rule building unit.
前記拡張提示は、コンテンツの選択・移動、注釈や補足情報の重畳描画、非注目領域の隠消、注目領域と非注目領域と間の色相・彩度・明度または透過度の差異化、および前記注目領域の時間的な提示状態変化の少なくとも一つを用いた提示である、
ことを特徴とする請求項1ないし3に記載の情報提示装置。
The extended presentation includes selection / movement of content, superimposed drawing of annotations and supplementary information, hiding of non-attention areas, differentiation of hue / saturation / brightness or transparency between attention areas and non-attention areas, and the above-mentioned. It is a presentation using at least one of the temporal presentation state changes of the region of interest.
The information presenting device according to claim 1 to 3, wherein the information presenting device is characterized by the above.
前記コンテンツは、構造化文書を構成要素の一部として持つコンテンツであり、
前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、
ことを特徴とする請求項4に記載の情報提示装置。
The content is content that has a structured document as a part of its components.
The specific part can extract at least one of an identifier indicating a content element or a specifier indicating a subset of the components of the content.
The information presenting device according to claim 4, wherein the information presenting device is characterized by the above.
前記構造化文書は、前記コンテンツ要素が並列または再帰的に繰り返す階層によって構造化された文書であり、
前記特定部は、前記文書を構造化する階層の構造を木構造として認識し、前記木構造における特定の要素の位置を指定する手段、または前記木構造において特定の要素以下を構成する部分木を指定する手段により、前記拡張提示に必要な前記識別子または前記指定子を特定する、
ことを特徴とする請求項に記載の情報提示装置。
The structured document is a document structured by a hierarchy in which the content elements repeat in parallel or recursively.
The specific part recognizes the hierarchical structure for structuring the document as a tree structure, and means to specify the position of a specific element in the tree structure, or a subtree that constitutes a specific element or less in the tree structure. Identifying the identifier or specifier required for the extended presentation by means of designation.
The information presenting device according to claim 5.
前記コンテンツは、静止画または動画を構成要素の一部として持つコンテンツであり、 前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、
ことを特徴とする請求項4に記載の情報提示装置。
The content is content having a still image or a moving image as a part of a component, and the specific part extracts at least one of an identifier indicating the content element or a specifier indicating a subset of the component of the content. Can be done
The information presenting device according to claim 4, wherein the information presenting device is characterized by the above.
前記特定部は、前記識別子、または予め学習した前記指定子の少なくとも一方を特定する、
ことを特徴とする請求項7に記載の情報提示装置。
The identification unit identifies at least one of the identifier or the pre-learned specifier.
The information presenting device according to claim 7.
前記コンテンツは、音響信号を構成要素の一部として持つコンテンツであり、
前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、
ことを特徴とする請求項4に記載の情報提示装置。
The content is content having an acoustic signal as a part of a component.
The specific part can extract at least one of an identifier indicating a content element or a specifier indicating a subset of the components of the content.
The information presenting device according to claim 4, wherein the information presenting device is characterized by the above.
前記指定子は、音響信号に付随するメタデータ、歌詞、チャプター、またはタイムコードのうち少なくとも1つ以上を指定する、
ことを特徴とする請求項9に記載の情報提示装置。
The specifier specifies at least one or more of the metadata, lyrics, chapters, or timecodes associated with the acoustic signal.
The information presenting device according to claim 9.
前記コンテンツは、三次元モデルを構成要素の一部として持つコンテンツであり、
前記特定部は、コンテンツ要素を示す識別子または前記コンテンツの構成要素の部分集合を示す指定子の少なくとも一方を抽出することができる、
ことを特徴とする請求項4に記載の情報提示装置。
The content is content having a three-dimensional model as a part of its components.
The specific part can extract at least one of an identifier indicating a content element or a specifier indicating a subset of the components of the content.
The information presenting device according to claim 4, wherein the information presenting device is characterized by the above.
前記指定子は、頂点座標集合、辺集合、または面集合を指定する、
ことを特徴とする請求項11に記載の情報提示装置。
The specifier specifies a vertex coordinate set, an edge set, or a face set.
The information presenting device according to claim 11.
前記提示部は、前記対話規則と、コンテンツ要素を示す識別子、または前記コンテンツの構成要素であるコンテンツ要素の部分集合を指定する指定子と前記拡張規則との少なくとも一方を用いて前記拡張提示を行う、
ことを特徴とする請求項1ないし3に記載の情報提示装置。
The presenting unit makes the extended presentation using at least one of the dialogue rule, an identifier indicating the content element, or a specifier that specifies a subset of the content element that is a component of the content, and the extended rule. ,
The information presenting device according to claim 1 to 3, wherein the information presenting device is characterized by the above.
ユーザによる入力に対し応答を提示する機能を有するコンピュータを用いた情報提示方法であって、
対話規則構築部が、コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築ステップと、
制御部が、前記入力に対応するルールを前記対話規則より取得し、ユーザとの双方向の対話を制御する制御ステップと、
特定部が、前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定ステップと、
提示部が、特定された前記識別子または前記指定子に基づいて前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示ステップと、
を有し、
前記対話規則とは、入力とルールとの対応関係を定義した規則であり、
前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、
前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、
ことを特徴とする情報提示方法。
It is an information presentation method using a computer having a function of presenting a response to input by a user.
A dialogue rule construction step in which the dialogue rule building unit collects content, generates a dialogue rule from the collected content, and generates an extended rule from the collected content and the dialogue rule.
A control step in which the control unit acquires a rule corresponding to the input from the dialogue rule and controls a two-way dialogue with the user.
The specific unit is a specific unit that acquires the extended presentation information corresponding to the acquired rule from the extended rule, and is an identifier that specifies an element of the content used in the response based on the extended presentation information, or the response. A specific step that identifies one of the specifiers that specifies a subset of the content components used in
A presentation step in which the presentation unit makes an extended presentation that draws attention to a specific area in the content based on the identified identifier or the specifier.
Have,
The dialogue rule is a rule that defines the correspondence between the input and the rule.
The extended rule is a rule that defines the correspondence between the rule and the extended presentation information.
The extended presentation information includes at least information indicating a portion to be extendedly presented in the content.
An information presentation method characterized by the fact that.
ユーザによる入力に対し応答を提示する機能を有する情報提示システムであって、
前記情報提示システムは、端末装置と情報提示装置とを有し、
前記端末装置は、
前記入力を受け付ける入力部と、
前記入力部から入力された要求情報を前記情報提示装置へ送信する送信部と、
を備え、
前記情報提示装置は、
コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築部と、
前記入力に対応するルールを前記対話規則より取得する制御部であって、ユーザとの双方向の対話を制御する制御部と、
前記取得したルールに対応する拡張提示情報を前記拡張規則より取得する特定部であって、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定部と、
特定された前記識別子または前記指定子に基づいて前記コンテンツと共に前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示部と、
を備え、
前記対話規則とは、入力とルールとの対応関係を定義した規則であり、
前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、
前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、
ことを特徴とする情報提示システム。
An information presentation system that has a function of presenting a response to user input.
The information presentation system includes a terminal device and an information presentation device.
The terminal device is
An input unit that accepts the input and
A transmission unit that transmits the request information input from the input unit to the information presenting device, and a transmission unit.
With
The information presenting device is
A dialogue rule construction unit that collects content, generates a dialogue rule from the collected content, and generates an extended rule from the collected content and the dialogue rule.
A control unit that acquires a rule corresponding to the input from the dialogue rule, and controls a two-way dialogue with the user.
An identifier that specifies an element of the content used in the response based on the extended presentation information, or a content used in the response, which is a specific unit that acquires the extended presentation information corresponding to the acquired rule from the extended rule. A specific part that specifies one of the specifiers that specifies a subset of the components of
A presentation unit that performs an extended presentation that draws attention to a specific area in the content together with the content based on the identified identifier or the specifier.
With
The dialogue rule is a rule that defines the correspondence between the input and the rule.
The extended rule is a rule that defines the correspondence between the rule and the extended presentation information.
The extended presentation information includes at least information indicating a portion to be extendedly presented in the content.
An information presentation system characterized by this.
ユーザによる入力に対し応答を提示する機能を有するコンピュータに、
コンテンツを収集し、前記収集したコンテンツから対話規則を生成し、前記収集したコンテンツと前記対話規則から拡張規則を生成する対話規則構築ステップと、
前記入力に対応するルールを前記対話規則より取得し、ユーザとの双方向の対話を制御する制御ステップと、
前記取得したルールに対応する拡張提示情報を前記拡張規則より取得し、前記拡張提示情報に基づき、前記応答に用いられるコンテンツの要素を指定する識別子、または前記応答に用いられるコンテンツの構成要素の部分集合を指定する指定子のいずれか一方を特定する特定ステップと、
特定された前記識別子または前記指定子に基づいて前記コンテンツの中の特定の領域への注目を促す拡張提示を行う提示ステップと、
を実行させるためのプログラムであって、
前記対話規則とは、入力とルールとの対応関係を定義した規則であり、
前記拡張規則とは、ルールと拡張提示情報との対応関係を定義した規則であり、
前記拡張提示情報は、少なくとも前記コンテンツにおいて拡張提示する箇所を示す情報を含む、
プログラム。
To a computer that has the ability to provide a response to user input
A dialogue rule building step that collects content, generates dialogue rules from the collected content, and generates extended rules from the collected content and the dialogue rules.
A control step that acquires a rule corresponding to the input from the dialogue rule and controls a two-way dialogue with the user, and
An identifier that acquires extended presentation information corresponding to the acquired rule from the extended rule and specifies an element of the content used in the response based on the extended presentation information, or a portion of a component of the content used in the response. A specific step that identifies one of the specifiers that specifies the set, and
A presentation step of performing an extended presentation that draws attention to a specific area in the content based on the identified identifier or specifier.
It is a program to execute
The dialogue rule is a rule that defines the correspondence between the input and the rule.
The extended rule is a rule that defines the correspondence between the rule and the extended presentation information.
The extended presentation information includes at least information indicating a portion to be extendedly presented in the content.
program.
JP2016046880A 2016-03-10 2016-03-10 Information presentation device, information presentation method, information presentation system, and program Active JP6880556B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016046880A JP6880556B2 (en) 2016-03-10 2016-03-10 Information presentation device, information presentation method, information presentation system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016046880A JP6880556B2 (en) 2016-03-10 2016-03-10 Information presentation device, information presentation method, information presentation system, and program

Publications (2)

Publication Number Publication Date
JP2017162253A JP2017162253A (en) 2017-09-14
JP6880556B2 true JP6880556B2 (en) 2021-06-02

Family

ID=59857558

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016046880A Active JP6880556B2 (en) 2016-03-10 2016-03-10 Information presentation device, information presentation method, information presentation system, and program

Country Status (1)

Country Link
JP (1) JP6880556B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009540404A (en) * 2006-06-06 2009-11-19 エクスビブリオ ベースローテン フェンノートシャップ Contextual dynamic ads based on captured rendering text
JP2008070705A (en) * 2006-09-15 2008-03-27 Cad Center:Kk Picture providing system and picture providing server device
TWI488174B (en) * 2011-06-03 2015-06-11 Apple Inc Automatically creating a mapping between text data and audio data
JP5580924B1 (en) * 2013-08-30 2014-08-27 ヤフー株式会社 Distribution device, terminal device, distribution method, and distribution program

Also Published As

Publication number Publication date
JP2017162253A (en) 2017-09-14

Similar Documents

Publication Publication Date Title
US10089299B2 (en) Multi-media context language processing
MacEachren et al. Enabling collaborative geoinformation access and decision‐making through a natural, multimodal interface
US10341461B2 (en) System and method for automatically recreating personal media through fusion of multimodal features
WO2019100319A1 (en) Providing a response in a session
KR102117433B1 (en) Interactive video generation
US20130167025A1 (en) System and method for online user assistance
CN105706080A (en) Augmenting and presenting captured data
CN112703494A (en) Electronic device and method of controlling the same
Bell et al. Microblogging as a mechanism for human–robot interaction
KR20200040097A (en) Electronic apparatus and method for controlling the electronicy apparatus
US11635883B2 (en) Indication of content linked to text
CN108780439A (en) For system and method abundant in content and for instructing reading and realizing understanding
US10789053B2 (en) Facilitated user interaction
KR20200080389A (en) Electronic apparatus and method for controlling the electronicy apparatus
Meo et al. Aesop: A visual storytelling platform for conversational ai and common sense grounding
JP6880556B2 (en) Information presentation device, information presentation method, information presentation system, and program
KR100916814B1 (en) Method, system and computer-readable recording medium for extracting text based on tag information
Joy et al. A prototype Malayalam to sign language automatic translator
Newnham Machine Learning with Core ML: An iOS developer's guide to implementing machine learning in mobile apps
JP2010230948A (en) Content distribution system and text display method
Tripuraneni et al. Hands-On Artificial Intelligence on Amazon Web Services: Decrease the time to market for AI and ML applications with the power of AWS
KR102660366B1 (en) Sign language assembly device and operation method thereof
US11755295B2 (en) Software development system
JP7140016B2 (en) Audio output method, audio output system and program
US20230111356A1 (en) Method and system for selecting marker for modifying a scene within an augmented reality based computing environment

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160311

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181102

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200225

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210419

R150 Certificate of patent or registration of utility model

Ref document number: 6880556

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250