JP2020052442A - Information processing apparatus and program - Google Patents

Information processing apparatus and program Download PDF

Info

Publication number
JP2020052442A
JP2020052442A JP2018177789A JP2018177789A JP2020052442A JP 2020052442 A JP2020052442 A JP 2020052442A JP 2018177789 A JP2018177789 A JP 2018177789A JP 2018177789 A JP2018177789 A JP 2018177789A JP 2020052442 A JP2020052442 A JP 2020052442A
Authority
JP
Japan
Prior art keywords
comment
content
sheet
user
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018177789A
Other languages
Japanese (ja)
Other versions
JP7135653B2 (en
Inventor
光雄 林
Mitsuo Hayashi
光雄 林
哲哉 渡邊
Tetsuya Watanabe
哲哉 渡邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2018177789A priority Critical patent/JP7135653B2/en
Publication of JP2020052442A publication Critical patent/JP2020052442A/en
Application granted granted Critical
Publication of JP7135653B2 publication Critical patent/JP7135653B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

To provide means for, when there is a user who adds a comment to at least one content among a plural pieces of content formed on paper and a user who views the added comments, letting the user who browses the comment understand what content the comment is for.SOLUTION: An information processing apparatus 10 includes a sheet detection unit 11 that detects a document viewed by a reviewer through a spectacle 40, a line of sight detection unit 13 that detects a line of sight of the reviewer viewing the sheet through the spectacle 40 and a movement of the line of sight, a line of sight analysis unit 14 that detects content the reviewer watches by analyzing the movement of the reviewer, a writing detection unit 15 that detects that the reviewer writes the comment, and an association processing unit 17 that associates content and a comment added to the content in association with each other.SELECTED DRAWING: Figure 1

Description

本発明は、情報処理装置及びプログラムに関する。   The present invention relates to an information processing device and a program.

用紙にコメントを書き込む場合、用紙上の余白部分にコメントを書き込むことは一般的に行われている。用紙上に書き込みをする余白がない場合、用紙(原稿)の裏面や別の用紙を用意して書き込んだりする。   When writing a comment on a sheet, it is common practice to write a comment in a margin on the sheet. If there is no margin for writing on the paper, the back side of the paper (original) or another paper is prepared and written.

ところで、視線からウェブページの見ている領域を判断し、現在見ている領域を強調表示する技術が提案されている(例えば、特許文献1)。   By the way, there has been proposed a technique in which a viewing area of a web page is determined from a line of sight and a currently viewed area is highlighted (for example, Patent Document 1).

特開2017−194864号公報JP-A-2017-194864

用紙に形成されている複数のコンテンツのうち、少なくとも一つ以上のコンテンツに対してコメントを付加するユーザと、付加されたコメントを閲覧するユーザとがいる場合に、コメントを閲覧するユーザにとっては、そのコメントがどのコンテンツに対するコメントであるのかを把握することができなかった。   Among a plurality of contents formed on a sheet, when there is a user who adds a comment to at least one or more contents and a user who views the added comment, for a user who views the comment, It was not possible to know what content the comment was for.

本発明に係る情報処理装置は、用紙がコメントの付加対象となる用紙の場合、当該用紙に形成されている複数のコンテンツの位置情報を取得するコンテンツ位置取得手段と、前記用紙を見るユーザの視線を検出する視線検出手段と、当該ユーザがコメントを書いた場合、前記複数のコンテンツのうち、前記コメントを書く前にユーザの視線があったコンテンツをコメント対象コンテンツとして特定する特定手段と、前記コメント対象コンテンツと前記コメントを関連付ける関連付け手段と、前記ユーザとは異なるユーザであり、前記コメントを閲覧するユーザである閲覧ユーザによって前記コメントが閲覧される場合に、前記コメントに関連づけられたコンテンツが、前記コメント対象コンテンツであることが認識できる表示をするよう制御する表示制御手段と、を有することを特徴とする。   An information processing apparatus according to the present invention, when a sheet is a sheet to which a comment is to be added, a content position acquisition unit that acquires position information of a plurality of contents formed on the sheet, and a line of sight of a user who views the sheet. Gaze detecting means for detecting a comment, when the user writes a comment, specifying means for specifying, as the content to be commented, a content having a user's gaze before writing the comment, among the plurality of contents, Associating means for associating the target content with the comment, and when the comment is viewed by a viewing user who is a user different from the user and who views the comment, the content associated with the comment is Controlling display so that it can be recognized as comment target content Display control means that, and having a.

また、前記特定手段は、前記コメントを書いたユーザが視線を動かすことで見た前記用紙上の1又は複数のコンテンツをコメント対象候補コンテンツとして抽出すると共に、抽出したコメント対象候補コンテンツの中から前記コメントを書く前にユーザの視線があったコメント対象候補コンテンツを前記コメント対象コンテンツと特定することを特徴とする。   In addition, the specifying means extracts one or a plurality of contents on the sheet as viewed by the user who wrote the comment by moving his / her gaze as a candidate content for comment, and extracts the candidate content for comment from among the extracted candidate content for comment. Before writing a comment, a candidate content for comment that the user has a line of sight is specified as the content for comment.

また、前記特定手段は、ユーザがコメントを書き込んだ後に前記用紙上のコメント対象候補コンテンツを見てからコメントを再度書き込んだ場合、当該コメント対象候補コンテンツをコメント対象コンテンツとして扱うことを特徴とする。   Further, when the user looks at the comment candidate content on the sheet after writing the comment and then writes the comment again, the specifying unit treats the comment candidate content as the comment target content.

また、前記特定手段は、ユーザがコメントを書き込んだ後に見たコメント対象候補コンテンツで既存のコメント対象コンテンツを差し替えることを特徴とする。   Further, the identification means replaces the existing comment target content with the comment target candidate content viewed after the user writes the comment.

また、前記特定手段は、ユーザがコメントを書き込んだ後に見たコメント対象候補コンテンツをコメント対象コンテンツとして追加することを特徴とする。   Further, the specifying means adds a comment candidate content viewed after the user writes the comment as a comment target content.

また、前記表示制御手段は、前記コメント対象候補コンテンツをユーザに選択可能に表示させ、前記特定手段は、ユーザにより選択された1又は複数のコメント対象候補コンテンツを前記コメント対象コンテンツと特定することを特徴とする。   Further, the display control means causes the user to select the comment target candidate content, and the specifying means specifies one or more comment target candidate contents selected by the user as the comment target content. Features.

また、コメント書込用紙に書き込まれたコメントを受け付ける受付手段を有することを特徴とする。   Further, it is characterized by having a receiving means for receiving a comment written on a comment writing sheet.

また、前記受付手段は、前記用紙と前記コメント書込用紙が同じ用紙の場合、前記用紙の前記コンテンツが形成されている面の余白に書き込まれたコメントを受け付けることを特徴とする。   Further, when the paper and the comment writing paper are the same paper, the receiving means receives a comment written in a margin of a surface of the paper on which the content is formed.

また、前記受付手段は、前記用紙と前記コメント書込用紙が同じ用紙の場合、前記用紙の前記コンテンツが形成されている面の裏面に書き込まれたコメントを受け付けることを特徴とする。   Further, when the paper and the comment writing paper are the same paper, the receiving means receives a comment written on a back surface of the paper on which the content is formed.

また、前記受付手段は、前記用紙と前記コメント書込用紙が異なる用紙の場合、前記コメント書込用紙に書き込まれたコメントを受け付けることを特徴とする。   Further, when the paper and the comment writing paper are different papers, the receiving means receives the comment written on the comment writing paper.

また、前記表示制御手段は、前記コメント対象コンテンツの画像が前記関連付け手段により関連付けられたコメントの書込位置近傍で視認されるよう表示制御することを特徴とする。   Further, the display control means performs display control so that the image of the comment target content is visually recognized in the vicinity of a comment writing position associated by the association means.

また、前記表示制御手段は、前記用紙上における前記コメント対象コンテンツと異なる表示形態にて当該コメント対象コンテンツの画像を表示させることを特徴とする。   Further, the display control means displays an image of the comment target content on the paper in a display mode different from that of the comment target content.

また、前記表示制御手段は、前記コメント対象コンテンツを表示する用紙上のスペースに応じて前記コメント対象コンテンツの画像を拡縮して表示させることを特徴とする。   Further, the display control unit enlarges and displays an image of the comment target content according to a space on a sheet on which the comment target content is displayed.

また、前記表示制御手段は、前記コメント対象コンテンツに前記関連付け手段により関連付けられたコメントが既に存在する場合、当該コメントの画像を前記ユーザが現在書き込んでいるコメントの位置近傍に表示させることを特徴とする。   Further, the display control means, when a comment associated with the comment target content by the association means already exists, displays the image of the comment near the position of the comment currently written by the user. I do.

本発明に係る情報処理装置は、コメントの付加対象となる用紙を見るユーザの視線を検出する視線検出手段と、前記用紙の識別情報に、当該用紙上のコンテンツであってコメントの付加対象とされたコンテンツの識別情報、当該コンテンツの当該用紙上における位置を特定する位置情報、当該コンテンツに対するコメントが書き込まれたコメント書込用紙の識別情報、当該コメントの識別情報及び当該コメントを対応付け生成された関連付け情報を取得する取得手段と、ユーザが前記用紙上のコンテンツを見たときに、前記関連付け情報を参照することによって当該コンテンツ及び当該コンテンツに付加されたコメントが視野内に入るよう表示を制御する表示制御手段と、を有することを特徴とする。   The information processing apparatus according to the present invention includes: a line-of-sight detection unit configured to detect a line of sight of a user who views a sheet to which a comment is to be added; The identification information of the content, the position information specifying the position of the content on the paper, the identification information of the comment writing paper on which the comment for the content is written, the identification information of the comment, and the comment are generated in association with each other. Acquisition means for acquiring association information, and when the user views the content on the paper, controls the display by referring to the association information so that the content and the comment added to the content are within the field of view. And display control means.

また、前記表示制御手段は、ユーザが見ている前記用紙上のコンテンツに付加されたコメントの画像を、前記用紙上の当該コンテンツの位置近傍に表示させることを特徴とする。   Further, the display control means displays an image of a comment added to the content on the sheet viewed by the user near the position of the content on the sheet.

また、前記表示制御手段は、前記用紙の余白部分に表示させることを特徴とする。   Further, the display control means causes a display to be performed in a margin portion of the paper.

また、前記表示制御手段は、前記用紙上の当該コンテンツ以外のコンテンツの位置に表示させることを特徴とする。   Further, the display control means displays the content at a position of the content other than the content on the paper.

また、前記表示制御手段は、前記コメント書込用紙に書き込まれたコメントと紐付くコンテンツの画像を前記コメント書込用紙の面に表示させることを特徴とする。   Further, the display control means displays an image of the content associated with the comment written on the comment writing paper on a surface of the comment writing paper.

また、前記表示制御手段は、前記コンテンツの画像を前記コメント書込用紙上のコメントが書き込まれていない領域の大きさに応じて拡縮して表示させることを特徴とする。   Further, the display control means enlarges and displays the image of the content in accordance with the size of the area where the comment is not written on the comment writing paper.

本発明に係るプログラムは、コンピュータを、用紙がコメントの付加対象となる用紙の場合、当該用紙に形成されている複数のコンテンツの位置情報を取得するコンテンツ位置取得手段、前記用紙を見るユーザの視線を検出する視線検出手段、当該ユーザがコメントを書いた場合、前記複数のコンテンツのうち、前記コメントを書く前にユーザの視線があったコンテンツをコメント対象コンテンツとして特定する特定手段、前記コメント対象コンテンツと前記コメントを関連付ける関連付け手段、前記ユーザとは異なるユーザであり、前記コメントを閲覧するユーザである閲覧ユーザによって前記コメントが閲覧される場合に、前記コメントに関連づけられたコンテンツが、前記コメント対象コンテンツであることが認識できる表示をするよう制御する表示制御手段、として機能させる。   A program according to the present invention provides a computer, when a sheet is a sheet to which a comment is to be added, content position acquisition means for acquiring position information of a plurality of contents formed on the sheet, and a line of sight of a user who views the sheet. Line of sight detecting means for detecting, when the user has written a comment, specifying means for specifying, as the content to be commented, the content of which the user had a line of sight before writing the comment, among the plurality of contents, the content to be commented out Associating means for associating the comment with the comment, and when the comment is browsed by a browsing user who is a user different from the user and browses the comment, the content associated with the comment is the comment target content. I will display that you can recognize Control to display control means, to function as a.

本発明に係るプログラムは、コンピュータを、コメントの付加対象となる用紙を見るユーザの視線を検出する視線検出手段、前記用紙の識別情報に、当該用紙上のコンテンツであってコメントの付加対象とされたコンテンツの識別情報、当該コンテンツの当該用紙上における位置を特定する位置情報、当該コンテンツに対するコメントが書き込まれたコメント書込用紙の識別情報、当該コメントの識別情報及び当該コメントを対応付け生成された関連付け情報を取得する取得手段、ユーザが前記用紙上のコンテンツを見たときに、前記関連付け情報を参照することによって当該コンテンツ及び当該コンテンツに付加されたコメントが視野内に入るよう表示を制御する表示制御手段、として機能させる。   The program according to the present invention is a program for causing a computer to detect a line of sight of a user who looks at a sheet to which a comment is to be added, and the identification information of the sheet to be a content on the sheet and a comment to be added. The identification information of the content, the position information specifying the position of the content on the paper, the identification information of the comment writing paper on which the comment for the content is written, the identification information of the comment, and the comment are generated in association with each other. Acquisition means for acquiring association information, display for controlling display so that when the user views the content on the paper, the content and the comment added to the content are within the field of view by referring to the association information Function as control means.

請求項1に記載の発明によれば、用紙に形成されている複数のコンテンツのうち、少なくとも一つ以上のコンテンツに対してコメントを付加するユーザと、付加されたコメントを閲覧するユーザとがいる場合において、コメントを閲覧するユーザに、そのコメントがどのコンテンツに対するコメントであるのかを把握させることができる。   According to the first aspect of the present invention, there are a user who adds a comment to at least one or more of a plurality of contents formed on a sheet and a user who browses the added comment. In such a case, the user who views the comment can be made aware of the content to which the comment belongs.

請求項2に記載の発明によれば、視線の動きからコメント対象候補コンテンツ及びコメント対象コンテンツを特定することができる。   According to the second aspect of the present invention, the comment target candidate content and the comment target content can be specified from the movement of the line of sight.

請求項3に記載の発明によれば、コメント対象候補コンテンツをコメント対象コンテンツとして取り扱うことが可能となる。   According to the third aspect of the present invention, it is possible to handle comment candidate content as comment target content.

請求項4に記載の発明によれば、コメントに紐付けるコンテンツを変更することが可能となる。   According to the invention described in claim 4, it is possible to change the content associated with the comment.

請求項5に記載の発明によれば、コメントに紐付けるコンテンツを追加することが可能となる。   According to the invention described in claim 5, it is possible to add a content associated with a comment.

請求項6に記載の発明によれば、コメント対象コンテンツをユーザに指定させることができる。   According to the invention described in claim 6, it is possible to allow the user to specify the content to be commented.

請求項7に記載の発明によれば、ユーザが書き込んだコメントを受け付けることができる。   According to the invention described in claim 7, a comment written by a user can be accepted.

請求項8に記載の発明によれば、コメント対象コンテンツと用紙の余白に書き込まれたコメントとを紐付けすることができる。   According to the invention described in claim 8, it is possible to associate the comment target content with the comment written in the margin of the sheet.

請求項9に記載の発明によれば、コメント対象コンテンツと用紙の裏面に書き込まれたコメントとを紐付けすることができる。   According to the ninth aspect of the present invention, the content to be commented and the comment written on the back surface of the sheet can be linked.

請求項10に記載の発明によれば、コメント対象コンテンツと、コメント対象コンテンツが形成されている用紙とは異なる用紙に書き込まれたコメントとを紐付けすることができる。   According to the tenth aspect, it is possible to associate a comment target content with a comment written on a sheet different from the sheet on which the comment target content is formed.

請求項11に記載の発明によれば、用紙上におけるコメント対象コンテンツとコメントの書込位置が離れている場合でもコメント対象コンテンツを視認しながらコメントを書き込むことができる。   According to the eleventh aspect of the present invention, it is possible to write a comment while visually recognizing the comment target content even when the comment target content and the comment writing position on the sheet are far from each other.

請求項12に記載の発明によれば、ユーザが見やすい状態でコメント対象コンテンツの画像を表示させることができる。   According to the twelfth aspect, an image of the content to be commented can be displayed in a state that is easy for the user to see.

請求項13に記載の発明によれば、ユーザが見やすい大きさでコメント対象コンテンツの画像を表示させることができる。   According to the thirteenth aspect, an image of the content to be commented can be displayed in a size that is easy for the user to see.

請求項14に記載の発明によれば、現在のコメントの書込位置から離れた位置にコメント対象コンテンツに対するコメントが既に書き込まれている場合でも、視線をそれほど動かすことなく既に書き込まれているコメントを視認しながらコメントを書き込むことができる。   According to the invention described in claim 14, even when a comment for the content to be commented has already been written at a position distant from the current comment writing position, the comment already written without moving the line of sight is changed. You can write comments while viewing.

請求項15に記載の発明によれば、コンテンツ及び当該コンテンツに付加されているコメントを、視線をそれほど動かすことなく閲覧させることができる。   According to the invention described in claim 15, the content and the comment added to the content can be browsed without moving the line of sight so much.

請求項16に記載の発明によれば、ユーザが見ている用紙上にコメントを表示させることができる。   According to the sixteenth aspect, a comment can be displayed on a sheet viewed by a user.

請求項17に記載の発明によれば、用紙の余白部分にコメントを表示させることができる。   According to the seventeenth aspect, a comment can be displayed in a margin of a sheet.

請求項18に記載の発明によれば、用紙上に表示に必要なスペースの余白がない場合でもコメントを表示させることができる。   According to the eighteenth aspect, a comment can be displayed even when there is no space required for display on a sheet.

請求項19に記載の発明によれば、コメントが書き込まれているコメント書込用紙上にコンテンツを表示させることができる。   According to the nineteenth aspect, the content can be displayed on the comment writing paper on which the comment is written.

請求項20に記載の発明によれば、ユーザが見やすい大きさでコンテンツの画像を表示させることができる。   According to the twentieth aspect, the content image can be displayed in a size that is easy for the user to see.

請求項21に記載の発明によれば、用紙に形成されている複数のコンテンツのうち、少なくとも一つ以上のコンテンツに対してコメントを付加するユーザと、付加されたコメントを閲覧するユーザとがいる場合において、コメントを閲覧するユーザに、そのコメントがどのコンテンツに対するコメントであるのかを把握させることができる。   According to the twenty-first aspect, there are a user who adds a comment to at least one or more contents among a plurality of contents formed on a sheet, and a user who browses the added comment. In such a case, the user who views the comment can be made aware of the content to which the comment belongs.

請求項22に記載の発明によれば、コンテンツ及び当該コンテンツに付加されているコメントを、視線をそれほど動かすことなく閲覧させることができる。   According to the invention described in claim 22, the content and the comment added to the content can be browsed without moving the line of sight so much.

本実施の形態において原稿をレビューする者が利用する情報処理装置のブロック構成図である。FIG. 3 is a block diagram of an information processing apparatus used by a person who reviews a document in the present embodiment. 本実施の形態における情報処理装置のハードウェア構成図である。FIG. 2 is a hardware configuration diagram of the information processing apparatus according to the present embodiment. 本実施の形態においてレビューの対象とされる原稿の一例を示す図である。FIG. 3 is a diagram illustrating an example of a document to be reviewed in the present embodiment. 図3Aに示す原稿に含まれるコンテンツを示す図である。FIG. 3B is a diagram showing contents included in the document shown in FIG. 3A. 本実施の形態における原稿情報記憶部に記憶される原稿情報のデータ構成の一例を示す図である。FIG. 4 is a diagram illustrating an example of a data configuration of document information stored in a document information storage unit according to the present embodiment. 本実施の形態におけるコンテンツとコメントとを関連付ける処理を示すフローチャートである。6 is a flowchart illustrating a process of associating a content with a comment in the present embodiment. 本実施の形態においてレビュワーがメガネを通して見えている原稿及び別紙の一例を示す図である。FIG. 3 is a diagram illustrating an example of a document and a separate sheet that a reviewer sees through glasses in the present embodiment. 本実施の形態においてレビュワーがメガネを通して見えている原稿及び別紙の他の例を示す図である。FIG. 9 is a diagram illustrating another example of a document and a separate sheet that a reviewer sees through glasses in the present embodiment. 本実施の形態においてレビュワーがメガネを通して見えている原稿及び別紙の他の例を示す図である。FIG. 9 is a diagram illustrating another example of a document and a separate sheet that a reviewer sees through glasses in the present embodiment. 本実施の形態においてレビュワーがメガネを通して見えている原稿及び別紙の他の例を示す図である。FIG. 9 is a diagram illustrating another example of a document and a separate sheet that a reviewer sees through glasses in the present embodiment. 本実施の形態においてレビュワーがメガネを通して見えている原稿及び別紙の他の例を示す図である。FIG. 9 is a diagram illustrating another example of a document and a separate sheet that a reviewer sees through glasses in the present embodiment. 本実施の形態において抽出した注目箇所と関連候補の各コンテンツの構成の例を示す図である。It is a figure showing an example of composition of each contents of an attention spot extracted in this embodiment, and a related candidate. 本実施の形態において変更された注目箇所と関連候補の各コンテンツの構成の例を示す図である。It is a figure showing an example of composition of each contents of a point of interest and a related candidate changed in this embodiment. 本実施の形態におけるコメント情報記憶部に記憶されるコメント情報のデータ構成の一例を示す図である。FIG. 4 is a diagram illustrating an example of a data configuration of comment information stored in a comment information storage unit according to the present embodiment. 本実施の形態において別紙に記入されたコメントの構成を示す図である。It is a figure showing composition of a comment written on a separate sheet in this embodiment. 本実施の形態における関連付け情報記憶部に記憶される関連付け情報のデータ構成の一例を示す図である。FIG. 4 is a diagram illustrating an example of a data configuration of association information stored in an association information storage unit according to the present embodiment. 本実施の形態においてコメント対象候補コンテンツが選択可能に別紙上に表示されたときの一例を示す図である。It is a figure which shows an example when the comment target candidate content is displayed on the separate sheet in this embodiment in a selectable manner. 本実施の形態においてコメント対象候補コンテンツが別紙上に表示されたときの一例を示す図である。It is a figure which shows an example at the time of displaying the comment candidate content in this Embodiment on a separate sheet. 本実施の形態においてコンテンツが別紙に関連付けて表示された状態の一例を示す図である。FIG. 7 is a diagram illustrating an example of a state in which content is displayed in association with a separate sheet in the present embodiment. 本実施の形態においてコンテンツが別紙に関連付けて表示された状態の他の例を示す図である。FIG. 14 is a diagram illustrating another example of a state in which content is displayed in association with a separate sheet in the present embodiment. 本実施の形態において原稿へのレビューを読む者が利用する情報処理装置のブロック構成図である。FIG. 2 is a block diagram of an information processing apparatus used by a person who reviews reviews on a document in the present embodiment. 本実施の形態におけるコメントの表示処理を示すフローチャートである。It is a flowchart which shows the display processing of the comment in this Embodiment.

以下、図面に基づいて、本発明の好適な実施の形態について説明する。   Hereinafter, a preferred embodiment of the present invention will be described with reference to the drawings.

《レビュワーによるコメントの書き込み》
図1は、本発明に係る情報処理装置の一実施の形態を示すブロック構成図である。図1に示す情報処理装置10は、原稿をレビューするユーザ(以下、「レビュワー」)により利用される装置である。
《Writing a comment by a reviewer》
FIG. 1 is a block diagram showing an embodiment of the information processing apparatus according to the present invention. The information processing apparatus 10 shown in FIG. 1 is an apparatus used by a user who reviews a document (hereinafter, “reviewer”).

図2は、本実施の形態における情報処理装置10を形成するコンピュータのハードウェア構成図である。本実施の形態における情報処理装置10は、パーソナルコンピュータ(PC)等の従前から存在する汎用的なハードウェア構成に、メガネ40を接続した構成を有している。すなわち、情報処理装置10は、図2に示すCPU31、ROM32、RAM33、ハードディスクドライブ(HDD)34、入力手段として設けられたマウス35とキーボード36、及び表示手段として設けられたディスプレイ37をそれぞれ接続する入出力コントローラ38、通信手段として設けられたネットワークコントローラ39、メガネ40に対する入出力制御を行うメガネコントローラ41を内部バス42に接続して構成される。   FIG. 2 is a hardware configuration diagram of a computer forming the information processing apparatus 10 according to the present embodiment. The information processing apparatus 10 according to the present embodiment has a configuration in which glasses 40 are connected to a conventional general-purpose hardware configuration such as a personal computer (PC). That is, the information processing apparatus 10 connects the CPU 31, the ROM 32, the RAM 33, the hard disk drive (HDD) 34, the mouse 35 and the keyboard 36 provided as input means, and the display 37 provided as display means shown in FIG. An input / output controller 38, a network controller 39 provided as communication means, and a glasses controller 41 for performing input / output control on glasses 40 are connected to an internal bus 42.

メガネ40は、メガネコントローラ41と連携して、装着したユーザの視線、すなわちどの位置を見ているのかを常時検出することでユーザの視線の動きを検出する機能を有している。また。メガネ40のレンズ部分には、透過性のある表示画面が搭載されている。メガネコントローラ41は、画像を表示画面に表示させることによって、ユーザがメガネ40のレンズ部分を通して見る先、例えば用紙上に画像が表示されているかのように、画像をユーザに見せることができる。   The glasses 40 have a function of detecting the movement of the user's line of sight by always detecting the line of sight of the wearing user, that is, which position the user is looking at in cooperation with the glass controller 41. Also. A transparent display screen is mounted on the lens portion of the glasses 40. By displaying the image on the display screen, the glasses controller 41 can present the image to the user as if the user views through the lens portion of the glasses 40, for example, as if the image is being displayed on paper.

図3Aは、本実施の形態においてレビューの対象とされる原稿の一例を示す図である。原稿には、図示してないが、原稿を識別する用紙の識別情報(以下、「原稿ID」)を特定可能な原稿IDコード及びタグが付けられている。原稿IDコードは、例えばQRコード(登録商標)やバーコードのようなデータコードを用いてよい。タグは、視野内にある原稿の位置を検出するために、例えば原稿の4角に付けられている。   FIG. 3A is a diagram illustrating an example of a document to be reviewed in the present embodiment. Although not shown, the document is provided with a document ID code and a tag capable of specifying paper identification information (hereinafter, “document ID”) for identifying the document. As the document ID code, for example, a data code such as a QR code (registered trademark) or a bar code may be used. Tags are attached to, for example, four corners of the document to detect the position of the document within the field of view.

図3Bは、図3Aに示す原稿に含まれるコンテンツを示す図である。図3Bでは、コンテンツを破線で囲んで示している。「コンテンツ」とは、原稿に記載されている文書や画像等であり、本実施の形態の場合、コメントの付加対象となる。「コメント」とは、原稿に対する意見や見解であるが、本実施の形態では、原稿に含まれるコンテンツに対してコメントを付けることにしている。すなわち、コメントは、いずれかのコンテンツに対応付けられることになり、コンテンツに紐付けられて管理される。コメントは、文書にて記載してもよいし、図面等他の方法にて表現してもよい。   FIG. 3B is a diagram showing contents included in the document shown in FIG. 3A. In FIG. 3B, the content is shown by being surrounded by a broken line. The “content” is a document, an image, or the like described in a manuscript, and in the present embodiment, is a target to which a comment is added. The "comment" is an opinion or opinion on the manuscript, but in the present embodiment, a comment is attached to the content included in the manuscript. That is, the comment is associated with one of the contents, and is managed in association with the content. The comment may be described in a document or may be expressed by another method such as a drawing.

原稿上の文書が記載されている部分については、例えば段落毎にコンテンツを形成する。また、例えば、フォント、文字サイズ、太文字等文字の形態が変化するところやラベル(見出し)と考えられるところで一連の文書を分割して、分割単位毎にコンテンツを形成してもよい。図面においても同様に、図面の種類、グラフの種類毎に分割してコンテンツを形成してもよい。コンテンツの形成自体は、従前からある技術を利用してもよい。   For a portion of the document where the document is described, the content is formed, for example, for each paragraph. Further, for example, a series of documents may be divided where the form of characters such as fonts, character sizes, and bold characters change, or where labels (headings) are considered, to form content for each division unit. Similarly, in the drawings, the content may be divided for each type of drawing and each type of graph. The formation of the content itself may utilize a conventional technology.

図1に戻り、本実施の形態における情報処理装置10は、用紙検出部11、用紙解析部12、視線検出部13、視線解析部14、書込検出部15、コメント情報生成部16、関連付け処理部17、表示制御部18、修正処理部19、原稿情報記憶部21、視線保持部22、コメント情報記憶部23及び関連付け情報記憶部24を有している。なお、本実施の形態の説明に用いない構成要素については図から省略している。用紙検出部11は、メガネ40を通してユーザが見ている用紙を検出する。用紙解析部12は、用紙検出部11が検出した用紙が過去にレビュー対象となっていない原稿の場合、原稿を解析することによって当該原稿に対する原稿情報を生成する。視線検出部13は、メガネ40を通して用紙を見るユーザの視線及び視線の動きを検出する。検出されるユーザの見る位置を特定する情報は視線保持部22に保持されるが、視線解析部14は、視線保持部22に保持されているユーザの視線の動きを解析することによってユーザが見ているコンテンツを検出する。書込検出部15は、レビュワーがコメントを書いていることを検出する。コメント情報生成部16は、記入されたコメントに対するコメント情報を生成する。関連付け処理部17は、コンテンツと当該コンテンツに対してレビュワーが書いたコメントとを関連付ける。表示制御部18は、レビュワーが書いたコメントを閲覧するユーザ(以下、「レビュイー」)によってコメントが閲覧される場合に、当該コメントに関連づけられたコンテンツが、関連付け処理部17により当該コメントに関連付けられているコンテンツであることが認識できる表示をするようメガネ40の表示画面への表示制御を行う。関連付け処理部17は、コンテンツとコメントとを紐付けることによって関連付け情報を生成するが、修正処理部19は、関連付け処理部17が生成した関連付け情報を修正する機能を有している。   Returning to FIG. 1, the information processing apparatus 10 according to the present embodiment includes a paper detection unit 11, a paper analysis unit 12, a visual line detection unit 13, a visual line analysis unit 14, a write detection unit 15, a comment information generation unit 16, an association process It has a unit 17, a display control unit 18, a correction processing unit 19, a document information storage unit 21, a line-of-sight holding unit 22, a comment information storage unit 23, and an association information storage unit 24. Note that components not used in the description of the present embodiment are omitted from the drawings. The paper detection unit 11 detects the paper that the user is looking through the glasses 40. When the sheet detected by the sheet detection unit 11 is a document that has not been reviewed in the past, the sheet analysis unit 12 analyzes the document to generate document information for the document. The line-of-sight detection unit 13 detects the line-of-sight and the line-of-sight movement of the user who views the paper through the glasses 40. The information specifying the position of the user to be detected is stored in the line-of-sight holding unit 22, and the line-of-sight analyzing unit 14 analyzes the movement of the user's line of sight held in the line-of-sight holding unit 22, and thereby the user's line of sight is viewed. Detecting content The write detection unit 15 detects that the reviewer is writing a comment. The comment information generation unit 16 generates comment information for the entered comment. The association processing unit 17 associates a content with a comment written by a reviewer on the content. When the comment is browsed by a user who browses the comment written by the reviewer (hereinafter, “review”), the display control unit 18 associates the content associated with the comment with the comment by the association processing unit 17. The display control on the display screen of the glasses 40 is performed so that the display can be recognized as the content being displayed. The association processing unit 17 generates association information by associating the content with the comment. The modification processing unit 19 has a function of modifying the association information generated by the association processing unit 17.

なお、各記憶手段21〜24のデータ構成は、動作の説明と合わせて必要により説明する。   The data configuration of each of the storage units 21 to 24 will be described as necessary together with the description of the operation.

情報処理装置10における各構成要素11〜19は、情報処理装置10を形成するコンピュータと、コンピュータに搭載されたCPU31で動作するプログラムとの協調動作により実現される。また、各記憶手段21〜24は、情報処理装置10に搭載されたHDD34にて実現される。あるいは、RAM33又は外部にある記憶手段をネットワーク経由で利用してもよい。   Each of the components 11 to 19 in the information processing device 10 is realized by a cooperative operation of a computer that forms the information processing device 10 and a program that runs on a CPU 31 mounted on the computer. Each of the storage units 21 to 24 is realized by the HDD 34 mounted on the information processing apparatus 10. Alternatively, the RAM 33 or an external storage means may be used via a network.

また、本実施の形態で用いるプログラムは、通信手段により提供することはもちろん、CD−ROMやUSBメモリ等のコンピュータ読み取り可能な記録媒体に格納して提供することも可能である。通信手段や記録媒体から提供されたプログラムはコンピュータにインストールされ、コンピュータのCPU31がプログラムを順次実行することで各種処理が実現される。   In addition, the program used in the present embodiment can be provided not only by communication means but also stored in a computer-readable recording medium such as a CD-ROM or a USB memory. The program provided from the communication means or the recording medium is installed in the computer, and various processes are realized by the CPU 31 of the computer sequentially executing the program.

次に、本実施の形態における動作について説明する。まず、レビュイーが作成した原稿及びコメントを書き込む用紙(以下、「別紙」)を検出する処理から説明する。   Next, the operation in the present embodiment will be described. First, the process of detecting a document created by the reviewer and a sheet (hereinafter, referred to as “separate sheet”) in which a comment is to be written will be described.

レビュワーは、レビューを開始する際にメガネ40をかける。レビュワーは、後述する関連付け情報の生成が終了するまでメガネ40をかけ続けることになる。また、生成した関連付け情報を修正する際にもメガネ40をかける必要がある。つまり、レビュワーは、レビューを行う際にはメガネ40を装着する必要がある。   The reviewer puts on the glasses 40 when starting the review. The reviewer keeps wearing the glasses 40 until the generation of the association information described later is completed. Also, it is necessary to wear glasses 40 when correcting the generated association information. That is, the reviewer needs to wear the glasses 40 when performing the review.

視線検出部13は、レビュワーがメガネ40をかけている間、特に断らない限りレビュワーの見る先、すなわち視線を検出して視線保持部22に保持する。視線保持部22に保持するデータの構成や形式は、特に限定する必要はない。図6では、原稿上における視線の動きを破線で示しているが、視線解析部14は、視野内における原稿の位置及び視線保持部22に保持されている情報を解析することによって図6に示す視線の動きを検出する。   While the reviewer wears the glasses 40, the gaze detection unit 13 detects the view point of the reviewer, that is, the gaze, and stores the gaze in the gaze holding unit 22 unless otherwise specified. The configuration and format of the data stored in the line-of-sight storage unit 22 need not be particularly limited. In FIG. 6, the movement of the line of sight on the document is indicated by a broken line. However, the line of sight analysis unit 14 shows the position of the document in the field of view and the information held in the line of sight holding unit 22 by analyzing the information. Detects gaze movement.

レビュワーは、まずレビュー対象の原稿を視野内に収める。これにより、用紙検出部11は、メガネ40を通して見える原稿の原稿IDコード及びタグを検出することで原稿を検出する。用紙検出部11は、タグの位置を検出することによって視野内における原稿の位置を常時特定する。   The reviewer first places the manuscript to be reviewed in the field of view. As a result, the paper detection unit 11 detects the document by detecting the document ID code and tag of the document viewed through the glasses 40. The paper detection unit 11 always specifies the position of the document in the field of view by detecting the position of the tag.

原稿が検出されると、用紙解析部12は、原稿IDコードを解読することによって取得した原稿IDに対応する原稿情報が原稿情報記憶部21に登録されていない場合、当該原稿に対する原稿情報を生成する。原稿情報が原稿情報記憶部21に登録されていない場合というのは、過去にレビュー対象となっていない原稿である。なお、レビュワーがいったん原稿を視野から外してから元に戻したときには、原稿情報が既に生成されている。   When a document is detected, the paper analysis unit 12 generates document information for the document if the document information corresponding to the document ID obtained by decoding the document ID code is not registered in the document information storage unit 21. I do. The case where the document information is not registered in the document information storage unit 21 is a document which has not been subject to review in the past. Note that when the reviewer once removes the original from the field of view and then returns the original, original information has already been generated.

図4は、本実施の形態における原稿情報記憶部21に記憶される原稿情報のデータ構成の一例を示す図である。原稿情報は、原稿毎に、当該原稿の原稿IDにコンテンツ情報が対応付けされて生成される。コンテンツ情報は、原稿に含まれる各コンテンツに関する情報であり、コンテンツID、位置情報及びコンテンツを含む。コンテンツIDは、当該コンテンツを識別する識別情報である。位置情報は、当該コンテンツの原稿上における位置を示す情報である。例えば、原稿上のある1点を基準として座標情報で表してもよい。コンテンツは、コンテンツ自体であるが、本実施の形態では、コンテンツの種類(テキスト、図等)に関係なく画像情報で保持することにする。   FIG. 4 is a diagram illustrating an example of a data configuration of document information stored in document information storage unit 21 according to the present embodiment. The document information is generated for each document by associating the content information with the document ID of the document. The content information is information on each content included in the document, and includes a content ID, position information, and content. The content ID is identification information for identifying the content. The position information is information indicating the position of the content on the document. For example, the coordinates may be represented by coordinate information based on a certain point on the document. Although the content is the content itself, in the present embodiment, the content is stored as image information regardless of the type of the content (text, figure, etc.).

用紙解析部12は、原稿の画像を解析することによって原稿に含まれるコンテンツを抽出し、各コンテンツにコンテンツIDを割り振り、原稿上における当該コンテンツの領域を特定する位置情報を検出する。また、原稿の画像から各コンテンツの画像情報を抽出する。用紙解析部12は、このようにして抽出した情報から原稿情報を生成して原稿情報記憶部21に保存する。   The paper analysis unit 12 analyzes the image of the document to extract contents included in the document, assigns a content ID to each content, and detects position information for specifying a region of the content on the document. Also, image information of each content is extracted from the image of the document. The paper analysis unit 12 generates document information from the information thus extracted and stores the document information in the document information storage unit 21.

本実施の形態では、用紙解析部12が原稿の画像を解析して原稿情報を生成するようにしたが、例えば、原稿が生成されると原稿情報を事前に生成しておき、用紙解析部12は、その生成済みの原稿情報を取得して原稿情報記憶部21に保存するようにしてもよい。原稿には、図面とその図面を説明する文書とが掲載されている場合があるが、例えばレビュイーが原稿情報を事前に生成するようにすれば、例えば図面と文書の意味内容から特定できる図面と文書との関係を示す関係情報を原稿情報に含めることが可能となる。このように、原稿情報を事前に生成するようにしておけば、用紙解析部12が原稿の画像を解析することでは得られない上記関係情報等を原稿情報に含めることが可能となる。   In the present embodiment, the paper analyzing unit 12 analyzes the image of the original to generate the original information. For example, when the original is generated, the original information is generated in advance, and the paper analyzing unit 12 generates the original information. May obtain the generated document information and store it in the document information storage unit 21. A manuscript may include a drawing and a document describing the drawing.For example, if the reviewer generates manuscript information in advance, for example, a drawing and a drawing that can be specified from the semantic content of the document may be included. It is possible to include relationship information indicating the relationship with the document in the document information. As described above, if the document information is generated in advance, it is possible to include the above-described related information and the like that cannot be obtained by analyzing the image of the document by the sheet analysis unit 12 in the document information.

また、コンテンツに関する情報だけでなく、余白についての情報も取得して原稿情報記憶部21に保存するようにしてもよい。レビュワーは、原稿に余白がある場合、その余白に書き込みをする可能性がある。従って、用紙解析部12は、コンテンツの場合と同様に、空白部分(原稿上のコンテンツ以外の部分)の中から所定の閾値以上の大きさの領域となる空白部分を余白として抽出し、その抽出した余白に対してコンテンツの場合と同様に、識別情報(以下、「余白ID」)を割り振り、また原稿上における当該余白の領域を特定する位置情報を検出して原稿情報に保存する。もちろん、保存する情報には、コンテンツではなく余白と判別できる情報、例えばフラグ情報でもよいし、余白IDにコンテンツIDと異なる設定規則を適用するなどしてコンテンツと判別可能にしておく必要がある。   Further, not only information about contents but also information about margins may be acquired and stored in the document information storage unit 21. If there is a margin in the document, the reviewer may write in the margin. Therefore, as in the case of the content, the paper analysis unit 12 extracts, as a blank, a blank portion that is an area having a size equal to or larger than a predetermined threshold from the blank portion (a portion other than the content on the document). As in the case of the content, identification information (hereinafter, “margin ID”) is allocated to the margin, and position information for specifying the margin area on the document is detected and stored in the document information. Of course, the information to be stored may be information that can be discriminated as a margin instead of content, for example, flag information, and it is necessary to be able to discriminate the content by applying a setting rule different from the content ID to the margin ID.

レビュワーが原稿情報記憶部21に原稿IDが登録されている原稿を見た場合、原稿情報を生成する処理を省略してよい。もちろん、レビュイーがレビューの結果に従ってレイアウト変更した原稿を再度レビューする場合を考慮して、用紙解析部12は、原稿の画像をその都度解析して原稿情報を生成するようにしてもよい。この場合は、当該原稿の原稿情報を上書きすることで更新する。   When the reviewer sees a document whose document ID is registered in the document information storage unit 21, the process of generating document information may be omitted. Of course, in consideration of the case where the reviewer reviews the document whose layout has been changed in accordance with the result of the review, the paper analyzing unit 12 may analyze the image of the document each time to generate document information. In this case, the original information is updated by overwriting the original information.

また、レビュワーは、原稿に対して何らかのコメントを記載するために原稿とは別の用紙(以下、「別紙」)を事前に用意して原稿を共に視野内に収めるようにしておく。説明の便宜上、別紙には、原稿の場合と同様に、別紙を識別する用紙の識別情報(以下、「別紙ID」)を特定可能な別紙IDコード及びタグが付けられているものとする。なお、ここでは白紙の用紙を別紙として用いる。   In addition, the reviewer prepares in advance a sheet (hereinafter, referred to as “separate sheet”) different from the manuscript in order to write some comment on the manuscript so that the manuscript is included in the field of view. For convenience of explanation, it is assumed that the separate sheet is provided with a separate sheet ID code and a tag capable of specifying the identification information (hereinafter, “separate sheet ID”) of the sheet for identifying the separate sheet, as in the case of the original. Here, a blank sheet is used as a separate sheet.

用紙検出部11は、メガネ40を通して見える別紙の別紙IDコード及びタグを検出することで別紙を検出する。用紙検出部11は、タグの位置を検出することによって視野内における別紙の位置を常時特定する。   The paper detection unit 11 detects a separate sheet by detecting a separate sheet ID code and a tag of the separate sheet that can be seen through the glasses 40. The paper detection unit 11 always specifies the position of the separate sheet in the field of view by detecting the position of the tag.

用紙解析部12は、別紙IDコードを解読することによって取得した別紙IDから用紙が別紙と判断する。例えば、別紙と判別させるための設定規則に従って生成した別紙IDを割り振る。あるいは、原稿IDの設定規則とは異なることで別紙と判断してもよいし、別紙の画像を解析することによって別紙と判断してもよい。   The sheet analysis unit 12 determines that the sheet is a separate sheet from the separate sheet ID acquired by decoding the separate sheet ID code. For example, a separate sheet ID generated according to a setting rule for determining a separate sheet is allocated. Alternatively, it may be determined that the document is a separate sheet because it is different from the setting rule of the document ID, or may be determined by analyzing an image of the separate sheet.

図5は、本実施の形態においてレビュワーがコンテンツと当該コンテンツに対して記載したコメントとを関連付ける処理を示すフローチャートである。また、図6A〜図6Eは、レビュワーがメガネ40を通して見えている原稿及び別紙を示す図である。以下、こららの図を用いてコンテンツとコメントとの関連付け処理について説明する。   FIG. 5 is a flowchart illustrating a process in which a reviewer associates a content with a comment described for the content in the present embodiment. 6A to 6E are diagrams illustrating a document and a separate sheet that the reviewer sees through the glasses 40. FIG. Hereinafter, a process of associating a content with a comment will be described with reference to these drawings.

なお、レビュワーは、前述したように予め用意した別紙以外にも原稿の表面(コンテンツが記載されている面)の余白部分、あるいは原稿の裏面にコメントを記載する場合もあるが、ここでは、別紙にコメントを記載する場合を例にして説明する。また、原稿は1枚であり(表面だけにコンテンツのある1ページの原稿であり)、用意する別紙も1枚とする。   The reviewer may write a comment on the margin of the front side of the document (the surface on which the content is written) or on the back side of the document in addition to the separate sheet prepared in advance as described above. This will be described by taking a case where a comment is described as an example. In addition, it is assumed that there is one document (one page document having content only on the front side) and one separate sheet is prepared.

レビュワーは、レビューのために原稿を見る。視線検出部13は、用紙検出部11が検出している原稿の位置と検出した視線の位置からレビュワーは原稿を見ていると認識すると、視線の動きの視線保持部22への記録を開始する(ステップ101)。図6A〜6Eでは、原稿上における視線の動きを破線で示しているが、このうち、図6Aの例では、視線を原稿の最初(左上)の部分から現在矢印の所まで動かしていることを示している。視線検出部13は、レビュワーの視線が原稿から外れない間(ステップ102でN)、視線保持部22への記録を継続する。そして、レビュワーは、原稿上の矢印の位置まで視線を動かした後、コメントを付けるために別紙に視線を動かしたとする。視線検出部13は、レビュワーの視線が原稿から外れたことを検出すると(ステップ102でY)、視線保持部22への記録を停止する(ステップ103)。   Reviewers view the manuscript for review. The gaze detection unit 13 starts recording the movement of the gaze to the gaze holding unit 22 when recognizing that the reviewer is looking at the original from the position of the document detected by the paper detection unit 11 and the position of the gaze detected. (Step 101). 6A to 6E, the movement of the line of sight on the document is indicated by a broken line. In the example of FIG. 6A, the line of sight is moved from the first (upper left) portion of the document to the current arrow. Is shown. The gaze detection unit 13 continues recording on the gaze holding unit 22 while the gaze of the reviewer does not deviate from the document (N in step 102). Then, it is assumed that the reviewer moves his / her line of sight to the position of the arrow on the document and then moves his / her line of sight on a separate sheet to add a comment. The gaze detection unit 13 stops recording on the gaze holding unit 22 when detecting that the gaze of the reviewer has deviated from the document (Y in Step 102) (Step 103).

視線保持部22への記録が停止すると、視線解析部14は、視線保持部22に記録されている視線の動きを解析してレビュワーが見たコンテンツをコメント対象候補コンテンツとして抽出する。図6Aの例によると、コンテンツ51,52,53がコメント対象候補コンテンツに該当する。そして、コメント対象候補コンテンツの中から原稿上のコンテンツから視線が外れる直前に見ていたコメント対象候補コンテンツ、具体的にはコンテンツ53をコメント対象コンテンツ(注目箇所)として特定し、それ以外のコンテンツ51,52を関連候補として特定する(ステップ104)。   When the recording in the line-of-sight holding unit 22 is stopped, the line-of-sight analyzing unit 14 analyzes the movement of the line of sight recorded in the line-of-sight holding unit 22, and extracts the content viewed by the reviewer as the comment candidate content. According to the example of FIG. 6A, the contents 51, 52, and 53 correspond to the comment candidate contents. Then, from among the comment target candidate contents, the comment target candidate content, that is, the content 53, which is viewed immediately before the line of sight from the content on the document is identified, is specified as the comment target content (point of interest). , 52 as related candidates (step 104).

図7には、この処理により抽出したコンテンツが示されている。注目箇所には、レビュワーがコメントの対象として注目したと推測されるコンテンツ、すなわちコメント対象コンテンツであり、具体的にはコンテンツ52が分類される。関連候補には、レビュワーがコメントの対象として注目したと推定されないもののレビュワーが一連の視線の動きにおいて見ていた(視線が通過した)コンテンツであることからコメント対象コンテンツになり得るコンテンツ、すなわちコメント対象コンテンツとして抽出されなかったコメント対象候補コンテンツであり、具体的にはコンテンツ51,53が分類される。   FIG. 7 shows the content extracted by this processing. The notable portion is a content that is assumed to have been noticed by the reviewer as a comment target, that is, a comment target content. Specifically, the content 52 is classified. Related candidates include content that is not presumed to be the commenter's attention as a comment target, but is a content that can be a comment target content because the reviewer has seen (passed the line of sight) in a series of line-of-sight movements. This is a comment candidate content that has not been extracted as a content, and specifically, the contents 51 and 53 are classified.

レビュワーは、コメントを付けるために別紙に視線を動かし、そしてコメントを記入する。このときの様子を図6Bに示す。   The reviewer gazes at the attachment to make a comment and writes the comment. The situation at this time is shown in FIG. 6B.

書込検出部15は、レビュワーが別紙にコメントを書いていることを検出する。書込の有無や書込位置は、既知の技術を利用してよい。例えば、筆圧を検知するペンを使用したり、別紙とペン先との距離を測定したり、いかなる方法を利用してもよい。   The write detection unit 15 detects that the reviewer is writing a comment on a separate sheet. A known technique may be used for the presence or absence of writing and the writing position. For example, any method may be used, such as using a pen for detecting pen pressure, measuring the distance between a separate sheet and the pen tip, and the like.

レビュワーが別紙にコメントを書いている途中で視線を原稿にいったん戻したとする。このときの様子を図6Cに示す。視線検出部13がレビュワーの視線が別紙から外れない間は(ステップ105でN)、レビュワーが別紙にコメント書込中と判断する。そして、レビュワーが別紙から視線を外し(ステップ105でY)、この視線の戻した先が図6Cに例示したように注目箇所(コンテンツ52)ではなく関連候補(コンテンツ53)だとすると、レビュワーがコメントを付けたかったのはコンテンツ53であったと推測して、コンテンツ53を注目箇所に変更する。注目箇所であったコンテンツ52は、そのまま注目箇所として残してもよい。この場合、コンテンツ53が注目箇所に追加されることになる。ただ、ここでは、コメントが1つのコンテンツに対応するようにコンテンツ52を関連候補に変更する。このように注目箇所と関連候補とを入れ換えた後の例を図8に示す。なお、視線の戻した先が注目箇所(コンテンツ52)の場合、コメント対象コンテンツはコンテンツ52のまま維持する。   Assume that the reviewer once returned his gaze to the manuscript while writing a comment on a separate sheet. The situation at this time is shown in FIG. 6C. While the line of sight of the reviewer does not deviate from the separate sheet (N in step 105), the line of sight detection unit 13 determines that the reviewer is writing a comment on the separate sheet. Then, the reviewer removes his / her line of sight from the attached sheet (Y in step 105), and assuming that the return of this line of sight is not the point of interest (content 52) but a related candidate (content 53) as illustrated in FIG. 6C, the reviewer comments It is inferred that the content 53 is the content 53, and the content 53 is changed to the point of interest. The content 52 that was the attention point may be left as the attention point. In this case, the content 53 is added to the point of interest. However, here, the content 52 is changed to a related candidate so that the comment corresponds to one content. FIG. 8 shows an example in which the target portion and the related candidates are exchanged in this way. In addition, when the destination to which the line of sight is returned is the attention point (content 52), the comment target content is maintained as the content 52.

また、別紙からは視線がいったん外されるので、外される前までに記入されたコメントを1つのコメント(コンテンツ)として取り扱うようにする。そのために、コメント情報生成部16は、視線が別紙から外されたことを検出すると別紙に記入されたコメントに対するコメント情報を生成して(ステップ106)、コメント情報記憶部23に登録する。   In addition, since the line of sight is once removed from the separate sheet, the comment written before the removal is handled as one comment (content). For this purpose, when detecting that the line of sight has been removed from the separate sheet, the comment information generating section 16 generates comment information for the comment written on the separate sheet (step 106) and registers it in the comment information storage section 23.

図9は、本実施の形態におけるコメント情報記憶部23に記憶されるコメント情報のデータ構成の一例を示す図である。コメント情報は、コメント毎に生成される、コメント情報は、原稿ID、注目箇所、関連候補及びコメント詳細情報を含む。原稿IDは、コメントの付加対象となるコンテンツを含む原稿の原稿IDである。注目箇所には、コメント対象コンテンツ(この例では、差し替え後のコンテンツ53)のコンテンツIDが設定される。関連候補には、注目箇所以外のコメント対象候補コンテンツ(この例では、コンテンツ51,52)のコンテンツIDが設定される。コメント詳細情報は、当該コメントに関する詳細情報であり、用紙ID、コメントID、位置情報及びコメントを含む。用紙IDには、当該コメントが記入される用紙(この例では別紙)の用紙ID(別紙ID)が設定される。コメントIDは、コメント情報生成部16が当該コメントに割り振るコメントを識別するための識別情報である。位置情報は、当該コメントの別紙上における位置を示す情報である。例えば、別紙上のある1点を基準として座標情報で表してもよい。コメントは、記入されたコメント自体であるが、本実施の形態では、コメントの種類(テキスト、図等)に関係なく画像情報で保持することにする。   FIG. 9 is a diagram illustrating an example of a data configuration of comment information stored in comment information storage unit 23 according to the present embodiment. The comment information is generated for each comment. The comment information includes a document ID, a noted portion, a related candidate, and detailed comment information. The document ID is a document ID of a document including a content to which a comment is added. The content ID of the content to be commented (the content 53 after replacement in this example) is set in the noted portion. In the related candidate, the content ID of the comment target candidate content (contents 51 and 52 in this example) other than the noted portion is set. The comment detailed information is detailed information related to the comment, and includes a sheet ID, a comment ID, position information, and a comment. As the sheet ID, a sheet ID (separate sheet ID) of a sheet (separate sheet in this example) in which the comment is written is set. The comment ID is identification information for identifying a comment assigned to the comment by the comment information generation unit 16. The position information is information indicating the position of the comment on the separate sheet. For example, the coordinate information may be represented by using a certain point on a separate sheet as a reference. The comment is the comment itself, but in the present embodiment, the comment is stored as image information regardless of the type of the comment (text, figure, etc.).

コメント情報生成部16は、上記のように視線が別紙から外されたことを検出すると記入されたコメントに対する上記データ構成のコメント情報を生成する。   The comment information generation unit 16 generates comment information having the above data configuration for the comment entered when detecting that the line of sight has been removed from the attached sheet as described above.

レビュワーが視線を原稿に戻すと、視線検出部13は、視線の動きの視線保持部22への記録を開始する(ステップ107)。視線検出部13は、レビュワーの視線が原稿から外れない間(ステップ108でN)、視線保持部22への記録を継続する。そして、レビュワーは、図6Cに示すように原稿上の矢印の位置まで視線を動かした後、コメントを各ために別紙に視線を動かしたとする。視線検出部13は、レビュワーの視線が原稿から外れたことを検出すると(ステップ108でY)、視線保持部22への記録を停止する(ステップ109)。   When the reviewer returns the line of sight to the original, the line of sight detection unit 13 starts recording the movement of the line of sight in the line of sight line holding unit 22 (step 107). The line-of-sight detection unit 13 continues recording on the line-of-sight holding unit 22 while the line of sight of the reviewer does not deviate from the document (N in step 108). Then, it is assumed that the reviewer moves his / her line of sight to the position of the arrow on the document as shown in FIG. 6C, and then moves his / her line of sight to separate comments. The gaze detection unit 13 stops recording on the gaze holding unit 22 when detecting that the gaze of the reviewer has deviated from the document (Y in Step 108) (Step 109).

視線保持部22への記録が停止すると、視線解析部14は、視線保持部22に記録されている視線の動きを解析してレビュワーが見たコンテンツを抽出する。ここで、抽出するコンテンツは、図6Cに例示したようにコンテンツ52,53であり、直前に原稿を見ていたときのコンテンツ51,52,53と重複する。本実施の形態では、コンテンツへの注目比率によってコメント対象コンテンツへのコメントの記入の終了かどうかを判断する。「注目比率」というのは、前述したように直前に原稿上で見たコンテンツと今回、原稿上で見たコンテンツとの比率で、今回と直前に見たコンテンツの構成、あるいはコンテンツを見ている時間等の比率で表す。コンテンツの構成に着目すると、今回見たコンテンツ52,53は、直前に原稿上で見たコンテンツ51,52,53に100%含まれているので、注目箇所(コメント対象コンテンツ)へのコメントが続けて記入されると推測する。   When the recording in the line-of-sight holding unit 22 is stopped, the line-of-sight analysis unit 14 analyzes the line-of-sight movement recorded in the line-of-sight holding unit 22 and extracts the content viewed by the reviewer. Here, the contents to be extracted are the contents 52 and 53 as illustrated in FIG. 6C, and overlap the contents 51, 52 and 53 when the document was viewed immediately before. In the present embodiment, it is determined whether or not the entry of the comment in the content to be commented is completed based on the attention ratio to the content. The “attention ratio” refers to the ratio of the content viewed immediately before on the manuscript and the content viewed on the manuscript this time, as described above, and the composition of the contents viewed this time or immediately before or the content is viewed. Expressed as a ratio such as time. Focusing on the structure of the contents, since the contents 52 and 53 viewed this time are 100% included in the contents 51, 52 and 53 previously viewed on the manuscript, the comment on the noted portion (content to be commented) continues. Guess that it will be filled out.

つまり、レビュワーは、コメントの記載中にコンテンツの内容を確認するために視線を別紙から原稿に動かしたと推測できる。この場合(ステップ110でN)、ステップ105に戻る。そして、レビュワーは、別紙に新たなコメントを記入する。この様子を図6Dに示す。   In other words, it can be inferred that the reviewer moved his / her gaze from a separate sheet to the document in order to confirm the content of the content while writing the comment. In this case (N in step 110), the process returns to step 105. The reviewer then writes a new comment on a separate sheet. This is shown in FIG. 6D.

その後、視線が別紙から外されると、コメント情報生成部16は、新たに記入されたコメントに対してコメント情報を生成する(ステップ106)。図10において破線で分けたように、コメント55,56は、別紙から視線が外れる度に1つのコメントとして生成される。注目箇所(コンテンツ53)の変更がなければ、複数のコメントが1つのコンテンツ53に対応付けられることになる。   Thereafter, when the line of sight is removed from the attached sheet, the comment information generating unit 16 generates comment information for the newly entered comment (step 106). As shown by broken lines in FIG. 10, the comments 55 and 56 are generated as one comment each time the line of sight deviates from the separate sheet. If there is no change in the point of interest (content 53), a plurality of comments are associated with one content 53.

レビュワーは、原稿に視線を戻した後、図6Eに示すように視線を動かしたとする。この例によると、レビュワーは、前回のコメント対象候補コンテンツ52,53を見た後、異なるコンテンツ54に視線を動かし、その後、時間をかけてコンテンツ54を見ていることがわかる。これは、コメントに対応するコンテンツ53を確認した後に、次のコンテンツ54にレビュー対象を進めたと推測できる。前述した注目比率を考慮すると、コンテンツは、前回と重複しているコンテンツ52,53を見ているものの、異なるコンテンツ54を見ている時間の比率が長い。従って、レビュワーが注目先(レビュー対象)をコンテンツ54に移したと推測する。なお、レビュワーがコンテンツ51〜53に視線を向けずに異なるコンテンツ54にいきなり視線を向けた場合には、問題なくレビュー対象をコンテンツ54に移したと判断できる。   Assume that the reviewer returns his / her gaze to the document and then moves his / her gaze as shown in FIG. 6E. According to this example, after viewing the previous comment target candidate contents 52 and 53, the reviewer moves his / her gaze to a different content 54, and after that, it is understood that the reviewer takes time to look at the content 54. This means that after checking the content 53 corresponding to the comment, the review target has been advanced to the next content 54. In consideration of the attention ratio described above, the content has a long ratio of the time of viewing the different content 54, although the content 52 and 53 overlap the previous content. Therefore, it is assumed that the reviewer has moved the attention destination (review target) to the content 54. In addition, when the reviewer turns his / her eyes directly to the different contents 54 without turning to the contents 51 to 53, it can be determined that the review target has been moved to the content 54 without any problem.

このように、レビュワーが異なるコンテンツに注目したことを推測できると(ステップ110でY)、関連付け処理部17は、コンテンツとコメントとを紐付けるための関連情報を生成する(ステップ111)。   As described above, when it can be inferred that the reviewer has focused on different contents (Y in step 110), the association processing unit 17 generates related information for linking the contents with the comments (step 111).

図11は、本実施の形態における関連付け情報記憶部24に記憶される関連付け情報のデータ構成の一例を示す図である。関連付け情報は、原稿IDに、コメントが付けられるコンテンツに関するコンテンツ情報と当該コンテンツに付けるコメントに関するコメント情報とを対応付けして含む。コンテンツ情報において、コンテンツIDには、コメントが付けられたコンテンツ、すなわち上記注目箇所に該当するコンテンツのコンテンツIDが設定される。位置情報は当該コンテンツの位置情報であり、コンテンツは当該コンテンツの画像情報である。これらは、原稿情報記憶部21に記憶されている当該原稿の原稿情報から読み出して設定すればよい。コメント情報において、用紙IDには、当該コメントが記入された別紙の別紙IDが設定される。コメントID、位置情報及びコメントは、コメント情報記憶部23に記憶されている当該コメントのコメント詳細情報から読み出して設定すればよい。   FIG. 11 is a diagram illustrating an example of a data configuration of association information stored in the association information storage unit 24 according to the present embodiment. The association information includes, in association with the document ID, content information on content to which a comment is attached and comment information on a comment to be attached to the content. In the content information, the content ID is set to the content to which the comment is attached, that is, the content ID of the content corresponding to the noted portion. The position information is position information of the content, and the content is image information of the content. These may be set by reading from the document information of the document stored in the document information storage unit 21. In the comment information, a separate sheet ID of the separate sheet in which the comment is written is set as the sheet ID. The comment ID, the position information, and the comment may be set by reading from the comment detailed information of the comment stored in the comment information storage unit 23.

上記例の場合、1つの原稿(原稿ID)に対して1又は複数のコンテンツに対応するコンテンツ情報が設定される。また、1つのコンテンツ情報に対して1又は複数のコメントに対応するコメント情報が設定される。   In the case of the above example, content information corresponding to one or a plurality of contents is set for one document (document ID). Further, comment information corresponding to one or a plurality of comments is set for one piece of content information.

本実施の形態によれば、レビュワーの視線の動きを検出することで、コメント対象のコンテンツと当該コンテンツに付けたコメントとを紐付けることができる。以上の処理では、1のコンテンツに対して1又は複数のコメントが紐付けされることになる。ただ、前述したようにレビュワーの視線の動きに応じて注目箇所であるコンテンツ52に代えて関連候補のコンテンツ53を注目箇所とするのではなく、コンテンツ53を注目箇所に追加することによって複数のコンテンツ52,53を注目箇所としてもよい。すなわち、この場合は、1のコメントに複数のコンテンツ52,53を紐付けることになる。このように、コンテンツとコメントが1対多ではなく、多対1の関係としてもよい。   According to the present embodiment, by detecting the movement of the line of sight of the reviewer, the content to be commented can be associated with the comment attached to the content. In the above processing, one or more comments are linked to one content. However, as described above, instead of using the content 53 which is a related candidate in accordance with the movement of the line of sight of the reviewer, the content 53 of the related candidate is set as the noted location. 52 and 53 may be set as noticed portions. That is, in this case, a plurality of contents 52 and 53 are linked to one comment. In this manner, the content and the comment may be in a many-to-one relationship instead of a one-to-many relationship.

上記説明では、説明の便宜上、レビュー対象の原稿と、原稿に対するコメント書込用紙として1枚の別紙を事前に用意した場合で説明した。ただ、コメントの量が多くなり、複数枚の別紙が必要となる場合も考えられる。この場合でも、本実施の形態では、各別紙に用紙IDが割り当てられていることにより上記構成にて対応することが可能である。   In the above description, for convenience of explanation, a case has been described in which a document to be reviewed and one separate sheet are prepared in advance as a comment writing sheet for the document. However, there may be cases where the amount of comments increases and a plurality of separate sheets are required. Even in this case, in the present embodiment, it is possible to cope with the above configuration by assigning the sheet ID to each separate sheet.

また、別紙を用意せずに原稿の裏面にコメントを記入する場合も考えられる。この場合、原稿の裏面がコメント書込用紙として利用されることになるが、コンテンツが記載されている原稿の表面とは異なる用紙IDを原稿の裏面に割り振っておくことで、前述した別紙と同様に処理することができる。   It is also conceivable to write a comment on the back side of the manuscript without preparing a separate sheet. In this case, the back side of the original is used as a comment writing sheet, but by assigning a paper ID different from the front side of the original on which the content is described to the back side of the original, the same as the separate sheet described above. Can be processed.

また、原稿の表面に、コメントを記入するだけの余白がある場合、別紙IDの代わりに原稿の表面の用紙IDを用いるだけで、別紙を用意したときと同じように処理することができる。この場合、原稿の表面がコメント書込用紙として利用されることになる。ただ、上記説明では原稿から視線を外した場合に記録を停止するようにしたが、余白を利用する場合、原稿から視線が外れないので、原稿上のコンテンツの記載領域から外れた場合に記録を停止するように処理する必要がある。   Further, when there is a margin on the front side of the document for writing a comment, the same processing as when a separate sheet is prepared can be performed by simply using the sheet ID of the front side of the document instead of the separate sheet ID. In this case, the surface of the document is used as a comment writing sheet. However, in the above description, recording is stopped when the line of sight is removed from the original.However, in the case of using a margin, the line of sight does not deviate from the original. It must be processed to stop.

コメントがいずれに記入されるにしても、書込検出部15は、レビュワーがコメントを書いていることを検出し、その検出したコメントを受け付ける。   Regardless of which comment is entered, the write detector 15 detects that the reviewer is writing a comment and accepts the detected comment.

なお、1枚の別紙を複数の原稿に共通して使用する場合も考えられるが、この場合も上記と同様に処理することで対応できる。ただ、どの原稿に対するコメントかを対応付けるためにコメント情報には、図11に示すようにコメントIDに対応させて原稿IDを設定登録しておく必要がある。   Note that a case may be considered in which one separate sheet is used in common for a plurality of documents, but this case can be dealt with by performing the same processing as described above. However, it is necessary to set and register the document ID in the comment information in association with the comment ID as shown in FIG.

ところで、上記説明では、視線の動きによってコンテンツとコメントとを紐付けるが、常に正しい紐付けができるとは限らない。そこで、本実施の形態においては、修正処理部19を設けて、生成した関連付け情報を修正できるようにした。この修正処理について、図12を用いて説明する。   By the way, in the above description, the content and the comment are linked by the movement of the line of sight, but it is not always possible to link correctly. Therefore, in the present embodiment, the correction processing unit 19 is provided so that the generated association information can be corrected. This correction processing will be described with reference to FIG.

図12は、コメント対象候補コンテンツが別紙上に表示された場合の例を示す図である。関連情報が生成された後にレビュワーが例えばペンでコンテンツを指し示したり、コンテンツの周囲に丸を付けたりする(囲む)など所定の操作をすると、修正処理部19は、コメント情報記憶部23の注目箇所及び関連候補からコメント対象候補コンテンツ51〜53のコンテンツIDを取り出し、そのコンテンツIDに対応するコンテンツの画像情報を原稿情報記憶部21から読み出す。なお、紐付けの修正対象とするコメントを別紙上で指定させるようにし、その指定されたコメントに紐付いている注目箇所及び関連候補を取り出すようにしてもよい。   FIG. 12 is a diagram illustrating an example of a case where the comment target candidate content is displayed on a separate sheet. When the reviewer performs a predetermined operation such as pointing to the content with a pen or adding a circle around the content (surrounding) after the related information is generated, the correction processing unit 19 Then, the content IDs of the comment target candidate contents 51 to 53 are extracted from the related candidates, and the image information of the content corresponding to the content ID is read from the document information storage unit 21. Note that a comment to be linked may be specified on a separate sheet, and a noted portion and a related candidate linked to the specified comment may be extracted.

表示制御部18は、修正処理部19からの指示に応じて読み出されたコンテンツの画像情報をメガネ40に表示させる。メガネ40に表示されることで、レビュワーは、見ている別紙等の用紙の上にコンテンツ51〜53が表示されているかのように見える。そして、レビュワーは、ペンで指し示すなどの所定の選択操作をすることで、表示されているコンテンツ51〜53の中から紐付け対象とする1又は複数のコンテンツを選択する。修正処理部19は、選択されたコンテンツを受け付けると、そのコンテンツのコンテンツIDで、関連情報のコンテンツIDを更新する。また、この更新に応じて関連情報のコンテンツ情報に含まれる位置情報及びコンテンツも合わせて更新する。   The display control unit 18 causes the glasses 40 to display the image information of the content read in response to the instruction from the correction processing unit 19. By being displayed on the glasses 40, the reviewer looks as if the contents 51 to 53 are being displayed on a sheet such as a separate sheet being viewed. The reviewer selects one or a plurality of contents to be linked from the displayed contents 51 to 53 by performing a predetermined selection operation such as pointing with a pen. Upon receiving the selected content, the correction processing unit 19 updates the content ID of the related information with the content ID of the content. In accordance with this update, the location information and the content included in the content information of the related information are also updated.

なお、説明の簡略化のために、本実施の形態に用いる用紙には、それぞれ用紙IDと用紙の大きさ(領域)を規定するためのタグが取り付けられているものとして説明した。取り付けられていると言っても、物理的な物を取り付ける必要はなく、タグを印刷してもよい。また、必ずしもタグを利用する手法に限る必要はない。例えば、テーブルとは異なる色の用紙を用いて、色を判別することによって用紙を識別できるようにしてもよい。また、視野内にある用紙が原稿か別紙かをレビュワーに指定させるようにしてもよい。   For simplification of the description, it has been described that the paper used in the present embodiment is provided with a tag for defining the paper ID and the size (area) of the paper, respectively. Even if it is attached, it is not necessary to attach a physical object, and a tag may be printed. Also, it is not always necessary to limit the method to using tags. For example, using a sheet of a color different from the color of the table, the sheet may be identified by determining the color. Further, the reviewer may specify whether the paper in the field of view is an original or a separate paper.

次に、本実施の形態が提供する、レビュワーによるレビューを支援する機能について説明する。なお、前述したように、表示制御部18は、メガネ40に設けられている透過性のある表示画面にコンテンツの画像を表示させることによって、レビュワーは、あたかもメガネ40を通した先の、例えば別紙上にコンテンツが表示されているかのように見える。このように、画像はメガネ40の表示画面に表示されるが、以降の説明では、説明の便宜上、表示制御部18は、画像を別紙上に表示させるなどのように、メガネ40への表示制御を省略して記載することにする。   Next, a function provided by the present embodiment for supporting review by a reviewer will be described. Note that, as described above, the display control unit 18 displays the image of the content on the transparent display screen provided on the glasses 40, so that the reviewer can read the image as if the user passed through the glasses 40, for example, It looks as if the content is displayed above. As described above, the image is displayed on the display screen of the glasses 40. In the following description, for the sake of convenience, the display control unit 18 controls the display on the glasses 40 by displaying the image on a separate sheet. Is omitted.

上記説明では、コメントを別紙に書き込む場合を例にして説明した。別紙の場合、原稿と並べて置けば、原稿上のコンテンツを見ながらコメントを別紙に書き込むことができる。ただ、コメントを原稿の裏面に記入する場合もある。この場合、レビュワーは、コメントを裏面に記入しているときにコンテンツを見るためには、コメントの記入を中断して原稿をひっくり返す必要がある。そして、コンテンツを確認している間は、コメントを記入することができない。   In the above description, the case where a comment is written on a separate sheet has been described as an example. In the case of a separate sheet, if it is placed side by side with the document, the comment can be written on the separate sheet while viewing the content on the document. However, comments may be entered on the back of the manuscript. In this case, the reviewer needs to interrupt the entry of the comment and turn over the manuscript in order to view the content when the comment is entered on the back side. Then, while checking the content, it is not possible to enter a comment.

そこで、本実施の形態における表示制御部18は、コメント対象候補コンテンツの画像を原稿情報記憶部21から読み出し、コメントが書き込まれていない裏面上のスペースにコンテンツが表示されるようにメガネ40への表示を制御する。この表示の状態を図13に示す。図13には、原稿の裏面にコメント対象候補コンテンツ51〜53の画像が表示されている例が示されている。これにより、レビュワーは、原稿を裏返して原稿の表面を見ることなくコメント対象候補コンテンツ51〜53を確認しながらコメントを記入することができる。なお、ここでは、コメント対象候補コンテンツを表示対象としたが、表示スペース等の関係からコメント対象コンテンツ(注目箇所)のみを表示対象としてもよい。以上説明したように、表示制御部18は、コメント対象候補コンテンツの画像を、紐付けられているコメントの書込位置近傍で視認されるよう表示制御する。   Therefore, the display control unit 18 according to the present embodiment reads the image of the candidate content for comment from the document information storage unit 21 and sends the image to the glasses 40 so that the content is displayed in the space on the back side where the comment is not written. Control the display. The state of this display is shown in FIG. FIG. 13 shows an example in which images of comment target candidate contents 51 to 53 are displayed on the back side of the document. Thus, the reviewer can write a comment while checking the comment target candidate contents 51 to 53 without turning over the original and looking at the surface of the original. Here, the comment target candidate content is set as the display target, but only the comment target content (attention point) may be set as the display target due to the display space or the like. As described above, the display control unit 18 controls the display so that the image of the comment target candidate content is visually recognized near the writing position of the linked comment.

なお、上記説明では、原稿の裏面にコメントを記入する場合を例にして説明したが、別紙においても同様にコンテンツが別紙上に表示されるように表示制御してもよい。コンテンツが別紙上に表示されるようにすれば、レビュワーは、コンテンツを確認するために視線を原稿に戻す必要がなくなる。   In the above description, a case has been described as an example in which a comment is entered on the back side of a document. However, display control may be similarly performed on a separate sheet so that the content is displayed on the separate sheet. If the content is displayed on a separate sheet, the reviewer does not need to return his / her gaze to the document to confirm the content.

また、コンテンツは、必ずしも用紙上に表示させる必要はない。原稿より別紙に近い位置に表示するようにしてもよい。   Also, the content need not necessarily be displayed on paper. It may be displayed at a position closer to a separate sheet than the original.

原稿の裏面や別紙上にコンテンツを表示させる場合、用紙の空きスペース(コメントが記入されていない領域)上、コメント対象候補コンテンツを原稿と同様の形態にて表示できるとは限らない。そこで、本実施の形態では、コンテンツの画像の表示形態を原稿(オリジナル)と異なる表示形態にて表示できるようにした。   When the content is displayed on the back of the document or on a separate sheet, the comment target candidate content cannot always be displayed in the same form as the document on an empty space of the sheet (an area where no comment is entered). Therefore, in the present embodiment, the display mode of the image of the content can be displayed in a display mode different from that of the original (original).

図14は、コンテンツの画像の表示の一例を示す図である。図14に示すように、別紙には、既にコメントが記入されており、原稿上のコンテンツをそのままの形態では表示できない場合、図14に示すように、コンテンツを立体的に表示してもよい。このように、別紙の空きスペースに応じてコンテンツの表示形態を制御してもよい。なお、ここでは、立体的に表示する場合を例にしたが、これの限る必要はない。例えば、別紙の空きスペースに応じてコンテンツを拡縮して表示させてもよい。縮小表示すれば、コンテンツの表示スペースが確保しやすくなる。一方、表示スペースが確保できるのであれば、拡大表示してもよい。拡大表示することでコンテンツが見やすくなる。   FIG. 14 is a diagram illustrating an example of display of a content image. As shown in FIG. 14, when a comment has already been written on the separate sheet and the content on the document cannot be displayed in its original form, the content may be displayed three-dimensionally as shown in FIG. As described above, the display mode of the content may be controlled according to the free space of the separate sheet. Here, the case of displaying three-dimensionally is described as an example, but the present invention is not limited to this. For example, the content may be enlarged or reduced according to the free space of the separate sheet and displayed. The reduced display makes it easier to secure a display space for the content. On the other hand, if the display space can be secured, the display may be enlarged. Enlarged display makes the content easier to see.

図15は、原稿と別紙の表示の一例を示す図である。前述したように、原稿のコンテンツ57に対応させて原稿の余白にもコメント58を記入することができる。ただ、余白にコメントを記入したものの、原稿上にコメントを更に記入するスペースが無くなり、コメントの続きを別紙に記入することになる場合がある。この場合、余白に記入したコメント58をコンテンツ57と共に別紙上に表示されるのが都合よい。このようにすれば、記入済みのコメント58を参考にして続きのコメントを別紙に記入することができる。なお、表示制御部18は、コメント対象のコンテンツ57に関する情報は原稿情報から、余白に記入したコメント58に関する情報かコメント情報から取得することによって別紙に表示させることは可能である。   FIG. 15 is a diagram illustrating an example of display of a document and a separate sheet. As described above, the comment 58 can be written in the margin of the document corresponding to the content 57 of the document. However, although the comment is written in the margin, there is no space for further writing the comment on the manuscript, and the continuation of the comment may be written on a separate sheet. In this case, it is convenient to display the comment 58 written in the margin together with the content 57 on a separate sheet. In this way, the subsequent comment can be entered on a separate sheet with reference to the comment 58 that has been entered. Note that the display control unit 18 can display information on the content 57 to be commented on the separate sheet by acquiring the information on the comment 58 written in the margin or the comment information from the document information.

なお、ここでは、余白に記入したコメントを例にして説明したが、原稿の裏面に記入したコメントを別紙に表示させるようにしてもよい。その逆に、原稿の裏面にコメントを記入する際、余白や別紙に記入したコメントを原稿の裏面に表示させるようにしてもよい。このように、コメント対象コンテンツに紐付けられたコメントが既に存在する場合、表示制御部18は、当該コメントの画像をユーザによるコメントの書込位置近傍に表示されるように表示制御する。   Here, the description has been given by taking the comment entered in the margin as an example, but the comment entered on the back side of the document may be displayed on a separate sheet. Conversely, when a comment is written on the back of the document, a comment written on a margin or a separate sheet may be displayed on the back of the document. As described above, when the comment linked to the comment target content already exists, the display control unit 18 controls the display so that the image of the comment is displayed near the position where the user writes the comment.

前述したように、1つのコメントを複数のコンテンツに紐付けることが可能である。例えば、図12を用いて説明したように、レビュワーが複数のコンテンツを指定すればよい。ただ、レビュワーが任意に複数のコンテンツを指定するのではなく、コンテンツの関係性に応じて複数のコンテンツを自動的に選出してコメントを紐付けるようにしてもよい。   As described above, one comment can be linked to a plurality of contents. For example, as described with reference to FIG. 12, the reviewer may specify a plurality of contents. However, instead of the reviewer arbitrarily designating a plurality of contents, a plurality of contents may be automatically selected according to the relationship between the contents and a comment may be linked thereto.

例えば、文書のコンテンツの中に図番が記載されている場合、当該文書のコンテンツは、当該図番に対応する図面の説明文と考えられる。つまり、当該文書のコンテンツと当該図面のコンテンツとは、何らかの関係があると考えられる。当該文書のコンテンツがコメント対象コンテンツとなる場合、コメント情報生成部16は、当該文書のコンテンツと関係性のある図面のコンテンツも合わせてコメント対象コンテンツとして抽出する。あるいは、原稿情報が事前に用意されていて、その中にコンテンツの関連情報が含まれている場合、その情報を参照してもよい。   For example, when a figure number is described in the content of the document, the content of the document is considered to be a description of the drawing corresponding to the figure number. That is, it is considered that the content of the document and the content of the drawing have some relationship. When the content of the document is the content to be commented, the comment information generation unit 16 also extracts the content of the drawing related to the content of the document as the content to be commented. Alternatively, when the document information is prepared in advance and the related information of the content is included therein, the information may be referred to.

《レビュイーによるコメントの閲覧》
レビュワーによる原稿のレビューについては、以上の通りである。続いて、レビュイーによるコメントを閲覧する場合の処理について説明する。
<< Viewing comments by reviewer >>
The review of the manuscript by the reviewer is as described above. Next, a process for browsing comments by a reviewer will be described.

図16は、本発明に係る情報処理装置の一実施の形態を示すブロック構成図である。なお、情報処理装置60のハードウェア構成は、図2と同様でよい。レビュイーにより利用される情報処理装置60は、用紙検出部61、関連付け情報特定部62、視線検出部63、視線解析部64、表示制御部65、視線保持部66及び関連付け情報記憶部67を有している。なお、本実施の形態の説明に用いない構成要素については図から省略している。用紙検出部61は、前述した用紙検出部11と同じ処理機能を有しており、メガネ40を通してユーザが見ている用紙を検出する。関連付け情報特定部62は、用紙検出部61が検出した原稿を解析することで当該原稿に対応する関連付け情報を特定する。視線検出部63は、前述した視線検出部13と同じ処理機能を有しており、メガネ40を通して用紙を見るユーザの視線及び視線の動きを検出する。検出されるユーザの見る位置を特定する情報は視線保持部66に保持される。視線解析部64は、前述した視線解析部14と同じ処理機能を有しており、視線保持部66に保持されているユーザの視線の動きを解析することによってユーザが見ているコンテンツを検出する。表示制御部65は、前述した表示制御部18と同様にメガネ40の表示画面への表示制御を行う。   FIG. 16 is a block diagram showing an embodiment of the information processing apparatus according to the present invention. Note that the hardware configuration of the information processing device 60 may be the same as that in FIG. The information processing device 60 used by the reviewer has a paper detection unit 61, an association information specifying unit 62, a line-of-sight detection unit 63, a line-of-sight analysis unit 64, a display control unit 65, a line-of-sight holding unit 66, and an association information storage unit 67. ing. Note that components not used in the description of the present embodiment are omitted from the drawings. The paper detection unit 61 has the same processing function as the paper detection unit 11 described above, and detects the paper that the user is looking through the glasses 40. The association information specifying unit 62 specifies the association information corresponding to the document by analyzing the document detected by the sheet detection unit 61. The line-of-sight detection unit 63 has the same processing function as the line-of-sight detection unit 13 described above, and detects the line-of-sight and the line-of-sight movement of the user who views the paper through the glasses 40. The information for specifying the detected user's viewing position is stored in the line-of-sight storage unit 66. The line-of-sight analysis unit 64 has the same processing function as the line-of-sight analysis unit 14 described above, and detects content viewed by the user by analyzing the movement of the user's line of sight held in the line-of-sight holding unit 66. . The display control unit 65 controls the display of the glasses 40 on the display screen in the same manner as the display control unit 18 described above.

視線保持部66及び関連付け情報記憶部67は、前述した視線保持部22及び関連付け情報記憶部24と同じでよい。関連付け情報記憶部67は、情報処理装置10で生成された関連付け情報を取得し保存することで生成される。   The line-of-sight holding unit 66 and the association information storage unit 67 may be the same as the line-of-sight holding unit 22 and the association information storage unit 24 described above. The association information storage unit 67 is generated by acquiring and storing the association information generated by the information processing device 10.

情報処理装置60における各構成要素61〜65は、情報処理装置60を形成するコンピュータと、コンピュータに搭載されたCPU31で動作するプログラムとの協調動作により実現される。また、各記憶手段66,67は、情報処理装置60に搭載されたHDD34にて実現される。あるいは、RAM33又は外部にある記憶手段をネットワーク経由で利用してもよい。   Each of the components 61 to 65 in the information processing device 60 is realized by a cooperative operation of a computer forming the information processing device 60 and a program operated by the CPU 31 mounted on the computer. Each of the storage units 66 and 67 is realized by the HDD 34 mounted on the information processing device 60. Alternatively, the RAM 33 or an external storage means may be used via a network.

次に、本実施の形態におけるコメントの表示処理について図17に示すフローチャートを用いて説明する。   Next, a comment display process according to the present embodiment will be described with reference to a flowchart shown in FIG.

レビュワーは、レビューを終了すると原稿をレビュイーに返却する。レビュイーは、原稿を受け取るとコメントを確認する際にメガネ40をかける。レビュイーは、コメントを確認する間はメガネ40をかけ続けることになる。視線検出部63は、レビュイーがメガネ40をかけている間、特に断らない限りレビュイーの見る先、すなわち視線及びその動きを検出して視線保持部66に保持する。視線保持部66に保持するデータの構成や形式は、特に限定する必要はない。   The reviewer returns the manuscript to the reviewer after completing the review. Upon receiving the manuscript, the reviewer wears glasses 40 when confirming the comment. The reviewer will continue to wear glasses 40 while checking the comment. While the reviewer wears the glasses 40, the gaze detection unit 63 detects the viewing destination of the reviewer, that is, the gaze and the movement thereof, and stores the gaze in the gaze holding unit 66 unless otherwise specified. The configuration and format of the data stored in the line-of-sight storage unit 66 need not be particularly limited.

レビュイーは、返却された原稿を視野内に収める。これにより、用紙検出部61は、メガネ40を通して見える原稿の原稿IDコード及びタグを検出することで原稿を検出する(ステップ121)。用紙検出部61は、タグの位置を検出することによって視野内における原稿の位置を常時特定する。   Reviewer places the returned manuscript in view. As a result, the paper detection unit 61 detects the document by detecting the document ID code and tag of the document viewed through the glasses 40 (step 121). The paper detecting unit 61 always specifies the position of the document in the field of view by detecting the position of the tag.

原稿が検出されると、関連付け情報特定部62は、原稿上の原稿IDコードを解読することによって原稿IDを取得し、その取得した原稿IDで関連付け情報記憶部67を検索することによって関連付け情報を特定する(ステップ122)。そして、視線解析部64は、視線保持部22に記録されている視線の動きを解析することによってレビュイーが見ている原稿上のコンテンツを特定する(ステップ123)。コンテンツが特定されると、表示制御部65は、関連付け情報特定部62が特定した関連付け情報を取得し、その関連付け情報において当該コンテンツに対応するコメント情報を取得する(ステップ124)。そして、次のようにコメントの画像をメガネ40の表示画面に表示させる(ステップ125)。メガネ40の表示画面に表示させることで、レビュイーは、コメントの画像を原稿上の以下に説明する位置に見ることができる。   When a document is detected, the association information specifying unit 62 obtains the document ID by decoding the document ID code on the document, and searches the association information storage unit 67 with the obtained document ID to retrieve the association information. It is specified (Step 122). Then, the line-of-sight analysis unit 64 specifies the content on the document that the reviewer is watching by analyzing the line-of-sight movement recorded in the line-of-sight holding unit 22 (step 123). When the content is specified, the display control unit 65 acquires the association information identified by the association information identification unit 62, and acquires comment information corresponding to the content in the association information (Step 124). Then, the comment image is displayed on the display screen of the glasses 40 as follows (step 125). By displaying the comment image on the display screen of the glasses 40, the reviewer can see the comment image at a position described below on the document.

まず、表示制御部65は、レビュイーが見ていたコンテンツに付加されたコメントの画像を、原稿上の当該コンテンツの位置近傍に表示させる。これにより、レビュイーは、コンテンツから視線をそれほど動かすことなくコメントを見ることができる。すなわち、ここでいう「近傍」というのは、レビュイーがコンテンツから視線をそれほど動かすことなくコメントを見ることができる位置である。ただ、一概にコンテンツとコメントの位置関係を物理的な距離によって具体的に示すことができない。原稿とレビュイーの目との距離にも依存するからである。従って、コンテンツに対する視線とコメントに対する視線との間の角度と所定の閾値との大小関係によって近傍かどうかを判断してもよい。図3Aに例示した2段組で記載された原稿の場合、紙面左側のコンテンツの近傍は、左側半分と考えられる。ただ、紙面左側のコンテンツでも右側寄りのコンテンツであれば、そのコンテンツの近傍には、右側半分を含めてもよい。   First, the display control unit 65 displays an image of a comment added to the content watched by the reviewer near the position of the content on the document. This allows the reviewer to see the comment from the content without moving the gaze too much. That is, the “nearby” here is a position where the reviewer can see the comment from the content without moving his or her eyes so much. However, the positional relationship between the content and the comment cannot be specifically indicated by the physical distance. This is because it depends on the distance between the manuscript and the eyes of the reviewer. Therefore, it may be determined based on the magnitude relationship between the angle between the line of sight to the content and the line of sight to the comment and the predetermined threshold whether or not the object is in the vicinity. In the case of a document described in two columns illustrated in FIG. 3A, the vicinity of the content on the left side of the paper is considered to be the left half. However, if the content on the left side of the page is the content on the right side, the right half may be included in the vicinity of the content.

まず、表示制御部65は、コンテンツの位置の近傍にコメントを表示するための余白が原稿上にあれば、その余白にコメントを表示させる。余白がない場合、コメント表示対象のコンテンツに近い位置にある他のコンテンツ上にコメントを重畳させて表示させる。ただ、単に重畳させると文字等が重なって読みづらくなる場合があるので、他のコンテンツを例えば白塗りしたりしてからコメントを表示させるのが好ましい。   First, if there is a margin for displaying a comment near the position of the content on the document, the display control unit 65 causes the comment to be displayed in the margin. If there is no blank space, the comment is superimposed and displayed on another content at a position close to the content to be displayed. However, if they are simply superimposed, characters and the like may be overlapped, making it difficult to read. Therefore, it is preferable to display comments after white-painting other content, for example.

以上説明したように、本実施の形態によれば、原稿上にレビュワーにより書き込まれたコメントの画像を表示させることによって、コンテンツと当該コンテンツに紐付けられたコメントの双方を原稿上でレビュイーに読ませることができる。   As described above, according to the present embodiment, by displaying an image of a comment written by a reviewer on a manuscript, both the content and the comment linked to the content are read by the reviewer on the manuscript. Can be made.

レビュイーは、コメントが表示されると、コンテンツとコメントを見ることになるが、視線検出部63は、その間もレビュイーの視線の動きを検出し、また、視線解析部64は、視線保持部22に記録されている視線の動きを解析することによってレビュイーがどのコンテンツを見ているのかを特定する。レビュイーが同じコンテンツを見ている場合(ステップ125でN)、原稿が視野の中に検出されている間は(ステップ127でN)、レビュイーはまだコメントを見ていると判断してステップ126に戻る。   When the comment is displayed, the reviewer sees the content and the comment. The gaze detection unit 63 detects the movement of the gaze of the reviewer during that time, and the gaze analysis unit 64 sends the comment to the gaze holding unit 22. By analyzing the recorded gaze movement, the content which the reviewer is looking at is specified. If the reviewer sees the same content (N in step 125), while the document is detected in the field of view (N in step 127), it is determined that the reviewer still sees the comment, and the process proceeds to step 126. Return.

一方、視線解析部64が、レビュイーが現在見ているコンテンツから視線を外して他のコンテンツに視線を移したことを検出した場合(ステップ126でY)、レビュイーが見ている他のコンテンツを特定する(ステップ123)。そして、前述したように、表示制御部65は、新たに見たコンテンツに対応するコメントの画像を表示させる(ステップ125)。そして、原稿が視野の中に検出されなくなると(ステップ127でY)、レビュイーによるコメントのチェックは終了したものと判断して処理を終了する。   On the other hand, if the gaze analysis unit 64 detects that the reviewer has removed his / her gaze from the content currently being viewed and has shifted his / her gaze to another content (Y in step 126), the gaze analysis unit 64 identifies the other content that the reviewer is looking at. (Step 123). Then, as described above, the display control unit 65 displays a comment image corresponding to the newly viewed content (step 125). When the document is no longer detected in the field of view (Y in step 127), it is determined that the comment check by the reviewer has been completed, and the process is terminated.

ところで、上記説明では、コメントが書き込みされた別紙を用意しない場合を説明したが、レビュイーは、別紙を見るようにしてもよい。   By the way, in the above description, the case where the separate sheet on which the comment is written is not prepared is described, but the reviewer may look at the separate sheet.

すなわち、用紙検出部61によって視野の中に別紙が検出されると、用紙解析部12は、別紙IDコードを解読することによって別紙IDを取得し、その取得した別紙IDで関連付け情報記憶部67を検索することによって関連付け情報を特定する。そして、視線解析部64は、視線保持部22に記録されている視線の動きを解析することによってレビュイーが見ている原稿上のコメントを特定する。コメントが特定されると、表示制御部65は、当該コメントに対応するコンテンツ情報を取得して、次のようにコンテンツの画像をメガネ40の表示画面に表示させる。メガネ40の表示画面に表示させることで、レビュイーは、コンテンツの画像を別紙上の以下に説明する位置に見ることができる。   That is, when a separate sheet is detected in the field of view by the sheet detecting section 61, the sheet analyzing section 12 obtains the separate sheet ID by decoding the separate sheet ID code, and stores the associated sheet ID in the association information storage section 67 with the obtained separated sheet ID. Identify association information by searching. Then, the line-of-sight analysis unit 64 specifies the comment on the document that the reviewer is watching by analyzing the line-of-sight movement recorded in the line-of-sight holding unit 22. When the comment is specified, the display control unit 65 acquires the content information corresponding to the comment, and displays the image of the content on the display screen of the glasses 40 as follows. By displaying the content on the display screen of the glasses 40, the reviewer can see the image of the content at a position described below on a separate sheet.

原稿が視野の中にある場合でも、ない場合でも、コメントの近傍にコンテンツの画像を表示させることによってコンテンツと当該コンテンツに紐付けられたコメントの双方を別紙上でレビュイーに読ませることができる。表示制御部65は、レビュイーが見ていたコメントに対応するコンテンツの画像を、別紙上の当該コメントの位置近傍に表示させることにより、レビュイーは、コメントから視線をそれほど動かすことなくコンテンツを見るとができる。   Regardless of whether the manuscript is in the field of view or not, displaying the image of the content near the comment allows the reviewer to read both the content and the comment linked to the content on a separate sheet. The display control unit 65 displays the image of the content corresponding to the comment watched by the reviewer in the vicinity of the position of the comment on the separate sheet, so that the reviewer can view the content without moving the line of sight from the comment so much. it can.

なお、以上の説明から明らかなように、別紙上にコンテンツを表示させる処理は、前述した原稿上にコメントを表示させる処理と同様に処理すればよい。ここでは、別紙を例にして説明したが、原稿の裏面にコメントが書き込まれている場合でも、同様に処理すればよい。   As is clear from the above description, the process of displaying the content on the separate sheet may be performed in the same manner as the process of displaying the comment on the document described above. Here, a separate sheet has been described as an example, but the same processing may be performed even when a comment is written on the back side of the document.

また、別紙にコンテンツを表示させる場合、表示制御部65は、コンテンツの画像を別紙上のコメントが書き込まれていない領域の大きさに応じて拡縮して表示させてもよい。縮小表示すれば、コンテンツの表示スペースが確保しやすくなる。一方、表示スペースが確保できるのであれば、拡大表示してもよい。拡大表示することでコンテンツが見やすくなる。あるいは、図14のようにコンテンツを立体的に表示してもよい。   When the content is to be displayed on a separate sheet, the display control unit 65 may display the image of the content in an enlarged or reduced scale according to the size of the area on the separate sheet where no comment is written. The reduced display makes it easier to secure a display space for the content. On the other hand, if the display space can be secured, the display may be enlarged. Enlarged display makes the content easier to see. Alternatively, the content may be displayed three-dimensionally as shown in FIG.

上記説明では、コメントが書き込まれた別紙が視野内になくても原稿上にコメントの画像を、あるいは原稿が視野内になくても別紙上にコンテンツの画像をそれぞれ表示させることで、レビュイーは、視線をそれほど動かさなくてもすむ。もちろん、視野内に原稿と別紙の双方が検出されていてもよい。この場合、レビュイーが原稿上のコンテンツを見ると、表示制御部65は、当該コンテンツに紐付くコメントを、他のコメントと異なる表示形態にて表示させるようにして、別紙上のコメントの中から当該コンテンツに紐付くコメントを見つけやすくしてもよい。例えば、当該コンテンツに紐付くコメントを強調表示したり、色を変化させたり、あるいはコメントを囲む枠を表示させたりしてもよい。あるいは、当該コンテンツに紐付くコメント以外のコメントを、薄い色で表示したりして目立たないようにしてもよい。   In the above description, by displaying the comment image on the manuscript even if the commented comment is not in the field of view, or the content image on the separate sheet even if the document is not in the field of view, the reviewer can You do not need to move your gaze too much. Of course, both the original and the separate sheet may be detected in the field of view. In this case, when the reviewer views the content on the document, the display control unit 65 displays the comment associated with the content in a display format different from other comments, and selects the comment from the comments on the separate sheet. You may make it easier to find comments associated with the content. For example, the comment associated with the content may be highlighted, the color may be changed, or a frame surrounding the comment may be displayed. Alternatively, a comment other than the comment associated with the content may be displayed in a light color so as to be inconspicuous.

この逆に、レビュイーが別紙上のコメントを見ると、表示制御部65は、当該コメントに紐付くコンテンツを、他のコンテンツと異なる表示形態にて表示させるようにして、原稿上のコンテンツの中から当該コメントに紐付くコンテンツを見つけやすくしてもよい。   Conversely, when the reviewer sees the comment on the separate sheet, the display control unit 65 displays the content associated with the comment in a display mode different from that of the other content, and selects from among the content on the document. Content associated with the comment may be easily found.

なお、本実施の形態では、視線を検出するメガネ40のレンズ部分に設けられている表示画面に画像を表示させることによって、コメント又はコンテンツの近傍にコンテンツ又はコメントの画像を表示されているかのように表示の制御をした。ただ、画像の表示は、これに限る必要ない。例えば、画像の投影手段を設け、視線の先に画像を投影するようにして画像を表示させるようにしてもよい。   In the present embodiment, by displaying an image on the display screen provided in the lens portion of the glasses 40 for detecting the line of sight, it is as if the image of the content or the comment is displayed near the comment or the content. Display control. However, the display of the image need not be limited to this. For example, an image projection unit may be provided, and the image may be displayed by projecting the image beyond the line of sight.

10,60 情報処理装置、11,61 用紙検出部、12 用紙解析部、13,63 視線検出部、14,64 視線解析部、15 書込検出部、16 コメント情報生成部、17 関連付け処理部、18,65 表示制御部、19 修正処理部、21 原稿情報記憶部、22,66 視線保持部、23 コメント情報記憶部、24,67 関連付け情報記憶部、31 CPU、32 ROM、33 RAM、34 ハードディスクドライブ(HDD)、35 マウス、36 キーボード、37 ディスプレイ、38 入出力コントローラ、39 ネットワークコントローラ、40 メガネ、41 メガネコントローラ、42 内部バス、62 関連付け情報特定部。
10, 60 information processing device, 11, 61 paper detection unit, 12 paper analysis unit, 13, 63 line-of-sight detection unit, 14, 64 line-of-sight analysis unit, 15 write detection unit, 16 comment information generation unit, 17 association processing unit, 18, 65 display control unit, 19 correction processing unit, 21 original information storage unit, 22, 66 line-of-sight storage unit, 23 comment information storage unit, 24, 67 association information storage unit, 31 CPU, 32 ROM, 33 RAM, 34 hard disk Drive (HDD), 35 mouse, 36 keyboard, 37 display, 38 input / output controller, 39 network controller, 40 glasses, 41 glasses controller, 42 internal bus, 62 association information specifying unit.

Claims (22)

用紙がコメントの付加対象となる用紙の場合、当該用紙に形成されている複数のコンテンツの位置情報を取得するコンテンツ位置取得手段と、
前記用紙を見るユーザの視線を検出する視線検出手段と、
当該ユーザがコメントを書いた場合、前記複数のコンテンツのうち、前記コメントを書く前にユーザの視線があったコンテンツをコメント対象コンテンツとして特定する特定手段と、
前記コメント対象コンテンツと前記コメントを関連付ける関連付け手段と、
前記ユーザとは異なるユーザであり、前記コメントを閲覧するユーザである閲覧ユーザによって前記コメントが閲覧される場合に、前記コメントに関連づけられたコンテンツが、前記コメント対象コンテンツであることが認識できる表示をするよう制御する表示制御手段と、
を有することを特徴とする情報処理装置。
When the sheet is a sheet to which a comment is to be added, content position acquisition means for acquiring position information of a plurality of contents formed on the sheet,
Line-of-sight detection means for detecting the line of sight of a user looking at the paper,
When the user writes a comment, a specifying unit that specifies, as the comment target content, a content in which the user has a line of sight before writing the comment, among the plurality of contents,
Association means for associating the comment target content with the comment;
When the comment is browsed by a browsing user who is a user different from the user and browses the comment, a display that can recognize that the content associated with the comment is the comment target content is displayed. Display control means for controlling
An information processing apparatus comprising:
前記特定手段は、前記コメントを書いたユーザが視線を動かすことで見た前記用紙上の1又は複数のコンテンツをコメント対象候補コンテンツとして抽出すると共に、抽出したコメント対象候補コンテンツの中から前記コメントを書く前にユーザの視線があったコメント対象候補コンテンツを前記コメント対象コンテンツと特定することを特徴とする請求項1に記載の情報処理装置。   The specifying means extracts one or a plurality of contents on the sheet viewed by the user who wrote the comment by moving his / her gaze as a candidate content for a comment, and extracts the comment from the candidate content for a comment. The information processing apparatus according to claim 1, wherein a comment target candidate content having a user's line of sight before writing is specified as the comment target content. 前記特定手段は、ユーザがコメントを書き込んだ後に前記用紙上のコメント対象候補コンテンツを見てからコメントを再度書き込んだ場合、当該コメント対象候補コンテンツをコメント対象コンテンツとして扱うことを特徴とする請求項2に記載の情報処理装置。   3. The method according to claim 2, wherein the specifying unit treats the comment candidate content as the comment target content when the user looks at the comment candidate content on the sheet after writing the comment and then writes the comment again. An information processing apparatus according to claim 1. 前記特定手段は、ユーザがコメントを書き込んだ後に見たコメント対象候補コンテンツで既存のコメント対象コンテンツを差し替えることを特徴とする請求項3に記載の情報処理装置。   4. The information processing apparatus according to claim 3, wherein the specifying unit replaces the existing comment target content with a comment target candidate content viewed after the user writes the comment. 5. 前記特定手段は、ユーザがコメントを書き込んだ後に見たコメント対象候補コンテンツをコメント対象コンテンツとして追加することを特徴とする請求項3に記載の情報処理装置。   4. The information processing apparatus according to claim 3, wherein the specifying unit adds, as a comment target content, a comment target candidate content viewed after the user writes a comment. 5. 前記表示制御手段は、前記コメント対象候補コンテンツをユーザに選択可能に表示させ、
前記特定手段は、ユーザにより選択された1又は複数のコメント対象候補コンテンツを前記コメント対象コンテンツと特定することを特徴とする請求項2に記載の情報処理装置。
The display control means causes the user to select and display the comment target candidate content,
The information processing apparatus according to claim 2, wherein the specifying unit specifies one or a plurality of candidate content to be comment selected by a user as the content to be commented.
コメント書込用紙に書き込まれたコメントを受け付ける受付手段を有することを特徴とする請求項1に記載の情報処理装置。   2. The information processing apparatus according to claim 1, further comprising a receiving unit that receives a comment written on a comment writing sheet. 前記受付手段は、前記用紙と前記コメント書込用紙が同じ用紙の場合、前記用紙の前記コンテンツが形成されている面の余白に書き込まれたコメントを受け付けることを特徴とする請求項7に記載の情報処理装置。   8. The apparatus according to claim 7, wherein, when the sheet and the comment writing sheet are the same sheet, the receiving unit receives a comment written in a margin of a surface of the sheet on which the content is formed. Information processing device. 前記受付手段は、前記用紙と前記コメント書込用紙が同じ用紙の場合、前記用紙の前記コンテンツが形成されている面の裏面に書き込まれたコメントを受け付けることを特徴とする請求項7に記載の情報処理装置。   8. The apparatus according to claim 7, wherein when the sheet and the comment writing sheet are the same sheet, the receiving unit receives a comment written on a back surface of the sheet on which the content is formed. Information processing device. 前記受付手段は、前記用紙と前記コメント書込用紙が異なる用紙の場合、前記コメント書込用紙に書き込まれたコメントを受け付けることを特徴とする請求項7に記載の情報処理装置。   8. The information processing apparatus according to claim 7, wherein the receiving unit receives a comment written on the comment writing sheet when the sheet and the comment writing sheet are different sheets. 前記表示制御手段は、前記コメント対象コンテンツの画像が前記関連付け手段により関連付けられたコメントの書込位置近傍で視認されるよう表示制御することを特徴とする請求項1に記載の情報処理装置。   2. The information processing apparatus according to claim 1, wherein the display control unit performs display control so that the image of the content to be commented is visually recognized near a writing position of a comment associated with the association unit. 3. 前記表示制御手段は、前記用紙上における前記コメント対象コンテンツと異なる表示形態にて当該コメント対象コンテンツの画像を表示させることを特徴とする請求項11に記載の情報処理装置。   The information processing apparatus according to claim 11, wherein the display control unit displays an image of the comment target content on the sheet in a display mode different from that of the comment target content. 前記表示制御手段は、前記コメント対象コンテンツを表示する用紙上のスペースに応じて前記コメント対象コンテンツの画像を拡縮して表示させることを特徴とする請求項12に記載の情報処理装置。   13. The information processing apparatus according to claim 12, wherein the display control unit enlarges or displays the image of the comment target content according to a space on a sheet on which the comment target content is displayed. 前記表示制御手段は、前記コメント対象コンテンツに前記関連付け手段により関連付けられたコメントが既に存在する場合、当該コメントの画像を前記ユーザが現在書き込んでいるコメントの位置近傍に表示させることを特徴とする請求項11に記載の情報処理装置。   When the comment associated with the content to be commented by the associating means already exists, the display control means displays an image of the comment near the position of the comment currently written by the user. Item 12. The information processing device according to item 11. コメントの付加対象となる用紙を見るユーザの視線を検出する視線検出手段と、
前記用紙の識別情報に、当該用紙上のコンテンツであってコメントの付加対象とされたコンテンツの識別情報、当該コンテンツの当該用紙上における位置を特定する位置情報、当該コンテンツに対するコメントが書き込まれたコメント書込用紙の識別情報、当該コメントの識別情報及び当該コメントを対応付け生成された関連付け情報を取得する取得手段と、
ユーザが前記用紙上のコンテンツを見たときに、前記関連付け情報を参照することによって当該コンテンツ及び当該コンテンツに付加されたコメントが視野内に入るよう表示を制御する表示制御手段と、
を有することを特徴とする情報処理装置。
Gaze detection means for detecting a gaze of a user who looks at a sheet to which a comment is to be added;
The identification information of the sheet includes identification information of the content on the sheet to which a comment is to be added, position information specifying the position of the content on the sheet, and a comment in which a comment for the content is written. Acquiring means for acquiring the identification information of the writing sheet, the identification information of the comment, and the association information generated by associating the comment with the comment;
Display control means for controlling display such that when the user views the content on the paper, the content and the comment added to the content fall within the field of view by referring to the association information;
An information processing apparatus comprising:
前記表示制御手段は、ユーザが見ている前記用紙上のコンテンツに付加されたコメントの画像を、前記用紙上の当該コンテンツの位置近傍に表示させることを特徴とする請求項15に記載の情報処理装置。   16. The information processing apparatus according to claim 15, wherein the display control unit displays an image of a comment added to the content on the sheet viewed by the user near a position of the content on the sheet. apparatus. 前記表示制御手段は、前記用紙の余白部分に表示させることを特徴とする請求項16に記載の情報処理装置。   The information processing apparatus according to claim 16, wherein the display control unit causes a display in a margin portion of the sheet. 前記表示制御手段は、前記用紙上の当該コンテンツ以外のコンテンツの位置に表示させることを特徴とする請求項16に記載の情報処理装置。   17. The information processing apparatus according to claim 16, wherein the display control unit displays the content at a position on the sheet other than the content. 前記表示制御手段は、前記コメント書込用紙に書き込まれたコメントと紐付くコンテンツの画像を前記コメント書込用紙の面に表示させることを特徴とする請求項15に記載の情報処理装置。   16. The information processing apparatus according to claim 15, wherein the display control unit displays an image of a content associated with a comment written on the comment writing sheet on a surface of the comment writing sheet. 前記表示制御手段は、前記コンテンツの画像を前記コメント書込用紙上のコメントが書き込まれていない領域の大きさに応じて拡縮して表示させることを特徴とする請求項19に記載の情報処理装置。   20. The information processing apparatus according to claim 19, wherein the display control means displays the image of the content in an enlarged or reduced manner in accordance with the size of an area on the comment writing sheet where a comment is not written. . コンピュータを、
用紙がコメントの付加対象となる用紙の場合、当該用紙に形成されている複数のコンテンツの位置情報を取得するコンテンツ位置取得手段、
前記用紙を見るユーザの視線を検出する視線検出手段、
当該ユーザがコメントを書いた場合、前記複数のコンテンツのうち、前記コメントを書く前にユーザの視線があったコンテンツをコメント対象コンテンツとして特定する特定手段、
前記コメント対象コンテンツと前記コメントを関連付ける関連付け手段、
前記ユーザとは異なるユーザであり、前記コメントを閲覧するユーザである閲覧ユーザによって前記コメントが閲覧される場合に、前記コメントに関連づけられたコンテンツが、前記コメント対象コンテンツであることが認識できる表示をするよう制御する表示制御手段、
として機能させるためのプログラム。
Computer
When the sheet is a sheet to which a comment is to be added, content position acquisition means for acquiring position information of a plurality of contents formed on the sheet,
Line-of-sight detecting means for detecting the line of sight of a user looking at the paper,
When the user writes a comment, a specifying unit that specifies, as the comment target content, a content in which the user has a line of sight before writing the comment, among the plurality of contents.
Association means for associating the comment target content with the comment,
When the comment is browsed by a browsing user who is a user different from the user and browses the comment, a display that can recognize that the content associated with the comment is the comment target content is displayed. Display control means for controlling
Program to function as
コンピュータを、
コメントの付加対象となる用紙を見るユーザの視線を検出する視線検出手段、
前記用紙の識別情報に、当該用紙上のコンテンツであってコメントの付加対象とされたコンテンツの識別情報、当該コンテンツの当該用紙上における位置を特定する位置情報、当該コンテンツに対するコメントが書き込まれたコメント書込用紙の識別情報、当該コメントの識別情報及び当該コメントを対応付け生成された関連付け情報を取得する取得手段、
ユーザが前記用紙上のコンテンツを見たときに、前記関連付け情報を参照することによって当該コンテンツ及び当該コンテンツに付加されたコメントが視野内に入るよう表示を制御する表示制御手段、
として機能させるためのプログラム。
Computer
Gaze detection means for detecting a gaze of a user who views a sheet to which a comment is added;
The identification information of the sheet includes identification information of the content on the sheet to which a comment is to be added, position information specifying the position of the content on the sheet, and a comment in which a comment for the content is written. Acquisition means for acquiring identification information of a writing sheet, identification information of the comment, and association information generated by associating the comment with the comment;
Display control means for controlling display so that when the user views the content on the paper, the content and the comment added to the content fall within the field of view by referring to the association information;
Program to function as
JP2018177789A 2018-09-21 2018-09-21 Information processing device and program Active JP7135653B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018177789A JP7135653B2 (en) 2018-09-21 2018-09-21 Information processing device and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018177789A JP7135653B2 (en) 2018-09-21 2018-09-21 Information processing device and program

Publications (2)

Publication Number Publication Date
JP2020052442A true JP2020052442A (en) 2020-04-02
JP7135653B2 JP7135653B2 (en) 2022-09-13

Family

ID=69997089

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018177789A Active JP7135653B2 (en) 2018-09-21 2018-09-21 Information processing device and program

Country Status (1)

Country Link
JP (1) JP7135653B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006011826A (en) * 2004-06-25 2006-01-12 Sharp Corp Apparatus, method and program for processing correspondence information, and recording medium with the program recorded thereon
JP2015095147A (en) * 2013-11-13 2015-05-18 ソニー株式会社 Display control device, display control method, and program
JP2016506562A (en) * 2012-11-29 2016-03-03 マイクロソフト テクノロジー ライセンシング,エルエルシー Wearable food nutrient feedback system
JP2016181245A (en) * 2015-03-24 2016-10-13 富士ゼロックス株式会社 Attention/comment method and computing device
US9762851B1 (en) * 2016-05-31 2017-09-12 Microsoft Technology Licensing, Llc Shared experience with contextual augmentation
JP2018142059A (en) * 2017-02-27 2018-09-13 富士ゼロックス株式会社 Information processing device and information processing program

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006011826A (en) * 2004-06-25 2006-01-12 Sharp Corp Apparatus, method and program for processing correspondence information, and recording medium with the program recorded thereon
JP2016506562A (en) * 2012-11-29 2016-03-03 マイクロソフト テクノロジー ライセンシング,エルエルシー Wearable food nutrient feedback system
JP2015095147A (en) * 2013-11-13 2015-05-18 ソニー株式会社 Display control device, display control method, and program
JP2016181245A (en) * 2015-03-24 2016-10-13 富士ゼロックス株式会社 Attention/comment method and computing device
US9762851B1 (en) * 2016-05-31 2017-09-12 Microsoft Technology Licensing, Llc Shared experience with contextual augmentation
JP2018142059A (en) * 2017-02-27 2018-09-13 富士ゼロックス株式会社 Information processing device and information processing program

Also Published As

Publication number Publication date
JP7135653B2 (en) 2022-09-13

Similar Documents

Publication Publication Date Title
US10606533B2 (en) Editing an image on a medium using a template including attribute information of an object in the image
US8340426B2 (en) Apparatus and method for recognizing characters
TW201426628A (en) Image processing method and image processing system
WO2014162604A1 (en) Electronic device and handwriting data processing method
US20150220493A1 (en) Display control apparatus, display control method and non-transitory computer readable medium
JP2015158900A (en) Information processing device, information processing method and information processing program
JP2015060579A (en) Information processing system, information processing method, and information processing program
US20170344206A1 (en) Writing system, information processing apparatus, and non-transitory computer readable medium
JP6151989B2 (en) Information presenting apparatus, information presenting system, information presenting method, and program
JP2015135596A (en) Information processing apparatus and information processing program
CN111258569A (en) Webpage component editing method, device, equipment and computer readable storage medium
JP2015095066A (en) Information processing apparatus and information processing program
JP5822677B2 (en) Method for modifying information stored in storage means by modifying information on a physical medium that can be handwritten using a digital pen, and apparatus and computer program thereof
US7523389B2 (en) Document display device, method, and program product
JP6430198B2 (en) Electronic device, method and program
JP2016085547A (en) Electronic apparatus and method
JP6279732B2 (en) TERMINAL DEVICE, INPUT CONTENT CONTROL METHOD, AND PROGRAM
JP7135653B2 (en) Information processing device and program
JP7241506B2 (en) Correction support device and correction support program for optical character recognition results
US20230023740A1 (en) Information processing device, information processing method, and recording medium
JP5773003B2 (en) Display control apparatus, display control method, and program
JP5924580B2 (en) Viewpoint guidance device and electronic book terminal
JP6696119B2 (en) Conversion device, conversion method, and conversion program
KR101368610B1 (en) Method and system for selecting paragraph on electronic book environments
JP4543741B2 (en) Graph creating apparatus, program, and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210906

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220630

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220815

R150 Certificate of patent or registration of utility model

Ref document number: 7135653

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150