JP2017016506A

JP2017016506A - Communication terminal, interview system, display method, and program

Info

Publication number: JP2017016506A
Application number: JP2015134343A
Authority: JP
Inventors: 拓哉水原; Takuya Mizuhara
Original assignee: Ricoh Co Ltd
Current assignee: Ricoh Co Ltd
Priority date: 2015-07-03
Filing date: 2015-07-03
Publication date: 2017-01-19

Abstract

PROBLEM TO BE SOLVED: To solve the problem in which: when an industrial physician meets and talk to an employee in person, the physician can aware some abnormality such as depression occurring in the employee by not only diagnosis based on the results of questions and answers in a conversation but also the visual line of the employee when it is not directed to the direction instructed by the physician; in the case of remote interview, however, it is difficult for the physician using a communication terminal to learn the direction of the visual line of the employee using another communication terminal, and difficult to provide related information related to an examination item or the like which the employee is paying attention to.SOLUTION: A communication terminal 40 at an industrial physician side can display related information in the vicinity of a view point marker v. This allows the physician to provide the employee with related information related to an examination item or the like which the employee is paying attention to.SELECTED DRAWING: Figure 15

Description

本発明は、通信端末、面談システム、表示方法及びプログラムに関するものである。 The present invention relates to a communication terminal, an interview system, a display method, and a program.

従来から、遠隔地の相手とインターネットを介して会話を行なうテレビ会議システムが普及している。このテレビ会議システムは、遠隔地の相手の顔を見ながら会話を行なうことができるため、単なる電話会議よりも、実際の会議に近い感覚で会議を行なうことができる（特許文献１参照）。 2. Description of the Related Art Conventionally, video conferencing systems that have conversations with remote parties via the Internet have become widespread. Since this video conference system allows a conversation while looking at the face of a remote partner, it is possible to conduct a conference with a sense closer to an actual conference than a simple conference call (see Patent Document 1).

また、近年、人件費の観点から、会社の複数の事業所の全てに産業医を配置することが困難となっている問題を解決すべく、テレビ会議システムの通信端末を利用して、遠隔面談が行なわれるようになって来た。 Also, in recent years, from the viewpoint of labor costs, remote interviews using video conference system communication terminals have been used to solve the problem that it has become difficult to place industrial physicians at all of the company's multiple offices. Has come to be performed.

一方、直接会って面談する場合には、会話の質疑応答の結果による診断だけでなく、従業員等の第１の利用者の視線方向が、産業医等の第２の利用者によって指示された方向を向いていない場合、第２の利用者は第１の利用者に鬱病等の何らかの異変が起きていることに気付くことができる。 On the other hand, when meeting directly and interviewing, not only the diagnosis based on the result of the question-and-answer session of the conversation, but also the direction of the gaze of the first user such as an employee was instructed by the second user such as an industrial physician. If the user is not facing the direction, the second user can notice that some abnormality such as depression is occurring in the first user.

しかしながら、遠隔面談の場合には、通信端末を利用している第２の利用者は、他の通信端末を利用している第１の利用者の視線方向を把握することが困難であるため、第１の利用者が注目している検査項目等に関連する関連情報を提供することが困難である。これにより、第２の利用者は、第１の利用者と直接会った場合の面談に近い質の面談を行なうことが困難であるという課題が生じる。 However, in the case of a remote interview, it is difficult for the second user using the communication terminal to grasp the line-of-sight direction of the first user using another communication terminal. It is difficult to provide related information related to the inspection item or the like that the first user is paying attention to. As a result, there arises a problem that it is difficult for the second user to conduct an interview having a quality close to that when the first user directly meets the first user.

請求項１に係る発明は、他の通信端末と通信する通信端末であって、前記他の通信端末から、当該他の通信端末の利用者の目の画像を含む画像データを受信する受信手段と、前記受信された画像データに基づいて、前記通信端末側の所定の表示手段における前記利用者の視点の位置を特定する特定手段と、前記利用者に関する複数の項目の情報を示す利用者関連データ、及び前記複数の項目のそれぞれに関連する各関連情報を記憶する記憶手段と、前記特定された前記表示手段における位置に基づいて、前記複数の関連情報のうち所定の関連情報を前記表示手段に表示する表示制御手段と、を有することを特徴とする通信端末である。 The invention according to claim 1 is a communication terminal that communicates with another communication terminal, the receiving means receiving image data including an image of a user's eye of the other communication terminal from the other communication terminal. Identifying means for specifying the position of the user's viewpoint on the predetermined display means on the communication terminal side based on the received image data, and user-related data indicating information on a plurality of items relating to the user And storage means for storing each related information related to each of the plurality of items, and predetermined display information among the plurality of related information to the display means based on the specified position in the display means. And a display control means for displaying the communication terminal.

以上説明したように本発明によれば、直接会った場合の面談に近い質の面談を行なうことができるという効果を奏する。 As described above, according to the present invention, there is an effect that it is possible to conduct an interview having a quality close to an interview when directly meeting.

本発明の実施形態に係る面談システムの概略図である。It is the schematic of the interview system which concerns on embodiment of this invention. 視線検出方法を示した概念図である。It is the conceptual diagram which showed the gaze detection method. 従業員側の画面例を示した図である。It is the figure which showed the example of a screen by the employee side. 産業医側の画面例を示した図である。It is the figure which showed the example of a screen by the occupation physician. 通信端末及び視線検出装置のハードウェア構成図である。It is a hardware block diagram of a communication terminal and a gaze detection apparatus. 面談システムの機能構成図である。It is a functional lineblock diagram of an interview system. 利用者管理テーブルの概念図である。It is a conceptual diagram of a user management table. （ａ）は検査結果管理テーブルの概念図、（ｂ）は病歴管理テーブルの概念図、及び（ｃ）は生活習慣管理テーブルの概念図である。(A) is a conceptual diagram of a test result management table, (b) is a conceptual diagram of a medical history management table, and (c) is a conceptual diagram of a lifestyle management table. （ａ）は視点位置管理テーブルの概念図、（ｂ）は従業員側の通信端末のディスプレイにおける表示位置を示す概念図である。(A) is a conceptual diagram of a viewpoint position management table, (b) is a conceptual diagram which shows the display position in the display of the communication terminal of an employee side. 関連情報管理テーブルの概念図である。It is a conceptual diagram of a related information management table. 遠隔面談を行なうための処理を示したシーケンス図である。It is the sequence diagram which showed the process for performing a remote interview. 産業医側の画面にメッセージを表示させる処理を示したフローチャートである。It is the flowchart which showed the process which displays a message on the screen of the occupation doctor. 産業医側の画面に視点マーカを表示させる処理を示したフローチャートである。It is the flowchart which showed the process which displays a viewpoint marker on the screen by the occupation doctor. 関連情報を表示するための処理を示したシーケンス図である。It is the sequence diagram which showed the process for displaying related information. 産業医側で関連情報を表示した画面例である。It is an example of a screen on which related information is displayed on the occupational physician side. 産業医側で関連情報を表示した画面例である。It is an example of a screen on which related information is displayed on the occupational physician side. 従業員側で関連情報を表示した画面例である。It is an example of a screen displaying related information on the employee side.

以下、図面を用いて、本発明の実施形態について説明する。 Hereinafter, embodiments of the present invention will be described with reference to the drawings.

＜＜実施形態の概略＞＞
まずは、図１乃至図４を用いて、本実施形態の概略を説明する。なお、図１は、本発明の実施形態に係る面談システムの概略図である。 << Summary of Embodiment >>
First, the outline of the present embodiment will be described with reference to FIGS. 1 to 4. FIG. 1 is a schematic diagram of an interview system according to an embodiment of the present invention.

図１に示されているように、本実施形態の面談システム１は、従業員側の通信端末１０及び視線検出装置３０、並びに産業医側の通信端末４０によって構築されている。通信端末１０及び視線検出装置３０は、従業員が利用する面談室Ｘに設置されている。通信端末１０及び視線検出装置３０は、従業員の少なくとも目の部分の画像を含む画像データを送信するためのケーブルによって接続されている。通信端末４０は、従業員と遠隔面談を行なう産業医が利用する産業医室Ｙに設置されている。 As shown in FIG. 1, the interview system 1 of the present embodiment is constructed by a communication terminal 10 on the employee side, a line-of-sight detection device 30, and a communication terminal 40 on the industrial physician side. The communication terminal 10 and the line-of-sight detection device 30 are installed in an interview room X used by employees. The communication terminal 10 and the line-of-sight detection device 30 are connected by a cable for transmitting image data including an image of at least an eye part of the employee. The communication terminal 40 is installed in the industrial physician's office Y used by an industrial physician who conducts remote interviews with employees.

本実施形態では、通信端末１０及び通信端末４０は、一般のＰＣ(Personal Computer)であり、インターネットやＬＡＮ(Local Area Network)等の通信ネットワーク９によって通信可能に接続されている。 In this embodiment, the communication terminal 10 and the communication terminal 40 are general PCs (Personal Computers), and are communicably connected via a communication network 9 such as the Internet or a LAN (Local Area Network).

なお、通信端末１０、４０は、スマートフォン、又はタブレット端末であってもよい。更に、通信端末１０、４０は、通信端末１０及び視線検出装置３０が一体となった遠隔面談用の専用端末であってもよい。また、通信端末１０は、第１の通信端末の一例であり、通信端末４０から見ると、他の通信端末である。通信端末４０は、第２の通信端末の一例である。 Note that the communication terminals 10 and 40 may be smartphones or tablet terminals. Furthermore, the communication terminals 10 and 40 may be dedicated terminals for remote interviews in which the communication terminal 10 and the line-of-sight detection device 30 are integrated. The communication terminal 10 is an example of a first communication terminal, and is another communication terminal when viewed from the communication terminal 40. The communication terminal 40 is an example of a second communication terminal.

また、従業員は第１の利用者の一例で、産業医は第２の利用者の一例である。例えば、第１の利用者と第２の利用者との組み合わせ例として、従業員（又は経営者）と、産業医（又は、一般の医師、看護師、若しくは薬剤師）とが含まれる。また、先生（又は講師）と、園児（又は児童、生徒、学生若しくはこれらの保護者）との組み合わせが含まれる。更に、部下と上司との組み合わせも含まれる。 The employee is an example of a first user, and the industrial physician is an example of a second user. For example, an employee (or manager) and an industrial physician (or a general doctor, nurse, or pharmacist) are included as a combination example of the first user and the second user. Moreover, the combination of a teacher (or lecturer) and a kindergarten (or a child, a student, a student, or these parents) is included. Furthermore, the combination of subordinates and superiors is also included.

図１では、視線検出装置３０が従業員の少なくとも目の部分を撮像して得た画像データを通信端末１０に送信し、通信端末１０が通信端末４０に画像データを送信することで、通信端末４０が画像データに基づき従業員の視線方向に基づいた視点マーカｖを表示している。ここでは、視点マーカｖの一例として、眼球形状のマーカが表示されている。これにより、産業医は、従業員と遠隔面談する場合であっても、直接会って面談する場合と同じように、従業員が気にしている点や視点が安定しないで鬱病ぎみであるか等を把握することができる。 In FIG. 1, the line-of-sight detection device 30 transmits image data obtained by imaging at least an eye part of an employee to the communication terminal 10, and the communication terminal 10 transmits the image data to the communication terminal 40. Reference numeral 40 denotes a viewpoint marker v based on the sight line direction of the employee based on the image data. Here, an eyeball-shaped marker is displayed as an example of the viewpoint marker v. As a result, even if the occupational physician has a remote interview with the employee, the point that the employee cares about and the point of view is not stable and is depressed, as in the case of a direct meeting. Can be grasped.

なお、通信端末１０は、従業員の視線方向に基づいた視点マーカｖを表示していない。従業員が自分の視点マーカｖを意識すると、産業医は正確に鬱病等の判断ができないからである。また、視点マーカｖは、視点情報の一例であり、視点情報の他の例として、マーカではなく、後述の健康診断データとして表示されている文字や枠等の色や太さを変えて表示する場合も含まれる。 Note that the communication terminal 10 does not display the viewpoint marker v based on the employee's line-of-sight direction. This is because if the employee is aware of his viewpoint marker v, the occupational physician cannot accurately determine depression or the like. The viewpoint marker v is an example of viewpoint information. As another example of the viewpoint information, the viewpoint marker v is not a marker but is displayed by changing colors and thicknesses of characters and frames displayed as health check data described later. Cases are also included.

次に、視線検出方法の概略について説明する。図２は、視線検出方法を示した概念図である。視線検出方法は、利用者がどこを見ているのか判断するために、目の動きを検出する方法である。利用者の目の動きは、目において、動かない部分（基準点）と動く部分（動点）を検出することから始まる。検出装置が、基準点と動点を検出した後、基準点に対する動点の位置に基づいて、視線を検出する。基準点及び動点の選び方の違いにより、様々な視線検出方法がある。その中でも代表的方法として、以下に、基準点を角膜反射位置にし、動点を瞳孔の位置にして、両方の位置関係を使う角膜反射法を説明する。 Next, an outline of the gaze detection method will be described. FIG. 2 is a conceptual diagram showing a gaze detection method. The line-of-sight detection method is a method of detecting eye movement in order to determine where the user is looking. The movement of the user's eyes starts by detecting a non-moving part (reference point) and a moving part (moving point) in the eye. The detection device detects the reference point and the moving point, and then detects the line of sight based on the position of the moving point with respect to the reference point. There are various line-of-sight detection methods depending on how the reference point and the moving point are selected. Among them, as a representative method, a corneal reflection method that uses the positional relationship between the reference point as the corneal reflection position and the moving point as the pupil position will be described below.

まず、視線検出方法を行なうための一般的な検出装置は、赤外線ＬＥＤ(Light Emitting Diode)照明機器３０１ａで利用者の顔を照らし、赤外線ＬＥＤ照明機器３０１ａを照らしてできた反射光の角膜上の位置（角膜反射）を基準点とする。そして、検出装置は、赤外線カメラ３０２ａで、角膜反射の位置に対する瞳孔の位置に基づいて、利用者の視線を検出する。例えば、図２に示されているように、左目の角膜反射位置よりも瞳孔が目じり寄り上側にあれば、利用者は左上側を見ているものとして検出される。また、角膜反射位置よりも瞳孔が目頭寄り上側にあれば、利用者は右上側を見ているものとして検出される。この検出による視線データは、座標データとして表わされる。 First, a general detection apparatus for performing a line-of-sight detection method irradiates a user's face with an infrared LED (Light Emitting Diode) illumination device 301a and illuminates the infrared LED illumination device 301a on the cornea of reflected light. The position (corneal reflection) is taken as the reference point. And a detection apparatus detects a user's eyes | visual_axis with the infrared camera 302a based on the position of the pupil with respect to the position of corneal reflection. For example, as shown in FIG. 2, if the pupil is closer to the upper side than the corneal reflection position of the left eye, the user is detected as looking at the upper left side. In addition, if the pupil is above the corneal reflection position, it is detected that the user is looking at the upper right side. The line-of-sight data obtained by this detection is expressed as coordinate data.

なお、視線検出方法の別の例として、LMedSを用いた虹彩検出法、Active Appearance Models法等が挙げられる。角膜反射法、虹彩検出法、及びActive Appearance Models法は、いずれも利用者の画像を示す画像データに基づいて視線が検出される方法である。但し、角膜反射法が、視線データとして座標データを出力するのに対して、虹彩検出法及びActive Appearance Models法が、視線データとして特定のパラメータを出力する点で相違する。具体的には、虹彩検出法は、利用者が撮像された画像から利用者の目の虹彩部分を検出し、検出した虹彩に楕円を当てはめ、この当てはめた楕円の「傾き」、「長軸」及び「短軸」の３つのパラメータに基づいて視線を検出する方法である。Active Appearance Models法は、利用者が様々な方向を向いている状態で撮像されて得られた顔の画像から、顔モデルを作成し、この顔モデルと視線方向を対応付けて得られた特徴量のパラメータを記憶（又は学習）しておくことで、視線を検出する方法である。 As another example of the line-of-sight detection method, an iris detection method using LMedS, an Active Appearance Models method, and the like can be given. The corneal reflection method, the iris detection method, and the Active Appearance Models method are all methods in which a line of sight is detected based on image data indicating a user image. However, the corneal reflection method outputs coordinate data as line-of-sight data, whereas the iris detection method and Active Appearance Models method differ in that specific parameters are output as line-of-sight data. Specifically, the iris detection method detects the iris portion of the user's eye from the image captured by the user, applies an ellipse to the detected iris, and “slope” and “long axis” of the fitted ellipse. And a method of detecting the line of sight based on the three parameters “short axis”. In the Active Appearance Models method, a face model is created from a face image captured by the user facing various directions, and the feature value obtained by associating the face model with the line-of-sight direction. This is a method for detecting the line of sight by storing (or learning) the parameters.

本実施形態では、通信ネットワーク９を介して、上述の視線検出方法を従業員側と産業医側で分散して実行することで、遠隔面談に応用している。これにより、本実施形態では、従業員側の通信端末１０には図３に示されているような画面例が表示され、産業医側の通信端末４０には図４に示されているような画面例が表示される。 In the present embodiment, the above-described line-of-sight detection method is distributed and executed on the employee side and the occupational physician side via the communication network 9 and applied to the remote interview. Thereby, in this embodiment, the screen example as shown in FIG. 3 is displayed on the communication terminal 10 on the employee side, and the communication terminal 40 on the industrial physician side is as shown in FIG. An example screen is displayed.

図３は、従業員側の画面例を示した図である。図４は、産業医側の画面例を示した図である。なお、図３及び図４では、画面を４等分するための波線が示されているが、この波線は、図３と図４との対応関係を示すために描いたものであって、実際の画面上では表示しなくてもよい。 FIG. 3 is a diagram showing an example screen on the employee side. FIG. 4 is a diagram showing an example screen on the occupational physician side. 3 and 4 show a wavy line for dividing the screen into four equal parts, this wavy line is drawn to show the correspondence between FIG. 3 and FIG. It may not be displayed on the screen.

図３に示されているように、通信端末１０における後述のディスプレイ２１７上には、健康診断データ画面１０００が表示されている。健康診断データ画面１０００には、従業員の個人情報表示領域１０１０、検査結果表示領域１０２０、病歴表示領域１０３０、及び生活習慣表示領域１０４０が表示されている。個人情報表示領域１０１０には、従業員の氏名等の利用者個人データの内容が表示される。また、検査結果表示領域１０２０、病歴表示領域１０３０、及び生活習慣表示領域１０４０には、従業員の健康診断の検査結果等の健康診断管理データの内容が表示される。即ち、利用者個人データ及び健康診断管理データによって、健康診断データ画面１０００の内容である健康診断データが構成される。なお、本実施形態では、遠隔面談が医療用に用いられているが、これに限るものではなく、仕事の会議等に用いられてもよい。よって、本実施形態の健康診断データは、利用者に関連する内容を示す利用者関連データの一例である。この場合、氏名、性別、及び年齢である利用者個人項目、並びに、各検診項目、過去の病歴、及び生活習慣である検査項目は、利用者に関する項目の情報を示す。 As shown in FIG. 3, a health checkup data screen 1000 is displayed on a display 217 (described later) in the communication terminal 10. On the health checkup data screen 1000, an employee personal information display area 1010, a test result display area 1020, a medical history display area 1030, and a lifestyle display area 1040 are displayed. The personal information display area 1010 displays the contents of user personal data such as the employee's name. The examination result display area 1020, the medical history display area 1030, and the lifestyle display area 1040 display the contents of health checkup management data such as the checkup result of the employee's checkup. That is, the user's personal data and the health check management data constitute the health check data that is the content of the health check data screen 1000. In the present embodiment, remote interviews are used for medical purposes, but the present invention is not limited to this, and may be used for work meetings. Therefore, the health check data of this embodiment is an example of user related data indicating contents related to the user. In this case, the user's personal items that are name, sex, and age, and the examination items that are each examination item, past medical history, and lifestyle show information on the items related to the user.

一方、通信端末４０における後述のディスプレイ２１７上には、健康診断データ画面４０００が表示されている。健康診断データ画面４０００には、図３と同様に、利用者の個人情報表示領域４０１０、検査結果表示領域４０２０、病歴表示領域４０３０、及び生活習慣表示領域４０４０が表示されている。各欄４０１０、４０２０、４０３０、及び４０４０は、それぞれ上記各欄１０１０、１０２０、１０３０、及び１０４０と同じ内容を示しているが、各欄１０１０、１０２０、１０３０、及び１０４０よりも若干縮小されており、左側に関連情報表示領域４３００が表示されている。更に、関連情報表示領域４３００には、「関連情報一覧」ボタン４３１０が表示されており、利用者による押下により、図１６に示されているような各関連情報４３３１等が表示される。 On the other hand, a health checkup data screen 4000 is displayed on a display 217 described later in the communication terminal 40. Similar to FIG. 3, a personal information display area 4010, a test result display area 4020, a medical history display area 4030, and a lifestyle display area 4040 are displayed on the health checkup data screen 4000. Each column 4010, 4020, 4030, and 4040 shows the same content as each column 1010, 1020, 1030, and 1040, but is slightly smaller than each column 1010, 1020, 1030, and 1040. On the left side, a related information display area 4300 is displayed. Further, a “related information list” button 4310 is displayed in the related information display area 4300, and each related information 4331 as shown in FIG. 16 is displayed when pressed by the user.

また、健康診断データ画面４０００には、視点マーカｖ、受信状態表示領域４１１０、及び「視点マーカ表示」ボタン４２１０が表示されている。受信状態表示領域４１１０には、通信端末４０が従業員である通信相手からの画像データを受信中である旨を示すメッセージが表示される。ここでは、メッセージの一例として、「相手の画像データ受信中」を示す内容が表示されている。「視点マーカ表示」ボタン４２１０は、産業医が通信端末４０のディスプレイ２１７に、視点マーカｖを表示させたい場合に押下するためのボタンであり、産業医から視点マーカｖの表示を受け付ける。なお、視点マーカｖは、従業員の視線方向の変化に応じて、健康診断データ画面４０００における表示位置が変更される。 In addition, a viewpoint marker v, a reception state display area 4110, and a “viewpoint marker display” button 4210 are displayed on the health diagnosis data screen 4000. In the reception state display area 4110, a message indicating that the communication terminal 40 is receiving image data from a communication partner who is an employee is displayed. Here, as an example of the message, content indicating “receiving image data of the other party” is displayed. The “viewpoint marker display” button 4210 is a button to be pressed when the industrial doctor wants to display the viewpoint marker v on the display 217 of the communication terminal 40, and accepts the display of the viewpoint marker v from the industrial doctor. Note that the display position of the viewpoint marker v on the health check data screen 4000 is changed according to a change in the gaze direction of the employee.

一方、関連情報表示領域４３００には、後述の各関連情報４３２１等が表示される。 On the other hand, in the related information display area 4300, each related information 4321 described later is displayed.

＜＜実施形態のハードウェア構成＞＞
続いて、図５を用いて、通信端末１０、４０及び視線検出装置３０のハードウェア構成を説明する。図５は、通信端末及び視線検出装置のハードウェア構成図である。なお、通信端末１０、４０は、同じ構成であるため、通信端末４０の説明を省略し、通信端末１０及び視線検出装置３０について説明する。 << Hardware Configuration of Embodiment >>
Next, the hardware configuration of the communication terminals 10 and 40 and the line-of-sight detection device 30 will be described with reference to FIG. FIG. 5 is a hardware configuration diagram of the communication terminal and the line-of-sight detection device. In addition, since the communication terminals 10 and 40 are the same structures, description of the communication terminal 40 is abbreviate | omitted and the communication terminal 10 and the gaze detection apparatus 30 are demonstrated.

図５に示されているように、通信端末１０は、ＣＰＵ２０１、ＲＯＭ２０２、ＲＡＭ２０３、ＨＤ(Hard Disk)２０４、ＨＤＤ(Hard Disk Drive)２０５、メディアＩ／Ｆ２０７、キーボード２０８、及びマウス２０９を備えている。 As shown in FIG. 5, the communication terminal 10 includes a CPU 201, ROM 202, RAM 203, HD (Hard Disk) 204, HDD (Hard Disk Drive) 205, media I / F 207, keyboard 208, and mouse 209. Yes.

このうち、ＣＰＵ２０１は、通信端末１０全体の動作を制御する。ＲＯＭ２０２は、ＩＰＬ等のＣＰＵ２０１の駆動に用いられるプログラムを記憶する。ＲＡＭ２０３は、ＣＰＵ２０１のワークエリアとして使用される。ＨＤ２０４は、プログラム等の各種データを記憶する。ＨＤＤ２０５は、ＣＰＵ２０１の制御にしたがってＨＤ２０４に対する各種データの読み出し又は書き込みを制御する。メディアＩ／Ｆ２０７は、フラッシュメモリ等の記録メディア２０６に対するデータの読み出し又は書き込み（記憶）を制御する。キーボード２０８は、文字、数値、各種指示などの入力のための複数のキーを備えた入力装置である。マウス２０９は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行うための入力装置である。 Among these, the CPU 201 controls the operation of the entire communication terminal 10. The ROM 202 stores a program used for driving the CPU 201 such as IPL. The RAM 203 is used as a work area for the CPU 201. The HD 204 stores various data such as programs. The HDD 205 controls reading or writing of various data with respect to the HD 204 according to the control of the CPU 201. A media I / F 207 controls reading or writing (storage) of data with respect to a recording medium 206 such as a flash memory. The keyboard 208 is an input device having a plurality of keys for inputting characters, numerical values, various instructions, and the like. The mouse 209 is an input device for selecting and executing various instructions, selecting a processing target, moving a cursor, and the like.

また、通信端末１０は、ネットワークＩ／Ｆ２１１、カメラ２１２、撮像素子Ｉ／Ｆ２１３、マイク２１４、スピーカ２１５、音入出力Ｉ／Ｆ２１６、ディスプレイ２１７、ディスプレイＩ／Ｆ２１８、及び外部機器Ｉ／Ｆを備えている。 The communication terminal 10 also includes a network I / F 211, a camera 212, an image sensor I / F 213, a microphone 214, a speaker 215, a sound input / output I / F 216, a display 217, a display I / F 218, and an external device I / F. ing.

このうち、ネットワークＩ／Ｆ２１１は、通信ネットワーク９を利用してデータ伝送をするためのインターフェースである。カメラ２１２は、ＣＰＵ２０１の制御に従って被写体を撮像して画像データを出力する。撮像素子Ｉ／Ｆ２１３は、カメラ２１２の駆動を制御する回路である。マイク２１４は、音を入力する内蔵型のマイクである。スピーカ２１５は、音を出力する内蔵型のスピーカである。音入出力Ｉ／Ｆ２１６は、ＣＰＵ２０１の制御に従ってマイク２１４及びスピーカ２１５との間で音信号の入出力を処理する回路である。ディスプレイ２１７は、カーソル、メニュー、ウィンドウ、文字、マーカ又は画像などの各種情報を表示する。ディスプレイＩ／Ｆ２１８は、ＣＰＵ２０１の制御に従ってディスプレイ２１７に映像（静止画、動画）を出力する回路である。外部機器Ｉ／Ｆ２１９は、ＵＳＢ(Universal Serial Bus)ケーブル等を利用してデータを伝送するためのインターフェースである。 Among these, the network I / F 211 is an interface for data transmission using the communication network 9. The camera 212 images a subject under the control of the CPU 201 and outputs image data. The image sensor I / F 213 is a circuit that controls driving of the camera 212. The microphone 214 is a built-in microphone that inputs sound. The speaker 215 is a built-in speaker that outputs sound. The sound input / output I / F 216 is a circuit that processes input / output of a sound signal between the microphone 214 and the speaker 215 under the control of the CPU 201. The display 217 displays various information such as a cursor, menu, window, character, marker, or image. The display I / F 218 is a circuit that outputs a video (still image, moving image) to the display 217 under the control of the CPU 201. The external device I / F 219 is an interface for transmitting data using a USB (Universal Serial Bus) cable or the like.

更に、通信端末１０は、上記ＣＰＵ２０１等の各構成要素を図５に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン２１０を備えている。 Further, the communication terminal 10 includes a bus line 210 such as an address bus or a data bus for electrically connecting the components such as the CPU 201 as shown in FIG.

なお、上記プログラムは、インストール可能な形式又は実行可能な形式のファイルで、上記記録メディア２０６等のコンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。また、上記プログラムは、ＨＤ２０４ではなくＲＯＭ２０２に記憶されるようにしてもよい。更に、上記記録媒体の他の例として、ＣＤ−Ｒ(Compact Disc Recordable)、ＤＶＤ(Digital Versatile Disk)、ブルーレイディスク等が挙げられる。 The program may be distributed in a computer-readable recording medium such as the recording medium 206 as a file in an installable or executable format. Further, the program may be stored in the ROM 202 instead of the HD 204. Furthermore, other examples of the recording medium include a CD-R (Compact Disc Recordable), a DVD (Digital Versatile Disk), a Blu-ray Disc, and the like.

一方、図５に示されているように、視線検出装置３０は、赤外線ＬＥＤ照明機器３０１、赤外線カメラ３０２、操作ボタン３０３、外部機器Ｉ／Ｆ３０９、及びバスライン３１０を備えている。 On the other hand, as shown in FIG. 5, the line-of-sight detection device 30 includes an infrared LED illumination device 301, an infrared camera 302, operation buttons 303, an external device I / F 309, and a bus line 310.

このうち、赤外線ＬＥＤ照明機器３０１は、赤外光を発光するダイオードを備えた照明機器である。赤外線カメラ３０２は、赤外線に感度をもつカメラである。外部機器Ｉ／Ｆ３０９は、ＵＳＢケーブル等を利用してデータを伝送するためのインターフェースである。バスライン３１０は、上記各構成要素３０１等を図５に示されているように電気的に接続するためのアドレスバス、データバス等である。 Among these, the infrared LED lighting device 301 is a lighting device including a diode that emits infrared light. The infrared camera 302 is a camera having sensitivity to infrared rays. The external device I / F 309 is an interface for transmitting data using a USB cable or the like. The bus line 310 is an address bus, a data bus, or the like for electrically connecting the above-described components 301 and the like as shown in FIG.

＜＜実施形態の機能構成＞＞
続いて、図５及び図６を用いて、本実施形態の機能構成を説明する。図６は、面談システムの機能構成図である。 << Functional Configuration of Embodiment >>
Subsequently, the functional configuration of the present embodiment will be described with reference to FIGS. 5 and 6. FIG. 6 is a functional configuration diagram of the interview system.

＜通信端末１０の機能構成＞
図６に示されているように、通信端末１０は、送受信部１１、受付部１２、表示制御部１３、通話部１７、接続部１８、及び記憶・読出部１９を有している。これら各部は、図５に示されている各構成要素のいずれかが、ＨＤ２０４からＲＡＭ２０３上に展開されたプログラムに従ったＣＰＵ２０１からの命令によって動作することで実現される機能又は手段である。また、通信端末１０は、図５に示されているＲＯＭ２０２、ＲＡＭ２０３、及びＨＤ２０４によって構築される記憶部１００を有している。 <Functional configuration of communication terminal 10>
As shown in FIG. 6, the communication terminal 10 includes a transmission / reception unit 11, a reception unit 12, a display control unit 13, a call unit 17, a connection unit 18, and a storage / readout unit 19. Each of these units is a function or means realized by any one of the constituent elements shown in FIG. 5 operating according to a command from the CPU 201 according to a program expanded from the HD 204 onto the RAM 203. Further, the communication terminal 10 includes a storage unit 100 constructed by the ROM 202, the RAM 203, and the HD 204 shown in FIG.

（通信端末１０の各機能構成）
通信端末１０の送受信部１１は、主に、図５に示されているネットワークＩ／Ｆ２１０及びＣＰＵ２０１の処理によって実現され、通信ネットワーク９を介して、通信端末４０と各種データの送受信を行う。例えば、送受信部１１は、従業員を撮像する赤外線カメラ３０２によって所定間隔で従業員が撮像される度に、従業員の目の画像を含む画像データを送信する。 (Each functional configuration of the communication terminal 10)
The transmission / reception unit 11 of the communication terminal 10 is realized mainly by the processing of the network I / F 210 and the CPU 201 illustrated in FIG. 5, and transmits / receives various data to / from the communication terminal 40 via the communication network 9. For example, the transmission / reception unit 11 transmits image data including an image of the employee's eyes every time the employee is imaged at a predetermined interval by the infrared camera 302 that images the employee.

受付部１２は、主にキーボード２０８、マウス２０９、及びＣＰＵ２０１による処理によって実現され、利用者から各種の選択、指定、又は指示等を受け付ける。 The accepting unit 12 is realized mainly by processing by the keyboard 208, the mouse 209, and the CPU 201, and accepts various selections, designations, instructions, and the like from the user.

表示制御部１３は、主にディスプレイＩ／Ｆ２１８及びＣＰＵ２０１の処理によって実現され、ディスプレイ２１７に各種画像や文字等を表示させるための制御を行う。 The display control unit 13 is realized mainly by processing of the display I / F 218 and the CPU 201, and performs control for displaying various images, characters, and the like on the display 217.

通話部１７は、主に、カメラ２１２、撮像素子Ｉ／Ｆ２１３、マイク２１４、スピーカ２１５、音入出力Ｉ／Ｆ２１６、ディスプレイ２１７、及びディスプレイＩ／Ｆ２１８、並びにＣＰＵ２０１の処理によって実現され、相手側の通信端末４０と音及び映像の通信を行なう。 The calling unit 17 is realized mainly by the processing of the camera 212, the image sensor I / F 213, the microphone 214, the speaker 215, the sound input / output I / F 216, the display 217, the display I / F 218, and the CPU 201, Communication of sound and video with the communication terminal 40 is performed.

接続部１８は、主に外部機器Ｉ／Ｆ２０９、及びＣＰＵ２０１による処理によって実現され、外部機器との接続を検知すると共に、外部機器との通信を行なう。 The connection unit 18 is mainly realized by processing by the external device I / F 209 and the CPU 201, detects connection with the external device, and communicates with the external device.

記憶・読出部１９は、記憶部１００に各種データを記憶したり、記憶部１００から各種データを読み出したりする。 The storage / reading unit 19 stores various data in the storage unit 100 and reads various data from the storage unit 100.

＜視線検出装置３０の機能構成＞
図６に示されているように、視線検出装置３０は、照明部３１、撮像部３２、及び接続部３８を有している。これら各部は、図５に示されている視線検出装置３０の各構成要素のいずれかが動作することで実現される機能又は手段である。 <Functional configuration of the line-of-sight detection device 30>
As illustrated in FIG. 6, the line-of-sight detection device 30 includes an illumination unit 31, an imaging unit 32, and a connection unit 38. These units are functions or means realized by the operation of any of the components of the line-of-sight detection device 30 shown in FIG.

照明部３１は、赤外線ＬＥＤ照明機器３０１の動作によって実現され、赤外線を照射することで利用者の顔を照明する。 The illumination unit 31 is realized by the operation of the infrared LED illumination device 301, and illuminates the user's face by irradiating infrared rays.

撮像部３２は、撮像手段の一例として赤外線カメラ３０２の動作によって実現され、照明部３１によって照射された赤外線の反射光を撮像して、画像データを生成する。 The imaging unit 32 is realized by the operation of the infrared camera 302 as an example of an imaging unit, and captures infrared reflected light emitted by the illumination unit 31 to generate image data.

接続部３８は、主に外部機器Ｉ／Ｆ３０９によって実現され、外部機器との接続を検知すると共に、外部機器との通信を行なう。 The connection unit 38 is mainly realized by the external device I / F 309, detects a connection with the external device, and communicates with the external device.

＜通信端末４０の機能構成＞
図６に示されているように、通信端末４０は、送受信部４１、受付部４２、表示制御部４３、判断部４４、特定部４５、画像処理部４６、通話部４７、及び記憶・読出部４９を有している。これら各部は、図５に示されている各構成要素のいずれかが、ＨＤ２０４からＲＡＭ２０３上に展開されたプログラムに従ったＣＰＵ２０１からの命令によって動作することで実現される機能又は手段である。また、通信端末４０は、図５に示されているＲＯＭ２０２、ＲＡＭ２０３、及びＨＤ２０４によって構築される記憶部４００を有している。この記憶部４００には、利用者管理テーブルによって構成されている利用者管理ＤＢ４０１が構築されている。また、記憶部４００には、検査結果管理テーブル、病歴管理テーブル、及び生活習慣管理テーブルによって構成されている健康診断管理ＤＢ４０２が構築されている。更に、記憶部４００には、視点位置管理テーブルによって構成されている視点位置管理ＤＢ４０３が構築されている。また、記憶部４００には、関連情報管理テーブルによって構成されている関連情報管理ＤＢ４０４が構築されている。 <Functional configuration of communication terminal 40>
As shown in FIG. 6, the communication terminal 40 includes a transmission / reception unit 41, a reception unit 42, a display control unit 43, a determination unit 44, a specification unit 45, an image processing unit 46, a call unit 47, and a storage / readout unit. 49. Each of these units is a function or means realized by any one of the constituent elements shown in FIG. 5 operating according to a command from the CPU 201 according to a program expanded from the HD 204 onto the RAM 203. Further, the communication terminal 40 includes a storage unit 400 constructed by the ROM 202, the RAM 203, and the HD 204 shown in FIG. In the storage unit 400, a user management DB 401 configured by a user management table is constructed. In the storage unit 400, a health diagnosis management DB 402 configured by a test result management table, a medical history management table, and a lifestyle management table is constructed. Further, in the storage unit 400, a viewpoint position management DB 403 configured by a viewpoint position management table is constructed. In the storage unit 400, a related information management DB 404 configured by a related information management table is constructed.

なお、利用者管理テーブルの内容が、利用者個人データの内容を構成する。また、検査結果管理テーブル、病歴管理テーブル、及び生活習慣管理テーブルの内容が、健康診断管理データの内容を構成する。即ち、図３及び図４において、利用者管理テーブル、検査結果管理テーブル、病歴管理テーブル、及び生活習慣管理テーブルの内容が、それぞれ、利用者の個人情報表示領域１０１０（４０１０）、検査結果表示領域１０２０（４０２０）、病歴表示領域１０３０（４０３０）、及び生活習慣表示領域１０４０（４０４０）内のデータを構成する。 Note that the content of the user management table constitutes the content of the user personal data. The contents of the examination result management table, the medical history management table, and the lifestyle management table constitute the contents of the health check management data. That is, in FIG. 3 and FIG. 4, the contents of the user management table, test result management table, medical history management table, and lifestyle management table are the user personal information display area 1010 (4010) and the test result display area, respectively. 1020 (4020), medical history display area 1030 (4030), and data in lifestyle display area 1040 (4040) are configured.

（利用者管理テーブル）
図７は、利用者管理テーブルを示す概念図である。この利用者管理テーブルでは、利用者の個人情報が管理されており、利用者を識別するための利用者ＩＤ、利用者の氏名、利用者の性別、及び利用者の年齢が関連付けて記憶されて管理されている。なお、利用者ＩＤは利用者を一意に識別できる利用者識別情報の一例である。利用者識別情報は、例えば、従業員番号、学籍番号、国民総背番号制に基づく国民番号が挙げられる。 (User management table)
FIG. 7 is a conceptual diagram showing a user management table. In this user management table, user personal information is managed, and a user ID for identifying a user, a user name, a user gender, and a user age are stored in association with each other. It is managed. The user ID is an example of user identification information that can uniquely identify a user. The user identification information includes, for example, an employee number, a student ID number, and a national number based on the national gross number system.

（検査結果管理テーブル）
図８（ａ）は、検査結果管理テーブルを示す概念図である。この検査結果管理テーブルでは、利用者ＩＤ毎に、検査項目及び過去の検査日が関連付けられて管理されている。検査項目は、例えば、身長、体重、ＢＭＩ(Body Mass Index)、血圧、尿酸、赤血球、及び中性脂肪である。 (Inspection result management table)
FIG. 8A is a conceptual diagram showing an inspection result management table. In this inspection result management table, an inspection item and a past inspection date are associated and managed for each user ID. The test items are, for example, height, weight, BMI (Body Mass Index), blood pressure, uric acid, red blood cells, and neutral fat.

（病歴管理テーブル）
図８（ｂ）は、病歴管理テーブルを示す概念図である。この病歴管理テーブルでは、利用者ＩＤ毎に、過去の病歴の各項目に対する利用者の回答が関連付けられて管理されている。過去の病歴の項目は、例えば、高血圧、脳卒中、がん、糖尿病、不整脈、及び気管支喘息である。回答が「○」は、その病気を経験したことを示し、回答が「×」は、その病気を経験していないことを示している。 (Medical history management table)
FIG. 8B is a conceptual diagram showing a medical history management table. In this medical history management table, a user's answer to each item of past medical history is managed in association with each user ID. The past medical history items are, for example, hypertension, stroke, cancer, diabetes, arrhythmia, and bronchial asthma. The answer “◯” indicates that the disease has been experienced, and the answer “X” indicates that the disease has not been experienced.

（生活習慣管理テーブル）
図８（ｃ）は、生活習慣管理テーブルを示す概念図である。この生活習慣管理テーブルでは、利用者ＩＤ毎に、生活習慣の各項目に対する利用者の回答が関連付けられて管理されている。生活習慣の項目は、例えば、運動週間、喫煙状態、飲酒状態、睡眠時間、食事の中で揚げ物が多い、便秘状態、及びストレスを感じる、である。回答が「○」は、利用者がその生活習慣の項目を実践していることを示し、回答が「×」は、利用者がその生活習慣の項目を実践していないことを示している。 (Lifestyle management table)
FIG. 8C is a conceptual diagram showing a lifestyle management table. In this lifestyle management table, a user's answer to each item of lifestyle is associated and managed for each user ID. The items of lifestyle are, for example, exercise week, smoking state, drinking state, sleeping time, a lot of fried food in the meal, constipation state, and feeling stress. The answer “◯” indicates that the user is practicing the lifestyle item, and the answer “×” indicates that the user is not practicing the lifestyle item.

（視点位置管理テーブル）
図９（ａ）は、視点位置管理テーブルを示す概念図である。この視点位置管理テーブルでは、所定の利用者の目の角膜反射の位置に対する瞳孔の位置を示す所定の座標データと、通信端末１０、４０のディスプレイ２１７における所定の利用者の視点の位置を示す所定の表示位置情報とが関連付けられて管理されている。 (Viewpoint management table)
FIG. 9A is a conceptual diagram showing a viewpoint position management table. In this viewpoint position management table, predetermined coordinate data indicating the position of the pupil with respect to the position of corneal reflection of a predetermined user's eye, and a predetermined position indicating the position of the predetermined user's viewpoint on the display 217 of the communication terminals 10 and 40. Are managed in association with the display position information.

また、図９（ｂ）は、従業員側の通信端末１０のディスプレイ２１７における表示位置を示す概念図である。図９（ｂ）では、ディスプレイ２１７が、横１２８０画素、縦９６０画素の場合を示している。左上が第１の表示領域ｓ１、右上が第２の表示領域ｓ２、左下が第３の表示領域ｓ３、及び右下が第４の表示領域ｓ４である。例えば、座標データが（１，−１）の場合、視点位置は第１の表示領域ｓ１となる。これにより、図４のように、第１の表示領域ｓ１の真ん中に視点マーカｖが表示される。なお、産業医側の通信端末４０のディスプレイ２１７では、図４に示されているように、従業員側に対して縦横６／７倍の表示領域になっており、関連情報表示領域４３００が確保されている。 FIG. 9B is a conceptual diagram showing a display position on the display 217 of the communication terminal 10 on the employee side. FIG. 9B shows a case where the display 217 has a width of 1280 pixels and a length of 960 pixels. The upper left is the first display area s1, the upper right is the second display area s2, the lower left is the third display area s3, and the lower right is the fourth display area s4. For example, when the coordinate data is (1, −1), the viewpoint position is the first display area s1. Thereby, as shown in FIG. 4, the viewpoint marker v is displayed in the middle of the first display area s1. As shown in FIG. 4, the display 217 of the communication terminal 40 on the occupational physician side has a display area 6/7 times longer and wider than the employee side, and a related information display area 4300 is secured. Has been.

（関連情報管理テーブル）
図１０は、関連情報管理テーブルを示す概念図である。この関連情報管理テーブルでは、視点位置管理テーブル（図９参照）の表示位置と同じ情報を示す表示位置情報と、関連情報とが関連付けられて管理されている。この関連情報は、従業員（利用者）に関する複数の項目のそれぞれに関連する情報を示す。この例えば、従業員の視点の位置が第３の表示領域（左下）にある場合には、この関連情報管理テーブルに基づいて、図１５に示されているように、表示領域内で表示される「ＢＭＩ」、「血圧」、「尿酸」、「赤血球」、及び「中性脂肪」の各項目に合わせて、それぞれの項目に関連する関連情報が関連情報表示領域４３００に表示される。 (Related information management table)
FIG. 10 is a conceptual diagram showing a related information management table. In this related information management table, display position information indicating the same information as the display position of the viewpoint position management table (see FIG. 9) and related information are managed in association with each other. This related information indicates information related to each of a plurality of items related to the employee (user). For example, when the position of the employee's viewpoint is in the third display area (lower left), it is displayed in the display area as shown in FIG. 15 based on the related information management table. In association with each item of “BMI”, “blood pressure”, “uric acid”, “red blood cell”, and “neutral fat”, related information related to each item is displayed in the related information display area 4300.

（通信端末４０の各機能構成）
次に、図５及び図６を用いて、通信端末４０の各機能構成について詳細に説明する。 (Each functional configuration of the communication terminal 40)
Next, each functional configuration of the communication terminal 40 will be described in detail with reference to FIGS. 5 and 6.

通信端末４０の送受信部４１は、主に、図５に示されているネットワークＩ／Ｆ２１０及びＣＰＵ２０１の処理によって実現され、通信ネットワーク９を介して、通信端末１０と各種データの送受信を行う。 The transmission / reception unit 41 of the communication terminal 40 is mainly realized by the processing of the network I / F 210 and the CPU 201 illustrated in FIG. 5, and transmits / receives various data to / from the communication terminal 10 via the communication network 9.

受付部４２は、主にキーボード２０８、マウス２０９、及びＣＰＵ２０１による処理によって実現され、利用者から各種の選択、指定、又は指示等を受け付ける。 The accepting unit 42 is realized mainly by processing by the keyboard 208, the mouse 209, and the CPU 201, and accepts various selections, designations, instructions, and the like from the user.

表示制御部４３は、主にディスプレイＩ／Ｆ２１８及びＣＰＵ２０１の処理によって実現され、ディスプレイ２１７に各種画像や文字等を表示させるための制御を行う。 The display control unit 43 is realized mainly by the processing of the display I / F 218 and the CPU 201, and performs control for displaying various images, characters, and the like on the display 217.

判断部４４は、主にＣＰＵ２０１の処理によって実現され、通信端末１０から画像データを受信したか等の判断を行なう。 The determination unit 44 is realized mainly by the processing of the CPU 201 and determines whether image data has been received from the communication terminal 10.

特定部４５は、主にＣＰＵ２０１の処理によって実現され、送受信部４１によって画像データが受信される度に、送受信部４１によって受信された画像データに基づいて、通信端末４０のディスプレイ２１７における従業員の視点の位置の特定等を行なう。 The identification unit 45 is realized mainly by the processing of the CPU 201, and each time image data is received by the transmission / reception unit 41, based on the image data received by the transmission / reception unit 41, the employee's display 217 on the communication terminal 40 is displayed. Specify the position of the viewpoint.

画像処理部４６は、主にＣＰＵ２０１の処理によって実現され、健康診断データ上に視点マーカｖを合成する処理等を行なう。 The image processing unit 46 is realized mainly by the processing of the CPU 201, and performs processing for synthesizing the viewpoint marker v on the health check data.

通話部４７は、主に、カメラ２１２、撮像素子Ｉ／Ｆ２１３、マイク２１４、スピーカ２１５、音入出力Ｉ／Ｆ２１６、ディスプレイ２１７、及びディスプレイＩ／Ｆ２１８、並びにＣＰＵ２０１の処理によって実現され、相手側の通信端末１０と音声及び映像の通信を行なう。 The calling unit 47 is realized mainly by the processing of the camera 212, the image sensor I / F 213, the microphone 214, the speaker 215, the sound input / output I / F 216, the display 217, the display I / F 218, and the CPU 201, Voice and video communication with the communication terminal 10 is performed.

記憶・読出部４９は、記憶部４００に各種データを記憶したり、記憶部４００から各種データを読み出したりする。 The storage / reading unit 49 stores various data in the storage unit 400 and reads various data from the storage unit 400.

＜＜実施形態の処理または動作＞＞
次に、図１１乃至図１３を用いて、本実施形態の処理または動作について説明する。図１１は、遠隔面談を行なうための処理を示したシーケンス図である。図１２は、産業医側の画面にメッセージを表示させる処理を示したフローチャートである。図１３は、産業医側の画面に視点マーカを表示させる処理を示したフローチャートである。 << Processing or Operation of Embodiment >>
Next, the processing or operation of this embodiment will be described with reference to FIGS. FIG. 11 is a sequence diagram showing a process for conducting a remote interview. FIG. 12 is a flowchart showing processing for displaying a message on the screen of the industrial physician. FIG. 13 is a flowchart showing processing for displaying a viewpoint marker on the screen of the industrial physician.

まず、ビデオ（テレビ）会議と同様に、従業員と産業医は、通信端末１０，４０を利用して、遠隔面談を開始する。この時点では、お互いのディスプレイ２１７に相手側の顔や部屋が映し出されている。そして、産業医が画面を切り替え、面談中の従業員の利用者ＩＤを入力すると、受付部４２が、利用者ＩＤの入力を受け付ける（ステップＳ２１）。この利用者ＩＤは、利用者ＩＤが管理されている各テーブルに対して、各種データの検索、記憶又は読み出しが行なわれる際に利用される。 First, as in the video (television) conference, the employee and the industrial physician use the communication terminals 10 and 40 to start a remote interview. At this point, the other party's face and room are shown on each other's display 217. Then, when the industrial physician switches the screen and inputs the user ID of the employee who is interviewing, the receiving unit 42 receives the input of the user ID (step S21). This user ID is used when various data are searched, stored, or read out for each table in which the user ID is managed.

次に、記憶・読出部４９は、受付部４２によって受け付けられた利用者ＩＤを検索キーとして、記憶部４００の利用者管理テーブル（図７参照）を検索することにより、対応する利用者の氏名、性別、年齢を示す利用者個人データを読み出す（ステップＳ２２）。更に、記憶・読出部４９は、受付部４２によって受け付けられた利用者ＩＤを検索キーとして、記憶部４００の健康診断管理テーブル（図８参照）を検索することにより、対応する利用者の各検査項目、過去の病歴、及び生活習慣に関する健康診断管理データを読み出す（ステップＳ２３）。そして、表示制御部４３は、通信端末４０のディスプレイ２１７上に、図４に示されているように、利用者個人データ及び健康診断管理データによって構成された健康診断データ画面を表示する（ステップＳ２４）。なお、この時点では、視点マーカｖ及び受信状態表示領域４１１０内のメッセージは表示されていない。 Next, the storage / reading unit 49 searches the user management table (see FIG. 7) of the storage unit 400 by using the user ID received by the receiving unit 42 as a search key, whereby the name of the corresponding user is obtained. User personal data indicating sex, age is read (step S22). Furthermore, the storage / reading unit 49 searches the health check management table (see FIG. 8) of the storage unit 400 using the user ID received by the receiving unit 42 as a search key, thereby checking each test of the corresponding user. Health checkup management data relating to items, past medical history, and lifestyle habits is read (step S23). Then, as shown in FIG. 4, the display control unit 43 displays on the display 217 of the communication terminal 40 a health checkup data screen composed of user personal data and health checkup management data (step S24). ). At this time, the message in the viewpoint marker v and the reception state display area 4110 is not displayed.

次に、送受信部４１は、通信端末１０と画面共有を行なうために、表示領域４０１０，４０２０，４０３０，４０４０と同じ画像である共有画面データを送信する（ステップＳ２５）。これにより、通信端末１０の送受信部１１は、共有画面データを受信する。そして、通信端末１０の表示制御部１３は、通信端末１０のディスプレイ２１７上に、図３に示されているような健康診断データ画面を表示する(ステップＳ２６)。 Next, the transmitter / receiver 41 transmits shared screen data that is the same image as the display areas 4010, 4020, 4030, and 4040 in order to share the screen with the communication terminal 10 (step S25). Thereby, the transmission / reception unit 11 of the communication terminal 10 receives the shared screen data. Then, the display control unit 13 of the communication terminal 10 displays a health diagnosis data screen as shown in FIG. 3 on the display 217 of the communication terminal 10 (step S26).

また、面接室Ｘでは、視線検出装置３０の照明部３１が従業員の顔に赤外線を照射し、撮像部３２が反射光を受光することで、従業員の目を含む画像に係る画像データを得る（ステップＳ２７）。この照射及び受光の動作は、所定間隔（例えば、０．５秒間隔）で行なわれる。そして、視線検出装置３０の接続部３８は、通信端末１０の接続部１８に、画像データを送信する（ステップＳ２８）。 In the interview room X, the illumination unit 31 of the line-of-sight detection device 30 irradiates the employee's face with infrared rays, and the imaging unit 32 receives the reflected light, thereby obtaining image data relating to an image including the employee's eyes. Obtain (step S27). The irradiation and light receiving operations are performed at predetermined intervals (for example, at intervals of 0.5 seconds). Then, the connection unit 38 of the line-of-sight detection device 30 transmits the image data to the connection unit 18 of the communication terminal 10 (step S28).

次に、通信端末１０の送受信部１１は、通信ネットワーク９を介して通信端末４０に対して画像データを送信する（ステップＳ２９）。これにより、通信端末４０の送受信部４１は、画像データを受信する。この画像データの送受信の処理は、ステップＳ２８によって、視線検出装置３０から通信端末１０に画像データが送信する度に順次行なわれる。 Next, the transmission / reception unit 11 of the communication terminal 10 transmits image data to the communication terminal 40 via the communication network 9 (step S29). Thereby, the transmission / reception unit 41 of the communication terminal 40 receives the image data. This image data transmission / reception process is sequentially performed every time image data is transmitted from the line-of-sight detection device 30 to the communication terminal 10 in step S28.

次に、図１２に示されているように、通信端末４０では、判断部４４が、通信端末１０から画像データを受信したかを判断する（ステップＳ１０１）。このステップＳ１０１において、判断部４４が画像データを受信したと判断した場合には、図４に示されているように、表示制御部４３は、健康診断データ画面４０００の受信状態表示領域４１１０に、受信中メッセージを表示する（ステップＳ１０２）。この受信中メッセージは、例えば、図４に示されているように、「相手の画像データ受信中」と示されている。一方、ステップＳ１０１において、判断部４４が、通信端末１０から画像データを受信していないと判断した場合には、表示制御部４３は、健康診断データ画面４０００の受信状態表示領域４１１０に、画像データを未受信である旨を示す未受信メッセージを表示する（ステップＳ１０３）この未受信メッセージは、例えば、「相手の画像データ未受信」と表わされる。なお、未受信の場合には、メッセージを表示させなくてもよい。 Next, as shown in FIG. 12, in the communication terminal 40, the determination unit 44 determines whether image data has been received from the communication terminal 10 (step S101). In this step S101, when the determination unit 44 determines that the image data has been received, the display control unit 43 displays the reception status display area 4110 of the health diagnosis data screen 4000 as shown in FIG. A receiving message is displayed (step S102). For example, as shown in FIG. 4, this receiving message indicates “receiving image data of the other party”. On the other hand, when the determination unit 44 determines in step S101 that image data has not been received from the communication terminal 10, the display control unit 43 displays the image data in the reception status display area 4110 of the health diagnosis data screen 4000. Is displayed (step S103). This unreceived message is represented, for example, as “other party image data not received”. Note that if the message has not been received, the message need not be displayed.

続いて、図１３を用いて、産業医側の画面に視点マーカｖを表示させる処理を説明する。図１３は、産業医側の画面に視点マーカを表示させる処理を示したフローチャートである。 Next, a process for displaying the viewpoint marker v on the screen of the industrial physician will be described with reference to FIG. FIG. 13 is a flowchart showing processing for displaying a viewpoint marker on the screen of the industrial physician.

図１３に示されているように、通信端末４０では、判断部４４は、受付部４２が産業医から視点マーカｖを表示させることを受け付けたかを判断する（ステップＳ１２１）。そして、このステップＳ１２１において、判断部４４が、受け付けたと判断した場合には（ＹＥＳ）、特定部４５は、画像データに基づき、目の角膜反射の位置に対する瞳孔の位置を示す座標データを特定する（ステップＳ１２２）。また、特定部４５は、ステップＳ１２２によって特定した座標データを検索キーとして視点位置管理テーブル（図９（ａ）参照）を検索することにより、対応する表示位置情報を読み出すことで、視点マーカｖの表示位置を特定する（ステップＳ１２３）。 As illustrated in FIG. 13, in the communication terminal 40, the determination unit 44 determines whether the reception unit 42 has received the display of the viewpoint marker v from the industrial physician (step S121). In step S121, when the determination unit 44 determines that it has been received (YES), the specifying unit 45 specifies coordinate data indicating the position of the pupil with respect to the position of the corneal reflection of the eye based on the image data. (Step S122). Further, the specifying unit 45 searches the viewpoint position management table (see FIG. 9A) using the coordinate data specified in step S122 as a search key, thereby reading the corresponding display position information, thereby A display position is specified (step S123).

次に、画像処理部４６は、健康診断データ上において、上記ステップＳ１２３によって特定された表示位置に視点マーカｖを合成する（ステップＳ１２４）。その後、表示制御部４３は、図４に示されているように、通信端末４０のディスプレイ２１７上に、視点マーカｖが合成された健康診断データ画面４０００を表示する（ステップＳ１２５）。 Next, the image processing unit 46 synthesizes the viewpoint marker v at the display position specified in step S123 on the health check data (step S124). Thereafter, as shown in FIG. 4, the display control unit 43 displays a health diagnosis data screen 4000 on which the viewpoint marker v is synthesized on the display 217 of the communication terminal 40 (step S125).

次に、判断部４４は、新たな画像データを受信したかを判断する（ステップＳ１２６）。そして、このステップＳ１２６において、判断部４４が新たな画像データを受信したと判断した場合には（ＹＥＳ）、上記ステップＳ１２１の処理に戻る。また、ステップＳ１２６において、判断部４４が、新たな画像データを受信していないと判断した場合には（ＮＯ）、判断部４４がステップＳ１２６の再処理を行なう。この再処理は、例えば、１秒おきに行なわれる。 Next, the determination unit 44 determines whether new image data has been received (step S126). If it is determined in step S126 that the determination unit 44 has received new image data (YES), the process returns to step S121. If the determination unit 44 determines in step S126 that new image data has not been received (NO), the determination unit 44 performs the reprocessing in step S126. This reprocessing is performed every second, for example.

一方、上記ステップＳ１２１において、判断部４４が、視点マーカｖの表示を受け付けていないと判断した場合には（ＮＯ）、更に、判断部４４は、表示制御部４３が既に視点マーカｖを表示中であるか否かを判断する（ステップＳ１２７）。そして、このステップＳ１２７において、判断部４４が、既に表示中であると判断した場合には（ＹＥＳ）、表示制御部４３は、図４に示されている視点マーカｖを非表示にし、ステップＳ１２６の処理に進む（ステップＳ１２８）。また、ステップＳ１２７において、判断部４４が、表示中でないと判断した場合には（ＮＯ）、ステップＳ１２６の処理に進む。図４に示されているように、健康診断データ画面４０００上に視点マーカｖが表示され続けると、産業医にとっては健康診断データ画面４０００が見えづらくなると感じる場合もあるため、視点マーカｖの表示又は非表示の切り替えを可能としている。 On the other hand, when the determination unit 44 determines in step S121 that the display of the viewpoint marker v has not been received (NO), the determination unit 44 further displays the viewpoint marker v. It is determined whether or not (step S127). In step S127, when the determination unit 44 determines that the display is already being performed (YES), the display control unit 43 hides the viewpoint marker v shown in FIG. 4, and step S126. The process proceeds to (Step S128). If the determination unit 44 determines in step S127 that the display is not in progress (NO), the process proceeds to step S126. As shown in FIG. 4, if the viewpoint marker v continues to be displayed on the health diagnosis data screen 4000, it may be difficult for the industrial physician to see the health diagnosis data screen 4000. Alternatively, it is possible to switch between non-display.

続いて、図１４を用いて、関連情報を表示するための処理を説明する。図１４は、関連情報を表示するための処理を示したシーケンス図である。 Next, a process for displaying related information will be described with reference to FIG. FIG. 14 is a sequence diagram showing processing for displaying related information.

図１４に示されているように、通信端末４０では、産業医が、面談中に図４に示されている「関連情報一覧」ボタン４３１０を押下すると、受付部４２が、関連情報の表示を受け付ける（ステップＳ４１）。 As shown in FIG. 14, in the communication terminal 40, when the industrial physician presses the “related information list” button 4310 shown in FIG. 4 during the interview, the reception unit 42 displays the related information. Accept (step S41).

次に、記憶・読出部４９は、特定部４５によって特定された最新の視点マーカの表示位置（従業員の視点の位置を示す視点情報）を検索キーとして、関連情報管理テーブル（図１０参照）を検索することにより、対応する各関連情報を読み出す（ステップＳ４２）。ここでは、表示制御部４３は、例えば、図１５に示されているように、複数の関連情報４３３１，４３３２，４３３３，４３３４，４３３５を表示させる（ステップＳ４３）。これにより、産業医は、従業員の視点の位置を示す視点マーカｖの表示位置を確認しながら、この視点マーカｖの表示位置における第３の表示領域内の複数の項目に対応する各関連情報を確認することができる。 Next, the storage / reading unit 49 uses the display position of the latest viewpoint marker specified by the specifying unit 45 (viewpoint information indicating the position of the employee's viewpoint) as a search key, and the related information management table (see FIG. 10). By searching for the corresponding related information (step S42). Here, the display control unit 43 displays a plurality of pieces of related information 4331, 4332, 4333, 4334, and 4335, for example, as shown in FIG. 15 (step S43). As a result, the occupational physician confirms the display position of the viewpoint marker v indicating the position of the employee's viewpoint, and each related information corresponding to a plurality of items in the third display area at the display position of the viewpoint marker v. Can be confirmed.

次に、産業医は、通信端末４０のマウス２０９を用いて、複数の関連情報４３３１，４３３２，４３３３，４３３４，４３３５のうち、所定の関連情報（例えば、関連情報４３３１）にカーソル４３２０を移動させてコピーアンドペーストすることで、受付部４２がコピーアンドペーストを受け付け、表示制御部４３が、図１６に示されているように、関連情報のコピー４３２２ｃを指定された位置に表示させる（ステップＳ４４）。 Next, the industrial physician uses the mouse 209 of the communication terminal 40 to move the cursor 4320 to predetermined related information (for example, related information 4331) among the plurality of related information 4331, 4332, 4333, 4334, and 4335. By copying and pasting, the receiving unit 42 receives the copy and paste, and the display control unit 43 displays the copy 4322c of the related information at the designated position as shown in FIG. 16 (step S44). ).

次に、送受信部４１は、通信端末１０と画面共有を行なうために、表示領域４０１０，４０２０，４０３０，４０４０と同じ画像である共有画面データを送信する（ステップＳ４５）。この場合、共有画面内に、視点マーカｖ、受信状態表示領域４１１０、及び「視点マーカ表示」ボタン４２１０は含まれないが、関連情報のコピー４３２２ｃは含まれる。そして、通信端末１０の表示制御部１３は、通信端末１０のディスプレイ２１７上に、図１７に示されているような健康診断データ画面を表示する(ステップＳ４５)。この健康診断データ画面には、関連情報のコピー４３２２ｃに相当する関連情報のコピー１３２２ｃが含まれている。これにより、産業医は、図１５に示されている各関連情報４３３１等の内容を確認しながら遠隔面談することで、従業員にアドバイスを行い易くなる。一方、従業員は、図１７に示されている関連情報のコピー１３２２ｃの内容を確認しながら遠隔面談することで、産業医の声だけでなく、文字としてもアドバイスの内容を把握することができるため、より確実にアドバイスの内容を理解することができる。 Next, the transmission / reception unit 41 transmits shared screen data that is the same image as the display areas 4010, 4020, 4030, and 4040 in order to share the screen with the communication terminal 10 (step S45). In this case, the viewpoint marker v, the reception state display area 4110, and the “viewpoint marker display” button 4210 are not included in the shared screen, but a copy 4322c of related information is included. Then, the display control unit 13 of the communication terminal 10 displays a health diagnosis data screen as shown in FIG. 17 on the display 217 of the communication terminal 10 (step S45). The health check data screen includes a related information copy 1322c corresponding to the related information copy 4322c. Accordingly, the industrial physician can easily give advice to the employee by performing a remote interview while confirming the contents of each related information 4331 shown in FIG. On the other hand, the employee can grasp the content of the advice not only as an industrial physician's voice but also as a character by conducting a remote interview while confirming the content of the related information copy 1322c shown in FIG. Therefore, the content of the advice can be understood more reliably.

＜＜本実施形態の主な効果＞＞
以上説明したように本実施形態によれば、産業医側の通信端末４０のディスプレイ２１７上に、視点マーカｖを表示することにより、産業医が遠隔面談を行なう場合であっても、従業員と直接会って面談する場合と同じように、従業員の視線を考慮した診断を行なうことができる。よって、直接会った場合の面談に近い質の面談を行なうことができるという効果を奏する。 << Main effects of this embodiment >>
As described above, according to the present embodiment, the viewpoint marker v is displayed on the display 217 of the communication terminal 40 on the occupational physician side, so that even if the occupational physician conducts a remote interview, Diagnosis can be made in consideration of the employee's line of sight, as in the case of meeting and meeting directly. Therefore, there is an effect that it is possible to conduct a quality interview similar to the interview when directly meeting.

例えば、図４に示されているように、産業医が通話により従業員の氏名を確認しているにも拘わらず、従業員の視点マーカｖが氏名とは異なる領域に表示されると、産業医は、従業員が鬱病ぎみではないか等、何らかの異変に気付くことができるという効果を奏する。 For example, as shown in FIG. 4, when the employee's viewpoint marker v is displayed in a region different from the name even though the occupational physician confirms the employee's name through a telephone call, The doctor has the effect that the employee can be aware of any abnormality, such as whether the employee is depressed.

特に、表示制御部４３が、通信端末１０から順次送られて来る画像データに基づいて、視点マーカｖの表示位置が頻繁に変わると、産業医は、従業員の視線が安定していないため、更に異変に気付き易くなるという効果を奏する。 In particular, if the display control unit 43 frequently changes the display position of the viewpoint marker v based on the image data sequentially sent from the communication terminal 10, the occupational physician is not stable, Furthermore, there is an effect that it becomes easy to notice anomalies.

また、産業医側の通信端末４０の表示制御部４３は、図１５に示されているように、視点マーカｖの位置付近の関連情報を表示させることができる。これにより、産業医は、従業員に対して、従業員が注視している検査項目等に関連する関連情報を提供することができる。更に、産業医は、各関連情報４３３１等の内容を確認しながら遠隔面談することで、従業員にアドバイスを行い易くなるという効果を奏する。 Further, the display control unit 43 of the communication terminal 40 on the occupational physician side can display related information near the position of the viewpoint marker v as shown in FIG. As a result, the occupational physician can provide the employee with related information related to the inspection item or the like that the employee is watching. Furthermore, the occupational physician has an effect of facilitating advice to the employee by performing a remote interview while confirming the contents of each related information 4331 and the like.

一方、従業員側の通信端末１０の表示制御部１３は、図１７に示されているように、産業医が選んだ関連情報４３２２ｃに相当する関連情報のコピー１３２２ｃを表示させることができる。これにより、従業員は、関連情報のコピー１３２２ｃの内容を確認しながら遠隔面談することで、産業医の声だけでなく、文字としてもアドバイスの内容を把握することができるため、より確実にアドバイスの内容を理解することができるという効果を奏する。 On the other hand, the display control unit 13 of the communication terminal 10 on the employee side can display a copy 1322c of related information corresponding to the related information 4322c selected by the industrial physician as shown in FIG. As a result, the employee can grasp the content of the advice not only as an industrial physician's voice but also as a character by conducting a remote interview while confirming the content of the copy 1322c of the related information, so the advice is more sure. The effect is that the contents of can be understood.

＜＜実施形態の一側面＞＞
本実施形態は、以下に示すような一側面を開始している。 << One Aspect of Embodiment >>
The present embodiment starts one aspect as described below.

本実施形態は、他の通信端末と通信する通信端末が実行する表示方法であって、
前記通信端末は、前記他の通信端末の利用者に関する複数の項目の情報を示す利用者関連データ、及び前記複数の項目のそれぞれに関連する各関連情報を関連付けて記憶する記憶手段（ＤＢ４０４参照）を有し、
前記通信端末は、
前記他の通信端末から、当該他の通信端末の利用者の目の画像を含む画像データを受信する受信ステップ（Ｓ２９参照）と、
前記受信された画像データに基づいて、前記通信端末側の所定の表示手段における前記利用者の視点の位置を特定する特定ステップ（Ｓ１２２）と、
前記特定された前記表示手段における前記視点の位置に基づいて、前記複数の関連情報のうち所定の関連情報を前記表示手段に表示する表示制御ステップ（Ｓ４３）と、
を実行することを特徴とする表示方法を開示している。 The present embodiment is a display method executed by a communication terminal that communicates with another communication terminal,
The communication terminal stores user-related data indicating information on a plurality of items related to users of the other communication terminals and associated information related to each of the plurality of items in association with each other (see DB 404). Have
The communication terminal is
A receiving step (see S29) of receiving image data including an image of the eyes of the user of the other communication terminal from the other communication terminal;
A specifying step (S122) for specifying the position of the user's viewpoint on a predetermined display means on the communication terminal side based on the received image data;
A display control step (S43) for displaying predetermined related information among the plurality of related information on the display means based on the position of the viewpoint in the specified display means;
The display method characterized by performing is disclosed.

１面談システム
１０通信端末
１１送受信部
１２受付部
１３表示制御部
１７通話部
１８接続部
１９記憶・読出部
３０視線検出装置
３１照明部
３２撮像部（撮像手段の一例）
３８接続部
４０通信端末
４１送受信部（送信手段の一例、受信手段の一例）
４２受付部
４３表示制御部（表示制御手段の一例）
４４判断部
４５特定部（特定手段の一例）
４６画像処理部（画像処理手段の一例）
４７通話部
４９記憶・読出部
１００記憶部
２１７ディスプレイ（表示手段の一例）
３０１赤外線ＬＥＤ照明機器
３０２赤外線カメラ
３０３操作ボタン
３０９外部機器Ｉ／Ｆ
４００記憶部（記憶手段の一例）
４０１利用者管理ＤＢ
４０２健康診断管理ＤＢ
４０３視点位置管理ＤＢ（視点位置管理手段の一例） DESCRIPTION OF SYMBOLS 1 Interview system 10 Communication terminal 11 Transmission / reception part 12 Reception part 13 Display control part 17 Calling part 18 Connection part 19 Memory | storage / reading part 30 Eye-gaze detection apparatus 31 Illumination part 32 Imaging part (an example of imaging means)
38 connection unit 40 communication terminal 41 transmission / reception unit (an example of transmission means, an example of reception means)
42 reception unit 43 display control unit (an example of display control means)
44 determination unit 45 identification unit (an example of identification means)
46 Image processing unit (an example of image processing means)
47 Calling part 49 Storage / reading part 100 Storage part 217 Display (an example of display means)
301 Infrared LED lighting device 302 Infrared camera 303 Operation button 309 External device I / F
400 storage unit (an example of storage means)
401 User management DB
402 Health Checkup Management DB
403 viewpoint position management DB (an example of viewpoint position management means)

特開２０１２−１７８１３５号公報JP 2012-178135 A

Claims

A communication terminal that communicates with other communication terminals,
Receiving means for receiving, from the other communication terminal, image data including an image of a user's eyes of the other communication terminal;
Identifying means for identifying the position of the user's viewpoint in a predetermined display means on the communication terminal side based on the received image data;
Storage means for associating and storing user-related data indicating information of a plurality of items related to the user and each related information related to each of the plurality of items;
Display control means for displaying predetermined related information among the plurality of related information on the display means based on the position of the viewpoint in the specified display means;
A communication terminal comprising:

The communication terminal according to claim 1,
Receiving means for receiving the related information having the same content as the specific related information among the predetermined related information to be displayed at a desired position in the display means;
The communication terminal characterized in that the display control means displays the related information of the same content at a desired position received by the receiving means.

The communication terminal according to claim 1, wherein the display control unit displays the predetermined related information in a display area different from the user related data.

The communication terminal according to any one of claims 1 to 3,
In order to share the screen based on the user related data including the related information of the same content with the other communication terminal, it has a transmission means for transmitting the shared screen data related to the screen to the other communication terminal. Communication terminal.

The communication terminal according to any one of claims 1 to 4, wherein
Read means for reading the corresponding predetermined related information from the storage means based on the position of the viewpoint specified by the specifying means,
The communication terminal characterized in that the display control means displays the read-out predetermined related information on the display means.

The display control means displays viewpoint information indicating the position of the viewpoint of the user at the position of the viewpoint of the display means specified by the specifying means. The communication terminal according to item.

The communication terminal according to claim 1, wherein the specifying unit specifies the position of the viewpoint of the user every time the image data is received by the receiving unit.

The other communication terminal;
A communication terminal according to any one of claims 1 to 7;
An interview system characterized by having.

A display method executed by a communication terminal communicating with another communication terminal,
The communication terminal has storage means for associating and storing user-related data indicating information on a plurality of items related to users of the other communication terminals, and each related information related to each of the plurality of items,
The communication terminal is
A receiving step of receiving image data including an image of a user's eye of the other communication terminal from the other communication terminal;
A specifying step for specifying the position of the user's viewpoint on the predetermined display means on the communication terminal side based on the received image data;
A display control step of displaying predetermined related information among the plurality of related information on the display means based on the position of the viewpoint in the specified display means;
The display method characterized by performing.

A program causing a computer to execute each step according to claim 9.