JP2020080046A - Electronic apparatus, control device, and control method of electronic apparatus - Google Patents

Electronic apparatus, control device, and control method of electronic apparatus Download PDF

Info

Publication number
JP2020080046A
JP2020080046A JP2018212997A JP2018212997A JP2020080046A JP 2020080046 A JP2020080046 A JP 2020080046A JP 2018212997 A JP2018212997 A JP 2018212997A JP 2018212997 A JP2018212997 A JP 2018212997A JP 2020080046 A JP2020080046 A JP 2020080046A
Authority
JP
Japan
Prior art keywords
display
distance
face
user
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018212997A
Other languages
Japanese (ja)
Inventor
修 萬羽
Osamu Manba
修 萬羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2018212997A priority Critical patent/JP2020080046A/en
Publication of JP2020080046A publication Critical patent/JP2020080046A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

To provide a display control device which can more improve visibility of content without increasing the operational burden of a user.SOLUTION: An electronic apparatus (1) comprises at least one display device (5) and at least one control device (2). The control device (2) detects a fixation point of a user on a display screen of the display device (5) and measures a facial distance being a distance between the display screen and a face of the user and determines whether a region around the fixation point on the display screen should be enlarged or not on the basis of the facial distance.SELECTED DRAWING: Figure 1

Description

本発明は、電子機器、制御装置および電子機器の制御方法に関する。   The present invention relates to an electronic device, a control device, and a control method for the electronic device.

近年、電子書籍を表示する電子書籍端末などの電子機器が広く使用されている。このような電子機器として、ユーザの操作負担を増加することなく、コンテンツの視認性を向上する電子機器が求められている。   In recent years, electronic devices such as electronic book terminals that display electronic books have been widely used. As such an electronic device, there is a demand for an electronic device that improves the visibility of contents without increasing the operation load on the user.

例えば、特許文献1には、記憶手段と、ディスプレイと、表示処理手段と、カメラと、注視点検出手段と、変更手段とを具備する情報表示装置が記載されている。   For example, Patent Document 1 describes an information display device including a storage unit, a display, a display processing unit, a camera, a gazing point detection unit, and a change unit.

特開2012−14455号公報JP, 2012-14455, A

しかしながら、上述のような従来技術は、コンテンツの視認性が十分ではない場合がある。   However, in the related art as described above, the visibility of contents may not be sufficient.

本発明の一態様は、ユーザの操作負担を増加することなく、コンテンツの視認性をより向上できる電子機器およびその関連技術を提供することを目的とする。   An object of one embodiment of the present invention is to provide an electronic device and its related technique that can further improve the visibility of contents without increasing the operation load on the user.

上記の課題を解決するために、本発明の一態様に係る電子機器は、少なくとも1つの表示装置と、少なくとも1つの制御装置と、を備えた電子機器であって、前記制御装置は、前記表示装置の表示画面におけるユーザの注視点を検出し、前記表示画面と前記ユーザの顔との距離である顔距離を測定し、前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定する。   In order to solve the above problems, an electronic device according to an aspect of the present invention is an electronic device including at least one display device and at least one control device, and the control device includes the display. The user's gazing point on the display screen of the device is detected, the face distance, which is the distance between the display screen and the user's face, is measured, and the periphery of the gazing point on the display screen is enlarged and displayed based on the face distance. It is determined whether to do.

本発明の一態様に係る制御装置は、少なくとも1つの表示装置を備えた電子機器の制御装置であって、前記制御装置は、前記表示装置の表示画面におけるユーザの注視点を検出する注視点検出部と、前記表示画面と前記ユーザの顔との距離である顔距離を測定する顔距離測定部と、前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定する判定部と、を備える。   A control device according to an aspect of the present invention is a control device for an electronic device including at least one display device, the control device detecting a gazing point of a user on a display screen of the display device. Unit, a face distance measuring unit that measures a face distance that is the distance between the display screen and the user's face, and whether or not to display the periphery of the gazing point on the display screen based on the face distance. A determination unit for determining.

本発明の一態様に係る電子機器の制御方法は、少なくとも1つの表示装置と、少なくとも1つの制御装置と、を備えた電子機器の制御方法であって、前記制御装置が、前記表示装置の表示画面におけるユーザの注視点を検出することと、前記表示画面と前記ユーザの顔との距離である顔距離を測定することと、前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定することと含む。   An electronic device control method according to an aspect of the present invention is an electronic device control method including at least one display device and at least one control device, wherein the control device displays a display on the display device. Detecting a user's gazing point on the screen, measuring a face distance that is a distance between the display screen and the user's face, and enlarging the periphery of the gazing point on the display screen based on the face distance. This includes determining whether or not to display.

本発明の一態様によれば、ユーザの操作負担を増加することなく、コンテンツの視認性をより向上できる電子機器およびその関連技術を提供することができる。   According to one aspect of the present invention, it is possible to provide an electronic device and its related technique capable of further improving the visibility of content without increasing the operation load on the user.

本発明の実施形態1に係る電子機器の構成を示すブロック図である。It is a block diagram showing a configuration of an electronic device according to a first embodiment of the present invention. 所定の変換テーブルの一例を示す図である。It is a figure which shows an example of a predetermined conversion table. 判定部9による注視点エリアの大きさの変更の一例について説明するための図である。FIG. 6 is a diagram for explaining an example of changing the size of a gazing point area by a determination unit 9. 本発明の実施形態1に係る電子機器の制御処理の流れの一例を示すフローチャートである。6 is a flowchart showing an example of a flow of control processing of the electronic device according to the first embodiment of the present invention. 所定の変換テーブルの一例を示す図である。It is a figure which shows an example of a predetermined conversion table. 本発明の実施形態2に係る電子機器の構成を示すブロック図である。It is a block diagram which shows the structure of the electronic device which concerns on Embodiment 2 of this invention. 本発明の実施形態3に係る電子機器の構成を示すブロック図である。It is a block diagram which shows the structure of the electronic device which concerns on Embodiment 3 of this invention.

<実施形態1>
以下、図1〜5を用いて本発明の実施形態1に係る電子機器1および制御装置2について説明する。
<Embodiment 1>
Hereinafter, the electronic device 1 and the control device 2 according to the first embodiment of the present invention will be described with reference to FIGS.

〔電子機器1〕
図1は、本発明の実施形態1に係る電子機器1の構成を示すブロック図である。電子機器1としては、例えば、電子書籍および電子コミックなどのコンテンツを表示する電子書籍端末などが挙げられる。図1に示すように、電子機器1は、少なくとも1つの制御装置2と、撮像装置3と、記憶装置4と、少なくとも1つの表示装置5と、ユーザ操作受付装置6とを備えている。
[Electronic equipment 1]
FIG. 1 is a block diagram showing the configuration of an electronic device 1 according to the first embodiment of the present invention. Examples of the electronic device 1 include an electronic book terminal that displays content such as electronic books and electronic comics. As shown in FIG. 1, the electronic device 1 includes at least one control device 2, an imaging device 3, a storage device 4, at least one display device 5, and a user operation reception device 6.

〔制御装置2〕
図1に示すように、制御装置2は、顔距離測定部7と、注視点検出部8と、判定部9と、表示処理部(制御装置)10とを備えている。
[Control device 2]
As shown in FIG. 1, the control device 2 includes a face distance measuring unit 7, a gazing point detecting unit 8, a determining unit 9, and a display processing unit (control device) 10.

制御装置2としては、例えば、CPUが挙げられる。制御装置2は、記憶装置4に記憶されている表示制御プログラムを実行することによって、電子機器1における各部を制御する。当該表示制御プログラムとしては、例えば、OS、デバイスドライバ、ミドルウェアおよびアプリなどが挙げられる。   The control device 2 may be, for example, a CPU. The control device 2 controls each unit in the electronic device 1 by executing the display control program stored in the storage device 4. Examples of the display control program include an OS, a device driver, middleware, and an application.

(顔距離測定部7)
顔距離測定部7は、表示画面とユーザの顔との距離である顔距離を測定する。
(Face distance measuring unit 7)
The face distance measuring unit 7 measures the face distance, which is the distance between the display screen and the user's face.

具体的には、顔距離測定部7は、撮像装置3によってユーザの顔が撮像された撮像画像に基づき、表示装置5と、表示装置5に表示されているコンテンツを見ているユーザの顔との距離を測定する。顔距離測定部7は、当該距離を、コンテンツにおける、ユーザの視線先の位置の点である注視点と、ユーザの顔との距離である顔距離であると推定する。   Specifically, the face distance measuring unit 7 identifies the display device 5 and the face of the user watching the content displayed on the display device 5 based on the captured image in which the face of the user is captured by the image capturing device 3. To measure the distance. The face distance measuring unit 7 estimates that the distance is a face distance that is a distance between the user's face and the gazing point that is the point of the user's line of sight in the content.

より具体的には、顔距離測定部7は、撮像画像におけるユーザの顔から、例えば、両目などの特定のパーツを検出し、当該両目の間の距離を測定することで、顔距離を推定する。両目の間の距離は、人によってバラバラであるため、正確な距離を推定することはできないが、コンテンツを見ているユーザを特定することはできる。顔距離測定部7は、例えば、両目の間の距離が短くなった場合、顔距離が長くなり、両目の間の距離が長くなった場合、顔距離が短くなったと推定する。   More specifically, the face distance measuring unit 7 estimates a face distance by detecting a specific part such as both eyes from the user's face in the captured image and measuring the distance between the eyes. . Since the distance between the eyes is different depending on the person, it is not possible to estimate the accurate distance, but it is possible to specify the user who is viewing the content. The face distance measuring unit 7 estimates that the face distance becomes long when the distance between the eyes becomes short and the face distance becomes short when the distance between the eyes becomes long, for example.

なお、顔距離測定部7は、撮像画像に基づき、顔距離を測定(推定)することができれば、上述の方法以外の方法を利用してもよい。   The face distance measuring unit 7 may use a method other than the above method as long as the face distance can be measured (estimated) based on the captured image.

また、顔距離測定部7は、ユーザが表示装置5のコンテンツを見始めてから、または、表示装置5にコンテンツを表示し始めてから、所定の時間の間、顔距離を測定する。顔距離測定部7は、当該所定の時間を、記憶装置4から読み出すことができる。顔距離測定部7は、所定の時間の間、測定した顔距離に基づき、所定のアルゴリズムによって、基準となる顔距離である基準顔距離(第1距離)を算出する。   The face distance measuring unit 7 measures the face distance for a predetermined time after the user starts viewing the content on the display device 5 or starts displaying the content on the display device 5. The face distance measuring unit 7 can read the predetermined time from the storage device 4. The face distance measuring unit 7 calculates a reference face distance (first distance), which is a reference face distance, by a predetermined algorithm based on the measured face distance for a predetermined time.

ここで、所定のアルゴリズムによって、第1距離を算出することの一例として、例えば、顔距離測定部7が所定の時間の間、測定した顔距離の平均値を第1距離として算出することが挙げられる。   Here, as an example of calculating the first distance by a predetermined algorithm, for example, the face distance measuring unit 7 calculates the average value of the face distances measured for a predetermined time as the first distance. Be done.

上述例以外に、顔距離測定部7は、例えば、所定の時間の間、測定した顔距離のうち、測定し始めの顔距離を除いたものの平均値を第1距離として算出してもよい。また、顔距離測定部7は、所定の時間の間、測定した顔距離の中央値または最頻値を第1距離として算出してもよい。所定の時間の間、測定した顔距離の平均値を第1距離として算出する場合、顔距離を測定し始めた段階でユーザの顔が大きく動くなど、外れ値(ノイズ)があった場合に外れ値の影響を受けやすい。これに対し、上述のように、所定の時間の間、測定した顔距離のうち、測定し始めの顔距離を除いたものの平均値を第1距離として算出することで、外れ値の影響を受けず、好適に第1距離を算出することができる。   In addition to the above example, the face distance measuring unit 7 may calculate, for example, the average value of the measured face distances excluding the face distance at the beginning of the measurement as the first distance for a predetermined time. Further, the face distance measuring unit 7 may calculate the median value or the mode value of the measured face distances as the first distance for a predetermined time. When calculating the average value of the measured face distances as the first distance for a predetermined time, when there is an outlier (noise) such as a large movement of the user's face at the stage when the face distance starts to be measured, the deviation occurs. Sensitive to value. On the other hand, as described above, by calculating the average value of the measured face distances excluding the face distances at the beginning of the measurement for the predetermined time as the first distance, the influence of the outlier is obtained. Instead, the first distance can be calculated appropriately.

顔距離測定部7は、第1距離、および、新たに測定された顔距離(第2距離)を表示処理部10に出力する。   The face distance measuring unit 7 outputs the first distance and the newly measured face distance (second distance) to the display processing unit 10.

なお、顔距離測定部7は、上述の方法以外の方法を利用して第1距離を算出してもよい。また、顔距離測定部7としては、表示装置5とユーザの顔との距離を測定できるものであれば、種々の測定部を用いることができる。   The face distance measuring unit 7 may calculate the first distance by using a method other than the above method. As the face distance measuring unit 7, various measuring units can be used as long as they can measure the distance between the display device 5 and the face of the user.

また、上述の例では、顔距離測定部7は、制御装置2に備えられているが、本実施形態ではこれに限定されない。本実施形態では、顔距離測定部7は、制御装置2とは独立した構成であってもよい。例えば、顔距離測定部7は、制御装置2とは別に、電子機器1に備えられていてもよい。   In the above example, the face distance measuring unit 7 is included in the control device 2, but the present embodiment is not limited to this. In the present embodiment, the face distance measuring unit 7 may have a configuration independent of the control device 2. For example, the face distance measuring unit 7 may be provided in the electronic device 1 separately from the control device 2.

(注視点検出部8)
注視点検出部8は、表示装置5に表示されたコンテンツを見ているユーザの顔が撮像装置3によって撮像された撮像画像に基づき、表示装置5の表示画面におけるユーザの注視点を検出する。
(Gaze point detector 8)
The gazing point detection unit 8 detects the gazing point of the user on the display screen of the display device 5 based on the captured image in which the face of the user who is viewing the content displayed on the display device 5 is captured by the imaging device 3.

具体的には、注視点検出部8は、まず、撮像画像に写るユーザの顔の両目を検出する。続いて、注視点検出部8は、検出した両目それぞれの中の黒目を検出する。続いて、注視点検出部8は、左右の目と、当該左右の目の中の黒目との位置および形状に基づき、ユーザの視線を検出する。注視点検出部8は、視線先の表示装置5に表示されているコンテンツ上の位置(座標)を特定し、当該位置の点を注視点として検出する。   Specifically, the gazing point detection unit 8 first detects both eyes of the user's face in the captured image. Subsequently, the gazing point detection unit 8 detects a black eye in each of the detected eyes. Subsequently, the gazing point detection unit 8 detects the line of sight of the user based on the positions and shapes of the left and right eyes and the black eyes in the left and right eyes. The gazing point detection unit 8 specifies a position (coordinates) on the content displayed on the display device 5 at the line of sight, and detects the point at the position as a gazing point.

なお、注視点検出部8は、上述の方法以外の方法を利用して検出点を検出してもよい。   Note that the gazing point detection unit 8 may detect the detection point by using a method other than the above method.

注視点検出部8は、検出した注視点を判定部9に出力する。   The gazing point detection unit 8 outputs the detected gazing point to the determination unit 9.

(判定部9)
判定部9は、表示装置5と、コンテンツにおける、ユーザの視線先の位置の点である注視点と、ユーザの顔との距離である顔距離とに基づき、表示画面における注視点の周囲を拡大表示するか否かを判定する。また、判定部9は、拡大表示すると判定した場合、顔距離に応じて、拡大表示(注視点を中心とする所定の範囲(注視点エリア))の拡大率を決定する。
(Determination unit 9)
The determination unit 9 enlarges the periphery of the gazing point on the display screen based on the display device 5, the gazing point that is the point of the user's gaze point in the content, and the face distance that is the distance to the user's face. Determine whether to display. Further, when it is determined that the enlarged display is performed, the determination unit 9 determines the enlargement ratio of the enlarged display (a predetermined range (gazing point area) around the gazing point) according to the face distance.

具体的には、判定部9は、顔距離測定部7から取得した、第1距離および第2距離と、表示処理部10から取得したコンテンツのデータとに基づき、拡大表示の拡大率を決定し、注視点エリア(注視点の周囲)を拡大表示するか否かを判定する。これにより、ユーザの操作負担を増加することなく、コンテンツの視認性をより向上することができる。   Specifically, the determination unit 9 determines the enlargement ratio of the enlarged display based on the first distance and the second distance acquired from the face distance measurement unit 7 and the content data acquired from the display processing unit 10. , It is determined whether or not to enlarge and display the gazing point area (around the gazing point). This makes it possible to further improve the visibility of the content without increasing the operational burden on the user.

より具体的には、まず、判定部9は、表示処理部10からコンテンツのデータを取得し、記憶装置4から注視点エリアおよび所定の変換テーブルを読み出す。続いて、判定部9は、第1距離と第2距離とに基づき、所定の変換テーブルを参照して注視点エリアの拡大率を決定することで、拡大表示する。一例として、判定部9は、第1距離が第2距離よりも閾値以上大きい場合に、注視点エリアを拡大表示するように注視点エリアの拡大率を変更する。また、判定部9は、第1距離が第2距離以下である場合に、注視点エリアの拡大率を変更せず、注視点エリアを拡大表示しない。   More specifically, first, the determination unit 9 acquires content data from the display processing unit 10 and reads the gazing point area and a predetermined conversion table from the storage device 4. Subsequently, the determination unit 9 refers to a predetermined conversion table on the basis of the first distance and the second distance to determine the enlargement ratio of the gazing point area, thereby performing enlarged display. As an example, when the first distance is greater than the second distance by a threshold value or more, the determination unit 9 changes the magnification ratio of the gazing point area so as to magnify and display the gazing point area. Further, when the first distance is equal to or less than the second distance, the determination unit 9 does not change the enlargement ratio of the gazing area and does not display the gazing area in an enlarged manner.

なお、制御装置2は、上述の閾値を、ユーザ操作受付装置6を介してユーザに直接設定させたり、数パターンの所定の閾値を事前に用意してユーザに選択させたりしもよい。また、制御装置2は、所定の閾値を、ソフトなどによって予め定められた数に決定してもよい。   Note that the control device 2 may allow the user to directly set the above-mentioned threshold value via the user operation accepting device 6, or may prepare a predetermined threshold value of several patterns in advance and allow the user to select it. Further, the control device 2 may set the predetermined threshold value to a predetermined number by software or the like.

また、判定部9は、ページ送りなどのユーザ操作に基づき、表示装置5に表示されているコンテンツの表示態様を変更するか否かを判定する。例えば、特にページ送りなどのユーザ操作がなく、コンテンツの表示を切り替える必要がない場合、判定部9は、コンテンツの表示を切り替えないように判定する。そして、判定部9は、注視点エリアの拡大率を決定し、拡大表示するか否かを判定する。ページ送りなどのユーザ操作があり、コンテンツの表示を切り替える必要がある場合、判定部9は、ページを移動するなど、ユーザ操作に応じた処理を施すことで、コンテンツの表示を切り替えるように判定する。   The determination unit 9 also determines whether to change the display mode of the content displayed on the display device 5 based on a user operation such as page turning. For example, when there is no particular user operation such as page turning and there is no need to switch the content display, the determination unit 9 determines not to switch the content display. Then, the determination unit 9 determines the enlargement ratio of the gazing point area and determines whether or not to perform enlarged display. When there is a user operation such as page turning and it is necessary to switch the display of the content, the determination unit 9 determines to switch the display of the content by performing processing according to the user operation such as moving the page. ..

判定部9は、拡大表示された拡大コンテンツまたは拡大表示されていないコンテンツのデータを表示処理部10に出力する。   The determination unit 9 outputs the data of the magnified content that has been magnified and displayed or the content that has not been magnified to the display processing unit 10.

ここで、特許文献1のような従来技術は、注視点が特定のエリアに含まれると判定された場合、特定のエリアを拡大表示することができるが、注視点が特定のエリアに含まれると判定されたからといって、常に特定のエリアが拡大表示されることをユーザが望んでいるわけではない。ユーザは、そのままのサイズによって表示された特定のエリアを見ることを望んでいる場合がある。   Here, in the related art as disclosed in Patent Document 1, when it is determined that the gazing point is included in the specific area, the specific area can be enlarged and displayed, but when the gazing point is included in the specific area. The judgment does not mean that the user always wants to enlarge and display the specific area. The user may want to see a particular area displayed in its original size.

これに対し、一般的に、注視点エリアを拡大して見ることを望む場合、ユーザの顔が表示装置5のコンテンツに近くなる、すなわち、顔距離が近くなるという前提に基づき、判定部9は、顔距離が閾値以上減少したときに、拡大表示を行う。また、判定部9は、顔距離が閾値以上減少していない場合は、拡大表示を行わない。これにより、ユーザが注視点エリアを拡大して見ることを望む場合は注視点エリアが拡大され、注視点エリアをそのまま見ることを望む場合は、元のサイズのままの注視点エリアを表示することができる。   On the other hand, generally, when it is desired to enlarge the gazing area, the determination unit 9 determines that the face of the user is close to the content of the display device 5, that is, the face distance is short. , When the face distance decreases by a threshold value or more, enlarged display is performed. Further, the determination unit 9 does not perform the enlarged display when the face distance has not decreased by the threshold value or more. As a result, if the user wants to see the gazing area enlarged, the gazing area is enlarged, and if the user wants to see the gazing area as it is, the gazing area in the original size is displayed. You can

なお、判定部9は、例えば、ピクセル数または表示サイズの割合(パーセンテージ)などに応じて注視点エリアを決定する。判定部9は、円形、正方形、楕円形または長方形など、所定の形状に注視点エリアの形状を決定する。判定部9は、注視点エリアの形状が、楕円形または長方形の場合、水平または垂直方向のピクセル数を別々に決定する。判定部9は、注視点エリアの形状が、楕円形または長方形の場合、水平方向のピクセル数から一定の所定の比率のピクセル数を垂直方向のピクセル数として決定してもよい。   The determination unit 9 determines the gazing point area according to, for example, the number of pixels or the display size ratio. The determination unit 9 determines the shape of the gazing area to be a predetermined shape such as a circle, a square, an ellipse, or a rectangle. When the shape of the gazing area is an ellipse or a rectangle, the determination unit 9 separately determines the number of pixels in the horizontal or vertical direction. When the shape of the gazing area is an ellipse or a rectangle, the determination unit 9 may determine the number of pixels in a certain predetermined ratio from the number of pixels in the horizontal direction as the number of pixels in the vertical direction.

なお、判定部9などの制御装置2は、注視点エリアの大きさおよび形状の少なくとも一方を、ユーザ操作受付装置6を介してユーザに直接設定させたり、数パターンの注視点エリアの大きさおよび形状の少なくとも一方を事前に用意してユーザに選択させたりしもよい。また、制御装置2は、注視点エリアの大きさおよび形状の少なくとも一方を、ソフトなどによって予め決定しておいてもよい。上述のように、ユーザ操作受付装置6が、注視点エリアの設定などのユーザ操作を受け付けた場合、判定部9は、ユーザ操作に基づくコンテンツを表示装置5に表示させる。   Note that the control device 2 such as the determination unit 9 allows the user to directly set at least one of the size and shape of the gazing point area via the user operation reception device 6, or the size and shape of the gazing point area of several patterns. At least one of the shapes may be prepared in advance and the user may be allowed to select it. Further, the control device 2 may determine at least one of the size and the shape of the gazing area in advance by software or the like. As described above, when the user operation accepting device 6 accepts a user operation such as setting the gazing area, the determination unit 9 causes the display device 5 to display the content based on the user operation.

(所定の変換テーブル)
以下に、図2を用いて、所定の変換テーブルの一例を具体的に説明する。
(Predetermined conversion table)
An example of the predetermined conversion table will be specifically described below with reference to FIG.

図2は、所定の変換テーブルの一例を示す図である。図2に示すように、第1距離が第2距離よりも大きく、第1距離/第2距離が1よりも大きい場合、例えば、ユーザの顔が表示装置5のコンテンツに近づいた場合、拡大率は1よりも大きくなっている。また、第1距離が第2距離よりも大きければ大きいほど、すなわち、ユーザの顔が表示装置5のコンテンツに近ければ近いほど拡大率が大きくなるようになっている。これにより、虫眼鏡のように注視点エリアをより大きく見たいというユーザの要望に応えることができる。   FIG. 2 is a diagram showing an example of a predetermined conversion table. As shown in FIG. 2, when the first distance is larger than the second distance and the first distance/second distance is larger than 1, for example, when the user's face approaches the content of the display device 5, the enlargement ratio is set. Is greater than 1. Further, the larger the first distance is than the second distance, that is, the closer the user's face is to the content of the display device 5, the larger the enlargement ratio is. As a result, it is possible to meet the user's request to view the gazing area larger like a magnifying glass.

また、第1距離が第2距離以下である場合、例えば、ユーザの顔が表示装置5のコンテンツから離れた場合、拡大率は1のまま維持されている。これにより、手ぶれなどが起こった場合でも、当該手ぶれに過剰に反応しないようにすることができる。   Further, when the first distance is equal to or less than the second distance, for example, when the user's face is separated from the content of the display device 5, the enlargement ratio is maintained at 1. This makes it possible to prevent an excessive reaction to the camera shake even if the camera shake occurs.

また、第1距離/第2距離が0.9以上1.1以下など、第2距離が第1距離近傍である場合、例えば、ユーザの顔が表示装置5のコンテンツ近傍でうろうろしている場合、拡大率は1のまま維持されている。これにより、ユーザの顔が表示装置5のコンテンツ近傍でうろうろしている場合でも、拡大率を変更しないため、違和感が生じることを防ぐことができる。   In addition, when the second distance is near the first distance such that the first distance/second distance is 0.9 or more and 1.1 or less, for example, when the user's face is wandering around the content of the display device 5. , The enlargement ratio remains at 1. Accordingly, even when the user's face is wandering around the content of the display device 5, the enlargement ratio is not changed, and thus it is possible to prevent a sense of discomfort from occurring.

なお、上述の例では、第2距離が第1距離近傍であるとは、第1距離/第2距離が0.9以上1.1以下である場合について説明しているが、本実施形態ではこれに限定されない。本実施形態では、ユーザにとって第2距離が第1距離近傍であれば、近傍の範囲は特に限定されず、例えば、ユーザ操作受付装置6を介してユーザによって所定の変換テーブルを設定、調整または選択することで変更できる。   In the above example, the second distance is in the vicinity of the first distance in the case where the first distance/second distance is 0.9 or more and 1.1 or less. However, in the present embodiment, It is not limited to this. In the present embodiment, if the second distance is close to the first distance for the user, the range of the vicinity is not particularly limited, and for example, the user sets, adjusts or selects a predetermined conversion table via the user operation reception device 6. You can change it.

また、所定の変換テーブルは、第1距離および第2距離と、拡大率との対応関係を示すものであれば、上述の例に限定されず、任意の変換テーブルであってもよい。判定部9などの制御装置2は、所定の変換テーブルを、ユーザ操作受付装置6を介してユーザに直接設定させたり、数パターンの所定の変換テーブルを事前に用意してユーザに選択させたりしもよい。また、制御装置2は、所定の変換テーブルを、ソフトなどによって予め定められた変換式に基づいて決定してもよい。   The predetermined conversion table is not limited to the above example as long as it shows the correspondence between the first distance and the second distance and the enlargement ratio, and may be any conversion table. The control device 2 such as the determination unit 9 allows the user to directly set a predetermined conversion table via the user operation reception device 6, or prepares a predetermined conversion table of several patterns in advance and allows the user to select the conversion table. Good. Further, the control device 2 may determine the predetermined conversion table based on a conversion formula predetermined by software or the like.

(判定部9による注視点エリアの変更)
以下、図3を用いて、判定部9による注視点エリアの変更の一例について説明する。
(Changing the gazing area by the determination unit 9)
Hereinafter, an example of changing the gazing area by the determination unit 9 will be described with reference to FIG.

図3は、判定部9による注視点エリアの変更の一例について説明するための図である。具体的には、図3の(a)は、表示装置5に表示されているコンテンツ11を示す図であり、図3の(b)は、表示装置5に表示されている拡大コンテンツ14を示す図である。   FIG. 3 is a diagram for explaining an example of changing the gazing point area by the determination unit 9. Specifically, (a) of FIG. 3 is a diagram showing the content 11 displayed on the display device 5, and (b) of FIG. 3 shows the enlarged content 14 displayed on the display device 5. It is a figure.

図3の(a)では、注視点エリア12のサイズは、コンテンツ11のサイズに対して、X軸方向(水平方向)およびY軸方向(垂直方向)にそれぞれ25%のサイズとなっている。ここで、第2距離が第1距離の1.5倍であり、所定の変換テーブルが図2に示す変換テーブルである場合、判定部9は、拡大率を2に決定する。このことから、判定部9は、注視点エリア12を2倍に拡大する。具体的には、判定部9は、図3の(b)に示すように、注視点エリア15のサイズを、拡大コンテンツ14のサイズに対して、水平方向および垂直方向にそれぞれ50%のサイズとなるようにコンテンツ11の表示を変更する。   In FIG. 3A, the size of the gazing area 12 is 25% of the size of the content 11 in each of the X-axis direction (horizontal direction) and the Y-axis direction (vertical direction). Here, when the second distance is 1.5 times the first distance and the predetermined conversion table is the conversion table shown in FIG. 2, the determination unit 9 determines the enlargement ratio to be 2. Therefore, the determination unit 9 doubles the gazing point area 12. Specifically, as shown in FIG. 3B, the determination unit 9 sets the size of the gazing area 15 to be 50% of the size of the enlarged content 14 in the horizontal direction and in the vertical direction, respectively. The display of the content 11 is changed so that

ここで、図3の(a)に示すコンテンツ11では、注視点13の座標は、「け」と「こ」との間に位置している。また、図3の(b)に示す拡大コンテンツ14でも、注視点16の座標は、コンテンツ11と同様に、「け」と「こ」との間に位置している。また、コンテンツ11における注視点エリア12は、「かきくけこ さし」の文字に対応する範囲となっている。これに対し、拡大コンテンツ14における注視点エリア15は、「うえお かきくけこ さしすせそ た」の文字に対応する範囲となっている。また、拡大コンテンツ14は、「うえお かきくけこ さしすせそ た」の文字を隠すように重畳して表示されている。   Here, in the content 11 shown in FIG. 3A, the coordinates of the gazing point 13 are located between “ke” and “ko”. Also in the enlarged content 14 shown in FIG. 3B, the coordinates of the gazing point 16 are located between “ke” and “ko” as in the case of the content 11. In addition, the gazing point area 12 in the content 11 is a range corresponding to the characters "Kakiku Koshisashi". On the other hand, the gazing point area 15 in the expanded content 14 is a range corresponding to the characters "Ueoka Kiku Koshikashi Sesusa". In addition, the enlarged content 14 is displayed so as to be superimposed so as to hide the characters "Ueoka Kiku Koshi Sashisuse".

なお、上述の例では、判定部9は、第1距離と第2距離とに基づき、所定の変換テーブルを参照して注視点エリアの拡大率を決定することで、拡大表示するか否かを判定している。ただし、本実施形態ではこれに限定されず、判定部9は、所定の変換テーブルの代わりに、変換式を参照して注視点エリアの拡大率を決定してもよい。   In the above example, the determination unit 9 determines whether or not to perform enlarged display by determining the enlargement ratio of the gazing point area based on the first distance and the second distance with reference to a predetermined conversion table. Making a decision. However, the present embodiment is not limited to this, and the determination unit 9 may determine the enlargement ratio of the gazing area by referring to the conversion formula instead of the predetermined conversion table.

(表示処理部10)
表示処理部(表示制御部)10は、記憶装置4からコンテンツのデータを読み出し、コンテンツのデータを判定部9に出力する。また、表示処理部10は、判定部9から取得した拡大コンテンツまたは拡大表示されていないコンテンツのデータを取得し、拡大コンテンツまたは拡大表示されていないコンテンツを表示装置5に表示させる。
(Display processing unit 10)
The display processing unit (display control unit) 10 reads the content data from the storage device 4 and outputs the content data to the determination unit 9. Further, the display processing unit 10 acquires the data of the enlarged content or the content which is not enlarged and displayed, which is acquired from the determination unit 9, and causes the display device 5 to display the enlarged content or the content which is not enlarged and displayed.

ここで、判定部9が、ページ送り(ページ移動)などのユーザ操作に基づき、他のコンテンツへと切り替えるように判定したとする。この場合、表示処理部10は、記憶装置4から新しいページなど、他のコンテンツのデータを読み出し、表示装置5に他のコンテンツを表示する。また、判定部9は、表示制御処理の終了など、コンテンツの表示を終了するユーザ操作をユーザ操作受付装置6から受け付けている場合、表示処理部10は、表示制御処理を終了する。   Here, it is assumed that the determination unit 9 determines to switch to another content based on a user operation such as page turning (page moving). In this case, the display processing unit 10 reads data of another content such as a new page from the storage device 4 and displays the other content on the display device 5. In addition, when the determination unit 9 receives from the user operation reception device 6 a user operation for ending the display of the content, such as the end of the display control process, the display processing unit 10 ends the display control process.

[撮像装置3]
撮像装置3は、表示装置5に表示されているコンテンツを見ているユーザの顔を撮像し、撮像画像を生成する。
[Imaging device 3]
The imaging device 3 images the face of the user who is viewing the content displayed on the display device 5 and generates a captured image.

撮像装置3としては、例えば、カメラおよびイメージセンサなどが挙げられる。   Examples of the image pickup device 3 include a camera and an image sensor.

[記憶装置4]
記憶装置4は、コンテンツのデータを記憶する。また、記憶装置4には、OS、デバイスドライバ、ミドルウェア、アプリおよびコンテンツを含むデータが格納されている。記憶装置4としては、例えば、SRAM、DRAM、フラッシュROMなどのメモリ、SDカード、ハードディスクおよびSSDなどが挙げられる。
[Memory device 4]
The storage device 4 stores content data. The storage device 4 also stores data including an OS, device drivers, middleware, applications, and contents. Examples of the storage device 4 include memories such as SRAM, DRAM, and flash ROM, SD cards, hard disks, SSDs, and the like.

[表示装置5]
表示装置5は、コンテンツおよび拡大コンテンツなどの表示データを表示する。表示装置5としては、例えば、液晶ディスプレイ(LED)、有機ELおよび電子ペーパーなどが挙げられる。
[Display device 5]
The display device 5 displays display data such as contents and enlarged contents. Examples of the display device 5 include a liquid crystal display (LED), organic EL, and electronic paper.

[ユーザ操作受付装置6]
ユーザ操作受付装置6は、制御装置2における判定部9および表示処理部10に対するユーザの操作の入力を受け付ける。
[User operation acceptance device 6]
The user operation acceptance device 6 accepts an input of a user operation on the determination unit 9 and the display processing unit 10 in the control device 2.

ユーザ操作受付装置6としては、例えば、タッチパネル、キー、キーボードおよびスイッチなどのUIが挙げられる。ユーザ操作受付装置6は、UIにより、ページ送り、ページ戻り、他のコンテンツへの切り替え、および、電子機器1の利用の終了などのユーザ操作を検出する。   Examples of the user operation reception device 6 include UIs such as a touch panel, keys, a keyboard, and switches. The user operation reception device 6 detects a user operation such as page turning, page returning, switching to another content, and termination of use of the electronic device 1 by the UI.

〔電子機器1の制御処理〕
続いて、図4を用いて、実施形態1に係る電子機器1の制御処理(電子機器1の制御方法)について説明する。図4は、本発明の実施形態1に係る電子機器1の制御処理の流れの一例を示すフローチャートである。
[Control processing of electronic device 1]
Subsequently, a control process of the electronic device 1 according to the first embodiment (a control method of the electronic device 1) will be described with reference to FIG. FIG. 4 is a flowchart showing an example of the flow of control processing of the electronic device 1 according to the first embodiment of the present invention.

ステップS100:表示処理部10は、記憶装置4からコンテンツのデータを読み出して、表示装置5にコンテンツのデータを表示する。   Step S100: The display processing unit 10 reads the content data from the storage device 4 and displays the content data on the display device 5.

ステップS101:顔距離測定部7は、撮像装置3による撮像された撮像画像に基づき、顔距離を測定する。   Step S101: The face distance measuring unit 7 measures the face distance based on the captured image captured by the image capturing device 3.

ステップS102:顔距離測定部7は、顔距離の測定が所定の時間経過したか否かを判定する。所定の時間経過していないと顔距離測定部7が判定した場合、ステップS101の処理に戻る。所定の時間経過したと顔距離測定部7が判定した場合、すなわち、所定の時間の間、顔距離を測定することで第1距離を算出したと顔距離測定部7が判定した場合、ステップS103の処理に進む。   Step S102: The face distance measuring unit 7 determines whether or not the measurement of the face distance has passed a predetermined time. When the face distance measuring unit 7 determines that the predetermined time has not elapsed, the process returns to step S101. If the face distance measuring unit 7 determines that the predetermined time has elapsed, that is, if the face distance measuring unit 7 determines that the first distance is calculated by measuring the face distance for the predetermined time, Step S103 Proceed to processing.

ステップS103:顔距離測定部7は、所定のアルゴリズムによって、第2距離を算出する。   Step S103: The face distance measuring unit 7 calculates the second distance by a predetermined algorithm.

ステップS104:注視点検出部8は、表示装置5に表示されているコンテンツにおける、ユーザの視線先にある注視点を検出する。   Step S104: The gazing point detection unit 8 detects the gazing point in the user's line of sight in the content displayed on the display device 5.

ステップS105:判定部9は、注視点と、第1距離および第2距離とに基づき、表示画面における注視点の周囲(注視点エリア)を拡大表示するか否かを判定する。注視点エリアを拡大表示すると判定部9が判定した場合(ステップS105のYES)、ステップS106の処理に進む。注視点エリアを拡大表示しないと判定部9が判定した場合(ステップS105のNO)、ステップS103の処理に戻る。   Step S105: The determination unit 9 determines whether to enlarge and display the periphery (gazing point area) of the gazing point on the display screen based on the gazing point and the first distance and the second distance. When the determination unit 9 determines that the gazing point area is displayed in an enlarged manner (YES in step S105), the process proceeds to step S106. When the determination unit 9 determines not to magnify and display the gazing point area (NO in step S105), the process returns to step S103.

ステップS106:表示処理部10は、拡大コンテンツを表示装置5に表示させることで、拡大表示を行い、制御処理を終了する。   Step S106: The display processing unit 10 causes the display device 5 to display the enlarged content for enlarged display, and ends the control processing.

〔変形例1〕
上述の例では、顔距離測定部7は、撮像装置3によってユーザの顔が撮像された撮像画像に基づき、顔距離を測定しているが、本実施形態ではこれに限定されない。本実施形態では、顔距離測定部7は、撮像画像に基づかずに顔距離を測定する測距デバイスであってもよい。この場合、顔距離測定部7は、制御装置2とは別に、電子機器1に備えられていてもよい。
[Modification 1]
In the above example, the face distance measuring unit 7 measures the face distance based on the captured image in which the user's face is captured by the image capturing device 3, but the present embodiment is not limited to this. In the present embodiment, the face distance measuring unit 7 may be a distance measuring device that measures the face distance without using the captured image. In this case, the face distance measuring unit 7 may be provided in the electronic device 1 separately from the control device 2.

顔距離測定部7が測距デバイスであることにより、顔距離を高精度で測定することができる。具体的には、ユーザの両目の動きなど、微妙な顔の動きも、ユーザの顔がコンテンツに近づいた場合におけるユーザの顔の動きも、より高精度に測定することができる。これにより、コンテンツの注視点エリアを大きく見たいというユーザの思いをより好適に拡大コンテンツに反映することができる。   Since the face distance measuring unit 7 is a distance measuring device, the face distance can be measured with high accuracy. Specifically, subtle movements of the face, such as the movements of the eyes of the user, and movements of the user's face when the user's face approaches the content can be measured with higher accuracy. As a result, the user's desire to see the gazing area of the content large can be reflected in the expanded content more preferably.

また、顔距離測定部7が測距に特化している測距デバイスであることにより、CPUによる画像処理よりも省電力で顔距離を測定できるため、撮像画像を画像処理する際の負荷を軽減することができる。これにより、省電力に貢献することができる。   Further, since the face distance measuring unit 7 is a distance measuring device specialized for distance measurement, the face distance can be measured with less power consumption than the image processing by the CPU, so that the load at the time of image processing of the captured image is reduced. can do. This can contribute to power saving.

顔距離測定部7としては、例えば、赤外線センサなどの光センサ、超音波センサ、および、イメージセンサに測距機能が加わった距離画像センサなどが挙げられる。   Examples of the face distance measuring unit 7 include an optical sensor such as an infrared sensor, an ultrasonic sensor, and a distance image sensor in which a distance measuring function is added to an image sensor.

〔変形例2〕
上述の例では、判定部9は、第1距離と第2距離とに基づき、顔距離が閾値以上減少したときに、拡大表示を行っているが、本実施形態ではこれに限定されない。本実施形態では、判定部9は、顔が表示装置5のコンテンツから離れ、顔距離が閾値以上増大したときにも、拡大表示を行ってもよい。
[Modification 2]
In the above example, the determination unit 9 performs the enlarged display when the face distance decreases by the threshold value or more based on the first distance and the second distance, but the present embodiment is not limited to this. In the present embodiment, the determination unit 9 may perform the enlarged display even when the face is separated from the content of the display device 5 and the face distance increases by a threshold value or more.

以下、図5を用いて、変形例2に係る所定の変換テーブルの一例について説明する。図5は、所定の変換テーブルの一例を示す図である。図5に示すように、第1距離が第2距離よりも小さく、第1距離/第2距離が1よりも小さい場合、例えば、ユーザの顔が表示装置5のコンテンツから離れた場合も、拡大率は1よりも大きくなっている。この場合、判定部9は、図5に示す所定の変換テーブルを参照し、第1距離が第2距離よりも閾値以上小さい場合に、注視点エリアを拡大する。   Hereinafter, an example of the predetermined conversion table according to the second modification will be described with reference to FIG. FIG. 5 is a diagram showing an example of a predetermined conversion table. As shown in FIG. 5, when the first distance is smaller than the second distance and the first distance/second distance is smaller than 1, for example, when the user's face is separated from the content of the display device 5, the enlargement is performed. The rate is higher than 1. In this case, the determination unit 9 refers to the predetermined conversion table shown in FIG. 5, and expands the gazing area when the first distance is smaller than the second distance by a threshold value or more.

これにより、一般的なユーザだけでなく、老眼になっているユーザが、ピントを合わせるために、顔を表示装置5のコンテンツから離すなど、とっさの動作を取った場合にも、注視点エリアを大きく表示できる。その結果、ユーザの操作負担を増加することなく、コンテンツの視認性をより向上することができる。   As a result, not only a general user but also a presbyopic user can take a quick action such as moving his face away from the contents of the display device 5 to focus on the area of interest. It can be displayed large. As a result, the visibility of the content can be further improved without increasing the operation load on the user.

また、記憶装置4における変換テーブルを差し替えたり、ユーザ操作受付装置6などを介してユーザに選択させたりするだけで、判定部9は、参照する所定の変換テーブルを、一般ユーザ向けの変換テーブルと、老眼のユーザの変換テーブルとの間で切り替えることができる。結果として、記憶装置4における変換テーブルを差し替えたり、ユーザ操作受付装置6などを介してユーザに選択させたりするだけで、一般ユーザ向けの拡大コンテンツの表示と、老眼のユーザ向けの拡大コンテンツの表示とを切り替えることができる。   Further, the determination unit 9 sets the predetermined conversion table to be referred to as a conversion table for general users only by replacing the conversion table in the storage device 4 or by allowing the user to select it through the user operation reception device 6 or the like. , Can be switched between conversion tables for presbyopia users. As a result, only by replacing the conversion table in the storage device 4 or by allowing the user to select it via the user operation reception device 6 or the like, the display of the enlarged content for the general user and the display of the enlarged content for the presbyopia user are possible. You can switch between and.

<実施形態2>
実施形態1に係る電子機器1では、判定部9は、顔距離に基づき、拡大表示を行うか否かを判定している。ただし、実施形態2に関わる電子機器17の制御装置18における判定部20のように、判定部20は、顔距離の変化速度に応じて、拡大表示を行うか否かを判定してもよい。
<Embodiment 2>
In the electronic device 1 according to the first embodiment, the determination unit 9 determines whether to perform enlarged display based on the face distance. However, like the determination unit 20 in the control device 18 of the electronic device 17 according to the second embodiment, the determination unit 20 may determine whether to perform the enlarged display according to the changing speed of the face distance.

以下、図6を用いて、本発明の実施形態2に係る電子機器17について説明する。上述した実施形態1と共通する各部材には同じ符号を付し、詳細な説明を省略する。   Hereinafter, the electronic device 17 according to the second embodiment of the present invention will be described with reference to FIG. The same members as those in the first embodiment described above are designated by the same reference numerals, and detailed description thereof will be omitted.

〔電子機器17〕
図6は、本発明の実施形態2に係る電子機器17の構成を示すブロック図である。図6に示すように、電子機器17は、実施形態1に係る電子機器1の顔距離測定部7および制御装置2の代わりに制御装置18および顔距離測定部19を備えている。この点以外は、電子機器17は、実施形態1に係る電子機器1と同様の構成である。
[Electronic device 17]
FIG. 6 is a block diagram showing the configuration of the electronic device 17 according to the second embodiment of the present invention. As shown in FIG. 6, the electronic device 17 includes a control device 18 and a face distance measuring unit 19 instead of the face distance measuring unit 7 and the control device 2 of the electronic device 1 according to the first embodiment. Except for this point, the electronic device 17 has the same configuration as the electronic device 1 according to the first embodiment.

〔制御装置18〕
図6に示すように、制御装置18は、実施形態1における顔距離測定部7および判定部9の代わりに、顔距離測定部19および判定部20を備えている。この点以外は、実施形態2に係る制御装置18は、実施形態1に係る制御装置2と同様の構成である。
[Control device 18]
As shown in FIG. 6, the control device 18 includes a face distance measuring unit 19 and a determining unit 20 instead of the face distance measuring unit 7 and the determining unit 9 in the first embodiment. Except for this point, the control device 18 according to the second embodiment has the same configuration as the control device 2 according to the first embodiment.

(顔距離測定部19)
顔距離測定部19は、所定の時間の間、測定した顔距離のうち、顔距離の変化速度が閾値未満である顔距離を除いたものの平均値を第1距離として算出する。
(Face distance measuring unit 19)
The face distance measuring unit 19 calculates, as a first distance, an average value of the measured face distances excluding the face distances whose change rate of the face distance is less than a threshold value during the predetermined time.

ここで、所定の時間の間、顔距離を測定したときに、ユーザの顔が表示装置5のコンテンツに対してゆっくりと近づいたり離れたりする場合、外れ値が生じ、第1距離が外れ値の影響を受けてしまう。これにより、ゆっくりと近づいたり離れたりする動きを含まない本来の第1距離との間に不整合が起こってしまう。その結果、判定部20が注視点エリアの拡大率を決定する際に、不整合が生じてしまう。   Here, when the face distance is measured for a predetermined time and the user's face slowly approaches or leaves the content of the display device 5, an outlier occurs, and the first distance is an outlier. I will be affected. This causes a mismatch with the original first distance that does not include slowly moving toward or away. As a result, inconsistency occurs when the determination unit 20 determines the magnification rate of the gazing area.

これに対し、顔距離測定部19が、所定の時間の間、測定した顔距離のうち、顔距離の変化速度が閾値未満の顔距離を除いたものの平均値を第1距離として算出することで、外れ値を含まない第1距離を算出することができる。これにより、本来の第1距離との間に不整合が生じるのを防ぐことができる。   On the other hand, the face distance measuring unit 19 calculates, as the first distance, the average value of the measured face distances excluding the face distances whose change rate of the face distance is less than the threshold value during the predetermined time. , The first distance that does not include an outlier can be calculated. As a result, it is possible to prevent inconsistency with the original first distance.

なお、制御装置18は、上述の所定の閾値を、ユーザ操作受付装置6を介してユーザに直接設定させたり、数パターンの所定の閾値を事前に用意してユーザに選択させたりしもよい。また、制御装置18は、所定の閾値を、ソフトなどによって予め定められた数に決定してもよい。   The control device 18 may allow the user to directly set the above-described predetermined threshold value via the user operation reception device 6, or may prepare a predetermined threshold value of several patterns in advance and allow the user to select the predetermined threshold value. Further, the control device 18 may set the predetermined threshold value to a predetermined number by software or the like.

(判定部20)
判定部20は、ユーザの顔が表示装置5のコンテンツに近づいたり離れたりする速度、すなわち、顔距離の変化速度に応じて、拡大表示を行うか否かを判定する。
(Determination unit 20)
The determination unit 20 determines whether to perform enlarged display according to the speed at which the user's face approaches or leaves the content of the display device 5, that is, the change speed of the face distance.

例えば、判定部20は、顔距離の変化速度が閾値未満である場合、注視点エリアの拡大率を1のまま維持し、拡大表示しない。一方、顔距離の変化速度が閾値以上である場合、判定部20は、実施形態1における判定部9と同様に、第1距離および第2距離に基づき、拡大表示するか否かを判定する。   For example, when the change speed of the face distance is less than the threshold value, the determination unit 20 maintains the enlargement ratio of the gazing point area at 1 and does not enlarge the display. On the other hand, when the change speed of the face distance is equal to or more than the threshold value, the determination unit 20 determines whether or not to perform the enlarged display based on the first distance and the second distance, as in the determination unit 9 in the first embodiment.

ところで、人間は、ホメオスタシスにより、ゆっくりした動きに鈍感であり、当該動きを無意識に行う。そのため、ユーザが顔を表示装置5のコンテンツにゆっくりと近づく動きを行った場合でも、当該動きを無意識に行っている可能性が高い。そのため、判定部20は、ユーザが顔を表示装置5のコンテンツにゆっくりと近づく動きを、ユーザがコンテンツを大きく見たいとは思っていないことを前提としている。逆に、判定部20は、ユーザが顔を表示装置5のコンテンツに早く近づく動きを、ユーザがコンテンツを大きく見たいと思っていることを前提としている。   By the way, humans are insensitive to slow movements due to homeostasis, and unconsciously perform the movements. Therefore, even if the user makes a motion of slowly approaching the face to the content of the display device 5, there is a high possibility that the motion is unconsciously performed. Therefore, the determination unit 20 is based on the premise that the user does not want to see the content large as the user slowly moves his or her face toward the content of the display device 5. On the contrary, the determination unit 20 is based on the assumption that the user wants to see the content largely when the user approaches his/her face to the content of the display device 5 quickly.

したがって、判定部20によれば、ユーザが顔を表示装置5のコンテンツにゆっくりと近づけた場合には、拡大表示しない。そのため、コンテンツを大きく見たいわけではないというユーザの無意識の思いに応じたコンテンツを表示できる。これにより、ユーザが顔を表示装置5のコンテンツにゆっくりと近づけた場合に拡大表示する構成に比べて、違和感を軽減することができる。   Therefore, according to the determination unit 20, when the user slowly brings the face closer to the content of the display device 5, the enlarged display is not performed. Therefore, it is possible to display the content according to the unconscious feeling of the user that the content does not want to be greatly viewed. As a result, the sense of discomfort can be reduced compared to the configuration in which the user enlarges the face when the user slowly brings the face closer to the content of the display device 5.

<実施形態3>
実施形態1に係る電子機器1では、判定部9は、顔距離に基づき、拡大表示するか否かを判定している。ただし、実施形態3に係る電子機器21のように、制御装置22の判定部23は、表示画面に表示されているコンテンツのレイアウトに応じて、注視点エリアを拡大する領域を決定してもよい。
<Embodiment 3>
In the electronic device 1 according to the first embodiment, the determination unit 9 determines whether to perform enlarged display based on the face distance. However, like the electronic device 21 according to the third embodiment, the determination unit 23 of the control device 22 may determine the area in which the gazing area is enlarged according to the layout of the content displayed on the display screen. ..

以下、図7を用いて、本発明の実施形態3に係る電子機器21について説明する。上述した実施形態1と共通する各部材には同じ符号を付し、詳細な説明を省略する。   Hereinafter, the electronic device 21 according to the third embodiment of the present invention will be described with reference to FIG. 7. The same members as those in the first embodiment described above are designated by the same reference numerals, and detailed description thereof will be omitted.

〔電子機器21〕
図7は、本発明の実施形態3に係る電子機器21の構成を示すブロック図である。図7に示すように、電子機器21は、実施形態1に係る電子機器1の制御装置2の代わりに制御装置22を備えている。この点以外は、電子機器21は、実施形態1に係る電子機器1と同様の構成である。
[Electronic device 21]
FIG. 7 is a block diagram showing the configuration of the electronic device 21 according to the third embodiment of the present invention. As shown in FIG. 7, the electronic device 21 includes a control device 22 instead of the control device 2 of the electronic device 1 according to the first embodiment. Except for this point, the electronic device 21 has the same configuration as the electronic device 1 according to the first embodiment.

〔制御装置22〕
図7に示すように、制御装置22は、実施形態1における判定部9の代わりに、判定部23を備えている。この点以外は、実施形態3に係る制御装置22は、実施形態1に係る制御装置2と同様の構成である。
[Control device 22]
As shown in FIG. 7, the control device 22 includes a determination unit 23 instead of the determination unit 9 in the first embodiment. Except for this point, the control device 22 according to the third embodiment has the same configuration as the control device 2 according to the first embodiment.

(判定部23)
判定部23は、表示画面に表示されているコンテンツのレイアウトに応じて、注視点エリアを拡大する領域を決定する。
(Determination unit 23)
The determination unit 23 determines an area in which the gazing point area is enlarged according to the layout of the content displayed on the display screen.

具体的には、判定部23は、コンテンツの見出しまたは本文が横書きの場合、注視点エリアを拡大する領域を横長の範囲に決定する。判定部23は、コンテンツの見出しまたは文字が縦書きの場合、注視点エリアを拡大する領域を縦長の範囲に決定する。判定部23は、コンテンツが写真またはイラストの場合、注視点エリアを拡大する領域を、表示装置5に表示されたコンテンツ(画像)の枠に合わせた範囲に決定する。   Specifically, when the headline or the body of the content is in horizontal writing, the determination unit 23 determines the region in which the gazing point area is enlarged to a horizontally long range. When the content heading or characters are written vertically, the determination unit 23 determines the region in which the gazing point area is enlarged to be a vertically long range. When the content is a photograph or an illustration, the determination unit 23 determines the area in which the gazing point area is enlarged to a range that matches the frame of the content (image) displayed on the display device 5.

電子書籍などのコンテンツは、見出し、本文、写真およびイラストなどが任意の縦書きおよび横書きなどのレイアウトで混在して配置されている。これに対し、判定部23によれば、ユーザが見ている位置のコンテンツのレイアウトに基づき、当該レイアウトに応じた注視点エリアを拡大する領域を決定する。そのため、ユーザが見ている位置のコンテンツを見やすいように注視点エリアを拡大する領域を決定し、拡大コンテンツを見るユーザに違和感を与えないようにすることができる。   In contents such as electronic books, headlines, texts, photographs, illustrations, and the like are mixed and arranged in arbitrary layouts such as vertical writing and horizontal writing. On the other hand, the determination unit 23 determines, based on the layout of the content at the position viewed by the user, an area in which the gazing point area corresponding to the layout is enlarged. Therefore, it is possible to determine a region in which the gazing point area is enlarged so that the user can easily see the content at the position where the user sees the content so that the user who views the enlarged content does not feel uncomfortable.

また、従来技術では、上述のようなコンテンツのデータに対し、エリア毎に注視点エリアを拡大する領域をどのように決定するか定義するデータを記憶装置4に格納する必要があった。これに対し、判定部23によれば、表示装置5に表示されているコンテンツを画像解析して注視点エリアを拡大する領域を決定するため、上述の定義のデータを事前に記憶装置4に格納しておく必要がない。   In addition, in the related art, it is necessary to store, in the storage device 4, data that defines how to determine a region for enlarging the gazing area for each area for the above-described content data. On the other hand, according to the determination unit 23, the data defined above is stored in the storage device 4 in advance in order to analyze the content displayed on the display device 5 to determine the area in which the gazing area is enlarged. You don't have to.

また、判定部23は、注視点エリアの中心と注視点とが所定の範囲の距離に収まるように、注視点エリアを調整する。コンテンツのレイアウトを考慮して決定した注視点エリアによっては、注視点が注視点エリアの中心とならないこともある。そのため、判定部23は、注視点エリア中心と注視点とが大きく離れないように、注視点エリアを調整することで、ユーザに違和感を与えないようにすることができる。   The determination unit 23 also adjusts the gazing area so that the center of the gazing area and the gazing point are within a predetermined range of distance. The gazing point may not be the center of the gazing area depending on the gazing area determined in consideration of the layout of the content. Therefore, the determination unit 23 can prevent the user from feeling uncomfortable by adjusting the gazing point area so that the center of the gazing point area and the gazing point are not greatly separated from each other.

なお、判定部23は、レイアウトが横書きであるか、縦書きであるかについて、表示装置5に表示されているコンテンツ(画像)の水平方向および垂直方向のヒストグラムなどの公知の技術に基づき、判定してもよい。
〔ソフトウェアによる実現例〕
電子機器1、17および21における制御装置2、18および22の制御ブロック(特に顔距離測定部7、19、注視点検出部8、判定部9、20、23および表示処理部10)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
Note that the determination unit 23 determines whether the layout is horizontal writing or vertical writing based on a known technique such as horizontal and vertical histograms of the content (image) displayed on the display device 5. You may.
[Example of software implementation]
The control blocks of the control devices 2, 18 and 22 in the electronic devices 1, 17 and 21 (in particular, the face distance measuring units 7 and 19, the gazing point detection unit 8, the determination units 9, 20, and 23 and the display processing unit 10) are integrated. It may be realized by a logic circuit (hardware) formed in a circuit (IC chip) or the like, or may be realized by software.

後者の場合、電子機器1、17および21における制御装置2、18および22は、各機能を実現するソフトウェアである表示制御プログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも1つのプロセッサ(制御装置)を備えていると共に、上記表示制御プログラムを記憶したコンピュータ読み取り可能な少なくとも1つの記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記表示制御プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記表示制御プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、上記表示制御プログラムは、該表示制御プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記表示制御プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。   In the latter case, the control devices 2, 18 and 22 in the electronic devices 1, 17 and 21 are equipped with a computer that executes the instructions of a display control program that is software that realizes each function. The computer includes, for example, at least one processor (control device) and at least one computer-readable recording medium that stores the display control program. Then, in the computer, the processor reads the display control program from the recording medium and executes the program to achieve the object of the present invention. As the processor, for example, a CPU (Central Processing Unit) can be used. As the recording medium, a "non-transitory tangible medium" such as a ROM (Read Only Memory), a tape, a disk, a card, a semiconductor memory, a programmable logic circuit, or the like can be used. A RAM (Random Access Memory) for expanding the display control program may be further provided. The display control program may be supplied to the computer via any transmission medium (communication network, broadcast wave, etc.) capable of transmitting the display control program. Note that one aspect of the present invention can also be realized in the form of a data signal embedded in a carrier wave, in which the display control program is embodied by electronic transmission.

〔まとめ〕
本発明の態様1に係る電子機器は、少なくとも1つの表示装置と、少なくとも1つの制御装置と、を備えた電子機器であって、前記制御装置は、前記表示装置の表示画面におけるユーザの注視点を検出し、前記表示画面と前記ユーザの顔との距離である顔距離を測定し、前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定する。
[Summary]
An electronic device according to aspect 1 of the present invention is an electronic device including at least one display device and at least one control device, wherein the control device is a user's point of regard on a display screen of the display device. Is detected, the face distance, which is the distance between the display screen and the face of the user, is measured, and it is determined whether or not the periphery of the gazing point on the display screen is enlarged and displayed based on the face distance.

本発明の態様2に係る電子機器は、上記態様1において、前記制御装置は、前記顔距離に応じて、前記拡大表示の拡大率を決定してもよい。   In the electronic device according to the second aspect of the present invention, in the first aspect, the control device may determine the enlargement ratio of the enlarged display according to the face distance.

本発明の態様3に係る電子機器は、上記態様1または2において、前記制御装置は、前記顔距離が閾値以上減少したときに、前記拡大表示を行ってもよい。   In the electronic device according to the third aspect of the present invention, according to the first or second aspect, the control device may perform the enlarged display when the face distance decreases by a threshold value or more.

本発明の態様4に係る電子機器は、上記態様1〜3において、前記制御装置は、前記顔距離が閾値以上増大したときに、前記拡大表示を行ってもよい。   In the electronic device according to Aspect 4 of the present invention, in the above Aspects 1 to 3, the control device may perform the enlarged display when the face distance increases by a threshold value or more.

本発明の態様5に係る電子機器は、上記態様1〜4において、前記制御装置は、前記顔距離の変化速度に応じて、前記拡大表示を行うか否かを判定してもよい。   In the electronic device according to the fifth aspect of the present invention, in the above first to fourth aspects, the control device may determine whether to perform the enlarged display according to a change speed of the face distance.

本発明の態様6に係る電子機器は、上記態様1〜5において、前記制御装置は、前記表示画面に表示されているコンテンツのレイアウトに応じて、拡大する領域を決定してもよい。   In the electronic device according to the sixth aspect of the present invention, in the above first to fifth aspects, the control device may determine the area to be enlarged according to the layout of the content displayed on the display screen.

本発明の態様7に係る制御装置は、少なくとも1つの表示装置を備えた電子機器の制御装置であって、前記制御装置は、前記表示装置の表示画面におけるユーザの注視点を検出する注視点検出部と、前記表示画面と前記ユーザの顔との距離である顔距離を測定する顔距離測定部と、前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定する判定部と、を備える。   A control device according to aspect 7 of the present invention is a control device for an electronic device including at least one display device, wherein the control device detects a gazing point of a user on a display screen of the display device. Unit, a face distance measuring unit that measures a face distance that is the distance between the display screen and the user's face, and whether or not to display the periphery of the gazing point on the display screen based on the face distance. A determination unit for determining.

本発明の態様8に係る電子機器の制御方法は、少なくとも1つの表示装置と、少なくとも1つの制御装置と、を備えた電子機器の制御方法であって、前記制御装置が、前記表示装置の表示画面におけるユーザの注視点を検出することと、前記表示画面と前記ユーザの顔との距離である顔距離を測定することと、前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定することと含む。   An electronic device control method according to aspect 8 of the present invention is an electronic device control method including at least one display device and at least one control device, wherein the control device displays a display on the display device. Detecting a user's gazing point on the screen, measuring a face distance that is a distance between the display screen and the user's face, and enlarging the periphery of the gazing point on the display screen based on the face distance. This includes determining whether or not to display.

1、17、21 電子機器
2、18、22 制御装置
5 表示装置
7、19 顔距離測定部
8 注視点検出部
9、20、23 判定部
10 表示処理部(制御装置)
11 コンテンツ
14 拡大コンテンツ(コンテンツ)
12、15 注視点エリア(注視点の周囲)
13、16 注視点
1, 17, 21 Electronic equipment 2, 18, 22 Control device 5 Display device 7, 19 Face distance measuring unit 8 Gaze point detecting unit 9, 20, 23 Judgment unit 10 Display processing unit (control device)
11 Contents 14 Expanded contents (contents)
12, 15 gazing point area (around the gazing point)
13, 16 gazing point

Claims (8)

少なくとも1つの表示装置と、少なくとも1つの制御装置と、を備えた電子機器であって、
前記制御装置は、
前記表示装置の表示画面におけるユーザの注視点を検出し、
前記表示画面と前記ユーザの顔との距離である顔距離を測定し、
前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定することを特徴とする電子機器。
An electronic device comprising at least one display device and at least one control device,
The control device is
Detecting the gazing point of the user on the display screen of the display device,
Measuring the face distance, which is the distance between the display screen and the face of the user,
An electronic device, characterized in that it is determined whether or not the periphery of the gazing point on the display screen is enlarged and displayed based on the face distance.
前記制御装置は、前記顔距離に応じて、前記拡大表示の拡大率を決定することを特徴とする請求項1に記載の電子機器。   The electronic device according to claim 1, wherein the control device determines an enlargement ratio of the enlarged display according to the face distance. 前記制御装置は、前記顔距離が閾値以上減少したときに、前記拡大表示を行うことを特徴とする請求項1または2に記載の電子機器。   The electronic device according to claim 1, wherein the control device performs the enlarged display when the face distance decreases by a threshold value or more. 前記制御装置は、前記顔距離が閾値以上増大したときに、前記拡大表示を行うことを特徴とする請求項1〜3のいずれか1項に記載の電子機器。   The electronic device according to claim 1, wherein the control device performs the enlarged display when the face distance increases by a threshold value or more. 前記制御装置は、前記顔距離の変化速度に応じて、前記拡大表示を行うか否かを判定することを特徴とする請求項1〜4のいずれか1項に記載の電子機器。   The electronic device according to claim 1, wherein the control device determines whether to perform the enlarged display according to a change speed of the face distance. 前記制御装置は、前記表示画面に表示されているコンテンツのレイアウトに応じて、拡大する領域を決定することを特徴とする請求項1〜5のいずれか1項に記載の電子機器。   The electronic device according to claim 1, wherein the control device determines an area to be enlarged according to a layout of the content displayed on the display screen. 少なくとも1つの表示装置を備えた電子機器の制御装置であって、
前記制御装置は、
前記表示装置の表示画面におけるユーザの注視点を検出する注視点検出部と、
前記表示画面と前記ユーザの顔との距離である顔距離を測定する顔距離測定部と、
前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定する判定部と、を備えることを特徴とする制御装置。
A control device for an electronic device comprising at least one display device,
The control device is
A gazing point detection unit that detects the gazing point of the user on the display screen of the display device,
A face distance measuring unit that measures a face distance that is a distance between the display screen and the user's face;
And a determination unit that determines whether or not the periphery of the gazing point on the display screen is enlarged and displayed based on the face distance.
少なくとも1つの表示装置と、少なくとも1つの制御装置と、を備えた電子機器の制御方法であって、
前記制御装置が、
前記表示装置の表示画面におけるユーザの注視点を検出することと、
前記表示画面と前記ユーザの顔との距離である顔距離を測定することと、
前記顔距離に基づき、前記表示画面における前記注視点の周囲を拡大表示するか否かを判定することと含むことを特徴とする電子機器の制御方法。
A method for controlling an electronic device, comprising at least one display device and at least one control device,
The control device is
Detecting the point of gaze of the user on the display screen of the display device,
Measuring a face distance, which is a distance between the display screen and the face of the user,
A method of controlling an electronic device, comprising: determining whether or not the periphery of the gazing point on the display screen is enlarged and displayed based on the face distance.
JP2018212997A 2018-11-13 2018-11-13 Electronic apparatus, control device, and control method of electronic apparatus Pending JP2020080046A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018212997A JP2020080046A (en) 2018-11-13 2018-11-13 Electronic apparatus, control device, and control method of electronic apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018212997A JP2020080046A (en) 2018-11-13 2018-11-13 Electronic apparatus, control device, and control method of electronic apparatus

Publications (1)

Publication Number Publication Date
JP2020080046A true JP2020080046A (en) 2020-05-28

Family

ID=70801838

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018212997A Pending JP2020080046A (en) 2018-11-13 2018-11-13 Electronic apparatus, control device, and control method of electronic apparatus

Country Status (1)

Country Link
JP (1) JP2020080046A (en)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004185370A (en) * 2002-12-04 2004-07-02 Sharp Corp Image display method and image display device
JP2010176170A (en) * 2009-01-27 2010-08-12 Sony Ericsson Mobilecommunications Japan Inc Display apparatus, display control method, and display control program
JP2011107482A (en) * 2009-11-18 2011-06-02 Funai Electric Co Ltd Video display apparatus
JP2013097626A (en) * 2011-11-01 2013-05-20 Sony Computer Entertainment Inc Mobile information terminal and book image display method
JP2013114266A (en) * 2011-11-24 2013-06-10 Sharp Corp Display control device, display method, control program, and recording medium
JP2013228490A (en) * 2012-04-24 2013-11-07 Nec Casio Mobile Communications Ltd Display device, control method thereof and program
JP2014157466A (en) * 2013-02-15 2014-08-28 Sony Corp Information processing device and storage medium
WO2018008128A1 (en) * 2016-07-07 2018-01-11 マクセル株式会社 Video display device and method

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004185370A (en) * 2002-12-04 2004-07-02 Sharp Corp Image display method and image display device
JP2010176170A (en) * 2009-01-27 2010-08-12 Sony Ericsson Mobilecommunications Japan Inc Display apparatus, display control method, and display control program
JP2011107482A (en) * 2009-11-18 2011-06-02 Funai Electric Co Ltd Video display apparatus
JP2013097626A (en) * 2011-11-01 2013-05-20 Sony Computer Entertainment Inc Mobile information terminal and book image display method
JP2013114266A (en) * 2011-11-24 2013-06-10 Sharp Corp Display control device, display method, control program, and recording medium
JP2013228490A (en) * 2012-04-24 2013-11-07 Nec Casio Mobile Communications Ltd Display device, control method thereof and program
JP2014157466A (en) * 2013-02-15 2014-08-28 Sony Corp Information processing device and storage medium
WO2018008128A1 (en) * 2016-07-07 2018-01-11 マクセル株式会社 Video display device and method

Similar Documents

Publication Publication Date Title
US11194388B2 (en) Visibility improvement method based on eye tracking, machine-readable storage medium and electronic device
US20220382368A1 (en) Apparatus, system and method for dynamic modification of a graphical user interface
US8624927B2 (en) Display apparatus, display control method, and display control program
US9946338B2 (en) Information processing to vary screen display based on a gaze point of the user
EP2866123A2 (en) Screen operation apparatus and screen operation method
US20110001762A1 (en) Method for adjusting displayed frame, electronic device, and computer readable medium thereof
JP4275151B2 (en) Red-eye correction method and apparatus using user-adjustable threshold
US9225896B2 (en) Mobile terminal device, storage medium, and display control method
JP2006023953A (en) Information display system
WO2017059734A1 (en) Image zoom in/out method and electronic device
JP2014021596A (en) Tablet terminal, operation receiving method, and operation receiving program
US9582169B2 (en) Display device, display method, and program
JP2014006640A (en) Display device, display method, and program
JP2009294740A (en) Data processor and program
KR20080040614A (en) Method of moving/enlarging/reducing a virtual screen by movement of display device and hand helded information equipment using the same
JP2018180051A (en) Electronic device and control method thereof
US20220366874A1 (en) Eye gaze control of magnification user interface
JP2019040333A (en) Information processing device, information processing method, computer program and time series data for display control
JP2020080046A (en) Electronic apparatus, control device, and control method of electronic apparatus
JP2013228490A (en) Display device, control method thereof and program
JP2015032261A (en) Display device and control method
WO2018186004A1 (en) Electronic device and method for controlling same
JP2018180050A (en) Electronic device and control method thereof
KR101720607B1 (en) Image photographing apparuatus and operating method thereof
KR20110100987A (en) User interface method using eye-gaze tracking and terminal thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210922

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220802

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230207