JP2012095229A - Image display device and computer program for image display device - Google Patents

Image display device and computer program for image display device Download PDF

Info

Publication number
JP2012095229A
JP2012095229A JP2010242660A JP2010242660A JP2012095229A JP 2012095229 A JP2012095229 A JP 2012095229A JP 2010242660 A JP2010242660 A JP 2010242660A JP 2010242660 A JP2010242660 A JP 2010242660A JP 2012095229 A JP2012095229 A JP 2012095229A
Authority
JP
Japan
Prior art keywords
moving image
display
line
image data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010242660A
Other languages
Japanese (ja)
Inventor
Seiichiro Miki
成一郎 三木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2010242660A priority Critical patent/JP2012095229A/en
Publication of JP2012095229A publication Critical patent/JP2012095229A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image display device capable of displaying a moving image with image quality depending on the visual line direction of a user.SOLUTION: An image display device comprises: a display 111 that displays a moving image in a display area; a visual line direction detection unit 116 that detects the visual line direction of a user; a gaze determination unit 117 that determines whether the moving image is gazed at based on the visual line direction; a visual line movement determination unit 118 that determines a movement direction of the visual line direction; a movement direction determination unit 119 that determines whether the movement direction is a direction from outside of the display area toward the display area; and a display image switching unit 120 that, based on a determination result by the gaze determination unit 117, sets a display target to a high-load moving image when the moving image is gazed at, on the other hand, sets the display target to a low-load moving image when the moving image is not gazed at, and even when the moving image is not gazed at, if the visual line direction is moved toward the display area, switches the display target from the low-load moving image to the high-load moving image.

Description

本発明は、画像表示装置及び画像表示装置用のコンピュータプログラムに係り、さらに詳しくは、所定の表示領域内に動画像を表示する画像表示装置の改良に関する。   The present invention relates to an image display device and a computer program for the image display device, and more particularly to improvement of an image display device that displays a moving image in a predetermined display area.

近年、動画再生の技術として、インターネットなどの通信ネットワーク上のサーバーから動画パケットを順次に受信しながら、動画パケットからなるストリーム画像を表示するストリーミングが知られている。最近では、この様なストリーミング機能を備えた携帯電話機も提案されている。通常、ストリーム画像は、携帯端末の状態に関わらず、一定のビットレートで転送され、ストリーミング中は、サーバー及び携帯端末間で通信資源が占有される。   In recent years, as a technique for reproducing a moving image, streaming that displays a stream image composed of moving image packets while sequentially receiving moving image packets from a server on a communication network such as the Internet is known. Recently, a mobile phone having such a streaming function has also been proposed. Normally, a stream image is transferred at a constant bit rate regardless of the state of the mobile terminal, and communication resources are occupied between the server and the mobile terminal during streaming.

そこで、ユーザの視線方向を検知し、ユーザが注視している画像領域に比べて、その周辺領域の解像度を低下させることにより、サーバーから転送させる動画像のデータ量を小さくする技術が提案されている(例えば、特許文献1〜3)。この技術を携帯端末に適用すれば、ストリーミング中のデータ伝送量が抑制されるので、携帯端末における処理負荷が低減され、ストリーミング時の消費電力を抑制することができる。   Therefore, a technique has been proposed in which the amount of moving image data transferred from the server is reduced by detecting the user's line-of-sight direction and lowering the resolution of the peripheral area compared to the image area the user is gazing at. (For example, Patent Documents 1 to 3). If this technology is applied to a mobile terminal, the amount of data transmission during streaming is suppressed, so that the processing load on the mobile terminal is reduced and power consumption during streaming can be suppressed.

しかし、視線方向の注視領域の周辺の画像領域を低解像度化する場合、視線方向の変化に十分に追従させるのは容易ではなかった。特に、視線方向が移動した場合、新たな注視領域について解像度を上げることをストリーミングサーバーに指示する必要があるが、注視領域の解像度が実際に上がるまでにタイムラグが生じてしまうという問題があった。なお、特許文献4には、目の瞬きを利用して眼球の位置を特定することにより、画面上の注視点を検出する技術が開示されている。   However, when the resolution of the image area around the gaze area in the line-of-sight direction is reduced, it is not easy to sufficiently follow the change in the line-of-sight direction. In particular, when the line-of-sight direction moves, it is necessary to instruct the streaming server to increase the resolution for a new gaze area, but there is a problem that a time lag occurs until the resolution of the gaze area actually increases. Patent Document 4 discloses a technique for detecting a point of gaze on a screen by specifying the position of an eyeball using blinking eyes.

特開平1−141479号公報JP-A-1-141479 特開平7−44110号公報JP 7-44110 A 特開2004−56335号公報JP 2004-56335 A 特開平10−154220号公報JP-A-10-154220

本発明は、上記事情に鑑みてなされたものであり、ユーザの視線方向に応じて動画像を表示させることができる画像表示装置を提供することを目的としている。特に、視線方向が表示領域外から表示領域内に移動した場合に、動画像が低負荷動画像から高負荷動画像に切り替えられるまでのタイムラグを抑制することができる画像表示装置を提供することを目的としている。   The present invention has been made in view of the above circumstances, and an object thereof is to provide an image display device capable of displaying a moving image in accordance with a user's line-of-sight direction. In particular, an image display device capable of suppressing a time lag until a moving image is switched from a low-load moving image to a high-load moving image when the line-of-sight direction moves from outside the display region to the display region is provided. It is aimed.

また、本発明は、視線方向の移動に追従させて動画像の画質を切り替えることができるとともに、動画像を全く見ていないときに誤って低負荷動画像から高負荷動画像に切り替えられるのを抑制することができる画像表示装置を提供することを目的としている。さらに、ユーザの視線方向の移動に追従させて、ストリーミングサーバーから取得した動画像を表示させることができる画像表示装置を提供することを目的としている。   In addition, the present invention can switch the image quality of a moving image by following the movement in the line of sight, and can erroneously switch from a low-load moving image to a high-load moving image when no moving image is viewed. An object of the present invention is to provide an image display device that can be suppressed. It is another object of the present invention to provide an image display device that can display a moving image acquired from a streaming server by following the movement of the user's line of sight.

また、本発明は、その様な画像表示装置としてコンピュータを機能させるためのコンピュータプログラムを提供することを目的としている。   It is another object of the present invention to provide a computer program for causing a computer to function as such an image display device.

第1の本発明による画像表示装置は、表示領域内に動画像を表示する表示手段と、ユーザの視線方向を検出する視線方向検出手段と、上記視線方向に基づいて、上記動画像を注視しているか否かを判別する注視判別手段と、上記視線方向の移動方向を判別する視線移動判別手段と、上記移動方向が上記表示領域外から上記表示領域へ向かう方向であるか否かを判別する移動方向判別手段と、上記注視判別手段の判別結果に基づいて、上記動画像を注視している場合に表示対象を高負荷動画像にする一方、上記動画像を注視していない場合に表示対象を低負荷動画像にするとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、表示対象を上記低負荷動画像から上記高負荷動画像に切り替える表示画像切替手段とを備えて構成される。   An image display device according to a first aspect of the present invention is directed to display means for displaying a moving image in a display area, gaze direction detecting means for detecting a user's gaze direction, and gaze at the moving image based on the gaze direction. Gaze discrimination means for discriminating whether or not the eye is moving; gaze movement discrimination means for discriminating the movement direction of the gaze direction; and determining whether or not the movement direction is a direction from the outside of the display area toward the display area. Based on the determination results of the moving direction discriminating means and the gaze discriminating means, the display target is changed to a high-load moving image when the moving image is being watched, while the display target is displayed when the moving image is not being watched Even if the moving image is not gazed, the display object is moved from the low-load moving image to the high load when the line-of-sight direction moves toward the display area. Load video Constructed and a changing display image switching unit Ri.

この画像表示装置では、ユーザの視線方向を検出して動画像を注視しているか否かを判別し、視線方向の移動方向が表示領域外から表示領域へ向かう方向であるか否かが判別される。そして、視線方向が表示領域へ向かって移動した場合に、表示対象を低負荷動画像から高負荷動画像に切り替えている。このため、視線方向が表示領域外から表示領域内に移動した場合に、動画像が低負荷動画像から高負荷動画像に切り替えられるまでのタイムラグを抑制することができる。特に、視線方向が表示領域に到達する前に、高負荷動画像への切り替えを実行させることも可能になる。従って、ユーザの視線方向に応じて適切な動画像を表示させることができる。   In this image display device, it is determined whether or not the moving image in the line-of-sight direction is directed from the outside of the display area to the display area by determining whether or not the user is gazing at the moving image. The When the line-of-sight direction moves toward the display area, the display target is switched from the low-load moving image to the high-load moving image. For this reason, when the line-of-sight direction moves from the outside of the display area to the inside of the display area, a time lag until the moving image is switched from the low-load moving image to the high-load moving image can be suppressed. In particular, switching to a high-load moving image can be performed before the line-of-sight direction reaches the display area. Therefore, an appropriate moving image can be displayed according to the user's line-of-sight direction.

第2の本発明による画像表示装置は、上記構成に加え、上記注視判別手段が、上記視線方向が上記表示領域内を向いているか否かに基づいて、上記動画像の注視を判別するように構成される。この様な構成によれば、視線方向が表示領域内を向いているか否かに応じて、高負荷動画像及び低負荷動画像を切り替えることができる。   In addition to the above configuration, the image display device according to a second aspect of the present invention is configured such that the gaze determination unit determines gaze of the moving image based on whether or not the line-of-sight direction is in the display area. Composed. According to such a configuration, it is possible to switch between a high-load moving image and a low-load moving image depending on whether or not the line-of-sight direction is facing the display area.

第3の本発明による画像表示装置は、上記構成に加え、上記視線方向に基づいて、上記動画像を周辺視しているか否かを判別する周辺視判別手段を備え、上記表示画像切替手段が、上記動画像を周辺視している状態で上記視線方向が上記表示領域へ向かって移動した場合に、表示対象を上記高負荷動画像へ切り替え、上記動画像を周辺視していない状態では、上記視線方向が上記表示領域へ向かって移動しても、表示対象を切り替えないように構成される。   An image display device according to a third aspect of the present invention includes, in addition to the above configuration, peripheral vision determination means that determines whether or not the moving image is peripherally viewed based on the line-of-sight direction, and the display image switching means is In a state where the line-of-sight direction moves toward the display area in a state where the moving image is viewed in the vicinity, the display target is switched to the high-load moving image, and the moving image is not viewed in the periphery. Even if the line-of-sight direction moves toward the display area, the display target is not switched.

この画像表示装置では、動画像を周辺視していなければ、視線方向が表示領域へ向かって移動しても、表示対象を切り替えない。このため、動画像を全く見ていないにもかかわらず、表示対象が低負荷動画像から高負荷動画像に切り替えられることを抑制することができる。従って、視線方向の移動に追従させて動画像の画質を切り替えることができるとともに、動画像を全く見ていないときに誤って高負荷動画像に切り替えられることを抑制することができる。   In this image display device, if the moving image is not viewed from the periphery, the display target is not switched even if the line-of-sight direction moves toward the display area. For this reason, it is possible to prevent the display target from being switched from the low-load moving image to the high-load moving image even though the moving image is not viewed at all. Therefore, it is possible to switch the image quality of the moving image by following the movement in the line-of-sight direction, and to suppress erroneous switching to the high-load moving image when no moving image is viewed.

第4の本発明による画像表示装置は、上記構成に加え、ユーザの目の位置を検出する目位置検出手段と、上記目の位置に基づいて、上記ユーザが表示画面の3D視野角内にいるか否かを判別する視野角判別手段とを備え、上記表示手段が、3D動画像及び2D動画像のいずれかを上記表示領域内に表示し、上記表示画像切替手段が、上記ユーザが上記3D視野角内にいる状態で上記視線方向が上記表示領域へ向かって移動した場合に、表示対象を上記2D動画像から上記3D動画像に切り替え、上記ユーザが上記3D視野角外にいる状態では、上記視線方向が上記表示領域へ向かって移動しても、表示対象を切り替えないように構成される。   According to a fourth aspect of the present invention, in addition to the above-described configuration, an eye position detection unit that detects a user's eye position, and whether the user is within a 3D viewing angle of the display screen based on the eye position. Viewing angle determining means for determining whether or not the display means displays either a 3D moving image or a 2D moving image in the display area, and the display image switching means is configured so that the user can display the 3D visual field. When the line-of-sight direction moves toward the display area while in the corner, the display target is switched from the 2D moving image to the 3D moving image, and when the user is outside the 3D viewing angle, Even if the line-of-sight direction moves toward the display area, the display target is not switched.

この画像表示装置では、ユーザが表示画面の3D視野角内にいなければ、視線方向が表示領域へ向かって移動しても、表示対象を切り替えない。このため、ユーザが3D動画像を正しく視認できない位置にいるにもかかわらず、表示対象が2D動画像から3D動画像に切り替えられることを抑制することができる。従って、視線方向の移動に追従させて動画像を切り替えることができるとともに、3D動画像を正しく視認できないときに誤って2D動画像から3D動画像に切り替えられるのを抑制することができる。   In this image display device, if the user is not within the 3D viewing angle of the display screen, the display target is not switched even if the line-of-sight direction moves toward the display area. For this reason, it is possible to prevent the display target from being switched from the 2D moving image to the 3D moving image, even though the user is in a position where the 3D moving image cannot be viewed correctly. Accordingly, it is possible to switch the moving image by following the movement in the line-of-sight direction, and to suppress erroneous switching from the 2D moving image to the 3D moving image when the 3D moving image cannot be viewed correctly.

第5の本発明による画像表示装置は、上記構成に加え、通信ネットワーク上のストリーミングサーバーから一連の画像フレームからなる動画像データを順次に取得する動画像データ取得手段を備え、上記表示手段が、上記動画像データに基づいて上記動画像を表示し、上記表示画像切替手段は、上記ストリーミングサーバーに対し、上記動画像を注視している場合に高負荷動画像データを要求する一方、上記動画像を注視していない場合に低負荷動画像データを要求するとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、上記高負荷動画像データへの切り替えを要求するように構成される。   An image display device according to a fifth aspect of the present invention includes, in addition to the above configuration, moving image data acquisition means for sequentially acquiring moving image data including a series of image frames from a streaming server on a communication network, and the display means includes: The moving image is displayed based on the moving image data, and the display image switching unit requests the high-load moving image data from the streaming server when the moving image is being watched. The low-load moving image data is requested when the user is not gazing, and the high load is applied when the line-of-sight direction moves toward the display area even when the gazing image is not gazed. It is configured to request switching to moving image data.

この様な構成によれば、ストリーミングサーバーに対し、視線方向が表示領域に到達するよりも前に、高負荷動画像への切り替えが指示されるので、ストリーミングサーバーから取得した動画像であっても、ユーザの視線方向の移動に追従させて表示させることができる。   According to such a configuration, since the switching to the high-load moving image is instructed to the streaming server before the line-of-sight direction reaches the display area, even the moving image acquired from the streaming server It can be displayed following the movement of the user's line of sight.

第6の本発明による画像表示装置は、上記構成に加え、被写体を撮影して一連の画像フレームからなる動画像データを生成するカメラから上記動画像データを順次に取得する動画像データ取得手段を備え、上記表示手段が、上記動画像データに基づいて上記動画像を表示し、上記表示画像切替手段が、上記カメラに対し、上記動画像を注視している場合に高負荷動画像データを要求する一方、上記動画像を注視していない場合に低負荷動画像データを要求するとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、上記高負荷動画像データへの切り替えを要求するように構成される。   In addition to the above-described configuration, the image display device according to the sixth aspect of the present invention includes moving image data acquisition means for sequentially acquiring the moving image data from a camera that shoots a subject and generates moving image data including a series of image frames. The display means displays the moving image based on the moving image data, and the display image switching means requests high-load moving image data when the moving image is being watched by the camera. On the other hand, when low-load moving image data is requested when the moving image is not watched, and the line-of-sight direction moves toward the display area even when the moving image is not watched Is configured to request switching to the high-load moving image data.

この様な構成によれば、カメラに対し、視線方向が表示領域に到達するよりも前に、高負荷動画像への切り替えが指示されるので、ユーザの視線方向の移動に追従させてカメラの動画像を表示させることができる。   According to such a configuration, the camera is instructed to switch to a high-load moving image before the line-of-sight direction reaches the display area. A moving image can be displayed.

第7の本発明による画像表示装置は、上記構成に加え、2以上の監視カメラのそれぞれから一連の画像フレームからなる動画像データを取得する動画像データ取得手段を備え、上記表示手段が、2以上の上記表示領域を有し、対応する上記監視カメラの上記動画像データに基づいて、上記動画像をそれぞれ表示し、上記表示画像切替手段が、上記動画像が注視されている上記監視カメラに対して高負荷動画像データを要求する一方、上記動画像が注視されていない上記監視カメラに対して低負荷動画像データを要求するとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した上記監視カメラに対し、上記高負荷動画像データへの切り替えを要求するように構成される。   An image display device according to a seventh aspect of the present invention includes, in addition to the above configuration, a moving image data acquisition unit that acquires moving image data including a series of image frames from each of two or more surveillance cameras. The moving image is displayed based on the moving image data of the corresponding monitoring camera having the display area as described above, and the display image switching means is connected to the monitoring camera on which the moving image is being watched. While requesting high-load moving image data, while requesting low-load moving image data to the monitoring camera not watching the moving image, and not watching the moving image, The monitoring camera whose viewing direction has moved toward the display area is configured to request switching to the high-load moving image data.

この画像表示装置では、視線方向が表示領域へ向かって移動した場合に、当該表示領域に動画像データを表示させている監視カメラに対し、視線方向が表示領域に到達するよりも前に、高負荷動画像への切り替えが指示される。このため、ユーザの視線方向の移動に追従させて監視カメラの動画像を表示させることができる。   In this image display device, when the line-of-sight direction moves toward the display area, the monitoring camera displaying the moving image data in the display area has a high level before the line-of-sight direction reaches the display area. An instruction to switch to a loaded moving image is given. For this reason, it is possible to display the moving image of the surveillance camera by following the movement of the user's line of sight.

第8の本発明による画像表示装置は、上記構成に加え、それぞれが一連の画像フレームからなる2以上の動画像データを保持する動画像データ記憶手段と、上記動画像データをデコードするデコード手段とを備え、上記表示手段が、2以上の上記表示領域を有し、デコードされた上記動画像データに基づいて、上記動画像をそれぞれ表示し、上記表示画像切替手段が、上記デコード手段に対し、上記動画像が注視されている上記表示領域について高負荷動画像データを要求する一方、上記動画像が注視されていない上記表示領域について低負荷動画像データを要求するとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、当該表示領域に表示させる上記動画像データついて、上記高負荷動画像データへの切り替えを要求するように構成される。   An image display device according to an eighth aspect of the present invention includes, in addition to the above configuration, moving image data storage means for holding two or more moving image data each consisting of a series of image frames, and decoding means for decoding the moving image data. The display means has two or more display areas, and each of the moving images is displayed based on the decoded moving image data, and the display image switching means While requesting high-load moving image data for the display area where the moving image is being watched, requesting low-load moving image data for the display area where the moving image is not being watched, and watching the moving image Even if not, if the line-of-sight direction moves toward the display area, the moving image data to be displayed in the display area Configured to request the switching to the high-load video data.

この画像表示装置では、視線方向が表示領域へ向かって移動した場合に、当該表示領域に表示させる動画像データについて、高負荷動画像データへの切り替えがデコード手段に指示される。このため、ユーザの視線方向に応じて適切な動画像を表示させつつ、ユーザの視線方向の移動に追従させて動画像を表示させることができる。   In this image display device, when the line-of-sight direction moves toward the display area, the decoding means is instructed to switch the moving image data to be displayed in the display area to the high-load moving image data. For this reason, it is possible to display a moving image by following the movement of the user's line of sight while displaying an appropriate moving image according to the user's line of sight.

第9の本発明による画像表示装置用のコンピュータプログラムは、表示領域内に動画像を表示する表示手順と、ユーザの視線方向を検出する視線方向検出手順と、上記視線方向に基づいて、上記動画像を注視しているか否かを判別する注視判別手順と、上記視線方向の移動方向を判別する視線移動判別手順と、上記移動方向が上記表示領域外から上記表示領域へ向かう方向であるか否かを判別する移動方向判別手順と、上記注視の判別結果に基づいて、上記動画像を注視している場合に表示対象を高負荷動画像にする一方、上記動画像を注視していない場合に表示対象を低負荷動画像にするとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、表示対象を上記低負荷動画像から上記高負荷動画像に切り替える表示画像切替手順とからなる。   A computer program for an image display device according to a ninth aspect of the present invention is based on the display procedure for displaying a moving image in the display area, the gaze direction detection procedure for detecting the gaze direction of the user, and the moving image based on the gaze direction. A gaze determination procedure for determining whether or not an image is being watched; a gaze movement determination procedure for determining a movement direction in the gaze direction; and whether the movement direction is a direction from the outside of the display area toward the display area. Based on the moving direction determination procedure for determining whether or not the moving image is determined, the display target is a high-load moving image when the moving image is being observed, and the moving image is not being observed. Even when the display target is a low-load moving image and the moving image is not being watched, if the line-of-sight direction moves toward the display area, the display target is moved from the low-load moving image. Consisting of a display image switching procedure for switching the serial high load moving image.

本発明による画像表示装置では、視線方向が表示領域へ向かって移動した場合に、表示対象を高負荷動画像に切り替えるので、視線方向が表示領域外から表示領域内に移動した場合に、動画像が低負荷動画像から高負荷動画像に切り替えられるまでのタイムラグを抑制することができる。従って、ユーザの視線方向に応じて動画像を表示させることができる。   In the image display device according to the present invention, when the line-of-sight direction moves toward the display area, the display target is switched to the high-load moving image. Therefore, when the line-of-sight direction moves from outside the display area into the display area, the moving image Can suppress a time lag until the low load moving image is switched to the high load moving image. Therefore, a moving image can be displayed according to the user's line-of-sight direction.

また、本発明による画像表示装置では、視線方向の移動に追従させて動画像を切り替えることができるとともに、動画像を全く見ていないときに誤って低負荷動画像から高負荷動画像に切り替えられることを抑制することができる。さらに、ストリーミングサーバーに対し、視線方向が表示領域に到達するよりも前に、高負荷動画像への切り替えが指示されるので、ストリーミングサーバーから取得した動画像であっても、ユーザの視線方向の移動に追従させて表示させることができる。   In the image display device according to the present invention, the moving image can be switched following the movement in the line of sight, and the low load moving image can be erroneously switched from the low load moving image when the moving image is not viewed at all. This can be suppressed. Furthermore, since the streaming server is instructed to switch to a high-load moving image before the line-of-sight direction reaches the display area, even a moving image acquired from the streaming server can be displayed in the direction of the user's line-of-sight. It can be displayed following the movement.

また、上述した画像表示装置としてコンピュータを機能させるためのコンピュータプログラムを提供することができる。   Further, it is possible to provide a computer program for causing a computer to function as the image display device described above.

本発明の実施の形態1による画像表示装置を含む動画ストリーミングシステム1の一構成例を示したシステム図である。1 is a system diagram showing a configuration example of a moving picture streaming system 1 including an image display device according to Embodiment 1 of the present invention. 図1の携帯電話機11の構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。FIG. 2 is a block diagram illustrating a configuration example of the mobile phone 11 in FIG. 1, illustrating an example of a functional configuration in the mobile phone 11. 人の視力の特性を示した図であり、黄斑部中心窩近傍でピークとなり、中心窩から離れると急激に低下する視力の特性曲線が示されている。It is a figure showing the characteristics of human visual acuity, and shows a characteristic curve of visual acuity that peaks in the vicinity of the central fovea of the macula and rapidly decreases when leaving the fovea. ユーザの目の位置及び視線方向と携帯電話機11との位置関係を模式的に示した説明図である。4 is an explanatory diagram schematically showing a positional relationship between a user's eye position and line-of-sight direction and a mobile phone 11; FIG. 図2の携帯電話機11において用いられる座標と視線方向との関係を示した図である。It is the figure which showed the relationship between the coordinate used in the mobile telephone 11 of FIG. 2, and a gaze direction. 図2の携帯電話機11において動画像の注視を判別するための注視判定領域4の一例を示した図である。FIG. 3 is a diagram showing an example of a gaze determination area 4 for determining gaze of a moving image in the mobile phone 11 of FIG. 2. 図2の携帯電話機11におけるストリーミング時の動作の一例を模式的に示した説明図であり、視線方向に基づくストリーム画像の画質切替の様子が示されている。It is explanatory drawing which showed typically an example of the operation | movement at the time of the streaming in the mobile telephone 11 of FIG. 2, and the mode of the image quality switching of the stream image based on a gaze direction is shown. 図2の携帯電話機11におけるストリーミング時の動作の一例を示したフローチャートである。3 is a flowchart showing an example of an operation during streaming in the mobile phone 11 of FIG. 本発明の実施の形態2による画像表示装置の一構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。FIG. 5 is a block diagram showing an example of the configuration of an image display device according to Embodiment 2 of the present invention, in which an example of a functional configuration in the mobile phone 11 is shown. 図9の携帯電話機11において動画像の周辺視を判別するための周辺視判定領域5の一例を示した図である。It is the figure which showed an example of the peripheral vision determination area | region 5 for discriminating the peripheral vision of a moving image in the mobile telephone 11 of FIG. 図9の携帯電話機11におけるストリーミング時の動作の一例を模式的に示した説明図である。It is explanatory drawing which showed typically an example of the operation | movement at the time of the streaming in the mobile telephone 11 of FIG. 図9の携帯電話機11におけるストリーミング時の動作の一例を示したフローチャートである。10 is a flowchart illustrating an example of an operation during streaming in the mobile phone 11 of FIG. 9. 本発明の実施の形態3による画像表示装置の一構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。FIG. 9 is a block diagram showing an example of the configuration of an image display device according to Embodiment 3 of the present invention, and shows an example of a functional configuration in the mobile phone 11. 本発明の実施の形態4による画像表示装置102を含む監視システム101の一構成例を示したシステム図である。It is the system figure which showed one structural example of the monitoring system 101 containing the image display apparatus 102 by Embodiment 4 of this invention. 図14の画像表示装置102におけるコントローラ103の構成例を示したブロック図である。FIG. 15 is a block diagram illustrating a configuration example of a controller 103 in the image display apparatus 102 of FIG. 14. 本発明の実施の形態5による画像表示装置の一構成例を示した斜視図であり、画像表示装置の一例として2画面端末201が示されている。It is the perspective view which showed one structural example of the image display apparatus by Embodiment 5 of this invention, and the 2 screen terminal 201 is shown as an example of an image display apparatus. 図16の2画面端末201の構成例を示したブロック図であり、2画面端末201内の機能構成の一例が示されている。FIG. 17 is a block diagram illustrating a configuration example of the two-screen terminal 201 in FIG. 16, illustrating an example of a functional configuration in the two-screen terminal 201. 本発明の実施の形態6による画像表示装置の一構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。FIG. 10 is a block diagram showing a configuration example of an image display device according to a sixth embodiment of the present invention, and shows an example of a functional configuration in the mobile phone 11. 図18の携帯電話機11におけるディスプレイ111の3D視野角Bとユーザの目の位置との関係を示した図である。It is the figure which showed the relationship between 3D viewing angle B of the display 111 and the position of a user's eyes in the mobile telephone 11 of FIG.

実施の形態1.
<動画ストリーミングシステム>
図1は、本発明の実施の形態1による画像表示装置を含む動画ストリーミングシステム1の一構成例を示したシステム図であり、画像表示装置の一例として携帯電話機11が示されている。この動画ストリーミングシステム1は、携帯電話機11、基地局12、通信ネットワーク13及びストリーミングサーバー14からなる動画再生システムであり、動画像データがストリーミングサーバー14から携帯電話機11に転送され、画面表示される。
Embodiment 1 FIG.
<Video streaming system>
FIG. 1 is a system diagram showing a configuration example of a moving picture streaming system 1 including an image display device according to Embodiment 1 of the present invention, and shows a mobile phone 11 as an example of the image display device. The moving picture streaming system 1 is a moving picture reproduction system including a mobile phone 11, a base station 12, a communication network 13, and a streaming server 14, and moving image data is transferred from the streaming server 14 to the mobile phone 11 and displayed on a screen.

携帯電話機11は、携帯可能な通信端末であり、上下方向に長い薄型の端末筐体の前面には、操作部110、ディスプレイ111及びカメラ112が配置されている。ディスプレイ111は、矩形形状の表示画面を有する表示装置であり、所定の表示領域内に動画像を表示する。カメラ112は、ユーザの視線方向を検出するために、端末操作者自身を被写体として撮影する撮像装置であり、端末操作者の顔又は上半身を撮影した被写体画像データが生成される。このカメラ112は、ディスプレイ111の前方の被写体を撮影するために、魚眼レンズが搭載されている。   The mobile phone 11 is a portable communication terminal, and an operation unit 110, a display 111, and a camera 112 are arranged on the front surface of a thin terminal casing that is long in the vertical direction. The display 111 is a display device having a rectangular display screen, and displays a moving image in a predetermined display area. The camera 112 is an imaging device that captures an image of the terminal operator itself as a subject in order to detect the user's line-of-sight direction, and generates subject image data that captures the face or upper body of the terminal operator. The camera 112 is equipped with a fisheye lens in order to photograph a subject in front of the display 111.

基地局12は、移動体通信網を介して携帯電話機11と通信する移動体基地局であり、インターネットなどの通信ネットワーク13に接続されている。ストリーミングサーバー14は、通信ネットワーク13を介してストリーム画像を提供する動画像提供装置である。   The base station 12 is a mobile base station that communicates with the mobile phone 11 via a mobile communication network, and is connected to a communication network 13 such as the Internet. The streaming server 14 is a moving image providing device that provides a stream image via the communication network 13.

ストリーム画像は、一連の画像フレーム15aからなる動画像データとして、動画像記憶部15内に予め保持され、通信ネットワーク13及び基地局12を介して携帯電話機11に転送される。動画像記憶部15には、転送用にデータ圧縮されたストリーム画像が保持される。この様なストリーム画像としては、撮像装置を用いて撮影されたライブ映像であっても良いし、コンピュータグラフィックスにより作成されたCG映像であっても良い。また、ストリーム画像は、所定の動画パケットに分割して順次に転送される。   The stream image is stored in advance in the moving image storage unit 15 as moving image data including a series of image frames 15 a and is transferred to the mobile phone 11 via the communication network 13 and the base station 12. The moving image storage unit 15 holds stream images compressed for transfer. Such a stream image may be a live video shot using an imaging device or a CG video created by computer graphics. The stream image is divided into predetermined moving image packets and sequentially transferred.

この動画ストリーミングシステム1では、被写体画像データに基づいて、ユーザの視線方向が検出され、その検出結果に基づいて、表示中のストリーム画像を注視しているか否かを判別してストリーム画像の画質が調整される。画質の調整は、例えば、ストリーミングサーバー14がストリーム画像を転送用にデータ圧縮する際の圧縮率を制御することにより行われ、高解像度動画像と、高解像度動画像よりも画質の低い低解像度動画像との間で画質が切り替えられる。   In this moving image streaming system 1, the user's line-of-sight direction is detected based on the subject image data, and based on the detection result, it is determined whether or not the stream image being displayed is being watched to determine the quality of the stream image. Adjusted. The adjustment of the image quality is performed, for example, by controlling the compression rate when the streaming server 14 compresses the data of the stream image for transfer, and the high-resolution moving image and the low-resolution moving image having a lower image quality than the high-resolution moving image. The image quality can be switched between images.

画質を切り替える際の具体例としては、輝度周波数、色周波数、動き補完の精度、画素補完の精度、フレームレート、色数、量子化ビット数又は画素数を高解像度動画像及び低解像度動画像間で異ならせる。また、フレーム間補完、画質補正、フレームレートの高速化などの画像処理の有無を高解像度動画像及び低解像度動画像間で異ならせても良い。   Specific examples of switching image quality include luminance frequency, color frequency, motion interpolation accuracy, pixel interpolation accuracy, frame rate, number of colors, number of quantization bits or number of pixels between high-resolution video and low-resolution video Make them different. Further, the presence or absence of image processing such as inter-frame interpolation, image quality correction, and frame rate acceleration may be made different between the high-resolution moving image and the low-resolution moving image.

<携帯電話機>
図2は、図1の携帯電話機11の構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。この携帯電話機11は、ディスプレイ111、カメラ112、セルラー通信部113、動画像データ取得部114、デコード部115、視線方向検出部116、注視判別部117、視線移動判別部118、移動方向判別部119及び表示画像切替部120により構成される。
<Mobile phone>
FIG. 2 is a block diagram illustrating a configuration example of the mobile phone 11 in FIG. 1, and illustrates an example of a functional configuration in the mobile phone 11. The mobile phone 11 includes a display 111, a camera 112, a cellular communication unit 113, a moving image data acquisition unit 114, a decoding unit 115, a gaze direction detection unit 116, a gaze determination unit 117, a gaze movement determination unit 118, and a movement direction determination unit 119. And a display image switching unit 120.

セルラー通信部113は、アンテナ113aを介して基地局12と通信し、移動体通信網に接続された他の通信装置との間で音声信号などを送受信する。動画像データ取得部114は、移動体通信網を介して通信ネットワーク13上のストリーミングサーバー14からストリーム画像を取得し、デコード部115へ出力する。   The cellular communication unit 113 communicates with the base station 12 via the antenna 113a, and transmits and receives audio signals and the like with other communication devices connected to the mobile communication network. The moving image data acquisition unit 114 acquires a stream image from the streaming server 14 on the communication network 13 via the mobile communication network, and outputs the stream image to the decoding unit 115.

デコード部115は、ストリーム画像を表示用にデータ伸張する復号処理部であり、データ伸張後のストリーム画像は、ディスプレイ111へ出力される。ストリーム画像は、動画パケットとして順次に取得され、デコードされて画面表示される。   The decoding unit 115 is a decoding processing unit that decompresses a stream image for display, and the stream image after data decompression is output to the display 111. Stream images are sequentially acquired as moving image packets, decoded, and displayed on the screen.

視線方向検出部116は、カメラ112からの被写体画像データに基づいて、ユーザの視線方向を検出し、その検出結果を注視判別部117へ出力する。被写体画像データに基づく視線方向の検出方法としては、従来から知られている種々の方法を用いることができる。例えば、顔認識処理により操作者の顔の位置及び向きを判別し、さらに、眼球上の瞳の位置を判別することにより、操作者の視線方向が検出される。   The gaze direction detection unit 116 detects the user's gaze direction based on the subject image data from the camera 112 and outputs the detection result to the gaze determination unit 117. Various conventionally known methods can be used as a method for detecting the line-of-sight direction based on the subject image data. For example, the face direction of the operator is detected by determining the position and orientation of the operator's face through face recognition processing and further determining the position of the pupil on the eyeball.

注視判別部117は、視線方向検出部116により検出された視線方向に基づいて、ユーザが表示中のストリーム画像を注視しているか否かを判別する。一般に、視野は、視線方向に形成される視力の高い注視領域と、注視領域を取り囲むように形成され、注視領域よりも視力の低い周辺視領域からなる。   The gaze determination unit 117 determines whether or not the user is watching the stream image being displayed based on the gaze direction detected by the gaze direction detection unit 116. In general, the visual field includes a gaze region with high visual acuity formed in the line-of-sight direction, and a peripheral vision region that is formed so as to surround the gaze region and has a visual acuity lower than that of the gaze region.

ストリーム画像の注視の判別は、視線方向が表示領域内を向いているか否かに基づいて行われる。すなわち、視線方向の注視領域の一部又は全部がストリーム画像の表示領域に含まれていれば、ストリーム画像を注視していると判断される。一方、注視領域が表示領域から離間している場合には、ストリーム画像を注視していないと判断される。   The gaze determination of the stream image is performed based on whether or not the line-of-sight direction is in the display area. That is, if a part or all of the gaze area in the line-of-sight direction is included in the display area of the stream image, it is determined that the stream image is being watched. On the other hand, when the gaze area is separated from the display area, it is determined that the stream image is not being watched.

表示画像切替部120は、注視判別部117の判別結果に基づいて、ユーザの視線方向に応じた画質に表示対象のストリーム画像を切り替えるために、ストリーミングサーバー14に対して画質の切替要求を行う。具体的には、ストリーム画像を注視している場合に、表示対象を低解像度動画像から高解像度動画像に切り替えるために、高解像度動画像データが要求される。一方、ストリーム画像を注視していない場合には、表示対象を高解像度動画像から低解像度動画像に切り替えるために、低解像度動画像データが要求される。   Based on the determination result of the gaze determination unit 117, the display image switching unit 120 requests the streaming server 14 to switch the image quality in order to switch the stream image to be displayed to the image quality according to the user's line-of-sight direction. Specifically, when a stream image is being watched, high-resolution moving image data is required to switch the display target from a low-resolution moving image to a high-resolution moving image. On the other hand, when the stream image is not watched, low resolution moving image data is required to switch the display target from the high resolution moving image to the low resolution moving image.

視線移動判別部118は、視線方向の移動方向を判別し、その判別結果を移動方向判別部119へ出力する。移動方向の判別は、例えば、ある時刻に検出された視線方向の注視点と、当該時刻から微小時間が経過した後の視線方向の注視点とを求めることにより行われる。   The line-of-sight movement determination unit 118 determines the movement direction in the line-of-sight direction, and outputs the determination result to the movement direction determination unit 119. The determination of the moving direction is performed, for example, by obtaining a gaze point in the gaze direction detected at a certain time and a gaze direction in the gaze direction after a minute time has elapsed from that time.

移動方向判別部119は、視線方向の移動方向がストリーム画像の表示領域外から表示領域へ向かう方向であるか否かを判別する。具体的には、注視点とストリーム画像の表示領域との距離を微小時間の経過前後で比較するとともに、微小時間の経過前後の注視点を結ぶ直線が表示領域と交差するか否かを判別することにより、表示領域へ向かう方向であるか否かが判別される。   The movement direction determination unit 119 determines whether or not the movement direction in the line-of-sight direction is a direction from the outside of the display area of the stream image toward the display area. Specifically, the distance between the gazing point and the display area of the stream image is compared before and after the lapse of the minute time, and it is determined whether or not a straight line connecting the gazing points before and after the lapse of the minute time intersects the display area. Thus, it is determined whether or not the direction is toward the display area.

表示画像切替部120では、視線方向の移動に十分に追従させてストリーム画像の画質を切り替えるために、ストリーム画像を注視していない場合であっても、視線方向がストリーム画像の表示領域外から表示領域へ向かって移動した場合には、ストリーミングサーバー14に対し、高解像度動画像データへの切り替えが要求される。   The display image switching unit 120 displays the gaze direction from outside the display area of the stream image even when the stream image is not being watched in order to sufficiently follow the movement in the gaze direction and switch the image quality of the stream image. When moving toward the area, the streaming server 14 is requested to switch to high resolution moving image data.

<視力の特性>
図3は、人の視力の特性を示した図であり、黄斑部中心窩近傍でピークとなり、中心窩から離れると急激に低下する視力の特性曲線が示されている。人の視力は、網膜上の黄斑部中心窩(位置a)近傍で最大(最大値b)となり、中心窩から耳側又は鼻側に離れると、急激に減少する。
<Visual characteristics>
FIG. 3 is a diagram showing the characteristics of human visual acuity, and shows a characteristic curve of visual acuity that peaks in the vicinity of the central fovea of the macular region and rapidly decreases when leaving the fovea. The human visual acuity reaches a maximum (maximum value b) in the vicinity of the macular fovea (position a) on the retina, and decreases rapidly as the distance from the fovea approaches the ear or nose.

つまり、表示面のある点を凝視している場合、その注視点を含む視線方向の狭小領域内のみ十分な視力が得られ、狭小領域外では、たとえ視野内であっても、極端に視力が低下する。本明細書では、上記狭小領域を注視領域と呼び、視野内における注視領域外の領域を周辺視領域と呼んでいる。通常、注視領域は、視線方向を中心として、±5°程度の領域からなる。周辺視領域では、漠然とした視力しかなく、物の動きや明るさの変化は認識できるが、物の形状や色は識別できない。   In other words, when staring at a point on the display surface, sufficient visual acuity is obtained only in a narrow area in the line of sight including the gazing point. descend. In the present specification, the narrow area is referred to as a gaze area, and an area outside the gaze area in the field of view is referred to as a peripheral vision area. Usually, the gaze area is composed of an area of about ± 5 ° with the line-of-sight direction as the center. In the peripheral vision region, there is only vague visual acuity, and the movement and brightness change of an object can be recognized, but the shape and color of the object cannot be identified.

<ユーザの目の位置と視線方向>
図4は、ユーザの目の位置及び視線方向と携帯電話機11との位置関係を模式的に示した説明図である。ユーザの目の位置E(E,E,E)と、視線方向を示す方向ベクトルρとは、携帯電話機11のディスプレイ111を基準とするXYZ座標系を用いて表すことができる。
<User eye position and line-of-sight direction>
FIG. 4 is an explanatory view schematically showing the positional relationship between the user's eye position and line-of-sight direction and the mobile phone 11. The position E (E X , E Y , E Z ) of the user's eyes and the direction vector ρ indicating the line-of-sight direction can be expressed using an XYZ coordinate system based on the display 111 of the mobile phone 11.

具体的には、ディスプレイ111の表示画面の中心を原点とし、表示画面に垂直にX軸、表示画面に対して左右方向にY軸、上下方向にZ軸をそれぞれ配置した座標系を用いて表すことができる。   Specifically, it is expressed using a coordinate system in which the center of the display screen of the display 111 is the origin, the X axis is perpendicular to the display screen, the Y axis is horizontal in the horizontal direction, and the Z axis is vertical. be able to.

<座標と視線方向との関係>
図5は、図2の携帯電話機11において用いられる座標と視線方向との関係を示した図である。図中の(a)には、ディスプレイ111の表示領域2に基づいて設定されたXYZの各座標軸からなる座標系が示されている。表示領域2は、表示画面内の矩形領域であり、ストリーム画像が表示領域2内に表示される。座標系は、表示領域2の中心を原点とし、表示領域2に垂直にX軸が配置されている。
<Relationship between coordinates and line-of-sight direction>
FIG. 5 is a diagram showing the relationship between the coordinates used in the mobile phone 11 of FIG. 2 and the line-of-sight direction. (A) in the figure shows a coordinate system composed of XYZ coordinate axes set based on the display area 2 of the display 111. The display area 2 is a rectangular area in the display screen, and a stream image is displayed in the display area 2. In the coordinate system, the center of the display area 2 is the origin, and the X axis is arranged perpendicular to the display area 2.

また、表示領域2の左右方向をY軸とし、上下方向をZ軸としている。また、表示領域2は、そのY軸方向の長さがSであり、Z軸方向の長さがSである。この様な座標系を用いて、目の位置E(E,E,E)が表される。 Further, the horizontal direction of the display area 2 is taken as the Y axis, and the vertical direction is taken as the Z axis. Further, the display region 2, the length of the Y-axis direction is S Y, the length in the Z-axis direction is S Z. Using such a coordinate system, the eye position E (E X , E Y , E Z ) is represented.

図中の(b)には、視線方向を示す方向ベクトルρと各座標軸との位置関係が示されている。方向ベクトルρ=(α,β,γ)は、長さが1の単位ベクトルであり、XY平面上の正射影がX軸となす角をθとし、XY平面に垂直な垂直面内で正射影となす角をθとすれば、α,β,γは次式(1)により表される。

Figure 2012095229
(B) in the figure shows the positional relationship between the direction vector ρ indicating the line-of-sight direction and each coordinate axis. The direction vector ρ = (α, β, γ) is a unit vector having a length of 1, and the angle formed by the orthogonal projection on the XY plane and the X axis is θ 1 and is positive in a vertical plane perpendicular to the XY plane. If the angle formed by the projection is θ 2 , α, β, and γ are expressed by the following equation (1).
Figure 2012095229

被写体画像に基づいて、角度θ,θを判別すれば、上式(1)を用いて方向ベクトルρの各成分を求めることができる。 If the angles θ 1 and θ 2 are determined based on the subject image, each component of the direction vector ρ can be obtained using the above equation (1).

<表示領域と注視判定領域>
図6は、図2の携帯電話機11において動画像の注視を判別するための注視判定領域4の一例を示した図である。ストリーム画像を注視しているか否かの判別は、視線方向の注視点が注視判定領域4内に存在するか、或いは、注視判定領域4外に存在するかを判別することにより行われる。
<Display area and gaze determination area>
FIG. 6 is a diagram showing an example of a gaze determination area 4 for determining gaze of a moving image in the mobile phone 11 of FIG. Whether or not the stream image is being watched is determined by determining whether or not the gaze point in the gaze direction exists in the gaze determination area 4 or outside the gaze determination area 4.

注視点は、視線がYZ平面と交差する点であり、注視点が注視判定領域4内に存在するか、或いは、注視判定領域4外に存在するかに応じて、適切なストリーム画像の画質が選択される。本実施の形態では、処理を簡素化するために、表示領域2の頂点3を通る円の内部をストリーム画像の注視判定領域4とする。つまり、注視点が表示領域2内であるか、或いは、表示領域2外であるかが、注視点が注視判定領域4内であるか、或いは、注視判定領域4外であるかにより簡易的に判定される。   The gaze point is a point where the line of sight intersects with the YZ plane, and the image quality of an appropriate stream image depends on whether the gaze point exists in the gaze determination region 4 or outside the gaze determination region 4. Selected. In the present embodiment, in order to simplify the processing, the inside of the circle passing through the vertex 3 of the display area 2 is set as the gaze determination area 4 of the stream image. That is, whether the gazing point is within the display area 2 or outside the display area 2, whether the gazing point is within the gaze determination area 4 or outside the gaze determination area 4 is simplified. Determined.

注視判定領域4は、その外縁を示す境界線が矩形形状の表示領域2に外接する領域であり、上記境界線は、YZ平面の原点を中心とし、表示領域2の対角線を直径とする円である。   The gaze determination area 4 is an area in which a boundary line indicating the outer edge circumscribes the rectangular display area 2, and the boundary line is a circle whose center is the origin of the YZ plane and whose diameter is the diagonal line of the display area 2. is there.

具体的に説明すれば、目の位置E(E,E,E)及び方向ベクトルρ=(α,β,γ)を用いて、注視点のYZ平面における位置は、(E−E×β/α,E−E×γ/α)により表される。 In detail, the eye position E (E X, E Y, E Z) and direction vector ρ = (α, β, γ ) with reference to, the position in the YZ plane of the gazing point, (E Y - E X × β / α, E Z −E X × γ / α).

従って、注視点が注視判定領域4内に存在するか、或いは、注視判定領域4外に存在するかは、次式(2)に基づいて判別することができる。

Figure 2012095229
Therefore, whether the gaze point is in the gaze determination area 4 or outside the gaze determination area 4 can be determined based on the following equation (2).
Figure 2012095229

すなわち、上式(2)を満たせば、注視点は注視判定領域4内に存在することから、ストリーム画像を注視していると判断して高解像度動画像が選択される。一方、上式(2)を満たさない場合には、注視点は注視判定領域4外に存在することから、ストリーム画像を注視していないと判断して低解像度動画像が選択される。ただし、視線方向が注視判定領域4外から注視判定領域4へ向かって移動した場合には、低解像度動画像から高解像度動画像に動作モードが切り替えられる。   That is, if the above equation (2) is satisfied, the gazing point is present in the gazing determination area 4, so that it is determined that the stream image is being gazed and a high-resolution moving image is selected. On the other hand, when the above formula (2) is not satisfied, the gazing point exists outside the gazing determination area 4, so that it is determined that the stream image is not being gazed and a low-resolution moving image is selected. However, when the line-of-sight direction moves from the gaze determination area 4 toward the gaze determination area 4, the operation mode is switched from the low resolution moving image to the high resolution moving image.

視線方向が注視判定領域4外から注視判定領域4へ向かって移動したか否かの判別は、注視点と注視判定領域4との距離を微小時間の経過前後で比較した比較結果と、微小時間の経過前後の注視点を結ぶ直線が注視判定領域4と交差するか否かの判別結果とに基づいて行われる。   Whether the line-of-sight direction has moved from outside the gaze determination area 4 toward the gaze determination area 4 is determined by comparing the distance between the gaze point and the gaze determination area 4 before and after the elapse of a minute time, This is performed based on the determination result as to whether or not a straight line connecting the gazing points before and after the elapse of time intersects the gaze determination area 4.

一般に、注視点が注視判定領域4に近づいている場合であっても、視線方向がそのまま注視判定領域4内に移動するとは限らない。注視点が注視判定領域4に近づき、かつ、注視点の移動方向が注視判定領域4内へ向かう方向である場合に、動作モードが高解像度動画像に切り替えられる。   In general, even when the gazing point is approaching the gaze determination area 4, the line-of-sight direction does not necessarily move into the gaze determination area 4 as it is. When the gazing point approaches the gazing determination region 4 and the moving direction of the gazing point is a direction toward the gazing determination region 4, the operation mode is switched to the high resolution moving image.

ここでは、目の位置EのX成分Eが十分に大きく、目の位置の変化が注視点の移動に及ぼす影響は、視線方向の変化が注視点の移動に及ぼす影響に比べて十分に小さいものとして、目の位置の変化を無視する。 Here, sufficient X component E X eye position E increases, the influence of the change in the position of the eyes on the movement of the gazing point is sufficiently small compared to the effect of changes in the viewing direction on the movement of the gazing point Ignore changes in eye position.

従って、ある時刻における方向ベクトルρ=(α,β,γ)に対し、微小時間が経過した時点での方向ベクトルを(α+dα,β+dβ,γ+dγ)とすれば、微小時間の経過後の注視点は、(E−E×(β+dβ)/(α+dα),E−E×(γ+dγ)/(α+dα))により表される。 Accordingly, if the direction vector at the time when the minute time has passed is (α + dα, β + dβ, γ + dγ) with respect to the direction vector ρ = (α, β, γ) at a certain time, the gaze point after the minute time has passed is , (E Y −E X × (β + dβ) / (α + dα), E Z −E X × (γ + dγ) / (α + dα)).

注視点が注視判定領域4に近づいたか否かは、注視点と注視判定領域4の中心との距離を微小時間の経過前後で比較した次式(3)に基づいて判別することができる。

Figure 2012095229
Whether or not the gaze point has approached the gaze determination area 4 can be determined based on the following formula (3) in which the distance between the gaze point and the center of the gaze determination area 4 is compared before and after the lapse of a minute time.
Figure 2012095229

すなわち、上式(3)を満たせば、注視点は、注視判定領域4に近づいたと判断することができる。一方、上式(3)を満たさない場合には、注視点は注視判定領域4に近づいていないと判断することができる。   That is, if the above equation (3) is satisfied, it can be determined that the gaze point has approached the gaze determination area 4. On the other hand, when the above formula (3) is not satisfied, it can be determined that the gaze point is not approaching the gaze determination area 4.

注視点の移動方向が注視判定領域4内へ向かう方向であるか否かは、微小時間の経過前後の注視点を結ぶ直線を求め、この直線と注視判定領域4の中心との距離を注視判定領域4の半径と比較することにより判別することができる。   Whether or not the moving direction of the gazing point is the direction toward the gaze determination area 4 is determined by obtaining a straight line connecting the gazing points before and after the elapse of a minute time, and determining the distance between the straight line and the center of the gaze determination area 4 This can be determined by comparing with the radius of the region 4.

微小時間の経過前後の注視点を結ぶ直線は、次式(4)により表すことができる。

Figure 2012095229
A straight line connecting the gazing points before and after the minute time can be expressed by the following equation (4).
Figure 2012095229

dαがαに比べて十分に小さいものとして、上式(4)を整理してまとめれば、次式(5)が得られる。

Figure 2012095229
If dα is sufficiently smaller than α and the above equation (4) is arranged and summarized, the following equation (5) is obtained.
Figure 2012095229

上式(5)の直線と注視判定領域4の中心(原点)との距離が、注視判定領域4の半径(S /4+S /4)1/2以下であれば、注視点の移動方向は、注視判定領域4内へ向かう方向である。ここでは、ストリーム画像を注視しているか否か、及び、視線方向が表示領域2へ向かって移動したか否かについて、円形状の注視判定領域4を用いて簡易的に判別する場合の例について説明したが、矩形形状の表示領域2を直接に用いて判別する場合も、注視判定領域4を用いる場合と同様にして行うことができる。 Distance between the straight line and the center of the attention judgment region 4 of the equation (5) (origin) is the radius of the attention judgment region 4 (S Y 2/4 + S Z 2/4) as long as 1/2 or less, of the gazing point The moving direction is a direction toward the gaze determination area 4. Here, an example of simple determination using the circular gaze determination area 4 as to whether or not the stream image is being watched and whether or not the line-of-sight direction has moved toward the display area 2 will be described. As described above, when the rectangular display area 2 is directly used for determination, the determination can be performed in the same manner as when the gaze determination area 4 is used.

<表示画像の切り替え>
図7は、図2の携帯電話機11におけるストリーミング時の動作の一例を模式的に示した説明図であり、視線方向に基づくストリーム画像の画質切替が示されている。図中の(a)には、ユーザの目がX軸上にある場合のディスプレイ111が示されている。図中の(b)には、目の位置E(E,E,E)を含むXZ平面に関し、視線方向と視線方向の移動方向とに基づいて、ディスプレイ111に表示中のストリーム画像の画質を高解像度動画像及び低解像度動画像間で切り替える様子が示されている。
<Switching display image>
FIG. 7 is an explanatory diagram schematically showing an example of an operation at the time of streaming in the mobile phone 11 of FIG. 2, and shows switching of the image quality of the stream image based on the line-of-sight direction. (A) in the figure shows the display 111 when the user's eyes are on the X axis. (B) in the figure shows a stream image being displayed on the display 111 on the XZ plane including the eye position E (E X , E Y , E Z ) based on the line-of-sight direction and the movement direction of the line-of-sight direction. The image quality is switched between the high-resolution moving image and the low-resolution moving image.

ユーザの視線方向がディスプレイ111内を向いている場合、すなわち、方向ベクトルρ=(α,β,γ)が高負荷領域A1内にあれば、ユーザはストリーム画像を注視していると判断され、表示対象として高解像度動画像が選択される。高負荷領域A1の境界は、ディスプレイ111の外縁に対応する。   If the user's line-of-sight direction is facing the display 111, that is, if the direction vector ρ = (α, β, γ) is within the high load area A1, it is determined that the user is watching the stream image, A high-resolution moving image is selected as a display target. The boundary of the high load area A1 corresponds to the outer edge of the display 111.

一方、視線方向がディスプレイ111外を向いている場合、すなわち、方向ベクトルρ=(α,β,γ)が低負荷領域A2内にあれば、ユーザはストリーム画像を注視していないと判断され、表示対象として低解像度動画像が選択される。低負荷領域A2は、高負荷領域A1に隣接して形成される。   On the other hand, if the line-of-sight direction is facing out of the display 111, that is, if the direction vector ρ = (α, β, γ) is within the low load area A2, it is determined that the user is not gazing at the stream image, A low resolution moving image is selected as a display target. The low load area A2 is formed adjacent to the high load area A1.

低解像度動画像が選択されている場合、視線方向がディスプレイ111へ向かって移動することが検知されれば、ストリーム画像がいずれ注視されると判断し、表示対象が低解像度動画像から高解像度動画像に切り替えられる。ただし、高解像度動画像への切り替え後、一定時間内に視線方向が高負荷領域A1内に移動しなければ、動作モードは低負荷動画像に復帰する。   When a low-resolution moving image is selected, if it is detected that the line-of-sight direction moves toward the display 111, it is determined that the stream image will eventually be watched, and the display target is changed from the low-resolution moving image to the high-resolution moving image. Switch to an image. However, if the line-of-sight direction does not move into the high load area A1 within a certain time after switching to the high resolution moving image, the operation mode returns to the low load moving image.

なお、方向ベクトルρのX成分αが0以上である場合(非表示領域A3)には、ユーザは端末側を向いていないと判断し、ストリーム画像の表示処理を中断させる非表示モードが選択される。非表示領域A3は、その境界がX成分α=0に対応する。   When the X component α of the direction vector ρ is 0 or more (non-display area A3), it is determined that the user is not facing the terminal side, and the non-display mode for interrupting the stream image display process is selected. The The non-display area A3 has a boundary corresponding to the X component α = 0.

図8のステップS101〜S111は、図2の携帯電話機11におけるストリーミング時の動作の一例を示したフローチャートである。まず、視線方向検出部116は、カメラ112により撮影された被写体画像データに基づいて、ユーザの視線方向を検出する(ステップS101)。このとき、視線方向の角度から方向ベクトルρのX成分αを求め、そのX成分αに基づいて、ユーザが端末側を見ていないと判断すれば、非表示モードが選択される(ステップS102,S111)。   Steps S101 to S111 in FIG. 8 are flowcharts showing an example of an operation during streaming in the mobile phone 11 in FIG. First, the line-of-sight direction detection unit 116 detects the line-of-sight direction of the user based on the subject image data captured by the camera 112 (step S101). At this time, if the X component α of the direction vector ρ is obtained from the angle of the line-of-sight direction and it is determined that the user is not looking at the terminal side based on the X component α, the non-display mode is selected (step S102, S111).

次に、注視判別部117は、検出された視線方向に基づいて、注視点を算出し(ステップS103)、ユーザが表示中のストリーム画像を注視しているか否かを判別する(ステップS104)。   Next, the gaze determination unit 117 calculates a gaze point based on the detected gaze direction (step S103), and determines whether or not the user is gazing at the displayed stream image (step S104).

このとき、表示画像切替部120は、注視判別部117による判別結果に基づいて、ユーザの視線方向の応じた画質に表示対象を切り替えるために、ストリーミングサーバー14に対して画質の切替要求を行う。すなわち、ストリーム画像が注視されていれば、高解像度動画像を表示対象とする高負荷動画像モードが選択され、ストリーム画像が注視されていなければ、低解像度動画像を表示対象とする低負荷動画像モードが選択される。   At this time, the display image switching unit 120 requests the streaming server 14 to switch the image quality in order to switch the display target to the image quality corresponding to the user's line-of-sight direction based on the determination result by the gaze determination unit 117. That is, if the stream image is being watched, the high-load moving image mode in which the high-resolution moving image is to be displayed is selected, and if the stream image is not being watched, the low-load moving image in which the low-resolution moving image is to be displayed. An image mode is selected.

低負荷動画像モードが選択された場合、視線移動判別部118は、視線の移動方向を判別し(ステップS105)、移動方向判別部119は、視線の移動方向の判別結果に基づいて、微小時間の経過により注視点が注視判定領域4に近づいたか否かを判別する(ステップS106)。このとき、注視点が注視判定領域4に近づいていなければ、低負荷動画像モードがそのまま維持される(ステップS110)。   When the low-load moving image mode is selected, the line-of-sight movement determination unit 118 determines the line-of-sight movement direction (step S105), and the movement direction determination unit 119 determines the minute time based on the determination result of the line-of-sight movement direction. It is determined whether or not the gazing point has approached the gazing determination area 4 as a result of elapse of time (step S106). At this time, if the gazing point is not approaching the gazing determination area 4, the low-load moving image mode is maintained as it is (step S110).

一方、注視点が注視判定領域4に近づいていれば、さらに、微小時間の経過前後の注視点を結ぶ直線が注視判定領域4と交差するか否かに基づいて、視線方向が注視判定領域4へ向かって移動したか否かが判別される(ステップS107)。このとき、視線方向が注視判定領域4へ向かって移動していなければ、低負荷動画像モードがそのまま維持される(ステップS110)。   On the other hand, if the gaze point is approaching the gaze determination area 4, the gaze direction is further determined based on whether or not a straight line connecting the gaze points before and after the elapse of a minute time intersects the gaze determination area 4. It is determined whether or not it has moved toward (step S107). At this time, if the line-of-sight direction has not moved toward the gaze determination area 4, the low-load moving image mode is maintained as it is (step S110).

一方、視線方向が注視判定領域4へ向かって移動していれば、表示画像切替部120は、ストリーミングサーバー14に対し、低負荷動画像モードから高負荷動画像モードへの切り替えを要求する(ステップS108)。   On the other hand, if the line-of-sight direction is moving toward the gaze determination area 4, the display image switching unit 120 requests the streaming server 14 to switch from the low-load video mode to the high-load video mode (step) S108).

つまり、高負荷動画像モード時に、注視判定領域4外への視線方向の移動が検知されれば、低負荷動画像モードへの切り替えが要求される。また、低負荷動画像モード時に、注視判定領域4内への視線方向の移動が検知されれば、高負荷動画像モードへの切り替えが要求される。一方、低負荷動画像モード時に、非表示領域A3内への視線方向の移動が検知されれば、動作モードが非表示モードに切り替えられる。   That is, when a movement in the line-of-sight direction outside the gaze determination area 4 is detected in the high-load moving image mode, switching to the low-load moving image mode is requested. Further, when movement in the line-of-sight direction into the gaze determination area 4 is detected in the low-load moving image mode, switching to the high-load moving image mode is requested. On the other hand, in the low-load moving image mode, if movement in the line-of-sight direction into the non-display area A3 is detected, the operation mode is switched to the non-display mode.

また、非表示モード時に、非表示領域A3外への視線方向の移動が検知されれば、動作モードが低負荷動画像モードに切り替えられる。ステップS101からステップS108までの処理手順は、ストリーミングを終了するまで繰り返される(ステップS109)。   Further, in the non-display mode, if movement in the line-of-sight direction outside the non-display area A3 is detected, the operation mode is switched to the low-load moving image mode. The processing procedure from step S101 to step S108 is repeated until the streaming ends (step S109).

本実施の形態によれば、視線方向が表示領域2へ向かって移動した場合に、表示対象を高解像度動画像に切り替えているので、視線方向が表示領域2外から表示領域2内に移動した場合に、ストリーム画像が低解像度動画像から高解像度動画像に切り替えられるまでのタイムラグを抑制することができる。特に、ストリーミングサーバー14に対し、視線方向が表示領域2に到達するよりも前に、高解像度動画像への切り替えが指示されるので、ストリーミングサーバー14から取得したストリーム画像であっても、ユーザの視線方向の移動に十分に追従させて表示させることができる。   According to the present embodiment, when the line-of-sight direction moves toward the display area 2, the display target is switched to the high-resolution moving image, so the line-of-sight direction has moved from outside the display area 2 into the display area 2. In this case, the time lag until the stream image is switched from the low resolution moving image to the high resolution moving image can be suppressed. In particular, since the streaming server 14 is instructed to switch to a high-resolution moving image before the line-of-sight direction reaches the display area 2, even if the stream image is acquired from the streaming server 14, the user's It is possible to display the image by sufficiently following the movement in the line-of-sight direction.

実施の形態2.
実施の形態1では、視線方向が表示領域2へ向かって移動すれば、ストリーム画像を高解像度動画像へ切り替える場合の例について説明した。これに対し、本実施の形態では、ストリーム画像を周辺視しているか否かを判別し、周辺視している状態で視線方向が表示領域2へ向かって移動すれば、高解像度動画像へ切り替えるが、周辺視していない状態では、視線方向が表示領域2へ向かって移動しても、高解像度動画像へ切り替えない場合について説明する。
Embodiment 2. FIG.
In the first embodiment, the example in which the stream image is switched to the high-resolution moving image when the line-of-sight direction moves toward the display region 2 has been described. On the other hand, in the present embodiment, it is determined whether or not the stream image is viewed from the periphery, and when the line-of-sight direction moves toward the display area 2 in the peripheral view state, the stream image is switched to the high-resolution moving image. However, in a state where the peripheral view is not performed, a case will be described in which the line-of-sight direction does not switch to the high-resolution moving image even if the line-of-sight direction moves toward the display area 2.

図9は、本発明の実施の形態2による画像表示装置の一構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。この携帯電話機11は、図2の携帯電話機11と比較すれば、周辺視判別部121を備えている点で異なる。   FIG. 9 is a block diagram showing a configuration example of the image display device according to the second embodiment of the present invention, and shows an example of a functional configuration in the mobile phone 11. This mobile phone 11 is different from the mobile phone 11 of FIG. 2 in that it includes a peripheral vision determination unit 121.

周辺視判別部121は、ストリーム画像を全く見ていないときに誤って低解像度動画像から高解像度動画像に切り替えられることを防ぐために、視線方向検出部116により検出された視線方向に基づいて、ユーザが表示中のストリーム画像を周辺視しているか否かを判別する。   In order to prevent the peripheral vision determination unit 121 from erroneously switching from the low resolution moving image to the high resolution moving image when the stream image is not viewed at all, based on the visual line direction detected by the visual line direction detection unit 116, It is determined whether or not the user is viewing the stream image being displayed.

ストリーム画像の周辺視の判別は、視線方向が所定の周辺視判定領域内を向いているか否かに基づいて行われる。すなわち、視線方向の注視領域の一部又は全部が周辺視判定領域に含まれていれば、ストリーム画像を周辺視していると判断される。一方、注視領域が周辺視判定領域から離間している場合には、ストリーム画像を周辺視していないと判断される。   The discrimination of the peripheral vision of the stream image is performed based on whether or not the line-of-sight direction is in a predetermined peripheral vision determination area. That is, if a part or all of the gaze area in the line-of-sight direction is included in the peripheral vision determination area, it is determined that the stream image is viewed in the peripheral area. On the other hand, when the gaze area is separated from the peripheral vision determination area, it is determined that the stream image is not peripherally viewed.

表示画像切替部120では、ストリーム画像を周辺視している状態で、視線方向が表示領域へ向かって移動した場合に、表示対象を低負荷動画像から高負荷動画像に切り替える。一方、ストリーム画像を周辺視していない状態では、視線方向が表示領域へ向かって移動しても、表示対象を切り替えない。   The display image switching unit 120 switches the display target from the low-load moving image to the high-load moving image when the line-of-sight direction moves toward the display area while viewing the stream image in the peripheral view. On the other hand, when the stream image is not viewed from the periphery, the display target is not switched even if the line-of-sight direction moves toward the display area.

<周辺視判定領域>
図10は、図9の携帯電話機11において動画像の周辺視を判別するための周辺視判定領域5の一例を示した図である。ストリーム画像を周辺視しているか否かの判別は、視線方向の注視点が周辺視判定領域5内に存在するか、或いは、周辺視判定領域5外に存在するかを判別することにより行われる。
<Peripheral vision determination area>
FIG. 10 is a diagram showing an example of a peripheral vision determination area 5 for determining peripheral vision of a moving image in the mobile phone 11 of FIG. Whether or not the stream image is peripherally viewed is determined by determining whether or not the gaze point in the line-of-sight direction exists in the peripheral vision determination area 5 or outside the peripheral vision determination area 5. .

周辺視判定領域5は、注視判定領域4の外縁を示す境界線(円)を内縁とし、当該境界線よりも半径が大きく、境界線と同心の円を外縁とする円環状の領域である。注視点が周辺視判定領域5内に存在すれば、ストリーム画像を周辺視していると判断され、注視点が周辺視判定領域5外に存在すれば、ストリーム画像を周辺視していないと判断される。   The peripheral vision determination region 5 is an annular region having a boundary line (circle) indicating the outer edge of the gaze determination region 4 as an inner edge, a radius larger than the boundary line, and a circle concentric with the boundary line as an outer edge. If the gazing point exists in the peripheral vision determination area 5, it is determined that the stream image is viewed peripherally. If the gazing point exists outside the peripheral vision determination area 5, it is determined that the stream image is not viewed peripherally. Is done.

図11は、図9の携帯電話機11におけるストリーミング時の動作の一例を模式的に示した説明図である。周辺視判定領域5は、低負荷領域A2内において、高負荷領域A1に隣接して形成される。   FIG. 11 is an explanatory view schematically showing an example of an operation during streaming in the mobile phone 11 of FIG. The peripheral vision determination area 5 is formed adjacent to the high load area A1 in the low load area A2.

視線方向を示す方向ベクトルρが周辺視判定領域5内にある場合、視線方向が高負荷領域A1へ向かって移動することが検知されれば、表示対象が高解像度動画像へ切り替えられる。これに対し、方向ベクトルρが低負荷領域A2内であっても、周辺視判定領域5内でない場合には、視線方向が高負荷領域A1へ向かって移動することが検知されても、表示対象を切り替えない。   When the direction vector ρ indicating the line-of-sight direction is within the peripheral vision determination area 5, if the movement of the line-of-sight direction toward the high load area A1 is detected, the display target is switched to the high-resolution moving image. On the other hand, even if the direction vector ρ is within the low load area A2 and not within the peripheral vision determination area 5, the display target is detected even if it is detected that the line-of-sight direction moves toward the high load area A1. Do not switch.

図12のステップS201〜S212は、図9の携帯電話機11におけるストリーミング時の動作の一例を示したフローチャートである。ステップS201からステップS207までの処理手順は、図8のステップS101からステップS107までの処理手順と同様である。   Steps S201 to S212 in FIG. 12 are flowcharts illustrating an example of an operation during streaming in the mobile phone 11 in FIG. The processing procedure from step S201 to step S207 is the same as the processing procedure from step S101 to step S107 in FIG.

ステップS207において、視線方向が注視判定領域4へ向かって移動していなければ、低負荷動画像モードがそのまま維持される(ステップS211)。一方、視線方向が注視判定領域4へ向かって移動している場合、周辺視判別部121は、検出された視線方向に基づいて、ユーザが表示中のストリーム画像を周辺視しているか否かを判別する(ステップS208)。   If the line-of-sight direction has not moved toward the gaze determination area 4 in step S207, the low-load moving image mode is maintained as it is (step S211). On the other hand, when the line-of-sight direction is moving toward the gaze determination region 4, the peripheral vision determination unit 121 determines whether the user is peripherally viewing the stream image being displayed based on the detected line-of-sight direction. A determination is made (step S208).

このとき、表示画像切替部120は、ストリーム画像が周辺視されていれば、ストリーミングサーバー14に対し、低負荷動画像モードから高負荷動画像モードへの切り替えを要求する(ステップS209)。一方、ストリーム画像が周辺視されていなければ、低負荷動画像モードがそのまま維持される(ステップS211)。ステップS201からステップS209までの処理手順は、ストリーミングを終了するまで繰り返される(ステップS210)。   At this time, if the stream image is viewed peripherally, the display image switching unit 120 requests the streaming server 14 to switch from the low-load moving image mode to the high-load moving image mode (step S209). On the other hand, if the stream image is not viewed from the periphery, the low-load moving image mode is maintained as it is (step S211). The processing procedure from step S201 to step S209 is repeated until the streaming ends (step S210).

本実施の形態によれば、ストリーム画像を周辺視していなければ、視線方向が表示領域2へ向かって移動しても、表示対象を切り替えないので、ストリーム画像を全く見ていないにもかかわらず、表示対象が低解像度動画像から高解像度動画像に切り替えられることを防止することができる。   According to the present embodiment, if the stream image is not viewed from the periphery, the display target is not switched even if the line-of-sight direction moves toward the display area 2, so the stream image is not viewed at all. It is possible to prevent the display target from being switched from the low resolution moving image to the high resolution moving image.

実施の形態3.
実施の形態1では、通信ネットワーク13上のストリーミングサーバー14からストリーム画像を取得して表示する際に、ユーザの視線方向を検知してストリーム画像の画質を切り替える場合の例について説明した。これに対し、本実施の形態では、カメラから動画像データを取得して表示させる際に、ユーザの視線方向を検知して動画像データの画質を切り替える場合について説明する。
Embodiment 3 FIG.
In the first embodiment, an example has been described in which, when a stream image is acquired from the streaming server 14 on the communication network 13 and displayed, the user's line-of-sight direction is detected and the image quality of the stream image is switched. On the other hand, in the present embodiment, a case will be described in which when moving image data is acquired from a camera and displayed, the user's line-of-sight direction is detected and the image quality of the moving image data is switched.

図13は、本発明の実施の形態3による画像表示装置の一構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。この携帯電話機11は、図2の携帯電話機11と比較すれば、カメラ131を備えている点で異なる。   FIG. 13 is a block diagram showing a configuration example of the image display device according to the third embodiment of the present invention, and shows an example of a functional configuration in the mobile phone 11. The mobile phone 11 is different from the mobile phone 11 of FIG. 2 in that a camera 131 is provided.

カメラ131は、被写体を撮影して被写体画像を生成する撮像装置である。静止画撮影の待機時や動画撮影時には、一連の画像フレームからなる動画像データが生成される。このカメラ131では、動画像データの画質を調整することができる。   The camera 131 is an imaging device that captures a subject and generates a subject image. When waiting for still image shooting or moving image shooting, moving image data including a series of image frames is generated. The camera 131 can adjust the image quality of the moving image data.

動画像データ取得部114は、カメラ131から動画像データを順次に取得し、ディスプレイ111へ出力する。ディスプレイ111は、カメラ131により撮影された被写体画像をファインダー表示する表示装置であり、動画像データ取得部114が取得した動画像データに基づいて、動画像を表示領域内に表示する。   The moving image data acquisition unit 114 sequentially acquires moving image data from the camera 131 and outputs it to the display 111. The display 111 is a display device that displays a subject image captured by the camera 131 in a finder, and displays a moving image in a display area based on the moving image data acquired by the moving image data acquisition unit 114.

表示画像切替部120は、カメラ131に対し、動画像を注視している場合、高解像度動画像データを要求する。一方、動画像を注視していない場合には、低解像度動画像データが要求される。そして、動画像を注視していない場合であっても、視線方向が表示領域へ向かって移動した場合には、高解像度動画像データへの切り替えが要求される。   The display image switching unit 120 requests the high resolution moving image data from the camera 131 when the moving image is being watched. On the other hand, when the moving image is not watched, low resolution moving image data is required. Even when the moving image is not being watched, when the line-of-sight direction moves toward the display area, switching to high-resolution moving image data is required.

本実施の形態によれば、カメラ131に対し、視線方向が表示領域2に到達するよりも前に、高解像度動画像への切り替えが指示されるので、ユーザの視線方向の移動に十分に追従させてカメラ131の動画像を表示させることができる。   According to the present embodiment, the camera 131 is instructed to switch to a high-resolution moving image before the line-of-sight direction reaches the display area 2, and thus sufficiently follows the movement of the user's line-of-sight direction. Thus, the moving image of the camera 131 can be displayed.

なお、カメラ131が、被写体にピントを自動的に合わせるオートフォーカス機能や被写体を照明する照明機能を有する場合、撮影待機時に、カメラ131の動画像を注視しているか否かに応じて、オートフォーカス機能をオン又はオフさせ、或いは、照明を異ならせても良い。   Note that when the camera 131 has an autofocus function that automatically focuses on the subject or an illumination function that illuminates the subject, the autofocus depends on whether or not the moving image of the camera 131 is being watched during standby for shooting. The function may be turned on or off, or the lighting may be different.

実施の形態4.
実施の形態1では、通信ネットワーク13上のストリーミングサーバー14からストリーム画像を取得して表示する際に、ユーザの視線方向を検知してストリーム画像の画質を切り替える場合の例について説明した。これに対し、本実施の形態では、複数の監視カメラから動画像データを取得して監視カメラごとに表示させる際に、ユーザの視線方向を検知して動画像データの画質を切り替える場合について説明する。
Embodiment 4 FIG.
In the first embodiment, an example has been described in which, when a stream image is acquired from the streaming server 14 on the communication network 13 and displayed, the user's line-of-sight direction is detected and the image quality of the stream image is switched. In contrast, in the present embodiment, a case will be described in which when moving image data is acquired from a plurality of monitoring cameras and displayed for each monitoring camera, the user's line-of-sight direction is detected and the image quality of the moving image data is switched. .

<監視システム>
図14は、本発明の実施の形態4による画像表示装置102を含む監視システム101の一構成例を示したシステム図である。この監視システム101は、画像表示装置102、通信ネットワーク104及び複数の監視カメラ105からなる動画再生システムであり、各監視カメラ105により撮影された動画像データが画像表示装置102に転送され、それぞれ画面表示される。
<Monitoring system>
FIG. 14 is a system diagram showing a configuration example of the monitoring system 101 including the image display apparatus 102 according to the fourth embodiment of the present invention. The monitoring system 101 is a moving image reproduction system including an image display device 102, a communication network 104, and a plurality of monitoring cameras 105, and moving image data captured by each monitoring camera 105 is transferred to the image display device 102, and each screen is displayed. Is displayed.

監視カメラ105は、LAN(ローカルエリアネットワーク)などの通信ネットワーク104に接続された監視用の撮像装置であり、一連の画像フレームからなる動画像データを生成する。監視カメラ105により撮影された動画像データは、その画質を調整することができ、監視カメラ105内の記憶装置に記録される。   The monitoring camera 105 is a monitoring imaging device connected to a communication network 104 such as a LAN (local area network), and generates moving image data including a series of image frames. The moving image data captured by the monitoring camera 105 can be adjusted in its image quality and is recorded in a storage device in the monitoring camera 105.

画像表示装置102は、複数のディスプレイ111及びコントローラ103からなり、対応する監視カメラ105の動画像をそれぞれ表示する。その際、視線方向に基づいて、ユーザがいずれのディスプレイ111を注視しているかを検知し、動画像が注視されている監視カメラ105に対して高解像度動画像データを要求する一方、動画像が注視されていない監視カメラ105に対して低解像度動画像データが要求される。   The image display device 102 includes a plurality of displays 111 and a controller 103, and displays a moving image of the corresponding monitoring camera 105, respectively. At that time, based on the line-of-sight direction, it is detected which display 111 the user is gazing at, and the high-resolution moving image data is requested to the monitoring camera 105 on which the moving image is being watched. Low resolution moving image data is required for the surveillance camera 105 not being watched.

図15は、図14の画像表示装置102におけるコントローラ103の構成例を示したブロック図である。このコントローラ103は、図2の携帯電話機11と比較すれば、ネットワークI/F141及び表示制御部142を備えている点で異なる。   FIG. 15 is a block diagram illustrating a configuration example of the controller 103 in the image display apparatus 102 of FIG. The controller 103 is different from the mobile phone 11 of FIG. 2 in that it includes a network I / F 141 and a display control unit 142.

ネットワークI/F(インターフェース)141は、通信ネットワーク104を介して各監視カメラ105と通信する通信部である。動画像データ取得部114は、ネットワークI/F141を介して監視カメラ105のそれぞれから動画像データを取得し、表示制御部142へ出力する。表示制御部142は、監視カメラ105により撮影された監視映像を表示するための画面データを生成し、各ディスプレイ111へ出力する画面データ生成部である。各ディスプレイ111には、対応する監視カメラ105から取得された動画像データに基づいて、動画像が表示される。   A network I / F (interface) 141 is a communication unit that communicates with each monitoring camera 105 via the communication network 104. The moving image data acquisition unit 114 acquires moving image data from each of the monitoring cameras 105 via the network I / F 141 and outputs the moving image data to the display control unit 142. The display control unit 142 is a screen data generation unit that generates screen data for displaying the monitoring video captured by the monitoring camera 105 and outputs the screen data to each display 111. A moving image is displayed on each display 111 based on the moving image data acquired from the corresponding monitoring camera 105.

例えば、「監視カメラ1」の動画像データは、「ディスプレイ1」に表示され、「監視カメラ2」の動画像データは、「ディスプレイ2」に表示され、「監視カメラ3」の動画像データは、「ディスプレイ3」に表示される。   For example, the moving image data of “surveillance camera 1” is displayed on “display 1”, the moving image data of “monitoring camera 2” is displayed on “display 2”, and the moving image data of “monitoring camera 3” is , Displayed on “Display 3”.

表示画像切替部120は、動画像が注視されている監視カメラ105に対して高解像度動画像データを要求する一方、動画像が注視されていない監視カメラ105に対して低解像度動画像データを要求する。そして、動画像が注視されていない場合であっても、視線方向が表示領域へ向かって移動した監視カメラ105に対しては、高解像度動画像データへの切り替えが要求される。   The display image switching unit 120 requests high resolution moving image data from the monitoring camera 105 in which the moving image is being watched, while requesting low resolution moving image data from the monitoring camera 105 in which the moving image is not being watched. To do. Even if the moving image is not being watched, the monitoring camera 105 whose line-of-sight direction has moved toward the display area is requested to switch to high-resolution moving image data.

本実施の形態によれば、視線方向が表示領域へ向かって移動した場合に、当該表示領域に動画像データを表示させている監視カメラ105に対し、視線方向が表示領域に到達するよりも前に、高解像度動画像への切り替えが指示される。このため、ユーザの視線方向の移動に十分に追従させて監視カメラ105の動画像を表示させることができる。   According to the present embodiment, when the line-of-sight direction moves toward the display area, the line-of-sight direction reaches the display area before the monitoring camera 105 displaying the moving image data in the display area. In addition, switching to a high-resolution moving image is instructed. For this reason, the moving image of the monitoring camera 105 can be displayed sufficiently following the movement of the user's line of sight.

実施の形態5.
実施の形態1では、通信ネットワーク13上のストリーミングサーバー14からストリーム画像を取得して表示する際に、ユーザの視線方向を検知してストリーム画像の画質を切り替える場合の例について説明した。これに対し、本実施の形態では、記憶装置内の動画像データをデコードして表示する際に、ユーザの視線方向を検知して動画像データの画質を切り替える場合について説明する。
Embodiment 5 FIG.
In the first embodiment, an example has been described in which, when a stream image is acquired from the streaming server 14 on the communication network 13 and displayed, the user's line-of-sight direction is detected and the image quality of the stream image is switched. In contrast, in the present embodiment, a case will be described in which when the moving image data in the storage device is decoded and displayed, the user's line-of-sight direction is detected and the image quality of the moving image data is switched.

<2画面端末>
図16は、本発明の実施の形態5による画像表示装置の一構成例を示した斜視図であり、画像表示装置の一例として2画面端末201が示されている。この2画面端末201は、操作部110、2つのディスプレイ111及びカメラ112を備えた携帯端末である。各ディスプレイ111は、互いに離間して配置されている。
<Two-screen terminal>
FIG. 16 is a perspective view showing a configuration example of an image display apparatus according to Embodiment 5 of the present invention, and a two-screen terminal 201 is shown as an example of the image display apparatus. The two-screen terminal 201 is a portable terminal that includes an operation unit 110, two displays 111, and a camera 112. Each display 111 is arranged to be separated from each other.

この2画面端末201は、動画像を各ディスプレイ111にそれぞれ表示している際に、視線方向に基づいて、ユーザがいずれのディスプレイ111を注視しているかを検知し、注視されている動画像の画質を高解像度にする一方、注視されていない動画像の画質を低解像度する。   The two-screen terminal 201 detects which display 111 the user is gazing at based on the line-of-sight direction when displaying a moving image on each display 111, and While the image quality is set to a high resolution, the image quality of a moving image that is not being watched is reduced to a low resolution.

図17は、図16の2画面端末201の構成例を示したブロック図であり、2画面端末201内の機能構成の一例が示されている。この2画面端末201は、図2の携帯電話機11と比較すれば、動画像データ記憶部151を備えている点で異なる。   FIG. 17 is a block diagram illustrating a configuration example of the two-screen terminal 201 in FIG. 16, and an example of a functional configuration in the two-screen terminal 201 is illustrated. The two-screen terminal 201 is different from the mobile phone 11 of FIG. 2 in that it includes a moving image data storage unit 151.

動画像データ記憶部151には、2つの動画像データ151a,151bが保持されている。動画像データ151a,151bは、一連の画像フレームからなり、保存用に予めデータ圧縮されている。   The moving image data storage unit 151 holds two moving image data 151a and 151b. The moving image data 151a and 151b are composed of a series of image frames, and are previously compressed for storage.

デコード部115は、動画像データ記憶部151内の動画像データ151a,151bを表示用にデータ伸張する復号処理部であり、デコード量を調整することにより、動画像データ151a,151bの画質を調整することができる。データ伸張後の動画像データは、対応するディスプレイ111へ出力される。   The decoding unit 115 is a decoding processing unit that decompresses the moving image data 151a and 151b in the moving image data storage unit 151 for display, and adjusts the image quality of the moving image data 151a and 151b by adjusting the decoding amount. can do. The moving image data after data expansion is output to the corresponding display 111.

各ディスプレイ111は、デコードされた動画像データに基いて、動画像を表示領域内にそれぞれ表示する。例えば、デコード後の動画像データ「動画1」は、「ディスプレイ1」に表示され、デコード後の動画像データ「動画2」は、「ディスプレイ2」に表示される。   Each display 111 displays a moving image in a display area based on the decoded moving image data. For example, the decoded moving image data “moving image 1” is displayed on “display 1”, and the decoded moving image data “moving image 2” is displayed on “display 2”.

表示画像切替部120は、デコード部115に対し、動画像が注視されているディスプレイ111について高解像度動画像データを要求する一方、動画像が注視されていないディスプレイ111について低解像度動画像データを要求する。そして、動画像が注視されていない場合であっても、視線方向が表示領域へ向かって移動した場合には、当該表示領域に表示させる動画像データについて、高解像度動画像データへの切り替えが要求される。   The display image switching unit 120 requests the decoding unit 115 for high-resolution moving image data for the display 111 on which the moving image is being watched, while requesting low-resolution moving image data for the display 111 on which the moving image is not being watched. To do. Even when the moving image is not being watched, if the line-of-sight direction moves toward the display area, the moving image data to be displayed in the display area needs to be switched to high-resolution moving image data. Is done.

本実施の形態によれば、視線方向が表示領域へ向かって移動した場合に、当該表示領域に表示させる動画像データについて、高解像度動画像データへの切り替えがデコード部115に指示される。このため、ユーザの視線方向に応じて適切な動画像を表示させつつ、ユーザの視線方向の移動に十分に追従させて動画像を表示させることができる。   According to the present embodiment, when the line-of-sight direction moves toward the display area, the decoding unit 115 is instructed to switch the moving image data displayed in the display area to high-resolution moving image data. For this reason, it is possible to display a moving image sufficiently following the movement of the user's line of sight while displaying an appropriate moving image according to the user's line of sight.

実施の形態6.
実施の形態1では、通信ネットワーク13上のストリーミングサーバー14からストリーム画像を取得して表示する際に、ユーザの視線方向を検知してストリーム画像の画質を切り替える場合の例について説明した。これに対し、本実施の形態では、ユーザの目の位置を検知し、ユーザがディスプレイ111の3D視野角内にいるか否かを判別してストリーム画像を3D動画像及び2D動画像間で切り替える場合について説明する。
Embodiment 6 FIG.
In the first embodiment, an example has been described in which, when a stream image is acquired from the streaming server 14 on the communication network 13 and displayed, the user's line-of-sight direction is detected and the image quality of the stream image is switched. In contrast, in the present embodiment, the position of the user's eyes is detected, it is determined whether the user is within the 3D viewing angle of the display 111, and the stream image is switched between the 3D moving image and the 2D moving image. Will be described.

図18は、本発明の実施の形態6による画像表示装置の一構成例を示したブロック図であり、携帯電話機11内の機能構成の一例が示されている。この携帯電話機11は、図2の携帯電話機11と比較すれば、目位置検出部161及び視野角判別部162を備えている点で異なる。   FIG. 18 is a block diagram showing a configuration example of the image display apparatus according to the sixth embodiment of the present invention, and shows an example of a functional configuration in the mobile phone 11. This mobile phone 11 is different from the mobile phone 11 of FIG. 2 in that an eye position detection unit 161 and a viewing angle determination unit 162 are provided.

目位置検出部161は、カメラ112からの被写体画像データに基づいて、ユーザの目の位置E(E,E,E)を検出し、その検出結果を視野角判別部162へ出力する。視野角判別部162は、目位置検出部161により検出された目の位置Eに基づいて、ユーザがディスプレイ111の3D視野角内にいるか否かを判別し、その判別結果を表示画像切替部120へ出力する。 The eye position detection unit 161 detects the user's eye position E (E X , E Y , E Z ) based on the subject image data from the camera 112, and outputs the detection result to the viewing angle determination unit 162. . The viewing angle determination unit 162 determines whether the user is within the 3D viewing angle of the display 111 based on the eye position E detected by the eye position detection unit 161, and displays the determination result as the display image switching unit 120. Output to.

3D視野角は、3D動画像(3次元映像)をディスプレイ111の表示画面内に表示した際に、その3D動画像を正しく視認(立体視)することができる範囲を示す物理量であり、表示画面に垂直な直線に対する角度により規定される。   The 3D viewing angle is a physical quantity indicating a range in which a 3D moving image (3D video) can be correctly viewed (stereoscopically) when the 3D moving image (3D video) is displayed on the display screen of the display 111. Is defined by the angle with respect to a straight line perpendicular to.

ディスプレイ111は、3D動画像又は2D動画像のいずれかを表示領域2内に表示する。表示画像切替部120は、ユーザが3D視野角内にいる状態で視線方向が表示領域2へ向かって移動した場合に、表示対象を2D動画像から3D動画像に切り替える。一方、ユーザが3D視野角外にいる状態では、視線方向が表示領域2へ向かって移動しても、表示対象を切り替えない。   The display 111 displays either the 3D moving image or the 2D moving image in the display area 2. The display image switching unit 120 switches the display target from the 2D moving image to the 3D moving image when the line-of-sight direction moves toward the display area 2 while the user is within the 3D viewing angle. On the other hand, when the user is outside the 3D viewing angle, the display target is not switched even if the line-of-sight direction moves toward the display area 2.

<3D視野角>
図19は、図18の携帯電話機11におけるディスプレイ111の3D視野角Bとユーザの目の位置との関係を示した図である。3D動画像をディスプレイ111に表示する場合、3D動画像を正しく立体視することができるのは、ディスプレイ111の3D視野角B内に制限される。この3D視野角Bは、ディスプレイ111の中心を通ってディスプレイ111に垂直な直線(X軸)に対する角度により規定され、通常、2D動画像を表示する場合の視野角よりも狭い。
<3D viewing angle>
FIG. 19 is a diagram showing the relationship between the 3D viewing angle B of the display 111 and the position of the user's eyes in the mobile phone 11 of FIG. When a 3D moving image is displayed on the display 111, the 3D moving image can be correctly stereoscopically viewed within the 3D viewing angle B of the display 111. This 3D viewing angle B is defined by an angle with respect to a straight line (X axis) perpendicular to the display 111 through the center of the display 111, and is usually narrower than the viewing angle in the case of displaying a 2D moving image.

ユーザの目の位置Eがこの様な3D視野角B内にある場合に、視線方向が表示領域2へ向かって移動すれば、表示対象が2D動画像から3D動画像に切り替えられる。一方、目の位置Eが3D視野角B外にある場合には、視線方向が表示領域2へ向かって移動しても、表示対象は切り替えない。   When the user's eye position E is within such a 3D viewing angle B, if the line-of-sight direction moves toward the display area 2, the display target is switched from the 2D moving image to the 3D moving image. On the other hand, when the eye position E is outside the 3D viewing angle B, the display target is not switched even if the line-of-sight direction moves toward the display area 2.

本実施の形態によれば、ユーザがディスプレイ111の3D視野角B内にいなければ、視線方向が表示領域へ向かって移動しても、表示対象を切り替えない。このため、ユーザが3D動画像を正しく視認できない位置にいるにもかかわらず、表示対象が2D動画像から3D動画像に切り替えられることを防止することができる。従って、視線方向の移動に十分に追従させて動画像の画質を切り替えることができるとともに、3D動画像を正しく視認できないときに誤って2D動画像から3D動画像に切り替えられることを防止することができる。   According to the present embodiment, if the user is not within the 3D viewing angle B of the display 111, the display target is not switched even if the line-of-sight direction moves toward the display area. For this reason, it is possible to prevent the display target from being switched from the 2D moving image to the 3D moving image even though the user is in a position where the 3D moving image cannot be viewed correctly. Accordingly, it is possible to switch the image quality of the moving image sufficiently following the movement in the line of sight, and to prevent the 3D moving image from being erroneously switched from the 2D moving image to the 3D moving image when the 3D moving image cannot be visually recognized correctly. it can.

なお、実施の形態1〜6では、カメラ112を用いて被写体を撮影し、その画像データを解析することにより、ユーザの視線方向を検出する場合の例について説明したが、視線方向の検出方法はこれに限定されるものではない。例えば、眼球の定常電位を測定して眼球の位置を特定する方法、或いは、角膜による反射像を位置検出センサで検出する方法を用いて視線方向を検知するものも本発明には含まれる。   In the first to sixth embodiments, an example in which a subject is photographed using the camera 112 and the user's gaze direction is detected by analyzing the image data has been described. However, the gaze direction detection method is described below. It is not limited to this. For example, the present invention also includes a method for detecting the direction of the line of sight using a method for measuring the steady potential of the eyeball to identify the position of the eyeball, or a method for detecting a reflection image by the cornea with a position detection sensor.

また、実施の形態1〜6では、ユーザの視線方向を検知して動画像の画質を切り替える場合の例について説明したが、動画像の画質切り替えと連動させてタッチパネルの有効又は無効を切り替えても良い。例えば、ディスプレイ111が、ユーザ操作を検知するタッチパネル式の表示装置である場合、動画像を注視しているか否かに応じて、高負荷動画像及び低負荷動画像間で動画像の画質を切り替えるのに連動させて、タッチパネルの有効又は無効を切り替えるようなものも本発明には含まれる。   In the first to sixth embodiments, the example in which the user's line-of-sight direction is detected and the moving image quality is switched has been described. However, even if the touch panel is switched between enabled and disabled in conjunction with the moving image quality switching. good. For example, when the display 111 is a touch panel display device that detects a user operation, the image quality of a moving image is switched between a high-load moving image and a low-load moving image depending on whether or not the moving image is being watched. The present invention includes those that switch between enabling and disabling the touch panel in conjunction with the above.

1 動画ストリーミングシステム
2 表示領域
3 頂点
4 注視判定領域
5 周辺視判定領域
11 携帯電話機
110 操作部
111 ディスプレイ
112 カメラ
113 セルラー通信部
113a アンテナ
114 動画像データ取得部
115 デコード部
116 視線方向検出部
117 注視判別部
118 視線移動判別部
119 移動方向判別部
120 表示画像切替部
121 周辺視判別部
12 基地局
13 通信ネットワーク
14 ストリーミングサーバー
15 動画像記憶部
15a 画像フレーム
101 監視システム
102 画像表示装置
103 コントローラ
104 通信ネットワーク
105 監視カメラ
131 カメラ
141 ネットワークI/F
142 表示制御部
151 動画像データ記憶部
161 目位置検出部
162 視野角判別部
201 2画面端末
A1 高負荷領域
A2 低負荷領域
A3 非表示領域
B 3D視野角
DESCRIPTION OF SYMBOLS 1 Video streaming system 2 Display area 3 Vertex 4 Gaze determination area 5 Peripheral vision determination area 11 Mobile phone 110 Operation part 111 Display 112 Camera 113 Cellular communication part 113a Antenna 114 Moving image data acquisition part 115 Decoding part 116 Gaze direction detection part 117 Discriminating unit 118 Line-of-sight movement discriminating unit 119 Moving direction discriminating unit 120 Display image switching unit 121 Peripheral vision discriminating unit 12 Base station 13 Communication network 14 Streaming server 15 Moving image storage unit 15a Image frame 101 Monitoring system 102 Image display device 103 Controller 104 Communication Network 105 Surveillance camera 131 Camera 141 Network I / F
142 display control unit 151 moving image data storage unit 161 eye position detection unit 162 viewing angle determination unit 201 2-screen terminal A1 high load region A2 low load region A3 non-display region B 3D viewing angle

Claims (9)

表示領域内に動画像を表示する表示手段と、
ユーザの視線方向を検出する視線方向検出手段と、
上記視線方向に基づいて、上記動画像を注視しているか否かを判別する注視判別手段と、
上記視線方向の移動方向を判別する視線移動判別手段と、
上記移動方向が上記表示領域外から上記表示領域へ向かう方向であるか否かを判別する移動方向判別手段と、
上記注視判別手段の判別結果に基づいて、上記動画像を注視している場合に表示対象を高負荷動画像にする一方、上記動画像を注視していない場合に表示対象を低負荷動画像にするとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、表示対象を上記低負荷動画像から上記高負荷動画像に切り替える表示画像切替手段とを備えたことを特徴とする画像表示装置。
Display means for displaying a moving image in the display area;
Gaze direction detection means for detecting the gaze direction of the user;
Gaze determining means for determining whether or not the moving image is being watched based on the line-of-sight direction;
Eye movement determination means for determining the movement direction of the eye movement direction;
A moving direction determining means for determining whether or not the moving direction is a direction from the outside of the display area toward the display area;
Based on the determination result of the gaze determination unit, the display target is changed to a high-load moving image when the moving image is being watched, while the display target is changed to a low-load moving image when the moving image is not being watched. In addition, even when the moving image is not watched, if the line-of-sight direction moves toward the display area, the display target is switched from the low-load moving image to the high-load moving image. An image display device comprising image switching means.
上記注視判別手段は、上記視線方向が上記表示領域内を向いているか否かに基づいて、上記動画像の注視を判別することを特徴とする請求項1に記載の画像表示装置。   The image display apparatus according to claim 1, wherein the gaze determination unit determines gaze of the moving image based on whether or not the line-of-sight direction is in the display area. 上記視線方向に基づいて、上記動画像を周辺視しているか否かを判別する周辺視判別手段を備え、
上記表示画像切替手段は、上記動画像を周辺視している状態で上記視線方向が上記表示領域へ向かって移動した場合に、表示対象を上記高負荷動画像へ切り替え、上記動画像を周辺視していない状態では、上記視線方向が上記表示領域へ向かって移動しても、表示対象を切り替えないことを特徴とする請求項1又は2に記載の画像表示装置。
Peripheral vision discriminating means for discriminating whether or not the moving image is viewed peripherally based on the line-of-sight direction,
The display image switching means switches the display target to the high-load moving image when the line-of-sight direction moves toward the display area in a state where the moving image is viewed in the periphery, and the moving image is viewed in the peripheral view. 3. The image display device according to claim 1, wherein the display target is not switched even when the line-of-sight direction moves toward the display area in a state in which the display is not performed.
ユーザの目の位置を検出する目位置検出手段と、
上記目の位置に基づいて、上記ユーザが表示画面の3D視野角内にいるか否かを判別する視野角判別手段とを備え、
上記表示手段は、3D動画像及び2D動画像のいずれかを上記表示領域内に表示し、
上記表示画像切替手段は、上記ユーザが上記3D視野角内にいる状態で上記視線方向が上記表示領域へ向かって移動した場合に、表示対象を上記2D動画像から上記3D動画像に切り替え、上記ユーザが上記3D視野角外にいる状態では、上記視線方向が上記表示領域へ向かって移動しても、表示対象を切り替えないことを特徴とする請求項1又は2に記載の画像表示装置。
Eye position detecting means for detecting the position of the user's eyes;
Viewing angle determination means for determining whether the user is within the 3D viewing angle of the display screen based on the position of the eyes,
The display means displays either a 3D moving image or a 2D moving image in the display area,
The display image switching means switches the display target from the 2D moving image to the 3D moving image when the line-of-sight direction moves toward the display area while the user is within the 3D viewing angle. 3. The image display device according to claim 1, wherein when the user is outside the 3D viewing angle, the display target is not switched even if the line-of-sight direction moves toward the display area.
通信ネットワーク上のストリーミングサーバーから一連の画像フレームからなる動画像データを順次に取得する動画像データ取得手段を備え、
上記表示手段は、上記動画像データに基づいて上記動画像を表示し、
上記表示画像切替手段は、上記ストリーミングサーバーに対し、上記動画像を注視している場合に高負荷動画像データを要求する一方、上記動画像を注視していない場合に低負荷動画像データを要求するとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、上記高負荷動画像データへの切り替えを要求することを特徴とする請求項1から4のいずれかに記載の画像表示装置。
Moving image data acquisition means for sequentially acquiring moving image data consisting of a series of image frames from a streaming server on a communication network;
The display means displays the moving image based on the moving image data,
The display image switching means requests the high-load moving image data to the streaming server when the moving image is being watched, and requests low-load moving image data when the moving image is not being looked at. In addition, even when the moving image is not watched, when the line-of-sight direction moves toward the display area, the switching to the high-load moving image data is requested. The image display device according to claim 1.
被写体を撮影して一連の画像フレームからなる動画像データを生成するカメラから上記動画像データを順次に取得する動画像データ取得手段を備え、
上記表示手段は、上記動画像データに基づいて上記動画像を表示し、
上記表示画像切替手段は、上記カメラに対し、上記動画像を注視している場合に高負荷動画像データを要求する一方、上記動画像を注視していない場合に低負荷動画像データを要求するとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、上記高負荷動画像データへの切り替えを要求することを特徴とする請求項1から4のいずれかに記載の画像表示装置。
A moving image data acquisition unit that sequentially acquires the moving image data from a camera that shoots a subject and generates moving image data including a series of image frames;
The display means displays the moving image based on the moving image data,
The display image switching means requests high-load moving image data when the moving image is being watched from the camera, and requests low-load moving image data when the moving image is not being looked at. In addition, even when the moving image is not being watched, when the line-of-sight direction moves toward the display area, switching to the high-load moving image data is requested. Item 5. The image display device according to any one of Items 1 to 4.
2以上の監視カメラのそれぞれから一連の画像フレームからなる動画像データを取得する動画像データ取得手段を備え、
上記表示手段は、2以上の上記表示領域を有し、対応する上記監視カメラの上記動画像データに基づいて、上記動画像をそれぞれ表示し、
上記表示画像切替手段は、上記動画像が注視されている上記監視カメラに対して高負荷動画像データを要求する一方、上記動画像が注視されていない上記監視カメラに対して低負荷動画像データを要求するとともに、上記動画像が注視されていない場合であっても、上記視線方向が上記表示領域へ向かって移動した上記監視カメラに対し、上記高負荷動画像データへの切り替えを要求することを特徴とする請求項1から4のいずれかに記載の画像表示装置。
Moving image data acquisition means for acquiring moving image data consisting of a series of image frames from each of two or more surveillance cameras;
The display means has two or more display areas, and displays the moving images based on the moving image data of the corresponding monitoring cameras,
The display image switching means requests high-load moving image data from the monitoring camera on which the moving image is being watched, while low-load moving image data is requested from the monitoring camera on which the moving image is not being watched. And even if the moving image is not watched, the monitoring camera whose viewing direction has moved toward the display area is requested to switch to the high-load moving image data. The image display device according to claim 1, wherein:
それぞれが一連の画像フレームからなる2以上の動画像データを保持する動画像データ記憶手段と、
上記動画像データをデコードするデコード手段とを備え、
上記表示手段は、2以上の上記表示領域を有し、デコードされた上記動画像データに基づいて、上記動画像をそれぞれ表示し、
上記表示画像切替手段は、上記デコード手段に対し、上記動画像が注視されている上記表示領域について高負荷動画像データを要求する一方、上記動画像が注視されていない上記表示領域について低負荷動画像データを要求するとともに、上記動画像が注視されていない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、当該表示領域に表示させる上記動画像データについて、上記高負荷動画像データへの切り替えを要求することを特徴とする請求項1から4のいずれかに記載の画像表示装置。
Moving image data storage means for holding two or more moving image data each consisting of a series of image frames;
Decoding means for decoding the moving image data,
The display means has two or more display areas, and displays the moving images based on the decoded moving image data,
The display image switching means requests the high-load moving image data for the display area where the moving image is being watched from the decoding means, while the low-load moving image is used for the display area where the moving image is not being watched. Even when the image data is requested and the moving image is not being watched, the moving image data to be displayed in the display area when the line-of-sight direction moves toward the display area. 5. The image display device according to claim 1, wherein switching to high-load moving image data is requested.
画像表示装置用のコンピュータプログラムであって、
表示領域内に動画像を表示する表示手順と、
ユーザの視線方向を検出する視線方向検出手順と、
上記視線方向に基づいて、上記動画像を注視しているか否かを判別する注視判別手順と、
上記視線方向の移動方向を判別する視線移動判別手順と、
上記移動方向が上記表示領域外から上記表示領域へ向かう方向であるか否かを判別する移動方向判別手順と、
上記注視の判別結果に基づいて、上記動画像を注視している場合に表示対象を高負荷動画像にする一方、上記動画像を注視していない場合に表示対象を低負荷動画像にするとともに、上記動画像を注視していない場合であっても、上記視線方向が上記表示領域へ向かって移動した場合には、表示対象を上記低負荷動画像から上記高負荷動画像に切り替える表示画像切替手順とからなることを特徴とするコンピュータプログラム。
A computer program for an image display device,
A display procedure for displaying a moving image in the display area;
Gaze direction detection procedure for detecting the gaze direction of the user;
Gaze determination procedure for determining whether or not the moving image is being watched based on the line-of-sight direction;
A line-of-sight movement determination procedure for determining a movement direction of the line-of-sight direction;
A moving direction determination procedure for determining whether or not the moving direction is a direction from the outside of the display area toward the display area;
Based on the gaze determination result, the display target is a high-load moving image when the moving image is being watched, and the display target is a low-load moving image when the moving image is not being watched. Even when the moving image is not watched, when the line-of-sight direction moves toward the display area, the display image switching is performed to switch the display target from the low-load moving image to the high-load moving image. A computer program characterized by comprising a procedure.
JP2010242660A 2010-10-28 2010-10-28 Image display device and computer program for image display device Pending JP2012095229A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010242660A JP2012095229A (en) 2010-10-28 2010-10-28 Image display device and computer program for image display device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010242660A JP2012095229A (en) 2010-10-28 2010-10-28 Image display device and computer program for image display device

Publications (1)

Publication Number Publication Date
JP2012095229A true JP2012095229A (en) 2012-05-17

Family

ID=46388066

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010242660A Pending JP2012095229A (en) 2010-10-28 2010-10-28 Image display device and computer program for image display device

Country Status (1)

Country Link
JP (1) JP2012095229A (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015177952A1 (en) * 2014-05-22 2015-11-26 ソニー株式会社 Image display apparatus, information processing apparatus, and image display system
WO2016129241A1 (en) * 2015-02-12 2016-08-18 株式会社デンソー Display control device and display system
JP2016537903A (en) * 2013-08-21 2016-12-01 ジョーント・インコーポレイテッドJaunt Inc. Connecting and recognizing virtual reality content
JP2017146607A (en) * 2013-06-07 2017-08-24 株式会社ソニー・インタラクティブエンタテインメント Image rendering responsive to user actions in head mounted display
JP2018022958A (en) * 2016-08-01 2018-02-08 株式会社デンソー Vehicle display controller and vehicle monitor system
WO2018134947A1 (en) * 2017-01-19 2018-07-26 株式会社ソニー・インタラクティブエンタテインメント Image delivery device
JPWO2018179880A1 (en) * 2017-03-28 2020-01-23 日本電気株式会社 Video content control system, method and program
US10699372B2 (en) 2017-01-19 2020-06-30 Sony Interactive Entertainment Inc. Image generation apparatus and image display control apparatus
JP2021010101A (en) * 2019-07-01 2021-01-28 株式会社日立製作所 Remote work support system
CN114253119A (en) * 2020-09-24 2022-03-29 卡西欧计算机株式会社 Display control device, electronic timepiece, display control method, and storage medium

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017146607A (en) * 2013-06-07 2017-08-24 株式会社ソニー・インタラクティブエンタテインメント Image rendering responsive to user actions in head mounted display
JP2016537903A (en) * 2013-08-21 2016-12-01 ジョーント・インコーポレイテッドJaunt Inc. Connecting and recognizing virtual reality content
WO2015177952A1 (en) * 2014-05-22 2015-11-26 ソニー株式会社 Image display apparatus, information processing apparatus, and image display system
WO2016129241A1 (en) * 2015-02-12 2016-08-18 株式会社デンソー Display control device and display system
JP2018022958A (en) * 2016-08-01 2018-02-08 株式会社デンソー Vehicle display controller and vehicle monitor system
JPWO2018134947A1 (en) * 2017-01-19 2019-11-07 株式会社ソニー・インタラクティブエンタテインメント Image distribution device
WO2018134947A1 (en) * 2017-01-19 2018-07-26 株式会社ソニー・インタラクティブエンタテインメント Image delivery device
US10699372B2 (en) 2017-01-19 2020-06-30 Sony Interactive Entertainment Inc. Image generation apparatus and image display control apparatus
JPWO2018179880A1 (en) * 2017-03-28 2020-01-23 日本電気株式会社 Video content control system, method and program
JP2021010101A (en) * 2019-07-01 2021-01-28 株式会社日立製作所 Remote work support system
JP7372061B2 (en) 2019-07-01 2023-10-31 株式会社日立製作所 Remote work support system
CN114253119A (en) * 2020-09-24 2022-03-29 卡西欧计算机株式会社 Display control device, electronic timepiece, display control method, and storage medium
CN114253119B (en) * 2020-09-24 2023-10-20 卡西欧计算机株式会社 Display control device, electronic timepiece, display control method, and storage medium

Similar Documents

Publication Publication Date Title
JP2012095229A (en) Image display device and computer program for image display device
CN110488977B (en) Virtual reality display method, device and system and storage medium
KR102502404B1 (en) Information processing device and method, and program
US9978183B2 (en) Video system, video generating method, video distribution method, video generating program, and video distribution program
WO2017059634A1 (en) Method and device for adjusting displayed image
US20130222644A1 (en) Method and portable terminal for correcting gaze direction of user in image
US11487354B2 (en) Information processing apparatus, information processing method, and program
US20160063327A1 (en) Wearable Device To Display Augmented Reality Information
CN110537208B (en) Head-mounted display and method
US10462358B2 (en) Information processing apparatus, information processing system, and information processing method
JP6359572B2 (en) Image transmission device, information processing terminal, image transmission method, information processing method, program, and information storage medium
US20170372679A1 (en) Mobile Terminal for Automatically Adjusting a Text Size and a Method Thereof
JP2013148599A (en) Display device
CN108141559B (en) Image system, image generation method and computer readable medium
WO2020044916A1 (en) Information processing device, information processing method, and program
CN111050211A (en) Video processing method, device and storage medium
JP2017173455A (en) Information processing device, information processing method, and program
TWI807495B (en) Method of virtual camera movement, imaging device and electronic system
JP5229928B1 (en) Gaze position specifying device and gaze position specifying program
US11343420B1 (en) Systems and methods for eye-based external camera selection and control
US9762891B2 (en) Terminal device, image shooting system and image shooting method
US11831976B2 (en) Display apparatus
US10636384B2 (en) Image processing apparatus and image processing method
KR20100022634A (en) Apparatus for controlling the zoom lens of the camera module and method of the same
CN117730298A (en) Screen interaction using EOG coordinates