JPWO2005124735A1 - 画像表示システム、画像表示方法および画像表示プログラム - Google Patents

画像表示システム、画像表示方法および画像表示プログラム Download PDF

Info

Publication number
JPWO2005124735A1
JPWO2005124735A1 JP2006514702A JP2006514702A JPWO2005124735A1 JP WO2005124735 A1 JPWO2005124735 A1 JP WO2005124735A1 JP 2006514702 A JP2006514702 A JP 2006514702A JP 2006514702 A JP2006514702 A JP 2006514702A JP WO2005124735 A1 JPWO2005124735 A1 JP WO2005124735A1
Authority
JP
Japan
Prior art keywords
image
display
face
data
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006514702A
Other languages
English (en)
Other versions
JP4952995B2 (ja
Inventor
石山 塁
塁 石山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2006514702A priority Critical patent/JP4952995B2/ja
Publication of JPWO2005124735A1 publication Critical patent/JPWO2005124735A1/ja
Application granted granted Critical
Publication of JP4952995B2 publication Critical patent/JP4952995B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0414Vertical resolution change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0421Horizontal resolution change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/14Solving problems related to the presentation of information to be displayed
    • G09G2340/145Solving problems related to the presentation of information to be displayed related to small screens

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

画像表示装置と、前記画像表示装置で表示される表示画像の表示画像データを生成する画像生成装置と、前記表示画像を見るヒトの顔画像を撮影する顔画像撮影装置と、前記顔画像から顔画像データを生成し、前記顔画像データに基づいて前記表示画像に対応する前記ヒトの顔正面点を検出する顔正面点検出装置とを備える画像表示システムを構成する。ここで、上述の表示画像データは表示画像が複数の領域を有するようなデータである。そして、前記画像生成装置は、前記複数の領域から前記顔正面点に対応する特定領域を特定して、前記特定領域に対応する画像が提供する情報量を増加させて前記表示画像データを生成する。

Description

本発明は、画像表示システム、画像表示方法および画像表示プログラムに関し、特に監視に用いる画像表示システム、画像表示方法および画像表示プログラムに関する。
人間の視界は有限であり、一人の人が短時間で全方位を視覚的に捉えることは不可能である。人の視界を超える範囲(以下、広範囲と呼ぶ)を視覚的に捉えることがその人に要求される場合、特殊な監視システムが必要になる。この特殊なシステムに用いられる技術としては、広範囲撮影用の撮影装置(以下、広範囲撮影装置と呼ぶ)を使用して監視対象の画像を撮影し、その撮影された画像を視界内に収まるように加工した画像(以下、広範囲画像と呼ぶ)によって広範囲の観察を可能にする技術が知られている。
広範囲撮影装置には、パノラマカメラなどの単一の装置で広範囲の撮影が可能な撮影装置が存在する。また、複数の撮影装置で撮影された画像を組み合わせて広範囲画像にする広範囲撮影装置なども存在する。観察者は、表示装置に表示されている広範囲画像を見ることで、その視界を越える範囲を視覚的に捉えることが可能になる。
広範囲画像を十分な画像サイズや解像度で表示させる場合、画像表示に必要な表示装置の画面サイズが大きくなってしまう。そのため、広範囲画像を用いて監視対象を監視するには、その広範囲画像の表示が可能な大型の表示装置が要求される。
大型の表示装置を設置することが困難な場合には、上述の広範囲画像の画像サイズを縮小して(解像度を低くして)小型の表示装置に表示させる技術が存在する。縮小画像を使用して監視を実行することで、より小規模なシステムであっても広範囲の観察を可能にする技術が知られている。この技術により、システムの構築にかかるコストを低減することができる。加えて、限られた空間で広範囲を監視するシステムの構築が可能である。
広範囲画像を縮小して表示する場合、その縮小された画像(以下、縮小表示画像と呼ぶ)からは、監視に必要な情報を得ることが困難になる場合がある。このような場合に、縮小表示画像の特定の領域(以下、特定領域と呼ぶ)の解像度を高くしたり、拡大表示したりすることで、所望の情報量を得ることを可能にする技術が知られている。
そのような技術として、例えば、特開平5−139209号公報に視覚情報提供装置が開示されている。この視覚情報提供装置は、第1生成手段と、第1表示手段と、第2生成手段と、第2表示手段と、提示手段と、切り替え信号発生手段と、画像制御装置とを具備する。第1生成手段は、第1の視覚情報を生成する。第1表示手段は、前記第1の視覚情報を第1の画像として表示する。第2生成手段は、右目用の情報と左目用の情報とからなる第2の視覚情報を生成する。第2表示手段は、前記第2の視覚情報を3次元の第2の画像として表示する。提示手段は、前記第1および第2の画像を単独にまたは重ねて提示可能である。切り替え信号発生手段は、該提示手段において提示する画像の選択切り替え信号を出力する。画像制御装置は、前記切り替え信号に基づいて前記提示手段を制御する。
その拡大表示を実行するためには上述の特定領域を選択する必要がある。従来、その選択動作は、表示装置外部に備えられた切替スイッチを操作して行われていた。外部に切替スイッチを備えていないシステムでは、観察者が見ている画面上の特定部分(以下、視点と呼ぶ)を検出して、その視点に対応する領域を特定領域としている。特開平5−139209号公報では、上述のように、高解像度の表示装置と低解像度の表示装置の二つを重ねて用いている。観察者の視線の方向を検出して、視線方向の領域の画像を高解像表示装置で、その周辺の領域を低解像表示装置で表示している。
上述の視線方向を検出するシステムでは、視線方向を特定するために、観察者の視線を検出する眼球方向(視線)検出センサが必要である。視線検出センサは、例えば、観察者の頭部に装着され、その動きに応答して頭部の傾きを検出し、その傾きから視点を特定する。他の例としては、眼鏡をかけるように観察者に装着され、その眼球の動きに応答して視点を特定する。後者を用いている技術として、例えば、特開平9−305156号公報がある。
特開平9−305156号公報は、映像表示方法及び装置を開示している。この映像表示方法は、精細な映像を高速で生成して表示する映像表示方法である。表示すべき映像全体にわたって通常の精度で映像の生成を行い、眼球方向検出手段を用いて視線を連続的に検出し、各瞬間の視野の中心が前記映像上のどの位置に相当するかを計算し、その計算の結果に基づいて当該視野の中心付近の映像を、表示画素数を多くする高解像度と表示色の数や階調を多くする高再現性のうち少なくとも1つを用いて生成することを特徴とする。
特開平5−139209号公報に記載の技術では、画像表示の高速化のため、眼球方向検出により求めた視線方向の領域のみ高解像度の画像を生成するようにしている。特開平5−139209号公報及び特開平9−305156号公報に記載の技術は、観察者の視線方向を眼球運動推定手段により自動的に検出し、その視線方向の領域を高解像で表示する。それにより、スイッチ操作などを行わずとも自動的にその観察者の必要とする部分を高解像度で表示している。
観察者の視野に入りきらない広範囲の画像や多視点の画像を、観察者の視野内に適切に提示する技術が望まれている。さらに、眼球の動きを検知するための特殊な装置を観察者に装着させること無く、観察者の視野に入りきらない広範囲の画像や多視点の画像を観察者の視野内に適切に提示する技術が望まれている。
関連する技術として特開2000−59665号公報に撮像装置が開示されている。この撮像装置は、1つの撮像部の左右両側に2つの撮像部が配置される3つの撮像部からなる。この撮像装置は、中央の撮像部の光軸に対して、左側の撮像部と右側の撮像部の光軸が交差する角度が同一角度で、光軸の交差点が同一点となるような光軸の関係である。上記光軸の交差点位置より被写体側に近づく方向で、上記光軸の交差点から各撮像部の前側主点までの距離が同一距離となるような位置に3つの撮像部が位置する。
特開平8−116556号公報に画像処理方法および装置が開示されている。この画像処理方法は、複数の異なる直線上に配置された複数の視点位置から得られた画像を入力する多視点画像入力ステップと、上記画像を見ている観察者の目の位置および見ている方向を検出する視点検出ステップと、上記視点検出ステップにより検出された視点位置から見える画像を多視点画像データから再構成する画像再構成ステップと、上記再構成された画像を画像出力装置を介して出力する画像出力ステップとを備えたことを特徴とする。
本発明の目的は、人の視界に入りきらない広範囲の画像や、多視点から撮影された画像から、必要な情報量を適切に表示装置に提示する画像表示システム及び画像表示方法を提供することにある。
さらに、本発明の目的は、眼球運動や頭部の傾斜を検知するための特殊な装置を人に装着させること無く、その人の視界に入りきらない広範囲の画像や多視点から撮影された画像をその人の視界内に適切に提示させ、その画像から必要な情報量を適切に抽出できる画像表示システム及び画像表示方法を提供することにある。
さらに、本発明の目的は、人間は意識的に注視している部分以外の領域も間欠的に見るために無意識に視点を移動させているが、この無意識な視点移動に惑わされず、人間が意識的に必要としている領域を安定して表示できる画像表示システム及び画像表示方法を提供することにある。
上記課題を解決するために本発明の画像表示システムは、画像表示装置と、画像生成装置と、顔画像撮影装置と、顔正面点検出装置とを備える。画像生成装置は、画像表示装置で表示される表示画像の表示画像データを生成する。表示画像は複数の領域を有する。顔画像撮影装置は、表示画像を見るヒトの顔画像を撮影する。顔正面点検出装置は、顔画像から顔画像データを生成し、顔画像データに基づいて表示画像上におけるヒトの顔の正面に位置する点としての顔正面点を検出する。画像生成装置は、複数の領域から顔正面点に対応する特定領域を特定して、特定領域に対応する画像が提供する情報量を増加させて表示画像データを生成する。
上記の画像表示システムにおいて、顔正面点検出装置は、新たな顔正面点を検出することが好ましい。画像生成装置は、新たな顔正面点が特定領域から遷移した場合、新たな領域を特定し、新たな領域に対応する画像が提供する情報量を増加させて新たな表示画像データを生成することが好ましい。
上記の画像表示システムにおいて、画像生成装置は、画像が提供する情報量の増加を、画像表示装置で表示されるときの画像の表示サイズを相対的に大きくすることで行うことが好ましい。
上記の画像表示システムにおいて、画像生成装置は、画像が提供する情報量の増加を、画像表示装置で表示されるときの画像の解像度を、相対的に高くすることで行うことが好ましい。
上記の画像表示システムにおいて、画像生成装置は、ヒトの視界の範囲を超える範囲の画像を撮影する広範囲撮影装置で撮影された広範囲画像を表示画像に構成することが好ましい。画像表示装置は、広範囲画像で構成された表示画像データを、複数の領域に対応させヒトの視界の範囲内に入るように表示することが好ましい。
上記の画像表示システムにおいて、画像生成装置は、広範囲撮影装置としての複数の撮影装置で撮影された複数の画像を、表示画像に合成することが好ましい。画像表示装置は、ヒトの視界の範囲内に入るように、複数の領域に対応して表示画像データを表示することが好ましい。
上記の画像表示システムにおいて、画像生成装置は、情報記憶部を有することが好ましい。情報記憶部は、画像表示装置の情報を示す表示装置データと、顔画像撮影装置の情報を示す顔画像撮影装置データを記憶する。顔正面点検出装置は、顔画像に基づいて3次元画像処理を実行して顔画像データを生成し、顔画像データと表示装置データおよび顔画像撮影装置データに基づいて顔正面点を検出することが好ましい。
上記課題を解決するために本発明の画像表示方法は、(a)画像表示装置で表示される表示画像の表示画像データを生成するステップと、表示画像は複数の領域を有し、(b)表示画像を見るヒトの顔画像を撮影するステップと、(c)顔画像から顔画像データを生成し、顔画像データに基づいて表示画像上におけるヒトの顔の正面に位置する点をヒトの顔正面点として検出するステップと、(d)複数の領域から顔正面点に対応する特定領域を特定して、特定領域に対応する画像が提供する情報量を増加させて表示画像データを生成するステップと、(e)表示画像データを画像表示装置で表示するステップとを具備する。
上記の画像表示方法において、(f)新たな顔正面点を検出するステップと、(g)新たな顔正面点が特定領域から遷移した場合、新たな特定領域を特定し、新たな特定領域に対応する画像が提供する情報量を増加させて新たな表示画像データを生成するステップとをさらに具備することが好ましい。
上記の画像表示方法において、画像が提供する情報量の増加は、画像表示装置で表示されるときの画像の表示サイズを相対的に大きくすることで行うことが好ましい。
上記の画像表示方法において、画像が提供する情報量の増加は、画像表示装置で表示されるときの画像の解像度を、相対的に高くすることで行うことが好ましい。
上記の画像表示方法において、(a)ステップは、(a1)ヒトの視界の範囲を超える範囲の画像を撮影する広範囲撮影装置で撮影された広範囲画像を表示画像に構成するステップを備えることが好ましい。(e)ステップは、(e1)広範囲画像で構成された表示画像データを、複数の領域に対応させヒトの視界の範囲内に入るように表示するステップを備えることが好ましい。
上記の画像表示方法において、(a1)ステップは、(a11)広範囲撮影装置としての複数の撮影装置で撮影された複数の画像を、表示画像に合成するステップを備えることが好ましい。複数の領域の各々は、複数の画像の各々に対応する。(e1)ステップは、(e11)ヒトの視界の範囲内に入るように、複数の領域に対応して表示画像データを表示するステップを備えることが好ましい。
上記の画像表示方法において、(c)ステップは、(c1)画像表示装置の情報を示す表示装置データと、顔画像を撮影する顔画像撮影装置の情報を示す顔画像撮影装置データを読み出すステップと、(c2)顔画像に基づいて3次元画像処理を実行して顔画像データを生成し、顔画像データと表示装置データおよび顔画像撮影装置データに基づいて顔正面点を検出するステップとを備えることが好ましい。
上記課題を解決するために本発明のプログラムは、(h)画像表示装置で表示される表示画像の表示画像データを生成するステップと、表示画像は複数の領域を有し、(i)表示画像を見るヒトの顔画像から顔画像データを生成し、顔画像データに基づいて表示画像上におけるヒトの顔の正面に位置する点をヒトの顔正面点として検出するステップと、(j)複数の領域から顔正面点に対応する特定領域を特定して、特定領域に対応する画像が提供する情報量を増加させて表示画像データを生成するステップと、(k)表示画像データを画像表示装置へ出力するステップとを具備する方法をコンピュータで実行可能である。
上記のプログラムにおいて、(l)新たな顔正面点を検出するステップと、(m)新たな顔正面点が特定領域から遷移した場合、新たな特定領域を特定し、新たな特定領域に対応する画像が提供する情報量を増加させて新たな表示画像データを生成するステップとをさらに具備することが好ましい。
上記のプログラムにおいて、画像が提供する情報量の増加は、画像表示装置で表示されるときの画像の表示サイズを相対的に大きくすることで行うことが好ましい。
上記のプログラムにおいて、画像が提供する情報量の増加は、画像表示装置で表示されるときの画像の解像度を、相対的に高くすることで行うことが好ましい。
上記のプログラムにおいて、(h)ステップは、(h1)ヒトの視界の範囲を超える範囲の画像を撮影する広範囲撮影装置で撮影された広範囲画像を表示画像に構成するステップを備えることが好ましい。(k)ステップは、(k1)広範囲画像で構成された表示画像データが、複数の領域に対応させヒトの視界の範囲内に入るように表示されるように、表示画像データを画像表示装置へ出力するステップを備えることが好ましい。
上記のプログラムにおいて、(h1)ステップは、(h11)広範囲撮影装置としての複数の撮影装置で撮影された複数の画像を、表示画像に合成するステップを備えることが好ましい。複数の領域の各々は、複数の画像の各々に対応する。(k1)ステップは、(k11)ヒトの視界の範囲内に入り、複数の領域に対応して表示画像データを表示されるように、表示画像データを画像表示装置へ出力するステップを備えることが好ましい。
上記のプログラムにおいて、(i)ステップは、(i1)画像表示装置の情報を示す表示装置データと、顔画像を撮影する顔画像撮影装置の情報を示す顔画像撮影装置データを読み出すステップと、(i2)顔画像に基づいて3次元画像処理を実行して顔画像データを生成し、顔画像データと表示装置データおよび顔画像撮影装置データに基づいて顔正面点を検出するステップとを備えることが好ましい。
本発明によると、人の視界に入りきらない広範囲の画像や、多視点から撮影された画像から、必要な情報量を適切に表示装置に提示する画像表示システムを提供することが可能になる。
さらに、本発明によると、眼球運動や頭部の傾斜を検知するための特殊な装置を人に装着させること無く、その人の視界に入りきらない広範囲の画像や多視点から撮影された画像をその人の視野内に適切に提示させ、その画像から必要な情報量を適切に抽出することが可能になる。
図1は、本発明の画像表示システムの実施の形態の構成を示す概念図である。 図2は、本発明の画像表示システム実施の形態の動作を示す概念図である。 図3は、本発明の画像表示システムの実施の形態の詳細な構成を示すブロック図である。 図4は、本発明の画像表示システムの実施の形態の動作を示すフローチャートである。 図5は、画像表示システムを車両の運行に適用した場合の構成を示す図である。 図6は、第1画像撮影装置〜第3画像撮影装置で撮影された外部画像データを例示する図である。 図7は、第1画像データ〜第3画像データから表示画像データを生成する動作を示した図である。 図8は、本実施の形態を広域監視に適用した場合の構成を示す概念図である。 図9は、広域監視システムに本発明を適用した場合の動作を示す概念図である。
以下に、本発明の画像表示システムの実施の形態について図面を参照して説明する。図1は、本発明の画像表示システムの実施の形態の構成を示す概念図である。本実施の形態における画像表示システム1は、監視対象画像撮影装置2と、顔画像撮影装置3と、画像表示装置4と、コンピュータ5を備えている。監視対象画像撮影装置2とコンピュータ5とは互いに電気的に接続されている。コンピュータ5は、監視対象画像撮影装置2から出力されるデータを受信している。顔画像撮影装置3とコンピュータ5とは互いに電気的に接続されている。コンピュータ5は、顔画像撮影装置3から出力されるデータを受信している。画像表示装置4はコンピュータ5に電気的に接続されている。コンピュータ5から送信される表示画像データを受信して画像を表示している。監視対象画像撮影装置2、顔画像撮影装置3、画像表示装置4、及びコンピュータ5の接続は、所定のネットワークを介して行われていても良い。
観察者10は、画像表示装置4に表示されている画像を観察する。図1に示されている顔正面点Pは、観察者10が画像表示装置4に表示されている画像を見ているとき、その顔の正面に位置する画像表示装置4の画面上の部分を示している。本発明において、観察者10に対する制限は存在しない。つまり、本発明によれば、観察者10は、画像表示システム1の技術に関する詳しい知識を有することなく、画像表示システム1を利用することが可能である。
監視対象画像撮影装置2は、人の視界の範囲を超える範囲(以下、広範囲と呼ぶ。)の画像を撮影する。光学カメラやCCDカメラに例示される。監視対象画像撮影装置2は、複数の撮影装置によって構成されている。それにより、複数の地点から特定の地点を観察する多視点監視を実行することも可能になる。監視対象画像撮影装置2で撮影された観察対象の画像は、観察画像データに変換されコンピュータ5に送信される。本発明の監視対象画像撮影装置2は、この構成に限定されない。例えば、特定の地点から広範囲の観察を行う場合、パノラマカメラのような広範囲の撮影が可能な単一の撮影装置によって構成されていても良い。
顔画像撮影装置3は、観察者10の顔画像を撮影する。光学カメラやCCDカメラに例示される。顔画像撮影装置3は、撮影した顔画像を顔画像データにしてコンピュータ5に送信する。顔画像撮影装置3は、観察者10の顔の位置に対して、相対的な位置が特定できる場所に設置されていることが望ましい。または、画像表示装置4の所定の位置を原点として、顔画像撮影装置3の座標を特定することで顔画像撮影装置3の設置位置を特定しても良い。
コンピュータ5は、監視対象画像撮影装置2と顔画像撮影装置3とから送信される画像データ(観察画像データ/顔画像データ)に基づいてデータ処理を実行する。ワークステーションやパーソナルコンピュータに例示される。コンピュータ5は、受信した画像データ(観察画像データ/顔画像データ)に応答して所定のプログラムを実行して画像処理を行う。コンピュータ5は、画像処理により生成された表示画像データを画像表示装置4へ出力する。画像表示装置4は、コンピュータ5から送信される表示画像データを表示する。CRTや液晶ディスプレイに例示される。
図2は、本発明の画像表示システム実施の形態の動作を示す概念図である。ここでは、監視対象画像撮影装置2は第1〜第3の3台の撮影装置を使用して観察対象を撮影しているものとする。例えば、各撮影装置が概ね水平挟角90度の視野角を有している場合、上述の3台の撮影装置によって水平角270度の観察が可能になる。
監視対象画像撮影装置2は、3台の撮影装置を使用して観察対象を撮影する。そして、複数の画像データを取得する。複数の画像データとしての第1画像データG1、第2画像データG2および第3画像データG3の各々は、その第1〜第3の撮影装置で撮影されたそれぞれの画像を示している。監視対象画像撮影装置2は、撮影された複数の画像データをコンピュータ5へ送信する。
コンピュータ5は、送信された複数の画像データに基づいて、一つの基準画像データG0を生成する。また、顔画像撮影装置3は観察者10の顔画像を撮影してその顔画像データをコンピュータ5に送信する。コンピュータ5は、受信した顔画像データに応答して所定の演算を実行し、顔正面点Pを算出する。
コンピュータ5は、基準画像データG0と顔正面点Pとに基づいて、表示画像データを生成して画像表示装置4に送信する。図2の例では、コンピュータ5は、基準画像データG0と顔正面点Pとから、観察者10が第1画像データG1に注目していると判断する。コンピュータ5は、第1画像データG1を高解像度や表示領域を大きくして表示できるような表示画像データを生成する。このとき、第2画像データG2および第3画像データG3は低解像度や狭い表示領域となる。コンピュータ5は、生成された表示画像データを画像表示装置4に送信する。画像表示装置4は、受信した表示画像データに基づいて、第1画像データG1が拡大表示(高解像度表示)されている表示画像40を表示画面に表示する。観察者10は、表示された表示画像40によって、観察者10個人の視野の範囲を超える範囲に存在する観察対象の観察を実行することが可能になる。
以下に、本発明の画像表示システムの実施の形態について、より詳細に説明する。図3は、本発明の画像表示システムの実施の形態の詳細な構成を示すブロック図である。図1の説明で述べたように、本実施の形態の画像表示システム1は、監視対象画像撮影装置2、顔画像撮影装置3、画像表示装置4、およびコンピュータ5を備えている。以下の説明では、前述の図1の構成と同様な部分に関しては詳細な説明を省略する。監視対象画像撮影装置2は、複数の撮影装置(2−1〜2−n)で構成されている。監視対象画像撮影装置2は、複数の撮影装置(2−1〜2−n)をそれぞれ任意の位置に設置することで、広範囲の監視や多視点からの監視を実行することが可能になる。
コンピュータ5は、CPU6とメモリ7と記憶装置8とを備えている。コンピュータ5は、ネットワーク(図示されず)に接続されていても良い。CPU6、メモリ7、及び記憶装置8は、バス9を介して互いに接続されている。CPU6は、コンピュータ5に少なくとも一つ備えられている演算処理装置である。CPU6は、コンピュータ5に内蔵または外付けされている装置の制御を行うための命令や、入力されたデータに対する演算処理を実行して、その演算処理結果を出力する。
メモリ7は、コンピュータ5に備えられている情報記憶装置である。メモリ7は、RAMのような半導体記憶装置に例示される。CPU6からの命令に応答して所定のデータを記憶する。記憶装置8は、コンピュータ5に備えられている大容量記憶装置である。記憶装置8は、HDDに例示され、不揮発性の記憶領域を有する。本実施の形態に用いられる電子データ(11〜14)やコンピュータプログラム(21〜24)を格納している。
記憶装置8に格納された電子データは、表示装置データ11、顔画像撮影装置データ12、顔姿勢初期データ13およびレイアウトデータ14を含む。表示装置データ11、顔画像撮影装置データ12、顔姿勢初期データ13およびレイアウトデータ14の各々は、画像表示システム1の動作を実行するために使用される。
表示装置データ11は、画像表示装置4に関する情報を示すデータである。そのデータは、画像を表示画面に表示するために必要な、画像表示装置4の表示画面サイズや表示可能解像度などの情報に例示される。
顔画像撮影装置データ12は、顔画像撮影装置3の設置位置を示すデータである。そのデータは、顔画像撮影装置3で撮影された画像データから顔姿勢データ(観察者10の視線方向を特定するためのデータ)を算出するために必要な、顔画像撮影装置3の設置位置に関する情報に例示される。
顔姿勢初期データ13は、顔姿勢データを算出するために使用される初期データである。そのデータは、観察者10が画像表示装置4の表示画面の左隅を注視している顔画像データを顔姿勢初期データ13に例示される。予め顔姿勢初期データ13を格納しておくことで、顔正面点Pの算出に要する情報処理量を低減することが可能になる。観察者10と画像表示装置4の特定点との相対的な距離を顔姿勢初期データ13として格納しても良い。
レイアウトデータ14は、監視対象画像を画像表示装置4に表示する場合の表示レイアウトに関するデータである。監視対象の画像(広範囲画像または多視点画像)は、監視対象画像撮影装置2で撮影された画像をコンピュータ5で画像処理を実行することで生成される。コンピュータ5は、生成された監視対象画像を画像表示装置4に表示する場合、顔正面点Pに対応する領域を特定する。コンピュータ5は、その特定された領域を高解像で表示可能なように表示データを生成する。したがって、レイアウトデータ14に設定を変更することで、画像表示装置4での表示形態を任意に変更することが可能になる。
記憶装置8に格納されたコンピュータプログラムは、基準画像データ生成プログラム21、顔姿勢データ生成プログラム22、顔正面点検出プログラム23および表示画像データ生成プログラム24を含む。基準画像データ生成プログラム21、顔姿勢データ生成プログラム22、顔正面点検出プログラム23および表示画像データ生成プログラム24の各々は、画像表示システム1の動作を実行するために使用される。
基準画像データ生成プログラム21は、監視対象画像撮影装置2から送信された監視対象の画像データ(例示:図2のG1〜G3)に基づいて、表示画像データ生成のための基準となる基準画像データ(例示:図2のG0)を生成する。例えば、基準画像データ生成プログラム21は、複数の撮影装置(2−1〜2−n)で撮影された画像にオーバーラップが存在しているとき、オーバーラップのないシームレスな画像に対応する基準画像データを生成する。
顔姿勢データ生成プログラム22は、顔画像撮影装置3から送信された顔画像データと顔姿勢初期データ13と表示装置データ11とに基づいて、観察者10に関する現在の顔姿勢データ(観察者10の視線方向を特定するためのデータ)を生成する。
顔正面点検出プログラム23は、顔姿勢データ生成プログラム22で生成された顔姿勢データと表示装置データ11と顔画像撮影装置データ12とに基づいて、画像表示装置4の表示画面上の顔正面点Pを算出する。
表示画像データ生成プログラム24は、基準画像データ生成プログラム21で生成された基準画像データと顔正面点検出プログラム23で算出された顔正面点Pとレイアウトデータ14とに基づいて、表示画像データを生成する。
なお、本発明の作用効果を得るために、必ずしも上述の各データや各プログラムが全て要求されることは無い。例えば、より高性能なコンピュータ5を使用している場合などでは、顔姿勢データ生成プログラム22がレイアウトデータ14を使用せずに表示画像データを生成する構成であってもよい。その場合でも、本発明の作用効果に影響はない。
次に、本発明の画像表示システムの実施の形態の動作について説明する。図4は、本発明の画像表示システムの実施の形態の動作を示すフローチャートである。以下の動作において、必要とされるデータは記憶装置8に予め格納されているとして説明する。
画像表示システム1が起動され、画像表示装置4が監視対象画像を表示する。表示されている画像は、監視対象画像撮影装置2によって所定の時間間隔で連続的に撮影され、コンピュータ5で所定の画像処理が実行された基準画像データである。基準画像データは、連続的に更新されている。観察者10は、その表示されている画像を肉眼で見る。
ステップS101において、顔画像撮影装置3は、観察者10の顔画像を撮影する。この撮影が実行される時間間隔は、観察者10の顔正面点移動を十分に検出できる程度に短い間隔で行われる。顔画像撮影装置3は、撮影された顔画像を顔画像データとしてデータ処理可能な形式に形式変換して、ネットワークを介してコンピュータ5に送信する。
ステップS102において、コンピュータ5は、顔画像撮影装置3から送信される顔画像データに応答して、顔姿勢データ生成プログラム22を起動する。コンピュータ5のCPU6は、顔姿勢データ生成プログラム22の起動に応答して、顔姿勢初期データ13と表示装置データ11とを読み込む。そして、顔姿勢初期データ13と顔画像データと表示装置データ11とに基づいて、観察者10の現在の顔姿勢データを算出する。この処理を行う技術の一例として、「『3Dアピアランスモデルを用いた高速・高精度な顔姿勢推定』(2004年 電子情報通信学会総合大会論文集 D−12−99)」に記載の顔姿勢推定技術を利用可能である。この顔姿勢推定技術を顔姿勢データ生成プログラム22に含ませることにより、顔画像撮影装置3に対する観察者10の顔姿勢を算出できる。したがって、顔画像撮影装置3と画像表示装置4と間の位置関係を予め求めておくことにより、画像表示装置4に対する観察者10の顔姿勢データを演算で求めることができる。コンピュータ5は顔姿勢データの算出完了に応答してステップS103の処理に進む。
ステップS103において、コンピュータ5は顔正面点検出プログラム23を起動する。コンピュータ5のCPU6は、顔正面点検出プログラム23の起動に応答して、更に、顔画像撮影装置データ12を読み込む。そして、顔姿勢データと表示装置データ11と顔画像撮影装置データ12とに基づいて、顔正面点Pを特定する。コンピュータ5は顔正面点Pの特定完了に応答してステップS103の処理に進む。
ステップS104において、コンピュータ5は、表示画像データ生成プログラム24を起動する。コンピュータ5のCPU6は、表示画像データ生成プログラム24の起動に応答して、監視対象画像撮影装置2が撮影しコンピュータ5で画像処理された基準画像データと顔正面点Pとレイアウトデータ14とに基づいて表示画像データを生成する。表示画像データは、顔正面点Pに対応する表示領域(高解像度表示領域)に高解像度画像が表示されるように生成されている。コンピュータ5は、表示画像データの生成完了に応答してステップS105の処理に進む。
ステップS105において、ステップ104の実行の間に顔正面点Pが移動したかどうかの判断が実行される。例えば、ステップS103のようなプロセスを再実行し、前回特定した顔正面点と今回特定した顔正面点とが同じであれば、移動していないと判定する。その判断の結果、顔正面点の移動が検出されなかった場合(ステップS105:NO)、コンピュータ5は、ステップS104で生成された表示画像データを、ネットワークを介して画像表示装置4へ送信する。表示画像データ生成後に、顔正面点移動を検出した場合(ステップS105:YES)、処理はステップS106に進む。
ステップS106において、コンピュータ5は、検出された移動後の顔正面点P(ステップS105で算出したもの)に関するデータ(以下、顔正面点データという)の読み込みを実行する。顔正面点データとしては、画像表示装置4の画面内の座標に例示される。
ステップS107において、コンピュータ5は、顔正面点データの読み込み完了に応答して、表示画像データ(ステップS104で生成されたもの)の読み込みを実行する。顔正面点データと表示画像データの各々の読み込み完了に応答して、処理はステップS108に進む。
ステップS108において、コンピュータ5は顔正面点Pが、読込んだ表示画像データの高解像度表示領域に対応しているかどうかの判断を実行する。その判断の結果、現在の表示画像データに対応させた場合、高解像度で画像が表示される領域(高解像度表示領域)と顔正面点Pとが対応していなかった場合(ステップS108:YES)、処理はステップS101に戻り、新たな表示画像データの生成が行われる。ステップS108で顔正面点Pは移動していたけれども、高解像度で画像が表示される領域から外れていなかった場合(ステップS108:NO)、コンピュータ5は、ステップS104で生成された表示画像データをネットワークを介して画像表示装置4に送信し、処理はステップS109に進む。
ステップS109において、画像表示装置4は、コンピュータ5から送信された表示画像データを受信し、その表示画像データに対応する画像を表示画面に表示する。この動作を繰り返すことで、画像表示システム1は、観察者10の顔正面点移動に追従して観察者10が注目している箇所に対応する領域を自動的に高解像度で表示することができる。
なお、上記動作において、ステップS105〜ステップS108を省略することも可能である。その場合、画像表示の実行、更新がより迅速になる。
次に、本発明の画像表示システムの具体的な利用について説明する。図5は、画像表示システム1を車両の運行に適用した場合の構成を示す図である。車両30は、画像表示システム1を備えている移動体である。図5は、その車両30が交差点Pに侵入する様子を示している。図5を参照すると、車両30の左前近傍に二輪車B1が走行し、車両30の進行方向に対して右前方の道路に自動車C1が存在している。車両30には、監視対象画像撮影装置2(2−1〜2−3)と顔画像撮影装置3と画像表示装置4とコンピュータ5とが備えられている。また、観察者10(車両30の運転者)は、画像表示装置4の表示されている画像を見ながら車両の運行を行っている。第1画像撮影装置2−1は視野R1に対応する範囲の外部画像を撮影している。第2画像撮影装置2−2は視野R2に対応する範囲の外部画像を撮影している。第3画像撮影装置2−3は視野R3に対応する範囲の外部画像を撮影している。顔画像撮影装置3は、車両30内部に設置され、観察者10の顔画像を常時撮影している。
第1画像撮影装置2−1〜第3画像撮影装置2−3は、撮影した外部画像を電子データ化する。そして、コンピュータ5で情報処理が可能な形式に形式変換して、車両30内部のネットワーク(図示されず)を介してコンピュータ5に送信する。同様に、顔画像撮影装置3は、撮影した顔画像を電子データ化する。そして、コンピュータ5で情報処理が可能な形式に形式変換して、ネットワークを介してコンピュータ5に送信する。コンピュータ5は受信した外部画像データと顔画像データとに基づいて画像処理を実行し、表示画像データを生成する。生成された表示画像データは、上述のネットワークを介して画像表示装置4に送信される。
図6は、第1画像撮影装置2−1〜第3画像撮影装置2−3で撮影された外部画像データを例示する図である。第1画像データG1は第1画像撮影装置2−1で撮影された画像データを示している。同様に第2画像G2データは第2画像撮影装置2−2で撮影された画像データを示し、第3画像データG3は、第3画像撮影装置2−3で撮影された画像データを示している。
図7は、上述の第1画像データG1〜第3画像データG3から表示画像データ40(40a、40b)を生成する動作を示した図である。基準外部画像データG0は、第1画像データG1〜第3画像データG3に基づいて生成された基準画像データである。図7に示されている基準画像データG0は、各画像データ(G1〜G3)を結合させて生成され、各々の画像データ(第1画像データG1〜第3画像データG3)の相対位置を特定している。なお、基準画像データG0の情報量を低減するために、各画像(G1〜G3)の横方向サイズを所定の比率で縮小した基準画像データG0を生成しても良い。生成された基準画像データG0は、顔正面点Pが検出されていない場合に画像表示装置4で表示される。システムが動作し、顔正面点Pの検出が実行されると、顔正面点データ50が生成される。顔正面点データ50は、本発明の理解を容易にするために、基準画像データG0に対応して顔正面点Pを示しているが、実際の顔正面点データは画面上の座標を示す数値データであっても良い。
ここで、観察者10の顔正面点Pが、図7に示されているように座標(50、50)で示される位置である場合、コンピュータ5はその座標で示される点に対応する領域を算出する。そしてコンピュータ5は、算出された領域と顔正面点データ50とに基づいて、上述の第1画像データG1に対応する画像G1aが高解像度で表示可能なように表示画像データを生成する。生成された表示画像データはネットワークを介して画像表示装置4に出力される。画像表示装置4は、コンピュータ5から供給された表示画像データに基づいて表示画像40aを画面に表示する。
観察者10が視線を移動させたことにより、顔正面点Pの位置が表示画像G1aの領域に存在しないと判断される場合を考える。コンピュータ5は、顔画像撮影装置3から送信される顔画像データに基づいて、観察者10の顔正面点移動を監視している。図7に示されているように、観察者10が視線を移動したことで顔正面点データ50の顔正面点Pの座標が、顔正面点P(5、25)を示した場合(以下、その顔正面点Pを“新たな顔正面点P”と呼ぶ。)、コンピュータ5は、その新たな顔正面点Pが表示画像G1aの領域に存在していないと判断する。
コンピュータ5は、その判断結果に対応して、上記の新たな顔正面点Pの座標(顔正面点P(5、25))と画像表示装置4に出力している表示画像データとから、上述の第2画像データG2に対応する画像G2aが高解像度で表示可能なように、新たな表示画像データを生成する。生成された新たな表示画像データはネットワークを介して画像表示装置4に出力される。画像表示装置4は、コンピュータ5から供給された新たな表示画像データに基づいて新たな表示画像40bを画面に表示する。
したがって、観察者10が顔を少し動かすだけで注目部分の画像が指定され、観察者10は、指定された領域の画像を高解像度で見ることができる。本発明を車両運行に用いることにより、観察者10(車両の運転者)の前方および左右の映像を死角を低減させることが可能になる。例えば、観察者10が、車両30を左折させる場合、左側に併走する二輪車B1の巻き込みを確認しなければならない。通常では観察者10は左の二輪車B1を目視するために顔を回転しなければならない。走行中に左の目視を実行することにより、前方不注意になる場合あり、また、左の目視を忘れて事故原因となることも多い。また、左側の二輪車B1に気をとられていると右側から来る自動車C1を見落とす可能性がある。
しかし、本発明によれば、正面向きの状態でも全体を目視可能な範囲に画像を表示する画像表示装置4に、左の二輪車B1から右の自動車C1までを含む広視野の画像が表示されている。したがって観察者10は、交差点周囲の状況を迅速に、かつ、容易に判断することができる。状況判断を正確行い、二輪車B1までの相対距離や二輪車B1大きさを確認するためには、第2画像データG2が高解像度で表示される必要がある。表示画像G1aを見ている観察者10が、表示画像G1aに表示されている二輪車B1存在に気がついた場合、顔を20〜30度(あるいはそれ以下の角度)動かすだけで、走行中に左の目視を実行した場合と同様の画像を見ることができる。また、右側の自動車C1も低解像度ながら常に表示されているため見落とす可能性が少なく、二輪車B1確認中もその存在に気づくことができる。
なお、上記の説明では、本発明の画像表示システムを道路を走行する自動車に適用した場合について述べているが、これは、本発明の画像表示システムを適用する移動体を地上を走行する車両に限定するものではない。例えば、上記の画像表示システムと同様の構成を水上を航行する船舶などに備えることも可能である。
本発明は、広域監視システム(複数の異なる場所に設置された監視カメラの画像を監視員が監視するシステム)に適用する場合においても、その効果を発揮する。図8は、本実施の形態を広域監視に適用した場合の構成を示す概念図である。図8に示されているように、この広域監視システムは、異なる地点を撮影する複数の撮影装置(2−1〜2−6)と、顔画像撮影装置3と、画像表示装置4と、コンピュータ5で構成されている。以下の説明において、前述した装置と同じ符号が付されている各装置は、前述のものと同様の構成を有しているものとし、その詳細な説明は省略する。
図8に示されているように、複数の撮影装置(2−1〜2−6)の各々は、一例として6箇所の異なる場所を撮影する6台の監視カメラで構成されている。各々の撮影装置は、ネットワーク(図示されず)を介してコンピュータ5に接続されている。複数の撮影装置(2−1〜2−6)は、それぞれの地点の様子を撮影した所定の画素の画像データを生成し、ネットワークを介してコンピュータ5出力する。また、顔画像撮影装置3および画像表示装置4も、そのネットワークを介してコンピュータ5に接続されている。観察者10は、画像表示装置4に表示されている画像を観察する人物である。
顔画像撮影装置3は、観察者10の顔を撮影する顔画像撮影装置である。顔画像撮影装置3は、上述のネットワークを介して、コンピュータ5と、画像表示装置4とに接続されている。顔画像撮影装置3によって撮影された観察者10の顔画像は、顔画像データに変換されてコンピュータ5に入力される。コンピュータ5は顔画像撮影装置3から供給された該顔画像データに基づいて観察者10の顔正面点Pを検出して顔正面点データを生成する。
図9は、広域監視システムに本発明を適用した場合の動作を示す概念図である。各撮影地点に設置された撮影装置(2−1〜2−6)は、その撮影画像を電子データに変換してコンピュータ5に送信する。コンピュータ5は送信された画像データをネットワークを介して受信し、その受信に応答して基準画像データ生成プログラム21を起動する。コンピュータ5は、起動した基準画像データ生成プログラム21を実行することで基準画像データを生成する。その基準画像データは、第1画像撮影装置2−1〜2−6から送信される画像を低解像度化して並べ、画像表示装置4で表示可能な1枚の画像に統合することによって生成される。
また、コンピュータ5は、顔画像撮影装置3から送信された顔画像データに基づいて顔姿勢データを生成する。生成される顔画像データは、顔姿勢データ生成プログラム22を実行することによって生成される。コンピュータ5は、顔姿勢データ生成プログラム22によって検出された顔姿勢データと、表示装置データ11の画面の位置情報を用いて、顔正面点P(顔の正面に位置する画面上の点)の位置を決定し、顔正面点Pとして出力する。さらに、顔正面点Pを含む領域に表示される監視カメラ画像の解像度を高くし、その他の監視カメラ画像の解像度を下げることによって表示画像データを生成する。
上記の動作を具体的に説明する。広域監視システムを構成している第1画像撮影装置2−1〜第6画像撮影装置2−6は、異なる地点の画像データG1〜画像データG6を撮影する。撮影された各々の画像データ(G1〜G6)は、ネットワークを介してコンピュータ5に送信される。ここで、送信される各々の画像データの画素が360×240画素であるとし、画像表示装置4の表示可能画素サイズが360×240画素であるとする。
コンピュータ5は、基準画像データ生成プログラム21を実行し、第1画像撮影装置2−1〜第6画像撮影装置2−6で撮影された画像を、図9の表示画像40cに示されているように、120×80画素の領域5つ(領域42〜領域46)と、約その2倍の解像度となる240×160画素の領域(領域41)ひとつに分割する。システムが動作を開始した時点(初期状態)では、コンピュータ5は、表示画像40cのように領域41を240×160画素、領域42〜領域46を120×80画素の領域に割り当てて画像表示装置4に表示させている。
システムが動作している場合、コンピュータ5は、顔画像撮影装置3を用いて観察者10の顔画像を撮影し続ける。コンピュータ5は顔姿勢データ生成プログラム22を実行し、顔画像撮影装置3から送信される顔画像データに基づいて、観察者10の顔の3次元的な位置および向きを検出する。さらにコンピュータ5は、顔姿勢データ生成プログラム22を実行することによって算出される顔姿勢データと表示装置データ11と顔画像撮影装置データ12を用いて、顔正面点P(顔の位置から顔の向きに伸ばした直線と画像表示装置4の画面の交わる点)を顔正面点Pとして決定する。
ここでコンピュータ5は、その顔正面点Pが領域41〜領域46のどの領域に含まれているかを判定し、顔正面点Pが含まれる領域を240×160画素の領域となるように新たな表示画像データを生成する。システム起動時点以外は、前回表示を行った時点での表示画像データに基づき、顔正面点Pがどの領域にあるかを判別する。例えば、顔正面点Pが領域46の領域内である場合、コンピュータ5は、表示画像40dに示されているように、領域46を左下の240×160画素の領域として表示画像データを生成する。その表示画像データにおいて、領域41〜領域45を120×80画素の領域とする。つまり、画像表示装置4で表示される監視対象画像は、画像データG1〜画像データG6をそれぞれ領域領域41〜領域46の解像度に変更して表示画像データが表示される。
上述の例では、解像度の拡大量を2倍で一定であるとしたが、これはレイアウトデータ14の設定を変更することで任意に変更可能である。特に、顔の位置がディスプレイに近くなった場合に大きくし、遠くなった場合に小さくする、などの処理を行うことにより、視聴者が解像度の変化量を必要に応じて変えることも可能である。
このように広域監視システムに本発明を適用することによって、監視員は一度に複数地点を常時監視することができ、かつ、異常が発生した疑いがある地点を表示している画像を、視線に追従するように拡大表示させることができる。本発明により、観察者10は、スイッチ操作などを行わなくても顔をすこし動かすだけで、対象領域を高解像で表示させて確認することができるため、以上発生時に迅速に対応することができる。また、本発明により、観察者10は、特別な装置を装着することなく広域監視を実行することができる。

Claims (21)

  1. 画像表示装置と、
    前記画像表示装置で表示される表示画像の表示画像データを生成する画像生成装置と、前記表示画像は複数の領域を有し、
    前記表示画像を見るヒトの顔画像を撮影する顔画像撮影装置と、
    前記顔画像から顔画像データを生成し、前記顔画像データに基づいて前記表示画像上における前記ヒトの顔の正面に位置する点としての顔正面点を検出する顔正面点検出装置と
    を備え、
    前記画像生成装置は、前記複数の領域から前記顔正面点に対応する特定領域を特定して、前記特定領域に対応する画像が提供する情報量を増加させて前記表示画像データを生成する
    画像表示システム。
  2. 請求項1に記載の画像表示システムにおいて、
    前記顔正面点検出装置は、新たな顔正面点を検出し、
    前記画像生成装置は、前記新たな顔正面点が前記特定領域から遷移した場合、新たな領域を特定し、前記新たな領域に対応する画像が提供する情報量を増加させて新たな表示画像データを生成する
    画像表示システム。
  3. 請求項1または2に記載の画像表示システムにおいて、
    前記画像生成装置は、画像が提供する情報量の増加を、前記画像表示装置で表示されるときの画像の表示サイズを相対的に大きくすることで行う
    画像表示システム。
  4. 請求項1から3の何れか1項に記載の画像表示システムにおいて、
    前記画像生成装置は、画像が提供する情報量の増加を、前記画像表示装置で表示されるときの画像の解像度を、相対的に高くすることで行う
    画像表示システム。
  5. 請求項1から4の何れか1項に記載の画像表示システムにおいて、
    前記画像生成装置は、前記ヒトの視界の範囲を超える範囲の画像を撮影する広範囲撮影装置で撮影された広範囲画像を前記表示画像に構成し、
    前記画像表示装置は、前記広範囲画像で構成された前記表示画像データを、前記複数の領域に対応させ前記ヒトの視界の範囲内に入るように表示する
    画像表示システム。
  6. 請求項5に記載の画像表示システムにおいて、
    前記画像生成装置は、前記広範囲撮影装置としての複数の撮影装置で撮影された複数の画像を、前記表示画像に合成し、
    前記画像表示装置は、前記ヒトの視界の範囲内に入るように、前記複数の領域に対応して前記表示画像データを表示する
    画像表示システム。
  7. 請求項1から6の何れか1項に記載の画像表示システムにおいて、
    前記画像生成装置は、情報記憶部を有し、
    前記情報記憶部は、前記画像表示装置の情報を示す表示装置データと、前記顔画像撮影装置の情報を示す顔画像撮影装置データを記憶し、
    前記顔正面点検出装置は、前記顔画像に基づいて3次元画像処理を実行して前記顔画像データを生成し、前記顔画像データと前記表示装置データおよび前記顔画像撮影装置データに基づいて前記顔正面点を検出する
    画像表示システム。
  8. (a)画像表示装置で表示される表示画像の表示画像データを生成するステップと、前記表示画像は複数の領域を有し、
    (b)前記表示画像を見るヒトの顔画像を撮影するステップと、
    (c)前記顔画像から顔画像データを生成し、前記顔画像データに基づいて前記表示画像上における前記ヒトの顔の正面に位置する点を前記ヒトの顔正面点として検出するステップと、
    (d)前記複数の領域から前記顔正面点に対応する特定領域を特定して、前記特定領域に対応する画像が提供する情報量を増加させて前記表示画像データを生成するステップと、
    (e)前記表示画像データを前記画像表示装置で表示するステップと
    を具備する
    画像表示方法。
  9. 請求項8に記載の画像表示方法において、
    (f)新たな顔正面点を検出するステップと、
    (g)前記新たな顔正面点が前記特定領域から遷移した場合、新たな特定領域を特定し、前記新たな特定領域に対応する画像が提供する情報量を増加させて新たな表示画像データを生成するステップと
    をさらに具備する
    画像表示方法。
  10. 請求項8または9に記載の画像表示方法において、
    画像が提供する情報量の増加は、前記画像表示装置で表示されるときの画像の表示サイズを相対的に大きくすることで行う
    画像表示方法。
  11. 請求項8から10の何れか1項に記載の画像表示方法において、
    画像が提供する情報量の増加は、前記画像表示装置で表示されるときの画像の解像度を、相対的に高くすることで行う
    画像表示方法。
  12. 請求項8から11の何れか1項に記載の画像表示方法において、
    前記(a)ステップは、
    (a1)前記ヒトの視界の範囲を超える範囲の画像を撮影する広範囲撮影装置で撮影された広範囲画像を前記表示画像に構成するステップを備え、
    前記(e)ステップは、
    (e1)前記広範囲画像で構成された前記表示画像データを、前記複数の領域に対応させ前記ヒトの視界の範囲内に入るように表示するステップを備える
    画像表示方法。
  13. 請求項12に記載の画像表示方法において、
    前記(a1)ステップは、
    (a11)前記広範囲撮影装置としての複数の撮影装置で撮影された複数の画像を、前記表示画像に合成するステップを備え、
    前記複数の領域の各々は、前記複数の画像の各々に対応し、
    前記(e1)ステップは、
    (e11)前記ヒトの視界の範囲内に入るように、前記複数の領域に対応して前記表示画像データを表示するステップを備える
    画像表示方法。
  14. 請求項8から13の何れか1項に記載の画像表示方法において、
    前記(c)ステップは、
    (c1)前記画像表示装置の情報を示す表示装置データと、前記顔画像を撮影する顔画像撮影装置の情報を示す顔画像撮影装置データを読み出すステップと、
    (c2)前記顔画像に基づいて3次元画像処理を実行して前記顔画像データを生成し、前記顔画像データと前記表示装置データおよび前記顔画像撮影装置データに基づいて前記顔正面点を検出するステップと
    を備える
    画像表示方法。
  15. (h)画像表示装置で表示される表示画像の表示画像データを生成するステップと、前記表示画像は複数の領域を有し、
    (i)前記表示画像を見るヒトの顔画像から顔画像データを生成し、前記顔画像データに基づいて前記表示画像上における前記ヒトの顔の正面に位置する点を前記ヒトの顔正面点として検出するステップと、
    (j)前記複数の領域から前記顔正面点に対応する特定領域を特定して、前記特定領域に対応する画像が提供する情報量を増加させて前記表示画像データを生成するステップと、
    (k)前記表示画像データを前記画像表示装置へ出力するステップと
    を具備する法をコンピュータで実行可能なプログラム。
  16. 請求項15に記載のプログラムにおいて、
    (l)新たな顔正面点を検出するステップと、
    (m)前記新たな顔正面点が前記特定領域から遷移した場合、新たな特定領域を特定し、前記新たな特定領域に対応する画像が提供する情報量を増加させて新たな表示画像データを生成するステップと
    をさらに具備するプログラム。
  17. 請求項15または16に記載のプログラムにおいて、
    画像が提供する情報量の増加は、前記画像表示装置で表示されるときの画像の表示サイズを相対的に大きくすることで行う
    プログラム。
  18. 請求項15から17の何れか1項に記載のプログラムにおいて、
    画像が提供する情報量の増加は、前記画像表示装置で表示されるときの画像の解像度を、相対的に高くすることで行う
    プログラム。
  19. 請求項15から18の何れか1項に記載のプログラムにおいて、
    前記(h)ステップは、
    (h1)前記ヒトの視界の範囲を超える範囲の画像を撮影する広範囲撮影装置で撮影された広範囲画像を前記表示画像に構成するステップを備え、
    前記(k)ステップは、
    (k1)前記広範囲画像で構成された前記表示画像データが、前記複数の領域に対応させ前記ヒトの視界の範囲内に入るように表示されるように、前記表示画像データを前記画像表示装置へ出力するステップを備える
    プログラム。
  20. 請求項19に記載のプログラムにおいて、
    前記(h1)ステップは、
    (h11)前記広範囲撮影装置としての複数の撮影装置で撮影された複数の画像を、前記表示画像に合成するステップを備え、
    前記複数の領域の各々は、前記複数の画像の各々に対応し、
    前記(k1)ステップは、
    (k11)前記ヒトの視界の範囲内に入り、前記複数の領域に対応して前記表示画像データを表示されるように、前記表示画像データを前記画像表示装置へ出力するステップを備える
    プログラム。
  21. 請求項15から20の何れか1項に記載のプログラムにおいて、
    前記(i)ステップは、
    (i1)前記画像表示装置の情報を示す表示装置データと、前記顔画像を撮影する顔画像撮影装置の情報を示す顔画像撮影装置データを読み出すステップと、
    (i2)前記顔画像に基づいて3次元画像処理を実行して前記顔画像データを生成し、前記顔画像データと前記表示装置データおよび前記顔画像撮影装置データに基づいて前記顔正面点を検出するステップと
    を備える
    プログラム。
JP2006514702A 2004-06-18 2005-06-08 画像表示システム、画像表示方法および画像表示プログラム Active JP4952995B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006514702A JP4952995B2 (ja) 2004-06-18 2005-06-08 画像表示システム、画像表示方法および画像表示プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2004180485 2004-06-18
JP2004180485 2004-06-18
PCT/JP2005/010463 WO2005124735A1 (ja) 2004-06-18 2005-06-08 画像表示システム、画像表示方法および画像表示プログラム
JP2006514702A JP4952995B2 (ja) 2004-06-18 2005-06-08 画像表示システム、画像表示方法および画像表示プログラム

Publications (2)

Publication Number Publication Date
JPWO2005124735A1 true JPWO2005124735A1 (ja) 2008-07-31
JP4952995B2 JP4952995B2 (ja) 2012-06-13

Family

ID=35509944

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006514702A Active JP4952995B2 (ja) 2004-06-18 2005-06-08 画像表示システム、画像表示方法および画像表示プログラム

Country Status (6)

Country Link
US (1) US7839423B2 (ja)
EP (1) EP1768097A1 (ja)
JP (1) JP4952995B2 (ja)
KR (1) KR100911066B1 (ja)
CN (1) CN1969313A (ja)
WO (1) WO2005124735A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4668803B2 (ja) * 2006-02-13 2011-04-13 アルパイン株式会社 運転支援画像表示制御装置
US9582805B2 (en) 2007-10-24 2017-02-28 Invention Science Fund I, Llc Returning a personalized advertisement
US20090113297A1 (en) * 2007-10-24 2009-04-30 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Requesting a second content based on a user's reaction to a first content
US9513699B2 (en) 2007-10-24 2016-12-06 Invention Science Fund I, LL Method of selecting a second content based on a user's reaction to a first content
JP4743234B2 (ja) * 2008-07-02 2011-08-10 ソニー株式会社 表示装置及び表示方法
DE102009020328A1 (de) * 2009-05-07 2010-11-11 Bayerische Motoren Werke Aktiengesellschaft Verfahren zur Darstellung von unterschiedlich gut sichtbaren Objekten aus der Umgebung eines Fahrzeugs auf der Anzeige einer Anzeigevorrichtung
FR2956364B1 (fr) * 2010-02-18 2016-01-29 Peugeot Citroen Automobiles Sa Dispositif d'aide aux manoeuvres d'un vehicule par affichage de points de vue fonction de la position de la tete du conducteur
US8463075B2 (en) * 2010-08-11 2013-06-11 International Business Machines Corporation Dynamically resizing text area on a display device
JP6080346B2 (ja) * 2011-10-03 2017-02-15 株式会社日立国際電気 映像表示装置
US10884577B2 (en) * 2013-01-15 2021-01-05 Poow Innovation Ltd. Identification of dynamic icons based on eye movement
JP6428268B2 (ja) * 2013-01-24 2018-11-28 ソニー株式会社 画像表示装置及び画像表示方法、並びに画像表示システム
US11747895B2 (en) * 2013-03-15 2023-09-05 Intuitive Surgical Operations, Inc. Robotic system providing user selectable actions associated with gaze tracking
CN104228684B (zh) * 2014-09-30 2017-02-15 吉林大学 一种消除汽车a柱盲区的方法
DE112014007163T5 (de) * 2014-11-12 2017-08-24 Mitsubishi Electric Corporation Anzeigensteuergerät und Informationsanzeigegerät
JP2016149651A (ja) * 2015-02-12 2016-08-18 株式会社デンソー 表示制御装置及び表示システム
TWI547177B (zh) * 2015-08-11 2016-08-21 晶睿通訊股份有限公司 視角切換方法及其攝影機
JP6449501B1 (ja) * 2018-03-28 2019-01-09 Eizo株式会社 表示システム及びプログラム
CN113055587A (zh) * 2019-12-27 2021-06-29 财团法人工业技术研究院 全景视频处理方法、全景视频处理装置与全景视频系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01252993A (ja) * 1988-04-01 1989-10-09 Nippon Telegr & Teleph Corp <Ntt> 画像表示方法
JPH03173000A (ja) * 1989-11-30 1991-07-26 Toshiba Corp 画像表示方法及び画像表示装置
JPH08322796A (ja) * 1995-05-29 1996-12-10 Sharp Corp 視線方向検出方法及び装置及びそれを含むマンマシンインターフェース装置
JPH09251342A (ja) * 1996-03-15 1997-09-22 Toshiba Corp 注視箇所推定装置とその方法及びそれを使用した情報表示装置とその方法
JPH1078845A (ja) * 1996-06-25 1998-03-24 Sun Microsyst Inc 視標追跡主導型テキスト拡大の方法および装置
JP2000347692A (ja) * 1999-06-07 2000-12-15 Sanyo Electric Co Ltd 人物検出方法、人物検出装置及びそれを用いた制御システム
JP2003116125A (ja) * 2001-10-03 2003-04-18 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP2003240560A (ja) * 2002-02-13 2003-08-27 Alpine Electronics Inc 視線を用いた画面制御装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4790028A (en) * 1986-09-12 1988-12-06 Westinghouse Electric Corp. Method and apparatus for generating variably scaled displays
JP3031013B2 (ja) 1991-11-15 2000-04-10 日産自動車株式会社 視覚情報提供装置
JPH08116556A (ja) 1994-10-14 1996-05-07 Canon Inc 画像処理方法および装置
US5850352A (en) * 1995-03-31 1998-12-15 The Regents Of The University Of California Immersive video, including video hypermosaicing to generate from multiple video views of a scene a three-dimensional video mosaic from which diverse virtual video scene images are synthesized, including panoramic, scene interactive and stereoscopic images
JPH0981309A (ja) * 1995-09-13 1997-03-28 Toshiba Corp 入力装置
US5912721A (en) * 1996-03-13 1999-06-15 Kabushiki Kaisha Toshiba Gaze detection apparatus and its method as well as information display apparatus
JPH09305156A (ja) 1996-05-16 1997-11-28 Nippon Telegr & Teleph Corp <Ntt> 映像表示方法及び装置
JP3139959B2 (ja) * 1996-05-17 2001-03-05 鹿島建設株式会社 作業機械の操作支援画像システム
JP2000059665A (ja) 1998-08-06 2000-02-25 Mitsubishi Electric Corp 撮像装置
US6292713B1 (en) * 1999-05-20 2001-09-18 Compaq Computer Corporation Robotic telepresence system
JP3298851B2 (ja) * 1999-08-18 2002-07-08 松下電器産業株式会社 多機能車載カメラシステムと多機能車載カメラの画像表示方法
US6943799B2 (en) * 2002-03-29 2005-09-13 The Boeing Company Gaze directed visual system
US20050047629A1 (en) * 2003-08-25 2005-03-03 International Business Machines Corporation System and method for selectively expanding or contracting a portion of a display using eye-gaze tracking
JP4222183B2 (ja) 2003-10-29 2009-02-12 株式会社デンソー 車両周辺画像表示装置
US7561143B1 (en) * 2004-03-19 2009-07-14 The University of the Arts Using gaze actions to interact with a display

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01252993A (ja) * 1988-04-01 1989-10-09 Nippon Telegr & Teleph Corp <Ntt> 画像表示方法
JPH03173000A (ja) * 1989-11-30 1991-07-26 Toshiba Corp 画像表示方法及び画像表示装置
JPH08322796A (ja) * 1995-05-29 1996-12-10 Sharp Corp 視線方向検出方法及び装置及びそれを含むマンマシンインターフェース装置
JPH09251342A (ja) * 1996-03-15 1997-09-22 Toshiba Corp 注視箇所推定装置とその方法及びそれを使用した情報表示装置とその方法
JPH1078845A (ja) * 1996-06-25 1998-03-24 Sun Microsyst Inc 視標追跡主導型テキスト拡大の方法および装置
JP2000347692A (ja) * 1999-06-07 2000-12-15 Sanyo Electric Co Ltd 人物検出方法、人物検出装置及びそれを用いた制御システム
JP2003116125A (ja) * 2001-10-03 2003-04-18 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP2003240560A (ja) * 2002-02-13 2003-08-27 Alpine Electronics Inc 視線を用いた画面制御装置

Also Published As

Publication number Publication date
WO2005124735A1 (ja) 2005-12-29
JP4952995B2 (ja) 2012-06-13
US20080036790A1 (en) 2008-02-14
KR20080024545A (ko) 2008-03-18
US7839423B2 (en) 2010-11-23
KR100911066B1 (ko) 2009-08-06
EP1768097A1 (en) 2007-03-28
CN1969313A (zh) 2007-05-23

Similar Documents

Publication Publication Date Title
JP4952995B2 (ja) 画像表示システム、画像表示方法および画像表示プログラム
US10095458B2 (en) Information processing apparatus, information processing method, non-transitory computer-readable storage medium, and system
US6389153B1 (en) Distance information generator and display device using generated distance information
JP4642723B2 (ja) 画像生成装置および画像生成方法
US20060072206A1 (en) Image display apparatus and image display system
JP5869712B1 (ja) 没入型仮想空間に実空間のユーザの周辺環境を提示するためのヘッドマウント・ディスプレイ・システムおよびコンピュータ・プログラム
CN108093244B (zh) 一种远程随动立体视觉系统
JP7372061B2 (ja) 遠隔作業支援システム
JP2019526182A (ja) 陸上車両用光電子視認装置
CN111953890A (zh) 摄像装置、控制设备、摄像方法和存储介质
JP6641122B2 (ja) 表示装置及び情報処理装置及びその制御方法
JP6649010B2 (ja) 情報処理装置
EP3547663B1 (en) Panaoramic vision system with parallax mitigation
JP2015007722A (ja) 画像表示装置
KR101383997B1 (ko) 실시간 동영상 합병 방법 및 시스템, 실시간 동영상 합병을 이용한 영상 감시 시스템 및 가상 영상 투어 시스템
WO2021079636A1 (ja) 表示制御装置、表示制御方法及び記録媒体
Dasgupta et al. An augmented-reality-based real-time panoramic vision system for autonomous navigation
JP2009044597A (ja) 広角画像取得装置
JP7247371B2 (ja) 画像処理装置、システム、画像処理方法、および画像処理プログラム
KR100856966B1 (ko) 화상 표시 시스템, 화상 표시 방법 및 기록 매체
JP7135378B2 (ja) 周辺監視装置
JPH10291188A (ja) 立体映像提示方法
WO2012035927A1 (ja) 遠隔映像監視システム
CN111050115B (zh) 用以监视热源的双视角影像装置及其图像处理方法
JP2006005451A (ja) 車載監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080514

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110330

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120216

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120229

R150 Certificate of patent or registration of utility model

Ref document number: 4952995

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150323

Year of fee payment: 3