JPWO2006046715A1 - エンタテインメントシステム - Google Patents

エンタテインメントシステム Download PDF

Info

Publication number
JPWO2006046715A1
JPWO2006046715A1 JP2006542358A JP2006542358A JPWO2006046715A1 JP WO2006046715 A1 JPWO2006046715 A1 JP WO2006046715A1 JP 2006542358 A JP2006542358 A JP 2006542358A JP 2006542358 A JP2006542358 A JP 2006542358A JP WO2006046715 A1 JPWO2006046715 A1 JP WO2006046715A1
Authority
JP
Japan
Prior art keywords
image
unit
content
landscape
traveling direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2006542358A
Other languages
English (en)
Inventor
森 敏昭
敏昭 森
水口 裕二
裕二 水口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2006046715A1 publication Critical patent/JPWO2006046715A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/004Arrangements for holding or mounting articles, not otherwise provided for characterised by position outside the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0042Arrangements for holding or mounting articles, not otherwise provided for characterised by mounting means
    • B60R2011/008Adjustable or movable supports
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/207Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using multi-purpose displays, e.g. camera image and navigation or video on same display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/804Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for lane monitoring

Abstract

移動体内に居る視聴者が安全な体勢をいち早くとることができるエンタテインシステムを提供することである。エンタテインメントシステム600は、車両の進行方向の風景を撮影して風景画像を生成する撮像部12と、風景画像から、車両の進行方向上の位置を検出する進行方向位置検出部17と、画像情報を含むコンテンツ情報を出力する映像コンテンツ再生部11と、風景画像から車両の進行方向上の位置を検出する進行方向位置検出部17と、映像コンテンツ再生部11により出力されたコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成する合成画像生成部14と、合成画像生成部14により合成された合成画像を表示する表示部15とを備える。

Description

本発明は、エンタテインメントシステムに関し、移動体内に居る視聴者にコンテンツを提供するエンタテインメントシステムに関する。
上記のようなエンタテインメントシステムは、移動体の一例としての車両に設置され、例えば、前部座席周辺又は後部座席周辺に取り付けられたモニタを通じて、映画、ニュース又はテレビに代表されるコンテンツを表すエンタテイメント情報を、車両内の乗員(視聴者)に提供する。しかしながら、このような提供方式では、車両が曲がったり、減速したりするときに、視聴者は、車両の挙動を予め知ることができないので、安全な体勢をとることができず、その結果、エンタテインメントシステムは、視聴者に乗り物酔いを誘発する可能性があるという問題点があった。
この問題点を解決するため、ハンドル、ブレーキ又はウインカーから得た操作情報を用いて、車両が曲がるとき又は減速することを音声出力又はモニタ表示したり、後部座席用モニタに車載カメラが撮影した進行方向の風景映像を表示したりすることで、車両の挙動を乗員に通知し、それによって、乗り物酔いの誘発を抑えようとするエンタテインメントシステム(以下、従来のエンタテインメントシステムと称する)が提案されている(例えば、特開2003−154900号公報を参照)。
ここで、図11は、従来のエンタテインメントシステムの構成を示すブロック図である。図11において、従来のエンタテインメントシステムは、ハンドル52、ブレーキ53及びウインカー54からの操作情報を受けて操作状態を音声で提示するための音声合成回路51と、該操作状態を映像で提示するためのOSD装置55、進行方向の風景を撮影するビデオカメラ62、DVD再生装置57、リアモニタ61、車両の運転を支援するナビゲーション装置58、音声合成回路51の音声出力とDVD再生装置57の音声信号とナビゲーション装置58の音声信号とを合成するミキサ56、合成された音声信号を赤外線信号に変換するIR回路59、及び、該IR回路59からの赤外線信号を受信し音声に変換するヘッドホン60を備えている。
しかしながら、従来のエンタテインメントシステムでは、例えば、ウインカー54を操作する必要の無いカーブを車両が走行する場合、その旨がヘッドホン60に音声出力されないし、リアモニタ61にも何も表示されなし、さらに言えば、進行方向の風景映像がリアモニタ61に表示されない。従って、車両がカーブを曲がるとき、又は車両がある程度の挙動変化を示したとき、そのような挙動が起こることを乗員は知ることができないので、従来のエンタテインメントシステムでは、乗員が安全な体勢を事前にとらせたり、乗り物酔いの誘発を抑えたりすることが十分に行えないという問題点があった。
それ故に、本発明の目的は、移動体内に居る視聴者が安全な体勢をいち早くとることができるエンタテインシステムを提供することである。
上記目的を達成するために、本発明のエンタテインメントシステムは、車両の進行方向の風景を撮影して風景画像を生成する撮像部と、画像情報を含むコンテンツ情報を出力するコンテンツ情報出力部と、撮像部により生成された風景画像から、車両の進行方向上の位置を検出する進行方向位置検出部と、コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成する第1の合成画像生成部と、第1の合成画像生成部により合成された合成画像を表示する表示部とを備える。
エンタテインメントシステムにおいて、第1の合成画像生成部は、コンテンツ画像により中間画像において、検出された位置が覆われないように、コンテンツ画像と中間画像とを合成して合成画像を生成するものである。
第1の合成画像生成部はさらに、撮像部により生成された風景画像に、進行方向位置検出部により検出された位置に所定形状の図形を表す図形情報を合成した中間画像を生成し、中間画像中の図形情報の周辺にコンテンツ画像が配置されるように、コンテンツ画像と中間画像とを合成して合成画像を生成する。
エンタテインメントシステムは、撮像部により生成された風景画像の中から路面に描かれている白線を検出する白線検出部を更に備える。進行方向位置検出部は、白線検出部により検出された白線の交点である消失点を車両の進行方向上の位置として検出する。
また、エンタテインメントシステムは好ましくは、車両の曲がる方向を示す操作情報を出力する操作情報出力部と、操作情報出力部により操作情報が与えられると、撮像部により生成された風景画像に、進行方向位置検出部により検出された位置を示す位置情報を合成した中間画像と、コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像とを生成し、操作情報で示された車両の曲がる方向の反対側の位置で、かつ、中間画像中の位置情報の周辺にコンテンツ画像が配置されるように、コンテンツ画像と中間画像とを合成した合成画像を生成する第2の画像合成生成部とを更に備える。表示部は、第2の画像合成部により生成された合成画像を更に表示する。
また、エンタテインメントシステムは好ましくは、進行方向位置検出部により検出された位置が、表示部に表示される合成画像の下から所定の高さより下にあるか上にあるかを判定する位置判定部と、位置判定部により、位置が所定の高さより下にあると判定されると、表示部の表示画像の中に表示される位置を、所定の高さ以上に移動させる量だけ、撮像部により撮影された風景画像の上部部分を排除する排除部と、排除部により排除されて残った風景画像に、進行方向位置検出部により検出された位置を示す位置情報を合成した中間画像と、コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像とを生成し、中間画像中の位置情報の周辺にコンテンツ画像が配置されるように、中間画像とコンテンツ画像とを合成して合成画像を生成する第3の合成画像生成部とを更に備える。表示部は、第3の合成画像生成部により生成された合成画像を表示する。
エンタテインメントシステムは、撮像部の撮影方向を変更させる駆動部と、進行方向位置検出部により検出された位置が、表示部に表示される合成画像の下から所定の高さより下にあるか上にあるかを判定する位置判定部と、位置判定部により、位置が所定の高さより下にあると判定されると、表示部の表示画像の中に表示される位置を、所定の高さ以上に移動させる制御情報を駆動部に出力する制御情報出力部とを更に備える。駆動部は、制御情報出力部により出力された制御情報に基づき撮像部の撮影方向を変更させる。
また、本発明の第2の局面は、エンタテインメント提供方法に向けられる。エンタテインメント提供方法は、車両の進行方向の風景を撮影して風景画像を生成し、画像情報を含むコンテンツ情報を出力し、撮影した風景画像から、車両の進行方向上の位置を検出し、出力されたコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成し、合成された合成画像を表示する。
本発明によれば、コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われないように、画像合成部14がコンテンツ画像と風景画像とを画像合成するので、ウインカーを使用しない場合にあっても、車両が曲がるとき、そのことを同乗者に予知可能ならしめ、安全な体勢を視聴者が事前にとったり、乗り物酔いの誘発を抑えたりすることができる。
本発明の上記及びその他の目的、特徴、局面及び利点は、以下に述べる本発明の詳細な説明を添付の図面とともに理解したとき、より明らかになる。
図1は、本発明の実施形態に係るエンタテインメントシステム600の構成を示すブロック図である。 図2は、図1に示す撮像部12により撮影された画像100を例示する模式図である。 図3(a)は、図1に示す白線検出部16により生成される空間高周波信号が表すエッジ画像を例示する模式図であり、図3(b)は、図1に示す白線検出部16により生成される抽出エッジ画像120を例示する模式図である。 図4(a)は、図1に示す白線検出部16により生成される路面画像130を例示する模式図であり、図4(b)は、図1に示す白線検出部16により生成される領域画像140を例示する模式図である。 図5は、図1に示すエンタテインメントシステム600について、画像を表示するまでの処理手順を示すフローチャートである。 図6(a)は、図1に示す撮像部12により撮影される風景を例示する模式図であり、図6(b)は、図5に示すステップS150の処理を説明するための模式図であり、図6(c)は、ステップS160の処理を説明するための模式図であり、図6(d)は、ステップS170の処理を説明するための模式図である。 図7(a)〜(c)は、図5に示すステップS180の処理を説明するための模式図である。 図8は、図1に示す画像合成部14の処理を説明するための模式図である。 図9は、図1に示すエンタテインメントシステム600について、撮像部12の撮像方向を制御する際の動作手順を示すフローチャートである。 図10(a)は、撮像部12が撮像方向変更前に生成する風景画像510を例示する模式図であり、図10(b)は、撮像部12が撮像方向変更後に生成する風景画像520を例示する模式図であり、図10(c)は、コンテンツ画像540を例示する模式図であり、図10(d)は、合成画像550を例示する模式図である。 図11は、従来のエンタテインメントシステムの構成を示すブロック図である。
符号の説明
11 映像コンテンツ再生部
12 撮像部
13 ウインカー部
14 画像合成部
15 表示部
16 白線検出部
17 進行方向位置検出部
18 撮像方向制御部
19 駆動部
600 エンタテインメントシステム
以下、本発明の実施の形態を、図面を参照して説明する。図1は、本発明の実施形態に係るエンタテインメントシステム600の構成を示すブロック図である。
図1において、エンタテインメントシステム600は、移動体の一例としての車両に搭載され、映像コンテンツ再生部11と、撮像部12と、ウインカー部13と、画像合成部14と、表示部15と、白線検出部16と、進行方向位置検出部17と、撮像方向制御部18と、駆動部19とを備えている。
映像コンテンツ再生部11は、CD−ROMドライブ又はDVD−ROMドライブに装着されたCD−ROM又はDVD−ROMに記憶されている映像コンテンツ情報を再生する。また、映像コンテンツ再生部11は、通信回線を介してテレビジョン放送等の映像コンテンツ情報を再生する。映像コンテンツ再生部11は、画像情報を含むコンテンツ情報を出力するコンテンツ情報出力部を構成する。
撮像部12は、レンズ及びCCDを備えたカメラであって、典型的には車両の前部又は上部に取り付けられ、車両の進行方向の風景を撮影した映像信号1hを出力する。
ウインカー部13は、車両が右折又は左折する際の操作信号2hを出力する。ウインカー部13は車両の曲がる方向を示す操作情報を出力する操作情報出力部を構成する。ただし、このような操作情報出力部は、ウインカー部13のみならず、車両の操作に連動した他の機械的構成部分からも構成され得る。また、本実施形態では、便宜上、ウインカー部13は、エンタテインメントシステム600の構成として説明するが、ウインカー部13は一般的には車両の構成である。つまり、ウインカー部13は、エンタテインメントシステム600の本質的構成ではない。
画像合成部14は、撮像部12から与えられた映像信号1hと、ウインカー部13から与えられる操作信号2hと、映像コンテンツ再生部11から与えられたコンテンツ情報3hと、進行方向位置検出部17から与えられ、消失点(詳細は後述)の位置を示す消失点位置情報4hの中から必要なものを用い、下記のような画像を表す合成画像信号5hを生成し出力する。画像合成部14は、合成画像の生成方法に応じて、第1の画像合成部、第2の画像合成部、第3の画像合成部のいずれかとして機能する。
(1)撮像部12により撮像された風景画像を表示しない場合には、コンテンツ情報3hに基づく画像信号5h
(2)コンテンツ情報3hを表示しない場合には、撮像部12により撮像された映像信号1hに基づく画像信号5h
(3)図7に示すように、映像信号1hが表す風景画像に、消失点の位置及びその周辺を覆わないようにコンテンツ画像が合成された画像を表す画像信号5h
表示部15は、例えばTFT方式のカラー液晶モニタが使用され、画像合成部14から入力された画像信号5hを基にした映像を表示する。
白線検出部16は、撮像部12により撮影された画像100(図2を参照)を表す映像信号1hから高周波成分を抽出して、図3(a)に示すような車線R1、R2及びR3を含むエッジ画像110を表す空間高周波信号を生成する。白線検出部16はさらに、車線R1、R2及びR3の輪郭部分を効率的に抽出するための閾値に基づき、エッジ画像110を走査し、図3(b)に示すような、車線R1、R2及びR3を細線化したエッジr1、r2及びr3を含む抽出エッジ画像120を生成する。
また、白線検出部16は、撮像部12より撮影された画像100(図2を参照)を表す画像信号1hから低周波数成分を抽出して、図4(a)のような路面131を含む路面画像130を生成する。このように生成した路面画像130から、白線検出部16はさらに、路面131の各外縁から内側及び外側それぞれに幅wを持つ領域AR1及びAR2を有する領域画像140(図4(b)を参照)を生成する。
さらに、白線検出部16は、抽出エッジ画像120(図3(b)を参照)に含まれるエッジr1及びr3のそれぞれが領域AR1及びAR2(図4(b)を参照)に収まるか否かを判定し、収まると判定したならば、車線R1及びR3が白線であるとみなし、エッジr1及びr3を示す抽出エッジ信号6hを出力する。なお、白線検出の詳細な内容は、例えば、特開2001−273504号公報又は特開2003−154900号公報に記載されている。
進行方向位置検出部17は、白線検出部16で生成された抽出エッジ信号6hを受け取ると、エッジr1及びr3そのものを表す直線、又はエッジr1及びr3が曲線の場合にはそれぞれを近似した直線を、最小2乗法又はハフ変換を用いて導き出し、これら直線r1及びr3の交叉点からなる消失点の位置P(X,Y)を算出する。この算出した消失点の位置P(X、Y)を示す消失点信号4hを、進行方向位置検出部17は画像合成部14と撮像方向制御部18とに与える。
撮像方向制御部18は、進行方向位置検出部17から受け取った消失点信号4hに基づき、消失点の位置Pが、表示部15に表示される合成画像の底辺から所定の高さより下にあるか否かを判定し、位置Pが所定の高さより下にあると判定された場合には、位置Pを少なくとも所定の高さ以上に移動させるための位置制御情報7hを駆動部19に与える。なお、このような撮像方向制御部18は位置判定部と制御情報出力部とを構成する。
駆動部19は、撮像部12の撮像方向を変更するサーボモータを含み、撮像方向制御部18により与えられた位置制御情報7hで示された量だけ正方向又は逆方向にサーボモータを回転させ、これによって、位置Pを所定の高さ以上に変えるように撮像部12の撮像方向を変更する。
次に、以上のエンタテインメントシステム600について、図5のフローチャートを参照して、画像を表示部15に表示するまでの動作を説明する。
撮像部12により、車両の進行方向の風景(図6(a)を参照)が撮影され、その結果得られる映像信号1hを白線検出部16及び画像合成部14は受け取る(ステップS110)。
白線検出部16は、前述したように、映像信号1hからエッジr1及びr3を示す抽出エッジ信号6hを生成して、進行方向位置検出部17に与える(ステップS120)。
進行方向位置検出部17は、白線検出部16から抽出エッジ信号6hを受け取ると、前述したように、受け取った抽出エッジ信号6hに基づいて、エッジr1及びr3との交差する消失点の位置P(X、Y)を算出する。算出した消失点P(X、Y)を示す消失点信号4hを、進行方向位置検出部17は画像合成部14及び撮像方向制御部18に与える(ステップS130)。
画像合成部14は、進行方向位置検出部17からの消失点信号4hで示される消失点の位置Pを取得する。その後、画像合成部14は、表示部15の表示画面の底辺から高さH1よりも下に、消失点の位置Pが位置するか否かを判定する(ステップS140)。ここで、高さH1は、表示画面の底辺から、後述のコンテンツ画像220の上辺までの距離である。ステップS140でYesと判定された場合、画像合成部14は、図6(a)に示す風景画像210において消失点の位置Pに相当する箇所に、消失点を所定形状の図形で表す消失点位置情報213(図では○で囲まれている。)を合成し、風景画像210から、高さH1より下の部分212を取り出し、図6(b)に示す中間合成画像215を生成する(ステップS150)。言い換えれば、画像合成部14は、風景画像210から、空の部分211を切り取る。なお、このような画像構成部14は、位置判定部と排除部とを構成する。
次に、画像合成部14は、映像コンテンツ再生部11により与えられたコンテンツ情報3hを使って、図6(c)に例示するようなコンテンツ画像220を生成する(ステップS160)。その後、画像合成部14は、中間合成画像215の中に合成された消失点位置情報213がコンテンツ画像220で隠れないように、コンテンツ画像220と中間合成画像215とが合成された画像(図6(d)を参照)を表す合成画像信号5hを生成する(ステップS170)。このような合成画像信号5hは表示部15に与えられる。
画像合成部14は、ステップS140でNoと判定した場合、進行方向位置検出部17から受け取った消失点信号4hが示す消失点の位置Pを示すために、中間合成画像215において位置Pに相当する箇所に消失点位置情報が合成された中間合成画像310(図7(a)を参照)を生成する(ステップS180)。
次に、画像合成部14は、映像コンテンツ再生部11から得られたコンテンツ情報3hからコンテンツ画像320(図7を参照)を生成し(ステップS190)、コンテンツ画像320により風景画像310の中の消失点位置情報311が覆われないように、コンテンツ画像320と風景画像310とを合成した、図7に例示する合成画像330を生成し(ステップS200)、合成画像330を表す合成画像信号5hの一例として表示部15に出力する。
表示部15は、画像合成部14により合成画像信号5hが与えられると、入力信号5hに基づいた画像を表示し(ステップS210)、処理を終了する。
次に、エンタテインメントシステム600について、ウインカー部より車両の進行方向を示す操作信号2hが与えられた場合の画像の表示動作を説明する。
ウインカー部13が例えば車両の進行方向を右に取るという操作信号2hを画像合成部14に与えると、画像合成部14は、図8に例示する合成画像410中の右下部に配されたコンテンツ画像430を、図8に例示するように、合成画像410の左下部でかつ消失点位置情報420を覆わない位置に配置した合成画像440を生成する。この操作により、消失点位置情報420及び車両の進行すべき右折道路の双方が、表示部15に表示されることとなる。
次に、図9に示すフローチャートを参照して、エンタテインメントシステム600について、撮像部12の撮像方向の制御を行う動作を説明する。
撮像方向制御部18は、進行方向位置検出部17により、消失点の位置Pを示す消失点信号4hが与えられると、消失点の位置Pが、画面の底辺から高さH2よりも下に位置するか否かを判定する(ステップS310)。ここで、高さH2は、表示画面の底辺から、後述のコンテンツ画像220の上辺までの距離である。
撮像方向制御部18は、消失点の位置Pが高さH2よりも上に位置するものと判定した場合には(ステップS310;NO)、位置Pが高さH2より下になるまでこの処理を継続し続ける。一方、撮像方向制御部18は、位置Pが画面上の高さH2より下にある場合には、(ステップS310;YES)、高さH2から位置Pの高さYを差し引きた値(H2−Y)に、少しゆとりを持たせるための値Lを加算したT(T=H2−Y+L)を算出する(ステップS320)。
その後、撮像方向制御部18は、消失点の位置Pが高さH2より上になるような方向で、かつ、値Tに基づいて算出したカメラ方向を制御する位置制御信号7hを駆動部19に出力する(ステップS330)。
駆動部19は、撮像方向制御部18から与えられた位置制御信号7hに従った方向に所定回転数だけ回転し、撮像部11の撮像方向を変更させる(ステップS340)。すると、撮像部12は、変更前の図10(a)に例示する風景映像510から、消失点の位置Pの位置が(H2+L)に移動させた図10(b)に例示する風景映像520の映像信号1hを画像合成部14に出力する。
画像合成部14は、進行方向位置検出部17により与えられた消失点信号4hから消失点の位置Pを求め、風景映像510の中の消失点の位置Pの箇所に消失点の位置を示す消失点位置情報を表示する、図10(b)に例示する風景画像530を生成する(ステップS350)。次に、画像合成部14は、映像コンテンツ再生部11から与えられたコンテンツ情報3hを使って、図10(c)に例示するようなコンテンツ画像540を生成する(ステップS360)。
その後、画像合成部14は、風景画像530の中の消失点位置情報531がコンテンツ画像540により覆われないように、コンテンツ画像540と風景画像530とを画像合成した、図10(d)に例示する合成画像550を生成し(ステップS370)、合成画像550を表す合成画像信号5hを表示部15に与える。表示部15は、受け取った合成画像550を表示し(ステップS380)、処理を終了する。
この実施形態に係るエンタテインメントシステム600によれば、撮像部12により撮影された風景画像に、進行方向位置検出部17により検出された車両の進行方向上の位置を表示した風景画像を生成するとともに、コンテンツ情報再生部11により出力されたコンテンツ情報からコンテンツ画像を生成し、コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われないように、画像合成部14がコンテンツ画像と風景画像とを画像合成するので、ウインカーを使用しない場合にあっても、車両が曲がるとき、そのことを同乗者に予知可能ならしめ、安全な体勢を視聴者が事前にとったり、乗り物酔いの誘発を抑えることができる。
上述の実施形態においては、好ましい例として、消失点位置情報213が風景画像210に合成され、合成された消失点位置情報213がコンテンツ画像220で隠れないように、コンテンツ画像220と中間合成画像215とが合成されるとして説明した。しかし、これに限らず、消失点位置情報213は風景画像210に合成されず、単に、ステップS170において、消失点位置情報213で特定される位置の周辺にコンテンツ画像220が合成されるだけでかまわない。言い換えれば、コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われないように、画像合成部14がコンテンツ画像と風景画像とを画像合成するだけでもかまわない。ここで、「コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われない」とは、「車両の進行方向上の位置(位置情報)の周辺にコンテンツ画像が配置される」状態をさす。「車両の進行方向上の位置(位置情報)の周辺にコンテンツ画像が配置される」という状態は、車両の進行方向上の位置の表示が表示部15上で維持されつつ、コンテンツ画像も表示部15上に配置された一般的な状態をいう。従って、「位置情報の周辺にコンテンツ画像が配置される」とは、コンテンツ画像が車両進行方向上の位置に近接して配置されている場合のみには限定されず、コンテンツ画像が当該位置から多少離れて配置された状態をも含む。
また、このエンタテインメントシステム600によれば、操作情報に示された車両の曲がる方向の反対側の位置情報で、かつ、風景画像中の車両の進行方向上の位置が覆われないように、コンテンツ画像と風景画像とを画像合成するので、同乗者に車両の曲がる方向を知らせることができる。
また、このエンタテインメントシステム600によれば、撮影した風景中の上部の所定部分または下部の所定部分を排除し、排除して残った風景を用いて画像合成部14により合成画像が生成されるので、表示部に表示される合成画像のうち風景画像をシフトすることができる。
また、このエンタテインメントシステム600によれば、進行方向位置検出部17により検出された車の進行方向上の位置を、画像合成部14により生成された合成画像に表示するように、撮像部12の撮影方向を変更させる制御情報を撮像方向制御部18が部駆動部12に出力するので、表示される合成画像のうちの風景画像に車両の進行方向上の位置が常に表示することができる。
また、このエンタテインメントシステム600によれば、進行方向位置検出部17が白線検出部16により検出された路面に描かれた白線の交点である消失点を車両の進行方向上の位置として検出するので、車両の進行方向上の位置を簡単に特定することができる。
尚、エンタテインメントシステム600が、2列目以降の後部座席に設けられた場合は、リアシートエンタテインメントシステムを実現することが可能となる。この場合、表示部15を構成するモニタは、例えば、後部座席の前に設置されるシート後部等に設けられる。後部座席に着座する乗員は特に進行方向がわからないことが多いため、本発明はリアシートエンタテインメントシステムの実現に特に有効である。
尚、道路の曲がり情報、交差点の右左折道路の情報を、車両に設けられたナビゲーション装置より取得し、予め設定された目的地までのルートと考慮して、走行する道路の画像を、表示部15に常に表示するようシステムを制御することもできる。
更に本発明は、エンタテインメント提供方法をも含むものであり、当該方法は、(1)車両の進行方向の風景を撮影して風景画像を生成し、(2)画像情報を含むコンテンツ情報を出力し、(3)撮影した風景画像から車両の進行方向上の位置を検出し、(4)出力したコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成し、(5)合成された合成画像を表示するものである。
また、上述の各ステップをコンピュータに実行させるためのプログラムも本発明に含まれる。このプログラムは種々の形式でシステム内又はシステム外に組み込まれる。例えばシステム内の所定のメモリにプログラムを記録することができる。また、ハードディスクのような情報記録装置や、CD−ROMやDVD−ROM、メモリカードのような情報記録媒体にプログラムを記録してもよい。
上述の実施形態では、車両の進行方向上の位置が、路面上の白線により求められた道路の消失点である。しかしながら、消失点の求め方は白線検出による方法のみならず、平行直線の画像上での収束点を求める総ての方法が使用可能である。例えば建築物の壁により構成される直線群により消失点を求めることも可能である。さらに、車両の進行方向上の位置を消失点ではなく、他の情報から求めることもできる。
また、図9において、消失点の位置Pが高さH2よりも下になったときに、カメラ方向を制御しているが、H2よりも上になったときにも消失点の位置Pを高さH2のところになるように、カメラ方向を制御するようにしてもよい。
また、本発明におけるコンテンツ情報は、風景画像と合成可能な画像情報を含むものであればその種類は限定されない。
以上、本発明の各種実施形態を説明したが、本発明は前記実施形態において示された事項に限定されず、明細書の記載、並びに周知の技術に基づいて、当業者がその変更・応用することも本発明の予定するところであり、保護を求める範囲に含まれる。
本出願は、2004年10月29日出願の日本特許出願(特願2004−316462)に基づくものであり、その内容はここに参照として取り込まれる。
本発明に係るエンタテインメントシステムは、車両が曲がるとき等、車両がある程度極端な挙動をしたときにおいて、そのことを同乗者に予知可能ならしめ、視聴者が安全な体勢を事前にとったり、乗り物酔いの誘発を抑えたりすることが可能なリアシートエンタテインメントシステム等に提供可能である。
本発明は、エンタテインメントシステムに関し、移動体内に居る視聴者にコンテンツを提供するエンタテインメントシステムに関する。
上記のようなエンタテインメントシステムは、移動体の一例としての車両に設置され、例えば、前部座席周辺又は後部座席周辺に取り付けられたモニタを通じて、映画、ニュース又はテレビに代表されるコンテンツを表すエンタテインメント情報を、車両内の乗員(視聴者)に提供する。しかしながら、このような提供方式では、車両が曲がったり、減速したりするときに、視聴者は、車両の挙動を予め知ることができないので、安全な体勢をとることができず、その結果、エンタテインメントシステムは、視聴者に乗り物酔いを誘発する可能性があるという問題点があった。
この問題点を解決するため、ハンドル、ブレーキ又はウインカーから得た操作情報を用いて、車両が曲がること又は減速することを音声出力又はモニタ表示したり、後部座席用モニタに車載カメラが撮影した進行方向の風景映像を表示したりすることで、車両の挙動を乗員に通知し、それによって、乗り物酔いの誘発を抑えようとするエンタテインメントシステム(以下、従来のエンタテインメントシステムと称する)が提案されている(例えば、特開2003−154900号公報を参照)。
ここで、図11は、従来のエンタテインメントシステムの構成を示すブロック図である。図11において、従来のエンタテインメントシステムは、ハンドル52、ブレーキ53及びウインカー54からの操作情報を受けて操作状態を音声で提示するための音声合成回路51と、該操作状態を映像で提示するためのOSD装置55、進行方向の風景を撮影するビデオカメラ62、DVD再生装置57、リアモニタ61、車両の運転を支援するナビゲーション装置58、音声合成回路51の音声出力とDVD再生装置57の音声信号とナビゲーション装置58の音声信号とを合成するミキサ56、合成された音声信号を赤外線信号に変換するIR回路59、及び、該IR回路59からの赤外線信号を受信し音声に変換するヘッドホン60を備えている。
しかしながら、従来のエンタテインメントシステムでは、例えば、ウインカー54を操作する必要の無いカーブを車両が走行する場合、その旨がヘッドホン60に音声出力されないし、リアモニタ61にも何も表示されないし、さらに言えば、進行方向の風景映像がリアモニタ61に表示されない。従って、車両がカーブを曲がるとき、又は車両がある程度の挙動変化を示したとき、そのような挙動が起こることを乗員は知ることができないので、従来のエンタテインメントシステムでは、乗員が安全な体勢を事前にとらせたり、乗り物酔いの誘発を抑えたりすることが十分に行えないという問題点があった。
それ故に、本発明の目的は、移動体内に居る視聴者が安全な体勢をいち早くとることができるエンタテインシステムを提供することである。
上記目的を達成するために、本発明のエンタテインメントシステムは、車両の進行方向の風景を撮影して風景画像を生成する撮像部と、画像情報を含むコンテンツ情報を出力するコンテンツ情報出力部と、撮像部により生成された風景画像から、車両の進行方向上の位置を検出する進行方向位置検出部と、コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成する第1の合成画像生成部と、第1の合成画像生成部により合成された合成画像を
表示する表示部とを備える。
エンタテインメントシステムにおいて、第1の合成画像生成部は、コンテンツ画像により中間画像において、検出された位置が覆われないように、コンテンツ画像と中間画像とを合成して合成画像を生成するものである。
第1の合成画像生成部はさらに、撮像部により生成された風景画像に、進行方向位置検出部により検出された位置に所定形状の図形を表す図形情報を合成した中間画像を生成し、中間画像中の図形情報の周辺にコンテンツ画像が配置されるように、コンテンツ画像と中間画像とを合成して合成画像を生成する。
エンタテインメントシステムは、撮像部により生成された風景画像の中から路面に描かれている白線を検出する白線検出部を更に備える。進行方向位置検出部は、白線検出部により検出された白線の交点である消失点を車両の進行方向上の位置として検出する。
また、エンタテインメントシステムは好ましくは、車両の曲がる方向を示す操作情報を出力する操作情報出力部と、操作情報出力部により操作情報が与えられると、撮像部により生成された風景画像に、進行方向位置検出部により検出された位置を示す位置情報を合成した中間画像と、コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像とを生成し、操作情報で示された車両の曲がる方向の反対側の位置で、かつ、中間画像中の位置情報の周辺にコンテンツ画像が配置されるように、コンテンツ画像と中間画像とを合成した合成画像を生成する第2の画像合成生成部とを更に備える。表示部は、第2の画像合成部により生成された合成画像を更に表示する。
また、エンタテインメントシステムは好ましくは、進行方向位置検出部により検出された位置が、表示部に表示される合成画像の下から所定の高さより下にあるか上にあるかを判定する位置判定部と、位置判定部により、位置が所定の高さより下にあると判定されると、表示部の表示画像の中に表示される位置を、所定の高さ以上に移動させる量だけ、撮像部により撮影された風景画像の上部部分を排除する排除部と、排除部により排除されて残った風景画像に、進行方向位置検出部により検出された位置を示す位置情報を合成した中間画像と、コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像とを生成し、中間画像中の位置情報の周辺にコンテンツ画像が配置されるように、中間画像とコンテンツ画像とを合成して合成画像を生成する第3の合成画像生成部とを更に備える。表示部は、第3の合成画像生成部により生成された合成画像を表示する。
エンタテインメントシステムは、撮像部の撮影方向を変更させる駆動部と、進行方向位置検出部により検出された位置が、表示部に表示される合成画像の下から所定の高さより下にあるか上にあるかを判定する位置判定部と、位置判定部により、位置が所定の高さより下にあると判定されると、表示部の表示画像の中に表示される位置を、所定の高さ以上に移動させる制御情報を駆動部に出力する制御情報出力部とを更に備える。駆動部は、制御情報出力部により出力された制御情報に基づき撮像部の撮影方向を変更させる。
また、本発明の第2の局面は、エンタテインメント提供方法に向けられる。エンタテインメント提供方法は、車両の進行方向の風景を撮影して風景画像を生成し、画像情報を含むコンテンツ情報を出力し、撮影した風景画像から、車両の進行方向上の位置を検出し、出力されたコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成し、合成された合成画像を表示する。
本発明によれば、コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われないように、画像合成部14がコンテンツ画像と風景画像とを画像合成するので、ウインカーを使用しない場合にあっても、車両が曲がるとき、そのことを同乗者に予知可能ならしめ、安全な体勢を視聴者が事前にとったり、乗り物酔いの誘発を抑えたりすることができる。
本発明の上記及びその他の目的、特徴、局面及び利点は、以下に述べる本発明の詳細な説明を添付の図面とともに理解したとき、より明らかになる。
以下、本発明の実施の形態を、図面を参照して説明する。図1は、本発明の実施形態に係るエンタテインメントシステム600の構成を示すブロック図である。
図1において、エンタテインメントシステム600は、移動体の一例としての車両に搭載され、映像コンテンツ再生部11と、撮像部12と、ウインカー部13と、画像合成部14と、表示部15と、白線検出部16と、進行方向位置検出部17と、撮像方向制御部18と、駆動部19とを備えている。
映像コンテンツ再生部11は、CD−ROMドライブ又はDVD−ROMドライブに装着されたCD−ROM又はDVD−ROMに記憶されている映像コンテンツ情報を再生する。また、映像コンテンツ再生部11は、通信回線を介してテレビジョン放送等の映像コンテンツ情報を再生する。映像コンテンツ再生部11は、画像情報を含むコンテンツ情報を出力するコンテンツ情報出力部を構成する。
撮像部12は、レンズ及びCCDを備えたカメラであって、典型的には車両の前部又は上部に取り付けられ、車両の進行方向の風景を撮影した映像信号1hを出力する。
ウインカー部13は、車両が右折又は左折する際の操作信号2hを出力する。ウインカー部13は車両の曲がる方向を示す操作情報を出力する操作情報出力部を構成する。ただし、このような操作情報出力部は、ウインカー部13のみならず、車両の操作に連動した他の機械的構成部分からも構成され得る。また、本実施形態では、便宜上、ウインカー部13は、エンタテインメントシステム600の構成として説明するが、ウインカー部13は一般的には車両の構成である。つまり、ウインカー部13は、エンタテインメントシステム600の本質的構成ではない。
画像合成部14は、撮像部12から与えられた映像信号1hと、ウインカー部13から与えられる操作信号2hと、映像コンテンツ再生部11から与えられたコンテンツ情報3hと、進行方向位置検出部17から与えられ、消失点(詳細は後述)の位置を示す消失点位置情報4hの中から必要なものを用い、下記のような画像を表す合成画像信号5hを生成し出力する。画像合成部14は、合成画像の生成方法に応じて、第1の画像合成部、第2の画像合成部、第3の画像合成部のいずれかとして機能する。
(1)撮像部12により撮像された風景画像を表示しない場合には、コンテンツ情報3hに基づく画像信号5h
(2)コンテンツ情報3hを表示しない場合には、撮像部12により撮像された映像信号1hに基づく画像信号5h
(3)図7に示すように、映像信号1hが表す風景画像に、消失点の位置及びその周辺を覆わないようにコンテンツ画像が合成された画像を表す画像信号5h
表示部15は、例えばTFT方式のカラー液晶モニタが使用され、画像合成部14から
入力された画像信号5hを基にした映像を表示する。
白線検出部16は、撮像部12により撮影された画像100(図2を参照)を表す映像信号1hから高周波成分を抽出して、図3(a)に示すような車線R1、R2及びR3を含むエッジ画像110を表す空間高周波信号を生成する。白線検出部16はさらに、車線R1、R2及びR3の輪郭部分を効率的に抽出するための閾値に基づき、エッジ画像110を走査し、図3(b)に示すような、車線R1、R2及びR3を細線化したエッジr1、r2及びr3を含む抽出エッジ画像120を生成する。
また、白線検出部16は、撮像部12より撮影された画像100(図2を参照)を表す画像信号1hから低周波数成分を抽出して、図4(a)のような路面131を含む路面画像130を生成する。このように生成した路面画像130から、白線検出部16はさらに、路面131の各外縁から内側及び外側それぞれに幅wを持つ領域AR1及びAR2を有する領域画像140(図4(b)を参照)を生成する。
さらに、白線検出部16は、抽出エッジ画像120(図3(b)を参照)に含まれるエッジr1及びr3のそれぞれが領域AR1及びAR2(図4(b)を参照)に収まるか否かを判定し、収まると判定したならば、車線R1及びR3が白線であるとみなし、エッジr1及びr3を示す抽出エッジ信号6hを出力する。なお、白線検出の詳細な内容は、例えば、特開2001−273504号公報又は特開2003−154900号公報に記載されている。
進行方向位置検出部17は、白線検出部16で生成された抽出エッジ信号6hを受け取ると、エッジr1及びr3そのものを表す直線、又はエッジr1及びr3が曲線の場合にはそれぞれを近似した直線を、最小2乗法又はハフ変換を用いて導き出し、これら直線r1及びr3の交叉点からなる消失点の位置P(X,Y)を算出する。この算出した消失点の位置P(X、Y)を示す消失点信号4hを、進行方向位置検出部17は画像合成部14と撮像方向制御部18とに与える。
撮像方向制御部18は、進行方向位置検出部17から受け取った消失点信号4hに基づき、消失点の位置Pが、表示部15に表示される合成画像の底辺から所定の高さより下にあるか否かを判定し、位置Pが所定の高さより下にあると判定された場合には、位置Pを少なくとも所定の高さ以上に移動させるための位置制御情報7hを駆動部19に与える。なお、このような撮像方向制御部18は位置判定部と制御情報出力部とを構成する。
駆動部19は、撮像部12の撮像方向を変更するサーボモータを含み、撮像方向制御部18により与えられた位置制御情報7hで示された量だけ正方向又は逆方向にサーボモータを回転させ、これによって、位置Pを所定の高さ以上に変えるように撮像部12の撮像方向を変更する。
次に、以上のエンタテインメントシステム600について、図5のフローチャートを参照して、画像を表示部15に表示するまでの動作を説明する。
撮像部12により、車両の進行方向の風景(図6(a)を参照)が撮影され、その結果得られる映像信号1hを白線検出部16及び画像合成部14は受け取る(ステップS110)。
白線検出部16は、前述したように、映像信号1hからエッジr1及びr3を示す抽出エッジ信号6hを生成して、進行方向位置検出部17に与える(ステップS120)。
進行方向位置検出部17は、白線検出部16から抽出エッジ信号6hを受け取ると、前述したように、受け取った抽出エッジ信号6hに基づいて、エッジr1及びr3との交差する消失点の位置P(X、Y)を算出する。算出した消失点P(X、Y)を示す消失点信号4hを、進行方向位置検出部17は画像合成部14及び撮像方向制御部18に与える(ステップS130)。
画像合成部14は、進行方向位置検出部17からの消失点信号4hで示される消失点の位置Pを取得する。その後、画像合成部14は、表示部15の表示画面の底辺から高さH1よりも下に、消失点の位置Pが位置するか否かを判定する(ステップS140)。ここで、高さH1は、表示画面の底辺から、後述のコンテンツ画像220の上辺までの距離である。ステップS140でYesと判定された場合、画像合成部14は、図6(a)に示す風景画像210において消失点の位置Pに相当する箇所に、消失点を所定形状の図形で表す消失点位置情報213(図では○で囲まれている。)を合成し、風景画像210から、高さH1より下の部分212を取り出し、図6(b)に示す中間合成画像215を生成する(ステップS150)。言い換えれば、画像合成部14は、風景画像210から、空の部分211を切り取る。なお、このような画像構成部14は、位置判定部と排除部とを構成する。
次に、画像合成部14は、映像コンテンツ再生部11により与えられたコンテンツ情報3hを使って、図6(c)に例示するようなコンテンツ画像220を生成する(ステップS160)。その後、画像合成部14は、中間合成画像215の中に合成された消失点位置情報213がコンテンツ画像220で隠れないように、コンテンツ画像220と中間合成画像215とが合成された画像(図6(d)を参照)を表す合成画像信号5hを生成する(ステップS170)。このような合成画像信号5hは表示部15に与えられる。
画像合成部14は、ステップS140でNoと判定した場合、進行方向位置検出部17から受け取った消失点信号4hが示す消失点の位置Pを示すために、中間合成画像215において位置Pに相当する箇所に消失点位置情報が合成された中間合成画像310(図7(a)を参照)を生成する(ステップS180)。
次に、画像合成部14は、映像コンテンツ再生部11から得られたコンテンツ情報3hからコンテンツ画像320(図7を参照)を生成し(ステップS190)、コンテンツ画像320により風景画像310の中の消失点位置情報311が覆われないように、コンテンツ画像320と風景画像310とを合成した、図7に例示する合成画像330を生成し(ステップS200)、合成画像330を表す合成画像信号5hの一例として表示部15に出力する。
表示部15は、画像合成部14により合成画像信号5hが与えられると、入力信号5hに基づいた画像を表示し(ステップS210)、処理を終了する。
次に、エンタテインメントシステム600について、ウインカー部より車両の進行方向を示す操作信号2hが与えられた場合の画像の表示動作を説明する。
ウインカー部13が例えば車両の進行方向を右に取るという操作信号2hを画像合成部14に与えると、画像合成部14は、図8に例示する合成画像410中の右下部に配されたコンテンツ画像430を、図8に例示するように、合成画像410の左下部でかつ消失点位置情報420を覆わない位置に配置した合成画像440を生成する。この操作により、消失点位置情報420及び車両の進行すべき右折道路の双方が、表示部15に表示されることとなる。
次に、図9に示すフローチャートを参照して、エンタテインメントシステム600について、撮像部12の撮像方向の制御を行う動作を説明する。
撮像方向制御部18は、進行方向位置検出部17により、消失点の位置Pを示す消失点信号4hが与えられると、消失点の位置Pが、画面の底辺から高さH2よりも下に位置するか否かを判定する(ステップS310)。ここで、高さH2は、表示画面の底辺から、後述のコンテンツ画像220の上辺までの距離である。
撮像方向制御部18は、消失点の位置Pが高さH2よりも上に位置するものと判定した場合には(ステップS310;NO)、位置Pが高さH2より下になるまでこの処理を継続し続ける。一方、撮像方向制御部18は、位置Pが画面上の高さH2より下にある場合には、(ステップS310;YES)、高さH2から位置Pの高さYを差し引いた値(H2−Y)に、少しゆとりを持たせるための値Lを加算したT(T=H2−Y+L)を算出する(ステップS320)。
その後、撮像方向制御部18は、消失点の位置Pが高さH2より上になるような方向で、かつ、値Tに基づいて算出したカメラ方向を制御する位置制御信号7hを駆動部19に出力する(ステップS330)。
駆動部19は、撮像方向制御部18から与えられた位置制御信号7hに従った方向に所定回転数だけ回転し、撮像部11の撮像方向を変更させる(ステップS340)。すると、撮像部12は、変更前の図10(a)に例示する風景映像510から、消失点の位置Pの位置が(H2+L)に移動させた図10(b)に例示する風景映像520の映像信号1hを画像合成部14に出力する。
画像合成部14は、進行方向位置検出部17により与えられた消失点信号4hから消失点の位置Pを求め、風景映像510の中の消失点の位置Pの箇所に消失点の位置を示す消失点位置情報を表示する、図10(b)に例示する風景画像530を生成する(ステップS350)。次に、画像合成部14は、映像コンテンツ再生部11から与えられたコンテンツ情報3hを使って、図10(c)に例示するようなコンテンツ画像540を生成する(ステップS360)。
その後、画像合成部14は、風景画像530の中の消失点位置情報531がコンテンツ画像540により覆われないように、コンテンツ画像540と風景画像530とを画像合成した、図10(d)に例示する合成画像550を生成し(ステップS370)、合成画像550を表す合成画像信号5hを表示部15に与える。表示部15は、受け取った合成画像550を表示し(ステップS380)、処理を終了する。
この実施形態に係るエンタテインメントシステム600によれば、撮像部12により撮影された風景画像に、進行方向位置検出部17により検出された車両の進行方向上の位置を表示した風景画像を生成するとともに、コンテンツ情報再生部11により出力されたコンテンツ情報からコンテンツ画像を生成し、コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われないように、画像合成部14がコンテンツ画像と風景画像とを画像合成するので、ウインカーを使用しない場合にあっても、車両が曲がるとき、そのことを同乗者に予知可能ならしめ、安全な体勢を視聴者が事前にとったり、乗り物酔いの誘発を抑えることができる。
上述の実施形態においては、好ましい例として、消失点位置情報213が風景画像210に合成され、合成された消失点位置情報213がコンテンツ画像220で隠れないように、コンテンツ画像220と中間合成画像215とが合成されるとして説明した。しかし
、これに限らず、消失点位置情報213は風景画像210に合成されず、単に、ステップS170において、消失点位置情報213で特定される位置の周辺にコンテンツ画像220が合成されるだけでかまわない。言い換えれば、コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われないように、画像合成部14がコンテンツ画像と風景画像とを画像合成するだけでもかまわない。ここで、「コンテンツ画像により風景画像中の車両の進行方向上の位置が覆われない」とは、「車両の進行方向上の位置(位置情報)の周辺にコンテンツ画像が配置される」状態をさす。「車両の進行方向上の位置(位置情報)の周辺にコンテンツ画像が配置される」という状態は、車両の進行方向上の位置の表示が表示部15上で維持されつつ、コンテンツ画像も表示部15上に配置された一般的な状態をいう。従って、「位置情報の周辺にコンテンツ画像が配置される」とは、コンテンツ画像が車両進行方向上の位置に近接して配置されている場合のみには限定されず、コンテンツ画像が当該位置から多少離れて配置された状態をも含む。
また、このエンタテインメントシステム600によれば、操作情報に示された車両の曲がる方向の反対側の位置情報で、かつ、風景画像中の車両の進行方向上の位置が覆われないように、コンテンツ画像と風景画像とを画像合成するので、同乗者に車両の曲がる方向を知らせることができる。
また、このエンタテインメントシステム600によれば、撮影した風景中の上部の所定部分または下部の所定部分を排除し、排除して残った風景を用いて画像合成部14により合成画像が生成されるので、表示部に表示される合成画像のうち風景画像をシフトすることができる。
また、このエンタテインメントシステム600によれば、進行方向位置検出部17により検出された車の進行方向上の位置を、画像合成部14により生成された合成画像に表示するように、撮像部12の撮影方向を変更させる制御情報を撮像方向制御部18が部駆動部12に出力するので、表示される合成画像のうちの風景画像に車両の進行方向上の位置が常に表示することができる。
また、このエンタテインメントシステム600によれば、進行方向位置検出部17が白線検出部16により検出された路面に描かれた白線の交点である消失点を車両の進行方向上の位置として検出するので、車両の進行方向上の位置を簡単に特定することができる。
尚、エンタテインメントシステム600が、2列目以降の後部座席に設けられた場合は、リアシートエンタテインメントシステムを実現することが可能となる。この場合、表示部15を構成するモニタは、例えば、後部座席の前に設置されるシート後部等に設けられる。後部座席に着座する乗員は特に進行方向がわからないことが多いため、本発明はリアシートエンタテインメントシステムの実現に特に有効である。
尚、道路の曲がり情報、交差点の右左折道路の情報を、車両に設けられたナビゲーション装置より取得し、予め設定された目的地までのルートと考慮して、走行する道路の画像を、表示部15に常に表示するようシステムを制御することもできる。
更に本発明は、エンタテインメント提供方法をも含むものであり、当該方法は、(1)車両の進行方向の風景を撮影して風景画像を生成し、(2)画像情報を含むコンテンツ情報を出力し、(3)撮影した風景画像から車両の進行方向上の位置を検出し、(4)出力したコンテンツ情報からコンテンツ画像を生成し、さらに、風景画像において、検出された位置の周辺にコンテンツ画像が配置されるように、コンテンツ画像と風景画像とを合成して合成画像を生成し、(5)合成された合成画像を表示するものである。
また、上述の各ステップをコンピュータに実行させるためのプログラムも本発明に含まれる。このプログラムは種々の形式でシステム内又はシステム外に組み込まれる。例えばシステム内の所定のメモリにプログラムを記録することができる。また、ハードディスクのような情報記録装置や、CD−ROMやDVD−ROM、メモリカードのような情報記録媒体にプログラムを記録してもよい。
上述の実施形態では、車両の進行方向上の位置が、路面上の白線により求められた道路の消失点である。しかしながら、消失点の求め方は白線検出による方法のみならず、平行直線の画像上での収束点を求める総ての方法が使用可能である。例えば建築物の壁により構成される直線群により消失点を求めることも可能である。さらに、車両の進行方向上の位置を消失点ではなく、他の情報から求めることもできる。
また、図9において、消失点の位置Pが高さH2よりも下になったときに、カメラ方向を制御しているが、H2よりも上になったときにも消失点の位置Pを高さH2のところになるように、カメラ方向を制御するようにしてもよい。
また、本発明におけるコンテンツ情報は、風景画像と合成可能な画像情報を含むものであればその種類は限定されない。
以上、本発明の各種実施形態を説明したが、本発明は前記実施形態において示された事項に限定されず、明細書の記載、並びに周知の技術に基づいて、当業者がその変更・応用することも本発明の予定するところであり、保護を求める範囲に含まれる。
本出願は、2004年10月29日出願の日本特許出願(特願2004−316462)に基づくものであり、その内容はここに参照として取り込まれる。
本発明に係るエンタテインメントシステムは、車両が曲がるとき等、車両がある程度極端な挙動をしたときにおいて、そのことを同乗者に予知可能ならしめ、視聴者が安全な体勢を事前にとったり、乗り物酔いの誘発を抑えたりすることが可能なリアシートエンタテインメントシステム等に提供可能である。
図1は、本発明の実施形態に係るエンタテインメントシステム600の構成を示すブロック図である。 図2は、図1に示す撮像部12により撮影された画像100を例示する模式図である。 図3(a)は、図1に示す白線検出部16により生成される空間高周波信号が表すエッジ画像を例示する模式図であり、図3(b)は、図1に示す白線検出部16により生成される抽出エッジ画像120を例示する模式図である。 図4(a)は、図1に示す白線検出部16により生成される路面画像130を例示する模式図であり、図4(b)は、図1に示す白線検出部16により生成される領域画像140を例示する模式図である。 図5は、図1に示すエンタテインメントシステム600について、画像を表示するまでの処理手順を示すフローチャートである。 図6(a)は、図1に示す撮像部12により撮影される風景を例示する模式図であり、図6(b)は、図5に示すステップS150の処理を説明するための模式図である。 図7(a)〜(c)は、図5に示すステップS180の処理を説明するための模式図である。 図8は、図1に示す画像合成部14の処理を説明するための模式図である。 図9は、図1に示すエンタテインメントシステム600について、撮像部12の撮像方向を制御する際の動作手順を示すフローチャートである。 図10(a)は、撮像部12が撮像方向変更前に生成する風景画像510を例示する模式図であり、図10(b)は、撮像部12が撮像方向変更後に生成する風景画像520を例示する模式図である。 図11は、従来のエンタテインメントシステムの構成を示すブロック図である。
符号の説明
11 映像コンテンツ再生部
12 撮像部
13 ウインカー部
14 画像合成部
15 表示部
16 白線検出部
17 進行方向位置検出部
18 撮像方向制御部
19 駆動部
600 エンタテインメントシステム

Claims (8)

  1. 車両の進行方向の風景を撮影して風景画像を生成する撮像部と、
    画像情報を含むコンテンツ情報を出力するコンテンツ情報出力部と、
    前記撮像部により生成された風景画像から、車両の進行方向上の位置を検出する進行方向位置検出部と、
    前記コンテンツ情報出力部により出力された前記コンテンツ情報からコンテンツ画像を生成し、さらに、前記風景画像において、前記検出された位置の周辺に前記コンテンツ画像が配置されるように、前記コンテンツ画像と前記風景画像とを合成して合成画像を生成する第1の合成画像生成部と、
    前記第1の合成画像生成部により合成された合成画像を表示する表示部とを備える、エンタテインメントシステム。
  2. 前記第1の合成画像生成部は、前記コンテンツ画像により前記中間画像において、前記検出された位置が覆われないように、前記コンテンツ画像と前記中間画像とを合成して合成画像を生成する、請求項1に記載のエンタテインメントシステム。
  3. 前記第1の合成画像生成部はさらに、前記撮像部により生成された風景画像に、前記進行方向位置検出部により検出された位置に所定形状の図形を表す図形情報を合成した中間画像を生成し、前記中間画像中の前記図形情報の周辺に前記コンテンツ画像が配置されるように、前記コンテンツ画像と前記中間画像とを合成して合成画像を生成する、請求項1に記載のエンタテインメントシステム。
  4. 前記エンタテインメントシステムは、前記撮像部により生成された風景画像の中から路面に描かれている白線を検出する白線検出部を更に備え、
    前記進行方向位置検出部は、前記白線検出部により検出された前記白線の交点である消失点を車両の進行方向上の位置として検出する、請求項1に記載のエンタテインメントシステム。
  5. 前記エンタテインメントシステムは、
    前記車両の曲がる方向を示す操作情報を出力する操作情報出力部と、
    前記操作情報出力部により前記操作情報が与えられると、前記撮像部により生成された前記風景画像に、前記進行方向位置検出部により検出された前記位置を示す位置情報を合成した中間画像と、前記コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像とを生成し、前記操作情報で示された車両の曲がる方向の反対側の位置で、かつ、前記中間画像中の前記位置情報の周辺に前記コンテンツ画像が配置されるように、前記コンテンツ画像と前記中間画像とを合成した合成画像を生成する第2の画像合成生成部とを更に備え、
    前記表示部は、前記第2の画像合成部により生成された合成画像を更に表示する、請求項4に記載のエンタテインメントシステム。
  6. 前記エンタテインメントシステムは、
    前記進行方向位置検出部により検出された前記位置が、前記表示部に表示される合成画像の下から所定の高さより下にあるか上にあるかを判定する位置判定部と、
    前記位置判定部により、前記位置が前記所定の高さより下にあると判定されると、前記表示部の表示画像の中に表示される前記位置を、前記所定の高さ以上に移動させる量だけ、前記撮像部により撮影された前記風景画像の上部部分を排除する排除部と、
    前記排除部により排除されて残った風景画像に、前記進行方向位置検出部により検出された前記位置を示す位置情報を合成した中間画像と、前記コンテンツ情報出力部により出力されたコンテンツ情報からコンテンツ画像とを生成し、前記中間画像中の前記位置情報の周辺に前記コンテンツ画像が配置されるように、前記中間画像と前記コンテンツ画像とを合成して合成画像を生成する第3の合成画像生成部とを更に備え、
    前記表示部は、前記第3の合成画像生成部により生成された合成画像を表示する、請求項4に記載のエンタテインメントシステム。
  7. エンタテインメントシステムは、
    前記撮像部の撮影方向を変更させる駆動部と、
    前記進行方向位置検出部により検出された前記位置が、前記表示部に表示される合成画像の下から所定の高さより下にあるか上にあるかを判定する位置判定部と、
    前記位置判定部により、前記位置が前記所定の高さより下にあると判定されると、前記表示部の表示画像の中に表示される前記位置を、前記所定の高さ以上に移動させる制御情報を前記駆動部に出力する制御情報出力部とを更に備え、
    前記駆動部は、前記制御情報出力部により出力された前記制御情報に基づき前記撮像部の撮影方向を変更させる、請求項4に記載のエンタテインメントシステム。
  8. 車両の進行方向の風景を撮影して風景画像を生成し、
    画像情報を含むコンテンツ情報を出力し、
    撮影した前記風景画像から車両の進行方向上の位置を検出し、
    出力された前記コンテンツ情報からコンテンツ画像を生成し、さらに、前記風景画像において、前記検出された位置の周辺に前記コンテンツ画像が配置されるように、前記コンテンツ画像と前記風景画像とを合成して合成画像を生成し、
    合成された合成画像を表示する、エンタテインメント提供方法。
JP2006542358A 2004-10-29 2005-10-28 エンタテインメントシステム Pending JPWO2006046715A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2004316462 2004-10-29
JP2004316462 2004-10-29
PCT/JP2005/019929 WO2006046715A1 (ja) 2004-10-29 2005-10-28 エンタテインメントシステム

Publications (1)

Publication Number Publication Date
JPWO2006046715A1 true JPWO2006046715A1 (ja) 2008-05-22

Family

ID=36227955

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006542358A Pending JPWO2006046715A1 (ja) 2004-10-29 2005-10-28 エンタテインメントシステム

Country Status (6)

Country Link
US (1) US20090138919A1 (ja)
EP (1) EP1813477B1 (ja)
JP (1) JPWO2006046715A1 (ja)
CN (1) CN101052547B (ja)
DE (1) DE602005027596D1 (ja)
WO (1) WO2006046715A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ITBS20050066A1 (it) * 2005-06-01 2006-12-02 Sys Tec S R L Metodo e macchina per allineare lastre di stampa flessografica su cilindri di stampa
JP2009126270A (ja) * 2007-11-21 2009-06-11 Sanyo Electric Co Ltd 画像処理装置及び方法、運転支援システム、車両
JP5858650B2 (ja) * 2011-06-08 2016-02-10 富士通テン株式会社 画像生成装置、画像表示システム、及び、画像生成方法
JP5911775B2 (ja) * 2012-08-21 2016-04-27 富士通テン株式会社 画像生成装置、画像表示システム及び画像生成方法
JP6460119B2 (ja) * 2014-11-17 2019-01-30 日本電気株式会社 映像処理システム、送信装置、映像処理方法、送信方法およびプログラム
US20220024459A1 (en) * 2020-07-21 2022-01-27 Hyundai Mobis Co., Ltd. Motion sickness reduction system and method for vehicle occupants
EP4215415A1 (en) * 2022-01-21 2023-07-26 Bayerische Motoren Werke Aktiengesellschaft Method of operating a display device, vehicle and system

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0763572A (ja) * 1993-08-31 1995-03-10 Alpine Electron Inc 車載用ナビゲーション装置の走行案内画像表示方法
JP2001273504A (ja) * 1996-08-28 2001-10-05 Matsushita Electric Ind Co Ltd 道路方向検出装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02147446A (ja) * 1988-11-30 1990-06-06 Hitachi Ltd 車載用画像表示装置
US6405975B1 (en) * 1995-12-19 2002-06-18 The Boeing Company Airplane ground maneuvering camera system
EP1383100A3 (en) * 1996-08-28 2005-02-02 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus and method therefor
JPH10116086A (ja) * 1996-10-08 1998-05-06 Aqueous Res:Kk 車載カラオケ
US7366595B1 (en) * 1999-06-25 2008-04-29 Seiko Epson Corporation Vehicle drive assist system
US20030229897A1 (en) * 2000-04-07 2003-12-11 Live Tv, Inc. Aircraft in-flight entertainment system providing passenger specific advertisements, and associated methods
JP2002277258A (ja) * 2001-03-15 2002-09-25 Nissan Motor Co Ltd 車両用表示装置
JP2003154900A (ja) * 2001-11-22 2003-05-27 Pioneer Electronic Corp リアエンタテイメントシステム及びその制御方法
JP4062145B2 (ja) * 2003-03-25 2008-03-19 コニカミノルタホールディングス株式会社 撮像装置
JP2005294954A (ja) * 2004-03-31 2005-10-20 Pioneer Electronic Corp 表示装置及び補助表示装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0763572A (ja) * 1993-08-31 1995-03-10 Alpine Electron Inc 車載用ナビゲーション装置の走行案内画像表示方法
JP2001273504A (ja) * 1996-08-28 2001-10-05 Matsushita Electric Ind Co Ltd 道路方向検出装置

Also Published As

Publication number Publication date
DE602005027596D1 (de) 2011-06-01
WO2006046715A1 (ja) 2006-05-04
EP1813477A1 (en) 2007-08-01
US20090138919A1 (en) 2009-05-28
CN101052547B (zh) 2010-07-14
EP1813477A4 (en) 2009-01-28
EP1813477B1 (en) 2011-04-20
CN101052547A (zh) 2007-10-10

Similar Documents

Publication Publication Date Title
JP4325705B2 (ja) 表示システム及びプログラム
JP5726201B2 (ja) 3次元立体視表示装置、3次元立体視表示制御装置、およびlsi回路
JPWO2006046715A1 (ja) エンタテインメントシステム
JP6196444B2 (ja) 周辺車の位置追跡装置及び方法
JP2007325166A (ja) 駐車支援プログラム、駐車支援装置、駐車支援画面
JP2004254219A (ja) 車両周辺画像処理装置及びプログラム並びに記録媒体
JP2011066763A (ja) 運転支援装置
JP2008048345A (ja) 画像処理装置並びに視界支援装置及び方法
JP2011030078A (ja) 車両用画像表示装置
JP2007237785A (ja) 車載用情報提示システム
JP2010079454A (ja) 運転支援装置
JP2019047463A (ja) 画像表示装置
JP6300949B2 (ja) 表示制御装置
JP2005333565A (ja) 監視装置
JP5226621B2 (ja) 車両用画像表示装置
JP2008083184A (ja) 運転評価システム
JP2015008453A (ja) カメラ装置および警告方法
CN110087022B (zh) 图像处理装置
JP2017225062A (ja) 画像処理装置、画像処理システム及び画像処理方法
WO2017208688A1 (ja) 表示制御装置および表示制御方法
JP2021153286A (ja) 画像合成装置、及び、画像合成方法
WO2011024269A1 (ja) 車載用映像表示装置および車載用映像表示装置の字幕表示制御方法
JP4407246B2 (ja) 車両周辺モニタシステムおよび車両周辺モニタ方法
JP2010074706A (ja) カメラシステムおよびカメラ制御方法
JP2007096497A (ja) 車両周囲表示システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110920

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111104

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20111129