JP2006180340A - 映像信号処理装置とその方法及び車載カメラシステム - Google Patents

映像信号処理装置とその方法及び車載カメラシステム Download PDF

Info

Publication number
JP2006180340A
JP2006180340A JP2004373195A JP2004373195A JP2006180340A JP 2006180340 A JP2006180340 A JP 2006180340A JP 2004373195 A JP2004373195 A JP 2004373195A JP 2004373195 A JP2004373195 A JP 2004373195A JP 2006180340 A JP2006180340 A JP 2006180340A
Authority
JP
Japan
Prior art keywords
video
video signal
output
field
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004373195A
Other languages
English (en)
Other versions
JP4561353B2 (ja
Inventor
Masayasu Suzuki
政康 鈴木
Takeshi Akatsuka
健 赤塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2004373195A priority Critical patent/JP4561353B2/ja
Priority to US11/313,641 priority patent/US7986371B2/en
Priority to CNB2005101326269A priority patent/CN100420280C/zh
Publication of JP2006180340A publication Critical patent/JP2006180340A/ja
Application granted granted Critical
Publication of JP4561353B2 publication Critical patent/JP4561353B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2624Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8066Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring rearward traffic

Abstract

【課題】表示までの遅延時間及び各カメラ映像の時間ずれを短縮して、車両周囲の状況を適切に運転者に表示することができる車載カメラシステムを提供する。
【解決手段】車載映像表示用カメラシステムでは、複数のカメラで撮影された映像の映像信号がインターレス信号として入力され、入力バッファにフィールド単位で順次記憶される。複数のカメラからのフィールド映像信号が揃ったら(時刻t3)、各カメラからの映像信号の中の最新のフィールド映像信号(Even1b及びOdd2a)を用いて、各映像データのアドレス変換を行って出力映像信号(DataOa)を生成する。したがって、カメラ間での映像のずれ(時刻t2と時刻t5の差)は、最大で1フィールド(NTSCの場合16.7ms)に抑えられる。また、出力までの最大遅延時間は、入力ずれ(t2−t5)、入力(t3−t2)及びアドレス変換(t4−t3)の各所要時間の合計(t4−t5)で、3フィールド期間(約最大50ms)となる。
【選択図】 図8

Description

本発明は、相互に非同期な複数のインターレス映像信号を合成して1の出力映像信号を生成する映像信号処理装置とその方法、及び、その映像信号処理装置を適用した車載カメラシステムであって、例えば車両等に搭載されて車両周囲の異なる箇所、方向を複数のカメラで撮影しドライバーにその映像を表示する車載カメラシステムに関する。
車両の車庫入れや幅寄せ等の車両前進時や車両後進時、あるいは見通しの悪い交差点やT字路への車両進入時(頭出し)等の場面におけるドライバーの視界を補助するための運転支援システムとして、車載映像表示用カメラシステムが知られている。このシステムにおいては、カメラコントローラに接続された複数のカメラにより車両後方や車両前方左右方向等を撮影し、これらの複数方向の映像を、リアビュー及びブラインドコーナービューとしてドライバーに表示する。
このような車載映像表示用カメラシステムにおいて、複数のカメラを用いて撮像した撮像方向の異なる車両周囲の複数の映像を同時にドライバーに表示するためには、それら複数の映像を、カメラコントローラにより1画面内にレイアウトする必要がある。すなわち、それら複数の映像を合成する必要がある。
ところで、このようなカメラシステムにおいて、複数のカメラで撮像された映像間の同期をとる技術としては、例えば下記の特許文献1に記載されているような方法が知られている。この方法では、複数のカメラをカメラコントローラに接続し、カメラコントローラにおいて同期信号を作成して各カメラに送信し、各カメラはこの同期信号に従った映像信号をカメラコントローラに送信する。カメラコントローラに送信される複数のカメラが撮像した映像信号は同一の同期信号に従った映像信号なので、切り換え等を行った際にも画像の乱れ等の発生を防止することができる。この方法を用いれば、車載映像表示用カメラシステムのカメラコントローラにおいて、複数の映像信号の変換処理等を行って1画面の映像信号を生成する処理も、比較的に容易に行うことができる。
特開平11−317908号公報
しかしながら、前述したような方法においては、カメラコントローラに同期信号を生成するための構成が必要となり、また、同期信号を各カメラに供給するための信号線を設ける必要もあり、装置の構成が複雑化するという問題が生じる。
そこで、同期信号を用いない簡易な構成で複数のカメラで撮像した映像信号の同期をとる技術として、各カメラから受信した映像信号をカメラコントローラ内のバッファに一時的に蓄積することによって各映像信号間の同期をとる技術がある。
この方法においては、複数のカメラからの映像信号を受信するカメラコントローラは、接続されたカメラ系統ごとに、1フレーム分(例えば、VGA方式の映像信号であれば640×480画素分)のメモリ容量をもつ入力バッファを3面備える。カメラコントローラは、その3面の中のいずれか1面をカメラから伝送される映像信号を格納する入力面、いずれか1面を同期をとるために一時的に映像信号を格納する待機面、そしていずれか1面を映像変換処理を行うための出力面と設定し、これらの各面の機能を順次ローテーションさせる。
各カメラは、それぞれの内部クロックに従ったタイミングで映像信号をカメラコントローラに伝送するため、これら複数のカメラから伝送される映像信号のフレーム期間の開始タイミングは非同期でずれた関係となり、またそのずれ方は再現性の無いものとなる。
カメラコントローラは、カメラ系統ごとの各入力バッファにおいて、カメラから入力面へ1フレーム分の映像信号が入力されると、その入力面を待機面とする。そして、全カメラに対応した入力バッファに1フレーム分の映像信号が入力された時点で、全カメラに対応した入力バッファの待機面を出力面とする。
その後カメラコントローラは、各入力バッファの出力面に格納された映像信号を同時に読み出し、すなわち各カメラからの複数の映像信号を同時に読み出し、モニタ等に表示するための映像変換処理を行う。カメラコントローラのCPUは、入力バッファの出力面に格納される映像信号を、パターンメモリに格納された入力バッファ読み出しアドレスに従ってフレーム単位で読み出し、アドレス変換処理を行ってモニタ表示用映像信号を作成し、出力バッファに格納する。
なお、映像変換を行うためのアドレスが格納されるパターンメモリの備えるアドレス空間は、アドレス変換後の映像をドライバーに提示するモニタの解像度(例えば、VGA(640×480画素)サイズ)と等しい。
これにより、複数カメラからの入力映像信号の非同期性を吸収して同期化を行うことができる。
しかしながら、上述した技術では、各カメラから入力した映像信号を1フレーム単位で処理しているので、各映像信号間の同期をとるために最大約2フレーム分(66.6ms)の遅延が発生する。また、入力バッファの出力面に全カメラからの映像が格納されてからアドレス変換処理を行って最終的にドライバーに表示する映像を生成するため、さらに1フレーム分(33.3ms)の遅延が発生する。したがって、映像信号が入力バッファの入力面に格納されてから出力バッファに格納するまでに、最大で3フレーム分(100ms)の遅延が発生することになる。
この全遅延時間は、例えば、車載映像表示用カメラシステムを搭載した車両が相対時速36kmで移動する物体を確認する場合、実在の障害物位置に対して約1mずれて障害物が表示されることになる。車載映像表示用カメラシステムを駐車や幅寄せ等の低速領域で使用する場合は多少の遅延が許容できるが、見通しの悪い交差点やT字路への進入や、車両同士のすり抜け、あるいは合流等の中高速領域の場面で使用する場合は、実在の障害物位置と表示された障害物位置とのずれが大きくなるという問題が生じる。
また、実在の障害物位置と表示された障害物位置とのずれが大きくなると、自車両が発進した時に「実際の車両は動いているのにモニタ画像が停止している」という感覚をドライバーに与えたり、自車両が停車した時に「実際の車両は停まっているのにモニタ画像が動いている」という感覚をドライバーに与える可能性がある。すなわち、実際の車両の動きとモニタ画像の動きとの不一致がドライバーに違和感あるいは不快感を与える可能性がある。
また、この方法においては、各カメラのもつ内部クロックのそれぞれのタイミングで撮影した映像を、その非同期性を吸収してモニタに同時に(同期させて)表示することにより、同時に表示されている映像間に最大1フレーム分(33.3ms)の時間差が生じてしまう。この時間ずれは、例えば複数カメラの映像をつなぎ目無しに合成(並べて表示)しモニタに表示する場合に、つなぎ目付近等で撮像した物体がにじんで見えたり、ぼやけて見えたりする原因となり、ドライバーが物体の位置を認識しづらくなる可能性がある。また、車両周囲の移動物体がモニタ上のつなぎ目を移動する際に、モニタ上から消えてしまったり、複数に見えてしまったりするという現象を生じる可能性がある。
このように映像提示の遅延や各カメラ映像のモニタ提示時点での時間ずれは、車載映像表示用カメラシステムに限らず、複数カメラにより撮影した映像を1枚の画面内にレイアウトして表示する場合の重要な課題である。
さらに、このような入力映像信号をバッファリングして同期性を確保する方法においては、カメラコントローラに接続するカメラ数が増加するにしたがって、入力バッファのメモリ容量が増大し、装置規模が大規模になるという問題も生じる。
本発明はこのような問題に鑑みてなされたものであって、その目的は、複数のカメラで撮像した同期性の無い映像を1フレームの映像内に配置して表示させるシステムにおいて、表示までの遅延時間及び各カメラ映像の時間ずれを短縮すると共に、メモリ容量を低減することができる映像信号処理装置とその方法を提供することにある。
また本発明の他の目的は、表示までの遅延時間及び各カメラ映像の時間ずれを短縮して、車両周囲の状況を適切に運転者に表示することができる車載カメラシステムを提供することにある。
前記課題を解決するために、本発明に係る映像信号処理装置は、各々所望の情景を撮影し、相互に非同期な所定のインターレス映像信号を出力する複数の撮影手段と、前記複数の撮影手段から各々入力されるインターレス映像信号をフィールド単位に一時的に記憶する入力バッファと、前記入力バッファに記憶された前記複数の撮像手段から各々入力された前記複数の映像信号を用いて、前記複数の撮影手段の各々で前記撮影された映像を含む出力対象の映像の映像信号をフィールド単位に生成する手段であって、前記複数の撮影手段の全てから前記フィールド単位の映像信号が前記入力バッファに入力されて記憶された時に、当該入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号を用いて、前記出力対象の映像の映像信号を生成する出力映像生成手段とを有する。
このような構成の出力映像生成手段においては、1フレーム単位でアドレス変換処理を開始する場合と比較して、出力映像生成手段への映像信号の入出力遅延時間、及び複数の撮影手段による時間ずれを短縮することができる。したがって、遅延時間が長いために発生する実際の情景と合成映像(生成映像)の不一致を抑制することができる。また、フィールド単位でアドレス変換処理を開始するため、1フレーム単位でアドレス変換処理を開始する場合と比較して、入力バッファの容量を低減させることができる。
また、本発明に係る映像信号処理方法は、複数の撮影手段から各々入力される相互に非同期な複数の所定のインターレス映像信号をフィールド単位に一時的に入力バッファに記憶し、前記複数の撮影手段の全てから前記映像信号が前記入力バッファに入力されて記憶された時に、当該入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号を用いて、出力対象の映像の映像信号を生成する。
また、本発明に係る車載カメラシステムは、各々が車両周囲の所定の領域の情景を撮影し、相互に非同期な所定のインターレス映像信号を出力する複数の撮影手段と、前記複数の撮影手段の各々から入力されるインターレス映像信号をフィールド単位に一時的に記憶する入力バッファと、前記入力バッファに記憶された前記複数の撮像手段から各々入力された前記複数の映像信号を用いて、前記複数の撮影手段の各々で前記撮影された映像を含む出力対象の映像の映像信号をフィールド単位に生成する手段であって、前記複数の撮影手段の全てから前記フィールド単位の映像信号が前記入力バッファに入力されて記憶された時に、当該入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号を用いて、前記出力対象の映像の映像信号を生成する出力映像生成手段と、前記生成された出力対象の映像の映像信号をフィールド単位で記憶する出力バッファと、前記出力バッファに記憶される映像信号を当該車両の運転者が視覚的に認識可能に表示する表示手段とを有する。
このような構成の車載カメラシステムにおいては、1フレーム単位でアドレス変換処理を開始する場合と比較して、出力映像生成手段への映像信号の入出力遅延時間、及び複数の撮影手段による時間ずれを短縮することができる。したがって、遅延時間が長いために発生する実際の車両の動きとモニタ画像の不一致を抑制することができ、ドライバーに不快感を与えることを回避することができる。また、上記時間ずれにより発生する相対的に移動している物体の認識しづらさを抑制することができる。
また、この車載映像表示用カメラシステムによれば、フィールド単位でアドレス変換処理を開始するため、1フレーム単位でアドレス変換処理を開始する場合と比較して、入力バッファの容量を低減させることができる。
本発明によれば、複数のカメラで撮像した同期性の無い映像を1フレームの映像内に配置して表示させるシステムにおいて、表示までの遅延時間及び各カメラ映像の時間ずれを短縮すると共に、メモリ容量を低減することができる映像信号処理装置とその方法を提供することができる。
また、表示までの遅延時間及び各カメラ映像の時間ずれを短縮して、車両周囲の状況を適切に運転者に表示することができる車載カメラシステムを提供することができる。
第1実施形態
本発明の第1実施形態について、図1〜図7を参照して説明する。
まず、本実施形態の車載映像表示用カメラシステムの概要及び利用形態について説明する。
図1は、本実施形態の車載映像表示用カメラシステムの概要を説明するための第1の図であり、図1(A)は見通しの悪いT字路における車両の位置状況を模式的に示す図であり、図1(B)は図1(A)に示した状況において自車両の車載映像表示用カメラシステムが備えるモニタがドライバーに提示する画像の一例を示す図である。
図1(A)には、自車両201、自車両201を基準として左方向から直進する第1の他車両202a、自車両201を基準として右方向から直進する第2の他車両202b、自車両201の前方左に設置された図示しないカメラ(以下、左カメラと称する)により撮像される第1の撮像範囲203a、自車両201の前方右に設置された図示しないカメラ(以下、右カメラと称する)により撮像される第2の撮像範囲203bが示されている。
また、図1(B)には、モニタ207の画面が示されている。モニタ207の画面には、左カメラにより撮像された自車両201の左方向の画像204a、右カメラにより撮像された自車両201の右方向の画像204b、及び、左右の画像をモニタ上で区分けする仕切り線画像205(マスク画像)が示されている。左方向の画像204aには、第1の他車両202aの画像206aが含まれており、右方向の画像204bには、第2の他車両202bの画像206bが含まれている。
本実施形態の車載映像表示用カメラシステムは、図1(A)に示すように、見通しの悪いT字路において道路に自車両201を進入させる場合に、自車両201の前方左方向の第1の撮像範囲203aの状況及び自車両201の前方右方向の第2の撮像範囲203bの状況を撮像し、図1(B)に示すように、得られた左方向の画像204a及び右方向の画像204bをブラインドコーナービューとして1つの画面内にレイアウトし、モニタ207に表示する。
これによって、自車両201に対して左方向から直進する他車両202a及び右方向から直進する他車両202bをドライバーに認識させることができ、ドライバーに注意を促すことができる。
また、図2は、本実施形態の車載映像表示用カメラシステムの概要を説明するための第2の図であり、特に、複数のカメラが撮像した映像をつなぎ目無く(映像が途切れること無く)合成してレイアウトし表示する例を示す図である。図2(A)は、自車両後方の撮像状況を説明するための図であり、図2(B)は、図2(A)に示した状況において自車両の車載映像表示用カメラシステムが備えるモニタがドライバーに提示する画像の一例を示す図である。
車載映像表示用カメラシステムは、自車両301の後方左側の領域303a及び自車両301の後方右側の領域303bの状況を、各々カメラ302a及び302bにより撮像し、得られた左後方の画像305a及び右後方の画像305bをつなぎ目なく接続してレイアウトし、リアビューとしてモニタ304に表示する。これによって、自車両301のドライバーに、後方の確認及び注意の喚起を行うことができる。
このように、本実施形態の車載映像表示用カメラシステムは、複数のカメラ映像をつなぎ目無くモニタにレイアウトすることも可能である。
次に、このような車載映像表示用カメラシステムの構成及び動作について説明する。
なお、説明の簡単のために、ここでは、2台のカメラがカメラコントローラに接続されている、すなわち、CPUに入力される画像信号が2系統である車載映像表示用カメラシステムを例示してその構成及び動作を説明する。
また、カメラで撮像する画像データの解像度及びドライバーに提示するモニタの解像度は、VGA(Video Graphics Array、縦640画素×横480画素)サイズとする。
図3は、本実施形態の車載映像表示用カメラシステム100の構成を示す図である。
車載映像表示用カメラシステム100は、2台のNTSCカメラ110a及び110b、カメラコントローラ120及び表示モニタ180を有する。また、カメラコントローラ120は、データバス130、CPU140、入力バッファ150a及び150b、パターンメモリ160、出力バッファ170及び表示モニタ180を有する。
NTSCカメラ110a及び110bは、各々、車両周囲の所定領域を撮影し、NTSC方式に従って映像データを生成する撮像装置である。NTSCカメラ110a及び110bは、33.3ms間隔で1フレーム分の映像データをカメラコントローラ120に送出する。NTSC方式はインターレース方式なので、NTSCカメラ110a及び110bは、奇数フィールドと偶数フィールドの映像データを16.7ms間隔で交互に繰り返し生成しカメラコントローラ120に送出する。
2台のNTSCカメラ110a及び110bは、各々内部クロックを備え、その内部クロックに従って各々が独立したタイミングでフィールドごとの映像データを生成し、カメラコントローラ120に出力する。したがって、NTSCカメラ110aにおいて生成され出力される映像データと、NTSCカメラ110bにおいて生成され出力される映像データとは、フィールド期間(あるいはフレーム期間)がずれた非同期の信号となり、またその非同期性(ずれ方、ずれた時間)は再現性の無いものとなる。
なお、これらNTSCカメラ110a及び110bが、図1において自車両201の前方左右方向を撮影する左カメラ及び右カメラ、あるいは、図2において自車両301の後方を撮影するカメラ302a及び302bに相当する。
カメラコントローラ120は、NTSCカメラ110a及び110bで撮像した各映像に映像変換処理を施し、表示モニタ180に表示させる。
カメラコントローラ120は、データバス130に、CPU140、NTSCカメラ110aと接続された入力バッファ150a、NTSCカメラ110bと接続された入力バッファ150b、パターンメモリ160、及び、表示モニタ180と接続された出力バッファ170が接続された構成となっている。
入力バッファ150a及び150bは、前述したように2台のNTSCカメラ110a及び110bに対応して設けられており、各々、対応するNTSCカメラ110a又は110bから入力されるフィールド単位の映像信号を格納する。
入力バッファ150a及び150bは、各々、3面のフィールドメモリ(各面がVGA1フィールド相当(640画素×240画素)のメモリ空間を有する)として機能するメモリ空間を有し、その3面が順次、カメラから伝送される映像信号を格納する入力面、他のカメラからの映像信号と同期をとるために一時的に映像信号を格納する待機面、及び、他のカメラとの同期化が終了した後に映像変換処理を行うための映像信号を格納する出力面に設定される。
CPU140は、カメラコントローラ120におけるアドレス変換処理を制御する。その際、CPU140は、NTSCカメラ4110a及び110bから伝送される映像データが奇数フィールドであるか偶数フィールドであるかをモニタし、どの映像データをアドレス変換処理に用いるかを決定する。このフィールド映像データの偶奇判定(偶数フィールドか奇数フィールドかの判定)は、入力バッファ150の前段にカメラ入力系統ごとに備える図示しないNTSCデコーダで行う。なお、そのNTSCデコーダは、カメラから送出される映像データから垂直同期信号及び水平同期信号を分離する同期分離回路を備える。したがって、その同期信号をカメラコントローラ120に取り込み、カメラコントローラ120のトリガ信号として活用することもできる。
出力バッファ170は、表示モニタ180に表示される映像データを記憶するメモリであり、アドレス変換されながらデータバス130を介して順次入力される映像データが格納される出力バッファ入力面、及び、表示モニタ180により変換済のフィールド単位の映像信号が読み出される出力バッファ出力面とを有する。出力バッファ170を2面とすることにより、ドライバーに提示する画像のちらつきを抑えることができる。
パターンメモリ160は、入力バッファ150a及び150bに格納されたフィールド単位の映像信号に対して、CPU140がアドレス変換処理を行うためのアドレス値がデータが格納されたメモリである。パターンメモリ160は、入力バッファ150a又は150bのメモリアドレスと、出力バッファ170のメモリアドレスとの対応関係を記憶している。パターンメモリ160は、ドライバーに提示する画面のレイアウトに対応した数の面数だけ具備されることになる。
本実施形態においては、パターンメモリ160は、図1(B)のモニタ207や図2の304のように2枚の映像を左右に並べて表示させる場合の入力バッファ150と出力バッファ170とのアドレス対応関係を記憶している。
図4は、パターンメモリ160に記憶されるメモリマップの一例を示す図である。
図4において、パターンメモリ160は、奇数フィールド対応出力バッファ書き込みアドレス領域161、奇数フィールド対応入力バッファ読み出しアドレス領域162、奇数フィールド対応入力カメラ番号領域163、偶数フィールド対応出力バッファ書き込みアドレス領域164、偶数フィールド対応入力バッファ読み出しアドレス領域165、及び、偶数フィールド対応入力カメラ番号領域166を有する。
本発明は、フィールド単位で読み出しアドレス変換処理を行うため、ドライバーに提示するレイアウトの条件の下で、奇数フィールドの画像信号に対して読み出しアドレス変換処理を行う場合は奇数フィールドに対応しているパターンメモリを用い、偶数フィールドの画像信号に対して読み出しアドレス変換処理を行う場合は、偶数フィールドに対応しているパターンメモリ(それぞれ、640×240画素分のアドレス空間)を用いる。
なお、出力バッファ書き込みアドレス161及び164に、出力バッファの0(0x0(”0x”は16進数表記であることを示す))画素目から640×240−1(0x257FF)画素目までを示す各アドレス値(すなわち、0x0〜0x257FF)がシーケンシャルに並んで格納されている場合、出力バッファ書き込みアドレス161及び164は削除することができる。
カメラコントローラ120のCPU140は、カメラより送出される映像データからフィールド映像データの偶奇判定を行い、その判定結果に基づいて使用するパターンメモリ領域を切り換える。
図5は、アドレス変換処理におけるデータの流れを模式的に示す図である。
図5において、CPU140は、複数カメラより受信した映像データに対してフィールドデータの偶奇判定、アドレス変換対象とするフィールドデータの決定、及び、入力バッファにおける同期化を行った後に、ドライバーに提示するレイアウトに応じた読み出しアドレス及び書き込みアドレスをパターンメモリ160から読み出す(工程S1)。
そして、CPU140は、入力バッファ150a又は150bのその読み出しアドレスに格納されている画素信号を読み出し(工程S2)、出力バッファ170のその書き込みアドレスに書き込む(工程S3)。
本実施形態の車載映像表示用カメラシステム100においては、このようにパターンメモリ160を介したこのような処理により、複数のNTSCカメラ110a及び110bから順次入力される複数のフィールド単位の映像信号に基づいて出力映像信号を生成する。なお、このような処理を、アドレス変換処理と称する。
なお、このアドレス変換処理をCPUが制御するよう説明したが、LSIやFPGA、DSP等で構成した専用の信号処理回路によって行ってもよい。
上述したようなフィールド単位処理でアドレス変換処理を行った場合の入出力タイミングのチャートを図6に示す。
図6に示すように、時刻t1から、カメラ#1からの映像データ(最初の奇数フィールドデータOdd1a)の入力バッファ150aの入力面への入力が開始され、また、時刻t1から遅れた時刻t2から、カメラ#2からの映像データ(最初の奇数フィールドデータOdd2a)の入力バッファ150bの入力面への入力が開始されたとする。
フィールド単位でアドレス変換処理を行い、モニタに出力データを表示させる場合、出力モニタにおける奇数フィールドデータであるDataOaを作成するためには、カメラ#1の奇数フィールドデータOdd1a、及びカメラ#2の奇数フィールドデータOdd2aの映像データを用いる。したがってカメラコントローラは、両映像データの受信が完了する時刻t3においてアドレス変換処理を開始し、変換データを出力データとして出力バッファに格納し終えるのが時刻t4となる。
また同様に、出力モニタにおける偶数フィールドデータであるDataEbを作成するためには、カメラ#1の偶数フィールドデータEven1b、及びカメラ#2の偶数フィールドデータEven2bの映像データを用いる。したがってカメラコントローラは、両映像データの受信が完了する時刻t4においてアドレス変換処理を開始し、変換データを出力データとして出力バッファに格納し終えるのが時刻t6となる。
したがって、車載映像表示用カメラシステム100においては、カメラ#1の入力データを入力開始した時刻t1から、出力データをモニタ等に出力して表示させる時刻t4までの全遅延時間は、約66.7msとなる。
比較のために、従来のフレーム単位でアドレス変換処理を行った場合の入出力タイミングチャートを図7に示す。
図7において、2つのNTSCカメラ(カメラ#1、カメラ#2)から、映像データが伝送されるタイミングt1、t2は、図6と全く同様である。なお、図7においては、入力される映像信号をフィールド単位の表示からフレーム単位で表示している。
図7に示すように、時刻t1からカメラ#1からの映像データ(Data1a)を入力バッファの入力面に受信開始し、時刻t1から遅れて時刻t2からカメラ#2からの映像データ(Data2a)を入力バッファの入力面に受信開始したとする。カメラ#1とカメラ#2の1フレーム分の入力データが入力バッファの出力面に格納完了する時刻がt3であるとすると、入力に要する遅延時間が約2フレーム分(66.6ms)となる。そして、当該時刻t3で入力バッファの出力面からそれぞれの入力データを読み出して変換処理を開始し、変換データを出力データとして実際に出力バッファに格納し終えるのは時刻t4となる。したがって、カメラ#1の入力データを入力開始した時刻t1から、出力データをモニタ等に出力して表示させる時刻t4までの全遅延時間は、約100msとなる。
このように、第1実施形態の車載映像表示用カメラシステム100によれば、1フレーム単位でアドレス変換処理を開始する場合と比較して、カメラコントローラの入出力遅延時間、及び複数カメラ映像のモニタ提示時点での時間ずれを短縮することができる。したがって、入出力遅延時間が長いために発生する実際の車両の動きとモニタ画像の不一致を抑制することができ、ドライバーに不快感を与えることを回避することができる。
また、上記時間ずれにより発生する相対的に移動している物体の認識しづらさを抑制することができる。
具体的には、図6を参照して前述したように、入力バッファにおける同期化に要する時間を最大3フィールド分に相当するの遅延とすることができる。また、カメラコントローラにおける全遅延時間を最大4フィールドに相当する66.7msとすることができ、従来(100ms)の2/3に短縮することができる。
また、車載映像表示用カメラシステム100によれば、フィールド単位でアドレス変換処理を開始するため、1フレーム単位でアドレス変換処理を開始する場合と比較して、入力バッファの容量を低減させることができる。フレーム単位で処理を行った場合には、3フレーム×カメラN系統分のアドレス空間を備える入力バッファを必要としたことに対し、カメラコントローラでは、3フィールド(1.5フレーム)×カメラN系統分のアドレス空間を備える入力バッファでアドレス変換処理を実現することができ、バッファ容量を1/2に低減することができる。
また、車載映像表示用カメラシステム100においては、奇数フィールド映像データと偶数フィールド映像データとを交互に出力バッファ入力面に書き込むので、奇数フィールドと偶数フィールドが入れ替わるようなことを防止して、ドライバーに提示するモニタ画像のちらつきを抑制することができる。
なお、車載映像表示用カメラシステム100は、カメラコントローラ120におけるアドレス変換処理の制御方法を従来の方法に対して変更したものであって、何らその他の装置構成等が大きくなったり、複雑になったりするものではない。
第2実施形態
本発明の第2実施形態について、さらに図8〜図14を参照して説明する。
前述した第1実施形態の車載映像表示用カメラシステム100においては、撮像から表示までの最大遅延時間を短縮することができた。しかしながら、図6に示すように、同時に表示するカメラ#1の映像とカメラ#2の映像との撮像タイミングのずれ、すなわち各カメラ映像のずれは、時刻t1と時刻t2の差に等しく最大約33.3msとなる。従来のフレーム単位でアドレス変換処理を行う方法における各カメラ映像の時間ずれも、図7に示すように最大約33.3msであり、この点については第1実施形態の車載映像表示用カメラシステム100は改善されていない。
本発明の第2実施形態として、この複数カメラによる映像間の時間ずれをも短縮する車載映像表示用カメラシステムについて説明する。
なお、第2実施形態の車載映像表示用カメラシステム100b(図3参照)の構成等は、図1〜図3を参照して前述した第1実施形態の車載映像表示用カメラシステム100と同じである。したがって、以下、第2実施形態の車載映像表示用カメラシステムについてはその構成等の説明は省略するとともに、その各構成部を説明に用いる際には第1実施形態と同一の符号を使用するものとする。
第2実施形態の車載映像表示用カメラシステム100bにおいては、図8に示すように、奇数フィールドデータであるDataOaを作成するために、カメラ#1の偶数フィールドデータEven1b及びカメラ#2の奇数フィールドデータOdd2aの映像データを用いる。また、出力モニタにおける偶数フィールドデータであるDataEbを作成するために、カメラ#1の奇数フィールドデータOdd1c及びカメラ#2の偶数フィールドデータEven2bの映像データを用いる。
アドレス変換処理は、この場合も前述した第1実施形態と同様に行う。すなわち、出力モニタにおける奇数フィールドデータであるDataOaを作成するためには、カメラ#1の偶数フィールドデータEven1b及びカメラ#2の奇数フィールドデータOdd2aの映像データに対して、パターンメモリ160の奇数フィールド対応出力バッファ書き込みアドレス領域161の奇数フィールド対応出力バッファ書き込みアドレス領域161、奇数フィールド対応入力カメラ番号領域163及び奇数フィールド対応入力バッファ読み出しアドレス領域162のデータ(アドレス値)を用いてアドレス変換を行う。また、出力モニタにおける偶数フィールドデータであるDataEbを作成するために、カメラ#1の奇数フィールドデータOdd1c及びカメラ#2の偶数フィールドデータEven2bの映像データを、パターンメモリ160の偶数フィールド対応出力バッファ書き込みアドレス領域164、偶数フィールド対応入力カメラ番号領域166及び偶数フィールド対応入力バッファ読み出しアドレス領域165のデータ(アドレス値)を用いてアドレス変換処理を行う。
この場合において、第1実施形態と全く同様のアドレス変換テーブルを用いてアドレス変換を行った場合の概念図を図9に示す。図9は、カメラ#1及びカメラ#2の映像データをそれぞれモニタの左半分及び右半分に割り当てるレイアウトである。
なお、以下の説明を容易にするために、図9においては、各カメラが撮像している映像データを同一のものとし、また、カメラ映像及びモニタ出力の垂直方向画素数を8としている。
図9に示すように、この場合、出力モニタの奇数フィールドをカメラの奇数フィールドを用いて作成し、出力モニタの偶数フィールドをカメラの偶数フィールドを用いて作成しているカメラ#2の映像、すなわちモニタの右半分の出力は元のカメラ#2の映像を再現することができる(元の映像のライン1からライン8までがシーケンシャルに並んでいる)。しかしながら、出力モニタの奇数フィールドをカメラの偶数フィールドを用いて作成し、出力モニタの偶数フィールドをカメラの奇数フィールドを用いて作成しているカメラ#1の映像、すなわちモニタの左半分の出力は、元のカメラ#1の映像を再現することができていない(元の映像のライン1からライン8までがシーケンシャルに並んでいない)。
このような問題を解決してモニタの左半分の出力についても適切な画像を表示するための本実施形態の車載映像表示用カメラシステム100bにおけるアドレス変換処理について図10を参照して説明する。
図10は、第2実施形態の車載映像表示用カメラシステム100bにおけるアドレス変換処理を説明するための概念図である。
第2実施形態の車載映像表示用カメラシステム100bのカメラコントローラ120のCPU140は、NTSCカメラ110a及び110bより伝送されるフィールド映像信号の中で、各々、時間的に最も近いフィールド映像データをアドレス変換処理の対象とする。
その際、カメラコントローラ120のCPU140は、NTSCカメラ110a及び110bから入力される各フィールド映像データが、奇数フィールドデータであるか偶数フィールドデータであるかを判別し、出力対象のフィールドとの関係においてアドレス変換の処理を切り換える。
具体的には、まず、奇数フィールド対応出力バッファの書き込みの際(奇数フィールドの出力映像データを生成する際)に、時間的に最も近いフィールド映像データの種類が、カメラ#1とカメラ#2とでともに奇数フィールドデータだった場合、この場合は、従来と同様に、パターンメモリ160の奇数フィールド用のパターンメモリデータを用いてアドレス変換処理を行い、奇数フィールド用の出力データを作成する。
この場合には、偶数フィールド対応出力バッファの書き込みの際(偶数フィールドの出力映像データを生成する際)には、時間的に最も近いフィールド映像データの種類は、カメラ#1とカメラ#2とでともに偶数フィールドデータとなっている。したがって、その場合も従来と同様に、今度は パターンメモリ160の偶数フィールド用のパターンメモリデータを用いてアドレス変換処理を行い、偶数フィールド用の出力データを作成する。
一方、奇数フィールド対応出力バッファの書き込みの際(奇数フィールドの出力映像データを生成する際)に、時間的に最も近いフィールド映像データが、カメラ#1については偶数フィールドデータであり、カメラ#2については奇数フィールドデータであった場合(図10に例示するような場合)、カメラコントローラ120は以下の処理を行う。なお、図10では、出力モニタにおける奇数フィールドデータであるDataOaを作成するために、カメラ#1の偶数フィールドデータEven1b、及びカメラ#2の奇数フィールドデータOdd2aの映像データを用い、出力モニタにおける偶数フィールドデータであるDataEbを作成するために、カメラ#1の奇数フィールドデータOdd1c、及びカメラ#2の偶数フィールドデータEven2bの映像データを用いている。
CPU140は、出力モニタにおける奇数フィールドデータであるDataOaを作成する際、従来と同様に、カメラ#1の偶数フィールドデータEven1b及びカメラ#2の奇数フィールドデータOdd2aの映像データを、奇数フィールド用のパターンメモリを用いてアドレス変換処理を行い、出力バッファに出力データを格納する。
次に、出力モニタにおける偶数フィールドデータであるDataEbをカメラ#1の奇数フィールドデータOdd1c及びカメラ#2の偶数フィールドデータEven2bの映像データを用いて作成する際には、CPU140は、カメラ#1の奇数フィールドデータ(Odd12)の2列目(イメージ全体では3列目)のラインデータL3以下のデータを用いる。すなわち、図10に示すように、奇数フィールドデータOdd12の2列目のデータL3が、出力データの偶数フィールドの1列目(全体の2列目)のデータとして、出力データの奇数フィールドの1列目の下に配置されるように、奇数フィールドデータの全体を配置する。
その結果、先に出力データの1列目として格納されているカメラ#1の偶数フィールドデータEven11の1列目のラインデータL2の下に、カメラ#1の奇数フィールドOdd21の2列目のラインデータL3が配置されることとなり、各ラインの相対的位置関係としては適正な位置関係に配置されることになる。
このように、本実施形態の車載映像表示用カメラシステムにおいては、出力データの偶数フィールドデータを出力する(アドレス変換して生成する)際に、カメラ入力フィールドデータが奇数フィールドデータである場合に、その1ライン下のラインから読み出すようにアドレス変換を行うものである。
図11は、そのカメラコントローラのアドレス変換処理を示すフローチャートである。
CPU140は、時間的に最も近い複数カメラ入力データをアドレス変換の対象とする。また、それらのフィールド映像データに対して、元のカメラ画像の奇数フィールドデータであるか、偶数フィールドデータであるかをモニタする(ステップS21)。
CPU140は、各カメラからのフィールドデータ同期化後、ステップS21でのモニタ結果に関わらず、出力モニタの奇数フィールドデータを、奇数フィールド対応パターンメモリを用いてアドレス変換処理を行う(ステップS22)。
出力モニタにおける奇数フィールドデータを作成、及び次のフィールドデータの同期化後、CPU140は、出力データの偶数フィールドデータとカメラ入力フィールドデータの奇数フィールドデータ、及び偶数フィールドデータが合っているかどうかを判別する(ステップS23)。
合っている場合CPU140は、偶数フィールド対応パターンメモリをそのまま用いることによりアドレス変換処理を行い、出力モニタにおける偶数フィールドデータを作成する(ステップS24)。
合っていない場合、CPU140は、出力データの偶数フィールドデータとカメラ入力フィールドデータの奇数フィールドデータ/偶数フィールドデータが合っていない方のカメラ入力フィールドデータのみ、偶数フィールドデータ対応入力バッファ読み出しアドレスの1ライン分下を読み出してアドレス変換処理を行う。また、フィールドデータの種類が合っている方のカメラ入力フィールドデータに対しては、格納されている偶数フィールド対応パターンメモリをそのまま用いてアドレス変換処理を行う(ステップS25)。
なお、入力バッファ読み出しアドレスの1ライン分下を読み出す方法としては、CPU140が、パターンメモリ160の偶数フィールド対応入力バッファ読み出しアドレス領域165を読み出した時に、その読み出しアドレス値に1ライン分のアドレスをプラスする等の方法が考えられる。
図12は、このような用法によりアドレス変換処理を行った結果の例を示す図である。
出力モニタにおける奇数フィールドデータであるDataOaを作成するために、カメラ#1の偶数フィールドデータEven1b、及びカメラ#2の奇数フィールドデータOdd2aの映像データを奇数フィールド用のパターンメモリを用いてアドレス変換処理を行い、また、出力モニタにおける偶数フィールドデータであるDataEbを作成するために、カメラ#1の奇数フィールドデータOdd1c、及びカメラ#2の偶数フィールドデータEven2bの映像データを偶数フィールド用のパターンメモリを用いてアドレス変換処理を行っている。
この際、前述した処理を行うことにより、図示するように出力モニタの奇数フィールドをカメラの奇数フィールドを用いて作成し、出力モニタの偶数フィールドをカメラの偶数フィールドを用いて作成しているカメラ#2の映像、すなわちモニタの右半分の出力も、出力モニタの奇数フィールドをカメラの偶数フィールドを用いて作成し、出力モニタの偶数フィールドをカメラの奇数フィールドを用いて作成しているカメラ#1の映像、すなわちモニタの左半分の出力も、ともに元の映像を適切に再現することができている。すなわち、元の映像のライン1からライン8までがシーケンシャルに並んでいる。
なお、モニタの左半分の出力の偶数フィールドデータの最終ラインが1ライン分欠損することになるが、例えばVGA出力のように縦方向の画素数が多いものでは、人間の視覚で感じるその影響はほとんど無い。
このように、第2実施形態の車載映像表示用カメラシステム100bによれば、図8にその入出力タイムチャートを示したように、カメラ#1からの偶数フィールドデータEven1bの映像データの受信を開始した時刻t5と、カメラ#2の奇数フィールドデータOdd2aの映像データの受信を開始した時刻t2との差、すなわち各カメラ映像の時間ずれは、最大1フィールド分すなわち16.7msまで短縮される。
また、入力バッファにおける同期合わせによる遅延は、最大で2フィールド(33.3ms)にすることができる(t5〜t3)。また、カメラ#1の入力データを入力開始した時刻t5から、出力データをモニタ等に出力して表示させる時刻t4までの全遅延時間を最大で3フィールド(50.0ms)と短縮することができる。
したがって、従来の1フレーム単位でアドレス変換処理を開始する場合と比較して、カメラコントローラの入出力遅延時間、及び複数カメラ映像のモニタ提示時点での時間ずれを大幅に短縮することができる。その結果、入出力遅延時間が長いために発生する実際の車両の動きとモニタ画像の不一致を抑制することができ、ドライバーに不快感を与えることを回避することができる。また、上記時間ずれにより発生する相対的に移動している物体の認識しづらさを抑制することができる。
また、車載映像表示用カメラシステム100bにおいても、第1実施形態の車載映像表示用カメラシステム100と同様に、フィールド単位でアドレス変換処理を開始するため、1フレーム単位でアドレス変換処理を開始する場合と比較して、入力バッファの容量を低減させることができる。フレーム単位で処理を行った場合には、3フレーム×カメラN系統分のアドレス空間を備える入力バッファを必要としたことに対し、カメラコントローラでは、3フィールド(1.5フレーム)×カメラN系統分のアドレス空間を備える入力バッファでアドレス変換処理を実現することができ、バッファ容量を1/2に低減することができる。
なお、本発明は接続するカメラの数に依存せずに実現することが可能である。
なお、アドレス変換処理を行うタイミングや出力データをモニタに提示するタイミングとしては、カメラから伝送される映像信号に含まれる垂直同期信号をトリガ信号としてカメラコントローラ内で用いてもよいし、内部で生成したトリガ信号を用いてもよい。
第3実施形態
本発明の第3実施形態について、図13及び図14を参照して説明する。
第3実施形態の車載映像表示用カメラシステムは、第2実施形態の車載映像表示用カメラシステムのアドレス変換処理の方法を変形したものである。
図13は、第3実施形態におけるカメラコントローラのアドレス変換処理を示すフローチャートである。
CPU140は、時間的に最も近い複数カメラ入力データをアドレス変換の対象とする。また、それらのフィールド映像データに対して、元のカメラ画像の奇数フィールドデータであるか、偶数フィールドデータであるかをモニタする(ステップS31)。
CPU140は、入力フィールドデータの同期化後、出力データの奇数フィールドデータとカメラ入力フィールドデータの奇数フィールドデータ、及び偶数フィールドデータが合っているかどうかを判別する(ステップS32)。
合っている場合CPU140は、奇数フィールド対応パターンメモリをそのまま用いることによりアドレス変換処理を行い、出力モニタにおける奇数フィールドデータを作成する。(ステップS33)
合っていない場合、CPU140は、出力データの奇数フィールドデータとカメラ入力フィールドデータの奇数フィールドデータ/偶数フィールドデータが合っていない方のカメラ入力フィールドデータのみ、奇数フィールドデータ対応入力バッファ読み出しアドレスの1ライン分上を読み出してアドレス変換処理を行う。ただし、モニタ出力奇数フィールドデータの1ライン目はブランクとするように処理を行う(アドレス変換処理を行わない)。一方、上記が合っている方のカメラ入力フィールドデータに対しては、格納されている奇数フィールド対応パターンメモリをそのまま用いてアドレス変換処理を行う(ステップS34)。
なお、入力バッファ読み出しアドレスの1ライン分上を読み出す方法としては、CPU140が、パターンメモリ160の偶数フィールド対応出力バッファ書き込みアドレス領域164を読み出した時に、その読み出しアドレス値に1ライン分のアドレスをマイナスする等の方法が考えられる。
出力モニタにおける奇数フィールドデータを作成し、次のフィールドデータの同期化後、CPU140は、ステップS31でのモニタ結果に関わらず、出力モニタの偶数フィールドデータを、偶数フィールド対応パターンメモリを用いてアドレス変換処理を行う。(ステップS35)
図14は、このような用法によりアドレス変換処理を行った結果の例を示す図である。
出力モニタにおける奇数フィールドデータであるDataOaを作成するために、カメラ#1の偶数フィールドデータEven1b及びカメラ#2の奇数フィールドデータOdd2aの映像データを奇数フィールド用のパターンメモリを用いてアドレス変換処理を行い、また、出力モニタにおける偶数フィールドデータであるDataEbを作成するために、カメラ#1の奇数フィールドデータOdd1c及びカメラ#2の偶数フィールドデータEven2bの映像データを偶数フィールド用のパターンメモリを用いてアドレス変換処理を行う。
この際、前述した処理を行うことにより、図示するように出力モニタの奇数フィールドをカメラの奇数フィールドを用いて作成し、出力モニタの偶数フィールドをカメラの偶数フィールドを用いて作成しているカメラ#2の映像、すなわちモニタの右半分の出力も、出力モニタの奇数フィールドをカメラの偶数フィールドを用いて作成し、出力モニタの偶数フィールドをカメラの奇数フィールドを用いて作成しているカメラ#1の映像、すなわちモニタの左半分の出力も、ともに元の映像を再現することができている。すなわち、元の映像のライン1からライン8までがシーケンシャルに並んでいる。
なお、モニタの左半分の出力の奇数フィールドデータの1ライン目が欠損することになるが、先と同様、例えばVGA出力のように縦方向の画素数が多いものでは、人間の視覚で感じるその影響は少ない。
このような方法によりアドレス変換を行った場合も、第2実施形態と同様に、各カメラ映像の時間ずれは、最大1フィールド分、すなわち16.7msまで短縮される。また、表示映像の遅れも、第2実施形態と同様に、最大で3フィールド(50.0ms)と短縮することができる。
また、フィールド単位でアドレス変換処理を行うため、入力バッファの容量もフレーム単位で行った場合に比べて1/2とすることができる。
第4実施形態
本発明の第4実施形態について、図15を参照して説明する。
前述した第2及び第3実施形態の車載映像表示用カメラシステムにおいては、モニタ出力の偶数フィールドデータを作成する際のアドレス変換対象カメラ入力フィールドデータの少なくても1つが奇数フィールドデータであった場合、あるいはモニタ出力の奇数フィールドデータを作成する際のアドレス変換対象カメラ入力フィールドデータの少なくても1つが偶数フィールドデータであった場合に、アドレス変換処理を通常のものと変えることで対応した。しかし、例えば接続するカメラ数が4台で、モニタ出力の奇数フィールドデータを作成する際のアドレス変換対象カメラ入力フィールドデータの4つのうち3つが偶数フィールドデータであった場合(逆もまた同様)、CPUで行う入力バッファ読み出しアドレスの読み出し処理が重くなってしまうことにより、CPUの負荷が増大してしまう可能性がある。そこで、本実施形態では再現性の無いカメラ入力フィールドデータの奇数/偶数フィールドデータに合わせて、作成するモニタ出力の奇数/偶数フィールドデータを変える処理について説明する。
図15は、本実施形態におけるカメラコントローラのアドレス変換処理を示すフローチャートである。
CPU140は、時間的に最も近い複数カメラ入力データをアドレス変換の対象とする。また、それらのフィールド映像データに対して、元のカメラ画像の奇数フィールドデータであるか、偶数フィールドデータであるかをモニタする(ステップS41)。
CPU140は、対象である複数カメラ入力フィールドデータの奇数フィールドデータ、あるいは偶数フィールドデータのうち、多い方のフィールドデータの奇数/偶数に合わせ、モニタ出力の奇数フィールドデータ、あるいは偶数フィールドデータを作成する。例として、接続するカメラ台数が4台の場合、アドレス変換対象であるカメラ入力フィールドデータのうち、奇数フィールドデータが3つであったら、モニタ出力奇数フィールドデータの作成を始める。また、偶数フィールドデータが3つであったら、モニタ出力偶数フィールドデータの作成を始める。なお、奇数フィールドデータ、及び偶数フィールドデータがともに2つといった同数であった場合は、モニタ出力奇数フィールドデータの作成を始めることとする(ステップS42)。
以降の処理は、図11のステップS22〜ステップS25、あるいは図13のステップS32〜ステップS35と同様の処理を行う(ステップS43)。
以上より、CPUの処理負荷を低減させつつ、第2実施形態あるいは第3実施形態と同様の効果を得ることができる。
そしてこのような構成であれば、特に、パターンメモリ160記憶すべき対応関係の操作量が減るため、CPUの負荷を低減することができる。
本発明はこのような構成としてもよい。
なお、前述した各実施形態は、本発明の理解を容易にするために記載されたものであって本発明を何ら限定するものではない。第1〜第4の各本実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含み、また任意好適な種々の改変が可能である。
例えば、前述した各実施形態の車載映像表示用カメラシステムにおいて、出力バッファの出力面に格納された変換済のフィールド映像データを表示モニタに出力させる同期信号としては、図示しない内部の周波数源を含むクロック回路を用いて生成してもよいし、入力されるフィールド映像データに含まれる垂直同期信号を使用した回路により生成してもよい。いずれにしても、アドレス変換処理の終了を任意の出力トリガにより検出して、任意のタイミングでドライバーに提示することができる。
また、表示モニタ180への出力タイミングを、内部の周波数源から生成する場合と、垂直同期信号から生成する場合とを選択するような構成としてもよい。このような構成とすれば、アドレス変換処理に要する時間に応じてドライバーにフィールド映像データを提示するタイミングを可変とすることができる。また、垂直同期信号にノイズが含まれて正確に検出できない場合には、内部の周波数源を使用すれば高い信頼性で同期化を実現することができる。また、垂直同期信号を使用した場合には、内部のクロック回路を不要とすることができる。
また、その際に、変換処理タイミングと出力タイミングとを同じタイミングで判定するようにしておけば、内部のタイミング回路を一元化することができ、回路規模の減少、及びアドレス変換処理の簡単化を図ることができる。本発明に係る車載映像表示用カメラシステムは、そのような構成としてもよい。
図1は、本発明に係る実施形態の車載映像表示用カメラシステムの概要を説明するための第1の図であり、図1(A)は見通しの悪いT字路における自車両及び他車両を上から見た図であり、図1(B)は図1(A)に示した状況において自車両の車載映像表示用カメラシステムが備えるモニタがドライバーに提示する画像の一例を示す図である。 図2は、本発明に係る実施形態の車載映像表示用カメラシステムの概要を説明するための第2の図であり、図2(A)は、自車両後方の撮像状況を説明するための図であり、図2(B)は、図2(A)に示した状況において自車両の車載映像表示用カメラシステムが備えるモニタがドライバーに提示する画像の一例を示す図である。 図3は、本発明に係る実施形態の車載映像表示用カメラシステムの構成を示す図である。 図4は、図3に示す車載映像表示用カメラシステムのカメラコントローラのパターンメモリのメモリマップの一例を示す図である。 図5は、図3に示す車載映像表示用カメラシステムのカメラコントローラにおけるアドレス変換処理の際のデータの流れを模式的に示す図である。 図6は、本発明の第1実施形態の車載映像表示用カメラシステムの入出力データのタイミングチャートを示す図である。 図7は、従来の車載映像表示用カメラシステムの入出力データのタイミングチャートを示す図である。 図8は、本発明の第2実施形態の車載映像表示用カメラシステムの入出力データのタイミングチャートを示す図である。 図9は、フィールド単位で従来のアドレス変換処理を行った場合のイメージ図である。 図10は、本発明の第2実施形態の車載映像表示用カメラシステムにおける処理を説明するための図である。 図12は、本発明の第2実施形態の車載映像表示用カメラシステムにおける処理の流れを示すフローチャートである。 図12は、本発明の第2実施形態の車載映像表示用カメラシステムにおいてフィールド単位でアドレス変換処理を行った場合のイメージ図である。 図13は、本発明の第3実施形態の車載映像表示用カメラシステムにおける処理の流れを示すフローチャートである。 図14は、本発明の第3実施形態の車載映像表示用カメラシステムにおいてフィールド単位でアドレス変換処理を行った場合のイメージ図である。 図15は、本発明の第4実施形態の車載映像表示用カメラシステムにおける処理の流れを示すフローチャートである。
符号の説明
201…自車両
202a,202b…他車両
203a,203b…左右方向撮像範囲
204a、204b…左右方向撮像画像
205…仕切り線画像
206a,206b…他車両の画像
207…モニタ
301…自車両
302a,302b…後方カメラ
303a,303b…後方左右撮像範囲
304…モニタ
305a、305b…後方左右撮像画像
100…車載映像表示用カメラシステム
110a,110b…NTSCカメラ
120…カメラコントローラ
130…データバス
140…CPU
150a,150b…入力バッファ
160…パターンメモリ
161…奇数フィールド対応出力バッファ書き込みアドレス領域
162…奇数フィールド対応入力バッファ読み出しアドレス領域
163…奇数フィールド対応入力カメラ番号領域
164…偶数フィールド対応出力バッファ書き込みアドレス領域
165…偶数フィールド対応入力バッファ読み出しアドレス領域
166…偶数フィールド対応入力カメラ番号領域
170…出力バッファ
180…表示モニタ

Claims (9)

  1. 各々所望の情景を撮影し、相互に非同期な所定のインターレス映像信号を出力する複数の撮影手段と、
    前記複数の撮影手段から各々入力されるインターレス映像信号をフィールド単位に一時的に記憶する入力バッファと、
    前記入力バッファに記憶された前記複数の撮像手段から各々入力された前記複数の映像信号を用いて、前記複数の撮影手段の各々で前記撮影された映像を含む出力対象の映像の映像信号をフィールド単位に生成する手段であって、前記複数の撮影手段の全てから前記フィールド単位の映像信号が前記入力バッファに入力されて記憶された時に、当該入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号を用いて、前記出力対象の映像の映像信号を生成する出力映像生成手段と
    を有することを特徴とする映像信号処理装置。
  2. 前記入力バッファは、
    前記撮影手段ごとに、各々が1フィールド分の映像信号を記憶可能な3つの記憶部を有し、
    当該3つの記憶部を、対応する前記撮影手段から順次入力される映像信号の記憶対象としての第1の記憶部、前記映像信号が記憶された状態で待機する第2の記憶部、及び、前記出力映像生成手段による読み出し対象としての第3の記憶部に順次設定する
    ことを特徴とする請求項1に記載の映像信号処理装置。
  3. 前記生成された出力対象の映像の映像信号をフィールド単位に記憶する出力バッファと、
    前記出力対象の映像信号を構成する所定の単位ごとのデータの、前記出力バッファにおける記憶アドレスと前記入力バッファにおけるアドレスとの対応関係を記録したアドレステーブルとをさらに有し、
    前記出力映像生成手段は、前記入力バッファに記憶された前記複数の撮影手段に対応する前記複数の映像信号を、前記出力アドレステーブルに基づいて、前記出力バッファの所定の位置に転送することにより前記出力対象の映像信号を生成する
    ことを特徴とする請求項1又は2に記載の映像信号処理装置。
  4. 前記出力映像生成手段は、前記入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号が、奇数フィールドの映像信号か偶数フィールドの映像信号かに応じて、前記出力対象の映像信号の生成方法を変更することを特徴とする請求項1〜3のいずれかに記載の映像信号処理装置。
  5. 前記出力映像生成手段は、生成する映像信号が前記出力対象の映像信号の奇数フィールドの映像信号である場合であって、出力対象の映像の生成のために使用する前記入力バッファに記憶されている任意の前記撮影手段に対応する映像信号が偶数フィールドの映像信号である場合には、当該偶数フィールドの映像を1ライン上にずらした映像を用いて前記出力対象の映像を生成する
    ことを特徴とする請求項4に記載の映像信号処理装置。
  6. 前記出力映像生成手段は、生成する映像信号が前記出力対象の映像信号の奇数フィールドの映像信号である場合であって、出力対象の映像の生成のために使用する前記入力バッファに記憶されている任意の前記撮影手段に対応する映像信号が奇数フィールドの映像信号である場合には、当該奇数フィールドの映像を1ライン下にずらした映像を用いて前記出力対象の映像を生成する
    ことを特徴とする請求項4に記載の映像信号処理装置。
  7. 前記出力映像生成手段は、前記入力バッファに記憶されている前記撮影手段ごとの最新の映像信号が、各々奇数フィールドの映像信号であるか偶数フィールドの映像信号であるかを判別し、
    前記複数の撮影手段に対応する映像信号の中で、奇数フィールドの映像信号の方が偶数フィールドの映像信号よりも多い場合には、前記出力対象の映像信号を奇数フィールドの映像信号から生成し、
    前記複数の撮影手段に対応する映像信号の中で、偶数フィールドの映像信号の方が奇数フィールドの映像信号よりも多い場合には、前記出力対象の映像信号を偶数フィールドの映像信号から生成する
    ことを特徴とする請求項1〜6のいずれかに記載の映像信号処理装置。
  8. 複数の撮影手段から各々入力される相互に非同期な複数の所定のインターレス映像信号をフィールド単位に一時的に入力バッファに記憶し、
    前記複数の撮影手段の全てから前記映像信号が前記入力バッファに入力されて記憶された時に、当該入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号を用いて、出力対象の映像の映像信号を生成する
    ことを特徴とする映像信号処理方法。
  9. 各々が車両周囲の所定の領域の情景を撮影し、相互に非同期な所定のインターレス映像信号を出力する複数の撮影手段と、
    前記複数の撮影手段の各々から入力されるインターレス映像信号をフィールド単位に一時的に記憶する入力バッファと、
    前記入力バッファに記憶された前記複数の撮像手段から各々入力された前記複数の映像信号を用いて、前記複数の撮影手段の各々で前記撮影された映像を含む出力対象の映像の映像信号をフィールド単位に生成する手段であって、前記複数の撮影手段の全てから前記フィールド単位の映像信号が前記入力バッファに入力されて記憶された時に、当該入力バッファに記憶されている前記複数の撮影手段ごとの最新の前記フィールド単位の映像信号を用いて、前記出力対象の映像の映像信号を生成する出力映像生成手段と、
    前記生成された出力対象の映像の映像信号をフィールド単位で記憶する出力バッファと、
    前記出力バッファに記憶される映像信号を当該車両の運転者が視覚的に認識可能に表示する表示手段と
    を有する車載カメラシステム。
JP2004373195A 2004-12-24 2004-12-24 映像信号処理装置とその方法及び車載カメラシステム Expired - Fee Related JP4561353B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004373195A JP4561353B2 (ja) 2004-12-24 2004-12-24 映像信号処理装置とその方法及び車載カメラシステム
US11/313,641 US7986371B2 (en) 2004-12-24 2005-12-22 Video signal processing device, method of the same and vehicle-mounted camera system
CNB2005101326269A CN100420280C (zh) 2004-12-24 2005-12-23 视频信号处理装置及其方法、以及车载摄像机系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004373195A JP4561353B2 (ja) 2004-12-24 2004-12-24 映像信号処理装置とその方法及び車載カメラシステム

Publications (2)

Publication Number Publication Date
JP2006180340A true JP2006180340A (ja) 2006-07-06
JP4561353B2 JP4561353B2 (ja) 2010-10-13

Family

ID=36610973

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004373195A Expired - Fee Related JP4561353B2 (ja) 2004-12-24 2004-12-24 映像信号処理装置とその方法及び車載カメラシステム

Country Status (3)

Country Link
US (1) US7986371B2 (ja)
JP (1) JP4561353B2 (ja)
CN (1) CN100420280C (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008102764A1 (ja) * 2007-02-23 2008-08-28 Toyota Jidosha Kabushiki Kaisha 車両用周辺監視装置及び車両用周辺監視方法
JP2015165628A (ja) * 2014-03-03 2015-09-17 Smk株式会社 画像処理システム
JP2017050818A (ja) * 2015-09-04 2017-03-09 株式会社ソシオネクスト 画像処理方法および画像処理プログラム
WO2022137324A1 (ja) * 2020-12-22 2022-06-30 日本電信電話株式会社 映像信号を合成する装置、方法及びプログラム

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8934011B1 (en) * 2005-01-28 2015-01-13 Vidal Soler Vehicle reserve security system
FR2891934B1 (fr) * 2005-10-12 2008-01-18 Valeo Electronique Sys Liaison Dispositif de traitement de donnees video pour un vehicule automobile
JP4923647B2 (ja) * 2006-03-17 2012-04-25 株式会社デンソー 運転支援画像表示装置及びプログラム
JP4830652B2 (ja) * 2006-06-12 2011-12-07 日産自動車株式会社 画像処理装置及び画像処理方法
JP4595976B2 (ja) * 2007-08-28 2010-12-08 株式会社デンソー 映像処理装置及びカメラ
JP5102795B2 (ja) * 2009-03-13 2012-12-19 パナソニック株式会社 運転支援表示装置
JP5923847B2 (ja) * 2010-03-31 2016-05-25 ソニー株式会社 カメラシステム、信号遅延量調整方法及びプログラム
DE102010051205A1 (de) 2010-11-12 2012-05-16 Valeo Schalter Und Sensoren Gmbh Verfahren zum Anzeigen von Bildern auf einer Anzeigeeinrichtung, Kamerasystem und Kraftfahrzeug mit einem Kamerasystem
DE102010055156A1 (de) 2010-12-18 2012-06-21 Connaught Electronics Ltd. Multikamerasystem für ein Kraftfahrzeug, Kraftfahrzeug und Verfahren zum Betreiben eines Multikamerasystems in einem Kraftfahrzeug
DE102010055583B4 (de) 2010-12-21 2022-12-08 Connaught Electronics Ltd. Kraftfahrzeug mit einer Kamera und Verfahren zum Betreiben eines Kamerasystems in einem Kraftfahrzeug
CN103392335B (zh) 2011-02-25 2017-06-13 福通尼斯荷兰公司 实时获取和显示图像的设备及方法
DE102011121616A1 (de) * 2011-12-20 2013-06-20 Audi Ag Verfahren zur Ansteuerung einerAnzeigeeinrichtung eines Kraftfahrzeugs
JP5849724B2 (ja) * 2012-01-25 2016-02-03 富士通株式会社 映像取得装置及び方法
DE102015110952A1 (de) * 2015-07-07 2017-01-12 Valeo Schalter Und Sensoren Gmbh Verfahren zum Bestimmen zumindest einer reifenspezifischen Kenngröße, Fahrerassistenzsystem sowie Kraftfahrzeug
US10173644B1 (en) 2016-02-03 2019-01-08 Vidal M. Soler Activation method and system for the timed activation of a vehicle camera system
DE102017205630A1 (de) 2017-04-03 2018-10-04 Conti Temic Microelectronic Gmbh Kameravorrichtung und Verfahren zur Erfassung eines Umgebungsbereichs eines Fahrzeugs
JP7135378B2 (ja) * 2018-03-29 2022-09-13 株式会社アイシン 周辺監視装置
CN117499601B (zh) * 2024-01-02 2024-04-05 上海励驰半导体有限公司 用于SoC的调用多摄像头数据的方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11317908A (ja) * 1998-03-02 1999-11-16 Matsushita Electric Ind Co Ltd 映像切換装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0983893A (ja) * 1995-09-08 1997-03-28 Matsushita Electric Ind Co Ltd テレビジョン受像機
JP3684525B2 (ja) * 1998-02-19 2005-08-17 富士通株式会社 多画面合成方法及び多画面合成装置
JP3511892B2 (ja) * 1998-05-25 2004-03-29 日産自動車株式会社 車両用周囲モニタ装置
JP3307335B2 (ja) * 1998-07-22 2002-07-24 日本電気株式会社 車両領域検出装置及び車両領域検定方法
US6642840B2 (en) * 2000-07-28 2003-11-04 Lang-Mekra North Amicica, Llc Rearview mirror assembly with monitor
JP2003189168A (ja) * 2001-12-21 2003-07-04 Nec Corp 携帯電話用カメラ
ATE386951T1 (de) * 2002-08-05 2008-03-15 Elbit Systems Ltd Nachtsichtabbildungssystem und -verfahren zur montage in einem fahrzeug
JP4391477B2 (ja) * 2003-09-11 2009-12-24 富士通株式会社 画像伝送装置及び画像伝送システム
US7868913B2 (en) * 2003-10-10 2011-01-11 Nissan Motor Co., Ltd. Apparatus for converting images of vehicle surroundings
JP4556502B2 (ja) * 2004-06-08 2010-10-06 日産自動車株式会社 映像変換装置
US20060256122A1 (en) * 2005-05-13 2006-11-16 Rai Barinder S Method and apparatus for streaming data from multiple devices over a single data bus

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11317908A (ja) * 1998-03-02 1999-11-16 Matsushita Electric Ind Co Ltd 映像切換装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008102764A1 (ja) * 2007-02-23 2008-08-28 Toyota Jidosha Kabushiki Kaisha 車両用周辺監視装置及び車両用周辺監視方法
JP2008211373A (ja) * 2007-02-23 2008-09-11 Toyota Motor Corp 車両用周辺監視装置及び車両用周辺監視方法
JP2015165628A (ja) * 2014-03-03 2015-09-17 Smk株式会社 画像処理システム
DE112014006438B4 (de) 2014-03-03 2022-03-03 Smk Corporation Bildverarbeitungssystem
JP2017050818A (ja) * 2015-09-04 2017-03-09 株式会社ソシオネクスト 画像処理方法および画像処理プログラム
WO2022137324A1 (ja) * 2020-12-22 2022-06-30 日本電信電話株式会社 映像信号を合成する装置、方法及びプログラム

Also Published As

Publication number Publication date
CN100420280C (zh) 2008-09-17
US7986371B2 (en) 2011-07-26
CN1794792A (zh) 2006-06-28
US20060139488A1 (en) 2006-06-29
JP4561353B2 (ja) 2010-10-13

Similar Documents

Publication Publication Date Title
JP4561353B2 (ja) 映像信号処理装置とその方法及び車載カメラシステム
JP2846830B2 (ja) 2次元映像を3次元映像に変換する方法
US7477307B2 (en) Image conversion device
JP3801242B2 (ja) 縮小画像表示装置
JP5091643B2 (ja) 画像処理装置、運転支援システム及び車両
JP2000330536A (ja) 液晶マルチディスプレイ表示装置
JP3685668B2 (ja) マルチスクリーン用画面合成装置
JP2020135206A (ja) 画像処理装置、車載用カメラシステム及び画像処理方法
JPH05143894A (ja) 自動車用モニタの制御方法
US20050078185A1 (en) Apparatus for converting images of vehicle surroundings
JP2010204262A (ja) 表示処理装置
JP4655473B2 (ja) 車両周囲画像変換装置
JP2005045338A (ja) 車載用三次元表示用モニタシステム
PL180758B1 (pl) Urządzenie do wyświetlania obrazów
WO2019155566A1 (ja) 画像処理装置、画像処理方法及び画像表示システム
JPH11146272A (ja) フィールドメモリを用いた拡大画像信号作成方法
JP2005275242A (ja) 映像キャプチャ回路及び映像キャプチャ方法
JP2005117554A (ja) 車両周囲画像変換装置
JP4423416B2 (ja) 映像合成処理システム
JP3295036B2 (ja) 多画面表示装置
JP4677799B2 (ja) 画像処理装置及び画像処理方法
JP2737557B2 (ja) 2画面表示テレビジョン受信機及び2画面処理回路
JP2000125284A (ja) 監視カメラシステム
JP4423315B2 (ja) 3次元コンピュータ画像を用いたテロップを送出して表示させるための装置とその方法
JP2009109894A (ja) 表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100604

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100706

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100719

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130806

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees