JP2002140696A - Image pickup and image conversion device - Google Patents

Image pickup and image conversion device

Info

Publication number
JP2002140696A
JP2002140696A JP2000336844A JP2000336844A JP2002140696A JP 2002140696 A JP2002140696 A JP 2002140696A JP 2000336844 A JP2000336844 A JP 2000336844A JP 2000336844 A JP2000336844 A JP 2000336844A JP 2002140696 A JP2002140696 A JP 2002140696A
Authority
JP
Japan
Prior art keywords
image
imaging
unit
converted
bird
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000336844A
Other languages
Japanese (ja)
Inventor
Akihiro Watanabe
章弘 渡邉
Arata Takahashi
新 高橋
Yoshiki Ninomiya
芳樹 二宮
Michihiko Ota
充彦 太田
Hisashi Satonaka
久志 里中
Makoto Nishida
誠 西田
Toshiaki Kakinami
俊明 柿並
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Toyota Central R&D Labs Inc
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Toyota Motor Corp
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Toyota Motor Corp, Toyota Central R&D Labs Inc filed Critical Aisin Seiki Co Ltd
Priority to JP2000336844A priority Critical patent/JP2002140696A/en
Publication of JP2002140696A publication Critical patent/JP2002140696A/en
Pending legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To automatically detect the variation of a camera pitch angle from picked-up lane marks and automatically adjust a converted image. SOLUTION: The image pickup and image conversion device loaded in a vehicle and fixed on a point C of height (h) and capable of picking up the image of a road surface on the back of the vehicle from a camera and converting the picked up image into a bird's-eye image detects lane marks to be parallel lines and judges whether the lane marks are parallel lines or not. When the lane marks are not parallel lines, the variation dP of the camera pitch angle Pc is obtained from width Wi1 on a position most close to the vehicle in the bird's eye image, width Wi2 on a position most far from the vehicle and an angle P in the vertical direction of the camera in an area to be converted into the bird's-eye image and Pc+dP is substituted for the camera pitch angle to prepare a bird's-eye image again.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、撮像手段により撮
像された撮像画像を、画像変換手段により変換画像に変
換して出力する撮像及び画像変換装置に関する。具体的
には、路面等を斜めに撮像することにより得られる撮像
画像を、例えば画像認識装置に出力する前に、上方から
撮像して得られる平面図に変換するものが挙げられる。
本発明は、特に車両等の運転、船舶及び航空機等の操
縦、外部監視において、運転者等に上方からの平面図
(鳥瞰図)を提供する撮像及び画像変換装置に特に有効
である。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image pickup and image conversion apparatus for converting an image picked up by an image pickup means into a converted image by an image conversion means and outputting the converted image. Specifically, there is a method in which a captured image obtained by obliquely imaging a road surface or the like is converted into a plan view obtained by imaging from above before being output to, for example, an image recognition device.
INDUSTRIAL APPLICABILITY The present invention is particularly effective for an imaging and image conversion apparatus that provides a top view (bird's eye view) to a driver or the like in driving a vehicle or the like, maneuvering a ship or an aircraft, or external monitoring.

【0002】[0002]

【従来の技術】例えば車両の運転者に、前方又は後方の
路面及び道路状況を撮像して上方からの平面図(鳥瞰
図)を提供する撮像及び画像変換装置として、特許29
46727号公報、特開平7−218280号公報が知
られている。これらは、予め設計通りに撮像装置を撮像
方向を含めて固定し、パラメータを入力しておくもので
ある。
2. Description of the Related Art For example, as an image pickup and image conversion apparatus for picking up an image of a road surface and a road condition ahead or behind to provide a top view (bird's eye view) to a driver of a vehicle, see Japanese Patent Application Laid-Open Publication No. HEI 9-29139.
No. 46727 and JP-A-7-218280 are known. These are to fix the imaging device including the imaging direction in advance as designed, and to input parameters.

【0003】[0003]

【発明が解決しようとする課題】ところで、例えば乗用
車のように、乗車人数、荷物量によって、車体が沈み込
んだり、傾いたりすることにより、撮像装置の位置及び
撮像方向が、設計された或いは入力されたパラメータと
異なってしまう場合は頻繁に起こり得る。すると、例え
ば完全に平行なレーンマークを有する路面を走行中に、
その上方からの平面図(鳥瞰図)を撮像及び画像変換装
置から得ようとしても歪みが生じてしまう。
By the way, when the vehicle body sinks or leans depending on the number of passengers and the amount of luggage, for example, like a passenger car, the position and the imaging direction of the imaging device are designed or input. It often happens that the parameters differ from the parameters set. Then, for example, while traveling on a road surface with completely parallel lane marks,
Even if a plan view (bird's eye view) from above is obtained from the imaging and image conversion device, distortion occurs.

【0004】これを図8に示す。図8の(a)のよう
に、車両Mに設けられたカメラCのピッチ角Pc(カメ
ラCのレンズ中心を通る鉛直線とカメラの撮像方向の成
す角)がαであるときに、その撮像画像(図8の
(b))が、正しい変換画像(図8の(c))となるよ
う処理装置が構成されているとする。即ち、路面上の平
行線(太い線分及び破線)を撮像した場合に、変換画像
は平行線となるように調整されているとする。この時、
カメラのピッチ角がα+dα(dα>0)と大きくなっ
たり、α−dα(dα>0)と小さくなった場合、その
撮像画像が、図8の(d)(水平線Hが撮像画像中、低
い位置になる)、(e)(水平線Hが撮像画像中、高い
位置になる)のようになる。すると、画像変換の方法
が、例えば図8の(b)、(d)、(e)の点線で囲ま
れた領域を図8の(c)、(f)、(g)の画面の枠に
変換することになっているので、図8の(d)、(e)
の変換画像が図8の(f)、(g)のようになってしま
う。即ち、車両の傾きによって変換画像が正しい上方か
らの平面図(鳥瞰図)とならず、画像認識装置に出力し
ても正しい情報が運転者に指示されないという問題があ
った。
This is shown in FIG. As shown in FIG. 8A, when the pitch angle Pc of the camera C provided in the vehicle M (the angle between the vertical line passing through the lens center of the camera C and the imaging direction of the camera) is α, the imaging is performed. It is assumed that the processing device is configured so that the image (FIG. 8B) is a correct converted image (FIG. 8C). That is, it is assumed that, when parallel lines (thick line segments and broken lines) on the road surface are captured, the converted image is adjusted to be parallel lines. At this time,
When the pitch angle of the camera becomes large as α + dα (dα> 0) or becomes small as α−dα (dα> 0), the captured image is low in FIG. Position) and (e) (the horizontal line H is at a higher position in the captured image). Then, the image conversion method changes the area surrounded by the dotted line in (b), (d), and (e) of FIG. 8 into the screen frame of (c), (f), and (g) in FIG. Since conversion is to be performed, (d) and (e) of FIG.
Will be as shown in FIGS. 8F and 8G. That is, there is a problem that the converted image does not become a correct plan view (bird's eye view) from above due to the inclination of the vehicle, and correct information is not instructed to the driver even when the converted image is output to the image recognition device.

【0005】本発明は上記の課題を解決するために成さ
れたものであり、その目的は、撮像装置の撮像方向を自
動補正して補正された変換画像を出力するよう構成した
撮像及び画像変換装置を提供することである。
SUMMARY OF THE INVENTION The present invention has been made to solve the above-mentioned problems, and an object of the present invention is to provide an image pickup and image conversion apparatus configured to automatically correct the image pickup direction of an image pickup apparatus and output a corrected image. It is to provide a device.

【0006】[0006]

【課題を解決するための手段】上記の課題を解決するた
め請求項1に記載の手段によれば、撮像手段と、その撮
像手段の撮像画像を変換して変換画像を出力する画像変
換手段と、撮像画像を分析する画像分析手段とを有する
撮像及び画像変換装置において、画像分析手段の分析結
果を基に画像変換手段の有する撮像手段の撮像方向パラ
メータを補正して、補正された変換画像を出力させるよ
う構成したことを特徴とする。これを図1(a)にブロ
ック図として示す。尚、撮像方向パラメータとしては、
撮像手段の位置(カメラ高さ等)、撮像中心方向と撮像
手段から鉛直下向きに下ろした直線との成す角(ピッチ
角)、それらのなす平面と設定されている設定撮像中心
方向との成す角(横ブレ角)、及び撮像中心方向を軸と
する撮像手段のねじれ角である。
According to a first aspect of the present invention, there is provided an image capturing apparatus comprising: an image capturing unit configured to convert an image captured by the image capturing unit and output a converted image; In an imaging and image conversion apparatus having an image analysis means for analyzing a captured image, an imaging direction parameter of the imaging means of the image conversion means is corrected based on an analysis result of the image analysis means, and the corrected converted image is output. It is configured to output. This is shown as a block diagram in FIG. Incidentally, as the imaging direction parameter,
The position of the imaging means (camera height, etc.), the angle (pitch angle) between the imaging center direction and a straight line vertically lowered from the imaging means, and the angle between the plane formed by them and the set imaging center direction set (Horizontal blur angle) and the torsion angle of the image pickup means with the image pickup center direction as an axis.

【0007】また、請求項2に記載の手段によれば、撮
像手段と、その撮像手段の撮像画像を変換して変換画像
を出力する画像変換手段と、その画像変換手段の出力す
る変換画像を分析する画像分析手段とを有する撮像及び
画像変換装置において、画像分析手段の分析結果を基に
画像変換手段の有する撮像手段の撮像方向パラメータを
補正して、補正された変換画像を出力させるよう構成し
たことを特徴とする。これを図1(b)にブロック図と
して示す。尚、撮像方向パラメータとしては、撮像手段
の位置(カメラ高さ等)、撮像中心方向と撮像手段から
鉛直下向きに下ろした直線との成す角(ピッチ角)、そ
れらのなす平面と設定されている設定撮像中心方向との
成す角(横ブレ角)、及び撮像中心方向を軸とする撮像
手段のねじれ角である。
According to a second aspect of the present invention, there is provided an image pickup means, an image conversion means for converting an image picked up by the image pickup means and outputting a converted image, and a conversion image output from the image conversion means. An image capturing and image converting apparatus having an image analyzing means for analyzing, wherein an image capturing direction parameter of the image capturing means included in the image converting means is corrected based on an analysis result of the image analyzing means, and a corrected converted image is output. It is characterized by having done. This is shown as a block diagram in FIG. The imaging direction parameter is set to the position of the imaging means (camera height or the like), the angle (pitch angle) between the imaging center direction and a straight line vertically lowered from the imaging means, and the plane formed by them. The angle (horizontal shake angle) with the set imaging center direction, and the torsion angle of the imaging unit with the imaging center direction as an axis.

【0008】また、請求項3に記載の手段によれば、請
求項1又は請求項2に記載の撮像及び画像変換装置にお
いて、撮像手段は車両に取り付けられ、主として路面を
撮像することを特徴とする。尚、路面とはいわゆる道路
に限定されず、車両が移動する全ての領域を意味する。
即ち駐車領域を含む。
According to a third aspect of the present invention, in the image capturing and image converting apparatus according to the first or second aspect, the image capturing means is attached to a vehicle and mainly captures an image of a road surface. I do. It should be noted that the road surface is not limited to a so-called road, but means all areas where the vehicle moves.
That is, it includes the parking area.

【0009】また、請求項4に記載の手段によれば、画
像分析手段は、路面上の平行線又は既知図形を推定及び
抽出し、該平行線又は既知図形の撮像画像又は変換画像
を分析することにより撮像方向パラメータの補正量を決
定することを特徴とする。ここで路面状の平行線とは、
例えば路肩、レーンマーク、駐車領域区分線等を言い、
既知図形とは例えば円形のマンホール、停止線及び進行
方向その他の路面標示等を言う。
According to a fourth aspect of the present invention, the image analysis means estimates and extracts a parallel line or a known figure on a road surface, and analyzes a captured image or a converted image of the parallel line or the known figure. Thus, the correction amount of the imaging direction parameter is determined. Here, the road surface parallel line is
For example, road shoulder, lane mark, parking area dividing line etc.
The known figure means, for example, a circular manhole, a stop line, a traveling direction, and other road markings.

【0010】また、請求項5に記載の手段によれば、画
像分析手段は、車両の速度測定手段と連動することによ
り、路面上のオプティカルフローの撮像画像又は変換画
像を分析することにより撮像方向パラメータの補正量を
決定することを特徴とする。ここでオプティカルフロー
とは、例えば路面に形成された破線状のレーンマークの
ように、撮像画像又は変換画像上を移動するものとして
画像分析手段に認識されるものを言う。
According to a fifth aspect of the present invention, the image analyzing means analyzes the captured image or the converted image of the optical flow on the road surface by interlocking with the speed measuring means of the vehicle to obtain the image capturing direction. It is characterized in that a parameter correction amount is determined. Here, the optical flow refers to a flow recognized by the image analysis unit as moving on the captured image or the converted image, such as a dashed lane mark formed on the road surface.

【0011】また、請求項6に記載の手段によれば、撮
像手段を、所定距離を有して2個以上配設し、画像分析
手段は、それら複数の撮像手段の撮像画像又は前記画像
変換手段による変換画像を分析することにより撮像方向
パラメータの補正量を決定することを特徴とする。
Further, according to the present invention, two or more image pickup means are provided at a predetermined distance, and the image analysis means is provided with the image picked up by the plurality of image pickup means or the image conversion. The correction amount of the imaging direction parameter is determined by analyzing the converted image by the means.

【0012】また、請求項7に記載の手段によれば、撮
像手段には、撮像手段の方向を検知する姿勢検知手段が
配設されており、該姿勢検知手段の検知する車両に対す
る撮像手段の方向パラメータを併用して撮像方向パラメ
ータの補正量を決定することを特徴とする。ここで姿勢
検知手段とはジャイロ、加速度検知器と演算器との組み
合わせその他を言う。
Further, according to the present invention, the image pickup means is provided with a posture detecting means for detecting a direction of the image pickup means, and the image pickup means is provided with respect to the vehicle detected by the posture detecting means. The correction amount of the imaging direction parameter is determined using the direction parameter together. Here, the attitude detecting means means a gyro, a combination of an acceleration detector and an arithmetic unit, and the like.

【0013】[0013]

【作用及び発明の効果】撮像手段が設定通りの撮像方向
を向いていない場合においても、本願の請求項1又は請
求項2の手段により、撮像画像又は変換画像を分析する
ことにより撮像手段の撮像方向の設定値とのずれを求め
ることができる。よって、撮像手段自体を調整すること
なく、画像変換手段における撮像方向パラメータを補正
することにより、補正された変換画像を得ることができ
る。よって、撮像手段の固定の際においても、微調整が
不要となる。このような撮像及び画像変換装置として
は、例えば路面等を斜めに撮像した後、上方からの平面
図(鳥瞰図)を形成する撮像及び画像変換装置に特に有
効である。これにより、例えば画像認識装置と連動させ
て、より的確な周辺状況の認識を行い、運転者、監視者
等に周辺状況情報を与えることができる。
According to the first and second aspects of the present invention, even when the imaging means is not oriented in the imaging direction as set, the imaging means or the converted image is analyzed to analyze the captured image or the converted image. The deviation from the set value of the direction can be obtained. Therefore, a corrected converted image can be obtained by correcting the imaging direction parameter in the image conversion unit without adjusting the imaging unit itself. Therefore, fine adjustment is not required even when the imaging unit is fixed. Such an imaging and image conversion apparatus is particularly effective for an imaging and image conversion apparatus that forms a plan view (bird's eye view) from above after, for example, obliquely imaging a road surface or the like. Thereby, for example, in conjunction with the image recognition device, more accurate recognition of the surrounding situation can be performed, and the surrounding situation information can be given to the driver, the monitor, and the like.

【0014】撮像手段が車両に取り付けられ、路面の撮
像画像或いは変換画像を分析するならば、容易に撮像方
向パラメータの補正量を決定できる(請求項3)。特に
路面上の平行線、既知図形、オプティカルフローの分析
によれば、容易且つ確実である(請求項4、5)。撮像
手段を複数設ければステレオ画像から撮像方向を確実に
決定でき、その補正も容易である(請求項6)。これら
に加え、撮像手段自体の姿勢検知手段を有していれば、
補正は更に容易となる(請求項7)。
If the imaging means is mounted on the vehicle and analyzes the captured image of the road surface or the converted image, the correction amount of the imaging direction parameter can be easily determined. In particular, according to the analysis of parallel lines, known figures, and optical flows on the road surface, it is easy and reliable (claims 4 and 5). If a plurality of image pickup means are provided, the image pickup direction can be reliably determined from the stereo image, and the correction thereof is easy (claim 6). In addition to these, if it has the attitude detection means of the imaging means itself,
Correction becomes easier (claim 7).

【0015】本発明の請求項1と請求項2とを組み合わ
せることも本発明に包含される。即ち、撮像画像を分析
する第1の画像分析手段と、変換画像を分析する第1の
画像分析手段とを有し、第1の画像分析手段の分析結果
を基に1又は複数の撮像方向パラメータを補正し、第2
の画像分析手段の分析結果を基に1又は複数の撮像方向
パラメータを補正するものである。撮像画像の分析によ
り補正量の決定容易な1又は複数の撮像方向パラメータ
と、変換画像の分析により補正量の決定容易な1又は複
数の撮像方向パラメータとをそれぞれ第1の画像分析手
段、第2の画像分析手段とにより求めるものである。こ
れにより、容易に補正量の決定が行える。
The present invention also includes a combination of the first and second aspects of the present invention. That is, the image processing apparatus includes first image analysis means for analyzing a captured image, and first image analysis means for analyzing a converted image, and one or more imaging direction parameters based on the analysis result of the first image analysis means. And the second
And correcting one or more imaging direction parameters based on the analysis result of the image analysis means. One or a plurality of imaging direction parameters for which the correction amount is easy to determine by analyzing the captured image and one or a plurality of imaging direction parameters for which the correction amount is easy to determine by analyzing the converted image, respectively, by the first image analysis means and the second image analysis means. And image analysis means. Thereby, the correction amount can be easily determined.

【0016】また、本発明の請求項4乃至請求項7を組
み合わせることも本発明に包含される。例えば、カメラ
高さのみの変動のような、実質的に変換画像の縮尺のみ
の変動しか起こさないものについて、請求項5の手段に
より車両速度との関係から補正量を求め、その他の撮像
方向パラメータを請求項4により補正するものである。
また、例えば、請求項7の姿勢検知手段としてジャイロ
を撮像手段に組み込み、ねじれ角のような画像分析から
は困難な撮像方向パラメータを補正可能とし、その他の
撮像方向パラメータを請求項4又は請求項5により補正
するものである。この他請求項4乃至請求項7のいずれ
の組み合わせも本発明に包含される。
The present invention also includes a combination of claims 4 to 7 of the present invention. For example, for an image that only substantially fluctuates on the scale of the converted image, such as a fluctuation only in the camera height, a correction amount is obtained from the relationship with the vehicle speed by means of claim 5, and other imaging direction parameters are obtained. Is corrected according to claim 4.
Further, for example, a gyro is incorporated in the image pickup means as the posture detecting means of claim 7 so that an image pickup direction parameter such as a torsion angle, which is difficult from image analysis, can be corrected, and other image pickup direction parameters can be corrected. 5 for correction. In addition, any combination of claims 4 to 7 is included in the present invention.

【0017】[0017]

【発明の実施の形態】以下、本発明の具体的な実施例に
ついて説明する。下記実施例はピッチ角の補正をはじめ
とする具体例であるが、本願発明の他の構成について
も、下記実施例に習って容易に構成できる。
DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, specific embodiments of the present invention will be described. The following embodiment is a specific example including correction of a pitch angle, but other configurations of the present invention can be easily configured by learning the following embodiment.

【0018】〔第1実施例〕図2は、本発明の具体的な
第1の実施例に係る撮像及び画像変換装置10の構成を
示すブロック図である。図8の(a)のように車両Mに
搭載され、車両後方を撮像するカメラCを想定する。図
2のカメラ(撮像手段)1により撮像された画像が視点
変換部(画像変換手段)2に入力される。ここでは、初
期設定値である撮像方向パラメータを基に鳥瞰画像に変
換する。ここで、鳥瞰画像が画像分析手段3に出力され
る。画像分析手段3は、レーンマーク検出部31とパラ
メータ補正量算出部32とから成る。レーンマーク検出
部31においては、平行な白色線として標示されるべき
レーンマークを検出する。ここで、レーンマークが画像
中、垂直な平行線群とならず、傾きが生じている場合も
あり得る。次にパラメータ補正量算出部32において、
レーンマークに傾きが生じている場合にカメラ1のピッ
チ角Pcの補正量dPを算出して視点変換部2に出力す
る。視点変換部2はカメラ1のピッチ角Pcの補正量d
Pを基に再度画像変換を行う。こうして、鳥瞰画像中の
平行な白色線として標示されるべきレーンマークの傾き
が無くなるまでルーチンが繰り返され、正しい鳥瞰画像
となった後、出力される。
[First Embodiment] FIG. 2 is a block diagram showing the configuration of an image pickup and image conversion apparatus 10 according to a first embodiment of the present invention. It is assumed that a camera C is mounted on a vehicle M as shown in FIG. An image captured by the camera (imaging unit) 1 in FIG. 2 is input to a viewpoint conversion unit (image conversion unit) 2. Here, the image is converted into a bird's-eye view image based on the imaging direction parameter which is an initial setting value. Here, the bird's-eye view image is output to the image analysis unit 3. The image analysis unit 3 includes a lane mark detection unit 31 and a parameter correction amount calculation unit 32. The lane mark detector 31 detects a lane mark to be marked as a parallel white line. Here, the lane mark may not be a vertical parallel line group in the image, but may be inclined. Next, in the parameter correction amount calculation unit 32,
When the lane mark is inclined, the correction amount dP of the pitch angle Pc of the camera 1 is calculated and output to the viewpoint conversion unit 2. The viewpoint conversion unit 2 calculates the correction amount d of the pitch angle Pc of the camera 1
Image conversion is performed again based on P. In this way, the routine is repeated until the inclination of the lane mark, which should be marked as a parallel white line in the bird's-eye image, disappears.

【0019】本実施例の撮像及び画像変換装置10が全
体として行う手順をフローチャートとして図3に示す。
S1、S2などとある「S」はフローチャートにおける
ステップを意味する。まずS1で、カメラ1の撮像した
画像を取り込む。次にS2で、撮像方向パラメータを用
いて視点変換を行う。ここまでが視点変換部2の作用で
ある。次に、S3で、鳥瞰画像から2本のレーンマーク
を検出する。次にS4で、レーンマークの2箇所の幅W
i1、Wi2を算出する。次にS5で幅Wi1、Wi2の差を求
める。Wi1=Wi2ならばS6に進み、鳥瞰画像を出力す
る。Wi1≠Wi2ならば、レーンマークの傾きがあるの
で、S7に進み、ピッチ角Pcの補正量dPを算出して
S8に進み、撮像方向パラメータのピッチ角PcをPc
+dPと置き替えてS2に戻る。
FIG. 3 is a flowchart showing a procedure performed by the imaging and image conversion apparatus 10 according to the present embodiment as a whole.
"S", such as S1, S2, etc., means a step in the flowchart. First, in S1, an image captured by the camera 1 is captured. Next, in S2, viewpoint conversion is performed using the imaging direction parameter. This is the operation of the viewpoint conversion unit 2. Next, in S3, two lane marks are detected from the bird's-eye view image. Next, in S4, the width W of the two lane marks is determined.
i1 and Wi2 are calculated. Next, the difference between the widths Wi1 and Wi2 is determined in S5. If Wi1 = Wi2 , the process proceeds to S6, where a bird's-eye image is output. If W i1 ≠ W i2 , there is an inclination of the lane mark, so the process proceeds to S7, where the correction amount dP of the pitch angle Pc is calculated, and the process proceeds to S8, where the pitch angle Pc of the imaging direction parameter is set to Pc.
Replace with + dP and return to S2.

【0020】鳥瞰画像のレーンマークの傾きからカメラ
1のピッチ角Pcの補正量dPを算出する方法は以下の
通りである。図4の(a)のように、高さhに設けられ
たカメラCから、路面Gに対して下ろした垂線の足をG
1とし、鳥瞰画像に入る範囲をG1から後方G2までとす
る。角G1CG2の大きさをPと置く。また、図4の
(b)のように、点G1、点G2から、G12に垂直手前
Wの位置に点R1、R2を想定する。図2の視点変換部2
の撮像方向パラメータが、図4のカメラCの実際の撮像
方向パラメータと一致しているならば、点G1、G2、R
1、R2の鳥瞰画像での対応点I(G1)、I(G2)、I
(R1)、I(R2)について、長さI(G1)I(R1)とI
(G2)I(R2)は等しい。
The method of calculating the correction amount dP of the pitch angle Pc of the camera 1 from the inclination of the lane mark of the bird's-eye image is as follows. As shown in FIG. 4 (a), the camera C provided at the height h, the foot of the perpendicular lowered to the road surface G, G
1, and the ranges there bird's-eye image from G 1 to the rear G 2. Let P be the size of the corner G 1 CG 2 . Further, as shown in FIG. 4B, it is assumed that points R 1 and R 2 are located at a position W which is perpendicular to G 1 G 2 from points G 1 and G 2 . View point converter 2 in FIG.
Are coincident with the actual imaging direction parameters of the camera C in FIG. 4, the points G 1 , G 2 , R
1, the corresponding point on the bird's-eye image of the R 2 I (G 1), I (G 2), I
For (R 1 ) and I (R 2 ), the lengths I (G 1 ) I (R 1 ) and I (R 1 )
(G 2 ) I (R 2 ) is equal.

【0021】次に、カメラCのピッチ角PcがdPずれ
た場合を想定する。即ち、図4の(a)のように、大き
さPの角G1'CG2'が、角G1CG2とdPだけずれたも
のと想定する。この時、大きさθ1の角G1CR1と、大
きさθ2の角G2CR2とで囲まれる四角錐の領域は、カ
メラCのピッチ角PcがdPずれることにより大きさθ
1の角G1'CR1'と、大きさθ2の角G2'CR2'とで囲ま
れる四角錐の領域に変化する。ここでG11=G22
W、G1'R1'=W+dW1、G2'R2'=W+dW2とおく
と、次の関係が成り立つ。
Next, the pitch angle Pc of the camera C is shifted by dP.
Is assumed. That is, as shown in FIG.
The corner G of P1'CGTwo'Is the corner G1CGTwoAlso shifted by dP
Assume that At this time, the magnitude θ1Corner G1CR1And large
Size θTwoCorner GTwoCRTwoThe area of the square pyramid surrounded by
When the pitch angle Pc of the camera C shifts by dP, the size θ
1Corner G1'CR1'And the magnitude θTwoCorner GTwo'CRTwoSurrounded by '
Change into a quadrangular pyramid region. Where G1R1= GTwoRTwo=
W, G1'R1'= W + dW1, GTwo'RTwo'= W + dWTwofar
And the following relationship holds.

【数1】 (Equation 1)

【0022】ここで、dPが十分小さいとすれば、次の
ようにおける。
Here, assuming that dP is sufficiently small, the following applies.

【数2】 (Equation 2)

【0023】式(2−1)及び式(2−2)を使って、
式(1−1)と(1−2)、式(1−3)と式(1−
4)とから、dW1とdPを次のように求めることがで
きる。
Using equations (2-1) and (2-2),
Equations (1-1) and (1-2), Equations (1-3) and (1-
From 4), dW 1 and dP can be obtained as follows.

【数3】 (Equation 3)

【0024】さて、これらは実像系での関係なので、鳥
瞰画像でどうなっているのかを考える。図4の(c)の
ように、点G1'、G2'、R1'、R2'の鳥瞰画像での対応
点I(G1')、I(G2')、I(R1')、I(R2')について、
長さI(G1')I(R1')とI(G2')I(R2')は等しい。さ
て、実像系の線分G2'R2'上に、点rを、G2'r=Wと
なるようにとると、点rの鳥瞰画像での対応点I(r)
は、鳥瞰画像中で線分I(G2')I(R2')上に位置する。
全く同様なことを点R1、R2、R1'、R2'、rの直線G
12での線対称点L1、L2、L1'、L2'、lについて行
う。すると、点R1、R2、rを通る直線と、点L1
2、lを通る直線の、幅2Wの平行な2直線のレーン
マークを想定すると、式(3−1)より点R1'、点L1'
は各々レーンマーク上にあることは明らか。よって、図
4の(c)の太線のようなレーンマークを想定すること
ができる。
Now, since these are relations in a real image system, what is happening in a bird's-eye view image will be considered. As shown in FIG. 4C, corresponding points I (G 1 ′), I (G 2 ′), I (R 2 ) of the points G 1 ′, G 2 ′, R 1 ′, and R 2 ′ in the bird's-eye view image. 1 for '), I (R 2' ),
Length I (G 1 ') I ( R 1') and I (G 2 ') I ( R 2') are equal. By taking a point r on the real image system line segment G 2 'R 2 ' so that G 2 'r = W, the corresponding point I (r) of the point r in the bird's-eye image
Is located on the line segment I (G 2 ′) I (R 2 ′) in the bird's-eye image.
Exactly the same applies to the straight line G of the points R 1 , R 2 , R 1 ′, R 2 ′, r.
This is performed for the line symmetry points L 1 , L 2 , L 1 ′, L 2 ′, 1 at 1 G 2 . Then, a straight line passing through points R 1 , R 2 , and r and points L 1 ,
Assuming two parallel lane marks having a width of 2 W, which are straight lines passing through L 2 and L 2 , the point R 1 ′ and the point L 1 ′ are obtained from the equation (3-1).
Is clearly on each lane mark. Therefore, a lane mark such as a bold line in FIG. 4C can be assumed.

【0025】既に述べた特許2946727号記載のよ
うに、鳥瞰画像はガウス結像系の撮像画像を変換するも
のであり、その鳥瞰画像における線分の比は、横軸方向
(カメラの撮像中心線に対して垂直な路面上の方向)で
の実像系における線分の比と一致する。よって、実像系
のdW2=rR2'とG2'R2'=W+dW2の比は、鳥瞰画
像におけるI(r)I(R2')とI(G2')I(R2')の比に等
しく、I(R2')I(L2')−I(r)I(l)(=2I(r)I
(R2'))とI(L2')I(R2')(=2I(G2')I(R2'))
の比に等しい。I(L2')I(R2')=I(L1')I(R1')=
i1、I(r)I(l)=Wi2とおけば、実像系の式(3−
2)は次の鳥瞰画像での式(4)で置き替えることがで
きる。
As described in Japanese Patent No. 2946727, the bird's-eye image is for converting a captured image of a Gaussian imaging system. The ratio of the line segment in the bird's-eye image is determined in the horizontal axis direction (the imaging center line of the camera). (In the direction on the road surface perpendicular to the vertical axis) in the real image system. Therefore, the ratio of dW 2 = rR 2 ′ and G 2 ′ R 2 ′ = W + dW 2 in the real image system is I (r) I (R 2 ′) and I (G 2 ′) I (R 2 ′) in the bird's-eye view image. equal to the ratio of), I (R 2 ') I (L 2') -I (r) I (l) (= 2I (r) I
(R 2 ')) and I (L 2 ') I (R 2 ') (= 2I (G 2 ') I (R 2 '))
Equal to the ratio of I (L 2 ') I (R 2 ') = I (L 1 ') I (R 1 ') =
If W i1 , I (r) I (l) = W i2 , the equation (3-
2) can be replaced by equation (4) in the following bird's-eye image.

【数4】 (Equation 4)

【0026】式(4)の意味するところは明らかであ
る。即ち、図2の画像分析手段3のレーンマーク検出部
31において、平行線であるべきレーンマークであると
して検出された鳥瞰画像を車両直近から後方遠方へ続く
レーンマークの、鳥瞰画像中での車両直近での幅W
i1と、鳥瞰画像中最後方での幅Wi2、及び実像系におけ
る鳥瞰画像として取り込まれる縦方向の撮像角Pとか
ら、カメラピッチ角PcのブレdPが求められる。よっ
て、撮像方向パラメータのうち、カメラピッチ角Pcを
Pc+dPに置き替えて視点変換を再度行うことで、カ
メラの撮像方向自体を修正することなく、正しい鳥瞰画
像を得ることができる。
The meaning of equation (4) is clear. That is, the vehicle in the bird's-eye image of the lane mark that continues from the vehicle nearest to the vehicle to the rear far away from the bird's-eye image detected by the lane mark detection unit 31 of the image analysis unit 3 in FIG. The latest width W
The blur dP of the camera pitch angle Pc is obtained from i1 , the width W i2 at the rear end of the bird's-eye image, and the vertical imaging angle P captured as the bird's-eye image in the real image system. Therefore, by replacing the camera pitch angle Pc of the imaging direction parameters with Pc + dP and performing viewpoint conversion again, a correct bird's-eye view image can be obtained without correcting the imaging direction of the camera itself.

【0027】〔第2実施例〕カメラCの高さhが、h+
dhに変化した場合を考える。図4においてと同様、図
5の(a)のように、設定されたカメラ高さhと鳥瞰画
像として取り込まれる縦方向の撮像角Pを設定する。点
1、G2、R1、R2、長さW、角θ1、θ2も同様であ
る。次に図5の(b)のように、高さがh+dhの点
C'になったとき、大きさθ1の角G1C'R1'となる点R
1'と点G1'との距離をW+dW1、大きさθ2の角G2C'
2'となる点R2'と点G2'との距離をW+dW2と置
く。すると、次の関係が明らかに成り立つ。
[Second Embodiment] The height h of the camera C is h +
Let us consider the case where it changes to dh. As in FIG. 4, a set camera height h and a vertical imaging angle P captured as a bird's-eye view image are set as shown in FIG. The same applies to points G 1 , G 2 , R 1 , R 2 , length W, angles θ 1 , θ 2 . Next, as shown in FIG. 5 (b), when the height becomes a point C ′ of h + dh, a point R becomes an angle G 1 C′R 1 ′ of a size θ 1.
The distance between 1 ′ and the point G 1 ′ is W + dW 1 , and the angle G 2 C ′ of size θ 2
The distance between the point R 2 ′ that becomes R 2 ′ and the point G 2 ′ is set as W + dW 2 . Then, the following relationship clearly holds.

【数5】 (Equation 5)

【0028】式(5−1)と式(5−3)から、次の関
係が成り立つ。
From the equations (5-1) and (5-3), the following relationship is established.

【数6】 (Equation 6)

【0029】式(6)を式(5−4)に代入すると、次
のとおりとなる。
By substituting equation (6) into equation (5-4), the following is obtained.

【数7】 (Equation 7)

【0030】式(5−2)と式(7)を比較すると、次
の式が成り立つ。
When the equations (5-2) and (7) are compared, the following equation is established.

【数8】 (Equation 8)

【0031】式(8)から、カメラが高さhの点Cから
高さh+dhの点C'に移動しても、レーンマークの平
行は鳥瞰画像で保たれることが容易に理解できる。よっ
て、カメラの高さの変化dhは、次のような方法で求め
ることができる。
From equation (8), it can be easily understood that even if the camera moves from the point C at the height h to the point C 'at the height h + dh, the parallelism of the lane marks is maintained in a bird's-eye view image. Therefore, the change dh in the camera height can be obtained by the following method.

【0032】図5の(c)のようであった鳥瞰画像にお
いて、斜線を記したレーンマークが時間t後に(d)の
ように鳥瞰画像から消えたとする。ここで画像分析手段
が車両の速度測定手段と連動していれば、時間tの間に
進んだ距離Dが求められる。一方、カメラの撮像範囲の
うち鳥瞰画像に変換される範囲は縦方向の角度がPであ
るので、高さをh+dhとすれば、その距離は(h+d
h)cosPである。時間tの間に進んだ距離Dと(h+
dh)cosPとから、カメラ位置の変動dhを決定する
ことができる。こうして、カメラ位置をh+dhとして
鳥瞰画像を再度求めることを繰り返すことで、正しい鳥
瞰画像を得ることができる。
In the bird's-eye image shown in FIG. 5 (c), it is assumed that the hatched lane mark disappears from the bird's-eye image after time t as shown in FIG. 5 (d). Here, if the image analysis means is linked with the speed measurement means of the vehicle, the distance D advanced during the time t is obtained. On the other hand, since the range of the image pickup range of the camera which is converted into a bird's-eye view image has a vertical angle of P, if the height is h + dh, the distance is (h + d
h) cosP. The distance D advanced during time t and (h +
dh) cosP and the variation dh of the camera position can be determined. In this manner, by repeatedly obtaining the bird's-eye image with the camera position set to h + dh, a correct bird's-eye image can be obtained.

【0033】〔第3実施例〕撮像画像でのパラメータ決
定について簡単に説明する。例えば撮像画像中に、水平
線の撮像Hが検出されたとする。この時、図6の(a)
のように水平線の撮像Hが水平であればカメラの撮像方
向にねじれは生じていない。しかし図6の(b)のよう
に水平線の撮像Hが水平と角度ψを成していれば、カメ
ラの撮像方向に大きさψのねじれが生じていることが検
出できる。よってこれを基に、カメラ自体の姿勢を修正
することなく、変換画像(鳥瞰画像)において、修正す
ることができる。
[Third Embodiment] Determination of parameters in a captured image will be briefly described. For example, it is assumed that an image H of a horizontal line is detected in a captured image. At this time, FIG.
If the image H of the horizontal line is horizontal as shown in, there is no twist in the imaging direction of the camera. However, as shown in FIG. 6 (b), if the horizontal line imaging H forms an angle と with the horizontal, it can be detected that a twist of magnitude ψ has occurred in the imaging direction of the camera. Therefore, based on this, it is possible to correct the converted image (bird's eye image) without correcting the attitude of the camera itself.

【0034】〔第4実施例〕第3実施例のように水平線
の撮像Hを検出しにくい場合は多い。例えば地形による
もの、或いは建築物等の障害物が多数ある場合などであ
る。この際、カメラにジャイロが搭載されていれば、そ
の情報を基にカメラの撮像方向のねじれを検出し、カメ
ラ自体の姿勢を修正することなく、変換画像(鳥瞰画
像)において、修正することができる。これにより、常
にねじれの生じていない画像から、第1及び第2実施例
のような鳥瞰画像での修正が容易となる。
[Fourth Embodiment] In many cases, it is difficult to detect a horizontal line image H as in the third embodiment. For example, this is due to terrain or a case where there are many obstacles such as buildings. At this time, if a gyro is mounted on the camera, it is possible to detect a twist in the imaging direction of the camera based on the information and correct the converted image (bird's-eye image) without correcting the attitude of the camera itself. it can. This makes it easy to correct a bird's-eye view image as in the first and second embodiments from an image in which twisting does not always occur.

【0035】〔第5実施例〕カメラの撮像方向が水平方
向にぶれた場合(横ブレ)の補正を示す。カメラが横ブ
レを起こすと、撮像画像は図7の(a)ようになり、撮
像方向パラメータの補正無しに鳥瞰画像に変換すると図
7の(b)のようになる。この時、第1実施例や第3実
施例によって、ピッチ角Pcやねじれ角が補正済みであ
り、第2実施例で用いたオプティカルフローから破線の
レーンマークが車両の進行方向と一致していると判断さ
れた場合は、レーンマークの傾きを補正するよう、カメ
ラの横ブレ角を算出することができる。よってカメラの
撮像方向の横ブレを検出し、カメラ自体の姿勢を修正す
ることなく、変換画像(鳥瞰画像)において、修正する
ことができる。
[Fifth Embodiment] Correction in the case where the image pickup direction of the camera is shifted in the horizontal direction (lateral blur) will be described. When the camera shakes sideways, the captured image becomes as shown in FIG. 7A, and when converted into a bird's-eye image without correcting the imaging direction parameter, it becomes as shown in FIG. 7B. At this time, the pitch angle Pc and the torsion angle have been corrected by the first and third embodiments, and the dashed lane mark matches the traveling direction of the vehicle from the optical flow used in the second embodiment. When it is determined that the inclination of the lane mark is corrected, the lateral shake angle of the camera can be calculated. Therefore, it is possible to detect lateral blur in the imaging direction of the camera and correct the converted image (bird's-eye image) without correcting the attitude of the camera itself.

【0036】〔変形例〕上記第1、第2実施例ではレー
ンマークを分析対象としているが、例えば路面に記され
た標示を分析対象としても良い。標示が、車両の進行方
向に平行又は垂直な平行線の組や、長方形を含んでいる
場合、分析対象として用いやすい。標示としては「車」
の字(特に中央の(日)など)、進行方向を示す矢印の
矢以外の部分、横断歩道、停止線などが上げられる。
[Modification] In the first and second embodiments, the lane mark is analyzed. However, for example, a mark written on a road surface may be analyzed. When the sign includes a set of parallel lines parallel or perpendicular to the traveling direction of the vehicle or a rectangle, it is easy to use as an analysis target. The sign is "car"
(Especially the center (day), etc.), the part other than the arrow indicating the direction of travel, pedestrian crossings, stop lines, etc. are raised.

【0037】本発明は上述の通り、例えば鳥瞰画像のよ
うな画像を精度良く得るための撮像及び画像変換装置と
して効果的である。例えば車両の運転手、施設の監視員
に、通常の撮像画像では把握しにくい距離感を、容易に
把握できる平面図として提供することができる。これに
より、例えば初心者や高齢者等の運転能力の劣るもので
も、容易に車両を後進させることができる。
As described above, the present invention is effective as an imaging and image conversion device for obtaining an image such as a bird's-eye image with high accuracy. For example, a driver of a vehicle or a supervisor of a facility can be provided with a plan view that can easily grasp a sense of distance that is difficult to grasp with a normal captured image. As a result, the vehicle can be easily moved backward even if the driving ability is poor, such as a beginner or an elderly person.

【0038】本発明は鳥瞰画像等の変換画像を視認者に
提供するのみでなく、更に画像認識装置に提供すること
で、撮像された周辺状況のより高度な分析を行うことも
可能である。例えば本発明の撮像手段の固定された車両
その他の移動体、或いは施設の周辺状況を撮像し、本発
明により得られる変換画像を画像認識装置に提供するこ
とで、撮像手段固定部分に接近する他の移動物体を検知
及び判別し、衝突回避の警報その他の指示を視認者に提
供する、高度な周辺状況認識装置にくみ上げることがで
きる。例えば車両に搭載することで、歩行者、障害物、
他の車両との接近を運転者に警告する危険防止装置、或
いは車間距離の維持、レーン中央走行の維持を可能とし
て車両自動走行装置にも適用することができる。
The present invention not only provides a viewer with a converted image such as a bird's-eye view image, but also provides an image recognition device, so that a more sophisticated analysis of a captured surrounding situation can be performed. For example, by capturing an image of a vehicle or other moving object or the surroundings of a facility to which the imaging means of the present invention is fixed, and providing the converted image obtained by the present invention to the image recognition device, The moving object can be detected and discriminated, and a warning of collision avoidance and other instructions can be provided to the viewer. For example, by mounting on vehicles, pedestrians, obstacles,
The present invention can also be applied to a danger prevention device that warns a driver of approach to another vehicle, or an automatic vehicle traveling device that enables maintenance of the distance between vehicles and maintenance of lane center traveling.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の請求項1、請求項2の内容を説明する
ブロック図。
FIG. 1 is a block diagram for explaining the contents of claims 1 and 2 of the present invention.

【図2】本発明の具体的な第1の実施例の構成を示すブ
ロック図。
FIG. 2 is a block diagram showing a configuration of a first specific example of the present invention.

【図3】第1実施例の手順を示すフローチャート。FIG. 3 is a flowchart showing the procedure of the first embodiment.

【図4】第1実施例の演算内容を説明するための位置関
係図。
FIG. 4 is a positional relationship diagram for explaining the operation content of the first embodiment.

【図5】第2実施例を説明するための位置関係図。FIG. 5 is a positional relationship diagram for explaining a second embodiment.

【図6】第3実施例を説明するための撮像画像を示す概
念図。
FIG. 6 is a conceptual diagram showing a captured image for explaining a third embodiment.

【図7】第5実施例を説明するための撮像画像と鳥瞰画
像を示す概念図。
FIG. 7 is a conceptual diagram showing a captured image and a bird's-eye image for explaining a fifth embodiment.

【図8】補正を行わない場合の、ピッチ角のずれと鳥瞰
図の関係を示す説明図。
FIG. 8 is an explanatory diagram showing a relationship between a shift in pitch angle and a bird's-eye view when correction is not performed.

【符号の説明】[Explanation of symbols]

M 車両 C カメラ及びカメラ位置 G 路面 Pc カメラピッチ角 H 水平線の撮像画像 P 鳥瞰画像に取り込まれる縦方向のカメラ撮像角 M Vehicle C Camera and camera position G Road surface Pc Camera pitch angle H Horizontal line image P Vertical camera image angle captured in bird's-eye image

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 7/18 H04N 7/18 J K (72)発明者 渡邉 章弘 愛知県愛知郡長久手町大字長湫字横道41番 地の1 株式会社豊田中央研究所内 (72)発明者 高橋 新 愛知県愛知郡長久手町大字長湫字横道41番 地の1 株式会社豊田中央研究所内 (72)発明者 二宮 芳樹 愛知県愛知郡長久手町大字長湫字横道41番 地の1 株式会社豊田中央研究所内 (72)発明者 太田 充彦 愛知県愛知郡長久手町大字長湫字横道41番 地の1 株式会社豊田中央研究所内 (72)発明者 里中 久志 愛知県豊田市トヨタ町1番地 トヨタ自動 車株式会社内 (72)発明者 西田 誠 愛知県豊田市トヨタ町1番地 トヨタ自動 車株式会社内 (72)発明者 柿並 俊明 愛知県刈谷市朝日町2丁目1番地 アイシ ン精機株式会社内 Fターム(参考) 5B057 AA16 BA02 CA08 CA12 CA16 CB08 CB12 CB16 CD12 DA07 DA20 DB02 DC03 DC08 5C023 AA10 AA38 BA02 CA02 DA08 5C054 AA01 CA04 CC02 CE12 EA05 ED11 FC03 FC12 FD03 HA30 5H180 AA01 AA25 AA26 CC04 CC24 CC30 5L096 BA04 CA02 EA07 FA66 FA67 HA02 ──────────────────────────────────────────────────続 き Continued on the front page (51) Int.Cl. 7 Identification FI FI Theme Court ゛ (Reference) H04N 7/18 H04N 7/18 JK (72) Inventor Akihiro Watanabe Nagakute-cho, Aichi-gun, Aichi Prefecture 41 No. 1 Inside Toyota Central Research Institute Co., Ltd. (72) Inventor Takahashi Shin 41 Aichi County, Nagakute-cho, Aichi-gun Oku-cho, Yokomichi 41 No. 1 Inside Toyota Central Research Institute Co., Ltd. (72) Inventor Yoshiki Ninomiya Aichi-gun, Aichi Prefecture (1) Inside the Toyota Central R & D Laboratories Co., Ltd. (72) Inventor Mitsuhiko Ota 41-41 Nagakute-cho Okucho Yokomichi, Aichi-gun, Aichi Prefecture Inside Toyota Central R & D Laboratories Co., Ltd. (72) Inventor Hisashi Satonaka 1 Toyota Town, Toyota City, Aichi Prefecture Inside Toyota Motor Corporation (72) Inventor Makoto Nishida 1 Toyota Town 1 Toyota City, Toyota City, Aichi Prefecture Inside the Automobile Co., Ltd. (72) Inventor Toshiaki Kakinami 2-1-1 Asahi-cho, Kariya-shi, Aichi F-term (reference) in Aisin Seiki Co., Ltd. 5B057 AA16 BA02 CA08 CA12 CA16 CB08 CB12 CB16 CD12 DA07 DA20 DB02 DC03 DC08 5C023 AA10 AA38 BA02 CA02 DA08 5C054 AA01 CA04 CC02 CE12 EA05 ED11 FC03 FC12 FD03 HA30 5H180 AA01 AA25 AA26 CC04 CC24 CC30 5L096 BA04 CA02 EA07 FA66 FA67 HA02

Claims (7)

【特許請求の範囲】[Claims] 【請求項1】 撮像手段と、その撮像手段の撮像画像を
変換して変換画像を出力する画像変換手段と、前記撮像
画像を分析する画像分析手段とを有する撮像及び画像変
換装置において、 前記画像分析手段の分析結果を基に前記画像変換手段の
有する撮像手段の撮像方向パラメータを補正して、補正
された変換画像を出力させるよう構成したことを特徴と
する撮像及び画像変換装置。
1. An image capturing and image converting apparatus comprising: an image capturing unit; an image converting unit configured to convert a captured image of the image capturing unit and output a converted image; and an image analyzing unit configured to analyze the captured image. An imaging and image conversion apparatus, wherein an imaging direction parameter of an imaging unit of the image conversion unit is corrected based on an analysis result of the analysis unit, and a corrected converted image is output.
【請求項2】 撮像手段と、その撮像手段の撮像画像を
変換して変換画像を出力する画像変換手段と、その画像
変換手段の出力する変換画像を分析する画像分析手段と
を有する撮像及び画像変換装置において、 前記画像分析手段の分析結果を基に前記画像変換手段の
有する撮像手段の撮像方向パラメータを補正して、補正
された変換画像を出力させるよう構成したことを特徴と
する撮像及び画像変換装置。
2. An image pickup apparatus comprising: an image pickup unit; an image conversion unit that converts a captured image of the image pickup unit to output a converted image; and an image analysis unit that analyzes the converted image output by the image conversion unit. In the conversion device, the imaging direction is corrected based on the analysis result of the image analysis unit and the imaging direction parameter of the imaging unit of the image conversion unit, and the corrected converted image is output. Conversion device.
【請求項3】 前記撮像手段は車両に取り付けられ、主
として路面を撮像することを特徴とする請求項1又は請
求項2に記載の撮像及び画像変換装置。
3. The imaging and image conversion apparatus according to claim 1, wherein the imaging unit is mounted on a vehicle and mainly captures an image of a road surface.
【請求項4】 前記画像分析手段は、路面上の平行線又
は既知図形を推定及び抽出し、該平行線又は既知図形の
撮像画像又は変換画像を分析することにより前記撮像方
向パラメータの補正量を決定することを特徴とする請求
項3に記載の撮像及び画像変換装置。
4. The image analysis means estimates and extracts a parallel line or a known figure on a road surface, and analyzes a captured image or a converted image of the parallel line or the known figure to determine a correction amount of the imaging direction parameter. The apparatus according to claim 3, wherein the determination is made.
【請求項5】 前記画像分析手段は、車両の速度測定手
段と連動することにより、路面上のオプティカルフロー
の撮像画像又は変換画像を分析することにより前記撮像
方向パラメータの補正量を決定することを特徴とする請
求項3に記載の撮像及び画像変換装置。
5. The image analysis unit, in conjunction with a vehicle speed measurement unit, determines an amount of correction of the imaging direction parameter by analyzing a captured image or a converted image of an optical flow on a road surface. The imaging and image conversion device according to claim 3, wherein
【請求項6】 前記撮像手段を、所定距離を有して2個
以上配設し、前記画像分析手段は、それら複数の撮像手
段の撮像画像又は前記画像変換手段による変換画像を分
析することにより前記撮像方向パラメータの補正量を決
定することを特徴とする請求項3に記載の撮像及び画像
変換装置。
6. The apparatus according to claim 1, wherein two or more imaging units are arranged at a predetermined distance, and the image analysis unit analyzes images captured by the plurality of imaging units or images converted by the image conversion unit. The imaging and image conversion apparatus according to claim 3, wherein a correction amount of the imaging direction parameter is determined.
【請求項7】 前記撮像手段には、撮像手段の方向を検
知する姿勢検知手段が配設されており、該姿勢検知手段
の検知する車両に対する撮像手段の方向パラメータを併
用して前記撮像方向パラメータの補正量を決定すること
を特徴とする請求項3乃至請求項6のいずれか1項に記
載の撮像及び画像変換装置。
7. An image pickup means further comprising: an attitude detection means for detecting a direction of the image pickup means; and a direction parameter of the image pickup means for the vehicle detected by the attitude detection means. The imaging and image conversion apparatus according to claim 3, wherein the correction amount is determined.
JP2000336844A 2000-11-06 2000-11-06 Image pickup and image conversion device Pending JP2002140696A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000336844A JP2002140696A (en) 2000-11-06 2000-11-06 Image pickup and image conversion device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000336844A JP2002140696A (en) 2000-11-06 2000-11-06 Image pickup and image conversion device

Publications (1)

Publication Number Publication Date
JP2002140696A true JP2002140696A (en) 2002-05-17

Family

ID=18812323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000336844A Pending JP2002140696A (en) 2000-11-06 2000-11-06 Image pickup and image conversion device

Country Status (1)

Country Link
JP (1) JP2002140696A (en)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006344009A (en) * 2005-06-09 2006-12-21 Xanavi Informatics Corp Method and system for monitoring periphery of vehicle
JP2007141052A (en) * 2005-11-21 2007-06-07 Toyota Motor Corp Road section line detector
JP2008174077A (en) * 2007-01-18 2008-07-31 Xanavi Informatics Corp Vehicle periphery monitoring device, and its camera position calculation method
JP2008182652A (en) * 2007-01-26 2008-08-07 Sanyo Electric Co Ltd Camera posture estimation device, vehicle, and camera posture estimating method
JP2009027700A (en) * 2007-06-18 2009-02-05 Honda Elesys Co Ltd Mobile-body-mounted forward image pick-up controller
US7583816B2 (en) 2003-09-24 2009-09-01 Aisin Seiki Kabushiki Kaisha Device for detecting a road traveling lane using an edge histogram
JP2010182171A (en) * 2009-02-06 2010-08-19 Nissan Motor Co Ltd Vehicular approaching object detection device
JP2011129048A (en) * 2009-12-21 2011-06-30 Ihi Aerospace Co Ltd Device and method for detecting plane from image
KR101056285B1 (en) * 2010-11-01 2011-08-11 (주)베라시스 Method and system for self-calibration and setting land departure warning point
WO2013038506A1 (en) * 2011-09-13 2013-03-21 トヨタ自動車株式会社 Optical axis ascertaining device for in-vehicle camera
WO2013133033A1 (en) * 2012-03-06 2013-09-12 岩崎電気株式会社 Brightness-measuring apparatus
JP2013220729A (en) * 2012-04-16 2013-10-28 Alpine Electronics Inc Mounting angle correcting device and method of correcting mounting angle of in-vehicle camera
JP2015067220A (en) * 2013-09-30 2015-04-13 日産自動車株式会社 Vehicular acceleration suppression device and vehicular acceleration suppression method
JP2015226240A (en) * 2014-05-29 2015-12-14 パナソニックIpマネジメント株式会社 Vehicle posture determination system
WO2015190066A1 (en) * 2014-06-11 2015-12-17 株式会社デンソー Attachment angle adjustment method and attachment angle detection device for onboard camera
CN106891824A (en) * 2017-01-25 2017-06-27 北京图森未来科技有限公司 A kind of vehicle-mounted end camera installation method
KR101809919B1 (en) 2016-09-26 2017-12-20 주식회사 와이즈오토모티브 Apparatus and method for supporting driving of vehicle
CN112484692A (en) * 2020-11-05 2021-03-12 江西洪都航空工业集团有限责任公司 Visual detection method and device for relative height of aircraft and cloud layer
WO2023203092A1 (en) * 2022-04-21 2023-10-26 Continental Autonomous Mobility Germany GmbH Computer-implemented method of determining and adjusting camera pitch angle error of a vehicle camera

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7583816B2 (en) 2003-09-24 2009-09-01 Aisin Seiki Kabushiki Kaisha Device for detecting a road traveling lane using an edge histogram
JP2006344009A (en) * 2005-06-09 2006-12-21 Xanavi Informatics Corp Method and system for monitoring periphery of vehicle
JP4584120B2 (en) * 2005-11-21 2010-11-17 トヨタ自動車株式会社 Road marking line detection device, road marking line detection method, road marking line detection program
JP2007141052A (en) * 2005-11-21 2007-06-07 Toyota Motor Corp Road section line detector
JP2008174077A (en) * 2007-01-18 2008-07-31 Xanavi Informatics Corp Vehicle periphery monitoring device, and its camera position calculation method
JP2008182652A (en) * 2007-01-26 2008-08-07 Sanyo Electric Co Ltd Camera posture estimation device, vehicle, and camera posture estimating method
JP2009027700A (en) * 2007-06-18 2009-02-05 Honda Elesys Co Ltd Mobile-body-mounted forward image pick-up controller
JP2010182171A (en) * 2009-02-06 2010-08-19 Nissan Motor Co Ltd Vehicular approaching object detection device
JP2011129048A (en) * 2009-12-21 2011-06-30 Ihi Aerospace Co Ltd Device and method for detecting plane from image
KR101056285B1 (en) * 2010-11-01 2011-08-11 (주)베라시스 Method and system for self-calibration and setting land departure warning point
WO2013038506A1 (en) * 2011-09-13 2013-03-21 トヨタ自動車株式会社 Optical axis ascertaining device for in-vehicle camera
JPWO2013038506A1 (en) * 2011-09-13 2015-03-23 トヨタ自動車株式会社 In-vehicle camera optical axis grasping device
CN103797788A (en) * 2011-09-13 2014-05-14 丰田自动车株式会社 Optical axis ascertaining device for in-vehicle camera
WO2013133033A1 (en) * 2012-03-06 2013-09-12 岩崎電気株式会社 Brightness-measuring apparatus
CN104185777A (en) * 2012-03-06 2014-12-03 岩崎电气株式会社 Brightness-measuring apparatus
JP2013220729A (en) * 2012-04-16 2013-10-28 Alpine Electronics Inc Mounting angle correcting device and method of correcting mounting angle of in-vehicle camera
JP2015067220A (en) * 2013-09-30 2015-04-13 日産自動車株式会社 Vehicular acceleration suppression device and vehicular acceleration suppression method
JP2015226240A (en) * 2014-05-29 2015-12-14 パナソニックIpマネジメント株式会社 Vehicle posture determination system
WO2015190066A1 (en) * 2014-06-11 2015-12-17 株式会社デンソー Attachment angle adjustment method and attachment angle detection device for onboard camera
JP2016001776A (en) * 2014-06-11 2016-01-07 株式会社日本自動車部品総合研究所 Mounting angle adjustment processing of on-vehicle camera and mounting angle detection device
KR101809919B1 (en) 2016-09-26 2017-12-20 주식회사 와이즈오토모티브 Apparatus and method for supporting driving of vehicle
CN106891824A (en) * 2017-01-25 2017-06-27 北京图森未来科技有限公司 A kind of vehicle-mounted end camera installation method
CN112484692A (en) * 2020-11-05 2021-03-12 江西洪都航空工业集团有限责任公司 Visual detection method and device for relative height of aircraft and cloud layer
WO2023203092A1 (en) * 2022-04-21 2023-10-26 Continental Autonomous Mobility Germany GmbH Computer-implemented method of determining and adjusting camera pitch angle error of a vehicle camera

Similar Documents

Publication Publication Date Title
JP2002140696A (en) Image pickup and image conversion device
JP4962581B2 (en) Lane marking detector
EP1873716B1 (en) Calibration apparatus of on-vehicle camera, program, and car navigation system
JP4832321B2 (en) Camera posture estimation apparatus, vehicle, and camera posture estimation method
WO2013011952A1 (en) Traffic lane recognition apparatus
JP4171501B2 (en) Vehicle periphery monitoring device
EP2224743B1 (en) Vehicle periphery monitoring device, vehicle, and vehicle periphery monitoring program
JP2000059764A (en) Vehicle position detecting device
WO2010047226A1 (en) Lane line detection device, lane line detection method, and lane line detection program
JP4670528B2 (en) Imaging device deviation detection method, imaging device deviation correction method, and imaging device
JP6341191B2 (en) Information processing device
JP2008299458A (en) Vehicle monitoring apparatus and vehicle monitoring method
CN105809669A (en) Method and apparatus of calibrating an image detecting device
JP3293441B2 (en) Imaging device
JP4852905B2 (en) Image processing apparatus and image processing method
EP1820020B1 (en) Apparatus and method for detecting objects
JP5062091B2 (en) Moving object identification device, computer program, and optical axis direction specifying method
JP3807651B2 (en) White line recognition device
JP2009014645A (en) Distance measuring device used for vehicle
JP2007310591A (en) Image processor and parking space determination method
KR20180081966A (en) Image correction method by vehicle recognition
JP4225242B2 (en) Travel path recognition device
JP4228082B2 (en) Method and apparatus for detecting camera posture change
JP4869835B2 (en) Vehicle perimeter monitoring system
JP2001092979A (en) Unsuitable image detecting method

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060117

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060523