JP2019009783A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2019009783A JP2019009783A JP2018131486A JP2018131486A JP2019009783A JP 2019009783 A JP2019009783 A JP 2019009783A JP 2018131486 A JP2018131486 A JP 2018131486A JP 2018131486 A JP2018131486 A JP 2018131486A JP 2019009783 A JP2019009783 A JP 2019009783A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- control device
- region
- vehicle
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 365
- 238000001514 detection method Methods 0.000 abstract description 54
- 238000012545 processing Methods 0.000 description 34
- 238000000034 method Methods 0.000 description 31
- 238000009825 accumulation Methods 0.000 description 22
- 238000005259 measurement Methods 0.000 description 19
- 230000000875 corresponding effect Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 16
- 230000003287 optical effect Effects 0.000 description 11
- 238000012546 transfer Methods 0.000 description 11
- 238000012986 modification Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 238000005286 illumination Methods 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 239000012071 phase Substances 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004907 flux Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000020169 heat generation Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000002844 melting Methods 0.000 description 1
- 230000008018 melting Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000002161 passivation Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 229910000679 solder Inorganic materials 0.000 description 1
- 239000007790 solid phase Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Landscapes
- Exposure Control For Cameras (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
従来技術では、カメラを用いて道路上のラインを検出するが、例えばトンネル内や降雨時などの走行環境において、ラインの検出が困難となる場合があった。
本発明の第2の態様によると撮像装置は、車に搭載され、撮像条件の異なる複数の撮像領域を有する撮像部と、前記車のライトの照射方向の情報を入力する入力部と、前記撮像部の撮像条件を制御する撮像制御部と、を有し、前記撮像制御部は、前記情報に応じて、前記撮像部の一部の撮像領域である第一の撮像領域の撮像条件を変更する。
<カメラの使用場面>
図1は、本発明の一実施の形態によるカメラ3を搭載した車両1の運転支援装置2の概略構成図である。図1において、自動車等の車両1に運転支援装置2が搭載されている。運転支援装置2は、カメラ3と、制御装置4と、第1の走行制御ユニット5と、第2の走行制御ユニット6等により構成される。なお、本説明では内燃機関を駆動源とする例を説明するが、モータを駆動源とするものでもよいし、内燃機関とモータを駆動源とする、いわゆるハイブリッドでもよい。
制御装置4は、車両1の走行路および対象物を検出するために、カメラ3からの画像に対し、以下のように画像処理を行う。先ず、制御装置4は、撮影画面内の複数の位置における測距データに基づいて距離画像(奥行き分布画像)を生成する。制御装置4は、距離画像のデータに基づいて、周知のグルーピング処理を行い、あらかじめ記憶部4bに記憶しておいた3次元的な道路形状データ、側壁データ、対象物データ等の枠(ウインドウ)と比較し、白線データ(道路に沿った白線データおよび道路を横断する白線(停止線:交差点情報)データを含む)、道路に沿って存在するガードレール、縁石等の側壁データを抽出するとともに、対象物・障害物を、2輪車、普通車両、大型車両、歩行者、電柱等その他の対象物に分類して抽出する。
本説明では、走行路に引かれた白色または黄色のラインを白線と呼ぶ。また、実線および破線を含めて白線と呼ぶ。
制御装置4は、上記のように抽出した各情報、すなわち、白線データ、ガードレール側壁データ、および対象物データの各データに基づいて走行路や障害となる対象物・障害物を認識し、認識結果をもとに第2の走行制御ユニット6に上記運転支援制御を行わせる。すなわち、車両1を道路に沿って走行させ、車両1が対象物と衝突するのを回避させる。
制御装置4は、例えば、以下の4 通りにより自車進行路の推定を行う。
(1)白線に基づく自車進行路推定
カメラ3で取得された画像から走行路の左右両方、若しくは、左右どちらか片側の白線データが得られており、これら白線データから車両1が走行している車線の形状が推定できる場合、制御装置4は、車両1の幅や、車両1の現在の車線内の位置を考慮して、自車進行路が白線と並行であると推定する。
カメラ3で取得された画像から走行路の左右両方、若しくは、左右どちらか片側の側壁データが得られており、これら側壁データから車両1が走行している車線の形状が推定できる場合、制御装置4は、車両1の幅や、車両1の現在の車線内の位置を考慮して、自車進行路が側壁と並行であると推定する。
制御装置4は、記憶部4bに記憶されている先行車の過去の走行軌跡に基づいて、自車進行路を推定する。先行車は、車両1と同じ方向に走行する対象物のうち、車両1に最も近い前方の車両をいう。
制御装置4は、車両1の運転状態に基づいて、自車進行路を推定する。例えば、ヨーレートセンサ13による検出信号と、車速センサ12による検出信号と、に基づく旋回曲率を用いて自車進行路を推定する。旋回曲率Cuaは、Cua =dψ/dt/V により算出する。dψ/dtは上記ヨーレート(旋回方向への回転角の変化速度)であり、Vは車両1の車速である。
上述したカメラ3に備わる積層型撮像素子100について説明する。なお、この積層型撮像素子100は、本願出願人が先に出願した特願2012−139026号に記載されているものである。図3は、積層型撮像素子100の断面図である。撮像素子100は、入射光に対応した画素信号を出力する裏面照射型撮像チップ113と、画素信号を処理する信号処理チップ111と、画素信号を記憶するメモリチップ112とを備える。これら撮像チップ113、信号処理チップ111およびメモリチップ112は積層されており、Cu等の導電性を有するバンプ109により互いに電気的に接続される。
図7は、撮像素子100の撮像面における焦点検出用画素の位置を例示する図である。本実施形態では、撮像チップ113のX軸方向(水平方向)に沿って離散的に焦点検出用画素が並べて設けられている。図7の例では、15本の焦点検出画素ライン60が所定の間隔で設けられる。焦点検出画素ライン60を構成する焦点検出用画素は、測距用の画像信号を出力する。撮像チップ113において焦点検出画素ライン60以外の画素位置には通常の撮像用画素が設けられている。撮像用画素は、車外監視用の画像信号を出力する。
なお、図8の例では、焦点検出用画素S1、S2がそれぞれ焦点検出用の一対の光束のうちの一方を受光する構成、いわゆる1PD構造を説明した。この代わりに、例えば特開2007−282107号公報に開示されるように、焦点検出用画素がそれぞれ焦点検出用の一対の光束の双方を受光する構成、いわゆる2PD構造にしてもよい。このように2PD構造にすることにより、焦点検出用画素からも画像データを読み出すことが可能となり、焦点検出画素が欠陥画素になることがない。
図9は、上述した撮像素子100を有するカメラ3の構成を例示するブロック図である。図9において、カメラ3は、撮像光学系31と、撮像部32と、画像処理部33と、ワークメモリ34と、制御部35と、記録部36とを有する。
制御装置4は、カメラ3の撮像素子100(撮像チップ113)に対し、上述したブロック単位で独立した蓄積制御を行わせる。本実施形態では、例えばトンネル走行時や降雨時など走行環境が変化した場合において道路のラインを見つけやすくするため、撮像チップ113の撮像面上の異なる領域に対し、それぞれ適切な撮像条件を設定する。
なお、注目領域71、非注目領域72をそれぞれ複数設けてもよいし、注目領域71内あるいは非注目領域72内に電荷蓄積制御(撮像条件)が異なる複数の領域を設けてもよい。さらに、撮像面70の行方向および列方向において電荷蓄積(撮像)を行わせない休止領域を設けてもよい。
以下、フローチャート(図11,図12)を参照して、カメラ3の制御処理および撮像条件設定を主体に説明する。図11は、制御装置4が実行するカメラ3の制御処理の全体の流れを説明するフローチャートである。図11のフローチャートによる処理を実行するためのプログラムは、制御装置4の記憶部4bに格納されている。制御装置4は、例えば車両1から電源供給が開始(システムオン)されたり、エンジンが始動されたりすると、図11による処理を行うプログラムを起動する。
なお、注目領域71と非注目領域72との間でフレームレート、ゲイン、間引き率、蓄積時間などの全てを異ならせる必要はなく、少なくとも一つを異ならせるだけでもよい。
なお、表示情報を送出する代わりに、または表示情報の送出とともに、不図示の音声再生装置へ上記メッセージを再生させるための音声信号を送出してもよい。この場合も不図示の音声再生装置として、不図示のナビゲーション装置の音声装置を用いてもよい。
図12のフローチャートを参照して、上記撮像条件設定処理(S30)の詳細について説明する。本実施の形態では、車両1の走行環境(道路状況)の変化を5通り例示して、注目領域および非注目領域について撮像条件を決定する。
なお、上記の説明ではトンネル入口の場合について説明したが、トンネル出口の場合にも同様である。ただし、トンネル入口の場合とトンネル出口の場合とでは、画像における明部分と暗部分との関係が逆で、トンネル内から見たトンネル外部の像が明部分になる。
図15のステップS121において、制御装置4は、カメラ3で取得された画像から前照灯による照射領域(上記明部分に対応)を検出してステップS122へ進む。
なお、このようにフレームレートを低下させる代わりに、諧調カーブの調整により画像のコントラストを高めてもよい。
また、同様の理由で、第2撮像領域78のフレームレートを第2撮像領域72(図10)の場合のフレームレートよりも低く設定させてもよいし、階調カーブの調整により画像のコントラストを高めてもよい。
なお、撮像領域をずらす動作の代わりに、第1撮像領域79Aを含むように第1撮像領域79を拡大させてもよい。
(1)制御装置4は、カメラ3において白線82a、82bを含む第1撮像領域71と、第1撮像領域71以外の第2撮像領域72とを設定し、第1撮像領域71の撮影条件を、第2撮像領域72の撮影条件と異ならせて設定する。例えば、第1撮像領域71のフレームレートを第2撮像領域72のフレームレートよりも高く設定するので、カメラ3で取得された画像において白線82a、82bを確実に認識し得る。また、白線82a、82bの認識に寄与しない第2撮像領域72のフレームレートを低くするので、カメラ3の消費電力を低減し、発熱を抑制できる。
フレームレートが高いと蓄積時間は短くなり、フレームレートが低いと蓄積時間は長くなる。
例えば、図14に示したトンネル83の入口の場合、第1撮像領域71内の暗部分を第3撮像領域71aとし、それ以外の領域を残領域71bにするとともに、第3撮像領域71aのフレームレートを残領域71bのフレームレートよりも低く設定したので、カメラ3で取得された画像において第3撮像領域71a内の白線82a、82bを明瞭に認識し得る。第2撮像領域72についても第1撮像領域71と同様の制御を行うことにより、カメラ3で取得された画像において走行に関係ある撮像領域を明瞭に認識し得る。
(変形例1)
上述した実施形態では、制御装置4の制御によってカメラ3を制御する例を説明したが、カメラ3の制御の一部をカメラ3の制御部35によって行う構成にしてもよい。
また、上記実施形態では、撮影条件のうち主にフレームレートについて記述したが、フレームレート以外の撮影条件について、撮影(撮像)領域毎に変更してもよい。
上述した説明では、道路に沿って路面に引かれた白線を注目すべき対象物として認識する例を説明したが、白線に限らず、道路に沿って設けられたガードレールや縁石なども、注目すべき対象物としてのラインに含めてよい。
上記実施形態では、撮像面70を、台形状の第1撮像領域と、第1撮像領域以外の第2撮像領域と、の2つに分けて、それぞれのフレームレートを異ならせる例を説明した。この代わりに、撮像面70を、第1撮像領域と、第2撮像領域と、第3撮像領域と、の3つ以上の撮像領域に分けて、各撮像領域のフレームレートを異ならせてもよい。
また、上記実施形態では、第1撮像領域と第2撮像領域とをさらに、それぞれ2つの撮像領域に分ける例を説明した。この代わりに、上記第1撮像領域と上記第2撮像領域とをそれぞれを3つ以上の撮像領域に分けて、3つ以上に細分化された撮像領域ごとのフレームレートを異ならせるようにしてもよい。
上記実施形態では、制御装置4が、不図示のナビゲーション装置からの車線変更指示を入力したことをトリガにして、図22(a) に示す第1撮像領域79から図22(b) に示す第1撮像領域79Aへ徐々に撮像領域をずらすようにした。この代わりに、車線変更を行うタイミングを制御装置4で判断するようにしてもよい。制御装置4は、車線変更を行う地点情報の供給を車両1のカーナビゲーション装置から受けたり、地点情報を記憶部4bにあらかじめ記憶したりしておく。制御装置4は、GPS装置15から入力した位置情報が、車線変更を行う地点情報と合致する場合に、車線変更を判断する。車線変更を判断した制御装置4は、カメラ3で取得された画像に車線変更先の通行帯を検出すると、図22(a) に示す第1撮像領域79から図22(b) に示す第1撮像領域79Aへ撮像領域をずらす。
以上の説明では、カメラ3で行う距離測定として、撮像素子100に備えられている焦点検出用画素からの画像信号を用いた測距演算により算出する手法を用いたが、ステレオカメラによる2枚の画像を用いて距離測定を行う手法を用いてもよい。また、カメラ3と別にミリ波レーダを用いて距離測定を行う手法を用いてもよい。
2…運転支援装置
3…カメラ
4…制御装置
4b…記憶部
5…第1の走行制御ユニット
6…第2の走行制御ユニット
12…車速センサ
14…表示装置
15…GPS装置
18…ビーム切換えスイッチ
19…降雨センサ
31…撮像光学系
35…制御部
35a…測距演算部
71、73、75、77、79、79A…第1撮像領域
72、74、76、78、80…第2撮像領域
71a…第3撮像領域
72a…第4撮像領域
73a、73c…第5撮像領域
74a、74c…第6撮像領域
87…第7撮像領域
100…撮像素子
113…撮像チップ
Claims (8)
- 車に搭載される撮像装置において、
前記車の外部を撮像する撮像部と、
前記車のライトの照射方向の情報を入力する入力部と、
前記撮像部の撮像条件を制御する撮像制御部と、を有し、
前記撮像制御部は、前記情報に応じて、前記撮像部の撮像条件を変更する撮像装置。 - 請求項1に記載の撮像装置において、
前記撮像制御部は、前記情報に応じて、前記撮像部の撮像速度を変更する撮像装置。 - 請求項1または2に記載の撮像装置において、
前記撮像制御部は、前記情報に応じて、前記撮像部の画素の間引き率を変更する撮像装置。 - 車に搭載される撮像装置において、
撮像条件の異なる複数の撮像領域を有する撮像部と、
前記車のライトの照射方向の情報を入力する入力部と、
前記撮像部の撮像条件を制御する撮像制御部と、を有し、
前記撮像制御部は、前記情報に応じて、前記撮像部の一部の撮像領域である第一の撮像領域の撮像条件を変更する撮像装置。 - 請求項4に記載の撮像装置において、
前記撮像制御部は、前記情報に応じて、前記第一の撮像領域の位置を変更する撮像装置。 - 請求項4または5に記載の撮像装置において、
前記撮像制御部は、前記情報に応じて、前記第一の撮像領域の撮像速度を変更する撮像装置。 - 請求項4から6のいずれか一項に記載の撮像装置において、
前記撮像制御部は、前記情報に応じて、前記第一の撮像領域の画素の間引き率を変更する撮像装置。 - 請求項4から7のいずれか一項に記載の撮像装置において、
前記撮像制御部は、前記撮像部の一部の撮像領域であり、前記第一の撮像領域と異なる第二の撮像領域の撮像条件を前記第一の撮像領域と異ならせる撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018131486A JP6642641B2 (ja) | 2018-07-11 | 2018-07-11 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018131486A JP6642641B2 (ja) | 2018-07-11 | 2018-07-11 | 撮像装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015186058A Division JP6369433B2 (ja) | 2015-09-18 | 2015-09-18 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019009783A true JP2019009783A (ja) | 2019-01-17 |
JP6642641B2 JP6642641B2 (ja) | 2020-02-05 |
Family
ID=65029217
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018131486A Active JP6642641B2 (ja) | 2018-07-11 | 2018-07-11 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6642641B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020174978A1 (ja) * | 2019-02-27 | 2020-09-03 | 富士フイルム株式会社 | 撮像装置、撮像装置の画像データ処理方法、及びプログラム |
WO2020262442A1 (ja) * | 2019-06-25 | 2020-12-30 | 日本精機株式会社 | 車両用表示装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006350670A (ja) * | 2005-06-15 | 2006-12-28 | Denso Corp | 夜間運転視界支援装置 |
JP2007096510A (ja) * | 2005-09-27 | 2007-04-12 | Omron Corp | 前方撮影装置 |
JP2007184814A (ja) * | 2006-01-10 | 2007-07-19 | Seiko Epson Corp | 撮像素子及び撮像装置 |
JP2010111261A (ja) * | 2008-11-06 | 2010-05-20 | Honda Motor Co Ltd | 視覚支援装置 |
JP2012023497A (ja) * | 2010-07-13 | 2012-02-02 | Olympus Corp | 撮像装置、撮像制御方法、およびプログラム |
WO2013164915A1 (ja) * | 2012-05-02 | 2013-11-07 | 株式会社ニコン | 撮像装置 |
-
2018
- 2018-07-11 JP JP2018131486A patent/JP6642641B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006350670A (ja) * | 2005-06-15 | 2006-12-28 | Denso Corp | 夜間運転視界支援装置 |
JP2007096510A (ja) * | 2005-09-27 | 2007-04-12 | Omron Corp | 前方撮影装置 |
JP2007184814A (ja) * | 2006-01-10 | 2007-07-19 | Seiko Epson Corp | 撮像素子及び撮像装置 |
JP2010111261A (ja) * | 2008-11-06 | 2010-05-20 | Honda Motor Co Ltd | 視覚支援装置 |
JP2012023497A (ja) * | 2010-07-13 | 2012-02-02 | Olympus Corp | 撮像装置、撮像制御方法、およびプログラム |
WO2013164915A1 (ja) * | 2012-05-02 | 2013-11-07 | 株式会社ニコン | 撮像装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020174978A1 (ja) * | 2019-02-27 | 2020-09-03 | 富士フイルム株式会社 | 撮像装置、撮像装置の画像データ処理方法、及びプログラム |
US11711595B2 (en) | 2019-02-27 | 2023-07-25 | Fujifilm Corporation | Imaging apparatus, image data processing method of imaging apparatus, and program |
WO2020262442A1 (ja) * | 2019-06-25 | 2020-12-30 | 日本精機株式会社 | 車両用表示装置 |
JP7472909B2 (ja) | 2019-06-25 | 2024-04-23 | 日本精機株式会社 | 車両用表示装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6642641B2 (ja) | 2020-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11572016B2 (en) | Image capture device and vehicle | |
JP6620395B2 (ja) | 撮像装置 | |
JP6451575B2 (ja) | 撮像装置 | |
JP2015226255A (ja) | 撮像装置および自動車 | |
JP6451332B2 (ja) | 撮像装置および自動車 | |
JP7380666B2 (ja) | 車両、及び運転支援装置 | |
JP6358214B2 (ja) | 撮像装置 | |
JP6451576B2 (ja) | 撮像装置 | |
JP6642641B2 (ja) | 撮像装置 | |
JP6369433B2 (ja) | 撮像装置 | |
JP6358213B2 (ja) | 撮像装置 | |
JP6369432B2 (ja) | 撮像装置 | |
JP2018186525A (ja) | 撮像装置 | |
JP6699687B2 (ja) | 撮像装置 | |
JP2015228707A (ja) | 撮像装置 | |
JP2019134459A (ja) | 撮像装置 | |
JP6365480B2 (ja) | 撮像装置 | |
JP2016130099A (ja) | 撮像装置 | |
JP2016027740A (ja) | 撮像装置 | |
JP2022140444A (ja) | 運転支援装置及び運転支援装置搭載車両 | |
JP2016027739A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180723 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190513 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190521 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20190712 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190920 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191203 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191216 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6642641 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |