JP6910841B2 - 撮像装置及びその調整方法 - Google Patents

撮像装置及びその調整方法 Download PDF

Info

Publication number
JP6910841B2
JP6910841B2 JP2017089678A JP2017089678A JP6910841B2 JP 6910841 B2 JP6910841 B2 JP 6910841B2 JP 2017089678 A JP2017089678 A JP 2017089678A JP 2017089678 A JP2017089678 A JP 2017089678A JP 6910841 B2 JP6910841 B2 JP 6910841B2
Authority
JP
Japan
Prior art keywords
image
target position
image sensor
image pickup
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017089678A
Other languages
English (en)
Other versions
JP2018191049A (ja
Inventor
崇倫 仲田
崇倫 仲田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017089678A priority Critical patent/JP6910841B2/ja
Priority to US15/961,192 priority patent/US10616500B2/en
Publication of JP2018191049A publication Critical patent/JP2018191049A/ja
Application granted granted Critical
Publication of JP6910841B2 publication Critical patent/JP6910841B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、魚眼レンズを含む撮像光学系を備えた撮像装置及びその調整方法に関する。
近年、監視カメラ等の撮像装置の分野では、魚眼レンズを備えカメラの周囲全体をくまなく監視できるいわゆる全方位カメラが注目されている。この種の装置は魚眼レンズを使って被写体像を結像させるため、撮像素子の一部を丸く切り出すように被写体像が結像する。ところで、撮像素子においてはその製造上または回路構成に起因して、個々の特性が異なる場合がある。特性として例えば、画素出力が異常となる欠陥画素の存在や、素子内部の回路構成等に起因するダークシェーディングの発生等が挙げられる。欠陥画素の発生を皆無にするのは困難であるため、様々な方法で補正をする技術が提案されている。特許文献1では、周辺画素に対するレベル差を2つの閾値と比較して欠陥画素を判定し、欠陥画素を周囲画素の信号で補正する技術が開示されている。
特開2003−189189号公報
しかしながら、特許文献1の技術によると、周囲画素で欠陥画素を補正するので、境界部において誤補正するおそれがある。特に密集した欠陥画素が存在すると誤補正するおそれが高まる。なお、魚眼レンズを用いる場合、通常、被写体像が結像する領域として撮像素子の有効画素の一部しか使用されないことから、良好な画像を得る観点からは改善の余地がある。
本発明は、例えば、撮像素子の比較的特性の良い領域を結像領域として用いることを目的とする。
上記目的を達成するために本発明は、魚眼レンズを含む撮像光学系と、前記撮像光学系に対する相対的位置を移動可能に構成され、前記撮像光学系により結像した被写体像を電気信号に変換する撮像素子と、前記撮像素子の特性を取得する第1の取得手段と、前記撮像素子における前記被写体像の結像位置を取得する第2の取得手段と、前記第1の取得手段により取得された前記撮像素子の前記特性と、前記第2の取得手段により取得された結像位置とに基づいて、移動させるべき前記撮像素子の目標位置を決定する決定手段と、を有し、前記決定手段は、前記目標位置への前記撮像素子の移動後における前記被写体像の結像領域が前記撮像素子の有効画素の領域内となるように、且つ、前記目標位置への前記撮像素子の移動前に比し、前記目標位置への前記撮像素子の移動後の方が、前記被写体像の結像領域における前記特性が改善されるように、前記目標位置を決定することを特徴とする。
本発明によれば、例えば、撮像素子の比較的特性の良い領域を結像領域として用いることができる。
撮像装置の構成を示すブロック図である。 撮像素子の駆動機構の模式図である。 結像位置調整処理のフローチャートである。 結像位置調整処理のフローチャートである。 欠陥画素の種類と評価値との関係表の例を示す図である。 シェーディングの輝度差と評価値との関係表の例を示す図である。 撮像装置の構成を示すブロック図である。 画像の歪み補正の様子を示す概念図である。 結像位置調整処理のフローチャートである。 移動前後の結像領域の例を示す図である。 撮像装置の構成を示すブロック図である。 有効画素領域と移動制限領域との関係を例示する図((a))、移動量制限領域を設定する場合の可動範囲を示す図((b)〜(d))である。 結像位置調整処理のフローチャートである。
以下、図面を参照して本発明の実施の形態を説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態に係る撮像装置の構成を示すブロック図である。この撮像装置は、魚眼レンズであるレンズ101を含む撮像光学系を有する。不図示の被写体像は、レンズ101を介して、CCDまたはCMOSセンサなどの撮像素子102に入射する。撮像素子102上に結像した被写体像は電気信号に変換され、A/Dコンバータでデジタル信号(画像信号)に変換され、画像処理部103に入力される。画像処理部103は、入力された画像に、ガンマ補正やカラーバランス調整など、所定の画像処理を行う。所定の画像処理が行われた画像は、出力機器や保存機器などに出力される。
特性検知部104(第1の取得手段)は、撮像素子102の欠陥画素の位置情報や撮像素子102のシェーディングの情報など、撮像素子102が個々に持っている素子特性を検知・取得する。結像位置検知部105(第2の取得手段)は、レンズ101が取り込んだ被写体像が撮像素子102の撮像面上におけるどの位置に結像しているか、すなわち被写体像の結像位置を検知する。算出部106(決定手段)は、特性検知部104及び結像位置検知部105からの出力に基づき、移動させるべき撮像素子102の目標位置を決定する。一例として、算出部106は、欠陥画素が最も少なくなるような結像位置となるように目標位置(現在位置に対する移動方向及び移動量)を算出する。読出領域設定部107は、撮像素子102における信号の読み出し領域を設定する。一例として、読出領域設定部107は、算出部106で決定された目標位置へ撮像素子102を移動させた後に、撮像素子102上に結像される被写体像を含む領域、すなわち結像領域を、読み出し領域として設定する。
なお、図示はしないが、撮像装置は装置全体の制御を司るCPUのほか、RAMやROM等の記憶部を備え、上記した各処理部の機能はこれらのCPU及び記憶部の協働により実現される。このROMには、CPUにより実行される制御プログラムが格納されている。また、撮像素子102の個々の素子特性の情報が予めROM等の記憶部に格納されている場合は、特性検知部104はそれを参照することで取得できる。
図2は、撮像素子の駆動機構の模式図である。撮像素子102は移動可能に構成されている。撮像ユニット201は、撮像素子102を駆動する駆動機構として、水平方向駆動用のモータ203と垂直方向駆動用のモータ204とを有する。撮像ユニット201は、モータ203、204を動作させることによって撮像素子102を移動させ、レンズ101の光軸に垂直な平面座標上の任意の位置に撮像素子102を位置させることができる。ここでは、水平・垂直軸についての移動機構を例示した。しかし、撮影光学系と正対している限り、光軸方向前後に動作する駆動系、撮像素子102を上記平面座標上で回転させるような駆動系を採用または併用してもよい。なお、撮像素子102の移動は手動、自動のいずれによってもよい。自動駆動の場合は、上記したCPUがモータ203、204を制御する。なお、図2の例では、自動駆動のためのアクチュエータとしてモータ203、204を採用したが、圧電素子等をアクチュエータとして用いてもよい。あるいは、単純なねじ等を設け、撮像素子102を手動で駆動できるように構成してもよい。
次に、撮像素子102の特性と結像位置とに基づいて目標位置を決定し、結像位置を調整する処理を説明する。なお、この処理の実施時期は、撮像装置の製品としての出荷前が主に想定されるが、出荷後であってもよい。図3は、結像位置調整処理のフローチャートである。この処理は、撮像装置に備わるROMに格納された制御プログラムをCPUが読み出して実行することにより実現される。
まず、特性検知部104は、結像画像を含む撮像素子102全体の画像を取得する(ステップS301)。全体の画像は画像処理部103によっても取得される。次に、特性検知部104は素子特性を検知する(ステップS302)。本実施の形態では、特性検知部104は、素子特性として、上記ROM等に予め記憶されている欠陥画素に関する情報を取得する。その際、特性検知部104は、素子特性を算出部106に送ると共に、撮像素子102全体の画像を結像位置検知部105に送る。次に、結像位置検知部105は、ステップS301で取得された画像を基に、撮像素子102上における被写体像の結像位置(結像領域及びその中心位置)を検知する(ステップS303)。なお、結像位置検知部105は、画像情報から結像位置を取得するとしたが、レンズ101と撮像素子102との位置関係から結像位置を算出・取得するようにしてもよい。
次に、特性検知部104の出力(素子特性)及び結像位置検知部105の出力(結像位置)に基づいて、算出部106は、移動させるべき撮像素子102の目標位置を決定する(ステップS304)。ここではまず、算出部106は、目標位置への移動後における被写体像の結像領域が撮像素子102の有効画素の領域内となるという条件の下で目標位置を決定する。算出部106は、この条件を満たすことに加えて、移動前に比し移動後の方が、結像領域における欠陥画素の数が少なくなるように目標位置を決定(撮像素子102の移動方向及び移動量を算出)する。最も望ましくは、算出部106は、結像領域に含まれる欠陥画素が最も少なくなるような領域に被写体が結像するように目標位置を決定する。目標位置は、結像領域の所定位置(例えば、中心位置)を基準に規定され、例えば、移動前の結像領域の中心位置に対する移動後の結像領域の中心位置の移動方向及び移動量として定義される。その後、図3の処理は終了する。なお、目標位置を調整者に報知するために、不図示の表示部に目標位置を示す情報(現在位置からの移動方向及び移動量)を表示するようにしてもよい。
図3の処理後、調整者は、駆動機構(図2)を用いて撮像素子102を目標位置へ移動させる。あるいは、CPUが駆動機構を制御して撮像素子102を目標位置へ移動させる。読出領域設定部107は、目標位置へ移動した撮像素子102上の結像領域が新たな読み出し領域となるよう、読み出し領域の設定を変更する。撮像素子102を目標位置に移動させることで、撮像素子102上の特性が良好な領域を使うことができ、欠陥画素に関する素子特性が改善されるので、出力画像に与える欠陥画素の影響を軽減できる。
本実施の形態によれば、素子特性と結像位置とに基づいて目標位置を決定するので、例えば、撮像素子の比較的特性の良い領域を結像領域として用いることができる。欠陥画素が極力少なくなるように目標位置を決定すれば、欠陥画素に起因する誤補正や被写体の誤認識等を軽減でき、従来に比べて認識性の向上した画像を提供することが可能となる。
(第2の実施の形態)
本発明の第2の実施の形態では、算出部106は、素子特性として、欠陥画素に関する情報に加えて、撮像面上の輝度ムラに関する情報も考慮して目標位置を決定する。第1の実施の形態に対して、図3に代えて図4を用い、さらに図5、図6を用いて本実施の形態を説明する。本実施の形態における結像位置調整処理は、主に撮像装置の製品としての出荷前に実施されることが想定される。
図4は、結像位置調整処理のフローチャートである。この処理は、例えば、工場の調整者がPC等の情報機器を用いて実行する。まず、調整者は、撮像素子102の環境温度を上昇させる(ステップS401)。温度を上昇させる基準としては、製品それぞれの通常使用範囲内で達する温度を想定している。次に、調整者は、撮像素子102の蓄積時間を長く設定する(ステップS402)。ここで、設定する蓄積時間は、製品使用範囲の最長の蓄積時間を想定している。次に、調整者は、欠陥画素を検知する。欠陥画素の検知の手法として、明るさが画角内で均等に分布された被写体を撮影して得た画像から検知する方法や、撮像装置を遮光して真っ暗な環境で撮影して得た画像から検知する方法等が考えられる。しかし画像からキズ(欠陥画素)を検知できる方法であれば方法は問わない。また、欠陥画素の検知は、特性検知部104が実行するようにしてもよい。また、本撮像装置に接続したPC等の情報機器に画像を転送し、情報機器により欠陥画素を検知してもよい。
ステップS404〜S408は、調整者の操作に従って上記情報機器が実行する。情報機器は、欠陥画素に関する情報が予め保存されているか否かを判別する(ステップS404)。この情報の保存場所は、撮像装置が有するFlashメモリ等の不揮発メモリ(不図示)を想定しているが、それに限らず、情報機器が有する記憶部であってもよい。そして情報機器は、欠陥画素に関する情報が予め保存されていない場合は、処理をステップS406に進める。一方、欠陥画素に関する情報が予め保存されている場合は、情報機器は、ステップS403で検知された欠陥画素の情報と、保存された欠陥画素の情報とを結合し(ステップS405)、処理をステップS406に進める。ステップS406では、情報機器は、撮像素子102の有効画素上の欠陥画素の場所を示す、欠陥画素マップ(欠陥画素のマッピング画像)を作成する。従って、ステップS405を実行した場合は、検知された欠陥画素に、保存された欠陥画素が追加された欠陥画素マップが作成される。ステップS405を実行しない場合は、検知された欠陥画素のみから欠陥画素マップが作成される。
次に、調整者は、撮像装置を遮光した際の画像を撮影し、情報機器は、その時の輝度分布をマッピングした有効画素上の輝度マップを作成する(ステップS407)。なお、素子特性として撮像面上の輝度ムラを検知する処理は特性検知部104が実行してもよい。そして、情報機器は、ステップS406で作成された欠陥画素マップとステップS407で作成された輝度マップとに基づいて目標位置を決定する(ステップS408)。ここで、欠陥画素マップ及び輝度マップの解析手法、さらには目標位置の決定手法の例を図5、図6で説明する。
図5は、欠陥画素の種類と評価値との関係表の例を示す図である。図6は、シェーディングの輝度差と評価値との関係表の例を示す図である。図5では、欠陥画素の種類の区分として、単一の欠陥画素、複数画素がつながった欠陥画素、密集している欠陥画素の3つに区別されている。単一の欠陥画素とは、周囲画素には全く問題がなく単一に存在する欠陥画素である。複数画素がつながった欠陥画素とは、2つ以上の隣接する欠陥画素から成る欠陥画素である。例えば、ある欠陥画素から見て縦方向、横方向、斜め方向のいずれかの周囲画素に欠陥があれば、それらはつながった欠陥画素として検知される。なお、さらに詳細に、つながった複数画素として、2画素がつながっている場合や3画素がつながっている場合などに区分してもよい。密集している欠陥画素については、本実施の形態では、欠陥画素マップをブロック(例えば、50画素×50画素)ごとに分割し、ブロック中の欠陥画素の割合が閾値Th%以上である場合に、そのブロックは密集した欠陥画素であるとされる。閾値Thは任意に設定できるが、一例として0.1%程度を想定している。また、欠陥画素マップを分割するブロックサイズ(分割領域の画素数)についても自由に設定できる。なお、欠陥画素の種類の定義に関してはこれらの例示に限られるものではなく、複数の種類に分割できれば他のルールで定義してもよい。
次に、欠陥画素の種類ごとに、それぞれ評価値が設定される。図5の例では、単一の欠陥画素が1、複数画素がつながった欠陥画素が5、密集している欠陥画素が10という値が評価値として設定される。評価値が大きいほど欠陥の度合いが高い。情報機器は、は、算出した評価値を欠陥画素数で割ることで正規化を行ってもよい。
一方、図6に示すように、シェーディングに関しては、補正において輝度差を比較するときの範囲として、周辺10画素×10画素程度の範囲を考える。これは、画素単位で輝度差の比較をするとノイズなどの影響で輝度差が非常に大きくなるおそれがあるからである。本実施の形態では、情報機器は、周辺10画素×10画素程度の範囲でメディアンフィルタを使用して輝度差を算出し、輝度差ごとに評価値を設定する。なお、ノイズの影響を排除できればよいので、ローパスフィルタ等、別の手法を使用してもよい。図6の例では、とりうる結像範囲全体において、最大輝度差が5%以上、10%以上、20%以上という基準を設定している。5%以上、10%以上、20%以上に対して、それぞれ評価値として1、5、10が設定される。
そして情報機器は、欠陥画素マップの解析で取得した評価値と、シェーディングの輝度差の解析で取得した評価値とを足し合わせた値を、全体の評価値として算出する。情報機器は、ステップS408で、移動前に比し移動後の方が、被写体像の結像領域における全体の評価値が小さくなる(望ましくは最小となる)ように、目標位置を決定する。これにより、素子特性として、欠陥画素及び撮像面上の輝度ムラを加味した特性が改善されるように目標位置が決定される。なお、目標位置を算出部106が決定してもよい。
次に、ステップS409では、調整者は、決定された目標位置に応じて撮像素子102を移動する。上述のように工場等で調整が行われることを想定しているため、調整者はねじ等の冶具を用いて移動させる。なお、撮像素子102の移動を情報機器により自動で行うようにしてもよい。ステップS410では、情報機器は、目標位置へ移動した撮像素子102上の結像領域の信号が読み出されるように、読み出し領域を設定する。この読み出し領域の設定値は、撮像装置が有するFlashメモリ等の不揮発メモリ(不図示)に保存される。なお、読み出し領域の設定を読出領域設定部107が実行してもよい。
本実施の形態によれば、撮像素子の比較的特性の良い領域を結像領域として用いることができることに関し、第1の実施の形態と同様の効果を奏することができる。しかも、欠陥画素だけでなくシェーディングの輝度差も考慮して目標位置を決定するので、欠陥画素や輝度ムラが少ない領域を用いることができ、認識性を一層向上させることができる。
なお、本実施の形態では、結像位置調整処理を製品出荷前に工場で行う想定した。しかし、結像位置調整処理を実現する上で各処理の主体は、調整者、情報機器、撮像装置が有するCPUのいずれかによるか、あるいはいずれかの協働によるとしてもよい。
なお、本実施の形態では、欠陥画素及びシェーディングの輝度差の双方を考慮した。しかし欠陥画素に関する評価値と、シェーディングの輝度差に関する評価値とに所定の重み付けをしてもよい。あるいは、調整者による選択によって、欠陥画素だけ、またはシェーディングの輝度差だけに基づいて目標位置を決定できるように構成してもよい。
(第3の実施の形態)
図7は、本発明の第3の実施の形態に係る撮像装置の構成を示すブロック図である。本実施の形態に係る撮像装置の構成は、制御機構として図1に示すブロックに、補正処理部701及び駆動部702が追加された点が第1の実施の形態と異なる。また、第1の実施の形態に対して、図3に代えて図9を用い、さらに図8、図10を用いて本実施の形態を説明する。本実施の形態における結像位置調整処理は、主に撮像装置の製品としての出荷後に実施されることが想定されるが、出荷前に実施されてもよい。
補正処理部701は、画像処理部103から入力された画像の歪みを幾何補正する。補正処理部701の機能のオン(有効)/オフ(無効)は調整者(例えば、ユーザ)が任意に設定できる。駆動部702は、モータ等のアクチュエータから構成され、決定された目標位置に応じて撮像素子102の位置を動的に変更する。駆動部702は、撮像素子102を移動させることができればよく、図2に示したモータ203、204を動作させる構成であってもよい。
図8は、画像の歪み補正の様子を示す概念図である。一般に、魚眼レンズで結像した画像を単純に幾何変換すると、画像の中央部分が画像の幅分延びるため、中央付近は情報としてあまり有用でなくなってしまう。そのために、図8に示したように画像の真ん中付近は除外して、その他の部分に対して歪み補正をかける処理が通常行われている。
図9は、結像位置調整処理のフローチャートである。この処理は、撮像装置に備わるROMに格納された制御プログラムをCPUが読み出して実行することにより実現される。まず、ステップS301〜S303の処理は第1の実施の形態(図3)で説明したのと同様である。ステップS303の後、ステップS901では、撮像装置のCPUは、補正処理部701の機能がオンになっているか否かを判別する。そして、補正処理部701の機能がオフである場合は、CPUは処理をステップS304に進める。ステップS304の処理は第1の実施の形態(図3)で説明したのと同様である。その後、処理はステップS904に進む。
一方、補正処理部701の機能がオンである場合は、補正処理部701は画像の歪み補正を実施する(ステップS902)。補正処理部701は例えば、図8に示したように、画像の真ん中付近を除外した領域(上画像と下画像)に対して歪み補正を施す。次に、算出部106は、歪み補正を加味して目標位置を決定する(ステップS903)。歪み補正を加味した目標位置の決定については、特に密集した欠陥画素が存在するか否かによって動作が異なる場合がある。
図10に、移動前の結像領域(点線)と目標位置への移動後の結像領域(実線)の例を示す。中央の黒点は密集した欠陥画素を表している。画面中央の大きい方の円は、図8に示した撮像素子102への被写体の結像領域を示している。密集した欠陥画素が撮像素子102の中央部分にあるような場合は、密集した欠陥画素を結像領域から避けることが困難となる。このような場合で、出力画像が歪み補正済みの画像だったときは、第1、第2の実施の形態とは異なり、算出部106は、結像領域の中央部分は結像画像ではないとみなして、目標位置を決定する。すなわち、算出部106は、補正処理部701が用いられる場合に、目標位置への撮像素子102の移動後における被写体像の結像領域のうち中央領域(所定の領域)を除いた領域における素子特性が改善されるように、目標位置を決定する。ここでは、結像領域の欠陥画素が少なくなるように目標位置が決定される。なお、撮像素子102の有効画素の領域内で決定するという条件を満たすべきことは第1の実施の形態と同様である。これにより、画像の歪みを補正する場合に特性の良い領域を結像領域として用いることができる。
ステップS903の後、処理はステップS904に進む。ステップS904では、駆動部702は、撮像素子102を目標位置へ移動させるべく駆動する。その後、図9の処理は終了する。
本実施の形態によれば、撮像素子の比較的特性の良い領域を結像領域として用いることができることに関し、第1の実施の形態と同様の効果を奏することができる。特に、画像の歪み補正を利用する場合に歪み補正を考慮して目標位置を決定するので、経年劣化、放射線等、長時間蓄積、高利得時等の撮影条件の変化により素子特性が変化しても、リアルタイムに適切な目標位置を決定することができる。また、結像領域の素子特性が改善されるように目標位置を決定する際に、結像領域のうち除かれる所定の領域は中央領域である。これにより、いわゆるデワープ補正で用いない領域を除外し、実質的に用いる領域中の特性の良い領域を結像領域として用いることができる。
なお、ステップS901の判別はCPUが実行するとしたがこれに限らない。例えば、撮像装置のユーザが判別し、補正処理部701の機能がオンになっている場合は、ステップS902以降の処理を実行するよう撮像装置に指示してもよい。
(第4の実施の形態)
図11は、本発明の第4の実施の形態に係る撮像装置の構成を示すブロック図である。本実施の形態に係る撮像装置の構成は、制御機構として図1に示すブロックに、駆動部702、振動検知部1101、振動補正部1102及び制限設定部1103が追加された点が第1の実施の形態と異なる。また、第1の実施の形態に対して、図3に代えて図13を用い、さらに図12を用いて本実施の形態を説明する。本実施の形態における結像位置調整処理は、主に撮像装置の製品としての出荷後に実施されることが想定される。
振動検知部1101はジャイロセンサ等から構成され、撮像装置の振動(振れ、ないし揺れ)を検知する。なお、振動検知は振動検知部1101等のセンサによるものに限らず、画像情報から物体の移動量を検知するベクトル検知の手法を用いてもよい。振動補正部1102は、振動検知部1101で検知した振れを打ち消すように、撮像素子を駆動させる、いわゆるセンサシフト方式の防振機能を実現する。
図12(a)は、撮像素子102の有効画素領域と制限設定部1103により設定される移動制限領域との関係を例示する図である。制限設定部1103は、検知された振れに応じて移動制限領域を設定する。その際、制限設定部1103は、撮像光学系の光軸に対する垂直方向及び水平方向のそれぞれにおいて、有効画素領域よりも広くない範囲(同じかまたは狭い範囲)で矩形の移動制限領域を設定する。第1の実施の形態で説明した手法で目標位置を決定し、撮像素子102を動かした場合、装置の振動によって結像領域が有効画素領域からはみ出すおそれがある。従って、振れが大きいほど、撮像素子102を移動させる余裕が少なくなる。そこで、振れの大きさに応じて移動制限範囲を設定することで、防振機能を作用させても結像領域が有効画素領域内に収まるようにする。
図13は、結像位置調整処理のフローチャートである。この処理は、撮像装置に備わるROMに格納された制御プログラムをCPUが読み出して実行することにより実現される。ステップS301〜S303の処理は第1の実施の形態(図3)で説明したのと同様である。ステップS303の後、ステップS1301では、振動検知部1101は、撮像装置の振れ(振れ量)を検知する。次に、ステップS1302で、制限設定部1103は、振れ量に相当する画素数(振れ相当画素数と称する)、有効画素の垂直画素数及び水平画素数に基づいて、移動量制限領域を設定する。
図12(b)〜(d)で、移動量制限領域を設定する場合の可動範囲について説明する。ステップS303で取得した結像領域の中心位置をGとする。撮像素子102に対する中心位置Gの垂直、水平方向における相対的な可動範囲をそれぞれV、Hとする。移動量制限領域における垂直方向の距離は、結像領域の直径に可動範囲Vを加えた距離である。移動量制限領域における水平方向の距離は、結像領域の直径に可動範囲Hを加えた距離である。なお、振れが無いかまたは振れを考慮しないときの可動範囲は、有効画素領域内で結像領域を相対的に移動可能な範囲であり、これらが移動量制限領域における垂直、水平方向それぞれの最大可動範囲となる。ここで、撮像素子102の短辺が垂直方向、長辺が水平方向であるとし、撮像素子102の有効画素の画素数は、垂直方向よりも水平方向の方が多いとする。
垂直画素数≧振れ相当画素数である場合は、制限設定部1103は、図12(b)に示すように、結像領域の直径に可動範囲Vを加えた距離を短辺とし、結像領域の直径に可動範囲Hを加えた距離を長辺とする矩形領域を、移動量制限領域として設定する。可動範囲V、可動範囲Hは振れ相当画素数に応じて設定され、振れ相当画素数が大きいほど小さい値に設定される。仮に振れ相当画素数=0(振れ無し)であった場合は、可動範囲V、可動範囲Hはそれぞれ最大値となり、目標位置の決定処理は第1の実施の形態と同様となる。すなわち、移動量制限領域は有効画素領域と等しい領域に設定される。
水平画素数≧振れ相当画素数>垂直画素数である場合は、可動範囲Vは0となるので、12(c)に示すように、目標位置への移動後の結像領域の中心位置Gは、有効画素領域の垂直方向における中央を通る。つまり、結像領域を水平方向で移動させることはできるが、垂直方向へ移動させることはできない。
振れ相当画素数>水平画素数である場合は、可動範囲V、可動範囲Hは共に0となるので、図12(d)に示すように、目標位置への移動後の結像領域の中心位置Gは、有効画素領域の垂直方向における中央且つ水平方向における中央に一致する。つまり、垂直方向、水平方向のいずれにも、結像領域を移動させることはできない。
なお、仮に、短辺が水平方向、長辺が垂直方向の撮像素子を用いた場合は、垂直方向と水平方向とで逆にして考える必要がある。長い方の辺の画素数を振れ相当画素数が超えると、結像領域を移動させることはできない。
次に、ステップS1303では、算出部106は、目標位置への移動後における被写体像の結像領域が撮像素子102の移動量制限領域内となるという条件の下で目標位置を決定する。移動前に比し移動後の方が、結像領域における欠陥画素の数が少なくなる(望ましくは欠陥画素が最も少なくなる)ように決定する点は第1の実施の形態(ステップS304)と同様である。次に、ステップS1304では、駆動部702は、撮像素子102を目標位置へ移動させるべく駆動する。そしてステップS1305では、振動補正部1102は振れ補正を開始し、その後、図13の処理は終了する。
本実施の形態によれば、撮像素子の比較的特性の良い領域を結像領域として用いることができることに関し、第1の実施の形態と同様の効果を奏することができる。しかも、防振機構を持つ撮像装置において、振れに応じた移動制限領域内で目標位置を決定することで、防振機能を確保できる範囲で撮像素子を移動させることができる。
なお、上記各実施の形態において、撮像素子102は、撮像光学系に対する相対的位置を移動可能であればよく、目標位置への移動に関し、撮像光学系を移動させる構成を排除するものではない。
なお、第2の実施の形態で説明した、撮像面上の輝度ムラを目標位置の決定に反映させる構成は、第3、第4の実施の形態にも適用してもよい。また、第3の実施の形態で説明した、歪み補正を目標位置の決定において考慮する構成は、第2、第4の実施の形態にも適用してもよい。
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。
101 レンズ
102 撮像素子
104 特性検知部
105 結像位置検知部
106 算出部


Claims (10)

  1. 魚眼レンズを含む撮像光学系と、
    前記撮像光学系に対する相対的位置を移動可能に構成され、前記撮像光学系により結像した被写体像を電気信号に変換する撮像素子と、
    前記撮像素子の特性を取得する第1の取得手段と、
    前記撮像素子における前記被写体像の結像位置を取得する第2の取得手段と、
    前記第1の取得手段により取得された前記撮像素子の前記特性と、前記第2の取得手段により取得された結像位置とに基づいて、移動させるべき前記撮像素子の目標位置を決定する決定手段と、を有し、
    前記決定手段は、前記目標位置への前記撮像素子の移動後における前記被写体像の結像領域が前記撮像素子の有効画素の領域内となるように、且つ、前記目標位置への前記撮像素子の移動前に比し、前記目標位置への前記撮像素子の移動後の方が、前記被写体像の結像領域における前記特性が改善されるように、前記目標位置を決定することを特徴とする撮像装置。
  2. 前記特性には、前記撮像素子における欠陥画素に関する情報が含まれ、
    前記決定手段は、前記目標位置への前記撮像素子の移動前に比し、前記目標位置への前記撮像素子の移動後の方が、前記被写体像の結像領域における欠陥画素の数が少なくなるように、前記目標位置を決定することを特徴とする請求項1に記載の撮像装置。
  3. 前記特性には、前記撮像素子における撮像面上の輝度ムラに関する情報が含まれ、
    前記決定手段は、前記目標位置への前記撮像素子の移動前に比し、前記目標位置への前記撮像素子の移動後の方が、前記被写体像の結像領域における輝度ムラが少なくなるように、前記目標位置を決定することを特徴とする請求項1に記載の撮像装置。
  4. 前記特性には、前記撮像素子における欠陥画素に関する情報、及び、前記撮像素子における撮像面上の輝度ムラに関する情報が含まれ、
    前記決定手段は、前記目標位置への前記撮像素子の移動前に比し、前記目標位置への前記撮像素子の移動後の方が、前記被写体像の結像領域における欠陥画素の数及び前記被写体像の結像領域における輝度ムラの少なくとも一方が少なくなるように、前記目標位置を決定することを特徴とする請求項1に記載の撮像装置。
  5. 前記撮像素子により出力された画像の歪みを補正する補正手段を有し、
    前記決定手段は、前記補正手段が用いられる場合に、前記撮像素子の有効画素の領域内で且つ、前記目標位置への前記撮像素子の移動後における前記被写体像の結像領域のうち所定の領域を除いた領域における前記特性が改善されるように、前記目標位置を決定することを特徴とする請求項1〜のいずれか1項に記載の撮像装置。
  6. 前記所定の領域は、前記被写体像の結像領域における中央の領域であることを特徴とする請求項に記載の撮像装置。
  7. 前記撮像装置の振れを検知する検知手段と、
    前記撮像光学系の光軸に対する垂直方向及び水平方向のそれぞれにおいて、前記検知手段により検知された振れに応じて、前記撮像素子の有効画素領域よりも広くない移動制限領域を設定する設定手段と、を有し、
    前記決定手段は、前記目標位置への前記撮像素子の移動後における前記被写体像の結像領域が、前記設定手段により設定された前記移動制限領域内となるように、前記目標位置を決定することを特徴とする請求項1〜のいずれか1項に記載の撮像装置。
  8. 前記目標位置へ前記撮像素子を駆動する駆動手段を有することを特徴とする請求項1〜のいずれか1項に記載の撮像装置。
  9. 前記目標位置に応じて、前記撮像素子における信号の読み出し領域を設定する設定手段を有することを特徴とする請求項1〜のいずれか1項に記載の撮像装置。
  10. 魚眼レンズを含む撮像光学系と、前記撮像光学系に対する相対的位置を移動可能に構成され、前記撮像光学系により結像した被写体像を電気信号に変換する撮像素子と、を有する撮像装置の調整方法であって、
    前記撮像素子の特性を取得する第1の取得ステップと、
    前記撮像素子における前記被写体像の結像位置を取得する第2の取得ステップと、
    前記第1の取得ステップにより取得された前記撮像素子の前記特性と、前記第2の取得ステップにより取得された結像位置とに基づいて、移動させるべき前記撮像素子の目標位置を決定する決定ステップと、を有し、
    前記決定ステップは、前記目標位置への前記撮像素子の移動後における前記被写体像の結像領域が前記撮像素子の有効画素の領域内となるように、且つ、前記目標位置への前記撮像素子の移動前に比し、前記目標位置への前記撮像素子の移動後の方が、前記被写体像の結像領域における前記特性が改善されるように、前記目標位置を決定することを特徴とする撮像装置の調整方法。
JP2017089678A 2017-04-28 2017-04-28 撮像装置及びその調整方法 Active JP6910841B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017089678A JP6910841B2 (ja) 2017-04-28 2017-04-28 撮像装置及びその調整方法
US15/961,192 US10616500B2 (en) 2017-04-28 2018-04-24 Image pickup apparatus that uses imaging area having better characteristics, and method of adjusting the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017089678A JP6910841B2 (ja) 2017-04-28 2017-04-28 撮像装置及びその調整方法

Publications (2)

Publication Number Publication Date
JP2018191049A JP2018191049A (ja) 2018-11-29
JP6910841B2 true JP6910841B2 (ja) 2021-07-28

Family

ID=63916316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017089678A Active JP6910841B2 (ja) 2017-04-28 2017-04-28 撮像装置及びその調整方法

Country Status (2)

Country Link
US (1) US10616500B2 (ja)
JP (1) JP6910841B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022019080A1 (ja) * 2020-07-21 2022-01-27 株式会社デンソー 物体検出装置および物体検出装置の故障を検出する方法
US11252359B1 (en) * 2021-06-21 2022-02-15 Allegro Microsystems, Llc Image compensation for sensor array having bad pixels

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3884952B2 (ja) 2001-12-21 2007-02-21 株式会社日立製作所 撮像装置
JP2011112731A (ja) * 2009-11-25 2011-06-09 Canon Inc 撮像装置
JP5709734B2 (ja) * 2011-12-06 2015-04-30 キヤノン株式会社 光学防振装置、光学機器および光学防振装置の制御方法
JP2017067954A (ja) * 2015-09-29 2017-04-06 オリンパス株式会社 撮像装置、及び撮像装置の像ブレ補正方法
CN105872371B (zh) * 2016-03-31 2019-04-02 纳恩博(北京)科技有限公司 一种信息处理方法和电子设备

Also Published As

Publication number Publication date
US10616500B2 (en) 2020-04-07
US20180316839A1 (en) 2018-11-01
JP2018191049A (ja) 2018-11-29

Similar Documents

Publication Publication Date Title
US10419685B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP5887465B2 (ja) 撮像装置、撮像装置駆動方法、撮像装置制御プログラム
US8350951B2 (en) Image sensing apparatus and image data correction method
JP5843454B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2016057638A (ja) 複数のエッジ幅からフォーカス信号を生成する方法
US9838625B2 (en) Image processing apparatus and control method for image processing apparatus for controlling correction of a black level in a combined image signal
JP5141245B2 (ja) 画像処理装置、補正情報生成方法、および撮像装置
KR101449805B1 (ko) 화상 처리를 실행하는 화상 처리 장치
US9264606B2 (en) Processing device, image pickup device and processing method
US10839479B2 (en) Imaging apparatus, image processing apparatus, image processing method, and medium
US10416026B2 (en) Image processing apparatus for correcting pixel value based on difference between spectral sensitivity characteristic of pixel of interest and reference spectral sensitivity, image processing method, and computer-readable recording medium
US20190378301A1 (en) Calibration method of an image device and related image device and operational device thereof
JP2019168862A (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体
JP2013128217A5 (ja)
JP6910841B2 (ja) 撮像装置及びその調整方法
US11593958B2 (en) Imaging device, distance measurement method, distance measurement program, and recording medium
CN110995982B (zh) 图像处理装置及其控制方法、摄像装置、以及记录介质
CN110443750B (zh) 检测视频序列中的运动的方法
US10868962B2 (en) Image capturing apparatus performing image stabilization, control method thereof, and storage medium
US20190114806A1 (en) Image processing apparatus, image processing method, and storage medium
US10943328B2 (en) Image capturing apparatus, method for controlling same, and storage medium
US10791289B2 (en) Image processing apparatus, image processing method, and non-transitory computer readable recording medium
KR20110067700A (ko) 이미지 획득 방법 및 디지털 카메라 시스템
JP6452528B2 (ja) 監視カメラ
JP2019176302A (ja) 画像処理装置、画像処理方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200331

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210707

R151 Written notification of patent or utility model registration

Ref document number: 6910841

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151