JP5736512B2 - 撮像装置およびその動作制御方法 - Google Patents

撮像装置およびその動作制御方法 Download PDF

Info

Publication number
JP5736512B2
JP5736512B2 JP2014521237A JP2014521237A JP5736512B2 JP 5736512 B2 JP5736512 B2 JP 5736512B2 JP 2014521237 A JP2014521237 A JP 2014521237A JP 2014521237 A JP2014521237 A JP 2014521237A JP 5736512 B2 JP5736512 B2 JP 5736512B2
Authority
JP
Japan
Prior art keywords
image
imaging
optical axis
center
optical system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014521237A
Other languages
English (en)
Other versions
JPWO2013190946A1 (ja
Inventor
寿明 本木
寿明 本木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2014521237A priority Critical patent/JP5736512B2/ja
Application granted granted Critical
Publication of JP5736512B2 publication Critical patent/JP5736512B2/ja
Publication of JPWO2013190946A1 publication Critical patent/JPWO2013190946A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/64Imaging systems using optical elements for stabilisation of the lateral and angular position of the image
    • G02B27/646Imaging systems using optical elements for stabilisation of the lateral and angular position of the image compensating for small deviations, e.g. due to vibration or shake
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B5/00Adjustment of optical system relative to image or object surface other than for focusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2205/00Adjustment of optical system relative to image or object surface other than for focusing
    • G03B2205/0007Movement of one or more optical elements for control of motion blur
    • G03B2205/0038Movement of one or more optical elements for control of motion blur by displacing the image plane with respect to the optical axis
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2217/00Details of cameras or camera bodies; Accessories therefor
    • G03B2217/005Blur detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

この発明は,撮像装置およびその動作制御方法に関する。
手振れによる画像のボケを低減するためにカメラには手振れ補正機能が付加されていることがある。
特許文献1に記載のものは,光学的な手振れ補正を行ったときに,レンズの光収差のために,撮影画像の周縁部に伸び縮みが生じてしまうのを防止することを課題としており,ジャイロ・センサによって手振れが検出され,補正演算回路でずれ補正量が演算されて,演算されたズレ補正量にもとづいて光学的に振れ補正を行ったときには,補正方向および補正量を示す補正ベクトル・データにもとづいて,撮影領域内で基準位置を移動し,移動した基準位置にもとづいて,各画素に対する歪曲補正を行っている。
また,特許文献2に記載のものは,撮像レンズ系の画像歪の影響を排除して画像を正確に復元することが課題であり,光学系の画像劣化情報を記憶するとともに,撮影時の手振れを検出して時系列の手振れ検出信号を記憶し,画像データを光学系の画像劣化情報にもとづいて補正し,画像劣化情報で補正した画像データを手振れ検出信号にもとづいて手振れによる画像データの劣化を復元することにより,光学系の画像歪の影響を排除した画像の復元を行っている。特許文献2に記載のものでは,手振れによる画像の劣化を復元するために画像復元関数を算出する回路を具備し,画像復元関数は,基本軌跡演算回路の出力から原画像がどのように変化するかを予測して出力される。
さらに,特許文献3に記載のものは,撮影レンズの画角の大きさ等による露光中における画面中心位置と周辺位置との間の像ずれ量の差が目立たないようにぶれ補正を行うことができるぶれ補正機能付きカメラを提供することが課題であり,レンズユニットのFlashRomにカメラボディにおけるぶれ補正の際の補正限界値用Δhを求め,ブレ補正の際の撮像素子シフト量を制限している。つまり,ディストーションの補正を行うのではなくディストーションの大きな領域を検出して回避している。
特開2006-129175号公報 特開2006-33759号公報 特開2007-233166号公報
手振れ補正が行われると,手振れ方向,手振れ量などによりディストーションなどの光学歪,シェーディングなどがフレームごとに異なってしまうことがあり,動画の画像歪が発生することがある。しかしながら,引用文献1においては1フレーム内で複雑にストロークする手振れ補正に対する考慮がなされていない。また,引用文献2においては,手振れ検出信号を記録しただけでは光学系の画像歪は補正できず,時系列の手振れによる影響を受けた光学系の画像歪を補正していない。さらに,引用文献3においては,ディストーション補正限界未満であってもフレームごとの手振れ情報にもとづいた補正を行えない。このように引用文献1〜3のいずれにおいても手振れ補正による像歪み,動画の画像歪は解決できない。
この発明は,手振れ補正による像歪みを軽減することを目的とする。また,この発明は,動画の画像歪を軽減することを目的とする。
第1の発明は,被写体を撮像し,被写体像を表わす画像データを出力する撮像素子(固体電子撮像素子),上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置において,上記撮像素子の中心と上記撮像光学系の光軸中心とが上記手振れ補正機構により相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出する位置検出手段,上記位置検出手段により検出された位置から上記撮像素子によって撮像された被写体像における上記撮像光学系の光軸中心の位置を光軸位置として算出する光軸位置算出手段,ならびに上記光軸位置算出手段によって算出された光軸中心の位置を用いて上記撮像素子により撮像された被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正を行う補正手段を備えていることを特徴とする。
第1の発明は,上記撮像装置に適した動作制御方法も提供している。すなわち,被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の値光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置の動作制御方法において,位置検出手段が,上記手振れ補正機構により上記撮像素子の中心と上記撮像光学系の光軸中心とが相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出し,光軸位置算出手段が,上記位置検出手段により検出された位置から上記撮像素子によって撮像された被写体像における上記撮像光学系の光軸中心の位置を算出し,補正手段が,上記光軸位置算出手段によって算出された光軸中心の位置を用いて上記撮像素子により撮像された被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正を行うものである。
第1の発明によると,手振れ補正により撮像素子の中心と撮像光学系の光軸中心とが相対的に動かされた位置が露光期間中において複数回検出されるので,その検出された位置を用いて,撮像された被写体像における撮像光学系の光軸中心位置を光軸位置として算出できる。算出された光軸中心位置を利用して,被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正を行うことができる。手振れ補正により撮像素子の中心と撮像光学系の光軸中心とが相対的に動かされた位置は,露光期間中において複数回検出されるので,被写体像における撮像光学系の光軸中心位置をより正確に算出でき,被写体像の光学歪補正またはシェーディング補正をより正確に実現できる。また,動画を構成する複数フレームの被写体像に対して上述した補正が行われることにより,動画歪を軽減させることもできる。
光軸位置算出手段は,たとえば,位置検出手段によって複数回検出された位置のうち,撮像素子と撮像光学系とがもっともずれた位置から光軸位置を算出するものである。
位置検出手段によって複数回検出された位置の軌跡を生成する軌跡生成手段をさらに備えてもよい。この場合,光軸位置算出手段は,たとえば,軌跡生成手段によって生成された軌跡から撮像素子によって撮像された被写体像における撮像光学系の光軸位置を算出するものとなろう。
光軸位置算出手段は,たとえば,軌跡生成手段によって生成された軌跡によって示される撮像素子と撮像光学系とが相対的に動かされた位置のうち,垂直方向または水平方向において方向転換があった位置から撮像素子によって撮像された被写体像における撮像光学系の光軸位置を算出するものでもよい。
光軸位置算出手段は,軌跡生成手段によって生成された軌跡によって示される撮像素子と撮像光学系とが相対的に動かされた位置のうち,動き量がしきい値以上の場合に垂直方向または水平方向において方向転換があった位置から撮像素子によって撮像された被写体像における撮像光学系の光軸位置を算出するものでもよい。
撮像素子は,たとえば,露光期間中に被写体像の一部を表わす部分画像データを複数回出力するものであり,補正手段は,たとえば,撮像素子から前回の部分画像データ出力から今回の部分画像データ出力までの間に位置検出手段において検出された位置を用いて今回の部分画像データによって表される部分画像の光学歪補正またはシェーディング補正を行うものである。
撮像素子は,たとえば,一定周期で被写体を撮像し,動画の被写体像を表わす画像データを出力する,あるいは所与のシャッタ時間の間露光して静止画の被写体像を表わす画像データを出力するものである。
撮像光学系の焦点距離を変えずに撮像素子の受光面上に結像する被写体像の大きさを変えるズーム・レンズをさらに備えていてもよい。この場合,補正手段は,たとえば,光学歪量が第1のしきい値以上または第2のしきい値以下となるズーム・レンズ位置であるときに,位置検出手段において検出された位置を用いて撮像素子により撮像された被写体像の光学歪補正を行うものとなろう。
第2の発明は,被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置において,露光期間開始時における上記撮像素子の中心と上記撮像光学系の光軸中心との初期位置の検出を含み,上記撮像素子の中心と上記撮像光学系の光軸中心とが上記手振れ補正機構により相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出する位置検出手段,ならびに上記位置検出手段において検出された初期位置とその他の位置とから上記撮像素子により撮像された被写体像の光学歪補正またはシェーディング補正の少なくも一方を行う補正手段を備えていることを特徴とする。
第2の発明は,撮像装置に適した動作制御方法も提供している。すなわち, 被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置の動作制御方法において,位置検出手段が,露光期間開始時における上記撮像素子の中心と上記撮像光学系の光軸中心との初期位置の検出を含み,上記撮像素子の中心と上記撮像光学系の光軸中心とが上記手振れ補正機構により相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出し,補正手段が,上記位置検出手段において検出された初期位置とその他の位置とから上記撮像素子により撮像された被写体像の光学歪補正またはシェーディング補正の少なくも一方を行うものである。
第2の発明によると,露光期間開始時における上記撮像素子の中心と上記撮像光学系の光軸中心との初期位置の検出を含み,撮像素子の中心と撮像光学系の光軸中心とが手振れ補正により相対的に動かされた位置が露光期間中において複数回検出されるので,その検出された初期位置とその他の位置を利用して,被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正を比較的正確に行うことができる。また,動画を構成する複数フレームの被写体像に対して上述した補正が行われることにより,動画歪を軽減させることもできる。
第3の発明は,被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置において,上記撮像素子の中心と上記撮像光学系の光軸中心とが上記手振れ補正機構により相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出する位置検出手段,上記位置検出手段によって複数回検出された位置の軌跡を生成する軌跡生成手段,ならびに上記軌跡生成手段によって生成された軌跡において,垂直方向または水平方向において方向転換されることなく,上記撮像素子と上記撮像光学系とが相対的に動かされた回数が所定回数以上となったあとに上記方向転換された位置を用いて光学歪補正またはシェーディング補正の少なくとも一方の補正を行う補正手段を備えていることを特徴とする。
第3の発明は,上記撮像装置に適した動作制御方法も提供している。すなわち,被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置の動作制御方法において,位置検出手段が,上記撮像素子の中心と上記撮像光学系の光軸中心とが上記手振れ補正機構により相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出し,軌跡生成手段が,上記位置検出手段によって複数回検出された位置の軌跡を生成し,補正手段が,上記軌跡生成手段によって生成された軌跡において,垂直方向または水平方向において方向転換されることなく,上記撮像素子と上記撮像光学系とが相対的に動かされた回数が所定回数以上となったあとに上記方向転換された位置を用いて光学歪補正またはシェーディング補正の少なくとも一方の補正を行うものである。
第3の発明によると,撮像素子の中心と撮像光学系の光軸中心とが手振れ補正により相対的に動かされた位置が露光期間中において複数回検出され,その位置の軌跡が生成される。生成された軌跡において垂直方向または水平方向において方向転換されることなく,撮像素子と撮像光学系とが相対的に動かされた回数が所定回数以上となったあとに方向転換された位置を用いて被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正が行われる。上述のように所定回数以上となった後に方向転換された場合,その方向転換された位置は初期位置よりもかなりずれていることが多い。そのような位置を用いて被写体像の光学歪補正またはシェーディング補正が行われるので,比較的正確に補正できる。また,動画を構成する複数フレームの被写体像に対して上述した補正が行われることにより,動画歪を軽減させることもできる。
撮像レンズと撮像素子との関係を示している。 撮像素子が手振れ補正によりシフトされた様子を示している。 撮像された被写体像に光学歪が生じている様子を示している。 撮像された被写体像に光学歪が生じている様子を示している。 撮像装置のタイム・チャートである。 撮像素子が手振れ補正によりシフトされた軌跡を示している。 撮像素子が手振れ補正によりシフトされた方向を示すテーブルである。 被写体像の一例である。 撮像装置の電気的構成を示すブロック図である。 光学歪補正処理手順を示すフローチャートである。 光学歪補正処理手順を示すフローチャートである。 光学歪補正処理手順を示すフローチャートである。 光学歪補正処理手順を示すフローチャートである。 撮像装置のタイム・チャートである。 被写体像の一部を示している。 被写体像の一部を示している。 撮像装置のタイム・チャートである。 被写体像の一部を示している。 被写体像の一部を示している。 被写体像の一部を示している。 光学歪補正処理手順を示すフローチャートである。 撮像装置のタイム・チャートである。 ディストーションとズーム倍率との関係を示している。 ディストーションとズーム倍率との関係を示している。 光学歪補正処理手順を示すフローチャートである。 撮像レンズと撮像素子との関係を示している。 スマートフォンの外観を示している。 スマートフォンの電気的構成を示すブロック図である。
図1は,この発明の実施例を示すもので,撮像装置の撮像レンズ1と撮像素子2との位置関係を示す側面図,図2は,撮像素子2のシフト前後の位置関係を示す正面図である。
図1を参照して,撮像素子2の受光面前方(図1では左側)に,撮像素子2の受光面に被写体像を結像させる撮像レンズ1が配置されている。撮像素子2は,垂直方向(図1および図2において上下方向)および水平方向(図2において左右方向)にシフト可能である。撮像装置に手振れがあった場合に,撮像素子2を垂直方向および水平方向(垂直方向または水平方向)にシフトさせることにより手振れ補正が行われる。
初期状態では,図1および図2において符号2Aで示すように撮像レンズ1の光軸Lは撮像素子2の中心を通るように位置決めされている。手振れが検出されると,手振れの方向および手振れ量に応じて手振れを補正するように符号2Aで示す位置にあった撮像素子2が,たとえば符号2Bで示す位置にシフトさせられる。図2に示すように,符号2Aで示す位置に撮像素子2があった場合には,光軸Lが撮像素子2の中心を通るが,符号2Bで示す位置に撮像素子2がシフトさせられると,光軸Lは撮像素子2の中心Cを通らなくなる。
図3は,図1および図2において示されたように撮像素子2が符号2Aの位置に存在した場合に得られる被写体像3の一例である。
撮像レンズ1によって結像した被写体像3は撮像レンズ1のディストーションにより歪曲する部分4が生じる。被写体像3は,光軸Lが撮像素子2の中心を通るような撮像レンズ1と撮像素子2との位置関係の場合に撮像素子2から得られたものであるから,被写体像3の中心から径方向に離れるにしたがって歪曲の程度が大きくなる。
図4は,図1および図2において示されたように撮像素子2が符号2Bの位置に存在した場合に得られる被写体像5の一例である。
被写体像5は,撮像素子2がシフトされたことにより,光軸Lは撮像素子2の中心Cを通らない撮像レンズ1と撮像素子2との位置関係の場合に撮像素子2から得られたものである。被写体像5のうち,歪曲する部分6は,被写体像5の中心Cから径方向に離れるにしたがって歪曲の程度が大きくなるのではなく,光軸Lから径方向に離れるにしたがって歪曲の程度が大きくなっている。
図3に示す被写体像3を第1フレームの画像,図4に示す被写体像を第2フレームの画像と仮定すると,動画として観賞した場合にフレームごとに歪曲部分が変わる動画歪が生じることとなる。この実施例では,光学歪を補正することにより動画歪を軽減するものである。
図5は,この実施例による撮像装置のタイム・チャートである。
この実施例では,1フレームの画像が得られる露光期間中に複数回の手振れ検出が行われ,その複数回の手振れ検出にもとづいて行われる手振れ補正により撮像素子2の中心と撮像レンズ1の光軸の中心とが相対的に動かされた位置が検出される。
図5においては動画の撮像であり,シャッタは開放されている。1/30秒の露光期間で1/30秒周期で被写体の撮像が繰り返される。1/30秒の露光期間中に14回の手振れ検出(手振れ補正)が行われる。もっとも,露光期間中に複数回の手振れ検出が行われればよく,露光期間中に14回未満または14回よりも多くの手振れ検出が行われるようにしてもよい。図5においては,時刻t0からt14までの1/30秒の露光期間中において時刻t1からt14の14回のタイミングで手振れ検出が行われる。
図6は,露光期間中における14回の手振れ検出により,撮像素子2がシフトされたときの撮像素子2の中心の正面からの軌跡を示している。横軸は水平方向のシフト量,縦軸は垂直方向のシフト量を示している。原点は,光軸Lの位置であり,上述のように撮像素子2の初期位置の中心位置と一致する。撮像素子2が右方向にシフトされる場合を正方向,左方向にシフトされる場合を負方向,撮像素子2が上方向にシフトされる場合を正方向下方向にシフトされる場合を負方向とする。
図7は,図6の軌跡を示すテーブルである。図7において,撮像素子2が上方向にシフトされた場合には正の垂直方向にシフトされたことを示す+の符号が格納され,撮像素子2が下方向にシフトされた場合には負の垂直方向にシフトされたことを示す−の符号が格納されている。また,撮像素子2を正面から見て,撮像素子2が右方向にシフトされた場合には正の水平方向にシフトされたことを示す+の符号が格納され,撮像素子2が左方向にシフトされた場合には負の方向にシフトされたことを示す−の符号が格納されている。
図6および図7を参照して,第1回目の手振れ検出により撮像素子2が垂直方向の正方向に,水平方向の負方向に移動したものとする(P1,Y1)。すると,それぞれの方向を示す符号が図7に示すテーブルの手振れ検出回数の第1回目の欄に格納される。第2回目の手振れ検出により撮像素子2が前回の手振れ検出における撮像素子2の位置を基準として撮像素子2が垂直方向または水平方向に移動したか検出される。第2回目の手振れ検出により撮像素子2が垂直方向のさらに正方向に,水平方向のさらに負方向に移動したものとする(P2,Y2)。すると,それぞれの方向を示す符号が図7に示すテーブルの手振れ検出回数の第2回目の欄に格納される。このように,手振れ検出により撮像素子2が移動すると,前回の手振れ検出における撮像素子2の位置からの移動方向を示す符号が図7に示すテーブルに格納される。
第4回目の手振れ検出における撮像素子2の移動方向が前回の手振れ検出である第3回目の手振れ検出における撮像素子2の移動方向から垂直方向および水平方向のいずれも逆方向になったものとする。すると,手振れ検出回数の第4回目の欄には,垂直方向には負の方向を示す−符号が,水平方向には正の方向を示す+符号がそれぞれ格納される。第4回目の手振れ検出から第10回目の手振れ検出の間は撮像素子2の移動方向がそれぞれの前回の手振れ検出における移動方向から変わらなかったものとする。すると,手振れ検出回数の第4回目の欄から第10回目の欄には第4回目の欄と同じ方向を示す符号が格納される。第11回目の手振れ検出において,前回の手振れ検出である第10回目の手振れ検出における撮像素子2の移動方向から垂直方向のみが逆方向になったものとする。すると,手振れ検出回数の第11回目の欄には垂直方向および水平方向のいずれも正の方向を示す+符号が格納される。第11回目の手振れ検出から第14回目の手振れ検出の間まで撮像素子2の移動方向がそれぞれの前回の手振れ検出における移動方向から変わらなかったものとすると,手振れ検出回数の第11回目の欄から第14回目の欄には第11回目の欄と同じ方向を示す符号が格納される。
上述のように,第3回目の手振れ検出から第4回目の手振れ検出の間に垂直方向において正方向から負方向に方向転換があり,水平方向において負方向から正方向に方向転換があり,第10回目のぶれ検出から第11回目の手振れ検出の間に垂直方向において負方向から正方向に変化したように方向転換があった場合には,方向転換があったと判断された手振れ検出の直前に手振れ検出された撮像素子2の位置(変化点という)から原点までの距離が図7に示すテーブルに格納される。また,最後の手振れ検出が行われた撮像素子2の位置から原点までの距離も図7に示すテーブルに格納される。また,これらの距離および位置が格納された記録回数も図7に示すテーブルに格納される。
上述のように手振れ検出に応じて撮像素子2の位置が移動すると,撮像素子2の中心の軌跡は図6に示すようになる。
図5に戻って,上述のように1フレーム中に14回の手振れ検出が行われる。時刻t14となり,1フレームの露光が終了すると,時刻t22までの間に,図7に示したように,テーブルに格納された位置情報が読み取られる。時刻t22からt23までの間に,読み取られた位置情報(上述の場合3回記録されているので3つの位置情報)から被写体像における光軸位置が演算される。
図8は,撮像により得られた被写体像を示している。
演算により,被写体像7における光軸位置Lが分る。被写体像7は手振れ補正によりシフトされた撮像素子2によって撮像されたものであるから,光軸位置L1は必ずしも被写体像の中心Cの位置とはなっていない。
再び図5にもどって,時刻t14になると,撮像素子2から画像データが取り込まれる。時刻t23となると,演算された基準位置を用いて,取り込まれた画像データについて光学歪補正が行われる。時刻t24となると,光学歪補正された画像が表示されるようになる。
図9は,撮像装置の電気的構成を示すブロック図である。
撮像装置の全体の動作は,CPU10によって統括される。
撮像装置には,撮像指令等を入力するためのスイッチ,ボタン等を含む操作装置34が含まれている。操作装置34から出力される操作信号はCPU10に入力する。また,撮像装置には,被写体を照射する発光装置16および被写体からの反射光を受光する受光装置17も含まれている。
上述のように,撮像素子2の前方には撮像レンズ1が位置決めされている(撮像レンズ1の前方に機械シャッタがあるが図示は省略されている)。撮像素子2の受光面と撮像レンズ1との間には,絞り12および光学ロウ・パス・フィルタ13が配置されている。撮像レンズ1は,レンズ駆動装置18によって光軸方向に位置決めされ,絞り12は絞り駆動装置19によって開口量が制御される。撮像素子2は,撮像素子駆動装置20によって映像信号出力等が制御される。また,撮像装置には,上述のように撮像素子2の手振れを検出する手振れ検出装置14および撮像素子2をシフトするための手振れ補正駆動装置21が含まれている。さらに,撮像装置には,センサ位置検出/検出位置メモリ15が含まれている。センサ位置検出/検出位置メモリ15によって上述したように,手振れ補正により撮像素子2がシフトされた場合に撮像素子2の位置が検出されるとともに,検出された位置を示すデータが記憶されるセンサ位置検出/検出位置メモリ15に,検出された位置を示すデータが記憶されることにより,図6に示す軌跡が生成される。また,このセンサ位置検出/検出位置メモ15に図7に示すテーブルも格納されることとなる。
撮像素子から出力された映像信号は,アナログ信号処理装置22において,白バランスなどの所定のアナログ信号処理が行われて出力される。アナログ信号処理装置22から出力される映像信号は,アナログ/ディジタル変換回路23においてディジタル画像データに変換される。
ディジタル画像データは,メモリ制御装置25によってメイン・メモリ24に一時的に記録される。ディジタル画像データはメイン・メモリ24から読み出され,ディジタル信号処理装置26において,ガンマ補正などの所定のディジタル信号処理が行われる。ディジタル画像データは,光学歪およびシェーディング補正装置27に入力し,上述したように光学歪補正が行われるとともに基準位置を基準としてシェーディング補正が行われる。光学歪補正等が行われた画像データが表示制御装置33の制御のもので表示装置32に与えられることにより,表示装置32の表示画面に光学補正等が行われた被写体像が表示される。
メイン・メモリ24から読み出されたディジタル画像データは積算装置29にも入力する。積算装置29において輝度成分の積算が行われ,得られた積算値にもとづいて,絞り12の絞り値が調整される。
操作装置34から記録指令が与えられると,上述のように光学歪等が補正された画像データは外部メモリ制御装置31の制御のもとにメモリ・カード30に与えられ,メモリ・カード30に記録される。
図10は,撮像装置における光学歪補正の処理手順を示すフローチャートである。
上述のように,露光期間中に複数回行われる手振れ検出のタイミングは予め定められており,そのタイミングとなると手振れ検出が行われる。手振れ検出により手振れがあると判定されると(ステップ41),その手振れ量および手振れ方向に応じて手振れ補正するように撮像素子2がシフトさせられる(ステップ42)。上述のように,前回の手振れ検出におけるシフト方向と比較され,垂直方向または水平方向の少なくとも一方において正方向へのシフトから負方向へのシフトまたはその逆へのシフトのように方向転換があったかどうかが確認される。方向転換があった場合には(ステップ44でYES),上述のように方向転換があった変化点の位置情報がセンサ位置検出/検出位置メモリ15に格納される(ステップ45)。また,撮像レンズ1の光軸中心からシフトされた撮像素子2の中心までの距離が算出され,算出された距離を表すデータもセンサ位置検出/検出位置メモリ15に格納される(ステップ46)。1フレームが終了するまで(ステップ47でNO),ステップ41から46までの処理が繰り返される(ステップ47)。
センサ位置検出/検出位置メモリ15に格納されている撮像レンズ1の光軸中心から撮像素子2の中心までの距離のうち,もっとも距離の大きい撮像素子2の中心位置情報がセンサ位置検出/検出位置メモリ15から読み取られる(ステップ47)。読み取られた中心位置情報が基準位置として光学歪およびシェーディング補正が行われる(ステップ48)。
露光期間中に複数回の手振れ補正が行われると,露光終了時における撮像素子2のシフト量よりも露光の途中での撮像素子のシフト量の方が大きい場合がある,そのような場合に露光終了時における撮像素子2のシフト量にもとづいて光学歪補正が行われるよりも露光途中での撮像素子のシフト量にもとづいて光学歪補正が行われる方が,より精度の高い光学歪補正を実現できる。この実施例によると,シフト量の大きな撮像素子2の位置にもとづいて光学歪補正等が行われるので,より精度の高い光学歪補正等を実現できる。
上述の実施例では,センサ位置検出/検出位置メモリ15に格納されている撮像レンズ1の光軸中心から撮像素子2の中心までの距離のうち,もっとも距離の大きい撮像素子2の中心位置情報を用いて光学歪補正が行われているが,もっとも距離の大きい撮像素子2の中心位置情報だけでなく,複数の中心位置情報を用い,複数の中心位置情報が得られるときのそれぞれの光軸位置の平均位置を光軸位置と擬制して,その光軸位置を利用して光学歪補正が行われるようにしてもよい。
図11は,他の実施例による処理手順を示すもので,撮像装置における光学歪補正の処理手順を示すフローチャートである。図11において,図10に示す処理と同一の処理については同一符号を付して説明を省略する。
図10に示す処理では,手振れ量に応じて撮像素子2がシフトされると,前回のシフト方向と比較して方向転換されているかどうかが確認されているが,図11に示す処理では,手振れ量に応じて撮像素子2がシフトされると,そのシフト量が,閾値以上かどうかが判断される(ステップ50)。シフト量が閾値以上の場合に(ステップ50でYES),前回のシフト方向と比較して方向転換されているかどうか確認される(ステップ43,44)。
ノイズなどにより手振れと誤検出されてしまうようなシフト量が少ない場合には,方向転換があったかどうかが確認されないので,そのような誤検出にもとづいて撮像素子2の位置情報が格納されてしまうことが未然に防止される。
図12は,他の実施例による処理手順を示すもので,光学歪補正の処理手順を示すフローチャートである。図12において,図11に示す処理と同一の処理については同一符号を付して説明を省略する。
図11等に示す処理においては,上述したように変化点の位置情報にもとづいて光軸中心から撮像素子2の中心までの距離が算出されているが(ステップ46),図12に示す処理においては光軸中心から撮像素子2までの距離の算出が省略されている。最初と最後などの任意の変化点が選択されて,選択された変化点が出力される(ステップ51)。選択された変化点から光軸位置が算出されて,光軸位置を用いて光学歪補正等が行われる(ステップ49)。光軸中心から撮像素子2の中心までの距離が算出されないので,比較的迅速に光学歪補正等が行われるようになる。
図13は,さらに他の実施例による処理手順を示すもので,光学歪補正の処理手順を示すフローチャートである。図13において,図12に示す処理と同一の処理については同一符号を付して説明を省略する。
図13に示す実施例では,撮像素子2がシフトされた場合,前回のシフトの方向と同じ場合には,方向転換なしでの連続したシフト回数がカウントされる(ステップ52)。方向転換なしでの連続したシフト回数のうちカウント数の多いシフト回数後に方向転換があった変化点の位置情報が出力され(ステップ53),その位置情報にもとづいて光学歪補正等が行われる(ステップ53)。方向転換が無い場合にシフト回数が多い場合には,そのシフト回数が多かった後に見つけられた変化点が光軸中心からもっとも遠いと判断することができる。そのような判断にもとづいて光学歪補正を実現できるようになる。
図14から図21は,他の実施例を示すもので,被写体の領域に応じて異なる複数個所の基準点を基準として光学歪補正等を行うものである。
図14から図16は,被写体像の上部の領域と下部の領域とで異なる基準点を基準として光学歪補正等が行われるものである。
図14は撮像装置のタイム・チャート,図15は撮像によって得られる被写体像60の上部の領域61を示し,図16は被写体像60の下部の領域62を示している。
図14を参照して,露光期間の中間である時刻t7において,その時刻t7までに手振れ補正が行われたことにより上述のように格納されたシフト位置を示すデータが,時刻t7から時刻t31までの間に読み取られる。時刻t32から時刻t33までの間に被写体像60の上部の領域61と光学歪補正に利用される光軸位置との位置関係が演算される。
図15を参照して,被写体像60の中心は符号Cで示されている。時刻t1から時刻t8までに行われた手振れ補正にもとづいて上述のように演算された光軸位置は符号B1で示されている。符号B1で示されている光軸位置を基準として被写体像60の上部の領域61が光学歪補正される(図14時刻t14から時刻t41)。
図14に戻って,時刻t8から時刻t14までのタイミングで手振れ補正が行われたことにより得られたシフト位置を示すデータが時刻t14から時刻t22までの間に読み取られる。時刻t22から時刻t23までの間に被写体像60の下部の領域71と光軸位置との位置関係が演算される。
図16を参照して,被写体像60の中心は符号Cで示されている。時刻t8から時刻t14までに行われた手振れ補正にもとづいて上述のように決定された光軸位置は符号B2で示されている。符号B2で示されている光軸位置を基準として被写体像の下部の領域62が光学歪補正される(図14時刻t41から時刻t24)。
上部の領域61については光軸位置B1を基準として光学歪補正された被写体像60と下部の領域62については光軸位置B2を基準として光学歪補正された被写体像60とが合成され1フレーム分の被写体像60が生成される。
図17から図20は,被写体像の上部の領域と中央部の領域と下部の領域とで異なる基準点を基準として光学歪補正等が行われるものである。
図17は,撮像装置のタイム・チャート,図18は撮像によって得られる被写体像80の上部の領域81を示し,図19は被写体像80の中央部の領域83を示し,図20は被写体像80の下部の領域86を示している。
図17を参照して,露光期間中の時刻t4において,その時刻t4までに手振れ補正が行われたことにより得られたシフト位置を示すデータが,時刻t4から時刻t41までの間に読み取られる。時刻t41から時刻t42までの間に被写体像80の上部の領域81と光学歪補正に利用される基準との位置関係が演算される。
図18を参照して,被写体像80の中心は符号Cで示されている。時刻t1から時刻t4までに行われた手振れ補正にもとづいて決定された基準点は符号B11で示されている。符号B11で示されている光軸位置を基準として被写体像80の上部の領域81が光学歪補正される(時刻t14から時刻t51)。被写体像80の上部の領域81以外の領域82については,光軸位置B11を基準として光学歪補正は行われない。
図17に戻って,時刻t9において時刻t5から時刻t9までの間に行われた手振れ補正により得られたシフト位置を示すデータが時刻t9から時刻t43までの間に読み取られる。時刻t43から時刻t44までの間に被写体像80の中央部分の領域83と光軸位置との位置関係が演算される。
図19を参照して,被写体像80の中心は符号Cで示されている。時刻t5から時刻t9までに行われた手振れ補正にもとづいて決定された光軸位置は符号B12で示されている。符号B12で示されている光軸位置を基準として被写体像80の中央部分の領域83が光学歪補正される(図17時刻t51から時刻t52)。中央部分の領域83以外の上部の領域81および下部の領域84は光軸位置B12を基準として光学歪補正されない。
図17に戻って,時刻t10からt14までに手振れ補正が行われたことにより得られたシフト位置を示すデータが,時刻t14からt22までの間に読み取られる。時刻t22から時刻t23までの間に被写体像80の下部の領域86と光学歪補正に利用される基準との位置関係が演算される。
図20を参照して,被写体像80の中心は符号Cで示されている。時刻t9から時刻t14までに行われた手振れ補正にもとづいて決定された基準点は符号B13で示されている。符号B13で示されている光軸位置を基準として被写体像80の下部の領域86が光学歪補正される(時刻t52から時刻t26)。被写体像80の下部の領域86以外の領域85については,光軸位置B13を基準として光学歪み補正は行われない。
図18に示す上部の領域81,図19に示す中央部分の領域83および図20に示す下部の領域86から光学歪補正された1フレームの被写体像80が生成される。
図21は,撮像装置の光学歪補正の処理手順を示すフローチャートである。図21において,図10に示すものと同一の処理については同一符号を付して説明を省略する。
図21に示す処理手順では,1フレーム中にN回基準点が演算される。このために,1/Nフレームが終了すると(ステップ47AでYES),1/Nフレーム中において,変化点の位置情報のうち光軸中心からの距離が最も大きい位置情報が出力され,上述のように光学歪補正される(ステップ48,49)。
図22は,撮像装置の処理手順を示すタイム・チャートである。
図5等に示すタイム・チャートは,動画撮影のものであるが,図22に示すタイム・チャートは,静止画撮影のものである。
時刻t0から時刻t14までの1/30秒間,機械シャッタが開放され,被写体が撮像される。シャッタ速度は1/30秒でなくともよいのはいうまでもない。機械シャッタが開放され,露光されている間に上述のように手振れ補正が行われ,算出された基準点にもとづいて静止画像の光学歪補正が行われるようになる。このように,動画に限らず静止画にもこの実施例による光学歪補正等を適用できる。
図23から図25は,さらに他の実施例を示すもので,ズーム倍率に応じて上述した光学歪補正を行うものである。
図23および図24は,ディストーションとズーム倍率との関係を示している。
横軸はズーム倍率を示し,右方向となるほどワイド(W)となり左方向となるほどテレ(T)となる。縦軸はディストーションの量を示し,上方向(+方向)ほど画像の周囲が内側に歪み(いわゆる糸巻き歪),下方向(−方向)ほど画像の周囲が外側に歪む(いわゆる樽型歪)。
図23に示すものにおいては,ズーム倍率がテレからワイドになるほどディストーションが+方向に増加する。図24に示すものにおいては,ズーム倍率がテレからワイドになる場合に徐々にディストーションが+方向に増加するが,所定のズーム倍率となると徐々にディストーションは−方向に増加する。図23に示すディストーションとズーム倍率との関係と,図24に示すディストーションとズーム倍率との関係と,が異なっているように,ディストーションとズーム倍率との関係は,ズーム・レンズの特性によって変わる。
図25は,撮像装置の処理手順を示すフローチャートである。
設定されたズーム倍率が糸巻き型歪(ディストーション)となるようなズーム倍率に設定されていると(ステップ110でYES),上述した手法での光学歪補正が行われる(ステップ111)。糸巻き型歪とならないようなズーム倍率に設定されていると(ステップ110でNO),上述した手法での光学歪補正は行われない。
図25に示す処理では,ズーム倍率が糸巻き型歪となるようなズーム倍率に設定されている場合に,上述した手法での光学歪補正が行われるが,ズーム倍率が樽型歪となるようなズーム倍率に設定されている場合に上述した手法での光学歪補正が行われるようにしてもよい。
図26は,撮像素子123の受光面前方の第1の撮像レンズ121および第2の撮像レンズ122が配置されている様子を示すもので,側面図である。
図26においては,第1の撮像レンズ121が光軸から径方向にシフトすることにより光学歪補正が行われるものである。
上述した実施例では,撮像素子2が撮像レンズ1の光軸Lから径方向にシフトすることにより,上述した手法の光学歪補正が行われているが,撮像素子123ではなく撮像レンズ121が光軸Lから径方向にシフトすることにより上述した手法の光学歪補正が行われるようにしてもよい。
撮像素子123がシフトせずに撮像素子123の中心を通る光軸Lから第1の撮像レンズ121が径方向にシフトする場合であっても手振れ補正により第1の撮像レンズ121の中心軸の移動位置を上述したように検出し,上述したのと同様にて光学歪補正を行うことができるようになる。
以上,この実施例による光学歪補正を撮像装置に適用した場合に説明したが,例えば,内蔵型又は外付け型のPC用カメラ,または,以下に説明するような,撮影機能を有する携帯端末装置に適用することもできる。
一実施形態である携帯端末装置としては,例えば,携帯電話機やスマートフォン,PDA(Personal Digital Assistants),携帯型ゲーム機が挙げられる。以下,スマートフォンを例に挙げ,図面を参照しつつ,詳細に説明する。
図27は,本発明の撮影装置の一実施形態であるスマートフォン131の外観を示すものである。
図27に示すスマートフォン171は,平板状の筐体132を有し,筐体132の一方の面に表示部としての表示パネル141と,入力部としての操作パネル142とが一体となった表示入力装置140を備えている。また,係る筐体132は,マイクロフォン151,スピーカ152,操作装置160およびカメラ装置161を備えている。なお,筐体132の構成はこれに限定されず,例えば,表示装置と入力装置とが独立した構成を採用したり,折り畳み構造やスライド機構を有する構成を採用したりすることもできる。
図28は,図27に示すスマートフォン131の構成を示すブロック図である。
図28に示すように,スマートフォンの主たる構成要素として,無線通信装置135と,表示入力装置140と,通話装置150と,操作装置160と,カメラ装置161と,記憶装置170と,外部入出力装置180と,GPS(Global Positioning System)受信装置190と,モーション・センサ200と,電源装置210と,主制御装置220とを備える。また,スマートフォン131の主たる機能として,基地局装置BSと移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信装置135は,主制御装置220の指示にしたがって,移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。係る無線通信を使用して,音声データ,画像データ等の各種ファイルデータ,電子メールデータなどの送受信や,Webデータやストリーミング・データなどの受信を行う。
表示入力装置140は,主制御装置220の制御により,画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに,表示した情報に対するユーザ操作を検出する,いわゆるタッチパネルであって,表示パネル141と,操作パネル142とを備える。
表示パネル141,LCD(Liquid Crystal Display),OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル142は,表示パネル141の表示面上に表示される画像を視認可能に載置され,ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると,操作に起因して発生する検出信号を主制御装置220に出力する。次いで,主制御装置220は,受信した検出信号に基づいて,表示パネル141上の操作位置(座標)を検出する。
図27に示すように,撮像装置の一実施形態として例示しているスマートフォン131の表示パネル141と操作パネル142とは一体となって表示入力装置140を構成しているが,操作パネル142が表示パネル141を完全に覆うような配置となっている。係る配置を採用した場合,操作パネル142は,表示パネル141外の領域についても,ユーザ操作を検出する機能を備えてもよい。換言すると,操作パネル142は,表示パネル141に重なる重畳部分についての検出領域(以下,表示領域と称する)と,それ以外の表示パネル141に重ならない外縁部分についての検出領域(以下,非表示領域と称する)とを備えていてもよい。
なお,表示領域の大きさと表示パネル141の大きさとを完全に一致させても良いが,両者を必ずしも一致させる必要は無い。また,操作パネル142が,外縁部分と,それ以外の内側部分の2つの感応領域を備えていてもよい。更に,外縁部分の幅は,筐体132の大きさなどに応じて適宜設計されるものである。更にまた,操作パネル142で採用される位置検出方式としては,マトリクススイッチ方式,抵抗膜方式,表面弾性波方式,赤外線方式,電磁誘導方式,静電容量方式などが挙げられ,いずれの方式を採用することもできる。
通話装置150は,スピーカ151やマイクロフォン152を備え,マイクロフォン152を通じて入力されたユーザの音声を主制御装置220にて処理可能な音声データに変換して主制御装置220に出力したり,無線通信装置135または外部入出力装置180により受信された音声データを復号してスピーカ151から出力したりするものである。また,図27に示すように,例えば,スピーカ151を表示入力装置140が設けられた面と同じ面に搭載し,マイクロフォン152を筐体132の側面に搭載することができる。
操作装置160は,キースイッチなどを用いたハードウェアキーであって,ユーザからの指示を受け付けるものである。例えば,図27に示すように,操作装置160は,スマートフォン131の筐体132の側面に搭載され,指などで押下されるとオンとなり,指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶装置170は,主制御装置220の制御プログラムや制御データ,アプリケーション・ソフトウェア,通信相手の名称や電話番号などを対応づけたアドレスデータ,送受信した電子メールのデータ,WebブラウジングによりダウンロードしたWebデータや,ダウンロードしたコンテンツデータを記憶し,またストリーミングデータなどを一時的に記憶するものである。また,記憶装置170は,スマートフォン内蔵の内部記憶装置171と着脱自在な外部メモリスロットを有する外部記憶装置172により構成される。なお,記憶装置170を構成するそれぞれの内部記憶装置171と外部記憶装置172は,フラッシュメモリタイプ(flash memory type),ハードディスクタイプ(hard disk type),マルチメディアカードマイクロタイプ(multimedia card micro type),カードタイプのメモリ(例えば,MicroSD(登録商標)メモリ等),RAM(Random Access Memory),ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力装置180は,スマートフォン131に連結される全ての外部機器とのインターフェイスの役割を果たすものであり,他の外部機器に通信等(例えば,ユニバーサル・シリアル・バス(USB),IEEE1394など)又はネットワーク(例えば,インターネット,無線LAN(Local Area Network),ブルートゥース(Bluetooth)(登録商標),RFID(Radio Frequency Identification),赤外線通信(Infrared Data Association:IrDA)(登録商標),UWB(Ultra Wideband)(登録商標),ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン131に連結される外部機器としては,例えば,有/無線ヘッドセット,有/無線外部充電器,有/無線データポート,カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード,オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器,無線接続される外部オーディオ・ビデオ機器,有/無線接続されるスマートフォン,有/無線接続されるパーソナルコンピュータ,有/無線接続されるPDA,有/無線接続されるパーソナルコンピュータ,イヤホンなどがある。外部入出力部は,このような外部機器から伝送を受けたデータをスマートフォン1の内部の各構成要素に伝達することや,スマートフォン1の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部190は,主制御装置220の指示にしたがって,GPS衛星ST1〜STnから送信されるGPS信号を受信し,受信した複数のGPS信号に基づく測位演算処理を実行し,当該スマートフォン131の緯度,経度,高度からなる位置を検出する。GPS受信装置190は,無線通信装置13や外部入出力装置180(例えば,無線LAN)から位置情報を取得できる時には,その位置情報を用いて位置を検出することもできる。
モーション・センサ200は,例えば,3軸の加速度センサなどを備え,主制御装置220の指示にしたがって,スマートフォン131の物理的な動きを検出する。スマートフォン131の物理的な動きを検出することにより,スマートフォン131の動く方向や加速度が検出される。係る検出結果は,主制御装置220に出力されるものである。
電源装置210は,主制御装置220の指示にしたがって,スマートフォン131の各部に,バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御装置220は,マイクロプロセッサを備え,記憶部装置170が記憶する制御プログラムや制御データにしたがって動作し,スマートフォン131の各部を統括して制御するものである。また,主制御装置220は,無線通信装置135を通じて,音声通信やデータ通信を行うために,通信系の各部を制御する移動通信制御機能と,アプリケーション処理機能を備える。
アプリケーション処理機能は,記憶装置170が記憶するアプリケーション・ソフトウェアにしたがって主制御装置220が動作することにより実現するものである。アプリケーション処理機能としては,例えば,外部入出力装置180を制御して対向機器とデータ通信を行う赤外線通信機能や,電子メールの送受信を行う電子メール機能,Webページを閲覧するWebブラウジング機能などがある。
また,主制御装置220は,受信データやダウンロードしたストリーミング・データなどの画像データ(静止画像や動画像のデータ)に基づいて,映像を表示入力装置140に表示する等の画像処理機能を備える。画像処理機能とは,主制御装置220が,上記画像データを復号し,係る復号結果に画像処理を施して,画像を表示入力装置140に表示する機能のことをいう。
更に,主制御装置220は,表示パネル141に対する表示制御と,操作装置160,操作パネル142を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により,主制御装置220は,アプリケーション・ソフトウェアを起動するためのアイコンや,スクロール・バーなどのソフトウェア・キーを表示したり,あるいは電子メールを作成するためのウィンドウを表示したりする。なお,スクロール・バーとは,表示パネル141の表示領域に収まりきれない大きな画像などについて,画像の表示部分を移動する指示を受け付けるためのソフトウェア・キーのことをいう。
また,操作検出制御の実行により,主制御装置220は,操作装置160を通じたユーザ操作を検出したり,操作パネル142を通じて,上記アイコンに対する操作や,上記ウィンドウの入力欄に対する文字列の入力を受け付けたり,あるいは,スクロール・バーを通じた表示画像のスクロール要求を受け付ける。
更に,操作検出制御の実行により主制御装置220は,操作パネル142に対する操作位置が,表示パネル141に重なる重畳部分(表示領域)か,それ以外の表示パネル141に重ならない外縁部分(非表示領域)かを判定し,操作パネル142の感応領域や,ソフトウェア・キーの表示位置を制御するタッチパネル制御機能を備える。
また,主制御装置220は,操作パネル142に対するジェスチャ操作を検出し,検出したジェスチャ操作に応じて,予め設定された機能を実行することもできる。ジェスチャ操作とは,従来の単純なタッチ操作ではなく,指などによって軌跡を描いたり,複数の位置を同時に指定したり,あるいはこれらを組み合わせて,複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ装置161は,CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラである。また,カメラ装置161は,主制御装置220の制御により,撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し,記憶装置170に記録したり,入出力装置180や無線通信装置135を通じて出力することができる。図27に示すにスマートフォン131において,カメラ装置161は表示入力装置140と同じ面に搭載されているが,カメラ装置161の搭載位置はこれに限らず,表示入力装置140の背面に搭載されてもよいし,あるいは,複数のカメラ装置161が搭載されてもよい。なお,複数のカメラ装置161が搭載されている場合には,撮影に供するカメラ装置161を切り替えて単独にて撮影したり,あるいは,複数のカメラ装置161を同時に使用して撮影したりすることもできる。
また,カメラ装置161はスマートフォン131の各種機能に利用することができる。例えば,表示パネル141にカメラ装置161で取得した画像を表示することや,操作パネル142の操作入力のひとつとして,カメラ装置161の画像を利用することができる。また,GPS受信装置190が位置を検出する際に,カメラ装置161からの画像を参照して位置を検出することもできる。更には,カメラ装置161からの画像を参照して,3軸の加速度センサを用いずに,或いは,3軸の加速度センサと併用して,スマートフォン131のカメラ装置161の光軸方向を判断することや,現在の使用環境を判断することもできる。勿論,カメラ装置161からの画像をアプリケーション・ソフトウェア内で利用することもできる。
その他,静止画又は動画の画像データにGPS受信装置190により取得した位置情報,マイクロフォン152により取得した音声情報(主制御部等により,音声テキスト変換を行ってテキスト情報となっていてもよい),モーション・センサ200により取得した姿勢情報等などを付加して記録装置170に記録したり,入出力装置180や無線通信装置135を通じて出力したりすることもできる。
スマートフォン1にこの実施例による光学歪補正(シェーディング補正)を適用する場合,上述したカメラ装置161内に,手振れ補正駆動装置21,センサ位置検出装置15,光学歪/シェーディング補正装置27などが格納されることとなろう。
上述の実施例において,撮像装置の製造時に調整した初期位置が撮像素子の中心と撮像レンズ(撮像光学系)の光軸中心であって,真の中心に限らない。また,撮像素子1の中心を基準とせずに四隅などを基準としてもよい。
1 撮像レンズ
2 撮像素子
10 CPU(光軸位置算出手段)
14 手振れ検出装置
15 センサ位置検出/検出位置メモリ(位置検出手段)
21 手振れ補正駆動装置(手振れ補正機構)
27 光学歪/シェーディング補正装置(補正手段)

Claims (10)

  1. 被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置において,
    上記手振れ補正機構により上記撮像素子の中心と上記撮像光学系の光軸中心とが相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出する位置検出手段,
    上記位置検出手段によって複数回検出された位置の軌跡を生成する軌跡生成手段,
    上記軌跡生成手段によって生成された軌跡によって示される上記撮像素子と上記撮像光学系とが相対的に動かされた位置のうち,垂直方向または水平方向において方向転換があった位置から上記撮像素子によって撮像された被写体像における上記撮像光学系の光軸中心の位置を算出する光軸位置算出手段,ならびに
    上記光軸位置算出手段によって算出された光軸中心の位置を用いて上記撮像素子により撮像された被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正を行う補正手段,
    を備えた撮像装置。
  2. 上記光軸位置算出手段は,
    上記位置検出手段によって複数回検出された位置のうち,上記撮像素子と上記撮像光学系とがもっともずれた位置から上記光軸中心の位置を算出するものである,
    請求項1に記載の撮像装置。
  3. 上記光軸位置算出手段は,
    上記軌跡生成手段によって生成された軌跡によって示される上記撮像素子と上記撮像光学系とが相対的に動かされた位置のうち,動き量がしきい値以上の場合に垂直方向または水平方向において方向転換があった位置から上記撮像素子によって撮像された被写体像における上記撮像光学系の光軸中心の位置を算出するものである,
    請求項1に記載の撮像装置。
  4. 上記撮像素子は,
    露光期間中に被写体像の一部を表わす部分画像データを複数回出力するものであり,
    上記補正手段は,
    上記撮像素子から前回の部分画像データ出力から今回の部分画像データ出力までの間に上記位置検出手段において検出された位置を用いて今回の部分画像データによって表される部分画像の光学歪補正またはシェーディング補正を行うものである,
    請求項1から3のうちいずれか一項に記載の撮像装置。
  5. 上記撮像素子は,
    一定周期で被写体を撮像し,動画の被写体像を表わす画像データを出力する,あるいは所与のシャッタ時間の間露光して静止画の被写体像を表わす画像データを出力するものである,
    請求項1から4のうち,いずれか一項に記載の撮像装置。
  6. 上記撮像光学系の焦点距離を変えずに上記撮像素子の受光面上に結像する被写体像の大きさを変えるズーム・レンズをさらに備え,
    上記補正手段は,
    光学歪量が第1のしきい値以上または第2のしきい値以下となる上記ズーム・レンズ位置であるときに,上記位置検出手段において検出された位置を用いて上記撮像素子により撮像された被写体像の光学歪補正を行うものである,
    請求項1から5のうち,いずれか一項に記載の撮像装置。
  7. 上記光軸位置算出手段は,
    上記位置検出手段によって複数回検出された位置の平均的位置を上記光軸中心の位置として算出するものである,
    請求項1に記載の撮像装置。
  8. 被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置において,
    上記手振れ補正機構により上記撮像素子の中心と上記撮像光学系の光軸中心とが相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出する位置検出手段,
    上記位置検出手段によって複数回検出された位置の軌跡を生成する軌跡生成手段,ならびに
    上記軌跡生成手段によって生成された軌跡において,垂直方向または水平方向において方向転換されることなく,上記撮像素子と上記撮像光学系とが相対的に動かされた回数が所定回数以上となったあとに上記方向転換された位置を用いて光学歪補正またはシェーディング補正の少なくとも一方の補正を行う補正手段,
    を備えた撮像装置。
  9. 被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置の動作制御方法において,
    位置検出手段が,上記手振れ補正機構により上記撮像素子の中心と上記撮像光学系の光軸中心とが相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出し,
    軌跡生成手段が,上記位置検出手段によって複数回検出された位置の軌跡を生成し,
    光軸位置算出手段が,上記軌跡生成手段によって生成された軌跡によって示される上記撮像素子と上記撮像光学系とが相対的に動かされた位置のうち,垂直方向または水平方向において方向転換があった位置から上記撮像素子によって撮像された被写体像における上記撮像光学系の光軸中心の位置を算出し,
    補正手段が,上記光軸位置算出手段によって算出された光軸中心の位置を用いて上記撮像素子により撮像された被写体像の光学歪補正またはシェーディング補正の少なくとも一方の補正を行う,
    撮像装置の動作制御方法。
  10. 被写体を撮像し,被写体像を表わす画像データを出力する撮像素子,上記撮像素子の受光面前方に設けられ,上記撮像素子の受光面上に被写体像を結像する撮像光学系,および手振れに応じて上記撮像素子の中心と上記撮像光学系の光軸中心との相対的位置を補正する手振れ補正機構を備えた撮像装置の動作制御方法において,
    位置検出手段が,上記手振れ補正機構により上記撮像素子の中心と上記撮像光学系の光軸中心とが相対的に動かされた位置を,上記撮像素子の露光期間中に複数回検出し,
    軌跡生成手段が,上記位置検出手段によって複数回検出された位置の軌跡を生成し,
    補正手段が,上記軌跡生成手段によって生成された軌跡において,垂直方向または水平方向において方向転換されることなく,上記撮像素子と上記撮像光学系とが相対的に動かされた回数が所定回数以上となったあとに上記方向転換された位置を用いて光学歪補正またはシェーディング補正の少なくとも一方の補正を行う,
    撮像装置の動作制御方法。
JP2014521237A 2012-06-22 2013-05-23 撮像装置およびその動作制御方法 Expired - Fee Related JP5736512B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014521237A JP5736512B2 (ja) 2012-06-22 2013-05-23 撮像装置およびその動作制御方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012140513 2012-06-22
JP2012140513 2012-06-22
PCT/JP2013/064346 WO2013190946A1 (ja) 2012-06-22 2013-05-23 撮像装置およびその動作制御方法
JP2014521237A JP5736512B2 (ja) 2012-06-22 2013-05-23 撮像装置およびその動作制御方法

Publications (2)

Publication Number Publication Date
JP5736512B2 true JP5736512B2 (ja) 2015-06-17
JPWO2013190946A1 JPWO2013190946A1 (ja) 2016-05-26

Family

ID=49768551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014521237A Expired - Fee Related JP5736512B2 (ja) 2012-06-22 2013-05-23 撮像装置およびその動作制御方法

Country Status (4)

Country Link
US (1) US9363437B2 (ja)
JP (1) JP5736512B2 (ja)
CN (1) CN104380709B (ja)
WO (1) WO2013190946A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170019781A (ko) * 2015-08-12 2017-02-22 엘지전자 주식회사 카메라 및 그의 영상 왜곡 보정 방법
US10868962B2 (en) 2018-02-19 2020-12-15 Canon Kabushiki Kaisha Image capturing apparatus performing image stabilization, control method thereof, and storage medium
CN113281950A (zh) * 2020-02-03 2021-08-20 三星电机株式会社 相机模块及包括相机模块的便携式电子装置

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017020150A1 (zh) * 2015-07-31 2017-02-09 深圳市大疆创新科技有限公司 一种图像处理方法、装置及摄像机
CN105430265A (zh) * 2015-11-27 2016-03-23 努比亚技术有限公司 一种增大摄像头成像范围的方法及装置
JP2017116840A (ja) * 2015-12-25 2017-06-29 オリンパス株式会社 撮像装置
JP6746364B2 (ja) * 2016-04-20 2020-08-26 オリンパス株式会社 画像処理装置、撮像装置及び画像処理方法
JP6685843B2 (ja) * 2016-06-06 2020-04-22 オリンパス株式会社 撮像装置
EP3564917B1 (en) * 2018-05-04 2020-07-01 Axis AB A method for detecting motion in a video sequence
CN108614587A (zh) * 2018-06-14 2018-10-02 上海卫星工程研究所 卫星遥感仪器光轴指向在轨调整方法及系统
US10956782B2 (en) * 2018-11-16 2021-03-23 Qualcomm Incorporated Training for camera lens distortion
JP6746857B2 (ja) * 2019-01-31 2020-08-26 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 画像処理装置、撮像装置、無人航空機、画像処理方法、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005269130A (ja) * 2004-03-18 2005-09-29 Konica Minolta Photo Imaging Inc 手振れ補正機能を有する撮像装置
JP2006129175A (ja) * 2004-10-29 2006-05-18 Fuji Photo Film Co Ltd 撮像装置
JP2009017419A (ja) * 2007-07-09 2009-01-22 Canon Inc 撮像装置及び交換レンズ装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4418317B2 (ja) 2004-07-21 2010-02-17 オリンパス株式会社 撮像装置
JP4642489B2 (ja) * 2005-01-24 2011-03-02 キヤノン株式会社 撮像装置及び撮像方法、並びに撮像プログラム及び記憶媒体
JP2007233166A (ja) 2006-03-02 2007-09-13 Olympus Imaging Corp ぶれ補正機能付きカメラ
JP4859625B2 (ja) * 2006-10-27 2012-01-25 Hoya株式会社 手ぶれ補正装置を備えたカメラ
JP2008157979A (ja) * 2006-12-20 2008-07-10 Olympus Imaging Corp デジタルカメラ
JP2009049810A (ja) * 2007-08-21 2009-03-05 Canon Inc 撮像装置及びその制御方法及びプログラム
JP2009251491A (ja) * 2008-04-10 2009-10-29 Olympus Imaging Corp 撮像装置および撮像装置の制御方法
JP4969508B2 (ja) * 2008-04-25 2012-07-04 オンセミコンダクター・トレーディング・リミテッド 振動補正制御回路およびそれを搭載する撮像装置
JP4868075B2 (ja) * 2009-10-09 2012-02-01 株式会社ニコン 撮像装置
JP6126683B2 (ja) * 2012-04-16 2017-05-10 ノキア テクノロジーズ オーユー 最適化手ぶれ補正

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005269130A (ja) * 2004-03-18 2005-09-29 Konica Minolta Photo Imaging Inc 手振れ補正機能を有する撮像装置
JP2006129175A (ja) * 2004-10-29 2006-05-18 Fuji Photo Film Co Ltd 撮像装置
JP2009017419A (ja) * 2007-07-09 2009-01-22 Canon Inc 撮像装置及び交換レンズ装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170019781A (ko) * 2015-08-12 2017-02-22 엘지전자 주식회사 카메라 및 그의 영상 왜곡 보정 방법
KR102388888B1 (ko) 2015-08-12 2022-04-22 엘지전자 주식회사 카메라 및 그의 영상 왜곡 보정 방법
US10868962B2 (en) 2018-02-19 2020-12-15 Canon Kabushiki Kaisha Image capturing apparatus performing image stabilization, control method thereof, and storage medium
CN113281950A (zh) * 2020-02-03 2021-08-20 三星电机株式会社 相机模块及包括相机模块的便携式电子装置

Also Published As

Publication number Publication date
US9363437B2 (en) 2016-06-07
CN104380709A (zh) 2015-02-25
JPWO2013190946A1 (ja) 2016-05-26
CN104380709B (zh) 2018-05-29
US20150070519A1 (en) 2015-03-12
WO2013190946A1 (ja) 2013-12-27

Similar Documents

Publication Publication Date Title
JP5736512B2 (ja) 撮像装置およびその動作制御方法
US9235916B2 (en) Image processing device, imaging device, computer-readable storage medium, and image processing method
JP5694607B2 (ja) 画像処理装置、撮像装置及び画像処理方法、並びにプログラム
JP5690974B2 (ja) 撮像装置及び合焦制御方法
JP5719480B2 (ja) 画像変形装置およびその動作制御方法
US9924099B2 (en) Imaging apparatus and imaging method with a distance detector
JP5750558B2 (ja) 撮像装置及び合焦制御方法
US9883108B2 (en) Imaging apparatus and image blur correction method
JP5750550B2 (ja) 撮像装置及び合焦制御方法
JP6360204B2 (ja) カメラ装置、撮像システム、制御方法及びプログラム
CN110419210B (zh) 摄像装置、摄像方法及记录介质
JP6379307B2 (ja) 撮像装置、合焦制御方法、及び合焦制御プログラム
JP6374535B2 (ja) 操作装置、追尾システム、操作方法、及びプログラム
CN113454706B (zh) 显示控制装置、摄像装置、显示控制方法
CN113574451B (zh) 摄像装置的控制装置、摄像装置、摄像装置的控制方法及存储介质
JP2023051392A (ja) ブレ補正装置、撮像装置、ブレ補正方法、及びブレ補正プログラム
WO2014073441A1 (ja) 撮像装置およびその動作制御方法
JP2023098136A (ja) 制御装置、撮像装置、制御方法、制御プログラム
WO2013145887A1 (ja) 撮像装置及び撮像方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150420

R150 Certificate of patent or registration of utility model

Ref document number: 5736512

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees