JP2016134631A - 画像処理装置、撮像装置、画像処理方法 - Google Patents

画像処理装置、撮像装置、画像処理方法 Download PDF

Info

Publication number
JP2016134631A
JP2016134631A JP2015005791A JP2015005791A JP2016134631A JP 2016134631 A JP2016134631 A JP 2016134631A JP 2015005791 A JP2015005791 A JP 2015005791A JP 2015005791 A JP2015005791 A JP 2015005791A JP 2016134631 A JP2016134631 A JP 2016134631A
Authority
JP
Japan
Prior art keywords
image
image data
coordinate
unit
geometric deformation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015005791A
Other languages
English (en)
Other versions
JP6415330B2 (ja
Inventor
貴幸 原
Takayuki Hara
貴幸 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015005791A priority Critical patent/JP6415330B2/ja
Priority to US14/994,760 priority patent/US9635260B2/en
Publication of JP2016134631A publication Critical patent/JP2016134631A/ja
Application granted granted Critical
Publication of JP6415330B2 publication Critical patent/JP6415330B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】画像データを付加情報とともに記録する場合の情報量の増加を抑制すること。【解決手段】撮像センサ部101は、光学系100を介して被写体を撮像する。圧縮部102は、撮像センサ部101から連続的に得られた画像データを圧縮して、記録部109に出力する。特徴量抽出部105は、画像データの画素ごとに特徴量を抽出し、座標選択部106は、特徴量の高い座標を複数選択する。動き検出部107は、座標選択部106によって選択された複数の座標に係る座標点の動きベクトルを検出する。幾何変形パラメータ生成部108は、動きベクトルと光学系100のレンズ情報と各種センサ情報に基づいて幾何変形パラメータを生成する。記録部109は、圧縮部102によって圧縮された画像データ(フレームごとの画像データ)に幾何変形パラメータを関連付けて記録媒体へ記録する。【選択図】 図1

Description

本発明は、画像データを圧縮し、付加情報と関連付けて記録する技術に関する。
近年、シネマ撮影等において、記録した動画像データに対し、画質を損なわずに後から加工したいという要求が高まっている。そのような要求に応えるために、動画像についてRAW形式のデータを扱える装置が提案されている。例えば特許文献1に開示の装置では、動画撮影において、撮像センサから得られる現像前の画像データを現像せずに順次記録するRAW動画撮影を行う。RAW現像処理を実施することによって、現像パラメータを後から変更でき、かつ画質を損なうことがない。
また、近年のカメラには、記録用の画像データを取得する撮像センサ以外のセンサとして、例えばカメラの動きや姿勢を検出するジャイロセンサ等が搭載されている。特許文献2に開示の装置では、センサ情報を記録動画データへ付加することによって、後からセンサ情報を用いた動画加工が可能である。
特開2011−233985号公報 特開2012−249158号公報
しかしながら、各種センサにより検出される情報を、そのまま画像データに付加したのでは、情報量が膨大になるという問題があった。さらには、撮影光学系を構成するレンズの移動または撮像センサの移動によって防振(像ブレ補正)を行う補正機構を搭載するカメラシステムがある。この場合、各種センサによる検出情報としての防振に関連する情報だけでなく、補正機構に関する情報も付加しなければならない。よって、さらに動画データの付加情報が多くなって情報量が肥大化するという問題があった。その他にも、光学系の収差を伴うレンズ機構を撮影者が操作することによって変化するレンズ特性の情報をも含める場合には、さらに付加情報が莫大になる。
本発明の目的は、画像データを付加情報とともに記録する場合の情報量の増加を抑制することである。
本発明に係る装置は、光学系を通して撮像された画像の画像データを圧縮する圧縮手段と、前記画像データを取得して画像の特徴量を抽出する抽出手段と、前記抽出手段により抽出される前記特徴量を取得し、前記特徴量が相対的に高い複数の座標を選択する座標選択手段と、前記座標選択手段によって選択された前記複数の座標に係る座標点の動きを検出する動き検出手段と、前記動き検出手段により検出された座標点の動きおよび前記光学系に係るレンズ情報を取得して幾何変形パラメータを生成する生成手段と、前記圧縮手段によって圧縮された画像データに対して、前記生成手段により生成された幾何変形パラメータを付加情報としてフレームごとに関連付けて記録する記録手段と、を備える。
本発明によれば、画像データを付加情報とともに記録する場合の情報量の増加を抑制することができる。
本発明の実施形態に係る装置の構成例を示すブロック図である。 ソーベルフィルタによる特徴点抽出の説明図である。 領域分割による座標選択処理の説明図である。 画像データと幾何変形による座標移動先との対応関係を示す図である。 像高の算出および歪曲収差補正の処理例を説明する図である。 出力時の座標走査の説明図である。 図4に対する幾何変形時の座標補間の説明図である。 記録媒体に記録されるファイルの構造を説明する図である。 フレームヘッダ領域に記録される幾何変形パラメータの説明図である。
以下に本発明の実施形態に係る好適な構成例ついて、図面を参照して説明する。
図1は、本実施形態に係る撮像装置の構成例を示すブロック図である。光学系100はレンズや絞りなどの光学部材を備える撮影光学系である。光学系100は、レンズの光学収差を伴う光学系であり、手振れなどに対して像ブレ補正を行う光学補正機構を備える。撮像センサ部101は、光学系100を介して集光された被写体像を光電変換して画像信号を出力する撮像素子を備える。
圧縮部102は、撮像センサ部101から連続的に得られる画像信号を取得し、画像データの圧縮処理を実行する。圧縮部102は、画像データに対してロスレス圧縮、またはロスが少ないロッシー圧縮を行う。なお、ロスレス圧縮のみを行う形態や、ロッシー圧縮のみを行う形態でも構わない。一般的な情報圧縮技術を用いればよく、圧縮のアルゴリズムについては本発明の特徴部分ではないため、説明を省略する。
現像部103は、撮像センサ部101から連続的に得られる画像信号を取得し、画像データの現像処理を実行する。一般的な撮像センサでは、ベイヤー配列等のモザイク状に結像され、この場合、現像部103はデモザイク処理や、ガンマ補正等を行い、表示部104にて表示可能な画像データへ変換する処理を行う。このような変換処理を、現像処理と呼ぶ。表示部104は、現像処理後の画像データにしたがって画像を表示する。つまり、現像部103によって現像処理が行われた画像データは、画像表示により撮影者に提示される。
特徴量抽出部105は、現像部103から現像処理後の画像データを取得し、画素ごとの特徴量を抽出する。特徴量の抽出では、画素ごとに画像の特徴量を計算して抽出する処理が行われる。この計算および抽出の詳細に関しては後述する。
座標選択部106は、特徴量抽出部105によって抽出された特徴量に基づいて、幾何変形パラメータを求める基準となる座標を選択する。特徴量抽出部105から取得される特徴量のデータのうち、特徴量の高い座標が優先的に複数選択される。座標選択処理の詳細に関しては後述する。動き検出部107は、座標選択部106によって選択された複数の座標の動きベクトルを検出する。具体的には、動き検出部107は、時系列にて1つ前の画像データと、現時点の画像データとを比較することにより、座標選択部106によって選択された座標の動きベクトルを検出する。
幾何変形パラメータ生成部108は、動き検出部107によって検出された動きベクトルと、光学系100に備わるレンズ情報や各種センサ情報に基づいて、幾何変形パラメータを生成する。レンズ情報とは、光学系100を構成するレンズ(ズームレンズ等)の特性や収差等の情報である。また各種センサ情報とは、装置の振れ検出信号を出力する角速度センサ等による検出情報である。具体的には、座標選択部106によって選択された座標に対して、電子防振および各種光学収差の幾何補正およびローリングシャッター歪補正により参照位置ズレ量が算出される。この参照位置ズレ量が幾何変形パラメータとして出力される。
記録部109は、圧縮部102によって圧縮された画像データ(圧縮画像データ)と、幾何変形パラメータ生成部108によって生成された幾何変形パラメータとを関連付けて、記録媒体へ記録する。関連付けられた圧縮画像データと幾何変形パラメータは、後述する所定のフォーマットに従って記録媒体に記録される。
像ブレ補正部110は、幾何変形パラメータ生成部108によって生成された幾何変形パラメータと、角速度センサ等による振れ検出信号を取得し、撮像センサ部101により取得される画像データから画像の動きを検出し、画像の像ブレを補正する。電子防振の場合、手振れなどの影響による像ブレを電子的処理(画像処理)によって補正する処理が実行される。また光学防振の場合には、補正レンズや撮像素子などの光学部材または光学素子の移動により像ブレを補正する処理が実行される。本実施形態では、電子防振と光学防振が併用される。
収差補正部111は、幾何変形パラメータ生成部108によって生成された幾何変形パラメータにしたがって光学収差の幾何補正処理を実行する。光学収差補正には、例えば歪曲収差補正や、倍率色収差補正等が含まれる。
ローリングシャッター歪補正部112は、幾何変形パラメータ生成部108によって生成された幾何変形パラメータを取得し、既知の方法でローリングシャッター歪を自動的に補正する。ローリングシャッター歪は、ローリングシャッター方式の撮像センサで動きの速い被写体等を撮影した場合に、被写体像に歪みが生じる現象である。ローリングシャッター歪補正部112はローリングシャッター歪の検出量に応じた歪補正量を算出し、撮像素子により取得された画像データを補正する。
次に、特徴量の抽出処理、および座標選択処理について詳説する。
特徴量については、画像にて動きが目立つ領域と、各種光学収差が目立つ領域と、ローリングシャッター歪が目立つ領域を兼ねるものとする。但し、これは、いずれも補正を実施する場合であり、ローリングシャッター歪補正を実施しない場合には、前記領域がローリングシャッター歪の目立つ領域を兼ねていなくても構わない。これらの領域は、おおむね被写体像のエッジ部分に目立つ傾向がある。このため、図2に示すようなソーベル(sobel)フィルタの処理結果を用いるか、演算リソースに余裕があるシステムであればHarrisオペレータやShi・Tomasiの特徴量算出方法を用いると、より効果的である。本実施形態では、図2を参照して、ソーベルフィルタを用いる場合について説明する。ソーベルフィルタは空間1次微分を計算して輪郭を検出するフィルタである。
図2の画像データ200は、図1において現像部103の出力する画像データに相当する。画像データ200は水平ソーベルフィルタ201へ入力され、フィルタ処理されたデータは絶対値処理部203で絶対値に変換される。同様にして、垂直ソーベルフィルタ202は画像データ200を処理し、フィルタ処理されたデータは、絶対値処理部204で絶対値に変換される。絶対値処理部203,204の各出力は、選択処理部205に入力され、いずれか大きい方の出力が選択される(大値選択)。つまり選択処理部205は、絶対値処理部203の出力値と絶対値処理部204の出力値とを比較し、大きい方を特徴量206として出力する。このように、複数のフィルタによってそれぞれ処理された出力値のうち、いずれかが選択されることで、特徴量が抽出される。
次に、図3を参照して、座標選択処理について説明する。本実施形態では、画像データ群を所定数の領域に分割し、分割された領域ごとに特徴量が最大となる座標を求める処理が実行される。図3は、画像データ群について水平方向(図3の左右方向)に4分割、垂直方向(図3の上下方向)に3分割を行った場合の矩形分割例を示す。座標選択部106は、分割領域300の1つに付き、1つの分割領域内特徴最大点301を求める。図3では分割領域内特徴最大点(以下、特徴最大点という)301を黒点で示しており、その座標は該分割領域内で特徴量が最大値を示す座標である。なお本実施形態では、分割領域内で特徴量が相対的に高い座標として、特徴量の最大値をもつ単数の座標点を選択する処理を例示するが、必要に応じて複数の座標点を選択する処理を行っても構わない。
幾何変形パラメータ生成部108は、所望の幾何変形を行った場合に、前記特徴最大点301を参照する出力座標を求める。図4は対応関係のイメージを示す概念図であり、左側に幾何変形前の画像データ400を示し、右側に幾何変形後の画像データ401を示す。画像データ400上の座標は、図3にて説明した方法で選択された座標であり、幾何変形パラメータ生成部108は、当該座標に対応する幾何変形後の画像データ401上の点の座標を求める。この時に例えば、収差補正部111が歪曲収差補正を行う場合を想定する。この場合、光学系100の補正機構によって画像の中心からずれている補正レンズの光軸中心座標に基づいて像高を求め、さらに現在のレンズの状態を把握して像高に対する歪量を求める算出処理が行われる。この処理によって補正量が取得される。図5を参照して、具体的な処理を説明する。図5(A)は像高の算出処理を説明する図であり、図5(B)は歪曲収差補正量の算出処理を説明する図である。
図5(A)に示す画像データ500において、画像中心点501の座標を(Ox,Oy)と記し、光学系100の補正機構による像ブレ補正で画像中心にずれが生じたときの中心ズレ量502を(Sx,Sy)と記す。画像上の着目座標503を(x,y)と記し、像高をrと記すとき、像高算出の計算式504を以下に示す。
Figure 2016134631
光学系100の補正機構によるシフト移動量である、中心ズレ量(Sx,Sy)を考慮に入れて、像高rが算出される。
次に、図5(B)の歪曲収差補正量テーブル(505〜507参照)を参照して歪曲収差補正量を算出する処理が実行される。図5(B)の横軸は像高(単位:pixel)を表し、縦軸は歪曲収差補正量(単位:pixel)を表す。グラフ曲線505から507は、歪曲収差補正量テーブルの各データをグラフ化したものであり、ズーム位置a,b,cのそれぞれに対応する歪曲収差補正量を例示している。現在のズーム位置に応じたグラフ曲線、つまり歪曲収差補正量テーブルが選択され、既に求めた像高rに対応する補正量dが、直接または補間計算によって算出される。
次に、補正量dをx軸方向とy軸方向の各成分に分解して着目座標503の各成分に加算する処理が実行される。以下の計算式を用いて、歪曲収差補正後の座標(x*,y*)が算出される。
Figure 2016134631
上式中のarctan(Y,X)は、Y/Xの逆正接関数を表す。なお、倍率色収差補正を行う場合にも同様の処理が実行されるが、この場合にはR(赤)・G(緑)・B(青)の色成分ごとに中心ズレ量が異なるため、各色について個別に求める必要がある。
このように、幾何変形処理の入力画像の座標に対する出力座標を求める処理が行われた後、記録する圧縮画像(RAW動画)に対して、算出された座標値のデータを関連付けて、記録媒体への記録処理が行われる。座標値のデータを画像データに関連付けて記録する場合の記録媒体上のファイルイメージの一例を図8に示す。記録動画データの先頭アドレスを基準として、以下の領域が配置される。
・ファイルヘッダ領域(800):RAW動画の全フレーム数やフレームサイズ等の、RAW動画全体に対して所定数存在する情報を記録した領域であり、記録ファイルの先頭に位置する。
・フレーム情報領域(810):フレームヘッダ領域とフレーム画像データ領域とのペアで構成される領域である。
ファイルヘッダ領域800に続くフレーム情報領域810については、記録フレーム数をnとすると、n個の領域が記録される。フレームヘッダ領域には、上記方法によって求めた幾何変形パラメータが記録され、フレーム画像データ領域にRAW圧縮画像データが記録される。例えば、第1フレーム情報領域は、フレーム1ヘッダ領域801とフレーム1画像データ領域802から構成される。この場合、フレーム1画像データ領域802に記録されている圧縮RAW画像データに対応する幾何変形パラメータは、フレーム1ヘッダ領域801へ記録される。同様に、第2フレーム情報領域にて、フレーム2画像データ領域804に記録されている圧縮RAW画像データに対応する幾何変形パラメータは、フレーム2ヘッダ領域803へ記録される。
各フレームヘッダ領域へ記録される幾何変形パラメータは、所定数の頂点における幾何変形時の移動量を示している。倍率色収差補正のように、色別に異なる幾何変形を行う処理を含む場合、幾何変形時の移動量は、R・G・B各色のそれぞれの移動量を示す情報を含む。他方、色別に異なる幾何変形を行わない(全色成分が同様の幾何変形である)場合には、幾何変形時の移動量は1つの移動量のみを示す。具体的には、図3の例では、画像データ群を水平方向に4分割し、垂直方向に3分割に分割して幾何変形パラメータを求める処理が行われ、4×3=12個の移動量情報が取得される。図9(A)は、図3の領域分割に対応する領域インデックス900を例示し、図3の分割領域のそれぞれに仮のインデックス(910から912参照)を付けた領域1から領域12を示す。分割領域ごとに取得された移動量情報は、図9(B)に示すようにフレームヘッダ領域へ記録される。例えば、領域1のインデックス910に対応する幾何変形パラメータは、領域1のRAW画像上の座標920と、領域1の幾何変形後の座標921を有する。同様に、領域2のインデックス911に対応する幾何変形パラメータは、領域2のRAW画像上の座標922と、領域2の幾何変形後の座標923を有する。このように、記録するRAW動画上の特徴的な点であるRAW画像上の座標と、幾何変形による、当該特徴点の移動先の座標である幾何変形後の座標とを対にして、全領域(図9では領域1から領域12)分のデータがフレームヘッダ領域へ記録される。その場合、座標データ(幾何変形パラメータ)については、全ての画像データにそれぞれ関連付けられて存在しても構わないし、または所定のフレーム間隔(例えば2フレームに1組等)で画像データに関連付けて記録しても構わない。本明細書では、上記の処理で取得された座標値を幾何変形パラメータと呼称するが、幾何変形そのものを簡略化する場合(例えば射影変換等に近似する場合)には、その変換係数などに加工した後のデータを記録媒体へ記録しても構わない。
次に記録された動画像の再生処理について説明する。
記録媒体にデータが記録されたRAW動画には、幾何変形の出力座標に対応する入力座標を示す幾何変形パラメータが関連付けられて記録されている。再生処理にて再生部113(図1参照)は、図6に示すように、出力座標に対して表示制御に合わせた順序で走査を行う。図6に例示する出力画像の座標空間600において、左上から右への走査が上から下へ順次に行われていき、着目点での座標(着目座標601)である出力座標(x,y)に対応する入力座標が算出される。
図7は、幾何変形時の座標補間処理を説明する図であり、図4で求めて記録媒体へ記録した幾何変形パラメータをそのまま読み出す場合のイメージを示す。画像データ700には、出力画像である幾何変形後の画像701のデータに関する着目座標やその近傍点の座標にそれぞれ対応する座標を例示する。座標点708に示す着目座標(x,y)と、その近傍点702から704における幾何変形パラメータとして座標a、座標b、座標cをそれぞれ例示する。図7では、座標a、座標b、座標cに示す3点を頂点とする第1の三角形TR_abc(点線参照)内に存在する座標点708の着目座標(x,y)を例示する。出力位置に対応する入力画像(圧縮RAW動画中の1枚の画像)上での位置を求めるために、着目座標(x,y)の近傍にある3点の座標a、座標b、座標cを特定する処理が行われる。そして幾何変形パラメータである複数の座標がそれぞれ示す点により形成される図形(三角形TR_abc)と、着目座標(x,y)との位置関係が算出される。着目座標(x,y)の近傍点702から704の各座標は、座標a、座標b、座標cであり、画像データ700においてそれぞれに対応する座標A、座標B、座標Cを算出する処理が行われる。座標点702の座標aに対応する入力画像上での座標点705の座標を座標Aとする。座標点703の座標bに対応する入力画像上での座標点706の座標を座標Bとし、座標点704の座標cに対応する入力画像上での座標点707の座標を座標Cとする。座標A、座標B、座標Cに示す3点を頂点とする第2の三角形TR_ABC(点線参照)に対して、その内部に存在する座標点709の座標(X,Y)を算出する処理が前記と同様に行われる。座標点709の座標(X,Y)は、第1の三角形TR_abcの3頂点と第2の三角形TR_ABCの3頂点との対応関係において、着目座標(x,y)に対応する位置関係を示す点の座標として求めることができる。画像データ700において、算出された座標(X,Y)の位置における画素値を、出力画像701上での座標(x,y)での画素値として出力することにより、所望の幾何変形が達成される。このように図形を構成する座標点同士の位置関係を求めて、互いに対応する座標を算出する処理は、線形補間やスプライン補間等の、一般的な補間を用いて行われる。再生部113が出力するデータは、現像部103で現像処理されてから表示部104が画像表示を行う。
本実施形態では、RAW動画像データに対して幾何補正を実施するに際して、幾何補正に必要な情報をすべて付加する必要がない。よって、低速で安価な記録媒体を利用できる。RAW動画像データの加工時には、少ない演算量で像ブレ補正、各種収差補正、ローリングシャッター補正等の幾何補正を行えるので、付加情報を含めたデータの記録量の肥大化を抑制することができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102 圧縮部
103 現像部
105 特徴量抽出部
106 座標選択部
107 動き検出部
108 幾何変形パラメータ生成部
109 記録部
110 像ブレ補正部
111 収差補正部
112 ローリングシャッター歪補正部
113 再生部

Claims (12)

  1. 光学系を通して撮像された画像の画像データを圧縮する圧縮手段と、
    前記画像データを取得して画像の特徴量を抽出する抽出手段と、
    前記抽出手段により抽出される前記特徴量を取得し、前記特徴量が相対的に高い複数の座標を選択する座標選択手段と、
    前記座標選択手段によって選択された前記複数の座標に係る座標点の動きを検出する動き検出手段と、
    前記動き検出手段により検出された座標点の動きおよび前記光学系に係るレンズ情報を取得して幾何変形パラメータを生成する生成手段と、
    前記圧縮手段によって圧縮された画像データに対して、前記生成手段により生成された幾何変形パラメータを付加情報としてフレームごとに関連付けて記録する記録手段と、を備えることを特徴とする画像処理装置。
  2. 前記座標選択手段は、前記画像データに係る画像の領域を分割し、分割された領域ごとに前記特徴量を前記抽出手段から取得して前記複数の座標を選択することを特徴とする請求項1に記載の画像処理装置。
  3. 前記抽出手段は、
    前記画像データを処理する複数のフィルタ手段と、
    前記複数のフィルタ手段の出力値を比較して1つを選択し、前記特徴量として出力する選択手段を備えることを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記光学系のレンズ情報は、レンズの位置および歪曲収差もしくは倍率色収差の情報を含み、
    前記幾何変形パラメータは、画像の像ブレを補正する処理および歪曲収差もしくは倍率色収差の補正に用いるパラメータを兼ねており、幾何変形における複数の座標点の移動量を示すことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  5. 振れ検出信号を出力する振れ検出手段をさらに備え、
    前記生成手段は、前記振れ検出信号を取得して前記幾何変形パラメータを生成し、
    前記幾何変形パラメータは、画像の像ブレを補正する処理およびローリングシャッター歪補正に用いるパラメータを兼ねることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
  6. 前記記録手段は、前記幾何変形パラメータを記録媒体に記録する際に、前記画像データの座標を示す複数の座標データと、該座標データのそれぞれに対する幾何変形後の座標データとを対にしたデータを、前記圧縮手段によって圧縮された、現像処理が行われていない画像データとともに記録することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
  7. 請求項1から6のいずれか1項に記載の画像処理装置と、
    前記光学系を通して撮像した画像の画像データを出力する撮像手段を備えることを特徴とする撮像装置。
  8. 前記幾何変形パラメータを用いて、前記画像の像ブレを補正する補正手段を備えることを特徴とする請求項7に記載の撮像装置。
  9. 前記幾何変形パラメータを用いて、前記光学系のレンズの歪曲収差または倍率色収差を補正する収差補正手段を備えることを特徴とする請求項7または8に記載の撮像装置。
  10. 前記幾何変形パラメータを用いて、ローリングシャッター歪補正を行う歪補正手段を備えることを特徴とする請求項7から9のいずれか1項に記載の撮像装置。
  11. 請求項1から6のいずれか1項に記載の画像処理装置と、
    前記光学系を通して撮像した画像の画像データを出力する撮像手段と、
    圧縮された画像データおよび幾何変形パラメータを取得し、幾何変形時に座標補間処理を行って画素値を出力する再生手段と、を備えることを特徴とする撮像装置。
  12. 画像処理装置にて画像処理および記録処理を実行する画像処理方法であって、
    光学系を通して撮像された画像の画像データを圧縮する圧縮工程と、
    前記画像データを取得して画像の特徴量を抽出する抽出工程と、
    前記抽出工程で抽出された前記特徴量を取得し、前記特徴量が相対的に高い複数の座標を選択する座標選択工程と、
    前記座標選択工程で選択された前記複数の座標に係る座標点の動きを検出する動き検出工程と、
    前記動き検出工程で検出された座標点の動きおよび前記光学系に係るレンズ情報を取得して幾何変形パラメータを生成する生成工程と、
    前記圧縮工程で圧縮された画像データに対して、前記生成工程で生成された幾何変形パラメータを付加情報としてフレームごとに関連付けて記録する記録工程と、を有することを特徴とする画像処理方法。





JP2015005791A 2015-01-15 2015-01-15 画像処理装置、撮像装置、画像処理方法 Active JP6415330B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015005791A JP6415330B2 (ja) 2015-01-15 2015-01-15 画像処理装置、撮像装置、画像処理方法
US14/994,760 US9635260B2 (en) 2015-01-15 2016-01-13 Image processing apparatus, image pickup apparatus, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015005791A JP6415330B2 (ja) 2015-01-15 2015-01-15 画像処理装置、撮像装置、画像処理方法

Publications (2)

Publication Number Publication Date
JP2016134631A true JP2016134631A (ja) 2016-07-25
JP6415330B2 JP6415330B2 (ja) 2018-10-31

Family

ID=56408767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015005791A Active JP6415330B2 (ja) 2015-01-15 2015-01-15 画像処理装置、撮像装置、画像処理方法

Country Status (2)

Country Link
US (1) US9635260B2 (ja)
JP (1) JP6415330B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10075640B2 (en) * 2015-12-31 2018-09-11 Sony Corporation Motion compensation for image sensor with a block based analog-to-digital converter
CN113206951B (zh) * 2021-04-13 2022-07-05 武汉科技大学 一种基于扑翼飞行系统的实时电子稳像方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009071759A (ja) * 2007-09-18 2009-04-02 Victor Co Of Japan Ltd 手振れ補正システム
WO2010100677A1 (ja) * 2009-03-05 2010-09-10 富士通株式会社 画像処理装置およびぶれ量算出方法
JP2010273245A (ja) * 2009-05-25 2010-12-02 Sony Corp 撮像装置と振れ補正方法
JP2011233985A (ja) * 2010-04-23 2011-11-17 Canon Inc 画像処理装置及びその制御方法
JP2012249158A (ja) * 2011-05-30 2012-12-13 Sony Corp 撮影装置および方法、画像再生装置および方法、プログラム、並びに記録媒体
JP2014131190A (ja) * 2012-12-28 2014-07-10 Canon Inc 撮像装置、その制御方法、および制御プログラム
JP2015005221A (ja) * 2013-06-21 2015-01-08 キヤノン株式会社 情報処理装置、情報処理方法、及び、コンピュータプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4114720B2 (ja) * 2002-10-25 2008-07-09 株式会社ソニー・コンピュータエンタテインメント 画像生成方法および画像生成装置
JP5214476B2 (ja) * 2009-01-15 2013-06-19 富士フイルム株式会社 撮像装置及び画像処理方法並びにプログラム
JP5975794B2 (ja) * 2012-08-29 2016-08-23 キヤノン株式会社 表示制御装置、表示制御方法、プログラム及び記憶媒体
JP6255663B2 (ja) * 2012-11-19 2018-01-10 カシオ計算機株式会社 投影装置、投影状態調整方法、及び投影状態調整プログラム
JP6047008B2 (ja) * 2012-12-25 2016-12-21 キヤノン株式会社 画像処理装置およびそれを備えた撮像装置、ならびに画像処理装置の制御方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009071759A (ja) * 2007-09-18 2009-04-02 Victor Co Of Japan Ltd 手振れ補正システム
WO2010100677A1 (ja) * 2009-03-05 2010-09-10 富士通株式会社 画像処理装置およびぶれ量算出方法
JP2010273245A (ja) * 2009-05-25 2010-12-02 Sony Corp 撮像装置と振れ補正方法
JP2011233985A (ja) * 2010-04-23 2011-11-17 Canon Inc 画像処理装置及びその制御方法
JP2012249158A (ja) * 2011-05-30 2012-12-13 Sony Corp 撮影装置および方法、画像再生装置および方法、プログラム、並びに記録媒体
JP2014131190A (ja) * 2012-12-28 2014-07-10 Canon Inc 撮像装置、その制御方法、および制御プログラム
JP2015005221A (ja) * 2013-06-21 2015-01-08 キヤノン株式会社 情報処理装置、情報処理方法、及び、コンピュータプログラム

Also Published As

Publication number Publication date
US20160212347A1 (en) 2016-07-21
US9635260B2 (en) 2017-04-25
JP6415330B2 (ja) 2018-10-31

Similar Documents

Publication Publication Date Title
JP5222472B2 (ja) 画像処理装置、画像復元方法およびプログラム
JP5438579B2 (ja) 画像処理装置及びその制御方法
JP5984493B2 (ja) 画像処理装置、画像処理方法、撮像装置およびプログラム
KR101109532B1 (ko) 촬상 장치, 촬상 방법 및 촬상 프로그램이 기록된 기록 매체
US9369693B2 (en) Stereoscopic imaging device and shading correction method
US8982234B2 (en) Information processing apparatus and method
JP2006319578A (ja) 奥行方向移動判定装置、その奥行方向移動判定装置を有する手ぶれ補正システム、およびその方法、プログラム、そのプログラムが記録された計算機に読み取り可能な記録媒体、および手ぶれ補正システムを備える電子機器。
JP6415330B2 (ja) 画像処理装置、撮像装置、画像処理方法
WO2015186510A1 (ja) 撮像装置および方法、並びにプログラム
US9083883B2 (en) Camera module, electronic apparatus, and photographing method for image stabilization and increasing resolution
CN109672810B (zh) 图像处理设备、图像处理方法和存储介质
JP6153318B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP6730423B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JPH06153087A (ja) 画素欠陥補正方法
JP6245847B2 (ja) 画像処理装置および画像処理方法
JP6218520B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2009200981A (ja) ビデオカメラ
JP2016201600A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
JP2017173920A (ja) 画像処理装置、画像処理方法、画像処理プログラム、および記録媒体
JP2008172309A (ja) 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置
JP5855485B2 (ja) 画像生成装置、画像生成方法、撮像装置、および撮像方法
JP2015094834A (ja) 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JP5769790B2 (ja) 画像処理装置および画像処理方法
JP2014093714A (ja) 画像処理装置、その制御方法、および制御プログラム
JP2020086824A (ja) 画像処理装置、画像処理方法、撮像装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180827

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181002

R151 Written notification of patent or utility model registration

Ref document number: 6415330

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151