JP7405131B2 - 画像処理装置、画像処理方法、プログラム - Google Patents
画像処理装置、画像処理方法、プログラム Download PDFInfo
- Publication number
- JP7405131B2 JP7405131B2 JP2021501648A JP2021501648A JP7405131B2 JP 7405131 B2 JP7405131 B2 JP 7405131B2 JP 2021501648 A JP2021501648 A JP 2021501648A JP 2021501648 A JP2021501648 A JP 2021501648A JP 7405131 B2 JP7405131 B2 JP 7405131B2
- Authority
- JP
- Japan
- Prior art keywords
- area
- image
- frame
- effective
- shake correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 322
- 238000003672 processing method Methods 0.000 title claims description 6
- 238000012937 correction Methods 0.000 claims description 269
- 238000000034 method Methods 0.000 claims description 178
- 230000008569 process Effects 0.000 claims description 163
- 238000003384 imaging method Methods 0.000 claims description 120
- 230000002265 prevention Effects 0.000 claims description 39
- 238000007781 pre-processing Methods 0.000 claims description 31
- 230000009466 transformation Effects 0.000 claims description 25
- 238000001125 extrusion Methods 0.000 claims description 20
- 230000010365 information processing Effects 0.000 claims description 18
- 230000005484 gravity Effects 0.000 claims description 14
- 230000008859 change Effects 0.000 claims description 13
- 239000000284 extract Substances 0.000 claims description 6
- 230000006641 stabilisation Effects 0.000 description 45
- 238000011105 stabilization Methods 0.000 description 45
- 230000000875 corresponding effect Effects 0.000 description 38
- 230000003287 optical effect Effects 0.000 description 33
- 230000006870 function Effects 0.000 description 27
- 238000010586 diagram Methods 0.000 description 26
- 238000009432 framing Methods 0.000 description 26
- 238000005516 engineering process Methods 0.000 description 24
- 238000004891 communication Methods 0.000 description 15
- 238000004364 calculation method Methods 0.000 description 14
- 230000008676 import Effects 0.000 description 13
- 238000009966 trimming Methods 0.000 description 12
- 102100035353 Cyclin-dependent kinase 2-associated protein 1 Human genes 0.000 description 11
- 238000000605 extraction Methods 0.000 description 10
- 230000033001 locomotion Effects 0.000 description 10
- 230000007246 mechanism Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 239000013256 coordination polymer Substances 0.000 description 6
- 230000004048 modification Effects 0.000 description 6
- 238000012986 modification Methods 0.000 description 6
- 230000002829 reductive effect Effects 0.000 description 6
- 238000005096 rolling process Methods 0.000 description 6
- 230000007704 transition Effects 0.000 description 6
- 238000005070 sampling Methods 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 101000737813 Homo sapiens Cyclin-dependent kinase 2-associated protein 1 Proteins 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 101000760620 Homo sapiens Cell adhesion molecule 1 Proteins 0.000 description 2
- 101000661816 Homo sapiens Suppression of tumorigenicity 18 protein Proteins 0.000 description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 108090000237 interleukin-24 Proteins 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 101001139126 Homo sapiens Krueppel-like factor 6 Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Adjustment Of Camera Lenses (AREA)
- Closed-Circuit Television Systems (AREA)
Description
下記特許文献1では撮像装置の姿勢データを用いて画像データに対し手ぶれ補正や画像歪み補正を行うことが記載されている。
このような環境下では、ユーザが撮像した画像をそのまま出力するのではなく、より品質の高い画像や多様な画像を制作することが望まれている。
そこで本開示では、揺れ補正や画像切り出しを加味した高品質な画像処理を容易に行うことができるようにする技術を提案する。
例えば撮像装置で撮像された画像における手ぶれ(camera shake)等に起因する揺れ(フレーム間揺れ:interframe shake)を天球モデル上での座標変換により補正し、この揺れ補正がなされて平面投影された画像の切り出し領域をユーザの操作等に基づいて設定する。このとき、ユーザの操作などに応じて設定した要求切り出し領域(requested cropping area)を、揺れ補正(interframe shake correction)を有効に保つ可動領域からはみ出さないように修正した実効切り出し領域(effective cropping area)を設定し、これに基づいて切り出しを行う。
例えば動画ファイルを一時停止した画面上でのユーザの操作により、切り出し領域の指定操作がなされた場合、その操作情報を反映するように実効切り出し領域を設定する。
例えばトラッキングターゲットが画像内に含まれるように実効切り出し領域を設定する。
特にこの場合、本技術に係る画像処理装置においては、前記実効切り出し領域設定部は、ユーザ操作に基づく操作情報を用いて、前記トラッキングターゲットを設定することが考えられる。
例えば動画ファイルを一時停止した画面上でのユーザの操作により、トラッキングしたいターゲットの被写体や当該トラッキングターゲットに関する指定がなされた場合、その操作情報を反映するように実効切り出し領域を設定する。
トラッキングターゲットについて画面内での配置位置とは、画面表示される範囲でトラッキングターゲットとされた被写体が表示される位置(例えば画面中央、画面右上など)である。ユーザは任意に画面内の配置位置を指定できるようにする。
例えばユーザの操作により出力する画像の領域を指定できるようにし、その操作情報を用いて実効切り出し領域を設定する。
例えばユーザの操作により出力する画像のアスペクト比(画像の縦サイズと横サイズの比)を指定できるようにし、その操作情報を用いて実効切り出し領域を設定する。
この第1,第2,第3処理により、はみ出し防止処理は、操作情報に基づく切り出し領域、例えばユーザの画像の出力領域の指定やトラッキング状態を反映して設定した切り出し領域を、揺れ補正が有効な範囲に収める処理となる。
即ち処理対象のフレームを含んで前後に連続する複数フレーム、又は処理対象のフレームを含んで時間的後方に連続する複数フレームの撮像領域を用いて可動領域を設定する。
各フレームについて揺れ補正を行った状態の撮像領域に共通に含まれる領域は、複数フレームにわたって被写体が存在する範囲となる。
各フレームについて撮像領域の各端点の変化の低周波変動成分とは、各端点の位置変動を時間軸方向(フレーム進行方向)にとらえた場合の波形をローパスフィルタに通したときに観測される波形に相当する変動といえる。
即ち可動領域に収まるまで必要な距離だけ要求切り出し領域を回転させずに移動させる。
即ち回転をさせない状態では可動領域に収まらないときのみ要求切り出し領域を回転させる。
撮像を行う撮像装置において画像データに対してメタデータが対応づけられる。この場合の例えば撮像装置に加えられた加速度や角速度などの情報がメタデータとして含まれることを想定する。
撮像素子のローリングシャッター方式により1フレームのライン毎に露光期間が時間的にずれる場合、ラインのタイミング毎に姿勢は異なる。この場合に各ラインについては重心位置のタイミングを基準とする。
例えば撮像装置においては撮像時に手ぶれ補正などの補正処理が行われるが、処理対象の画像データに対して、これらの既に行われている補正をキャンセルした後に揺れ補正を行うようにする。
座標変換パラメータとしては、例えばレンズ歪、台形歪、フォーカルプレーン歪、電子手ぶれ補正、光学手ぶれ補正の各パラメータなど、撮像画像の画枠(画角を含めた画像の範囲)や撮像画像の座標系を変化させる場合の情報である。
動画としての画像ファイルを画像処理の対象とするときにフレーム毎のメタデータを記憶する。
これにより操作情報に基づく切り出し領域の設定には、はみ出し防止処理が加えられるようにする。
本技術に係るプログラムは、このような画像処理方法に相当する処理を情報処理装置に実行させるプログラムである。
これにより本開示の画像処理を各種の情報処理装置で実行可能とする。
<1.画像処理装置として適用できる機器の構成>
<2.画像ファイル及びメタデータ>
<3.画面遷移概要>
<4.画像処理>
<5.まとめ及び変形例>
以下の実施の形態では、主にスマートフォンなどの携帯端末により本開示に係る画像処理装置が実現される例で説明していくが、画像処理装置は、各種の機器において実現できる。まずは本開示の技術を適用できる機器について説明しておく。
画像ソースとしては撮像装置1、サーバ4、記録媒体5などが想定される。
画像処理装置としてはスマートフォンなどの携帯端末2やパーソナルコンピュータ3などが想定される。
サーバ4はローカルサーバ、ネットワークサーバ、クラウドサーバなどのいずれであっても良いが、撮像装置1で撮像された画像ファイルMFを提供できる装置を指す。このサーバ4がなんらかの伝送路を介して画像ファイルMFを携帯端末2やパーソナルコンピュータ3に転送することが考えられる。
揺れ補正処理は、動画を構成する画像データのフレーム毎に、天球モデルへの貼付処理が行われた後に、当該フレームに対応する姿勢情報を用いて行う揺れ補正処理である。
切り出し領域設定処理は、画像の切り出し領域をユーザの操作情報に基づいて設定したうえで、該切り出し領域が揺れ補正を有効に保つ領域からはみ出さないように修正するはみ出し防止処理を行う処理である。
実効切り出し領域画像生成処理は、揺れ補正処理が行なわれた状態で平面に投影した画像について、はみ出し防止処理を施した切り出し領域(実効切り出し領域CL)で画像を切り出すことで、実効切り出し領域画像を生成する処理である。切り出した画像は出力画像とすることができる。
例えば撮像装置1の内部のマイクロコンピュータ等が上記の画像処理を行う。つまり撮像装置1は撮像によって生成した画像ファイルMFを、そのまま上記の画像処理を行うことで、画像処理結果としての画像出力を行うことができるものとする。
もちろん撮像装置1や携帯端末2に限らず、画像ソース兼画像処理装置となりうる機器は他にも各種考えられる。
なお図1Bで説明したように携帯端末2で撮像した画像ファイルMFについてその携帯端末2で画像処理をすることを想定する場合、撮像機能に関し以下の撮像装置1と同等の構成を携帯端末2が備えればよいことになる。
なお、図示していないがレンズ系11には手ぶれ等による画像の揺れ(interframe shake)及びブラー(blur)を補正する光学手ぶれ補正機構(optical image stabilization mechanism)が設けられている場合がある。
この撮像素子部12では、イメージセンサ12aで受光した光を光電変換して得た電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そしてデジタルデータとしての撮像信号を、後段のカメラ信号処理部13やカメラ制御部18に出力する。
なお、図示していない光学手ぶれ補正機構としては、レンズ系11側ではなく、イメージセンサ12a側を移動させることで画像の揺れを補正する機構とされている場合やジンバルを用いた空間光学手ぶれ補正機構(balanced optical image stabilization mechanism)の場合等もあり、どのような方式であっても構わない。
光学手ぶれ補正機構では、揺れ(interframe shake)に加えて後述するがフレーム内のブラーも合わせて補正される。
またカメラ信号処理部13は各種補正処理も行う。但し手ぶれ補正については、撮像装置1内で行う場合もあれば、行わない場合も想定される。
同時化処理では、各画素についての画像データが、R,G,B全ての色成分を有するようにする色分離処理を施す。例えば、ベイヤー配列のカラーフィルタを用いた撮像素子の場合は、色分離処理としてデモザイク処理が行われる。
YC生成処理では、R,G,Bの画像データから、輝度(Y)信号および色(C)信号を生成(分離)する。
解像度変換処理では、各種の信号処理が施された画像データに対して、解像度変換処理を実行する。
処理F1としての光学手ぶれ補正では、レンズ系11のヨー方向、ピッチ方向のシフトによるレンズ内手ぶれ補正や、イメージセンサ12aのヨー方向、ピッチ方向のシフトによるボディ内手ぶれ補正が行われることで、手ぶれの影響を物理的にキャンセルした状態で被写体の像がイメージセンサ12aに結像するようにされる。このレンズ内手ぶれ補正と、ボディ内手ぶれ補正は一方のみの場合もあり、双方を用いる場合もある。レンズ内手ぶれ補正とボディ内手ぶれ補正の双方を用いる場合はボディ内手ぶれ補正ではヨー方向、ピッチ方向のシフトは行わないことが考えられる。
またレンズ内手ぶれ補正とボディ内手ぶれ補正の双方とも採用されず、手ぶれに対しては電子手ぶれ補正(electrical image stabilization)のみ、または、光学手ぶれ補正のみが行われる場合もある。
処理F2ではレンズ歪み補正が行われる。
処理F3では電子手ぶれ補正の1つの要素としてのフォーカルプレーン歪み補正が行われる。なお、これは例えばCMOS型のイメージセンサ12aによりローリングシャッター方式の読み出しが行われる場合の歪みを補正するものとなる。
処理F5では電子手ぶれ補正によって生じる台形歪み分に対する台形歪み補正が行われる。電子手ぶれ補正によって生じる台形歪み分とは、画像の中央から離れた場所を切り出すことにより生じるパース歪みである。
処理F6では、電子手ぶれ補正の1つの要素としてのピッチ方向、ヨー方向のシフトや切り出しが行われる。
例えば以上の手順で手ぶれ補正、レンズ歪み補正、台形歪み補正が行われることになる。
なお、ここで挙げた処理の全てを実施することは必須ではなく処理の順番も適宜入れ替えても構わない。
なおカメラ信号処理部13はカメラ制御部18からの情報等を用いて、画像ファイルMFに付加するメタデータの生成も行う。
また図2では音声処理系については図示を省略しているが、実際には音声収録系、音声処理系を有し、画像ファイルMFには動画としての画像データとともに音声データも含まれるようにしてもよい。
なお、この画像データは予め設定されたアスペクト比を持ち、画像データのフレーム全体が後述する撮像領域(captured area)に相当する。
記録制御部14の実際の形態は多様に考えられる。例えば記録制御部14は、撮像装置1に内蔵されるフラッシュメモリとその書込/読出回路として構成されてもよいし、撮像装置1に着脱できる記録媒体、例えばメモリカード(可搬型のフラッシュメモリ等)に対して記録再生アクセスを行うカード記録再生部による形態でもよい。また撮像装置1に内蔵されている形態としてHDD(Hard Disk Drive)などとして実現されることもある。
表示部15は、カメラ制御部18の指示に基づいて表示画面上に各種表示を実行させる。
例えば表示部15は、記録制御部14において記録媒体から読み出された画像データの再生画像を表示させる。
また表示部15にはカメラ信号処理部13で表示用に解像度変換された撮像画像の画像データが供給され、表示部15はカメラ制御部18の指示に応じて、当該撮像画像の画像データに基づいて表示を行う場合がある。これにより構図確認中の撮像画像である、いわゆるスルー画(被写体のモニタリング画像)が表示される。
また表示部15はカメラ制御部18の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を画面上に実行させる。
例えば外部の表示装置、記録装置、再生装置等に対して撮像画像データ(静止画ファイルや動画ファイル)の送信出力を行う。
また出力部16はネットワーク通信部であるとして、例えばインターネット、ホームネットワーク、LAN(Local Area Network)等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末等との間で各種データ送受信を行うようにしてもよい。
操作部17によりユーザの操作が検知され、入力された操作に応じた信号はカメラ制御部18へ送られる。
メモリ部19は、カメラ制御部18が処理に用いる情報等を記憶する。図示するメモリ部19としては、例えばROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリなど包括的に示している。
メモリ部19はカメラ制御部18としてのマイクロコンピュータチップに内蔵されるメモリ領域であってもよいし、別体のメモリチップにより構成されてもよい。
カメラ制御部18はメモリ部19のROMやフラッシュメモリ等に記憶されたプログラムを実行することで、この撮像装置1の全体を制御する。
例えばカメラ制御部18は、撮像素子部12のシャッタースピードの制御、カメラ信号処理部13における各種信号処理の指示、ユーザの操作に応じた撮像動作や記録動作、記録した画像ファイルの再生動作、レンズ鏡筒におけるズーム、フォーカス、絞り調整等のレンズ系11の動作、ユーザインタフェース動作等について、必要各部の動作を制御する。
メモリ部19におけるROMやフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。
これらのモータドライバはカメラ制御部18からの指示に応じて駆動電流を対応するドライバに印加し、フォーカスレンズやズームレンズの移動、絞り機構の絞り羽根の開閉等を実行させることになる。
センサ部23としては例えばIMU( inertial measurement unit:慣性計測装置)が搭載されており、例えばピッチ-、ヨー、ロールの3軸の角速度(ジャイロ)センサで角速度を検出し、加速度センサで加速度を検出することができる。
またセンサ部23としては、位置情報センサ、照度センサ等が搭載されていても良い。
携帯端末2は、例えば図4に示す構成を備えた情報処理装置として実現できる。なお、パーソナルコンピュータ3やサーバ4についても、同様に図4の構成の情報処理装置により実現できる。
CPU71、ROM72、およびRAM73は、バス74を介して相互に接続されている。このバス74にはまた、入出力インタフェース75も接続されている。
例えば入力部76としては、キーボード、マウス、キー、ダイヤル、タッチパネル、タッチパッド、リモートコントローラ等の各種の操作子や操作デバイスが想定される。
入力部76によりユーザの操作が検知され、入力された操作に応じた信号はCPU71によって解釈される。
表示部77は各種表示を行う表示部であり、例えば情報処理装置70の筐体に設けられるディスプレイデバイスであったり、情報処理装置70に接続される別体のディスプレイデバイス等により構成される。
表示部77は、CPU71の指示に基づいて表示画面上に各種の画像処理のための画像や処理対象の動画等の表示を実行する。また表示部77はCPU71の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を行う。
通信部80は、インターネット等の伝送路を介しての通信処理を行ったり、各種機器との有線/無線通信、バス通信などによる通信を行う。
ドライブ82により、リムーバブル記録媒体81からは画像ファイルMF等のデータファイルや、各種のコンピュータプログラムなどを読み出すことができる。読み出されたデータファイルは記憶部79に記憶されたり、データファイルに含まれる画像や音声が表示部77や音声出力部78で出力されたりする。またリムーバブル記録媒体81から読み出されたコンピュータプログラム等は必要に応じて記憶部79にインストールされる。
即ち情報処理装置70(CPU71)は、前処理部31、画像処理部32、UI処理部36としての機能を備える。
なお本明細書において「インポート」とは、情報処理装置70が例えば記憶部79などに取り込んでいることでアクセス可能な画像ファイルMFなどを画像処理の対象とすることを指し、前処理を行って画像処理可能に展開することをいう。例えば撮像装置1から携帯端末2に転送することを指すものではない。
前処理部31は、ユーザ操作等により指定された画像ファイルMFを画像処理対象となるようにインポートするとともに、前処理として画像ファイルMFに付加されたメタデータに関する処理を行う。例えば動画の各フレームに対応するメタデータを抽出して記憶する処理を行う。
ここで、補正する「揺れ」とは、その画像ファイルMFの撮像を行った撮像装置1の動きによる画像の振動を指すが、特にはフレーム間で生じる振動成分(フレーム間での画像の揺らぎ)をいう。そして「(フレーム間)揺れ補正」とは、このようなフレーム間の振動としてあらわれる揺れを補正することを指す。上述したシフトや切り出しによる方式の電子手ぶれ補正は「揺れ補正」に含まれる。また、前述した光学手ぶれ補正では、「揺れ補正(interframe shake correction」と「ブラー補正」が同時に行われるとになる。
なお撮像素子部12がローリングシャッター方式のCMOS型のイメージセンサ12aを搭載する場合は、ライン毎に揺れ及びブラーの量は異なることになる。
実効切り出し領域の設定については、ユーザの操作に応じて固定的な切り出し領域の設定をすることに限られず、ユーザのトラッキングターゲット(追尾対象)の指定に応じて、トラッキングターゲットを含むように実効切り出し領域の設定を行うようにしてもよい。
この場合、実効切り出し領域設定部34は、画像解析やフレーム間比較などにより動画の各フレームにおいてトラッキングターゲットの位置を特定する処理も行う。
例えば撮像装置1と、図5の機能を備えた情報処理装置70に該当する携帯端末2により、例えば図6のような流れで処理が行われることになる。
ステップS91の撮像とは、撮像素子部12による撮像画像信号の出力(RAWデータ出力)を示している。
ステップS92のカメラプロセスはいわゆる現像処理であり、撮像画像信号に対してカメラ信号処理部13において行われる上述した各種の信号処理のことである。図3で説明した各種の補正処理を含む。
またステップS93のメタデータ生成処理は、例えばセンサ部23により得られるIMUデータやカメラの制御信号に応じて画像に関連づけるメタデータを生成する処理であり、カメラ信号処理部13或いはカメラ制御部18において行われる。
カメラ信号処理部13では、ステップS92のカメラプロセスが行われた画像データとステップS93のメタデータ生成処理で生成されたメタデータを含めてステップS94の画像ファイル生成処理が行われ、画像ファイルMFが生成される。
携帯端末2では画像ファイルMFのインポート時の前処理(ステップS95)として、画像ファイルMFを画像処理対象とし、また各フレームに対応づけたメタデータの記憶管理が行われる。
また、インポートされ前処理が行われた画像ファイルMFについてはステップS96の画像処理を任意の時点で行うことができる。この画像処理では、揺れ補正部33による揺れ補正や実効切り出し領域設定部34による実効切り出し領域設定、実効切り出し領域画像生成処理部35による平面投影及び切り出し処理等が行われる。
そして画像処理の経過や結果を表示或いは保存のためにステップS97として保存/表示処理が行われる。
このような流れにより、ユーザは撮像装置1で撮像した動画を携帯端末2において画像処理し、再生、記憶、アップロード等をすることができる。
その場合の処理の流れを図7に示している。即ち撮像装置1内でステップS95の前処理、ステップS96の画像処理、ステップS97の保存/表示処理も行われるようにした場合を示している。
また図1Bでは携帯端末2が撮像を行う場合も言及したが、その場合、この図7に示した処理が携帯端末2内で行われるようにすることが考えられる。
例えば破線で囲って示すように撮像と画像処理が撮像装置1と携帯端末2で行われる場合、撮像装置1ではステップS91の撮像により得た撮像画像信号(RAWデータ)と、ステップS93のメタデータ生成処理で生成したメタデータにより、ステップS94の画像ファイル生成処理を行って画像ファイルMFを生成する。RAWデータの場合は図6,図7のステップS92としたカメラプロセスは行われない。
携帯端末2では、このような画像ファイルMFに対して前処理(ステップS95)、画像処理(ステップS96)、保存/表示処理(ステップS97)を行う。
なお図8のようにRAWデータを画像処理対象とする場合において、撮像装置1内で電子手ぶれ補正や光学手ぶれ補正が行われる場合も想定されるし、行われない場合も想定される。
付言すれば、カメラプロセスが行われる図6,図7の場合も、撮像装置1内で電子手ぶれ補正や光学手ぶれ補正が行われる場合も想定されるし、行われない場合も想定される。
即ち撮像装置1内で、ステップS95の前処理、ステップS96の画像処理、ステップS97の保存/表示処理が行われる場合も有り得る。
また携帯端末2内で、ステップS91の撮像、ステップS93のメタデータ生成処理、ステップS94の画像ファイル生成処理が行われる場合も有り得る。
画像ファイルMFの内容とメタデータの内容を説明する。
図9Aは画像ファイルMFに含まれるデータを示している。図示のように画像ファイルMFには「ヘッダー」「サウンド」「ムービー」「メタデータ」としての各種のデータが含まれる。
「サウンド」は動画とともに収録された音声データである。例えば2チャネルステレオ音声データが記録される。
「ムービー」は動画データであり、動画を構成する各フレーム(#1、#2、#3・・・)としての画像データで構成される。
「メタデータ」としては、動画を構成する各フレーム(#1、#2、#3・・・)に対応づけられた付加情報が記述される。
センサ部23として撮像装置1に搭載されるIMUでは、角速度データと加速度データを所定のサンプリングレートで出力している。一般に、このサンプリングレートは撮像画像のフレームレートより高く、このため1フレーム期間に多くのIMUデータサンプルが得られるものとなっている。
また加速度データとしても、アクセルサンプル#1、アクセルサンプル#2・・・アクセルサンプル#mというように、1フレームについてm個のサンプルが対応づけられる。
n=mの場合もあるし、n≠mの場合もある。
なお、ここではメタデータは各フレームに対応づけられる例で説明しているが、例えばIMUデータはフレームとは完全に同期しない場合もある。そのような場合、例えば各フレームの時間情報と関連する時間情報を、タイミング情報TMにおけるIMUサンプルタイミングオフセットとして持つようにされる。
そして、座標変換パラメータHPとは、少なくとも、レンズ歪み補正パラメータ、台形歪み補正パラメータ、フォーカルプレーン歪み補正パラメータ、電子手ぶれ補正パラメータ、光学手ぶれ補正パラメータを含みうる用語としている。
図10Aにはレンズ系11とイメージセンサ12aの模式図において、像高Y、角度α、入射瞳位置d1、射出瞳位置d2を示している。
レンズ歪み補正パラメータは、画像処理においては、イメージセンサ12aの各画素についての入射角度を知りたいために用いられる。そのため像高Y、角度αの関係がわかれば良い。
像高Y、角度αの関係がわかるようにメタデータとして必要なのは、歪み補正前の最大像高H0と、N個の各像高に対する入射角度のデータd0、d1、・・・d(N-1)となる。“N”は一例として10程度であることが想定される。
つまり、これらのパラメータを用いて逆補正を行えば、レンズ歪み補正、台形歪み補正、フォーカルプレーン歪み補正、電子手ぶれ補正、光学手ぶれ補正が施された画像データを、各補正処理前、即ち、撮像素子部12のイメージセンサ12aに結像したときの状態に戻すことができる。
つまり、これらのパラメータを用いて逆補正を行えば、レンズ歪み補正、台形歪み補正、フォーカルプレーン歪み補正が施された画像データを、光学歪み補正前の状態に戻すことができる。
本実施の形態の画像処理においては、これらは主に各フレームのラインとIMUデータを対応づけるために用いられる。
但しイメージセンサ12aがCCDの場合であっても、 電子シャッターやメカシャッターを用いて露光重心がずれる場合は、露光開始タイミングと幕速も用いて露光重心に合わせた補正が可能となる。
携帯端末2における画像処理時の画面遷移の例を説明する。
図11に携帯端末2の表示画面上に現れる各種画面の遷移を示している。各画面について簡単に説明する。
なお、以下説明する各画面のうち、プレビュー画面102、フレーミング画面103、トリミング画面104、スピード画面105、アスペクト比設定画面106、エクスポート画面108で出力される画像は、後述する図14のステップST19の処理を経た出力画像oPDである。
但し、これらの画面で出力される画像は、必ず下図14の処理を経た出力画像oPDでなくてもよいが、その場合、ユーザが設定したり視認している領域と、最終的な図14の処理後の領域や歪み具合が若干異なる可能性もある。
動画処理のためのアプリケーションプログラムを起動すると、インポート画面101が現れる。
インポート画面101は動画処理開始前の画面である。このインポート画面101では画像ファイルMFのサムネイル等が表示され、処理対象とする画像ファイルMFをユーザが選択できるようにしている。
選択された画像ファイルMFは処理対象の画像ファイルMFとしてインポート及び前処理される。
インポート画面101においてユーザが1又は複数の画像ファイルMFを選択する操作を完了することで、インポート処理を経て表示はプレビュー画面102に遷移する。プレビュー画面102ではインポートされた画像処理可能な動画(画像ファイルMF)のリストが表示されるとともに、その中で指定された動画のプレビュー再生が可能とされる。
プレビュー画面102では、ユーザは選択した動画(画像ファイルMF)の再生、動画の追加、削除、画像処理のリセットなどの操作を行うことができる。
動画再生はプレビュー画面102上で行われる。
画像処理対象とする動画の追加や新規プロジェクト(新たな画像処理アクション)の操作が行われた場合、インポート画面101に戻って選択が可能とされる。動画の削除(画像処理対象からの除外)はプレビュー画面102において可能とされる。
プレビュー画面102からの所定の操作により、表示はフレーミング画面103に遷移する。フレーミング画面103はインポートした動画のうちで、プレビュー画面102で処理対象として指定した動画を個別にフレーミング処理するための画面である。
このフレーミング画面103では、例えば処理対象となっている動画の或るフレームの静止画像が表示された状態において、ユーザはそのフレームの画像上で、画像の実効切り出し領域の指定、画像の拡大縮小、画像の回転、トラッキングターゲット(追尾対象)の指定、トラッキングターゲットの画面内での配置位置の指定などの操作が可能とされる。
その後、フレーミング画面103からの所定の操作により、表示はプレビュー画面102に戻る。
例を挙げる。図12Aは、或るフレームの画像全体114と、表示枠115を示している。この表示枠115の範囲がフレーミング画面103で表示される範囲であるとする。つまりフレーミング画面103上では、画像全体114のうちの一部が切り出されて表示されている。この表示枠115の範囲内が実効切り出し領域に相当する。
例えば画面上のドラッグ操作により、図12Aから図12Bのように表示枠115に含まれる範囲が移動される。つまり表示枠115に対して画像が上下左右に移動されることで、表示される範囲が変化する。
またユーザが例えばピンチアウト/ピンチイン操作により画像の拡大・縮小を指示することで、表示枠115に含まれる範囲が変化する。例えば図12Bから縮小操作が行われると、図12Cのようになる。つまり表示枠115に含まれる(ユーザが視認している)画像が縮小されるように、表示枠115に対して画像全体114が縮小され、表示枠115に含まれる被写体の範囲が広くなる。即ち表示されている画像が縮小されることで、より広い範囲が表示される状態となる。
図示しないが、逆にユーザが拡大操作を行うことで、表示枠115に対して画像全体114が拡大され、表示枠115に含まれる被写体の範囲が狭くなる。即ちより狭い範囲が拡大されて表示される状態となる。
このような表示枠115で表示される範囲についての操作は、ユーザによる切り出し領域の指定操作となる。
例えばフレーミング画面103においてユーザがトラッキングターゲット指定のための操作を行うと、図13Aのようにターゲット指定照準116が表示される。ユーザはドラッグ操作やタップ操作などでターゲット指定照準の位置を任意に指定できる。例えば図13Bのように人の顔の部分を指定することができる。
この図13Bの状態では、当該人物の顔をトラッキングターゲットとして指定したことになり、さらに、トラッキングターゲットの画面内で右上に配置するという、トラッキングターゲットの画面内での配置位置を指定したことにもなる。
表示枠115内の画像範囲の移動、拡大、縮小、回転のみでトラッキングターゲットが指定されていない場合は、各フレームでは、その画像範囲の移動、拡大・縮小・回転の操作で指定された範囲が固定的に実効切り出し領域となる。
一方で上記のように表示枠に含める画像範囲とともにトラッキングターゲット及びその配置位置が指定された場合、動画内の他のフレームは、その指定に応じて実効切り出し領域が計算されることになる。即ち動画を構成する各フレームでは、トラッキングターゲットの画面内位置も変化するため、フレーム毎に実効切り出し領域は計算されて変化する。
具体的には、各フレームでは、表示枠115の拡大縮小操作で指定された実効切り出し領域のサイズにおいて、指定されたトラッキングターゲットが、指定された配置位置に位置するように、実効切り出し領域がそれぞれ計算される。
トラッキングターゲットの大きさの変化に応じて、適切に実効切り出し領域の大きさを変化させても良い。
プレビュー画面102からの所定の操作により、表示はトリミング画面104に遷移する。トリミング画面104はインポートした動画のうちで、プレビュー画面102で処理対象として指定した動画を個別にトリミング処理(時間軸方向のカット)するための画面である。
トリミング画面104では、動画内でトリミングする範囲を選択できる。例えば動画の時間軸方向にバーを表示し、切り取りする範囲の開始点、終了点を指定するような操作が可能とされる。
トリミング画面104からの所定の操作により、表示はプレビュー画面102に戻る。
なお、本明細書においてでは、トリミングは1フレーム内の一部領域を切り出す処理を含まない。
プレビュー画面102からの所定の操作により、表示はスピード画面105に遷移する。スピード画面105はインポートした動画のうちで、プレビュー画面102で処理対象として指定した動画を個別にスピード処理するための画面である。
例えばスピード画面105では、動画内でスピード(再生速度)を設定する範囲を選択したり、当該範囲の再生速度を指定するような操作が可能とされる。
スピード画面105からの所定の操作により、表示はプレビュー画面102に戻る。
より具体的には、メタデータに含まれるタイミング情報TMで設定されているフレームレートと異なるフレームレートとすることで、スローモーションや高速再生を行うための再生速度である。
プレビュー画面102からの所定の操作により、表示はアスペクト比設定画面106に遷移する。アスペクト比設定画面106はインポートした動画についてファイル単位で出力動画のアスペクト比を設定するための画面である。
なお、インポートした動画と設定された出力画像(出力動画)のアスペクト比が異なる場合は、フレーミング画面で行われる実効切り出し領域の設定と同様の意味合いを持つことがある。
即ち、フレーミング画面で実効切り出し領域が設定されていなくても、撮像領域から、アスペクト比が異なる出力画像の実効切り出し領域が設定されることになる。
例えばアスペクト比設定画面106では、「1:1」「4:5」「5:4」「16:9」「9:16」などのアスペクト比が選択可能とされる。
アスペクト比設定画面106からの所定の操作により、表示はプレビュー画面102に戻る。
またアスペクト比設定画面106を、インポートした動画のうちで、プレビュー画面102で処理対象として指定した動画を構成する複数フレームの全体のアスペクト比を設定できるようにするための画面としてもよい。
プレビュー画面102からの所定の操作により、表示は設定画面107に遷移する。設定画面107では当該アプリケーションプログラムの動作等についての設定操作が可能とされる。
設定画面107からの所定の操作により、表示はプレビュー画面102に戻る。
プレビュー画面102からの所定の操作により、表示はエクスポート画面108に遷移する。エクスポート画面108は、上記各画面で行った画像処理内容を反映させた動画を書き出す処理を行っているときの画面である。即ちユーザは、各種画像処理の操作を行ったら、プレビュー画面102に戻ってエクスポートを指示する。これにより、エクスポート画面108に遷移し、画像処理内容どおりに加工された動画の書き出し処理が実行される。
書き出された動画は、ユーザは任意に記録したり、携帯端末2のネットワーク通信を介してウェブサイト、SNS(Social Networking Service)等にアップロードしてシェアしたりすることができる。
なお、書き出し処理中にユーザがキャンセル操作をおこなった場合や、書き出し処理が完了した場合、表示はプレビュー画面102に戻る。
以上の各画面でのユーザインタフェースを行いながら実行される動画に関する処理の具体例を説明していく。
図14は、図5の前処理部31(CPU71)によって動画(画像ファイルMF)のインポート時に行われる前処理としての手順、及び画像処理部32(CPU71)によって行われる画像処理としての手順を示すとともに、各処理で用いる情報の関係性を示している。
なおステップST1,ST2,ST3,ST4の一部又は全部を撮像装置1側で行ってもよい。その場合は、前処理においては、以下説明するそれらの処理後の内容がメタデータとして取得される。
これは、全フレームについて対応づけられているIMUデータについて、全てを時系列順に並べて連結し、動画のシーケンス全体に対応するIMUデータを構築する処理となる。
そして連結したIMUデータに対して積分処理を行って、動画のシーケンス上の各時点での撮像装置1の姿勢を表すクオータニオン(Quaternion)QDを算出し、これを記憶保持する。クオータニオンQDを算出するとしているのは一例である。
なお角速度データのみでクオータニオンQDを計算することもできる。
図14の画像処理は、フレーミング画面103でユーザに指定される実効切り出し領域の情報を反映させながら、プレビュー画面102、フレーミング画面103、トリミング画面104、スピード画面105、アスペクト比設定画面106としての各画面で、画像ファイルMFの動画或いは一時停止中の静止画が再生される際に定常的に行われる処理を示している。
また画像処理部32(CPU71)は、トラッキング(ステップST16)、出力領域指定(ステップST17)、はみ出し防止(ステップST18)としての各処理を行う。これらステップST16、ST17、ST18の処理は、図5の実効切り出し領域設定部34の機能による処理となる。
また画像処理部32(CPU71)は、平面投影及び切り出し(ステップST19)の処理を行う。このステップST19の処理は、図5の実効切り出し領域画像生成処理部35の機能による処理となる。
なお、動画が圧縮などのエンコード処理をされたものでない場合は、このステップST11でのデコード処理は不要である。
図15Aに画像データiPDを示している。像高hは画像中心からの距離である。図中の各円は像高hが等しくなる位置を示している。
この画像データiPDのフレームについての画角、ズーム位置、レンズ歪み情報から、そのフレームにおける「イメージセンサ面と入射角φの関係」を計算し、イメージセンサ面の各位置の「data0」・・・「dataN-1」とする。そして「data0」・・・「dataN-1」から図15Bのような像高hと入射角φの関係の1次元のグラフとして表現する。入射角φは光線の角度(光軸から見た角度)である。
この1次元のグラフを撮像画像の真ん中を中心に1回転させて、各ピクセルと入射角の関係を求める。
それに従って図15Cの画素G1から天球座標上の画素G2のように、画像データiPDの各画素について天球モデルMTへのマッピングを行うことになる。
従ってこの状態で天球モデルMTの画像を所定方向に回転させることで、揺れ補正が実現できることになる。
同期処理では、フレーム番号FNに対応して、ライン毎に適したクオータニオンQD(#LN)を特定し取得する処理を行う。なお『(#LN)』はフレーム内のライン番号を示し、そのラインに対応する情報であることを表すものとする。
例えばイメージセンサ12aがCCD型でグローバルシャッター方式の撮像が行われる場合は、フレーム単位のクオータニオンQD(#FN)を用いれば良い。
なお、イメージセンサ12aとしてのCCDやCMOSのグローバルシャッターの時でも電子シャッター(メカシャッターでも同様)を用いていると重心がずれるので、フレームの露光期間の中心(電子シャッターのシャッター速度に応じてずれる)のタイミングのクオータニオンを用いると良い。
ブラーとは、同一フレーム内の撮像装置と被写体の間の相対的な動きによる、画像のにじみのことである。即ち露光時間内の揺れによる画像のにじみである。露光時間が長くなる程、ブラーとしてのにじみの影響は強くなる。
電子手ぶれ補正は、フレーム毎に切り出す画像範囲を制御する方式を用いる場合、フレーム間に生じる「揺れ」を軽減/解消できるものであるが、露光時間内の相対的な揺れは、このような電子手ぶれ補正では低減できない。
また手ぶれ補正で切り出し領域を変化させるときは、各フレームの姿勢情報を用いるが、その姿勢情報が、露光期間の開始又は終了のタイミング等の露光期間の中心とずれたものであると、その姿勢を基準とした露光時間内の揺れの方向が偏ることになり、にじみが目立ちやすい。さらに、CMOSのローリングシャッターではラインごとに露光期間が異なる。
図16には、撮像装置1の垂直期間の同期信号cVと、この同期信号cVから生成されるイメージセンサ12aの同期信号sV、及びIMUデータのサンプルタイミングを示すとともに、露光タイミング範囲120を示している。
露光タイミング範囲120は、ローリングシャッター方式で露光時間t4としたときの1フレームの各ラインの露光期間を平行四辺形で模式的に示したものである。さらに同期信号cVと同期信号sVの時間的なオフセットt0、IMUサンプルタイミングオフセットt1、読み出し開始タイミングt2、読み出し時間(幕速)t3、露光時間t4を示している。なお読み出し開始タイミングt2は同期信号sVから所定時間t2ofを経たタイミングとなる。
各IMUサンプルタイミングで得られる各IMUデータについてはフレームに紐づけられる。例えば期間FH1におけるIMUデータは平行四辺形で露光期間を示した現フレームに紐付いたメタデータとされ、期間FH1におけるIMUデータは次のフレームに紐付いたメタデータとされる。但し図14のステップST2で全IMUデータを連結することで、各フレームとIMUデータの紐付けを解除し時系列でIMUデータを管理できる状態になっている。
この場合に、現フレームの各ラインの露光重心(破線Wのタイミング)に相当するIMUデータを特定する。これはIMUデータとイメージセンサ12aの有効画素領域との時間的な関係がわかれば計算できる。
即ち露光時間、露光開始タイミング、読み出し時間、露光フレーム数、IMUサンプルオフセット、フレームレートの情報である。
そして露光重心のIMUデータから計算されたクオータニオンQDを特定し、ライン毎の姿勢情報であるクオータニオンQD(#LN)とする。
画像処理部32はステップS15の揺れ補正では、ステップS14でフレームの画像が貼り付けられた天球モデルMTの画像を、ライン毎にクオータニオンQD(#LN)を用いて姿勢の変化(揺れ)をキャンセルさせるように回転させることで、揺れ補正を行う。揺れ補正済天球モデルhMTの画像は、ステップST19の処理に送られる。
さらにクオータニオンQD(#LN)が各ラインの露光重心に対応するものであることで、ブラーが目立たない画像となっている。
図17Aは、平面投影する矩形の座標平面131の一例を示している。平面投影される画像の各座標を(x,y)とする。
図17Bに示すように座標平面131を、天球モデルMTの真上に真ん中で接するように3次元空間上に配置(正規化)する。即ち、その座標平面131の中心が天球モデルMTの中心と一致し、かつ天球モデルMTと接する位置に配置されるようにする。
またxnorm、ynorm、znormは、正規化したx、y、z座標である。
上記(数1)の各式により、座標平面131の座標は、半径1.0の半球の球面上の座標に正規化される。
図18Bのように、座標平面131を、天球表面に透視射影する(領域132)。即ち座標から天球の中心に向かって直線を引いた時に球面と交差する点を求めることになる。各座標は、以下のように計算される。
この関係で平面投影された画像データが得られる。
このトラッキング処理は、ユーザによる操作情報DR1により指定されたトラッキングターゲットが、現フレームの画像データPD(#FN)のうちで、どの位置に存在するかを検出する処理となる。
画像処理部32は、トラッキングターゲットを指定する操作が行われた場合、指定された被写体を認識し、追尾対象として記憶する。そしてその後、フレーム毎に、当該トラッキングターゲットの画面内の位置を判定する処理を行っていくことになる。
トラッキングターゲットの画面内の位置の判定は、画像解析による被写体判定(例えば顔判定、人物判定など)を行ったり、前フレームのトラッキングターゲットの画面内位置情報TPpを用いて行う。
そして判定した現フレームの画像データPD(#FN)におけるトラッキングターゲットの画面内位置情報TPをステップS17の処理に提供する。画面内位置情報TPは、現在のフレームの座標系において、トラッキングターゲットが撮像されている範囲を座標値により示した情報であればよい。
ここでの要求切り出し領域CLrqの設定とは、次のステップST18の処理を行う前の仮設定(実際に切り出し処理を行う領域としての実効切り出し領域CLの候補)という意味である。このステップST17は、ユーザ操作やトラッキングターゲットの情報に基づいて実効切り出し領域CLを指定する処理であるが、後述するはみ出し防止処理で修正する前の実効切り出し領域CLを、要求切り出し領域CLrqと呼んでいる。
例えばはみ出し防止処理が行われない場合や、はみ出し防止処理が行われても実質的な修正が行われない場合など、ステップST17で設定される要求切り出し領域CLrqがそのまま実効切り出し領域CLとなる場合もある。
実効切り出し領域の指定操作の操作情報とは、図12で説明したようにフレーミング画面103において表示枠115に入る範囲を指定する操作の情報となる。
アスペクト比の選択操作の操作情報とは、アスペクト比設定画面106で選択したアスペクト比の操作情報である。アスペクト比設定画面106での選択により、例えばフレーミング画面103等における表示枠115のアスペクト比が変化することで、ユーザは任意のアスペクト比を指定した上で、そのアスペクト比の状態において、フレーミング画面103で実効切り出し領域を指定できる。
トラッキングターゲットの配置位置の情報は、画像データPDのフレーム内の座標系ではなく、選択されたアスペクト比としての固定の表示枠115内の座標系としての座標値であればよい。
具体的には例えば、操作情報DR2における切り出し領域の指定操作とアスペクト比の選択操作に応じて切り出し領域としての座標範囲を計算する。そしてトラッキングターゲットの画面内位置情報TP(画像データPDのフレーム内での座標値)が、実効切り出し領域としての表示枠115内の座標系で配置位置として指定された座標値に一致(又は近接)するようにする。
このはみ出し防止処理では、当該フレームを含む前後の複数フレームについてのクオータニオンQD(#LN)や座標変換パラメータHPを用いる。
そこでこれらが生じずに品質のよい動画を出力できるようにするための切り出し領域を制限するはみ出し防止処理を行う。
この図19では、撮像領域(以下「キャプチャードエリア」ともいう)61、アベイラブルエリア(可動領域)62、要求切り出し領域CLrq、実効切り出し領域CLを示している。
アベイラブルエリア(可動領域)62は、前後のフレームの揺れを考慮した、切り出しを許容する領域である。つまりステップST15での揺れ補正天球モデルMTの回転による揺れ補正を有効に保つ範囲である。
実効切り出し領域CLは、アベイラブルエリア62に収まるように要求切り出し領域CLrqを移動したものである。この実効切り出し領域CLが、実際に切り出される領域となる。
具体的には、座標変換パラメータHPを使って、画角やレンズの歪みを考慮して天球モデルMT上に撮像領域を割り当てる処理となる。
割り当てる領域は、座標変換パラメータHPを使った逆補正が適用されたものを用いる。
さらに天球モデルMT上で揺れ補正を適用するため、図19に示すキャプチャードエリア61は天球モデルMT上で揺れをキャンセルする方向を向いている。
第3処理(表示範囲の修正)は、算出されたアベイラブルエリア62を用いて、要求切り出し領域CLrqを、実効切り出し領域CLに修正する処理となる。
図20Aは、フレーム#i、#i+1、#i+2においてキャプチャードエリア61と切り出し領域60の関係を示している。
揺れの影響でキャプチャードエリア61に含まれる(つまり撮像されている)被写体範囲は変動する。ここで揺れ補正を有効に保つように各フレームの切り出し領域60を設定すると、例えばフレーム#i+1では破線で示す切り出し領域60となり、画欠けが生じることとなってしまう。
具体的には前後のフレームのゆれ情報を使って、切り出し領域60が予めはみ出しそうな部分には行かないように余裕を持った枠としてアベイラブルエリア62を設定し、切り出し領域60をその範囲でのみ動かすようにする。
アベイラブルエリア62は揺れ補正マージンとしての意味を持つため、揺れの大きさに従ってフレーム毎に動的に変化することになる。
はみ出し防止処理では、各フレームについて、この図20Bの切り出し領域60のような実効切り出し領域CLが得られるように要求切り出し領域CLrqを修正することになる。
第1の算出手法を図21に示す。
アベイラブルエリア62は、処理対象のフレーム及び該フレームから時間軸方向に後の時点のフレームを含んで連続する複数フレームの各キャプチャードエリア61(撮像領域)を用いて設定する。この場合に、アベイラブルエリア62は、複数フレームの各フレームにおいて揺れ補正した状態のキャプチャードエリア61に共通に含まれる範囲とする。
各フレームのキャプチャードエリア61は揺れ補正を反映して天球モデルMTに紐づけられている。つまり、各フレームについて、座標変換パラメータHPを使って、画角やレンズの歪みを考慮して天球モデルMT上に撮像画角(キャプチャードエリア61)を割り当て、さらにクオータニオンQD(#LN)を用いて回転させる。図ではこのように天球モデルMTに紐づけられてそれぞれ揺れ補正をキャンセルする方向を向いているキャプチャードエリア61を重ねて示している。
各フレームのキャプチャードエリア61は揺れ補正の分だけ動いているため、前後±m個のフレームのキャプチャードエリア61を重ねてANDを取ることで、その共通の範囲は、キャプチャードエリア61内にいることが補償される。そこで、この範囲をアベイラブルエリア62とする。
ANDの取り方としては、必ず凸多角形になるので、2つの凸多角形の交差を取る処理をキャプチャードエリア61の数だけ繰り返せばよい。
時間的距離に応じて寄与度合の調整をしないと、±mフレームの範囲から大きな揺れが生じているフレームが抜けた場合にアベイラブルエリア62の形が不連続に変化してしまう。これに対し、時間的に遠いフレームのキャプチャードエリア61については、アベイラブルエリア62への寄与度合いを下げることで、アベイラブルエリア62が一時的に大きく変動するようなことを防止できる。
具体的には、ローパスフィルタを掛けたクオータニオンQDに基づいてアベイラブルエリア62を算出する手法である。
破線はローパスフィルタをかけることで得たキャプチャードエリア61の上端及び下端の低周波変動成分61Lである。
一点鎖線がアベイラブルエリア62としての上端と下端を示す。
そこでキャプチャードエリア61の低周波変動成分61Lが、キャプチャードエリア61からはみ出した量を時間的な距離で重みづけして補償することで、滑らかにキャプチャードエリア61の内側に収めるようにアベイラブルエリア62を求める。
図22Bは、図22Aの一部(±mフレームの範囲)を拡大し、矢印で重みづけの方向を示している。
図22Cは、低周波変動成分61Lをキャプチャードエリア61内に収める重み付けを二次元で示している。
各フレーム(#i)について、低周波変動成分61Lをキャプチャードエリア61内に収めるのに必要なクオータニオン(q_crct i)を求める。
j∈[-m,m]について、
Wj=1-|j/m|
q_crct_smooth i=max{slerp(q_crct i+j,q_identity;Wj)}
として、なめらかに補正するためのクオータニオンq_crct_smooth iを4つの端点全てについて求める(なお、この式は“j”に対するmax関数である)。
クオータニオンq_crct_smooth iは図22Bに矢印で示す重み付けの最大値に相当する。
なおslerpは球面線形補間、q_identity は単位クオータニオンである。
クオータニオンq_crctは低周波変動成分61Lの端点毎に、キャプチャードエリア61の中心に方向に回転させた際のキャプチャードエリア61の辺とぶつかるまでの回転量として求められる。
但し、以上の例のように前後のフレームの動きを使ってアベイラブルエリア62を作ると、動きが大きい場合、アベイラブルエリア62が、要求切り出し領域CLrqが収まらないほど小さくなることがある。
図23Aは、フレーム間で激しい動きがあって揺れ補正後のキャプチャードエリア61が大きくずれている状態を示している。この場合、アベイラブルエリア62が図23Bのように小さくなり、要求切り出し領域CLrqが収まらない。
具体的には、図23Cの状態で「アベイラブルエリア62の外側にある要求切り出し領域CLrqの頂点」「要求切り出し領域CLrqの外側にあるアベイラブルエリア62の頂点」の集合で新たな凸多角形を作り、それを図23Dの拡張したアベイラブルエリア62とする。
そこで図23Dのように、アベイラブルエリア62をキャプチャードエリア61内に収まるように移動させる。
要求切り出し領域CLrqがアベイラブルエリア62からはみ出している場合、要求切り出し領域CLrqを移動させることになるが、移動方向としてはヨー方向、ピッチ方向、ロール方向がある。
即ち図24Aのように、要求切り出し領域CLrqを、アベイラブルエリア62の中心CTに向かって必要最低限の量だけ動かす。ここではロール成分は変更せず、ヨー成分とピッチ成分の変更により移動させる(矢印yp)。
この移動により要求切り出し領域CLrqがアベイラブルエリア62に収まれば、それで表示範囲の修正を完了させる。即ち移動された要求切り出し領域CLrqを実効切り出し領域CLとする。
そのような場合には、まずアベイラブルエリア62の中心に要求切り出し領域CLrqの中心が重なるようにする。そして図24B、図24Cのように、ロール成分の変更を行う。この場合、各図で矢印Rとして示すように、要求切り出し領域CLrqの全体をアベイラブルエリア62内に収めるために必要な最小の回転量だけ回転させる。そして収まった状態の要求切り出し領域CLrqを実効切り出し領域CLとする。
この図では現在のフレーム#iの前後mフレーム(フレーム#i-mからフレーム#i+m)を示している。
各フレームについては、それぞれステップS20として、対応する座標変換パラメータHP(HP(#i-m)・・・HP(#i+m))を用いて天球モデルMTと撮像画角の紐付けが行われる。これにより理想天球上でキャプチャードエリア61が表現される。
なお、例えばフレーム#iに対応するクオータニオンQD(#i)とは、当該フレーム#iにおけるライン毎に対応するクオータニオンQD(LN)のこととなる。
このステップS21により、天球モデルMT上で揺れをキャンセルするような方向を向いたキャプチャードエリア61が表現される。
算出されたアベイラブルエリア62については、ステップS23で必要に応じて拡張される。即ち要求切り出し領域CLrqにより決められる要求切り出し領域CLrqとアベイラブルエリア62が比較され、収まらない場合は上述の拡張処理が行われる。
また出力画像のアスペクト比、切り出し位置、大きさを要求切り出し領域CLrqで表現し、それをアベイラブルエリア62の内側に収める方式にすることで、揺れ補正と切り出し位置等を同時に考慮した処理を実現している。
但し通常レンズと魚眼レンズの場合、キャプチャードエリア61の表現が異なることになる。
図26Aは通常レンズの場合、図26Bは魚眼レンズの場合とで天球モデルMT上での表現とキャプチャードエリア61の形状を示している。魚眼レンズを用いた撮像の場合、イメージセンサ12aの撮像画素範囲65内で円形の結像領域66が形成されることになるため、キャプチャードエリア61としては図示のように円や多角形で表現することになる。
以上の実施の形態では次のような効果が得られる。
実施の形態の画像処理装置は、動画を構成する画像データのフレームであって、天球モデルMTへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報(IMUデータ、クオータニオンQD)を用いて揺れ補正を行う揺れ補正部33を備える。また画像処理装置は、要求切り出し領域CLrqに対して、各フレームからの実効切り出し領域CLが揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、各フレームに適用する実効切り出し領域CLを設定する実効切り出し領域設定部34を備える。さらに画像処理装置は、揺れ補正部33で揺れ補正が行なわれた上で天球モデルMTから平面モデルに投影された画像であって、実効切り出し領域設定部34で設定された実効切り出し領域CLの画像である実効切り出し領域画像を生成する処理を行う実効切り出し領域画像生成処理部35を備える。
即ち撮像装置1で撮像された画像における手ぶれ等に起因する揺れを天球モデルMT上での座標変換により補正し、この揺れ補正がなされて平面投影された画像の実効切り出し領域CLを設定する。
天球モデルMT上でフレーム毎に揺れに対する補正を加味した回転を行って揺れ補正を行うことで、台形歪みが生じない補正が可能となる。そのうえで例えばユーザ操作や何らかの自動制御などによって設定される要求切り出し領域CLrqに応じて平面投影画像を得ることで、要求切り出し領域CLrqが反映された実効切り出し領域CLが設定され、そのうえで揺れ補正が行われかつ台形歪みのない出力画像データoPDが得られる。さらにはみ出し防止処理が行われることで、揺れ補正が適切に反映された動画出力とすることができる。
これらにより元の画像ファイルMFに対してユーザや自動制御の要求に適った出力領域を反映したうえで揺れや歪みの少ない高品位な画像が得られることになる。
また揺れ補正部33としては、少なくとも図14のステップST15の処理が行われるものであればよく、ステップST11、ST12、ST13、ST14の一部又は全部は揺れ補正部33の機能の外部(例えば揺れ補正部33を有する画像処理装置とは別の装置)でおこなわれてもよい。
また、図8ではRAWデータを画像処理対象とする場合を示したが、その場合、揺れ補正部33では、ステップST12の撮像装置内部補正キャンセルの処理は不要となる。
これによりユーザの意図やユーザの望む出力領域が適切に反映されたうえで揺れ補正が行われ、かつ台形歪みのない出力画像データoPDが得られる。
これによりトラッキングターゲットを考慮した切り出し領域設定が可能となる。
また実施の形態では、実効切り出し領域設定部34は、ユーザ操作に基づく操作情報DR1を用いてトラッキングターゲットを設定する例を挙げた。
これによりユーザが注目したい被写体(トラッキングターゲット)を考慮した切り出し領域設定が可能となる。即ち注目したい被写体をとらえながら適切に揺れ補正がなされた出力画像を得ることができる。
また、トラッキングターゲットをユーザによる設定によらず自動的に指定するような処理を行っても良い。例えば顔検出を行い、顔を検出したら自動的に、その顔をトラッキングターゲットとするような処理である。
即ちユーザの操作によりトラッキングターゲットの被写体が指定された場合、各フレームにおいてそのトラッキングターゲットの配置を考慮して実効切り出し領域CLを設定する。
これによりユーザが注目したい被写体(トラッキングターゲット)が、動画が進行する上でフレームアウトしないような切り出し位置設定が可能となる。
これによりユーザが注目したい被写体(トラッキングターゲット)を、画面内でどのあたりに表示させたいかを指定し、各フレームにおいて、その画面内の配置位置(配置位置付近)にトラッキングターゲットが位置するような切り出し領域設定が可能となる。従ってトラッキングターゲットとされた被写体が、例えば画面の中央や左よりの位置など、ユーザが望む配置位置付近にある状態で動画が進行するような動画処理が実現されることになる。
またトラッキングターゲット配置位置を自動指定してもよい。例えば画面の中央、或いは、右寄りの位置など、所定の位置に自動設定する。これによりユーザによるトラッキングターゲット配置位置の指定操作がなくとも、所定位置にトラッキングターゲットをとらえるような切り出し領域設定が可能となる。
例えば図12で説明したフレーミング画面103上でのユーザ操作により出力画像の領域を指定できるようにしており、その操作情報DR2を実効切り出し領域CLの設定に用いる。
これによりユーザが任意に指定した画像の出力領域を切り出しながら、適切に揺れ補正がなされた出力画像を得ることができる。
例えばアスペクト比設定画面106でのユーザの操作により出力画像のアスペクト比を指定できるようにしており、その操作情報DR2を切り出し領域設定に用いる。
これによりユーザが任意に指定したアスペクト比であって、適切に揺れ補正がなされた出力画像を得ることができる。
これによりユーザが任意に指定したトラッキングターゲットや出力領域、アスペクト比等に基づく切り出し領域は、画像内容などにより無制限に変動するものではなく、あくまでも揺れ補正が適切に維持できる範囲となるように修正される。従って、ユーザの各種指定を反映しながらも、揺れ補正が適切に行われた出力画像データoPDを得ることができる。
また揺れ補正が適切に維持できるようにするためには、揺れ補正を行った天球モデルMTの座標上で撮像領域(キャプチャードエリア61)を設定し、その中で可動領域(アベイラブルエリア62)を計算し、さらにアベイラブルエリア62内に収まるように要求切り出し領域CLrqを修正する。そして修正した要求切り出し領域CLrqを最終的な実効切り出し領域CLとする。つまりアベイラブルエリア62により切り出し領域を制限する。これにより天球モデルMTでの揺れ補正を反映する切り出し領域設定を適切に行うことができる。
即ち図21の第1の算出手法や図22の第2の算出手法のように、連続する複数フレームのキャプチャードエリア61を用いることで、ある程度の期間の時間軸方向(フレーム間)で発生する揺れがあっても、各フレームに共通に含まれている画像範囲を検出することができる。これは、当該複数フレームの期間において画像が欠けず、また揺れ補正が有効な領域である。これをアベイラブルエリア62とする。これによりアベイラブルエリア62を揺れの大きさによって動的に変化させることになり、出力画像データoPDによる動画上で、揺れによって画欠けが生じず揺れ補正も維持できる切り出し領域設定が実現される。従って品質の高い動画を容易に作成できることになる。
なお、アベイラブルエリア62を、処理対象のフレーム及び該フレームから時間軸方向に後の時点のフレームを含んで連続する複数フレームの各キャプチャードエリア61を用いて設定することもできる。
また、アベイラブルエリア62を、処理対象のフレーム及び該フレームから時間軸方向に前の時点のフレームを含んで連続する複数フレームの各キャプチャードエリア61を用いて設定することもできる。
即ち図21で第1の算出手法として説明したように、連続する複数フレームについての揺れ補正を行った状態のキャプチャードエリア61を用いることで、切り出し枠を設定しても画欠けが生じない範囲となるアベイラブルエリア62を設定することができる。揺れ補正を行った状態のキャプチャードエリア61に共通の範囲であるため揺れ補正も有効な範囲ともなる。
またこの場合に、キャプチャードエリア61をそのまま用いてもよいが、現在フレームとの遠近によって、キャプチャードエリア61の揺れ補正の度合いを変えることなどで、時間的距離に応じて寄与度合いを調整することで、遠い時点での大きい揺れなどの影響を和らげ、アベイラブルエリア62の変化をなめらかにすることができる。これは再生される動画において急激に画角が変化するような状態を生じさせないものとなる。
即ち図22で第2の算出手法として説明した例である。
キャプチャードエリア61の各端点の変化の低周波変動成分61Lを用いて各フレームのアベイラブルエリア62を設定することで、時間軸方向のアベイラブルエリア62の変化をなめらかにし、急激に切り出し領域の変化が生じない動画を得ることができる。
但し、単に低周波変動成分61Lを用いたのみでは画欠けが生じないこと(つまり切り出し領域がキャプチャードエリア61内であること)を補償できないため、フレーム毎に、キャプチャードエリア61内に収まるように低周波変動成分61Lで規定される各端点の位置を修正する。これにより、画欠けが生じずかつ切り出し領域の変化がなめらかな動画を得ることができる。
即ち表示範囲の修正として図24で説明したように、アベイラブルエリア62に収まるまで必要な距離だけ要求切り出し領域CLrqを回転させずに移動させる。これによりユーザが任意に指定したトラッキングターゲットや出力領域、アスペクト比等に基づく切り出し領域については、できるだけ回転を生じないようにアベイラブルエリア62内に移動させることになり、再生される動画上ではむやみな画像の回転が生じないようにすることができる。
即ち回転をさせない状態ではアベイラブルエリア62に収まらないときのみ要求切り出し領域CLrqを回転させる。このように切り出し領域の修正としては、やむを得ないときのみ回転させることとし、これによって画欠けができるだけ生じないようにする。
メタデータとして付加されたIMUデータから撮像装置の姿勢情報であるクオータニオンQDを計算する。これを用いて天球モデルMT上での揺れ補正を行うことで、撮像時の状況に対応した適切な揺れ補正を行うことができる。特に本実施の形態の場合、撮像時に行われたカメラ内部補正はキャンセルされているため、撮像時の撮像装置1の姿勢をそのまま反映することで最適な揺れ補正が可能となる。
露光期間内における被写体と撮像装置の相対的な揺れにより、いわゆるブラーが生じ、これはシャッタースピードによって露光時間が長くなるほど目立つ。この場合に、各ラインの露光開始タイミングの姿勢情報を用いると、各ラインの露光期間内の相対的揺れが、姿勢情報からみて一方向の揺れとなり、画像上で目立ちやすくなる。
一方で図16のように各ラインの露光期間内の重心位置のIMUデータに基づいて姿勢情報を取得することとすると、露光期間内の相対的揺れが、姿勢情報の状態からみて双方向の揺れとなり、視覚上、時間方向に相殺されるように感じられ、これによって画像においてブラーが目立たなくなるようにすることができる。
例えば撮像装置1においては撮像時に手ぶれ補正などの補正処理が行われるが、処理対象の画像データに対して、これらの既に行われている補正をキャンセルした後に揺れ補正を行うようにする。
これにより、撮像時の補正の影響を受けずに、元々の撮像画像データ、例えば撮像素子部12から取り出された状態の画像データに対して、適切な揺れ補正を行うことができる。つまり撮像を行った撮像装置1の性能等に影響を受けずに、画像処理装置の処理能力に応じて高品質な揺れ補正を実現できる。
座標変換パラメータHPは、例えばレンズ歪、台形歪、フォーカルプレーン歪、電子手ぶれ補正、光学手ぶれ補正の各パラメータなど、撮像画像の画枠(画角を含めた画像の範囲)を変化させる場合の情報である。
これにより、撮像時の画枠に関する補正をキャンセルすることができ、撮像装置1で画枠(画像の範囲)を補正した場合に、それを元に戻すことができる。
これにより、揺れ補正部33の処理や実効切り出し領域設定部34の処理においてフレーム毎のメタデータを使用できる。
また画像処理部32の機能による処理として図14にステップST11からステップST19の処理を示したがこれに限られない。例えばステップST11の処理は外部で行われてもよく、その場合、画像処理部32はステップST12からステップST19の処理を行うものとしても良い。
さらに、画像処理部32はステップST12の撮像装置内補正キャンセルの処理を行わないものでも良い。
また画像処理部32はステップST16のトラッキングに関する処理を行わないことも考えられる。
また画像処理部32はステップST14の同期処理を行わないことも考えられる。
少なくとも本開示の画像処理装置としては、画像処理部32による処理として、ステップST13(天球モデルMTへの貼り付け)、ステップST15(揺れ補正)、ステップST17(出力領域指定)、ステップST18(はみ出し防止処理)、ステップST19(平面投影及び切り出し)の処理が行われるようにすれば良い。
・光学手ぶれ補正が行われ、電子手ぶれ補正が行われない場合
・光学手ぶれ補正も、電子手ぶれ補正も行われない場合
・光学手ぶれ補正が行われず、電子手ぶれ補正が行われる場合
・光学手ぶれ補正と、電子手ぶれ補正の両方が行われる場合
これらそれぞれの場合の撮像装置1で撮像された画像に対して、実施の形態の画像処理装置の処理を適用することができる。
即ち実施の形態のプログラムは、動画を構成する画像データのフレーム毎に、天球モデルMTへの貼付処理をおこない、当該フレームに対応する姿勢情報を用いて揺れ補正を行う処理と、画像の切り出し領域を操作情報に基づいて設定したうえで、該切り出し領域が揺れ補正を有効に保つ領域からはみ出さないように修正するはみ出し防止処理を行って切り出し領域を指定する処理と、揺れ補正が行なわれた状態で平面に投影した画像について、指定される切り出し領域で画像を切り出す処理とを情報処理装置に実行させるプログラムである。このようなプログラムにより、上述した画像処理装置を、例えば携帯端末2,パーソナルコンピュータ3、或いは撮像装置1などの機器において実現できる。
あるいはまた、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)、MO(Magnet optical)ディスク、DVD(Digital Versatile Disc)、ブルーレイディスク(Blu-ray Disc(登録商標))、磁気ディスク、半導体メモリ、メモリカードなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
(1)
動画を構成する画像データのフレームであって、天球モデルへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報を用いて揺れ補正を行う揺れ補正部と、
要求切り出し領域に対して、前記各フレームからの実効切り出し領域が揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、前記各フレームに適用する実効切り出し領域を設定する実効切り出し領域設定部と、
前記揺れ補正部で揺れ補正が行なわれた上で前記天球モデルから平面モデルに投影された画像であって、前記実効切り出し領域設定部で設定された実効切り出し領域の画像である実効切り出し領域画像を生成する処理を行う実効切り出し領域画像生成処理部と、を備えた
画像処理装置。
(2)
前記実効切り出し領域設定部は、ユーザ操作に基づく操作情報を用いて、前記実効切り出し領域を設定する
上記(1)に記載の画像処理装置。
(3)
前記実効切り出し領域設定部は、トラッキングターゲットに関するトラッキングターゲット情報を用いて、前記実効切り出し領域を設定する
上記(1)又は(2)に記載の画像処理装置。
(4)
前記実効切り出し領域設定部は、ユーザ操作に基づく操作情報を用いて、前記トラッキングターゲットを設定する
上記(3)に記載の画像処理装置。
(5)
前記実効切り出し領域設定部は、前記トラッキングターゲットについての画面内での配置位置を指定する操作情報を用いて、前記実効切り出し領域を設定する
上記(3)又は(4)に記載の画像処理装置。
(6)
前記実効切り出し領域設定部は、画像の出力領域を指定する操作情報を前記実効切り出し領域の設定に用いる
上記(1)から(5)のいずれかに記載の画像処理装置。
(7)
前記実効切り出し領域設定部は、画像のアスペクト比を指定する操作情報を前記実効切り出し領域の設定に用いる
上記(1)から(6)のいずれかに記載の画像処理装置。
(8)
前記実効切り出し領域設定部は、画像データのフレーム毎に行うはみ出し防止処理として、
前記揺れ補正部が揺れ補正を行った天球モデルの座標上で前記要求切り出し領域を設定する第1処理と、
撮像領域内で前記要求切り出し領域の変動を許容する可動領域を求める第2処理と、
前記要求切り出し領域が前記可動領域内に収まるように修正することで前記実効切り出し領域を設定する第3処理と、を行う
上記(1)から(7)のいずれかに記載の画像処理装置。
(9)
前記第2処理では、前記可動領域を、
処理対象のフレーム及び該フレームから時間軸方向に後の時点のフレーム、
又は、処理対象のフレーム及び該フレームから時間軸方向に前の時点のフレーム、
又は、処理対象のフレーム及び該フレームから時間軸方向に後の時点のフレームと前の時点のフレーム、
を含んで連続する複数フレームの各撮像領域を用いて設定する
上記(8)に記載の画像処理装置。
(10)
前記可動領域は、前記複数フレームの各フレームについての揺れ補正を行った状態の撮像領域に共通に含まれる範囲とする
上記(9)に記載の画像処理装置。
(11)
前記可動領域は、前記複数フレームの各フレームについての撮像領域の各端点の変化の低周波変動成分を各フレームの撮像領域内に収まるようにしたときに示される範囲とする
上記(9)に記載の画像処理装置。
(12)
前記第3処理は、前記可動領域内に要求切り出し領域が収まるまで、前記要求切り出し領域を回転させずに前記可動領域の中心に向けて移動させることにより行う
上記(8)から(11)のいずれかに記載の画像処理装置。
(13)
前記第3処理において前記要求切り出し領域を回転させずに前記可動領域の中心に向けて移動させることによっては前記要求切り出し領域を前記可動領域内に収められない場合は、前記要求切り出し領域を回転させることで、前記要求切り出し領域を前記可動領域内に収めるようにする
上記(12)に記載の画像処理装置。
(14)
前記揺れ補正部は、処理対象の画像データの撮像の際に生成されたメタデータに基づいて、各フレームに対応する前記姿勢情報を取得し、揺れ補正に用いる
上記(1)から(13)のいずれかに記載の画像処理装置。
(15)
前記揺れ補正部は、画像データの各フレームについて、ライン毎の露光重心のタイミングを基準として取得した姿勢情報を用いて揺れ補正を行う
上記(1)から(14)のいずれかに記載の画像処理装置。
(16)
前記揺れ補正部は、処理対象の画像データを、該画像データに対応づけられたメタデータを用いて補正キャンセル処理を行って既に行われていた補正処理が行われる前の状態に戻した状態で、天球モデルへの貼付処理を行う
上記(1)から(15)のいずれかに記載の画像処理装置。
(17)
前記揺れ補正部は、メタデータとして画像データの各フレームに対応づけられた座標変換パラメータを用いて補正キャンセルを行う
上記(16)に記載の画像処理装置。
(18)
動画を構成する画像データと対応するメタデータを含む画像ファイルについて、画像データの各フレームに対応するメタデータを抽出して記憶する前処理部を備えた
上記(1)から(17)のいずれかに記載の画像処理装置。
(19)
画像処理装置が、
動画を構成する画像データのフレームであって、天球モデルへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報を用いて揺れ補正を行い、
要求切り出し領域に対して、前記各フレームからの実効切り出し領域が揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、前記各フレームに適用する実効切り出し領域を設定し、
前記揺れ補正が行なわれた上で前記天球モデルから平面モデルに投影された画像であって、設定された実効切り出し領域の画像である実効切り出し領域画像を生成する処理を行う
画像処理方法。
(20)
動画を構成する画像データのフレームであって、天球モデルへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報を用いて揺れ補正を行う処理と、
要求切り出し領域に対して、前記各フレームからの実効切り出し領域が揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、前記各フレームに適用する実効切り出し領域を設定する処理と、
前記揺れ補正が行なわれた上で前記天球モデルから平面モデルに投影された画像であって、設定された実効切り出し領域の画像である実効切り出し領域画像を生成する処理と、
を情報処理装置に実行させるプログラム。
Claims (20)
- 動画を構成する画像データのフレームであって、天球モデルへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報を用いて揺れ補正を行う揺れ補正部と、
要求切り出し領域に対して、前記各フレームからの実効切り出し領域が揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、前記各フレームに適用する実効切り出し領域を設定する実効切り出し領域設定部と、
前記揺れ補正部で揺れ補正が行なわれた上で前記天球モデルから平面モデルに投影された画像であって、前記実効切り出し領域設定部で設定された実効切り出し領域の画像である実効切り出し領域画像を生成する処理を行う実効切り出し領域画像生成処理部と、を備えた
画像処理装置。 - 前記実効切り出し領域設定部は、ユーザ操作に基づく操作情報を用いて、前記実効切り出し領域を設定する
請求項1に記載の画像処理装置。 - 前記実効切り出し領域設定部は、トラッキングターゲットに関するトラッキングターゲット情報を用いて、前記実効切り出し領域を設定する
請求項1に記載の画像処理装置。 - 前記実効切り出し領域設定部は、ユーザ操作に基づく操作情報を用いて、前記トラッキングターゲットを設定する
請求項3に記載の画像処理装置。 - 前記実効切り出し領域設定部は、前記トラッキングターゲットについての画面内での配置位置を指定する操作情報を用いて、前記実効切り出し領域を設定する
請求項3に記載の画像処理装置。 - 前記実効切り出し領域設定部は、画像の出力領域を指定する操作情報を前記実効切り出し領域の設定に用いる
請求項1に記載の画像処理装置。 - 前記実効切り出し領域設定部は、画像のアスペクト比を指定する操作情報を前記実効切り出し領域の設定に用いる
請求項1に記載の画像処理装置。 - 前記実効切り出し領域設定部は、画像データのフレーム毎に行うはみ出し防止処理として、
前記揺れ補正部が揺れ補正を行った天球モデルの座標上で前記要求切り出し領域を設定する第1処理と、
撮像領域内で前記要求切り出し領域の変動を許容する可動領域を求める第2処理と、
前記要求切り出し領域が前記可動領域内に収まるように修正することで前記実効切り出し領域を設定する第3処理と、を行う
請求項1に記載の画像処理装置。 - 前記第2処理では、前記可動領域を、
処理対象のフレーム及び該フレームから時間軸方向に後の時点のフレーム、
又は、処理対象のフレーム及び該フレームから時間軸方向に前の時点のフレーム、
又は、処理対象のフレーム及び該フレームから時間軸方向に後の時点のフレームと前の時点のフレーム、
を含んで連続する複数フレームの各撮像領域を用いて設定する
請求項8に記載の画像処理装置。 - 前記可動領域は、前記複数フレームの各フレームについての揺れ補正を行った状態の撮像領域に共通に含まれる範囲とする
請求項9に記載の画像処理装置。 - 前記可動領域は、前記複数フレームの各フレームについての撮像領域の各端点の変化の低周波変動成分を各フレームの撮像領域内に収まるようにしたときに示される範囲とする
請求項9に記載の画像処理装置。 - 前記第3処理は、前記可動領域内に要求切り出し領域が収まるまで、前記要求切り出し領域を回転させずに前記可動領域の中心に向けて移動させることにより行う
請求項8に記載の画像処理装置。 - 前記第3処理において前記要求切り出し領域を回転させずに前記可動領域の中心に向けて移動させることによっては前記要求切り出し領域を前記可動領域内に収められない場合は、前記要求切り出し領域を回転させることで、前記要求切り出し領域を前記可動領域内に収めるようにする
請求項12に記載の画像処理装置。 - 前記揺れ補正部は、処理対象の画像データの撮像の際に生成されたメタデータに基づいて、各フレームに対応する前記姿勢情報を取得し、揺れ補正に用いる
請求項1に記載の画像処理装置。 - 前記揺れ補正部は、画像データの各フレームについて、ライン毎の露光重心のタイミングを基準として取得した姿勢情報を用いて揺れ補正を行う
請求項1に記載の画像処理装置。 - 前記揺れ補正部は、処理対象の画像データを、該画像データに対応づけられたメタデータを用いて補正キャンセル処理を行って既に行われていた補正処理が行われる前の状態に戻した状態で、天球モデルへの貼付処理を行う
請求項1に記載の画像処理装置。 - 前記揺れ補正部は、メタデータとして画像データの各フレームに対応づけられた座標変換パラメータを用いて補正キャンセルを行う
請求項16に記載の画像処理装置。 - 動画を構成する画像データと対応するメタデータを含む画像ファイルについて、画像データの各フレームに対応するメタデータを抽出して記憶する前処理部を備えた
請求項1に記載の画像処理装置。 - 画像処理装置が、
動画を構成する画像データのフレームであって、天球モデルへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報を用いて揺れ補正を行い、
要求切り出し領域に対して、前記各フレームからの実効切り出し領域が揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、前記各フレームに適用する実効切り出し領域を設定し、
前記揺れ補正が行なわれた上で前記天球モデルから平面モデルに投影された画像であって、設定された実効切り出し領域の画像である実効切り出し領域画像を生成する処理を行う
画像処理方法。 - 動画を構成する画像データのフレームであって、天球モデルへの貼付処理が行われたフレーム毎に、当該各フレームに対応する姿勢情報を用いて揺れ補正を行う処理と、
要求切り出し領域に対して、前記各フレームからの実効切り出し領域が揺れ補正を有効に保つ可動領域からはみ出さないように修正するはみ出し防止処理を行うことで、前記各フレームに適用する実効切り出し領域を設定する処理と、
前記揺れ補正が行なわれた上で前記天球モデルから平面モデルに投影された画像であって、設定された実効切り出し領域の画像である実効切り出し領域画像を生成する処理と、
を情報処理装置に実行させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019029888 | 2019-02-21 | ||
JP2019029888 | 2019-02-21 | ||
PCT/JP2019/051278 WO2020170606A1 (ja) | 2019-02-21 | 2019-12-26 | 画像処理装置、画像処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020170606A1 JPWO2020170606A1 (ja) | 2021-12-23 |
JP7405131B2 true JP7405131B2 (ja) | 2023-12-26 |
Family
ID=72144343
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021501648A Active JP7405131B2 (ja) | 2019-02-21 | 2019-12-26 | 画像処理装置、画像処理方法、プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11902660B2 (ja) |
JP (1) | JP7405131B2 (ja) |
WO (1) | WO2020170606A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10983363B2 (en) * | 2019-09-19 | 2021-04-20 | Fotonation Limited | Method for stabilizing a camera frame of a video sequence |
WO2022075039A1 (ja) * | 2020-10-08 | 2022-04-14 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理システム及び情報処理方法 |
CN112672058B (zh) * | 2020-12-26 | 2022-05-03 | 维沃移动通信有限公司 | 拍摄方法及装置 |
US20220394180A1 (en) * | 2021-06-04 | 2022-12-08 | Apple Inc. | Distortion Compensation in Video Image Stabilization |
CN118070722A (zh) * | 2024-04-18 | 2024-05-24 | 沐曦集成电路(上海)有限公司 | 一种基于仿真加速器的gpu设计单元自动化裁剪方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006295626A (ja) | 2005-04-12 | 2006-10-26 | Canon Inc | 魚眼像処理装置及びその方法並びに魚眼像撮像装置 |
JP2009147727A (ja) | 2007-12-14 | 2009-07-02 | Sanyo Electric Co Ltd | 撮像装置及び画像再生装置 |
JP2016105534A (ja) | 2014-12-01 | 2016-06-09 | 株式会社ザクティ | 撮像装置、及び撮像装置システム |
WO2018211782A1 (ja) | 2017-05-18 | 2018-11-22 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7714936B1 (en) * | 1991-05-13 | 2010-05-11 | Sony Corporation | Omniview motionless camera orientation system |
US9762795B2 (en) * | 2013-09-04 | 2017-09-12 | Gyeongil Kweon | Method and apparatus for obtaining rectilinear images using rotationally symmetric wide-angle lens |
US8743222B2 (en) * | 2012-02-14 | 2014-06-03 | Nokia Corporation | Method and apparatus for cropping and stabilization of video images |
US9912868B2 (en) * | 2015-09-15 | 2018-03-06 | Canon Kabushiki Kaisha | Image-blur correction apparatus, tilt correction apparatus, method of controlling image-blur correction apparatus, and method of controlling tilt correction apparatus |
CN108463994B (zh) * | 2016-01-15 | 2020-09-18 | 株式会社摩如富 | 图像处理装置、图像处理方法和存储介质 |
JP6919334B2 (ja) * | 2017-05-26 | 2021-08-18 | 株式会社リコー | 画像処理装置、画像処理方法、プログラム |
JP2019121941A (ja) * | 2018-01-09 | 2019-07-22 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置および方法、並びに画像処理システム |
US10897573B2 (en) * | 2018-11-21 | 2021-01-19 | Ricoh Company, Ltd. | Image capturing system, terminal and computer readable medium which correct images |
-
2019
- 2019-12-26 US US17/310,572 patent/US11902660B2/en active Active
- 2019-12-26 JP JP2021501648A patent/JP7405131B2/ja active Active
- 2019-12-26 WO PCT/JP2019/051278 patent/WO2020170606A1/ja active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006295626A (ja) | 2005-04-12 | 2006-10-26 | Canon Inc | 魚眼像処理装置及びその方法並びに魚眼像撮像装置 |
JP2009147727A (ja) | 2007-12-14 | 2009-07-02 | Sanyo Electric Co Ltd | 撮像装置及び画像再生装置 |
JP2016105534A (ja) | 2014-12-01 | 2016-06-09 | 株式会社ザクティ | 撮像装置、及び撮像装置システム |
WO2018211782A1 (ja) | 2017-05-18 | 2018-11-22 | ソニー株式会社 | 情報処理装置、情報処理方法、プログラム |
Also Published As
Publication number | Publication date |
---|---|
WO2020170606A1 (ja) | 2020-08-27 |
US20220038629A1 (en) | 2022-02-03 |
US11902660B2 (en) | 2024-02-13 |
JPWO2020170606A1 (ja) | 2021-12-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7405131B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP7444162B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2012075018A (ja) | 再生装置及び方法、並びにプログラム | |
JP7491297B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
US8947558B2 (en) | Digital photographing apparatus for multi-photography data and control method thereof | |
JP2015171042A (ja) | 画像処理システム及び画像撮像装置 | |
JP6312426B2 (ja) | 撮像装置およびその制御方法 | |
JP2017046160A (ja) | 画像処理装置、その制御方法、および制御プログラム、並びに記憶媒体 | |
US20220264008A1 (en) | Image processing device, image processing method, and program | |
JP7513081B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP5332668B2 (ja) | 撮像装置および被写体検出プログラム | |
US20230109911A1 (en) | Image processing apparatus, image processing method, and program | |
JP5653509B2 (ja) | 画像処理装置及び画像処理方法 | |
JP5441747B2 (ja) | 撮像装置及び画像処理方法 | |
JP6708495B2 (ja) | 映像処理装置、撮像装置および映像処理プログラム | |
JP5696525B2 (ja) | 撮像装置、撮像方法及びプログラム | |
WO2021181965A1 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2008287704A (ja) | 顔画像検出装置、顔画像検出方法及び撮影装置 | |
JP2005311875A (ja) | 電子カメラ、カメラシステムおよび画像処理プログラム | |
JP5921646B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2012165247A (ja) | 画像処理装置、撮影装置および画像処理プログラム | |
JP2020167624A (ja) | 撮像装置及び記録制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221114 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20221114 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231127 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7405131 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |