JP6729572B2 - 画像処理装置、画像処理方法、プログラム - Google Patents
画像処理装置、画像処理方法、プログラム Download PDFInfo
- Publication number
- JP6729572B2 JP6729572B2 JP2017523136A JP2017523136A JP6729572B2 JP 6729572 B2 JP6729572 B2 JP 6729572B2 JP 2017523136 A JP2017523136 A JP 2017523136A JP 2017523136 A JP2017523136 A JP 2017523136A JP 6729572 B2 JP6729572 B2 JP 6729572B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- frame
- composition
- score
- determination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 170
- 238000003672 processing method Methods 0.000 title claims description 6
- 239000000203 mixture Substances 0.000 claims description 346
- 238000004364 calculation method Methods 0.000 claims description 110
- 238000000034 method Methods 0.000 claims description 85
- 230000008569 process Effects 0.000 claims description 78
- 238000010191 image analysis Methods 0.000 claims description 33
- 238000011156 evaluation Methods 0.000 claims description 24
- 230000004044 response Effects 0.000 claims description 3
- 230000000875 corresponding effect Effects 0.000 description 30
- 238000003384 imaging method Methods 0.000 description 26
- 239000013256 coordination polymer Substances 0.000 description 18
- 230000003287 optical effect Effects 0.000 description 17
- 238000001514 detection method Methods 0.000 description 16
- 238000004891 communication Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 8
- 239000003086 colorant Substances 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 230000000295 complement effect Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005401 electroluminescence Methods 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 102000003814 Interleukin-10 Human genes 0.000 description 3
- 108090000174 Interleukin-10 Proteins 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 101001010591 Homo sapiens Interleukin-20 Proteins 0.000 description 2
- 102100030692 Interleukin-20 Human genes 0.000 description 2
- 102100030704 Interleukin-21 Human genes 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 230000003139 buffering effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 108010074108 interleukin-21 Proteins 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 1
- 101000852998 Homo sapiens Interleukin-27 subunit alpha Proteins 0.000 description 1
- 101001043821 Homo sapiens Interleukin-31 Proteins 0.000 description 1
- 102000026633 IL6 Human genes 0.000 description 1
- 102000003815 Interleukin-11 Human genes 0.000 description 1
- 108090000177 Interleukin-11 Proteins 0.000 description 1
- 108010065805 Interleukin-12 Proteins 0.000 description 1
- 102000013462 Interleukin-12 Human genes 0.000 description 1
- 102100036678 Interleukin-27 subunit alpha Human genes 0.000 description 1
- 102100021596 Interleukin-31 Human genes 0.000 description 1
- 235000005811 Viola adunca Nutrition 0.000 description 1
- 235000013487 Viola odorata Nutrition 0.000 description 1
- 235000002254 Viola papilionacea Nutrition 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012905 input function Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000001454 recorded image Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/78—Television signal recording using magnetic recording
- H04N5/782—Television signal recording using magnetic recording on tape
Description
また、例えば被写体人物の笑顔等を検出して自動的に静止画撮像を行う技術も提案されている。
上記特許文献1には自動的な静止画撮像に関して、ユーザの意図やバッテリ駆動などの撮像装置の状態に応じて静止画撮像の頻度が変更される技術が開示されている。
上記特許文献2には、自動的な静止画撮像において、同じような被写体内容や構図のものが多数とれてしまうことを防止する技術が開示されている。
自動的に撮像装置の視野方向を移動させる雲台に搭載する場合、被写体画像が望ましい構図となるように撮像装置の視野方向を調整することは自動制御で可能であるが、撮像する場所や画角が限定されてしまう。
雲台を用いずに、ユーザの手持ちの状態などで自動静止画記憶を行うことを考えると、多様なシチュエーションでの自動静止画記憶が可能である。ところがユーザの技量にもよるが、記憶される静止画が、なかなか好ましい構図とはならない場合が多い。
そこで本開示では、自動的な画像記憶において、記憶頻度(記憶される枚数)がある程度ユーザの意思に沿い、かつ被写体の笑顔等の状態だけでなく好適な構図となっている品質の高い画像が得られるようにする技術を提供することを目的とする。
この構成によれば、動画やスルー画などとしての連続フレームから、自動的に構図の良い画像となったフレームを判定できる。
即ち、構図に加えて、さらに他の条件を判断することで、なるべく画像として品質の良いフレームを自動的に判定できる。
即ち、1フレームの画像データが、好ましい構図に該当するか否かを判定し、その該当度合いを示すスコアを求める。
例えば静止画として好ましい構図は多様である。そこで複数の構図を基準として用いてスコアが求められるようにする。
画像内容、例えば被写体の種別などに応じて、望ましい構図や、適した構図がある。例えば人物が被写体の場合に適した構図、風景が被写体の場合に適した構図などである。そこで、フレームの画像内容に応じて、スコア算出に用いる構図を選択することで、画像内容に適した構図への該当度合いが求められるようにする。
少なくとも1つのスコアが閾値条件を満たしているのであれば、そのフレームは、或る構図に該当するものとして評価できる。そこで、最大値となっているスコアについて閾値条件となっているかを判断する。
即ち単にスコアが閾値条件を満たしているフレームを静止画として記憶するのではなく、その中でスコアがピーク値近傍となっているフレームを選択できるようにする。
即ち単にスコアが閾値条件を満たしているフレームを静止画として記憶するのではなく、フォーカスが合っていない画像は静止画として記憶させないようにする。
即ち単にスコアが閾値条件を満たしているフレームを静止画として記憶するのではなく、ブレがあると推定される画像は静止画として記憶させないようにする。
即ち単にスコアが閾値条件を満たしているフレームを静止画として記憶するのではなく、ブレが生じそうな画像である場合は、シャッタスピードの状況から、ブレがないと判断できる場合に静止画として記憶させる。
閾値条件が厳しいほど、静止画記憶の頻度は低下し、閾値条件が緩いほど静止画記憶の頻度は高くなる。従って、静止画記憶をどの程度の頻度で行わせたいかというユーザの意思により、頻度を調整できるようにする。
即ち或るフレームに対応する画像データが記憶された場合、その後所定の待機時間は、記憶を行わない。この場合に待機時間は、設定されている閾値条件に応じたものとする。
即ち撮像画像について、その画像内容の特定の構図に対しての評価の度合いがわかるような状態で表示させる。
上記した画像処理装置においては、時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、各フレームのスコアと閾値条件の情報を表示させる表示制御部を備えることが考えられる。
即ちスコアが閾値条件を満たしているか否かをユーザに提示するようにする。
上記した画像処理装置においては、時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、画像内容を特定の構図に合致させるガイドとなる拡大画像を表示させる表示制御部を備えることが考えられる。
例えばユーザが、主要な被写体の中心を構図としてのパターンの中心に持って行きやすいように、拡大画像でガイドできるようにする。
これにより自動静止画記憶の動作により好適な構図の静止画を得ることが可能となる。
本技術に係るプログラムは、上記の各ステップの処理を演算処理装置に実行させるプログラムである。
このプログラムにより演算処理装置に自動静止画記憶に適した画像処理を実行させることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
<1.画像処理装置の構成及び処理>
<2.撮像装置の構成>
<3.自動静止画記憶処理>
[3−1:全体処理]
[3−2:構図判定/スコア算出]
[3−3:静止画記憶判定/実行]
[3−4:表示例]
<4.プログラム及びコンピュータ装置への適用>
<5.まとめ及び変形例>
なお実施の形態では、自動的な静止画撮像記憶(自動静止画記憶)として、連続するフレームのうちでフレームを選択して静止画データとして記憶する技術に関し、特に、好適な構図のフレームを選択するための技術を説明する。
フレームとは、動画としての画像を構成する時間軸上で連続するフレームである。例えば撮像素子で撮像された時間軸上で連続する画像データとしてのフレームや、外部機器から供給される動画としての連続する画像データのフレームのことをいう。
例えば実施の形態の自動静止画記憶は、撮像素子によって撮像された連続するフレームの画像データ、つまり動画としてのフレームデータが得られている状況で行われる。例えば自動撮像モードとして撮像素子による撮像が継続して行われている状態や、通常の手動撮像モードにおけるシャッタ待機状態(ユーザが被写体をモニタリングできるようにスルー画が生成されている状態)において、自動静止画記憶を行うことができる。
同様に撮像素子から連続するフレームの画像データが得られている状況として動画撮像中も想定され、動画撮像中に自動静止画記憶が行われる場合もある。
さらには外部機器から動画としての連続するフレームの画像データが供給されている状況において自動静止画記憶が行われることも想定される。
以下で説明する画像処理装置1は、入力された各フレームの画像データのうちで、静止画として記憶するフレームを判定する処理を少なくとも行う装置である。
また後述する撮像装置10は、自動撮像モード、手動撮像モード、動画撮像モードなどのいずれかにおいて、ユーザ操作に関わらず好適なフレームが静止画として記憶される自動静止画記憶が行われる装置とする。
また構図とは、主にフレーム内の注目被写体の位置を考慮した画面の構成をいう。好適な構図であるか否かは、フレームを観察する観察者にとって心地よい理想の注目被写体の位置と実際の注目被写体の距離に応じて評価されるものとしている。
図1に実施の形態の画像処理装置1の構成例を示す。
画像処理装置1は、スコア算出部1a、閾値設定部1b、画像記憶判定部1cを有する。
この画像処理装置1は、入力された画像データDinを対象として、静止画として記憶するフレームの判定情報SSを出力する。
画像データDinとしては、時間軸上で連続する各フレームの画像データが供給される。即ち動画を構成するフレームデータである。この画像データDinは図示しない撮像素子による撮像により得られるものでもよいし、外部機器から動画データとして送信されてくるものでもよい。
例えば日の丸構図を基準とする場合、処理対象のフレームの画像について、日の丸構図としての評価値、例えば日の丸構図に対する該当度合いの評価値を数値化する。
具体的には、スコア算出部1aは、処理対象のフレームの画像解析を行い、構図や被写体を判定し、それらに応じてスコア算出基準となる構図を選択する。そしてその構図に対する評価値としてのスコアを求める。
閾値とは、スコア算出部1aが算出したスコアと比較する値であり、仮にスコアの最大値が“100”であるとした場合に、閾値は“90”“80”“70”などと選択設定できるようにする。そして、例えばスコアが閾値を越えていることで閾値条件を満たしたものとする。
即ち、まずスコアについての閾値条件により、処理対象のフレームを静止画として記憶するフレームとするか否かを判定する。そして閾値条件が満たされた場合には、さらに他の条件判定により、静止画として記憶するフレームとするか否かを判定する。
他の条件判定とは、フォーカス状態の判定、スコア値がピーク近辺であるか否かの判定、ブレのない画像であるか否かの判定などである。
画像処理装置1は、ステップS1で閾値設定を行う。例えばユーザ操作に応じて閾値を選択し、処理用の閾値として設定する。
ステップS2で画像処理装置1は画像データDinとして連続して供給されるフレームのうち、処理対象とするフレームの画像データを取得する。
ステップS3で画像処理装置1は、処理対象としたフレームについて構図判定や被写体判定を行い、それらに応じて特定の構図を基準としたスコア算出を行う。
ステップS4で画像処理装置1は、スコアが閾値条件を満たしているか否かを確認する。満たしてしなければ、ステップS4→S8→S2と進み、次の処理対象のフレームについての処理に移る。
自動静止画記憶の動作が終了されたら、画像処理装置1はステップS8から図2の処理を終える。
これによって、自動的な静止画記憶のために、品質の高い構図となっている静止画を記憶するものと判定できる。また閾値条件を可変設定することで、静止画として記憶させる頻度を調整することができる。
以下では、上記の画像処理装置1と同等の機能を内蔵した撮像装置10を例に挙げ、構成及び自動静止画記憶動作について詳しく説明する。
図3に実施の形態の撮像装置10の構成例を示す。
この撮像装置10はいわゆるデジタルスチルカメラ或いはデジタルビデオカメラとされ、静止画や動画の撮像/記録を行う機器であり、請求項でいう画像処理装置を内蔵するものである。この撮像装置10は自動撮像モード又は動画撮像モードの際に、自動静止画記憶を実行できるものである。
イメージャ12は、例えば、CCD(Charge Coupled Device)型、CMOS(Complementary Metal OxideSemiconductor)型などの撮像素子を有する。
このイメージャ12では、撮像素子での光電変換で得た電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そしてデジタルデータとしての撮像信号を、後段のデジタル信号処理部20に出力する。
イメージャ12における撮像素子の電子シャッタスピードは制御部30によって可変制御される。
例えばデジタル信号処理部20は、前処理部21、同時化部22、YC生成部23、解像度変換部24、コーデック部25、表示データ生成部26、画像解析部27、フォーカス処理部28を備えている。
同時化部22は、各画素についての画像データが、R,G,B全ての色成分を有するようにするデモザイク処理を施す。
YC生成部23は、R,G,Bの画像データから、輝度(Y)信号および色(C)信号を生成(分離)する。
解像度変換部24は、各種の信号処理が施された画像データに対して、解像度変換処理を実行する。
コーデック部25は、解像度変換された画像データについて、例えば記録用や通信用の符号化処理を行う。
このスルー画としての表示データは、基本的には解像度変換部24で解像度変換された撮像画像データとしての各フレームのデータである。
また表示データ生成部26は制御部30の指示に基づいて、各種のガイド画像、キャラクタ画像、操作用画像等を、例えばスルー画等の画像に重畳させる形式で表示させる処理も行う。
また画像解析部27は、人物等の属性検出を行うこともできる。例えば画像解析により検出した顔画像の特徴点を判別して属性を識別し、属性情報を生成する。属性情報は、例えば被写体が大人であるか子供であるかの情報であったり、女性であるか男性であるかの情報である。さらにより詳細な年齢層などの情報も判別するようにしてもよい。
また画像解析部27は、画像内の水平線、垂直線などのライン検出、色相/彩度/明度の判定など、各種の解析処理を行う。
CPUがROMやフラッシュメモリ等に記憶されたプログラムを実行することで、この撮像装置10全体を統括的に制御する。
RAMは、CPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。
ROMやフラッシュメモリ(不揮発性メモリ)は、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。本例においては特に、自動静止画記憶のための処理を実行するためのプログラムも記憶される。
表示制御部30dは、自動静止画記憶の動作中に、例えばスルー画に重畳させる形式などで構図情報を表示させたり、各フレームのスコアと閾値条件の情報を表示させたり、画像内容を特定の構図に合致させるガイドとなる拡大画像を表示させたりするための制御を行う。
この表示部34は、上記のディスプレイデバイスと、該ディスプレイデバイスに表示を実行させる表示ドライバとから成る。表示ドライバは、制御部30の指示に基づいて、ディスプレイデバイス上に各種表示を実行させる。例えば表示ドライバは、撮像して記録媒体に記録した静止画や動画を再生表示させたり、表示データ生成部26からの表示データによるスルー画をディスプレイデバイスの画面上に表示させる。また各種操作メニュー、アイコン、メッセージ、ガイド表示等、即ちGUI(Graphical User Interface)としての表示を画面上に実行させる。
この操作部35としては、例えば撮像装置10の筐体上に設けられた各種操作子や、表示部34に形成されたタッチパネルなどとして実現される。
筐体上の操作子としては、再生メニュー起動ボタン、決定ボタン、十字キー、キャンセルボタン、ズームキー、スライドキー、シャッターボタン(レリーズボタン)等が設けられる。
またタッチパネルと表示部34に表示させるアイコンやメニュー等を用いたタッチパネル操作により、各種の操作が可能とされてもよい。
画像ファイルは、例えばJPEG(Joint Photographic Experts Group)、TIFF(Tagged Image File Format)、GIF(Graphics Interchange Format)等の形式で記憶される。
記憶部15の実際の形態は多様に考えられる。例えば記憶部15は、撮像装置10に内蔵されるフラッシュメモリでもよいし、撮像装置10に着脱できるメモリカード(例えば可搬型のフラッシュメモリ)と該メモリカードに対して記録再生アクセスを行うカード記録再生部による形態でもよい。また撮像装置10に内蔵されている形態としてHDD(Hard Disk Drive)などとして実現されることもある。
また、本例において自動静止画記憶機能のための処理を実行するためのプログラムが記憶部15に記憶されてもよい。
例えば外部の表示装置、記録装置、再生装置等の間で撮像画像データ(静止画ファイルや動画ファイル)の通信を行う。
また、ネットワーク通信部として、例えばインターネット、ホームネットワーク、LAN(Local Area Network)等の各種のネットワークによる通信を行い、ネットワーク上のサーバ、端末等との間で各種データ送受信を行うようにしてもよい。
また露光調整等のための外部照度を検出する照度センサ、さらには被写体距離を測定する測距センサが設けられてもよい。
またセンサ部14として、光学系11におけるズームレンズの位置を検出するズームレンズ位置センサ、フォーカスレンズの位置を検出するフォーカスレンズ位置センサが設けられる場合もある。
またセンサ部14として、メカアイリス(絞り機構)の開口量を検出するセンサが設けられる場合もある。
センサ部14の各種センサは、それぞれ検出した情報を制御部30に伝達する。制御部30は、センサ部14で検出された情報を用いて各種制御を行うことができる。
[3−1:全体処理]
本実施の形態の撮像装置10で行う自動静止画記憶動作の概要は次のようになる。
イメージャ12によって撮像される連続するフレームの画像データについて、フレーム毎(又は間欠的なフレーム毎)に画像解析部27で被写体判定や構図判定を行う。制御部30(スコア算出部30a)は解析結果の情報を用いてスコアを算出する。
例えばフレームの画面内の主要被写体、例えば顔検出を行う場合は顔を対象として、特定の構図に対する該当度合いを示すスコアを算出する。
まず、このスコアが閾値条件を満たすか否かを判定する。閾値条件を満たさないフレームは静止画記憶の対象としない。
閾値条件については、例えばユーザ操作により可変設定する。閾値条件が厳しければ、静止画記憶される頻度が低くなり、閾値条件が緩ければ静止画記憶の頻度が高くなる。
1)ピーク判定:前フレームのスコアを一時記憶したバッファリングスコア(以下「Bufスコア」と表記)と比較することで、ピークを判定する。連続した処理対象のフレームの中で、スコアがピーク値近辺のものを静止画として残すようにする。
2)フォーカス判定:主要被写体(例えば顔)にフォーカスが合っているか判定し、フォーカスが合っていないフレームは静止画記憶の対象としない。
なお、被写体にフォーカスが合う要因は、ユーザによるシャッタ半押し/全押し、オートフォーカス(AF)、コンテニュアスAF、マニュアルフォーカス、などが含まれる。
3)被写体が動いているかの判定:被写体が動いている場合は、撮像時のシャッタスピードが焦点距離分の1秒より速いかどうかを確認する。シャッタスピードが焦点距離分の1秒より遅いフレームは、ぶれた画像である可能性が高いため、フレームは静止画記憶の対象としない。
これらの条件が満たされた場合に、そのフレームを静止画記憶の対象とし、記憶制御を行う。
自動静止画記憶を開始する場合、制御部30は図4のステップS101からS102に進む。
例えばユーザが動画撮像中に自動静止画記憶を行うようにする操作を行った場合、あるいは特に動画撮像を行わない場合でも、ユーザが自動静止画記憶を指示する操作を行った場合である。
閾値は、上述のようにスコアと比較するもので、閾値によって静止画記憶頻度がある程度調整できるものとなる。
ユーザは、自動静止画記憶の際に、動画フレームのうちでどの程度の頻度で静止画を取り込むかのモードを選択できる。例えばユーザは、所定の操作により静止画記憶頻度のモードとして“高”“中”“低”などを予め選択しておく。制御部30はこの操作を自動静止画記憶の頻度のモードとして記憶しておく。そしてステップS102の段階では、ユーザの直近の操作により設定されたモード(頻度“高”“中”“低”のいずれか)に応じて閾値を設定する。例えば、頻度“低”の場合は比較的厳しい閾値th1、頻度“中”の場合は中間的な閾値th2、頻度“高”の場合は比較的緩い閾値th3を設定する。閾値th1〜th3の具体例については構図に対するスコアの例とともに後述する。
このインターバル時間は、上記の頻度のモードに応じたものとする。例えば頻度“低”の場合は10秒、頻度“中”の場合は6秒、頻度“高”の場合は3秒などと設定する。
ステップS103で静止画として記憶するか否かを判定する処理対象のフレームを特定する。イメージャ12によって撮像される全フレームを処理対象とする場合は、1フレームづつ順次ステップS103で処理対象に設定されることになる。フレームが例えばnフレームおきなど、間欠的に順次ステップS103で処理対象に設定される場合もある。
そして制御部30は当該フレームの画像に顔が存在する場合はステップS104からS105に進み人物構図判定を行い、顔が存在しない場合はステップS104からS106に進み風景構図判定を行う。
またステップS106の風景構図判定処理では、制御部30は、風景構図としての望ましい1又は複数の構図パターンと当該フレームの画像の構図を比較して、当該フレームが望ましい構図に合致しているかを判定し、その構図を基準とした評価値としてのスコアを算出する。これら人物構図判定や風景構図判定の具体例は後述する。
自動静止画記憶動作が終了とされるまでの期間は、ステップS110で、直前のステップS108で静止画記憶が実行しているか否かで処理を分岐する。静止画記憶を実行していなければ、ステップS103に戻って、次のフレームを対象として同様に処理を行う。
直前に静止画記憶を行っていた場合は、ステップS110からS111に進み、上述のインターバル時間が経過することを待機する。なおインターバル時間のタイムカウントは、例えばステップS108での静止画記憶制御の実行時点から開始すればよい。そして待機時間中はステップS109に戻りながら、時間経過を待機し、待機時間が終了したらステップS103に戻る。この場合、待機期間中のフレームについてはステップS104以降の処理の対象とされず、待機期間経過時点のフレームから、順次、処理対象のフレームとして設定されることになる。
制御部30は、図4のステップS105、S106では人物構図判定や風景構図判定の処理を行う。これらの構図判定について説明する。
図5は、図4のステップS105の人物構図判定の処理を詳しく示している。制御部30は図4のステップS104で、対象フレームに顔画像が存在すると判断した場合にステップS105に進むが、この場合、図5に示すように、対象フレームに存在する顔画像の数、つまり被写体人物が何人写っているかという判定結果や、顔の向きによりスコア算出の基準とする構図を切り替えるようにしている。
ステップS206の顔が正面か否かの判断は、二人ともが正面であることを必要とするものとし、一人でも顔が正面と判断されない場合は、スコア算出は行わないようにしている。これにより、二人が正面向きのフレームの場合に静止画記憶の可能性が得られることになる。
但し、例えば一人が正面向きであれば、ステップS207に進むような例も考えられる。
この場合もステップS208の顔が正面か否かの判断とは、全員の顔の向きが正面であることを必要とするものとし、一人でも顔が正面と判断されない場合は、スコア算出は行わないようにしている。これにより、全員が正面向きのフレームの場合に静止画記憶の可能性が得られることになる。
但し、例えば少なくとも一人が正面向きであるとか、過半数が正面向きである場合に、ステップS209に進むような例も考えられる。多人数の場合、全員の顔の向きを厳格に判断すると、静止画記憶の候補となりにくくなるためである。
まず図9で、日の丸構図とバストアップ構図の場合を例として、スコア算出と、図4のステップS102で設定する閾値の関係について述べておく
閾値とは、主要な被写体等が、基準とする構図の理想位置(理想座標)から、どのくらいまで離れている場合に、静止画記憶の対象とするかを判断するための閾値である。
日の丸構図の理想位置IPは、xy座標で表すと、IP=(Hx,Hy)となる。この理想位置IPからの離間距離についての閾値として、閾値th1(実線で表記),閾値th2(破線で表記),閾値th3(一点鎖線で表記)が設けられる。例えば閾値th1は理想位置IPからx方向及びy方向に±20ピクセルの範囲、閾値th2は理想位置IPからx方向及びy方向に±40ピクセルの範囲、閾値th3は理想位置IPからx方向及びy方向に±60ピクセルの範囲に、それぞれ相当する値などとされる。
例えば閾値th1が用いられる場合は、図4のステップS108では、対象フレームのスコアが、閾値th1の範囲内に相当するスコアとなっているかどうかが判断される。
例えば顔画像が存在する場合、スコアは理想位置IPの座標と、検出されている顔の中心座標位置との距離から算出することができる。
図9Aの日の丸構図の場合、理想位置IPの座標は(Hx,Hy)である。また顔の中心位置CPの座標を(Fx,Fy)とする。この場合のスコアは、
スコア=(SCmax)−(√(Hx−Fx)2+(Hy−Fy)2) ・・・(式1)
で算出できる。
「SCmax」はスコアの最高値(満点値)であり、例えば“100”とする。そして1ピクセル=1(スコア)とする。
この場合、閾値th1=80、閾値th2=60、閾値th3=40とする。
理想の構図の場合、スコア=100(=SCmax)となる。
閾値th1が選択されている場合は、スコアが80〜100の場合に、そのフレームの画像は閾値条件を満たしていることになる。
また閾値th2が選択されている場合は、スコアが60〜100の場合に閾値条件を満たしており、閾値th3が選択されている場合は、スコアが40〜100の場合に閾値条件を満たすことになる。
つまり、閾値th1,th2,th3の選択により、対象フレームが閾値条件を満たすことになる確率(頻度)が変化する。
図10Aは顔画像の向きを表している。図の横方向に顔画像の左右の向きの方向(YAW−R2〜YAW−L2)が異なる場合、図の縦方向に軸回転方向(ROLL−R1〜ROLL−L1)が異なる場合について配置して示した。
図5の処理では、顔(被写体人物)が一人であり、かつ顔が正面である場合にステップS203で日の丸構図についてのスコアが算出される。従って顔画像が、図10Aの破線Tで囲った場合のみが対象となる。
図10Bは、理想位置IPと顔画像の中心位置CPの座標が一致している状態を示している。スコアは、顔の中心位置CPの座標が理想位置IPの座標に近いかどうかを表す値として、上述の(式1)で求められる。この図10Bの場合スコア=100となる。顔画像が理想位置IPから離れていくほど、スコアは低下することになる。
図5の処理では、顔(被写体人物)が一人であり、かつ顔が正面ではない場合にステップS204で三分割構図についてのスコアが算出される。
三分割構図の場合の理想位置は、図11Bに示す理想位置IPa,IPb,IPc,IPdとなる。即ちx方向の3分割点、y方向の3分割点となる4つの位置である。この場合、顔の向きが、空間が空いている方向に向いていて、顔の中心位置(上述のCP)の座標が理想位置の座標に近いかどうかをスコア化する。
具体的には、顔の向きが図11Aの破線Taで囲ったものである場合、顔の中心位置と理想位置IPaとの距離に応じたスコアが(式1)により求められる。
顔の向きが図11Aの破線Tbで囲ったものある場合、顔の中心位置と理想位置IPbとの距離に応じたスコアが(式1)により求められる。
顔の向きが図11Aの破線Tcで囲ったものある場合、顔の中心位置と理想位置IPcとの距離に応じたスコアが(式1)により求められる。
顔の向きが図11Aの破線Tdで囲ったものある場合、顔の中心位置と理想位置IPdとの距離に応じたスコアが(式1)により求められる。
なお、図11Bでは理想位置IPaにあわせて閾値th1,th2,th3を示しているが、顔の向きが破線Taで囲ったものである場合であって、例えばスコアが80以上となった場合とは、その顔の中心が、図11Bの実線(th1)の内に存在する画像であることになる。
図5の処理では、顔(被写体人物)が一人であり、かつ顔が正面である場合にステップS203で全身構図についてのスコアが算出される。
図12Aや図12Cに示すように、全身構図の場合の理想位置IPのx座標値は中央値であり、y座標値は被写体に応じて変化させる。
例えば、顔画像について、大人、子供、乳幼児を判別して、それに応じて理想位置IPを設定する。
大人の場合、理想位置IPのy座標値を、図12Aのように、画面上端から顔画像のサイズSfに相当する長さだけ下方の位置とする。
子供の場合、理想位置IPのy座標値を、図12Cのように、画面上端から顔画像のサイズSfの2倍長(2Sf)だけ下方の位置とする。
乳幼児の場合は、つかまり立ちを想定し、子供の場合と同様に、画面上端から顔画像のサイズSfの2倍長(2Sf)だけ下方の位置とする。
但しこれらの場合において、顔画像のサイズSfは、画像縦サイズdyに対して10%〜15%の大きさにある場合とする。顔画像のサイズSfが、この10%〜15%という範囲に該当しない場合は、例えば全身構図スコアは算出しないようにすることが考えられる。
なお図12B、図12Dでは、理想位置IPにあわせて閾値th1,th2,th3を示している。例えば全身構図に関するスコアが80以上となった場合とは、顔の中心が実線(th1)の内に存在する画像であることになる。
図5の処理では、顔(被写体人物)が一人であり、かつ顔が正面である場合にステップS203でバストアップ構図についてのスコアが算出される。
図13Aや図13Cに示すように、バストアップ構図の場合の理想位置IPの座標は、或るy座標位置であるが、そのy座標値は被写体に応じて変化させる。
例えば、顔画像について、大人、子供、乳幼児を判別して、それに応じて理想位置IPを設定する。
大人の場合又は子供の場合、理想位置IPのy座標値を、図13Aのように、画面下端から顔画像のサイズSfの2.5倍(2.5Sf)だけ上方の位置とする。
乳幼児の場合は、座った状態やはいはいを想定し、理想位置IPのy座標値を、図13Cのように、画面下端から顔画像のサイズSfの2倍長(2Sf)だけ上方の位置とする。
スコア=(SCmax)−|(Hy−Fy)| ・・・(式2)
で求めれば良い。
なお図13B、図13Dでは、理想位置IPにあわせて閾値th1,th2,th3を示している。例えば全身構図に関するスコアが80以上となった場合とは、顔の中心が実線(th1)のy方向範囲内に存在する画像であることになる。
図5の処理では、顔(被写体人物)が二人であり、かつ顔が正面の場合にステップS207で三分割構図についてのスコアが算出される。
図14Bに三分割構図の場合の理想位置IPa,IPb,IPc,IPdを示しているが、被写体人物が二人の場合は、それぞれの顔が、それぞれ異なる理想位置(IPa,IPb,IPc,IPd)に近い場合にスコアが高い値となるようにする。
例えば図では二人の顔の中心位置CP1,CP2が、理想位置IPd、IPbに一致しているが、このような場合に、満点値“100”となるようにする。
具体的には、中心位置CP1と中心位置CP1が近い或る理想位置IPとについて上記(式1)でスコアを算出し、また中心位置CP2と中心位置CP2が近い他の理想位置IPとについて上記(式1)でスコアを算出する。そして2つのスコアの平均値を、この場合のスコアとすることが考えられる。
なお、二人の顔の中心位置CP1、CP2が、理想位置IPa,IPb,IPc,IPdのうちの同じ理想位置に近い場合は、適切な三分割構図とはならないためスコア算出を行わないようにすることが考えられる。
図14Bでは参考のため、理想位置IPcにあわせて閾値th1,th2,th3を示している。
図5の処理では、顔(被写体人物)が二人であり、かつ顔が正面の場合にステップS207で対角線構図についてのスコアが算出される。
スコアは、例えば2つの顔の中心位置CP1,CP2の座標の傾きを求め、これを対角線としての理想位置IPの傾きと比較する。
例えば画像をVGAサイズ(640×360画素)とする場合、理想傾きIA=640/360=1.8となる。
そして中心位置CP1,CP2を結ぶ線の傾きを求め、図15Bのようにスコアに換算する。例えば中心位置CP1,CP2を結ぶ線の傾きが1.8であればスコア=100とし、1.8から離れるほど、スコアが小さくなるようにする。
図5の処理では、顔(被写体人物)が三人以上あり、かつ各被写体人物の顔が正面の場合にステップS209で複数人構図についてのスコアが算出される。
例えば3人の場合は、真中の顔の中心位置の座標が理想位置IPの座標に近いかどうかでスコア化する。
図16A、図16Bのように、真ん中の顔U3以外の、顔U1,U2の中心位置CP1,CP2を頂点とした三角形TRを考え、その三角形TRの重心座標を理想位置IP2とする。そして真ん中の顔U3の中心位置CP3と理想位置IPについて、上記(式1)によりスコアを算出する。
被写体人物が4人以上の場合は、中にいる人の重心座標を求め、あとは3人構図と同じ考えとすればよい。
制御部30は、図4のステップS104で対象フレームに顔画像が存在しないと判断した場合にステップS106の風景構図判定処理に進む。風景構図判定処理例を図6に示す。
画像内に対角線が検出された場合、制御部30はステップS304からS305に進み、対角線構図についてのスコア算出を行う。
画像内に三角線が検出された場合、制御部30はステップS306からS307に進み、三角構図についてのスコア算出を行う。
画像内に曲線が検出された場合、制御部30はステップS308からS309に進み、曲線構図についてのスコア算出を行う。
画像内に消失点が検出された場合、制御部30はステップS310からS311に進み、消失点構図についてのスコア算出を行う。
さらに制御部はステップS312で印象構図についてのスコア算出を行う。
まずステップS303の、水平線或いは垂直線が検出された場合の2分割構図、3分割構図についてのスコア算出を図17で説明する。
図17Aは、水平線E1が検出された画像の例、図17Bは水平線E2と垂直線E3が検出された画像の例である。
例えばこのような画像に対し、図17C〜図17Hのようなテンプレートとのマッチングを行い、検出されたラインの長さと位置が理想ラインに近いかどうかをスコア化する。
図17Cは2分割構図としての水平線の理想ラインIL1を示す。
図17Dは2分割構図としての垂直線の理想ラインIL2を示す。
図17Eは3分割構図としての水平線の上方側の理想ラインIL3を示す。
図17Fは3分割構図としての水平線の下方側の理想ラインIL4を示す。
図17Gは3分割構図としての垂直線の左側の理想ラインIL5を示す。
図17Hは3分割構図としての垂直線の右側の理想ラインIL6を示す。
これらを画像における水平線、垂直線の長さ、位置と比較する。
例えば図17Aの画像の場合、水平線E1が、図17Eの理想ラインIL3に近いことから、3分割構図に関して高いスコアが得られることになる。2分割構図に関しては、図17Cの理想ラインIL3とは比較的離れているため、スコアは低くなる。
また図17Bの画像の場合、水平線E2が、図17Fの理想ラインIL4に近いことから、3分割構図に関して高いスコアが得られる。また2分割構図に関しては、垂直線E3が図17Dの理想ラインIL2に近いためスコアは高くなる。
またスコアに関しては、水平線で算出したスコアと垂直線で算出したスコアを合算したり、平均値をとることも考えられる。
図18Aは、対角線E10が検出された画像の例である。また図18Bは曲線E11が検出された画像の例である。
図18Cは対角線構図に用いる理想ラインIL10、IL11を示している。
図18Dは曲線構図に用いる理想ラインIL12を示している。
また画像内で検出された曲線E11については、図18Dのテンプレートと比較し、検出された曲線E10の長さと位置が理想ラインIL10に近いかどうかでスコア化する。
なお対角線として検出されたラインが1本であることを対角線構図のスコア算出の条件とすることが考えられる。同様に曲線として検出されたラインが1本であることを曲線構図のスコア算出の条件とすることが考えられる。
図19Aは、三角線E20が検出された画像の例である。
図19Bは三角構図に用いる理想ラインIL20、IL21を示している。
画像内で検出された三角線E20については、図19Bのテンプレートと比較し、検出された三角線E20の長さと位置が理想ラインIL20又はIL21に近いかどうかでスコア化する。
2本のラインで三角線が形成されている場合に、このスコア算出を行う。
図20Aは、2つのラインE30,E31が検出された画像の例である。
図20Bは理想ラインIL30,IL31を示したテンプレートである。
図20Cは、中心としての理想位置IPctと、三分割点としての理想位置IPa,IPb,IPc,IPdを示している。
この場合、画像内で検出された2本のラインE30,E31の交点、つまり画像上のラインの消失点が理想位置(IPct,IPa,IPb,IPc,IPd)の座標に近いかどうかでスコア化する。
図7のステップS320で制御部30は、対象フレームの色相判定を行う。これは例えば画像解析部27の色の解析結果を参照して、上位2色(第1色と第2色)を確認し、それらが補色の関係にあるか否かを判定する。例えば第1色と第2色が、「赤と青緑」「紫と黄緑」「黄色と青紫」など、色相環で正反対に位置する関係の色の組合せであるか否かである。
そして補色の関係にある場合、制御部30はステップS321からS322に進み、補色のスコアを算出する。例えば第1色と第2色の画素数の比に応じてスコアを求める。
なお図21Aでは、第1色と第2色の比率と閾値th1,th2,th3との関係を示している。上述のように閾値th1=80、閾値th2=60、閾値th3=40などとされるが、その80,60,40に相当する比の値がスコアを介して対応づけられる。
そして友好色の関係にある場合、制御部30はステップS324からS325に進み、友好色のスコアを算出する。例えば第1色と第2色の画素数の比を、補色の場合と同様に図21Aのようにスコアに換算する。
図21B、図21Cはそれぞれ或る画像についての輝度のヒストグラムを示している。例えば図21Bはコントラストの強い画像、図21Cはコントラストの弱い画像の場合である。
スコア算出では、コントラストが強いかどうかという観点と、ヒストグラムのバランス(暗部/明部が50/50)に近いかどうかという観点で数値化してスコアを求める。
図4の処理例では、対象フレームに顔が存在するか否かで、人物構図判定と風景構図判定のいずれかが行われるようにしたが、このような処理に限らない。例えば対象フレームに顔が存在する場合に、人物構図判定(S105)と風景構図判定(S106)の両方が実行されるようにしてもよい。
また、図4の処理例では、被写体検出の一例として人の顔を検出することを前提としているが、人物の顔以外の検出、例えば、犬猫顔検出、花検出、料理検出、物体認識などを行うようにし、それらの検出・認識に応じた構図判定及びスコア算出を行うようにすることも想定される。
図4のステップS108では、静止画記憶判定/実行の処理が行われる。
ここでは制御部30は、以上のように判定した構図に応じて算出したスコアを用いて、処理対象のフレームについて静止画として記憶するフレームであるか否かを判定するとともに、静止画記憶するべきフレームであると判定した場合は、記憶動作を実行させる制御を行う。
このステップS108の処理を図8に詳細に示す。
上述のステップS105やS106で、今回の対象フレームについて1又は複数のスコアが求められる。例えば顔が存在する場合に全身構図のスコア、日の丸構図のスコア、バストアップ構図のスコアという3つのスコアが算出される場合がある。また顔が存在しない場合に、曲線構図のスコア、友好色のスコアとして2つのスコアが算出される場合がある。
このように1又は複数のスコアが算出されていた場合は、そのうちで最大値のスコアを選択する。そしてステップS401からS402に進む。
なお、上述の説明から理解されるように、対象フレームについてスコアが1つも算出されない場合もある。対象フレームについてスコアが算出されなかった場合は、ステップS401からS405に進んで、比較用バッファリングスコア(以下、「Bufスコア」)をクリアして図8の処理(図4のステップS108)を終える。Bufスコアとは、図8の処理で現在のマックススコアと比較するスコアを格納したものである。
スコア種別の変化があった場合は、制御部30はステップS402からS403に進み、Bufスコアをクリアする。
また制御部30は、種別に応じた閾値設定を行う。これは上述の閾値th1,th2,th3の選択ではなく、閾値自体の値の設定である。閾値th1が用いられる場合(図4のステップS102参照)でいえば、例えば三分割構図のスコアと、曲線構図のスコアとで閾値th1としての値を変えるような場合である。例えば日の丸構図や三分割構図では閾値th1=80とし、曲線構図では閾値th1=85とするような例である。
但し、全てのスコア種別につき、同じ値を用いるのであれば、この閾値設定は行う必要はない。
マックススコアが閾値を越えていない場合は、今回の対象フレームは閾値条件を満たしていないとし、制御部30はステップS405でBufスコアをクリアして図8の処理を終える。これは今回の対象フレームは、スコア算出を行ったいずれの構図についても該当性が低く(閾値で設定した程度の該当性を有しない)、構図としての評価が比較的低いため、静止画記憶は行わないと判断する場合となる。
ステップS406で制御部30は、ピーク判定のためにマックススコアとBufスコアを比較する。もし、マックススコア<Bufスコアでなければ、ステップS408でBufスコアにマックススコアの値を代入して図8の処理を終える。
マックススコア<Bufスコアであれば、今回の対象フレームが或る構図についてのスコア(マックススコア)がピーク近辺の値になっていると判断する。そこで、今回のフレームはピーク近辺のスコアを有するものとして、ピーク値近傍条件を満たしたと判断する。
もしフォーカスが合っていないものである場合、ステップS408でBufスコアにマックススコアの値を代入して図8の処理を終える。つまりフォーカスの合っていないフレームは静止画記憶に適さないと判断する。
なお、ここでいう動的被写体とは、人物や動物、或いは自動車、列車等の動いている可能性のある被写体を指すのではなく、実際に当該フレームの撮像時に動いている被写体を指すものである。つまり動いている過程の被写体が撮像されたフレームであるか否かを判断する。
例えば制御部30は、デジタル信号処理部20に対して今回のフレームの画像データを指定し、所定のエンコード処理や必要な解像度変換等を実行させ、記憶部15で静止画データとして記録媒体に記憶させる。
シャッタスピードが焦点距離分の1秒より速やければ、動的被写体がブレないで撮像されている可能性が高いため、制御部30はステップS411に進み、今回の対象フレームについて静止画として記憶させる制御を行う。
一方、シャッタスピードが焦点距離分の1秒より遅い場合は、ブレた画像となっている可能性が高いため、静止画として記憶すべきものとはせず、制御部30はステップS408でBufスコアにマックススコアの値を代入して図8の処理を終える。
なお、対象フレームがステップS406でピーク値近傍と判断されても、ステップS407、S410の条件を満たさなかった場合は、Bufスコアが更新される。このため、実際にステップS406,S407,S409又はS410の条件を満たすフレームでも、閾値条件を満たす範囲でピーク値からは多少離れたスコアになっているものが静止画記憶される場合もありえる。従って、少なくともピーク後のフレームであって、フォーカスぼけやブレのないもののうちで、ピーク値に近いフレームを静止画として記憶するという考え方となる。
これに対して、ステップS407で注目被写体にフォーカスが合っていないと判断される場合や、動的被写体が存在しシャッタスピードが十分速いものではないと判断されたときは、ステップS408のBufスコアの更新は行わないようにすることも考えられる。このようにすれば、実際にピーク値近辺の画像が静止画記憶の対象となるようにすることもできる。
図4のステップS107での構図表示制御について説明する。
このステップS107では制御部30は表示制御部30dとしての機能により、上述のように自動静止画記憶が行われる際に、ユーザに対して、なるべく良い構図の静止画が自動記憶されるようにガイドする表示を実行させる。
図22、図23、図24は表示部34での表示例を示している。イメージャ12での撮像実行中であり、表示部34ではスルー画が表示されているとする。
まず図22、図23は、スルー画に構図情報(中心位置CPや閾値情報)を重畳表示させる例である。
図22Aは閾値th1が選択されている場合であり、例えば日の丸構図における理想位置IPと、その理想位置IPに対して閾値th1を示す枠Wth1が表示される例である。
図22Bは閾値th2が選択されている場合であり、同様に理想位置IPに対して閾値th2を示す枠Wth2が表示される例である。
図22Cは閾値th3が選択されている場合であり、同様に理想位置IPに対して閾値th3を示す枠Wth3が表示される例である。
また図22A、図22B、図22Cの場合、それぞれのスルー画像上では人物の顔が検出されているが、顔領域を示す枠WFと、顔の中心位置CPがスルー画に重畳表示される。
図23Bは閾値th2が選択されている場合の、理想位置IPと閾値th2を示すラインLth2が表示される例である。
図23Cは閾値th3が選択されている場合の、理想位置IPと閾値th3を示すラインLth3が表示される例である。
この図23A、図23B、図23Cの場合も、それぞれのスルー画像上では人物の顔が検出され、顔領域を示す顔枠WFと、顔の中心位置CPがスルー画に重畳表示される。
このような表示が行われることで、ユーザに適切なガイドが可能となる。例えばユーザは顔の中心位置CPが理想位置IPに一致するように、或いは少なくとも枠WthやラインLth内に入るように、撮像装置10の撮像方向を調整することで、良い構図で静止画記憶が行われる可能性を高くすることができる。
また、ユーザが構図種別を指定できるようにし、その指定された構図についての理想位置IP等や、閾値情報が表示されるようにしてもよい。
また、画像内容に応じて構図種別が選択されても良い。例えば顔画像が横向きであれば三分割構図の理想位置IPが表示されるようにするなどである。
なお、閾値情報(Wth、Lth)は、閾値th1、th2、th3の選択状態によって線の色や閾値条件該当範囲の領域の色が変化するようにしてもよい。
表示部34においてスルー画上に重畳させて、マックスレベル60、閾値レベル61、スコアバー62を表示させる。
即ち現在のフレームについて求められたスコアがスコアバー62により表現される。スルー画としての各フレームに対応するスコア表示であるため、各フレームのスコアに応じてスコアバー62の長さが変動する。
例えば図24Aの場合、中心位置CPが枠Wth1の範囲内で理想位置IPに接近しており、スコアは高いものとなるため、スコアバー62は閾値レベル61を越えて長くなっている。
図24Bの場合、中心位置CPが枠Wth1の範囲外で理想位置IPから離れており、スコアは低いものとなるため、スコアバー62は短くなっている。
スコアバー62は、長さに応じて色を変化させることで、よりユーザにスコアを認識しやすくすることもできる。
閾値レベル61の位置は、閾値th1、th2、th3の選択状態によって上下する。
なお、スコアバー62の表示は、スルー画に重畳させず、スルー画とは領域を区切って画面端部側などの別領域で表示させてもよい。
例えば中心位置CPが閾値範囲内(例えば枠Wth1内)に入ったら、図示のように理想位置IP近辺を拡大して表示する。ユーザは中心位置CP1を理想位置IPに一致させるように撮像方向を調整するが、撮像装置10を手で持ちながら撮像方向を調整するときに、表示画面が小型であると、なかなか合わせこみが難しい。そこで拡大画像65により中心位置CPと理想位置IPのずれを拡大中心位置CPL、拡大理想位置IPLにより認識しやすくして、ユーザが中心位置CPを理想位置IPに合わせやすくする。
また拡大画像65の表示は中心位置CPが閾値範囲内に入ったときのみ行うようにすることで、むやみに拡大画像でスルー画が隠されてしまうことを防止できる。
・構図エリア(理想位置IP及び閾値情報)のみを描画する
・スコアバーのみを描画する
・拡大画像のみを描画する
・想定される構図の構図エリア/スコアバーを複数表示させる
・ユーザが指定した構図種別のみ表示させる
などが考えられる。
ここまで画像処理装置1、撮像装置10の実施の形態を説明してきたが、上述した自動静止画記憶のための処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。
即ち実施の形態のプログラムは、構図に応じた画像記憶の実行判定のための閾値条件を設定する閾値設定ステップ(図2のS1)と、フレーム内の構図が、前記閾値設定ステップで設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを静止画として記憶する画像データと判定する画像記憶判定ステップ(S4)とを演算処理装置に実行させるプログラムである。
なお画像記憶判定ステップは、フレーム内の構図が、前記閾値設定部が設定した閾値条件を満たしている場合に、他の条件判定に応じて、当該フレームの画像データを静止画として記憶する画像データと判定するようにしてもよい(S4〜S7)。
また、連続するフレームの全部又は一部をスコア算出対象のフレームとし、スコア算出対象としたフレームについて、画像の構図の評価値となるスコアを算出するスコア算出ステップ(S3)を備えるようにし、画像記憶判定ステップでは、或るフレームについてスコア算出ステップで算出したスコアが、閾値設定ステップで設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを静止画として記憶する画像データと判定するようにしてもよい(S4)。
このようなプログラムにより、上述した自動静止画記憶の制御を行う画像処理装置を、演算処理装置を用いて実現できる。
あるいはまた、フレキシブルディスク、CD−ROM(Compact Disc Read Only Memory)、MO(Magnet optical)ディスク、DVD(Digital Versatile Disc)、ブルーレイディスク(Blu-ray Disc(登録商標))、磁気ディスク、半導体メモリ、メモリカードなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
例えば、図25に示されるようなコンピュータ装置において、上述の画像処理装置1、撮像装置10における自動静止画記憶のための処理と同様の処理が実行されるようにすることもできる。
CPU71、ROM72、およびRAM73は、バス74を介して相互に接続されている。このバス74にはまた、入出力インターフェース75も接続されている。
上述した自動静止画記憶の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
以上の実施の形態では、次のような効果が得られる。
実施の形態の画像処理装置1又は撮像装置10は、は、構図に応じた画像記憶の実行判定のための閾値条件を設定する閾値設定部(1b,30b)と、フレーム内の構図が、閾値設定部が設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定部(1c、30c)と、を備えている。
この構成により、動画やスルー画などとしての連続フレームから、自動的に構図の良い静止画となるべきフレームを判定でき、自動静止画記憶において適切なフレームを選択できる。
また、画像記憶判定部(1c、30c)は、フレーム内の構図が、閾値設定部(1b,30b)が設定した閾値条件を満たしている場合に、他の条件判定に応じて、当該フレームの画像データを静止画として記憶する画像データと判定する(図8のS406〜S410)。
即ち、構図に加えて、さらに他の条件を判断することで、なるべく画像として品質の良いフレームを自動的に判定できる。
また、連続するフレームの全部又は一部をスコア算出対象のフレームとし、スコア算出対象としたフレームについて、画像の構図の評価値となるスコアを算出するスコア算出部(1a,30a)を備える。そして画像記憶判定部(1c、30c)は、或るフレームについてスコア算出部(1a,30a)が算出したスコアが、閾値条件を満たしている場合に、当該フレームに対応する画像データを静止画として記憶する画像データと判定する。
つまりスコア算出部(1a,30a)は、1フレームの画像データが、好ましい構図に該当するか否かを判定し、その該当度合いを示すスコアを求める。スコアは、フレームの画像がスコア算出基準となる構図の理想状態にどの程度近いかを示す値とされる。
この場合、動画やスルー画などとしての連続フレームから、自動的に1フレームを抽出して静止画として記憶するために、1フレームの画像データが、静止画として好ましい構図に該当するか否かの評価値となるスコアを求める。このスコアが、閾値条件を満たしていれば、少なくとも静止画記憶として適切なフレームであるとする。さらに、他の条件を判断して、静止画として記憶するか否かを決定する。
このため自動的な静止画記憶の動作として、ユーザが意識しなくとも、品質の高い構図となっている静止画を記憶できるようになる。
また閾値条件を可変設定することで、静止画記憶頻度を調整することができる。特に閾値条件による静止画記憶頻度の調整は、時間による頻度調整ではないため、静止画取り込みの機会をむやみに減じないものとできる。
また理想の構図は上述の場合のスコア=最高値(100)となることだが、これはユーザが意識したとしても確率的には難しい。閾値を選択できることで、ユーザにとって望ましい頻度で比較的良い構図の静止画の自動記憶が行われるようにできる。
これにより、フレーム毎に、その画像データの構図がいずれかの構図に対して該当度合いが高ければ、静止画として記憶される可能性を高めることができる。つまり、各種の好ましい構図を基準として、それらのいずれかに該当するような静止画を記憶していくことができる。また、これにより特定の構図のみを基準とすることで静止画記憶の機会を損なうということを防止できる。
画像内容、つまり被写体の種別に応じて、望ましい構図や、適した構図がある。例えば人物が被写体の場合に適した構図、風景が被写体の場合に適した構図などである。そこで、フレームの画像内容に応じて、スコア算出に用いる構図を選択することで、画像内容に適した構図を基準とする評価値が求められるようにする。
これにより被写体の種別に応じて、望ましい構図とされているフレームが静止画として記憶される可能性を高めることができる。
少なくとも1つのスコアが閾値条件を満たしているのであれば、そのフレームは、或る構図に該当するものと判断できる。そこで、最大値となっているスコアにより閾値条件を判断することで、静止画として残すことが適切かどうか判断できる。
この場合、複数のスコアが算出された際に、簡易な処理で的確に構図該当性を判断できるものともなる。
つまり単にスコアが閾値条件を満たしているフレームを静止画として記憶するのではなく、その中でスコアがピーク値近傍となっているフレームを選択する。
例えば連続するフレーム期間で、スコアが閾値条件を満たすだけで静止画として記憶すると、似たような画像が多数記憶される。そこでピーク値近辺のフレームを選択することで、より構図として好適な画像が静止画として記憶されるようにできる。これにより記憶される静止画の品質を向上させ、また同じような画像を多数記憶させないようにできる。
また閾値が低い場合でも、ピークを判定することで、撮像機会を増やしつつ、なるべく良い構図の静止画が記憶されるようにすることができる。
なお、図8のステップS406でマックススコア<Bufスコアとなったフレームの直前の対象フレームを、ピークスコアのフレームとし、そのフレームを他の条件判定の上、静止画として記憶させるようにしてもよい。これにより最もスコアの高いフレームを静止画として記憶することができる。
即ち単にスコアが閾値条件を満たしているフレームを静止画として記憶するのではなく、フォーカスが合っていない画像は静止画として記憶させないようにする。これにより記憶される静止画は、フォーカスの合っている画像(ボケていない画像)とすることができ、記憶される静止画の品質を向上させることができる。
また対象のフレームが、注目被写体が動いている過程の画像を含んでいる場合、当該フレームの撮像時のシャッタスピードの判定を行う。具体的にはシャッタスピードが被写体条件から求められる速度以上の状態で撮像されているか否かの判定を行う(S410)。即ち動的被写体の存在によりブレが生じていそうな画像である場合は、シャッタスピードの状況から、ブレがないと判断できる場合に静止画として記憶させる。
動いている過程の動的被写体の場合、そのフレームが、シャッタスピードが速い状態で撮像されていれば、ブレた画像の可能性は低い。これにより動きのある被写体の場合でも品質の良い静止画が記憶されるようにする。
ユーザが閾値条件を操作により指示できるようにすることで、ユーザの意思に応じた頻度で自動静止画記憶が行われるようにすることができる。
待機期間を設けることにより、似たような画像が多数、静止画として記憶されることを避けることができる。この場合に、閾値条件が厳しいほど静止画記憶の頻度は低下し、閾値条件が緩いほど静止画記憶の頻度は高くなるため、待機時間も、閾値条件に応じることで、閾値条件による頻度に対応したものとなる。
なお、待機時間は余り長くすると、過剰に静止画記憶機会を損なう。また記憶頻度設定にも影響する。そこで比較的短い時間であることが好適である。
また各フレームのスコアと閾値条件の情報(スコアバー72、閾値レベル71)を表示させる(図24A、図24B)ことで、スコアが閾値条件を満たしているか否かをユーザに提示する。これにより、ユーザが被写体方向を整えて、スコアの高いフレームが得られやすいようにできる。
また、画像内容を特定の構図に合致させるガイドとなる拡大画像75を表示させる(図24C)。拡大画像により、ユーザが、主要な被写体の中心を構図としての理想位置IPに持って行きやすいようにガイドでき、撮像中に画角、撮像方向を合わせ易くし、スコアが高いフレームが得られやすいようにできる。
例えば構図のよいフレームを判定することに応じて、そのフレームを起点として所定時間の動画を自動的に記憶させることも可能である。
またその場合に、フレームレートの低い間欠的なフレームとしたり、さらに間引きフレームを多くして疑似動画的な画像データなどとして記憶させてもよい。
また構図のよい、例えば閾値条件を満たすフレームを判定したら、閾値条件を満たさなくなるフレームの直前までの連続フレームを動画データとして記憶させるようにしてもよい。
(1)構図に応じた画像記憶の実行判定のための閾値条件を設定する閾値設定部と、
フレーム内の構図が、前記閾値設定部が設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定部と、を備えた
画像処理装置。
(2)前記画像記憶判定部は、フレーム内の構図が、前記閾値設定部が設定した閾値条件を満たしている場合に、他の条件判定に応じて、当該フレームの画像データを記憶する画像データと判定する
上記(1)に記載の画像処理装置。
(3)連続するフレームの全部又は一部をスコア算出対象のフレームとし、スコア算出対象としたフレームについて、画像の構図の評価値となるスコアを算出するスコア算出部を備え、
前記画像記憶判定部は、或るフレームについて前記スコア算出部が算出したスコアが、前記閾値設定部が設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する
上記(1)又は(2)に記載の画像処理装置。
(4)前記スコア算出部は、複数の構図をそれぞれ基準としてスコアを算出する処理が可能とされている
上記(3)に記載の画像処理装置。
(5)前記スコア算出部は、フレームの画像内容に応じて、スコア算出の基準とする構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出する
上記(4)に記載の画像処理装置。
(6)前記画像記憶判定部は、或るフレームについて前記スコア算出部が、複数の構図を基準としてそれぞれ算出したスコアのうちの最大値が、前記閾値設定部が設定した閾値を満たしているか否かを判断する
上記(4)又は(5)に記載の画像処理装置。
(7)前記画像記憶判定部は、前記他の条件判定として、
対象のフレームのスコアが、連続する複数のフレームにおいて変動するスコア値のピーク値近傍となっているか否かの判定を行う
上記(2)に記載の画像処理装置。
(8)前記画像記憶判定部は、前記他の条件判定として、
対象のフレームの画像が、フォーカスが合っているか否かの判定を行う
上記(2)又は(7)に記載の画像処理装置。
(9)前記画像記憶判定部は、前記他の条件判定として、
対象のフレームが、注目被写体が動いている過程の画像を含むか否かの判定を行う
上記(2)(7)(8)のいずれかに記載の画像処理装置。
(10)前記画像記憶判定部は、前記他の条件判定として、
対象のフレームが、注目被写体が動いている過程の画像を含んでいる場合、当該フレームの撮像時のシャッタスピードの判定を行う
上記(2)(7)(8)(9)のいずれかに記載の画像処理装置。
(11)前記閾値設定部は、操作入力に応じて閾値条件を可変設定する
上記(1)乃至(10)のいずれかに記載の画像処理装置。
(12)前記画像記憶判定部により或るフレームに対応する画像データが記憶する画像データと判定された後は、前記閾値設定部により設定された閾値に応じた待機時間の間のフレームに対応する画像データついては、記憶する画像データとは前記画像記憶判定部が判定しないようにする
上記(1)乃至(11)のいずれかに記載の画像処理装置。
(13)時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、その画像と重畳させて、構図情報を表示させる表示制御部を備えた
上記(1)乃至(12)のいずれかに記載の画像処理装置。
(14)時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、各フレームのスコアと閾値条件の情報を表示させる表示制御部を備えた
上記(1)乃至(13)のいずれかに記載の画像処理装置。
(15)時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、画像内容を特定の構図に合致させるガイドとなる拡大画像を表示させる表示制御部を備えた
上記(1)乃至(14)のいずれかに記載の画像処理装置。
(16)構図に応じた画像記憶の実行判定のための閾値条件を設定する閾値設定ステップと、
フレーム内の構図が、前記閾値設定ステップで設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定ステップと、
を演算処理装置が実行する画像処理方法。
(17)構図に応じた画像記憶の実行判定のための閾値条件を設定する閾値設定ステップと、
フレーム内の構図が、前記閾値設定ステップで設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定ステップと、
を演算処理装置に実行させるプログラム。
Claims (14)
- 構図に応じた画像記憶の実行判定のための閾値条件が構図毎に段階的に設けられ、操作入力に応じて選択された段階の閾値条件を画像記憶の実行判定で用いる閾値条件として設定する閾値設定部と、
フレーム内の構図が、前記閾値設定部が設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定部と、
連続するフレームの全部又は一部をスコア算出対象のフレームとし、スコア算出対象としたフレームについて、複数の構図をそれぞれ基準として画像の構図の評価値となるスコアを算出する処理が可能とされているスコア算出部と、
を備え、
前記スコア算出部は、フレームの画像内容の画像解析結果により当該フレームの画像内に顔が検出されたか否か判定することに応じて人物構図判定と風景構図判定のいずれかを行い、前記人物構図判定においてはフレームの画像内容の画像解析結果により判定された顔の数と向きに応じて構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出し、前記風景構図判定においてはフレームの画像内容の画像解析結果に応じてスコア算出の基準とする構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出し、
前記画像記憶判定部は、或るフレームについて前記スコア算出部が算出したスコアが、前記閾値設定部が設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する
画像処理装置。 - 前記画像記憶判定部は、フレーム内の構図が、前記閾値設定部が設定した閾値条件を満たしている場合に、他の条件判定に応じて、当該フレームの画像データを記憶する画像データと判定する
請求項1に記載の画像処理装置。 - 前記スコア算出部は、前記風景構図判定において、スコア算出対象のフレームの画像内容の画像解析において、当該フレームの画像内にラインが検出されたか否か判定する
請求項1又は請求項2に記載の画像処理装置。 - 前記画像記憶判定部は、或るフレームについて前記スコア算出部が、複数の構図を基準としてそれぞれ算出したスコアのうちの最大値が、前記閾値設定部が設定した閾値を満たしているか否かを判断する
請求項1から請求項3のいずれかに記載の画像処理装置。 - 前記画像記憶判定部は、前記他の条件判定として、
対象のフレームのスコアが、連続する複数のフレームにおいて変動するスコア値のピーク値近傍となっているか否かの判定を行う
請求項2に記載の画像処理装置。 - 前記画像記憶判定部は、前記他の条件判定として、
対象のフレームの画像が、フォーカスが合っているか否かの判定を行う
請求項2又は請求項5に記載の画像処理装置。 - 前記画像記憶判定部は、前記他の条件判定として、
対象のフレームが、注目被写体が動いている過程の画像を含むか否かの判定を行う
請求項2、請求項5、請求項6のいずれかに記載の画像処理装置。 - 前記画像記憶判定部は、前記他の条件判定として、
対象のフレームが、注目被写体が動いている過程の画像を含んでいる場合、当該フレームの撮像時のシャッタスピードの判定を行う
請求項2、請求項5、請求項6、請求項7のいずれかに記載の画像処理装置。 - 前記画像記憶判定部により或るフレームに対応する画像データが記憶する画像データと判定された後は、前記閾値設定部により設定された閾値に応じた待機時間の間のフレームに対応する画像データついては、記憶する画像データとは前記画像記憶判定部が判定しないようにする
請求項1から請求項8のいずれかに記載の画像処理装置。 - 時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、その画像と重畳させて、構図情報を表示させる表示制御部を備えた
請求項1から請求項9のいずれかに記載の画像処理装置。 - 時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、各フレームのスコアと閾値条件の情報を表示させる表示制御部を備えた
請求項1から請求項10のいずれかに記載の画像処理装置。 - 時間軸上で連続するフレームの画像データを表示画面上で表示させるとともに、画像内容を特定の構図に合致させるガイドとなる拡大画像を表示させる表示制御部を備えた
請求項1から請求項11のいずれかに記載の画像処理装置。 - 構図に応じた画像記憶の実行判定のための閾値条件が構図毎に段階的に設けられ、操作入力に応じて選択された段階の閾値条件を画像記憶の実行判定で用いる閾値条件として設定する閾値設定ステップと、
フレーム内の構図が、前記閾値設定ステップで設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定ステップと、
連続するフレームの全部又は一部をスコア算出対象のフレームとし、スコア算出対象としたフレームについて、複数の構図をそれぞれ基準として画像の構図の評価値となるスコアを算出する処理が可能とされているスコア算出ステップと、
を演算処理装置が実行し、
前記演算処理装置は、
前記スコア算出ステップにおいて、フレームの画像内容の画像解析結果により当該フレームの画像内に顔が検出されたか否か判定することに応じて人物構図判定と風景構図判定のいずれかを行い、前記人物構図判定においてはフレームの画像内容の画像解析結果により判定された顔の数と向きに応じて構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出し、前記風景構図判定においてはフレームの画像内容の画像解析結果に応じてスコア算出の基準とする構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出し、
前記画像記憶判定ステップにおいて、或るフレームについて前記スコア算出ステップにおいて算出したスコアが、前記閾値設定ステップにおいて設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する
画像処理方法。 - 構図に応じた画像記憶の実行判定のための閾値条件が構図毎に段階的に設けられ、操作入力に応じて選択された段階の閾値条件を画像記憶の実行判定で用いる閾値条件として設定する閾値設定ステップと、
フレーム内の構図が、前記閾値設定ステップで設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する画像記憶判定ステップと、
連続するフレームの全部又は一部をスコア算出対象のフレームとし、スコア算出対象としたフレームについて、複数の構図をそれぞれ基準として画像の構図の評価値となるスコアを算出する処理が可能とされているスコア算出ステップと、
を演算処理装置に実行させるとともに、
前記スコア算出ステップにおいて、フレームの画像内容の画像解析結果により当該フレームの画像内に顔が検出されたか否か判定することに応じて人物構図判定と風景構図判定のいずれかを行い、前記人物構図判定においてはフレームの画像内容の画像解析結果により判定された顔の数と向きに応じて構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出し、前記風景構図判定においてはフレームの画像内容の画像解析結果に応じてスコア算出の基準とする構図を選択し、選択した1又は複数の構図のそれぞれについてのスコアを算出する処理と、
前記画像記憶判定ステップにおいて、或るフレームについて前記スコア算出ステップにおいて算出したスコアが、前記閾値設定ステップにおいて設定した閾値条件を満たしている場合に、当該フレームに対応する画像データを記憶する画像データと判定する処理とを
前記演算処理装置に実行させるプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015115750 | 2015-06-08 | ||
JP2015115750 | 2015-06-08 | ||
PCT/JP2016/060689 WO2016199483A1 (ja) | 2015-06-08 | 2016-03-31 | 画像処理装置、画像処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016199483A1 JPWO2016199483A1 (ja) | 2018-03-29 |
JP6729572B2 true JP6729572B2 (ja) | 2020-07-22 |
Family
ID=57504730
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017523136A Expired - Fee Related JP6729572B2 (ja) | 2015-06-08 | 2016-03-31 | 画像処理装置、画像処理方法、プログラム |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP6729572B2 (ja) |
DE (1) | DE112016002564T5 (ja) |
WO (1) | WO2016199483A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019124055A1 (ja) * | 2017-12-18 | 2019-06-27 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
JP7403218B2 (ja) * | 2017-12-18 | 2023-12-22 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
JP2019186791A (ja) * | 2018-04-12 | 2019-10-24 | シャープ株式会社 | 撮像装置、撮像装置の制御方法、および制御プログラム |
JP6733945B1 (ja) * | 2019-11-20 | 2020-08-05 | 株式会社エクサウィザーズ | 撮影装置、情報処理装置、方法およびプログラム |
JP6793382B1 (ja) * | 2020-07-03 | 2020-12-02 | 株式会社エクサウィザーズ | 撮影装置、情報処理装置、方法およびプログラム |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06235952A (ja) * | 1993-02-12 | 1994-08-23 | Nikon Corp | 撮像装置 |
JP2007306464A (ja) * | 2006-05-15 | 2007-11-22 | Fujifilm Corp | 撮影制御方法および装置ならびにプログラム |
JP4842232B2 (ja) * | 2007-09-25 | 2011-12-21 | 富士フイルム株式会社 | 撮影装置及び画像再生装置 |
JP2009225103A (ja) * | 2008-03-17 | 2009-10-01 | Nikon Corp | カメラ |
JP4315234B2 (ja) * | 2008-08-15 | 2009-08-19 | ソニー株式会社 | 撮像装置および表情評価装置 |
JP5434339B2 (ja) * | 2009-07-29 | 2014-03-05 | ソニー株式会社 | 撮像制御装置、撮像システム、撮像方法、プログラム |
JP4844657B2 (ja) * | 2009-07-31 | 2011-12-28 | カシオ計算機株式会社 | 画像処理装置及び方法 |
JP5441614B2 (ja) * | 2009-10-27 | 2014-03-12 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
JP2012186670A (ja) * | 2011-03-07 | 2012-09-27 | Ricoh Co Ltd | 撮像装置と撮像方法並びに撮像プログラム |
JP2012231327A (ja) * | 2011-04-26 | 2012-11-22 | Canon Inc | 撮像装置、撮像方法及びプログラム |
JP5938967B2 (ja) * | 2012-03-19 | 2016-06-22 | カシオ計算機株式会社 | 撮像装置、撮像方法、及びプログラム |
-
2016
- 2016-03-31 WO PCT/JP2016/060689 patent/WO2016199483A1/ja active Application Filing
- 2016-03-31 DE DE112016002564.5T patent/DE112016002564T5/de not_active Withdrawn
- 2016-03-31 JP JP2017523136A patent/JP6729572B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
DE112016002564T5 (de) | 2018-03-22 |
WO2016199483A1 (ja) | 2016-12-15 |
JPWO2016199483A1 (ja) | 2018-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11012614B2 (en) | Image processing device, image processing method, and program | |
JP6729572B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
US10848662B2 (en) | Image processing device and associated methodology for determining a main subject in an image | |
JP5251215B2 (ja) | デジタルカメラ | |
US8649574B2 (en) | Imaging apparatus, control method of imaging apparatus, and computer program | |
JP5867424B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
US8817134B2 (en) | Imaging control device, subject detection method, and program | |
US10630891B2 (en) | Image processing apparatus, image processing method, and program | |
US9712750B2 (en) | Display control device and associated methodology of identifying a subject in an image | |
US10455154B2 (en) | Image processing device, image processing method, and program including stable image estimation and main subject determination | |
US9942460B2 (en) | Image processing device, image processing method, and program | |
JPWO2017037978A1 (ja) | 検出装置、検出方法、検出プログラムおよび撮像装置 | |
JP2010171797A (ja) | 撮像装置及びプログラム | |
JP6274272B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
WO2015141185A1 (ja) | 撮像制御装置、撮像制御方法および記録媒体 | |
JP6024135B2 (ja) | 被写体追尾表示制御装置、被写体追尾表示制御方法およびプログラム | |
JP2011244214A (ja) | 動画再生装置、動画再生方法及びプログラム | |
JP2009098850A (ja) | 演算装置及びそのプログラム | |
JP6432290B2 (ja) | 撮像装置、撮像制御方法、及びプログラム | |
US20220232159A1 (en) | Image capturing apparatus, method for controlling the same, and recording medium | |
JP2014036321A (ja) | 電子カメラ | |
JP2012216936A (ja) | 撮像装置及びプログラム | |
JP2011172115A (ja) | 撮像装置、撮像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190313 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190313 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191008 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200310 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200430 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200602 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200615 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6729572 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |