JP2019186791A - 撮像装置、撮像装置の制御方法、および制御プログラム - Google Patents

撮像装置、撮像装置の制御方法、および制御プログラム Download PDF

Info

Publication number
JP2019186791A
JP2019186791A JP2018076974A JP2018076974A JP2019186791A JP 2019186791 A JP2019186791 A JP 2019186791A JP 2018076974 A JP2018076974 A JP 2018076974A JP 2018076974 A JP2018076974 A JP 2018076974A JP 2019186791 A JP2019186791 A JP 2019186791A
Authority
JP
Japan
Prior art keywords
image
target frame
main subject
imaging
still image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018076974A
Other languages
English (en)
Inventor
海二 鍋谷
Kaiji Nabetani
海二 鍋谷
章裕 児玉
Akihiro Kodama
章裕 児玉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2018076974A priority Critical patent/JP2019186791A/ja
Priority to US16/375,514 priority patent/US11057563B2/en
Priority to CN201910290658.3A priority patent/CN110381247B/zh
Publication of JP2019186791A publication Critical patent/JP2019186791A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Abstract

【課題】審美性に優れた静止画を、ユーザに簡便に取得させる。【解決手段】スマートフォン(1)は、(i)動画像がキャプチャされている期間、または、(ii)当該動画像に対応するスルー画像が表示部(81)に表示されている期間、において、カメラ(70)にシャッタ動作を選択的に行わせる特殊モードで動作する。特殊モードにおいて、制御部(10)は、動画像の任意の1フレームである対象フレームに含まれうる主要被写体の像を検出し、かつ、静止画としての当該対象フレームの構図の良好性を判定する。そして、制御部(10)は、対象フレームにおける主要被写体の像の検出結果と当該対象フレームの構図の良好性の判定結果とに応じて、カメラ(70)にシャッタ動作を行わせる。【選択図】図1

Description

本発明の一態様は、静止画(静止画像)および動画像を撮像可能な撮像装置に関する。
撮像装置において、ユーザの利便性を向上させるための様々な工夫が提案されている。例えば、特許文献1には、動画像(映像)の撮像(撮影)中に、より好ましい構図の静止画をユーザに取得させるための技術が開示されている。具体的には、特許文献1の撮像装置は、動画像の1フレームから被写体の像を含む部分領域をトリミングすることにより、当該被写体の像が所定の構図で配置されたトリミング画像を生成する。
特開2009−89220号公報
Yi-Ling Chen, Jan Klopp, Min Sun, Shao-Yi Chien, Kwan-Liu Ma, "Learning to Compose with Professional Photographs on the Web", MM '17 Proceedings of the 2017 ACM on Multimedia Conference Pages 37-45.
本発明の一態様は、審美性に優れた静止画を、ユーザに簡便に取得させることを目的とする。
上記の課題を解決するために、本発明の一態様に係る撮像装置は、静止画および動画像を撮像可能な少なくとも1つの撮像部と、上記撮像部を制御する少なくとも1つの制御装置と、少なくとも1つの表示部と、を備えた撮像装置であって、上記動画像を構成する複数のフレームのうちの任意の1フレームを対象フレームとし、上記動画像において表現された複数の物体のうち所定の1つの物体を主要被写体として、上記撮像装置の撮像モードには、(i)上記動画像がキャプチャされている期間、または、(ii)上記動画像に対応するスルー画像が上記表示部に表示されている期間、において、上記対象フレームに対応する上記静止画をキャプチャするためのシャッタ動作を上記撮像部に選択的に行わせる撮像モードである特殊モードが含まれており、上記特殊モードにおいて、上記制御装置は、上記対象フレームに含まれうる上記主要被写体の像を検出し、上記静止画としての上記対象フレームの構図の良好性を判定し、上記対象フレームにおける、(i)上記主要被写体の像の検出結果、および、(ii)上記対象フレームの構図の良好性の判定結果に応じて、上記撮像部に上記シャッタ動作を行わせる。
また、上記の課題を解決するために、本発明の一態様に係る撮像装置の制御方法は、静止画および動画像を撮像可能な少なくとも1つの撮像部と少なくとも1つの表示部とを備えた撮像装置を制御するための、撮像装置の制御方法であって、上記動画像を構成する複数のフレームのうちの任意の1フレームを対象フレームとし、上記動画像において表現された複数の物体のうち所定の1つの物体を主要被写体として、上記撮像装置の撮像モードには、(i)上記動画像がキャプチャされている期間、または、(ii)上記動画像に対応するスルー画像が上記表示部に表示されている期間、において、上記対象フレームに対応する上記静止画をキャプチャするためのシャッタ動作を上記撮像部に選択的に行わせる撮像モードである特殊モードが含まれており、上記特殊モードにおいて、上記対象フレームに含まれうる上記主要被写体の像を検出する工程と、上記静止画としての上記対象フレームの構図の良好性を判定する工程と、上記対象フレームにおける、(i)上記主要被写体の像の検出結果、および、(ii)上記対象フレームの構図の良好性の判定結果に応じて、上記撮像部に上記シャッタ動作を行わせる工程と、を含んでいる。
本発明の一態様に係る撮像装置によれば、審美性に優れた静止画を、ユーザに簡便に取得させることができる。また、本発明の一態様に係る撮像装置の制御方法によっても、同様の効果を奏する。
実施形態1のスマートフォンの要部の構成を示す機能ブロック図である。 特殊モードにおける、図1のスマートフォンの動作の一例について説明するための図である。 特殊モードにおける、図1のスマートフォンの動作の別の例について説明するための図である。 特殊モードにおける、図1のスマートフォンの動作のさらに別の例について説明するための図である。 特殊モードにおける、図1のスマートフォンの処理の流れを例示する図である。 図1のスマートフォンのビュー画面の一変形例を示す図である。 実施形態2のスマートフォンの要部の構成を示す機能ブロック図である。 特殊モードにおける、図7のスマートフォンの動作の一例について説明するための図である。 特殊モードにおける、図7のスマートフォンの処理の流れを例示する図である。
〔実施形態1〕
以下、実施形態1のスマートフォン1(撮像装置)について説明する。説明の便宜上、実施形態1にて説明した部材と同じ機能を有する部材については、以降の各実施形態では同じ符号を付記し、その説明を繰り返さない。
実施形態1では、本発明の一態様に係る撮像装置の一例として、カメラ機能を有するスマートフォン1(携帯型の情報処理端末)を例示する。但し、当該撮像装置は、このような情報処理端末に限定されず、ユーザによって持ち歩き可能なデジタルカメラであってもよい。あるいは、当該撮像装置は、所定の位置に固定して配置された、監視カメラであってもよい。
(スマートフォン1の概要)
図1は、スマートフォン1の要部の構成を示す機能ブロック図である。スマートフォン1は、制御部10(制御装置)、カメラ70(撮像部)、タッチパネル80、および記憶部90を備える。図1では、制御部10および記憶部90が1つである場合が例示されているが、制御部10および記憶部90の個数は複数であってもよい。この点は、カメラ70についても同様である。また、タッチパネル80(より具体的には、表示部81および入力部82のそれぞれ)についても同様である。
制御部10は、スマートフォン1の各部を統括的に制御する。特に、制御部10は、カメラ70の動作を制御する。記憶部90は、スマートフォン1に対して着脱可能な記憶媒体(リムーバブルメディア)であってよい。あるいは、記憶部90は、スマートフォン1に予め内蔵された記憶媒体(例:ハードディスクドライブ)であってもよい。
カメラ70は、例えば公知のカメラモジュールである。カメラ70は、公知の撮像素子を含む。カメラ70は、静止画および動画像を撮像可能である。なお、カメラ70を複数(例:2つ)設ける場合、一部(例:1つ)のカメラを静止画撮影用のカメラとして、その他(例:もう1つ)のカメラを動画像撮影用のカメラとして、それぞれ用いてもよい。
タッチパネル80は、表示部81と入力部82とが一体として設けられた部材である。但し、表示部81と入力部82とは、個別の部材として設けられてもよい。例えば、スマートフォン1に設けられたハードウェアキーを、入力部82として用いてもよい。入力部82は、ユーザの操作(以下、ユーザ操作)を受け付ける。例えば、ユーザは、タッチパネル80に表示されたカメラアプリのボタン(アイコン)を押下することにより、カメラ70を起動する。制御部10は、ユーザ操作に応じて、カメラ70を動作させる。
表示部81は、電子ファインダとして機能する。表示部81には、カメラ70のレンズが捉えている構図(より具体的には、カメラ70がリアルタイムで撮像している動画像の現フレーム)が、ビュー画面として表示される(例:後述の図6)。ある撮影モード(例:手動撮影モード)において、ユーザは、ビュー画面を閲覧しつつ、タッチパネル80に表示されたシャッタボタン(シャッタ動作をカメラ70に指示するためのボタン)を押下する。制御部10は、シャッタボタンが押下されたことを契機として、カメラ70にシャッタ動作を行わせる。なお、シャッタ動作は、レリーズ動作とも称される。同様に、シャッタボタンは、レリーズボタンとも称される。
シャッタ動作とは、スマートフォン1に静止画をキャプチャさせるために、カメラ70が当該静止画を撮像する動作を意味する。より具体的には、シャッタ動作とは、スマートフォン1に静止画をキャプチャさせるために、カメラ70のシャッタ(電子シャッタ)を動作させる処理を意味する。シャッタ動作では、カメラ70の撮像素子に対して、露光調整処理(電子シャッタ処理)が行われる。このように、ユーザは、手動操作によって所望のタイミングで静止画をキャプチャできる。
加えて、スマートフォン1では、複数の撮影モード(撮像モード)に、所定の条件下でカメラ70にシャッタ動作を自動的に行わせる撮影モード(以下、特殊モード)が含まれている。実施形態1では、特殊モードが、動画像のキャプチャ中にカメラ70にシャッタ動作を自動的に(選択的に)行わせる撮影モードである場合を例示する。
以下に述べるように、特殊モードでは、AI(Artificial Intelligence)技術を利用した判定処理の結果に応じて、カメラ70にシャッタ動作を選択的に行わせることができる。このことから、特殊モードは、例えば「AI AUTOモード」とも称される。具体的には、特殊モードは、対象フレーム(後述)に対応する静止画をキャプチャするために、カメラ70にシャッタ動作を行わせることができる。以下の説明では、スマートフォン1が特殊モードで動作している場合を主に例示する。なお、スマートフォン1の撮影モードの切り替えは、ユーザ操作に応じて実行されてよい。
(制御部10)
制御部10は、表示制御部11、シャッタ制御部12、およびエンコーダ13を備える。表示制御部11は、表示部81の動作を制御する。表示制御部11は、例えば、ビュー画面の表示を制御する。エンコーダ13は、動画エンコーダ130および静止画エンコーダ131を備える。エンコーダ13の動作の例については後述する、シャッタ制御部12は、物体検出部120、構図判定部121、およびシャッタ指令部122を備える。シャッタ制御部12は、特殊モードにおいて、カメラ70にシャッタ動作を選択的に行わせる。
図2〜図4はそれぞれ、特殊モードにおけるスマートフォン1の動作について説明するための図である。以下、特殊モードにおいてカメラ70がリアルタイムで撮像している動画像を、MOVと称する。また、スマートフォン1がMOVをキャプチャしている期間を、キャプチャ期間と称する。MOVの上下方向(垂直方向)および左右方向(水平方向)は、予め規定されているものとする。
MOVは、複数のフレームによって構成されている。図2〜図4に示されるIMG1〜IMG3はそれぞれ、MOVを構成する複数のフレームのうちの任意の1フレームである。すなわち、IMG1〜IMG3はそれぞれ、静止画である。一例として、IMG2は、IMG1に後続するフレームである。さらに、IMG3は、IMG2に後続するフレームである。
以下、MOVの任意の1フレームを、便宜上、静止画Aと称する。IMG1〜IMG3はいずれも、静止画Aの一例である。以下に述べるように、静止画Aは、シャッタ制御部12(より具体的には、物体検出部120および構図判定部121)による解析対象となるフレームである。このことから、静止画A(IMG1〜IMG3)は、対象フレームとも称される。
MOV(換言すれば、静止画A)には、複数の物体(オブジェクト)の像が表現されている。例えば、IMG1〜IMG3には、道、観覧車、ビルなどの物体の像が含まれている。加えて、IMG1・IMG2には、人(以下、OBJM)の像が含まれている。
以下、一例として、ユーザがOBJMを主要な撮影対象(被写体)として意図している場合を考える。つまり、ユーザが、好適な構図のもとでOBJMが表現された静止画を取得することを希望している場合を例示する。このことから、OBJMを、主要被写体とも称する。
実施形態1では、OBJMが人である場合を例示する。但し、OBJMは、静止画において表現される複数の物体のうち、所定の1つの物体であればよい。OBJMは、ユーザが主要な被写体として選択することが多いと考えられる種類の物体であればよい。例えば、OBJMは、犬または猫等の動物(生体)であってもよい。あるいは、OBJMは、無生物であってもよい。当該無生物は、可動な物体(例:電車)であってもよいし、静止した物体(例:建築物)であってもよい。主要被写体としての物体の種類を示す情報(物体カテゴリ)は、スマートフォン1において予め設定されている。なお、生体の一部の部位を、OBJMとして設定してもよい。例えば、人の顔をOBJMとして設定してもよい。
物体検出部120は、MOVの各フレーム(例:静止画A)に含まれうるOBJMの像を検出する。具体的には、物体検出部120は、静止画Aに、OBJMの像が含まれているか否かを判定する。なお、以下の説明では、簡単のため、「OBJMの像」を、単に「OBJM」とも称する。その他の物体についても同様である。
一例として、物体検出部120は、公知のAI技術を利用して、各物体を検出(特定)できる。物体検出部120における物体検出方法(物体カテゴリの特定方法)には、ディープラーニング(Deep Learning)技術が利用されてよい。この場合、物体検出部120に複数の物体の画像(リファレンス画像)を用いてあらかじめ機械学習を行わせることで、各物体を識別する(物体カテゴリを特定する)ためのモデルを、当該物体検出部120に取得させることができる。以下、当該モデルを第1学習済みモデル(物体特定用モデル)と称する。
物体検出部120は、静止画Aに含まれる複数の物体を検出する。そして、物体検出部120は、複数の物体のそれぞれと第1学習済みモデルとの照合を行うことで、各物体の物体カテゴリを特定する。つまり、物体検出部120は、検出した複数の物体に、OBJM(人)が含まれているかを識別できる。ディープラーニング技術を用いることにより、物体識別(OBJMの検出)を高精度に行うことが可能となる。
物体検出部120は、静止画AにOBJMが含まれているか否かを判定した結果を示す情報(物体検出結果情報)を生成する。物体検出部120は、静止画AにおいてOBJMの像を検出した場合には、静止画AにおけるOBJMの像の位置およびサイズをさらに検出する。物体検出部120は、静止画AにおいてOBJMの像を検出した場合には、その旨を示す物体検出結果情報(第1物体検出結果情報)を生成する。第1物体検出結果情報には、静止画AにおけるOBJMの像の位置およびサイズを示す情報が含まれる。これに対して、物体検出部120は、静止画AにOBJMが含まれていないと判定した場合には、その旨を示す物体検出結果情報(第2物体検出結果情報)を生成する。
構図判定部121は、MOVの各フレーム(例:静止画A)の構図の良好性(より具体的には、審美性)を判定する。一例として、構図判定部121は、静止画Aの構図スコア(以下、SCとも称する)を算出する。構図スコアとは、静止画A(静止画としての対象フレーム)の構図の良好性を示す指標である。つまり、構図スコアは、対象フレームを1つの静止画と見なした場合の、当該対象フレームの構図の良好性を示す。構図スコアによれば、静止画Aの構図の良好性を定量的に評価できる。一例として、SCは、0以上かつ100以下の整数である。SCが高い値であるほど、静止画Aの構図の良好性が高い。なお、静止画AにOBJMが含まれている場合、SCは、静止画AにおけるOBJMのサイズおよび位置にも依存する。
実施形態1では、スマートフォン1(制御部10)が、SCを静止画A(対象フレーム)の構図の良好性の判定結果として用いる場合を例示する。但し、構図判定部121は、静止画Aの構図の良好性を判定できればよい。構図判定部121は、必ずしもSCを算出しなくともよい。構図判定部121におけるSCの算出は、静止画Aの構図の良好性を判定する処理の一例であることに留意されたい。
構図判定部121によるSCの算出方法(構図の良否の判定方法)にも、ディープラーニング技術が利用されてよい。構図判定部121は、例えば非特許文献1に開示された技術を用いて実現されてよい。構図判定部121は、機械学習の結果として得られた、SCを算出するためのモデルを含んでいる。以下、当該モデルを第2学習済みモデル(構図評価用モデル)と称する。構図判定部121は、静止画Aと第2学習済みモデルとの照合を行う。構図判定部121は、照合の結果として、静止画AのSCを算出する。ディープラーニング技術を用いることにより、静止画Aの構図の良否を高精度に判定することが可能となる。
なお、「良好な構図の静止画」とは、例えば以下の性質1〜3、
(性質1)色合いおよび明るさの少なくともいずれかが適切である;
(性質2)ブレが少ない(好ましくはブレがない);
(性質3)各被写体の配置が、公知の適切な配置(日の丸、2分割、3分割、またはシンメトリー等の構図)から大きく乖離していない;
のうちの少なくともいずれかを備えた静止画である。
多くの場合、撮影技量の高いカメラマン(例:プロまたはセミプロのカメラマン)によって撮影された静止画は、性質1〜3のうちの少なくともいずれか(好ましくは、性質1〜3の全て)を満たしていると期待される。そこで、このような静止画が、構図判定部121におけるディープラーニングの学習データに用いられてよい。
以上の点を踏まえると、構図判定部121は、例えば以下の基準1〜3、
(基準1)静止画Aにおける色合いおよび明るさの少なくともいずれか;
(基準2)静止画Aにおけるブレの程度;
(基準3)静止画Aに含まれる複数の物体のそれぞれの像の位置関係;
の少なくともいずれかに基づいて、静止画Aの構図の良好性を判定してよい(例:SCを算出してよい)。基準1〜3はそれぞれ、性質1〜3に対応する基準(構図の良好性の判定基準)である。これにより、構図判定部121において、静止画Aの構図の良好性をより適切に判定できる。一例として、構図判定部121は、基準1〜3の全てに基づいて、静止画Aの構図の良好性を判定してよい。
シャッタ指令部122は、カメラ70のシャッタ動作を指令する信号(シャッタ指令信号)を、カメラ70に与える。具体的には、シャッタ指令部122は、(i)物体検出部120の判定結果(OBKMの像の検出結果)、および、(ii)構図判定部121の判定結果(例:SCの値)に応じて、シャッタ指令信号をカメラ70に供給する。このように、シャッタ指令部122は、カメラ70にシャッタ動作を選択的に行わせる。
例えば、シャッタ指令部122は、静止画AにおいてOBJMが所定のエリア内に位置していない場合には、カメラ70にシャッタ指令信号を供給しない(つまり、カメラ70にシャッタ動作を行わせない)。一例として、所定のエリアは、MOVの各フレーム(例:静止画A)を水平方向に3等分した場合の、中央のエリア(以下、中央エリア)であることが好ましい。ユーザが好適な構図のもとでOBJMを撮影したい場合、OBJMの存在感を強調するために、OBJMが中央エリアに位置するように静止画Aの構図を設定することが多いと考えられるためである。
実施形態1では、所定のエリアが中央エリアである場合を例示する。但し、当該所定のエリアは、静止画Aを水平方向に3等分した場合の、左端のエリア(以下、左端エリア)であってもよい。あるいは、当該所定のエリアは、静止画Aを水平方向に3等分した場合の、右端のエリア(右端エリア)であってもよい。
さらに、シャッタ指令部122は、静止画AにおけるOBJMのサイズ(例:OBJMの面積)が所定のサイズ(サイズ閾値)よりも小さい場合にも、カメラ70にシャッタ指令信号を供給しない。ユーザが好適な構図のもとでOBJMを撮影したい場合、OBJMの存在感を強調するために、OBJMがある程度大きいサイズで表現されるように静止画Aの構図を設定することが多いと考えられるためである。
以下、「静止画Aにおいて、(i)OBJMが所定のエリア内に位置しており、かつ、(ii)OBJMのサイズがサイズ閾値以上である」という条件を、主要被写体撮影許可条件と称する。主要被写体撮影許可条件は、OBJMに関する条件である。主要被写体撮影許可条件が満たされる場合、静止画Aにおいて、OBJMの存在感が十分に強調されていると期待される。
これに対して、主要被写体撮影許可条件が満たされていない場合、静止画Aにおいて、OBJMの存在感が十分に強調されていないと考えられる。そこで、シャッタ指令部122は、OBJMを含む静止画(例:IMG1およびIMG2)を撮像する場合、主要被写体撮影許可条件が満たされない状態では、カメラ70にシャッタ指令信号を供給しない。このような場合、静止画Aは、OBJMを表現する静止画としてあまり好ましくないと言えるためである。
また、シャッタ指令部122は、静止画AのSCが所定の閾値(以下、スコア閾値)よりも低い場合にも、カメラ70にシャッタ指令信号を供給しない。つまり、シャッタ指令部122は、構図の良好性の判定結果が所定の程度よりも低い場合には、カメラ70にシャッタ指令信号を供給しない。以下の例では、スコア閾値(THS)が75であるとする。以下、「SC≧THS」という条件を、構図撮影許可条件と称する。構図撮影許可条件が満たされていることは、構図の良好性の判定結果が所定の程度以上であることを意味する。実施形態1では、構図撮影許可条件は、SCに関する条件である。OBJMを含む静止画をキャプチャする場合、主要被写体撮影許可条件が満たされたとしても、構図撮影許可条件が満たされない状態では、カメラ70にシャッタ指令信号を供給しない。
一例として、物体検出部120は、図2のIMG1に対して物体検出を行う。図2の例では、OBJMがIMG1の左端エリアに位置している。つまり、OBJMが中央エリア内に位置していない。すなわち、主要被写体撮影許可条件が満たされていない。このため、シャッタ指令部122は、カメラ70にシャッタ指令信号を供給しない。
また、図2において、OBJMが中央エリア内に位置している場合を考える。図2では、OBJMのサイズは、IMG1の全体のサイズ(例:IMG1の面積)に比べて十分に小さい。つまり、OBJMのサイズは、サイズ閾値よりも小さい。この場合にも、主要被写体撮影許可条件が満たされていない。このため、シャッタ指令部122は、カメラ70にシャッタ指令信号を供給しない。このように、図2の例では、SCによらずシャッタ動作が実行されない。
なお、構図判定部121がIMG1に対してSCを算出した結果、SC=70であった。このため、図2の例では、構図撮影許可条件も満たされていない。
別の例として、物体検出部120は、図3のIMG2に対して物体検出を行う。図3の例では、OBJMがIMG2の中央エリア内に位置している。加えて、OBJMのサイズは、IMG2の全体のサイズに比べて、ある程度大きい。つまり、OBJMのサイズは、サイズ閾値以上である。このため、IMG2では、主要被写体撮影許可条件が満たされている。
構図判定部121がIMG2に対してSCを算出した結果、SC=80であった。このように、図3の例では、構図撮影許可条件も満たされている。この場合、シャッタ指令部122は、カメラ70にシャッタ指令信号を供給する。以上のように、シャッタ指令部122は、OBJMを含む静止画をキャプチャしようとする場合(物体検出部120によってOBJMが検出された場合)、主要被写体撮影許可条件および構図撮影許可条件の両方が満たされた場合にのみ、カメラ70にシャッタ動作を行わせる。
その結果、スマートフォン1は、IMG2を静止画としてキャプチャできる。但し、厳密には、シャッタ動作のタイムラグ等の影響により、IMG2(対象フレーム)と同じ静止画をキャプチャできるとは限らない。より厳密に言えば、スマートフォン1は、IMG2に対応する静止画をキャプチャする。この点は、以下に述べるIMG3等についても同様である。
「対象フレーム(例:IMG2)に対応する静止画」とは、ある対象フレームに対する判定の結果、カメラ70にシャッタ指令信号が供給された場合に、当該カメラ70による撮影の結果としてキャプチャされた静止画を意味する。ある対象フレームに対応する静止画では、当該対象フレームとほぼ同一の(理想的には完全に同一の)構図が表現されている。従って、ある対象フレームに対応する静止画の構図は、当該対象フレームの全体的な構図に対して実質的な同一性を損なわない。
本明細書では、便宜上、「対象フレームに対応する静止画」が、「対象フレーム」と同じ静止画であるものとして説明を行う。従って、一部の記載では、「対象フレーム(静止画A)」は、「対象フレームに対応する静止画」を意味する。
さらに別の例として、物体検出部120は、図4のIMG3に対して物体検出を行う。IMG3には、OBJMは含まれていない。つまり、IMG3は、風景のみが表現された画像である。この場合、シャッタ指令部122は、構図撮影許可条件のみに基づいて、カメラ70にシャッタ指令信号を供給する。
具体的には、シャッタ指令部122は、OBJMを含まない静止画をキャプチャする場合(物体検出部120によってOBJMが検出されなかった場合)、構図撮影許可条件が満たされた場合に、カメラ70にシャッタ動作を行わせる。SCが高い静止画は、OBJMが表現されていないものの、審美性に優れていると言える。このような静止画(例:審美性に優れた風景の静止画)をユーザに提供することも、ユーザにとって有益である。構図判定部121がIMG3に対してSCを算出した結果、SC=75であった。図4の例では、構図撮影許可条件が満たされているので、シャッタ動作が実行される。
(スマートフォン1における特殊モードでの処理の流れ)
図5は、スマートフォン1における特殊モードでの処理S1〜S9の流れを例示するフローチャートである。まず、ユーザは、タッチパネル80に表示されたキャプチャ開始ボタン(動画像のキャプチャの開始を、カメラ70に指示するためのボタン)を押下する。制御部10は、キャプチャ開始ボタンが押下されたことを契機として、カメラ70にMOVの撮影を開始させる(S1)。つまり、制御部10は、キャプチャ期間を開始させる。制御部10は、キャプチャ期間が開始されたことに伴い、シャッタ制御部12を初期化する(S2)。
物体検出部120は、MOVのあるフレーム(静止画A)にOBJMが含まれているかを判定する(S3)。静止画AにOBJMが含まれている場合(S3でYES)、物体検出部120は、静止画AにおけるOBJMの位置を検出する(S4)。これに対し、静止画AにOBJMが含まれていない場合(S3でNO)には、S5に進む。なお、図5では、簡単のため、OBJMのサイズを検出する処理については、説明を省略する。
静止画AにおいてOBJMが中央エリア内に位置している場合(S4でYES)、S5に進む。これに対し、静止画AにおいてOBJMが中央エリア内に位置していない場合(S4でNO)には、S3に戻る。このように、構図判定部121の処理は、物体検出部120の処理が完了した後に実行されてよい。構図判定部121は、静止画AのSCを算出する。そして、構図判定部121は、SCとTHSとの大小比較を行う(S5)。
SC≧THSである場合(S5でYES)、シャッタ指令部122は、カメラ70にシャッタ指令信号を供給する。つまり、カメラ70にシャッタ動作を行わせ、静止画Aを撮影させる(S6)。静止画エンコーダ131は、撮影された静止画Aをエンコードし、エンコード後の静止画Aを記憶部90に格納する(S7)。これにより、静止画Aのキャプチャが完了する。これに対し、SC<THSである場合(S5でNO)、S3に戻る。
カメラ70によるMOVの撮影は、ユーザがタッチパネル80に表示されたキャプチャ終了ボタン(動画像のキャプチャの終了を、カメラ70に指示するためのボタン)を押下するまで継続する。制御部10は、キャプチャ終了ボタンが押下されたことを契機として(S8でYES)、カメラ70にMOVの撮影を終了させる。つまり、制御部10は、キャプチャ期間を終了させる。動画エンコーダ130は、撮影されたMOVをエンコードし、エンコード後のMOVを記憶部90に格納する(S9)。これにより、MOVのキャプチャが完了する。
なお、制御部10は、キャプチャ終了ボタンの押下を検出しなかった場合には(S8でNO)、S3に戻る。このため、キャプチャ期間に亘り、静止画Aに後続するMOVの任意のフレームに対しても、S3以降の処理が同様に行われる。
(効果)
スマートフォン1によれば、静止画Aに対しての、(i)物体検出部120の判定結果、および、(ii)構図判定部121の判定結果に応じて、カメラ70にシャッタ動作を選択的に行わせることができる。つまり、静止画Aにおける、(i)OBJMの像の状態、および、(ii)全体的な構図の良好性を、総合的に評価(判定)できる。このため、スマートフォン1は、当該判定結果に応じて静止画Aを選択的にキャプチャできる。具体的には、静止画Aの全体的な構図の審美性が肯定的に評価された場合には、スマートフォン1は、当該静止画Aをキャプチャする。
このように、スマートフォン1によれば、審美性に優れた静止画Aを、自動的にキャプチャできる。つまり、スマートフォン1によれば、ユーザに手動操作(例:シャッタボタンの押下)を行わせることなく、静止画Aを自動的にキャプチャできる。それゆえ、審美性に優れた静止画Aを、ユーザに簡便に取得させることが可能となる。
特に、スマートフォン1によれば、ユーザの撮影技量によらず、審美性に優れた静止画Aをユーザに取得させることできる。また、ユーザがシャッターチャンス(シャッタボタンの押下タイミング)を気にする必要がないので、当該ユーザをMOVの撮影(MOVのキャプチャ)に専念させることができる。
加えて、スマートフォン1によれば、ユーザがシャッタボタンを押下する必要がない。このため、シャッタボタンの押下に伴って、カメラ70の位置が、ユーザの意図に反して移動することを防止できる。つまり、MOVのブレを防止できる。このため、撮影技量に優れたユーザに対して、審美性に優れた静止画Aを提供することもできる。さらに、ユーザはスマートフォン1を片手でハンドリングした状態のまま、MOVおよび静止画Aを取得できる。このように、スマートフォン1は、ユーザの利便性の向上に好適である。
〔変形例〕
図6は、特殊モードにおけるスマートフォン1のビュー画面の一例を示す。表示制御部11は、スマートフォン1が特殊モードで動作中である旨を示す画像(例:図6のICN)を、タッチパネル80(ビュー画面)に表示させてよい。
上記画像は、スマートフォン1が特殊モードで動作中である旨を、ユーザに示唆する画像であればよい。一例として、ICNは、「AI AUTO」という文字が表示されたアイコンである。当該構成によれば、スマートフォン1が特殊モードで動作中である旨を、ユーザに視覚的に認識させることができる。
〔変形例〕
静止画Aには、OBJMと同種類の物体(以下、主要被写体候補)が含まれていてもよい。例えば、静止画Aにおいて、3人の人(以下、人物A〜C)が表現されている場合を考える。人物A〜Cは、主要被写体候補の一例である。
この場合、物体検出部120は、静止画Aにおける各人の位置およびサイズを検出する。そして、物体検出部120は、検出した位置およびサイズの少なくともいずれかに基づいて、人物A〜Cのうちの所定の1人を、静止画Aにおける主要被写体(OBJM)として特定(選択)する。当該構成によれば、静止画Aに複数の主要被写体候補が含まれている場合にも、1つの主要被写体をスマートフォン1によって自動的に選択できる。従って、ユーザの利便性を向上させることができる。
例えば、静止画Aにおいて、人物Aが左端エリア内に、人物Bが中央エリア(所定のエリア)内に、人物Cが右端エリア内に位置している場合を考える。この場合、物体検出部120は、人物B(中央エリア内に位置している人物)を、静止画AにおけるOBJMとして特定する。
別の例として、静止画Aにおいて、人物A〜Cがいずれも中央エリア内に位置している場合を考える。但し、静止画Aにおいて、人物Aのサイズは、人物B・Cのそれぞれのサイズよりも大きいとする。この場合、物体検出部120は、人物A(中央エリア内に位置している、サイズが最も大きい人物)を、静止画AにおけるOBJMとして特定する。
あるいは、ユーザに、人物A〜Cのうちの所定の1人をOBJMとして選択させてもよい。例えば、物体検出部120によって人物A〜Cが検出された場合、表示制御部11は、人物A〜Cが主要被写体候補である旨を示す画像(例:アイコンまたは文字)を、タッチパネル80にさらに表示させる。そして、表示制御部11は、人物A〜Cのうちの所定の1人をOBJMとして選択するようにユーザに促す画像を、タッチパネル80にさらに表示させる。
この場合、物体検出部120は、ユーザ操作を受けて、人物A〜Cのうちの所定の1人をOBJMとして選択する。例えば、ユーザが、人物Cに対応するタッチパネル80上の領域をタッチした場合、物体検出部120は、人物CをOBJMとして選択する。
〔変形例〕
実施形態1では、OBJMのサイズを示す指標(以下、サイズ指標)として、静止画AにおけるOBJMの面積を例示した。但し、サイズ指標としては、静止画AにおけるOBJMの高さ(垂直方向の長さ)を、用いることもできる。
上述のように、OBJMが人である場合を考える。静止画Aにおける人の高さは、当該人の体形(身長)に大きく依存する。これに対し、多くの場合では、静止画Aにおける人の幅(水平方向の長さ)は、上記人の高さに比べて、当該人の体形に対する依存性が低いと言える。さらに、静止画Aにおける人の高さは、当該人を撮影対象とする場合の構図(遠近感)にも大きく依存する。
このことから、静止画Aにおける人の高さは、主要被写体撮影許可条件におけるサイズの好適な一例と言える。OBJMが主要被写体であることを鑑みると、サイズ指標は、上記体形および上記構図に対する依存性が高いほうが、好ましい場合が多いと考えられるためである。
一例として、OBJM(人)の高さをサイズ指標として用いる場合を考える。この場合、サイズ閾値は、静止画Aの高さの2/3以上に設定されてよい。静止画Aの高さ方向において、OBJMが2/3以上の範囲に亘って存在していれば、OBJMの存在感が十分に強調されていると期待されているためである。但し、当該サイズ閾値は、単なる一例であることに留意されたい。
但し、サイズ指標として、静止画AにおけるOBJMの幅を用いてもよい。サイズ指標は、例えばOBJMの種類および構図に応じて、適宜選択されてよい。
〔変形例〕
一例として、OBJMが強調して表現された静止画A(例:IMG2)をキャプチャしようとする場合を考える。以下の例では、背景の構図が、審美性に優れた状態のまま、ほぼ変化しないものとする。このような状態のもとで、OBJMが、MOVのキャプチャ期間中に、所定のポージングを長時間維持している場合を考える。
この場合、長時間に亘って主要被写体撮影許可条件および構図撮影許可条件が満たされた状態が継続する。このため、時間の経過に伴って、シャッタ動作ごとに、同様の構図の静止画Aが繰り返し自動的にキャプチャされてしまう。このような静止画Aは、2枚目以降は、1枚目に比べて価値が低いと言える。
以下、「所定の時間以上に亘って、SCの変化が所定範囲内に留まっている」状態を、SC変化小状態と称する。以上の点を踏まえ、構図判定部121は、SC変化小状態が生じているか否かを判定することが好ましい。
シャッタ指令部122は、SC変化小状態が検出された場合には、主要被写体撮影許可条件および構図撮影許可条件が満たされていたとしても、カメラ70にシャッタ動作を行わせない。当該構成によれば、同様の構図の静止画Aを2枚以上キャプチャすることを防止できる。加えて、カメラ70の消費電力を低減することもできる。
別の例として、OBJMが表現されていない静止画A(例:IMG3)をキャプチャしようとする場合を考える。この場合も、同様の構図の静止画Aが2枚以上キャプチャされることを防止することが好ましい。そこで、シャッタ指令部122は、SC変化小状態が検出された場合には、構図撮影許可条件が満たされていたとしても、カメラ70にシャッタ動作を行わせない。
〔変形例〕
特殊モードは、必ずしも動画像のキャプチャ中にのみ適用されなくともよい。つまり、特殊モードは、動画像撮影モードに必ずしも含まれなくともよい。特殊モードは、静止画の撮影時に適用されてもよい。つまり、特殊モードは、静止画撮影モードに含まれていてもよい。
一例として、静止画撮影モードでは、表示制御部11は、MOVと同様のスルー画像(MOVに対応するスルー画像)を、キャプチャすべき静止画の候補として、リアルタイムでタッチパネル80に表示させる。スマートフォン1は、当該スルー画像がタッチパネル80に表示されている期間においても、実施形態1と同様の処理を行うことにより、シャッタ動作をカメラ70に選択的に行わせてもよい。
このように、特殊モードは、(i)MOVがキャプチャされている期間、または、(ii)MOVに対応するスルー画像がタッチパネル80に表示されている期間、において、シャッタ動作をカメラ70に選択的に行わせる撮像モードであればよい。
〔実施形態2〕
図7は、実施形態2のスマートフォン2(撮像装置)の要部の構成を示す機能ブロック図である。スマートフォン2の制御部を、制御部20(制御装置)と称する。制御部20のシャッタ制御部を、シャッタ制御部22と称する。シャッタ制御部22は、シャッタ制御部12とは異なり、ボケ判定部223をさらに備える。
ボケ判定部223は、静止画Aにおいて、物体検出部120によって検出されたOBJMの像にボケが生じているかを判定する。換言すれば、ボケ判定部223は、静止画Aにおける、OBJMの像の合焦状態を判定する。ボケ判定部223による合焦状態の判定方法には、公知の手法が用いられてよい。
図8は、特殊モードにおけるスマートフォン2の動作について説明するための図である。図8に示されるIMG4は、静止画A(対象フレーム)の別の例である。IMG4におけるOBJMのサイズおよび位置はそれぞれ、IMG2におけるOBJMのサイズおよび位置と同様である。従って、IMG4についても、IMG2と同様に、主要被写体撮影許可条件が満たされている。但し、IMG4では、IMG2とは異なり、OBJMの像にボケが生じている。
実施形態2において、シャッタ指令部122は、ボケ判定部223の判定結果にさらに基づいて、カメラ70にシャッタ動作を選択的に行わせる。具体的には、シャッタ指令部122は、OBJMの像にボケが生じていると判定された場合には、カメラ70にシャッタ指令信号を供給しない。シャッタ指令部122は、(i)上述の主要被写体撮影許可条件および構図撮影許可条件が満たされており、かつ、(ii)OBJMの像にボケが生じていないと判定された場合に、カメラ70にシャッタ指令信号を供給する。
図9は、スマートフォン2における特殊モードでの処理S11〜S20の流れを例示するフローチャートである。S11〜S14およびS16〜S20はそれぞれ、S1〜S4およびS5〜S9と同様の処理である。そこで、以下では、S15および関連する処理についてのみ説明する。
S14の後に、ボケ判定部223は、静止画AにおけるOBJMの像におけるボケの発生の有無を判定する(S15)。静止画AにおいてOBJMの像にボケが生じている場合(S15でNO)、S13に戻る。これに対し、静止画AにおいてOBJMの像にボケが生じていない場合(S15でYES)、S16に進む。
(効果)
OBJMが強調して表現された静止画のうち、OBJMの像にボケが生じている静止画A(例:IMG4)は、当該OBJMの像にボケが生じていない静止画A(例:IMG2)に比べて、審美性が低いと言える。IMG4では、IMG2とは異なり、ボケの影響によって、OBJMの本来の外観が適切に表現されていないためである。
但し、SCは、ボケの影響が審美性に及ぼす影響を適切に反映した値として算出されない場合がある。一例として、構図判定部121がIMG4に対してSCを算出した結果、SC=80であった。つまり、「IMG4は、IMG2と同様の審美性を有している」と、SCによって評価されている。この場合、スマートフォン1では、IMG2と同様に、IMG4も自動的にキャプチャされる。しかしながら、IMG4では、ボケによって、実際には審美性がIMG2よりも低下している。
以上のことから、OBJMが強調して表現された静止画のうち、審美性が必ずしも高くない静止画A(例:IMG4)をユーザに提供しないためには、OBJMの像におけるボケの影響を考慮することがさらに好ましい。スマートフォン2によれば、ボケの影響をさらに考慮して、カメラ70にシャッタ動作を選択的に行わせることが可能となる。それゆえ、IMG4が自動的にキャプチャされることを防止できる。スマートフォン2では、IMG2のみが自動的にキャプチャされる。
〔変形例〕
シャッタ制御部22の一部の機能部(例:物体検出部120)は、制御部20の外部の機能部として設けられてもよい。例えば、物体検出部120は、制御部20の外部に設けられたDSP(Digital Signal Processor)によって実現されてもよい。この点については、構図判定部121等についても同様である。エンコーダ13についても同様である。
〔ソフトウェアによる実現例〕
スマートフォン1・2の制御ブロック(特に制御部10・20)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
後者の場合、スマートフォン1・2は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも1つのプロセッサ(制御装置)を備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な少なくとも1つの記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の一態様の目的が達成される。上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
〔まとめ〕
本発明の態様1に係る撮像装置(スマートフォン1)は、静止画(例:IMG1〜IMG4)および動画像(MOV)を撮像可能な少なくとも1つの撮像部(カメラ70)と、上記撮像部を制御する少なくとも1つの制御装置(制御部10)と、少なくとも1つの表示部(81)と、を備えた撮像装置であって、上記動画像を構成する複数のフレームのうちの任意の1フレームを対象フレーム(例:IMG1〜IMG4)とし、上記動画像において表現された複数の物体のうち所定の1つの物体を主要被写体(OBJM)として、上記撮像装置の撮像モードには、(i)上記動画像がキャプチャされている期間、または、(ii)上記動画像に対応するスルー画像が上記表示部に表示されている期間、において、上記対象フレームに対応する上記静止画をキャプチャするためのシャッタ動作を上記撮像部に選択的に行わせる撮像モードである特殊モードが含まれており、上記特殊モードにおいて、上記制御装置は、上記対象フレームに含まれうる上記主要被写体の像を検出し、上記静止画としての上記対象フレームの構図の良好性を判定し、上記対象フレームにおける、(i)上記主要被写体の像の検出結果、および、(ii)上記対象フレームの構図の良好性の判定結果に応じて、上記撮像部に上記シャッタ動作を行わせる。
上記の構成によれば、撮像装置は、対象フレームの全体的な構図の審美性(良好性)を総合的に評価(判定)できる。そして、撮像装置は、ある対象フレームの全体的な構図の審美性が肯定的に評価された場合、当該対象フレームに対応する静止画(理想的には、当該対象フレームと同一の構図を有する静止画)を選択的にキャプチャできる。
それゆえ、ユーザに手動操作(例:シャッタボタンの押下)を行わせることなく、審美性に優れた静止画を自動的にキャプチャできる。すなわち、審美性に優れた静止画を、ユーザに簡便に取得させることが可能となる。
本発明の態様2に係る撮像装置では、上記態様1において、上記制御装置は、以下の基準1〜基準3、
(基準1)上記対象フレームにおける色合いおよび明るさの少なくともいずれか;
(基準2)上記対象フレームにおけるブレの程度;
(基準3)上記対象フレームに含まれる上記複数の物体のそれぞれの像の位置関係;
の少なくともいずれかに基づいて、上記対象フレームの構図の良好性を判定することが好ましい。
上記の構成によれば、上記対象フレームの構図の良好性を適切に判定できる。
本発明の態様3に係る撮像装置では、上記態様1または2において、上記制御装置は、上記対象フレームにおいて上記主要被写体の像を検出した場合に、上記対象フレームにおける上記主要被写体の像の位置およびサイズをさらに検出し、上記対象フレームにおいて、(i)上記主要被写体の像が所定のエリア内に位置していない場合、および、(ii)上記主要被写体のサイズが所定のサイズよりも小さい場合、の少なくともいずれかの場合には、上記撮像部に上記シャッタ動作を行わせないことが好ましい。
上述のように、対象フレームにおいて主要被写体の像の存在感が十分に強調されていない場合には、当該対象フレームは、主要被写体を表現する静止画としてあまり好ましくないと言える。そこで、上記の構成によれば、そのような静止画が自動的にキャプチャされることを防止できる。それゆえ、主要被写体の像の存在感が十分に強調されており、かつ、審美性に優れた静止画を、ユーザに提供できる。
本発明の態様4に係る撮像装置では、上記態様1から3のいずれか1つにおいて、上記制御装置は、上記対象フレームの構図の良好性を示す指標である構図スコアを算出し、上記構図スコアを上記対象フレームの構図の良好性の判定結果として用いて、上記撮像部に上記シャッタ動作を行わせてよい。
上記の構成によれば、構図スコアによって、対象フレームの構図の良好性を定量的に評価できる。従って、構図スコアに応じて、静止画を選択的にキャプチャできる。例えば、構図スコアが高い対象フレームに対応する静止画を、審美性に優れた静止画としてユーザに自動的に取得させることができる。
本発明の態様5に係る撮像装置では、上記態様1から4のいずれか1つにおいて、上記対象フレームにおいて上記主要被写体の像が検出されなかった場合、上記制御装置は、上記対象フレームの構図の良好性の判定結果が所定の程度以上である場合に、上記撮像部に上記シャッタ動作を行わせることが好ましい。
上記の構成によれば、対象フレームにおいて主要被写体の像が含まれていない場合にも、審美性に優れた静止画をユーザに提供できる。例えば、審美性に優れた風景の静止画をユーザに提供できる。
本発明の態様6に係る撮像装置では、上記態様1から5のいずれか1つにおいて、上記制御装置は、上記対象フレームにおいて上記主要被写体の像を検出した場合に、上記対象フレームにおいて上記主要被写体の像にボケが生じているかをさらに判定し、上記対象フレームにおいて上記主要被写体の像にボケが生じている場合には、上記撮像部に上記シャッタ動作を行わせないことが好ましい。
上記の構成によれば、対象フレームにおいて主要被写体の像が含まれている場合に、ボケの影響をさらに考慮できる。それゆえ、主要被写体が強調して表現された静止画のうち、必ずしも審美性が高くない静止画(ボケによって主要被写体の外観が適切に表現されていない静止画)が、自動的にキャプチャされることを防止できる。
本発明の態様7に係る撮像装置では、上記態様1から6のいずれか1つにおいて、上記制御装置は、上記撮像装置が上記特殊モードで動作中である旨を示す画像(例:ICN)を、上記表示部に表示させることが好ましい。
上記の構成によれば、撮像装置が特殊モードで動作中である旨を、ユーザに視覚的に認識させることができる。
本発明の態様8に係る撮像装置では、上記態様1から7のいずれか1つにおいて、上記主要被写体と同種類の物体を主要被写体候補として、上記制御装置は、上記対象フレームにおいて複数の上記主要被写体候補の像を検出した場合に、上記対象フレームにおける複数の上記主要被写体候補のそれぞれの像の位置およびサイズの少なくともいずれかに応じて、複数の上記主要被写体候補のうちの所定の1つの主要被写体候補を、上記対象フレームにおける上記主要被写体として選択することが好ましい。
上記の構成によれば、対象フレームに複数の主要被写体候補が含まれている場合にも、1つの主要被写体を自動的に選択できる。従って、ユーザの利便性を向上させることができる。
本発明の態様9に係る撮像装置の制御方法は、静止画および動画像を撮像可能な少なくとも1つの撮像部と少なくとも1つの表示部とを備えた撮像装置を制御するための、撮像装置の制御方法であって、上記動画像を構成する複数のフレームのうちの任意の1フレームを対象フレームとし、上記動画像において表現された複数の物体のうち所定の1つの物体を主要被写体として、上記撮像装置の撮像モードには、(i)上記動画像がキャプチャされている期間、または、(ii)上記動画像に対応するスルー画像が上記表示部に表示されている期間、において、上記対象フレームに対応する上記静止画をキャプチャするためのシャッタ動作を上記撮像部に選択的に行わせる撮像モードである特殊モードが含まれており、上記特殊モードにおいて、上記対象フレームに含まれうる上記主要被写体の像を検出する工程と、上記静止画としての上記対象フレームの構図の良好性を判定する工程と、上記対象フレームにおける、(i)上記主要被写体の像の検出結果、および、(ii)上記対象フレームの構図の良好性の判定結果に応じて、上記撮像部に上記シャッタ動作を行わせる工程と、を含んでいる。
本発明の各態様に係る撮像装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記撮像装置が備える各部(ソフトウェア要素)として動作させることにより上記撮像装置をコンピュータにて実現させる撮像装置の制御プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の一態様の範疇に入る。
〔付記事項〕
本発明の一態様は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の一態様の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成できる。
1、2 スマートフォン(撮像装置)
10、20 制御部(制御装置)
11 表示制御部
12、22 シャッタ制御部
70 カメラ(撮像部)
80 タッチパネル
81 表示部
82 入力部
120 物体検出部
121 構図判定部
122 シャッタ指令部
223 ボケ判定部
MOV 動画像
IMG1〜IMG4 画像(対象フレーム,静止画)
ICN アイコン(撮像装置が特殊モードで動作中である旨を示す画像)
OBJM 主要被写体

Claims (10)

  1. 静止画および動画像を撮像可能な少なくとも1つの撮像部と、
    上記撮像部を制御する少なくとも1つの制御装置と、
    少なくとも1つの表示部と、を備えた撮像装置であって、
    上記動画像を構成する複数のフレームのうちの任意の1フレームを対象フレームとし、
    上記動画像において表現された複数の物体のうち所定の1つの物体を主要被写体として、
    上記撮像装置の撮像モードには、(i)上記動画像がキャプチャされている期間、または、(ii)上記動画像に対応するスルー画像が上記表示部に表示されている期間、において、上記対象フレームに対応する上記静止画をキャプチャするためのシャッタ動作を上記撮像部に選択的に行わせる撮像モードである特殊モードが含まれており、
    上記特殊モードにおいて、
    上記制御装置は、
    上記対象フレームに含まれうる上記主要被写体の像を検出し、
    上記静止画としての上記対象フレームの構図の良好性を判定し、
    上記対象フレームにおける、(i)上記主要被写体の像の検出結果、および、(ii)上記対象フレームの構図の良好性の判定結果に応じて、上記撮像部に上記シャッタ動作を行わせることを特徴とする撮像装置。
  2. 上記制御装置は、以下の基準1〜基準3、
    (基準1)上記対象フレームにおける色合いおよび明るさの少なくともいずれか;
    (基準2)上記対象フレームにおけるブレの程度;
    (基準3)上記対象フレームに含まれる上記複数の物体のそれぞれの像の位置関係;
    の少なくともいずれかに基づいて、上記対象フレームの構図の良好性を判定することを特徴とする請求項1に記載の撮像装置。
  3. 上記制御装置は、
    上記対象フレームにおいて上記主要被写体の像を検出した場合に、
    上記対象フレームにおける上記主要被写体の像の位置およびサイズをさらに検出し、
    上記対象フレームにおいて、(i)上記主要被写体の像が所定のエリア内に位置していない場合、および、(ii)上記主要被写体のサイズが所定のサイズよりも小さい場合、の少なくともいずれかの場合には、
    上記撮像部に上記シャッタ動作を行わせないことを特徴とする請求項1または2に記載の撮像装置。
  4. 上記制御装置は、
    上記対象フレームの構図の良好性を示す指標である構図スコアを算出し、
    上記構図スコアを上記対象フレームの構図の良好性の判定結果として用いて、上記撮像部に上記シャッタ動作を行わせることを特徴とする請求項1から3のいずれか1項に記載の撮像装置。
  5. 上記対象フレームにおいて上記主要被写体の像が検出されなかった場合、
    上記制御装置は、上記対象フレームの構図の良好性の判定結果が所定の程度以上である場合に、上記撮像部に上記シャッタ動作を行わせることを特徴とする請求項1から4のいずれか1項に記載の撮像装置。
  6. 上記制御装置は、
    上記対象フレームにおいて上記主要被写体の像を検出した場合に、
    上記対象フレームにおいて上記主要被写体の像にボケが生じているかをさらに判定し、
    上記対象フレームにおいて上記主要被写体の像にボケが生じている場合には、上記撮像部に上記シャッタ動作を行わせないことを特徴とする請求項1から5のいずれか1項に記載の撮像装置。
  7. 上記制御装置は、上記撮像装置が上記特殊モードで動作中である旨を示す画像を、上記表示部に表示させることを特徴とする請求項1から6のいずれか1項に記載の撮像装置。
  8. 上記主要被写体と同種類の物体を主要被写体候補として、
    上記制御装置は、
    上記対象フレームにおいて複数の上記主要被写体候補の像を検出した場合に、
    上記対象フレームにおける複数の上記主要被写体候補のそれぞれの像の位置およびサイズの少なくともいずれかに応じて、
    複数の上記主要被写体候補のうちの所定の1つの主要被写体候補を、上記対象フレームにおける上記主要被写体として選択することを特徴とする請求項1から7のいずれか1項に記載の撮像装置。
  9. 静止画および動画像を撮像可能な少なくとも1つの撮像部と少なくとも1つの表示部とを備えた撮像装置を制御するための、撮像装置の制御方法であって、
    上記動画像を構成する複数のフレームのうちの任意の1フレームを対象フレームとし、
    上記動画像において表現された複数の物体のうち所定の1つの物体を主要被写体として、
    上記撮像装置の撮像モードには、(i)上記動画像がキャプチャされている期間、または、(ii)上記動画像に対応するスルー画像が上記表示部に表示されている期間、において、上記対象フレームに対応する上記静止画をキャプチャするためのシャッタ動作を上記撮像部に選択的に行わせる撮像モードである特殊モードが含まれており、
    上記特殊モードにおいて、
    上記対象フレームに含まれうる上記主要被写体の像を検出する工程と、
    上記静止画としての上記対象フレームの構図の良好性を判定する工程と、
    上記対象フレームにおける、(i)上記主要被写体の像の検出結果、および、(ii)上記対象フレームの構図の良好性の判定結果に応じて、上記撮像部に上記シャッタ動作を行わせる工程と、を含んでいることを特徴とする撮像装置の制御方法。
  10. 請求項1に記載の撮像装置としてコンピュータを機能させるための制御プログラムであって、上記制御装置としてコンピュータを機能させるための制御プログラム。
JP2018076974A 2018-04-12 2018-04-12 撮像装置、撮像装置の制御方法、および制御プログラム Pending JP2019186791A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018076974A JP2019186791A (ja) 2018-04-12 2018-04-12 撮像装置、撮像装置の制御方法、および制御プログラム
US16/375,514 US11057563B2 (en) 2018-04-12 2019-04-04 Image pickup device and method for controlling same
CN201910290658.3A CN110381247B (zh) 2018-04-12 2019-04-11 摄像装置以及摄像装置的控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018076974A JP2019186791A (ja) 2018-04-12 2018-04-12 撮像装置、撮像装置の制御方法、および制御プログラム

Publications (1)

Publication Number Publication Date
JP2019186791A true JP2019186791A (ja) 2019-10-24

Family

ID=68160839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018076974A Pending JP2019186791A (ja) 2018-04-12 2018-04-12 撮像装置、撮像装置の制御方法、および制御プログラム

Country Status (3)

Country Link
US (1) US11057563B2 (ja)
JP (1) JP2019186791A (ja)
CN (1) CN110381247B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022139475A1 (ko) * 2020-12-22 2022-06-30 삼성전자 주식회사 카메라를 구비하는 전자 장치 및 그 방법
US11930281B2 (en) 2020-12-22 2024-03-12 Samsung Electronics Co., Ltd. Electronic device with camera and method thereof

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019146022A (ja) * 2018-02-21 2019-08-29 オリンパス株式会社 撮像装置及び撮像方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009207119A (ja) * 2007-12-28 2009-09-10 Casio Comput Co Ltd 撮像装置及びプログラム
JP2011019051A (ja) * 2009-07-08 2011-01-27 Sony Ericsson Mobilecommunications Japan Inc 撮影装置および撮影制御方法
WO2016199483A1 (ja) * 2015-06-08 2016-12-15 ソニー株式会社 画像処理装置、画像処理方法、プログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8224078B2 (en) * 2000-11-06 2012-07-17 Nant Holdings Ip, Llc Image capture and identification system and process
US7948526B2 (en) * 2006-11-14 2011-05-24 Casio Computer Co., Ltd. Imaging apparatus, imaging method and program thereof
JP4894708B2 (ja) 2007-10-02 2012-03-14 株式会社ニコン 撮像装置
US9241102B2 (en) * 2012-12-05 2016-01-19 Xerox Corporation Video capture of multi-faceted documents
CN104243787B (zh) 2013-06-06 2017-09-05 华为技术有限公司 拍照方法、照片管理方法及设备
TWI487995B (zh) * 2013-07-10 2015-06-11 Acer Inc 影像擷取裝置以及其方法
US9621741B2 (en) * 2014-12-10 2017-04-11 Intel Corporation Techniques for context and performance adaptive processing in ultra low-power computer vision systems
JP6506036B2 (ja) * 2015-02-02 2019-04-24 オリンパス株式会社 撮像機器
US10217022B2 (en) * 2015-03-06 2019-02-26 Ricoh Company, Ltd. Image acquisition and management
JP6593629B2 (ja) * 2015-09-09 2019-10-23 ソニー株式会社 画像処理装置、固体撮像素子、および電子機器
CN107547789B (zh) 2016-06-24 2020-09-01 聚晶半导体股份有限公司 影像获取装置及其摄影构图的方法
US10621435B2 (en) * 2017-05-19 2020-04-14 Google Llc Efficient image analysis
US10929945B2 (en) * 2017-07-28 2021-02-23 Google Llc Image capture devices featuring intelligent use of lightweight hardware-generated statistics

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009207119A (ja) * 2007-12-28 2009-09-10 Casio Comput Co Ltd 撮像装置及びプログラム
JP2011019051A (ja) * 2009-07-08 2011-01-27 Sony Ericsson Mobilecommunications Japan Inc 撮影装置および撮影制御方法
WO2016199483A1 (ja) * 2015-06-08 2016-12-15 ソニー株式会社 画像処理装置、画像処理方法、プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022139475A1 (ko) * 2020-12-22 2022-06-30 삼성전자 주식회사 카메라를 구비하는 전자 장치 및 그 방법
US11930281B2 (en) 2020-12-22 2024-03-12 Samsung Electronics Co., Ltd. Electronic device with camera and method thereof

Also Published As

Publication number Publication date
CN110381247B (zh) 2021-11-09
US11057563B2 (en) 2021-07-06
CN110381247A (zh) 2019-10-25
US20190320116A1 (en) 2019-10-17

Similar Documents

Publication Publication Date Title
JP5631106B2 (ja) 画像処理装置、その制御方法、及びプログラム、並びに撮像装置
JP4640456B2 (ja) 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
KR101795601B1 (ko) 영상 처리 장치, 영상 처리 방법, 및 컴퓨터 판독가능 저장매체
TWI425826B (zh) 影像選擇裝置、影像選擇方法
JP6049448B2 (ja) 被写体領域追跡装置、その制御方法及びプログラム
US20100123816A1 (en) Method and apparatus for generating a thumbnail of a moving picture
JP2006254358A (ja) 撮像装置およびタイマー撮影方法
JP2009089077A (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
US9628700B2 (en) Imaging apparatus, imaging assist method, and non-transitory recoding medium storing an imaging assist program
US9888176B2 (en) Video apparatus and photography method thereof
JP2011182252A (ja) 撮像装置および画像撮影方法
JP6149854B2 (ja) 撮像装置、撮像制御方法及びプログラム
CN110381247B (zh) 摄像装置以及摄像装置的控制方法
JP2014050022A (ja) 画像処理装置、撮像装置、およびプログラム
KR101094648B1 (ko) 구도결정을 하는 사진사 로봇 및 그 제어방법
JP5423186B2 (ja) 撮像装置、領域検知方法、及びプログラム
KR20090083108A (ko) 특정 영역이 확대된 영상을 촬영된 영상에 부가하는촬영방법 및 이를 적용한 촬영장치
JP6033006B2 (ja) 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置
JP4632417B2 (ja) 撮像装置、及びその制御方法
JP5093031B2 (ja) 撮像装置及びプログラム
JP2014225763A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP4849330B2 (ja) 表示制御装置および方法、撮像装置、情報処理装置および方法、並びにプログラム
JP2008160280A (ja) 撮像装置および自動撮像方法
JP5380833B2 (ja) 撮像装置、被写体検出方法及びプログラム
WO2015074261A1 (zh) 一种保存拍摄图像的方法以及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220705