JP7401968B2 - 撮影制御装置、撮影システム及び撮影制御方法 - Google Patents

撮影制御装置、撮影システム及び撮影制御方法 Download PDF

Info

Publication number
JP7401968B2
JP7401968B2 JP2018229813A JP2018229813A JP7401968B2 JP 7401968 B2 JP7401968 B2 JP 7401968B2 JP 2018229813 A JP2018229813 A JP 2018229813A JP 2018229813 A JP2018229813 A JP 2018229813A JP 7401968 B2 JP7401968 B2 JP 7401968B2
Authority
JP
Japan
Prior art keywords
subject
image
index
evaluation value
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018229813A
Other languages
English (en)
Other versions
JP2020092370A (ja
Inventor
岳人 馬場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2018229813A priority Critical patent/JP7401968B2/ja
Priority to US16/655,895 priority patent/US11076123B2/en
Priority to CN201911157791.8A priority patent/CN111294507A/zh
Publication of JP2020092370A publication Critical patent/JP2020092370A/ja
Application granted granted Critical
Publication of JP7401968B2 publication Critical patent/JP7401968B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00183Photography assistance, e.g. displaying suggestions to the user
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera

Description

本発明は撮影制御装置、撮影システム及び撮影制御方法に関する。
カメラ等の撮像装置が被写体を撮影する際に、画像を保存するデバイスの記憶容量を節約するため、撮影のタイミングを制御する技術がある。この技術に関連し、特許文献1は、映像情報処理装置を開示している。特許文献1にかかる映像情報処理装置は、無線タグを利用することにより、ビデオカメラ起動時や被写体を見失ったときに、被写体の位置検知により被写体を探す。また、特許文献1にかかる映像情報処理装置は、被写体認識により、顔を検出したら撮影や記録を行い、顔を検出できなければ撮影や記録を停止する。
また、特許文献2は、撮影装置と、被写体の運動状態を検出する運動状態検出装置と、を含む撮影システムを開示している。特許文献2にかかる運動状態検出装置は、検出された検出信号等が所定の撮影条件を満たしているか否かに応じて、撮影装置における撮影処理を制御する撮影制御信号を出力する。撮影装置は、撮影制御信号に基づいて、撮影処理を開始又は終了する。
特開2008-288745号公報 特開2017-104598号公報
撮影のタイミングを制御する場合であっても、被写体を撮影する際に、保存すべき画像、つまり興味を引くような決定的瞬間を含む画像を撮影し保存することが望まれる。一方、画像を撮影し保存するタイミングが適切でないと、このような保存すべき画像を保存し損なうおそれがある。ここで、特許文献1にかかる技術では、単に顔を検出したら撮影や記録を行い、顔を検出できなければ撮影や記録を停止するのみであるので、人々の興味を引くような決定的瞬間の画像を撮影及び記録できないおそれがある。また、特許文献2にかかる技術では、運動状態に応じて撮影処理を開始又は終了するのみであるので、人々の興味を引くような決定的瞬間の画像を撮影できないおそれがある。
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
一実施の形態によれば、撮影制御装置は、撮像装置が被写体を撮影して得られた画像の解析結果を取得する解析結果取得部と、センサが前記被写体の状態を検出して得られた検出結果を取得する状態取得部と、前記画像の解析結果及び前記被写体の状態の検出結果から、前記被写体に関するものを含む複数の指標ごとに前記指標の度合を判定する指標判定部と、前記指標の度合を用いて、前記画像の保存価値を評価するための評価値を算出する評価値算出部と、前記評価値が予め定められた第1閾値を上回る場合に、前記画像を保存するように制御を行う画像保存制御部とを有する撮影制御装置である。
また、一実施の形態によれば、撮影システムは、被写体を撮影可能な少なくとも1つの撮像装置と、前記被写体の状態を検出する少なくとも1つのセンサと、前記撮像装置による撮影に関する制御を行う撮影制御装置とを有し、前記撮影制御装置は、前記撮像装置が被写体を撮影して得られた画像の解析結果を取得する解析結果取得部と、前記センサが前記被写体の状態を検出して得られた検出結果を取得する状態取得部と、前記画像の解析結果及び前記被写体の状態の検出結果から、前記被写体に関するものを含む複数の指標ごとに前記指標の度合を判定する指標判定部と、前記指標の度合を用いて、前記画像の保存価値を評価するための評価値を算出する評価値算出部と、前記評価値が予め定められた第1閾値を上回る場合に、前記画像を保存するように制御を行う画像保存制御部とを有する撮影システムである。
一実施の形態によれば、撮影制御方法は、撮像装置が被写体を撮影して得られた画像の解析結果を取得し、センサが前記被写体の状態を検出して得られた検出結果を取得し、前記画像の解析結果及び前記被写体の状態の検出結果から、前記被写体に関するものを含む複数の指標ごとに前記指標の度合を判定し、前記指標の度合を用いて、前記画像の保存価値を評価するための評価値を算出し、前記評価値が予め定められた第1閾値を上回る場合に、前記画像を保存するように制御を行う撮影制御方法である。
前記一実施の形態によれば、適切なタイミングで保存すべき画像を保存することが可能な撮影制御装置、撮影システム及び撮影制御方法を提供できる。
本実施の形態にかかる撮影システムの概要を示す図である。 本実施の形態にかかる撮影制御装置によって実行される撮影制御方法の概要を示すフローチャートである。 実施の形態1にかかる撮影システムの構成を示す図である。 実施の形態1にかかる撮影制御装置の構成を示す機能ブロック図である。 画像指標と度合とを対応付けた画像指標テーブルを例示する図である。 被写体状態指標と度合とを対応付けた被写体状態指標テーブルを例示する図である。 被写体に関する画像指標の度合及び被写体状態指標の度合を例示する図である。 重み係数テーブルを例示する図である。 実施の形態1にかかる撮影システムによって行われる撮影制御方法を示すフローチャートである。 待機状態であるときの画像を例示する図である。 保存状態であるときの画像を例示する図である。 待機状態から保存状態に移行したときの評価値の変化を例示する図である。 実施の形態1の変形例にかかる撮影制御方法を示すフローチャートである。 実施の形態2にかかる撮影システムの構成を示す図である。 実施の形態2にかかる撮影システムによって行われる撮影制御方法を示すフローチャートである。 複数の被写体が写っている画像を例示する図である。 図16に示す画像に写ったある被写体に関する評価値の変化を例示する図である。 実施の形態3にかかる撮影システムの構成を示す図である。 実施の形態3にかかる撮影制御装置の構成を示す機能ブロック図である。 実施の形態3にかかる撮影制御装置によって行われる撮影制御方法を示すフローチャートである。 実施の形態3にかかる撮影制御装置によってなされた演出の改善により評価値が上昇したことを例示する図である。
以下、実施形態について、図面を参照しながら説明する。説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。なお、各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。
以下の実施の形態においては便宜上その必要があるときは、複数のセクションまたは実施の形態に分割して説明するが、特に明示した場合を除き、それらはお互いに無関係なものではなく、一方は他方の一部または全部の変形例、応用例、詳細説明、補足説明等の関係にある。また、以下の実施の形態において、要素の数等(個数、数値、量、範囲等を含む)に言及する場合、特に明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。
さらに、以下の実施の形態において、その構成要素(動作ステップ等も含む)は、特に明示した場合および原理的に明らかに必須であると考えられる場合等を除き、必ずしも必須のものではない。同様に、以下の実施の形態において、構成要素等の形状、位置関係等に言及するときは、特に明示した場合および原理的に明らかにそうでないと考えられる場合等を除き、実質的にその形状等に近似または類似するもの等を含むものとする。このことは、上記数等(個数、数値、量、範囲等を含む)についても同様である。
また、様々な処理を行う機能ブロックとして図面に記載される各要素は、ハードウェア的には、CPU(Central Processing Unit)、メモリ、その他の回路で構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
(実施の形態の概要)
実施の形態の説明に先立って、本実施の形態の概要について説明する。
図1は、本実施の形態にかかる撮影システム1の概要を示す図である。撮影システム1は、1つ以上の撮像装置2と、1つ以上のセンサ4と、撮影制御装置10とを有する。撮影制御装置10は、撮像装置2及びセンサ4と、有線又は無線を介して接続されている。
撮像装置2は、例えばカメラである。撮像装置2は、ある位置に固定して設置されていてもよいし、移動可能であってもよい。また、撮像装置2は、遠隔操作又は自動操縦可能で自律して飛行可能な無人飛行体(ドローン等)に搭載されてもよいし、アクションカメラであってもよい。また、撮像装置2の数は、1つに限られず、複数であってもよい。また、撮像装置2は、他の撮像装置2とネットワークを介して接続されていてもよい。
撮像装置2は、人間である被写体90を撮影して、画像を生成する。被写体90は、撮影システム1によって提供されるサービスの参加者であってもよい。ここで、用語「画像」は、静止画像であってもよいし、動画像であってもよいし、これらの両方であってもよい。また、以下、用語「画像」は、情報処理における処理対象としての、「画像を示す画像データ」も意味する。撮像装置2は、取得された画像を、撮影制御装置10に送信し得る。
センサ4は、被写体90の状態を検出する。センサ4は、被写体90に装着され、又は被写体90によって携帯され得る。センサ4は、例えば、脈拍センサ、発汗センサ、加速度センサ、位置センサ等であるが、これらに限定されない。センサ4は、検出された被写体90の状態を示すデータ(センサデータ)を、撮影制御装置10に送信し得る。
撮影制御装置10は、後述するように、撮像装置2による撮影に関する制御を行う。撮影制御装置10は、撮像装置2によって生成された画像を保存するタイミングを制御する。また、撮像装置2は、被写体90を追尾して撮影するように、撮像装置2を制御してもよい。
撮影制御装置10は、CPU、メモリ及び無線通信デバイスを有するコンピュータとしての機能を有する。撮影制御装置10は、CPU等のプロセッサ、メモリ等の記憶装置、無線通信デバイス及び各種周辺回路によって構成されている。つまり、撮影制御装置10は、コンピュータとしての機能を有する。
撮影制御装置10は、解析結果取得部11、状態取得部12、指標判定部13、評価値算出部14、及び画像保存制御部15を有する。また、撮影制御装置10は、撮像装置制御部16を有してもよい。これらの構成要素の機能については後述する。
撮影制御装置10は、記憶装置に格納されたプログラムをプロセッサが実行することによって、解析結果取得部11、状態取得部12、指標判定部13、評価値算出部14、画像保存制御部15及び撮像装置制御部16といった構成要素を実現してもよい。また、撮影制御装置10の各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア、及びソフトウェアのうちのいずれかの組み合わせ等により実現されてもよい。また、撮影制御装置10の各構成要素は、例えばFPGA(field-programmable gate array)又はマイコン等の、使用者がプログラミング可能な集積回路を用いて実現してもよい。この場合、この集積回路を用いて、上記の各構成要素から構成されるプログラムを実現してもよい。このことは、後述する他の実施の形態においても同様である。
図2は、本実施の形態にかかる撮影制御装置10によって実行される撮影制御方法の概要を示すフローチャートである。解析結果取得部11は、撮像装置2が被写体を撮影して得られた画像の解析結果(画像解析結果)を取得する(ステップS12)。ここで、解析結果取得部11は、他の装置が行った画像解析の結果を取得してもよい。あるいは、解析結果取得部11が、画像解析を行ってもよい。
なお、画像解析は、例えば、予め登録された被写体90の顔が画像内に存在するか否かを判定する顔認識処理、被写体90の向きを判定する向き判定、及び、被写体90の表情を判定する表情判定を含み得る。また、画像解析は、被写体90の位置を判定する位置判定、及び、撮像装置2から被写体90までの距離又は被写体90と他の物体との距離を判定する距離判定を含み得る。しかしながら、画像解析は、これらの処理以外の処理も含んでもよい。
状態取得部12は、センサ4が被写体90の状態を検出して得られた検出結果(センサデータ)を取得する(ステップS14)。なお、状態取得部12は、センサ4から、直接、検出結果であるセンサデータを取得(受信)してもよいし、他の装置を介してセンサデータを取得してもよい。また、検出結果は、例えば、脈拍値、発汗値、加速度、位置情報等であるが、これらに限定されない。なお、状態取得部12は、画像解析がなされた画像が撮影されたタイミングと同じタイミングの被写体90の状態を取得するとする。ここで、「同じタイミング」とは、厳密に同じ時刻である必要はない。「同じタイミング」とは、画像解析がなされた画像に写っている被写体90の状態が検出できる程度に近い時刻で、画像が撮影され、被写体90の状態が検出されることを意味し得る。
指標判定部13は、画像解析結果及び被写体90の状態の検出結果から、被写体90に関するものを含む複数の指標ごとにこれらの指標の度合を判定する(ステップS16)。評価値算出部14は、指標の度合を用いて、画像の保存価値を評価するための評価値を算出する(ステップS18)。ここで、「指標」とは、評価値を判定する際に基準となる要素である。「指標」及び「評価値」については、後述する。
また、「画像の保存価値」とは、画像が、人の興味を引くような、決定的な瞬間を捉えているか否かを示すものである。例えば、被写体90の表情が笑顔又は驚きを示し、被写体90がワクワクしているなど興奮状態である場合等に、その姿を撮影した画像は、保存すべき決定的瞬間を捉えたと見做し得る。このように、決定的瞬間を捉えた画像は、後で被写体90等が閲覧することを所望する傾向にあるので、保存すべき画像である。
画像保存制御部15は、評価値が予め定められた閾値を上回る場合(ステップS20のYES)、画像を保存するように制御を行う(ステップS22)。なお、画像は、撮影制御装置10に格納されてもよいし、撮影制御装置10の外部の記憶装置に格納されてもよい。また、この場合(S20のYES)、撮像装置制御部16は、被写体90が目立つような画像を撮影できるように、撮像装置2を制御してもよい(ステップS24)。撮像装置制御部16は、パン、チルト及びズーム等により、例えば被写体90が画像の中央近傍に比較的大きく写し出されるように、撮像装置2を制御する。また、評価値が閾値を上回らない場合(S20のNO)、画像の保存を行わないように制御を行う(ステップS26)。
本実施の形態にかかる撮影制御装置10は、このような構成により、被写体90の状態が決定的瞬間を示すときに、画像を保存するように制御する。これにより、決定的瞬間を含む画像の撮像時間(データ量)が冗長となることを抑制しつつ、決定的瞬間をとらえた画像を保存することができる。したがって、撮影制御装置10は、適切なタイミングで、保存すべき画像を保存することが可能となる。なお、撮影制御装置10を含む撮影システム1及び撮影制御装置10によって行われる撮影制御方法によっても、適切なタイミングで、保存すべき画像を保存することが可能となる。
(実施の形態1)
次に、実施の形態1について説明する。
図3は、実施の形態1にかかる撮影システム1の構成を示す図である。撮影システム1は、1つ以上の撮像装置2と、1つ以上のセンサ4と、画像処理装置20と、カメラ制御装置22と、画像保存装置24と、センサ送受信装置30と、撮影制御装置100とを有する。撮像装置2、センサ4及び撮影制御装置100は、それぞれ、図1に示した撮像装置2、センサ4及び撮影制御装置10に対応する。図3の例では、被写体90が撮影される。このとき、被写体90の情報(識別情報、顔情報、身長等)は、撮影制御装置100に予め登録されているとする。撮影制御装置100は、画像処理装置20、カメラ制御装置22、画像保存装置24及びセンサ送受信装置30と、有線又は無線を介して接続されている。
画像処理装置20は、撮像装置2によって取得された画像を解析し、画像解析結果である画像解析データを撮影制御装置100に対して出力する。なお、画像処理装置20によって行われる画像解析は、上述したように、顔認識判定、向き判定、表情判定、及び、距離判定等がある。また、画像処理装置20の機能は、撮影制御装置100に設けられていてもよいし、撮像装置2に設けられていてもよい。
画像処理装置20は、顔認識判定を行う場合、画像から人間の顔を抽出する。画像処理装置20は、パターンマッチング等により、予め登録された被写体90の顔画像と抽出された顔との一致度を算出する。そして、画像処理装置20は、一致度が予め定められた閾値以上である場合に、被写体90の顔が画像に含まれると判定する。
また、例えば、画像処理装置20は、向き判定を行う場合、まず、上記の顔認識判定により、画像における被写体90の顔を認識する。画像処理装置20は、画像における被写体90の目、鼻、口、耳等の特徴点を検出し、これらの特徴点の画像における位置及び各特徴点間の距離等から、被写体90の向き(角度)θ[度]を推定する。なお、画像処理装置20は、被写体90の視線の向きを推定することで、被写体90の向きを判定してもよい。
また、例えば、画像処理装置20は、撮像装置2から被写体90までの距離を判定する場合、被写体90の大きさ(身長、顔の大きさ等)を予め登録しておく。画像処理装置20は、パターンマッチング等により、撮像装置2によって撮影された画像から被写体90を抽出し、画像における被写体90の占める面積(画素数)を算出する。画像処理装置20は、撮像装置2のズーム、画角、被写体90に対応する画素数、及び登録された被写体90の大きさ等から、被写体90までの距離D[m]を推定する。
また、例えば、画像処理装置20は、表情判定を行う場合、まず、上記の顔認識判定により、画像における被写体90の顔を認識する。画像処理装置20は、例えば「Affdex」又は「Emotion API」等の人工知能を用いて、被写体90の表情(「喜び」及び「驚き」等)を数値化し得る。
また、画像処理装置20は、被写体と特徴物体との間の距離の判定を行い得る。ここで、「特徴物体」とは、被写体90の感情を高揚させ得る物体である。「特徴物体」は、例えば、着ぐるみ又はロボット等のマスコットキャラクタであってもよいし、著名な建造物又は風景であってもよい。画像処理装置20は、被写体90及び特徴物体を予め登録しておく。画像処理装置20は、パターンマッチング等により、撮像装置2によって撮影された画像から、被写体90及び特徴物体を抽出する。画像処理装置20は、上述した方法で、撮像装置2から被写体90までの距離を推定する。同様の方法で、画像処理装置20は、撮像装置2から特徴物体までの距離を推定する。また、画像処理装置20は、画像における、被写体90と特徴物体との間の画素数を算出する。画像処理装置20は、撮像装置2のズーム、画角、被写体90と特徴物体との間の画素数、撮像装置2から被写体90までの距離、及び撮像装置2から特徴物体までの距離等から、被写体と特徴物体との間の距離C[m]を推定する。
カメラ制御装置22は、撮影制御装置100からの指示に応じて、撮像装置2の動作を制御する。例えば、カメラ制御装置22は、撮影制御装置100からの指示に応じて、パン、チルト及びズーム等を行う。これにより、撮像装置2は、被写体90を追尾して被写体90が目立つように撮影することができる。つまり、「被写体90を追尾して撮影する」とは、パン、チルト及びズーム等を行うことにより被写体90が目立つような画像を撮影することである。例えば、カメラ制御装置22は、被写体90の顔を認識し、認識された被写体90の顔が画像の中央近傍の予め定められた範囲に予め定められた大きさで写し出されるように、撮像装置2を制御してもよい。なお、カメラ制御装置22の機能は、撮影制御装置100に設けられていてもよいし、撮像装置2に設けられていてもよい。
画像保存装置24は、ROM(Read Only Memory)若しくはRAM(Random Access Memory)等のメモリ、又はハードディスク等の記憶デバイスである。画像保存装置24は、撮影制御装置100からの指示に応じて、撮像装置2によって撮影された画像を保存する。画像保存装置24は、撮影制御装置100から、画像の保存を開始する旨の指示を受信した場合に、撮像装置2によって撮影された画像の保存を開始する。画像保存装置24は、撮影制御装置100から、画像の保存を終了する旨の指示を受信した場合に、撮像装置2によって撮影された画像の保存を終了する。なお、画像保存装置24の機能は、撮影制御装置100に設けられていてもよいし、撮像装置2に設けられていてもよい。
センサ送受信装置30は、センサ4から送信された信号を受信し、センサデータとして、撮影制御装置100に送信する。なお、センサ送受信装置30の機能は、撮影制御装置100に設けられていてもよいし、センサ4に設けられていてもよい。
撮影制御装置100は、例えばコンピュータとしての機能を有する。撮影制御装置100は、撮像装置2の内部に搭載されてもよい。撮影制御装置100は、CPU101、ROM102、RAM103、I/O(Input/Output)104及びUI(User Interface)105を有する。
CPU101は、制御処理及び演算処理等を行う処理デバイスとしての機能を有する。ROM102は、CPU101によって実行される制御プログラム及び演算プログラム等を記憶するための機能を有する。RAM103は、処理データ等を一時的に記憶するための機能を有する。I/O104は、通信装置であり、外部からデータ及び信号を入力し、外部にデータ及び信号を出力する。UI105は、例えばキーボード等の入力デバイスと、例えばディスプレイ等の出力デバイスとから構成される。なお、UI105は、入力デバイスと出力デバイスとが一体となったタッチパネルとして構成されてもよい。
図4は、実施の形態1にかかる撮影制御装置100の構成を示す機能ブロック図である。撮影制御装置100は、解析結果取得部112、画像指標判定部114、状態取得部122、状態指標判定部124、評価値算出部132、評価値判定部134、画像保存制御部142及び撮像装置制御部144を有する。なお、図4に示した撮影制御装置100の各構成要素は、CPU101がROM102に記憶されたプログラムを実行することによって実現可能である。また、解析結果取得部112、状態取得部122、評価値算出部132、画像保存制御部142及び撮像装置制御部144は、それぞれ、図1に示した解析結果取得部11、状態取得部12、評価値算出部14、画像保存制御部15及び撮像装置制御部16に対応する。また、画像指標判定部114及び状態指標判定部124は、図1に示した指標判定部13に対応する。
なお、図4に示した撮影制御装置100の各構成要素は、1つ以上の別個の装置によって実現されてもよい。例えば、解析結果取得部112及び画像指標判定部114は、画像データ(画像解析データ)についての演算を行う画像データ演算装置110によって実現されてもよい。また、状態取得部122及び状態指標判定部124は、センサデータについての演算を行うセンサデータ演算装置120によって実現されてもよい。また、評価値算出部132、評価値判定部134、画像保存制御部142及び撮像装置制御部144は、撮影に関する制御を行う撮影演算装置130によって実現されてもよい。この場合、画像データ演算装置110、センサデータ演算装置120及び撮影演算装置130は、それぞれ別個に、CPU101、ROM102、RAM103、I/O104及びUI105を有してもよい。
解析結果取得部112は、画像処理装置20から、画像解析データを取得する。なお、解析結果取得部112は、画像処理装置20の機能を有してもよく、その場合、解析結果取得部112が、画像解析を行い得る。画像指標判定部114は、画像解析データを用いて、画像指標を判定する。具体的には、画像指標判定部114は、画像解析結果に関する複数の画像指標の度合を判定する。ここで、「画像指標」は、画像を保存すべきか否かを判定する際に基準となる、画像解析結果に関する要素である。画像指標判定部114は、画像解析データを用いて、複数の画像指標ごとに、これらの指標の度合を判定する。画像指標判定部114は、判定された画像指標の度合を、評価値算出部132に対して出力する。
図5は、画像指標と度合とを対応付けた画像指標テーブルを例示する図である。図5に示した例では、画像指標は、「被写体の向き」、「被写体までの距離」、「被写体の表情(笑顔)」、「被写体の表情(驚き)」、及び、「被写体と特徴物体との距離」を含み得る。また、指標ごとに、「0」から「10」の11段階の度合が設定されている。
画像指標判定部114は、被写体90の向きθに応じて、画像指標「被写体の向き」の度合を判定する。例えば、画像指標判定部114は、被写体90の顔が撮像装置2の方を全く向いていない場合に「被写体の向き」の度合を「0」と設定する。一方、画像指標判定部114は、被写体90の顔が完全に撮像装置2の方を向いている場合に、「被写体90の向き」の度合を「10」と設定する。例えば、撮像装置2に対して真正面を向いているときの被写体90の向きθを0度とし、撮像装置2に対して被写体90が左を向いている方を正の角度(θ>0)とする。この場合、例えば、被写体90の向きθが±100~180度であるときに、画像指標判定部114は、「被写体の向き」の度合を「0」と設定してもよい。また、例えば被写体90の向きθが±0~3度の場合に、画像指標判定部114は、「被写体の向き」の度合を「10」と設定してもよい。また、例えば被写体90の向きθが±3~5度の場合に、画像指標判定部114は、「被写体90の向き」の度合を「9」と設定してもよい。画像指標判定部114は、被写体90の向きθの値と「被写体の向き」の度合とを対応付けたテーブルを用いて、画像指標「被写体の向き」の度合を判定してもよい。
画像指標判定部114は、撮像装置2から被写体90までの距離Dに応じて、画像指標「被写体までの距離」の度合を判定する。例えば、D=D0[m]であるときに、被写体90の撮影に適しているとする。つまり、撮影に適した被写体90の距離がD0であるとする。この場合、画像指標判定部114は、撮像装置2から被写体90までの距離DがD0に近いほど、画像指標「被写体までの距離」の度合が大きくなるように、画像指標「被写体までの距離」の度合を決定する。したがって、D=D0である場合に、画像指標「被写体までの距離」の度合は「10」となり得る。そして、DとD0との差分が大きくなるほど、画像指標「被写体までの距離」の度合は小さくなる。画像指標判定部114は、撮像装置2から被写体90までの距離Dの値と「被写体までの距離」の度合とを対応付けたテーブルを用いて、画像指標「被写体までの距離」の度合を判定してもよい。なお、D0は、予め定められた値であってもよいし、被写体90の身長に応じて変化し得る値であってもよい。
画像指標判定部114は、画像処理装置20によって算出された被写体90の笑顔を示す数値に応じて、画像指標「被写体の表情(笑顔)」の度合を判定する。具体的には、画像指標判定部114は、笑顔を示す数値が高いほど、画像指標「被写体の表情(笑顔)」の度合が大きくなるように、画像指標「被写体の表情(笑顔)」の度合を決定する。画像指標判定部114は、笑顔を示す数値と「被写体の表情(笑顔)」の度合とを対応付けたテーブルを用いて、画像指標「被写体の表情(笑顔)」の度合を判定してもよい。同様に、画像指標判定部114は、画像処理装置20によって算出された被写体90の驚きを示す数値に応じて、「被写体の表情(驚き)」の度合を判定する。
画像指標判定部114は、被写体90と特徴物体との距離Cに応じて、画像指標「被写体と特徴物体との距離」の度合を判定する。具体的には、画像指標判定部114は、距離Cが小さいほど、つまり被写体90が特徴物体に近いほど、画像指標「被写体と特徴物体との距離」の度合が大きくなるように、画像指標「被写体と特徴物体との距離」の度合を決定する。画像指標判定部114は、被写体90と特徴物体との距離Cと「被写体と特徴物体との距離」の度合とを対応付けたテーブルを用いて、画像指標「被写体と特徴物体との距離」の度合を判定してもよい。
状態取得部122(図4)は、センサ送受信装置30から、被写体90の状態を示すセンサデータを取得する。なお、状態取得部122は、センサ4から直接、センサデータを取得してもよい。また、状態取得部122は、画像解析がなされた画像が撮影されたタイミングの被写体90の状態を取得するとする。つまり、解析結果取得部112によって取得された画像解析データを得るために解析された画像が撮影されたタイミングは、状態取得部122によって取得されたセンサデータを得るためにセンサ4によって被写体90の状態が検出されたタイミングと、実質的に同じであるとする。
状態指標判定部124は、センサデータを用いて、被写体状態指標を判定する。具体的には、センサデータに関する複数の被写体状態指標の度合を判定する。ここで、「被写体状態指標」は、画像を保存すべきか否かを判定する際に基準となる、センサデータに関する要素である。状態指標判定部124は、センサデータを用いて、複数の被写体状態指標ごとに、これらの指標の度合を判定する。状態指標判定部124は、判定された被写体状態指標の度合を、評価値算出部132に対して出力する。
図6は、被写体状態指標と度合とを対応付けた被写体状態指標テーブルを例示する図である。図6に示した例では、被写体状態指標は、「脈拍」、「発汗」及び「加速度」を含み得る。また、指標ごとに、「0」から「10」の11段階の度合が設定されている。
状態指標判定部124は、脈拍センサであるセンサ4によって検出された被写体90の脈拍に応じて、被写体状態指標「脈拍」の度合を判定する。状態指標判定部124は、被写体90の脈拍Pを、過去1分間の脈拍の平均値Paveと比較する。そして、状態指標判定部124は、脈拍Pと平均値Paveとの差分ΔP(=P-Pave)が大きいほど、被写体状態指標「脈拍」の度合が大きくなるように、被写体状態指標「脈拍」の度合を決定する。ここで、ΔP≒0である場合に、被写体状態指標「脈拍」の度合が「5」であってもよい。そして、ΔP<0である場合に、被写体状態指標「脈拍」の度合が「0」~「4」であってもよく、ΔP>0である場合に、被写体状態指標「脈拍」の度合が「6」~「10」であってもよい。状態指標判定部124は、差分ΔPと被写体状態指標「脈拍」の度合とを対応付けたテーブルを用いて、被写体状態指標「脈拍」の度合を判定してもよい。
状態指標判定部124は、発汗センサであるセンサ4によって検出された被写体90の発汗量に応じて、被写体状態指標「発汗」の度合を判定する。具体的には、状態指標判定部124は、被写体90の発汗量が多いほど、被写体状態指標「発汗」の度合が大きくなるように、被写体状態指標「発汗」の度合を決定する。状態指標判定部124は、発汗量と被写体状態指標「発汗」の度合とを対応付けたテーブルを用いて、被写体状態指標「発汗」の度合を判定してもよい。
状態指標判定部124は、加速度センサであるセンサ4によって検出された被写体90の加速度に応じて、被写体状態指標「加速度」の度合を判定する。具体的には、状態指標判定部124は、被写体90の加速度が大きい、つまり被写体90の動き(歩行動作、上下左右動作等)が大きいほど、被写体状態指標「加速度」の度合が大きくなるように、被写体状態指標「加速度」の度合を決定する。状態指標判定部124は、加速度と被写体状態指標「加速度」の度合とを対応付けたテーブルを用いて、被写体状態指標「加速度」の度合を判定してもよい。
図7は、被写体90に関する画像指標の度合及び被写体状態指標の度合を例示する図である。図7に示す例では、画像指標判定部114は、画像指標「被写体の向き」、「被写体までの距離」、「被写体の表情(笑顔)」、「被写体の表情(驚き)」及び「被写体と特徴物体との距離」の度合を、それぞれ、「7」、「7」、「7」、「2」及び「10」と判定する。また、図7に示す例では、状態指標判定部124は、被写体状態指標「脈拍」、「発汗」及び「加速度」を、それぞれ、「8」、「4」及び「4」と判定する。なお、画像指標及び被写体状態指標を総称して「指標」と称することがある。
評価値算出部132(図4)は、画像指標及び被写体状態指標の度合を用いて、画像の保存価値を評価するための評価値を算出する。具体的には、評価値算出部132は、各指標の度合と、指標ごとに予め設定された重み係数との積の合計を、評価値として算出する。評価値算出部132は、算出された評価値を評価値判定部134に対して出力する。なお、評価値算出部132によって行われる評価値の算出において使用される指標の度合は、それぞれ同じタイミングで撮影された画像及び検出された被写体90の状態を用いて取得されたとする。また、評価値算出部132は、図8に例示するような重み係数テーブルを用いて、評価値を算出してもよい。
図8は、重み係数テーブルを例示する図である。図8に示す例では、画像指標「被写体の向き」、「被写体までの距離」、「被写体の表情(笑顔)」、「被写体の表情(驚き)」及び「被写体と特徴物体との距離」の重み係数は、それぞれ、「0.8」、「0.2」、「0.6」、「0.4」及び「1.0」である。また、被写体状態指標「脈拍」、「発汗」及び「加速度」の重み係数は、それぞれ、「1.0」、「0.6」及び「0.8」である。ここで、各指標の重み係数は、各指標の、画像の保存価値の評価に対する重要度(寄与度)に応じて、適宜設定され得る。したがって、重み係数の高い指標は、画像の保存価値を評価する上で重要な指標である。図8の例では、重み係数が「1.0」である「被写体と特徴物体との距離」及び「脈拍」は、重要度が高く、重み係数が「0.2」である「被写体までの距離」は、重要度が低い。
評価値算出部132は、各指標の度合に、その指標に対応する重み係数を乗算した値の合計を、評価値として算出する。つまり、評価値をVe、指標k(k=1~N)の度合をL、指標kの重み係数をcとすると、Ve=Σk=1 (L*c)である。図7及び図8の例では、Ve=7*0.8+7*0.2+7*0.6+2*0.4+10*1.0+8*1.0+4*0.6+4*0.8=35.6である。なお、度合Lと重み係数cとの積を、重み付けポイントと称することがある。
評価値判定部134は、評価値算出部132によって算出された評価値を、予め定められた閾値と比較して、評価値が閾値を上回るか否かを判定する。そして、評価値判定部134は、判定結果を、画像保存制御部142及び撮像装置制御部144に対して出力する。つまり、評価値判定部134は、評価値が算出される際に使用された指標に対応する画像を評価対象の画像として、この評価対象の画像を保存する価値があるか否かを判定する。評価値判定部134は、評価値が閾値よりも大きい場合に、評価対象の画像に保存価値があると判定する。一方、評価値判定部134は、評価値が閾値以下である場合に、評価対象の画像に保存価値がないと判定する。
画像保存制御部142は、評価値が閾値を上回る場合に、評価対象の画像を保存するように制御を行う。具体的には、画像保存制御部142は、評価対象の画像を保存するように、画像保存装置24を制御する。このとき、画像保存制御部142は、画像保存装置24に対し、評価対象の画像を送信してもよい。あるいは、画像保存制御部142は、撮像装置2から評価対象の画像を取得して保存するように、画像保存装置24を制御してもよい。一方、画像保存制御部142は、評価値が閾値以下である場合に、評価対象の画像を保存しないように制御を行う。
撮像装置制御部144は、評価値が閾値を上回る場合に、被写体90を追尾して被写体90が目立つような画像を撮影できるように、撮像装置2の制御を行う。具体的には、撮像装置制御部144は、パン、チルト及びズーム等により、例えば被写体90が画像の中央近傍に比較的大きく(例えば画像において被写体90の高さが画像の高さ範囲の50%程度となるように)写し出されるように、カメラ制御装置22を制御する。カメラ制御装置22は、撮像装置制御部144の制御に応じて、撮像装置2によって撮影された画像から被写体90を検出する。そして、カメラ制御装置22は、パン、チルト及びズーム等を行って被写体90を追尾して撮影するように、撮像装置2を制御する。一方、撮像装置制御部144は、評価値が閾値以下である場合に、撮像装置2を予め定められた初期位置(ホームポジション)に移動するように、カメラ制御装置22を制御する。
図9は、実施の形態1にかかる撮影システム1によって行われる撮影制御方法を示すフローチャートである。撮像装置2は、被写体90を撮影する(ステップS102)。このS102の処理で撮影されて得られた画像が、保存価値の評価対象の画像となる。画像処理装置20は、上述したように、評価対象の画像の解析を行う(ステップS104)。次に、撮影制御装置100は、画像指標を判定する(ステップS106)。具体的には、解析結果取得部112は、解析結果データを取得する。画像指標判定部114は、上述したように、解析結果データを用いて画像指標を判定する。
一方、センサ4は、上述したように、被写体90の状態を検出する(ステップS112)。ここで、S112のタイミングは、S102のタイミングと同じであるとする。次に、撮影制御装置100の状態取得部122は、センサ送受信装置30を介して、被写体90の状態(センサデータ)を取得する(ステップS114)。次に、状態指標判定部124は、上述したように、被写体状態指標を判定する(ステップS116)。
次に、評価値算出部132は、上述したように、S106の処理で判定された画像指標とS116の処理で判定された被写体状態指標とを用いて、評価値Veを算出する(ステップS120)。評価値判定部134は、評価値Veが、閾値Th1を上回るか否かを判定する(ステップS122)。評価値Veが閾値Th1以下である場合(S122のNO)、画像保存制御部142は、画像が保存されている最中であるか否かを判定する(ステップS130)。画像が保存されている最中である場合(S130のYES)、画像保存制御部142は、画像の保存を中止するように制御を行う(ステップS132)。これにより、画像保存装置24は、画像の保存を中止する。このとき、撮像装置制御部144は、撮像装置2を初期位置に移動するように、撮像装置2を制御する(ステップS134)。なお、画像が保存されている最中でない場合(S130のNO)、S132の処理はスキップされ、画像の保存の停止が継続される。このようにして、評価値Veが閾値Th1以下である場合、撮影システム1は、画像の保存が行われず撮像装置2が初期位置にあるような待機状態となる(ステップS136)。そして、処理はS102,S112に戻る。
一方、評価値Veが閾値Th1を上回る場合(S122のYES)、画像保存制御部142は、画像が保存されている最中であるか否かを判定する(ステップS140)。画像が保存されている最中でない場合(S140のNO)、画像保存制御部142は、画像の保存を開始するように制御を行う(ステップS142)。これにより、画像保存装置24は、画像の保存を開始する。このとき、撮像装置制御部144は、被写体90が目立つような画像を撮影するため被写体90を追尾して撮影するように、撮像装置2を制御する(ステップS144)。なお、画像が保存されている最中である場合(S140のNO)、S142の処理はスキップされ、画像の保存処理が継続される。このようにして、評価値Veが閾値Th1を上回る場合、撮影システム1は、画像の保存が行われ撮像装置2が被写体90を追尾して撮影しているような保存状態となる(ステップS146)。そして、処理はS102,S112に戻る。
図10は、待機状態であるときの画像Im1を例示する図である。図11は、保存状態であるときの画像Im2を例示する図である。図12は、待機状態(図10)から保存状態(図11)に移行したときの評価値の変化を例示する図である。なお、図12に例示するように、閾値Th1=30とする。
図12に例示するように、図10に例示する待機状態では、画像指標判定部114は、画像指標「被写体の向き」、「被写体までの距離」、「被写体の表情(笑顔)」、「被写体の表情(驚き)」及び「被写体と特徴物体との距離」の度合を、それぞれ、「7」、「2」、「0」、「0」及び「0」と判定する。また、状態指標判定部124は、被写体状態指標「脈拍」、「発汗」及び「加速度」を、それぞれ、「2」、「2」及び「2」と判定する。画像Im1には被写体90が写っているが、被写体90が撮像装置2から遠い位置にあるため、画像Im1に占める被写体90の大きさは小さい。したがって、指標「被写体までの距離」の度合は比較的小さい。さらに、特徴物体が被写体90の近くになく画像Im1に写っていないため、指標「被写体と特徴物体との距離」の度合は「0」である。また、被写体90の感情はあまり昂っておらず、笑顔及び驚きといった表情はないため、指標「被写体の表情(笑顔)」及び「被写体の表情(驚き)」の度合は「0」である。また、被写体90の感情はあまり昂っていないので、指標「脈拍」、「発汗」及び「加速度」も、それぞれ「2」、「2」及び「2」といったように、あまり高くない。したがって、図10に例示する待機状態では、評価値Veは10.8であり、閾値Th1(=30)以下である。
図12に例示するように、図11に例示する保存状態では、画像指標判定部114は、画像指標「被写体の向き」、「被写体までの距離」、「被写体の表情(笑顔)」、「被写体の表情(驚き)」及び「被写体と特徴物体との距離」の度合を、それぞれ、「7」、「7」、「7」、「2」及び「10」と判定する。また、状態指標判定部124は、被写体状態指標「脈拍」、「発汗」及び「加速度」を、それぞれ、「8」、「4」及び「4」と判定する。被写体90と撮像装置2との距離は図10の場合よりも近いため、画像Im2に占める被写体90の大きさは図10の場合と比較して大きい。したがって、指標「被写体までの距離」の度合は「7」となり、図10の場合よりも大きくなる。さらに、特徴物体80が被写体90に近接しているため、指標「被写体と特徴物体との距離」の度合は「10」となる。また、特徴物体80が被写体90の傍にいるため被写体90の感情は昂っており、笑顔及び驚きといった表情が被写体90に現われる。したがって、指標「被写体の表情(笑顔)」の度合が「7」となり、「被写体の表情(驚き)」の度合が「2」となる。また、被写体90の感情は昂っているので、指標「脈拍」、「発汗」及び「加速度」が、それぞれ「8」、「4」及び「4」となり、図10の場合よりも高くなる。したがって、図11に例示する保存状態では、評価値Veは35.6となり、閾値Th1(=30)を上回る。
このように、図11に例示する状態では、被写体90と特徴物体80とが近接し、撮像装置2から被写体90までの距離が概ね撮影に適した距離となり、被写体90の感情が昂り表情も豊かとなり得る。したがって、図11に例示する画像Im2は、保存価値がある、つまり、決定的瞬間を捉えているといえる。実施の形態1にかかる撮影制御装置100は、このように被写体90が決定的瞬間に対応する状態となったときに、その状態を捉えた画像を保存することができる。したがって、実施の形態1にかかる撮影制御装置100は、保存すべき画像を、適切なタイミングで保存することが可能となる。
また、実施の形態1にかかる評価値算出部132は、各指標の度合と、指標ごとに予め設定された重み係数との積の合計を、評価値として算出するように構成されている。これにより、画像の保存価値を評価する上で重要度の高い指標の重み係数を高くすることで、より精度よく、画像の保存価値を評価することができる。つまり、重要度の高い指標が高いほど、より確実に画像を保存し得るようになる。したがって、より精度よく、保存すべき画像を保存することが可能となる。
また、実施の形態1にかかる画像保存制御部142は、評価値Veが閾値Th1以下である場合に画像の保存が行われないように構成されている。これにより、保存価値の低い画像を保存することを抑制することができる。したがって、画像保存装置24の記憶容量を圧迫することを抑制し、画像保存装置24の記憶容量を節約することが可能となる。
また、実施の形態1にかかる撮像装置制御部144は、評価値Veが閾値Th1を上回る場合に、被写体90が目立つような画像を撮影するために被写体90を追尾して撮影するように、撮像装置2を制御するように構成されている。これにより、その画像を保存する価値のある被写体90の姿を、より撮影し易くなる。したがって、被写体90の決定的瞬間を捉えた画像を撮影し易くすることが可能となる。
(実施の形態1の変形例)
上述した実施の形態1では、画像の保存を開始するタイミングに対応する閾値と画像の保存を中止するタイミングに対応する閾値とが互いに同じ(Th1;第1閾値、第2閾値)であるとした。しかしながら、画像の保存を開始するタイミングに対応する閾値と画像の保存を中止するタイミングに対応する閾値とを異なるようにしてもよい。なお、このことは、後述する他の実施の形態においても適用され得る。
図13は、実施の形態1の変形例にかかる撮影制御方法を示すフローチャートである。ここで、画像を保存していないときに画像の保存を開始するための保存開始閾値をTh1(第1閾値)とし、画像を保存しているときに画像の保存を中止するための保存中止閾値をTh2(第2閾値)とする。なお、Th1>Th2とする。S102~S120の処理については、図9に示した処理と実質的に同様であるので、説明を省略する。
評価値判定部134は、画像が保存されている最中であるか否かを判定する(ステップS124)。画像が保存されている最中でない場合(S124のNO)、評価値判定部134は、評価値Veが保存開始閾値Th1を上回るか否かを判定する(ステップS126)。評価値Veが保存開始閾値Th1を上回る場合(S126のYES)、画像保存制御部142は、画像の保存を開始するように制御を行う(S142)。これにより、画像保存装置24は、画像の保存を開始する。このとき、撮像装置制御部144は、被写体90を追尾して撮影するように撮像装置2を制御する(S144)。このようにして、撮影システム1は保存状態となる(S146)。一方、評価値Veが保存開始閾値Th1以下である場合(S126のNO)、画像保存制御部142は、画像の保存を開始しないと判定する。このとき、撮像装置制御部144は、撮像装置2を初期位置に位置させるように、撮像装置2を制御する(S134)。このようにして、撮影システム1は待機状態を継続する(S136)。
一方、画像が保存されている最中である場合(S124のYES)、評価値判定部134は、評価値Veが保存中止閾値Th2を下回るか否かを判定する(ステップS128)。評価値Veが保存中止閾値Th2を下回る場合(S128のYES)、画像保存制御部142は、画像の保存を中止するように制御を行う(S132)。これにより、画像保存装置24は、画像の保存を中止する。このとき、撮像装置制御部144は、撮像装置2を初期位置に移動するように、撮像装置2を制御する(S134)。このようにして、撮影システム1は待機状態となる(S136)。一方、評価値Veが保存中止閾値Th2以上である場合(S128のNO)、画像保存制御部142は、画像の保存を中止しないと判定する。このとき、撮像装置制御部144は、被写体90を追尾して撮影するように撮像装置2を制御する(S144)。このようにして、撮影システム1は保存状態を継続する(S146)。
実施の形態1の変形例にかかる撮影制御装置100は、画像が保存されている最中であるか否かに応じて異なる閾値を、評価値と比較するように構成されている。これにより、評価値が閾値Th1を上回ってからすぐに閾値Th1を下回るときに、画像の保存をすぐに中止することが抑制される。したがって、評価値が1つの閾値の近傍で上下するときに保存の開始と終了とを頻繁に繰り返すことを抑制することが可能となる。
(実施の形態2)
次に、実施の形態2について説明する。実施の形態2においては、センサ4を装着した被写体90が複数ある点で、実施の形態1と異なる。実施の形態2のこれ以外の構成については、実施の形態1と実質的に同様である。
図14は、実施の形態2にかかる撮影システム1の構成を示す図である。実施の形態2にかかる撮影システム1は、1つ以上の撮像装置2と、それぞれ1つ以上のセンサ4A,4Bと、画像処理装置20と、カメラ制御装置22と、画像保存装置24と、センサ送受信装置30と、撮影制御装置100とを有する。図14の例では、被写体90A,90Bが撮影され得る。このとき、被写体90A及び被写体90Bの情報(識別情報、顔情報、身長等)は、撮影制御装置100に予め登録されているとする。
センサ4Aは、被写体90Aの状態を検出する。センサ4Aは、被写体90Aに装着され、又は被写体90Aによって携帯され得る。センサ4Bは、被写体90Bの状態を検出する。センサ4Bは、被写体90Bに装着され、又は被写体90Bによって携帯され得る。センサ送受信装置30は、センサ4A,4Bそれぞれから送信された信号を受信し、センサデータとして、撮影制御装置100に送信する。このとき、センサ送受信装置30は、被写体90A及び被写体90Bのセンサデータをそれぞれ識別可能にした上で、撮影制御装置100に送信する。なお、図14には、2人の被写体90A,90Bが示され、それぞれにセンサ4A,4Bが装着されているが、被写体90の数は3人以上であってもよい。この場合、3人以上の被写体90それぞれに、センサ4が装着される。
なお、撮像装置2、画像処理装置20、カメラ制御装置22、画像保存装置24及び撮影制御装置100の構成については、実施の形態1と実質的に同様であるので、説明を省略する。なお、画像処理装置20は、被写体90A及び被写体90Bのそれぞれについて、画像解析を行い得る。例えば、画像処理装置20は、被写体90A及び被写体90Bのそれぞれについて、向き判定、距離判定、表情判定等を行う。
図15は、実施の形態2にかかる撮影システム1によって行われる撮影制御方法を示すフローチャートである。撮影制御装置100は、ある被写体Xの指標を判定し(ステップS200)、被写体Xについての評価値Veを算出する(ステップS220)。S200では、被写体X(被写体90A,90Bのいずれか)について、図9に示したS102~S116の処理と実質的に同様の処理が行われる。
例えば、解析結果取得部112は、被写体90Aが撮影された画像を用いた画像解析(S104)により得られた解析結果データを取得する。画像指標判定部114は、被写体90Aに関する解析結果データを用いて、被写体90Aに関する画像指標を判定する(S106)。また、状態取得部122は、センサ4Aから被写体90Aの状態を取得する(S114)。状態指標判定部124は、被写体90Aに関する被写体状態指標を判定する(S116)。そして、評価値算出部132は、S120の処理と同様にして、被写体90Aに関する画像指標及び被写体90Aに関する被写体状態指標を用いて、被写体90Aに関する評価値Veを算出する。
評価値判定部134は、被写体X(例えば被写体90A)に関する評価値Veが、閾値Th1を上回るか否かを判定する(ステップS222)。被写体Xに関する評価値Veが閾値Th1以下である場合(S222のNO)、被写体Xについて、S230~S236の処理が行われる。なお、S232~S236の処理は、それぞれ、図9に示したS130~S136の処理と実質的に同様である。つまり、この場合、被写体Xについての画像の保存は行われない。
一方、被写体Xに関する評価値Veが閾値Th1を上回る場合(S222のYES)、画像保存制御部142は、被写体Xの画像が保存されている最中であるか否かを判定する(ステップS240)。被写体Xの画像が保存されている最中でない場合(S240のNO)、画像保存制御部142は、画像の保存を開始するように制御を行う(ステップS242)。これにより、画像保存装置24は、被写体Xの画像の保存を開始する。なお、被写体Xの画像が保存されている最中である場合(S240のNO)、S242の処理はスキップされ、被写体Xの画像の保存処理が継続する。
次に、撮影制御装置100(例えば評価値判定部134)は、全ての被写体90について評価値Veが算出されたか否かを判定する(ステップS244)。全ての被写体90について評価値Veが算出されていない場合(S244のNO)、処理はS200に戻り、撮影制御装置100は、評価値Veが算出されていない被写体90(例えば被写体90B)について、指標を判定し(S200)、評価値Veを算出する(S220)。そして、S222~S242の処理が繰り返される。つまり、撮影制御装置100は、例えば被写体90Bに関する評価値Veが閾値Th1以下である場合は、被写体90Bの画像の保存を行わないように制御を行う。一方、撮影制御装置100は、被写体90Bに関する評価値Veが閾値Th1を上回る場合は、被写体90Bの画像を保存するように制御を行う。このように、実施の形態2にかかる指標判定部13(画像指標判定部114及び状態指標判定部124)は、複数の被写体90それぞれについて指標の度合を判定する。また、実施の形態2にかかる評価値算出部132は、複数の被写体90それぞれについて評価値を算出する。また、実施の形態2にかかる評価値判定部134は、複数の被写体90それぞれについて、画像の保存価値を判定する。
一方、全ての被写体90について評価値Veが算出された場合(S244のYES)、評価値判定部134は、評価値Veが最大である被写体90を選択する(ステップS246)。そして、撮像装置制御部144は、選択された被写体90を追尾して撮影するように、撮像装置2を制御する(ステップS248)。これにより、撮影システム1は保存状態となる(ステップS250)。つまり、実施の形態2にかかる撮像装置制御部144は、評価値の最も大きな被写体90が目立つような画像を撮影できるように、撮像装置2を制御する。例えば、図14に示す例において、被写体90Aの評価値Veが被写体90Bの評価値Veよりも大きい場合、撮像装置制御部144は、被写体90Aを追尾して撮影するように、撮像装置2を制御する。なお、このとき、評価値Veが最大でない被写体90Bを、他の撮像装置が撮影するようにしてもよい。
図16は、複数の被写体90が写っている画像Im3を例示する図である。また、図17は、図16に示す画像に写ったある被写体90に関する評価値の変化を例示する図である。画像Im3には、2人の被写体90A,90B及び特徴物体80が写っている。ここで、図17は、被写体90Bに関する評価値の変化を示している。なお、被写体90Aに関する評価値の変化は、図12に示されているとする。
まず、撮像装置2によって、図10に例示された画像Im1が撮影され、その後、図11に例示された画像Im2が撮影されたとする。なお、図10及び図11には、被写体90Aが写っているとする。そして、さらに、図16に例示された画像Im3が撮影されたとする。また、図12に示された度合、重み付けポイント及び評価値における矢印の右側の値は、図11及び図16に対応すると仮定する。また、図17に示された度合、重み付けポイント及び評価値における矢印の左側の値は、図10及び図11に対応し、矢印の右側の値は、図16に対応すると仮定する。
図11に示された画像Im2が撮影された時点では、被写体90Aのみが写っているので、被写体90Aに関する評価値Veが高くなる。図12に示す例では、評価値Ve=35.6である。一方、被写体90Bは画像Im2に写っていないので、図17に示すように、被写体90Bの各画像指標の度合は全て0となり、被写体90Bに関する評価値Veも1.4とかなり低い。したがって、図11に示された状態では、撮影制御装置100は、被写体90Aの画像を保存し、被写体90Aを追尾して撮影するように制御を行う。
そして、図16に示すように、被写体90Bが特徴物体80に近づいて、被写体90Aとともに撮像装置2によって撮影されるとする。このとき、図17に示すように、被写体90Bに関する各指標の度合が大きく上昇し、被写体90Bに関する評価値Veは、45.4となる。これにより、被写体90Bに関する評価値Veが閾値Th1を上回るので、被写体90Aだけでなく被写体90Bの画像も保存される。このとき、被写体90Bに関する評価値Veは、被写体90Aに関する評価値Veよりも大きくなる。言い換えると、評価値Veの高い被写体90Bは、決定的瞬間を誘発する可能性が、被写体90Aよりも高いといえる。したがって、撮影制御装置100は、被写体90Bを追尾して撮影するように、撮像装置2を制御する。
上述したように、実施の形態2にかかる撮影制御装置100は、撮影された被写体90が複数ある場合に、複数の被写体90ごとに指標の度合を判定し、複数の被写体90ごとに評価値を算出する。そして、実施の形態2にかかる撮影制御装置100は、評価値の最も大きな被写体90が目立つような画像を撮影できるように、その被写体90を追尾して撮影するように撮像装置2を制御する。これにより、決定的瞬間を誘発する可能性がより高い被写体90の決定的瞬間を撮影しやすくなる。言い換えると、保存価値の高い画像を引き起こす可能性がより高い被写体90を撮影しやすくなる。したがって、実施の形態2にかかる撮影制御装置100は、保存価値の高い画像をより確実に撮影し保存することが可能となる。さらに、実施の形態2にかかる撮影制御装置100は、上述したような、実施の形態1にかかる撮影制御装置100が奏する効果と実質的に同様の効果を奏することができる。
(実施の形態3)
次に、実施の形態3について説明する。実施の形態3においては、特徴物体80による演出を改善するようにする点で、他の実施の形態と異なる。ここで、実施の形態3においては、特徴物体80は、動作可能なマスコットキャラクタであるとする。そして、マスコットキャラクタである特徴物体80は、被写体90を楽しませるための演出を行うことが可能であるとする。
図18は、実施の形態3にかかる撮影システム1の構成を示す図である。実施の形態3にかかる撮影システム1は、1つ以上の撮像装置2と、1つ以上のセンサ4と、画像処理装置20と、カメラ制御装置22と、画像保存装置24と、センサ送受信装置30と、指示装置40と、撮影制御装置100とを有する。なお、撮像装置2、センサ4、画像処理装置20、カメラ制御装置22、画像保存装置24、及び撮影制御装置100の構成については、実施の形態1と実質的に同様であるので、説明を省略する。指示装置40は、撮影制御装置100と、有線又は無線を介して接続されている。指示装置40は、マスコットキャラクタである特徴物体80に演出を改善するように指示するための装置である。作業者が特徴物体80を手動により遠隔操作する場合又は作業者が特徴物体80の中に入って操作する場合、指示装置40は、作業者に指示を伝達するための音声を出力するスピーカ、又は、指示を伝達するための画面等を出力するディスプレイであってもよい。また、特徴物体80が自律して動作可能なロボットである場合、指示装置40は、ロボットに対し、所定の指示を示す信号を送信する。以下に説明する例では、作業者が特徴物体80を操作する場合について示す。
図19は、実施の形態3にかかる撮影制御装置100の構成を示す機能ブロック図である。実施の形態3にかかる撮影制御装置100は、解析結果取得部112、画像指標判定部114、状態取得部122、状態指標判定部124、評価値算出部132、評価値判定部134、画像保存制御部142及び撮像装置制御部144を有する。さらに、実施の形態3にかかる撮影制御装置100は、演出改善判定部302及び改善指示部304を有する。演出改善判定部302及び改善指示部304は、撮影演算装置130によって実現されてもよい。なお、演出改善判定部302及び改善指示部304以外の構成要素については、図4に示したものと実質的に同様であるので、説明を省略する。
演出改善判定部302は、特徴物体80の演出を改善する必要があるか否かを判定する。特徴物体80の演出を改善する必要がある場合、その旨の指示を改善指示部304に送信する。改善指示部304は、特徴物体80の演出を改善する必要があると判定された場合に、特徴物体80の演出を改善させるための指示を、指示装置40に対して送信する。演出改善判定部302及び改善指示部304の具体的な処理については図20を用いて説明する。
図20は、実施の形態3にかかる撮影制御装置100によって行われる撮影制御方法を示すフローチャートである。図20に示す処理は、図9に示すフローチャートにおいて、S130の判定がNOである場合、つまり、評価値Veが閾値Th1以下であり、画像が保存されている最中でない場合に行われる。さらに言い換えると、撮影システム1が待機状態である場合に行われる。
演出改善判定部302は、待機状態が一定期間継続しているか否かを判定する(ステップS302)。待機状態が一定期間継続していない場合(S302のNO)、演出改善判定部302は、特徴物体80の演出の改善が必要でないと判定し、処理はS134に進む。一方、待機状態が一定期間継続している場合(S302のYES)、演出改善判定部302は、特徴物体80の演出の改善が必要であると判定する。そして、演出改善判定部302は、解析結果データを用いる等により、被写体90が画像に写っているか否かを判定する(ステップS304)。
被写体90が画像に写っていない場合(S304のNO)、改善指示部304は、被写体90を撮像装置2の画角に入らせる旨の指示を、指示装置40に送信する(ステップS306)。そして、処理はS134に進む。例えば、改善指示部304は、「被写体を撮像装置の前に促して下さい」といった音声又は表示を、指示装置40に出力させる。なお、この指示は、被写体90が全く画像に写っていない場合だけでなく、被写体90の一部(例えば被写体90の顔)が、撮像を遮るような障害物等の陰に隠れている場合についても行い得る。指示装置40による指示により、作業者は、被写体90を撮像装置2の前に促すような動作(演出)を特徴物体80に行わせる操作を行い得る。
一方、被写体90が画像に写っている場合(S304のYES)、演出改善判定部302は、指標「被写体と特徴物体との距離」の度合が予め定められたL1以下であるか否かを判定する(ステップS308)。指標「被写体と特徴物体との距離」の度合がL1(例えば「7」)以下である場合(S308のYES)、演出改善判定部302は、被写体90と特徴物体80との距離が遠すぎると判定する。この場合、改善指示部304は、特徴物体80を被写体90に近づける旨の指示を、指示装置40に送信する(ステップS310)。そして、処理はS134に進む。例えば、改善指示部304は、「被写体に近づいて下さい」といった音声又は表示を、指示装置40に出力させる。指示装置40による指示により、作業者は、被写体90に近づく動作(演出)を特徴物体80に行わせる操作を行い得る。
一方、指標「被写体と特徴物体との距離」の度合がL1を超える場合(S308のNO)、演出改善判定部302は、指標「脈拍」の度合が予め定められたL2以下であるか否かを判定する(ステップS312)。指標「脈拍」の度合がL2(例えば「5」)以下である場合(S312のYES)、演出改善判定部302は、被写体90が興奮していないと判定する。そして、改善指示部304は、特徴物体80に所定の動作を行わせる旨の指示を、指示装置40に送信する(ステップS314)。そして、処理はS134に進む。ここで、所定の動作とは、例えば、特徴物体80が被写体90に向かって手を振る、特徴物体80が被写体90に触れる、又は被写体90の名前又はニックネームを呼ぶといった、被写体90が喜び興奮することが期待される動作である。例えば、改善指示部304は、「被写体に手を振って下さい」といった音声又は表示を、指示装置40に出力させる。なお、被写体90の名前又はニックネームは、予め登録されているとする。指示装置40による指示により、作業者は、被写体90が興奮するような動作(演出)を特徴物体80に行わせる操作を行い得る。
一方、指標「脈拍」の度合がL2を上回る場合(S312のNO)、演出改善判定部302は、指標「被写体の向き」の度合が予め定められたL3以下であるか否かを判定する(ステップS316)。指標「被写体の向き」の度合がL3(例えば「6」)以下である場合(S316のYES)、演出改善判定部302は、被写体90が画像の保存価値があるほど撮像装置2の方を向いていないと判定する。そして、改善指示部304は、被写体90に撮像装置2を向くよう促す旨の指示を、指示装置40に送信する(ステップS318)。そして、処理はS134に進む。例えば、改善指示部304は、「被写体に撮像装置を向くように促して下さい」といった音声又は表示を、指示装置40に出力させる。指示装置40による指示により、作業者は、撮像装置2の方を指し示す等の動作を特徴物体80に行わせる操作を行い得る。
S306、S310、S314又はS318によって特徴物体80の演出が改善され、これにより、被写体90の感情が昂り決定的瞬間が誘発されて評価値Veが上昇することが期待される。そして、S102~S120(図9)の処理によって評価値Veが再度算出され、S122(図9)の処理で評価値Veが閾値Th1を上回ると判定されると、画像の保存が開始される(S142)。なお、指標「被写体の向き」の度合がL3を上回る場合(S316のNO)、処理はS134に進む。なお、上述した演出の改善を一定期間行っても評価値Veが閾値Th1を上回ることがない場合、演出改善判定部302は、演出の改善により評価値Veが閾値Th1を上回るようにすることを、断念してもよい。
図21は、実施の形態3にかかる撮影制御装置100によってなされた演出の改善により評価値が上昇したことを例示する図である。ここで、L1=7、L2=5、L3=6とし、Th1=35とする。まず、演出の改善前では、指標「被写体と特徴物体との距離」の度合は「1」であるので、演出改善判定部302は、指標「被写体と特徴物体との距離」の度合がL1以下であると判定する。そして、改善指示部304は、特徴物体80を被写体90に近づける旨の指示を、指示装置40に送信する(S310)。これにより、指標「被写体と特徴物体との距離」の度合は「10」に上昇し得る。
また、演出の改善前では、指標「脈拍」の度合は「2」であるので、演出改善判定部302は、指標「脈拍」の度合がL2以下であると判定する。そして、改善指示部304は、特徴物体80に所定の動作を行わせる旨の指示を、指示装置40に送信する(S314)。これにより、被写体90が興奮し得、指標「脈拍」の度合が「8」に上昇し得る。
また、演出の改善前では、指標「被写体の向き」の度合は「2」であるので、演出改善判定部302は、指標「被写体の向き」の度合がL3以下であると判定する。そして、改善指示部304は、被写体90に撮像装置2を向くよう促す旨の指示を、指示装置40に送信する(S318)。これにより、指標「被写体の向き」の度合は「7」に上昇し得る。
これにより、演出の改善前では、評価値Veが16.6であり、閾値Th1以下であったのに対し、演出の改善後では、評価値Veが35.6に上昇し、閾値Th1を上回る。したがって、被写体90が写った画像は、保存価値があることとなる。これにより、この画像の保存が開始される。
このように、実施の形態3にかかる撮影制御装置100は、評価値Veが低い場合に評価値Veが上昇するよう被写体90を促すように特徴物体80に指示することができる。これにより、被写体90の決定的瞬間を意図的に誘発することが可能となる。したがって、画像を保存する機会をより多くすることが可能となる。さらに、実施の形態3にかかる撮影制御装置100は、上述したような、実施の形態1にかかる撮影制御装置100が奏する効果と実質的に同様の効果を奏することができる。
なお、図20に示した例では、演出改善判定部302は、指標「被写体と特徴物体との距離」、「脈拍」及び「被写体の向き」の度合に応じて演出の改善の要否を判定するが、このような構成に限られない。演出改善判定部302は、他の指標、特に重み係数が比較的大きな指標の度合に応じて、演出の改善の要否を判定してもよい。
(変形例)
なお、本実施の形態は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上述した複数の実施の形態は、相互に適用可能である。例えば、実施の形態3の構成を実施の形態2に適用してもよい。
また、上述した実施の形態にかかるフローチャートにおいて、各処理の順序は、適宜、変更可能である。また、上述した実施の形態にかかるフローチャートにおける処理の1つ以上は、なくてもよい。例えば、図20に示したフローチャートにおいて、S308,S310の処理、S312,S314の処理、及びS316,S318の処理の順序は、異なってもよい。例えば、S308,S310の処理は、S312,S314の処理の後であってもよい。また、図20のS302の処理はなくてもよい。つまり、演出改善判定部302は、待機状態が一定期間継続しなくても、待機状態となったときにすぐに、演出の改善の要否を判定してもよい。
また、上述した実施の形態において、評価値算出部132は、指標の度合と重み係数との積の合計を評価値Veとして算出したが、このような構成に限られない。評価値算出部132は、重み係数を指標の度合に乗算することなく、単純に指標の度合を合計することで、評価値Veを算出してもよい。しかしながら、上述したように、重み係数を指標の度合に乗算することにより、より精度よく、保存すべき画像を保存することが可能となる。
また、上述した実施の形態においては、評価値Veが閾値Th1を上回る場合に、画像を保存し、さらに被写体90を追尾して撮影するように構成されているが、このような構成に限られない。被写体90の追尾撮影のトリガとなる閾値は、画像の保存のトリガとなる閾値と異なってもよい。つまり、評価値Veが閾値Th1を上回る場合に画像を保存し、評価値Veが閾値Th3を上回る場合に被写体90を追尾して撮影するようにしてもよい。
また、上述した実施の形態においては、画像の保存がなされていないときの待機状態として、撮像装置2を初期位置(ホームポジション)に位置させるようにしたが、このような構成に限られない。待機状態のときに、撮像装置2又は別の撮像装置を用いて、被写体90を探索してもよい。この場合において、被写体90の位置情報を検出可能であるときは、被写体90の位置情報を用いて被写体90を探索してもよい。このようにすることで、撮影機会を増加させることができる。
また、上述した実施の形態においては、評価値Veが閾値Th1を上回る場合は常に画像を保存し続けるとしたが、このような構成に限られない。画像を保存し続けている期間が予め定められた期間を経過したときに、画像の保存を中止してもよい。これにより、画像保存装置24の記憶容量を圧迫することを抑制し、記憶容量を節約することができる。
また、画像指標は、図5に例示したものに限定されない。画像指標は、図5のうちの一部であってもよいし、他の画像指標を含んでもよい。例えば、画像指標判定部114は、被写体90の動きを画像指標としてもよい。具体的には、画像処理装置20は、モーションキャプチャ等の技術により、被写体90の動きを検出する。そして、画像指標判定部114は、被写体90の動きが被写体90の感情を表している(例えばバンザイをする等)場合、その動きの大きさ等に応じて、画像指標の度合を判定してもよい。
また、画像指標判定部114は、撮像装置2に対する特徴物体の向きを画像指標としてもよい。例えば、特徴物体がマスコットキャラクタである場合、画像処理装置20は、被写体90の向きの判定と同様の方法で、マスコットキャラクタの顔に相当する部分の向きを判定してもよい。そして、画像指標判定部114は、マスコットキャラクタの向きが撮像装置2の方を向いているほど、画像指標の度合を大きくするようにしてもよい。
また、画像指標判定部114は、撮像装置2から特徴物体までの距離を画像指標としてもよい。例えば、特徴物体がマスコットキャラクタである場合、画像処理装置20は、被写体90の距離の判定と同様の方法で、撮像装置2からマスコットキャラクタまでの距離を判定してもよい。そして、画像指標判定部114は、撮像装置2からマスコットキャラクタまでの距離が、撮影に適した所定の距離に近いほど、画像指標の度合を大きくするようにしてもよい。
また、被写体状態指標は、図6に例示したものに限定されない。被写体状態指標は、図6のうちの一部であってもよいし、他の被写体状態指標を含んでもよい。例えば、状態指標判定部124は、被写体90の位置情報を被写体状態指標としてもよい。具体的には、GPS(Global Positioning System)機能等を有する位置センサであるセンサ4が、被写体90の位置情報を検出する。そして、状態指標判定部124は、被写体90の位置が撮像装置2から近いほど、被写体状態指標の度合を大きくするようにしてもよい。
また、状態指標判定部124は、被写体90の血圧を被写体状態指標としてもよい。具体的には、血圧計であるセンサ4が、被写体90の血圧を検出する。そして、状態指標判定部124は、検出された血圧と被写体90の血圧の平均値との差が大きいほど、被写体状態指標の度合を大きくするようにしてもよい。また、脳波センサを用いて被写体90の脳波を検出できる場合に、状態指標判定部124は、被写体90の脳波を被写体状態指標としてもよい。
また、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は既に述べた実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において種々の変更が可能であることはいうまでもない。
1 撮影システム
2 撮像装置
4 センサ
10 撮影制御装置
11 解析結果取得部
12 状態取得部
13 指標判定部
14 評価値算出部
15 画像保存制御部
16 撮像装置制御部
20 画像処理装置
22 カメラ制御装置
24 画像保存装置
30 センサ送受信装置
40 指示装置
100 撮影制御装置
110 画像データ演算装置
112 解析結果取得部
114 画像指標判定部
120 センサデータ演算装置
122 状態取得部
124 状態指標判定部
130 撮影演算装置
132 評価値算出部
134 評価値判定部
142 画像保存制御部
144 撮像装置制御部
302 演出改善判定部
304 改善指示部

Claims (16)

  1. 撮像装置が被写体を撮影して得られた画像の解析結果を取得する解析結果取得部と、
    センサが前記被写体の状態を検出して得られた検出結果を取得する状態取得部と、
    前記画像の解析結果及び前記被写体の状態の検出結果から、前記被写体に関するものを含む複数の指標ごとに前記指標の度合を判定する指標判定部と、
    前記指標の度合を用いて、前記画像の保存価値を評価するための評価値を算出する評価値算出部と、
    前記評価値が予め定められた第1閾値を上回る場合に、前記画像を保存するように制御を行う画像保存制御部と、
    前記画像を保存していない状態である場合に、前記指標の度合に基づいて、動作可能な特徴物体であって前記画像に含まれる特徴物体の演出を改善する必要があるか否かを判定する演出改善判定部と、
    前記特徴物体の演出を改善する必要があると判定された場合に、複数の前記指標のうち予め定められた閾値よりも度合が低い前記指標の度合が上昇するように、演出の改善を指示する改善指示部と
    を有し、
    前記評価値が前記第1閾値以下であり、前記被写体と前記特徴物体との距離に関する第1の指標の度合が予め定められた第3閾値を上回っており、前記被写体の興奮状態を示す第2の指標の度合が予め定められた第4閾値以下である場合に、前記改善指示部は、前記被写体が興奮すると期待される動作として設定された所定の動作を前記特徴物体が行うように、指示を行う、
    撮影制御装置。
  2. 前記評価値算出部は、前記指標ごとに予め設定された重み係数と前記指標の度合とに基づいて前記評価値を算出する
    請求項1に記載の撮影制御装置。
  3. 前記画像保存制御部は、前記評価値が予め定められた第2閾値以下である場合に、前記画像の保存を行わないように制御を行う
    請求項1に記載の撮影制御装置。
  4. 前記第2閾値は前記第1閾値と異なる、請求項3に記載の撮影制御装置。
  5. 前記評価値が前記第1閾値を上回る場合に、前記被写体を追尾して撮影するように、前記撮像装置の制御を行う撮像装置制御部
    をさらに有する請求項1に記載の撮影制御装置。
  6. 撮影された前記被写体が複数ある場合に、
    前記指標判定部は、前記複数の被写体それぞれについて前記指標の度合を判定し、
    前記評価値算出部は、前記複数の被写体それぞれについて前記評価値を算出し、
    前記撮像装置制御部は、前記評価値の最も大きな前記被写体を追尾して撮影するように、前記撮像装置を制御する
    請求項5に記載の撮影制御装置。
  7. 被写体を撮影可能な少なくとも1つの撮像装置と、
    前記被写体の状態を検出する少なくとも1つのセンサと、
    前記撮像装置による撮影に関する制御を行う撮影制御装置と
    を有し、
    前記撮影制御装置は、
    前記撮像装置が被写体を撮影して得られた画像の解析結果を取得する解析結果取得部と、
    前記センサが前記被写体の状態を検出して得られた検出結果を取得する状態取得部と、
    前記画像の解析結果及び前記被写体の状態の検出結果から、前記被写体に関するものを含む複数の指標ごとに前記指標の度合を判定する指標判定部と、
    前記指標の度合を用いて、前記画像の保存価値を評価するための評価値を算出する評価値算出部と、
    前記評価値が予め定められた第1閾値を上回る場合に、前記画像を保存するように制御を行う画像保存制御部と、
    前記画像を保存していない状態である場合に、前記指標の度合に基づいて、動作可能な特徴物体であって前記画像に含まれる特徴物体の演出を改善する必要があるか否かを判定する演出改善判定部と、
    前記特徴物体の演出を改善する必要があると判定された場合に、複数の前記指標のうち予め定められた閾値よりも度合が低い前記指標の度合が上昇するように、演出の改善を指示する改善指示部と
    を有し、
    前記評価値が前記第1閾値以下であり、前記被写体と前記特徴物体との距離に関する第1の指標の度合が予め定められた第3閾値を上回っており、前記被写体の興奮状態を示す第2の指標の度合が予め定められた第4閾値以下である場合に、前記改善指示部は、前記被写体が興奮すると期待される動作として設定された所定の動作を前記特徴物体が行うように、指示を行う、
    撮影システム。
  8. 前記評価値算出部は、前記指標ごとに予め設定された重み係数と前記指標の度合とに基づいて前記評価値を算出する
    請求項7に記載の撮影システム。
  9. 前記画像保存制御部は、前記評価値が予め定められた第2閾値以下である場合に、前記画像の保存を行わないように制御を行う
    請求項7に記載の撮影システム。
  10. 前記評価値が前記第1閾値を上回る場合に、前記被写体を追尾して撮影するように、前記撮像装置の制御を行う撮像装置制御部
    をさらに有する請求項7に記載の撮影システム。
  11. 撮影された前記被写体が複数ある場合に、
    前記指標判定部は、前記複数の被写体それぞれについて前記指標の度合を判定し、
    前記評価値算出部は、前記複数の被写体それぞれについて前記評価値を算出し、
    前記撮像装置制御部は、前記評価値の最も大きな前記被写体を追尾して撮影するように、前記撮像装置を制御する
    請求項10に記載の撮影システム。
  12. コンピュータが、撮像装置が被写体を撮影して得られた画像の解析結果を取得し、
    前記コンピュータが、センサが前記被写体の状態を検出して得られた検出結果を取得し、
    前記コンピュータが、前記画像の解析結果及び前記被写体の状態の検出結果から、前記被写体に関するものを含む複数の指標ごとに前記指標の度合を判定し、
    前記コンピュータが、前記指標の度合を用いて、前記画像の保存価値を評価するための評価値を算出し、
    前記コンピュータが、前記評価値が予め定められた第1閾値を上回る場合に、前記画像を保存するように制御を行い、
    前記コンピュータが、前記画像を保存していない状態である場合に、前記指標の度合に基づいて、動作可能な特徴物体であって前記画像に含まれる特徴物体の演出を改善する必要があるか否かを判定し、
    前記コンピュータが、前記特徴物体の演出を改善する必要があると判定された場合に、複数の前記指標のうち予め定められた閾値よりも度合が低い前記指標の度合が上昇するように、演出の改善を指示し、
    前記評価値が前記第1閾値以下であり、前記被写体と前記特徴物体との距離に関する第1の指標の度合が予め定められた第3閾値を上回っており、前記被写体の興奮状態を示す第2の指標の度合が予め定められた第4閾値以下である場合に、前記コンピュータが、前記被写体が興奮すると期待される動作として設定された所定の動作を前記特徴物体が行うように、指示を行う、
    撮影制御方法。
  13. 前記コンピュータが、前記指標ごとに予め設定された重み係数と前記指標の度合とに基づいて前記評価値を算出する
    請求項12に記載の撮影制御方法。
  14. 前記コンピュータが、前記評価値が予め定められた第2閾値以下である場合に、前記画像の保存を行わないように制御を行う
    請求項12に記載の撮影制御方法。
  15. 前記評価値が前記第1閾値を上回る場合に、前記コンピュータが、前記被写体を追尾して撮影するように、前記撮像装置の制御を行う
    請求項12に記載の撮影制御方法。
  16. 撮影された前記被写体が複数ある場合に、
    前記コンピュータが、前記複数の被写体それぞれについて前記指標の度合を判定し、
    前記コンピュータが、前記複数の被写体それぞれについて前記評価値を算出し、
    前記コンピュータが、前記評価値の最も大きな前記被写体を追尾して撮影するように、前記撮像装置を制御する
    請求項15に記載の撮影制御方法。
JP2018229813A 2018-12-07 2018-12-07 撮影制御装置、撮影システム及び撮影制御方法 Active JP7401968B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018229813A JP7401968B2 (ja) 2018-12-07 2018-12-07 撮影制御装置、撮影システム及び撮影制御方法
US16/655,895 US11076123B2 (en) 2018-12-07 2019-10-17 Photographing control device, photographing system and photographing control method
CN201911157791.8A CN111294507A (zh) 2018-12-07 2019-11-22 拍摄控制装置、拍摄系统和拍摄控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018229813A JP7401968B2 (ja) 2018-12-07 2018-12-07 撮影制御装置、撮影システム及び撮影制御方法

Publications (2)

Publication Number Publication Date
JP2020092370A JP2020092370A (ja) 2020-06-11
JP7401968B2 true JP7401968B2 (ja) 2023-12-20

Family

ID=70972628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018229813A Active JP7401968B2 (ja) 2018-12-07 2018-12-07 撮影制御装置、撮影システム及び撮影制御方法

Country Status (3)

Country Link
US (1) US11076123B2 (ja)
JP (1) JP7401968B2 (ja)
CN (1) CN111294507A (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11373448B2 (en) * 2018-04-04 2022-06-28 Panasonic Intellectual Property Management Co., Ltd. Emotion inference device, emotion inference method, and recording medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080192129A1 (en) 2003-12-24 2008-08-14 Walker Jay S Method and Apparatus for Automatically Capturing and Managing Images
JP2011151482A (ja) 2010-01-19 2011-08-04 Canon Inc 撮像装置および撮像装置の制御方法
JP2012249094A (ja) 2011-05-27 2012-12-13 Panasonic Corp 撮像システム及び撮像装置
WO2015115203A1 (ja) 2014-01-28 2015-08-06 ソニー株式会社 撮影装置、撮影方法、及び、プログラム
US20170048581A1 (en) 2015-08-12 2017-02-16 Samsung Electronics Co., Ltd. Method and device for generating video content

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040174434A1 (en) * 2002-12-18 2004-09-09 Walker Jay S. Systems and methods for suggesting meta-information to a camera user
WO2006040761A2 (en) * 2004-10-15 2006-04-20 Oren Halpern A system and a method for improving the captured images of digital still cameras
US8169484B2 (en) * 2005-07-05 2012-05-01 Shai Silberstein Photography-specific digital camera apparatus and methods useful in conjunction therewith
JP4717539B2 (ja) * 2005-07-26 2011-07-06 キヤノン株式会社 撮像装置及び撮像方法
JP4197019B2 (ja) * 2006-08-02 2008-12-17 ソニー株式会社 撮像装置および表情評価装置
JP2008141740A (ja) * 2006-11-07 2008-06-19 Fujifilm Corp 撮影装置および方法並びにプログラム
JP4757173B2 (ja) * 2006-11-17 2011-08-24 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP2008288745A (ja) 2007-05-16 2008-11-27 Hitachi Ltd 映像情報処理装置
JP5251547B2 (ja) * 2008-06-06 2013-07-31 ソニー株式会社 画像撮影装置及び画像撮影方法、並びにコンピュータ・プログラム
JP5544764B2 (ja) * 2009-06-09 2014-07-09 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP2011077906A (ja) * 2009-09-30 2011-04-14 Panasonic Corp 撮影装置、撮影方法、及びプログラム
US9282238B2 (en) * 2010-10-29 2016-03-08 Hewlett-Packard Development Company, L.P. Camera system for determining pose quality and providing feedback to a user
US9036069B2 (en) * 2012-02-06 2015-05-19 Qualcomm Incorporated Method and apparatus for unattended image capture
JP6040655B2 (ja) * 2012-09-13 2016-12-07 オムロン株式会社 画像処理装置、画像処理方法、制御プログラムおよび記録媒体
CN106023341A (zh) * 2016-05-05 2016-10-12 北京奇虎科技有限公司 行车记录仪应急拍摄控制方法及装置
JP6337980B2 (ja) 2017-02-15 2018-06-06 カシオ計算機株式会社 運動状態検出装置、その制御方法、および、その制御プログラム
CN106713769B (zh) * 2017-03-27 2020-03-24 联想(北京)有限公司 图像拍摄控制方法、装置及电子设备
JP6990989B2 (ja) * 2017-05-12 2022-01-12 株式会社ブリヂストン マットレス
CN107172290B (zh) * 2017-06-02 2021-01-12 维沃移动通信有限公司 一种拍照控制方法和装置
CN108924482B (zh) * 2018-06-22 2021-03-23 张小勇 一种视频记录方法和系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080192129A1 (en) 2003-12-24 2008-08-14 Walker Jay S Method and Apparatus for Automatically Capturing and Managing Images
JP2011151482A (ja) 2010-01-19 2011-08-04 Canon Inc 撮像装置および撮像装置の制御方法
JP2012249094A (ja) 2011-05-27 2012-12-13 Panasonic Corp 撮像システム及び撮像装置
WO2015115203A1 (ja) 2014-01-28 2015-08-06 ソニー株式会社 撮影装置、撮影方法、及び、プログラム
US20170048581A1 (en) 2015-08-12 2017-02-16 Samsung Electronics Co., Ltd. Method and device for generating video content

Also Published As

Publication number Publication date
US11076123B2 (en) 2021-07-27
CN111294507A (zh) 2020-06-16
JP2020092370A (ja) 2020-06-11
US20200186748A1 (en) 2020-06-11

Similar Documents

Publication Publication Date Title
KR101632819B1 (ko) 무인 이미지 캡쳐를 위한 방법 및 장치
US11451704B2 (en) Image capturing apparatus, method for controlling the same, and storage medium
JP5001930B2 (ja) 動作認識装置及び方法
US20170094132A1 (en) Image capture apparatus, determination method, and storage medium determining status of major object based on information of optical aberration
JP5886479B2 (ja) 撮像装置、撮像アシスト方法及び撮像アシストプログラムを記録した記録媒体
JP2019186955A (ja) 情報処理システム、情報処理方法及びプログラム
US20150339523A1 (en) Image processing apparatus, image processing method, and storage medium
US11729488B2 (en) Image capturing apparatus, method for controlling the same, and storage medium
US10762355B2 (en) Information processing apparatus, information processing method, and storage medium to estimate queue waiting time
JP7401968B2 (ja) 撮影制御装置、撮影システム及び撮影制御方法
JP6922821B2 (ja) 画像解析装置、方法およびプログラム
US11394870B2 (en) Main subject determining apparatus, image capturing apparatus, main subject determining method, and storage medium
JP2007006325A (ja) 撮像装置
JP2010178259A (ja) デジタルカメラ
KR101610496B1 (ko) 시선 추적 방법 및 장치
US20160071286A1 (en) Image processing apparatus, imaging apparatus, control method, and storage medium
JP6246301B2 (ja) 撮影機器及び撮影方法
JP2014135683A (ja) 撮像制御装置、撮像制御方法および撮像制御プログラム
US10027922B2 (en) Imaging apparatus for displaying a specific scene while continuously photographing, image playback method, and non-transitory computer-readable storage medium
US20230177860A1 (en) Main object determination apparatus, image capturing apparatus, and method for controlling main object determination apparatus
CN110544317A (zh) 图像处理方法、装置、电子设备和可读存储介质
JP6631166B2 (ja) 撮影装置、プログラム及び撮影方法
US20230370714A1 (en) Image processing apparatus, image processing method, and image capture apparatus
US20230276117A1 (en) Main object determination apparatus, imaging apparatus, and control method for controlling main object determination apparatus
WO2022234632A1 (ja) 反射性眼球運動評価装置、反射性眼球運動評価システム、および反射性眼球運動評価方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210611

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221213

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231208

R150 Certificate of patent or registration of utility model

Ref document number: 7401968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150