JP6602080B2 - 撮影システム及びその制御方法、コンピュータプログラム - Google Patents

撮影システム及びその制御方法、コンピュータプログラム Download PDF

Info

Publication number
JP6602080B2
JP6602080B2 JP2015147081A JP2015147081A JP6602080B2 JP 6602080 B2 JP6602080 B2 JP 6602080B2 JP 2015147081 A JP2015147081 A JP 2015147081A JP 2015147081 A JP2015147081 A JP 2015147081A JP 6602080 B2 JP6602080 B2 JP 6602080B2
Authority
JP
Japan
Prior art keywords
camera
annotation information
information
image
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015147081A
Other languages
English (en)
Other versions
JP2017028585A5 (ja
JP2017028585A (ja
Inventor
雄一 日塔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015147081A priority Critical patent/JP6602080B2/ja
Priority to US15/214,527 priority patent/US10129457B2/en
Publication of JP2017028585A publication Critical patent/JP2017028585A/ja
Publication of JP2017028585A5 publication Critical patent/JP2017028585A5/ja
Application granted granted Critical
Publication of JP6602080B2 publication Critical patent/JP6602080B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Camera Data Copying Or Recording (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、撮影システム及びその制御方法、コンピュータプログラムに関し、特に、撮影した映像データに付加された情報を利用して撮影を支援する技術に関する。
デジタルシネマやドラマ等の映像コンテンツは、通常、複数のシーンから構成されており、各シーンはさらに複数のショット、即ち、撮影の最小単位となる短い動画データから構成されるのが一般的である。ショットとは、一般に、切れ目なしに連続して撮影された動画をいう。このようなショットを撮影する際には、類似のシチュエーションで繰り返し撮影を行い、置き換え可能となるそれらのショットを比較して、最終的に使用されるショットを選択するケースが多い。すなわち、シーンを構成するショット毎に候補となる複数のショット(テイク)を撮影し、これらのショットの中から最適なものを作品に使用することが一般的である。
このように類似のシチュエーションを複数回撮影する場合には、同様の役者の演技やカメラワークが繰り返され、それに伴い、カメラに関して同様の操作が繰り返されることとなる。もっとも、監督の意向、予測不能な自然現象などの影響により、操作を変更する場合もある。このため、カメラ操作者は類似のシチュエーションにおける過去の撮影時のカメラ制御値や留意点を記録しておき、その情報を基に手動でカメラ操作を行っていた。
このような状況を想定して、類似のシチュエーションを繰り返し撮影する状況においてカメラ操作をサポートするための技術が知られている。例えば、特許文献1には、予め用意されたシナリオデータに基づき撮影指南情報を表示すると共に、撮影時の撮影状態がシナリオデータと乖離している場合、意図的に異なる撮影手法をとったものと解釈してシナリオデータを書き換える撮影装置が記載されている。これにより過去の撮影手法の変更を踏まえた撮影支援を可能とする。
特開2013-162178号公報
しかしながら、特許文献1の構成は、予め用意したシナリオデータと実際の撮影時の撮影状態との乖離を基にシナリオデータを変更するものであり、撮影時に監督などのスタッフが気づいた留意点を自動的に次の撮影へ反映するものではない。
本発明は上述した課題を解決するためものであり、過去に撮影された画像に対してユーザが付加した情報を、後の撮影で利用する技術を提供することを目的とする。
上記目的を達成するため、本発明による撮影システムは以下の構成を備える。即ち、撮影手段により画像を撮影する撮影システムであって、前記撮影手段によって撮影された複数の第1の画像の各々について、当該第1の画像を撮影した際の前記撮影手段のカメラワークに対応するカメラコマンドを記録している記録手段と、前記複数の第1の画像の各々に対してユーザによって入力されたアノテーション情報を取得する取得手段と、前記取得手段により取得されたアノテーション情報がカメラワークに関する情報を含む場合に、前記取得されたアノテーション情報がカメラコマンド生成対象であると判断する判断手段と、カメラコマンド生成対象と判断され、撮影が肯定的であることを示すアノテーション情報のうち、最も新しく取得された画像に関するアノテーション情報に対応するカメラコマンドを前記記録手段から抽出することにより、前記撮影手段の動作を規定するカメラコマンドを生成する生成手段と、前記第1の画像よりも後に第2の画像を撮影する場合に、前記カメラコマンドに基づく動作を前記撮影手段に実行させる実行手段とを備える。
本発明によれば、過去に撮影された画像に対してユーザが付加した情報を、後の撮影で利用する技術を提供することができる。
撮影システムの全体構成図 シーンとショットの関係を説明する図 撮影システムの内部構成を示すブロック図 データ蓄積装置の内部構成を示すブロック図 情報入力装置の内部構成を示すブロック図 アノテーション情報のロギング画面を説明する図 アノテーション情報のロギング画面を説明する図 アノテーション情報のロギング画面を説明する図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のカメラコマンド変換動作を説明する流れ図 データ構成を説明する図 撮影システムの内部構成を示すブロック図 アノテーション情報のカメラコマンド変換動作を説明する流れ図 撮影の際のカメラ装置の画面を説明する図 撮影の際の情報入力装置の画面を説明する図 撮影の際のカメラ装置の画面を説明する図 撮影の際の情報入力装置の画面を説明する図 撮影の際のカメラ装置の画面を説明する図 アノテーション情報の構成を説明する図 撮影システムの内部構成を示すブロック図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のロギングの動作を説明する流れ図 アノテーション情報のカメラコマンド変換動作を説明する流れ図 撮影の際のカメラ装置の画面を説明する図 撮影の際の情報入力装置の画面を説明する図 撮影の際のカメラ装置の画面を説明する図 撮影の際の情報入力装置の画面を説明する図 撮影の際のカメラ装置の画面を説明する図 アノテーション情報の構成を説明する図
以下、添付の図面を参照して、本発明の実施形態を詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
<<実施形態1>>
(撮影システムの構成)
図1は、本発明の第一の実施形態(実施形態1)に係る撮影システム全体の構成を示した図である。101は指示入力装置である。後述するように、指示入力装置101に対して行われた操作を契機として、映像データの蓄積(記録)を開始する。また、指示入力装置101に対して行われた操作によって、後述するショットの始まりと終わりとが指定される。また、ショットに視覚的なタグを付ける機能を有する。指示入力装置101は、一例としてクラップボードの形状をしており、指示入力装置101に対する操作入力に応じて外部に信号を出力することができるデジタルクラップボードである。
102は撮影を行うためのカメラ装置である。なお、カメラ装置を複数有していてもよい。本実施形態では、動画像である映像を撮影する場合の例を説明するが、本実施形態の構成は静止画を撮影する場合にも適用することができる。
103はデータ蓄積装置であり、撮影されたショットごとの映像データと、その映像データに関連するメタデータを蓄積すると共に、カメラ装置102及び後述する104の情報入力装置と通信する機能も有する。
104は情報入力装置であり、撮影された映像を表示し、その映像に対して監督等のユーザにより付された情報(アノテーション情報)をメタデータとして入力するための操作入力部を備える。操作入力部として、本実施形態においては、ユーザのタッチ操作を検知するタッチパネルを例に説明するが、マウスやキーボードによる入力でもよい。なお、撮影された画像に対してユーザが付加した情報をアノテーション情報と称することとするが、これは任意の形式の情報である。また、アノテーション情報として文字列からなる情報を例に説明するがこれに限られない。
また、情報入力装置104は、データ蓄積装置103に蓄積された映像データを表示する。本実施形態では、カメラ装置102を操作するユーザと、情報入力装置104を操作するユーザとが異なる場合の例を説明するが、同一人が操作しても構わない。情報入力装置104は、例えば、タブレット端末やPC(パーソナルコンピュータ)を用いて実現することができる。
(映像データ)
図2(a)は、デジタルシネマやドラマなどの映像コンテンツを構成する映像データについて階層的に説明する図である。脚本やシナリオなどに基づく映像コンテンツは、通常一つ以上のシーケンス映像から構成されている。一つのシーケンス映像は、更に、複数の多様なシーン(場面)から構成されている。
さらに、各シーン(場面)は、更に通常は複数のショットから構成されており、このショットが一回の撮影単位となる。ショットとは、一般に、切れ目なしに連続して撮影された映像である。例えば、AとBの二人の人物が会話を行うシーン(場面)においても、二人が会話しているロングのショット、人物Bのクローズアップのショット、人物Bの肩越しに人物Aを撮影するショルダーショットなど、変化のあるショットの撮影が行われる。このため、ショットやシーンの撮影は脚本やシナリオの順番(映像コンテンツにおける順番)で行われるとは限らず、カメラやセットの都合で、シナリオの順番とは異なる順番で行われることも多い。また、一つのショットの撮影は比較的短い時間(数秒から数十秒単位)の映像データとなる。
さらに、一つのショットの撮影は、役者やスタッフのミスや、監督の意向、予測不能な自然現象などの影響により、何度も撮り直しを行う場合があり、これらはテイクと呼ばれている。即ち、特定の映像コンテンツの撮影において、シーケンス、シーン、ショット、テイクに連続する番号を付加することで、個々のショットの映像データを特定することができる。例えば、図2(a)において、テイク4(201)は、シーケンス1、シーン1、ショット2の4回目のテイクであり、テイク3(202)は、シーケンス1、シーン1、ショット4の3回目のテイクである。ここで、同じショットの番号を持つテイクが複数存在している場合には、これらのテイクは置き換え可能なテイクとして、撮影システムに認識されることとなる。複数のテイクがある場合、その中から1つのテイクが選択されて、最終的に映像コンテンツに含まれるショットとなる。これらの情報はデジタルシネマやドラマなどの撮影においては、各ショット撮影のファイル毎にメタデータとして付加される他、慣習によりクラップボードに表示され、ショットの頭に撮影されることも多い。ここで説明したシーケンス、シーン、ショット、テイクなどの用語は本実施形態を説明するための一例に過ぎず、実際の映像制作業界において異なる用語が使用されている場合があるのは言うまでもない。また、各実施形態は、上記のシーケンス、シーン、ショット、テイクに限らず、種々の画像に適用可能である。例えば、同じ設定で撮影を行うべき複数の画像データの撮影を支援する技術に適用可能である。
図2(b)は、同一のショットにおける複数のテイクの時間軸の一致を説明する図である。テイクは本来、ショットの撮り直しであるために撮影時間の長さはほぼ同一であり、最終的に映像コンテンツに組み込む(採用する)際には置き換えが可能である。しかしながら、実際の撮影においては、カメラで撮影を開始してから演技が開始されるまでの時間は異なる場合があり、これはテイクの撮影についても同様である。なお、以下の説明においてショットとテイクとは同義として扱う。例えば、カメラのファインダ映像を確認し始めてから照明やカメラやレンズの設定を確認するまでの時間はまちまちである場合が多い。このような状況においては、例えば、監督が演技開始の号令として、指示入力装置101に対して操作を入力すると、そのタイミングをテイクの開始時刻であるアクションコールとすることで、複数のテイクにおける開始時刻を指定することができる。また、テイクの終了時刻についても同様に指定することができる。
図2(b)は、ショットの各テイクにおける撮影のタイミングを示している。図2(b)において、テイク1からテイク6までは、撮影開始であるロールコール(撮影開始の指示)から演技開始の指示であるアクションコールまでの時間はバラバラであるが、役者やスタッフはアクションコールにより演技を開始する。このため、テイク間の時間のおおまかな同期が可能となる。また、このアクションコールは、指示入力装置101を通じて、接続されているカメラに同一のショットのテイクを同期させる信号を出力することができる。
(機能構成)
図3は、実施形態1による撮影システムの全体の機能ブロック構成を説明する図である。図3に示すように、本実施形態に係る撮影システムは、指示入力装置101、カメラ装置102、データ蓄積装置103、及び、情報入力装置104を備える。
●指示入力装置101
指示入力装置101は、カメラ装置102と接続されている。本実施形態では、指示入力装置101とカメラ装置102とは有線ケーブルにより接続されている場合を説明するが、無線LAN、Bluetooth(登録商標)など無線通信により信号や情報を伝達してもよい。指示入力装置101は、カメラ装置102から送られた撮影情報を表示器301に表示すると共に、指示入力装置101に対するアクションコール操作のタイミングを示すタイミング情報をカメラ装置102へ送信する。
●カメラ装置102
カメラ装置102は、302から313までの機能ブロックを備える。302は撮影のためのレンズ装置、303は撮影画像を確認するための画面(ファインダ画面)、304は映像を撮影するための撮影部である。305はファインダ表示部であり、ファインダ画面303に撮影画像を表示する。
306はカメラ操作入力部(以下、「操作入力部」)であり、カメラ操作者がカメラ操作を行うためのスイッチ類がこれにあたる。307はカメラコマンド変換部(以下、「変換部」)であり、操作入力部306で入力されたカメラ操作をカメラコマンドに変換する。カメラコマンドとは、カメラ装置102のカメラワーク等の動作を規定する情報である。カメラコマンドは、例えば、ズーム倍率を示す情報やフォーカス位置を示す情報である。カメラ装置102にカメラコマンドを読み込ませることによって、撮影に関する設定を自動で設定することができる。なお、カメラワークとは、カメラのパン移動やチルト移動、フォーカス位置、露光、ズーム等を含むものとする。
308はカメラコマンド呼出部(以下、「呼出部」)であり、変換部307で変換されたカメラコマンドを呼び出す。309はカメラコマンド実行部(以下、「実行部」)であり、呼出部308で呼び出されたカメラコマンドを撮影部304に実行させる。310は撮影時間計時部(以下、「計時部」)であり、指示入力装置から受信したアクションコールのタイミングからの時間を計測する。311はカメラコマンド記録部(以下、「記録部」)であり、カメラコマンドを記録する。呼出部308で呼び出されたカメラコマンドは、計時部310で計数された時間位置に関連づけられて、記録部311に記録される。
312は映像データ送信部であり、撮影中の映像データ及び撮影に伴い生成されたメタデータを送信する。313はカメラコマンド受信部であり、外部からカメラコマンドを受信する。本実施形態では、カメラ装置102とデータ蓄積装置103との間の通信が無線通信により行われる場合を説明するが、有線ケーブルを用いて通信するようにしてもよい。
●データ蓄積装置103
データ蓄積装置103は314から321までの機能ブロックを備える。314は映像データ受信部であり、カメラ装置102から出力された映像データを受信する。315は映像データ送信部であり、受信した映像データを情報入力装置104へ送信する。316はアノテーション情報受信部であり、情報入力装置104から出力されたアノテーション情報を受信する。317はデータ蓄積部であり、映像データ受信部314においてカメラ装置102から受信した映像データと、アノテーション情報受信部316において情報入力装置104から受信したアノテーション情報とを関連付けて、ショットデータとして蓄積する。
また、318はアノテーション情報抽出部であり、データ蓄積部317に蓄積されたショットデータから関連ショットに対応するアノテーション情報を抽出する。アノテーション情報抽出部318では、映像データ受信部314によって受信したショットに一定の関連性を有するアノテーション情報が、抽出される。例えば、同じショットに属する他のテイクや、前後のショットに属するテイク等が関連ショットとして抽出される。
319はアノテーション情報解析部であり、アノテーション情報抽出部318で抽出されたアノテーション情報を解析する。320はカメラコマンド生成部(以下、「生成部」)であり、アノテーション情報解析部319で解析されたアノテーション情報に基づきカメラコマンドを生成する。321はカメラコマンド送信部であり、カメラ装置102に対してカメラコマンドを送信する。生成部320により生成され、カメラコマンド送信部321により送信されたカメラコマンドは、カメラコマンド受信部313により受信され、記録部311により記録される。本実施形態では、データ蓄積装置103と情報入力装置104との間の通信が無線通信により行われる場合を説明するが、有線ケーブルを用いて通信するようにしてもよい。
●情報入力装置104
情報入力装置104は、322から325までの機能ブロックを備える。322は映像データ受信部であり、データ蓄積装置103から送信された映像データを受信する。表示部323は、受信した映像データに基づく映像や、情報入力装置104の処理によって、映像に付されたアノテーション情報等を表示するものであり、液晶パネル、有機ELディスプレイ等の表示デバイスにより実現される。映像データ受信部322が受信した映像データは、必要に応じて情報入力装置104の表示部323に表示される。325はアノテーション情報入力部であり、画面のタッチ操作により映像データの特定の時間位置にアノテーションを入力する。後述するように、アノテーション情報は、撮影映像に対してユーザにより付される指示であり、撮影条件や画像に対するコメント(テキスト情報)等が含まれる。324はアノテーション情報送信部であり、アノテーション情報入力部325で入力されたアノテーション情報をデータ蓄積装置103へ送信する。
本実施形態において、情報入力装置104は撮影中の映像データをリアルタイムに表示し、アノテーションを付与できるようにすることができる。これを実現するために、例えば、撮影された映像データについて解像度の低いプロキシ映像をリアルタイムに生成し、情報入力装置104上において、このプロキシ映像を表示するなどの手法を用いることができる。映像転送の処理自体は任意の手法を用いることができるため、ここでは、その詳細な説明を省略する。
(ハードウェア構成)
次に、実施形態1におけるデータ蓄積装置103及び情報入力装置104の内部のハードウェア構成について、図4、図5を参照して説明する。図4はデータ蓄積装置103のハードウェア構成を示すブロック図であり、図5は情報入力装置104のハードウェア構成を説明するブロック図である。ここで、401から407と501から507、及び408と510については規模が異なりうるものの、その機能は同一である。そこで、これらの構成要素については、説明を共通とする。
401、501はCPU(中央演算処理装置)であり、各種処理のための演算や論理判断等を行い、バス408、510に接続された各構成要素を制御する。データ蓄積装置103ないし情報入力装置104には、プログラムメモリとデータメモリを含むメモリが搭載されている。プログラムメモリには、フローチャートに後述する処理手順を含むCPUによる制御のためのコンピュータプログラムが格納される。メモリはROM(読出し専用メモリ)402、502であってもよいし、外部記憶装置などからコンピュータプログラムがロードされるRAM(書込み可能メモリ)403、503であってもよい。
404、504は映像CODEC(コーデック)であり、前述のCPU401と501では処理が重い映像信号の各種トランスコード処理を専門に行う。映像CODEC404、504は、グラフィック処理用のメディアプロセッサなどから構成されている。405、505は映像信号I/Fであり、映像のストリーム信号を扱う高速なI/Fである。406、506はストレージであり、映像信号を高速に蓄積あるいはキャッシュするためのデバイスである。407、507は映像ストリームを送受信するための無線通信I/Fであり、幅広いバンド幅及び複数のチャンネルを保持している。
508は表示デバイスであり、情報入力装置104の処理結果等を操作者に対して表示する。509はタブレット入力デバイスであり、接触センサにより操作者の指示を検知して入力する。表示デバイス508およびタブレット入力デバイス509は、合わせて情報入力装置のUIを構成するデバイスとして機能し、操作者が表示画面をタッチして操作することで、簡易で分かり易いダイレクトなUIが提供される。
(動作概要)
図6A、図6B、図6Cは、実施形態1における情報入力装置104の表示画面及び操作画面の一例を示した図である。これらの図面を用いて、カメラ装置102でショットの撮影を行っている際に、監督やスタッフがリアルタイムにアノテーション情報を付加する操作を説明する。図6Aにおいて、601は、情報入力装置の表示画面である。602は、撮影中の画像が撮影映像を利用してリアルタイムに表示されている画面であり、操作者はこの画面をタッチすることで、タッチした場所に対応したアノテーション情報を付加することが可能である。603は撮影中のショットデータの表示であり、604はアノテーション情報の種類を指定するためのショートカットボタンである。605及び606は、画面に表示されていないショートカットボタンを表示するための移動ボタンを示す。図6A、図6B、図6Cの詳細については、図7A、図7B、図7C、図7Dを用いた詳細な動作の説明の中で説明する。
図7A、図7B、図7C、図7Dは、ショットの撮影が行われる際の、カメラ装置102、指示入力装置101、データ蓄積装置103、及び情報入力装置104のそれぞれにおいて実行される処理の処理手順を示す流れ図である。図8はアノテーション情報をカメラコマンドに変換する際の、データ蓄積装置103において実行される処理を説明する流れ図である。
図9(a)は、実施形態1におけるショットデータの構成を示した図である。ショットデータとは、図2(a)に例示した階層構造における、当該ショットの位置づけを特定する情報である。ショットデータには、ユニークなショットID(ID:識別情報)901、シーケンス番号902、シーン番号903、ショット番号904、テイク番号905などの情報が含まれる。また、図9(b)は、実施形態1におけるアノテーション情報の構成を示した図である。まず、アノテーションを付加したショットを識別するための、前述と同義のショットID901が存在する。加えて、同一ショット内のアノテーションを識別するためのアノテーションID906、アクションコールを基準(0秒のタイミング)とするアノテーションが付けられた時間位置907、アノテーションが付けられた画面上の座標位置908が存在する。さらには、大分類909、小分類910及びタグ911などの情報が存在している。なお、ここに挙げた情報は一例にすぎず、データの項目や分類手法、構造等はこれらに限るものではない。
本実施形態では、事前に撮影された画像(第1の画像)に対してユーザにより付されたアノテーション情報を取得し、このアノテーション情報を、カメラ装置102の動作を規定するカメラコマンドに変換する。そして、カメラ装置102による新たな画像(第2の画像)の撮影の際にこのカメラコマンドを実行する。このように、事前に撮影された画像に対するユーザの留意点を反映したアノテーション情報をカメラコマンドに変換して、カメラ装置102の動作に反映させるため、繰り返し行われる撮影中に気づいた留意点をカメラ操作に自動的に反映させることができる。
(撮影処理)
図1から図9までを用いて、実施形態1に係る撮影システムによる処理手順について詳細に説明する。通常、シネマやドラマの撮影は、撮影スタジオのセットや役者のスケジュールなどに基づいて事前に計画された撮影計画に基づいて、撮影すべきショットの順番が決められる。ショットの順番は必ずしも脚本やシナリオの順番になるとは限らないが、いずれにしてもそれぞれのショットは901に示されるようなユニークなショットIDが付けられ、カメラ装置102にも予め設定される。
●カメラ装置102の動作
図7Aは、カメラ装置102において特定のショットの撮影が行われる際に実行される処理を説明する流れ図である。以下の各ステップは、カメラ装置102の不図示のCPUの制御により実行される。
最初に、S701において、ショットID901に基づいて、図9(a)に示すようなショットデータがカメラに設定される。S702では、S701で設定されたショットデータが有線接続された指示入力装置101へ送信される。S703において、撮影部304により撮影が開始される。次に、S704では、映像データ、例えば、ショットデータや映像データ、撮影設定、タイムコードなどの情報が逐次取得される。S705では、S704で取得した映像データを映像データ送信部312によりデータ蓄積装置103に対して出力が開始される。
この後、S706で指示入力装置101からの信号を受信し次第、S707においてアクションコール信号を、時間軸を一致させるための基準時間位置情報のメタデータとしてデータ蓄積装置103に映像データ送信部312により送信する。アクションコール信号とは、ショット及びテイクの開始を示す信号である。なお、ここでは、指示入力装置からの信号受信を契機として、アクションコール信号を送信する場合を説明しているが、これに限られない。例えば、監督の発するアクションコールを音声認識する手法や、撮影システムに対するスイッチ操作やジェスチャー認識する手法などを用いて、認識されたタイミングでアクションコール信号を送信しても構わない。後述するように、データ蓄積装置103は、アクションコール信号の受信に応じて映像データの蓄積を開始する。
続けて、S708からS711までのステップが呼出部308にて実行される。まず、S708で操作入力部306からの入力があると判別された場合(S708でYES)、S709で変換部307により操作入力がカメラコマンドに変換される。次に、S710で記録部311にアクションコールを基準とする時間位置と共にカメラコマンドが記録され、S712で実行される。S712の処理を終えるとS713へ進む。
S708でカメラ操作入力がないと判断された場合(S708でNO)は、S711へ進む。S711では記録部311に記録されたカメラコマンドの中から、アクションコールを基準とする時間位置が一致するものがあるか否かを判定する。一致するものがある場合(S711でYES)は、そのカメラコマンドを呼び出し、S712で実行される。S712の処理を終えるとS713へ進む。一方、S711で一致するものがないと判定された場合(S711でNO)はS713へ進む。
以後、S713において撮影終了までショットの撮影が継続される。なお、カメラコマンドは、図9(a)に示すショットデータを基にシーケンス番号902、シーン番号903、ショット番号904及びそれらの組み合わせを単位として記録する構成とし、それらを呼び出す流れであってもよい。また、カメラ操作入力の判断S708と記録済カメラコマンドの判断S711の順序はこれに限るものではなく、その順序を選択的に入れ替え可能としてもよい。
●指示入力装置101の動作
図7Bは、カメラ装置102と接続された指示入力装置101において、ショットの撮影が行われる際に実行される処理を説明する流れ図である。以下の各ステップは、指示入力装置101の不図示のCPUの制御により実行される。S714においてカメラ装置102からショットデータを受信すると、S715においてショットデータの表示を行う。次に、撮影が開始された後に、S716において、クラップボードの操作が行われたか否かを判定する。操作が行われた場合(S716でYES)にはS717に進み、カメラ装置102に対してクラップボード信号を送信し、処理を終了する。前述のように、指示入力装置101の操作に応じて、クラップボード信号がカメラ装置102へ送信され、それに応じてカメラ装置102からデータ蓄積装置103へアクションコール信号が送信されて、映像データの蓄積が開始される。つまり、指示入力装置101の操作は映像データの蓄積開始の契機となる。
●データ蓄積装置103の動作
図7Cは、データ蓄積装置103において、ショットの撮影が行われる際に実行される処理を説明する流れ図である。以下の各ステップは、データ蓄積装置103のCPU401の制御により実行される。S718においてカメラ装置102からの映像データの入力の開始を待ち、映像データの入力が開始されると(S718でYES)、S719において映像データの入力を開始する。
次に、S720ではS719で入力された映像データから映像データを取り出し、情報入力装置104に送信を開始する。S721ではカメラ装置102からのアクションコール信号を入力する。S719、S720で入力された映像データ及びアクションコールを含むメタデータは、S722においてデータ蓄積部317に逐次蓄積される。
以後、映像データが入力されS722でデータが蓄積されている間に、S723において情報入力装置104からのアノテーション情報の入力があったか否かを判定する。アノテーション情報の入力があった場合(S723でYES)には、S724において、このアノテーション情報を受信する。S725ではS724で受信したアノテーション情報を撮影中のショットデータと関連付けてデータ蓄積部317に蓄積し、S726へ進む。S726では撮影(映像データの入力)の終了を判定し、撮影終了と判定された場合(S726でYES)は処理を終了する。撮影終了と判定されなかった場合(S726でNO)はS723に戻って、処理を継続する。このようにして、アノテーション情報の入力と蓄積を繰り返す。一方、S723でアノテーション情報の入力がないと判定された場合(S723でNO)は、S726へ進む。
●情報入力装置104の動作
図7Dは、情報入力装置104において、ショットの撮影が行われる際に実行される処理を説明する流れ図であり、図6A〜図6Cは、ショットの撮影が行われる際の情報入力装置104の画面例を示している。図7Dの各ステップは、情報入力装置104のCPU501の制御により実行される。
S727では、データ蓄積装置103から送信された映像データ、即ちカメラ装置102で撮影中の映像の受信を開始し、S728において、情報入力装置104の映像の画面602に表示を開始する。
ここで、撮影中の映像の画面602において、監督やスタッフが何らかのアノテーション情報を付加したい場合には、画面602上をタッチする。これにより、アクションコールを開始時間(0秒)としたときのタッチが行われた時間と、タッチされた画面上の座標位置についてのアノテーション情報が生成される。S729では、このようなアノテーション情報の入力の有無を判定する。入力があったとき(S729でYES)はS730へ進み、入力がなかったとき(S729でNO)はS732へ進む。画面602上のタッチ等によりアノテーション情報が生成されたときは、アノテーション情報の入力が有りと判定され(S729でYES)、S730へ進む。
S730では、アノテーションの種類情報が取得される。アノテーションの種類情報とは、アノテーションの種類を特定する情報であり、本実施形態では、複数レベルの階層によりカテゴリ化されている。図9(b)に示す大分類909、小分類910、タグ911などの情報は、アノテーションの種類情報の具体例を示している。これらのアノテーションの種類情報は、ショートカットボタン604に予め対応づけられている。即ち、画面上をタッチする前あるいは後に、ショートカットボタン604を選択タッチすることで決定される。この際、ショートカットページの移動ボタン605、606を操作して、画面をスクロールさせて選択可能なショートカットボタン604を切り替えて、さらに詳細なアノテーションの種類やテキストによるアノテーション情報を入力することもできる。図9(b)に示すように、アノテーション情報には、肯定的(Good)であるか否定的(NG)であるかを示す情報を含む。また、アノテーション情報にはカメラコマンドに関する分類(フォーカスや露出)も含む。なお、「良い」、「Yes」、「そのまま」等を肯定的な単語として扱ってもよい。また、「悪い」、「No」、「ダメ」、「変える」等を否定的な単語として扱ってもよい。また、何を否定的な単語とするかは任意であり、予め定められた単語が選択されると修正指示であると判断してもよい。
S731では、確定されたアノテーション情報がデータ蓄積装置103に送信され、撮影中のショットと対応付けて蓄積される。例えば、図6Aにおいて、主人公のバストショットを撮影中に、カメラ操作者が実行した主人公の顔にフォーカスを当てるカメラコマンドに対して、画面を確認中の監督が、主人公の腕にフォーカスを当ててほしいという指示をしたいとする。この場合、当該ショットにアノテーション情報を付ける場合を以下に説明する。図6Bにおいて、アノテーション情報を付加するために、監督は画面上の主人公の腕があった607の場所をタッチして、カーソルマークを表示させる。これらの処理により、アクションコールを基準とする時間位置907及び画面上の座標位置908が確定される。その後、図6Cにおいて、ショートカットボタン608をタッチすることで、大分類909、小分類910、タグ911などの情報が確定し、蓄積される。
このような処理を、S732において、映像データの終了が判定される(S732でYES)まで繰り返す。すなわち、S732では撮影映像の終了の有無を判定し、終了と判定されたとき(S732でYES)は処理を終了し、終了と判定されなかったとき(S732でNO)はS729へ戻って処理を継続する。
このように、図6A、図6B、図6C及び図7A、図7B、図7C、図7Dで説明した操作を繰り返すことにより撮影中のそれぞれのショットに対応するアノテーション情報がデータ蓄積装置103に蓄積されていく。すなわち、情報入力装置104は、画像に対するユーザからの指示を受け付ける受付処理を行うとともに、当該指示を画像に対するアノテーション情報としてデータ蓄積装置103に保持させる。なお、ここでは、ショートカットボタンに予めアノテーションの種類情報が対応付けられている場合の例を説明したが、詳細なアノテーション入力によって入力されたテキストを認識することでアノテーションの種類情報を確定するようにしてもよい。テキストはソフトウェアキーボード等によって入力される。
(変換処理)
次に、図8及び図9を参照して、実施形態1におけるアノテーション情報をカメラコマンドへ変換する処理の流れについて説明する。ショットの撮影が終了すると図8で示す処理が実行される。図8の各ステップは、データ蓄積装置103のCPU401の制御により実行される。
まず、S801において、撮影が終了したショットに付けられたアノテーション情報の抽出を行う。具体的には、同じショットIDが付されたアノテーション情報を抽出する。例えば、RC01−S12−S09が付されたアノテーション情報は、図9(b)に示すレコード群912である。
次に、S802からS807の処理を繰り返し、抽出された各々のアノテーションについて、S803からS806までの処理を実行する。
S803では、アノテーション情報を読み出す。次に、S804で、読み出したアノテーション情報に基づいて、当該アノテーション情報がカメラコマンド生成の対象であるか否かを識別する。ここで、カメラコマンド生成対象に当たるかは、アノテーション情報の特定の項目が、カメラコマンドに関連する情報(設定情報)に該当するか否かに基づいて識別する。例えば、図9(b)の例では、大分類でカメラワークとなっているアノテーション情報がコマンド生成対象となる。アノテーション情報がコマンド生成対象となるかは小分類で判断してもよい。例えば、フォーカスや露出、ズーム等のカメラの設定に関するものがコマンド生成対象のアノテーション情報である。
S804では、まず、アノテーション情報の中で、図9(b)に示す大分類909が「カメラワーク」であり、タグ911が「NG」であるアノテーションIDが0017のアノテーション情報913をカメラコマンドの生成対象と識別する。なお、「NG」とは、撮影が良好でなく、再度の撮影(画像の撮り直し)を必要とすることを意味する。「GOOD」とは、撮影が良好であり、画像の撮り直しが不要であることを示す。
次に、S804で対象として識別されたアノテーションにつき、S805において、アノテーション情報に基づきカメラコマンドを生成する。本実施形態例では、小分類910の内容に応じて、適宜、時間位置907、座標位置908等の値に基づき、カメラコマンドを生成する。例えば、図9(b)に示す913のレコードは、小分類910がフォーカスである。そこで、S805で時間位置907が示す撮影時刻に、座標位置908が示す位置に自動でフォーカスを合わせるオートフォーカス処理を実行しないことを示すカメラコマンドを生成する。なお、タグが示す情報が否定的であるため、このようなオートフォーカスを実行しないカメラコマンドが生成される。S806において、生成されたカメラコマンドをカメラ装置102へ送信する。
なお、アノテーションID0020のアノテーション情報を対象として、カメラコマンドを生成する場合は、肯定的なタグが付されているため、オートフォーカス処理を実行することを示すカメラコマンドを生成する。すなわち、時間位置907が示す撮影時刻に、座標位置908が示す位置に自動でフォーカスを合わせるオートフォーカス処理を実行することを示すカメラコマンドを生成する。
このようにして生成されたカメラコマンドは、データ蓄積装置103のカメラコマンド送信部321から送信され、カメラ装置102のカメラコマンド受信部313で受信され、記録部311に記録される。ここで、受信したカメラコマンドに含まれる時間位置と同様なカメラコマンドが既に記録されている場合は、受信したカメラコマンドに上書きする処理を実行してもよい。また、上記時間位置と同様であるという判断は予め定められた時間Tの前後の範囲を基準としてもよい。並びに、同一ショットの繰り返し撮影を行う際には記録部311に記録されたカメラコマンドが当該カメラコマンドに付けられた時間位置に従って呼出部308で呼び出されてもよい。即ち、当該カメラコマンドが実行部309で読みだされて実行されることで、アノテーション情報が指し示す留意点を反映したカメラ操作の実行が可能となる。例えば、カメラコマンドがフォーカスに関するコマンドであった場合、実行部309は、例えば、カメラコマンドが示すタイミングに、カメラコマンドが示す位置にフォーカスを合わせるよう撮影部304を制御する。また、カメラコマンドがズームに関するコマンドであった場合、実行部309は、例えば、カメラコマンドが示すタイミングに、カメラコマンドが示すズーム倍率となるように撮影部304を制御する。
以上のように、本実施形態においては、撮影中に操作者(監督等)の留意点に基づき情報入力装置104に入力されたアノテーション情報を、実行部309が実行可能なカメラコマンドに変換する。このため、類似するシチュエーションにおける過去のショット撮影の際の留意点に基づいたカメラ操作が可能となる。
なお、本実施形態においては、カメラコマンドとして、フォーカス操作を例に挙げたが、これに限られない。例えば、ズーム倍率操作、絞り値、ホワイトバランス、手ぶれ補正の有無、ISO感度などのカメラ系の調整操作や、チルト、パンなどのカメラ本体の位置操作を実行する構成でもよい。
また、本実施形態においては、アノテーション情報に含まれる情報(付帯情報)を選択されたショートカットボタンから設定するようにした。しかし、付帯情報の設定の手法としては、テキスト入力や音声入力、タッチ操作のジェスチャー入力などでもよい。また、カメラコマンドを生成する際に参照するアノテーション付帯情報も座標位置に限られない。テキストによる操作値の入力が付帯情報として記録されるとしてもよい。また、例えば、座標位置に対してオブジェクトの検出を行い、当該オブジェクトの存在する座標位置に対してカメラコマンドを生成するようにしてもよい。
また、本実施形態においては、本撮影システムが複数の装置から構成される場合の例を説明したが、何れかの装置が他の装置を包含する構成としてもよく、さらには単一の装置による構成としてもよいことは言うまでもない。
<<実施形態2>>
前述の実施形態1においては、カメラ操作に関して具体的な修正指示を含むアノテーション情報をカメラコマンドに変換していた。これに対して、本発明の第二の実施形態(実施形態2)においては、アノテーション情報から修正指示の有無を判断し、カメラコマンド変換手法を切り替える。
(機能構成)
図10は、実施形態2による撮影システムの全体の機能ブロックを説明する図である。ここで、カメラ装置102以外の機能構成は実施形態1の図3と同様であるので説明は省略する。また、カメラ装置102においては、302から313までの機能ブロックは実施形態1と同様である。実施形態2では、ファインダ画面303にカメラ操作における入力支援情報を表示するためのカメラ操作入力支援表示部1001が追加されている。カメラ操作入力支援表示部1001における表示処理は、実行部309が表示に関するカメラコマンドを実行することで動作する。このような構成において、本実施形態に係る撮影システムは、データの蓄積及びアノテーション情報の付与を、実施形態1と同様に図7A〜図7Dで示される処理手順と同様の手順に従い実行する。
(変換処理)
図11は、アノテーション情報をカメラコマンドに変換する際の、データ蓄積装置103において実行される処理を説明する流れ図である。ショットの撮影が終了すると、図11で示す処理が実行される。処理の大部分の流れは、実施形態1における図8の動作と同様であるが、図11では、アノテーションが修正指示を含むか判別するステップS1105、及びカメラ表示に関するカメラコマンドを生成するステップS1107が追加されている。
図12A、図12B、図12C、図12D、図12Eは、実施形態2において、ショットの撮影を行うカメラ装置102のファインダ画面及び情報入力装置104の操作画面を説明する図である。図13は、図12A、図12B、図12C、図12D、図12Eで示した操作が行われた際にデータ蓄積装置103に蓄積されたアノテーション情報のサンプルを示す図である。以下、図11から図13を用いて、実施形態2におけるアノテーション情報をカメラコマンドに変換する処理の流れについて説明する。図11の各ステップは、データ蓄積装置103のCPU401の制御により実行される。
図12Aは、テイク1撮影の際のカメラ操作者のカメラ装置102におけるファインダ画面303を示し、図12Bは、監督の情報入力装置104におけるアノテーション情報を入力する様子を示した図である。図12Aに示すように、カメラ操作者は主人公の顔にフォーカスをあてるようなカメラ操作1201を実行し、一方で監督は、図12Bに示すように、主人公の腕にフォーカスを当てる指示を撮影システムに入力する場合を考える。このとき監督は、画面上の主人公の腕があった1202の場所をタッチして、ショートカットボタン1203をタッチし、修正指示を含む否定的なアノテーションを付加する。
ここでのアノテーション情報は、図13の1301に示すレコードとして記録される。続けて、テイク1撮影終了と共に、図11に示すアノテーション変換処理が実行される。まず、S1101においてアノテーション情報を抽出し、次に、S1102〜S1109において、S1103〜S1108の処理を、抽出したアノテーション情報毎に実行する。まず、S1103において、アノテーションに含まれる付帯情報を読み出す。
次に、S1104で、読み出した付帯情報に基づきアノテーション情報1301がカメラコマンド生成の対象であるか否かを識別する。カメラコマンド生成の対象である場合(S1104でYES)はS1105へ進み、対象でない場合(S1105でNO)はS1109へ進んで、次のアノテーション情報に対して処理を進める。アノテーション情報1301の例では、S1103で読み込まれた付帯情報の中で図13に示す大分類909が「カメラワーク」であり、タグ911が「NG」であることから、カメラコマンド生成対象として識別される(S1104でYES)。そこで、S1105へ進む。
S1105では、カメラコマンドの生成対象であるアノテーション情報に監督からの修正指示が含まれているか否かを判定する。修正指示が含まれているか否かは、タグやコメントに否定的な単語が含まれているか否かで判断することができる。否定的な単語の例は第1実施形態と同様であるが、予め定められた単語が選択されると修正指示であると判断してもよい。修正指示が含まれていると判断した場合(S1105でYES)はS1106でカメラ操作コマンドを生成し、S1108でこのカメラ操作コマンドをカメラ装置102へ送信する。カメラ操作コマンドとは、カメラワークに係る動作を規定するカメラコマンドである。修正指示が含まれていない場合(S1105でNO)はS1107でカメラ表示コマンドを生成し、S1108でこのカメラ表示コマンドをカメラ装置102へ送信する。カメラ表示コマンドとは、カメラ装置102のファインダ表示部305にカメラ装置102の操作を支援するための表示を行わせるカメラコマンドである。
上記のアノテーション情報1301の例では、図13に示す座標位置908が記録されており、フォーカスを示す情報が否定的な単語と関連付けられて入力されているから、S1105では修正指示を含むと判別される(S1105でYES)。そこで、S1106において、小分類910に「フォーカス」が設定されているアノテーションの付帯情報1301に対応するカメラコマンドを実行する。具体的には、この付帯情報1301に含まれる時間位置907(「00:00:45:20」)及び座標位置908(「(400,300)」)を基準としたオートフォーカス処理を実行するためのカメラコマンドを生成する。S1108では、S1106で作成したカメラ操作コマンドをカメラ装置102へ送信する。上記処理により、テイク2撮影の際には、図12Cに示すようなアノテーションにおける修正指示に基づいたオートフォーカス操作1204が可能となる。
次に、カメラ表示コマンドを生成する場合の動作例を説明する。図12Dは、図12Bと同様に、テイク1撮影の際の監督の情報入力装置104におけるアノテーション指示を示した図である。ここでは、フォーカス操作のやり直し指示を表すため、ショット映像画面をタッチせずにショートカットボタン1205をタッチすることで、具体的な修正指示を含まない否定的なアノテーションを付加した場合を説明する。この際のアノテーション情報は、図13の1302に示すレコードとして記録される。続けて、テイク1撮影終了と共に図11に示すアノテーション変換処理が実行される。S1101から処理が開始され、S1103においてアノテーション付帯情報1302が読み出される。S1104では、アノテーション付帯情報1302の中で図13に示す大分類909が「カメラワーク」であり、タグ911が「NG」であることから、カメラコマンド生成対象として識別され(S1104でYES)、S1105へ進む。
次に、S1105では、アノテーション付帯情報1302の座標位置908に記録がなされていないことから、具体的な修正指示を含まない(S1105でNO)と判別される。そこで、S1107へ進む。
S1107では、アノテーションの付帯情報1302の小分類910に対応するコマンドを生成する。上記の例では、付帯情報1302の時間位置907(「00:00:45:20」)において、カメラ操作者がフォーカス操作をするためのGUI等のメニュー画像を表示することを示す操作支援表示カメラコマンドを生成する。S1108では、生成した操作支援表示カメラコマンドをカメラ装置102へ送信する。
このようにして、テイク2撮影の際には、当該送信されたフォーカス操作に関する操作支援表示カメラコマンドが実行される。つまり、テイク1の撮影の際に指摘したタイミングでファインダ画面の表示形態を図12Eに示すようなフォーカス操作画面1206のGUIを含む画面に変更すると共に、フォーカス操作を容易に行えるようなパネル1207を表示することが可能となる。なお、操作支援表示の手法は本形態に限るものではなく、アノテーション情報を重畳表示し注意喚起するもの等でもよい。
以上説明したように、本実施形態によれば、アノテーション情報から修正指示(修正されたカメラワークの指示)の有無を判断し、判断結果に応じてカメラコマンド変換手法を切り替え実行する。このため、類似するシチュエーションにおける過去のショット撮影の際の留意点に基づいたカメラ操作とその支援との両方を実現することが可能となる。
なお、本実施形態においては、修正指示の有無の判別として、アノテーション付帯情報に座標位置が含まれるか基準とする例を挙げたが、これに限られない。例えば、修正指示の有無を明示的に付加するショートカットボタンを設けてもよい。あるいは、付加された座標位置において人物等のオブジェクトの検出を行い、オブジェクトが存在する場合は、具体的な修正指示であると判断し、存在しない場合は、具体的な修正指示がないと判断して操作支援表示カメラコマンドを生成するようにしてもよい。
さらに、本実施形態においては、アノテーション情報に含まれる時間情報が示すタイミングに操作支援表示が実行されるようなカメラコマンドを生成する構成を説明した。しかし、アノテーションの付加されるタイミングがカメラ操作実行のタイミングより遅れることを考慮して、アノテーションが付加されたタイミングより、予め定められた所定時間T秒前に予告表示してもよい。
<<実施形態3>>
前述の実施形態1、実施形態2においては、類似するシチュエーションにおける直近のショット撮影の際に付加されたアノテーション情報をカメラコマンドに変換する構成について説明した。本発明の第三の実施形態(実施形態3)においては、類似するシチュエーションにおける過去の全てのショット撮影の際に付加されたアノテーション情報を対象として、カメラコマンドへ変換する構成を説明する。
(機能構成)
図14は、実施形態3による撮影システムの全体の機能ブロックを説明する図である。ここで、カメラ装置102及びデータ蓄積装置103以外の構成は実施形態2の図3と同様であるので詳細な説明は省略する。
カメラ装置102の構成に関して、302から313まで及び1001の機能ブロックは、図10を参照して説明した実施形態2と同様である。実施形態3では、記録部311に記録されているカメラコマンドをデータ蓄積装置103へ送信するカメラコマンド送信部1401がカメラ装置102に追加されている。
データ蓄積装置103は、カメラ装置102から送信されたカメラコマンドを受信するカメラコマンド受信部1402を備えている。データ蓄積装置103は、カメラコマンド受信部1402で受信したカメラコマンドを、映像データ受信部314で受信した映像データと関連付けられたショットデータとして、データ蓄積部317に蓄積する。このような構成をとることで、各ショット撮影の際のカメラコマンドの履歴を蓄積することが可能となる。また、データ蓄積装置103は、データ蓄積部317に蓄積されたショットデータから関連ショットに対応するカメラコマンドを抽出するカメラコマンド抽出部1403を備える。カメラコマンド抽出部1403によるカメラコマンドの抽出は、映像データ受信部314によって受信したショットに関連するもの関連ショットとして、例えば、同じショットに属する他のテイクや、前後のショットに属するテイク等が抽出される。
(撮影処理)
図15A、図15B、図15C、図15Dは、ショットの撮影が行われる際の、カメラ装置102、指示入力装置101、データ蓄積装置103、及び情報入力装置104のそれぞれにおいて実行される処理を説明する流れ図である。図16は、実施形態3の構成による、アノテーション情報をカメラコマンドに変換する処理を説明する流れ図である。図17A、図17B、図17C、図17D、図17Eは、実施形態3において、ショットの撮影を行うカメラ装置102のファインダ画面及び情報入力装置104の操作画面を説明する図である。図18は、図17A、図17B、図17C、図17D、図17Eで示した操作が行われる際の、データ蓄積装置103に蓄積されたアノテーション情報のサンプルを示す図である。以下、図15から図18を用いて、実施形態3に係る構成による処理について詳細に説明する。
図15Aは、カメラ装置102において特定のショットの撮影が行われる際に実行される処理を説明する流れ図である。図15Aの各ステップは、カメラ装置102の不図示のCPUの制御により実行される。S1501からS1513は、実施形態1の図7AのS701からS713と同様のため説明を省略する。S1514においては、記録部311に記録されているカメラコマンドをデータ蓄積装置103に送信する。
図15Cは、データ蓄積装置103において、ショットの撮影が行われる際に実行される処理を説明する流れ図である。図15Cの各ステップは、データ蓄積装置103のCPU401の制御により実行される。S1519からS1527は実施形態1の図7CのS718からS726と同様のため説明を省略する。S1528では、ショット撮影において実行されたカメラコマンドをカメラ装置102から受信する。S1529では、S1528で受信したカメラコマンドを撮影中のショットデータと関連付けてデータ蓄積部317に蓄積する。
図15B及び図15D、即ち指示入力装置及び情報入力装置の動作については、実施形態1の図7B及び図7Dと同様のため、説明を省略する。このように、図15A及び図15Cで説明した操作を繰り返すことにより、撮影中のそれぞれのショット撮影の際に実行されたカメラコマンドがデータ蓄積装置103に蓄積されていく。
(変換処理)
次に、図16から図18を用いて、実施形態3におけるアノテーション情報をカメラコマンドに変換する処理の流れについて説明する。図17Aは、テイク1撮影の際のカメラ操作者におけるファインダ画面303を示した図であり、図17Bは、監督の情報入力装置104におけるアノテーション指示を示した図である。
まず、図17Aに示すように、カメラ操作者は主人公の顔にフォーカスをあてるようなカメラ操作1701を実行した場合を説明する。この際、図17Bに示すように監督が、フォーカス操作が良好であったことを表すため、ショートカットボタン1702をタッチすることで、肯定的なアノテーションを付加したとする。ここでのアノテーション情報は、図18に示すレコード1801として記録される。
次に、テイク2撮影の際、図17Cに示すようにカメラ操作者が同タイミングのカメラ操作として、主人公の腕にフォーカスをあてるようなテイク1撮影の際とは異なるカメラ操作1703を実行した場合を説明する。この際、図17Dに示すように監督がフォーカス操作のやり直し指示を表すため、ショット映像画面をタッチせずにショートカットボタン1704をタッチすることで、具体的な修正指示を含まない否定的なアノテーションを付加したとする。ここでのアノテーション情報は、図18の1802に示すレコードとして記録される。
以上の操作終了後、即ちテイク2撮影終了と共に図16に示すアノテーション変換処理が実行される。図16の各ステップは、データ蓄積装置103のCPU401の制御により実行される。
まず、S1601から処理が開始されると共に、S1602で前述の通り近似するアノテーションがグルーピングされる。アノテーション情報の位置情報における近似の判定については、様々な手法を用いることが可能である。一例として、本実施形態では、複数のアノテーション情報について、図18に示す小分類910が同一であり、時間位置907が、予め定められた判定基準値、例えば1秒を超えないならば、これらのアノテーション情報は近似すると判定する。例えば、図18に示すアノテーション情報においては、レコード1801及び1802は、大分類909、小分類910、時間位置907が同一であるから、同一グループとしてグルーピングされることになる。
次に、S1603〜S1615において、S1604〜S1614の処理をアノテーション情報のグループの各々に対して実行する。S1604では、最近傍テイク撮影の際に付けられたアノテーション情報、即ちテイク2に付けられたアノテーションのレコード1802を選択する。
S1605で当該選択されているアノテーションの付帯情報を読み出し、S1606においてこのアノテーション情報がカメラコマンドの生成対象であるか否かを判定する。カメラコマンドの生成対象ならば(S1606でYES)S1607へ進み、生成対象でないならば(S1606でNO)S1615へ進む。一例として、アノテーション情報1802の大分類909が「カメラワーク」であることより、カメラコマンド生成対象として識別される。
S1607ではS1605で読み出したアノテーション情報のタグ911を参照して、当該アノテーション情報に係るショットが肯定的か否かを判定する。肯定的である(タグ911が「GOOD」)ならば(S1607でYES)はS1608へ進み、肯定的でない(タグ911が「NG」)ならば(S1607でNO)はS1609へ進む。上記の例では、アノテーションの付帯情報1802のタグ911は「NG」であるから、肯定的なアノテーションでないと判別され(S1607でNO)、S1609へ進む。
S1609ではアノテーション情報に監督からの具体的な修正指示が含まれているか否かを判定する。含まれているとき(S1609でYES)はS1610へ進み、含まれていないとき(S1609でNO)はS1611へ進む。上記の例では、アノテーション情報1802には座標位置908が記録されていないことから、具体的な修正指示を含まないと判別される。
S1611では、当該選択されているアノテーション情報より前に撮影した前テイクを撮影した際に付されたアノテーション情報が存在するか否かを判定する。存在するとき(S1611でYES)はS1612へ進み、存在しないとき(S1611でNO)はS1613へ進む。上記の例では、S1611において、テイク1撮影の際に付けられたアノテーションのレコード1801があると識別される(S1611でYES)。
S1612では前テイクのアノテーションを選択して、S1605へ戻る。上記の例では、テイク1撮影の際に付けられたアノテーションのレコード1801が選択され、続けて、選択されているアノテーションのレコード1801に対して、S1605から処理が繰り返される。
S1608では、カメラコマンド抽出部1403が、当該アノテーション情報に対応するカメラコマンドをデータ蓄積部317から抽出する。そして、S1614へ進む。上記の例では、S1607で肯定的と判定されると、S1608で当該アノテーションが付加された時間位置にテイク1の撮影の際に実行されたフォーカス制御のカメラコマンドが抽出される。
S1614では、抽出ないし生成したカメラコマンドをカメラ装置102へ送信する。上記の例では、上記処理によりテイク3の撮影の際には、図17Eに示すように、テイク1の撮影の際と同じフォーカス操作1705、すなわち、主人公の顔にフォーカスが向けられた撮影を行うことが可能となる。
S1610では、図8のS805、図11のS1106と同様に、カメラ操作コマンドを生成し、S1614へ進む。S1613では図11のS1107と同様にカメラ表示コマンドを生成し、S1614へ進む。
以上説明したように、本実施形態によれば、類似するシチュエーションにおける過去全てのショット撮影の際に付加されたアノテーション情報を対象としてカメラコマンドへ変換することが可能となる。即ち、類似するシチュエーションの繰り返し撮影において、各テイクにおいて様々変換するカメラ操作及びアノテーションによる指摘へ柔軟に対応した、ショット撮影の際の留意点に基づいたカメラ操作及びその支援が同時に可能となる。
また、本実施形態では、事前に画像を撮影した際のカメラ装置102のカメラワークに対応するカメラコマンドを記録しておき、アノテーション情報の変換の際は、事前の撮影が良好なときは、該アノテーション情報をこの記録されたカメラコマンドに変換する。このため、最適なカメラコマンドに迅速に変換することが可能となる。
また、本実施形態では、事前に撮影された複数の画像の各々についてアノテーション情報を取得し、撮影が良好であることを示すアノテーション情報のうち、最も新しく取得された画像に関するものを、当該画像について記録されたカメラコマンドに変換する。このため、予め複数の撮影が行われているときは、そのうち良好な撮影条件を再現して撮影を行うことが可能となる。
なお、本実施形態においては、アノテーション情報のグルーピングについて、付帯情報として含まれる分類及び時間位置が近似しているか否かの判定に基づいて行った。しかし、図18に示すその他の付帯情報に基づいて判定してもよい。また、図16に示すカメラ表示コマンド生成ステップS1613において、カメラコマンド抽出部1403を用いて、関連するカメラコマンドを抽出し、前テイク撮影の際に実行したカメラ操作を参考情報として表示するような表示コマンドを生成してもよい。
<<その他の実施形態>>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101:指示入力装置、102:カメラ装置、103:データ蓄積装置、104:情報入力装置

Claims (8)

  1. 撮影手段により画像を撮影する撮影システムであって、
    前記撮影手段によって撮影された複数の第1の画像の各々について、当該第1の画像を撮影した際の前記撮影手段のカメラワークに対応するカメラコマンドを記録している記録手段と、
    前記複数の第1の画像の各々に対してユーザによって入力されたアノテーション情報を取得する取得手段と、
    前記取得手段により取得されたアノテーション情報がカメラワークに関する情報を含む場合に、前記取得されたアノテーション情報がカメラコマンド生成対象であると判断する判断手段と、
    メラコマンド生成対象と判断され、撮影が肯定的であることを示すアノテーション情報のうち、最も新しく取得された画像に関するアノテーション情報に対応するカメラコマンドを前記記録手段から抽出することにより、前記撮影手段の動作を規定するカメラコマンドを生成する生成手段と、
    前記第1の画像よりも後に第2の画像を撮影する場合に、前記カメラコマンドに基づく動作を前記撮影手段に実行させる実行手段とを備えることを特徴とする撮影システム。
  2. 前記第1の画像及び第2の画像は動画像であることを特徴とする請求項1に記載の撮影システム。
  3. 前記第1の画像に対して、ユーザからのアノテーション情報の入力を受け付ける受付手段と、
    前記受付手段が受け付けたアノテーション情報を前記第1の画像に対するアノテーション情報として保持する保持手段と
    を更に備えることを特徴とする請求項1又は2に記載の撮影システム。
  4. 前記取得手段は、前記複数の第1の画像に対する複数のアノテーション情報を新しい順に取得し、
    前記生成手段は、前記取得手段により取得されたアノテーション情報がカメラコマンド生成対象と判断され、否定的な情報を含カメラワークに関する修正提案を含む場合には、前記カメラワークに関する前記修正提案に基づいた設定を示すカメラコマンドを生成することを特徴とする請求項1から3のいずれか1項に記載の撮影システム。
  5. 前記複数の第1の画像に対する複数のアノテーション情報の中に、カメラコマンド生成対象と判断され、撮影が肯定的であることを示すアノテーション情報、および、カメラコマンド生成対象と判断され、否定的な情報を含み、カメラワークに関する修正提案を含むアノテーション情報が存在しない場合、前記生成手段は、カメラワークを設定する操作をユーザに行わせるためのGUIを表示手段に表示させるカメラコマンドを生成することを特徴とする請求項4に記載の撮影システム。
  6. 前記第2の画像は、所定のコンテンツにおいて、前記第1の画像と置き換え可能な画像であることを特徴とする請求項1からのいずれか1項に記載の撮影システム。
  7. 撮影手段により画像を撮影する撮影システムの制御方法であって、
    前記撮影手段によって撮影された複数の第1の画像の各々について、当該第1の画像を撮影した際の前記撮影手段のカメラワークに対応するカメラコマンドを記録手段に記録する記録工程と、
    前記複数の第1の画像の各々に対してユーザによって入力されたアノテーション情報を取得する取得工程と、
    前記取得工程で取得されたアノテーション情報がカメラワークに関する情報を含む場合に、前記取得されたアノテーション情報がカメラコマンド生成対象であると判断する判断工程と、
    メラコマンド生成対象と判断され、撮影が肯定的であることを示すアノテーション情報のうち、最も新しく取得された画像に関するアノテーション情報に対応するカメラコマンドを前記記録手段から抽出することにより、前記撮影手段の動作を規定するカメラコマンドを生成する生成工程と、
    前記第1の画像よりも後に第2の画像を撮影する場合に、前記カメラコマンドに基づく動作を前記撮影手段に実行させる実行工程とを有することを特徴とする撮影システムの制御方法。
  8. コンピュータを請求項1からのいずれか1項に記載の撮影システムが備える各手段として機能させるためのコンピュータプログラム。
JP2015147081A 2015-07-24 2015-07-24 撮影システム及びその制御方法、コンピュータプログラム Active JP6602080B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015147081A JP6602080B2 (ja) 2015-07-24 2015-07-24 撮影システム及びその制御方法、コンピュータプログラム
US15/214,527 US10129457B2 (en) 2015-07-24 2016-07-20 Control apparatus, method of controlling shooting apparatus, and computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015147081A JP6602080B2 (ja) 2015-07-24 2015-07-24 撮影システム及びその制御方法、コンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2017028585A JP2017028585A (ja) 2017-02-02
JP2017028585A5 JP2017028585A5 (ja) 2018-09-06
JP6602080B2 true JP6602080B2 (ja) 2019-11-06

Family

ID=57837485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015147081A Active JP6602080B2 (ja) 2015-07-24 2015-07-24 撮影システム及びその制御方法、コンピュータプログラム

Country Status (2)

Country Link
US (1) US10129457B2 (ja)
JP (1) JP6602080B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3934233B1 (en) 2019-03-27 2024-05-29 Sony Group Corporation Video processing device and video processing method
US11205457B2 (en) * 2019-09-12 2021-12-21 International Business Machines Corporation Automatic detection and remediation of video irregularities
JP2021144610A (ja) 2020-03-13 2021-09-24 キヤノン株式会社 情報処理装置、情報処理方法
CN114615362B (zh) * 2020-12-09 2023-07-11 华为技术有限公司 相机控制方法、装置和存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4426623B2 (ja) * 2005-06-01 2010-03-03 パイオニア株式会社 映像配信装置、映像配信方法、映像配信プログラム、および記録媒体
JP2012100214A (ja) * 2010-11-05 2012-05-24 Nikon Corp 撮像装置、補正プログラム及び記録媒体
JP5882764B2 (ja) 2012-02-01 2016-03-09 キヤノン株式会社 撮像装置および制御方法
US20150358513A1 (en) * 2013-01-28 2015-12-10 Nikon Corporation Electronic device

Also Published As

Publication number Publication date
US10129457B2 (en) 2018-11-13
US20170026566A1 (en) 2017-01-26
JP2017028585A (ja) 2017-02-02

Similar Documents

Publication Publication Date Title
JP6431257B2 (ja) ネットワークシステム及びネットワークデバイスの管理方法、ネットワークデバイスおよびその制御方法とプログラム、管理システム
JP4795193B2 (ja) 画像表示装置及びその制御方法及びプログラム
JP6602080B2 (ja) 撮影システム及びその制御方法、コンピュータプログラム
JP2012239028A (ja) 画像処理装置、画像処理方法及びプログラム
JP6702657B2 (ja) 映像処理装置、映像処理方法、及びプログラム
WO2011070764A1 (ja) 画像撮影装置
CN109895092B (zh) 信息处理装置、信息处理方法以及计算机可读介质
JP2019220829A (ja) 画像処理装置、画像処理方法及びプログラム
JP6203188B2 (ja) 類似画像検索装置
JP2019145984A (ja) 撮像装置、撮像装置の制御方法及びプログラム
RU2599260C2 (ru) Устройство обработки цифровых изображений и способ управления им
EP3576419A1 (en) Image processing apparatus, information processing apparatus, information processing method, and program
JP3372096B2 (ja) 画像情報アクセス装置
JP2016208268A (ja) 撮像装置、その制御方法、および制御プログラム
JP7317566B2 (ja) 撮像装置、その制御方法及びプログラム
JP2019101783A (ja) 情報処理装置及び方法
JP7077585B2 (ja) 情報処理システム、情報処理装置およびプログラム
JP7182893B2 (ja) 画像処理装置、撮影装置、画像処理方法、およびプログラム
US20240155226A1 (en) Information processing apparatus, control apparatus, and control method
JP2019149718A (ja) 撮像装置およびその制御方法、監視システム
US11528408B1 (en) Image capturing apparatus and control method for image capturing apparatus
EP4187912A1 (en) Camera control apparatus, camera control method, and non-transitory storage medium
KR101477535B1 (ko) 이미지 검색 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP7150590B2 (ja) 電子機器
US20230345107A1 (en) Imaging apparatus, information processing apparatus, information processing method, and program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180723

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190909

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191008

R151 Written notification of patent or utility model registration

Ref document number: 6602080

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151