JPWO2013145546A1 - 画像処理装置、およびコンピュータプログラム - Google Patents

画像処理装置、およびコンピュータプログラム Download PDF

Info

Publication number
JPWO2013145546A1
JPWO2013145546A1 JP2014507366A JP2014507366A JPWO2013145546A1 JP WO2013145546 A1 JPWO2013145546 A1 JP WO2013145546A1 JP 2014507366 A JP2014507366 A JP 2014507366A JP 2014507366 A JP2014507366 A JP 2014507366A JP WO2013145546 A1 JPWO2013145546 A1 JP WO2013145546A1
Authority
JP
Japan
Prior art keywords
information
image
moving image
controller
thumbnail
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014507366A
Other languages
English (en)
Other versions
JP5828117B2 (ja
Inventor
瀬戸 聡
聡 瀬戸
岡崎 芳紀
芳紀 岡崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2014507366A priority Critical patent/JP5828117B2/ja
Application granted granted Critical
Publication of JP5828117B2 publication Critical patent/JP5828117B2/ja
Publication of JPWO2013145546A1 publication Critical patent/JPWO2013145546A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • H04N1/212Motion video recording combined with still video recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/87Regeneration of colour television signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3226Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document of identification information or the like, e.g. ID code, index, title, part of an image, reduced-size image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3273Display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

ある実施形態における画像処理装置は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェースと、当該管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラとを備える。

Description

本開示は、動画像に関する代表画像を生成する電子機器に関する。
被写体を撮像することによって取得した撮像データに基づいて動画像データを生成するとともに、当該動画像データを示す静止画像(「サムネイル画像」または「代表画像」と呼ぶ。)を生成する撮像装置が知られている。
例えば、特許文献1は、動画像中の1つのフレームから作成したサムネイル画像に、動画像の特徴を表すマークを付与する技術を開示している。
特開2010−16729号公報
静止画像や動画像のコンテンツのサムネイル画像は、閲覧者が当該サムネイル画像からコンテンツの内容を容易に把握できるものであることが望ましい。
本開示は、ユーザにとってより好適なサムネイル画像を示す情報(以下、「サムネイル情報」と呼ぶことがある。)を作成することができる電子機器を提供する。
本開示の一態様における画像処理装置は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェースと、当該管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラとを備える。
本開示の技術によれば、ユーザにとってより好適な代表画像を生成することができる。
デジタルカメラ100の前面構成図である。 デジタルカメラ100の背面構成図である。 デジタルカメラ100の電気的な接続関係を示すブロック図である。 ダイジェスト動画の記録動作の概要を示す図である。 ダイジェスト動画のメニュー設定画面のイメージを示す図である。 メモリカード内のデータ構成例を示す図である。 管理データベースに記録される情報の例を示す図である。 ダイジェスト動画ファイルに記録される情報の構成を模式的に示す図である。 動画バッファリング処理を示すフローチャートである。 ダイジェスト動画のチャプター作成処理を示すフローチャートである。 ダイジェスト動画のサムネイル情報の作成または更新処理の概要を示すフローチャートである。 ダイジェスト動画のサムネイル情報の作成または更新処理の第1の例を示すフローチャートである。 管理情報に基づいて作成されるサムネイル画像の例を示す図である。 ダイジェスト動画のサムネイル情報の作成または更新処理の第2の例を示すフローチャートである。 ダイジェスト動画のサムネイル情報の作成または更新処理の第3の例を示すフローチャートである。 再生時のサムネイル画像の表示例を示す図である。 例示的な実施の形態2における通常の動画を記録する際のサムネイル情報の作成処理の概要を示すフローチャートである。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、発明者らは、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
(実施の形態1)
図1および図2は、本実施の形態におけるデジタルカメラ(撮像装置)100の前面および背面の構成をそれぞれ示す模式図である。図3は、デジタルカメラ100の内部構成の概略を示すブロック図である。
本実施の形態におけるデジタルカメラ100は、撮影モード、再生モード、設定モードといった複数のモードを有している。撮影モードには、通常撮影モードとダイジェスト動画記録モードとが含まれる。ダイジェスト動画記録モードにおいて、デジタルカメラ100は、動画像のデータをバッファメモリ205に常時記録する。その上で、ユーザからの指示(例えば、レリーズ釦110の押下による静止画の撮影指示、またはダイジェスト動画記録指示)をトリガーとして、バッファメモリ205に記録された動画像データの中から、指示のタイミング付近の所定期間の動画像のデータを、ダイジェスト動画ファイルとして記録する。静止画の撮影指示をトリガーとする場合、静止画の撮影の直前の数秒間の動画像データ、静止画の撮影の直後の数秒間の動画像データ、または静止画の撮影の直前および直後の数秒間の動画像データをメモリカード221等の記録媒体に記録する。あるいは、静止画の撮影を行うことなく、ダイジェスト動画の記録が指示されたタイミングの直前、直後、またはその両方における数秒間の動画像のデータをメモリカード221等の記録媒体に記録してもよい。
本明細書において、上記の所定期間(例えば、静止画撮影タイミングの直前および直後の数秒間)の動画像データの単体を「チャプター」と称する。チャプターは、新しく記録される度に所定の条件を満たすか否かが判定され、条件を満たす場合、これまでに記録されたチャプターに結合され、ひとまとまりの動画像ファイルとして記録される。このようにして作成された動画像ファイルを、「ダイジェスト動画ファイル」と称する。このように、既に記録されたダイジェスト動画ファイルに新たなチャプターの内容を取り込んでそのファイルを更新することを、そのチャプターをダイジェスト動画ファイルに「追記する」と表現する。デジタルカメラ100のコントローラ210は、チャプターが新しく生成される度に、このチャプターを既存のダイジェスト動画ファイルに追記するか、新規のダイジェスト動画ファイルに分割して記録するかを判定する。コントローラ210は、例えば所定期間(例えば1日)に作成されたチャプターをまとめて単一のダイジェスト動画ファイルに記録する。このような動画像データの記録モードを、「ダイジェスト動画記録モード」と呼ぶ。
本実施形態では、ダイジェスト動画記録モードに設定されているときには、さらに「サムネイル追加モード」に設定することができる。サムネイル追加モードは、1つのダイジェスト動画ファイルについて2つ以上のサムネイル情報の記録を許可するモードである。サムネイル追加モードに設定されているときには、チャプターごとにサムネイル情報を生成して記録することができる。
本実施の形態におけるデジタルカメラ100は、生成されるチャプターに対応して撮影時に生成される管理情報に基づいて、当該チャプターが記録されるダイジェスト動画に関する静止画像(サムネイル画像)を示すサムネイル情報を生成して記録媒体に記録する。これにより、ユーザにとってより好適なサムネイル情報を作成することができる。
以下、デジタルカメラ100の構成および動作をより具体的に説明する。
[1−1.構成]
まずは、図1〜3を参照しながら、本実施の形態によるデジタルカメラ100の構成を説明する。
図1に示すように、デジタルカメラ100は、前面に光学系200を納める鏡筒、フラッシュ113、AF(Auto Focus)補助光源114を備える。また、デジタルカメラ100は、上面にレリーズ釦110、ズームレバー111、電源釦112などを備える。
また、図2に示すように、デジタルカメラ100は、背面に液晶ディスプレイ204、およびメニュー釦120や十字釦121などを備える。本明細書では、レリーズ釦110、ズームレバー111、電源釦112、メニュー釦120、十字釦121といったユーザの操作を受け付けるための要素をまとめて「操作部」と呼ぶ。
図3は、デジタルカメラ100の電気的な接続関係を示している。デジタルカメラ100は、撮像部264、画像処理部203、液晶ディスプレイ204、バッファメモリ205、コントローラ210、フラッシュ(ストロボ)113、AF補助光源114、操作部223、フラッシュメモリ222、カードスロット220、通信インターフェース(IF)250、およびGPSユニット270を備えている。撮像部264は、光学系200、CCDイメージセンサ201、およびアナログ・フロント・エンド(AFE)202を有している。画像処理部203は、スルー画像生成部260、静止画像生成部261、および動画像生成部262を有している。図3には、メモリカード221も記載されているが、メモリカード221はデジタルカメラ100構成要素ではなく、カードスロット220に接続可能な外部記録媒体である。
デジタルカメラ100は、光学系200を介して形成された被写体像をCCDイメージセンサ201によって電気信号に変換する(撮像する)。これにより、CCDイメージセンサ201は、撮像面に形成された被写体像に基づく撮像データを生成する。撮像によって生成された撮像データは、AFE202および画像処理部203によって各種の処理を施され、画像データとなる。生成された画像データは、フラッシュメモリ222やメモリカード221といった記録媒体に記録される。フラッシュメモリ222やメモリカード221等に記録された画像データが示す画像は、使用者による操作部223での操作により、液晶ディスプレイ204上に表示される。
以下、図1から図3に示す各構成要素の詳細を説明する。
光学系200は、フォーカスレンズやズームレンズ、絞り、シャッタ等を含む。光学系200は、光学式手ぶれ補正のためのOIS(Optical Image Stabilizer)を含んでいてもよい。光学系200を構成する各種のレンズは何枚から構成されるものでも、何群から構成されるものでもよい。フォーカスレンズ、ズームレンズ、絞り、シャッタは、それぞれに対応するDCモータやステッピングモータ等の駆動機構により、コントローラ210から通知された制御信号に従って駆動される。
CCDイメージセンサ201は、光学系200によって形成された被写体像に基づいて撮像データを生成する撮像素子である。CCDイメージセンサ201は、一定時間ごとに新しいフレームの画像データを生成する。また、CCDイメージセンサ201は、電子シャッタ動作により露出光量を調節する。なお、CCDイメージセンサ201に代えて、例えばCMOSイメージセンサやNMOSイメージセンサなどの他の種類の撮像素子を用いてもよい。
AFE202は、CCDイメージセンサ201に接続され、CCDイメージセンサ201で生成された撮像データに対して、相関二重サンプリング、ゲイン調整等の処理を実行する回路である。AFE202は、アナログ形式の撮像データからデジタル形式の撮像データへの変換を施す。その後、AFE202は変換後の撮像データを画像処理部203に出力する。
画像処理部203は、AFE202に接続され、AFE202から出力された撮像データに対して各種処理を施し画像データを生成する回路である。各種処理の例としては、ガンマ補正、ホワイトバランス補正、輝度・色差(YC)変換処理、電子ズーム処理、圧縮処理、伸張処理等が挙げられるが、これらに限定されるものではない。画像処理部203は、AFE202から出力された撮像データに基づいて、その撮像データが示す画像領域の中から特定の被写体の特徴点を抽出することにより、被写体の識別を行うことができる。例えば、予め人物の顔の特徴点を登録しておけば、その人物の顔の認証を行うことができる。
画像処理部203は、例えばデジタルシグナルプロセッサ(DSP)やマイクロコントローラ(マイコン)といった集積回路によって好適に実現され得る。画像処理部203は、ハードウェアのみで構成してもよいし、ハードウェアとソフトウェア(コンピュータプログラム)との組み合わせによって構成してもよい。画像処理部203は、スルー画像生成部260、静止画像生成部261、動画像生成部262などの画像生成回路を含んでいる。
スルー画像生成部260は、AFE202から順次出力される撮像データ(例えば、毎秒60フレーム)に基づいて、液晶ディスプレイ204に表示するための画像データを生成する回路である。液晶ディスプレイ204に表示されるリアルタイム映像を見ることにより、ユーザは、撮影画角等を容易に決定することができる。
静止画像生成部261は、レリーズ釦110が押下されたタイミングに取得された撮像データに基づいて、記録用の静止画像を生成する回路である。静止画像生成部261は、例えばJPEG規格に準拠した静止画像ファイルを生成する。静止画像生成部261は、静止画像ファイルを生成する際、ファイル内に当該静止画像に関する管理情報を格納する。管理情報は、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報などの撮影時の条件を示す情報を含む。静止画像生成部261によって生成された静止画像ファイルは、コントローラ210によってメモリカード221に記録される。ここで、撮影モードに関する情報は、例えばトラベルモード、赤ちゃんモードといった特定のモードを示す情報である。これらのモードについての詳細は後述する。コントローラ210は、ダイジェスト動画記録モードにおいて静止画像ファイルをメモリカード221に記録するとき、当該静止画像ファイルに関する情報を管理データベースに追記する。管理データベースは、ダイジェスト動画を構成する静止画像と動画像(チャプター)との対応関係を示す情報を記録するデータベースである。管理データベースの詳細については後述する。
動画像生成部262は、撮像部264から出力された撮像データに基づいて動画像データを生成する回路である。動画像生成部262は、操作部223に含まれる不図示の動画記録釦が押下されたタイミングから、再び動画記録釦が押下(記録停止)されたタイミングまでの間に取得された撮像データに基づいて、記録用の動画像ファイルを生成する。動画像生成部262は、例えば、AVCHD(登録商標)規格や、MP4規格等に準拠した動画像ファイルを生成する。動画像生成部262は、動画像ファイルを生成する際、ファイル内に当該動画像に関する管理情報を格納する。この管理情報も、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報などを含む。生成された動画像ファイルは、コントローラ210によってメモリカード221に記録される。
また、ダイジェスト動画記録モードでは、動画像生成部262は、撮像データに基づいて動画像データを常時生成してバッファメモリ205に記録する。そして、レリーズ釦110が押下されたタイミング(以下、「レリーズタイミング」と呼ぶことがある。)付近の所定期間(例えば、レリーズタイミングの直前および直後の数秒間)に取得された撮像データに基づいて、動画像データ(チャプター)を生成する。生成されたチャプターは、コントローラ210によってメモリカード221に記録されたダイジェスト動画ファイルに格納される。当該チャプターを追記すべきダイジェスト動画ファイルがメモリカード221に記録されていないときは、コントローラ210は、メモリカード221に新規にダイジェスト動画ファイルを作成し、当該ダイジェスト動画ファイルに、生成したチャプターを格納する。動画像生成部262は、チャプターをダイジェスト動画ファイルに格納する際、当該チャプターに関する管理情報も当該ダイジェスト動画ファイルに格納する。この管理情報も、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報などを含む。コントローラ210は、チャプターをメモリカード221内のダイジェスト動画ファイルに記録するとき、当該チャプターに関する情報を管理データベースに追記する。
ダイジェスト動画記録モードにおいては、上記のように、レリーズ釦110が押下されたタイミングに取得された撮像データに基づいて、静止画像生成部261は静止画像ファイルを生成する。コントローラ210は、生成された静止画像ファイルを、メモリカード221に記録する。一方、動画像生成部262は、レリーズ釦110が押下されたタイミングの付近の所定期間(例えば、直前および直後の数秒間)に取得された撮像データに基づいて、動画像データ(チャプター)を生成する。コントローラ210は、生成されたチャプターを、ダイジェスト動画ファイルに格納してメモリカード221に記録する。コントローラ210は、これらのほぼ同じタイミングで生成された静止画像ファイルと、チャプターと、当該チャプターを記録したダイジェスト動画ファイルとを、互いに関連付けてメモリカード221に記録する。具体的には、コントローラ210は、管理データベースを用いて、ほぼ同じタイミングで生成された静止画像ファイルと、チャプターと、当該チャプターを格納したダイジェスト動画ファイルとを互いに関連付ける。
液晶ディスプレイ204は、デジタルカメラ100の背面に設けられている。液晶ディスプレイ204は、画像処理部203によって処理された画像データに基づく画像を表示する。液晶ディスプレイ204は、画像の他、デジタルカメラ100の設定条件等を表示することも可能である。液晶ディスプレイ204の代わりに、有機EL等の他の種類のディスプレイが設けられていてもよい。
コントローラ210は、デジタルカメラ100全体の動作を統括制御するプロセッサである。コントローラ210は、例えば、プログラム等の情報を格納するROM(Read Only Memory)、およびプログラム等の情報を処理するCPU(Central Processing Unit)の組み合わせによって好適に実現され得る。ROMは、オートフォーカス(AF)制御や自動露出(AE)制御、デジタルカメラ100全体の動作を制御するためのプログラム等を格納する。
コントローラ210は、ハードワイヤードな電子回路で構成してもよいし、マイクロコントローラなどで構成してもよい。また、画像処理部203などと共に1つの半導体チップで構成してもよい。ROMはコントローラ210の内部の構成要素である必要はなく、コントローラ210の外部に設けられていてもよい。コントローラ210は、図3に示すように、他の各部に電気的に接続され、制御信号によって各部を制御する。
コントローラ210は、AF制御を実行することができる。まず、コントローラ210は、画像処理部203から画像データの特定の被写体領域におけるコントラスト値を取得する。コントローラ210は、連続して取得されるコントラスト値に基づき、特定の被写体領域のフォーカス状態を判断して、当該被写体領域に合焦するようにフォーカスレンズを駆動させる。コントローラ210がAF制御を実行するタイミングは、使用者によるレリーズ釦110の半押し操作を受け付けたときでもよいし、撮影モード中は常にAF制御を行うように構成されていてもよい。静止画撮影のときのピント状態に関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
コントローラ210は、また、AE制御を実行することができる。まず、コントローラ210は、画像処理部203から画像データの特定の被写体領域における輝度情報を取得する。コントローラ210は、連続して取得される輝度情報から、被写体の適正露出を得るため露出値を算出する。コントローラ210は、算出された露出値と所定のプログラム線図に従って、絞り値とシャッタースピードとを決定する。プログラム線図は、露出値と、絞り値およびシャッタースピードとの関係を規定する情報であり、予めROM等の記録媒体に記録されている。コントローラ210は、画像データから取得される輝度情報を監視しており、AE制御を常時実行する。撮影する際の露出値は、使用者によるレリーズ釦110の半押し操作を受け付けたタイミングで固定してもよいし、全押し操作を受け付けたタイミングで固定してもよい。静止画撮影のときの絞り値、シャッタースピード、感度等の情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
バッファメモリ205は、画像処理部203およびコントローラ210のワークメモリとして機能する記録媒体である。バッファメモリ205はDRAM(Dynamic Random AccessMemory)などで実現できる。フラッシュメモリ222は、画像データ等を記録するための内部メモリとして機能する。
カードスロット220は、メモリカード221を着脱可能なインターフェースである。カードスロット220は、メモリカード221を電気的および機械的に接続可能である。また、カードスロット220は、メモリカード221を制御する機能を備えていてもよい。
メモリカード221は、内部にフラッシュメモリ等の記録媒体を備えた外部メモリである。メモリカード221は、画像処理部203で処理される画像データなどのデータを記録可能である。本実施形態では、外部メモリの一例としてメモリカード221を示すが、外部メモリはこれには限らない。例えば、ハードディスクや光ディスク等の記録媒体を外部メモリとしてもよい。
操作部223は、デジタルカメラ100の外装に設けられている操作釦や操作ダイヤル等の総称であり、使用者による操作を受け付けるユーザインターフェースとして機能する。操作部223は、例えば図1や図2に示したレリーズ釦110、ズームレバー111、電源釦112、メニュー釦120、十字釦121などを含む。操作部223は、使用者による操作を受け付けると、コントローラ210に種々の動作を指示する信号を送る。
レリーズ釦110は、半押し状態と全押し状態の二段階押下式釦である。ユーザによってレリーズ釦110が半押しされると、コントローラ210は、上述したAF制御およびAE制御を実行して撮影条件を決定する。続いて、ユーザによってレリーズ釦110が全押しされると、コントローラ210は、全押しのタイミングに撮像され生成された画像データ(静止画像およびチャプター)をメモリカード221に記録する。
メニュー釦120は、押下式の釦である。メニュー釦120が使用者によって押下されると、コントローラ210は、液晶ディスプレイ204にメニュー画面を表示させる。メニュー画面は、撮影および再生のための各種条件を設定するための画面である。各種条件の設定項目が選択されているときに押下されるとその項目が決定されるように、メニュー釦120は決定釦として機能するようにしてもよい。
十字釦121は、メニュー釦120の上下左右方向に設けられた押下式釦である。使用者は、十字釦121のいずれかの方向を押下することにより、液晶ディスプレイ204に表示される各種条件項目を選択することができる。
フラッシュ113は、キセノン管、コンデンサ、昇圧回路、発光トリガー回路などを含む。昇圧回路は、コントローラ210からの制御信号に従って、コンデンサに高電圧を印加する。発光トリガー回路は、コントローラ210からの制御信号に従って、印加充電されたコンデンサの高電圧を放電させて、キセノン管内のキセノンガスを瞬間的に発光させる。発光トリガー回路は、コンデンサの高電圧を静止画撮影と同期して放電させる。これにより、デジタルカメラ100は、光が照射された被写体を静止画撮影することができる。フラッシュ113は、被写体に対して撮像時に瞬間的に発光することによって、被写体の明るさを補うことができる。静止画撮影のときにフラッシュ発光がなされたか否かに関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
AF補助光源114は、上述したコントローラ210によるAF制御のときに、被写体の照度を補って、被写体のコントラスト値を取得するために発光させる光源である。被写体の照度が低い場合、被写体からAF制御可能なコントラスト値が得られにくい。AF補助光を発光させることによって、コントローラ210がAF制御可能なコントラスト値が得られるシーンを増やすことができる。AF制御のときにAF補助光の発光がなされたか否かに関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
通信インターフェース250は、無線または有線の通信を実行可能なインターフェースである。コントローラ210は、この通信インターフェース250を介して、例えば、アクセスポイント経由で他の通信機器に接続することができる。通信インターフェース250は、無線LAN、有線LAN等により実現可能である。
GPSユニット270は、人工衛星による測位システムを利用して、デジタルカメラ100の現在位置を検出するGPS受信機である。コントローラ210は、GPSユニット270を介して、現在位置に関する情報(緯度、経度など)を取得することができる。デジタルカメラ100は、GPSユニット270から取得した現在位置に関する情報と、撮影画像(静止画像、チャプター等の動画像)とを関連付けることができる。静止画を撮影したときの現在位置に関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
なお、上記の構成はあくまでも一例であり、コントローラ210が後述する動作を実行する限り、その構成はどのようなものであってもよい。例えば、図3に示す構成要素以外の要素を含んでいてもよいし、一部の構成要素を省略してもよい。
[1−2.動作]
以下、図4〜15を参照しながら、デジタルカメラ100の動作を説明する。
まず、ダイジェスト動画の記録の概要を説明する。以下の説明では、静止画像撮影指示をトリガーとして、当該指示のタイミングの前後の数秒間の動画像をチャプターとして記録する場合を想定する。
図4は、静止画像撮影指示をトリガーとして記録された静止画像と、静止画像撮影指示に伴って記録されたチャプターとを、撮影時間に沿って時系列に並べたイメージを示している。図4に示すように、チャプターは、静止画像の直前のものと直後のものとに分類される。ここで、N番目(Nは自然数)のダイジェスト動画をDNと表す。このとき、N番目の静止画撮影直前のチャプターをDN−CNb、N番目の静止画撮影直後のチャプターをDN−CNaと表す。更に、このときの静止画像をDN−PNと表す。したがって、例えば1番目のダイジェスト動画はD1と表される。このとき、1番目の静止画撮影直前のチャプターはD1−C1b、1番目の静止画像撮影直後のチャプターはD1−C1a、静止画像はD1−P1と表される。
このように、ダイジェスト動画記録モードでは、デジタルカメラ100は、静止画像とその前後のチャプターとを、メモリカード221に順次記録していく。
[1−2−1.ダイジェスト動画のメニュー画面構成]
図5は、ダイジェスト動画のメニュー設定画面のイメージを示す図である。本実施の形態におけるデジタルカメラ100は、ユーザによる操作部223からの操作を受け付けて、図5に示すような、ダイジェスト動画のためのメニュー設定画面を液晶ディスプレイ204に表示させることができる。
図5に示すように、ダイジェスト動画のメニュー画面は、メニュー項目として、ダイジェスト動画を記録するか否か(ON/OFF)の設定項目、生成されるチャプターの長さ(例えば、5秒or10秒)の設定項目、静止画記録指示の直後の動画像をチャプターとして生成する(残す)か否か(残す/残さない)の設定項目を有する。これらの設定項目の他、例えば静止画記録指示の直前の動画像をチャプターとして生成するか否か(残す/残さない)の設定項目が設けられていてもよい。ユーザは、操作部223を操作することにより、各設定項目の選択枝のいずれかを選択することができる。
以下の説明では、ダイジェスト動画を記録するか否かの設定項目が「ON」に設定されており、チャプターの長さの設定項目が「5秒」に設定されており、静止画記録指示の直後の動画像をチャプターとして生成する(残す)か否かの設定項目が「残す」に設定されているものとする。
[1−2−2.ダイジェスト動画の管理構成]
次に、図6を参照しながら、ダイジェスト動画記録モードにおいてメモリカード221に記録されるデータの構成を説明する。図6は、メモリカード221に記録されるデータ構成のイメージを示す図である。
メモリカード221には、静止画像と、ダイジェスト動画と、管理データベースとが記録される。管理データベースには、静止画像と当該静止画像の直前および直後に生成されたチャプターとの対応関係を示す情報(「関係情報」と呼ぶ。)が管理されている。コントローラ210は、管理データベースを参照することにより、メモリカード221に記録された静止画像と、当該静止画像に対応付けられたチャプターとを把握することができる。
図7Aは、管理データベースに管理される情報の一例を示す図である。図7Aに示すように、管理データベースには、コンテンツID、コンテンツ種別、ダイジェスト動画ID、実ファイル名称、チャプター情報(開始時刻、終了時刻、チャプタータイトル)、関係情報(対応コンテンツID、静止画前後情報)が管理されている。本実施の形態では、このような管理データベースによってダイジェスト動画を構成する静止画像およびチャプターが管理される。なお、このような管理データベースを用いる代わりに、各コンテンツデータのヘッダー部(Exifやユーザーデータ領域など)において同様の情報を管理してもよい。
コンテンツIDは、各コンテンツ(静止画像またはチャプター)に固有に付与される番号である。コンテンツ種別は、各コンテンツが、静止画像(Picture)なのか動画像(Video)なのかを示す情報である。ダイジェスト動画IDは、各チャプターを含むダイジェスト動画を識別するID情報である。実ファイル名称は、各コンテンツが含まれる実際のファイル名称である。チャプター情報は、各チャプターのタイトル、ダイジェスト動画内の開始時刻および終了時刻を示す情報を含む。関係情報は、静止画像と、当該静止画像とともに生成されたチャプターとの対応関係を示す情報である。関係情報は、対応コンテンツIDと、静止画像に対する前後情報とを含む。対応コンテンツIDは、静止画像については対応するチャプターのコンテンツID、チャプターについては対応する静止画像のコンテンツIDである。前後情報は、レリーズタイミングの直前のチャプターであるか、直後のチャプターであるかを示す情報である。
図7Bは、ダイジェスト動画ファイルの構成例を模式的に示す図である。ダイジェスト動画ファイルは、管理情報格納部70とストリームデータ格納部78とを含む。管理情報格納部70は、記録時間71、サムネイル情報72、映像や音声の記録フォーマット情報73、撮影情報74(例えば、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報)などをチャプターごとに格納する。ストリームデータ格納部78はチャプター(映像および音声などを記録した動画像データ)を格納する。
[1−2−3.ダイジェスト動画の記録動作]
次に、ダイジェスト動画の記録動作を説明する。
まず、図8を参照しながら、デジタルカメラ100による動画バッファリング処理を説明する。図8は、動画バッファリング処理を示すフローチャートである。画像処理部203における動画像生成部262は、チャプターを生成するとき、図8に示すフローチャートに従って動画バッファリングを行う。
デジタルカメラ100が撮影モードに設定されているとき、CCDイメージセンサ201は、光学系200を介して形成された被写体像に基づく撮像データを順次生成している。上述したように、CCDイメージセンサ201が生成した撮像データは、AFE202での処理を経た後、画像処理部203に入力される。画像処理部203は、入力された撮像データに対してYC変換処理を施し、YCデータを生成する。一般に、CCDイメージセンサ201が生成する撮像データはRGBデータであるため、RGBデータを輝度成分Yを示すデータと色差成分Cを示すデータとに変換するYC変換処理が行われる。
コントローラ210は、画像処理部203によってYCデータが生成されているか否かを常時監視している(ステップS300)。YCデータが生成されていない場合、コントローラ210は、YCデータの生成の監視を継続する(ステップS300におけるNo)。一方、YCデータが生成されている場合、コントローラ210は、生成されたYCデータに対し、所定の符号化方式に従ってエンコード処理を施すように画像処理部203に指示する。画像処理部203は、コントローラ210からの指示に従って、生成されたYCデータに対し、所定の符号化方式に基づくエンコード処理を施してエンコードデータを生成する(ステップS301)。これにより、動画像(チャプター)のエンコードデータが生成される。
次に、コントローラ210は、バッファメモリ205をリングバッファ状にしてエンコードデータを記録する。すなわち、バッファメモリ205に所定量以上の記録容量が残っているか否かを判断する(ステップS302)。バッファメモリ205の残りの記録容量が所定量よりも小さい場合(ステップS302におけるNo)、コントローラ210は、バッファメモリ205に記録されている一番古いエンコードデータを削除する(ステップS303)。この際、エンコードデータが例えばMPEGのファイルフォーマットに準拠して生成されている場合、GOP(Group Of Picture)単位で削除する。続いて、コントローラ210は、ステップS301において生成したエンコードデータを、記録容量に余裕の出来たバッファメモリ205に記録する(ステップS304)。一方、バッファメモリ205の残記録容量が所定量以上である場合(ステップS302におけるYes)、コントローラ210は、ステップS301において生成したエンコードデータをそのままバッファメモリ205に記録する(ステップS304)。コントローラ210は、ステップS300からステップS304の動作を繰り返す。
次に、図9を参照しながら、静止画像撮影指示をトリガーとする動画像(チャプター)の生成処理を説明する。図9は、ダイジェスト動画の1チャプターを作成する処理を示すフローチャートである。
まず、コントローラ210は、静止画像撮影指示をトリガーとするチャプターを作成する命令(チャプター作成命令)があったか否かを監視している(ステップS310)。チャプター作成命令があった場合、コントローラ210は、既存のダイジェスト動画ファイルにそのチャプターを追記するか、新規のダイジェスト動画ファイルにそのチャプターを記録するかを決定する(ステップS311)。この判定処理を、「分割判定」と呼ぶ。
分割判定は、これから記録しようとするチャプターに関連するダイジェスト動画がメモリカード221に既に記録されているか否かに基づいて行われ得る。例えば、新たに作成するチャプターと同日に作成したチャプターを含むダイジェスト動画ファイルが既にメモリカード221に記録されている場合、コントローラ210は、既存のダイジェスト動画ファイルに新しく作成するチャプターを追記する。一方、新たに作成するチャプターと同日に作成したチャプターを含むダイジェスト動画ファイルがメモリカード221に記録されていない場合、コントローラ210は、既存のダイジェスト動画ファイルとは別の新規ダイジェスト動画ファイルに当該チャプターを記録する。ステップS311では、日付に限らず、他の情報に基づいて関連する既存のダイジェスト動画ファイルを特定してもよい。例えば、撮影場所、写っている被写体、撮影モード等が共通または類似する既存のダイジェスト動画ファイルがあれば、そのファイルに新規に作成したチャプターを追記するようにしてもよい。また、チャプターを作成する際にそのチャプターを既存の特定のダイジェスト動画ファイルに追記するか否かをユーザに選択させてもよい。
次に、コントローラ210は、保存判定処理を行う(ステップS312)。保存判定処理は、バッファメモリ205に蓄積されたエンコードデータをチャプターとして保存するか否かの判定を行う処理である。コントローラ210は、バッファメモリ205に蓄積されたエンコードデータが所定量よりも少ない場合は、バッファメモリ205に蓄積されたエンコードデータをチャプターとして保存しないと判定する。一方、バッファメモリ205に蓄積されたエンコードデータが所定量よりも多い場合は、バッファメモリ205に蓄積されたエンコードデータをチャプターとして保存すると判定する。これは、短すぎるチャプターが生成されると、すぐにシーンが切り替わる視聴しにくいダイジェスト動画になってしまうため、そのような事態を回避するためである。ステップS312においてエンコードデータをチャプターとして保存しないことを決定した場合、コントローラ210はステップS310に戻り、次のチャプターの作成命令を待つ。なお、ステップS312の保存判定処理は、ステップS311の分割判定の前に行ってもよい。その場合、チャプターを保存しないと判定したときには、分割判定を行うことなく、次のチャプターの作成命令を待つようにしてもよい。
ステップS312において、エンコードデータをチャプターとして保存することを決定した場合、コントローラ210は、バッファメモリ205に蓄積されたエンコードデータを切り出し、ダイジェスト動画ファイルに記録する(ステップS313)。このとき、ステップS311において既存のダイジェスト動画ファイルに追記すると判定していた場合、コントローラ210は、メモリカード221に既に記録されている既存のダイジェスト動画ファイルにチャプターを追記する。一方、ステップS311において新規のダイジェスト動画ファイルを作成すると判定していた場合、コントローラ210は、メモリカード221に新規のダイジェスト動画ファイルを作成し、そのファイルにチャプターを記録する。
次に、コントローラ210は、今回新しく記録したチャプターに関する情報を、記録先のダイジェスト動画ファイルの管理情報に追記して更新する(ステップS314)。ステップS314での管理情報の更新処理において、コントローラ210は、図7Bに示すサムネイル情報を除く管理情報(記録時間など)の更新を行う。
次に、コントローラ210は、今回新しく記録したチャプターに関するサムネイル情報の作成または更新を行う(ステップS315)。ここでは、図7Bに示す管理情報格納部70に格納されたサムネイル情報72の作成または更新を行う。
[1−2−4.サムネイル情報の作成または更新]
次に、図10を参照しながら、ステップS315におけるチャプターのサムネイル情報を作成または更新する処理を説明する。図10は、本実施の形態におけるデジタルカメラ100のダイジェスト動画のサムネイル情報の作成または更新処理の概要を示すフローチャートである。
本実施の形態におけるデジタルカメラ100は、図10に示すように、サムネイル情報の新規作成(ステップS403)、サムネイル情報の追加(ステップS406)、既存サムネイル情報の流用(ステップS407)のいずれかの処理によってサムネイル情報の作成または更新を行う。以下、各サムネイル情報の作成および更新の処理を順に説明する。
まず、コントローラ210は、ステップS313において記録したチャプターが、そのダイジェスト動画ファイルに記録された先頭のチャプターか否かを判定する(ステップS401)。すなわち、コントローラ210は、そのチャプターを記録する際にダイジェスト動画ファイルを新たに作成したか否か(1回目のダイジェスト動画の撮影か否か)を判定する。
その撮影が1回目のダイジェスト動画の撮影であると判定した場合、コントローラ210は、そのチャプターに関するサムネイル情報の作成を行う(ステップS402)。次に、コントローラ210は、S402で作成したサムネイル情報をダイジェスト動画ファイルの管理情報に含まれるサムネイル情報を格納する領域に記録する(ステップS403)。ステップS402におけるサムネイル情報の作成処理の詳細は後述する。
ステップS401において、1回目のダイジェスト動画の撮影ではないと判定した場合、コントローラ210は、デジタルカメラ100に設定されているモードがサムネイル追加モードであるか否かの判定を行う(ステップS404)。サムネイル追加モードは、上述のように、ダイジェスト動画の記録時に有効な設定であり、1つのダイジェスト動画ファイルに対して2つ以上の関連付けされたサムネイル情報の記録を許可するモードである。ステップS404において、サムネイル追加モードに設定されていないと判定した場合、コントローラ210は、新規にサムネイル情報を作成することなく、既存のサムネイル情報をそのまま継続して使用する(ステップS407)。一方、ステップS404においてサムネイル追加モードが設定されていると判定した場合、コントローラ210は、ステップS402と同様に、追加したチャプターに関するサムネイル情報の作成を行う(ステップS405)。次に、コントローラ210は、ステップS405で作成したサムネイル情報を、ダイジェスト動画ファイルの管理情報におけるサムネイル情報の格納領域に追記する(ステップS406)。すなわち、サムネイル追加モードが設定されているときには、ダイジェスト動画ファイルのサムネイル情報の格納領域にはチャプターの数に応じた複数のサムネイル情報が記録される。このとき、ストリームデータ格納部78に格納されたチャプターと管理情報格納部70に格納されたサムネイル情報とを関連付ける情報を管理情報格納部70に記録してもよい。これにより、ダイジェスト動画ファイルに記録された各チャプターに対応するサムネイル情報を管理することができる。サムネイル情報を参照することにより、チャプターごとのサムネイル画像の表示が可能となる。
なお、本実施形態では、複数のサムネイル情報は、サムネイルごとにJPEG規格に準拠した圧縮を行って記録されるものとするが、他の方法で記録してもよい。例えば、複数のサムネイル情報を含む1つの画像データを記録媒体の複数の領域に分割して記録してもよい。その場合、1つの画像データに複数のサムネイル情報をまとめて記録することにより、1つの動画像ファイルへの複数のサムネイル情報の記録が許容されていない記録フォーマットにおいても、複数のサムネイル情報の記録が可能になる。
なお、ここではサムネイル追加モードに設定されている場合、追加するチャプターの全てに対してサムネイル情報を記録する例を説明したが、追加するチャプターの全てに対応するサムネイル情報を記録しなくてもよい。例えば、ダイジェスト動画ファイルの先頭に記録されるチャプターのように、代表的なチャプター(単数または複数の代表チャプター)にのみ、サムネイル情報を記録するようにしてもよい。そのような構成であっても、ユーザは、ダイジェスト動画ファイルに含まれるチャプターの概要をより容易に把握することが可能となる。
続いて、ステップS402およびステップS405における新たに記録したチャプターに対するサムネイル情報の作成処理の詳細を説明する。図11は、本実施の形態のデジタルカメラ100によるダイジェスト動画のサムネイル情報の作成または更新処理の詳細を示すフローチャートである。
まず、コントローラ210は、チャプターが生成されたときに併せて生成された管理情報からサムネイル情報を作成するか否かを判定する(ステップS411)。ここで、管理情報からサムネイル情報を作成するか否かの判定は、管理情報が特定の条件を満たすか否かを判定することによって行われる。例えば、管理情報からサムネイル情報を作成する旨を示すユーザー設定情報が管理情報に含まれている場合、管理情報にトラベルモードが設定されている旨を示す情報が含まれている場合、管理情報に赤ちゃんモードが設定されている旨を示す情報が含まれている場合、管理情報にユーザが予め顔認識登録しておいた人物の顔などの特定の被写体がチャプターに記録されている旨を示す情報が含まれている場合、管理情報にチャプターが生成された撮影場所が予め設定された特定の地域内である旨を示す情報が含まれている場合などに該当する場合には、コントローラ210は、管理情報に基づいてサムネイル情報を作成すると判断する。この判定条件は、上記の条件に限定されず、どのようなものであってもよい。
ここで、トラベルモードとは、ユーザが旅行中であることを示すフラグを撮影画像に付与するモードである。ユーザは、自分の意志により、旅行に出かけるときにトラベルモードをONに設定し、帰宅時にOFFに設定する操作を行うことで、デジタルカメラ100をトラベルモードに設定することができる。また、赤ちゃんモードは、被写体が赤ちゃんであることを示すフラグを撮影画像に付与するモードである。ユーザは、自分の意志により、赤ちゃんを撮影すると判断したときには、その認識している赤ちゃんの撮影の開始時刻および終了時刻に、赤ちゃんモードのON/OFF操作を行うことにより、デジタルカメラ100を赤ちゃんモードに設定することができる。デジタルカメラ100は、トラベルモードや赤ちゃんモード以外のモードを有していてもよい。特定のモードに設定されているか否かは、図7Bに示す管理情報内の撮影モード情報を参照することによって判定することができる。
ステップS411において、管理情報からサムネイル情報を作成すると判定した場合、コントローラ210は、管理情報に含まれる上記のいずれかの情報に基づいて、サムネイルのためのビットマップ情報を作成する。
以下、図12を参照しながら、管理情報に基づいて作成するサムネイル情報の例を説明する。図12は、管理情報に基づいて作成されるサムネイル情報の表示例を示す図である。
(例1)コントローラ210は、管理情報に含まれる撮影日付(または撮影日時)に関する情報に基づいて撮影日付(または撮影日時)を示すサムネイル情報を作成することができる。例えば、撮影日付ごとにダイジェスト動画ファイルを分割して記録する場合、図12(a)に示すように、その撮影日付の文字情報を含むビットマップ情報をサムネイル情報として生成することができる。図12(a)の左と中央のサムネイル画像では、撮影年月日を示す日付だけが示されているが、日付だけではなく、曜日や祝祭日のように、カレンダーの情報から得られる他の情報を記録してもよい。カレンダーの情報は、デジタルカメラ100内の記録媒体またはネットワークを介して接続されたスマートフォンなどの他の情報機器から取得され得る。また、デジタルカメラ100内の記録媒体またはネットワークを介して接続されたスマートフォンなどの他の情報機器から誕生日などのスケジュール情報を取得できる場合には、スケジュール情報やイベントの名称等を記録してもよい。図12(a)の右のサムネイル画像では、撮影日とともに、被写体である特定の人物の誕生日である旨が示されている。
(例2)コントローラ210は、管理情報に含まれる特定の被写体に関する情報に基づいて被写体名を示すサムネイル情報を作成することができる。例えば、赤ちゃんモードに設定されている場合や、予め設定された特定の被写体がチャプターに記録されている場合、図12(b)に示すように、カメラ本体に記録されている特定の被写体の名称の文字情報を含むビットマップ情報を生成することができる。また、特定の被写体に関連付けられたアイコン等のビットマップ情報が予め用意されている場合には、それをサムネイル情報に含めてもよい。あるいは、特定の被写体について予め登録されている静止画像(顔写真など)のビットマップ情報をサムネイル情報に含めてもよい。
(例3)コントローラ210は、管理情報に含まれるGPS情報または特定の地域で撮影された旨を示す情報に基づいて特定の地域の名称を示すサムネイル情報を作成することができる。例えば、トラベルモードに設定されている場合や、撮影場所が特定の地域内にあると判定された場合には、図12(c)に示すように、特定の地名を示す文字情報を含むビットマップ情報をサムネイル情報として生成することができる。表示される地名は、予めユーザによって設定された地名であってもよいし、GPSの位置情報から地名に変換する地名データベースを参照することによって取得された地名であってもよい。また、特定の地名に関連付けられたアイコン等のビットマップ情報が予め用意されている場合には、それをサムネイル情報に含めてもよい。あるいは、特定の地名について予め登録されている静止画像(モニュメントの写真など)のビットマップ情報をサムネイル情報としてもよい。
(例4)コントローラ210は、管理情報に含まれる情報に基づいて決定される特定のアイコンをサムネイル情報として利用してもよい。例えば、管理情報に含まれる情報に基づいて、ダイジェスト動画の記録であり、かつ動画内のフレーム情報からサムネイル情報を作成することが適切でないことを判断した場合に、図12(d)に示すように、予め用意された特定のアイコンのビットマップ情報をサムネイル情報としてもよい。図12(d)に示す例では、ダイジェスト動画である旨を示すアイコン「D」のビットマップ画像がサムネイル情報として表示されている。この特定のアイコンは、予めユーザによって複数のアイコンの中から選択されたものでもよい。
図11におけるステップS411において管理情報を解析した結果、管理情報からサムネイル情報を作成しないと判定した場合、コントローラ210は、処理対象の動画像データ(チャプター)に含まれる1つのフレームに基づいてサムネイル画像としてのビットマップ画像を作成する(ステップS413)。このフレームは、ダイジェスト動画内の先頭のフレームでもよいし、サムネイルに最適と判定されたフレームであってもよい。サムネイルに最適と判定されるフレームは、例えば、手ブレ量が所定基準よりも低いフレームであったり、合焦対象の被写体のピント状態が所定基準よりも良好なフレームの中から選択され得る。
次に、コントローラ210は、ステップS412またはステップS413において、サムネイル画像としてのビットマップ画像を作成した後、これにJPEG規格等に準拠した圧縮処理を施すことにより、サムネイル情報を作成する(ステップS414)。
なお、図11に示す例では、管理情報に含まれる情報を解析することにより、コントローラ210は、管理情報に含まれる情報に基づいてサムネイル用のビットマップ画像を作成するか、動画の1フレームに基づいてサムネイル用のビットマップ画像を作成するかを判定するが、このような例に限定されない。コントローラ210は、上記の判定処理を行うことなく、常に管理情報に含まれる情報に基づいて作成したビットマップ画像をサムネイル画像として生成してもよい。コントローラ210は、上記の他にも、例えば図13や図14に示す処理によってサムネイル画像としてのビットマップ画像を作成するようにしてもよい。
図13は、管理情報に含まれる情報に基づくビットマップ画像と、チャプターに含まれる1つのフレームに基づくビットマップ画像とを合成することによってサムネイル画像を作成する例を示すフローチャートである。
この例では、コントローラ210は、まずチャプターに含まれる1つのフレームに基づいてビットマップ画像(A)を作成する(ステップS421)。ステップS421における処理は、上述したステップS413における処理と同様である。続いて、コントローラ210は、管理情報に含まれる情報に基づいて、ビットマップ画像(B)を作成する(ステップS422)。ステップS422における処理は、上述したステップS412における処理と同様であり、作成されるビットマップ画像(B)は、図12を参照して説明したビットマップ画像と同様である。
次に、コントローラ210は、ステップS421において作成したビットマップ画像(A)と、ステップS423において作成したビットマップ画像(B)とを合成する(ステップS423)。合成は、サムネイル画像の領域を複数の領域に分け、それぞれの領域にステップS421およびS422で作成したビットマップ画像をそれぞれ貼り付けてもよいし、ステップS421で作成したビットマップ画像の一部を切り抜き、ステップS422で作成したビットマップ画像を貼り付けてもよい。最後に、コントローラ210は、合成したビットマップ画像をJPEG規格に準拠した圧縮処理を施すことにより、サムネイル画像を作成する(ステップS424)。
図14は、管理情報に含まれる情報に基づいてサムネイルのためのビットマップ画像を作成するか、動画の1フレームに基づいてサムネイルのためのビットマップ画像を作成するかを、動画の1フレームのデータの解析結果に基づいて判断する例を示すフローチャートである。
この例では、コントローラ210は、まずチャプターに含まれる1つのフレームを解析して、その解析結果に基づいてサムネイルのためのビットマップ画像の作成方法を決定する(ステップS431)。ここで、解析するフレームはそのチャプター内の先頭のフレームでもよいし、サムネイルとして最適と判定されたフレームでもよい。ステップS431において、コントローラ210は、そのフレームを解析し、輝度、ブレの程度、ボケの程度、画像の傾きといった画質を示す情報に基づいてそのフレームがサムネイル画像として適しているか否かを判定する。例えば、そのフレームを解析した結果、エッジが無い(ピントが合っていない、またはぶれている)と判定した場合、または全面が暗すぎるもしくは明るすぎる(絞りが合っていない、またはレンズキャップの外し忘れ)と判定した場合には、コントローラ210は、チャプター内のフレームからサムネイルを生成せず、管理情報に基づいてサムネイル情報を作成すると決定する。その他の場合には解析したフレームからサムネイル情報を作成すると決定する。
管理情報に基づいてサムネイル情報を作成すると判断した場合、コントローラ210は、管理情報に含まれる情報に基づいてサムネイル用のビットマップ画像を作成する(ステップS432)。ステップS432における処理は、上述したステップS412における処理と同様である。また、動画データ中の1フレームからサムネイル情報を作成すると判断した場合、コントローラ210は、動画データ中の1フレームからサムネイルのためのビットマップ画像を作成する(ステップS433)。ステップS433における処理は、上述したステップS413における処理と同様である。ステップS432またはS433においてビットマップ画像を作成した後、コントローラ210は、JPEG規格に準拠した圧縮処理を当該ビットマップ画像に施することにより、サムネイル情報を作成する(ステップS434)。
なお、図11に示す処理と図14に示す処理とを組み合わせてもよい。すなわち、管理情報が特定の条件を満たすか否か、および動画中の1フレームの解析結果が良好であるか否かの両方の判定結果に基づいて、管理情報からサムネイル情報を生成するか否かを決定してもよい。
以上のように、本実施の形態におけるデジタルカメラ100は、ダイジェスト動画を構成する個々のチャプターに関連付けられた管理情報に含まれる情報に基づいてサムネイル情報を作成する。そして、作成したサムネイル情報を、対応するチャプターと関連付けてダイジェスト動画ファイルに格納する。これにより、ユーザにとってより好適なサムネイル情報を作成し記録することができる。
本実施の形態におけるサムネイル情報の作成記録は、ダイジェスト動画撮影モードなる専用モードを備えず、通常モードの静止画撮影において、オプション機能としてダイジェスト動画撮影を同時に実行させるようなデジタルカメラにおいては、特に有効である。通常の静止画撮影と同時に、ダイジェスト動画の撮影を行った場合、デジタルカメラの設計思想は、静止画撮影が最適に実行できるように考えられている。そのため、通常の静止画撮影と同時に、ダイジェスト動画の撮影を行った場合、ダイジェスト動画ファイル内に含まれるチャプターが必ずしも閲覧に適した内容になっているとは限らない。それゆえ、このようなチャプターを構成するフレームに基づいて単純にサムネイル画像を生成すると、ユーザにとってダイジェスト動画の内容が把握しにくくなる可能性が高い。
これに対して、本実施の形態のデジタルカメラ100によれば、管理情報に含まれる情報に基づいて、ダイジェスト動画を示すサムネイル画像を生成する。例えば、管理情報に特定の被写体を撮影した旨を示す情報が含まれる場合、予め登録しておいた当該被写体の名称等の文字情報を用いてサムネイル情報を作成する。これにより、ユーザーは、ダイジェスト動画を示すサムネイル画像を閲覧するときに、そのダイジェスト動画の内容をより容易に把握できるようになる。
[1−2−5.サムネイル情報の表示]
続いて、図15を参照しながら、サムネイル追加モード設定時に撮影されたダイジェスト動画を再生するときのサムネイル表示の例を説明する。図15は、再生時のサムネイル表示を説明するための図である。ここでは、図15(a)から図15(c)を参照して3つの表示例を説明する。
図15(a)は、再生モードに切り替わったときの最初のサムネイル表示画面の例を示している。コントローラ210は、各ダイジェスト動画ファイルに記録されている複数のサムネイル情報のうち、先頭に記録されているサムネイル情報に基づく画像を液晶ディスプレイ204に表示させる。ユーザによって特定のダイジェスト動画ファイルを示すサムネイル画像が選択された場合、選択されたダイジェスト動画ファイルに記録されている複数のチャプターを示すサムネイル画像を所定の時間間隔で先頭から順次表示していく。これにより、そのダイジェスト動画ファイルに含まれる複数のチャプターを示すサムネイル画像のスライドショー表示が実現する。このような表示、そのファイルに含まれるチャプターの概要をユーザが容易に把握することができる。
図15(b1)に示す例では、図15(a)に示す例と同様、コントローラ210は、各ダイジェスト動画を示すサムネイル画像として、ダイジェスト動画ファイル内に複数記録されているサムネイル情報のうち先頭に記録されているサムネイル情報に基づくサムネイル画像を液晶ディスプレイ204に表示させる。ユーザによって特定のダイジェスト動画ファイルを示すサムネイル画像が選択された場合、コントローラ210は、選択されたダイジェスト動画ファイルに記録されている複数のサムネイル画像を一覧表示する画面(図15(b2))に液晶ディスプレイ204の表示を遷移させる。これにより、ダイジェスト動画ファイルに含まれるサムネイル情報に基づくサムネイル画像を一覧できるので、ダイジェスト動画ファイルに含まれるチャプターの概要をユーザーが容易に把握することができる。
図15(c)に示す例では、コントローラ210は、各ダイジェスト動画ファイルに含まれるサムネイル情報の全てもしくはその一部に基づくサムネイル画像を、一枚のサムネイル画像として液晶ディスプレイ204にまとめて表示させる。これにより、ユーザは、1つの画面で各ダイジェスト動画ファイルに含まれる複数のチャプターの内容を容易に把握することができる。
[1−3.効果等]
以上のように、本実施形態のデジタルカメラ(撮像装置)100は、撮影指示に応答して撮像データを生成して出力するように構成された撮像部264と、撮像データに基づいて動画像データ(チャプター)を生成するように構成された画像処理部203と、当該動画像データに関連付けられ、当該動画像データに関する代表画像を含まない管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラ210とを備える。このデジタルカメラ100は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェース(コントローラ210と画像処理部203との間の接続端子等)と、当該管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラ210とを備える画像処理装置を含んでいると言うこともできる。これにより、ユーザにとってより好適な代表画像を生成することができる。
特に、コントローラ210は、動画像データに含まれるいずれのフレームのデータも用いずに、管理情報に基づいて代表画像を生成することができる。これにより、動画像データに含まれるフレームとは全く異なるわかり易い代表画像を生成することが可能となる。
また、コントローラ210は、管理情報に基づいて決定される文字を含む画像情報を、代表画像として生成することができる。これにより、動画像データの内容を文字情報によって素早く把握できる好適な代表画像を生成することができる。
また、前記管理情報は、動画像データの生成時に生成され、撮像データが取得される際の撮影条件を示す情報を含む。このため、撮影条件に応じた好適な代表画像を生成することが可能となる。
また、コントローラ210は、生成した代表画像を、動画像データに関連付けて記録媒体に記録するように構成されている。これにより、動画像データを再生する際に容易に対応する代表画像にアクセスすることができる。
また、動画像データおよび管理情報は、1つの動画像ファイルに格納され、コントローラ210は、管理情報に基づいて生成した代表画像を、当該動画像ファイルに格納して当該動画像ファイルを更新するように構成されている。このため、管理情報を動画像データと一体的に管理することができる。
また、管理情報に撮像データが取得された時の撮影モードを示す情報が含まれているとき、コントローラ210は、撮影モードを示す情報に基づいて、撮影モードに対応する情報を含む代表画像を生成することができる。これにより、撮影モードに応じた好適な代表画像を生成することができる。
また、管理情報に撮像データが取得された日時を示す情報が含まれているとき、コントローラ210は、当該日時を示す情報に基づいて、当該日時に関連する情報を含む代表画像を生成することができる。特に、当該日時に関連する情報は、動画像データが生成された日または日時を示す文字を含む画像情報である。これにより、動画像の撮影日を容易に特定できる好適なサムネイルを生成することができる。
また、管理情報に動画像データに含まれる被写体を示す情報が含まれているとき、コントローラ210は、当該被写体を示す情報に基づいて、当該被写体に対応する情報を含む代表画像を生成することができる。特に、当該被写体に対応する情報は、その被写体を示す文字、アイコン、写真の少なくとも1つを含む画像情報である。これにより、動画像に写っている被写体を容易に特定できる好適な代表画像を生成することができる。
また、管理情報に動画像データが生成された場所を示す情報が含まれているとき、コントローラ210は、当該場所を示す情報に基づいて、当該場所に対応する情報を含む代表画像を生成することができる。特に、当該場所に対応する情報は、その場所を示す文字、アイコン、写真の少なくとも1つを含む画像情報である。これにより、その動画像が撮影された場所を容易に特定できる好適なサムネイルを生成することができる。
また、インターフェースが、動画像データおよび管理情報の両方を取得するとき、コントローラ210は、当該管理情報および当該動画像データの少なくとも一方を解析することにより、当該動画像データに含まれるフレームのデータを用いて代表画像を生成するか、当該動画像データに含まれるいずれのフレームのデータも用いずに当該管理情報に基づいて代表画像を生成するかを決定することができる。これにより、フレームに基づく代表画像を生成することが適切でない場合には管理情報に基づく代表画像を生成する、といった柔軟なサムネイルの作成が可能となる。
また、本実施形態では、画像処理部203は、静止画像の撮影指示に応答して生成された撮像データに基づいて動画像データを生成し、加えて当該撮影指示に基づく静止画像データを生成する。このため、静止画像の撮影指示をトリガーとしてダイジェスト動画のチャプターを生成することができる。
また、本実施形態におけるデジタルカメラ100は、被写体像を撮像して撮像データを生成する撮像部をさらに備え、コントローラ210は、ユーザから、静止画像の撮影指示を受け付けて、生成された撮像データに基づいて静止画像データを生成するとともに、当該静止画像の撮影指示のタイミングよりも前のタイミングまたは後のタイミングの少なくとも一方のタイミングで生成された撮像データに基づいて動画像データを生成する。これにより、静止画像の撮影指示のタイミングに整合した好適なダイジェスト映像を、代表画像とともに生成することができる。
(実施の形態2)
上記の実施の形態1では、ダイジェスト動画を記録する場合におけるサムネイル情報の作成方法を説明したが、本実施の形態では、ダイジェスト動画以外の通常の動画を記録する場合におけるサムネイル情報の作成方法を説明する。
[2−1.構成]
本実施の形態におけるデジタルカメラの電気的構成は、図1から図3を用いて説明した実施の形態1におけるデジタルカメラ100の電気的構成と同様であるため、説明は省略する。また、構成が同様であるため、同じ構成要素には、同じ符号を付して説明する。
また、通常の動画ファイルの構成は、図7Bに示したダイジェスト動画ファイルの構成と比較して、ストリームデータ格納部78にチャプターごとに分割された格納領域がない点以外は概ね同様である。
[2−2.動作]
本実施の形態におけるデジタルカメラ100の通常の動画を記録する動作について、図16を参照して説明する。図16は、通常の動画を記録する動作を示すフローチャートである。
まず、コントローラ210は、動画記録開始命令を待機する(ステップS441)。動画記録開始命令は、例えば、操作部223に含まれる動画記録釦をユーザが押下することによってよってなされる。動画記録開始命令を受けると、コントローラ210は、動画記録動作を開始する(ステップS442)。コントローラ210は、メモリカード221に新規に動画ファイルを作成し、当該動画ファイルのストリームデータ格納部に動画像データを格納(記録)していく。
続いて、コントローラ210は、動画記録停止命令を待つ(ステップS443)。動画記録停止命令も、操作部223に含まれる動画記録釦をユーザが押下することによってなされ得る。動画記録停止命令を受けるまでは、ステップS442の動画記録を継続する。ステップS443で動画記録停止命令を受けると、コントローラ210は、動画記録動作を完了する。
動画記録動作が完了すると、コントローラ210は、記録した動画ファイル内の管理情報の更新を行う(ステップS444)。この際、コントローラ210は、動画ファイルの管理情報格納部に格納された管理情報のうち、サムネイル情報を除く情報を記録する。例えば、記録時間、映像や音声の記録フォーマット情報、撮影情報(例えば、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報)などを含む。
続いて、コントローラ210は、撮影を完了した動画像に関するサムネイル情報の作成を行う(ステップS445)。このサムネイル情報は、動画ファイルの管理情報格納部におけるサムネイル情報格納領域に記録するためのビットマップ情報である。コントローラ210は、作成したビットマップ画像を示す情報を、作成した動画ファイル内のサムネイル情報格納領域に新規追加する(ステップS446)。
ステップS445におけるサムネイル情報の作成処理は、例えば実施の形態1において説明した図11、図13、図14に示すいずれかの処理によって行われ得る。
以上のように、本実施の形態にかかるデジタルカメラ100は、通常の動画撮影を行うときに、生成した動画像データに対応する管理情報に含まれる情報に基づいてサムネイル情報を作成する。そして、作成したサムネイル情報を、撮影した動画ファイル内に関連付けて格納する。これにより、通常の動画撮影においても、ユーザにとってより好適なサムネイル情報を作成し記録することができる。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態1、2を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施の形態にも適用可能である。また、上記実施の形態1、2で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
そこで、以下、他の実施の形態を例示する。
上記の実施形態では、管理情報は静止画ファイル、動画像ファイル、およびダイジェスト動画ファイルに格納されるものとしたが、管理情報はこれらのファイルとは独立したファイルに格納されていてもよい。例えば、図7Aに示す管理データベースの個々のコンテンツに関連付けて管理情報が管理されていてもよい。また、図7Bに示す管理情報内の情報はあくまでも一例であり、図示される情報以外の情報を含んでいてもよいし、図示される情報の一部を含んでいなくてもよい。
また、本開示の技術は、デジタルカメラ100のような撮像装置に限らず、上記のコントローラ210の機能を有する他のコンピュータ(画像処理装置)に適用することもできる。そのような画像処理装置の構成は、例えば図3に示すコントローラ210の構成と同様であり、その動作は、例えば図8〜11、13、14、16に示す動作と同様である。すなわち、当該画像処理装置は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェースと、前記管理情報に基づいて、前記動画像データを代表する代表画像を生成するように構成されたコントローラとを備える。
そのような画像処理装置は、撮像装置によって生成され、記録媒体に記録された動画像のデータや、電気通信回線によって送信された動画像のデータを事後的に取得し、上述の実施形態における処理によって代表画像を生成することができる。画像処理装置は、例えばパーソナルコンピュータやクラウドサービスを提供するサーバコンピュータであってもよい。
さらに、撮影によって取得された撮像データに基づいて生成された動画像データに限らず、撮影以外の方法で生成された動画像(例えばアニメーション)のデータについても本開示の技術を適用してもよい。撮影によらない動画像データが生成されたときに併せて生成された管理情報に基づいて、当該動画像データを代表する好適な代表画像を生成することができる。
また、本開示の技術は、上述の実施形態における処理を規定するソフトウェア(コンピュータプログラム)にも適用され得る。そのようなプログラムに規定される動作は、例えば図8〜11、13、14、16に示すとおりである。このようなプログラムは、可搬型の記録媒体に記録されて提供され得る他、電気通信回線を通じても提供され得る。コンピュータに内蔵されたプロセッサがこのようなプログラムを実行することにより、上記の実施形態で説明した各種動作を実現することができる。
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
本開示の技術はデジタルカメラ100への実施に限定されない。例えば、ムービーカメラやカメラ付き携帯電話、ウェアラブルカメラ、監視カメラなどの他の種類の撮像装置、およびパーソナルコンピュータやサーバコンピュータなどの情報処理装置にも適用可能である。
100 デジタルカメラ
110 レリーズボタン
112 電源
113 フラッシュ(エレクトロニックフラッシュ)
114 AF補助光
120 メニュー釦
121 十字釦
200 光学系
201 CCDイメージセンサ
202 AFE(アナログ・フロント・エンド)
203 画像処理部
204 液晶ディスプレイ
205 バッファメモリ
210 コントローラ
220 カードスロット
221 メモリカード
222 フラッシュメモリ
223 操作部
250 通信インターフェース
260 スルー画像生成部
261 静止画像生成部
262 動画像生成部
270 GPSユニット
本開示は、動画像に関する代表画像を生成する電子機器に関する。
被写体を撮像することによって取得した撮像データに基づいて動画像データを生成するとともに、当該動画像データを示す静止画像(「サムネイル画像」または「代表画像」と呼ぶ。)を生成する撮像装置が知られている。
例えば、特許文献1は、動画像中の1つのフレームから作成したサムネイル画像に、動画像の特徴を表すマークを付与する技術を開示している。
特開2010−16729号公報
静止画像や動画像のコンテンツのサムネイル画像は、閲覧者が当該サムネイル画像からコンテンツの内容を容易に把握できるものであることが望ましい。
本開示は、ユーザにとってより好適なサムネイル画像を示す情報(以下、「サムネイル情報」と呼ぶことがある。)を作成することができる電子機器を提供する。
本開示の一態様における画像処理装置は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェースと、当該管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラとを備える。
本開示の技術によれば、ユーザにとってより好適な代表画像を生成することができる。
デジタルカメラ100の前面構成図である。 デジタルカメラ100の背面構成図である。 デジタルカメラ100の電気的な接続関係を示すブロック図である。 ダイジェスト動画の記録動作の概要を示す図である。 ダイジェスト動画のメニュー設定画面のイメージを示す図である。 メモリカード内のデータ構成例を示す図である。 管理データベースに記録される情報の例を示す図である。 ダイジェスト動画ファイルに記録される情報の構成を模式的に示す図である。 動画バッファリング処理を示すフローチャートである。 ダイジェスト動画のチャプター作成処理を示すフローチャートである。 ダイジェスト動画のサムネイル情報の作成または更新処理の概要を示すフローチャートである。 ダイジェスト動画のサムネイル情報の作成または更新処理の第1の例を示すフローチャートである。 管理情報に基づいて作成されるサムネイル画像の例を示す図である。 ダイジェスト動画のサムネイル情報の作成または更新処理の第2の例を示すフローチャートである。 ダイジェスト動画のサムネイル情報の作成または更新処理の第3の例を示すフローチャートである。 再生時のサムネイル画像の表示例を示す図である。 例示的な実施の形態2における通常の動画を記録する際のサムネイル情報の作成処理の概要を示すフローチャートである。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、発明者らは、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
(実施の形態1)
図1および図2は、本実施の形態におけるデジタルカメラ(撮像装置)100の前面および背面の構成をそれぞれ示す模式図である。図3は、デジタルカメラ100の内部構成の概略を示すブロック図である。
本実施の形態におけるデジタルカメラ100は、撮影モード、再生モード、設定モードといった複数のモードを有している。撮影モードには、通常撮影モードとダイジェスト動画記録モードとが含まれる。ダイジェスト動画記録モードにおいて、デジタルカメラ100は、動画像のデータをバッファメモリ205に常時記録する。その上で、ユーザからの指示(例えば、レリーズ釦110の押下による静止画の撮影指示、またはダイジェスト動画記録指示)をトリガーとして、バッファメモリ205に記録された動画像データの中から、指示のタイミング付近の所定期間の動画像のデータを、ダイジェスト動画ファイルとして記録する。静止画の撮影指示をトリガーとする場合、静止画の撮影の直前の数秒間の動画像データ、静止画の撮影の直後の数秒間の動画像データ、または静止画の撮影の直前および直後の数秒間の動画像データをメモリカード221等の記録媒体に記録する。あるいは、静止画の撮影を行うことなく、ダイジェスト動画の記録が指示されたタイミングの直前、直後、またはその両方における数秒間の動画像のデータをメモリカード221等の記録媒体に記録してもよい。
本明細書において、上記の所定期間(例えば、静止画撮影タイミングの直前および直後の数秒間)の動画像データの単体を「チャプター」と称する。チャプターは、新しく記録される度に所定の条件を満たすか否かが判定され、条件を満たす場合、これまでに記録されたチャプターに結合され、ひとまとまりの動画像ファイルとして記録される。このようにして作成された動画像ファイルを、「ダイジェスト動画ファイル」と称する。このように、既に記録されたダイジェスト動画ファイルに新たなチャプターの内容を取り込んでそのファイルを更新することを、そのチャプターをダイジェスト動画ファイルに「追記する」と表現する。デジタルカメラ100のコントローラ210は、チャプターが新しく生成される度に、このチャプターを既存のダイジェスト動画ファイルに追記するか、新規のダイジェスト動画ファイルに分割して記録するかを判定する。コントローラ210は、例えば所定期間(例えば1日)に作成されたチャプターをまとめて単一のダイジェスト動画ファイルに記録する。このような動画像データの記録モードを、「ダイジェスト動画記録モード」と呼ぶ。
本実施形態では、ダイジェスト動画記録モードに設定されているときには、さらに「サムネイル追加モード」に設定することができる。サムネイル追加モードは、1つのダイジェスト動画ファイルについて2つ以上のサムネイル情報の記録を許可するモードである。サムネイル追加モードに設定されているときには、チャプターごとにサムネイル情報を生成して記録することができる。
本実施の形態におけるデジタルカメラ100は、生成されるチャプターに対応して撮影時に生成される管理情報に基づいて、当該チャプターが記録されるダイジェスト動画に関する静止画像(サムネイル画像)を示すサムネイル情報を生成して記録媒体に記録する。これにより、ユーザにとってより好適なサムネイル情報を作成することができる。
以下、デジタルカメラ100の構成および動作をより具体的に説明する。
[1−1.構成]
まずは、図1〜3を参照しながら、本実施の形態によるデジタルカメラ100の構成を説明する。
図1に示すように、デジタルカメラ100は、前面に光学系200を納める鏡筒、フラッシュ113、AF(Auto Focus)補助光源114を備える。また、デジタルカメラ100は、上面にレリーズ釦110、ズームレバー111、電源釦112などを備える。
また、図2に示すように、デジタルカメラ100は、背面に液晶ディスプレイ204、およびメニュー釦120や十字釦121などを備える。本明細書では、レリーズ釦110、ズームレバー111、電源釦112、メニュー釦120、十字釦121といったユーザの操作を受け付けるための要素をまとめて「操作部」と呼ぶ。
図3は、デジタルカメラ100の電気的な接続関係を示している。デジタルカメラ100は、撮像部264、画像処理部203、液晶ディスプレイ204、バッファメモリ205、コントローラ210、フラッシュ(ストロボ)113、AF補助光源114、操作部223、フラッシュメモリ222、カードスロット220、通信インターフェース(IF)250、およびGPSユニット270を備えている。撮像部264は、光学系200、CCDイメージセンサ201、およびアナログ・フロント・エンド(AFE)202を有している。画像処理部203は、スルー画像生成部260、静止画像生成部261、および動画像生成部262を有している。図3には、メモリカード221も記載されているが、メモリカード221はデジタルカメラ100構成要素ではなく、カードスロット220に接続可能な外部記録媒体である。
デジタルカメラ100は、光学系200を介して形成された被写体像をCCDイメージセンサ201によって電気信号に変換する(撮像する)。これにより、CCDイメージセンサ201は、撮像面に形成された被写体像に基づく撮像データを生成する。撮像によって生成された撮像データは、AFE202および画像処理部203によって各種の処理を施され、画像データとなる。生成された画像データは、フラッシュメモリ222やメモリカード221といった記録媒体に記録される。フラッシュメモリ222やメモリカード221等に記録された画像データが示す画像は、使用者による操作部223での操作により、液晶ディスプレイ204上に表示される。
以下、図1から図3に示す各構成要素の詳細を説明する。
光学系200は、フォーカスレンズやズームレンズ、絞り、シャッタ等を含む。光学系200は、光学式手ぶれ補正のためのOIS(Optical Image Stabilizer)を含んでいてもよい。光学系200を構成する各種のレンズは何枚から構成されるものでも、何群から構成されるものでもよい。フォーカスレンズ、ズームレンズ、絞り、シャッタは、それぞれに対応するDCモータやステッピングモータ等の駆動機構により、コントローラ210から通知された制御信号に従って駆動される。
CCDイメージセンサ201は、光学系200によって形成された被写体像に基づいて撮像データを生成する撮像素子である。CCDイメージセンサ201は、一定時間ごとに新しいフレームの画像データを生成する。また、CCDイメージセンサ201は、電子シャッタ動作により露出光量を調節する。なお、CCDイメージセンサ201に代えて、例えばCMOSイメージセンサやNMOSイメージセンサなどの他の種類の撮像素子を用いてもよい。
AFE202は、CCDイメージセンサ201に接続され、CCDイメージセンサ201で生成された撮像データに対して、相関二重サンプリング、ゲイン調整等の処理を実行する回路である。AFE202は、アナログ形式の撮像データからデジタル形式の撮像データへの変換を施す。その後、AFE202は変換後の撮像データを画像処理部203に出力する。
画像処理部203は、AFE202に接続され、AFE202から出力された撮像データに対して各種処理を施し画像データを生成する回路である。各種処理の例としては、ガンマ補正、ホワイトバランス補正、輝度・色差(YC)変換処理、電子ズーム処理、圧縮処理、伸張処理等が挙げられるが、これらに限定されるものではない。画像処理部203は、AFE202から出力された撮像データに基づいて、その撮像データが示す画像領域の中から特定の被写体の特徴点を抽出することにより、被写体の識別を行うことができる。例えば、予め人物の顔の特徴点を登録しておけば、その人物の顔の認証を行うことができる。
画像処理部203は、例えばデジタルシグナルプロセッサ(DSP)やマイクロコントローラ(マイコン)といった集積回路によって好適に実現され得る。画像処理部203は、ハードウェアのみで構成してもよいし、ハードウェアとソフトウェア(コンピュータプログラム)との組み合わせによって構成してもよい。画像処理部203は、スルー画像生成部260、静止画像生成部261、動画像生成部262などの画像生成回路を含んでいる。
スルー画像生成部260は、AFE202から順次出力される撮像データ(例えば、毎秒60フレーム)に基づいて、液晶ディスプレイ204に表示するための画像データを生成する回路である。液晶ディスプレイ204に表示されるリアルタイム映像を見ることにより、ユーザは、撮影画角等を容易に決定することができる。
静止画像生成部261は、レリーズ釦110が押下されたタイミングに取得された撮像データに基づいて、記録用の静止画像を生成する回路である。静止画像生成部261は、例えばJPEG規格に準拠した静止画像ファイルを生成する。静止画像生成部261は、静止画像ファイルを生成する際、ファイル内に当該静止画像に関する管理情報を格納する。管理情報は、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報などの撮影時の条件を示す情報を含む。静止画像生成部261によって生成された静止画像ファイルは、コントローラ210によってメモリカード221に記録される。ここで、撮影モードに関する情報は、例えばトラベルモード、赤ちゃんモードといった特定のモードを示す情報である。これらのモードについての詳細は後述する。コントローラ210は、ダイジェスト動画記録モードにおいて静止画像ファイルをメモリカード221に記録するとき、当該静止画像ファイルに関する情報を管理データベースに追記する。管理データベースは、ダイジェスト動画を構成する静止画像と動画像(チャプター)との対応関係を示す情報を記録するデータベースである。管理データベースの詳細については後述する。
動画像生成部262は、撮像部264から出力された撮像データに基づいて動画像データを生成する回路である。動画像生成部262は、操作部223に含まれる不図示の動画記録釦が押下されたタイミングから、再び動画記録釦が押下(記録停止)されたタイミングまでの間に取得された撮像データに基づいて、記録用の動画像ファイルを生成する。動画像生成部262は、例えば、AVCHD(登録商標)規格や、MP4規格等に準拠した動画像ファイルを生成する。動画像生成部262は、動画像ファイルを生成する際、ファイル内に当該動画像に関する管理情報を格納する。この管理情報も、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報などを含む。生成された動画像ファイルは、コントローラ210によってメモリカード221に記録される。
また、ダイジェスト動画記録モードでは、動画像生成部262は、撮像データに基づいて動画像データを常時生成してバッファメモリ205に記録する。そして、レリーズ釦110が押下されたタイミング(以下、「レリーズタイミング」と呼ぶことがある。)付近の所定期間(例えば、レリーズタイミングの直前および直後の数秒間)に取得された撮像データに基づいて、動画像データ(チャプター)を生成する。生成されたチャプターは、コントローラ210によってメモリカード221に記録されたダイジェスト動画ファイルに格納される。当該チャプターを追記すべきダイジェスト動画ファイルがメモリカード221に記録されていないときは、コントローラ210は、メモリカード221に新規にダイジェスト動画ファイルを作成し、当該ダイジェスト動画ファイルに、生成したチャプターを格納する。動画像生成部262は、チャプターをダイジェスト動画ファイルに格納する際、当該チャプターに関する管理情報も当該ダイジェスト動画ファイルに格納する。この管理情報も、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報などを含む。コントローラ210は、チャプターをメモリカード221内のダイジェスト動画ファイルに記録するとき、当該チャプターに関する情報を管理データベースに追記する。
ダイジェスト動画記録モードにおいては、上記のように、レリーズ釦110が押下されたタイミングに取得された撮像データに基づいて、静止画像生成部261は静止画像ファイルを生成する。コントローラ210は、生成された静止画像ファイルを、メモリカード221に記録する。一方、動画像生成部262は、レリーズ釦110が押下されたタイミングの付近の所定期間(例えば、直前および直後の数秒間)に取得された撮像データに基づいて、動画像データ(チャプター)を生成する。コントローラ210は、生成されたチャプターを、ダイジェスト動画ファイルに格納してメモリカード221に記録する。コントローラ210は、これらのほぼ同じタイミングで生成された静止画像ファイルと、チャプターと、当該チャプターを記録したダイジェスト動画ファイルとを、互いに関連付けてメモリカード221に記録する。具体的には、コントローラ210は、管理データベースを用いて、ほぼ同じタイミングで生成された静止画像ファイルと、チャプターと、当該チャプターを格納したダイジェスト動画ファイルとを互いに関連付ける。
液晶ディスプレイ204は、デジタルカメラ100の背面に設けられている。液晶ディスプレイ204は、画像処理部203によって処理された画像データに基づく画像を表示する。液晶ディスプレイ204は、画像の他、デジタルカメラ100の設定条件等を表示することも可能である。液晶ディスプレイ204の代わりに、有機EL等の他の種類のディスプレイが設けられていてもよい。
コントローラ210は、デジタルカメラ100全体の動作を統括制御するプロセッサである。コントローラ210は、例えば、プログラム等の情報を格納するROM(Read Only Memory)、およびプログラム等の情報を処理するCPU(Central Processing Unit)の組み合わせによって好適に実現され得る。ROMは、オートフォーカス(AF)制御や自動露出(AE)制御、デジタルカメラ100全体の動作を制御するためのプログラム等を格納する。
コントローラ210は、ハードワイヤードな電子回路で構成してもよいし、マイクロコントローラなどで構成してもよい。また、画像処理部203などと共に1つの半導体チップで構成してもよい。ROMはコントローラ210の内部の構成要素である必要はなく、コントローラ210の外部に設けられていてもよい。コントローラ210は、図3に示すように、他の各部に電気的に接続され、制御信号によって各部を制御する。
コントローラ210は、AF制御を実行することができる。まず、コントローラ210は、画像処理部203から画像データの特定の被写体領域におけるコントラスト値を取得する。コントローラ210は、連続して取得されるコントラスト値に基づき、特定の被写体領域のフォーカス状態を判断して、当該被写体領域に合焦するようにフォーカスレンズを駆動させる。コントローラ210がAF制御を実行するタイミングは、使用者によるレリーズ釦110の半押し操作を受け付けたときでもよいし、撮影モード中は常にAF制御を行うように構成されていてもよい。静止画撮影のときのピント状態に関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
コントローラ210は、また、AE制御を実行することができる。まず、コントローラ210は、画像処理部203から画像データの特定の被写体領域における輝度情報を取得する。コントローラ210は、連続して取得される輝度情報から、被写体の適正露出を得るため露出値を算出する。コントローラ210は、算出された露出値と所定のプログラム線図に従って、絞り値とシャッタースピードとを決定する。プログラム線図は、露出値と、絞り値およびシャッタースピードとの関係を規定する情報であり、予めROM等の記録媒体に記録されている。コントローラ210は、画像データから取得される輝度情報を監視しており、AE制御を常時実行する。撮影する際の露出値は、使用者によるレリーズ釦110の半押し操作を受け付けたタイミングで固定してもよいし、全押し操作を受け付けたタイミングで固定してもよい。静止画撮影のときの絞り値、シャッタースピード、感度等の情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
バッファメモリ205は、画像処理部203およびコントローラ210のワークメモリとして機能する記録媒体である。バッファメモリ205はDRAM(Dynamic Random AccessMemory)などで実現できる。フラッシュメモリ222は、画像データ等を記録するための内部メモリとして機能する。
カードスロット220は、メモリカード221を着脱可能なインターフェースである。カードスロット220は、メモリカード221を電気的および機械的に接続可能である。また、カードスロット220は、メモリカード221を制御する機能を備えていてもよい。
メモリカード221は、内部にフラッシュメモリ等の記録媒体を備えた外部メモリである。メモリカード221は、画像処理部203で処理される画像データなどのデータを記録可能である。本実施形態では、外部メモリの一例としてメモリカード221を示すが、外部メモリはこれには限らない。例えば、ハードディスクや光ディスク等の記録媒体を外部メモリとしてもよい。
操作部223は、デジタルカメラ100の外装に設けられている操作釦や操作ダイヤル等の総称であり、使用者による操作を受け付けるユーザインターフェースとして機能する。操作部223は、例えば図1や図2に示したレリーズ釦110、ズームレバー111、電源釦112、メニュー釦120、十字釦121などを含む。操作部223は、使用者による操作を受け付けると、コントローラ210に種々の動作を指示する信号を送る。
レリーズ釦110は、半押し状態と全押し状態の二段階押下式釦である。ユーザによってレリーズ釦110が半押しされると、コントローラ210は、上述したAF制御およびAE制御を実行して撮影条件を決定する。続いて、ユーザによってレリーズ釦110が全押しされると、コントローラ210は、全押しのタイミングに撮像され生成された画像データ(静止画像およびチャプター)をメモリカード221に記録する。
メニュー釦120は、押下式の釦である。メニュー釦120が使用者によって押下されると、コントローラ210は、液晶ディスプレイ204にメニュー画面を表示させる。メニュー画面は、撮影および再生のための各種条件を設定するための画面である。各種条件の設定項目が選択されているときに押下されるとその項目が決定されるように、メニュー釦120は決定釦として機能するようにしてもよい。
十字釦121は、メニュー釦120の上下左右方向に設けられた押下式釦である。使用者は、十字釦121のいずれかの方向を押下することにより、液晶ディスプレイ204に表示される各種条件項目を選択することができる。
フラッシュ113は、キセノン管、コンデンサ、昇圧回路、発光トリガー回路などを含む。昇圧回路は、コントローラ210からの制御信号に従って、コンデンサに高電圧を印加する。発光トリガー回路は、コントローラ210からの制御信号に従って、印加充電されたコンデンサの高電圧を放電させて、キセノン管内のキセノンガスを瞬間的に発光させる。発光トリガー回路は、コンデンサの高電圧を静止画撮影と同期して放電させる。これにより、デジタルカメラ100は、光が照射された被写体を静止画撮影することができる。フラッシュ113は、被写体に対して撮像時に瞬間的に発光することによって、被写体の明るさを補うことができる。静止画撮影のときにフラッシュ発光がなされたか否かに関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
AF補助光源114は、上述したコントローラ210によるAF制御のときに、被写体の照度を補って、被写体のコントラスト値を取得するために発光させる光源である。被写体の照度が低い場合、被写体からAF制御可能なコントラスト値が得られにくい。AF補助光を発光させることによって、コントローラ210がAF制御可能なコントラスト値が得られるシーンを増やすことができる。AF制御のときにAF補助光の発光がなされたか否かに関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
通信インターフェース250は、無線または有線の通信を実行可能なインターフェースである。コントローラ210は、この通信インターフェース250を介して、例えば、アクセスポイント経由で他の通信機器に接続することができる。通信インターフェース250は、無線LAN、有線LAN等により実現可能である。
GPSユニット270は、人工衛星による測位システムを利用して、デジタルカメラ100の現在位置を検出するGPS受信機である。コントローラ210は、GPSユニット270を介して、現在位置に関する情報(緯度、経度など)を取得することができる。デジタルカメラ100は、GPSユニット270から取得した現在位置に関する情報と、撮影画像(静止画像、チャプター等の動画像)とを関連付けることができる。静止画を撮影したときの現在位置に関する情報は、管理情報として静止画像ファイルおよびダイジェスト動画ファイル内で管理され得る。
なお、上記の構成はあくまでも一例であり、コントローラ210が後述する動作を実行する限り、その構成はどのようなものであってもよい。例えば、図3に示す構成要素以外の要素を含んでいてもよいし、一部の構成要素を省略してもよい。
[1−2.動作]
以下、図4〜15を参照しながら、デジタルカメラ100の動作を説明する。
まず、ダイジェスト動画の記録の概要を説明する。以下の説明では、静止画像撮影指示をトリガーとして、当該指示のタイミングの前後の数秒間の動画像をチャプターとして記録する場合を想定する。
図4は、静止画像撮影指示をトリガーとして記録された静止画像と、静止画像撮影指示に伴って記録されたチャプターとを、撮影時間に沿って時系列に並べたイメージを示している。図4に示すように、チャプターは、静止画像の直前のものと直後のものとに分類される。ここで、N番目(Nは自然数)のダイジェスト動画をDNと表す。このとき、N番目の静止画撮影直前のチャプターをDN−CNb、N番目の静止画撮影直後のチャプターをDN−CNaと表す。更に、このときの静止画像をDN−PNと表す。したがって、例えば1番目のダイジェスト動画はD1と表される。このとき、1番目の静止画撮影直前のチャプターはD1−C1b、1番目の静止画像撮影直後のチャプターはD1−C1a、静止画像はD1−P1と表される。
このように、ダイジェスト動画記録モードでは、デジタルカメラ100は、静止画像とその前後のチャプターとを、メモリカード221に順次記録していく。
[1−2−1.ダイジェスト動画のメニュー画面構成]
図5は、ダイジェスト動画のメニュー設定画面のイメージを示す図である。本実施の形態におけるデジタルカメラ100は、ユーザによる操作部223からの操作を受け付けて、図5に示すような、ダイジェスト動画のためのメニュー設定画面を液晶ディスプレイ204に表示させることができる。
図5に示すように、ダイジェスト動画のメニュー画面は、メニュー項目として、ダイジェスト動画を記録するか否か(ON/OFF)の設定項目、生成されるチャプターの長さ(例えば、5秒or10秒)の設定項目、静止画記録指示の直後の動画像をチャプターとして生成する(残す)か否か(残す/残さない)の設定項目を有する。これらの設定項目の他、例えば静止画記録指示の直前の動画像をチャプターとして生成するか否か(残す/残さない)の設定項目が設けられていてもよい。ユーザは、操作部223を操作することにより、各設定項目の選択枝のいずれかを選択することができる。
以下の説明では、ダイジェスト動画を記録するか否かの設定項目が「ON」に設定されており、チャプターの長さの設定項目が「5秒」に設定されており、静止画記録指示の直後の動画像をチャプターとして生成する(残す)か否かの設定項目が「残す」に設定されているものとする。
[1−2−2.ダイジェスト動画の管理構成]
次に、図6を参照しながら、ダイジェスト動画記録モードにおいてメモリカード221に記録されるデータの構成を説明する。図6は、メモリカード221に記録されるデータ構成のイメージを示す図である。
メモリカード221には、静止画像と、ダイジェスト動画と、管理データベースとが記録される。管理データベースには、静止画像と当該静止画像の直前および直後に生成されたチャプターとの対応関係を示す情報(「関係情報」と呼ぶ。)が管理されている。コントローラ210は、管理データベースを参照することにより、メモリカード221に記録された静止画像と、当該静止画像に対応付けられたチャプターとを把握することができる。
図7Aは、管理データベースに管理される情報の一例を示す図である。図7Aに示すように、管理データベースには、コンテンツID、コンテンツ種別、ダイジェスト動画ID、実ファイル名称、チャプター情報(開始時刻、終了時刻、チャプタータイトル)、関係情報(対応コンテンツID、静止画前後情報)が管理されている。本実施の形態では、このような管理データベースによってダイジェスト動画を構成する静止画像およびチャプターが管理される。なお、このような管理データベースを用いる代わりに、各コンテンツデータのヘッダー部(Exifやユーザーデータ領域など)において同様の情報を管理してもよい。
コンテンツIDは、各コンテンツ(静止画像またはチャプター)に固有に付与される番号である。コンテンツ種別は、各コンテンツが、静止画像(Picture)なのか動画像(Video)なのかを示す情報である。ダイジェスト動画IDは、各チャプターを含むダイジェスト動画を識別するID情報である。実ファイル名称は、各コンテンツが含まれる実際のファイル名称である。チャプター情報は、各チャプターのタイトル、ダイジェスト動画内の開始時刻および終了時刻を示す情報を含む。関係情報は、静止画像と、当該静止画像とともに生成されたチャプターとの対応関係を示す情報である。関係情報は、対応コンテンツIDと、静止画像に対する前後情報とを含む。対応コンテンツIDは、静止画像については対応するチャプターのコンテンツID、チャプターについては対応する静止画像のコンテンツIDである。前後情報は、レリーズタイミングの直前のチャプターであるか、直後のチャプターであるかを示す情報である。
図7Bは、ダイジェスト動画ファイルの構成例を模式的に示す図である。ダイジェスト動画ファイルは、管理情報格納部70とストリームデータ格納部78とを含む。管理情報格納部70は、記録時間71、サムネイル情報72、映像や音声の記録フォーマット情報73、撮影情報74(例えば、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報)などをチャプターごとに格納する。ストリームデータ格納部78はチャプター(映像および音声などを記録した動画像データ)を格納する。
[1−2−3.ダイジェスト動画の記録動作]
次に、ダイジェスト動画の記録動作を説明する。
まず、図8を参照しながら、デジタルカメラ100による動画バッファリング処理を説明する。図8は、動画バッファリング処理を示すフローチャートである。画像処理部203における動画像生成部262は、チャプターを生成するとき、図8に示すフローチャートに従って動画バッファリングを行う。
デジタルカメラ100が撮影モードに設定されているとき、CCDイメージセンサ201は、光学系200を介して形成された被写体像に基づく撮像データを順次生成している。上述したように、CCDイメージセンサ201が生成した撮像データは、AFE202での処理を経た後、画像処理部203に入力される。画像処理部203は、入力された撮像データに対してYC変換処理を施し、YCデータを生成する。一般に、CCDイメージセンサ201が生成する撮像データはRGBデータであるため、RGBデータを輝度成分Yを示すデータと色差成分Cを示すデータとに変換するYC変換処理が行われる。
コントローラ210は、画像処理部203によってYCデータが生成されているか否かを常時監視している(ステップS300)。YCデータが生成されていない場合、コントローラ210は、YCデータの生成の監視を継続する(ステップS300におけるNo)。一方、YCデータが生成されている場合、コントローラ210は、生成されたYCデータに対し、所定の符号化方式に従ってエンコード処理を施すように画像処理部203に指示する。画像処理部203は、コントローラ210からの指示に従って、生成されたYCデータに対し、所定の符号化方式に基づくエンコード処理を施してエンコードデータを生成する(ステップS301)。これにより、動画像(チャプター)のエンコードデータが生成される。
次に、コントローラ210は、バッファメモリ205をリングバッファ状にしてエンコードデータを記録する。すなわち、バッファメモリ205に所定量以上の記録容量が残っているか否かを判断する(ステップS302)。バッファメモリ205の残りの記録容量が所定量よりも小さい場合(ステップS302におけるNo)、コントローラ210は、バッファメモリ205に記録されている一番古いエンコードデータを削除する(ステップS303)。この際、エンコードデータが例えばMPEGのファイルフォーマットに準拠して生成されている場合、GOP(Group Of Picture)単位で削除する。続いて、コントローラ210は、ステップS301において生成したエンコードデータを、記録容量に余裕の出来たバッファメモリ205に記録する(ステップS304)。一方、バッファメモリ205の残記録容量が所定量以上である場合(ステップS302におけるYes)、コントローラ210は、ステップS301において生成したエンコードデータをそのままバッファメモリ205に記録する(ステップS304)。コントローラ210は、ステップS300からステップS304の動作を繰り返す。
次に、図9を参照しながら、静止画像撮影指示をトリガーとする動画像(チャプター)の生成処理を説明する。図9は、ダイジェスト動画の1チャプターを作成する処理を示すフローチャートである。
まず、コントローラ210は、静止画像撮影指示をトリガーとするチャプターを作成する命令(チャプター作成命令)があったか否かを監視している(ステップS310)。チャプター作成命令があった場合、コントローラ210は、既存のダイジェスト動画ファイルにそのチャプターを追記するか、新規のダイジェスト動画ファイルにそのチャプターを記録するかを決定する(ステップS311)。この判定処理を、「分割判定」と呼ぶ。
分割判定は、これから記録しようとするチャプターに関連するダイジェスト動画がメモリカード221に既に記録されているか否かに基づいて行われ得る。例えば、新たに作成するチャプターと同日に作成したチャプターを含むダイジェスト動画ファイルが既にメモリカード221に記録されている場合、コントローラ210は、既存のダイジェスト動画ファイルに新しく作成するチャプターを追記する。一方、新たに作成するチャプターと同日に作成したチャプターを含むダイジェスト動画ファイルがメモリカード221に記録されていない場合、コントローラ210は、既存のダイジェスト動画ファイルとは別の新規ダイジェスト動画ファイルに当該チャプターを記録する。ステップS311では、日付に限らず、他の情報に基づいて関連する既存のダイジェスト動画ファイルを特定してもよい。例えば、撮影場所、写っている被写体、撮影モード等が共通または類似する既存のダイジェスト動画ファイルがあれば、そのファイルに新規に作成したチャプターを追記するようにしてもよい。また、チャプターを作成する際にそのチャプターを既存の特定のダイジェスト動画ファイルに追記するか否かをユーザに選択させてもよい。
次に、コントローラ210は、保存判定処理を行う(ステップS312)。保存判定処理は、バッファメモリ205に蓄積されたエンコードデータをチャプターとして保存するか否かの判定を行う処理である。コントローラ210は、バッファメモリ205に蓄積されたエンコードデータが所定量よりも少ない場合は、バッファメモリ205に蓄積されたエンコードデータをチャプターとして保存しないと判定する。一方、バッファメモリ205に蓄積されたエンコードデータが所定量よりも多い場合は、バッファメモリ205に蓄積されたエンコードデータをチャプターとして保存すると判定する。これは、短すぎるチャプターが生成されると、すぐにシーンが切り替わる視聴しにくいダイジェスト動画になってしまうため、そのような事態を回避するためである。ステップS312においてエンコードデータをチャプターとして保存しないことを決定した場合、コントローラ210はステップS310に戻り、次のチャプターの作成命令を待つ。なお、ステップS312の保存判定処理は、ステップS311の分割判定の前に行ってもよい。その場合、チャプターを保存しないと判定したときには、分割判定を行うことなく、次のチャプターの作成命令を待つようにしてもよい。
ステップS312において、エンコードデータをチャプターとして保存することを決定した場合、コントローラ210は、バッファメモリ205に蓄積されたエンコードデータを切り出し、ダイジェスト動画ファイルに記録する(ステップS313)。このとき、ステップS311において既存のダイジェスト動画ファイルに追記すると判定していた場合、コントローラ210は、メモリカード221に既に記録されている既存のダイジェスト動画ファイルにチャプターを追記する。一方、ステップS311において新規のダイジェスト動画ファイルを作成すると判定していた場合、コントローラ210は、メモリカード221に新規のダイジェスト動画ファイルを作成し、そのファイルにチャプターを記録する。
次に、コントローラ210は、今回新しく記録したチャプターに関する情報を、記録先のダイジェスト動画ファイルの管理情報に追記して更新する(ステップS314)。ステップS314での管理情報の更新処理において、コントローラ210は、図7Bに示すサムネイル情報を除く管理情報(記録時間など)の更新を行う。
次に、コントローラ210は、今回新しく記録したチャプターに関するサムネイル情報の作成または更新を行う(ステップS315)。ここでは、図7Bに示す管理情報格納部70に格納されたサムネイル情報72の作成または更新を行う。
[1−2−4.サムネイル情報の作成または更新]
次に、図10を参照しながら、ステップS315におけるチャプターのサムネイル情報を作成または更新する処理を説明する。図10は、本実施の形態におけるデジタルカメラ100のダイジェスト動画のサムネイル情報の作成または更新処理の概要を示すフローチャートである。
本実施の形態におけるデジタルカメラ100は、図10に示すように、サムネイル情報の新規作成(ステップS403)、サムネイル情報の追加(ステップS406)、既存サムネイル情報の流用(ステップS407)のいずれかの処理によってサムネイル情報の作成または更新を行う。以下、各サムネイル情報の作成および更新の処理を順に説明する。
まず、コントローラ210は、ステップS313において記録したチャプターが、そのダイジェスト動画ファイルに記録された先頭のチャプターか否かを判定する(ステップS401)。すなわち、コントローラ210は、そのチャプターを記録する際にダイジェスト動画ファイルを新たに作成したか否か(1回目のダイジェスト動画の撮影か否か)を判定する。
その撮影が1回目のダイジェスト動画の撮影であると判定した場合、コントローラ210は、そのチャプターに関するサムネイル情報の作成を行う(ステップS402)。次に、コントローラ210は、S402で作成したサムネイル情報をダイジェスト動画ファイルの管理情報に含まれるサムネイル情報を格納する領域に記録する(ステップS403)。ステップS402におけるサムネイル情報の作成処理の詳細は後述する。
ステップS401において、1回目のダイジェスト動画の撮影ではないと判定した場合、コントローラ210は、デジタルカメラ100に設定されているモードがサムネイル追加モードであるか否かの判定を行う(ステップS404)。サムネイル追加モードは、上述のように、ダイジェスト動画の記録時に有効な設定であり、1つのダイジェスト動画ファイルに対して2つ以上の関連付けされたサムネイル情報の記録を許可するモードである。ステップS404において、サムネイル追加モードに設定されていないと判定した場合、コントローラ210は、新規にサムネイル情報を作成することなく、既存のサムネイル情報をそのまま継続して使用する(ステップS407)。一方、ステップS404においてサムネイル追加モードが設定されていると判定した場合、コントローラ210は、ステップS402と同様に、追加したチャプターに関するサムネイル情報の作成を行う(ステップS405)。次に、コントローラ210は、ステップS405で作成したサムネイル情報を、ダイジェスト動画ファイルの管理情報におけるサムネイル情報の格納領域に追記する(ステップS406)。すなわち、サムネイル追加モードが設定されているときには、ダイジェスト動画ファイルのサムネイル情報の格納領域にはチャプターの数に応じた複数のサムネイル情報が記録される。このとき、ストリームデータ格納部78に格納されたチャプターと管理情報格納部70に格納されたサムネイル情報とを関連付ける情報を管理情報格納部70に記録してもよい。これにより、ダイジェスト動画ファイルに記録された各チャプターに対応するサムネイル情報を管理することができる。サムネイル情報を参照することにより、チャプターごとのサムネイル画像の表示が可能となる。
なお、本実施形態では、複数のサムネイル情報は、サムネイルごとにJPEG規格に準拠した圧縮を行って記録されるものとするが、他の方法で記録してもよい。例えば、複数のサムネイル情報を含む1つの画像データを記録媒体の複数の領域に分割して記録してもよい。その場合、1つの画像データに複数のサムネイル情報をまとめて記録することにより、1つの動画像ファイルへの複数のサムネイル情報の記録が許容されていない記録フォーマットにおいても、複数のサムネイル情報の記録が可能になる。
なお、ここではサムネイル追加モードに設定されている場合、追加するチャプターの全てに対してサムネイル情報を記録する例を説明したが、追加するチャプターの全てに対応するサムネイル情報を記録しなくてもよい。例えば、ダイジェスト動画ファイルの先頭に記録されるチャプターのように、代表的なチャプター(単数または複数の代表チャプター)にのみ、サムネイル情報を記録するようにしてもよい。そのような構成であっても、ユーザは、ダイジェスト動画ファイルに含まれるチャプターの概要をより容易に把握することが可能となる。
続いて、ステップS402およびステップS405における新たに記録したチャプターに対するサムネイル情報の作成処理の詳細を説明する。図11は、本実施の形態のデジタルカメラ100によるダイジェスト動画のサムネイル情報の作成または更新処理の詳細を示すフローチャートである。
まず、コントローラ210は、チャプターが生成されたときに併せて生成された管理情報からサムネイル情報を作成するか否かを判定する(ステップS411)。ここで、管理情報からサムネイル情報を作成するか否かの判定は、管理情報が特定の条件を満たすか否かを判定することによって行われる。例えば、管理情報からサムネイル情報を作成する旨を示すユーザー設定情報が管理情報に含まれている場合、管理情報にトラベルモードが設定されている旨を示す情報が含まれている場合、管理情報に赤ちゃんモードが設定されている旨を示す情報が含まれている場合、管理情報にユーザが予め顔認識登録しておいた人物の顔などの特定の被写体がチャプターに記録されている旨を示す情報が含まれている場合、管理情報にチャプターが生成された撮影場所が予め設定された特定の地域内である旨を示す情報が含まれている場合などに該当する場合には、コントローラ210は、管理情報に基づいてサムネイル情報を作成すると判断する。この判定条件は、上記の条件に限定されず、どのようなものであってもよい。
ここで、トラベルモードとは、ユーザが旅行中であることを示すフラグを撮影画像に付与するモードである。ユーザは、自分の意志により、旅行に出かけるときにトラベルモードをONに設定し、帰宅時にOFFに設定する操作を行うことで、デジタルカメラ100をトラベルモードに設定することができる。また、赤ちゃんモードは、被写体が赤ちゃんであることを示すフラグを撮影画像に付与するモードである。ユーザは、自分の意志により、赤ちゃんを撮影すると判断したときには、その認識している赤ちゃんの撮影の開始時刻および終了時刻に、赤ちゃんモードのON/OFF操作を行うことにより、デジタルカメラ100を赤ちゃんモードに設定することができる。デジタルカメラ100は、トラベルモードや赤ちゃんモード以外のモードを有していてもよい。特定のモードに設定されているか否かは、図7Bに示す管理情報内の撮影モード情報を参照することによって判定することができる。
ステップS411において、管理情報からサムネイル情報を作成すると判定した場合、コントローラ210は、管理情報に含まれる上記のいずれかの情報に基づいて、サムネイルのためのビットマップ情報を作成する。
以下、図12を参照しながら、管理情報に基づいて作成するサムネイル情報の例を説明する。図12は、管理情報に基づいて作成されるサムネイル情報の表示例を示す図である。
(例1)コントローラ210は、管理情報に含まれる撮影日付(または撮影日時)に関する情報に基づいて撮影日付(または撮影日時)を示すサムネイル情報を作成することができる。例えば、撮影日付ごとにダイジェスト動画ファイルを分割して記録する場合、図12(a)に示すように、その撮影日付の文字情報を含むビットマップ情報をサムネイル情報として生成することができる。図12(a)の左と中央のサムネイル画像では、撮影年月日を示す日付だけが示されているが、日付だけではなく、曜日や祝祭日のように、カレンダーの情報から得られる他の情報を記録してもよい。カレンダーの情報は、デジタルカメラ100内の記録媒体またはネットワークを介して接続されたスマートフォンなどの他の情報機器から取得され得る。また、デジタルカメラ100内の記録媒体またはネットワークを介して接続されたスマートフォンなどの他の情報機器から誕生日などのスケジュール情報を取得できる場合には、スケジュール情報やイベントの名称等を記録してもよい。図12(a)の右のサムネイル画像では、撮影日とともに、被写体である特定の人物の誕生日である旨が示されている。
(例2)コントローラ210は、管理情報に含まれる特定の被写体に関する情報に基づいて被写体名を示すサムネイル情報を作成することができる。例えば、赤ちゃんモードに設定されている場合や、予め設定された特定の被写体がチャプターに記録されている場合、図12(b)に示すように、カメラ本体に記録されている特定の被写体の名称の文字情報を含むビットマップ情報を生成することができる。また、特定の被写体に関連付けられたアイコン等のビットマップ情報が予め用意されている場合には、それをサムネイル情報に含めてもよい。あるいは、特定の被写体について予め登録されている静止画像(顔写真など)のビットマップ情報をサムネイル情報に含めてもよい。
(例3)コントローラ210は、管理情報に含まれるGPS情報または特定の地域で撮影された旨を示す情報に基づいて特定の地域の名称を示すサムネイル情報を作成することができる。例えば、トラベルモードに設定されている場合や、撮影場所が特定の地域内にあると判定された場合には、図12(c)に示すように、特定の地名を示す文字情報を含むビットマップ情報をサムネイル情報として生成することができる。表示される地名は、予めユーザによって設定された地名であってもよいし、GPSの位置情報から地名に変換する地名データベースを参照することによって取得された地名であってもよい。また、特定の地名に関連付けられたアイコン等のビットマップ情報が予め用意されている場合には、それをサムネイル情報に含めてもよい。あるいは、特定の地名について予め登録されている静止画像(モニュメントの写真など)のビットマップ情報をサムネイル情報としてもよい。
(例4)コントローラ210は、管理情報に含まれる情報に基づいて決定される特定のアイコンをサムネイル情報として利用してもよい。例えば、管理情報に含まれる情報に基づいて、ダイジェスト動画の記録であり、かつ動画内のフレーム情報からサムネイル情報を作成することが適切でないことを判断した場合に、図12(d)に示すように、予め用意された特定のアイコンのビットマップ情報をサムネイル情報としてもよい。図12(d)に示す例では、ダイジェスト動画である旨を示すアイコン「D」のビットマップ画像がサムネイル情報として表示されている。この特定のアイコンは、予めユーザによって複数のアイコンの中から選択されたものでもよい。
図11におけるステップS411において管理情報を解析した結果、管理情報からサムネイル情報を作成しないと判定した場合、コントローラ210は、処理対象の動画像データ(チャプター)に含まれる1つのフレームに基づいてサムネイル画像としてのビットマップ画像を作成する(ステップS413)。このフレームは、ダイジェスト動画内の先頭のフレームでもよいし、サムネイルに最適と判定されたフレームであってもよい。サムネイルに最適と判定されるフレームは、例えば、手ブレ量が所定基準よりも低いフレームであったり、合焦対象の被写体のピント状態が所定基準よりも良好なフレームの中から選択され得る。
次に、コントローラ210は、ステップS412またはステップS413において、サムネイル画像としてのビットマップ画像を作成した後、これにJPEG規格等に準拠した圧縮処理を施すことにより、サムネイル情報を作成する(ステップS414)。
なお、図11に示す例では、管理情報に含まれる情報を解析することにより、コントローラ210は、管理情報に含まれる情報に基づいてサムネイル用のビットマップ画像を作成するか、動画の1フレームに基づいてサムネイル用のビットマップ画像を作成するかを判定するが、このような例に限定されない。コントローラ210は、上記の判定処理を行うことなく、常に管理情報に含まれる情報に基づいて作成したビットマップ画像をサムネイル画像として生成してもよい。コントローラ210は、上記の他にも、例えば図13や図14に示す処理によってサムネイル画像としてのビットマップ画像を作成するようにしてもよい。
図13は、管理情報に含まれる情報に基づくビットマップ画像と、チャプターに含まれる1つのフレームに基づくビットマップ画像とを合成することによってサムネイル画像を作成する例を示すフローチャートである。
この例では、コントローラ210は、まずチャプターに含まれる1つのフレームに基づいてビットマップ画像(A)を作成する(ステップS421)。ステップS421における処理は、上述したステップS413における処理と同様である。続いて、コントローラ210は、管理情報に含まれる情報に基づいて、ビットマップ画像(B)を作成する(ステップS422)。ステップS422における処理は、上述したステップS412における処理と同様であり、作成されるビットマップ画像(B)は、図12を参照して説明したビットマップ画像と同様である。
次に、コントローラ210は、ステップS421において作成したビットマップ画像(A)と、ステップS423において作成したビットマップ画像(B)とを合成する(ステップS423)。合成は、サムネイル画像の領域を複数の領域に分け、それぞれの領域にステップS421およびS422で作成したビットマップ画像をそれぞれ貼り付けてもよいし、ステップS421で作成したビットマップ画像の一部を切り抜き、ステップS422で作成したビットマップ画像を貼り付けてもよい。最後に、コントローラ210は、合成したビットマップ画像をJPEG規格に準拠した圧縮処理を施すことにより、サムネイル画像を作成する(ステップS424)。
図14は、管理情報に含まれる情報に基づいてサムネイルのためのビットマップ画像を作成するか、動画の1フレームに基づいてサムネイルのためのビットマップ画像を作成するかを、動画の1フレームのデータの解析結果に基づいて判断する例を示すフローチャートである。
この例では、コントローラ210は、まずチャプターに含まれる1つのフレームを解析して、その解析結果に基づいてサムネイルのためのビットマップ画像の作成方法を決定する(ステップS431)。ここで、解析するフレームはそのチャプター内の先頭のフレームでもよいし、サムネイルとして最適と判定されたフレームでもよい。ステップS431において、コントローラ210は、そのフレームを解析し、輝度、ブレの程度、ボケの程度、画像の傾きといった画質を示す情報に基づいてそのフレームがサムネイル画像として適しているか否かを判定する。例えば、そのフレームを解析した結果、エッジが無い(ピントが合っていない、またはぶれている)と判定した場合、または全面が暗すぎるもしくは明るすぎる(絞りが合っていない、またはレンズキャップの外し忘れ)と判定した場合には、コントローラ210は、チャプター内のフレームからサムネイルを生成せず、管理情報に基づいてサムネイル情報を作成すると決定する。その他の場合には解析したフレームからサムネイル情報を作成すると決定する。
管理情報に基づいてサムネイル情報を作成すると判断した場合、コントローラ210は、管理情報に含まれる情報に基づいてサムネイル用のビットマップ画像を作成する(ステップS432)。ステップS432における処理は、上述したステップS412における処理と同様である。また、動画データ中の1フレームからサムネイル情報を作成すると判断した場合、コントローラ210は、動画データ中の1フレームからサムネイルのためのビットマップ画像を作成する(ステップS433)。ステップS433における処理は、上述したステップS413における処理と同様である。ステップS432またはS433においてビットマップ画像を作成した後、コントローラ210は、JPEG規格に準拠した圧縮処理を当該ビットマップ画像に施することにより、サムネイル情報を作成する(ステップS434)。
なお、図11に示す処理と図14に示す処理とを組み合わせてもよい。すなわち、管理情報が特定の条件を満たすか否か、および動画中の1フレームの解析結果が良好であるか否かの両方の判定結果に基づいて、管理情報からサムネイル情報を生成するか否かを決定してもよい。
以上のように、本実施の形態におけるデジタルカメラ100は、ダイジェスト動画を構成する個々のチャプターに関連付けられた管理情報に含まれる情報に基づいてサムネイル情報を作成する。そして、作成したサムネイル情報を、対応するチャプターと関連付けてダイジェスト動画ファイルに格納する。これにより、ユーザにとってより好適なサムネイル情報を作成し記録することができる。
本実施の形態におけるサムネイル情報の作成記録は、ダイジェスト動画撮影モードなる専用モードを備えず、通常モードの静止画撮影において、オプション機能としてダイジェスト動画撮影を同時に実行させるようなデジタルカメラにおいては、特に有効である。通常の静止画撮影と同時に、ダイジェスト動画の撮影を行った場合、デジタルカメラの設計思想は、静止画撮影が最適に実行できるように考えられている。そのため、通常の静止画撮影と同時に、ダイジェスト動画の撮影を行った場合、ダイジェスト動画ファイル内に含まれるチャプターが必ずしも閲覧に適した内容になっているとは限らない。それゆえ、このようなチャプターを構成するフレームに基づいて単純にサムネイル画像を生成すると、ユーザにとってダイジェスト動画の内容が把握しにくくなる可能性が高い。
これに対して、本実施の形態のデジタルカメラ100によれば、管理情報に含まれる情報に基づいて、ダイジェスト動画を示すサムネイル画像を生成する。例えば、管理情報に特定の被写体を撮影した旨を示す情報が含まれる場合、予め登録しておいた当該被写体の名称等の文字情報を用いてサムネイル情報を作成する。これにより、ユーザーは、ダイジェスト動画を示すサムネイル画像を閲覧するときに、そのダイジェスト動画の内容をより容易に把握できるようになる。
[1−2−5.サムネイル情報の表示]
続いて、図15を参照しながら、サムネイル追加モード設定時に撮影されたダイジェスト動画を再生するときのサムネイル表示の例を説明する。図15は、再生時のサムネイル表示を説明するための図である。ここでは、図15(a)から図15(c)を参照して3つの表示例を説明する。
図15(a)は、再生モードに切り替わったときの最初のサムネイル表示画面の例を示している。コントローラ210は、各ダイジェスト動画ファイルに記録されている複数のサムネイル情報のうち、先頭に記録されているサムネイル情報に基づく画像を液晶ディスプレイ204に表示させる。ユーザによって特定のダイジェスト動画ファイルを示すサムネイル画像が選択された場合、選択されたダイジェスト動画ファイルに記録されている複数のチャプターを示すサムネイル画像を所定の時間間隔で先頭から順次表示していく。これにより、そのダイジェスト動画ファイルに含まれる複数のチャプターを示すサムネイル画像のスライドショー表示が実現する。このような表示、そのファイルに含まれるチャプターの概要をユーザが容易に把握することができる。
図15(b1)に示す例では、図15(a)に示す例と同様、コントローラ210は、各ダイジェスト動画を示すサムネイル画像として、ダイジェスト動画ファイル内に複数記録されているサムネイル情報のうち先頭に記録されているサムネイル情報に基づくサムネイル画像を液晶ディスプレイ204に表示させる。ユーザによって特定のダイジェスト動画ファイルを示すサムネイル画像が選択された場合、コントローラ210は、選択されたダイジェスト動画ファイルに記録されている複数のサムネイル画像を一覧表示する画面(図15(b2))に液晶ディスプレイ204の表示を遷移させる。これにより、ダイジェスト動画ファイルに含まれるサムネイル情報に基づくサムネイル画像を一覧できるので、ダイジェスト動画ファイルに含まれるチャプターの概要をユーザーが容易に把握することができる。
図15(c)に示す例では、コントローラ210は、各ダイジェスト動画ファイルに含まれるサムネイル情報の全てもしくはその一部に基づくサムネイル画像を、一枚のサムネイル画像として液晶ディスプレイ204にまとめて表示させる。これにより、ユーザは、1つの画面で各ダイジェスト動画ファイルに含まれる複数のチャプターの内容を容易に把握することができる。
[1−3.効果等]
以上のように、本実施形態のデジタルカメラ(撮像装置)100は、撮影指示に応答して撮像データを生成して出力するように構成された撮像部264と、撮像データに基づいて動画像データ(チャプター)を生成するように構成された画像処理部203と、当該動画像データに関連付けられ、当該動画像データに関する代表画像を含まない管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラ210とを備える。このデジタルカメラ100は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェース(コントローラ210と画像処理部203との間の接続端子等)と、当該管理情報に基づいて、当該動画像データを代表する代表画像を生成するように構成されたコントローラ210とを備える画像処理装置を含んでいると言うこともできる。これにより、ユーザにとってより好適な代表画像を生成することができる。
特に、コントローラ210は、動画像データに含まれるいずれのフレームのデータも用いずに、管理情報に基づいて代表画像を生成することができる。これにより、動画像データに含まれるフレームとは全く異なるわかり易い代表画像を生成することが可能となる。
また、コントローラ210は、管理情報に基づいて決定される文字を含む画像情報を、代表画像として生成することができる。これにより、動画像データの内容を文字情報によって素早く把握できる好適な代表画像を生成することができる。
また、前記管理情報は、動画像データの生成時に生成され、撮像データが取得される際の撮影条件を示す情報を含む。このため、撮影条件に応じた好適な代表画像を生成することが可能となる。
また、コントローラ210は、生成した代表画像を、動画像データに関連付けて記録媒体に記録するように構成されている。これにより、動画像データを再生する際に容易に対応する代表画像にアクセスすることができる。
また、動画像データおよび管理情報は、1つの動画像ファイルに格納され、コントローラ210は、管理情報に基づいて生成した代表画像を、当該動画像ファイルに格納して当該動画像ファイルを更新するように構成されている。このため、管理情報を動画像データと一体的に管理することができる。
また、管理情報に撮像データが取得された時の撮影モードを示す情報が含まれているとき、コントローラ210は、撮影モードを示す情報に基づいて、撮影モードに対応する情報を含む代表画像を生成することができる。これにより、撮影モードに応じた好適な代表画像を生成することができる。
また、管理情報に撮像データが取得された日時を示す情報が含まれているとき、コントローラ210は、当該日時を示す情報に基づいて、当該日時に関連する情報を含む代表画像を生成することができる。特に、当該日時に関連する情報は、動画像データが生成された日または日時を示す文字を含む画像情報である。これにより、動画像の撮影日を容易に特定できる好適なサムネイルを生成することができる。
また、管理情報に動画像データに含まれる被写体を示す情報が含まれているとき、コントローラ210は、当該被写体を示す情報に基づいて、当該被写体に対応する情報を含む代表画像を生成することができる。特に、当該被写体に対応する情報は、その被写体を示す文字、アイコン、写真の少なくとも1つを含む画像情報である。これにより、動画像に写っている被写体を容易に特定できる好適な代表画像を生成することができる。
また、管理情報に動画像データが生成された場所を示す情報が含まれているとき、コントローラ210は、当該場所を示す情報に基づいて、当該場所に対応する情報を含む代表画像を生成することができる。特に、当該場所に対応する情報は、その場所を示す文字、アイコン、写真の少なくとも1つを含む画像情報である。これにより、その動画像が撮影された場所を容易に特定できる好適なサムネイルを生成することができる。
また、インターフェースが、動画像データおよび管理情報の両方を取得するとき、コントローラ210は、当該管理情報および当該動画像データの少なくとも一方を解析することにより、当該動画像データに含まれるフレームのデータを用いて代表画像を生成するか、当該動画像データに含まれるいずれのフレームのデータも用いずに当該管理情報に基づいて代表画像を生成するかを決定することができる。これにより、フレームに基づく代表画像を生成することが適切でない場合には管理情報に基づく代表画像を生成する、といった柔軟なサムネイルの作成が可能となる。
また、本実施形態では、画像処理部203は、静止画像の撮影指示に応答して生成された撮像データに基づいて動画像データを生成し、加えて当該撮影指示に基づく静止画像データを生成する。このため、静止画像の撮影指示をトリガーとしてダイジェスト動画のチャプターを生成することができる。
また、本実施形態におけるデジタルカメラ100は、被写体像を撮像して撮像データを生成する撮像部をさらに備え、コントローラ210は、ユーザから、静止画像の撮影指示を受け付けて、生成された撮像データに基づいて静止画像データを生成するとともに、当該静止画像の撮影指示のタイミングよりも前のタイミングまたは後のタイミングの少なくとも一方のタイミングで生成された撮像データに基づいて動画像データを生成する。これにより、静止画像の撮影指示のタイミングに整合した好適なダイジェスト映像を、代表画像とともに生成することができる。
(実施の形態2)
上記の実施の形態1では、ダイジェスト動画を記録する場合におけるサムネイル情報の作成方法を説明したが、本実施の形態では、ダイジェスト動画以外の通常の動画を記録する場合におけるサムネイル情報の作成方法を説明する。
[2−1.構成]
本実施の形態におけるデジタルカメラの電気的構成は、図1から図3を用いて説明した実施の形態1におけるデジタルカメラ100の電気的構成と同様であるため、説明は省略する。また、構成が同様であるため、同じ構成要素には、同じ符号を付して説明する。
また、通常の動画ファイルの構成は、図7Bに示したダイジェスト動画ファイルの構成と比較して、ストリームデータ格納部78にチャプターごとに分割された格納領域がない点以外は概ね同様である。
[2−2.動作]
本実施の形態におけるデジタルカメラ100の通常の動画を記録する動作について、図16を参照して説明する。図16は、通常の動画を記録する動作を示すフローチャートである。
まず、コントローラ210は、動画記録開始命令を待機する(ステップS441)。動画記録開始命令は、例えば、操作部223に含まれる動画記録釦をユーザが押下することによってよってなされる。動画記録開始命令を受けると、コントローラ210は、動画記録動作を開始する(ステップS442)。コントローラ210は、メモリカード221に新規に動画ファイルを作成し、当該動画ファイルのストリームデータ格納部に動画像データを格納(記録)していく。
続いて、コントローラ210は、動画記録停止命令を待つ(ステップS443)。動画記録停止命令も、操作部223に含まれる動画記録釦をユーザが押下することによってなされ得る。動画記録停止命令を受けるまでは、ステップS442の動画記録を継続する。ステップS443で動画記録停止命令を受けると、コントローラ210は、動画記録動作を完了する。
動画記録動作が完了すると、コントローラ210は、記録した動画ファイル内の管理情報の更新を行う(ステップS444)。この際、コントローラ210は、動画ファイルの管理情報格納部に格納された管理情報のうち、サムネイル情報を除く情報を記録する。例えば、記録時間、映像や音声の記録フォーマット情報、撮影情報(例えば、撮影日時、絞り値、シャッタースピード、感度、GPS情報、撮影モードに関する情報、特定の被写体を含むか否かに関する情報)などを含む。
続いて、コントローラ210は、撮影を完了した動画像に関するサムネイル情報の作成を行う(ステップS445)。このサムネイル情報は、動画ファイルの管理情報格納部におけるサムネイル情報格納領域に記録するためのビットマップ情報である。コントローラ210は、作成したビットマップ画像を示す情報を、作成した動画ファイル内のサムネイル情報格納領域に新規追加する(ステップS446)。
ステップS445におけるサムネイル情報の作成処理は、例えば実施の形態1において説明した図11、図13、図14に示すいずれかの処理によって行われ得る。
以上のように、本実施の形態にかかるデジタルカメラ100は、通常の動画撮影を行うときに、生成した動画像データに対応する管理情報に含まれる情報に基づいてサムネイル情報を作成する。そして、作成したサムネイル情報を、撮影した動画ファイル内に関連付けて格納する。これにより、通常の動画撮影においても、ユーザにとってより好適なサムネイル情報を作成し記録することができる。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態1、2を説明した。しかしながら、本開示における技術は、これに限定されず、適宜、変更、置き換え、付加、省略などを行った実施の形態にも適用可能である。また、上記実施の形態1、2で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
そこで、以下、他の実施の形態を例示する。
上記の実施形態では、管理情報は静止画ファイル、動画像ファイル、およびダイジェスト動画ファイルに格納されるものとしたが、管理情報はこれらのファイルとは独立したファイルに格納されていてもよい。例えば、図7Aに示す管理データベースの個々のコンテンツに関連付けて管理情報が管理されていてもよい。また、図7Bに示す管理情報内の情報はあくまでも一例であり、図示される情報以外の情報を含んでいてもよいし、図示される情報の一部を含んでいなくてもよい。
また、本開示の技術は、デジタルカメラ100のような撮像装置に限らず、上記のコントローラ210の機能を有する他のコンピュータ(画像処理装置)に適用することもできる。そのような画像処理装置の構成は、例えば図3に示すコントローラ210の構成と同様であり、その動作は、例えば図8〜11、13、14、16に示す動作と同様である。すなわち、当該画像処理装置は、動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェースと、前記管理情報に基づいて、前記動画像データを代表する代表画像を生成するように構成されたコントローラとを備える。
そのような画像処理装置は、撮像装置によって生成され、記録媒体に記録された動画像のデータや、電気通信回線によって送信された動画像のデータを事後的に取得し、上述の実施形態における処理によって代表画像を生成することができる。画像処理装置は、例えばパーソナルコンピュータやクラウドサービスを提供するサーバコンピュータであってもよい。
さらに、撮影によって取得された撮像データに基づいて生成された動画像データに限らず、撮影以外の方法で生成された動画像(例えばアニメーション)のデータについても本開示の技術を適用してもよい。撮影によらない動画像データが生成されたときに併せて生成された管理情報に基づいて、当該動画像データを代表する好適な代表画像を生成することができる。
また、本開示の技術は、上述の実施形態における処理を規定するソフトウェア(コンピュータプログラム)にも適用され得る。そのようなプログラムに規定される動作は、例えば図8〜11、13、14、16に示すとおりである。このようなプログラムは、可搬型の記録媒体に記録されて提供され得る他、電気通信回線を通じても提供され得る。コンピュータに内蔵されたプロセッサがこのようなプログラムを実行することにより、上記の実施形態で説明した各種動作を実現することができる。
以上のように、本開示における技術の例示として、実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、上記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、特許請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。
本開示の技術はデジタルカメラ100への実施に限定されない。例えば、ムービーカメラやカメラ付き携帯電話、ウェアラブルカメラ、監視カメラなどの他の種類の撮像装置、およびパーソナルコンピュータやサーバコンピュータなどの情報処理装置にも適用可能である。
100 デジタルカメラ
110 レリーズボタン
112 電源
113 フラッシュ(エレクトロニックフラッシュ)
114 AF補助光
120 メニュー釦
121 十字釦
200 光学系
201 CCDイメージセンサ
202 AFE(アナログ・フロント・エンド)
203 画像処理部
204 液晶ディスプレイ
205 バッファメモリ
210 コントローラ
220 カードスロット
221 メモリカード
222 フラッシュメモリ
223 操作部
250 通信インターフェース
260 スルー画像生成部
261 静止画像生成部
262 動画像生成部
270 GPSユニット

Claims (17)

  1. 動画像データが生成されたときに併せて生成された管理情報を取得するように構成されたインターフェースと、
    前記管理情報に基づいて、前記動画像データを代表する代表画像を生成するように構成されたコントローラと、
    を備える画像処理装置。
  2. 前記コントローラは、生成した前記代表画像を、前記動画像データに関連付けて記録媒体に記録するように構成されている、請求項1に記載の画像処理装置。
  3. 前記コントローラは、前記管理情報に基づいて決定される文字を含む画像情報を、前記代表画像として生成するように構成されている、請求項1または2に記載の画像処理装置。
  4. 前記動画像データは、撮影によって取得された撮像データに基づいて生成され、
    前記管理情報は、前記撮像データが取得される際の撮影条件を示す情報を含み、
    前記コントローラは、前記撮影条件を示す情報に基づいて前記動画像データを代表する代表画像を生成する、請求項1から3のいずれかに記載の画像処理装置。
  5. 被写体像を撮像して撮像データを生成する撮像部をさらに備え、
    前記コントローラは、ユーザから、静止画像の撮影指示を受け付けて、前記生成された撮像データに基づいて静止画像データを生成するとともに、前記静止画像の撮影指示のタイミングよりも前のタイミングまたは後のタイミングの少なくとも一方のタイミングで生成された撮像データに基づいて前記動画像データを生成する、
    請求項1から4のいずれかに記載の画像処理装置。
  6. 前記管理情報は、前記動画像データを代表する代表画像を含まない、請求項1から5のいずれかに記載の画像処理装置。
  7. 前記コントローラは、前記動画像データに含まれるいずれのフレームのデータも用いずに、前記管理情報に基づいて前記代表画像を生成するように構成されている、請求項1から6のいずれかに記載の画像処理装置。
  8. 前記動画像データおよび前記管理情報は、1つの動画像ファイルに格納され、
    前記コントローラは、前記管理情報に基づいて生成した前記代表画像を、前記動画像ファイルに格納して前記動画像ファイルを更新するように構成されている、
    請求項1から7のいずれかに記載の画像処理装置。
  9. 前記管理情報に前記動画像データが生成されたときの撮影モードを示す情報が含まれているとき、
    前記コントローラは、前記撮影モードを示す情報に基づいて、前記撮影モードに対応して予め設定された情報を含む前記代表画像を生成するように構成されている、
    請求項1から8のいずれかに記載の画像処理装置。
  10. 前記管理情報に前記動画像データが生成された時点に関する日時を示す情報が含まれているとき、
    前記コントローラは、前記日時を示す情報に基づいて、前記日時に関連する情報を含む前記代表画像を生成するように構成されている、
    請求項1から9のいずれかに記載の画像処理装置。
  11. 前記日時に関連する情報は、前記動画像データが生成された時点に関する、日または日時を示す文字を含む画像情報である、請求項10に記載の画像処理装置。
  12. 前記管理情報に前記動画像データに含まれる被写体を示す情報が含まれているとき、
    前記コントローラは、前記被写体を示す情報に基づいて、前記被写体に対応する情報を含む前記代表画像を生成するように構成されている、
    請求項1から11のいずれかに記載の画像処理装置。
  13. 前記被写体に対応する情報は、前記被写体を示す文字、アイコン、写真の少なくとも1つを含む画像情報である、請求項12に記載の画像処理装置。
  14. 前記管理情報に前記動画像データが生成された場所を示す情報が含まれているとき、
    前記コントローラは、前記場所を示す情報に基づいて、前記場所に対応する情報を含む前記代表画像を生成するように構成されている、
    請求項1から13のいずれかに記載の画像処理装置。
  15. 前記場所に対応する情報は、前記場所を示す文字、アイコン、写真の少なくとも1つを含む画像情報である、請求項14に記載の画像処理装置。
  16. 前記インターフェースは、前記動画像データおよび前記管理情報の両方を取得するように構成され、
    前記コントローラは、前記管理情報および前記動画像データの少なくとも一方を解析することにより、前記動画像データに含まれるフレームのデータを用いて前記代表画像を生成するか、前記動画像データに含まれるいずれのフレームのデータも用いずに前記管理情報に基づいて前記代表画像を生成するかを決定するように構成されている、
    請求項1から15のいずれかに記載の画像処理装置。
  17. 画像処理装置に搭載されたコンピュータに、
    動画像データに関連付けられ、前記動画像データが生成されたときに併せて生成された管理情報を取得するステップと、
    前記管理情報に基づいて、前記動画像データを代表する代表画像を生成するステップと、
    を実行させるコンピュータプログラム。
JP2014507366A 2012-03-28 2013-02-26 画像処理装置、およびコンピュータプログラム Active JP5828117B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014507366A JP5828117B2 (ja) 2012-03-28 2013-02-26 画像処理装置、およびコンピュータプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2012073199 2012-03-28
JP2012073199 2012-03-28
PCT/JP2013/001100 WO2013145546A1 (ja) 2012-03-28 2013-02-26 画像処理装置、およびコンピュータプログラム
JP2014507366A JP5828117B2 (ja) 2012-03-28 2013-02-26 画像処理装置、およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP5828117B2 JP5828117B2 (ja) 2015-12-02
JPWO2013145546A1 true JPWO2013145546A1 (ja) 2015-12-10

Family

ID=49258871

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014507366A Active JP5828117B2 (ja) 2012-03-28 2013-02-26 画像処理装置、およびコンピュータプログラム

Country Status (3)

Country Link
US (1) US9281014B2 (ja)
JP (1) JP5828117B2 (ja)
WO (1) WO2013145546A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6263002B2 (ja) * 2013-11-12 2018-01-17 キヤノン株式会社 撮像装置およびその制御方法、プログラム
JP2015114865A (ja) * 2013-12-12 2015-06-22 ソニー株式会社 情報処理装置、中継コンピュータ、情報処理システム、および情報処理プログラム
JP2019021996A (ja) * 2017-07-12 2019-02-07 パナソニックIpマネジメント株式会社 ウェアラブルカメラ、ウェアラブルカメラシステム及び情報記録方法
US10893199B2 (en) 2018-06-07 2021-01-12 Canon Kabushiki Kaisha Imaging apparatus and control method thereof
JP6821723B2 (ja) * 2018-06-07 2021-01-27 キヤノン株式会社 撮像装置およびその制御方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004297177A (ja) * 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd 画像処理装置
JP2004336381A (ja) * 2003-05-07 2004-11-25 Canon Inc 動画像処理方法及び装置
JP2005277609A (ja) * 2004-03-24 2005-10-06 Casio Comput Co Ltd 動画撮像装置、動画記録方法及び動画記録制御プログラム
JP2007259390A (ja) * 2006-03-27 2007-10-04 Nikon Corp 動画撮影可能なカメラ
JP2009141426A (ja) * 2007-12-03 2009-06-25 Olympus Imaging Corp 画像表示装置及び画像表示プログラム
JP2010016729A (ja) * 2008-07-07 2010-01-21 Hitachi Ltd 撮像装置
JP2010141628A (ja) * 2008-12-12 2010-06-24 Panasonic Corp 画像再生装置
WO2010116715A1 (ja) * 2009-04-07 2010-10-14 パナソニック株式会社 画像撮影装置、画像撮影方法、プログラム、及び集積回路
JP2012004713A (ja) * 2010-06-15 2012-01-05 Canon Inc 画像処理装置、画像処理装置の制御方法、プログラム、及び記録媒体

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6182069B1 (en) * 1992-11-09 2001-01-30 International Business Machines Corporation Video query system and method
JP2004328041A (ja) 2003-04-21 2004-11-18 Canon Inc 画像撮像装置
US8718128B2 (en) 2003-05-07 2014-05-06 Canon Kabushiki Kaisha Moving image processing method and apparatus
US7512622B2 (en) * 2003-06-11 2009-03-31 Yahoo! Inc. Method and apparatus for organizing and playing data
CN101867679B (zh) * 2006-03-27 2013-07-10 三洋电机株式会社 缩略图生成装置及摄像装置
JP2007272684A (ja) * 2006-03-31 2007-10-18 Fujifilm Corp 画像整理装置および方法ならびにプログラム
JP2011130198A (ja) 2009-12-17 2011-06-30 Canon Inc 撮像装置、その制御方法及びプログラム
JP5818599B2 (ja) * 2011-02-02 2015-11-18 キヤノン株式会社 動画記録装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004297177A (ja) * 2003-03-25 2004-10-21 Fuji Photo Film Co Ltd 画像処理装置
JP2004336381A (ja) * 2003-05-07 2004-11-25 Canon Inc 動画像処理方法及び装置
JP2005277609A (ja) * 2004-03-24 2005-10-06 Casio Comput Co Ltd 動画撮像装置、動画記録方法及び動画記録制御プログラム
JP2007259390A (ja) * 2006-03-27 2007-10-04 Nikon Corp 動画撮影可能なカメラ
JP2009141426A (ja) * 2007-12-03 2009-06-25 Olympus Imaging Corp 画像表示装置及び画像表示プログラム
JP2010016729A (ja) * 2008-07-07 2010-01-21 Hitachi Ltd 撮像装置
JP2010141628A (ja) * 2008-12-12 2010-06-24 Panasonic Corp 画像再生装置
WO2010116715A1 (ja) * 2009-04-07 2010-10-14 パナソニック株式会社 画像撮影装置、画像撮影方法、プログラム、及び集積回路
JP2012004713A (ja) * 2010-06-15 2012-01-05 Canon Inc 画像処理装置、画像処理装置の制御方法、プログラム、及び記録媒体

Also Published As

Publication number Publication date
US9281014B2 (en) 2016-03-08
JP5828117B2 (ja) 2015-12-02
US20140126882A1 (en) 2014-05-08
WO2013145546A1 (ja) 2013-10-03

Similar Documents

Publication Publication Date Title
JP4241261B2 (ja) メタデータ付与方法およびメタデータ付与装置
JP6206699B2 (ja) 画像処理装置、撮像装置、およびコンピュータプログラム
JP2009225280A (ja) 撮像装置及び撮影画像表示制御方法
US8593544B2 (en) Imaging apparatus, imaging method, and computer-readable recording medium
JP5828117B2 (ja) 画像処理装置、およびコンピュータプログラム
JP2010130437A (ja) 撮像装置、及び、プログラム
JPWO2011099299A1 (ja) 映像抽出装置、撮影装置、プログラム及び記録媒体
JP2010136191A (ja) 撮像装置、記録装置、および、記録方法
KR101737086B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP6098796B2 (ja) 画像処理装置、撮像装置、およびコンピュータプログラム
JP2013229856A (ja) 画像処理装置、撮像装置、サーバ装置およびコンピュータプログラム
JP2013251724A (ja) 撮影機器
JP5942260B2 (ja) 撮像装置、画像再生装置
JP2005117369A (ja) 動画記録装置および動画再生装置並びにデジタルカメラ
JP2011119936A (ja) 撮影装置及び再生方法
JP2007267309A (ja) 電子カメラ
JP2007174278A (ja) 画像表示装置、画像表示方法
JP6029003B2 (ja) 撮像装置
JP2006165770A (ja) デジタルカメラ
JP2011119934A (ja) 画像撮影装置及び画像撮影方法
JP2004104534A (ja) 撮像装置
JP2006094200A (ja) 撮像装置、合焦表示方法及びプログラム
JP2005117370A (ja) デジタルカメラ
JP2006238023A (ja) 画像データ撮像装置、撮像処理方法、プログラムおよび記録媒体
US20110279695A1 (en) Imaging apparatus

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150519

R151 Written notification of patent or utility model registration

Ref document number: 5828117

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151