JP2012248937A - 撮像装置、画像処理装置、及び撮像方法 - Google Patents

撮像装置、画像処理装置、及び撮像方法 Download PDF

Info

Publication number
JP2012248937A
JP2012248937A JP2011116919A JP2011116919A JP2012248937A JP 2012248937 A JP2012248937 A JP 2012248937A JP 2011116919 A JP2011116919 A JP 2011116919A JP 2011116919 A JP2011116919 A JP 2011116919A JP 2012248937 A JP2012248937 A JP 2012248937A
Authority
JP
Japan
Prior art keywords
image data
image
information
unit
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011116919A
Other languages
English (en)
Other versions
JP5186021B2 (ja
Inventor
Manabu Ichikawa
学 市川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2011116919A priority Critical patent/JP5186021B2/ja
Priority to PCT/JP2012/054316 priority patent/WO2012160847A1/ja
Priority to CN201280006974.XA priority patent/CN103339925B/zh
Publication of JP2012248937A publication Critical patent/JP2012248937A/ja
Application granted granted Critical
Publication of JP5186021B2 publication Critical patent/JP5186021B2/ja
Priority to US13/936,153 priority patent/US9118844B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • H04N1/212Motion video recording combined with still video recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • H04N9/8047Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10527Audio or video recording; Data buffering arrangements
    • G11B2020/10537Audio or video recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3212Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a job, e.g. communication, capture or filing of an image
    • H04N2201/3215Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to a job, e.g. communication, capture or filing of an image of a time or duration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode

Abstract

【課題】編集等を意識して行わずに、動画撮影中のユーザが意図したタイミングで動画像に対して特殊効果画像処理を施すことが可能な撮像装置、画像処理装置、撮像方法を提供すること。
【解決手段】マイクロコンピュータ215は、動画撮影中において、ユーザにより静止画撮影の実行が指示されたか否かを判定している。静止画撮影の実行が指示された場合に、マイクロコンピュータ215は、そのレリーズタイミングを示す情報をタイミング情報として記憶するとともに、レリーズタイミングにおける静止画情報を記憶しておく。そして、マイクロコンピュータ215は、画像処理部209の特殊効果画像処理部2092を用いて、レリーズタイミングからの時間経過に従った特殊効果画像処理を動画撮影により得られた画像データに対して施す。
【選択図】図3

Description

本発明は、動画像に対して特殊効果画像処理を施す撮像装置、画像処理装置、及び撮像方法に関する。
近年、デジタルカメラのような撮像装置では、静止画像の撮影だけでなく、動画像の撮影も行えるようになっている。このような撮像装置では、例えば動画撮影用に設けられた動画撮影指示部(動画ボタン)を操作することによって、容易に動画像の撮影を実行することができる。このような静止画撮影と動画撮影の両方が実行可能な撮像装置に関する提案が例えば特許文献1においてなされている。特許文献1では、動画撮影中に静止画レリーズスイッチ(静止画撮影指示部)を用いた静止画撮影の指示がなされた場合に、その指示がなされたタイミングで得られた静止画像に対して静止画フラグを付加しておくようにしている。そして、特許文献1では、動画像の再生時に動画像の再生と並行して静止画フラグが付加された静止画像を再生するようにしている。
また、再生される画像に対して画像処理を施すことによって特殊な視覚効果を与えるようにした技術が提案されている。例えば、特許文献2では、画像処理によってシェーディングを付加するようにしている。
特開2001−45409号公報 特開2010−114729号公報
特許文献1では、ユーザが自身の意図したタイミングでレリーズスイッチを操作することにより、自身の意図したタイミングで得られた静止画像を後で動画像とともに再生することが可能である。しかしながら、特許文献1では、動画像そのものに対してはユーザの意図を反映させることはできない。
また、特許文献2の技術は動画像に対しても適用することができる。この場合、動画像の撮影に先立ってシェーディング等の特殊効果画像処理を実行するように設定しておけば、そのときのシーンに対するユーザの好みを反映することができる。しかしながら、動画撮影中にはユーザの意思を反映させることができない。このため、従来では、動画像の撮影後の編集段階において動画像に対して特殊効果画像処理を施す必要がある。
本発明は、前記の事情に鑑みてなされたもので、編集等を意識して行わずに、動画撮影中のユーザが意図したタイミングで動画像に対して特殊効果画像処理を施すことが可能な撮像装置、画像処理装置、撮像方法を提供することを目的とする。
上記の目的を達成するために、本発明の第1の態様の撮像装置は、被写体を撮像して画像データを得る撮像部と、前記撮像部で得られた画像データに対して画像処理を施す画像処理部と、前記撮像部に対して静止画撮影の実行を指示するための静止画撮影指示部と、前記静止画撮影指示部の指示に応じて前記撮像部で得られた画像データを前記画像処理部で画像処理して得られた静止画像データと、該静止画像データの付随情報と、を含む静止画情報を記憶する静止画情報記憶部と、前記撮像部に対して動画撮影の実行を指示するための動画撮影指示部と、前記動画撮影指示部の指示に応じて前記撮像部で得られた複数の画像データを前記画像処理部で画像処理して得られた動画像データを記録する動画記録部と、前記動画撮影の実行中に前記静止画撮影指示部によって前記静止画撮影の実行が指示された場合に、該静止画撮影の実行が指示されたタイミングを示すタイミング情報を取得するタイミング情報取得部と、を具備し、前記画像処理部は、前記静止画情報記憶部に記憶された前記静止画情報と前記タイミング情報取得部によって取得された前記タイミング情報とに基づいて、前記動画像データに対して特殊効果画像処理をさらに施すことを特徴とする。
上記の目的を達成するために、本発明の第2の態様の画像処理装置は、第1の態様に記載の撮像装置で得られた前記静止画情報と前記タイミング情報とが入力され、該入力された前記静止画情報と前記タイミング情報とに基づいて、動画像データに対して特殊効果画像処理を施す特殊効果画像処理部を具備することを特徴とする。
上記の目的を達成するために、本発明の第3の態様の撮像方法は、動画撮影指示部が、撮像部に対して動画撮影の実行を指示し、前記動画撮影指示部の指示に応じて前記撮像部が、被写体を撮像して複数の画像データを得て、画像処理部が前記撮像部で得られた複数の画像データに対して画像処理を施して動画像データを得て、前記動画撮影の実行中に静止画撮影指示部が、前記撮像部に対して静止画撮影の実行を指示し、前記静止画撮影指示部の指示に応じて静止画情報記憶部が、前記撮像部で得られた画像データを前記画像処理部で画像処理して得られた静止画像データと、該静止画像データの付随情報と、を含む静止画情報を記憶し、前記静止画撮影指示部の指示に応じてタイミング情報取得部が、前記静止画撮影の実行が指示されたタイミングを示すタイミング情報を取得し、前記画像処理部が、前記静止画情報記憶部に記憶された前記静止画情報と前記タイミング情報取得部によって取得された前記タイミング情報とに基づいて、前記動画像データに対して特殊効果画像処理をさらに施す、ことを特徴とする。
本発明によれば、編集等を意識して行わずに、動画撮影中のユーザが意図したタイミングで動画像に対して特殊効果画像処理を施すことが可能な撮像装置、画像処理装置、撮像方法を提供することができる。
本発明の各実施形態に係る撮像装置の一例としてのデジタルカメラの構成を示すブロック図である。 デジタルカメラのメイン動作を示すフローチャートである。 本発明の第1の実施形態における動画撮影処理の詳細を示したフローチャートである。 本発明の第1の実施形態における図3のステップS209の処理の一例を示すフローチャートである。 本発明の第1の実施形態における合成係数の設定テーブルの例を示す図である。 合成処理の例を説明するための図である。 本発明の第2の実施形態における図3のステップS209の処理の例を示すフローチャートである。 画像データの循環記憶の例を示した図である。 本発明の第2の実施形態における合成係数の設定テーブルの例を示す図である。 再生速度の変化特性の一例を示す図である。 過去フレームの生成について説明するための図である。 現在フレームの生成について説明するための図である。 本発明の第3の実施形態における図3のステップS209の処理の例を示すフローチャートである。 ゲインマップの例を示した図である。 図14に示すゲインマップに従ってシェーディングを付加する処理を行った場合の例を示す図である。 本発明の第4の実施形態における動画撮影処理の詳細を示したフローチャートである。 本発明の第4の実施形態における動画再生処理の詳細を示したフローチャートである。 特殊効果画像処理部を特殊効果画像処理装置に持たせた変形例の構成を示すブロック図である。
以下、図面を参照して本発明の実施形態を説明する。
[第1の実施形態]
図1は、本発明の各実施形態に係る撮像装置の一例としてのデジタルカメラの構成を示すブロック図である。図1に示すデジタルカメラ10は、レンズ交換式のデジタルカメラである。しかしながら、必ずしもレンズ交換式のデジタルカメラである必要はなく、レンズ一体式のデジタルカメラであっても良い。
図1に示すデジタルカメラ10は、交換式レンズ100と、カメラ本体200と、を有している。交換式レンズ100は、カメラ本体200に対して着脱自在に構成されている。カメラ本体200に交換式レンズ100が装着された場合に、交換式レンズ100は、カメラ本体200と通信自在に接続される。これにより、交換式レンズ100は、カメラ本体200の制御に従って動作可能な状態となる。
交換式レンズ100は、レンズ101と、絞り102と、ドライバ103と、レンズマイクロコンピュータ104と、Flashメモリ105と、を有している。
レンズ101は、図示しない被写体からの光束をカメラ本体200内の撮像素子202に集光するための光学系である。このレンズ101は、フォーカスレンズ及びズームレンズ等の複数のレンズを有している。
絞り102は、開閉自在に構成され、レンズ101を介して入射した光束の量を調整する。ドライバ103は、モータ等を有している。このドライバ103は、レンズマイクロコンピュータ104の制御に従って、レンズ101内のフォーカスレンズやズームレンズをその光軸方向に駆動させたり、絞り102を開閉駆動させたりする。
レンズマイクロコンピュータ104は、交換式レンズ100がカメラ本体200に装着された際にインターフェイス(I/F)106を介してカメラ本体200内のマイクロコンピュータ215と通信自在に接続される。このレンズマイクロコンピュータ104は、マイクロコンピュータ215からの制御に従ってドライバ103を駆動させる。また、レンズマイクロコンピュータ104は、Flashメモリ105に記憶されている交換式レンズ100のレンズ情報等を、I/F106を介してマイクロコンピュータ215に通信する。
Flashメモリ105は、レンズ101の収差情報等のレンズ情報や交換式レンズ100の動作を実行するために必要なプログラム等を記憶している。
カメラ本体200は、メカシャッタ201と、撮像素子202と、アナログ処理部203と、アナログ/デジタル(A/D)変換部204と、バス205と、RAM206と、AE処理部207と、AF処理部208と、画像処理部209と、画像圧縮展開部210と、メモリインターフェイス(I/F)211と、記録媒体212と、表示ドライバ213と、表示部214と、マイクロコンピュータ215と、操作部216と、Flashメモリ217と、顔検出部218と、を有している。
メカシャッタ201は、撮像素子202の光電変換面を遮光状態又は露出状態とするように移動自在に構成されている。このメカシャッタ201を移動させることにより撮像素子202の露光時間が調整される。
撮像素子202は、レンズ101を介して集光された被写体からの光束が結像される光電変換面を有している。光電変換面は、複数の画素が2次元状に配置されて構成されている。また、光電変換面の光入射側には、カラーフィルタが設けられている。このような撮像素子202は、光電変換面に結像された光束に対応した像(被写体像)を、その光量に応じた電気信号(以下、画像信号という)に変換して出力する。
ここで、撮像素子202は、CCD方式やCMOS方式等の種々の構成の撮像素子が知られている。また、カラーフィルタの色配列もベイヤ配列等の種々の配列が知られている。本実施形態は、撮像素子202の構成が特定の構成に限定されるものではなく、種々の構成の撮像素子を用いることが可能である。ただし、撮像素子202は、露光時間を電子的に制御する電子シャッタ機能を有していることが望ましい。以下の説明においては撮像素子202が電子シャッタ機能を有しているものとする。
アナログ処理部203は、撮像素子202により得られた画像信号に対してCDS(相関二重サンプリング)処理やAGC(自動利得制御)処理等のアナログ処理を施す。A/D変換部204は、アナログ処理部203においてアナログ処理された画像信号をデジタル信号(以下、画像データという)に変換する。
ここで、撮像素子202、アナログ処理部203、A/D変換部204が、撮像部の一例として機能する。
バス205は、カメラ本体200の内部で発生した各種のデータを転送するための転送路である。RAM206は、カメラ本体200内部で発生した各種のデータを一時的に記憶するための記憶部である。このRAM206が、静止画情報記憶部の一例として機能する。ここで、RAM206は、例えばDRAMである。
AE処理部207は、画像データを用いて被写体輝度を算出する。なお、被写体輝度は、画像データから算出するだけでなく、例えば専用の測光センサで測定するようにしても良い。AF処理部208は、画像データから高周波成分の信号を取り出し、取り出した高周波成分の信号を積算してAF用の合焦評価値を取得する。
画像処理部209は、画像データに対する各種の画像処理を行う。本実施形態における画像処理部209は、基本画像処理部2091と、特殊効果画像処理部2092と、を有している。
基本画像処理部2091は、画像の表示や記録のために必要な基本的な画像処理を画像データに対して施す。この基本的な画像処理とは、例えば、オプティカルブラック減算処理、ホワイトバランス補正処理、カラーマトリクス演算処理、ガンマ変換処理、エッジ強調処理、ノイズ低減処理が含まれる。この他、基本画像処理部2091は、リサイズ処理等も行う。
オプティカルブラック減算処理は、画像データの暗電流成分(オプティカルブラック)を減算して除去する処理である。ホワイトバランス補正処理は、画像データの色バランスを補正するためのゲインを乗じる処理である。カラーマトリクス演算処理は、画像データ全体の色相や彩度の調整を行うためのマトリクス演算を行う処理である。ガンマ変換処理は、画像データの階調特性を所定の特性に変換する処理である。エッジ強調処理は、画像データにおけるエッジ(輪郭)成分を強調する処理である。ノイズ低減処理は、画像データにおけるノイズ成分を除去する処理である。リサイズ処理は、画像データを所望のサイズに拡大又は縮小するように補間する処理である。
また、カラーフィルタの色配列によっては、基本画像処理としてさらに同時化処理が必要な場合もある。同時化処理は、ベイヤ配列に対応した画像データ等の、1つの画素が1つの色成分に対応している画像データを、1つの画素が複数の色成分に対応している画像データに変換する処理である。
特殊効果画像処理部2092は、画像に対して特殊な視角効果を与えるための特殊効果画像処理を画像データに対して施す。この特殊効果画像処理としては、例えばシェーディング付加処理、ぼかし付加処理、ソフトフォーカス処理、画像合成処理が含まれる。
シェーディング付加処理は、画像にシェーディング(陰影)を付加する処理である。ぼかし付加処理は、画像内の被写体領域を除く領域にぼかしを付加する処理である。ソフトフォーカス処理は、画像の全体にぼかしを付加する処理である。画像合成処理は、複数の画像データを合成して1枚の新たな画像データを生成する処理である。
画像圧縮展開部210は、画像の記録時においては、画像処理部209における画像処理によって得られた画像データに対してJPEG方式等の静止画圧縮処理又はMPEG方式等の動画圧縮処理を施す。また、画像圧縮展開部210は、画像の再生時においては、圧縮処理が施された画像データに対して展開(デコード)処理を施す。
メモリI/F211は、マイクロコンピュータ215等が記録媒体212にアクセスするためのインターフェイスである。記録媒体212は、例えばカメラ本体200に着脱自在になされたメモリカードである。この記録媒体212は、画像ファイル等を記録する。画像ファイルは、画像圧縮展開部210によって圧縮された画像データに、ヘッダ情報が付加されたファイルである。記録媒体212が、動画記録部の一例として機能する。
表示ドライバ213は、画像処理部209で得られた画像データ又は画像圧縮展開部210で伸張された画像データを映像信号に変換して表示部214に出力する。表示部214は、例えば液晶ディスプレイ(LCD)である。この表示部214は、表示ドライバ213から入力された映像信号に基づく画像を表示する。
マイクロコンピュータ215は、メカシャッタ201、撮像素子202、表示ドライバ213といったカメラ本体200の各部の動作を統括的に制御する。また、マイクロコンピュータ215は、AE処理部207で演算された被写体輝度を用いてAE処理を行ったり、AF処理部208で演算されたAF評価値を用いてAF処理を行ったりもする。また、マイクロコンピュータ215は、交換式レンズ100の装着時には、交換式レンズ100の動作も制御する。さらに、本実施形態におけるマイクロコンピュータ215は、タイミング取得部としての機能も有している。具体的には、マイクロコンピュータ215は、動画撮影中においてユーザにより操作部216のレリーズボタン2161が全押しされた、即ち静止画撮影の実行が指示されたタイミング(以下、レリーズタイミングという)を示す情報を取得する。
操作部216は、ユーザによって操作される各種の操作部材である。本実施形態における操作部216は、レリーズボタン2161と、動画記録ボタン2162と、メニューボタン2163と、再生ボタン2164と、電源ボタン2165と、を有している。ここで、これらのボタンは、一部又は全部をタッチパネルによって操作される仮想的な操作部として構成しても良い。
レリーズボタン2161は、ファースト(1st)レリーズスイッチとセカンド(2nd)レリーズスイッチの2段スイッチを有している。レリーズボタン2161が半押しされて、ファーストレリーズスイッチがオンされた場合に、マイクロコンピュータ215は、AE処理やAF処理等の撮影準備処理を実行する。また、レリーズボタン2161が全押しされて、セカンドレリーズスイッチがオンされた場合に、マイクロコンピュータ215は、静止画撮影処理を実行する。このようにレリーズボタン2161は、マイクロコンピュータ215に対して静止画撮影の実行を指示するための静止画撮影指示部の一例として機能する。
動画記録ボタン2162は、マイクロコンピュータ215に対して動画撮影の実行を指示するための動画撮影指示部の一例として機能する。動画記録ボタン2162が押された場合、マイクロコンピュータ215は、動画撮影処理を実行する。また、動画撮影処理の実行中に動画記録ボタン2162が押された場合、マイクロコンピュータ215は、動画撮影処理を終了する。
メニューボタン2163は、メニュー画面の表示を指示するための操作部である。メニュー画面上において、ユーザは、カメラ本体200の各種の設定を変更することが可能である。再生ボタン2164は、マイクロコンピュータ215に対して静止画ファイル又は動画ファイルの再生を指示するための操作部である。電源ボタン2165は、カメラ本体200の電源のオン又はオフを指示するための操作部である。
Flashメモリ217は、例えばホワイトバランス補正用のホワイトバランスゲイン、カラーマトリクス演算用のカラーマトリクス係数、ガンマ変換用のガンマテーブルといった画像処理部209の動作に必要なパラメータ等の、カメラ本体200の動作に必要な各種のパラメータを記憶している。ここで、本実施形態におけるFlashメモリ217は、特殊効果画像処理において用いられる合成係数を設定するためのテーブルも記憶している。また、Flashメモリ217は、マイクロコンピュータ215が実行する種々のプログラムも記憶している。
顔検出部218は、画像データ内の顔部の像を、特徴量マッチング等を用いて検出し、検出した顔部の範囲(顔範囲)を示す情報をマイクロコンピュータ215に出力する。
以下、図1で示したデジタルカメラの動作について説明する。図2は、図1で示したデジタルカメラのメイン動作を示すフローチャートである。図2の動作は、例えば図1に示すデジタルカメラの電源がオンされた場合に行われる。
デジタルカメラの電源オン後において、マイクロコンピュータ215は、初期化処理を行う(ステップS101)。初期化処理において、マイクロコンピュータ215は、自身が有するレジスタに設定されている記録中フラグをOffにする等の処理を行う。記録中フラグは、動画記録中であるか否かを示すフラグである。記録中フラグがOffになっている間は、動画記録中でないことを示す。一方、記録中フラグがOnになっている間は、動画記録中であることを示す。
次に、マイクロコンピュータ215は、ユーザによって操作部216の再生ボタン2164が押されたか否かを判定する(ステップS102)。ステップS102の判定において、再生ボタン2164が押された場合に、マイクロコンピュータ215は、再生処理を実行する(ステップS103)。
再生処理において、マイクロコンピュータ215は、ユーザによる画像ファイル(静止画像ファイル又は動画像ファイル)の選択を待つ。そして、画像ファイルが選択された場合に、マイクロコンピュータ215は、選択された画像ファイルを画像圧縮展開部210によりデコードする。そして、マイクロコンピュータ215は、選択された画像ファイルからデコードされた画像データを表示ドライバ213に入力する。表示ドライバ213は、入力された画像データを映像信号に変換し、この映像信号に対応した画像を表示部214に表示させる。その後、ユーザによって再生終了の指示がなされた場合、例えば再生ボタン2164が再び押された場合に、マイクロコンピュータ215は、処理をステップS102に戻す。
また、ステップS102の判定において再生ボタンが押されていない場合に、マイクロコンピュータ215は、ユーザによって操作部216のメニューボタン2163が押されたか否かを判定する(ステップS104)。ステップS104の判定において、メニューボタン2163が押された場合に、マイクロコンピュータ215は、表示ドライバ213を制御して表示部214にメニュー画面を表示させた後、カメラ設定処理を実行する(ステップS105)。
カメラ設定処理において、マイクロコンピュータ215は、ユーザからのカメラ設定の変更の指示を待つ。そして、何らかのカメラ設定の変更の指示がなされた場合に、マイクロコンピュータ215は、その指示に従ってカメラ設定を変更する。このカメラ設定処理においては、例えば静止画撮影時や動画撮影時の画像の記録モードの設定が変更される。また、カメラ設定処理において、後述する特殊効果画像処理を実行するか否かも変更することが可能である。
また、ステップS104の判定において、メニューボタン2163が押されていない場合に、マイクロコンピュータ215は、ユーザによって操作部216の動画記録ボタン2162が押されたか否かを判定する(ステップS106)。ステップS106の判定において、動画記録ボタン2162が押された場合に、マイクロコンピュータ215は、記録中フラグを反転させる(ステップS107)。即ち、マイクロコンピュータ215は、記録中フラグがOffの場合にはOnに、Onの場合にはOffにする。その後、マイクロコンピュータ215は、現在、動画記録中であるか否か、即ち記録中フラグがOnであるか否かを判定する(ステップS108)。
ステップS108の判定において、記録中フラグがOnである場合に、マイクロコンピュータ215は、動画ファイルを生成し、生成した動画ファイルを記録媒体212に記録する(ステップS109)。動画ファイルは、ヘッダ情報記録部と動画像記録部とを有する。ヘッダ情報部には、動画ファイル用のヘッダ情報を記録する。このヘッダ情報としては、ファイル名や、動画撮影時の撮影情報(ISO感度、絞り値、撮影日時等)、動画像データを構成する複数の画像データのそれぞれの位置を特定するためのポインタ情報等を記録する。この他、本実施形態においては、ヘッダ情報として、静止画情報及びタイミング情報を記録する。これらの静止画情報及びタイミング情報の詳細については後述する。また、動画像記録部には、動画像データを圧縮した状態で記録する。
ステップS106の判定において動画記録ボタン2162が押されていない場合、ステップS108の判定において記録中フラグがOnでない場合、ステップS109において動画ファイルを生成した後、マイクロコンピュータ215は、現在、動画記録中であるか否か、即ち記録中フラグがOnであるか否かを判定する(ステップS110)。ステップS110の判定において、記録中フラグがOffである場合に、マイクロコンピュータ215は、ユーザによって操作部216のレリーズボタン2161が半押しされてレリーズボタン2161の状態がOff状態から1stレリーズスイッチのOn状態に遷移したか否かを判定する(ステップS111)。ステップS111の判定において、レリーズボタン2161の状態が1stレリーズスイッチのOn状態に遷移した場合に、マイクロコンピュータ215は、顔検出処理、AE処理、及びAF処理を行う(ステップS112)。
顔検出処理において、マイクロコンピュータ215は、顔検出部218によって顔範囲を検出させる。
AE処理において、マイクロコンピュータ215は、AE処理部207によって被写体輝度を算出させる。その後、マイクロコンピュータ215は、AE処理部207によって算出された被写体輝度に応じて静止画撮影の実行時におけるISO感度、絞り値、シャッタ速を決定する。なお、AE処理において、特定の顔部の輝度が適正となるようにISO感度、絞り値、シャッタ速を決定するようにしても良い。
AF処理において、マイクロコンピュータ215は、AF処理部208によって合焦評価値を取得させる。そして、マイクロコンピュータ215は、AF処理部208で取得された合焦評価値により、画像データにおけるコントラストを評価しつつ、レンズ101のフォーカスレンズを微少量ずつ駆動させるようにレンズマイクロコンピュータ104に指示する。その後、マイクロコンピュータ215は、コントラストが最大となった時点でフォーカスレンズの駆動を停止させるようにレンズマイクロコンピュータ104に指示する。このようなAF処理は、所謂コントラスト方式のAF処理である。AF処理として位相差AF処理を用いるようにしても良い。なお、AF処理において、特定の顔範囲に対して合焦するようにフォーカスレンズを駆動させるようにしても良い。
ここで、図2の例における顔検出処理、AE処理及びAF処理は、レリーズボタン2161の状態が1stレリーズスイッチのOn状態に遷移したタイミングにおいて実行されるものである。即ち、レリーズボタンの状態が1stレリーズスイッチのOn状態に遷移しないタイミング、例えば、レリーズボタンの状態がOff状態のままである場合、1stレリーズスイッチのOn状態のままである場合、後述する2ndレリーズスイッチのOn状態のままである場合等では、顔検出処理、AE処理及びAF処理は実行されない。
ステップS111の判定において、レリーズボタン2161の状態が1stレリーズスイッチのOn状態に遷移していない場合に、マイクロコンピュータ215は、ユーザによって操作部216のレリーズボタン2161が全押しされてレリーズボタン2161の状態が2ndレリーズスイッチのOn状態となっているか否かを判定する(ステップS113)。
ステップS113の判定において、レリーズボタンの状態が2ndレリーズスイッチのOn状態である場合に、マイクロコンピュータ215は、静止画撮影処理を実行する(ステップS114)。このために、マイクロコンピュータ215は、ステップS112において決定したISO感度に応じてアナログ処理部203におけるゲイン制御量(増幅率)を設定するとともに、ステップS112において決定した絞り値をレンズマイクロコンピュータ104に送信する。その後、マイクロコンピュータ215は、レンズマイクロコンピュータ104の制御による絞り102の駆動と同期して、ステップS112において決定したシャッタ速に応じてメカシャッタ201を動作させて撮像素子202の露光量を制御する。このような静止画撮影処理により、画像データがRAM206に記憶される。
静止画撮影処理を実行した後、マイクロコンピュータ215は、静止画撮影処理によってRAM206に記憶された画像データに対して画像処理部209を用いて画像処理を施すことによって静止画像データを生成する(ステップS115)。この際、特殊効果画像処理を施すように予め設定されている場合には、基本画像処理部2091による基本画像処理と特殊効果画像処理部2092による特殊効果画像処理の両方を画像データに対して施す。一方、特殊効果画像処理を施すように予め設定されていない場合には、基本画像処理部2091による基本画像処理のみを画像データに対して施す。
画像処理の後、マイクロコンピュータ215は、画像処理の結果としてRAM206に記憶された静止画像データを、静止画ファイルとして記録する処理を行う(ステップS116)。この際、マイクロコンピュータ215は、静止画撮影処理の結果としてRAM206に記憶された静止画像データに対する静止画圧縮処理を実行するように画像圧縮展開部210に指示する。この指示を受けて画像圧縮展開部210は、予め設定された記録モードに対応するように静止画圧縮処理を行い、圧縮された静止画像データをRAM206に記憶させる。その後、マイクロコンピュータ215は、画像圧縮展開部210により圧縮された静止画像データをRAM206から読み出し、読み出した静止画像データに所定のヘッダ情報を付加して静止画ファイルを作成し、作成した静止画ファイルを記録媒体212に記録する。静止画ファイルは、ヘッダ情報記録部と静止画像記録部とを有する。ヘッダ情報部には、静止画ファイル用のヘッダ情報を記録する。このヘッダ情報としては、ファイル名や、静止画撮影時の撮影情報(ISO感度、絞り値、撮影日時等)等を記録する。また、静止画像記録部には、静止画像データを圧縮状態で記録する。
また、ステップS113の判定において、レリーズボタンの状態が2ndレリーズスイッチのOn状態でない場合に、マイクロコンピュータ215は、AE処理を実行する(ステップS117)。このAE処理は、ライブビュー表示のための処理である。AE処理の後、マイクロコンピュータ215は、ライブビュー表示用の撮影処理を実行する(ステップS118)。この撮影処理において、マイクロコンピュータ215は、AE処理によって決定したシャッタ速に応じて撮像素子202の電子シャッタ機能を動作させて撮像素子202の露光量を制御する。撮影処理の後、マイクロコンピュータ215は、撮影処理の結果としてRAM206に記憶された画像データに対して、画像処理部209を用いて画像処理を施す(ステップS119)。画像処理の後、マイクロコンピュータ215は、画像処理の結果としてRAM206に記憶された画像データを再生するように表示ドライバ213に指示する。この指示を受けて表示ドライバ213は、RAM206から画像データを読み出し、読み出した画像データを映像信号に変換して表示部214に出力する。表示部214は、この映像信号に基づいて画像を再生する(ステップS120)。このようなライブビュー表示により、ユーザは、表示部214を用いて構図の確認等を行うことができる。
また、ステップS110の判定において、記録中フラグがOnである場合に、マイクロコンピュータ215は、動画撮影処理を実行する(ステップS121)。この動画撮影処理の詳細については後述する。
また、ステップS112、S116、S120、S121の後、マイクロコンピュータ215は、デジタルカメラの電源がオフされたか否かを判定する(ステップS122)。ステップS122の判定において、デジタルカメラの電源がオフされていない場合に、マイクロコンピュータ215は、ステップS102以後の処理を実行する。一方、ステップS122の判定において、デジタルカメラの電源がオフされた場合に、マイクロコンピュータ215は、図2の処理を終了させる。
図3は、本実施形態における動画撮影処理の詳細を示したフローチャートである。ここで、図3においては、カメラ設定処理において特殊効果画像処理を実行するように設定されているものとして説明を行う。
動画撮影処理において、マイクロコンピュータ215は、顔検出処理、AE処理を実行する(ステップS201)。続いて、マイクロコンピュータ215は、レリーズボタン2161の状態がOff状態から1stレリーズスイッチのOn状態に遷移したか否かを判定する(ステップS202)。ステップS202の判定において、レリーズボタン2161の状態が1stレリーズスイッチのOn状態に遷移した場合に、マイクロコンピュータ215は、AF処理を行う(ステップS203)。また、ステップS203の判定において、レリーズボタン2161の状態が1stレリーズスイッチのOn状態に遷移していない場合に、マイクロコンピュータ215は、ステップS203の処理をスキップする。
その後、マイクロコンピュータ215は、撮影処理を実行する(ステップS204)。この撮影処理においてマイクロコンピュータ215は、ライブビュー表示用の撮影処理と同様に、AE処理によって決定したシャッタ速に応じて撮像素子202の電子シャッタ機能を動作させて撮像素子202の露光量を制御する。その後、マイクロコンピュータ215は、撮影処理の結果としてRAM206に記憶された画像データに対して、画像処理部209を用いて画像処理を施す(ステップS205)。ステップS205においては、画像データに対して基本画像処理を施す。
続いて、マイクロコンピュータ215は、レリーズボタン2161の状態が2ndレリーズスイッチのOn状態であるか否かを判定する(ステップS206)。ステップS206の判定において、レリーズボタン2161の状態が2ndレリーズスイッチのOn状態である場合に、マイクロコンピュータ215は、そのときの静止画情報を例えばRAM206に記憶させる(ステップS207)。
静止画情報とは、動画撮影中においてレリーズボタン2161が全押しされたタイミング(レリーズタイミング)の直前のフレームの画像データに関する付随情報である。本実施形態では、例えば、レリーズタイミングの直前のフレームの画像データそのものを静止画情報として記憶させる。この記憶された画像データは、動画撮影中に得られたものであるが、1つの静止画像データとして取り扱われる。以後、この記憶された画像データを動画内静止画像データという。
また、レリーズボタンタイミングの直前のAF処理において合焦した画像内の位置を示す情報(以下、AF情報という)を静止画情報として記憶させるようにしても良い。さらに、レリーズタイミングの直前の顔検出処理において得られた特定の顔範囲を示す情報(以下、顔情報という)を、静止画情報として記憶させることが可能である。この他、動画内静止画像データの主要被写体を特定できる各種の情報を静止画情報として記憶させることが可能である。
静止画情報を記憶させた後、マイクロコンピュータ215は、レリーズタイミングを示すタイミング情報を取得する(ステップS208)。タイミング情報は、例えば動画撮影処理の開始からレリーズタイミングまでの経過時間やレリーズタイミングを示す時刻である。この他、動画内静止画像データに対応した動画ファイル内の画像データのフレーム番号や、動画内静止画像データに対応した画像データの動画ファイルの先頭からの位置を示す情報(ポインタ情報)をタイミング情報としても良い。
タイミング情報を取得した後、マイクロコンピュータ215は、特殊効果画像処理、ライブビュー表示処理、記録処理をそれぞれ実行する(ステップS209)。その後、マイクロコンピュータ215は、図3の処理を終了させて図2のステップS122以後の処理を実行する。
図4は、第1の実施形態における図3のステップS209の処理の一例を示すフローチャートである。図4において、マイクロコンピュータ215は、現在の動画撮影の対象となっているフレーム(現在フレーム)の画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差、即ちレリーズタイミングからの経過時間が所定時間T(例えば3秒以内)であるか否かを判定する(ステップS301)。ここで、タイミング情報がフレーム番号やポインタ情報である場合には、動画ファイル内での画像データの位置差が所定以内であるかを判定する。
ステップS301の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内でない場合に、マイクロコンピュータ215は、ステップS302とステップS303の処理をスキップする。この場合には、現在フレームの画像データに対する特殊効果画像処理は行わない。
一方、ステップS301の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内である場合に、マイクロコンピュータ215は、Flashメモリ217に記憶されているテーブルに従って合成係数を算出する(ステップS302)。合成係数を算出した後、マイクロコンピュータ215は、画像処理部209を用いて静止画情報としてRAM206に記憶させた動画内静止画像データと現在フレームの画像データとを合成(重畳)し、合成により得られた画像データを新たな現在フレームの画像データとしてRAM206に記憶させる(ステップS303)。
ステップS301において現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内でない場合、又はステップS303の後、マイクロコンピュータ215は、RAM206に記憶されている現在フレームの画像データに基づく画像をライブビュー表示するように表示ドライバ213に指示する(ステップS304)。上述の合成によって得られた合成画像データを再生した場合、今回再生されるべき現在フレームの画像に、レリーズタイミングに対応して取得された動画内静止画像が重畳された状態の残像効果を有する画像が表示部214に表示される。
続いて、マイクロコンピュータ215は、RAM206に記憶されている現在フレームの画像データを、図2のステップS109で予め作成した動画ファイルに追記する(ステップS305)。現フレームの画像データを動画ファイルに追記した後、マイクロコンピュータ215は、図4の処理を終了させる。ステップS305において、マイクロコンピュータ215は、RAM206に記憶されている現在フレームの画像データに対して動画圧縮処理を実行するように画像圧縮展開部210に指示する。この指示を受けて画像圧縮展開部210は、予め設定された記録モードに対応するように動画圧縮処理を行い、圧縮された画像データをRAM206に記憶させる。その後、マイクロコンピュータ215は、圧縮された画像データをRAM206から読み出し、読み出した画像データを予め作成した動画像ファイルの動画像記録部に追記する。
図5は、ステップS302において合成係数を算出するための合成係数の設定テーブルの例を示す図である。図5に示すように、合成係数は、0.0から1.0の範囲で設定する。さらに、合成係数は、レリーズタイミングの直後の時点(図の0の時点)から所定時間Tが経過した時点で0.0となるように設定することが望ましい。
図5は、このような2つの条件を満足する合成係数のテーブルの例を示している。例えば、図5のaのテーブルの特性は、合成係数が、所定時間Tをかけて0.0まで減少する特性である。また、図5のbのテーブルの特性は、合成係数が、ある時間の間は一定であり、その後に0.0まで減少する特性である。さらに、図5のcのテーブルの特性は、合成係数が1.0まで増加した後、0.0まで減少する特性である。このように、各種の特性の合成係数のテーブルを設定しておくことができる。マイクロコンピュータ215は、図5のようにして予め記憶されているテーブルを用いて、レリーズタイミングとの時間差に応じた合成係数を算出する。なお、複数の特性のテーブルが記憶されている場合には、その中の何れのテーブルを用いるかをユーザが設定できるようにしても良い。
図6は、ステップS303の合成処理の例を説明するための図である。ここで、図6は、以下の(式1)に従って合成を行った例を示している。
C=α×A+B (式1)
ここで、(式1)のAは動画内静止画像データの値を示し、Bは現在フレームの画像データの値を示し、αは合成係数を示し、Cは合成後の画像データの値を示している。また、図6の例の合成係数αは、図5の特性aに対応している。
上述したように、一連の動画撮影中にレリーズボタン2161が全押しされると、その直前のフレームの画像データが動画内静止画像データとして記憶される。その後、レリーズタイミングから所定時間T秒(例えば3秒)が経過するまで合成が行われる。(式1)に従って動画内静止画像データを合成することにより、半透明状態の動画内静止画像が現在フレームの画像に重畳され、図6に示す合成画像データC1、C2、C3が生成される。
合成係数のテーブルが図5の特性aを有している場合、合成係数αは時間経過に伴って減少する。このため、合成画像データC1よりも合成画像データC2のほうが、合成される動画内静止画像データの透明度が大きくなる。そして、動画内静止画像データは、所定時間T(3秒)が経過した時点で完全に透明となる。このときに得られる合成画像データC3は、合成が行われていないのと等価な画像データとなる。
ここで、上述の例では、(式1)に従って動画内静止画像データの透明度のみを変更して合成している。しかしながら、本実施形態においては、動画内静止画像データと現在フレームの画像データとを任意の手法で合成することが可能である。例えば、以下の(式2)に従って両者を合成しても良い。
C=α×A+(1−α)×B (式2)
(式2)の場合、動画内静止画像データと現在フレームの画像データの両者に対して半透明化処理がなされて合成が行われる。
また、静止画情報として顔情報を記憶させている場合には、図6に示すように、動画内静止画像データの顔範囲の画像データのみを合成するようにしても良い。この場合、画像処理部209は、顔情報によって特定される顔範囲の画像データを動画内静止画像データから抽出し、抽出した顔範囲の画像データを現在フレームの画像データに合成する。この場合の顔範囲の画像データの合成位置は、特に限定されるものではない。例えば、固定位置としても良いし、現在フレームの画像データにおける被写体位置(顔範囲)としても良いし、ユーザが適宜設定できるようにしても良い。さらに、顔情報の代わりにAF情報を用いて画像データを抽出するようにしても良い。
また、図6に示すように、動画内静止画像データの顔範囲の画像データを拡大してから合成するようにしても良い。この場合の拡大率は、拡大後の顔範囲の画像データが現在フレームの画像データの画角内に収まるように設定することが望ましい。また、ユーザが拡大率を設定できるようにしても良い。さらには、動画内静止画像データの顔範囲の画像データを拡大してから合成するか否かをユーザが設定できるようにしても良い。
以上説明したように、本実施形態によれば、ユーザが動画撮影中の所望のタイミングでレリーズボタン2161を全押しするだけで、そのタイミングに対応した画像データに対して特殊効果画像処理としての合成処理が施される。このように、本実施形態によれば、ユーザは動画撮影後に編集等を行うことなく、動画撮影中の意図したタイミングで特殊効果画像処理を施すことが可能である。
また、特殊効果画像処理としての合成処理を施す際、動画内静止画像データの合成係数を、レリーズタイミングからの経過時間に応じて変化させ、一定時間後にゼロにするように設定することにより、再生時における急激な画像の変化を抑制して自然な残像効果を与えることが可能である。
ここで、第1の実施形態においては、動画内静止画像データを取得するタイミングをレリーズボタン2161が全押しされたタイミングとしている。このタイミングを指示する操作部をレリーズボタン2161以外のものとしても良い。
[第2の実施形態]
次に、本発明の第2の実施形態について説明する。第2の実施形態は、第1の実施形態とは別の特殊効果画像処理を施す例である。第2の実施形態においては、特殊効果画像処理として、レリーズタイミングに前後するタイミングに対応した動画像の再生時間を変更する処理を施す。
以下、第2の実施形態において、第1の実施形態と同一の部分については説明を省略する。本実施形態においては、画像バッファ用の記憶領域がRAM206に設けられている。この画像バッファ用の記憶領域は、静止画像データや動画像データを記憶するための記憶領域とは別個に設けられている。画像バッファ用の記憶領域は、後述の特殊効果画像処理において過去フレームの画像データを保持しておくための記憶領域である。
図7は、第2の実施形態における図3のステップS209の処理の例を示すフローチャートである。図7において、マイクロコンピュータ215は、現在の動画撮影の対象となっているフレーム(現在フレーム)の画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差、即ちレリーズタイミングからの経過時間が所定時間T(例えば3秒以内)であるか否かを判定する(ステップS401)。ステップS401の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内でない場合に、マイクロコンピュータ215は、RAM206に記憶されている現在フレームの画像データに基づく画像をライブビュー表示するように表示ドライバ213に指示する(ステップS402)。
続いて、マイクロコンピュータ215は、画像バッファがフル状態となったか否かを判定する(ステップS403)。ステップS403の判定において、画像バッファがフル状態となった場合に、マイクロコンピュータ215は、画像バッファに記録されている画像データを、図2のステップS109で予め作成した動画ファイルに追記する(ステップS404)。その後、マイクロコンピュータ215は、現在フレームの画像データをRAM206内に構成された画像バッファに記憶させる(ステップS405)。また、ステップS403の判定において、画像バッファがフル状態となっていない場合に、マイクロコンピュータ215は、ステップS404の処理をスキップする。
ステップS404においては、画像バッファに記録されている画像データの中で最も古い画像データから順に動画ファイルに記録する。例えば、画像バッファが7枚の画像データを格納できるだけの容量を有しているとする。この場合、7枚目の画像データが記憶されるまでは、図8(a)に示すようにして、画像バッファに画像データを順次記憶させる。これに対し、8枚目の画像データ以後については、図8(b)に示すようにして、最古の画像データを動画ファイルに追記してから記憶させる。図8(b)に示すようにして画像データを循環的に画像バッファに記憶させることにより、画像バッファの容量が少なくとも画像データを逐次記憶させることが可能となる。
また、ステップS401の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内である場合に、マイクロコンピュータ215は、現在フレームの画像データがレリーズタイミングに対応したフレームの画像データであるか否かを判定する(ステップS406)。ステップS406の判定において、現在フレームの画像データがレリーズタイミングに対応したフレームの画像データである場合に、マイクロコンピュータ215は、画像処理部209によって現在フレームの画像データの一部(例えば顔範囲やAF範囲)を切り出す(ステップS407)。そして、マイクロコンピュータ215は、切り出した画像データの一部の像を用いて、第2の実施形態における特殊効果画像処理としての過去フレームの画像データの生成処理を行う(ステップS408)。この過去フレームの画像データの生成処理については後述する。
過去フレームの画像データを生成した後、マイクロコンピュータ215は、ステップS408で生成した過去フレームの画像データを、図2のステップS109で予め作成した動画ファイルに追記する(ステップS409)。過去フレームの画像データを動画ファイルに追記した後、マイクロコンピュータ215は、生成した過去フレームの画像データに基づく画像をライブビュー表示するように表示ドライバ213に指示する(ステップS410)。その後にマイクロコンピュータ215は、図7に示す処理を終了させる。
また、ステップS406の判定において、現在フレームの画像データがレリーズタイミングに対応したフレームの画像データでない場合に、マイクロコンピュータ215は、画像処理部209によって切り出した画像データの一部の像を用いて、第2の実施形態における特殊効果画像処理としての新たな現在フレームの画像データの生成処理を行う(ステップS411)。この現在フレームの画像データの生成処理についても後述する。
現在フレームの画像データを生成した後、マイクロコンピュータ215は、生成した現在フレームの画像データに基づく画像をライブビュー表示するように表示ドライバ213に指示する(ステップS412)。その後、マイクロコンピュータ215は、ステップS411で生成した現在フレームの画像データを、図2のステップS109で予め作成した動画ファイルに追記する(ステップS413)。現在フレームの画像データを動画ファイルに追記した後、マイクロコンピュータ215は、図7に示す処理を終了させる。
以下、第2の実施形態における特殊効果画像処理としてのフレームの生成処理について説明する。図9は、ステップS408又はS411におけるフレーム生成のための合成係数の設定テーブルの例を示す図である。
図9に示すように、第2の実施形態における合成係数も、第1の実施形態と同様、0.0から1.0の範囲で設定する。また、第2の実施形態においては、合成係数を、レリーズタイミング(図の0の時点)の前後の所定時間Tの範囲内で設定する。そして、第2の実施形態における合成係数は、レリーズタイミングから±Tの時点でそれぞれ0.0となるように設定する。これらの条件を満足していれば、合成係数の特性は任意に設定して良い。図9の例は、合成係数が、−Tの時点から0の時点までは0.0から0.5まで単調増加し、その後、Tの時点となる前に0.0まで減少する特性である。
さらに、本実施形態では、レリーズタイミングの前後の所定時間Tの範囲内の動画像データの再生速度を変更する。この際、±Tの時点では再生速度を等倍速(1倍速)としておくことが望ましい。さらに、動画像の全体としての再生時間が変わらないよう、高速再生処理によって減少するフレーム数と低速再生処理によって増加するフレーム数とを一致させるように再生速度を変更することがより望ましい。
図10は、再生速度の変化特性の一例を示す図である。図10は、再生速度を、等倍速から2倍速まで変化させた後、2倍速から1/2まで変化させ、その後に再び等倍速まで戻す例である。図10のようにして再生速度を変更する場合、高速再生処理を行う領域(図の等倍のライン以上の領域の面積)と低速再生処理を行う領域(図の等倍のライン以下の領域の面積)とを等しくすることができる。これにより、高速再生によって減少するフレーム数と低速再生によって増加するフレーム数とが一致する。
図11は、ステップS408における過去フレームの生成について説明するための図である。まず、画像バッファに記憶されている画像データ(m−6)〜(m−1)のそれぞれに、レリーズタイミングに対応した画像データ(m)から生成された動画内静止画像データを合成する。また、レリーズタイミングに対応した画像データ(m)にも動画内静止画像データを合成する。合成の仕方は、第1の実施形態と同様である。即ち、動画内静止画像データの一部(例えば顔範囲)を切り出し、この切り出した一部の像の画角を拡大する。そして、図9に示したようなレリーズタイミングからの時間差と対応付けられた合成係数に従って、拡大後の動画内静止画像データの一部の像を合成対象の画像データと合成する。勿論、第1の実施形態と同様、動画内静止画像データの一部の像の画角を拡大せずに、即ち画角を同じくして合成しても良い。
動画内静止画像データの合成処理によって得られたそれぞれの合成画像データ(m−6)〜(m−1)は、画像バッファに上書き記憶される。また、合成画像データ(m)は、RAM206の画像バッファとは別の記憶領域に上書き記憶される。続いて、再生速度を変化させるように再生速度変更後画像データを生成する。1フレーム分の画像データの再生時間が変わらないとすると、再生速度を高速化するには再生する画像データの数を減少させれば良く、再生速度を低速化するには再生する画像データの数を増加させれば良い。例えば、連続する複数のフレームの画像データを再生する際に、これらのフレームの画像データを合成してから再生したり、間引きして再生したりすることにより、再生速度を高速化することができる。逆に、連続する複数のフレームの画像データを再生する際に、連続するフレームの中間のフレームの画像データをさらに再生したり、同じフレームの画像データを複数回再生したりすることにより、再生速度を低速化することができる。
図11のようにして記憶された画像データから、図10に示すような再生速度の特性を有する動画像データを生成する場合、合成画像データ(m−6)は等倍速で再生する。したがって、合成画像データ(m−6)は何らの処理も適用しない。
続いて、合成画像データ(m−5)、(m−4)と合成画像データ(m−3)、(m−2)は、2倍速で再生する。このために、合成画像データ(m−5)と合成画像データ(m−4)とをさらに合成して再生速度変更後画像データ(m−5)を生成する。また、合成画像データ(m−3)と合成画像データ(m−2)とをさらに合成して再生速度変更後画像データ(m−4)を生成する。これらの合成処理の際の合成画像データの合成比は例えば1:1である。合成画像データ(m−5)〜(m−2)の4フレーム分を再生する代わりに、再生速度変更後画像データ(m−5)、(m−4)の2フレーム分を再生することにより、再生速度は、2倍速となる。ここでは、高速化処理として、2フレーム分の合成画像データをさらに合成する例を示したが、2フレームのうちの一方を間引くようにしても良い。
続いて、合成画像データ(m−1)は等倍速で再生する。したがって、合成画像データ(m−1)は何らの処理も適用せずに再生速度変更後画像データ(m−3)とする。次の合成画像データ(m)は、1/2倍速で再生する。このために、合成画像データ(m)をコピーして再生速度変更後画像データ(m−2)、(m−1)を生成する。同一の画像データである再生速度変更後画像データ(m−2)、(m−1)を連続して再生することにより、再生速度は、1/2倍速となる。ここでは、低速化処理として、同じ合成画像データをコピーする処理を示したが、2フレームの中間フレームの合成画像データを新たに生成するようにしても良い。
合成画像データ(m)を用いて再生速度変更後画像データ(m−1)を生成するまでの処理が、過去フレームの生成処理である。このような過去フレームの生成処理の後、それまで画像バッファに記憶されていた合成画像データが消去される。その後は、所定時間Tが経過するまでは、動画撮影によって新たな画像データが取得される毎に、ステップS411の現在フレームの生成処理を行う。以下、図12を参照して現在フレームの生成処理を説明する。
合成画像データ(m)の次の動画撮影タイミングにおいて、画像データ(m+1)が得られる。まず、画像データ(m+1)に動画内静止画像データを合成して合成画像データ(m+1)を生成する。この合成画像データ(m+1)はRAM206に上書き記憶される。合成画像データ(m+1)は、1/2倍速で再生する。このために、合成画像データ(m+1)をコピーして再生速度変更後画像データ(m)、(m+1)を生成する。
その後は、再生速度が等倍に戻るように再生速度変更後画像データ(m+2)、(m+3)、(m+4)を順次生成していく。図12に示すように、再生速度変更後画像データ(m+2)は、合成画像データ(m+2)である。また、再生速度変更後画像データ(m+3)は、合成画像データ(m+2)と合成画像データ(m+3)の中間フレームの合成画像データである。さらに、再生速度変更後画像データ(m+4)は、合成画像データ(m+4)である。
図12においては、図示していないが、所定時間Tが経過するまでに合成画像データ(m+5)、(m+6)も得られる。これらは、等倍速で再生する。
以上説明したように、本実施形態によれば、ユーザが動画撮影中の所望のタイミングでレリーズボタン2161を全押しするだけで、そのタイミングに対して前後するタイミングの画像データに対して特殊効果画像処理としての再生速度変化処理が施される。このように、本実施形態においても、ユーザは動画撮影後に編集等を行うことなく、動画撮影中の意図したタイミングで特殊効果画像処理を施すことが可能である。
また、特殊効果画像処理の終了時点で再生速度が等倍速に戻るように、再生速度変更後画像データを生成することにより、特殊効果画像処理を施す前後での急激な再生速度の変化を抑制することが可能である。
ここで、上述の第2の実施形態においては、動画内静止画像データを合成してから再生速度の変更処理を行うようにしている。逆に、再生速度の変更処理を行ってから動画内静止画像データを合成しても良い。また、第2の実施形態においては、動画内静止画像データの合成処理自体を省略しても良い。この場合、静止画情報として動画内静止画像データを記憶させる必要はない。
また、上述の例では、再生速度を2倍又は1/2倍とする処理を行っている。しかしながら、再生速度は、必ずしも2倍又は1/2倍とする必要はなく、任意に設定することが可能である。例えば、3フレームの分の合成画像データを合成して再生すれば、再生速度を3倍とすることが可能である。逆に、同じ合成画像データを3回連続で再生すれば、再生速度を3倍とすることが可能である。ただし、3倍速とする高速化処理を行った場合、この処理によって減少した3フレーム分を、低速化処理によって補間することが望ましい。
[第3の実施形態]
次に、本発明の第3の実施形態について説明する。第3の実施形態は、第1及び第2の実施形態とはまた別の特殊効果画像処理を施す例である。第3の実施形態においては、特殊効果画像処理として、ゲインマップに従って画像データを処理する。この特殊効果画像処理には、シェーディングを付加する処理、彩度を変更する処理、ぼかしを付加する処理、ソフトフォーカス処理等が含まれる。
以下、第3の実施形態において、第1及び第2の実施形態と同一の部分については説明を省略する。図13は、第3の実施形態における図3のステップS209の処理の例を示すフローチャートである。図13において、マイクロコンピュータ215は、現在の動画撮影の対象となっているフレーム(現在フレーム)の画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差、即ちレリーズタイミングからの経過時間が所定時間T(例えば3秒以内)であるか否かを判定する(ステップS501)。ステップS501の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内である場合に、マイクロコンピュータ215は、第3の実施形態における特殊効果画像処理のためのゲインマップを作成する(ステップS502)。ゲインマップの作成処理については後述する。ゲインマップを作成した後、マイクロコンピュータ215は、特殊効果画像処理を実行する(ステップS503)。
また、ステップS501の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内でない場合に、マイクロコンピュータ215は、ステップS502及びステップS503の処理をスキップする。
ステップS501の判定において現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内でない場合、又はステップS503において特殊効果画像処理を実行した後、マイクロコンピュータ215は、特殊効果画像処理の結果としてRAM206に記憶されている画像データに基づく画像をライブビュー表示するように表示ドライバ213に指示する(ステップS504)。その後、マイクロコンピュータ215は、特殊効果画像処理の結果としてRAM206に記憶されている画像データを、図2のステップS109で予め作成した動画ファイルに追記する(ステップS505)。その後、マイクロコンピュータ215は、図13の処理を終了させる。
図14は、ステップS502において作成されるゲインマップの例を示した図である。ゲインマップは、画像上の位置と特殊効果画像処理の内容によって特定される係数とを対応付けたテーブルである。この係数は、シェーディングを付加する処理の場合には例えばシェーディングを付加するために画像データに乗じるゲイン値であり、彩度を変更する処理の場合には例えば色差信号(CbCr)に乗じるゲイン値であり、ソフトフォーカス処理とぼかしを付加する処理の場合には例えばぼかしの程度を決めるフィルタ係数に対応する値である。
図14に示すゲインマップのテーブルは、静止画情報によって特定される中心位置における係数が1であり、中心位置からの距離に応じて係数が0まで減少する特性を有する。中心位置は、顔情報によって特定された顔範囲の中心位置又はAF情報によって特定されたAF範囲の中心位置とする。
さらに、図14に示すように、本実施形態におけるゲインマップのテーブルは、レリーズタイミングからの時間経過に応じた複数の特性のゲインマップのテーブルが設けられている。図14に示すゲインマップのテーブルは、レリーズタイミングからの経過時間が長いほど、係数が1に近づくように設定されている。
本実施形態においては、レリーズタイミングからの経過時間に対応したゲインマップのテーブルを順次選択して特殊効果画像処理を施す。図15は、図14に示すゲインマップに従ってシェーディングを付加する処理を行った場合の例を示す図である。図15に示すように、同一の画像内では、中心位置(図15の場合は顔範囲)付近からの距離が遠くなるに従って画像が暗くなる。そして、レリーズタイミングからの経過時間が長くなるほど、画像が全体的に明るくなり、所定時間T(例えば3秒)が経過した時点でシェーディングを付加する処理を行っていないのと等価な状態となる。
また、図示は省略しているが、彩度変更処理を行った場合には、同一の画像内では、中心位置付近からの距離が遠くなるに従って低彩度となるように彩度補正用のカラーマトリクスが設定される。また、ソフトフォーカス処理の場合には、中心位置付近からの距離が遠くなるに従ってぼけの程度が大きくなるようにローパスフィルタの係数が設定される。
また、ぼかしを付加する処理の場合には、画像データ内における係数が1の領域、即ち顔範囲やAF範囲に対応した領域を除く領域に対して、図14で示したゲインマップに従ったぼかし処理を実行する。この場合、画像内の顔範囲(AF範囲)の部分のみが鮮明な像となり、その他の部分がぼけた像となる。このようなぼかしを付加する処理により、ジオラマ撮影で得られるような特殊効果が付加された画像を得ることが可能である。
以上説明したように、本実施形態によれば、ユーザが動画撮影中の所望のタイミングでレリーズボタン2161を全押しするだけで、そのタイミングに対応した画像データに対してレリーズタイミングからの経過時間に応じた異なる視覚効果を与える特殊効果画像処理が施される。このように、本実施形態においても、ユーザは動画撮影後に編集等を行うことなく、動画撮影中の意図したタイミングで特殊効果画像処理を施すことが可能である。
ここで、第3の実施形態において、第1の実施形態で説明した合成処理や第2の実施形態で説明した再生速度変更処理を併用するようにしても良い。
また、第3の実施形態では、静止画情報としての顔情報やAF情報に従って、特殊効果画像処理を施すためのゲインマップを作成している。この他、静止画情報として例えば被写体輝度を用いることで、被写体輝度に応じてゲインマップの係数を変えるようにする等も可能である。
[第4の実施形態]
次に、本発明の第4の実施形態について説明する。上述した第1〜第3の実施形態は、何れも動画撮影中に特殊効果画像処理を施す例について説明している。これに対し、第4の実施形態は、動画再生時に特殊効果画像処理を施す例である。
以下、第4の実施形態において、第1〜第3の実施形態と同一の部分については説明を省略する。図16は、本実施形態における動画撮影処理の詳細を示したフローチャートである。ここで、図16のステップS201〜S206の処理は、図3と同様である。したがって説明を省略する。
ステップS206の判定において、レリーズボタン2161の状態が2ndレリーズスイッチのOn状態である場合に、マイクロコンピュータ215は、そのときの静止画情報を例えばRAM206に記憶させる(ステップS607)。静止画情報は、基本的には第1の実施形態と同様である。しかしながら、第4の実施形態においては、静止画情報としてさらに特殊効果画像処理を実行するか否かを示す特殊効果再生情報を記録しておく。
静止画情報を記憶させた後、マイクロコンピュータ215は、レリーズタイミングを示すタイミング情報を取得する(ステップS608)。マイクロコンピュータ215は、ステップS607で静止画情報として記憶させた静止画像データ(動画内静止画像データ)を、静止画ファイルとして記録する処理を行う(ステップS609)。続いて、マイクロコンピュータ215は、RAM206に記憶されている現在フレームの画像データを、図2のステップS109で予め作成した動画ファイルに追記する(ステップS610)。ここで、タイミング情報は、例えば動画像ファイルのヘッダ情報部に記録しておく。タイミング情報を静止画ファイルのヘッダ情報部に記録しても良い。動画ファイルへの画像データの記録が終了した後、マイクロコンピュータ215は、図16の処理を終了させて図2のステップS122以後の処理を実行する。
このように、本実施形態においては、動画撮影時において特殊効果画像処理を施さない代わりに、静止画情報及びタイミング情報を記録しておく。
図17は、本実施形態における動画再生処理について示すフローチャートである。この図17の処理は、図2のステップS103の再生処理の際に行われる。上述したように、本実施形態においては、動作再生時に特殊効果画像処理を施す。ここで、本実施形態では、特殊効果画像処理を実行する旨を示す情報が特殊効果再生情報として記録されている場合に特殊効果画像処理を行う。
また、図17は、第1の実施形態で説明した合成処理を特殊効果画像処理として実行する例を示している。第2の実施形態及び第3の実施形態で説明した特殊効果画像処理を実行するようにしても良い。
図17の再生処理において、マイクロコンピュータ215は、ユーザによる動画像ファイルの選択を待つ(ステップS701)。そして、動画像ファイルが選択された場合に、マイクロコンピュータ215は、選択された動画像ファイルを画像圧縮展開部210によりデコードする(ステップS702)。
そして、マイクロコンピュータ215は、現在の再生対象のフレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差、即ちレリーズタイミングからの経過時間が所定時間T(例えば3秒以内)であるか否かを判定する(ステップS703)。ステップS703の判定において、現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内である場合に、マイクロコンピュータ215は、Flashメモリ217に記憶されているテーブルに従って合成係数を算出する(ステップS704)。合成係数を算出した後、マイクロコンピュータ215は、画像処理部209を用いて静止画ファイルに記録した動画内静止画像データと現在フレームの画像データとを合成(重畳)し、合成により得られた画像データを新たな現在フレームの画像データとしてRAM206に記憶させる(ステップS705)。
ステップS703において現在フレームの画像データの取得タイミングとタイミング情報によって示されるレリーズタイミングとの時間差が所定時間以内でない場合、又はステップS705の後、マイクロコンピュータ215は、RAM206に記憶されている現在フレームの画像データに基づく画像を表示するように表示ドライバ213に指示する(ステップS706)。
現在フレームの画像データを再生した後、マイクロコンピュータ215は、選択された動画像の再生が終了したか、即ち動画像データを構成する全フレームの画像データの再生が終了したか否かを判定する(ステップS707)。ステップS707の判定において、動画像の再生が終了していない場合に、マイクロコンピュータ215は、次のフレームの画像データを再生すべく、ステップS702以後の処理を実行する。また、ステップS707の判定において、動画像の再生が終了した場合に、マイクロコンピュータ215は、動画再生処理を終了するか、即ち、ユーザによって再生終了の指示がなされたか否かを判定する(ステップS708)。ステップS708の判定において、動画再生処理を終了しない場合に、マイクロコンピュータ215は、ステップS701以後の処理を実行する。一方、ステップS708の判定において、動画再生処理を終了しない場合に、マイクロコンピュータ215は、図17の処理を終了させて図2のステップS101以後の処理を実行する。
以上説明したように、本実施形態によれば、動画撮影時に特殊効果画像処理を施していなくとも、再生時において特殊効果画像処理を施した動画像を再生することが可能である。この場合でも、ユーザは編集操作を意識する必要がない。
ここで、本実施形態では、図16及び図17の処理の何れもデジタルカメラ10が行う例を示している。しかしながら、デジタルカメラ10において図16の動画撮影処理のみを行い、デジタルカメラ10とは別体の特殊効果画像処理装置において図17の処理を実行するようにしても良い。このような変形例の構成を図18に示す。図18の例では、撮像装置の一例としてのデジタルカメラ10の画像処理部209が、特殊効果画像処理部2092を有していない。その代わりに、カメラ本体200には、特殊効果画像処理装置20と通信するためのインターフェイス(I/F)219が設けられている。また、特殊効果画像処理装置20は、画像圧縮展開部301と、特殊効果画像処理部302と、を有している。画像圧縮展開部301は、画像圧縮展開部210と同様の機能を有する。また、特殊効果画像処理部302は、特殊効果画像処理部2092と同様の機能を有する。
ここで、図18の例では、デジタルカメラ10のカメラ本体200と特殊効果画像処理装置20とが直接接続されているように図示されているが、I/F219は、無線インターフェイスであっても良い。この他、本実施形態の技術は、カメラ本体200と特殊効果画像処理装置20との間で動画像ファイル(静止画情報及びタイミング情報を含む)の授受を行える各種の場合において適用可能である。例えば、記録媒体212がカメラ本体200に対して着脱自在に構成されていれば、動画ファイルが記録されている記録媒体212をカメラ本体200から取り出し、この取り出した記録媒体212内の動画ファイルを特殊効果画像処理装置20で読み出して処理するような形態であっても本実施形態の技術は適用可能である。
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
10…デジタルカメラ、20…特殊効果画像処理装置、100…交換式レンズ、101…レンズ、102…絞り、103…ドライバ、104…レンズマイクロコンピュータ、105…Flashメモリ、106,219…インターフェイス(I/F)、200…カメラ本体、201…メカシャッタ、202…撮像素子、203…アナログ処理部、204…アナログ/デジタル(A/D)変換部、205…バス、206…RAM、207…AE処理部、208…AF処理部、209…画像処理部、210,301…画像圧縮展開部、211…メモリインターフェイス(I/F)、212…記録媒体、213…表示ドライバ、214…表示部、215…マイクロコンピュータ、216…操作部、217…Flashメモリ、218…顔検出部、2091…基本画像処理部、2092,302…特殊効果画像処理部、2161…レリーズボタン、2162…動画記録ボタン、2163…メニューボタン、2164…再生ボタン、2165…電源ボタン
上記の目的を達成するために、本発明の第1の態様の撮像装置は、被写体を撮像して画像データを得る撮像部と、前記撮像部で得られた画像データに対して画像処理を施す画像処理部と、前記撮像部に対して静止画撮影の実行を指示するための静止画撮影指示部と、前記静止画撮影指示部の指示に応じて前記撮像部で得られた画像データを前記画像処理部で画像処理して得られた静止画像データと、該静止画像データの付随情報と、を含む静止画情報を記憶する静止画情報記憶部と、前記撮像部に対して動画撮影の実行を指示するための動画撮影指示部と、前記動画撮影指示部の指示に応じて前記撮像部で得られた複数の画像データを前記画像処理部で画像処理して得られた動画像データを記録する動画記録部と、前記動画撮影の実行中に前記静止画撮影指示部によって前記静止画撮影の実行が指示された場合に、該静止画撮影の実行が指示されたタイミングを示すタイミング情報を取得するタイミング情報取得部と、を具備し、前記画像処理部は、前記静止画情報記憶部に記憶された前記静止画情報と前記タイミング情報取得部によって取得された前記タイミング情報とに基づいて、前記動画像データに対して、前記動画像データを構成する複数の前記画像データのうちの前記タイミング情報に対応した画像データに前記静止画像データを重畳させる処理を施す特殊効果画像処理を施し、前記動画記録部は、さらに、前記特殊効果画像処理が施された動画像データを記録することを特徴とする。
上記の目的を達成するために、本発明の第3の態様の撮像方法は、動画撮影指示部が、撮像部に対して動画撮影の実行を指示し、前記動画撮影指示部の指示に応じて前記撮像部が、被写体を撮像して複数の画像データを得て、画像処理部が前記撮像部で得られた複数の画像データに対して画像処理を施して動画像データを得て、前記動画撮影の実行中に静止画撮影指示部が、前記撮像部に対して静止画撮影の実行を指示し、前記静止画撮影指示部の指示に応じて静止画情報記憶部が、前記撮像部で得られた画像データを前記画像処理部で画像処理して得られた静止画像データと、該静止画像データの付随情報と、を含む静止画情報を記憶し、前記静止画撮影指示部の指示に応じてタイミング情報取得部が、前記静止画撮影の実行が指示されたタイミングを示すタイミング情報を取得し、前記画像処理部が、前記静止画情報記憶部に記憶された前記静止画情報と前記タイミング情報取得部によって取得された前記タイミング情報とに基づいて、前記動画像データに対して、前記動画像データを構成する複数の前記画像データのうちの前記タイミング情報に対応した画像データに前記静止画像データを重畳させる処理を施す特殊効果画像処理を施し、動画記録部が、前記特殊効果画像処理が施された動画像データを記録する、ことを特徴とする。

Claims (18)

  1. 被写体を撮像して画像データを得る撮像部と、
    前記撮像部で得られた画像データに対して画像処理を施す画像処理部と、
    前記撮像部に対して静止画撮影の実行を指示するための静止画撮影指示部と、
    前記静止画撮影指示部の指示に応じて前記撮像部で得られた画像データを前記画像処理部で画像処理して得られた静止画像データと、該静止画像データの付随情報と、を含む静止画情報を記憶する静止画情報記憶部と、
    前記撮像部に対して動画撮影の実行を指示するための動画撮影指示部と、
    前記動画撮影指示部の指示に応じて前記撮像部で得られた複数の画像データを前記画像処理部で画像処理して得られた動画像データを記録する動画記録部と、
    前記動画撮影の実行中に前記静止画撮影指示部によって前記静止画撮影の実行が指示された場合に、該静止画撮影の実行が指示されたタイミングを示すタイミング情報を取得するタイミング情報取得部と、
    を具備し、
    前記画像処理部は、前記静止画情報記憶部に記憶された前記静止画情報と前記タイミング情報取得部によって取得された前記タイミング情報とに基づいて、前記動画像データに対して特殊効果画像処理をさらに施すことを特徴とする撮像装置。
  2. 前記画像処理部は、前記特殊効果画像処理として、前記動画像データを構成する複数の前記画像データのうちの前記タイミング情報に対応した画像データに前記静止画像データを重畳させる処理を前記動画像データに対して施すことを特徴とする請求項1に記載の撮像装置。
  3. 前記画像処理部は、前記重畳させる処理として、前記重畳する静止画像データの重畳比率を前記タイミングからの経過時間に応じて変化させ、一定時間後にゼロにする処理を前記動画像データに対して施すことを特徴とする請求項2に記載の撮像装置。
  4. 前記画像処理部は、前記動画記録部が前記動画像データを記録する前に前記特殊効果画像処理を前記動画像データに対して施し、
    前記動画記録部は、前記特殊効果画像処理が施された動画像データを記録することを特徴とする請求項1に記載の撮像装置。
  5. 前記画像処理部は、前記動画記録部に記録された動画像データの再生が指示された際に前記特殊効果画像処理を該動画記録部に記録された動画像データに対して施し、
    前記特殊効果画像処理が施された動画像データを表示部に再生する再生制御部をさらに具備することを特徴とする請求項1に記載の撮像装置。
  6. 前記画像処理部は、前記タイミング情報に対応した画像データと前記静止画像データの双方の画角を同じ画角として、前記タイミング情報に対応した画像データに前記静止画像データを重畳することを特徴とする請求項2又は3に記載の撮像装置。
  7. 前記画像処理部は、前記静止画像データに記録されている前記被写体の像を前記タイミング情報に対応した画像データに記録されている前記被写体の像の画角よりも拡大した画角で、前記タイミング情報に対応した画像データに前記静止画像データを重畳することを特徴とする請求項2又は3に記載の撮像装置。
  8. 前記付随情報には前記被写体の顔検出情報が含まれており、
    前記画像処理部は、前記静止画像データに記録されている前記被写体の像としての前記顔検出情報によって示される前記静止画像データの顔部の像の画角よりも拡大した画角で、前記タイミング情報に対応した画像データに前記静止画像データを重畳することを特徴とする請求項7に記載の撮像装置。
  9. 前記画像処理部は、前記特殊効果画像処理として、前記動画像データを構成する複数の前記画像データのうちの前記タイミング情報に対応した画像データに対して前後するタイミングの画像データの再生速度を変化させる処理を施すことを特徴とする請求項1乃至8の何れか1項に記載の撮像装置。
  10. 前記画像処理部は、前記特殊効果画像処理として、前記静止画像データに対してシェーディングを付加する処理を施すことを特徴とする請求項1乃至9の何れか1項に記載の撮像装置。
  11. 前記画像処理部は、前記特殊効果画像処理として、前記静止画像データに対してぼかしを付加する処理を施すことを特徴とする請求項1乃至9の何れか1項に記載の撮像装置。
  12. 前記付随情報には前記被写体の顔検出情報が含まれており、
    前記画像処理部は、前記顔検出情報によって示される前記静止画像データに記録されている前記被写体の顔部の像を中心として前記シェーディングを付加する処理を施すことを特徴とする請求項10に記載の撮像装置。
  13. 前記付随情報には前記被写体の顔検出情報が含まれており、
    前記画像処理部は、前記顔検出情報によって示される前記静止画像データに記録されている前記被写体の顔部の像を除く領域に前記ぼかしを付加する処理を施すことを特徴とする請求項11に記載の撮像装置。
  14. 前記付随情報にはAF情報が含まれており、
    前記画像処理部は、前記AF情報によって示される前記静止画像データのAF中心を中心として前記シェーディングを付加する処理を施すことを特徴とする請求項10に記載の撮像装置。
  15. 前記付随情報にはAF情報が含まれており、
    前記画像処理部は、前記AF情報によって示される前記静止画像データのAF中心を除く領域に前記ぼかしを付加する処理を施すことを特徴とする請求項11に記載の撮像装置。
  16. 前記付随情報には、前記動画像データの再生時に該再生される前記動画像データに前記特殊効果画像処理を施すかどうかを指示する特殊効果再生情報がさらに含まれ、
    前記画像処理部は、前記特殊効果再生情報によって前記特殊効果画像処理を施すように指示された場合に前記動画像データに特殊効果画像処理を施すことを特徴とする請求項1乃至15の何れか1項に記載の撮像装置。
  17. 請求項1乃至16の何れか1項に記載の撮像装置で得られた前記静止画情報と前記タイミング情報とが入力され、該入力された前記静止画情報と前記タイミング情報とに基づいて、動画像データに対して特殊効果画像処理を施す特殊効果画像処理部を具備することを特徴とする画像処理装置。
  18. 動画撮影指示部が、撮像部に対して動画撮影の実行を指示し、
    前記動画撮影指示部の指示に応じて前記撮像部が、被写体を撮像して複数の画像データを得て、
    画像処理部が前記撮像部で得られた複数の画像データに対して画像処理を施して動画像データを得て、
    前記動画撮影の実行中に静止画撮影指示部が、前記撮像部に対して静止画撮影の実行を指示し、
    前記静止画撮影指示部の指示に応じて静止画情報記憶部が、前記撮像部で得られた画像データを前記画像処理部で画像処理して得られた静止画像データと、該静止画像データの付随情報と、を含む静止画情報を記憶し、
    前記静止画撮影指示部の指示に応じてタイミング情報取得部が、前記静止画撮影の実行が指示されたタイミングを示すタイミング情報を取得し、
    前記画像処理部が、前記静止画情報記憶部に記憶された前記静止画情報と前記タイミング情報取得部によって取得された前記タイミング情報とに基づいて、前記動画像データに対して特殊効果画像処理をさらに施す、
    ことを特徴とする撮像方法。
JP2011116919A 2011-05-25 2011-05-25 撮像装置、画像処理装置、及び撮像方法 Expired - Fee Related JP5186021B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2011116919A JP5186021B2 (ja) 2011-05-25 2011-05-25 撮像装置、画像処理装置、及び撮像方法
PCT/JP2012/054316 WO2012160847A1 (ja) 2011-05-25 2012-02-22 撮像装置、画像処理装置、及び撮像方法
CN201280006974.XA CN103339925B (zh) 2011-05-25 2012-02-22 摄像装置、图像处理装置以及摄像方法
US13/936,153 US9118844B2 (en) 2011-05-25 2013-07-06 Imaging apparatus, image processing apparatus, and imaging method for providing a special effect superimposing still image data on moving image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011116919A JP5186021B2 (ja) 2011-05-25 2011-05-25 撮像装置、画像処理装置、及び撮像方法

Publications (2)

Publication Number Publication Date
JP2012248937A true JP2012248937A (ja) 2012-12-13
JP5186021B2 JP5186021B2 (ja) 2013-04-17

Family

ID=47216936

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011116919A Expired - Fee Related JP5186021B2 (ja) 2011-05-25 2011-05-25 撮像装置、画像処理装置、及び撮像方法

Country Status (4)

Country Link
US (1) US9118844B2 (ja)
JP (1) JP5186021B2 (ja)
CN (1) CN103339925B (ja)
WO (1) WO2012160847A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016057462A (ja) * 2014-09-09 2016-04-21 キヤノン株式会社 撮像装置及び制御方法
WO2020066317A1 (ja) * 2018-09-26 2020-04-02 富士フイルム株式会社 撮影装置、撮影方法、及びプログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103873761B (zh) * 2012-12-18 2018-03-02 宏达国际电子股份有限公司 图像记录方法与可携式电子装置
US10356312B2 (en) * 2014-03-27 2019-07-16 Htc Corporation Camera device, video auto-tagging method and non-transitory computer readable medium thereof
CN106296686A (zh) * 2016-08-10 2017-01-04 深圳市望尘科技有限公司 一种用静态和动态摄像机相结合对运动物体逐帧三维重构方法
JP2018042198A (ja) * 2016-09-09 2018-03-15 オリンパス株式会社 撮像装置及び撮像方法
JP2018042200A (ja) * 2016-09-09 2018-03-15 オリンパス株式会社 撮像装置及び撮像方法
JP6604297B2 (ja) * 2016-10-03 2019-11-13 株式会社デンソー 撮影装置
CN109509162B (zh) * 2017-09-14 2023-05-30 阿里巴巴集团控股有限公司 图像采集方法、终端、存储介质及处理器

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09191427A (ja) * 1996-01-09 1997-07-22 Canon Inc 撮像記録再生装置
JP2004312218A (ja) * 2003-04-04 2004-11-04 Fuji Photo Film Co Ltd デジタルカメラおよび画像再生装置
JP2006222771A (ja) * 2005-02-10 2006-08-24 Sony Corp 画像記録装置、画像再生制御装置、画像記録再生制御装置、これらの装置の処理方法およびその方法をコンピュータに実行させるプログラム
JP2011035486A (ja) * 2009-07-30 2011-02-17 Olympus Imaging Corp カメラシステム及びカメラの制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4179711B2 (ja) 1999-07-29 2008-11-12 オリンパス株式会社 電子カメラ
JP4066162B2 (ja) * 2002-09-27 2008-03-26 富士フイルム株式会社 画像編集装置、画像編集プログラム並びに画像編集方法
JP2007336281A (ja) * 2006-06-15 2007-12-27 Sony Corp 画像記録装置、画像再生装置、画像記録方法及び画像再生方法
JP5094686B2 (ja) 2008-11-07 2012-12-12 オリンパスイメージング株式会社 画像処理装置、画像処理方法、および、画像処理プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09191427A (ja) * 1996-01-09 1997-07-22 Canon Inc 撮像記録再生装置
JP2004312218A (ja) * 2003-04-04 2004-11-04 Fuji Photo Film Co Ltd デジタルカメラおよび画像再生装置
JP2006222771A (ja) * 2005-02-10 2006-08-24 Sony Corp 画像記録装置、画像再生制御装置、画像記録再生制御装置、これらの装置の処理方法およびその方法をコンピュータに実行させるプログラム
JP2011035486A (ja) * 2009-07-30 2011-02-17 Olympus Imaging Corp カメラシステム及びカメラの制御方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016057462A (ja) * 2014-09-09 2016-04-21 キヤノン株式会社 撮像装置及び制御方法
WO2020066317A1 (ja) * 2018-09-26 2020-04-02 富士フイルム株式会社 撮影装置、撮影方法、及びプログラム
JPWO2020066317A1 (ja) * 2018-09-26 2021-11-25 富士フイルム株式会社 撮影装置、撮影方法、及びプログラム
JP7060703B2 (ja) 2018-09-26 2022-04-26 富士フイルム株式会社 撮影装置、撮影方法、及びプログラム

Also Published As

Publication number Publication date
WO2012160847A1 (ja) 2012-11-29
CN103339925B (zh) 2018-01-09
US20130293733A1 (en) 2013-11-07
CN103339925A (zh) 2013-10-02
JP5186021B2 (ja) 2013-04-17
US9118844B2 (en) 2015-08-25

Similar Documents

Publication Publication Date Title
JP5186021B2 (ja) 撮像装置、画像処理装置、及び撮像方法
JP5234119B2 (ja) 撮像装置、撮像処理方法及びプログラム
US9684988B2 (en) Imaging device, image processing method, and recording medium
JP2010213232A (ja) 撮像装置及び撮像方法
JP5806623B2 (ja) 撮像装置、撮像方法およびプログラム
JP2010213213A (ja) 撮像装置及び撮像方法
US9402037B2 (en) Imaging apparatus, image processing apparatus, and image processing method for generating random special effects
JP6304293B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014239382A (ja) 画像処理装置、撮像装置、画像処理方法、及び画像処理プログラム
JP2014017579A (ja) 撮影装置、画像処理方法、及び、画像処理プログラム
JP6137800B2 (ja) 画像処理装置、画像処理方法、及び、画像処理プログラム
JP6091311B2 (ja) 撮像装置
JP5530304B2 (ja) 撮像装置および撮影画像表示方法
JP2014049882A (ja) 撮像装置
JP5951988B2 (ja) 画像合成装置及び画像合成方法
JP2017163339A (ja) 映像処理装置、映像処理方法、及びプログラム
JP5836109B2 (ja) 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム
JP5878063B2 (ja) 撮像装置、撮像方法および撮像プログラム
JP5948960B2 (ja) カメラ、画像処理装置及びプログラム
JP5653665B2 (ja) 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP6218865B2 (ja) 撮像装置および撮像方法
JP6213619B2 (ja) カメラおよびプログラム
JP2014011767A (ja) 撮像装置及び撮像方法
JP6120664B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP5555076B2 (ja) 撮像装置、画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130118

R151 Written notification of patent or utility model registration

Ref document number: 5186021

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees