JPWO2008050806A1 - 撮像装置と再生制御装置 - Google Patents

撮像装置と再生制御装置 Download PDF

Info

Publication number
JPWO2008050806A1
JPWO2008050806A1 JP2008541012A JP2008541012A JPWO2008050806A1 JP WO2008050806 A1 JPWO2008050806 A1 JP WO2008050806A1 JP 2008541012 A JP2008541012 A JP 2008541012A JP 2008541012 A JP2008541012 A JP 2008541012A JP WO2008050806 A1 JPWO2008050806 A1 JP WO2008050806A1
Authority
JP
Japan
Prior art keywords
frame rate
imaging
reproduction
image
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008541012A
Other languages
English (en)
Inventor
陽人 徳山
陽人 徳山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2008050806A1 publication Critical patent/JPWO2008050806A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F17/00Coin-freed apparatus for hiring articles; Coin-freed facilities or services
    • G07F17/32Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F17/00Coin-freed apparatus for hiring articles; Coin-freed facilities or services
    • G07F17/32Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
    • G07F17/3202Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
    • G07F17/3204Player-machine interfaces
    • G07F17/3211Display means
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F17/00Coin-freed apparatus for hiring articles; Coin-freed facilities or services
    • G07F17/32Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
    • G07F17/3202Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
    • G07F17/3204Player-machine interfaces
    • G07F17/3211Display means
    • G07F17/3213Details of moving display elements, e.g. spinning reels, tumbling members
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/806Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal
    • H04N9/8063Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Abstract

撮像手段は、第1のフレームレートと第1のフレームレートよりも高い第2のフレームレートで撮像可能とする。検出手段でハイライトシーンを検出する。ハイライトシーンが検出されたときは高速モードで撮像動作を行い高フレームレート(240fps)の画像信号を所定時間生成する。ハイライトシーンが検出されていないときは、通常モードで撮像動作を行い通常フレームレート(60fps)の画像信号を生成する。ハイライトシーン撮像時のフレームレートの切り換え操作を行う手間を省くことができる。また、消費電力および記憶媒体の容量を節約できる。

Description

本発明は、フレームレートを切り換えて撮像が可能な撮像装置と、外部モニタ装置が対応しているフレームレートで動画像情報の再生が可能な再生制御装置に関する。
近年のCCD(Charge Coupled Device)からCMOS(Complementary Metal Oxide Semiconductor)への撮像素子のトレンドの変化や、放送のハイビジョン対応による撮像素子、撮像システムの高解像度化といった技術により民生用の撮像装置においても解像度を限定することで高速なフレームレートでの撮像環境が実現されている。
例えば日本特開昭63−59074号公報では、シャッタ速度やコマ速度を可変することで、高速撮像を可能にした高速ビデオカメラが開示されている。また、日本特開2001−292409号公報では、高速なフレームレートでの撮像環境において得られた映像を再生する記録再生装置として、高画質なスローモーション記録と通常記録とを切り換え可能とすることが開示されている。
ところで、従来の撮像装置においては、ユーザが手動でシャッタ速度やコマ速度を指定することで高速撮像を行うものであり操作が煩雑になり、また、再生時のフレームレートを切り換える手段が必要になるという課題があった。
また、従来の記録再生装置においては、再生出力先のディスプレイが高速フレームレートに対応しているか否かなどの対応状況に応じた出力画像のフレームレートの調整、および出力画像を再生出力先のディスプレイで表示する際のフレームレートの調整ができないという課題があった。
そこで、ハイライトシーン撮像時のフレームレートの切り換えに要する手間を省き、消費電力および記憶媒体の容量を節約できるものとするため、この発明の撮像装置では、第1のフレームレートと第1のフレームレートよりも高い第2のフレームレートで撮像可能な撮像手段と、ハイライトシーンを検出する検出手段と、検出手段によりハイライトシーンを検出したことに応じて、撮像手段のフレームレートを切り換える制御手段とを備えるものである。
また、再生出力先が高速フレームレートに対応しているか否か応じて、出力画像のフレームレートの調整および再生出力先で画像を表示する際のフレームレートの調整が可能となるように、この発明の再生制御装置は、記録媒体から動画像情報と該動画像情報の付属情報を再生する再生制御装置において、外部モニタ装置が対応しているフレームレートと付属情報に基づいて、動画像情報を再生するときの再生モードを、間引き再生モードまたは非間引き再生モードのいずれとするか判定する判定手段と、判定手段の判定結果に応じて動画像情報の再生動作を制御する制御手段とを備えるものである。
本発明の撮像装置によれば、ハイライトシーンの検出に応じてフレームレートの切り換えが行われて例えば第1のフレームレートから第1のフレームレートよりも高い第2のフレームレートに自動的に切り換えられる。このため、ハイライトシーン撮像時のフレームレートの切り換え操作を行う手間を省くことができる。また、ハイライトシーンが検出されたときに第2のフレームレートに切り換えられるので、第2のフレームレートに固定する場合に比べて、消費電力および記憶媒体の容量を節約できる。
また、本発明の再生制御装置によれば、外部モニタ装置が対応しているフレームレートと再生する動画像情報とともに再生する付属情報に基づいて、動画像情報を再生するときの再生モードを、間引き再生モードまたは非間引き再生モードのいずれとするか判定して、判定結果に応じて動画像情報の再生動作の制御が行われる。例えば、外部モニタ装置が対応しているフレームレートよりも動画像情報のフレームレートが高いと判定されたとき、間引き再生モードと判定されて、動画像情報が外部モニタ装置の対応しているフレームレートで再生される。このため、再生出力先のディスプレイが高速フレームレートに対応しているか否かなどの対応状況に応じた出力画像のフレームレートで動画像情報を出力できる。
本発明の撮像装置の構成を示すブロック図である。 撮像装置におけるフレームレート切り換え動作を示すフローチャートである。 ハイライトシーンの検出処理を示すフローチャートである。 撮像装置の記録時と再生時の動作(外部モニタ装置が高速フレームレートに対応していない場合)を説明するための図である。 撮像装置の記録時と再生時の動作(外部モニタ装置が高速フレームレートに対応している場合)を説明するための図である。 高速フレームレート再生モードと通常フレームレート再生モードの切り換え動作を示すフローチャートである。 動画ファイル構造を示す説明図である。 外部モニタ装置が高速フレームレートに対応していないとき、動画ファイル構造の画像信号を再生したときの動作を説明するための図である。 外部モニタ装置が高速フレームレートに対応しているとき、動画ファイル構造の画像信号を再生したときの動作を説明するための図である。 外部記録媒体(あるいは内部記録媒体)に記録されるデータの構成を示す図である。 高速フレームレートに対応していない外部モニタ装置が接続されたときの再生動作を説明するための図である。 再生時のマニュアル操作によるフレームレートの選択動作を示すフローチャートである。 通常フレームレート間引き再生モードと通常フレームレート非間引き再生モードの自動切り換え動作を示すフローチャートである。 フレームレート切換情報の自動生成動作を示すフローチャートである。
次に、本発明の実施の形態について図面を参照して説明する。図1は、本発明の撮像装置の構成を示すブロック図である。本発明の撮像装置は、撮像装置に接続して用いられる外部モニタ装置が、第1のフレームレートだけでなく、第1のフレームレートよりも高いフレームレートである第2のフレームレートに対応している外部モニタ装置へ移行するまでの過渡期において、第2のフレームレートに対応した外部モニタ装置と非対応な外部モニタ装置が混在すること、ならびに撮像動作時の電力および記録媒体の容量への影響を考慮したものである。なお、以下の説明では、第1のフレームレートを標準テレビジョン方式のフレームレート例えば60fps(フレーム/秒)または50fpsとする(なお、ここでは、NTSC、PAL、SECAM等における「奇数フィールド」や「偶数フィールド」の1フィールドを「1フレーム」として記載している。)。また、第2のフレームレートを第1のフレームレートの例えば4倍である240fps(フレーム/秒)とする。なお、第1のフレームレートを通常フレームレート、第2のフレームレートを高速フレームレートという。
本発明の撮像装置は、イメージャー駆動ドライバ1、電子撮像素子(イメージャー)2、アナログフロントエンド(AFE)3、画像・音声処理ASIC(Application Specific Integrated Circuit)4、マイク5、アナログアンプ6、スピーカ7、メモリ8、パネル駆動ドライバ9、LCD(Liquid Crystal Display)パネル10、操作部11、バッテリ12、電源管理IC13、外部記録媒体14、画像出力端子15、内部記録媒体21、プログラマブルRAM(Random Access Memory)22、角速度センサ23、レンズ駆動ドライバ24、レンズ25およびシステムMPU(Micro Processing Unit)26を備えている。
イメージャー駆動ドライバ1は、電子撮像素子2を駆動するための回路である。電子撮像素子2は、通常フレームレートの画像信号だけでなく、高速フレームレートの画像信号の生成を行うことができる撮像素子である。電子撮像素子2としては、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージャー等が用いられる。
AFE3は、アナログ信号処理回路やA/Dコンバータ等を備えている。AFE3は、電子撮像素子2で生成されたアナログの画像信号の信号処理例えばノイズ除去処理や信号レベル調整処理等を行う。さらに信号処理後の画像信号をディジタルの画像信号に変換する。
画像・音声処理ASIC4は、画像信号および音声信号を処理する特定用途向け集積回路である。画像・音声処理ASIC4は、例えばAFE3で得られたディジタルの画像信号に対して色処理やレンズ補正処理といった処理を行う。また、画像信号の圧縮処理や伸長処理等も行う。
マイク5は、音声を検出し電気信号へ変換し出力する。アナログアンプ6は、マイク5から出力された電気信号を増幅する回路である。スピーカ7は、アナログアンプ6において増幅した電気信号を音声に変換して出力する。メモリ8は、各種データを記憶する回路である。パネル駆動ドライバ9は、画像・音声処理ASIC4により処理した画像信号をもとにLCDパネル10の各画素を駆動する回路である。操作部11は各種操作スイッチを備えている。バッテリ12は、この撮像装置の各部へ供給される電力を発生させる。電源管理IC13は、バッテリ12の状態と負荷状態を検出し、この撮像装置の電源を管理する回路である。
外部記録媒体14は、この撮像装置で生成された動画像情報や音声情報等を保存するための外部記録媒体である。画像出力端子15は、この撮像装置で生成された動画像情報や外部記録媒体14に記録されている動画像情報を外部モニタ装置30に供給して画像をモニタできるにようにするための出力端子である。内部記録媒体21は、この撮像装置に内蔵された記憶装置であり、この撮像装置で生成された動画像情報や音声情報等を保存する。
プログラマブルRAM22は、この撮像装置で必要な各種ロジックを構成している。
角速度センサ23は、この撮像装置における手ブレ防止機能を実現するためのセンサであり、撮像装置が動いたときの角速度を検出する。
レンズ駆動ドライバ24は、レンズ駆動信号をもとにレンズ25を駆動してズーム動作等を行うための回路である。
システムMPU26は、この撮像装置の各部を制御するマイクロプロセッシングユニットである。
次に動作について説明する。システムMPU26は、撮像装置の動作モードが高速フレームレートの画像信号を生成する動作モード(以下「高速モード」という)とされたとき、イメージャー駆動ドライバ1に対して高速フレームレートに対応した駆動パルスを送り、電子撮像素子2を高速モードで駆動する。
また、システムMPU26は、AFE3や画像・音声処理ASIC4も高速モードで信号処理を行わせて、高速フレームレートの画像信号を生成させる。さらに、システムMPU26は、高速フレームレートの画像信号の圧縮処理を画像・音声処理ASIC4で行わせる。システムMPU26は、このように各部の動作を制御して得られた高速フレームレートの画像信号を画像出力端子15から出力させる処理や、高速フレームレートの画像信号を圧縮処理して得られた画像記録データを外部記録媒体14(あるいは内部記録媒体21)に記録する処理を行う。画像記録データを記録する際、マイク5から入力される音声は、ディジタルサンプリングが施された後に圧縮されて、高速フレームレートの撮像画像に同期して記録される。なお、外部記録媒体14(あるいは内部記録媒体21)には、高速フレームレートの画像信号を記録するものとしてもよい。このように、動作モードとして高速モードを選択すれば、時間解像度の高い撮像画像を出力あるいは記録することができる。
システムMPU26は、撮像装置の動作モードを通常フレームレートの画像信号を生成する動作モード(以下「通常モード」という)とするとき、高速モードよりも撮像装置の消費電力を低下させるため、駆動パルスの周波数そのものを下げて、電子撮像素子2やAFE3および画像・音声処理ASIC4等を通常モードで駆動する。
通常モードでは時間方向の解像度が高速モードに比べて低下するが、画像信号のフレームレートが下がるため消費電力、記録媒体の容量への負担が少ないなどのメリットが生じる。なお、高速モードと通常モードでは露光時間が異なることから、画像・音声処理ASIC4等にて画像信号のゲイン調整を行うことで、露光時間が異なる場合でも信号レベルが同等となるようにすればよい。
外部モニタ装置30が高速フレームレートに対応可能である場合、撮像装置の画像出力端子15から出力される画像信号を用いて、撮像画像を表示することが可能である。しかし、外部モニタ装置30が高速フレームレートに対応していない場合、例えば従来のテレビジョン装置や機器に備わったLCDパネル等である場合、撮像装置の画像出力端子15から出力される画像信号のフレームレートが高速フレームレートであるときには、撮像画像を表示することはできない。
したがって、高速フレームレートに対応していない外部モニタ装置に対しては、撮像装置が備えている高速フレームレートの撮像機能の用途として、高速モードで撮像を行うことにより得られた高フレームレートの画像信号を通常フレームレートで出力するスロー再生モードを設ける。例えば1秒当たり240枚のフレーム画像(240fps)を1秒当たり60枚のフレーム画像(60fps)の速度で再生することで、4倍の時間をかけて画像信号の出力を行うスロー再生モードを設ける。このようにすれば、高速フレームレートの画像信号を用いて、時間解像度の高いスロー再生画像表示を行うことが可能となる。
このように、高速フレームレートに対応していない外部モニタ装置を用いる場合であっても、スロー再生モードを設けることで撮像画像を表示することができるので、全て高フレームレートで撮像を行うことも可能となる。しかし、全て高フレームレートで撮像を行うものとすると、前述の通り撮像装置の消費電力が大きくなることから撮像装置の動作可能時間が短くなってしまう。また、高速モードでの解像度を、通常モードでの解像度と同じとした場合には、単位時間あたりのフレーム数が多いことから記録可能時間も短くなってしまう。
そこで、本発明の撮像装置は、撮像時に撮像装置で得られる情報をもとにハイライトシーンを検出して、ハイライトシーンが検出されることに応じて、撮像画像のフレームレートを自動的に切り換える。このようにフレームレートの切り換えを行うことで、フレームレートの切り換え操作に要する手間を省き、消費電力と媒体容量を節約しつつ、ハイライトシーンのスローモーション映像効果を自動的に作成できるようにする。
なお、ハイライトシーンの検出およびフレームレート切り換えはシステムMPU26により実現されている。
図2は、撮像装置におけるフレームレート切り換え動作を示すフローチャートである。図2のフローチャートに示すように、システムMPU26は、ハイライトシーンの検出処理を行う(ステップS1)。次に、システムMPU26は、ハイライトシーンが検出されたか否かを判定し(ステップS2)、ハイライトシーンが検出されたとき、システムMPU26は、動作モードを高速モードとして240fpsのフレームレートで撮像動作を行わせて画像信号を生成させる(ステップS3)。その後、システムMPU26は、高速モードでの画像信号の生成が所定時間経過したか否かを判別して(ステップS4)、所定時間が経過していないときには高速モードでの画像信号の生成を継続し、所定時間が経過したときはハイライトシーンの検出処理を行う。また、ハイライトシーンが検出されていないとき、システムMPU26は、動作モードを通常モードとして60fpsのフレームレートで撮像動作を行わせて画像信号を生成させる(ステップS5)。
次に、ハイライトシーンの検出処理について説明する。ハイライトシーンの検出とは、被写体の動きの量が所定値を超えたときを示している。システムMPU26は、撮像画像の画像信号を用いてハイライトシーンの検出を行う。例えば画像・音声処理ASIC4にてフレーム間差分演算を行い、得られた演算結果をシステムMPU26に供給する。システムMPU26は、演算結果と予め定められた閾値を比較して、演算結果が閾値を超えたとき、被写体の動きの量が所定値を超えたものとしてハイライトシーンの検出とする。また、演算結果が閾値を超えていないとき、被写体の動きの量が所定量を超えていないものとしてハイライトシーンは検出されていないとする。
ところで、撮像装置が固定されており撮像範囲に変化がないとき、フレーム間差分演算の演算結果は、被写体の動きの量を示す値となる。しかし、撮像範囲を変化させるズーム動作が行われた場合(例えばズームインやズームアウト動作が行われた場合)や、撮像方向が変化した場合(例えばパン・チルト動作が行われた場合や手ブレが大きい場合など)、被写体が動いていなくともフレーム間差分演算の演算結果は大きくなってしまうおそれがある。
そこで、システムMPU26は、ズーム作動状況および/または手ブレ補正用のセンサ(ここでは角速度センサ23)出力も用いてハイライトシーンの検出を行えば、ハイライトシーンの検出精度を向上させることができる。
図3は、ハイライトシーンの検出処理を示すフローチャートである。この図3に示すハイライトシーンの検出処理は、フレーム間の差分演算結果だけでなく、撮像装置のズーム動作状況と角速度センサ23の出力を用いて、ハイライトシーンの検出を精度よく行う場合を示している。
図3に示すフローチャートによれば、先ずシステムMPU26は、レンズ駆動ドライバ24がズーム(ZOOM)作動中であるか否か判定する(ステップS11)。そして、ズーム作動中であれば、システムMPU26はハイライトシーン未検出とする(ステップS15)。
ステップS11においてズーム作動中でなければ、次にシステムMPU26は、角速度センサ23の出力をもとに、この撮像装置に加えられている角速度が大きいか否かを例えば予め設定されている閾値と比較して判定する(ステップS12)。この結果、角速度センサ23により検出された角速度の大きさが閾値よりも大きい場合、システムMPU26はハイライトシーン未検出とする(ステップS15)。
ステップS12において角速度が閾値よりも大きくないと判定した場合、次にシステムMPU26は、フレーム間差分演算の演算結果が小さいか否かを例えば予め設定されている閾値と比較して判定する(ステップS13)。その結果、演算結果が閾値よりも小さい場合、システムMPU26はハイライトシーン未検出とする(ステップS15)。
また、ステップS13において演算結果が閾値よりも小さくない場合、システムMPU26はハイライトシーンを検出したものとする(ステップS14)。
さらに、システムMPU26は、撮像画像の画像信号だけでなく、マイク等からの音声信号を用いてハイライトシーンの検出を行うものとしてもよい。例えばマイクからの音声信号の信号レベルが閾値よりも大きくなったときハイライトシーンを検出したものとして、高速モードで画像信号の生成を所定時間行うことにより、例えば運動会等のレースシーンにおいてスタートシーンをハイライトシーンとして高フレームレートで記録することが可能である。
また、通常の操作釦に合わせて高速フレームレートフラグの設定を行うことにより、例えば記録開始のレリーズ釦の長押しをトリガとしてフラグをオンすることにより、撮像動作を継続したまま動作モードを通常モードから高速モードに切り換えることが可能である。
図4は、撮像装置の記録時と再生時の動作を示しており、外部モニタ装置30が高速フレームレートに対応していない場合である。
図4の(a)は、画像出力端子15に接続された外部モニタ装置30が高速フレームレートに対応していない場合であって、ハイライトシーンが検出されていないときの記録時と再生時の動作を示している。つまり、ハイライトシーンが検出されていないことから、記録時には1/60秒間隔で撮像装置が生成したフレーム番号〔0,4,8,12……〕のフレームが記録される。また、外部モニタ装置30が高速フレームレートに対応しておらず、記録されたフレームが1/60秒間隔であることから、再生時には、フレーム番号〔0,4,8,12……〕のフレームが1/60秒間隔で再生される。
図4の(b)は、画像出力端子15に接続された外部モニタ装置30が高速フレームレートに対応していない場合であって、ハイライトシーンが検出されたときの記録時と再生時の動作を示している。つまり、ハイライトシーンが検出されると動作モードが所定時間だけ高速モードとされる。したがって、記録時には、1/240秒間隔で撮像装置が生成したフレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレームが記録される。そして、再生時のフレームは、外部モニタ装置30が高速フレームレートに対応していないため、記録したフレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレームが1/60秒間隔で再生される。
また、本発明の撮像装置では、高速フレームレートに対応した外部モニタ装置向けの用途として、高速フレームレートの画像信号を出力する高フレームレート再生モードを設ける。この高フレームレート再生モードにおいて、出力する画像信号が高速モードで生成された画像信号であるとき、フレームレートを変更することなくそのまま出力する。また出力する画像信号が通常モードで生成された画像信号であるとき、フレーム画像の繰り返し出力を行うことで、高速フレームレートの画像信号に変換して出力する。
なお、図4に示すように画像信号を出力するモードを通常フレームレート再生モードと呼ぶものとする。すなわち、通常フレームレート再生モードでは、出力する画像信号が通常モードで生成された画像信号であるとき、フレームレートを変更することなくそのまま出力する。また出力する画像信号が高速モードで生成された画像信号であるとき、この画像信号を通常モードのフレームレートで出力する。
図5は、撮像装置の記録時と再生時の動作を示しており、外部モニタ装置30が高速フレームレートに対応している場合である。
図5の(a)は、画像出力端子15に接続された外部モニタ装置30が高速フレームレートに対応している場合であって、ハイライトシーンが検出されていないときの記録時と再生時の動作を示している。つまり、ハイライトシーンが検出されていないことから、記録時には1/60秒間隔で撮像装置が生成したフレーム番号〔0,4,8,12……〕のフレームが記録される。また、外部モニタ装置30が高速フレームレートに対応しており、再生時のフレームは1/240秒間隔であることから、再生時に各フレーム画像を4回繰り返し出力(ダミーフレームを出力)することでフレーム数を4倍として、フレーム番号〔0,0,0,0,4,4,4,4,8……〕のフレームが1/240秒間隔で再生される。
図5の(b)は、外部モニタ装置30が高速フレームレートに対応している場合であって、ハイライトシーンが検出されたときの記録時と再生時の動作を示している。つまり、ハイライトシーンが検出されると動作モードが所定時間だけ高速モードとされる。したがって、記録時には、1/240秒間隔で撮像装置が生成したフレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレームが記録される。そして、再生時のフレームは、外部モニタ装置30が高速フレームレートに対応していることから、記録したフレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレームが1/240秒間隔で再生される。
なお、図5に示すように画像信号を出力するモードを高速フレームレート再生モードと呼ぶものとする。すなわち、高速フレームレート再生モードでは、出力する画像信号が高速モードで生成された画像信号であるとき、フレームレートを変更することなくそのまま出力する。また出力する画像信号が通常モードで生成された画像信号であるとき、フレームの補間を行い高速フレームレートの画像信号に変換して出力する。
このように、高速フレームレート再生モードでは、高速モードで生成された画像信号がフレームレートを変更されることなく出力される。したがって、ハイライトシーンが検出されてから所定時間、時間解像度の高い画像表示を行うことができる。また、通常フレームレート再生モードでは、高速モードで生成された画像信号が通常モードのフレームレートで出力される。したがって、ハイライトシーンが検出されてから所定時間分の画像をスローモーションで再生することができる。
次に、外部モニタ装置30が高速フレームレートに対応しているか否かに応じて、高速フレームレート再生モードと通常フレームレート再生モードの切り換えを行う場合について説明する。
図6は、高速フレームレート再生モードと通常フレームレート再生モードの切り換え動作を示すフローチャートである。システムMPU26は、先ず画像信号の出力先である外部モニタ装置30が高速フレームレートに対応しているか否かを判定する(ステップS21)。この判定は、例えば操作部11からの信号に基づいて行う。すなわち、ユーザは、出力先の外部モニタ装置30が高速フレームレートに対応しているか否かを判断して、判断結果に基づいて操作部11を操作する。システムMPU26は、操作部11からの信号に基づき、高速フレームレートに対応しているか否かの判断結果に基づいたユーザ操作が行われたか否かを判別して、このユーザ操作に基づき、出力先の外部モニタ装置30が高速フレームレートに対応しているか否かを判定する。この判定の結果、ステップS21において出力先の外部モニタ装置30が高速フレームレートに対応していると判定したときには高速フレームレート再生モードへ移行する(ステップS23)。一方、ステップS21において高速フレームレートに対応していないと判定したときには通常フレームレート再生モードとする(ステップS22)。
このように、ハイライトシーンを検出したことに応じてフレームレートを切り換えて画像信号の生成を行うものとすれば、消費電力および記憶媒体へ記憶されるデータ量の抑制を実現することができるようになる。さらに、外部モニタ装置30が高速フレームレートに対応するか否かに応じて、出力する画像信号のフレームレートを切り換えることで、ハイライトシーンが検出されてから所定時間、時間解像度の高い画像表示やスローモーション表示を行うことができる。
なお、外部モニタ装置30が高速対応可能かどうかは前述したようにユーザ設定もしくはケーブル接続時に電気的もしくは制御信号で判断可能である。例えば外部モニタ装置がHDMI(High Definition Multimedia Interface)に対応している場合には、HDMIを介して取得した外部モニタ装置の表示仕様に基づいて判断することが考えられる)。
図7は、通常モードで撮像動作(通常撮影)を行って得られた画像信号と、高速モードで撮像動作(高速撮影)を行って得られた画像信号が混在して記録された動画ファイル構造を示している。
図8は、画像出力端子15に接続された外部モニタ装置30が高速フレームレートに対応していないとき、図7に示す動画ファイル構造の画像信号を再生したときの動作を示している。
通常モードで撮像動作が行われているときに、図3に示すような処理によってハイライトシーンが検出されると、動作モードが通常モードから高速モードに自動的に所定時間切り換えられることから、通常モードで撮像動作を行って得られた画像信号と、高速モードで撮像動作を行って得られた画像信号が混在して記録される。また、外部モニタ装置30が高速フレームレートに対応していないため、自動的に通常フレームレート再生モードに設定されると、通常モードと高速モードで撮像動作を行って得られた画像信号が通常フレームレートで順次出力される。したがって、外部モニタ装置30の画面上には、高速モードで撮像された画像が時間的に4倍に引き延ばされたスローモーション再生の画像となる。
図9は、画像出力端子15に接続された外部モニタ装置30が高速フレームレートに対応しているとき、図7に示す動画ファイル構造の画像信号を再生したときの動作を示している。
通常モードで撮像動作が行われているときに、図3に示すような処理によってハイライトシーンが検出されると、動作モードが通常モードから高速モードに自動的に所定時間切り換えられることから、通常モードで撮像動作を行って得られた画像信号と、高速モードで撮像動作を行って得られた画像信号が混在して記録される。また、外部モニタ装置30が高速フレームレートに対応しており、自動的に高速フレームレート再生モードに設定されると、通常モードと高速モードで撮像動作を行って得られた画像信号が高速フレームレートで順次出力される。したがって、外部モニタ装置30の画面上には、高速モードで撮像された画像が通常モードで撮像された画像よりも時間解像度の高い画像として表示される。また、通常モードで撮像された画像を出力するときは、フレーム補間処理を行い、前のフレームをダミーフレームとして繰り返し挿入することで高速フレームレートの画像信号に変換して出力する。
以上説明したように、本発明の撮像装置によれば、例えばズーム作動中でなければ、次に角速度センサ23の出力をもとにこの撮像装置に加えられている角速度の大きさが大きいか否かを、予め設定されている閾値をもとに判定する。この結果、角速度センサ23により検出された角速度が閾値より大きい場合には、通常モードで撮像動作を行う。また、角速度の大きさが前記閾値より小さいと判定した場合には、次に画像・音声処理ASIC4にてフレーム間差分演算を行い演算結果と閾値を比較して、被写体の移動量が所定値を超えるか否かを判定する。その結果、被写体の移動量が所定値を超えていないときは通常モードの撮像動作を行う。また、被写体の移動量が所定値を超えたときハイライトシーンが検出されたものとして、高速モードの撮像動作を所定時間行う。
この結果、より確実にハイライトシーンを検出することが可能となり、ハイライトシーンが検出されたときのみ高速フレームレートによる撮像動作が行われるため、消費電力と記憶媒体の容量が節約され、さらに撮像フレームレートの切り換え操作に要する手間が不要となる。
言い換えると、本発明の撮像装置によれば、第1のフレームレートと第1のフレームレートよりも高い第2のフレームレートで撮像や撮像画像の記録が可能な撮像機器において、時間解像度の高い画像が必要なハイライトシーンで自動的に撮像フレームレートを切り換えることが可能になる。この結果、消費電力と媒体の容量に負担をかけることなく少ない負荷で適所に時間解像度の高い動画撮像を実現できる撮像装置が得られる効果がある。
また、外部モニタ装置30に合わせて再生時のフレームレートを変換することで、外部モニタ装置30が第2のフレームレートに対応していない場合でも、再生時に第2のフレームレートで撮像されたシーンをスローモーション再生して表示することが可能となり、第2のフレームレートで撮像された画像を有効活用できる。また、第2のフレームレートに対応している高速表示可能な外部モニタ装置に対しては、第1のフレームレートと第2のフレームレートの混在する画像を時間方向に精細さを保ちつつリアルタイムに出力することが可能になる。
次に、本願発明の再生制御装置について説明する。なお、再生制御装置を例えば撮像装置に設けるものとすると、図1のブロック図はこの再生制御装置においても適用される。
本願発明の再生制御装置は、今後過渡的に混在する高速フレームレート表示可能な外部モニタ装置と高速フレームレートに対応していない外部モニタ装置を考慮し、記録時のフレームレートは通常フレームレート(60fps)よりも高い高速フレームレート(240fps)に固定して、再生時には出力先の外部モニタ装置が対応するフレームレートに応じて出力画像のフレームレートを調整可能にする。
このため、再生制御装置は、画像の出力先の外部モニタ装置30が対応しているフレームレートと、高速フレームレートで記録された画像に対応して記録された当該画像の付属情報に基づいて、記録された画像を再生するときの再生モードを、間引き再生モードまたは非間引き再生モードのいずれとするか判定して、判定結果に応じて画像の再生動作を制御する。この再生モードの判定や再生動作の制御は、システムMPU26により実現されている。
この再生制御装置を備えた撮像装置は、図1に示すように、イメージャー駆動ドライバ1、電子撮像素子2、アナログフロントエンド(AFE)3、画像・音声処理ASIC(Application Specific Integrated Circuit)4、マイク5、アナログアンプ6、スピーカ7、メモリ8、パネル駆動ドライバ9、LCD(Liquid Crystal Display)パネル10、操作部11、バッテリ12、電源管理IC13、外部記録媒体14、画像出力端子15、内部記録媒体21、プログラマブルRAM(Random Access Memory)22、角速度センサ23、レンズ駆動ドライバ24、レンズ25およびシステムMPU(Micro Processing Unit)26を備えている。
イメージャー駆動ドライバ1は、電子撮像素子2を駆動するための回路である。電子撮像素子2は、標準フレームレートの画像信号だけでなく、高速フレームレートの画像信号の生成を行うことができる撮像素子である。電子撮像素子2としては、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージャー等が用いられる。
AFE3は、アナログ信号処理回路やA/Dコンバータ等を備えている。AFE3は、電子撮像素子2で生成されたアナログの画像信号の信号処理例えばノイズ除去処理や信号レベル調整処理等を行う。さらに信号処理後の画像信号をディジタルの画像信号に変換する。
画像・音声処理ASIC4は、画像信号および音声信号を処理する特定用途向け集積回路である。画像・音声処理ASIC4は、例えばAFE3で得られたディジタルの画像信号に対して色処理やレンズ補正処理といった処理を行う。また、画像信号の圧縮処理や伸長処理等も行う。
マイク5は、音声を検出し電気信号へ変換し出力する。アナログアンプ6は、マイク5から出力された電気信号を増幅する回路である。スピーカ7は、アナログアンプ6において増幅した電気信号を音声に変換して出力する。メモリ8は、各種データを記憶する回路である。パネル駆動ドライバ9は、画像・音声処理ASIC4により処理した画像信号をもとにLCDパネル10の各画素を駆動する回路である。操作部11は各種操作スイッチを備えている。バッテリ12は、この撮像装置の各部へ供給される電力を発生させる。電源管理IC13は、バッテリ12の状態と負荷状態を検出し、この撮像装置の電源を管理する回路である。
外部記録媒体14は、この撮像装置で生成された動画像情報や音声情報等を保存するための外部記録媒体である。画像出力端子15は、この撮像装置で生成された動画像情報や外部記録媒体14に記録されている動画像情報を外部モニタ装置30に供給して画像をモニタできるにようにするための出力端子である。内部記録媒体21は、この撮像装置に内蔵された記憶装置であり、この撮像装置で生成された動画像情報や音声情報等を保存する。
プログラマブルRAM22は、この撮像装置で必要な各種ロジックを構成している。
角速度センサ23は、この撮像装置における手ブレ防止機能を実現するためのセンサであり、撮像装置が動いたときの角速度を検出する。
レンズ駆動ドライバ24は、レンズ駆動信号をもとにレンズ25を駆動してズーム動作等を行うための回路である。
システムMPU26は、この撮像装置の各部を制御するマイクロプロセッシングユニットである。
次に動作について説明する。撮像画像の記録時に、システムMPU26は、イメージャー駆動ドライバ1に対して高速フレームレートに対応した駆動パルスを送り、電子撮像素子2を高速モードで駆動する。
また、システムMPU26は、AFE3や画像・音声処理ASIC4も高速モードで信号処理を行わせて、高速フレームレートの画像信号を生成させる。さらに、システムMPU26は、高速フレームレートの画像信号の圧縮処理を画像・音声処理ASIC4で行わせる。システムMPU26は、このように各部の動作を制御して得られた高速フレームレートの画像信号を画像出力端子15から出力させる処理や、高速フレームレートの画像信号を圧縮処理して得られた画像記録データを外部記録媒体14(あるいは内部記録媒体21)に記録する処理を行う。画像記録データを記録する際、マイク5から入力される音声は、ディジタルサンプリングが施された後に圧縮されて、高速フレームレートの撮像画像に同期して記録される。さらに、システムMPU26は、付属情報を生成して画像記録データと時間軸を関連させて外部記録媒体14(あるいは内部記録媒体21)に記録する。なお、外部記録媒体14(あるいは内部記録媒体21)には、圧縮処理されていない高速フレームレートの画像信号を記録するものとしてもよい。なお、外部記録媒体14(あるいは内部記録媒体21)に記録された画像記録データや高速フレームレートの画像信号は、動画像情報という。
図10は、外部記録媒体14(あるいは内部記録媒体21)に記録されるデータの構成を示している。図10に示すように、ここでは画像記録データ31や音声記録データ32とは別個に付属情報33を記録する。なお、図10に示す例ではファイル単位で付属情報を持つように構成したが、前述のように、付属情報の記録形式は、これに限定されるものではない。
付属情報33には、日付やフレームレート切換情報(フラグ)、フレームレート切換情報を生成するために用いられる高速フレームレートの画像信号を生成したときの撮像状況、例えばズーム作動状況や角速度センサ23で検出された角速度等を含めるものとする。なお、ユーザは、記録時もしくは再生時に任意に付属情報33のフレームレート切換情報(フラグ)を変更することが可能である。
ここで、画像出力端子15に接続された外部モニタ装置30が高速フレームレートに対応可能である場合、画像出力端子15から出力される動画像情報に基づいて画像表示を行うことが可能となる。しかし、外部モニタ装置30が高速フレームレートに対応していない場合、例えば従来のテレビジョン装置や機器に備わったLCDパネル等である場合、画像出力端子15から出力される動画像情報のフレームレートが高速フレームレートであると、画像出力端子15から出力される動画像情報に基づいて画像表示を行うことができない。
したがって、高速フレームレートに対応していない外部モニタ装置向けの機能として、外部記録媒体14(あるいは内部記録媒体21)に記録されている動画像情報を再生する場合、再生する動画像情報のフレームレートが高フレームレートであるときはフレーム間引きを行い、外部モニタ装置30の対応する通常フレームレートに変換して出力する通常フレームレート間引き再生モードを設ける。例えば1秒当たり240枚のフレーム画像(240fps)を1秒当たり60枚のフレーム画像(60fps)に間引きして再生する通常フレームレート間引き再生モードを設ける。このようにすれば、高速フレームレートに対応していない外部モニタ装置を用いる場合であっても、高速フレームレートの動画像情報に基づいて再生画像表示を行うことができる。また、高速フレームレートである動画像情報のフレーム間引きを行うことなく外部モニタ装置30の対応する通常フレームレートで出力する通常フレームレート非間引き再生モードを設ける。
図11は、このような高速フレームレートに対応していない外部モニタ装置が接続されたときの再生動作を示している。図11の(a)は、通常フレームレート間引き再生モードの再生動作を示しており、再生する動画像情報が高フレームレートであり、フレーム番号〔0,1,2,3,4,5,6,7,8……〕の間隔は1/240秒とされている。この動画像情報を通常フレームレート間引き再生モードで再生するときは、フレーム間引きを行い1/60秒間隔であるフレーム番号〔0,4,8,12……〕のフレーム画像を出力する。
図11の(b)は、通常フレームレート非間引き再生モードの再生動作を示しており、高フレームレートの動画像情報を通常フレームレート非間引き再生モードで再生するときは、フレーム間引きを行うことなく動画像情報を外部モニタ装置30の対応する通常フレームレートで出力する。すなわち、1/60秒間隔で、フレーム番号〔0,1,2,3,4,5,6,7,8……〕のフレーム画像を出力する。
図12は、出力先が高速フレームレートに対応した外部モニタ装置であるか否かに応じて、再生時のマニュアル操作によるフレームレートの選択動作を示すフローチャートである。
図12のフローチャートに示すように、システムMPU26は、出力先の外部モニタ装置30が高速フレームレートに対応しているか否かを判別する(ステップS51)。システムMPU26は、ユーザのマニュアル操作によって、出力先が高速フレームレートに対応した外部モニタ装置であることが示されたとき、システムMPU26は、画像・音声処理ASIC4を制御して高速フレームレート非間引き再生モードで画像出力を行う(ステップS53)。高速フレームレート非間引き再生モードでは、外部記録媒体14(あるいは内部記録媒体21)に記録されている高速フレームレート(240fps)の動画像情報を、フレームレートを変えることなく出力する。
また、高速フレームレートに非対応の外部モニタ装置である場合、システムMPU26は、さらにマニュアル操作により設定されたフレームレート切換情報(フラグ)のオン、オフに応じて(ステップS52)、フレームレート切換情報がオフのとき、通常フレームレート間引き再生モードを選択する(ステップS54)。通常フレームレート間引き再生モードは、外部記録媒体14(あるいは内部記録媒体21)に記録されている動画像情報を再生する際に、画像・音声処理ASIC4上でフレーム間引きを行い、高速フレームレート(240fps)の動画像情報を外部モニタ装置が対応している通常フレームレート(60fps)の動画像情報として出力する再生モードである。また、システムMPU26は、フレームレート切換情報がオンとなったとき、通常フレームレート非間引き再生モードを選択する(ステップS55)。通常フレームレート非間引き再生モードとは、外部記録媒体14(あるいは内部記録媒体21)に記録されている動画像情報を再生する際に、高速フレームレート(240fps)の動画像情報を通常フレームレート(60fps)で出力するモードである。例えば1秒間の画像(240枚)を撮像時間の4倍である4秒間かけてスローモーション画像として出力することにより、時間解像度の高いスロー再生を行う再生モードである。
さらに、再生制御装置では、マニュアルによるフレームレート切換の他に、付属情報に含まれているフレームレート切換情報をもとに、自動で通常フレームレート間引き再生モードと通常フレームレート非間引き再生モードの切り換えを行う。これにより、自動的に例えば再生画像の所望の期間を時間解像度の高いスローモーション画像として表示できる。この場合、外部記録媒体14(あるいは内部記録媒体21)に記録されている付属情報を再生して再生モードの判定を行い、この判定に用いた付属情報に関連する動画像情報を、判定された再生モードで再生する。
図13は、付属情報33に含まれているフレーム切換情報をもとに通常フレームレート間引き再生モードと通常フレームレート非間引き再生モードの切り換えを自動的に行う動作を示すフローチャートである。
システムMPU26は、画像記録データの再生とともに、この再生される画像記録データに関連した付属情報のフレームレート切換情報がオンとされたか否かを判別して(ステップS61)、フレームレート切換情報がオンとなったときは通常フレームレート非間引き再生モード(ステップS62)とする。その後、システムMPU26は、通常フレームレート非間引き再生モードでの再生が所定時間経過したか否かを判別して(ステップS63)、所定時間が経過していないときには通常フレームレート非間引き再生モードでの再生を継続し、所定時間が経過したときはステップS61に戻る。システムMPU26は、フレームレート切換情報がオンとなっていないとき通常フレームレート間引き再生モードとする(ステップS64)。
また、再生制御装置では、付属情報33に含まれた高速フレームレートの動画像情報を撮像装置で生成したときのズーム動作および/または撮像装置の動きの量を示す角速度を示す情報を用いてフレームレート切換情報の生成を行い、生成したフレームレート切換情報に基づいて再生モードの切換を自動的に行うことも可能である。
図14は、フレームレート切換情報の自動生成動作を示すフローチャートである。
図14のフローチャートに示すように、システムMPU26は、ズーム(ZOOM)作動中であるか否かを判定する(ステップS71)。そして、ズーム作動中であれば、システムMPU26はフレームレート切換を指示しないものとして、フレームレート切換情報をオフとしておく(ステップS75)。
ステップS71においてズーム作動中でなければ、次にシステムMPU26は、角速度が大きいか否かを、例えば予め設定されている閾値と比較して判定する(ステップS72)。この結果、角速度が閾値よりも大きい場合、システムMPU26はフレームレート切換を指示しないものとする(ステップS75)。
ステップS72において角速度が閾値よりも大きくないと判定した場合、次にシステムMPU26は、再生された高フレームレートの動画像情報を用いてフレーム間差分演算を行い、演算結果が閾値よりも小さいか否かの判定を行う(ステップS73)。その結果、閾値よりも演算結果が小さい場合、システムMPU26はフレームレート切換を指示しないものとする(ステップS75)。
また、ステップS73において閾値よりも演算結果が小さくない場合、システムMPU26はフレームレート切換を行うものとしてフレームレート切換情報をオンとする(ステップS74)。なお、フレームレート切換情報では、フレームレート切換のタイミングを示すものとして、フレームレート切換情報をパルス状にオンさせて、通常フレームレート非間引き再生モードへの切り換えを行い、その後通常フレームレート非間引き再生モードの再生を所定時間行うようにする。
さらに、システムMPU26は、付属情報だけでなく、再生された音声信号を用いてフレームレート切換情報の生成を行うものとしてもよい。例えばマイクからの音声信号の信号レベルが閾値よりも大きくなったときフレームレート切換指示を行うものとする。
このように、フレームレート切換情報を生成するものとすれば、被写体の動きの量が所定値を超えたときには、通常フレームレート非間引き再生モードが選択されて、被写体の動きの量が大きくなるハイライトシーンを時間解像度の高いスローモーション画像として表示することができる。また、ズーム動作が行われたことや撮像方向が変化したことにおより被写体の動きの量が大きくなっても、このような場合にはフレームレートの切換が行われないことから、被写体の動きの量が大きくないときに通常フレームレート非間引き再生モードに切り換えられてしまうことを防止できる。
また、音声信号に基づいてフレームレートの切換を行うようにすることで、例えば運動会等のレースシーンにおいてスタートシーンを時間解像度の高いスローモーション画像として表示することも可能となる。
以上説明したように、この再生制御装置は、再生時に高速フレームレートに対応する外部モニタ装置が用いられる場合、高速フレームレートの動画像情報を、フレームレートを変えることなく出力する高速フレームレート非間引き再生モードを有している。また、再生時に高速フレームレート非対応の外部モニタ装置が用いられる場合、画像・音声処理ASIC4上で高速フレームレートの動画像情報に対して間引きを行い、外部モニタ装置が対応するフレームレートの動画像情報として再生する通常フレームレート間引き再生モードを有している。また、高速フレームレートの動画像情報を外部モニタ装置が対応するフレームレートで順次出力することで、撮像時よりも長い時間をかけて再生する通常フレームレート非間引き再生モードを有している。この結果、高速フレームレートに対応している外部モニタ装置を用いるとき、時間解像度の低下等を招くことなく高速フレームレートの動画像情報の再生を行うことができる。また、高速フレームレートに対応していない外部モニタ装置を用いるとき、高速フレームレートの動画像情報が、外部モニタ装置の対応するフレームレートで出力されて自動的にハイライトシーンをスローモーション化して表示できるなど、高速フレームレートの画像ソースを有効活用できる。さらに、高速フレームレートの動画像情報のフレーム間引きを行って、被写体の動きの速度を変化させてしまうことなく外部モニタ装置で画像表示を行うことができる。
また、マニュアルでフレームレート切換の指示を行う場合にはスローモーション再生を選ぶ手間が発生するが、付属情報を利用することで、フレームレート切換を自動的に行うことが可能となり、例えばハイライトシーンを簡単に時間解像度の高いスローモーション画像として表示させることが可能である。
動画像の記録や再生を行う場合、画像表示側として高速フレームレートに対応していない外部モニタ装置を用いるときに好適である。

Claims (12)

  1. 第1のフレームレートと第1のフレームレートよりも高い第2のフレームレートで撮像可能な撮像手段と、
    ハイライトシーンを検出する検出手段と、
    前記検出手段によりハイライトシーンを検出したことに応じて、前記撮像手段のフレームレートを切り換える制御手段とを備える
    ことを特徴とする撮像装置。
  2. 前記制御手段は、前記検出手段によりハイライトシーンを検出したことに応じて、前記撮像手段のフレームレートを前記第1のフレームレートから前記第2のフレームレートに切り換える
    ことを特徴とする請求の範囲第1項に記載の撮像装置。
  3. 前記制御手段は、前記撮像手段のフレームレートを前記第1のフレームレートから前記第2のフレームレートに切り換えた後、所定時間経過後に前記フレームレートを前記第2のフレームレートから前記第1のフレームレートに切り換える
    ことを特徴とする請求の範囲第2項に記載の撮像装置。
  4. 前記検出手段は、被写体の動きが所定値を超えたときハイライトシーンが検出されたものとする
    ことを特徴とする請求の範囲第3項に記載の撮像装置。
  5. レンズ駆動手段および/または撮像装置が動いたときの角速度を検出するセンサ手段を備え、
    前記レンズ駆動手段がズーム作動中でないとき、および/または前記センサ手段で検出された角速度が所定値を超えていないとき、前記検出手段は、フレーム間差分演算を行い前記被写体の動きを算出する
    ことを特徴とする請求の範囲第4項に記載の撮像装置。
  6. 前記第1のフレームレートは、標準テレビジョン方式のフレームレートである
    ことを特徴とする請求の範囲第1項に記載の撮像装置。
  7. 記録媒体から動画像情報と該動画像情報の付属情報を再生する再生制御装置において、
    外部モニタ装置が対応しているフレームレートと前記付属情報に基づいて、前記動画像情報を再生するときの再生モードを、間引き再生モードまたは非間引き再生モードのいずれとするか判定する判定手段と、
    前記判定手段の判定結果に応じて前記動画像情報の再生動作制御を行う制御手段とを備える
    ことを特徴とする再生制御装置。
  8. 前記判定手段は、前記外部モニタ装置が対応しているフレームレートと前記動画像情報のフレームレートが等しいとき前記非間引き再生モードと判定し、
    前記制御手段は、フレーム間引きを行うことなく前記動画像情報を再生させる
    ことを特徴とする請求の範囲第7項に再生制御装置。
  9. 前記判定手段は、前記外部モニタ装置が対応しているフレームレートよりも前記動画像情報のフレームレートが高いとき前記判定を行う
    ことを特徴とする請求の範囲第8項に再生制御装置。
  10. 前記判定手段は、前記外部モニタ装置が対応しているフレームレートよりも前記動画像情報のフレームレートが高く前記付属情報で切換指示が示されたときに、前記非間引き再生モードと判定し、
    前記制御手段は、フレーム間引きを行うことなく前記外部モニタ装置が対応しているフレームレートで前記動画像情報を再生させる
    ことを特徴とする請求の範囲第9項に記載の再生制御装置。
  11. 前記制御手段は、前記再生モードが前記非間引き再生モードと判定されてから所定時間経過後、前記間引き再生モードとしてフレーム間引きを行い前記動画像情報を前記外部モニタ装置が対応しているフレームレートに変換して再生させる
    ことを特徴とする請求の範囲第10項に記載の再生制御装置。
  12. 前記付属情報には、前記動画像情報を撮像装置で生成したときのズーム動作および/または前記撮像装置の動きを示す角速度を示す情報が含まれており、
    前記判定手段は、前記付属情報に基づきズーム動作が行われていない、および/または角速度が所定値を超えていないと判別したとき、前記動画像情報を用いてフレーム間差分演算を行い被写体の動きを算出して、該動きが所定値を超えたとき前記通常モードと判定する
    ことを特徴とする請求の範囲第11項に記載の再生制御装置。
JP2008541012A 2006-10-24 2007-10-24 撮像装置と再生制御装置 Pending JPWO2008050806A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2006288626 2006-10-24
JP2006288626 2006-10-24
PCT/JP2007/070745 WO2008050806A1 (en) 2006-10-24 2007-10-24 Imaging device and reproduction control device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2011255231A Division JP5252063B2 (ja) 2006-10-24 2011-11-22 撮像装置と再生制御装置

Publications (1)

Publication Number Publication Date
JPWO2008050806A1 true JPWO2008050806A1 (ja) 2010-02-25

Family

ID=39324600

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2008541012A Pending JPWO2008050806A1 (ja) 2006-10-24 2007-10-24 撮像装置と再生制御装置
JP2011255231A Expired - Fee Related JP5252063B2 (ja) 2006-10-24 2011-11-22 撮像装置と再生制御装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2011255231A Expired - Fee Related JP5252063B2 (ja) 2006-10-24 2011-11-22 撮像装置と再生制御装置

Country Status (7)

Country Link
US (2) US8154606B2 (ja)
EP (1) EP2079231B1 (ja)
JP (2) JPWO2008050806A1 (ja)
KR (1) KR101411627B1 (ja)
CN (1) CN101529890B (ja)
TW (1) TW200828991A (ja)
WO (1) WO2008050806A1 (ja)

Families Citing this family (60)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101437196B1 (ko) 2007-02-01 2014-09-03 소니 주식회사 화상 재생 장치와 화상 재생 방법 및 촬상 장치와 그 제어 방법
JP5057917B2 (ja) * 2007-09-28 2012-10-24 富士通テン株式会社 ドライブレコーダ
GB2459684A (en) * 2008-04-30 2009-11-04 British Broadcasting Corp Television Signal having high frame rate
JP5532561B2 (ja) * 2008-08-25 2014-06-25 株式会社ニコン 撮像装置、画像再生装置、画像変換装置、画像再生プログラム
JP2010087778A (ja) * 2008-09-30 2010-04-15 Casio Computer Co Ltd 撮像装置、変速撮像方法、及びプログラム
JP5371493B2 (ja) * 2009-03-09 2013-12-18 キヤノン株式会社 装置及び方法
JP5355176B2 (ja) * 2009-03-30 2013-11-27 キヤノン株式会社 動画保存装置及びその制御方法
JP5279589B2 (ja) * 2009-04-13 2013-09-04 キヤノン株式会社 映像記録再生装置およびその制御方法
JP2012523788A (ja) * 2009-04-13 2012-10-04 ショースキャン デジタル エルエルシー 動画の撮影及び投影方法及びその装置
JP5414357B2 (ja) * 2009-05-20 2014-02-12 キヤノン株式会社 撮像装置および再生装置
JP2011114801A (ja) * 2009-11-30 2011-06-09 Olympus Imaging Corp 表示装置、撮影装置、及び、表示方法
JP5627383B2 (ja) * 2010-01-06 2014-11-19 キヤノン株式会社 動画再生装置及びその制御方法、プログラム、及び記憶媒体
JP5283649B2 (ja) * 2010-03-10 2013-09-04 彰一郎 谷口 弓を用いて矢を射る動作を解析する装置および方法
JP2011250103A (ja) * 2010-05-26 2011-12-08 Canon Inc 再生装置
JP5701017B2 (ja) * 2010-11-09 2015-04-15 キヤノン株式会社 動画再生装置、動画再生方法、コンピュータプログラム、記憶媒体
JP5768381B2 (ja) * 2011-01-20 2015-08-26 カシオ計算機株式会社 動画像処理装置、動画像処理方法及びプログラム
WO2012140715A1 (ja) * 2011-04-11 2012-10-18 東芝三菱電機産業システム株式会社 データ同期再生装置、データ同期再生方法およびデータ同期制御プログラム
JP5751942B2 (ja) * 2011-06-13 2015-07-22 キヤノン株式会社 再生装置及び再生方法
WO2013136406A1 (ja) 2012-03-12 2013-09-19 東芝三菱電機産業システム株式会社 データ同期再生装置、データ同期再生方法およびデータ同期制御プログラム
TWI521965B (zh) * 2012-05-14 2016-02-11 Sony Corp Camera and camera methods, electronic machines and programs
JP2013258609A (ja) * 2012-06-13 2013-12-26 Panasonic Corp 撮像装置
JP5872981B2 (ja) * 2012-08-02 2016-03-01 オリンパス株式会社 撮影機器,動体の撮影方法,撮影プログラム
US9794527B1 (en) * 2012-09-28 2017-10-17 Google Inc. Content capture
US9201487B2 (en) * 2013-03-05 2015-12-01 Intel Corporation Reducing power consumption during graphics rendering
JP5962600B2 (ja) * 2013-06-26 2016-08-03 カシオ計算機株式会社 動画生成装置、動画生成方法、及びプログラム
JP2015080035A (ja) * 2013-10-15 2015-04-23 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
CN104572052B (zh) * 2013-10-21 2019-07-02 腾讯科技(深圳)有限公司 一种应用程序帧率的测量方法及装置
US9300869B2 (en) * 2013-10-24 2016-03-29 Fujitsu Limited Reduction of spatial resolution for temporal resolution
DE102013222795A1 (de) * 2013-11-08 2015-05-13 Sommer-Hugendubel-Pollack-Strauss Gbr (Vertretungsberechtigter Gesellschafter: Till Strauss, 10119 Berlin) Verfahren und Vorrichtung zur Erzeugung einer künstlichen Kopplung zwischen einer Eingangsgröße und einer Ausgangsgröße
JP2015122734A (ja) * 2013-11-25 2015-07-02 パナソニックIpマネジメント株式会社 撮像装置及び撮像方法
DE102014102689A1 (de) * 2014-02-28 2015-09-03 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Laufbildkameraanordnung und Verfahren zum Betreiben einer Laufbildkameraanordnung
JP2015186235A (ja) * 2014-03-26 2015-10-22 ソニー株式会社 イメージセンサ、および電子装置
US10099132B2 (en) * 2014-05-16 2018-10-16 Sega Sammy Creation Inc. Game image generation device and program
US20150373293A1 (en) * 2014-06-24 2015-12-24 Sony Corporation Video acquisition with adaptive frame rate
JP6776126B2 (ja) * 2014-11-27 2020-10-28 ソニーセミコンダクタソリューションズ株式会社 画像処理装置および画像処理方法、並びにプログラム
US20160182866A1 (en) * 2014-12-19 2016-06-23 Sony Corporation Selective high frame rate video capturing in imaging sensor subarea
CN104683691B (zh) * 2015-02-02 2017-11-14 上海小蚁科技有限公司 拍摄方法、装置及设备
US10262690B2 (en) 2015-03-03 2019-04-16 Sony Semiconductor Solutions Corporation Signal processing device, signal processing system, signal processing method, and program
US20160269674A1 (en) * 2015-03-09 2016-09-15 Microsoft Technology Licensing, Llc Dynamic Video Capture Rate Control
CN104735385B (zh) * 2015-03-31 2018-10-12 小米科技有限责任公司 播放控制方法及装置、电子设备
US10572735B2 (en) * 2015-03-31 2020-02-25 Beijing Shunyuan Kaihua Technology Limited Detect sports video highlights for mobile computing devices
US10965867B2 (en) * 2016-03-03 2021-03-30 Sony Corporation Display control device and display control method
JP6992753B2 (ja) * 2016-07-26 2022-01-13 ソニーグループ株式会社 撮像制御装置および撮像制御方法、並びに撮像素子
KR102537210B1 (ko) * 2016-07-29 2023-05-26 삼성전자주식회사 동영상 컨텐츠 제공 방법 및 이를 지원하는 전자 장치
KR102641894B1 (ko) * 2017-02-03 2024-02-29 삼성전자주식회사 이미지를 촬영하는 센서 및 그 제어 방법
WO2018198674A1 (ja) 2017-04-27 2018-11-01 コニカミノルタ株式会社 光計測装置
CN107707934A (zh) * 2017-10-24 2018-02-16 南昌黑鲨科技有限公司 一种视频数据处理方法、处理装置及计算机可读存储介质
CN107707860B (zh) * 2017-10-24 2020-04-10 南昌黑鲨科技有限公司 一种视频数据处理方法、处理装置及计算机可读存储介质
CN107864334A (zh) * 2017-11-09 2018-03-30 睿魔智能科技(东莞)有限公司 一种使用深度学习的智能镜头拍摄方法及系统
CN108184165B (zh) * 2017-12-28 2020-08-07 Oppo广东移动通信有限公司 视频播放方法、电子装置和计算机可读存储介质
CN108322650B (zh) * 2018-02-08 2020-03-27 Oppo广东移动通信有限公司 视频拍摄方法和装置、电子设备、计算机可读存储介质
RU2716005C2 (ru) * 2018-06-29 2020-03-05 Закрытое акционерное общество "МНИТИ" (ЗАО "МНИТИ") Способ видеосопровождения с улучшенными динамическими характеристиками и устройство для его осуществления
JP6913830B2 (ja) * 2018-08-31 2021-08-04 富士フイルム株式会社 撮像素子、撮像装置、画像データ処理方法、及びプログラム
JP6705534B2 (ja) * 2018-10-19 2020-06-03 ソニー株式会社 センサ装置、信号処理方法
WO2020137663A1 (ja) * 2018-12-26 2020-07-02 富士フイルム株式会社 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム
WO2020137665A1 (ja) * 2018-12-27 2020-07-02 富士フイルム株式会社 撮像素子、撮像装置、撮像方法及びプログラム
CN110933294B (zh) * 2019-11-04 2022-11-04 深圳传音控股股份有限公司 一种图像处理方法、终端及计算机存储介质
US11425306B2 (en) * 2021-01-22 2022-08-23 Qualcomm Incorporated Zoom in or zoom out with slow-motion video capture
US20220327718A1 (en) * 2021-04-13 2022-10-13 Qualcomm Incorporated Techniques for enhancing slow motion recording
CN116347224B (zh) * 2022-10-31 2023-11-21 荣耀终端有限公司 拍摄帧率控制方法、电子设备、芯片系统及可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11177868A (ja) * 1997-12-16 1999-07-02 Canon Inc 撮像方法及び再生方法とその装置
JP2001358984A (ja) * 2000-06-15 2001-12-26 Mitsubishi Heavy Ind Ltd 動画像処理カメラ
JP2002320198A (ja) * 2001-04-23 2002-10-31 Casio Comput Co Ltd 動画記録装置
JP2004120384A (ja) * 2002-09-26 2004-04-15 Photron Ltd 高速度撮像装置及び撮像速度の変更方法
JP2004187018A (ja) * 2002-12-04 2004-07-02 Casio Comput Co Ltd 動画撮影装置、及び動画撮影方法

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6359074A (ja) 1986-08-27 1988-03-14 Omron Tateisi Electronics Co 高速ビデオカメラ
US5239418A (en) * 1989-10-17 1993-08-24 Eastman Kodak Company Single split frame mode for a fast frame recorder
JP3450449B2 (ja) * 1994-07-18 2003-09-22 キヤノン株式会社 撮像装置およびその撮像方法
US5455561A (en) * 1994-08-02 1995-10-03 Brown; Russell R. Automatic security monitor reporter
JPH1115425A (ja) 1997-06-26 1999-01-22 Hitachi Ltd 表示モード切り替え制御ディスプレイ
US7196720B2 (en) 1998-03-06 2007-03-27 Intel Corporation Method and apparatus for powering on an electronic device with a video camera that detects motion
JP2000059698A (ja) 1998-08-06 2000-02-25 Sony Corp 高速撮像装置
JP2001036848A (ja) 1999-07-15 2001-02-09 Victor Co Of Japan Ltd カムコーダ
JP3697129B2 (ja) * 2000-01-20 2005-09-21 キヤノン株式会社 撮像装置
JP2001292409A (ja) 2000-04-07 2001-10-19 Sony Corp データ記録再生装置及び方法
JP2001352471A (ja) * 2000-06-07 2001-12-21 Toshiba Corp ビデオカメラ装置
US20020051081A1 (en) * 2000-06-30 2002-05-02 Osamu Hori Special reproduction control information describing method, special reproduction control information creating apparatus and method therefor, and video reproduction apparatus and method therefor
KR100792283B1 (ko) * 2001-08-07 2008-01-07 삼성전자주식회사 이동물체 자동 추적장치 및 방법
JP2003209731A (ja) * 2002-01-09 2003-07-25 Sony Corp 画像信号処理方法及び撮像装置
US6778766B2 (en) * 2002-01-25 2004-08-17 Nikon Corporation Vibration detection device and vibration correcting optical device
US7456875B2 (en) * 2002-03-14 2008-11-25 Sony Corporation Image pickup apparatus and method, signal processing apparatus and method, and wearable signal processing apparatus
US7385626B2 (en) * 2002-10-21 2008-06-10 Sarnoff Corporation Method and system for performing surveillance
JP4222869B2 (ja) * 2002-12-10 2009-02-12 株式会社ソニー・コンピュータエンタテインメント 画像再生装置
JP4208634B2 (ja) * 2003-04-23 2009-01-14 キヤノン株式会社 再生装置
JP3926316B2 (ja) * 2003-10-31 2007-06-06 松下電器産業株式会社 撮像装置
JP4107269B2 (ja) 2004-02-23 2008-06-25 ソニー株式会社 固体撮像装置
JP2006033160A (ja) * 2004-07-13 2006-02-02 Canon Inc 撮像システム
JP2006113264A (ja) * 2004-10-14 2006-04-27 Fujinon Corp 像振れ補正装置
JP4296145B2 (ja) * 2004-11-08 2009-07-15 株式会社東芝 再生装置及びその方法
US7817193B2 (en) * 2004-11-25 2010-10-19 Sony Corporation Image pickup apparatus and image pickup method to display or record images picked up at high rate in real time
JP2006265475A (ja) 2005-03-25 2006-10-05 Fuji Photo Film Co Ltd インク組成物
JP2006295350A (ja) * 2005-04-07 2006-10-26 Sony Corp 撮像装置及び撮像結果の処理方法
JP4434151B2 (ja) * 2006-01-23 2010-03-17 富士フイルム株式会社 撮像装置
JP4895016B2 (ja) * 2006-09-28 2012-03-14 三洋電機株式会社 撮像装置
US7948526B2 (en) * 2006-11-14 2011-05-24 Casio Computer Co., Ltd. Imaging apparatus, imaging method and program thereof

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11177868A (ja) * 1997-12-16 1999-07-02 Canon Inc 撮像方法及び再生方法とその装置
JP2001358984A (ja) * 2000-06-15 2001-12-26 Mitsubishi Heavy Ind Ltd 動画像処理カメラ
JP2002320198A (ja) * 2001-04-23 2002-10-31 Casio Comput Co Ltd 動画記録装置
JP2004120384A (ja) * 2002-09-26 2004-04-15 Photron Ltd 高速度撮像装置及び撮像速度の変更方法
JP2004187018A (ja) * 2002-12-04 2004-07-02 Casio Comput Co Ltd 動画撮影装置、及び動画撮影方法

Also Published As

Publication number Publication date
US8154606B2 (en) 2012-04-10
KR20090068333A (ko) 2009-06-26
US20120133791A1 (en) 2012-05-31
CN101529890B (zh) 2011-11-30
CN101529890A (zh) 2009-09-09
US9013583B2 (en) 2015-04-21
EP2079231A4 (en) 2010-04-21
WO2008050806A1 (en) 2008-05-02
JP2012050141A (ja) 2012-03-08
TWI359612B (ja) 2012-03-01
JP5252063B2 (ja) 2013-07-31
EP2079231B1 (en) 2014-04-30
EP2079231A1 (en) 2009-07-15
KR101411627B1 (ko) 2014-06-25
TW200828991A (en) 2008-07-01
US20100060752A1 (en) 2010-03-11

Similar Documents

Publication Publication Date Title
JP5252063B2 (ja) 撮像装置と再生制御装置
JP4724577B2 (ja) 撮像装置及びその制御方法
US8264573B2 (en) Imaging apparatus and reproducing apparatus which changes frame rate based on zoom operation
JP4525561B2 (ja) 撮像装置、画像処理方法、並びにプログラム
JP4441882B2 (ja) 撮影装置、表示制御方法、プログラム
US8743227B2 (en) Imaging apparatus and control method for reducing a load of writing image data on a recording medium
KR101222727B1 (ko) 촬상 장치
JP4353253B2 (ja) フレームレート制御装置とフレームレート制御方法および記録装置と撮像装置
JP2008109245A (ja) 記録再生装置
US7576782B2 (en) Image pickup apparatus and control method therefor
JP4536173B2 (ja) 画像記録装置及び画像記録方法
JP4547877B2 (ja) 撮像装置
JP5024331B2 (ja) ビデオカメラ及び情報送信方法
KR20050090807A (ko) 촬영모드 및 출력모드에 따라 영상신호의 출력경로 및출력방식을 제어할 수 있는 복합촬영장치 및 그출력제어방법
JP5761963B2 (ja) 画像処理装置
JP2006121299A (ja) 記録再生装置
JP2006217214A (ja) 再生装置および撮像装置並びに再生方法
JP4293082B2 (ja) サーバ機能を備えた再生装置
JP2003250114A (ja) 映像記録装置
JP2008263429A (ja) ビデオカメラ装置
JP2005303626A (ja) 記録装置及び記録再生装置
KR20050090806A (ko) 하나의 줌스위치로 다양한 조작명령을 입력할 수 있는복합촬영장치 및 그 동작제어방법
JP2006067175A (ja) 画像記録再生装置

Legal Events

Date Code Title Description
AA64 Notification of invalidation of claim of internal priority (with term)

Free format text: JAPANESE INTERMEDIATE CODE: A241764

Effective date: 20090630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090716

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090911

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091109

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100817

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111004

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20120529