JP4902136B2 - 撮像装置、撮像方法及びプログラム - Google Patents

撮像装置、撮像方法及びプログラム Download PDF

Info

Publication number
JP4902136B2
JP4902136B2 JP2005133185A JP2005133185A JP4902136B2 JP 4902136 B2 JP4902136 B2 JP 4902136B2 JP 2005133185 A JP2005133185 A JP 2005133185A JP 2005133185 A JP2005133185 A JP 2005133185A JP 4902136 B2 JP4902136 B2 JP 4902136B2
Authority
JP
Japan
Prior art keywords
image
image data
moving image
data
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005133185A
Other languages
English (en)
Other versions
JP2006311347A5 (ja
JP2006311347A (ja
Inventor
淳也 正木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2005133185A priority Critical patent/JP4902136B2/ja
Priority to US11/413,148 priority patent/US8130279B2/en
Publication of JP2006311347A publication Critical patent/JP2006311347A/ja
Publication of JP2006311347A5 publication Critical patent/JP2006311347A5/ja
Application granted granted Critical
Publication of JP4902136B2 publication Critical patent/JP4902136B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • H04N9/8047Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction using transform coding

Description

本発明は撮像装置、撮像方法及びプログラムに関して、例えば動画と静止画とを並行処理するために用いて好適な技術に関する。
従来、動画撮影中に外部操作にて静止画キャプチャー指示を受けた場合、静止画用と動画用の複数の映像処理ブロックを有し、静止画像用ブロックにて処理される静止画は、1フレーム期間又は、1フィールド期間にて画面分割されたエリア部分を順次処理し数フレームで1枚を構成するように構成されている(例えば、特許文献1参照)。
また、動画と静止画を別モードにて読み出す撮像素子を持ち、動画記録中に静止画連写コマンド受け付け時は、静止画読み出しに切り換え、予め設定してあるコマ数のみ静止画を連写出来、動画像1枚と静止画1枚分を繰り返し処理する。この時動画データのフレームレートを落とし静止画像の処理を行なうように構成されている(例えば、特許文献2参照)。
特開2001−326896号公報 特開2003−158653号公報
しかしながら前記従来例、特許文献1では静止画用と動画用の複数の画像処理ブロックを有する構成のため、LSIのチップ面積が増大することと、動画像と静止画像の同時並行画像処理を行なっているため、消費電力が増大するという課題がある。また、特許文献2では、動画記録中に静止画キャプチャーする際に動画のフレームレートが落ちてしまうという課題がある。
本発明は前述の問題点にかんがみ、動画のフレームレートを落とすことなく動画と静止画とを並行処理できるようにすることを目的としている。
本発明の撮像装置は、フレームごとの画像データを取得する撮像手段と、前記撮像手段より得られた前記フレームごとの撮像データの画像サイズを縮小する縮小手段と、前記縮小手段にて縮小された縮小画像データから動画データを生成するための画像処理をする動画処理手段と、前記動画データの生成中に静止画の撮像指示を入力する入力手段と、前記動画データの生成中における静止画の撮像指示の入力に応じて、当該入力時に前記撮像手段が取得中のフレームよりも後に取得を開始したフレームの画像データであって前記縮小手段により縮小されていない画像データを記憶する記憶手段と、前記動画データの生成中に静止画の撮像指示が入力された場合、前記記憶手段に記憶された前記縮小されていない画像データであって、当該入力時に前記撮像手段が取得中のフレームよりも後に取得を開始したフレームの画像データに対して、前記動画処理手段が動画データを生成するための画像処理を行っていない期間に、静止画データを生成するための画像処理をする静止画処理手段とを有することを特徴とする。
以上本発明によれば、動画像撮像中に動画像より大きなサイズの静止画像をキャプチャーしたい時に、動画像のフレームレートを全く落とすことがなくネットワーク上へ配信可能或いは記録可能となる。
また、全画素メモリーの容量範囲内で、動画撮像中の大画面静止画撮影の連写が可能となり、VD単位で連続撮影可能となるので動画フレームと同じ速度の連写した画像を得ることができる。
また、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、上記制御の実現が可能となる。また、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。また、動画像を構成するために静止画像を縮小処理する期間が静止画全画素読み出し中のVD期間のみに限定されるため、動画像処理時の省電力化が計れる。
また、メカシャッターが必要な撮像素子における動画像撮像中に静止画像をキャプチャーしたい時に、動画像としてブラックアウトするフレームを少なくすることが出来、動画像としての違和感の少ない画像を提供することが可能となる。
また、あらゆる高画素撮像素子に対応可能な処理を実現することが出来る。また、動画処理を高速化することで、静止画の分割数を少なく処理することが可能となり、静止画処理期間を短縮と、大画面静止画連写コマ数を拡大することが可能となりさらに、大画面静止画連写が規定コマ数以内なら全画素メモリー容量を削減することが可能となる。
(第1の実施の形態)
本発明の第1の実施例を表す図として、図1、図2、図3であり、図1は本発明の撮像装置の全体概要を表すブロック図であり、図2は本発明の第1の実施例に関わる特徴を示すブロック図であり、図3は本実施例の特徴を表す各種処理タイミングチャートである。
図1の構成順に、1は光電変換素子である撮像素子(撮像素子として特に限定はしないが、CCD或いはCMOSセンサーのような撮像素子を表し、第1の実施の形態としては、動画像を構成する1フレーム時間内で全画素読み出し可能な撮像素子である)、2はレンズ、3は撮像素子1であるCCD或いはCMOSセンサーからのアナログ撮像データを所定の量子化ビットに対応してデジタル変換するためのA/D変換を司るA/D変換部である。
4は撮像素子1とA/D変換部3のタイミングをコントロールするためのタイミングジェネレータ、5はA/D変換部3でA/D変換されたデータを動画像用信号と静止画像用信号とに振り分け、画像の縮小、画像のバッファリングをおこなう動画&静止画処理手段である。
6は動画&静止画処理手段5にてデータ振り分けされた静止画用フレーム画像データを記憶するための画像データ記憶手段であるところのメモリー(本実施の形態ではRAMを示すがこれは一例であるため、アクセス速度が十分問題ないレベルの素子であればこの限りではない)である。
7は動画&静止画処理手段5から得られた動画像用データ及び、静止画用データの現像処理を行なう画像処理部、8は画像処理部7にて画像処理する際に処理データと未処理データを一時的に記憶するためのメモリー(本実施の形態ではRAMを示すがこれは一例であるためアクセス速度が十分問題ないレベルの素子であればこの限りではない)である。
9は本実施の形態のシステムを制御するための制御手段であるところのCPU、10は画像処理部7にて画像処理されたデータを所定のフォーマットに応じて圧縮処理するためのエンコード処理部(画像フォーマットはJPEG、MPEG等規格に準拠したフォーマットであるため、特に限定はしないが本実施の形態ではJPEGエンコーダで説明する)である。
11は、エンコード処理部10で圧縮された動画データ及び静止画データを記録するかネットワーク上に通信するか否かを切り換える切り換え手段、12は外部ネットワークからの通信コマンドの通信や或いは、1〜11までの各ブロックにて処理された動画像、静止画像を外部へ配信或いは通信するためのネットワーク通信部である。
13は本実施の形態の撮像装置内に動画像又は静止画像データを記憶するための記憶手段であるところのストレージ(図1ではストレージと記載しているが、その他データ書き込み可能な不揮発性メモリー、メディア、ハードディスク等データ記憶出来るもの全般を示し、取り替え可能な物でも可であり特に限定はしない)である。
14は外部からのリモコン制御コマンド受け付け用の赤外線リモコン受信部、15は、ユーザが外部から直接操作することが可能なキー入力部である。
上記構成において、A/D変換部3、タイミングジェネレータ4、動画&静止画処理手段5、画像処理部7、CPU9、エンコード処理部10、切り換え手段11の各ブロックをLSI化する際に1チップで構成されている構成である。又、1チップ化ではなく各処理ブロックを別々に構成したり、機器実装上都合の良いLSI構成にしたりしても構わない。
次に、図2では、図1の1〜9に記載してあるブロックを詳細に説明するブロック図であり、図2の1、3、4、6、7、9は前記図1の1、3、4、6、7、9に対応している。
16は、A/D変換部3でA/D変換された撮像データを外部制御コマンド入力に応じて静止画キャプチャー時に静止画像用データとして撮像素子1の全画素分に対応した読み出しデータを記録する記録手段である。
17は、A/D変換部3でA/D変換された全画素に対応する撮像データを、動画像を構成する画像サイズに縮小処理する縮小処理手段、18は縮小処理手段17からの縮小画像データを所定期間保持しデータのバッファリングをするバッファメモリーである。
19は、CPU9からの制御に応じて動画像と静止画像の画像処理を選択する選択手段、20は本システムの動作に必要なクロックを生成する発信器、21は選択手段19の発信器の周波数を逓倍し高速周波数に設定するPLL回路である。前記図1と図2の構成において、図3に示すタイミングチャートにて処理の流れを説明する。
図3の信号順に上から、動画像を構成するための垂直同期信号であるVD、縮小処理手段7、バッファメモリー8で動画像を構成する画像を作り出すための縮小処理と縮小データのバッファリング動作タイミングを示すb、全画素メモリー6、記録手段6にて静止画像を記憶する記憶手段へのデータ記録保存タイミングを示すa、画像処理手段7で画像処理するタイミングを示すcである。
まず通常動画撮影時のデータの流れにて、図3の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。
全画素読み出しに対応した撮像素子1をタイミングジェネレータ4をコントロールすることで全画素に対応した撮像データの読み出しを開始、次に前記タイミングジェネレータ4タイミングに応じて、A/D変換部3でデジタル化したデータを読み出したデータ順に、縮小手段217で画像縮小と縮小手段7で縮小画像の一時的なバッファリングを行ない処理された画像を動画像用として構成する。
バッファ18で一時的にバッファリングされた動画用画像データを、選択手段9で動画像を選択し、図3−bの動画バッファリング開始より所定時間経過後から図3−cに示す動画処理を画像処理手段207にて順次画像処理を実施する。この時に動画処理開始時間を所定時間遅らせた分、18にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。
この時、PLL回路21にて高速クロックを供給し、画像処理手段7で高速処理を実現している。上記説明にて画像処理する内容は通常現像処理のことを示し、画像のフィルタリング処理、輝度、色差等の補正処理を施し最適な画像を作り出す処理を行なう(処理内容の詳細は公知技術であり、各メーカ等での画像の考え方等により処理内容が異なるため説明は省略する。)。
また、画像処理手段7ではさまざまな画像処理を施しているため、順次各画像処理を時系列に接続する際に画像データを一時的にバッファリング用に図1のメモリー8が存在し図の画像処理手段7をデータの受け渡しをしている(ここの画像処理部のメモリーアクセス等については公知技術のため説明は省略する。)。
次に上記画像処理完了したデータは1VD期間であるフレーム期間内で1枚の画像を構成し、次の処理ブロックであるエンコード処理部10へとデータを流していく。エンコード処理部10では、前記で画像処理されたデータを予め設定してある所定の画像フォーマットであるJPEG形式に圧縮処理され、切り換え手段11で本撮像装置内部にあるストレージに記憶していくか或いは、ネットワーク通信部12を返して、外部通信先へ通信する。
このような状態に本撮像装置があるのは、外部からの制御指示によりCPU9が動作し、動画撮影モードとなる。動画データの配信先は、予め外部より制御された制御コマンドに対応するように設定しており、ネットワーク通信部12を返して外部機器へ動画像通信しているか、ストレージ13に順次動画データを記録している状態となっている。
前記に示すような動画撮像中に、ネットワーク通信部12、赤外線リモコン受信部14、キー入力部15のいずれかより、前記動画像を構成する画像サイズより大きいサイズの静止画のキャプチャーを要求するコマンドをCPU9が受け付ける場合を説明する。図3に示す静止画キャプチャーと記載した個所でコマンド受け付けたとした場合、キャプチャーコマンド受け付けから次の1発目のVD(垂直同期信号)からA/D変換部3からの出力信号を読み出し順に記録手段15で記録を開始し、記憶手段であるメモリー6に順次読み出しが完了するまで記憶していく。
同時に前記にて説明した縮小手段17、バッファ18にて動画の縮小とバッファリング動作と前記記憶処理は並行した期間で実行している。静止画用として記憶手段であるメモリー6に記憶してある静止画用記憶データを所定のVD期間カウント後(即、次のカウントを含む)から図3―cの空欄部示すように、動画像処理期間以外の期間で画像処理部7にデータを流し画像処理をしていく。
同一画像処理部にて動画処理時間に影響がないように、静止画像を画像処理していく際に、動画像より大きなサイズの静止画1枚分全てのデータ処理が出来ないため、予め設定してある画像エリアに対応して分割した画像毎に図3−cの空欄部に示すような動画処理を実行していない非処理期間に分割して静止画像処理を行なう。
本実施の形態では通常動画像はVGAサイズ(640×480)を動画とし、静止画は縦横2倍の静止画像サイズ(全画素に対応したサイズ)1280×960で表しており、例として静止画像のサイズがもっと大きな画像サイズに対応する場合は、分割するエリア数を増やし、上記同様に静止画像を処理する。例として、1280×960に対して縦横2倍の画像サイズの場合は16分割して静止画像の画像処理をする。但しこれは1例であり、静止画像サイズ、動画像サイズに応じて前記分割数を設定するように構成する。
前記分割数とVDフレーム数が対応することとなり、4分割時は、4VD分の時間で静止画の画像処理が完了することとなる。前記より動画像データは、エンコード処理部10である画像圧縮処理部で、順次JPEG画像圧縮処理されMotionJPEG画像として構成する。
圧縮処理後、動画像は上記にて説明した動画撮像記録するためのストレージ13に格納するか、ネットワーク通信部12へデータを流す。静止画像は、分割されている画像データを一度画像処理部7でメモリー8に順次記憶し1枚分の画像データ記憶完了後に静止画像としてエンコード処理部10へ流しJPEG圧縮処理する。
この時静止画のエンコード処理ブロックを、1ブロックとした場合は、動画像通信或いはストレージ終了コマンド受け付け後に、通信の時はネットワーク通信部12にて1枚の静止画像として配信し、ストレージの時はストレージに1枚の静止画像として記録する(但し、エンコード処理部10が高速処理可能なブロックである場合は、ストレージコマンド受け付け後にストレージやネットワーク配信を行なわずに、1枚分画像処理後に動画圧縮処理の非圧縮処理期間で1枚分を圧縮処理するように構成しても構わない)。
また、上記説明にて、外部からの静止画キャプチャーコマンドが静止画分割処理期間中に再度受け付けた場合(連写要求を含む)、メモリー6及び、メモリー8容量がオーバーフローしない範囲にて順次静止画キャプチャー動作を実行し続ける。
以上本実施の形態を実現することでの第1の効果として、動画像撮像中に動画像より大きなサイズの静止画像をキャプチャーしたい時に、動画像のフレームレートを全く落とすことがなくネットワーク上へ配信可能或いは記録可能となる。
第2の効果として、全画素メモリー6の容量範囲内で、動画撮像中の大画面静止画撮影の連写が可能となる(VD単位で連続撮影可能となるので動画フレームと同じ速度の連写した画像を得ることが出来る。)。
第3の効果として、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、上記制御の実現が可能となる。
第4の効果として、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。
(第2の実施の形態)
本発明の第2の実施の形態を表す図として、図1、図4、図5であり、図1は前記実施例1にて説明してあるものと全く同一構成のブロック図、図4は本発明の第2の実施の形態に関わる特徴を示すブロック図、図5は本実施例の特徴を表すタイミングチャートである。
図1の構成については第1の実施の形態の記載内容と同一である。図4の構成は第1の実施の形態に記載の図2の1〜21までに対応したブロック図で、異なる点は、図2に記載してあるバッファメモリー17を持たない構成である。図1及び図4の各ブロックの役割と構成は第1の実施の形態に記載の図1と図2の機能ブロックと同一な構成であるため、説明を省略する。そこで図5のタイミングチャートより説明する。
図5の信号順に上から、動画像を構成するための垂直同期信号であるVD、縮小手段17の縮小処理動作期間を示すd、全画素メモリー6と静止画像を記憶する記録手段16へのデータ記録タイミングを示すa、画像処理手段7で画像処理するタイミングを示すeである。次に前記タイミングチャートに沿って本発明の内容を説明していく。
まず通常動画撮影時のデータの流れで、図5の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。全画素読み出しに対応した撮像素子1をタイミングジェネレータ4をコントロールすることで全画素に対応した撮像データの読み出しを開始する。
次に、前記タイミングジェネレータ4タイミングに応じてA/D変換部3でデジタル化したデータを読み出したデータ順に、縮小手段17で画像縮小のみの処理を行ない処理された画像を動画像用として構成する。第1の実施の形態と異なる点は、縮小処理した画像のバッファリングを行なわない構成としている。
ここでの動画用画像データを、選択手段19で動画像を選択し、図5−dの動画縮小画像処理された順に図5−eに示す動画処理を画像処理手段7にて順次画像処理を実施する。画像処理内容は通常現像処理のことを示し、画像のフィルタリング処理、輝度、色差等の補正処理を施し最適な画像を作り出す処理を行なう(処理内容の詳細は公知技術であり、各メーカ等での画像の考え方等により処理内容が異なるため説明は省略する。)。
また、画像処理手段7ではさまざまな画像処理を施しているため、順次各画像処理を時系列に接続する際に画像データを一時的なバッファリング用にメモリー8が存在し、画像処理手段7でデータの受け渡しをしている(ここの画像処理部のメモリーアクセス等については公知技術のため説明は省略する。)。
次に上記画像処理完了したデータは1VD期間であるフレーム期間内で1枚の画像を構成し、次の処理ブロックであるエンコード処理部10へとデータを流していく。エンコード処理部10では、前記で画像処理されたデータを予め設定してある所定の画像フォーマットであるJPEG形式に圧縮処理され、切り換え手段11で本撮像装置内部にあるストレージに記憶していくかあるいは、ネットワーク通信部12を返して、外部通信先へ通信する。
このような状態に本撮像装置があるのは、外部からの制御指示によりCPU9が動作し、動画撮影モードとなる。動画データの配信先は、予め外部より制御された制御コマンドに対応するように設定しており、ネットワーク通信部12を返して外部機器へ動画像通信しているか、ストレージ13に順次動画データを記録している状態となっている。
前記に示すような動画撮像中に、ネットワーク通信部12、赤外線リモコン受信部14、キー入力部15のいずれかより、前記動画像を構成する画像サイズより大きいサイズの静止画のキャプチャーを要求するコマンドをCPU9が受け付ける場合を説明する。
図3に示す静止画キャプチャーと記載した個所でコマンド受け付けたとした場合、キャプチャーコマンド受け付けから第1発目のVD(垂直同期信号)からA/D変換部3からの出力信号を読み出し順に記録手段16で記録し、記憶手段である全画素メモリー6に順次読み出しが完了するまで記憶していく。
同時に縮小手段17により図5−dの縮小手段の期間のタイミングで順次縮小処理を実施する。静止画用として記憶手段である全画素メモリー6に記憶してあるデータを所定のVD期間カウント後から図5−eの空欄部に示すような動画像処理期間以外の非処理期間で画像処理手段7にデータを流し画像処理をしていく。
静止画像を画像処理していく際に、静止画1枚分全てのデータを流すことはできないため、予め設定してある画像エリアに対応して分割した画像毎に図5に示すような動画処理を実行していない非処理期間である動画フレーム単位期間の帰線期間中にほぼ対応した期間に分割して静止画処理を行なう。次に、上記説明にて画像処理された静止画像データは、エンコード処理部10である画像圧縮処理部で、順次JPEG画像圧縮処理する。
本実施の形態の説明より動画像データは、エンコード処理部10である画像圧縮処理部で、順次JPEG画像圧縮処理されmotionJPEG画像として構成され動画像は前記にて説明した動画撮像記録するための図1−13のストレージ13に格納するか、ネットワーク通信部12へデータを流す。
静止画像は、分割されている画像データを一度画像処理手段7でのメモリー8に順次記憶し1枚分の画像データ記憶完了後に静止画像をエンコード処理部10へ流しJPEG圧縮処理する。この時静止画のエンコード処理ブロックを、1ブロックとした場合は、動画像通信あるいはストレージ終了コマンド受け付け後に、通信の時はネットワーク通信部12にて1枚の静止画像として配信し、ストレージの際はストレージ13に1枚の静止画像として記録する(但し、エンコード処理部10が高速処理可能なブロックである場合は、ストレージコマンド受け付け後にストレージやネットワーク配信を行なわずに、1枚分画像処理後に動画圧縮処理の非圧縮処理期間で1枚分を圧縮処理するように構成しても構わない)。
また、本実施の形態の説明にて、外部からの静止画キャプチャーコマンドが静止画分割処理期間中に再度受け付けた場合(連写要求を含む)、全画素メモリー6及び、メモリー8の容量がオーバーフローしない範囲にて順次静止画キャプチャー動作を実行し続ける。
本実施の形態では、前記動画処理期間以外の非処理期間が第1の実施の形態に記載の期間よりも短く構成されているが、動画及び静止画の画像サイズが小さくなるとこの方法でも処理期間が十分満足できる設定である。
以上、本実施の形態を実現することで、第1の実施の形態と同様に、本実施の形態における第1の効果として、動画像撮像中に動画像より大きなサイズの静止画像をキャプチャーしたい時に、動画像のフレームレートを全く落とすことがなくネットワーク上へ配信可能あるいは記録可能となる。
第2の効果として、全画素メモリー6の容量範囲内で、動画撮像中の大画面静止画撮影の連写が可能となる(VD単位で連続撮影可能となるので動画フレームと同じ速度の連写した画像を得ることが出来る。)。
第3の効果として、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、上記制御の実現が可能となる。
第4の効果として、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。
第5の効果として、動画像構成用に縮小画像用バッファが不要であるため、第3の効果と第4の効果をより促進することが可能となる。
(第3の実施の形態)
本発明の第3の実施の形態を表す図は、図6、図7、図8であり図6は本の実施の形態の全体概要を表すブロック図、図7は本実施の形態に関わる特徴を示すブロック図、図8は本実施の形態の特徴を表す各種処理タイミングチャートである。
図6において、図1と同じ機能を有するものは、図1と同一の番号を付している。図6の構成順に、1は光電変換素子である撮像素子(撮像素子として特に限定はしないが、CCD或いはCMOSセンサーのような撮像素子を表し、本実施の形態としては、動画像を構成する1フレーム時間内で全画素読み出し可能な撮像素子である)、2はレンズである。
3は撮像素子1であるCCD或いはCMOSセンサーからのアナログ撮像データを所定の量子化ビットに対応してデジタル変換するためのA/D変換を司るA/D変換部、4は撮像素子1とA/D変換部3のタイミングをコントロールするためのタイミングジェネレータ、7はA/D変換部3でA/D変換された画像データの現像処理を行なう画像処理部である。
8は7の画像処理部7にて画像処理する際に処理データと未処理データを一時的に記憶するためのメモリー(本実施の形態ではRAMを示すがこれは一例であるため、アクセス速度が十分問題ないレベルの素子であればこの限りではない)、9は本実施の形態のシステムを制御するための制御手段であるところのCPUである。
10は後述する動画&静止画処理手段24のブロックより処理されたデータを所定のフォーマットに応じて圧縮処理するためのエンコード処理部(画像フォーマットはJPEG、MPEG等規格に準拠したフォーマットであるため、特に限定はしないが本実施の形態ではJPEGエンコーダで説明する)である。
11は、エンコード処理部10で圧縮された動画データ及び静止画データを記録するかネットワーク上に通信するか否かを切り換える切り換え手段、12は外部ネットワークからの通信コマンドの通信あるいは、前記各ブロックにて処理された動画像、静止画像を外部へ配信或いは通信するためのネットワーク通信部である。
13は本発明の撮像装置内に動画像又は静止画像データを記憶するための記憶手段であるところのストレージ(図1ではストレージと記載しているが、その他データ書き込み可能な不揮発性メモリー、メディア、ハードディスク等データ記憶出来るもの全般を示し、取り替え可能な物でも可であり特に限定はしない)、14は外部からのリモコン制御コマンド受け付け用の赤外線リモコン受信部である。
15は、ユーザが外部から直接操作することが可能なキー入力部である。23は後述する動画&静止画処理手段24にてデータ振り分けされた静止画用フレーム画像データを記憶するための画像データ記憶手段であるところのメモリー(本実施の形態ではRAMを示すがこれは一例であるため、アクセス速度が十分問題ないレベルの素子であればこの限りではない)である。
24は画像処理部7により画像処理された画像データを動画像用信号と静止画像用信号とに振り分け、画像の縮小、画像のバッファリングをおこなう動画&静止画処理手段、25は、切り換え手段11により切り換えられた画像データ(主に静止画データ)を合成処理するための画像合成手段である。
前記構成において、A/D変換部3、タイミングジェネレータ4、画像処理部7、CPU9、エンコード処理部10、切り換え手段11、動画&静止画処理手段24、図6−25の画像合成手段25、の各ブロックをLSI化する際に1チップで構成されている構成である。また、1チップ化ではなく各処理ブロックを別々に構成したり、機器実装上都合の良いLSI構成にしても構わない。
次に、本実施の形態の詳細を説明するブロック図として図7で表す。
図7において、構成順に、7は図6と同様、A/D変換部3のA/D変換された画像データの現像処理を行なう画像処理部、23は、後述する記録手段26に記憶された静止画用フレーム画像データを記憶するための画像データ記憶手段であるところのメモリー(本実施の形態ではRAMを示すがこれは一例であるため、アクセス速度が十分問題ないレベルの素子であればこの限りではない)である。
26は、画像処理部7で画像処理された画像データを外部制御コマンド入力に応じて静止画キャプチャー時に静止画像用データとして、1VDフレーム期間中の全画素分データに対応した画像処理データを記録する記録手段、27は、撮像素子1の全画素データ分に対応する画像処理されたデータを、動画像を構成する画像サイズに、縮小処理する縮小手段である。
28は、制御手段であるCPU9からの制御に応じて動画像と静止画像の画像圧縮処理を切り換える切り換え手段、29は本システムの動作に必要なクロックを生成する発信器、30は発信器29の周波数を逓倍し高速周波数に設定するPLL回路である。
前記図6と図7の構成において、図8に示すタイミングチャートにて処理の流れを説明する。図8の信号順に上から、動画像を構成するための垂直同期信号であるVD、画像処理部7で画像処理されるタイミングを示すf、全画素メモリー23と静止画像を記憶する記録手段26へのデータ記録保存タイミングを示すa、縮小手段27によって画像処理部7にて画像処理された画像データを縮小処理するタイミングを示すgである。
まず通常動画撮影時のデータの流れにて、図8の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。全画素読み出しに対応した撮像素子1をタイミングジェネレータ4をコントロールすることで全画素に対応した撮像データの読み出しを開始する。
次に、前記タイミングジェネレータ4のタイミングに応じてA/D変換部3でデジタル化したデータを読み出したデータ順に、図8−fに示す動画処理を画像処理手段7にて、全画素分のデータを順次画像処理する。画像処理内容は通常現像処理のことを示し、画像のフィルタリング処理、輝度、色差等の補正処理を施し最適な画像を作り出す処理を行なう(処理内容の詳細は公知技術であり、各メーカ等での画像の考え方等により処理内容が異なるため説明は省略する。)。
また、画像処理部7ではさまざまな画像処理を施しているため、順次各画像処理を時系列に接続する際に画像データを一時的なバッファリング用にメモリー8が存在し、画像処理部7とデータの受け渡しをしている(ここの画像処理部のメモリーアクセス等については公知技術のため説明は省略する。)。
次に、画像処理部7にて全画素に対応し画像処理された画像データを、縮小手段27で画像縮小処理した画像を動画像用として構成する。切り換え手段28で動画像を選択し、図8−g示すようなタイミングにて前記縮小手段27にて縮小された縮小動画像をエンコード処理部10で、予め設定してある所定の画像フォーマットであるJPEG形式に順次圧縮処理され、切り換え手段11で本撮像装置内部にあるストレージ13に記憶していくかあるいは、ネットワーク通信部12を介して、外部通信先へ通信する。
このような状態に本撮像装置があるのは、外部からの制御指示によりCPU9が動作し、動画撮影モードとなる。動画データの配信先は、予め外部より制御された制御コマンドに対応するように設定しており、ネットワーク通信部12を介して外部機器へ動画像通信しているか、ストレージ13に順次動画データを記録している状態となっている。
前記に示すような動画撮像中に、ネットワーク通信部12、赤外線リモコン受信部、キー入力部15のいずれかより、前記動画像を構成する画像サイズより大きいサイズの静止画のキャプチャーを要求するコマンドをCPU9が受け付ける場合を説明する。
図8に示す静止画キャプチャーと記載した個所でコマンド受け付けたとした場合、キャプチャーコマンド受け付けから第1発目のVD(垂直同期信号)から画像処理部7にて画像処理が施された順に記録手段26で記録し、記憶手段である全画素メモリー23に順次画像処理が完了するまで記憶していく。同時に縮小手段27により縮小された画像を図8−gの圧縮手段の期間のタイミングで順次エンコード処理部10にてJPEG画像へ圧縮処理を実施する。
静止画用として前記記憶手段であるメモリー23に記憶してあるデータを所定のVD期間カウント後から図8−gの空欄部に示すような動画像圧縮処理期間以外の非圧縮動作期間でエンコード処理部10にデータを流し画像圧縮処理をしていく。静止画像を画像処理していく際に、静止画1枚分のデータを、予め設定してある画像エリアに対応して分割した画像毎に図8に示すような動画処理を実行していない非処理期間である動画フレーム単位期間の帰線期間中にほぼ対応した期間に分割して静止画像の圧縮処理を行なう。
本実施の形態の説明より、動画像データは、エンコード処理部10である画像圧縮処理部で、順次JPEG画像圧縮処理されMotionJPEG画像として構成され動画像は前記にて説明した動画撮像記録するためのストレージ13に格納するか、ネットワーク通信部12へデータを流す。
静止画像は、圧縮分割されている画像データを、画像合成手段25で1枚分の画像データとして合成完了後、通信の時はネットワーク通信部12にて1枚の静止画像として配信し、ストレージの際はストレージ13に1枚の静止画像として記録する。
ここで、エンコード処理部10で圧縮された静止画の画像データを1枚に合成してネットワーク配信及び、ストレージ記録するように構成しているが、前記にて分割圧縮した画像を分割したままネットワーク配信及びストレージ記録しても構わない構成とする。
また、本実施の形態の説明にて、外部からの静止画キャプチャーコマンドが静止画分割処理期間中に再度受け付けた場合(連写要求を含む)、全画素メモリー23の容量がオーバーフローしない範囲にて順次静止画キャプチャー動作を実行し続ける。
以上、本実施の形態を実現することで、第1の実施の形態と同様に、本実施の形態の第1の効果として、動画像撮像中に動画像より大きなサイズの静止画像をキャプチャーしたい時に、動画像のフレームレートを全く落とすことがなくネットワーク上へ配信可能あるいは記録可能となる。
第2の効果として、全画素メモリー6の容量範囲内で、動画撮像中の大画面静止画撮影の連写が可能となる。(VD単位で連続撮影可能となるので動画フレームと同じ速度の連写した画像を得ることができる。)
第3の効果として、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、上記制御の実現が可能となる。
第4の効果として、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。
第5の効果として、動画像構成用に縮小画像用バッファが不要であるため、第3の効果と第4の効果をより促進することが可能となる。
(第4の実施の形態)
本発明の第4の実施の形態を表す図として、図1、図9、図10であり、図1は本発明の撮像装置の全体概要を表すブロック図、図9は本実施の形態に関わる特徴を示すブロック図、図10は本実施の形態の特徴を表す各種処理タイミングチャートである。
図1において構成順に、1は光電変換素子である撮像素子(撮像素子として特に限定はしないが、CCD或いはCMOSセンサーのような撮像素子を表し、本実施の形態としては、動画に対応した動画用読み出しチャンネルと静止画読み出しに対応した静止画用読み出しチャンネルを有する撮像素子で、動画チャンネルは全画素データの内の動画に対応した画像サイズに合わせて画素間引き出力、或いは画素加算されたデータ読み出し可能なチャンネル、静止画チャンネルは動画像を構成する1フレーム時間内で全画素分のデータが読み出し可能なチャンネルを有する撮像素子である)である。
2はレンズ、3は撮像素子1であるCCD或いはCMOSセンサーからのアナログ撮像データを所定の量子化ビットに対応してデジタル変換するためのA/D変換を司るA/D変換部、4は撮像素子1とA/D変換部3のタイミングをコントロールするためのタイミングジェネレータ、5はA/D変換部3でA/D変換されたデータを動画像用信号と静止画像用信号とに振り分け、画像の縮小、画像のバッファリングをおこなう動画&静止画処理手段である。
6は5の動画&静止画処理手段にてデータ振り分けされた静止画用フレーム画像データを記憶するための画像データ記憶手段であるところのメモリー(本実施の形態ではRAMを示すがこれは一例であるため、アクセス速度が十分問題ないレベルの素子であればこの限りではない)、7は動画&静止画処理手段5から得られた動画像用データ及び、静止画用データの現像処理を行なう画像処理部である。
8は画像処理部7にて画像処理する際に処理データと未処理データを一時的に記憶するためのメモリー(本実施の形態ではRAMを示すがこれは一例であるため、アクセス速度が十分問題ないレベルの素子であればこの限りではない)、9は本実施の形態のシステムを制御するための制御手段であるところのCPUである。
10は画像処理部7にて画像処理されたデータを所定のフォーマットに応じて圧縮処理するためのエンコード処理部(画像フォーマットはJPEG、MPEG等規格に準拠したフォーマットであるため、特に限定はしないが本実施の形態ではJPEGエンコーダで説明する)、11は、エンコード処理部10で圧縮された動画データ及び静止画データを記録するかネットワーク上に通信するか否かを切り換える切り換え手段である。
12は外部ネットワークからの通信コマンドの通信やあるいは、図1の1〜11までの各ブロックにて処理された動画像、静止画像を外部へ配信あるいは通信するためのネットワーク通信部、13は本発明の撮像装置内に動画像又は静止画像データを記憶するための記憶手段であるところのストレージ(図1ではストレージと記載しているが、その他データ書き込み可能な不揮発性メモリー、メディア、ハードディスク等データ記憶出来るもの全般を示し、取り替え可能な物でも可であり特に限定はしない)である。14は外部からのリモコン制御コマンド受け付け用の赤外線リモコン受信部、15は、ユーザが外部から直接操作することが可能なキー入力部である。
前記構成において、A/D変換部3、タイミングジェネレータ4、動画&静止画処理手段5、画像処理部7、CPU9、エンコード処理部10、切り換え手段11の各ブロックをLSI化する際に1チップで構成されている構成である。また、1チップ化ではなく各処理ブロックを別々に構成したり、機器実装上都合の良いLSI構成にしても構わない。
次に、図9は、図1の1〜9に記載してあるブロックを詳細に説明するブロック図であり、図9の1、3、4、6、7、9は前記説明した図1の1、3、4、6、7、9に対応している。図9の17は、静止画用の読み出しチャンネルで読み出した全画素対応画像データを動画として構成する画像サイズに縮小処理する縮小手段、15は、撮像素子1の静止画モードに対応した全画素読み出しデータを記録する記録手段である。
18は縮小手段17からの縮小画像データを所定期間保持しデータのバッファリングをするバッファメモリー、19は、制御手段であるCPU9からの制御に応じて動画像と静止画像の画像処理を選択する選択手段、20は本システムの動作に必要なクロックを生成する発信器、21は発信器20の周波数を逓倍し高速周波数に設定するPLL回路である。
31は、A/D変換部3でA/D変換された撮像データを動画チャンネルと静止画チャンネル読み出しに対応してデータ処理ブロックの流れを切り換えるための切り換え手段、32は、切り換え手段31によって動画像チャネル読み出しモードで読みだされた画像をバッファリングするためのバッファである。前記図1と図9の構成において、図10に示すタイミングチャートにて処理の流れを説明する。
図10の信号順に上から、動画像を構成するための垂直同期信号であるVD、バッファ32で通常の動画像チャンネルより読み出した動画像データのバッファリング動作タイミングを示すh、全画素メモリー6と静止画像を記憶する記憶手段16へのデータ記録保存タイミングを示すi、縮小手段17とバッファ18で動画像を構成する画像を作り出すための縮小処理と縮小データのバッファリング動作タイミングを示すj、画像処理手段7で画像処理するタイミングを示すkである。
まず通常動画撮影時のデータの流れにて、図9の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。動画チャンネル設定にてタイミングジェネレータ4をコントロールすることで動画像サイズ対応した画素撮像データの読み出しを開始する。
次に、前記タイミングジェネレータ4のタイミングに応じてA/D変換部3でデジタル化したデータを読み出したデータ順に、切り換え手段31にデータを入力する。切り換え手段31は通常動画撮影時は動画モードに切り換えておく。
バッファメモリー32に一時的にバッファリングされた動画用画像データを、選択手段19で動画像を選択し、図10−hの動画バッファリング開始より所定時間経過後から図10−kに示す動画処理を画像処理手段7にて順次画像処理を実施する。この時に動画処理開始時間を所定時間遅らせた分、バッファ32にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。この時、PLL回路21にて高速クロックを供給し、画像処理手段7の高速処理を実現している。
前記説明にて画像処理する内容は通常現像処理のことを示し、画像のフィルタリング処理、輝度、色差等の補正処理を施し最適な画像を作り出す処理を行なう(処理内容の詳細は公知技術であり、各メーカ等での画像の考え方等により処理内容が異なるため説明は省略する。)。また、画像処理部7ではさまざまな画像処理を施しているため、順次各画像処理を時系列に接続する際に画像データを一時的にバッファリング用にメモリー8が存在し、画像処理部7をデータの受け渡しをしている(ここの画像処理部のメモリーアクセス等については公知技術のため説明は省略する。)。
次に、前記画像処理完了したデータは1VD期間であるフレーム期間内で1枚の画像を構成し、次の処理ブロックであるエンコード処理部10へとデータを流していく。エンコード処理部10では、前記で画像処理されたデータを予め設定してある所定の画像フォーマットであるJPEG形式に圧縮処理され、切り換え手段11で本撮像装置内部にあるストレージに記憶していくかあるいは、ネットワーク通信部12を介して、外部通信先へ通信する。
このような状態に本撮像装置があるのは、外部からの制御指示によりCPU9が動作し、動画撮影モードとなる。動画データの配信先は、予め外部より制御された制御コマンドに対応するように設定しており、ネットワーク通信部12を介して外部機器へ動画像通信しているか、ストレージ13に順次動画データを記録している状態となっている。
前記に示すような動画撮像中に、ネットワーク通信部12、赤外線リモコン受信部14、キー入力部のいずれかより、前記動画像を構成する画像サイズより大きいサイズの静止画のキャプチャーを要求するコマンドをCPU9が受け付ける場合を説明する。
図10に示す静止画キャプチャーと記載した個所でコマンド受け付けたとした場合、キャプチャーコマンド受け付けから次の1発目のVD(垂直同期信号)から撮像素子1を静止画像読み出し対応の全画素読み出しチャンネル読み出しに切り換える。切り換えは、タイミングジェネレータ4の読み出しタイミングを切り換えることで実現する。同時に切り換え手段31にて静止画読み出し用として記録手段15と、縮小手段17へ並列にデータを流す。このフレームは、静止画像データ記憶フレームと定め、A/D変換部3からの出力信号を読み出し順に記録手段15で記録を開始し、記憶手段であるメモリー6に順次読み出しが完了するまで記憶していく。
同時に前記にて説明した縮小手段17とバッファ18にて前のVD期間で読み出されていた動画像チャンネルと同サイズの画像の縮小とバッファリングは並行して処理している。キャプチャー制御信号受け付け時から次の1VDフレーム期間の動画像用データは、静止画像を縮小した画像を使用する。
その後、即次のVDフレームより前記記載した動画モード読み出しチャンネルに切り換え、画像処理手段7にて動画像処理を順次実施する。また、静止画像用データとして記憶された静止画用として記憶手段であるメモリー6に記憶してある静止画用記憶データを所定のVD期間カウント後(即、次のカウントを含む)から図9―kの空欄部に示すように、動画像処理期間以外の期間での画像処理手段7にデータを流し画像処理をしていく。
同一画像処理部にて動画処理時間に影響がないように、静止画像を画像処理していく際に、動画像より大きなサイズの静止画1枚分全てのデータ処理が出来ないため、予め設定してある画像エリアに対応して分割した画像毎に図3に示すような動画処理を実行していない非処理期間に分割して静止画処理を行なう。
本実施の形態では動画読み出しチャンネルによって読み出された動画像はVGAサイズ(640×480)を動画とし、静止画読み出しチャンネルによって読み出された静止画像静止画は縦横2倍の静止画像サイズ(全画素に対応したサイズ)1280×960で表しており、例として静止画像のサイズがもっと大きな画像サイズに対応する場合は、分割するエリア数を増やし、前記同様に静止画像を処理する。例として、1280×960の縦横比2倍の画像サイズの場合は16分割して静止画像の画像処理をする。但しこれは1例であり、静止画像サイズ、動画像サイズに応じて前記分割数を設定するように構成する。
前記より動画像データは、エンコード処理部10である画像圧縮処理部で、順次JPEG画像圧縮処理されモーションJPEG画像として構成する。圧縮処理後、動画像は前記にて説明した動画撮像記録するためのストレージ13に格納するか、ネットワーク通信部12へデータを流す。
静止画像は、分割されている画像データを一度画像処理部7でメモリー8に順次記憶し1枚分の画像データ記憶完了後に静止画像としてエンコード処理部10へ流しJPEG圧縮処理する。この時静止画のエンコード処理ブロックを、1ブロックとした場合は、動画像通信或いはストレージ終了コマンド受け付け後に、通信の時はネットワーク通信部12にて1枚の静止画像として配信し、ストレージの時はストレージに1枚の静止画像として記録する(但し、エンコード処理部10が高速処理可能なブロックである場合は、ストレージコマンド受け付け後にストレージやネットワーク配信を行なわずに、1枚分画像処理後に動画圧縮処理の非圧縮処理期間で1枚分を圧縮処理するように構成しても構わない)。
また、前記説明にて、外部からの静止画キャプチャーコマンドが静止画分割処理期間中に再度受け付けた場合(連写要求を含む)、全画素メモリー6及び、メモリー8の容量がオーバーフローしない範囲にて順次静止画キャプチャー動作を実行し続ける。
以上、本実施の形態を実現することで、第1の実施の形態と同様に、本実施の形態の第1の効果として、動画像撮像中に動画像より大きなサイズの静止画像をキャプチャーしたい時に、動画像のフレームレートを全く落とすことがなくネットワーク上へ配信可能あるいは記録可能となる。
第2の効果として、全画素メモリー6の容量範囲内で、動画撮像中の大画面静止画撮影の連写が可能となる(VD単位で連続撮影可能となるので動画フレームと同じ速度の連写した画像を得ることができる。)。
第3の効果として、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、前記制御の実現が可能となる。
第4の効果として、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。
第5の効果として、動画像を構成するために静止画像を縮小処理する期間が静止画全画素読み出し中のVD期間のみに限定されるため、動画像処理時の省電力化が計れる。
(第5の実施の形態)
本発明の第5の実施の形態を表す図として、図11、図12、図13であり、図11は本発明の撮像装置の全体概要を表すブロック図、図12は本実施の形態に関わる特徴を示すブロック図、図13は本実施の形態の特徴を表す各種処理タイミングチャートである。
図11の構成順に、1は光電変換素子である撮像素子1(撮像素子として特に限定はしないが、CCD或いはCMOSセンサーのような撮像素子を表し、本実施の形態としては、動画に対応した動画用読み出しチャンネルと静止画読み出しに対応した静止画用読み出しチャンネルを有する撮像素子で、動画チャンネルは全画素データの内の動画サイズに対応した画素間引あるいは画素加算されたデータ読み出し可能なチャンネル、静止画チャンネルは、静止画用の露光期間を必要とし、露光期間とは別の期間にて動画像を構成する複数のフレーム期間で全画素分のデータが読み出し可能なチャンネルを有する撮像素子である。主に、300万画素〜400万画素程度のセンサーにて2フレーム期間で全画素読み出し可能な撮像素子)である。
図11の2〜15までの構成は、前記第1の実施の形態に記載の図1の2〜15に対応している。33は、前記撮像素子1のセンサー読み出し期間中に外部からの光を物理的に閉じるメカシャッターである。
前記構成において、A/D変換部3、タイミングジェネレータ4、動画&静止画処理手段5、画像処理手段7、CPU9、エンコード処理部10、切り換え手段11の各ブロックをLSI化する際に1チップで構成されている構成である。また、1チップ化ではなく各処理ブロックを別々に構成したり、機器実装上都合の良いLSI構成にしても構わない。
次に、図12は、図11の1〜9に記載してあるブロックを詳細に説明するブロック図であり、図12の1、3、4、6、7、9は前記説明した図1の1、3、4、6、7、9に対応している。17は、静止画用の読み出しチャンネルで読み出した全画素対応画像データを動画として構成する画像サイズに縮小処理する縮小手段、15は、撮像素子1の静止画モードに対応した全画素読み出しデータを記録する記録手段である。
18は縮小手段17からの縮小画像データを所定期間保持しデータのバッファリングをするバッファメモリー、19は、制御手段であるCPU9からの制御に応じて動画像と静止画像の画像処理を選択する選択手段、20は本システムの動作に必要なクロックを生成する発信器、21は発信器20の周波数を逓倍し高速周波数に設定するPLL回路である。
31は、A/D変換部3でA/D変換された撮像データを動画チャンネルと静止画チャンネル読み出しに対応してデータ処理ブロックの流れを切り換えるための切り換え手段、32は、切り換え手段31によって動画像チャネル読み出しモードでよみだされた画像をバッファリングするためのバッファメモリーである。
33は、図11の33に対応しており、前記撮像素子1のセンサー読み出し期間中に外部からの光を物理的に閉じるメカシャッターである。前記図11と図12の構成において、図13に示すタイミングチャートにて処理の流れを説明する。
図13の信号順に上から、動画像を構成するための垂直同期信号であるVD、メカシャッター33の開閉タイミングを示すl、撮像素子1のCCDの読み出しモードを表すタイミングm、全画素メモリー6と静止画像を記憶する記憶手段16へのデータ記録保存タイミングを示すn、バッファメモリー32で通常の動画像チャンネルより読み出した動画像データのバッファリング動作タイミングを示すo、縮小手段17とバッファ18でCCDの静止画像チャンネルより読み出した静止画像データから動画像を構成する画像を作り出すための縮小処理と縮小データのバッファリング動作タイミングを示すp、画像処理手段7で画像処理するタイミングを示すqである。
まず通常動画撮影時のデータの流れにて、図13の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。メカシャッター33を開放した状態で、動画チャンネル設定にて図12−4のタイミングジェネレータ4をコントロールすることで動画像サイズ対応した画素撮像データの読み出しを開始する。
次に、前記タイミングジェネレータ4のタイミングに応じて、A/D変換部3でデジタル化したデータを読み出したデータ順に、切り換え手段31にデータを入力する。切り換え手段31では通常動画撮影時は動画モードに切り換えておく。
バッファメモリー32に一時的にバッファリングされた動画用画像データを、選択手段19で動画像を選択し、図13のoの動画バッファリング開始より所定時間経過後から図13のqに示す動画処理を画像処理手段7にて順次画像処理を実施する。この時に動画処理開始時間を所定時間遅らせた分、バッファ32にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。この時、PLL回路21にて高速クロックを供給し、画像処理手段7の高速処理を実現している。
前記説明にて画像処理する内容は通常現像処理のことを示し、画像のフィルタリング処理、輝度、色差等の補正処理を施し最適な画像を作り出す処理を行なう(処理内容の詳細は公知技術であり、各メーカ等での画像の考え方等により処理内容が異なるため説明は省略する。)。
また、画像処理部7ではさまざまな画像処理を施しているため、順次各画像処理を時系列に接続する際に画像データを一時的にバッファリング用にメモリー8が存在し、画像処理手段7をデータの受け渡しをしている(ここの画像処理部のメモリーアクセス等については公知技術のため説明は省略する。)。
次に、前記画像処理完了したデータは1VD期間であるフレーム期間内で1枚の画像を構成し、次の処理ブロックであるエンコード処理部10へとデータを流していく。エンコード処理部10では、前記で画像処理されたデータを予め設定してある所定の画像フォーマットであるJPEG形式に圧縮処理され、切り換え手段11で本撮像装置内部にあるストレージ13に記憶していくかあるいは、ネットワーク通信部12を介して、外部通信先へ通信する。
このような状態に本撮像装置があるのは、外部からの制御指示によりCPU9が動作し、動画撮影モードとなる。動画データの配信先は、予め外部より制御された制御コマンドに対応するように設定しており、ネットワーク通信部12を介して外部機器へ動画像通信しているか、ストレージ13に順次動画データを記録している状態となっている。
前記に示すような動画撮像中に、ネットワーク通信部12、赤外線リモコン受信部14、キー入力部15のいずれかより、前記動画像を構成する画像サイズより大きいサイズの静止画のキャプチャーを要求するコマンドをCPU9が受け付ける場合を説明する。
図13に示す静止画キャプチャーと記載した個所でコマンド受け付けたとした場合、キャプチャーコマンド受け付けから次の1発目の1VD(垂直同期信号)期間は、撮像素子1であるCCDを静止画像読み出し対応の全画素露光期間に設定する。その間は、メカシャッター33は図13のlに示すように開放のままで、前記CCDの露光期間中、その他の処理回路ブロックへはデータは流さない状態となる。
次のVDフレーム信号に応じて、撮像素子1であるCCDは画像データを読み出し可能になる。ここで前記の露光期間に開放していたメカシャッター33をVD信号に同期して閉じる。1VD期間前にて露光されたデータを静止画像に対応した画像データの1/2画像分が図13に記載してある(1)の部分のVD信号に同期した時点から読み出し開始と順次記録手段15にて記録し、メモリー6へ記憶する。次の図13に記載してある(2)の部分のVD期間で残りの1/2が画素分を読み出し前記1/2画素同様に順次記録手段15にて記録し、メモリー6へ記憶する。
図13のpにて、(1)+(2)で示す時点より上記静止画像の処理動作と並行して、縮小手段17で画像縮小とバッファ18で縮小画像の一時的なバッファリングを行ない処理された画像を動画像用として構成する。
バッファ18で一時的にバッファリングされた動画用画像データを、選択手段19で動画像を選択し、図3−bの動画バッファリング開始より所定時間経過後から図13−qに示す動画処理を画像処理手段7にて順次画像処理を実施する。この時に動画処理開始時間を所定時間遅らせた分、バッファ18にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。
その後、即次のVD信号タイミングに同期してメカシャッター33を開放し同時に、VDフレームより前記記載した動画モード読み出しチャンネルに切り換え、画像処理部7にて動画像処理を順次実施する。
また、静止画像用データとして記憶された静止画用として記憶手段であるメモリー6に記憶してある静止画用記憶データを所定のVD期間カウント後(即、次のカウントを含む)から図13―qの空欄部に示すように、前記動画像処理期間以外の期間で画像処理部7にデータを流し画像処理をしていく。
同一画像処理部にて動画処理時間に影響がないように、静止画像を画像処理していく際に、動画像より大きなサイズの静止画1枚分全てのデータ処理が出来ないため、予め設定してある画像エリアに対応して分割した画像毎に図13に示すような動画処理を実行していない非処理期間に分割して静止画処理を行なう。
ここで、上記静止画像に対応した全画素を読み出すモードについて、原色カラーフィルターで且つ、RGBの画素配列がベイヤー配列のインターレス読み出し方式CCDの場合を例として説明すると、静止画像の読み出し時に、第1フィールドは、画素奇数ライン分の信号成分であるR,Gr,R,Gr・・・、第2フィールドでは画素偶数ライン分の信号成分Gb,B,Gb,B・・・というふうに順に読み出すように構成されている。
動画フレーム期間の1VD期間では前記第1フィールドのみ、次のVD期間で残りの第2フィールドの画像を読み出すため、1VD期間ではR成分とGr成分しか読み出すことが出来ない。従って、第2フィールド読み出し開始から順次Gb,B,Gb,B・・・と読み出した後のデータと前記メモリー6に記憶しているデータとを参照してからしか画像を構成し次の処理へ進むように構成している。
画像処理部7以降の図11の10〜13の各ブロックの処理の流れ及び処理タイミングについては、第1の実施の形態に記載の図1の10〜13の各ブロックの処理内容に対応しており全く同一な処理を実行する。
本実施の形態では、CCD露光期間中の動画を構成するフレームと、CCD読み出し時の最初の1フレーム期間は画像データの更新が出来ない状態でこの期間のみ動画像がブラックアウトすることとなる。動画像のブラックアウト期間は、CCD露光フレーム期間の1つ前の期間の画像を順次動画像とするように構成する。
以上の説明より、本実施の形態を実現することでの第1の効果として、メカシャッター33が必要な撮像素子1における動画像撮像中に静止画像をキャプチャーしたい時に、動画像としてブラックアウトするフレームを少なくすることが出来、動画像としての違和感の少ない画像を提供することが可能となる。
第2の効果として、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、前記制御の実現が可能となる。
第3の効果として、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。
(第6の実施の形態)
本発明の第6の実施の形態を表す図として、図11、図12、図14であり、図11は本発明の撮像装置の全体概要を表すブロック図、図12は本実施の形態に関わる特徴を示すブロック図、図14は本実施の形態の特徴を表す各種処理タイミングチャートである。
図11の構成はとして、光電変換素子である撮像素子1(撮像素子として特に限定はしないが、CCD或いはCMOSセンサーのような撮像素子を表し、本実施の形態としては、動画に対応した動画用読み出しチャンネルと静止画読み出しに対応した静止画用読み出しチャンネルを有する撮像素子で、動画チャンネルは全画素データの内の動画サイズに対応した画素間引或いは画素加算されたデータ読み出し可能なチャンネル、静止画チャンネルは、静止画用の露光期間を必要とし、露光期間とは別の期間にて動画像を構成する複数のフレーム期間で全画素分のデータが読み出し可能なチャンネルを有する撮像素子である。主に、400万画素以上のセンサーにて3フレーム期間で全画素読み出し可能な撮像素子)である。
図11の2以降の構成は前記第5の実施の形態と同一の構成であるため、構成の説明は前記第5の実施の形態参照のこと。次に、図12に示す構成要件も前記第5の実施の形態に記載の図12と全く同一の構成であるため、前記第5の実施の形態参照のこと。上記図11と図12の構成において、図14に示すタイミングチャートにて処理の流れを説明する。
図14の信号順に上から、動画像を構成するための垂直同期信号であるVD、メカシャッター33の開閉タイミングを示すl、撮像素子1であるCCDの読み出しモードを表すタイミングm、全画素メモリー6と静止画像を記憶する記憶手段16へのデータ記録保存タイミングを示すn、バッファ32で通常の動画像チャンネルより読み出した動画像データのバッファリング動作タイミングを示すo、縮小手段17とバッファ18でCCDの静止画像チャンネルより読み出した静止画像データから動画像を構成する画像を作り出すための縮小処理と縮小データのバッファリング動作タイミングを示すp、画像処理手段7で画像処理するタイミングを示すqである。
まず通常動画撮影時のデータの流れにて、図14の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。メカシャッター33を開放した状態で、動画チャンネル設定にてタイミングジェネレータ4をコントロールすることで動画像サイズ対応した画素撮像データの読み出しを開始する。
次に、タイミングジェネレータ4のタイミングに応じてA/D変換部3でデジタル化したデータを読み出したデータ順に、切り換え手段31にデータを入力する。切り換え手段31では通常動画撮影時は動画モードに切り換えておく。
バッファメモリー32に一時的にバッファリングされた動画用画像データを、選択手段19で動画像を選択し、図14−oの動画バッファリング開始より所定時間経過後から図13−qに示す動画処理を画像処理手段7にて順次画像処理を実施する。この時に動画処理開始時間を所定時間遅らせた分、バッファ32にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。
この時、PLL回路21にて高速クロックを供給し、画像処理手段7の高速処理を実現している。前記説明にて画像処理する内容は通常現像処理のことを示し、画像のフィルタリング処理、輝度、色差等の補正処理を施し最適な画像を作り出す処理を行なう(処理内容の詳細は公知技術であり、各メーカ等での画像の考え方等により処理内容が異なるため説明は省略する。)。
また、画像処理部7ではさまざまな画像処理を施しているため、順次各画像処理を時系列に接続する際に画像データを一時的にバッファリング用にメモリー8が存在し、画像処理部7をデータの受け渡しをしている(ここの画像処理部のメモリーアクセス等については公知技術のため説明は省略する。)。
次に、前記画像処理完了したデータは1VD期間であるフレーム期間内で1枚の画像を構成し、次の処理ブロックであるエンコード処理部10へとデータを流していく。エンコード処理部10では、前記で画像処理されたデータを予め設定してある所定の画像フォーマットであるJPEG形式に圧縮処理され、切り換え手段11で本撮像装置内部にあるストレージに記憶していくかあるいは、ネットワーク通信部12を介して、外部通信先へ通信する。
このような状態に本撮像装置があるのは、外部からの制御指示によりCPU9が動作し、動画撮影モードとなる。動画データの配信先は、予め外部より制御された制御コマンドに対応するように設定しており、ネットワーク通信部12を介して外部機器へ動画像通信しているか、ストレージ13に順次動画データを記録している状態となっている。
前記に示すような動画撮像中に、ネットワーク通信部12、赤外線リモコン受信部14、キー入力部15のいずれかより、前記動画像を構成する画像サイズより大きいサイズの静止画のキャプチャーを要求するコマンドをCPU9が受け付ける場合を説明する。
図13に示す静止画キャプチャーと記載した個所でコマンド受け付けたとした場合、キャプチャーコマンド受け付けから次の1発目の1VD(垂直同期信号)期間は、撮像素子1であるCCDを静止画像読み出し対応の全画素露光期間に設定する。その間は、メカシャッター33は図14−lに示すように開放のままで、前記CCDの露光期間中、その他の処理回路ブロックへはデータは流さない状態となる。
次のVDフレーム信号に応じて、撮像素子1であるCCDは画像データを読み出し可能になる。ここで前記の露光期間に開放していたメカシャッター33をVD信号に同期して閉じる。1VD期間前にて露光されたデータを静止画像に対応した画像データの1/3画像分が図14に記載してある(1)の部分のVD信号に同期した時点から読み出し開始と順次記録手段15にて記録し、メモリー6へ記憶する。
次の図14に記載してある(2)の部分のVD期間で1/3の画素分を読み出し前記(1)部分の1/3画素同様に順次記録手段15にて記録し、メモリー6へ記憶する。次の図14に記載してある(3)の部分のVD期間で最後の1/3の画素分を読み出し前記(3)部分の1/3画素同様に順次記録手段15にて記録し、メモリー6へ記憶する。
図14のpにて、(1)+(2)+(3)で示す時点より上記静止画像の処理動作と並行して、縮小手段17で画像縮小とバッファ18で縮小画像の一時的なバッファリングを行ない処理された画像を動画像用として構成する。バッファ18で一時的にバッファリングされた動画用画像データを、選択手段19で動画像を選択し、図3−bの動画バッファリング開始より所定時間経過後から図13−qに示す動画処理を画像処理手段7にて順次画像処理を実施する。この時に動画処理開始時間を所定時間遅らせた分、バッファ18にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。
その後、即次のVD信号タイミングに同期してメカシャッター33を開放し同時に、VDフレームより前記記載した動画モード読み出しチャンネルに切り換え、画像処理部7にて動画像処理を順次実施する。
また、静止画像用データとして記憶された静止画用として記憶手段であるメモリー6に記憶してある静止画用記憶データを所定のVD期間カウント後(即、次のカウントを含む)から図14―qの空欄部に示すように、前記動画像処理期間以外の期間で画像処理部7にデータを流し画像処理をしていく。
同一画像処理部にて動画処理時間に影響がないように、静止画像を画像処理していく際に、動画像より大きなサイズの静止画1枚分全てのデータ処理ができないため、予め設定してある画像エリアに対応して分割した画像毎に図14に示すような動画処理を実行していない非処理期間に分割して静止画処理を行なう。
ここで、上記静止画像に対応した全画素を読み出すモードについて、原色カラーフィルターで且つ、RGBの画素配列がベイヤー配列のインターレス読み出し方式CCDの場合を例として説明すると、静止画像の読み出し時に、3つのフィールドにまたがり画素を読み出す方式であり、第1フィールドラインと第2フィールドラインと第3フィールドラインで信号成分から構成され、第1フィールド1ライン目はR,Gr,R,Gr・・・、第1フィールド2ライン目は、通常CCD画素4ライン目(1(ライン目)+3(フィールド分))の読み出しとなりGb,B,Gb,B・・・という順に読み出す。
次のラインでは、逆にR,Gr,R,Gr・・・というように、同一フィールドでライン毎に参照データが異なるように構成され、同様に、第2フィールド1ライン目は第1フィールドと逆の読み出し順に構成される。また同様に第3フィールドでは、第1フィールドと同様な読み出し順で、CCD画素3ライン目から+3ライン分ずらした画素の信号成分という順に読み出すように構成されている。
動画フレーム期間の1VD期間では前記第1フィールドのみ、次のVD期間で第2フィールドの画像のみ、その次のVD期間で第3フィールドの画像を読み出すため、読み出し開始から2VDでは全ての画面分の画素を読み出すことが出来ない。従って、第3フィールド読み出し開始から順次読み出した後のデータと前記メモリー6に記憶しているデータとを参照してからしか画像を構成し次の処理へ進むように構成している。
画像処理部7以降の図11の10〜13の各ブロックの処理の流れ及び処理タイミングについては、前記第1の実施の形態に記載の図1の1013の各ブロックの処理内容に対応しており全く同一な処理を実行する。
本実施の形態も前記第5の実施の形態と同様に、CCD露光期間中の動画を構成する露光フレームと、CCD読み出し時に動画像を構成する第1のフレームと第2フレーム期間分と合計3フレーム期間は画像データの更新ができない状態でこの期間のみブラックアウトすることとなる。動画像のブラックアウト期間は、CCD露光フレーム期間の1つ前の期間の画像を順次動画像とするように構成する。
以上の説明より、本実施の形態を実現することでの第1の効果として、メカシャッター33が必要な撮像素子1における動画像撮像中に静止画像をキャプチャーしたい時に、動画像としてブラックアウトするフレームを少なくすることができ、動画像としての違和感の少ない画像を提供することが可能となる。
第2の効果として、画像処理回路ブロックを複数持つ必要がないため、LSI化する際に回路規模を増大させる必要がなく、上記制御の実現が可能となる。
第3の効果として、回路規模の増大を防ぐことで、回路の消費電力の低減が可能となる。
第4の効果として、あらゆる高画素撮像素子に対応可能な処理を実現することが出来る。
(第7の実施の形態)
本発明の第7の実施の形態を表す図として、図1、図2、図15でありのタイミングチャートを示し、図1は前記第1の実施の形態に記載の構成と同一構成、図2も前記第1の実施の形態に記載の構成と同一構成である。内容として異なる部分は、図2のPLL回路21であり、前記第1の実施の形態に示すPLL回路21より逓倍率を上げた物で構成し、前記PLLクロックにて動作する各ブロックの動作を高速化した構成である。
前記構成において、図15に示すタイミングチャートにて処理の流れを説明する。
図15の信号順に上から、動画像を構成するための垂直同期信号であるVD、縮小手段17とバッファ18で動画像を構成する画像を作り出すための縮小処理と縮小データのバッファリング動作タイミングを示すb、全画素メモリー6と16にて静止画像を記憶する記憶手段16へのデータ記録保存タイミングを示すa、画像処理手段7で画像処理するタイミングを示すcである。
まず通常動画撮影時のデータの流れにて、図15の静止画キャプチャーと記載してあるポイント下矢印部までの期間は動画撮像期間を表し、VD信号と次のVD信号間のタイミングが動画を構成する単位フレーム期間を表す。全画素読み出しに対応した撮像素子1をタイミングジェネレータ4をコントロールすることで全画素に対応した撮像データの読み出しを開始する。
次に、前記タイミングジェネレータ4のタイミングに応じて、A/D変換部3でデジタル化したデータを読み出したデータ順に、縮小手段17で画像縮小とバッファ18で縮小画像の一時的なバッファリングを行ない処理された画像を動画像用として構成する。
バッファ18で一時的にバッファリングされた動画用画像データを、選択手段19で動画像を選択し、図3−bの動画バッファリング開始より所定時間経過後から図3−cに示す動画処理を画像処理手段7にて順次画像処理を実施する。ここでの所定時間分は、前記第1の実施の形態に記載の所定時間分より長い時間分、動画処理開始時間を遅らせる。
バッファ18にてバッファリングされるデータを追い越さないような時間に設定し動画フレーム以内に収まる範囲内で高速に動画像処理を行なう。PLL回路21にて高速クロックは前記第1の実施の形態のPLL回路ブロックより逓倍率を向上させているため、より動画像の高速処理が可能となる。他に示す各ブロックの処理内容と信号の流れは前記第1の実施の形態に記載の内容と同一である。
但し、本実施の形態では、上記に示すように動画の処理速度を上げているため、静止画像として構成されるフレーム画素データを動画処理の非処理期間にてエリア毎に分割して画像処理する際に、非処理期間が広がる。非処理期間が広がることで、図15の空欄部に分割する際に、分割量が少なくなる。図15では2VD期間で処理が可能となる例を示している。
また、本実施の形態では、前記第1の実施の形態の構成例にて説明したが、前記第2、3、4、5、6の実施の形態にも同じ事が言え、動画のバッファリング後の動画像処理を高速化することで、静止画処理の分割する期間を削減するように構成する。また、静止画連写コマンド受け付け時に、連写出来るフレーム枚数が多く処理するように構成する。
以上の説明より、本実施の形態を実現することでの第1の効果として、動画像撮像中に動画像より大きなサイズの静止画像をキャプチャーしたい時に、動画像のフレームレートを全く落とすことがなくネットワーク上へ配信可能あるいは記録可能となる。
第2の効果として、静止画の分割数を少なく処理することが可能となり、静止画処理期間を短縮することができる。
第3の効果として、大画面静止画連写コマ数を拡大することが可能となる。
第4の効果として、大画面静止画連写が規定コマ数以内なら全画素メモリー6の容量を削減することが可能となる。
(本発明に係る他の実施の形態)
前述した本発明の実施の形態における撮像装置を構成する各手段、並びに撮像方法の各ステップは、コンピュータのRAMやROMなどに記憶されたプログラムが動作することによって実現できる。このプログラム及び前記プログラムを記録したコンピュータ読み取り可能な記録媒体は本発明に含まれる。
また、本発明は、例えば、システム、装置、方法、プログラムもしくは記録媒体等としての実施の形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、一つの機器からなる装置に適用してもよい。
なお、本発明は、前述した実施の形態の機能を実現するソフトウェアのプログラム(実施の形態では図1〜15に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接、あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM、DVD−R)などがある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、前記ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。
また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記録媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施の形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施の形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリーに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によっても前述した実施の形態の機能が実現される。
本発明の第1、2、4、7の実施の形態における撮像装置の全体構成ブロック図である。 本発明の第1及び第7の実施の形態を表す構成ブロック図である。 本発明の第1の実施の形態を表すタイミングチャートを示す図である。 本発明の第2の実施の形態を表す構成ブロック図である。 本発明の第2の実施の形態を表すタイミングチャートを示す図である。 本発明の第3の実施の形態を表す撮像装置の全体構成ブロック図である。 本発明の第3の実施の形態を表す構成ブロック図である。 本発明の第3の実施の形態を表すタイミングチャートを示す図である。 本発明の第4の実施の形態を表す構成ブロック図である。 本発明の第4の実施の形態を表すタイミングチャートを示す図である。 本発明の第5及び第6の実施の形態を表す撮像装置の全体構成ブロック図である。 本発明の第5及び第6の実施の形態を表す構成ブロック図である。 本発明の第5の実施の形態を表すタイミングチャートを示す図である。 本発明の第6の実施の形態を表すタイミングチャートを示す図である。 本発明の第7の実施の形態を表すタイミングチャートを示す図である。
符号の説明
1 撮像素子
2 レンズ
3 A/Dコンバータ
4 タイミングジェネレータ
5 動画&静止画処理手段
6 全画素メモリー
7 画像処理部
8 メモリー
9 CPU
10 エンコード処理部、
11 切り換え手段
12 ネットワーク通信部
13 ストレージ
14 赤外線リモコン受信部
15 キー入力部
16 記録手段
17 縮小手段
18 バッファメモリー、
19 選択手段
20 CLK(発信器)
21 PLL回路
23 メモリー
24 動画&静止画処理手段
25 画像合成手段
26 記録手段
27 縮小手段
28 切り換え手段
29 CRK(発信器)
30 PLL回路
31 切り換え手段
32 バッファメモリー
33 シャッター

Claims (6)

  1. フレームごとの画像データを取得する撮像手段と、
    前記撮像手段より得られた前記フレームごとの撮像データの画像サイズを縮小する縮小手段と、
    前記縮小手段にて縮小された縮小画像データから動画データを生成するための画像処理をする動画処理手段と、
    前記動画データの生成中に静止画の撮像指示を入力する入力手段と、
    前記動画データの生成中における静止画の撮像指示の入力に応じて、当該入力時に前記撮像手段が取得中のフレームよりも後に取得を開始したフレームの画像データであって前記縮小手段により縮小されていない画像データを記憶する記憶手段と、
    前記動画データの生成中に静止画の撮像指示が入力された場合、前記記憶手段に記憶された前記縮小されていない画像データであって、当該入力時に前記撮像手段が取得中のフレームよりも後に取得を開始したフレームの画像データに対して、前記動画処理手段が動画データを生成するための画像処理を行っていない期間に、静止画データを生成するための画像処理をする静止画処理手段と
    を有することを特徴とする撮像装置。
  2. 前記縮小手段により縮小されていない画像データを複数に分割する分割手段を有し、
    前記静止画処理手段は、前記分割手段により分割された第1の分割画像データの画像処理を、第1の動画フレームと第2の動画フレームの画像処理の間に行い、前記分割された第2の分割画像データの画像処理を、前記第2の動画フレームと第3の動画フレームの画像処理の間に行うことを特徴とする請求項1に記載の撮像装置。
  3. 前記動画処理手段は、前記縮小画像データの画像処理を前記縮小画像データの取得開始から所定時間経過後に開始することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記静止画処理手段は、前記縮小されていない画像データが取得されてから、前記動画処理手段が所定フレーム分の画像処理をした後に、前記縮小されていない画像データの画像処理を開始することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 撮像装置が行う撮像方法であって、
    所定期間ごとの画像データを取得する撮像工程と、
    前記撮像工程より得られた前記所定期間ごとの撮像データの画像サイズを縮小する縮小工程と、
    前記縮小工程にて縮小された縮小画像データから動画データを生成するための画像処理をする動画処理工程と、
    前記動画データの生成中に静止画の撮像指示を入力する入力工程と、
    前記動画データの生成中における静止画の撮像指示の入力に応じて、当該入力時に前記撮像工程が取得中のフレームよりも後に取得を開始したフレームの画像データであって前記縮小工程により縮小されていない画像データを記憶手段に記憶させる記憶工程と、
    前記動画データの生成中に静止画の撮像指示が入力された場合、前記記憶手段に記憶された前記縮小されていない画像データであって、当該入力時に前記撮像工程が取得中のフレームよりも後に取得を開始したフレームの画像データに対して、前記動画処理工程が動画データを生成するための画像処理を行っていない期間に、静止画データを生成するための画像処理をする静止画処理工程と
    を有することを特徴とする撮像方法。
  6. コンピュータに、
    所定期間ごとの画像データを取得する撮像手順と、
    前記撮像手順より得られた前記所定期間ごとの撮像データの画像サイズを縮小する縮小手順と、
    前記縮小手順にて縮小された縮小画像データから動画データを生成するための画像処理をする動画処理手順と、
    前記動画データの生成中に静止画の撮像指示を入力する入力手順と、
    前記動画データの生成中における静止画の撮像指示の入力に応じて、当該入力時に前記撮像手順が取得中のフレームよりも後に取得を開始したフレームの画像データであって前記縮小手順により縮小されていない画像データを記憶手段に記憶させる記憶手順と、
    前記動画データの生成中に静止画の撮像指示が入力された場合、前記記憶手段に記憶された前記縮小されていない画像データであって、当該入力時に前記撮像手順が取得中のフレームよりも後に取得を開始したフレームの画像データに対して、前記動画処理手順が動画データを生成するための画像処理を行っていない期間に、静止画データを生成するための画像処理をする静止画処理手順と
    を実行させることを特徴とするプログラム。
JP2005133185A 2005-04-28 2005-04-28 撮像装置、撮像方法及びプログラム Active JP4902136B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005133185A JP4902136B2 (ja) 2005-04-28 2005-04-28 撮像装置、撮像方法及びプログラム
US11/413,148 US8130279B2 (en) 2005-04-28 2006-04-28 Image sensing apparatus sensing moving and still images, method thereof, storage medium and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005133185A JP4902136B2 (ja) 2005-04-28 2005-04-28 撮像装置、撮像方法及びプログラム

Publications (3)

Publication Number Publication Date
JP2006311347A JP2006311347A (ja) 2006-11-09
JP2006311347A5 JP2006311347A5 (ja) 2008-06-19
JP4902136B2 true JP4902136B2 (ja) 2012-03-21

Family

ID=37449169

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005133185A Active JP4902136B2 (ja) 2005-04-28 2005-04-28 撮像装置、撮像方法及びプログラム

Country Status (2)

Country Link
US (1) US8130279B2 (ja)
JP (1) JP4902136B2 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4890880B2 (ja) * 2006-02-16 2012-03-07 キヤノン株式会社 画像送信装置,画像送信方法,プログラム,および記憶媒体
JP2008146624A (ja) * 2006-11-15 2008-06-26 Sony Corp コンテンツのフィルタリング方法、フィルタリング装置およびフィルタリングプログラム
JP2008134866A (ja) * 2006-11-29 2008-06-12 Sony Corp コンテンツ閲覧方法、コンテンツ閲覧装置およびコンテンツ閲覧プログラム
JP4898589B2 (ja) 2007-07-26 2012-03-14 株式会社日立製作所 画像圧縮方法、および、画像処理装置
US20090175547A1 (en) * 2008-01-08 2009-07-09 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
JP5014168B2 (ja) * 2008-01-15 2012-08-29 キヤノン株式会社 撮像システム及び撮像システムの制御方法
JP4587185B2 (ja) * 2008-02-27 2010-11-24 キヤノン株式会社 撮像システム及び撮像装置の制御方法
JP5224925B2 (ja) * 2008-06-18 2013-07-03 キヤノン株式会社 撮像装置
JP2010145810A (ja) * 2008-12-19 2010-07-01 Eastman Kodak Co 表示装置
KR101611531B1 (ko) * 2009-11-13 2016-04-12 삼성전자주식회사 촬영장치 및 촬영영상 제공방법
US8531537B2 (en) * 2010-09-08 2013-09-10 Olympus Corporation Imaging apparatus for processing still picture signals and live view signals output from an image sensor
JP5718069B2 (ja) * 2011-01-18 2015-05-13 オリンパス株式会社 固体撮像装置および撮像装置
CN103379275B (zh) * 2012-04-16 2019-01-11 三星电子株式会社 摄像机的图像处理装置和方法
KR101917650B1 (ko) * 2012-08-03 2019-01-29 삼성전자 주식회사 이미지 처리 방법 및 장치
US20140078343A1 (en) * 2012-09-20 2014-03-20 Htc Corporation Methods for generating video and multiple still images simultaneously and apparatuses using the same
JP6021594B2 (ja) * 2012-11-08 2016-11-09 オリンパス株式会社 撮像装置及びプログラム
JP6242064B2 (ja) 2013-03-28 2017-12-06 オリンパス株式会社 画像処理装置
JP6235788B2 (ja) * 2013-04-10 2017-11-22 キヤノン株式会社 撮像装置及びその制御方法
US8830367B1 (en) * 2013-10-21 2014-09-09 Gopro, Inc. Frame manipulation to reduce rolling shutter artifacts
DE102016109179B4 (de) 2015-05-29 2023-08-03 Canon Kabushiki Kaisha Bildaufnahmeeinrichtung und Bildgebungsvorrichtung
JP6239026B2 (ja) * 2015-05-29 2017-11-29 キヤノン株式会社 撮像素子および撮像装置
JP6672006B2 (ja) * 2016-02-18 2020-03-25 オリンパス株式会社 撮像装置
JP6808350B2 (ja) * 2016-05-12 2021-01-06 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体
CN105959557B (zh) * 2016-06-07 2019-05-10 深圳市万普拉斯科技有限公司 拍照方法和装置
CN109792494B (zh) * 2016-10-04 2021-01-08 富士胶片株式会社 摄像装置、静态图像摄像方法及记录介质
JP2018133710A (ja) * 2017-02-15 2018-08-23 キヤノン株式会社 画像処理装置および撮像装置
US10863088B2 (en) * 2018-06-25 2020-12-08 Canon Kabushiki Kaisha Image capturing apparatus and control method for capturing still images without interrupting video recordings
US11064113B1 (en) 2018-12-27 2021-07-13 Gopro, Inc. Image capture device with an automatic image capture capability

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10108121A (ja) * 1996-09-25 1998-04-24 Nikon Corp 電子カメラ
US7110025B1 (en) * 1997-05-28 2006-09-19 Eastman Kodak Company Digital camera for capturing a sequence of full and reduced resolution digital images and storing motion and still digital image data
TW502532B (en) * 1999-12-24 2002-09-11 Sanyo Electric Co Digital still camera, memory control device therefor, apparatus and method for image processing
JP3750462B2 (ja) * 2000-02-22 2006-03-01 コニカミノルタフォトイメージング株式会社 デジタルカメラおよび記録媒体
JP2001326896A (ja) 2000-05-16 2001-11-22 Sony Corp ビデオカメラ
JP4403340B2 (ja) * 2000-07-27 2010-01-27 ソニー株式会社 画像記録装置及び画像記録/再生装置
JP4454837B2 (ja) * 2000-12-08 2010-04-21 キヤノン株式会社 画像処理装置
JP2003008948A (ja) * 2001-06-22 2003-01-10 Fuji Photo Film Co Ltd 電子カメラ及びその画像表示方法並びに画像記録方法
JP2003009044A (ja) * 2001-06-26 2003-01-10 Canon Inc 記録装置、再生装置及びその方法
JP4636739B2 (ja) * 2001-06-29 2011-02-23 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム、及びコンピュータ読み取り可能な記憶媒体
JP3973408B2 (ja) * 2001-11-22 2007-09-12 富士フイルム株式会社 ディジタル・ムービ・カメラおよびその動作制御方法
US6961083B2 (en) * 2001-12-21 2005-11-01 Hewlett-Packard Development Company, L.P. Concurrent dual pipeline for acquisition, processing and transmission of digital video and high resolution digital still photographs
JP2004096354A (ja) * 2002-08-30 2004-03-25 Canon Inc 画像処理装置、画像処理方法及び撮像装置
US20040051793A1 (en) * 2002-09-18 2004-03-18 Tecu Kirk S. Imaging device
JP2004304425A (ja) * 2003-03-31 2004-10-28 Casio Comput Co Ltd 電子カメラ
JP4160883B2 (ja) * 2003-09-02 2008-10-08 富士フイルム株式会社 画像記録装置及び画像記録方法
JP2005150898A (ja) * 2003-11-12 2005-06-09 Matsushita Electric Ind Co Ltd 撮像装置
JP4724577B2 (ja) * 2005-05-11 2011-07-13 キヤノン株式会社 撮像装置及びその制御方法

Also Published As

Publication number Publication date
JP2006311347A (ja) 2006-11-09
US20060264733A1 (en) 2006-11-23
US8130279B2 (en) 2012-03-06

Similar Documents

Publication Publication Date Title
JP4902136B2 (ja) 撮像装置、撮像方法及びプログラム
JP4160883B2 (ja) 画像記録装置及び画像記録方法
CN101385334B (zh) 图像捕捉设备和方法、记录设备和方法及再现设备和方法
CN100456810C (zh) 图像显示装置和方法
KR100899912B1 (ko) 영상 처리기, 영상처리 방법과 그에 대한 컴퓨터 판독가능한 저장매체
KR101264389B1 (ko) 촬상 장치 및 방법
JP4560422B2 (ja) 撮像装置及びその制御方法
JP2004304642A (ja) 電子カメラ、及び画像再生装置
JP3822380B2 (ja) 画像信号処理装置
JP4992860B2 (ja) 撮像装置及びプログラム
WO2000064154A1 (en) Imaging device and signal processing method
JP4881210B2 (ja) 撮像装置、画像処理装置及びそれらの制御方法
KR101323733B1 (ko) 고속 고화질 연사 기능을 가지는 영상 입력 장치 및 이를이용한 연사 방법
JP4958758B2 (ja) 記録装置、再生装置、記録方法、再生方法及びプログラム
US20110199496A1 (en) Image capturing apparatus, image capturing control method, and storage medium
KR101108640B1 (ko) 동영상을 기록하는 기록 장치, 기록 방법 및 컴퓨터로 판독 가능한 기록 매체
EP1176830A1 (en) Improved processing apparatus, image recording apparatus and image reproduction apparatus
JP2007228099A (ja) 撮像装置
JP2007135102A (ja) 撮像装置
JP2006197500A (ja) 撮像装置、画像処理方法及びプログラム
KR102058860B1 (ko) 카메라의 이미지 처리 장치 및 방법
JP5338293B2 (ja) 撮像装置、及び撮像方法、撮像制御プログラム
JP4966680B2 (ja) 動画再生装置、動画再生方法及び撮影装置
JP2008089758A (ja) 画像表示装置、及び画像表示方法、プログラム
JP2006222550A (ja) 録画システム及び動画記録装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080425

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080425

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111227

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111228

R151 Written notification of patent or utility model registration

Ref document number: 4902136

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150113

Year of fee payment: 3