JP2009055335A - 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、現像プログラムおよびRaw動画フォーマット - Google Patents

画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、現像プログラムおよびRaw動画フォーマット Download PDF

Info

Publication number
JP2009055335A
JP2009055335A JP2007219980A JP2007219980A JP2009055335A JP 2009055335 A JP2009055335 A JP 2009055335A JP 2007219980 A JP2007219980 A JP 2007219980A JP 2007219980 A JP2007219980 A JP 2007219980A JP 2009055335 A JP2009055335 A JP 2009055335A
Authority
JP
Japan
Prior art keywords
moving image
image data
development
raw
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007219980A
Other languages
English (en)
Other versions
JP4831017B2 (ja
JP2009055335A5 (ja
Inventor
Daisuke Nakao
大輔 中尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007219980A priority Critical patent/JP4831017B2/ja
Priority to US12/172,429 priority patent/US8792774B2/en
Priority to CN2008102105407A priority patent/CN101378459B/zh
Publication of JP2009055335A publication Critical patent/JP2009055335A/ja
Publication of JP2009055335A5 publication Critical patent/JP2009055335A5/ja
Application granted granted Critical
Publication of JP4831017B2 publication Critical patent/JP4831017B2/ja
Priority to US14/298,446 priority patent/US9998702B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B31/00Arrangements for the associated working of recording or reproducing apparatus with related apparatus
    • G11B31/006Arrangements for the associated working of recording or reproducing apparatus with related apparatus with video camera or receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/84Television signal recording using optical recording
    • H04N5/85Television signal recording using optical recording on discs or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

【課題】現像処理前の動画像データであるRaw動画像データを適切に利用できるようにする。
【解決手段】検波処理部402において、これに供給されたRaw動画像データS1に基づいて、当該Raw動画像データS1の目的とするフレーム(全てのフレーム、あるいは、飛び飛びのフレーム)に対して現像パラメータPmを生成し、これらRaw動画像データS1と、検波処理部402において生成した現像パラメータPmとを関連付けて、記録再生処理部409を通じて記録媒体109に記録して、利用できるようにする。
【選択図】図1

Description

この発明は、未現像の状態の動画像データであるいわゆるRaw動画像データを処理する装置、方法、プログラムおよびデータフォーマットに関する。
撮像素子の信号をそのまま記録したRaw画像データ(静止画像データ)を、例えばパーソナルコンピュータなどのRaw現像装置によってユーザーが現像調整を行いながら現像するRaw現像がその利便性から近年注目を浴びている。Raw現像処理においては、ユーザーは様々な現像パラメータをRaw現像装置に指定することによって、その現像パラメータに対応した結果画像を得ることができる。
しかし、Raw現像においては、ユーザーは現像パラメータの追い込み作業を繰り返す。すなわち、図21に示すように、Raw画像ファイルRd−fに記録保持されている目的とする画像のRaw画像データを読み出し(ステップS1)、これを現像して表示し(ステップS2)、ユーザーが確認できるようにする。そして、ユーザーからの現像パラメータの変更指示を受け付けるようにする(ステップS3)。
そして、変更指示があるか否かを判断して(ステップS4)、変更指示がある場合には、ステップS3で受け付けた変更指示に従って現像パラメータを変更し(ステップS6)、ステップS2からの処理を繰り返す。このように、ユーザーは、少しずつパラメータを変更しては現像処理を繰り返し行うようにし、その結果画像を確認して、さらにその結果に基づいてパラメータを変更するといった作業を繰り返すことにより、ユーザーの好みにあった画像を形成するようにする。
Raw現像処理自体の計算負荷は一般的に大きいため、上述した現像パラメータの追い込みのための繰り返し作業全体の計算負荷は非常に大きなものとなり、目的とする画像を得るまでに時間や手間がかかるなど、ユーザーの負担となっている。このため、Raw現像処理の高速化の要求が高まっている。
Raw現像処理の高速化手法の1つとして、特許文献1には、中間現像画像を持つようにするものが提案されている。この手法は、例えば、図22に示すように、現像処理が、工程1〜工程3の3つの工程からなっている場合に、Raw画像データRdに対して工程1、工程2からなるステージ1の処理が終了した段階の途中結果画像を中間現像画像Cdとして保持するようにし、工程3からなるステージ2を実行し、結果画像Ddを形成した後においても(現像完了後においても)、中間現像画像Cdを保持しておくようにする。
そして、次回のユーザー指定現像パラメータがその中間現像画像を生成する上で必要なパラメータと差分がない場合に、すなわち、ステージ1の工程1と工程2とを実行する必要がない場合に、中間現像画像Cdを用いてステージ2の工程3だけをパラメータを変えて実行し、繰り返し現像を行えるようにすることにより現像処理の高速化を実現しようとするものである。これによってユーザーが中間現像画像以降の現像処理に対する現像パラメータの変更に対しては、高いパフォーマンスを提供することができる。
なお、上述した特許文献1は、以下に示す通りである。
特開2005−341551号公報
上述したように、静止画についてのRaw画像データの利用については、種々の工夫がなされ広く利用されるようになってきている。従来、Raw画像記録は伝送帯域の問題などもあり、静止画や超音波動画像の記録に留まっていた。とはいえ動画像処理においても、露光設定やホワイトバランスなどの現像パラメータを後に調整しながら現像できるメリットは大きい。
このため、動画像についてのRaw画像データ(現像処理されていない動画像データ)、すなわち、Raw動画像データについても利用できるようにすることが望まれている。しかしながら、動画像データは、多数のフレームの画像データを有するため、単純に静止画のRaw画像データを処理する場合と同様に考えることはできない。具体的には、動画像データは、静止画像データよりもデータ量が多いために、効率よくデータを記録できるようにする必要がある。
また、Raw動画像データを適切に現像することを考えると、Raw動画像データの全てのフレームに対して現像パラメータを付加しておく必要がある。しかし、現像パラメータを全てのフレームに対して付加すると、ユーザーが調整する時に、ユーザーの調整をどの範囲に反映させるかが難しくなってしまう。
換言すれば、Raw動画像データの各フレームに対して、現像パラメータが付加されている場合に、当該Raw動画像データに対してユーザーが現像調整を行おうとすれば、各フレームの現像パラメータに対して現像調整を行うようにしなければならない。仮に複数フレームを同時に調整できたとしても、調整したフレームと調整していないフレームが滑らかに繋がらず、不自然な動画となってしまう可能性があると考えられる。
以上の点にかんがみ、この発明は、Raw動画像データを適切に利用できるようにすることを目的とする。
上記課題を解決するため、請求項1に記載の発明の画像処理装置は、
未現像の状態の動画像データであるRaw動画像データの供給を受けて、前記Raw動画像データの目的とするフレームに対する現像パラメータを生成するパラメータ生成手段と、
供給を受けた前記Raw動画像データと前記パラメータ生成手段により生成された前記現像パラメータとを関連付けて、所定の記録媒体に記録するように制御する記録制御手段と
を備えることを特徴とする。
この請求項1に記載の発明の画像処理装置によれば、パラメータ生成手段により、供給されたRaw動画像データに基づいて、当該Raw動画像データの目的とするフレームに対する現像パラメータが生成される。そして、記録制御手段によって、供給されたRaw動画像データとパラメータ生成手段により生成された現像パラメータとが関連付けられて所定の記録媒体に記録される。
なお、ここで、「目的とするフレーム」という文言は、当該Raw動画像データの全てのフレームという場合と、当該Raw動画像データの予め決められた飛び飛びのフレームという場合の両方を含む意図である。例えば、Raw動画像データが、再生時間の短いものである場合には、当該Raw動画像データの全てのフレームに対して現像パラメータを生成し、また、当該Raw動画像データが、比較的に再生時間の長いものである場合には、当該Raw動画像データの予め決められた飛び飛びのフレームに対して現像パラメータを生成することを含んでいる。
これにより、Raw動画像データと、当該Raw動画像パラメータに対応する現像パラメータとを所定の記録媒体に記録することができるようにされ、Raw動画像データを適切に利用することができるようにされる。
また、請求項2に記載の発明の画像処理装置は、請求項1に記載の画像処理装置であって、
前記パラメータ生成手段は、前記Raw動画像データに対して、予め決められた一定間隔毎の飛び飛びのフレームに対して現像パラメータを生成することができるものであることを特徴とする。
この請求項2に記載の発明の画像処理装置によれば、パラメータ生成手段により、例えば、1フレームおき、2フレームおき、…というように、一定間隔毎の飛び飛びのフレームに対して現像パラメータを生成することができるようにされる。
これにより、Raw動画像データに対して付加する現像パラメータを抑制することができる。そして、一定間隔毎には現像パラメータが存在するので、Raw動画像データを適切に利用することもできるようにされる。
また、請求項3に記載の発明の画像処理装置は、請求項1に記載の画像処理装置であって、
前記パラメータ生成手段は、
供給された前記Raw動画像データを検波処理して前記Raw動画像データに対して画像処理を施すための評価値である検波データをフレーム単位に生成する検波データ生成部と、
前記検波データ生成手段からの前記検波データに基づいて、前記Raw画像データに対する現像パラメータをフレーム単位に生成する現像パラメータ生成部と、
供給された前記Raw動画像データと、前記検波データ生成手段からの前記検波データと、前記現像パラメータ生成手段からの前記現像パラメータとの内の1つ以上を解析し、前記Raw動画像データによる動画像の変化点における現像パラメータを生成する変化点パラメータ生成部と
を備えることを特徴とする。
また、請求項3に記載の発明の画像処理装置によれば、パラメータ生成手段は、検波データ生成部と、現像パラメータ生成部と、変化点パラメータ生成手段とからなっている。そして、変化点パラメータ生成手段により、検波データ生成部からの検波データと、現像パラメータ生成部からの現像パラメータと、供給されたRaw動画像データとに基づいて、供給された当該Raw動画像データによる動画像の変化点が検出され、この変化点のフレームに対する現像パラメータが生成される。
これにより、供給されたRaw動画像データに対して、必要最小限の現像パラメータが生成するようにされるので、Raw動画像データに対して付加する現像パラメータを抑制することができる。そして、当該Raw動画像データによる動画像の変化点毎には現像パラメータが存在するので、Raw動画像データを適切に利用することもできるようにされる。
また、請求項4に記載の発明の画像処理装置は、請求項2または請求項3に記載の画像処理装置であって、
前記パラメータ生成手段は、変化頻度の高い現像パラメータと変化頻度の低い現像パラメータとで、現像パラメータの生成頻度、あるいは、現像パラメータの出力頻度を変えることを特徴とする。
この請求項4に記載の発明の画像処理装置によれば、パラメータ生成手段により、全ての現像パラメータが同じタイミングで生成されたり、出力されたりするのではなく、変化頻度に応じて、生成や出力の頻度が変えるようにされる。例えば、変化頻度の高い現像パラメータについては、N(Nは1以上の整数)フレーム毎に生成して出力するが、変化頻度の低い現像パラメータについては、2Nフレーム毎に生成して出力するというようにされる。
これにより、Raw動画像データに対して付加する現像パラメータを抑制することができる。また、現像パラメータは、Raw動画像データに対して、変化頻度に応じて適切に生成され、出力されるので、Raw動画像データを適切に利用することもできるようにされる。
また、請求項5に記載の発明の画像処理装置は、請求項2または請求項3に記載の画像処理装置であって、
前記パラメータ生成手段は、前記Raw動画像データの1つのフレームに対して、複数の現像パラメータを生成することができることを特徴とする。
請求項5に記載の発明の画像処理装置によれば、パラメータ生成手段により、Raw動画像データの1つのフレームに対して複数の現像パラメータを生成することができるようにされる。例えば、変化頻度に応じて、例えば、変化頻度の高いパラメータは、2フレームおきに付加し、変化頻度の低いパラメータは、5フレームおきに付加するようにした場合には、これらの公倍数のフレームには、変化頻度の高いパラメータと変化頻度の低いパラメータとが共に付加するようにされる。
これにより、Raw動画像データに対して必要な現像パラメータを適切に生成して付加することができるようにされ、Raw動画像データを適切に利用することができるようにされる。
また、請求項6に記載の発明の画像処理装置は、請求項1に記載の画像処理装置であって、
前記Raw動画像データから縮小画像データであるサムネールRaw動画像データを生成する第1のサムネール生成手段と、
前記Raw動画像データに対して、所定の段階まで現像処理を行って中間現像動画像データを生成する中間現像動画像データ生成手段と、
前記中間現像動画像データ生成手段により生成された前記中間現像動画像データから縮小画像データであるサムネール中間現像動画像データを生成する第2のサムネール生成手段と、
前記Raw動画像データに対して、現像処理を行って現像済みの通常動画像データを生成する通常動画像データ生成手段と、
前記通常動画像データ生成手段により生成された前記通常動画像データから縮小画像データであるサムネール通常動画像データを生成する第3のサムネール生成手段と
の内の1つ以上を備え、
前記記録制御手段は、前記Raw動画像データと、前記現像パラメータとに加えて、設けられた前記第1のサムネール生成手段と、前記中間現像動画像データ生成手段と、前記第2のサムネール生成手段と、前記通常動画像データ生成手段と、前記第3のサムネール生成手段との内の設けられている生成手段で生成された動画像データを、前記所定の記録媒体に記録するように制御することを特徴とする。
この請求項6に記載の発明の画像処理装置によれば、第1のサムネール生成手段と、中間現像動画像データ生成手段と、第2のサムネール生成手段と、通常動画像データ生成手段と、第3のサムネール生成手段との内の1つ以上が設けられるようにされるが、これらのうちの設けられた生成手段により生成されたデータが、Raw動画像データと現像パラメータとに加えて、所定の記録媒体に記録するように記録制御手段により制御される。
これにより、Raw動画像データを適切に利用することができるようにされると共に、Raw動画像データに加えて、サムネールRaw動画像データ、中間現像動画像データ、サムネール中間現像画像データ、通常動画像データ、サムネール通常動画像データなどのデータについても利用することができるようにされる。
したがって、サムネールRaw動画像データを記録するようにしておけば、Raw動画像データからサムネールRaw動画像データを生成することなく、サムネールRaw動画像データを利用するようにすることができるし、また、中間現像動画像データやサムネール中間現像画像データを記録するようにしておけば、中間現像動画像データを基準にして、現像パラメータを変更して繰り返し現像処理を行うようにするなどのことができるようにされる。また、通常動画像データやサムネール通常動画像データを記録するようにしておけば、現像処理を行う時間がない場合には、これらを用いることにより、目的とする動画像を利用することができるようにされる。
また、請求項7に記載の発明の画像処理装置は、請求項1に記載の画像処理装置であって、
供給された前記Raw動画像データをデータ圧縮処理する圧縮処理手段を備え、
前記記録制御手段は、前記圧縮処理手段によりデータ圧縮された前記Raw動画像データを前記所定の記録媒体に記録するようにすることを特徴とする。
この請求項7に記載の発明の画像処理装置によれば、圧縮処理手段により、Raw動画像データ自身がデータ圧縮され、このデータ圧縮されたRaw動画像データが、記録制御手段の制御により所定の記録媒体に記録することができるようにされる。なお、圧縮処理手段によるデータ圧縮の方式は、可逆方式、不可逆方式のいずれを用いることも可能である。
これにより、Raw動画像データ自体をデータ圧縮して記録媒体に記録することができるので、大量のRaw動画像データを効率よく所定の記録媒体に記録し、これを適切に利用することができるようにされる。
また、請求項8に記載の発明の画像処理装置は、請求項1に記載の画像処理装置であって、
前記記録制御手段は、適用になる前記Raw動画像データのフレームまたはフレーム群を特定する情報が付加するようにされた前記現像パラメータを前記所定の記録媒体に記録することを特徴とする。
この請求項8に記載の発明の画像処理装置によれば、現像パラメータには、Raw動画像データのどのフレームあるいはフレーム群に対応するものであるかを示す情報が付加するようにされた後に、記録制御手段により所定の記録媒体に記録される。
これにより、Raw動画像データの各フレームと、現像パラメータとを適切に対応付けることができるようにされ、Raw動画像データを適切に利用することができるようにされる。
また、請求項9に記載の発明の画像処理装置は、請求項1に記載の画像処理装置であって、
前記所定の記録媒体から、前記Raw動画像データと前記現像パラメータとを読み出す読み出し手段と、
前記読み出し手段により読み出された前記Raw動画像データに対して、前記読み出し手段により読み出された前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
を備えることを特徴とする。
この請求項9に記載の発明の画像処理装置によれば、読み出し手段により、所定の記録媒体に記録されているRaw動画像データと現像パラメータとが読み出され、これらが現像処理手段により用いられて、Raw動画像データが、途中段階まで、あるいは、最終段階まで現像処理して、これを出力手段を通じて出力することができるようにされる。
これにより、所定の記録媒体に記録されたRaw動画像データを適切に現像処理して利用することができるようにされる。
また、請求項10に記載の発明の画像処理装置は、請求項2または請求項3に記載の発明の画像処理装置であって、
前記所定の記録媒体から、前記Raw動画像データと前記現像パラメータとを読み出す読み出し手段と、
前記読み出し手段により読み出された前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理手段と、
前記読み出し手段により読み出された前記Raw動画像データに対して、前記補間処理手段により補間されて整えられた現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
を備えることを特徴とする。
この請求項10に記載の発明の画像処理装置によれば、読み出し手段により、所定の記録媒体に記録されているRaw動画像データと現像パラメータとが読み出される。ここで、読みされた現像パラメータが、飛び飛びに記録されているなどするために、フレーム毎に存在しない場合には、補間処理手段により補間処理され、不足する現像パラメータが生成するようにされる。
そして、読み出されたRaw動画像データと補間処理された撮像パラメータとが現像処理手段により用いられて、Raw動画像データが、途中段階まで、あるいは、最終段階まで現像処理して、これを出力手段を通じて出力することができるようにされる。
これにより、撮像パラメータが不足している場合であっても、これを適切に補間処理して補い、所定の記録媒体に記録されたRaw動画像データを適切に現像処理して利用することができるようにされる。
また、請求項11に記載の発明の画像処理装置は、請求項2または請求項3に記載の発明の画像処理装置であって、
前記所定の記録媒体から、前記Raw動画像データと前記現像パラメータとを読み出す読み出し手段と、
前記読み出し手段により読み出された前記現像パラメータに対して、ユーザーからの現像パラメータの追加、削除、変更の指示入力を受け付けて、現像パラメータの編集を行うようにするパラメータ編集手段と、
前記パラメータ編集手段により編集された前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理手段と、
前記読み出し手段により読み出された前記Raw動画像データに対して、前記補間処理手段により補間されて整えられた現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
を備えることを特徴とする。
この請求項11に記載の発明の画像処理装置によれば、読み出し手段により、所定の記録媒体に記録されているRaw動画像データと現像パラメータとが読み出される。パラメータ編集手段を通じて、ユーザーからのパラメータの追加、削除、変更の指示入力が受け付けられ、これらに応じて現像パラメータが編集される。
そして、編集された現像パラメータが、フレーム毎に存在しない場合には、補間処理手段により補間処理され、不足する現像パラメータが生成するようにされる。そして、読み出されたRaw動画像データと編集処理され補間処理された現像パラメータとが現像処理手段により用いられて、Raw動画像データが、途中段階まで、あるいは、最終段階まで現像処理して、これを出力手段を通じて出力することができるようにされる。
これにより、撮像パラメータに対して、ユーザーの意図する補正を行うようにした後に、これを必要に応じて適切に補間処理して補い、所定の記録媒体に記録されたRaw動画像データを適切に現像処理して利用することができるようにされる。
また、請求項12に記載の発明の画像処理装置は、請求項1に記載の発明の画像処理装置であって、
被写体の動画像を取り込んで、これに応じた未現像の状態の動画像データであるRaw動画像データを出力する撮像素子を備え、
撮像装置として構成されたことを特徴とする。
この請求項12に記載の発明の画像処理装置によれば、当該画像処理装置は、撮像素子を備え、当該撮像素子を通じて取り込んだRaw動画像データを処理することができるようにされる。
これにより、この発明を撮像装置の構成とされた画像処理装置に適用し、撮影することにより得たRaw動画像データを適切に所定の記録媒体に記録し、これを適切に利用することができるようにされる。
この発明によれば、Raw動画像データの利用環境を整え、Raw動画像データを適切かつ有効に利用できるようにすることができる。
以下、この発明の一実施の形態について説明する。この発明による装置、方法、プログラムは、民生用カメラ、業務用カメラ、監視カメラなどの種々のビデオカメラ(撮像装置)や、Raw画像データの現像処理を行う専用装置やパーソナルコンピュータなどの現像装置に適用可能なものである。
また、この発明によるデータフォーマットは、この発明が適用された撮像装置から、有線あるいは無線により接続された現像装置などの外部機器に対して出力される、あるいは、記録媒体に対して出力される、あるいは、インターネットなどの広域ネットワークやLAN(Local Area Network)などに出力されるRaw動画像データを含むデータフォーマットについて適用可能なものである。
以下に説明する実施の形態においては、説明を簡単にするため、この発明による装置、方法、プログラムの一実施の形態を動画像の撮影が可能なカメラシステム(撮像装置)に適用した場合を例にして説明し、また、この発明によるデータフォーマットを当該カメラシステムから出力されるRaw動画像データを含むデータフォーマットに適用した場合を例にして説明する。
[カメラシステムの構成例について]
図1は、この実施の形態のカメラシステムを説明するためのブロック図である。図1に示すように、この実施の形態のカメラシステム100は、大きく分けると、レンズ部101と、撮像素子部102と、I/F部LSI103と、信号処理LSI104と、表示処置LSI105と、表示デバイス106を備えると共に、信号処理LSI104には、操作部107と、汎用DRAM108と、記録媒体109とが接続されたものである。
ここで、操作部107は、録画スタンバイキー、録画開始キー、録画停止キー、望遠の調整キー、その他の各種の調整キーやファンクションキーなどを備え、ユーザーからの操作入力を受け付けて、当該操作入力を電気信号に変換し、これを信号処理LSI104に供給することができるものである。DRAM108は、いわゆる揮発性メモリであり、種々の処理の途中結果を一時記憶するなど、主に作業領域として用いられるものである。
記録媒体109は、この実施の形態のカメラシステム100においての主記録媒体であり、例えば、内蔵された半導体メモリ、半導体メモリが用いられ着脱可能とされたメモリカード、小型のハードディスクなどである。この実施の形態のカメラシステム100において、記録媒体109は、例えば、着脱可能なメモリカードである。
そして、信号処理LSI104は、図1に示すように、センサI/F部401、検波処理部402、画像処理部403、解像度変換処理部404、圧縮処理部405、表示処理部406、メモリコントローラ407、伸張処理部408、記録再生処理部409、CPU410、同期信号生成部411、サムネールRaw動画像生成部421、サムネール中間現像動画像生成部422、サムネール通常動画像生成部423を備えたものである。
信号処理LSI104を構成する各部は、図1にも示したように、共通のバスを通じて接続されており、各処理部間のデータのやり取りは、基本的には、共通のバスを通じて行われる。ただし、バスを経由せず、処理部間で直接データをやり取りする場合もある。処理部同士でバスを経由せずに直接接続しデータの転送を行う場合は、それをひとつの処理部と見做すこともできる。
また、信号処理LSI104内に設けられるCPU410は、信号処理LSI104内の各部を制御するものである。なお、信号処理LSI104内には、図示しないが各種の処理回路や処理に必要なデータが予め記録されたROMも設けられており、CPU410は、当該ROMから必要なプログラムを読み出して実行し、各部に供給する制御信号を生成して各部に供給したり、また、各部からの信号を受信して、これに応じた処理を行ったりすることができるようにしている。
また、同期信号生成部411は、例えば、フレーム開始基準信号VDやライン開始基準信号HD等といった各種のタイミング信号を生成し、信号処理LSI104内の必要とする各部に供給するものである。
このように、カメラシステム100を構成するそれぞれのLSI内には、機能別に複数の処理部が存在する。図1に示した構成は、その一例であり、設計思想により、図1に示した各LSI内の処理部が他のLSI内に属するようにされる場合ももちろんある。各LSIを構成する処理部の数や各LSIの機能は、目的に応じて、種々存在する。
そして、この実施の形態のカメラシステム100においては、従来通り、撮影し現像処理することにより得た現像処理済みの表示用の動画像データをデータ圧縮処理し、これを通常動画像データとして記録媒体109に記録することができると共に、記録媒体109に記録した通常動画像データを読み出してデータ伸張処理して再生することができるものである。
さらに、この実施の形態のカメラシステム100は、詳しくは後述もするが、撮影することにより得た現像処理前のRaw動画像データと、現像パラメータとを記録媒体109に記録することができると共に、記録媒体109に記録したRaw動画像データと現像パラメータとを読み出し、現像処理して再生することもできるものである。なお、現像パラメータについては、ユーザーが調整することもできるようにしている。
また、この実施の形態のカメラシステムは、詳しくは後述もするが、撮影することにより得た現像処理前のRaw動画像データについて現像処理を途中まで(予め決められた工程まで)行うことによって中間現像動画像データを生成して、これを記録媒体109に記録することができると共に、記録媒体109に記録した中間現像動画像データを読み出し、必要に応じて未処理分の現像処理を行って再生することもできるようにしている。
この場合にも、記録媒体に記録される現像パラメータが用いられるようにされるが、これをユーザー自身が調整することもできるようにされる。そして、中間現像動画像データの場合には、途中までの現像処理は終了しているので、その終了した現像処理のパラメータを変更するのでなければ、中間現像動画像データを何回でも用いて、未処理部分の現像処理について現像パラメータの調整を行って、現像処理を繰り返し行うことができるようにしている。
また、上述した、通常動画像データについてのサムネール動画像データ(サムネール通常動画像データ)や、Raw動画像データについてのサムネール動画像データ(サムネールRaw動画像データ)や、中間現像動画像データについてのサムネール動画像データ(サムネール中間現像動画像データ)を生成して、これらについても記録媒体109に記録し、後で読み出して利用することもできるようにしている。
なお、この実施の形態のカメラシステムは、例えば、通常動画像データだけを記録媒体109に記録する撮影モードと、Raw動画像データと現像パラメータとを記録媒体109に記録する撮影モードと、中間現像動画像データと現像パラメータとを記録媒体109に記録する撮影モードというように、目的とする動画像データだけを利用可能なように記録媒体109に記録する撮影モードを設けるようにすることができる。
しかし、この実施の形態のカメラシステムにおける重要な特徴は、従来利用ができなかったRaw動画像データの利用を可能にしている点であり、少なくとも、Raw動画像データと現像パラメータとは記録媒体109に記録し、ユーザーからの指示に応じて、サムネールRaw動画像データ、中間現像動画像データ、サムネール中間現像動画像データ、通常動画像データ、サムネール通常動画像データの中から選択した1つ以上のデータを記録媒体109に記録することもできるようにしている。
[撮影時の動作について]
次に、この実施の形態のカメラシステム100の撮影時の動作について説明する。ここでは、Raw動画像データと現像パラメータとに加えて、サムネールRaw動画像データと、中間現像動画像データと、サムネール中間現像動画像データと、通常動画像データと、サムネール通常動画像データとを記録媒体109に記録する場合について説明する。
レンズ部101を通じて撮像素子部102の撮像素子の結像面に結像された被写体の画像は、当該撮像素子により電気信号(アナログ画像信号)に変換されてI/F部LSI103に供給される。I/F部LSI103は、これに供給されたアナログ動画像信号をデジタル信号に変換するなどして、信号処理LSI104に供給する形式のデータ(Raw動画像データ)S1を形成し、これを信号処理LSI104に供給する。
I/F部LSI103からのRaw動画像データS1は、信号処理LSI104のセンサI/F部401により受け付けられて、検波処理部402に供給される。検波処理部402は、供給されたRaw動画像データS1に基づいて、露出調整処理のためのパラメータやホワイトバランス調整処理のためのパラメータなど、後段で行う種々の画像処理のための現像パラメータの集まり(現像パラメータ群)Pmを生成し、この生成した現像パラメータ群Pmと、Raw動画像データS1とを画像処理部403に供給する。
また、検波処理部402から出力されたRaw動画像データS1と現像パラメータ群Pmとは、記録再生処理部409を通じて記録媒体109に記録するようにされると共に、Raw動画像データS1は、サムネールRaw動画像生成部421にも供給され、サムネールRaw動画像データSn1の生成にも用いられるようにされる。
画像処理部403は、検波処理部402からのRaw動画像データS1に対して、検波処理部402からの現像パラメータ群Pmに応じて、露出調整処理、ホワイトバランス調整処理、NR(noise Redaction)処理及び補間処理(デモザイク処理)を行って中間現像動画像データS2を生成して出力すると共に、中間現像動画像データS2に対して、さらにその他の現像処理(彩度調整処理や色調調整処理)を行って、最終的には、YCデータ(色差データ)を生成して出力する。なお、画像処理部403においては、YCデータに対しても必要に応じていわゆるアパコン処理と呼ばれる輪郭強調処理やノイズリダクション処理などを施すこともできる。
画像処理部403において生成された中間現像動画像データS2は、記録再生処理部409を通じて記録媒体109に記録するようにされると共に、サムネール中間現像動画像生成部422にも供給され、サムネール中間現像動画像データSn2の生成にも用いられるようにされる。また、画像処理部403において最終的に生成されたYCデータは、解像度変換処理部404に供給される。
解像度変換処理部404は、これに供給されたYCデータに対して、画像のスケーリング処理を行って表示用の動画像データを形成し、この表示用の動画像データを、圧縮処理部405と表示処理部406とに供給すると共に、サムネール通常動画像生成部423にも供給して、サムネール通常動画像データSn3の生成にも用いるようにされる。
圧縮処理部405は、これに供給された表示用の動画像データを所定の圧縮方式(例えばMPEG方式)でデータ圧縮処理を行って、記録用の通常動画像データS3を生成する。圧縮処理部405において生成された記録用の通常動画像データS3は、記録再生処理部409を通じて記録媒体109に記録するようにされる。
一方、表示処理部406は、これに供給された表示用の動画像データから、表示処理LSI605に供給する形式の表示用の動画像データを形成し、これを表示処理LSI105に供給する。表示処理用LSI105は、信号処理LSI104の表示処理部406からの動画像データをフォーマットに則って解釈し、液晶パネルなどの表示デバイス106に供給する動画像信号を形成し、これを表示デバイス106に供給する。
表示デバイス106は、上述のように液晶パネルなどの表示素子を備えたものであり、表示処理LSI105からの画像信号を受け付けて、これを自己の表示素子に供給することにより、供給を受けた動画像信号に応じた動画像を自己の表示素子の表示画面に表示することができるようにしている。
そして、サムネールRaw動画像生成部421は、これに供給されたRaw動画像データS1からサムネールRaw動画像データSn1を生成して出力する。また、サムネール中間現像動画像データ生成部422は、これに供給された中間現像動画像データS2からサムネール中間現像動画像データSn2を生成して出力する。また、サムネール通常動画像生成部423は、これに供給された現像処理されて形成された表示用の画像データ(圧縮処理前の通常動画像データ)からサムネール通常動画像データSn3を生成して出力する。
これら、生成されたサムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれは、記録再生処理部409を通じて記録媒体109に記録するようにされる。
なお、ここでは説明を簡単にするため、DRAM108を用いた処理については説明しなかったが、上述した各部は、必要に応じてメモリコントローラ407を通じてDRAM108を作業領域として用い、処理の途中結果、例えば、生成した各段階の画像データなどを一時記憶するようにし、これを必要とする処理部が読み出して利用するといったことが行われる。
このようにして、この実施の形態のカメラシステム100は、レンズ部101、撮像素子部102を通じて取り込んだ被写体の動画像を、表示デバイス106の表示画面に表示して確認しながら、被写体の動画像を撮影するようにし、上述したように、Raw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3、現像パラメータ群Pmを、記録媒体109に記録することができるようにしている。
なお、ここでは、Raw動画像データS1、中間現像動画像データS2、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれについては、データ圧縮せずに、そのまま記録媒体109に記録するものとして説明した。
しかし、これに限るものではない。Raw動画像データS1は、現像処理前の動画像データであるので、データ量も非常に多い。このため、例えば、図1に示した圧縮処理部405の機能を用い、Raw動画像データS1を所定の圧縮方式に従ってデータ圧縮処理した後に、記録媒体109に記録することももちろん可能である。この場合の圧縮方式も種々の圧縮方式を用いることが可能であり、可逆方式、不可逆方式のいずれの方式を用いることも可能である。
同様に、中間現像動画像データS2、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれについても、例えば、図1に示した圧縮処理部405の機能を用い、所定の圧縮方式に従ってデータ圧縮処理した後に、記録媒体109に記録することももちろん可能である。この場合の圧縮方式も種々の圧縮方式を用いることが可能であり、可逆方式、不可逆方式のいずれの方式を用いることも可能である。
このように、Raw動画像データS1、中間現像動画像データS2、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれについても、データ圧縮処理して記録媒体109に記録するようにすることにより、大量の画像データを記憶容量の限られた記録媒体109に効率よく記録することができる。
もちろん、データ量の多い、Raw動画像データS1と中間現像動画像データS2との内の一方または両方については、データ圧縮した後に記録媒体109に記録するようにし、その他のサムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3についてはデータ圧縮することなく記録媒体109に記録するようにすることももちろん可能である。また、ユーザー自身が、データ圧縮するデータと、データ圧縮しないデータとを指定するようにしてもよい。
[再生時の動作について]
そして、記録媒体609に記録されたRaw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれについては、操作部107を通じて受け付けるユーザーからの再生指示入力に応じて再生することができるようにされる。なお、ここでは、通常動画像データS3だけがデータ圧縮されて記録媒体109に記録されているものとして説明する。
操作部107を通じて、記録媒体109に記録された通常動画像データS3の再生が指示されると、CPU110は、記録再生処理部409を制御して、記録媒体109からこれにデータ圧縮されて記録されている再生指示された通常動画像データS3を読み出し、これを伸張処理部408に供給する。
伸張処理部408は、これに供給されたデータ圧縮されている通常動画像データS3を伸張処理して、データ圧縮前の元の表示用の動画像データを復元し、これを表示処理部406に供給する。表示処理部406は、上述もしたように、これに供給された表示用の動画像データから、表示処理LSI105に供給する形式の表示用の動画像データを形成し、これを表示処理LSI105に供給する。
表示処理用LSI105は、上述もしたように、信号処理LSI104の表示処理部406からの動画像データをフォーマットに則って解釈し、表示デバイス106に供給する動画像信号を形成し、これを表示デバイス106に供給する。これにより、表示デバイス106においては、供給を受けた動画像信号に応じた動画像を自己の表示素子の表示画面に表示することができるようにされる。
また、操作部107を通じて、記録媒体109に記録されたサムネール通常動画像データSn3の再生が指示されると、CPU110は、記録再生処理部409を制御して、記録媒体109からこれに記録されている再生指示されたサムネール通常動画像データSn3を読み出し、これを表示処理部406に供給する。表示処理部406は、これに供給されたサムネール通常動画像データから、表示処理LSI105に供給する形式の表示用のサムネール動画像データを形成し、これを表示処理LSI105に供給する。
表示処理用LSI105は、上述もしたように、信号処理LSI104の表示処理部406からのサムネール動画像データをフォーマットに則って解釈し、表示デバイス106に供給するサムネール動画像信号を形成し、これを表示デバイス106に供給する。これにより、表示デバイス106においては、供給を受けたサムネール動画像信号に応じたサムネール動画像を自己の表示素子の表示画面に表示することができるようにされる。
また、操作部107を通じて、記録媒体109に記録された中間現像動画像データS2の再生が指示されると、CPU110は、記録再生処理部409を制御して、記録媒体109からこれに記録されている再生指示された中間現像動画像データS2と現像パラメータ群Pmとを読み出し、これらを画像処理部403に供給する。
画像処理部403は、供給された中間現像動画像データS2に対して、供給された現像パラメータ群Pmを用いて、残りの現像処理を行ってYCデータを生成する。なお、このとき、操作部107を通じて、ユーザーから現像パラメータの変更指示入力を受け付けている場合には、残りの現像処理については、その変更指示入力に応じて現像パラメータ群の情報を変更し、その変更後の現像パラメータ群を用いて現像処理を行うようにすることができる。
このように、この実施の形態のカメラシステム100の場合には、中間現像動画像データS2を記録媒体109に記録保持するようにしているので、当該中間現像動画像データS2を用いることにより、何度でも、途中からの現像処理を繰り返し行うことができるようにされる。すなわち、残りの現像処理についての現像パラメータを変更しても、現像処理を初めから行うことがないようにすることができるので、現像処理を迅速に行うようにすることができる。
画像処理部403においてYCデータが生成された場合には、当該YCデータは、上述もしたように表示処理部406に供給され、ここで、表示処理LSI105に供給する形式の表示用の動画像データを形成し、これを表示処理LSI105に供給する。表示処理用LSI105は、上述もしたように、信号処理LSI104の表示処理部406からの表示用の動画像データをフォーマットに則って解釈し、表示デバイス106に供給する動画像信号を形成し、これを表示デバイス106に供給する。
これにより、表示デバイス106においては、供給を受けた動画像信号に応じた動画像を自己の表示素子の表示画面に表示することができるようにされる。なお、サムネール中間現像動画像データSn2が再生するように指示された場合にも、上述した、中間現像動画像データS2の場合と同様に、サムネール中間現像動画像データSn2と現像パラメータPmとが、画像処理部403に供給され、ここで残りの現像処理が行われて、サムネールYCデータが形成される。
画像処理部403において形成されたサムネールYCデータは、表示処理部406及び表示処理LSI105を通じて、表示デバイス106に供給する形式のサムネール動画像信号に変換され、これが表示デバイス106に供給され、当該表示デバイス106の表示画面にサムネール中間現像動画像データを現像処理して得たサムネール動画像信号に応じたサムネール動画像が表示するようにされる。
なお、サムネール中間現像動画像データSn2の再生処理を行う場合にも、操作部107を通じて、残りの現像処理についての現像パラメータの変更指示入力を受けた場合には、当該変更指示入力に応じて現像パラメータを変更して、残りの現像処理を行うようにすることができる。
また、操作部107を通じて、記録媒体109に記録されたRaw動画像データS1の再生が指示されると、CPU110は、記録再生処理部409を制御して、記録媒体109からこれに記録されている再生指示されたRaw像動画像データS1と現像パラメータ群Pmとを読み出し、これらを画像処理部403に供給する。
画像処理部403は、供給されたRaw動画像データS1に対して、供給された現像パラメータ群Pmを用いて、現像処理を行う。この場合には、上述した中間現像動画像データを現像処理する場合と異なり、現像処理がその初めから行うようにされる。すなわち、露出/WB調整処理、補間処理(デモザイク処理)、その他の現像処理(例えば、アパコン処理やノイズリダクション処理等)を行って、YCデータを生成して出力する。
なお、このとき、操作部107を通じて、ユーザーから現像パラメータ群の変更指示入力を受け付けている場合には、その変更指示入力に応じて現像パラメータ群の情報を変更し、その変更後の現像パラメータ群を用いて現像処理を行うようにすることができる。この場合には、現像処理を初めから行うことができるので、露出調整やWB調整といった基本的な現像パラメータの変更を行うことができ、現像パラメータをきめ細かく調整し、ユーザーの目的とする性格を有する動画像を形成することができるようにされる。
そして、画像処理部403において形成されたYCデータは、上述もしたように、表示処理部406及び表示処理LSI105を通じて、表示デバイス106に供給する形式の動画像信号に変換され、これが表示デバイス106に供給され、当該表示デバイス106の表示画面にRaw動画像データS1を現像処理して得た動画像信号に応じた動画像が表示するようにされる。
なお、サムネールRaw動画像データSn1が再生するように指示された場合にも、上述した、Raw動画像データS1の場合と同様に、サムネールRaw動画像データSn1と現像パラメータ群Pmとが、画像処理部403に供給され、ここで現像処理が行われて、サムネールYCデータが形成される。
画像処理部403において形成されたサムネールYCデータは、表示処理部406及び表示処理LSI105を通じて、表示デバイス106に供給する形式のサムネール動画像信号に変換され、これが表示デバイス106に供給され、当該表示デバイス106の表示画面にサムネールRaw動画像データを現像処理して得たサムネール動画像信号に応じたサムネール動画像が表示するようにされる。
なお、サムネールRaw動画像データSn1の再生処理を行う場合にも、操作部107を通じて、現像処理についての現像パラメータの変更指示入力を受けた場合には、当該変更指示入力に応じて現像パラメータを変更して、現像処理を行うようにすることができる。
そして、ここでは、記録媒体109に記録した各動画像データを再生する場合を説明したが、現像処理した動画像データを記録媒体109に記録することもできる。例えば、Raw動画像データS1や中間現像動画像データS2を上述もしたように現像処理することにより得た表示用の動画像データを、圧縮処理部405においてデータ圧縮して、通常動画像データS3に替えて、あるいは、通常動画像データS3ともに、記録媒体109に記録するようにすることもできる。
また、サムネールRaw動画像データSn1やサムネール中間現像動画像データSn2を上述もしたように現像処理することにより得た表示用のサムネール動画像データをサムネール通常動画像データSn3に替えて、あるいは、サムネール通常動画像データSn3ともに、記録媒体109に記録するようにすることもできる。
また、図示しないが、この実施の形態のカメラシステムは、外部機器との接続端部としてデジタルインターフェースを備え、記録媒体109に記録した種々のデータを、当該デジタルインターフェースを通じて出力したり、あるいは、当該デジタルインターフェースを通じて外部機器から種々のデータを得て記録媒体109に記録したりすることもできるようにしている。
また、インターネットなどの広域ネットワークに接続するための通信部やLANなどに接続するための通信部を備えることにより、当該通信部を通じて、記録媒体109に記録した種々のデータを、当該通信部を通じて出力したり、あるいは、当該通信部を通じて外部機器から種々のデータを得て記録媒体109に記録したりすることもできる。
また、再生中の動画像についての動画像データを図示しない映像出力端子を通じて出力し、外部のモニタ受像機を通じて観視するようにすることも可能である。
このように、この実施の形態のカメラシステム100は、動画像を撮影することによりRaw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3、現像パラメータ群Pmを得て、記録媒体109に記録することができると共に、記録媒体109に記録したRaw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3を再生して利用することもできるものである。
なお、Raw動画像データS1、中間現像動画像データS2、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3がデータ圧縮されて記録媒体109に記録されているものである場合には、伸張処理部408において伸張処理された後に、画像処理部404や表示処理部406に供給されることになる。また、基本的に、現像パラメータPmは、動画像データのようにデータ圧縮されることはないので、そのまま画像処理部403に供給される。
[Raw動画フォーマットについて]
次に、この実施の形態のカメラシステム100において、Raw動画像データを含む動画像データを記録したり、伝送したりする場合のデータフォーマット(Raw動画フォーマット)について説明する。図2は、図1に示したカメラシステム100において、記録媒体109に記録されたり、図示しないデジタルインターフェースや通信部を通じて出力されたりするRaw動画像データを含むようにされたデータフォーマットであるRaw動画フォーマットを説明するための図である。
図1に示すように、1つのRaw動画ファイルMf1内は、シーン1、シーン2、…、信号Nというように、複数のシーンに分類され、1つのシーンに対して単数または複数のRaw動画形式を持つことができるようにしている。ここでいうRaw動画形式は、
(1).Raw動画像データS1
(2).サムネールRaw動画像データSn1
(3).Raw動画像データの中間現像動画像データS2
(4).サムネール中間現像動画像データSn2
(5).現像済みの通常動画像データS3
(6).サムネール通常動画像データSn3
(7).現像パラメータ群Pm
からなる一連のデータの集合体の形式を意味する。
Raw動画像データS1は、上述もしたように、撮影することにより得た現像処理前の動画像データである。また、サムネールRaw動画像Sn1は、Raw動画像データS1を適切に縮小したRaw動画像データである。なお、図1に示したサムネールRaw動画像生成部421の機能により、サイズの異なる複数のサムネールRaw動画像データを生成して持つようにすることも可能である。
なお、サムネールRaw動画像データは、Raw動画像データよりデータ量は少ないので、現像パラメータ群の情報を変更し、迅速に現像処理を行って、その結果を見たい場合には、サムネールRaw動画像データを用いるのが効果的である。
中間現像動画像データS2は、上述もしたように、Raw動画像データS1について現像処理を途中まで行うことによって得た動画像データをさす。この実施の形態のカメラシステム100においては、露出調整処理、ホワイトバランス調整処理、NR処理、デモザイク処理のみを行い、以降の彩度調整や色調調整処理を行っていないものである。
もちろん、これは一例であり、現像処理を種々の段階まで行ったものを中間現像動画像データとすることが可能である。そして、この中間現像動画像データS2を用いることにより、現像処理を途中から行うことができる場合があり、その場合には、高速に現像処理を行うことができる。
また、サムネール中間現像動画像データSn2は、中間現像動画像データS2を適切に縮小した中間現像動画像データである。なお、図1に示したサムネール中間現像動画像生成部422の機能により、サイズの異なる複数のサムネール中間現像動画像データを生成して持つようにすることも可能である。
また、カメラシステム100の性能に応じて、サムネール中間現像動画像生成部422の機能として、例えば、現像処理の第1段階まで終了させた第1の中間現像動画像データ、現像処理の第2段階まで終了させた第2の中間現像動画像データというように、現像処理段階の異なる複数の中間現像動画像データを生成したり、あるいは、ユーザーの指定により、現像処理の目的とする現像段階まで終了させた1種類の中間現像動画像データを生成したりすることも可能である。
そして、特にサムネール中間現像動画像データSn2を利用した場合には、サムネール画像(縮小画像)に対して現像処理を行うようにするので、処理すべきデータ量も格段に少なくなり、現像速度向上の効果が高い。すなわち、サムネール中間現像動画像データSn2に対して、ユーザーが現像パラメータを調整して現像処理を行うようにすることにより、現像処理を迅速に行ってユーザーが目的とするような現像処理が行われるか否かを迅速に確認することができるようにされる。
また、通常動画像データS3は、上述もしたように、Raw動画像データが現像処理されて、データ圧縮されたものであり、従来のカメラシステムにおいては、この通常動画像データS3が記録媒体への記録対象データとなっていたものである。また、サムネール通常動画像データSn3は、Raw動画像データが現像処理されて形成された表示用の動画像データを適切に縮小した動画像データである。なお、図1に示したサムネール通常像動画像生成部423の機能により、サイズの異なる複数のサムネール通常動画像データを生成して持つようにすることも可能である。
通常動画像データS3、サムネールSn3は、既に現像処理されたものであるので、現像処理を行う必要は無いので、画質等には拘らず、撮影することにより得た動画像データの内容を迅速に再生して確認した場合などに用いて好適である。
そして、図2に示したように、一連の動画像データのシーン毎に、Raw動画像データS1、中間動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間動画像データSn2、サムネール通常動画像データSn3、現像パラメータ群Pmを持つようにしているので、目的に応じてこれらを使い分けることができる。
例えば、即座に撮影した動画像を再生して見たい場合には、通常動画像データS3を再生してみ見るようにすればよいし、また、複数の動画像データの中から目的とする動画像データを探し出す場合には、各動画像データについてのサムネール通常動画像データSn3を再生するようにすればよい。
また、中間現像動画像データS2が生成された以降の現像処理について、用いられる現像パラメータの調整を行うようにしたい場合には、中間現像動画像データS2を再生すればよいし、その途中からの現像処理の結果をより早く知りたい場合には、サムネール中間現像動画像データSn2を再生するようにして現像パラメータの調整を行うようにすればよい。
そして、撮影することにより得た動画像データについて、ユーザーが自分の好みの画質に調整したい場合には、Raw動画像データS1を再生するようにして、現像パラメータの調整を行うようにすればよいし、その結果を早く知りたい場合には、サムネールRaw動画像データを再生するようにして、現像パラメータの調整を行うようにすればよい。サムネールRaw動画像データSn3を用いるようにすることにより、処理対象の画像データ量を絞り込むと共に、ユーザーの指示に応じた現像パラメータを用いて、現像処理を迅速に行い、その結果を見ることができるようにされる。
なお、図2に示したフォーマットの場合には、動画像のシーン毎に、各動画像データS1、S2、S3、Sn1、Sn2、Sn3と、現像パラメータPmとを持つものとして説明した。ここでのパラメータ群は、当該シーンの目的とするフレームのそれぞれに対応する複数のパラメータ群からなるものである。そして、シーン毎にデータを持つようにするために、動画像のシーンの変化点を検出するようにしなければならない。
このシーン変化点(シーンチェンジ位置)の検出は、従来から用いられている種々の方法を用いることが可能である。例えば、隣接するフレーム間の画素値の差分が予め決められる所定値以上になった場合に、シーン変化点であると判断することが可能である。この場合、フレーム全体の画素を用いるようにしたり、予め決められた複数の位置の画素を用いるようにしたり、輝度データだけを用いるようにしたり、色データも考慮したりするなど、種々の対応を取ることが可能である。また、詳しくは後述するが、フレーム毎の検波データや現像パラメータの変化をも考慮して、シーン変化点を検出するようにすることも可能である。
[Raw動画フォーマットの他の例]
また、図2に示したように、シーン毎にRaw動画像データS1や現像パラメータ群Pmを含む複数の動画像データをまとめるのではなく、形式や種類の異なるデータ毎にシーンをまとめて保持する形式をとるようにすることもできる。図3は、Raw動画フォーマットの他の例を説明するための図である。
この図3に示すRaw動画フォーマットの他の例の場合にも、図2に示したRaw動画フォーマットの場合と同様に、保持するようにするデータは、Raw動画像データS1、中間動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間動画像データSn2、サムネール通常動画像データSn3、現像パラメータ群Pmである。
しかし、図3に示す例の場合には、形式の異なるデータ毎に、一連の動画像の各シーンをまとめるようにしている。すなわち、Raw動画像データS1xは、各シーンのRaw動画像データがまとめられたものである。また、中間現像動画像データS2xは、各シーンの中間現像動画像データがまとめられたものである。また、通常動画像データS3xは、各シーンの通常動画像データがまとめられたものである。
同様に、サムネールRaw動画像データSn1xは、各シーンのサムネールRaw動画像データがまとめられたものである。また、サムネール中間現像動画像データSn2xは、各シーンのサムネール中間現像動画像データがまとめられたものである。また、サムネール通常動画像データSn3xは、各シーンのサムネール通常動画像データがまとめられたものである。また、現像パラメータ群Pmxは、各シーン毎の現像パラメータ群がまとめられたものである。
図2に示したRaw動画フォーマットの場合には、1つのRaw動画ファイルMf1の中に、形式の異なる動画像データや現像パラメータ群が、シーン単位でまとめられていたのに対して、図3に示したRaw動画フォーマットの場合には、Raw動画像データS1x、中間現像動画像データS2x、通常動画像データS3x、サムネールRaw動画像データSn1x、サムネール中間現像動画像データSn2x、サムネール通常動画像データSn3x、現像パラメータ群Pmxのそれぞれが1つのファイルを構成し、これらが集まって、Raw動画ファイルを構成したものであるといえる。
そして、図2に示したRaw動画フォーマットの場合には、例えば、各シーン毎にRaw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3を用いる場合には便利である。
しかし、複数のシーンの動画像データを再生して用いるようにする場合には、図3に示したフォーマットの方が、再生しないデータを処理対象とすることはないので、アクセス時間を短くでき、より迅速な再生が可能になる場合がある。
[現像パラメータPmの取得態様]
Raw画像は現像するためには、具体的にどのような現像処理を行うようにするのかを指示する現像パラメータ群を必要とする。ここで、現像パラメータ群は、例えば、露出調整処理のためのパラメータ、ホワイトバランス処理のためのパラメータ、NR処理のためのパラメータ、どのようなデモザイク処理を行うのかを指示するパラメータ、彩度調整のためのパラメータ、色調調整のためのパラメータ、その他の現像パラメータというように、種々の現像パラメータからなるものである。
通常、Raw動画像の場合、正確に現像処理するためには全てのフレームに対して完全な現像パラメータ群が必要となる。しかし、同一のシーンに対しては、あまり変化しない現像パラメータも多く、全てのフレームに対して全ての現像パラメータ群を記録するのは効率が悪い。また、どのフレームで現像パラメータが変化したかの情報を解析するのにも不向きである。
そこで、この実施の形態のカメラシステム100の検波処理部402においては、Raw動画像データS1に対する現像パラメータPmを適応的に生成して記録することができるようにしている。具体的には次の(1)〜(6)に示すような規則にしたがって現像パラメータを記録して行く。
(1).シーンの始めには全ての現像パラメータを記録する。
(2).シーンの始め以外は一定間隔毎にパラメータを記録する。
(3).現像パラメータの変化頻度によって上記の「一定間隔」は変更される。
(4).(2)とは別に、現像パラメータのうち、大きな変化や急激な変化があった現像パラメータは随時に記録する。
(5).(4)の時に、他のパラメータや全ての現像パラメータを同時に記録しても良い。
(6).上記(1)〜(5)の適応的な現像パラメータは、記録時に生成するのが望ましい。しかし、カメラシステム100の性能が不足するような場合には、記録時には全てまたは一部の現像パラメータを記録しておき、現像装置の解析によって生成するようのすることも可能である。
図4は、上述した(1)〜(6)の規則にしたがって、所定のシーン(シーンN)を構成する複数のフレームに対して、適応的に現像パラメータ群を記録する場合の具体例について説明するための図である。
図4に示すように、シーンの最初のフレーム(フレーム1)に対しては、全ての現像パラメータ(完全現像パラメータ群:1)を記録する。その後は、基本的には、一定間隔毎のフレームに対して(規則的に1つ以上のフレームを間引くようにしたタイミングのフレームに対して)完全現像パラメータ群を記録する。
なお、図4において、「完全現像パラメータ群:1」の「:1」との記載は、当該パラメータ群が付加するようにされる(記録するようにされる)対応するフレームのフレーム番号であり、以下に説明する現像パラメータ群A、現像パラメータ群B、現像パラメータ群Cについても同様である。
しかしながら、場合によってはシーン初め以外に完全現像パラメータ群の記録は行わなくてもよい。完全現像パラメータ群に含まれる個々の現像パラメータは、その性質によって変化頻度の高いものと変化頻度の低いものがある。変化頻度の高いものは更新を早くする必要があるため、記録間隔を短くし、変化頻度の低いものは記録間隔を長くすることができる。
すなわち、完全現像パラメータ群を記録するのか、記録しないのかの2択ではなく、現像パラメータの種類によって記録頻度を変化させる。図4に示したシーンNの場合、現像パラメータ群Aは、1フレームおきのフレームに対して記録し、現像パラメータ群Bは、3フレームおきのフレームに対して記録し、現像パラメータ群Cは、4フレームおきのフレームに対して記録するようにしている場合を示している。
したがって、図4に示した例の場合には、シーンNの最初のフレーム(フレーム1)に対しては、(完全現像パラメータ群:1)が記録され、フレーム1を始点として、1フレームおきのフレームであるフレーム3、フレーム5、フレーム7、…、フレームMのそれぞれに対しては、対応する(現像パラメータ群A:3)、(現像パラメータ群A:5)、(現像パラメータ群A:7)、…、(現像パラメータ群A:M)が記録される。
さらに、フレーム1を始点として、3フレームおきのフレームであるフレーム5、フレーム9、…のそれぞれに対しては、対応する(現像パラメータ群B:5)、(現像パラメータ群B:9)、…が記録される。また、フレーム1を始点として、4フレームおきのフレームであるフレーム6、…、フレームMのそれぞれに対しては、対応する(現像パラメータ群C:6)、…、(現像パラメータ群C:M)が記録される。
なお、この図4に示した例において、完全現像パラメータ群は、全ての現像パラメータを含むものであり、現像パラメータ群Aは、例えば、明るさ、カラー特性などの変化頻度の高い現像パラメータからなるものであり、現像パラメータ群Bは、例えば、種々の補間処理パラメータなどの変化頻度が中程度の現像パラメータからなるものであり、現像パラメータ群Cは、例えば、レンズ特性など変化頻度が比較的に低い現像パラメータからなるものである。
また、撮影時にカメラの撮影対象が変化した場合等、シーンの特徴が急減に変化する場合がある。こういった時は現像パラメータ群も著しく変化するため、現像パラメータ群を記録する必要がある。そして、上述した撮像パラメータ群を付加する一定間隔が十分に短い場合は問題ないが、そうでない場合は一定間隔記録とは別に記録する。
この場合、変化の大きかった現像パラメータだけを記録するようにしてもよいし、完全現像パラメータ群を記録するようにしたり、あるいは、当該変化の激しかった現像パラメータを含む現像パラメータ群を記録するようにしたりすることができる。このように、この実施の形態のカメラシステム100においては、図4に示したように、全てのフレームに対して現像パラメータ群を付加するのではなく、予め決められた周期のフレームや変化点のフレームなどに適応的に付加することができるようにしている。このように、飛び飛びのフレームに対して適応的に付加するようにされる現像パラメータ群を、この明細書においては、適応的な現像パラメータ群と呼ぶ。
そして、適応的な現像パラメータ群を用いる場合には、現像パラメータや検波データ(検波値)、Raw動画像データ(Rawフレーム動画像データ)の変化を解析することにより、現像パラメータの急激な変化を検出し、適応的な現像パラメータを取得するようにすることも必要になる。この実施の形態のカメラシステム100は、検波処理部402において、現像パラメータの急激な変化の発生を検出し、シーンの変化点のフレームに対しても現像パラメータ群を付加することができるようにしている。
図5は、この実施の形態のカメラシステム100の検波処理部402の構成例を説明するためのブロック図である。図5に示すように、検波処理部402は、検波回路4021と、適応的現像パラメータ解析部4022とを備えたものである。また、検波回路4021は、検波データ生成部4021aと、現像パラメータ生成部4021bとからなるものである。
そして、図1を用いて上述もしたように、レンズ部101、撮像素子部102を通じて取り込まれたRaw動画像データS1は、I/F部LSI103、センサI/F部401を通じて検波処理部402に供給される。このようにして検波処理部402に供給されたRaw動画像データS1は、検波回路4021の検波データ生成部4021aと、適応的現像パラメータ解析部4022とに供給されると共に、この検波処理部402からRaw動画像データS1として出力するようにされている。
検波データ生成部4021aにおいては、所定の画像領域に複数の分割域からなる検波領域を設定し、この検波領域の各分割域のRaw動画像データの各フレームの画像データから、自動露出調整、自動ホワイトバランス調整、自動焦点調整のために用いるRaw動画像データについての評価値(検波値)である検波データを生成し、これを現像パラメータ生成部4021bと、適応的現像パラメータ解析部4022とに供給する。
現像パラメータ生成部4021bは、これに供給された検波データに基づいて、例えば、フレーム毎に種々の現像パラメータを形成し、これを適応的現像パラメータ解析部4022に供給する。適応的現像パラメータ解析部4022は、これに供給されるフレーム単位の、検波データ、現像パラメータ群、Raw動画像データについて、前後のフレーム単位に差分を求めるなどの解析を行うことにより、シーンの変化点(フレーム)や現像パラメータ群が急激に変化した位置(フレーム)を検出する。
そして、適応的現像パラメータ解析部4022において、シーン変化点が検出された場合には、適応的現像パラメータ解析部4022は、図4を用いて説明したように、新たなシーンの最初のフレームに対しては、完全現像パラメータ群を出力する。また、適応的現像パラメータ解析部4022において、現像パラメータが急激に変化位置を検出した場合には、変化後のフレームに対して、完全現像パラメータ群を出力したり、急激に変化した現像パラメータを含むようにされた所定の現像パラメータ群(例えば、図4に示した現像パラメータ群A、現像パラメータ群B、現像パラメータ群Cなど)を出力したり、急激に変換した現像パラメータのみを出力したりする。
この実施の形態のカメラシステム100においては、現像パラメータが急激に変化位置を検出した場合には、例えば、完全現像パラメータ群を出力するものとする。また、適応的現像パラメータ解析部4022においては、図4を用いて説明したように、予め決められる一定間隔毎のフレームに対しても現像パラメータ群を対応付けるようにする。
すなわち、適応的現像パラメータ解析部4022は、上述した(1)〜(6)の手順にしたがって、飛び飛びのフレームに対して、現像パラメータ群を対応付けるようにする。このようにして、この実施の形態のカメラシステム100においては、適応的現像パラメータを出力することができるようにしている。
このように、適応的現像パラメータ生成部4022は、シーン変化点や現像パラメータが急激に変化位置を検出しないときには、適応的現像パラメータ生成部4022は、図4を用いて説明したように、予め決められた数のフレームおきのフレームに対して、所定の現像パラメータ群も出力することができるものである。
また、この実施の形態のカメラシステム100の適応的現像パラメータ解析部4022は、現像パラメータだけでなく、種々のデータが存在する検波データ群についても、現像パラメータと同様に、各信シーンの最初のフレームに対しては、全検波データ群を出力するが、その他のフレームに対しては、各検波データの変化の頻度に応じて、数フレームおきに出力するようにして、通常検波データ群を出力するようにしたり、検波データが急激に変化した場合にこれを適応的検波データ群として出力するようにしたりすることもできる。
したがって、変化頻度の高い検波データからなる検波データ群については、短い周期のタイミングで出力し、検波頻度の低い検波データからなる検波データ群については、比較的に長い周期のタイミングで出力するようにすることができる。なお、検波データ群については、適切に自動露出調整、自動ホワイトバランス調整、自動焦点調整を行うために、フレーム毎に出力するようにしてももちろんよい。
このように、この実施の形態のカメラシステム100において、検波処理部402は、Raw動画像データS1に対しては、全てのフレームに対して現像パラメータを付加するのではなく、飛び飛びのフレームに対して、適応的に現像パラメータ群Pmを付加して出力することができるものである。また、検波データ群Ddについても適応的に出力することができるものである。
簡単にまとめれば、この実施の形態のカメラシステム100の検波処理部402は、Raw動画像データS1を出力することができると共に、これに対して、図4を用いて説明したように予め決められた周期毎に、あるいは、現像パラメータが急激に変化するタイミングで、予め決められた現像パラメータ群を出力するようにすることによって、現像パラメータ群Pmを出力することができる。
また、検波処理部402は、適応的現像パラメータ群と同様にして、予め決められた周期毎や検波データが急激に変化するタイミングで、例えば予め決められた検波データ群を出力するようにすることによって、検波データ群Ddを出力するようにすることもできる。
なお、上述もしたように、変化頻度の高い現像パラメータと変化頻度の引くパラメータとで、付加するタイミングを異ならせるようにした。この場合、上述もしたように、用いられる現像パラメータ毎に、変化頻度の程度の一般的な傾向は予め分かるので、その傾向に基づいて、どの現像パラメータをどの位の間隔で動画像データのフレームに付加するようにするかを予め決めておけばよい。
また、図5に示した検波処理部402の適応的現像パラメータ解析部4022において、用いられる現像パラメータ毎に変化頻度を求めるようにし、これにしたがって、撮影時において適応的に、現像パラメータにそれぞれについて動画像データへの付加タイミング(付加周期)を制御するようにすることもできる。
図6は、この実施の形態のカメラシステム100の検波処理部402から出力されるRaw動画像データS1のデータフォーマットの例と、現像パラメータ群Pmのデータフォーマットの例について説明するための図である。図6Aに示すように、Raw動画像データS1は、フレーム毎にフレーム識別情報R1とフレーム単位のRaw動画像データR2とからなるものである。
一方、現像パラメータ群Pmは、図6Bに示すように、これが付加するようにされている対応するRaw動画像データのフレームを示すフレーム識別情報P1と、現像パラメータ情報P2とからなり、現像パラメータP2は、明るさ(P21)、カラー特性(P22)、シャープネス(P23)、…などの個々の現像パラメータが収められるようにされている。
このように、的現像パラメータ群Pmが付加するようにされているRaw動画像データS1のフレームと当該現像パラメータ群Pmとは、フレーム識別情報によって結び付けられ、Raw動画像データS1のどのフレームに対して、どの現像パラメータ群Pmが付加されているかを区別して利用することができるようにしている。
すなわち、Raw静止画像においては原則として、1枚分のRaw静止画像データに対して必ず現像パラメータ群が付与される。しかし、Raw動画像データは、上述もしたように、多数のRawフレーム画像の集合体がRaw動画像データである。したがって、この実施の形態のRaw動画像フォーマットでは、現像パラメータ群は記録されたRaw動画像データの、どのフレームに対して適用されるべきかを特定するための情報が必要になる。この情報は、全てのフレームに対して全ての現像パラメータが記録されている場合は必要ないが、時間軸方向に圧縮されたRaw動画像データを保持する場合や、上述もしたように、時間軸方向に現像パラメータの記録を間引いた場合などには必ず必要となる。
そして、図6に示した例の場合には、フレーム識別情報を用いることを説明したが、このフレーム識別情報は、各フレームに固有の情報であり、例えば、フレーム番号、先頭からの時間情報、先頭からのシーケンス番号など、種々の情報を用いるようにすることが可能である。
なお、この実施の形態のカメラシステム100においては、図4にも示したように、例えば、フレーム5とフレーム9とには、現像パラメータ群Aと現像パラメータ群Bとが付加され、フレームMには、現像パラメータ群Mと現像パラメータ群Cとが付加されるというように、1つのフレームに対して複数の現像パラメータ群を付加することが可能である。
また、上述もしたように、適応的な現像パラメータはカメラシステム(撮像装置)内で生成するのが望ましいが、カメラシステムの処理能力が不足する場合などは、Raw現像装置が解析することで、Raw現像装置内で適応的パラメータ群を計算するようにしてもよい。
また、撮像装置においては全フレームに対して付加するようにする現像パラメータや、あるいは、一定間隔やその他の間引きを行ったタイミングで付加するようにされる現像パラメータ群については、全てRaw動画ファイル内に記録するようにし、それを後述もするように、Raw現像装置内で用いるとともに、シーンの変化点をも検出して、この変化点のフレームに対して撮像パラメータ群を新たに付加するなどのことを行うようにすることもできる。
[Raw動画像ファイルの他の例]
ところで、Raw動画像の場合、その目的によって最適な絵作りパラメータを使用できるようにしておいたほうが好ましい場合がある。例えば、映画風の絵作りや鮮やかな色が際立つ絵作りなど、動画像の用途などに応じて様々な絵作りが存在する。動画を記録する際には撮影設定を適切に設定することで目的の絵作りをユーザーが選ぶことなどがあるが、Raw動画像の場合、現像時に絵作りを指定する事がある。
このため、この実施の形態のカメラシステム100においては、記録時には同一シーンを撮影しているにも関わらず、複数の、絵作りの異なる現像パラメータ群を同時に記録することもできるようにしている。すなわち、この実施の形態のカメラシステム100の検波処理部402は、CPU410の制御に応じて、動画像の撮影時において、同じ動画像データに対して、少なくとも4種類の現像パラメータを一緒に生成し、これを記録することができるようにしている。
具体的には、この実施の形態のカメラシステム100の検波処理部402は、同一のRaw動画像データに対して、現像パラメータ群として、現像パラメータ群(映画調)Pm(a)、現像パラメータ群(鮮やか)Pm(b)、現像パラメータ群(風景用)Pm(c)、現像パラメータ群(肌重視)Pm(d)の4種類の異なる現像パラメータ群を生成することができるようにしている。そして、これらの現像パラメータ群についても、Raw動画像データなどと共に、記録媒体109に記録することができるようにしている。
図7は、この実施の形態のカメラシステム100において、記録媒体109に記録されるRaw動画ファイルの他の例(Raw動画ファイルMf1x)を説明するための図である。図7において、Raw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれについては、図2を用いて説明したRaw動画ファイルMf1の場合と同様に生成されて、記録するようにされるものである。
そして、図7に示す例の場合には、上述もしたように、検波処理部402において生成される現像パラメータ群として、現像パラメータ群(映画調)Pm(a)、現像パラメータ群(鮮やか)Pm(b)、現像パラメータ群(風景用)Pm(c)、現像パラメータ群(肌重視)Pm(d)の4種類の異なる現像パラメータ群のそれぞれが、記録再生処理部409を通じて記録媒体109に記録するようにされる。
このようにすることによって、Raw動画像データの再生時において、目的する絵作りに対応する現像パラメータを用いることを指定することにより、再生時に現像パラメータをわざわざ生成する必要もないようにすることができる。すなわち、記録媒体109に記録したRaw動画像データについて、ユーザーが目的とする絵作りの現像パラメータ群を用い、かつ、ユーザーが調整を加えながら現像処理して、ユーザーの意図するように、Raw動画像データを現像処理することができるようにされる。また、また、複数の現像パラメータ群のブレンド(混合)を指定することもでき、「映画調」かつ色が「鮮やか」な効果、などを得る事もできる。
[現像処理に当たっての現像パラメータの補間について]
この実施の形態のカメラシステム100は、図4等を用いて説明したように、Raw動画像データの全てのフレームに対して現像パラメータ群を付加するのではなく、現像パラメータ群は、これを付加する必要のある飛び飛びのフレームに対してのみ付加するようにしている。
このように、現像パラメータ群が飛び飛びのフレームに対して付加されているRaw動画像データを現像する場合には、現像パラメータ群が付加するようにされていないフレームに対して、用いる現像パラメータ群を補わなければならない。以下においては、この実施の形態のカメラシステム100において、記録媒体109に記録されたRaw動画像データを現像する場合における現像パラメータ群の補間について説明する。
図8〜図17は、現像パラメータの補間について説明するための図である。今、図8に示すように、この実施の形態のカメラシステム100において、動画像を撮影するようにした場合に得られるRaw動画像データの所定のシーンの各フレームに対して、検波処理部402において現像パラメータが生成されて、関連付けられているとする。
なお、現像パラメータは、実際には多数存在し、上述もしたように、現像パラメータ群として存在する場合が多く、かつ、数値の組み合わせで存在するようにされる場合が多いものである。しかし、ここでは、説明を簡単にするため、例えば、1種類の現像パラメータが各フレームに対して対応付けられている場合を例にして説明する。
図8に示した例の場合、現像パラメータAの変化頻度はそれほど高くないので、この実施の形態のカメラシステム100においては、Raw動画像データと現像パラメータAとを記録媒体109に記録する際に、現像パラメータAについては、図9に示すように2フレームに1つに記録したとする(1フレームおきに記録したとする)。
そして、記録媒体109に記録されている当該Raw動画像データと現像パラメータAとを記録媒体109から読み出して現像する場合に、この実施の形態のカメラシステム100の画像処理部403は、記録媒体109から読み出されて画像処理部403に供給された現像パラメータAを、図10に示すように補間処理して現像するようにする。
この例の場合に、図10に示すように、偶数フレームに対する現像パラメータAが補間されたものである。この図10に示す例においては、線形補間を行うようにしている。しかし、実際には、スプライン補間やベジェ補間など、適切な補間アルゴリズムを使用することが好ましい。
また、上述した適応的な現像パラメータを用いて現像する場合も同様に現像処理することが可能である。今、図11に示すように、この実施の形態のカメラシステム100において、動画像を撮影するようにした場合に得られるRaw動画像データの所定のシーンの各フレームに対して、検波処理部402において現像パラメータが生成されて、関連付けられているとする。
そして、この例の場合、当該カメラシステム100は、現像パラメータとして適応的な現像パラメータとして、現像パラメータが大きく変化するフレームに対して現像パラメータを対応付けるようにすることを考える。具体的には、図12に示すように、適応的な現像パラメータとして、現像パラメータが大きく変化した場合の変化前のフレームに対する現像パラメータと変化直後のフレームに対する現像パラメータとが、当該Raw動画像データと共に記録媒体109に記録するようにされているものとする。なお、上述もしたように、Raw動画像データの各シーンの最初のフレームに対しても、現像パラメータが付加するようにされる。
これにより、撮影することにより得られる図11に示した状態のRaw動画像データと、撮像パラメータAとは、図12に示すように、撮像パラメータAを適応的な撮像パラメータとして、記録媒体109に記録することができるようにされる。
そして、図12に示したように対応付けられたRaw動画像データと適応的な現像パラメータとが記録媒体109に記録されており、これらを読み出して画像処理部403に供給して現像処理する場合に、画像処理部403は、図13に示すように、現像パラメータが対応付けられていないフレームに対して、現像パラメータを補間する。
この図13の場合にも、適応的な現像パラメータに基づいて、線形補間により現像パラメータが対応付けられていないフレームの現像パラメータを復元する。これにより、図13において、フレーム2、フレーム5〜フレーム9に対する現像パラメータが復元され、これが用いられて現像処理が行われることになる。
また、適応的な現像パラメータを用いることのメリットはデータ量の削減だけではない。ユーザーが現像パラメータを調整する場合において、変化点における現像パラメータの調整を直感的に行うようにすることができる。つまり、現像パラメータについて、隣接するフレーム間で変化のないフレームに関しても現像パラメータを保持している場合に、この隣接するフレーム間で変化のないフレームについての現像パラメータをユーザーが変化させるようにしても、そのフレームのみに適応されてしまう。すなわち、周辺のフレームに影響を拡大するにしても基準がない。
しかし、適応的な現像パラメータの場合は、例えば、図13において、フレーム10に対応付けられている値が「60」である適応的な現像パラメータを調整して、図14に示すように、当該フレーム10に対応付けられている適応的な現像パラメータの値を「90」に調整したとする。
この場合に、フレーム10に対応付けられている適応的な現像パラメータを調整した後に、補間された現像パラメータについても、再度補間処理を行うようにすることで、図15に示すように、ユーザーにより調整された適応的な現像パラメータの影響を受けて、補間した現像パラメータについても、自動的に補正(修正)を行うようにすることができる。つまり、適応的な現像パラメータのあるフレームがキーフレームとなって、ユーザーにとって直感的なRaw動画像データについての現像調整を行うことができるようにされる。
さらに、図16に示すように、適応的な現像パラメータが付加されてなかったフレーム(図16の例の場合には、フレーム7)をキーフレームとして指定し、その指定したキーフレームの現像パラメータを調整した後に、再補間処理を行うようにすると、図17に示すように、Raw動画像データの各フレームに対応付けられる現像パラメータを補正し、より自然な現像パラメータを得ることができるようにされる。
このように、キーフレームという考え方を用いると共に、再補間処理を行うようにすることによって、ユーザーにとって直感的なRaw動画像データに対する現像パラメータの調整を行う手段を提供し、Raw動画像データに対する現像パラメータの調整を適切に行うようにすることができる。
なお、このようなRaw動画データについての現像パラメータの調整においては、撮影時の設定により、現像パラメータの値を全て中央とし、ユーザーの調整点のみで現像パラメータの調整を行うようにする場合と、図12を用いて説明した様に、撮影時において、現像パラメータが変化した変化点の現像パラメータを記録してユーザーに示し、それを参考にユーザーが現像パラメータを調整するようにする場合との2通りのインタフェースが考えられる。前者の場合はその調整項目に関係の深いデータを並べて提示することもがある。後者の場合は、ユーザーは元々ある変化点を調整する事もできるが、新たに変化点を追加し、複雑な調整結果を時間軸方向に与える事もできる。
[カメラシステム100の動作のまとめ]
次に、この実施の形態のカメラシステム100の撮影時の処理(動画像データの記録時の処理)と、撮影することにより記録媒体109に記録されたRaw動画像データの再生時の処理とのそれぞれについて、図18、図19のフローチャートを参照しながら説明する。
[動画像の撮影時の処理のまとめ]
図18は、この実施の形態のカメラシステム100において実行される動画像データの撮影時の処理について説明するためのフローチャートである。この図18に示す処理は、操作部107を通じて、動画像の撮影を開始することの操作入力を受け付けた場合に、CPU410が各部を制御して実行するものである。
まず、CPU410は、センサI/F部401を制御し、レンズ部101、撮像素子部102、I/F部LSI103を通じて供給されるRaw動画像データS1を取得し、これを検波処理部402に供給する(ステップS101)。検波処理部402は、Raw動画像データS1をサムネールRaw動画像生成部421に供給し、サムネールRaw動画像データSn1を生成するようにする(ステップS102)。
また、検波処理部402は、これに供給されたRaw動画像データS1の各フレーム毎に検波処理を行うことにより、フレーム毎の検波データ(検波値)を生成し、この検波データに基づいて、フレーム毎の現像パラメータ群を生成し、さらに、上述もした基準に従って飛び飛びのフレームに対して現像パラメータ群を関連付けるようにして、適応的な現像パラメータ群を生成するようにする(ステップS103)。
そして、検波処理部402からのRaw動画像データS1と適応的な現像パラメータPmとは、画像処理部403に供給され、画像処理部403においては、現像処理を途中まで行うことにより、中間現像動画画像データS2を生成する(ステップS104)。この場合、画像処理部403は、生成した中間現像動画像データS2を、サムネール中間現像動画像生成部422に供給する。サムネール中間現像動画像生成部422は、これに供給された中間現像動画像データS2からサムネール中間現像動画像データSn2を生成する(ステップS105)。
また、画像処理部403は、中間現像動画像データS2を生成した後、さらに現像処理を進め、最終的には供給されたRaw動画像データS1からYCデータを形成する。このYCデータは、画像処理部403から解像度変換処理部404に供給され、ここで解像度変換処理が行われて、表示用の画像データが形成され、これが圧縮処理部405に供給されて所定のデータ圧縮方式でデータ圧縮され、記録媒体109に記録する記録用の通常動画像データS3を生成する(ステップS106)。
さらに、解像度変換処理部404から出力される表示用の画像データは、あるいは、圧縮処理部405からの通常動画像データは、サムネール通常動画像生成部423に供給され、ここでサムネール通常動画像データSn3が生成される(ステップS107)。
そして、制御部410は、上述したように対応する各部で生成されるRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2、通常動画像データS3、サムネール通常動画像データSn3、及び、現像パラメータPmを、記録再生処理部409を通じてシーン単位に記録媒体109に記録する(ステップS108)。
この後、CPU410は、操作部107を通じてユーザーから撮影の終了指示を受け付けるなど、撮影を終了させるようにする事象が発生したか否かを判断する(ステップS109)。ステップS109の判断処理において、撮影を終了させるようにする事象は発生していないと判断したときには、ステップS101からの処理を繰り返すようにする。また、ステップS109の判断処理において、撮影を終了させるようにする事象が発生したと判断したときには、CPU410は、この図18に示す処理を終了し、動画像の撮影を終了させる。
なお、ここでは、通常動画像データS3は、圧縮処理部405の機能によりデータ圧縮したものとして説明したが、これに限るものではない。Raw動画像データS1や中間現像画像データS2についても、例えば圧縮処理部405の機能により、あるいは、別個に設ける圧縮処理回路の機能により、所定のデータ圧縮方式に従ってデータ圧縮した後に記録媒体109に記録するようにしてもよい。
また、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3のそれぞれについても、例えば圧縮処理部405の機能により、あるいは、別個に設ける圧縮処理回路の機能により、所定のデータ圧縮方式に従ってデータ圧縮した後に記録媒体109に記録するようにしてもよい。
また、通常動画像データS3については、データ圧縮することなく、そのまま記録するようにすることももちろんできる。
このように、この実施の形態のカメラシステム100においては、動画像を撮影することにより得られるRaw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3、適応的現像パラメータPmを、記録媒体109に記録することができるものである。
[Raw動画像データの再生時の処理のまとめ]
図19は、この実施の形態のカメラシステム100において実行される、記録媒体109に記録されているRaw動画像データの再生時の処理について説明するためのフローチャートである。この図19に示す処理は、操作部107を通じて、Raw動画像データの再生を開始することの操作入力を受け付けた場合に、CPU410が各部を制御して実行するものである。
CPU410は、記録再生処理部409を制御して、記録媒体109に記録されているデータの中から、再生するように指示されたRaw動画像データS1と、これに対応する現像パラメータ(適応的現像パラメータ)Pmとを読み出し、これらを画像処理部403に供給する(ステップS201)。なお、再生対象のRaw動画像データS1が、データ圧縮されて記録媒体109に記録されているものであるときには、読み出された後、例えば、伸張処理部408の機能により伸張処理されて、画像処理部403に供給されることになる。
そして、画像処理部403においては、CPU410の制御により、これに供給された現像パラメータ群Pmの補間処理と、操作部107を通じて受け付けたユーザーからの現像パラメータ群に対する変更指示入力に応じて、現像パラメータを調整する処理を行う(ステップS202)。
この後、画像処理部403は、補間、調整後の現像パラメータを用いて、読み出されたRaw動画像データの現像処理を行い、YCデータを生成するようにする(ステップS203)。ここで生成されたYCデータは、解像度変換処理部404に供給されて解像度変換されて表示用の画像データが生成され、これが、表示処理部406、表示処理LSI105を通じて表示デバイス106に供給されて、当該表示デバイス106の表示画面に読み出されたRaw動画像データに応じた動画像が再生するようにされる(ステップS204)。
そして、CPU410は、操作部107を通じてRaw動画像データの再生の終了指示や、再生するように指示されたRaw動画像データの再生が最後まで終了するなど、再生処理を終了させる事象が発生したか否かを判断する(ステップS205)。
ステップS205の判断処理において、再生処理を終了させる事象は発生していないと判断したときには、CPU410は、ステップS201からの処理を繰り返し、再生処理を続行する。また、ステップS205の判断処理において、再生処理を終了させる事象が発生したと判断したときには、この図19に示し処理を終了する。
このように、この実施の形態のカメラシステム100においては、撮影することにより得たRaw動画像データS1と現像パラメータ群Pmとを用いて、当該Raw動画像データを現像処理して再生することができるようにされる。また、現像パラメータ群を調整して、ユーザーが好みの絵作りを行うことができる。
なお、図19は、Raw動画像データS1を再生する場合について説明するものであるが、サムネールRaw動画像データSn1を再生する場合にも、同様に再生処理が行うようにされる。また、中間現像動画像データS2、サムネール中間現像動画像データSn2についても、図19に示したフローチャートにしたがった再生処理により再生することが可能である。
しかし、中間現像動画像データS2、サムネール中間現像動画像データSn2の場合には、ステップS203において行われる現像処理が、既に行われている現像処理より後に行われるべき現像処理が行われることになる。すなわち、上述もしたように、この実施の形態の中間現像動画像データは、露出調整処理、ホワイトバランス調整処理、NR処理及び補間処理(デモザイク処理)が行われて形成されたものであるので、その後の彩度調整処理や色調調整処理が行われることになる。もちろんこれは一例であり、種々のパターンが考えられる。
[現像装置について]
上述した実施の形態のカメラシステム100は、動画像を撮影してRaw動画像データを得て、これを記録媒体109に記録すると共に、この記録媒体109に記録したRaw動画像データを現像処理して再生することができるものである。すなわち、上述した実施の形態のカメラシステム100は、撮像装置としての機能と、現像装置としての機能とを合わせ持つものである。
しかし、カメラシステムは通常持ち運ばれて利用されるものであり、小型化、軽量化を図る必要があり、処理能力が制限される場合があり、例えば、撮像装置の機能以外の部分である、現像装置の機能については省かれる場合もあると考えられる。このような場合には、カメラシステムで撮影したRaw動画像データを現像処理する現像装置が必要になる。
以下においては、Raw動画像データを現像処理する現像装置としての機能を備えた画像処理装置の構成例について説明する。なお、画像処理装置は、Raw動画像データを処理する専用のものとして構成することも可能であるし、また、パーソナルコンピュータに画像処理装置としての機能を搭載することにより実現することもできる。
図20は、この実施の形態の画像処理装置200を説明するためのブロック図である。図20に示すように、この実施の形態の画像処理装置200は、圧縮/伸張処理部201、検波処理部202、画像処理部203、解像度変換処理部204、表示コントローラ205、表示部206、ハードディスクドライブ(以下、HDDと略称する。)207、操作部208、メディアドライブ211、外部I/F212、外部入出力端子213、通信I/F214、送受信アンテナ215、サムネールRaw動画像生成部221、サムネール中間現像動画像生成部222、サムネール通常動画像生成部223、制御部230を備えたものである。
制御部230は、この実施の形態の画像処理装置の各部を制御するものであり、CPU(Central Processing Unit)231、ROM(Read Only Memory)232、RAM(Random Access Memory)233、EEPROM(Electrically Erasable and Programmable ROM)234が、CPUバス235を通じて接続されて構成されたマイクロコンピュータである。
ここで、CPU231は、後述するROM232に記憶保持されている種々のプログラムを読み出して実行し、必要に応じて各部からの情報の供給も受けて、各部に供給する制御信号を形成してこれを各部に供給するなど、この実施の形態の画像処理装置200における制御の主体となるものである。
ROM232は、上述もしたように、CPU231において実行される種々のプログラムや処理に必要になるデータなどが記憶保持されているものである。また、RAM233は、各種の処理において、処理の途中結果を一時記憶するなど、主に作業領域として用いられるものである。
また、EEPROM234は、いわゆる不揮発性のメモリであり、例えば、種々の処理結果、設定パラメータ、機能強化のために新たに提供されたプログラムなど、この実施の形態の画像処理装置200の電源が落とされても保持しておくべき種々のデータ等を記憶保持するものである。
そして、圧縮/伸張処理部201は、画像データの圧縮処理や伸張処理を行うものである。例えば、後述する外部入出力端子213、外部I/F212を通じて、外部機器から提供された画像データがデータ圧縮されていないものである場合には、圧縮/伸張処理部201の機能により圧縮処理してHDD207のハードディスクに記録するなどのことができるようにしている。また、例えば、HDD207のハードディスクに記録されている動画像データが、データ圧縮されているものである場合に、これを読み出して再生する場合、圧縮/伸張処理部201の機能により伸張処理して再生するなどのことができるようにしている。
また、検波処理部202は、図1に示したカメラシステム100の検波処理部402と同様に構成されたものであり、Raw動画像データの供給を受けて、当該Raw動画像データについてフレーム毎に検波処理を行って検波データを生成すると共に、フレーム毎に生成された検波データから現像パラメータ群を生成する。この検波処理部202により、例えば、Raw動画像データだけが供給された場合であっても、当該Raw動画像データに基づいて現像パラメータ群を生成し、適切に現像処理することができる。
画像処理部203は、図1に示したカメラシステム100の画像処理部403と同様に構成されたものであり、Raw動画像データと、現像パラメータとの供給を受けて、露出調整処理、ホワイトバランス調整処理、デモザイク処理、彩度調整処理、色調調整処理などの現像処理を行ってYCデータを形成してこれを出力する。なお、画像処理部203は、例えば、一連の現像処理の内、例えば、露出調整処理、ホワイトバランス調整処理、デモザイク処理までの現像処理を行って、中間現像動画像データを形成し、これを出力することもできるものである。
解像度変換処理部204は、図1に示したカメラシステム100の解像度変換処理404と同様に構成されたものであり、供給されたYCデータに対して、画像のスケーリング処理を行って表示用の画像データを形成して出力する。
表示コントローラ205は、解像度変換処理部404からの表示用の画像データの供給を受けて、当該表示用の画像データから表示部206に供給する形式の画像信号を形成し、これを表示部206に供給する。表示部206は、例えば、LCD(Liquid Crystal Display)、有機ELパネル(Organic Electroluminescence Panel)、CRT(Cathode Ray Tube)などの表示素子を備え、表示コントローラ205からの画像信号の供給を受けて、この画像信号に応じた動画像を自己の表示素子の表示画面に表示する。
また、HDD207は、例えば、数百ギガバイト以上の比較的大容量のハードディスクを備え、制御部230の制御に応じて、供給される種々のデータを当該ハードディスクに記録したり、当該ハードディスクに記録されているデータを読み出したりすることができるものである。
操作部208は、種々の操作キーを備え、ユーザーからの指示入力を受け付けて、これを電気信号として制御部230に供給することができるものである。これにより、制御部230は、ユーザーからの指示入力に応じて各部を制御し、ユーザーが目的とする処理を行うことができるようにしている。
そして、サムネールRaw動画像生成部221は、図1に示したカメラシステム100のサムネールRaw動画像生成部421と同様に構成されたものであり、例えば、検波処理部202などからRaw動画像データの供給を受けて、サムネールRaw動画像データを生成するものである。
また、サムネール中間現像動画像生成部222は、例えば、画像処理部203などから中間現像動画像データの供給を受けて、サムネール中間現像動画像データを生成するものである。また、サムネール通常動画像生成部223は、例えば、解像度変換処理部204からの表示用の動画像データの供給を受けて、サムネール通常動画像データを生成するものである。
そして、この実施の形態の画像処理装置200は、3つの入出力端部を備えている。すなわち、メディアドライブ211、外部I/F212及び入出力端213、通信I/F214及び送受信アンテナ215である。
メディアドライブ211は、リムーバブルメディアの着脱が可能なものであり、これに装着されたリムーバブルメディアからデータを読み出したり、当該リムーバブルメディアに対してデータを書き込んだりすることができるものである。したがって、カメラシステムによってRaw画像データが記録されたリムーバブルメディアである記録媒体を、メディアドライブ211に装着することにより、この実施の形態の画像処理装置200の制御部230が、当該リムーバブルメディアに記録されているRaw画像データ等を読み出して利用することができるようにされる。
なお、リムーバブルメディアとしては、メモリカード、光ディスク、光磁気ディスク、磁気ディスクなど種々のものがあるが、この第1の実施の形態の画像処理装置100のメディアドライブ211は、例えば、メモリカード用のものである。
外部I/F212及び入出力端子213は、例えば、USB(Universal Serial Bus)規格やIEEE(Institute of Electrical and Electronics Engineers,Inc)1394規格などのデジタルインターフェースであり、同じデジタルI/Fを備えた外部機器を接することができるようにされている。
したがって、Raw画像データ等を記憶保持しているカメラシステムなどの外部機器を外部I/F212及び入出力端子213を通じて接続することにより、この実施の形態の画像処理装置200の制御部230が、当該外部機器に記憶保持されているRaw画像データ等の提供を受けて利用することができるようにされる。
通信I/F214及び送受信アンテナ215は、例えば、インターネットなどの広域ネットワークを通じて外部機器との間で情報の送受信を行うようにするものである。したがって、通信機能を備えると共に、Raw画像データ等を保持しているカメラシステムや携帯端末などの外部機器との間で通信I/F214及び送受信アンテナ215を通じて通信処理を行うことにより、制御部230は、Raw画像データ等を取得してこれを利用することができるようにされる。
このように、この実施の形態の画像処理装置200は、図1に示したカメラシステム100によって動画像を撮影することにより得て、図2、図3、図7を用いて説明したように記録媒体109に記録されたRaw画像データ等を、Law画像データ等の受付部としてのメディアドライブ211、外部I/F212及び入出力端子213、通信I/F214及び送受信アンテナ215を通じて取得して、当該取得したRaw画像データ等を、制御部230の制御により、現像処理するなどのことができるものである。
次に、この画像処理装置200において行われる現像処理について、具体的に説明する。ここでは、図1に示したカメラシステムによって動画像が撮影されることにより、記録媒体109に図2に示したフォーマットのRaw動画ファイルが記録され、当該記録媒体109が、図20に示したメディアドライブ211に装着されて利用される場合を例にして説明する。
まず、メディアドライブ211に装着された記録媒体109に記録されているRaw動画像データS1を再生する場合について説明する。この場合には、カメラシステム100の動作として説明した図19に示したフローチャートの処理と同様の処理が行われることになる。ここでは、図19をも参照しながら説明する。
ユーザーにより、操作部208を通じて、メディアドライブ211に装着された記録媒体109に記録されているRaw動画像データS1の再生が指示されると、制御部230は、図19に示す処理を実行し、まず、メディアドライブ211を制御し、目的とするRaw動画像データS1と、現像パラメータ群Pmとを読み出して、これらを画像処理部203に供給する(ステップS201)。
そして、画像処理部203においては、制御部230の制御により、これに供給された現像パラメータ群Pmの補間処理と、操作部208を通じて受け付けたユーザーからの現像パラメータ群に対する変更指示入力に応じて、現像パラメータを調整する処理を行う(ステップS202)。
この後、画像処理部203は、補間、調整後の現像パラメータを用いて、読み出されたRaw動画像データの現像処理を行い、YCデータを生成するようにする(ステップS203)。ここで生成されたYCデータは、解像度変換処理部204に供給されて解像度変換されて表示用の画像データが生成され、これが、表示コントローラ205に供給され、ここで表示部206に供給する形式の画像信号が形成されて、これが表示部06に供給されて、当該表示部206の表示画面に読み出されたRaw動画像データに応じた動画像が再生するようにされる(ステップS204)。
そして、制御部230は、操作部208を通じてRaw動画像データの再生の終了指示や、再生するように指示されたRaw動画像データの再生が最後まで終了するなど、再生処理を終了させる事象が発生したか否かを判断する(ステップS205)。
ステップS205の判断処理において、再生処理を終了させる事象は発生していないと判断したときには、制御部230は、ステップS201からの処理を繰り返し、再生処理を続行する。また、ステップS205の判断処理において、再生処理を終了させる事象が発生したと判断したときには、この図19に示し処理を終了する。
これにより、カメラシステム100において撮像されて記録媒体109に記録されたRaw動画像データS1と現像パラメータ群Pmとを用いて、画像処理装置200において現像処理を行って、現像処理後の動画像を表示部206の表示素子の表示画面に表示して利用することができるようにされる。
このように、この実施の形態のカメラシステム100においては、撮影することにより得たRaw動画像データS1と現像パラメータ群Pmとを用いて、当該Raw動画像データを現像処理して再生することができるようにされる。また、現像パラメータ群を調整して、ユーザーが好みの絵作りを行うことができる。
なお、図19は、Raw動画像データS1を再生する場合について説明するものであるが、サムネールRaw動画像データSn1を再生する場合にも、同様に再生処理が行うようにされる。また、中間現像動画像データS2、サムネール中間現像動画像データSn2についても、図19に示したフローチャートにしたがった再生処理により再生することが可能である。
しかし、中間現像動画像データS2、サムネール中間現像動画像データSn2の場合には、ステップS203において行われる現像処理が、既に行われている現像処理より後に行われるべき現像処理が行われることになる。すなわち、上述もしたように、この実施の形態の中間現像動画像データは、露出調整処理、ホワイトバランス調整処理、NR処理及び補間処理(デモザイク処理)が行われて形成されたものであるので、その後の彩度調整処理や色調調整処理が行われることになる。もちろんこれは一例であり、種々のパターンが考えられる。
以下、簡単に、この実施の形態の画像処理装置200において行われるRaw動画像データS1以外の再生処理について簡単にまとめる。まず、メディアドライブ211に装着された記録媒体109に記録されているサムネールRaw動画像データSn1を再生する場合について説明する。
ユーザーにより、操作部208を通じて、メディアドライブ211に装着された記録媒体109に記録されているサムネールRaw動画像データSn1の再生が指示されると、制御部230は、メディアドライブ211を制御し、目的とするサムネールRaw動画像データSn1と、現像パラメータ群Pmとを読み出して、これらを画像処理部203に供給する。
そして、Raw動画像データを現像処理する場合と同様に、画像処理部203は、サムネールRaw動画像データSn1を、現像パラメータPmを用いて現像処理する。この場合、操作部208を通じてユーザーから現像パラメータ群Pmの変更が指示された場合には、制御部230は、その指示情報を画像処理部203に供給し、現像パラメータ群Pmの変更をすることができるようにされる。
したがって、ユーザーは、現像パラメータ群Pmを変更して、サムネールRaw動画像データSn1についても、自己の好みに応じた画像に現像することができるようにようにされる。そして、サムネールRaw動画像データSn1の場合にも、画像処理部203において現像処理されることにより、YCデータが形成され、これが解像度変換処理部204においてスケール変換され、表示用のサムネール画像データが形成されて、これが表示コントローラ205に供給される。
表示コントローラ205は、これに供給された表示用のサムネール画像データから表示部206に供給する形式のサムネール画像信号を形成し、これを表示部206に供給する。これにより、表示部206の表示素子の表示画面にサムネールRaw動画像データSn1に応じた動画像データが表示するようにされる。
このように、Raw動画像データS1、サムネールRaw動画像データSn1の場合には、現像パラメータPmに応じて、また、ユーザーによって現像パラメータPmを随時に変更して、現像処理をその初めから行って、ユーザーの好みに応じた画質の動画像データを形成し、これを再生して利用することができるようにされる。
次に、メディアドライブ211に装着された記録媒体109に記録されている中間現像動画像データS2を再生する場合について説明する。ユーザーにより、操作部208を通じて、メディアドライブ211に装着された記録媒体109に記録されている中間現像動画像データS2の再生が指示されると、制御部230は、メディアドライブ211を制御し、目的とする中間現像動画像データS2と、現像パラメータ群Pmとを読み出して、これらを画像処理部203に供給する。
画像処理部203は、これに供給された中間現像動画像データS2に対して、これに供給された現像パラメータPmを用いて、既に行われた現像処理以降の現像処理を行い、YCデータを形成する。このとき、操作部208を通じて、既に行われた現像処理以降の現像処理についての現像パラメータ群Pmの変更指示入力を受け付けた場合には、制御部230は、これを画像処理部203に供給して、現像パラメータ群Pmを変更することもできるようにしている。
このように、中間現像動画像データS2を用いることにより、当該中間現像動画像データS2に対して既に行われた現像処理を繰り返し行うことなく、それより後の現像処理を繰り返し行うことができるようにされる。したがって、既に行われた現像処理より後の現像処理に関するパラメータを繰り返し変更し、残りの現像処理を繰り返し行うようすることができる。
これにより、ユーザーは、中間現像動画像データS2についても、既に行われた現像処理より後に行われる現像処理についてのパラメータを変更し、自分の好みの画質の画像となるように、現像処理することができる。また、この場合の現像パラメータPmの変更は、既に行われた現像処理以降の現像処理についてのものであるため、既に行われた現像処理についての有効性を保ちながら、既に行われた現像処理より後に行われるべき現像処理については、現像パラメータを変更して繰り返し現像処理を行うようにすることができる。
以降は、上述したRaw動画像データS1の場合と同様に、画像処理部203で形成されたYCデータは、解像度変換処理部204に供給され、ここで画像のスケーリング処理が施され、表示用の画像データが形成される。解像度変換処理部204において形成された表示用の画像データは、表示コントローラ205に供給され、ここで表示部206に供給する形式の画像信号が形成されて、これが表示部06に供給される。
これにより、カメラシステム100において撮像されて記録媒体109に記録された中間現像動画像データS2と現像パラメータ群Pmとを用いて、画像処理装置200において現像処理を行って、現像処理後の動画像を再生して利用することができるようにされる。
次に、メディアドライブ211に装着された記録媒体109に記録されているサムネール中間現像動画像データSn2を再生する場合について説明する。ユーザーにより、操作部208を通じて、メディアドライブ211に装着された記録媒体109に記録されているサムネール中間現像動画像データSn2の再生が指示されると、制御部230は、メディアドライブ211を制御し、目的とするサムネール中間現像動画像データSn2と、現像パラメータ群Pmとを読み出して、これらを画像処理部203に供給する。
そして、中間現像動画像データを現像処理する場合と同様に、画像処理部203は、サムネール中間現像動画像データSn2を、現像パラメータPmを用いて、既に行われた現像処理以降の現像処理を行い、YCデータを形成する。このとき、操作部208を通じて、既に行われた現像処理以降の現像処理についての現像パラメータ群Pmの変更指示入力を受け付けた場合には、制御部230は、これを画像処理部203に供給して、現像パラメータ群Pmを変更することもできるようにしている。
したがって、ユーザーは、現像パラメータ群Pmを変更して、サムネール中間現像動画像データSn2についても、自己の好みに応じた画質の画像に現像することができる。そして、サムネール中間現像動画像データSn2の場合にも、画像処理部203において現像処理されることにより、YCデータ形成され、これが解像度変換処理部204においてスケール変換を行って、表示用のサムネール画像データが形成され、これが表示コントローラ205に供給される。
表示コントローラ205は、これに供給された表示用のサムネール画像データから表示部206に供給する形式のサムネール画像信号を形成し、これを表示部206に供給する。これにより、表示部206の表示素子の表示画面にサムネール中間現像動画像データSn2に応じた動画像データが表示するようにされる。
したがって、サムネール中間現像動画像データSn2を用いることにより、当該サムネール中間現像動画像データSn2に対して既に行われた現像処理を繰り返し行うことなく、それより後の現像処理を繰り返し行うことができるようにされる。したがって、既に行われた現像処理より後の現像処理に関するパラメータを繰り返し変更し、残りの現像処理を繰り返し行うようすることができる。しかも、サムネール中間現像動画像データSn2の場合には、通常の中間現像動画像データS2よりもデータ量が少ないので、迅速に現像処理を行うって、再生し、その内容を確認することができるようにされる。
なお、Raw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2が、データ圧縮されたものである場合には、現像パラメータPmは、画像処理部203に供給するが、データ圧縮された当該Raw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2については、圧縮/伸張処理部201に供給する。
そして、圧縮/伸張処理部201において伸張処理することにより、データ圧縮前のRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2に復元し、この復元後のRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2を画像処理部203に供給するようにすればよい。
このように、この実施の形態の画像処理装置は、データ圧縮されたRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2についても、伸張処理した後に、現像処理を行って、適切に再生することができる。
次に、メディアドライブ211に装着された記録媒体109に記録されている通常動画像データS3を再生する場合について説明する。ユーザーにより、操作部208を通じて、メディアドライブ211に装着された記録媒体109に記録されている通常動画像データS3の再生が指示されると、制御部230は、メディアドライブ211を制御し、目的とする通常動画像データを読み出し、これを圧縮/伸張処理部201に供給する。上述もしたように、通常動画像データは、データ圧縮されて記録媒体109に記録されているためである。
圧縮/伸張処理部201は、これに供給された通常動画像データを伸張処理して、データ圧縮前の表示用の画像データを復元し、これを表示コントローラ205に供給する。表示コントローラ205は、上述もしたように、これに供給された表示用の画像データから、表示部206に供給する形式の動画像信号を形成して、表示部206に供給する。これにより、記録媒体109から読み出された通常動画像データに応じた動画像が表示部206の表示素子の表示画面に表示される。
また、メディアドライブ211に装着された記録媒体109に記録されているサムネール通常動画像データSn3の再生も、上述した通常動画像データS3の場合と同様にして再生することができる。すなわち、操作部208を通じて、メディアドライブ211に装着された記録媒体109に記録されているサムネール通常動画像データSn3の再生が指示されると、制御部230は、メディアドライブ211を制御し、目的とするサムネール通常動画像データを読み出す。
読み出したサムネール通常動画像データSn3が、データ圧縮されたものである場合には、制御部230は、当該サムネール通常動画像データSn3を圧縮/伸張処理部201に供給し、圧縮/伸張処理部201において伸張処理して復元されたデータ圧縮前の元の表示用のサムネール動画像データを表示コントローラ205に供給する。また、読み出されたサムネール通常動画像データSn3が、データ圧縮されたものではない場合、すなわち、表示用のサムネール動画像データである場合には、そのまま表示用コントローラ205に供給する。
そして、表示用コントローラ205は、これに供給された表示用のサムネール動画像データから、表示部206に供給する形式のサムネール動画像信号を形成し、これを表示部206に供給する。これにより、記録媒体109から読み出されたサムネール通常動画像データSn3に応じたサムネール動画像が表示部206の表示素子の表示画面に表示される。
このように、この実施の形態の画像処理装置200は、カメラシステム100において撮影することにより得たRaw動画像データS1、中間現像動画像データS2、通常動画像データS3、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2、サムネール通常動画像データSn3、現像パラメータ群Pmの供給を受けて、Raw動画像データS1、中間現像動画像データS2、サムネールRaw動画像データSn1、サムネール中間現像動画像データSn2については、現像処理を行って、再生して利用することができるようにされる。
このように、この実施の形態の画像処理装置200は、カメラシステム100によって、記録媒体109に記録されたRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2のいずれについても、適切に現像処理を行って、再生することができる。また、通常動画像データS3、サムネール通常動画像データSn3についても再生することができる。
また、ここでは、記録媒体109に記録されている動画像データを再生する場合を例にして説明したが、これに限るものではなく、外部I/F212、外部入出力端子213を通じて接続されるカメラシステムなどの外部機器から供給されるRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2、通常動画像データS3、サムネール通常動画像データSn3についても、記録媒体109からの再生時の処理と同様に処理して再生することができる。
また、通信I/F214、送受信アンテナ215を通じて受信した外部機器からのRaw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2、通常動画像データS3、サムネール通常動画像データSn3についても、記録媒体109からの再生時の処理と同様に処理して再生することができる。
また、検波処理部202、サムネールRaw動画像生成部221、サムネール中間現像動画像生成部222、サムネール通常動画像生成部223をも備えているので、Raw動画像データS1だけの供給を受けて、この画像処理装置200において、検波処理、現像処理、解像度変換処理、サムネールRaw動画像生成処理、サムネール中間現像動画像生成処理、サムネール通常動画像生成処理を行って、Raw動画像データS1、サムネールRaw動画像データSn1、中間現像動画像データS2、サムネール中間現像動画像データSn2、通常動画像データS3、サムネール通常動画像データSn3のそれぞれを生成して、これらをHDD207のハードディスクに記録して利用するようにすることもできる。
[実施の形態の効果等]
上述した実施の形態のカメラシステム100においては、図4を用いて説明したように、全フレームに現像パラメータを付加する必要は無く、飛び飛びのフレームに対して適応的に現像パラメータを付加すればよいので、記録すべき現像パラメータのデータ量を極力少なくすることができる。
また、Raw動画像データ自身についても、データ圧縮することができるので、Raw動画像データのデータ量を低減させることもできる。
また、サムネールRaw動画像データやサムネール中間現像動画像を生成して記録するようにしたり、またはサムネールRaw動画像データやサムネール中間現像動画像を現像装置で生成したりすることで高速な現像を実現し、ユーザーの負担を著しく軽減することができる。
また、現像パラメータの変化や検波値より適当的な現像パラメータを生成するように調整することで、現像パラメータの容量削減だけでなく、ユーザーが追加した現像パラメータの調整のためのキーフレームと組み合わせ、現像パラメータの補間処理を行うようにすることで、簡単に直感的かつ適切な現像調整を行うようにすることができる。
また、上述もしたように、中間現像動画データやサムネール中間現像動画像データは、カメラシステム(撮像装置)が生成して記録媒体に記録することも可能であるが、現像装置が読み込んだRaw動画像ファイルを再保存する際に生成するようにすることもできる。
また、上述した実施の形態のカメラシステム100においては、Raw動画像データに対して、予め決められる一定間隔毎の飛び飛びのフレームにも、また、画像や現像パラメータや検波データなどが急激に変化する変化点にも現像パラメータを付加するようにしたが、これに限るものではない。
予め決められる一定間隔毎の飛び飛びのフレームだけに、現像パラメータを付加するようにしたり、画像や現像パラメータや検波データなどが急激に変化する変化点だけに現像パラメータを付加したりするようにしてもよい。また、Raw動画像データと、検波処理部402からの検波データと、検波処理部402からの現像パラメータとの内の少なくとも1つを監視することにより、画像の変化点を検出し、その検出した変化点のフレームに対して現像パラメータを付加するようにすればよい。
しかし、Raw動画像データを解析すえば、シーンチェンジ点を検出できるし、検波データや現像パラメータを解析すれば、画質が大きく変化する変化点を検出することができるので、これらを組み合わせて用いることにより、より適切に画像の変化点を検出して、適切に現像パラメータを付加するようにすべきフレームを特定することができる。
[まとめ]
上述した実施の形態からも分かるように、Raw動画像データ(RAW原信号)と、中間現像動画像データと、サムネールRaw動画像データと、サムネール中間現像動画像データと、通常動画像データ(現像された動画信号)と、サムネール通常動画像データ(現像された動画サムネール信号)と、それらを現像するのに必要なパラメータ群の全てまたはいずれかの組み合わせを保持することができる動画RAWフォーマット、及びそれを現像する現像装置、及びそれを出力する撮像装置を実現することができる。
また、Raw動画像データ、すなわち複数の画素が時間軸方向に連続して形成される動画RAWデータを、可逆あるいは不可逆圧縮することにより圧縮動画RAWデータを形成し、これを1つまたは複数保持する動画RAWデータフォーマット、及びそれを現像する現像装置、及びそれを出力する撮像装置を実現することができる。ここで、1つまたは複数という文言は、異なるRaw動画像データ(例えば、子供の運動会のときに撮影したRaw動画像データと、旅行に行ったときに撮影したRaw動画像データなど)異なる複数のRaw動画像データを意味している。
また、一連のRaw動画像データにおいて、現像パラメータには、これが付加されるフレームまたはフレーム群を特定する情報を記録する事ができる動画Rawフォーマット、およびそれを現像する現像装置、およびそれを出力する撮像装置を実現することができる。
また、上述もしたように、撮像素子からのRaw動画像データ(生動画像信号)を保持するRaw動画像フォーマットにおいて、全てのフレームに対して現像パラメータ群を保持するのではなく、一定間隔やシーン切り替え、シーンの変化点、検波結果の変化点などに適応的に現像パラメータ群を保持するようにすることができる動画RAWフォーマットとそれを行う回路、モジュール、及びそれを現像する現像装置、及びそれを出力する撮像装置を実現することができる。
また、撮像素子からのRaw動画像データを保持するRaw動画像フォーマットにおいて、全ての現像パラメータを同時に記録するのではなく、変化頻度の高い現像パラメータと変化頻度と低い現像パラメータで記録するタイミングがそれぞれ異なる動画RAWフォーマット、及びそれを現像する現像装置、及びそれを出力する撮像装置を実現することができる。
また、同一フレームに複数の現像パラメータセットを同時に記録することができる動画RAWフォーマット、及びそれを現像する現像装置、及びそれを出力する撮像装置を実現することができる。
また、Raw動画像データを読込み、かつ変更後のファイルを出力することができる現像装置を実現することができる。
また、適応的に記録された現像パラメータを適切に補間し、それをもって現像を行う現像装置を実現することができる。
また、Raw動画像データと共に記録媒体に記録された現像パラメータ群に加え、ユーザーがあるキーフレームに対して指定した現像パラメータをフレーム間で補間することで、時間軸方向に滑らかに現像パラメータを変化させて現像を行う動画RAW現像装置、及びその情報を記録することができるRaw動画像フォーマットを実現することができる。
[その他]
なお、上述した実施の形態のカメラシステム100は、いわゆるデジタルビデオカメラであり、一般のユーザーによって持ち運ばれて利用されるものであるが、これに限るものではない。上述したRaw動画像データ(Raw動画像フォーマット)の利用例の1つとして、監視カメラにおける動画Raw伝送があげられる。
現在、監視カメラはそのデータ伝送の帯域制限により、現像結果のデータを送信している。すなはち、カメラ内で現像を行っている。しかし、現像を行う機構はコストが高く、必ずしもカメラ内に内包する必要はない。データ伝送速度が許せば、Raw動画像データを伝送し、伝送先において、たとえば、図20に示した画像処理装置を用いることにより、必要に応じて現像することができる。これによって監視カメラから現像機構を省く事ができ、大きなコストダウンが可能となる。
また、ネットワーク越しに伝送する場合も、必ずフォーマットは存在し、定義する必要がある。そこで、上述した実施の形態のカメラシステム100において説明したRaw動画像フォーマットを用いることにより、ネットワークを通じてのRaw動画像データのよりとりにも十分対応する事ができる。
この発明の一実施の形態が適用されたカメラシステムを説明するためのブロック図である。 図1に示したカメラシステム100で用いられるRaw動画フォーマットを説明するための図である。 Raw動画フォーマットの他の例を説明するための図である。 現像パラメータ群を記録する場合の具体例について説明するための図である。 カメラシステム100の検波処理部402の構成例を説明するためのブロック図である。 Raw動画像データS1のデータフォーマットの例と、現像パラメータ群Pmのデータフォーマットの例について説明するための図である。 記録媒体109に記録されるRaw動画ファイルの他の例(Raw動画ファイルMf1x)を説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 現像パラメータの補間について説明するための図である。 カメラシステム100において実行される動画像データの撮影時の処理について説明するためのフローチャートである。 カメラシステム100において実行される、記録媒体109に記録されているRaw動画像データの再生時の処理について説明するためのフローチャートである。 この発明の一実施の形態が適用された画像処理装置200を説明するためのブロック図である。 従来の静止画のRaw画像データの現像処理について説明するための図である。 従来の静止画のRaw画像データの現像処理について説明するための図である。
符号の説明
100…カメラシステム、101…レンズ部、102…撮像素子部、103…I/F部LSI、104…信号処理LSIと、105…表示処置LSI、106…表示デバイス、107…操作部、108…汎用DRAM、109…記録媒体、401…センサI/F部、402…検波処理部、403…画像処理部、404…解像度変換処理部、405…圧縮処理部、406…表示処理部、407…メモリコントローラ、408…伸張処理部、409…記録再生処理部、410…CPU、411…同期信号生成部、421…サムネールRaw動画像生成部、422…サムネール中間現像動画像生成部、423…サムネール通常動画像生成部、200…画像処理装置、201…圧縮/伸張処理部、202…検波処理部、203…画像処理部、204…解像度変換処理部、205…表示コントローラ、206…表示部、207…ハードディスクドライブ、208…操作部、211…メディアドライブ、212…外部I/F、213…外部入出力端子、214…通信I/F、215…送受信アンテナ、221…サムネールRaw動画像生成部、222…サムネール中間現像動画像生成部、223…サムネール通常動画像生成部、230…制御部、231…CPU、232…ROM、233…RAM、234…EEPROM、235…CPUバス

Claims (41)

  1. 未現像の状態の動画像データであるRaw動画像データの供給を受けて、前記Raw動画像データの目的とするフレームに対する現像パラメータを生成するパラメータ生成手段と、
    供給を受けた前記Raw動画像データと前記パラメータ生成手段により生成された前記現像パラメータとを関連付けて、所定の記録媒体に記録するように制御する記録制御手段と
    を備えることを特徴とする画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記パラメータ生成手段は、前記Raw動画像データに対して、予め決められた一定間隔毎の飛び飛びのフレームに対して現像パラメータを生成することができるものであることを特徴とする画像処理装置。
  3. 請求項1に記載の画像処理装置であって、
    前記パラメータ生成手段は、
    供給された前記Raw動画像データを検波処理して前記Raw動画像データに対して画像処理を施すための評価値である検波データをフレーム単位に生成する検波データ生成部と、
    前記検波データ生成手段からの前記検波データに基づいて、前記Raw画像データに対する現像パラメータをフレーム単位に生成する現像パラメータ生成部と、
    供給された前記Raw動画像データと、前記検波データ生成手段からの前記検波データと、前記現像パラメータ生成手段からの前記現像パラメータとの内の1つ以上を解析し、前記Raw動画像データによる動画像の変化点における現像パラメータを生成するようにする変化点パラメータ生成部と
    を備えることを特徴とする画像処理装置。
  4. 請求項2または請求項3に記載の画像処理装置であって、
    前記パラメータ生成手段は、変化頻度の高い現像パラメータと変化頻度の低い現像パラメータとで、現像パラメータの生成頻度、あるいは、現像パラメータの出力頻度を変えることを特徴とする画像処理装置。
  5. 請求項2または請求項3に記載の画像処理装置であって、
    前記パラメータ生成手段は、前記Raw動画像データの1つのフレームに対して、複数の現像パラメータを生成することができることを特徴とする画像処理装置。
  6. 請求項1に記載の画像処理装置であって、
    前記Raw動画像データから縮小画像データであるサムネールRaw動画像データを生成する第1のサムネール生成手段と、
    前記Raw動画像データに対して、所定の段階まで現像処理を行って中間現像動画像データを生成する中間現像動画像データ生成手段と、
    前記中間現像動画像データ生成手段により生成された前記中間現像動画像データから縮小画像データであるサムネール中間現像動画像データを生成する第2のサムネール生成手段と、
    前記Raw動画像データに対して、現像処理を行って現像済みの通常動画像データを生成する通常動画像データ生成手段と、
    前記通常動画像データ生成手段により生成された前記通常動画像データから縮小画像データであるサムネール通常動画像データを生成する第3のサムネール生成手段と
    の内の1つ以上を備え、
    前記記録制御手段は、前記Raw動画像データと、前記現像パラメータとに加えて、設けられた前記第1のサムネール生成手段と、前記中間現像動画像データ生成手段と、前記第2のサムネール生成手段と、前記通常動画像データ生成手段と、前記第3のサムネール生成手段との内の設けられている生成手段で生成された動画像データを、前記所定の記録媒体に記録するように制御することを特徴とする画像処理装置。
  7. 請求項1に記載の画像処理装置であって、
    供給された前記Raw動画像データをデータ圧縮処理する圧縮処理手段を備え、
    前記記録制御手段は、前記圧縮処理手段によりデータ圧縮された前記Raw動画像データを前記所定の記録媒体に記録することを特徴とする画像処理装置。
  8. 請求項1に記載の画像処理装置であって、
    前記記録制御手段は、適用になる前記Raw動画像データのフレームまたはフレーム群を特定する情報が付加するようにされた前記現像パラメータを前記所定の記録媒体に記録することを特徴とする画像処理装置。
  9. 請求項1に記載の画像処理装置であって、
    前記所定の記録媒体から、前記Raw動画像データと前記現像パラメータとを読み出す読み出し手段と、
    前記読み出し手段により読み出された前記Raw動画像データに対して、前記読み出し手段により読み出された前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
    前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
    を備えることを特徴とする画像処理装置。
  10. 請求項2または請求項3に記載の発明の画像処理装置であって、
    前記所定の記録媒体から、前記Raw動画像データと前記現像パラメータとを読み出す読み出し手段と、
    前記読み出し手段により読み出された前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理手段と、
    前記読み出し手段により読み出された前記Raw動画像データに対して、前記補間処理手段により補間されて整えられた現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
    前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
    を備えることを特徴とする画像処理装置。
  11. 請求項2または請求項3に記載の発明の画像処理装置であって、
    前記所定の記録媒体から、前記Raw動画像データと前記現像パラメータとを読み出す読み出し手段と、
    前記読み出し手段により読み出された前記現像パラメータに対して、ユーザーからの現像パラメータの追加、削除、変更の指示入力を受け付けて、現像パラメータの編集を行うようにするパラメータ編集手段と、
    前記パラメータ編集手段により編集された前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理手段と、
    前記読み出し手段により読み出された前記Raw動画像データに対して、前記補間処理手段により補間されて整えられた現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
    前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
    を備えることを特徴とする画像処理装置。
  12. 請求項1に記載の発明の画像処理装置であって、
    被写体の動画像を取り込んで、これに応じた未現像の状態の動画像データであるRaw動画像データを出力する撮像素子を備え、
    撮像装置として構成されたことを特徴とする画像処理装置。
  13. 未現像の状態の動画像データであるRaw動画像データと、前記Raw画像データに対して生成された現像パラメータとの供給を受けて現像処理する現像装置であって、
    前記Raw動画像データに対して、前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理手段と、
    前記現像処理手段により処理された中間現像動画像データあるいは通常現像動画像データを出力する出力手段と
    を備えることを特徴とする現像装置。
  14. 請求項13に記載の現像装置であって、
    前記現像パラメータは、前記Raw動画像データに対して、予め決められた間隔毎の飛び飛びのフレームに対して、あるいは、前記Raw動画像データによる動画像の変化点毎に付加するようにされているものであり、
    前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理手段を備え、
    前記現像処理手段は、前記Raw動画像データに対して、前記補間処理手段で補間処理された前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施すものである
    ことを特徴とする現像装置。
  15. 請求項13に記載の現像装置であって、
    前記現像パラメータは、前記Raw動画像データに対して、予め決められた間隔毎の飛び飛びのフレームに対して、あるいは、前記Raw動画像データによる動画像の変化点毎に付加するようにされているものであり、
    前記現像パラメータに対して、ユーザーからの現像パラメータの追加、削除、変更の指示入力を受け付けて、現像パラメータの編集を行うようにするパラメータ編集手段と、
    前記パラメータ編集手段により編集された前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理手段と
    を備え、
    前記現像処理手段は、前記Raw動画像データに対して、前記補間処理手段で補間処理された前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施すものである
    ことを特徴とする現像装置。
  16. 画像データを所定の記録媒体に記録する画像処理装置において用いられる画像処理方法であって、
    未現像の状態の動画像データであるRaw動画像データの供給を受けて、前記Raw動画像データに対する現像パラメータを生成するパラメータ生成工程と、
    供給を受けた前記Raw動画像データと前記パラメータ生成工程において生成した前記現像パラメータとを関連付けて、所定の記録媒体に記録するように制御する記録制御工程と
    を前記画像処理装置が実行することを特徴とする画像処理方法。
  17. 請求項16に記載の画像処理方法であって、
    前記パラメータ生成工程においては、前記Raw動画像データに対して、予め決められた一定間隔毎の飛び飛びのフレームに対して現像パラメータを生成することを特徴とする画像処理方法。
  18. 請求項16に記載の画像処理方法であって、
    前記パラメータ生成工程においては、
    供給された前記Raw動画像データを検波処理して前記Raw動画像データに対して画像処理を施すための評価値である検波データをフレーム単位に生成する検波データ生成工程と、
    前記検波データ生成工程において生成した前記検波データに基づいて、前記Raw動画像データに対する現像パラメータをフレーム単位に生成する現像パラメータ生成工程と、
    供給された前記Raw動画像データと、前記検波データ生成工程において生成した前記検波データと、前記現像パラメータ生成工程において生成した前記現像パラメータとの内の1つ以上を解析し、前記Raw動画像データによる動画像の変化点における現像パラメータを生成する変化点パラメータ生成工程と
    が実行されることを特徴とする画像処理方法。
  19. 請求項17または請求項18に記載の画像処理方法であって、
    前記パラメータ生成工程においては、変化頻度の高い現像パラメータと変化頻度の低い現像パラメータとで、現像パラメータの生成頻度、あるいは、現像パラメータの出力頻度を変えることにより、前記記録媒体に記録するようにする頻度を異ならせるようにすることを特徴とする画像処理方法。
  20. 請求項17または請求項18に記載の画像処理方法であって、
    前記パラメータ生成工程においては、前記Raw動画像データの1つのフレームに対して、複数の現像パラメータを生成することができることを特徴とする画像処理方法。
  21. 請求項16に記載の画像処理方法であって、
    前記Raw動画像データから縮小画像データであるサムネールRaw動画像データを生成する第1のサムネール生成工程と、
    前記Raw動画像データに対して、所定の段階まで現像処理を行って中間現像動画像データを生成する中間現像動画像データ生成工程と、
    前記中間現像動画像データ生成工程において生成した前記中間現像動画像データから縮小画像データであるサムネール中間現像動画像データを生成する第2のサムネール生成工程と、
    前記Raw動画像データに対して、現像処理を行って現像済みの通常動画像データを生成する通常動画像データ生成工程と、
    前記通常動画像データ生成工程において生成した前記通常動画像データから縮小画像データであるサムネール通常動画像データを生成する第3のサムネール生成工程と
    の内の1つ以上を有し、
    前記記録制御工程においては、前記Raw動画像データと、前記現像パラメータとに加えて、設けられた前記第1のサムネール生成工程と、前記中間現像動画像データ生成工程と、前記第2のサムネール生成工程と、前記通常動画像データ生成工程と、前記第3のサムネール生成工程との内の設けられている生成工程を通じて生成した動画像データを、前記所定の記録媒体に記録するように制御することを特徴とする画像処理方法。
  22. 未現像の状態の動画像データであるRaw動画像データと、前記Raw画像データに対して生成された現像パラメータとの供給を受けて現像処理する現像装置で用いられる現像方法であって、
    前記Raw動画像データに対して、前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理工程と、
    前記現像処理工程において処理した中間現像動画像データあるいは通常現像動画像データを出力する出力工程と
    を前記現像装置が実行することを特徴とする現像方法。
  23. 請求項22に記載の現像方法であって、
    前記現像パラメータは、前記Raw動画像データに対して、予め決められた間隔毎の飛び飛びのフレームに対して、あるいは、前記Raw動画像データによる動画像の変化点毎に付加するようにされているものであり、
    前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理工程を前記現像装置が実行するようにしており、
    前記現像処理工程においては、前記Raw動画像データに対して、前記補間処理工程において補間処理した前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す
    ことを特徴とする現像方法。
  24. 請求項22に記載の現像方法であって、
    前記現像パラメータは、前記Raw動画像データに対して、予め決められた間隔毎の飛び飛びのフレームに対して、あるいは、前記Raw動画像データによる動画像の変化点毎に付加するようにされているものであり、
    前記現像パラメータに対して、ユーザーからの現像パラメータの追加、削除、変更の指示入力を受け付けて、現像パラメータの編集を行うようにするパラメータ編集工程と、
    前記パラメータ編集工程において編集した前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理工程と
    を前記現像装置が実行するようにしており、
    前記現像処理工程においては、前記Raw動画像データに対して、前記補間処理工程において補間処理した前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す
    ことを特徴とする現像方法。
  25. 画像データを所定の記録媒体に記録する画像処理装置に搭載されたコンピュータで実行される画像処理プログラムであって、
    未現像の状態の動画像データであるRaw動画像データの供給を受けて、前記Raw動画像データに対する現像パラメータを生成するパラメータ生成ステップと、
    供給を受けた前記Raw動画像データと前記パラメータ生成ステップにおいて生成した前記現像パラメータとを関連付けて、所定の記録媒体に記録するように制御する記録制御ステップと
    を前記画像処理装置の前記コンピュータが実行することを特徴とする画像処理プログラム。
  26. 請求項25に記載の画像処理プログラムであって、
    前記パラメータ生成ステップにおいては、前記Raw動画像データに対して、予め決められた一定間隔毎の飛び飛びのフレームに対して現像パラメータを生成することを特徴とする画像処理プログラム。
  27. 請求項25に記載の画像処理プログラムであって、
    前記パラメータ生成ステップにおいては、
    供給された前記Raw動画像データを検波処理して前記Raw動画像データに対して画像処理を施すための評価値である検波データをフレーム単位に生成する検波データ生成ステップと、
    前記検波データ生成ステップにおいて生成した前記検波データに基づいて、前記Raw動画像データに対する現像パラメータをフレーム単位に生成する現像パラメータ生成ステップと、
    供給された前記Raw動画像データと、前記検波データ生成ステップにおいて生成した前記検波データと、前記現像パラメータ生成ステップにおいて生成した前記現像パラメータとの内の1つ以上を解析し、前記Raw動画像データによる動画像の変化点における現像パラメータを生成する変化点パラメータ生成ステップと
    が実行されることを特徴とする画像処理プログラム。
  28. 請求項26または請求項27に記載の画像処理プログラムであって、
    前記パラメータ生成ステップにおいては、変化頻度の高い現像パラメータと変化頻度の低い現像パラメータとで、現像パラメータの生成頻度、あるいは、現像パラメータの出力頻度を変えることにより、前記記録媒体に記録するようにする頻度を異ならせるようにすることを特徴とする画像処理プログラム。
  29. 請求項26または請求項27に記載の画像処理プログラムであって、
    前記パラメータ生成ステップにおいては、前記Raw動画像データの1つのフレームに対して、複数の現像パラメータを生成することができることを特徴とする画像処理プログラム。
  30. 請求項25に記載の画像処理プログラムであって、
    前記Raw動画像データから縮小画像データであるサムネールRaw動画像データを生成する第1のサムネール生成ステップと、
    前記Raw動画像データに対して、所定の段階まで現像処理を行って中間現像動画像データを生成する中間現像動画像データ生成ステップと、
    前記中間現像動画像データ生成ステップにおいて生成した前記中間現像動画像データから縮小画像データであるサムネール中間現像動画像データを生成する第2のサムネール生成ステップと、
    前記Raw動画像データに対して、現像処理を行って現像済みの通常動画像データを生成する通常動画像データ生成ステップと、
    前記通常動画像データ生成ステップにおいて生成した前記通常動画像データから縮小画像データであるサムネール通常動画像データを生成する第3のサムネール生成ステップと
    の内の1つ以上を有し、
    前記記録制御ステップにおいては、前記Raw動画像データと、前記現像パラメータとに加えて、設けられた前記第1のサムネール生成ステップと、前記中間現像動画像データ生成ステップと、前記第2のサムネール生成ステップと、前記通常動画像データ生成ステップと、前記第3のサムネール生成ステップとの内の設けられている生成ステップを通じて生成した動画像データを、前記所定の記録媒体に記録するように制御することを特徴とする画像処理プログラム。
  31. 未現像の状態の動画像データであるRaw動画像データと、前記Raw画像データに対して生成された現像パラメータとの供給を受けて現像処理する現像装置に搭載されたコンピュータで実行される現像プログラムであって、
    前記Raw動画像データに対して、前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す現像処理ステップと、
    前記現像処理ステップにおいて処理した中間現像動画像データあるいは通常現像動画像データを出力する出力ステップと
    を前記現像装置の前記コンピュータが実行することを特徴とする現像プログラム。
  32. 請求項31に記載の現像プログラムであって、
    前記現像パラメータは、前記Raw動画像データに対して、予め決められた間隔毎の飛び飛びのフレームに対して、あるいは、前記Raw動画像データによる動画像の変化点毎に付加するようにされているものであり、
    前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理ステップを前記現像装置の前記コンピュータが実行するようにしており、
    前記現像処理ステップにおいては、前記Raw動画像データに対して、前記補間処理ステップにおいて補間処理した前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す
    ことを特徴とする現像プログラム。
  33. 請求項31に記載の現像プログラムであって、
    前記現像パラメータは、前記Raw動画像データに対して、予め決められた間隔毎の飛び飛びのフレームに対して、あるいは、前記Raw動画像データによる動画像の変化点毎に付加するようにされているものであり、
    前記現像パラメータに対して、ユーザーからの現像パラメータの追加、削除、変更の指示入力を受け付けて、現像パラメータの編集を行うようにするパラメータ編集ステップと、
    前記パラメータ編集ステップにおいて編集した前記現像パラメータに基づいて、不足する現像パラメータを生成する補間処理ステップと
    を前記現像装置の前記コンピュータが実行するようにしており、
    前記現像処理ステップにおいては、前記Raw動画像データに対して、前記補間処理ステップにおいて補間処理した前記現像パラメータを用い、所定の段階まで、あるいは、最終の段階まで現像処理を施す
    ことを特徴とする現像プログラム。
  34. 未現像の状態の動画像データであるRaw動画像データと、前記Raw動画像データに基づいて生成され、前記Raw動画画像データを現像処理する場合に現像処理する装置において用いられる前記Raw動画像データに対する現像パラメータとが関連付けられていることを特徴とするRaw動画フォーマット。
  35. 請求項34に記載のRaw動画フォーマットであって、
    前記現像パラメータは、予め決められた一定間隔毎の飛び飛びのフレームに対して設けられていることを特徴とするRaw動画フォーマット。
  36. 請求項34に記載のRaw動画フォーマットであって、
    現像パラメータは、前記Raw動画像データによる動画像の変化点に対して設けられていることを特徴とするRaw動画フォーマット。
  37. 請求項35または請求項36に記載のRaw動画フォーマットであって、
    前記現像パラメータは、変化頻度の高い現像パラメータと変化頻度の低い現像パラメータとで、付加の頻度が異なるようにされていることを特徴とするRaw動画フォーマット。
  38. 請求項35または請求項36に記載のRaw動画フォーマットであって、
    前記現像パラメータは、前記Raw動画像データの1つのフレームに対して、1つ以上が付加するようにされていることを特徴とするRaw動画フォーマット。
  39. 請求項34に記載のRaw動画フォーマットであって、
    前記Raw動画像データと、前記現像パラメータとに加えて、
    前記Raw動画像データの縮小画像データであるサムネールRaw動画像データと、前記Raw動画像データに対して、所定の段階まで現像処理を行って生成した中間現像動画像データと、前記中間現像動画像データの縮小画像データであるサムネール中間現像動画像データと、前記Raw動画像データの現像済みの画像データである通常動画像データと、前記通常動画像データの縮小画像データであるサムネール通常動画像データとの内の1つ以上の動画像データが関連付けられていることを特徴とするRaw動画フォーマット。
  40. 請求項34に記載のRaw動画フォーマットであって、
    前記Raw動画像データはデータ圧縮されていることを特徴とするRaw動画フォーマット。
  41. 請求項34に記載のRaw動画フォーマットであって、
    前記現像パラメータには、当該現像パラメータが適用になる前記Raw動画像データのフレームまたはフレーム群を特定する情報が付加されていることを特徴とするRaw動画フォーマット。
JP2007219980A 2007-08-27 2007-08-27 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、および現像プログラム Active JP4831017B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007219980A JP4831017B2 (ja) 2007-08-27 2007-08-27 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、および現像プログラム
US12/172,429 US8792774B2 (en) 2007-08-27 2008-07-14 Image processing device, development apparatus, image processing method, development method, image processing program, development program and raw moving image format
CN2008102105407A CN101378459B (zh) 2007-08-27 2008-08-27 图像处理设备和显影装置及其方法
US14/298,446 US9998702B2 (en) 2007-08-27 2014-06-06 Image processing device, development apparatus, image processing method, development method, image processing program, development program and raw moving image format

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007219980A JP4831017B2 (ja) 2007-08-27 2007-08-27 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、および現像プログラム

Publications (3)

Publication Number Publication Date
JP2009055335A true JP2009055335A (ja) 2009-03-12
JP2009055335A5 JP2009055335A5 (ja) 2010-04-15
JP4831017B2 JP4831017B2 (ja) 2011-12-07

Family

ID=40407655

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007219980A Active JP4831017B2 (ja) 2007-08-27 2007-08-27 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、および現像プログラム

Country Status (3)

Country Link
US (2) US8792774B2 (ja)
JP (1) JP4831017B2 (ja)
CN (1) CN101378459B (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009088878A (ja) * 2007-09-28 2009-04-23 Samsung Techwin Co Ltd 撮像装置、記録装置、再生装置、撮像方法、記録方法、再生方法及びプログラム
JP2010263520A (ja) * 2009-05-11 2010-11-18 Nikon Corp 撮像装置、データ生成装置、およびデータ構造
JP2011041144A (ja) * 2009-08-17 2011-02-24 Nikon Corp 画像処理装置、画像処理プログラム
EP2381449A2 (en) 2010-04-23 2011-10-26 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
JP2011244423A (ja) * 2010-04-23 2011-12-01 Canon Inc 画像処理装置及びその制御方法
JP2012032518A (ja) * 2010-07-29 2012-02-16 Canon Inc 画像処理装置、画像処理システム及び画像処理装置の制御方法
JP2012120152A (ja) * 2010-11-10 2012-06-21 Canon Inc 撮像装置及びその制御方法
JP2014036348A (ja) * 2012-08-09 2014-02-24 Canon Inc 画像処理装置およびその制御方法
JP2015179909A (ja) * 2014-03-18 2015-10-08 キヤノン株式会社 撮像装置及びその制御方法
JP2016063251A (ja) * 2014-09-12 2016-04-25 キヤノン株式会社 画像処理装置及び画像処理方法
JP2017135755A (ja) * 2017-04-28 2017-08-03 株式会社ニコン 電子カメラ及び画像処理装置
JP2017163307A (ja) * 2016-03-09 2017-09-14 キヤノン株式会社 撮像システム並びに撮像装置及びその制御方法
JP2020161954A (ja) * 2019-03-26 2020-10-01 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP7437945B2 (ja) 2020-01-10 2024-02-26 キヤノン株式会社 画像処理装置及びその制御方法及びプログラム

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101545902B1 (ko) * 2008-12-12 2015-08-20 삼성전자주식회사 촬상 장치, 기록 장치, 재생 장치, 촬상 방법, 기록 방법, 재생 방법 및 기록 방법에 관한 프로그램을 기록한 저장 매체
JP5679675B2 (ja) * 2010-02-23 2015-03-04 キヤノン株式会社 コンテンツ提供装置、コンテンツ提供装置の処理方法、プログラム
JP6191160B2 (ja) * 2012-07-12 2017-09-06 ノーリツプレシジョン株式会社 画像処理プログラムおよび画像処理装置
JP5604700B2 (ja) * 2012-10-29 2014-10-15 弘一 関根 動き検出用撮像装置、動き検出カメラおよび動き検出システム
CN110213495B (zh) * 2013-02-28 2021-11-05 株式会社尼康 摄像装置、电子设备及图像处理方法
JP2014204265A (ja) * 2013-04-04 2014-10-27 キヤノン株式会社 再生制御装置及び再生制御方法
JP6190236B2 (ja) * 2013-10-10 2017-08-30 キヤノン株式会社 画像表示装置、撮像装置、画像表示方法
JPWO2015125441A1 (ja) * 2014-02-21 2017-03-30 パナソニックIpマネジメント株式会社 画像伝送装置及び画像伝送システム
JP6270555B2 (ja) * 2014-03-07 2018-01-31 キヤノン株式会社 画像処理システム、撮像装置及びその制御方法
US10360660B2 (en) * 2014-09-12 2019-07-23 Canon Kabushiki Kaisha Image processing apparatus and image processing method for handling raw images
CN111971951B (zh) * 2018-03-28 2023-04-18 索尼公司 运算装置、运算方法、可移动介质和鉴别系统
CN110459180B (zh) * 2018-05-07 2022-04-22 京东方科技集团股份有限公司 驱动控制方法、装置及显示装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007288422A (ja) * 2006-04-14 2007-11-01 Nikon Corp 画像記録再生装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100295610B1 (ko) * 1999-11-09 2001-07-12 장영규 동영상 편집 시스템 및 이를 이용한 객체 정보 서비스 방법
US7242850B2 (en) * 2001-02-23 2007-07-10 Eastman Kodak Company Frame-interpolated variable-rate motion imaging system
EP1374080A2 (en) * 2001-03-02 2004-01-02 Kasenna, Inc. Metadata enabled push-pull model for efficient low-latency video-content distribution over a network
US7432940B2 (en) * 2001-10-12 2008-10-07 Canon Kabushiki Kaisha Interactive animation of sprites in a video production
CN100520945C (zh) * 2003-03-18 2009-07-29 皇家飞利浦电子股份有限公司 记录信息的设备和方法
JP4599216B2 (ja) 2004-04-27 2010-12-15 キヤノン株式会社 画像処理装置及び画像処理方法、及びそのプログラムと記録媒体
JP4720387B2 (ja) * 2005-09-07 2011-07-13 ソニー株式会社 撮像装置、画像処理装置、および方法、並びにコンピュータ・プログラム
DE602005022125D1 (de) * 2005-11-15 2010-08-12 Nds Ltd Digitales video-zoom-system
JP2007166193A (ja) * 2005-12-13 2007-06-28 Fujifilm Corp カメラシステム
US7893966B2 (en) * 2006-06-30 2011-02-22 Canon Kabushiki Kaisha Apparatus and method for controlling editing and use of image processing parameters in image processing
US7612805B2 (en) * 2006-07-11 2009-11-03 Neal Solomon Digital imaging system and methods for selective image filtration
JP2008022240A (ja) * 2006-07-12 2008-01-31 Fujifilm Corp 撮影装置,画像処理装置、及び画像ファイル生成方法,画像処理方法、並びに画像処理プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007288422A (ja) * 2006-04-14 2007-11-01 Nikon Corp 画像記録再生装置

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009088878A (ja) * 2007-09-28 2009-04-23 Samsung Techwin Co Ltd 撮像装置、記録装置、再生装置、撮像方法、記録方法、再生方法及びプログラム
JP2010263520A (ja) * 2009-05-11 2010-11-18 Nikon Corp 撮像装置、データ生成装置、およびデータ構造
US8749666B2 (en) 2009-05-11 2014-06-10 Nikon Corporation Image capturing apparatus, data generating apparatus, and non-transistory storage medium generating data of moving image file including raw data
JP2011041144A (ja) * 2009-08-17 2011-02-24 Nikon Corp 画像処理装置、画像処理プログラム
US8878951B2 (en) 2010-04-23 2014-11-04 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
EP2381449A2 (en) 2010-04-23 2011-10-26 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
JP2011233986A (ja) * 2010-04-23 2011-11-17 Canon Inc 画像処理装置及びその制御方法
JP2011244423A (ja) * 2010-04-23 2011-12-01 Canon Inc 画像処理装置及びその制御方法
US8848067B2 (en) 2010-04-23 2014-09-30 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
JP2012032518A (ja) * 2010-07-29 2012-02-16 Canon Inc 画像処理装置、画像処理システム及び画像処理装置の制御方法
JP2012120152A (ja) * 2010-11-10 2012-06-21 Canon Inc 撮像装置及びその制御方法
JP2014036348A (ja) * 2012-08-09 2014-02-24 Canon Inc 画像処理装置およびその制御方法
JP2015179909A (ja) * 2014-03-18 2015-10-08 キヤノン株式会社 撮像装置及びその制御方法
JP2016063251A (ja) * 2014-09-12 2016-04-25 キヤノン株式会社 画像処理装置及び画像処理方法
JP2017163307A (ja) * 2016-03-09 2017-09-14 キヤノン株式会社 撮像システム並びに撮像装置及びその制御方法
JP2017135755A (ja) * 2017-04-28 2017-08-03 株式会社ニコン 電子カメラ及び画像処理装置
JP2020161954A (ja) * 2019-03-26 2020-10-01 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP7337526B2 (ja) 2019-03-26 2023-09-04 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、およびプログラム
JP7437945B2 (ja) 2020-01-10 2024-02-26 キヤノン株式会社 画像処理装置及びその制御方法及びプログラム

Also Published As

Publication number Publication date
US20140355946A1 (en) 2014-12-04
CN101378459B (zh) 2012-08-22
US20090060447A1 (en) 2009-03-05
CN101378459A (zh) 2009-03-04
JP4831017B2 (ja) 2011-12-07
US9998702B2 (en) 2018-06-12
US8792774B2 (en) 2014-07-29

Similar Documents

Publication Publication Date Title
JP4831017B2 (ja) 画像処理装置、現像装置、画像処理方法、現像方法、画像処理プログラム、および現像プログラム
US8553092B2 (en) Imaging device, edition device, image processing method, and program
JP4805596B2 (ja) カメラ装置
US20160309077A1 (en) Imaging apparatus and control method thereof
US9736363B2 (en) Imaging apparatus and control method thereof
US20030169286A1 (en) Apparatus for controlling display of index images
JP6304293B2 (ja) 画像処理装置、画像処理方法及びプログラム
EP2974265B1 (en) Imaging apparatus and imaging apparatus control method
JPWO2008150017A1 (ja) 信号処理方法および信号処理装置
US8068144B2 (en) Image recording and reproducing apparatus
JP3747914B2 (ja) 画像記録装置、画像記録方法及びプログラム
JP4985180B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置
JP2008035124A (ja) 画像再生装置及び画像再生方法
JP2010021908A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2018074523A (ja) 撮像装置、その制御方法、プログラムならびに記録媒体
JP4211764B2 (ja) 電子カメラ、画像記録装置、画像記録方法及びプログラム
JP6463967B2 (ja) 撮像装置及びその制御方法
JP5916984B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20240087093A1 (en) Image processing apparatus, image processing method, and program
JP5641904B2 (ja) 記録再生装置、撮像装置、その制御方法、および制御プログラム
JP2005175597A (ja) 電子カメラ
JP2017168984A (ja) 撮像装置及び撮像装置の制御方法
JP2012129892A (ja) 撮像装置、その制御方法及びプログラム
JP2009118100A (ja) 画像記録再生装置
JP2010093348A (ja) 画像処理装置、画像処理方法および画像処理プログラム

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090824

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110905

R151 Written notification of patent or utility model registration

Ref document number: 4831017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250