JP2011252993A - 表示制御装置 - Google Patents

表示制御装置 Download PDF

Info

Publication number
JP2011252993A
JP2011252993A JP2010125568A JP2010125568A JP2011252993A JP 2011252993 A JP2011252993 A JP 2011252993A JP 2010125568 A JP2010125568 A JP 2010125568A JP 2010125568 A JP2010125568 A JP 2010125568A JP 2011252993 A JP2011252993 A JP 2011252993A
Authority
JP
Japan
Prior art keywords
line
period
image
display
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010125568A
Other languages
English (en)
Other versions
JP5195818B2 (ja
Inventor
Ryuichi Shiobara
隆一 塩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2010125568A priority Critical patent/JP5195818B2/ja
Priority to CN201110136855.3A priority patent/CN102316262B/zh
Priority to CN201610212846.0A priority patent/CN105847687B/zh
Priority to US13/118,863 priority patent/US8558911B2/en
Publication of JP2011252993A publication Critical patent/JP2011252993A/ja
Application granted granted Critical
Publication of JP5195818B2 publication Critical patent/JP5195818B2/ja
Priority to US14/022,572 priority patent/US8804002B2/en
Priority to US14/445,809 priority patent/US9210344B2/en
Priority to US14/951,785 priority patent/US10057486B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • G09G3/3611Control of matrices with row and column drivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Computer Hardware Design (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Image Processing (AREA)

Abstract

【課題】画像データの準備に要する期間がラインに応じて変動する場合において表示遅延を短縮する。
【解決手段】画像データを生成する生成処理を、ラインごとに所定の処理順序で行う画像データ生成部と、前記画像データに基づく表示処理を、前記ラインごとに前記処理順序で表示部に行わせるとともに、前記処理順序がN(Nは自然数)番目の前記ラインについての前記生成処理の終了から前記処理順序が(N+1)番目の前記ラインについての前記生成処理の終了までの期間が短いほど、前記N番目の前記ラインについての前記生成処理の終了から前記(N+1)番目の前記ラインについての前記表示処理の開始までの期間を短くする制御部と、を備える。
【選択図】図1

Description

本発明は、ラインごとに表示処理を行う表示制御装置に関する。
従来、イメージセンサーで撮影した画像を液晶ディスプレイで表示する撮影装置が知られており、液晶ディスプレイに表示される表示画像が、現実の被写体に対して遅延することを防止するために各種の技術が開発されている。例えば、特許文献1には、1フレーム分の画像信号を記録するVRAMを備える撮影装置において、VRAMに対して1フレーム分の画像信号の書き込みが終了する前に画像信号を読み出して液晶ディスプレイで表示させる技術が開示されている。具体的には、イメージセンサーが1フレーム分の画像信号を記録するために要する撮影周期と液晶ディスプレイに1フレーム分の画像を表示させるための再生周期とを共通とするとともに、各フレームについて撮影周期の開始から位相差ΔTだけ遅延したタイミングで再生周期を開始させる構成が記述されている。
特開2007−243615号公報
特許文献1の技術において、各フレームに対して一定の位相差ΔTが定義される。すなわち、特許文献1では、モードごとに位相差ΔTを定義することが記述され(特許文献1、0057段落)、また、位相差ΔTは、VRAMに対する画像データの読み出しが書き込みに先行しないように決められることが記述されている(特許文献1、0055,0056段落)。従って、モードごとに変動し得るものの、同一モードにおいて位相差ΔTは、各フレームに対して共通の値であり、表示対象となる画像の全ラインについて共通の位相差ΔTが与えられていることになる。
しかし、イメージセンサーの出力データに基づいて被写体像を表示部に表示させるための画像処理を行う構成において、各種の画像処理に要する期間はラインごとに異なり得る。このため、共通の位相差ΔTを設けることによって表示対象となる画像の全ラインにおいて画像データの読み出しが書き込みに先行しないようにするためには、当該読み出しの先行が発生しないように余裕を持って位相差ΔTを定義する必要がある。例えば、全ラインについて画像データの準備に要する期間の最大値を要するとみなして位相差ΔTを定義するなどの配慮が必要になる。すなわち、全ラインについて画像データの準備に要する期間の最大値を要するとしても、いずれのラインにおいても画像データの読み出しが書き込みに先行しないように十分長い位相差ΔTを定義する必要がある。
従って、画像データの準備に要する期間がラインに応じて変動し得る構成において、画像データの準備に要する期間が短いラインでは画像データの準備が終了してから液晶ディスプレイに表示されるまでの遅延が不必要に長くなるという問題があった。
本発明は上記課題にかんがみてなされたもので、画像データの準備に要する期間がラインに応じて変動する場合において表示遅延を短縮することを目的の1つとする。
上記目的を達成するため、本発明においては、画像データ生成部は、画像データを生成する生成処理を、ラインごとに所定の処理順序で行う。また、制御部は、画像データの生成処理が終了するのと共通の処理順序で、複数のラインについての表示処理を行わせる。ここで、処理順序がN(Nは自然数)番目のラインについての生成処理の終了から処理順序が(N+1)番目のラインについての生成処理の終了までの期間が短いほど、N番目のラインについての生成処理の終了から(N+1)番目のラインについての表示処理の開始までの期間を短くする。すなわち、(N+1)番目のラインの生成処理の終了が早ければ早いほど、(N+1)番目のラインについての表示処理の開始を早くする。このようにすることにより、画像データの準備に要する期間がラインに応じて変動する場合において、画像データの準備に要する期間が短いラインについても、画像データの生成処理が終了してから表示処理の開始までの遅延が不必要に長くなることが防止できる。
また、処理順序がN番目のラインについての生成処理の終了から処理順序が(N+1)番目のラインについての生成処理の終了までの期間が短いほど、N番目のラインについての表示処理の開始から(N+1)番目のラインについての表示処理の開始までの期間を短くする場合も、(N+1)番目のラインの生成処理の終了が早ければ早いほど、(N+1)番目のラインについての表示処理の開始が早くなる。
また、各ラインのそれぞれについて生成処理の終了を、表示処理を開始させるためのトリガーとすることにより、各ラインについての表示処理の開始が生成処理の終了に先行することが防止できる。なお、生成処理の終了を表示処理の開始のトリガーとするとは、生成処理の終了が表示処理を開始させるための必須条件となっており、かつ、生成処理の終了と同時または所定期間経過後に表示処理を開始させることを意味する。
ここで、画像データの準備に要する期間がラインに応じて大きく変動するほど、本発明の効果は顕著となる。本発明によれば、画像データの準備に要する期間のライン間の格差に対応する遅延を防止することができるからである。画像データの準備に要する期間がラインに応じて変動する処理の例として、前工程において前工程ラインごとに生成されたデータを用いて行う処理であって、処理対象のラインの位置に応じた数の前工程ラインについてのデータを用いる処理が挙げられる。この場合、前工程ラインの数に応じて使用するデータが準備されるまでに待機する時間が変動することとなるため、処理対象のラインの位置に応じて画像データの準備に要する期間が異なることとなる。さらに、画像データの準備に要する期間がラインに応じて変動する処理のより具体的な例として、歪曲収差を解消する歪曲補正を行ってもよい。この歪曲補正においては、撮影センサー(例えば、エリアイメージセンサー。)から取得した出力データに基づいて各ラインについての画像データを生成するとともに、各ラインの位置に応じて必要な出力データのデータ量が変動する。すなわち、各ラインの位置に応じて必要な出力データが供給されるまでに待機する時間が変動するために、画像データの準備に要する期間がラインに応じて変動することとなる。歪曲収差は、画像における位置に強く依存するものであり、歪曲収差が大きい位置のラインであるほど、撮影センサーにおける広範囲の画像が必要となるからである。
また、ラインが示す画像の更新頻度の高さに応じて所要期間が変動する生成処理を画像データ生成部が実行してもよい。第1画像と、当該第1画像よりも更新頻度の高い第2画像とでは、第2画像を示すラインについての画像データの準備に時間を要する。更新頻度が高い第2画像については、画像データを新たに生成しなければならない確率が高くなるからである。一方、更新頻度が低い第1画像については、すでに生成した画像データをメモリから読み出せば済む確率が高くなるため、画像データの準備に要する時間は短くなる。従って、第1画像と第2画像とを合成する場合において、第1画像のみを含むラインと、第2画像を含むラインとでは、画像データの準備に要する時間が変動することとなる。なお、第1画像と第2画像とに透明度を設定して両者を重ね合わせる場合には、第2画像が不透明(透明度が100%よりも小さい。)で重畳される画素を含むラインについての画像データの準備に要する時間が長くなる。
ここで、第1画像は第2画像よりも相対的に更新頻度が少ないものであればよい。例えば、カメラの撮影条件等を示し操作時にのみ画像が更新されるOSD(On Screen Display)画像と、撮影センサーの出力信号に基づく被写体像とを合成する場合においては、OSD画像が第1画像となる。なお、第2画像としての被写体像は上述の歪曲補正を行ったものであってもよい。
また、コンピューターグラフィックスを表示する場合において、比較的動きの少ない背景画像と、動きの多いオブジェクトとを個別に描画しておき、当該背景画像と当該オブジェクトを描画した画像とを合成することが行われる。この場合、動きの多いオブジェクトを描画した画像は更新頻度が高い第2画像となり、特にオブジェクトとして3次元オブジェクトを描画する場合には第2画像を含むラインについての画像データの準備に要する時間が長期化する。このような場合おいても、本発明によれば、画像データの準備に要する時間が短い第1画像のみを含むラインについて早期に表示処理を開始させることができる。特に、本発明を適用して、コンピューターゲームの表示する場合には、応答性の高い表示を実現することができる。
また、ラインに属する画素が示す階調値に応じて画像データの準備に要する時間が変動する生成処理を画像データ生成部が実行してもよい。例えば、ガマットの外縁から所定範囲の階調値にのみガマットマッピングやガマットクリッピング等を実行する場合には、当該範囲の階調値を示す画素を含むラインの方が、当該範囲の階調値を示す画素を含まないラインよりも画像データの準備に要する時間が長くなる。さらに、例えば、記憶色の色域に属する階調値にのみ記憶色補正等を実行する場合には、当該色域の階調値を示す画素を含むラインの方が、当該色域の階調値を示す画素を含まないラインよりも画像データの準備に要する時間が長くなる。
さらに、本発明のように、ラインの生成処理の終了が早ければ早いほど表示処理の開始を早くする手法は、プログラムや方法としても適用可能である。また、以上のような装置、プログラム、方法は、単独の装置として実現される場合もあれば、複合的な機能を有する装置において共有の部品を利用して実現される場合もあり、各種の態様を含むものである。
本発明の実施形態にかかるブロック図である。 エリアイメージセンサーと液晶パネルの画素数を示す図である。 エリアイメージセンサーの出力データの出力法を例示する図である。 (4A)は樽型収差の場合のリサイズを説明する模式図、(4B)は糸巻型収差の場合のリサイズを説明する模式図である。 リサイズのタイミングチャートである。 本実施形態にかかる表示部に印加される信号のタイミングチャートである。 本発明の他の実施形態にかかるタイミングチャートである。 本発明の他の実施形態にかかるブロック図である。
ここでは、下記の順序に従って本発明の実施の形態について説明する。
(1)撮影装置の構成:
(2)水平同期信号の制御:
(3)他の実施形態:
(1)撮影装置の構成:
図1は本発明の一実施形態にかかる表示制御装置を含む撮影装置1には、交換レンズユニット10、シャッター13、ローパスフィルター14、エリアイメージセンサー15、ASIC200、タイミングジェネレーター30、表示部40、CPU50、VRAM51、SD−RAM52、ROM53、RAM54、操作部55が備えられている。CPU50は、VRAM51、SD−RAM52、RAM54を適宜利用してROM53に記録されたプログラムを実行可能であり、当該プログラムによりCPU50は、操作部55に対する操作に応じてエリアイメージセンサー15にて撮影された被写体を示す画像データを生成する機能を実行する。なお、操作部55はシャッターボタンと、モードを切り換えるためのモード切換手段としてのダイヤルスイッチと、絞りとシャッター速度を切り換えるためのダイヤルスイッチと、各種の設定メニューを操作するためのプッシュボタンとを備えており、利用者は当該操作部55に対する操作によって撮影装置1に対して各種の指示を与えることができる。
表示部40は、撮影対象となる被写体を示す画像を表示して利用者に撮影前の被写体の様子および撮影条件を把握させるEVF(Electronic View Finder)であり、本実施形態にかかる撮影装置1はEVFを備えたミラーレスデジタルカメラである。表示部40は、図示しないインターフェース回路、液晶パネルドライバー41、液晶パネル42、図示しない接眼レンズ等を備えている。本実施形態において液晶パネル42は、画素ごとに3色のカラーフィルターに対応する3つのサブピクセルを備える高温ポリシリコンTFT(Thin Film Transistor)であり、画素の位置は直交座標系における座標で規定される。また、一方の座標軸に平行な方向に並ぶ複数の画素によってラインが構成され、複数のラインが他方の座標軸に平行な方向に並ぶように構成されている。本明細書では、ラインに平行な方向を水平方向、ラインに垂直な方向を垂直方向と呼び、液晶パネル42の全画素によって構成される1画面を1フレームと呼ぶ。
液晶パネルドライバー41は、各サブピクセルに電圧を印加して液晶を駆動するための信号を液晶パネル42に対して出力する。液晶パネル42は、図示しないゲートドライバおよびソースドライバを備えており、液晶パネルドライバー41から出力される信号に応じてゲートドライバが各ラインの各画素における表示タイミングを制御し、ソースドライバが表示タイミングとされているラインの各画素に対して各画素の画像データに対応した電圧を印加することによって表示を行う。すなわち、液晶パネルドライバー41は、液晶パネル42における表示を行うための各種信号、例えば、1フレーム分の表示を行うための期間を規定する垂直同期信号(DVsync)、1ライン分の表示を行うための期間を規定する水平同期信号(DHsync)、各ライン内での画像データの取り込み期間を規定するデータアクティブ信号(DDactive)、各画素の画像データの取り込みタイミング等を規定するデータクロック信号(DDotclock)、各画素の画像データ(Data)を出力するように構成されている。
なお、本実施形態にかかる撮影装置1は、制御部としてのタイミングジェネレーター30を備えており、上述の垂直同期信号DVsync、水平同期信号DHsync、データアクティブ信号DDactive、データクロック信号DDotclockは当該タイミングジェネレーター30によって生成される。すなわち、タイミングジェネレーター30は、クロック信号発生手段から出力される所定周期のクロック信号の変化タイミングに同期して信号レベルが変化する信号を生成する分周回路等を備えた表示制御部30bを備えている。そして、タイミングジェネレーター30は、表示制御部30bの制御により、予め決められたタイミングで信号レベルが変化する垂直同期信号DVsync、データアクティブ信号DDactive、データクロック信号DDotclockを生成する。なお、本実施形態において水平同期信号DHsyncの出力タイミングは可変であり、後述するようにリサイズ処理部20eの処理結果に依存して出力タイミングが決定される。
また、本実施形態における液晶パネル42は、水平方向に1024個、垂直方向に768個の有効画素を備えた画素数がXGAサイズのパネルであり、液晶パネルドライバー41が出力する画像データDataの内容および出力タイミングを調整することによって、任意の位置に画像データDataに対応した階調の表示を行うことができる。本実施形態においては、液晶パネル42の予め決められた領域にエリアイメージセンサー15の出力データに基づいて被写体像を表示し、また、予め決められた領域に撮影条件を示す文字を表示する構成となっている。すなわち、液晶パネル42には、被写体像とともに、撮影条件を示す文字がOSD表示される。なお、液晶パネル42は水平方向および垂直方向に有効画素よりも多数の画素を備えているが、本明細書では簡単のため有効画素以外の画素に関する処理は省略して説明する。
交換レンズユニット10は、エリアイメージセンサー15に被写体像を結像させるレンズ11と絞り12とを備える。交換レンズユニット10は、図示しない筐体に交換可能に取り付けられる。エリアイメージセンサー15としては、ベイヤー配列されたカラーフィルターと、光量に応じた電荷を光電変換によって画素ごとに蓄積する複数のフォトダイオードとを備えるCMOS(Complementary Metal Oxide Semiconductor)イメージセンサー、CCD(Charge Coupled Device)イメージセンサー等の固体撮像素子が用いられる。エリアイメージセンサー15の画素の位置は直交座標系における座標で規定され、一方の座標軸に平行な方向に並ぶ複数の画素によってラインが構成され、複数のラインが他方の座標軸に平行な方向に並ぶように構成されている。本明細書では、ラインに平行な方向を水平方向、ラインに垂直な方向を垂直方向と呼ぶ。エリアイメージセンサー15のエリアイメージセンサー15の一部の画素によって構成される1画面を1フレームと呼ぶ。
本実施形態においては、エリアイメージセンサー15もタイミングジェネレーター30が出力する各種信号に同期した動作を行う。すなわち、タイミングジェネレーター30は、1フレーム分のフォトダイオードの検出結果を読み出すための期間を規定する垂直同期信号(SVsync)、1ライン分のフォトダイオードの検出結果を読み出すための期間を規定する水平同期信号(SHsync)、各画素の画像データの読み出しタイミング等を規定するデータクロック信号(SDotclock)を出力する。エリアイメージセンサー15は、垂直同期信号SVsyncに応じて1フレーム分の出力データの出力を開始し、水平同期信号SHsyncにて規定される期間内にデータクロック信号SDotclockに応じたタイミングでエリアイメージセンサー15の一部の画素に対応するフォトダイオードの検出結果を示す出力データを逐次読み出す。
ASIC200は、SD−RAM52に予め確保された複数ライン分のラインバッファー52a〜52dを利用し、表示部40にて被写体像を表示するための画像データをパイプライン処理によって生成する処理を行う回路によって構成される画像データ生成部20を備えている。このASIC200は、画像処理用DSP(Digital Signal Processor)であっても良い。なお、複数ライン分のラインバッファー52a〜52dは画像データ生成部20などに設けられていても良い。表示部40は生成された画像データに基づいて被写体像を液晶パネル42において表示する。すなわち、利用者は、表示部40をEVFとして利用しながら被写体を確認することが可能である。
また、利用者が操作部55を操作して撮影指示を行った場合には、撮影指示に応じてエリアイメージセンサー15は、垂直同期信号SVsyncに応じて1フレーム分の出力データの出力を開始し、水平同期信号SHsyncにて規定される期間内にデータクロック信号SDotclockに応じたタイミングでエリアイメージセンサー15の全有効画素に対応するフォトダイオードの検出結果を示す出力データを逐次読み出す。そして画像データ生成部20は、SD−RAM52等を利用しJPEG等の形式の画像データを生成して、当該画像データを図示しないリムーバブルメモリ等に記録する。すなわち、利用者は、被写体像を示す画像データを生成することが可能である。
(2)水平同期信号の制御:
被写体を示す画像データをリムーバブルメモリ等に記録し、印刷すること等を考慮した場合、高品質の画像データを得るためにはエリアイメージセンサー15の画素数が所定数より多いことが望まれる。そこで、本実施形態におけるエリアイメージセンサー15の有効画素数は図2に示すように、水平方向に5400画素、垂直方向に3600画素となっている。エリアイメージセンサー15は水平方向および垂直方向に有効画素よりも多数の画素を備えているが、本明細書では簡単のため有効画素以外の画素に関する処理は省略して説明する。
一方、上述のように、液晶パネル42は水平方向に1024個、垂直方向に768個の画素を備え、予め決められた領域(図2に示す被写体像表示領域R1)に被写体像を表示する構成となっている。本実施形態においては、エリアイメージセンサー15の縦横比(2:3)を維持したままできるだけ大きく被写体像を表示するため、液晶パネル42の上辺および左右の辺に対して上辺及び左右の辺が接する縦横比2:3の矩形領域を被写体像を表示する被写体像表示領域R1としている。また、残りの領域(図2に示す情報表示領域R2)が撮影条件を示す文字の表示領域である。従って、液晶パネル42における被写体の被写体像表示領域R1は、水平方向に1024個、垂直方向に682個の画素にて構成される。以上のように、本実施形態においては、エリアイメージセンサー15の画素数と液晶パネル42の画素数とは一致していない。
さらに、表示部40における表示は利用者による被写体の確認に利用されるため、エリアイメージセンサー15にて被写体が撮影されたタイミングから表示部40にて当該撮影された被写体像が表示されるタイミングまでの遅延が利用者によって認識可能な程度の長さであると、EVFで視認した被写体と記録される被写体像とがずれるなど、極めて使いづらいEVFとなってしまう。従って、表示部40がEVFとして利用される際には、遅延が少ないことが要求される。
そこで、エリアイメージセンサー15にて撮影した画像を人間が視認しづらい極めて短い遅延にて表示部40に表示させるため、本実施形態においては、エリアイメージセンサー15および画像データ生成部20で各種の処理を行い、表示部40は、この処理の結果生成された画像データを高速に表示させるための構成を備えている。
すなわち、本実施形態にかかるエリアイメージセンサー15は、垂直方向に並ぶラインのうちn個(nは奇数)に1個の割合でフォトダイオードの検出結果を読み出す飛び越し走査を実行可能な回路が設けられている。また、同色のカラーフィルターを介して光電変換を行うフォトダイオードのうち水平方向に並ぶm個(mは自然数)の検出結果を加算して、その和をm分の1にして(すなわちm個の検出結果の相加平均を)出力するための加算器が設けられている。本実施形態において、表示部40をEVFとして機能させる際、エリアイメージセンサー15においては、飛び越し走査および加算器による処理を実行することにより、水平方向および垂直方向の画素を間引き、エリアイメージセンサー15が備える画素数よりも少ない画素数の出力データを出力することで、高速に被写体を撮影する構成としている。
すなわち、エリアイメージセンサー15は、表示部40をEVFとして機能させるライブビューモードにおいて、n個に1個の割合で垂直方向のラインを読み出し対象とした読み出しを水平同期信号SHsyncに応じて行う。また、m個のフォトダイオードの検出結果を加算器で加算した結果を出力データとして出力する処理をデータクロック信号SDotclockに応じて行う。図3は、本実施形態においてエリアイメージセンサー15が備える画素数よりも少ない画素数の出力データを出力する方法の一例を示している。同図3において、Rが付された矩形は赤の帯域の光を透過するカラーフィルターに対応するフォトダイオードを示し、Gが付された矩形は緑の帯域の光を透過するカラーフィルターに対応するフォトダイオードを示し、Bが付された矩形は青の帯域の光を透過するカラーフィルターに対応するフォトダイオードを示している。
同図3に示すように、矩形で示す各画素のカラーフィルターがベイヤー配列である場合、各画素に1色のカラーフィルターのみが対応しているため、各画素の色は周囲の画素を利用して補間する必要がある。このため、ラインを間引いて出力データを取得する際に、間引き後に隣接するラインのカラーフィルターが異なる色となるように間引きを行う必要がある。このため、本実施形態においては、nを奇数とし、nラインに1ラインの割合で各ラインのフォトダイオードでの検出値を出力データとして取得すれば、補間によって各画素の色を特定可能な出力データを取得することができる。本実施形態においては、エリアイメージセンサー15の垂直方向のライン数をできるだけ液晶パネル42の被写体像表示領域R1の垂直方向のライン数に近づけるため、5ラインに1ラインの割合で出力データを取得する構成としている。図3においては、5ラインに1ラインの割合で出力データを取得することを左向きの矢印で示しており、この例においては垂直方向のライン数が1/5、すなわち、720となる。
さらに、カラーフィルターがベイヤー配列である場合、水平方向に隣接する画素の色は異なるとともに、1個おきに同色のカラーフィルターが並ぶことになる。このため、水平方向に並ぶ画素について1個おきにm個加算し、その和をm分の1にすることで(すなわちm個の検出結果の相加平均を求めることで)実質的に間引き処理を行うことができる。本実施形態においては、加算器による加算を行った場合の画質上の制約等により、mを3と設定している。図3においては、最も下に記したラインのうち、緑色のカラーフィルターを介して光電変換を行うフォトダイオードであって水平方向に並ぶ3個のフォトダイオード検出結果を加算器S1によって加算し、赤色のカラーフィルターを介して光電変換を行うフォトダイオードであって水平方向に並ぶ3個のフォトダイオードの検出結果を加算器S2によって加算する構成を示している。この例においては水平方向の画素数が1/3、すなわち、1800画素となる。図2には、エリアイメージセンサー15における間引き後のデータサイズを破線の矩形15aによって示している。
以上のように、エリアイメージセンサー15においては、垂直方向のライン数を720ライン、水平方向の画素数を1800画素とすることができる。しかし、このような間引きにおいては、垂直方向においてnが奇数であり、水平方向においてmが自然数である等画質上の制約があるため、間引き後の画素数と液晶パネル42の被写体表示領域R1の画素数とを一致させることは困難である。また、上述のようにnとmとが異なる場合には縦横比が被写体と液晶パネル42の被写体像とで異なるものになってしまう。
そこで、本実施形態においては、画像データ生成部20において、間引き後の出力データに対してさらにリサイズを行って液晶パネル42の被写体像表示領域R1に表示させるための画像データを生成する構成としている。すなわち、画像データ生成部20は、画素補間部20a、色再現処理部20b、フィルター処理部20c、ガンマ補正部20d、リサイズ処理部20e、画像データ出力部20fを備えている。そして、画像データを生成する過程でリサイズ処理部20eによって垂直方向および水平方向の画素数を変更することにより、液晶パネル42の被写体像表示領域R1の画素数と等しい画像データを生成する構成としている。また、本実施形態においては、リサイズを行う際に、交換レンズユニット10のレンズ11の光学特性に起因した歪曲収差を解消する歪曲補正を行う。
ラインバッファー52aは、エリアイメージセンサー15から出力される間引き後の出力データを一時記録するバッファーメモリであり、エリアイメージセンサー15から間引き後の出力データが出力されると画像データ生成部20の処理によって当該出力データがラインバッファー52aに一時記録される。画素補間部20aは、ラインバッファー52aからベイヤー配列において各画素で欠落している2チャネルの色を生成するために必要な画素数のデータを取り込みながら補間処理によって当該2チャネルの色を生成する。この結果、各画素において3チャネルのデータが生成される。次に、色再現処理部20bは、生成されたデータに基づいて3×3の行列演算を行うことによってカラーマッチングのための色変換処理を行う。色変換処理によって静止されたデータはラインバッファー52bに一時記録される。次にフィルター処理部20cは、シャープネス調整やノイズ除去処理などをフィルター処理によって実行する。次にガンマ補正部20dはエリアイメージセンサー15の出力データの階調値が示す色と表示部40で扱う画像データの階調値が示す色との特性差を解消する補正を行うガンマ補正を実行する。ガンマ補正によって生成された出力データはラインバッファー52cに一時記録される。
当該ラインバッファー52cに線順次で記録されていくデータの画素数は、エリアイメージセンサー15において間引きが行われた画素数である。すなわち、垂直方向に720ライン、水平方向に1800画素のデータが線順次で記録されていくことになる。リサイズ処理部20eは当該ラインバッファー52cに記録されていくデータを逐次参照して補間演算処理を行うことにより、間引き後の出力データを、被写体表示領域R1の画素数(水平方向に1024個、垂直方向に682個)の画像データへと変換するとともに、レンズ11の光学特性に起因する歪曲収差を解消する補正を行う。
リサイズは、被写体表示領域R1の各画素に対応する各チャネルの階調値を線順次に決定していく処理である。具体的には、間引き後の出力データにおいて被写体表示領域R1の各画素に対応する参照領域を特定し、当該参照領域に属する参照画素が示す各チャネルの階調値に基づく補間演算処理を実行する。例えば補間演算処理として、バイキュービック法やバイリニア法等を採用することができる。被写体表示領域R1の各画素と、間引き後の出力データにおける参照領域の位置との対応関係は、交換レンズユニット10が備えるROM16から読み出した歪曲収差データに基づいて特定される。なお、歪曲収差データを単一の交換レンズユニット10について複数用意しておき、交換レンズユニット10におけるズームやフォーカスの状態に応じたものを読み出してもよい。さらに、交換レンズユニット10が備えるROM16からは交換レンズユニット10の機種情報のみを読み出し、CPU50が機種情報に対応する歪曲収差データを生成したり、ROM53から読み出したりしてもよい。
図4A,4Bはそれぞれ樽型収差と糸巻型収差とを説明する図である。樽型収差の場合には画像が外側に向かって膨脹することを示す歪曲曲線(撮影装置1を水平に構えて水平直線を撮影した像を示す水平歪曲曲線、および、鉛直直線を撮影した像を示す垂直歪曲曲線)が見られ、糸巻型収差の場合には画像が中央に向かって収縮することを示す歪曲曲線が見られる。本実施形態では、垂直方向および水平方向のそれぞれの中央軸に関して線対称の歪曲収差が発生することとして以下説明する。樽型収差の場合も糸巻型収差の場合も、水平歪曲曲線の中央ほど垂直方向の収差幅が大きくなる。また、樽型収差の場合も糸巻型収差の場合も、垂直方向の端の水平歪曲曲線ほど垂直方向の収差幅が大きくなる。水平歪曲曲線の中央における垂直方向の収差幅をβと表記し、特に垂直方向の両端の水平歪曲曲線についての収差幅βをβmaxと表記する。
ROM16から読み出される歪曲収差データは、被写体表示領域R1の各画素と、間引き後の出力データにおいて設定される参照領域RaNの位置との関係を示すデータである。図4A,4Bは、被写体表示領域R1における最初の(N=1)番目のラインと中間の(N=341)番目のラインと最終の(N=682)番目のラインに属するリサイズ後の各画素に対応して設定される参照領域RaN(R a1,R a341,R a682)の重心位置を示している。被写体表示領域R1における各ラインにおいてリサイズ対象の画素を矢印A1,A341,A682のようにシフトさせた場合に、参照領域RaN(R a1,R a341,R a682)の重心位置は矢印A1,A341,A682のような軌跡に沿ってシフトする。この軌跡の形状が水平歪曲曲線の形状と一致するように、歪曲収差データは、被写体表示領域R1の各画素と参照領域RaNの位置との関係を規定している。なお、Nは1〜682の整数であり、被写体表示領域R1における各ラインについての生成処理および表示処理の処理順序を示すライン番号を意味する。また、参照領域RaNは垂直方向と水平方向の幅がα(画素)の正方形とされる。また、Mは補間演算処理前の垂直方向のライン数に相当する1〜720の整数であり、1フレーム分の間引き後の各ラインの出力データがラインバッファー52cにバッファーされる順序を示すライン番号を意味する。補間演算処理前の垂直方向のラインは、前工程ラインに相当し、前工程ラインごとに出力データを生成するガンマ補正部20dは前工程に相当する。
補間演算処理においては、被写体表示領域R1の各画素が示す階調値が対応する位置の参照領域RaNの各画素が示す階調値に近い階調値に決定される。すなわち、概念的には、出力データが示す画像における歪曲曲線上の各画素が被写体表示領域R1における直線状のライン上に配列されていくこととなる。このように水平歪曲曲線に沿った位置に参照領域RaNを設定することにより、歪曲収差を解消する補正が施された上で、被写体表示領域R1の画素数の画像データへと変換することができる。
上述のように間引き後の出力データがラインバッファー52cに垂直方向上端のライン(M=1)から線順次でバッファーされていくのと並行して、リサイズも垂直方向上端のライン(N=1)から線順次で行われる。ここで、被写体表示領域R1におけるあるラインについてリサイズを行うにあたり、当該ラインについて設定される各参照領域RaNに属する参照画素のうち垂直方向において最下方の参照画素(以下、最下方参照画素と表記し、図4A,4Bにおいて最下方参照画素が属する参照領域RaN(R a1,R a341,R a682)をハッチングで示す。なお、樽型収差の場合のN=1のように水平歪曲曲線が上側に凸となるラインでは、最下方参照画素が属する参照領域RaNが左右両端に1つずつ生じるが、図4では、簡単のために右側の最下方参照画素が属する参照領域RaNの図示を省略する。)の間引き後の出力データがラインバッファー52cにバッファーされていることが必要となる。参照領域RaNに属する画素の間引き後の出力データがすべてバッファーされていない限り、当該ラインのすべての画素について補間演算処理を実行することができないからである。そのため、各ラインについて補間演算処理を実行するにあたり、各ラインの補間演算処理に必要な出力データがラインバッファー52cにバッファーされるまでのバッファー待機期間が発生する。
以下、樽型収差の場合のバッファー待機期間について説明する。図4Aに図示するように、樽型収差の場合、出力データが示す画像の外縁から参照領域RaNの半幅(α/2)だけ内側の矩形(二点鎖線で示す。)の四辺にそれぞれ内接する左右一対の垂直歪曲曲線および上下一対の水平歪曲曲線によって囲まれた樽型領域内において参照領域RaNの重心位置が設定される。樽型収差の場合、出力データが示す画像の上半分の領域において水平歪曲曲線は上側に凸となるため、被写体表示領域R1における最初(N=1)のラインについての最下方参照画素は、水平歪曲曲線の端に設定される参照領域R a1に属する画素うち最下方の画素となる。従って、被写体表示領域R1における最初(N=1)のラインについての最下方参照画素は、間引き後の出力データにおいてM1=(α+βmax)番目のラインに属する。従って、M=1〜M1だけの出力データがラインバッファー52cにバッファーされるまで待機した後に、最初(N=1)のラインについての補間演算処理が可能となる。なお、被写体表示領域R1における最初と最終の(N=1,682)番目のラインにおいて、バッファーすべき間引き後の出力データのライン数が最大(α+βmax)となり、最低限、(α+βmax)ラインの出力データをバッファーする容量をラインバッファー52cが備えていることが望ましい。
N番目のラインについての補間演算処理が終了すると、(N+1)番目のラインについての最下方参照画素を含むラインについての出力データがラインバッファー52cにバッファーされるまでバッファー待機期間が発生する。なお、N番目のラインについての最下方参照画素が属するライン、および、当該ラインよりも垂直方向上方のラインについての出力データは、すでにラインバッファー52cにバッファーされているため、(N+1)番目のラインについての補間演算処理において即座に参照することができる。すなわち、(N+1)番目のラインについての最下方参照画素の垂直位置と、N番目のラインについての最下方参照画素の垂直位置との差分に相当するラインについての出力データがラインバッファー52cに新たにバッファーされた段階で、(N+1)番目のラインについてのバッファー待機時間が終了する。
本実施形態では、図4Aの拡大図に示すようにN番目のラインについて参照領域RaNの重心位置が設定される水平歪曲曲線と、(N+1)番目のラインについての参照領域R aN+1の重心位置が設定される水平歪曲曲線とが、垂直方向に一定の垂直変位ΔYを有することとする。すなわち、N番目のラインに対応する水平歪曲曲線から垂直変位ΔYだけ下方の水平歪曲曲線が(N+1)番目のラインに対応する水平歪曲曲線となる。また、樽型収差において、垂直変位ΔYは、水平歪曲曲線の水平方向の端の垂直位置を基準とする。
ここで、樽型収差の場合、出力データが示す画像の上半分の領域において水平歪曲曲線が上側に凸となるため、最下方参照画素は水平歪曲曲線の端に設定される参照領域RaN(R a1〜R a341)に属することとなる。すなわち、垂直変位ΔYが与えられた水平歪曲曲線の端に設定される参照領域RaN(R a1〜R a341)に最下方参照画素が属する。従って、(N+1)番目のラインについての最下方参照画素の垂直位置は、N番目のラインについての最下方参照画素の垂直位置から垂直変位ΔYだけ下方にシフトすることとなる。
すなわち、被写体表示領域R1の上半分の領域における(N+1)番目(N=2〜341)のラインについて補間演算処理を行うために、垂直変位ΔYに対応するライン数の出力データがラインバッファー52cにバッファーされるのを待機するバッファー待機期間が発生する。
一方、出力データが示す画像の下半分の領域において水平歪曲曲線は下側に凸となるため、最下方参照画素は、水平歪曲曲線の中央に設定される参照領域RaN(R a342〜R a682)に属することとなる。この場合、(N+1)番目のラインについての最下方参照画素の垂直位置は、N番目のラインについての最下方参照画素の垂直位置から垂直変位ΔYだけ下方にシフトするに留まらない。すなわち、N番目のラインに対応する水平歪曲曲線と(N+1)番目のラインに対応する水平歪曲曲線についての収差幅βの差分Δβを垂直変位ΔYに加えた垂直変位(ΔY+Δβ)だけ、最下方参照画素の垂直位置が下方にシフトする。垂直変位ΔYが与えられた水平歪曲曲線の端よりも収差幅βだけ下方に位置する水平歪曲曲線の中央に設定されるRaN(R a342〜R a682)に最下方参照画素が属するからである。
従って、被写体表示領域R1の下半分の領域における(N+1)番目(N=342〜682)のラインについて補間演算処理を行うために、垂直変位(ΔY+Δβ)に対応するライン数の出力データがラインバッファー52cにバッファーされるのを待機するバッファー待機期間が発生する。ここで、樽型収差の場合、下半分の領域において水平歪曲曲線の垂直位置が下方になるほど収差幅βは単調的に増加するため、収差幅βの差分Δβは常に正である。従って、最下方参照画素の垂直変位(ΔY+Δβ)>ΔYとなる。すなわち、被写体表示領域R1の下半分の各ラインについて補間演算処理を行うためのバッファー待機期間は、被写体表示領域R1の上半分の各ラインについて補間演算処理を行うためのバッファー待機期間よりも長くなる。
次に、糸巻型収差の場合のバッファー待機期間について説明する。糸巻型収差の場合、出力データが示す画像の外縁から参照領域RaNの半幅(α/2)だけ内側の矩形(二点鎖線で示す。)の四頂点を交点とする左右一対の垂直歪曲曲線および上下一対の水平歪曲曲線によって囲まれた糸巻型領域内において参照領域RaNの重心位置が設定される。糸巻型収差の場合、出力データが示す画像の上半分の領域において水平歪曲曲線は下側に凸となるため、被写体表示領域R1における最初(N=1)のラインについての最下方参照画素は、水平歪曲曲線の中央に設定される参照領域R a1に属する画素うち最下方の画素となる。従って、被写体表示領域R1における最初(N=1)のラインについての最下方参照画素は、樽型収差の場合と同様に間引き後の出力データにおいてM1=(α+βmax)番目のラインに属する。従って、糸巻型収差の場合も、M=1〜M1だけの出力データがラインバッファー52cにバッファーされるまで待機した後に、最初(N=1)のラインについての補間演算処理が可能となる。
N番目のラインについての補間演算処理が終了すると、(N+1)番目のラインについての最下方参照画素を含むラインについての出力データがラインバッファー52cにバッファーされるまでバッファー待機期間が発生する。
糸巻型収差の場合も、図4Bの拡大図に示すように、N番目のラインについて参照領域RaNの重心位置が設定される水平歪曲曲線と、(N+1)番目のラインについての参照領域R aN+1の重心位置が設定される水平歪曲曲線とが、垂直方向に一定の垂直変位ΔYを有することとする。ただし、糸巻型収差において、垂直変位ΔYは、水平歪曲曲線の水平方向中央の垂直位置を基準とする。
ここで、糸巻型収差の場合、出力データが示す画像の上半分の領域において水平歪曲曲線が下側に凸となるため、最下方参照画素は水平歪曲曲線の中央に設定される参照領域RaN(R a1〜R a341)に属することとなる。従って、(N+1)番目のラインについての最下方参照画素の垂直位置は、N番目のラインについての最下方参照画素の垂直位置から垂直変位ΔYだけ下方にシフトすることとなる。
従って、樽型収差の場合と同様に、被写体表示領域R1の上半分の領域における(N+1)番目(N=2〜341)のラインについて補間演算処理を行うために、垂直変位ΔYに対応するライン数の出力データがラインバッファー52cにバッファーされるのを待機するバッファー待機期間が発生する。
一方、出力データが示す画像の下半分の領域において水平歪曲曲線は上側に凸となるため、最下方参照画素は、水平歪曲曲線の端に設定される参照領域RaN(R a342〜R a682)に属することとなる。この場合、N番目のラインに対応する水平歪曲曲線と(N+1)番目のラインに対応する水平歪曲曲線についての収差幅βの差分Δβを垂直変位ΔYに加えた垂直変位(ΔY+Δβ)だけ、最下方参照画素の垂直位置は下方にシフトすることとなる。糸巻型収差の場合も、下半分の領域において下方の水平歪曲曲線ほど収差幅βは単調的に増加するため、収差幅βの差分Δβは常に正である。従って、糸巻型収差の場合も、最下方参照画素の垂直変位(ΔY+Δβ)>ΔYとなり、被写体表示領域R1の下半分の各ライン(N=342〜682)について補間演算処理を行うためのバッファー待機期間は、被写体表示領域R1の上半分の各ライン(N=2〜341)について補間演算処理を行うためのバッファー待機期間よりも長くなる。
以上説明したように、樽型収差の場合も糸巻型収差の場合も、最初(N=1)のラインについてのバッファー待機時間が最も長くなり、被写体表示領域R1の下半分の各ライン(N=342〜682)について補間演算処理を行うためのバッファー待機期間は、被写体表示領域R1の上半分(N=2〜341)の各ラインについて補間演算処理を行うためのバッファー待機期間よりも長くなる。すなわち、本実施形態のリサイズにおいては、被写体表示領域R1におけるラインの位置に応じてバッファー待機期間が変動する。
なお、垂直変位ΔYが一定であり、収差幅βの差分Δβが一定(収差幅βがNに関する線形関数)である場合には、上半分の各ラインについてのバッファー待機期間と、下半分の各ラインについてのバッファー待機期間はそれぞれ一定となり、N=341→342となった場合にバッファー待機期間が増加する。また、垂直変位ΔYが非一定である場合や、収差幅βが非線形的に変化する場合には、各ラインについてバッファー待機期間が連続的に変化することとなる。いずれにしても、歪曲補正をともなうリサイズを行う場合には、被写体表示領域R1におけるラインの位置に応じてバッファー待機期間が変動することとなる。なお、参照領域RaNの垂直方向と水平方向の幅αは一定でなくてもよく、例えば収差幅βに比例してもよい。この場合、N番目のラインについての参照領域RaNの幅αと、(N+1)番目のラインについての参照領域RaNの幅αの差分もバッファー待機期間に影響を与える。
図5は、リサイズが終了するタイミングを説明するタイミングチャートである。同図に示すように、各ラインのバッファー待機期間TWにおいて間引き後の出力データの生成、および、当該生成した出力データのラインバッファー52cに対する出力データの書き込みが行われ、バッファー待機期間TWの経過後にラインバッファー52cから出力データの読み出すための読出期間TRが開始する。この読出期間TRは、各ラインについて一定である。読出期間TRが終了とすると、補間演算期間TIにおいて補間演算処理が行われる。被写体表示領域R1の各ラインに属する画素の個数は同じであり補間演算処理に要する補間演算期間Tiは実質的に不変である。図示するように、N番目のラインについての読み出しが終了したタイミングで、次の(N+1)番目のラインについてのバッファー待機期間TWが開始する。本実施形態では、補間演算期間TIがバッファー待機期間TWと読み出し期間TRの合計に比べて短いため、バッファー待機期間TWが各ラインについてのリサイズの所要期間全体を支配する。図5に示すように、342〜343番目のラインについてのバッファー待機期間TWは、340〜341番目のラインについてのバッファー待機期間TWよりも長くなっている。以上説明したバッファー待機期間TWの傾向は、交換レンズユニット10のレンズ11の歪曲特性やズーム倍率等の動作状況に大きく依存する。特に、収差幅βが大きいレンズ11であるほど、バッファー待機期間TWの不均一さは顕著となる。
以上のようにして、リサイズ処理部20eによるリサイズによって生成された画像データはラインバッファー52dに線順次で記録される。
ASIC200は画像データ出力部201を備えており、画像データ出力部201は、液晶パネル42の被写体表示領域R1に属する1〜682番目の各ラインについての画像データ(Data)を表示部40に出力し、被写体像表示領域R1における最終の(N=682)番目のラインについての画像データを表示部40に出力すると、VRAM51に記録されているOSDデータを線順次で読み出し、当該OSDデータを683〜768番目のラインについての画像データとして線順次で表示部40に出力する。画像データ出力部201は、1〜682番目のラインについての画像データを加工することなく後段の表示部40に出力するに過ぎないため、図5に示したリサイズが終了するタイミングから極めて短い一定の遅延をもって、画像データ出力部201が1〜682番目のラインについての画像データを順次出力することとなる。従って、1〜682番目のラインについて画像データ出力部201が最終的に生成処理を終了させるタイミングと、図5に示すリサイズが終了するタイミングとは同視できる。すなわち、本実施形態では、画像データの生成処理の最終工程(画像データ出力部201による処理)の処理時間が無視できるほど高速であり、かつ、当該処理時間が各ラインについて一定であるため、最終工程の前の工程であるリサイズについての進捗情報を取得するようにしている。むろん、本実施形態において、画像データの生成処理においてラインごとの生成処理の所要期間を変動させる主要因をなす工程はリサイズであるため、リサイズ以降のいずれかの工程において進捗情報を取得すればよい。
一方、683〜768番目のラインについて画像データ出力部201が生成処理を終了させるタイミングはリサイズとは無関係である。撮影条件を示す文字等を描画した画像を示すOSDデータは、エリアイメージセンサー15が撮影する被写体によらず予め作成しVRAM51に記録される。OSDデータは、液晶パネル42における情報表示領域R2に対応しており、水平方向に1024個、垂直方向に85個の画素にて構成される。合成出力部20fが、683〜768番目のラインについての画像データとして線順次で表示部40に出力するために必要な時間は、実質的にVRAM51から1ライン分のデータを読み出す時間のみであり、情報表示領域R2の各ラインにつき一定であり、被写体像表示領域R1よりも短い。
なお、撮影条件等が変化した場合はOSDデータも更新されるが、エリアイメージセンサー15の出力データに基づく被写体像よりも更新頻度の低い画像である。また、合成出力部20fは、1〜682番目のラインについて被写体像を示す画像データを出力し、683〜768番目のラインとして撮影条件等を示す画像データを出力するため、被写体像と撮影条件等を示す画像とが合成される。
本実施形態においては、以上の処理によってエリアイメージセンサー15の出力データに基づいて液晶パネル42の被写体像表示領域R1に表示可能な画像データを生成する生成処理を行うが、エリアイメージセンサー15の間引き後の出力データは垂直方向に720ラインであり、画像データ(被写体表示領域R1)の垂直方向のライン数である682ラインや液晶パネル42の垂直方向のライン数である768ラインとは異なっている。すなわち、1フレーム分の撮影及び表示を行うために必要なライン数が異なっている。
そこで、本実施形態においては、エリアイメージセンサー15の水平同期信号SHsync、垂直同期信号SVsync、データアクティブ信号SDactiveおよびデータクロック信号SDotclockは、エリアイメージセンサー15を駆動するために必要な周期に設定される。すなわち、タイミングジェネレーター30は、エリアイメージセンサー15において上述のような垂直方向の間引きやリサイズを行って垂直同期信号SVsyncで規定される期間内に1フレーム分のライン数(N=1〜682)のリサイズ後の画像データを取得できるようなタイミングおよび出力回数で水平同期信号SHsyncを出力している。また、タイミングジェネレーター30は、以上のような水平同期信号SHsyncで規定される期間内に1ライン分の画素数の画像データを取得できるようなタイミングおよび出力回数でデータクロック信号SDotclockを出力している。
一方、当該エリアイメージセンサー15から線順次に出力される出力データに基づいて遅延期間を最小化して液晶パネル42における表示を行うため、本実施形態においては、液晶パネル42の被写体表示領域R1に属する各ラインに対して表示を行うための画像データの生成処理が終了したタイミングで水平同期信号DHsyncが出力されるように構成されている。すなわち、本実施形態において液晶パネル42は、画像データ出力部201による処理が終了したラインの表示を行うことが可能である。そこで、タイミングジェネレーター30は、液晶パネル42の垂直方向におけるN番目(N=1〜682)のラインについての画像データの生成処理が終了したタイミングでN番目のラインについての表示処理を行うための水平同期信号DHsyncを出力する。すなわち、N番目(N=1〜682)のラインについての画像データの生成処理の終了が、N番目のラインについての表示処理を開始するトリガーを構成する。
具体的には、タイミングジェネレーター30は、進捗情報取得部30aを備えており、当該進捗情報取得部30aは、リサイズ処理部20eからリサイズが終了したラインを示す進捗情報を取得することが可能である。上述のようにリサイズが終了のタイミングと、画像データ出力部201が最終的に生成処理を終了させるタイミングとは同視できるため、当該進捗情報に基づいて液晶パネル42における表示が可能になったラインを特定することが可能である。そこで、タイミングジェネレーター30が、各ラインの画像データの生成処理が終了したタイミングに同期して水平同期信号DHsyncを出力することにより、液晶パネル42において当該画像データの生成処理が終了したラインの表示を開始させる構成とする。この構成によれば、画像データの生成処理が終了する前に各ラインの表示を開始することはなく、各ラインの生成処理が終了すると即座に各ラインの表示をすることが可能になる。
なお、液晶パネル42においては、水平同期信号DHsyncの出力タイミングで規定される水平同期期間内に液晶パネル42の各ラインの画素表示を行うことができればよいため、タイミングジェネレーター30は、水平同期信号DHsyncの出力タイミングで規定される水平同期期間が最短となる期間として想定される期間内に1ライン分の画素表示を行うことができるようにデータアクティブ信号DDactiveおよびデータクロック信号DDotclockを出力する。
また、本実施形態においては、エリアイメージセンサー15からの出力データと液晶パネル42での表示とがフレーム単位で整合しなくなることを防止するため、エリアイメージセンサー15の垂直同期信号SVsyncと液晶パネル42の垂直同期信号DVsyncとが同期するように設定されている。すなわち、タイミングジェネレーター30は、エリアイメージセンサー15の垂直同期信号SVsyncを出力したタイミングから所定の期間後に表示部40の垂直同期信号DVsyncを出力する。この結果、本実施形態において垂直同期信号SVsync,DVsyncの周期は同一かつ一定となる。従って、エリアイメージセンサー15にて撮影された被写体が1垂直同期期間以上遅れて液晶パネル42に表示されることはなく、また、同一タイミングで撮影された被写体像が複数フレーム期間に渡って液晶パネル42に表示されることもない。
一方、本実施形態において液晶パネル42の水平同期信号DHsyncで規定される水平同期期間は可変長であるため、水平同期期間が変化しても垂直同期信号SVsync,DVsyncの周期が同一かつ一定である状態を維持するように構成してある。具体的には、タイミングジェネレーター30は、予め決められた基準の期間THに対して水平同期期間を長期化あるいは短期化することによって基準の期間THからの時間変動を相殺することによって、1フレームを表示するための垂直同期期間が一定となるように出力信号を制御している。基準の期間THは、例えば、垂直同期期間内に液晶パネル42の全ライン数について均等な期間で各ラインの表示を行う場合の水平同期期間によって構成される。
そして、被写体表示領域R1においては、各ラインの画像データの生成処理が終了するまで水平同期信号DHsyncの出力を待機する。すなわち、各ラインについて画像データの生成処理の終了が表示処理の開始のトリガーとなり、これにより水平同期期間(表示処理の期間)が可変長となる。また、各ラインについて画像データの生成処理の終了を表示処理の開始のトリガーとするため、N番目のラインについての生成処理の終了と実質的に同時にN番目のラインについての表示処理が開始し、その後、(N+1)番目のラインについての生成処理の終了と実質的に同時に(N+1)番目のラインについての表示処理が開始することとなる。従って、N番目のラインについての生成処理の終了から(N+1)番目のラインについての生成処理の終了までの期間が短いほど、N番目のラインについての生成処理の終了から(N+1)番目のラインについての表示処理の開始までの期間が短くなる。反対に、N番目のラインについての生成処理の終了から(N+1)番目のラインについての生成処理の終了までの期間が長いほど、N番目のラインについての生成処理の終了から(N+1)番目のラインについての表示処理の開始までの期間が長くなる。
図6はタイミングジェネレーター30から出力される水平同期信号DHsyncを示しており、データアクティブ信号DDactiveおよびデータクロック信号DDotclock、進捗情報を合わせて示している。なお、本実施形態においてリサイズ処理部20eから出力される進捗情報は、1ライン分の画像データの生成処理を実行している過程においてローレベルの出力が維持され、1ライン分の画像データの生成処理を終了した時点で所定期間ハイレベルとなる1回のパルスによって構成される。
タイミングジェネレーター30が進捗情報取得部30aによって当該進捗情報を取得すると、表示制御部30bの処理により、当該進捗情報のパルスに同期して水平同期信号DHsyncを出力する。このため、仮に、基準の期間TH内に、あるラインの画像データの生成処理が間に合わなかった場合には、生成処理が終了するまで水平同期信号DHsyncが出力されず、水平同期期間TDHは基準の期間THより長くなる。従って、基準の期間TH内に、あるラインの画像データの生成処理が間に合わなかった場合、生成処理が終了するまで液晶パネル42にて当該ラインの表示処理は開始されない。また、各ラインの画像データの準備が終了する前に表示処理が開始されることはない。さらに、あるラインの画像データの生成処理が終了すると水平同期信号DHsyncが出力されるため、各ラインの画像データの準備が終了すると遅滞なく表示処理が開始される。以上のように、水平同期期間TDHが基準の期間THから変動し得る状態で液晶パネル42を駆動するため、本実施形態のように、歪曲補正を行うことにより液晶パネル42の被写体表示領域R1で表示すべき1ライン分の画像データの生成処理が終了するタイミングの周期が一定とならない態様に適用して好適である。
生成処理が終了するタイミングの周期が一定とならない主要因となるリサイズにおけるバッファー待機期間TWの変動は、交換レンズユニット10のレンズ11の歪曲特性やズーム倍率等の動作状況に大きく依存する。このような状況においても、各ラインについて画像データの生成処理の終了を表示処理の開始のトリガーとするようにタイミングジェネレーター30を構成しておけば、交換レンズユニット10が交換されたりズーム倍率等が変更されたりして、バッファー待機期間TWの変動傾向が変化した場合でも、当該変動傾向の変化に追従した水平同期期間TDHの設定が可能となる。従って、交換レンズユニット10が交換可能な撮影装置1は、本実施形態の構成を適用する対象として好適である。むろん、撮影条件に依存して処理速度がラインごとに相違し得る態様に本発明を適用しても良い。例えば、利用者が操作部55を操作することによってエリアイメージセンサー15の垂直同期期間や水平同期期間が変動し、あるいは画像データの生成処理が終了するタイミングの周期が一定とならない構成に対して本発明を適用することが可能である。さらに、着脱式EVFを変更することによってエリアイメージセンサー15の垂直同期期間や水平同期期間が変動し、あるいは画像データの生成処理に要する期間が変動する構成に対して本発明を適用することが可能である。
一方、上述のように、本実施形態においては垂直同期信号DVsyncで規定される垂直同期期間を一定とするため、被写体表示領域R1において水平同期期間TDHが長期化された場合であっても、液晶パネル42の全ラインの表示が一定の垂直同期期間内に終了するようにしなければならない。そのための構成として、タイミングジェネレーター30は、撮影条件等の情報を示す文字を表示する液晶パネル42の情報表示領域R2においては、被写体表示領域R1のラインにおいて長期化された水平同期期間と基準の期間THとの差分の累計を相殺するように基準の期間THよりも水平同期期間を短期化する。
すなわち、撮影条件等の情報を示すOSDデータは、エリアイメージセンサー15の動作によらず予め作成しVRAM51に記録しておくことが可能であるため、情報表示領域R2の各ラインについての画像データの生成処理の所要期間は実質的にVRAM51から1ライン分のデータを読み出す期間だけで済むこととなる。従って、OSDデータに基づく表示を短い水平同期期間によって実行したとしても、データ読み出しの追い越しを発生させることなく適正な表示を行うことが可能である。
具体的には、タイミングジェネレーター30が水平同期信号DHsyncの出力タイミングを調整することにより、被写体表示領域R1において長期化された水平同期期間TDHと基準の期間THとの差分の総和と情報表示領域R2において短期化された水平同期期間T DH2と基準の期間THとの差分の総和とが一致するように水平同期期間T DH2を短期化する。この結果、水平同期期間T DH2<基準の期間≦水平同期期間TDHとなる。ここで、情報表示領域R2において、上述の水平同期期間THよりも短い水平同期期間T DH2となるように水平同期信号DHsyncを出力するための構成としては、種々の構成を採用可能である。例えば、図6に示すように、被写体表示領域R1にて発生した水平同期期間THに対する遅延ΔT1の総和(ΣΔT1)を情報表示領域R2のライン数L2で除した値ΔT2を各ラインで短縮すべき期間とする構成等を採用可能である。すなわち、水平同期期間TH−ΔT2が情報表示領域R2における水平同期期間T DH2であるとする構成等を採用可能である。
この構成によれば、被写体表示領域R1においては遅延を最小化した状態でエリアイメージセンサー15にて撮影した被写体を表示しつつ、情報表示領域R2において短い水平同期期間内でOSDデータによる撮影条件等の情報の表示が行われる状態となる。そして、上述のように、被写体表示領域R1において長期化された水平同期期間TDHと基準の期間THとの差分の総和と情報表示領域R2において短期化された水平同期期間T DH2と基準の期間THとの差分の総和とが一致するように水平同期期間が制御されるため、垂直同期信号SVsync,DVsyncの周期が同一かつ一定の状態で表示部40による表示を行うことができる。従って、エリアイメージセンサー15にて撮影された被写体が1フレーム期間以上遅れて液晶パネル42に表示されることはなく、また、複数フレーム期間に渡って同じ画像が液晶パネル42に表示されることもない。
(3)他の実施形態:
以上の実施形態は本発明を実施するための一例であり、進捗情報に基づいて画像データの生成処理が終了したか否かをラインごとに特定し、当該生成処理が終了したラインを表示する限りにおいて、他にも種々の実施形態を採用可能である。
前記実施形態では、画像データ出力部201が被写体像とOSDデータが示す画像とを合成することとしたが、各ラインについての画像データの準備に要する期間が変動し得る例として、第1画像としての背景画像データと第2画像としての3Dオブジェクトを描画したオブジェクト画像とを合成するものが挙げられる。例えば、コンピューターゲームにおいて、動きが少なく更新頻度の低い背景画像と、動きが多く更新頻度の高いオブジェクト画像とを個別に描画しておき、背景画像にオブジェクト画像を重畳することにより、表示部に表示させる画像データを生成することが行われている。このような場合において、背景画像のみを示すラインについての画像データは更新頻度が低いため、過去にメモリに記憶したものを読み出せば取得できる。一方、オブジェクト画像を示す画素を含むラインについての画像データは短い周期でオブジェクト画像を描画しなければならず、背景画像のみを示すラインについての生成処理よりも所要期間が長くなる。このような場合においても、本発明を適用することにより、遅延を小さくすることができるとともに、表示処理が生成処理よりも先行するラインが生じることが防止できる。
例えば、水平同期期間を基準の期間THよりも長期化する際には、水平同期信号DHsyncのバックポーチを長期化しても良い。この構成は、例えば、図1に示す構成にて、進捗情報取得部30aにおいてリサイズ処理部20eからの進捗情報の出力期間を検出する構成とする。すなわち、処理順序が(N−1)番目のラインについての画像データの生成処理が終了したタイミングで出力される進捗情報からN番目のラインについての画像データの生成処理が終了したタイミングで出力される進捗情報までの期間T S(N-1)を検出する。そして、タイミングジェネレーター30は、当該期間T S(N-1)に基づいてN番目のラインについての水平同期信号DHsyncのバックポーチの長さを決定して各種の信号を出力する。
すなわち、タイミングジェネレーター30は、表示制御部30bの処理により、図7に示すように、N番目のラインについての水平同期信号DHsyncを出力した後、期間T S(N-1)の長さから基準の期間THの長さを減じて得られる期間ΔT1が経過した時点でプリチャージ期間を示す信号DH sync2を出力する。さらに、タイミングジェネレーター30は、表示制御部300bの処理により、当該信号DH sync2を出力した後、所定のプリチャージ期間が経過した時点でDDactiveを出力し、1ライン分の画素数のDDotclockが出力されるまでDDactiveのレベルを維持した後に所定期間のフロントポーチを設けて(N+1)番目のラインについての水平同期信号DHsyncを出力する。ここで、プリチャージ期間の開始時点からフロントポーチの終了時点までの期間は基準の期間THと一致する。従って、N番目のラインについての水平同期信号DHsyncと(N+1)番目のラインについての水平同期信号DHsyncとの間の期間である水平同期期間TDHが基準の期間THとΔT1との和となる。この結果、液晶パネル42にて信号DH sync2に同期してプリチャージや極性反転等を行ってN番目のラインの表示が可能になるとともに、水平同期期間TDHを基準の期間THよりも長期化することが可能になる。
なお、上述の第1実施形態においては、水平同期信号DHsyncのフロントポーチを長期化していたため、バックポーチ期間は一定の期間とすることができ、通常の規定通りにプリチャージや極性反転等を行う期間を設けることができる。
さらに、上述の実施形態においては、エリアイメージセンサー15の垂直同期信号SVsyncの周期と液晶パネル42の垂直同期信号DVsyncの周期とを一致させるため、液晶パネル42の情報表示領域R2において被写体像表示領域R1よりも短い水平同期期間となるように水平同期信号SHsyncを出力したが、他の手法によって垂直同期信号SVsyncの周期と液晶パネル42の垂直同期信号DVsyncの周期とを一致させても良い。例えば、通常の撮影装置において、エリアイメージセンサー15のライン数は液晶パネル42のライン数よりも多いため、特定の垂直同期期間内に確保すべき水平同期期間が均等であると仮定した場合、エリアイメージセンサー15の水平同期信号SHsyncよりも液晶パネル42の水平同期信号DHsyncの方が短くなる。従って、液晶パネル42の水平同期信号DHsyncを長期化した場合であっても、当該長期化によって液晶パネル42の垂直同期期間を長くする必要が生じることは少ない。なお、水平同期信号DHsyncを長期化することによって液晶パネル42の垂直同期信号DVsyncがエリアイメージセンサー15の垂直同期信号SVsyncより長くなる場合、エリアイメージセンサー15の垂直同期信号SVsyncを長期化して垂直同期信号DVsyncと垂直同期信号SVsyncとを同期させても良い。
図8は、複数のラインのデータを参照して1ライン分のデータを生成する複数の画像処理工程について進捗情報を取得する構成を備えた撮影装置1を示す図である。図8において、図1と同様の構成は同様の符号で示している。図8に示す撮影装置1のタイミングジェネレーター300は、エリアイメージセンサー15からの出力データの出力が終了したラインおよびASIC200の色再現処理部20b、ガンマ補正部20d、リサイズ処理部20eのそれぞれにおけるデータの生成処理が終了したラインを示す進捗情報を取得することが可能である。また、タイミングジェネレーター300は、表示制御部300bの処理により、画素補間部20a、フィルター処理部20c、リサイズ処理部20eのそれぞれに対して1ライン分のデータの生成処理を開始させるためのトリガー信号(例えば、水平同期信号)を出力することが可能である。
すなわち、図8に示す実施形態においては、エリアイメージセンサー15からK番目のラインについての出力データが出力されると画素補間部20aにおいてL番目のラインについてのデータの処理を実行可能になり、画素補間部20aおよび色再現処理部20bによる線順次の処理の結果、L番目のラインについてのデータの処理が終了するとフィルター処理部20cにおいてM番目のラインについてのデータの処理を実行可能になることが予め特定される。また、フィルター処理部20cおよびガンマ補正部20dによる線順次の処理の結果、M番目のラインについてのデータの処理が終了するとリサイズ処理部20eにおいてN番目のラインについての画像データの生成処理が開始可能になることが予め特定される。
そして、タイミングジェネレーター300は、タイミングジェネレーター300が出力する規定の周期の水平同期信号SHsyncに基づいてエリアイメージセンサー15からK番目のラインについての出力データが出力されたことを特定する。エリアイメージセンサー15からK番目のラインについての出力データが出力されたことが特定された場合、タイミングジェネレーター300は、画素補間部20aに対してトリガー信号を出力してL番目のラインについてのデータ処理を開始させる。さらに、進捗情報取得部300aによって色再現処理部20bにおいてL番目のラインについてのデータの処理が終了したことが特定された場合に、タイミングジェネレーター300は、フィルター処理部20cに対してトリガー信号を出力してM番目のラインについてのデータ処理を開始させる。さらに、進捗情報取得部300aによってガンマ補正部20dにおいてM番目のラインについてのデータの処理が終了したことが特定された場合に、タイミングジェネレーター300は、リサイズ処理部20eに対してトリガー信号を出力してN番目のラインについての画像データの生成処理を開始させる。
そして、リサイズ処理部20eによってN番目のラインについての画像データの生成処理が終了したことが特定されると、タイミングジェネレーター300は、上述の実施形態と同様にN番目のラインについての表示を行うための水平同期信号DHsyncを出力する。すなわち、ASIC200において、2以上のラインのデータをラインバッファーに対して記録した後にあるラインのデータの生成が開始可能な画像処理工程においては、最低限必要なライン数のデータの生成処理が終了したか否かを判定し、当該生成処理が終了したタイミングで次の画像処理工程を開始する。この構成により、各工程を実行するために必要なデータの生成処理が終了する前に各ラインについての処理を開始することはなく、各ラインのデータが整うと即座に各ラインについて処理を開始することが可能になる。この結果、各画像処理工程を実行する際の待ち時間が最小化される。なお、本実施形態においては、最低限必要なライン数のデータをラインバッファー52a〜52dに一時記録すればよいため、ラインバッファー52a〜52dの容量を最小化することが可能である。
さらに、上述の実施形態において表示部40は液晶パネルを用いたEVFであったが、表示部40はEVF以外の表示部、例えば、撮影装置1の背面に取り付けられる液晶パネルを用いた表示部であっても良いし、液晶パネル以外の方式を用いたものであっても良い。また、撮影装置1はミラーを備えた一眼レフカメラでも良く、さらにムービーカメラであっても良いし、撮影機能を備えた携帯電話等の装置であっても良い。さらに、上述のエリアイメージセンサー15において、カラーフィルターはベイヤー配列であったが、ベイヤー配列以外の配列で構成されたセンサーを利用した撮影装置に本発明を適用しても良い。さらに、ラインバッファー52dはラインバッファーでも良いが、1フレーム分の画像データを記録するための記録容量を備えるVRAMであってもよい。この構成によれば、表示対象となる画像データに基づく各種処理を行うことが可能になる。さらに、水平同期期間は基準の期間に対して長期化されれば良く、当該基準の期間としては、各種の期間を想定可能である。例えば、エリアイメージセンサー15の水平同期信号SHsyncの周期、画像データの生成周期などを基準の期間としてもよい。さらに、タイミングジェネレーター30から表示部40への各種信号の転送形態は種々の形態を採用可能であり、HDMI(High-Definition Multimedia Interface)等によって転送しても良い。また、上述の実施形態における方向を逆にしてもよく、例えば水平方向において、左から右に表示しても、右から左に表示しても良い。
さらに、OSDデータは表示部の情報表示領域において表示対象となる所定の情報を示した画像データであれば良く、撮影条件以外の各種情報、例えば、撮影装置1に搭載されたバッテリの残量を示す情報等を表示対象となる所定の情報とする構成としても良い。さらに、垂直同期信号SVsync,DVsyncの周期が同一かつ一定の状態とするための構成は、上述の構成以外にも種々の構成を採用可能である。例えば、被写体表示領域R1における表示を行った後、情報表示領域R2でOSDデータを表示するために設定可能な最小の期間を情報表示領域R2における水平同期期間とすることによって垂直同期信号DVsyncの出力タイミング以前に液晶パネル42の全ラインの表示を終了し、残余の期間待機した後に規定の出力タイミングで垂直同期信号DVsyncが出力されるように構成してもよい。この場合、前記実施形態の情報表示領域R2に対応する683〜768番目のラインにおいて、N番目のラインについての生成処理の終了から(N+1)番目のラインについての表示処理の開始までの期間が短期化することとなる。また、OSDデータは第1画像に相当し、被写体像は第2画像に相当することとなる。さらには、OSDデータを表示しない場合に適用しても良い。
1…撮影装置、10…交換レンズユニット、11…レンズ、12…絞り、13…シャッター、14…ローパスフィルター、15…エリアイメージセンサー、16…ROM、20…画像データ生成部、20a…画素補間部、20b…色再現処理部、20c…フィルター処理部、20d…ガンマ補正部、20e…リサイズ処理部、201…画像データ出力部、30…タイミングジェネレーター、30a…進捗情報取得部、30b…表示制御部、40…表示部、41…液晶パネルドライバー、42…液晶パネル、52a…ラインバッファー、52b…ラインバッファー、52c…ラインバッファー、52d…ラインバッファー、55…操作部

Claims (7)

  1. 画像データを生成する生成処理を、ラインごとに所定の処理順序で行う画像データ生成部と、
    前記画像データに基づく表示処理を、前記ラインごとに前記処理順序で表示部に行わせるとともに、
    前記処理順序がN(Nは自然数)番目の前記ラインについての前記生成処理の終了から前記処理順序が(N+1)番目の前記ラインについての前記生成処理の終了までの期間が短いほど、前記N番目の前記ラインについての前記生成処理の終了から前記(N+1)番目の前記ラインについての前記表示処理の開始までの期間を短くする制御部と、
    を備える表示制御装置。
  2. 画像データを生成する生成処理を、ラインごとに所定の処理順序で行う画像データ生成部と、
    前記画像データに基づく表示処理を、前記ラインごとに前記処理順序で表示部に行わせるとともに、
    前記処理順序がN(Nは自然数)番目の前記ラインについての前記生成処理の終了から前記処理順序が(N+1)番目の前記ラインについての前記生成処理の終了までの期間が短いほど、前記N番目の前記ラインについての前記表示処理の開始から前記(N+1)番目の前記ラインについての前記表示処理の開始までの期間を短くする制御部と、
    を備える表示制御装置。
  3. 前記制御部は、前記ラインのそれぞれについて前記生成処理の終了を前記表示処理の開始のトリガーとする、
    請求項1または請求項2のいずれかに記載の表示制御装置。
  4. 前記画像データ生成部は、
    前記生成処理の少なくとも一工程として、前工程において前工程ラインごとに生成されたデータを用いて行う処理であって、処理対象の前記ラインの位置に応じた数の前記前工程ラインについての前記データを用いる処理を行う、
    請求項1から請求項3のいずれか一項に記載の表示制御装置。
  5. 前記画像データ生成部は、
    撮影センサーから被写体像を示す出力データを取得するとともに、
    前記生成処理の少なくとも一工程として、前記ラインの位置に応じて前記画像データを生成するために必要な前記出力データのデータ量が変動する歪曲補正を行う、
    請求項1から請求項4のいずれか一項に記載の表示制御装置。
  6. 前記画像データ生成部は、
    前記生成処理の少なくとも一工程として、第1画像と、当該第1画像よりも更新頻度の高い第2画像とを合成することにより前記画像データを生成する処理を行う、
    請求項1から請求項5のいずれか一項に記載の表示制御装置。
  7. 前記第2画像は、3次元オブジェクトを描画した画像である、
    請求項6に記載の表示制御装置。
JP2010125568A 2010-06-01 2010-06-01 表示制御装置 Active JP5195818B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2010125568A JP5195818B2 (ja) 2010-06-01 2010-06-01 表示制御装置
CN201110136855.3A CN102316262B (zh) 2010-06-01 2011-05-24 显示控制装置
CN201610212846.0A CN105847687B (zh) 2010-06-01 2011-05-24 信号处理装置及摄影装置
US13/118,863 US8558911B2 (en) 2010-06-01 2011-05-31 Display control device
US14/022,572 US8804002B2 (en) 2010-06-01 2013-09-10 Display control device
US14/445,809 US9210344B2 (en) 2010-06-01 2014-07-29 Display control device
US14/951,785 US10057486B2 (en) 2010-06-01 2015-11-25 Display control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010125568A JP5195818B2 (ja) 2010-06-01 2010-06-01 表示制御装置

Publications (2)

Publication Number Publication Date
JP2011252993A true JP2011252993A (ja) 2011-12-15
JP5195818B2 JP5195818B2 (ja) 2013-05-15

Family

ID=45021806

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010125568A Active JP5195818B2 (ja) 2010-06-01 2010-06-01 表示制御装置

Country Status (3)

Country Link
US (4) US8558911B2 (ja)
JP (1) JP5195818B2 (ja)
CN (2) CN105847687B (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013128693A1 (ja) * 2012-02-29 2013-09-06 日立コンシューマエレクトロニクス株式会社 撮像装置
CN103364733A (zh) * 2012-03-28 2013-10-23 拉碧斯半导体株式会社 半导体装置以及电池监视系统
JP2014103647A (ja) * 2012-11-21 2014-06-05 Seiko Epson Corp 撮影装置、撮影装置の制御方法
JP2014160958A (ja) * 2013-02-20 2014-09-04 Canon Inc 信号処理装置、その制御方法、および制御プログラム
JP2016025515A (ja) * 2014-07-22 2016-02-08 セイコーエプソン株式会社 撮像装置、撮像表示装置及びその制御方法
JP2016039517A (ja) * 2014-08-08 2016-03-22 セイコーエプソン株式会社 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置
JP2016040902A (ja) * 2014-08-11 2016-03-24 セイコーエプソン株式会社 撮像表示装置及びその制御方法
US9886893B2 (en) 2014-03-25 2018-02-06 Seiko Epson Corporation Display control device and display apparatus for controlling an image based on an image signal synchronized with a horizontal synchronization signal and a control signal indicating that the image signal is valid or invalid
US10044912B2 (en) 2014-03-25 2018-08-07 Seiko Epson Corporation Imaging device and image processing device for outputting image signal to be displayed, and display control device and imaging display apparatus for displaying image signal
US10154217B2 (en) 2014-08-08 2018-12-11 Seiko Epson Corporation Imaging apparatus, image processing apparatus, and imaging display apparatus

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5195818B2 (ja) * 2010-06-01 2013-05-15 セイコーエプソン株式会社 表示制御装置
ITTO20110654A1 (it) * 2011-07-20 2013-01-21 Inst Rundfunktechnik Gmbh Generatore di segnale test, segnale test per apparecchi
KR101891971B1 (ko) * 2011-09-06 2018-10-01 삼성디스플레이 주식회사 표시 장치 및 그것의 구동 방법
JP5929712B2 (ja) 2012-11-06 2016-06-08 セイコーエプソン株式会社 撮影装置、撮影装置の制御方法
US9319590B2 (en) 2012-11-21 2016-04-19 Seiko Epson Corporation Image capturing device including display control section that causes display data to be displayed in first and second display regions of display screen, and method for controlling image capturing device
US10339544B2 (en) * 2014-07-02 2019-07-02 WaitTime, LLC Techniques for automatic real-time calculation of user wait times
JP6582642B2 (ja) * 2014-08-11 2019-10-02 セイコーエプソン株式会社 車両用撮像装置、車両用撮像表示システム、及び車両
JP6509155B2 (ja) * 2016-03-31 2019-05-08 キヤノン株式会社 撮像装置、アクセサリ装置および通信制御プログラム
US9998700B1 (en) * 2016-12-05 2018-06-12 Omnivision Technologies, Inc. Image sensor failure detection
CN109754738A (zh) * 2017-11-02 2019-05-14 瑞鼎科技股份有限公司 面板显示位置微调方法
KR102581210B1 (ko) * 2019-01-10 2023-09-22 에스케이하이닉스 주식회사 이미지 신호 처리 방법, 이미지 신호 프로세서 및 이미지 센서 칩

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06165024A (ja) * 1992-11-18 1994-06-10 Canon Inc 撮像装置及び画像再生装置及び映像システム
JP2002366127A (ja) * 2001-06-04 2002-12-20 Toshiba Corp 携帯端末及び表示制御装置
JP2003333377A (ja) * 2002-05-15 2003-11-21 Fuji Photo Film Co Ltd オンスクリーンディスプレイ装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5905530A (en) 1992-08-24 1999-05-18 Canon Kabushiki Kaisha Image pickup apparatus
US6801246B2 (en) * 2001-02-27 2004-10-05 Thomson Licensing, S.A. Method and apparatus for detecting change in video source material
JP2004312072A (ja) * 2003-04-02 2004-11-04 Matsushita Electric Ind Co Ltd 画像処理装置及びカメラ、並びに画像処理方法
JP4772281B2 (ja) * 2003-07-28 2011-09-14 オリンパス株式会社 画像処理装置及び画像処理方法
JP2005311473A (ja) * 2004-04-16 2005-11-04 Sharp Corp 撮像装置および信号処理方法ならびにそのプログラムと記録媒体
KR100651543B1 (ko) * 2005-06-15 2006-11-29 삼성전자주식회사 동영상 화면의 왜곡을 감소시키는 휴대 단말기
US8341689B2 (en) * 2005-09-07 2012-12-25 Intersil Americas Inc. Automatic frequency compensation of video signals transmitted across cables
JP4727457B2 (ja) 2006-03-08 2011-07-20 富士フイルム株式会社 撮影装置
JP5195818B2 (ja) * 2010-06-01 2013-05-15 セイコーエプソン株式会社 表示制御装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06165024A (ja) * 1992-11-18 1994-06-10 Canon Inc 撮像装置及び画像再生装置及び映像システム
JP2002366127A (ja) * 2001-06-04 2002-12-20 Toshiba Corp 携帯端末及び表示制御装置
JP2003333377A (ja) * 2002-05-15 2003-11-21 Fuji Photo Film Co Ltd オンスクリーンディスプレイ装置

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9154757B2 (en) 2012-02-29 2015-10-06 Hitachi Maxell, Ltd. Imaging device
JP2013179513A (ja) * 2012-02-29 2013-09-09 Hitachi Consumer Electronics Co Ltd 撮像装置
WO2013128693A1 (ja) * 2012-02-29 2013-09-06 日立コンシューマエレクトロニクス株式会社 撮像装置
CN103364733A (zh) * 2012-03-28 2013-10-23 拉碧斯半导体株式会社 半导体装置以及电池监视系统
CN103364733B (zh) * 2012-03-28 2017-12-22 拉碧斯半导体株式会社 半导体装置以及电池监视系统
JP2014103647A (ja) * 2012-11-21 2014-06-05 Seiko Epson Corp 撮影装置、撮影装置の制御方法
JP2014160958A (ja) * 2013-02-20 2014-09-04 Canon Inc 信号処理装置、その制御方法、および制御プログラム
US9886893B2 (en) 2014-03-25 2018-02-06 Seiko Epson Corporation Display control device and display apparatus for controlling an image based on an image signal synchronized with a horizontal synchronization signal and a control signal indicating that the image signal is valid or invalid
US10044912B2 (en) 2014-03-25 2018-08-07 Seiko Epson Corporation Imaging device and image processing device for outputting image signal to be displayed, and display control device and imaging display apparatus for displaying image signal
US10347171B2 (en) 2014-03-25 2019-07-09 Seiko Epson Corporation Imaging device including timing generator that generates vertical synchronization signal after number of lines of valid image signal reaches number of valid lines of vertical scanning period
JP2016025515A (ja) * 2014-07-22 2016-02-08 セイコーエプソン株式会社 撮像装置、撮像表示装置及びその制御方法
JP2016039517A (ja) * 2014-08-08 2016-03-22 セイコーエプソン株式会社 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置
US10154217B2 (en) 2014-08-08 2018-12-11 Seiko Epson Corporation Imaging apparatus, image processing apparatus, and imaging display apparatus
JP2016040902A (ja) * 2014-08-11 2016-03-24 セイコーエプソン株式会社 撮像表示装置及びその制御方法

Also Published As

Publication number Publication date
CN105847687A (zh) 2016-08-10
US10057486B2 (en) 2018-08-21
US20140333804A1 (en) 2014-11-13
US20140009452A1 (en) 2014-01-09
CN102316262A (zh) 2012-01-11
CN105847687B (zh) 2018-11-23
US8804002B2 (en) 2014-08-12
US20160080646A1 (en) 2016-03-17
CN102316262B (zh) 2016-04-27
JP5195818B2 (ja) 2013-05-15
US9210344B2 (en) 2015-12-08
US8558911B2 (en) 2013-10-15
US20110292236A1 (en) 2011-12-01

Similar Documents

Publication Publication Date Title
JP5195818B2 (ja) 表示制御装置
US10187576B2 (en) Image-displaying device and image data generation device
JP5163702B2 (ja) 撮影装置およびタイミング制御回路
JP5251926B2 (ja) 撮影装置およびタイミング制御回路
JP2011254416A (ja) 撮影装置
JP5163728B2 (ja) タイミングジェネレーター、撮影装置、ドットクロック出力方法
JP5029725B2 (ja) 撮影装置
JP5310647B2 (ja) 撮影装置
JP6521008B2 (ja) 撮像表示装置、撮像表示装置の制御方法
JP5582229B2 (ja) カメラ、表示装置および画像処理装置
US10070064B2 (en) Display control device including display control section that causes display data to be displayed in first and second regions og display, and controlling method of image capturing sensor and display
JP6481701B2 (ja) 撮影表示装置、制御方法、制御装置、表示装置及び撮影装置
JP5158165B2 (ja) 撮影装置、表示タイミング制御回路
JP5482475B2 (ja) 画像処理装置、表示装置及び撮影装置
JP6103106B2 (ja) 撮影表示装置、その撮影制御方法、制御装置、表示装置および撮影装置。
JP5924382B2 (ja) 撮像装置、表示装置および画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130121

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160215

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5195818

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350