JP6365097B2 - 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 - Google Patents
画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 Download PDFInfo
- Publication number
- JP6365097B2 JP6365097B2 JP2014162104A JP2014162104A JP6365097B2 JP 6365097 B2 JP6365097 B2 JP 6365097B2 JP 2014162104 A JP2014162104 A JP 2014162104A JP 2014162104 A JP2014162104 A JP 2014162104A JP 6365097 B2 JP6365097 B2 JP 6365097B2
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- image
- output
- signal
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Studio Devices (AREA)
Description
このため、本発明によれば、位相差が、画像処理時間よりも大きい場合において、位相差を画像処理時間以下となるまで段階的に短くすることができ、位相差が画像処理時間以下に収束した後は当該位相差を維持することができるため、位相差を画像処理時間以下となるまで段階的に短くしない場合と比較して、撮像から表示までの遅延時間を短縮することができる。
これにより、例えば、画像処理の手法の変更等に伴う画像処理時間の変更がある場合や、ライン毎に画像処理時間が変動する場合、表示部をフレームレートが異なるものに交換する場合、または、撮像部をフレームレートが異なるものに交換する場合等、撮像部及び表示部の位相差、撮像部のフレームレート、並びに、表示部で表示可能な最高のフレームレートのうち、一部または全部が変化する場合であっても、位相差を画像処理時間以下の長さに自動的に収束させることが可能となる。
なお、画像処理時間が、表示部のライン毎に変動する場合には、例えば、当該変動する時間のうち最大の時間を、画像処理時間と看做してもよい。
この態様によれば、表示部が画像信号の示す画像を表示可能となるまで待機することで、表示部のフレームレートが第2フレームレートとなるように画像信号を出力するため、撮像部及び表示部の位相差を、段階的に短縮することができる。
この態様によれば、画像信号の生成から出力までの間隔を、水平同期パルスにより定められる水平走査期間以下とすることができる。つまり、水平同期パルスにより定められる水平走査期間の精度で、各ラインの画像信号の出力タイミングを制御することができる。このため、画像信号の生成に要する画像処理時間がライン毎に変動する場合であっても、ライン毎の画像処理時間に応じたタイミングで、各ラインの画像信号を表示部に対して出力することが可能となる。
この態様によれば、水平同期パルスにより定められる水平走査期間の時間長が、各ラインの画像信号の出力が可能となるタイミングに応じて定められる。このため、画像信号の生成に要する画像処理時間がライン毎に変動する場合であっても、ライン毎の画像処理時間に応じたタイミングで、各ラインの画像信号を表示部に対して出力することが可能となる。
この発明によれば、位相差が、画像処理時間よりも大きい場合において、位相差を画像処理時間以下となるまで段階的に短くすることができ、位相差が画像処理時間以下に収束した後は当該位相差を維持することができる。
この発明によれば、位相差が、画像処理時間よりも大きい場合において、位相差を画像処理時間以下となるまで段階的に短くすることができ、位相差が画像処理時間以下に収束した後は当該位相差を維持することができる。
以下、本発明の第1実施形態に係る撮像表示装置1について説明する。
図1は、撮像表示装置1の機能を示すブロック図である。
図1に示すように、撮像表示装置1は、被写体を撮像し、撮像して得たデータを撮像信号DSとして出力する撮像部10と、撮像信号DSに対して画像処理を施して画像信号Dを生成する画像処理回路100と、画像信号Dに応じた画像を表示する表示部40と、撮像表示装置1の設定の変更、撮像の指示等を入力するための操作部60と、撮像表示装置1全体の動作を制御するCPU50と、を備える。
なお、撮像表示装置1から表示部40を除いた、撮像部10、画像処理回路100、操作部60、及び、CPU50は「撮像装置」の一例である。
また、各受光素子に1対1に対応するように、赤色、緑色、または、青色のうちいずれか1色のカラーフィルターが設けられている。以下では、1つの受光素子と、当該1つの受光素子に対応して設けられるカラーフィルターとの組を、イメージセンサ12の画素と称することがある。
なお、イメージセンサ12は、有効イメージセンサ領域AS以外の領域に画素を備えるものであってもよいが、本明細書では簡単のために有効イメージセンサ領域ASの画素についての説明は省略する。
図3は、タイミングジェネレータ13が生成する、撮像垂直同期信号SVsync、撮像水平同期信号SHsync、及び、撮像ドットクロック信号SCLKを説明するためのタイミングチャートである。撮像垂直同期信号SVsyncは、イメージセンサ12の有効イメージセンサ領域AS全体(PSライン分)の受光素子から画素データ信号Sigを読み出すための垂直走査期間Fs(すなわち、撮像部10のフレーム期間)を規定する信号である。なお、撮像部10のフレームレート、すなわち、「1/Fs」を、「第1フレームレート」と称する場合がある。撮像水平同期信号SHsyncは、有効イメージセンサ領域ASの1ライン分の受光素子から画素データ信号Sigを読み出すための水平走査期間Hsを規定する信号である。撮像ドットクロック信号SCLKは、有効イメージセンサ領域ASの1画素分の受光素子から画素データ信号Sigを読み出すためのタイミングを規定する信号である。
垂直走査期間Fsの時間長は一定(固定長)であり、水平走査期間Hsの時間長も一定(固定長)である。また、垂直走査期間Fsは、複数の水平走査期間Hsから構成される。
表示部40は、撮像対象となる被写体を示す画像を表示して撮像表示装置1の利用者に被写体の様子を把握させるためのEVF(Electronic View Finder)であり、画像処理回路100が生成した画像信号Dに応じた画像を表示するための液晶パネル42と、液晶パネル42の動作を制御するEVFコントローラ41と、を備える。
上述のとおり、M≦Pであり、N≦Qである。つまり、有効イメージセンサ領域ASに設けられた有効画素数と、表示領域ADに設けられた画素数は、異なる場合がある。
なお、図2(A)〜(C)に示す座標系は、それぞれ、有効イメージセンサ領域ASに固定された座標系、撮像信号DSを表すための概念上の座標系、及び、表示領域ADに固定された座標系であり、これら3つの座標系の各軸の向きは互いに相違するものであってもよい。
画像信号生成部20は、撮像信号DSに対して画像処理を施して画像信号Dを生成する画像処理部21と、画像処理部21が生成した画像信号Dを一時的に記憶するVRAM/ラインバッファ22(以下、「ラインバッファ22」と称する)と、ラインバッファ22から画像信号Dを取得して、取得した画像信号Dを表示部40に対して出力する画像信号出力部23と、を備える。
画像処理部21は、液晶パネル42の表示領域ADで表示すべき画像を示す画像信号Dを、1ライン分の画素で表示すべき画像毎に生成する。より具体的には、画像処理部21は、画像信号D[1]、画像信号D[2]、…、画像信号D[M]の順番で、画像信号Dを生成する。なお、画像処理部21が実行する画像処理の詳細については後述する。
また、画像処理部21は、画像信号D[m]を生成すると、生成した画像信号D[m]をラインバッファ22に格納するとともに、画像信号D[m]のラインバッファ22への格納が完了したことを示す書込完了信号PtAを、タイミング制御部30に対して出力する。
なお、以下では、説明の都合上区別が必要な場合には、画像処理部21が生成してラインバッファ22に格納する画像信号Dを画像信号DGAと称し、画像信号出力部23がラインバッファ22から取得して表示部40に出力する画像信号Dを画像信号DGBと称する。また、画像処理部21がラインバッファ22に格納する画像信号DGAのうち、表示領域ADの第m行のラインで表示すべき画像を示す画像信号DGAを画像信号DGA[m]と称し、画像信号出力部23が表示部40に出力する画像信号DGBのうち、表示領域ADの第m行のラインで表示すべき画像を示す画像信号DGBを画像信号DGB[m]と称する。
詳細は後述するが、画像信号出力部23は、表示部40に対して、画像信号DGB[m]を出力する代わりに、無効信号Dmyを出力する場合がある(図4参照)。この場合は、画像信号出力部23は、出力完了信号PtBを出力しない。
ここで、「画像信号D[m](画像信号DGB[m])を出力する準備が完了した」とは、以下の第1条件及び第2条件を充足したことをいう。
(第1条件) 画像処理部21が、第m行の画像信号D[m](画像信号DGA[m])の画像処理を完了していること。
(第2条件) 画像信号出力部23が、第m-1行の画像信号D[m-1](画像信号DGB[m-1])の出力を完了したこと。
本明細書では、出力制御部31が判定の対象とする画像信号D[m]が示す画像を表示する表示領域ADのラインを、「表示対象ライン」と称する場合がある。
(第3条件) 画像信号出力部23が第m行の画像信号D[m](画像信号DGB[m])を出力するタイミングが、表示領域ADが画像を表示可能な期間(図4で後述する水平有効データ期間DHI)に含まれること。
しかし、上述した第1条件及び第2条件が充足されている場合、画像信号出力部23からの画像信号DGB[m]の出力タイミングをタイミングジェネレータ32が制御することにより第3条件は必然的に充足される。このため、本実施形態では、出力制御部31における判定において第3条件を考慮しない。
具体的には、出力制御部31は、画像処理部21が書込完了信号PtAを出力すると、書込完了信号PtAの示すライン番号maが「m≦ma」を満たすか否かを判定し(第1の判定を実行し)、画像信号出力部23が出力完了信号PtBを出力すると、出力完了信号PtBの示すライン番号mbが「mb=m-1」を満たすか否かを判定し(第2の判定を実行し)、第1の判定の判定結果と、第2の判定の判定結果の両方が肯定である場合に、「画像信号D[m]を出力する準備が完了した」と判定する。
この場合、出力制御部31は、第1の判定を実行することにより、表示対象ラインで表示すべき画像に対応する画像信号を生成したか否かを判定する「処理状況判定部」として機能し、第2の判定を実行することにより、表示対象ラインにおける画像の表示が可能であるか否かを判定する「表示判定部」として機能する。
なお、出力制御部31は、第1の判定の判定結果、または、第2の判定の判定結果が否定である場合、第1の判定の判定結果と、第2の判定の判定結果の両方が肯定となるまで、第1の判定及び第2の判定を繰り返す。具体的には、出力制御部31は、例えば、第1の判定及び第2の判定の両方の判定結果が肯定となるまで、画像処理部21から書込完了信号PtAが出力される毎に第1の判定を実行し、また、画像信号出力部23から出力完了信号PtBが出力される毎に第2の判定を実行すればよい。また、例えば、出力制御部31は、第1の判定及び第2の判定の両方の判定結果が肯定となるまで、後述する水平走査期間Hdの周期で、第1の判定及び第2の判定を繰り返してもよい。そして、第1の判定の判定結果と、第2の判定の判定結果の両方が肯定となったときに、出力制御信号CTRを、判定結果が肯定であることを示す値に設定する。
この態様において、出力制御部31は、第1の判定の判定結果が否定である場合、第1の判定の判定結果が肯定となるまで第1の判定を繰り返し、第1の判定の判定結果が肯定となったときに、出力制御信号CTRを、判定結果が肯定であることを示す値に設定する。具体的には、出力制御部31は、例えば、出力完了信号PtBが出力されたタイミングで第1の判定の判定結果が否定である場合には、その後、画像処理部21が書込完了信号PtAを出力する毎に、当該書込完了信号PtAの示すライン番号maが「m≦ma」を満たすか否かを判定し、「m≦ma」を満たしたときに、第1条件が充足されたと判定すればよい。
このため、第2の態様において、出力制御部31は、画像信号出力部23からの出力完了信号PtBの出力をもって第2条件が充足されたと見做す。そして、出力制御部31は、画像信号出力部23から出力完了信号PtBが出力されたタイミングにおいて第1条件が充足されているか否かの判定(第1の判定)を実行することで、「画像信号D[m](画像信号DGB[m])の出力準備が完了した」か否かの判定を行う。
図4は、タイミングジェネレータ32が生成する、表示垂直同期信号DVsync、垂直有効データ信号DVactive、表示水平同期信号DHsync、表示ドットクロック信号DCLK、及び、イネーブル信号DEnbを説明するためのタイミングチャートである。
なお、表示垂直同期信号DVsyncの有する波形のうち、垂直走査期間Fdの開始及び終了のタイミングを規定するパルス状の波形を、垂直同期パルスPlsVと称する。また、表示水平同期信号DHsyncの有する波形のうち、水平走査期間Hdの開始及び終了のタイミングを規定するパルス状の波形を、水平同期パルスPlsHと称する。
垂直同期期間DVpは、表示垂直同期信号DVsyncがアクティブ(この図の例ではローレベル)である期間であり、垂直走査期間Fdが開始されるのと同時に開始される、予め定められた時間長を有する期間である。垂直バックポーチ期間DVbは、垂直同期期間DVpに後続する期間であり、予め定められた時間長を有する期間である。垂直有効データ期間DVIは、垂直バックポーチ期間DVbに後続する、可変な時間長の期間である。当該垂直有効データ期間DVIにおいて、画像信号出力部23から画像信号DGB(画像信号DGB[1]〜DGB[M])が出力される。垂直フロントポーチ期間DVfは、垂直有効データ期間DVIに後続する期間であり、垂直走査期間Fdの終了と同時に終了する、予め定められた時間長を有する期間である。
垂直有効データ期間DVIは、各垂直走査期間Fdにおいてイネーブル信号DEnbが最初にアクティブとなる水平走査期間Hdの開始からイネーブル信号DEnbがM回目にアクティブとなる水平走査期間Hdの終了までの期間である(イネーブル信号DEnbがアクティブとなる場合については、後述する)。
当該垂直有効データ期間DVIは、例えば、イネーブル信号DEnbがアクティブとなる回数をカウントするカウンタ(図示省略)が出力するカウント値に基づいて定めればよい。但し、本実施形態では、説明の便宜上、各垂直走査期間Fdにおいてイネーブル信号DEnbが最初にアクティブとなる水平走査期間Hdの開始からイネーブル信号DEnbがM回目にアクティブとなる水平走査期間Hdの終了までの期間においてアクティブ(この図の例ではハイレベル)となる垂直有効データ信号DVactiveを導入する。すなわち、本実施形態では、垂直有効データ信号DVactiveがアクティブである期間を垂直有効データ期間DVIとして説明する。なお、この垂直有効データ信号DVactiveは、説明の便宜上導入した信号であり、出力制御部31は、この垂直有効データ信号DVactiveを出力しないものであってもよい。
水平同期期間DHpは、表示水平同期信号DHsyncがアクティブ(この図の例ではローレベル)である期間であり、水平走査期間Hdが開始されるのと同時に開始される、予め定められた時間長を有する期間である。水平バックポーチ期間DHbは、水平同期期間DHpに後続する期間であり、予め定められた時間長を有する期間である。水平有効データ期間DHIは、水平バックポーチ期間DHbに後続する、予め定められた時間長を有する期間である。水平フロントポーチ期間DHfは、水平有効データ期間DHIに後続する期間であり、水平走査期間Hdの終了と同時に終了する、予め定められた時間長を有する期間である。
図4(C)は、水平走査期間Hdが有効水平走査期間Hd-Aである場合を例示している。この図に示すように、イネーブル信号DEnbは、水平走査期間Hdが有効水平走査期間Hd-Aである場合には、水平有効データ期間DHIにおいてアクティブ(この図の例ではハイレベル)となる。そして、イネーブル信号DEnbがアクティブとなる水平有効データ期間DHIにおいて、画像信号出力部23から画像信号D[m](画像信号DGB[m])が出力される。一方、イネーブル信号DEnbは、有効水平走査期間Hd-Aのうち、水平有効データ期間DHI以外の期間(水平同期期間DHp、水平バックポーチ期間DHb、水平フロントポーチ期間DHf)において、非アクティブとなる。画像信号出力部23は、有効水平走査期間Hd-Aのうち、イネーブル信号DEnbが非アクティブとなる、水平有効データ期間DHI以外の期間において、画像信号D[m](画像信号DGB[m])の出力を停止して、無効ライン信号DGB-dmyを出力する。
上述した第3条件は、タイミングジェネレータ32が水平有効データ期間DHIにおいてイネーブル信号DEnbをアクティブとすることで充足される。すなわち、出力制御部31及びタイミングジェネレータ32を備えるタイミング制御部30は、上述した第1条件〜第3条件の全てが充足されたタイミングで、表示対象ラインに対応する画像信号D[m](画像信号DGB[m])を画像信号出力部23から出力させる。
なお、タイミングジェネレータ32は、出力制御部31が出力する出力制御信号CTRに基づいて、水平走査期間Hdを有効水平走査期間Hd-Aまたは無効水平走査期間Hd-Dのいずれにするか、換言すれば、水平有効データ期間DHIにおいてイネーブル信号DEnbをアクティブとするか否かを決定する。この、出力制御信号CTR、イネーブル信号DEnb、及び、水平走査期間Hdの種類の関係については、後述する。
この図に示すように、表示領域ADの有する第1行のラインから第M行のラインに至るM行×N列の画素は、垂直走査期間Fdのうち、垂直有効データ信号DVactiveがアクティブとなる垂直有効データ期間DVIにおいて、画像信号D[1]〜D[M]の示す1画面分の画像を表示する。
また、表示領域ADのうち第m行のラインを構成するN個の画素は、水平走査期間Hd(有効水平走査期間Hd-A)のうち、イネーブル信号DEnbがアクティブとなる水平有効データ期間DHIにおいて、画像信号D[m]の示す画像を表示する。
なお、垂直有効データ期間DVIは、当該垂直有効データ期間DVIに含まれる無効水平走査期間Hd-Dの個数によって延長されるが、この図では、垂直有効データ期間DVIに含まれる水平走査期間Hdは全て有効水平走査期間Hd-Aである場合を想定している。
上述のとおり、出力制御部31は、画像信号D[m]の出力準備が完了したと判定したとき、つまり、第1条件及び第2条件が充足されたときに、出力制御信号CTRに判定結果が肯定であることを示す値を設定する。具体的には、本実施形態では、出力制御部31は、画像信号D[m]の出力準備が完了したと判定したときに、出力制御信号CTRに一時的にハイレベルに立ち上がるパルス状の波形を設定する。図6に示すように、出力制御信号CTRに設定される画像信号D[m]を出力する準備が完了した旨の判定結果を示す波形を、出力許可パルスPL[m]と称する。
図6に示すように、出力制御部31が画像信号D[m]の出力準備が完了したか否かの判定を行う場合において、出力制御部31が画像信号D[m]の画像処理が完了したと判定(第1条件が充足されたと判定)するタイミング、つまり、第1の判定の結果が肯定となるタイミングを、画像処理判定時刻TA[m]と称する。
また、出力制御部31に出力完了信号PtBが供給された(第2条件が充足されたと看做す)タイミングを、表示準備判定時刻TB[m]と称する。
また、以下では、説明の便宜上、画像処理部21による画像信号D[m]の生成が実際に完了した時刻を、画像信号生成時刻TC[m]と定義する。つまり、画像信号生成時刻TC[m]は、画像処理部21が書込完了信号PtAを出力する時刻と略同じ時刻である。この画像信号生成時刻TC[m]は、「画像信号生成時刻」の一例である。
なお、本明細書において「略同じ時刻」とは、信号の送受信に起因するタイムラグや、各種処理に起因するタイムラグがある場合において、これらのタイムラグを無視した場合に同一の時刻であると看做すことができる場合を含む概念である。
なお、Case-1の場合、表示準備判定時刻TB[m]の経過後に、出力制御部31が、当該表示準備判定時刻TB[m]までに出力制御部31に供給されている書込完了信号PtAの示すライン番号maが「m≦ma」を満たす旨の判定をし、当該判定をしたタイミングが画像処理判定時刻TA[m]であるため、画像処理判定時刻TA[m]及び表示準備判定時刻TB[m]の間にはタイムラグが存在するが、以下では、簡単のために両時刻を略同じと看做す。
なお、Case-2の場合、画像処理部21が画像信号生成時刻TC[m]に画像信号D[m]の生成を完了させた後に、画像処理部21が書込完了信号PtAを出力し、当該書込完了信号PtAの供給を受けた出力制御部31が「m≦ma」を満たす旨の判定をしたタイミングが画像処理判定時刻TA[m]であるため、画像処理判定時刻TA[m]及び画像信号生成時刻TC[m]の間にはタイムラグが存在するが、以下では、簡単のために両時刻を略同じと看做す。
以下、説明の都合上、画像信号D[m]について、第1条件〜第3条件の全てが充足された時刻を、出力条件充足時刻TJ[m]と称する。
次に、タイミングジェネレータ32は、水平走査期間Hdが開始されるタイミングにおいて内部処理信号ISがアクティブである場合、当該水平走査期間Hdの種別を有効水平走査期間Hd-A[m]に決定(分類)し、当該有効水平走査期間Hd-A[m]の水平有効データ期間DHIが開始されるタイミングでイネーブル信号DEnbをアクティブにする。このイネーブル信号DEnbがアクティブとなるタイミングが、出力条件充足時刻TJ[m]に該当する。
そして、タイミングジェネレータ32は、当該有効水平走査期間Hd-A[m]の水平有効データ期間DHIが開始されてイネーブル信号DEnbがアクティブとなるタイミング、つまり、出力条件充足時刻TJ[m]において、内部処理信号ISを非アクティブとする。
図6に示す例では、表示準備判定時刻TB[2]は、画像信号D[1]の出力が完了する水平走査期間Hd[1](有効水平走査期間Hd-A[1])の水平有効データ期間DHIの終了時である。また、この例では、画像信号D[2]の画像処理が完了する画像信号生成時刻TC[2]が、表示準備判定時刻TB[2]よりも前に到来する場合を想定している。よって、この例では、画像処理判定時刻TA[2]は、表示準備判定時刻TB[2]と略同じ時刻となる。このため、出力制御部31は、水平走査期間Hd[1]の水平有効データ期間DHIの終了時、つまり、表示準備判定時刻TB[2]に、出力制御信号CTRとして出力許可パルスPL[2]を出力する。
タイミングジェネレータ32は、出力制御信号CTRとして出力許可パルスPL[2]が出力されタイミング、つまり、水平走査期間Hd[1]の水平有効データ期間DHIの終了するタイミングにおいて、内部処理信号ISをアクティブにする。この場合、内部処理信号ISは、水平走査期間Hd[2]の開始時においてもアクティブとなっている。このため、タイミングジェネレータ32は、水平走査期間Hd[2]を有効水平走査期間Hd-A[2]とし、水平走査期間Hd[2]の水平有効データ期間DHIにおいて、イネーブル信号DEnbをアクティブにする。
すなわち、水平走査期間Hd[2]の水平有効データ期間DHIの開始時刻が、画像信号D[2]についての第1条件〜第3条件の全てが充足された出力条件充足時刻TJ[2]となる。このため、水平走査期間Hd[2]において、画像信号D[2]が出力されることになる。また、タイミングジェネレータ32は、水平走査期間Hd[2]の水平有効データ期間DHIが開始されるタイミングにおいて、内部処理信号ISを非アクティブとする。
図6に示す例では、表示準備判定時刻TB[3]は、画像信号D[2]の出力が完了する水平走査期間Hd[2](有効水平走査期間Hd-A[2])の水平有効データ期間DHIの終了時である。この例では、画像信号D[3]の画像処理が完了する画像信号生成時刻TC[3]が、表示準備判定時刻TB[3]よりも後となる場合を想定している。よって、画像処理判定時刻TA[3]は、表示準備判定時刻TB[3]よりも後の時刻となる。また、この例では、画像信号生成時刻TC[3]が、水平走査期間Hd[3]の開始時よりも後となる場合を想定している。このため、出力制御部31は、水平走査期間Hd[3]の開始時よりも後の時刻に、出力許可パルスPL[3]を出力する。
上述のとおり、タイミングジェネレータ32は、内部処理信号ISを、水平走査期間Hd[2]の水平有効データ期間DHIの開始時に非アクティブとする。このため、内部処理信号ISは、水平走査期間Hd[3]の開始時に非アクティブとなっている。よって、タイミングジェネレータ32は、水平走査期間Hd[3]を無効水平走査期間Hd-Dとして分類し、水平走査期間Hd[3]の水平有効データ期間DHIにおいて、イネーブル信号DEnbを非アクティブにする。この場合、画像信号出力部23は、水平走査期間Hd[3]の水平有効データ期間DHIにおいて、画像信号D[3]を出力せずに、無効信号Dmyを出力する。
その後、タイミングジェネレータ32は、出力制御信号CTRとして出力許可パルスPL[3]が出力されタイミングにおいて、内部処理信号ISをアクティブにする。この例では、出力許可パルスPL[3]が出力されるタイミングは、水平走査期間Hd[4]の開始前である。この場合、内部処理信号ISは、水平走査期間Hd[4]の開始時においてもアクティブとなっている。このため、タイミングジェネレータ32は、水平走査期間Hd[4]を有効水平走査期間Hd-A[3]とし、水平走査期間Hd[4]の水平有効データ期間DHIにおいて、イネーブル信号DEnbをアクティブにする。
すなわち、水平走査期間Hd[4]の水平有効データ期間DHIの開始時刻が、画像信号D[3]についての第1条件〜第3条件の全てが充足された出力条件充足時刻TJ[3]となる。このため、水平走査期間Hd[4]において、画像信号D[3]が出力されることになる。
なお、この図に示す例では、出力制御部31が、画像信号D[1]の出力準備が完了したか否かの判定を行い出力制御信号CTRに出力許可パルスPL[1]を設定する場合、及び、画像信号D[1]の出力準備が完了したか否かの判定を行い出力制御信号CTRに出力許可パルスPL[1]を設定する場合は、Case-1である場合を想定している。
また、図6に示す例では、内部処理信号ISを非アクティブとするタイミングを、イネーブル信号DEnbがアクティブとなるタイミングとしているが、これは一例に過ぎず、タイミングジェネレータ32が内部処理信号ISを非アクティブとするタイミングは、イネーブル信号DEnbがアクティブとなってから非アクティブとなるまでの水平有効データ期間DHIの間であればいつでもよい。
また、本実施形態において、出力制御信号CTRは、出力許可パルスPL[m]を含む波形となっているが、これは一例であり、出力制御信号CTRは、例えば、図6に示す内部処理信号ISの波形を有していてもよい。この場合、タイミングジェネレータ32は、出力制御部31が出力制御信号CTRの波形の決定をするために必要なイネーブル信号DEnb等の各種信号を、出力制御部31に供給すればよい。
垂直走査期間Fdは、M行のラインに対応する画像信号D[1]〜D[M]を出力する期間である。このため、タイミングジェネレータ32は、各垂直走査期間Fdの垂直有効データ期間DVIに、M個の有効水平走査期間Hd-Aを設ける。
一方、本実施形態に係るタイミングジェネレータ32は、水平走査期間Hdを、有効水平走査期間Hd-Aまたは無効水平走査期間Hd-Dの何れかに分類する。そして、水平走査期間Hdが有効水平走査期間Hd-Aである場合にのみ、当該水平走査期間Hdにおいて画像信号D[m]が出力される。
このため、本実施形態に係るタイミングジェネレータ32は、垂直走査期間Fdの垂直有効データ期間DVIに無効水平走査期間Hd-Dを設ける場合には、当該無効水平走査期間Hd-Dに相当する時間長だけ垂直有効データ期間DVIを延長し、各垂直走査期間Fdの垂直有効データ期間DVIにM個の有効水平走査期間Hd-Aを設けるように、表示垂直同期信号DVsync及び垂直有効データ信号DVactiveを出力する。
一方、タイミングジェネレータ32は、図7(B)に示す垂直走査期間Fd2のように、垂直有効データ期間DVIに1または複数の無効水平走査期間Hd-Dを設ける場合には、垂直有効データ期間DVIの時間長が、水平走査期間HdのM倍の時間長と、垂直有効データ期間DVIに存在する1または複数の無効水平走査期間Hd-Dの合計の時間長と、を加算した時間長とする。
つまり、タイミングジェネレータ32は、垂直走査期間Fdの時間長を、水平走査期間Hdの単位で調整することで、各垂直走査期間Fdにおいて画像信号出力部23が画像信号D[1]〜D[M]を出力することを可能としている。
また、図7(B)に示す垂直走査期間Fd2のように、垂直有効データ期間DVIに1または複数の無効水平走査期間Hd-Dが設けられる場合における、当該1または複数の無効水平走査期間Hd-Dの時間長の合計値を、延長垂直走査時間Texと称する。つまり、垂直有効データ期間DVIに1または複数の無効水平走査期間Hd-Dが設けられる場合の垂直走査期間Fdの時間長は、標準垂直走査時間Tdと延長垂直走査時間Texとの合計である。なお、タイミング制御部30が実行するタイミングの制御のうち、1または複数の無効水平走査期間Hd-Dが設けられる垂直有効データ期間DVIにおいて画像信号Dが出力されるようにタイミングを制御することを、「第2のタイミング制御」と称する場合がある。詳細は後述するが、第2のタイミング制御において、タイミング制御部30は、第1フレームレートにより画像信号Dが出力されるようにタイミングを制御する。
図8は、表示部40の構成を示すブロック図である。上述のとおり、表示部40は、液晶パネル42の動作を制御するEVFコントローラ41と、画像信号Dに応じた画像を表示するための液晶パネル42と、を備える。
液晶パネル42には、上述のとおり、画像信号Dに応じた画像を表示するための表示領域ADが設けられている。表示領域ADは、図5においてX軸方向に延在するM行の走査線と、Y軸方向に延在するN列のデータ線と、走査線及びデータ線の交差に対応しても受けられるM行×N列の画素と、を含んで構成されている。また、液晶パネル42は、走査線を選択するための走査線駆動回路421と、データ線を駆動するためのデータ線駆動回路422と、表示領域ADに表示される画像を拡大して観察可能とするための光学系(図示省略)と、を備える。
なお、本実施形態において、画像処理回路100(画像信号生成部20、及び、タイミング制御部30)とEVFコントローラ41との間のデータ伝送は、パラレルインタフェース(図示省略)によって行う。
設定パラメーターPRMとしては、例えば、水平走査期間Hdの時間長(または、水平走査期間Hdに含まれる表示ドットクロック信号DCLKのクロック数。以下、表示ドットクロック信号DCLKのクロック数を、単に「クロック数」と称する)、水平有効データ期間DHIの時間長(または、表示領域ADにおけるX軸方向の画素数(N))、水平同期期間DHpの時間長(または、クロック数)、水平バックポーチ期間DHbの時間長(または、クロック数)、水平フロントポーチ期間DHfの時間長(または、クロック数)、垂直有効データ期間DVIに無効水平走査期間Hd-Dが含まれない場合の垂直有効データ期間DVIの時間長(または、表示領域ADにおけるY軸方向のライン数(M)。すなわち、垂直有効データ期間DVIに含まれる有効水平走査期間Hd-Aの個数)、垂直同期期間DVpの時間長(または、クロック数)、垂直バックポーチ期間DVbの時間長(または、クロック数)、垂直フロントポーチ期間DVfの時間長(または、クロック数)、等を含むものであればよい。
本実施形態に係る撮像表示装置1では、画像処理回路100から、液晶パネル42の仕様に応じたEVFコントローラ41の動作タイミングを設定できるので、液晶パネル42のサイズを変更する場合や、フレームレート等の液晶パネル42の仕様を変更する場合であっても、EVFコントローラ41を変更する必要がない。このため、システムの汎用性を向上させることが可能となる。
データ入力部411は、イネーブル信号DEnbがアクティブとなると、当該イネーブル信号DEnbがアクティブの間に表示ドットクロック信号DCLKに同期して画像信号出力部23から供給される1ライン分の画像信号D[m]を取り込み、取り込んだ画像信号D[m]をデータ出力部414に対して出力する。一方、データ入力部411は、イネーブル信号DEnbが非アクティブの場合、画像信号出力部23から供給される無効信号Dmyを取り込まずに破棄する。
カウンタ412は、イネーブル信号DEnbの立ち上がりエッジをカウントし、カウント結果を示すカウント値Cntを、タイミング生成部413に対して出力する。また、カウンタ412は、表示垂直同期信号DVsyncがアクティブになり、表示垂直同期信号DVsyncとして垂直同期パルスPlsVが供給されると、カウント値Cntを「0」にリセットする。このため、カウンタ412は、各垂直走査期間Fdに含まれる有効水平走査期間Hd-Aの個数をカウントすることができる。すなわち、カウント値Cntは、データ入力部411が第m行のラインで表示すべき画像を指定する画像信号D[m]を取り込む場合には、当該画像信号D[m]に対応するライン番号(m)を示す。
上述のとおり、タイミング生成部413は、画像処理回路100から設定パラメーターPRMが供給されると、供給された設定パラメーターPRMをレジスタ415に設定する。
このように、EVFコントローラ41は、画像信号出力部23から供給された画像信号Dの示す画像を、液晶パネル42の表示領域ADに表示させる。
ここで、改フレーム処理とは、次の垂直走査期間Fdにおいて画像を表示する準備のための処理であり、例えば、データ入力部411及びデータ出力部414が備えるバッファに記憶されたデータの消去を実行する処理等が含まれる。改フレーム処理は、垂直フロントポーチ期間DVfの開始以後に開始される。また、改フレーム処理は、垂直フロントポーチ期間DVfの終了までに終了することが好ましい。
次に、図9乃至図11を参照しつつ、画像処理部21の詳細と、画像処理部21で実行される画像処理と、について説明する。
この図に示すように、画像処理部21は、イメージセンサ12から出力される撮像信号DSを一時的に格納するラインバッファ211と、ラインバッファ211に格納された撮像信号DSに対して補間処理を行う画素補間処理部212と、補間された撮像信号DSに対して色再現処理を行う色再現処理部213と、色再現された撮像信号DSに対してフィルタ処理を行うフィルタ処理部214と、フィルタ処理された撮像信号DSに対してガンマ補正を施すガンマ補正部215と、ガンマ補正された撮像信号DSを一時的に格納するラインバッファ216と、ラインバッファ216に格納された撮像信号DSを表示領域ADの備える画素数の画像信号Dに変換するリサイズ処理を行うリサイズ処理部217と、を備える。
図10(A)において、「R」が付された四角形の各々は、赤色の画素に対応する(赤色光を検出するための)受光素子から出力される画素データ信号Sigを示し、「G」が付された四角形の各々は、緑色の画素の受光素子から出力される画素データ信号Sigを示し、「B」が付された四角形の各々は、青色の画素の受光素子から出力される画素データ信号Sigを示す。
また、図10(B)において、「R」が付された四角形の各々は、表示領域ADの有する赤色の画素に対応する(赤色の画素で表示すべき階調を指定する)画像信号Dを生成するための撮像信号DSを示し、「G」が付された四角形の各々は、表示領域ADの有する緑色の画素に対応する画像信号Dを生成するための撮像信号DSを示し、「B」が付された四角形の各々は、表示領域ADの有する青色の画素に対応する画像信号Dを生成するための撮像信号DSを示す。
なお、本実施形態では、イメージセンサ12の有効イメージセンサ領域AS及び液晶パネル42の表示領域ADおいて、赤色、緑色、及び、青色の画素がベイヤー配列されている場合を想定する。
具体的には、イメージセンサ12は、PS行の中から読み出し対象ラインを選択し、読み出し対象ラインに位置する受光素子が出力する画素データ信号Sigを読み出す一方で、読み出し対象ライン以外のラインに位置する受光素子が出力する画素データ信号Sigを読み飛ばすことで、Y軸方向の間引きを行う。
画素がベイヤー配列されている場合、赤色画素及び緑色画素からなるラインと、緑色画素及び青色画素からなるラインとが、Y軸方向において交互に並んでいる。このため、奇数ラインに1ラインの割合で読み出し対象ラインを定めることで、読み出し後の画素を、赤色画素及び緑色画素からなるラインと、緑色画素及び青色画素からなるラインとが、Y軸方向において交互に並ぶように配列することができ、同色の画素が隣り合うことを防止することができる。
図10(A)に示す例では、Y軸方向において、3ラインに1ラインの割合で読み出し対象ラインを定めている。具体的には、ライン1〜9のうち、ライン1、ライン4、及び、ライン7を読み出し対象ラインとしている。この場合、図10(B)に示すように、画素データ信号SigをY軸方向に3分の1に間引いた撮像信号DSを得ることができる。
具体的には、イメージセンサ12は、各読み出し対象ラインに位置するQS個の受光素子を、所定数個の受光素子が1つの組となるようにグループ分けし、各組を構成する所定数個の受光素子が出力する画素データ信号Sigの示す値を平均することで、QS個の受光素子が出力する画素データ信号Sigを、「所定数分の1」に縮小する。
図10(A)に示す例では、X軸方向において、1個おきに3個の受光素子を1組としてグループ分けし、各組を構成する同色の3個の受光素子が出力する画素データ信号Sigの示す値を平均している。具体的には、例えば、ライン1及びライン7において、第1列、第3列、第5列の赤色画素を1組として、当該3個の画素に対応する3個の受光素子が出力する画素データ信号Sigの値を加算器Ave1によって相加平均し、得られた平均値を第1列の赤色画素に対応する撮像信号DSの値として設定する。同様に、ライン1及びライン7において、第2列、第4列、第6列の緑色画素に対応する受光素子が出力する画素データ信号Sigの値を加算器Ave2によって相加平均し、得られた平均値を第2列の緑色画素に対応する撮像信号DSの値として設定する。この場合、図10(B)に示すように、画素データ信号SigをX軸方向に3分の1にリサイズ(縮小)した撮像信号DSを得ることができる。
上述のとおり、撮像信号DSの示す画像の画素数と、画像信号Dの示す画像の画素数(表示領域ADの画素数)とは異なる。このため、リサイズ処理部217では、撮像信号DSを、表示領域ADの画素数に対応した画像信号Dに変換するリサイズ処理を実行する。
すなわち、図11(A)は、表示領域ADに表示すべき画像が四角形SQであるのにもかかわらず、撮像信号DSが、樽型収差によって四角形SQが膨張した閉曲線CV1を示す場合を表す。また、図11(B)は、表示領域ADに表示すべき画像が四角形SQであるのにもかかわらず、撮像信号DSが、糸巻型収差によって四角形SQが収縮した閉曲線CV2を示す場合を表す。
これらの場合、リサイズ処理部217は、補正前の画像における画素と補正後の画像における画素とを対応付け、補正後の画素に対応する補正前の画素を中心画素とし、中心画素とその周辺の画素である周辺画素とを含む参照領域内の画素の各々で表示する階調に基づいて、補正後の画素の表示すべき階調を決定する。
同様に、リサイズ処理部217は、図11(C)または(D)に示す、補正後の画素PxS2の階調を決定する場合、図11(A)または(B)に示す、補正前の画素PxC2を中心画素と定める。そして、リサイズ処理部217は、中心画素である画素PxC2を含む参照領域Area2内の各画素で表示すべき階調に基づいて、画素PxS2で表示すべき階調を定める。
よって、リサイズ処理部217が画像信号D[m]を生成する場合に必要となる撮像信号DSのライン数は、画像信号D[m]に対応するラインの位置(mの値)により変動する。このため、リサイズ処理部217がリサイズ処理に要する時間長は、ラインの位置により変動することになる。
このとき、例えば、図11に示す例では、リサイズ処理部217が、第1行のラインに対応する画像信号D[1]を生成するためには、第1行〜第5行のラインに対応する撮像信号DS[1]〜DS[5]が必要となる。これに対して、リサイズ処理部217が、第7行のラインに対応する画像信号D[7]を生成するためには、第8行〜第10行のラインに対応する撮像信号DS[8]〜DS[10]が必要となる。つまり、リサイズ処理部217が、画像信号D[1]を生成するために要する時間長は、画像信号D[7]を生成するために要する時間長よりも長くなる。
例えば、図11に示す例では、画像信号D[1]を生成するために必要となる撮像信号DGS[1]は、撮像信号DS[1]〜DS[5]の5ライン分の撮像信号DS[p]であり、画像信号D[7]を生成するために必要となる撮像信号DGS[7]は、撮像信号DS[8]〜DS[10]の3ライン分の撮像信号DS[p]であり、画像信号D[12]を生成するために必要となる撮像信号DGS[12]は、撮像信号DS[12]〜DS[16]の5ライン分の撮像信号DS[p]である。
次に、撮像部10からの撮像信号DS[p]の出力タイミングと、画像信号生成部20からの画像信号D[m]の出力タイミングとの関係について説明する。
図12は、連続する複数の垂直走査期間Fs(Fs0〜Fs3)のうち、垂直走査期間Fs1〜Fs3のそれぞれにおいて、撮像部10が撮像信号DS(DS[1]〜DS[P])を出力するタイミングと、当該撮像信号DSに基づいて、画像処理部21が画像信号D(D[1]〜D[M])つまり画像信号DGA(DGA[1]〜DGA[M])を生成し、生成した画像信号DGAをラインバッファ22に格納タイミングと、連続する複数の垂直走査期間Fd(Fd0〜Fd3)のうち、垂直走査期間Fd1〜Fd3のそれぞれにおいて、画像信号出力部23が、ラインバッファ22から画像信号Dつまり画像信号DGB(DGB[1]〜DGB[M])を取得してこれを表示部40に対して出力するタイミングと、の関係を、概略的に示すタイミングチャートである。なお、垂直走査期間Fsのうち、撮像信号DSが出力される期間を、「撮像信号DSのフレーム」と称する。また、垂直走査期間Fdのうち、画像信号Dが出力されうる期間である垂直有効データ期間DVIを「画像信号Dのフレーム」と称する。そして、図12に示すように、撮像信号DSのフレームの開始から、画像信号Dの開始までの時間を、位相差PDと称する。
また、図11において説明したとおり、画像処理部21における画像信号D[1]〜D[M]の生成という視点から見れば、撮像部10から出力される撮像信号DS[1]〜DS[P]は、撮像信号DGS[1]〜DGS[M]である。以下では、説明の都合上、垂直走査期間Fs0〜Fs3において出力される撮像信号DGS[m]を、それぞれ、撮像信号DGS0[m]〜DGS3[m]として区別して表現することがある。
同様に、撮像信号DGS0[m]〜DGS3[m]に基づいて生成される画像信号D[m](DGA[m]、DGA[m])を、それぞれ、画像信号D0[m]〜D3[m](DGA0[m]〜DGA3[m]、DGB0[m]〜DGB3[m])として区別して表現することがある。
図12では、撮像部10が撮像信号DGS[1]〜DGS[M]を画像処理部21に供給するタイミングを線L1で表す。つまり、線L1は、画像処理部21が、画像信号DGA[1]〜DGA[M]のそれぞれを生成するための画像処理をライン毎に順番に開始する様子(タイミング)を、線L1で表す。
また、画像処理部21による画像信号DGA[1]〜DGA[M]の生成が完了し、これらがライン毎に順番にラインバッファ22に格納される様子(タイミング)を、線L2で表す。画像信号出力部23は、画像信号DGA[m]の生成が完了した後に画像信号DGB[m]を出力する。よって、画像信号DGB[m]が、線L2の示す時刻よりも前の時刻に出力されることはない。なお、線L2は、図6で説明した画像信号生成時刻TC[1]〜TC[M]を結んだ線である。
画像信号出力部23は、表示部40が表示可能であるときに画像信号DGB[m]を出力する。よって、画像信号DGB[m]が、線L3の示す時刻よりも前の時刻に出力されることはない。
また、図12では、画像信号DGA[m]がラインバッファ22に格納されてから、画像信号出力部23により表示部40に対して出力されるまでの時間を待機時間UBとしている。以下では、説明の都合上、画像信号DGB0[m]〜DGB3[m]のそれぞれに対応する待機時間UBを、待機時間UB0〜UB3として区別して表現することがある。
また、上述のとおり、撮像信号DGS[1]〜DGS[M]のそれぞれに含まれる撮像信号DS[p]のライン数は、ラインの位置によって異なる場合がある。つまり、画像処理部21は、図11で説明したように、3ライン分の撮像信号DS[p]からなる撮像信号DGS[m]に基づいて画像信号DGA[m]を生成する場合もあれば、5ライン分の撮像信号DS[p]からなる撮像信号DGS[m]に基づいて画像信号DGA[m]を生成する場合もあり、後者の場合は前者の場合と比較して画像処理時間UAは長くなる。すなわち、画像処理部21が、画像信号DGA[1]〜DGA[M]を生成するための画像処理時間UAは、通常、ラインの位置に応じて変動する。このため、線L2は通常は直線とはならずに折れ線となるが、図12では、図示の都合上直線として描いている。
すなわち、第1の状態とは、画像処理部21が撮像信号DS[p]に基づいて画像信号D[m]を生成したときに、表示部40において当該画像信号D[m]の示す画像を表示する準備ができていない、という状態である。ここで、表示部40において画像信号D[m]を表示する準備ができていない場合とは、例えば、画像信号D1[m]が生成されたときに、表示部40が画像信号D1の前に表示すべき画像信号D0の示す画像を表示中であり、表示部40が画像信号D1[m]の示す画像を表示できない場合等である。
つまり、第1の状態においては、画像処理部21が画像信号D[m]を生成しても、画像信号D[m]を表示するための表示部40側の準備が間に合っていないため、表示部40における画像の表示が、表示部40側の表示準備がボトルネックとなって、遅延する状態である。換言すれば、第1の状態は、表示部40が画像信号D[m]を表示可能となったタイミングにおいて、遅延することなく速やかに画像信号D[m]を表示することができる、という状態である。
図12では、図示の都合上、第1の状態として、1つの垂直走査期間Fs(Fs1)及び1つの垂直走査期間Fd(Fd1)の1組の垂直走査期間しか記載していないが、実際には複数の組の垂直走査期間が存在する場合がある。この場合、第1の状態における、位相差PD1(第1の状態における位相差PDとして、図12に示すように符号PD1を付する)は、垂直走査期間Fdと垂直走査期間Fsの差分に相当する時間ずつ短くなる。換言すれば、垂直走査期間の組毎に線L3と線L2との距離は、概ね、垂直走査期間Fdと垂直走査期間Fsの差分に相当する時間ずつ短くなる。
表示部40側における表示準備がボトルネックとなる表示の遅延が解消される前は、線L2が線L3よりも時間的に先行する。一方、表示準備がボトルネックとなる表示の遅延が解消された後は、線L3が線L2よりも時間的に先行する。すなわち、表示準備がボトルネックとなる表示の遅延が解消されるタイミングにおいて、線L2と線L3がクロスする。
なお、上述のとおり、線L2は直線とはならず、折れ線となる場合が存在する。この場合、線L2及び線L3のクロスは、複数回生じることがある。
すなわち、第2の状態とは、画像処理部21が撮像信号DS[p]に基づいて画像信号D[m]を生成したときに表示部40において当該画像信号D[m]の示す画像を表示する準備ができていないという状態(常に線L2が線L3よりも時間的に先行する状態)から、表示部40において画像信号D[m]の示す画像を表示可能となったときに画像処理部21が画像信号D[m]を生成するための画像処理を完了していない場合が存在する状態(線L3が線L2よりも時間的に先行する場合がある状態)へと遷移することをいう。
つまり、第2の状態は、時刻Tth以前においては、表示部40が画像信号D[m]の示す画像を表示することが可能となるタイミングにおいて、遅延することなく画像信号D[m]の示す画像を表示されるという状態であり、一方、時刻Tth以後においては、表示部40側において画像信号D[m]を表示することが可能となる時刻に至っても、画像信号D[m]を生成するための画像処理部21における画像処理が間に合っていないため、表示部40における画像の表示が、画像処理部21の画像処理がボトルネックとなって遅延する場合がある、という状態である。
この、第2の状態における、位相差PD2(第2の状態における位相差PDとして、図12に示すように符号PD2を付する)は、図12に示すように位相差PD1よりも短くなる。
すなわち、第3の状態とは、表示部40において画像信号D[m]の示す画像を表示する準備が完了したときに、画像処理部21が画像信号D[m]を生成するための画像処理を完了していない場合が恒常的に生じているという、状態である。
つまり、第3の状態においては、画像信号D[m]を表示するための表示部40側の準備が完了しても、画像信号D[m]を生成するための画像処理部21における画像処理が間に合っていないという状況が恒常的に生じているため、表示部40における画像の表示が、画像処理部21の画像処理がボトルネックとなって、遅延する状態である。
この、第3の状態における、位相差PD3(第3の状態における位相差PDとして、図12に示すように符号PD3を付する)は、図12に示すように、位相差PD2よりも短くなる。なお、第1の状態における位相差PD1は、画像処理時間UA(より具体的には、画像処理時間UA[1]〜UA[M]の最大値)よりも大きく、第3の状態における位相差PD3は、画像処理時間UA(より具体的には、画像処理時間UA[1]〜UA[M]の最大値)よりも小さい。
上述のとおり、画像処理時間UAはライン毎に変動する。しかし、その変動幅は、垂直走査期間Fsに比べれば十分に小さい。このため、画像信号D[m]の出力のタイミング(表示部40側の表示タイミング)を、画像処理部21における画像処理の完了タイミングに追従させている状態においては、撮像部10が撮像信号DS3を出力している期間の時間長と、画像信号出力部23が画像信号DGB3を出力している期間の時間長とは、略同じとなる。換言すれば、第3の状態においては、タイミング制御部30は、表示部40のフレームレートを撮像部10のフレームレートである第1フレームレートとなるように、画像信号D[m]が出力されるタイミングを調整していることになる(第2のタイミング制御)。
なお、図12では、図示の都合上、第3の状態として、1つの垂直走査期間Fs(Fs3)及び1つの垂直走査期間Fd(Fd3)の1組の垂直走査期間しか記載していないが、実際には複数の組の垂直走査期間が存在する。第3の状態では、複数の組の垂直走査期間のそれぞれにおいて、撮像部10が撮像信号DS3を出力している期間の時間長と、画像信号出力部23が画像信号DGB3を出力している期間の時間長とが、略同じととなるように、画像信号D[m]が出力されるタイミングが調整される。すなわち、第3の状態では、複数の組の垂直走査期間のそれぞれにおいて、表示部40のフレームレートが撮像部10のフレームレートである第1フレームレートとなるように、画像信号D[m]が出力されるタイミングが調整される。このため、第3の状態では、複数の組の垂直走査期間のそれぞれにおいて、位相差PD3が略同じ時間長となる。、
なお、図13と、後述する図14及び図15では、簡単のために、撮像信号DSの示す画像のライン数が5ライン(P=5)であり、画像信号D示す画像のライン数が4ライン(M=4)である場合を想定する。また、図13乃至図15に示す例では、撮像信号DGS[1]が、撮像信号DS[1]及びDS[2]を含み、撮像信号DGS[2]が、撮像信号DS[2]及びDS[3]を含み、撮像信号DGS[3]が、撮像信号DS[3]及びDS[4]を含み、撮像信号DGS[4]が、撮像信号DS[4]及びDS[5]を含む場合を想定する。すなわち、図13乃至図15に示す例では、画像信号D[1]が、撮像信号DS[1]及びDS[2]に基づいて生成され、画像信号D[2]が、撮像信号DS[2]及びDS[3]に基づいて生成され、画像信号D[3]が、撮像信号DS[3]及びDS[4]に基づいて生成され、画像信号D[4]が、撮像信号DS[4]及びDS[5]に基づいて生成される場合を想定する。また、図13乃至図15に示す例では、線L2及び線L3のクロスは、1回のみ生じる場合を想定する。
一方、図13に示す例は、上述した第1の状態を例示するものであり、線L2が線L3よりも時間的に先行する。つまり、図13に示す例では、画像処理部21による画像信号DGA1[m]の生成が完了したタイミングでは、表示部40において画像信号DGB1[m]の示す画像を表示する準備ができていない。換言すれば、画像処理部21による画像信号DGA1[m]の生成が完了したタイミングでは、出力制御部31から出力許可パルスPL[m]が出力されていない。
このため、画像信号出力部23は、出力許可パルスPL[m]が出力された後の最初の水平走査期間Hd1[m]まで、待機時間UB1[m]だけ画像信号DGB1[m]の出力を待ち、その後、水平走査期間Hd1[m]において画像信号DGB1[m]を出力する。
このため、撮像部10が撮像信号DS1を出力してから、表示部40が画像信号D1の示す画像を表示するまでの遅延時間ΔT1は、画像信号生成部20における画像処理に要する時間(画像処理時間UA)と、画像処理の完了後に表示部40における表示準備を待つための時間(待機時間UB)との合計時間となる。
図14は、撮像信号DS2[p](撮像信号DGS2[m])と、画像信号D2[m](画像信号DGA2[m]及び画像信号DGB2[m])との関係を説明するためのタイミングチャートである。
このため、画像信号出力部23は、時刻Tth以前においては、出力許可パルスPL[m]が出力された後の最初の水平走査期間Hd2[m]まで、待機時間UB2[m]だけ画像信号DGB2[m]の出力を待ち、その後、水平走査期間Hd2[m]において画像信号DGB2[m]を出力する。
図14に示す例では、画像信号出力部23は、画像信号DGA2[1]が生成された後、待機時間UB2[1]だけ画像信号DGB2[1]の出力を待ち、その後、水平走査期間Hd2[1]において、画像信号DGB2[1]を出力する。同様に、画像信号出力部23は、画像信号DGA2[2]が生成された後、待機時間UB2[2]だけ画像信号DGB2[2]の出力を待ち、その後、水平走査期間Hd2[2]において、画像信号DGB2[2]を出力する。
図14に示す例では、画像信号出力部23は、画像信号DGA2[3]が生成され、出力許可パルスPL[3]が出力された後の最初の水平走査期間Hd2[3]において、画像信号DGB2[3]を出力する。
また、この図に示す例では、画像信号DGA2[4]が生成されるのは、水平走査期間Hd2[4]の開始後である。このため、画像信号出力部23は、画像信号DGA2[4]が生成され、出力許可パルスPL[4]が出力された後の最初の水平走査期間Hd2[5]において、画像信号DGB2[4]を出力する。そして、タイミングジェネレータ32は、水平走査期間Hd2[4]を無効水平走査期間Hd-Dとする。
また、撮像部10が撮像信号DS2を出力してから、表示部40が画像信号D2の示す画像を表示するまでの遅延時間ΔT2は、時刻Tth以前は、画像信号生成部20における画像処理に要する時間(画像処理時間UA)と、表示部40における表示準備を待つための時間(待機時間UB)との合計時間であるが、時刻Tth以後において、線L3が線L2よりも時間的に先行する場合には、画像信号生成部20における画像処理に要する時間(画像処理時間UA)のみとなる。このため、第2の状態に係る遅延時間ΔT2は、第1の状態に係る遅延時間ΔT1よりも短くなる。
図15は、撮像信号DS3[p](撮像信号DGS3[m])と、画像信号D3[m](画像信号DGA3[m]及び画像信号DGB3[m])との関係を説明するためのタイミングチャートである。
具体的には、図15に示す例では、画像信号出力部23は、画像信号DGA3[1]が生成され、出力許可パルスPL[1]が出力された後の最初の水平走査期間Hd3[3]において、画像信号DGB3[1]を出力し、画像信号DGA3[2]が生成され、出力許可パルスPL[2]が出力された後の最初の水平走査期間Hd3[5]において、画像信号DGB3[2]を出力し、画像信号DGA3[3]が生成され、出力許可パルスPL[3]が出力された後の最初の水平走査期間Hd3[7]において、画像信号DGB3[3]を出力し、画像信号DGA3[4]が生成され、出力許可パルスPL[4]が出力された後の最初の水平走査期間Hd3[9]において、画像信号DGB3[4]を出力する。なお、この場合、タイミングジェネレータ32は、水平走査期間Hd3[1]、Hd3[2]、Hd3[4]、Hd3[6]、及び、Hd3[8]を、無効水平走査期間Hd-Dとする。
このため、第3の状態では、撮像部10による撮像から表示部40による表示までの遅延を、水平走査期間Hdの精度で最小化することができる。この場合、遅延時間ΔT3は、第1の状態に係る遅延時間ΔT1よりも短くなり、且つ、第2の状態に係る遅延時間ΔT2以下となる。
このため、撮像表示装置1がライブビューモードでの動作を開始すると、ライブビューモードでの動作を開始した直後を除き、撮像部10による撮像から表示部40での画像表示までの遅延時間を最小化した状態を維持することができる。
以上において説明したように、本実施形態に係る撮像表示装置1では、画像信号D[m]の出力タイミングを調整することで、表示部40側の表示タイミングを、画像処理部21における画像処理の完了タイミングに、水平走査期間Hdの精度で追従させる。
以下、このような撮像表示装置1の利点をより明確化するために、図16に示す、対比例に係る撮像表示装置について説明する。
さらに、図16に示す例の場合には、垂直走査期間Fd2で表示した画像(画像信号DGB1の示す画像)を、垂直走査期間Fd3で再度表示させている。この場合、各画像の表示時間が、垂直走査期間Fdの単位で変動するため、画面のちらつきとして視認される可能性が生じる。この結果、表示部40の表示品位が大きく劣化することとなる。また、仮に、垂直走査期間Fd3においていかなる画像も表示しない場合には、画像が表示される垂直走査期間Fdと、画像が表示されない垂直走査期間Fdとが存在することとなるため、これが画面のちらつきとして撮像表示装置1の利用者に視認される惧れがある。
また、本実施形態に係る撮像表示装置1では、垂直有効データ期間DVIに無効水平走査期間Hd-Dを挿入することで、垂直走査期間Fdの時間長を可変とするとともに、垂直走査期間Fsの時間長と略同じとなる状態を維持することができる。このため、表示のちらつき等を抑えた、高品位な表示を実現できる。
また、本実施形態によれば、例えば、画像処理の手法の変更等に伴う画像処理時間の変更がある場合や、ライン毎に画像処理時間UAが変動する場合、撮像部10をフレームレートが異なるものに交換する場合、または、表示部40をフレームレートが異なるものに交換する場合等、撮像部10及び表示部40の位相差、撮像部10のフレームレート、並びに、表示部40で表示可能な最高のフレームレートのうち、一部または全部が変化する場合であっても、位相差PDを画像処理時間UA以下の長さに自動的に収束させることが可能となる。
<B.第2実施形態>
これに対して、第2実施形態に係る撮像表示装置では、水平走査期間Hdの時間長を可変長として、画像信号D[m]の出力タイミングを、例えば表示ドットクロック信号DCLKの周期で調整する点において、第1実施形態に係る撮像表示装置1と相違する。
以下、図17乃至図19を参照しつつ、第2実施形態に係る撮像表示装置について説明する。なお、以下に例示する第2実施形態において作用や機能が第1実施形態と同等である要素については、以上の説明で参照した符号を流用して各々の詳細な説明を適宜に省略する(以下で説明する変形例についても同様)。
第2実施形態に係る撮像表示装置が備えるタイミング制御部30は、タイミングジェネレータ32が、表示水平同期信号DHsyncの代わりに、可変な周期の水平同期パルスPlsHを有する表示水平同期信号DHsync2を生成し、表示垂直同期信号DVsyncの変わりに、可変な周期の垂直同期パルスPlsVを有する表示垂直同期信号DVsync2を生成する点を除き、第1実施形態に係る撮像表示装置1(図6参照)と同様に構成されている。
また、図17に示すように、第2実施形態に係るタイミングジェネレータ32は、出力制御部31が出力する出力制御信号CTRに出力許可パルスPL[m]が設定されたタイミングから、固定の時間長である基準フロントポーチ時間TPの経過後に、表示水平同期信号DHsync2として水平同期パルスPlsHを出力する。
一方、表示準備判定時刻TB[m]までに画像信号D[m]の生成が完了していない場合、すなわち、表示準備判定時刻TB[m]よりも後に画像信号生成時刻TC[m]が到来する場合(Case-2)には、水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPと、表示準備判定時刻TB[m]から画像信号生成時刻TC[m](画像処理判定時刻TA[m])までの時間長である延長フロントポーチ時間TPXとの合計となる。
このため、画像信号出力部23は、たとえ画像処理部21における画像信号D[m]の画像処理が遅延した場合であっても、水平走査期間Hd[m]において画像信号D[m]を出力することが可能となる。この場合、撮像部10が撮像信号DGS[m]を出力してから、表示部40が画像信号D[m]に基づく画像を表示するまでの遅延時間は、表示ドットクロック信号DCLKの精度で最小化されることになる。
一方、この図に示す例では、画像信号DGA2[4]が生成されるタイミングは、水平走査期間Hd2[3]におけるイネーブル信号DEnbの立下りのタイミングよりも後である。このため、画像信号DGA2[4]が生成されるタイミングにおいて、出力許可パルスPL[4]が出力される。この場合、水平走査期間Hd2[3]の水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPと、延長フロントポーチ時間TPX(水平走査期間Hd2[3]におけるイネーブル信号DEnbの立下りのタイミングから、出力許可パルスPL[4]が出力されまでの時間)との、合計の時間長となる。すなわち、表示部40における表示準備がボトルネックとなる表示の遅延が解消される時刻Tth以降は、画像処理の状況に応じて水平走査期間Hdが延長されることになる。
また、第2実施形態では、水平走査期間Hdが例えば表示ドットクロック信号DCLKの単位で可変となるため、垂直走査期間Fdも可変の時間長を有することとなる。
以上の各形態は多様に変形され得る。具体的な変形の態様を以下に例示する。以下の例示から任意に選択された2以上の態様は、相互に矛盾しない範囲内で適宜に併合され得る。なお、以下において説明する変形例では、説明の重複を避けるため、上述した本発明の実施形態との共通点については説明を省略する。
上述した実施形態では、表示部40が液晶パネル42を備える場合を例示したが、本発明はこのような態様に限定されるものではなく、OLED(organic light emitting diode)パネル、プラズマ表示パネル等の表示素子を用いてもよい。
上述した実施形態及び変形例では、画像処理回路100と表示部40との間のデータ伝送をパラレルインタフェースによって行うが、低電圧差動(LVDS)のシリアルインタフェースによって行うようにしてもよい。
上述した実施形態及び変形例では、撮像垂直同期信号SVsyncにより規定される垂直走査期間Fsが、表示垂直同期信号DVsync(またはDVsync2)により規定される垂直走査期間Fd以上の時間長を有しているが、本発明はこのような態様に限定されるものではなく、垂直走査期間Fsは、垂直走査期間Fdよりも短い時間長を有していてもよい。
上述した実施形態及び変形例では、出力制御部31は、画像処理部21が出力する書込完了信号PtAと、画像信号出力部23が出力する出力完了信号PtBと、に基づいて、画像信号D[m]を出力する準備が完了したか否かを判定するが、本発明はこのような態様に限定されるものではなく、出力制御部31がラインバッファ22を周期的に参照することで、ラインバッファ22に画像信号D[m]が記録されていること、及び、ラインバッファ22から画像信号D[m-1]が読み出されたことを判定することにより、画像信号D[m]を出力する準備が完了したか否かを判定してもよい。
上述した実施形態及び変形例では、撮像表示装置1に表示部40が内蔵されているが、本発明はこのような態様に限定されるものではなく、表示部40をデジタルカメラの外部に接続するファインダー(表示装置)等として構成してもよい。
上述した実施形態及び変形例では、ライン毎に画像処理時間UA[m]が変動する場合を例示して説明したが、本発明はこのような態様に限定されるものではなく、画像処理時間UA[m]はライン間で同一であってもよい。
以上の各形態に例示した撮像表示装置1は、各種の電子機器に利用されうる。例えば、撮像表示装置1は、プロジェクター装置、HUD(ヘッドアップディスプレイ)、HMD(ヘッドマウントディスプレイ)等の電子機器(表示装置)等として構成してもよい。また、ライブビューを行う表示装置であれば、例えば電子双眼鏡、電子めがね、電子顕微鏡、医療用電子めがねのファインダ、車載のバックモニタ、車載のサイドミラーのモニタ等にも適用することができ、撮像から表示までの遅延を低減させることができる。くわえて、表示装置の態様においては、撮像部10を必ずしも備えてなくてもよい。すなわち、撮像信号DSが供給される画像処理回路100、及び、表示部40を表示装置として捉えてもよい。
Claims (7)
- 被写体を撮像する撮像部が出力する撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像処理方法であって、
前記撮像部が前記撮像信号を出力してから、前記画像信号を生成するまでの時間を画像処理時間とし、
前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、
前記撮像部のフレームレートを第1フレームレートとし、
前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、
前記位相差が、前記画像処理時間より長い場合には、
前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号を前記表示部に出力することにより、前記位相差を次第に小さくし、
前記位相差が、前記画像処理時間以下となった後は、
前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号を前記表示部に出力する、
ことを特徴とする画像処理方法。 - 前記位相差が前記画像処理時間より長い場合には、
前記画像信号を生成した後、生成した画像信号の示す画像が前記表示部で表示可能となるまで待機して、生成した画像信号を前記表示部に出力する、
ことを特徴とする請求項1に記載の画像処理方法。 - 前記表示部は一定周期で出力される水平同期パルスに同期して動作し、
生成された前記画像信号を前記水平同期パルスに同期して前記表示部に出力し、
前記位相差が前記画像処理時間以下となった後において、前記画像信号を生成する画像信号生成時刻が、前記表示部において前記画像信号の示す画像を表示可能となる表示可能時刻以降となる場合、
前記画像信号生成時刻の後に最初に出力される水平同期パルスに同期して前記画像信号を前記表示部出力する、
ことを特徴とする、請求項1または2に記載の画像処理方法。 - 前記表示部は水平同期パルスに同期して動作し、
生成された前記画像信号を前記水平同期パルスに同期して前記表示部に出力し、
前記位相差が前記画像処理時間以下となった後において、前記画像信号を生成する画像信号生成時刻が、前記表示部において前記画像信号の示す画像を表示可能となる表示可能時刻以降となる場合、
前記画像信号生成時刻までは、前記水平同期パルスの出力を停止するとともに、前記画像信号の出力を停止し、
前記画像信号生成時刻の後は、前記水平同期パルスを出力するとともに、当該出力される水平同期パルスに同期して前記画像信号を出力する、
ことを特徴とする、請求項1または2に記載の画像処理方法。 - 被写体を撮像して撮像信号を出力する撮像部と、
前記撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像信号生成部と、
前記画像信号生成部が前記画像信号を出力するタイミングを制御するタイミング制御部と、
を備え、
前記撮像部が前記撮像信号を出力してから、前記画像信号生成部が前記画像信号を生成するまでの時間を画像処理時間とし、
前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、
前記撮像部のフレームレートを第1フレームレートとし、
前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、
前記タイミング制御部は、
前記位相差が、前記画像処理時間より長い場合において、
前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号生成部に前記画像信号を出力させることにより、前記位相差を次第に小さくする第1のタイミング制御と、
前記位相差が、前記画像処理時間以下となった後において、
前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号生成部に前記画像信号を出力させる第2のタイミング制御と、
を実行可能である、
ことを特徴とする撮像装置。 - 被写体を撮像する撮像部が出力する撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像信号生成部と、
前記画像信号生成部が前記画像信号を出力するタイミングを制御するタイミング制御部と、
を備え、
前記撮像部が前記撮像信号を出力してから、前記画像信号生成部が前記画像信号を生成するまでの時間を画像処理時間とし、
前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、
前記撮像部のフレームレートを第1フレームレートとし、
前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、
前記タイミング制御部は、
前記位相差が、前記画像処理時間より長い場合において、
前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号生成部に前記画像信号を出力させることにより、前記位相差を次第に小さくする第1のタイミング制御と、
前記位相差が、前記画像処理時間以下となった後において、
前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号生成部に前記画像信号を出力させる第2のタイミング制御と、
を実行可能である、
ことを特徴とする画像処理装置。 - 前記表示部と、
請求項5に記載の撮像装置と、
を備える、
ことを特徴とする撮像表示装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014162104A JP6365097B2 (ja) | 2014-08-08 | 2014-08-08 | 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014162104A JP6365097B2 (ja) | 2014-08-08 | 2014-08-08 | 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016039517A JP2016039517A (ja) | 2016-03-22 |
JP6365097B2 true JP6365097B2 (ja) | 2018-08-01 |
Family
ID=55530270
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014162104A Active JP6365097B2 (ja) | 2014-08-08 | 2014-08-08 | 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6365097B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5195818B2 (ja) * | 2010-06-01 | 2013-05-15 | セイコーエプソン株式会社 | 表示制御装置 |
JP6044317B2 (ja) * | 2012-11-21 | 2016-12-14 | セイコーエプソン株式会社 | 撮影装置、撮影装置の制御方法 |
-
2014
- 2014-08-08 JP JP2014162104A patent/JP6365097B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016039517A (ja) | 2016-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6601020B2 (ja) | 撮像表示装置 | |
US8529069B2 (en) | Projection apparatus and control method thereof | |
US10347171B2 (en) | Imaging device including timing generator that generates vertical synchronization signal after number of lines of valid image signal reaches number of valid lines of vertical scanning period | |
RU2570354C2 (ru) | Захват и отображение изображений в реальном времени | |
KR20080064719A (ko) | 화상 표시 제어 장치 | |
JP6515455B2 (ja) | 撮像装置及び撮像表示装置 | |
US10044912B2 (en) | Imaging device and image processing device for outputting image signal to be displayed, and display control device and imaging display apparatus for displaying image signal | |
US9658815B2 (en) | Display processing device and imaging apparatus | |
JP6565326B2 (ja) | 撮像表示装置及びその制御方法 | |
JP6645047B2 (ja) | 撮像装置、画像処理装置、及び、撮像表示装置 | |
JP6365097B2 (ja) | 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 | |
JP2008270937A (ja) | 画像処理コントローラ、電子機器及び画像処理方法 | |
CN112929512B (zh) | 控制电路及其控制方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170719 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180528 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180605 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180618 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6365097 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |