JP6365097B2 - 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 - Google Patents

画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 Download PDF

Info

Publication number
JP6365097B2
JP6365097B2 JP2014162104A JP2014162104A JP6365097B2 JP 6365097 B2 JP6365097 B2 JP 6365097B2 JP 2014162104 A JP2014162104 A JP 2014162104A JP 2014162104 A JP2014162104 A JP 2014162104A JP 6365097 B2 JP6365097 B2 JP 6365097B2
Authority
JP
Japan
Prior art keywords
image signal
image
output
signal
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014162104A
Other languages
English (en)
Other versions
JP2016039517A (ja
Inventor
塩原 隆一
隆一 塩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2014162104A priority Critical patent/JP6365097B2/ja
Publication of JP2016039517A publication Critical patent/JP2016039517A/ja
Application granted granted Critical
Publication of JP6365097B2 publication Critical patent/JP6365097B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置に関する。
いわゆるミラーレス一眼のデジタルカメラでは、CCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等のイメージセンサで撮像した画像信号に応じた画像をリアルタイムで筐体裏面に設けられた液晶パネルや筐体上部に取り付けられた電子ビューファインダー(以下、EVF[Electronic View Finder]と称する)等に表示するいわゆるライブビュー動作により、被写体の画像を確認することができるようになっている(例えば、特許文献1)。
特開2014−11729号公報
しかしながら、このライブビュー動作では、イメージセンサで被写体を撮像してからビューファインダー等に画像が表示されるまでに顕著な遅延が生じている。このため、動きのある被写体にカメラを向けて追従させることが困難になる。さらに、表示されている被写体の画像に基づいて静止画像の撮像を指示すると、表示されていた被写体の画像と実際に撮像される静止画の画像とにタイミングのずれが生じ、特に動きの早い被写体の場合には、意図した静止画を撮像することが困難になる。
本発明は、上述した事情に鑑みてなされたものであり、撮像から表示までの遅延時間を短縮することを解決課題の一つとする。
以上の課題を解決するために、本発明に係る画像処理方法は、被写体を撮像する撮像部が出力する撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記撮像部よりも高いフレームレートで画像表示が可能な表示部に出力する画像処理方法であって、前記撮像部が前記撮像信号を出力してから、前記画像信号を生成するまでの時間を画像処理時間とし、前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、前記撮像部のフレームレートを第1フレームレートとし、前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、前記位相差が、前記画像処理時間より長い場合には、前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号を前記表示部に出力することにより、前記位相差を次第に小さくし、前記位相差が、前記画像処理時間以下となった後は、前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号を前記表示部に出力する、ことを特徴とする。
この発明によれば、撮像信号のフレームの開始から画像信号のフレームの開始までの時間である位相差が、画像処理時間よりも長い場合には、撮像部よりも高いフレームレートである第2フレームレートで画像信号を出力することで、表示部のフレーム期間と撮像部のフレーム期間との差分に相当する期間ずつ位相差を縮小する。そして、位相差が画像処理時間以下となった後は、表示部のフレームレートが撮像部のフレームレートである第1フレームレートとなるようにすることで、画像信号を撮像信号に同期するように出力する。
このため、本発明によれば、位相差が、画像処理時間よりも大きい場合において、位相差を画像処理時間以下となるまで段階的に短くすることができ、位相差が画像処理時間以下に収束した後は当該位相差を維持することができるため、位相差を画像処理時間以下となるまで段階的に短くしない場合と比較して、撮像から表示までの遅延時間を短縮することができる。
これにより、例えば、画像処理の手法の変更等に伴う画像処理時間の変更がある場合や、ライン毎に画像処理時間が変動する場合、表示部をフレームレートが異なるものに交換する場合、または、撮像部をフレームレートが異なるものに交換する場合等、撮像部及び表示部の位相差、撮像部のフレームレート、並びに、表示部で表示可能な最高のフレームレートのうち、一部または全部が変化する場合であっても、位相差を画像処理時間以下の長さに自動的に収束させることが可能となる。
なお、画像処理時間が、表示部のライン毎に変動する場合には、例えば、当該変動する時間のうち最大の時間を、画像処理時間と看做してもよい。
また、上述した画像処理方法において、前記位相差が前記画像処理時間より長い場合には、前記画像信号を生成した後、生成した画像信号の示す画像が前記表示部で表示可能となるまで待機して、生成した画像信号を前記表示部に出力する、ことを特徴としてもよい。
この態様によれば、表示部が画像信号の示す画像を表示可能となるまで待機することで、表示部のフレームレートが第2フレームレートとなるように画像信号を出力するため、撮像部及び表示部の位相差を、段階的に短縮することができる。
また、上述した画像処理方法において、前記表示部は一定周期で出力される水平同期パルスに同期して動作し、生成された前記画像信号を前記水平同期パルスに同期して前記表示部に出力し、前記位相差が前記画像処理時間以下となった後において、前記画像信号を生成する画像信号生成時刻が、前記表示部において前記画像信号の示す画像を表示可能となる表示可能時刻以降となる場合、前記画像信号生成時刻の後に最初に出力される水平同期パルスに同期して前記画像信号を前記表示部出力する、ことを特徴としてもよい。
この態様によれば、画像信号の生成から出力までの間隔を、水平同期パルスにより定められる水平走査期間以下とすることができる。つまり、水平同期パルスにより定められる水平走査期間の精度で、各ラインの画像信号の出力タイミングを制御することができる。このため、画像信号の生成に要する画像処理時間がライン毎に変動する場合であっても、ライン毎の画像処理時間に応じたタイミングで、各ラインの画像信号を表示部に対して出力することが可能となる。
また、上述した画像処理方法において、前記表示部は水平同期パルスに同期して動作し、生成された前記画像信号を前記水平同期パルスに同期して前記表示部に出力し、前記位相差が前記画像処理時間以下となった後において、前記画像信号を生成する画像信号生成時刻が、前記表示部において前記画像信号の示す画像を表示可能となる表示可能時刻以降となる場合、前記画像信号生成時刻までは、前記水平同期パルスの出力を停止するとともに、前記画像信号の出力を停止し、前記画像信号生成時刻の後は、前記水平同期パルスを出力するとともに、当該出力される水平同期パルスに同期して前記画像信号を出力する、ことを特徴としてもよい。
この態様によれば、水平同期パルスにより定められる水平走査期間の時間長が、各ラインの画像信号の出力が可能となるタイミングに応じて定められる。このため、画像信号の生成に要する画像処理時間がライン毎に変動する場合であっても、ライン毎の画像処理時間に応じたタイミングで、各ラインの画像信号を表示部に対して出力することが可能となる。
また、本発明に係る撮像装置は、被写体を撮像して撮像信号を出力する撮像部と、前記撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像信号生成部と、前記画像信号生成部が前記画像信号を出力するタイミングを制御するタイミング制御部と、を備え、前記撮像部が前記撮像信号を出力してから、前記画像信号生成部が前記画像信号を生成するまでの時間を画像処理時間とし、前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、前記撮像部のフレームレートを第1フレームレートとし、前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、前記タイミング制御部は、前記位相差が、前記画像処理時間より長い場合において、前記表示部のフレームレートが前記第2フレームレートとなるように、前記画像信号生成部に前記画像信号を出力させることにより、前記位相差を次第に小さくする第1のタイミング制御と、前記位相差が、前記画像処理時間以下となった後において、前記表示部のフレームレートが前記第1フレームレートとなるように、前記画像信号生成部に前記画像信号を出力させる第2のタイミング制御と、を実行可能である、ことを特徴とする。
この発明によれば、位相差が、画像処理時間よりも大きい場合において、位相差を画像処理時間以下となるまで段階的に短くすることができ、位相差が画像処理時間以下に収束した後は当該位相差を維持することができる。
また、本発明に係る画像処理装置は、被写体を撮像する撮像部が出力する撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像信号生成部と、前記画像信号生成部が前記画像信号を出力するタイミングを制御するタイミング制御部と、を備え、前記撮像部が前記撮像信号を出力してから、前記画像信号生成部が前記画像信号を生成するまでの時間を画像処理時間とし、前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、前記撮像部のフレームレートを第1フレームレートとし、前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、前記タイミング制御部は、前記位相差が、前記画像処理時間より長い場合において、前記表示部のフレームレートが前記第2フレームレートとなるように、前記画像信号生成部に前記画像信号を出力させることにより、前記位相差を次第に小さくする第1のタイミング制御と、前記位相差が、前記画像処理時間以下となった後において、前記表示部のフレームレートが前記第1フレームレートとなるように、前記画像信号生成部に前記画像信号を出力させる第2のタイミング制御と、を実行可能である、ことを特徴とする。
この発明によれば、位相差が、画像処理時間よりも大きい場合において、位相差を画像処理時間以下となるまで段階的に短くすることができ、位相差が画像処理時間以下に収束した後は当該位相差を維持することができる。
また、本発明に係る撮像表示装置は、上述した表示部と、上述した撮像装置と、を備える、ことを特徴とする。
本発明の第1実施形態に係る撮像表示装置1の構成を示すブロック図である。 有効イメージセンサ領域ASと表示領域ADとの関係を説明するための説明図である。 撮像表示装置1の動作を説明するためのタイミングチャートである。 撮像表示装置1の動作を説明するためのタイミングチャートである。 表示領域ADを説明するための説明図である。 撮像表示装置1の動作を説明するためのタイミングチャートである。 撮像表示装置1の動作を説明するためのタイミングチャートである。 表示部40の構成を示すブロック図である。 画像処理部21の構成を示すブロック図である。 間引き処理を説明するための説明図である。 歪曲補正処理を説明するための説明図である。 撮像表示装置1の動作を説明するためのタイミングチャートである。 撮像表示装置1の動作を説明するためのタイミングチャートである。 撮像表示装置1の動作を説明するためのタイミングチャートである。 撮像表示装置1の動作を説明するためのタイミングチャートである。 対比例に係る撮像表示装置の動作を説明するためのタイミングチャートである。 本発明の第2実施形態に係る撮像表示装置の動作を説明するためのタイミングチャートである。 第2実施形態に係る撮像表示装置の動作を説明するためのタイミングチャートである。 第2実施形態に係る撮像表示装置の動作を説明するためのタイミングチャートである。
本発明を実施するための形態について図面を参照して説明する。ただし、各図において、各部の寸法及び縮尺は、実際のものと適宜に異ならせてある。また、以下に述べる実施の形態は、本発明の好適な具体例であるから、技術的に好ましい種々の限定が付されているが、本発明の範囲は、以下の説明において特に本発明を限定する旨の記載がない限り、これらの形態に限られるものではない。
<A.第1実施形態>
以下、本発明の第1実施形態に係る撮像表示装置1について説明する。
<1.撮像表示装置の構成>
図1は、撮像表示装置1の機能を示すブロック図である。
図1に示すように、撮像表示装置1は、被写体を撮像し、撮像して得たデータを撮像信号DSとして出力する撮像部10と、撮像信号DSに対して画像処理を施して画像信号Dを生成する画像処理回路100と、画像信号Dに応じた画像を表示する表示部40と、撮像表示装置1の設定の変更、撮像の指示等を入力するための操作部60と、撮像表示装置1全体の動作を制御するCPU50と、を備える。
この撮像表示装置1は、いわゆるミラーレスデジタルカメラであり、撮像表示装置1の利用者による操作部60の操作により、撮像部10で撮像した被写体に係る画像をほぼリアルタイムで表示部40に表示するライブビューモードによる動作と、撮像部10で撮像した被写体に係る画像を静止画格納用のメモリに静止画として格納する撮像モードによる動作と、を選択可能となっている。
なお、撮像表示装置1から表示部40を除いた、撮像部10、画像処理回路100、操作部60、及び、CPU50は「撮像装置」の一例である。
撮像部10は、被写体の像を結像させる撮像光学系11と、マトリックス状に配列された受光素子(撮像素子)からの信号を線順次に走査して被写体の像に応じた撮像信号DSを出力するイメージセンサ12と、イメージセンサ12に対して各種のタイミング信号を出力するタイミングジェネレータ13と、を備える。
図2(A)に示すように、イメージセンサ12は、有効イメージセンサ領域ASにおいて、複数の受光素子がX軸方向(水平方向)にQS列、X軸方向に交差するY軸方向(垂直方向)にPS行(PSライン)となるようにマトリックス状に配列されている(PSびQSは、2以上の自然数)。換言すれば、有効イメージセンサ領域ASには、X軸方向に配列されたQS個の受光素子からなるラインが、Y軸方向にPS行並ぶように構成されている。各受光素子は、検出した光量に応じた画素データ信号Sigを生成する。
また、各受光素子に1対1に対応するように、赤色、緑色、または、青色のうちいずれか1色のカラーフィルターが設けられている。以下では、1つの受光素子と、当該1つの受光素子に対応して設けられるカラーフィルターとの組を、イメージセンサ12の画素と称することがある。
イメージセンサ12は、撮像表示装置1が撮像モードで動作する場合、有効イメージセンサ領域ASに設けられたPS行×QS列の受光素子から出力される画素データ信号Sigの全部を静止画用撮像データとして出力することができる。そして、静止画用撮像データが出力されると、後述する画像処理部21が、当該静止画用撮像データに対してフィルタ処理等の各種画像処理を施して静止画データを生成し、生成した静止画データを静止画格納用のメモリに格納する。
一方、イメージセンサ12は、撮像表示装置1がライブビューモードで動作する場合、PS行×QS列の受光素子が出力する画素データ信号Sigに対して間引き処理を施すことで画素データ信号Sigのデータサイズを小さくして、図2(B)に示すようなP行×Q列の画素に対応する撮像信号DSとして出力する(Pは、2≦P≦PSを満たす自然数。Qは、2≦Q≦QSを満たす自然数)。
なお、イメージセンサ12は、有効イメージセンサ領域AS以外の領域に画素を備えるものであってもよいが、本明細書では簡単のために有効イメージセンサ領域ASの画素についての説明は省略する。
タイミングジェネレータ13は、撮像垂直同期信号SVsync、撮像水平同期信号SHsync、及び、撮像ドットクロック信号SCLKを生成し、これら生成した信号をイメージセンサ12と、画像処理回路100とに対して出力する。
図3は、タイミングジェネレータ13が生成する、撮像垂直同期信号SVsync、撮像水平同期信号SHsync、及び、撮像ドットクロック信号SCLKを説明するためのタイミングチャートである。撮像垂直同期信号SVsyncは、イメージセンサ12の有効イメージセンサ領域AS全体(PSライン分)の受光素子から画素データ信号Sigを読み出すための垂直走査期間Fs(すなわち、撮像部10のフレーム期間)を規定する信号である。なお、撮像部10のフレームレート、すなわち、「1/Fs」を、「第1フレームレート」と称する場合がある。撮像水平同期信号SHsyncは、有効イメージセンサ領域ASの1ライン分の受光素子から画素データ信号Sigを読み出すための水平走査期間Hsを規定する信号である。撮像ドットクロック信号SCLKは、有効イメージセンサ領域ASの1画素分の受光素子から画素データ信号Sigを読み出すためのタイミングを規定する信号である。
垂直走査期間Fsの時間長は一定(固定長)であり、水平走査期間Hsの時間長も一定(固定長)である。また、垂直走査期間Fsは、複数の水平走査期間Hsから構成される。
説明を図1に戻す。
表示部40は、撮像対象となる被写体を示す画像を表示して撮像表示装置1の利用者に被写体の様子を把握させるためのEVF(Electronic View Finder)であり、画像処理回路100が生成した画像信号Dに応じた画像を表示するための液晶パネル42と、液晶パネル42の動作を制御するEVFコントローラ41と、を備える。
図2(C)に示すように、液晶パネル42には、表示領域ADにおいて、複数の画素がX軸方向にN列、Y軸方向にM行(Mライン)となるようにマトリックス状に配列されている(Mは、2≦M≦Pを満たす自然数。Nは、2≦N≦Qを満たす自然数)。換言すれば、表示領域ADは、X軸方向に配列されたN個の画素からなるラインが、Y軸方向にM行並ぶように構成されている。これらM行×N列の画素は、赤色を表示するための画素、緑色を表示するための画素、及び、青色を表示するための画素を含む。当該表示領域ADには、画像処理回路100が生成する画像信号Dに応じた画像が表示される。
上述のとおり、M≦Pであり、N≦Qである。つまり、有効イメージセンサ領域ASに設けられた有効画素数と、表示領域ADに設けられた画素数は、異なる場合がある。
なお、図2(A)〜(C)に示す座標系は、それぞれ、有効イメージセンサ領域ASに固定された座標系、撮像信号DSを表すための概念上の座標系、及び、表示領域ADに固定された座標系であり、これら3つの座標系の各軸の向きは互いに相違するものであってもよい。
表示部40の表示領域ADが1画面分の画像を表示可能な時間長は、撮像部10が1画面分の画像を撮像可能な時間長よりも短い。このため、液晶パネル42が表示可能な周期で画像を表示しようとする場合、撮像部10からの撮像信号DSの出力が追いつかない。そこで、本実施形態に係る撮像表示装置1では、画像処理回路100により、画像処理回路100からの画像信号Dの出力タイミングを調整することで、表示部40の表示速度を、撮像部10からの撮像信号DSの出力周期に追従させる。
図1に示すように、画像処理回路100は、撮像信号DSに基づいて画像信号Dを生成し、生成した画像信号Dを表示部40に対して出力する画像信号生成部20と、画像信号生成部20が画像信号Dを出力するタイミングを制御するタイミング制御部30と、を備える。
画像信号生成部20は、撮像信号DSに対して画像処理を施して画像信号Dを生成する画像処理部21と、画像処理部21が生成した画像信号Dを一時的に記憶するVRAM/ラインバッファ22(以下、「ラインバッファ22」と称する)と、ラインバッファ22から画像信号Dを取得して、取得した画像信号Dを表示部40に対して出力する画像信号出力部23と、を備える。
画像信号Dは、液晶パネル42の表示領域ADに設けられるM行×N列の画素のそれぞれが表示すべき画像(階調)を規定する信号である。以下では、表示領域ADで表示すべき画像を示す画像信号Dのうち、表示領域ADの第m行のラインで表示すべき画像を示す1ライン分の画像信号Dを、画像信号D[m]と表記する(mは、1≦m≦Mを満たす自然数)。
画像処理部21は、液晶パネル42の表示領域ADで表示すべき画像を示す画像信号Dを、1ライン分の画素で表示すべき画像毎に生成する。より具体的には、画像処理部21は、画像信号D[1]、画像信号D[2]、…、画像信号D[M]の順番で、画像信号Dを生成する。なお、画像処理部21が実行する画像処理の詳細については後述する。
また、画像処理部21は、画像信号D[m]を生成すると、生成した画像信号D[m]をラインバッファ22に格納するとともに、画像信号D[m]のラインバッファ22への格納が完了したことを示す書込完了信号PtAを、タイミング制御部30に対して出力する。
本実施形態において、書込完了信号PtAは、画像処理部21によるラインバッファ22への書込が完了した画像信号Dに対応するラインの番号mを示す信号である。以下では、書込完了信号PtAの示すラインの番号mを、特に「ライン番号ma」と称する(maは、1≦ma≦Mを満たす自然数)。書込完了信号PtAの示す値であるライン番号maは、画像処理が完了したラインを表す「画像処理ライン情報」の一例である。
なお、書込完了信号PtAは、ラインの番号を示す信号に限定されるものではなく、画像処理部21による画像信号D[m]の生成が完了した場合にハイレベルに立ち上がるようなパルス波形を含む2値の信号であってもよい。書込完了信号PtAが2値の信号である場合、タイミング制御部30は、例えば、一の画面の表示が開始された後に書込完了信号PtAに含まれるパルスの個数をカウントすることで、画像処理部21により生成が完了した画像信号D[m]のライン番号を演算すればよい。この場合は、書込完了信号PtAに含まれるパルス波形(または、パルス波形の個数)が、「画像処理ライン情報」に該当することになる。
画像信号出力部23は、タイミング制御部30の制御に応じて、ラインバッファ22から1ライン毎に画像信号Dを読み出し、読み出した1ライン分の画像信号D[m]を表示部40に対して出力する。
なお、以下では、説明の都合上区別が必要な場合には、画像処理部21が生成してラインバッファ22に格納する画像信号Dを画像信号DGAと称し、画像信号出力部23がラインバッファ22から取得して表示部40に出力する画像信号Dを画像信号DGBと称する。また、画像処理部21がラインバッファ22に格納する画像信号DGAのうち、表示領域ADの第m行のラインで表示すべき画像を示す画像信号DGAを画像信号DGA[m]と称し、画像信号出力部23が表示部40に出力する画像信号DGBのうち、表示領域ADの第m行のラインで表示すべき画像を示す画像信号DGBを画像信号DGB[m]と称する。
画像信号出力部23は、ラインバッファ22から画像信号DGB[m]を読み出して当該画像信号DGB[m]を表示部40に出力する処理が完了した場合、画像信号DGB[m]の表示部40への出力が完了したことを示す出力完了信号PtBを、タイミング制御部30に対して出力する。本実施形態において、出力完了信号PtBは、画像信号出力部23による表示部40への出力が完了した画像信号Dに対応するラインの番号mを示す信号である。以下では、出力完了信号PtBの示すラインの番号mを、特に「ライン番号mb」と称する(mbは、1≦mb≦Mを満たす自然数)。出力完了信号PtBの示す値であるライン番号mbは、表示部40に対する出力が完了した画像信号D[m]のラインを示す「表示出力ライン情報」の一例である。
詳細は後述するが、画像信号出力部23は、表示部40に対して、画像信号DGB[m]を出力する代わりに、無効信号Dmyを出力する場合がある(図4参照)。この場合は、画像信号出力部23は、出力完了信号PtBを出力しない。
なお、出力完了信号PtBは、ラインの番号を示す信号に限定されるものではなく、画像信号出力部23による画像信号D[m]の出力が完了した場合にハイレベルに立ち上がるようなパルス波形を含む2値の信号であってもよい。
図1に示すように、タイミング制御部30は、書込完了信号PtA及び出力完了信号PtBに基づいて出力制御信号CTRを生成する出力制御部31と、各種のタイミング信号を生成して画像信号出力部23が画像信号DGB[m]を出力するタイミングを制御するタイミングジェネレータ32と、EVFコントローラ41の動作を規定する設定パラメーターPRMをEVFコントローラ41に対して送信するパラメーター送信部33と、を備える。
出力制御部31は、書込完了信号PtA及び出力完了信号PtBに基づいて、画像信号出力部23が表示部40に対して表示領域ADの第m行で表示すべき画像を示す画像信号D[m](画像信号DGB[m])を出力する準備が完了したか否かを判定し、判定結果を示す出力制御信号CTRを生成する。
ここで、「画像信号D[m](画像信号DGB[m])を出力する準備が完了した」とは、以下の第1条件及び第2条件を充足したことをいう。
(第1条件) 画像処理部21が、第m行の画像信号D[m](画像信号DGA[m])の画像処理を完了していること。
(第2条件) 画像信号出力部23が、第m-1行の画像信号D[m-1](画像信号DGB[m-1])の出力を完了したこと。
第1条件は、書込完了信号PtAの示すライン番号maがライン番号m以上である場合、つまり、「m≦ma」を満たす場合に充足される。第2条件は、出力完了信号PtBの示すライン番号mbが「mb=m-1」を満たす場合に充足される(厳密には、「m=1」の場合には、「mb=M」を満たす場合に充足される)。
本明細書では、出力制御部31が判定の対象とする画像信号D[m]が示す画像を表示する表示領域ADのラインを、「表示対象ライン」と称する場合がある。
なお、厳密には、画像信号出力部23が画像信号DGB[m]を出力するためには、以下の第3条件が充足される必要がある。
(第3条件) 画像信号出力部23が第m行の画像信号D[m](画像信号DGB[m])を出力するタイミングが、表示領域ADが画像を表示可能な期間(図4で後述する水平有効データ期間DHI)に含まれること。
しかし、上述した第1条件及び第2条件が充足されている場合、画像信号出力部23からの画像信号DGB[m]の出力タイミングをタイミングジェネレータ32が制御することにより第3条件は必然的に充足される。このため、本実施形態では、出力制御部31における判定において第3条件を考慮しない。
出力制御部31は、「画像信号D[m](画像信号DGB[m])を出力する準備が完了した」か否かの判定を、例えば、以下の2つの態様により実行することができる。
「画像信号D[m](画像信号DGB[m])を出力する準備が完了した」か否かの判定の第1の態様としては、第1条件が充足されているか否かの判定(第1の判定)と、第2条件が充足されているか否かの判定(第2の判定)の2つの判定を、出力制御部31が直接に実行する態様である。
具体的には、出力制御部31は、画像処理部21が書込完了信号PtAを出力すると、書込完了信号PtAの示すライン番号maが「m≦ma」を満たすか否かを判定し(第1の判定を実行し)、画像信号出力部23が出力完了信号PtBを出力すると、出力完了信号PtBの示すライン番号mbが「mb=m-1」を満たすか否かを判定し(第2の判定を実行し)、第1の判定の判定結果と、第2の判定の判定結果の両方が肯定である場合に、「画像信号D[m]を出力する準備が完了した」と判定する。
この場合、出力制御部31は、第1の判定を実行することにより、表示対象ラインで表示すべき画像に対応する画像信号を生成したか否かを判定する「処理状況判定部」として機能し、第2の判定を実行することにより、表示対象ラインにおける画像の表示が可能であるか否かを判定する「表示判定部」として機能する。
なお、出力制御部31は、第1の判定の判定結果、または、第2の判定の判定結果が否定である場合、第1の判定の判定結果と、第2の判定の判定結果の両方が肯定となるまで、第1の判定及び第2の判定を繰り返す。具体的には、出力制御部31は、例えば、第1の判定及び第2の判定の両方の判定結果が肯定となるまで、画像処理部21から書込完了信号PtAが出力される毎に第1の判定を実行し、また、画像信号出力部23から出力完了信号PtBが出力される毎に第2の判定を実行すればよい。また、例えば、出力制御部31は、第1の判定及び第2の判定の両方の判定結果が肯定となるまで、後述する水平走査期間Hdの周期で、第1の判定及び第2の判定を繰り返してもよい。そして、第1の判定の判定結果と、第2の判定の判定結果の両方が肯定となったときに、出力制御信号CTRを、判定結果が肯定であることを示す値に設定する。
次に、「画像信号D[m](画像信号DGB[m])を出力する準備が完了した」か否かの判定の第2の態様としては、出力制御部31が前回の判定(画像信号D[m-1]を出力する準備が完了したか否かの判定)の結果が肯定となった後であって、画像信号出力部23が出力完了信号PtBを出力したタイミングで、第1条件が充足されているか否かの判定(第1の判定)を実行する態様である。
この態様において、出力制御部31は、第1の判定の判定結果が否定である場合、第1の判定の判定結果が肯定となるまで第1の判定を繰り返し、第1の判定の判定結果が肯定となったときに、出力制御信号CTRを、判定結果が肯定であることを示す値に設定する。具体的には、出力制御部31は、例えば、出力完了信号PtBが出力されたタイミングで第1の判定の判定結果が否定である場合には、その後、画像処理部21が書込完了信号PtAを出力する毎に、当該書込完了信号PtAの示すライン番号maが「m≦ma」を満たすか否かを判定し、「m≦ma」を満たしたときに、第1条件が充足されたと判定すればよい。
上述のとおり、画像処理部21は、ライン番号順に画像信号D[m](画像信号DGA[m])を生成し、画像信号出力部23は、ライン番号順に画像信号D[m](画像信号DGB[m])を出力する。そして、本実施形態では、第m-2行の画像信号D[m-2]の出力が完了し、出力制御部31が「画像信号D[m-1]を出力する準備が完了した」と判定した後に、画像信号出力部23が画像信号D[m-1]を出力する。よって、出力制御部31が「画像信号D[m](画像信号DGB[m])を出力する準備が完了した」か否かの判定を行うタイミングは、画像信号出力部23から画像信号D[m-2](画像信号DGB[m-2])が出力された後のタイミングであって、且つ、出力制御部31が「画像信号D[m-1](画像信号DGB[m-1])を出力する準備が完了した」と判定した後のタイミングである。つまり、出力制御部31が、「画像信号D[m]を出力する準備が完了した」か否かの第1の判定を行うタイミングにおいて、画像信号出力部23が出力する出力完了信号PtBの示すライン番号mbは「m-1」となる。
このため、第2の態様において、出力制御部31は、画像信号出力部23からの出力完了信号PtBの出力をもって第2条件が充足されたと見做す。そして、出力制御部31は、画像信号出力部23から出力完了信号PtBが出力されたタイミングにおいて第1条件が充足されているか否かの判定(第1の判定)を実行することで、「画像信号D[m](画像信号DGB[m])の出力準備が完了した」か否かの判定を行う。
本実施形態では、上述した2つの態様のうち、第2の態様を採用することを前提として、以下の説明を行う。
タイミングジェネレータ32は、表示垂直同期信号DVsync、垂直有効データ信号DVactive、表示水平同期信号DHsync、表示ドットクロック信号DCLK、及び、イネーブル信号DEnbを生成し、生成したこれらの信号を、画像信号出力部23及び表示部40に対して出力する。
図4は、タイミングジェネレータ32が生成する、表示垂直同期信号DVsync、垂直有効データ信号DVactive、表示水平同期信号DHsync、表示ドットクロック信号DCLK、及び、イネーブル信号DEnbを説明するためのタイミングチャートである。
図4(A)及び(B)に示すように、表示垂直同期信号DVsyncは、液晶パネル42の表示領域AD全体(Mライン分)の画素で画像を表示するための垂直走査期間Fd(すなわち、表示部40のフレーム期間)を規定する信号である。表示水平同期信号DHsyncは、表示領域ADの1ライン分の画素で画像を表示すための水平走査期間Hdを規定する信号である。表示ドットクロック信号DCLKは、表示領域ADの各画素で画像を表示するためのタイミングを規定する信号である。
本実施形態において、水平走査期間Hdは、予め定められた一定の時間長を有している。また、本実施形態において、垂直走査期間Fdは、複数の水平走査期間Hdから構成されており、垂直走査期間Fsの時間長以下の可変な時間長を有する。すなわち、各垂直走査期間Fdに含まれる水平走査期間Hdの個数は可変である。図4(A)に示す例では、図4(A)に示す複数の垂直走査期間Fdのうち、最初の垂直走査期間Fdである垂直走査期間Fd1は、垂直走査期間Fd1に後続する垂直走査期間Fd2よりも短く、垂直走査期間Fd2は、垂直走査期間Fd2に後続する垂直走査期間Fd3よりも短い場合を例示している。
なお、表示垂直同期信号DVsyncの有する波形のうち、垂直走査期間Fdの開始及び終了のタイミングを規定するパルス状の波形を、垂直同期パルスPlsVと称する。また、表示水平同期信号DHsyncの有する波形のうち、水平走査期間Hdの開始及び終了のタイミングを規定するパルス状の波形を、水平同期パルスPlsHと称する。
図4(B)に示すように、垂直走査期間Fdは、垂直同期期間DVpと、垂直バックポーチ期間DVbと、垂直有効データ期間DVIと、垂直フロントポーチ期間DVfと、からなる。
垂直同期期間DVpは、表示垂直同期信号DVsyncがアクティブ(この図の例ではローレベル)である期間であり、垂直走査期間Fdが開始されるのと同時に開始される、予め定められた時間長を有する期間である。垂直バックポーチ期間DVbは、垂直同期期間DVpに後続する期間であり、予め定められた時間長を有する期間である。垂直有効データ期間DVIは、垂直バックポーチ期間DVbに後続する、可変な時間長の期間である。当該垂直有効データ期間DVIにおいて、画像信号出力部23から画像信号DGB(画像信号DGB[1]〜DGB[M])が出力される。垂直フロントポーチ期間DVfは、垂直有効データ期間DVIに後続する期間であり、垂直走査期間Fdの終了と同時に終了する、予め定められた時間長を有する期間である。
垂直有効データ期間DVIは、各垂直走査期間Fdにおいてイネーブル信号DEnbが最初にアクティブとなる水平走査期間Hdの開始からイネーブル信号DEnbがM回目にアクティブとなる水平走査期間Hdの終了までの期間である(イネーブル信号DEnbがアクティブとなる場合については、後述する)。
当該垂直有効データ期間DVIは、例えば、イネーブル信号DEnbがアクティブとなる回数をカウントするカウンタ(図示省略)が出力するカウント値に基づいて定めればよい。但し、本実施形態では、説明の便宜上、各垂直走査期間Fdにおいてイネーブル信号DEnbが最初にアクティブとなる水平走査期間Hdの開始からイネーブル信号DEnbがM回目にアクティブとなる水平走査期間Hdの終了までの期間においてアクティブ(この図の例ではハイレベル)となる垂直有効データ信号DVactiveを導入する。すなわち、本実施形態では、垂直有効データ信号DVactiveがアクティブである期間を垂直有効データ期間DVIとして説明する。なお、この垂直有効データ信号DVactiveは、説明の便宜上導入した信号であり、出力制御部31は、この垂直有効データ信号DVactiveを出力しないものであってもよい。
図4(C)及び(D)に示すように、水平走査期間Hdは、水平同期期間DHpと、水平バックポーチ期間DHbと、水平有効データ期間DHIと、水平フロントポーチ期間DHfと、からなる。
水平同期期間DHpは、表示水平同期信号DHsyncがアクティブ(この図の例ではローレベル)である期間であり、水平走査期間Hdが開始されるのと同時に開始される、予め定められた時間長を有する期間である。水平バックポーチ期間DHbは、水平同期期間DHpに後続する期間であり、予め定められた時間長を有する期間である。水平有効データ期間DHIは、水平バックポーチ期間DHbに後続する、予め定められた時間長を有する期間である。水平フロントポーチ期間DHfは、水平有効データ期間DHIに後続する期間であり、水平走査期間Hdの終了と同時に終了する、予め定められた時間長を有する期間である。
本実施形態では、水平走査期間Hdには、画像信号出力部23が画像信号D[m]を出力するための有効水平走査期間Hd-A(図4(C)参照)と、画像信号D[m]を出力する代わりに無効信号Dmy[m]を出力する無効水平走査期間Hd-D(図4(D)参照)と、が存在する。
図4(C)は、水平走査期間Hdが有効水平走査期間Hd-Aである場合を例示している。この図に示すように、イネーブル信号DEnbは、水平走査期間Hdが有効水平走査期間Hd-Aである場合には、水平有効データ期間DHIにおいてアクティブ(この図の例ではハイレベル)となる。そして、イネーブル信号DEnbがアクティブとなる水平有効データ期間DHIにおいて、画像信号出力部23から画像信号D[m](画像信号DGB[m])が出力される。一方、イネーブル信号DEnbは、有効水平走査期間Hd-Aのうち、水平有効データ期間DHI以外の期間(水平同期期間DHp、水平バックポーチ期間DHb、水平フロントポーチ期間DHf)において、非アクティブとなる。画像信号出力部23は、有効水平走査期間Hd-Aのうち、イネーブル信号DEnbが非アクティブとなる、水平有効データ期間DHI以外の期間において、画像信号D[m](画像信号DGB[m])の出力を停止して、無効ライン信号DGB-dmyを出力する。
上述した第3条件は、タイミングジェネレータ32が水平有効データ期間DHIにおいてイネーブル信号DEnbをアクティブとすることで充足される。すなわち、出力制御部31及びタイミングジェネレータ32を備えるタイミング制御部30は、上述した第1条件〜第3条件の全てが充足されたタイミングで、表示対象ラインに対応する画像信号D[m](画像信号DGB[m])を画像信号出力部23から出力させる。
図4(D)は、水平走査期間Hdが無効水平走査期間Hd-Dである場合を例示している。この図に示すように、イネーブル信号DEnbは、水平走査期間Hdが無効水平走査期間Hd-Dである場合には、水平有効データ期間DHIにおいて非アクティブとなる。そして、画像信号出力部23は、無効水平走査期間Hd-Dのうち、水平有効データ期間DHIにおいて、画像信号D[m](画像信号DGB[m])の代わりに、無効信号Dmyを出力する。一方、イネーブル信号DEnbは、無効水平走査期間Hd-Dのうち、水平有効データ期間DHI以外の期間(水平同期期間DHp、水平バックポーチ期間DHb、水平フロントポーチ期間DHf)においても非アクティブとなる。画像信号出力部23は、無効水平走査期間Hd-Dのうち、水平有効データ期間DHI以外の期間において、画像信号D[m](画像信号DGB[m])の出力を停止して、無効ライン信号DGB-dmyを出力する。
なお、タイミングジェネレータ32は、出力制御部31が出力する出力制御信号CTRに基づいて、水平走査期間Hdを有効水平走査期間Hd-Aまたは無効水平走査期間Hd-Dのいずれにするか、換言すれば、水平有効データ期間DHIにおいてイネーブル信号DEnbをアクティブとするか否かを決定する。この、出力制御信号CTR、イネーブル信号DEnb、及び、水平走査期間Hdの種類の関係については、後述する。
図5は、タイミングジェネレータ32が生成する各種信号と、液晶パネル42の表示領域ADにおける画像の表示タイミングとの関係を説明するための説明図である。
この図に示すように、表示領域ADの有する第1行のラインから第M行のラインに至るM行×N列の画素は、垂直走査期間Fdのうち、垂直有効データ信号DVactiveがアクティブとなる垂直有効データ期間DVIにおいて、画像信号D[1]〜D[M]の示す1画面分の画像を表示する。
また、表示領域ADのうち第m行のラインを構成するN個の画素は、水平走査期間Hd(有効水平走査期間Hd-A)のうち、イネーブル信号DEnbがアクティブとなる水平有効データ期間DHIにおいて、画像信号D[m]の示す画像を表示する。
なお、垂直有効データ期間DVIは、当該垂直有効データ期間DVIに含まれる無効水平走査期間Hd-Dの個数によって延長されるが、この図では、垂直有効データ期間DVIに含まれる水平走査期間Hdは全て有効水平走査期間Hd-Aである場合を想定している。
図6は、出力制御信号CTRと、イネーブル信号DEnbとを説明するための説明図である。
上述のとおり、出力制御部31は、画像信号D[m]の出力準備が完了したと判定したとき、つまり、第1条件及び第2条件が充足されたときに、出力制御信号CTRに判定結果が肯定であることを示す値を設定する。具体的には、本実施形態では、出力制御部31は、画像信号D[m]の出力準備が完了したと判定したときに、出力制御信号CTRに一時的にハイレベルに立ち上がるパルス状の波形を設定する。図6に示すように、出力制御信号CTRに設定される画像信号D[m]を出力する準備が完了した旨の判定結果を示す波形を、出力許可パルスPL[m]と称する。
上述のとおり、本実施形態に係る出力制御部31は、画像信号出力部23から出力完了信号PtBが出力されたことをもって、第2の条件が充足されたと看做す。そして、出力制御部31は、出力完了信号PtBが出力されたときに画像信号D[m]の画像処理が完了しているか(第1条件が充足されているか)否かの判定(第1の判定)を実行することで、画像信号D[m]の出力準備が完了したか否かを判定する。
図6に示すように、出力制御部31が画像信号D[m]の出力準備が完了したか否かの判定を行う場合において、出力制御部31が画像信号D[m]の画像処理が完了したと判定(第1条件が充足されたと判定)するタイミング、つまり、第1の判定の結果が肯定となるタイミングを、画像処理判定時刻TA[m]と称する。
また、出力制御部31に出力完了信号PtBが供給された(第2条件が充足されたと看做す)タイミングを、表示準備判定時刻TB[m]と称する。
また、以下では、説明の便宜上、画像処理部21による画像信号D[m]の生成が実際に完了した時刻を、画像信号生成時刻TC[m]と定義する。つまり、画像信号生成時刻TC[m]は、画像処理部21が書込完了信号PtAを出力する時刻と略同じ時刻である。この画像信号生成時刻TC[m]は、「画像信号生成時刻」の一例である。
表示準備判定時刻TB[m]は、出力制御部31からの画像信号D[m-1]の出力が完了した時刻と略同じ時刻であり、画像信号D[m-1]が出力される有効水平走査期間Hd-A(有効水平走査期間Hd-A[m-1]と称する)の水平有効データ期間DHIが終了する時刻と略同じ時刻である。なお、表示準備判定時刻TB[m]の後に最初の水平走査期間Hd[m]の水平有効データ期間DHIが開始される時刻は、「表示可能時刻」の一例である。
なお、本明細書において「略同じ時刻」とは、信号の送受信に起因するタイムラグや、各種処理に起因するタイムラグがある場合において、これらのタイムラグを無視した場合に同一の時刻であると看做すことができる場合を含む概念である。
画像処理判定時刻TA[m]は、表示準備判定時刻TB[m]までに画像信号D[m](画像信号DGA[m])の生成が完了している場合、すなわち、表示準備判定時刻TB[m]までに画像信号生成時刻TC[m]が経過している場合(Case-1と称する)には、表示準備判定時刻TB[m]と略同じ時刻となる。
なお、Case-1の場合、表示準備判定時刻TB[m]の経過後に、出力制御部31が、当該表示準備判定時刻TB[m]までに出力制御部31に供給されている書込完了信号PtAの示すライン番号maが「m≦ma」を満たす旨の判定をし、当該判定をしたタイミングが画像処理判定時刻TA[m]であるため、画像処理判定時刻TA[m]及び表示準備判定時刻TB[m]の間にはタイムラグが存在するが、以下では、簡単のために両時刻を略同じと看做す。
一方、画像処理判定時刻TA[m]は、表示準備判定時刻TB[m]までに画像信号D[m](画像信号DGA[m])の生成が完了していない場合、すなわち、表示準備判定時刻TB[m]までに画像信号生成時刻TC[m]が到来していない場合(Case-2と称する)には、画像処理部21が画像信号D[m]の生成を完了させた時刻、すなわち、画像信号生成時刻TC[m]と略同じ時刻となる。
なお、Case-2の場合、画像処理部21が画像信号生成時刻TC[m]に画像信号D[m]の生成を完了させた後に、画像処理部21が書込完了信号PtAを出力し、当該書込完了信号PtAの供給を受けた出力制御部31が「m≦ma」を満たす旨の判定をしたタイミングが画像処理判定時刻TA[m]であるため、画像処理判定時刻TA[m]及び画像信号生成時刻TC[m]の間にはタイムラグが存在するが、以下では、簡単のために両時刻を略同じと看做す。
出力制御部31は、画像処理判定時刻TA[m]及び表示準備判定時刻TB[m]のうち遅い方の時刻、すなわち、画像処理判定時刻TA[m]において、出力制御信号CTRに出力許可パルスPL[m]を設定する。つまり、この出力許可パルスPL[m]は、画像信号D[m]についての第1条件及び第2条件が充足されたときに出力される。そして、タイミングジェネレータ32は、出力許可パルスPL[m]が出力された後であって第3条件が充足されたとき、換言すれば、出力許可パルスPL[m]が出力された後に最初にイネーブル信号DEnbがアクティブになるときに、画像信号出力部23から画像信号D[m]が出力されるように制御する。
以下、説明の都合上、画像信号D[m]について、第1条件〜第3条件の全てが充足された時刻を、出力条件充足時刻TJ[m]と称する。
本実施形態では、タイミングジェネレータ32は、出力制御信号CTRに基づいて、タイミングジェネレータ32の内部処理で用いるための内部処理信号ISのレベルを決定する。そして、タイミングジェネレータ32は、内部処理信号ISに基づいて、イネーブル信号DEnbをアクティブにするタイミング、及び、水平走査期間Hdの種別(有効水平走査期間Hd-Aまたは無効水平走査期間Hd-D)を決定する。
具体的には、タイミングジェネレータ32は、図6に示すように、出力制御信号CTRに出力許可パルスPL[m]が設定されると、内部処理信号ISをアクティブ(この図の例ではハイレベル)とする。
次に、タイミングジェネレータ32は、水平走査期間Hdが開始されるタイミングにおいて内部処理信号ISがアクティブである場合、当該水平走査期間Hdの種別を有効水平走査期間Hd-A[m]に決定(分類)し、当該有効水平走査期間Hd-A[m]の水平有効データ期間DHIが開始されるタイミングでイネーブル信号DEnbをアクティブにする。このイネーブル信号DEnbがアクティブとなるタイミングが、出力条件充足時刻TJ[m]に該当する。
そして、タイミングジェネレータ32は、当該有効水平走査期間Hd-A[m]の水平有効データ期間DHIが開始されてイネーブル信号DEnbがアクティブとなるタイミング、つまり、出力条件充足時刻TJ[m]において、内部処理信号ISを非アクティブとする。
一方、タイミングジェネレータ32は、水平走査期間Hdが開始されるタイミングにおいて内部処理信号ISが非アクティブである場合、当該水平走査期間Hdの種別を無効水平走査期間Hd-Dに決定(分類)し、当該無効水平走査期間Hd-Dの間はイネーブル信号DEnbを非アクティブとする。
以下、図6に示す例において、出力制御部31が、画像信号D[2]の出力準備が完了したか否かの判定を行い、出力制御信号CTRに出力許可パルスPL[2]を設定する場合(Case-1に相当)を説明する。
図6に示す例では、表示準備判定時刻TB[2]は、画像信号D[1]の出力が完了する水平走査期間Hd[1](有効水平走査期間Hd-A[1])の水平有効データ期間DHIの終了時である。また、この例では、画像信号D[2]の画像処理が完了する画像信号生成時刻TC[2]が、表示準備判定時刻TB[2]よりも前に到来する場合を想定している。よって、この例では、画像処理判定時刻TA[2]は、表示準備判定時刻TB[2]と略同じ時刻となる。このため、出力制御部31は、水平走査期間Hd[1]の水平有効データ期間DHIの終了時、つまり、表示準備判定時刻TB[2]に、出力制御信号CTRとして出力許可パルスPL[2]を出力する。
タイミングジェネレータ32は、出力制御信号CTRとして出力許可パルスPL[2]が出力されタイミング、つまり、水平走査期間Hd[1]の水平有効データ期間DHIの終了するタイミングにおいて、内部処理信号ISをアクティブにする。この場合、内部処理信号ISは、水平走査期間Hd[2]の開始時においてもアクティブとなっている。このため、タイミングジェネレータ32は、水平走査期間Hd[2]を有効水平走査期間Hd-A[2]とし、水平走査期間Hd[2]の水平有効データ期間DHIにおいて、イネーブル信号DEnbをアクティブにする。
すなわち、水平走査期間Hd[2]の水平有効データ期間DHIの開始時刻が、画像信号D[2]についての第1条件〜第3条件の全てが充足された出力条件充足時刻TJ[2]となる。このため、水平走査期間Hd[2]において、画像信号D[2]が出力されることになる。また、タイミングジェネレータ32は、水平走査期間Hd[2]の水平有効データ期間DHIが開始されるタイミングにおいて、内部処理信号ISを非アクティブとする。
次に、図6に示す例において、出力制御部31が、画像信号D[3]の出力準備が完了したか否かの判定を行い、出力制御信号CTRに出力許可パルスPL[3]を設定する場合(Case-2に相当)を説明する。
図6に示す例では、表示準備判定時刻TB[3]は、画像信号D[2]の出力が完了する水平走査期間Hd[2](有効水平走査期間Hd-A[2])の水平有効データ期間DHIの終了時である。この例では、画像信号D[3]の画像処理が完了する画像信号生成時刻TC[3]が、表示準備判定時刻TB[3]よりも後となる場合を想定している。よって、画像処理判定時刻TA[3]は、表示準備判定時刻TB[3]よりも後の時刻となる。また、この例では、画像信号生成時刻TC[3]が、水平走査期間Hd[3]の開始時よりも後となる場合を想定している。このため、出力制御部31は、水平走査期間Hd[3]の開始時よりも後の時刻に、出力許可パルスPL[3]を出力する。
上述のとおり、タイミングジェネレータ32は、内部処理信号ISを、水平走査期間Hd[2]の水平有効データ期間DHIの開始時に非アクティブとする。このため、内部処理信号ISは、水平走査期間Hd[3]の開始時に非アクティブとなっている。よって、タイミングジェネレータ32は、水平走査期間Hd[3]を無効水平走査期間Hd-Dとして分類し、水平走査期間Hd[3]の水平有効データ期間DHIにおいて、イネーブル信号DEnbを非アクティブにする。この場合、画像信号出力部23は、水平走査期間Hd[3]の水平有効データ期間DHIにおいて、画像信号D[3]を出力せずに、無効信号Dmyを出力する。
その後、タイミングジェネレータ32は、出力制御信号CTRとして出力許可パルスPL[3]が出力されタイミングにおいて、内部処理信号ISをアクティブにする。この例では、出力許可パルスPL[3]が出力されるタイミングは、水平走査期間Hd[4]の開始前である。この場合、内部処理信号ISは、水平走査期間Hd[4]の開始時においてもアクティブとなっている。このため、タイミングジェネレータ32は、水平走査期間Hd[4]を有効水平走査期間Hd-A[3]とし、水平走査期間Hd[4]の水平有効データ期間DHIにおいて、イネーブル信号DEnbをアクティブにする。
すなわち、水平走査期間Hd[4]の水平有効データ期間DHIの開始時刻が、画像信号D[3]についての第1条件〜第3条件の全てが充足された出力条件充足時刻TJ[3]となる。このため、水平走査期間Hd[4]において、画像信号D[3]が出力されることになる。
なお、この図に示す例では、出力制御部31が、画像信号D[1]の出力準備が完了したか否かの判定を行い出力制御信号CTRに出力許可パルスPL[1]を設定する場合、及び、画像信号D[1]の出力準備が完了したか否かの判定を行い出力制御信号CTRに出力許可パルスPL[1]を設定する場合は、Case-1である場合を想定している。
このように本実施形態では、出力制御部31は、第1条件及び第2条件が充足されときに、出力許可パルスPL[m]を出力する。そして、画像信号出力部23は、出力許可パルスPL[m]が出力された後の最初の水平走査期間Hdにおいて、画像信号D[m]を出力する。このため、画像処理部21による画像処理等により、ある水平走査期間Hdにおいて画像信号出力部23から画像信号D[m]を出力できない場合において、画像信号出力部23からの画像信号D[m]の出力タイミングを、水平走査期間Hdの精度で調整することができる。
なお、図6に示す例では、タイミングジェネレータ32は、水平走査期間Hdの種別を、水平走査期間Hdが開始されるタイミングで決定しているが、これは一例に過ぎず、例えば、出力許可パルスPL[m]が出力される水平走査期間Hdの水平フロントポーチ期間DHfの開始から、出力許可パルスPL[m]が出力された後の最初の水平走査期間Hdの水平バックポーチ期間DHbの終了までの間に決定すればよい。
また、図6に示す例では、内部処理信号ISを非アクティブとするタイミングを、イネーブル信号DEnbがアクティブとなるタイミングとしているが、これは一例に過ぎず、タイミングジェネレータ32が内部処理信号ISを非アクティブとするタイミングは、イネーブル信号DEnbがアクティブとなってから非アクティブとなるまでの水平有効データ期間DHIの間であればいつでもよい。
また、本実施形態において、タイミングジェネレータ32は、内部処理信号ISを用いて、イネーブル信号DEnbの波形と、水平走査期間Hdの種別とを決定しているが、これは一例に過ぎず、内部処理信号ISを用いずに、出力制御信号CTRに基づいて、これらを決定してもよい。
また、本実施形態において、出力制御信号CTRは、出力許可パルスPL[m]を含む波形となっているが、これは一例であり、出力制御信号CTRは、例えば、図6に示す内部処理信号ISの波形を有していてもよい。この場合、タイミングジェネレータ32は、出力制御部31が出力制御信号CTRの波形の決定をするために必要なイネーブル信号DEnb等の各種信号を、出力制御部31に供給すればよい。
図7は、有効水平走査期間Hd-A及び無効水平走査期間Hd-Dと、垂直走査期間Fdとの関係を説明するための説明図である。
垂直走査期間Fdは、M行のラインに対応する画像信号D[1]〜D[M]を出力する期間である。このため、タイミングジェネレータ32は、各垂直走査期間Fdの垂直有効データ期間DVIに、M個の有効水平走査期間Hd-Aを設ける。
一方、本実施形態に係るタイミングジェネレータ32は、水平走査期間Hdを、有効水平走査期間Hd-Aまたは無効水平走査期間Hd-Dの何れかに分類する。そして、水平走査期間Hdが有効水平走査期間Hd-Aである場合にのみ、当該水平走査期間Hdにおいて画像信号D[m]が出力される。
このため、本実施形態に係るタイミングジェネレータ32は、垂直走査期間Fdの垂直有効データ期間DVIに無効水平走査期間Hd-Dを設ける場合には、当該無効水平走査期間Hd-Dに相当する時間長だけ垂直有効データ期間DVIを延長し、各垂直走査期間Fdの垂直有効データ期間DVIにM個の有効水平走査期間Hd-Aを設けるように、表示垂直同期信号DVsync及び垂直有効データ信号DVactiveを出力する。
例えば、タイミングジェネレータ32は、図7(A)に示す垂直走査期間Fd1のように、垂直有効データ期間DVIの全ての水平走査期間Hdを有効水平走査期間Hd-Aとする場合には、垂直有効データ期間DVIの時間長を、水平走査期間HdのM倍の時間長とする。
一方、タイミングジェネレータ32は、図7(B)に示す垂直走査期間Fd2のように、垂直有効データ期間DVIに1または複数の無効水平走査期間Hd-Dを設ける場合には、垂直有効データ期間DVIの時間長が、水平走査期間HdのM倍の時間長と、垂直有効データ期間DVIに存在する1または複数の無効水平走査期間Hd-Dの合計の時間長と、を加算した時間長とする。
つまり、タイミングジェネレータ32は、垂直走査期間Fdの時間長を、水平走査期間Hdの単位で調整することで、各垂直走査期間Fdにおいて画像信号出力部23が画像信号D[1]〜D[M]を出力することを可能としている。
なお、図7(A)に示す垂直走査期間Fd1のように、垂直有効データ期間DVIの全ての水平走査期間Hdが有効水平走査期間Hd-Aである場合における、垂直走査期間Fdの時間長を、標準垂直走査時間Tdと称する。また、表示部40で表示可能な最高のフレームレート、すなわち、垂直走査期間Fdの時間長が標準垂直走査時間Tdである場合のフレームレートである「1/Td」を、「第2フレームレート」と称する場合がある。また、タイミング制御部30が実行するタイミングの制御のうち、第2フレームレートにより画像信号Dが出力されるようにタイミングを制御することを、「第1のタイミング制御」と称する場合がある。
また、図7(B)に示す垂直走査期間Fd2のように、垂直有効データ期間DVIに1または複数の無効水平走査期間Hd-Dが設けられる場合における、当該1または複数の無効水平走査期間Hd-Dの時間長の合計値を、延長垂直走査時間Texと称する。つまり、垂直有効データ期間DVIに1または複数の無効水平走査期間Hd-Dが設けられる場合の垂直走査期間Fdの時間長は、標準垂直走査時間Tdと延長垂直走査時間Texとの合計である。なお、タイミング制御部30が実行するタイミングの制御のうち、1または複数の無効水平走査期間Hd-Dが設けられる垂直有効データ期間DVIにおいて画像信号Dが出力されるようにタイミングを制御することを、「第2のタイミング制御」と称する場合がある。詳細は後述するが、第2のタイミング制御において、タイミング制御部30は、第1フレームレートにより画像信号Dが出力されるようにタイミングを制御する。
次に、図8を参照しつつ、表示部40について説明する。
図8は、表示部40の構成を示すブロック図である。上述のとおり、表示部40は、液晶パネル42の動作を制御するEVFコントローラ41と、画像信号Dに応じた画像を表示するための液晶パネル42と、を備える。
液晶パネル42には、上述のとおり、画像信号Dに応じた画像を表示するための表示領域ADが設けられている。表示領域ADは、図5においてX軸方向に延在するM行の走査線と、Y軸方向に延在するN列のデータ線と、走査線及びデータ線の交差に対応しても受けられるM行×N列の画素と、を含んで構成されている。また、液晶パネル42は、走査線を選択するための走査線駆動回路421と、データ線を駆動するためのデータ線駆動回路422と、表示領域ADに表示される画像を拡大して観察可能とするための光学系(図示省略)と、を備える。
EVFコントローラ41は、画像信号出力部23から画像信号D(画像信号DGB)が入力されるデータ入力部411と、各垂直有効データ期間DVIにおいて有効水平走査期間Hd-Aの個数(イネーブル信号DEnbがアクティブとなる回数)をカウントするカウンタ412と、液晶パネル42の駆動タイミングを規定する各種タイミング信号を生成するタイミング生成部413と、液晶パネル42に対して画像信号D(画像信号DGC)を出力するデータ出力部414と、EVFコントローラ41の動作を規定する設定パラメーターPRMを格納するためのレジスタ415と、を備える。
なお、本実施形態において、画像処理回路100(画像信号生成部20、及び、タイミング制御部30)とEVFコントローラ41との間のデータ伝送は、パラレルインタフェース(図示省略)によって行う。
撮像表示装置1の利用者が操作部60によりライブビューモードによる動作を選択する等して、撮像表示装置1がライブビューモードで動作する場合、撮像表示装置1がライブビューモードによる動作を開始するに先立ち、パラメーター送信部33から設定パラメーターPRMがタイミング生成部413に供給される。そして、タイミング生成部413は、送信された設定パラメーターPRMを、レジスタ415に格納(設定)する。
レジスタ415に設定される設定パラメーターPRMは、液晶パネル42の仕様に応じてEVFコントローラ41を動作させるための、EVFコントローラ41の動作を規定する値である。
設定パラメーターPRMとしては、例えば、水平走査期間Hdの時間長(または、水平走査期間Hdに含まれる表示ドットクロック信号DCLKのクロック数。以下、表示ドットクロック信号DCLKのクロック数を、単に「クロック数」と称する)、水平有効データ期間DHIの時間長(または、表示領域ADにおけるX軸方向の画素数(N))、水平同期期間DHpの時間長(または、クロック数)、水平バックポーチ期間DHbの時間長(または、クロック数)、水平フロントポーチ期間DHfの時間長(または、クロック数)、垂直有効データ期間DVIに無効水平走査期間Hd-Dが含まれない場合の垂直有効データ期間DVIの時間長(または、表示領域ADにおけるY軸方向のライン数(M)。すなわち、垂直有効データ期間DVIに含まれる有効水平走査期間Hd-Aの個数)、垂直同期期間DVpの時間長(または、クロック数)、垂直バックポーチ期間DVbの時間長(または、クロック数)、垂直フロントポーチ期間DVfの時間長(または、クロック数)、等を含むものであればよい。
本実施形態に係る撮像表示装置1では、画像処理回路100から、液晶パネル42の仕様に応じたEVFコントローラ41の動作タイミングを設定できるので、液晶パネル42のサイズを変更する場合や、フレームレート等の液晶パネル42の仕様を変更する場合であっても、EVFコントローラ41を変更する必要がない。このため、システムの汎用性を向上させることが可能となる。
データ入力部411には、画像処理回路100から、表示ドットクロック信号DCLKと、画像信号D(画像信号DGB)及び無効信号Dmyを含む画像信号出力部23からの出力信号と、イネーブル信号DEnbと、が供給される。
データ入力部411は、イネーブル信号DEnbがアクティブとなると、当該イネーブル信号DEnbがアクティブの間に表示ドットクロック信号DCLKに同期して画像信号出力部23から供給される1ライン分の画像信号D[m]を取り込み、取り込んだ画像信号D[m]をデータ出力部414に対して出力する。一方、データ入力部411は、イネーブル信号DEnbが非アクティブの場合、画像信号出力部23から供給される無効信号Dmyを取り込まずに破棄する。
カウンタ412には、画像処理回路100から、イネーブル信号DEnbと、表示垂直同期信号DVsyncとが供給される。
カウンタ412は、イネーブル信号DEnbの立ち上がりエッジをカウントし、カウント結果を示すカウント値Cntを、タイミング生成部413に対して出力する。また、カウンタ412は、表示垂直同期信号DVsyncがアクティブになり、表示垂直同期信号DVsyncとして垂直同期パルスPlsVが供給されると、カウント値Cntを「0」にリセットする。このため、カウンタ412は、各垂直走査期間Fdに含まれる有効水平走査期間Hd-Aの個数をカウントすることができる。すなわち、カウント値Cntは、データ入力部411が第m行のラインで表示すべき画像を指定する画像信号D[m]を取り込む場合には、当該画像信号D[m]に対応するライン番号(m)を示す。
タイミング生成部413には、画像処理回路100から、表示垂直同期信号DVsyncと、表示水平同期信号DHsyncと、設定パラメーターPRMと、が供給され、また、カウンタ412から、カウント値Cntが供給される。
上述のとおり、タイミング生成部413は、画像処理回路100から設定パラメーターPRMが供給されると、供給された設定パラメーターPRMをレジスタ415に設定する。
タイミング生成部413は、カウント値Cntが「m」を示す場合には、走査線駆動回路421に対して、カウント値Cntに対応する第m行のライン(走査線)の選択を行わせる。また、タイミング生成部413は、カウント値Cntが「m」を示す場合には、データ出力部414に対して、データ入力部411が取り込んだ1ライン分の画像信号D[m]を画像信号DGC[m]としてデータ線駆動回路422に供給させる。この場合、データ線駆動回路422は、走査線駆動回路421が選択している第m行の走査線に対応して設けられるN個の画素(第m行のライン)に対し、データ出力部414から供給された画像信号DGC[m]を、データ線を介して書き込む。これにより、選択されたラインの画像が表示領域ADに表示される。なお、本実施形態では、画像信号DGA及びDGBはデジタルの信号であるが、画像信号DGCは、デジタルの信号であってもアナログの信号であってもよい。
このように、EVFコントローラ41は、画像信号出力部23から供給された画像信号Dの示す画像を、液晶パネル42の表示領域ADに表示させる。
なお、EVFコントローラ41は、カウント値Cntが、レジスタ415に設定された表示領域ADのライン数「M」と等しくなったことを検出した場合、検出後に最初に表示水平同期信号DHsyncが供給されるタイミング、つまり、垂直フロントポーチ期間DVfが開始されるタイミングで、改フレーム処理の準備に入る。そして、垂直フロントポーチ期間DVfが開始された後、タイミング生成部413は、データ入力部411及びデータ出力部414に対して、改フレーム処理の実行を指令するための改フレーム処理開始信号Cngを出力する。
ここで、改フレーム処理とは、次の垂直走査期間Fdにおいて画像を表示する準備のための処理であり、例えば、データ入力部411及びデータ出力部414が備えるバッファに記憶されたデータの消去を実行する処理等が含まれる。改フレーム処理は、垂直フロントポーチ期間DVfの開始以後に開始される。また、改フレーム処理は、垂直フロントポーチ期間DVfの終了までに終了することが好ましい。
<2.画像処理>
次に、図9乃至図11を参照しつつ、画像処理部21の詳細と、画像処理部21で実行される画像処理と、について説明する。
図9は、画像処理部21の構成を示すブロック図である。
この図に示すように、画像処理部21は、イメージセンサ12から出力される撮像信号DSを一時的に格納するラインバッファ211と、ラインバッファ211に格納された撮像信号DSに対して補間処理を行う画素補間処理部212と、補間された撮像信号DSに対して色再現処理を行う色再現処理部213と、色再現された撮像信号DSに対してフィルタ処理を行うフィルタ処理部214と、フィルタ処理された撮像信号DSに対してガンマ補正を施すガンマ補正部215と、ガンマ補正された撮像信号DSを一時的に格納するラインバッファ216と、ラインバッファ216に格納された撮像信号DSを表示領域ADの備える画素数の画像信号Dに変換するリサイズ処理を行うリサイズ処理部217と、を備える。
図10は、イメージセンサ12が備える受光素子が出力する画素データ信号Sigと、撮像信号DSとの関係を説明するための説明図である。上述のとおり、撮像表示装置1が撮像モードで動作する場合、イメージセンサ12は、図10(A)に示す画素データ信号Sigの全部を静止画用撮像データとして出力する。一方、撮像表示装置1がライブビューモードで動作する場合、イメージセンサ12は、画素データ信号Sigを間引きして、図10(B)に示す撮像信号DSを出力する。
図10(A)において、「R」が付された四角形の各々は、赤色の画素に対応する(赤色光を検出するための)受光素子から出力される画素データ信号Sigを示し、「G」が付された四角形の各々は、緑色の画素の受光素子から出力される画素データ信号Sigを示し、「B」が付された四角形の各々は、青色の画素の受光素子から出力される画素データ信号Sigを示す。
また、図10(B)において、「R」が付された四角形の各々は、表示領域ADの有する赤色の画素に対応する(赤色の画素で表示すべき階調を指定する)画像信号Dを生成するための撮像信号DSを示し、「G」が付された四角形の各々は、表示領域ADの有する緑色の画素に対応する画像信号Dを生成するための撮像信号DSを示し、「B」が付された四角形の各々は、表示領域ADの有する青色の画素に対応する画像信号Dを生成するための撮像信号DSを示す。
なお、本実施形態では、イメージセンサ12の有効イメージセンサ領域AS及び液晶パネル42の表示領域ADおいて、赤色、緑色、及び、青色の画素がベイヤー配列されている場合を想定する。
上述のとおり、イメージセンサ12は、PS行×QS列の受光素子が出力する画素データ信号Sigに対して間引き処理を施すことで、P行×Q列の画素に対応する撮像信号DSを出力する。
間引き処理において、イメージセンサ12は、Y軸方向について、PS行の受光素子が出力する画素データ信号Sigを、P行の画素に対応する信号に間引きする。
具体的には、イメージセンサ12は、PS行の中から読み出し対象ラインを選択し、読み出し対象ラインに位置する受光素子が出力する画素データ信号Sigを読み出す一方で、読み出し対象ライン以外のラインに位置する受光素子が出力する画素データ信号Sigを読み飛ばすことで、Y軸方向の間引きを行う。
本実施形態では、イメージセンサ12の有効イメージセンサ領域ASに設けられる画素の配列がベイヤー配列であるため、奇数ラインに1ラインの割合で読み出し対象ラインを定める。
画素がベイヤー配列されている場合、赤色画素及び緑色画素からなるラインと、緑色画素及び青色画素からなるラインとが、Y軸方向において交互に並んでいる。このため、奇数ラインに1ラインの割合で読み出し対象ラインを定めることで、読み出し後の画素を、赤色画素及び緑色画素からなるラインと、緑色画素及び青色画素からなるラインとが、Y軸方向において交互に並ぶように配列することができ、同色の画素が隣り合うことを防止することができる。
図10(A)に示す例では、Y軸方向において、3ラインに1ラインの割合で読み出し対象ラインを定めている。具体的には、ライン1〜9のうち、ライン1、ライン4、及び、ライン7を読み出し対象ラインとしている。この場合、図10(B)に示すように、画素データ信号SigをY軸方向に3分の1に間引いた撮像信号DSを得ることができる。
また、イメージセンサ12は、間引き処理として、X軸方向の間引きを行い、QS列の受光素子が出力する画素データ信号Sigを、Q列の画素に対応する信号(撮像信号DS)とする。
具体的には、イメージセンサ12は、各読み出し対象ラインに位置するQS個の受光素子を、所定数個の受光素子が1つの組となるようにグループ分けし、各組を構成する所定数個の受光素子が出力する画素データ信号Sigの示す値を平均することで、QS個の受光素子が出力する画素データ信号Sigを、「所定数分の1」に縮小する。
イメージセンサ12の画素がベイヤー配列の場合、各ラインには2色の画素が交互に配列されているため、X軸方向に1個おきに所定数個の受光素子を1組とするグループ分けを行う。そして、各組を構成する所定数個の受光素子が出力する画素データ信号Sigの示す値を相加平均する。
図10(A)に示す例では、X軸方向において、1個おきに3個の受光素子を1組としてグループ分けし、各組を構成する同色の3個の受光素子が出力する画素データ信号Sigの示す値を平均している。具体的には、例えば、ライン1及びライン7において、第1列、第3列、第5列の赤色画素を1組として、当該3個の画素に対応する3個の受光素子が出力する画素データ信号Sigの値を加算器Ave1によって相加平均し、得られた平均値を第1列の赤色画素に対応する撮像信号DSの値として設定する。同様に、ライン1及びライン7において、第2列、第4列、第6列の緑色画素に対応する受光素子が出力する画素データ信号Sigの値を加算器Ave2によって相加平均し、得られた平均値を第2列の緑色画素に対応する撮像信号DSの値として設定する。この場合、図10(B)に示すように、画素データ信号SigをX軸方向に3分の1にリサイズ(縮小)した撮像信号DSを得ることができる。
図11は、リサイズ処理部217が実行するリサイズ処理を説明するための説明図である。
上述のとおり、撮像信号DSの示す画像の画素数と、画像信号Dの示す画像の画素数(表示領域ADの画素数)とは異なる。このため、リサイズ処理部217では、撮像信号DSを、表示領域ADの画素数に対応した画像信号Dに変換するリサイズ処理を実行する。
なお、撮像信号DSの示す画像は、撮像光学系11が備えるレンズの光学特性に起因しする歪曲収差を有する場合がある。具体的には、被写体を撮像した際の撮像結果を示す画像が、表示領域ADにおいて本来表示すべき画像に比べて外側に向かって膨張する樽型収差や、または、本来表示すべき画像に比べて内側に向かって収縮する糸巻形収差を有することがある。このため、リサイズ処理部217では、リサイズ処理において、樽型収差や糸巻型収差等の歪曲収差を補正する歪曲補正処理を実行する。
以下、図11を参照しつつ、リサイズ処理の中で実行される歪曲補正処理について説明する。なお、図11では、撮像信号DSの示す画像のライン数が16ライン(P=16)であり、画像信号D示す画像のライン数が12ライン(M=12)である場合を想定している。
図11(C)及び(D)は、被写体を撮像した際に表示領域ADに表示されるべき、画像信号Dの示す画像を表し、図11(A)は、樽型収差が生じている場合に撮像信号DSの示す画像を表し、図11(B)は、糸巻型収差が生じている場合に撮像信号DSの示す画像を表している。
すなわち、図11(A)は、表示領域ADに表示すべき画像が四角形SQであるのにもかかわらず、撮像信号DSが、樽型収差によって四角形SQが膨張した閉曲線CV1を示す場合を表す。また、図11(B)は、表示領域ADに表示すべき画像が四角形SQであるのにもかかわらず、撮像信号DSが、糸巻型収差によって四角形SQが収縮した閉曲線CV2を示す場合を表す。
リサイズ処理部217は、図11(A)に示すような樽型収差が生じた場合、歪曲補正処理において、図11(A)に示すような閉曲線CV1で示される画像を、図11(C)に示すような四角形SQで示される画像へと補正する。同様に、リサイズ処理部217は、図11(B)に示すような樽型収差が生じた場合、歪曲補正処理において、図11(B)に示すような閉曲線CV2で示される画像を、図11(D)に示すような四角形SQで示される画像へと補正する。
これらの場合、リサイズ処理部217は、補正前の画像における画素と補正後の画像における画素とを対応付け、補正後の画素に対応する補正前の画素を中心画素とし、中心画素とその周辺の画素である周辺画素とを含む参照領域内の画素の各々で表示する階調に基づいて、補正後の画素の表示すべき階調を決定する。
例えば、リサイズ処理部217は、図11(C)または(D)に示す、補正後の画素PxS1の階調を決定する場合、図11(A)または(B)に示す、補正前の画素PxC1を中心画素と定める。そして、リサイズ処理部217は、中心画素である画素PxC1を含む参照領域Area1内の各画素で表示すべき階調に基づいて、画素PxS1で表示すべき階調を定める。
同様に、リサイズ処理部217は、図11(C)または(D)に示す、補正後の画素PxS2の階調を決定する場合、図11(A)または(B)に示す、補正前の画素PxC2を中心画素と定める。そして、リサイズ処理部217は、中心画素である画素PxC2を含む参照領域Area2内の各画素で表示すべき階調に基づいて、画素PxS2で表示すべき階調を定める。
なお、図11(C)及び(D)において濃いハッチングを付した画素は、画像信号Dにおける第1行、第7行、及び、第12行に位置する補正後の画素を示し、図11(A)及び(B)において濃いハッチングを付した画素は、補正後の画素のそれぞれに対応する補正前の画素(中心画素)を示し、図11(A)及び(B)において淡いハッチングを付した画素は、中心画素のそれぞれに対応する周辺画素を示す。
図11に示す例からも明らかなように、樽型収差が生じている場合の画像の膨張の程度は、画面のラインの位置によって変動し、垂直方向(Y軸方向)の位置が端部に近づくにつれて、画像の膨張の程度は大きくなる。また、糸巻型収差が生じる場合における画像の収縮の程度は、画面のラインの位置によって変動し、垂直方向(Y軸方向)の位置が端部に近づくにつれて、画像の収縮の程度は大きくなる。
よって、リサイズ処理部217が画像信号D[m]を生成する場合に必要となる撮像信号DSのライン数は、画像信号D[m]に対応するラインの位置(mの値)により変動する。このため、リサイズ処理部217がリサイズ処理に要する時間長は、ラインの位置により変動することになる。
ここで、第p行のラインに対応する撮像信号DSを、撮像信号DS[p]と表す(pは、1≦p≦Pを満たす自然数)。
このとき、例えば、図11に示す例では、リサイズ処理部217が、第1行のラインに対応する画像信号D[1]を生成するためには、第1行〜第5行のラインに対応する撮像信号DS[1]〜DS[5]が必要となる。これに対して、リサイズ処理部217が、第7行のラインに対応する画像信号D[7]を生成するためには、第8行〜第10行のラインに対応する撮像信号DS[8]〜DS[10]が必要となる。つまり、リサイズ処理部217が、画像信号D[1]を生成するために要する時間長は、画像信号D[7]を生成するために要する時間長よりも長くなる。
以下では、画像信号D[m]を生成するために必要となる、1または複数ラインの撮像信号DS[p]を、撮像信号DGS[m]と総称する。
例えば、図11に示す例では、画像信号D[1]を生成するために必要となる撮像信号DGS[1]は、撮像信号DS[1]〜DS[5]の5ライン分の撮像信号DS[p]であり、画像信号D[7]を生成するために必要となる撮像信号DGS[7]は、撮像信号DS[8]〜DS[10]の3ライン分の撮像信号DS[p]であり、画像信号D[12]を生成するために必要となる撮像信号DGS[12]は、撮像信号DS[12]〜DS[16]の5ライン分の撮像信号DS[p]である。
なお、リサイズ処理部217は、リサイズ処理が完了し、画像信号Dをライン毎に生成すると、生成した1ライン分の画像信号D[m](画像信号DGA[m])をラインバッファ22に格納すると共に、画像信号D[m]のラインバッファ22への格納が完了したことを示す書込完了信号PtAを出力する。
<3.画像信号の出力>
次に、撮像部10からの撮像信号DS[p]の出力タイミングと、画像信号生成部20からの画像信号D[m]の出力タイミングとの関係について説明する。
図12は、連続する複数の垂直走査期間Fs(Fs0〜Fs3)のうち、垂直走査期間Fs1〜Fs3のそれぞれにおいて、撮像部10が撮像信号DS(DS[1]〜DS[P])を出力するタイミングと、当該撮像信号DSに基づいて、画像処理部21が画像信号D(D[1]〜D[M])つまり画像信号DGA(DGA[1]〜DGA[M])を生成し、生成した画像信号DGAをラインバッファ22に格納タイミングと、連続する複数の垂直走査期間Fd(Fd0〜Fd3)のうち、垂直走査期間Fd1〜Fd3のそれぞれにおいて、画像信号出力部23が、ラインバッファ22から画像信号Dつまり画像信号DGB(DGB[1]〜DGB[M])を取得してこれを表示部40に対して出力するタイミングと、の関係を、概略的に示すタイミングチャートである。なお、垂直走査期間Fsのうち、撮像信号DSが出力される期間を、「撮像信号DSのフレーム」と称する。また、垂直走査期間Fdのうち、画像信号Dが出力されうる期間である垂直有効データ期間DVIを「画像信号Dのフレーム」と称する。そして、図12に示すように、撮像信号DSのフレームの開始から、画像信号Dの開始までの時間を、位相差PDと称する。
図12では、説明の都合上、垂直走査期間Fs0〜Fs3において出力される撮像信号DS[p]を、それぞれ、撮像信号DS0[p]〜DS3[p]と区別して表現することがある。
また、図11において説明したとおり、画像処理部21における画像信号D[1]〜D[M]の生成という視点から見れば、撮像部10から出力される撮像信号DS[1]〜DS[P]は、撮像信号DGS[1]〜DGS[M]である。以下では、説明の都合上、垂直走査期間Fs0〜Fs3において出力される撮像信号DGS[m]を、それぞれ、撮像信号DGS0[m]〜DGS3[m]として区別して表現することがある。
同様に、撮像信号DGS0[m]〜DGS3[m]に基づいて生成される画像信号D[m](DGA[m]、DGA[m])を、それぞれ、画像信号D0[m]〜D3[m](DGA0[m]〜DGA3[m]、DGB0[m]〜DGB3[m])として区別して表現することがある。
上述のとおり、撮像部10は、撮像水平同期信号SHsync毎に撮像信号DS[1]〜DS[P]を順番に出力する。また、画像処理部21は、撮像信号DGS[m]に対応する撮像信号DS[p]の供給が開始されると、画像信号DGA[m]を生成するための画像処理を開始する。つまり、画像処理部21が、画像信号DGA[m]を生成するための画像処理を開始するタイミングは、ラインによって異なる。
図12では、撮像部10が撮像信号DGS[1]〜DGS[M]を画像処理部21に供給するタイミングを線L1で表す。つまり、線L1は、画像処理部21が、画像信号DGA[1]〜DGA[M]のそれぞれを生成するための画像処理をライン毎に順番に開始する様子(タイミング)を、線L1で表す。
また、画像処理部21による画像信号DGA[1]〜DGA[M]の生成が完了し、これらがライン毎に順番にラインバッファ22に格納される様子(タイミング)を、線L2で表す。画像信号出力部23は、画像信号DGA[m]の生成が完了した後に画像信号DGB[m]を出力する。よって、画像信号DGB[m]が、線L2の示す時刻よりも前の時刻に出力されることはない。なお、線L2は、図6で説明した画像信号生成時刻TC[1]〜TC[M]を結んだ線である。
また、画像信号出力部23が、表示部40にとって理想的なタイミングで画像信号DGB[1]〜DGB[M]を供給する場合、すなわち、表示部40が表示可能な最高のフレームレート(垂直走査期間Fdの時間長が標準垂直走査時間Tdである場合のフレームレート)で表示するように画像信号DGB[1]〜DGB[M]を供給する場合の、画像信号出力部23が画像信号DGB[1]〜DGB[M]をライン毎に順番に出力するタイミングを、線L3で表す。つまり、線L3は、表示部40が1ライン分の画像を表示可能な水平走査期間Hd毎に、画像信号出力部23が1ライン分の画像信号DGB[m]を出力すると仮定した場合(つまり、表示部40のフレームレートが第2フレームレートである場合)に、表示部40が画像信号DGB[1]〜DGB[M]の示す画像を水平走査期間Hd毎にライン順に表示するタイミングを示す線であり、水平走査期間Hd毎に1ライン増加するような傾きを有する。すなわち、線L3は、垂直有効データ期間DVIに含まれる水平走査期間Hdの全てが有効水平走査期間Hd-Aである場合を想定したものであり、垂直有効データ期間DVIに無効水平走査期間Hd-Dが含まれる場合も想定したうえで、第m-1行の画像信号D[m-1]の出力の完了(第2条件の充足)を前提とした画像信号D[m]の出力時刻を示す表示準備判定時刻TB[m]とは、必ずしも一致しない。
画像信号出力部23は、表示部40が表示可能であるときに画像信号DGB[m]を出力する。よって、画像信号DGB[m]が、線L3の示す時刻よりも前の時刻に出力されることはない。
また、図12では、ライン毎の画像信号DGA[m]を生成するための画像処理に要する時間を、画像処理時間UAとしている。以下では、説明の都合上、画像信号DGA0[m]〜DGA3[m]のそれぞれに対応する画像処理時間UAを、画像処理時間UA0〜UA3として区別して表現することがある。
また、図12では、画像信号DGA[m]がラインバッファ22に格納されてから、画像信号出力部23により表示部40に対して出力されるまでの時間を待機時間UBとしている。以下では、説明の都合上、画像信号DGB0[m]〜DGB3[m]のそれぞれに対応する待機時間UBを、待機時間UB0〜UB3として区別して表現することがある。
上述のとおり、撮像信号DS[1]〜DS[P]と、撮像信号DGS[1]〜DGS[M]とは1対1に対応するものではなく、各ラインに対応する画像信号D[m]を生成する画像処理の開始間隔は変動することがある。このため、線L1は通常は直線とはならずに折れ線となるが、図12では、図示の都合上直線として描いている。なお、線L1を直線とした場合(例えば、線L1の始点と終点とを直線とつないだ場合)、線L1の傾きは、撮像部10のフレームレートである第1フレームレートに応じて定められる。
また、上述のとおり、撮像信号DGS[1]〜DGS[M]のそれぞれに含まれる撮像信号DS[p]のライン数は、ラインの位置によって異なる場合がある。つまり、画像処理部21は、図11で説明したように、3ライン分の撮像信号DS[p]からなる撮像信号DGS[m]に基づいて画像信号DGA[m]を生成する場合もあれば、5ライン分の撮像信号DS[p]からなる撮像信号DGS[m]に基づいて画像信号DGA[m]を生成する場合もあり、後者の場合は前者の場合と比較して画像処理時間UAは長くなる。すなわち、画像処理部21が、画像信号DGA[1]〜DGA[M]を生成するための画像処理時間UAは、通常、ラインの位置に応じて変動する。このため、線L2は通常は直線とはならずに折れ線となるが、図12では、図示の都合上直線として描いている。
図12に示すように、垂直走査期間Fs1において撮像部10から出力される撮像信号DS1[p](DGS1[m])に基づいて画像処理部21が画像信号D1[m](DGA1[m])を生成する時刻を示す線L2は、垂直走査期間Fd1において表示部40が画像信号D1[m](DGA1[m])の示す画像を表示可能となる最早の時刻を示す線L3よりも時間的に先行している。このような、線L2が線L3よりも時間的に先行している状態を「第1の状態」と称する。
すなわち、第1の状態とは、画像処理部21が撮像信号DS[p]に基づいて画像信号D[m]を生成したときに、表示部40において当該画像信号D[m]の示す画像を表示する準備ができていない、という状態である。ここで、表示部40において画像信号D[m]を表示する準備ができていない場合とは、例えば、画像信号D1[m]が生成されたときに、表示部40が画像信号D1の前に表示すべき画像信号D0の示す画像を表示中であり、表示部40が画像信号D1[m]の示す画像を表示できない場合等である。
つまり、第1の状態においては、画像処理部21が画像信号D[m]を生成しても、画像信号D[m]を表示するための表示部40側の準備が間に合っていないため、表示部40における画像の表示が、表示部40側の表示準備がボトルネックとなって、遅延する状態である。換言すれば、第1の状態は、表示部40が画像信号D[m]を表示可能となったタイミングにおいて、遅延することなく速やかに画像信号D[m]を表示することができる、という状態である。
ところで、表示部40で1つの画面を表示するために必要な時間(周期)は、撮像部10で1つの画面を撮像するために必要な時間(周期)よりも短いため、表示部40側における表示準備がボトルネックとなる表示の遅延は、徐々に縮小されて解消されるに至る。
図12では、図示の都合上、第1の状態として、1つの垂直走査期間Fs(Fs1)及び1つの垂直走査期間Fd(Fd1)の1組の垂直走査期間しか記載していないが、実際には複数の組の垂直走査期間が存在する場合がある。この場合、第1の状態における、位相差PD1(第1の状態における位相差PDとして、図12に示すように符号PD1を付する)は、垂直走査期間Fdと垂直走査期間Fsの差分に相当する時間ずつ短くなる。換言すれば、垂直走査期間の組毎に線L3と線L2との距離は、概ね、垂直走査期間Fdと垂直走査期間Fsの差分に相当する時間ずつ短くなる。
表示部40側における表示準備がボトルネックとなる表示の遅延が解消される前は、線L2が線L3よりも時間的に先行する。一方、表示準備がボトルネックとなる表示の遅延が解消された後は、線L3が線L2よりも時間的に先行する。すなわち、表示準備がボトルネックとなる表示の遅延が解消されるタイミングにおいて、線L2と線L3がクロスする。
なお、上述のとおり、線L2は直線とはならず、折れ線となる場合が存在する。この場合、線L2及び線L3のクロスは、複数回生じることがある。
図12に示す例では、垂直走査期間Fs2において撮像部10が出力する撮像信号DS2[p](DGS2[m])に基づいて、画像処理部21が画像信号D2[m](DGA2[m])を生成する時刻を示す線L2は、垂直走査期間Fd2において表示部40が画像信号D2[m](DGA2[m])の示す画像を表示可能となる最早の時刻を示す線L3とクロスしている。このような、線L2と線L3がクロスする状態を、「第2の状態」と称する。なお、線L2及び線L3のクロスが複数回生じる場合には、このようなクロスが最初に生じる状態を、「第2の状態」と称する。また、線L2と線L3がクロスする時刻を、時刻Tthと称する。なお、線L2及び線L3のクロスが複数回生じる場合には、最初にクロスが生じる時刻を時刻Tthとする。
すなわち、第2の状態とは、画像処理部21が撮像信号DS[p]に基づいて画像信号D[m]を生成したときに表示部40において当該画像信号D[m]の示す画像を表示する準備ができていないという状態(常に線L2が線L3よりも時間的に先行する状態)から、表示部40において画像信号D[m]の示す画像を表示可能となったときに画像処理部21が画像信号D[m]を生成するための画像処理を完了していない場合が存在する状態(線L3が線L2よりも時間的に先行する場合がある状態)へと遷移することをいう。
つまり、第2の状態は、時刻Tth以前においては、表示部40が画像信号D[m]の示す画像を表示することが可能となるタイミングにおいて、遅延することなく画像信号D[m]の示す画像を表示されるという状態であり、一方、時刻Tth以後においては、表示部40側において画像信号D[m]を表示することが可能となる時刻に至っても、画像信号D[m]を生成するための画像処理部21における画像処理が間に合っていないため、表示部40における画像の表示が、画像処理部21の画像処理がボトルネックとなって遅延する場合がある、という状態である。
この、第2の状態における、位相差PD2(第2の状態における位相差PDとして、図12に示すように符号PD2を付する)は、図12に示すように位相差PD1よりも短くなる。
なお、時刻Tth以降においては、タイミングジェネレータ32が、垂直有効データ期間DVIに無効水平走査期間Hd-Dを挿入して、画像信号出力部23からの画像信号D[m]の出力タイミング(表示部40における画像信号D[m]の示す画像の表示タイミング)を調整する。これにより、表示部40は、画像信号D[m]を生成するための画像処理の完了を待って、画像信号D[m]が生成されると、ただちに(水平走査期間Hd以下の時間内に)、当該画像信号D[m]の示す画像を表示することができる。すなわち、時刻Tth以降は、無効水平走査期間Hd-Dの挿入により、画像信号出力部23からの画像信号D[m](DGB[m])の出力タイミングを調整することで、表示部40側の表示タイミングを、画像処理部21における画像処理の完了タイミングに、水平走査期間Hdの精度で追従させる。
図12に示すように、垂直走査期間Fd3において表示部40が画像信号D3[m](DGA3[m])の示す画像を表示可能となる最早の時刻を示す線L3は、垂直走査期間Fs3において出力される撮像信号DS3[p](DGS3[m])に基づいて画像処理部21が画像信号D3[m](DGA3[m])を生成する時刻を示す線L2よりも時間的に先行している。このような、線L3が線L2よりも時間的に先行している状態を、「第3の状態」と称する。なお、上述のとおり、線L2は直線とはならず、折れ線となり、線L2及び線L3のクロスが複数回生じる場合がある。このような場合は、時刻Tth以降に開始される垂直走査期間の組(Fs及びFd)における状態を、第3の状態と称する。
すなわち、第3の状態とは、表示部40において画像信号D[m]の示す画像を表示する準備が完了したときに、画像処理部21が画像信号D[m]を生成するための画像処理を完了していない場合が恒常的に生じているという、状態である。
つまり、第3の状態においては、画像信号D[m]を表示するための表示部40側の準備が完了しても、画像信号D[m]を生成するための画像処理部21における画像処理が間に合っていないという状況が恒常的に生じているため、表示部40における画像の表示が、画像処理部21の画像処理がボトルネックとなって、遅延する状態である。
この、第3の状態における、位相差PD3(第3の状態における位相差PDとして、図12に示すように符号PD3を付する)は、図12に示すように、位相差PD2よりも短くなる。なお、第1の状態における位相差PD1は、画像処理時間UA(より具体的には、画像処理時間UA[1]〜UA[M]の最大値)よりも大きく、第3の状態における位相差PD3は、画像処理時間UA(より具体的には、画像処理時間UA[1]〜UA[M]の最大値)よりも小さい。
なお、第3の状態においても、タイミングジェネレータ32が、垂直有効データ期間DVIに無効水平走査期間Hd-Dを挿入して、表示部40における画像信号D[m]の示す画像の表示タイミングを調整する。これにより、表示部40側の表示タイミングを、画像処理部21における画像処理の完了タイミングに、水平走査期間Hdの精度で追従させることが可能となる。
上述のとおり、画像処理時間UAはライン毎に変動する。しかし、その変動幅は、垂直走査期間Fsに比べれば十分に小さい。このため、画像信号D[m]の出力のタイミング(表示部40側の表示タイミング)を、画像処理部21における画像処理の完了タイミングに追従させている状態においては、撮像部10が撮像信号DS3を出力している期間の時間長と、画像信号出力部23が画像信号DGB3を出力している期間の時間長とは、略同じとなる。換言すれば、第3の状態においては、タイミング制御部30は、表示部40のフレームレートを撮像部10のフレームレートである第1フレームレートとなるように、画像信号D[m]が出力されるタイミングを調整していることになる(第2のタイミング制御)。
なお、図12では、図示の都合上、第3の状態として、1つの垂直走査期間Fs(Fs3)及び1つの垂直走査期間Fd(Fd3)の1組の垂直走査期間しか記載していないが、実際には複数の組の垂直走査期間が存在する。第3の状態では、複数の組の垂直走査期間のそれぞれにおいて、撮像部10が撮像信号DS3を出力している期間の時間長と、画像信号出力部23が画像信号DGB3を出力している期間の時間長とが、略同じととなるように、画像信号D[m]が出力されるタイミングが調整される。すなわち、第3の状態では、複数の組の垂直走査期間のそれぞれにおいて、表示部40のフレームレートが撮像部10のフレームレートである第1フレームレートとなるように、画像信号D[m]が出力されるタイミングが調整される。このため、第3の状態では、複数の組の垂直走査期間のそれぞれにおいて、位相差PD3が略同じ時間長となる。、
以下、図12及び図13を参照しつつ、垂直走査期間Fs1において撮像部10が出力する撮像信号DS1(DGS1)と、垂直走査期間Fd1において画像信号生成部20が表示部40に出力する画像信号D1(DGB1)との関係を例にとって、第1の状態について説明する。
図13は、撮像信号DS1[p](撮像信号DGS1[m])と、画像信号D1[m](画像信号DGA1[m]及び画像信号DGB1[m])との関係を説明するためのタイミングチャートである。
なお、図13と、後述する図14及び図15では、簡単のために、撮像信号DSの示す画像のライン数が5ライン(P=5)であり、画像信号D示す画像のライン数が4ライン(M=4)である場合を想定する。また、図13乃至図15に示す例では、撮像信号DGS[1]が、撮像信号DS[1]及びDS[2]を含み、撮像信号DGS[2]が、撮像信号DS[2]及びDS[3]を含み、撮像信号DGS[3]が、撮像信号DS[3]及びDS[4]を含み、撮像信号DGS[4]が、撮像信号DS[4]及びDS[5]を含む場合を想定する。すなわち、図13乃至図15に示す例では、画像信号D[1]が、撮像信号DS[1]及びDS[2]に基づいて生成され、画像信号D[2]が、撮像信号DS[2]及びDS[3]に基づいて生成され、画像信号D[3]が、撮像信号DS[3]及びDS[4]に基づいて生成され、画像信号D[4]が、撮像信号DS[4]及びDS[5]に基づいて生成される場合を想定する。また、図13乃至図15に示す例では、線L2及び線L3のクロスは、1回のみ生じる場合を想定する。
図13に示すように、撮像部10から、撮像信号DS1[m]及びDS1[m+1]からなる撮像信号DGS1[m]の出力が開始されると、画像処理部21は、当該撮像信号DGS1[m]に基づいて画像信号DGA1[m]の生成を開始する。そして、画像処理部21は、画像処理の開始から画像処理時間UA1[m]の経過後に画像信号DGA1[m]の生成を完了し、これをラインバッファ22に格納する。
一方、図13に示す例は、上述した第1の状態を例示するものであり、線L2が線L3よりも時間的に先行する。つまり、図13に示す例では、画像処理部21による画像信号DGA1[m]の生成が完了したタイミングでは、表示部40において画像信号DGB1[m]の示す画像を表示する準備ができていない。換言すれば、画像処理部21による画像信号DGA1[m]の生成が完了したタイミングでは、出力制御部31から出力許可パルスPL[m]が出力されていない。
このため、画像信号出力部23は、出力許可パルスPL[m]が出力された後の最初の水平走査期間Hd1[m]まで、待機時間UB1[m]だけ画像信号DGB1[m]の出力を待ち、その後、水平走査期間Hd1[m]において画像信号DGB1[m]を出力する。
また、図13に例示する第1の状態は、画像処理部21による画像処理の完了までに表示部40による表示準備が間に合わない場合である。換言すれば、水平走査期間Hd1[m]が開始されるまでに、画像処理部21による画像信号DGA1[m]の生成が完了し、画像信号出力部23から画像信号DGB1[m]を出力可能な状態となっている。このため、図13に例示する第1の状態では、垂直走査期間Fd1の垂直有効データ期間DVIに含まれる全ての水平走査期間Hdが、有効水平走査期間Hd-Aとなる。すなわち、第1の状態において、垂直走査期間Fdの時間長は、標準垂直走査時間Tdとなる。
このように、図13に例示する第1の状態では、画像信号D1を生成するための画像処理は十分に余裕を持って完了しているものの、表示部40側の表示準備がボトルネックとなって、表示部40における表示が遅延する。
このため、撮像部10が撮像信号DS1を出力してから、表示部40が画像信号D1の示す画像を表示するまでの遅延時間ΔT1は、画像信号生成部20における画像処理に要する時間(画像処理時間UA)と、画像処理の完了後に表示部40における表示準備を待つための時間(待機時間UB)との合計時間となる。
次に、図12及び図14を参照しつつ、垂直走査期間Fs2において撮像部10が出力する撮像信号DS2(DGS2)と、垂直走査期間Fd2において画像信号生成部20が表示部40に出力する画像信号D2(DGB2)との関係を例にとって、第2の状態について説明する。
図14は、撮像信号DS2[p](撮像信号DGS2[m])と、画像信号D2[m](画像信号DGA2[m]及び画像信号DGB2[m])との関係を説明するためのタイミングチャートである。
図14に示すように、撮像部10から、撮像信号DS2[m]及びDS2[m+1]からなる撮像信号DGS2[m]の出力が開始されると、画像処理部21は、当該撮像信号DGS2[m]に基づいて画像信号DGA2[m]の生成を開始する。そして、画像処理部21は、画像処理の開始から画像処理時間UA2[m]の経過後に画像信号DGA2[m]の生成を完了し、これをラインバッファ22に格納する。
なお、図14に示す例では、画像信号D2[1]及びD2[2]が、時刻Tth以前に画像信号出力部23が出力する画像信号D[m]であり、画像信号D2[3]及びD2[4]が、時刻Tth以後に画像信号出力部23が出力する画像信号D[m]である場合を想定している。
時刻Tth以前においては、線L2が線L3よりも時間的に先行する。つまり、時刻Tth以前においては、画像処理部21による画像信号DGA2[m]の生成が完了したタイミングでは、出力制御部31から出力許可パルスPL[m]が出力されていない。
このため、画像信号出力部23は、時刻Tth以前においては、出力許可パルスPL[m]が出力された後の最初の水平走査期間Hd2[m]まで、待機時間UB2[m]だけ画像信号DGB2[m]の出力を待ち、その後、水平走査期間Hd2[m]において画像信号DGB2[m]を出力する。
図14に示す例では、画像信号出力部23は、画像信号DGA2[1]が生成された後、待機時間UB2[1]だけ画像信号DGB2[1]の出力を待ち、その後、水平走査期間Hd2[1]において、画像信号DGB2[1]を出力する。同様に、画像信号出力部23は、画像信号DGA2[2]が生成された後、待機時間UB2[2]だけ画像信号DGB2[2]の出力を待ち、その後、水平走査期間Hd2[2]において、画像信号DGB2[2]を出力する。
一方、時刻Tth以後においては、通常、線L3が線L2よりも時間的に先行する。線L3が線L2よりも時間的に先行する場合、画像処理部21が画像信号DGA2[m]を生成すると、表示部40は、すぐに(直後の水平走査期間Hdにおいて)、当該画像信号DGB2[m]の示す画像を表示することができる。よって、線L3が線L2よりも時間的に先行する場合、画像処理部21による画像信号DGA2[m]の生成が完了したタイミングに、出力制御部31から出力許可パルスPL[m]が出力される。
図14に示す例では、画像信号出力部23は、画像信号DGA2[3]が生成され、出力許可パルスPL[3]が出力された後の最初の水平走査期間Hd2[3]において、画像信号DGB2[3]を出力する。
また、この図に示す例では、画像信号DGA2[4]が生成されるのは、水平走査期間Hd2[4]の開始後である。このため、画像信号出力部23は、画像信号DGA2[4]が生成され、出力許可パルスPL[4]が出力された後の最初の水平走査期間Hd2[5]において、画像信号DGB2[4]を出力する。そして、タイミングジェネレータ32は、水平走査期間Hd2[4]を無効水平走査期間Hd-Dとする。
このように、図14に例示する第2の状態では、時刻Tth以降において、画像処理に起因する表示の遅延が生じるため、垂直走査期間Fd2の垂直有効データ期間DVIには、無効水平走査期間Hd-Dが挿入される。つまり、第2の状態において、垂直走査期間Fdの時間長は、標準垂直走査時間Td及び延長垂直走査時間Texの合計となる。
また、撮像部10が撮像信号DS2を出力してから、表示部40が画像信号D2の示す画像を表示するまでの遅延時間ΔT2は、時刻Tth以前は、画像信号生成部20における画像処理に要する時間(画像処理時間UA)と、表示部40における表示準備を待つための時間(待機時間UB)との合計時間であるが、時刻Tth以後において、線L3が線L2よりも時間的に先行する場合には、画像信号生成部20における画像処理に要する時間(画像処理時間UA)のみとなる。このため、第2の状態に係る遅延時間ΔT2は、第1の状態に係る遅延時間ΔT1よりも短くなる。
次に、図12及び図15を参照しつつ、垂直走査期間Fs3において撮像部10が出力する撮像信号DS3(DGS3)と、垂直走査期間Fd3において画像信号生成部20が表示部40に出力する画像信号D3(DGB3)との関係を例にとって、第3の状態について説明する。
図15は、撮像信号DS3[p](撮像信号DGS3[m])と、画像信号D3[m](画像信号DGA3[m]及び画像信号DGB3[m])との関係を説明するためのタイミングチャートである。
図15に示すように、撮像部10から、撮像信号DS3[m]及びDS3[m+1]からなる撮像信号DGS3[m]の出力が開始されると、画像処理部21は、当該撮像信号DGS3[m]に基づいて画像信号DGA3[m]の生成を開始する。そして、画像処理部21は、画像処理の開始から画像処理時間UA3[m]の経過後に画像信号DGA3[m]の生成を完了し、これをラインバッファ22に格納する。
第3の状態においては、通常、線L3が線L2よりも時間的に先行する。線L3が線L2よりも時間的に先行する場合、画像処理部21が画像信号DGA3[m]を生成すると、表示部40は、すぐに(直後の水平走査期間Hdにおいて)、当該画像信号DGB3[m]の示す画像を表示することができる。よって、この場合、画像処理部21による画像信号DGA3[m]の生成が完了したタイミングに、出力制御部31から出力許可パルスPL[m]が出力される。
具体的には、図15に示す例では、画像信号出力部23は、画像信号DGA3[1]が生成され、出力許可パルスPL[1]が出力された後の最初の水平走査期間Hd3[3]において、画像信号DGB3[1]を出力し、画像信号DGA3[2]が生成され、出力許可パルスPL[2]が出力された後の最初の水平走査期間Hd3[5]において、画像信号DGB3[2]を出力し、画像信号DGA3[3]が生成され、出力許可パルスPL[3]が出力された後の最初の水平走査期間Hd3[7]において、画像信号DGB3[3]を出力し、画像信号DGA3[4]が生成され、出力許可パルスPL[4]が出力された後の最初の水平走査期間Hd3[9]において、画像信号DGB3[4]を出力する。なお、この場合、タイミングジェネレータ32は、水平走査期間Hd3[1]、Hd3[2]、Hd3[4]、Hd3[6]、及び、Hd3[8]を、無効水平走査期間Hd-Dとする。
このように、図15に例示する第3の状態では、画像処理に起因する表示の遅延が生じているため、垂直走査期間Fd3の垂直有効データ期間DVIには、無効水平走査期間Hd-Dが挿入される。この結果、第3の状態では、表示部40が、垂直走査期間Fsに出力される撮像信号DSに同期した表示を行うことができるように、垂直走査期間Fdの時間長が水平走査期間Hdの精度で調整される。つまり、第3の状態では、概略的に見れば、垂直走査期間Fdは、垂直走査期間Fsと略同じ時間となるように調整される。
また、第3の状態では、線L3が線L2よりも時間的に先行する場合、画像処理部21が画像信号D[m]を生成した後の最初の水平走査期間Hdにおいて、表示部40が画像信号D[m]の示す画像を表示する。このため、撮像部10が撮像信号DS3を出力してから、表示部40が画像信号D3の示す画像を表示するまでの遅延時間ΔT3は、画像信号生成部20における画像処理に要する時間(画像処理時間UA)と略同じになる。具体的には、第3の状態では、撮像部10が撮像信号DS[p]の出力を開始してから表示部40が画像信号D[m]の示す画像の表示を開始するまでの遅延時間ΔT3と、画像処理部21が画像信号D[m]の生成に要する画像処理時間UAと、を水平走査期間Hdの精度で等しくする。
このため、第3の状態では、撮像部10による撮像から表示部40による表示までの遅延を、水平走査期間Hdの精度で最小化することができる。この場合、遅延時間ΔT3は、第1の状態に係る遅延時間ΔT1よりも短くなり、且つ、第2の状態に係る遅延時間ΔT2以下となる。
また、上述のとおり、表示部40で1つの画面を表示するために必要な時間(周期)は、撮像部10で1つの画面を撮像するために必要な時間(周期)よりも短い。このため、撮像表示装置1が第1の状態で動作して、表示部40側における表示準備がボトルネックとなる表示の遅延が生じている場合であっても、垂直走査期間Fs毎に当該表示の遅延は縮小する。つまり、撮像表示装置1は、当初、第1の状態で動作する場合であっても、最終的には第3の状態での動作に移行し、第3の状態での動作が開始された後は、第3の状態での動作を維持することができる。この結果、表示部40側の表示タイミングを、画像処理部21における画像処理の完了タイミングに、水平走査期間Hdの精度で追従させることができる。
このため、撮像表示装置1がライブビューモードでの動作を開始すると、ライブビューモードでの動作を開始した直後を除き、撮像部10による撮像から表示部40での画像表示までの遅延時間を最小化した状態を維持することができる。
<4.第1実施形態の効果>
以上において説明したように、本実施形態に係る撮像表示装置1では、画像信号D[m]の出力タイミングを調整することで、表示部40側の表示タイミングを、画像処理部21における画像処理の完了タイミングに、水平走査期間Hdの精度で追従させる。
以下、このような撮像表示装置1の利点をより明確化するために、図16に示す、対比例に係る撮像表示装置について説明する。
図16は、対比例に係る撮像表示装置における、画像信号D[m]の出力タイミングを説明するためのタイミングチャートである。この図に示すように、対比例に係る撮像表示装置では、垂直走査期間Fdの時間長を固定長として(標準垂直走査時間Tdに固定して)、ライブビューモードによる動作を実行する点で、図12に示すような動作を実行する本実施形態に係る撮像表示装置1と相違する。
図16に示すように、対比例に係る撮像表示装置では、垂直走査期間Fdの時間長が一定である。そして、対比例では、例えば、垂直走査期間Fsの終了後に開始される垂直走査期間Fdにおいて、垂直走査期間Fsにおいて出力される撮像信号DSに基づいて生成された画像信号DGBの示す画像を表示させる場合を想定している。具体的には、対比例に係る撮像表示装置は、垂直走査期間Fs1に出力される撮像信号DS1に応じた画像を垂直走査期間Fs1よりも後に開始される垂直走査期間Fd2において表示し、垂直走査期間Fs2に出力される撮像信号DS2に応じた画像を垂直走査期間Fs2よりも後に開始される垂直走査期間Fd4において表示し、また、垂直走査期間Fs3に出力される撮像信号DS3に応じた画像を垂直走査期間Fs3よりも後に開始される垂直走査期間Fd5において表示する。また、この図に示す例では、垂直走査期間Fd3は、垂直走査期間Fs2の終了前に開始される。このため、この図に示す例では、垂直走査期間Fd3において、垂直走査期間Fd2で表示した撮像信号DS1に応じた画像(画像信号DGB1の示す画像)を表示することとしている。
このように、図16に例示する対比例に係る撮像表示装置では、撮像部10が撮像信号DSを出力してから、表示部40が画像信号DGBの示す画像を表示するまでの遅延時間が、垂直走査期間Fd以上の時間長となる。
さらに、図16に示す例の場合には、垂直走査期間Fd2で表示した画像(画像信号DGB1の示す画像)を、垂直走査期間Fd3で再度表示させている。この場合、各画像の表示時間が、垂直走査期間Fdの単位で変動するため、画面のちらつきとして視認される可能性が生じる。この結果、表示部40の表示品位が大きく劣化することとなる。また、仮に、垂直走査期間Fd3においていかなる画像も表示しない場合には、画像が表示される垂直走査期間Fdと、画像が表示されない垂直走査期間Fdとが存在することとなるため、これが画面のちらつきとして撮像表示装置1の利用者に視認される惧れがある。
これに対して、本実施形態に係る撮像表示装置1では、第1条件及び第2条件が充足された場合に画像信号出力部23から画像信号D[m]を出力し、第1条件または第2条件が充足されない場合には、無効水平走査期間Hd-Dを挿入することで、画像信号出力部23からの画像信号D[m]の出力タイミングを水平走査期間Hdの精度で調整する。すなわち、本実施形態に係る撮像表示装置1では、画像処理部21が画像信号D[m]を生成した後の最初の水平走査期間Hdにおいて、表示部40が画像信号D[m]の示す画像を表示することができる。これにより、撮像部10による撮像から表示部40による表示までの遅延を、水平走査期間Hdの精度で最小化することができる。
また、本実施形態に係る撮像表示装置1では、垂直有効データ期間DVIに無効水平走査期間Hd-Dを挿入することで、垂直走査期間Fdの時間長を可変とするとともに、垂直走査期間Fsの時間長と略同じとなる状態を維持することができる。このため、表示のちらつき等を抑えた、高品位な表示を実現できる。
また、本実施形態によれば、例えば、画像処理の手法の変更等に伴う画像処理時間の変更がある場合や、ライン毎に画像処理時間UAが変動する場合、撮像部10をフレームレートが異なるものに交換する場合、または、表示部40をフレームレートが異なるものに交換する場合等、撮像部10及び表示部40の位相差、撮像部10のフレームレート、並びに、表示部40で表示可能な最高のフレームレートのうち、一部または全部が変化する場合であっても、位相差PDを画像処理時間UA以下の長さに自動的に収束させることが可能となる。
<B.第2実施形態>
上述した第1実施形態では、図6に示すように、垂直有効データ期間DVIに無効水平走査期間Hd-Dを挿入することにより、画像信号D[m]の出力タイミングを、水平走査期間Hdの精度で調整し、水平走査期間Hdの時間長は固定長としていた。
これに対して、第2実施形態に係る撮像表示装置では、水平走査期間Hdの時間長を可変長として、画像信号D[m]の出力タイミングを、例えば表示ドットクロック信号DCLKの周期で調整する点において、第1実施形態に係る撮像表示装置1と相違する。
以下、図17乃至図19を参照しつつ、第2実施形態に係る撮像表示装置について説明する。なお、以下に例示する第2実施形態において作用や機能が第1実施形態と同等である要素については、以上の説明で参照した符号を流用して各々の詳細な説明を適宜に省略する(以下で説明する変形例についても同様)。
図17は、第2実施形態に係る撮像表示装置が備えるタイミング制御部30(出力制御部31及びタイミングジェネレータ32)が生成する、出力制御信号CTRと、イネーブル信号DEnbと、表示水平同期信号DHsync2との関係を説明するための説明図である。
第2実施形態に係る撮像表示装置が備えるタイミング制御部30は、タイミングジェネレータ32が、表示水平同期信号DHsyncの代わりに、可変な周期の水平同期パルスPlsHを有する表示水平同期信号DHsync2を生成し、表示垂直同期信号DVsyncの変わりに、可変な周期の垂直同期パルスPlsVを有する表示垂直同期信号DVsync2を生成する点を除き、第1実施形態に係る撮像表示装置1(図6参照)と同様に構成されている。
図17に示すように、第2実施形態に係る出力制御部31は、第1実施形態と同様に、画像処理判定時刻TA[m]及び表示準備判定時刻TB[m]のうち遅い方の時刻(この図では、上述した第2の態様を採用しているため、画像処理判定時刻TA[m])において、出力制御信号CTRに出力許可パルスPL[m]を設定する。
また、図17に示すように、第2実施形態に係るタイミングジェネレータ32は、出力制御部31が出力する出力制御信号CTRに出力許可パルスPL[m]が設定されたタイミングから、固定の時間長である基準フロントポーチ時間TPの経過後に、表示水平同期信号DHsync2として水平同期パルスPlsHを出力する。
このため、表示準備判定時刻TB[m]までに画像信号D[m]の生成が完了し、画像信号生成時刻TC[m]が経過している場合(Case-1)には、水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPとなる。
一方、表示準備判定時刻TB[m]までに画像信号D[m]の生成が完了していない場合、すなわち、表示準備判定時刻TB[m]よりも後に画像信号生成時刻TC[m]が到来する場合(Case-2)には、水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPと、表示準備判定時刻TB[m]から画像信号生成時刻TC[m](画像処理判定時刻TA[m])までの時間長である延長フロントポーチ時間TPXとの合計となる。
このように、第2実施形態に係るタイミングジェネレータ32は、出力制御部31が、画像信号D[m]の出力準備が完了したと判定し、出力制御信号CTRとして出力許可パルスPL[m]を出力するのを待ち、出力許可パルスPL[m]が出力されてから基準フロントポーチ時間TPだけ後に、水平走査期間Hd[m]を開始させる。換言すれば、第2実施形態に係るタイミングジェネレータ32は、画像信号D[m]の出力準備が完了するまで、水平フロントポーチ期間DHfを延長する。
このため、画像信号出力部23は、たとえ画像処理部21における画像信号D[m]の画像処理が遅延した場合であっても、水平走査期間Hd[m]において画像信号D[m]を出力することが可能となる。この場合、撮像部10が撮像信号DGS[m]を出力してから、表示部40が画像信号D[m]に基づく画像を表示するまでの遅延時間は、表示ドットクロック信号DCLKの精度で最小化されることになる。
図18は、表示部40における表示準備がボトルネックとなる表示の遅延が解消されるに至る状態(すなわち、図14で説明した第2の状態)における、第2実施形態に係る撮像表示装置の動作を説明するためのタイミングチャートである。また、図19は、画像処理部21の画像処理がボトルネックとなって表示に遅延が生じている状態(すなわち、図15で説明した第3の状態)における、第2実施形態に係る撮像表示装置の動作を説明するためのタイミングチャートである。なお、図18及び図19では、図12乃至図15で説明した符号を流用する。
図18では、例えば、水平走査期間Hd2[2]におけるイネーブル信号DEnbの立下りのタイミングまでに、画像信号DGA2[3]が生成される。このため、水平走査期間Hd2[2]におけるイネーブル信号DEnbの立下りのタイミングにおいて、出力許可パルスPL[3]が出力される。この場合、水平走査期間Hd2[2]の水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPとなる。
一方、この図に示す例では、画像信号DGA2[4]が生成されるタイミングは、水平走査期間Hd2[3]におけるイネーブル信号DEnbの立下りのタイミングよりも後である。このため、画像信号DGA2[4]が生成されるタイミングにおいて、出力許可パルスPL[4]が出力される。この場合、水平走査期間Hd2[3]の水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPと、延長フロントポーチ時間TPX(水平走査期間Hd2[3]におけるイネーブル信号DEnbの立下りのタイミングから、出力許可パルスPL[4]が出力されまでの時間)との、合計の時間長となる。すなわち、表示部40における表示準備がボトルネックとなる表示の遅延が解消される時刻Tth以降は、画像処理の状況に応じて水平走査期間Hdが延長されることになる。
また、図19では、画像信号DGA3[m]が生成されるタイミングは、水平走査期間Hd3[m-1]におけるイネーブル信号DEnbの立下りのタイミングよりも後である。このため、画像信号DGA3[m]が生成されるタイミングにおいて、出力許可パルスPL[m]が出力される。この場合、水平走査期間Hd3[m]の水平フロントポーチ期間DHfの時間長は、基準フロントポーチ時間TPと、延長フロントポーチ時間TPX(水平走査期間Hd3[m]におけるイネーブル信号DEnbの立下りのタイミングから、出力許可パルスPL[m]が出力されまでの時間)との、合計の時間長となる。すなわち、画像処理部21の画像処理がボトルネックとなって表示に遅延が生じている状態(第3の状態)においては、画像処理の状況に応じて水平走査期間Hdが延長されることになる。
なお、図18及び図19からも明らかなように、第2実施形態においては、無効水平走査期間Hd-Dは存在せず、全ての水平走査期間Hdは有効水平走査期間Hd-Aとなる。
また、第2実施形態では、水平走査期間Hdが例えば表示ドットクロック信号DCLKの単位で可変となるため、垂直走査期間Fdも可変の時間長を有することとなる。
<C.変形例>
以上の各形態は多様に変形され得る。具体的な変形の態様を以下に例示する。以下の例示から任意に選択された2以上の態様は、相互に矛盾しない範囲内で適宜に併合され得る。なお、以下において説明する変形例では、説明の重複を避けるため、上述した本発明の実施形態との共通点については説明を省略する。
<変形例1>
上述した実施形態では、表示部40が液晶パネル42を備える場合を例示したが、本発明はこのような態様に限定されるものではなく、OLED(organic light emitting diode)パネル、プラズマ表示パネル等の表示素子を用いてもよい。
<変形例2>
上述した実施形態及び変形例では、画像処理回路100と表示部40との間のデータ伝送をパラレルインタフェースによって行うが、低電圧差動(LVDS)のシリアルインタフェースによって行うようにしてもよい。
<変形例3>
上述した実施形態及び変形例では、撮像垂直同期信号SVsyncにより規定される垂直走査期間Fsが、表示垂直同期信号DVsync(またはDVsync2)により規定される垂直走査期間Fd以上の時間長を有しているが、本発明はこのような態様に限定されるものではなく、垂直走査期間Fsは、垂直走査期間Fdよりも短い時間長を有していてもよい。
<変形例4>
上述した実施形態及び変形例では、出力制御部31は、画像処理部21が出力する書込完了信号PtAと、画像信号出力部23が出力する出力完了信号PtBと、に基づいて、画像信号D[m]を出力する準備が完了したか否かを判定するが、本発明はこのような態様に限定されるものではなく、出力制御部31がラインバッファ22を周期的に参照することで、ラインバッファ22に画像信号D[m]が記録されていること、及び、ラインバッファ22から画像信号D[m-1]が読み出されたことを判定することにより、画像信号D[m]を出力する準備が完了したか否かを判定してもよい。
<変形例5>
上述した実施形態及び変形例では、撮像表示装置1に表示部40が内蔵されているが、本発明はこのような態様に限定されるものではなく、表示部40をデジタルカメラの外部に接続するファインダー(表示装置)等として構成してもよい。
<変形例6>
上述した実施形態及び変形例では、ライン毎に画像処理時間UA[m]が変動する場合を例示して説明したが、本発明はこのような態様に限定されるものではなく、画像処理時間UA[m]はライン間で同一であってもよい。
<D.応用例>
以上の各形態に例示した撮像表示装置1は、各種の電子機器に利用されうる。例えば、撮像表示装置1は、プロジェクター装置、HUD(ヘッドアップディスプレイ)、HMD(ヘッドマウントディスプレイ)等の電子機器(表示装置)等として構成してもよい。また、ライブビューを行う表示装置であれば、例えば電子双眼鏡、電子めがね、電子顕微鏡、医療用電子めがねのファインダ、車載のバックモニタ、車載のサイドミラーのモニタ等にも適用することができ、撮像から表示までの遅延を低減させることができる。くわえて、表示装置の態様においては、撮像部10を必ずしも備えてなくてもよい。すなわち、撮像信号DSが供給される画像処理回路100、及び、表示部40を表示装置として捉えてもよい。
1……撮像表示装置、10……撮像部、11……撮像光学系、12……イメージセンサ、13……タイミングジェネレータ、20……画像信号生成部、21……画像処理部、22……ラインバッファ、23……画像信号出力部、30……タイミング制御部、31……出力制御部、32……タイミングジェネレータ、33……パラメーター送信部、40……表示部、41……EVFコントローラ、42……液晶パネル、50……CPU、60……操作部、100……画像処理回路。

Claims (7)

  1. 被写体を撮像する撮像部が出力する撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像処理方法であって、
    前記撮像部が前記撮像信号を出力してから、前記画像信号を生成するまでの時間を画像処理時間とし、
    前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、
    前記撮像部のフレームレートを第1フレームレートとし、
    前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、
    前記位相差が、前記画像処理時間より長い場合には、
    前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号を前記表示部に出力することにより、前記位相差を次第に小さくし、
    前記位相差が、前記画像処理時間以下となった後は、
    前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号を前記表示部に出力する、
    ことを特徴とする画像処理方法。
  2. 前記位相差が前記画像処理時間より長い場合には、
    前記画像信号を生成した後、生成した画像信号の示す画像が前記表示部で表示可能となるまで待機して、生成した画像信号を前記表示部に出力する、
    ことを特徴とする請求項1に記載の画像処理方法。
  3. 前記表示部は一定周期で出力される水平同期パルスに同期して動作し、
    生成された前記画像信号を前記水平同期パルスに同期して前記表示部に出力し、
    前記位相差が前記画像処理時間以下となった後において、前記画像信号を生成する画像信号生成時刻が、前記表示部において前記画像信号の示す画像を表示可能となる表示可能時刻以降となる場合、
    前記画像信号生成時刻の後に最初に出力される水平同期パルスに同期して前記画像信号を前記表示部出力する、
    ことを特徴とする、請求項1または2に記載の画像処理方法。
  4. 前記表示部は水平同期パルスに同期して動作し、
    生成された前記画像信号を前記水平同期パルスに同期して前記表示部に出力し、
    前記位相差が前記画像処理時間以下となった後において、前記画像信号を生成する画像信号生成時刻が、前記表示部において前記画像信号の示す画像を表示可能となる表示可能時刻以降となる場合、
    前記画像信号生成時刻までは、前記水平同期パルスの出力を停止するとともに、前記画像信号の出力を停止し、
    前記画像信号生成時刻の後は、前記水平同期パルスを出力するとともに、当該出力される水平同期パルスに同期して前記画像信号を出力する、
    ことを特徴とする、請求項1または2に記載の画像処理方法。
  5. 被写体を撮像して撮像信号を出力する撮像部と、
    前記撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像信号生成部と、
    前記画像信号生成部が前記画像信号を出力するタイミングを制御するタイミング制御部と、
    を備え、
    前記撮像部が前記撮像信号を出力してから、前記画像信号生成部が前記画像信号を生成するまでの時間を画像処理時間とし、
    前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、
    前記撮像部のフレームレートを第1フレームレートとし、
    前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、
    前記タイミング制御部は、
    前記位相差が、前記画像処理時間より長い場合において、
    前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号生成部に前記画像信号を出力させることにより、前記位相差を次第に小さくする第1のタイミング制御と、
    前記位相差が、前記画像処理時間以下となった後において、
    前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号生成部に前記画像信号を出力させる第2のタイミング制御と、
    を実行可能である、
    ことを特徴とする撮像装置。
  6. 被写体を撮像する撮像部が出力する撮像信号に基づいて、前記撮像部よりも高いフレームレートで画像表示が可能な表示部の各ラインで表示すべき画像を示す画像信号を生成し、生成した前記画像信号を前記表示部に出力する画像信号生成部と、
    前記画像信号生成部が前記画像信号を出力するタイミングを制御するタイミング制御部と、
    を備え、
    前記撮像部が前記撮像信号を出力してから、前記画像信号生成部が前記画像信号を生成するまでの時間を画像処理時間とし、
    前記撮像信号のフレームの開始から、前記表示部に出力する前記画像信号のフレームの開始までの時間を位相差とし、
    前記撮像部のフレームレートを第1フレームレートとし、
    前記表示部で表示可能な最高のフレームレートを第2フレームレートとしたとき、
    前記タイミング制御部は、
    前記位相差が、前記画像処理時間より長い場合において、
    前記表示部のフレームレートが前記第2フレームレートとなるように前記画像信号生成部に前記画像信号を出力させることにより、前記位相差を次第に小さくする第1のタイミング制御と、
    前記位相差が、前記画像処理時間以下となった後において、
    前記表示部のフレームレートが前記第1フレームレートとなるように前記画像信号生成部に前記画像信号を出力させる第2のタイミング制御と、
    を実行可能である、
    ことを特徴とする画像処理装置。
  7. 前記表示部と、
    請求項5に記載の撮像装置と、
    を備える、
    ことを特徴とする撮像表示装置。
JP2014162104A 2014-08-08 2014-08-08 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置 Active JP6365097B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014162104A JP6365097B2 (ja) 2014-08-08 2014-08-08 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014162104A JP6365097B2 (ja) 2014-08-08 2014-08-08 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置

Publications (2)

Publication Number Publication Date
JP2016039517A JP2016039517A (ja) 2016-03-22
JP6365097B2 true JP6365097B2 (ja) 2018-08-01

Family

ID=55530270

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014162104A Active JP6365097B2 (ja) 2014-08-08 2014-08-08 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置

Country Status (1)

Country Link
JP (1) JP6365097B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5195818B2 (ja) * 2010-06-01 2013-05-15 セイコーエプソン株式会社 表示制御装置
JP6044317B2 (ja) * 2012-11-21 2016-12-14 セイコーエプソン株式会社 撮影装置、撮影装置の制御方法

Also Published As

Publication number Publication date
JP2016039517A (ja) 2016-03-22

Similar Documents

Publication Publication Date Title
JP6601020B2 (ja) 撮像表示装置
US8529069B2 (en) Projection apparatus and control method thereof
US10347171B2 (en) Imaging device including timing generator that generates vertical synchronization signal after number of lines of valid image signal reaches number of valid lines of vertical scanning period
RU2570354C2 (ru) Захват и отображение изображений в реальном времени
KR20080064719A (ko) 화상 표시 제어 장치
JP6515455B2 (ja) 撮像装置及び撮像表示装置
US10044912B2 (en) Imaging device and image processing device for outputting image signal to be displayed, and display control device and imaging display apparatus for displaying image signal
US9658815B2 (en) Display processing device and imaging apparatus
JP6565326B2 (ja) 撮像表示装置及びその制御方法
JP6645047B2 (ja) 撮像装置、画像処理装置、及び、撮像表示装置
JP6365097B2 (ja) 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置
JP2008270937A (ja) 画像処理コントローラ、電子機器及び画像処理方法
CN112929512B (zh) 控制电路及其控制方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170719

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180528

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180618

R150 Certificate of patent or registration of utility model

Ref document number: 6365097

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150