(第1の実施形態)
図1は、本発明の第1の実施形態による表示装置100の構成例を示す図である。表示装置100は、入力した画像を表示パネル101に出力することにより画像表示すると共に、表示画像を撮像し、撮像された画像を解析し、画像処理に反映させる。表示装置100は、モニタのようなディスプレイであっても、プロジェクタのような投射型表示装置であってもよい。表示装置100は、画像を表示するための表示パネル101を有する。表示パネル101は、表示部であり、各々が複数のサブフィールドに時分割された複数のフレームの画像を表示する。すなわち、表示パネル101は、1フレームの画像を複数のサブフィールドに時分割し、輝度を時間分散させて駆動する。また、表示装置100は、撮像するためのCMOSセンサ等の撮像センサ102を有する。
表示装置100は、PWM駆動表示パネル101(以下、表示パネル101)、ラインスキャン方式撮像センサ102(以下、撮像センサ102)、及びパネル出力インターフェース103(以下、出力IF103)を有する。さらに、表示装置100は、パネル同期タイミング制御部104(以下、同期制御部104)、撮像領域決定機構110、撮像センサ制御部113、蓄積部116、及び撮像画像解析部117を有する。さらに、表示装置100は、画像処理制御パラメータ生成部119(以下、パラメータ生成部119)、画像処理部120、画像入力インターフェース121(以下、入力IF121)、及び撮像領域制御システム122(以下、制御システム122)を有する。なお、本実施形態では、表示装置100が表示パネル101や撮像センサ102を備える構成を中心に説明するが、表示パネル101や撮像センサ102が表示装置100とは別の装置として構成されても良い。
入力IF121は、画像を受信し、その受信した画像を画像処理部120に出力する。画像処理部120は、入力IF121から入力した画像に対して、表示するための画像処理を施し、画像処理が施された画像を出力IF103を介して表示パネル101に出力する。表示パネル101は、画像を表示する。
入力IF121は、画像の受信に同期して、入力画像垂直同期信号タイミング情報108を同期制御部104に出力する。同期制御部104は、入力画像垂直同期信号タイミング情報108を基に、適切なフレームレートの画像出力のタイミングで、画像同期信号タイミング情報105を出力IF103に出力する。同期制御部104は、画像入力と画像出力の同期を実現するために、入力画像垂直同期タイミング情報108に従って、表示パネル101への出力の同期タイミングの調整を行い、画像同期信号タイミング情報105を出力する。表示パネル101への出力の同期タイミングの調整は、垂直ブランキング期間又は水平ブランキング期間を調整することによって実現される。出力IF103は、画像同期信号タイミング情報105に基づき、表示パネル101の駆動に必要なタイミング信号を生成し、そのタイミング信号を画像と共に表示パネル101に出力する。
同期制御部104は、撮像センサ制御部113に対して、露光及びシャッタのトリガタイミング情報106を出力する。同期制御部104は、露光及びシャッタのトリガタイミング情報106として、垂直ブランキング開始タイミング情報を出力する。なお、同期制御部104は、トリガタイミング情報106から実際の露光及びシャッタ制御に遅延が生じる場合はその遅延を考慮したタイミングで、トリガタイミング情報106を出力してもよい。また、同期制御部104は、撮像領域決定機構110に対して、当該フレームの垂直ブランキング期間情報107を出力する。垂直ブランキング期間情報107は、先に示した画像同期信号タイミング情報105の生成過程での調整を含めた当該フレームの垂直ブランキング期間の情報であり、例えば垂直ブランキング期間のライン数情報として生成される。
撮像領域決定機構110は、垂直ブランキング期間情報107を基に、垂直ブランキング期間に露光及びシャッタ制御可能なセンサスキャンライン数を算出する。さらに、撮像領域決定機構110は、垂直ブランキング期間に撮像するセンサ位置を決定し、センサラインアドレス情報109を撮像センサ制御部113に出力する。垂直ブランキング期間に撮像するセンサ位置の決定については、後述する。撮像領域決定機構110は、センサラインアドレス情報109として、同期制御部104が出力するトリガタイミング情報106に、撮像センサ102内のどのラインより読み出しを行うかのアドレス情報を出力する。また、撮像領域決定機構110は、撮像画像解析部117に対して、撮像された画像のうちのどの領域が垂直ブランキング期間に露光及びシャッタ制御された領域であるかを示す有効撮像領域情報111を出力する。
撮像センサ制御部113は、トリガタイミング情報106とセンサラインアドレス情報109を入力し、撮像センサ102の露光及びシャッタ制御を行う。CMOSセンサ等の撮像センサ102では、露光及びシャッタ制御は、センサデータの読み出し指示により行われる。したがって、撮像センサ制御部113は、トリガタイミング情報106に基づき、撮像センサ102に対して、センサラインアドレス情報109に示されるラインアドレスからのセンサデータ読み出しを制御する。本実施形態では、撮像センサ制御部113は、撮像センサ102に対して、指定されたラインアドレスから順次ラインアドレスを加算して読み出しを継続するものとして説明する。撮像センサ102は、撮像部であり、表示パネル101が表示する画像を、光電変換により撮像し、撮像した画像をセンサデータとして生成する。撮像センサ102は、センサラインアドレス情報109に示されるラインアドレスからのセンサデータを読み出し、そのセンサデータをセンサ撮像結果データ114として蓄積部116に出力する。蓄積部116は、センサ撮像結果データ114を撮像センサ102から取得して蓄積する。その際、蓄積部116は、撮像センサ制御部113から入力される読み出しライン情報とセンサ撮像結果データ114とを対応付けて蓄積する。
撮像画像解析部(取得部)117は、撮像領域決定機構110から入力される有効撮像領域情報111に基づき、蓄積部116から撮像結果データ115を取得する。すなわち、撮像画像解析部117は、撮像センサ102により撮像された画像を取得する。そして、撮像画像解析部117は、取得した撮像結果データ115の画像解析を行い、画像処理制御に反映するパラメータ生成に必要な画像制御情報118を生成し、画像制御情報118をパラメータ生成部119に出力する。具体的には、撮像画像解析部117は、画像解析として、撮像結果データ115から撮像画像の色情報を取得し、撮像画像の色情報と表示画像の色情報との比較を行い、周辺光や環境光の情報を抽出する処理等を行う。また、表示パネル101であるプロジェクタの位置合わせのために撮像画像を使用する場合には、例えば、表示パネル101は、画像にウォーターマーク画像を重畳して表示する。その場合、撮像画像解析部117は、撮像結果データ115からウォーターマーク画像を検出し、表示位置情報を抽出する処理を行う。撮像画像解析部117は、周辺光や環境光の情報、及び表示位置情報等を画像制御情報118として、パラメータ生成部119に出力する。パラメータ生成部119は、撮像画像解析部117から入力される画像制御情報118に基づいて、画像処理制御のパラメータを生成し、画像処理部120に対して画像処理の制御や動作設定を行う。具体的には、パラメータ生成部119は、画像処理部120に対して、周辺光や環境光に適応するための色補正設定や、表示パネル101であるプロジェクタの位置合わせのための変形制御及び重畳制御等を行う。
以上のように、表示装置100は、周辺の光等の環境光を検出して、自律的に画像調整を行う。表示パネル101がプロジェクタの場合、表示措置100は、環境光の他、投影面の形状調整やフォーカス調整、さらに複数台のプロジェクタ連携時のプロジェクタ間位置調整等の調整を自律的に調整することができる。プロジェクタで表示形状調整や位置調整を行う場合、撮像センサ102がプロジェクタの表示面を撮像し、撮像画像解析部117が撮像画像を解析することで、形状調整や位置調整を実現する。また、表示装置100は、表示色の検出や環境光の影響を検出し、色調整等を行うことができる。
表示パネル101は、デジタル方式のパネル駆動を行う。表示パネル101は、フレームレートに基づく1フレーム画像のフレーム信号を複数のサブフィールドに時分割し、1フレーム画像の輝度を複数のサブフィールドに分散させて表示する。表示パネル101では、単一のサブフィールド期間では分散された各色の輝度値のみが表示され、1フレームの積分でフレームの輝度値が表現される。
撮像方式には、グローバルシャッタ方式とローリングシャッタ方式がある。グローバルシャッタ方式は、主にCCDセンサを用いて、CCDセンサの撮像面全体の露光及びシャッタのタイミングを一括に行う方式である。これに対して、ローリングシャッタ方式は、主にCMOSセンサを用いて、CMOSセンサの水平スキャン毎に露光及びシャッタのタイミングを制御する方式である。このため、ローリングシャッタ方式は、ラインスキャン方式の撮像系としても表現可能である。撮像センサ102は、ローリングシャッタ方式である。グローバルシャッタ方式の場合、CCDセンサの撮像面全面を同タイミングで撮像することができるのに対して、ローリングシャッタ方式では、CMOSセンサの水平スキャンライン毎に撮像のタイミングが異なる。しかし、ローリングシャッタ方式は、グローバルシャッタ方式に対して、センサの小型化や省電力化が可能であり、かつ低コストでの実現が可能である。したがって、表示パネル101の表示画像を撮像し、表示画像の画像制御に反映する撮像装置100には、ローリングシャッタ方式を用いた撮像センサ102の使用が好ましい。
撮像センサ102は、光電変換を行う行列状に配置された複数の画素を有し、ラインスキャンを行い、ライン単位で画素の信号を順に読み出す。表示パネル101の表示画像を撮像センサ102で撮像する場合、撮像センサ102のラインスキャンによっては露光期間が複数のフレームに跨って取得されてしまうケースが存在する。以下、図6を参照しながら説明する。
図6は、表示パネル101の表示画像の垂直同期タイミング2012と表示パネル101での1フレームの画像を複数のサブフィールドに時分割して出力するタイミングを示すタイミングチャートである。有効画像期間2011は、垂直ブランキング期間2010に挟まれた期間である。例えば、表示パネル101は、垂直同期期間内のフレーム信号の有効画像期間2011を8つのサブフィールドSf1〜Sf8に分割して駆動する。フレーム信号は、垂直同期期間内のサブフィールドSf1〜Sf8を時間で輝度積分したものとして表現される。すなわち、表示パネル101は、各々が複数のサブフィールドSf1〜Sf8に時分割された複数のフレームの画像を表示する。
さらに、図6では、撮像センサ102の10個のラインの露光及びシャッタタイミング2000〜2009の関係を合わせて示している。図6で示す矢印の端部がシャッタタイミングであり、矢印内の期間が露光期間を示している。撮像センサ102は、表示パネル101により表示された画像をライン単位で順次撮像する。撮像センサ102では、各ラインの露光及びシャッタタイミング2000〜2009が相互にずれている。撮像センサ102が表示パネル101の表示画像を撮像する場合、少なくとも露光期間は、表示画像の有効画像期間2011をカバーする期間である必要がある。図6では、撮像センサ102の露光及びシャッタのフレームレートと表示パネル101の表示画像のフレームレートが同一であるケースを例示している。その場合、撮像センサ102の露光及びシャッタタイミング2000〜2009の中で単一の有効画像期間2011をカバーするラインは、タイミング2000、2001、2002のラインである。タイミング2000、2001、2002のラインの撮像結果は、特定のフレーム信号に対して分割されたサブフィールドSf1〜Sf8の積分結果として得られる。これに対して、露光及びシャッタタイミング2000〜2009の中で単一の有効画像期間2011をカバーしていないラインは、タイミング2003〜2009のラインである。タイミング2003〜2009のラインの撮像結果は、複数のフレーム信号に跨って分割されたサブフィールドの積分結果として得られてしまう。例えば、露光及びシャッタタイミング2005では、前フレーム信号の一部のサブフィールドSf4〜Sf8と後フレーム信号の一部のサブフィールドSf1〜Sf3の積分結果が撮像結果として得られる。その結果、露光及びシャッタタイミング2000〜2002のラインの撮像結果は、同一のフレーム信号内のサブフレームSf1〜Sf8の積分結果として取得される。これに対し、タイミング2003〜2009のラインの撮像結果は、複数のフレーム信号に跨ったサブフレームの積分結果として取得される。表示装置100は、撮像センサ102が表示パネル101の表示画像を撮像し、その撮像結果を画像処理のパラメータに反映させる。その場合、表示装置100は、撮像結果にしたがって画像の補正を行う処理では、複数フレームに跨って積分された領域の撮像結果を補正処理の元データとして使用できない。例えば、撮像結果を色補正のパラメータ生成に使用するケースでは、複数フレームに跨って積分された結果は表示色と異なる色として撮像され得るため、その撮像結果に基づいて色補正が行われると、誤った色補正を施すことになりかねない。また、表示パネル101が位置合わせのためにフレーム毎に異なるウォーターマークを付加する場合、撮像された画像の1フレームには、表示画像の複数のフレームに跨るウォーターマークが検出され、撮像結果を位置合わせパラメータに使用できない。したがって、撮像センサ102が表示パネル101の表示画像を撮像する場合、撮像センサ102は、表示パネル101の1フレーム内の全ラインを撮像することができない課題がある。以下、この課題を解決するための実施形態を説明する。
図2は、本実施形態による表示装置100の制御方法を示すフローチャートであり、撮像領域決定機構110及び撮像センサ制御部113の制御により実現される撮像領域制御を示す。ステップS200では、制御システム122は、画像制御のユースケース指定に従って、撮像結果解析モード及び撮像領域を決定する。例えば、パラメータ生成部119が色補正パラメータを算出する場合、撮像画像解析部117は、同一領域については1フレームのデータを取得できればよい。また、パラメータ生成部119が2フレーム連続の特定パターンで挿入されるウォーターマークを抽出した位置調整を行う場合、撮像画像解析部117は、2フレーム連続で同一領域の撮像画像が必要となる。撮像結果解析モードは、このようなユースケースに応じて、撮像制御のモードを決定するためのモードである。撮像領域は、ユースケースに応じて、撮像センサ102の特定ライン領域のデータが必要か、又は撮像センサ102の全ライン領域のデータが必要かを決定するための領域である。例えば、撮像領域決定機構110は、位置合わせのために上下端部の撮像画像が必要である場合には、上下端部領域を撮像領域として決定し、全ラインの撮像画像が必要である場合には全ラインを撮像領域として決定する。
次に、ステップS201では、撮像領域決定機構110は、同期制御部104から垂直ブランキング期間情報107を取得する。取得のタイミングは、同期制御部104の機能に依存する。例えば、同期制御部104は、当該フレームの有効画像期間に、当該フレームの有効画像期間2011と次フレームの有効画像期間2011との間の垂直ブランキング期間情報107を撮像領域決定機構110に出力する。垂直ブランキング期間情報107は、垂直ブランキング期間2010の情報である。
次に、ステップS202では、撮像領域決定機構110は、垂直ブランキング期間情報107を基に、垂直ブランキング期間2010内で露光期間が開始し、その次の垂直ブランキング期間2010内でその露光期間が終了するライン数を決定する。図6では、露光及びシャッタタイミング2000〜2009は、矢印の左端が露光期間開始を示し、矢印の右端が露光期間終了を示し、矢印の期間が露光期間を示す。露光及びシャッタタイミング2000〜2002の3ラインは、その矢印の左端が示すように、垂直ブランキング期間2010内で露光期間が開始し、その矢印の右端が示すように、その次の垂直ブランキング期間2010内で露光期間が終了する。この場合、撮像領域決定機構110は、垂直ブランキング期間2010内で露光期間が開始し、その次の垂直ブランキング期間2010内でその露光期間が終了するライン数として3ラインを決定する。すなわち、撮像領域決定機構110は、表示パネル101が表示する同一フレーム内のすべてのサブフィールドSf1〜Sf8を撮像センサ102が撮像可能なライン数として3ラインを決定する。この3ラインは、同一フレーム内のすべてのサブフィールドSf1〜Sf8を含むので、画像解析可能な有効ライン数である。なお、決定されるライン数は、3ラインの例を説明したが、撮像センサ102及び垂直ブランキング期間2010に応じて、実際には3ラインより多くなる。
次に、ステップS203では、撮像領域決定機構110は、ステップS200で決定された撮像領域に基づき、撮像領域のラインスキャン開始アドレスを生成する。例えば、ステップS200で決定された撮像領域が全ライン領域である場合、撮像領域決定機構110は、先頭ラインの開始アドレスを生成する。撮像画像解析部117は、ステップS203で決定されたラインスキャン開始アドレスから、ステップS202で決定されたライン数分、撮像センサ102より有効画像を取得可能になる。撮像領域決定機構110は、その生成したラインスキャン開始アドレスをセンサラインアドレス情報109として撮像センサ制御部113に出力する。
次に、ステップS204では、撮像センサ制御部113は、同期制御部104から入力される垂直ブランキング期間タイミングをトリガタイミング情報106として検出する。すなわち、図6の場合、撮像センサ制御部113は、垂直ブランキング期間2010の開始を検出するまで待機する。
ステップS205では、撮像センサ制御部113は、垂直ブランキング期間2010の開始を示すトリガタイミング情報106をトリガにして、撮像センサ102に対して、シャッタ及び露光制御により読み出し制御を行う。具体的には、撮像センサ制御部113は、撮像センサ102に対して、センサラインアドレス情報109を開始ラインアドレスとして、撮像領域の開始ラインから撮像センサ102の最終ラインまで読み出しを行う。撮像センサ制御部113は、撮像センサ102に対して、各ラインの露光期間に基づき、順次読み出しラインを変更し、撮像領域の開始ラインから撮像センサ102の最終ラインまで読み出しを行う。この読み出しは、図6に示すように、現在のフレームに対して、露光及びシャッタタイミング2000〜2009の矢印の左端が示す露光期間の開始を示す。
次に、ステップS206では、撮像センサ制御部113は、ステップS204と同様に、同期制御部104から入力される次の垂直ブランキング期間タイミングをトリガタイミング情報106として検出する。すなわち、撮像センサ制御部113は、次の垂直ブランキング期間2010の開始を検出するまで待機する。
次に、ステップS207では、撮像センサ制御部113は、垂直ブランキング期間2010の開始を示すトリガタイミング情報106をトリガにして、撮像センサ102に対して、シャッタ及び露光制御により読み出し制御を行う。具体的には、撮像センサ制御部113は、撮像センサ102に対して、センサラインアドレス情報109を開始ラインアドレスとして、撮像領域の開始ラインから撮像センサ102の最終ラインまで読み出しを行う。撮像センサ制御部113は、撮像センサ102に対して、各ラインの露光期間に基づき、順次読み出しラインを変更し、撮像領域の開始ラインから撮像センサ102の最終ラインまで読み出しを行う。この読み出しは、図6に示すように、現在のフレームに対して、露光及びシャッタタイミング2000〜2009の矢印の右端が示す露光期間の終了を示す。それと同時に、この読み出しは、次のフレームに対して、露光及びシャッタタイミング2000〜2009の矢印の左端が示す露光期間の開始をも示す。
次に、ステップS209では、蓄積部116は、ステップS207で撮像センサ102から読み出されたラインの撮像画像を取得して蓄積する。なお、蓄積された撮像画像は、先頭ラインから、ステップS202で決定されたライン数分のラインが同一フレーム内のすべてのサブフィールドSf1〜Sf8を含む有効画像のラインである。その他のラインは、2つのフレームに跨るサブフィールドSf1〜Sf8を含む無効画像のラインである。そこで、後に、撮像画像解析部117は、蓄積部116に蓄積された撮像画像に対して、先頭ラインから、ステップS202で決定されたライン数分のラインのみを有効画像として取得して解析する。これにより、撮像画像解析部117は、ステップS203で指定されたラインからステップS202で決定されたライン数分の撮像画像を、有効画像として取得することができる。
次に、ステップS210では、制御システム122は、ステップS200で決定されたすべての撮像領域についての有効画像の取得が完了したか否かを判定する。撮像領域決定機構110は、すべての撮像領域についての有効画像の取得が完了した場合には処理を終了し、すべての撮像領域についての有効画像の取得が完了していない場合には次のフレームの処理のためにステップS211に処理を進める。例えば、ステップS200で決定された撮像領域の一部のラインの有効画像しか取得できていない場合には、制御システム122は、ステップS211に処理を進める。また、2フレーム連続のウォーターマークのうちの1フレームのウォーターマークしか取得できていない場合には、制御システム122は、ステップS211に処理を進める。
ステップS211では、制御システム122は、ステップS200で決定された撮像結果解析モードを基に、後続フレームの撮像領域が現在のフレームの撮像領域と同一の領域であるか否かを判定する。制御システム122は、同一の領域であると判定した場合には、ステップS206からの処理を次のフレームについて繰り返し行う。例えば、2フレーム連続してウォーターマークを撮像する場合には、最初のステップS206〜S209の処理により、1フレーム目のウォーターマークを撮像し、次のステップS206〜S209の処理により、2フレーム目のウォーターマークを撮像する。2フレームのウォーターマークの撮像が終了すると、ステップS210では、制御システム122は、処理を終了する。
また、ステップS211において、制御システム122は、同一の領域でないと判定した場合には、ステップS212に処理を進める。例えば、ステップS200で決定された撮像領域の一部のラインの有効画像しか取得できていない場合には、制御システム122は、ステップS212に処理を進める。ステップS200で決定された撮像領域が全ライン領域であり、ステップS202で決定されたライン数が3ラインである場合、上記のステップS206〜S209の処理により、1ライン目〜3ライン目の有効画像を取得する。そして、後述のステップS212以降の処理により、4ライン目〜6ライン目の有効画像を取得する。
ステップS212では、撮像領域決定機構110は、ステップS201と同様に、同期制御部104から垂直ブランキング期間情報107を取得する。次に、ステップS213では、撮像領域決定機構110は、ステップS202と同様に、垂直ブランキング期間2010内で露光期間が開始し、その次の垂直ブランキング期間2010内でその露光期間が終了するライン数を決定する。
次に、ステップS214では、撮像領域決定機構110は、ステップS203と同様に、次の撮像領域のラインスキャン開始アドレスを生成して更新する。例えば、ステップS200で決定された撮像領域が全ライン領域であり、上記のステップS206〜S209で1ライン目〜3ライン目の有効画像を取得した場合、撮像領域決定機構110は、4ライン目のスキャン開始アドレスを生成して更新する。
その後、制御システム122は、ステップS204の処理に戻り、次フレームについての処理を繰り返す。例えば、1回目のステップS206〜S209の処理で1ライン目〜3ライン目の有効画像を取得し、2回目のステップS206〜S209の処理で4ライン目〜6ライン目の有効画像を取得することができる。制御システム122は、この処理を最終ラインまで繰り返すことにより、全ラインの有効画像を取得することができる。
撮像画像解析部117は、蓄積部116に蓄積された各フレームの撮像画像に対して、先頭ラインから、ステップS202及びS213で決定されたライン数分のラインのみを有効画像として取得して解析する。これにより、撮像画像解析部117は、全ラインの有効画像を取得することができる。
図3及び図4は、表示装置100の処理例を示すシーケンス図であり、フレームの時間と処理の関係を示す。図3は、撮像結果解析モードとして、1フレームの撮像画像を解析するモードの場合を例示している。例えば、撮像領域は、全ライン領域である。図3の上部は、表示パネル101に対する画像出力と垂直同期タイミングを示す。図3の下部は、表示装置100の処理シーケンスを示しており、各処理については図2に示した処理ステップを示している。ここで、制御システム122は、撮像結果解析モード全体を制御する機構であり、例えばソフトウエア等で実現される。制御システム122は、表示パネル101の画像表示とその表示画像の撮像連携処理の開始指示に従い、一連の処理を開始し、ステップS200の撮像結果解析モード及び撮像領域決定処理を行う。ステップS200の処理は、表示パネル100の表示タイミングとは非同期であってもよい。制御システム122は、ステップS200の処理結果を撮像領域決定機構110に出力する。撮像領域決定機構110は、ステップS201〜S203の処理を行い、その処理結果としてセンサラインアドレス情報109を生成する。例えば、撮像領域が全ライン領域である場合、センサラインアドレス情報109は、1行目のアドレスをラインスキャン開始アドレスとして示す。撮像センサ制御部113は、この時点で、ステップS204の垂直ブランキング期間(blank)2010の開始タイミングを検出し、同期制御部104から入力されるトリガタイミング情報106を待つ。撮像センサ制御部113は、トリガタイミング情報106を入力すると、ステップS205のシャッタ及び露光制御を開始する。すなわち、撮像センサ制御部113は、フレーム1の露光期間の開始を指示する。撮像センサ102は、フレーム0の読み出しを行うことにより、フレーム1の露光期間を開始する。次に、撮像センサ制御部113は、ステップS206のフレーム1終了後の垂直ブランキング期間2010の検出の待ち状態となる。次に、撮像センサ制御部113は、後続のトリガタイミング情報106を入力すると、ステップS207のシャッタ及び露光制御を開始する。撮像センサ制御部113は、フレーム1の読み出しを行うことにより、フレーム2の露光期間を開始する。ステップS209では、蓄積部116は、撮像センサ102から読み出されるフレーム1の画像を蓄積する。ここで、垂直ブランキング期間2010に読み出されるデータ300は、撮像センサ102から読み出されるデータのうち、撮像画像解析部117が画像解析に使用可能な有効画像として取り扱うデータの期間を示している。すなわち、データ300は、フレーム1内のすべてのサブフィールドSf1〜Sf8を含むラインのデータであり、例えばフレーム1の1ライン目〜3ライン目のデータである。
ステップS207の完了後、撮像領域の一部のライン(例えば1ライン目〜3ライン目)の有効画像しか取得できていないので、制御システム122は、ステップS210ではステップS211に進み、ステップS211ではステップS212に進む。撮像領域決定機構110は、ステップS212〜S214の処理を行い、次の撮像領域のセンサラインアドレス情報109を生成する。例えば、撮像領域が全ライン領域である場合、センサラインアドレス情報109は、4行目のアドレスをラインスキャン開始アドレスとして示す。次に、ステップS204では、撮像センサ制御部113は、フレーム2後の垂直ブランキング期間2010が開始するまで待機する。次に、ステップS205では、撮像センサ制御部113は、読み出し制御を行う。これにより、撮像センサ102は、フレーム2の読み出しを行うことにより、フレーム3の露光期間を開始する。次に、ステップS206では、撮像センサ制御部113は、フレーム3終了後の垂直ブランキング期間2010の検出の待ち状態となる。次に、ステップS207では、撮像センサ制御部113は、読み出し制御を行う。これにより、撮像センサ102は、フレーム3の読み出しを行うことにより、フレーム4の露光期間を開始する。ステップS209では、蓄積部116は、撮像センサ102から読み出されるフレーム3の画像を蓄積する。ここで、垂直ブランキング期間2010に読み出されるデータ301は、撮像センサ102から読み出されるデータのうち、撮像画像解析部117が画像解析に使用可能な有効画像として取り扱うデータの期間を示している。すなわち、データ301は、フレーム3内のすべてのサブフィールドSf1〜Sf8を含むラインのデータであり、例えばフレーム3の4ライン目〜6ライン目のデータである。以後は、先に示した制御と同様の処理シーケンスで処理が行われる。以上の処理により、1フレーム単位で撮像センサ102から取得する撮像領域の制御が可能である。また、垂直ブランキング期間2010の検出をトリガーにして各フレームの露光期間が開始されるため、垂直ブランキング期間2010の揺らぎの発生にも追従可能である。垂直ブランキング期間2010の揺らぎにより、ステップS202のライン数とステップS213のライン数が異なる場合がある。
以上のように、撮像センサ102は、表示パネル101により表示される第1のフレーム(フレーム1)の画像に対して第1の開始ライン(例えば1ライン目)からライン単位で順次撮像する。その後、撮像センサ102は、表示パネル101により表示される第2のフレーム(フレーム3)の画像に対して第1の開始ラインとは異なる第2の開始ライン(例えば4ライン目)からライン単位で順次撮像する。撮像画像解析部117は、撮像センサ102により撮像された第1のフレームの画像(フレーム1)のうちの第1のライン領域(例えば1ライン目〜3ライン目)を取得する。また、撮像画像解析部117は、撮像センサ102により撮像された第2のフレーム(フレーム3)の画像のうちの第1のライン領域に続く第2のライン領域(例えば4ライン目〜6ライン目)を取得する。第1のライン領域のラインは、第1のフレーム内のすべてのサブフィールドSf1〜Sf8を含む。第2のライン領域のラインは、第2のフレーム内のすべてのサブフィールドSf1〜Sf8を含む。第2の開始ラインは、第1の開始ラインに対して、第1のライン領域のライン数を加算したラインである。
撮像センサ102は、ライン単位で順次露光期間を制御する。第1のライン領域のラインは、第1のフレーム(フレーム1)の前の垂直ブランキング期間2010内に露光期間が開始し、第1のフレーム(フレーム1)の後の垂直ブランキング期間2010内に露光期間が終了する。第2のライン領域のラインは、第2のフレーム(フレーム3)の前の垂直ブランキング期間2010内に露光期間が開始し、第2のフレーム(フレーム3)の後の垂直ブランキング期間2010内に露光期間が終了する。
撮像センサ102は、第1のフレーム(フレーム1)の前の垂直ブランキング期間2010内に第1のフレームの前のフレーム(フレーム0)の第1のライン領域のラインを読み出す。そして、撮像センサ102は、第1のフレーム(フレーム1)の後の垂直ブランキング期間2010内に第1のフレーム(フレーム1)の第1のライン領域のラインを読み出す。
また、撮像センサ102は、第2のフレーム(フレーム3)の前の垂直ブランキング期間2010内に第2のフレームの前のフレーム(フレーム2)の第2のライン領域のラインを読み出す。そして、撮像センサ102は、第2のフレーム(フレーム3)の後の垂直ブランキング期間2010内に第2のフレーム(フレーム3)の第2のライン領域のラインを読み出す。
ステップS200では、制御システム122は、領域決定部であり、撮像領域を決定する。第1の開始ラインは、その決定された撮像領域の先頭ラインである。第1のライン領域及び第2のライン領域は、その決定された撮像領域に含まれる。
ステップS202では、撮像領域決定機構110は、第1のフレーム(フレーム1)の前の垂直ブランキング期間情報107を基に第1のフレームの前の垂直ブランキング期間2010内に読み出し可能な第1の最大ライン数(例えば3ライン)を決定する。ここで、撮像領域決定機構110は、ライン数決定部である。ステップS213では、撮像領域決定機構110は、第2のフレーム(フレーム3)の前の垂直ブランキング期間情報107を基に第2のフレームの前の垂直ブランキング期間2010内に読み出し可能な第2の最大ライン数(例えば3ライン)を決定する。第1のライン領域のライン数は、第1の最大ライン数である。第2のライン領域のライン数は、第2の最大ライン数である。
画像処理部120は、撮像画像解析部117により取得された画像を基に、入力画像に対して画像処理する。表示パネル101は、画像処理部120により画像処理された画像を表示する。
図4は、撮像結果解析モードとして、2フレーム連続のウォーターマークを解析するモードの場合を例示している。ステップS200〜S204の処理は、図3のものと同様である。撮像領域は、ウォーターマークの領域である。ステップS205では、撮像センサ102は、ウォーターマークの撮像領域に対して、フレーム0の読み出しを行うことにより、フレーム1の露光期間を開始する。次に、ステップS206では、撮像センサ制御部113は、フレーム1後の垂直ブランキング期間2010の待ち状態となる。次に、ステップS207では、撮像センサ102は、ウォーターマークの撮像領域に対して、フレーム1の読み出しを行うことにより、フレーム2の露光期間を開始する。ステップS209では、蓄積部116は、撮像センサ102から読み出されるフレーム1の画像を蓄積する。ここで、垂直ブランキング期間2010に読み出されるデータは、フレーム1内のすべてのサブフィールドSf1〜Sf8を含むラインのデータであり、例えばフレーム1の1ライン目〜3ライン目のデータである。
ステップS207の完了後、2フレーム連続の同一撮像領域のウォーターマークを撮像するため、制御システム122は、ステップS210ではステップS211に処理を進め、ステップS211ではステップS206に処理を進める。ステップS206では、撮像センサ制御部113は、フレーム2後の垂直ブランキング期間2010の待ち状態となる。次に、ステップS207では、撮像センサ102は、ウォーターマークの撮像領域に対して、フレーム2の読み出しを行うことにより、フレーム3の露光期間を開始する。ステップS209では、蓄積部116は、撮像センサ102から読み出されるフレーム2の画像を蓄積する。ここで、垂直ブランキング期間2010に読み出されるデータは、フレーム2内のすべてのサブフィールドSf1〜Sf8を含むラインのデータであり、例えばフレーム2の1ライン目〜3ライン目のデータである。
ステップS207の完了後、2フレーム連続の撮像領域の残りのラインの有効画像を撮像するため、制御システム122は、ステップS210ではステップS211に処理を進め、ステップS211ではステップS212に処理を進める。撮像領域決定機構110は、ステップS212〜S214の処理を行い、次の撮像領域のセンサラインアドレス情報109を生成する。例えば、センサラインアドレス情報109は、4行目のアドレスをラインスキャン開始アドレスとして示す。次に、ステップS204では、撮像センサ制御部113は、フレーム3後の垂直ブランキング期間2010の待ち状態となる。次に、ステップS205では、撮像センサ102は、ウォーターマークの撮像領域に対して、フレーム3の読み出しを行うことにより、フレーム4の露光期間を開始する。次に、ステップS206では、撮像センサ制御部113は、フレーム4後の垂直ブランキング期間2010の待ち状態となる。次に、ステップS207では、撮像センサ102は、ウォーターマークの撮像領域に対して、フレーム4の読み出しを行うことにより、フレーム5の露光期間を開始する。ステップS209では、蓄積部116は、撮像センサ102から読み出されるフレーム4の画像を蓄積する。ここで、垂直ブランキング期間2010に読み出されるデータは、フレーム4内のすべてのサブフィールドSf1〜Sf8を含むラインのデータであり、例えばフレーム4の4ライン目〜6ライン目のデータである。その後、同様の処理を繰り返し、例えばフレーム5の4ライン目〜6ライン目の有効画像を取得する。以後、同様に、2フレーム連続の有効画像取得処理が、撮像領域の最終ラインまで繰り返される。以上の処理により、撮像センサ102から2フレーム連続で同一撮像領域の解析可能な有効画像を取得することができる。
以上のように、撮像センサ102は、表示パネル101により表示される第1のフレーム(フレーム1)の画像に対して第1の開始ライン(例えば1ライン目)からライン単位で順次撮像する。その後、撮像センサ102は、表示パネル101により表示される第1のフレームの直後のフレーム(フレーム2)の画像に対して第1の開始ライン(例えば1ライン目)からライン単位で順次撮像する。その後、撮像センサ102は、表示パネル101により表示される第2のフレーム(フレーム4)の画像に対して第1の開始ラインとは異なる第2の開始ライン(例えば4ライン目)からライン単位で順次撮像する。撮像画像解析部117は、撮像センサ102により撮像された第1のフレームの画像(フレーム1)のうちの第1のライン領域(例えば1ライン目〜3ライン目)を取得する。また、撮像画像解析部117は、撮像センサ102により撮像された第1のフレームの直後のフレーム(フレーム2)の画像のうちの第1のライン領域(例えば1ライン目〜3ライン目)を取得する。また、撮像画像解析部117は、撮像センサ102により撮像された第2のフレーム(フレーム4)の画像のうちの第1のライン領域に続く第2のライン領域(例えば4ライン目〜6ライン目)を取得する。
(第2の実施形態)
図5は、本発明の第2の実施形態による表示装置100の構成例を示す図である。本実施形態(図5)の表示装置100は、第1の実施形態の表示装置100に対して、静止画像判定部501を追加したものである。以下、本実施形態が第1の実施形態と異なる点を説明する。静止画像判定部501は、画像処理部120内に設けられ、表示画像のフレーム間の差分を基に、表示画像が静止画像であるか動画像であるかを判定し、静止画像判定結果情報502を撮像領域決定機構110に出力する。フレーム間に差分がなければ静止画像であると判定され、フレーム間に差分があれば動画像であると判定される。撮像領域決定機構110は、静止画像判定結果情報502が動画像である場合には、第1の実施形態と同様の処理を行う。これに対し、静止画像判定結果情報502が静止画像である場合には、ステップS202及びS213では、撮像領域決定機構110は、撮像センサ102の全ライン数を、ステップS201及びS202のライン数として決定する。
また、撮像領域決定機構110は、静止画像判定結果情報502が動画像である場合には、撮像画像解析部117に対して、撮像センサ102により撮像された画像のうちのどの領域が有効画像であるかを示す有効撮像領域情報111を出力する。この処理は、第1の実施形態と同様である。また、静止画像判定結果情報502が静止画像である場合には、撮像領域決定機構110は、撮像画像解析部117に対して、撮像センサ102により撮像された画像のすべての領域が有効画像であるかを示す有効撮像領域情報111を出力する。
静止画像は、表示画像のフレーム間に差分がない。そのため、表示画像が静止画像である場合には、撮像センサ102により撮像された画像のすべての領域を有効画像にする。これに対し、表示画像が動画像である場合には、第1の実施形態と同様に、同一フレーム内のすべてのサブフィールドSf1〜Sf8を含むラインのみを有効画像にする。
静止画像判定部501は、表示パネル101により表示される画像が動画像及び静止画像のいずれであるのかを判定する。表示装置100は、静止画像判定部501により動画像であると判定された場合には、第1の実施形態と同様の動作を行う。次に、静止画像であると判定された場合を説明する。撮像センサ102は、静止画像判定部501により静止画像であると判定された場合には、表示パネル101により表示される第1のフレームの画像に対してライン単位で順次撮像する。撮像画像解析部117は、静止画像判定部501により静止画像であると判定された場合には、撮像センサ102により撮像された第1のフレームの画像の全ライン領域を取得する。
第1及び第2の実施形態によれば、表示パネル101により表示される画像を撮像センサ102により撮像することができる。撮像センサ102は、ローリングシャッタ方式のCMOSセンサ等であり、グローバルシャッタ方式のCCDセンサに比べて安価である。撮像画像解析部117は、同一フレーム内のすべてのサブフィールドSf1〜Sf8を含むラインの画像を取得することができる。これにより、画像処理部120は、撮像画像解析部117により取得された画像を基に、適切な画像処理を行い、適切な画像を表示パネル101に表示させることができる。
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。