JP4799225B2 - 画像処理装置および画像表示方法 - Google Patents

画像処理装置および画像表示方法 Download PDF

Info

Publication number
JP4799225B2
JP4799225B2 JP2006063049A JP2006063049A JP4799225B2 JP 4799225 B2 JP4799225 B2 JP 4799225B2 JP 2006063049 A JP2006063049 A JP 2006063049A JP 2006063049 A JP2006063049 A JP 2006063049A JP 4799225 B2 JP4799225 B2 JP 4799225B2
Authority
JP
Japan
Prior art keywords
image
input image
display
processing apparatus
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006063049A
Other languages
English (en)
Other versions
JP2007240873A (ja
Inventor
藤 剛 伊
脇 一 泰 大
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2006063049A priority Critical patent/JP4799225B2/ja
Priority to EP07250924A priority patent/EP1833042A3/en
Priority to US11/683,757 priority patent/US20070211000A1/en
Publication of JP2007240873A publication Critical patent/JP2007240873A/ja
Application granted granted Critical
Publication of JP4799225B2 publication Critical patent/JP4799225B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2007Display of intermediate tones
    • G09G3/2018Display of intermediate tones by time modulation using two or more time intervals
    • G09G3/2022Display of intermediate tones by time modulation using two or more time intervals using sub-frames
    • G09G3/2025Display of intermediate tones by time modulation using two or more time intervals using sub-frames the sub-frames having all the same time duration
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2007Display of intermediate tones
    • G09G3/2077Display of intermediate tones by a combination of two or more gradation control methods
    • G09G3/2081Display of intermediate tones by a combination of two or more gradation control methods with combination of amplitude modulation and time modulation
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/22Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources
    • G09G3/30Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels
    • G09G3/32Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters using controlled light sources using electroluminescent panels semiconductive, e.g. using light-emitting diodes [LED]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/10Special adaptations of display systems for operation with variable images
    • G09G2320/106Determination of movement vectors or equivalent parameters within the image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0414Vertical resolution change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0421Horizontal resolution change
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0457Improvement of perceived resolution by subpixel rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Control Of El Displays (AREA)

Description

本発明は、ドットマトリクス型表示装置の空間解像度よりも高い空間解像度の入力画像信号が入力される表示システムに用いて好適な画像処理装置および画像表示方法に関する。
赤、緑、青の三原色のいずれかを発光可能な複数のLED(Light-Emitting Diode:発光ダイオード)をドットマトリクス状に配列した大型LED表示装置がある。すなわち、この表示装置の各画素は赤、緑、青のいずれか一色を発光可能なLEDを備えている。しかし、1つあたりのLEDの素子サイズは大きいため、大型表示装置であっても、高精細化は難しく、空間解像度は余り高くない。そのため表示装置よりも高い解像度を持つ入力画像信号を表示するためにはダウンサンプリングを必要とするが、折り返しによるちらつきは画質を著しく劣化させるため、プリフィルタとしてローパスフィルタを通すのが一般的である。当然ではあるが、ローパスフィルタにより高域を減らしすぎると、かえって画像がぼけてしまい視認性は悪くなる。
一方、LED表示装置はLED素子の応答特性が非常に速く(0msに近い)、また輝度を確保するため、通常同じ画像を複数回リフレッシュして表示を行っている。例えば通常入力画像信号のフレーム周波数は60Hzであるが、LED表示装置のフィールド周波数は1000Hzに及ぶ。このように、解像度は低いがフィールド周波数が高いことが特徴となる。
LED表示装置の高解像度化手法として、例えば特許第3396215号公報(特許文献1)では次の手法で改善を試みている。まず、表示装置の各ランプ(表示素子)と、入力画像上の画素(1つの画素が赤、緑、青の3つの色成分を有する)とを1対1に応付ける。そして、1フレーム期間を4つのフィールド(以下、サブフィールドと呼ぶ)期間に分けて表示する。
第1サブフィールド期間では、各ランプは、そのランプに対応する画素の画素値のうち、そのランプと同じ色の成分の値に基づいて駆動される。第2サブフィールド期間では、そのランプに対応する画素の右にある画素の同じ色の成分の値に基づいて駆動される。第3サブフィールド期間では、そのランプに対応する画素の右下にある画素の同じ色の成分に基づいて駆動される。第4サブフィールド期間では、そのランプに対応する画素の下にある画素の同じ色の成分に基づいて駆動される。
すなわち、特許文献1の手法では入力画像の情報をサブフィールド期間ごとに間引き方を変えて時系列的に高速表示することで、入力画像すべての情報を表示しようと試みている。
特許第3396215号公報
しかしながら、特許文献1の手法では、入力画像のコンテンツに関わらず、常に一定の間引き方で各サブフィールド期間での表示を行っているため、入力画像のコンテンツによっては、動画の画質が大きく変動することが、本発明者らによる実験から明らかになった。
本発明は、ドットマトリクス型表示装置の空間解像度よりも高い空間解像度の入力画像信号が入力される表示システムにおいて動画を鮮明に表示可能な画像処理装置および画像表示方法を提供する。
本発明の一態様としての画像処理装置は、1つまたは複数の色成分を有する画素を複数有する入力画像の各フレームを、各々単一色を発光する複数の表示素子を有するドットマトリクス型表示装置に表示する画像処理装置であって、前記入力画像から、少なくとも、前記入力画像内のオブジェクトの移動方向を抽出する画像特徴抽出部と、前記オブジェクトの移動方向に基づき、1フレームの前記入力画像に対して、サブフィールドごとに、前記入力画像の空間的に異なる画素を選択して、前記表示装置の画素に対応させる解像度変換を行なうK個のフィルタに順位付けを行ない、前記K個のフィルタの各々によって生成されるK個のサブフィールド画像の表示順序を設定するフィルタ条件設定部と、前記K個のフィルタの各々を用い、1フレームの前記入力画像に対して、前記解像度変換のフィルタ処理を行って、前記K個のサブフィールド画像を生成するフィルタ処理部と、前記入力画像の1フレーム期間において、生成された前記K個のサブフィールド画像を、設定された前記表示順序にしたがって前記表示装置に表示することにより、1つのフレーム画像を生成する画像表示制御部と、を備える。
本発明の一態様としての画像表示方法は、1つまたは複数の色成分を有する画素を複数有する入力画像の各フレームを、各々単一色を発光する複数の表示素子を有するドットマトリクス型表示装置に表示する画像表示方法であって、前記入力画像から、少なくとも、前記入力画像内のオブジェクトの移動方向を抽出し、
前記オブジェクトの移動方向に基づき、1フレームの前記入力画像に対して、サブフィールドごとに、前記入力画像の空間的に異なる画素を選択して、前記表示装置の画素に対応させる解像度変換を行なうK個のフィルタに順位付けを行ない、前記K個のフィルタの各々によって生成されるK個のサブフィールド画像の表示順序を設定し、前記K個のフィルタの各々を用い、1フレームの前記入力画像に対して、前記解像度変換のフィルタ処理を行って、前記K個のサブフィールド画像を生成し、前記入力画像の1フレーム期間において、生成された前記K個のサブフィールド画像を、設定された前記表示順序にしたがって前記表示装置に表示することにより、1つのフレーム画像を生成する
本発明によれば、ドットマトリクス型表示装置の空間解像度よりも高い空間解像度の入力画像信号が入力される表示システムにおいて動画を鮮明に表示可能になる。
以下に、ドットマトリクス型表示装置の代表例であるLED(Light-Emitting Diode:発光ダイオード)表示装置を中心に、図面を参照しつつ本発明の実施形態を詳細に説明する。本発明の実施形態は、1フレーム期間をK個に分割した各サブフィールド期間についてそれぞれ入力画像に対し異なったフィルタ処理を行ってサブフィールド画像を生成し、生成した各サブフィールド画像をフレーム周波数のK倍の速さで表示することをベースとしている。以下では、このように時間方向に(サブフィールド期間毎に)異なるフィルタ処理を行うことを時変型フィルタ処理と呼び、この時変型フィルタ処理で用いるフィルタを時変型フィルタと呼ぶ。なお、本発明の対象とする表示装置は、LED表示装置に限定されるものではなく、本発明は、空間解像度は高くないがフィールド周波数が高い表示装置全般に有効な手法ある。
(第1の実施形態)
図1は本発明にかかわる画像処理システムの構成図である。
入力画像信号はフレームメモリ100に保存された後、画像特徴抽出部101へ送られる。
画像特徴抽出部101は、コンテンツ内のオブジェクト動き方向、速度、およびオブジェクトの空間周波数など画像の特徴を1つのフレーム画像、あるいは複数のフレーム画像間から求める。よって、フレームメモリは複数設けられる場合もある。
サブフィールド画像生成部102におけるフィルタ条件設定部103は、画像特徴抽出部101によって抽出された画像の特徴に基づき、1フレーム期間を複数(ここでは4つ)に分割した第1〜第4サブフィールド期間についてそれぞれ用いるべき第1〜第4フィルタを決定し、第1〜第4フィルタをサブフィールド1乃至4用フィルタ処理部(SF1乃至SF4 用フィルタ処理部)104(1)〜104(4)に渡す。より詳細には、フィルタ条件設定部103は、画像特徴抽出部101によって抽出された画像の特徴に基づき4つのフィルタに順位付けを行って4つのフィルタの各々によって生成される各画像の表示順序を設定し、表示順序の順にならべた第1〜第4フィルタをSF1乃至SF4 用フィルタ処理部104(1)〜104(4)に渡す。SF1乃至SF4 用フィルタ処理部104(1)〜104(4)は、フィルタ条件設定部103から渡された第1〜第4フィルタにしたがって入力フレーム画像へフィルタ処理を施し、第1〜第4サブフィールド画像を生成する(時変型フィルタ処理)。ここで、サブフィールド画像とは1枚のフレーム画像を時間方向に分割した画像であり、サブフィールド画像の時間方向の足し合わせが1枚のフレーム画像に相当する。SF0乃至SF3 用フィルタ処理部104(1)〜104(4)によって生成された第1〜第4サブフィールド画像は画像信号出力部105へ送られる。
画像信号出力部105は、画像信号出力部105から受け取った第1〜第4サブフィールド画像をフィールドメモリ106へ送る。LED駆動回路107は、フィールドメモリ106から1フレームに相当する第1〜第4サブフィールド画像を読み出し、これらのサブフィールド画像を第1〜第4の順に表示パネル(ドットマトリクス型表示装置)108に1フレーム期間で表示する。すなわち、フレーム周波数×サブフィールド数(本実施形態ではサブフィールド数は4)の速さで表示する。画像信号出力部105、フィールドメモリ106およびLED駆動回路107は例えば画像表示制御部に相当する。
本実施形態では1フレーム期間を4つのサブフィールド期間に分割する例を示しているため、SF用フィルタ処理部も4つ設けたが、SF0乃至SF3用フィルタ処理をそれぞれ時系列に行ってよいのであれば(並列処理を行う必要がないのであれば)SF用フィルタ処理部の数は1つであっても良い。
本実施形態の特徴は画像特徴抽出部101およびサブフィールド画像生成部102にあるが、これらについて詳細に説明するに先立ち、以下ではまず、時変型フィルタ処理におけるフィルタ条件が動画質に及ぼす影響について説明する。
説明を簡単にするために、図2に図示の通り、入力画像を4X4画素とし、画素の各々が、赤色(R)、緑色(G)、青色(B)について画像情報を持つとする。一方、表示パネルは4×4の表示素子(発光素子)を有するとし、入力画像における1つの画素(RGB1セット)が、表示パネルにおける1つの表示素子に対応するとする。1つの表示素子はRGBのいずれか一色のみ発光可能であり、例えば赤色LED、緑色LED、青色LEDのいずれかから構成される。よってこの例では入力画像における2X2画素を取ってみると(枠内を参照)、この2X2画素が、R1 個・G2 個・B1 個のLEDドット構成に変換される。このように、RおよびBに関しては空間解像度が1/4に、Gに関しては1/2に減らされるため、表示にあたっては色毎のサブサンプリングを行う必要がある。一般的には折り返しが発生しないように前処理としてローパスフィルタを入力画像に施す処理を行う。
時変型フィルタ処理の一般形として、入力画像(原画)に対してフィルタのかける空間的な位置(位相)を変えて各サブフィールド画像を作成する。例えば1フレーム期間(1/60秒)を4つのサブフィールド期間に分割し、1/240秒毎にサブフィールド画像を切り替えて表示する場合は、入力画像に対してフィルタのかける位置がサブフィールド期間毎に異ならせたサブフィールド画像を、4枚作成することになる。以下では、フィルタをかける空間的な位置を変えることをフィルタのシフトと呼び、フィルタの空間的な位置を変える方法をフィルタのシフト方法と呼ぶ。
図3に一例を示すとおり、フィルタのシフト方法は、複数考えられる。図3(a)のように入力画像におけるある2X2画素の各画素位置に番号付けを行うと、1234シフト方式では図3(b)のように、1,2,3,4の順に画素を選択する。具体的に、1の位置に対応する表示パネルの表示素子では、2X2画素の1,2,3,4の位置における該表示素子の色成分がこの順番でフレーム周波数の4倍で表示(発光)される。
同様に図3(c)のように、4312シフト方式では、4,3,1,2の順に画素を選択する。具体的に、1の位置に対応する表示パネルの表示素子では、2X2画素の1,2,3,4の位置における該表示素子の色成分が4,3,1,2の順番でフレーム周波数の4倍で表示される。
図3(d)は、2×2の固定型フィルタ(以下では2X2固定型と呼ぶ)によるフィルタ処理を説明するものである。2X2固定型フィルタ処理では、全サブフィールドにおいて1,2,3,4の位置の4画素の均等平均を取る。例えば、1の位置に対応する表示パネルの表示素子では、2X2画素の1,2,3,4の位置における色成分(該表示素子の色成分)の平均が、フレーム周波数の4倍で発光される。
以下、時変型フィルタ処理を行った場合の視覚効果について本発明者らによる検証結果を説明する。
図4は、1画素分の線幅をもつ静止画像(テスト画像1)が入力された場合において、表示パネルに表示される画像を、サブフィールド単位で2フレームにわたって示したものである。ここでは、図2のL1で示すラインの各画素(1画素分の幅をもつ線状画像)が入力され、各画素は白色(例えばRGBの全てが同一のある輝度をもつ)とする。フレーム周波数は60Hzとする。参照符号Dは4X4の表示パネルを模式的に示す。表示パネルDは4つの区間に区分され、1つの区間は、図2の表示パネルにおける縦1ラインに相当する。ハッチング部分は、表示パネルにおいて点灯表示された部分(縦1ラインの4つの発光素子が点灯)を表している。図4において、図の下の方向が時間経過方向であり、図中に示す破線ベクトルは各サブフィールドでの視線位置を示す。静止画では視線が移動しないため、時間の経過と共に視線は一定の位置を示し、破線ベクトルの横方向成分は変動しない。
図4(b)の<固定型>は、1X1の固定型フィルタ処理を行った場合を示す。この処理では、各サブフィールドにおいて、表示パネル上の各表示素子は、自身と同じ位置の入力画像上の画素に基づき発光する。すなわち、各表示素子に対応するサンプリング点が一箇所になるため、RとGもしくはGとBのみが光ることになる(図2参照)。上述のように本例では図2のL1で示すラインの各画素が入力されため、L2のラインにおける各表示素子(GとBの表示素子)が各サブフィールドで点灯される。すなわちL2の位置に、図4(b)に示すように、シアン(GとBが混ざって見える)の縦線が表示される(以下、ピッチの細かい右上がりのハッチングはシアンを示すものとする)。入力画像は白色であるのに対し出力画像はシアンとなる。このような色の偏りを以下では色づきと表現する。
図4(c)の<2X2固定型>は、2X2の固定型フィルタ処理を行った場合を示す。2X2の固定型フィルタ処理では、各サブフィールドにおいて1,2,3,4の位置の4画素の均等平均を取る(表示パネル上の表示素子と同じ位置の入力画像上の画素を位置1とする)。図2におけるL2およびL3で示すラインが図4(c)に示すように各サブフィールドにわたって表示される。L2およびL3のラインで表示される縦線がまざって見えるため、線幅2ラインの白色の縦線が視認されることとなる。図4(c)において、ピッチの荒い右下がりのハッチング(左側)はシアンであるが、その輝度は<固定型>に示したシアンの半分の輝度であるとする。ピッチの粗い右上がりのハッチング(右側)はイエローであるが、その輝度は以下の<時変型>で示すイエローの半分の輝度であるとする(以下同様)。
図4(a)の<時変型>は、1234シフト方式を用いた時変型フィルタ処理を行った場合を示す。1234方式の時変型フィルタ処理をU字型フィルタ処理と呼ぶこともある。第1サブフィールドで位置1の画素が選択され、第2サブフィールドで位置2の画素が選択され、第3サブフィールドで位置3の画素が選択され、第4サブフィールドで位置4の画素が選択される。表示パネル上の表示素子と同じ位置の入力画像上の画素の位置を1とする。したがって、図2のL2で示すGおよびBのラインは第1サブフィールドと第2サブフィールドで点灯してシアンが表示され、第3サブフィールドと第4サブフィールドでは点灯しない(図4(a)参照)。一方、L2の左隣のL3で示すRとGのラインでは、第1サブフィールドと第2サブフィールドでは点灯しないが、第3サブフィールドと第4サブフィールドでは点灯してイエローが表示される(以下、ピッチの細かい右下がりのハッチングはイエローを示す)。よって、シアンの縦線に対し、イエローの縦線がずれて表示されることになる。静止画ではシアンの縦線とイエローの縦線が高速(60Hzフリッカ)に切り替わるため、これら2ラインの縦線がまざって、線幅2ラインの白色の縦線が視認される。これは図4(c)に示している<2×2固定型>とほぼ同じ画像が視覚されることを意味する。
以上と同様の考察を、線幅1で左から右へ1画素動く動画について行う。図5は、1画素分の線幅の縦線が1画素右へ移動する動画(テスト画像2)が入力される場合において、表示パネルに表示される画像をサブフィールド単位で2フレームにわたって示している。ここでは図2のL1およびL4で示されるラインの画像がL1およびL4の順で、入力されたとする。
図5(a)〜図5(c)において、表示パネルにおける点灯位置の時間的推移は、第2フレームにおいて点灯ラインが1ライン右側に移動することを除き、図4と同様である。図4と大きく異なるのは視線の移動である。人は縦線が左から右へ移動していると思うため、視線を左から右へ移動させる。つまり、破線ベクトルの横方向成分に沿って視線を移動させることになり、図5(b)の<固定型>ではシアンの線とイエローの線が重なった状態で見える。よって、1画素分の線幅の白色縦線として視認される。これは図5(c)の<2×2固定型>よりも線幅が狭く(図5(c)では1画素分の線幅よりも太い白色の線として視認される)、実際の入力画像の線幅に相当する。つまり、表示パネルの2倍近い解像度を再現できることを意味する。しかし、シアンの線とイエローの線の切り替わり周波数は30Hzであるため、フリッカが発生することなる。一方、図5(a)の<時変型>ではシアンとイエローの縦線が重なり色づきはない(白色に見える)が、視認される線幅は<2×2固定型>とほぼ同等である。
さらに、以上と同様の考察を、線幅1で左から右へ2画素分動く動画について行う。
図6は、1画素分の線幅の縦線が2画素分移動する(途中の1ラインがスキップされる)動画(テスト画像3)が入力される場合において、表示パネルに表示される画像をサブフィールド単位で2フレームにわたって示している。ここでは図2のL1およびL5で示されるラインの画像がL1およびL5の順で、入力されたとする。
図6(c)の<2×2固定型>では1画素分の線幅よりも太い白色の線が視認される。図6(b)の<固定型>ではシアンの縦線しか再現されず、線幅1のシアンの縦線が視認される。つまり色づきが発生する。一方、図6(a)の<時変型>では、シアンとイエローが表示されることになるが、右にシアンの縦線,左にイエローの縦線が並んで存在する線幅2の縦線が視認された。<固定型>のような色づきは視認されないが、近くから観察した場合は色が混ざりにくい。観察した印象ではボケが視認されるというよりも、クリアな色づきの2本線という印象を抱かせた。このように、縦線が移動した場合、<固定型>では、テスト画像2(図5参照)およびテスト画像3(図6参照)のいずれの場合も、線幅が1の高解像度画像を再現できるが、テスト画像3の方では色づきが発生してしまう。ここでは縦線の移動量が1および2の場合を述べたが、その他の縦線の移動量の場合についても<固定型>の色づきについて同様の考察が行うことができる。要するに、<固定型>において色づきが発生するかどうかは、奇数画素分移動するか偶数画素分移動かに依存する。
図7および図8は、時変型フィルタ処理における横方向のシフト(位置2→位置3の右方向のシフト)に対して、入力画像における縦線が逆方向(左方向)に移動する場合を示す。すなわち、上述した図5および図6では、時変型フィルタ処理における横方向のシフトと、入力画像における縦線の移動方向とが同一であったが、ここでは、これらが互いに逆方向である場合を示す。
図7に示すテスト画像4のように、入力画像において縦線が奇数画素分(ここでは1画素分)、右から左へ動く場合は、図7(b)の<固定型>では図5のテスト画像2と同様に線幅1の高解像度画像が視認され、また図7(a)の<時変型>でも線幅1の高解像度画像が視認される。一方、図8に示すテスト画像5のように、入力画像において縦線が偶数画素分(ここでは2画素分)、右から左へ移動すると、図8(b)の<固定型>では色づきが発生し、図8(a)の<時変型>では線幅1の高解像度画像が視認される。図7(c)および図8(c)の<2×2固定型>では、いずれの場合も白色の線幅2のぼけた画像になる。
以上のテスト画像1〜5を用いた説明によりわかるように、<2×2固定型>は、コンテンツ依存のない、自然画像のように色々な時空間周波数成分を要する場合には使用しやすいといえる。しかし、画像ボケが生じるため、文字などは読みにくい。また、オブジェクト(例えば縦線)の移動方向および移動量が、時変型フィルタ処理によって再現する画像に大きく影響を与えることがわかった。つまり、オブジェクトの移動方向および移動量とシフト方式との間に強い相関があることがわかった。具体的に、上記例では、入力画像におけるオブジェクトの移動方向が右から左の場合は、1234シフト方式が適していることが分かった。
そこで、本発明者らは、種々の移動方向に対してそれぞれ適したシフト方式を検討した結果、図9に示す表の関係が得られた。
表内の「第1」〜「第4」項目の値は、第1〜第4サブフィールド画像を生成する際にフィルタをかける基準となる画素位置を示し、画素位置は図3(a)に従うとする。つまり、1つの行における「第1」〜「第4」の値の集合は1つのシフト方式を表す。例えば1行目は1234シフト方式、2行目は1243シフト方式を示す。「移動方向」は、「第1」〜「第4」の値の集合によって表されるシフト方式に対し、オブジェクト(物体)の移動方向として適している方向を表している。例えば、第1行目は図4〜図8で用いた1234シフト方式にあたり、右から左へ移動するオブジェクトに最適なシフト方式であることを示している。また、別の例として、1432シフト方式では下から上に移動するオブジェクトに最適なシフト方式であることがわかる。また、表内において同じ移動方向の例も複数示されており、例えば1234シフト方式と2143シフト方式では、右から左に移動するオブジェクトに対して同じ効果が現れることになる。また、表内において同じ方向であっても線分の短いのと長いものとが示されており、例えば1234シフト方式に比べ1324シフト方式では、矢印の方向は同じであるが、長さが短くなっており、これは右から左に移動するオブジェクトに対して、1234シフト方式に比べ1324シフト方式の方が、得られる効果が小さくなることを示している。
以上からも理解されるように、画像特徴抽出部101において抽出される画像の特徴として、入力画像内のオブジェクトの動きの方向(移動方向)を抽出し、抽出したオブジェクトの移動方向(例えば互いに直交するX、Y軸方向の成分比)を利用して時変型フィルタ処理時において各サブフィールドに適用するフィルタを決定(すなわち4つのフィルタの各々によって生成される各画像の表示順序を設定)することができる。以下この詳細例を説明する。
図10は、画像特徴抽出部101およびフィルタ条件設定部102によって行われる処理の流れの一例を示すフローチャートである。
画像特徴抽出部101は、入力画像から画面内のオブジェクトの移動方向を検出し(S11)、同一移動方向のオブジェクトの発生頻度(分布状態)、例えば画素数を求める(S12)。そして、発生頻度に応じた重み係数を算出する(S13)。例えば同一方向のオブジェクトの画素数を入力画像の全画素数で割った比率を重み係数とする。
次に、フィルタ条件設定部102が、シフト方式と移動方向とによって決まる推定評価値を、あらかじめ用意したテーブルデータから読み出し(S14)、読み出した推定評価値をS13で算出した重み係数によって重み付けし、重み付けされた推定評価値を全ての移動方向について加算した値を最終推定値として求める(S15)。これを例えば図9の表に記載された全てのシフト方式の候補について行う。そして、各シフト方式の候補について求めた最終推定値に基づき時変型フィルタ処理で用いるシフト方法を決定する(S16)。以下、S13〜S16についてさらに詳細に説明する。
まず推定評価値を決める推定評価式の導出方法について説明する。本発明者らは主観評価実験を用いて、2X2固定型に対する夫々のシフト方式による評価値の変動を観察した。主観評価実験では2X2固定型の画像を左側に配置し、右側に夫々のシフト方式を用いた画像を表示し、2X2固定型の画像に対して各シフト方式の画像の画質を、非常に良い(5)、良い(4)、同等(3)、悪い(2)、非常に悪い(1)の5段階で評価した。よって、2X2固定型の画像の画質は3という値になる。その結果、移動方向が同じオブジェクトに対して、互いに正反対の効果を発生させるシフト方式もあることが確認できた。そこで、移動方向を夫々変えることによって、シフト方式iにおける推定評価式Y=ei(d)を求めた。ここで、dは図9の表に基づく移動方向とコンテンツ内のオブジェクトの移動方向とのずれ量(角度の差分)を示しており、同一の場合は0°、反対方向の場合は180°になるように設定する。また、前述の発生頻度に基づく重み係数をwdとすると、最終推定値を以下の式(1)から求める。
Figure 0004799225
これより、Eiが3となる時はシフト方式iでは、2X2固定型と同等の画質が得られ、3より大きい時はシフト方式iを用いた方が2X2固定型より良い画質が得られ、3未満の時はシフト方式iでは2X2固定型より悪い画質になると予想できる。よって、S16におけるシフト方式の決定方法として、最終推定値が最大となるシフト方式を決定し、そのシフト方式の最終推定値が3より大きい場合は該シフト方式を採用し、3以下の場合は2X2固定型フィルタを採用する方法を用いることができる。
さらに、本発明者らにより、移動方向以外にも入力画像の特徴となりうる要因を検討した結果、以下の特徴が出力画像の画質に影響を与えることが判明した。なお、(1)のオブジェクトの動きの速さは上述した移動量に相当する。
(1)オブジェクトの動きの速さ:ei,d(speed)
(2)オブジェクトのコントラスト:ei,d(contrast)
(3)オブジェクトの空間周波数:ei,d(frequency)
(4)オブジェクトのエッジの傾き:ei,d(edge intensity)
(5)オブジェクトの色成分比:ei,d(color)
ここで、ei,d(x)はシフト方式iと移動方向の差分dにおいて特徴量xをもつオブジェクトの推定評価値を示しており、例えばオブジェクトの移動方向と、1234シフト方式の最適な移動方向との差分が30°で、オブジェクトの速さがspeedの場合は、推定評価値はe1234シフト方式,30°(speed)となる。上記した各特徴(1)〜(5)についての推定評価値は、前記同様の主観評価実験等から導出できる。各特徴の特徴量の抽出方法については第4〜第7の実施形態において説明する。
(1)〜(5)の特徴量に基づく推定評価値ei,d(x)を使用して最終推定値を求める例を2つ示す。ここでは特徴量としてオブジェクトの動きの速さを採り上げる。
第1の例では、まず入力画像内の各オブジェクトについてei,d(speed)を求める。次に各オブジェクトの発生頻度を各々の推定評価値に掛け合わせ、掛け合わせの結果をそれぞれ加算する。これにより最終推定値を求める。そして、最終推定値が最も大きいシフト方式を選択するなどする。
第2の例は、全ての移動方向の差分について推定評価値を格納したテーブルデータを用意することが煩雑となる場合に用いて好適である。この第2の例では、シフト方式ごとに、そのシフト方式に適した移動方向についてのみの推定評価値を用意しておく。例えば1234シフト方式の場合は、e1234シフト方式,0°(speed)のみを用意しておく。そして、入力画像(コンテンツ)内のあるオブジェクトの移動方向に適したシフト方式(ここでは1234シフト方式とする)を選択し、そのシフト方式の推定評価値e1234シフト方式(speed)(0°は省略した)を取得する。同様にコンテンツ内の別の移動方向を有するオブジェクトに対しても、最適なシフト方式を選択し、そのシフト方式の推定評価値を取得する。そして、これらのオブジェクトの発生頻度を夫々の推定評価値に掛け合わせ、掛け合わせた結果をそれぞれ加算することで、最終推定値を求める。ただしこの場合はあるシフト方式にとって適さない移動方向の影響が考慮されていないため、最終推定値の精度は下がる。
図11は、画像特徴抽出部101およびフィルタ条件設定部102によって行われる他の処理の流れの一例を示すフローチャートである。
画像特徴抽出部101が、入力画像からコンテンツ内のオブジェクトごとに各特徴を抽出し(S21)、また各オブジェクトの発生頻度を求める(S22)。次に、オブジェクトごとに、シフト方式iおよびオブジェクトの移動方向の差分dにおいて、各特徴について下記式(2)の寄与率αcを読み出し、また、各特徴について式(2)の推定評価値ei,d(c)を読み出す(S23)。各特徴について読み出した、αcとei,d(c)とを用いて式(2)の計算を行うことにより、各オブジェクトについて、推定値(中間推定値)Ei’を求める(S24)。各オブジェクトについて求めた中間推定値Ei’にそれぞれの発生頻度を乗算し、乗算結果を加算することにより最終推定値Eiを求める(S25)。各シフト方式の最終推定値を比較し、最も大きい最終推定値をもつシフト方式(時変型フィルタのフィルタ条件)を採択する(S26)。
Figure 0004799225
式(2)において、iはシフト方式を、dはオブジェクトの移動方向とあるシフト方式に適した移動方向との差分、cはある特徴量の大きさを、ei,d(c)はあるシフト方式における特徴別の推定評価値を、Eiはあるオブジェクトについての推定値(中間推定値)を、αcは中間推定値Ei’に対するその特徴の寄与率を示す。寄与率αcはシフト方式ごとに前述した主観評価実験により求めることができる。
以上の処理についてさらに具体的に説明すると、あるシフト方式に対して、入力画面内のオブジェクトの特徴量、例えばオブジェクトの速さから推定評価値ei,d(c)を求め、それに寄与率αcを乗算する。そして、これを各特徴量cについて行い、各特徴量cについて行った乗算結果を全て加算することにより中間推定値Ei’を求める。最終推定値は、各オブジェクトの発生頻度(例えばオブジェクトの画素数を全画素数で除算した値)をそれぞれの中間推定値Ei’に乗算し、乗算の結果を全てのオブジェクトについて加算することにより求める。他のシフト方式に対しても同様の計算を行って最終推定値を求める。そして、最終推定値が最も高いシフト方式を採用する。ただし、入力画面内の全てのオブジェクトに対して、オブジェクトの移動方向と、シフト方式に適した移動方向との差分を求めることは計算が煩雑となるため、上記手法に代えて、以下のようにしてもよい。まず入力画面内の主要な動きを求める。例えば発生頻度の大きい2つまでの移動方向に限定する。そして、それぞれの移動方向についてのみ考慮して各シフト方式について最終推定値を求め、最終評価値の最も高いシフト方式を選択する。このような方法でも、ほとんどの場合に適正なシフト方式が選択できることを本発明者らは確認している。
また図11に示した方法の一部変更例として、図12を示す。図11に対しS26が削除され、代わりにS25の後に、S27〜S29が追加されている。S27においては、最終推定値が最も高くなるシフト方式の該最終推定値と、2X2固定型フィルタの評価値と比較する。該シフト方式の最終推定値の方が大きければ(S28のYES)該シフト方式を選択、すなわち時変型フィルタを選択し(S28)、2X2固定型フィルタの評価値の方が大きければ(S27のNO)、2X2固定型フィルタを選択する(S29)。この理由は時変型フィルタ処理においては入力画像に不適合なシフト方式を採用すると画質が2X2固定型フィルタを採用した場合もよりも劣化するためである。本発明者らの主観評価実験においても、参照画像を2X2固定型とし、シフト方式による評価値の変動を観察したところ、2つのシフト方式でまったく正反対の結果が得られた。つまり、一方は2X2固定型より良いという結果になり、もう一方は2X2固定型より悪いという結果になった。
以上のように本実施の形態によれば、入力画像の特徴に基づいてK個のフィルタに順位付けを行ってK個のフィルタの各々によって生成される各画像の表示順序を設定し、K個のフィルタを元に入力画像にフィルタ処理を行ってK個のサブフィールド画像を生成し、入力画像の1フレーム期間において各サブフィールド画像を、設定された上記表示順序で表示するようにしたため、人の視覚特性を有効に利用しつつ、ドットマトリクス型表示装置の空間解像度よりも高い空間解像度の動画を利用者に視認させることができる。
(第2の実施形態)
本発明の第2の実施形態では、サブフィールド画像生成部102における時変型フィルタ処理の他の例を説明する。
図13は、フレーム画像300から4枚の第1〜第4サブフィールド画像310−1、310−2、310−3,310−4を生成する例を示す。サブフィールドごとにフィルタ係数を変えてフレーム画像300に畳み込んで生成した画像がサブフィールド画像310−1、310−2、310−3,310−4である。
表示パネルにおけるP3-3の表示素子位置の画素値は、第1サブフィールド画像310−1では枠401内の各表示素子位置(P2-2,P2-3,P2-4,P3-2,P3-3,P3-4,P4-2,P4-3,P4-4)の3×3個の画像データに3×3タップ数のフィルタを畳み込むことによって求める。第2サブフィールド画像310−2では、P3-3の表示素子位置の画素値は、枠402内の各表示素子位置(P3-2,P3-3,P3-4,P4-2,P4-3,P4-4,P5-2,P5-3,P5-4)の3×3個の画像データに3×3タップ数のフィルタを畳み込むことによって求める。第3サブフィールド画像310−3では、P3-3の表示素子位置の画素値は、枠403内の各表示素子位置(P3-3,P3-4,P3-5,P4-3,P4-4,P4-5,P5-3,P5-4,P5-5)の3×3個の画像データに3×3タップ数のフィルタを畳み込むことによって求める。第4サブフィールド画像310−4では、P3-3の表示素子位置の画像値は、枠404内の各表示素子位置(P2-3,P2-4,P2-5,P3-3,P3-4,P3-5,P4-3,P4-4,P4-5)の3×3個の画像データに3×3タップ数のフィルタを畳み込むことによって求める。
具体的なフィルタ処理のやり方としては、図14に示すように、3X3タップ数のフィルタ501〜504(時変型フィルタ)を用意し、フィルタ501を枠401に対応する入力画像の3×3個の画像データに畳み込む。同様にフィルタ502〜504を枠402〜403に対応する入力画像における3×3個の画像データに畳み込む。これにより第1〜第4サブフィールドにおける表示素子位置P3-3の画素値を求める。
または、図15に示すように、実質的に3X3タップ数のフィルタである、4×4タップ数のフィルタ601〜604(時変型フィルタ)を用意し、これらのフィルタ601〜604を4×4個の画像データに順次畳み込む。これにより第1〜第4サブフィールドにおける表示素子位置P3-3の画像値を求めてもよい。つまりフィルタ内の有効なフィルタ係数の位置をシフト方向に沿ってずらしながらフィルタ処理を行う。第1の実施形態においてこのようなフィルタ処理を行う場合に使用するフィルタ例(1234シフト方式の場合)を図16に示す。第1の実施形態における1234シフト方式を用いた時変型フィルタ処理は、図16に示した2×2タップ数のフィルタ701〜704を、2×2個の画像データに順次畳み込むフィルタ処理を行っていることに相当する。
(第3の実施形態)
本発明の第3の実施形態では、サブフィールド画像生成部102における時変型フィルタ処理に関して、非線形のフィルタを使用する例を説明する。
非線形のフィルタとしてはメディアンフィルタおよびεフィルタが汎用的であり、メディアンフィルタはインパルスノイズ除去、εフィルタは小信号ノイズ除去として使われている。本実施形態においてもこれらのフィルタを用いることにより同様の効果が得られる。以下、非線形フィルタを用いてフィルタ処理を行うことによりサブフィールド画像を生成する例を説明する。
例えば、メディアンフィルタを用いた場合は、図17に示すように、3X3個の表示領域において、該表示領域に対応するフレーム画像(入力画像)の各画素値を大きい順に並べ、並べられた画素値のうち中央の画素値を、注目表示素子(表示領域における中央の表示素子)の画素値として選択する。例えば第1サブフィールド画像310-1の場合、枠401内の各表示素子に対応するフレーム画像300の各画像値を大きい順に並べると「9,9,7,7,6,5,5,3,1」となり、中央の画素値は「6」になる。よって、枠401内の中央の表示素子の画素値は「6」となる。
一方、εフィルタを使用する場合は、以下の式(3)で示されるとおり、注目画素値(例えばフレーム画像の3X3領域における中央の画素の画素値)と、周辺画素値(3X3領域における中央の画素以外の画素の画素値)との差分の絶対値(以下差分値)を求める。そして、差分値がある閾値εより小さい場合は周辺画素の画素値をそのまま残し、差分値がある閾値εより大きい場合は周辺画素値を注目画素値によって置き換える。そして、置き換え後の3X3領域の画像データに3X3タップ数のフィルタによって畳み込み演算を行うことにより、サブフィールド画像における注目表示素子の画素値を求める。
Figure 0004799225
ここで、W(x,y)は出力値、T(I,j)はフィルタ係数、X(x,y)は画素値を示す。
図18はεフィルタを使用した場合のフィルタ処理の例を示している。閾値εを2とし、各枡の中身は式(3)により計算される画素値を示す。また引き出し線の示す値はフィルタ処理後の値である。3X3タップ数のフィルタにおけるフィルタ係数は全て1/9としている。
例えば第1サブフィールド画像310-1を生成する場合において枠401内の中央の表示素子について着目すると、フレーム画像300における注目画素値は「1」である。注目画素値と周辺画素値との差分を求めると、注目画素の左上から時計回りに「4(=5−1)、5(=6−1)、8(=9−1)、8(=9−1)、2(=3−1)、6(=7−1)、4(=5−1)、6(=7−1)」となる。よって、差分が閾値ε=2より大きい画素位置の画素値「3」はそのまま使用し、他の画素位置の画素値は注目画素値「1」によって置き換える(枠401内の各値を参照)。置き換え後の値に、フィルタ係数が全て1/9の3X3タップ数のフィルタを畳み込むことにより、第1サブフィールド画像310-1における枠401内の注目表示素子の画素値「11/9」が求められる。
以上のように、メディアンフィルタを用いた場合は、図17に示すようにサブフィールド間で輝度が6→5→4→5と切り替わり、1フレームにおける平均輝度は5となる。一方、εフィルタを用いた場合は、図18に示すように、サブフィールド間で輝度が11/9→65/9→27/9→79/9と切り替わり、1フレームにおける平均輝度は5.06となる。この場合は平均輝度に差はほとんどないが、サブフィールド間での輝度の変動には違いがあり、目的に合わせた使用方法を選択できる。
(第4の実施形態)
本発明の第4の実施形態では、画像特徴抽出部101において抽出される画像の特徴として、入力画像内のオブジェクトの動きの速さを抽出する例を説明する。
動きの速さを求める方法として、入力画像信号の複数のフレーム画像を用いて動きを検出し、動き情報として出力する。例えば、Moving Picture Experts Group(MPEG)等の動画の符号化に用いられるブロックマッチングにおいては、入力画像信号をフレームメモリで1フレーム分保持し、1フレーム遅延された画像信号と入力画像信号、すなわち時間的に隣接する2つのフレーム画像を用いて動きを検出している。より詳細には入力画像信号のnフレーム(参照フレーム)を正方形の領域(ブロック)に分割し、ブロック毎に、n+1フレーム(探索先フレーム)との類似領域を探索する。類似領域の評価方法は、一般に絶対値差分和(SAD)や、差分の二乗和(SSD)等が用いられるが、SADを用いる場合は以下の数式に従う。
Figure 0004799225
mおよびm+1はフレーム番号を、
Figure 0004799225
はブロックB内のある画素位置を示し、
Figure 0004799225
は動きベクトルを示す。f(x,m)はある画素の輝度を示している。よって、式(4)はブロック内の各画素の輝度差の和を求めていることになる。その総和が最も小さくなるブロック対を探索し、そのブロックの移動量
Figure 0004799225
がすなわち求める動きベクトルになる。このようにして求めた入力画面内の動きベクトルから、動きの速さ別のグルーピングを行うことで、動き速さの発生頻度を求めることができる。
ここで、第1の実施形態において、シフト方式を決定する際に参照する動き速さは、上記発生頻度に応じて変えることができる。たとえば、ある一定の発生頻度を超える動きの速さだけを使用するようにしても良い。最終的には、画面内にあるオブジェクトの動きの速さに関する重み係数(主観評価実験により求めることができる)に、その動きの発生頻度を掛け合わせた値が、そのオブジェクトの動きの速さに関する特徴量となる。
なお、動きの速さに関しては、速くなるにつれて時変型フィルタ処理と2X2固定型フィルタ処理との差が大きくなる。具体的に、移動方向に適したシフト方式を用いると時変型フィルタ処理の方がより画質がよくなるが、移動方向に適していないシフト方式を用いると時変型フィルタ処理の方がより画質が悪くなる。ただし、動きの速さがある閾値を越えると、時変型フィルタ処理の画質が2X2固定型フィルタ処理の画質に収束していくことが本発明者らの実験より確かめられている。
(第5の実施形態)
本発明の第5の実施形態では、画像特徴抽出部101において抽出される画像の特徴として、入力画像内のオブジェクトのコントラストおよび空間周波数を抽出する例を説明する。
オブジェクトのコントラストおよび空間周波数は入力画像をフーリエ変換することによって求められる。コントラストは、ある空間周波数でのスペクトル成分の大きさに相当する。コントラストが大きい場合は画質の変化を検知しやすく、また空間周波数が高い領域(エッジ領域)も画質の変化を検知しやすいことが実験よりわかっている。そこで、画面内を複数のブロックに分割し、各ブロックに対してフーリエ変換を行い、各ブロックにおいてスペクトル成分を値の大きい順にソートし、最も大きいスペクトル成分の大きさおよびそのときの空間周波数を各ブロックのコントラストおよび空間周波数として採用する。最終的にはオブジェクトに含まれるブロック全体に亘り同一のコントラストおよび空間周波数の数を集計し、各コントラストおよび空間周波数の発生頻度を、オブジェクトの各コントラストおよび空間周波数に関する重み係数(主観評価実験により求めることができる)に掛け合わせた値を、該オブジェクトのコントラストおよび空間周波数に関する特徴量として求める。
(第6の実施形態)
本発明の第6の実施形態では、画像特徴抽出部101において抽出される画像の特徴として、入力画像内のオブジェクトのエッジの傾きを抽出する例を説明する。
オブジェクトのエッジの傾きは、一般的なエッジ検出によりエッジの方向と強度を抽出することによって求められる。エッジの傾きと、シフト方式に依存する最適なオブジェクトの動き方向とが垂直であるほど画質の変化を検知しやすいことが実験よりわかっている。
よって、シフト方式夫々に対してエッジの傾きの影響は異なるため、これをオブジェクトのエッジの傾きに関する重み係数(主観評価実験により求めておく。例えば移動方向に対して垂直な場合は大きな値にするなど。)に反映させておく。最終的には画面内にあるオブジェクトのエッジの傾きに関する重み係数に、エッジの傾きの頻度を掛け合わせた値が、オブジェクトのエッジの傾きに関する特徴量となる。
(第7の実施形態)
本発明の第7の実施形態では、画像特徴抽出部101において抽出される画像の特徴として、入力画像内のオブジェクトの色成分比を抽出する例を説明する。
オブジェクトの色成分比を求める理由は、通常のLED表示装置ではベイヤ配列により緑の素子数が青や赤に比べて多いため、色成分比によって画質への影響が異なるためである。簡単には、オブジェクトにおいて色成分毎に平均輝度を求める。これをオブジェクトの色成分比に関する重み係数(あらかじめ主観評価実験により求めておく)に反映させる。最終的には画面内にあるオブジェクトの色毎の重み係数に、オブジェクトに含まれる色の成分比を掛け合わせた値がオブジェクトの色に関する特徴量となる。
本発明の第1実施形態の画像表示システムの構成を示す図。 本発明の第1実施形態で使用される入力画像および表示パネルの構成を示す図。 本発明の第1実施形態における時変型フィルタ処理の例を示す図。 本発明の第1実施形態において時変型フィルタ処理が画質に及ぼす影響を説明する図。 本発明の第1実施形態において時変型フィルタ処理が画質に及ぼす影響を説明する図。 本発明の第1実施形態において時変型フィルタ処理が画質に及ぼす影響を説明する図。 本発明の第1実施形態において時変型フィルタ処理が画質に及ぼす影響を説明する図。 本発明の第1実施形態において時変型フィルタ処理が画質に及ぼす影響を説明する図。 シフト方式と、シフト方式適した移動方向とを示した表。 本発明の第1実施形態において時変型フィルタのフィルタ条件決定方法を示す図。 本発明の第1実施形態において他の時変型フィルタのフィルタ条件決定方法を示す図。 本発明の第1実施形態においてさらに他の時変型フィルタのフィルタ条件決定方法を示す図。 本発明の第2実施形態においてサブフィールド画像生成部におけるフィルタ処理を説明する図。 本発明の第2実施形態においてフィルタ処理部で使用するフィルタのフィルタ係数の例を示す図。 本発明の第2実施形態においてフィルタ処理部で使用する他のフィルタのフィルタ係数の例を示す図。 本発明の第2実施形態においてフィルタ処理部で使用するさらに他のフィルタのフィルタ係数の例を示す図。 本発明の第3実施形態においてフィルタ処理部における処理の例を示す図。 本発明の第3実施形態においてフィルタ処理部における処理の他の例を示す図。
符号の説明
100 フレームメモリ
101 画像特徴抽出部
102 サブフィールド画像生成部
103 フィルタ条件設定部
104(1)〜104(4) サブフィールド1〜4用フィルタ処理部
105 画像信号出力部
106 フィールドメモリ
107 LED駆動回路
108 表示パネル

Claims (14)

  1. 1つまたは複数の色成分を有する画素を複数有する入力画像の各フレームを、各々単一色を発光する複数の表示素子を有するドットマトリクス型表示装置に表示する画像処理装置であって、
    前記入力画像から、少なくとも、前記入力画像内のオブジェクトの移動方向を抽出する画像特徴抽出部と、
    前記オブジェクトの移動方向に基づき、1フレームの前記入力画像に対して、サブフィールドごとに、前記入力画像の空間的に異なる画素を選択して、前記表示装置の画素に対応させる解像度変換を行なうK個のフィルタに順位付けを行ない、前記K個のフィルタの各々によって生成される各画像の表示順序を設定するフィルタ条件設定部と、
    前記K個のフィルタの各々を用い、1フレームの前記入力画像に対して、前記解像度変換のフィルタ処理を行ってK個のサブフィールド画像を生成するフィルタ処理部と、
    前記入力画像の1フレーム期間において、生成された前記K個のサブフィールド画像を、設定された前記表示順序にしたがって前記表示装置に表示する画像表示制御部と、
    を備えた画像処理装置。
  2. 前記フィルタ条件設定部は、前記オブジェクトの移動方向に対応する、前記K個のフィルタの順位候補の各々について、生成されるフレーム画像の画質を評価する推定評価値を参照し、複数の前記候補の中から一の候補を選択する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記フィルタ条件設定部は、同一移動方向の前記オブジェクトの発生頻度と前記推定評価値とを用いて、前記一の候補を選択することを特徴とする請求項2に記載の画像処理装置。
  4. 前記フィルタ条件設定部は、各々の前記推定評価値に対し、前記発生頻度に応じた重み係数で重み付けし、重み付けされた全ての前記推定評価値を加算することにより最終推定値を算出し、最も高い前記最終推定値をもつ候補を選択することを特徴とする請求項3に記載の画像処理装置。
  5. 前記画像特徴抽出部は、前記入力画像内のオブジェクトの動きの速さをさらに抽出し、
    前記フィルタ条件設定部は、前記オブジェクトの動きの速さの発生頻度をさらに用いて、前記候補を選択することを特徴とする請求項3又は4のいずれか一項に記載の画像処理装置。
  6. 前記画像特徴抽出部は、前記入力画像内のオブジェクトのコントラストをさらに抽出し、
    前記フィルタ条件設定部は、前記コントラストの発生頻度をさらに用いて、前記候補を選択し、
    前記コントラストは、前記入力画像における、ある空間周波数でのスペクトル成分の大きさである、
    ことを特徴とする請求項3乃至5のいずれか一項に記載の画像処理装置。
  7. 前記画像特徴抽出部は、前記入力画像内のオブジェクトの空間周波数をさらに抽出し、
    前記フィルタ条件設定部は、前記空間周波数の発生頻度をさらに用いて、前記候補を選択することを特徴とする請求項3乃至6のいずれか一項に記載の画像処理装置。
  8. 前記画像特徴抽出部は、前記入力画像内のオブジェクトのエッジの傾きをさらに抽出し、
    前記フィルタ条件設定部は、前記エッジの傾きの発生頻度をさらに用いて、前記候補を選択することを特徴とする請求項3乃至7のいずれか一項に記載の画像処理装置。
  9. 前記画像特徴抽出部は、前記入力画像内のオブジェクトの色成分比をさらに抽出し、
    前記フィルタ条件設定部は、前記色成分比の発生頻度をさらに用いて、前記候補を選択することを特徴とする請求項3乃至8のいずれか一項に記載の画像処理装置。
  10. 前記入力画像における各画素はそれぞれ赤,緑,青の3つの色成分を有することを特徴とする請求項1乃至9のいずれか一項に記載の画像処理装置。
  11. 前記表示装置は、
    第1色を発光する第1表示素子と第2色を発光する第2表示素子とが第1の方向に交互に配置された複数の第1素子列と、
    前記第1表示素子と第3色を発光する第3表示素子とが前記第1の方向に交互に配置された複数の第2素子列と、を有し、
    前記第1素子列と前記第2素子列とは、前記第1表示素子と前記第2表示素子とが前記第1の方向に対して垂直な第2の方向に交互に並ぶように、前記第2の方向に交互に配置さたことを特徴とする請求項1乃至10のいずれか一項に記載の画像処理装置。
  12. 前記第1表示素子、前記第2表示素子および前記第3表示素子は、緑色、赤色および青色の3色のうちそれぞれ異なる色を発光することを特徴とする請求項11に記載の画像処理装置。
  13. K=4であり、前記K個のフィルタとしての4個のフィルタは、前記表示装置における前記表示素子に対応する2行2列の画素のうちそれぞれ異なる画素を基準にフィルタ処理を行うことを定めたことを特徴とする請求項1に記載の画像処理装置。
  14. 1つまたは複数の色成分を有する画素を複数有する入力画像の各フレームを、各々単一色を発光する複数の表示素子を有するドットマトリクス型表示装置に表示する画像表示方法であって、
    前記入力画像から、少なくとも、前記入力画像内のオブジェクトの移動方向を抽出し、
    前記オブジェクトの移動方向に基づき、1フレームの前記入力画像に対して、サブフィールドごとに、前記入力画像の空間的に異なる画素を選択して、前記表示装置の画素に対応させる解像度変換を行なうK個のフィルタに順位付けを行ない、前記K個のフィルタの各々によって生成される各画像の表示順序を設定し、
    前記K個のフィルタの各々を用い、1フレームの前記入力画像に対して、前記解像度変換のフィルタ処理を行ってK個のサブフィールド画像を生成し、
    前記入力画像の1フレーム期間において、生成された前記K個のサブフィールド画像を、設定された前記表示順序にしたがって前記表示装置に表示する、
    画像表示方法。
JP2006063049A 2006-03-08 2006-03-08 画像処理装置および画像表示方法 Expired - Fee Related JP4799225B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006063049A JP4799225B2 (ja) 2006-03-08 2006-03-08 画像処理装置および画像表示方法
EP07250924A EP1833042A3 (en) 2006-03-08 2007-03-06 Image processing apparatus and image display method
US11/683,757 US20070211000A1 (en) 2006-03-08 2007-03-08 Image processing apparatus and image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006063049A JP4799225B2 (ja) 2006-03-08 2006-03-08 画像処理装置および画像表示方法

Publications (2)

Publication Number Publication Date
JP2007240873A JP2007240873A (ja) 2007-09-20
JP4799225B2 true JP4799225B2 (ja) 2011-10-26

Family

ID=38109579

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006063049A Expired - Fee Related JP4799225B2 (ja) 2006-03-08 2006-03-08 画像処理装置および画像表示方法

Country Status (3)

Country Link
US (1) US20070211000A1 (ja)
EP (1) EP1833042A3 (ja)
JP (1) JP4799225B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080094419A1 (en) * 2006-10-24 2008-04-24 Leigh Stan E Generating and displaying spatially offset sub-frames
KR20100045080A (ko) * 2008-10-23 2010-05-03 삼성전자주식회사 엘시디 모듈 및 이를 구비한 디스플레이 시스템
EP2383695A1 (en) * 2010-04-28 2011-11-02 Max-Planck-Gesellschaft zur Förderung der Wissenschaften e.V. Apparent display resolution enhancement for moving images
JP5676968B2 (ja) * 2010-08-12 2015-02-25 キヤノン株式会社 画像処理装置及び画像処理方法
JP2012103683A (ja) * 2010-10-14 2012-05-31 Semiconductor Energy Lab Co Ltd 表示装置及び表示装置の駆動方法
US20130162625A1 (en) * 2011-12-23 2013-06-27 Michael L. Schmit Displayed Image Improvement
JP6276537B2 (ja) * 2013-08-19 2018-02-07 キヤノン株式会社 画像処理装置、及び画像処理方法
JP2016001290A (ja) 2014-06-12 2016-01-07 株式会社ジャパンディスプレイ 表示装置
CN115619647B (zh) * 2022-12-20 2023-05-09 北京航空航天大学 一种基于变分推断的跨模态超分辨率重建方法

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2231460B (en) * 1989-05-04 1993-06-30 Sony Corp Spatial interpolation of digital video signals
JP2939826B2 (ja) * 1990-09-03 1999-08-25 日本電信電話株式会社 投影表示装置
JP3547015B2 (ja) * 1993-01-07 2004-07-28 ソニー株式会社 画像表示装置および画像表示装置の解像度改善方法
JPH09319332A (ja) * 1996-05-27 1997-12-12 Matsushita Electric Ind Co Ltd Led表示装置およびled表示方法
KR100189922B1 (ko) * 1996-06-20 1999-06-01 윤종용 히스토그램 등화를 이용한 동영상의 콘트라스트개선회로 및 그 방법
AU751502B2 (en) * 1997-03-21 2002-08-15 Avix Inc. Method of displaying high-density dot-matrix bit-mapped image on low-density dot-matrix display and system therefor
US7215347B2 (en) * 1997-09-13 2007-05-08 Gia Chuong Phan Dynamic pixel resolution, brightness and contrast for displays using spatial elements
US6496194B1 (en) * 1998-07-30 2002-12-17 Fujitsu Limited Halftone display method and display apparatus for reducing halftone disturbances occurring in moving image portions
US6340994B1 (en) * 1998-08-12 2002-01-22 Pixonics, Llc System and method for using temporal gamma and reverse super-resolution to process images for use in digital display systems
KR100289534B1 (ko) * 1998-09-16 2001-05-02 김순택 플라즈마표시패널의계조표시방법및장치
US6674905B1 (en) * 1999-01-22 2004-01-06 Canon Kabushiki Kaisha Image processing method, image processing apparatus, and storage medium
JP3368890B2 (ja) * 2000-02-03 2003-01-20 日亜化学工業株式会社 画像表示装置およびその制御方法
US6625310B2 (en) * 2001-03-23 2003-09-23 Diamondback Vision, Inc. Video segmentation using statistical pixel modeling
JP3660610B2 (ja) * 2001-07-10 2005-06-15 株式会社東芝 画像表示方法
US7098876B2 (en) * 2001-09-06 2006-08-29 Samsung Sdi Co., Ltd. Image display method and system for plasma display panel
KR100555419B1 (ko) * 2003-05-23 2006-02-24 엘지전자 주식회사 동영상 코딩 방법
US7253811B2 (en) * 2003-09-26 2007-08-07 Hewlett-Packard Development Company, L.P. Generating and displaying spatially offset sub-frames
US7660487B2 (en) * 2003-12-10 2010-02-09 Sony Corporation Image processing method and apparatus with image resolution conversion related to relative movement detection
JP2005208413A (ja) * 2004-01-23 2005-08-04 Ricoh Co Ltd 画像処理装置及び画像表示装置
JP4488498B2 (ja) * 2004-06-16 2010-06-23 株式会社リコー 解像度変換回路及び表示装置
JP2006038996A (ja) * 2004-07-23 2006-02-09 Ricoh Co Ltd 画像表示装置
JP4779434B2 (ja) * 2005-05-17 2011-09-28 ソニー株式会社 動画像変換装置、動画像復元装置、および方法、並びにコンピュータ・プログラム
KR100714723B1 (ko) * 2005-07-15 2007-05-04 삼성전자주식회사 디스플레이 패널에서의 잔광 보상 방법과 잔광 보상 기기,그리고 상기 잔광 보상 기기를 포함하는 디스플레이 장치
US20070018966A1 (en) * 2005-07-25 2007-01-25 Blythe Michael M Predicted object location
JP4568198B2 (ja) * 2005-09-15 2010-10-27 株式会社東芝 画像表示方法および装置
KR100739735B1 (ko) * 2005-09-16 2007-07-13 삼성전자주식회사 액정 디스플레이 구동 방법 및 이를 적용한 장치

Also Published As

Publication number Publication date
EP1833042A3 (en) 2008-05-14
JP2007240873A (ja) 2007-09-20
US20070211000A1 (en) 2007-09-13
EP1833042A2 (en) 2007-09-12

Similar Documents

Publication Publication Date Title
JP4799225B2 (ja) 画像処理装置および画像表示方法
CN101518067B (zh) 图像显示装置及方法
JP4016493B2 (ja) ディスプレイ装置及びその多階調化回路
WO2010143330A1 (ja) 駆動装置,駆動方法,画像表示装置,テレビジョン受像機,ディスプレイモニター装置,プログラム,及び,記録媒体
CN101803363A (zh) 用于视频图像数据中的基于行的运动估计的方法和装置
JPWO2012099039A1 (ja) 画像表示装置および画像表示方法
KR20070020757A (ko) 디스플레이장치 및 그 제어방법
KR100880772B1 (ko) 화상 신호 처리 방법, 화상 신호 처리 장치, 표시 장치
JP4568198B2 (ja) 画像表示方法および装置
JP2001083926A (ja) 動画偽輪郭補償方法およびその方法を用いた画像表示装置
JP2007271842A (ja) 表示装置
JP5141043B2 (ja) 画像表示装置および画像表示方法
WO2008062578A1 (fr) Appareil d'affichage d'image
KR20010101667A (ko) 영상들을 처리하는 방법 및 유닛
CN103227889A (zh) 图像信号处理装置、图像信号处理方法、图像显示装置、电视接收机、电子设备
US20070222712A1 (en) Image Display Apparatus and Method of Driving the Same
CN103474031A (zh) Led显示屏及其扫描显示方法
KR100825355B1 (ko) 화상 표시 장치 및 그 구동 방법
US7429968B2 (en) Method for driving an image displaying apparatus
US20080174518A1 (en) Display state controller, display device, display state control method, program therefor, and recording medium recorded with the program
JP2008268286A (ja) 画像表示装置
US8125436B2 (en) Pixel dithering driving method and timing controller using the same
US7443365B2 (en) Display unit and display method
CN101441844A (zh) 图像显示装置和图像显示方法
JPH10319904A (ja) 多階調画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070925

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101104

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101214

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20110201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20110217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110708

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110802

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20111125

A072 Dismissal of procedure [no reply to invitation to correct request for examination]

Free format text: JAPANESE INTERMEDIATE CODE: A072

Effective date: 20120313

LAPS Cancellation because of no payment of annual fees