JP5439588B2 - 表示パネルによる表示のための画像データ処理のための装置および方法 - Google Patents

表示パネルによる表示のための画像データ処理のための装置および方法 Download PDF

Info

Publication number
JP5439588B2
JP5439588B2 JP2012508687A JP2012508687A JP5439588B2 JP 5439588 B2 JP5439588 B2 JP 5439588B2 JP 2012508687 A JP2012508687 A JP 2012508687A JP 2012508687 A JP2012508687 A JP 2012508687A JP 5439588 B2 JP5439588 B2 JP 5439588B2
Authority
JP
Japan
Prior art keywords
side image
image
processing
processing unit
pixel data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012508687A
Other languages
English (en)
Other versions
JP2013502602A (ja
Inventor
アンドリュー ケイ
アラン エヴァンス
ベンジャミン ジョン ブロウトン
健次 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Publication of JP2013502602A publication Critical patent/JP2013502602A/ja
Application granted granted Critical
Publication of JP5439588B2 publication Critical patent/JP5439588B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • G09G3/3611Control of matrices with row and column drivers
    • G09G3/3648Control of matrices with row and column drivers using an active matrix
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09FDISPLAYING; ADVERTISING; SIGNS; LABELS OR NAME-PLATES; SEALS
    • G09F19/00Advertising or display means not otherwise provided for
    • G09F19/12Advertising or display means not otherwise provided for using special optical effects
    • G09F19/14Advertising or display means not otherwise provided for using special optical effects displaying different signs depending upon the view-point of the observer
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/028Improving the quality of display appearance by changing the viewing angle properties, e.g. widening the viewing angle, adapting the viewing angle to the view direction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0606Manual adjustment
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/068Adjustment of display parameters for control of viewing angle adjustment
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/16Calculation or use of calculated indices related to luminance levels in display data
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2003Display of colours
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2092Details of a display terminals using a flat panel, the details relating to the control arrangement of the display terminal and to the interfaces thereto

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Accounting & Taxation (AREA)
  • Marketing (AREA)
  • Business, Economics & Management (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Liquid Crystal (AREA)
  • Liquid Crystal Display Device Control (AREA)

Description

本発明は、プライベート表示モードに対応したアクティブマトリックス式表示装置のような表示装置における、表示パネルによる表示のための画像データ処理のための装置、表示装置、プログラムおよび方法に関する。
公衆表示モードとプライベート表示モードとの切り替えが可能な表示装置の公衆モード(第1モード)において、上記表示装置は一般に、標準的なディスプレイとして機能する。単一の画像が上記表示装置によって、可能な限りの広視野角で、全閲覧者にとって最適な輝度、画像コントラスト、解像度で表示される。プライベートモード(第2モード)では、上記のメイン画像は、通常はディスプレイ表面の法線上の中心に位置する縮小された範囲の視野角内でしか認識できない。この縮小された角度の範囲外からディスプレイを見る閲覧者は、第2の、上記メイン画像を見えなくするマスク画像か、または不鮮明になるよう低画質化されたメイン画像を認知することになる。
このコンセプトは添付図の図4に図示されており、表示装置401の”メインビュー”402は、実質的には表示装置401の主要ユーザ404の目が上記表示装置401の主軸に近いときにのみ見ることができ、1つ以上の”サイドビュー”が、軸外にいると想定される他ユーザ405に見えるように設計されている。
このコンセプトは、ユーザがある公衆状況においてプライバシーを所望するような場合に、彼らの標準的ワイドビューディスプレイのプライバシー機能を選択することによって利益を得るような多くのデバイスに適用可能である。そのようなデバイスの例には、携帯電話、PDA(Personal Digital Assistant)、ノートパソコン、デスクトップモニタ、ATM(Automatic Teller Machine)およびEPOS(Electronic Point of Sale)機器などが含まれる。そのようなデバイスはまた、ある種の(例えばドライバーや重機の運転者などの)閲覧者にとって、ある時にある画像が見えることが注意をそらし安全を脅かすような(例えば車が動いているときの車載テレビ画面)状況においても有益である。
もともと広視野角のディスプレイに対し照明調節装置を付加する方法はいくつか存在する。
光の方向を制御するそのような構造の一つに、’ルーブル(louvred)’フィルムがある。このフィルムはヴェネツィアン・ブラインドと類似の構成で、交互に並ぶ透明レイヤーと不透明レイヤーとから成る。このフィルムはヴェネツィアン・ブラインドのように、光が上記レイヤーに対し平行に近い方向で通過しようとする場合はこの光を通し、光が上記レイヤー面に対し大きい角度で通過しようとする場合はこの光を吸収する。これらのレイヤーは上記フィルム表面に対して垂直であってもよいし、それ以外の角度であってもよい。そのようなフィルムの作成方法はUSRE27617(F.O. Olsen; 3M 1973)、US4766023(S.-L. Lu, 3M 1988)、およびUS4764410(R.F. Grzywinski; 3M 1988)に記載されている。
上記のルーブルフィルムに類似の特性を備えたフィルムの作成には他にも方法が存在する。これらは例えば、US05147716(P.A. Bellus; 3M 1992)やUS05528319(R.R. Austin; Photran Corp. 1996)に記載されている。
ルーブルフィルムは表示パネルの前か、また、透過型ディスプレイと、上記ディスプレイを視聴可能な角度の範囲を限定する上記ディスプレイのバックライトとの間に設置されてもよい。換言すれば、これらによってディスプレイは”プライベート”になる。
そのようなフィルムの主たる制限は、それらが機械的な操作を要することである。すなわち、ディスプレイの公衆視聴モードとプライベート視聴モードを切り替えるには、上記フィルムを除去する必要がある。
GB2413394(Sharp, 2004)において、表示パネルに対し、1つ以上の液晶レイヤーと偏光器とを追加することにより、電気的に切り替え可能なプライバシー装置が構成されている。これらの追加の要素への本来の視野角の依存度は、公知技術である上記液晶の電気的な切り替えによって変更することができる。この技術を利用したデバイスには、Sharp Sh851iやSh902iの携帯電話が含まれる。
上述した方法が被る不都合は、上記視野角範囲の切り替えを電気的に行う機能性を持たせるためには、上記ディスプレイに対し余分に装置を追加する必要があるという点である。これにはコストがかかるとともに、特にディスプレイが大型化し、特に携帯電話やノートパソコンなどの携帯型ディスプレイを利用したものにおいては非常に好ましくない。
上記ディスプレイの上記単一液晶レイヤーを、2つの異なる構成間で切り替えることによりLCDの視野角特性を制御し、上記2つの構成の両方において上記軸上の閲覧者に対して高画質な画像を表示できる方法は、US20070040780A1(Sharp, 2005)やWO2009057417A1(Sharp, 2007)に記載されている。これらのデバイスは、切り替え可能なプライバシー機能を、ディスプレイの厚みを増やすことなく提供するが、標準的なディスプレイに対する複雑なピクセル電極の設計やその他の加工改良を必要とする。
ディスプレイハードウェア上の複雑性を増すことなくプライバシーモードを備えた表示装置の例が、WO 2009/069048に開示されている。同様の別の例がUS20090079674A1によって提供されている。当該文献では、異なるレベルの信号電圧が隣接するピクセルに印加され、それらのピクセルの平均輝度が、軸上で見たときに期待される画像を表示するためのディスプレイのガンマ曲線に従った上記信号電圧に伴って変化するディスプレイのプライバシーモードが開示されている。また、このプライバシーモードでは、軸外から見たときに上記平均輝度は特定の電圧範囲内で一定のレベルにあり、上記画像のコントラストを、軸外からは見た目では識別不可能なレベルに変更できる。
ディスプレイハードウェア上の複雑性を増すことなくプライバシーモードを実現可能な表示装置の別の例として、Sharp Sh702iS携帯電話がある。この携帯電話では、当該携帯電話のLCDに表示される画像データを、上記ディスプレイに使用されている液晶モードにもともと備わっている、角度に対するデータ輝度の特性との組み合わせによって操作し、中心を外れた位置からディスプレイを見る閲覧者からは表示されている情報が不鮮明になるプライベートモードを提供する。しかしながら、プライベートモードにおいて軸上の正当な閲覧者に対し表示される画像の質は著しく低下する。
上記Sh702iS携帯電話で用いられた構成と類似しているが、上記画像データを、第二のマスク画像に依存する方法で操作し、よって上記修正された画像が表示されたとき、軸外の閲覧者からは上記マスク画像が認知されるような構成が、GB2428152A1(2007年1月17日公開)やGB出願GB0804022.2(GB2457106Aとして2009年8月5日公開)によって示されている。上記公報で開示されている方法は、ASV(Advanced Super View)(IDW'02 Digest, pp 203-206)やPSA(Polymer Stabilised Alignment)(SID'04 Digest, pp 1200-1203)などのような多くの液晶ディスプレイモードに元々備わっている、視野角に伴う輝度曲線に対するデータ値の変化を用いている。
上記液晶パネルに表示される上記画像のデータ値は、隣接するピクセルに適用された修正がディスプレイの正面(軸上)から見たときには効果的に無効になり上記メイン画像が再現されるが、斜め(軸外)方向から見たときには、隣接するピクセルに対する上記修正は、適用された修正の度合いに依存した正味の輝度の変化をもたらすように変更され、よって知覚される画像が変わる。
GB2428152A1やGB2457106Aに記載の方法に対して改良を加えることが望ましい。
本発明の第1の態様によれば、表示装置の表示パネルに表示する画像データ処理の方法であって、メイン画像を表すメイン画像ピクセルデータとサイド画像を表すサイド画像ピクセルデータを受信する工程と、上記表示パネルを駆動するために用いられる信号に対する上記ピクセルデータのマッピングであって、上記メイン画像ピクセルデータに主に依存する平均軸上輝度と、上記サイド画像ピクセルデータに少なくともある程度依存する平均軸外輝度とを生成するように構成されたマッピングを実行する第1の処理ステップと、処理を行わなければ、第1の処理ステップの結果として、軸外表示されたサイド画像において弱められていると閲覧者に知覚される虞のある上記サイド画像の少なくとも1つの特徴を強調するために、受信された上記サイド画像ピクセルデータを処理する第2の処理ステップと、を含むことを特徴とする方法が提供される。
本発明の第2の態様によれば、表示装置の表示パネルに表示する画像データ処理の方法を実行する装置であって、上記方法は、メイン画像を表すメイン画像ピクセルデータとサイド画像を表すサイド画像ピクセルデータを受信する工程と、上記表示パネルを駆動するために用いられる信号に対する上記ピクセルデータのマッピングであって、上記メイン画像ピクセルデータに主に依存する平均軸上輝度と、上記サイド画像ピクセルデータに少なくともある程度依存する平均軸外輝度とを生成するように構成されたマッピングを実行する第1の処理ステップと、処理を行わなければ、第1の処理ステップの結果として、軸外表示されたサイド画像において弱められていると閲覧者に知覚される虞のある上記サイド画像の少なくとも1つの特徴を強調するために、受信された上記サイド画像ピクセルデータを処理する第2の処理ステップと、を含むことを特徴とする装置が提供される。
本発明の第3の態様によれば、本発明の上記第2の態様に記載の装置を備える表示装置が提供される。
本発明の第4の態様によれば、本発明の上記第1の態様に記載の方法を実行する装置を制御するための制御プログラム、または、装置が読み取ることで、該装置が本発明の上記第2または第3の態様に記載の装置となることを特徴とするプログラムが提供される。上記プログラムは搬送媒体によって運ばれてもよい。上記搬送媒体は記録媒体であってもよい。上記搬送媒体は伝送媒体であってもよい。
上述およびその他の本発明の目的、特徴、および利点は、後述する本発明の詳細な記載を添付の図面と組み合わせて検討することにより、より容易に理解しうるものと考える。
本発明の一実施形態に記載の方法を概略的に示す図である。 本発明の一実施形態において用いられる前処理の連鎖の例を示す図である。 ヒストグラムに基づく強調の例を示す図である。 プライバシーディスプレイと上記ディスプレイのユーザを上から見た例を示す図である。 GB2457106Aに記載の、上記プライベートモードで動作しているディスプレイであって、本発明の一実施形態を適用可能なディスプレイの概略図である。 GB2457106Aに記載のタイプのディスプレイによって提供される、軸上輝度に正規化された複数の軸外輝度を示すグラフである。
従来検討されてきたプライバシー効果を実現するアプローチでは、上記サイド画像は、当該ディスプレイが通常閲覧モードで動作している場合と比較して低解像度、低ビット深度、低コントラストで表示されるのが通常である。典型的な数値としては、4分の1の空間解像度(例として当該物理ディスプレイのアドレス可能なピクセル数の4分の1)、64色(各ピクセルの色ごとに2ビット)、2:1に限定されたコントラストなどがある。これらの数字は、(i)上記メインビューの画質、(ii)安全性の高さ(すなわちメイン画像のサイドへの漏洩がいかに少ないか)、(iii)上記サイドビューの画質、とトレードオフの関係にある。
標準的な画像(デジタルカメラで撮影されたものなど)を、サイド画像となるように単純に適用すると、一般に、上記サイド画像の閲覧者に知覚される画質は低下する。このため、上記ユーザはサイド画像に選択の余地がないか、(おそらくは上記デバイスの製造者か提供者によって)特別に選択された、そのような限定的な表示能力で容認可能な、ごく限られたサイド画像のみを提示されることになる。類似の制限的な選択肢は、上記サイド画像が時間とともに変化する、”サイド映像”を生成する場合においても当てはまる。
本願出願人は、上記の問題を解決することが好ましいと考え、携帯電話のようなデバイスをカスタマイズするために、ユーザが自身の写真をサイド画像として、適度な知覚される画質を維持しつつ表示させることを可能にする仕組みを発明したものである。これは、例えば単純にプライバシーメカニズムとしての役割や、広告(例としてブランディング)やカスタマイズといった分野での利益の提供を超えて、上記プライベートモードの有用性を拡大するものである。
コントラストの強調、カラーサチュレーション、ノイズの除去、選択的スムージングおよびシャープ化に用いられるアルゴリズムは、知覚される画質を向上させる手段としてよく知られている。限られたビット深度のディスプレイに関しては、ディザリングが、空間解像度と引き換えに見かけ上のビット深度を増加させる手段としてよく知られている。全体的または局所的に適応的な輝度ストレッチを含むコントラスト強調の方法は、適度に低コントラストなディスプレイには使用可能である。動画像は、各フレームを個々にフィルタリングするか、画像の連続性を考慮に入れた3Dフィルタを用いることで向上させることができる。
しかしながら、本発明の一実施形態の基礎をなす思想は、一般的なデバイスで閲覧するには強すぎる極端なパラメータを用いた画像処理を、サイド画像として適切に使用可能となるように画像を強調するために適用することである。
本発明の一実施形態では、画像のいくつかの美しい細部や視覚的繊細さは、本適用には不要であり、よって無視しても支障がないことが分かる。そして、コントラスト、空間解像度、および色空間リソースの他、使用可能なものが、上記画像のブロードで粗い特徴を強調するために使用されることが分かる。本願出願人は、サイド閲覧者は一般的に、メイン閲覧者よりもディスプレイから離れており、そのため一般的にはサイド画像のブロードで粗い特徴のみが視認可能であることを確認している。例えば、上記サイド閲覧者は、巨大なロゴやスローガン等を除いては文字を読むことは想定されていない。
本発明の一実施形態によれば、ユーザが彼らの携帯用デバイスをより高い自由度でカスタマイズし、かつ方向性ディスプレイのサイドに知覚可能な画像を表示することを可能にする技術的解決法を提供するという利点が実現される。
本発明の一実施形態は、GB2457106Aに記載の表示装置と組み合わせて使用することができる。GB2457106Aの上記表示装置についてここでは詳細に記述しないが、代わりにGB2457106Aの全内容がここに組み込まれていると考えられたい。GB0819179.3(GB2464521Aとして2010年4月21日公開)には、GB2457106Aに記載されたようなプライバシーディスプレイとの関係において”画像処理フィルタ”ステップが開示されているが、この開示は、特定の色のアーチファクト問題を引き起こしうるピクセルデータの特定のパターンが、メイン画像データがプライバシーモジュールに入力される前に、検出され変更されるというものであった。
図5は、GB2457106Aに記載の表示装置を図示したものである。表示装置は、空間的光変調によって画像を表示するための液晶パネル2を備える。上記デバイスがプライベートモードで動作しているとき、フレーム周期ごとに、2つの画像データセット、すなわち、メイン画像を構成するメイン画像データ7とサイド画像を構成するサイド画像データ8とが、ディスプレイ制御部1に入力される。そして、ディスプレイ制御部1は、信号データ電圧セット、すなわち液晶パネルの各ピクセルに1つずつのデータ電圧を出力する。ディスプレイ制御部1は、拡張ルックアップテーブル(look-up table:LUT)を利用しており、組み合わせ画像を構成する上記液晶パネルの各ピクセルに対する出力信号データ電圧は、メイン画像7およびサイド画像8中の(当該画像中の空間的位置に関して)対応するピクセルに関するデータ値に依存している。各ピクセルに関する出力データ電圧はまた、上記ディスプレイ内のピクセルの空間的位置によって決定される、空間依存性の第3のパラメータにも依存していてもよい。ディスプレイ制御部1からの上記信号電圧により、液晶パネル2は、広範囲の視野角5に対し組み合わせ画像を表示する。メイン閲覧者3に観察される画像は、メイン画像の画質低下を最小限に抑えた、メイン画像とはっきり知覚できるものである。しかしながら、軸外の閲覧者4に対する、上記液晶パネルの異なるガンマ曲線の特性のために、これらの軸外の観察者は、上記メイン画像の情報を、上記ディスプレイの法線の中心に配置された制限された視野角9内の閲覧者にのみ表示するために、上記メイン画像を不明確にしたり、劣化させたりする上記サイド画像を最も顕著に知覚することになる。
GB2457106Aでは、入力および出力画像データ値の間の関係は以下のように決定される。
第1のステップにおいて、メインおよび第2の画像はいずれも、対応するピクセルの輝度値へと変換されるピクセルデータ値を持っており、このピクセルデータ値は以下のように記述される。
Lum(x,y,c)=Min(x,y,c)γ
Lum(x,y,c)=Sin(x,y,c)γ
ここで、MinおよびSinは0から1の間の値をとるように正規化されている。γは上記ディスプレイの輝度に対するデータ値に関連した指数であり、一般的に2.2の値を取るディスプレイガンマ値として知られている。
第2のステップにおいて、上記メイン画像のこれらの輝度値は、ファクターβによって圧縮され、オフセットファクター
Figure 0005439588
によって引き上げられる。
Figure 0005439588
そして、上記サイド画像の各ピクセル輝度値は、上記圧縮されたメイン画像における対応するピクセルの輝度値と、上記範囲の端(0または1のより近い方)との間の差分に等しいファクターによって定められる。この差分は、あらゆる輝度値について、上記輝度値と上記範囲の中央との差分の二乗平均平方根から取得されてもよい。従って、上記サイド画像の輝度値は、以下の式のように定められる。
Figure 0005439588
サイドデータ値に関する、変換された対応する輝度値について、0より大きい最小値が、特定されてもよい。
上の記載において、
Figure 0005439588
は、│Mcmp(x,y,c)−0.5│に等しく、Mcmp(x,y,c)と0.5との差分の絶対量である。
第3のステップにおいて、今度は、サブピクセルレベルにおいてパターン化された輝度の加算/減算(例えば先に言及した空間的に変化するパラメータ)を用いて、上記圧縮されたメイン画像およびサイド画像が組み合わせられる。カラーサブピクセルはペアにグループ化され、各グループのうち一方のピクセルが、当該ピクセルにおける上記圧縮されたメイン画像およびサイド画像の輝度の合計に等しい出力輝度を有する。もう一方は、上記圧縮されたメイン画像の輝度から上記圧縮されたサイド画像の輝度を差し引いたものに等しい出力輝度を有する。そのため、SLumの値を最大化するために、上記ペアの一方が、上記正規化された範囲の最大値または最小値のいずれか(より近いほうどちらでも)になるように常に修正され、上記ペアのもう一方は上記と反対の方向に修正される。特定のMinの値に関するこのような分割の量は、SLumの値によって決定される。
PCT/JP2008/068324(WO 2009/110128として2009年9月11日に公開)はGB2457106Aに基づくものであり、この文献もまた、正確な色のサイド画像効果を得る方法を開示している。当該文献では、各色2ビット(合計6ビット)のビット深度のサイド画像が制御電子回路に入力され、全てのメイン画像データ値について、出力値の4つのペアが上記拡張LUTに含まれる。上記出力値のペアは、以下の方法で計算される。
in=0のとき、C(x,y,c)=Mcmp(x,y,c)±1×Scmpmax(x,y,c)
in=1のとき、C(x,y,c)=Mcmp(x,y,c)±0.98×Scmpmax(x,y,c)
in=2のとき、C(x,y,c)=Mcmp(x,y,c)±0.85×Scmpmax(x,y,c)
in=3のとき、C(x,y,c)=Mcmp(x,y,c)±0
ここで、” Scmpmax”は、使用可能な圧縮されたサイド画像値の最大値であり、上述のようにScmpmax=│Mcmp(x,y,c)−0.5│で算出される。
上述の、これまでに検討された計算方法では、4つのサイド画像値の候補Sin=0、1、2および3を用いる。図6に示されているように、Sin=0のとき、各メイン画像データ値に対し最大分割が使用され、軸外の全体輝度は、軸上輝度の全範囲に亘り最低になる。Sin=3のときは、分割は行われず、軸外の全体輝度は、軸上輝度の全範囲に亘り最高になる。上記の中間の範囲のサイド画像値Sin=1および2のそれぞれに対する、上記Mcmpデータに対する使用可能な変化値の最大値に乗じる推奨値0.98および0.85を用いれば、異なる入力のサイド画像値に関して軸外輝度の増分がほぼ同じになることが見出されている。これは、異なるサイド画像の状態が、全体軸上輝度の範囲に渡り、互いに対する比例の度合いを良好に保っていることを意味している。
上述したマッピングは、主に上記メイン画像のピクセルデータに依存する平均軸上輝度と、少なくともある程度上記サイド画像のピクセルデータに依存する平均軸外輝度とを生み出すように構成される。しかしながら、軸外表示された上記サイド画像中で、当該サイド画像の少なくとも1つの特徴が弱められていると閲覧者に知覚される傾向がある。本発明の一実施形態の狙いは、処理を行わなければ、軸外表示された上記サイド画像において弱められていると閲覧者に知覚される虞のある上記サイド画像の少なくとも1つの特徴を強調するために、サイド画像ピクセルデータを処理することで、上記問題を解決することにある。
例えば、上記少なくとも1つの特徴は、本発明の一実施形態において、ある程度強調されてもよく、少なくとも、軸外表示された上記サイド画像において、上記少なくとも1つの特徴が弱められていると閲覧者に知覚される程度まで強調されてもよい。上記少なくとも1つの特徴は、本発明の一実施形態において、少なくとも、軸外表示された上記サイド画像において知覚される減弱を補償するために強調されてもよい。上記少なくとも1つの特徴は、本発明の一実施形態において、軸外表示された上記サイド画像において知覚される減弱のない画像を生成するために適切であると通常見做される程度より強く強調されてもよい。
図1は、先に要約したような(さらに詳しくはGB2457106Aに記載されている)プライバシーモードを有するデバイスに対し、本方法がどのように適用可能であるのかを示す概略図である。ユーザは上記デバイスのユーザインターフェースを使い、サイド画像を選択することで、上記プライバシー機能をカスタマイズすることができる(ステップ101)。上記サイド画像は上記デバイスに備えられたカメラで取得した写真や画像でもよいし、または事前に保存された写真や画像でもよいし、あるいは、上記デバイスが適切なネットワークに接続されていれば外部のイメージサーバからダウンロードしてもよい。このような画像が、上記ディスプレイがプライバシーモードのときに、上記ユーザが上記サイド画像として表示させたい画像となる。ステップ102では、この画像がコントラスト、色空間使用、解像度その他を強調するための複数の画像処理方法を用いて前処理される。この処理は後述にて詳しく説明する。上記デバイスがプライバシーモードで使用されているとき、ステップ103で受信されたメイン画像は、上記デバイスのための適切なプライバシーメカニズム(一例としてGB2457106Aに記載のものが先に要約されている)を用いて、上記処理を施されたサイド画像と組み合わせられる(ステップ104)。これにより得られた画像が上記デバイス上に表示される(ステップ105)。
上記前処理ステップ(ステップ102)は、事前に(オフラインで)一度実行されてもよく、その結果を後の組み合わせステップ(ステップ104)で使うように保持しておいてもよい。もう一つの方法として、上記前処理ステップ(ステップ102)は、要求に応じて(オンラインで)リアルタイムに繰り返され、結果がすぐに上記組み合わせステップ(ステップ104)で使われるようにしてもよい。この場合、オリジナルのサイド画像のみを長期記憶として保持しておけばよい。同様に、上記前処理の一部はオフライン、一部はオンラインで実行されてもよい。例えば、上記前処理が多数の異なる処理ステップからなるとき、それらのステップのうちいくつかがオフラインで実行され、他がオンラインで実行されてもよい。特定の実施例においていずれの構造が最も適切かの決定は、当然ながら、使用可能なリソースおよび他のステップの要求に依存する。
図2は、図1で示した前処理ステップ102の実施の概略の一例を示す図である。入力画像201は空間的再サンプリング部202によって、標的デバイスに適合したピクセル数を持つように、空間的に再サンプリングされる。次に、空間的フィルタ203が、エッジや被写体のような空間的特徴を強調するとともに背景の細部を弱めるために用いられる。次に、コントラストを強調するとともに、上記ディスプレイの使用可能な輝度範囲を最大限利用するためにコントラスト強調部204が使用される。次に、色強調部205が、コントラストではなく色範囲について類似の機能を実行する。次に、色量子化部206が、表示を要求された色の数を減らすために用いられ、結果として得られる画像が出力207である。これらの構成要素のそれぞれについては、以下でさらに詳しく記載する。
他の実施形態において、上記のステップが異なる順序で生じるようにしてもよいし、1つ以上のステップが省略されてもよい。多くの画像処理アプリケーションがそうであるように、要求される処理時間や回路の量と得られる画質とはトレードオフの関係にある。
例えば、上述の連続するステップの後半において空間的ダウンサンプリングがあってもよい。これは、上記ダウンサンプリングより前のステップがフル解像度で行われることを意味しており、そのためより多くの処理が必要となる。しかしながら、上記空間的フィルタリングはフル解像度の画像に対して行われるほうが、最終的な画像にとって有益である場合がある。
また、同じ効果は、2つ以上のステップの組み合わせ、1つのステップの2つ以上のステップへの分割、あるいは上記複数のステップに対する演算機能の再配分によって得られてもよい。そのような再編成は、画像処理アルゴリズムの開発および実施に携わる者にとってはよく理解しうるものであろう。
例えば、上記コントラスト強調ステップおよび色強調ステップは、共通の演算部を共有するために1つのステップに組み合わせられてもよい。特に、両者はHSV色空間において表現されるピクセル値を利用してもよい。このとき、HSVへの変換は当然一度で済み、コントラスト強調および色強調の両方を達成するようにSおよびVの座標において処理を行い、その次にのみ、残りの作業に適した色空間への変換が行われる。
例えば、空間的再サンプリング部202は、自身のサブステップの一つとしてシャープ化作業を要求してもよく、またそのサブステップは、都合良く空間的フィルタ203に組み込まれていてもよい。
空間的再サンプリング部202による空間的再サンプリングは、上記画像がサイド画像として使用される場合の適切なサイズになるように、上記画像中のピクセル数を減少(または増加)させる。例えば、一般的にサイド画像はディスプレイの全画面サイズと比較して4分の1のピクセル数しか持たない。上記空間的再サンプリングにおいては、適切なピクセル数だけでなく適切なアスペクト比を達成するために、いかなるトリミングや引き伸ばしが適用されてもよい。再サンプリングは、ピクセルの単純な反復や脱落によって達成されてもよい。画像の質は、Lanczosフィルタ、バイリニアまたはバイキュービック補間、あるいは類似の趣旨を持つ他の方法のフィルタを用いて向上させてもよい。よく知られるように、しばしば再サンプリングの前に(例えば小さいガウシアンカーネルによる)ローパスフィルタリングが行われ、再サンプリングの後に(例えばアンシャープマスクを用いた)シャープ化が行われる。
空間的フィルタ203の目的は、サイド画像の質を向上させる画像特徴を強調し、サイド画像の質を低減させる空間的な画像特徴を弱めることである。デジタル圧縮により生成されるアーチファクトも除去するようにしてもよい。
例えば、上記画像中の主要な対象を特徴付ける重要なエッジを強調することが有用かもしれない。この処理は、上記アンシャープマスク方法のような単純シャープ化フィルタによって近似されてもよい。被写体を検出するより複雑なアルゴリズムを用いてこのステップが行われてもよい。
ローパスフィルタを用いて、画像の背景から高空間周波数の情報を除去することが有用かもしれない。
上記空間的フィルタは、当該フィルタにおける重み付けを調整するために、フィルタ領域内の複数点のデータ値をさらに用いるバイリニアフィルタまたは他の空間的フィルタを備えていてもよい。上記フィルタは、エッジの方向といった上記画像内の局所的特徴に適応していてもよい。
映像のフレームを処理する場合、上記空間的フィルタは、上記映像中の他のフレームからのデータを組み込んでもよい。
コントラスト強調部204によるコントラスト強調の目的は、サイドビューにおいて使用可能な低いコントラストを最大限利用することである。広範囲の輝度値を利用しつつ、なおかつ過飽和によって多くの細部を損なわないことが好ましい。これを行うためには、色空間において、輝度を決定する(もしくは近似的に決定する)明確な座標を用いて処理を行うことが好ましい。しかしながら、近似は単純なR、GおよびBの成分について個別の処理によってなされてもよい。
よく知られているように、コントラストの強調には多くのやり方が存在する。ひとつの特定の方法が図3に部分的に図示されている。オリジナル画像と最終的な画像との各ピクセルが輝度レベルと関連付けられている。例えば、上記ピクセルは、CIELにおけるL、HSVにおけるV、HLSにおけるL、YUVにおけるY、YCbCrにおけるYなどのように、輝度(または類似の量)が明確であるような色空間で表現されてもよい。次に、全ての上記オリジナル画像のピクセル輝度の分布が計算され、ここではヒストグラム(301)として視覚化されている。(301)において、輝度値は0(黒)から1(白)までの間で設定され、横軸で示されている。上記輝度がどのように修正されるかを決定するパラメータが選択される。例えば、図3は、最も暗い20%のピクセル(303)を黒にマッピングし、最も明るい20%のピクセル(305)を白にマッピングし、残りの60%(304)はその間に均等に広がるヒストグラムを示している。結果として得られる輝度の分布は、ここでは第2のヒストグラム(302)として示されている。最後に、上記修正後の輝度がそれぞれの対応するピクセルに再びマッピングされ、コントラストが強調された画像を作る。これは階調性コントラスト強調と考えることができる。
他の方法が用いられてもよい。ある方法では、上記画像の複数の領域においてコントラストを局所的に強調することが好ましいかもしれない。コントラスト強調は、”半径”パラメータに関して比較的大きな値を持つアンシャープマスクフィルタを用いても可能である。これは空間的コントラスト強調と考えることができ、画像の1つの領域内の画像データを考慮したアルゴリズムに従って局所的コントラストを高めることで、上記画像の全体のコントラストが強調されるというものである。
結果は悪くなりやすいが、輝度の(黒または白にマッピングされた範囲外の値による)単純線形スケーリング、またはガンマ補正方法が用いられてもよい。
被写体を含むピクセルのコントラストだけを強調し、任意で背景のコントラストを弱めることが有用かもしれない。
ピクセルの色に依存して、当該ピクセルのコントラストを強調することが有用かもしれない。
色強調部205による色強調の目的は、色を不自然に鮮明にすることである。これは、ステップ104で上記画像が組み合わせられるときに、色の鮮明さの多くが失われるためである。広範囲の明度を利用しつつ、なおかつ元の色を損なわないことが好ましい。例えば、強調前よりも飽和しても、赤は赤に見え続けるべきである。これを行うためには、色空間において、彩度を決定する(もしくは近似的に決定する)明確な座標を用いて処理を行うことが好ましい。
好ましい色強調は、コントラスト強調と同様のやり方で説明できる。この場合、修正されるのは各ピクセルの輝度値ではなく彩度値である。従って、パラメータの選択は異なる可能性があるが、図3を各ピクセルの彩度値の変更を示す図と再解釈すればよい。色強調のためには、色空間の選択に応じて、CIE LではCに、HSVではSに、HLSではS、などに基づいて作業を行う。この解釈において、ヒストグラム301の横軸は0(モノクロ)から1(完全に飽和した色)までの間で変動する。
従って、好ましい色強調の手順とは、各ピクセル表現を、色空間(HSVなど)に変換することである。必要であれば、S成分の分布を計算する、分割点を決定する、下方の分割点未満のピクセルをS=0へとマッピングする、上方の分割点を超えるピクセルをS=1へとマッピングする、残りのピクセルのS成分を、下方の分割点が0、上方の分割点が1になるように線形にマッピングする、任意で、次のステップで必要となる色空間へと各ピクセルを変換し直す。輝度強調と同様、事前に決定された彩度範囲内の彩度は、上記彩度範囲全体を埋めるように変更されてもよい。例えば、下位20%の彩度値は彩度値ゼロにマッピングされてもよく、一方で上位20%の彩度値は最大彩度値にマッピングされてもよく、このとき残りの60%は両者の間で均等に広がる。
輝度強調と同様、他の実施例、例えばピクセルのHSV表現におけるV成分の線形スケーリングや、局所適応法が用いられてもよい。
また、肌のトーンに関してはさらに注意深い処理が有用かもしれない。すなわち、人の肌のトーンの範囲内のピクセルデータに対して、上記人の肌のトーンの範囲外のピクセルデータとは異なる処理を行うことにより、視覚的に特に重要なスペクトル部分における色の過飽和を避けるといった処理が有用かもしれない。
被写体を含むピクセルだけについて彩度を強調し、任意で背景の彩度を弱めることが有用かもしれない。
ピクセルの色に依存して当該ピクセルの彩度を強調することが有用かもしれない。
色量子化部206による色量子化の目的は、組み合わせステップ104で使用可能な画像中の色の全範囲を縮小することである。例えば、ある種のプライバシーディスプレイでは、上記組み合わせ手順において、サイド画像ピクセルのR、G、およびBの各成分を表現するために2ビットのみが用いられる。従って、使用する色を2×2×2=4×4×4=64の事前に決められた個別の色に限定する必要がある。
量子化の最も単純な方法は、各ピクセルについて最も近い使用可能な色を単純に選択することである。使用可能な色が十分に存在する場合は(例えば色成分ごとに6ビット以上)、この方法は十分に有効である。
しかしながら、64色しかない場合、この単純な方法では、例え上記入力画像が滑らかであっても、色や輝度が急に変化する境目が見えるという結果をもたらしやすい。
量子化の好ましい方法は、各ピクセルについて最も近い使用可能な色を選択することであるが、この選択の結果として生じる色誤差を記録し、近隣のピクセル値を選択する際に上記色誤差を相殺するよう試みるものである(目は領域の平均値だけを見る傾向があるため)。これは誤差拡散によるディザリングの方法としてよく知られている。
添付の請求項において定義される本発明の範囲外であっても、上述した実施形態に様々な変更が適用可能であることは、当業者であれば容易に理解しうることである。
例えば、上記前処理の少なくとも一部が実行されるときに、上記メイン画像が既知である場合は、上記メイン画像を考慮に入れることが有用かもしれない。例えば、あるプライバシーディスプレイ技術において、上記メイン画像中の特定のパターン(明度が低い領域など)については、サイドビューのコントラストが特に低くなるかもしれない。このような場合、補償のためにそのような領域ではサイド画像のコントラストを高めることが有用かもしれない。
上記サイド画像を処理する際、サイド画像のタイプの同定、または上記サイド画像の異なる複数の領域のタイプの同定が有用かもしれない。上記タイプ情報は、上記サイド画像の処理ステップの順序、種類、あるいはパラメータを制御するために用いられてもよい。例えば、上記サイド画像のテキスト部分は、誤差拡散ディザリングではなく単純な量子化だけを用いることや、あるいはテキスト以外の部分(すなわちサイド画像においてほとんどまたは全くテキストを含まない部分)と比較してより極端なコントラスト強調を用いることが有益かもしれない。類似の修正は線画やアニメコンテンツに適用されてもよい。写真の場合、肖像写真は一般的な風景やアクション撮影とは異なって処理されてもよい。テキストはOCR技術を用いて読み取られ、最も明確になるように特別に選択されたフォントおよび色で表示されてもよい。
サイド画像写真のタイプは自動的に決定されても、あるいは上記デバイスのユーザインターフェースを介して提示された、限られた数の選択肢を用いたユーザからの手がかりによって決定されてもよい。写真のタイプは該写真中のメタデータ中にエンコードされてもよく、上記プライバシーデバイスによって、上記前処理を制御するために用いられてもよい。
上記の前処理は完全に自動で実行されてもよいし、ユーザからの入力操作に基づいて実行されてもよい。このように、ユーザは任意で当該画像のタイプを指示することができ、また任意で上記前処理のパラメータを調整することができる。その後の調整の補助となるよう、任意で各調整の効果がユーザに提示されてもよい。
上記前処理の前に、任意で上記画像のトリミングやリサイズを行う機能を与えることが有用かもしれない。これはユーザによる指示の下で実行されてもよく、また、例えば肖像写真が検出された場合など、いくつかの状況においては自動で実行されてもよい。
一般的に、プライバシーディスプレイではメインビューとサイドビュー各々の画質の間にトレードオフの関係が存在する。上記トレードオフにより、上記メインビューの画質が低下するのであれば、先に述べた種類の、上記サイド画像に適用可能な前処理を用いて、上記メイン画像の少なくとも一部を強調することが有用かもしれない。特に、上記メインビューのコントラストが低い場合は、上記メイン画像に対してコントラスト強調が適用されてもよい。
別の実施形態では、動画(映像)を、連続して表示される一連の静止画として扱い、サイドビューに用いてもよい。メイン画像との組み合わせの前に、上記動画の各フレーム(またはフィールド)は、上記サイドビューで動きの効果を実現するために適した瞬間で前処理(ステップ102)にかけられてもよい。上記前処理をかけられたフレームは、後で使用するために保存されてもよく(オフライン)、また、表示に際しその場で生成されて(オンライン)順次破棄されてもよい。
中間の解決策として想定されるのは、上記前処理の一部はオフラインで実行されて部分的に処理された動画が保存され、残りはオンラインで、表示のためにその場で実行されるというものである。特に、オフラインで前処理のパラメータを決定するために上記動画の内容を解析しておき、続いてオンラインで上記前処理を実行することが有用かもしれない。
この実施形態を進展させた例では、1個以上のフレームからデータが抽出され(色のヒストグラム情報など)、他のフレームの前処理を制御するために用いられる。これにより、上記前処理が、上記フレームが表示される直前に行われる場合において、より効率的な実施例を実現できる(例えば必要となるバッファリングデータ量の抑制など)。また、これにより、急な処理変化の発生を防止し、サイド閲覧者にとって目に見えるアーチファクト(急激な色や明度の変化など)を引き起こすことのないよう、上記前処理パラメータをより円滑に適合させることができる。
図1のステップ102は、上の記載では上記組み合わせステップ104の前に実施される別個のステップとして説明したが、ステップ102で実行される処理のうち少なくともいくつかは、上記組み合わせステップ104の一部として実施されることも可能である。例えば、GB2457106Aでは、上記メイン画像データと上記サイド画像データとの組み合わせ(またはマッピング)にルックアップテーブル(LUT)を用いることが記載されており、上に述べたステップ102で実施される処理の少なくとも一部が上記LUTそれ自身に組み込み可能であることは明らかであろう。例えば、コントラスト強調部204により実施される、階調範囲が拡大するようなコントラスト強調は、LUTマッピングによって行ったほうが、むしろLUTマッピングに先行する別個のステップによって行うよりも効果的かもしれない。これは特に、上記組み合わせステップ104(LUTマッピング)にて処理されるサイド画像が比較的高いビット深度を有するような実施例に適しているであろう。ステップ102を管理するために画像の内容が考慮される実施例においては、複数の異なるLUTが与えられ、そのうちの1個が画像内容の分類に基づいて選択される。例えば、異なるLUTは”高コントラストオリジナル”、”低コントラストオリジナル”、および”中間コントラストオリジナル”に対して与えられ、それぞれが異なるレベルのコントラスト強調を組み込んでいてもよい。一変更例として、演算負荷は高くなるが、上記画像内容に基づいて上記LUTマッピングを再度行ってもよい。
本発明の一実施形態は、上に述べた以外のプライバシーディスプレイおよびマルチビューディスプレイ、特に、GB2457106Aに記載された以外のディスプレイに対しても適用可能であることは、容易に理解しうることである。
公衆モードとプライベートモードの両方で動作することができ、それら2つのモードを切り替える表示装置の提供が一般的であるが、本発明は上記プライベートモードでのみ動作可能な表示装置にも適用可能であることは容易に理解しうることである。
上で説明した構成要素の1つ以上の動作は、上記のデバイスまたは装置上で動作するプログラムによって制御されてもよいことは容易に理解しうることである。そのような動作プログラムはコンピュータ読み取り可能な媒体に保存されていてもよく、また、例えばインターネットウェブサイトから提供される、ダウンロード可能なデータ信号のような信号によって体現されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップは、上記サイド画像の複数の特徴のそれぞれを強調するサブステップを含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、第1および第2の異なる別個の色空間において、第1および第2のサブステップのセットを実行する工程を含み、上記セットは、それぞれ1つ以上のサブステップを含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、要求されるピクセル数を、上記第1の処理ステップのための妥当なアスペクト比で提供するために、第3の処理ステップにおいて、要求されるピクセル数を、上記サイド画像を空間的に再サンプリングする工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第3の処理ステップは、上記第2の処理ステップの前に実行されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第3の処理ステップは、上記2つのサブステップの間に実行されてもよい。
本発明のいくつかの実施形態が開示する方法は、上記サイド画像の色成分ごとのビット深度を、上記第1の処理ステップで要求されるビット深度まで低下させるために、色量子化ステップを実行する工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、上記サイド画像の各ピクセルに対し、上記低下したビット深度の色空間において最も近い使用可能な色を選択する工程を含み、この選択を行うときに、上記色空間にビット深度の低下に関連した色誤差が存在し、好ましくは、少なくとも1つの近隣ピクセルからの上記色誤差または各色誤差を考慮に入れてもよい。
本発明のいくつかの実施形態が開示する方法において、上記少なくとも1つの特徴は、少なくとも所定の階調またはデータ値の範囲内である、上記サイド画像の少なくとも一部の階調および/または空間的コントラストを含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記所定の階調またはデータの範囲外のコントラストは例えば0などに低下されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記少なくとも1つの特徴は、少なくとも所定の彩度範囲内にある、上記サイド画像の少なくとも一部の彩度および/または色を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記所定の範囲は、例えば全範囲の20%から80%である、中央の範囲であってもよい。
本発明のいくつかの実施形態が開示する方法において、人の肌のトーンの範囲内にある上記サイド画像ピクセルデータには、人の肌のトーンの範囲外にあるサイド画像ピクセルデータと異なる処理が施されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記少なくとも1つの特徴は、上記サイド画像の少なくとも1つの空間的特徴を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記少なくとも1つの空間的特徴は、エッジの特徴を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップは、上記サイド画像に対するアンシャープマスクフィルタの適用を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップは、フィルタの重み付けを調節するための、フィルタ領域内のピクセルのピクセルデータを用いるようなバイリニアフィルタまたは他の空間的フィルタの適用を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記少なくとも1つの特徴は、例えば他の少なくとも1つの特徴を犠牲にして強調され、上記他の少なくとも1つの特徴は、例えば、視覚的重要度がより低いと見做されてもよい。例えば、中央の範囲のコントラストは、上記範囲の端より下方および上方の階調に関するコントラストを犠牲にして強調されてもよい。
本発明のいくつかの実施形態が開示する方法は、上記サイド画像の異なる部分に対して異なる処理を施す工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、テキスト部に対して、テキスト以外の部分とは異なる処理を施す工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、テキストを、上記サイド画像で使用されるフォントと異なる、特別に選択されたフォントで表示する工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、上記サイド画像中の主要な対象を含むと識別された1つ以上の部分に対して、上記サイド画像中の他の部分と異なる処理を施す工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法は、上記第2の処理ステップにおいて、上記サイド画像のピクセルデータの処理において、上記メイン画像のピクセルデータを考慮に入れることを含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップの少なくとも一部がオフラインで実行されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップがオンラインで実行されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記サブステップの少なくとも1つがオンラインで実行され、上記サブステップの少なくとも他の1つがオフラインで実行されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップにおいて、上記少なくとも1つの特徴は、少なくとも、軸外表示された上記サイド画像において、上記第1の処理ステップの結果、当該特徴が弱められていると知覚される程度まで強調されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップにおいて、上記少なくとも1つの特徴は、少なくとも、上記第1の処理ステップの結果、軸外表示された上記サイド画像において知覚される減弱を補償するために強調されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップにおいて、上記少なくとも1つの特徴は、少なくとも、上記第1の処理ステップの結果、軸外表示された上記サイド画像において知覚される減弱のないような画像を生成するために適切であると通常見做される程度より強く強調されてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップは、軸外の閲覧者から上記サイド画像を見たときに当該サイド画像の質を低減させることになる、当該サイド画像の少なくとも1つのさらなる特徴を弱める工程を含んでいてもよい。
本発明のいくつかの実施形態が開示する方法において、メイン画像およびサイド画像の時間的シーケンスが示され、上記第2の処理ステップは、上記シーケンス中の複数のサイド画像から得られたサイド画像ピクセルデータを用いてもよい。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップの少なくとも一部は、上記第1の処理ステップで実行されるマッピングに組み込まれていてもよい。上記第2の処理ステップは、上記第1の処理ステップの前に行われるか、上記第1の処理ステップのマッピングに少なくとも部分的に組み込まれている。
本発明のいくつかの実施形態が開示する方法において、上記第2の処理ステップは、処理を行わなければ、上記第1の処理ステップの結果、軸上表示された上記メイン画像において弱められていると閲覧者に知覚される虞のある、上記メイン画像の上記少なくとも1つの特徴を強調するために、上記メイン画像のピクセルデータを処理する工程をさらに含んでいてもよい。
本発明のいくつかの実施形態が開示する装置は、上に記載の方法を実行する装置を制御するためのプログラム、または、装置が読み取ることで、該装置が上に述べたような本発明の装置となるようなプログラムによってプログラムされた装置である。上記プログラムは搬送媒体によって運ばれてもよい。上記担体媒体は記録媒体であってもよい。上記搬送媒体は伝送媒体であってもよい。
本発明のいくつかの実施形態が開示する記録媒体は、上に記載の方法を実行する装置を制御するためのプログラム、または、装置が読み取ることで、該装置が本発明の上に記載の装置となるようなプログラムを含む記録媒体である。上記プログラムは搬送媒体によって運ばれてもよい。上記搬送媒体は記録媒体であってもよい。上記搬送媒体は伝送媒体であってもよい。
添付の請求項は、動作プログラムそれ自体を含め、搬送媒体への記録、または信号、あるいはその他任意の形式として解釈されるべきものである。さらに、機能またはステップのセットを示す任意の図は、それぞれの機能またはステップを実行するための対応する部材のセットも示すと解釈されるべきであり、同様に、それぞれの機能またはステップを実行するための部材のセットを示す任意の図は、対応する機能またはステップのセットも示すと解釈されるべきである。

Claims (23)

  1. 表示装置の表示パネルに表示する画像データを処理する装置であって、
    メイン画像を表すメイン画像ピクセルデータとサイド画像を表すサイド画像ピクセルデータとを受信する受信部と、
    上記表示パネルを駆動するために用いられる信号に対する上記ピクセルデータのマッピングであって、上記メイン画像ピクセルデータに依存する平均軸上輝度と、少なくとも上記サイド画像ピクセルデータに依存する平均軸外輝度とを生成するように構成されたマッピングを実行する第1の処理と、
    記サイド画像の特徴を強調するために、受信された上記サイド画像ピクセルデータを処理する第2の処理と、を含み、
    上記特徴は、コントラスト、色、解像度、空間的特徴およびデジタル圧縮により生成されるアーチファクトの削除からなるグループから選択される少なくとも1つであることを特徴とする装置
  2. 上記第2の処理は、
    上記サイド画像の複数の特徴のそれぞれを強調する複数の処理部を含むことを特徴とする、請求項1に記載の装置
  3. 第1および第2の異なる別個の色空間において、上記複数の処理部の幾つかをまとめて1つの処理部として行うことを特徴とする、請求項2に記載の装置。
  4. 要求されるピクセル数を、上記第1の処理のための妥当なアスペクト比で提供するために、上記サイド画像を空間的に再サンプリングする第3の処理を含むことを特徴とする、請求項1に記載の装置
  5. 上記第3の処理は、上記第2の処理部の実行前に実行されることを特徴とする、請求項に記載の装置
  6. 上記第2の処理部は、上記サイド画像の複数の特徴のそれぞれを強調する複数の処理部を含み、
    上記第3の処理は、上記複数の処理部における1つの処理部と他の1つの処理部との間に実行されることを特徴とする、請求項4に記載の装置
  7. 上記サイド画像の色成分ごとのビット深度を、上記第1の処理で要求されるビット深度まで低下させるために、色量子化ステップを実行する色量子化部を含むことを特徴とする、請求項1から6のいずれか1項に記載の装置。
  8. 上記色量子化部は、上記サイド画像の各ピクセルに対し、上記低下したビット深度の色空間において最も近い使用可能な色を選択することを特徴とする、請求項7に記載の装置
  9. 記特徴は、所定の階調またはデータ値の範囲内である、上記サイド画像の少なくとも一部の階調および/または空間的コントラストを含むことを特徴とする、請求項1から8のいずれか1項に記載の装置
  10. 上記所定の階調またはデータの範囲外のコントラストは低下されることを特徴とする、請求項9に記載の装置
  11. 記特徴は、所定の彩度範囲内にある、上記サイド画像の少なくとも一部の彩度および/または色を含むことを特徴とする、請求項1から10のいずれか1項に記載の装置
  12. 上記第2の処理部では、人の肌のトーンの範囲内にある上記サイド画像ピクセルデータを処理し、人の肌のトーンの範囲外にあるサイド画像ピクセルデータには異なる処理が施されることを特徴とする、請求項1から11のいずれか1項に記載の装置
  13. 記特徴は、上記サイド画像の空間的特徴であることを特徴とする、請求項1から12のいずれか1項に記載の装置
  14. 記空間的特徴は、エッジであることを特徴とする、請求項13に記載の装置
  15. 上記第2の処理は、上記サイド画像に対するアンシャープマスクフィルタを含むことを特徴とする、請求項14に記載の装置
  16. 上記第2の処理は、フィルタの重み付けを調節するための、フィルタ領域内のピクセルのピクセルデータを用いるバイリニアフィルタまたは他の空間的フィルタを含むことを特徴とする、請求項1から15のいずれか1項に記載の装置
  17. 上記第2の処理部では、上記サイド画像の所定部分に処理を施し、上記所定部分と異なる部分に対して上記処理と異なる処理を施すことを含むことを特徴とする、請求項1から16のいずれか1項に記載の装置
  18. 上記第2の処理部では、テキスト部に対して処理を施し、テキスト以外の部分には上記処理と異なる処理を施す工程を含むことを特徴とする、請求項17に記載の装置
  19. 上記第2の処理部では、上記サイド画像のピクセルデータの処理において、上記メイン画像のピクセルデータを考慮に入れることを特徴とする、請求項1から18のいずれか1項に記載の装置
  20. 上記第2の処理は、軸外の閲覧者から上記サイド画像を見たときに当該サイド画像の質を低減させることになる、当該サイド画像のさらなる特徴を弱める空間的フィルタを含むことを特徴とする、請求項1から19のいずれか1項に記載の装置
  21. 上記サイド画像の特徴を強調するための少なくとも1つの処理を、上記第1の処理で実行されるマッピングにて行うことを特徴とする、請求項1から20のいずれか1項に記載の装置
  22. 上記第2の処理は、
    記第1の処理部の実行の結果、軸上表示されたメイン画像において弱められている、上記メイン画像の上記特徴を強調するために、上記メイン画像のピクセルデータを処理することをさらに含むことを特徴とする、請求項1から21のいずれか1項に記載の装置
  23. 表示装置の表示パネルに表示する画像データを処理する方法であって、
    メイン画像を表すメイン画像ピクセルデータとサイド画像を表すサイド画像ピクセルデータとを受信する工程と、
    上記表示パネルを駆動するために用いられる信号に対する上記ピクセルデータのマッピングであって、上記メイン画像ピクセルデータに依存する平均軸上輝度と、少なくとも上記サイド画像ピクセルデータに依存する平均軸外輝度とを生成するように構成されたマッピングを実行する第1の処理ステップと、
    上記サイド画像の特徴を強調するために、受信された上記サイド画像ピクセルデータを処理する第2の処理ステップと、を含み、
    上記特徴は、コントラスト、色、解像度、空間的特徴およびデジタル圧縮により生成されるアーチファクトの削除からなるグループから選択される少なくとも1つであることを特徴とする方法。
JP2012508687A 2009-09-16 2010-09-10 表示パネルによる表示のための画像データ処理のための装置および方法 Expired - Fee Related JP5439588B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GB0916231A GB2476027A (en) 2009-09-16 2009-09-16 Display privacy image processing method to emphasise features of a secondary image
GB0916231.4 2009-09-16
PCT/JP2010/066108 WO2011034157A1 (en) 2009-09-16 2010-09-10 Apparatus, display device, program and method thereof for processing image data for display by a display panel

Publications (2)

Publication Number Publication Date
JP2013502602A JP2013502602A (ja) 2013-01-24
JP5439588B2 true JP5439588B2 (ja) 2014-03-12

Family

ID=41277788

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012508687A Expired - Fee Related JP5439588B2 (ja) 2009-09-16 2010-09-10 表示パネルによる表示のための画像データ処理のための装置および方法

Country Status (6)

Country Link
US (1) US9058788B2 (ja)
JP (1) JP5439588B2 (ja)
KR (1) KR101384166B1 (ja)
CN (1) CN102549643B (ja)
GB (1) GB2476027A (ja)
WO (1) WO2011034157A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8483772B2 (en) * 2011-07-07 2013-07-09 Microsoft Corporation Inconspicuous mode for mobile devices
GB2496114A (en) * 2011-10-28 2013-05-08 Sharp Kk Adaptive luminance sharing for implementing private display mode
GB2496113A (en) * 2011-10-28 2013-05-08 Sharp Kk Multiple view window multi-primary display
KR20130056133A (ko) * 2011-11-21 2013-05-29 삼성전자주식회사 표시 장치 및 그 구동 방법
CN102811353B (zh) * 2012-06-14 2014-09-24 北京暴风科技股份有限公司 提升视频图像清晰度的方法及系统
US9402073B2 (en) * 2013-08-08 2016-07-26 Sharp Kabushiki Kaisha Image processing for privacy and wide-view using error diffusion
CN103778897B (zh) * 2014-01-28 2016-03-02 北京京东方显示技术有限公司 一种图像显示控制方法及装置
WO2015183869A1 (en) 2014-05-30 2015-12-03 3M Innovative Properties Company Variable viewing angle optical systems
US9921345B2 (en) 2014-05-30 2018-03-20 3M Innovative Properties Company Optical systems having variable viewing angles
US9443102B2 (en) 2015-01-19 2016-09-13 International Business Machines Corporation Protecting content displayed on a mobile device
US10152812B2 (en) * 2015-10-23 2018-12-11 Sharp Kabushiki Kaisha Odd-even veil view for FFS
US11768923B2 (en) 2019-08-01 2023-09-26 International Business Machines Corporation Media transactions consent management
TWI738417B (zh) * 2020-07-10 2021-09-01 友達光電股份有限公司 顯示裝置以及驅動方法

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USRE27617E (en) 1970-10-30 1973-04-17 Louvered transparent sheeting made by skiving
CA1319341C (en) 1985-03-29 1993-06-22 Frederick J. Fox Method of supporting a louvered plastic film
US4766023A (en) 1987-01-16 1988-08-23 Minnesota Mining And Manufacturing Company Method for making a flexible louvered plastic film with protective coatings and film produced thereby
US5147716A (en) 1989-06-16 1992-09-15 Minnesota Mining And Manufacturing Company Multi-directional light control film
US5528319A (en) 1993-10-13 1996-06-18 Photran Corporation Privacy filter for a display device
JPH11298862A (ja) * 1998-04-10 1999-10-29 Seiko Epson Corp 画像処理方法及び画像表示装置
EP1324305A4 (en) * 2000-10-03 2006-10-11 Seiko Epson Corp IMAGE PROCESSING PROCESS, IMAGE PROCESSING APPARATUS, LECTRONIC DEVICE, IMAGE PROCESSING PROGRAM, AND RECORDED MEDIUM ON WHICH THE PROGRAM IS RECORDED
JP2004133354A (ja) * 2002-10-15 2004-04-30 Seiko Epson Corp 画像表示システム、画像表示装置、画像データ出力装置、画像表示方法、画像表示プログラムおよび画像データ出力プログラム
GB2413394A (en) 2004-04-20 2005-10-26 Sharp Kk Display
US7965268B2 (en) 2005-07-08 2011-06-21 Sharp Kabushiki Kaisha Display device and liquid crystal display panel
GB2428152A (en) 2005-07-08 2007-01-17 Sharp Kk Processing image data for direction dependent viewing on a display device
JP4621610B2 (ja) * 2005-09-06 2011-01-26 東芝モバイルディスプレイ株式会社 液晶表示装置
KR20070070721A (ko) * 2005-12-29 2007-07-04 엘지.필립스 엘시디 주식회사 액정표시장치 및 그 구동방법
JP4973184B2 (ja) * 2006-12-27 2012-07-11 アイシン・エィ・ダブリュ株式会社 マルチビュー表示制御装置、マルチビュー表示制御方法
US8194016B2 (en) 2007-09-26 2012-06-05 Chimei Innolux Corporation Liquid crystal display with peep-preventing function
TWI385629B (zh) * 2007-10-12 2013-02-11 Chimei Innolux Corp 液晶顯示裝置的驅動方法
GB2455061A (en) 2007-10-30 2009-06-03 Sharp Kk Liquid Crystal Device with three sets of electrodes for controlling tilt and azimuth angles
EP2227797A1 (en) 2007-11-29 2010-09-15 Koninklijke Philips Electronics N.V. Method and device for providing privacy on a display
JP2009192615A (ja) * 2008-02-12 2009-08-27 Sharp Corp 液晶表示装置
GB2457106A (en) * 2008-03-04 2009-08-05 Sharp Kk LCD device with luminance variations perceivable only by off-axis viewers
US20100149073A1 (en) * 2008-11-02 2010-06-17 David Chaum Near to Eye Display System and Appliance
GB2464521A (en) 2008-10-20 2010-04-21 Sharp Kk Processing image data for multiple view displays

Also Published As

Publication number Publication date
GB2476027A (en) 2011-06-15
KR101384166B1 (ko) 2014-04-17
CN102549643A (zh) 2012-07-04
KR20120061919A (ko) 2012-06-13
WO2011034157A1 (en) 2011-03-24
JP2013502602A (ja) 2013-01-24
US20120154458A1 (en) 2012-06-21
GB0916231D0 (en) 2009-10-28
US9058788B2 (en) 2015-06-16
CN102549643B (zh) 2015-11-25

Similar Documents

Publication Publication Date Title
JP5439588B2 (ja) 表示パネルによる表示のための画像データ処理のための装置および方法
RU2433477C1 (ru) Расширение динамического диапазона изображений
EP2959682B1 (en) Display management for high dynamic range video
JP5436647B2 (ja) 表示装置、制御方法
TWI534784B (zh) 用於在液晶顯示器上顯示的強化影像之方法、圖形處理單元及有形電腦可讀取媒體
US8538147B2 (en) Methods and appartuses for restoring color and enhancing electronic images
US8836715B2 (en) Method, apparatus and program for processing image data for display by a display panel of a display device, and a display device
CN107888943B (zh) 图像处理
EP2208195B1 (en) Video blending using time-averaged color keys
WO2019101005A1 (zh) 像素补偿方法、装置和终端设备
US8698832B1 (en) Perceptual detail and acutance enhancement for digital images
Jung et al. Power constrained contrast enhancement based on brightness compensated contrast-tone mapping operation
Zhang et al. An adaptive tone mapping algorithm for high dynamic range images

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130806

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131216

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees