JP5434624B2 - 撮像装置付き画像表示装置 - Google Patents

撮像装置付き画像表示装置 Download PDF

Info

Publication number
JP5434624B2
JP5434624B2 JP2010012051A JP2010012051A JP5434624B2 JP 5434624 B2 JP5434624 B2 JP 5434624B2 JP 2010012051 A JP2010012051 A JP 2010012051A JP 2010012051 A JP2010012051 A JP 2010012051A JP 5434624 B2 JP5434624 B2 JP 5434624B2
Authority
JP
Japan
Prior art keywords
image display
imaging device
light
image
light transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010012051A
Other languages
English (en)
Other versions
JP2011151652A (ja
Inventor
和夫 中村
勝秀 内野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010012051A priority Critical patent/JP5434624B2/ja
Priority to US12/926,806 priority patent/US20110181587A1/en
Priority to CN201110007293.2A priority patent/CN102136225B/zh
Priority to EP11151164.8A priority patent/EP2348388B1/en
Publication of JP2011151652A publication Critical patent/JP2011151652A/ja
Priority to US13/920,235 priority patent/US20130278646A1/en
Application granted granted Critical
Publication of JP5434624B2 publication Critical patent/JP5434624B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10KORGANIC ELECTRIC SOLID-STATE DEVICES
    • H10K59/00Integrated devices, or assemblies of multiple devices, comprising at least one organic light-emitting element covered by group H10K50/00
    • H10K59/10OLED displays
    • H10K59/12Active-matrix OLED [AMOLED] displays
    • H10K59/121Active-matrix OLED [AMOLED] displays characterised by the geometry or disposition of pixel elements

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Geometry (AREA)
  • Studio Devices (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Control Of El Displays (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)
  • Electroluminescent Light Sources (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

本発明は、撮像装置付き画像表示装置に関し、より具体的には、画像表示部の背面側に撮像装置が配置された画像表示装置に関する。
近年、フラットパネル表示装置(FP表示装置)として、有機エレクトロルミネッセンス表示装置(以下、単に、『有機EL表示装置』と略称する場合がある)に関心が高まっている。現在、FP表示装置として液晶表示装置(LCD)が主流を占めているが、自発光デバイスではなく、バックライトや偏光板等の部材を必要とする。それ故、FP表示装置の厚さが増す、輝度が不足するなどの問題点がある。一方、有機EL表示装置は自発光デバイスであり、バックライト等の部材が原理的に不要であり、薄型化、高輝度であるなど、LCDと比較して多数の利点を有する。特に、各画素にスイッチング素子を配したアクティブマトリクス型有機EL表示装置は、各画素をホールド点灯させることで消費電流を低く抑えることができ、しかも、大画面化及び高精細化が比較的容易に行えることから、各社で開発が進められており、次世代FP表示装置の主流になると期待されている。
近年、所謂3次元画像表示装置の開発も進められている。3次元画像表示方式は、眼鏡等の付属機器を利用した方式と付属機器を利用しない裸眼3次元画像表示方式とに大別される。そして、裸眼3次元画像表示方式として、視差バリアを用いて観測者の左右の目に視差画像を見せて観測者に3次元画像を知覚させる視差バリア方式と、画像表示装置の画像表示面にカマボコ型のレンズ(レンチキュラーレンズ)を取り付けて3次元画像表示を行うレンチキュラー方式の2つの方式を挙げることができる。
また、近年では、画像表示装置と撮像装置を少なくとも2組用いて、通信回線やネットワークを介してこれらを接続することで、遠隔地間で互いの顔を見ながら会話するテレビジョン電話会議システム(テレビ電話装置)が普及し始めている。そして、ウェブカメラと呼ばれる低価格の撮像装置とパーソナルコンピュータ及びソフトウェアを用いることで、TV電話機能を簡単に実現できるようになってきている。
特開平2−044995
視差バリア方式、レンチキュラー方式の両方式共、所謂両眼視差を利用した3次元画像表示方式であり、画像表示面からの距離等に応じて観察者が3次元画像を観測できる範囲(空間)が限定される。これを解決する技術として、例えば、特開平2−044995には、3次元画像表示装置の光指向制御方法が開示されている。この特許公開公報に開示された技術にあっては、3次元画像表示装置の外部に設置したカメラによって観察者の両眼の位置を検出して、3次元画像表示装置の前面に位置するレンチキュラーレンズを水平方向に移動させることで、立体視領域を拡大している。しかしながら、このような方法では、観察者がカメラを意識してしまうため、3次元画像表示装置よりもカメラに視線が向くことが多く、観察者は3次元画像が見づらい。また、レンチキュラーレンズの移動量を、画像表示装置における画素ピッチと同程度に正確に制御することは難しい。
また、上述したTV電話システムでは、一方の側の使用者の顔を撮像装置で撮影し、得られた画像を他方の側の画像表示装置に表示し、他方の側の使用者の顔を撮像装置で撮影し、得られた画像を一方の側の画像表示装置に表示して会話を行う。そして、どちら側においても、使用者は、自分の画像表示装置に表示された相手の顔を見ながら会話するため、視線及び顔は自分の画像表示装置に向く。従来のTV電話システムでは撮像装置は画像表示装置の表示領域外に置かれているため、視線は撮像装置に向いていない。それ故、画像表示装置に映し出される相手側の使用者の顔は、自分の方を見ていないことになり、かなりの違和感を覚える。この相手を直視していない違和感が、TV電話の普及を遅らせている要因の1つとなっている。
従って、本発明の目的は、観察者が3次元画像を容易に、違和感無く観察できることを可能とする撮像装置付き画像表示装置を提供することにある。
上記の目的を達成するための本発明の撮像装置付き画像表示装置は、
発光素子を含む画素を複数配置して成り、3次元画像を表示する画像表示部、
画像表示部に設けられた光透過領域、
画像表示部の背面側に配置された撮像装置、
光透過領域を通過した光を撮像装置に集光する集光手段、並びに、
撮像装置を介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段、
を有する。
本発明の撮像装置付き画像表示装置にあっては、光透過領域を通過した光が集光手段によって撮像装置に集光され、撮像装置を介して取得された画像データに基づき位置検出手段によって観察者の位置情報が求められる。従って、観察者が3次元画像を容易に、違和感無く観察できるように、最適な3次元画像観察位置を観察者に指示し、あるいは又、最適な3次元画像観察位置に観察者を誘導し、あるいは観察者の位置に応じて最適な3次元画像を提供することが可能となる。しかも、画像表示部の背面側に撮像装置が配置されているので、画像表示部に正対している使用者の顔、目、動作等を撮像装置によって正確に撮像することができるし、観察者が撮像装置を意識することもない。
図1の(A)及び(B)は、それぞれ、実施例1の撮像装置付き画像表示装置を正面及び側面から眺めた模式図であり、図1の(C)は、画像表示部を構成する複数の画素の配置を模式的に示す図である。 図2は、実施例の撮像装置付き画像表示装置の模式的な一部断面図である。 図3の(A)及び(B)は、実施例1の撮像装置付き画像表示装置、及び、撮像装置が画像表示部の外側に固定された画像表示装置の概念図である。 図4は、実施例1の撮像装置付き画像表示装置において、撮像装置から観察者までの距離(D)及び観察者の瞳孔間距離(R)を求める方法を説明するための概念図である。 図5は、スリットによる回折現象を説明する模式図である。 図6の(A)及び(B)は、それぞれ、撮像装置の手前に透明なガラス板を配置して撮影して得られた画像、及び、撮像装置の手前に或る形状、大きさ、分布を有する光透過部の集合体である光透過領域を設けた透明なガラス板を配置して撮影して得られた画像である。 図7は、実施例2の撮像装置付き画像表示装置のブロック図である。 図8の(A)及び(B)は、実施例2における光透過領域を構成する光透過部の形状を模式的に示す図である。 図9は、実施例2における光透過領域を構成する光透過部の別の形状を模式的に示す図である。 図10は、実施例3の撮像装置付き画像表示装置のブロック図である。 図11の(A)及び(B)は、実施例5における光透過領域を構成する光透過部の形状を模式的に示す図である。 図12の(A)及び(B)は、それぞれ、ノート型パーソナルコンピュータ及び携帯電話の模式図である。
以下、図面を参照して、実施例に基づき本発明を説明するが、本発明は実施例に限定されるものではなく、実施例における種々の数値や材料は例示である。尚、説明は、以下の順序で行う。
1.本発明の撮像装置付き画像表示装置、全般に関する説明
2.実施例1(本発明の撮像装置付き画像表示装置及び本発明の第4の構成)
3.実施例2(実施例1の変形、本発明の第1の構成)
4.実施例3(実施例2の変形、本発明の第2の構成)
5.実施例4(実施例1の変形、本発明の第3の構成)
6.実施例5(実施例1の変形、本発明の第5の構成)、その他
[本発明の撮像装置付き画像表示装置、全般に関する説明]
本発明の撮像装置付き画像表示装置は、光透過領域、撮像装置及び集光手段を複数有し、各集光手段は、各光透過領域を通過した光を各撮像装置に集光する形態とすることができる。
上記の好ましい形態を含む本発明の撮像装置付き画像表示装置において、位置検出手段は、複数の撮像装置を介して撮像された画像データに基づき観察者の位置情報を求める構成とすることができる。
上記の好ましい形態、構成を含む本発明の撮像装置付き画像表示装置において、観察者の位置情報を、観察者の両眼の位置データとすることができるし、あるいは又、画像表示部から観察者までの距離データとすることもできる。また、観察者の位置情報を、複数の撮像装置を介して撮像された画像データの観察者の両眼に基づき求めることができる。
これらの好ましい形態を含む本発明の撮像装置付き画像表示装置においては、観察者の位置情報を画像表示部に表示する構成とすることができ、これによって、観察者が3次元画像を容易に観察できるように、最適な3次元画像観察位置を観察者に明確に指示し、あるいは又、最適な3次元画像観察位置に観察者を誘導することができる。あるいは又、これらの好ましい形態を含む本発明の撮像装置付き画像表示装置においては、画像表示部に表示する画像を観察者の位置情報に基づいて最適化する構成とすることができる。
光透過領域が複数の光透過部から構成されており、各光透過部が画素に設けられている場合、光透過領域を構成する光透過部において回折現象が生じる結果、撮像装置に結像する像にボケが生じ、あるいは又、鮮明さに欠ける場合がある。このような場合には、撮像装置を介して取得された画像データや、撮像装置を介して取得された、画像表示部に表示すべきその他の画像情報(例えば、撮像装置によって使用者等を撮影して得られた、画像表示部に表示すべき画像情報であり、このようなその他の画像情報を、単に、『画像情報』と呼ぶ場合がある)に対して、光透過領域を構成する光透過部において生じる回折の補正を施す回折補正手段を更に備えている構成とすることが好ましい。尚、このような構成を、便宜上、『本発明の第1の構成』と呼ぶ。
そして、本発明の第1の構成において、光透過領域を構成する光透過部の一部又は全部は、画像表示部の第1の方向及び第2の方向に沿って周期的に設けられており、
第1の方向に沿った光透過部の長さをLtr-1、第1の方向に沿った画素のピッチをPpx-1としたとき、第1の方向の線開口率Ltr-1/Ppx-1は、
tr-1/Ppx-1≧0.5
好ましくは、Ltr-1/Ppx-1≧0.8
を満足することが好ましい。更には、第2の方向に沿った光透過部の長さをLtr-2、第2の方向に沿った画素のピッチをPpx-2としたとき、第2の方向の線開口率Ltr-2/Ppx-2は、
tr-2/Ppx-2≧0.5
好ましくは、Ltr-2/Ppx-2≧0.8
を満足することが好ましい。尚、第1の方向と第2の方向とは、直交している場合もあるし、場合によっては、90度以外の角度で交わっている場合もある。後者の場合、光透過部の一部又は全部は、画像表示部の第1の方向及び第2の方向だけでなく、第3の方向、第4の方向・・・に沿って周期的に設けられている場合もあり、このような場合には、各方向の内の少なくとも2方向に沿った光透過部の長さと、これらの少なくとも2方向に沿った画素のピッチとが、上記の関係(具体的には、0.5倍以上)を満足していることが好ましい。線開口率Ltr-1/Ppx-1、Ltr-2/Ppx-2の上限値には、光透過部が形成できる限りにおいて、特段の制約はない。ここで、第1の方向に沿った光透過部の長さLtr-1は、第1の方向に光透過部を射影したときの、その形状に対応する線分の1周期当たりの長さを意味し、第1の方向に沿った画素のピッチPpx-1は、第1の方向に沿った画素の1周期当たりの長さを意味する。同様に、第2の方向に沿った光透過部の長さLtr-2は、第2の方向に光透過部を射影したときの、その形状に対応する線分の1周期当たりの長さを意味し、第2の方向に沿った画素のピッチPpx-2は、第2の方向に沿った画素の1周期当たりの長さを意味する。
本発明の第1の構成において、具体的には、光透過部の形状、大きさ、分布に基づき(場合によっては、更に、外光の波長に基づき)算出されるMTF(Moduration Transfer Function)逆変換処理を、画像データや画像情報に対して施すことが好ましい。光透過部の形状、大きさ、分布は、回折補正手段に予め記憶しておけばよい。回折補正手段は、例えば、入出力部を有するCPUとメモリから構成された回路とすることができるし、場合によっては、撮像装置付き画像表示装置に備えられたパーソナルコンピュータから回折補正手段を構成することもできる。外光の波長を考慮することで、外光(外部照明環境)に依らず、最適な画像を得ることができる。
以上の好ましい形態、構成を含む本発明の撮像装置付き画像表示装置においては、外光の波長分布を測定する波長分布測定手段を更に備えている構成とすることができる。尚、このような構成を、便宜上、『本発明の第2の構成』と呼ぶ。このような構成を採用することで、撮像装置を介して取得された画像データや画像情報の精度の向上(例えば、色情報の精度向上)を図ることができるし、MTF逆変換処理の精度向上を図ることができる。波長分布測定手段は、例えば、ホトセンサ等の受光装置から構成することができる。波長分布測定手段の制御は、撮像装置付き画像表示装置によって行えばよいし、場合によっては、撮像装置付き画像表示装置に備えられたパーソナルコンピュータによって行うこともできる。
更には、本発明の第1の構成、本発明の第2の構成、以上の好ましい形態、構成を含む本発明の撮像装置付き画像表示装置においては、
撮像装置を介して取得された、画像表示部に表示すべき画像情報を送出する情報送出手段、及び、
外部から入力された、画像表示部に表示すべき画像情報に基づく画像を画像表示部に表示する表示手段、
を更に備えており、
撮像装置を介して取得された、画像表示部に表示すべき画像情報を情報送出手段によって外部に送出し、
外部から入力された、画像表示部に表示すべき画像情報に基づく画像を表示手段によって画像表示部に表示する構成とすることができる。尚、このような構成を、便宜上、『本発明の第3の構成』と呼ぶ。このような撮像装置付き画像表示装置を複数台(2台以上)、通信回線やネットワーク等を介して結ぶことで、所謂、テレビジョン電話会議システム(テレビ電話装置)を構築することができる。
ここで、撮像装置を介して取得された、画像表示部に表示すべき画像情報を送出する情報送出手段、及び、外部から入力された、画像表示部に表示すべき画像情報に基づく画像を画像表示部に表示する表示手段は、例えば、テレビジョン電話会議システム(テレビ電話装置)にて用いられている周知の手段を用いればよい。撮像装置付き画像表示装置(あるいは画像表示部)に、操作用のスイッチやボタン、キーボード等を配置することが好ましい。場合によっては、撮像装置付き画像表示装置に備えられたパーソナルコンピュータから情報送出手段及び表示手段を構成することもでき、この場合には、パーソナルコンピュータを通信回線やネットワーク等に接続すればよい。
以上に説明した各種の好ましい形態、構成を含む本発明の撮像装置付き画像表示装置において、発光素子は自発光型の発光素子であることが望ましく、有機エレクトロルミネッセンス素子(有機EL素子)から成る形態とすることがより好ましい。尚、液晶表示装置を構成する液晶表示素子は、外部からの光(バックライトからの光あるいは外光)の通過を制御するものであり、画素が発光素子を含むものではない。発光素子を有機EL素子から構成する場合、有機EL素子を構成する有機層(発光部)は有機発光材料から成る発光層を備えているが、具体的には、例えば、正孔輸送層と発光層と電子輸送層との積層構造、正孔輸送層と電子輸送層を兼ねた発光層との積層構造、正孔注入層と正孔輸送層と発光層と電子輸送層と電子注入層との積層構造から構成することができる。また、電子輸送層、発光層、正孔輸送層及び正孔注入層を『タンデムユニット』とする場合、有機層は、第1のタンデムユニット、接続層、及び、第2のタンデムユニットが積層された2段のタンデム構造も有していてもよく、更には、3つ以上のタンデムユニットが積層された3段以上のタンデム構造も有していてもよく、これらの場合、発光色を赤色、緑色、青色と各タンデムユニットで変えることで、全体として白色を発光する有機層を得ることができる。
有機層の厚さの最適化を図ることで、例えば、第1電極と第2電極との間で発光層において発光した光を共振させ、この光の一部を第2電極を介して外部に出射する構成とすることもできる。
更には、以上に説明した各種の好ましい形態、構成を含む本発明の撮像装置付き画像表示装置において、画像表示部は、
(a)第1基板、
(b)第1基板上に設けられた駆動回路、
(c)駆動回路を覆う層間絶縁層、
(d)層間絶縁層上に設けられた発光部、
(e)発光部上に設けられた保護層、
(f)保護層上に設けられた遮光層、及び、
(g)保護層及び遮光層を覆う第2基板、
を備えており、
各画素は、該駆動回路及び該発光部を備えており、
遮光層には、開口部が設けられており、
開口部、並びに、開口部の下方に位置する保護層の部分及び層間絶縁層の部分によって光透過領域を構成する光透過部が構成されており、
第2基板と対向しない第1基板の面の側に、集光手段及び撮像装置が配置されている形態とすることができる。発光部で発光した光は、保護層及び第2基板を介して外部に出射される。光透過部は画素に設けられている。
ここで、画素の配列として、例えば、ストライプ配列、ダイアゴナル配列、デルタ配列、レクタングル配列を挙げることができる。また、第1基板として、あるいは又、第2基板として、高歪点ガラス基板、ソーダガラス(Na2O・CaO・SiO2)基板、硼珪酸ガラス(Na2O・B23・SiO2)基板、フォルステライト(2MgO・SiO2)基板、鉛ガラス(Na2O・PbO・SiO2)基板、表面に絶縁膜が形成された各種ガラス基板、石英基板、表面に絶縁膜が形成された石英基板、表面に絶縁膜が形成されたシリコン基板、ポリメチルメタクリレート(ポリメタクリル酸メチル,PMMA)やポリビニルアルコール(PVA)、ポリビニルフェノール(PVP)、ポリエーテルスルホン(PES)、ポリイミド、ポリカーボネート、ポリエチレンテレフタレート(PET)に例示される有機ポリマー(高分子材料から構成された可撓性を有するプラスチック・フィルムやプラスチック・シート、プラスチック基板といった高分子材料の形態を有する)を挙げることができる。駆動回路は、例えば、1又は複数の薄膜トランジスタ(TFT)等から構成すればよい。層間絶縁層の構成材料として、SiO2、BPSG、PSG、BSG、AsSG、PbSG、SiON、SOG(スピンオングラス)、低融点ガラス、ガラスペーストといったSiO2系材料;SiN系材料;ポリイミド等の絶縁性樹脂を、単独あるいは適宜組み合わせて使用することができる。画素を有機EL素子から構成する場合、発光部は上述したとおりである。保護膜を構成する材料として、発光部で発光した光に対して透明であり、緻密で、水分を透過させない材料を用いることが好ましく、具体的には、例えば、アモルファスシリコン(α−Si)、アモルファス炭化シリコン(α−SiC)、アモルファス窒化シリコン(α−Si1-xx)、アモルファス酸化シリコン(α−Si1-yy)、アモルファスカーボン(α−C)、アモルファス酸化・窒化シリコン(α−SiON)、Al23を挙げることができる。遮光膜(ブラックマトリクス)は周知の材料から構成すればよい。必要に応じて、カラーフィルターを設けてもよい。
以上に説明した各種の好ましい形態、構成を含む本発明の撮像装置付き画像表示装置(以下、これらを総称して、単に、『本発明』と呼ぶ場合がある)において、位置検出手段は、例えば、入出力部を有するCPUとメモリから構成された回路とすることができるし、場合によっては、撮像装置付き画像表示装置に備えられたパーソナルコンピュータから位置検出手段を構成することもできる。撮像装置によって得られた信号(データ)は、位置検出手段に送られ、位置検出手段において処理されるが、係る処理は周知の方法(周知のアルゴリズムやソフトウエア)に基づいて行えばよい。本発明における3次元画像の表示方式として、例えば、周知の視差バリア(パララックス)方式、レンチキュラー方式及びインテグラル方式を挙げることができるが、これらの方式に限られるものではない。
本発明において、画像表示部は、発光素子を含む画素ユニットを複数配置して成るが、ここで、画素ユニットの数を(M,N)で表したとき、VGA(640,480)、S−VGA(800,600)、XGA(1024,768)、APRC(1152,900)、S−XGA(1280,1024)、U−XGA(1600,1200)、HD−TV(1920,1080)、Q−XGA(2048,1536)の他、(1920,1035)、(720,480)、(854,480)、(1280,960)等、画像表示用解像度の幾つかを例示することができるが、これらの値に限定するものではない。尚、カラー表示を行う画像表示部において、1つの画素ユニットは、例えば、赤色を発光する赤色発光画素、緑色を発光する緑色発光画素、及び、青色を発光する青色発光画素の3種の画素から構成され、あるいはまた、これらの3種の画素に加え、輝度向上のために白色光を発光する画素、色再現範囲を拡大するために補色を発光する画素、色再現範囲を拡大するためにイエローを発光する画素、色再現範囲を拡大するためにイエロー及びシアンを発光する画素等、4種、あるいはそれ以上の画素から構成することもできる。
本発明において、光透過領域は、複数の画素に設けられている構成とすることができる。尚、このような構成を、便宜上、『本発明の第4の構成』と呼ぶ。あるいは又、光透過領域は、少なくとも1つ以上(好ましくは、少なくとも2つ以上)の画素の周囲に設けられている構成とすることもでき、この場合、光透過領域は、画素の全ての周囲に設けられていてもよいし、画素の周囲の一部に(具体的には、画素の境界に相当する辺の内の連続する2辺以上に)設けられていてもよいが、後者の場合、画素の全周の1/4倍以上の長さ(連続する2辺にあっては、各一辺の長さの1/2倍以上)に亙り光透過領域が設けられていることが好ましい。尚、このような構成を、便宜上、『本発明の第5の構成』と呼ぶ。これらの本発明の第4の構成あるいは本発明の第5の構成にあっては、複数の画素に設けられた光透過領域を通過した光が撮像装置に集光され、あるいは又、少なくとも1つ以上の画素の周囲に設けられた光透過領域を通過した光が撮像装置に集光される。従って、正確に像を撮像装置に結ぶために高精度の微小レンズを必要とせず、撮像装置付き画像表示装置の製造コストの増加を招くことがないし、撮像装置に十分な光量の光を集光させることができる。
本発明の第4の構成において、光透過領域は複数の画素に設けられているが、ここで、具体的には、例えば、限定するものではないが、3個以上の画素に設けられていることが望ましく、光透過領域を構成する光透過部の外形形状は、本質的には任意であり、長方形や正方形といった四角形を挙げることができる。また、本発明の第5の構成において、光透過領域は、少なくとも1つ以上の画素の周囲に設けられているが、ここで、具体的には、例えば、限定するものではないが、3個以上の画素の周囲に設けられていることが望ましく、光透過領域の外形形状は、本質的には任意であり、「L」字形状(光透過領域が、画素の境界に相当する辺の内の連続する2辺に設けられている形態)、「コ」の字形状(光透過領域が、画素の境界に相当する辺の内の連続する3辺に設けられている形態)、「ロ」の字形状(光透過領域が、画素の境界に相当する辺の全てに設けられている形態)、井桁状の形状(光透過領域が、画素の境界に相当する辺の全てに設けられており、しかも、隣接する画素の間に共通して設けられている形態)を例示することができる。あるいは又、光透過領域を、撮像装置に備えられたレンズの射影像が含まれる画素群に設け、係る画素群の周囲に設ける構成とすることが好ましい。
本発明において、撮像装置は、画像表示部の背面側に配置されていればよいが、画像表示部の中央部に配置されていることが好ましい。撮像装置は、1個であってもよいし、複数個であってもよい。撮像装置は、例えば、CCD素子やCMOSセンサを備えた周知、市販の固体撮像素子を用いればよい。尚、周知、市販のビデオカメラやウェブカメラといった固体撮像装置を用いることもでき、これらの場合には、集光手段と撮像装置が一体化している。
光透過領域を通過した光を撮像装置に集光する集光手段として、周知のレンズを挙げることができる。レンズとして、具体的には、両凸レンズ、平凸レンズ、メニスカス凸レンズのいずれかから構成することができるし、反射鏡やフレネルレンズから構成してもよいし、これらの各種の凸レンズを組み合わせて構成することもできるし、更には、凹レンズとこれらの各種の凸レンズとを組み合わせて構成することもできる。
本発明において、画像表示部に入射し、光透過領域を通過し、画像表示部から出射し、集光手段に入射する光の光路には、カラーフィルターを配置しないことが好ましく、また、マイクロレンズ等の結像系を配置しないことが好ましい。
本発明は、例えば、パーソナルコンピュータを構成するモニター装置の代替として使用することができるし、ノート型パーソナルコンピュータに組み込まれたモニター装置の代替として使用することができるし、携帯電話やPDA(携帯情報端末,Personal Digital Assistant)、ゲーム機器に組み込まれたモニター装置、従来のテレビジョン受像機の代替として使用することができる。
実施例1は、本発明の撮像装置付き画像表示装置に関し、更には、第4の構成に関する。実施例1の撮像装置付き画像表示装置を正面及び側面から眺めた概念図を図1の(A)及び(B)に示し、画像表示部を構成する複数の画素の配置を模式的に図1の(C)に示し、撮像装置付き画像表示装置の模式的な一部断面図を図2に示す。
実施例1の撮像装置付き画像表示装置は、
(A)発光素子を含む画素11(11R,11G,11B)を複数配置して成り、3次元画像を表示する画像表示部10、
(B)画像表示部10に設けられた光透過領域30、
(C)画像表示部10の背面側に配置された撮像装置20、
(D)光透過領域30を通過した光を撮像装置20に集光する集光手段21、並びに、
(E)撮像装置20を介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段71、
を有する。
ここで、実施例1にあっては、具体的には、光透過領域30は、複数の画素11に設けられている。即ち、光透過領域30は、複数の画素11に設けられた光透過部31の集合体から成る。また、実施例1の撮像装置付き画像表示装置は、具体的には、光透過領域30、撮像装置20及び集光手段21を複数有し(より具体的には、それぞれ、2つ有し)、各集光手段21は、各光透過領域30を通過した光を各撮像装置20A,20Bに集光する。画像表示部10における3次元画像の表示方式として、周知の視差バリア(パララックス)方式、レンチキュラー方式あるいはインテグラル方式を挙げることができる。尚、図2や、図1の(A)、(B)において、第2基板67や画像表示面の上あるいは上方には、例えば、パララックスバリアやレンチキュラーレンズ等が配置されているが、これらの図示は省略した。
実施例1あるいは後述する実施例2〜実施例5において、発光素子は、自発光型の発光素子、具体的には、有機EL素子から成り、画像表示部10は、カラー表示のXGAタイプの有機EL表示装置から成る。即ち、画素ユニットの数を(M,N)で表したとき、(1024,768)である。また、1つの画素ユニットは、赤色を発光する赤色発光画素11R、緑色を発光する緑色発光画素11G、及び、青色を発光する青色発光画素11Bの3つの画素から構成されている。尚、図1の(C)、図8の(A)、(B)、図9、図11の(A)、(B)においては、画素の外縁を点線で示した。撮像装置20A,20Bは、画像表示部10の背面側、より具体的には、画像表示部10の背面側の中央部に配置されており、備えられた撮像装置は2つである。ここで、撮像装置20及び集光手段21は、これらが一体化された、即ち、CCD素子を備えた周知、市販のウェブカメラから成る。実施例1の撮像装置付き画像表示装置は、パーソナルコンピュータを構成するモニター装置の代替として使用される。また、実施例1の撮像装置付き画像表示装置には、パーソナルコンピュータ70が備えられている。パーソナルコンピュータ70と画像表示部10及び撮像装置20とはケーブル72,73で接続されている。
光透過領域30は、複数(具体的には2つ)の撮像装置20A,20Bに対応して、2箇所に設けられている。そして、各光透過領域30は、限定するものではないが、6×3=18個の画素11に設けられている。1つの画素11に1つの光透過部31が設けられている。そして、集光手段21は、光透過領域30(具体的には、これらの6×3=18個の画素11における光透過部31の集合体)を通過した光を撮像装置20に集光する。各画素11に設けられた光透過部31の形状は長方形である。
実施例1あるいは後述する実施例2〜実施例5において、画像表示部10には、各走査線を駆動する走査信号供給IC、及び、映像信号を供給する映像信号供給ICが配されている。そして、走査信号供給ICには走査線制御回路が、映像信号供給ICには信号線制御回路が、それぞれ、接続されている。画像表示部10に入射し、光透過領域30を通過し、画像表示部10から出射し、集光手段21に入射する光の光路には、カラーフィルターは配置されていないし、マイクロレンズ等の結像系も配置されていない。
実施例1あるいは後述する実施例2〜実施例5において、具体的には、画像表示部10は、
(a)第1基板40、
(b)第1基板40上に設けられた駆動回路、
(c)駆動回路を覆う層間絶縁層41、
(d)層間絶縁層41上に設けられた発光部(有機層63)、
(e)発光部(有機層63)上に設けられた保護層64、
(f)保護層64上に設けられた遮光層65、及び、
(g)保護層64及び遮光層65を覆う第2基板67、
を備えている。
そして、各画素11は、駆動回路及び発光部を備えており、遮光層65には、開口部65Aが設けられており、開口部65A、並びに、開口部65Aの下方に位置する保護層64の部分、第2電極62の部分、及び、層間絶縁層41の部分等によって光透過領域30を構成する光透過部31が構成されている。集光手段21及び撮像装置20は、第2基板67と対向しない第1基板40の面の側に配置されている。
より具体的には、ソーダガラスから成る第1基板40上には駆動回路が設けられている。駆動回路は、複数のTFTから構成されている。TFTは、第1基板40上に形成されたゲート電極51、第1基板40及びゲート電極51上に形成されたゲート絶縁膜52、ゲート絶縁膜52上に形成された半導体層に設けられたソース/ドレイン領域53、並びに、ソース/ドレイン領域53の間であって、ゲート電極51の上方に位置する半導体層の部分が相当するチャネル形成領域54から構成されている。図示した例にあっては、TFTをボトムゲート型としたが、トップゲート型であってもよい。TFTのゲート電極51は、走査線(図示せず)に接続されている。そして、層間絶縁層41(41A,41B)が、第1基板40及び駆動回路を覆っている。また、有機EL素子を構成する第1電極61は、SiOXやSiNY、ポリイミド樹脂等から成る層間絶縁層41B上に設けられている。TFTと第1電極61とは、層間絶縁層41Aに設けられたコンタクトプラグ42、配線43、コンタクトプラグ44を介して電気的に接続されている。図面においては、1つの有機EL素子駆動部につき、1つのTFTを図示した。
層間絶縁層41上には、開口46を有し、開口46の底部に第1電極61が露出した絶縁層45が形成されている。絶縁層45は、平坦性に優れ、しかも、有機層63の水分による劣化を防止して発光輝度を維持するために吸水率の低い絶縁材料、具体的には、ポリイミド樹脂から構成されている。開口46の底部に露出した第1電極61の部分の上から、開口46を取り囲む絶縁層45の部分に亙り設けられ、有機発光材料から成る発光層を備えた有機層63が形成されている。有機層63は、例えば、正孔輸送層、及び、電子輸送層を兼ねた発光層の積層構造から構成されているが、図面では1層で表す。第2電極62上には、有機層63への水分の到達防止を目的として、プラズマCVD法に基づき、アモルファス窒化シリコン(α−Si1-xx)から成る絶縁性の保護層64が設けられている。保護層64の上には、黒色のポリイミド樹脂から成る遮光層65が形成されており、保護層64及び遮光層65上にはソーダガラスから成る第2基板67が配されている。保護層64及び遮光層65と第2基板67とは、アクリル系接着剤から成る接着層66によって接着されている。第1電極61をアノード電極として用い、第2電極62をカソード電極として用いる。具体的には、第1電極61は、厚さ0.2μm〜0.5μmのアルミニウム(Al)、銀(Ag)、あるいは、これらの合金で構成される光反射材料から成り、第2電極62は、厚さ0.1μmのITOやIZOといった透明導電材料や、厚さ5nm程度の銀(Ag)、マグネシウム(Mg)等の光を或る程度透過する金属薄膜(半透明金属薄膜)から成る。第2電極62はパターニングされておらず、1枚のシート状に形成されている。場合によっては、有機層63と第2電極62との間に、厚さ0.3nmのLiFから成る電子注入層(図示せず)を形成してもよい。
以上、纏めると、実施例1あるいは後述する実施例2〜実施例5の発光素子の詳しい構成は、以下の表1のとおりである。
[表1]
第2基板67 :ソーダガラス
接着層66 :アクリル系接着剤
遮光層65 :黒色のポリイミド樹脂
保護層64 :SiNx層(厚さ:5μm)
第2電極(カソード電極)62:ITO層(厚さ:0.1μm)あるいは半透明金属薄膜
電子注入層 :LiF層(厚さ:0.3nm)
有機層63 :上述したとおり
第1電極(アノード電極)61:Al−Nd層(厚さ:0.2μm)
層間絶縁層41 :SiO2
TFT :駆動回路を構成
第1基板40 :ソーダガラス
図3の(A)及び(B)は、実施例1の撮像装置付き画像表示装置、及び、撮像装置が画像表示部の外側に固定された画像表示装置の概念図である。図3の(B)に示すように、撮像装置が画像表示部の外側に固定されている場合、撮像装置は画像表示装置の使用者を斜めから撮影することになり、係る画像を画像表示部にて表示したとき、画像表示部には、斜めから撮影された使用者の画像が表示される。従って、使用者の顔を正確に表示することができないし、画像表示部のどこを使用者が注視しているかを正確に判別することもできない。更には、使用者が画像表示部に近づいた場合には、撮像範囲外になってしまう可能性が大である。一方、実施例1の撮像装置付き画像表示装置にあっては、図3の(A)に示すように、撮像装置が画像表示部の背面側の中央部に配置されているので、撮像装置付き画像表示装置の使用者を、撮像装置は正面から撮影することができ、係る画像を画像表示部にて表示したとき、画像表示部には、正面から撮影された使用者の画像が表示される。従って、使用者の顔を正確に表示することができるし、画像表示部のどこを使用者が注視しているかを容易に、しかも、正確に判別することができる。また、使用者が画像表示部に近づいた場合でも、使用者の撮像を行うことができる。
位置検出手段71は、撮像装置付き画像表示装置に備えられたパーソナルコンピュータ70からを構成されており、複数の撮像装置20A,20Bによって得られた信号(データ)は、位置検出手段71に送られ、位置検出手段71において処理される。ここで、係る処理は周知の方法(周知のアルゴリズムやソフトウエア)に基づいて行われる。即ち、2つの撮像装置20A,20Bを介して取得された画像データに基づき、観察者の位置情報が位置検出手段71によって求められるが、具体的には、観察者の位置情報を、観察者の両眼の位置データとすることができるし、あるいは又、画像表示部から観察者までの距離データとすることもできる。2つの撮像装置20A,20Bを介して取得された観察者の両眼の位置の解析、あるいは又、画像表示部から観察者までの距離(例えば、観察者の顔までの距離)の解析は、パーソナルコンピュータ70の備えられた周知のアルゴリズムやソフトウエアに基づき行うことができる。
図4に示すように、観察者が画像表示装置の正面に位置しているとする。また、画像表示装置の中心から水平方向距離dのところに、2つの撮像装置20A,20Bが配置されているとする。そして、一方の撮像装置20Aで撮影したとき、画像における観察者の右目眼球(瞳孔)が角度θ1の方向にあったとする。また、他方の撮像装置20Bで撮影したとき、画像における観察者の右目眼球(瞳孔)が角度θ2の方向にあったとする。すると、撮像装置から観察者までの距離(視距離、D)は、以下の式(II)で求めることができる。ここで、「C」は、水平方向に沿った一方の撮像装置20Aから右目眼球までの距離である。
tan(θ1)=C/D (I−1)
tan(θ2)=(C−2d)/D (I−2)
式(I−1)及び式(I−2)から、以下の式(II)を導くことができる。
D=2d/{tan(θ1)−tan(θ2)} (II)
尚、撮像装置から観察者までの距離(D)が判れば、観察者の瞳孔間距離(R)の算出することができる。図4に示すように、一方の撮像装置20Aで観察者を撮影したとき、画像における観察者の右目眼球(瞳孔)が角度θ1の方向にあり、左目眼球(瞳孔)が角度θ3の方向にあったとする。すると、以下の式(I−3)が成り立つ。ここで、「E」は、水平方向に沿った一方の撮像装置20Aから左眼球までの距離である。尚、角度θ1,θ2,θ3は、撮像装置20A,20Bによって得られた画像から周知の方法で求めることができる。
tan(θ3)=E/D (I−3)
従って、式(I−1)及び式(I−3)、並びに、
R=C−E
から、以下の式(III)が導かれる。尚、他方の撮像装置20Bからも、同様にして、観察者の瞳孔間距離(R)を求めることができる。
R=D{tan(θ1)−tan(θ3)} (III)
このように、実施例1の撮像装置付き画像表示装置では、光透過領域30を通過した光が集光手段21によって複数の撮像装置20A,20Bに集光され、複数の撮像装置20A,20Bを介して取得された画像データに基づき位置検出手段71によって観察者の位置情報が求められる。即ち、2つの撮像装置20A,20Bを用いることで、撮像装置から観察者までの距離(D)及び瞳孔間距離(R)を求めることができる。それ故、観察者を最適な立体視領域まで正確に誘導することが可能となる。具体的には、観察者の位置情報を画像表示部に表示し、例えば、観察者が左右、前後に移動するように画像表示部に表示することで、観察者が3次元画像を容易に、違和感無く、観察できるように、最適な3次元画像観察位置を観察者に明確に指示し、あるいは又、最適な3次元画像観察位置に観察者を誘導することができる。あるいは又、音声に基づき、最適な3次元画像観察位置を観察者に明確に指示し、あるいは又、最適な3次元画像観察位置に観察者を誘導することができ、あるいは又、観察者の位置情報に応じて、例えばレンチキュラー方式やパララックス方式等で生じる逆視を防ぐために画像をシフトするといった、違和感のない3次元画像を提供するために表示画像を最適化することができる。しかも、画像表示部10の背面側に撮像装置20A,20Bが配置されているので、画像表示部10に正対している使用者の顔、目、動作等を撮像装置20A,20Bによって正確に撮像することができるし、観察者が撮像装置20A,20Bを意識することもない。尚、実施例1では、観察者の瞳孔間距離に基づき観察者の位置情報を求める方法を説明したが、例えば口、耳、手など、その他の観察者の特定の部位を検出して位置情報を求めてもよい。
そして、実施例1の撮像装置付き画像表示装置にあっては、画像表示部10に設けられた光透過領域30(複数の光透過部31)を通過した光が撮像装置20に集光される。従って、正確に像を撮像装置20に結ぶために高精度の微小レンズを必要とせず、撮像装置付き画像表示装置の製造コストの増加を招くことがないし、撮像装置20に十分な光量の光を集光させることができる。また、手やペン等の向きから画像表示部の対応する指示点を特定することが可能となるので、所謂ポインタ機能を撮像装置付き画像表示装置に容易に付加することができる。更には、ポインタ機能以外にも、使用者の顔や目、手の動き、周辺の明るさなども撮像画像から分かるので、様々の情報を撮像装置付き画像表示装置から得て、種々のシステムに送出することが可能となり、撮像装置付き画像表示装置の付加価値を高めることができる。
実施例2は、実施例1の変形であり、本発明の第1の構成に関する。実施例2にあっては、一層高品質な撮像画像を得るために撮像画像に処理を行う。
一般に、微小な光透過部31を光が通過するとき、光透過部31において所謂回折現象が発生する。スリットによる回折現象を説明する模式図を図5に示す。ここで、光透過部31がスリットとして作用し、回折現象によって、画像「C」と同じ画像が等ピッチで画像「A」及び画像「B」として出現する結果、画像にボケが生じる。撮像装置20の手前に透明なガラス板を配置して撮影して得られた画像を図6の(A)に示し、撮像装置20の手前に或る形状、大きさ、分布を有する光透過部を設けた透明なガラス板を配置して撮影して得られた画像を図6の(B)に示す。図6の(B)に示す画像にはボケが認められる。一方、図6の(A)に示す画像にはボケが認められない。回折光の強度と分布は、光透過部31の形状、大きさ、分布、並びに、入射光(外光)の波長に依存する。回折によるボケが小さい場合には、撮像画像に対して回折を補正(補償)する処理を行う必要は無いが、高品質な撮像画像を必要とする場合には、回折光による影響を補正(補償)する必要がある。
実施例2の撮像装置付き画像表示装置は、撮像装置20を介して取得された画像データ及び画像情報に対して、光透過部31において生じる回折の補正(補償)を施す回折補正手段100を更に備えている。
回折分布Pdiffは、光透過部31のパターン形状、大きさ、分布、並びに、入射光(外光)の波長が決定している場合、式(1)で算出することが可能である。尚、二重積分においては、x及びyに関して−∞から+∞まで積分する。
diff(kx,ky)=∬Pat(x,y)・exp[−j(kx・x+ky・y)]dxdy
(1)
但し、
x=(2π/λ)sin(θx
y=(2π/λ)sin(θy
ここで、Pat(x,y)は光透過部31のxy平面での2次元パターンであり、λは入射光(外光)の波長であり、θx,θyはx方向及びy方向の回折角である。実施例2にあっては、計算を簡素化するために入射光(外光)の波長λの値を525nm一定とした。
式(1)は、Pat(x,y)の2次元フーリエ変換であるので、高速フーリエ変換(以下、『FFT』と略す)を用いることで高速に算出することが可能である。尚、Pdiff(kx,ky)は位相情報を含んでいるが、実際には、撮像装置では回折光強度Hdiff(kx,ky)を検出する。回折光強度Hdiff(kx,ky)は、Pdiff(kx,ky)の絶対値の二乗に等しい。
diff(kx,ky)=|Pdiff(kx,ky)|2 (2)
ここで、回折光により撮像装置の空間解像度に変調が加えられたとして、以下の式(3)からMTF(Moduration Transfer Function)を算出する。尚、『FFT[ ]』は、高速フーリエ変換を実行することを意味し、『IFFT[ ]』は、高速逆フーリエ変換を実行することを意味する。
MTF(fx,fy)=|FFT[Hdiff(kx,ky)]|2 (3)
ここで、fx,fyは、撮像装置を構成する各々の撮像素子におけるx方向及びy方向の空間周波数を表す。そして、撮像装置20上での光透過部31を通した画像Icam(x,y)と、光透過部31を通さないとしたときの原画像Iral(x,y)との間には、以下の関係が成立する。
FFT[Icam(x,y)]=FFT[Iral(x,y)]×MTF(fx,fy) (4)
即ち、空間周波数領域において、画像Icam(x,y)は、原画像Iral(x,y)とMTFの積となる。よって、画像Icam(x,y)から原画像Iral(x,y)を得るには、以下の式(5)に基づいた処理を行えばよい。云い換えれば、光透過部31の形状、大きさ、分布、並びに、入射光(外光)の波長に基づき算出されるMTF逆変換処理を、画像データ及び画像情報に対して施せばよい。
ral(x,y)=IFFT[FFT[Icam(x,y)]/MTF(fx,fy)] (5)
ここで、MTFは、光透過部31の大きさ、形状、分布が決まれば、光透過部31の2次元パターンをフーリエ変換したものを入射光(外光)の波長によりスケーリングすればよいので、容易に求めることができ、式(5)で示した関係から、原画像を容易に復元することができる。
実施例2の撮像装置付き画像表示装置のブロック図を図7に示す。撮像装置20を介して取得された画像データ及び画像情報が、回折補正手段100を構成するMTF逆変換部に送られ、MTF逆変換部では、赤色(R)、緑色(G)、青色(B)毎の外光の波長(但し、実施例2にあっては、計算の簡素化のために、上述した1種類の波長)と2次元FFTにて得られている光透過部31のMTF形状データを用いて、MFT逆変換を行い、原画像に復元し、制御部12に送出する。制御部12では、この復元画像から、例えば、使用者の視線検出、使用者の手の動作の検出等、多様な検出を行い、表示画像部に反映させる。尚、制御部12は位置検出手段71を兼ねている。光透過部31の大きさ、形状、分布といったMTF形状データは、回折補正手段100を構成するMFT形状記憶部に記憶されている。制御部12は、撮像装置付き画像表示装置(あるいは画像表示部)に備えられ、あるいは又、撮像装置付き画像表示装置に備えられたパーソナルコンピュータ70から構成されている。回折補正手段100も、撮像装置付き画像表示装置(あるいは画像表示部)に備えられ、あるいは又、撮像装置付き画像表示装置に備えられたパーソナルコンピュータ70から構成されている。
画像表示部10における画像表示は、制御部12の制御によって行われる。即ち、制御部12から表示データ及びタイミング信号等が表示用タイミングコントローラ13に送られ、表示用タイミングコントローラ13から表示データ及び水平タイミング信号が信号線制御回路(図示せず)に送られ、一方、垂直タイミング信号が走査線制御回路(図示せず)に送られる。そして、画像表示部10において、周知の方法に基づき画像表示がなされる。一方、制御部12から、撮像タイミング信号、シャッター制御信号、ゲイン制御信号等が撮像用タイミングコントローラ14に送られ、撮像用タイミングコントローラ14から、これらの信号が撮像装置20に送られ、撮像装置20の動作が制御される。
光透過部31の形状を、図8の(A)、(B)及び図9に例示する。光透過部31の一部又は全部は、画像表示部の第1の方向(水平方向)及び第2の方向(垂直方向)に沿って周期的に設けられている。ここで、図8の(A)に示す例にあっては、画素の下部を第1の方向(水平方向)に沿って延びる光透過部31Hは、3つの画素(11R,11G,11B)から構成された1つの画素ユニットに跨って設けられており、第2の方向(垂直方向)に沿って延びる光透過部31Vは、各画素11R,11G,11Bに設けられ、しかも、画素と画素との間に設けられている。図8の(B)に示す例にあっては、光透過部31Hと光透過部31とが繋がっている。図9に示す例にあっては、光透過部31Hは、3つの画素(11R,11G,11B)から構成された1つの画素ユニットに跨って設けられているが、図8の(A)とは異なり、2つの部分から構成されている。第1の方向に沿った光透過部31の長さをLtr-1、第1の方向に沿った画素11のピッチをPpx-1としたとき、第1の方向の線開口率Ltr-1/Ppx-1は、
tr-1/Ppx-1≧0.5
を満足し、第2の方向に沿った光透過部31の長さをLtr-2、第2の方向に沿った画素11のピッチをPpx-2としたとき、第2の方向の線開口率Ltr-2/Ppx-2は、
tr-2/Ppx-2≧0.5
を満足する。これは、MTFの定義から説明できる。
MTFは、式(2)及び式(3)から導かれる以下の式(6)に示すように、光透過部31のxy平面での2次元パターンPat(x,y)から得られる回折分布を二乗したものを高速フーリエ変換し、その結果を更に二乗したものとして得られる。
MTF(fx,fy)=|FFT[|Pdiff(kx,ky)|2]|2 (6)
そして、所謂ウィナー・キンチンの定理から、自己相関関数のフーリエ変換はパワースペクトラムに等しいので、MTFは、光透過部31で生ずる回折分布の自己相関関数の絶対値の二乗に等しい。自己相関関数が、空間周波数領域において所謂無相関である点(即ち、0になる点)が存在しない条件は、
tr-1/Ppx-1≧0.5
tr-2/Ppx-2≧0.5
である。MTFが0になる点を持たない場合、式(5)は特異点を持たないので、原画像の再現が容易になる。それ故、第1の方向の線開口率Ltr-1/Ppx-1及び第2の方向の線開口率Ltr-2/Ppx-2の値は0.5以上であるといった要請を満足することが好ましい。
実施例3は、実施例2の変形であり、本発明の第2の構成に関する。実施例2において説明したように、光透過部31のxy平面での回折分布Pdiff(kx,ky)を求める式(1)には、入射光(外光)の波長λが含まれている。従って、外光の波長分布を測定することで、各波長のMTFを外部環境に応じて適合させることが可能となり、一層正確に回折に対する補正、補償を行うことができ、より高品質な撮像画像を得ることができる。
実施例3の撮像装置付き画像表示装置のブロック図を図10に示す。実施例3にあっては、外光の波長分布を測定する波長分布測定手段110を更に備えている。具体的には、波長分布測定手段110は、赤色フィルターが取り付けられたホトセンサ、緑色フィルターが取り付けられたホトセンサ、及び、青色フィルターが取り付けられたホトセンサの組から構成されている。このような波長分布測定手段110を設けることで、外光の波長分布(光のスペクトル)を得ることができる。そして、得られた外光の波長分布と撮像装置の分光スペクトルを掛け合わせることで、撮像画像の各原色(赤色、緑色、青色)毎の波長分布を得ることができる。そして、各波長毎にMTF逆変換処理した画像を撮像画像の波長分布で重み付けすることで、一層正確に回折に対する補正、補償を行なうことができる。
実施例3にあっては、このような構成を採用することで、一層正確に回折に対する補正、補償を行うことができるだけでなく、撮像装置20を介して取得された画像データ及び画像情報の精度の向上(例えば、色情報の精度向上)を図ることができる。尚、回折によるボケが小さい場合には、撮像画像に対して回折を補正(補償)する処理を行う必要は無いが、このような場合にあっても、外光の波長分布を測定する波長分布測定手段110を更に備えることで、撮像装置20を介して取得された画像データ及び画像情報の精度の向上を図ることができる。
実施例4も、実施例1〜実施例3の変形であり、本発明の第3の構成に関する。実施例4の撮像装置付き画像表示装置においては、
撮像装置20を介して取得された、画像表示部に表示すべき画像情報(以下、画像情報と略称し、例えば、使用者の3次元画像を画像表示部に表示するための視差画像情報である)を送出する情報送出手段(図示せず)、及び、
外部から入力された画像情報に基づく画像を画像表示部10に表示する表示手段(図示せず)、
を更に備えている。そして、撮像装置20を介して取得された画像情報を情報送出手段によって外部に送出し、外部から入力された画像情報に基づく画像を表示手段によって画像表示部10に表示する。
ここで、撮像装置20を介して取得された画像情報を送出する情報送出手段、及び、外部から入力された画像情報に基づく画像を画像表示部10に表示する表示手段は、テレビジョン電話会議システム(テレビ電話装置)にて用いられている周知の手段を用いればよい。尚、情報送出手段及び表示手段は、例えば、制御部12に組み込まれている。
このような撮像装置付き画像表示装置を複数台、通信回線やネットワーク等を介して結ぶことで、所謂、テレビジョン電話会議システム(テレビ電話装置)を構築することができる。そして、撮像装置が画像表示部の背面側に配置されているので、画像表示部正面に位置する使用者の顔を撮像することができ、画像表示部に映し出される相手側の使用者の顔が自分の方を向いているため、従来のTV電話システムにあった互いの視線が合わないといった違和感を与えることがない。
実施例5は、実施例1の変形であるが、本発明の第5の構成に関する。図11の(A)あるいは(B)に、実施例5の撮像装置付き画像表示装置における画像表示部を構成する複数の画素11(11R,11G,11B)の配置を模式的に示すように、実施例5の撮像装置付き画像表示装置は、
(A)発光素子を含む画素11(11R,11G,11B)を複数配置して成り、3次元画像を表示する画像表示部10、
(B)少なくとも1つ以上の画素11の周囲に設けられた、複数の光透過領域530、
(C)画像表示部10の背面側に配置された複数の撮像装置20、
(D)各光透過領域530を通過した光を各撮像装置20A,20Bに集光する集光手段21、並びに、
(E)複数の撮像装置20A,20Bを介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段71、
を有する。
図11の(A)に示す例にあっては、光透過領域530は、画素11の全ての周囲に設けられており、井桁状の形状を有する。また、図11の(B)に示す例にあっては、光透過領域530は、画素11の周囲の一部に設けられており、「L」字形状を有する。実施例5の撮像装置付き画像表示装置において、光透過領域530は、少なくとも1つ以上の画素11の周囲に設けられているが、具体的には、6×3=18個の画素11の周囲に設けられている。
以上の点を除き、撮像装置付き画像表示装置は、実施例1〜実施例4の撮像装置付き画像表示装置と同様の構成、構造とすることができるので、詳細な説明は省略する。
このように、実施例5の撮像装置付き画像表示装置にあっても、少なくとも1つ以上の画素11の周囲に設けられた光透過領域530を通過した光が撮像装置20に集光される。従って、正確に像を撮像装置20に結ぶために高精度の微小レンズを必要とせず、撮像装置付き画像表示装置の製造コストの増加を招くことがないし、撮像装置20に十分な光量の光を集光させることができる。
以上、本発明を好ましい実施例に基づき説明したが、本発明はこれらの実施例に限定するものではない。実施例において説明した撮像装置付き画像表示装置の構成、構造は例示であり、適宜、変更することができる。撮像装置を2つ備えた画像表示装置に基づき実施例を説明したが、本発明の撮像装置付き画像表示装置における撮像装置の数は、2つに限定されるものではなく、1つ、あるいは、3つ以上とすることができる。撮像装置の数を2つとすれば、画像表示部に表示すべき画像情報に基づき、3次元画像を画像表示部において表示することが可能となる。本発明の撮像装置付き画像表示装置は、ノート型パーソナルコンピュータ(図12の(A)参照)に組み込まれたモニター装置の代替として使用することができるし、携帯電話(図12の(B)参照)やPDA、ゲーム機器に組み込まれたモニター装置、従来のテレビジョン受像機の代替として使用することができる。あるいは又、1つの画素ユニットを、3種の画素11R,11G,11Bに加え、輝度向上のために白色光を発光する画素、色再現範囲を拡大するために補色を発光する画素、色再現範囲を拡大するためにイエローを発光する画素、色再現範囲を拡大するためにイエロー及びシアンを発光する画素等、4種、あるいはそれ以上の画素から構成することもできる。
光透過領域が複数の光透過部から構成されており、各光透過部が画素に設けられている場合、光透過領域を構成する光透過部において回折現象が生じることを抑制するために、各実施例において、
[ケースA]複数の光透過部の大きさをランダムとする。
[ケースB]複数の光透過部の形状をランダムとする。
[ケースC]複数の光透過部の配置ピッチをランダムとする。
といった3種の形態の内、少なくとも1種の形態を採用してもよい。即ち、[ケースA]を単独で採用してもよいし、[ケースB]を単独で採用してもよいし、[ケースC]を単独で採用してもよいし、[ケースA]と[ケースB]を組み合わせて採用してもよいし、[ケースA]と[ケースC]を組み合わせて採用してもよいし、[ケースB]と[ケースC]を組み合わせて採用してもよいし、[ケースA]と[ケースB]と[ケースC]を組み合わせて採用してもよい。更には、実施例2において説明した回折補正手段100との組合せを採用してもよい。光透過部の大きさの最小値や最小形状は、光透過部を設けるためのフォトリソグラフィ技術やエッチング技術における最小加工寸法(例えば、0.5μm)に依存する。
尚、複数の光透過部の大きさをランダムとするが、具体的には、1つの光透過部(便宜上、『光透過部A』と呼ぶ)に隣接する少なくとも2つの光透過部(便宜上、『光透過部B、光透過部C』と呼ぶ)、好ましくは、水平方向に配置された2つの光透過部、より好ましくは、光透過部Aに隣接する3つの光透過部(便宜上、『光透過部B、光透過部C、光透過部D』と呼ぶ)、より一層好ましくは、光透過部Aに隣接する4つの光透過部(便宜上、『光透過部B、光透過部C、光透過部D、光透過部E』と呼ぶ)の大きさを異ならせることが望ましい。即ち、光透過部Aと光透過部Bの大きさを異ならせ、また、光透過部Aと光透過部Cの大きさを異ならせ、また、光透過部Aと光透過部Dの大きさを異ならせ、また、光透過部Aと光透過部Eの大きさを異ならせる。同様に、複数の光透過部の形状をランダムとするが、具体的には、1つの光透過部(光透過部A)に隣接する少なくとも2つの光透過部(光透過部B、光透過部C)、好ましくは、水平方向に配置された2つの光透過部、より好ましくは、光透過部Aに隣接する3つの光透過部(光透過部B、光透過部C、光透過部D)、より一層好ましくは、光透過部Aに隣接する4つの光透過部(光透過部B、光透過部C、光透過部D、光透過部E)の形状を異ならせることが望ましい。即ち、光透過部Aと光透過部Bの形状を異ならせ、また、光透過部Aと光透過部Cの形状を異ならせ、また、光透過部Aと光透過部Dの形状を異ならせ、また、光透過部Aと光透過部Eの形状を異ならせる。同様に、複数の光透過部の配置ピッチをランダムとするが、具体的には、1つの光透過部(光透過部A)に隣接する少なくとも2つの光透過部(光透過部B、光透過部C)、好ましくは、水平方向に配置された2つの光透過部、より好ましくは、光透過部Aに隣接する3つの光透過部(光透過部B、光透過部C、光透過部D)、より一層好ましくは、光透過部Aに隣接する4つの光透過部(光透過部B、光透過部C、光透過部D、光透過部E)の配置ピッチを異ならせることが望ましい。即ち、光透過部Aと光透過部Bの配置ピッチを異ならせ、また、光透過部Aと光透過部Cの配置ピッチを異ならせ、また、光透過部Aと光透過部Dの配置ピッチを異ならせ、また、光透過部Aと光透過部Eの配置ピッチを異ならせる。
あるいは又、光透過領域が複数の光透過部から構成されており、各光透過部が画素に設けられている場合、光透過領域を構成する光透過部において回折現象が生じることを抑制するために、各実施例において、光透過部を二重環状構造(二重中抜き構造)としてもよい。具体的には、光透過部を第1光透過部と第2光透過部から構成し、第1光透過部を取り囲むように第2光透過部を配置する構造を採用してもよい。第1光透過部及び第2光透過部の大きさ、形状、配置状態、第1光透過部と第2光透過部との位置関係の最適化を図ることで、回折現象が生じることを確実に抑制することができる。更には、実施例2において説明した回折補正手段100との組合せを採用してもよい。
10・・・画像表示部、11,11R,11G,11B・・・画素、12・・・制御部、13・・・表示用タイミングコントローラ、14・・・撮像用タイミングコントローラ、20・・・撮像装置、21・・・集光手段、30,530・・・光透過領域、31・・・光透過部、40・・・第1基板、41・・・層間絶縁層、42,44・・・コンタクトプラグ、43・・・配線、45・・・絶縁層、46・・・開口、51・・・ゲート電極、52・・・ゲート絶縁膜、53・・・ソース/ドレイン領域、54・・・チャネル形成領域、61・・・第1電極、62・・・第2電極、63・・・有機層、64・・・保護層、65・・・遮光層、65A・・・開口部、66・・・接着層、67・・・第2基板、70・・・パーソナルコンピュータ、71・・・位置検出手段、72,.73・・・ケーブル、100・・・回折補正手段、110・・・波長分布測定手段

Claims (18)

  1. 発光素子を含む画素を複数配置して成り、3次元画像を表示する画像表示部、
    画像表示部に設けられた光透過領域、
    画像表示部の背面側に配置された撮像装置、
    光透過領域を通過した光を撮像装置に集光する集光手段、並びに、
    撮像装置を介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段、
    有し、
    光透過領域は複数の光透過部から構成されており、
    光透過部の各々は、各画素に対応して設けられている撮像装置付き画像表示装置。
  2. 画像表示部は、
    (a)第1基板、
    (b)第1基板上に設けられた駆動回路、
    (c)駆動回路を覆う層間絶縁層、及び、
    (d)層間絶縁層上に設けられた発光部、
    を備えており、
    各画素は、該駆動回路及び該発光部を備えている請求項1に記載の撮像装置付き画像表示装置。
  3. 画像表示部は、更に、
    (e)発光部の光出射側に設けられた遮光層、
    を備えており、
    遮光層には、開口部が設けられており、
    開口部、並びに、開口部に対応した層間絶縁層の部分によって光透過領域を構成する光透過部が構成されており、
    第1基板の、発光部の光出射側とは反対側に、集光手段及び撮像装置が配置されている請求項2に記載の撮像装置付き画像表示装置。
  4. 画像表示部は、更に、
    (f)発光部と遮光部との間に設けられた保護層、及び、
    (g)保護層及び遮光層を覆う第2基板、
    を備えており、
    開口部、並びに、開口部の下方に位置する保護層の部分及び層間絶縁層の部分によって光透過領域を構成する光透過部が構成されている請求項3に記載の撮像装置付き画像表示装置。
  5. 撮像装置を介して取得された画像データに対して、光透過部において生じる回折の補正を施す回折補正手段を更に備えている請求項1乃至請求項4のいずれか1項に記載の撮像装置付き画像表示装置。
  6. 外光の波長分布を測定する波長分布測定手段を更に備えている請求項1乃至請求項5のいずれか1項に記載の撮像装置付き画像表示装置。
  7. 発光素子を含む画素を複数配置して成り、3次元画像を表示する画像表示部、
    画像表示部に設けられた光透過領域、
    画像表示部の背面側に配置された撮像装置、
    光透過領域を通過した光を撮像装置に集光する集光手段、並びに、
    撮像装置を介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段、
    を有し、
    光透過領域は複数の光透過部から構成されており、
    各光透過部は画素に設けられており、
    撮像装置を介して取得された画像データに対して、光透過部において生じる回折の補正を施す回折補正手段を更に備えている撮像装置付き画像表示装置。
  8. 発光素子を含む画素を複数配置して成り、3次元画像を表示する画像表示部、
    画像表示部に設けられた光透過領域、
    画像表示部の背面側に配置された撮像装置、
    光透過領域を通過した光を撮像装置に集光する集光手段、並びに、
    撮像装置を介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段、
    を有し、
    外光の波長分布を測定する波長分布測定手段を更に備えている撮像装置付き画像表示装置。
  9. 発光素子を含む画素を複数配置して成り、3次元画像を表示する画像表示部、
    画像表示部に設けられた光透過領域、
    画像表示部の背面側に配置された撮像装置、
    光透過領域を通過した光を撮像装置に集光する集光手段、並びに、
    撮像装置を介して取得された画像データに基づき、観察者の位置情報を求める位置検出手段、
    を有し、
    画像表示部は、
    (a)第1基板、
    (b)第1基板上に設けられた駆動回路、
    (c)駆動回路を覆う層間絶縁層、
    (d)層間絶縁層上に設けられた発光部、
    (e)発光部上に設けられた保護層、
    (f)保護層上に設けられた遮光層、及び、
    (g)保護層及び遮光層を覆う第2基板、
    を備えており、
    各画素は、該駆動回路及び該発光部を備えており、
    遮光層には、開口部が設けられており、
    開口部、並びに、開口部の下方に位置する保護層の部分及び層間絶縁層の部分によって光透過領域を構成する光透過部が構成されており、
    第2基板と対向しない第1基板の面の側に、集光手段及び撮像装置が配置されている撮像装置付き画像表示装置。
  10. 光透過領域、撮像装置及び集光手段を複数有し、
    各集光手段は、各光透過領域を通過した光を各撮像装置に集光する請求項1乃至請求項9のいずれか1項に記載の撮像装置付き画像表示装置。
  11. 位置検出手段は、複数の撮像装置を介して撮像された画像データに基づき観察者の位置情報を求める請求項10に記載の撮像装置付き画像表示装置。
  12. 観察者の位置情報は、観察者の両眼の位置データである請求項1乃至請求項11のいずれか1項に記載の撮像装置付き画像表示装置。
  13. 観察者の位置情報は、画像表示部から観察者までの距離データである請求項1乃至請求項11のいずれか1項に記載の撮像装置付き画像表示装置。
  14. 観察者の位置情報を、複数の撮像装置を介して撮像された画像データの観察者の両眼に基づき求める請求項10に記載の撮像装置付き画像表示装置。
  15. 観察者の位置情報を画像表示部に表示する請求項1乃至請求項14のいずれか1項に記載の撮像装置付き画像表示装置。
  16. 画像表示部に表示する画像を観察者の位置情報に基づいて最適化する請求項1乃至請求項15のいずれか1項に記載の撮像装置付き画像表示装置。
  17. 撮像装置を介して取得された画像に基づく情報を送出する情報送出手段、及び、
    入力された画像情報に基づく画像を画像表示部に表示する表示手段、
    を更に備えており、
    撮像装置を介して取得された画像に基づく情報を情報送出手段によって送出し
    入力された画像情報に基づく画像を画像表示部に表示する請求項1乃至請求項16のいずれか1項に記載の撮像装置付き画像表示装置。
  18. 発光素子は、有機エレクトロルミネッセンス素子から成る請求項1乃至請求項17のいずれか1項に記載の撮像装置付き画像表示装置。
JP2010012051A 2010-01-22 2010-01-22 撮像装置付き画像表示装置 Active JP5434624B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2010012051A JP5434624B2 (ja) 2010-01-22 2010-01-22 撮像装置付き画像表示装置
US12/926,806 US20110181587A1 (en) 2010-01-22 2010-12-10 Image display device having imaging device
CN201110007293.2A CN102136225B (zh) 2010-01-22 2011-01-13 具有摄像装置的图像显示装置
EP11151164.8A EP2348388B1 (en) 2010-01-22 2011-01-17 Image display device having imaging device
US13/920,235 US20130278646A1 (en) 2010-01-22 2013-06-18 Image display device having imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010012051A JP5434624B2 (ja) 2010-01-22 2010-01-22 撮像装置付き画像表示装置

Publications (2)

Publication Number Publication Date
JP2011151652A JP2011151652A (ja) 2011-08-04
JP5434624B2 true JP5434624B2 (ja) 2014-03-05

Family

ID=44538243

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010012051A Active JP5434624B2 (ja) 2010-01-22 2010-01-22 撮像装置付き画像表示装置

Country Status (1)

Country Link
JP (1) JP5434624B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013104937A (ja) * 2011-11-11 2013-05-30 Toshiba Corp 表示処理装置及び表示処理方法
JP6226741B2 (ja) * 2013-12-27 2017-11-08 キヤノン株式会社 撮像部を備える表示装置およびその制御方法
JP2017021076A (ja) * 2015-07-07 2017-01-26 三菱電機株式会社 表示調整装置およびこれを備えた表示システム
WO2021132013A1 (ja) * 2019-12-27 2021-07-01 ソニーグループ株式会社 情報処理装置、情報処理方法及び情報処理プログラム
KR102669182B1 (ko) * 2020-01-30 2024-05-28 삼성디스플레이 주식회사 광 투과 영역을 포함하는 표시 장치, 및 전자 기기
JP2023159473A (ja) * 2020-09-03 2023-11-01 ソニーセミコンダクタソリューションズ株式会社 画像表示装置及び電子機器

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04315388A (ja) * 1991-04-15 1992-11-06 Toshiba Corp テレビ電話装置
JPH10174127A (ja) * 1996-12-13 1998-06-26 Sanyo Electric Co Ltd 立体表示方法および立体表示装置
JP3443271B2 (ja) * 1997-03-24 2003-09-02 三洋電機株式会社 立体映像表示装置
JP4728793B2 (ja) * 2005-12-14 2011-07-20 株式会社アイ・オー・データ機器 ディスプレイ装置およびその制御方法
JP2008146221A (ja) * 2006-12-07 2008-06-26 Sony Corp 画像表示システム

Also Published As

Publication number Publication date
JP2011151652A (ja) 2011-08-04

Similar Documents

Publication Publication Date Title
JP5533039B2 (ja) 撮像装置付き画像表示装置
US8847860B2 (en) Image display device with imaging unit
EP2348388B1 (en) Image display device having imaging device
EP2715791B1 (en) Apparatus for displaying and sensing images
JP5569156B2 (ja) 画像表示装置、電子機器、画像表示システム、画像取得方法、プログラム
US20110285680A1 (en) Image display device, electronic apparatus, image display system, method of acquiring method, and program
JP5434624B2 (ja) 撮像装置付き画像表示装置
US9451246B2 (en) Display device
TW200925965A (en) Display apparatus
JP2011150583A (ja) 撮像装置付き画像表示装置
JP5459085B2 (ja) 画像表示装置、電子機器、画像表示システム、画像取得方法、プログラム
JP2023156540A (ja) 画像表示装置及び電子機器
US9491400B2 (en) Display apparatus with image pickup apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130719

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131125

R151 Written notification of patent or utility model registration

Ref document number: 5434624

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S303 Written request for registration of pledge or change of pledge

Free format text: JAPANESE INTERMEDIATE CODE: R316303

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S803 Written request for registration of cancellation of provisional registration

Free format text: JAPANESE INTERMEDIATE CODE: R316803

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113