JP4100531B2 - 情報提示方法及び装置 - Google Patents

情報提示方法及び装置 Download PDF

Info

Publication number
JP4100531B2
JP4100531B2 JP02062199A JP2062199A JP4100531B2 JP 4100531 B2 JP4100531 B2 JP 4100531B2 JP 02062199 A JP02062199 A JP 02062199A JP 2062199 A JP2062199 A JP 2062199A JP 4100531 B2 JP4100531 B2 JP 4100531B2
Authority
JP
Japan
Prior art keywords
screen
observer
projector
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP02062199A
Other languages
English (en)
Other versions
JP2000122176A (ja
Inventor
昌彦 稲見
直樹 川上
康幸 柳田
太郎 前田
▲すすむ▼ 舘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Todai TLO Ltd
Original Assignee
Todai TLO Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Todai TLO Ltd filed Critical Todai TLO Ltd
Priority to JP02062199A priority Critical patent/JP4100531B2/ja
Priority to US09/371,412 priority patent/US6341869B1/en
Publication of JP2000122176A publication Critical patent/JP2000122176A/ja
Application granted granted Critical
Publication of JP4100531B2 publication Critical patent/JP4100531B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0118Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility
    • G02B2027/012Head-up displays characterised by optical features comprising devices for improving the contrast of the display / brillance control visibility comprising devices for attenuating parasitic image effects
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Human Computer Interaction (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Overhead Projectors And Projection Screens (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Projection Apparatus (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、バーチャルリアリティ(Virtual Reality : VR) 又はコンピュータビジュアライゼーション(Computer Visualization) の分野において用いられる情報提示方法及び装置に関し、特に、仮想物体を、実物体との遮蔽関係に齟齬を起こすことなく対話的に提示するために用いられる方法及び装置に関する。
【0002】
【従来の技術】
近年の人工現実感の分野において、複合現実感に関する研究をはじめとして、物理空間と情報空間とを積極的に融合させることによりその工学的な応用をはかろうとする研究が活発化している。しかし、それらの研究の多くは、視覚提示装置として頭部搭載型ディスプレイ(HMD:Head Mounted Display)又は通常のプロジェクタを用いているため、実物体と仮想物体との遮蔽関係に齟齬が生じ、現実感を著しく損なう場合がある。
【0003】
さらに、視覚提示のみならず、例えば特願平6−102187号に示されるように、仮想物体とのインタラクションを含めた触覚提示をも同時に行おうとした場合には、触覚提示装置が視覚提示装置と視覚的及び物理的に干渉してしまう。これは視触覚を同時に提示するシステムを構築する際の大きな問題点である。
〔現実感融合〕
人間が存在し生活している物理空間と、コンピュータ及び通信ネットワークによって構成される情報空間とがシームレスに融合されることより、社会が今後一層高度に情報化されてゆくと考えられる。その実現に向けて、”wearable-computing””ubiquitous-computing”といった概念が提唱されている。
【0004】
ここで、シームレスに「融合」する意義を改めて検討する。心理学などの分野においては、両眼融合をはじめとし、複数の情報との間で相互に密な関係を持ち、何らかの現象や対象に対して単独では生まれ得ない新たな知覚表象を与えるような処理を「融合(fusion)」と呼称している。
【0005】
工学分野においても、複数のセンサから得られる情報を統一的に処理することによって、単一のセンサからは得られない新たなセンシング機能を得る、センサフュージョンという研究が行われている。
【0006】
同様に、人間が存在している物理空間とコンピュータによる情報空間、又は視空間と触空間とを単純に混合するだけでなく、シームレスに融合することにより、それぞれ単独では生まれ得ない効果を得ることが期待できる。
〔物理空間と情報空間の融合〕
情報通信インフラが整備されるにしたがって、従来のブロードキャスト型の情報配信ではなく、オン・デマンド型又は双方向型の通信も主流になると考えられる。そしてインタラクティブ性の高い用途になればなるほど、情報のパーソナライズが進み、パーソナルな情報のためのパーソナルな現実感融合が必須課題となると考えられる。
【0007】
よって、パーソナルなインタフェースである以上、現実感融合を低コストでコンパクトに実現する必要がある。
【0008】
しかし、従来のディスプレイでは、デバイス自身が大きな重量と容積を占めてしまい、パーソナルな用途には不向きである。
【0009】
一方、近年の人工現実感の分野で用いられているHMDは、パーソナルな情報空間を生成することには適しているが、物理空間がディスプレイ自身によって遮蔽されてしまい、物理空間での作業が極めて困難である。当然、自分の身体映像を視認するのはCG(Computer Graphics)によるメタファーとして以外は不可能であり、現実感の重要なファクターとされる自己投射性が低い。
【0010】
ハーフミラー又は頭部搭載カメラを用い、物理空間の映像に情報空間の映像を重畳提示することを試みたシースルー型のHMDも提案されている。これによると、映像(画像)の合成を観察者の目の近傍やコンピュータ内で行っているため、ワークスペース部分において、提示物体同士の遮蔽関係や焦点位置の不一致など、作業に著しく不利となる問題が原理的に起きてしまう。遮蔽関係の不一致に関する問題点は、近年多用されているCAVE(Carolina Cruz-Neira et al. "Surround-Screen Projection-Based Virtual Reality: The Design and Inplementation of the CAVE" COMPUTER GRAPHICS Proceedings, Annual Conference Series, pp. 135-142, 1993)、又はCABlN( 広瀬通孝 他 "没入型多面ディスプレイ( CABlN) の開発" 日本バーチャルリアリティ学会第2回大会論文集,pp,46-53, 1996) など、没入型の投影式ディスプレイにおいても全く同様である。
〔視触覚融合提示〕
情報空間の物体を、視覚情報のみならず触覚情報をも含めて提示することにより、臨場感や作業性が向上することが報告されている。
【0011】
しかし、触覚情報と視覚情報とを同時に提示しようとした場合に、視覚提示装置と触覚提示装置とが、光学的及び幾何的に干渉してしまう。これは、物理空間と情報空間の融合の部分と全く同様の問題であり、インタフェースの提示部分が物理空間に存在するからに他ならない。この間題に関して、現在までにWYSIWYFディスプレ(Y. Yokokohji et al. ”What You can See is What You can Feel -Development of a virtual/Haptic Interface to Virtual Environment" In Proc., VRAIS '96, pp. 46-53, 1996)、PDDM( 野間春生 他 "小型ディスプレイを用いたオブジェクト操作のための力覚インタフェース” 第11回ヒューマン・インタフェース・シンポジウム論文集,pp. 491-496, 1995)、及びハプティックスクリーン(岩田洋夫 他 "ハプティックスクリーン" 日本バーチャルリアリティ学会第1回大会論文集,pp. 7-10, 1996) などの研究が行われているが、多くの場合には、遮蔽関係の問題は無視したままの実装か、又はハーフミラーによる光学的な重畳による実装となってしまっている。
【0012】
【発明が解決しようとする課題】
〔現実感融合構成論〕
ここで、従来のシステムの問題点の多くが、物理空間及び情報空間の両物体をインタラクションさせたいポイント以外で、物理空間と情報空間との合成を行っていることに起因していると推定する。つまり、一つのディスプレイで近距離から遠距離までの現実感融合をすべてカバーすることは現状の技術では極めて困難であり、用途により様々な距離、様々な大きさのデバイスを使い分けるのが当面の問題解決策ではないかと考える。
【0013】
本願の発明者は、この問題意識に立って、手元で仮想物体を観察し操作することに適したディスプレイとして、オブジェクト指向型ディスプレイに関する提案を先に行った(特願平10−172722号)。本願では、さらにその考えを拡張し、「近くの物体は近くのディスプレイ、遠くの物体(景色)は遠くのディスプレイ」であたかも舞台における書き割りのように提示することによって、より広い範囲でシームレスな現実感融合を図ろうとするものである。
【0014】
この手法は、イメージ・ベースト・レンダリング(Image Based Rendering )の分野での書き割り法による3次元仮想空間生成手法(尾崎信之 他 "仮想視点によるテレイグジスタンス( 第三報)−景色平面を用いた仮想空間の構成の方法”第35回計測自動制御学会学術講演会予稿集,pp. 209-210, 1996 、広瀬通孝他 "二次元実写画像を用いた三次元仮想空間の生成" 計測自動制御学会 Human Interface N & R, Vol 11, No. 2, pp.209-214, 1997)の現実世界における実装と考えることもできる。
【0015】
しかし、広い範囲で適切に現実感融合を行うためには、提示範囲に応じて広範囲な空間にディスプレイを遍在させる、いわば同時遍在ディスプレイ(ubiquitous display)を構成する必要がある。しかし、従来のディスプレイでは、空間的、金銭的コストが多大なものとなってしまい実用的ではない。
【0016】
従来のディスプレイは、多数の観察者を想定した空間に対して一方的で無指向性の情報を提示し続けるブロードキャスト型の情報提示には有効である。しかし、インタラクティブな用途におけるパーソナルな情報提示装置として利用しようとした場合、つまり特定の観察者に観察されるという目的に利用しようとした場合に、従来のディスプレイは無指向性であるがために、観察者のいない方向にも情報が放出され、それが無駄なものとなってしまう。また、対象外の人の目にも情報が入ることとなり、個人情報のプライバシーを守りにくいという問題点もある。
【0017】
つまり、インタラクティブな映像情報提示装置としては、人に映像を見せる”ディスプレイ(display )”というより、人から観察されるもの、いわば”オブザービ(observee)”と呼ぶべきデバイスが必要なのである。
【0018】
”オブザービ”としては、観察者の視認可能な範囲にのみ映像を提示するシステムを構築すればよく、例えば物体により遮蔽されている部分や、背面など視野に入らない部分では映像を提示する必要がない。
【0019】
この、観られる情報提示デバイス”オブザービ”の機能を実現するためには、人間の視認範囲であるビューイング・ボリューム(viewing volume)と一致するようにプロジェクション・ボリューム(projection volume )を形成させることが可能な映像提示システム(装置)が有力であると考えられる。
【0020】
以上の機能を果たすシステムとしては、観察者の位置を測定し、観察者に追従するようにレンズなどの光学系を用いて提示映像を観察者にのみ提示するシステム、及び、光を入射した方向にそのまま反射する性質を持った再帰性反射スクリーンに対して観察者と共役な視点から映像を投影するシステムを挙げることができる。
【0021】
しかし、前者の観察者追従型のシステムは、提示装置にコストがかかり、同時遍在的な用途への利用は困難である。これに対して、後者の投影型の映像提示システムは、映像提示のための空間的、金銭的コストをプロジェクタ側に集約させることにより、極めて容易に軽量の提示面を大量に生成することが可能という特長を持つ。また、観察者にとって真に必要な情報を必要なだけ提示することにより、限られた通信インフラの帯域の有効利用にもつながるという特長もある。さらに、観察者以外は映像を見ることができないため、観察者のプライバシーを守ることが可能である。
【0022】
また、一人に対して1つ以上のディスプレイが必要な状況においては、空間側ではなく人間側に情報生成機能を付加した方がコストパフォーマンスの良いシステム構成ともいえる。
【0023】
また、前者の観察者追従型のシステムは、スクリーン位置の変化による焦点深度の問題、及び光量の問題などが発生してしまう。通常、人に映像を見せる”ディスプレイ”は、より広い範囲に情報を提示することを目的としているため、広視野化が研究のポイントの一つとなっている。
【0024】
従来のスクリーンもその例外ではなく、ガラスビーズなどを用いて入射した光を拡散させることが目的のデバイスであると換言できる。つまり、映画館に代表される”ディスプレイ”のために用いるスクリーンは、距離が離れれば離れるほど光量が2乗に反比例して減少するという性質を本質的に持っているわけである。
【0025】
よって、”オブザービ”を実現するためのスクリーンとして必要な機能は、入射した光を拡散させることではなく、観察者の方向に再帰的に反射することであると考えられる。
【0026】
また、”オブザービ”は、各々の人に対して、全く独自の映像情報を提示することが可能となるため、物理的には1つのデバイスであっても、それを観察する各人にそれぞれ全く独立の情報を提示することも可能となり、空間をさらに有効に利用することができる。
【0027】
さて、”オブザービ”を実現するための画像表示方法に関して、本発明者は特願平10−172722号として先に提案したのであるが、さらに、次のような問題がある。
【0028】
すなわち、仮想空間において、視覚情報以外の感覚情報、特に触覚情報を観察者に提示する場合に、触覚提示装置を観察者の前方などに設置する必要がある。また、3次元位置センサのような人体状態計測センサが観察者の目と提示される映像との間に存在することもある。
【0029】
もし、仮想空間において本来は見えないはずのこれらの物体が観察者から見えてしまった場合には、仮想環境の現実感を損なってしまうことになる。特に、提示された映像の手前に見えないはずの物体が見えた場合には、その物体によって視覚上の遮蔽が発生し、提示された映像に死角ができて著しく現実感を損なってしまう。
【0030】
この問題の致命的な例が、仮想物体と実物体の奥行き関係が映像上逆転してしまった場合であり、その場合には物体が透けて見える透明視解釈が発生し、現実感を著しく損なってしまう。
【0031】
例えば、図5(A)に示すように、本来は仮想のボールBL1が実世界の人間の手HDの手前に見えるはずであるのに、図5(B)に示すように、ボールBL1と手HDの前後関係が逆転した場合には、遮蔽関係に矛盾が生じ、極めて不自然な見え方となる。
【0032】
したがって、観察者と提示される映像との間に存在する実物体のうち、本来は見えないものは見えないよう、また見えるべきものは見えるようにし、実物体と仮想物体との遮蔽関係に齟齬が生じないようにする必要がある。
【0033】
本発明は、上述の問題に鑑みてなされたもので、実物体と仮想物体との間に正しい遮蔽関係を保つことができ、現実感の高い仮想空間を提示することのできる情報提示方法及び装置を提供することを目的とする。
【0034】
【課題を解決するための手段】
請求項1の発明に係る方法は、図1及び図2に示すように、観察者BSの眼の位置に対して光学的に共役な位置に配置されたプロジェクタ14,14Aから再帰性反射機能を有するスクリーン11,11Aに向かって画像を投影することによって前記観察者BSに仮想空間の情報を提示する方法であって、前記仮想空間によって遮蔽すべき実物体JT、例えば触覚提示装置16,16Zの全部又は一部前記スクリーンの手前側に存在する場合に、前記実物体JT,16,16Zの全部又は一部のさらに手前側に、再帰性反射機能を有する遮蔽材を配置する。例えば再帰性反射材が塗布された遮蔽スクリーン18を配置し又は再帰性反射材18A,18Zを塗布する。さらに、この発明では、前記スクリーン11,11A及び前記遮蔽材18,18A,18Zの両者に渡って、前記プロジェクタ14,14Aからの画像を投影することによって、前記実物体の全部又は一部を、前記プロジェクタ14,14Aによる投影から光学的に隠す。つまり、この発明では、前記スクリーン及び遮蔽材の両者が、前記プロジェクタから見たときの一つの投影面を構成している。
【0035】
請求項2の発明に係る方法では、前記遮蔽材は、前記実物体JTの全部又は一部に塗布された再帰性反射材である
【0036】
請求項3の発明に係る方法では、前記遮蔽材は、再帰性反射機能を有する遮蔽スクリーン18である
【0037】
請求項4の発明に係る方法では、前記実物体は、前記観察者BSに対して触覚を提示するための触覚提示装置16である
【0038】
請求項5の発明に係る装置は、観察者の眼の位置に対して光学的に共役な位置に配置されたプロジェクタと再帰性反射機能を有するスクリーンとを備える。この装置は、前記スクリーンに向かって前記プロジェクタから画像を投影することによって前記観察者に仮想空間の情報を提示する。前記仮想空間によって遮蔽すべき実物体の全部又は一部は、前記スクリーンの手前側に存在している。前記実物体の全部又は一部のさらに手前側には、再帰性反射機能を有する遮蔽材が配置されている。前記プロジェクタは、前記スクリーン及び前記遮蔽材の両者に渡って、画像を投影することによって、前記実物体の全部又は一部を、前記プロジェクタによる投影から光学的に隠す構成となっている。
【0040】
請求項の発明に係る装置では、画像を投影するために観察者の眼の位置に対して光学的に共役な位置に配置されたプロジェクタ14Aと、前記観察者BSによる観察の対象となる対象物についての画像を生成して前記プロジェクタ14Aに出力する画像生成装置13Aと、前記プロジェクタ14Aから投影される画像を映し出すための再帰性反射機能を有するスクリーン11Aと、前記観察者BSに対して触覚を提示するための触覚提示装置16と、再帰性反射機能を有する遮蔽材とを有する。さらに、前記触覚提示装置の全部又は一部は、前記スクリーンの手前側に存在している。また、前記触覚提示装置の全部又は一部のさらに手前側には、前記遮蔽材が配置されている。前記プロジェクタは、前記スクリーン及び前記遮蔽材の両者に渡って画像を投影することによって、前記触覚提示装置の全部又は一部を、前記プロジェクタによる投影から光学的に隠す構成となっている。すなわち、前記触覚提示装置16は、再帰性反射機能を有する遮蔽材によって、例えば再帰性反射材が塗布された遮蔽スクリーン18又は再帰性反射材18A,18Zを塗布することによって、前記プロジェクタ14Aによる投影から光学的に隠されてなる。
【0041】
請求項の発明に係る装置では、前記プロジェクタ14Aは、当該プロジェクタ14Aを前記観察者BSの眼の位置に対して光学的に共役な位置に配置するための光学部材であるハーフミラー15とともに一体化され、前記観察者BSの頭部に搭載可能なように構成されてなる。
【0043】
【発明の実施の形態】
図2は本発明に係る情報提示装置1Aの構成を配置的に示す図、図3は情報提示装置1Aの構成を機能的に示す図、図4はスクリーン11Aに用いられる再帰性反射材RUによる再帰性反射機能を説明するための図である。
【0044】
図2及び図3において、情報提示装置1Aは、スクリーン11A、処理装置13A、プロジェクタ14L,14R、ハーフミラー15A、触覚提示装置16、頭部位置計測装置17A、及び背景スクリーン19を備える。プロジェクタ14L,14Rは、それぞれ左眼用、右眼用であり、小開口径の単眼のものであって、互いに同一の構造である。したがって、プロジェクタ14L,14Rのいずれか又は両方を指して「プロジェクタ14A」と記載することがある。
【0045】
スクリーン11Aは、プロジェクタ14Aによって投影される画像(映像)HGを映し出し、そこに画像HGの内容である対象物(仮想物体)を観察者BSに対して視覚的に提示するためのものである。スクリーン11Aの形状は、任意の形状とすることが可能であるが、画像HGによって提示される対象物と同じ形状又はそれに近似した形状とすることが好ましい。しかし、個々の対象物の形状に合わせたスクリーン11Aを製作することは非効率的であるので、それにこだわることなく、例えば平面、曲面、閉曲面など、対象物に対応した任意の形状とすることができる。閉曲面として、例えば、球状、卵形状、多面体、又はドーナツ型などとすることができる。
【0046】
スクリーン11Aの本体に用いる材料として、例えば発抱スチロールのように、軽量で任意の形状に容易に加工できる材料が好ましい。スクリーン11Aの表面には、ガラスビーズなどを用いた再帰性反射材が塗布され、再帰性反射機能を有したスクリーン(再帰性反射スクリーン)となっている。
【0047】
図4(B)に示すように、通常の材料MUの表面では、反射光LRは、入射光LCの入射角度に余り依存することなくあらゆる方向に射出する。しかし、再帰性反射材RUを用いて再帰性反射スクリーンとした場合には、図4(A)に示すように、反射光LRは、そのほとんどが入射光LCの入射した方向に射出する。したがって、スクリーン11Aの表面に投影された映像は、観察者BSの視線方向に高い輝度を有する。つまり、観察者BSは、スクリーン11A上に投影された映像を、極めて高い輝度で観察することができる。
【0048】
このように、再帰性反射材RUは、光源の方向に強い指向性を持って反射する材料であり、コーナーキューブアレイ又はガラスビーズなどを用いて実現される。
【0049】
処理装置13Aは、仮想環境映像生成部13aにおいて、左右のプロジェクタ14L,14Rに対して画像情報DL,DRを生成して送出する。例えばバレーボール大の卵形状のスクリーン11Aに対しては、全体として卵形状を呈した対象物の画像が生成される。例えば、猫、兎、リスなどの小動物の画像である。生成される画像は、三次元情報を持った三次元画像である。したがって、任意の視点からの二次元画像である画像情報DL,DRをそれぞれ出力することができる。
【0050】
つまり、処理装置13Aは、スクリーン11Aに対する観察者BSの視点に応じて、スクリーン11Aに適切な画像が表示されるように、修正した画像情報DL,DRを生成する。つまり、スクリーン11A及び観察者BSの位置の変化に追従して、プロジェクタ14L,14Rから投影される画像の内容、形状、及び位置などを変化させる。例えば、スクリーン11Aに、ある対象物を正面から見た画像が映っている場合に、観察者BSがスクリーン11Aを鉛直線を軸としてその場で90度回転させたとすると、スクリーン11Aにはその対象物を側面から見た画像が映るように、画像の内容を変化させる。
【0051】
なお、スクリーン11Aに投影された画像を観察者BSが左右の眼で立体視できるよう、各プロジェクタ14L,14Rに出力される画像情報DL,DRは互いに視差を有している。
【0052】
処理装置13Aは、反力演算部13bにおいて、触覚提示装置16の操作部161に与える反力を演算して制御装置160に指令を与える。
【0053】
処理装置13Aとして、マイクロコンピュータ、パーソナルコンピュータ、又はワークステーションなどが用いられる。処理装置13Aにおいては、上述の画像情報DL,DRを生成するために、コンピュータグラフィックスのためのデータ及びプログラム、レンダリングソフトウエア、その他の制御プログラムなどが搭載されている。また、物体の形状モデルなどのデータベースを格納した仮想空間情報記憶装置DB1を参照する。仮想環境映像生成部13a及び反力演算部13bは、それぞれ、それらのプログラムの実行に基づく機能の1つとして実現される。
【0054】
プロジェクタ14Aは、焦点深度の深い画像を投影するために、開口径ができるだけ小さくなるように絞れること、例えば絞りの直径が5cm以下、又は2cm以下、さらには1mm以下であることが好ましい。開口径を絞り込むことによってピンホール光学系が形成され、焦点深度が深くなる。
【0055】
プロジェクタ14Aは、観察者BSの左右の眼の位置に対して光学的に共役な位置に設けられる。その場合に、ハーフミラー15Aとともに観察者BSの頭部に一体的に装着することの可能な頭部搭載型とすることが好ましい。
【0056】
なお、プロジェクタ14Aを頭部搭載型とするためには、例えば、観察者BSが頭部に被ることの可能なキャップ又はヘルメットに、プロジェクタ14A、ハーフミラー15A、及び頭部位置計測装置17Aを取り付けておけばよい。又は、ヘッドマウンテッドディスプレイのように、バンドなどによって頭部又は顔面に装着するように構成してもよい。
【0057】
ハーフミラー15Aは、プロジェクタ14Aから投射される光を反射するが、スクリーン11Aに表示された映像の光を透過する。プロジェクタ14Aは、ハーフミラー15Aによって、観察者BSの左右の眼の位置に対して光学的に共役な位置に設けられる。これによって、観察者BSによるスクリーン11A上に提示される物体の観察が可能である。
【0058】
触覚提示装置16は、観察者BSの指BSFに対して触覚を提示するための装置である。つまり、触覚提示装置16には、指BSFを挿入して操作を行う操作部161が設けられ、アーム162〜164及びアクチュエータ165,166によって可動に支持されている。操作部161には、スクリーン11Aが取り付けられており、スクリーン11Aは操作部161とともに移動する。つまり、スクリーン11Aの位置及び姿勢は、操作部161の位置及び姿勢によって決まる。
【0059】
アクチュエータ165,166は、操作部161を移動駆動し又は操作部161に反力を発生させるためのものである。各アクチュエータ165,166の位置に、アーム162〜164の角度を検知する角度センサSE1,SE2が設けられている。角度センサSE1,SE2の出力信号に基づいて、3次元空間においてスクリーン11Aの配置されている位置及び姿勢がリアルタイムで計測される。なお、本明細書においては、位置及び姿勢の両方を合わせて「位置」と記載することがある。制御部160は、角度センサSE1,SE2の出力信号及び処理装置13Aからの指令に基づいて、操作部161の全体を制御する。
【0060】
触覚提示装置16の操作部161は、通常、スクリーン11Aの前方にあり、したがって観察者BSから見えるのであるが、仮想空間の提示の際には本来は見えてはならない物体である。そのため、操作部161をプロジェクタ14Aによる投影から光学的に隠すために、操作部161に再帰性反射材18Aが塗布されている。また、触覚提示装置16の他の部分についても、観察者BSから見える可能性のある部分には、再帰性反射材18Aが塗布されている。
【0061】
なお、観察者BSに与える触覚として、例えば重量感覚を提示するには、対象物の仮想的な重量に相当する力でスクリーン11Aを下方向に引っ張ればよい。重量感覚以外の触覚の例として、何かを発射したときの反動の感覚、水その他の液体中のように粘性の高い媒体中で対象物を動かしたかのような粘性感覚、風により対象物が揺らがされる感覚、又は、仮想ボールを仮想の壁に投げつけたときに跳ね返ってくる力などがある。触覚提示装置16によって、観察者BSは、スクリーン11Aに投影された画像中の対象物の力覚を体感することが可能である。
【0062】
頭部位置計測装置17Aは、観察者BSの頭部に取り付けられ、頭部の位置つまり眼の位置及び視線の方向を計測する。頭部位置計測装置17Aによる計測信号は処理装置13Aにフィードバックされる。処理装置13Aにおいて、スクリーン11Aの位置と観察者の位置とから、これらの相対位置を演算し、対象物に対する観察者BSの視点を求める。
【0063】
背景スクリーン19は、再帰性反射スクリーンであり、スクリーン11Aの背後に設けられる。背景スクリーン19には、スクリーン11Aに投影する対象物についての背景を投影する。背景スクリーン19は、再帰性反射材が塗布された壁面又は床面それ自体であってもよく、又は再帰性反射機能を有するシートであってもよい。
【0064】
次に、情報提示装置1Aの動作について説明する。なお、ここでは、触覚提示装置16及び観察者BSの初期位置は、仮想空間との位置合わせが済んでいるものとする。
【0065】
頭部位置計測装置17Aによって得られた視点位置及び視点情報と、仮想空間の情報とに基づいて、処理装置13Aによって観察者BSの視点及び視線での仮想空間の映像が生成される。生成された映像は、プロジェクタ14L,14Rによってスクリーン11Aに投影される。スクリーン11Aに投影された映像は、観察者BSによって観察される。観察者BSは、各プロジェクタ14L,14Rによって投影された映像を、それぞれ左右の眼で分離して観察することができる。観察者BSは、肉眼で、投影による仮想物体とそこに存在する実物体とを同時に見ることができる。このようにして、仮想空間が実空間とともに観察者BSに提示される。
【0066】
一方、触覚提示装置16の操作部161に接している指BSFの先端部の位置が、角度センサSE1,SE2からの出力信号に基づいて演算される。観察者BSの指BSFが仮想物体(映像)の内部に入らないよう、各アクチュエータ165,166を駆動制御して反力を発生させる。これによって、観察者BSには、あたかもそこに実物体があるかのような触感が提示される。
【0067】
そして、触覚提示装置16にも再帰性反射材18Aが塗布されているため、プロジェクタ14Aから投影される映像は触覚提示装置16でも反射し、観察者BSの眼に入る。触覚提示装置16により反射した映像は、スクリーン11Aにより反射した映像と同じように観察者BSの眼に映るので、プロジェクタ14Aから投影される映像のみが観察者BSに提示される。再帰性反射材18Aの性質によって、観察者BSの視線方向の光線以外は眼に戻ってこないため、観察者BSから触覚提示装置16は見えない。すなわち、触覚提示装置16は、観察者BSに対しては視覚的に透明である。
【0068】
もし、仮に、触覚提示装置16が観察者BSから見えた場合には、触覚提示装置16によって視覚上の遮蔽が発生し、プロジェクタ14Aによって提示された映像に死角ができて著しく現実感を損なってしまう。
【0069】
例えば、図6(A)に示すように、触覚提示装置16Zの表面には再帰性反射材18Zが塗布されているので、触覚提示装置16Zは視覚的に透明化され、観察者BSからは見えない。仮想物体VT1は、手HDのみによって遮蔽される。もし、仮に、再帰性反射材が塗布されていない触覚提示装置16Xを用いた場合には、図6(B)に示すように、仮想物体VT1は、触覚提示装置16Xによって遮蔽されてしまい、現実感が著しく損なわれる。
【0070】
特に、本実施形態のように、仮想空間において視覚以外の感覚として触覚を提示する場合では、触覚提示装置のようなデバイスをユーザの前面に設置する必要がある。従来のCAVE及びCABINなどのように、背面投影型のスクリーンを使った裸眼の又はステレオ視用のゴーグルを用いた仮想空間提示方法では、仮想環境の内部にデバイスが見え、仮想環境の現実感を著しく損なう。また、HMDなどを使用した仮想空間提示方法では、デバイスは見えないが、自分自身の手はHMDにCGとして描かれる場合が多く、これも現実感に欠ける。
【0071】
本実施形態のように、触覚提示装置16に再帰性反射材18Aを塗布し、観察者BSの眼の位置と共役な位置から映像を投影することによって、触覚提示装置16もスクリーンの一部として機能し、視覚的にはあたかも仮想空間から触覚提示装置16を消去したかのように見ることができる。しかも、触覚提示装置16による影の部分は観察者BSの視野の上でも死角となるので、影が生じない。
【0072】
そして、観察者BSの手などは、再帰性反射機能を有さないので、スクリーン11Aに投影された映像と比較して輝度が著しく低い。したがって、自分の手などに映り込みが生じることがなく、手は手として見ることができる。
【0073】
このように、実物体に対して選択的に再帰性反射材を使い分けることにより、不必要な実物体をカモフラージュして視覚的に「透明」な存在にすることがでる。つまり、「光学迷彩(optical camouflage) 」が実現される。これによって、視覚と触覚との融合が図られ、実物体と仮想物体との間に正しい遮蔽関係が保たれ、現実感の高い仮想空間を提示することができる。
【0074】
このように、本実施形態の情報提示装置1Aは、観られる情報提示デバイス”オブザービ”に必要とされる「見える物だけ見せる」という条件を満足している。
【0075】
なお、上にも述べたように、再帰性反射材は、触覚提示装置16などの実物体に直接に塗布してもよいし、又は紙や布などに塗布して再帰性反射機能を有した遮蔽スクリーンを製作し、これで隠したい実物体を覆ってもよい。また、触覚提示装置16だけでなく、その他の感覚提示装置、その他のデバイス、配線、又は家具など、あらゆる実物体を仮想空間から隠すことができる。
【0076】
本実施形態の情報提示装置1Aによる他の利点は次のとおりである。
(1)スクリーン11Aを再帰性反射スクリーンとしたことにより、屋内光の下で充分に観察可能な程度の高い輝度が得られる。また、再帰性反射材の塗布が可能な全ての物体をスクリーンとして利用できるので、非常に軽量で且つ自由な形状のディスプレイを実現することができる。
(2)観察者BSの眼と光学的に共役な位置から映像を投影するので、スクリーン11Aの形状に起困する像の歪みが生じない。
(3)プロジェクタ14Aの画像投影部の開口径を光量の許す限り絞り込むことにより、焦点深度が大きくなり、任意形状及び任意位置のスクリーン11Aに対し、広い範囲でピントずれを起こすことなく結像させることが可能である。
(4)スクリーン輝度の距離依存性が低減する。
(5)観察者BSにより観察される両眼像が空間的に分離されるので、裸眼立体視が可能となる。立体視を行うことにより、スクリーン11A、背景スクリーン19、及び触覚提示装置16の表面の汚れ、又はスクリーン間の継ぎ目などが目立たなくなる。
(6)プロジェクタ14Aをハーフミラー15Aなどの光学部材とともに一体化し、観察者BSの頭部に搭載可能なように構成することにより、観察者BSは、頭部を動かすことによる見回し動作、又は部屋内の自由な移動などが可能となる。
(7)構成が比較的単純であるので、低コストで実現可能である。
【0077】
上述の実施形態の情報提示装置1Aにおいては、スクリーン11Aを配置した例について説明したが、このスクリーン11Aを省略してもよい。その場合に、背景スクリーン19に左眼用及び右眼用の視差のある映像を投影し、投影された左右の映像によって仮想物体の表面がスクリーン11Aの位置(距離)にあるように表示する。そして、その仮想物体の表面形状に合わせて、触覚提示装置16により反力を提示するように構成する。触覚提示装置16が背景スクリーン19の手前に配置されているが、スクリーン11Aがない場合でも、触覚提示装置16に再帰性反射材を塗布しておくことによって、観察者BSから触覚提示装置16が見えることはない。また、スクリーン11Aを省略するのではなく、背景スクリーン19を省略することも可能である。
【0098】
【発明の効果】
本発明によると、実物体と仮想物体との間に正しい遮蔽関係を保つことができ、現実感の高い仮想空間を提示することができる。
【0099】
請求項4、、及びの発明によると、観察者に対して触覚を提示することができ、視覚の提示と融合させることによってより一層高い現実感のある仮想空間を提示することができる。しかも、触覚提示装置を設けても正しい遮蔽関係を保つことができる。
【図面の簡単な説明】
【図1】本発明の原理を説明するための図である。
【図2】本発明に係る情報提示装置の構成を配置的に示す図である。
【図3】情報提示装置の構成を機能的に示す図である。
【図4】スクリーンに用いられる再帰性反射材による再帰性反射機能を説明するための図である。
【図5】遮蔽関係の正誤の表れ方の例を示す図である。
【図6】遮蔽関係の正誤の表れ方の例を示す図である
【符号の説明】
1,1A 情報提示装置
11,11A スクリー
3 画像生成装置
13A 処理装置(画像生成装置)
13a 仮想環境映像生成部(画像生成装置)
14,14A プロジェクタ
15,15A ハーフミラー(光学部材)
16,16Z 触覚提示装置(実物体)
18 遮蔽スクリーン(遮蔽材)
RU,18A,18Z 再帰性反射材(遮蔽材)
BS 観察

Claims (7)

  1. 観察者の眼の位置に対して光学的に共役な位置に配置されたプロジェクタから再帰性反射機能を有するスクリーンに向かって画像を投影することによって前記観察者に仮想空間の情報を提示する方法であって、前記仮想空間によって遮蔽すべき実物体の全部又は一部が前記スクリーンの手前側に存在する場合に、前記実物体の全部又は一部のさらに手前側に、再帰性反射機能を有する遮蔽材を配置し、前記スクリーン及び前記遮蔽材の両者に渡って、前記プロジェクタからの画像を投影することによって、前記実物体の全部又は一部を、前記プロジェクタによる投影から光学的に隠す、
    ことを特徴とする情報提示方法。
  2. 請求項1記載の情報提示方法において、前記遮蔽材は、前記実物体の全部又は一部に塗布された再帰性反射材である情報提示方法。
  3. 請求項1記載の情報提示方法において、前記遮蔽材は、再帰性反射機能を有する遮蔽スクリーンである情報提示方法。
  4. 請求項1記載の情報提示方法において、前記実物体は、前記観察者に対して触覚を提示するための触覚提示装置である情報提示方法。
  5. 観察者の眼の位置に対して光学的に共役な位置に配置されたプロジェクタと再帰性反射機能を有するスクリーンとを備え、
    前記スクリーンに向かって前記プロジェクタから画像を投影することによって前記観察者に仮想空間の情報を提示する装置であって、
    前記仮想空間によって遮蔽すべき実物体の全部又は一部が前記スクリーンの手前側に存在しており、
    前記実物体の全部又は一部のさらに手前側に、再帰性反射機能を有する遮蔽材が配置されており、
    前記プロジェクタは、前記スクリーン及び前記遮蔽材の両者に渡って、画像を投影することによって、前記実物体の全部又は一部を、前記プロジェクタによる投影から光学的に隠す構成となっている、
    ことを特徴とする情報提示装置。
  6. 画像を投影するために観察者の眼の位置に対して光学的に共役な位置に配置されたプロジェクタと、
    前記観察者による観察の対象となる対象物についての画像を生成して前記プロジェクタに出力する画像生成装置と、
    前記プロジェクタから投影される画像を映し出すための再帰性反射機能を有するスクリーンと、
    前記観察者に対して触覚を提示するための触覚提示装置と、
    再帰性反射機能を有する遮蔽材とを有し、
    前記触覚提示装置の全部又は一部は、前記スクリーンの手前側に存在しており、
    前記触覚提示装置の全部又は一部のさらに手前側に、前記遮蔽材が配置されており、
    前記プロジェクタは、前記スクリーン及び前記遮蔽材の両者に渡って画像を投影することによって、前記触覚提示装置の全部又は一部を、前記プロジェクタによる投影から光学的に隠す構成となっている、
    ことを特徴とする情報提示装置。
  7. 請求項6記載の情報提示装置において、前記プロジェクタは、当該プロジェクタを前記観察者の眼の位置に対して光学的に共役な位置に配置するための光学部材とともに一体化され、前記観察者の頭部に搭載可能なように構成されてなる情報提示装置。
JP02062199A 1998-08-11 1999-01-28 情報提示方法及び装置 Expired - Lifetime JP4100531B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP02062199A JP4100531B2 (ja) 1998-08-11 1999-01-28 情報提示方法及び装置
US09/371,412 US6341869B1 (en) 1998-08-11 1999-08-10 Method and device for providing information

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP22667798 1998-08-11
JP10-226677 1998-08-11
JP02062199A JP4100531B2 (ja) 1998-08-11 1999-01-28 情報提示方法及び装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008020021A Division JP4744536B2 (ja) 1998-08-11 2008-01-31 情報提示装置

Publications (2)

Publication Number Publication Date
JP2000122176A JP2000122176A (ja) 2000-04-28
JP4100531B2 true JP4100531B2 (ja) 2008-06-11

Family

ID=26357601

Family Applications (1)

Application Number Title Priority Date Filing Date
JP02062199A Expired - Lifetime JP4100531B2 (ja) 1998-08-11 1999-01-28 情報提示方法及び装置

Country Status (2)

Country Link
US (1) US6341869B1 (ja)
JP (1) JP4100531B2 (ja)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002318876A (ja) * 2001-04-24 2002-10-31 Victor Co Of Japan Ltd 電子投票装置
US7002533B2 (en) 2001-08-17 2006-02-21 Michel Sayag Dual-stage high-contrast electronic image display
US7225115B2 (en) * 2001-10-04 2007-05-29 Novint Technologies, Inc. Coordinating haptics with visual images in a human-computer interface
US8064684B2 (en) * 2003-04-16 2011-11-22 Massachusetts Institute Of Technology Methods and apparatus for visualizing volumetric data using deformable physical object
US7091930B2 (en) * 2003-08-02 2006-08-15 Litton Systems, Inc. Centerline mounted sensor fusion device
JP4050672B2 (ja) 2003-08-08 2008-02-20 オリンパス株式会社 再帰性光学スクリーン及びそれを用いた観察装置
JP2005062312A (ja) 2003-08-08 2005-03-10 Olympus Corp 投影スクリーン及び投影型表示装置
JP2005066766A (ja) * 2003-08-25 2005-03-17 Saichiro Yamashita 全面モニタ付きロボット
JP4280648B2 (ja) 2004-01-16 2009-06-17 株式会社ホンダロック 車両の視界補助装置
JP4595485B2 (ja) * 2004-10-18 2010-12-08 パナソニック電工株式会社 映像表示システム
JP2006154143A (ja) * 2004-11-26 2006-06-15 Olympus Corp フロントプロジェクターシステム
FR2894684B1 (fr) * 2005-12-14 2008-03-21 Kolpi Sarl Systeme de visualisation pour la manipulation d'un objet
JP4654905B2 (ja) * 2005-12-16 2011-03-23 パナソニック電工株式会社 映像提示システム
JP5337409B2 (ja) * 2008-05-30 2013-11-06 学校法人慶應義塾 情報提示装置
JP5380168B2 (ja) * 2009-06-11 2014-01-08 京楽産業.株式会社 遊技機用演出装置
JP4888543B2 (ja) * 2009-11-19 2012-02-29 パナソニック電工株式会社 映像表示システム
NZ700887A (en) * 2012-04-05 2016-11-25 Magic Leap Inc Wide-field of view (fov) imaging devices with active foveation capability
TWI486629B (zh) * 2012-11-21 2015-06-01 Ind Tech Res Inst 穿透型頭部穿戴式顯示系統與互動操作方法
JP6399750B2 (ja) * 2013-12-25 2018-10-03 キヤノン株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
DE102015119526A1 (de) * 2014-11-24 2016-05-25 Visteon Global Technologies, Inc. Automobilcockpitanzeigesystem
TWI579591B (zh) * 2015-04-02 2017-04-21 尚立光電股份有限公司 頭戴式顯示裝置
CN108885353A (zh) * 2016-04-11 2018-11-23 可来灵菇日本株式会社 投影装置、投影系统以及眼镜型显示装置
CN109960103B (zh) * 2017-12-26 2020-08-25 广景视睿科技(深圳)有限公司 一种3d成像系统及其装置
JP2019186588A (ja) * 2018-03-30 2019-10-24 株式会社プレースホルダ コンテンツ表示システム
JP2022129747A (ja) * 2021-02-25 2022-09-06 キヤノン株式会社 電子装置およびその制御方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0494268A (ja) * 1990-08-09 1992-03-26 Nippon Telegr & Teleph Corp <Ntt> 表示兼撮影装置と画像通信方式
US5329310A (en) * 1992-06-30 1994-07-12 The Walt Disney Company Method and apparatus for controlling distortion of a projected image
US5982352A (en) * 1992-09-18 1999-11-09 Pryor; Timothy R. Method for providing human input to a computer
US6008800A (en) * 1992-09-18 1999-12-28 Pryor; Timothy R. Man machine interfaces for entering data into a computer
US5418584A (en) * 1992-12-31 1995-05-23 Honeywell Inc. Retroreflective array virtual image projection screen
US5394202A (en) * 1993-01-14 1995-02-28 Sun Microsystems, Inc. Method and apparatus for generating high resolution 3D images in a head tracked stereo display system
GB2284680A (en) * 1993-12-13 1995-06-14 Central Research Lab Ltd Apparatus for displaying a suspended image
JP3026716B2 (ja) * 1994-03-16 2000-03-27 株式会社日立製作所 立体型表示装置
JP3612347B2 (ja) 1994-04-15 2005-01-19 株式会社安川電機 3次元力触覚ディスプレイ
GB9415894D0 (en) * 1994-08-05 1994-09-28 Central Research Lab Ltd An apparatus for displaying an image
US6008945A (en) * 1996-09-19 1999-12-28 Fergason; James L. Display system using conjugate optics and accommodation features and method of displaying and viewing an image
JP3338618B2 (ja) * 1996-10-07 2002-10-28 ミノルタ株式会社 実空間画像と仮想空間画像の表示方法及び表示装置
JPH10115878A (ja) * 1996-10-09 1998-05-06 Ishikawa Kogaku Zokei Kenkyusho:Kk 指向性スクリーンを用いる3次元画像投写システム
US5913591A (en) * 1998-01-20 1999-06-22 University Of Washington Augmented imaging using a silhouette to improve contrast

Also Published As

Publication number Publication date
JP2000122176A (ja) 2000-04-28
US6341869B1 (en) 2002-01-29

Similar Documents

Publication Publication Date Title
JP4100531B2 (ja) 情報提示方法及び装置
JP6165170B2 (ja) 3次元ディスプレイシステム
US6535182B2 (en) Head-mounted projection display system
US20040135744A1 (en) Virtual showcases
CN102200685B (zh) 空中三维图像显示系统
JP2011501822A (ja) 表示装置及びその表示方法
JPH04339488A (ja) 三次元映像表示方法および装置
JP4744536B2 (ja) 情報提示装置
KR20130097014A (ko) 확장형 3차원 입체영상 디스플레이 시스템
JP2000010194A (ja) 画像表示方法及び装置
CN110709898A (zh) 视频透视式显示系统
JP6173272B2 (ja) 拡張現実表示装置および拡張現実表示装置
Saggio et al. New trends in virtual reality visualization of 3D scenarios
JPH09238369A (ja) 3次元像表示装置
JP6121097B2 (ja) 情報提示装置
US20220253975A1 (en) Panoramic presentation methods and apparatuses
Wartell Stereoscopic head-tracked displays: Analysis and development of display algorithms
WO2002015110A1 (en) Virtual showcases
Hua et al. Head-mounted projection display technology and applications
CN209879155U (zh) 一种基于双光栅的立体投影装置
Pastoor et al. Mixed reality displays
Ridel et al. EgoSAR: Towards a personalized spatial augmented reality experience in multi-user environments
WO2021111954A1 (ja) 画像表示装置
JP6724671B2 (ja) 表示デバイス、表示方法及び表示システム
JP2949116B1 (ja) 反射光学系を用いたディスプレイ装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040116

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20040830

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20040928

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040831

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040928

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20041217

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070815

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071015

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080310

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080313

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110328

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130328

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140328

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term