JP2010217719A - 装着型表示装置、その制御方法及びプログラム - Google Patents
装着型表示装置、その制御方法及びプログラム Download PDFInfo
- Publication number
- JP2010217719A JP2010217719A JP2009066427A JP2009066427A JP2010217719A JP 2010217719 A JP2010217719 A JP 2010217719A JP 2009066427 A JP2009066427 A JP 2009066427A JP 2009066427 A JP2009066427 A JP 2009066427A JP 2010217719 A JP2010217719 A JP 2010217719A
- Authority
- JP
- Japan
- Prior art keywords
- hmd
- plane
- wearable display
- display device
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Processing Or Creating Images (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
【解決手段】図示のHMDは、実在する空間に、生成した仮想空間に係る画像を重畳させて表示する装着型表示装置である。近隣にある他のHMDを検出するHMD検知部206、検知した他のHMDに対し、仮想空間の情報を送受信する通信制御部205を備える。また、実在空間に存在する平面を検出する平面検出手段、送受信した仮想空間の情報に基づいて生成した画像を変形させる変形処理手段として機能する3-D演算部203、実在空間の平面上に変形させた画像を重畳させて表示する制御を行う表示制御部204を備える。
【選択図】図8
Description
会議室のように、主に複数の人が集まって議論を交わすための場所で利用されている。しかし、ロビー、廊下、休憩室などのオフィス内のあらゆる場所で利用できる訳ではない。また、このような大型の表示装置をオフィス内のあらゆる場所に設置するのは、膨大なコストを要すること、建造物の所有権の関係で、利用者がこのような装置を自由に設置する権限を持てない場合があることなどから、現実的ではない。
上記のような大型の表示装置が利用できない公共の場所で、特に個人的な情報アクセスを行うには有効である。しかし、画面が小さい、情報のハンドリングが困難、HHPの場合は装置の把持のために少なくとも片手を要するなどのユーザインターフェース上の制約があるため、複数人でコミュニケーションをとるのには不向きである。
特許文献1には、現実世界に存在する紙やパネルの上に、仮想情報 (アプリケーション画面)をフィットするように重畳表示することにより構成された拡張現実感ディスプレイシステムについて記載がある。アプリケーション画面を表示する領域は、カメラ付きHMDで捉えた映像から検出された紙面の4隅により決定される。また、アプリケーション画面は、4隅の画像座標から算出された紙面の向きに応じて変形され、HMD (Head Mounted Display)に上乗せされる。また、アプリケーション画面が仮想表示された紙面上で指押しを行う、紙面を動かすなどの操作により、当該アプリケーションに対してコマンドを発行することも示唆されている。
Studierstubeは、2次元のデスクトップUIと同等の強力な3次元ユーザインターフェース環境を追究するという包括的なプロジェクトであり、デスクトップ環境における生産性向上のほか、協調作業の効率向上の両方をも支援することを目的としている。このプロジェクトにおいて、拡張現実感 (Augmented Reality、以下ARと略す)を協調作業向けユーザインターフェースに応用した、PIP (Personal Interactive Panel)という研究成果が既に発表されている(非特許文献1)。
このシステムでは、空間上に位置と姿勢を追跡可能なペンとパネルを、同じく位置と姿勢を追跡可能な透過型HMD (Head Mounted Display)で眺めると、3次元コンテンツが透過型HMDの画面上に表示される。各ユーザが装着している透過型HMDには、各ユーザの視点位置・姿勢に応じた見え方になるよう、当該3次元コンテンツがレンダリング表示されるようになっている。また、透過型HMDを装着することにより、パネル上にはスライダコントローラ、ボタンなどのUI (User Interface)部品がレンダリング表示されているように見える。各ユーザは、各自が保持するパネル上に重畳表示されたUI部品をペンで操作することにより、3次元コンテンツの拡大・縮小や回転などを行うことができる。ここで、透過型HMD、パネル、ペンの位置・姿勢を追跡するために、作業環境側に磁気検出型のモーショントラッカを設置する。
個人作業の支援を目的としており、他人とのコミュニケーションを支援するものではない。
まず、環境側にモーショントラッカを設置する必要があるため、このシステムを使用できるのは特殊な環境下に限定される。また、複数のユーザがパネルを用いて、同時に共有コンテンツの操作 (拡大縮小等)を行ったときの不具合 (操作結果の矛盾など)が生じる可能性がある。この不具合を解決策として、複雑な同時実行制御などの自動処理機構が挙げられるが、複数のユーザの意図を完全に汲み取った機構を実現するのは非常に困難である。また、操作権限を1人のユーザに限定するなどの手動操作も解決策として考えられるが、操作権限の切り替えの度に面倒な操作が必要となり、作業効率を低下させる。
本発明が想定している利用場所は、壁、天井、床、道路、また机、椅子、板などの人工物のように、何の変哲も無い平面が存在する実空間である。実空間における平面側には、人やHMDを検知するためのセンサ類は一切取り付けられていない。以下で、具体的な利用シーンの一例を説明する。
本実施の形態における装着型表示装置の一例であるHMDのハードウェア構成、ソフトウェア構成、及び動作について、順に説明する。
本実施の形態における装着型表示装置の一例として説明するHMDのハードウェア構成を、図2に示す。以下、図2における各構成の目的・動作について説明する。
本実施の形態の装着型表示装置の一例として説明するHMDのソフトウェア構成を、図8に示す。図示した各機能部は、図2に示したハードウェア、又は、当該ハードウェア及びこれを利用して所定の情報処理を実現するソフトウェアプログラムの協働によって実現する手段である。以下、図8における各機能部の目的及び動作について説明する。
次に、本実施の形態におけるHMDにおいて実現される、図8に示した各機能部の各種動作の例について図面を参照しながら説明する。
ここでは簡単のためユーザ数を2人とし、2人のユーザがHMD 1、HMD 2をそれぞれ装着したときの協調作業空間システムの動作を、図9のシーケンス図に基づいて説明する。図9は、HMD1の開始/終了ボタンの押下に係る処理の一例を示すシーケンス図である。図9はHMD1が正常に動作した場合のみを示したものであり、例外やエラー発生時の動作については、下記の説明中に記載することとする。また、各HMDは、作業空間生成状態、待機状態という2つの状態を持つが、図9のシーケンス図に記載の動作が開始される直前は、各HMDは待機状態であると仮定する。
同様にして、HMD 1の表示制御部204は、仮想画面の重畳表示を終了する。
同様にして、HMD 1の通信制御部205は、無線LANアダプタ105を介して、HMD 2から受信したIPアドレスに対して、接続終了のための制御パケットを送信する(ステップS909)。これに対し、HMD 2の通信制御部205は無線LANアダプタ105を介して、接続終了を許可する旨のパケットをHMD 1に返信する(ステップS910)。これにより、無線LANによる接続が切断され、HMD 2のLCD104上における仮想画面の表示も中止される。
このとき、双方のHMDの通信制御部205は、それぞれのメイン制御部201に対して、通信が切断された旨を通知する。双方のHMDのメイン制御部201は、通信が中断された旨の通知に基づいて、HMDの状態を作業空間生成状態から待機状態に変更する。
図9のシーケンス図のステップS907における、各HMDの仮想画面の重畳表示の動作について、詳細に説明する。
以上を実現するための動作を、図12乃至図20を用いて、以下詳細に説明する。
図12のフローチャートに基づき、HMD 1における仮想画面の重畳表示のための動作を説明する。
ax + by + c = d (a^2 + b^2 + c^2 = 1、c > 0)
の係数a乃至dで表される。
図19のフローチャートに基づき、HMD1との無線LAN接続が確立したときのHMD 2における仮想画面の重畳表示のための動作を説明する。
ここで、HMD 1において、ユーザ1の仮想画面上の指差しによるポインティング位置の検出と、壁と指との接触状態の識別を行う方法を、図20に基づき説明する。ここで、映像処理によりユーザの指先位置を簡単に検出できるようにするために、ユーザ1は、図20(a)のように、QRコード(登録商標)付きのリングを指先に嵌めているとする。
実施の形態1においては、仮想画面上の表示物に対してポインティング及び操作を行うことができるのは、ユーザ1のみである。しかし、協調作業の状況によっては、その他のユーザも同様に、表示物に対する指差しや操作ができるようにすることが望ましい。本実施の形態は、係る動作を実現するためのものである。
本実施の形態における装着型表示装置の一例として説明するHMDのハードウェア構成及びソフトウェア構成は、実施の形態1と同様に、図2乃至図8に示されるような構成である。
HMDの基本的な動作について説明する。基本的には、実施の形態1と同様に、図9のシーケンス図に示される動作を行う。ただし、以下説明するように、「仮想画面の重畳表示」において、HMD 2についても映像フレームの取得や変形パラメータの計算等の処理を行う点が実施の形態1と異なる点である。また、HMD 2のメイン制御部201は、図9のステップS905で無線LAN接続が確立した直後に、呼び出し先VNCサーバをHMD 1に設定した状態で、予めインストールされているVNCクライアントプログラムを起動するものとする。
まず、HMD2は映像フレームを取得する(ステップS2201)。係る動作は、実施の形態1のHMD 1における動作と同じなので、説明を省略する。
続いてステップS2203に移って、実施の形態1のHMD 1における動作と同様に、図14のフローチャートに示される変形パラメータの算出に係る動作を行う。この時点で、HMD 2に関しても、図13、図15、図16に示されるデータが得られる。
まず通信制御部205は無線LANアダプタ105を介して、HMD 1の第1カメラ101の内部・外部パラメータ (図7)、HMD 1の仮想カメラの内部パラメータ (図18)、最新の平面パラメータ(a, b, c, d)及び最新の仮想画面の4隅の画像座標 (図16(b))を取得する。
以上の実施の形態においては、装着型表示装置の一例としてHMDの構成・動作について説明したが、本実施の形態は、上記実施の形態に記載した動作を実行するためのプログラムである。図2の構成を持つ装着型表示装置をインターネットや社内LANに接続し、所定のサーバより上記実施の形態1または2の動作を実行するプログラムをダウンロードし、フラッシュメモリ111に保存する。例えば装着型表示装置の起動時に、OS112が当該プログラムをDRAM110上に常駐させることにより、上記実施の形態1または2の動作を、HMDに実行させる。
なお、上記実施の形態では、2人のユーザが持つHMDの間で接続を確立すると説明したが、3人以上のユーザがHMDを装着することにより協調作業を行う場合にももちろん適用可能である。
101 第1カメラ
102 第2カメラ
104 LCD
1041 ハーフミラー
106 赤外センサ
107 入力インターフェース
110 無線LANアダプタ
201 メイン制御部
202 映像処理部
203 3-D演算部
204 表示制御部
205 映像処理部
206 HMD検知部
207 入力I/F制御部
Claims (5)
- 実在する空間に、生成した仮想空間に係る画像を重畳させて表示する装着型表示装置であって、
所定の範囲内にある他の装着型表示装置を検出する他装置検知手段と、
検知した他の装着型表示装置に対し、前記仮想空間の情報を送受信する通信手段と、
前記実在する空間に存在する平面を検出する平面検出手段と、
送受信した前記仮想空間の情報に基づいて生成した前記仮想空間に係る画像を変形させる変形処理手段と、
前記平面検出手段が検出した平面上に、前記変形処理手段が変形させた前記画像を重畳させて表示する表示手段と、
を有することを特徴とする、装着型表示装置。 - 装置の装着者によるポインティング位置を検出するポインティング検出手段を有することを特徴とする、請求項1記載の装着型表示装置。
- 前記ポインティング検出手段は、前記平面検出手段が検出した前記平面と、検出した前記ポインティング位置との関係に基づいて、前記装着者による前記仮想空間の情報操作のためのアクションを検出することを特徴とする、請求項2記載の装着型表示装置。
- 実在する空間に、生成した仮想空間に係る画像を重畳させて表示する装着型表示装置の制御方法であって、
所定の範囲内にある他の装着型表示装置を検出する他装置検知工程と、
検知した他の装着型表示装置に対し、前記仮想空間の情報を送受信する通信工程と、
前記実在する空間に存在する平面を検出する平面検出工程と、
送受信した前記仮想空間の情報に基づいて生成した前記仮想空間に係る画像を変形させる変形処理工程と、
前記平面検出工程にて検出した平面上に、前記変形処理工程にて変形させた前記画像を重畳させて表示させる表示制御工程と、
を含むことを特徴とする、装着型表示装置の制御方法。 - 装着型表示装置を、
所定の範囲内にある他の装着型表示装置を検出する他装置検知手段と、
検知した他の装着型表示装置に対し、仮想空間の情報を送受信する通信手段と、
実在する空間に存在する平面を検出する平面検出手段と、
送受信した前記仮想空間の情報に基づいて生成した前記仮想空間に係る画像を変形させる変形処理手段と、
前記平面検出手段が検出した平面上に、前記変形処理手段が変形させた前記画像を重畳させて表示する表示手段として機能させることを特徴とする、プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009066427A JP2010217719A (ja) | 2009-03-18 | 2009-03-18 | 装着型表示装置、その制御方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009066427A JP2010217719A (ja) | 2009-03-18 | 2009-03-18 | 装着型表示装置、その制御方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010217719A true JP2010217719A (ja) | 2010-09-30 |
Family
ID=42976620
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009066427A Pending JP2010217719A (ja) | 2009-03-18 | 2009-03-18 | 装着型表示装置、その制御方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010217719A (ja) |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011122496A1 (ja) * | 2010-03-31 | 2011-10-06 | 新日鉄ソリューションズ株式会社 | 情報処理システム、会議管理装置、情報処理方法、会議管理装置の制御方法及びプログラム |
JP2012151668A (ja) * | 2011-01-19 | 2012-08-09 | Olympus Corp | 映像表示機器及びプログラム |
JP2012168646A (ja) * | 2011-02-10 | 2012-09-06 | Sony Corp | 情報処理装置、情報共有方法、プログラム及び端末装置 |
WO2012133172A1 (ja) * | 2011-03-30 | 2012-10-04 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
WO2012157516A1 (ja) * | 2011-05-17 | 2012-11-22 | シャープ株式会社 | 映像提示システム、映像提示方法、プログラム及び記録媒体 |
WO2013090100A1 (en) * | 2011-12-12 | 2013-06-20 | John Clavin | Connecting head mounted displays to external displays and other communication networks |
JP2014514653A (ja) * | 2011-03-29 | 2014-06-19 | クアルコム,インコーポレイテッド | 各ユーザの視点に対する共有デジタルインターフェースのレンダリングのためのシステム |
JP2015200951A (ja) * | 2014-04-04 | 2015-11-12 | 株式会社日本総合研究所 | 表示システム及びプログラム |
JP2015215745A (ja) * | 2014-05-09 | 2015-12-03 | シャープ株式会社 | テレコミュニケーションシステム |
JP2016018213A (ja) * | 2014-07-10 | 2016-02-01 | セイコーエプソン株式会社 | 直接幾何学的モデル化によるhmdのキャリブレーション |
US9778738B2 (en) | 2013-02-15 | 2017-10-03 | Konica Minolta, Inc. | Operation display system and operation display method |
JP2018129054A (ja) * | 2013-06-07 | 2018-08-16 | ソニー インタラクティブ エンタテインメント アメリカ リミテッド ライアビリテイ カンパニー | ヘッドマウントシステムに関連するホップ数を削減するためのシステム及び方法 |
US10437055B2 (en) | 2015-01-07 | 2019-10-08 | Samsung Electronics Co., Ltd. | Master device, slave device, and control method therefor |
JP2019215933A (ja) * | 2011-10-28 | 2019-12-19 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 拡張現実および仮想現実のためのシステムおよび方法 |
JP2020522809A (ja) * | 2017-06-02 | 2020-07-30 | アップル インコーポレイテッドApple Inc. | 仮想基体として使用するための平面及び/又は四分木を検出するための方法及びデバイス |
JP2022104972A (ja) * | 2018-04-12 | 2022-07-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1188913A (ja) * | 1997-09-01 | 1999-03-30 | M R Syst Kenkyusho:Kk | 姿勢検出装置、姿勢検出方法、記憶媒体および複合現実感提示装置 |
JP2000353248A (ja) * | 1999-06-11 | 2000-12-19 | Mr System Kenkyusho:Kk | 複合現実感装置及び複合現実感提示方法 |
JP2001142604A (ja) * | 1999-09-22 | 2001-05-25 | Xerox Corp | オブジェクト検証方法及び拡張現実感ディスプレイシステム |
JP2005049996A (ja) * | 2003-07-30 | 2005-02-24 | Canon Inc | 画像表示方法及び装置 |
JP2006293604A (ja) * | 2005-04-08 | 2006-10-26 | Canon Inc | 情報処理方法、情報処理装置および遠隔複合現実感共有装置 |
JP2006293605A (ja) * | 2005-04-08 | 2006-10-26 | Canon Inc | 情報処理方法およびシステム |
-
2009
- 2009-03-18 JP JP2009066427A patent/JP2010217719A/ja active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1188913A (ja) * | 1997-09-01 | 1999-03-30 | M R Syst Kenkyusho:Kk | 姿勢検出装置、姿勢検出方法、記憶媒体および複合現実感提示装置 |
JP2000353248A (ja) * | 1999-06-11 | 2000-12-19 | Mr System Kenkyusho:Kk | 複合現実感装置及び複合現実感提示方法 |
JP2001142604A (ja) * | 1999-09-22 | 2001-05-25 | Xerox Corp | オブジェクト検証方法及び拡張現実感ディスプレイシステム |
JP2005049996A (ja) * | 2003-07-30 | 2005-02-24 | Canon Inc | 画像表示方法及び装置 |
JP2006293604A (ja) * | 2005-04-08 | 2006-10-26 | Canon Inc | 情報処理方法、情報処理装置および遠隔複合現実感共有装置 |
JP2006293605A (ja) * | 2005-04-08 | 2006-10-26 | Canon Inc | 情報処理方法およびシステム |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8659635B2 (en) | 2010-03-31 | 2014-02-25 | Ns Solutions Corporation | Information processing system and information processing method |
WO2011122496A1 (ja) * | 2010-03-31 | 2011-10-06 | 新日鉄ソリューションズ株式会社 | 情報処理システム、会議管理装置、情報処理方法、会議管理装置の制御方法及びプログラム |
JP2012151668A (ja) * | 2011-01-19 | 2012-08-09 | Olympus Corp | 映像表示機器及びプログラム |
JP2012168646A (ja) * | 2011-02-10 | 2012-09-06 | Sony Corp | 情報処理装置、情報共有方法、プログラム及び端末装置 |
US9384594B2 (en) | 2011-03-29 | 2016-07-05 | Qualcomm Incorporated | Anchoring virtual images to real world surfaces in augmented reality systems |
JP2015228256A (ja) * | 2011-03-29 | 2015-12-17 | クアルコム,インコーポレイテッド | 各ユーザの視点に対する共有デジタルインターフェースのレンダリングのためのシステム |
JP2014514653A (ja) * | 2011-03-29 | 2014-06-19 | クアルコム,インコーポレイテッド | 各ユーザの視点に対する共有デジタルインターフェースのレンダリングのためのシステム |
WO2012133172A1 (ja) * | 2011-03-30 | 2012-10-04 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
JP2012212991A (ja) * | 2011-03-30 | 2012-11-01 | Brother Ind Ltd | ヘッドマウントディスプレイ |
JP2012242930A (ja) * | 2011-05-17 | 2012-12-10 | Sharp Corp | 映像提示システム、映像提示方法、プログラム及び記録媒体 |
WO2012157516A1 (ja) * | 2011-05-17 | 2012-11-22 | シャープ株式会社 | 映像提示システム、映像提示方法、プログラム及び記録媒体 |
JP2019215933A (ja) * | 2011-10-28 | 2019-12-19 | マジック リープ, インコーポレイテッドMagic Leap,Inc. | 拡張現実および仮想現実のためのシステムおよび方法 |
WO2013090100A1 (en) * | 2011-12-12 | 2013-06-20 | John Clavin | Connecting head mounted displays to external displays and other communication networks |
US9778738B2 (en) | 2013-02-15 | 2017-10-03 | Konica Minolta, Inc. | Operation display system and operation display method |
JP2018129054A (ja) * | 2013-06-07 | 2018-08-16 | ソニー インタラクティブ エンタテインメント アメリカ リミテッド ライアビリテイ カンパニー | ヘッドマウントシステムに関連するホップ数を削減するためのシステム及び方法 |
JP2015200951A (ja) * | 2014-04-04 | 2015-11-12 | 株式会社日本総合研究所 | 表示システム及びプログラム |
JP2015215745A (ja) * | 2014-05-09 | 2015-12-03 | シャープ株式会社 | テレコミュニケーションシステム |
JP2016018213A (ja) * | 2014-07-10 | 2016-02-01 | セイコーエプソン株式会社 | 直接幾何学的モデル化によるhmdのキャリブレーション |
US10437055B2 (en) | 2015-01-07 | 2019-10-08 | Samsung Electronics Co., Ltd. | Master device, slave device, and control method therefor |
JP2020522809A (ja) * | 2017-06-02 | 2020-07-30 | アップル インコーポレイテッドApple Inc. | 仮想基体として使用するための平面及び/又は四分木を検出するための方法及びデバイス |
JP2022104972A (ja) * | 2018-04-12 | 2022-07-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP7419424B2 (ja) | 2018-04-12 | 2024-01-22 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2010217719A (ja) | 装着型表示装置、その制御方法及びプログラム | |
EP1899793B1 (en) | Control device for information display, corresponding system, method and program product | |
CN112243583B (zh) | 多端点混合现实会议 | |
US10095458B2 (en) | Information processing apparatus, information processing method, non-transitory computer-readable storage medium, and system | |
Kato et al. | Marker tracking and hmd calibration for a video-based augmented reality conferencing system | |
EP2691938B1 (en) | Selective hand occlusion over virtual projections onto physical surfaces using skeletal tracking | |
JP6015032B2 (ja) | 共同環境における位置情報の提供 | |
CN104641633B (zh) | 用于组合来自多个深度相机的数据的系统和方法 | |
US20140313228A1 (en) | Image processing device, and computer program product | |
Adcock et al. | Using projected light for mobile remote guidance | |
US9531995B1 (en) | User face capture in projection-based systems | |
Jeon et al. | Interaction techniques in large display environments using hand-held devices | |
JP6244069B1 (ja) | 遠隔作業支援システム、遠隔作業支援方法、及びプログラム | |
Zhang et al. | Remotetouch: Enhancing immersive 3d video communication with hand touch | |
KR102208708B1 (ko) | 공통 좌표계 기반의 가상공간에서 가상 컨텐츠 제공 방법 및 장치 | |
Zhong et al. | Doodle space: painting on a public display by cam-phone | |
Edelmann et al. | Preserving non-verbal features of face-to-face communication for remote collaboration | |
Koike et al. | 3-D interaction with wall-sized display and information transportation using mobile phones | |
Kumaragurubaran | A multi-user collaborative space for architectural design reviews | |
Rusnák | Interaction Methods for Large High-Resolution Screens |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120228 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120621 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130827 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130910 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140318 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140519 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141111 |