JP2011530209A - 走査された光線のオーバーレイ投影 - Google Patents

走査された光線のオーバーレイ投影 Download PDF

Info

Publication number
JP2011530209A
JP2011530209A JP2011521155A JP2011521155A JP2011530209A JP 2011530209 A JP2011530209 A JP 2011530209A JP 2011521155 A JP2011521155 A JP 2011521155A JP 2011521155 A JP2011521155 A JP 2011521155A JP 2011530209 A JP2011530209 A JP 2011530209A
Authority
JP
Japan
Prior art keywords
image
scanning
display surface
projector
reflection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011521155A
Other languages
English (en)
Other versions
JP5395173B2 (ja
Inventor
ビー. スピローグ,ランダル
Original Assignee
マイクロビジョン,インク.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マイクロビジョン,インク. filed Critical マイクロビジョン,インク.
Publication of JP2011530209A publication Critical patent/JP2011530209A/ja
Application granted granted Critical
Publication of JP5395173B2 publication Critical patent/JP5395173B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3129Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM] scanning a light beam on the display screen
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/14Details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Optics & Photonics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Optical Scanning Systems (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

走査線のオーバーレイ投影システム(100)は、ラスターパターンの中に光線(112)を走査することによって、投影表面(128)に画像を表示する。光線によって照射される時に、投影表面上の反射点(130、132)は投影システムへ光を反射する。投影システムの光検出器(134)はその反射光を検出する。そして、タイミング回路(142)は反射する点がラスターパターンのどこに位置するかを決定する。画像は、画像の中でタグ付けされた位置と投影表面上の反射点の位置とを相互に関連づけるために、倍率変更すること及び変形させることが可能である。
【選択図】図1

Description

(背景)
「拡張現実感」とは、仮想世界の要素と現実の世界の要素の両方を含む環境のことである。例えばプロジェクタ(投光器)は、画像を現実の世界の物体に表示することができる。(または「オーバーレイ(重ね合わせ、重畳)」することができる。)その画像は、現実の世界の環境に正確にオーバーレイされた投影画像を得るために、それが投影される現実の世界の物体又は表面と整合するための倍率変更(拡大又は縮小)や変形(ゆがませること)が行われてもよい。この倍率変更と変形は、プロジェクタの投影角度と、現実の世界の物体までの距離と、現実の世界の投影表面上の三次元曲線との影響を補正(打ち消し)する。
倍率変更と変形のアルゴリズムが知られている。もしも基礎となる画像の中の充分な数の点を、投影されるべき投影表面上の位置と相互に関連づけることができる場合には、その基礎となる画像を、投影表面に一致するように、知られている方法を用いて倍率変更しまた変形することができる。基礎となる画像の中の点を投影表面上の位置に相互に関連づけることは、特にプロジェクタが移動中の場合には、難しい課題となりうる。
図1は、本発明の種々の実施形態に従った走査線のオーバーレイ投影システムを示す図である。 図2は、本発明の種々の実施形態に従って投影表面上の点の位置を決定するための、走査線のオーバーレイ投影システムのための同期信号のタイミングチャートを示している。 図3は、本発明の種々の実施形態に従った方法のフローチャートを示している。 図4は、本発明の種々の実施形態に従った走査線のオーバーレイ投影システムを示す図である。 図5は、本発明の種々の実施形態に従った、三次元の表面にオーバーレイ画像を投影するための走査線のオーバーレイ投影システムを示す図である。 図6は、本発明の種々の実施形態に従った、パラメータ補正と表示機能を有する走査線のオーバーレイ投影システムを示す図である。 図7又は図8は、本発明の種々の実施形態に従った方法のフローチャートを示している。
(実施形態の記載)
以下の詳細な説明において、添付の図面は、例示の目的で、発明が実施される特定の実施形態を示すために参照される。これらの実施形態は、当業者が本発明を実施することが可能である程度に充分詳細に記載されている。本発明の実施形態は、異なっているにもかかわらず、必ずしも相互に排他的ではないことが理解されるべきである。例えば、ここに記載された一つの実施形態に関する特定の特徴、構造、特性は、発明の範囲と精神から逸脱することなく他の実施形態でも同様に実施可能である。これに加えて、それぞれの開示された実施形態の中の個々の構成要素の位置や配置が、発明の範囲と精神から逸脱することなく変更可能であることが、理解されるべきである。このため、以下の詳細な記載は限定された意味で理解されるべきではなく、本発明の範囲は、添付の請求項によってのみ定義され、適切に解釈され、請求項が与えられるべき均等な全ての範囲と共に定義される。図面の中では、同一の数字は、それぞれの図面を通じて同一又は類似の機能のものを参照する。
図1は、本発明のいくつかの実施形態に従った走査線のオーバーレイ投影システム(走査された光線(走査ビーム)による重ね合わせ投影のシステム)を示している。図1に示されるように、走査線のオーバーレイ投影システム100は、光源110を備えている。光源110は、レーザダイオード又は同種のもののようなレーザ光源であってもよく、レーザ光線でもよい光線112を放射することができる。光線112は、微小電気機械システム(MEMS)のスキャナ又は同種のものを搭載した走査プラットフォーム114に当たって、制御された出力光線124を生成するために、走査ミラー(スキャンミラー)116で反射する。水平駆動回路118と垂直駆動回路120とは、出力光線124にラスタースキャン(ラスター走査)126を生成させるために、走査ミラー116が曲げられる方向を調整し、これにより、投影表面128の上に表示される画像を作り出す。
投影表面128は、反射点130と反射点132とを備えている。反射点130と132とは、投影表面と一体化されるか、又は接着剤、テープ、若しくは他の手段によって、取り付けることができる。反射点130,132は、出力光線124の全部または一部分を反射することができる任意の種類の反射手段又は材料を組み込むことができる。例えば、いくつかの実施形態に於いては、反射点130,132はコーナーキューブ(コーナーリフレクタ、コーナー反射器)又は再帰反射器であってもよい。また例えば、他の実施形態において、反射点130,132は、拡散特性を有する反射テープを備えることができる。
制御された出力光線124が反射点130と反射点132の何れか一方を通過するとき、光は矢印133に示されるように反射される。反射光は光検出器(PD)134によって検出される。以下で一層充分に述べるように、反射光のタイミングを、ラスタースキャン126によって描画される画像に関連して反射点の位置を決定するために、ラスタースキャン126のタイミングと比較することが可能である。例えば、特定の画素が反射点によって反射されると、ラスタースキャン126の中のその画素の位置の決定により、ラスタースキャン126の中の反射点の位置もまた決定する。
ディスプレイコントローラ(表示制御部)140は、タイミング回路142と、画像生成手段(画像を生成する要素)144と、画像変形エンジン(画像をゆがませる手段)146と、光源ドライブ回路(光源駆動手段)148と、を備えている。タイミング回路142は、走査ミラー116のラスタースキャン操作のタイミングを制御するために、駆動信号を水平駆動回路118および垂直駆動回路120に供給する。いくつかの実施形態に於いて、タイミング回路142は垂直同期信号と水平同期信号を生成し、駆動回路118と120とに使用される信号は、そこから導き出される。またいくつかの実施形態に於いて、水平駆動回路118と垂直駆動回路120とは組み合わされており、そしてタイミング回路142はミラー116のラスタースキャン操作を実行させるように一つのコンポジット信号(複合信号)を生成する。
タイミング回路142はまた、PD(光検出器)134から一以上の信号を受信する。これらの信号は、いつ光が投影表面から反射されたかに関するタイミング情報を供給する。例えば、制御された出力光線124が反射点132を通過した走査するとき、PD134は接続点(ノード)135上にタイミング回路142へ野信号を供給する。また例えば、制御された出力光線124が(図1に示すように)反射点130を通過して走査するとき、PD134は接続点135上にタイミング回路142に信号を供給する。タイミング回路142は、ラスタースキャンの中のどこに反射点が配置されているかを決定するために、PD134から受信した信号のタイミングと、それ自身の内部のタイミング信号と互いに関連づける。タイミングの例は、以下に、図2を参照して述べられる。
画像生成手段144は、投影される画像を生成する。いくつかの実施形態に於いて、画像生成手段144は、画像の静的表現を含むデータの格納場所である。例えば、画像生成手段144は、ランダムアクセスメモリ又はハードディスクドライブのような記憶手段であることが可能である。他の実施形態では、画像生成手段114は、外部のディスプレイコントローラ(表示制御部)140から画像を受け取る入力手段であることが可能である。画像データの根本的な供給源は、本発明の限定内容ではない。
画像変形エンジン146は、画像データを画像生成手段114から受け取る。受け取った画像データは、投影表面128上に重ね合わされる画像に対応している。画像変形エンジン146は、タイミング回路142からもまた情報を受け取っている(受領している)。タイミング回路142から受け取った情報は、画像変形エンジン146に、投影表面上の位置と画像データの中の場所との相互の関連づけを行わせる。それに応じて、画像変形エンジン146は、投影すべき画像の倍率変更と変形を行う。例えば、タイミング回路142は、画像変形エンジン146に対して、投影表面上の位置の、ラスタースキャンの中における位置を表す(x、y)座標を提供することができる。この画像データは、画像の中の特定の位置と投影表面上の位置を表す(x、y)座標とを相互に関連づけさせるタグ(識別用の印)を含むことができる。画像変形エンジン146は、その後、画像の中のタグ付けられた点を投影表面上の位置に重ね合わせるように画像を変形させ、且つ倍率変更することができる。
表示制御部140の中の種々の機能的ブロックは、ハードウェア、ソフトウェア、又はそれらの組み合わせによって実現が可能である。例えば、画像変形エンジン146は、(図示されていない)プロセッサの上で稼働するソフトウェアモジュールとして実現が可能である。また例として、画像変形エンジン146は、特定の用途のための集積回路(ASIC)のような専用のハードウェアで実現が可能である。
光源ドライブ回路(光源駆動回路)148は、倍率変更と変形がなされた画像の画素の情報を、光源110を駆動するために適した変調信号に変換する。いくつかの実施形態に於いては、光源110は、一以上のレーザダイオードを備えており、光源ドライブ回路140はレーザダイオードを駆動する電流を生成する。この変調信号は、それぞれの画素がラスタースキャン126に関連したそれぞれの正しい位置に表示されるように走査プラットフォーム114の操作と同期する。表示制御部140は、走査された光線のオーバーレイ投影システム100の他の種々の機能の制御も行うことが可能である。
図2は、本発明の種々の実施形態に従った、投影表面上の点の位置を決定するための走査線のオーバーレイ投影システムのための同期信号のタイミングチャートを示している。図2のタイミングチャート200に示されるように、ラスタースキャン126(図1参照)のための垂直同期信号210と水平同期信号212とは、反射された画素のラスタースキャンの中のX−Y位置と、それによる投影表面上の特定の位置とを計算するために活用することが可能である。
垂直同期信号210は、ラスタースキャン126のそれぞれの垂直走査ごとに一度アサートされる(真(true)の状態にされる)。そして、水平同期信号210は、ラスタースキャン126のそれぞれの水平走査ごとに一度アサートされる。垂直同期信号は、典型的には、垂直走査の開始時にアサートされるが、これは本発明を限定するものではない。例えば、もし垂直走査が上端で開始されて下方へ進む場合には、垂直走査信号210は、出力光線が上端にある時にアサートされるであろう。これは図2の中で垂直同期パルス216、218とによって図示されている。同様に、水平同期信号212は、典型的には、水平走査の開始時にアサートされるが、これは本発明を限定するものではない。例えば、もし水平走査が左側で開始されて右側へ進む場合には、水平走査信号212は、出力光線が左端にある時にアサートされるであろう。これは図2の中で水平同期パルス230,232,234,236,238,240によって図示されている。
光検出器(PD134,図1)は、光を受け取ったときにパルスを生成する。図2において、光検出器の出力(PD OUTPUT)信号214は、二つのパルス250,260を有していることを示している。パルス250,260は、ここで、「反射パルス」と呼ばれる。反射パルス250は、反射点132(図1)から反射された光に対応している。そして反射パルス260は、反射点130から反射された光に対応している。
反射された画素のXの位置は、水平同期パルスに対する反射パルスの時期(段階、相)を決定することによって、PD出力信号214の中の対応する反射パルスから計算することができる。例えば、反射パルス250に対応する反射された画素のXの位置は、反射パルス250と垂直同期パルス232との間の(時期の遅れに対応する)時間差252を決定することにより計算される。この時間差は、ラスタースキャン126の中の出力光線124の水平掃引(スイープ)に関する反射されたピクセルのタイミングを表しており、この結果、反射された画素のX座標に対応している。ラスタースキャン126中の出力光線124の掃引が、X方向の全体で均一な速度を有していないかもしれないため、適切なXの位置への時間差252を割り当てる調整が行われる可能性がある。出力光線124の水平方向の走査の経路に沿ったそれぞれの画素が、水平同期パルスからの特別であり再現性のあるタイミングの時期のずれ(例えば時間差252)に対応することから、このマッピング(割り当て)をすることができる。
同様に、反射された画素のY位置は、垂直同期パルスに対する反射パルスの時期を決定することによって、PD出力信号214の中の対応する反射パルスから計算することができる。例えば、反射パルス250に対応する反射された画素のYの位置は、反射パルス250と垂直同期パルス216との間の(時期の遅れに対応する)時間差254を決定することにより計算される。この時間差は、ラスタースキャン126中の出力光線124の垂直掃引に関する反射されたピクセルのタイミングを表しており、このため反射された画素のY座標に対応している。再び、走査スピードの変化と垂直方向のオーバースキャン(光線が表示領域を過ぎて走査され、そこは空白となる所)のような走査のアーチファクト(作為的な結果)を説明するために、反射パルスのタイミングと対応するY位置との間のマッピングの調整が行われる。
図2は、二つの反射された画素の時間測定を明示している。反射点132によって反射された画素は、反射パルス250をもたらす。水平方向の時間差は、時間間隔252で測定され、垂直方向の時間差は時間間隔254で測定される。同様に、反射点130によって反射された画素は、反射パルス260をもたらす。水平方向の時間差は、時間間隔262で測定されており、垂直方向の時間差は時間間隔264で測定されている。図2の中では時間差が2つの画素について測定されているように図2には示されているが、これは本発明を限定しない。任意の数の反射点が利用されて、任意の数の反射パルスをもたらすことができる。測定はそれぞれの反射パルスについて実施することができる。
一以上の実施形態に於いて、X位置とY位置の計算は、測定された時間差をルックアップテーブル(参照表)へのアドレスとして利用する、ルックアップテーブルを介して行うことができる。代替的には、X−Y位置は、測定された時間差と、垂直同期パルスと水平同期パルスへのビデオ出力の既知のタイミングのずれ(オフセット)を用いて、代数的に計算することができる。いくつかの実施形態に於いては、投影表面128上の単一の反射点からの二以上の画素からの反射を取り込むと考えられる。水平方向において、この形態は反射パルスの幅をより長くする可能性がある。これは、X位置を、長い反射パルスの中央若しくは代替的には先頭の端部として決定することであると説明することが可能である。しかしながら、垂直方向においては、複数の反射パルスは、隣接した走査の並びから発生する可能性がある。位置決定の復号(デコード)アルゴリズムは、最初のそのような反射パルスに基づくか、全ての反射パルスの垂直位置の平均に基づくかのいずれかにより、Y位置を計算することができる。
出力光線は、一方向に走査されて、その後引き返すことができる。若しくは出力光線は両方の方向に走査されることができる。例えば、いくつかの実施形態に於いて、出力光線は右から左への走査の間に画素を描くことができ、そしてその後、右から左に戻る間を空白とすることができる。他の実施形態に於いては、出力光線は左から右への走査と右から左への走査の間、継続的に画素を描くことができる。同様のことは、垂直方向の走査においてもあてはまる。図2に関して述べた技術は、これらの実施形態のそれぞれに適用が可能である。これに加えて、図2で図示した技術は、ラスタースキャンの中でSYNC信号(同期信号)がどこに現れるかに拘わらず適用が可能である。もしもSYNC信号のラスタースキャンの中の位置が知られている場合には、ラスタースキャン内のそれらの位置を補償する為に、補正(オフセット)を適用することができる。
図3は、本発明のいくつかの実施形態に従った方法のフローチャートを示している。方法300は、オーバーレイされる画像の中の点が、投影表面上の特定の位置に正しく位置合わせされるように、画像を投影表面の上にオーバーレイするために使用することのできる動作を示している。工程310において、オーバーレイ画像は投影光線のラスタースキャンを介して、表面上に投影される。これは、図1のなかに示されており、そこでは、光線124は、一つの画像を表面128に投影するために、ラスタースキャン126の中で前後と上下に掃引される。
工程320で、表面上の反射点から反射された光線が受け取られる。工程320の動作は、反射点130,132から反射された光を受け取るPD(光検出器)134に対応する。工程330では、反射された光に対応するパルスが生成される。パルスは、PD134によって、信号ライン135の上に生成される。反射パルスの例は、図2の符号250と260とに示されている。工程340では、反射点の位置を決定するために、反射パルスのタイミングがラスタースキャンのタイミングと互いに関連づけられる。図2に示されるように、この関連づけは、反射パルスのタイミングと水平同期信号及び垂直同期信号のタイミングとを比較することで達成される。
工程350において、オーバーレイ画像は、画像の中のタグ付けされた点を表面の反射点の位置に位置合わせするために変形される場合がある。例えば、プロジェクタが投影表面に寄り近づくように移動された場合、オーバーレイ画像はより小さくなるであろう。そしてオーバーレイ画像は、画像を投影表面に再位置合わせするために引き延ばされるであろう。同様に、プロジェクタが左又は右に移動した場合、表面上の反射点は、もはや画像のタグ付けられた点と整合されない。工程350の動作は、オーバーレイ画像に対して、投影表面ともう一度正しく位置合わせをさせる。
図4は、本発明の種々の実施形態に従った走査線のオーバーレイ投影システムを示している。走査線のオーバーレイ投影システム400は、光源110と、走査プラットフォーム114と、水平駆動回路118と、垂直駆動回路120とを備えており、これらの全ては、上記で図1に関して説明したものである。走査線オーバーレイプロジェクタ400は、ラスタースキャン126を生成するための出力光線124を走査し、これにより投影表面128に表示される画像が生成される。
投影表面128は、光検出器430と光検出器432とを備えている。光検出器430,432とは、投影表面と一体化されるか、又は接着剤、テープ、若しくは他の手段によって、取り付けることができる。光検出器430,432は、接続路(リンク)431,433によって、タイミング回路442と連結されている。光検出器430,432は、出力光線124が通過して走査した時に、光を検出して反射パルスを接続路431,433に生成する。例えば、出力光線124が光検出器430を通過して走査した時、反射パルスは接続路431に生成される。同様に、出力光線124が光検出器432を通過して走査した時、反射パルスは接続路433に生成される。
一以上の実施形態に於いて、接続路131と接続路133とは、光検出器430,432と、タイミング回路442との間を接続するケーブルを備えた、有線(結線された)接続路とすることができる。代替的には、接続路131と接続路133とは、無線周波数(電波周波数、RF)接続路のような無線接続を備えることができる。一つの特別な実施形態として、接続路131と接続路133とは、ブルートゥース スペシャル インターネット グループ(BLUETOOTH SIG)によって特定されたブルートゥース(BLUETOOTH)接続を含むことができるが、しかし特許請求の範囲はこの点に限定されない。
表示制御部440は、タイミング回路442と、画像生成手段144と、画像変形エンジン146と、光源ドライブ回路148と、を備えている。画像生成手段144と、画像変形エンジン146と、光源ドライブ回路148とは、図1に関連して記載されている。タイミング回路442は、プロジェクタに共に配置された光検出器からではなく、投影表面上に共に配置された光検出器からの反射パルスが受領されると言う点を除いて、タイミング回路142と類似している。
いくつかの実施形態に於いて、図4に示されるように、タイミング回路442は,
多数の接続路を通じて反射パルスを受け取る。他の実施形態に於いては、タイミング回路442は、単一の多重送信接続路を通じて反射パルスを受け取る。上で述べたように、接続路は、有線通信、無線通信、若しくはそのいかなる組み合わせであってもよい。
図1から図3に関して上述したように、タイミング回路442は、ラスタースキャンの中の光検出器の位置を決定するために、受け取った反射パルスとラスタースキャンとを互いに関連づける。
図4は、投影表面に共に配置された光検出器を示し、図1は、プロジェクタに共に配置された光検出器を示している。いくつかの実施形態に於いて、光検出器は、投影表面とプロジェクタの両方に共に配置される。
図5は、本発明の種々の実施形態に従った、三次元の表面にオーバーレイ画像を投影するための走査線のオーバーレイ投影システムを示している。走査線のオーバーレイ投影システム510は、走査プロジェクタ512と、表示制御部140と、光検出器(PD)134とを備えている。光検出器134と表示制御部140とは、前出の図に関して上述されている。走査プロジェクタ512は、上の図1から図4に関連して述べられているようなMEMSを使用したレーザ走査プロジェクタを含むことができる。
運用にあたり、走査プロジェクタ512は、オーバーレイ画像570を三次元(3D)表面540に投影する。3D表面540は、オーバーレイ画像570の中のタグ付けされた点と互いに関連づけられる反射点552,554,556,558,560,及び562を含んでいる。PD134は、3D表面上の反射点から反射された光を検出し、そしてラスタースキャンの中の点の位置を、上述のように決定することができる。オーバーレイ画像570は、3D投影表面の輪郭に正しく位置合わせされるように、引き伸ばしと変形がなされる。
3D表面540は、図5に、車のモデルとして示されている。反射点は、成型品とバンパーの角部のような、その表面の戦略的に重要な位置に配置されている。オーバーレイ画像は、窓の形や、ホイール・ウェル(車輪格納部、脚室)のデザイン等のような企画されたスタイルの特徴を含むことができる。迅速な視覚上の試作を可能とするように、異なる複数のオーバーレイ画像を見ることができる。プロジェクタの視野が変更されたとき(例えばプロジェクタが移動したとき)、オーバーレイ画像は投影表面への正確な整合状態を保ち、設計者は迅速に異なる視野からの異なる設計を評価することができる。この自動車の試作アプリケーションプログラムは、走査線のオーバーレイプロジェクタのための一つの可能な使用を例示するだけのものである。例えば、いかなる拡張現実のアプリケーションプログラムも、ここに記載されたオーバーレイ画像の位置合わせ能力から恩恵を受けることができるわけである。
三次元表面540は、反射点と共に示されている。そして走査線のオーバーレイ投影システム510は、光検出器と共に示されている。いくつかの実施形態に於いて、3D表面540は、図3に関して上述されたような、取り付けられたあるいは組み込まれた光検出器を有している。走査線のオーバーレイプロジェクタ510は、いかなる形態もとることが可能である。例えば、いくつかの実施形態に於いて、プロジェクタ510は携帯型の装置、卓上型の装置、固定された装置のいずれかであってもよい。また例として、いくつかの実施形態に於いて、プロジェクタ510は、眼鏡のようなユーザによって装着される装置の一部とすることができる。
図6は、本発明の様々な実施形態に従った、パラメータ(特質)の収集と表示の機能を備えている走査線のオーバーレイ投影システムを示している。走査線のオーバーレイ投影システム610は、表示制御部140と、光検出器(PD)134と走査プロジェクタ512と、パラメータ収集部620とを備えている。図6にはまた、プローブ(探針)630と回路ボード650とが示されている。
走査プロジェクタ512は、図6において回路ボード650として示されるところの表示表面上に、画像を投影する。回路ボード650は、集積回路652,654,656が例として挙げられているいくつかの構成要素を備えている。回路ボード650は、反射スポットをオーバーレイ画像を投影表面と位置合わせするための上述の反射点を備えることができる。しかしながら、これは本発明の限定ではない。
プローブ630は、パラメータの測定機能を提供する、図6の例として、パラメータは温度である。プローブ630は、測定されたパラメータの情報(温度)を提供し、それをパラメータ収集部620に提供する。パラメータ収集部620は、パラメータの情報を表示制御部140に提供する。それから表示制御部140は、パラメータの情報を表示される画像の中に組み込むことができる。
プローブ630は、反射点634を備える。走査オーバーレイ投影システム610は、ここに記載の技術を使用して、画像を表示するために使用されるラスタースキャンの中の反射点634の位置を決定することができる。プローブ630はまた、ユーザに対してプローブに温度を測定させるための命令を出させるボタン632を備えている。
運用にあたり、ユーザ(又は自動化されたシステム)は、プローブを、関心の対象となる位置(例えば集積回路上)に温度を測定するために配置する。ボタン632が押され、そしてプローブ630が温度を測定し、温度の値をパラメータ収集部620に送る。ボタンが押されると同時に、走査線のオーバーレイ投影システム610は、反射点634からの反射光を検出することによって、プローブ630の先端の位置も決定する。走査オーバーレイ投影システム610は、それから、ラスタースキャンの中の位置をパラメータの値と互いに関連づけることができる。
いくつかの実施形態において、収集されたパラメータの値は、表示される画像の中に組み込まれる。例えば、図6に示されるように、3箇所の温度測定が行われており、その温度の値は表示される画像の中に組み込まれている。集積回路652は88℃と測定されており、集積回路654は65℃と測定されており、集積回路656は72℃と測定されている。プローブを周囲に動かしてボタン632を押すことによって、更なる測定値を表示することができる。測定された温度の値は、その後投影表面に重ね合わされて現れる。
いくつかの実施形態において、重ね合わされた画像は、直接的なパラメータの測定以外の情報を含む。例えば、走査線のオーバーレイ投影システム610は、測定されたパラメータの情報を、表示されるべきルックアップデータへの情報として使用することができる。表示されたデータは(試験のフィードバックのための)成功/失敗の情報、陰影、色彩のようなものを含むことができる。画像は、パラメータの情報に応答して、本発明の範囲から逸脱することなくいろいろな方法で修正可能である。
図7は、本発明の種々の実施形態に従ったフローチャートを示している。いくつかの実施形態に於いて、方法700またはその一部は、前出の図の中で示された実施形態である、走査線のオーバーレイ投影システムによって実施される。他の実施形態のなかでは、方法700の全てまたはその一部は、電子システムの中のハードウエア/ソフトウエアによって実施される。方法700は、その方法が実施される手段の特定の種類によって限定されない。方法700の中の種々の動作は、提示された順序で実行される場合がある。また異なる順序で実行されても良い。さらに、いくつかの実施形態においては、図7に挙げられたいくつかの動作は方法700から省略される。
方法700は、表面上に画像を重ね合わせるために光線が三次元表面に対して走査されるという、ブロック(工程)710から始まっていることが示されている。これは開示されているオーバーレイ画像を投影している走査線のオーバーレイ投影システムのいずれにも対応している。ブロック720で、三次元表面の位置が、画像の中のタグ付けされた位置と相互に関連づけられる。これは、開示された技術若しくはそれらと等価な技術のいずれかを用いても達成されることができる。例えば、再帰反射器は、三次元表面上の位置に配置することができる。そして、図2に示されるように、反射のタイミングをラスタースキャンの画素のタイミングと比較することができる。
ブロック730で、画像は、三次元表面に一致させるために修正される。これは、画像の中のタグ付けされた点を三次元表面の位置に位置合わせするための画像の引き延ばしと変形とを含む。本発明の種々の実施形態は、画像を修正するために用いされるアルゴリズムによって限定されない。
ブロック740で、プロジェクタが移動される。そして、新しい視野に一致させるために、画像は更に修正される。一例として、走査線のオーバーレイ投影システム510(図5)は、自動車の形状の表面を異なった角度から照射するために動かすことが可能である。これは、画像に対して反射点の位置が変化するであろう。反射点の位置は、再度決定することが可能であり、そして画像は表面に一致するために、更に引き伸ばされて変形されることができる。ブロック740の動作は、例えプロジェクタが移動した場合でも、重ね合わされる画像に投影表面との好ましい位置合わせを維持することを許す。
ブロック750で、パラメータの情報が収集される。例えば、いくつかの実施形態に於いて、温度データは、図6に示されるように収集される。他の実施形態では、他のパラメータ情報が収集されることが可能である。ブロック760では、パラメータの情報は画像に組み込まれる。
いくつかの実施形態に於いて、ブロック750とブロック760の動作は除外できる。例えば、三次元の投影表面は、パラメータの情報を収集することなしにオーバーレイ画像を照射される。他の実施形態では、ブロック740の動作が、除外できる可能性がある。例えば、パラメータ情報は収集されて、プロジェクタを移動させることなく表示される可能性がある。方法700に示された動作の組み合わせは、発明に本質的なことであるとは見なされない。
本発明は、特定の実施形態と共に記述されているが、当業者であれば容易に理解されるように、発明の範囲を逸脱することなく改良と変更とを行うことが可能であることは理解されよう。このような改良と変更とは、付加された請求項と本発明の範囲内にあると見なされるものである。
100,400,510 走査線のオーバーレイ投影システム
110 光源
112 光線
114 走査プラットフォーム
116 走査ミラー
118 水平駆動回路
120 垂直駆動回路
122 画像制御部
124 出力光線
126 ラスタースキャン
130,132 反射点
134 光検出器(PD)
140 表示制御部
142 タイミング回路
144 画像生成手段
146 画像変形エンジン
148 光源ドライブ回路
200 タイミングダイアグラム

Claims (20)

  1. 画像を表示するために、対象物に対して光線を走査する工程と、
    前記対象物上の点を表わしている反射を受領する工程と、
    前記点の位置に基づいて前記画像を修正する工程と、
    からなることを特徴とする方法。
  2. 対象物に対して光線を走査する工程が、オーバーレイを三次元の対象物上に投影することからなることを特徴とする請求項1に記載の方法。
  3. 反射を受領する工程が、前記三次元の対象物上に配置された反射手段からの反射を受領する工程からなることを特徴とする請求項2に記載の方法。
  4. 前記画像を修正する工程が、前記三次元の対象物の現在の視野に一致するように前記オーバーレイを変形させる工程からなることを特徴とする請求項2に記載の方法。
  5. 前記対象物の前記位置に基づいて前記画像を修正する工程が、前記走査に関連して反射の到着時間に基づく前記点の位置を決定する工程からなることを特徴とする請求項1に記載の方法。
  6. 前記光線を走査するプロジェクタを移動させる工程と、
    前記画像を更新する工程と、
    を更に備えることを特徴とする請求項1に記載の方法。
  7. 前記対象物に対するプローブの位置を表す少なくとも一つの反射を受領する工程と、
    前記プローブからのパラメータの情報を受領する工程と、
    を更に備えることを特徴とする請求項1に記載の方法。
  8. 前記パラメータの情報を前記画像の中に組み込む工程を更に備えることを特徴とする請求項7に記載の方法。
  9. 光線を二次元で走査することによって画像を表示表面上に投影する工程と、
    前記光線が前記表示表面上の特定の点を通過した時を決定する工程と、
    前記光線が前記特定の点を通過した時に基づいて前記画像を変形させる工程と、
    からなることを特徴とする方法。
  10. 前記光線が特定の点を通過した時を決定する工程が、前記特定の点から反射される光を検出する工程からなることを特徴とする請求項9に記載の方法。
  11. 前記光線が特定の点を通過した時を決定する工程が、前記特定の点の光を検出する工程からなることを特徴とする請求項9に記載の方法。
  12. 前記画像を前記表示表面上に投影する工程が、三次元の表示表面上に画像を投影する工程からなることを特徴とする請求項9に記載の方法。
  13. 前記光線が前記表示表面上の特定の点を通過した時を決定する工程が、前記三次元の表示表面上の前記特定の点から反射される光を検出する工程からなることを特徴とする請求項12に記載の方法。
  14. 表示表面上で二次元に光線を走査することによって画像を表示するための、走査光線プロジェクタと、
    前記表示表面上の複数の反射点から反射された光を検出するための、少なくとも一つの光検出器と、
    前記画像の中の前記反射点の位置に基づいて前記画像を変形させるための、画像変形エンジンと、
    を備えていることを特徴とする装置。
  15. 前記走査光線プロジェクタが、微小電気機械システム(MEMS)の走査ミラーでなることを特徴とする請求項14に記載の装置。
  16. 前記画像の中の特定の点と互いに関連づけられたパラメータのデータを受け取るための、パラメータの入力インターフェースを更に備えることを特徴とする請求項14に記載の装置。
  17. 前記画像変形エンジンが、ソフトウエアモジュールからなることを特徴とする請求項14に記載の装置。
  18. 表示表面に対して垂直方向と水平方向の光線を走査する走査プロジェクタであって、垂直同期信号と水平同期信号とを情報源としている前記走査プロジェクタと、
    前記光線が前記表示表面上の特定の点を通過した時を検出するための検出要素と、
    前記表示表面上の前記特定の点を前記光線が通過する時間を決定するために、前記検出要素と、前記垂直同期信号と、前記水平同期信号とに応答するタイミング回路と、
    前記タイミング回路に応答して、前記走査プロジェクタによって表示される画像を変形させるための、画像変形エンジンと、
    を備えていることを特徴とする装置。
  19. 前記検出要素が、前記走査プロジェクタと同一場所に配置された光ダイオードで成ることを特徴とする請求項18に記載の装置。
  20. 前記検出要素が、前記走査プロジェクタと同一場所に配置された、少なくとも一つの光ダイオードで成ることを特徴とする請求項18に記載の装置。
JP2011521155A 2008-07-30 2009-07-02 走査された光線のオーバーレイ投影 Active JP5395173B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US12/182,264 US7954953B2 (en) 2008-07-30 2008-07-30 Scanned beam overlay projection
US12/182,264 2008-07-30
PCT/US2009/049544 WO2010014345A2 (en) 2008-07-30 2009-07-02 Scanned beam overlay projection

Publications (2)

Publication Number Publication Date
JP2011530209A true JP2011530209A (ja) 2011-12-15
JP5395173B2 JP5395173B2 (ja) 2014-01-22

Family

ID=41607992

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011521155A Active JP5395173B2 (ja) 2008-07-30 2009-07-02 走査された光線のオーバーレイ投影

Country Status (5)

Country Link
US (1) US7954953B2 (ja)
EP (1) EP2321963B1 (ja)
JP (1) JP5395173B2 (ja)
CN (1) CN102113316A (ja)
WO (1) WO2010014345A2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013179493A1 (ja) * 2012-06-01 2013-12-05 パイオニア株式会社 画像投影装置、ヘッドアップディスプレイ、制御方法及び光学素子
KR101575313B1 (ko) 2013-12-19 2015-12-08 현대자동차 주식회사 디스플레이 장치 및 이를 이용한 디스플레이 방법
WO2020247906A1 (en) * 2019-06-06 2020-12-10 Ovad Custom Stages, Llc Vehicle photographic system for identification of surface imperfections

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2460357A1 (en) * 2009-07-31 2012-06-06 Lemoptix SA Optical micro-projection system and projection method
JP5728814B2 (ja) * 2010-03-12 2015-06-03 セイコーエプソン株式会社 画像表示装置および画像処理方法
US9117274B2 (en) * 2011-08-01 2015-08-25 Fuji Xerox Co., Ltd. System and method for interactive markerless paper documents in 3D space with mobile cameras and projectors
US20130044912A1 (en) * 2011-08-19 2013-02-21 Qualcomm Incorporated Use of association of an object detected in an image to obtain information to display to a user
US8928969B2 (en) 2011-12-06 2015-01-06 Ostendo Technologies, Inc. Spatio-optical directional light modulator
IN2014CN04026A (ja) 2011-12-06 2015-07-10 Ostendo Technologies Inc
US8854724B2 (en) 2012-03-27 2014-10-07 Ostendo Technologies, Inc. Spatio-temporal directional light modulator
US9179126B2 (en) 2012-06-01 2015-11-03 Ostendo Technologies, Inc. Spatio-temporal light field cameras
US8955982B2 (en) * 2012-09-25 2015-02-17 Microvision, Inc. Virtual segmentation of interactive scanning laser projector display
CN103777820A (zh) * 2012-10-23 2014-05-07 时代光电科技股份有限公司 扫描投射触控装置
US9129429B2 (en) 2012-10-24 2015-09-08 Exelis, Inc. Augmented reality on wireless mobile devices
WO2014144989A1 (en) 2013-03-15 2014-09-18 Ostendo Technologies, Inc. 3d light field displays and methods with improved viewing angle depth and resolution
US9762873B2 (en) * 2015-09-04 2017-09-12 Microvision, Inc. Dynamic constancy of brightness or size of projected content in a scanning display system
US11609427B2 (en) 2015-10-16 2023-03-21 Ostendo Technologies, Inc. Dual-mode augmented/virtual reality (AR/VR) near-eye wearable displays
US11106273B2 (en) 2015-10-30 2021-08-31 Ostendo Technologies, Inc. System and methods for on-body gestural interfaces and projection displays
US10345594B2 (en) 2015-12-18 2019-07-09 Ostendo Technologies, Inc. Systems and methods for augmented near-eye wearable displays
US10578882B2 (en) 2015-12-28 2020-03-03 Ostendo Technologies, Inc. Non-telecentric emissive micro-pixel array light modulators and methods of fabrication thereof
US10353203B2 (en) 2016-04-05 2019-07-16 Ostendo Technologies, Inc. Augmented/virtual reality near-eye displays with edge imaging lens comprising a plurality of display devices
US10453431B2 (en) 2016-04-28 2019-10-22 Ostendo Technologies, Inc. Integrated near-far light field display systems
US10522106B2 (en) 2016-05-05 2019-12-31 Ostendo Technologies, Inc. Methods and apparatus for active transparency modulation
JP6903875B2 (ja) * 2016-07-04 2021-07-14 株式会社リコー 光走査装置、プロジェクタ装置およびヘッドアップディスプレイ装置
US10481479B2 (en) * 2016-09-26 2019-11-19 Ronald S. Maynard Immersive optical projection system
JP6952868B2 (ja) * 2018-03-14 2021-10-27 三菱電機株式会社 情報処理装置、情報処理システム、および情報処理プログラム
CN109613696B (zh) * 2018-12-12 2024-03-29 深圳创维新世界科技有限公司 光纤扫描投影装置及电子设备
JP2020122858A (ja) * 2019-01-30 2020-08-13 株式会社リコー 光走査装置、表示システムおよび移動体

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003029201A (ja) * 2001-07-11 2003-01-29 Canon Inc 画像投射装置及び画像補正方法
JP2006098789A (ja) * 2004-09-29 2006-04-13 Casio Comput Co Ltd 投影装置、投影方法及びプログラム
JP2006098700A (ja) * 2004-09-29 2006-04-13 Sharp Corp 携帯型端末
JP2006338181A (ja) * 2005-05-31 2006-12-14 Fuji Xerox Co Ltd 立体表示装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5148310A (en) * 1990-08-30 1992-09-15 Batchko Robert G Rotating flat screen fully addressable volume display system
US6097353A (en) * 1998-01-20 2000-08-01 University Of Washington Augmented retinal display with view tracking and data positioning
US6134002A (en) * 1999-01-14 2000-10-17 Duke University Apparatus and method for the rapid spectral resolution of confocal images
JP2002157607A (ja) * 2000-11-17 2002-05-31 Canon Inc 画像生成システム、画像生成方法および記憶媒体
US6937372B2 (en) * 2001-07-11 2005-08-30 Canon Kabushiki Kaisha Light beam deflecting apparatus, image forming apparatus utilizing the same and drive method therefor
US20030038822A1 (en) * 2001-08-14 2003-02-27 Mitsubishi Electric Research Laboratories, Inc. Method for determining image intensities of projected images to change the appearance of three-dimensional objects
US6867753B2 (en) 2002-10-28 2005-03-15 University Of Washington Virtual image registration in augmented display field
US6840627B2 (en) * 2003-01-21 2005-01-11 Hewlett-Packard Development Company, L.P. Interactive display device
JP2005070412A (ja) 2003-08-25 2005-03-17 Sony Corp 画像投射装置およびその焦点調整方法
EP1851588B1 (en) 2005-02-01 2019-08-07 Laser Projection Technologies, Inc. Laser projection with object feature detection
WO2007067720A2 (en) 2005-12-06 2007-06-14 Microvision, Inc. Projection display with motion compensation

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003029201A (ja) * 2001-07-11 2003-01-29 Canon Inc 画像投射装置及び画像補正方法
JP2006098789A (ja) * 2004-09-29 2006-04-13 Casio Comput Co Ltd 投影装置、投影方法及びプログラム
JP2006098700A (ja) * 2004-09-29 2006-04-13 Sharp Corp 携帯型端末
JP2006338181A (ja) * 2005-05-31 2006-12-14 Fuji Xerox Co Ltd 立体表示装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013179493A1 (ja) * 2012-06-01 2013-12-05 パイオニア株式会社 画像投影装置、ヘッドアップディスプレイ、制御方法及び光学素子
KR101575313B1 (ko) 2013-12-19 2015-12-08 현대자동차 주식회사 디스플레이 장치 및 이를 이용한 디스플레이 방법
US9609295B2 (en) 2013-12-19 2017-03-28 Hyundai Motor Company Display device and method for adjustment of an image
WO2020247906A1 (en) * 2019-06-06 2020-12-10 Ovad Custom Stages, Llc Vehicle photographic system for identification of surface imperfections
US12061411B2 (en) 2019-06-06 2024-08-13 Carvana, LLC Vehicle photographic system for identification of surface imperfections

Also Published As

Publication number Publication date
EP2321963B1 (en) 2018-11-14
JP5395173B2 (ja) 2014-01-22
US20100026960A1 (en) 2010-02-04
WO2010014345A3 (en) 2010-04-01
CN102113316A (zh) 2011-06-29
EP2321963A2 (en) 2011-05-18
EP2321963A4 (en) 2012-10-17
WO2010014345A2 (en) 2010-02-04
US7954953B2 (en) 2011-06-07

Similar Documents

Publication Publication Date Title
JP5395173B2 (ja) 走査された光線のオーバーレイ投影
US8305344B2 (en) Projector and projector accessory
JP5864177B2 (ja) プロジェクタおよびプロジェクタシステム
CN105900166B (zh) 图像投影装置以及调整方法
US10241616B2 (en) Calibration of sensors and projector
US8330804B2 (en) Scanned-beam depth mapping to 2D image
JP4822643B2 (ja) 無線ポインタの光学トラッキングを備えるコンピュータ・プレゼンテーション・システムおよび方法
CN103649674B (zh) 测量设备以及信息处理设备
KR102462046B1 (ko) 주사 디스플레이 시스템에서의 투영된 콘텐트의 밝기 또는 크기의 동적 불변성
US9842407B2 (en) Method and system for generating light pattern using polygons
JP7270702B2 (ja) 深度感知システムおよび方法
US20110164191A1 (en) Interactive Projection Method, Apparatus and System
JP2018063222A (ja) 距離測定装置、距離測定方法及びプログラム
US20230051900A1 (en) Distance measurement apparatus, mirror control method, and computer-readable recording medium storing program
CN109085603A (zh) 光学三维成像系统和彩色三维图像成像方法
JPH06189906A (ja) 視線方向計測装置
US20150185321A1 (en) Image Display Device
US20220411258A1 (en) Distance measurement apparatus, angle-of-view control method, and computer-readable recording medium storing program
US20220244392A1 (en) High resolution lidar scanning
KR20200026643A (ko) 3차원 이미지를 획득하기 위한 방법 및 장치
US20170147152A1 (en) Projector and Electronic Device Having Projector Function
JP7286586B2 (ja) 測距システム及び測距センサのキャリブレーション方法
JP5337409B2 (ja) 情報提示装置
JP2016008837A (ja) 形状測定方法、形状測定装置、構造物製造システム、構造物製造方法、及び形状測定プログラム
JP2002286425A (ja) 変位センサ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120521

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131017

R150 Certificate of patent or registration of utility model

Ref document number: 5395173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250