JP4343744B2 - 画像処理方法、画像処理装置 - Google Patents

画像処理方法、画像処理装置 Download PDF

Info

Publication number
JP4343744B2
JP4343744B2 JP2004082927A JP2004082927A JP4343744B2 JP 4343744 B2 JP4343744 B2 JP 4343744B2 JP 2004082927 A JP2004082927 A JP 2004082927A JP 2004082927 A JP2004082927 A JP 2004082927A JP 4343744 B2 JP4343744 B2 JP 4343744B2
Authority
JP
Japan
Prior art keywords
orientation
sensor
coordinate system
information
virtual object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004082927A
Other languages
English (en)
Other versions
JP2005267554A (ja
JP2005267554A5 (ja
Inventor
幸雄 坂川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2004082927A priority Critical patent/JP4343744B2/ja
Publication of JP2005267554A publication Critical patent/JP2005267554A/ja
Publication of JP2005267554A5 publication Critical patent/JP2005267554A5/ja
Application granted granted Critical
Publication of JP4343744B2 publication Critical patent/JP4343744B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、現実空間に、仮想空間の画像を重畳させて表示する為の技術に関するものである。
複合現実感システムとは、現実空間映像と、ユーザの視点位置、視線方向等に応じて生成される仮想空間映像とを合成することにより得られる複合現実空間映像をユーザに提供する為のものである。複合現実感システムでは、現実空間中に仮想物体が実在しているかのように観察者に提示することが可能であり、従来の仮想現実感システム(VRシステム)に比べてよりリアルに、実寸感覚を伴った観察を可能とするものである。
一方、従来、設計・製造分野において3次元CADを使った設計(形状、デザイン)が主流になってきている。この場合、3次元CADで設計された物体を評価する方法としては、3次元CADで作成されたデータ(ソリッド形式)を3D−CGとして計算機の画面上に表示して視覚的に評価する方法等がある。
また、上記両方の技術を組み合わせて、マニピュレータで3DCGのデータを観察する方法がある。
特開2000−350859号公報
しかし、3次元CADデータを3D−CGとして計算機の画面上に表示する方法では、仮想空間内での評価となり、現実空間内での実寸感覚で物体の評価をすることができない。また対象となるCAD物体を様々な方向から観察するのに、マウス等のポインティングデバイスを用いるために、物体の位置や姿勢、さらには観察者の視点や視線を変更するのに複雑な操作が必要であり、多くの時間を費やすことになっていた。
さらに、3DCGデータをマニピュレータに関連付けて、パーツごとの自由な動きの表示をすることができるが、かえって、3DCGデータを複数のマニピュレータに関連付けしたあとの状態で、3DCGデータのパーツを元の構成で表示するのが困難であるという問題があった。
本発明は以上の問題に鑑みてなされたものであり、複数の部品で構成されている仮想物体や、各部品をより簡便な操作でもって観察可能とする為の技術を提供することを目的とする。
本発明の目的を達成するために、例えば本発明の画像処理方法は以下の構成を有する
すなわち、現実空間に仮想物体を重畳させて観察者に提示する画像処理方法であって、
仮想物体を構成するそれぞれの部品の位置姿勢を保持する保持工程と、
前記観察者に操作される第1のセンサ及び該第1のセンサとは異なる第2のセンサの各々の位置姿勢を計測する計測工程と、
前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、該部品が関連づけられたセンサの位置姿勢に基づく座標系における位置姿勢に変換する変換工程と、
前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品を、当該部品について前記変換工程で変換された位置姿勢で配置する配置工程と、
外部指示が入力された場合、前記第2のセンサに関連づけられた部品の位置姿勢を、前記第1のセンサに対応する座標系における位置姿勢に変更する変更工程と
有することを特徴とする。
本発明の目的を達成するために、例えば本発明の画像処理方法は以下の構成を有する
すなわち、第1および第2のセンサのそれぞれに対応づけられている第1および第2の仮想物体を現実空間に重畳させて観察者に提示する画像処理方法であって、
前記第1および第2のセンサのそれぞれの位置姿勢を示す第1および第2の位置姿勢情報を取得する位置姿勢情報取得工程と、
前記第1および第2の位置姿勢情報を用いて、前記第1および第2の仮想物体の画像を生成する第1生成工程と、
前記第1の仮想物体と前記第2の仮想物体とを予め定められた位置関係で組み合わせる指示情報を検出する検出工程と、
前記指示情報が検出された場合、前記第2の位置姿勢情報座標系を前記第1の位置姿勢情報座標系に合わせるための変換情報を設定し、前記第2の位置姿勢情報を前記変換情報を用いて変換し、該変換された位置姿勢情報に基づき前記第2の仮想物体の画像を生成する第2生成工程と
有することを特徴とする。
本発明の目的を達成するために、例えば本発明の画像処理方法は以下の構成を有する
すなわち、現実空間に仮想物体を重畳させて観察者に提示する画像処理方法であって、
仮想物体を構成するそれぞれの部品の初期位置姿勢を保持する第1保持工程と、
前記観察者に操作される第1のセンサから該第1のセンサとは異なる第2のセンサへの相対的な初期位置姿勢を保持する第2保持工程と、
前記第1のセンサ及び前記第2のセンサの各々の位置姿勢を計測する計測工程と、
前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、該部品が関連づけられたセンサの位置姿勢に基づく座標系における位置姿勢に変換する変換工程と、
前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品を、当該部品について前記変換工程で変換された位置姿勢で配置する配置工程と、
前記計測工程で計測された前記第1のセンサから前記第2のセンサへの相対的な位置姿勢が、前記相対的な初期位置姿勢と一致する場合に、前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、対応する前記初期位置姿勢に変更する変更工程と
を有することを特徴とする。
本発明の構成により、複数の部品で構成されている仮想物体や、各部品をより簡便な操作でもって観察することができる。
以下添付図面を参照して、本発明を好適な実施形態に従って詳細に説明する。
[第1の実施形態]
本実施形態では、3D−CADで生成された3DCGデータは複数の部品(パーツ)により構成されており、それぞれの部品を、複数のマニピュレータのうちの何れかでもって操作する。その際に、マニピュレータ間の相対的な位置関係情報とそれぞれの部品との相対的な位置関係情報(アッセンブリ)をもとに座標変換オフセットを算出し、パーツの一部または全体を元位置での表示と観察を容易とした複合現実感システムを示す。
図1は、本実施形態に係る複合現実感システムの外観構成を示す図である。
100は観察者が頭部に装着して現実空間と仮想空間とを合成した映像を観察するための頭部装着型映像入出力装置(頭部装着型ディスプレイ、HMD:Head Mounted Displayなどと呼ばれるもの)である。頭部装着型映像入出力装置100は、右目用映像表示装置101a、左目用映像表示装置101b、右目用映像入力装置102a、左目用映像入力装置102b、磁気センサ201により構成されている。
右目用映像入力装置102a、左目用映像入力装置102bは、頭部装着型映像入出力装置100を頭部に装着した観察者の右目、左目から見える現実空間の映像(動画像)を撮像するためのものである。なお、右目用映像入力装置102a、左目用映像入力装置102bは配置位置が異なるのみで、基本的には同じ装置であるので、特に右目用映像入力装置102a、もしくは左目用映像入力装置102bに特化した説明ではない限り、これらをまとめて映像入力装置102と呼称する場合がある。
右目用映像表示装置101aは、右目用映像入力装置102aが撮像した映像上に情報処理装置400によって仮想空間の画像を合成した画像(複合現実空間画像)を表示する。左目用映像表示装置101bは、左目用映像入力装置102bが撮像した映像上に情報処理装置400によって仮想空間の画像を合成した画像を表示する。なお、右目用映像表示装置101a、左目用映像表示装置101bは配置位置が異なるのみで、基本的には同じ装置であるので、特に右目用映像表示装置101a、左目用映像表示装置101bに特化した説明ではない限り、これらをまとめて映像表示装置101と呼称する場合がある。
磁気センサ201は、取り付けられた位置における磁気の変化を計測する。この磁場は、磁気トランスミッタ200により発生されるものである。磁気センサ201が計測した結果は信号として位置姿勢計測装置205に出力される。位置姿勢計測装置205はこの信号に基づいて、磁気トランスミッタ200の位置を原点とし、この原点で互いに直交する3軸をそれぞれx、y、z軸とする座標系(センサ座標系)における磁気センサ201の位置姿勢を求める。
このような位置姿勢を求める一連の処理は周知のものであるので、これ以上の説明は省略する。
以上の処理によって位置姿勢計測装置205により求められた「磁気センサ201のセンサ座標系における位置姿勢」を示すデータは、後段の情報処理装置400に出力される。
また、300、301はそれぞれ、観察者が手にもって操作するマニピュレータであり、仮想物体を構成する各部品は後述の処理により、このマニピュレータ300、301の何れかに関連付けられる。そして関連付けられた部品は、マニピュレータ300、301の位置姿勢の変化と共に、その位置姿勢を変化させる。これにより、観察者がマニピュレータ300を手に持って動かすと、関連付けられた部品もそれに応じてその位置姿勢を変化させるので、観察者は、部品をあらゆる方向から観察することができる。マニピュレータ300、301を用いた部品の観察についてのより詳細な説明は省略する。
また、マニピュレータ300,301にはそれぞれ、磁気センサ201と同様のセンサ202,203が組み込まれている。磁気センサ202,203は磁気センサ201と同様に、磁気トランスミッタ200が発生させている磁気の変化を計測するものであり、計測した結果は信号として位置姿勢計測装置205に出力される。従って、位置姿勢計測装置205は上記同様の処理を行うことにより、磁気センサ202,203のセンサ座標系における位置姿勢を求め、後段の情報処理装置400に出力する。
以上のようにして、情報処理装置400には、磁気センサ201、202,203のセンサ座標系における位置姿勢を示すデータが入力されることになる。
なお、マニピュレータ300、301には更に、不図示のボタンが備わっている。このボタンが押下されると、その旨を示す信号が後段の情報処理装置400に出力される。このボタンの使用目的については後述する。
302は3DCGデータを観察するための台である。
400は情報処理装置であり、一般的には例えばPC(パーソナルコンピュータ)やWS(ワークステーション)等により構成されるコンピュータである。
図16は、情報処理装置400の基本構成を示す図である。
1601はCPUで、RAM1602やROM1603に格納されているプログラムやデータを用いて情報処理装置400全体の制御を行うと共に、I/F1607に接続される外部装置とのデータ通信の制御を行う。また、情報処理装置400が行うべき処理として後述する各処理を行う。
1602はRAMで、外部記憶装置1605からロードされたプログラムやデータを一時的に記憶するためのエリアを備えると共に、CPU1601が各種の処理を実行する際に必要なワークエリアも備える。
1603はROMで、ブートプログラムや情報処理装置400の設定データなどを格納する。
1604は操作部で、キーボードやマウス、ジョイスティックなどにより構成されており、各種の指示をCPU1601に対して入力することができる。
1605は外部記憶装置で、ハードディスクドライブ装置などの大容量情報記憶装置として機能するものであり、ここにOS(オペレーティングシステム)やCPU1601に、後述する各処理を実行させるためのプログラムやデータ等が保存されており、これらの一部、もしくは全部は、CPU1601の制御により、RAM1602にロードされる。また、後述の説明で、既知のデータ(情報)として説明するものもまたこの外部記憶装置1605に保存されており、必要に応じてCPU1601の制御により、RAM1602にロードされる。
1606は表示部で、CRTや液晶画面等により構成されており、画像や文字による各種の情報を表示することができる。
1607はI/Fで、ここに上記位置姿勢計測装置205、頭部装着型映像入出力装置100、磁気センサ201等が接続されており、このI/F1607を介して、情報処理装置400は位置姿勢計測装置205、頭部装着型映像入出力装置100、磁気センサ201等とのデータ通信を行うことができる。
1608は上述の各部を繋ぐバスである。
以上の構成を備える情報処理装置400は、右目用映像入力装置102a、左目用映像入力装置102bそれぞれから得られる現実空間の画像を取り込むとと共に、磁気センサ201から得られる位置姿勢に基づいて右目用映像入力装置102a、左目用映像入力装置102bから見える仮想物体の画像を生成する。そして、生成した画像を、先に取り込んだ現実空間の画像上に重畳させ、重畳させた画像を右目用映像表示装置101a、左目用映像表示装置101bに出力する。これにより、頭部装着型映像入出力装置100を頭部に装着した観察者の右目、左目の眼前には、それぞれの目の位置姿勢に対応した複合現実空間画像が表示されることになる。
なお、頭部装着型映像入出力装置100を頭部に装着した観察者の右目、左目に対応した複合現実空間の画像を生成して提示するための一連の処理については周知の技術であるので、これに関する詳細な説明は省略する。
図2は、頭部装着型映像入出力装置100の構成を示す図である。
101は映像表示装置であり、0.5〜数インチ程度の小型の液晶表示デバイス等で構成されるものである。103は、映像表示装置101の映像を拡大するレンズの役目を果たす自由曲面プリズムである。このような構成により、映像表示装置101に表示された映像は、観察者にとってはたとえば2m先に90インチ相当の映像として提示される。
102は映像入力装置であり、CCDカメラ、CMOSカメラなどの撮像デバイスで構成されるものである。104は現実空間の光を映像入力装置102に収束させるためのレンズの役目をはたす撮像系プリズムである。撮像系プリズム104は自由曲面プリズム103の外側に、光軸を一致させるように配置することで、映像入力装置102で入力した映像と、映像表示装置101に表示した映像の視差をなくし、現実空間の映像を違和感なく再現することが可能である。
図3は、情報処理装置400の機能構成を示す図である。
401R、401Lは映像キャプチャ部であり、それぞれ映像入力装置102a、102bより入力した映像データをデジタル信号として取り込む。
404は位置姿勢情報入力部であり、位置姿勢計測装置205から出力されたデータを取り込む。
406は、仮想空間を構成する仮想物体の画像を生成するためのデータ(3DCG描画データ)である。3DCG描画データには、仮想物体の幾何学形状や色を示すデータ、テクスチャデータなどが含まれる。
408は、マニピュレータ300と301に搭載されているボタンの状態(押されている・押されていない)を検出するボタン情報入力部である。本実施形態ではボタン情報入力部408は、マニピュレータ300と301に搭載されているボタンの状態を検知するものとするが、これに限定するものではなく、情報処理装置400の操作部1604に含まれるマウスのボタンの押下状態を検知するものとしても良い。すなわち、情報処理装置400に対して、特定の指示が入力された場合に、これを検知する目的であれば、ボタン情報入力部408が検出する情報はどのような入力形態でもって入力されても良いし、検出する情報は如何なる情報であっても良い。
405は位置姿勢算出部であり、位置姿勢情報入力部404からの入力データをもとに、映像入力装置102とマニピュレータ300と301の相対的な位置関係を算出する。
407はCGレンダリング部で、位置姿勢算出部405で算出した相対的な位置関係とボタン情報入力部408の入力データをもとに、マニピュレータの位置に、マニピュレータの姿勢でもって仮想物体を配置した場合に、右目用映像入力装置102aの位置姿勢に応じて見える仮想物体の映像、左目用映像入力装置102bの位置姿勢に応じて見える仮想物体の映像を、3DCG描画データを用いて生成(レンダリング)する。なお、所定の位置姿勢を有する視点から見える仮想物体の映像を生成する処理については周知の技術であるので、これに関する詳細な説明は省略する。
402R、402Lはそれぞれ、映像キャプチャ部401R、401Lから入力した現実空間の画像上に、CGレンダリング部407が生成した右目用映像入力装置102aの位置姿勢に応じて見える仮想物体の映像、左目用映像入力装置102bの位置姿勢に応じて見える仮想物体の映像を重畳させ、それぞれ、映像生成部403R、403Lに出力する。これにより、右目用映像入力装置102aの位置姿勢に応じて見える複合現実空間の画像、左目用映像入力装置102bの位置姿勢に応じて見える複合現実空間の画像を生成することができる。尚、重畳処理の際、現実空間の画像において、「手」の領域以外の領域のみを仮想空間の画像を重畳可能な領域とする。
すなわち、本実施形態では、現実空間の画像において「手」の領域には仮想空間の画像は重畳させないものとするが、この処理は必須なものではない。
映像生成部403R、403Lはそれぞれ、映像合成部402R、402Lから出力された複合現実空間の画像をアナログデータに変換し、それぞれ右目用映像表示装置101a、左目用映像表示装置101bに映像信号として出力する。これにより、頭部装着型映像入出力装置100を頭部に装着した観察者の右目、左目の眼前には、それぞれの目の位置(厳密には映像入出力装置の位置)に対応した複合現実空間の画像が表示される。
以上説明した、観察者の右目、左目に対して、それぞれの位置姿勢に応じて見える複合現実空間の画像を提示する為の処理について、同処理の手順を示す図4を参照して説明する。
先ず、仮想空間の画像を描画するために用いる3DCG描画データを生成するための処理手順について、同図の左側を参照して説明する。
通常、3次元CADシステムを使って形状やデザインなどの設計業務を行う(1010)場合には、3D−CADのデータは、それぞれの3次元CADシステム固有のソリッドデータとして保存されるのが一般的である。一方、3Dソリッドデータは、各設計部品の幾何学的なパラメータの集合で表現されており、そのままではCGとして描画することはできない。そこで、3Dソリッドデータを3DCGの描画に適したデータ形式(たとえばVRMLなど)に変換する(1110)。本複合現実感システムでは、このように変換された3DCG描画用データ406を使って仮想空間を生成して、3D−CADデータの操作と観察を可能にする。
生成された3DCG描画データ406は、情報処理装置400の外部記憶装置1605に保存しておき、必要に応じてRAM1602にロードする。
次に、複合現実感システムが行う、この3DCG描画データ406を用いて仮想空間の画像(仮想物体の画像)を生成し、現実空間の画像に重畳させて観察者に提示する処理について、同図右側を参照して説明する。
マニピュレータ300、301に備わっている磁気センサ202,203は上述の通り磁気トランスミッタ200が発生する磁界の変化を計測し、その計測結果を信号として位置姿勢計測装置205に出力するので、位置姿勢計測装置205は、受けた信号に基づいて、センサ座標系における磁気センサ202、203の位置姿勢(マニピュレータ300、301の位置姿勢)を示すデータを情報処理装置400に出力する(2010)。
同様に、磁気センサ201は上述の通り磁気トランスミッタ200が発生する磁界の変化を計測し、その計測結果を信号として位置姿勢計測装置205に出力するので、位置姿勢計測装置205は、受けた信号に基づいて、センサ座標系における磁気センサ201の位置姿勢を示すデータを情報処理装置400に出力する(2020)。
一方、マニピュレータ300、301は、自身に備わっているボタンが押下されているか否かを検知し、その旨を示す情報(押下されているか否かを示す情報)を情報処理装置400に出力する(2015)。
以上の処理で情報処理装置400に出力されたデータ(情報)は、RAM1602に記憶される。
情報処理装置400のCPU1601は、上述の通り、右目用映像入力装置102aとマニピュレータ(300、301)との位置姿勢関係、左目用映像入力装置102bとマニピュレータ(300、301)との位置姿勢関係を求める。そして、マニピュレータの位置に、マニピュレータの姿勢でもって仮想物体を配置した場合に、右目用映像入力装置102a、左目用映像入力装置102bそれぞれからの仮想物体の見え方を求める(2030)のであるが、マニピュレータの位置に、マニピュレータの姿勢でもって配置される仮想物体は、このマニピュレータに備わっているボタンが押下されている場合、その配置位置、姿勢を変化させる。この配置位置、姿勢の変化については後述する。
一方、上記2010,2015,2020,2030における処理と並行して、映像入力装置102より、撮像された現実空間の画像がフレーム毎に情報処理装置400に入力され、RAM1602に順次記録される(3010、3020)。
一方、CPU1601は、上記処理2030でもって求めた「仮想物体の見え方」で見える仮想物体の画像(CG)を、上記3DCG描画データ406を用いてRAM1602上に生成(描画、レンダリング)する(2040)。
そして、CPU1601は、RAM1602上で、現実空間の画像上に、仮想物体の画像を重畳させ(4010)、重畳後の画像(複合現実空間の画像)をアナログ信号としてのビデオ信号に変換して映像表示装置101に出力する(4020)。
以上説明した処理により、マニピュレータの位置に、マニピュレータの姿勢でもって配置された仮想空間の画像が現実空間の画像に重畳されて観察者に提供することができる。これにより、観察者は、マニピュレータを手でもって動かして、仮想物体の任意の部分を観察することができる。
次に、この仮想物体が複数の部品により構成されており、それぞれの部品が何れかのマニピュレータに関連付けられている場合に、それぞれのマニピュレータを用いて関連付けられた部品を観察する場合について説明する。
以下の説明では仮想物体として図5に示す如く、複数の歯車(部品)により構成されている仮想物体を用いた場合について説明するが、扱う仮想物体は同図の仮想物体に限定されるものではない。
同図において歯車500、501,502とシャフト503に注目すると、このデータ全体のローカル座標系C0から、座標変換T1で変換された座標系C1に歯車500が配置される。すなわち、ローカル座標系C0を基準座標系とし、この基準座標系における原点位置から座標変換T1でもって移動した位置姿勢に歯車500を配置する。
そして更に、その歯車500から相対的な位置には歯車501と歯車502が配置されている。すなわち、歯車500の座標系C1から座標変換T2で変換された座標系C2に歯車501が配置される。換言すれば、座標系C1を基準座標系とし、この基準座標系における原点位置から座標変換T2でもって移動した位置姿勢に歯車501を配置する。
同じように、歯車500の座標系C1から座標変換T3で変換された座標系C3に歯車502が配置される。換言すれば、座標系C1を基準座標系とし、この基準座標系における原点位置から座標変換T3でもって移動した位置姿勢に歯車502を配置する。
さらに、歯車502から相対的な位置にシャフト503が配置されている。歯車502の座標系C3から座標変換T4で変換された座標系C4にシャフト503が配置される。換言すれば、座標系C3を基準座標系とし、この基準座標系における原点位置から座標変換T4でもって移動した位置姿勢に歯車503を配置する。
このように、各部品は、ローカル座標系C0に対して適当な座標変換を施した座標系に配置されるので、図5に示した各部品は、図6に示す如く、その位置姿勢関係において親子関係を有している。
図6において、P500は部品500を示す。部品500は、座標系C0(600で示す)から座標変換T1でもって変換した座標系中に配置されるものであるので、座標系C0から1つ下の階層に位置する。同様に、部品501は、座標系C0(600で示す)から座標変換T2でもって変換した座標系中に配置されるものであるので、座標系C0から1つ下の階層に位置する。同様に、部品502は、座標系C0(600で示す)から座標変換T3でもって変換した座標系中に配置されるものであるので、座標系C0から1つ下の階層に位置する。部品503は、座標系C3から座標変換T4でもって変換した座標系中に配置されるものであるので、座標系C3から1つ下の階層に位置する。このように、それぞれの部品の配置位置は、元の座標系C0から相対的に計算されるものであるので、換言すれば、各部品の階層構造は、それぞれの部品の位置姿勢の階層構造でもある。そしてこのような階層構造のデータは各部品の初期位置姿勢を示すものであり、この初期位置姿勢を示すデータは外部記憶装置1605に保存しておき、必要に応じてRAM1602にロードする。
また、本実施形態では、座標変換はマトリックスの形態で表現するものとする。従って、上記T1,T2,T3,T4は全てマトリックスでもって表される。
そして、各部品をマニピュレータでもって観察するために、マニピュレータ300、301の何れかに関連付けるのであるが、本実施形態では、部品500〜502をマニピュレータ300に関連付け、部品503をマニピュレータ301に関連付ける。この関連づけは予め行っておき、この関連づけを示すデータは外部記憶装置1605に保存させておく。またこのデータは、必要に応じて、RAM1602に読み出されるものである。
図7は、このようにして各部品をマニピュレータ300、301の何れかに関連付けた結果、それぞれの部品が従う座標系を示す図である。
同図において、Cmはセンサ座標系を示す。Cm1はマニピュレータ300の位置姿勢を基準とする座標系である。従って、同図に示す如く、座標系Cmから座標系Cm1に変換するための座標変換Tm1とは、マニピュレータ300に備わっている磁気センサ202の計測する位置姿勢そのものである。ここで、部品500〜502をマニピュレータ300に関連付けるため、座標系C0と座標系Cm1とを一致させる。すなわち、部品500〜502は、磁気センサ202の位置姿勢を基準とした座標系において配置される。
一方、Cm2は、マニピュレータ301の位置姿勢を基準とする座標系である。従って、同図に示す如く、座標系Cmから座標系Cm2に変換するための座標変換Tm2とは、マニピュレータ301に備わっている磁気センサ203の計測する位置姿勢そのものである。ここで、部品503は、マニピュレータ301に関連付けられたので、磁気センサ203の位置姿勢を基準とした座標系Cm2から座標変換T4でもって変換される座標系C4に配置される。
このように、各部品は、ローカル座標系Cm1,Cm2に対して適当な座標変換を施した座標系中に配置される。ここで、図7に示した各部品は、図8に示す如く、親子関係を有している。図8は、部品503をマニピュレータ301に関連付けたことにより、部品503に関する親子関係が変化した以外は、図6と同じ親子関係を示すものである。
以上のようにして、マニピュレータ300、301それぞれに部品を関連付け、それぞれの部品の初期位置姿勢を、関連付けたセンサの位置姿勢を基準とする座標系内に変換し、変換後の位置姿勢でもって各部品を配置することにより、マニピュレータ300、301を手に持って操作する観察者は、マニピュレータ300、301を動かすことにより、各部品をあらゆるアングルから見ることができる。当然、マニピュレータ300、301のそれぞれに関連付ける部品は上記のようなものに限定されるものではなく、部品500〜503の何れをマニピュレータ300、301の何れに関連付けても良い。また、マニピュレータの数も本実施形態では2つとしたが、これに限定されるものではない。
ここで、以上の説明では、歯車500〜502とシャフト503とを個別に観察するために、それぞれを別個のマニピュレータに関連付けたのであるが、図5に示し如く、全ての部品が元の位置姿勢にある状態を観察したい場合、観察者は、シャフト503が図5に示すような位置にくるように、マニピュレータ300とマニピュレータ301とをうまく動かして調節する必要があり、この操作は困難である。
本実施形態では、マニピュレータに備わっている上記ボタンを押下することにより、別個のマニピュレータに関連付けられている部品の位置姿勢(換言すれば、別個の基準座標系に従って配置される部品の位置姿勢)を、元の配置位置姿勢に移動させる。以下、このような処理について説明する。
図9は、シャフト503をマニピュレータ301に関連付ける時に座標変換オフセットToffsetを加えた状態を示す図である。座標変換Toffsetはマニピュレータ301の位置姿勢を基準とする座標系Cm2から座標系Coffsetへの座標変換を行う。
図7では、シャフト503は、磁気センサ203の位置姿勢を基準とした座標系Cm2から座標変換T4でもって変換される座標系C4に配置したのであるが、図9では、以下説明する処理のため、座標系Cm2から座標変換Toffsetでもって座標系Coffsetを得、更にこの座標系Coffsetを座標変換T4でもって変換した座標系Cm4にシャフト503を配置する。
図9に示した各部品は、図10に示す如く、その位置姿勢関係において親子関係を有している。図10は、座標系Coffsetを設けたために、部品503の位置姿勢が座標系C0から見て、Tm2,Toffset、T4を経て得られるようにネストが1つ増えたこと以外は、図8と同じ親子関係を示すものである。
ここで、シャフト503の位置姿勢を、元の表示位置(図5に示す位置姿勢)に戻すためには、座標系Coffsetを座標系C3に一致させればよい。これにより、歯車502とシャフト503との位置姿勢関係が図5に示す如くなるのは明白である。そのためには、座標変換Toffsetを、座標系Cm2から座標系C3への変換となるように求める必要がある。以下では、このような座標変換Toffsetを求めるための処理について説明する。
座標系Cmから座標系C3までの座標変換は、Cm×Tm1×T1×T3で表される。一方、座標系Cmから座標系Coffsetまでの座標変換は、Cm×Tm2×Toffsetで表される。そして、C3=Coffsetであるから、Cm×Tm1×T1×T3=Cm×Tm2×Toffsetとなり、その結果、Toffsetは以下の式でもって表すことができる。
Toffset=Tm2−1×Tm1×T1×T3 (1)
よって、この式に従って座標変換Toffsetを求め、シャフト503の位置姿勢(Cm×Tm2×Toffset×T4)をこの座標変換Toffsetを用いて求めれば、シャフト503を元の表示位置(図5に示す位置姿勢)に戻すことができる。
本実施形態では、最初に(CPU1601がマニピュレータに備わっているボタンの押下を検知していない場合には)座標変換Toffsetに単位行列をセットして用い、観察者がマニピュレータに備わっているボタンを押下し、CPU1601がこれを検知した場合には、上記式(1)を計算し、この計算による座標変換Toffsetを用いる。
マニピュレータに備わっているボタンが押下されていない場合には、座標変換Toffsetは更新しないので、シャフト503の位置姿勢はCm×Tm2×Toffset×T4となり、結果として図9に示す如く、磁気センサ203の位置姿勢を基準とした座標系Cm2から座標変換ToffsetとT4でもって変換される座標系C4に配置されることになる。そして、磁気センサ203の動きでTm2が変わり、それにあわせてシャフト503の位置姿勢もかわる。
一方、マニピュレータに備わっているボタンが押下された場合、座標変換Toffsetには上記式(1)に従った結果が設定されるので、シャフト503の位置姿勢Cm×Tm2×Toffset×T4は、歯車502の位置姿勢を基準とする座標系C3における位置姿勢に変換された位置姿勢、すなわち、元の表示位置(図5に示す位置姿勢)に戻すことができる。
以上の処理により、マニピュレータのボタンの押下でもって、シャフト503の表示位置を元の表示位置に戻したり、マニピュレータ301(磁気センサ203)の位置姿勢を基準とした座標系Cm2から座標変換ToffsetとT4でもって変換される座標系C4に配置したりする、所謂座標変換Toffsetの切り替え処理を行うことができる。
図11は、この切り替え処理により、シャフト503の表示位置を切り替える様子を示す図である。同図(a)は、上記式(1)に従った求めた座標変換Toffsetを用いてシャフト503の位置姿勢を決定した場合の各部品の位置姿勢を示す図で、同図(b)は、単位行列を設定した座標変換Toffsetを用いてシャフト503の位置姿勢を決定した場合の各部品の位置姿勢を示す図である。
なお、押下するボタンはマニピュレータ300,301の何れでも良いし、上述の通り、このボタンはマニピュレータに備わったものに限定するものではなく、例えば操作部1604に含まれるキーボードやマウスのボタン、ジョイスティックに備わっているボタンであっても良い。また、ボタン以外の手段でもって、座標変換Toffsetの切り替えを指示するようにしても良い。
また、以上の説明では座標系Coffsetを座標系C3に一致させるための処理について説明したが、座標系Coffsetをその他の座標系(本実施形態ではC1やC2)に一致させる場合であっても、同様の計算を行えば良い。
以上のように、本実施形態によれば、3D−CADで生成された3DCGデータを複数のマニピュレータに分けて観察するときに、構成するパーツの一部または全体を元位置での表示を容易に行うことができる。
なお、本実施形態では、センサとして磁気センサを用いたがこれに限定するものではなく、例えば超音波センサを用いても良い。
[第2の実施形態]
本実施形態では、マニピュレータ300、301の形状を、互いに合わせた場合に「かみ合う」ようにすることで、2つのマニピュレータを合わせるだけで、それぞれのマニピュレータに関連付けられている部品が元の表示位置に表示されるようにする。
図12は本実施形態におけるマニピュレータ300、301の外観を示す図である。図13(a)は、この2つのマニピュレータを合わせた場合にそれぞれのマニピュレータに関連付けられている部品が元の表示位置に表示される様子を示す図で、同図(b)は、2つのマニピュレータを合わせていないときに、第1の実施形態においてボタンの押下をCPU1601が検知していないときと同様に、それぞれのセンサの位置姿勢でもって関連付けた部品の位置姿勢を制御する様子を示す図である。
その場合、座標変換Toffsetは以下のようにして設定する。すなわち、マニピュレータ300とマニピュレータ301とを合わせている状態でのTm1,Tm2をRAM1602に保持しておき、座標変換Toffsetの値を、この保持しておいたTm1,Tm2を用いて上記式(1)に従った計算で得られる値に固定する。これにより、マニピュレータ300とマニピュレータ301とを合わせれば必ず注目部品(同図ではシャフト)を元の表示位置に表示させることができる。
すなわち、座標変換Toffsetはマニピュレータ300とマニピュレータ301とを合わせたときに、全ての部品間で初期の位置姿勢関係(図5に示したような各部品の位置姿勢関係)を維持するような値に設定される。
なお、本実施形態ではマニピュレータ300、301の形状は図12に示した形状のものとしたが、互いに合わせることのできる形状であれば、このような形状に限定するものではない。
以上のように、本実施形態によれば、マニピュレータが組み合わせられた状態で3DCGのパーツが元の位置での表示が容易にできる。即ち、組み合わせた状態でもマニピュレータを操作することで、3DCGの元状態の観察もできる。また、マニピュレータを組み合わせた状態から解除すれば、3DCGのパーツも離すことができる。
[第3の実施形態]
本実施形態では、マニピュレータ同士の相対的移動・回転に制約をかけることで3DCGのパーツ同士の自然な動きの表示を可能にした複合現実感システムを示す。
第2の実施形態においては、マニピュレータを組み合わせることで、3DCGデータのパーツも元の位置で組み合わせられることができると説明したが、組み合わせた状態のマニピュレータは相対的な移動・回転がなくなり、関連付けられている3DCGデータのパーツでも相対的な移動・回転がない。それに、マニピュレータが離れているときはパーツの動きがマニピュレータの動きに合わせるので、動きの自由度が高く、3DCGデータでの動きの制約(パーツ同士の干渉など)の影響は受けない。
図14は、組み合わせられた際でも、制限のある動きのできる形状を持つマニピュレータ300,301の外観を示す図である。マニピュレータが組み合わせられた状態では第2の実施形態と同様に、3DCGデータのパーツも元位置での表示を容易に行うことができる。
図15(a)は、この2つのマニピュレータを合わせた場合にそれぞれのマニピュレータに関連付けられている部品が元の表示位置に表示される様子を示す図で、同図(b)は、2つのマニピュレータを合わせてはいるものの、この状態で図14に1400で示す如く、マニピュレータの溝の方向にマニピュレータ300、301を互いにずらしたときに、ずらした方向に応じて、それぞれのマニピュレータ300、301に関連付けられた部品の表示位置を変更している様子を示す図である。
なお、本実施形態ではマニピュレータ300、301の形状は図15に示した形状のものとしたが、互いに合わせることができ、かつこの状態で互いにその位置や姿勢を動かすことのできる形状であれば、このような形状に限定するものではない。
以上のように、本実施形態によれば、マニピュレータが組み合わせられた状態で3DCGのパーツが元の位置での表示が容易にできるうえに、3DCGパーツ同士の動きにマニピュレータ同士と同じ移動・回転の制約をつけることで、3DCGパーツ同士の動きを観察することができる。
また、以上の実施形態において、情報処理装置400はPCやWS等のコンピュータとしたが、専用のハードウェアでもって構成するようにしても良いし、複数のコンピュータにより構成するようにしても良い。
[その他の実施形態]
本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
さらに、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャート(機能構成)に対応するプログラムコードが格納されることになる。
本発明の第1の実施形態に係る複合現実感システムの外観構成を示す図である。 頭部装着型映像入出力装置100の構成を示す図である。 情報処理装置400の機能構成を示す図である。 観察者の右目、左目に対して、それぞれの位置姿勢に応じて見える複合現実空間の画像を提示する為の処理の手順を示す図である。 複数の歯車(部品)により構成されている仮想物体を示す図である。 図5に示した仮想物体を構成する各部品の姿勢関係を示す図である。 各部品をマニピュレータ300、301の何れかに関連付けた結果、それぞれの部品が従う座標系を示す図である。 図7に示した仮想物体を構成する各部品の姿勢関係を示す図である。 シャフト503をマニピュレータ301に関連付ける時に座標変換オフセットToffsetを加えた状態を示す図である。 図9に示した仮想物体を構成する各部品の姿勢関係を示す図である。 座標変換Toffsetの切り替え処理により、シャフト503の表示位置を切り替える様子を示す図である。 本発明の第2の実施形態におけるマニピュレータ300、301の外観を示す図である。 (a)は、図12に示す2つのマニピュレータを合わせた場合にそれぞれのマニピュレータに関連付けられている部品が元の表示位置に表示される様子を示す図で、(b)は、2つのマニピュレータを合わせていないときに、第1の実施形態においてボタンの押下をCPU1601が検知していないときと同様に、それぞれのセンサの位置姿勢でもって関連付けた部品の位置姿勢を制御する様子を示す図である。 組み合わせられた際でも、制限のある動きのできる形状を持つマニピュレータ300,301の外観を示す図である。 (a)は、この2つのマニピュレータを合わせた場合にそれぞれのマニピュレータに関連付けられている部品が元の表示位置に表示される様子を示す図で、(b)は、2つのマニピュレータを合わせてはいるものの、この状態で図14に1400で示す如く、マニピュレータの溝の方向にマニピュレータ300、301を互いにずらしたときに、ずらした方向に応じて、それぞれのマニピュレータ300、301に関連付けられた部品の表示位置を変更している様子を示す図である。 情報処理装置400の基本構成を示す図である。

Claims (14)

  1. 現実空間に仮想物体を重畳させて観察者に提示する画像処理方法であって、
    仮想物体を構成するそれぞれの部品の位置姿勢を保持する保持工程と、
    前記観察者に操作される第1のセンサ及び該第1のセンサとは異なる第2のセンサの各々の位置姿勢を計測する計測工程と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、該部品が関連づけられたセンサの位置姿勢に基づく座標系における位置姿勢に変換する変換工程と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品を、当該部品について前記変換工程で変換された位置姿勢で配置する配置工程と、
    外部指示が入力された場合、前記第2のセンサに関連づけられた部品の位置姿勢を、前記第1のセンサに対応する座標系における位置姿勢に変更する変更工程と
    有することを特徴とする画像処理方法。
  2. 前記第1のセンサ及び前記第2のセンサの各々に対応する座標系は、当該センサのセンサ座標系であることを特徴とする請求項1に記載の画像処理方法。
  3. 前記それぞれの部品は、互いに親子関係を有し、且つ互いの位置姿勢関係が木構造で表現されることを特徴とする請求項1又は2に記載の画像処理方法。
  4. 第1および第2のセンサのそれぞれに対応づけられている第1および第2の仮想物体を現実空間に重畳させて観察者に提示する画像処理方法であって、
    前記第1および第2のセンサのそれぞれの位置姿勢を示す第1および第2の位置姿勢情報を取得する位置姿勢情報取得工程と、
    前記第1および第2の位置姿勢情報を用いて、前記第1および第2の仮想物体の画像を生成する第1生成工程と、
    前記第1の仮想物体と前記第2の仮想物体とを予め定められた位置関係で組み合わせる指示情報を検出する検出工程と、
    前記指示情報が検出された場合、前記第2の位置姿勢情報座標系を前記第1の位置姿勢情報座標系に合わせるための変換情報を設定し、前記第2の位置姿勢情報を前記変換情報を用いて変換し、該変換された位置姿勢情報に基づき前記第2の仮想物体の画像を生成する第2生成工程と
    有することを特徴とする画像処理方法。
  5. 前記検出工程では、前記第1のセンサと前記第2のセンサを予め定められた位置関係で組み合わせた場合に、前記第1の仮想物体と前記第2の仮想物体とを予め定められた位置関係で組み合わせることが指示されたと判断することを特徴とする請求項4に記載の画像処理方法。
  6. 前記第1および前記第2の仮想物体の位置姿勢関係は、木構造で管理されており、
    前記変換情報は、前記木構造における前記第2の仮想物体の位置姿勢に関する部分に含まれることを特徴とする請求項4又は5に記載の画像処理方法。
  7. 前記第1のセンサと前記第2のセンサが予め定められた位置関係で組み合わせられていない場合は、
    前記変換情報として単位行列が設定されることを特徴とする請求項6に記載の画像処理方法。
  8. 前記第1のセンサと前記第2のセンサの予め定められた位置関係での組み合わせは、前記第1のセンサと前記第2のセンサの相対的移動および、または回転に制約をかけられることを特徴とする請求項5に記載の画像処理方法。
  9. 現実空間に仮想物体を重畳させて観察者に提示する画像処理方法であって、
    仮想物体を構成するそれぞれの部品の初期位置姿勢を保持する第1保持工程と、
    前記観察者に操作される第1のセンサから該第1のセンサとは異なる第2のセンサへの相対的な初期位置姿勢を保持する第2保持工程と、
    前記第1のセンサ及び前記第2のセンサの各々の位置姿勢を計測する計測工程と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、該部品が関連づけられたセンサの位置姿勢に基づく座標系における位置姿勢に変換する変換工程と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品を、当該部品について前記変換工程で変換された位置姿勢で配置する配置工程と、
    前記計測工程で計測された前記第1のセンサから前記第2のセンサへの相対的な位置姿勢が、前記相対的な初期位置姿勢と一致する場合に、前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、対応する前記初期位置姿勢に変更する変更工程と
    を有することを特徴とする画像処理方法。
  10. 現実空間に仮想物体を重畳させて観察者に提示する画像処理装置であって、
    仮想物体を構成するそれぞれの部品の位置姿勢を保持する保持手段と、
    前記観察者に操作される第1のセンサ及び該第1のセンサとは異なる第2のセンサの各々の位置姿勢を計測する計測手段と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、該部品が関連づけられたセンサの位置姿勢に基づく座標系における位置姿勢に変換する変換手段と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品を、当該部品について前記変換手段で変換された位置姿勢で配置する配置手段と、
    外部指示が入力された場合、前記第2のセンサに関連づけられた部品の位置姿勢を、前記第1のセンサに対応する座標系における位置姿勢に変更する変更手段と
    有することを特徴とする画像処理装置。
  11. 第1および第2のセンサのそれぞれに対応づけられている第1および第2の仮想物体を現実空間に重畳させて観察者に提示する画像処理装置であって、
    前記第1および第2のセンサのそれぞれの位置姿勢を示す第1および第2の位置姿勢情報を取得する位置姿勢情報取得手段と、
    前記第1および第2の位置姿勢情報を用いて、前記第1および第2の仮想物体の画像を生成する第1生成手段と、
    前記第1の仮想物体と前記第2の仮想物体とを予め定められた位置関係で組み合わせる指示情報を検出する検出手段と、
    前記指示情報が検出された場合、前記第2の位置姿勢情報の座標系を前記第1の位置姿勢情報の座標系に合わせるための変換情報を設定し、前記第2の位置姿勢情報を前記変換情報を用いて変換し、該変換された位置姿勢情報に基づき前記第2の仮想物体の画像を生成する第2生成手段と
    有することを特徴とする画像処理装置。
  12. 現実空間に仮想物体を重畳させて観察者に提示する画像処理装置であって、
    仮想物体を構成するそれぞれの部品の初期位置姿勢を保持する第1保持手段と、
    前記観察者に操作される第1のセンサから該第1のセンサとは異なる第2のセンサへの相対的な初期位置姿勢を保持する第2保持手段と、
    前記第1のセンサ及び前記第2のセンサの各々の位置姿勢を計測する計測手段と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、該部品が関連づけられたセンサの位置姿勢に基づく座標系における位置姿勢に変換する変換手段と、
    前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品を、当該部品について前記変換手段で変換された位置姿勢で配置する配置手段と、
    前記計測手段で計測された前記第1のセンサから前記第2のセンサへの相対的な位置姿勢が、前記相対的な初期位置姿勢と一致する場合に、前記第1のセンサ及び前記第2のセンサの各々に予め関連付けられた部品の位置姿勢を、対応する前記初期位置姿勢に変更する変更手段と
    を有することを特徴とする画像処理装置。
  13. コンピュータ請求項1乃至9の何れか1項に記載の画像処理方法を実行させることを特徴とするコンピュータプログラム。
  14. コンピュータに請求項1乃至9の何れか1項に記載の画像処理方法を実行させることを特徴とするコンピュータプログラムを格納したコンピュータ読みとり可能な記憶媒体。
JP2004082927A 2004-03-22 2004-03-22 画像処理方法、画像処理装置 Expired - Fee Related JP4343744B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004082927A JP4343744B2 (ja) 2004-03-22 2004-03-22 画像処理方法、画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004082927A JP4343744B2 (ja) 2004-03-22 2004-03-22 画像処理方法、画像処理装置

Publications (3)

Publication Number Publication Date
JP2005267554A JP2005267554A (ja) 2005-09-29
JP2005267554A5 JP2005267554A5 (ja) 2007-05-10
JP4343744B2 true JP4343744B2 (ja) 2009-10-14

Family

ID=35092003

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004082927A Expired - Fee Related JP4343744B2 (ja) 2004-03-22 2004-03-22 画像処理方法、画像処理装置

Country Status (1)

Country Link
JP (1) JP4343744B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4739002B2 (ja) * 2005-06-30 2011-08-03 キヤノン株式会社 画像処理方法、画像処理装置
DE102006005044B4 (de) * 2006-02-03 2011-01-27 Metaio Gmbh Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung

Also Published As

Publication number Publication date
JP2005267554A (ja) 2005-09-29

Similar Documents

Publication Publication Date Title
JP4667111B2 (ja) 画像処理装置、画像処理方法
JP7068562B2 (ja) 拡張現実データを記録するための手法
JP4933406B2 (ja) 画像処理装置、画像処理方法
JP4262011B2 (ja) 画像提示方法及び装置
JP4739002B2 (ja) 画像処理方法、画像処理装置
JP4533087B2 (ja) 画像処理方法、画像処理装置
JP4950834B2 (ja) 画像処理装置、画像処理方法
JP3944019B2 (ja) 情報処理装置および方法
JP4553362B2 (ja) システム、画像処理装置、情報処理方法
US20060170652A1 (en) System, image processing apparatus, and information processing method
JP4677281B2 (ja) 画像処理方法、画像処理装置
JP4757115B2 (ja) 画像処理装置、画像処理方法
US7782320B2 (en) Information processing method and information processing apparatus
JP5709440B2 (ja) 情報処理装置、情報処理方法
JP2009025918A (ja) 画像処理装置、画像処理方法
JP2007004714A (ja) 情報処理方法、情報処理装置
JP2005339377A (ja) 画像処理方法、画像処理装置
JP2006252468A (ja) 画像処理方法、画像処理装置
JP2009087161A (ja) 画像処理装置、画像処理方法
JP4343744B2 (ja) 画像処理方法、画像処理装置
JP4689344B2 (ja) 情報処理方法、情報処理装置
JP2006085375A (ja) 画像処理方法、画像処理装置
JP2005346469A (ja) 画像処理方法、画像処理装置
JP2006252059A (ja) 画像処理方法、画像処理装置
JP2004013309A (ja) 情報処理方法および複合現実感提示装置

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070307

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070307

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090410

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090706

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090709

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120717

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120717

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130717

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees