JP4288904B2 - データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法 - Google Patents

データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法 Download PDF

Info

Publication number
JP4288904B2
JP4288904B2 JP2002209336A JP2002209336A JP4288904B2 JP 4288904 B2 JP4288904 B2 JP 4288904B2 JP 2002209336 A JP2002209336 A JP 2002209336A JP 2002209336 A JP2002209336 A JP 2002209336A JP 4288904 B2 JP4288904 B2 JP 4288904B2
Authority
JP
Japan
Prior art keywords
data
transmitter
optical signal
information
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002209336A
Other languages
English (en)
Other versions
JP2004056343A (ja
JP2004056343A5 (ja
Inventor
竜一 今泉
憲一郎 中村
友一 阿部
輝行 後
秀紀 小柳津
真一 吉村
大輔 日原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002209336A priority Critical patent/JP4288904B2/ja
Publication of JP2004056343A publication Critical patent/JP2004056343A/ja
Publication of JP2004056343A5 publication Critical patent/JP2004056343A5/ja
Application granted granted Critical
Publication of JP4288904B2 publication Critical patent/JP4288904B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Optical Communication System (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、実空間上でデータを転送するデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法に係り、特に、光学的パターンを発光することにより所望のデータを伝送するデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法に関する。
【0002】
さらに詳しくは、本発明は、伝送データに併せて送信元の空間的位置などの実世界状況を送受信するデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法に係り、特に、送信機側では光学的パターンを発光することにより所望のデータを送信するとともに受信機側では光学的パターンをカメラなどの2次元平面で受光して、光学的パターンが表わす情報とともに送信元の空間的情報を併せて受信するデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法に関する。
【0003】
【従来の技術】
情報処理技術や情報通信技術が高度に発達した現代においては、パーソナル・コンピュータや携帯情報端末を始めとする情報機器がオフィスや家庭内などの実世界上の至るところに遍在する。このような環境下では、機器どうしを接続して、いつでもどこでも欲しい情報を入手する「ユビキタス(Ubiquitous)・コンピューティング」や、実世界における状況(実世界の事物やユーザの位置など)を積極的に利用した拡張現実システム(Augmented Reality:AR)の実現が期待される。
【0004】
ユビキタス・コンピューティングの概念は、人がどこに移動しても利用できるコンピュータの環境が同じであることである。すなわち、「いつでもどこでも」なのだから、究極のユビキタス・コンピューティングは、必ずしもコンピュータやPDA(Personal Digital Assistant)や携帯電話機などの情報端末を必ずしも必要とはしない。
【0005】
また、拡張現実システムによれば、ユーザの位置などの実世界情報を利用したサービスを提供することができる。拡張現実感システムは、例えば手術補助や製品の組み立て手順の表示といった実用的な産業分野から、コンピュータ・エンターティンメントなどに至るまで、幅広い分野での応用が期待されている。この場合、ユーザは携帯端末を保持するだけで、システムはユーザの近傍や視界中にある実世界の事物に応じた情報を提示して、ネットワーク上にある膨大な情報を利用して日常生活のあらゆる局面を支援することができる。例えば、ショッピング・モールでカメラ付き携帯端末をかざしてCDショップを訪ねると、お薦めの新譜が端末上で表示される。また、レストランの看板を見ると、料理の感想が表示される。
【0006】
【発明が解決しようとする課題】
ネットワーク上でデータ転送先となるコンピュータや周辺機器(すなわちユーザ端末などのターゲット)を指定したり、あるいはユーザの位置や実世界オブジェクトに関連した情報など実世界状況を入手しようとすると、すぐ目の前にある相手であっても、その名前(若しくは、機器固有のIDやネットワーク・アドレス、ホスト・ネーム、URL/URIなどの資源識別子)を知る必要がある。すなわち、ユーザ操作に関して言えば、間接的な形式でしかコンピュータ間の連携がなされておらず、直感性にやや欠ける。
【0007】
このような煩雑な手続を省略して、ユーザの識別情報を転送したり、ユーザの位置などの実世界状況を取得するための技術として、「サイバーコード(Cybercode)」などのビジュアル・コードやRFタグのような、実世界コンピューティングを利用した手法が提案されている。これらの手法によれば、ユーザは意識してネットワークにアクセスする必要はなく、自動的に拾われたオブジェクトのIDなどから、オブジェクトに関連する情報を獲得することができる。
【0008】
ここで、サイバーコードとは、モザイク状の2次元バーコードであり、n×m(例えば7×7)マトリックスにセルが配列されたコード・パターン表示領域内で各セルを白又は黒の2値表現することで識別情報を付与することができる。サイバーコードの認識手順は、撮像画像を2値化するステップと、2値画像中からガイド・バーの候補を発見するステップと、ガイド・バーの位置や方向に基づいてコーナー・セルを探索するステップと、ガイド・バー及びコーナー・セルを検出したことに応答して画像ビットマップ・パターンを復号化するステップで構成される。
【0009】
例えば、サイバーコードに対してあらかじめアプリケーションなどの機能や、機器ID、ネットワーク・アドレス、ホスト・ネーム、URLやその他のオブジェクト関連情報を登録しておく。そして、カメラの撮影画像からサイバーコードを認識したことに応答して、コンピュータは、登録されたアプリケーションを実行させたり(例えば「メールを起動する」など)、認識されたIDを基に相手のネットワーク・アドレスを探索して自動的に接続を果たしたり、認識されたURLを基に資源アクセスを行ったりすることができる。
【0010】
また、RFタグは、固有の識別情報や読み書き可能な記憶領域を含んだデバイスであり、特定周波数の電波を受信したことに応答して識別情報や記憶されている情報に相当する電波を発信する動作特性を持ち、読み取り装置側で無線タグの識別情報や記憶領域に書き込まれている情報を読み出すことができる。したがって、無線タグの識別情報として機器IDやネットワーク・アドレス、ホスト・ネームを持たせたり、記憶領域にURLやその他のオブジェクトに関連する情報を書き込んでおくことにより、システムでは、登録されたアプリケーションを実行させたり(例えば「メールを起動する」など)、認識されたIDを基に相手のネットワーク・アドレスを探索して自動的に接続を果たしたり、認識されたURLを基に資源アクセスを行ったりすることができる。
【0011】
しかしながら、ビジュアル・コードのような視認性の識別情報を用いた場合、距離に応じてコードの大きさが変化する。すなわち、オブジェクトが遠く離れるとコードが小さくなるので、遠くのものを認識するには大きなパターンを持つコードを形成する必要がある。言い換えれば、この手法に基づく情報伝達手法は距離に対するロバスト性に欠ける。例えば、遠くにあるビルを認識するためには、ビルに巨大なコードを貼り付ける必要があり、現実的でない。
【0012】
また、RFタグの場合、ユーザはRFタグをタグ読み取り装置に向けたり接触させたりしなければならない。すなわち、至近距離の物体のみ認識が可能であり、遠くのものを認識することはできない。
【0013】
また、データやコマンドを送信する簡単なシステムとして赤外線リモコンを挙げることができる。この場合、受信機は一般に単画素で構成されるので、送信機からの送信データが存在するか否かを識別するだけであり、受光信号には空間的分解能がなく、送信機のいる方向も検出できない。また、単画素がノイズとデータを混合して受信するので、ノイズとデータの分離が難しく、周波数フィルタや波長フィルタが必要となる。
【0014】
例えば、本出願人に既に譲渡されている特願2002−57836号明細書には、発光素子を点滅されて時間的な光強度の変化からなる光学的パターンを用いたデータ通信システムについて開示されている。すなわち、所定の物理的な配置がなされた2以上のLEDなどの発光部からなる送信機を実世界上の所望の場所に設置して、各発光部は所定ビット長の送信データを表す点滅パターンで明滅することによりデータ送信する。一方の受信機は、2次元受光面からなる受光部を備え、受光された点滅パターンを基に送信データをデコードするとともに、2次元受光面上での点滅位置を基にオブジェクトの空間情報を認識することができる。
【0015】
この種の光学的パターンを伝送媒体に用いたデータ通信システムによれば、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ転送が可能である。
【0016】
また、通信媒体では接続されていない実世界上のオブジェクトからIDなどの情報を入手すると同時にオブジェクトの空間的な位置や姿勢などの実世界状況を認識することができる。
【0017】
しかしながら、送信機と受信機の相対的な位置関係が時間の経過とともに変化するような通信環境においては、受信機側では、2次元受光面上のどの光学的パターンが送信機によるものかを見失ってしまう可能性がある。特に、複数の送信機からの光学的パターンを同時に受信するような場面においては、送信機と受信機の相対位置が変化すると同じ送信機からの光学的パターンを同定することが困難になってくる。
【0018】
例えば受信機における受光面がハンディタイプのカメラで構成され、ユーザの片手操作により送信機を捕捉しているような場合、あるいは送信機側が移動しておりこれを受信機側で追跡するような場合には、送信機と受信機の相対的な位置関係に対するロバスト性の問題は顕著となる。
【0019】
一方、拡張現実感システムを実現するためには、実世界オブジェクトとカメラの位置関係が判ることが必要で、その位置関係が判ってはじめて、仮想物体をカメラ画像上の実世界オブジェクトにオーバーレイさせることが可能となる。そのために、画像を使ってその位置関係を算出するシステムが幾つか提案されている。その1つとして、四角形のマーカーの位置・姿勢をカメラの画像から算出する方法(中沢、中野、小松、斎藤共著「画像中の特徴点に基づく実写画像とCG画像との動画像合成システム」(映像情報メディア学会誌、Vol.51, No.7, pp.1086-1095,1997))を挙げることができる。
【0020】
しかしながら、この手法は、紙に印刷されたマーカーを利用したり、実世界オブジェクトに貼り付けた複数のマーカーを利用するため、カメラとマーカーの距離が離れたり、マーカーの向きがカメラに対して傾く場合には、マーカーの検出が困難になり、位置姿勢の検出ができなくなるという問題がある。また環境光の変化によって認識が困難になることも多い。また、この種の方法では、四角のマーカーの各頂点の座標情報(参考文献2)など、あらかじめマーカーの位置情報が必要であり、未知の形状のものには適用できないという問題もある。
【0021】
また、拡張現実感システムでは、仮想オブジェクトを実世界オブジェクトにオーバーレイする処理が必須の構成となる。この際、どのマーカーに対して、どういった仮想オブジェクトをオーバーレイするのかといったことを解決したシステムの1つとして、サイバーコード(Cybercode)を挙げることができる。サイバーコードは仮想オブジェクトの情報に限らず、近傍にある実世界オブジェクトに関する情報一般(実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報)を視覚的に表現することができる。サイバーコードに関しては、例えば、Jun Rekimoto著の論文"Matrix: A Realitime Object Identification and Registration Method for Augmented Reality"(APCHI'98)に詳解されている。
【0022】
しかしながら、このサイバーコードにおいても、カメラとの距離が離れたり、カメラに対して傾いたりすると、サイバーコードの位置姿勢だけでなく、サイバーコードがもつ前記情報をカメラ側で解析することができなくなるといった問題がある。
【0023】
本発明は上述したような技術的課題を鑑みたものであり、その主な目的は、伝送データに併せて送信元の空間的位置などの実世界状況を送受信することができる、優れたデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法を提供することにある。
【0024】
本発明のさらなる目的は、送信機側では光学的パターンを発光することにより所望のデータを送信するとともに受信機側では光学的パターンをカメラなどの2次元平面で受光して、光学的パターンが表わす情報とともに送信元の空間的情報を併せて受信することができる、優れたデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法を提供することにある。
【0025】
本発明のさらなる目的は、送信機と受信機の相対的な位置が変化するような通信環境であっても、光強度の時間的変化からなる光学的パターンで表わされたデータをロバストに伝送することができる、優れたデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法を提供することにある。
【0026】
【課題を解決するための手段及び作用】
本発明は、上記課題を参酌してなされたものであり、光学的に分別可能なパターンを伝送媒体とするデータ通信システムであって、
送信機側では、送信データを構成するバイト列を光学的に分別可能な1以上のパターンとして表示することによりデータを送出し、
受信機側では、該光学的パターンを2次元受光面で受光して、その受光画像を認識して、光学的パターンの系列を基に送信されたバイト列を算出するとともに、光学的パターンの受光面上での位置を算出して、同じ送信機からの受光パターンを同定する、
ことを特徴とするデータ通信システムである。
【0027】
但し、ここで言う「システム」とは、複数の装置(又は特定の機能を実現する機能モジュール)が論理的に集合した物のことを言い、各装置や機能モジュールが単一の筐体内にあるか否かは特に問わない。
【0028】
前記受信機側では、同じ送信機からの光学的パターンを復号化して得たバイト列を受信した順に連結して元の送信データを復元することにより、任意のデータ長からなるバイト列の送受信が可能である。
【0029】
本発明によれば、送信機と受信機の相対的な位置が変化するような通信環境であっても、光強度の時間的変化からなる光学的パターンで表わされたデータを、送受信機間の相対位置の変化に対してロバストに伝送することができる。
【0030】
前記受信機は、受光位置が変化する光学的パターンを追跡して、同じ送信機からの光学的パターンを同定することができる。すなわち、受信機側では、表示された光学的パターンを2次元受光面で受光して、その受光画像を認識して、光学的パターンの系列を基に送信されたバイト列を算出するとともに、光学的パターンの受光面上での位置を算出する。そして、送信機が出力する表示パターンの位置が画像フレーム間で変化する場合にも、受光位置の変化が所定値以下の光学的パターンを同じ送信機からの光学的パターンとして同定することにより、任意のバイト列の受信を可能にする。
【0031】
一方、受信機の受光面上における送信機の位置が高速に変化する場合には、次の受光タイミングでは前回の検出位置の近傍では検出されず、この結果、同じパターンの系列とはみなされないために受信エラーとなってしまう。
【0032】
そこで、送信機側の運動モデルを仮定したパターン位置の予測を行なうことでパターン検出位置をトラッキングすることにより、同じ送信機からの光学的パターンを同定するようにしてもよい。
【0033】
しかしながら、受光タイミング毎に光学的パターンの検出位置をトラッキングするという演算が必要であり、特に、複数の送信機から送出される光学的パターンを同時に検出しなければならないような場合には、計算機負荷は過大になってしまう。
【0034】
そこで、Nビットの最小送信データで光学的パターンからなるデータ伝送を行なうとともに、送信機側では、最小送信データの上位L1ビットを送信機に固有の数値(機器ID)などのための付加的情報を割り当て、残りのL2ビットをデータ送信(ペイロード)に割り当てるようにしてもよい。
【0035】
このような場合、受信機側では2次元受光面上でのパターン検出位置ではなく、データ毎に含まれる機器IDをキーにして、受信したパターンを対応する逐次パターン系列にマッピングしていくことにより、トラッキングを行なわずに任意のデータ長からなるバイト列の受信処理することが可能となる。
【0036】
また、複数のデータ送信装置が存在するシステム環境下では、送信データの下位L2ビットに割り当てる付加的情報として、組となって動作するデータ送信装置に関する情報及び/又は送信機の位置情報を含めるようにしてもよい。このような場合、受信機は、前記の送信データに付加された情報を基に送信機の空間的位置を特定することができる。また、あらかじめ受信機側で登録していない送信機であっても、複数の送信データを基に受信機の位置関係を算出することが可能となる。
【0037】
また、送信データの下位L2ビットに割り当てる付加的情報として、実世界オブジェクトに関する情報を含めるようにしてもよい。したがって、サイバーコードで実現していた実世界オブジェクトにリンクしている仮想オブジェクトの情報や、実世界オブジェクトに関する情報一般を、受信機側でロバストに受信することを可能となる。応用分野としては、例えば、3次元広告や標識、案内を携帯端末やHMDに表示したり、コンピュータ・ゲームを実空間と融合して行なうことができる。
【0038】
また、送信データの下位L2ビットに割り当てる付加的情報として、送信機自体又はその近辺の状態に関する情報を含めるようにしてもよい。ここで言う状態には、例えばボタンやスイッチ、ジョグダイヤルなどのユーザ入力装置に対するユーザの操作状況、ジャイロセンサや温度センサなどのセンサ出力に基づく送信機側の環境などが挙げられる。そして、受信機側では、付加的情報を認識して、送信機自体又はその近辺の状態に応じた処理を起動することができる。
【0039】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【0040】
【発明の実施の形態】
以下、図面を参照しながら本発明の実施形態について詳解する。
【0041】
本発明は、有線又は無線ネットワークなどの通信媒体では接続されていないオブジェクトからデータを取得したり、あるいは、ネットワークなどの通信媒体を経由せずにオブジェクトからデータを直接取得することができるデータ通信システムを提供するものである。
【0042】
本発明に係るデータ通信システムは、光学的な形式で識別情報やその他のデータを担持又は伝送する光学信号と、これを捕捉する高速な2次元イメージ・センサを利用することで、空間解像度を持つとともに、遠距離でも利用可能なデータ伝送を実現する。
【0043】
例えば、LEDのような点滅する光源を光学信号とする。したがって、ビジュアル・コードのように色の空間パターンに符号化するのではなく、距離に応じてデータが変化しない点滅パターンなどの時系列の光学信号に符号化してデータを送信することができる。
【0044】
また、イメージ・センサは、例えばCMOS(Complementary Metal Oxide Semiconductor:相補性金属酸化膜半導体)センサやCCD(Charge Coupled Device:電荷結合素子)センサなどのように、無数の受光素子すなわち画素が2次元アレイ上に配置された構成であり、光学信号並びにその空間的情報を全画素でデコードする。イメージ・センサは、普通のカメラとしてシーンを撮影するとともに、そのイメージ・センサの視界中に配置された光学信号を長距離からでも受信することができる。
【0045】
A.システム構成
図1には、本発明の一実施形態に係るデータ通信システム10の構成を模式的に示している。同図に示すように、このデータ通信システム10は、実空間に散在するオブジェクト毎に設置された送信機20A,20B,20C…と、所定の場所に設置された、又はユーザが携行して用いる受信機50とで構成される。
【0046】
送信機20は、送信データとしてのバイト列を光学的に分別可能な1以上のパターンとして表示することにより、データを送出する。一方の受信機50は、表示された光学的パターンを受光して、その受光画像を認識して、光学的パターンの系列を基に送信されたバイト列を算出するとともに、光学的パターンの受光面上での位置を算出する。そして、バイト列と受光位置の組み合わせにマッピングされた処理サービスを実行する。
【0047】
各送信機20A…は、それぞれオブジェクト表面の見え易い場所に設置されており、1又はそれ以上の発光部を備えている。発光部は、例えばマイコン制御のLEDで構成される。
【0048】
送信機20は、所定ビット長のデジタル形式の送信データを所定の変調方式により変調して、最終的に光源の明るさの変化のパターンからなる光学信号に符号化して送信する。その際に採用する変調方式により、光源の明るさの変化パターンは異なる。例えば、LEDの点灯でビット1を表すとともに消灯でビット0を表すという形式により所定ビット(仮にNビットとする)長の送信データに相当する点滅パターンを表示したり、あるいは明るさの変化パターンからなる光学信号を生成して表示することによって、距離に対してロバストなデータ転送を行うことができる。
【0049】
各送信機20A…が送出する送信データとしては、オブジェクトのIDやそのネットワーク・アドレス、ホスト・ネーム、URLやURIなどの資源識別子、その他のオブジェクト関連情報などが挙げられる。
【0050】
図2には、送信機20の内部構成を模式的に示している。同図に示すように、送信機20は、送信データ生成部21と、情報処理部22と、パターン表示部23で構成される。
【0051】
送信データ生成部21では、本システム10の送信用データとして任意のバイト列を生成する。これは、例えば、ボタンやジョイスティックやトラック・ボールなどのユーザからの入力を受け付ける入力回路とA/D変換回路の組み合わせで構成される。あるいは、有線又は無線の通信媒体を介してインターフェース接続されたパーソナル・コンピュータのような外部機器(図示しない)から送信データを受け取ったり、不揮発性メモリから読み出された文字列やバイト列を送信データとしてもよい。
【0052】
情報処理部22は、送信データ生成部からデータを読み込み、後述する手順により、パターンの系列を生成する。生成したパターンは、パターン表示部23に送られる。
【0053】
パターン表示部23では、光学的に分別可能な時間的又は空間的な複数のパターンを表示する。例えば、LEDの点滅を用いることで0と1のビット系列を表示する(時間的パターンの表示)ことができる。また、複数(N個)のLEDを2次元の格子状に並べ、各LED がオン又はオフの状態をとることによって、Nビットの情報を空間的パターンとして表示することができる。
【0054】
送信機20のデータ転送レートは、LEDを点滅させる駆動速度によって決まる。例えば、現在市販されている一般的な発光ダイオード製品であれば、4kHz程度の周波数で点滅駆動させることができる。但し、これは、受信機50側の受光ブロック51が持つ応答速度の制限を受ける。
【0055】
例えば、多数の受光ブロック51が2次元マトリックス状に配設された受光部としてCCDイメージ・センサを用いた場合、その応答速度は60Hz程度であり、LEDの点滅データを送受信するには遅すぎる。他方、前述したCMOSイメージ・センサであれば、受光素子は12kHz又はそれ以上の応答速度を持つので、送信機20側でLEDを最高速で駆動させても、受信機50側では充分にその点滅パターンを検出することができるであろう。
【0056】
送信データを8ビット長とした場合、256通りのデータを送信することが可能である。8ビット長の送信データを4kHzのキャリアでマンチェスター符号化して22ビット長のパケットとして送信する。これにより、光学信号が障害物などによってパケット送信中に隠れても、パケット単位でデータを送ることができる。
【0057】
図3には、送信機20内のデータ処理部22の内部構成を示している。図示の通り、送信データを読み込むデータ入力部31と、パターン生成の処理を実行する中央処理装置(CPU:Central Processing Unit)などの演算処理回路32 と、パターン生成用の実行プログラムをロードしたりパターン生成処理時の作業データを一時的保存するためのRAM(Random Access Memory)33と、演算処理回路32で実行されるプログラム・コードを保存するためのROM(Read Only Memory)などのプログラム・メモリ34と、生成されたパターンを出力するためのパターン出力部35から構成される。また、演算処理回路32と、入出力部31,35及びメモリ33,34はバス36によって結ばれている。
【0058】
なお、上述した送信機20の構成例では、点滅データの形式でデータを送出する発光ダイオード23を1つしか含んでいないが、2以上の発光ダイオードを備えていてもよい。このような場合、点滅パターンの組み合わせにより送信データを表現することができるので、データ転送レートが大幅に増大する。また、通信路が複数できることからバンド幅の拡大にもなる。この場合、送信機と受信機の間では、LEDの個数だけ(あるいは、受信機側の受光した画素数だけ)コネクションが張られることになる。
【0059】
一方の受信機50は、複数(M個)の受光ブロック51−1,51−2,…,51−Mと、各受光ブロック51−1…の出力を統合処理するデータ処理部60と、データ収集結果に従って所定のサービスを実行するアプリケーション部70とで構成される。
【0060】
受光ブロック51−1,51−2…は、実際には、図4に示すように、n×m(=M)の2次元マトリックス状に配置されており、全体として2次元的な受光面からなる受光部をなしている。このような受光部は、例えばCMOSイメージ・センサを用いて構成することができ、1つの画素が1つの受光ブロックに相当する。CMOSイメージ・センサは、一般に、CCDセンサに比し駆動速度が速いので、送信機側でLEDを比較的高い周波数で駆動させても、その点滅パターンを読み取ることができる。
【0061】
図5には、受信機50における1つの受光ブロック51の内部構成を模式的に示している。同図に示すように、1つの受光ブロック51は、受光量に応じた電気信号を生成する受光素子81と、バンド・パス・フィルタ(BPF)82と、フェーズ・ロック・ループ(PLL)83と、A/D変換器84と、撮像データ保存用メモリ85と、2値化データ保存用メモリ86と、転送データ保存用メモリ87と、受光ブロック51内を統括的にコントロールして同期駆動させるための制御部88とで構成される。
【0062】
受光素子81は、例えばCMOSセンサ素子で構成される。また、それ以外の受光素子駆動用、デコード用の処理モジュールをFPGA(Field Programmable Gate Array)などのICチップで構成することができる。撮像データ保存用メモリ85は、受信機50がカメラとして動作しているときに、受光素子81による撮像データのデジタル値を一時的に保存するために使用される。
【0063】
送信機20側からのLEDの点滅データは、図示しない集光レンズ系を介して受光部の2次元受光面上に結像され、2次元受光面上でLEDに対応する位置にある受光ブロックがその点滅パターンを検出することができる。また、CMOSイメージ・センサからなる受光部50は、各画素すなわち受光ブロック51−1…毎に単にLEDの点滅信号を検出するだけでなく、受光面に結像された画像を撮影するカメラとしても機能する。
【0064】
データ処理部60は、各受光ブロック51−1…の出力を統合的に処理する。その処理内容は、各画素すなわち受光ブロック毎に検出されたLEDの点滅信号の処理(データ受信処理)と、2次元マトリックス状に配設された各受光ブロック51−1,…,151−Mにより撮像された画像フレームの処理(撮影処理)の2種類に大別される。
【0065】
図6には、受信機50内のデータ処理部60の内部構成を模式的に示している。同図に示すように、データ処理部60は、受光部からの画像を読み込む画像入力部61と、パターンの検出及び位置の算出、抽出パターンからのバイト列の算出を行う中央処理装置(CPU)などの演算処理回路62と、実行プログラムのロードや作業データの一時的な保存に使用するRAMなどのメモリ63と、演算処理回路62で実行されるプログラム・コードを保存するためのROMなどのプログラム・メモリ64と、認識されたパターンの種類・位置と受信したバイト列を出力するための結果出力部65を備えている。また、演算処理回路62と、入出力部61,65及びメモリ63,64はバス66によって結ばれている。
【0066】
アプリケーション部70は、データ処理部60によるデータ収集結果に従って所定のサービスを実行する。例えば、アプリケーション部70は、カメラとして機能する受光部から得られた撮影画像に対して画像処理や画像認識を行なう以外に、データ収集結果を基に復号された送信機20からの送信データに対応する処理サービスを実行する。
【0067】
送信機20からの送信データは、機器ID、ネットワーク・アドレス、ホスト・ネーム、URLやURIなどの資源識別子、その他のオブジェクト関連情報などであり、アプリケーション部70は、オブジェクトに関連した処理を行うことができる。例えば、受信した光学信号から復号されたURLを基にオブジェクトに関連する情報をWWW(World Wide Web)情報提供空間で探索したり、探索結果を表示したり、さらにカメラとして撮影した画像の上に探索結果をオーバレイ表示させたりすることができる(NaviCam)。また、デコードされたオブジェクトの機器IDやネットワーク・アドレスを基に、オブジェクトとユーザ端末とのネットワーク接続を確立させたりすることができる(gaze−link)。
【0068】
受信機50は、例えば、CMOSイメージ・センサを使用するデジタル・カメラをUSB(Universal Serial Bus)などのインターフェース経由でコンピュータに接続することによって構成される。このような場合、アプリケーション部70は、コンピュータ上で実行されるアプリケーションに相当し、デジタル・カメラから入力される撮影(シーン)画像に、光学信号から復号されたデジタル・データに基づくコンピュータ画像を重畳した合成画像を表示したりすることができる。
【0069】
デジタル・カメラのようにシーンを撮影するイメージ・センサに受信機50としての機能を付加的に装備することができる。例えば高速な点滅パターンとして光学信号を送信する場合、高速にサンプリング可能なデバイスであるCMOSイメージ・センサを適用する。一般的なデジタル・カメラは30fpsで撮影しているが、これ以上高速化しても人の動画認識能力を越えてしまうことから、30fpsでシーンを撮像する時間以外の余った時間を利用して光学信号を受信処理することにより、CMOSイメージ・センサに付加価値を与えることができる。デジタル・カメラがシーンの撮影を行なう期間を「カメラ・モード」と呼び、それ以外の時間を利用して光学信号を受信処理する期間を「デコード・モード」と呼ぶ。
【0070】
デコード・モードでは、例えば12kHzのサンプリングを200回繰り返し、送信機20側で送出するキャリア周波数4kHzの8ビットの光学信号をイメージ・センサのすべての受光ブロックでデコードして、15fpsで光学信号の受信・認識画像を作成することができる。この認識画像は、画像の各画素の値がデコードした結果であり、光学信号が表現する送信データと、光学信号を発する送信機の空間的情報(すなわち実世界オブジェクトが持つ実世界状況)の双方を含んである。
【0071】
B.データ伝送手順
本実施形態に係るデータ通信システム10は、光学的な形式で識別情報やその他のデータを担持又は伝送する光学信号と、これを捕捉する高速な2次元イメージ・センサを利用することで、空間解像度を持つとともに、遠距離でも利用可能なデータ伝送を実現する。
【0072】
しかしながら、このようなシステムにおいては、送信機と受信機の相対的な位置関係が時間の経過とともに変化するような通信環境下では、受信機側では、2次元受光面上のどの光学的パターンが送信機によるものかを見失ってしまう可能性がある。特に、複数の送信機からの光学的パターンを同時に受信するような場面においては、送信機と受信機の相対位置が変化すると同じ送信機からの光学的パターンを同定することが困難になってくる。
【0073】
以下では、送信機と受信機の相対位置の変化に対してロバストな光学的パターンの通信方法について提案する。
【0074】
B−1.第1の通信方法
上述したように、本実施形態に係るデータ通信システム10では、送信機20は、送信データとしてのバイト列を光学的に分別可能な1以上のパターンとして表示することにより、データを送出する。
【0075】
一方の受信機50は、表示された光学的パターンを2次元受光面で受光して、その受光画像を認識して、光学的パターンの系列を基に送信されたバイト列を算出するとともに、光学的パターンの受光面上での位置を算出する。そして、送信機20が出力する表示パターンの位置が画像フレーム間で変化する場合にも、その位置をトラッキングすることにより、任意のバイト列の受信を可能にする。
【0076】
図7には、送信機20側のデータ送信処理手順をフローチャートの形式で示している。
【0077】
まず、送信すべきデータ(バイト列)の1フレーム分のデータをデータ入力部31より読み込む(ステップS1)。
【0078】
次いで、前ステップで取得したデータを、図8に示すようなデータ・フレームの形式に変換して、メモリ33上に一時保存する(ステップS2)。
【0079】
次いで、生成したデータ・フレームをメモリ33から読み出して、パターン表示部35において、LED光の点滅や光の強弱の変化など光学的に分別可能なパターンを表示することによって、データ送出する(ステップS3)。
【0080】
次いで、データ送信を継続するか又は中止するか判定をする(ステップS4)。そして、データの送信を続ける場合には、ステップS1へ戻り、上述と同様の光学的パターンの表示処理を行なう。
【0081】
図8には、本実施形態に係るデータ通信システム10においてデータ伝送に使用されるデータ・フレームの形式を示している。
【0082】
このデータ・フレームの先頭には、フレーム開始を示すバイト列(開始コード)が配置される。このバイト列は、ここ以外の場所では生じない固有のバイト列が使用される。
【0083】
次に、送信データ(ペイロード)が所定の長さで格納される。ペイロードを可変長にする場合には、先頭にペイロード(又はフレーム)のサイズを格納するようにすればよい。
【0084】
データ・フレームの最後尾には、送信したデータ列に誤りがないかをチェックするためのチェックサムを付加する。但し、このチェックサムは必須ではなく、省略しても構わない。また、ペイロードやチェックサムに、開始コードと同じバイト列が生じる場合には、他のバイト列に変換する必要がある。
【0085】
ここで、上記の開始コードがデータ部とチェックサムに生じないようにするための変換方法の一例を説明しておく。この例では、開始コードがA1,A2,A3,A4という最小送信データの系列であるとし、A1からA4は互いに異なる値である。
【0086】
まず、ペイロードとチェックサム部のデータを順に調べる。そして、A1、A2、A3というパターンが見付かったら、これをA1、A2、A3、Bというパターンに置き換える。但し、BはA1からA4とは異なる値である。この変換により、開始コードはペイロードやチェックサムには生じない系列となる。
【0087】
次いで、逆変換の方法について述べる。逆変換では、データの先頭から順にA1、A2、A3、Bという系列を探し、これをA1、A2、A3という系列に変換する。この逆変換により、データ列は変換前のデータに戻る。
【0088】
図9には、図7に示したデータ送信処理のうち、ステップS3におけるデータ・フレーム生成の詳細な処理手順をフローチャートの形式で示している。
【0089】
まず、何個のパターンを送信したかを計数するパターン・カウンタkを、初期値0に設定する(ステップS11)。
【0090】
次いで、データ・フレーム用のメモリ33から、k番目の最小送信データを読み込んで、表示用のパターンに変換する(ステップS12)。最小送信データは、変換テーブルを用いて、表示パターンに変換される。
【0091】
次いで、パターンをパターン表示部23に転送して、光の点滅や強弱の変化など光学的に分別可能なパターンの表示によってデータ送出を行なう(ステップS13)。
【0092】
次いで、パターン・カウンタkを1だけ増分する(ステップS14)。そして、データ・フレーム内のデータをすべて送信したかをチェックし(ステップS15)、送信していないデータがあれば、ステップS12へ戻り、次の最小送信データ単位の送出を行なう。
【0093】
このようにして送信機から表示パターンを切り替えることにより、バイト列を送信することができる。次に、受信機でのデータの受信方法について説明する。
【0094】
図10には、パターン表示部23から光学的に分別可能なパターンの形式で送出されたデータを受信機50側で受信処理するための手順をフローチャートの形式で示している。この受信処理は、実際には、データ収集部60が受光部50による受光画像を認識処理することによって実現される。
【0095】
まず、画像の読み込みとパターンの認識を行なう(ステップS21)。パターンの認識方法は、表示パターンとして何を用いるかによって異なる。本実施形態では、受光画像上に存在するすべての光学的パターンと、各光学的パターンの位置が検出される。
【0096】
次いで、認識されたパターンをNビットのバイト列(最小送信データ)に変換することにより送信データを復元する(ステップS22)。この変換テーブルは、送信機20側で最小送信データからパターンに変換するために使用した変換テーブル(上述)の逆変換である。
【0097】
次いで、受光面で受光したすべてのパターンを作業用メモリ54内に設けられたデータ・バッファに登録する(ステップS23)。登録方法の詳細については後述に譲る。
【0098】
次いで、終了判定を行なう(ステップS24)。そして、データの受信を続ける場合には、ステップS21に戻って、上述と同様の最小送信データ単位での送信データの復号処理を続行する。
【0099】
図11には、作業メモリ54内に設けられた受信データ・バッファの構成を模式的に示している。同図を参照しながら、ステップS23における受信パターンの登録方法について説明する。
【0100】
データ・バッファは、認識されたパターンの系列毎、すなわち送信機毎にエントリが用意される。図11に示すように、各エントリは、受光面上でパターンが検出された位置(X,Y)と、受光パターンを変換して得たバイト系列の組み合わせで構成される。
【0101】
受光面上では、時々刻々と光学的パターンが受光される。そして、変換テーブルを用いて光学的パターンを変換してバイト系列を得ると、これを該当するエントリに登録する。ここで言う登録は、バイト系列に逐次連結していくことを意味する。バイト系列の連結により最終的に生成されたバイト系列が、該当する送信機から送られたデータとなる。
【0102】
図12には、受信機50側で受光した光学的パターンをバイト系列に追加登録するための処理手順をフローチャートの形式で示している。以下では、認識されたパターンの位置を(Xp,Yp)とし、認識されたパターンを変換した最小送信データをBpとする。
【0103】
まず、バッファ・インデックスkを初期値0に設定する(ステップS31)。
【0104】
次いで、k番目のデータ・バッファの位置(X(k),Y(k))の近傍に、検出パターンが存在するかを調べる(ステップS32)。これは、適当な閾値dを決め、(X(k),Y(k))と光学的パターンの受光位置(Xp,Yp)の間の距離がd以下であったら近傍とみなす。
【0105】
近傍に検出パターンが存在すれば次ステップS33へ進み、存在しなければ次ステップS33をスキップしてステップS34へ進む。
【0106】
ステップS33では、ステップS32で(X(k), Y(k))の近傍に存在すると判定されたパターンのうち最も点(X(k), Y(k))に近いパターンの最小送信データをk番目のデータ・バッファに追加し、その検出パターンの位置を(X(k), Y(k))に代入する。次いで、ステップS34では、バッファ・インデックスkを1だけ増分する。
【0107】
次いで、すべてのバッファについて、近傍のチェックが終了したかを判定する(ステップS35)。終了した場合には次ステップS36へ進み、終了していない場合にはステップS32へ戻り、バッファ中の送信データの登録処理を継続する。
【0108】
ステップS36では、上記のステップS32〜S34の処理によりデータが追加されなかったバッファにNULL文字を追加する。このNULL文字は、データが欠落したことを示すために用いられる。ここで単純に、データが追加されなかったバッファを削除することも考えられる。
【0109】
そして、どのバッファにも追加されなかった、新たに認識された入力データをバッファに追加して(ステップS37)、本処理ルーチン全体を終了する。
【0110】
データ・バッファからの送信バイト列のデコードは以下のように行う。
【0111】
まず、データ・バッファのペイロードを先頭から順に取り出していき、図8に示した開始コードを探す。開始コードが発見されたら、その後ろのデータを所定の長さだけ読み込んだ後、チェックサムを読み込む。
【0112】
次いで、開始コードがデータとチェックサム部に生じないように行った変換について、逆変換を施して、元のデータを得る。最後に、チェックサムを用いてデータ部を正しく受信することができたかどうかを確認する。
【0113】
受光した光学的パターンに対し上述したような処理を行なうことにより、送信装置と受信装置の相対的な位置が変化した場合にも、パターンの位置をトラッキングすることにより、送信されるデータ列を受信することができる。
【0114】
また、パターンの受光面上での位置の変化が非常に大きい場合や、複数のパターンが受光面上で重なり、トラッキングに失敗する場合には、チェックサムを用いることで、正しい受信ができたかどうかをチェックすることができる。
【0115】
B−2.第2の通信方法
バイト列を光学的に分別可能な1以上のパターンとして表示することによりデータを伝送する通信システムにおいては、光学的パターンの受光位置の変化を追跡して、同じ送信機からの光学的パターンを同定することができる。
【0116】
上記のB−1項では、受光位置の変化が所定値以下の光学的パターンを同じ送信機からの光学的パターンとして同定する。すなわち、k番目のデータ・バッファの位置(X(k), Y(k))の近傍で検出された光学的パターンをデータ・バッファのパターン系列に逐次追加していく。
【0117】
しかしながら、送信機が高速で移動する場合には、次の受光タイミングでは前回の検出位置の近傍では検出されず、この結果、同じパターンの系列とはみなされないために受信エラーとなってしまう。
【0118】
そこで、本項では、送信機側の運動モデルを仮定したパターン位置の予測を行なうことでパターン検出位置をトラッキングするという通信方法を適用する。
【0119】
この場合、図12に示したフローチャートのステップS32において、データ・バッファに保存された位置(X(k),Y(k))の近傍に検出されたパターンが存在するかどうかをチェックするという処理を下記のサブルーチンに置き換えることにより、パターン位置の予測を適用することができる。
【0120】
以下では、時刻tのパターンの位置をp(t)= (x(t),y(t))と表したとき、パターンの運動モデルを下式で表わす。
【0121】
【数1】
p(t)=f(p(t−1);w) …(1)
【0122】
但し、fは時刻t−1のパターンの位置から、時刻tのパターンの位置を算出する関数である。また、wは関数fのm次元パラメータベクトル(m≧1)であるとする。
【0123】
図13には、運動モデルに基づいてパターン位置を検出するために使用されるデータ・バッファの形式を示している。これは図11に示したデータ・バッファの各エントリに対して検出パターンの運動モデルを記述する運動パラメータwが追加された構成となっている。
【0124】
また、図14には、運動モデルに基づいた予測を行なうための処理手順をフローチャートの形式で示している。但し、運動パラメータwについては、受信プロセスの初期化時に、適当な値に初期化されているものとする。
【0125】
まず、現在のパターンの位置を、現在のデータ・バッファの位置と運動パラメータを基に、上記の式(1)を用いて推定する(ステップS41)。
【0126】
次いで、前ステップS41で求めた推定位置の近傍に検出されたパターンが存在するかを調べる(ステップS42)。
【0127】
推定位置の近傍において検出パターンが存在する場合には、次ステップS43へ進む。また、推定位置近傍に検出パターンが存在しない場合には、ステップS43をスキップして、ステップS44へ進む。
【0128】
ステップS43では、ステップS42において推定位置の近傍にあると判定されたパターンの位置を用いて、運動パラメータwを更新する。この更新には、例えば最尤推定を用いることができる。
【0129】
次いでステップS44において、データ・バッファのパターン位置の更新を行う。
【0130】
図15には、運動モデルを用いて光学的パターンの検出位置をトラッキングするメカニズムを図解している。
【0131】
同図に示すように、時刻t0、t1、t2において光学的パターンを検出した位置情報を基に運動パラメータを推測する。そして、この運動パラメータを用いて次のパターン検出時刻t3での予測位置181を推定する。
【0132】
推定された予測位置181の周りで近傍探索を行なうことにより、近傍探索範囲は参照番号182で示される範囲となる。
【0133】
一方、上記のB−1項で説明した方法によれば、次の受光タイミングでは参照番号183で示される近傍探索範囲において光学的パターンの探索が行なわれる。したがって、光学的パターンすなわち送信機が相対的に大きく移動している場合には、時刻t3においてパターンを検出することはできない。
【0134】
本項で説明した方法によれば、適当な運動モデルを用いて光学的パターンの運動を推定するので、単純な近傍の探索に比べて、トラッキングの精度を上げることが可能になる。また、この手法は、画像フレーム間でのパターンの位置の変化が大きい場合に有効である。
【0135】
上述した例では、1つのパターンに対して1つの運動パラメータを用いて推定を行った。同一の物理オブジェクトに複数の送信機が取り付けられている場合には、それらの送信機のパターンについて同一の運動モデルを適用することにより推定精度を一様に向上させることができる。また、送信機はすべて固定されていて、受信機側が運動するような場合には、推定すべき運動パラメータは受信機の運動パラメータとなり、すべてのパターンについて共通となる。このような場合、受信機に姿勢センサや加速度センサを搭載して、これらのセンサ出力を基に運動モデルを算出することができる。
【0136】
また、光学的パターンのトラッキングのために使用する運動モデルは、本システムが実際に適用される条件によって変更してもよい。例えば、加速度一定を仮定するモデルや、対象が平面上にある拘束条件を加えたモデルなどが考えられる。また、複数の送信機に共通の運動パラメータが適用できる条件では、対象オブジェクトの剛体運動を仮定したり、ロボットなどのように複数の剛体が関節によって結合されたモデルを仮定したりすることができる。また、推定方法としてカルマン・フィルタなどを適用することが可能である。
【0137】
B−3.第3の通信方法
上記のB−1及びB−2の各項で説明した方法によれば、バイト列を光学的に分別可能な1以上のパターンとして表示することによりデータを伝送する通信システムにおいて、受光面上で移動する光学的パターンをトラッキングすることにより、受光位置が変化する場合であっても同じ送信機からの光学的パターンを同定することができる。この結果、送信機と受信機の相対的な位置が変化するような通信環境であっても、光強度の時間的変化からなる光学的パターンで表わされたデータをロバストに伝送することができる
【0138】
しかしながら、このような場合、受光タイミング毎に光学的パターンの検出位置をトラッキングするという演算が必要である。特に、複数の送信機から送出される光学的パターンを同時に検出しなければならないような場合には、計算機負荷は過大になってしまう。
【0139】
そこで、本項では、トラッキングを行なうことなく、任意のデータ列を送受信する通信方法を適用する。この方法では、Nビットの最小送信データでデータ伝送が行なわれ、最小送信データの上位L1ビットを送信機に固有の数値(機器ID)を割り当て、残りのL2ビットをデータ送信に割り当てる。
【0140】
送信機20におけるデータ送信手順は、1フレーム分のデータの生成・表示以外の処理は図7に示した処理手順と同様である。図16には、1データ・フレームを送信するための処理手順をフローチャートの形式で示している。
【0141】
まず、送信データ・ポインタ変数(ptr)をデータ・フレーム用メモリの先頭アドレスに初期化する(ステップS51)。
【0142】
次いで、Nビットの最小送信データ用メモリD1を確保して(ステップS52)、D1の上位L1ビットを送信機にユニークな機器IDの値に設定する(ステップS53)。
【0143】
次いで、ポインタptrからL2ビットのデータをD1の下位L2ビットにコピーする(ステップS54)。そして、D1を表示用パターンに変換し、変換したパターンをパターン表示部23へ送信することにより、パターン表示すなわちデータ出力を行なう(ステップS55)。
【0144】
次いで、ポインタptrをL2だけ進め(ステップS56)、ポインタptrがデータ・フレーム用メモリ内に位置しているかをチェックすることにより、データ・フレームのデータをすべて送信したかをチェックする(ステップS57)。送信が完了していなければ、ステップS53へ戻り、データ送信処理を続ける。
【0145】
次いで、受信機50側でのデータ受信処理について説明する。データ受信の手順は、受信手順についても、図10に示した受信手続きと同様の手順を実行する。但し、データ・バッファの形式とデータ・バッファへの登録手順が上記とは相違する。
【0146】
トラッキングを行なわずに受信を行なう本方法では、送信されるパターンの一部には送信機毎にユニークな機器IDが含まれている。したがって、図11に示したデータ・バッファのようにパターンの位置を保存しておく必要はない。図17には、本方法で使用するデータ・バッファの形式を模式的に示している。同図に示すように、2次元受光面上でのパターン検出位置ではなく、データ毎に含まれる機器IDをキーにして、受信したパターンを対応するエントリのパターン系列にマッピングしていけばよい。
【0147】
図18には、このデータ・バッファへのデータ登録手順をフローチャートの形式で示している。
【0148】
まず、検出パターン・インデックスkを0に初期化する(ステップS61)。そして、検出されたk番目のパターンを変換して得られた最小送信データについて、上位のL1ビットを機器ID用メモリDevIDに保存し、下位L2ビットをデータ用メモリDに保存する(ステップS62)。
【0149】
次いで、DevIDが既にデータ・バッファに登録されているかどうかを調べる(ステップS63)。
【0150】
DevIDが未だ登録されていない場合には、データ・バッファにDevIDをキーとするエントリを新たに生成する(ステップS64)。
【0151】
次いで、DevIDをキーとするデータにDを追加する(ステップS65)。
【0152】
次いで、検出パターン・インデックスkを1だけ増分する(ステップS66)。そして、kの値を基にすべての検出パターンについてデータの登録が終了したかを調べる(ステップS67)。まだ終了していない場合には、ステップS62へ戻り、データの登録を続行する。
【0153】
上記の受信手順からも分かるように、最小単位データ毎に送信機の機器IDを付加することにより、受信機側ではパターン検出位置のトラッキングが不要となるので、高速且つロバストなデータの送信が可能になる。
【0154】
但し、すべての最小送信データに機器IDを含めることが必要になり、送信データ中のペイロードの割合が低下するので、トラッキングを行なう場合に比しデータの伝送効率は劣化する。しかし、送信機の数が比較的少ない場合には、L1のデータ長が小さい数となるので、伝送効率の劣化は少ない。
【0155】
また、この方法では、使用する送信機が限られている場合には、パターンの検出も簡略化することができる。すなわち、パターン検出中に、上位L1ビットだけを認識し、その機器IDが対象としている送信機でなければ、下位L2ビットに関しては処理を行う必要がない。また、機器IDが対象としている送信機でないパターンに関してはパターンの位置検出も行う必要はない。
【0156】
また、特殊な場合として、送信バイト列がL2ビット以下である場合がある。この場合には、最小送信データの下位L2ビットに送信したいバイト列を入れればよく、データ・フレームを作成したり、エンコード/デコードの処理をしたりする必要がなくなる。例えば、送信機に付けられたボタンのオン・オフ情報を送信したい場合には、このような方法により、容易にデータを送信することができる。
【0157】
C.送受信機間の位置関係の算出
光学的信号をデータの伝送媒体とする本発明に係るデータ通信システムによれば、カメラからなる受信機側では、画像とともに送信機からの光学的信号とその画像上の位置(X,Y)を取得することができる。このような仕組みを利用することにより、ある平面に配置された複数の送信機又は光学的信号が見えたときに、これら送信機が形成する平面とカメラすなわち受信機との位置関係を算出することができる。
【0158】
C−1.位置関係の算出方法
まず、座標が既知となる4つの点を基に位置関係を求める方法について説明する。この計算方法の原理自体については、例えば中沢、中野、小松、斎藤共著「画像中の特徴点に基づく実写画像とCG画像との動画像合成システム」(映像情報メディア学会誌、Vol.51, No.7, pp.1086-1095,1997)にも詳解されている。
【0159】
図19に示すように、カメラ座標系C(xc,yc,zc)とカメラ画像平面である画面座標系(X,Y)、ワールド座標系(光ビーコンの座標系)W(xw,yw,zw)と定義する。ここで、これらの座標系の関係は、以下の式(2)、(3)、(4)で表される。
【0160】
【数2】
Figure 0004288904
【0161】
ここで、Uはカメラ・パラメータ行列であり、ワールド座標系Wとカメラ座標系Cの変換行列である。4つの光ビーコンからワールド座標系Wでの座標が既知(本実施形態では、光ビーコンの点滅情報からカメラはこれらの座標を得ることができる)であれば、このUを求めることができる。カメラ・パラメータ行列Uを求めることは、IDカメラと4つの光ビーコンとの位置関係を求めることになり、光ビーコンに対するカメラの相対位置及び姿勢が求まることを意味する。また、上記の式(4)から、焦点距離fが求まれば、これを画面座標系(X、Y)に変換できることから、画像上で光ビーコンの位置に合わせて、3次元的な相対位置にCGなどの3次元オブジェクトをオーバーレイさせることが可能である。
【0162】
ここで、光ビーコンが平面上に置かれているすると、Zw=0とすることができる。したがって、上記の式(3)は、以下の式(5)のようになる。
【0163】
【数3】
Figure 0004288904
【0164】
また、行列Uはスケール・ファクタを含んでいるので、u34を1とすることで、未知数は8つになる。ここで、IDカメラで観察された4点の特徴点座標 pi=(xi,yi,0)(i=1..4)と、それぞれに対応する画面平面上に投影された点Pi=(Xi,Yi)が既知であるので、これらを(5)式に代入することで、Uが求まることになる。以上で、カメラ座標系Cとワールド座標系Wの位置関係が求めることができる。
【0165】
次に、画面座標系(X、Y)とワールド座標系Wとの位置関係を求めるために、焦点距離fを求める方法について説明する。ここで、焦点距離fを行列Uの要素に含めた形である(6)式のように変形する。すなわち、
【0166】
【数4】
Figure 0004288904
【0167】
したがって、行列Vと行列Uの関係は、次式のような関係となる。
【0168】
【数5】
Figure 0004288904
【0169】
一方、(5)式は、(6)式のように変形できる。ここで、u1,u2,u4は3次元空間を張る基底直交ベクトルである。
【0170】
【数6】
Figure 0004288904
【0171】
基底ベクトルであるから、次の2式の関係が成り立つ。
【0172】
【数7】
Figure 0004288904
【0173】
したがって、fは、式(8)と式(10)の関係から、以下の通りとなる。
【0174】
【数8】
Figure 0004288904
【0175】
また、式(8)と式(11)の関係から、以下の通りとなる。
【0176】
【数9】
Figure 0004288904
【0177】
そして、上記の式(12)又は式(13)から、f値を求めることができる。
【0178】
以上、画面座標系(X、Y)とワールド座標系Wの関係を求めることができた。これにより、ワールド座標系Wで規定される3次元オブジェクトを、画面上にオーバーレイすることが可能となる。
【0179】
なお、(12)式と(13)式から求められるf値は、光ビーコンの検出誤差から必ずしも一致しないが、中沢外著の論文(前述)には、その2式を利用した評価関数を最小にするような特徴点座標を求めることで、検出誤差を抑制する手法が説明されている。
【0180】
また、3点の送信機の座標が既知である場合も、対象物体上の3点の位置から3次元位置及び姿勢を計測することが可能である。例えば、Robert M. Haralick、 Chung-nan Lee、 Karsten Ottenberg、Michael Nolle共著の論文“Analysis and Solutions of The Three Point Perspective Pose Estimation Problem”(In Proceedings of the Conference on Computer Vision and Pattern Recognition, Maui, Hawaii, USA, pp.592-598, 1991)を参照されたい。
【0181】
C−2.光学的信号に基づく位置関係の算出方法
次いで、カメラで捉えた4つの光学的信号を基に位置関係を求めるための具体的なシステム構成について説明する。なお、3つの光学的信号を用いる場合も、Robert外著の論文(前述)に記載の算出方法により、同様に実現可能である。
【0182】
図20には、カメラで捉えた4つの光学的信号を基に位置関係を求めるためのシステム構成を模式的に示している。
【0183】
3次元計測部は、コンピュータ部とIDカメラ部から成り、実世界オブジェクト1の近傍に設置された光ビーコン1〜4との位置関係を求める。実世界オブジェクト2にも光ビーコン5〜8が装着されており、IDカメラ部は、この光ビーコン5〜8の位置計測も可能である。また、2つの実世界オブジェクトは厳格に区別される。
【0184】
コンピュータ部は、例えば図21に示すような構成が考えられる。ここで、CPUはROMに格納されたプログラムに従って処理を行い、RAMはそのときのワーキング用メモリとして機能する。また、カメラI/Fは、IDカメラとデータの送受信を行うインタフェースであり、有線、無線の通信方式、どれでもよいが、その通信方式に従ったインタフェース回路である。通信方式としては、例えば、RS−232C、RS−422、IEEE1394、USB1.0、USB2.0、IEEE802.11Xなどが挙げられる。モニタI/Fと通信I/Fについては、後に説明する。
【0185】
図22には、カメラで捉えた4つの光学的信号(光ビーコン)を基に位置関係を求めるための処理手順をフローチャートの形式で示している。このような処理動作は、実際には、コンピュータ部内のCPUがROMに格納されているプログラムを実行するという形態で実現される。
【0186】
まず、IDカメラが光ビーコンを認識する(ステップS1)。IDカメラは、撮影した画像と、光ビーコンの送信データおよびその画像上の座標を出力することができる。
【0187】
次いで、光ビーコンの点滅データから、IDカメラは送信データを抽出する。(ステップS2)。その送信データのことを本明細書ではID情報と呼ぶが、このID情報にはいろいろな情報を含めることが可能である。ここでは、ID情報を、ビーコンID、座標情報とする(図23を参照のこと)。
【0188】
ビーコンIDとは、光ビーコン固有のIDであり、グループの光ビーコンは同じIDとする。ここでは、光ビーコン1〜4は同じビーコンID、光ビーコン5〜8は同じビーコンID、光ビーコン1〜4と5〜8とでは、ビーコンIDは異なる。したがって、このビーコンIDを調べることによって、光ビーコン1〜4と光ビーコン5〜8を区別し、さらにそれぞれのグループがペアであることがわかる。すなわち、このビーコンIDは、ペア情報を含んだものになっている。
【0189】
座標情報とは、各光ビーコンのワールド座標系Wにおける座標を示す。前記pi=(xi,yi,0)(i=1..4)に相当する。これらを、実座標(単位系もメートルなど既知のものにする)にしておくことで、3次元的な位置関係が実寸で算出することができる。また、より範囲の広い座標系で表しておくことにより、より広範な範囲でのカメラの位置を算出することも可能である。
【0190】
次いで、IDカメラから出力される光ビーコン1〜4の画像上の座標を取得する(ステップS3)。光ビーコン1〜4のビーコンIDと座標情報とともに、この画像上の座標を取得することで、コンピュータ部により3次元位置関係を算出可能になる。
【0191】
そして、上記の式(5)に光ビーコンのワールド座標系の位置情報pi=(xi,yi,0)(i=1..4)と画像上の座標Pi=(Xi,Yi)(i=1..4)を代入することで、カメラ・パラメータ行列Uを算出する(ステップS4)。このようにして、IDカメラと4つの光ビーコンの3次元的な位置関係を求めることができる訳である。
【0192】
また、図24には、カメラで捉えた4つの光学的信号(光ビーコン)から3次元位置関係算出して、3次元仮装オブジェクトを実世界の撮影画像にオーバーレイ表示するための処理手順をフローチャートの形式で示している。このような処理動作は、実際には、コンピュータ部内のCPUがROMに格納されているプログラムを実行するという形態で実現される。
【0193】
まず、IDカメラが光ビーコンを認識する(ステップS11)。IDカメラは、撮影した画像と、光ビーコンの送信データおよびその画像上の座標を出力することができる。
【0194】
次いで、光ビーコンの点滅データから、IDカメラは送信データを抽出する。(ステップS12)。その送信データのことを本明細書ではID情報と呼ぶが、このID情報にはいろいろな情報を含めることが可能である。ここでは、ID情報を、リンク先情報とビーコン番号とする(図25を参照のこと)。
【0195】
ここで言うリンク先情報は、IPアドレスやURLなどネットワーク上の場所を指し示す情報である。また、ビーコン番号は、同じリンク先情報を持つ光ビーコンが複数あった場合に、その光ビーコンであるかどうかを区別するための番号である。ここでは、光ビーコン1〜4は同じリンク先情報を持つがビーコン番号はそれぞれ異なり、光ビーコン1が1、光ビーコン2が2、光ビーコン3が3、光ビーコン4が4とする。
【0196】
次いで、IDカメラ付きネットワーク端末は、先行ステップS12で得たリンク先情報を基に、ネットワーク・インタフェース部を使って、ネットワーク網を介してサーバに接続し、以下のデータを取得する(ステップS13)。
【0197】
(1)オーバレイするオブジェクト・データ(3次元オブジェクト)及びその座標、画像合成パラメータ:
勿論、3次元オブジェクト以外にも画像、ビデオ、テキストやこれらの組み合わせであってもよい。オブジェクト・データは、配置するために、ワールド座標系Wの位置データを含む。画像合成パラメータとしては、例えば、α値がある。これにより、オーバーレイ表示したときに、オブジェクトに透明度を持たせることができ、オブジェクトの向こうにカメラ画像が薄く見えるようにするといった効果を持たせることが可能となる。
(2)ビーコン番号に対応するワールド座標情報:
光ビーコン1〜4に対応する座標情報pi=(xi,yi,0) (i=1..4)を取得する。
【0198】
次いで、IDカメラから出力される光ビーコン1〜4の画像上の座標を取得する(ステップS14)。光ビーコン1〜4のビーコンIDと座標情報とともに、この画像上の座標を取得することで、コンピュータ部により3次元位置関係を算出可能になる。
【0199】
次いで、上記の式(5)に光ビーコンのワールド座標系の位置情報pi=(xi,yi,0)(i=1..4)と画像上の座標Pi=(Xi,Yi)(i=1..4)を代入することで、カメラ・パラメータ行列Uを算出する(ステップS15)。
【0200】
次いで、上記の式(12)又は式(13)を適用して,焦点距離fを算出する(ステップS16)。ここで,検出誤差を小さくするために、中沢外著の論文(前述)に記載の手法を利用してもよい。
【0201】
次いで、コンピュータ部は、IDカメラから撮影画像を取得する(ステップS17)。
【0202】
次いで、先行ステップS15で求めたカメラ・パラメータ行列Uを用いて,上記の式(4)及び(5)から3次元オブジェクト・データを画面座標系(X,Y)に変換する(ステップS18)。
【0203】
次いで、IDカメラから得た画像を先行ステップS18で求めた3次元オブジェクトと画像合成して、表示部に表示出力する(ステップS19)。ここで、もしα値がある場合には、αブレンディングを行なった後に表示するようにしてもよい。
【0204】
以上で、IDカメラと4つの光ビーコンの3次元的な位置関係を求め、その光ビーコンに対してある相対位置に3次元オブジェクトを置いたように、カメラ画像に3次元オブジェクトを画像合成することができる訳である。
【0205】
[追補]
以上、特定の実施形態を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施形態の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、冒頭に記載した特許請求の範囲の欄を参酌すべきである。
【0206】
【発明の効果】
以上詳記したように、本発明によれば、伝送データに併せて送信元の空間的位置などの実世界状況を送受信することができる、優れたデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法を提供することができる。
【0207】
また、本発明によれば、送信機側では光学的パターンを発光することにより所望のデータを送信するとともに受信機側では光学的パターンをカメラなどの2次元平面で受光して、光学的パターンが表わす情報とともに送信元の空間的情報を併せて受信することができる、優れたデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法を提供することができる。
【0208】
また、本発明によれば、送信機と受信機の相対的な位置が変化するような通信環境であっても、光強度の時間的変化からなる光学的パターンで表わされたデータをロバストに伝送することができる、優れたデータ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法を提供することができる。
【0209】
カメラとオブジェクトの3次元的な位置関係を計測する場合、従来の手法ではは、紙に印刷されたマーカを利用したり、実世界オブジェクトに貼り付けた複数のマーカを利用するため、カメラとマーカの距離が離れたり、マーカの向きがカメラに対して傾く場合には、マーカの検出が困難となり位置姿勢の検出ができなくなるという問題がある。また、環境光の変化によって認識が困難になることも多い。また、複数点(4点)以上の座標情報が必要であり、未知の形状のものには適用できないという問題がある。
【0210】
これに対し、本発明によれば、送信データを点滅パターンとして発光する光ビーコンと、同時に複数の光ビーコンの送信データとその光ビーコンの画像上の位置を認識可能なカメラを用いることによってこれらの問題を解決することができる。すなわち、光ビーコンをマーカーとして用いることで、比較的遠くにある光ビーコンでもロバストに認識可能であり、光ビーコンを多少カメラに対して傾けても、認識可能なシステムを実現することできる。また、屋外などの環境光に対しても、従来のマーカー等に比べると、非常にロバストであるといえる。
【0211】
また、複数の光ビーコンがあった場合に、それぞれの光ビーコンの送信データに、どの光ビーコンがペアであるかの情報と座標情報を持たせることで、あらかじめカメラ側で登録されていない光ビーコンであっても、その複数の光ビーコンとカメラの位置関係を算出することが可能となる。
【0212】
また、光ビーコンの送信データに、実世界オブジェクトに関する情報を含めることで、サイバーコードで実現していた実世界オブジェクトにリンクしている仮想オブジェクトの情報や、前記実世界オブジェクトに関する情報一般を、カメラ側でロバストに受信することを可能とする。また、この場合には、光ビーコンの送信データに光ビーコンの座標情報を持たせずに、光ビーコンを一意に特定できる情報が送信データに含まれていれば、座標情報をサーバー側に持たせることも可能である。
【図面の簡単な説明】
【図1】本発明の一実施形態に係るデータ通信システム10の構成を模式的に示した図である。
【図2】送信機20の内部構成を模式的に示した図である。
【図3】送信機20内のデータ処理部22の内部構成を示した図である。
【図4】受信機50の受光ブロック51の構成を模式的に示した図である。
【図5】受信機50における1つの受光ブロック51の内部構成を模式的に示した図である。
【図6】受信機50内のデータ処理部60の内部構成を模式的に示した図である。
【図7】送信機20側のデータ送信処理手順を示したフローチャートである。
【図8】本実施形態に係るデータ通信システム10においてデータ伝送に使用されるデータ・フレームの形式を示した図である。
【図9】図7に示したデータ送信処理のうち、ステップS3におけるデータ・フレーム生成の詳細な処理手順を示したフローチャートである。
【図10】パターン表示部23から光学的に分別可能なパターンの形式で送出されたデータを受信機50側で受信処理するための手順を示したフローチャートである。
【図11】作業メモリ54内に設けられた受信データ・バッファの構成を模式的に示した図である。
【図12】受信機50側で受光した光学的パターンをバイト系列に追加登録するための処理手順を示したフローチャートである。
【図13】運動モデルに基づいてパターン位置を検出するために使用されるデータ・バッファの形式を示した図である。
【図14】運動モデルに基づいた予測を行なうための処理手順を示したフローチャートである。
【図15】運動モデルを用いて光学的パターンの検出位置をトラッキングするメカニズムを説明するための図である。
【図16】1データ・フレームを送信するための処理手順を示したフローチャートである。
【図17】トラッキングを行なわずに受信を行なう方式で使用されるデータ・バッファの形式を模式的に示した図である。
【図18】図17に示したデータ・バッファへのデータ登録手順を示したフローチャートである。
【図19】カメラで捉えた4つの光学的信号を基に位置関係を求める方法を説明するための図である。
【図20】カメラで捉えた4つの光学的信号を基に位置関係を求めるためのシステム構成を模式的に示した図である。
【図21】コンピュータ部の構成を模式的に示した図である。
【図22】カメラで捉えた4つの光学的信号を基に位置関係を求めるための処理手順を示したフローチャートである。
【図23】送信データの構成例を示した図である。
【図24】カメラで捉えた4つの光学的信号(光ビーコン)から3次元位置関係算出して、3次元仮装オブジェクトを実世界の撮影画像にオーバーレイ表示するための処理手順を示したフローチャートである。
【図25】送信データの構成例を示した図である。
【符号の説明】
10…データ通信システム
20…送信機
21…送信データ生成部
22…情報処理部
23…パターン表示部
31…データ入力部,32…演算処理回路
33…RAM,34…ROM
35…パターン出力部,36…バス
50…受信機
51…受光ブロック
60…データ処理部
61…画像入力部,62…演算処理回路
63…RAM,64…ROM
65…結果出力部,66…バス
70…アプリケーション部
81…受光素子
82…バンド・パス・フィルタ
83…フェーズ・ロック・ループ
84…A/D変換器
85…撮像データ保存用メモリ
86…2値化データ保存用メモリ
87…転送データ保存用メモリ
88…制御部

Claims (16)

  1. 送信機側では、送信データを構成するバイト列を各光源の明るさの変化のパターンからなる光学信号に符号化して送信し、
    受信機は、複数の画素を2次元マトリックス上に配置した受光部を備え、前記受光部を用いて所定のフレームレートでシーンを撮影するカメラ・モードと、撮影を行なう時間以外の余った時間を利用して、前記受光部の受光画像に含まれる明るさの変化のパターンからなる光学信号を復号してバイト列を算出するとともに、受光面上で同じ送信機から受光した光学信号を同定して、同じ送信機からの光学信号を復号して得たバイト列を連結して送信データを復元するデコード・モードを実行し、
    複数の送信機が存在するシステム環境下において、各送信機は、1つの実世界オブジェクトの近傍に設置されて組となって光ビーコンとして動作する送信機に関する情報及び送信機の位置情報を送信データに付加し、
    受信機は、前記の送信データに付加された情報を基に前記受光画像上で同じ組となっていることが検出された各光学信号の前記受光画像上での位置を基に、前記実世界オブジェクトの近傍に設置された前記光ビーコンの空間的位置を特定する、
    ことを特徴とするデータ通信システム。
  2. 前記受信機は、受光位置が変化する光学信号を追跡して、同じ送信機からの光学信号を同定する、
    ことを特徴とする請求項1に記載のデータ通信システム。
  3. 前記送信機は送出するデータ最小単位毎に識別情報を付加し、
    前記受信機は受光した光学信号を認識してこれに含まれる識別情報を基に同じ送信機からの光学信号を同定する、
    ことを特徴とする請求項1に記載のデータ通信システム。
  4. 複数の送信機が存在するシステム環境下で各送信機が1つの実世界オブジェクトの近傍に設置されて組となって光ビーコンとして動作する送信機に関する情報及び送信機の位置情報を送信データに付加して光学信号を送信する請求項1に記載のデータ通信システムにおいて、受信機として動作し、光学的に分別可能な複数のパターンの形式で表示されるデータを受信するデータ受信装置であって、
    複数の画素を2次元マトリックス上に配置した2次元受光面上で送信データを構成するバイト列が光源の明るさの変化のパターンに符号化された光学信号を受光する受光手段と、
    受光画像を認識し、光学信号を復号して、送信されたバイト列を算出するデータ復号手段と、
    受光面上で同じ送信機からの受光パターンを同定する同定手段と、
    同じ送信機からのバイト列を連結して送信データを復元するデータ復元手段と、
    を具備し、
    前記受光手段を用いて所定のフレームレートでシーンを撮影するカメラ・モードと、撮影を行なう以外の余った期間を利用して、前記受光部の受光画像に含まれる明るさの変化のパターンからなる光学信号を復号してバイト列を算出するとともに、受光面上で同じ送信機から受光した光学信号を同定して、同じ送信機からの光学信号を復号して得たバイト列を連結して送信データを復元するデコード・モードを実行し、
    前記の送信データに付加された情報を基に前記受光画像上で同じ組となっていることが検出された各光学信号の前記受光画像上での位置を基に、前記実世界オブジェクトの近傍に設置された前記光ビーコンの空間的位置を特定する、
    ことを特徴とするデータ受信装置。
  5. 前記同定手段は、受光位置が変化する光学信号を追跡して、同じ送信機からの光学信号を同定する、
    ことを特徴とする請求項4に記載のデータ受信装置。
  6. 前記同定手段は、受光画像フレーム間で受光位置の変化が所定値以下となる光学信号を同じ送信機からの光学信号として同定する、
    ことを特徴とする請求項5に記載のデータ受信装置。
  7. 前記同定手段は、2次元受光面上での過去の検出位置を基に光学信号の運動モデルを仮定して、該運動モデルにより予測される領域にて光学信号を探索する、
    ことを特徴とする請求項5に記載のデータ受信装置。
  8. 最小送信データ毎に送信機の識別子が付加されており、
    前記同定手段は、受光した光学信号を認識してこれに含まれる識別子を基に同じ送信機からの光学信号を同定する、
    ことを特徴とする請求項4に記載のデータ受信装置。
  9. 表示されるデータには実世界オブジェクトに関する情報が付加されており、
    前記同定手段は、前記の表示されるデータに付加された情報を認識して、該実世界オブジェクトに関連する処理を起動する、
    ことを特徴とする請求項4に記載のデータ受信装置。
  10. 表示されるデータには送信機自体又はその近辺の状態に関する情報が付加されており、
    前記同定手段は、前記の表示されるデータに付加された情報を認識して、送信機自体又はその近辺の状態に応じた処理を起動する、
    ことを特徴とする請求項4に記載のデータ受信装置。
  11. 各送信機が1つの実世界オブジェクトの近傍に設置されて組となって光ビーコンとして動作する送信機に関する情報及び送信機の位置情報を送信データに付加して光学信号を送信する環境下で、光学的に分別可能な複数のパターンの形式で表示されるデータを複数の画素を2次元マトリックス上に配置した受光部で受信する、請求項1に記載のデータ通信システム受信機におけるデータ受信方法であって、
    送信データを構成するバイト列が光源の明るさの変化のパターンに符号化された光学信号を2次元受光面上で受光する受光ステップと、
    前記受光部を用いて所定のフレームレートでシーンを撮影するステップと、
    撮影を行なう以外の余った期間を利用して、前記受光部の受光画像に含まれる明るさの変化のパターンからなる光学信号を復号してバイト列を算出するとともに、受光面上で同じ送信機から受光した光学信号を同定して、同じ送信機からの光学信号を復号して得たバイト列を連結して送信データを復元するステップと、
    を具備し、
    前記の送信データに付加された情報を基に前記受光画像上で同じ組となっていることが検出された各光学信号の前記受光画像上での位置を基に、前記実世界オブジェクトの近傍に設置された前記光ビーコンの空間的位置を特定する、
    ことを特徴とするデータ受信方法。
  12. 請求項1に記載のデータ通信システムにおいて送信機として動作するデータ送信装置であって、
    送信データを構成するバイト列を生成するデータ処理手段と、
    付加的な情報を表わすL1ビットと該バイト列を分割して得たL2ビットとを連結したN(=L1+L2)ビットのデータを光源の明るさの変化のパターンからなる光学信号に符号化して送信するデータ送出手段と、
    を具備し、
    複数の送信機が存在するシステム環境下において、1つの実世界オブジェクトの近傍に設置されて組となって光ビーコンとして動作する送信機に関する情報及び送信機の位置情報を送信データに付加する、
    ことを特徴とするデータ送信装置。
  13. 付加的な情報は機器識別子である、
    ことを特徴とする請求項12に記載のデータ送信装置。
  14. 付加的な情報は実世界オブジェクトに関する情報である、
    ことを特徴とする請求項12に記載のデータ送信装置。
  15. 付加的な情報は当該データ送信装置自体又はその近辺の状態に関する情報である、
    ことを特徴とする請求項12に記載のデータ送信装置。
  16. 請求項1に記載のデータ通信システム送信機におけるデータ送信方法であって、
    送信データを構成するバイト列を生成するデータ処理ステップと、
    機器識別子を表わすL1ビットと該バイト列を分割して得たL2ビットとを連結したN(=L1+L2)ビットのデータを光源の明るさの変化のパターンからなる光学信号に符号化して送信するデータ送出ステップと、
    を具備し、
    複数の送信機が存在するシステム環境下において、1つの実世界オブジェクトの近傍に設置されて組となって光ビーコンとして動作する送信機に関する情報及び送信機の位置情報を送信データに付加する、
    ることを特徴とするデータ送信方法。
JP2002209336A 2002-07-18 2002-07-18 データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法 Expired - Fee Related JP4288904B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002209336A JP4288904B2 (ja) 2002-07-18 2002-07-18 データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002209336A JP4288904B2 (ja) 2002-07-18 2002-07-18 データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法

Publications (3)

Publication Number Publication Date
JP2004056343A JP2004056343A (ja) 2004-02-19
JP2004056343A5 JP2004056343A5 (ja) 2005-10-20
JP4288904B2 true JP4288904B2 (ja) 2009-07-01

Family

ID=31933211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002209336A Expired - Fee Related JP4288904B2 (ja) 2002-07-18 2002-07-18 データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法

Country Status (1)

Country Link
JP (1) JP4288904B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007127536A (ja) * 2005-11-04 2007-05-24 Advanced Telecommunication Research Institute International 姿勢検出システム及び発光装置
JP4600297B2 (ja) * 2006-01-11 2010-12-15 ソニー株式会社 オブジェクトの関連情報の記録システム,オブジェクトの関連情報の記録方法,テレビジョン受像機及び表示制御方法
JP4935108B2 (ja) * 2006-02-21 2012-05-23 ソニー株式会社 通信アドレスの認識システム,表示装置,表示装置との間でネットワーク通信を行う機器,通信アドレスの認識方法,プログラム
JP5063023B2 (ja) * 2006-03-31 2012-10-31 キヤノン株式会社 位置姿勢補正装置、位置姿勢補正方法
JP4973299B2 (ja) 2007-01-19 2012-07-11 ソニー株式会社 光通信装置、光通信方法
JP2008288629A (ja) * 2007-05-15 2008-11-27 Sony Corp 画像信号処理装置、撮像素子、および画像信号処理方法、並びにコンピュータ・プログラム
JP4552074B2 (ja) 2008-05-29 2010-09-29 カシオ計算機株式会社 情報伝送システム、情報復号装置、報知方法、及び、プログラム
JP5155063B2 (ja) * 2008-08-21 2013-02-27 ビーコア株式会社 発光装置及び対象物の追尾方法
CN105847207B (zh) * 2016-06-08 2023-01-24 金陵科技学院 基于光波信息的无人机身份识别装置及信息调制解调方法
EP3560814A4 (en) 2017-12-26 2020-05-27 Tianjin Deepfar Ocean Technology Co., Ltd. REMOTE CONTROLLED UNDERWATER VEHICLE AND ITS CONTROL METHOD

Also Published As

Publication number Publication date
JP2004056343A (ja) 2004-02-19

Similar Documents

Publication Publication Date Title
JP3918813B2 (ja) データ通信システム、データ送信装置、並びにデータ受信装置
Raskar et al. RFIG lamps: interacting with a self-describing world via photosensing wireless tags and projectors
JP2003254716A (ja) 3次元位置・姿勢計測装置及び方法、記憶媒体、並びにコンピュータ・プログラム
JP5471626B2 (ja) 情報処理装置、マップ更新方法、プログラム及び情報処理システム
CN105187122B (zh) 信息提供系统、信息提供方法以及记录介质
JP4701479B2 (ja) リンク情報表示装置及びその表示方法
Matsushita et al. ID CAM: A smart camera for scene capturing and ID recognition
KR101533320B1 (ko) 포인터가 불필요한 3차원 객체 정보 획득 장치
CN108540542B (zh) 一种移动增强现实系统及显示的方法
JP2003323239A (ja) 情報処理装置及び情報処理方法、記憶媒体、並びにコンピュータ・プログラム
CN106372702A (zh) 一种定位标识及其定位方法
JP4288904B2 (ja) データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法
WO2003092291A1 (fr) Dispositif de detection d'objet, serveur de detection d'objet et procede de detection d'objet
Olwal et al. SurfaceFusion: unobtrusive tracking of everyday objects in tangible user interfaces
CN110569006B (zh) 显示方法、装置、终端设备及存储介质
CN110471580B (zh) 基于光标签的信息设备交互方法及系统
CN110737414B (zh) 交互显示方法、装置、终端设备及存储介质
US20040001074A1 (en) Image display apparatus and method, transmitting apparatus and method, image display system, recording medium, and program
JP4110514B2 (ja) データ符号化装置及び方法、データ復号化装置及び方法、データ送信装置、データ受信装置、記憶媒体、並びにコンピュータ・プログラム
KR101696102B1 (ko) 가상현실 제공 시스템 및 그 방법
JP4667833B2 (ja) 画像処理回路と画像センサーを基板に統合したインタラクティブ装置
Li et al. A hybrid pose tracking approach for handheld augmented reality
Kishino et al. Realizing a visual marker using LEDs for wearable computing environment
CN116128981A (zh) 光学系统标定方法、装置和标定系统
JP5257386B2 (ja) リンク情報表示装置、その表示方法およびリンク情報処理システム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050614

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050614

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070817

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071002

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080415

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080609

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081216

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090310

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090323

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120410

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130410

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees