JPWO2003036829A1 - データ通信システム、データ送信装置、並びにデータ受信装置 - Google Patents

データ通信システム、データ送信装置、並びにデータ受信装置 Download PDF

Info

Publication number
JPWO2003036829A1
JPWO2003036829A1 JP2003539200A JP2003539200A JPWO2003036829A1 JP WO2003036829 A1 JPWO2003036829 A1 JP WO2003036829A1 JP 2003539200 A JP2003539200 A JP 2003539200A JP 2003539200 A JP2003539200 A JP 2003539200A JP WO2003036829 A1 JPWO2003036829 A1 JP WO2003036829A1
Authority
JP
Japan
Prior art keywords
data
light receiving
optical signal
transmission
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003539200A
Other languages
English (en)
Other versions
JP3918813B2 (ja
Inventor
伸行 松下
伸行 松下
暦本 純一
純一 暦本
田島 茂
茂 田島
綾塚 祐二
祐二 綾塚
河野 通宗
通宗 河野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2003036829A1 publication Critical patent/JPWO2003036829A1/ja
Application granted granted Critical
Publication of JP3918813B2 publication Critical patent/JP3918813B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0325Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/1149Arrangements for indoor wireless networking of information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/60Receivers
    • H04B10/66Non-coherent receivers, e.g. using direct detection

Abstract

実世界オブジェクトには、所定の物理的な配置がなされた2以上のLEDなどの発光部からなる送信機を設置し、各発光部は所定ビット長の送信データを表す点滅パターンで明滅することによりデータ送信する。一方の受信機は、2次元受光面からなる受光部を備え、受光された点滅パターンを基に送信データをデコードするとともに、2次元受光面上での点滅位置を基にオブジェクトの空間情報を認識する。したがって、実世界上のオブジェクトからIDなどの情報を入手すると同時にオブジェクトの空間的な位置を同時に認識することができる。

Description

[技術分野]
本発明は、実空間上でデータを転送するデータ通信システム、データ送信装置、並びにデータ受信装置に係り、特に、機器IDやネットワーク・アドレス、ホスト・ネーム、URLなどの実世界上のオブジェクトに関連した情報、あるいはユーザの位置などの実世界状況などを有線又は無線ネットワークなどの通信媒体を用いずにオブジェクトから直接データ転送するデータ通信システム、データ送信装置、並びにデータ受信装置に関する。
さらに詳しくは、本発明は、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ転送が可能なデータ通信システム、データ送信装置、並びにデータ受信装置に係り、特に、通信媒体では接続されていない実世界上のオブジェクトからIDなどの情報を入手すると同時にオブジェクトの空間的な位置や姿勢などの実世界状況を認識するデータ通信システム、データ送信装置、並びにデータ受信装置に関する。
[背景技術]
情報処理技術や情報通信技術が高度に発達した現代においては、パーソナル・コンピュータや携帯情報端末を始めとする情報機器がオフィスや家庭内などの実世界上のいたるところに遍在する。このような環境下では、機器同士を接続して、いつでもどこでも欲しい情報を入手する「ユビキタス(Ubiquitous)・コンピューティング」や、実世界における状況(実世界の事物やユーザの位置など)を積極的に利用した拡張現実システム(Augmented Reality:AR)の実現が期待される。
ユビキタス・コンピューティングの概念は、人がどこに移動しても利用できるコンピュータの環境が同じであることである。すなわち、「いつでもどこでも」なのだから、究極のユビキタス・コンピューティングは、必ずしもコンピュータやPDA(Personal Digital Assistant)や携帯電話機などの情報端末を必ずしも必要とはしない。
また、拡張現実システムによれば、ユーザの位置などの実世界情報を利用したサービスを提供することができる。この場合、ユーザは携帯端末を保持するだけで、システムはユーザの近傍や視界中にある実世界の事物に応じた情報を提示して、ネットワーク上にある膨大な情報を利用して日常生活のあらゆる局面を支援することができる。例えば、ショッピング・モールでカメラ付き携帯端末をかざしてCDショップを訪ねると、お薦めの新譜が端末上で表示される。また、レストランの看板を見ると、料理の感想が表示される。
ところが、ネットワーク上でデータ転送先となるコンピュータや周辺機器(すなわちユーザ端末などのターゲット)を指定したり、あるいはユーザの位置や実世界オブジェクトに関連した情報など実世界状況を入手したりしようとすると、すぐ目の前にある相手であっても、その名前(若しくは、機器固有のIDやネットワーク・アドレス、ホスト・ネーム、URL/URIなどの資源識別子)を知る必要がある。すなわち、ユーザ操作に関して言えば、間接的な形式でしかコンピュータ間の連携がなされておらず、直感性にやや欠ける。
このような煩雑な手続を省略して、ユーザの識別情報を転送したり、ユーザの位置などの実世界状況を取得したりするための技術として、「サイバーコード(Cybercode)」などのビジュアル・コードやRFタグのような、実世界コンピューティングを利用した手法が提案されている。これらの手法によれば、ユーザは意識してネットワークにアクセスする必要はなく、自動的に拾われたオブジェクトのIDなどから、オブジェクトに関連する情報を獲得することができる。
ここで、サイバーコードとは、モザイク状の2次元バーコードであり、n×m(例えば7×7)マトリックスにセルが配列されたコード・パターン表示領域内で各セルを白又は黒の2値表現することで識別情報を付与することができる。サイバーコードの認識手順は、撮像画像を2値化するステップと、2値画像中からガイド・バーの候補を発見するステップと、ガイド・バーの位置や方向に基づいてコーナー・セルを探索するステップと、ガイド・バー及びコーナー・セルを検出したことに応答して画像ビットマップ・パターンを復号化するステップで構成される。
例えば、サイバーコードに対してあらかじめアプリケーションなどの機能や、機器ID、ネットワーク・アドレス、ホスト・ネーム、URLやその他のオブジェクト関連情報を登録しておく。そして、カメラの撮影画像からサイバーコードを認識したことに応答して、コンピュータは、登録されたアプリケーションを実行させたり(例えば「メールを起動する」など)、認識されたIDを基に相手のネットワーク・アドレスを探索して自動的に接続を果たしたり、認識されたURLを基に資源アクセスを行なったりすることができる。
また、RFタグは、固有の識別情報や読み書き可能な記憶領域を含んだデバイスであり、特定周波数の電波を受信したことに応答して識別情報や記憶されている情報に相当する電波を発信する動作特性を持ち、読み取り装置側で無線タグの識別情報や記憶領域に書き込まれている情報を読み出すことができる。したがって、無線タグの識別情報として機器IDやネットワーク・アドレス、ホスト・ネームを持たせたり、記憶領域にURLやその他のオブジェクトに関連する情報を書き込んでおくことにより、システムでは、登録されたアプリケーションを実行させたり(例えば「メールを起動する」など)、認識されたIDを基に相手のネットワーク・アドレスを探索して自動的に接続を果たしたり、認識されたURLを基に資源アクセスを行なったりすることができる。
しかしながら、ビジュアル・コードのような視認性の識別情報を用いた場合、距離に応じてコードの大きさが変化する。すなわち、オブジェクトが遠く離れるとコードが小さくなるので、遠くのものを認識するには大きなパターンを持つコードを形成する必要がある。言い換えれば、この手法に基づく情報伝達手法は距離に対するロバスト性に欠ける。例えば、遠くにあるビルを認識するためには、ビルに巨大なコードを貼り付ける必要があり、現実的でない。
また、RFタグの場合、ユーザはRFタグをタグ読み取り装置に向けたり接触させたりしなければならない。すなわち、至近距離の物体のみ認識が可能であり、遠くのものを認識することはできない。
また、データやコマンドを送信する簡単なシステムとして赤外線リモコンを挙げることができる。この場合、受信機は一般に単画素で構成されるので、送信機からの送信データが存在するか否かを識別するだけであり、受光信号には空間的分解能がなく、送信機のいる方向も検出できない。また、単画素がノイズとデータを混合して受信するので、ノイズとデータの分離が難しく、周波数フィルタや波長フィルタが必要となる。
また、オブジェクトの位置を検出するためにGPS(Global Positioning System)を利用することも考えられるが、この場合は、緯度・経度からなる位置情報しか取得することができないので、方角を知るにはさらに別の手段を装備しなければならない。また、衛星から電波を受信する必要があるので、都市部や屋内では利用が困難である。また、遠くからビルを指定する場合などのように、ユーザの位置が情報のリンク場所となる物体の位置と相違する場合に対応することができない。
さらに、特開2001−208511号公報には、位置測定用の発光部とデータを送信するための発光部とを別波長で光らせて通信を行う構成が記載されている。また、特開2001−59706号公報には、同期信号と同期して発光する発光源の位置を計測する構成が記載されている。しかしながら、これらの先行技術の構成では、送信器−受信器間の同期や送信器の波長分割などが必要であり、しすてむ構成の簡素化、小型化、省電力化が制限されると思料される。
[発明の開示]
本発明の目的は、通信媒体では接続されていない実世界上のオブジェクトから情報を直接転送することができる、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することにある。
本発明のさらなる目的は、機器IDやネットワーク・アドレス、ホスト・ネーム、URLなどの実世界上のオブジェクトに関連した情報、あるいはユーザの位置などの実世界状況などを有線又は無線ネットワークなどの通信媒体を用いずにオブジェクトから直接データ転送することができる、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することにある。
本発明のさらなる目的は、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ転送が可能な、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することにある。
本発明のさらなる目的は、通信媒体では接続されていない実世界上のオブジェクトからIDなどの情報を入手すると同時にオブジェクトの空間的な位置や姿勢などの実世界状況を認識することができる、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することにある。
本発明は、上記課題を参酌してなされたものであり、その第1の側面は、実世界上において、
送信データを生成するデータ処理部と、送信データを符号化した光学信号を発光する発光部とで構成される送信装置と、
前記送信装置からの光学信号を2次元受光面で受光する受光部と、前記2次元受光面上における光学信号の受光位置並びに受光した光学信号から送信データを復号するデータ処理部とで構成される受信装置と、
を具備し、
前記受光部におけるデータのサンプリング周波数は前記送信データの転送周波数より大きい、
ことを特徴とするデータ通信システムである。
但し、ここで言う「システム」とは、複数の装置(又は特定の機能を実現する機能モジュール)が論理的に集合した物のことを言い、各装置や機能モジュールが単一の筐体内にあるか否かは特に問わない。
例えば、ユーザに対して情報やメッセージを送信したい実世界オブジェクトの近傍に送信装置を設置しておく。送信装置は、送信データを符号化した光学信号を発光する1以上の発光部を備えている。これに対し、ユーザは、関心のある実世界オブジェクトに対して受信装置の2次元受光面を向ける。すると、受光された光学信号を復号化して送信データを取得するとともに、2次元受光面上で光学信号を検出した受光面上の位置情報を基にして、送信装置を取り付けた実世界オブジェクトの空間情報などの実世界状況を併せて認識することができる。
本発明の第1の側面に係るデータ通信システムでは、受光部のデータのサンプリング周波数が送信データの転送周波数の倍よりも大きくすると、サンプリング定理により、送信機と受信機とで非同期通信が可能となる。なお、本発明では、例えば受光部に高速動作の可能なCMOSセンサを用いる。あるいは、例えば、シーンを撮影するための画像モードと画像モード以外の時間に行なわれる光学信号を受信処理するためのデコード・モードを含む2以上の動作モードで受光部を動作させるなどの各種の方法により、前記受光部でのサンプリング周波数と送信データの転送周波数の関係を実現することができる。ここで、これら送信器と受信器の動作速度を調整するための構成は、ここで例示したものに限定されるものではなく、システム・アプリケーションの要求に応じて適切なものを適用することが可能である。
本発明の第1の側面に係るデータ通信システムは、基本的には「見る」というワイドレンジな行為を利用した伝送方式であることから、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ転送が可能である。
ここで、前記送信装置は、実世界オブジェクトの近傍に設置して用いられ、該実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)又はURI(Uniform Resource Identifier)などの資源識別子、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報を含んだ送信データを表した光学信号を発光することができる。
送信装置側では、送信されるデジタル・データを所定の変調方式により変調し、最終的に光源の明るさの変化のパターンからなる光学信号として送信する。その際に採用する変調方式により、光源の明るさの変化パターンは異なる。
例えば、キャリアの振幅のオン/オフによりビットを表現する振幅変調方式(ASK:Amplitude shift Keying)では、光源は点灯と消灯を繰り返し、点滅パターンとなる。また、AM(Amplitude Modulation)変調では光源は点灯したまま明るさの強弱がパターンとなる。他にも、FM(Frequency Modulation)変調や、キャリアの周波数の変化によりビットを表現するFSK(Frequency Shift Keying)、送りたいデジタル・データのビット列をそのまま点滅パターンで表現したベースバンド方式など、さまざまな変調方式を採用可能である。
あるいは、前記送信装置側ではノイズ耐性などの観点から、ベースバンド信号に強度、周波数などの変調処理を適用して、点滅パターンとしてではなく、光強度信号、光周波数信号として送出するようにしてもよい。
また、前記受信装置は、前記2次元受光面上における光学信号の受光位置及び受光した光学信号から復号された送信データに対応する処理サービスを実行するアプリケーション部をさらに備えていてもよい。
例えば、各実世界オブジェクトとユーザ端末とを接続する通信媒体が敷設されているような場合、実世界オブジェクトの近傍に設置した送信装置は、実世界オブジェクトのネットワーク・アドレスなどのアクセス手段を光学信号という形態で発信することができる。また、前記アプリケーション部は、光学信号から復号されたデータを基に実世界オブジェクトの前記通信媒体上のアドレスを取得して、ユーザ端末と実世界オブジェクトとの接続を確立させることができる。すなわち、ユーザは、関心のある実世界オブジェクトに受信装置を向けるという直感的な作業だけで実世界オブジェクトとの接続を果たすという”gaze−link”メタファ(後述)を実現することができる。
また、前記受信装置は、インターネット上に構築されたWWW(World Wide Web)などのような外部の情報提供空間にアクセスするための接続手段をさらに備えていてもよい。このような場合、前記アプリケーション部は、光学信号を復号して得られたデータを基に前記情報提供空間を探索して、実世界オブジェクトに関連する情報コンテンツを取り出すことができる。
また、前記受信装置は、前記2次元受光面において受光された明るさに応じた撮影画像を処理する撮影画像処理手段をさらに備えていてもよい。また、前記受信装置は、画像を表示する画面表示手段をさらに備えていてもよい。
このような場合、前記アプリケーション部は、撮影画像を画面表示させるとともに、撮影画像上で点滅パターンの受光位置に対応する場所に、点滅パターンを復号して得られたデータをオーバーレイ表示させることによって、”NaviCam”(後述)のような拡張現実感システムを実現することができる。
また、送信装置側では、発光部における出力を上げることにより長距離での光学信号の伝送を実現することができる。しかし、出力の強い光学信号を受信装置が近距離で受信した場合には、受光強度が強過ぎて受光部ではサチュレーション(受光素子の飽和)などの障害を起してしまい、有効なデータの再現が不可能となる。このような場合、受信装置側では、受光部の受光面を、受光信号が充分強力で受光素子のサチュレーションなどによりデータ再現が不可能な領域と、受光信号が必要充分な強度でありデータ再現が可能な領域と、受光信号が微弱で受信不可能な領域に分割して、データ再現が可能な領域からの受光信号のみを用いて送信データのデコードを行なうようにすればよい。また、このデータ再現が可能な領域の重心位置を求めて、これを基に送信装置の空間的位置を特定するようにしてもよい。
また、前記送信装置は複数の発光部を備えていてもよい。このような場合、前記アプリケーション部は、前記2次元受光面上において検出された各発光部からの光学信号を受光した画素位置を基に、前記送信装置の姿勢やその他の空間的位置を実世界状況として特定することができる。
実世界上に複数の送信装置を配置して、1つの受信装置に向かって同時に光学信号の送信を行なうようにしてもよい。このような場合、前記受信装置側では、前記受光部が2以上の送信装置からの光学信号を同時に受光し、前記データ処理部は前記2次元受光面上の受光位置に応じて光学信号を分離し、前記アプリケーション部はデコードされた各送信データを前記2次元受光面上の受光位置に応じて分離して検出することができる。言い換えれば、本発明の第1の側面に係るデータ通信システムによれば、ロバストなマルチチャネル伝送を実現することができる。
また、前記受信装置は2以上の2次元受光面を備えていてもよい。このような場合、前記アプリケーション部は、各2次元受光面において検出された光学信号及びその受光位置を基にステレオ・マッチングを行なうことで、前記送信装置の距離情報などの空間的位置を特定することができる。
また、本発明の第2の側面は、
送信データを生成するデータ処理部と、
送信データを光学信号に符号化して送出する発光部と、
を具備し、
前記発光部は、光学信号を2次元受光面で受光する受光部と、前記2次元受光面上における光学信号の受光位置並びに受光した光学信号から送信データを復号するデータ処理部とで構成され、前記受光部におけるデータのサンプリング周波数が前記送信データの転送周波数より大きい受信装置に対して、光学信号を送出する、
ことを特徴とするデータ送信装置である。
本発明の第2の側面に係るデータ送信装置は、指向性の強い光学信号を使ってデータを搬送することから、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ転送が可能である。
本発明の第2の側面に係るデータ送信装置は、例えば、実世界オブジェクトの近傍に設置して用いられる。このような場合、前記データ処理部は、該実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)又はURI(Uniform Resource Identifier)などの資源識別子、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報を含んだ送信データを表した光学信号を発信することによって、距離的にロバストなデータ転送が可能となる。
また、前記発光部では、送信されるデジタル・データを所定の変調方式により変調し、最終的に光源の明るさの変化のパターンからなる光学信号として送信する。その際に採用する変調方式により、光源の明るさの変化パターンは異なる。例えば、キャリアの振幅のオン/オフによりビットを表現するASK(Amplitude Shift Keying)変調では、光源は点灯と消灯を繰り返した点滅パターンとなる。また、AM(Amplitude Modulation)変調では光源は点灯したまま明るさの強弱がパターンとなる。他にも、FM(Frequency Modulation)変調や、キャリアの周波数の変化によりビットを表現するFSK(Frequency Shift Keying)変調、送りたいデジタル・データのビット列をそのまま点滅パターンで表現したベースバンド方式など、さまざまな変調方式を採用することが可能である。また、前記発光部は、光学信号のノイズ耐性などの観点から、ベースバンド信号に強度、周波数などの変調処理を適用して、点滅パターンとしてではなく、光強度信号、光周被数信号として送出するようにしてもよい。
また、本発明の第2の側面に係るデータ送信装置は、2以上の発光部を備えて、各発光部間の物理的配置によって実世界における姿勢などの空間情報を表すようにしてもよい。
また、本発明の第3の側面は、
送信データが符号化された光学信号を2次元受光面で受光する、データのサンプリング周波数が前記送信データの転送周波数より大きい、受光部と、
前記2次元受光面上における光学信号の受光位置並びに受光した光学信号から復号されたデータの組み合わせに基づくデータ処理を実行するデータ処理部と、
を具備することを特徴とするデータ受信装置である。
本発明の第3の側面に係るデータ受信装置は、指向性の強い光学信号をキャリアとしたデータを受信することから、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ受信が可能である。
ここで、送信装置側では、送信されるデジタル・データを所定の変調方式により変調し、最終的に光源の明るさの変化のパターンからなる光学信号として送信する。例えば、キャリアの振幅のオン/オフによりビットを表現するASK変調を用いて、光源は点灯と消灯を繰り返した点滅パターンからなる光学信号として、あるいはAM変調により光源の明るさの強弱からなる光学信号としてデータを送信している。これら以外にも、FM変調や、キャリアの周波数の変化によりビットを表現するFSK変調、送りたいデジタル・データのビット列をそのまま点滅パターンで表現したベースバンド方式など、さまざまな変調方式を採用することが可能である。また、前記送信装置側ではノイズ耐性などの観点から、ベースバンド信号に強度、周波数などの変調処理を適用して、点滅パターンとしてではなく、光強度信号、光周波数信号として送出していることもある。このような場合、受信装置側では、送信側の変調方式に対応した復調処理を適用することにより、送信データを再現することができる。
本発明の第3の側面に係るデータ受信装置は、前記2次元受光面上における光学信号の受光位置及び受光した光学信号から復号された送信データに対応する処理サービスを実行するアプリケーション部をさらに備えていてもよい。
前記アプリケーション部は、復号された送信データを基に、光学信号を発光する光源が設置されている実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)又はURI(Uniform Resource Identifier)などの資源識別子、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報を抽出することができる。
また、本発明の第3の側面に係るデータ受信装置は、各実世界オブジェクトとユーザ端末とを接続する通信媒体をさらに備えていてもよい。そして、実世界オブジェクトの近傍に、光学信号によってデータ送信を行なうデータ送信装置を設置しておく。このような場合、前記アプリケーション部は、光学信号から復号されたデータを基に実世界オブジェクトの通信媒体上のアドレスを取得して、ユーザ端末と実世界オブジェクトとの接続を確立して、gaze−linlメタファ(後述)を実現することができる。
また、本発明の第3の側面に係るデータ受信装置は、WWWのような外部の情報提供空間にアクセスするための接続手段をさらに備えていてもよい。このような場合、前記アプリケーション部は、光学信号を復号して得られたデータを基に前記情報提供空間を探索して、実世界オブジェクトに関連する情報コンテンツを取り出すことができる。
また、本発明の第3の側面に係るデータ受信装置は、光学信号を受信する以外に、前記2次元受光面において受光された明るさ(濃淡)に応じた周囲画像を撮影処理する撮影画像処理手段をさらに備えていてもよい。また、本発明の第3の側面に係るデータ受信装置は、このような撮影画像を表示する画面表示手段をさらに備えていていもよい。
このような場合、前記アプリケーション部は、撮影画像を画面表示させるとともに、撮影画像上で光学信号の受光位置に対応する場所に、光学信号を復号して得られたデータをオーバーレイ表示させることにより、NaviCamのような拡張現実感システムを実現することができる。
また、送信装置側では、発光部における出力を上げることにより長距離での光学信号の伝送を実現することができる。しかし、出力の強い光学信号を受信装置が近距離で受信した場合には、受光強度が強過ぎて受光部ではサチュレーション(受光素子の飽和)などの障害を起してしまい、有効なデータの再現が不可能となる。このような場合、受信装置側では、受光部の受光面を、受光信号が充分強力で、受光素子のサチュレーションなどによりデータ再現が不可能な領域と、受光信号が必要充分な強度でありデータ再現が可能な領域と、受光信号が微弱で受信不可能な領域に分割して、データ再現が可能な領域からの受光信号を用いて送信データのデコードを行なうようにすればよい。また、このデータ再現が可能な領域の重心位置を求めて、これを基に送信装置の空間的位置を特定するようにしてもよい。
また、前記アプリケーション部は、前記2次元受光面上において検出された2以上の光学信号の位置関係を基に、光学信号を発光する送信装置の空間的位置や姿勢などの実世界状況を特定することができる。
実世界上に複数の送信装置を配置して、1つの受信装置に向かって同時に光学信号の送信を行なうようにしてもよい。このような場合であっても、本発明の第3の側面に係る受信装置側は、前記受光部が2以上の送信装置からの光学信号を同時に受光し、前記データ処理部は前記2次元受光面上での受光位置に応じて光学信号を分離し、前記アプリケーション部は復号された各送信データを前記2次元受光面上の受光位置に応じて分離して検出することができる。言い換えれば、本発明の第3の側面に係る受信装置側によれば、ロバストなマルチチャネル伝送を実現することができる。
また、本発明の第3の側面に係るデータ受信装置は、2以上の2次元受光面を備えていてもよい。このような場合、前記アプリケーション部は、各2次元受光面において検出された光学信号及びその受光位置を基にステレオ・マッチングを行うことにより、光学信号を発光する送信装置の空間的位置を特定することができる。
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
[発明を実施するための最良の形態]
以下、図面を参照しながら本発明の実施形態について詳解する。
A.光学信号を利用したデータ通信システム
本発明は、有線又は無線ネットワークなどの通信媒体では接続されていないオブジェクトからデータを取得したり、あるいは、ネットワークなどの通信媒体を経由せずにオブジェクトからデータを直接取得したりすることができるデータ通信システムを提供するものである。
本発明に係るデータ通信システムは、光学的な形式で識別情報やその他のデータを担持又は伝送する光学信号と、これを捕捉する高速な2次元イメージ・センサを利用することで、空間解像度を持つとともに、遠距離でも利用可能なデータ伝送を実現する。
例えば、LEDのような点滅する光源を光学信号とする。したがって、ビジュアル・コードのように色の空間パターンに符号化するのではなく、距離に応じてデータが変化しない点滅パターンなどの時系列の光学信号に符号化してデータを送信することができる。
また、イメージ・センサは、例えばCMOS(Complementary Metal Oxide Semiconductor:相補性金属酸化膜半導体)センサやCCD(Charge Coupled Device:電荷結合素子)センサなどのように、無数の受光素子すなわち画素が2次元アレイ上に配置された構成であり、光学信号並びにその空間的情報を全画素でデコードする。イメージ・センサは、普通のカメラとしてシーンを撮影するとともに、そのイメージ・センサの視界中に配置された光学信号を長距離から受信することができる。
本発明に係るデータ通信システムを赤外線リモコンに例えるならば、送信装置は赤外線リモコンの送信機であり、受信装置はリモコン受信機をアレイ状に配置したアレイ・センサである。受信装置は、普通のカメラとしてシーンを撮影するだけでなく、光学信号を撮影したシーン画像上の座標と光学信号をデコードして取得されたデータを組にして(重畳して)出力することができる。例えば、ネットワーク型携帯端末にカメラを兼ねた受信装置を搭載して、作業環境としての実世界上の任意のオブジェクトに送信装置を設置しておけば、視界中にあるオブジェクトに応じて提示する拡張現実システムを構築することが可能となる(後述)。
実世界上のオブジェクトには、所定の物理的な配置がなされた1以上の発光部からなる送信機を設置することができる。送信機が出力する送信データとして、例えば、オブジェクトのIDやそのネットワーク・アドレス、ホスト・ネーム、URLやURIなどの資源識別子、その他のオブジェクト関連情報などが挙げられる。
勿論、1つの実世界オブジェクトに対して複数の発光部を搭載した送信機を構成してもよいし、あるいは、実世界上に複数の送信機を設置して、所定の受信機を目掛けて同時に光学信号を発してマルチチャネル伝送を行うこともできる(後述)。
送信機は、所定ビット長のデジタル形式の送信データを所定の変調方式により変調して、最終的に光源の明るさの変化のパターンからなる光学信号に符号化して送信する。その際に採用する変調方式により、光源の明るさの変化パターンは異なる。
例えば、キャリアの振幅のオン/オフによりビットを表現する振幅変調方式(ASK:Amplitude shift Keying)では、光源は点灯と消灯を繰り返し、点滅パターンとなる。また、AM(Amplitude Modulation)変調では光源は点灯したまま明るさの強弱がパターンとなる。他にも、FM(Frequency Modulation)変調や、キャリアの周波数の変化によりビットを表現するFSK(Frequency Shift Keying)、送りたいデジタル・データのビット列をそのまま点滅パターンで表現したベースバンド方式など、さまざまな変調方式を採用可能である。
あるいは、ノイズ耐性などの観点から、ベースバンド信号に強度、周波数などの変調処理を適用して、点滅パターンとしてではなく、光強度信号、光周波数信号として送出するようにしてもよい。
このような送信機の最低限の構成は、LEDのように点滅し又は強度調整が可能な光源である。光学信号を発信するために、受信機側のカメラと同期している必要はない。それぞれの独立した動作クロックに基づき一定の周期で点滅パターンなどの信号波形を表した光学信号を生成することかできればよい。LANなどネットワークのインフラを必要とせず、送信機を実世界上でユビキタスに配置することができる。
現在でも、屋内には、マイコンなどで制御されているさまざまなLEDがあり、これらを実世界オブジェクトの実世界状況を発信する送信機として利用することができる。例えば、パイロット・ランプは、ビデオ・デッキやファクシミリ、テレビジョン、パーソナル・コンピュータ、洗濯機など大抵の家電製品に搭載されている。パイロット・ランプはデバイスの状態をユーザに示すためにデバイスの状態を色などでインジケートすることができる。このようなLEDを機器搭載のマイコンで制御して光学信号を発信することがコストの増大を招くことはほとんどないであろう。
また、次世代の照明は蛍光灯や白熱灯ではなく、エネルギ効率が高く寿命が半永久的であるLEDになると考えられる。LEDは周波数応答性がよいため、高速に点滅させても人の目には点灯している照明として映ることから、すべての照明が異なる光学信号を発信する送信機として併用することも可能である。さらに、パソコンや携帯電話などディスプレイが液晶から有機EL(Electro Luminance)素子に移行すると、その表示駆動の周波数応答の高さを利用して、ユーザに画面表示を提供しつつ、高速に点滅して光学信号としても利用することが可能である。
屋外においても、看板の照明や信号機、巨大ディスプレイ、ビルの警告灯などを送信機の発光源として使用することが可能である。例えば、駅前にある巨大ディスプレイにコマーシャルなどの広告情報を表示しながら、その場でカメラ付き携帯端末を向けるとクーポンが発行されるといった、ユーザの実世界状況に応じたロケーション・マイレージなどのサービスが可能である。
本実施形態に係るデータ通信システムで使用される光学信号は、例えば、送信データを時系列の点滅パターンとして表したものである。この場合、遠距離からでも認識可能であるが、遠距離から認識されるためには近距離で認識される場合に比べて大出力でなければならない。元来、パイロット・ランプや照明は屋内で利用されるものに比べて、屋外で利用されるものの方が、出力が大きくなっている。例えば、屋内のパイロット・ランプはLED1つで構成することができるが、屋外の看板の照明は多数のLEDをマトリックス状に配置しなければ不充分である。このように、室外や遠距離から利用する光学信号の出力を大きくすることは、理に適っており、現実的である。また、既存のインフラを利用して屋内外を問わずユビキタスに光学信号の送信機を設置することが可能である。
一方の受信機は、2次元アレイ式のイメージ・センサのような2次元受光面からなる受光部を備えており、送信機側の発光部からの光学信号を受光して、データ処理を行う。ここで言うデータ処理は、光学信号が表している送信データの復調・復号処理と、2次元受光面上での点滅位置に基づく空間情報の復号処理に大別される。
前者の送信データの処理では、各発光部からの光学信号をそれぞれ所定ビット長のデータに置き換えて、このような受信データを基に、オブジェクトのIDやそのネットワーク・アドレス、ホスト・ネーム、URL又はURIなどの資源識別子、あるいはその他のオブジェクト関連情報をデコードしたりアクセスしたりすることができる。
点滅パターンなどの光学信号からオブジェクトを認識することにより、その送信機が持つ各発光部の物理的な配置を知ることができる。例えば、オブジェクトが2以上の発光部を備えている場合には、これらの点滅パターンの組み合わせにより送信データを表現することができるので、データ転送レートが大幅に増大する。
また、後者の空間情報の処理では、2次元受光面上での各点滅を検出した受光位置(又は点滅を検出した受光素子の場所)を抽出して、これを基に発光源としてのオブジェクトの空間的な位置を認識することができる。例えば、空間上でオブジェクトが存在する平面が既知であるならば、1つの発光部を検出することによりその3次元位置を特定することができる。また、平面上に4以上の発光部が配置され且つそれらの相対位置が既知であるならば、その3次元位置・姿勢を計測することができる。
受信機側では、LEDの点滅パターンなどの光学信号から得られた情報を基に、オブジェクトとのネットワーク接続、関連するリソースへのアクセス、プログラムの実行などを行うことができる。また、実世界オブジェクトの空間的な位置や姿勢などの実世界状況を高精度に認識して、伝送データのデコード結果と捕捉された実世界状況の組み合わせを利用することによって、より充実した拡張現実サービス(後述)を提供することが可能となる。
本実施形態に係るデータ通信システムでは、デジタル・カメラのようにシーンを撮影するイメージ・センサに受信機としての機能を付加的に装備することができる。送られてくる光学信号が高周波数で点滅を繰り返す点滅パターンであることを考慮すると、受信機の受光部として使用されるイメージ・センサは、高速にサンプリング可能なデバイスであることが好ましい。本発明者等は、イメージ・センサの付加機能として受信機を構成することは合理的であると思料するが、この点について以下に説明する。
イメージ・センサは、CCD(Charge Coupled Device)からCMOS(Complementary Metal Oxide Semiconductor)イメージ・センサへと移行してきており、CMOSの特性を活かして高画素化、高速化が進んでいる。一般的なカメラは30fps(frame per second)で撮影しているが、これ以上高速化しても人の動画認識能力を越えてしまうことから、高速カメラは画像処理など用途が限定されている。そこで、30fpsで撮像している時間以外の余った時間に新たな処理を行なうことにより、CMOSイメージ・センサに付加価値を与えることができる。画像を撮像する以外の時間で点滅パターンなどの光学信号を受光しデコードすることで、本実施形態に係るデータ通信システムの受信機として、CMOSイメージ・センサの進化形を見出すことができる。
本実施形態に係るデータ通信システムの受信機としてCMOSイメージ・センサを適用した場合、イメージ・センサの各画素単位で光学信号を認識することができるので、外乱光などのノイズに影響され難い特性を持つ。もしある画素がノイズにより光学信号を認識できなくとも、他の画素が光学信号を認識することができればよい。
例えば、赤外線リモコンでは1画素の受光機が一定のエリアから到来する光をすべて受信しているため、周波数フィルタや波長フィルタなどを用いてノイズとデータとを分離する必要がある。これに対し、本実施形態に係るデータ通信システムの受信機としてCMOSイメージ・センサを適用した場合、光の直進性、並びに2次元アレイ状に配設されている個々の画素の視野角は狭いことから、ノイズ源と光学信号とが重なって受光される画素のみがノイズの影響を受け、影響を受けないそれ以外の画素からのセンサ出力を基に送信データを復元することができる。
デジタル・カメラは一般に光学レンズを搭載したイメージ・センサとして構成されているため、離れた光学信号を認識できる距離には限界がある。光学信号が1画素以上の大きさで撮像される距離にあれば、光学信号の点滅パターンをデコードすることが可能である。しかし、受信機としてのデジタル・カメラと発光源との距離が光学信号を1画素で撮像される限界の距離よりも長くなると、イメージ・センサに届く光学信号の光強度は微弱なものとなり、デコード・認識することが困難となる。
また、レンズの選択がカメラの認識距離や範囲の特性を左右する。例えば、ワイド・レンズを使用すると画角が広くなり広範囲で光学信号を撮影することが可能であるが、光学信号が小さく結像されるので信号を認識する画素数が減少して、長距離での認識が困難になる。一方、ズーム・レンズを使用すると画角が狭くなるが、遠距離から到来する光学信号をより多くの画素数で認識することができる。さらに、オクルージョンの影響を受け、物陰にある光学信号は認識されない。このような画像に撮像されている光学信号は認識できるが、遠過ぎて撮像されない光学信号は認識できないという特徴は、人が事物を認識するときと同様であるから、自然で望ましいであろう。
デジタル・カメラとして利用されているイメージ・センサは、本実施形態に係るデータ通信システムにおける受信機としての特徴を備えることができる。現在広く使われているCMOSイメージ・センサは、消費電力が小さいことやコストの面から、携帯電話やPDA(Personal Digital Assistant)などの携帯端末用の組込みカメラとして利用されている。これらのイメージ・センサが、画像を撮像する以外に光学信号の認識機能を装備していれば、その携帯端末が拡張現実システムの構成要素の一部として動作することができる。例えば、デジタル・カメラを搭載した携帯端末をかざすと画面上に実画像とコンピュータの仮想情報が重畳して表示されるビデオオーバーレイ型の拡張現実システムなどが、ヘッドマウント・ディスプレイや磁気3次元位置装置などを使用せずに、実現可能となる。
なお、本発明に係るデータ通信システム10は光によってデータを伝達するので、距離的にロバストなデータ転送を行うことができる反面、方向やオクルージョンの影響を受けるという点を運用上充分に留意する必要がある。
B.データ通信システムの実装
図1には、本発明の一実施形態に係るデータ通信システム10の構成を模式的に示している。同図に示すように、このデータ通信システム10は、実空間に散在する各オブジェクト毎に設置された送信機20A,20B,20C…と、ユーザが携行して用いる受信機50とで構成される。
各送信機20A…は、それぞれオブジェクト表面の見え易い場所に設置されており、1又はそれ以上の発光部を備えている。発光部は、例えばマイコン制御のLEDで構成される。そして、LEDの点灯でビット1を表すとともに消灯でビット0を表すという表示形式により、所定ビット(仮にNビットとする)長の送信データに相当する点滅パターンあるいは明るさの変化パターンからなる光学信号を生成することによって、距離に対してロバストなデータ転送を行うことができる。変調方式により、光源の明るさの変化パターンは異なる(前述)。
各送信機20A…が送出する送信データとしては、オブジェクトのIDやそのネットワーク・アドレス、ホスト・ネーム、URLやURIなどの資源識別子、その他のオブジェクト関連情報などが挙げられる。
一方の受信機50は、複数(M個)の受光ブロック51−1,51−2,…,51−Mと、各受光ブロック51−1…の出力を統合処理するデータ収集部60と、データ収集結果に従って所定のサービスを実行するアプリケーション部70とで構成される。
受光ブロック51−1,51−2…は、実際には、図2に示すように、n×m(=M)の2次元マトリックス状に配置されており、全体として2次元的な受光面からなる受光部をなしている。このような受光部は、例えばCMOSイメージ・センサを用いて構成することができ、1つの画素が1つの受光ブロックに相当する。CMOSイメージ・センサは、一般に、CCDセンサに比し駆動速度が速いので、送信機側でLEDを比較的高い周波数で駆動させても、その点滅パターンを読み取ることができる。
送信機20側からのLEDの点滅データは、図示しない集光レンズ系を介して受光部の2次元受光面上に結像され、2次元受光面上でLEDの光軸に対応する位置にある受光ブロックがその点滅パターンを検出することができる。また、CMOSイメージ・センサからなる受光部は、各画素すなわち受光ブロック毎に単にLEDの点滅信号を検出するだけでなく、受光面に結像された画像を撮影するカメラとしても機能する。
データ収集部60は、各受光ブロック51−1…の出力を統合的に処理する。その処理内容は、各画素すなわち受光ブロック毎に検出されたLEDの点滅信号の処理と、2次元マトリックス状に配設された各受光ブロック51−1,…,151−Mにより撮像された画像フレームの処理の2種類に大別される。
アプリケーション部70は、データ収集部60によるデータ収集結果に従って所定のサービスを実行する。例えば、アプリケーション部70は、カメラとして機能する受光部から得られた撮影画像に対して画像処理や画像認識を行なう以外に、データ収集結果を基に復号された送信機20からの送信データに対応する処理サービスを実行する。
送信機20からの送信データは、機器ID、ネットワーク・アドレス、ホスト・ネーム、URLやURIなどの資源識別子、その他のオブジェクト関連情報などであり、アプリケーション部70は、オブジェクトに関連した処理を行うことができる。例えば、受信した光学信号から復号されたURLを基にオブジェクトに関連する情報をWWW(World Wide Web)情報提供空間で探索したり、探索結果を表示したり、さらにカメラとして撮影した画像の上に探索結果をオーバーレイ表示させたりすることができる(NaviCam:後述)。また、デコードされたオブジェクトの機器IDやネットワーク・アドレスを基に、オブジェクトとユーザ端末とのネットワーク接続を確立させたりすることができる(gaze−link:後述)。
受信機50は、例えば、CMOSイメージ・センサを使用するデジタル・カメラをUSB(Universal Serial Bus)などのインターフェース経由でコンピュータに接続することによって構成される。このような場合、アプリケーション部70は、コンピュータ上で実行されるアプリケーションに相当し、デジタル・カメラから入力される撮影(シーン)画像に、光学信号から復号されたデジタル・データに基づくコンピュータ画像を重畳した合成画像を表示したりすることができる。
なお、図1には示していないが、イメージ・センサを構成する各受光素子においてより好適に光学信号を受信するために、以下に示すような光学部品を使用してもよい。これら光学部品は、電気通信における信号処理用の回路部品の相当する働きを持つことを充分理解されたい。
(1)光学レンズ、望遠/広角レンズ
信号増幅器として集光レンズなどの光学レンズを利用してもよい。また、信号指向性制御部品として望遠(テレ)、広角レンズを使用してもよい。ズームインすると受信できる画素が増えることで冗長性が増える。また、範囲を絞るので指向性を制御することができる。
ワイド(ズームアウト)にすると指向性が広くなり、広範囲で送信機からの信号を受信することができる。但し、1つの信号は小さく撮像されるので、長距離からは認識し難くなる。
また、光学系を操作することで、送信機の位置を探索することができる。例えば、ピントがきちんと合っていると、各画素に入射する信号強度は最大となり,ロバストな通信が行なわれる。ピントを少しだけずらすと、光学信号がぼやけた画像としてさらに多くの画素により撮像され、結果として受信する画素数が増える分だけ通信がロバストになる。但し、ピントをずらし過ぎると、信号の受光強度が減少してしまい、受信できる画素数も減少する。
また、あおり角を付けてレンズを移動すると、受信機の受信指向性を制御することができる。首振りで受信機全体を回転させる必要がなくなる。
(2)絞り、NDフィルタ
信号アッテネータ(減衰器)として絞りを利用することができる。
送信機が送信する光学信号が強力過ぎて、イメージ・センサの画素がサチュレーションを起してしまう場合、絞りやNDフィルタなどで受光信号を減衰させることで、受信可能な信号強度にレベル調整して、通信を可能にすることができる。
(3)カラー・フィルタ、プリズム
帯域分離部品としてカラー・フィルタを用いることができる。受光部における2次元受光面のそれぞれの画素に例えば格子状のパターンでRGBの色フィルタを設けると、それぞれの画素がフィルタ色に対応した波長の信号のみを受信することになる。例えば、送信機側でRGB各発光色のLEDを持ち、各発光色毎に独立に駆動して異なる光学信号を送出している場合、受信機側ではカラー・フィルタを介して信号を分離して受信することができる。RGBの各信号成分を重ね合わせると白色であるが、3チャネル伝送が行なわれていることになる。
(4)レンズフード、偏向フィルタ、レンズ・カバー
レンズフードや偏向フィルタにより、光学レンズに信号源と関係のない外乱光が入射するのを防ぐことができる。
また、レンズ・カバーでレンズを遮蔽することにより、不必要な通信を遮断することができる。例えば、レンズの右半分だけをレンズ・カバーで覆うことにより,左半分の視野にある送信機からの光学信号のみを受信することができる。
(5)鏡、プリズム、光ファイバー
鏡で通信路を曲げることができる。例えば、鏡、レンズ、2次元受光面の順で配置する場合、鏡の位置や角度を変更することで受信機50の受信エリアを容易に切り替えることができる。
また、光ファイバー束を用いて、受信(受光)部の先端の小さな受信機50を作ることができる。
B−1.送信機
図3には、送信機20の内部構成を模式的に示している。同図に示すように、送信機20は、ビット1及び0を表現するためのLED21と、このLED21の点滅動作を送信データの内容に応じて制御するデータ処理部22と、Nビットの送信データ(ペイロード)を一時的に保存する送信データ保存用メモリ23と、Nビットからなる送信データのうち1ビット分のデータをビット位置をずらしながら逐次的に書き込むための作業メモリ24とを備えており、例えばデジタル・データをベースバンド伝送することができる。
送信機20のデータ転送レートは、LED21を点滅させる駆動速度によって決まる。例えば、現在市販されている一般的な発光ダイオード製品であれば、4kHz程度の周波数で点滅駆動させることができる。但し、これは、受信機50側の受光ブロック51が持つ応答速度の制限を受ける。
例えば、受光ブロック51が2次元マトリックス状に配設された受光部として、CCDイメージ・センサを用いた場合、その応答速度は60Hz程度であり、LED21の点滅データを送受信するには遅すぎる。他方、前述したCMOSイメージ・センサであれば、12kHz又はそれ以上の応答速度を持つので、送信機20側でLED21を最高速で駆動させても、受信機50側では充分にその点滅パターンを検出することができるであろう。
送信データを8ビット長とした場合、255通りのデータを1回で送信することが可能である。8ビット長の送信データを4kHzのキャリアでマンチェスター符号化して22ビット長のパケットとして送信する。これにより、光学信号が障害物などによってパケット送信中に隠れても、パケット単位でデータを送ることができる。
なお、近距離や屋内用に1つのLEDを点滅させる小型の送信機と、遠距離用に複数のLEDをマトリックス状に配設した大型の送信機を用意してもよい。
図4には、送信機20からLEDの点滅パターンとして送出されるデータ・フレームの構造を模式的に示している。同図に示すように、1つのデータ・フレームは、Nビット長の送信データ(ペイロード)を、ビット1の「スタート・ビット」と、ビット0の「ストップ・ビット」で挟み込んで構成されている。既に述べたように、本実施形態に係る送信機1は、ビット1を光の点灯で表すとともに、ビット0を光の消灯で表すようになっている。
図5には、図3に示した送信機20において、LEDの点滅によりデータ・フレームを送出するための処理手順をフローチャートの形式で示している。この処理手順は、データ処理部22において所定のプログラム・コードを実行するという形態で実現される。以下、このフローチャートを参照しながら、データの送信手順について説明する。
まず、スタート・ビットを送信するために、LED21を点灯させる(ステップS1)。
次いで、データのキャリア周波数に応じて、スタート・ビットの時間だけウェイトするとともに(ステップS2)、送信データ保存用メモリ23のアドレス(ビット位置)iを0に初期化する(ステップS3)。
そして、Nビット長の送信データ保存用メモリ23からi番目のビット位置のデータを読み出して、作業用メモリ24に一旦保存する(ステップS4)。
データ処理部22は、作業用メモリ24の値(すなわち、Nビット長の送信データのiビット目の値)が1であるか否かを判別する(ステップS5)。
送信データのi番目のビット位置に書き込まれた値が1であればLED21を点灯して、ビット1を表現し(ステップS6)、そうでなければLED21を消灯して、ビット0を表現する(ステップS7)。
次いで、データのキャリア周波数に応じた一定時間だけウェイトして(ステップS8)、送信データ保存用メモリ23のメモリ・アドレスすなわちビット位置iを1だけインクリメントして(ステップS9)、ビット位置iがNに到達したか否かを判別する(ステップS10)。
ビット位置iが未だNに到達していなければ、ステップS4に戻って、送信データ保存用メモリ23から次のビット位置のデータを読み出して、上述と同様の該当ビットの送信処理を繰り返し行なう。
また、ビット位置iがNに到達した場合には、Nビット長の送信データ(ペイロード)の送信処理を完了したことになるので、ストップ・ビットを送信するためにLEDを消灯してから(ステップS11)、データのキャリア周波数に応じてストップ・ビットの時間だけウェイトする(ステップS12)。
データ送信を継続して行う場合には、ステップS1に戻って、上述と同じ動作を繰り返し行なう(ステップS13)。
このようにして、デジタル・データを光源の点滅パターンに符号化したベースバンド伝送することができる。勿論、点滅パターンではなく明るさの片かパターンからなる光学信号に符号化してデータ送信してもよい。また、本発明に係るデータ通信方式は、各種の変調方式を採用することができる。キャリアの振幅のオン/オフによりビットを表現するASK変調により、光源は点灯と消灯を繰り返し、点滅パターンとなる。また、AM変調では光源は点灯したまま明るさの強弱がパターンとなる。他にも、FM変調や、キャリアの周波数の変化によりビットを表現するFSK変調方式などを採用可能である。また、ノイズ耐性などの観点から、ベースバンド信号に強度、周波数などの変調処理を適用して、点滅パターンとしてではなく、光強度信号、光周波数信号として送出するようにしてもよい。
図3に示した送信機20の構成例では、点滅データの形式でデータを送出する発光ダイオード21を1つしか含んでいないが、2以上の発光ダイオードを備えていてもよい。このような場合、点滅パターンの組み合わせにより送信データを表現することができるので、データ転送レートが大幅に増大する。また、通信路が複数できることからバンド幅の拡大にもなる。この場合、送信機と受信機の間では、LEDの個数だけ(あるいは、受信機側の受光した画素数だけ)コネクションが貼られることになる。
図6には、1台の送信機20が2個の発光ダイオードを装備したときのデータ通信システム10の動作例を示している。但し、同図に示す例では、送信データは、光源の点滅パターンからなる光学信号に符号化して伝送されるものとする。
この場合、各発光ダイオードの点滅パターンは、集光レンズ系(図6には図示しない)によって受信機50側の2次元受光面上に結像されて、実空間上における各発光ダイオードの物理的な位置に応じた位置の受光ブロックで検出される。
例えば、一方の発光ダイオードの点灯光が結像される受光ブロックの位置を(10,10)とし、他方の発光ダイオードの点灯光が結像される受光ブロックの位置を(90,90)とすると、各受光ブロック(画素)位置では対応する発光ダイオードの点滅パターンが受光強度(明るさ)の時間的変化として検出される。受光強度を所定の閾値で2値化処理することにより、元の送信データに相当する1/0のビット列を復元することができる。
このように複数の発光ダイオード21を備えて、複数の光学信号を同時に送信しても、受信機50側では2次元的な受光面を持ち、各光学信号を空間的に分離して検出することができる。したがって、複数の送信信号の組み合わせにより送信データを表現することができるので、データ転送レートが大幅に増大する。また、同時に発信した光学信号の空間的な位置や姿勢なども利用して送信データを表現することができる。
送信機20は、所定ビット長の送信データを表した光学信号を発光部21から送出する。例えば、バイナリ形式の送信データをベースバンド信号として、送りたいデジタル・データのビット値をそのまま忠実に表現した点滅パターンを発光部32が明滅することによりデータ送信することができる。また、ノイズ耐性などの観点から送信データを一旦、スクランブル若しくはインターリーブ処理したものを点滅パターンとして表現した光学信号を送出するようにしてもよい。勿論、その他さまざまの変調方式を適用することができる(後述)。
送信機20は、例えば送信データを、低速と高速とではデータの意味が異なるという周波数フラクタル信号に変調して送出してもよい。例えば、1kHzでサンプリングするとAだか、20kHzでサンプリングするとBという信号になっている。
また、受信機50側では2次元受光面の各画素が独立駆動して受光するので、送信機は信号のキャリア周波数を変調してもよい。例えば、遠隔データ伝送時において、霧のときはゆっくり点滅するようにしてもよい。
また、送信機20は、信号のキャリア波長を変調してもよい。キャリアとなる光学信号の波長を変えても、受信機側の構成を特に変更する必要はない。例えば、AというデータをRGBそれぞれの色成分毎に順次送出することで、データを変化させずに照明としては色を変化させることができる。キャリアの波長をダイナミックに変更しても、受信機側では同じ画素で受信することができる。また、通信環境に応じて波長を切り替えてもよい。例えば、霧や雨のときには光学信号が減衰し易いが、フォグランプなど透過性に優れた波長成分の光に切り替えてデータ伝送することにより、遠くからでも無事にデータを送信することができる。
また、送信機20側では、鏡や集光レンズ、あるいは複数のLEDを切り替えて用いることにより、送出する光学信号の指向性を制御することができる。例えば,通信環境に複数の受信機50が散在する場合であっても、指向性の制御により特定の受信機50にのみデータを送信することができる。
他方、光の直進性により、送信機20を直接見ることができる受信機50しか光学信号を受信することができない。このため、送信機20が送出する間接光は他の送信機にとってノイズとはならない。そこで、送信機20を無指向性にして、どこからでも受信できるようにしてもよい。
また、室外や遠距離で利用するときに、光学信号の出力を大きくするために、送信機は、多数のLEDをマトリックス状に配置して発光部21を構成することができる(前述)。
この場合、個々のLEDの発光強度が均一である必要はない。同じ信号(同じ点滅パターン)を区々の発光強度で送信した場合、受信機側では、ちょうどよい強度で(サチュレーションを起さずに)受光できた受光素子の検出信号を利用して受信処理すればよい。
また、多数のLEDをマトリックス状に組み合わせて光学信号を送信する場合、遠くの受信機50では大きな1つのデータとして受信されるが、ズームして受信すると複数の異なるデータに分離することができる。例えば、遠くから見るとCという単一の送信信号であるが、近くから見るとAとBという異なる信号に分離して見える(すなわち、A+B=Cという信号)。このような場合、遠くから見るためにはCはエネルギが必要である。また、近くから見るときには、バンド幅や受信機の分解能が必要である。
B−2.受信機
図7には、受信機50における1つの受光ブロック51の内部構成を模式的に示している。同図に示すように、1つの受光ブロック51は、受光量に応じた電気信号を生成する受光素子81と、バンド・パス・フィルタ(BPF)82と、フェーズ・ロック・ループ(PLL)83と、A/D変換器84と、撮像データ保存用メモリ85と、2値化データ保存用メモリ86と、転送データ保存用メモリ87と、受光ブロック51内を統括的にコントロールして同期駆動させるための制御部88とで構成される。
受光素子81は、例えばCMOSセンサ素子で構成される。また、それ以外の受光素子駆動用、デコード用の処理モジュールをFPGA(Field Programmable Gate Array)などのICチップで構成することができる。撮像データ保存用メモリ85は、受信機50がカメラとして動作しているとき(後述)に、受光素子81による撮像データのデジタル値(Tビットの解像度を持つものとする)を一時的に保存するために使用される。
既に述べたように、デジタル・カメラのようにシーンを撮影するイメージ・センサに受信機50としての機能を付加的に装備することができる。例えば高速な点滅パターンとして光学信号を送信する場合、高速にサンプリング可能なデバイスであるCMOSイメージ・センサを適用する。一般的なデジタル・カメラは30fpsで撮影しているが、これ以上高速化しても人の動画認識能力を越えてしまうことから、30fpsでシーンを撮像する時間以外の余った時間を利用して光学信号を受信処理することにより、CMOSイメージ・センサに付加価値を与えることができる。以下では、受信機50が一般的なカメラとしてシーンを撮影する動作モードを「画像モード」と呼び、それ以外の余った時間を利用して光学信号を受信処理する動作モードを「デコード・モード」と呼ぶ。
デコード・モードでは、例えば12kHzのサンプリングを200回繰り返し、送信機20側で送出するキャリア周波数4kHzの8ビットの光学信号をイメージ・センサのすべての受光ブロックでデコードして、15fpsで光学信号の受信・認識画像を作成することができる(後述)。この認識画像は、画像の各画素の値がデコードした結果であり、光学信号が表現する送信データと、光学信号を発する送信機の空間的情報(すなわち実世界オブジェクトが持つ実世界状況)の双方を含んである。
なお、画像モードとデコード・モードを使い、画像とIDをともにセンシングするためには、例えば、以下のような構成により実現することができる。
(1)画像モードとデコード・モードを別の時間に動作させる(例えば図8を参照のこと)。この構成では、画像モードとデコード・モードを別の時間で駆動するため、メモリなどのハードウェア・リソースを両モードで時分割により共用することが可能である。駆動の順番は交互である必要はない。例えば、デコード、デコード、画像、デコード、デコード、画像などのように、ランダムな順序で駆動させたり、あるパターンを以って駆動させる、あるいは、さらに他のモードも別の時間に駆動させるなど、さまざまな変形が可能である。
(2)画像モードとデコード・モードを時間的に独自/独立に動作させる(例えば、図9を参照のこと)。この構成では、画像モードとデコード・モードを互いに独立に駆動させることが可能であるため、画像のフレーム・レートとIDのフレーム・レートを互いに独立に変更することもできる。勿論、両フレーム・レートを同期して駆動させることも可能である。この構成では、例えば、1つの受光素子を、画像モード・ブロックとデコード・モード・ブロックの両方に結線し、画像モード・ブロックとデコード・モード・ブロックをまったく独立に動作させることにより、実現することができる。
(3)デコード・モードで動作するイメージ・センサと画像モードで動作するイメージ・センサを、別々に備える(例えば図10を参照のこと)。この構成では、2つの情報を容易に合成することができる。また、デコード・モード用のイメージ・センサとは別に、イメージ・センサ(カメラなど)を別途用意することにより、撮影画像の解像度、クオリティを容易に変更することができる。例えば、デコード・モードのみで動作するイメージ・センサ(例えば、IDCam)に200×100画素のものを用いるのに対し、画像モードで動作するイメージ・センサ画像はハイビジョン用のものを用いるといった組み合わせも可能である。なお、デコード・モードのみで動作するイメージ・センサと画像を撮影するイメージ・センサとは、必ずしも同期している必要はない。また、デコード・モードで動作するイメージ・センサと画像モードで動作するイメージ・センサは、デコード・モード/画像モード以外のモードを適宜含んで動作するものであってもよい。
以下、画像モードとデコード・モードを別の時間に動作させる構成の一例を用いて説明する。
図11には、図7に示したような構成を持つ受光ブロック51において画像モードとデコード・モードを交互に動作させてデータを受信するための処理手順をフローチャートの形式で示している。同図に示す処理手順は、例えば、制御部88が所定のプログラム・コードを実行するという形態で実現される。但し、送信機20側からは、例えばベースバンド伝送方式などによりデジタル・データが光源の点滅パターンに符号化された光学信号が送られているものとする。以下、このフローチャートを参照しながら、1つの受光ブロック51におけるデータの受信処理について説明する。
まず、Nビット長の送信データのビット位置を指定するための変数iに初期値0を設定する(ステップS21)。
次いで、サンプリング周波数に応じた一定時間だけ、受光素子51で蓄光させた後(ステップS22)、受光素子51を制御して、その受光量に応じたアナログ・データを持つ電気信号を出力する(ステップS23)。
バンド・パス・フィルタ(BPF)82は、この電気信号のキャリア周波数成分のみを通過させる(ステップS24)。また、フェーズ・ロック・ループ(PLL)83は、BPFを通過した信号をデータの位相にロックする(ステップS25)。
A/D変換器84は、位相ロックされたアナログ・データを、Tビットの解像度からなるデジタル・データ(画素値データ)に変換する。このTビットのデジタル・データは、撮像データ保存用メモリ85に一旦保存される(ステップS26)。
さらに、撮像データ保存用メモリ85に格納されているTビットのデジタル・データを所定の閾値で2値化して、この2値化データを2値化データ保存用メモリ86に一時記憶させる(ステップS27)。
この2値化データは、当該受光ブロック51においてLEDの照射光を受光したか否かを表すものである。ステップS28では、2値化データ保存用メモリ86のデータがビット1か否か、すなわち、受光ブロック51がLEDの照射光を受光したか否かを判断する。
2値化データ保存用メモリ86のデータがビット1でない、すなわち、受光ブロック51がLEDの照射光を受光していない場合には、ステップS22に戻って、上記と同様の処理を繰り返し実行する。他方、2値化データ保存用メモリ86のデータがビット1、すなわち、受光ブロック51がLEDの照射光を受光した場合には、次ステップS29に進んで、キャリア周波数に応じた一定時間だけウェイトした後、サンプリング周波数に応じた一定時間だけ、受光素子51で蓄光させる(ステップS30)。
そして、受光素子51を制御して、その受光量に応じたアナログ・データを持つ電気信号を出力し(ステップS31)、バンド・パス・フィルタ82、フェーズ・ロック・ループ83、及びA/D変換器84を通過したデータを撮像データ保存用メモリ85に一旦保存する(ステップS32)。
さらに、撮像データ保存用メモリ85に格納されているTビットのデジタル・データを所定の閾値で2値化して、この2値化データを転送データ保存用メモリ87のアドレスi番地に一時記憶させる(ステップS33)。すなわち、送信機20からLEDの点滅パターンとして送られてきたNビット長の送信データにおけるi番目のビット位置のデータが、転送データ保存用メモリ87の対応ビット位置に格納される。
次いで、メモリ・アドレスiを1だけインクリメントして(ステップS34)、iがNに到達したか否かを判断する(ステップS35)。
メモリ・アドレスiが未だNに到達していなければ、ステップS29に戻って、送信機20からの送信データの次のビット位置に進んで、ビット・データの受信処理を繰り返し実行する。
また、メモリ・アドレスiがNに到達した場合には、Nビット長の送信データ(ペイロード)の受信処理が完了し、受光ブロック51内の転送データ保存用メモリに保存されたことになるので(ステップS36)、本処理ルーチン全体を終了する。
上述したように、本実施形態に係る受信機50は、一般的なカメラとしてシーンを撮影する画像モードと、それ以外の余った時間を利用して光学信号を受信処理するデコード・モードとを備えている。したがって、例えば図8〜図10に示すように、送信データをデコードする「デコード・モード」と、画像を撮像する「画像モード」とを交互に繰り返すことで、一般的なビデオ・カメラとして動作しながら、その画像フレームに含まれるオブジェクトからLEDの点滅によって送られてくるデータを受信することもできる。
画像モードで取得したシーン画像とデコード・モードで取得した認識画像の両方を出力する場合、例えば15fpsで画像モードとデコード・モードを交互に繰り返すようにすればよい。
デコード・モード時の受光ブロック51の動作については図11を参照しながら既に説明したので、次いで、画像モード時の受光ブロック51の動作について、図12に示したフローチャートを参照しながら以下に説明する。但し、同図に示す処理手順は、制御部88が所定のプログラム・コードを実行するという形態で実現される。
まず、シャッター速度に応じた一定時間だけ、受光素子81で蓄光させる(ステップS41)。そして、受光素子81は、受光量に応じたアナログ・データを持つ電気信号を出力する(ステップS42)。
アナログ・データは、バンド・パス・フィルタ(BPF)82、フェーズ・ロック・ループ(PLL)83、及びA/D変換器84を経てTビットのデジタル・データに変換された後、撮像データ保存用メモリ85に書き込まれる(ステップS43)。
すなわち、明るさに応じたデータが受光ブロック51により保存されたことになるので(ステップS44)、本処理ルーチン全体を終了する。
データ収集部60は、2次元受光面を構成する各受光ブロック51−1,51−2,…,51−Mからの出力を統合的に処理する機能モジュールである。その処理内容は、デコード・モード下における各画素すなわち受光ブロック毎に検出されたLEDの点滅信号の処理と、画像モード下における2次元マトリックス状に配設された各受光ブロック51−1…により撮像された画像フレームの処理の2種類に大別される。
デコード・モードでは、例えば12kHzのサンプリングを200回繰り返し、送信機20側で送出するキャリア周波数4kHzの8ビットの光学信号をイメージ・センサのすべての受光ブロックでデコードして、15fpsで光学信号の受信・認識画像を作成する。この認識画像は、画像の各画素の値がデコードした結果であり、光学信号が表現する送信データと、光学信号を発する送信機の空間的情報(すなわち実世界オブジェクトが持つ実世界状況)の双方を含んである。画像モードで捕捉されたシーン画像と認識画像とを組にして利用することで、シーン画像上の光学信号の位置とそのデコード結果とを合成表示することが可能である(後述)。
画像モードで取得したシーン画像とデコード・モードで取得した認識画像の両方を出力する場合、例えば15fpsで画像モードとデコード・モードを交互に繰り返すようにする。データ収集部60は、シーン画像と8ビット光学信号の認識画像とを組にして、7.5fpsで動作する。
図13には、データ収集部60の内部構成を模式的に示している。図示の通り、データ収集部60は、制御部61と、転送データ保存用メモリ62と、転送データ処理用メモリ63と、フレーム・メモリ64を備えている。これらの処理モジュールは、例えばFPGA形式のICチップを用いて実装することができる。
制御部61は、各受光ブロック51−1…に保存されているデータの取り出し、並びに、データ収集部60内の動作の統括的なコントロールを行なう。
各受光ブロック51−1…は、デコード・モード下では送信機20から送られてきたNビット長の送信データを保存し、画像モード下ではTビットの画素データを保存する(前述)。制御部61は、各受光ブロック51−1…から読み出したNビット送信データを転送データ保存用メモリ62に書き込んで、転送データ処理用メモリ63を作業領域として用いて送信データを処理する。また、制御部61は、各受光ブロック51−1…から読み出した画素データをフレーム・メモリ64中の対応画素位置に逐次書き込んでいき、撮像画像フレームを形成する。
図14には、デコード・モード下においてデータ収集部60が実行する処理手順をフローチャートの形式で示している。この処理手順は、例えば、制御部61が所定のプログラム・コードを実行するという形態で実現される。但し、送信機20側からは、例えばベースバンド伝送方式などによりデジタル・データが光源の点滅パターンに符号化された光学信号が送られているものとする。以下、このフローチャートを参照しながら、デコード・モード下における2次元受光面からのデータ収集処理について説明する。
まず、M個すべての受光ブロック51−1,51−2,…,51−Mが、デコード・モード下で、図11に示したようなNビット長の送信データの受信処理を実行する(ステップS51)。この結果、2次元受光面上で送信機20からのLED点灯光が結像される位置(アドレス)にある受光ブロック51の転送データ保存用メモリ87には、Nビット長の送信データが保存される。
次いで、処理対象となる受光ブロック51−1…をアドレスするための変数jを0番地に初期化するとともに(ステップS52)、転送データ処理用メモリ63のアドレスを指定するための変数kを0番地に初期化する(ステップS53)。
次いで、j番目の受光ブロック51−j内の転送データ保存用メモリ87から受信処理されたNビット長の送信データを読み込んで(ステップS54)、所定の誤り検出符号アルゴリズムによりNビット・データの正誤をチェックする(ステップS55)。
j番目の受光ブロック51−jから読み出されたNビット送信データが正しい場合には(ステップS56)、転送データ処理用メモリ63のアドレスk番地に、受光ブロック51−jの受光位置に相当するアドレスjとそのNビット送信データを組にして保存するとともに(ステップS57)、メモリ・アドレスkを1だけインクリメントする(ステップS58)。他方、Nビット送信データに誤りがある場合には、後続のステップS57およびS58をスキップして、Nビット送信データの保存を行なわない。
次いで、受光ブロック51−jのアドレスjを1だけインクリメントする(ステップS59)。jがMに到達していない、すなわちすべての受光ブロック51−1…について処理を終了していない場合には、ステップS54に戻って、次のアドレスの受光ブロック51−jについてのNビット送信データのチェック並びに保存処理を繰り返し実行する。
また、jがMに到達した場合には、M個すべての受光ブロック51−1,…,51−Mのうち有効な送信データを受信したk個の各受光ブロックについて、成功裏に受信したNビット送信データとそのブロック・アドレス(すなわち2次元受光面上の位置)の組が転送データ処理用メモリ63に保存されている(ステップS61)。
後続のアプリケーション部70では、各受光ブロック51−1…で受信したNビット送信データとその受光位置の組を基に、対応する各種の処理サービスを実行する(ステップS62)。但し、アプリケーション部70が提供する処理サービスの内容に関しては、後述に譲る。
受信機50は、受光部を構成するCMOSイメージ・センサの画素数(すなわち受光ブロック51の個数)や集光に使用する光学レンズに応じた解像度で送信機20側の光源を撮影する。図15に示すように、2次元受光面上で送信機20の光源が撮影される画素(受光ブロック)の場所は、送信機20の空間的位置に応じて変化する。したがって、受信機50は、どの画素(すなわち受光ブロック)でどの送信データを受信したかを判別することによって、送信データのデコードと同時に、送信機20の空間的位置や方向、すなわち送信機20を搭載した実世界オブジェクトの実世界状況を測定することができる。
また、図16には、画像モード下(すなわち、受信機50が一般的なデジタル・カメラやビデオ・カメラとして動作しているとき)においてデータ収集部60が実行する処理手順をフローチャートの形式で示している。この処理手順は、例えば、制御部61が所定のプログラム・コードを実行するという形態で実現される。以下、このフローチャートを参照しながら、画像モード下における2次元受光面からのデータ収集処理について説明する。
まず、M個すべての受光ブロック51−1,51−2,…,51−Mが、画像モード下で、図12に示したような処理手順に従って、受光した明るさに応じた画素データを撮影データ保存用メモリ85に保存する(ステップS71)。画素データはTビットの解像度を持つ。
次いで、処理対象となる受光ブロック51−1…をアドレスするための変数jを0番地に初期化するとともに(ステップS72)、フレーム・メモリ64のアドレスを指定するための変数kを0番地に初期化する(ステップS73)。
次いで、j番目の受光ブロック51−j内の撮像データ保存用メモリ85から撮影されたTビット解像度の画素データを読み込む(ステップS74)。
次いで、フレーム・メモリ64をアドレス指定するための変数kを1だけインクリメントするとともに(ステップS75)、受光ブロック51−1…をアドレス指定するための変数jを1だけインクリメントする(ステップS76)。そして、ステップS77では、jがMに到達したか否かをチェックする。
jがMに到達していない、すなわちすべての受光ブロック51−1…について画素データを読み出していない場合には、ステップS74に戻って、次のアドレスの受光ブロック51−jについての画素データの読み出し並びにフレーム・メモリ64への保存を繰り返し実行する。
また、jがMに到達した場合には、M個すべての受光ブロック51−1,…,51−MからTビット解像度の画素データを読み出して、フレーム・メモリ64に保存された(すなわち、Tビット解像度のn×m(=M)の画像フレームが形成された)ことになる(ステップS78)。
後続のアプリケーション部70では、この画像フレームを用いて各種の処理サービスを実行する(ステップS79)。例えば、デコード・モードで取得された送信データを基に、画像フレームに含まれているオブジェクトの映像に対する画像処理を加えたりすることができる。
アプリケーション部70は、データ収集部60によるデータ収集結果に従って所定のサービスを実行する。例えば、アプリケーション部70は、カメラとして機能する受光部から得られた撮影画像に対して画像処理や画像認識を行う以外に、データ収集結果を基にデコードされた送信機20からの送信データに対応する処理サービスを実行する。
送信機20からの送信データは、機器ID、ネットワーク・アドレス、ホスト・ネーム、URLやURIなどの資源識別子、その他のオブジェクト関連情報などであり、アプリケーション部70は、オブジェクトに関連した処理を行うことができる。例えば、デコードされたURLを基にオブジェクトに関連する情報をWWW情報提供空間で探索したり、探索結果を表示したり、さらに撮影画像の上に探索結果をオーバーレイ表示させたりすることができる(Navi−cam)。また、デコードされたオブジェクトの機器IDやネットワーク・アドレスを基に、オブジェクトとユーザ端末とのネットワーク接続を確立させたりすることができる(gaze−link)。
受信機50は、例えば、CMOSイメージ・センサを使用するデジタル・カメラをUSB(Universal Serial Bus)などのインターフェース経由で、パーソナル・コンピュータ(PC)やPDA、携帯電話などの情報処理端末に接続することによって構成されている。
このような場合、アプリケーション部70は、コンピュータ上で実行されるアプリケーションに相当する。また、情報処理端末は、CPU(Central Processing Unit)やメモリ、ハード・ディスク装置(HDD)のような外部記憶装置、ディスプレイやキーボード/マウスなどのユーザ・インターフェースを備えている。そして、情報処理端末は、オペレーティング・システム(OS)が用意する実行環境下で、さまざまなアプリケーション・プログラムを実行して、ユーザに処理サービスを提供することができる。アプリケーションによる処理結果は、例えば、ディスプレイ上で画面表示される。
また、情報処理端末は、ネットワーク・インターフェース(NIC)を装備してLANやインターネットなどの外部ネットワークに接続することができる。あるいは、携帯電話機を接続することによって、電話網を介してネットワークに接続することができる。アプリケーション部70として動作する情報処理端末は、情報提供サーバ(WWWサーバ)やデータベース・サーバなど、ネットワーク上の各種の情報資源にアクセスすることができる。
このような場合、アプリケーション部70は、デジタル・カメラから入力される撮影(シーン)画像に対して、光学信号から復号されたデータを基に取得されたコンピュータ画像を重畳した合成画像を表示したりすることができる。例えば、送信機20を搭載した実世界オブジェクトに関連した情報をネットワーク経由でダウンロードして、シーン画像上の光学信号の検出位置にダウンロード情報を7.5fpsで合成表示することにより、実世界オブジェクトの実世界状況に応じたサービスを提供することができる。例えば、室内の家具や電化製品、インテリア、あるいは建物やその他の屋外の事物を撮影したシーン映像の上に、製品仕様や取扱い説明、納期、広告コンテンツなどを重畳するという現実空間を拡張した仮想画像を提供することができる。
このようなアプリケーション部70の機能は、空間解像度を持つ光学信号を受信する受信機側において、光学信号によって伝送されるデータと、光学信号から得られる空間的位置や姿勢などの送信元の実世界状況に応じたサービスを行なうコンピュータ処理によって実現される。アプリケーション部70によって提供されるデータ通信システム10の応用例については後述に譲る。
C.データ通信システムの特性
ここでは、本実施形態に係るデータ通信システム100のデータ伝送特性について評価してみる。
(1)距離特性
近距離や屋内用に1つのLEDを点滅させる小型の送信機と、遠距離用に12個のLEDをマトリックス状に配設した大型の送信機を利用した場合の距離特性について考察してみる。
普通の明るさの照明環境の屋内では、受信機は、小型の送信機を5メートルの距離では充分に認識することができる。また、10メートルの距離でも、LEDの指向性を考慮して小型の送信機を受信機に向ければ、光学信号を認識することができる。15メートル程度離れると、LEDが1画素でしか撮像されないため認識が困難となり、1画素で撮像された場合は認識できるが、2画素以上にまたがって撮像されると認識されなくなる。一方、大型の送信機は、光量が強いだけでなく光源が大きくなるので、20メートルの距離でも受信機は問題なく光学信号を認識することができる。
また、晴天の障害物のない屋外では,カメラ・モードの映像が受光素子のサチュレーションを起こすほど明るいというケースもあり得るが、小型の送信機を5メートル、大型の送信機を10メートルの距離だけ離しても、受信機は光学信号を充分に認識することができる。
このように、送信機が送出する光量は、人の目で点灯と消灯が判断可能な程度であれば受信機は認識することができる。送信機からの光学信号を遠距離で認識するためには光量を強くする必要があるが、それよりも光源を大きくして長距離からでも複数画素で撮像できるようにすることが重要である。
以上より、屋内ではパイロット・ランプやLED照明が、屋外ではさらに看板の照明や信号機といったものが光学信号の送信機として機能することができる、という点を理解されたい。
(2)対外乱光特性
次いで、本実施形態に係るデータ通信システム10による光学信号のデータ伝送が外乱光によりどの程度の影響を受けるかについて考察してみる。
ロバストなデータ伝送を行なうためには、受信機50側の受光部の視界に存在するノイズとなる光の影響を排除する必要がある。実世界では、赤外線リモコンや蛍光灯、太陽光など、点灯や点滅するさまざまなノイズ源がある。例えば赤外線リモコンがインバータ蛍光灯で誤動作することは有名である。
光通信を行なう場合、受信機側では、ある一定のエリアから到来する光をすべて受光してデータを復調する(図17)。受信機の受光センサは視界にあるすべての信号とノイズとを重畳させた信号を受信する。そして、ノイズ源による影響を防ぐために、波長フィルタ、周波数フィルタなどが受光素子に接続されている。受光センサの視界に送信機以外のノイズ源が存在する場合、これらのフィルタを用いてノイズを取り除き、送信機からの希望信号のみを受信する。
しかしながら、この手法だけでは、波長や周波数などをあらかじめ決定しておく必要があり、柔軟な通信が阻害されてしまう。変更可能なフィルタ回路を内蔵すると回路規模が大きくなってしまう。また、送信機20と同じ波長、周波数のノイズや他の送信機からの干渉信号が存在した場合には、受信機50は通信ができなくなってしまう。さらに、イメージ・センサの視界に複数の送信機がある場合、それぞれのデータを分離することが難しく、送信機がお互いにノイズとして働く場合もある。また、ノイズ源が非常に強力な光を発する場合、送信機20からの信号とノイズとのS/Nが非常に悪くなり、正しくデータを受信することができなくなる。
受信機50の受光センサとして1画素のフォトダイオードを利用する手法では、環境に存在するノイズに対してロバストな通信が行なえない。これに対し、本実施形態に係るデータ通信システム10は、高速に点滅する光源である送信機20と、送信機の点滅パターンを全画素でデコードするイメージ・センサを持つ受信機50から構成されており(図1を参照のこと)、ノイズに対してロバストな光通信を行なうことができる。赤外線リモコンに喩えてみれば、送信機20は赤外線リモコンの送信機であるが、受信機50はリモコン受信機をアレイ状に配置したアレイ・センサである。
受信機50では、アレイ状のイメージ・センサ各画素で独立にデータを受信するため、ノイズ影響されにくい特性を持つ。具体的には、以下に示す2つの特徴を持つ。
▲1▼2次元受光面の全画素で独立に信号を受光するので、信号源とノイズ源とを異なる画素で受光することができ、受光位置に応じて希望信号をノイズから分離して正しく受信可能となる。
▲2▼次元受光面の全画素で独立に信号を受光するので、1つの信号源を受信する際に、近接した複数の画素で受信することができる。したがって、ノイズによりある画素が影響を受けても、残りの画素で希望信号を正しく受信し復号することができる。
例えば、受信機50の視界に送信機20の光源Sと、2つのノイズ源N1並びにN2が存在したとする(図18を参照のこと)。3次元空間に配置されたこれらの光源S、N1、N2は、それぞれ受信機50の2次元受光面へ射影され、2次元受光面上では空間上の位置に応じた受光位置s、n1、n2にそれぞれ結像されるとする。このとき、3つの光源S、N1、N2が受信機50の同じ視線方向上に並んでいない場合、2次元受光面上ではそれぞれ異なる点s、n1、n2に結像される(図19を参照のこと)。すなわち、各光源S、N1、N2は、2次元受光面上のそれぞれ異なる点s、n1、n2をそれぞれ中心とした受光素子群によって受光される。
送信機20の発信する情報Sを受信する2次元受光面上の点sの周囲にある画素では、ノイズ源N1及びN2による影響がほとんどなく、S/Nは高い。これは、送信機20からの信号を受信する点sと、ノイズ源N1及びN2からのノイズを受信する点n1及びn2が、2次元受光面では離間しており、互いに影響を与えないからである。点sにおいて、送信機20の光源Sからの直接光とノイズ源N1及びN2からの間接光とを比較した場合、Sからの直接光の方が強力であり、より高いS/Nで受信することができる。
2次元受光面上における希望信号並びに千渉信号の結像点s、n1、n2は、それぞれ異なる画素で受光することができればよく、まったく重なるのでなければ非常に近接していてもよい(図20を参照のこと)。受信機20で用いられるCMOSなどのイメージ・センサは、各画素がすべて独立に駆動して光学信号を受信することができるので、希望信号の結像点sを中心としたその周辺の複数の画素によって送信機20からの光学信号Sを受信する。このとき、希望信号の結像点sとその他の干渉信号の結像点n1、n2が近接していたとしても、点sの周囲のすべての画素がノイズの影響を受けるのではなく、影響を受けない画素からの出力を用いることにより、送信機20からの希望信号Sを正しく受信可能である。
一般に、アレイ状に配置されたイメージ・センサ各画素の視野角は小さい。送信機20からの光学信号を受光した画素のうち、ノイズ源と重なって受光したもののみがノイズの影響を受け、他の画素は影響を受けず正しく受信することが可能である。したがって、本実施形態に係るデータ通信システム10によれば、受信機50はノイズに強く、さまざまな外乱のある実環境でも十分実用に耐え得ると思料される。
図18〜図20では、説明の便宜上、送信機とノイズ源の個数を限定したが、任意の数で成立することは言うまでもない。また、各光源の空間的な位置関係も、さまざまな組み合わせで成立する。
なお、通信を妨害する意図のある光源のみがノイズ源となるのではなく、例えば、ある受信機宛てにデータ送信する送信機からの光学信号は、他の受信機にとってはノイズ源として働く。このためノイズ源を他の送信機と読み替えても、同様に空間分解能を持ったロバストなデータ伝送を実現することができる。
ここで、ノイズ源として、点滅光を照射する赤外線リモコンと、点灯光を照射するレーザ・ポインタを例にとって、本実施形態に係るデータ通信システム10の耐外乱光特性について考察してみる。
1つのLEDからなる小型の送信機20と受信機50を2メートル離して設置し、この送信機20の後方からノイズ源としての赤外線リモコンを受信機に向かって照射してみた。この結果、受光部であるイメージ・センサでは、送信機からの光学信号を認識可能な画素数は若干減少するものの、送信データの認識自体は充分可能である。
また、1つのLEDからなる小型の送信機20と受信機50を2メートル離して設置し、この送信機20の後方からノイズ源としてのレーザ・ポインタを受信機に向かって照射してみた。この場合、受光部であるイメージ・センサでは、レーザ光の影響を受けずに送信データの認識自体は充分可能である。
受信機50は、イメージ・センサの各画素が送信機20から送信される光学信号を受信しているので、ノイズ源と光学信号が重なった画素のみがノイズの影響を受け、他の画素は影響を受けずに認識可能である。また、各画素の明るさの変化を検出しているので、ノイズ源によって明度が全体的に変化しても、点滅パターンは変化しないことからノイズと分離して検出することができる。
さらに、送信機20から受信機50に到来する直接光と、ノイズ源が光学信号を照らす間接光とでは、直接光である光学信号の方が強力であり、光学信号の点滅パターンのみを分離して認識することができる。すなわち、本実施形態に係るデータ通信システム10は、ノイズに強いデータ伝送が可能であり、さまざまな外乱のある実環境でも実用に耐え得る。
D.データ通信システムの応用
D−1.ワイドレンジな光通信
本実施形態に係るデータ通信システム10は、基本的には「見る」というワイドレンジな行為を利用した伝送方式である。また、光を媒体として情報通信を行う際に、ダイナミックレンジを大きくすることが好ましい。
例えば光通信を行う従来手法である赤外線リモコンでは、送信機は赤外を発光する赤外光LEDをあるデータ列に対応したパターンで点滅させることで情報を発信する。また、受信機は、1画素のフォトダイオードがセンサとして働き、ある一定のエリアからくる光をすべて積算して受光し、データを復調する。
赤外線リモコンを長距離から利用する場合、送信機側の発信出力を上げればよい。しかしながら、出力の強い光源を受信機に対して近距離からデータを発信した場合、受信機に届く信号の強度が強過ぎるとサチレーション(フォトダイオードの飽和状態)を起こしてしまい、正しく受信できないため、データ通信が不可能となる。このように、従来では強度の強い信号を近距離で受信するのは困難である。
これに対し、本実施形態に係るデータ通信システム10は、高速に点滅する光源である送信機20と、この送信機50の点滅パターンを全画素でデコードする受信機50から構成される。赤外線リモコンに例えてみれば、送信機20は赤外線リモコンの送信機であり、受信機50はリモコン受信機をアレイ状に配置したアレイ・センサである。
受信機50は、アレイ状に構成されたイメージ・センサの各画素で独立にデータを受信し、空間的分解能を持つという特徴を利用して、ダイナミックレンジの大きな光通信を実現することができる。
例えば図21に示すように、受信機50の視界に送信機Sが存在したとする。3次元空間に配置された光源Sは、受信機50が持つ2次元受光面へ射影されて、点sで結像される。仮に、送信機Sの光源がある半径を持つ球形であったとすると、図22に示すように送信機Sは2次元受光面上で点sを中心とした複数の受光画素群によって同時に受光される。
このように2次元受光面上で光源Sの像が面積を持つ場合には、送信機20の空間的位置を割り出すためには、受光エリアの中から特定の点を決定する必要がある。例えば、複数の受光ブロックで受信したエリアの重心などを求めて、これを2次元受光面上で送信機20を認識した座標に決定することができる。
図23には、複数の受光ブロックで受信したエリアから重心を求めるための処理手順をフローチャートの形式で示している。
まず、デコード・モード下でデータ収集部60が2次元受光面の全画素からのデータ収集処理を行なう(ステップS81)。
次いで、M画素の受光ブロックによって受信されたデータ(ID)とその座標の組(n組)をメモリに保存する(ステップS82)。
次いで、n組のペアを、それぞれ同じIDのグループに振り分ける(ステップS83)。この結果、m個のグループができたとする。
次いで、このm個のグループのそれぞれに対し、2次元受光面における座標の平均を計算して、重心を求める(ステップS84)。そして、このm個のIDと重心の組をメモリに保存する(ステップS85)。
ここで、送信機20の光源Sの信号出力は、遠隔通信を想定した充分強力な出力であるとする。このような場合、近隣でこの光学信号を受信する受信機50の2次元受光面では少なくとも一部の受光画素がサチレーションを起こすことになる。
本実施形態では、受信機50は、2次元受光面上の全画素で独立にデータを受信可能であり、空間的分解能を持つ。したがって、図22に示したように強力な光源Sから光学信号を受信したときには、その2次元受光面上の受光画素を、以下に示す3種類の領域に分割することができる(図24を参照のこと)。
(1)送信機からの受光信号が強力過ぎて、受光画素がサチレーションを起こしてしまう領域。
(2)送信機からの信号強度が受光画素に対して必要十分な強度であり、信号受信が可能な領域。
(3)送信機からの信号が微弱で、受光画素が信号を受信できない領域。
このように3つの領域に分割される理由を以下に説明する。
領域(1)でサチレーションを起こしてしまうのは、信号強度が強力だからである。また、領域(3)で信号を受信できないのは、その領域にある受光画素が送信機からの信号を十分な強度で受信できないためである。
例えば球形をなす光源Sは、球の内部だけが光り、その外部は光っていない。つまり送信機20はあるエッジを持った発光体であるとみなすことができる。このエッジは、2次元受光面上では領域(2)として射影される。この領域(2)は、図示の通り領域(1)と領域(3)の間、すなわち、明る過ぎる領域と暗過ぎる領域の間に位置する。すなわち、領域(2)にある受光画素は受信にちょうどよい強度の信号を受光していることになる。
サチレーションを起している受光素子からの出力データは信頼性がない。したがって、受信機50側では、2次元受光面において図24に示すような現象が発生した場合には、サチレーションを起こしている受光ブロックをデータ収集の対象から除きデータ処理を行なう。また、送信機20の光源の出力が強すぎてサチレーションを起こしてしまう場合であっても、信号強度が受信に丁度よいエリアにある受光ブロックは正しく受信可能であるから。このエリアの重心を求めることで、2次元受光面上で送信機を認識した座標を決定できる。この結果、ワイドレンジなデータ通信が可能となる。
図25には、受信機50側において、2次元受光面の中から受光信号の強度が丁度よいエリアを抽出して、そのエリアの重心を決定するための処理手順をフローチャートの形式で示している。
まず、デコード・モード下でデータ収集部60が2次元受光面の全画素からのデータ収集処理を行なう(ステップS91)。
次いで、M画素の受光ブロックによって受信されたデータ(ID)とその座標の組(n組)をメモリに保存する(ステップS92)。そして、メモリに保存されているデータの中から、サチレーションを起している受光ブロックからのデータを取り除く(ステップS93)
次いで、n組のペアを、それぞれ同じIDのグループに振り分ける(ステップS94)。この結果、m個のグループができたとする。
次いで、このm個のグループのそれぞれに対し、2次元受光面における座標の平均を計算して、重心を求める(ステップS95)。そして、このm個のIDと重心の組をメモリに保存する(ステップS96)。
このように、受信機50は2次元受光面上の全画素で独立にデータを受信可能であるので、非常に強力な光を発光する送信機20から発信される情報を受信可能であり、非常にダイナミックレンジの大きな光通信が可能である。
なお、上記では説明の便宜上、送信機20の形状と個数などを限定したが、任意の値でよい。また、送信機20と受信機50間の幾何学的な関係も、さまざまな組み合わせで上述と同様の効果を得ることができる。
D−2.マルチチャネル伝送
勿論、1つの実世界オブジェクトに対して複数の発光部を搭載した送信機を構成してもよいし、あるいは、実世界上に複数の送信機を設置して、所定の受信機を目掛けて同時に光学信号を発してマルチチャネル伝送を行なうこともできる(後述)。
実世界上に複数の送信装置を配置して、1つの受信装置に向かって同時に光学信号の送信を行なうようにしてもよい。このような場合、前記受信装置側では、前記受光部が2以上の送信装置からの光学信号を同時に受光し、前記データ処理部は前記2次元受光面上の受光位置に応じて光学信号を分離し、前記アプリケーション部はデコードされた各送信データを前記2次元受光面上の受光位置に応じて分離して検出することができる。
すなわち、本実施形態に係るデータ通信システム10によれば、受信機50が受信した光学信号に対して空間的分解能を持つことから、複数の通信路を同時に確立して、ロバストなマルチチャネル伝送を実現することができる。
複数の通信路を同時に確立する手法として、例えば周波数分割方式が挙げられる。有線や電波、光通信などにおいて、各チャンネルに異なる周波数帯を割り当てることにより、物理的に1つの通信路に対して、理論的に複数の通信路を確立することができる。周波数分割方式の他にも、波長分割方式や時分割方式など、さまざまな方式が存在する。
これらの方式では、複数の送信機が存在したとき、互いに信号干渉が生じないように考慮しながら通信する必要がある。例えば、まったく同じ方式を用いて同時にデータを送信する2つの送信機は、受信機において1つに混同されてしまう。物理的に一つの通信路しか同時に確立できないという問題から起因する。
物理的に同時に複数の通信路を確立することができれば、複雑なアルゴリズムを用いて理論的に複数の通信路を確立する必要がなくなる。本実施形態に係るデータ通信システム10では、受信機50が持つ受信信号の空間分解能を利用して個の問題を解決する。この受信機50によれば、アレイ状のイメージ・センサ各画素で独立にデータを受信するため、複数の送信機と通信するための通信路を同時に確立することができる。
図26に示すように、受信機の視界に2台の送信機S1及びS2と、1つのノイズ源N1が存在したとする。3次元空間に配置された各光源S1、S2、及びN1は、受信機50の2次元受光面へ射影され、2次元受光面上の点s1、s2、及びn1にそれぞれ結像される。各光源S1、S2、N1が受信機50のある視線上に並んでいない場合には、図27に示すように、これらの光源は2次元受光面上ではそれぞれ異なる点s1、s2、n1に結像される。すなわち、光源S1、S2、及びN1はそれぞれ、2次元受光面上の点s1、s2、n1を中心とした複数の受光素子によって受光される。したがって、各光源S1、S2、N1からの信号について受信エリア毎に重心を求めて、各エリア毎に受信信号をデコードすることによって、ロバストなマルチチャネル伝送を実現することができる。
図28には、受信機50側において、2次元受光面の中から複数の受光信号の受信エリアの重心を決定して、マルチチャネル伝送を行なうための処理手順をフローチャートの形式で示している。
まず、デコード・モード下でデータ収集部60が2次元受光面の全画素からのデータ収集処理を行なう(ステップS101)。
次いで、M画素の受光ブロックによって受信されたデータ(ID)とその座標の組(n組)をメモリに保存する(ステップS102)。
次いで、n組のペアを、それぞれ同じIDのグループに振り分ける(ステップS103)。この結果、m個のグループができたとする。
次いで、このm個のグループのそれぞれに対し、2次元受光面における座標の平均を計算して、重心を求める(ステップS104)。そして、このm個のIDと重心の組をメモリに保存する(ステップS105)。
そして、m個の送信機から送られてきた各データを、それぞれ独立に受信処理して、m個のデータと座標の組[ID,重心]として認識する(ステップS106)。この結果、mチャネルの通信路が確立できたことになる。
送信機S1の発信する情報を受信する2次元受光面上の点s1の周囲にある画素では、他の送信機S2とノイズ源N1による影響がほとんどなく、S/Nは高い。これは、受信機S1からの信号を受信する点s1と、送信機S2とノイズ源N1からの光を受信する点s2並びにn1が、2次元受光面では離間しており、互いに影響を与えないからである。点s1において、送信機S1からの直接光と他の光源S2、N1からの間接光とを比較した場合、S1からの直接光の方が強力であり、S1からの信号を高いS/Nで受信することが可能である。
2次元受光面上の点s1、s2、n1は、それぞれ異なる画素であればよい。したがって、まったく重なるのでなければ、図29に示すように非常に近接していても正しく受信することができる。本実施形態に係る受信機50は、2次元受光面の各画素がすべて独立にデータを受信することができるので、点s1周辺の複数の画素が送信機S1からの信号を受信する。また、点s1と点s2並びにn1が近接していても、点s1の周囲の画素全てが影響を受けるのではなく(これらを取り除いて)、影響を受けない画素からの出力を基に送信機S1からの信号を正しく受信することができる。
また、送信機S1と同様に、他の送信機S2に関しても同じことが言える。すなわち、2次元受光面で受信することにより、受信機50は、2つの送信機S1とS2の両方と同時に通信路を確立することができる。これは、アレイ状に配置されたセンサ各画素の視野角は小さく、高い空間分解能を持つことから、複数の送信機が存在しても、お互いに影響を与えることなくそれぞれの光学信号を取り出すことができることに依拠する。
複数の送信機と同時に送信機と同数の通信路を確立した後、周波数分割方式など他の方式と組み合わせることで、それぞれに対して理論的に複数の通信路を確立してもよい。
また、図26に示す2台の送信機S1、S2が物理的に違う装置である必要はない。例えば、受信機50から見て十分識別可能に空間的位置をずらした複数の光源を配置した物理的に単一の送信機との間で、同時に複数の通信路を確立するようにしてもよい。
なお、上記では、説明の便宜上、送信機とノイズ源の個数を限定したが、任意の数でも同様の効果が得られることは言うまでもない。また、受信機と各光源との幾何学的な関係も、上述した以外のさまざまな組み合わせでも同様の効果が得られる。
D−3.双方向通信
図1に示したような送信機20及び受信機50の双方の機能を搭載したデータ通信装置同士は、点滅パターンなどに符号化された光学信号を用いた双方向通信を行なうことができる(図30を参照のこと)。
双方向通信は、光通信に限らず通信では必要不可欠な基本機能である。例えばユニットがデータを受信したことをデータ送信元のユニットに示す「ACK(確認応答)を返す」ことが可能となり、パケットの再送といったことが可能となる。これ以外にも、さまざまな用途が考えられるが、双方向通信により可能となる既存の通信技術はすべて適用可能である。
E.拡張現実システムへの適用例
本実施形態に係るデータ通信システム100によれば、送信機からのLEDの点滅パターンの発光など光学信号を利用した距離にロバストなデータ伝送方式を提供することができる。さらに、受信機側では2次元イメージ・センサを利用して光学信号を受信処理することから、単に光学信号を受信して送信データを取得できるだけでなく、2次元受光面上での光学信号の受光位置を検出することにより送信機を搭載した実世界オブジェクトの空間的位置や姿勢などの実世界状況を得ることができる。したがって、受信機側のアプリケーション部70においては、実世界状況に基づくさまざまな拡張現実サービスを提供することができる。以下では、本実施形態に係るデータ通信システム100の拡張現実システムへの幾つかの適用例について説明する。
E−1.応用例1(ビデオ・オーバーレイ)拡張現実システム
LEDを光源とする送信機20が、実空間上の看板や照明、ビルのランプ、信号機などに設置されている。ユーザは、受信機50が搭載された(あるいは接続された)PDAなどの情報端末でレストランの看板を見ると、送信機20から発信されるレストランのオブジェクトIDを取得することができる。さらに、このオブジェクトIDをデータベースで検索することにより、レストランのメニューなどの情報を取り出して、PDAの画面上に表示することができる。
また、カメラ付きPDAで目の前の映画のポスターを眺めると、ポスターの近傍に設置されている送信機20から映画のID情報を取得し、このID情報に基づいてデータベース検索することにより、映画の予告編動画を取り出して、PDAの画面に表示出力する。あるいは、PDAがスタンドアロンで動作しているときには、ID情報をそのまま画面に表示するようにしてもよい。
また、カメラ付きPDAで遠くのビルや架橋などの建造物を眺めると、これら建造物に取り付けられたランプの点滅によって建造物のID情報を抽出して、このID情報に基づいてデータベースを検索することにより、建造物又はその近所で催されるイベント情報を取り出して、PDAの画面に表示出力する。あるいは、PDAがスタンドアロンで動作しているときには、ID情報をそのまま画面に表示するようにしてもよい。
画像を出力する形態としては、デコード・モードで取得したID情報やID情報を基に取り出された情報コンテンツだけを画面表示してもよいし、あるいは、画像モードで撮影したオブジェクト(看板やポスター、建造物など)の画像にこの種のオブジェクト関連情報をオーバーレイ表示させるようにしてもよい。
カメラから得られた映像の上に、認識したID情報に従って生成されたメッセージ(テキストやグラフィックス)を重ねた画像を合成する拡張現実感システムとして、例えば”NaviCam”が知られている(NaviCamに関しては、例えば、Jun Rekimoto及びKatashi Nagao共著の論文”The world through the computer:Computer augmented interaction with real world environments”(In Proceedings of the ACM Symposium on User Interface Software and Technology(UIST’95),pp.29−36,1995)を参照のこと)。
例えば、壁にかけられたカレンダーの前にNaviCamを差し出すと、ディスプレイにはカレンダーの映像の上にデータベースから得られたスケジュール情報がスーパーインポーズされる。これは、虫めがねのメタファーを利用した情報アクセスと言える。NaviCamは実世界の対象を「情報的に」拡大して表示することができる。
本実施形態に係るデータ通信システム10をNaviCamに適用するためには、受信機50がデコード・モード以外に画像モードで動作することが可能であるとともに、受信機50がPDAなどの表示画面(又はビューファインダ)を装備した情報機器に搭載され又は接続されている必要がある。また、受信機50内のアプリケーション部70は、デコード・モードで取得したオブジェクトのID情報からオブジェクトに関連する情報コンテンツを取り出すために、データベースを備えているか、又は、外部データベースにアクセスするためにネットワーク接続機能を備えていることが好ましい。
図31には、本実施形態に係るデータ通信システム10をNaviCamに適用した様子を示している。同図に示すように、受信機50が画像モード下で撮影した実写映像の上に、デコード・モード下で取得されたオブジェクトのID情報、あるいはこのID情報を基に検索された情報がオーバーレイ表示される、
この場合、オブジェクトの絶対位置が不明であっても、カメラの光学系と位置戦さの視野が一致していれば、見えている映像のID(すなわち送信機20)の位置に情報をオーバーレイ表示することができる。図31に示したように、現実の映像に、仮想的な情報(例えば広告や掲示板など)を重ねて表示させることができる。
点滅パターンなどの光学信号を発する送信機20の光源として、前述したLED以外にも、ビルのパイロット・ランプや看板のネオンサイン、信号灯、車のランプ、街角の照明灯などを利用することができる。
受信機50がNaviCamとして動作するとき、デコード・モード下では、送信機20からの点滅パターンをデコードして、オブジェクトのID情報を取得するとともに、2次元受光面で点滅パターンを検出した画素の位置情報を取得する。
まず、ID情報を基にデータベースを検索する。データベースは、受信機50内に装備されていても、無線などのネットワーク経由でアクセスされる外部データベースであってもよい。
さらに、2次元受光面での点滅パターンの位置情報を基に、データベース検索されたデータを、カメラ・モード下で撮影された画像フレーム内で点滅パターンを検出した場所にオーバーレイ表示する。
図32には、受信機50がNaviCamとして動作するための処理手順をフローチャートの形式で示している。この処理手順は、例えば、アプリケーション部70が所定のプログラム・コードを実行するという形態で実現される。以下、このフローチャートを参照しながら、NaviCamとしての動作について説明する。
まず、受信機50は、画像モードで動作する。すなわち、各受光ブロック51−1,…,51−Mが図12に示す処理手順に従い、画像モードで明るさに応じた受光データを取得するとともに、データ処理部60は図16に示したような処理手順に従い、実写映像を取得する(ステップS111)。この結果、データ収集部60内のフレームメモリ64には、M×Tビットの画像フレームからなる静止画像(又は動画像)が蓄積される。
アプリケーション部70では、まず、M(=n×m)画素の受光ブロック51−1,…,51−Mによって生成された明るさに応じた画像をディスプレイ上に表示する(ステップS112)。
次いで、受信機50は、デコード・モードで動作する。すなわち、各受光ブロック51−1,…,51−Mが図11に示す処理手順に従って動作して、オブジェクトの近傍に設置された送信機20から発された点滅パターン(光ビーコン)が結像された位置にある受光ブロックにおいて、検出された点滅パターンに相当する送信データが蓄積される。また、データ処理部60は、図14に示したような処理手順に従って動作して、受信したNビット送信データと受光ブロックのアドレス(すなわち2次元受光面上の位置)の組を取得する(ステップS113)。この結果、データ収集部60内の転送データ処理用メモリ63には、送信機20から送られてきたNビット長の送信データ(ペイロード)が蓄積される。
アプリケーション部70では、データ収集部60によって収集されたNビット送信データと受光ブロックのアドレス(すなわち2次元受光面上の位置)の組合せを、自分の作業メモリに一旦保存する(ステップS114)。
Nビットの送信データは、例えば、撮影したオブジェクトのID情報などである。また、収集された送信データの個数kは、画像フレーム内で撮影された送信機すなわちオブジェクトの個数に相当し、その受光ブロックのアドレスは、2次元受光面すなわち画像フレーム内においてオブジェクトが映し出された場所に相当する。
次いで、このk組のデータを、それぞれ同じIDのグループに分ける(ステップS115)。ここでは、仮にp個のグループに分けられたとする。
これらp個の各グループについて、2次元受光面すなわち画像フレーム内における座標の平均を計算して、それぞれの重心位置を求めて(ステップS116)、IDと計算された重心座標とを組にして、作業メモリに一旦保存する(ステップS117)。
次いで、データ組を指定するためのインデックス変数iを0に初期化した後(ステップS118)、p組のうちi番目のデータ組のIDをデータベースで検索して、i番目のIDに相当するオブジェクトのために表示すべきデータを取り出して、作業メモリに一旦保存する(ステップS119)。
次いで、このi番目のオブジェクトのために表示すべきデータを取り出して、ディスプレイ画面上のその重心座標に表示する(ステップS120)。
次いで、インデックスiを1だけインクリメントして(ステップS121)、iがpに到達したか否かをチェックする(ステップS122)。
iがpに未だ到達していない場合には、未処理のオブジェクトが残っていることになるので、ステップS119に戻って、上述したような表示データの検索並びに重心位置への表示処理を繰り返し実行する。
また、iがpに到達した場合には、送信データを受信したすべてのオブジェクトについて表示処理が終了したことになる。したがって、ディスプレイ画面上には、画像モードで撮影したカメラ映像と、その中に含まれるオブジェクトから送信されたIDとその受光位置に応じた映像とがオーバーレイ表示されている(ステップS123)。
処理を未だ継続する場合には(ステップS124)、ステップS111に復帰して、上述と同じ処理を繰り返し実行する。
本実施形態に係るデータ通信システム10によれば、受信機50は、屋内外を問わずユビキタスに設置された光学信号を長距離から認識することができるので、実験室や美術館など特定の理想環境や記憶距離に限らず、さまざまな実環境でこのようなビデオ・オーバレイ型拡張現実システムを利用することができる。
本実施形態に係るデータ通信システム10をこのような拡張現実感システムに応用する場合、光学信号に符号化して送信するデータを対応する電子情報へのURLなどに変換する必要があるが、例えばすべての送信データが128ビット程度のユニークIDを送信して、このユニークIDからURLに変換するサーバがネットワーク上で稼働しているという構成でもよい。
E−2.応用例2
自律移動ロボットや自動車の車庫入れ制御などの用途においては、移動する機体の位置を高精度に測定する必要がある。
本実施形態に係るデータ通信システムを適用すれば、作業空間上で位置が既知となっている複数の点に点滅パターン(光ビーコン)を発生する送信機を配置する。そして、ロボットや自動車などの機体上に受信機を搭載して、作業空間を撮影する。画像フレーム上の座標と作業空間上の点の組合せが一定数以上同時に分かる場合には、受信機すなわち機体の作業空間上の位置と傾き又は姿勢を計算することができる。
また、卓上など所定の作業平面上で小型ロボット同士がサッカーをするという大会がある(例えば、「ロボカップ(RoboCup)」など)。このような場合、各ロボットの頭部や背中の上面に送信機を設置して点滅パターン(光ビーコン)によってロボット自身のID情報を送信するとともに、ゲームが行なわれるフィールド上空に受信機を設置することによって、システム側では各ロボットの位置や方向を簡単且つ高精度に認識することができる。例えば、各ロボットの位置やゲームのスコアや進捗状況を総合的に解析して、作戦(すなわち各ロボットに対するコマンド)を練ることができる。
勿論、ロボットや自動車などの機体上には、1台だけではなく複数台の受信機を装備してもよい。このような場合、ロボットは、広い視野で送信機を探索して自分の位置や傾きを測定することができる。すなわち、各送信機はランドマークとして作用する。
E−3応用例3
本実施形態に係るデータ通信システムの受信機をジャイロなどの回転センサと組み合わせて用いてもよい。
このような場合、まず、受信機で絶対座標と方向を決めた後、ジャイロで相対的な回転方向を追跡していくことで、受信機の画面から送信器がはみ出していても、回転運動に追従して送信機を捉えることができる。
E−4.応用例4
一般的なコンピュータにおいては、マウスやキーボードなどのユーザ入力装置と、GUI(Graphical User Interface)ディスプレイ画面とからなるユーザ・インターフェースを基調とする。これに対し、”Augmentable Reality”とも呼ばれる実世界指向インターフェースにおいては、コンピュータの作業環境であるデスクトップが実世界に拡張され、室内の机や本、鉛筆、ビデオ・カセットなど実空間上のさまざまなオブジェクトをコンピュータへの入力手段として用いることができる。
このAugmentable Realityの手法の1つとして、”Digital PostIT”と呼ばれるものが挙げられる。通常のPosiITはペンで描いたメモを関係したオブジェクトに貼り付けることによって、後からオブジェクトを見たときに記憶をよみがえらせるために使用する。これに対し、Digital PostITは、紙のような物理的な媒体を利用せず、実世界上のオブジェクトとこれに関連するメモ書きなどのデータをデジタル的にリンクさせるとともに、デジタル的に再現させるものである。
本実施形態に係るデータ通信システムを、このDigital PostITに適用することができる。すなわち、受信機を使用することにより、各物理オブジェクトをさらに高精度で空間位置を測定することができるので、より細かい粒度で実世界上にデータを配置することができる。
E−5.応用例5
また、Augmebtable Realityの他の手法として、カメラで見ているものとのネットワーク接続を確立するというメタファーを与える”gaza−link”を挙げることができる。例えば、接続の対象物にIDに相当するビジュアル・マーカを貼設して置くことにより、カメラで撮像するだけで、対象物を識別して、接続を確立することができる。また、識別された機器との間で持続的な接続を実現する結果として、多くの機器が相互接続されたネットワーク環境下において、ユーザは各機器の名前などを気にすることなく、操作の対象を直感的に又は直接的に指定することができる。
本実施形態に係るデータ通信システムをgaze−linkに適用することにより、作業空間上に散在するオブジェクトをさらに高精度に測定して、対象となる機器を正確に特定することができる。また、LEDの点滅パターン(光ビーコン)を所定ビット長のデータとしてデコードするたけでオブジェクトを認識することができ、サイバーコードのようなビジュアル・マーカを識別する場合のような画像認識などの負荷の高い処理を必要としない。
なお、Gaze−linkテクノロジに関しては、例えば本出願人に既に譲渡されている特開2001−142825号公報に開示されている。
E−6.応用例6
ネットワークで接続された複数の受信機が、空間的位置が分かっている場所に設置した場合、ステレオ・マッチングを行うことで2台以上の受信機に撮像された送信機の空間的位置を計算することができる。
ステレオ処理を行なう場合、複数の受信機間で時間的な同期をとる必要がある。送信機から送信されるID情報などの点滅パターン(光ビーコン)を、時間とともにインクリメンタルに変化させることで、送信データ中にタイムコードを含ませることができる。同じID情報をデコードした瞬間は同じ時間であることが言える。これにより、受信機間で容易に同期をとることができる。
作業環境に受信機と送信機をそれぞれ複数設置することにより、ステレオ処理や射影変換による座標推定を用いて、送信機及び受信機間の相対位置を3次元的に測定することが可能である。
例えば、会議室の天井に受信機を設置することで、InfoRoomなどの複合型情報環境での実世界オブジェクトの認識や位置認識検出を行なうことができる。(InfoRoomに関しては、例えば暦本純一著の論文『InfoRoom:実世界に拡張された直接操作環境』(インタラクション2000,pp.9−16,2000)などを参照されたい。)また、屋内外の自律移動ロボットや自動車車庫入れシステムなどでの位置認識システムとして利用可能である。
点滅する光源の位置を認識する研究として、例えば、PSD(Position Sensitive Detector)や、高速カメラを用いてビーコンを識別する位置認識システム(例えば、M.Bajura、U.Neumann共著の論文”Dynamic Registration Correction in Augmented Reality System”(VRAIS’95,pp.189−196,1995)やPhoeniX Technologies社の”The Visual Eyes System”(http://ptiphoenix.com)を参照されたい)などが知られている。しかしながら、これらの既存のシステムでは、ビーコンの点滅タイミングなどがシステム全体で同期している必要があり、ビーコンの設置に制限があるため、用途が限定されてしまう。また、システムと同期せずに点滅するビーコンを普通のカメラを用いて認識するシステム(例えば、D.J.Moore、R.Want、B.L.Harrison、A.Gujar及びK.Fishkin共著の論文”Implementing Phicons:Combining Computer Vision with InfraRed Technology for Interactive Physical Icons”(UIST’99,pp.67−68,1999)や、青木恒著の論文『カメラで読み取る赤外線タグとその応用』(インタラクティブシステムとソフトウェアVIII,pp.131−136,2000)を参照されたい)では、30Hzという低速なサンプリングしか行なえず、認識速度が非常に低速で、移動体での利用ができない。
これに対し、本実施形態に係るデータ通信システム10では、光学信号の点滅パターンと同期せずに独自のクロックで動作可能である。これにより、独立な複数の光学信号が1つの環境に同時に存在することが可能である。例えば、動作クロックを光学信号の点滅パターンと受信機の両方で倍にすることで、最高60fpsで動作することができる。この程度の速度であれば、モーション・キャプチャなどの時間精度を必要とするタスクにも応用することができる。
送信機が移動している場合、受信機側では、イメージ・センサ上でその光学信号を受光する画素位置が移動する。隣接する複数の画素で受光したデータを統合することにより、移動中の送信機からの送信データを受信しデコードすることが可能となる。
F.送信側に接続されるセンサの値を伝送するシステムへの応用
送信側に接続されるセンサの検出値を伝送するシステムは、例えば、ユーザとコンピュータのインタラクションを行なう場合などに適用することができる。マウスなどのポインティング・デバイスを使ったコンピュータの入力システムなどがその代表例である。この種のシステムでは、例えば、手に保持するデバイスにセンサを搭載し、システムがそのセンサの位置と値の両方を認識することができれば、システム設計の自由度やシステムの使い勝手を向上させることができる。
この種のシステムにおいて、上述したような光源の点滅パターンなどからなる光学信号を利用してセンサの位置を認識する方法を適用すると、センサの値を電波などの別経路を使って伝送する必要がある。しかしながら、センサ値情報の伝送路と位置情報の伝送路というように複数の伝送路を設けることは、とりわけ小型のデバイスの設計上は好ましくない。
本発明によれば、小型の送信機を使用し、例えばデバイスのIDとセンサの値を組み合わせた信号を送信し、受信側でこの伝送情報を基にセンサの値とデバイスの位置の両方を認識することができる。このため、本発明を適用することにより、送信側に小型のデバイスを用いたとしても、容易にシステムを構築することができる。
以下では、送信側に接続されるセンサの検出値を伝送するシステムに本発明を適用した場合の構成例並びに応用例について説明する。
F−1.構成例1
図33には、送信側に接続されるセンサの検出値を伝送するシステムの構成例を模式的に示している。同図に示す例では、送信機において、センサの値が制御部に読み込まれ、センサの値と送信機のIDを含むフォーマットのデータがエンコーダによりエンコードされ、光源からセンサの値と送信機のIDの情報を含む光学信号が受信機に向けて送信される。
ここで、送信機は、例えば光ビーコンとして構成することができる。この場合、例えば、光源に点滅するLEDを用い、光源から出力される光学信号にセンサの値と送信機のIDを時系列の点滅パターンにエンコードしたものを用いることができる。
受信機では、送信機から送られてきた光学信号を、レンズで集光した後、受光素子で受光する。受光素子の動作は制御部によって制御されており、デコーダに受光データを送るようになっている。デコーダは、デコード処理により得られたセンサの値と送信機のIDのデータを外部接続されているパーソナル・コンピュータ(PC)に転送する。PCでは、デコーダからの入力データに基づき、センサの値と送信機の位置を求めることができる。
ここで、受信機には、2次元の受光面を持つもの、例えば、一般のデジタル・カメラなどで用いられている画像センサのように数百万画素の受光素子がアレイ状に並んだものなどを用いる。なお、受光素子に高速撮像が可能なCMOSイメージ・センサなどを用いて、受信機の時間解像度を高め、送信機の位置の検出精度を高めることが好ましい。
F−2.構成例2
図34には、送信側に接続されるセンサの検出値を伝送するシステムについて他の構成例を模式的に示している。同図に示す例は、受信側の構成において、デコーダでの処理が図33に構成例とは主に相違している(場合によっては、外部接続されているPC側での処理も相違する)。
図34に示す構成例において、送信機では、送信機自体のIDについての光学信号を送出する光源と、センサの値についての光学信号を送出する光源が別個に配設されている。一方の光源1は、制御部からエンコーダ1に送られエンコーダ1でエンコードされる送信機のIDに対応して光学信号を送出し、他方の光源2はこれとは同時並行して独立して駆動することが可能である。また、エンコーダ1とエンコーダ2における変調方式は、同じであってもよいが別々のものを適用することも可能である。
受信機において、レンズ、受光素子、制御部は、図33において対応する各機能モジュールと同様の構成のものを適用することができる。デコーダについては、送信機側におけるエンコーダ1及びエンコーダ2においてそれぞれ採用されている変調方式の双方に対応可能であるものが用いられる。
なお、エンコーダ1とエンコーダ2に同一の変調方式を適用すれば、デコーダは単一の変調方式を装備するだけで十分であり、コスト並びに装置の小型化の面で有利である。また、これらが別々の変調方式を適用すれば、送信機のIDとセンサの値との識別が容易になる。
F−3.構成例3
図35には、送信側に接続されるセンサの検出値を伝送するシステムについてのさらに他の構成例を模式的に示している。同図に示す例では、送信機側では、送信機自体のIDは伝送せず、センサの値のみを伝送する構成となっている。基本的に、図33並びに図34に示したシステム構成において、送信機のIDを伝送するための機能モジュールを取り除くことによって構成することができるので、ここではこれ以上説明しない。
F−4.具体的応用例
以下では、送信側に接続されるセンサの検出値を伝送するシステムについての具体的な応用例について説明する。
図36には、送信側に接続されるセンサの検出値を伝送するシステムをマウス・ボタンに適用した応用例を模式的に示している。同図に示す応用例では、図33〜図35を参照しながら説明したシステム構成のいずれかに基づいて実装することができる。送信機側の送信データは、マウス・ボタン(左右)のオン/オフとマウスの固有IDとを含んでいる。例えば、マウスIDが”100”で、右ボタンがオフ(センサの値が0)、左ボタンがオン(センサの値が1)のとき、送信データはこれらをビット連結させて10001とすることができる。
また、送信側に接続されるセンサの検出値を伝送するシステムをジョグダイヤル搭載機器へ応用することもできる。この応用例も、図33〜図35を参照しながら説明したシステム構成のいずれかに基づいて実装することができる。この応用例(図示しない)では、例えば、ジョグの回転角度や相対回転方向をセンサの値とすることが可能であり、ジョグダイヤルの固有IDとともに送出することができる。
さらに、送信側に接続されるセンサの検出値を伝送するシステムは、残量通知の可能なバッテリへ応用することも可能である。この応用例も、図33〜図35を参照しながら説明したシステム構成のいずれかに基づいて実装することができる。この応用例(図示しない)では、例えば、バッテリ残量を検出するセンサの値とバッテリ固有のIDを組み合わせて送信する構成である。例えば、バッテリIDが”100”でバッテリ残量の指示値が120の場合には、送信データとしてこれらを連結した100120として構成することが考えられる。また、この応用例では、バッテリ残量に応じて送信機のIDを変更することも可能である。例えば、バッテリが満充電状態でID=100とし、バッテリ残量がない状態でID=110のようにしてもよい。
さらに、送信側に接続されるセンサの検出値を伝送するシステムを、認証デバイスを用いたシステムへ応用することができる。この応用例も、図33〜図35を参照しながら説明したシステム構成のいずれかに基づいて実装することができる。図37には、この応用例の1つとして、個人認証型のワイヤレス・マウスを示している。同図に示す例では、ウェアラブル・キー(WearableKey)を用いた認証が行なわれる。但し、図示しない認証センサがマウス側に配設されている。ウェアラブル・キーは、生態を伝送路に用いて個人IDなどを通信することができる。図37に示す例では、例えば、ウェアラブル・キーに格納された個人IDが100(すなわち、認証センサで検出される値)で、マウスIDが120であれば、これらを連結したものが送信データとして構成され、100120に対応する光学信号がマウスの光源から発信されることになる。なお、この種のシステム応用例では、ウェアラブル・キーの認証センサ以外にも、RFタグ、指紋や声紋などの生体情報、メモリカードなどの認証媒体を用いることができる。
さらに、送信側に接続されるセンサの検出値を伝送するシステムは、図38に示すように、筋電位センサと組み合わせたシステムへも応用することができる。この応用例も、図33〜図35を参照しながら説明したシステム構成のいずれかに基づいて実装することができる。筋電位センサは、筋肉の作動で発生する筋電位を皮膚表面から抽出して計測することができ、これを用いると、被測定者がどれだけの力を出したいのかを計測することができる。送信側に接続されるセンサの検出値を伝送するシステムを筋電位センサと組み合わせることによって、例えば、手の握り具合などのジェスチャと送信デバイスの位置により、IDCamなどに接続された機器の制御を行なうことができる。
さらに、送信側に接続されるセンサの検出値を伝送するシステムを、図39に示すように、動きセンサと組み合わせたシステムへも応用することができる。この応用例も、図33〜図35を参照しながら説明したシステム構成のいずれかに基づいて実装することができる。同図に示す例では、人の手の動きの検出によって得られる動きセンサの値を含む光学信号が光源から発信され、IDCamで受信する構成が採用されている。すなわち、大まかな位置をIDCamで計測する一方、微小な動きを動きセンサで計測することにより、IDCamの解像度よりも細かいあるいは素早い動きを認識することができる。このため、IDCamの解像度を向上させたことと実質的に同様の効果を得ることができる。また、IDCamの撮像情報を基に、物を叩いたタイミングを認識することができる。また、IDCamの撮像情報から、動きセンサあるいは検出対象物の同じ位置での回転が判る。なお、動きセンサとしては、そのシステムの特性や用途に応じて、例えば、傾きセンサ、加速度センサ、速度センサ、磁気センサ、衝撃センサなどを用いることができる。
以上のように、本発明によれば、システム設計の自由度やシステムの使い勝手を維持したまま、送信側に接続されるセンサの値を受信機に容易に伝送可能なシステムを構築することができる。
追補
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。すなわち、例示という形態で本発明を開示してきたのであり、限定的に解釈されるべきではない。本発明の要旨を判断するためには、冒頭に記載した特許請求の範囲の欄を参酌すべきである。
[産業上の利用可能性]
本発明によれば、通信媒体では接続されていない実世界上のオブジェクトから情報を直接転送することができる、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することができる。
また、本発明によれば、機器IDやネットワーク・アドレス、ホスト・ネーム、URLなどの実世界上のオブジェクトに関連した情報、あるいはユーザの位置などの実世界状況などを有線又は無線ネットワークなどの通信媒体を用いずにオブジェクトから直接データ転送することができる、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することができる。
また、本発明によれば、目の前のオブジェクトから比較的遠くにあるオブジェクトに至るまで距離的にロバストなデータ転送が可能な、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することができる。
また、本発明によれば、通信媒体では接続されていない実世界上のオブジェクトからIDなどの情報を入手すると同時にオブジェクトの空間的な位置や姿勢などの実世界状況を認識することができる、優れたデータ通信システム、データ送信装置、並びにデータ受信装置を提供することができる。
【図面の簡単な説明】
図1は、本発明の一実施形態に係るデータ通信システム10の構成を模式的に示した図である。
図2は、受光ブロック51−1,51−2…が2次元マトリックス状に配置されて2次元受光面が構成される様子を示した図である。
図3は、送信機20の内部構成を模式的に示した図である。
図4は、送信機20からLEDの点滅パターンとして送出されるデータ・フレームの構造を模式的に示した図である。
図5は、図3に示した送信機20において、LEDの点滅によりデータ・フレームを送出するための処理手順を示したフローチャートである。
図6は、送信機20が2個の発光ダイオードを装備したときのデータ通信システム10の動作例を示した図である。
図7は、受信機50における1つの受光ブロック51の内部構成を模式的に示した図である。
図8は、画像モードとデコード・モードを使い、画像とIDをともにセンシングするためのシステム構成例を示した図である。
図9は、画像モードとデコード・モードを使い、画像とIDをともにセンシングするためのシステム構成例を示した図である。
図10は、画像モードとデコード・モードを使い、画像とIDをともにセンシングするためのシステム構成例を示した図である。
図11は、図7に示したような構成を持つ受光ブロック51において画像モードとデコード・モードを交互に動作させてデータを受信するための処理手順を示したフローチャートである。
図12は、画像モード時の受光ブロックの動作手順を示したフローチャートである。
図13は、データ収集部60の内部構成を模式的に示した図である。
図14は、デコード・モード下においてデータ収集部60が実行する処理手順を示したフローチャートである。
図15は、送信機20の空間的位置に応じて2次元受光面上で送信機20の光源が撮影される画素(受光ブロック)の場所が変化する様子を示した図である。
図16は、画像モード下においてデータ収集部60が実行する処理手順を示したフローチャートである。
図17は、本発明の一実施形態に係るデータ通信システム10の対外乱光特性を説明するための図である。
図18は、本発明の一実施形態に係るデータ通信システム10の対外乱光特性を説明するための図である。
図19は、本発明の一実施形態に係るデータ通信システム10の対外乱光特性を説明するための図である。
図20は、本発明の一実施形態に係るデータ通信システム10の対外乱光特性を説明するための図である。
図21は、本発明の一実施形態に係るデータ通信システム10によるワイド・レンジなデータ通信動作を説明するための図である。
図22は、本発明の一実施形態に係るデータ通信システム10によるワイド・レンジなデータ通信動作を説明するための図である。
図23は、本発明の一実施形態に係るデータ通信システム10によるワイド・レンジなデータ通信動作を説明するための図である。
図24は、本発明の一実施形態に係るデータ通信システム10によるワイド・レンジなデータ通信動作を説明するための図である。
図25は、本発明の一実施形態に係るデータ通信システム10によるワイド・レンジなデータ通信動作を説明するための図である。
図26は、本発明の一実施形態に係るデータ通信システム10によるマルチチャネル伝送を説明するための図である。
図27は、本発明の一実施形態に係るデータ通信システム10によるマルチチャネル伝送を説明するための図である。
図28は、本発明の一実施形態に係るデータ通信システム10によるマルチチャネル伝送を説明するための図である。
図29は、本発明の一実施形態に係るデータ通信システム10によるマルチチャネル伝送を説明するための図である。
図30は、本発明の一実施形態に係るデータ通信方式を利用した双方向通信を説明するための図である。
図31は、本発明の一実施形態に係るデータ通信システム10をNaviCamに適用した様子を示した図である。
図32は、受信機50がNaviCamとして動作するための処理手順を示したフローチャートである。
図33は、送信側に接続されるセンサの検出値を伝送するシステムの構成例を示した図である。
図34は、送信側に接続されるセンサの検出値を伝送するシステムについての他の構成例を示した図である。
図35は、送信側に接続されるセンサの検出値を伝送するシステムについてのさらに他の構成例を模式的に示した図である。
図36は、送信側に接続されるセンサの検出値を伝送するシステムをマウス・ボタンに適用した応用例を模式的に示した図である。
図37は、送信側に接続されるセンサの検出値を伝送するシステムを、認証デバイスを用いたシステムへ応用した例を模式的に示した図である。
図38は、送信側に接続されるセンサの検出値を伝送するシステムを筋電位センサと組み合わせたシステムに応用した例を模式的に示した図である。
図39は、送信側に接続されるセンサの検出値を伝送するシステムを動きセンサと組み合わせたシステムに応用した例を模式的に示した図である。

Claims (41)

  1. 送信データを生成するデータ処理部と、送信データを符号化した光学信号を発光する発光部とで構成される送信装置と、
    前記送信装置からの光学信号を2次元受光面で受光する受光部と、前記2次元受光面上における光学信号の受光位置並びに受光した光学信号から送信データを復号するデータ処理部とで構成される受信装置と、
    を具備し、
    前記受光部におけるデータのサンプリング周波数は前記送信データの転送周波数より大きい、
    ことを特徴とするデータ通信システム。
  2. 前記サンプリング周波数は、前記転送周波数の倍よりも大きい、
    ことを特徴とする請求項1に記載のデータ通信システム。
  3. 前記受信装置は、シーンを撮影するための画像モードと画像モード以外の時間に行なわれる光学信号を受信処理するためのデコード・モードを含む2以上の動作モードで動作する、
    ことを特徴とする請求項1に記載のデータ通信システム。
  4. 前記送信データは2種以上の情報を含むビット列を構成する、
    ことを特徴とする請求項1に記載のデータ通信システム。
  5. 前記送信装置は、実世界オブジェクトの近傍に設置して用いられ、該実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)又はURI(Uniform Resource Identifier)などの資源識別子、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報を含んだ送信データを表した光学信号を発光する、
    ことを特徴とする請求項1に記載のデータ通信システム。
  6. 前記送信装置にはセンサが接続されており、
    前記送信データには少なくとも前記センサの値が含まれる、
    ことを特徴とする請求項1に記載のデータ通信システム。
  7. 前記送信装置側では送信データに所定の変調処理を施して光の点滅パターン又は光強度の連続的な変化からなる光学信号に符号化し、前記受信装置側では対応する復調処理を行なって元の送信データを取り出す、
    ことを特徴とする請求項1に記載のデータ通信システム。
  8. 前記受信装置は、前記2次元受光面上における光学信号の受光位置及び受光した光学信号から復号された送信データに対応する処理サービスを実行するアプリケーション部をさらに備える、
    ことを特徴とする請求項1に記載のデータ通信システム。
  9. 各実世界オブジェクトとユーザ端末とを接続する通信媒体をさらに備え、
    前記アプリケーション部は、光学信号から復号されたデータを基に実世界オブジェクトの前記通信媒体上のアドレスを取得して、ユーザ端末と実世界オブジェクトとの接続を確立する、
    ことを特徴とする請求項8に記載のデータ通信システム。
  10. 前記受信装置は、外部の情報提供空間にアクセスするための接続手段をさらに備え、
    前記アプリケーション部は、光学信号を復号して得られたデータを基に前記情報提供空間を探索して、実世界オブジェクトに関連する情報コンテンツを取り出す、
    ことを特徴とする請求項8に記載のデータ通信システム。
  11. 前記受信装置は、前記2次元受光面において受光された明るさに応じた撮影画像を処理する撮影画像処理手段をさらに備える、
    ことを特徴とする請求項1に記載のデータ通信システム。
  12. 前記受信装置は、前記2次元受光面において受光された明るさに応じた撮影画像を処理する撮影画像処理手段と、画像を表示する画面表示手段とをさらに備え、
    前記アプリケーション部は、撮影画像を画面表示させるとともに、撮影画像上で光学信号の受光位置に対応する場所に、光学信号を復号して得られたデータをオーバーレイ表示させる、
    ことを特徴とする請求項8に記載のデータ通信システム。
  13. 前記受信装置側では、前記データ処理部は、前記受光部の受光面を、受光信号が充分強力でデータ再現が不可能な領域と、受光信号が必要充分な強度でありデータ再現が可能な領域と、受光信号が微弱で受信不可能な領域に分割して、データ再現が可能な領域からの受光信号を用いて送信データの復号を行なう、
    ことを特徴とする請求項1に記載のデータ通信システム。
  14. 前記データ処理部は、該データ再現が可能な領域の重心位置を求めて、該重心位置を基に送信装置の空間的位置を特定する、
    ことを特徴とする請求項13に記載のデータ通信システム。
  15. 前記送信装置は複数の発光部を備え、
    前記アプリケーション部は、前記2次元受光面上において検出された各発光部からの光学信号の受光位置を基に、前記送信装置の空間的位置を特定する、
    ことを特徴とする請求項8に記載のデータ通信システム。
  16. 実世界上に複数の送信装置が配置され、
    前記受信装置側では、前記受光部が2以上の送信装置からの光学信号を同時に受光し、前記データ処理部は前記2次元受光面上の受光位置に応じて光学信号を分離し、前記アプリケーション部は復号された各送信データを前記2次元受光面上の受光位置に応じて分離して検出する、
    ことを特徴とする請求項1に記載のデータ通信システム。
  17. 前記受信装置は2以上の2次元受光面を備え、
    前記アプリケーション部は、各2次元受光面において検出された光学信号及びその受光位置を基にステレオ・マッチングを行なうことで、前記送信装置の空間的位置を特定する、
    ことを特徴とする請求項8に記載のデータ通信システム。
  18. 送信データを生成するデータ処理部と、
    送信データを光学信号に符号化して送出する発光部と、
    を具備し、
    前記発光部は、光学信号を2次元受光面で受光する受光部と、前記2次元受光面上における光学信号の受光位置並びに受光した光学信号から送信データを復号するデータ処理部とで構成され、前記受光部におけるデータのサンプリング周波数が前記送信データの転送周波数より大きい受信装置に対して、光学信号を送出する、
    ことを特徴とするデータ送信装置。
  19. 前記サンプリング周波数は前記転送周波数の倍よりも大きい、
    ことを特徴とする請求項18に記載のデータ送信装置。
  20. 前記送信データは2種以上の情報を含むビット列を構成する、
    ことを特徴とする請求項18に記載のデータ送信装置。
  21. 実世界オブジェクトの近傍に設置して用いられ、
    前記データ処理部は該実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)又はURI(Uniform Resource Identifier)などの資源識別子、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報を含んだ送信データを生成し、前記発光部は該送信データを光学信号に符号化して送出する、
    ことを特徴とする請求項18に記載のデータ送信装置。
  22. センサに接続されており、
    前記送信データには少なくとも前記センサの値が含まれる、
    ことを特徴とする請求項18に記載のデータ送信装置。
  23. 前記発光部は、送信データに所定の変調処理を施して光の点滅パターン又は光強度の連続的な変化からなる光学信号に符号化する、
    ことを特徴とする請求項18に記載のデータ送信装置。
  24. 2以上の発光部を備えて、各発光部間の物理的配置によって実世界における空間情報を表す、
    ことを特徴とする請求項18に記載のデータ送信装置。
  25. 送信データが符号化された光学信号を2次元受光面で受光する、データのサンプリング周波数が前記送信データの転送周波数より大きい、受光部と、
    前記2次元受光面上における光学信号の受光位置並びに受光した光学信号から復号されたデータの組み合わせに基づくデータ処理を実行するデータ処理部と、
    を具備することを特徴とするデータ受信装置。
  26. 前記サンプリング周波数は、前期転送周波数の倍よりも大きい、
    ことを特徴とする請求項25に記載のデータ受信装置。
  27. シーンを撮影するための画像モードと画像モード以外の時間に行なわれる光学信号を受信処理するためのデコード・モードを含む2以上の動作モードで動作する、
    ことを特徴とする請求項25に記載のデータ受信装置。
  28. 送信データは2種以上の情報を含むビット列を構成する、
    ことを特徴とする請求項25に記載のデータ受信装置。
  29. 送信側では送信データに所定の変調処理を施して光の点滅パターン又は光強度の連続的な変化に符号化した光学信号を送出しており、
    前記データ処理部は対応する復調処理を行なって元の送信データを取り出す、
    ことを特徴とする請求項25に記載のデータ受信装置。
  30. 前記2次元受光面上における光学信号の受光位置及び受光した光学信号から復号された送信データに対応する処理サービスを実行するアプリケーション部をさらに備える、
    ことを特徴とする請求項25に記載のデータ受信装置。
  31. 前記アプリケーション部は、復号された送信データを基に、光学信号を発光する光源が設置されている実世界オブジェクトのIDや、ネットワーク・アドレス、ホスト・ネーム、URL(Uniform Resource Locator)又はURI(Uniform Resource Indicator)などの資源識別子、データ/コンテンツ、プログラム・コードやその他のオブジェクトに関連する情報を抽出する、
    ことを特徴とする請求項30に記載のデータ受信装置。
  32. 前記送信データには少なくとも送信側に接続されたセンサの値が含まれる、
    ことを特徴とする請求項25に記載のデータ受信装置。
  33. 各実世界オブジェクトとユーザ端末とを接続する通信媒体をさらに備え、
    前記アプリケーション部は、光学信号から復号されたデータを基に実世界オブジェクトの通信媒体上のアドレスを取得して、ユーザ端末と実世界オブジェクトとの接続を確立する、
    ことを特徴とする請求項30に記載のデータ受信装置。
  34. 外部の情報提供空間にアクセスするための接続手段をさらに備え、
    前記アプリケーション部は、受光した光学信号を復号して得られたデータを基に前記情報提供空間を探索して、実世界オブジェクトに関連する情報コンテンツを取り出す、
    ことを特徴とする請求項30に記載のデータ受信装置。
  35. 前記2次元受光面において受光された明るさに応じた撮影画像を処理する撮影画像処理手段をさらに備える、
    ことを特徴とする請求項25に記載のデータ受信装置。
  36. 前記2次元受光面において受光された明るさに応じた撮影画像を処理する撮影画像処理手段と、画像を表示する画面表示手段とをさらに備え、
    前記アプリケーション部は、撮影画像を画面表示させるとともに、撮影画像上で光学信号の受光位置に対応する場所に、受光した光学信号を復号して得られたデータをオーバーレイ表示させる、
    ことを特徴とする請求項30に記載のデータ受信装置。
  37. 前記データ処理部は、前記受光部の受光面を、受光信号が充分強力でデータ再現が不可能な領域と、受光信号が必要充分な強度でありデータ再現が可能な領域と、受光信号が微弱で受信不可能な領域に分割して、データ再現が可能な領域からの受光信号を用いて送信データの復号を行なう、
    ことを特徴とする請求項25に記載のデータ受信装置。
  38. 前記データ処理部は、該データ再現が可能な領域の重心位置を求めて、該重心位置を基に送信装置の空間的位置を特定する、
    ことを特徴とする請求項37に記載のデータ受信装置。
  39. 前記アプリケーション部は、前記2次元受光面上において検出された2以上の光学信号の受光位置を基に、光学信号を発光する送信装置の空間的位置を特定する、
    ことを特徴とする請求項30に記載のデータ受信装置。
  40. 実世界上に複数の送信装置が配置されており、
    前記受光部は2以上の送信装置からの光学信号を同時に受光し、
    前記データ処理部は前記2次元受光面上の受光位置に応じて光学信号を分離して復号し、
    前記アプリケーション部は復号された各送信データを前記2次元受光面上の受光位置に応じて分離して検出する、
    ことを特徴とする請求項30に記載のデータ受信装置。
  41. 2以上の2次元受光面を備え、
    前記アプリケーション部は、各2次元受光面において検出された光学信号及びその受光位置を基にステレオ・マッチングを行なうことで、光学信号を発光する送信装置の空間的位置を特定する、
    ことを特徴とする請求項25に記載のデータ受信装置。
JP2003539200A 2001-10-23 2002-09-09 データ通信システム、データ送信装置、並びにデータ受信装置 Expired - Fee Related JP3918813B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2001325356 2001-10-23
JP2001325356 2001-10-23
JP2002057836 2002-03-04
JP2002057836 2002-03-04
PCT/JP2002/009141 WO2003036829A1 (fr) 2001-10-23 2002-09-09 Systeme de communication de donnees, emetteur et recepteur de donnees

Publications (2)

Publication Number Publication Date
JPWO2003036829A1 true JPWO2003036829A1 (ja) 2005-02-17
JP3918813B2 JP3918813B2 (ja) 2007-05-23

Family

ID=26624055

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003539200A Expired - Fee Related JP3918813B2 (ja) 2001-10-23 2002-09-09 データ通信システム、データ送信装置、並びにデータ受信装置

Country Status (4)

Country Link
US (1) US7415212B2 (ja)
EP (1) EP1439649A4 (ja)
JP (1) JP3918813B2 (ja)
WO (1) WO2003036829A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10951313B2 (en) 2018-11-30 2021-03-16 Casio Computer Co., Ltd. Transmitting device, transmission method, and recording medium
US11361466B2 (en) 2018-11-30 2022-06-14 Casio Computer Co., Ltd. Position information acquisition device, position information acquisition method, recording medium, and position information acquisition system
US20230142456A1 (en) * 2016-10-21 2023-05-11 Panasonic Intellectual Property Corporation Of America Transmission device, reception device, communication system, transmission method, reception method, and communication method

Families Citing this family (183)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4178697B2 (ja) * 1999-11-18 2008-11-12 ソニー株式会社 携帯型情報処理端末、情報入出力システム及び情報入出力方法
US20040001074A1 (en) * 2002-05-29 2004-01-01 Hideki Oyaizu Image display apparatus and method, transmitting apparatus and method, image display system, recording medium, and program
JP2004134870A (ja) * 2002-10-08 2004-04-30 Kakushi Mizuguchi 電話録音用アダプタ
AU2003900861A0 (en) * 2003-02-26 2003-03-13 Silverbrook Research Pty Ltd Methods,systems and apparatus (NPS042)
US20050042775A1 (en) * 2003-08-21 2005-02-24 Nicholas Pomato Botulinum antitoxin compositions and methods
JP2005218066A (ja) * 2004-02-02 2005-08-11 Nakagawa Kenkyusho:Kk 位置情報通信装置
US8521185B2 (en) * 2004-02-28 2013-08-27 Charles Martin Hymes Wireless communications with visually-identified targets
US8483567B2 (en) * 2004-04-09 2013-07-09 Immediate Response Technologies, Inc Infrared communication system and method
US20130308939A1 (en) * 2004-04-09 2013-11-21 Immediate Response Technologies Infrared Communication System and Method
JP4470102B2 (ja) * 2004-04-26 2010-06-02 ソニー株式会社 情報処理装置、情報処理方法、データ出力制御プログラム及びデータ送受信システム
JP4654610B2 (ja) * 2004-06-11 2011-03-23 ソニー株式会社 撮像装置及び撮像制御方法
JP4803385B2 (ja) * 2004-08-05 2011-10-26 独立行政法人科学技術振興機構 空間光通信を用いた情報処理システム及び空間光通信システム
US8547401B2 (en) * 2004-08-19 2013-10-01 Sony Computer Entertainment Inc. Portable augmented reality device and method
DE202004013984U1 (de) * 2004-09-08 2006-01-19 Mekra Lang Gmbh & Co. Kg Kamerasystem
JP4244919B2 (ja) * 2004-12-14 2009-03-25 ソニー株式会社 情報処理装置および方法、プログラム、並びに情報処理システム
KR101313407B1 (ko) * 2005-03-29 2013-10-01 스트라이커 커네이디언 매니지먼트 인크. 환자 핸들링 디바이스를 위한 위치 검출 시스템
US9937090B2 (en) 2005-03-29 2018-04-10 Stryker Corporation Patient support apparatus communication systems
JP4478885B2 (ja) * 2005-06-28 2010-06-09 ソニー株式会社 情報処理装置および方法、プログラム、並びに記録媒体
US9344842B2 (en) * 2005-07-14 2016-05-17 Charles D. Huston System and method for viewing golf using virtual reality
US9445225B2 (en) * 2005-07-14 2016-09-13 Huston Family Trust GPS based spectator and participant sport system and method
US8207843B2 (en) 2005-07-14 2012-06-26 Huston Charles D GPS-based location and messaging system and method
US8933967B2 (en) 2005-07-14 2015-01-13 Charles D. Huston System and method for creating and sharing an event using a social network
US11972450B2 (en) 2005-07-14 2024-04-30 Charles D. Huston Spectator and participant system and method for displaying different views of an event
JP4765027B2 (ja) * 2005-07-29 2011-09-07 国立大学法人 奈良先端科学技術大学院大学 情報処理装置及び情報処理システム
JP2007058296A (ja) * 2005-08-22 2007-03-08 Fujifilm Holdings Corp 情報提供システム
JP4689412B2 (ja) * 2005-08-31 2011-05-25 京セラ株式会社 送信装置及び通信システム
US8582973B2 (en) * 2005-09-13 2013-11-12 Nikon Corporation Data communication apparatus, electronic camera, and data communication system
EP1946243A2 (en) * 2005-10-04 2008-07-23 Intersense, Inc. Tracking objects with markers
US7903973B1 (en) 2005-12-23 2011-03-08 Lockheed Martin Corporation Dynamic temporal duration optical transmission privacy
JP4812425B2 (ja) * 2005-12-27 2011-11-09 株式会社東芝 X線ct装置
JP4600297B2 (ja) * 2006-01-11 2010-12-15 ソニー株式会社 オブジェクトの関連情報の記録システム,オブジェクトの関連情報の記録方法,テレビジョン受像機及び表示制御方法
US7792427B1 (en) 2006-01-30 2010-09-07 Lockheed Martin Corporation Optical code division multiple access data storage and retrieval
US7991288B1 (en) * 2006-02-07 2011-08-02 Lockheed Martin Corporation Optical code division multiple access data storage encryption and retrieval
JP4935108B2 (ja) * 2006-02-21 2012-05-23 ソニー株式会社 通信アドレスの認識システム,表示装置,表示装置との間でネットワーク通信を行う機器,通信アドレスの認識方法,プログラム
KR100811701B1 (ko) * 2006-08-08 2008-03-11 한국전자통신연구원 다수개의 전자 장치들의 통합 원격 지시장치
US20080051033A1 (en) * 2006-08-28 2008-02-28 Charles Martin Hymes Wireless communications with visually- identified targets
US7436136B2 (en) * 2006-09-26 2008-10-14 Arvinmeritor Light Vehicle Systems - France Camera based anti-pinch system
US20080101693A1 (en) * 2006-10-26 2008-05-01 Intelligence Frontier Media Laboratory Ltd Video image based tracking system for identifying and tracking encoded color surface
US20080141795A1 (en) * 2006-12-13 2008-06-19 Gagnon Daniel F Micro-surface inspection tool
JP4997952B2 (ja) * 2006-12-14 2012-08-15 日本電気株式会社 光通信システム、コンテンツ送信装置およびコンテンツ受信装置
CN101652801A (zh) * 2007-04-06 2010-02-17 皇家飞利浦电子股份有限公司 视线光学检测系统以及通信系统
US7734181B2 (en) * 2007-04-09 2010-06-08 Ajang Bahar Devices, systems and methods for ad hoc wireless communication
JP4859761B2 (ja) * 2007-06-13 2012-01-25 パナソニック株式会社 光空間伝送装置
JP4552074B2 (ja) * 2008-05-29 2010-09-29 カシオ計算機株式会社 情報伝送システム、情報復号装置、報知方法、及び、プログラム
US20090300101A1 (en) * 2008-05-30 2009-12-03 Carl Johan Freer Augmented reality platform and method using letters, numbers, and/or math symbols recognition
US20100009713A1 (en) * 2008-07-14 2010-01-14 Carl Johan Freer Logo recognition for mobile augmented reality environment
JP5161680B2 (ja) * 2008-07-18 2013-03-13 株式会社豊田中央研究所 光送信装置、光受信装置、及び光通信システム
JP2010035055A (ja) * 2008-07-30 2010-02-12 Panasonic Corp 遠隔操作装置、ネット家電、遠隔操作システム、および遠隔操作方法
JP2010045604A (ja) * 2008-08-13 2010-02-25 Oki Electric Ind Co Ltd 受信装置、受信方法、プログラムおよび送受信システム
JP5323556B2 (ja) * 2009-03-30 2013-10-23 フェリカネットワークス株式会社 演算回路、信号選択方法及びコンピュータプログラム
US9417700B2 (en) 2009-05-21 2016-08-16 Edge3 Technologies Gesture recognition systems and related methods
TW201106160A (en) * 2009-08-12 2011-02-16 Inventec Corp Server information sending system
TWI437509B (zh) * 2009-08-18 2014-05-11 Ind Tech Res Inst 光資訊接收方法
US8374507B2 (en) * 2009-09-18 2013-02-12 Fluke Corporation Digital multimeter having remote display with automatic communication binding
CN101750016A (zh) * 2010-01-04 2010-06-23 中国电信股份有限公司 实现三维定位的方法与系统
WO2011092369A1 (en) * 2010-01-28 2011-08-04 Nokia Corporation Access establishment to locally connectable device
US8493217B2 (en) * 2010-02-17 2013-07-23 Magibrands, Inc. Programmable touch-activated signaling device
US8659435B2 (en) * 2010-04-02 2014-02-25 George Anthony McKinney Waterproof optically-sensing fiberless-optically-communicating vitality monitoring and alarming system, particularly for swimmers and infants
US8396252B2 (en) 2010-05-20 2013-03-12 Edge 3 Technologies Systems and related methods for three dimensional gesture recognition in vehicles
JP2011254317A (ja) * 2010-06-02 2011-12-15 Sony Corp 送信装置、送信方法、受信装置、受信方法、通信システムおよび通信方法
US8666144B2 (en) 2010-09-02 2014-03-04 Edge 3 Technologies, Inc. Method and apparatus for determining disparity of texture
US8655093B2 (en) 2010-09-02 2014-02-18 Edge 3 Technologies, Inc. Method and apparatus for performing segmentation of an image
US8582866B2 (en) 2011-02-10 2013-11-12 Edge 3 Technologies, Inc. Method and apparatus for disparity computation in stereo images
US8467599B2 (en) 2010-09-02 2013-06-18 Edge 3 Technologies, Inc. Method and apparatus for confusion learning
KR20120040958A (ko) * 2010-10-20 2012-04-30 삼성전자주식회사 휴대단말기의 통신 방법
DE102010043154A1 (de) * 2010-10-29 2012-05-03 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Portables elektronisches Gerät, externes Basisgerät, Verfahren zur Ankopplung des portablen elektronischen Geräts an ein externes Basisgerät und Verwendung des externen Basisgeräts zur Ankopplung des portablen elektronischen Geräts
JP5886205B2 (ja) * 2010-11-25 2016-03-16 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 通信機器
US8798481B2 (en) * 2010-12-14 2014-08-05 Fujitsu Limited Method and system for compensation of laser phase/frequency noise in an optical device
US8970589B2 (en) 2011-02-10 2015-03-03 Edge 3 Technologies, Inc. Near-touch interaction with a stereo camera grid structured tessellations
US20120293546A1 (en) * 2011-05-18 2012-11-22 Tomi Lahcanski Augmented-reality mobile communicator with orientation
US20130002858A1 (en) * 2011-06-28 2013-01-03 Bridge Robert F Mechanisms for Conserving Power in a Compressive Imaging System
US8432438B2 (en) 2011-07-26 2013-04-30 ByteLight, Inc. Device for dimming a beacon light source used in a light based positioning system
US8457502B2 (en) 2011-07-26 2013-06-04 ByteLight, Inc. Method and system for modulating a beacon light source in a light based positioning system
US9787397B2 (en) 2011-07-26 2017-10-10 Abl Ip Holding Llc Self identifying modulated light source
US9444547B2 (en) 2011-07-26 2016-09-13 Abl Ip Holding Llc Self-identifying one-way authentication method using optical signals
US8416290B2 (en) 2011-07-26 2013-04-09 ByteLight, Inc. Method and system for digital pulse recognition demodulation
US8334901B1 (en) 2011-07-26 2012-12-18 ByteLight, Inc. Method and system for modulating a light source in a light based positioning system using a DC bias
US8520065B2 (en) 2011-07-26 2013-08-27 ByteLight, Inc. Method and system for video processing to determine digital pulse recognition tones
US9723676B2 (en) 2011-07-26 2017-08-01 Abl Ip Holding Llc Method and system for modifying a beacon light source for use in a light based positioning system
US8334898B1 (en) 2011-07-26 2012-12-18 ByteLight, Inc. Method and system for configuring an imaging device for the reception of digital pulse recognition information
US9418115B2 (en) 2011-07-26 2016-08-16 Abl Ip Holding Llc Location-based mobile services and applications
WO2013016439A1 (en) * 2011-07-26 2013-01-31 ByteLight, Inc. Self identifying modulater light source
US8436896B2 (en) 2011-07-26 2013-05-07 ByteLight, Inc. Method and system for demodulating a digital pulse recognition signal in a light based positioning system using a Fourier transform
US8248467B1 (en) 2011-07-26 2012-08-21 ByteLight, Inc. Light positioning system using digital pulse recognition
US8994799B2 (en) 2011-07-26 2015-03-31 ByteLight, Inc. Method and system for determining the position of a device in a light based positioning system using locally stored maps
US9287976B2 (en) 2011-07-26 2016-03-15 Abl Ip Holding Llc Independent beacon based light position system
KR101343609B1 (ko) * 2011-08-24 2014-02-07 주식회사 팬택 증강 현실 데이터를 이용할 수 있는 어플리케이션 자동 추천 장치 및 방법
US9473300B2 (en) * 2011-11-03 2016-10-18 Savannah River Nuclear Solutions, Llc Authenticated sensor interface device
GB2496379A (en) * 2011-11-04 2013-05-15 Univ Edinburgh A freespace optical communication system which exploits the rolling shutter mechanism of a CMOS camera
US9672609B1 (en) 2011-11-11 2017-06-06 Edge 3 Technologies, Inc. Method and apparatus for improved depth-map estimation
US9385816B2 (en) 2011-11-14 2016-07-05 Intel Corporation Methods and arrangements for frequency shift communications by undersampling
TW201328402A (zh) * 2011-12-16 2013-07-01 Hon Hai Prec Ind Co Ltd 無線通訊網路系統及其光電轉換模組
US20140374487A1 (en) * 2012-01-20 2014-12-25 Koninklijke Philips N.V. Light detector
EP2858269B1 (en) 2012-05-24 2018-02-28 Panasonic Intellectual Property Corporation of America Information communication method
US8620163B1 (en) * 2012-06-07 2013-12-31 Google, Inc. Systems and methods for optically communicating small data packets to mobile devices
US9148250B2 (en) 2012-06-30 2015-09-29 Intel Corporation Methods and arrangements for error correction in decoding data from an electromagnetic radiator
US9014564B2 (en) * 2012-09-24 2015-04-21 Intel Corporation Light receiver position determination
US9178615B2 (en) 2012-09-28 2015-11-03 Intel Corporation Multiphase sampling of modulated light with phase synchronization field
US9218532B2 (en) 2012-09-28 2015-12-22 Intel Corporation Light ID error detection and correction for light receiver position determination
US9590728B2 (en) 2012-09-29 2017-03-07 Intel Corporation Integrated photogrammetric light communications positioning and inertial navigation system positioning
JP6062214B2 (ja) * 2012-11-06 2017-01-18 株式会社小糸製作所 路車間通信システムおよび送受信装置
WO2014078811A1 (en) * 2012-11-16 2014-05-22 Flir Systems, Inc. Synchronized infrared beacon / infrared detection system
US8988574B2 (en) 2012-12-27 2015-03-24 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information using bright line image
US9088360B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
US10530486B2 (en) 2012-12-27 2020-01-07 Panasonic Intellectual Property Corporation Of America Transmitting method, transmitting apparatus, and program
US10951310B2 (en) 2012-12-27 2021-03-16 Panasonic Intellectual Property Corporation Of America Communication method, communication device, and transmitter
EP2940901B1 (en) 2012-12-27 2019-08-07 Panasonic Intellectual Property Corporation of America Display method
EP2940903B1 (en) * 2012-12-27 2021-05-12 Panasonic Intellectual Property Corporation of America Information communication method
EP2940889B1 (en) 2012-12-27 2019-07-31 Panasonic Intellectual Property Corporation of America Visible-light-communication-signal display method and display device
US9087349B2 (en) 2012-12-27 2015-07-21 Panasonic Intellectual Property Corporation Of America Information communication method
CN107395977B (zh) * 2012-12-27 2019-12-17 松下电器(美国)知识产权公司 信息通信方法
US10303945B2 (en) * 2012-12-27 2019-05-28 Panasonic Intellectual Property Corporation Of America Display method and display apparatus
US8922666B2 (en) 2012-12-27 2014-12-30 Panasonic Intellectual Property Corporation Of America Information communication method
JP5603523B1 (ja) 2012-12-27 2014-10-08 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 制御方法、情報通信装置およびプログラム
US10523876B2 (en) 2012-12-27 2019-12-31 Panasonic Intellectual Property Corporation Of America Information communication method
US9560284B2 (en) 2012-12-27 2017-01-31 Panasonic Intellectual Property Corporation Of America Information communication method for obtaining information specified by striped pattern of bright lines
CN104871453B (zh) 2012-12-27 2017-08-25 松下电器(美国)知识产权公司 影像显示方法和装置
US8913144B2 (en) 2012-12-27 2014-12-16 Panasonic Intellectual Property Corporation Of America Information communication method
US9608725B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Information processing program, reception program, and information processing apparatus
US9341014B2 (en) 2012-12-27 2016-05-17 Panasonic Intellectual Property Corporation Of America Information communication method using change in luminance
US9608727B2 (en) 2012-12-27 2017-03-28 Panasonic Intellectual Property Corporation Of America Switched pixel visible light transmitting method, apparatus and program
US9413950B2 (en) * 2013-01-25 2016-08-09 Hewlett-Packard Development Company, L.P. Determining a device identifier from a light signal emitted by a device
US9483875B2 (en) * 2013-02-14 2016-11-01 Blackberry Limited Augmented reality system with encoding beacons
US20140375684A1 (en) * 2013-02-17 2014-12-25 Cherif Atia Algreatly Augmented Reality Technology
US20140270799A1 (en) * 2013-03-13 2014-09-18 Richard D. Roberts Method and system for camera enabled error detection
US10721448B2 (en) 2013-03-15 2020-07-21 Edge 3 Technologies, Inc. Method and apparatus for adaptive exposure bracketing, segmentation and scene organization
CN203574655U (zh) * 2013-04-09 2014-04-30 北京半导体照明科技促进中心 利用可见光传输信息的装置和系统以及光源
US9407367B2 (en) * 2013-04-25 2016-08-02 Beijing Guo Cheng Wan Tong Information Co. Ltd Methods and devices for transmitting/obtaining information by visible light signals
JP6183802B2 (ja) * 2013-06-04 2017-08-23 ユニバーリンク株式会社 可視光受信方法及びその装置
US9705600B1 (en) 2013-06-05 2017-07-11 Abl Ip Holding Llc Method and system for optical communication
DE102013014536B4 (de) 2013-09-03 2015-07-09 Sew-Eurodrive Gmbh & Co Kg Verfahren zur Übertragung von Information und Vorrichtung zur Durchführung des Verfahrens
US9830424B2 (en) 2013-09-18 2017-11-28 Hill-Rom Services, Inc. Bed/room/patient association systems and methods
JP2015069895A (ja) * 2013-09-30 2015-04-13 パナソニックIpマネジメント株式会社 照明制御装置及び照明制御システム
US9509402B2 (en) 2013-11-25 2016-11-29 Abl Ip Holding Llc System and method for communication with a mobile device via a positioning system including RF communication devices and modulated beacon light sources
CN103729096A (zh) * 2013-12-25 2014-04-16 京东方科技集团股份有限公司 交互识别系统以及显示装置
US9240839B2 (en) 2014-01-07 2016-01-19 Nokia Corporation Transmitting data to a rolling shutter sensor array via a light emitter array
CN104767566B (zh) * 2014-01-07 2018-11-30 中兴通讯股份有限公司 一种缓解帧间闪烁的调光方法和装置
EP3096681B1 (en) * 2014-01-22 2023-10-18 Hamilton, Christopher, Chad System comprising a wearable electronic device
JP6145563B2 (ja) * 2014-02-18 2017-06-14 日立マクセル株式会社 情報表示装置
JP6434724B2 (ja) * 2014-07-01 2018-12-05 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 情報通信方法
US10388068B2 (en) * 2014-07-14 2019-08-20 Ademco Inc. System and method of augmented reality alarm system installation
JP6379811B2 (ja) * 2014-07-30 2018-08-29 カシオ計算機株式会社 表示装置、表示制御方法及び表示制御プログラム
EP3220558B1 (en) 2014-11-14 2019-03-06 Panasonic Intellectual Property Corporation of America Reproduction method, reproduction device and program
CN107072740B (zh) * 2014-11-21 2020-05-22 思外科有限公司 视觉跟踪系统和跟踪识别器间传输数据的可见光通信系统
US9832338B2 (en) 2015-03-06 2017-11-28 Intel Corporation Conveyance of hidden image data between output panel and digital camera
CN104697515B (zh) * 2015-03-16 2017-10-27 宗辰光 一种无反射板激光导航传感器装置及方法
US9532709B2 (en) 2015-06-05 2017-01-03 Jand, Inc. System and method for determining distances from an object
US10425243B2 (en) * 2015-08-07 2019-09-24 Tridonic Gmbh & Co Kg Commissioning device for commissioning installed building technology devices
US9770165B2 (en) * 2015-08-13 2017-09-26 Jand, Inc. Systems and methods for displaying objects on a screen at a desired visual angle
WO2017123297A1 (en) * 2015-10-16 2017-07-20 Trustees Of Boston University Optical wireless communications receiver
CN107113058B (zh) 2015-11-06 2020-12-18 松下电器(美国)知识产权公司 可见光信号的生成方法、信号生成装置以及介质
EP3376772B1 (en) 2015-11-12 2023-01-25 Panasonic Intellectual Property Corporation of America Display method, program and display device
WO2017087716A1 (en) 2015-11-17 2017-05-26 Elliptic Works LLC System for a pool including visual light communication and related methods
WO2017104666A1 (ja) 2015-12-17 2017-06-22 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 表示方法および表示装置
US9755740B2 (en) 2015-12-30 2017-09-05 Surefire Llc Receivers for optical narrowcasting
US11853635B2 (en) * 2016-03-09 2023-12-26 Samsung Electronics Co., Ltd. Configuration and operation of display devices including content curation
US20190179426A1 (en) * 2016-08-19 2019-06-13 Pcms Holdings, Inc. System and methods for communications in mixed reality applications
US9923638B1 (en) 2016-12-22 2018-03-20 Intel Corporation Clock tracking algorithm for twinkle VPPM in optical camera communication systems
ES2945138T3 (es) * 2017-06-01 2023-06-28 Signify Holding Bv Sistema de representación de caracteres virtuales y método del mismo
US9917652B1 (en) 2017-06-06 2018-03-13 Surefire Llc Adaptive communications focal plane array
EP3416307B1 (en) * 2017-06-12 2022-07-27 STMicroelectronics (Research & Development) Limited Vehicle communications using visible light communications
US11003916B2 (en) * 2017-11-03 2021-05-11 Toyota Research Institute, Inc. Systems and methods for object historical association
GB2569785B (en) 2017-12-20 2022-07-13 Sony Interactive Entertainment Inc Data processing
US10250948B1 (en) 2018-01-05 2019-04-02 Aron Surefire, Llc Social media with optical narrowcasting
US10236986B1 (en) 2018-01-05 2019-03-19 Aron Surefire, Llc Systems and methods for tiling free space optical transmissions
US10473439B2 (en) 2018-01-05 2019-11-12 Aron Surefire, Llc Gaming systems and methods using optical narrowcasting
US10210353B1 (en) 2018-03-09 2019-02-19 Abl Ip Holding Llc Asset tag tracking system and network architecture
US10422848B1 (en) 2018-03-09 2019-09-24 Abl Ip Holding Llc More accurate asset tag locating of radio frequency devices
US10502811B2 (en) 2018-03-09 2019-12-10 Abl Ip Holding Llc Network architecture, radio frequency based asset tracking and/or location estimation methods and systems
JP7176208B2 (ja) * 2018-03-16 2022-11-22 株式会社アイシン システムおよび撮像装置
US10598936B1 (en) * 2018-04-23 2020-03-24 Facebook Technologies, Llc Multi-mode active pixel sensor
CN109104527B (zh) * 2018-07-27 2021-01-22 京东方科技集团股份有限公司 用于光通信的信息发送装置、光通信方法和光通信系统
JP7167628B2 (ja) * 2018-10-29 2022-11-09 日本電信電話株式会社 光源分離方法、光源分離装置および光源分離プログラム
US11911325B2 (en) 2019-02-26 2024-02-27 Hill-Rom Services, Inc. Bed interface for manual location
WO2020210926A1 (en) * 2019-04-15 2020-10-22 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Method and system for invisible light communication using visible light camera
WO2021150206A1 (en) * 2020-01-21 2021-07-29 Hewlett-Packard Development Company, L.P. Data packets for controlling light sources
JP2021131234A (ja) * 2020-02-18 2021-09-09 富士フイルムビジネスイノベーション株式会社 発光装置およびプログラム
US11048925B1 (en) 2020-02-28 2021-06-29 Weta Digital Limited Active marker device for performance capture
US11508081B2 (en) 2020-02-28 2022-11-22 Unity Technologies Sf Sealed active marker for performance capture
US11455225B2 (en) * 2020-08-04 2022-09-27 Western Digital Technologies, Inc. Electronic device having infrared light-emitting diode for data transmission
US11308644B2 (en) 2020-08-28 2022-04-19 Weta Digital Limited Multi-presence detection for performance capture
WO2022152808A1 (en) * 2021-01-18 2022-07-21 Signify Holding B.V. Communication using light emission and camera
US20240087251A1 (en) * 2022-09-09 2024-03-14 Shopify Inc. Methods for calibrating augmented reality scenes

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2899013B2 (ja) * 1989-07-03 1999-06-02 俊弘 津村 移動体に対する位置情報伝達システム
US5634144A (en) * 1993-02-23 1997-05-27 Eastman Kodak Company Light beam communication method and system for linking a camera and a computer
US5602932A (en) * 1994-03-04 1997-02-11 International Business Machines Corporation Photodetector array based image analysis apparatus
JPH08340475A (ja) * 1995-06-12 1996-12-24 Olympus Optical Co Ltd 光学式角度検出装置
US5793880A (en) * 1996-05-13 1998-08-11 The Aerospace Corporation Free space image communication system and method
US5953146A (en) * 1997-01-30 1999-09-14 At&T Corp. Method and apparatus for tracking alignment in wireless optical communications
JPH1175269A (ja) * 1997-07-01 1999-03-16 Honda Motor Co Ltd 通信制御装置
ATE331350T1 (de) 1999-07-02 2006-07-15 Suisse Electronique Microtech Adaptiver matrixsensor und elektrische schaltung hierzu
JP3756019B2 (ja) 1999-08-20 2006-03-15 太陽誘電株式会社 偏光ユニット及びその製造方法並びに遠隔指示位置検出方法及び遠隔位置指示装置及び遠隔指示位置検出装置及びポインティング装置
JP2001059706A (ja) 1999-08-25 2001-03-06 Mitsubishi Electric Corp 位置計測システム
JP3374175B2 (ja) * 2000-01-27 2003-02-04 名古屋大学長 位置表示用データ送信機能付きデータ送信装置、(以下[発明の名称の続き]欄に記載)
JP3799593B2 (ja) 2000-03-01 2006-07-19 カシオ計算機株式会社 光通信中継装置
JP3750132B2 (ja) 2000-03-01 2006-03-01 カシオ計算機株式会社 撮像装置
JP4049509B2 (ja) 2000-03-13 2008-02-20 カシオ計算機株式会社 光リモコン装置
JP4362639B2 (ja) 2000-06-26 2009-11-11 カシオ計算機株式会社 画像処理方法、画像処理システム、及び、撮像装置
JP3767341B2 (ja) * 2000-07-21 2006-04-19 株式会社日立製作所 電子線を用いたパターン検査方法及びその装置
US20020101519A1 (en) * 2001-01-29 2002-08-01 Myers Jeffrey S. Automatic generation of information identifying an object in a photographic image
JP2002246965A (ja) * 2001-02-15 2002-08-30 Ntt Docomo Inc 情報伝送方法及びシステム、並びに送信装置、及び受信装置
US6983110B2 (en) * 2001-02-22 2006-01-03 Agilent Technologies, Inc. Component characteristic tolerant and component alignment tolerant optical receiver
US20020169963A1 (en) * 2001-05-10 2002-11-14 Seder Phillip Andrew Digital watermarking apparatus, systems and methods
JP2003179556A (ja) 2001-09-21 2003-06-27 Casio Comput Co Ltd 情報伝送方式、情報伝送システム、撮像装置、および、情報伝送方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230142456A1 (en) * 2016-10-21 2023-05-11 Panasonic Intellectual Property Corporation Of America Transmission device, reception device, communication system, transmission method, reception method, and communication method
US10951313B2 (en) 2018-11-30 2021-03-16 Casio Computer Co., Ltd. Transmitting device, transmission method, and recording medium
US11361466B2 (en) 2018-11-30 2022-06-14 Casio Computer Co., Ltd. Position information acquisition device, position information acquisition method, recording medium, and position information acquisition system
US11816861B2 (en) 2018-11-30 2023-11-14 Casio Computer Co., Ltd. Position information acquisition device, position information acquisition method, recording medium, and position information acquisition system

Also Published As

Publication number Publication date
JP3918813B2 (ja) 2007-05-23
US7415212B2 (en) 2008-08-19
EP1439649A1 (en) 2004-07-21
WO2003036829A1 (fr) 2003-05-01
EP1439649A4 (en) 2008-03-19
US20040161246A1 (en) 2004-08-19

Similar Documents

Publication Publication Date Title
JP3918813B2 (ja) データ通信システム、データ送信装置、並びにデータ受信装置
Matsushita et al. ID CAM: A smart camera for scene capturing and ID recognition
JP6524132B2 (ja) 情報通信方法、情報通信装置およびプログラム
CN107466477B (zh) 显示方法、计算机可读取记录介质以及显示装置
JP4765027B2 (ja) 情報処理装置及び情報処理システム
WO2014103340A1 (ja) 情報通信方法
WO2015098108A1 (ja) 情報処理プログラム、受信プログラムおよび情報処理装置
JP6378511B2 (ja) 情報通信方法、情報通信装置およびプログラム
JP2003323239A (ja) 情報処理装置及び情報処理方法、記憶媒体、並びにコンピュータ・プログラム
JPWO2014103156A1 (ja) 情報通信方法
JP5608307B1 (ja) 情報通信方法
CN112700647B (zh) 监测车辆行驶信息的方法及装置
JP4288904B2 (ja) データ通信システム、データ送信装置及び方法、並びにデータ受信装置及び方法
Kishino et al. Realizing a visual marker using LEDs for wearable computing environment
JP4224405B2 (ja) データ信号受信方法とその装置及びプログラム並びにその記録媒体
Hong et al. Line-of-sight signaling and positioning for mobile devices

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070123

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070205

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100223

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110223

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120223

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130223

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees