JP7043681B2 - 光通信装置を用いた自律移動可能な機器の案内方法 - Google Patents

光通信装置を用いた自律移動可能な機器の案内方法 Download PDF

Info

Publication number
JP7043681B2
JP7043681B2 JP2021512991A JP2021512991A JP7043681B2 JP 7043681 B2 JP7043681 B2 JP 7043681B2 JP 2021512991 A JP2021512991 A JP 2021512991A JP 2021512991 A JP2021512991 A JP 2021512991A JP 7043681 B2 JP7043681 B2 JP 7043681B2
Authority
JP
Japan
Prior art keywords
light source
optical communication
information
communication device
destination
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021512991A
Other languages
English (en)
Other versions
JP2021521573A (ja
Inventor
ファン,ジュン
ニウ,シューホン
リー,ジアンリァン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Whyhow Information Technology Co Ltd
Original Assignee
Beijing Whyhow Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Whyhow Information Technology Co Ltd filed Critical Beijing Whyhow Information Technology Co Ltd
Publication of JP2021521573A publication Critical patent/JP2021521573A/ja
Application granted granted Critical
Publication of JP7043681B2 publication Critical patent/JP7043681B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3605Destination input or retrieval
    • G01C21/362Destination input or retrieval received from an external device or application, e.g. PDA, mobile phone or calendar application
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3605Destination input or retrieval
    • G01C21/3623Destination input or retrieval using a camera or code reader, e.g. for optical or magnetic codes
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0094Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot involving pointing a payload, e.g. camera, weapon, sensor, towards a fixed or moving target
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0223Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving speed control of the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0251Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0259Control of position or course in two dimensions specially adapted to land vehicles using magnetic or electromagnetic means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/0278Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using satellite positioning signals, e.g. GPS
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0276Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle
    • G05D1/0285Control of position or course in two dimensions specially adapted to land vehicles using signals provided by a source external to the vehicle using signals transmitted via a public communication network, e.g. GSM network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/1141One-way transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04BTRANSMISSION
    • H04B10/00Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
    • H04B10/11Arrangements specific to free-space transmission, i.e. transmission through air or vacuum
    • H04B10/114Indoor or close-range type systems
    • H04B10/116Visible light communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optical Communication System (AREA)
  • Studio Devices (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、自律移動可能な機器の案内に関し、より具体的には、光通信装置を用いた自律移動可能な機器の案内方法に関する。
現在、自律移動可能な機器(たとえば、ドローン)の案内は、通常、GPS、IMUなどの技術によって行われているが、これらの技術では、測位精度に限界がある。たとえば、GPSは、通常、数メートルから数十メートルの誤差があり、そして、その信号伝播は使用環境による影響を受け、遅延誤差がしばしば生じる。そのため、従来のナビゲーション技術では、通常、ドローンを目標位置の付近(たとえば、目標位置の付近の数十メートルの範囲)に案内することができるが、最終的には非常に正確な目標位置に案内することは困難である。
近年、多くのメーカーは貨物の配達にドローンを使うことに取り込んでいる。たとえば、アマゾンの特許である米国特許第9536216号では、GPSと高度計に基づいてドローンをナビゲーションし、ドローンのカメラを介して遠隔地でナビゲーションを手動で補助し得る、ドローンを用いた貨物配達システムが記載されている。しかし、上記システムは、ドローンに対する正確なナビゲーションを実現することはできない。アマゾンが公開している別の技術案では、まず、GPSでドローンを目的地の付近まで案内し、その後、ドローンはその視界内でユニークな「マーク」を探し、この「マーク」は、顧客が好適な着陸地点に設置された、所定のパターンを有する電子認識パッドである。「マーク」を見つけると、ドローンは視覚的案内によりマークのところに飛行してパッケージを卸す。しかしながら、上記方式では、買手が貨物を受け取るのに適した庭を持ち、その庭にユニークな「マーク」を配置する必要がある。また、この「マーク」自体は買手を区別するために用いることはできないので、目的地の付近に複数の買手が複数の「マーク」を配置している場合、ドローンはどの「マーク」にパッケージを卸すかを決定することができない。このため、上記技術案は、都市部のマンションに住んでいる人には適用できない。
従来の2次元コードは異なるユーザを認識することができるが、2次元コードの認識距離は非常に制限されている。たとえば、2次元コードの場合、カメラを用いて走査する際に、このカメラは通常、2次元コードの幅の15倍程度のような比較的近い距離に配置されなければならない。たとえば、幅20cmの2次元コードの場合、カメラを配置したドローンは、2次元コードを認識するには、2次元コードから3m程度離れたところまで飛行しなければならない。このため、2次元コードの遠隔認識が実現できなかったり、非常に大きな2次元コードをカスタマイズしなければならなかったりするが、コストの上昇を招くことがあり、また、ほかの様々な制約(たとえば、スペースの大きさによる制限)により実現できない場合も多い。また、2次元コードを認識する場合、カメラはその2次元コードにほぼ正対して撮影する必要があり、ズレ角度が大きすぎると認識できなくなる。
米国特許第9536216号公報
本発明の一態様は、自律移動可能な機器の案内方法に関し、
前記光通信装置は、関連付けられている標識情報と位置情報を有し、前記自律移動可能な機器にはカメラが搭載されており、前記方法は、
前記自律移動可能な機器が飛行する、目的地の周辺の1つ以上の光通信装置を目的地で走査して認識することによって決定される前記目的地の位置情報を受信するステップと、
前記自律移動可能な機器に搭載されたカメラで、前記自律移動可能な機器の周囲の1つ以上の光通信装置を走査して認識することによって、前記自律移動可能な機器の位置情報を決定するステップと、
前記目的地の位置情報と前記自律移動可能な機器の位置情報とに基づいて、前記自律移動可能な機器と前記目的地との相対位置関係を決定し、前記自律移動可能な機器又はその一部を前記目的地に向けて飛行制御するステップと、を含む。
好ましくは、前記光通信装置の標識情報と位置情報はサーバに記憶されている。
好ましくは、前記自律移動可能な機器が前記目的地に向かって飛行する際に、前記自律移動可能な機器は、前記目的地まで正確に飛行することを支援するために、その周囲の光通信装置を走査して認識することによってその現在位置を決定する。
好ましくは、前記自律移動可能な機器に搭載されたカメラで、前記自律移動可能な機器の周囲の1つ以上の光通信装置を走査して認識することによって、前記自律移動可能な機器の位置情報を決定するステップは、
光通信装置によって伝達された情報を認識し、光通信装置の標識情報を取得するステップと、
前記標識情報を介して光通信装置の位置情報をサーバに問い合わせるステップと、
前記自律移動可能な機器と光通信装置との相対位置関係を決定するステップと、
前記相対位置関係と光通信装置の位置情報とに基づいて、前記自律移動可能な機器の位置情報を決定するステップとを含む。
好ましくは、前記自律移動可能な機器と光通信装置との相対位置関係を決定するステップは、
前記自律移動可能な機器によって取得される前記光通信装置の撮像に基づいて、前記自律移動可能な機器と前記光通信装置との相対位置関係を相対測位によって決定するステップを含む。
好ましくは、前記目的地の周囲の1つ以上の光通信装置を前記目的地で走査して認識することによって前記目的地の位置情報を決定する前記ステップは、
前記目的地にあるカメラ付き撮像装置を用いて、光通信装置によって伝達された情報を認識し、光通信装置の標識情報を取得するステップと、
前記標識情報を介して光通信装置の位置情報をサーバに問い合わせるステップと、
前記撮像装置と光通信装置との相対位置関係を決定するステップと、
前記相対位置関係と光通信装置の位置情報とに基づいて、前記目的地の位置情報として前記撮像装置の位置情報を決定するステップと、を含む。
好ましくは、前記撮像装置は、ユーザによって保持されるか、又は他の機器に取り付けられる。
好ましくは、光通信装置によって伝達された情報を認識するステップは
前記光通信装置の連続した複数のフレームの画像をカメラで取得するステップと、
各フレームの画像について、前記光源の位置に対応する前記画像上の部分に縞が存在するか否か、又は、どのタイプの縞が存在するかを判定するステップと、
各フレームの画像が表す情報を決定するステップと、を含む。
好ましくは、前記サーバはさらに、光通信装置のサイズ情報及び/又は向き情報を記憶するように構成されており、前記方法は、
前記標識情報を介して、光通信装置のサイズ情報及び/又は向き情報をサーバに問い合わせるステップをさらに含む。
好ましくは、前記方法は、まず、前記自律移動可能な機器を目的地付近まで飛行制御するステップをさらに含む。
好ましくは、前記光通信装置は、光源を備え、
前記光源は、少なくとも2つのモードで動作可能に構成されており、前記少なくとも2つのモードは、第1のモードと第2のモードとを含み、前記第1のモードでは、第1の頻度を有する光源制御信号により、前記光源から発せられる光の属性が第1の頻度で連続的に変化するように制御し、それにより、ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に縞を現出させ、前記第2のモードでは、前記ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に縞を現出させないか、前記第1のモードでの縞とは異なる縞を現出させる。
好ましくは、前記第2のモードでは、前記第1の頻度とは異なる第2の頻度を有する光源制御信号により、前記光源から発せられる光の属性が第2の頻度で連続的に変化するように制御し、それにより、前記ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に縞を現出させないか、前記第1のモードでの縞とは異なる縞を現出させる。
好ましくは、前記第2のモードでは、前記光源から発せられる光の属性が前記第1の頻度で連続的に変化し、前記ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に前記第1のモードでの縞とは異なる縞を現出させる。
好ましくは、前記自律移動可能な機器は、その一部のみが移動可能な機器を含む。
本発明の別の態様は、カメラと、プロセッサと、前記プロセッサによって実行されると、上記方法を実現するためのコンピュータプログラムが記憶されたメモリとを備える自律移動可能な機器に関する。
本発明の別の態様は、実行されると、上記方法を実現するためのコンピュータプログラムが記憶された記憶媒体に関する。
以下、図面を参照しながら本発明の実施例をさらに説明する。
CMOS撮像デバイスの模式図である。 CMOS撮像デバイスが画像を取得する方向の図である。 本発明に係る一実施例の光源である。 本発明に係る他の実施例の光源である。 CMOS撮像デバイスの撮像のタイミング図である。 CMOS撮像デバイスの別の撮像のタイミング図である。 光源が第1モードで動作している場合の各段階でのCMOS撮像デバイスの撮像図を示す。 本発明による一実施例において光源が第1のモードで動作している場合のCMOS撮像デバイスの撮像のタイミング図を示す。 本発明に係る一実施例において光源が第2モードで動作している場合のCMOS撮像デバイスの撮像のタイミング図を示す。 本発明に係る他の実施例において光源が第1のモードで動作している場合のCMOS撮像デバイスの撮像のタイミング図を示す。 本発明に係る他の実施例において、図8と異なる縞を実現するCMOS撮像デバイスの撮像のタイミング図を示す。 異なる設定で取得される光源の2種類の縞付き画像を示す。 異なる設定で取得される光源の2種類の縞付き画像を示す。 取得される光源の縞無し画像を示す。 本発明に係る一実施例において3つの独立した光源を用いた光ラベルの撮像図である。 本発明に係る一実施例における測位標識を含む光ラベルの撮像図である。 本発明に係る一実施例における1つの参照光源と2つのデータ光源とを含む光ラベルを示す。 図17に示す光ラベルに対するCMOS撮像デバイスの撮像のタイミング図を示す。 本発明に係る一実施例の光ラベルによるドローン案内システムを示す。 本発明に係る一実施例の光ラベルによるドローン案内方法を示す。 本発明に係る他の実施例の光ラベルによるドローン案内システムを示す。
本発明の目的、技術案、及び利点をより明確にするために、以下、図面を参照しながら、具体的な実施例を通じて本発明をより詳細に説明する。
光通信装置(本明細書では、「光ラベル」とも呼ばれる)は、異なる光を発することによって情報を伝送するものであり、遠い認識距離を実現することができる。本発明の態様は、自律移動可能な機器(たとえば、ドローン)の案内を光ラベルによって実現し、説明の便宜上、以下、CMOS撮像デバイスを使用して認識される光ラベルを例として説明するが、当業者が理解できるように、他のタイプの光ラベルも同様に本発明の案内態様に適用し得る。
CMOS撮像デバイスは、現在広く使用されている撮像デバイスであり、図1に示すように、画像感知ユニット(画像センサとも呼ばれる)アレイ及びいくつかの他の素子を含む。画像センサアレイは、各画像センサが1つの画素に対応するフォトダイオードアレイであってもよい。各列の画像センサは1つの列アンプに対応しており、この列アンプの出力信号は後でA/D変換器(ADC)に送信されてA/D変換された後、インターフェース回路を介して出力される。画像センサアレイにおけるいずれかの画像センサについて、露光開始時にゼロクリアし、露光時間が経過した後、信号値を読み出す。CMOS撮像デバイスは、通常、ローリングシャッタ撮像方式を採用している。CMOS撮像デバイスでは、データの読み出しがシリアルであるので、ゼロクリア/露光/読み出しも生産ラインのように行ごとに順次行い、画像センサアレイのすべての行の処理が完了した後に1フレームの画像に合成するしかない。したがって、CMOS画像センサアレイ全体は実際には行ごとに露光され(場合によっては、CMOS画像センサアレイは、1回に複数のラインを一緒に露光する方式を採用することもある)、その結果、行間に小さな遅延が生じる。この小さな遅延により、光源が一定の頻度で点滅するときに、CMOS撮像デバイスで撮影された画像にいくつかの縞が現れる。
本発明の一実施例は、異なる光を発光することにより異なる情報を伝送することができる光通信装置に関する。該光通信装置は、本明細書では「光ラベル」とも呼ばれ、両者は本願全体を通じて交換可能に使用され得る。光通信装置は、光源と、コントローラとを備え、該コントローラは、光源制御信号により、前記光源が2つ以上のモードで動作するように制御することができ、前記2つ以上のモードは、第1のモードと第2のモードとを含み、前記第1のモードでは、光源制御信号は、第1の頻度を有し、前記光源から発せられる光の属性が第1の頻度で連続的に変化して第1の情報を伝送し、前記第2のモードでは、前記光源から発せられる光の属性が第2の頻度で連続的に変化するか、又は変化しないようにして、第1の情報とは異なる第2の情報を伝送する。
本願では、光の属性は、光学撮像デバイス(たとえば、CMOS撮像デバイス又はCCD撮像デバイス)によって認識され得る任意の属性を意味し、たとえば、光の強度、色、波長など、人眼により視認可能な属性であってもよく、人眼により視認可能な範囲外の電磁波長の強度、色、又は波長の変化など、人眼により視認不能な他の属性であってもよく、上記属性の任意の組み合わせであってもよい。これにより、光の属性変化は、単一の属性の変化であってもよく、2つ以上の属性の組み合わせの変化であってもよい。光の強度を属性とする場合、光源の点灯又は消灯を選択するだけで実現できる。以下、簡素化から、光源を点灯又は消灯することにより光の属性を変更するが、当業者が理解できるように、光の属性を変更する他の方式も可能である。なお、上記第1のモードにおいて第1の頻度で変化する光の属性は、上記第2のモードにおいて第2の頻度で変化する光の属性と同一であっても異なっていてもよい。好ましくは、前記第1のモードと第2のモードとで変化する光の属性は同じである。
光源が第1のモード又は第2のモードで動作している場合、ローリングシャッタ撮像装置(たとえば、CMOS撮像デバイス、又はCMOS撮像デバイスを有する装置(たとえば、携帯電話、タブレット、スマートグラスなど))を用いて、光源を撮像することができ、すなわち、ローリングシャッタ方式で撮像することができる。以下、図2に示すように、携帯電話をCMOS撮像デバイスとする場合を例に説明する。図2には、この携帯電話の行走査方向が垂直方向として示されているが、当業者が理解できるように、基礎となるハードウェア構成によっては、行走査方向が水平方向であってもよい。
光源は、CMOS撮像デバイスによって感知され得るある特性が異なる頻度で変化できる限り、様々な形態の光源であってもよい。たとえば、この光源は、1つのLEDランプ、複数のLEDランプからなるアレイ、表示画面、又はこれらの一部であってもよく、光の照射領域(たとえば、壁上の光の照射領域)も光源とされてもよい。この光源の形状は、円形、正方形、長方形、帯状、L字状、十字状、球状等の様々な形状であってもよい。光源には、導光板、柔光板、拡散反射器などの様々な一般的な光学デバイスが含まれ得る。1つの好ましい実施例では、光源は、複数のLEDランプからなる2次元アレイであってもよく、この2次元アレイの1つの次元は、他の次元よりも長く、好ましくは、2つの次元の間の比は、約6~12:1である。たとえば、このLEDランプアレイは、複数のLEDランプを一列に配置して構成することができる。該LEDランプアレイは、発光する際に略長方形の光源として示され、コントローラによって光源の動作を制御される。
図3は本発明に係る一実施例の光源を示す。CMOS撮像デバイスを用いて図3に示す光源を撮像する場合、図3に示す光源の長辺をCMOS撮像デバイスの行方向(たとえば、図2に示す携帯電話の行走査方向)に対して垂直又は略垂直にすることにより、他の条件が同じである場合にできるだけ多くの縞を撮像することが好ましい。しかしながら、ユーザが携帯電話の行走査方向を把握できない場合があり、携帯電話がいずれの姿勢でも認識可能であり、縦画面及び横画面のいずれでも最大の認識距離を実現できるように、光源は、図4に示すように、複数の長方形の組み合わせ、たとえばL状光源であってもよい。
別の実施例では、光源は、平面光源に限定されるのではなく、たとえば、帯状の円筒光源、立方体光源などの立体光源として実現され得る。該光源は、たとえば、広場に配置されたり、屋内の場所(たとえば、レストラン、会議室など)の略中央にぶら下がって配置されたりすることにより、付近の各方向にいるユーザが、すべて携帯電話を通じて該光源を撮影し、該光源によって伝達された情報を取得することができる。
図5はCMOS撮像デバイスの撮像のタイミング図を示しており、各行はCMOS撮像デバイスの1行のセンサに対応している。CMOS撮像センサアレイの各行を撮像する際には、主に露光時間と読み出し時間の2つの段階が含まれる。各行の露光時間は重なる可能性があるが、読み出し時間は重ならない。
なお、図5には少数の行のみが模式的に示されており、実際のCMOS撮像デバイスでは、解像度の違いに応じて、通常、数千行以上のセンサがある。たとえば、1080pの解像度では、1920×1080個の画素を有し、1080という数字は、1080本の走査行があることを意味し、1920という数字は、行ごとに1920個の画素があることを意味する。1080pの解像度では、各行の読み出し時間はほぼ8.7マイクロ秒(すなわち、8.7×10-6秒)である。
露光時間が長すぎると、隣接する行間で露光時間が大きく重なる場合、撮像するときに顕著に遷移する縞が生じる可能性があり、たとえば、純粋な黒色の画素行と純粋な白色の画素行との間に異なるグレースケールを有する複数の画素行がある。本発明は、できるだけ鮮明な画素行を表示することが期待され、そのため、比較的短い露光時間を選択するために、CMOS撮像デバイス(たとえば、携帯電話)の露光時間を設定又は調整(たとえば、携帯電話にインストールされたAPPを介して設定又は調整)することができる。好ましい実施例では、露光時間は、実質的に各行の読み出し時間以下とすることができる。1080pの解像度の例では、その1行当たりの読み出し時間は約8.7マイクロ秒であり、この場合、携帯電話の露出時間は約8.7マイクロ秒以下に調整することが考えられる。図6は、この場合のCMOS撮像デバイスの撮像のタイミング図を示す。この場合、1行当たりの露光時間は実質的に重ならないか、重なり部分が少ないので、撮像するときに境界が鮮明な縞を取得することができ、そのため、認識しやすくなる。なお、図6は本発明の1つの好ましい実施例にすぎず、より長い露光時間(たとえば、各行の読み出し時間の2倍、3倍又は4倍以下など)又はより短い露光時間も可能である。たとえば、本願の図12及び図13に示す縞付き画像の撮像過程には、各行の読み出し時間は約8.7マイクロ秒であり、各行の露光時間は14マイクロ秒に設定されている。また、縞を現出させるためには、光源の1周期の時間を露光時間の約2倍以上に設定してもよく、好ましくは露光時間の約4倍以上に設定してもよい。
図7は、コントローラを用いて光源を第1のモードで動作させる場合の、各段階でのCMOS撮像デバイスの撮像図を示しており、この第1のモードでは、光源から発せられる光の属性をある頻度で変化させ、この例では、光源を点灯・消灯させる。
図7の上部は、各段階での光源の状態の変化図を示し、下部は、各段階における該光源のCMOS撮像デバイスでの撮像図を示し、CMOS撮像デバイスは、行方向が垂直方向であり、左から右に走査する。CMOS撮像デバイスが収集した画像は行ごとに走査するため、高周波点滅信号を撮像すると、光源の撮像位置に対応する、取得される1フレームの画像上の部分に図7の下部に示すような縞が形成され、具体的には、期間1では、光源が点灯し、その期間で露光された最左端部分の走査行が明るい縞を現出させ、期間2では、光源が消灯し、その期間で露光された走査行が暗い縞を現出させ、期間3では、光源が点灯し、その期間で露光された走査行が明るい縞を現出させ、期間4では、光源が消灯し、この期間で露光された走査行が暗い縞を現出させる。
現れる縞の幅は、光源制御信号によって光源の点滅の頻度を設定したり、光源の毎回の点灯と消灯の時間を設定したりすることによって調整することができ、通常、点灯又は消灯の時間が長いほど、対応する縞の幅が広くなる。たとえば、図6に示す場合、光源の毎回の点灯時間と消灯時間を、CMOS撮像デバイスの1行当たりの露光時間(該露光時間は、携帯電話にインストールされたAPPや手動で設定可能)とほぼ等しく設定すれば、撮像するときに1画素のみの幅の縞を現出させることができる。光ラベルの遠距離認識を可能にするためには、縞を狭くするほど好ましい。しかし、実際には、1画素のみの幅の縞は、光の干渉、同期化などの要因により、あまり安定していないか、又は容易に認識できない可能性があり、したがって、認識の安定性を向上させるために、2画素の幅の縞を実現することが好ましい。たとえば、図6に示す場合、光源の毎回の点灯又は消灯の時間をCMOS撮像デバイスの1行当たりの露光時間の約2倍とほぼ等しく設定することで、約2画素の幅の縞が実現され、具体的には、図8に示すように、図8の上部の信号は光源制御信号であり、そのハイレベルが光源の点灯に対応し、ローレベルが光源の消灯に対応する。図8に示す実施例では、光源制御信号のデューティ比は約50%に設定され、各行の露光時間は各行の読み出し時間とほぼ等しく設定されているが、当業者が理解できるように、認識可能な縞を現出させ得る限り、他の設定も可能である。説明の便宜上、図8には、光源の点灯と消灯の時間がCMOS撮像デバイスのある行の露光時間の開始又は終了時点に略一致するように、光源とCMOS撮像デバイスとを同期化させているが、当業者が理解できるように、両者が図8のように同期化していなくても、CMOS撮像デバイスに明らかな縞を現出させることができ、この場合、いくつかの遷移縞が存在するかもしれないが、光源が常に消灯しているときに露光される行(すなわち、最も暗い縞)と、光源が常に点灯しているときに露光される行(すなわち、最も明るい縞)とが必ず存在し、両方の間に1画素の間隔がある。このような画素行の明暗の変化(すなわち縞)は、(たとえば、光源撮像領域内のいくつかの画素の輝度又はグレースケールを比較することによって)容易に検出することができる。さらに、光源が常に消灯しているときに露光される行(すなわち、最も暗い縞)と、光源が常に点灯しているときに露光される行(すなわち、最も明るい縞)が存在しない場合にも、露光時間のうち光源が点灯した時間t1が所定の時間長よりも小さい、又は露光時間全体に占める割合が小さい行(すなわち、暗い縞)、及び、露光時間のうち光源が点灯した時間t2が所定の時間長よりも大きい、又は露光時間全体に占める割合が大きい行(すなわち、明るい縞)があり、且つ、t2―t1>明暗縞の差分の閾値(たとえば、10マイクロ秒)、又はt2/t1>明暗縞の割合の閾値(たとえば、2)であれば、これらの画素行間の明暗変化も検出できる。上記明暗縞の差分の閾値及び割合の閾値は、光ラベルの発光強度、感光デバイスの属性、撮影距離などに関連している。当業者が理解できるように、コンピュータによって認識可能な縞を現出させることができる限り、他の閾値も可能である。縞が認識されると、その時点で光源によって伝達された情報、たとえばバイナリデータ0又はデータ1を決定することができる。
本発明に係る一実施例の縞認識方法は以下のとおりである。光ラベルの画像を取得して、光源の撮像領域を投影により分割し、さまざまな構成(たとえば、異なる距離、異なる光源の点滅頻度など)での縞付きピクチャと縞無しピクチャを収集し、収集したすべてのピクチャを特定のサイズ、たとえば64*16画素に統一的に正規化し、各画素特徴を入力特徴として抽出し、機械学習分類器を構築し、縞付きピクチャであるか非縞付きピクチャであるかをバイナリ分類により判別する。縞の認識に関しては、本分野で公知するほかの任意の方法で処理することもでき、これについては詳細に説明しない。
長さ5cmの帯状光源の場合、現在市販されている携帯電話を使用すると、解像度を1080pに設定し、当該携帯電話から10m離れた場所(つまり、距離は光源の長さの200倍)で撮影したときに、該帯状光源は、その長さ方向に約6画素を占め、各縞の幅が2画素であれば、この6画素の幅の範囲内に少なくとも1つの明らかな縞が示され、このような縞は容易に認識することができる。解像度を高く設定したり、光学ズームを用いたりすれば、光源の長さの300倍や400倍などのより遠距離においても縞を認識することができる。
コントローラは、光源を第2のモードで動作させることもできる。一実施例では、第2のモードでは、光源制御信号は、第1のモードとは異なる別の頻度を有し、たとえば、光源を点灯・消灯するなど、光源から発せられる光の属性を変化させることができる。一実施例では、コントローラは、第2のモードにおいて、第1のモードと比較して、光源の点灯と消灯の頻度を高めることができる。たとえば、第1のモードの頻度は、8000回/秒以上であってもよく、第2のモードの頻度は、第1のモードの頻度よりも大きくてもよい。図6に示す場合、CMOS撮像デバイスの1行当たりの露光時間内に光源を少なくとも1回点灯・消灯するように構成してもよい。図9は、各行の露光時間内に光源の点灯と消灯が1回だけ行われた場合を示しており、図9の上部の信号は、光源制御信号であり、そのハイレベルが光源の点灯に対応し、ローレベルが光源の消灯に対応する。光源は、各行の露光時間内に、同様な方式で1回点灯・消灯するため、各露光時間ごとに取得される露光強度エネルギーはほぼ均等であり、したがって、最終的に撮像される光源の各画素行間で輝度に大きな差が生じることはなく、縞が存在しない。当業者が理解できるように、点灯と消灯の頻度を高くすることも可能である。また、説明の便宜上、図9には、光源の点灯時間が、CMOS撮像デバイスのある行の露光期間の開始時点にほぼ対応するように、光源とCMOS撮像デバイスとを同期化させているが、当業者が理解できるように、両者が図9のように同期化しなくても、最終的に撮像される光源の画素行間で輝度に大きな差が生じることはなく、縞が存在しない。縞が認識されない場合、その時点で光源によって伝達された情報、たとえばバイナリデータ1又はデータ0を決定することができる。人眼の場合、本発明の光源は、上記した第1のモード又は第2のモードで動作したときに、いかなる明滅現象も知覚されない。また、第1のモードと第2のモードとの切り替え時に人眼に知覚され得る明滅現象を回避するために、第1のモードと第2のモードのデューティ比を略等しく設定することができ、異なるモードで略同一のフラックスを実現することができる。
別の実施例において、第2のモードでは、光源から属性が実質的に変化しない光を発するように、光源に直流電流を供給してもよく、したがって、光源がCMOS画像センサによって撮影されたときに得られる該光源の画像の1フレームに縞を現出させることはない。また、この場合、第1のモードと第2のモードとの切り替え時に人眼に知覚される明滅現象を回避するために、異なるモードで略同一のフラックスを実現することもできる。
以上の図8は、光源から発せられる光の強度を変化させることによって(たとえば、光源を点灯又は消灯することによって)縞を現出させる実施例を説明したが、別の実施例では、図10に示すように、光源から発せられる光の波長又は色を変化させることによって縞を現出させてもよい。図10に示す実施例では、光源には、赤色光を発することができる赤色ランプと、青色光を発することができる青色ランプとが含まれている。図10の上部の2つの信号は、それぞれ赤色光制御信号と青色光制御信号であり、ハイレベルが対応する光源の点灯に対応し、ローレベルが対応する光源の消灯に対応する。この赤色光制御信号と青色光制御信号との位相が180°ずれており、つまり、両者のレベルが反対する。この赤色光制御信号と青色光制御信号により、光源が赤色光と青色光とを交互に発光するようにすることができ、それによって、CMOS撮像デバイスを用いて光源を撮像したときに赤と青の縞を現出させることができる。
CMOS撮像デバイスにより撮像された1フレームの画像上の、光源に対応する部分に縞が存在するか否かを判定することにより、各フレームの画像によって伝達される情報、たとえばバイナリデータ1又はデータ0を判定することができる。さらに、CMOS撮像デバイスにより光源の連続した複数フレームの画像を撮影することにより、バイナリデータ1及び0からなる情報シーケンスを決定し、光源からCMOS撮像デバイス(たとえば、携帯電話)への情報伝達を実現することができる。一実施例では、光源の連続した複数フレームの画像をCMOS撮像デバイスで撮影する際に、光源の動作モードの切り替えの時間間隔をCMOS撮像デバイスが1フレームで撮像する時間長と等しくするようにコントローラで制御することで、光源と撮像デバイスのフレームを同期化し、すなわち1フレーム当たり1ビットの情報を伝送することを可能にする。30フレーム/秒の撮影速度では、1秒間あたり30ビットの情報を伝送することができ、符号化空間は230に達し、この情報は、たとえば、開始フレームマーク(フレームヘッダ)、光ラベルのID、パスワード、チェックコード、ウェブアドレス情報、アドレス情報、タイムスタンプ、又はそれらの各種の組み合わせなどを含み得る。構造化方法によって、上記の各情報の順序関係を設定してパケット構造を形成することができる。1つの完全なパケット構造を受信するたびに、1組の完全なデータ(1つのパケット)が取得されたものとみなされ、さらにこの完全なデータについてデータの読み取りとチェック分析を行うことができる。本発明の一実施例に係るパケット構造を以下に示す。
Figure 0007043681000001
以上の説明では、各フレームの画像において光源の撮像位置に縞が存在するか否かを判定することにより、該フレームの画像によって伝達された情報を決定する。他の実施例では、各フレームの画像において光源の撮像位置における異なる縞を認識することにより、該フレームの画像によって伝達された異なる情報を決定することができる。たとえば、第1のモードでは、第1の頻度を有する光源制御信号により、光源から発せられる光の属性が第1の頻度で連続的に変化するように制御し、それにより、CMOS画像センサにより光源を撮影したときに得られる光源の画像に第1の縞を現出させ、第2のモードでは、第2の頻度を有する光源制御信号により光源から発せられる光の属性が第2の頻度で連続的に変化するように制御し、それにより、CMOS画像センサで光源を撮影したときに得られる光源の画像に第1の縞とは異なる第2の縞を現出させる。縞の違いは、たとえば、幅、色、明るさなど、又はそれらの任意の組み合わせに基づくことができるが、その違いが認識可能であればよい。
一実施例では、異なる幅の縞は、異なる光源制御信号の頻度に基づいて実現されてもよく、たとえば、第1のモードでは、光源は、図8に示す方式で動作することで、約2画素の幅の第1の縞を実現し、第2のモードでは、具体的には、図11に示すように、図8の光源制御信号の各周期内のハイレベル及びローレベルの持続時間をそれぞれ元の2倍に変更することで、約4画素の幅の第2の縞を実現することができる。
別の実施例では、異なる色の縞を実現することができ、たとえば、光源は、赤色光を発することができる赤色ランプと青色の光を発することができる青色ランプとを含むように構成され、第1のモードでは、青色ランプを消灯し、赤色ランプを図8に示すように動作させて、赤黒縞を実現し、第2のモードでは、赤色ランプを消灯し、青色ランプを図8に示すように動作させて、青黒縞を実現することができる。上記実施例では、第1のモードと第2のモードでは、同じ頻度を有する光源制御信号を用いて赤黒縞と青黒縞とを実現したが、第1のモードと第2のモードでは、異なる頻度を有する光源制御信号を用いてもよいことが理解できる。
また、当業者が理解できるように、2つ以上の縞を実現することによって2つ以上の情報を示すこともでき、たとえば、上記光源に赤色ランプ及び青色ランプが含まれる実施例では、第3のモードがさらに設定されてもよく、この第3のモードでは、図10に示すように赤色ランプ及び青色ランプを制御することで、赤色及び青色の縞、すなわち第3の情報を実現する。もちろん、あるいは、縞を現出させない第4のモードにより、さらに別の情報、すなわち第4の情報を表わすこともできる。上記の4つのモードのうちの複数のモードを任意に選択して情報を伝達してもよく、さらに他のモードと組み合わせてもよく、異なるモードが異なる縞の模様を生成すればよい。
図12は、毎秒16,000回の頻度で点滅するLEDランプ(各周期の持続時間は62.5マイクロ秒、点灯時間と消灯時間はそれぞれ約31.25マイクロ秒)について、1080pの解像度の撮像装置を用いて、各行の露光時間を14マイクロ秒に設定した場合、実験を通じて得た画像上の縞を示している。図12から分かるように、ほぼ2~3画素の幅の縞が示されている。図13は、図12のLEDランプの点滅頻度を毎秒8,000回(各周期の持続時間は125マイクロ秒、点灯時間と消灯時間はそれぞれ約62.5マイクロ秒)に調整した後、他の条件を変えずに実験を通じて得た画像上の縞を示している。図13から分かるように、ほぼ5~6画素の幅の縞が示されている。図14は、図12のLEDランプの点滅頻度を毎秒64,000回(各周期の持続時間は15.6マイクロ秒、点灯時間と消灯時間はそれぞれ約7.8マイクロ秒)に調整した後、他の条件を変えずに実験を通じて得た画像を示しており、各行の露光時間の14マイクロ秒にはLEDランプの1つの点灯時間と1つの消灯時間が実質的に含まれているので、画像には縞が存在しない。
以上、説明の便宜上、方形波を例に、対応する頻度を有する光源制御信号を説明したが、当業者が理解できるように、光源制御信号は、たとえば正弦波、三角波などの他の波形を使用してもよい。
以上、1つの光源が使用された場合について説明したが、いくつかの実施例では、2つ以上の光源が使用されてもよい。コントローラは、各光源の動作を個別に制御することができる。図15は、本発明に係る一実施例の3つの独立した光源を使用した光ラベルの1つの撮像図であり、2つの光源の撮像位置に縞が発生し、1つの光源の撮像位置に縞が発生しておらず、この組の光源のこの1フレームの画像は、バイナリデータ110などの情報を伝達することに使用され得る。
一実施例では、光ラベルには、情報伝達光源の付近に位置する1つ以上の測位標識も含まれていてもよく、この測位標識は、たとえば、特定の形状又は色のランプであってもよく、このランプは、たとえば、動作中に常に点灯したままであり得る。この測位標識は、CMOS撮像デバイス(たとえば、携帯電話)のユーザが光ラベルを容易に発見することに寄与する。また、CMOS撮像デバイスが光ラベルを撮影するモードに設定されている場合、測位標識の撮像が明らかであり、認識されやすい。したがって、情報伝達光源の付近に配置された1つ以上の測位標識は、携帯電話が情報伝達光源の位置を迅速に決定することにも役立ち、さらに情報伝達光源に対応する撮像領域に縞が存在するか否かを認識することに役立つ。一実施例では、縞が存在するか否かを認識する際に、まず、画像内で測位標識を認識して、画像内で光ラベルの大まかな位置を決定する。測位標識が認識されると、測位標識と情報伝達光源との間の相対位置関係に基づいて、情報伝達光源の撮像位置をカバーする画像内の1つ以上の領域を決定することができる。次に、これらの領域を認識して、縞が存在するか否か、又はどのような縞が存在するかを判定する。図16は、本発明に係る一実施例の測位標識を含む光ラベルの撮像図であり、ここで、水平に配置された3つの情報伝達光源、及び情報伝達光源の両側に垂直に配置された2つの測位標識ランプが含まれている。
一実施例では、光ラベルには環境光の強度を検出するための環境光検出回路を含むことができる。コントローラは、検出された環境光の強度に基づいて、点灯時に光源から発せられる光の強度を調整することができる。たとえば、環境光が強い場合(たとえば、昼間)には、光源から発せられる光の強度を大きくし、一方、環境光が弱い場合(たとえば、夜間)には、光源から発せられる光の強度を小さくする。
一実施例では、光ラベルには環境光の頻度を検出するための環境光検出回路を含むことができる。コントローラは、検出された環境光の頻度に基づいて、点灯時に光源から発せられる光の頻度を調整することができる。たとえば、同一頻度で明滅する光源が環境光に存在する場合、光源から発せられる光を占有されていない他の頻度に切り替える。
実際の応用環境では、大量のノイズが存在したり、認識距離が非常に遠かったりする場合、認識精度に悪影響を与える可能性がある。したがって、認識の正確性を向上させるために、本発明の一実施例では、光ラベルには、情報を伝達するための上記光源(明確にするため、以下、「データ光源」と称する)に加えて、少なくとも1つの参照光源も含まれ得る。参照光源自体は、情報を伝達するために使用されるのではなく、データ光源によって伝達された情報の認識を支援するために使用される。参照光源は、物理的構造的にはデータ光源と類似していてもよいが、予め定められた動作モードで動作し、この動作モードは、データ光源の様々な動作モードのうちの1つ以上であってもよい。このようにして、データ光源の復号化を、参照光源の画像と一致(たとえば、相関性)する計算に変換することで、復号化の正確性を向上させることができる。
図17は、本発明に係る一実施例の、1つの参照光源と2つのデータ光源とを含む光ラベルを示しており、ここで、3つの光源が並んで配置され、第1の光源が参照光源として機能し、残りの2つの光源がそれぞれ第1のデータ光源及び第2のデータ光源として機能する。なお、光ラベルの参照光源の数は、1つに限定されるものではなく、1つ以上であってもよく、同様に、データ光源の数も、2つに限定されるものではなく、1つ以上であってもよい。また、参照光源は、認識を支援するために使用されるので、データ光源と形状やサイズが同じである必要はない。たとえば、一実施例では、参照光源の長さはデータ光源の半分であってもよい。
一実施例では、図17に示す第1のデータ光源及び第2のデータ光源の各々は、たとえば、縞なし画像、2画素の縞幅の画像、4画素の縞幅の画像をそれぞれ表示するための3つのモードで動作するように構成されている。一方、参照光源は、上記3つの画像のうちの1つを表示するために、常に3つのモードのうちの1つで動作するか、異なるフレームにおいて上記3つの画像のうちの任意の2つ又はすべてを交互に表示するために、異なるモードで交互に動作するように構成されてもよく、それによって、データ光源の画像認識のために比較基準又は参照を提供する。たとえば、参照光源が異なるフレームにおいて2画素の縞幅の画像と4画素の縞幅の画像とを交互に表示する例では、各フレームにおけるデータ光源の画像は、その画像のタイプを判定するために、現在のフレーム及び1つの隣接するフレーム(たとえば、前又は後のフレーム)における参照光源の画像(これらの画像には、2画素の縞幅の画像及び4画素の縞幅の画像が必ず含まれている)と比較することができ、あるいは、ある期間内の参照光源の連続する複数のフレームの画像を収集し、奇数のフレーム番号の画像と偶数のフレーム番号の画像をそれぞれ1組とし、各組の画像の特徴を平均化し(たとえば、各組の画像の縞幅の平均値を求める)、縞幅に基づいて、どの組の画像が2画素の縞幅の画像又は4画素の縞幅の画像に対応するかを判明することによって、2画素の縞幅の画像の平均特徴及び4画素の縞幅の画像の平均特徴が得られ、次に、各フレームにおけるデータ光源の画像がこれらの平均特徴の1つに適合するか否かを判定する。
参照光源は、データ光源と実質的に同じ位置にあり、同じ環境照明条件、干渉、ノイズなどを受けるので、画像認識のための1つ以上の基準画像又は参照画像をリアルタイムで提供することで、データ光源によって伝達された情報の認識の正確性及び安定性を向上させることができる。たとえば、データ光源の撮像を参照光源の撮像と比較することによってデータ光源の動作モードを正確に認識し、それによって伝達されたデータを認識することができる。
さらに、CMOS撮像原理によれば、複数の光源が同じ頻度且つ異なる位相で属性を変化させると、同じ幅で異なる位相の縞パターンが生成され、同じ幅で異なる位相の縞パターンはマッチングする方法により正確に判定することができる。一実施例では、参照光源が所定の動作モードで動作するように制御されてもよく、この動作モードでは、該参照光源の画像にはたとえば4画素の幅の縞が現れる。このとき、データ光源が動作モードで動作するように同時に制御し、データ光源と参照光源との位相を一致させている場合、このデータ光源の画像に現れる縞は、参照光源の画像上に現れる縞と類似し(たとえば、幅は4画素)であり、位相差がなく、データ光源がこの動作モードで動作するように同時に制御しているが、データ光源の位相が参照光源の位相と一致しないようにする(たとえば、逆位相又は位相差は180°)場合、このデータ光源の画像上に現れる縞は、参照光源の画像上に現れる縞と類似している(たとえば、幅は4画素)が、位相差がある。
図18は、図17に示す光ラベルに対するCMOS撮像デバイスの撮像のタイミング図を示している。図18の上部には、参照光源、第1のデータ光源、及び第2のデータ光源のそれぞれの制御信号が示されており、ここで、ハイレベルが光源の点灯に対応し、ローレベルが光源の消灯に対応してもよい。図18に示すように、3つの制御信号の頻度は同じであり、第1のデータ光源制御信号は参照光源制御信号と位相が一致し、第2のデータ光源制御信号は参照光源制御信号と位相差が180°である。このようにして、CMOS撮像デバイスを用いてこの光ラベルを撮像すると、参照光源、第1のデータ光源、及び第2のデータ光源の画像にほぼ4画素の幅の縞が現れるが、第1のデータ光源と参照光源の画像上の縞の位相は一致している(たとえば、参照光源の明るい縞を含む行は第1のデータ光源の明るい縞を含む行と一致し、参照光源の暗い縞を含む行は第1のデータ光源の暗い縞を含む行と一致している)。一方、第2のデータ光源と参照光源の画像上の縞の位相は逆位相である(たとえば、参照光源の明るい縞を含む行は、第2のデータ光源の暗い縞を含む行と一致し、参照光源の暗い縞を含む行は、第2のデータ光源の明るい縞を含む行と一致する)。
参照光源を提供し、データ光源に位相制御を適用することによって、認識能力を改善しつつ、データ光源が1回に伝達可能な情報量をさらに向上させることができる。図17に示す光ラベルの場合、第1のデータ光源及び第2のデータ光源が第1のモード及び第2のモードで動作するように構成されている場合、第1のモードでは縞を現出させず、第2のモードでは、縞を現出させる。参照光源が提供されていない場合、各データ光源は、1フレームの画像内で0又は1のような2つのデータのうちの1つを伝達することができる。一方、参照光源を提供して、参照光源を第2のモードで動作させ、またデータ光源が第2のモードで動作するときに位相制御を提供することによって、第2のモード自体で複数種類のデータを伝達することができるようにする。図18に示す方式を例にすれば、位相制御と組み合わせた第2のモードは、それ自体で2種類のデータのうちの1つを伝達することに使用することができ、それによって、各データ光源は、1フレームの画像内で3種類のデータのうちの1つを伝達することができる。
上記方式では、参照光源を導入することにより、データ光源への位相制御が可能となり、したがって、光ラベルのデータ光源の符号化密度を向上させ、それに応じて光ラベル全体の符号化密度を向上させることができる。たとえば、上記実施例では、参照光源が使用されていない場合(すなわち、参照光源が第3のデータ光源として使用される場合)、各データ光源は、1フレームの画像内で2種類のデータのうちの1つを伝達することができ、したがって、光ラベル全体(3つのデータ光源を含む)は、1フレームの画像内で2種類のデータの組み合わせのうちの1つを伝達することができる。一方、参照光源が使用されている場合、各データ光源は1フレームの画像内で3種類のデータのうちの1つを伝達することができ、したがって、光ラベル全体(2つのデータ光源を含む)は1フレームの画像内で3種類のデータの組み合わせの1つを伝達
することができる。この効果は、光ラベル内のデータ光源の数を増加させると、より顕著になり、たとえば、以上の実施例では、5つの光源を含む光ラベルを使用し、参照光源を使用しない場合、光ラベル全体(5つのデータ光源を含む)は1フレームの画像内で2種類のデータの組み合わせの1つを伝達することができる。一方、光源の1つを参照光源として選択した場合、光ラベル全体(4つのデータ光源を含む)は1フレームの画像内で3種類のデータの組み合わせの1つを伝達することができる。同様に、光ラベル内の参照光源の数を増加させることによっても、光ラベル全体の符号化密度をさらに向上させることができる。以下、データ光源の画像と参照光源の画像をマッチングして計算(たとえば、相関計算)するためのいくつかの試験データを提供する。ここで、計算結果は次のように定義される。
0.00~±0.30 微相関
±0.30~±0.50 実相関
±0.50~±0.80 有意な相関
±0.80~±1.00 高度相関
ここで、正の値は正の相関を表し、負の値は負の相関を表す。データ光源と参照光源の頻度と位相の両方が一致していれば、理想的には、2つの光源の画像は完全に一致しているので、相関計算の結果は+1となり、完全に正の相関を示す。データ光源と参照光源は、頻度が一致しているが、位相が逆である場合、理想的には、2つの光源の画像の縞幅は同じであるが、明るい縞と暗い縞の位置は反対であるため、相関計算の結果は-1となり、完全な負の相関を示す。なお、実際の撮像過程では、干渉や誤差などの存在によって、完全に正の相関と完全に負の相関の画像を取得することは困難である。データ光源と参照光源とが異なる動作モードで動作して、異なる幅の縞を表示する場合、又はその一方が縞を表示しない場合、両者の画像は通常微相関である。
以下の表1、表2には、データ光源と参照光源に同一頻度、同一位相が使用されている場合の相関計算結果と、データ光源と参照光源に同一頻度、逆位相が使用されている場合の相関計算結果がそれぞれ示されている。ここで、それぞれの場合について5枚の画像が撮影され、各フレームの画像中の参照光源画像と該フレームの画像中のデータ光源画像との相関計算が行われる。
Figure 0007043681000002
Figure 0007043681000003
上表から分かるように、データ光源と参照光源に同一頻度、同一位相が使用されている場合、相関計算の結果は両者が有意な正の相関であることを示す。データ光源と参照光源に同一頻度、逆位相が使用されている場合、相関計算結果は両者が有意な負の相関であることを示す。
従来技術である2次元コードの約15倍の認識距離に比べて、本発明の光ラベルの少なくとも200倍の認識距離には明らかな優位性がある。この遠距離認識能力は特に屋外認識に適しており、200倍の認識距離を例にすれば、道路に設置された長さ50cmの光源では、該光源から100mの範囲内にいる人が携帯電話を介してこの光源とインタラクションすることができる。また、本発明の態様では、撮像装置が光ラベルから一定の距離にあること、撮像装置と光ラベルとの間の時間が同期化すること、さらに各縞の境界及び幅を正確に検出することを必要としないので、実際の情報伝送において非常に高い安定性及び信頼性を有する。また、本発明の態様は、特に帯状、球状の光源を有する光ラベルの場合、光ラベルを認識するために撮像装置が光ラベルに実質的に正対しなければならないことを必要としない。たとえば、広場に設置された帯状又は柱状の光ラベルについては、その周囲360°の範囲内の撮像装置であれば、この光ラベルを認識することができる。この帯状又は柱状の光ラベルを壁に配置する場合、その周囲のほぼ180°の範囲内の撮像装置であれば、この光ラベルを認識することができる。広場に設置された球形の光ラベルの場合、その周囲の3次元空間内のどの位置の撮像装置でも認識できる。
光ラベルは、視野範囲内の正確な案内、たとえば、自律移動可能な機器への案内を実現することができる。特に、以上、CMOS撮像デバイスを使用して認識される光ラベルを説明したが、それは、光ラベルの一例に過ぎず、光ラベルを使用して案内する本発明の態様は、上記光ラベルに限定されるものではなく、光ラベルには、少なくとも200倍の認識距離を達成することも求められず、付近の自律移動可能な機器(たとえば、ドローン)に搭載された様々な光学カメラ(たとえば、CMOS又はCCDカメラ)によって認識されることができればよい。
本発明の一実施例は、自律移動可能な機器(たとえば、ドローン)を光ラベルによって案内するシステムに関し、図19に示すように、該システムは、サーバ34と、ドローン32と、上記のいずれかの実施例で説明された光ラベル31とを含む。サーバ34には、光ラベル31の標識情報及び正確な位置情報(たとえば、光ラベル31の正確な緯度経度、高さ情報など)が記憶され得る。サーバ34には、光ラベル31の他の関連情報、たとえば、サイズ情報、向き情報なども記憶されていてもよい。ドローン32には、光ラベル31によって伝達された情報を収集して認識することができるカメラが搭載されている。たとえば、ドローン32は、光ラベル31によって伝達された標識情報を認識し、この標識情報を介してサーバ34から光ラベル31の位置情報及び必要に応じて他の関連情報を問い合わせることができる。このシステムによれば、ドローン32をユーザ33の位置に正確に案内することができる。
以下、ネットショッピングへのドローン配達の応用を例に説明する。ユーザは、屋外で活動する(たとえば、広場や公園で遊んだり、ショッピングしたりする)ときにネットショッピングして、ユーザの現在位置、ユーザが飛行しようとしている位置(たとえば、ドローンが到着したときにユーザがいる位置)、又は貨物を受け取る他のユーザ(たとえば、ユーザの友人)の位置などのような位置に貨物を配達してほしい場合がある。このため、ユーザは、ネットショッピングを行う際に、ネットショッピングプラットフォーム上でドローンによる貨物の配達先を示す位置情報を入力することができる。この位置情報は、ある光ラベルの付近にあることが好ましいが、特に正確である必要はなく、たとえば、ユーザの手入力、地図からの選択、ユーザの携帯電話の測位モジュール(たとえば、GPS)など、従来技術における様々な実行可能な方法で提供することができる。一実施例では、ユーザは、その周囲の光ラベルを介して、より正確な位置情報をネットショッピングプラットフォームに提供することができ、たとえば、ユーザは、その撮像装置(たとえば、携帯電話)を用いて、その周囲の1つ以上の光ラベルを走査して認識し、光ラベルの標識情報を取得し、標識情報を介して問い合わせて光ラベルの正確な位置情報を取得し、この正確な位置情報を貨物の配達先として提供することができる。あるいは、ユーザは、さらに光ラベルとの相対位置関係を決定し、光ラベルの正確な位置情報に基づいて、ユーザの現在の正確な位置情報を決定し、その位置情報を貨物の配達先としてもよい。撮像装置と光ラベルとの相対位置関係は、本分野で公知の様々な相対測位(リバースポジショニングとも呼ばれる)方法を用いて、光ラベルの撮像に基づいて決定することができる。一実施例では、撮像装置と光ラベルとの相対距離は(たとえば、光ラベルの撮像サイズ、又は携帯電話上の測距機能を有する任意のアプリケーションによって)決定され、撮像装置と光ラベルとの相対位置関係は、2つ以上の光ラベルを用いて三角測位によって決定される。一実施例では、撮像装置上に撮像された光ラベルのサイズ及び透視変形を解析することによって、撮像装置と光ラベルとの相対位置関係を決定することができる。一実施例では、撮像装置と光ラベルとの相対位置関係を決定する際に、光ラベルのサイズ情報及び/又は向き情報などがさらに使用されている。このサイズ情報及び/又は向き情報は、光ラベルの標識情報と関連付けてサーバに記憶され得る。光ラベルは、統一された物理的寸法を有することも可能である。一実施例では、携帯電話の現在の向き情報は、携帯電話に内蔵されたセンサによって取得することができ、この向き情報に基づいて、ユーザと光ラベルとの相対方向を取得することができる(好ましくは、画像内の光ラベルの位置をさらに組み合わせることによって、ユーザと光ラベルとの相対方向をより正確に決定することができる)。また、現在市販されている撮像装置の多くは、通常、両眼カメラや奥行きカメラを搭載しており、両眼カメラや奥行きカメラを搭載した撮像装置を用いて光ラベルの画像収集を行うことにより、この撮像装置と光ラベルとの相対距離を容易に取得することができる。別の実施例では、ユーザと光ラベルとの相対方向を決定するために、光ラベルの向き情報をサーバに記憶することができ、ユーザが光ラベルの標識情報を認識した後、標識情報を用いてサーバからこの向き情報を取得し、次に、光ラベルの向き情報とユーザの携帯電話上での光ラベルの撮像の透視変形とに基づいて、ユーザと光ラベルとの相対方向を算出することができる。
ユーザがネットショッピングプラットフォームを通じてショッピングを完了した後、ネットショッピングプラットフォームはドローンを派遣して上記位置に貨物を配達することができる。ユーザは、貨物の配達中に、ドローンによる貨物の配達先を示す位置情報を変更することができる。たとえば、ユーザが広場や公園で遊んでいる間、その位置は絶えず変化する可能性があるので、ユーザはリアルタイムな位置を新しい貨物配達先として定期的にネットショッピングプラットフォームに送信することができ、このようにして、ネットショッピングプラットフォームはユーザのリアルタイムな位置をドローンに通知することができる。
本発明に係る一実施例において、光ラベルを用いたドローン案内方法は、具体的には、図20に示すように、ステップ101~ステップ104を含む。
ステップ101:ドローンを貨物の配達先付近まで飛行制御する。
ドローンは、ユーザに配達されるべき貨物を受け取った後、ユーザがネットショッピングプラットフォームに提供した貨物の配達先を示す位置情報に基づいて、その配達先に向かって飛行する。一実施例では、この目的地は、ドローンによる貨物の配達中に変更することがある。この目的地が変更された場合、新しい目的地の位置情報をドローンに送信し、ドローンは新しい目的地に向かって飛行する。ステップ101は、本分野における様々な可能性のある従来の方式で実現することができる。たとえば、ドローンはGPSナビゲーションなどの方式で貨物の配達先付近まで飛行することができ、従来のGPSナビゲーション方式では、数十メートルの精度範囲を達成することができる。
なお、このステップ101は、本発明の必須なステップではなく、場合によっては省略されてもよい。たとえば、貨物の配達先自体が既にドローンの付近にある場合、たとえばドローンの視界の範囲内にある。
ステップ102:貨物の配達先にいる貨物を受け取るユーザの位置情報(つまり、最終的に貨物を配達する位置の情報)を受信し、ここで、該位置情報は、ユーザの周囲の1つ以上の光ラベルを走査して認識することによって決定する。
上記したように、貨物を受け取るユーザは、ネットショッピングを行うユーザであってもよいし、ユーザの友人などの他のユーザであってもよい。一実施例では、ドローンは、貨物配達先の付近に到着した後、ネットショッピングプラットフォームにそのことを通知し、そうすると、ネットショッピングプラットフォームは、貨物を受け取るユーザにその位置情報を提供するように通知する。別の実施例では、ユーザは、その位置情報を自発的に提供することもできる。ユーザの位置情報は、サードパーティ(たとえば、ネットショッピングプラットフォーム)によって受信してもよく、たとえば、サードパーティを介してドローンに送信されるように、ドローンによって受信してもよい。
ユーザは、カメラを有する撮像装置(たとえば、携帯電話)を使用して、その周囲の1つ以上の光ラベルを走査して認識することで、その位置情報を決定することができる。たとえば、広場や公園に光ラベルが設置されている場合、ユーザはその光ラベルの付近にドローン配達先を設定することができる。ドローンが付近に到着すると、ユーザはこの光ラベルを走査して認識することで、ユーザの位置情報を決定することができる。
具体的には、ユーザは、携帯している携帯電話を使用して、周囲のある光ラベルによって伝達された情報を収集し、伝送された情報を認識する。たとえば、ユーザは、携帯電話のカメラを介して、ある光ラベルの連続した複数のフレームの画像を取得し、各フレームの画像について、光源の位置に対応するこの画像上の部分に縞が存在するか否か、又はどのタイプの縞が存在するかを判定することにより、各フレームの画像が表す情報を決定することができる。このようにして、この光ラベルの標識情報を取得することができる。そして、この標識情報を介して問い合わせてこの光ラベルの正確な位置情報を取得し、ユーザと光ラベルとの相対位置関係を判定することにより、ユーザの現在の位置情報を決定することができる。ユーザ(実際にはユーザの撮像装置)と光ラベルとの間の相対位置関係は、ユーザの撮像装置によって取得される光ラベルの撮像に基づいて、本分野で公知の様々な相対測位方法を用いて決定することができる。
ステップ103:ドローンは、それに搭載されたカメラでその周囲の1つ以上の光ラベルを走査して認識し、このドローンの位置情報を決定する。
ドローンは、その視野範囲内の光ラベルを検索し、搭載されたカメラを介して、検索した光ラベルから伝送された情報を収集し、伝送された情報を認識することによって、光ラベルの標識情報を取得することができる。そして、この標識情報を介して問い合わせてこの光ラベルの正確な位置情報を取得し、ドローンとこの光ラベルとの相対位置関係を決定することにより、ドローンの現在の位置情報を決定することができる。ドローンによって取得される光ラベルの撮像に基づいて、本分野で公知の様々な相対測位方法を用いて、ドローンと光ラベルとの間の相対位置関係を決定することができる。
なお、ドローンのカメラが走査する光ラベルは、ユーザが走査する光ラベルと同じ場合も、異なる場合も、部分的に同じ場合もある。たとえば、貨物の配達先に複数の光ラベルがある場合、ドローンとユーザが走査する光ラベルが異なる可能性があるが、ドローンやユーザが対応する位置情報を決定することには影響を及ぼさない。
ステップ104:ドローンの位置情報とユーザの位置情報とに基づいて、ドローンとユーザとの相対位置関係を決定し、ドローンをユーザに向けて飛行制御する。
前記のように、ステップ101では、ドローンは、貨物の配達先の付近、たとえば、数十メートルの範囲まで飛行している。このとき、貨物を受け取るユーザも貨物の配達先の付近にいる。これにより、ドローンと貨物を受け取るユーザとの相対距離はあまり遠くない。ドローンの位置情報とユーザの位置情報とに基づいてドローンとユーザとの相対位置関係を決定した後、ドローンは、従来のナビゲーション方式(たとえば、慣性ナビゲーション)により、ユーザの位置まで正確に飛行し、貨物を配達することができる。一実施例では、サードパーティ(たとえば、ネットショッピングプラットフォーム)によってドローンの位置情報及びユーザの位置情報を受信し、さらに、ドローンとユーザとの相対位置関係を決定することができ、この相対位置関係は、後でドローンに送信され得る。一実施例では、ドローンによってユーザの位置情報を受信し、さらに、ドローンとユーザとの相対位置関係を決定することができる。
好ましくは、一実施例では、ドローンは、飛行中に、その周囲の光ラベルを走査して認識することにより、ドローンの現在位置を決定することができ、それにより、ドローンがユーザの位置まで正確に飛行することに寄与する。ユーザの位置に到着した後、ドローンは貨物の配達を行う。
上記方法によれば、1つ以上の光ラベルをドローンとユーザの測位アンカーとして、ドローンとユーザとの間の正確な相対位置関係を決定することができ、それによって、ドローンによる貨物配達の最後の数十メートルについての問題を解決することができる。
一実施例では、ネットショッピングプラットフォームは、ドローンの到着予定時刻をユーザに知らせ、ユーザは、その時刻までに自由に活動することができ、到着予定時刻に貨物配達先の付近に戻るだけでよい。一実施例では、ユーザは、ある時刻で到着すると予想されるあるアドレスを貨物の配達先として設定し、その時刻でそのアドレスの付近に貨物を配達するようにネットワークショッピングプラットフォームに指示することもできる。ユーザは、貨物の配達先の付近に到着した後、周囲の1つ以上の光ラベルを走査して認識することによって得られる位置情報を能動的に提供することができる
以上、ネットショッピングへのドローン配達の応用を例に説明したが、光ラベルによるドローン案内は、上記応用に限定されるものではなく、ドローンによる自動充電、ドローンによる自動駐車、ドローンによる経路ナビゲーションなど、ドローンの正確な測位を必要とする様々な応用に利用できることが理解される。
また、当業者が理解できるように、本発明の光ラベルに基づく案内は、ドローンだけに適用されるのではなく、自律移動可能な他の機器、たとえば、無人自動車、ロボットなどにも適用できる。無人自動車やロボットにはカメラを搭載することができ、ドローンと同様に光ラベルとインタラクションすることができる。一実施例では、この自律移動可能な機器の一部は移動可能であるが、他の部分は固定されている。たとえば、この自律移動可能な機器は、生産ライン又は倉庫内に配置された、通常は固定位置を有する機器であってもよく、この機器の本体部分は、ほとんどの場合、固定されていてもよいが、1つ以上の可動ロボットアームを有する。カメラは、光ラベルの位置を決定するために機器の固定部分に取り付けられ、それによって、機器の可動部分(たとえばロボットアーム)を光ラベルの位置に案内することができる。このような機器では、上記ステップ101が不要であることは明らかである。また、カメラは、この機器の可動部、たとえば各ロボットアームに取り付けることも可能である。
一実施例では、ドローン又は自律移動可能な他の機器は、ユーザの位置ではなく、他の機器にもカメラを搭載している限り、他の機器の位置に案内されてもよい。この他の機器は、そのカメラを介して周囲のある光ラベルから伝送された情報を収集し、伝送された情報を認識することによって、この光ラベルの標識情報を取得することができる。そして、この標識情報を介して問い合わせてこの光ラベルの正確な位置情報を取得し、この他の機器とこの光ラベルとの相対位置関係を決定することによって、他の機器の現在の位置情報を決定することができる。図21は、図19と比較して、ユーザ33がカメラ付き自動車35に置き換えられたシステムを示しており、該カメラは、たとえば自動車15の屋根に取り付けられることができる。
本明細書では、「様々な実施例」、「いくつかの実施例」、「一実施例」、又は「実施例」などに関する参照は、前記実施例に関して説明された特定の特徴、構造、又は特性が少なくとも一実施例に含まれることを意味する。したがって、「様々な実施例では」、「いくつかの実施例では」、「一実施例では」、又は「実施例では」などの語句が本明細書のあらゆる場所において記載される場合、必ずしも同じ実施例を指す必要はない。さらに、特定の特徴、構造、又は特性は、1つ以上の実施例において任意の適切な方法で組み合わせることができる。したがって、一実施例を参照しながら示された又は記載された特定の特徴、構造又は特性は、その組み合わせが非論理的又は作動不能ではない限り、1つ以上の他の実施例の特徴、構造又は特性と全体的に又は部分的に制限なく組み合わせることができる。本明細書に記載の「Aによる」又は「Aに基づく」のような表現は、非排他的なものを意味し、すなわち、「Aによる」は、「Aのみによる」であることが特に記載されているか、文脈から明確に知られていない限り、「Aのみによる」又は「AとBによる」を包含することができる。本明細書では、説明を明確にするために、いくつかの例示的な動作ステップがある順序で説明されているが、当業者が理解できるように、これらの動作ステップの各々が必須ではなく、これらのステップのいくつかは省略されるか、他のステップと置き換えてもよい。これらの動作ステップは、必ず示したように順次実行されるとは限らず、逆に、新しい実行方式が非論理的又は動作不能ではない限り、これらの動作ステップのいくつかは、実際の必要に応じて異なる順序で、又は並列的に実行され得る。
以上、本発明の少なくとも一実施例のいくつかの態様が記載されているが、なお、様々な変更、修正、及び改良が当業者にとって容易に行われ得る。このような変更、修正及び改良は、本発明の趣旨及び範囲内にあることを意図する。

Claims (15)

  1. 光通信装置を用いた自律移動可能な機器の案内方法であって、
    前記光通信装置は、関連付けられている標識情報、位置情報及び向き情報を有し、前記自律移動可能な機器にはカメラが搭載されており、前記方法は、
    前記自律移動可能な機器が飛行する目的地の位置情報を受信するステップであって、前記目的地の位置情報は、前記目的地にあるカメラ付き撮像装置により、前記目的地の周辺の1つ以上の光通信装置を前記目的地で走査して認識することによって決定されるステップと、
    前記自律移動可能な機器に搭載されたカメラで、前記自律移動可能な機器の周囲の1つ以上の光通信装置を走査して認識することによって、前記自律移動可能な機器の現在位置情報を決定するステップであって、
    該位置情報は前記光通信装置の位置情報及び前記光通信装置に対する前記自律移動可能な機器の相対位置関係に基づいて決定し、
    前記相対位置関係は相対距離と相対方向を含み、前記相対方向を決定するとき、前記光通信装置の向き情報を使うステップと、
    前記目的地の位置情報と前記自律移動可能な機器の現在位置情報とに基づいて、前記自律移動可能な機器と前記目的地との相対位置関係を決定し、前記自律移動可能な機器又はその一部を前記目的地に向けて飛行制御するステップと、を含む方法。
  2. 前記光通信装置の標識情報、位置情報及び向き情報はサーバに記憶されている、請求項1に記載の方法。
  3. 前記自律移動可能な機器が前記目的地に向かって飛行する際に、前記自律移動可能な機器は、前記目的地まで正確に飛行することを支援するために、その周囲の光通信装置を走査して認識することによってその現在位置を決定する、請求項1に記載の方法。
  4. 前記自律移動可能な機器に搭載されたカメラで、前記自律移動可能な機器の周囲の1つ以上の光通信装置を走査して認識することによって、前記自律移動可能な機器の位置情報を決定するステップは、
    光通信装置によって伝達された情報を認識し、光通信装置の標識情報を取得するステップと、
    前記標識情報を介して光通信装置の位置情報及び向き情報をサーバに問い合わせるステップと、
    前記自律移動可能な機器と光通信装置との相対位置関係を決定するステップと、
    前記相対位置関係と光通信装置の位置情報とに基づいて、前記自律移動可能な機器の位置情報を決定するステップとを含む、請求項1に記載の方法。
  5. 前記自律移動可能な機器と光通信装置との相対位置関係を決定するステップは、
    前記自律移動可能な機器によって取得される前記光通信装置の撮像に基づいて、前記自律移動可能な機器と前記光通信装置との相対位置関係を相対測位によって決定するステップを含む、請求項4に記載の方法。
  6. 前記目的地の周囲の1つ以上の光通信装置を前記目的地で走査して認識することによって前記目的地の位置情報を決定する前記ステップは、
    前記目的地にあるカメラ付き撮像装置を用いて、光通信装置によって伝達された情報を認識し、光通信装置の標識情報を取得するステップと、
    前記標識情報を介して光通信装置の位置情報をサーバに問い合わせるステップと、
    前記撮像装置と光通信装置との相対位置関係を決定するステップと、
    前記相対位置関係と光通信装置の位置情報とに基づいて、前記目的地の位置情報として前記撮像装置の位置情報を決定するステップと、を含む、請求項1に記載の方法。
  7. 前記撮像装置は、ユーザによって保持されるか、又は他の機器に取り付けられる、請求項6に記載の撮像方法。
  8. 光通信装置によって伝達された情報を認識するステップは
    前記光通信装置の連続した複数のフレームの画像をカメラで取得するステップと、
    各フレームの画像について、前記光源の位置に対応する前記画像上の部分に縞が存在するか否か、又は、どのタイプの縞が存在するかを判定することにより、各フレームの画像により表される情報を決定するステップと、
    含む、請求項4又は6に記載の方法。
  9. さらに、前記目的地の位置情報を受信した後、まず、従来の任意のナビゲーション方式によって、前記自律移動可能な機器を前記目的地付近まで飛行制御するステップをさらに含む、請求項1に記載の方法。
  10. 前記光通信装置は、光源を備え、
    前記光源は、少なくとも2つのモードで動作可能に構成されており、前記少なくとも2つのモードは、第1のモードと第2のモードとを含み、前記第1のモードでは、第1の頻度を有する光源制御信号により、前記光源から発せられる光の属性が第1の頻度で連続的に変化するように制御し、それにより、ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に縞を現出させ、前記第2のモードでは、前記ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に縞を現出させないか、前記第1のモードでの縞とは異なる縞を現出させる、請求項1に記載の方法。
  11. 前記第2のモードでは、前記第1の頻度とは異なる第2の頻度を有する光源制御信号により、前記光源から発せられる光の属性が第2の頻度で連続的に変化するように制御し、それにより、前記ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に縞を現出させないか、前記第1のモードでの縞とは異なる縞を現出させる、請求項10に記載の方法。
  12. 前記第2のモードでは、前記光源から発せられる光の属性が前記第1の頻度で連続的に変化し、前記ローリングシャッターカメラで前記光源を撮影したときに得られる前記光源の画像に前記第1のモードでの縞とは異なる縞を現出させる、請求項10に記載の方法。
  13. 前記自律移動可能な機器は、その一部のみが移動可能な機器を含む、請求項1に記載の方法。
  14. カメラと、プロセッサと、メモリとを備え、前記メモリには、前記プロセッサによって実行されると、請求項1~13のいずれかに記載の方法を実現するためのコンピュータプログラムが記憶されている、自律移動可能な機器。
  15. プロセッサによって実行されると、請求項1~13のいずれかに記載の方法を実現するためのコンピュータプログラムが記憶された記憶媒体。
JP2021512991A 2018-05-09 2019-05-08 光通信装置を用いた自律移動可能な機器の案内方法 Active JP7043681B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810435228.1 2018-05-09
CN201810435228.1A CN110471403B (zh) 2018-05-09 2018-05-09 通过光通信装置对能够自主移动的机器进行导引的方法
PCT/CN2019/085999 WO2019214643A1 (zh) 2018-05-09 2019-05-08 通过光通信装置对能够自主移动的机器进行导引的方法

Publications (2)

Publication Number Publication Date
JP2021521573A JP2021521573A (ja) 2021-08-26
JP7043681B2 true JP7043681B2 (ja) 2022-03-29

Family

ID=68468445

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021512991A Active JP7043681B2 (ja) 2018-05-09 2019-05-08 光通信装置を用いた自律移動可能な機器の案内方法

Country Status (6)

Country Link
US (1) US11338920B2 (ja)
EP (1) EP3793224A4 (ja)
JP (1) JP7043681B2 (ja)
CN (1) CN110471403B (ja)
TW (1) TWI746973B (ja)
WO (1) WO2019214643A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112825491B (zh) * 2019-11-21 2022-05-24 北京外号信息技术有限公司 用于实现发光装置检测的方法和系统
CN112824849A (zh) * 2019-11-21 2021-05-21 北京外号信息技术有限公司 用于实现发光装置检测的方法和系统
CN114697559A (zh) * 2020-12-29 2022-07-01 北京外号信息技术有限公司 一种光通信装置及相应的传输信息的方法
CN113607158A (zh) * 2021-08-05 2021-11-05 中铁工程装备集团有限公司 基于可见光通信的平板光源视觉识别匹配定位方法及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104661000A (zh) 2015-03-17 2015-05-27 珠海横琴华策光通信科技有限公司 定位系统、基于定位空间的图像来进行定位的方法及设备
JP2017037369A (ja) 2015-08-06 2017-02-16 Simplex Quantum株式会社 小型飛行システム
JP2017162435A (ja) 2016-03-08 2017-09-14 富士ゼロックス株式会社 自律移動体ガイダンスシステム、自律移動体をガイドする方法、およびプログラム
CN107734449A (zh) 2017-11-09 2018-02-23 陕西外号信息技术有限公司 一种基于光标签的室外辅助定位方法、系统及设备
JP2019503295A (ja) 2015-11-10 2019-02-07 マターネット, インコーポレイテッドMatternet, Inc. 無人航空機を使用した輸送のための方法及びシステム

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4790402A (en) * 1987-09-28 1988-12-13 Tennant Company Automated guided vehicle
JP3917777B2 (ja) * 1999-04-12 2007-05-23 村田機械株式会社 光データ伝送装置
US9287976B2 (en) * 2011-07-26 2016-03-15 Abl Ip Holding Llc Independent beacon based light position system
CN103149939B (zh) * 2013-02-26 2015-10-21 北京航空航天大学 一种基于视觉的无人机动态目标跟踪与定位方法
CN203574655U (zh) * 2013-04-09 2014-04-30 北京半导体照明科技促进中心 利用可见光传输信息的装置和系统以及光源
US10096246B2 (en) * 2013-04-26 2018-10-09 Itron Networked Solutions, Inc. Using lighting and other streetside devices to indicate parking space availability and navigation information
US20160122038A1 (en) * 2014-02-25 2016-05-05 Singularity University Optically assisted landing of autonomous unmanned aircraft
US20160034607A1 (en) * 2014-07-31 2016-02-04 Aaron Maestas Video-assisted landing guidance system and method
US9536216B1 (en) 2014-12-18 2017-01-03 Amazon Technologies, Inc. Delivery of packages by unmanned aerial vehicles
CN106153057A (zh) * 2015-04-07 2016-11-23 阿里巴巴集团控股有限公司 基于条码的导航方法及装置、条码生成方法及装置
US20160345137A1 (en) * 2015-05-21 2016-11-24 Toshiba America Business Solutions, Inc. Indoor navigation systems and methods
CN105000194A (zh) * 2015-08-13 2015-10-28 史彩成 基于地面合作标志的无人机助降视觉引导方法及机载系统
CN105718840B (zh) * 2016-01-27 2018-07-24 西安小光子网络科技有限公司 一种基于光标签的信息交互系统及方法
CN105973236A (zh) * 2016-04-26 2016-09-28 乐视控股(北京)有限公司 室内定位或导航方法、装置以及地图数据库生成方法
CN205808421U (zh) * 2016-05-16 2016-12-14 北京蜂鸟视图科技有限公司 可见光定位设备
US10908621B2 (en) * 2016-06-17 2021-02-02 Rakuten, Inc. Unmanned aerial vehicle control system, unmanned aerial vehicle control method, and program
CN205909832U (zh) * 2016-07-27 2017-01-25 四川迈实通科技有限责任公司 一种基于机器视觉的无人机导航系统
CN106225787B (zh) * 2016-07-29 2019-03-29 北方工业大学 一种无人机视觉定位方法
CN106372701B (zh) * 2016-08-30 2019-06-07 西安小光子网络科技有限公司 一种光标签的编码及识别方法
CN106372556B (zh) * 2016-08-30 2019-02-01 西安小光子网络科技有限公司 一种光标签的识别方法
CN106597374B (zh) * 2016-11-09 2019-05-21 北京大学 一种基于摄像帧分析的室内可见光定位方法及系统
CN106647814B (zh) * 2016-12-01 2019-08-13 华中科技大学 一种基于二维码地标识别的无人机视觉辅助定位与飞控系统及方法
CN106737687A (zh) * 2017-01-17 2017-05-31 暨南大学 基于可见光定位导航的室内机器人系统
CN107423786A (zh) * 2017-07-20 2017-12-01 北京邮电大学 一种基于二维码的定位导航方法、装置及设备
CN107402396A (zh) * 2017-09-09 2017-11-28 厦门大壮深飞科技有限公司 基于多模导航的无人机着陆引导系统及方法
CN107830863A (zh) * 2017-10-20 2018-03-23 四川西谷物联科技有限公司 一种基于标识码识别的室内导航方法、装置及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104661000A (zh) 2015-03-17 2015-05-27 珠海横琴华策光通信科技有限公司 定位系统、基于定位空间的图像来进行定位的方法及设备
JP2017037369A (ja) 2015-08-06 2017-02-16 Simplex Quantum株式会社 小型飛行システム
JP2019503295A (ja) 2015-11-10 2019-02-07 マターネット, インコーポレイテッドMatternet, Inc. 無人航空機を使用した輸送のための方法及びシステム
JP2017162435A (ja) 2016-03-08 2017-09-14 富士ゼロックス株式会社 自律移動体ガイダンスシステム、自律移動体をガイドする方法、およびプログラム
CN107734449A (zh) 2017-11-09 2018-02-23 陕西外号信息技术有限公司 一种基于光标签的室外辅助定位方法、系统及设备

Also Published As

Publication number Publication date
US11338920B2 (en) 2022-05-24
US20210047038A1 (en) 2021-02-18
CN110471403B (zh) 2023-11-03
CN110471403A (zh) 2019-11-19
EP3793224A4 (en) 2022-01-26
TW201947336A (zh) 2019-12-16
TWI746973B (zh) 2021-11-21
EP3793224A1 (en) 2021-03-17
WO2019214643A1 (zh) 2019-11-14
JP2021521573A (ja) 2021-08-26

Similar Documents

Publication Publication Date Title
JP7043681B2 (ja) 光通信装置を用いた自律移動可能な機器の案内方法
TWI702805B (zh) 對能夠自主移動的機器進行導引的系統和方法
JP3779308B2 (ja) カメラ校正システム及び三次元計測システム
CN110476148B (zh) 用于提供多视图内容的显示系统和方法
CN101171833B (zh) 具有三角测量自动聚焦系统的数字照相机以及相关方法
US20200068126A1 (en) Shelf-Viewing Camera With Multiple Focus Depths
US20070268366A1 (en) System and method for sensing geometric and photometric attributes of a scene with multiplexed illumination and solid state optical devices
CN109936712B (zh) 基于光标签的定位方法及系统
WO2016201412A1 (en) Multi-view architectural lighting system
US20160005174A1 (en) System and method for synchronizing fiducial markers
JP4178419B2 (ja) 情報表示装置、表示制御方法、及び、表示制御プログラム
CN110943778B (zh) 光通信装置以及用于传输和接收信息的方法
TWI713887B (zh) 光通信裝置和系統以及相應的資訊傳輸和接收方法
JP4637066B2 (ja) 情報取得装置、情報取得方法、情報取得プログラム、及び、距離情報取得システム
CN109936694B (zh) 包含参考光源的光通信装置及相应的信息传输和接收方法
JP4210955B2 (ja) 撮像装置、撮像制御方法、及び、撮像制御プログラム
WO2020062876A1 (zh) 基于光标签的服务提供方法和系统
KR20200048414A (ko) 증강현실을 이용한 자가촬영사진지원 카메라 시스템
JP2011009802A (ja) 光無線通信装置、光無線通信方法、およびプログラム
CN105783906A (zh) 室内定位系统
CN109323691A (zh) 一种定位系统以及定位方法
JP2013073386A (ja) 画像投影装置
KR102537416B1 (ko) 3d 이미지를 캡처 및 생성하기 위한 시스템 및 방법
JP2017062124A (ja) 撮像装置
CN113674344A (zh) 基于工业摄像机的照明光定位方法、装置及相关设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220316

R150 Certificate of patent or registration of utility model

Ref document number: 7043681

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150