JP2018005365A - Position detection landmark and moving body position detection method - Google Patents

Position detection landmark and moving body position detection method Download PDF

Info

Publication number
JP2018005365A
JP2018005365A JP2016128405A JP2016128405A JP2018005365A JP 2018005365 A JP2018005365 A JP 2018005365A JP 2016128405 A JP2016128405 A JP 2016128405A JP 2016128405 A JP2016128405 A JP 2016128405A JP 2018005365 A JP2018005365 A JP 2018005365A
Authority
JP
Japan
Prior art keywords
position detection
mark
landmark
moving body
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016128405A
Other languages
Japanese (ja)
Other versions
JP6606471B2 (en
Inventor
考弘 横山
Takahiro Yokoyama
考弘 横山
優武 藤井
Masatake Fujii
優武 藤井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
VR TECHNO CENTER Inc
Original Assignee
VR TECHNO CENTER Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by VR TECHNO CENTER Inc filed Critical VR TECHNO CENTER Inc
Priority to JP2016128405A priority Critical patent/JP6606471B2/en
Publication of JP2018005365A publication Critical patent/JP2018005365A/en
Application granted granted Critical
Publication of JP6606471B2 publication Critical patent/JP6606471B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a position detection landmark that can be easily and accurately detected thanks to image processing, and to provide a moving body position detection method that is hardly affected by an environment, using the position detection landmark.SOLUTION: A plurality of position detection landmarks (a mark 10), which serves as a reference of position detection of a moving body, is a sheet-like landmark, respectively, and is configured to: have a plurality of small areas 11, respectively in a vertical direction and lateral direction, in which a pattern of presence or absence of a retroreflection member in the plurality of small areas is different in a plurality of marks,; and have a notch part 15 that has the retroreflection member cut out only in one part of a contour of respective areas. The presence or absence of the retroreflection member in the small area is denoted as an identification number of the mark, in association with a numerical value in the binary system.SELECTED DRAWING: Figure 1

Description

本発明は、ロボット等の移動体の位置検出の基準となる位置検出用ランドマーク、及び、該位置検出用ランドマークを使用した移動体の位置検出方法に関するものである。   The present invention relates to a position detection landmark serving as a reference for position detection of a moving body such as a robot, and a position detection method of the moving body using the position detection landmark.

ロボットや搬送車等の移動体をある領域内で移動させるシステムでは、移動体の現在位置を検出する必要がある。例えば、本出願人は過去に、管理端末のディスプレイに表示させた地図画像上で、ポインティングデバイスを使用して経路を入力するという簡易な操作のみで、ロボットを移動させる経路情報を作成し、無線通信ネットワークを介してロボットに指示信号を送信することにより、ロボットを経路に沿って移動させるシステムを提案している(特許文献1参照)。このシステムにおいても、ロボットの移動に伴い変化するロボットの現在位置の座標を、検出する必要がある。   In a system that moves a moving body such as a robot or a transport vehicle within a certain area, it is necessary to detect the current position of the moving body. For example, in the past, the applicant created route information for moving a robot by a simple operation of inputting a route using a pointing device on a map image displayed on the display of a management terminal, and wirelessly A system for moving a robot along a route by transmitting an instruction signal to the robot via a communication network has been proposed (see Patent Document 1). Even in this system, it is necessary to detect the coordinates of the current position of the robot that changes as the robot moves.

特許文献1では、ロボットの現在位置の座標を検出する方法の基本的な原理を複数列挙しているが、その中にランドマークを使用する方法がある。これは、ロボットを移動させる施設内にランドマークを設置し、基準点とするものである。ロボットは、移動の過程でカメラにより撮影を行い、撮像データを管理側制御手段に送信する。管理側制御手段は、撮像データを画像処理し、撮像からランドマークが抽出されたら、撮像におけるランドマークとロボットとの相対位置を算出する。これにより、既定値であるランドマークの絶対座標に基づいて、ロボットの現在位置の絶対座標を知ることができる。   In Patent Document 1, a plurality of basic principles of a method of detecting the coordinates of the current position of the robot are listed, and there is a method of using a landmark among them. In this case, a landmark is set in a facility where a robot is moved and used as a reference point. The robot takes an image with the camera in the course of movement, and transmits the imaging data to the management-side control means. The management-side control means performs image processing on the imaging data, and calculates a relative position between the landmark and the robot in the imaging when the landmark is extracted from the imaging. As a result, the absolute coordinates of the current position of the robot can be known based on the absolute coordinates of the landmark which is the default value.

ランドマークを使用する位置検出の基本的な原理は上記のようであるが、実際にランドマークを使用して移動体の位置検出を行うには、種々の困難がある。例えば、移動体を移動させる領域には、多数のランドマークが設置される。そのため、多数のランドマークそれぞれを識別するための情報を、個々のランドマークにどのように持たせるかという問題がある。ランドマークの数が多くなるほど、識別情報が複雑となるおそれがあるが、識別情報は画像処理によって簡易かつ正確に読み取ることができるものでなければならない。また、移動体がカメラで取得した撮像には、環境中に存在する雑多な物が多数写りこんでいる。そのため、画像処理の際に、ランドマークを他の物品と区別できなかったり、他の物品をランドマークと誤認したりするおそれがある。   The basic principle of position detection using a landmark is as described above, but there are various difficulties in actually detecting the position of a moving object using a landmark. For example, a large number of landmarks are installed in a region where the moving body is moved. Therefore, there is a problem of how to provide each landmark with information for identifying each of a large number of landmarks. As the number of landmarks increases, the identification information may become more complicated. However, the identification information must be easily and accurately read by image processing. In addition, a large number of miscellaneous objects existing in the environment are captured in the image captured by the moving body with the camera. Therefore, during image processing, there is a possibility that the landmark cannot be distinguished from other articles, or other articles may be mistaken for landmarks.

特開2015−001810号公報JP, 2015-001810, A

そこで、本発明は、上記の実情に鑑み、移動体の位置検出の基準とするために、画像処理によって簡易かつ正確に検出できる位置検出用ランドマーク、及び、該位置検出用ランドマークを使用した、環境の影響を受けにくい移動体の位置検出方法の提供を、課題とするものである。   Therefore, in view of the above circumstances, the present invention uses a position detection landmark that can be easily and accurately detected by image processing, and the position detection landmark, in order to use as a reference for position detection of a moving object. An object of the present invention is to provide a method for detecting the position of a moving object that is not easily affected by the environment.

上記の課題を解決するため、本発明にかかる位置検出用ランドマークは、
「移動体の位置検出の基準となる複数の位置検出用ランドマークであって、
それぞれシート状で、縦方向及び横方向それぞれに複数の小領域を有し、複数の該小領域における再帰反射材の有無のパターンが、複数の前記位置検出用ランドマークで異なっており、
それぞれの輪郭の一箇所のみに、前記再帰反射材が切り欠かれた切欠き部を有する」ものである。
In order to solve the above problems, the landmark for position detection according to the present invention is:
“A plurality of position detection landmarks that serve as a reference for detecting the position of a moving object,
Each of the sheet-like shapes has a plurality of small areas in the vertical direction and the horizontal direction, and the pattern of the presence or absence of the retroreflective material in the plurality of small areas is different in the plurality of position detection landmarks,
Only at one location of each contour has the notched portion in which the retroreflective material is notched ”.

本構成の位置検出用ランドマーク(以下、単に「マーク」と称することがある)は、次のような移動体の位置検出方法に使用することができる。すなわち、
「前記移動体から可視光の波長領域外の光を投射し、投射した光の波長に対応したカメラで取得した撮像から、前記位置検出用ランドマークの像を抽出し、
前記切欠き部を基準として、複数の前記小領域に桁を割り当て、複数の前記小領域における前記再帰反射材の有無を二進法による数値に対応させて、前記位置検出用ランドマークの識別番号を検出し、
前記切欠き部を基準として、前記移動体の進行方向と前記位置検出用ランドマークの向きとの関係を検出する」ものである。
The position detection landmark (hereinafter, also simply referred to as “mark”) having this configuration can be used in the following position detection method for a moving object. That is,
“Projecting light outside the wavelength range of visible light from the moving object, and extracting the image of the position detection landmark from the image acquired by the camera corresponding to the wavelength of the projected light,
Using the notch as a reference, a digit is assigned to the plurality of small areas, and the presence or absence of the retroreflective material in the plurality of small areas is made to correspond to a numerical value in binary, and the identification number of the position detection landmark is detected. And
The relationship between the traveling direction of the moving body and the direction of the position detection landmark is detected using the notch as a reference. "

この移動体の位置検出方法(以下、単に「位置検出方法」と称することがある)では、再帰反射材の有無を二進法による数値に対応させる。これにより、縦横に並んだ小領域における再帰反射材の有無のパターンを、複数のマークで異ならせるという簡易な構成であるにも関わらず、極めて多数のマークを識別できる識別番号を、マークに付与することができる。   In this moving body position detection method (hereinafter sometimes simply referred to as “position detection method”), the presence or absence of a retroreflective material is made to correspond to a binary numerical value. This gives the mark an identification number that can identify a very large number of marks, despite the simple configuration of different patterns for the presence or absence of retroreflective material in a small area arranged vertically and horizontally. can do.

また、マークの輪郭の一箇所のみに設けられた切欠き部に、小領域における再帰反射材の有無のパターンを二進法による数値に変換する際の基準と、マークの方向の基準という二つの機能を発揮させており、これによっても、複数種類の情報を有する位置検出用ランドマークを簡易な構成で実現している。   In addition, in the notch part provided only at one place on the outline of the mark, the two functions of the reference for converting the pattern of the presence or absence of the retroreflective material in the small area into a numerical value by the binary system and the reference of the direction of the mark are provided. This also realizes a position detection landmark having a plurality of types of information with a simple configuration.

更に、移動体からマークに光を投射し、マークによる反射像をカメラで撮影するにあたり、可視光の波長領域「外」の波長の光を使用している。従って、環境中に存在する雑多な物品によって、撮像の画像処理が影響を受けることに起因して、マークの抽出精度が低下するおそれを低減し、マークを正確に検出することができる。また、可視光を用いることなくマークを検出するため、夜間や照度の低いときであっても、マークの検出のために照明を必要としない利点を有している。   Furthermore, when projecting light from a moving body onto a mark and taking a reflected image of the mark with a camera, light having a wavelength outside the wavelength region of visible light is used. Accordingly, it is possible to reduce the possibility that the mark extraction accuracy is lowered due to the influence of the image processing of the image pickup by various articles existing in the environment, and the mark can be accurately detected. Further, since the mark is detected without using visible light, there is an advantage that no illumination is required for detecting the mark even at night or when the illuminance is low.

以上のように、本発明の効果として、移動体の位置検出の基準とするために、画像処理によって簡易かつ正確に検出できる位置検出用ランドマーク、及び、該位置検出用ランドマークを使用した、環境の影響を受けにくい移動体の位置検出方法を、提供することができる。   As described above, as an effect of the present invention, the position detection landmark that can be detected simply and accurately by image processing and the position detection landmark are used in order to serve as a reference for position detection of the moving object. It is possible to provide a method for detecting the position of a moving object that is not easily affected by the environment.

本発明の一実施形態の位置検出用ランドマークについて、(a),(b)複数のマークで共通する構成の説明図、及び(c)〜(f)異なる識別番号を有するマークを例示する図である。(A), (b) Explanatory drawing of a structure common to a plurality of marks, and (c) to (f) illustrating examples of marks having different identification numbers for the position detection landmark according to the embodiment of the present invention. It is. 施設へのマークの設置を示す図である。It is a figure which shows installation of the mark to a facility. 管理端末のディスプレイに表示された地図画像及びマーク登録画面の説明図である。It is explanatory drawing of the map image and mark registration screen which were displayed on the display of the management terminal. (a)移動体による位置検出用ランドマークの撮影の説明図、及び、(b)撮影範囲の説明図である。(A) It is explanatory drawing of imaging | photography of the landmark for position detection by a mobile body, (b) It is explanatory drawing of the imaging | photography range. (a)〜(d)施設における移動体の位置が同一であるが移動体の進行方向が異なる場合について、撮影範囲を示す図(左図)及び撮像を示す図(右図)である。(A)-(d) It is the figure (left figure) which shows an imaging | photography range, and the figure (right figure) which shows imaging about the case where the position of the moving body in a plant | facility is the same, but the advancing direction of a moving body differs. (a)〜(d)撮像から移動体の座標を検出する手順の説明図である。It is explanatory drawing of the procedure which detects the coordinate of a moving body from (a)-(d) imaging. (a),(b)小領域や切欠き部の形状が異なる他の実施形態の位置検出用ランドマークを例示する図である。(A), (b) It is a figure which illustrates the landmark for position detection of other embodiment from which the shape of a small area | region and a notch part differs.

以下、本発明の一実施形態である位置検出用ランドマーク10(以下、単に「マーク10」と称することがある)、及び、マーク10を使用した移動体20の位置検出方法について、図1乃至図6に基づいて説明する。   Hereinafter, a position detection landmark 10 (hereinafter sometimes simply referred to as “mark 10”) and a position detection method of a moving body 20 using the mark 10 according to an embodiment of the present invention will be described with reference to FIGS. This will be described with reference to FIG.

本実施形態の位置検出方法は、複数のマーク10を使用する。複数のマーク10それぞれは、シート状であり、縦方向及び横方向それぞれに複数の小領域11を有しており、輪郭の一箇所のみに、再帰反射材が不連続となった切欠き部15を有している。複数のマーク10は、外形が同一で、小領域11の形状及び数も同一であるが、小領域11における再帰反射材の有無のパターンが異なっている。   The position detection method of this embodiment uses a plurality of marks 10. Each of the plurality of marks 10 has a sheet shape, has a plurality of small regions 11 in the vertical direction and the horizontal direction, and has a notch 15 in which the retroreflective material becomes discontinuous only at one position of the contour. have. The plurality of marks 10 have the same outer shape and the same shape and number of small regions 11, but the patterns of presence or absence of retroreflective material in the small regions 11 are different.

更に、本実施形態では、一つのマーク10は一枚の再帰反射シートで形成されており、複数の小領域11のうち再帰反射材を有しない小領域11と、切欠き部15とは、再帰反射シートが切除されて形成されている。   Furthermore, in the present embodiment, one mark 10 is formed of a single retroreflective sheet, and the small region 11 that does not have a retroreflective material among the plurality of small regions 11 and the notch portion 15 are recursive. The reflection sheet is formed by cutting.

より詳細に説明すると、図1(a)に示すように、マーク10は正方形の四つの角部のうち、一つの角部が正方形に切除されて形成されており、切除による残部が切欠き部15である。縦方向及び横方向それぞれに列設された小領域11は同形であり、本実施形態では正方形である。ここでは、マーク10一つ当たり小領域11の列が縦方向に四つあり、一列目から三列目までそれぞれ四つ、四列目に三つ、計15個の小領域11を有する場合を例示している。   More specifically, as shown in FIG. 1A, the mark 10 is formed by cutting one corner out of the four corners of a square into a square, and the remaining part by cutting is a notch. 15. The small regions 11 arranged in the vertical direction and the horizontal direction have the same shape, and are square in this embodiment. Here, there are four rows of small regions 11 per mark 10 in the vertical direction, and there are 15 small regions 11 in total, four from the first row to the third row and three in the fourth row. Illustrated.

これら複数のマーク10を識別するための識別番号は、複数の小領域11における再帰反射材の有無を、二進法による数値に対応させたものである。再帰反射材の有無を二進法による数値に変換するに当たり、切欠き部15を基準として、複数の小領域11に桁を割り当てる。例えば、図1(b)に示すように、切欠き部15の対角に位置する小領域11を1桁目とし、同一方向に桁数が増加するように桁を割り当てる。切欠き部15を紙面において右上としたとき、右及び上に向かって数が増加するように桁を割り当てることとすると、図1(c)のマーク10は、4桁、5桁、6桁、10桁、15桁目の小領域11に再帰反射材を有している。再帰反射材「有り」を「1」とし、再帰反射材「無し」を「0」とした場合、図1(c)のパターンを二進法の数字に変換すると、2+2+2+2+214=16952である。つまり、図1(c)のパターンのマークの識別番号は「16952」である。 The identification numbers for identifying the plurality of marks 10 are obtained by associating the presence / absence of the retroreflective material in the plurality of small regions 11 with numerical values in a binary system. In converting the presence / absence of the retroreflecting material into a binary numerical value, digits are assigned to the plurality of small regions 11 with the notch 15 as a reference. For example, as shown in FIG. 1B, the small area 11 located on the diagonal of the notch 15 is set as the first digit, and digits are assigned so that the number of digits increases in the same direction. When the notch 15 is set to the upper right in the drawing, if the digits are assigned so that the number increases toward the right and above, the mark 10 in FIG. 1 (c) has four digits, five digits, six digits, A retroreflective material is provided in the small region 11 of the 10th and 15th digits. When the retroreflecting material “present” is “1” and the retroreflecting material “absent” is “0”, the pattern in FIG. 1C is converted to a binary number, 2 3 +2 4 +2 5 +2 9 +2 14 = 16952. That is, the identification number of the mark in the pattern of FIG. 1C is “16952”.

なお、本実施形態のように小領域11の数が15個のとき、再帰反射材の有無によって32768通りのパターンを表示することができる。小領域11の数は15個に限定されるものではなく、必要とするマークの枚数、すなわち、識別すべきマークの数に応じて設定する。   When the number of small regions 11 is 15 as in this embodiment, 32768 patterns can be displayed depending on the presence or absence of a retroreflective material. The number of small areas 11 is not limited to 15, but is set according to the number of required marks, that is, the number of marks to be identified.

図1(d),(e),(f)に示すように、仮に切欠き部15がないとしたら再帰反射材の有無のパターンが同一に見えるマーク10であっても、切欠き部15を基準として複数の小領域11に桁を割り当てることにより、異なる識別番号を付与することができる。ここで、図1(b)のように桁を割り当てた場合、図1(d),(e),(f)のマーク10のパターンを識別番号に変換すると、それぞれ「15115」、「12475」、及び「20701」である。   As shown in FIGS. 1D, 1E, and 1F, if there is no notch 15, the notch 15 is formed even if it is a mark 10 in which the pattern of the presence or absence of the retroreflecting material looks the same. By assigning digits to a plurality of small areas 11 as a reference, different identification numbers can be assigned. Here, when digits are assigned as shown in FIG. 1B, when the pattern of the mark 10 in FIGS. 1D, 1E, and 1F is converted into an identification number, “15115” and “12475”, respectively. , And “20701”.

切欠き部15は、再帰反射材の有無のパターンを二進法による数値(識別番号)に変換する際の基準となることに加えて、マーク10の向きの基準ともなる。本実施形態では、図1(b)に矢印で示すように、切欠き部15を紙面において右上としたときの上方向を、マーク10の向きとする。   The notch 15 serves as a reference for the orientation of the mark 10 in addition to being a reference for converting the pattern of the presence or absence of the retroreflecting material into a numerical value (identification number) by a binary system. In the present embodiment, as indicated by an arrow in FIG. 1B, the upward direction when the cutout portion 15 is located at the upper right in the drawing is the direction of the mark 10.

次に、上記構成のマーク10を使用した位置検出方法について説明する。位置検出方法は、施設30内を移動する移動体20の現在位置を、移動に伴って管理端末(図示しない)で検出するものである。移動体20と管理端末とは、無線通信ネットワークを介して双方向に無線通信を行う。   Next, a position detection method using the mark 10 having the above configuration will be described. In the position detection method, the current position of the moving body 20 moving in the facility 30 is detected by a management terminal (not shown) as it moves. The mobile unit 20 and the management terminal perform wireless communication in both directions via the wireless communication network.

管理端末は、ハード構成として、主記憶装置、補助記憶装置、プロセッサ、及び、無線通信を行う通信装置を主に具備する汎用のコンピュータで構成されており、キーボード及びポインティングデバイスを含む入力装置と、ディスプレイを含む出力装置を備えている。主記憶装置には、少なくとも、移動体20と無線通信ネットワークを介して無線通信を行う管理側無線通信手段、地図画像50をディスプレイに表示させる地図表示手段、移動体20から送信された撮像40を画像処理する画像処理手段、画像処理の結果に基づいて移動体20の現在位置を検出する現在位置検出手段、移動体20の現在位置の座標を更新する座標更新手段、としてコンピュータを機能させるプログラムが記憶されている。   The management terminal is configured by a general-purpose computer mainly including a main storage device, an auxiliary storage device, a processor, and a communication device that performs wireless communication as a hardware configuration, and an input device including a keyboard and a pointing device; An output device including a display is provided. The main storage device includes at least a management-side wireless communication unit that performs wireless communication with the mobile unit 20 via a wireless communication network, a map display unit that displays a map image 50 on a display, and an imaging 40 transmitted from the mobile unit 20. A program that causes a computer to function as image processing means for image processing, current position detection means for detecting the current position of the moving body 20 based on the result of image processing, and coordinate updating means for updating the coordinates of the current position of the moving body 20 It is remembered.

移動体20には、上方に向けて光を投射する投射部(図示しない)と、上方を撮影するカメラ21が設けられている。本実施形態では、赤外線の波長領域の光(940nm)を投射するLEDを投射部に使用しており、カメラ21は赤外線を含む波長領域の光(750nm〜950nm)に対応しているものである。また、移動体20の本体内部には、主記憶装置、補助記憶装置、プロセッサ、及び、無線通信を行う通信装置を備えるマイクロコンピュータが格納されている。主記憶装置には少なくとも、管理端末と無線通信を行う移動体側無線通信手段、カメラ21により取得された撮像40のデータを管理端末に向けて送信する撮像送信手段、管理端末からの指示信号に基づきモータ等の駆動装置やバッテリの電力を管理する駆動制御手段、としてマイクロコンピュータを機能させるプログラムが記憶されている。   The moving body 20 is provided with a projection unit (not shown) for projecting light upward and a camera 21 for photographing the upper part. In the present embodiment, an LED that projects light in the infrared wavelength region (940 nm) is used as the projection unit, and the camera 21 is compatible with light in the wavelength region including infrared rays (750 nm to 950 nm). . In addition, a microcomputer including a main storage device, an auxiliary storage device, a processor, and a communication device that performs wireless communication is stored inside the main body of the moving body 20. Based on at least a mobile-side wireless communication unit that performs wireless communication with the management terminal, an imaging transmission unit that transmits data of the imaging 40 acquired by the camera 21 to the management terminal, and an instruction signal from the management terminal. A program that causes a microcomputer to function as a drive device such as a motor or a drive control unit that manages battery power is stored.

移動体20の移動に先立ち、移動体20を移動させる施設30の天井31にマーク10を貼付する。このとき、マーク10の向きは、特に考慮する必要はない。例えば、図2に示すように、異なる識別コードを有する複数のマーク10を、施設30において移動体20を移動させる空間の天井31の処々に貼付する。なお、図2は、施設30を真上から見た俯瞰図であり、天井31を透視してマーク10を裏面側から見た状態で図示している。   Prior to the movement of the moving body 20, the mark 10 is attached to the ceiling 31 of the facility 30 to which the moving body 20 is moved. At this time, the direction of the mark 10 need not be taken into consideration. For example, as shown in FIG. 2, a plurality of marks 10 having different identification codes are pasted on the ceiling 31 of the space where the moving body 20 is moved in the facility 30. FIG. 2 is a bird's-eye view of the facility 30 as viewed from directly above, and shows the mark 10 viewed from the back side through the ceiling 31.

一方で、移動体20を移動させる施設30の地図画像50を作成する。例えば、施設30の設計図面など印刷された見取図を、スキャナで電子データに変換し、地図画像50のデータとする。地図画像50の作成に当たり、元となる見取図の縦横比は実空間の縦横比と等しいものである必要がある。作成された地図画像50のデータは、管理端末の記憶装置に記憶させることができる。   On the other hand, the map image 50 of the facility 30 to which the moving body 20 is moved is created. For example, a printed sketch such as a design drawing of the facility 30 is converted into electronic data by a scanner and used as data of the map image 50. In creating the map image 50, the aspect ratio of the original sketch must be equal to the aspect ratio of the real space. The generated map image 50 data can be stored in the storage device of the management terminal.

上記の地図画像50を、管理端末の主記憶装置に記憶されたプログラムで読み込み、図3に示すように、ディスプレイに表示させる。ディスプレイに表示された地図画像50における縦方向または横方向の長さに対応させ、実空間の縦方向の距離または横方向の距離を入力する。これにより、ディスプレイに表示された地図画像50における座標が、実空間の二次元座標と対応付けられる。   The above map image 50 is read by a program stored in the main storage device of the management terminal and displayed on the display as shown in FIG. The distance in the vertical direction or the horizontal direction of the real space is input in correspondence with the length in the vertical direction or the horizontal direction in the map image 50 displayed on the display. Thereby, the coordinates in the map image 50 displayed on the display are associated with the two-dimensional coordinates in the real space.

上記のように施設30内に設置されたマーク10については、その座標(実空間における座標)を識別番号と関連付けたマーク座標データベースを作成する。本実施形態では、管理端末でマーク座標データベースを作成することができる。具体的には、図3に示すように、管理端末のディスプレイに地図画像50を表示させた上で、ランドマーク登録画面55を表示させ、実際に設置したマーク10ごとに、その識別番号と実空間における座標を入力する。これにより、マーク座標データベースが作成されると共に、実空間における座標が地図画像50における座標に変換され、ディスプレイの地図画像50上にマーク10を示すアイコン51が表示される。   As described above, for the mark 10 installed in the facility 30, a mark coordinate database in which the coordinates (coordinates in the real space) are associated with the identification number is created. In the present embodiment, a mark coordinate database can be created by the management terminal. Specifically, as shown in FIG. 3, after displaying the map image 50 on the display of the management terminal, the landmark registration screen 55 is displayed, and for each mark 10 actually installed, the identification number and the actual number are displayed. Enter coordinates in space. Thereby, the mark coordinate database is created, the coordinates in the real space are converted into the coordinates in the map image 50, and the icon 51 indicating the mark 10 is displayed on the map image 50 of the display.

施設30内で移動体20を移動させると、移動体20は予め定めた時間間隔など、所定のタイミングでカメラ21による撮影を行う。図4に示すように、カメラ21からマーク10までの距離をh、カメラ21の画角を横方向にα度、縦方向にβ度とすると、撮影範囲35の横方向のサイズLw及び縦方向のサイズLhは、次のようである。なお、図4における線Laは、カメラ21の光軸である。
Lw=h×tan(α/2)×2
Lh=h×tan(β/2)×2
When the moving body 20 is moved in the facility 30, the moving body 20 performs shooting by the camera 21 at a predetermined timing such as a predetermined time interval. As shown in FIG. 4, when the distance from the camera 21 to the mark 10 is h, and the angle of view of the camera 21 is α degrees in the horizontal direction and β degrees in the vertical direction, the horizontal size Lw and the vertical direction of the shooting range 35 are set. The size Lh of is as follows. A line La in FIG. 4 is the optical axis of the camera 21.
Lw = h × tan (α / 2) × 2
Lh = h × tan (β / 2) × 2

カメラ21により取得された撮像40のデータは管理端末に送信され、画像処理がなされる。撮影範囲35にマーク10が存在すれば、移動体20から投射された赤外線がマーク10の再帰反射材で反射されたマーク像41が撮像40から抽出される。マーク像41の抽出は、例えば撮像40の二値化に基づいて行うことができる。抽出されたマーク像41について、切欠き部15を基準として小領域11における再帰反射材の有無のパターンを解析することにより、撮影されたマーク10の識別番号が分かる。これにより、マーク座標データベースから撮影されたマーク10の実空間における座標が分かる。従って、撮像40におけるカメラ中心Pに対するマーク像41の相対座標と、実空間におけるマーク10の座標とから、移動体20の実空間における座標を検出することができる。   Data of the imaging 40 acquired by the camera 21 is transmitted to the management terminal, and image processing is performed. If the mark 10 exists in the imaging range 35, the mark image 41 in which the infrared light projected from the moving body 20 is reflected by the retroreflective material of the mark 10 is extracted from the imaging 40. The extraction of the mark image 41 can be performed based on binarization of the imaging 40, for example. By analyzing the pattern of the presence or absence of the retroreflective material in the small area 11 with respect to the extracted mark image 41 with the notch 15 as a reference, the identification number of the photographed mark 10 can be obtained. Thereby, the coordinate in the real space of the mark 10 image | photographed from the mark coordinate database is known. Therefore, the coordinates of the moving body 20 in the real space can be detected from the relative coordinates of the mark image 41 with respect to the camera center P in the imaging 40 and the coordinates of the mark 10 in the real space.

より具体的に説明すると、カメラ21により撮影された撮像40は、移動体20の位置だけではなく、そのときの移動体20の進行方向、すなわちカメラ21の向きによっても異なる。例えば、移動体20が施設30において図2に示す位置にある場合、移動体20の進行方向が異なると、カメラ21による撮影範囲35と撮像40は、図5(a)〜(d)に示すように異なったものとなる。ここで、図5(a)〜(d)それぞれにおいて、左図は施設30の第3室を真上から見た図2の部分拡大図に、移動体20の進行方向を示す三角形の記号を付したものである。図5(a)〜(d)それぞれの右図は、左図の方向に移動する移動体20によって撮影された撮像40を、移動体20の移動方向が紙面下方向となるように示したものである。なお、移動体20の進行方向は、図5(a)では南、図5(b)では東、図5(c)では北、図5(d)では北西である。   More specifically, the imaging 40 captured by the camera 21 differs depending not only on the position of the moving body 20 but also on the traveling direction of the moving body 20 at that time, that is, the direction of the camera 21. For example, when the moving body 20 is in the position shown in FIG. 2 in the facility 30, if the moving direction of the moving body 20 is different, the shooting range 35 and the imaging 40 by the camera 21 are shown in FIGS. Will be different. Here, in each of FIGS. 5A to 5D, the left figure is a partially enlarged view of FIG. 2 in which the third chamber of the facility 30 is viewed from directly above, and a triangular symbol indicating the traveling direction of the moving body 20 is provided. It is attached. Each of the right diagrams of FIGS. 5A to 5D shows the imaging 40 photographed by the moving body 20 moving in the direction of the left diagram so that the moving direction of the moving body 20 is a downward direction in the drawing. It is. The traveling direction of the moving body 20 is south in FIG. 5 (a), east in FIG. 5 (b), north in FIG. 5 (c), and northwest in FIG. 5 (d).

このような撮像40から、図6(a)に示すように、カメラ中心Pに対するマーク像41の中心の相対座標(x,y)が分かる。同時に、マーク10の方向に対する移動体20の進行方向のなす角度θが、撮像40から分かる。 As shown in FIG. 6A , the relative coordinates (x r , y r ) of the center of the mark image 41 with respect to the camera center P can be obtained from the imaging 40 as described above. At the same time, an angle θ formed by the moving direction of the moving body 20 with respect to the direction of the mark 10 can be known from the imaging 40.

ここで、撮像40は天井31に貼られたマーク10を下方から見上げて撮影した像であるのに対し、マーク座標データベースにおけるマーク10の座標は、施設30を真上から見た状態の座標である。そこで、下方から見上げて撮影した撮像40を、真上から見た状態に変換すると、図6(b)に示すように、カメラ中心Pに対するマーク像41の相対座標は(x,−y)となる。 Here, the imaging 40 is an image obtained by looking up from the lower side of the mark 10 attached to the ceiling 31, whereas the coordinates of the mark 10 in the mark coordinate database are the coordinates when the facility 30 is viewed from directly above. is there. Therefore, when the imaging 40 photographed by looking up from below is converted into a state seen from directly above, the relative coordinates of the mark image 41 with respect to the camera center P are (x r , -y r ) as shown in FIG. )

そして、撮像40における座標軸を、地図画像50における座標軸(ひいては実空間における座標軸)と一致させるために、図6(c)に示すように、点Pを中心として角度θだけ相対座標(x,−y)を回転させる。回転後の相対座標(x,y)は次のようである。
=x・cosθ−(−y)sinθ
=x・sinθ+(−y)cosθ
Then, in order to make the coordinate axis in the imaging 40 coincide with the coordinate axis in the map image 50 (and eventually the coordinate axis in the real space), as shown in FIG. 6C, relative coordinates (x r , -Y r ) is rotated. The relative coordinates (x t , y t ) after rotation are as follows.
x t = x r · cos θ − (− y r ) sin θ
y t = x r · sin θ + (− y r ) cos θ

撮像40のサイズが横方向xピクセル、縦方向yピクセルとすると、撮像40における相対座標(x,y)を、上記のLw,Lhを用いて実空間における長さを単位とした座標に変換すると、(x(Lw/x),y(Lh/y))である(図6(d)参照)。 If the size of the image capturing 40 is x pixels in the horizontal direction and y pixels in the vertical direction, the relative coordinates (x t , y t ) in the image capturing 40 are converted into coordinates in units of length in real space using the above Lw and Lh. When converted, (x t (Lw / x), y t (Lh / y)) is obtained (see FIG. 6D).

従って、上記の画像処理によって決定された識別番号によって特定されるマーク10の実空間における座標を(X,Y)すると、実空間における移動体20の現在座標(x,y)は、次のように検出される。
=X−x(Lw/x)
=Y−y(Lh/y)
検出された現在座標(x,y)は、管理端末の記憶装置に記憶される。また、実空間における現在座標(x,y)から地図画像50における現在座標が算出され、この算出結果に基づいて、地図画像50上で移動体20を表すアイコン(図示しない)の位置が更新される。
Accordingly, when the coordinates in the real space of the mark 10 specified by the identification number determined by the above image processing are (X, Y), the current coordinates (x p , y p ) of the moving body 20 in the real space are It is detected as follows.
x p = X−x t (Lw / x)
y p = Y−y t (Lh / y)
The detected current coordinates (x p , y p ) are stored in the storage device of the management terminal. In addition, the current coordinates in the map image 50 are calculated from the current coordinates (x p , y p ) in the real space, and the position of an icon (not shown) representing the moving body 20 on the map image 50 is calculated based on the calculation result. Updated.

以上のように、本実施形態によれば、再帰反射材の有無を二進法による数値に対応させているため、縦横に並んだ小領域11における再帰反射材の有無のパターンを、複数のマーク10で異ならせるという簡易な構成であるにも関わらず、極めて多数のマーク10を識別できる識別番号を、マークに付与することができる。   As described above, according to the present embodiment, since the presence / absence of the retroreflective material is made to correspond to the numerical value by the binary system, the pattern of the presence / absence of the retroreflective material in the small region 11 arranged vertically and horizontally is represented by a plurality of marks 10. In spite of the simple configuration of differentiating, an identification number that can identify an extremely large number of marks 10 can be given to the marks.

また、マーク10の輪郭の一箇所のみに設けられた切欠き部15を、小領域11における再帰反射材の有無のパターンを二進法による数値に変換する際の基準とすると共に、マーク10の方向の基準としても使用することにより、シンプルな構成のマーク10に複数種類の情報を持たせている。   Further, the notch 15 provided only at one position of the outline of the mark 10 is used as a reference when converting the pattern of the presence or absence of the retroreflective material in the small region 11 into a numerical value by the binary system, and in the direction of the mark 10. By using it as a reference, the mark 10 having a simple configuration has a plurality of types of information.

仮に、縦横に並んだ小領域11の一部を着色したり色分けしたりしても、そのパターンを二進法による数値(識別番号)に対応させることは可能である。しかしながら、その場合は可視光に対応したカメラ21でマーク10を撮影することとなり、環境中に存在する雑多な物品の影響を受け、他の物品をマーク10と誤認するなど、撮像40からマーク10を抽出する精度が低下するおそれがある。これに対して、本実施形態のマーク10では、小領域11における再帰反射材の有無のパターンを二進法による数値に対応させ、マーク10で赤外線を反射させた像を撮影しているため、環境による外乱を受けることなく、マーク10を正確に検出することができる。また、赤外線による検出であるため、夜間や照度の低いときであっても、マーク10の検出のために照明を必要としない利点を有している。   Even if some of the small regions 11 arranged vertically and horizontally are colored or color-coded, it is possible to make the pattern correspond to a numerical value (identification number) by a binary system. However, in this case, the mark 10 is shot with the camera 21 corresponding to visible light, and the mark 10 is detected from the imaging 40 such that other articles are misidentified as the mark 10 due to the influence of various articles existing in the environment. There is a risk that the accuracy of extracting the will decrease. On the other hand, in the mark 10 of this embodiment, the pattern of the presence or absence of the retroreflective material in the small region 11 is made to correspond to the numerical value by the binary method, and the image in which the infrared ray is reflected by the mark 10 is photographed. The mark 10 can be accurately detected without being disturbed. Moreover, since it is detection by infrared rays, it has an advantage that illumination is not required for detection of the mark 10 even at night or when the illuminance is low.

加えて、小領域11のサイズにカットした再帰反射材を台紙に貼ってマークとすることも想到し得るのに対し、本実施形態では一つのマーク10が一枚の再帰反射シートで形成されており、再帰反射材を有しない小領域11及び切欠き部15では、再帰反射シートが切除されている。このような構成とすることにより、再帰反射材による輪郭を容易に形成することができるため、輪郭において再帰反射材が切り欠かれている切欠き部15を、容易に形成することができる。   In addition, it is conceivable that a retroreflective material cut to the size of the small region 11 is pasted on the mount to form a mark, whereas in the present embodiment, one mark 10 is formed by one retroreflective sheet. In addition, the retroreflective sheet is cut off in the small area 11 and the notch 15 that do not have the retroreflective material. By setting it as such a structure, since the outline by a retroreflective material can be formed easily, the notch part 15 by which the retroreflective material is notched in the outline can be formed easily.

以上、本発明について好適な実施形態を挙げて説明したが、本発明は上記の実施形態に限定されるものではなく、以下に示すように、本発明の要旨を逸脱しない範囲において、種々の改良及び設計の変更が可能である。   The present invention has been described with reference to the preferred embodiments. However, the present invention is not limited to the above-described embodiments, and various improvements can be made without departing from the scope of the present invention as described below. And design changes are possible.

例えば、移動体20から赤外線領域の波長の光を投射し、これを反射するマーク10の像をカメラ21で撮影する場合を例示したが、投射する光の波長に対応しているカメラ21を使用するものであれば、移動体20から投射する光は赤外線に限定されず、紫外線であっても良い。また、カメラ21は、撮影対象とする光の波長の範囲に投射される光の波長を含んでいればよく、撮影対象とする光の波長の範囲に可視光の波長領域を含んでいても構わない。   For example, the case where the light of the wavelength in the infrared region is projected from the moving body 20 and the image of the mark 10 that reflects the light is captured by the camera 21 is exemplified. If it does, the light projected from the moving body 20 is not limited to infrared rays, but may be ultraviolet rays. Moreover, the camera 21 should just contain the wavelength of the light projected on the range of the wavelength of the light made into imaging | photography object, and may contain the wavelength range of visible light in the range of the wavelength of the light made into imaging | photography object. Absent.

また、上記では、移動体20のカメラ21で取得した撮像40のデータを管理端末に送信し、管理端末側で撮像の画像処理を行う場合を例示したが、移動体20側で撮像40の画像処理を行うこととしても良い。例えば、移動体20のマイクロコンピュータで撮像40を画像処理し、マーク像41を抽出して識別番号を特定すると共に、相対座標(x,y)及び角度θを検出してから、これらのデータを管理端末に送信し、現在座標(x,y)を求めるその後の処理を管理端末で行う構成とすることができる。或いは、撮像40の画像処理から最終的に現在座標(x,y)を求めるまでの処理すべてを移動体20側で行ってから、現在座標(x,y)を管理端末に送信する構成とすることができる。 Moreover, although the case where the data of the imaging 40 acquired with the camera 21 of the moving body 20 is transmitted to the management terminal and the imaging processing is performed on the management terminal side is illustrated above, the image of the imaging 40 on the moving body 20 side is illustrated. It is good also as processing. For example, the imaging 40 is processed by the microcomputer of the moving body 20, the mark image 41 is extracted to identify the identification number, and the relative coordinates (x r , y r ) and the angle θ are detected, and then these The data can be transmitted to the management terminal, and the subsequent processing for obtaining the current coordinates (x p , y p ) can be performed by the management terminal. Alternatively, all the processing from the image processing of the imaging 40 until the final determination of the current coordinates (x p , y p ) is performed on the mobile unit 20 side, and then the current coordinates (x p , y p ) are transmitted to the management terminal. It can be set as the structure to do.

更に、上記では、マーク10における小領域11が四角形(正方形)の場合を例示したが、小領域11の形状は特に限定されるものではなく、図7(a),(b)にそれぞれ示すように、三角形や円形の小領域11とすることができる。また、上記では、再帰反射シートの角部を正方形に切除して切欠き部15とした場合を例示したが、図7(a),(b)にそれぞれ示すように、角部を三角形や円形に切除して切欠き部15とすることができる。   Furthermore, although the case where the small area 11 in the mark 10 is a quadrangle (square) is illustrated above, the shape of the small area 11 is not particularly limited, and is shown in FIGS. 7A and 7B, respectively. In addition, the small region 11 can be a triangle or a circle. Moreover, although the case where the corner of the retroreflective sheet is cut into a square to form the notch 15 is illustrated above, the corner is triangular or circular as shown in FIGS. 7 (a) and 7 (b). The cutout portion 15 can be formed by cutting it out.

10 マーク(位置検出用ランドマーク)
11 小領域
15 切欠き部
20 移動体
21 カメラ
40 撮像
41 マーク像(位置検出用ランドマークの像)
10 mark (landmark for position detection)
11 Small area 15 Notch 20 Moving body 21 Camera 40 Imaging 41 Mark image (image of landmark for position detection)

Claims (2)

移動体の位置検出の基準となる複数の位置検出用ランドマークであって、
それぞれシート状で、縦方向及び横方向それぞれに複数の小領域を有し、複数の該小領域における再帰反射材の有無のパターンが、複数の前記位置検出用ランドマークで異なっており、
それぞれの輪郭の一箇所のみに、前記再帰反射材が切り欠かれた切欠き部を有する
ことを特徴とする位置検出用ランドマーク。
A plurality of position detection landmarks serving as a reference for detecting the position of the moving object,
Each of the sheet-like shapes has a plurality of small areas in the vertical direction and the horizontal direction, and the pattern of the presence or absence of the retroreflective material in the plurality of small areas is different in the plurality of position detection landmarks,
A position detection landmark having a cutout portion in which the retroreflective material is cut out only at one position of each contour.
請求項1に記載の位置検出用ランドマークを使用した移動体の位置検出方法であり、
前記移動体から可視光の波長領域外の光を投射し、投射した光の波長に対応したカメラで取得した撮像から、前記位置検出用ランドマークの像を抽出し、
前記切欠き部を基準として、複数の前記小領域に桁を割り当て、複数の前記小領域における前記再帰反射材の有無を二進法による数値に対応させて、前記位置検出用ランドマークの識別番号を検出し、
前記切欠き部を基準として、前記移動体の進行方向と前記位置検出用ランドマークの向きとの関係を検出する
ことを特徴とする移動体の位置検出方法。
A method for detecting a position of a moving object using the landmark for position detection according to claim 1,
Projecting light outside the wavelength range of visible light from the moving body, and extracting the image of the position detection landmark from the image acquired by the camera corresponding to the wavelength of the projected light,
Using the notch as a reference, a digit is assigned to the plurality of small areas, and the presence or absence of the retroreflective material in the plurality of small areas is made to correspond to a numerical value in binary, and the identification number of the position detection landmark is detected. And
A method for detecting a position of a moving body, wherein a relationship between a traveling direction of the moving body and an orientation of a landmark for position detection is detected using the notch as a reference.
JP2016128405A 2016-06-29 2016-06-29 Landmark for position detection and position detection method for moving body Active JP6606471B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016128405A JP6606471B2 (en) 2016-06-29 2016-06-29 Landmark for position detection and position detection method for moving body

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016128405A JP6606471B2 (en) 2016-06-29 2016-06-29 Landmark for position detection and position detection method for moving body

Publications (2)

Publication Number Publication Date
JP2018005365A true JP2018005365A (en) 2018-01-11
JP6606471B2 JP6606471B2 (en) 2019-11-13

Family

ID=60949276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016128405A Active JP6606471B2 (en) 2016-06-29 2016-06-29 Landmark for position detection and position detection method for moving body

Country Status (1)

Country Link
JP (1) JP6606471B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024106250A1 (en) * 2022-11-15 2024-05-23 Thk株式会社 Sign detection system and autonomous mobile robot control system

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09128041A (en) * 1995-10-27 1997-05-16 Shinryo Corp Method and system for guiding moving robot
JP2002116023A (en) * 2000-10-06 2002-04-19 Meidensha Corp Reflecting plate for position detection of automated guided vehicle and position detector
JP2007257226A (en) * 2006-03-23 2007-10-04 Honda Motor Co Ltd Self-location detection device and system for traveling object
JP2014021624A (en) * 2012-07-13 2014-02-03 Sharp Corp Autonomous traveling device and autonomous traveling system
JP2015001810A (en) * 2013-06-14 2015-01-05 株式会社ブイ・アール・テクノセンター Mobile robot system
JP2015031809A (en) * 2013-08-01 2015-02-16 国立大学法人 奈良先端科学技術大学院大学 Method and apparatus for manufacturing retroreflection sheet
JP2015225014A (en) * 2014-05-29 2015-12-14 日本電信電話株式会社 Position estimation device, position estimation method, and program

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09128041A (en) * 1995-10-27 1997-05-16 Shinryo Corp Method and system for guiding moving robot
JP2002116023A (en) * 2000-10-06 2002-04-19 Meidensha Corp Reflecting plate for position detection of automated guided vehicle and position detector
JP2007257226A (en) * 2006-03-23 2007-10-04 Honda Motor Co Ltd Self-location detection device and system for traveling object
JP2014021624A (en) * 2012-07-13 2014-02-03 Sharp Corp Autonomous traveling device and autonomous traveling system
JP2015001810A (en) * 2013-06-14 2015-01-05 株式会社ブイ・アール・テクノセンター Mobile robot system
JP2015031809A (en) * 2013-08-01 2015-02-16 国立大学法人 奈良先端科学技術大学院大学 Method and apparatus for manufacturing retroreflection sheet
JP2015225014A (en) * 2014-05-29 2015-12-14 日本電信電話株式会社 Position estimation device, position estimation method, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024106250A1 (en) * 2022-11-15 2024-05-23 Thk株式会社 Sign detection system and autonomous mobile robot control system

Also Published As

Publication number Publication date
JP6606471B2 (en) 2019-11-13

Similar Documents

Publication Publication Date Title
CN111989544B (en) System and method for indoor vehicle navigation based on optical target
US10083522B2 (en) Image based measurement system
KR100794409B1 (en) A mobile robot and a method for calculating position and posture thereof
US7398928B2 (en) Coded target and photogrammetry method using such targets
KR100698534B1 (en) Landmark for location recognition of mobile robot and location recognition device and method using same
KR101146119B1 (en) Method and apparatus for determining positions of robot
JP6667065B2 (en) Position estimation device and position estimation method
CN108022264B (en) Method and equipment for determining camera pose
CN109357673A (en) Vision navigation method and device based on image
CN109936691A (en) Double imaging vision system cameras, pointing instrumentation and its application method
JP2005164323A (en) Mark for position detection, method and device for mark detection, and program for same
US20090084855A1 (en) Methods and Apparatus for Directing Bar Code Positioning for Imaging Scanning
WO2015073590A2 (en) Collimation and homogenization system for an led luminaire
JP7408865B2 (en) Meter reading work device and method and meter reading work system
CN108022265A (en) Infrared camera pose determines method, equipment and system
TWI741904B (en) Measuring system and measuring method
EP3030859A1 (en) 3d mapping device for modeling of imaged objects using camera position and pose to obtain accuracy with reduced processing requirements
JP6606471B2 (en) Landmark for position detection and position detection method for moving body
US20190295277A1 (en) Projection control device, marker detection method, and storage medium
JP5874252B2 (en) Method and apparatus for measuring relative position with object
JP5862217B2 (en) Marker detection and tracking device
KR101243848B1 (en) Device of Hook-Angle Recognition for Unmanned Crane
JPH05133715A (en) Target mark, image pickup device, relative position and attitude measuring device using them
JPH1149100A (en) Apron monitor
CN115661240A (en) Position information determining method and device, electronic equipment and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191018

R150 Certificate of patent or registration of utility model

Ref document number: 6606471

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250