JP2020071603A - Track management system and on-vehicle device - Google Patents

Track management system and on-vehicle device Download PDF

Info

Publication number
JP2020071603A
JP2020071603A JP2018204220A JP2018204220A JP2020071603A JP 2020071603 A JP2020071603 A JP 2020071603A JP 2018204220 A JP2018204220 A JP 2018204220A JP 2018204220 A JP2018204220 A JP 2018204220A JP 2020071603 A JP2020071603 A JP 2020071603A
Authority
JP
Japan
Prior art keywords
vehicle
image
matching
trajectory
management system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018204220A
Other languages
Japanese (ja)
Other versions
JP6835793B2 (en
Inventor
善夫 ▲浜▼田
善夫 ▲浜▼田
Yoshio Hamada
幹雄 舩木
Mikio Funaki
幹雄 舩木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yazaki Energy System Corp
Original Assignee
Yazaki Energy System Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yazaki Energy System Corp filed Critical Yazaki Energy System Corp
Priority to JP2018204220A priority Critical patent/JP6835793B2/en
Publication of JP2020071603A publication Critical patent/JP2020071603A/en
Application granted granted Critical
Publication of JP6835793B2 publication Critical patent/JP6835793B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Time Recorders, Dirve Recorders, Access Control (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

To correct an error of a vehicle position to acquire correct track data even in a case where GPS data or data about the vehicle speed cannot be acquired.SOLUTION: A track management system 5 includes an on-vehicle device 10 mounted on a vehicle that moves in trenches having marks at prescribed positions, and an office PC 30 that manages the on-vehicle device 10. The on-vehicle device 10 includes a track generation unit 11a that, based on at least one of the orientation and inclination of the vehicle and the acceleration of the vehicle, generates track data indicating a track along which the vehicle has moved, and a position correction image matching unit 11b that, referring to a matching information database 56 that stores a correspondence between a matching image obtained by imaging a mark and a prescribed position at which the mark is located, determines whether a captured image obtained by a camera 23 mounted on the vehicle while the vehicle is moving agrees with the matching image. When they agree, the track generation unit 11a corrects positional information of the vehicle based on the prescribed position.SELECTED DRAWING: Figure 1

Description

本発明は、軌跡管理システム及び車載器に関する。   The present invention relates to a trajectory management system and a vehicle-mounted device.

トラック等の車両に搭載される車載器によって取得した車両の走行データを、車両を管理する事務所側の管理装置にて収集及び分析することが行われている。車両が走行した軌跡を管理する方法として、GPS(Global Positioning System)を用いた手法がある。この手法において、GPS衛星からの信号(GPSデータ)が取得できない場所では、ジャイロセンサ、加速度センサ、及びスピードセンサ等から出力されるデータを用いて、車両の軌跡を作成している。尚、移動体の軌跡管理において画像データが用いられる技術として、特許文献1〜3に記載されたものがある。   BACKGROUND ART Vehicle running data acquired by an on-vehicle device mounted on a vehicle such as a truck is collected and analyzed by a management device on the office side that manages the vehicle. A method using GPS (Global Positioning System) is known as a method for managing the trajectory of the vehicle. In this method, when the signal (GPS data) from the GPS satellite cannot be acquired, the locus of the vehicle is created using the data output from the gyro sensor, the acceleration sensor, the speed sensor, and the like. It should be noted that there are techniques described in Patent Documents 1 to 3 as techniques for using image data in trajectory management of a moving body.

特開2016−103049号公報JP, 2016-103049, A 特開2017−123025号公報JP, 2017-123025, A 国際公開第2016/021121号International Publication No. 2016/021121

しかしながら、GPSデータを使用せずにジャイロセンサ等を用いて車両の軌跡データを作成する場合、センサ出力の誤差が積み重なり位置情報の誤差が大きくなってしまうため、運用には適さない。また、スピードセンサで車両速度を取得できない場合には、軌跡データを作成できない。さらに、他の軌跡取得方法としてビーコンを用いる手法があるが、ビーコンを地面に埋め込んだり壁面に貼り付けたりする必要があり、電源の確保も必要となる。尚、特許文献3には、フレーム画像における移動体の位置をユーザー入力により修正することが開示されるものの、特許文献1〜3のいずれにも、GPSデータを使用せずに移動体の軌跡データを作成することは開示されない。   However, when the vehicle trajectory data is created by using a gyro sensor or the like without using the GPS data, the error in the sensor output accumulates and the error in the position information becomes large, which is not suitable for operation. If the vehicle speed cannot be acquired by the speed sensor, the trajectory data cannot be created. Further, there is a method of using a beacon as another trajectory acquisition method, but it is necessary to embed the beacon in the ground or paste it on the wall surface, and it is also necessary to secure a power source. Although Patent Document 3 discloses that the position of a moving body in a frame image is corrected by user input, in any of Patent Literatures 1 to 3, trajectory data of the moving body is used without using GPS data. Is not disclosed.

本発明は、上述した事情に鑑みてなされたものであり、その目的は、GPSデータや車両速度のデータが取得できない場合であっても、車両位置の誤差を補正して、正確な軌跡データを取得することができる軌跡管理システム及び車載器を提供することにある。   The present invention has been made in view of the above-described circumstances, and an object thereof is to correct an error in a vehicle position to obtain accurate trajectory data even when GPS data or vehicle speed data cannot be acquired. An object is to provide a trajectory management system and an in-vehicle device that can be acquired.

前述した目的を達成するために、本発明に係る軌跡管理システム及び車載器は、下記(1)〜(8)を特徴としている。
(1) 所定位置にマーキングを有する構内を移動する車両に搭載される車載器と、前記車載器を管理する管理装置と、を備える軌跡管理システムであって、
前記車両の向き及び傾きの少なくともいずれか一方と前記車両の加速度とに基づいて、前記車両が移動した軌跡を示す軌跡データを作成する軌跡作成部と、
前記マーキングを撮影したマッチング画像と当該マーキングが配置された前記所定位置との対応を記憶するデータベースを参照して、前記車両の移動中に前記車両に搭載されたカメラによって撮影された撮影画像が前記マッチング画像と一致するか否かを判定する判定部と、を備え、
前記判定部によって前記撮影画像と前記マッチング画像とが一致すると判定された場合に、前記軌跡作成部は、前記車両の位置情報を前記所定位置に基づいて補正し、補正された前記位置情報を用いて前記軌跡データを再度作成する
ことを特徴とする軌跡管理システム。
(2) 前記判定部は、前記撮影画像と前記マッチング画像との類似率を算出し、前記類似率が第一閾値以上の場合に前記撮影画像と前記マッチング画像とが一致すると判定する
ことを特徴とする上記(1)に記載の軌跡管理システム。
(3) 前記類似率が、前記第一閾値以上であり、かつ、前記第一閾値より大きい第二閾値未満である場合に、前記データベースに記憶されている前記マッチング画像を、前記撮影画像に含まれる前記マーキングの画像に変更することにより、前記データベースを更新する
ことを特徴とする上記(2)に記載の軌跡管理システム。
(4) 前記データベースの更新回数が第三閾値に達した場合に、前記マーキングのメンテナンスが必要であることを示すメンテナンス警報信号を作成する警報部を備える
ことを特徴とする上記(3)に記載の軌跡管理システム。
(5) 前記データベースが前記車載器に設けられた
ことを特徴とする上記(1)〜(4)のいずれかに記載の軌跡管理システム。
(6) 前記データベースが前記管理装置に設けられた
ことを特徴とする上記(1)〜(4)のいずれかに記載の軌跡管理システム。
(7) 所定位置にマーキングを有する構内を移動する車両に搭載される車載器であって、
前記車両の向き及び傾きの少なくともいずれか一方と前記車両の加速度とに基づいて、前記車両が移動した軌跡を示す軌跡データを作成する軌跡作成部と、
前記マーキングを撮影したマッチング画像と当該マーキングが配置された前記所定位置との対応を記憶するデータベースを参照して、前記車両の移動中に前記車両に搭載されたカメラによって撮影された撮影画像が前記マッチング画像と一致するか否かを判定する判定部と、を備え、
前記判定部によって前記撮影画像と前記マッチング画像とが一致すると判定された場合に、前記軌跡作成部は、前記車両の位置情報を前記所定位置に基づいて補正し、補正された前記位置情報を用いて前記軌跡データを再度作成する
ことを特徴とする車載器。
(8) 前記軌跡作成部は、前記車両の向きを検知する磁気センサ及び前記車両の傾きを検知するジャイロセンサの少なくともいずれか一方と前記車両の加速度を検知する加速度センサとからの出力に基づいて、前記軌跡データを作成する
ことを特徴とする上記(7)に記載の車載器。
In order to achieve the above-mentioned object, the trajectory management system and the vehicle-mounted device according to the present invention are characterized by the following (1) to (8).
(1) A trajectory management system including an on-vehicle device mounted on a vehicle moving in a yard having a marking at a predetermined position, and a management device managing the on-vehicle device,
A locus creating unit that creates locus data indicating a locus along which the vehicle has moved, based on at least one of the direction and the inclination of the vehicle and the acceleration of the vehicle.
The captured image captured by the camera mounted on the vehicle while the vehicle is moving is referred to by referring to the database that stores the correspondence between the matching image obtained by capturing the marking and the predetermined position where the marking is arranged. A determining unit that determines whether or not the image matches the matching image,
When the determination unit determines that the captured image and the matching image match, the trajectory generation unit corrects the position information of the vehicle based on the predetermined position, and uses the corrected position information. A locus management system characterized in that the locus data is re-created by using the above.
(2) The determination unit calculates a similarity rate between the captured image and the matching image, and determines that the captured image and the matching image match when the similarity rate is equal to or higher than a first threshold value. The trajectory management system according to (1) above.
(3) The matching image stored in the database is included in the captured image when the similarity rate is equal to or more than the first threshold and less than a second threshold that is greater than the first threshold. The trajectory management system according to (2) above, wherein the database is updated by changing the image of the marking to be displayed.
(4) An alarm unit for generating a maintenance alarm signal indicating that the marking needs maintenance when the number of updates of the database reaches a third threshold value. Trajectory management system.
(5) The trajectory management system according to any one of (1) to (4), wherein the database is provided in the vehicle-mounted device.
(6) The trajectory management system according to any one of (1) to (4), wherein the database is provided in the management device.
(7) An on-vehicle device mounted on a vehicle that moves in a yard having a marking at a predetermined position,
A locus creating unit that creates locus data indicating a locus along which the vehicle has moved, based on at least one of the direction and the inclination of the vehicle and the acceleration of the vehicle.
The captured image captured by the camera mounted on the vehicle while the vehicle is moving is referred to by referring to the database that stores the correspondence between the matching image captured with the marking and the predetermined position where the marking is arranged. A determining unit that determines whether or not the image matches the matching image,
When the determination unit determines that the captured image and the matching image match, the trajectory generation unit corrects the position information of the vehicle based on the predetermined position, and uses the corrected position information. The vehicle-mounted device, wherein the locus data is recreated by
(8) The locus creating unit is based on outputs from at least one of a magnetic sensor that detects the direction of the vehicle and a gyro sensor that detects the inclination of the vehicle, and an acceleration sensor that detects the acceleration of the vehicle. The vehicle-mounted device according to (7) above, wherein the locus data is created.

上記(1)の構成の軌跡管理システムによれば、車両の軌跡データを作成する際、構内の床上等に配置されたマーキングを車両の移動中に撮影した撮影画像とデータベースに予め登録されたマッチング画像とのマッチングを行うことで、車両の位置補正をし、軌跡データの補正が可能となる。よって、GPSデータや車両速度のデータが取得できない場合であっても、車両位置の誤差を定期的に補正して、正確な軌跡データを取得することができる。   According to the trajectory management system having the above configuration (1), when the vehicle trajectory data is created, the markings placed on the floor of the premises and the captured images captured while the vehicle is moving are registered in the database in advance. By matching with the image, the position of the vehicle can be corrected and the trajectory data can be corrected. Therefore, even when GPS data or vehicle speed data cannot be acquired, it is possible to periodically correct the error in the vehicle position and acquire accurate trajectory data.

上記(2)の構成の軌跡管理システムによれば、類似率が高い場合に、撮影画像とデータベースに予め登録されたマッチング画像とがマッチングできたと判定できる。   According to the trajectory management system having the above configuration (2), it is possible to determine that the captured image and the matching image registered in the database in advance can be matched when the similarity is high.

上記(3)の構成の軌跡管理システムによれば、実際のマーキングの状況に応じたマッチングが可能となる。   According to the trajectory management system having the above configuration (3), matching can be performed according to the actual marking situation.

上記(4)の構成の軌跡管理システムによれば、床上等のマーキングは使用状況によって、風化等(劣化、摩耗)の程度が異なるが、データベースの更新回数が多い場合にメンテナンス警報信号に基づく警報が発せられることにより、警報を契機として風化等への対応が可能となるため、マーキングの状態を常に管理する必要がなくなりメンテナンスの手間を軽減できる。   According to the trajectory management system configured as described in (4) above, the degree of weathering (deterioration, wear) of markings on the floor or the like varies depending on the usage situation, but an alarm based on the maintenance alarm signal is issued when the number of database updates is large. By issuing the alarm, it is possible to deal with weathering or the like triggered by an alarm, so that it is not necessary to constantly manage the marking state, and maintenance work can be reduced.

上記(5)の構成の軌跡管理システムによれば、車載器は外部と通信することなく車載器単体で、撮影画像とマッチング画像とが一致するかを判定できる。   According to the trajectory management system having the above configuration (5), the vehicle-mounted device can determine whether the captured image and the matching image match with each other without communicating with the outside.

上記(6)の構成の軌跡管理システムによれば、複数の車載器を管理する管理装置がデータベースを備えることにより、データベースが更新された場合に、更新されたデータベースを複数の車両で共通して使用できる。   According to the trajectory management system of the above configuration (6), since the management device that manages the plurality of vehicle-mounted devices includes the database, when the database is updated, the updated database is shared by a plurality of vehicles. Can be used.

上記(7)の構成の車載器によれば、車両の軌跡データを作成する際、構内の床上等に配置されたマーキングを車両の移動中に撮影した撮影画像とデータベースに予め登録されたマッチング画像とのマッチングを行うことで、車両の位置補正をし、軌跡データの補正が可能となる。よって、GPSデータや車両速度のデータが取得できない場合であっても、車両位置の誤差を定期的に補正して、正確な軌跡データを取得することができる。   According to the vehicle-mounted device having the above configuration (7), when the trajectory data of the vehicle is created, the marking image that is taken while the vehicle is moving and the matching image that is registered in the database in advance are placed on the floor of the premises. The vehicle position can be corrected and the trajectory data can be corrected by performing the matching with. Therefore, even when GPS data or vehicle speed data cannot be acquired, it is possible to periodically correct the error in the vehicle position and acquire accurate trajectory data.

上記(8)の構成の車載器によれば、GPSを使用せず、加速度センサと磁気センサ又はジャイロセンサとを用いて、正確な軌跡データを作成できる。   According to the vehicle-mounted device having the above configuration (8), accurate trajectory data can be created using the acceleration sensor and the magnetic sensor or the gyro sensor without using the GPS.

本発明によれば、GPSデータや車両速度のデータが取得できない場合であっても、車両位置の誤差を補正して、正確な軌跡データを取得することができる。   According to the present invention, even when GPS data or vehicle speed data cannot be acquired, it is possible to correct the vehicle position error and acquire accurate trajectory data.

以上、本発明について簡潔に説明した。更に、以下に説明される発明を実施するための形態(以下、「実施形態」という。)を添付の図面を参照して通読することにより、本発明の詳細は更に明確化されるであろう。   The present invention has been briefly described above. Further, the details of the present invention will be further clarified by reading through a mode for carrying out the invention described below (hereinafter, referred to as “embodiment”) with reference to the accompanying drawings. ..

図1は、軌跡管理システムの構成例を示す図である。FIG. 1 is a diagram showing a configuration example of a trajectory management system. 図2は、床上にマーキングが付された構内の概略を示す図である。FIG. 2 is a diagram showing an outline of a yard with markings on the floor. 図3は、マッチング情報データベースを説明するための図である。FIG. 3 is a diagram for explaining the matching information database. 図4は、軌跡管理システムによる処理の流れを示す図である。FIG. 4 is a diagram showing a flow of processing by the trajectory management system. 図5は、軌跡作成部が作成したフォークリフトの軌跡データの例を示す図である。FIG. 5 is a diagram showing an example of trajectory data of a forklift created by the trajectory creating unit. 図6は、構内におけるフォークリフトが移動した軌跡の一例を示す図である。FIG. 6 is a diagram showing an example of a locus of movement of a forklift on the premises. 図7は、軌跡管理システムの他の構成例を示す図である。FIG. 7 is a diagram showing another configuration example of the trajectory management system.

本発明に関する具体的な実施形態について、各図を参照しながら以下に説明する。   Specific embodiments of the present invention will be described below with reference to the drawings.

図1は、本実施形態における軌跡管理システム5の構成例を示す図である。図2は、床上にマーキングA1〜A13が付された構内の概略を示す図である。図1に示した軌跡管理システム5は、倉庫や空港の貨物ターミナル等といった構内でフォークリフト(車両)を利用する運送会社等の事業者の設備として導入される。図2に示すように、構内の床上の所定位置、具体的には、棚の間の通路上や、二つの通路が交差する箇所には、予めマーキングA1〜A13が付されている。このマーキングA1〜A13は、床表面に、塗料、マーキングフィルム又はマーキングシール等によって設けられる。尚、マーキングA1〜A13は、床上だけでなく、構内の天井、柱、壁面等に設けられてもよい。また、マーキングは、文字や数字に限らず、物の形状等であってもよい。   FIG. 1 is a diagram showing a configuration example of a trajectory management system 5 in this embodiment. FIG. 2 is a diagram showing an outline of a premises in which markings A1 to A13 are attached on the floor. The trajectory management system 5 shown in FIG. 1 is introduced as a facility of a company such as a transportation company that uses a forklift (vehicle) in a premises such as a warehouse or a cargo terminal of an airport. As shown in FIG. 2, markings A1 to A13 are preliminarily attached to predetermined positions on the floor of the premises, specifically, on a passage between shelves and at a position where two passages intersect. The markings A1 to A13 are provided on the floor surface by a paint, a marking film, a marking seal, or the like. The markings A1 to A13 may be provided not only on the floor but also on the ceiling, pillars, wall surfaces, etc. in the premises. The marking is not limited to letters and numbers, but may be the shape of an object or the like.

図1に示す軌跡管理システム5は、倉庫等の構内を移動する車両であるフォークリフトに搭載される車載器10と、事業者の事務所等に設置される事務所PC30(管理装置)とを備える。車載器10は、デジタルタコグラフの機能及びドライブレコーダの機能を備えている。事務所PC30は、事務所に設置された汎用のコンピュータ装置で構成され、車両(フォークリフト)が移動した軌跡を示す軌跡データを含む、車両の運行状況を管理する。アクセスポイント8は、構内に1以上設置され、事務所PC30と有線接続されている。また、車載器10は、アクセスポイント8との間で狭域無線通信を行う機能を搭載している。   The locus management system 5 shown in FIG. 1 includes an on-vehicle device 10 mounted on a forklift, which is a vehicle that moves on a premises such as a warehouse, and an office PC 30 (management device) installed in a business office or the like. .. The vehicle-mounted device 10 has a digital tachograph function and a drive recorder function. The office PC 30 is composed of a general-purpose computer device installed in the office, and manages the operation status of the vehicle including the trajectory data indicating the trajectory of the vehicle (forklift). One or more access points 8 are installed on the premises and are connected to the office PC 30 by wire. Further, the vehicle-mounted device 10 has a function of performing short-range wireless communication with the access point 8.

車載器10は、デジタルタコグラフの機能を有し、車両(フォークリフト)の走行距離、走行時間、走行速度、速度オーバー、エンジン回転数オーバー、急発進、急加速、急減速等の運行データを記録する。また、車載器10は、ドライブレコーダの機能を有し、車両の衝突等の異常な状況を検知した場合に、トリガ信号を出力し、このトリガ信号に同期して画像を含むデータを一定時間だけ自動的に記録し保存することができる。また、車載器10は、車両が移動した軌跡を示す軌跡データを作成する際、構内の所定位置に配置されたマーキングを利用して、車両の現在位置を定期的に補正する機能を有する。   The vehicle-mounted device 10 has a function of a digital tachograph, and records operation data such as traveling distance, traveling time, traveling speed, speed over, engine speed over, sudden start, sudden acceleration, sudden deceleration of a vehicle (forklift). .. Further, the vehicle-mounted device 10 has a function of a drive recorder, outputs a trigger signal when detecting an abnormal situation such as a vehicle collision, and outputs data including an image for a predetermined time in synchronization with the trigger signal. Can be automatically recorded and saved. In addition, the vehicle-mounted device 10 has a function of periodically correcting the current position of the vehicle by using the marking arranged at a predetermined position on the premises when creating the trajectory data indicating the trajectory of the vehicle.

車載器10は、CPU11、不揮発メモリ26A、揮発メモリ26B、記録部17、カードI/F18、音声I/F19、RTC(時計IC)21、表示部22を有する。   The vehicle-mounted device 10 includes a CPU 11, a non-volatile memory 26A, a volatile memory 26B, a recording unit 17, a card I / F 18, a voice I / F 19, an RTC (clock IC) 21, and a display unit 22.

CPU11は、車載器10の各部を統括的に制御する。また、CPU11は、後述する軌跡作成部11a及び位置補正用画像マッチング部11b(判定部)を有する。不揮発メモリ26Aは、CPU11によって実行される動作プログラム等を格納する。   The CPU 11 centrally controls each unit of the vehicle-mounted device 10. Further, the CPU 11 has a locus creation unit 11a and a position correction image matching unit 11b (determination unit) described later. The non-volatile memory 26A stores an operation program executed by the CPU 11 and the like.

記録部17は、運行データや映像等のデータを記録する。カードI/F18には、乗務員が所持するメモリカード65が挿抜自在に接続される。CPU11は、カードI/F18に接続されたメモリカード65に対し運行データ、映像等のデータを書き込む。音声I/F19には、内蔵のスピーカ20が接続される。スピーカ20は、警報等の音声を発する。RTC21(計時部)は、現在時刻を計時する。表示部22は、LCD(liquid crystal display)で構成され、通信や動作の状態の他、警報等を表示する。   The recording unit 17 records data such as operation data and images. A memory card 65 carried by a crew member is connected to the card I / F 18 so as to be freely inserted and removed. The CPU 11 writes operation data, video data, and the like in the memory card 65 connected to the card I / F 18. A built-in speaker 20 is connected to the audio I / F 19. The speaker 20 emits a sound such as an alarm. The RTC 21 (timekeeping unit) measures the current time. The display unit 22 is composed of an LCD (liquid crystal display), and displays alarms and the like in addition to communication and operation states.

また、車載器10は、センサ入力I/F14、カメラI/F16、通信部24及び電源部25を有する。   The vehicle-mounted device 10 also includes a sensor input I / F 14, a camera I / F 16, a communication unit 24, and a power supply unit 25.

センサ入力I/F14には、加速度(G値)を検知する(衝撃を感知する)加速度センサ(Gセンサ)27、磁気センサ28、及びジャイロセンサ29が接続され、Gセンサ27、磁気センサ28、及びジャイロセンサ29からの信号が入力される。Gセンサとしては、加速度による機械的な変位を、振動として読み取る方式や光学的に読み取る方式を有するものが挙げられるが、特に限定されない。また、Gセンサは、車両前方からの衝撃を感知する(減速Gを検知する)他、左右方向からの衝撃を感知しても(横Gを検知しても)よいし、車両後方からの衝撃を感知しても(加速Gを検知しても)よい。Gセンサは、これらの加速度を検知可能なように、1つもしくは複数のセンサで構成される。磁気センサ28は、車両の向き(方位)を検知するものであり、ジャイロセンサ29は、車両の旋回方向の角速度や傾きを検知するものである。   The sensor input I / F 14 is connected with an acceleration sensor (G sensor) 27 that detects acceleration (G value) (senses an impact), a magnetic sensor 28, and a gyro sensor 29, and the G sensor 27, the magnetic sensor 28, Also, a signal from the gyro sensor 29 is input. Examples of the G sensor include those having a method of reading mechanical displacement due to acceleration as vibration and a method of optically reading the same, but are not particularly limited. Further, the G sensor may detect an impact from the front of the vehicle (detect deceleration G), may detect an impact from the left and right directions (detect a lateral G), or an impact from the rear of the vehicle. May be sensed (acceleration G may be sensed). The G sensor is composed of one or a plurality of sensors so that these accelerations can be detected. The magnetic sensor 28 detects the direction (direction) of the vehicle, and the gyro sensor 29 detects the angular velocity and the inclination of the vehicle in the turning direction.

カメラI/F16には、車両(フォークリフト)に設置され、車両の周辺(例えば前方)を撮像して画像データを取得するカメラ23が接続される。カメラ23は、車両の移動中に車両の例えば前方を撮像して取得した画像データ(撮影画像)を、カメラI/F16を介してCPU11に入力する。CPU11に入力された画像データは、後述するように、位置補正用画像マッチング部11bによって用いられる。カメラ23は、例えば魚眼レンズを通して撮像される撮像面に例えば30万画素、100万画素、200万画素が配置されたイメージセンサを有する。イメージセンサは、CMOS(相補性金属酸化膜半導体)センサやCCD(電荷結合素子)センサなど公知のセンサで構成されている。カメラ23で撮像された映像(画像データ)は、記録部17に時系列に記録されるが、所定時間分だけ記録されるように繰り返し上書きされる。この所定時間は、例えば事故発生時、事故の状況が分かるように、事故発生前後の数秒間(例えば、2秒、4秒、10秒等)に相当する時間である。カメラ23で撮像される画像は、静止画でもよいし動画であってもよい。   The camera I / F 16 is connected to a camera 23 that is installed in a vehicle (forklift) and that captures image data around the vehicle (for example, in front) to obtain image data. The camera 23 inputs image data (captured image) obtained by imaging, for example, the front of the vehicle while the vehicle is moving to the CPU 11 via the camera I / F 16. The image data input to the CPU 11 is used by the position correction image matching unit 11b, as described later. The camera 23 has an image sensor in which, for example, 300,000 pixels, 1 million pixels, and 2 million pixels are arranged on an imaging surface for imaging through a fisheye lens, for example. The image sensor is composed of a known sensor such as a CMOS (complementary metal oxide semiconductor) sensor or a CCD (charge coupled device) sensor. The video (image data) captured by the camera 23 is recorded in the recording unit 17 in time series, but is repeatedly overwritten so as to be recorded for a predetermined time. The predetermined time is a time corresponding to several seconds (for example, 2 seconds, 4 seconds, 10 seconds, etc.) before and after the accident so that the situation of the accident can be understood when the accident occurs. The image captured by the camera 23 may be a still image or a moving image.

また、カメラ23は、車両の前方の他、車両の後方、左側方、右側方を撮像可能なように、複数設けられたものでもよいし、各方向を撮像する複数のイメージセンサが1つの筐体に収容されたものでもよい。従って、カメラ23は、車両前方の映像の他、左右方向の映像、後方の映像も同時に撮像可能である。なお、車両の前方、左右方向、後方の撮像に限らず、カメラ23は、任意の角度方向(例えば45°方向)の映像を撮像可能であってもよい。   In addition to the front of the vehicle, a plurality of cameras 23 may be provided so that the rear, left side, and right side of the vehicle can be imaged, and a plurality of image sensors for imaging each direction are provided in one casing. It may be housed in the body. Therefore, the camera 23 can simultaneously pick up an image in the left-right direction and an image in the rear in addition to the image in the front of the vehicle. Note that the camera 23 may be capable of capturing an image in an arbitrary angle direction (for example, 45 ° direction), without being limited to image capturing in the front, left-right direction, and rear of the vehicle.

通信部24は、Wifi(登録商標)等の無線LANの通信規格に対応した無線通信モジュールであり、所定のアクセスポイントとの間で無線通信用の回線を確保することができる。本実施形態では、構内に設置されているアクセスポイント8から所定範囲内(例えば半径100m程度の範囲)に車載器10が存在する場合に、通信部24がアンテナを介してアクセスポイント8と接続できる状態になる。電源部25は、イグニッションスイッチのオン等により車載器10の各部に電源電力を供給する。また、イグニッションスイッチのオンオフ状態を表す二値信号をCPU11に出力する。尚、上記構成のうち少なくとも一部は、必ずしも同一の筐体内に含まれていなくてもよい。例えば、Gセンサ27、磁気センサ28、ジャイロセンサ29、及びカメラ23は、車載器10本体と離間して車両に搭載されてもよい。   The communication unit 24 is a wireless communication module compatible with a wireless LAN communication standard such as Wifi (registered trademark), and can secure a wireless communication line with a predetermined access point. In the present embodiment, the communication unit 24 can connect to the access point 8 via the antenna when the vehicle-mounted device 10 exists within a predetermined range (for example, a radius of about 100 m) from the access point 8 installed on the premises. It becomes a state. The power supply unit 25 supplies power to each unit of the vehicle-mounted device 10 by turning on an ignition switch or the like. It also outputs a binary signal representing the on / off state of the ignition switch to the CPU 11. Note that at least a part of the above configuration does not necessarily have to be included in the same housing. For example, the G sensor 27, the magnetic sensor 28, the gyro sensor 29, and the camera 23 may be mounted on the vehicle separately from the main body of the vehicle-mounted device 10.

CPU11の軌跡作成部11aは、センサ入力I/F14を介して、Gセンサ27、磁気センサ28、及びジャイロセンサ29から入力されたデータのうち、車両(フォークリフト)の向き及び傾きの少なくともいずれか一方と車両の加速度とに基づいて、車両が移動した軌跡を示す軌跡データを作成する。この軌跡データの作成は、公知の手法を用いて行う。尚、磁気センサ28及びジャイロセンサ29のいずれかとGセンサ27とを用いることにより軌跡データを作成できるが、磁気センサ28、ジャイロセンサ29、及びGセンサ27のすべてを用いることにより、軌跡データの精度を向上することができる。また、CPU11の位置補正用画像マッチング部11bは、マッチング情報データベース56を参照して、車両の移動中に車両に搭載されたカメラ23によって撮影された撮影画像が、マッチング情報データベース56に記憶されているマッチング画像MI1〜MI13のいずれかと一致するか否かを判定する(図3参照)。位置補正用画像マッチング部11bは、撮影画像とマッチング画像MI1〜MI13のそれぞれとの類似率(相関率)を算出する。そして、位置補正用画像マッチング部11bは、類似率が所定値(第一閾値、例えば60%)以上の場合に、この撮影画像が、類似率が所定値以上であったいずれかのマッチング画像MI1〜MI13と一致すると判定する。また、位置補正用画像マッチング部11bによって撮影画像がマッチング画像MI1〜MI13のいずれかと一致すると判定された場合に、軌跡作成部11aは、車両の位置情報を、そのいずれかのマッチング画像MI1〜MI13に対応する所定位置に基づいて補正する。例えば、車両の移動中にカメラ23によって撮影された撮影画像が、マーキングA1を予め撮影した画像であるマッチング画像MI1と一致すると位置補正用画像マッチング部11bによって判定された場合を想定する。この場合、軌跡作成部11aは、車両の位置情報を、マーキングA1が付された所定位置P(図2参照)の位置情報に基づいて補正し、補正された車両の位置情報を用いて軌跡データを再度作成する。マッチング情報データベース56に記憶されているマッチング画像MI1〜MI13が、車載器10の揮発メモリ26Bにも保持されることにより、車載器10は、アクセスポイント8を経由した通信を行うことなく位置補正用画像マッチング部11bによる判定を行うことができる。この構成により、リアルタイムでの画像マッチングが可能となる。   The trajectory creation unit 11a of the CPU 11 selects at least one of the direction and the inclination of the vehicle (forklift) from the data input from the G sensor 27, the magnetic sensor 28, and the gyro sensor 29 via the sensor input I / F 14. Based on the vehicle acceleration and the vehicle acceleration, trajectory data indicating the trajectory of the vehicle is created. The trajectory data is created using a known method. Although the locus data can be created by using either the magnetic sensor 28 or the gyro sensor 29 and the G sensor 27, the accuracy of the locus data can be obtained by using all of the magnetic sensor 28, the gyro sensor 29, and the G sensor 27. Can be improved. In addition, the position correction image matching unit 11b of the CPU 11 refers to the matching information database 56, and the captured image captured by the camera 23 mounted on the vehicle while the vehicle is moving is stored in the matching information database 56. It is determined whether or not it matches any of the matching images MI1 to MI13 (see FIG. 3). The position correction image matching unit 11b calculates a similarity rate (correlation rate) between the captured image and each of the matching images MI1 to MI13. Then, when the similarity rate is equal to or higher than a predetermined value (first threshold value, for example, 60%), the position correction image matching unit 11b determines that one of the matching images MI1 whose similarity rate is equal to or higher than the predetermined value in the captured image. ~ MI13 is determined to match. Further, when the position correction image matching unit 11b determines that the captured image matches any of the matching images MI1 to MI13, the locus creating unit 11a uses the vehicle position information as one of the matching images MI1 to MI13. Is corrected based on the predetermined position corresponding to. For example, it is assumed that the position correction image matching unit 11b determines that the captured image captured by the camera 23 while the vehicle is moving matches the matching image MI1 that is an image of the marking A1 captured in advance. In this case, the trajectory creating unit 11a corrects the vehicle position information based on the position information of the predetermined position P (see FIG. 2) with the marking A1 and uses the corrected vehicle position information to obtain the trajectory data. To create again. Since the matching images MI1 to MI13 stored in the matching information database 56 are also held in the volatile memory 26B of the vehicle-mounted device 10, the vehicle-mounted device 10 is used for position correction without performing communication via the access point 8. The determination can be performed by the image matching unit 11b. With this configuration, it is possible to perform image matching in real time.

一方、事務所PC30は、汎用のオペレーティングシステムで動作するPCにより構成されている。事務所PC30は、車載器10を管理する管理装置として機能し、CPU31、通信部32、表示部33、記憶部34、カードI/F35、操作部36、出力部37、音声I/F38及び外部I/F48を有する。   On the other hand, the office PC 30 is composed of a PC that operates on a general-purpose operating system. The office PC 30 functions as a management device that manages the vehicle-mounted device 10, and includes the CPU 31, the communication unit 32, the display unit 33, the storage unit 34, the card I / F 35, the operation unit 36, the output unit 37, the voice I / F 38, and the outside. It has an I / F 48.

CPU31は、事務所PC30の各部を統括的に制御する。通信部32は、アクセスポイント8を介して車載器10と通信可能である。   The CPU 31 centrally controls each unit of the office PC 30. The communication unit 32 can communicate with the vehicle-mounted device 10 via the access point 8.

表示部33は、車載器10を搭載した車両が移動した軌跡を含む運行管理画面の他、事故映像等を表示する。記憶部34は、車載器10から受信した映像を表示したり車両の位置情報を地図上に表示するためのシステム解析ソフトウェア等、各種プログラムを格納する。   The display unit 33 displays an operation video including an operation management screen including a trajectory of a vehicle on which the vehicle-mounted device 10 is mounted, an accident video, and the like. The storage unit 34 stores various programs such as system analysis software for displaying an image received from the vehicle-mounted device 10 and displaying vehicle position information on a map.

カードI/F35には、メモリカード65が挿抜自在に装着される。カードI/F35は、車載器10によって計測されメモリカード65に記憶された運行データを入力する。操作部36は、キーボードやマウス等を有し、事務所の管理者の操作を受け付ける。出力部37は、各種データを出力する。音声I/F38には、スピーカ42が接続される。事務所の管理者は、スピーカ42を用いて車両の運転者に警報を発することが可能である。   A memory card 65 is detachably attached to the card I / F 35. The card I / F 35 inputs operation data measured by the vehicle-mounted device 10 and stored in the memory card 65. The operation unit 36 has a keyboard, a mouse, and the like, and receives an operation of an administrator of the office. The output unit 37 outputs various data. A speaker 42 is connected to the audio I / F 38. The manager of the office can issue an alarm to the driver of the vehicle using the speaker 42.

なお、本実施形態では無線LANの通信機能を利用して、メモリカード65に保持されている運行データを事務所PC30に転送できるので、メモリカード65を車載器10から取り外す必要はない。また、事務所PC30のカードI/F35を省略することもできる。   In the present embodiment, the operation data held in the memory card 65 can be transferred to the office PC 30 by using the communication function of the wireless LAN, so that it is not necessary to remove the memory card 65 from the vehicle-mounted device 10. Further, the card I / F 35 of the office PC 30 can be omitted.

外部I/F48には、マッチング情報データベース56が接続される。図3は、マッチング情報データベース56を説明するための図である。マッチング情報データベース56は、図3に示すように、マッチング画像MI1〜MI13を記憶する。マッチング画像MI1〜MI13は、構内の各所定位置にそれぞれ配置されたマーキングA1〜A13を、予め、フォークリフトに取り付けられたカメラ23によって撮影した画像である。マッチング情報データベース56は、各マッチング画像MI1〜MI13を、構内図においてマーキングA1〜A13のそれぞれが配置された各所定位置と対応付けて記憶する。   A matching information database 56 is connected to the external I / F 48. FIG. 3 is a diagram for explaining the matching information database 56. As shown in FIG. 3, the matching information database 56 stores the matching images MI1 to MI13. The matching images MI1 to MI13 are images in which the markings A1 to A13 respectively arranged at predetermined positions on the premises are taken by the camera 23 previously attached to the forklift. The matching information database 56 stores each of the matching images MI1 to MI13 in association with each of the predetermined positions where the markings A1 to A13 are arranged on the premises.

図4は、軌跡管理システム5による処理の流れを示す図である。まず、フォークリフトに搭載された車載器10において、軌跡作成部11aが、Gセンサ27、磁気センサ28、及びジャイロセンサ29から出力されたデータのうち、フォークリフトの向き及び傾きの少なくともいずれか一方とフォークリフトの加速度とに基づいて、フォークリフトが移動した軌跡を示す軌跡データを計算する(ステップS11)。そして、ステップS11において、作成した軌跡データを揮発メモリ26Bに保存する。次に、位置補正用画像マッチング部11bが、マッチング情報データべース56を参照して、フォークリフトの移動中にカメラ23が撮影した撮影画像がマッチング情報データベース56に記憶されているマッチング画像MI1〜MI13のいずれかと一致するかを判定する(ステップS12)。ステップS12における判定は、撮影画像とマッチング画像MI1〜MI13のそれぞれとの類似率を算出することにより行う。撮影画像に含まれるマーキングA1〜A13の向きが、マッチング情報データベース56に記憶されているマッチング画像MI1〜MI13の向きと異なる場合、位置補正用画像マッチング部11bは、画像処理によって両者の向きを一致させた上で類似率を算出する。   FIG. 4 is a diagram showing a flow of processing by the trajectory management system 5. First, in the vehicle-mounted device 10 mounted on the forklift, the locus creating unit 11a selects at least one of the direction and the inclination of the forklift from the data output from the G sensor 27, the magnetic sensor 28, and the gyro sensor 29, and the forklift. The locus data indicating the locus of the movement of the forklift is calculated based on the acceleration of (step S11). Then, in step S11, the created trajectory data is stored in the volatile memory 26B. Next, the position correction image matching unit 11b refers to the matching information database 56, and the captured images captured by the camera 23 while the forklift is moving are stored in the matching information database 56. It is determined whether any of MI13 matches (step S12). The determination in step S12 is performed by calculating the similarity rates of the captured image and each of the matching images MI1 to MI13. When the orientations of the markings A1 to A13 included in the captured image are different from the orientations of the matching images MI1 to MI13 stored in the matching information database 56, the position correction image matching unit 11b matches the orientations of the two by image processing. Then, the similarity rate is calculated.

位置補正用画像マッチング部11bは、算出した類似率が所定値(第一閾値)を超えた場合に、マッチング画像MI1〜MI13のいずれかが撮影画像と一致すると判定する(ステップS13)。ステップS13において、撮影画像とマッチング画像MI1〜MI13のいずれとも一致しない場合、CPU11は処理を終了する。一方、ステップS13において、撮影画像がマッチング画像MI1〜MI13のいずれかと一致した場合、軌跡作成部11aは、一致したいずれかのマッチング画像MI1〜MI13に対応付けられた、構内の所定位置(図2参照)に基づいて、フォークリフトの位置情報を補正する(ステップS15)。例えば、軌跡作成部11aは、軌跡データが表す軌跡のうち、撮影画像を撮影した時点のフォークリフトの位置が、当該撮影画像と一致したいずれかのマッチング画像MI1〜MI13の所定位置に一致するように、位置情報を補正する。また、ステップS15において、軌跡作成部11aは、補正された位置情報を用いて軌跡データを再度作成する。このように軌跡作成部11aによって作成された軌跡データは、揮発メモリ26Bに記憶されてもよいし、事務所PC30へ送信されて記憶部34に記憶されてもよい。また、車載器10の表示部22または事務所PC30の表示部33において、地図(構内図)データに重畳して軌跡データを表示させてもよい。図5は、軌跡作成部11aが作成したフォークリフトの軌跡データLの例を示す図である。本実施形態の軌跡管理システム5によれば、位置補正用画像マッチング部11bによる判定結果に基づいて軌跡作成部11aがフォークリフトの位置の誤差を補正するため、正確な軌跡データLを取得できる。軌跡データLの精度は、GPSを用いて作成した軌跡データと同程度である。   The position correction image matching unit 11b determines that one of the matching images MI1 to MI13 matches the captured image when the calculated similarity rate exceeds a predetermined value (first threshold value) (step S13). In step S13, when the captured image does not match any of the matching images MI1 to MI13, the CPU 11 ends the process. On the other hand, in step S13, when the captured image matches any of the matching images MI1 to MI13, the locus creating unit 11a associates the matching image MI1 to MI13 with any one of the matching predetermined positions (FIG. 2). The position information of the forklift is corrected based on the reference (step S15). For example, the locus creating unit 11a causes the position of the forklift at the time of shooting the shot image to match a predetermined position of any of the matching images MI1 to MI13 that matches the shot image, among the loci represented by the locus data. , Correct the position information. In addition, in step S15, the trajectory creating unit 11a recreates trajectory data using the corrected position information. The locus data thus created by the locus creating unit 11a may be stored in the volatile memory 26B or may be transmitted to the office PC 30 and stored in the storage unit 34. Further, the locus data may be displayed on the display unit 22 of the vehicle-mounted device 10 or the display unit 33 of the office PC 30 so as to be superimposed on the map (premise map) data. FIG. 5 is a diagram showing an example of the trajectory data L of the forklift created by the trajectory creating unit 11a. According to the trajectory management system 5 of the present embodiment, the trajectory creation unit 11a corrects the forklift position error based on the determination result by the position correction image matching unit 11b, and thus accurate trajectory data L can be acquired. The accuracy of the trajectory data L is about the same as the trajectory data created using GPS.

そして、位置補正用画像マッチング部11bは、ステップS12で算出した類似率が、所定値(第一閾値)よりも高い規定値(第二閾値、例えば80%)未満か否かを判断する(ステップS16)。規定値未満の場合、ステップS13でマッチングできたいずれかのマッチング画像MI1〜MI13について、CPU11からCPU31への指示により、マッチング情報データベース56が更新される(ステップS17)。ステップS17における更新は、図2に示すように、マッチング情報データべース56に記憶されている、更新対象であるいずれかのマッチング画像MI1〜MI13を、撮影画像に含まれる、マッチングできたいずれかのマーキングA1〜A13の画像MI’1〜MI’13に変更することにより行われる。すなわち、ステップS17における更新は、各マーキングA1〜A13についてマッチング画像MI1〜MI13毎に行われる。図3において、マッチング画像MI’1〜MI’13は、すべてのマーキングA1〜A13について、マッチング画像MI1〜MI13が一回ずつ更新されたことを示す。このようにマッチング情報データベース56を更新することにより、実際のマーキングの状況に応じたマッチングが可能となる。また、ステップS17において、更新されたマッチング画像MI’1〜MI’13がCPU31の指示により車載器10に送信される。そして、車載器10において、揮発メモリ26Bで保存されているマッチング画像MI1〜MI13が、更新されたマッチング画像MI’1〜MI’13に変更される。これにより、車載器10において、更新されたマッチング画像MI’1〜MI’13を用いたリアルタイムでの画像マッチングが可能となる。マッチング情報データベース56は事務所PC30に接続されたサーバ上に保持されるため、更新されたマッチング情報データベース56を、事務所PC30が管理する複数の車両で共通して使用できる。   Then, the position correction image matching unit 11b determines whether or not the similarity rate calculated in step S12 is less than a prescribed value (second threshold, for example, 80%) higher than a predetermined value (first threshold) (step). S16). If it is less than the specified value, the matching information database 56 is updated by an instruction from the CPU 11 to the CPU 31 for any of the matching images MI1 to MI13 that could be matched in step S13 (step S17). As shown in FIG. 2, the update in step S17 includes any of the matching images MI1 to MI13, which are stored in the matching information database 56 and are to be updated, that are included in the captured image and can be matched. It is performed by changing the images MI′1 to MI′13 of the markings A1 to A13. That is, the update in step S17 is performed for each of the matching images MI1 to MI13 for each of the markings A1 to A13. In FIG. 3, matching images MI′1 to MI′13 indicate that the matching images MI1 to MI13 are updated once for all the markings A1 to A13. By updating the matching information database 56 in this way, matching can be performed according to the actual marking situation. Further, in step S17, the updated matching images MI'1 to MI'13 are transmitted to the vehicle-mounted device 10 according to the instruction of the CPU 31. Then, in the vehicle-mounted device 10, the matching images MI1 to MI13 stored in the volatile memory 26B are changed to the updated matching images MI′1 to MI′13. Thereby, in the vehicle-mounted device 10, it is possible to perform image matching in real time using the updated matching images MI′1 to MI′13. Since the matching information database 56 is held on the server connected to the office PC 30, the updated matching information database 56 can be commonly used by a plurality of vehicles managed by the office PC 30.

その後、CPU11は、ステップS13でマッチングできたいずれかのマッチング画像MI1〜MI13について、更新回数が規定回数(第三閾値、例えば3回)であるか判断する(ステップS18)。ステップS18で更新回数が規定回数である場合、床上のマーキングが風化等している可能性があるため、CPU11(警報部)は、マーキングのメンテナンスが必要であることを示すメンテナンス警報信号を作成する(ステップS19)。CPU11は、作成したメンテナンス警報信号を事務所PC30に送信する。事務所PC30のCPU31は、受信したメンテナンス警報信号を記憶部34に保存させてもよいし、受信したメンテナンス警報信号に基づいて、表示部33にメンテナンス警報を表示させたり、スピーカ42から音声によるメンテナンス警報を出力させてもよい。床上の各マーキングA1〜A13は使用状況によって風化の程度が異なるが、メンテナンス警報を契機として風化等したマーキングへの対応が可能となるため、マーキングA1〜A13の状態を常に管理する必要がなくなりメンテナンスの手間を軽減できる。一方、ステップS18で更新回数が規定回数以外の場合及びステップS16で類似率が規定値以上の場合は、CPU11は処理を終了する。尚、ステップS18において画像の更新回数が規定回数より多い場合にも、CPU11がメンテナンス警報信号を作成してよい。   After that, the CPU 11 determines whether or not the number of updates of any of the matching images MI1 to MI13 that can be matched in step S13 is the specified number of times (third threshold value, for example, 3 times) (step S18). If the number of updates is the specified number in step S18, the marking on the floor may be weathered, so the CPU 11 (alarm unit) creates a maintenance alarm signal indicating that the marking needs maintenance. (Step S19). The CPU 11 transmits the created maintenance warning signal to the office PC 30. The CPU 31 of the office PC 30 may store the received maintenance warning signal in the storage unit 34, display a maintenance warning on the display unit 33, or perform voice maintenance from the speaker 42 based on the received maintenance warning signal. An alarm may be output. Each of the markings A1 to A13 on the floor has a different degree of weathering depending on the usage situation, but since it is possible to deal with markings such as weathering triggered by a maintenance alarm, it is not necessary to constantly manage the state of the markings A1 to A13. You can reduce the effort. On the other hand, if the number of updates is other than the specified number in step S18, or if the similarity is greater than or equal to the specified value in step S16, the CPU 11 ends the process. It should be noted that the CPU 11 may generate the maintenance warning signal even when the number of times the image is updated is greater than the specified number in step S18.

図6は、構内における、フォークリフトが元の場所3から出荷場所1まで移動した軌跡の一例を示す図である。この例では、車載器10を搭載したフォークリフトは、元の場所3から直線的に(図6において、右に)出荷場所1へ移動する最短経路ではなく、元の場所3から最も遠い場所2を経由して出荷場所1に移動する経路をたどっている。このことから、フォークリフトは、例えば、元の場所3から出荷場所1へ行く前に場所2で行うべき作業があったという状況が考えられる。この場合には、場所2で行うべき作業を場所3と場所1との間で行えるように構内の配置を変更することにより、フォークリフトが最短距離を移動できるようになると考えられる。このように、フォークリフトの軌跡管理を行うことにより、構内での作業の効率化を図ることができる。   FIG. 6 is a diagram showing an example of the locus of movement of the forklift from the original location 3 to the shipping location 1 in the premises. In this example, the forklift equipped with the vehicle-mounted device 10 does not use the shortest route that linearly moves from the original location 3 (to the right in FIG. 6) to the shipping location 1 but moves to the farthest location 2 from the original location 3. It follows the route of moving to the shipping location 1. From this, it is conceivable that the forklift, for example, had a work to be performed at the location 2 before going from the original location 3 to the shipping location 1. In this case, it is considered that the forklift can move the shortest distance by changing the arrangement of the premises so that the work to be performed at the place 2 can be performed between the place 3 and the place 1. In this way, by managing the trajectory of the forklift, it is possible to improve the efficiency of work on the premises.

以上説明したように、本実施形態の軌跡管理システム5によれば、倉庫等の構内におけるフォークリフトの軌跡データを作成する際、フォークリフトの移動中に撮影した撮影画像とマッチング情報データベース56に予め登録されたマッチング画像MI1〜MI13との類似率を算出してマッチングを行う。これにより、フォークリフトの位置補正をし、軌跡データを補正することができる。よって、本実施形態の軌跡管理システム5は、GPSデータや車両速度のデータが取得できない場合であっても、車両(フォークリフト)位置の誤差を定期的に補正して、精度の高い軌跡データを取得することができる。また、本実施形態によれば、床等に埋め込んだビーコンを用いることなく車載器のカメラを用いて正確な軌跡データを取得できるため、安価な軌跡管理システムを提供することができる。さらに、類似率に基づいてマッチング情報データベース56を更新し、更新回数を管理することで、床上マーキングの風化等に関しメンテナンスの手間を軽減できる。   As described above, according to the trajectory management system 5 of the present embodiment, when the trajectory data of a forklift in a premises such as a warehouse is created, it is registered in advance in the matching information database 56 with the captured image captured while the forklift is moving. Matching is performed by calculating the similarity rate with the matching images MI1 to MI13. As a result, the position of the forklift can be corrected and the trajectory data can be corrected. Therefore, the trajectory management system 5 according to the present embodiment acquires highly accurate trajectory data by periodically correcting the error of the vehicle (forklift) position even when GPS data or vehicle speed data cannot be acquired. can do. Further, according to the present embodiment, accurate locus data can be acquired by using the camera of the vehicle-mounted device without using the beacon embedded in the floor or the like, so that an inexpensive locus management system can be provided. Furthermore, by updating the matching information database 56 based on the similarity and managing the number of updates, it is possible to reduce the time and effort required for maintenance regarding weathering of floor markings.

尚、本発明は、前述した実施形態に限定されるものではなく、適宜、変形、改良、等が可能である。その他、前述した実施形態における各構成要素の材質、形状、寸法、数値、形態、数、配置箇所、等は本発明を達成できるものであれば任意であり、限定されない。例えば、本実施形態では、軌跡作成部11aが車載器10に設けられる例を説明したが、図7に示すように、事務所PC30に軌跡作成部31aを設けてもよい。この場合、軌跡データの作成に用いられる、Gセンサ27、磁気センサ28、及びジャイロセンサ29から出力されたデータ並びに位置補正用画像マッチング部11bによる画像マッチング結果は、車載器10からアクセスポイント8を介して事務所PC30に送信される。軌跡作成部31aは、軌跡作成部11aと同様に、フォークリフトの軌跡データを作成する。   It should be noted that the present invention is not limited to the above-described embodiments, and modifications, improvements, etc. can be appropriately made. In addition, the material, shape, size, numerical value, form, number, arrangement location, etc. of each constituent element in the above-described embodiment are arbitrary and are not limited as long as the present invention can be achieved. For example, in the present embodiment, the example in which the locus creating unit 11a is provided in the vehicle-mounted device 10 has been described, but as shown in FIG. 7, the locus creating unit 31a may be provided in the office PC 30. In this case, the data output from the G sensor 27, the magnetic sensor 28, and the gyro sensor 29 and the image matching result by the position correction image matching unit 11b, which are used to create the trajectory data, are obtained from the vehicle-mounted device 10 via the access point 8. It is transmitted to the office PC 30 via. The locus creating unit 31a creates the locus data of the forklift in the same manner as the locus creating unit 11a.

また、本実施形態では、位置補正用画像マッチング部11bが車載器10に設けられる例を説明したが、位置補正用画像マッチング部を事務所PC30に設け、カメラ23によって撮影された撮影画像を車載器10から事務所PC30に送信してもよい。   In addition, in the present embodiment, an example in which the position correction image matching unit 11b is provided in the vehicle-mounted device 10 has been described, but the position correction image matching unit is provided in the office PC 30 and the captured image captured by the camera 23 is mounted in the vehicle. It may be transmitted from the device 10 to the office PC 30.

また、本実施形態では、マッチング情報データベース56がサーバ上に保持される例を説明したが、マッチング情報データベース56は車載器10内に保持されてもよい。この場合、車載器10は外部と通信することなく車載器10単体で、撮影画像がマッチング画像MI1〜MI13のいずれかと一致するかを判定できる。   Further, in the present embodiment, an example in which the matching information database 56 is held on the server has been described, but the matching information database 56 may be held in the vehicle-mounted device 10. In this case, the vehicle-mounted device 10 can determine whether the captured image matches any one of the matching images MI1 to MI13 by the vehicle-mounted device 10 alone without communicating with the outside.

さらに、マーキングを、複数の車両が集中しそうな交差点に配置して、この交差点を通過する複数の車両の軌跡を管理することにより、作業時間をずらして複数の車両の集中を緩和する等の配慮が可能となり、作業効率の向上を図ることができる。このように、事業者の目的に合わせてマーキングを配置することにより、事業者の業務改善に貢献し得る。   Furthermore, by placing markings at intersections where multiple vehicles are likely to concentrate and managing the trajectories of multiple vehicles passing through these intersections, it is possible to shift the work time and ease the concentration of multiple vehicles. It is possible to improve work efficiency. In this way, by arranging the markings according to the purpose of the business operator, it is possible to contribute to the business improvement of the business operator.

ここで、上述した本発明の実施形態に係る軌跡管理システム及び車載器の特徴をそれぞれ以下[1]〜[8]に簡潔に纏めて列記する。
[1] 所定位置にマーキング(A1〜A13)を有する構内を移動する車両に搭載される車載器(10)と、前記車載器を管理する管理装置(事務所PC30)と、を備える軌跡管理システム(5)であって、
前記車両の向き及び傾きの少なくともいずれか一方と前記車両の加速度とに基づいて、前記車両が移動した軌跡を示す軌跡データ(L)を作成する軌跡作成部(11a,31a)と、
前記マーキングを撮影したマッチング画像(MI1〜MI13)と当該マーキングが配置された前記所定位置との対応を記憶するデータベース(マッチング情報データベース56)を参照して、前記車両の移動中に前記車両に搭載されたカメラ(23)によって撮影された撮影画像が前記マッチング画像と一致するか否かを判定する判定部(位置補正用画像マッチング部11b)と、を備え、
前記判定部によって前記撮影画像と前記マッチング画像とが一致すると判定された場合に、前記軌跡作成部は、前記車両の位置情報を前記所定位置に基づいて補正し、補正された前記位置情報を用いて前記軌跡データ(L)を再度作成する
ことを特徴とする軌跡管理システム。
[2] 前記判定部は、前記撮影画像と前記マッチング画像との類似率を算出し、前記類似率が第一閾値(所定値)以上の場合に前記撮影画像と前記マッチング画像とが一致すると判定する
ことを特徴とする上記[1]に記載の軌跡管理システム。
[3] 前記類似率が、前記第一閾値以上であり、かつ、前記第一閾値より大きい第二閾値(規定値)未満である場合に、前記データベースに記憶されている前記マッチング画像を、前記撮影画像に含まれる前記マーキングの画像に変更することにより、前記データベースを更新する
ことを特徴とする上記[2]に記載の軌跡管理システム。
[4] 前記データベースの更新回数が第三閾値(規定回数)に達した場合に、前記マーキングのメンテナンスが必要であることを示すメンテナンス警報信号を作成する警報部(CPU11)を備える
ことを特徴とする上記[3]に記載の軌跡管理システム。
[5] 前記データベースが前記車載器に設けられた
ことを特徴とする上記[1]〜[4]のいずれかに記載の軌跡管理システム。
[6] 前記データベースが前記管理装置に設けられた
ことを特徴とする上記[1]〜[4]のいずれかに記載の軌跡管理システム。
[7] 所定位置にマーキング(A1〜A13)を有する構内を移動する車両に搭載される車載器(10)であって、
前記車両の向き及び傾きの少なくともいずれか一方と前記車両の加速度とに基づいて、前記車両が移動した軌跡を示す軌跡データ(L)を作成する軌跡作成部(11a)と、
前記マーキングを撮影したマッチング画像(MI1〜MI13)と当該マーキングが配置された前記所定位置との対応を記憶するデータベース(マッチング情報データベース56)を参照して、前記車両の移動中に前記車両に搭載されたカメラ(23)によって撮影された撮影画像が前記マッチング画像と一致するか否かを判定する判定部(位置補正用画像マッチング部11b)と、を備え、
前記判定部によって前記撮影画像と前記マッチング画像とが一致すると判定された場合に、前記軌跡作成部は、前記車両の位置情報を前記所定位置に基づいて補正し、補正された前記位置情報を用いて前記軌跡データ(L)を再度作成する
ことを特徴とする車載器。
[8] 前記軌跡作成部は、前記車両の向きを検知する磁気センサ(28)及び前記車両の傾きを検知するジャイロセンサ(29)の少なくともいずれか一方と前記車両の加速度を検知する加速度センサ(27)とからの出力に基づいて、前記軌跡データを作成する
ことを特徴とする上記[7]に記載の車載器。
Here, the features of the trajectory management system and the vehicle-mounted device according to the embodiment of the present invention described above will be briefly summarized and listed in [1] to [8] below.
[1] A trajectory management system including an on-vehicle device (10) mounted on a vehicle that has markings (A1 to A13) at predetermined positions and is installed in a vehicle, and a management device (office PC 30) that manages the on-vehicle device. (5)
A locus creating unit (11a, 31a) that creates locus data (L) indicating a locus along which the vehicle has moved based on at least one of the direction and the inclination of the vehicle and the acceleration of the vehicle;
The matching image (MI1 to MI13) obtained by photographing the marking and the database (matching information database 56) that stores the correspondence between the marking and the predetermined position are mounted on the vehicle while the vehicle is moving. A determination unit (position correction image matching unit 11b) that determines whether or not the captured image captured by the captured camera (23) matches the matching image,
When the determination unit determines that the captured image and the matching image match, the trajectory generation unit corrects the position information of the vehicle based on the predetermined position, and uses the corrected position information. The locus management system is characterized in that the locus data (L) is created again.
[2] The determination unit calculates a similarity rate between the captured image and the matching image, and determines that the captured image and the matching image match when the similarity rate is equal to or higher than a first threshold value (predetermined value). The trajectory management system according to [1] above.
[3] When the similarity rate is equal to or higher than the first threshold value and is lower than a second threshold value (specified value) that is higher than the first threshold value, the matching image stored in the database is The trajectory management system according to the above [2], wherein the database is updated by changing the image of the marking included in the captured image.
[4] An alarm unit (CPU 11) is provided that creates a maintenance alarm signal indicating that maintenance of the marking is required when the number of updates of the database reaches a third threshold value (specified number). The trajectory management system according to [3] above.
[5] The trajectory management system according to any one of the above [1] to [4], wherein the database is provided in the vehicle-mounted device.
[6] The trajectory management system according to any one of [1] to [4], wherein the database is provided in the management device.
[7] An on-vehicle device (10) mounted on a vehicle moving on a premises having markings (A1 to A13) at predetermined positions,
A locus creating unit (11a) that creates locus data (L) indicating a locus of movement of the vehicle based on at least one of the direction and the inclination of the vehicle and the acceleration of the vehicle;
The matching image (MI1 to MI13) obtained by photographing the marking and the database (matching information database 56) that stores the correspondence between the marking and the predetermined position are mounted on the vehicle while the vehicle is moving. A determination unit (position correction image matching unit 11b) that determines whether or not the captured image captured by the captured camera (23) matches the matching image,
When the determination unit determines that the captured image and the matching image match, the trajectory generation unit corrects the position information of the vehicle based on the predetermined position, and uses the corrected position information. The in-vehicle device characterized in that the locus data (L) is recreated.
[8] The trajectory generation unit includes at least one of a magnetic sensor (28) that detects the orientation of the vehicle and a gyro sensor (29) that detects the inclination of the vehicle, and an acceleration sensor ( 27) The vehicle-mounted device according to the above [7], wherein the trajectory data is created based on the outputs from

5 軌跡管理システム
8 アクセスポイント
10 車載器
11 CPU
11a 軌跡作成部
11b 位置補正用画像マッチング部
14 センサ入力I/F
16 カメラ入力I/F
17 記録部
18 カードI/F
19 音声I/F
20 スピーカ
21 RTC
22 表示部
23 カメラ
24 通信部
25 電源部
26A 不揮発メモリ
26B 揮発メモリ
27 加速度センサ
28 磁気センサ
29 ジャイロセンサ
30 事務所PC
31 CPU
31a 軌跡作成部
32 通信部
33 表示部
34 記憶部
35 カードI/F
36 操作部
37 出力部
38 音声I/F
42 スピーカ
48 外部I/F
56 マッチング情報データベース
65 メモリカード
A1〜A13 マーキング
MI1〜MI13,MI’1〜MI’13 マッチング画像
5 Track management system 8 Access point 10 In-vehicle device 11 CPU
11a Trajectory creation unit 11b Position correction image matching unit 14 Sensor input I / F
16 Camera input I / F
17 recording unit 18 card I / F
19 Voice I / F
20 speaker 21 RTC
22 display unit 23 camera 24 communication unit 25 power supply unit 26A non-volatile memory 26B volatile memory 27 acceleration sensor 28 magnetic sensor 29 gyro sensor 30 office PC
31 CPU
31a trajectory creation unit 32 communication unit 33 display unit 34 storage unit 35 card I / F
36 Operation unit 37 Output unit 38 Voice I / F
42 speaker 48 external I / F
56 matching information database 65 memory cards A1 to A13 markings MI1 to MI13, MI'1 to MI'13 matching images

Claims (8)

所定位置にマーキングを有する構内を移動する車両に搭載される車載器と、前記車載器を管理する管理装置と、を備える軌跡管理システムであって、
前記車両の向き及び傾きの少なくともいずれか一方と前記車両の加速度とに基づいて、前記車両が移動した軌跡を示す軌跡データを作成する軌跡作成部と、
前記マーキングを撮影したマッチング画像と当該マーキングが配置された前記所定位置との対応を記憶するデータベースを参照して、前記車両の移動中に前記車両に搭載されたカメラによって撮影された撮影画像が前記マッチング画像と一致するか否かを判定する判定部と、を備え、
前記判定部によって前記撮影画像と前記マッチング画像とが一致すると判定された場合に、前記軌跡作成部は、前記車両の位置情報を前記所定位置に基づいて補正し、補正された前記位置情報を用いて前記軌跡データを再度作成する
ことを特徴とする軌跡管理システム。
A trajectory management system comprising: an on-vehicle device mounted on a vehicle moving on a premises having markings at predetermined positions; and a management device for managing the on-vehicle device,
A locus creating unit that creates locus data indicating a locus along which the vehicle has moved, based on at least one of the direction and the inclination of the vehicle and the acceleration of the vehicle.
The captured image captured by the camera mounted on the vehicle while the vehicle is moving is referred to by referring to the database that stores the correspondence between the matching image obtained by capturing the marking and the predetermined position where the marking is arranged. A determining unit that determines whether or not the image matches the matching image,
When the determination unit determines that the captured image and the matching image match, the trajectory generation unit corrects the position information of the vehicle based on the predetermined position, and uses the corrected position information. A trajectory management system characterized in that the trajectory data is created again by using
前記判定部は、前記撮影画像と前記マッチング画像との類似率を算出し、前記類似率が第一閾値以上の場合に前記撮影画像と前記マッチング画像とが一致すると判定する
ことを特徴とする請求項1に記載の軌跡管理システム。
The determination unit calculates a similarity rate between the captured image and the matching image, and determines that the captured image and the matching image match when the similarity rate is equal to or higher than a first threshold value. The trajectory management system according to Item 1.
前記類似率が、前記第一閾値以上であり、かつ、前記第一閾値より大きい第二閾値未満である場合に、前記データベースに記憶されている前記マッチング画像を、前記撮影画像に含まれる前記マーキングの画像に変更することにより、前記データベースを更新する
ことを特徴とする請求項2に記載の軌跡管理システム。
When the similarity is equal to or higher than the first threshold and is lower than a second threshold that is greater than the first threshold, the matching image stored in the database is the marking included in the captured image. The trajectory management system according to claim 2, wherein the database is updated by changing the image to.
前記データベースの更新回数が第三閾値に達した場合に、前記マーキングのメンテナンスが必要であることを示すメンテナンス警報信号を作成する警報部を備える
ことを特徴とする請求項3に記載の軌跡管理システム。
The trajectory management system according to claim 3, further comprising: an alarm unit that generates a maintenance alarm signal indicating that maintenance of the marking is required when the number of updates of the database reaches a third threshold value. ..
前記データベースが前記車載器に設けられた
ことを特徴とする請求項1〜4のいずれか一項に記載の軌跡管理システム。
The trajectory management system according to any one of claims 1 to 4, wherein the database is provided in the vehicle-mounted device.
前記データベースが前記管理装置に設けられた
ことを特徴とする請求項1〜4のいずれか一項に記載の軌跡管理システム。
The trajectory management system according to claim 1, wherein the database is provided in the management device.
所定位置にマーキングを有する構内を移動する車両に搭載される車載器であって、
前記車両の向き及び傾きの少なくともいずれか一方と前記車両の加速度とに基づいて、前記車両が移動した軌跡を示す軌跡データを作成する軌跡作成部と、
前記マーキングを撮影したマッチング画像と当該マーキングが配置された前記所定位置との対応を記憶するデータベースを参照して、前記車両の移動中に前記車両に搭載されたカメラによって撮影された撮影画像が前記マッチング画像と一致するか否かを判定する判定部と、を備え、
前記判定部によって前記撮影画像と前記マッチング画像とが一致すると判定された場合に、前記軌跡作成部は、前記車両の位置情報を前記所定位置に基づいて補正し、補正された前記位置情報を用いて前記軌跡データを再度作成する
ことを特徴とする車載器。
An in-vehicle device mounted on a vehicle moving on a premises having markings at predetermined positions,
A locus creating unit that creates locus data indicating a locus along which the vehicle has moved, based on at least one of the direction and the inclination of the vehicle and the acceleration of the vehicle.
The captured image captured by the camera mounted on the vehicle while the vehicle is moving is referred to by referring to the database that stores the correspondence between the matching image obtained by capturing the marking and the predetermined position where the marking is arranged. A determining unit that determines whether or not the image matches the matching image,
When the determination unit determines that the captured image and the matching image match, the trajectory generation unit corrects the position information of the vehicle based on the predetermined position, and uses the corrected position information. An on-vehicle device characterized in that the locus data is created again by using
前記軌跡作成部は、前記車両の向きを検知する磁気センサ及び前記車両の傾きを検知するジャイロセンサの少なくともいずれか一方と前記車両の加速度を検知する加速度センサとからの出力に基づいて、前記軌跡データを作成する
ことを特徴とする請求項7に記載の車載器。
The locus creating unit, based on an output from at least one of a magnetic sensor that detects the direction of the vehicle and a gyro sensor that detects the inclination of the vehicle, and an acceleration sensor that detects the acceleration of the vehicle, the locus. The vehicle-mounted device according to claim 7, wherein data is created.
JP2018204220A 2018-10-30 2018-10-30 Trajectory management system Active JP6835793B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018204220A JP6835793B2 (en) 2018-10-30 2018-10-30 Trajectory management system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018204220A JP6835793B2 (en) 2018-10-30 2018-10-30 Trajectory management system

Publications (2)

Publication Number Publication Date
JP2020071603A true JP2020071603A (en) 2020-05-07
JP6835793B2 JP6835793B2 (en) 2021-02-24

Family

ID=70547823

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018204220A Active JP6835793B2 (en) 2018-10-30 2018-10-30 Trajectory management system

Country Status (1)

Country Link
JP (1) JP6835793B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007299187A (en) * 2006-04-28 2007-11-15 Secom Co Ltd Face image collating apparatus
JP2008084135A (en) * 2006-09-28 2008-04-10 Toshiba Corp Movement control method, mobile robot and movement control program
JP2012155516A (en) * 2011-01-26 2012-08-16 Hitachi Automotive Systems Ltd Vehicle behavior recording system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007299187A (en) * 2006-04-28 2007-11-15 Secom Co Ltd Face image collating apparatus
JP2008084135A (en) * 2006-09-28 2008-04-10 Toshiba Corp Movement control method, mobile robot and movement control program
JP2012155516A (en) * 2011-01-26 2012-08-16 Hitachi Automotive Systems Ltd Vehicle behavior recording system

Also Published As

Publication number Publication date
JP6835793B2 (en) 2021-02-24

Similar Documents

Publication Publication Date Title
US11915440B2 (en) Generation of structured map data from vehicle sensors and camera arrays
US7822545B2 (en) Mobile terminal with navigation function
US11227168B2 (en) Robust lane association by projecting 2-D image into 3-D world using map information
Atia et al. A low-cost lane-determination system using GNSS/IMU fusion and HMM-based multistage map matching
CN101473195B (en) Positioning device
CN110945320B (en) Vehicle positioning method and system
EP2598842B1 (en) Guidance device, guidance method, and guidance program
US20100268452A1 (en) Navigation device, navigation method, and navigation program
EP3168571B1 (en) Utilizing camera to assist with indoor pedestrian navigation
KR101704405B1 (en) System and method for lane recognition
US20130304374A1 (en) Apparatus and method for recognizing position of moving object
JP6950832B2 (en) Position coordinate estimation device, position coordinate estimation method and program
CN107547864A (en) Surrounding's ken monitoring system and method for vehicle
CN103077624A (en) Real-time navigation road condition system based on global positioning system (GPS) and navigation method
JP2006284281A (en) Own vehicle information recognition device and method
CN102288180B (en) Real-time image navigation system and method
US9014964B2 (en) Navigation apparatus capable of providing real-time navigation images
US20210262807A1 (en) Map construction system and map construction method
EP3795952A1 (en) Estimation device, estimation method, and computer program product
JP6611315B2 (en) Video reference point determination system, video reference point determination method, and video reference point determination program
JP6835793B2 (en) Trajectory management system
JP5910729B2 (en) Position determination system, position determination method, computer program, and position determination apparatus
JP2012220259A (en) In-vehicle apparatus and vehicle azimuth correction method thereof
JP2011203161A (en) Vehicle position arithmetic device
KR20050121501A (en) Navigation system for vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201110

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210204

R150 Certificate of patent or registration of utility model

Ref document number: 6835793

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250