JP5366702B2 - Unmanned vehicle remote control system - Google Patents
Unmanned vehicle remote control system Download PDFInfo
- Publication number
- JP5366702B2 JP5366702B2 JP2009189975A JP2009189975A JP5366702B2 JP 5366702 B2 JP5366702 B2 JP 5366702B2 JP 2009189975 A JP2009189975 A JP 2009189975A JP 2009189975 A JP2009189975 A JP 2009189975A JP 5366702 B2 JP5366702 B2 JP 5366702B2
- Authority
- JP
- Japan
- Prior art keywords
- unmanned vehicle
- steering
- limit information
- remote control
- accelerator pedal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000007246 mechanism Effects 0.000 claims description 24
- 230000007423 decrease Effects 0.000 claims description 13
- 238000005259 measurement Methods 0.000 claims description 11
- 238000004891 communication Methods 0.000 claims description 10
- 230000003247 decreasing effect Effects 0.000 claims description 6
- 230000006870 function Effects 0.000 description 32
- 238000000034 method Methods 0.000 description 30
- 230000008569 process Effects 0.000 description 28
- 238000010586 diagram Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 9
- 230000001133 acceleration Effects 0.000 description 6
- 230000000295 complement effect Effects 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010408 sweeping Methods 0.000 description 1
- 238000002366 time-of-flight method Methods 0.000 description 1
Images
Landscapes
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Steering Controls (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Control Of Throttle Valves Provided In The Intake System Or In The Exhaust System (AREA)
Abstract
Description
本発明は、自律して走行するロボット等の無人車両の無人車両遠隔操作システムに関する。 The present invention relates to an unmanned vehicle remote control system for an unmanned vehicle such as a robot traveling autonomously.
従来、この種の無人車両遠隔操作システムとして、無人車両用走行制御装置とした名称で特許文献1に記載された構成のものがある。
特許文献1に記載された無人車両遠隔操作システムは、外部の送信手段から無人車両へ送信される操舵信号等を受信する受信手段と、前記無人車両の車輪を操舵する操舵手段と、前記車輪に制動をかける制動手段と、前記無人車両の速度を検出する車速検出手段と、前記各手段の動作を制御する制御手段とを備え、該制御手段が、前記無人車両の走行時に前記受信手段により前記操舵信号が受信された場合は前記車速検出手段により検出された前記無人車両の速度が予め設定された所定速度を超過しているか否かを判定する車速判定機能と,前記無人車両の速度が前記所定速度を超過している場合は前記制動手段を作動して前記無人車両の速度を前記所定速度まで低下させる速度制御機能と,前記無人車両の速度が前記所定速度まで低下した後に前記操舵手段を作動して操舵を開始させる操舵制御機能とを具備した構成になっている。
Conventionally, as this type of unmanned vehicle remote control system, there is a configuration described in Patent Document 1 under the name of a travel control device for unmanned vehicles.
An unmanned vehicle remote control system described in Patent Document 1 includes a receiving unit that receives a steering signal transmitted from an external transmitting unit to an unmanned vehicle, a steering unit that steers a wheel of the unmanned vehicle, and a wheel. Braking means for applying braking, vehicle speed detection means for detecting the speed of the unmanned vehicle, and control means for controlling the operation of each means, the control means being controlled by the receiving means when the unmanned vehicle travels. When a steering signal is received, a vehicle speed determination function for determining whether the speed of the unmanned vehicle detected by the vehicle speed detection means exceeds a predetermined speed set in advance, and the speed of the unmanned vehicle is A speed control function for lowering the speed of the unmanned vehicle to the predetermined speed by operating the braking means when a predetermined speed is exceeded, and the speed of the unmanned vehicle has been reduced to the predetermined speed It said steering means operates to has a configuration provided with the steering control function to start steering to.
しかしながら、走行速度が速すぎるとステアリング操作の制限があることから、ステアリングの操作指令があると、必要な速度まで無人車が自動的に減速するシステムである。
この方法では操作者が速度等の操作に対して意図しない動作を無人車が自動的に作り出すことから、操作者の意図した動作と異なる動きを発生させる蓋然性が高いという問題がある。
However, since the steering operation is limited when the traveling speed is too high, the unmanned vehicle automatically decelerates to a necessary speed when a steering operation command is issued.
In this method, since the unmanned vehicle automatically creates an operation that the operator does not intend for the operation such as speed, there is a high probability that a motion different from the operation intended by the operator is generated.
そこで本発明は、操作者の意図した通りの高速走行を、安全に行うことができる無人車両遠隔操作システムの提供を目的としている。 SUMMARY OF THE INVENTION Accordingly, an object of the present invention is to provide an unmanned vehicle remote control system that can safely perform high-speed traveling as intended by an operator.
上記の課題を解決するための本発明に係る無人車両遠隔操作システムは、走行領域内の測距データを取得するための測距部と、走行のための駆動機構を搭載した無人車両と、その測距部によって取得した画像を表示する表示部を有し、その表示部に表示された画像に基づき、無人車両を遠隔操作するためのステアリングを備えた遠隔操作装置とを無線通信回線を介して接続可能な構成のものである。
本発明においては、測距部により取得した測距データに基づいて、走行可能エリアを抽出するエリア抽出手段と、無人車両の走行状態を取得する走行状態取得手段と、取得した無人車両の走行状態と、抽出した走行可能エリアとに基づいて、無人車両の走行状態が不安定になるステアリングの操作警戒角度範囲及び無人車両の走行状態が危険になるステアリングの操作危険角度範囲を含む操作限界情報を生成する操作限界情報生成手段とを無人車両に設けたこと、生成した操作限界情報を表示部に表示させる操作限界情報表示手段を遠隔操作装置に設けたものである。
An unmanned vehicle remote control system according to the present invention for solving the above problems includes a distance measuring unit for obtaining distance measurement data in a traveling area, an unmanned vehicle equipped with a driving mechanism for traveling, and A remote control device having a display unit for displaying an image acquired by the distance measuring unit and having a steering for remotely operating an unmanned vehicle based on the image displayed on the display unit via a wireless communication line It has a connectable configuration.
In the present invention, based on the distance measurement data acquired by the distance measuring unit, area extraction means for extracting the travelable area, travel state acquisition means for acquiring the travel state of the unmanned vehicle, and the acquired travel state of the unmanned vehicle And operation limit information including a steering operation warning angle range in which the driving state of the unmanned vehicle becomes unstable and a steering operation dangerous angle range in which the driving state of the unmanned vehicle becomes dangerous based on the extracted travelable area. The operation limit information generating means to be generated is provided in the unmanned vehicle, and the operation limit information display means for displaying the generated operation limit information on the display unit is provided in the remote operation device.
本発明によれば、操作者の意図した通りの高速走行を、安全に行うことができる。 According to the present invention, high-speed traveling as intended by the operator can be performed safely.
以下に、本発明を実施するための形態について、図面を参照して説明する。図1は、本発明の一実施形態に係る無人車両遠隔操作システムの全体構成を示す説明図、図2は、その無人車両遠隔操作システムの一部をなす無人車両の構成を概略的に示す説明図である。また、図3は、その無人車両に設けた制御回路のブロック図である。 EMBODIMENT OF THE INVENTION Below, the form for implementing this invention is demonstrated with reference to drawings. FIG. 1 is an explanatory diagram showing the overall configuration of an unmanned vehicle remote control system according to an embodiment of the present invention, and FIG. 2 is an explanatory diagram schematically showing the configuration of an unmanned vehicle that forms part of the unmanned vehicle remote control system. FIG. FIG. 3 is a block diagram of a control circuit provided in the unmanned vehicle.
図1に示すように、本発明の一実施形態に係る無人車両遠隔操作システムA1は、無人車両Bと、遠隔操作装置Cとを電気通信回線を通じて接続可能に構成されている。
無人車両Bは、一般の乗用車両のハンドル/アクセル/ブレーキを、下記の車両制御用,走行用コンピュータ10,30によって操作できるように、各種のアクチュエータを付加した構成のものであり、その詳細は次のとおりである。
As shown in FIG. 1, an unmanned vehicle remote control system A1 according to an embodiment of the present invention is configured such that an unmanned vehicle B and a remote control device C can be connected through an electric communication line.
The unmanned vehicle B has a configuration in which various actuators are added so that the steering wheel / accelerator / brake of a general passenger vehicle can be operated by the following vehicle control and traveling
すなわち、無人車両Bは、CPU(Central Processing Unit)やインターフェース回路(いずれも図示しない)等からなる車両制御用コンピュータ10と、同じく走行用コンピュータ30とによって制御されるようになっている(図2,3参照)。
That is, the unmanned vehicle B is controlled by a
車両制御用コンピュータ10と、走行用コンピュータ30とは、イーサネット(登録商標)11を介して互いに接続されている。
接続方式には、イーサネット(登録商標)以外にもCAN(Controller Area Network)等の車内ネットワークを用いることができる。
The
In addition to Ethernet (registered trademark), in-vehicle networks such as CAN (Controller Area Network) can be used as the connection method.
走行用コンピュータ30は、CPU(Central Processing Unit)やインターフェース回路(いずれも図示しない)等からなるものであり、これの入力ポートには、走行領域内の測距データを取得するための測距部33が接続されている。
測距部33は、走行用カメラ14,31と、レーザーセンサ(以下、「LRF」という。)32a,32bを有して構成されている(図3参照)。
The traveling
The
LRF32a,32bは、レーザ光の投光から受光までの時間を計測するタイムオブフライト方式による測距を行うものであり、本実施形態において示すものは、1つのレーザ光源を用い、光軸を光学的又は機械的に掃引することにより、物体の3次元的な形状を取得するスキャンタイプのものである。
本実施形態においては、一方のLRF32aが遠距離用のものであり、他方のLRF32bが近距離用のものであり、遠近を問わず走行領域をカバーできるようにしている。
The
In the present embodiment, one LRF 32a is for a long distance, and the other LRF 32b is for a short distance, so that the traveling area can be covered regardless of the distance.
走行用カメラ14,31は、自律走行を行うときに必要な画像データを取得するためのものであり、走行方向に向け、かつ、車幅方向において左右対称に配列されている。
The traveling
車両制御用コンピュータ10は、CPU(Central Processing Unit)、インターフェース回路及びメモリ(いずれも図示しない)等からなるものである。
この車両制御用コンピュータ10の入力ポートには、イーサネット(登録商標)11を介して無線LAN13と撮像部である遠隔操作用カメラ19が、また、GPS(Global Positioning System)15、バーチカルジャイロ16、車速パルス17及びオドメトリ18がそれぞれシリアル回線を介して接続されている。なお、符号20は、無線LAN13に接続されているアンテナを示している。
なお、通信手段には、無線LAN以外にも携帯電話、PHS、衛星回線等を用いることができる。
The
An input port of the
In addition to the wireless LAN, a mobile phone, PHS, satellite line, or the like can be used as the communication means.
また、出力ポートには、モータドライバ21を介して、ステアリング用アクチュエータ22、ブレーキ/アクセル用アクチュエータ23がそれぞれ接続されている。
なお、図1に示す9…は走行輪であり、これらの走行輪9…とともに、モータドライバ21、ステアリング用アクチュエータ22、ブレーキ/アクセル用アクチュエータ23により駆動機構Dを構成している。
Further, a
In FIG. 1, 9 are traveling wheels, and together with these
バーチカルジャイロ16は、無人車両Bの鉛直面内における傾斜姿勢、従ってまた、後述する走行用カメラ14,31、及びLRF32a,32bの光軸姿勢(向き)情報を取得するものである。
The
オドメトリ18は、無人車両Bの走行輪9…の各回転量に基づいて、自己の位置情報を取得するためのセンサである。
GPS15は、無人車両Bの測位情報を取得するためのものである。
車速パルス17は、無人車両Bの走行速度を測定するためのものであり、無人車両Bの走行速度をパルス情報として出力するものである。
The
The
The
車両制御用コンピュータ10は、イーサネット(登録商標)11,無線LAN13及びアンテナ20を通じて、GPS15、バーチカルジャイロ16で取得した各種の情報を、後述する遠隔操作装置Cに向けて送信する機能の他、その遠隔操作装置Cから送信される操作情報に基づき、ステアリング用アクチュエータ22、ブレーキ/アクセル用アクチュエータ23をモータドライバ21を介して駆動制御する機能を有している。
すなわち、遠隔操作装置Cから送信される無人車両Bに対する操作情報に基づいて、ステアリング用アクチュエータ22及びブレーキ/アクセル用アクチュエータ23を駆動する機能を有している。
The
In other words, the
車両制御用コンピュータ10は、図示しないメモリに記憶されている所要のプログラムの実行により、次の各機能を発揮する。図4は、無人車両に設けた車両制御用コンピュータが有する機能を示すブロック図である。
The
(1)測距部33により取得した測距データに基づいて、走行可能エリアを抽出する機能。これを「エリア抽出手段10a」という。
本実施形態においては、LRF32a,32bにより取得したレーザー光データと、走行用カメラ14,31により取得した画像データの双方に基づき、走行領域内における走行可能エリアを抽出している。
なお、走行用カメラ14,31により取得した画像データのみに基づき、また、LRF32により取得したレーザー光データのみに基づいて走行領域内における走行可能エリアを抽出するようにしてもよい。
(1) A function of extracting a travelable area based on distance measurement data acquired by the
In the present embodiment, the travelable area in the travel region is extracted based on both the laser beam data acquired by the LRFs 32a and 32b and the image data acquired by the
Note that the travelable area in the travel area may be extracted based only on the image data acquired by the
(2)無人車両Bの走行状態を取得する機能。これを「走行状態取得手段10b」という。
本実施形態において示す「走行状態」は、無人車両Bの走行速度、操舵角及び傾き(水平面に対する)である。
これらのデータは、上記した車速パルス17、オドメトリ18、回転角センサ24及びバーチカルジャイロ16によって取得している。
(2) A function of acquiring the traveling state of the unmanned vehicle B. This is referred to as “running state acquisition means 10b”.
The “traveling state” shown in the present embodiment is the traveling speed, steering angle, and inclination (relative to the horizontal plane) of the unmanned vehicle B.
These data are acquired by the
走行速度の上限値は、次のようにして設定している。
安全距離:xs=xb+xdr+zc zc:追加距離(安全余裕)
安全距離は、無人車両Bから障害物までの距離のことである。
制動距離:xb=Br(v) 一般にxb∝v2
空走距離:xdr=vtd v:走行速度
空走時間:td=tds+tdc+tdt tds:センサ応答時間
tdc:コントローラ応答時間
tdt:通信遅延時間
安全性を重視した管理距離
v=vmax vmax:車両の最大速度
The upper limit value of the traveling speed is set as follows.
Safety distance: x s = x b + x dr + z c z c : additional distance (safety margin)
The safety distance is the distance from the unmanned vehicle B to the obstacle.
Braking distance: x b = Br (v) Generally x b ∝v 2
Free running distance: x dr = v td v: Traveling speed Free running time: t d = t ds + t dc + t dt t ds : Sensor response time
t dc : Controller response time
t dt : Communication delay time Management distance with emphasis on safety
v = v max v max : Maximum speed of the vehicle
(3)取得した無人車両Bの走行状態と、抽出した走行可能エリアとに基づいて、走行のための操作限界を示す操作限界情報を生成する機能。これを「操作限界情報生成手段10c」という。
図5(A)は、操作限界情報に含まれるアクセルペダルの操作角度範囲、(B)は、操作限界情報に含まれるステアリングホイールの操作角度範囲を示す説明図である。
本実施形態においては、後述する遠隔操作装置Cが有する遅延時間算出手段51aによって算出した遅延時間に応じた操作限界情報α1,α2を生成している。
「操作限界情報」は、後述するステアリングホイール56の操作角度範囲と、アクセルペダル57の操作角度範囲とを含んでいる。
(3) A function of generating operation limit information indicating an operation limit for traveling based on the acquired traveling state of the unmanned vehicle B and the extracted travelable area. This is referred to as “operation limit information generation means 10c”.
FIG. 5A is an explanatory view showing the operation angle range of the accelerator pedal included in the operation limit information, and FIG. 5B is an explanatory diagram showing the operation angle range of the steering wheel included in the operation limit information.
In the present embodiment, operation limit information α1, α2 corresponding to the delay time calculated by the delay time calculation means 51a included in the remote operation device C described later is generated.
The “operation limit information” includes an operation angle range of the
「アクセルペダルの操作角度範囲」には、無人車両Bを安全な走行状態に保持できる操作可能角度範囲40a、その走行状態が不安定になる操作警戒角度範囲40bと、当該走行状態が危険になる操作危険角度範囲40cとを含んでいる。
The “accelerator pedal operation angle range” includes an
「ステアリングホイールの操作角度範囲」には、無人車両Bを安全な走行状態に保持できる操作可能角度範囲41a、その走行状態が不安定になる操作警戒角度範囲41b,41bと、当該走行状態が危険になる操作危険角度範囲41cとを含んでいる。
なお、40d,41dは、実際のアクセルペダル,ステアリングホイールの操作角度に対応するインジケータである。
The “steering wheel operation angle range” includes an
(4)電気通信回線を通じ、生成した操作限界情報を遠隔操作装置Cに向けて送信する機能。この機能を、「操作限界情報送信手段10d」という。 (4) A function of transmitting the generated operation limit information to the remote operation device C through the telecommunication line. This function is referred to as “operation limit information transmitting unit 10d”.
(5)遠隔操作装置Cから送出される操作情報に従い、駆動機構Dを介して無人車両Bを走行させる機能。これを「自律走行手段10e」という。
「操作情報」は、少なくとも走行方向、走行速度及び無人車両Bの加減速データを含むものである。
(5) A function of running the unmanned vehicle B through the drive mechanism D in accordance with the operation information sent from the remote control device C. This is referred to as “autonomous traveling means 10e”.
The “operation information” includes at least the traveling direction, the traveling speed, and the acceleration / deceleration data of the unmanned vehicle B.
次に、図6を参照して、無人車両の制御フローチャートについて説明する。図6は、無人車両の制御フローチャートである。
<無人車両側の制御フローチャート>
ステップ1(図中、「S1」と略記する。以下、同様。):各部の初期化処理を行ってステップ2に進む。
Next, a control flowchart of the unmanned vehicle will be described with reference to FIG. FIG. 6 is a control flowchart of the unmanned vehicle.
<Control flowchart on unmanned vehicle>
Step 1 (abbreviated as “S1” in the figure. The same applies hereinafter): Initialization processing of each part is performed, and the process proceeds to Step 2.
ステップ2:遠隔操作装置Cから送信された操作者Qによる操作情報及びコマンドを受信して、ステップ3に進む。
ステップ3:半自律走行コマンドが受信されたか否かを判定し、半自律走行コマンドを受信すればステップ4に進み、そうでなければステップ10に進む。
すなわち、半自律走行コマンドが受信されたか否かを判定する機能を有している。この機能を「コマンド判定手段」という。
Step 2: The operation information and command by the operator Q transmitted from the remote operation device C are received, and the process proceeds to Step 3.
Step 3: It is determined whether or not a semi-autonomous running command has been received. If a semi-autonomous running command is received, the process proceeds to Step 4; otherwise, the process proceeds to Step 10.
That is, it has a function of determining whether or not a semi-autonomous running command has been received. This function is called “command determination means”.
ステップ4:カメラ14,31とLRF32a,32bによって走行領域を認識するとともに、走行可能エリアを抽出して、ステップ5に進む。
すなわち、測距部33により取得した測距データに基づいて、環境地図を作成する機能(この機能を「地図作成手段」という。)を有しており、LRF32a,32bにより取得したレーザー光データに基づいて環境地図を作成し、その環境地図に基づいて走行領域を認識するとともに、走行可能エリアを抽出している。
なお、作成した環境地図は、自律走行制御コンピュータ10内のメモリ(図示しない)に順次記憶されていくようになっている。
Step 4: The travel area is recognized by the
That is, it has a function of creating an environmental map based on distance measurement data acquired by the distance measurement unit 33 (this function is referred to as “map generation means”), and the laser light data acquired by the
The created environment map is sequentially stored in a memory (not shown) in the autonomous
ステップ5:ステアリングホイール,アクセルペダルの操作情報を受信して、ステップ6に進む。
ステップ6:操作情報に含まれる角度となるようにステアリングホイール,アクセルペダルをアクチュエータで駆動する。
ステップ7:無人車両の走行状態を取得して、ステップ8に進む。
ステップ8:走行のための操作限界情報α1,α2を生成する。
ステップ9:操作限界情報α1,α2及び認識結果を重畳した画像を、遠隔操作装置Cに向けて送信する。
ステップ10:終了処理を行う。
Step 5: Receive steering wheel and accelerator pedal operation information, and proceed to Step 6.
Step 6: The steering wheel and accelerator pedal are driven by the actuator so that the angle included in the operation information is obtained.
Step 7: Obtain the traveling state of the unmanned vehicle and proceed to Step 8.
Step 8: Generate operation limit information α1, α2 for traveling.
Step 9: An image on which the operation limit information α1, α2 and the recognition result are superimposed is transmitted to the remote operation device C.
Step 10: Perform termination processing.
次に、遠隔操作装置について、図7〜11を参照して説明する。図7(A)は、遠隔操作装置の概略構成を示す説明図、(B)は、表示部に表示される操作限界情報を示す説明図である。また、図8は、遠隔操作装置に設けた制御回路のブロック図、図9(A)は、ステアリング加重機構を説明するための説明図、(B)は、アクセル加重機構を説明するための説明図である。
本実施形態において示す遠隔操作装置Cは、装置本体50上にディスプレイ60を配設した外観構成になっている。
Next, the remote control device will be described with reference to FIGS. FIG. 7A is an explanatory diagram illustrating a schematic configuration of the remote control device, and FIG. 7B is an explanatory diagram illustrating operation limit information displayed on the display unit. FIG. 8 is a block diagram of a control circuit provided in the remote control device, FIG. 9A is an explanatory diagram for explaining the steering weight mechanism, and FIG. 8B is an explanation for explaining the accelerator weight mechanism. FIG.
The remote control device C shown in the present embodiment has an external configuration in which a
装置本体50内には、CPU(Central Processing Unit)やインターフェース回路(いずれも図示しない)等からなる入出力ポートに、無線LAN52、回転角センサ53、ステアリング加重機構54、アクセル加重機構55、ディスプレイ60、ステアリングホイール56、アクセルペダル57を接続した制御装置51が配設されている。なお、符号58で示すものはアンテナである。
In the apparatus
装置本体50は、図7(A)に示すように、基台62の一端部に操作盤63が起立して配設されており、その操作盤63の上部にステアリングホイール56が、また、その下部にアクセルペダル57がそれぞれ配設されている。
操作者Qは、基台62に配設された椅子64に腰掛けた状態で、ステアリングホイール567やアクセルペダル57等の操作を行うようにしている。
As shown in FIG. 7A, the apparatus
The operator Q operates the steering wheel 567, the
ステアリングホイール56は、無人車両Bの走行方向を操作するためのものであり、これには、図7(A),図9に示すステアリング加重機構54と回転角センサ53とが取り付けられている。
本実施形態において示すステアリング加重機構54は、ステアリングホイール56の上記した操作警戒角度範囲40b,41bにおいて、そのステアリングホイール56の操作力を増減加重するものであり、本実施形態においては、アクチュエータ54aを有する構成になっている。
The
The steering
アクセルペダル57は、無人車両Bの加減速を操作するためのものであり、これには、上記したアクセル加重機構55が取り付けられている。
アクセル加重機構55は、アクセルペダル57の操作力を加重するものであり、図9に示す仮想バネの挙動を示すようにしている。
The
The
ディスプレイ60には、上記した遠隔操作用カメラ19,カメラ14,31によって取得した走行領域の画像、走行可能エリア、上記した操作限界情報α1,α2等が表示されるようになっている。
The
制御装置51は、所要のプログラムの実行により次の各機能を発揮する。
(6)無人車両Bと遠隔操作装置Cとの間における通信遅延時間を算出する機能。この機能を「遅延時間算出手段51a」という。
本実施形態においては、無人車両Bと遠隔操作装置Cの間において、pingの要領でデータの往復時間を推定している。
また、無人車両Bと遠隔操作装置C双方にGPSを搭載しておき、そのGPSを用いて双方のコンピュータによって精度の高い時刻同期を行い、受信したデータのタイムスタンプに基づいて遅延時間を推定するようにしてもよい。
The
(6) A function of calculating a communication delay time between the unmanned vehicle B and the remote control device C. This function is referred to as “delay time calculation means 51a”.
In this embodiment, the round trip time of data is estimated between the unmanned vehicle B and the remote control device C in the manner of ping.
In addition, GPS is installed in both the unmanned vehicle B and the remote control device C, the time synchronization with high accuracy is performed by both computers using the GPS, and the delay time is estimated based on the time stamp of the received data. You may do it.
(7)ステアリングホイール56の上記した操作警戒角度41bに応じて、ステアリング加重機構54によってステアリングホイール56の操作力を増減加重する機能。この機能を「ステアリング増減加重手段51b」という。
具体的には、ステアリングホイール56の操作角度が大きくなるに従って大きな操作力が必要となるようにしている。
(7) A function of increasing or decreasing the operating force of the
Specifically, a larger operating force is required as the operating angle of the
(8)アクセルペダル57の操作警戒角度40bに応じて、アクセル加重機構55によってアクセルペダル57の操作力を増減加重する機能。この機能を「アクセル増減加重手段51c」という。
具体的には、アクセルペダル57の踏込み角度が大きくなるに従って大きな操作力が必要となるようにしている。
(8) A function of increasing or decreasing the operating force of the
Specifically, as the depression angle of the
(9)生成した上記操作限界情報をディスプレイ60に表示させる機能。この機能を「操作限界情報表示手段51d」という。
本実施形態においては、図7(B)に示すように、上記の操作限界情報を走行可能エリア(図示しない)等に透過重畳表示させているが、これに限るものではなく、走行可能エリア等の側方に表示させるようにしてもよい。
(9) A function of causing the
In the present embodiment, as shown in FIG. 7B, the operation limit information is displayed in a transparent and superimposed manner in a travelable area (not shown) or the like. However, the present invention is not limited to this. You may make it display on the side.
(10)操作限界情報に基づき制限された操作情報を生成する機能。この機能を「操作情報生成手段51e」という。
この機能については、以下の図11において詳細に説明する。
(11)電気通信回線を通じ、生成した操作情報を半自律型無人車両Bに向けて送信する機能。この機能を「操作情報送信手段51f」という。
(10) A function for generating restricted operation information based on the operation limit information. This function is referred to as “operation information generation means 51e”.
This function will be described in detail in FIG. 11 below.
(11) A function of transmitting the generated operation information to the semi-autonomous unmanned vehicle B through the telecommunication line. This function is referred to as “operation information transmitting means 51f”.
次に、図10,11を参照して、遠隔操作装置による遠隔操作について説明する。図10は、遠隔操作装置Cによる遠隔操作のメインルーチンのフローチャート、図11は、サブルーチンのフローチャートである。 Next, remote operation by the remote operation device will be described with reference to FIGS. FIG. 10 is a flowchart of a main routine for remote operation by the remote operation device C, and FIG. 11 is a flowchart of a subroutine.
ステップ1(図中、「S1」と略記する。以下、同様。):各部の初期化処理を行ってステップ2に進む。
ステップ2:無人車両Bから送信された車両情報(速度等)、操作限界情報α1,α2及びコマンドを受信して、ステップ3に進む。
ステップ3:通信遅延時間を算出して、ステップ4に進む。
Step 1 (abbreviated as “S1” in the figure. The same applies hereinafter): Initialization processing of each part is performed, and the process proceeds to Step 2.
Step 2: The vehicle information (speed, etc.), operation limit information α1, α2 and command transmitted from the unmanned vehicle B are received, and the process proceeds to Step 3.
Step 3: Calculate the communication delay time and proceed to Step 4.
ステップ4:カメラ14,31で撮像した画像に、算出した通信遅延時間による無人車両Bの走行量を補正しておき、遠隔操作用カメラ19で撮像した画像に重畳させて、操作限界情報α1,α2、受信した走行可能エリアの認識結果、及び受信した車両情報を表示してステップ5に進む。
Step 4: The travel amount of the unmanned vehicle B due to the calculated communication delay time is corrected on the images captured by the
ステップ5:ディスプレイ60に表示されている、遠隔操作用カメラ19で撮像した画像、操作限界情報α1,α2、受信した走行可能エリアの認識結果、及び受信した車両情報等を参照しながら、アクセルペダル57、ステアリングホイール56を操作する。
Step 5: The accelerator pedal is displayed while referring to the image captured by the
ステップ6:操作力増減加重処理を行うとともに、操作限界情報に基づき制限された操作情報を生成する。具体的には、次のとおりである。
なお、以下にはステアリングホイール56の操作力を増減加重する場合について説明するが、アクセルペダル57の操作力についても、同様にして増減加重するようにしているので、本実施形態においては、アクセルペダル57の操作力の増減加重についての説明を省略する。
τ=0 θi<θa
τ=K(θ−θa) θa<θi<θd
τ=τmax θi<θd
k:回転バネ定数
θi:ステアリング角度
θa:警戒角度
(走行速度・外部環境から計算される、これ以上きる(加速する)と無人車両Bが不安定になるステアリング角度・加速度)
θd:危険角度
(走行速度・外部環境から計算される、これ以上きる(加速する)と無人車両Bが危険になるステアリング角度・加速度)
θ0:指令角度
Step 6: Perform an operation force increase / decrease weighting process and generate limited operation information based on the operation limit information. Specifically, it is as follows.
In the following, the case where the operation force of the
τ = 0 θ i <θ a
τ = K (θ−θ a ) θ a <θ i <θ d
τ = τ max θ i <θ d
k: Rotating spring constant θ i : Steering angle θ a : Warning angle (steering angle / acceleration at which unmanned vehicle B becomes unstable if it is further accelerated (accelerated) calculated from travel speed / external environment)
θ d : Danger angle (calculated from travel speed / external environment, steering angle / acceleration at which unmanned vehicle B becomes dangerous if it exceeds (accelerates))
θ 0 : Command angle
ステップ6a:ステアリングホイール56の操作入力角度(ステアリング角度)θiを入力して、ステップ6bに進む。
ステップ6b:操作入力角度θiと指令角度θ0とを比較して、θi<θaの場合にはステップ6cに、θa<θi<θdの場合にはステップ6dに、また、θi<θdの場合にはステップ6eに進む。
ステップ6c:ステアリングホイール56の操作力τを「0」にして、ステップ6fに進む。
Step 6c: The operating force τ of the
ステップ6d:ステアリングホイール56の操作力τをK(θi−θa)にして、ステップ6fに進む。
ステップ6e:ステアリングホイール56の操作力τをτmaxにして、ステップ6fに進む。なお、τmaxは予め設定した操作力である。
ステップ6f:ステアリングホイール56の操作力τが、上記ステップ6c,6d,6eで設定した値になるとなるように、ステアリング用アクチュエータ22のトルク制御を行う。
上記したステップ6b〜6fの制御は、遠隔操作装置Cにおけるステアリングホイール56の操作力を制御する一連の処理である。
The above-described control in
ステップ6g:ステアリング角度θiと危険角度θdとを比較して、ステアリング角度θi>θdであればステップ6iに進み、そうでなければステップ6hに進む。
ステップ6h:指令角度θ0をステアリング角度θiとしてステップ6jに進む。
ステップ6i:指令角度θ0を危険角度θdとしてステップ6jに進む。
ステップ6j:無人車両B側のステアリングホイール56の操作情報(指令角度θ0)を出力して、ステップ6bに戻る。
ステップ7:アクセルぺダル57と、ステアリングホイール56の操作力を増減加重する。
Step 6i: The command angle θ 0 is set as the dangerous angle θ d and the process proceeds to Step 6j.
Step 7: Increase / decrease the operating force of the
次に、上述したステップ6における操作限界情報に基づき制限された操作情報を生成する処理の他例について図12を、また、合わせてステアリングホイールの操作力の増減加重の例について図13をそれぞれ参照して説明する。図12は、操作限界情報に基づき制限された操作情報を生成する処理の他例を示すフローチャート、図13は、ステアリングホイール角度と指令角度との入出力特性を示すグラフである。 Next, see FIG. 12 for another example of processing for generating restricted operation information based on the operation limit information in Step 6 described above, and FIG. 13 for an example of increase / decrease weighting of the steering wheel operation force. To explain. FIG. 12 is a flowchart showing another example of processing for generating limited operation information based on the operation limit information, and FIG. 13 is a graph showing input / output characteristics of the steering wheel angle and the command angle.
他例に係る操作力増減加重処理は、警戒角度θa以上のステアリングホイール56の操作を禁止するステアリング操作禁止手段51g(図8参照)を設けた構成のものである。
本実施形態においては、操作盤63に許否設定スイッチ65(図8参照)を配設するとともに、その許否設定スイッチ65のオン/オフを判定するスイッチ状態判定手段51fと、当該許否設定スイッチ65がオンであると判定したときには、ステアリング操作禁止手段51gは、ステアリングホイール56の危険角度範囲以上の操作を禁止するようにしている。
具体的には、次のとおりである。
The operation force increase / decrease weighting process according to another example has a configuration provided with a steering operation prohibiting means 51g (see FIG. 8) for prohibiting the operation of the
In the present embodiment, a permission / rejection setting switch 65 (see FIG. 8) is provided on the
Specifically, it is as follows.
ステップ6a′:ステアリングホイール56のステアリング角度θiを入力して、ステップ6b′に進む。
ステップ6b′:ステアリング角度θiと警戒角度θaとを比較して、θi>θaの場合にはステップ6d′に進み、θi<θaの場合にはステップ6c′に進む。
ステップ6c′:指令角度θ0をステアリング角度θiにして、ステップ6h′に進む。
ステップ6d′:許否設定スイッチ65のオン/オフを判定し、その許否設定スイッチ65がオンであると判定されればステップ6f′に進み、そうでなければステップ6e′に進む。
Step 6c ′: Set the command angle θ 0 to the steering angle θ i and proceed to Step 6h ′.
ステップ6e′:ステアリングホイール56のステアリング角度θiを警戒角度θaにして、ステップ6h′に進む。
すなわち、図13に示すように、許否設定スイッチ65がオフのときには、(ア)で示すように警戒角度θaに出力が制限されるのである。
That is, as shown in FIG. 13, when the
ステップ6f′:ステアリングホイール56のステアリング角度θiが危険角度θd以上であるか否かを判定し、そのステアリング角度θiが危険角度θd以上であると判定したときにはステップ6g′に進み、そうでなければステップ6h′に進む。
ステアリング角度θiが危険角度θdに達しないときには、ステアリングホイール56に作用する加重が増加しながらも操作可能になっている。換言すると、ステアリングホイール56の操作角度が大きくなるに従って大きな操作力が必要となるようにしている。
When the steering angle θ i does not reach the critical angle θ d , the
ステップ6g′:ステアリングホイール56のステアリング角度θiを危険角度θdにしてステップ6h′に進む。
すなわち、図13に示すように、許否設定スイッチ65がオンのときには、(イ)で示すように危険角度θdに出力が制限されるのである。
ステップ6h′:ステアリングホイール56のステアリング角度θ0を無人車両Bに向けて出力する。
That is, as shown in FIG. 13, when the
なお、本発明は上述した実施形態に限るものではなく、次のような変形実施が可能である。
・上述した実施形態においては、ステアリング角度θiを、θi<θa、θa<θi<θd、及びθi<θd等に区分して、それぞれ対応する加重を加える例についてしたが、これに限るものではなく、例えば一定の角度毎に、これ対応する加重を加えるようにしてもよい。
The present invention is not limited to the above-described embodiments, and the following modifications can be made.
· In the above embodiment, the steering angle theta i, by dividing the θ i <θ a, θ a <θ i <θ d, and θ i <θ d like, and for example adding corresponding weights respectively However, the present invention is not limited to this, and for example, a corresponding weight may be applied for each fixed angle.
・精度を補完する機能を付加する場合、次のようにすることができる。
車速パルスの補完として、無人車両の速度(積分して)/車両の傾き(重力を検出して)を測定するための加速度センサ、無人車両の速度を算出するためのタコメータを設けた構成にしてもよい。
・バーチカルジャイロの補完として、無人車両の傾き(水平面に対する)を検出するための傾斜角センサを配設してもよい。
・ When adding a function to complement accuracy, the following can be done.
As a complement to the vehicle speed pulse, an acceleration sensor for measuring the speed of the unmanned vehicle (integrated) / the inclination of the vehicle (by detecting gravity) and a tachometer for calculating the speed of the unmanned vehicle are provided. Also good.
A tilt angle sensor for detecting the tilt of the unmanned vehicle (relative to the horizontal plane) may be provided as a complement to the vertical gyro.
・上述した実施形態においては、車両制御用コンピュータと、走行用コンピュータの二つのコンピュータにより、無人車両全体を制御するものを例として説明したが、それら二つのコンピュータに分担させることなく、単一のコンピュータで制御するようにしてもよい。さらには、三つ以上のコンピュータに分担させることができる。 In the above-described embodiment, the example in which the whole unmanned vehicle is controlled by the two computers, the vehicle control computer and the traveling computer, has been described as an example. You may make it control by a computer. Furthermore, it can be shared by three or more computers.
10a エリア抽出手段
10b 走行状態取得手段
10c 操作限界情報生成手段
10d 操作限界情報送信手段
10e 自律走行手段
19 撮像部(遠隔操作用カメラ)
33 測距部
40b,41b 操作警戒角度範囲
40c,41c 操作危険角度範囲
51a 遅延時間算出手段
51b ステアリング増減加重手段
51c アクセル増減加重手段
51d 操作限界情報表示手段
51e 操作情報生成手段
51f 操作情報送信手段
51g ステアリング操作禁止手段
51h スイッチ状態判定手段
54 ステアリング加重機構
55 アクセル加重機構
56 ステアリングホイール
57 アクセルペダル
60 表示部(ディスプレイ)
65 許否設定スイッチ
A1 無人車両遠隔操作システム
B 無人車両
C 遠隔操作装置
D 駆動機構
α1,α2 操作限界情報
10a Area extraction means 10b Travel state acquisition means 10c Operation limit information generation means 10d Operation limit information transmission means 10e Autonomous travel means 19 Imaging unit (remote control camera)
33
65 Permission setting switch A1 Unmanned vehicle remote control system B Unmanned vehicle C Remote control device D Drive mechanism α1, α2 Operation limit information
Claims (7)
測距部により取得した測距データに基づいて、走行可能エリアを抽出するエリア抽出手段と、
無人車両の走行状態を取得する走行状態取得手段と、
取得した無人車両の走行状態と、抽出した走行可能エリアとに基づいて、無人車両の走行状態が不安定になるステアリングの操作警戒角度範囲及び無人車両の走行状態が危険になるステアリングの操作危険角度範囲を含む操作限界情報を生成する操作限界情報生成手段とを無人車両に設けたこと、
生成した操作限界情報を表示部に表示させる操作限界情報表示手段を遠隔操作装置に設けたことを特徴とする無人車両遠隔操作システム。 A ranging unit for acquiring ranging data in the traveling area, an unmanned vehicle equipped with a driving mechanism for traveling, and a display unit for displaying an image acquired by the ranging unit, the display unit In the unmanned vehicle remote control system capable of connecting via a wireless communication line with a remote control device having a steering for remotely operating the unmanned vehicle based on the image displayed on
An area extracting means for extracting a travelable area based on the distance measurement data acquired by the distance measurement unit;
Driving state acquisition means for acquiring the driving state of the unmanned vehicle;
Based on the obtained unmanned vehicle travel state and the extracted travelable area, the steering operation warning angle range in which the unmanned vehicle travel state becomes unstable and the steering operation dangerous angle in which the unmanned vehicle travel state becomes dangerous An unmanned vehicle is provided with operation limit information generating means for generating operation limit information including a range ,
An unmanned vehicle remote operation system, characterized in that an operation limit information display means for displaying generated operation limit information on a display unit is provided in a remote operation device.
測距部により取得した測距データに基づいて、走行可能エリアを抽出するエリア抽出手段と、
無人車両の走行状態を取得する走行状態取得手段と、
取得した無人車両の走行状態と、抽出した走行可能エリアとに基づいて、無人車両の走行状態が不安定になるアクセルペダルの操作警戒角度範囲及び無人車両の走行状態が危険になるアクセルペダルの操作危険角度範囲を含む操作限界情報を生成する操作限界情報生成手段とを無人車両に設けたこと、
生成した操作限界情報を表示部に表示させる操作限界情報表示手段を遠隔操作装置に設けたことを特徴とする無人車両遠隔操作システム。 A ranging unit for acquiring ranging data in the traveling area, an unmanned vehicle equipped with a driving mechanism for traveling, and a display unit for displaying an image acquired by the ranging unit, the display unit In the unmanned vehicle remote control system capable of connecting via a wireless communication line with a remote control device having an accelerator pedal for remotely operating the unmanned vehicle based on the image displayed on
An area extracting means for extracting a travelable area based on the distance measurement data acquired by the distance measurement unit;
Driving state acquisition means for acquiring the driving state of the unmanned vehicle;
Based on the acquired unmanned vehicle travel state and the extracted travelable area, the accelerator pedal operation warning angle range that makes the unmanned vehicle travel state unstable and the accelerator pedal operation that makes the unmanned vehicle travel state dangerous An unmanned vehicle is provided with operation limit information generating means for generating operation limit information including a dangerous angle range,
An unmanned vehicle remote operation system, characterized in that an operation limit information display means for displaying generated operation limit information on a display unit is provided in a remote operation device .
操作限界情報生成手段は、算出した遅延時間に応じた操作限界情報を生成することを特徴とする請求項1〜6のいずれか1項に記載の無人車両遠隔操作システム。 A delay time calculating means for calculating a communication delay time between the unmanned vehicle and the remote control device is provided;
The unmanned vehicle remote operation system according to any one of claims 1 to 6, wherein the operation limit information generating means generates operation limit information according to the calculated delay time .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009189975A JP5366702B2 (en) | 2009-08-19 | 2009-08-19 | Unmanned vehicle remote control system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009189975A JP5366702B2 (en) | 2009-08-19 | 2009-08-19 | Unmanned vehicle remote control system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011043883A JP2011043883A (en) | 2011-03-03 |
JP5366702B2 true JP5366702B2 (en) | 2013-12-11 |
Family
ID=43831285
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009189975A Active JP5366702B2 (en) | 2009-08-19 | 2009-08-19 | Unmanned vehicle remote control system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5366702B2 (en) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5393500B2 (en) * | 2010-01-20 | 2014-01-22 | 株式会社Ihiエアロスペース | Unmanned mobile control method and remote control device |
JP6650386B2 (en) * | 2016-11-09 | 2020-02-19 | 本田技研工業株式会社 | Remote driving control device, vehicle control system, remote driving control method, and remote driving control program |
CN109429503B (en) * | 2017-06-30 | 2022-04-29 | 松下电器(美国)知识产权公司 | Vehicle, vehicle control method, vehicle remote operation device, and vehicle remote operation method |
JP7219544B2 (en) * | 2017-06-30 | 2023-02-08 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | Vehicle, vehicle control method, vehicle remote control device, and vehicle remote control method |
US11977377B2 (en) | 2018-05-22 | 2024-05-07 | Nec Corporation | Remote operation apparatus, remote operation method, non-transitory computer readable medium, and remote operation system |
JP7442272B2 (en) | 2018-08-09 | 2024-03-04 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | Information processing method, information processing device, and information processing system |
CN113212538B (en) * | 2021-05-24 | 2022-04-26 | 福建盛海智能科技有限公司 | Method and terminal for autonomously correcting direction of remote-control unmanned vehicle |
KR102525469B1 (en) * | 2022-08-31 | 2023-04-26 | 주식회사 라이드플럭스 | Remote control method, apparatus and computer program for autonomous vehicle |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0836691A (en) * | 1994-07-22 | 1996-02-06 | Toyota Motor Corp | Supervisory controller for automatic travelling car |
JP3281188B2 (en) * | 1994-08-09 | 2002-05-13 | ヤマハ発動機株式会社 | Unmanned car |
JP2001109519A (en) * | 1999-10-05 | 2001-04-20 | Komatsu Ltd | Travel control unit for vehicle |
JP4458072B2 (en) * | 2006-06-28 | 2010-04-28 | 日産自動車株式会社 | VEHICLE DRIVE OPERATION ASSISTANCE DEVICE AND VEHICLE HAVING VEHICLE DRIVE OPERATION ASSISTANCE DEVICE |
JP2008265407A (en) * | 2007-04-17 | 2008-11-06 | Mazda Motor Corp | Vehicular display device |
-
2009
- 2009-08-19 JP JP2009189975A patent/JP5366702B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2011043883A (en) | 2011-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5366703B2 (en) | Semi-autonomous unmanned vehicle remote control system | |
JP5366702B2 (en) | Unmanned vehicle remote control system | |
US9796416B2 (en) | Automated driving apparatus and automated driving system | |
JP6051307B2 (en) | Driving assistance device | |
CN112700668B (en) | Remote control method for automatic driving, automatic driving vehicle and cloud equipment | |
US10308254B2 (en) | Vehicle control device | |
EP3305620A1 (en) | Vehicle control device and vehicle control method | |
US11755022B2 (en) | Vehicle control device | |
JP2018203006A (en) | Vehicle control system and vehicle control method | |
JP6439647B2 (en) | Crew attitude control device for vehicle | |
JP5366711B2 (en) | Semi-autonomous vehicle remote control system | |
KR20200131832A (en) | Information processing devices, mobile devices and methods, and programs | |
JP5382793B2 (en) | Semi-autonomous unmanned vehicle remote control system | |
JP2017076232A (en) | Vehicle-purposed notification device | |
JP6959891B2 (en) | Collision mitigation device | |
JP2007190977A (en) | Vehicle control device | |
JP2011085999A (en) | Remote control system | |
US12012099B2 (en) | Information processing apparatus, information processing method, movement control apparatus, and movement control method | |
JP6855759B2 (en) | Self-driving vehicle control system | |
US10955849B2 (en) | Automatic driving system | |
JP2020203587A (en) | Automatic driving system | |
JP2020124993A (en) | Vehicle motion control method and vehicle motion control device | |
JP6743714B2 (en) | Vehicle driving posture adjustment device | |
JP7271950B2 (en) | vehicle controller | |
JP2021138273A (en) | Vehicle control device, vehicle and vehicle control method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120229 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130221 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130828 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130910 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5366702 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |