JP2013168777A - Remote control system - Google Patents

Remote control system Download PDF

Info

Publication number
JP2013168777A
JP2013168777A JP2012030499A JP2012030499A JP2013168777A JP 2013168777 A JP2013168777 A JP 2013168777A JP 2012030499 A JP2012030499 A JP 2012030499A JP 2012030499 A JP2012030499 A JP 2012030499A JP 2013168777 A JP2013168777 A JP 2013168777A
Authority
JP
Japan
Prior art keywords
line drawing
vibration
work
work machine
monitor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012030499A
Other languages
Japanese (ja)
Other versions
JP5950607B2 (en
Inventor
Yoshinori Kumita
良則 組田
Akira Fujioka
晃 藤岡
Mitsuo Shibuya
光男 渋谷
Akira Nozue
晃 野末
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujita Corp
Original Assignee
Fujita Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujita Corp filed Critical Fujita Corp
Priority to JP2012030499A priority Critical patent/JP5950607B2/en
Publication of JP2013168777A publication Critical patent/JP2013168777A/en
Application granted granted Critical
Publication of JP5950607B2 publication Critical patent/JP5950607B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Selective Calling Equipment (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a remote control system that allows an operator to efficiently work by complementing decline in workability due to delay in an image.SOLUTION: A vibration detection sensor 61 is provided in a work machine 12, and detects vibration at a work part caused by work. A vibration generation device 62 is provided at an operation seat 15, a detection signal of the vibration detection sensor 61 is transmitted to the vibration generation device 62 by radio, and the vibration generation device 62 vibrates the operation seat 15 when the detection signal of the vibration detection sensor 61 is input into the vibration generation device 62. In addition, a data preparation for line drawing creation device 70 provided in the work machine 12 prepares data for line drawing creation for creating a line drawing of the work part, transmits the data for line drawing creation to a line drawing creation device 71 at the operation seat 15 by radio, and displays the line drawing on a monitor 17 superposing it on video photographed by a camera 31.

Description

本発明は、建設機械等の作業機械をコントローラにより無線で遠隔操作して無人で作業を行わせる遠隔操作システムに関する。   The present invention relates to a remote operation system that allows a work machine such as a construction machine to be remotely operated wirelessly by a controller to perform work unattended.

地震や自然災害の災害復旧現場、原子力発電所の事故発生現場などでは、2次災害発生のおそれがあるため、作業者を現場に派遣して作業させることは困難である。そのため、従来から、このような現場での作業には建設機械等の作業機械をコントローラにより無線で遠隔操作するようにした遠隔操作システムが用いられている(例えば特許文献1)。作業現場に配置した作業機械をコントローラで遠隔操作することにより、作業者を現場に派遣することなく無人で復旧作業等を行うことができる。   At the disaster recovery site of an earthquake or natural disaster, the accident occurrence site of a nuclear power plant, etc., there is a risk of a secondary disaster, so it is difficult to dispatch an operator to the site to work. Therefore, conventionally, a remote operation system in which a work machine such as a construction machine is wirelessly operated remotely by a controller is used for such on-site work (for example, Patent Document 1). By remotely operating the work machine arranged at the work site with a controller, it is possible to perform an unattended restoration work and the like without dispatching the worker to the work site.

このような遠隔操作システムでは、現場から離れたコントロールルームに作業機械を操作するための操作席が設けられ、この操作席にコントローラが設けられる。コントローラが操作されると、その操作信号が無線で作業機械に伝送され、作業機械はコントローラの操作に応じて作動する。例えば、作業機械としてバックホーを用いた場合には、コントローラの操作により作業部としてのショベル(バケット)を動作させて土壌の掘削や横撥ね作業を無人で行うことができる。また、作業機械には作業部を撮影するカメラが搭載されており、このカメラの映像信号は操作席に設けられたモニタに無線で伝送される。これにより、操作者はモニタに表示された作業部の映像を見ながらコントローラを用いて作業機械を遠隔操作することができる。   In such a remote operation system, an operation seat for operating the work machine is provided in a control room away from the site, and a controller is provided in the operation seat. When the controller is operated, the operation signal is wirelessly transmitted to the work machine, and the work machine operates in accordance with the operation of the controller. For example, when a backhoe is used as a work machine, an excavator (bucket) as a work unit can be operated by operating a controller to perform soil excavation and repelling work unattended. In addition, the work machine is equipped with a camera for photographing the working part, and the video signal of this camera is wirelessly transmitted to a monitor provided in the operation seat. As a result, the operator can remotely operate the work machine using the controller while viewing the image of the work unit displayed on the monitor.

特開2007−13319号公報JP 2007-13319 A

このような遠隔操作システムでは、コントローラが発信する操作信号は信号データが小さく、無線により僅かなタイムラグで作業機械に伝送されるので、コントローラの操作により作業機械をタイムラグなく操作することができる。   In such a remote operation system, since the operation signal transmitted from the controller has small signal data and is transmitted to the work machine with a slight time lag by radio, the work machine can be operated without time lag by operating the controller.

これに対し、作業部を映すカメラの映像信号はコントローラの操作信号よりも信号のデータ量が大きいので、無線により伝送されてモニタに表示されるまでのタイムラグはコントローラの操作により作業機械が動作するまでのタイムラグよりも大きくなる。そのため、作業部が動作すると、モニタには実際の作業部の位置に対してずれた位置に作業部が表示される「画像遅れ」が生じることになる。画像遅れが生じると、操作者はこの画像遅れを考慮して作業機械の操作を行なわなければならないので、この遠隔操作システムを用いた作業の能率が低下することになる。   On the other hand, since the video signal of the camera showing the working unit has a larger amount of signal data than the operation signal of the controller, the work machine operates by the operation of the controller during the time lag until it is wirelessly transmitted and displayed on the monitor It becomes larger than the time lag until. For this reason, when the working unit is operated, an “image delay” in which the working unit is displayed at a position shifted from the actual working unit position is generated on the monitor. When an image delay occurs, the operator must operate the work machine in consideration of the image delay, so that the efficiency of work using the remote operation system is reduced.

本発明の目的は、画像遅れによる作業性の低下を補完して能率よく作業を行うことができる遠隔操作システムを提供することにある。   An object of the present invention is to provide a remote operation system that can efficiently perform work while compensating for workability degradation due to image delay.

本発明の遠隔操作システムは、作業部を備えた作業機械を操作席に設けたコントローラにより無線で遠隔操作する遠隔操作システムであって、前記作業機械に設けられ、前記作業部を撮影するカメラと、前記操作席に設けられ、前記カメラの映像信号が無線で伝送されるモニタと、前記作業機械に設けられ、前記作業部が作業により生じた振動を検出する振動検出センサと、前記操作席に設けられ、前記振動検出センサの検出信号が無線で伝送される振動発生手段とを有し、前記振動検出センサが前記作業部の作業による振動を検出したときに、前記振動発生手段により前記操作席に振動が加えられることを特徴とする。   A remote operation system according to the present invention is a remote operation system in which a work machine having a work unit is wirelessly operated remotely by a controller provided in an operation seat, the camera being provided in the work machine and photographing the work unit; A monitor that is provided in the operation seat and wirelessly transmits a video signal of the camera, a vibration detection sensor that is provided in the work machine and that detects vibration generated by the work, and the operation seat. And a vibration generating means that wirelessly transmits a detection signal of the vibration detection sensor, and when the vibration detection sensor detects vibration due to work of the working unit, the vibration generation means causes the operation seat to The vibration is applied to

本発明の遠隔操作システムは、前記振動発生手段が前記コントローラに振動を加えることを特徴とする。   The remote operation system of the present invention is characterized in that the vibration generating means applies vibration to the controller.

本発明の遠隔操作システムは、前記振動発生手段が前記操作席の座席部分に振動を加えることを特徴とする。   The remote operation system according to the present invention is characterized in that the vibration generating means applies vibration to a seat portion of the operation seat.

本発明の遠隔操作システムは、前記作業機械に設けられ、前記作業部の線画を作成するために必要な線画作成用データを作成する線画作成用データ作成手段と、前記操作席に設けられ、無線で伝送された前記線画作成用データに基づいて前記カメラの撮影映像の前記作業部に対応した位置に前記作業部の線画を作成する線画作成手段とを有し、前記線画作成手段が作成した線画を前記カメラの撮影映像に重ねて前記モニタに表示させることを特徴とする。   The remote operation system of the present invention is provided in the work machine, and is provided in the line drawing creation data creation means for creating the line drawing creation data necessary for creating the line drawing of the working unit, and is provided in the operation seat. A line drawing creating means for creating a line drawing of the working section at a position corresponding to the working section of the video captured by the camera based on the data for line drawing creation transmitted in step S, and the line drawing created by the line drawing creating means Is superimposed on the video image taken by the camera and displayed on the monitor.

本発明の遠隔操作システムは、前記作業機械に設けられ、前記カメラの撮影映像の前記作業部に対応した位置に前記作業部の線画を作成する送信用線画作成手段を有し、前記送信用線画作成手段が作成した線画を無線で前記モニタに伝送して前記カメラの撮影映像に重ねて前記モニタに表示させることを特徴とする。   The remote operation system according to the present invention includes transmission line drawing creation means that is provided in the work machine and creates a line drawing of the working unit at a position corresponding to the working unit of the video captured by the camera. The line drawing created by the creation means is wirelessly transmitted to the monitor and is displayed on the monitor so as to be superimposed on the captured video of the camera.

本発明の遠隔操作システムは、HSPA回線網に無線で接続される電話系無線通信端末により前記作業機械と前記操作席との間の無線通信を行うことを特徴とする。   The remote operation system according to the present invention is characterized in that wireless communication between the work machine and the operation seat is performed by a telephone wireless communication terminal wirelessly connected to an HSPA network.

本発明の遠隔操作システムは、前記電話系無線通信端末はモバイルルータであることを特徴とする。   In the remote control system of the present invention, the telephone wireless communication terminal is a mobile router.

本発明の遠隔操作システムは、HSPA回線網に無線で接続される電話系無線通信端末と前記HSPA回線網に有線で接続される電話系有線通信端末とにより前記作業機械と前記操作席との間の無線通信を行うことを特徴とする。   The remote control system according to the present invention includes a telephone wireless communication terminal connected wirelessly to an HSPA line network and a telephone wired communication terminal connected to the HSPA line network in a wired manner between the work machine and the operation seat. The wireless communication is performed.

本発明の遠隔操作システムは、前記電話系無線通信端末はモバイルルータであり、前記電話系有線電話端末はブロードバンドルータであることを特徴とする。   In the remote control system of the present invention, the telephone wireless communication terminal is a mobile router, and the telephone wired telephone terminal is a broadband router.

本発明によれば、作業機械の作業部が作業により振動を生じたときに操作席に振動が加えられるので、モニタの表示に画像遅れが生じても、操作者は操作席に加えられる振動により作業部の実際の位置を推測ないし認識することができる。したがって、操作者は、操作席に加えられる振動に基づきモニタの画像遅れを補完しながら作業部の操作を行うことができる。これにより、この遠隔操作システムを用いて能率良く作業を行うことができる。   According to the present invention, since vibration is applied to the operation seat when the working unit of the work machine generates vibration due to the work, even if an image delay occurs in the display on the monitor, the operator is caused by the vibration applied to the operation seat. The actual position of the working unit can be estimated or recognized. Therefore, the operator can operate the working unit while complementing the image delay of the monitor based on the vibration applied to the operation seat. Thereby, work can be efficiently performed using this remote control system.

本発明によれば、作業部の線画を作成するために必要な線画作成用データを作業機械から操作席に無線で伝送し、この線画作成用データに基づいて線画作成手段によりカメラの撮影映像の作業部に対応した位置に作業部の線画を作成し、その線画をカメラの撮影映像に重ねてモニタに表示するようにしたので、伝送によるタイムラグが小さい線画作成用データに基づいて作成される線画を用いて、より実際の位置に近い位置に作業部を表示することができる。これにより、操作者は、操作席に加えられる振動に加えてモニタに表示された線画に基づき、モニタの画像遅れを補完しながら作業部の操作を行うことができるので、さらに能率良くこの遠隔操作システムを用いた作業を行うことができる。   According to the present invention, data for creating a line drawing necessary for creating a line drawing of a working unit is wirelessly transmitted from the work machine to the operator's seat, and the line drawing making means is used to generate a video image taken by the camera based on the line drawing making data. A line drawing of the work section is created at a position corresponding to the work section, and the line drawing is superimposed on the video captured by the camera and displayed on the monitor, so the line drawing created based on the line drawing creation data with a small time lag due to transmission By using, the working unit can be displayed at a position closer to the actual position. As a result, the operator can operate the work unit while complementing the image delay of the monitor based on the line drawing displayed on the monitor in addition to the vibration applied to the operation seat. You can work with the system.

本発明によれば、カメラの撮影映像の作業部に対応した位置に送信用線画作成手段により作業部の線画を作成し、その線画を無線でモニタに伝送してカメラの撮影映像に重ねてモニタに表示するようにしたので、伝送によるタイムラグが小さい線画を用いて、より実際の位置に近い位置に作業部を表示することができる。これにより、操作者は、モニタの表示に画像遅れが生じても、モニタに表示された線画に基づいてモニタの画像遅れを補完しながら作業部の操作を行うことができる。これにより、操作者は、操作席に加えられる振動に加えてモニタに表示された線画に基づき、モニタの画像遅れを補完しながら作業部の操作を行うことができるので、さらに能率良くこの遠隔操作システムを用いた作業を行うことができる。   According to the present invention, the line drawing of the working unit is created by the transmission line drawing creating means at a position corresponding to the working unit of the shot video of the camera, and the line drawing is wirelessly transmitted to the monitor and superimposed on the shot video of the camera. Thus, the working unit can be displayed at a position closer to the actual position using a line drawing with a small time lag due to transmission. Accordingly, even if an image delay occurs in the display on the monitor, the operator can operate the working unit while complementing the image delay on the monitor based on the line drawing displayed on the monitor. As a result, the operator can operate the work unit while complementing the image delay of the monitor based on the line drawing displayed on the monitor in addition to the vibration applied to the operation seat. You can work with the system.

本発明の一実施の形態である遠隔操作システムにより作業現場に配置した作業機械を遠隔操作する様子を示す図である。It is a figure which shows a mode that the working machine arrange | positioned at the work site is remotely operated by the remote operation system which is one embodiment of this invention. 本発明の遠隔操作システムの構成を示す模式図である。It is a schematic diagram which shows the structure of the remote control system of this invention. コントロールルームに配置された操作席を示す図である。It is a figure which shows the operation seat arrange | positioned in a control room. (a)は作業部の動作前のモニタの表示を示す図であり、(b)は作業部を動作させたときのモニタの表示を示す図である。(A) is a figure which shows the display of the monitor before operation | movement of a working part, (b) is a figure which shows the display of a monitor when operating a working part. 図2に示す遠隔操作システムの変形例を示す模式図である。It is a schematic diagram which shows the modification of the remote control system shown in FIG. 図2に示す遠隔操作システムの変形例であって、作業機械の側で作成した線画を無線でモニタに伝送するようにした場合を示す模式図である。It is a modification of the remote control system shown in FIG. 2, Comprising: It is a schematic diagram which shows the case where the line drawing created on the working machine side is transmitted to a monitor wirelessly.

以下、本発明の実施の形態を図面に基づいて詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

本発明の遠隔操作システムは、例えば、地震や自然災害の災害復旧現場、原子力発電所の事故発生現場など、2次災害発生のおそれがあるために作業者を派遣することが困難な作業現場での作業に適用される。   The remote control system according to the present invention can be used, for example, at work sites where it is difficult to dispatch workers due to the possibility of secondary disasters such as disaster recovery sites for earthquakes and natural disasters, and accident sites at nuclear power plants. Applied to the work.

図1に示すように、本発明の一実施の形態である遠隔操作システム11は、作業機械12とコントロールルーム13とを有している。作業機械12は作業現場14に配置され、コントロールルーム13は作業現場14から離れた遠隔地に設けられる。本実施の形態では、コントロールルーム13は作業現場14から約950km離れた場所に設けられている。   As shown in FIG. 1, a remote operation system 11 according to an embodiment of the present invention includes a work machine 12 and a control room 13. The work machine 12 is disposed at the work site 14, and the control room 13 is provided at a remote place away from the work site 14. In the present embodiment, the control room 13 is provided at a location approximately 950 km away from the work site 14.

コントロールルーム13には操作席15が設けられており、図2、図3に示すように、操作席15にはコントローラ16とモニタ17とが設けられている。コントローラ16は操作者に操作される複数の操作レバー16aを備えており、操作者はこれらの操作レバー16aを操作することにより、作業機械12を無線で遠隔操作することができる。   An operation seat 15 is provided in the control room 13, and a controller 16 and a monitor 17 are provided in the operation seat 15 as shown in FIGS. The controller 16 includes a plurality of operation levers 16a operated by an operator, and the operator can remotely operate the work machine 12 by operating these operation levers 16a.

図1に示す場合では、作業現場14に配置される作業機械12としてバックホー型の油圧ショベル(建設機械)が用いられている。この作業機械12の作業部12aは可動アーム12bの先端に設けられたショベル(バケット)となっており、この作業部12aにより土壌の掘削等の作業を行うことができる。   In the case shown in FIG. 1, a backhoe type hydraulic excavator (construction machine) is used as the work machine 12 arranged at the work site 14. The working unit 12a of the working machine 12 is an excavator (bucket) provided at the tip of the movable arm 12b, and operations such as excavation of soil can be performed by the working unit 12a.

本実施の形態においては、作業現場14に1つの作業機械12のみを配置するようにしているが、これに限らず、複数の作業機械12を同一の作業現場14に配置し、これらの作業機械12を対応するコントローラ16により遠隔操作して複数の作業機械12を並行に作業させるようにしてもよい。また、作業機械12としてはバックホー型の油圧ショベルに限らず、例えばブルドーザやホイールローダ等の他の建設機械を用いるようにしてもよい。   In the present embodiment, only one work machine 12 is arranged on the work site 14, but the present invention is not limited to this, and a plurality of work machines 12 are arranged on the same work site 14, and these work machines are arranged. A plurality of work machines 12 may be operated in parallel by remotely operating 12 with a corresponding controller 16. The work machine 12 is not limited to a backhoe type excavator, and other construction machines such as a bulldozer and a wheel loader may be used.

図2に示すように、作業機械12には遠隔操作用の駆動制御装置(受信コントロールユニット)21が設けられ、コントローラ16からの操作信号が駆動制御装置21に入力されると作業機械12が駆動制御装置21により駆動制御されてコントローラ16からの操作信号に応じた動作を行うようになっている。   As shown in FIG. 2, the work machine 12 is provided with a drive control device (reception control unit) 21 for remote operation. When an operation signal from the controller 16 is input to the drive control device 21, the work machine 12 is driven. The controller 21 is driven and controlled to perform an operation according to an operation signal from the controller 16.

作業機械12としては、作業機械12に遠隔操作用の駆動制御装置21が一体に組み込まれた遠隔操作専用の作業機械12を用いてもよく、または、作業者が操作のために搭乗する運転台を備えた作業機械12にこの作業機械12とは別ユニットとして設けられた駆動制御装置21を搭載することにより遠隔操作可能に構成された作業機械12を用いるようにしてもよい。   As the work machine 12, a work machine 12 dedicated to remote operation in which a drive control device 21 for remote operation is integrally incorporated in the work machine 12 may be used, or a cab on which an operator gets on for operation. A work machine 12 configured to be remotely operable by mounting a drive control device 21 provided as a separate unit from the work machine 12 may be used.

コントローラ16と駆動制御装置21は特定小電力無線通信を用いたラジオコントロール装置として構成されているが、本実施の形態では、コントローラ16と駆動制御装置21とを特定小電力無線通信を用いて直接無線通信させるのではなく、HSPA回線網22を介して無線通信させるようにしている。   The controller 16 and the drive control device 21 are configured as a radio control device using specific low-power wireless communication. However, in the present embodiment, the controller 16 and the drive control device 21 are directly connected to each other using specific low-power wireless communication. Instead of wireless communication, wireless communication is performed via the HSPA network 22.

図2に示すように、コントローラ16と駆動制御装置21とをHSPA回線網22を介して無線通信させるために、操作席15には電話系無線通信端末としてのモバイルルータ23が設けられ、作業機械12には電話系無線通信端末としてのモバイルルータ24が設けられている。   As shown in FIG. 2, in order to perform wireless communication between the controller 16 and the drive control device 21 via the HSPA line network 22, the operation seat 15 is provided with a mobile router 23 as a telephone wireless communication terminal. 12 is provided with a mobile router 24 as a telephone wireless communication terminal.

コントローラ16とモバイルルータ23との間にはメディアコンバータ25が設けられ、コントローラ16のインターフェイスから出力された操作信号はメディアコンバータ25によりモバイルルータ23に適合した伝送データに変換されてモバイルルータ23のインターフェイスに入力される。本実施の形態では、コントローラ16のRS422インターフェイスから操作信号が出力され、その操作信号はメディアコンバータ25によりRS232cに変換されてモバイルルータのRS232cインターフェイスに入力される。   A media converter 25 is provided between the controller 16 and the mobile router 23, and an operation signal output from the interface of the controller 16 is converted into transmission data suitable for the mobile router 23 by the media converter 25 to be an interface of the mobile router 23. Is input. In the present embodiment, an operation signal is output from the RS422 interface of the controller 16, and the operation signal is converted into RS232c by the media converter 25 and input to the RS232c interface of the mobile router.

駆動制御装置21とモバイルルータ24との間にもメディアコンバータ26が設けられ、モバイルルータ24のインターフェイスから出力された操作信号はメディアコンバータ26により駆動制御装置21に適合した伝送データに戻されて駆動制御装置21のインターフェイスに入力される。本実施の形態では、操作信号はモバイルルータ24のRS232cインターフェイスから出力され、メディアコンバータ26によりRS422に変換されて駆動制御装置21のRS422インターフェイスに入力される。   A media converter 26 is also provided between the drive control device 21 and the mobile router 24, and the operation signal output from the interface of the mobile router 24 is returned to transmission data suitable for the drive control device 21 by the media converter 26 and driven. Input to the interface of the control device 21. In the present embodiment, the operation signal is output from the RS232c interface of the mobile router 24, converted to RS422 by the media converter 26, and input to the RS422 interface of the drive control device 21.

各モバイルルータ23,24は、それぞれ無線によりHSPA回線網22に接続可能となっている。これにより、操作席15の側のモバイルルータ23と作業機械12の側のモバイルルータ24はHSPA回線網22を介して互いにデータ通信を行うことができる。コントローラ16が操作されると、その操作信号はコントローラ16の側つまり操作席15の側のモバイルルータ23から出力され、HSPA回線網22を介して作業機械12の側のモバイルルータ24に伝送されて駆動制御装置21に入力される。   Each of the mobile routers 23 and 24 can be connected to the HSPA network 22 by radio. Accordingly, the mobile router 23 on the operation seat 15 side and the mobile router 24 on the work machine 12 side can perform data communication with each other via the HSPA network 22. When the controller 16 is operated, the operation signal is output from the mobile router 23 on the controller 16 side, that is, the operation seat 15 side, and transmitted to the mobile router 24 on the work machine 12 side via the HSPA line network 22. Input to the drive control device 21.

このように、この遠隔操作システム11では、コントローラ16と駆動制御装置21とをHSPA回線網22を介して無線通信させることにより、作業機械12をコントローラ16により無線で遠隔操作するようにしている。したがって、コントローラ16と作業機械12は、これらがHSPA回線網22に接続可能な場所にあれば、互いにどんなに離れていても、その距離に拘わらず互いに無線通信を行うことができる。   As described above, in the remote operation system 11, the controller 16 and the drive control device 21 are wirelessly communicated with each other via the HSPA line network 22, so that the work machine 12 is wirelessly operated remotely by the controller 16. Accordingly, the controller 16 and the work machine 12 can perform wireless communication with each other regardless of the distance between the controller 16 and the work machine 12 as long as they are connected to the HSPA network 22.

ここで、HSPA(High
Speed Packet Access)回線網22とは、3GPP(Third Generation
Partnership Project)により規定されたHSPA規格に準拠した高速無線パケット通信を行う第3.5世代移動通信システムの電話回線網である。高速無線パケット通信はHSDPA(高速ダウンリンクパケットアクセス)とHSUPA(高速アップリンクパケットアクセス)を含む。このようなHSPA回線網22としては、例えば株式会社エヌ・ティ・ティ・ドコモが提供する「FOMA(登録商標)ハイスピードサービス」、ソフトバンクモバイル株式会社が提供する「3G ハイスピード(登録商標)」、イー・モバイル株式会社の提供する「EMモバイル(登録商標)ブロードバンドサービス」などがある。
Where HSPA (High
Speed Packet Access (22) is 3GPP (Third Generation)
This is a telephone network of a 3.5th generation mobile communication system that performs high-speed wireless packet communication conforming to the HSPA standard defined by the Partnership Project. High speed wireless packet communication includes HSDPA (High Speed Downlink Packet Access) and HSUPA (High Speed Uplink Packet Access). Examples of such an HSPA network 22 include “FOMA (registered trademark) high speed service” provided by NTT DoCoMo, Inc. and “3G high speed (registered trademark)” provided by SOFTBANK MOBILE Corp. And “EM Mobile (registered trademark) broadband service” provided by EMOBILE.

図2に示すように、作業機械12には作業部(ショベル)12aを撮影するカメラ31が設けられている。このカメラ31は動画を撮影するビデオカメラとなっており、このカメラ31の撮影した映像信号は操作席15のモニタ17に無線で伝送される。つまり、操作席15のモニタ17にはカメラ31が撮影した作業機械12の作業部12aが表示される。これにより、操作者はモニタ17に表示された作業部12aの状態を確認しながらコントローラ16を操作して作業機械12を遠隔操作することができる。   As shown in FIG. 2, the work machine 12 is provided with a camera 31 for photographing a working unit (excavator) 12 a. The camera 31 is a video camera that captures moving images, and the video signal captured by the camera 31 is wirelessly transmitted to the monitor 17 of the operation seat 15. That is, the work unit 12 a of the work machine 12 captured by the camera 31 is displayed on the monitor 17 of the operation seat 15. As a result, the operator can remotely operate the work machine 12 by operating the controller 16 while confirming the state of the work unit 12 a displayed on the monitor 17.

なお、このカメラ31は、作業部12aの作業状態を撮影することができるように、例えば作業機械12の運転台等に固定され、または無線でその撮影方向を変更できるように設けられる。   The camera 31 is fixed, for example, on the cab of the work machine 12 so that the working state of the working unit 12a can be photographed, or provided so that the photographing direction can be changed wirelessly.

カメラ31の映像をモニタ17に無線で伝送するために、カメラ31はイーサネット(登録商標)によりモバイルルータ24に接続されている。カメラ31とモバイルルータ24との間にはエンコーダ32が接続され、カメラ31の映像信号(ビデオカメラ信号:NTSC)はエンコーダ32によりH.264(MPEG−4 AVC)の圧縮符号化が行われてモバイルルータ24に入力される。   In order to wirelessly transmit the video of the camera 31 to the monitor 17, the camera 31 is connected to the mobile router 24 by Ethernet (registered trademark). An encoder 32 is connected between the camera 31 and the mobile router 24, and a video signal (video camera signal: NTSC) of the camera 31 is transmitted to the H.264 by the encoder 32. H.264 (MPEG-4 AVC) compression encoding is performed and input to the mobile router 24.

一方、モニタ17はイーサネット(登録商標)を介してモバイルルータ23に接続されている。モバイルルータ23とモニタ17との間にはデコーダ33が接続され、エンコーダ32より圧縮符号化されたカメラ31からの伝送データはデコーダ33により元の映像信号に復元されてモニタ17に入力される。   On the other hand, the monitor 17 is connected to the mobile router 23 via Ethernet (registered trademark). A decoder 33 is connected between the mobile router 23 and the monitor 17, and transmission data from the camera 31 compressed and encoded by the encoder 32 is restored to the original video signal by the decoder 33 and input to the monitor 17.

モニタ17に接続されたモバイルルータ23はHSPA回線網22に接続可能となっているので、カメラ31の側のモバイルルータ24とモニタ17の側のモバイルルータ23はHSPA回線網22を介して互いにデータ通信を行うことができる。したがって、カメラ31からの映像信号は、モバイルルータ24、HSPA回線網22およびモバイルルータ23を介して伝送されてモニタ17に入力される。このように、作業機械12の作業部12aを撮影したカメラ31の映像信号も、コントローラ16の操作信号と同様に、HSPA回線網22を介した無線通信により伝送されてモニタ17に入力される。   Since the mobile router 23 connected to the monitor 17 can be connected to the HSPA network 22, the mobile router 24 on the camera 31 side and the mobile router 23 on the monitor 17 side exchange data with each other via the HSPA network 22. Communication can be performed. Therefore, the video signal from the camera 31 is transmitted via the mobile router 24, the HSPA network 22 and the mobile router 23 and input to the monitor 17. As described above, the video signal of the camera 31 that images the working unit 12 a of the work machine 12 is also transmitted by wireless communication via the HSPA network 22 and input to the monitor 17, similarly to the operation signal of the controller 16.

図1に示すように、作業現場14には、作業機械12に設けられたカメラ31とは別に2台のカメラ41,42が配置されている。これらのカメラ41,42はそれぞれ支持台43,44により支持されて作業現場14に配置されており、作業現場14に配置された作業機械12の作業の様子を外方から撮影するようになっている。   As shown in FIG. 1, two cameras 41 and 42 are arranged in the work site 14 in addition to the camera 31 provided in the work machine 12. These cameras 41 and 42 are supported by support bases 43 and 44, respectively, and are arranged at the work site 14, and the working state of the work machine 12 arranged at the work site 14 is photographed from the outside. Yes.

支持台43,44に支持された各カメラ41,42には、作業機械12に設けられたカメラ31と同様に、それぞれモバイルルータ45,46がイーサネットにより接続されている。また、各カメラ42,43とモバイルルータ45,46の間にはそれぞれエンコーダ47,48が接続され、カメラ41,42の映像信号(ビデオカメラ信号:NTSC)はエンコーダ47,48によりH.264(MPEG−4 AVC)の圧縮符号化が行われてからモバイルルータ45,46に入力されるようになっている。   As with the camera 31 provided on the work machine 12, mobile routers 45 and 46 are connected to the cameras 41 and 42 supported by the support bases 43 and 44, respectively, via Ethernet. Also, encoders 47 and 48 are connected between the cameras 42 and 43 and the mobile routers 45 and 46, respectively, and video signals (video camera signals: NTSC) of the cameras 41 and 42 are transmitted to the H.264 by the encoders 47 and 48, respectively. It is input to the mobile routers 45 and 46 after H.264 (MPEG-4 AVC) compression encoding is performed.

図2、図3に示すように、これらのカメラ41,42に対応したサブモニタ51,52がモニタ17の両脇に位置して操作席15に配置されている。これらのサブモニタ51,52にはそれぞれイーサネットを介してモバイルルータ53,54が接続され、モバイルルータ53,54とサブモニタ51,52との間にはそれぞれデコーダ55,56が接続されている。これにより、カメラ41,42が撮影した映像信号は、モバイルルータ45,46、HSPA回線網22およびモバイルルータ53,54を介して対応するサブモニタ51,52に入力され、各サブモニタ51,52にそれぞれカメラ41,42により撮影された作業機械12の外方から見た作業の様子が表示される。   As shown in FIGS. 2 and 3, sub-monitors 51 and 52 corresponding to these cameras 41 and 42 are located on both sides of the monitor 17 and arranged in the operation seat 15. Mobile routers 53 and 54 are connected to the sub-monitors 51 and 52 via Ethernet, respectively, and decoders 55 and 56 are connected between the mobile routers 53 and 54 and the sub-monitors 51 and 52, respectively. As a result, the video signals captured by the cameras 41 and 42 are input to the corresponding sub-monitors 51 and 52 via the mobile routers 45 and 46, the HSPA network 22 and the mobile routers 53 and 54, and are input to the sub-monitors 51 and 52, respectively. The state of the work seen from the outside of the work machine 12 photographed by the cameras 41 and 42 is displayed.

操作席15のモニタ17には作業部12aの映像が表示され、サブモニタ51,52には作業機械12を外方から見た映像が表示されるので、操作席15の座席57に座った操作者は、これらのモニタ17,51,52の映像を見ながらコントローラ16を操作して作業機械12を遠隔操作することができる。そして、コントローラ16が操作されると、その操作信号がHSPA回線網22を介して作業機械12に伝送され、作業機械12が遠隔操作されて無人で作業が行なわれる。   An image of the work unit 12a is displayed on the monitor 17 of the operation seat 15, and an image of the work machine 12 viewed from the outside is displayed on the sub-monitors 51 and 52. Therefore, the operator sitting on the seat 57 of the operation seat 15 Can remotely control the work machine 12 by operating the controller 16 while viewing the images on the monitors 17, 51, 52. When the controller 16 is operated, the operation signal is transmitted to the work machine 12 via the HSPA network 22, and the work machine 12 is remotely operated to perform an unattended operation.

図2に示すように、本発明の遠隔操作システム11には、モニタ17の画像遅れを補完して作業能率を高めるために、振動検出センサ61と振動発生装置(振動発生手段)62からなる振動伝達システムが設けられている。   As shown in FIG. 2, in the remote control system 11 of the present invention, a vibration comprising a vibration detecting sensor 61 and a vibration generating device (vibration generating means) 62 in order to complement the image delay of the monitor 17 and increase the work efficiency. A transmission system is provided.

振動検出センサ61は作業機械12に設けられ、作業部12aが所定の作業を行うことにより生じる振動を検出する。例えば、本実施の形態においては、振動検出センサ61は、作業部12aであるショベルが土壌に向けて上方から下方に移動し、土壌の表面に衝突したときに生じる振動を作業による振動として検出するように設定されている。振動検出センサ61としては加速度センサが用いられており、作業部12aないし作業機械12の運転台等に固定されて設けられる。   The vibration detection sensor 61 is provided in the work machine 12 and detects vibration generated when the work unit 12a performs a predetermined work. For example, in the present embodiment, the vibration detection sensor 61 detects vibration generated when the excavator, which is the working unit 12a, moves downward from above toward the soil and collides with the surface of the soil as vibration due to work. Is set to An acceleration sensor is used as the vibration detection sensor 61 and is fixed to the work unit 12a or the cab of the work machine 12 or the like.

なお、本実施の形態においては、振動検出センサ61を、作業部12aが土壌に衝突したときに生じる振動を作業による振動として検出するように設定しているが、これに限らず、作業機械12の種類や作業部12aの種類などに応じて、作業部12aが所望の作業をしたときに振動検出センサ61が作業部12aの作業による振動を検出するように設定することができる。   In the present embodiment, the vibration detection sensor 61 is set so as to detect the vibration generated when the working unit 12a collides with the soil as the vibration caused by the work. The vibration detection sensor 61 can be set so as to detect vibration due to the work of the work unit 12a when the work unit 12a performs a desired work according to the type of the work unit 12a.

振動検出センサ61は作業機械12に設けられたモバイルルータ24に接続され、振動検出センサ61の検出信号はモバイルルータ24からHSPA回線網22を介して操作席15の側のモバイルルータ23に無線で伝送される。   The vibration detection sensor 61 is connected to a mobile router 24 provided in the work machine 12, and a detection signal of the vibration detection sensor 61 is wirelessly transmitted from the mobile router 24 to the mobile router 23 on the operation seat 15 side via the HSPA network 22. Is transmitted.

一方、振動発生装置62は操作席の15コントローラ16に設けられる。振動発生装置62はモバイルルータ23に接続されており、作業機械12の側のモバイルルータ24から伝送された振動検出センサ61からの検出信号はモバイルルータ23で受信され、そこから振動発生装置62に入力される。振動検出センサ61からの検出信号が入力されると、振動発生装置62は作動を開始し、コントローラ16の操作レバー16aに振動を加える。つまり、作業機械12の作業部12aが土壌等に衝突して振動を生じると、その振動の発生に合わせてコントローラ16の操作レバー16aに振動発生装置62により振動が加えられるようになっている。   On the other hand, the vibration generator 62 is provided in the 15 controller 16 of the operation seat. The vibration generator 62 is connected to the mobile router 23, and the detection signal from the vibration detection sensor 61 transmitted from the mobile router 24 on the work machine 12 side is received by the mobile router 23, and from there, the vibration generator 62 receives the detection signal. Entered. When the detection signal from the vibration detection sensor 61 is input, the vibration generator 62 starts to operate and applies vibration to the operation lever 16a of the controller 16. That is, when the working unit 12a of the work machine 12 collides with soil or the like and generates vibration, the vibration generating device 62 applies vibration to the operation lever 16a of the controller 16 in accordance with the generation of the vibration.

振動発生装置62は、コントローラ16に設ける構成に限らず、操作者に振動を伝達できるように操作席15に設けられていればよい。例えば、図3に示すように、振動発生装置62をコントローラ16に加えて操作席15の座席57にも設けるようにしてもよい。この場合、作業機械12の作業部12aが土壌等に衝突して振動を生じると、その振動の発生に合わせてコントローラ16の操作レバー16aに加えて座席57にも振動が加えられる。なお、振動発生装置62をコントローラ16または座席57のいずれか一方にのみ設けるようにしてもよい。   The vibration generator 62 is not limited to the configuration provided in the controller 16, and may be provided in the operation seat 15 so that vibration can be transmitted to the operator. For example, as shown in FIG. 3, the vibration generator 62 may be provided in the seat 57 of the operation seat 15 in addition to the controller 16. In this case, when the work unit 12a of the work machine 12 collides with soil or the like and generates vibration, vibration is applied to the seat 57 in addition to the operation lever 16a of the controller 16 in accordance with the generation of the vibration. Note that the vibration generator 62 may be provided only on either the controller 16 or the seat 57.

カメラ31からモニタ17に無線で伝送される映像信号は、コントローラ16から作業機械12に無線で伝送される操作信号に比べて信号のデータ量が大きいので、カメラ31からの映像信号が無線伝送されてモニタ17に表示されるまでのタイムラグはコントローラ16の操作により作業部12aが作動を開始するまでのタイムラグに比べて大きくなる。そのため、モニタ17の表示には、コントローラ16の操作による実際の作業部12aの動作に対してモニタ17に表示される作業部12aの動作が遅れる「画像遅れ」が生じることになる。一方、振動検出センサ61の検出信号はカメラ31の映像信号に比べてデータ量が小さいので、コントローラ16の操作信号と同様、無線通信により振動発生装置62にまで小さなタイムラグで瞬時に伝送される。つまり、本発明の遠隔操作システム11では、モニタ17の表示に画像遅れが生じても、作業機械12の作業部12aが土壌等に衝突して生じた振動は瞬時にコントローラ16や座席57に伝達されることになる。   Since the video signal transmitted wirelessly from the camera 31 to the monitor 17 has a larger data amount than the operation signal transmitted wirelessly from the controller 16 to the work machine 12, the video signal from the camera 31 is wirelessly transmitted. Thus, the time lag until it is displayed on the monitor 17 becomes larger than the time lag until the working unit 12a starts operating by the operation of the controller 16. Therefore, the display on the monitor 17 causes an “image delay” in which the operation of the work unit 12 a displayed on the monitor 17 is delayed with respect to the actual operation of the work unit 12 a by the operation of the controller 16. On the other hand, since the detection signal of the vibration detection sensor 61 has a smaller data amount than the video signal of the camera 31, it is instantaneously transmitted to the vibration generator 62 by wireless communication with a small time lag, similar to the operation signal of the controller 16. That is, in the remote operation system 11 of the present invention, even if an image delay occurs in the display on the monitor 17, the vibration generated when the work unit 12 a of the work machine 12 collides with soil or the like is instantaneously transmitted to the controller 16 or the seat 57. Will be.

これにより、操作席15で作業機械12を操作する操作者は、画像遅れによりモニタ17に表示される作業部12aが未だ土壌に衝突していなくても、コントローラ16や座席57に加えられる振動により、実際には作業部12aが土壌等に衝突して振動しているであろうこと、つまり実際の作業部12aが土壌に衝突する位置にまで移動していることを推測ないし認識することができる。したがって、操作者は、コントローラ16や座席57に加えられる振動に基づき、作業部12aが土壌等に衝突したことを推測ないし認識することで、モニタ17に表示される作業部12aの画像遅れを補完しながらコントローラ16により作業機械12の操作を行うことができる。   As a result, the operator who operates the work machine 12 at the operation seat 15 can detect the vibration due to the vibration applied to the controller 16 or the seat 57 even if the work unit 12a displayed on the monitor 17 has not yet collided with the soil due to the image delay. In fact, it can be estimated or recognized that the working unit 12a will vibrate by colliding with the soil or the like, that is, the actual working unit 12a has moved to a position where it collides with the soil. . Therefore, the operator compensates for the image delay of the working unit 12a displayed on the monitor 17 by estimating or recognizing that the working unit 12a collides with the soil or the like based on the vibration applied to the controller 16 or the seat 57. However, the work machine 12 can be operated by the controller 16.

このように、本発明の遠隔操作システム11では、作業機械12の作業部12aが作業により振動を生じたときに操作席15に振動を加えるようにしたので、モニタ17の表示に画像遅れが生じても、操作席15に加えられる振動により操作者に作業部12aの実際の位置を推測ないし認識させることができる。これにより、操作者が操作席15に加えられる振動に基づきモニタ17の画像遅れを補完しながら作業部12aの操作を行うことを可能として、この遠隔操作システム11を用いた作業の能率を高めることができる。   As described above, in the remote operation system 11 of the present invention, when the work unit 12a of the work machine 12 is vibrated by the work, the operation seat 15 is vibrated, so that an image delay occurs in the display on the monitor 17. However, it is possible to cause the operator to guess or recognize the actual position of the working unit 12a by the vibration applied to the operation seat 15. As a result, the operator can operate the work unit 12a while complementing the image delay of the monitor 17 based on the vibration applied to the operation seat 15, and the work efficiency using the remote operation system 11 is improved. Can do.

図2に示すように、本発明の遠隔操作システム11には、振動伝達システムに加えて線画作成用データ作成手段としての線画作成用データ作成装置70と線画作成手段としての線画作成装置71を備えた線画表示システムが設けられている。この線画表示システムは、図4に示すように、カメラ31が撮影した作業部12aの撮影映像に重ねて、線画作成装置71で作成した作業部12aの線画72をモニタ17に表示することにより、モニタ17の表示の画像遅れをさらに容易に補完できるようにしている。   As shown in FIG. 2, the remote control system 11 of the present invention includes a line drawing creation data creation device 70 as a line drawing creation data creation means and a line drawing creation device 71 as a line drawing creation means in addition to the vibration transmission system. A line drawing display system is provided. As shown in FIG. 4, the line drawing display system displays a line drawing 72 of the working unit 12 a created by the line drawing creating device 71 on the monitor 17 so as to be superimposed on the shot image of the working unit 12 a taken by the camera 31. The image delay of the display on the monitor 17 can be complemented more easily.

線画作成用データ作成装置70はCPU(中央演算処理装置)やメモリ等を備えたマイクロコンピュータとして構成されており、作業機械12に設けられてイーサネットによりカメラ31に接続されている。カメラ31からの撮影映像の映像データが入力されると、線画作成用データ作成装置70は、その撮影画像を画像認識(パターン認識)を実行するソフトウェアにより処理して撮影画像から作業部12aの輪郭を検出し、検出した輪郭に沿った形状の線画72を作成するために必要な線画作成用データを作成する。つまり、線画作成用データ作成装置70は、カメラ31から入力された撮影映像の作業部12aに対応した位置に作業部12aの輪郭に対応した形状の線画72を作成するために必要な線画作成用データを作成する。そして、線画作成用データ作成装置70は作成した線画作成用データをモニタ17に向けて出力する。   The line drawing creation data creation device 70 is configured as a microcomputer having a CPU (Central Processing Unit), a memory, and the like, and is provided in the work machine 12 and connected to the camera 31 by Ethernet. When video data of a photographed video from the camera 31 is input, the line drawing creation data creation device 70 processes the photographed image by software for executing image recognition (pattern recognition), and the contour of the working unit 12a is obtained from the photographed image. , And line drawing creation data necessary for creating a line drawing 72 having a shape along the detected outline is created. That is, the line drawing creation data creation device 70 creates line drawings 72 necessary for creating a line drawing 72 having a shape corresponding to the contour of the work unit 12a at a position corresponding to the work unit 12a of the captured video input from the camera 31. Create data. Then, the line drawing creation data creation device 70 outputs the created line drawing creation data to the monitor 17.

線画作成用データ作成装置70はモバイルルータ24に接続されており、線画作成用データ作成装置70が作成した線画作成用データはモバイルルータ24からHSPA回線網22を介して操作席15の側のモバイルルータ23に伝送される。   The line drawing creation data creation device 70 is connected to the mobile router 24, and the line drawing creation data created by the line drawing creation data creation device 70 is transferred from the mobile router 24 via the HSPA line network 22 to the mobile station 15. It is transmitted to the router 23.

線画作成装置71は操作席15に設けられており、イーサネットによりモバイルルータ23に接続されている。モバイルルータ23に伝送された線画作成用データはモバイルルータ23を介して線画作成装置71に入力される。線画作成装置71はCPU(中央演算処理装置)やメモリ等を備えたマイクロコンピュータとして構成されており、イーサネットによりモニタ17に接続されている。   The line drawing creation device 71 is provided in the operation seat 15 and is connected to the mobile router 23 by Ethernet. The line drawing creation data transmitted to the mobile router 23 is input to the line drawing creation device 71 via the mobile router 23. The line drawing creation device 71 is configured as a microcomputer having a CPU (Central Processing Unit), a memory, and the like, and is connected to the monitor 17 by Ethernet.

線画作成用データ作成装置70からの線画作成用データが入力されると、線画作成装置71は、線画作成用データに基づいてカメラ31から入力された撮影映像の作業部12aに対応した位置に作業部12aの輪郭に対応した形状の線画72を作成する。そして、線画作成装置71が作成した作業部12aの線画72はモニタ17に入力され、モニタ17にはカメラ31からの映像信号による撮影映像に重ねて線画作成装置71により作成された作業部12aの線画72が表示される。   When the line drawing creation data is input from the line drawing creation data creation device 70, the line drawing creation device 71 works at a position corresponding to the working unit 12a of the captured video input from the camera 31 based on the line drawing creation data. A line drawing 72 having a shape corresponding to the contour of the portion 12a is created. Then, the line drawing 72 of the working unit 12a created by the line drawing creation device 71 is input to the monitor 17, and the monitor 17 superimposes the photographed video based on the video signal from the camera 31 on the working unit 12a created by the line drawing creation device 71. A line drawing 72 is displayed.

ここで、線画作成用データ作成装置70により作成された作業部12aの線画作成用データは、線画62をモニタ17の画面上に表示するために必要な座標情報により構成され、カメラ31から伝送される映像信号に比べてデータ量が大幅に小さいので、カメラ31からの映像信号に比べて線画作成用データの無線通信によるモニタ17への伝送のタイムラグは小さい。そのため、モニタ17に表示される線画72は、カメラ31からの映像信号による作業部12aの映像に比べて画像遅れが小さくなっている。   Here, the line drawing creation data of the working unit 12 a created by the line drawing creation data creation device 70 is composed of coordinate information necessary for displaying the line drawing 62 on the screen of the monitor 17, and is transmitted from the camera 31. Since the amount of data is significantly smaller than that of the video signal, the time lag of transmission of the line drawing creation data to the monitor 17 by wireless communication is smaller than that of the video signal from the camera 31. Therefore, the line drawing 72 displayed on the monitor 17 has a smaller image delay than the image of the working unit 12 a by the video signal from the camera 31.

図4(a)は作業部の動作前のモニタの表示を示す図であり、(b)は作業部を動作させたときのモニタの表示を示す図である。   FIG. 4A is a diagram showing the display on the monitor before the operation of the working unit, and FIG. 4B is a diagram showing the display on the monitor when the working unit is operated.

作業部12aが停止しているときにはモニタ17に画像遅れは生じないので、図4(a)に示すように、モニタ17にはカメラ31に撮影された作業部12aと作業部12aの線画72とが重ねて表示される。この状態から作業機械12をコントローラ16により無線で遠隔操作して作業部12aを動作させると、作業部12aの移動に伴いモニタ17に表示されるカメラ31の撮影映像には無線通信による画像遅れが生じ、カメラ31の撮影映像による作業部12aは実際の作業部12aの位置からずれて表示される。   Since the image delay does not occur on the monitor 17 when the work unit 12a is stopped, as shown in FIG. 4A, the monitor 17 includes a work unit 12a photographed by the camera 31 and a line drawing 72 of the work unit 12a. Are overlaid. From this state, when the work machine 12 is remotely operated by the controller 16 by radio to operate the work unit 12a, an image delay due to wireless communication is caused in the captured image of the camera 31 displayed on the monitor 17 as the work unit 12a moves. As a result, the working unit 12a based on the video captured by the camera 31 is displayed with a shift from the actual position of the working unit 12a.

これに対して、線画作成用データ作成装置70と線画作成装置71により作成された作業部12aの線画72は無線通信による画像遅れをほとんど生じないので、図4(b)に示すように、線画72はカメラ31の撮影映像による作業部12aに比べて先行する位置に表示される。つまり、モニタ17には、カメラ31の撮影映像の作業部12aよりも実際の作業部12aにより近い位置に線画72が表示される。したがって、操作者は、モニタ17に表示される線画72により、実際の作業部12aの位置を推測ないし認識しながら作業部12aの操作を行うことができる。   On the other hand, since the line drawing 72 of the working unit 12a created by the line drawing creation data creation device 70 and the line drawing creation device 71 hardly causes image delay due to wireless communication, as shown in FIG. Reference numeral 72 is displayed at a position preceding the working unit 12a based on the video captured by the camera 31. That is, the line drawing 72 is displayed on the monitor 17 at a position closer to the actual working unit 12a than the working unit 12a of the captured video of the camera 31. Therefore, the operator can operate the work unit 12a while estimating or recognizing the actual position of the work unit 12a from the line drawing 72 displayed on the monitor 17.

このように、本発明の遠隔操作システム11では、操作者は、操作席15に加えられる振動に加えてモニタ17に表示される作業部12aの線画72に基づき作業部12aの実際の位置を推測ないし認識することができる。したがって、例えば、画像遅れによりモニタ17に表示される作業部12aが未だ土壌に衝突していなくても、振動発生装置62が発生する振動に加えて、線画作成用データ作成装置70と線画作成装置71により作成された作業部12aの線画72が土壌に衝突することを目視することで、実際の作業部12aが土壌等に衝突したこと、つまり実際の作業部12aの位置を推測ないし認識することができる。これにより、操作者は画像遅れをさらに確実に補完しながら作業機械12の操作を行うことができる。   Thus, in the remote operation system 11 of the present invention, the operator estimates the actual position of the work unit 12a based on the line drawing 72 of the work unit 12a displayed on the monitor 17 in addition to the vibration applied to the operation seat 15. Or can be recognized. Therefore, for example, even if the working unit 12a displayed on the monitor 17 due to image delay has not yet collided with the soil, in addition to the vibration generated by the vibration generating device 62, the line drawing creating data creating device 70 and the line drawing creating device. By visually observing that the line drawing 72 of the working unit 12a created by 71 collides with the soil, the actual working unit 12a collides with the soil or the like, that is, the position of the actual working unit 12a is estimated or recognized. Can do. As a result, the operator can operate the work machine 12 while more reliably compensating for the image delay.

図5は図2に示す遠隔操作システムの変形例を示す模式図である。   FIG. 5 is a schematic diagram showing a modification of the remote control system shown in FIG.

図2に示す遠隔操作システム11では、各モニタ17,51,52を、モバイルルータ23,53,54を用いた無線通信によりHSPA回線網22に接続するようにしている。   In the remote control system 11 shown in FIG. 2, the monitors 17, 51, 52 are connected to the HSPA network 22 by wireless communication using mobile routers 23, 53, 54.

これに対して、図5に示す変形例では、各モニタ17,51,52を電話系有線通信端末であるブロードバンドルータ81により有線でHSPA回線網22に接続するようにしている。この場合、各モニタ17,51,52はイーサネットを介してもブロードバンドルータ81に接続され、各モニタ17,51,52とブロードバンドルータ81との間にそれぞれデコーダ33,55,56が接続される。   On the other hand, in the modification shown in FIG. 5, each monitor 17, 51, 52 is connected to the HSPA line network 22 by wire by a broadband router 81 which is a telephone wired communication terminal. In this case, the monitors 17, 51, 52 are also connected to the broadband router 81 via Ethernet, and the decoders 33, 55, 56 are connected between the monitors 17, 51, 52 and the broadband router 81, respectively.

操作席15が建物として構成されたコントロールルーム13に配置され、コントローラ16をコントロールルーム13の外部などに持ち運ぶ必要がない場合には、図5に示す変形例のように、各モニタ17,51,52を電話系有線通信端末であるブロードバンドルータ81を用いてHSPA回線網22に接続することにより、カメラ31から各モニタ17,51,52へ伝送される映像信号の通信速度や通信安定性を高めることができる。   When the operation seat 15 is arranged in the control room 13 configured as a building and it is not necessary to carry the controller 16 to the outside of the control room 13 or the like, as shown in the modification shown in FIG. 52 is connected to the HSPA line network 22 using a broadband router 81 which is a telephone system wired communication terminal, thereby improving the communication speed and communication stability of a video signal transmitted from the camera 31 to each of the monitors 17, 51 and 52. be able to.

一方、図2に示すように、コントローラ16と各モニタ17,51,52の通信端末として電話系無線通信端末であるモバイルルータ23,53,54を用いることにより、操作席15を車両として構成されたコントロールルーム13に配置したりコントローラ16と各モニタ17,51,52を持ち運び可能な構成としたりすることができる。   On the other hand, as shown in FIG. 2, by using mobile routers 23, 53, and 54, which are telephone wireless communication terminals, as the communication terminals of the controller 16 and the monitors 17, 51 and 52, the operation seat 15 is configured as a vehicle. The controller 16 and the monitors 17, 51 and 52 can be carried around.

図6は図2に示す遠隔操作システムの変形例であって、作業機械の側で作成した線画を無線でモニタに伝送するようにした場合を示す模式図である。   FIG. 6 is a schematic diagram showing a modification of the remote control system shown in FIG. 2, in which a line drawing created on the work machine side is wirelessly transmitted to a monitor.

図2に示す遠隔操作システム11では、線画作成用データ作成装置70を作業機械12に設け、線画作成用データ作成装置70が作成した線画作成用データを無線により作業機械12から操作席15に伝送し、操作席15に設けた線画作成装置71により作業部12aの線画72を作成してモニタ17に表示させるようにしている。   In the remote operation system 11 shown in FIG. 2, the line drawing creation data creation device 70 is provided in the work machine 12, and the line drawing creation data created by the line drawing creation data creation device 70 is wirelessly transmitted from the work machine 12 to the operation seat 15. Then, a line drawing 72 of the working unit 12 a is created by the line drawing creating device 71 provided in the operation seat 15 and displayed on the monitor 17.

これに対して、図6に示す変形例では、作業機械12に送信用線画作成手段としての送信用線画作成装置91を設け、送信用線画作成装置91により線画72を作成するようにしている。送信用線画作成装置91は線画作成用データ作成装置70と線画作成装置71の機能を併せ持ったものであり、カメラ31の撮影映像から画像認識等の技術を用いて作業部12aの線画72を作成することができる。   On the other hand, in the modification shown in FIG. 6, the work machine 12 is provided with a transmission line drawing creation device 91 as transmission line drawing creation means, and the transmission line drawing creation device 91 creates the line drawing 72. The transmission line drawing creation device 91 has the functions of both the line drawing creation data creation device 70 and the line drawing creation device 71, and creates the line drawing 72 of the working unit 12a from the captured video of the camera 31 using a technique such as image recognition. can do.

送信用線画作成装置91が作成した線画72の線画データは、モバイルルータ24からHSPA回線網22を介して操作席15の側のモバイルルータ23に伝送され、モニタ17に入力される。この場合も、線画72の線画データは、線画67をモニタ17の画面上に表示するための座標情報により構成され、カメラ31から送信される映像信号に比べてデータ量が大幅に小さいので、カメラ31からの映像信号に比べて無線通信によるモニタ17への伝送のタイムラグが小さく、瞬時にモニタ17に伝送される。   The line drawing data of the line drawing 72 created by the transmission line drawing creation device 91 is transmitted from the mobile router 24 to the mobile router 23 on the operation seat 15 side via the HSPA network 22 and input to the monitor 17. Also in this case, the line drawing data of the line drawing 72 is composed of coordinate information for displaying the line drawing 67 on the screen of the monitor 17, and the amount of data is much smaller than the video signal transmitted from the camera 31. Compared with the video signal from 31, the time lag of transmission to the monitor 17 by wireless communication is small, and it is transmitted to the monitor 17 instantaneously.

なお、図5、図6においては、前述した部材に対応する部材には同一の符号を付してある。   In FIGS. 5 and 6, members corresponding to those described above are denoted by the same reference numerals.

本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。   It goes without saying that the present invention is not limited to the above-described embodiment, and various modifications can be made without departing from the scope of the invention.

例えば、前記実施の形態においては、作業機械12と操作席15とをHSPA回線網22を介して無線通信させるようにしているが、これに限らず、例えば、他の電話回線網を介した無線通信や特定小電力無線などの通常の無線通信など、他の無線通信手段を用いて作業機械12と操作席15とを無線通信させる構成としてもよい。   For example, in the above-described embodiment, the work machine 12 and the operation seat 15 are wirelessly communicated via the HSPA line network 22, but the present invention is not limited to this. For example, wireless communication via another telephone line network is possible. A configuration may be adopted in which the work machine 12 and the operation seat 15 are wirelessly communicated using other wireless communication means such as communication and normal wireless communication such as specific low power wireless communication.

また、前記実施の形態においては、電話系無線通信端末としてモバイルルータ23,24,45,46,53,54を用いているが、これに限らず、電話系無線通信端末として携帯電話など他の通信端末を用いるようにしてもよい。   In the above-described embodiment, the mobile routers 23, 24, 45, 46, 53, and 54 are used as telephone wireless communication terminals. A communication terminal may be used.

さらに、前記実施の形態においては、振動検出センサ61は加速度センサを用いたものとされているが、これに限らず、作業部12aが作業により生じた振動を検出できる振動検出センサ61であれば、例えば静電容量式や渦電流式の変位センサを用いたもの、圧電素子を用いたもの、速度センサを用いたもの、ねじり振動計を用いたものなど、他の方式の振動検出センサを用いるようにしてもよい。   Further, in the above-described embodiment, the vibration detection sensor 61 uses an acceleration sensor. However, the present invention is not limited to this, and the vibration detection sensor 61 can detect vibration generated by the work. Using other types of vibration detection sensors, such as those using capacitance type or eddy current type displacement sensors, those using piezoelectric elements, those using speed sensors, those using torsional vibrometers, etc. You may do it.

さらに、前記実施の形態においては、遠隔操作システム11に振動伝達システムに加えて線画表示システムを設けるようにしているが、これに限らず、振動伝達システムのみを設けるようにしてもよい。   Furthermore, in the above-described embodiment, a line drawing display system is provided in the remote operation system 11 in addition to the vibration transmission system. However, the present invention is not limited to this, and only the vibration transmission system may be provided.

さらに、前記実施の形態においては、災害復旧現場等の作業現場14における作業に本発明を適用しているが、これに限らず、通常の建設現場、土木作業現場などの他の作業現場に本発明の遠隔操作システム11を用いるようにしてもよい。この場合、作業機械12としては建設機械に限らず、その作業用途に応じて、消防用車両、原子力発電所の災害復旧用車両、戦車等の軍用車両などを用いることができる。   Furthermore, in the above-described embodiment, the present invention is applied to work at the work site 14 such as a disaster recovery site. However, the present invention is not limited to this, and the present invention is applied to other work sites such as normal construction sites and civil engineering work sites. You may make it use the remote control system 11 of invention. In this case, the work machine 12 is not limited to a construction machine, and fire fighting vehicles, disaster recovery vehicles for nuclear power plants, military vehicles such as tanks, and the like can be used depending on the work application.

11 遠隔操作システム
12 作業機械
12a 作業部
12b 可動アーム
13 コントロールルーム
14 作業現場
15 操作席
16 コントローラ
16a 操作レバー
17 モニタ
21 駆動制御装置
22 HSPA回線網
23,24 モバイルルータ(電話系無線通信端末)
25,26 メディアコンバータ
31 カメラ
32 エンコーダ
33 デコーダ
41,42 カメラ
43,44 支持台
45,46 モバイルルータ(電話系無線通信端末)
47,48 エンコーダ
51,52 サブモニタ
53,54 モバイルルータ(電話系無線通信端末)
55,56 デコーダ
57 座席
61 振動検出センサ
62 振動発生装置(振動発生手段)
70 線画作成用データ作成装置(線画作成用データ作成手段)
71 線画作成装置(線画作成手段)
72 線画
81 ブロードバンドルータ(電話系有線通信端末)
91 送信用線画作成装置(送信用線画作成手段)
DESCRIPTION OF SYMBOLS 11 Remote operation system 12 Work machine 12a Working part 12b Movable arm 13 Control room 14 Work site 15 Operation seat 16 Controller 16a Operation lever 17 Monitor 21 Drive control device 22 HSPA line network 23, 24 Mobile router (telephone radio communication terminal)
25, 26 Media converter 31 Camera 32 Encoder 33 Decoder 41, 42 Camera 43, 44 Support base 45, 46 Mobile router (telephone wireless communication terminal)
47, 48 Encoder 51, 52 Sub monitor 53, 54 Mobile router (telephone wireless communication terminal)
55, 56 Decoder 57 Seat 61 Vibration detection sensor 62 Vibration generator (vibration generator)
70 Line drawing creation data creation device (line drawing creation data creation means)
71 Line drawing creation device (line drawing creation means)
72 Line Drawing 81 Broadband Router (Telephone Wired Communication Terminal)
91 Transmission line drawing creation device (transmission line drawing creation means)

Claims (9)

作業部を備えた作業機械を操作席に設けたコントローラにより無線で遠隔操作する遠隔操作システムであって、
前記作業機械に設けられ、前記作業部を撮影するカメラと、
前記操作席に設けられ、前記カメラの映像信号が無線で伝送されるモニタと、
前記作業機械に設けられ、前記作業部が作業により生じた振動を検出する振動検出センサと、
前記操作席に設けられ、前記振動検出センサの検出信号が無線で伝送される振動発生手段とを有し、
前記振動検出センサが前記作業部の作業による振動を検出したときに、前記振動発生手段により前記操作席に振動が加えられることを特徴とする遠隔操作システム。
A remote operation system for remotely operating a work machine equipped with a work unit wirelessly by a controller provided in an operation seat,
A camera provided on the work machine and photographing the working unit;
A monitor provided in the operation seat and wirelessly transmitting video signals of the camera;
A vibration detection sensor provided in the work machine, wherein the working unit detects vibration caused by work;
Vibration generating means provided in the operation seat and wirelessly transmitting a detection signal of the vibration detection sensor;
The remote operation system according to claim 1, wherein when the vibration detection sensor detects vibration due to work of the working unit, vibration is applied to the operation seat by the vibration generating means.
請求項1記載の遠隔操作システムにおいて、
前記振動発生手段が前記コントローラに振動を加えることを特徴とする遠隔操作システム。
The remote control system according to claim 1, wherein
The remote operation system, wherein the vibration generating means applies vibration to the controller.
請求項1記載の遠隔操作システムにおいて、
前記振動発生手段が前記操作席の座席部分に振動を加えることを特徴とする遠隔操作システム。
The remote control system according to claim 1, wherein
The remote operation system, wherein the vibration generating means applies vibration to a seat portion of the operation seat.
請求項1〜3のいずれか1項に記載の遠隔操作システムにおいて、
前記作業機械に設けられ、前記作業部の線画を作成するために必要な線画作成用データを作成する線画作成用データ作成手段と、
前記操作席に設けられ、無線で伝送された前記線画作成用データに基づいて前記カメラの撮影映像の前記作業部に対応した位置に前記作業部の線画を作成する線画作成手段とを有し、
前記線画作成手段が作成した線画を前記カメラの撮影映像に重ねて前記モニタに表示させることを特徴とする遠隔操作システム。
The remote control system according to any one of claims 1 to 3,
Line drawing creation data creation means for creating line drawing creation data necessary for creating a line drawing of the working unit provided in the work machine;
Line drawing creation means for creating a line drawing of the working unit at a position corresponding to the working unit of the video captured by the camera based on the line drawing creation data wirelessly transmitted to the operation seat;
A remote control system, wherein the line drawing created by the line drawing creation means is displayed on the monitor so as to be superimposed on a video image taken by the camera.
請求項1〜3のいずれか1項に記載の遠隔操作システムにおいて、
前記作業機械に設けられ、前記カメラの撮影映像の前記作業部に対応した位置に前記作業部の線画を作成する送信用線画作成手段を有し、
前記送信用線画作成手段が作成した線画を無線で前記モニタに伝送して前記カメラの撮影映像に重ねて前記モニタに表示させることを特徴とする遠隔操作システム。
The remote control system according to any one of claims 1 to 3,
Provided in the work machine, and having a transmission line drawing creating means for creating a line drawing of the working unit at a position corresponding to the working unit of the video captured by the camera;
A remote operation system, wherein a line drawing created by the transmission line drawing creation means is wirelessly transmitted to the monitor and displayed on the monitor so as to be superimposed on a video image taken by the camera.
請求項1〜5のいずれか1項に記載の遠隔操作システムにおいて、
HSPA回線網に無線で接続される電話系無線通信端末により前記作業機械と前記操作席との間の無線通信を行うことを特徴とする遠隔操作システム。
In the remote control system according to any one of claims 1 to 5,
A remote operation system for performing wireless communication between the work machine and the operation seat by a telephone wireless communication terminal wirelessly connected to an HSPA network.
請求項6記載の遠隔操作システムにおいて、
前記電話系無線通信端末はモバイルルータであることを特徴とする遠隔操作システム。
The remote control system according to claim 6, wherein
The remote control system according to claim 1, wherein the telephone wireless communication terminal is a mobile router.
請求項1〜5のいずれか1項に記載の遠隔操作システムにおいて、
HSPA回線網に無線で接続される電話系無線通信端末と前記HSPA回線網に有線で接続される電話系有線通信端末とにより前記作業機械と前記操作席との間の無線通信を行うことを特徴とする遠隔操作システム。
In the remote control system according to any one of claims 1 to 5,
Wireless communication between the work machine and the operator seat is performed by a telephone wireless communication terminal connected wirelessly to the HSPA line network and a telephone wired communication terminal connected by wire to the HSPA line network. Remote control system.
請求項8記載の遠隔操作システムにおいて、
前記電話系無線通信端末はモバイルルータであり、前記電話系有線電話端末はブロードバンドルータであることを特徴とする遠隔操作システム。
The remote control system according to claim 8, wherein
The telephone system wireless communication terminal is a mobile router, and the telephone system wired telephone terminal is a broadband router.
JP2012030499A 2012-02-15 2012-02-15 Remote control system Active JP5950607B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012030499A JP5950607B2 (en) 2012-02-15 2012-02-15 Remote control system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012030499A JP5950607B2 (en) 2012-02-15 2012-02-15 Remote control system

Publications (2)

Publication Number Publication Date
JP2013168777A true JP2013168777A (en) 2013-08-29
JP5950607B2 JP5950607B2 (en) 2016-07-13

Family

ID=49178873

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012030499A Active JP5950607B2 (en) 2012-02-15 2012-02-15 Remote control system

Country Status (1)

Country Link
JP (1) JP5950607B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017022433A (en) * 2015-07-07 2017-01-26 日立建機株式会社 Remote control system
JP2017158133A (en) * 2016-03-04 2017-09-07 株式会社荏原製作所 Reproduction system, monitoring system, and reproduction method
WO2019069974A1 (en) * 2017-10-04 2019-04-11 株式会社小松製作所 Working vehicle, control device, and method for controlling working vehicle
JP2020084702A (en) * 2018-11-30 2020-06-04 コベルコ建機株式会社 Remote control device for construction machine
WO2020110605A1 (en) 2018-11-30 2020-06-04 コベルコ建機株式会社 Teleoperation device for construction machinery

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06272282A (en) * 1993-03-22 1994-09-27 Fujita Corp Remote operation system of excavation device
JPH09217382A (en) * 1996-02-09 1997-08-19 Hitachi Constr Mach Co Ltd Remote controller excavator
JP2002152399A (en) * 2000-11-09 2002-05-24 Fujita Corp Remote operation system
JP2003159673A (en) * 2001-11-26 2003-06-03 Nec Fielding Ltd Virtual space provision system, method and program therefor
JP2008144379A (en) * 2006-12-06 2008-06-26 Shin Caterpillar Mitsubishi Ltd Image processing system of remote controlled working machine

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06272282A (en) * 1993-03-22 1994-09-27 Fujita Corp Remote operation system of excavation device
JPH09217382A (en) * 1996-02-09 1997-08-19 Hitachi Constr Mach Co Ltd Remote controller excavator
JP2002152399A (en) * 2000-11-09 2002-05-24 Fujita Corp Remote operation system
JP2003159673A (en) * 2001-11-26 2003-06-03 Nec Fielding Ltd Virtual space provision system, method and program therefor
JP2008144379A (en) * 2006-12-06 2008-06-26 Shin Caterpillar Mitsubishi Ltd Image processing system of remote controlled working machine

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017022433A (en) * 2015-07-07 2017-01-26 日立建機株式会社 Remote control system
JP2017158133A (en) * 2016-03-04 2017-09-07 株式会社荏原製作所 Reproduction system, monitoring system, and reproduction method
WO2019069974A1 (en) * 2017-10-04 2019-04-11 株式会社小松製作所 Working vehicle, control device, and method for controlling working vehicle
JP2019068346A (en) * 2017-10-04 2019-04-25 株式会社小松製作所 Working vehicle, controller and control method for working vehicle
US11537121B2 (en) 2017-10-04 2022-12-27 Komatsu Ltd. Work vehicle, control device, and method for controlling work vehicle
JP2020084702A (en) * 2018-11-30 2020-06-04 コベルコ建機株式会社 Remote control device for construction machine
WO2020110605A1 (en) 2018-11-30 2020-06-04 コベルコ建機株式会社 Teleoperation device for construction machinery
JP7183744B2 (en) 2018-11-30 2022-12-06 コベルコ建機株式会社 Remote control device for construction machinery
US11952747B2 (en) 2018-11-30 2024-04-09 Kobelco Construction Machinery Co., Ltd. Teleoperation device for construction machinery

Also Published As

Publication number Publication date
JP5950607B2 (en) 2016-07-13

Similar Documents

Publication Publication Date Title
JP5919022B2 (en) Remote control system
JP5950607B2 (en) Remote control system
JP7108750B2 (en) System and method
EP3754120B1 (en) Remote control system and main control device
JP2013168776A (en) Remote control system
JP2010248703A (en) Control system, control method, operation control unit, and working device
JPWO2015198410A1 (en) External recognition device
KR20100127963A (en) System and method for preventing overturn of unmanned excavator
JP2018021395A (en) Remote operation system of construction machine
JP2017092908A (en) Video transmission system for remote control construction machine
JP6917167B2 (en) Bird's-eye view image display device for construction machinery
EP3923594B1 (en) Remote operation system
EP3822923A1 (en) Maintenance assistance system, maintenance assistance method, program, method for generating processed image, and processed image
JP2008007308A (en) Operation report system used when earthquake occurs
JP6933545B2 (en) Work vehicle, control device, and work vehicle control method
KR20130052822A (en) Remote controlling system for heavy equipment based on a communication channel and controlling method thereof
JP6256874B2 (en) Overhead image display device for construction machinery
KR20120008840A (en) The mobile station for a remote control excavator
EP4130403A1 (en) Image processing device and image processing method
CN110475163A (en) A kind of excavator tele-control system and excavator
US11952747B2 (en) Teleoperation device for construction machinery
AU2022350996A1 (en) Method and a control node for controlling a mining rig
JP2020084702A (en) Remote control device for construction machine
JP2019068254A (en) Display controller and display control method
JP2016201007A (en) Transportation facility remote maintenance system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150318

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20150318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160531

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160607

R150 Certificate of patent or registration of utility model

Ref document number: 5950607

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250