JP2004094622A - Computer remote control device and work supporting system - Google Patents

Computer remote control device and work supporting system Download PDF

Info

Publication number
JP2004094622A
JP2004094622A JP2002255200A JP2002255200A JP2004094622A JP 2004094622 A JP2004094622 A JP 2004094622A JP 2002255200 A JP2002255200 A JP 2002255200A JP 2002255200 A JP2002255200 A JP 2002255200A JP 2004094622 A JP2004094622 A JP 2004094622A
Authority
JP
Japan
Prior art keywords
computer
control device
worker
remote control
wireless communication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002255200A
Other languages
Japanese (ja)
Other versions
JP4089813B2 (en
Inventor
Toyoichi Uchida
内田 豊一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Heavy Industries Ltd
Original Assignee
Mitsubishi Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Heavy Industries Ltd filed Critical Mitsubishi Heavy Industries Ltd
Priority to JP2002255200A priority Critical patent/JP4089813B2/en
Publication of JP2004094622A publication Critical patent/JP2004094622A/en
Application granted granted Critical
Publication of JP4089813B2 publication Critical patent/JP4089813B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a computer remote control device which solves the problem concerning the performance and price of a wearable computer (WPC). <P>SOLUTION: The computer remote control device is wearable by a worker 10 being at work and operates a remote computer 12 by radio. The device is provided with a wireless communication means 25, which the worker wears, for conducting wireless data communication with the remote computer; a display part 22 arranged in front of the worker to display the data which the wireless communication means receives from the remote computer; and a position input means 21 operated by the worker to instruct a position on the screen of the display part. A signal indicating the position which the position input means instructs is transmitted to the remote computer. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、コンピュータ遠隔操作装置及び作業支援システムに関する。
【0002】
【従来の技術】
従来技術のひとつとして、手を使わずにユーザーにより支持される携帯用計算機(ハンズフリーコンピュータ)とその操作法について開示されている(例えば、特許第2873268号公報及び特開平9−114543号公報)。ハンズフリーコンピュータ(以下、「ウエアラブルコンピュータ」又は「WPC」とも称する)は、ヘッドセットと、コンピュータ本体と、タッチパネル又はキーボードとから成る1組の携帯型計算機である。
【0003】
ここで、ヘッドセットは、視界を大きく妨げないディスプレイと撮影用カメラとマイクとヘッドフォンとを有する。コンピュータ本体は、主に側又は後腰部に取り付けられ作業の妨げにならない大きさである。タッチパネル又はキーボードは、主に左腕に取付けられ作業の妨げにならない大きさである。
【0004】
各構成部同士はケーブルにより接続されている。また、WPCは、音声認識装置を有しており、操作をする人は音声によりコンピュータを操作することが出来る。すなわち、ハンズフリーコンピュータの操作は、完全にハンズフリーとすることが可能となる。加えて、WPCは、無線通信機能により、離れた位置にあるホストコンピュータや、別のWPCとデータの送受信や音声通信などの通信が可能である。
【0005】
適用例として、自動車の整備現場が上げられている。携帯用計算機を身に付けた自動車整備員は、ハンズフリーかつ視界を大きく妨げられない状態で、携帯用計算機を操作することが可能である。携帯用計算機では、ハードディスク(HD)内に格納されている整備マニュアルの情報を表示させることができる。又、ホストコンピュータ内にある情報についても通信により取得することが出来る。自動車整備員は、それらの情報を参照しながら、整備作業を円滑かつ効率的に行なうことが可能となる。
【0006】
WPCは、食品機械等を含む産業機械の遠隔保守メンテナンス作業や機器組立調整作業に適用することが検討されている。
産業機械の保守メンテナンス作業では、作業者は、高所の被保守機器の圧力等の物理量を計測するために、計測器を持って梯子に登って作業を行う場合等、ハンズフリーの操作が必要な場合がある。
また、産業機械の現場組立作業では、小さく狭い場所での作業や遠隔監視カメラを使っても確認し難い場所での作業があり、このような場合にも作業者に対する作業指揮が遠隔から伝達されることが望まれる。
【0007】
ところで、従来からあるWPCのコンピュータ本体は、操作性が必ずしも良くなく、実作業を行う上で両手がどうしても使えない場所であるとか、持ち運び重量上の制約がある場所では使われるが、それ以外の用途ではその特殊仕様のために必要な価格がユーザに許容されず、しかもPC(パーソナルコンピュータ)のパフォーマンスとしては見劣りしていたため、普及が十分に進んでいないのが現状である。
【0008】
また、従来、保守作業者は、計測器等の出力を確認する必要があるときには、計測器の方に一度視点を移し、計測器等の出力を確認し、その後、視点を元の被保守機器側に戻し、作業を続けるということを行っている。しかし、作業中に視点を移し変えることは、作業能率が落ち、さらに、特に高所の保守作業の場合には、計測器等の出力を確認するため、頭或いは体そのものの姿勢を変えることは、安全の面でも好ましいものではない。
【0009】
【発明が解決しようとする課題】
本発明の目的は、WPCの性能や価格上の問題を解消できるコンピュータ遠隔操作装置及び作業支援システムを提供することである。
本発明の他の目的は、簡易な構成でWPCの性能や価格上の問題を解消できるコンピュータ遠隔操作装置及び作業支援システムを提供することである。
本発明の更に他の目的は、簡易な構成でWPCの性能や価格上の問題を解消でき、機器の拡張性の高いコンピュータ遠隔操作装置及び作業支援システムを提供することである。
本発明の更に他の目的は、作業者が日常業務で使用している汎用PCをそのまま利用可能なコンピュータ遠隔操作装置及び作業支援システムを提供することである。
本発明の更に他の目的は、作業者が作業中に視点を移し変えることなく、作業能率が向上し、より安全であるコンピュータ遠隔操作装置及び作業支援システムを提供することである。
【0010】
【課題を解決するための手段】
以下に、[発明の実施の形態]で使用する番号・符号を用いて、[課題を解決するための手段]を説明する。これらの番号・符号は、[特許請求の範囲]の記載と[発明の実施の形態]の記載との対応関係を明らかにするために付加されたものであるが、[特許請求の範囲]に記載されている発明の技術的範囲の解釈に用いてはならない。
【0011】
本発明のコンピュータ遠隔操作装置は、作業者(10)が身に付けて作業が可能であり前記作業者(10)が無線で遠隔のコンピュータ(12)を操作可能なコンピュータ遠隔操作装置であって、前記作業者(10)の身に付けられ前記コンピュータ(12)との間で無線データ通信を行うための無線通信手段(25)と、前記作業者(10)の身に付けられ前記コンピュータ(12)から前記無線通信手段(25)によって受信したデータを表示する表示部(22)と、前記作業者(10)によって操作され前記表示部(22)の画面上の位置を指示する位置入力手段(21)とを備え、前記位置入力手段(21)によって指示された位置を示す信号は、前記コンピュータ(12)に送信される。
【0012】
前記表示部(22)は、前記作業者(10)の目前に設けられている、例えばヘッドマウントディスプレイであることができる。前記表示部(22)が前記作業者(10)の目前に固定的に設けられることで、前記作業者(10)は、作業を行いながら視線を移し変えることなく前記表示部(22)を視認することができる。前記位置を示す信号は、前記無線通信手段(25)から前記コンピュータ(12)に送信されることができる。前記表示部(22)は、前記作業者(10)の頭部に装着されていることができる。
【0013】
本発明のコンピュータ遠隔操作装置において、前記コンピュータ(12)は、前記作業者(10)が身に付けていないコンピュータである。
【0014】
本発明のコンピュータ遠隔操作装置において、前記無線通信手段(25)は、携帯電話、PHS、トランシーバ、ワイヤレス式電話機を含む汎用無線通信手段である。
【0015】
本発明のコンピュータ遠隔操作装置において、前記コンピュータは、体に装着しない汎用のコンピュータである。前記コンピュータは、ウエアラブルとして専用のコンピュータではない汎用のコンピュータである。
【0016】
本発明のコンピュータ遠隔操作装置において、前記無線通信手段(25)は、携帯電話またはPHSであり、前記コンピュータ(12)には、前記無線通信手段(25)と無線データ通信が可能な携帯電話またはPHS(26)が接続されている。
【0017】
本発明のコンピュータ遠隔操作装置において、前記表示部(22)には、前記コンピュータ(12)の画面表示に対応する画像データが表示され、前記作業者(10)は、前記位置入力手段(21)を操作することにより前記コンピュータ(12)を操作する。
【0018】
前記表示部(22)には、前記コンピュータ(12)の画面が仮想的に表示されることができる。前記作業者(10)は、前記表示部(22)を見て前記位置入力手段(21)を操作することにより前記コンピュータ(12)を直接的に操作することができる。
【0019】
本発明のコンピュータ遠隔操作装置において、更に、前記無線通信手段(25)に接続されたユニット(8)を備え、前記ユニット(8)は、前記作業者(10)の作業に伴い計測された計測値を示すアナログ計測データ(4)を入力し、前記アナログ計測データ(4)をA/D変換し、前記無線データ通信のルールに適合するようにコード化して前記無線通信手段(25)に出力する。
【0020】
本発明のコンピュータ遠隔操作装置において、更に、前記無線通信手段(25)に接続されたユニット(8)を備え、前記コンピュータ(12)は、前記作業者(10)の作業に伴い制御すべき制御機器(2)に入力すべき制御値を示すアナログ制御データ(9)に対応するデジタル制御データを生成し、前記ユニット(8)は、前記無線通信手段(25)にて受信された前記デジタル制御データを入力し、前記デジタル制御データをD/A変換し、デコードして前記制御機器(2)に出力する。
【0021】
本発明のコンピュータ遠隔操作装置において、前記コンピュータ(12)は、前記計測値を含む画像データを生成し、前記表示部(22)には、前記計測値を含む画像データが表示される。
【0022】
本発明のコンピュータ遠隔操作装置において、前記コンピュータ(12)は、前記作業者(10)に対する作業指示を含む画像データを生成し、前記表示部(22)には、前記作業指示を含む画像データが表示される。
【0023】
本発明の作業支援システムは、コンピュータ(12)と、作業者(10)が身に付けて作業が可能であり前記作業者(10)が無線で遠隔の前記コンピュータ(12)を操作可能なコンピュータ遠隔操作装置とを含む作業支援システムであって、前記コンピュータ遠隔操作装置は、前記作業者(10)の身に付けられ前記コンピュータ(12)との間で無線データ通信を行うための無線通信手段(25)と、前記作業者(10)の目前に設けられ前記コンピュータ(12)から前記無線通信手段(25)によって受信したデータを表示する表示部(22)と、前記作業者(10)によって操作され前記表示部(22)の画面上の位置を指示する位置入力手段(21)とを備え、前記位置入力手段(21)によって指示された位置を示す信号は、前記コンピュータ(12)に送信され、前記コンピュータ(12)は、前記作業者(10)が身に付けていないウエアラブルコンピュータとして専用のコンピュータを除く汎用のコンピュータであり、前記無線通信手段(25)は、携帯電話またはPHSであり、前記コンピュータ(12)には、前記無線通信手段(25)と無線データ通信が可能な携帯電話またはPHS(26)が接続されている。
【0024】
本発明の無線通信手段は、携帯電話又はPHSの無線通信機能、カメラとディスプレイ、複数のデジタル信号を入力送信する機能、複数のデジタル信号を受信出力する機能、無線式画像中位置指示機(ポインタ)を任意に接続可能とした事を特徴としている。
本発明では、作業者がPC画面をヘッドマウントディスプレイで確認しながら、ジョイスティックでポインタを遠隔操作して、固定側のPCを遠隔操作することができる。作業者は、そのPCの操作により、ネットワークに蓄積された情報を任意に取り出し、ヘッドマウントディスプレイで見ながら所要のデータ入力が可能である。
大規模な情報には、ネットワークを介してPC上にダウンロードして呼び出し、ヘッドマウントディスプレイに表示することでアクセスが可能である。
作業場所の画像情報は作業者に身に付けられたカメラで、作業場所の物理量はアナログ信号伝送手段を介して入力して無線通信手段を介してPCに入力することができる。
特定の手段で測定したデータ等は、作業者は、キーボードと無線通信手段を介してPCに入力できる。
作業者は、他者とヘッドホンマイクと受話器で対話することができる。
【0025】
【発明の実施の形態】
以下、添付図面を参照して、本発明によるコンピュータ遠隔操作装置の実施形態を説明する。
【0026】
図1は、本実施形態が使用されるシステムの構成を示している。
図2は、本実施形態において、作業者が装着する機器を示している。
【0027】
本実施形態は、産業機械の保守メンテナンス作業と機器組立調整作業に適用可能である。具体的には、無菌充填機(壜詰め装置)において狭いチャンバーの中での作業支援に適用可能である。また、計測器(図1の符号3)は、常時設置されているものではなく、保守メンテナンス時のみ一時的に計測部位に設置される。
以下に、本実施形態の背景から説明する。
【0028】
ウエアラブルコンピュータとして用いられるコンピュータに比べて、同時期に市販されているノート型PC(パーソナルコンピュータ)やPDAは、そのアプリケーションソフトの操作性や機器の拡張性、画面表示、価格等の点で、優れている。特に、CPUや記憶装置等は日進月歩である。また、作業者は、通常は汎用のノート型PCでデータ入力やデータ処理を行っているため、PCメーカが市販する汎用PC(図1及び図2の符号12)を、遠隔で保守サービスを行う場合にも直接利用した方が便利である。
【0029】
ただ、遠隔保守サービスを行う際には、梯子に登ったり蓋を開ける等の手作業が必要な場合があり、その場合、PCに対してハンズフリーの操作が必要となる。例えば、従来、梯子に登って被保守機器を計測器で計測する場合、WPCを用いずに、汎用PC(現場作業以外の日常業務に作業者10が使用しているPC)を用いるとすれば、汎用PCを持って梯子に登ると危険なので、一旦梯子の上で計測器のデータをメモにとって、梯子を降りた後に汎用PCにデータを入力しなくてはならない。これに対して、本実施形態では、その時(PCに対してハンズフリーの操作が必要な時)だけ、汎用PC12との間に無線通信インターフェース(携帯電話又はPHS25、26又はトランシーバ、ワイヤレス式電話機を含む汎用無線通信手段。以下、本明細書において、単に「携帯電話又はPHS」と称することがある)を接続することで、ハンズフリーの状態の作業者10は、必要な情報(画像や音声、指示等)を汎用PC12との間でやりとりすることができる。
【0030】
現場組立作業において、小さく狭い空間での作業や指揮者が遠隔監視カメラを使っても確認し難い場所での作業が行われる時に、無線通信インターフェース25、26を装着することで、作業指揮者は現場状況を確認し易くなるので作業者10への指示が行い易くなり、また、作業者10の方では、ヘッドマウントディスプレイ22に表示された画像中の図を見ながら作業ができるので作業性が向上する。なお、ヘッドマウントディスプレイ22に代えて、作業者10の腕等に装着されたフラットパネルディスプレイを用いてもよい。
【0031】
無線通信手段としては電波が良い。赤外線通信は障害物に弱く、直線的位置関係でしか通信できず、機器の背後に入ると通信できない。また、赤外線通信の通信距離は小さいため、一定以上離れた場所では通信ができないからである。
【0032】
作業者10はハンズフリーが必要なときだけ、電話回線を接続して無線通信機器25と無線通信機器26との間でデータ通信を行う。通信距離が長い場合には電話回線を用い、通信距離が短い場合にはPHSなどの構内電話やトランシーバ機能により通信する。通信技術としては、W−CDMA、CDMA2000、ブルートゥース等の汎用デジタル無線通信手段で対応が可能である。
【0033】
次に、図1及び図2を参照して、本実施形態の構成を具体的に説明する。
【0034】
図1及び図2に示すように、作業者10は、ヘッドマウントディスプレイ22と、イヤホン(又はヘッドホン)及びマイク23と、カメラ24を装着している。作業者10は、手にジョイスティックなどのポインタ21を有している。更に、ポインタ21以外の入力装置として、作業者10の腕にキーボード21aが装着されていてもよい。
【0035】
作業者10は、更に、無線通信手段25を装着している。無線通信手段25は、携帯電話又はPHSのような一般に普及しているデータ通信が可能な機器であることが好ましい。無線通信手段25は、無線通信手段26と無線通信を行う。この無線通信手段26も、携帯電話又はPHSであることが好ましい。
【0036】
無線通信手段25のインターフェースには、ヘッドマウントディスプレイ22と、イヤホン(又はヘッドホン)及びマイク23と、カメラ24と、ポインタ21と、キーボード21aとが接続されている。無線通信手段26には、汎用のPC12が接続されている。汎用のPC12には、ネットワークを介してPC31が接続されている。
【0037】
また、作業者10は、無線通信手段25に接続された装置(ユニット)8を装着している。装置8は、アナログ信号伝送用ケーブル9を接続可能なアナログ信号のポート8aと、無線通信手段25の端子25aとの間にデジタル信号伝送用ケーブルを接続可能なデジタル信号のポート8bとを備えている。この装置8は、ポート8aから入力したアナログ信号A/D変換し、そのデジタル信号を無線通信手段25と無線通信手段26との間のデータ通信の通信規約又は通信のルールに適合するようにコード化してポート8bを介して無線通信手段25に出力する。また、装置8は、ポート8bから入力したデジタル信号をデコードしてD/A変換を行い、そのアナログ信号をポート8aを介して外部機器に出力する。
【0038】
無線通信手段(携帯電話又はPHS)25は、無線通信手段25に元々搭載されているアプリケーションソフト上で、カメラ24によって撮像された画像のデータと、ポインタ21から出力された作業者10による操作信号41のデータと、マイク23による音声信号とをコード化して、無線通信手段26に送信する。装置8で実施される上記コード化は、携帯電話又はPHS25が元々有しているアプリケーションソフト上で、携帯電話又はPHS26との間のデータ通信の為の無線信号を生成できるように行われる。
【0039】
上述した通り、従来、保守作業者10は、計測器の出力を確認する必要があるときには、計測器の方に一度視点を移し、計測器の出力を確認し、その後、視点を元の被保守機器側に戻し、作業を続けるということを行っていたが、作業中に視点を移し変えることは、作業能率が落ち、さらに、特に高所の保守作業の場合には、計測器の出力を確認するため、頭或いは体そのものの姿勢を変えることは、安全の面でも好ましいものではなかった。そこで、本実施形態では、計測器3の出力4を、ヘッドマウントディスプレイ22に表示できるようにして、視点を移し変えることなく、保守作業と計測器3の出力4の確認とを同時にできるようにしたものである。
【0040】
ここで、作業者10が携行する機器等の重量は極力少なくするため、WCPは携行せず、基本的には無線通信機器25のみを携行する。作業者10が携行する無線通信機器25を用いて、計測器3の出力信号4を無線でPC(汎用PC)12に送信する。
【0041】
その汎用PC12は、作業者10のヘッドマウントディスプレイ22に表示させる他の画像と、計測器3の出力データ4が表示された画像データとを合成する。PC12は、その合成画像信号をPC12に接続された無線通信機器26を介して、作業者10の携行する無線通信機器25に送信して、その合成画像を作業者10のヘッドマウントディスプレイ22に表示させる。
【0042】
また、作業者10が携行する無線通信機器25は、廉価なものとするため、市販の携帯電話又はPHS25を用いることができる。計測器3の出力信号(アナログ信号)4は、A/D変換される。A/D変換されてなるデジタル信号5は、携帯電話又はPHS25に基本仕様として付帯の端子25aから、携帯電話又はPHS25に入力される。携帯電話又はPHS25は、その入力したデジタル信号5を音声信号とは別の周波数で変調混合して、携帯電話又はPHS26を介して汎用PC12に送信する。
【0043】
作業者10は、手で操作するポインタ21を有している。そのポインタ21は、ヘッドマウントディスプレイ22上に表示された画面を作業者10が操作するための操作信号41を入力する入力機器である。ヘッドマウントディスプレイ22上に表示された画面には、ポインタ21の位置を示すマウスポインタ(矢印又はカーソル)が表示され、作業者10がポインタ21を操作することで、そのマウスポインタが画面上で移動して、画面上のボタンの操作や数字入力を行うことができる。
【0044】
そのポインタ21としては、十字キー、トラック・ボール(コントロール・ボール)、ジョイスティック、タブレットのいずれかの構成であることができ、使用者が仕事を進めるために画面上の位置を指示するときに用いられる。よって、本実施形態のポインタ21は、広義の位置入力装置、ロケータである。
【0045】
従来のWPCでは、作業者10は、作業者10に装着しているWPC用の専用PCを直接的に視認してそのPCの操作又は画面表示の確認していた。そのため、作業者10は、WPCの操作又は画面表示の確認を行う必要があるときには、WPCの方に一度視点を移し、操作又は画面表示の確認を行い、その後、視点を元の被保守機器側に戻して作業を続けていた。しかし、作業中に視点を移し変えることは、作業能率が落ち、さらに、特に高所の保守作業の場合には、WPCの操作又は画面表示の確認を行うため、頭或いは体そのものの姿勢を変えることは安全の面でも好ましいことではない。
【0046】
そこで、本実施形態では、汎用PC12に接続された携帯電話又はPHS26と、ヘッドマウントディスプレイ22及びポインタ21に接続された携帯電話又はPHS25との間の無線データ通信機能を利用することにより、汎用PC12の操作又は画面表示の確認をヘッドマウントディスプレイ22を見ながらポインタ21を介してできるようにして、視点を移し変えることなく保守作業・PC12の操作又は画面表示の確認を同時にできるようにしている。
【0047】
汎用PC12には、作業者10の作業現場以外の計測器のデータ(作業者10以外の作業者によって入力されたデータ)や各制御機器の制御データやプロセス量等を表示できるため、作業者10は作業現場でそれらのデータをヘッドマウントディスプレイ22で確認しながら作業を行うことができる。
【0048】
なお、この場合、汎用PC12の操作又は画面表示の確認をヘッドマウントディスプレイ22を見ながら行う際に必要なポインタ21は、必ずしも携帯電話又はPHS25に接続されていなくてもよい。汎用PC12に対して自ら無線通信によりデータの送信を行え、汎用PC12とセットで市販されているキーボード等の入力装置をポインタ21の代わりに用いれば、その入力装置は、携帯電話又はPHS25に接続される必要がない。
【0049】
ポインタ21に入力された作業者10の操作信号41は、ポインタ21から有線で携帯電話又はPHS25の端子25aに出力され、又は、ポインタ21から無線で無線ポインタ受信機(図示せず)に送信された後に携帯電話又はPHS25の端子25aに出力される。そして、作業者10の操作信号41は、その携帯電話又はPHS25から、汎用PC12に接続された携帯電話又はPHS26を介して、汎用PC12に送信される。汎用PC12にて受信された作業者10の操作信号41は、汎用PC12にネットワークで接続された汎用PC31に伝送される。作業指示者は、その汎用PC31に表示された作業者10の操作信号41を確認することができる。これにより、音声と画像とを併用した対話式保守作業が可能となる。
【0050】
無線通信手段25は、例えば、W−CDMAの動画対応の携帯電話FOMAである。その携帯電話25によって受信された画像データは、ヘッドマウントディスプレイ22又は外部プロジェクタで表示される。携帯電話25によって受信された音声は、イヤホン23から出力される。マイク23によって入力された作業者10の音声は、携帯電話25に入力され、携帯電話25からその音声データが携帯電話26に送信され、PC12に出力される。
【0051】
携帯電話25は、デジタル信号の入力端子25aを介して、ポインタ21からの操作信号41を入力する。その操作信号41のデータは、携帯電話25から携帯電話26を介してPC12に出力される。PC12は、PC12の表示画面にボタンの画像を表示させ、操作信号41に示される作業者10の操作に対応するように、そのボタンが操作されている状態を表示する。これにより、PC12の表示画面を見た人は、作業者10の被保守機器等の操作状況をリアルタイムで確認することができる。PC12は、ネットワークを介してPC31に操作信号41のデータを送信する。PC31は、PC31の表示画面にボタンの画像を表示させ、操作信号41に示される作業者10の操作に対応するように、そのボタンが操作されている状態を表示する。
【0052】
計測器3で計測された値を示すアナログ計測信号4は、装置8でA/D変換されコード化された後、計測信号5として携帯電話25に入力される。携帯電話25は、操作信号41と、マイク23から入力した作業者10の音声信号と、計測信号5とを別々の周波数で変調混合して携帯電話26に送信する。携帯電話26は、それぞれ復調した操作信号41と音声信号と計測信号5とをPC12に分離して出力する。
【0053】
計測器3の一例としての歪計測器の出力4の変化量を示すデータは、携帯電話25、26を介してPC12に送信され、PC12にて所定の画像と画像合成される。その画像合成されてなる画像には、歪計測器の出力4の変化量を示すデータと、その出力4に対応して操作すべき機械の調整ネジの回転量の数値が表示された画像のデータとが含まれる。機械内で作業する作業者10は、その画像合成されてなる画像に含まれる、計測器の出力4の変化量と調整ネジの回転量の数値のデータをヘッドマウントディスプレイ22で見ながら、実際に調整ネジを回す。
【0054】
作業の指揮者は、PC12が接続しているネットワーク経由でPC31上で、作業者10のカメラ24の画像、操作信号41、計測信号5を確認し、PC31に接続されたマウスポインタ34とキーボード33とマイク32を介して作業指示を出す。マウスポインタ34とキーボード33による作業指示は、PC31上で作業者10にとって分かり易い画像のデータ(作業指示が図示されているデータ)として生成される。作業指示を示す画像データでは、PC31又はPC12のアプリケーションソフト上でボタンが表示され、作業者10がヘッドマウントディスプレイ22の画面上でポインタ21によりそのボタンを操作できるようになっている。
【0055】
指揮者によってPC31に入力された作業指示は、携帯電話26を介して携帯電話25に送信され、音声による作業指示はイヤホン23から出力され、画像による作業指示はヘッドマウントディスプレイ22から出力される。また、作業の指揮者は、作業者10に参考となる図面や写真をPC31から送信し、ヘッドマウントディスプレイ22に表示させて作業者10に目で確認させる。なお、PC12とネットワークで接続されたPC31では、作業データの記録や過去のデータの参照が行われる。
【0056】
制御機器2への調整用アナログ信号9は、PC12又はPC31から携帯電話26、25を介してデジタル信号として指示されたデータがD/A変換されてなるものであり、制御機器2のアナログ入力に出力される。制御機器2のキャリブレーションや感度の調整には、制御機器2にアナログ電圧を与えて調整する場合がある。この場合、PC12又はPC31を操作して、そのアナログ電圧値を示すデジタル信号をPC12又はPC31から出力し、装置8を介して制御機器2にアナログ電圧指示信号を出力することができる。
【0057】
または、PC12又はPC31に入力された、計測器3の計測信号やカメラ24の画像信号やマイク23による音声信号やポインタ21による操作信号41の少なくともいずれか一つに基づいて、PC12又はPC31が演算を行い、その演算の結果として制御機器2に対する調整値を算出し、そのアナログ調整値を示すデジタル信号をPC12又はPC31から出力し、装置8を介して制御機器2にアナログ調整値指示信号を出力することができる。
制御機器2の調整用アナログ信号9には、モータの回転数を制御したり、バルブの開度を調整するための信号が含まれる。
【0058】
モータの回転動作や弁の開閉動作を行うシーケンサがPC12と接続されている。そのシーケンサのプログラムを編集するソフトがPC12にインストールされている。一般には、PC12に入力されたデータに関して、PC12上の上記ソフトで演算し、その演算結果のデータをシーケンサにダウンロードして、そのシーケンサのプログラムを動作させている。これに対して、本実施形態では、作業者10がポインタ21により操作信号41として遠隔から入力したデータに関して、PC12上の上記ソフトで演算し、その演算結果のデータをシーケンサにダウンロードして、そのシーケンサのプログラムを動作させる。作業者10は、シーケンサにプリセットされたデータを遠隔から修正して、モータや弁の動作を制御することができる。すなわち、作業者10がヘッドマウントディスプレイ22に表示されたPC12の上記ソフト上の画面をポインタ21により操作して、制御機器2に入力すべきアナログ値を示す信号をPC12に送信し、PC12からそのアナログ値を示すデジタル信号を出力させ、装置8を介して制御機器2にアナログ指示信号を出力させることができる。
【0059】
保守作業者10は、必ずしもデータ処理機能を有する装置を身体に身に付ける必要は無い。作業者10が装着する無線通信手段(携帯電話又はPHS)25では、データ処理やデータの蓄積を行う必要は無く、この無線通信手段25は、単なる意思の伝達手段の延長機器である。あくまで、データ処理やデータ蓄積は、作業者10が装着せず、無線通信手段26とのインターフェースさえあえば機種を問わないPC12又はPC31上で行われ、そのデータ処理結果である画像データのみが再度無線通信手段25を通じて転送され、作業者10の元にある表示装置(ヘッドマウントディスプレイ22)で表示される。これにより、PC12は、ニーズや技術進化に応じて適宜変更可能である。
【0060】
本実施形態では、携帯電話又はPHSのデータ通信機能を利用し、作業者10と指揮者との間で、作業内容又は作業指示を音声認識やポインタで音声・画像信号に混載させて送受信する。
【0061】
これまでのシステムでは、コンピュータのネットワークや電話機能そのものを利用しているが、作業指示には音声かボタンを押す動作が入るので操作性が悪かった(作業指示が容易には伝達されなかった)。本実施形態では、ヘッドマウントディスプレイ22に表示された画像を見ながら音声認識による指示(マイク32)又はマウスポインタ(又はキーボード33)による指示を行うので、作業者10による作業のナビゲーションを行うことができる。作業者10は、遠隔作業を行い易いように、コンピュータ画面とカメラ画像とを画像合成し、作業プロセスの対話式選択ができる。
【0062】
従来、監視対象の監視データを携帯電話やPHSを介して遠隔の監視センターに送信し、監視センターにてデータ収集等を行う技術が知られている。この技術では、一方方向の通信手段として、携帯電話やPHSが用いられており、ハンズフリーを必要とする特殊環境下の作業者10との相互通信はできなかった。
【0063】
本実施形態では、通常一般の計測器3のアナログ出力4をA/D変換し、そのA/D変換されてなるデジタル信号を、携帯電話又はPHS25を用いたデータ通信の規格に合うようにコード化して出力する装置8を有している。よって、計測器3としては、専用の計測器である必要が無く、通常一般のものを用いることができ、作業者10は、専用の計測器を持ち歩く必要が無い。
【0064】
なお、この計測器3としては、温度計、圧力計、流量計、歪みゲージ、ギャップセンサ等のms以下の速い計測時間を必要としない(応答の遅い)アナログデータが取りこめるものであれば特に限定されない。これに対して、計測器3がオシロスコープなどの高周波のアナログデータ(変化が高速である現象)を入力するものであって、計測器3からの出力信号に応答してPC12で演算処理を行ってリアルタイムに被制御対象の制御を行う場合には、データ通信に伴う遅延(タイムラグ)等により、制御遅れを生じないよう対策が必要とされる。
【0065】
以下に、本実施形態の効果を説明する。
【0066】
従来からあるハンズフリーのPC(WPC)は、その携帯性は良いものの、操作性が必ずしも良くなく、実作業を行う上で両手がどうしても使えない場所であるとか、持ち運び重量上の制約がある場所では使われるが、それ以外の用途ではその特殊仕様のために必要な価格がユーザに許容されず、しかもPCのパフォーマンスとしては見劣りしていたため、普及が十分に進んでいないのが現状である。
【0067】
そこで、このハンズフリーとして必要な部分だけを脱着可能なインターフェースとすれば、インターフェース自体(通信規格、通信技術、ポートの規格など)は、PCほどの技術進化は無いので、本体のPCはユーザの必要性に応じて更新し、インターフェースはそのまま活用することができる。
【0068】
遠隔地で収集したデータをPC12に格納したり、また、ネットワークを用いて他のPC31に転送することができる。また、PC31は、異なる場所からの情報をネットワーク経由でデータを受け取ることにより、複数のPC間でデータ共有が可能となり、ネットミーティングを行うことができる。
【0069】
また、作業者10は、必要な補助通信手段だけを装着することで、例えば計測器3の出力4を確認する作業で大きく視点を移すことなく作業ができるので作業性が増す。
【0070】
【発明の効果】
本発明によれば、ウエアラブルコンピュータ(WPC)の性能や価格上の問題を解消することができる。
【図面の簡単な説明】
【図1】図1は、本発明のコンピュータ遠隔操作装置の一実施形態の全体構成のブロック図である。
【図2】図2は、本発明のコンピュータ遠隔操作装置の一実施形態を身に付けた作業者を示す図である。
【符号の説明】
2 制御機器
3 計測器
4 計測器の出力
5 計測信号
8 装置
8a ポート
8b ポート
9 アナログ信号伝送用ケーブル
10 作業者
12 汎用PC
21 ポインタ
21a キーボード
22 ヘッドマウントディスプレイ
23 イヤホン及びマイク
24 カメラ
25 無線通信手段(携帯電話又はPHS)
25a 端子
26 無線通信手段(携帯電話又はPHS)
31 汎用PC
32 マイク
33 キーボード
34 マウスポインタ
41 操作信号
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a computer remote control device and a work support system.
[0002]
[Prior art]
As one of the prior arts, a portable computer (hands-free computer) supported by a user without using a hand and a method of operating the computer are disclosed (for example, Japanese Patent No. 2873268 and Japanese Patent Application Laid-Open No. 9-114543). . A hands-free computer (hereinafter also referred to as “wearable computer” or “WPC”) is a set of portable computers including a headset, a computer main body, and a touch panel or keyboard.
[0003]
Here, the headset includes a display that does not significantly hinder the field of view, a camera for photography, a microphone, and headphones. The main body of the computer is mainly attached to the side or the back waist, and has a size that does not hinder the work. The touch panel or the keyboard is mainly attached to the left arm and has a size that does not hinder the work.
[0004]
Each component is connected by a cable. Further, the WPC has a voice recognition device, and a person who operates can operate the computer by voice. That is, the operation of the hands-free computer can be completely hands-free. In addition, the WPC can perform data transmission / reception and voice communication with a remote host computer or another WPC by a wireless communication function.
[0005]
As an application example, a car maintenance site is mentioned. An auto mechanic wearing a portable computer can operate the portable computer in a hands-free state without greatly impairing the field of view. In a portable computer, information of a maintenance manual stored in a hard disk (HD) can be displayed. Information in the host computer can also be obtained by communication. The car mechanic can perform the maintenance work smoothly and efficiently while referring to the information.
[0006]
The application of WPC to remote maintenance and maintenance work of industrial machines including food machines and the like and equipment assembly adjustment work is being studied.
In maintenance work on industrial machinery, workers need hands-free operation, such as when climbing on a ladder with a measuring instrument to measure physical quantities such as pressure of equipment to be maintained at high places. It may be.
In addition, in the on-site assembly work of industrial machinery, there are work in small and narrow places and work where it is difficult to confirm even using a remote monitoring camera, and even in such cases, work instructions to workers are transmitted remotely. Is desired.
[0007]
By the way, the computer body of the conventional WPC is not always easy to operate, and it is used in places where both hands cannot be used for actual work, or where there are restrictions on carrying weight, but it is used in other places. In applications, the price required for the special specification is not acceptable to the user, and the performance of a PC (personal computer) is inferior, so that it has not been widely used at present.
[0008]
Conventionally, when it is necessary to check the output of a measuring instrument, etc., the maintenance worker once shifts the viewpoint to the measuring instrument, checks the output of the measuring instrument, etc., and then changes the viewpoint to the original device to be maintained. Go back to the side and continue working. However, changing the viewpoint during the work reduces the work efficiency, and especially in the case of maintenance work at high places, it is not possible to change the posture of the head or body itself to check the output of measuring instruments etc. However, it is not preferable in terms of safety.
[0009]
[Problems to be solved by the invention]
SUMMARY OF THE INVENTION It is an object of the present invention to provide a computer remote control device and a work support system that can solve the problems of WPC performance and price.
Another object of the present invention is to provide a computer remote control device and a work support system that can solve the problems of WPC performance and price with a simple configuration.
It is still another object of the present invention to provide a computer remote control device and a work support system that can solve the problems of WPC performance and price with a simple configuration and have high expandability of equipment.
Still another object of the present invention is to provide a computer remote control device and a work support system that can use a general-purpose PC used by a worker in daily work as it is.
It is still another object of the present invention to provide a computer remote operation device and a work support system that can improve work efficiency and are safer without changing the viewpoint during work.
[0010]
[Means for Solving the Problems]
Hereinafter, [Means for Solving the Problems] will be described using the numbers and symbols used in [Embodiments of the Invention]. These numbers and symbols are added to clarify the correspondence between the description of [Claims] and the description of [Embodiments of the Invention]. It should not be used to interpret the technical scope of the described invention.
[0011]
The computer remote control device of the present invention is a computer remote control device that can be worn by a worker (10) and work, and that allows the worker (10) to wirelessly operate a remote computer (12). A wireless communication means (25) mounted on the worker (10) to perform wireless data communication with the computer (12); and a computer (25) mounted on the worker (10). A display unit (22) for displaying data received from the wireless communication unit (25) through the wireless communication unit (12); and a position input unit operated by the worker (10) to indicate a position on the screen of the display unit (22). (21), and a signal indicating the position designated by the position input means (21) is transmitted to the computer (12).
[0012]
The display unit (22) may be, for example, a head-mounted display provided in front of the worker (10). Since the display unit (22) is fixedly provided in front of the worker (10), the worker (10) visually recognizes the display unit (22) without changing his / her eyes while performing work. can do. The signal indicating the position can be transmitted from the wireless communication means (25) to the computer (12). The display unit (22) may be mounted on a head of the worker (10).
[0013]
In the computer remote control device according to the present invention, the computer (12) is a computer not worn by the worker (10).
[0014]
In the computer remote controller according to the present invention, the wireless communication unit (25) is a general-purpose wireless communication unit including a mobile phone, a PHS, a transceiver, and a wireless telephone.
[0015]
In the computer remote control device of the present invention, the computer is a general-purpose computer that is not worn on the body. The computer is a general-purpose computer that is not a dedicated computer as wearable.
[0016]
In the computer remote control device according to the present invention, the wireless communication means (25) is a mobile phone or a PHS, and the computer (12) has a mobile phone or a mobile phone capable of wireless data communication with the wireless communication means (25). The PHS (26) is connected.
[0017]
In the computer remote control device according to the present invention, the display unit (22) displays image data corresponding to a screen display of the computer (12), and the operator (10) operates the position input means (21). Is operated to operate the computer (12).
[0018]
A screen of the computer (12) can be virtually displayed on the display unit (22). The operator (10) can directly operate the computer (12) by looking at the display section (22) and operating the position input means (21).
[0019]
The computer remote operation device according to the present invention further includes a unit (8) connected to the wireless communication unit (25), wherein the unit (8) is used for measurement performed by the worker (10). Analog measurement data (4) indicating a value is input, the analog measurement data (4) is A / D converted, coded so as to conform to the rules of the wireless data communication, and output to the wireless communication means (25). I do.
[0020]
The computer remote control device of the present invention further includes a unit (8) connected to the wireless communication means (25), wherein the computer (12) controls the operation of the operator (10). The unit (8) generates digital control data corresponding to analog control data (9) indicating a control value to be input to the device (2), and the unit (8) receives the digital control data received by the wireless communication unit (25). Data is input, the digital control data is D / A converted, decoded, and output to the control device (2).
[0021]
In the computer remote control device of the present invention, the computer (12) generates image data including the measurement value, and the display unit (22) displays the image data including the measurement value.
[0022]
In the computer remote control device of the present invention, the computer (12) generates image data including a work instruction for the worker (10), and the display unit (22) displays the image data including the work instruction. Is displayed.
[0023]
A work support system according to the present invention includes a computer (12) and a computer capable of being worn by a worker (10) and capable of operating the remote computer (12) by wireless. A work support system including a remote operation device, wherein the computer remote operation device is mounted on the worker (10) and performs wireless data communication with the computer (12). (25) a display unit (22) provided in front of the worker (10) for displaying data received from the computer (12) by the wireless communication means (25); A position input means (21) operated to indicate a position on the screen of the display unit (22), and a signal indicating the position indicated by the position input means (21) is Sent to the computer (12), the computer (12) is a general-purpose computer except a dedicated computer as a wearable computer not worn by the worker (10), and the wireless communication means (25) , A mobile phone or a PHS (26) which is capable of wireless data communication with the wireless communication means (25).
[0024]
The wireless communication means of the present invention includes a wireless communication function of a mobile phone or a PHS, a camera and a display, a function of inputting and transmitting a plurality of digital signals, a function of receiving and outputting a plurality of digital signals, a wireless image position indicator (pointer ) Can be arbitrarily connected.
In the present invention, the operator can remotely control the PC on the fixed side by remotely controlling the pointer with the joystick while checking the PC screen on the head mounted display. The operator can arbitrarily retrieve information stored in the network by operating the PC, and input necessary data while viewing the information on the head mounted display.
Large-scale information can be accessed by downloading it to a PC via a network, calling it, and displaying it on a head-mounted display.
The image information of the work place can be input by a camera worn by an operator, and the physical quantity of the work place can be input via an analog signal transmission means and input to a PC via a wireless communication means.
The data and the like measured by the specific means can be input to the PC via the keyboard and the wireless communication means by the operator.
The worker can talk with others using the headphone microphone and the receiver.
[0025]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, an embodiment of a computer remote control device according to the present invention will be described with reference to the accompanying drawings.
[0026]
FIG. 1 shows the configuration of a system in which this embodiment is used.
FIG. 2 shows a device worn by an operator in the present embodiment.
[0027]
This embodiment is applicable to maintenance work of industrial machines and equipment assembly adjustment work. Specifically, it is applicable to work support in a narrow chamber in an aseptic filling machine (bottle filling device). Further, the measuring instrument (reference numeral 3 in FIG. 1) is not always installed, but is temporarily installed at the measurement site only at the time of maintenance.
Hereinafter, the background of the present embodiment will be described.
[0028]
Compared to computers used as wearable computers, notebook PCs (personal computers) and PDAs marketed at the same time are superior in operability of application software, expandability of devices, screen display, price, and the like. ing. In particular, CPUs, storage devices, and the like are constantly evolving. In addition, since a worker normally performs data input and data processing using a general-purpose notebook PC, a maintenance service is performed remotely on a general-purpose PC (reference numeral 12 in FIGS. 1 and 2) marketed by a PC maker. It is more convenient to use it directly.
[0029]
However, when performing the remote maintenance service, there are cases where manual work such as climbing a ladder or opening a lid is required, and in this case, a hands-free operation is required for the PC. For example, conventionally, when a device to be maintained is measured by a measuring device by climbing a ladder, a general-purpose PC (a PC used by the worker 10 for daily work other than field work) is used instead of the WPC. Since it is dangerous to climb a ladder with a general-purpose PC, it is necessary to temporarily write down the data of the measuring instrument on the ladder and input the data to the general-purpose PC after descending the ladder. On the other hand, in the present embodiment, only at that time (when hands-free operation is required for the PC), a wireless communication interface (mobile phone or PHS 25, 26 or transceiver, wireless telephone) is connected to the general-purpose PC 12. A general-purpose wireless communication means including a mobile phone or a PHS (hereinafter sometimes simply referred to as a “mobile phone” or “PHS”) in this specification allows the hands-free worker 10 to obtain necessary information (images, sounds, Instructions) can be exchanged with the general purpose PC 12.
[0030]
By mounting the wireless communication interfaces 25 and 26 when performing work in a small and narrow space or in a place where it is difficult for the conductor to use the remote monitoring camera to perform work in the field assembly work, the work leader can Since it is easy to check the site situation, it is easy to give an instruction to the worker 10, and the worker 10 can work while looking at the diagram in the image displayed on the head mounted display 22, so that the workability is improved. improves. Note that, instead of the head mounted display 22, a flat panel display mounted on an arm or the like of the worker 10 may be used.
[0031]
Radio waves are good as wireless communication means. Infrared communication is vulnerable to obstacles and can communicate only in a linear positional relationship, and cannot communicate behind a device. Further, because the communication distance of infrared communication is short, communication cannot be performed at a place that is more than a certain distance away.
[0032]
The worker 10 connects the telephone line and performs data communication between the wireless communication device 25 and the wireless communication device 26 only when hands-free is required. When the communication distance is long, a telephone line is used, and when the communication distance is short, communication is performed by a private telephone such as a PHS or a transceiver function. As a communication technology, general-purpose digital wireless communication means such as W-CDMA, CDMA2000, and Bluetooth can cope.
[0033]
Next, the configuration of the present embodiment will be specifically described with reference to FIGS.
[0034]
As shown in FIGS. 1 and 2, the worker 10 is wearing a head-mounted display 22, an earphone (or headphones) and a microphone 23, and a camera 24. The worker 10 has a pointer 21 such as a joystick in his hand. Further, as an input device other than the pointer 21, a keyboard 21a may be mounted on the arm of the worker 10.
[0035]
The worker 10 further wears a wireless communication unit 25. It is preferable that the wireless communication unit 25 is a device capable of performing data communication, such as a mobile phone or a PHS, which is commonly used. The wireless communication unit 25 performs wireless communication with the wireless communication unit 26. This wireless communication means 26 is also preferably a mobile phone or a PHS.
[0036]
The head mounted display 22, an earphone (or headphones) and a microphone 23, a camera 24, a pointer 21, and a keyboard 21a are connected to the interface of the wireless communication unit 25. The general-purpose PC 12 is connected to the wireless communication unit 26. The PC 31 is connected to the general-purpose PC 12 via a network.
[0037]
The worker 10 is wearing the device (unit) 8 connected to the wireless communication unit 25. The device 8 includes an analog signal port 8a to which the analog signal transmission cable 9 can be connected, and a digital signal port 8b to which a digital signal transmission cable can be connected between the terminal 25a of the wireless communication unit 25. I have. The device 8 converts the analog signal input from the port 8a from analog to digital and converts the digital signal into a code that conforms to the communication rules or rules of data communication between the wireless communication means 25 and the wireless communication means 26. And outputs it to the wireless communication means 25 via the port 8b. The device 8 decodes the digital signal input from the port 8b, performs D / A conversion, and outputs the analog signal to an external device via the port 8a.
[0038]
The wireless communication unit (cellular phone or PHS) 25 is provided with data of an image captured by the camera 24 and operation signals from the worker 10 output from the pointer 21 on application software originally installed in the wireless communication unit 25. The data of 41 and the audio signal from the microphone 23 are encoded and transmitted to the wireless communication means 26. The above-described encoding performed by the device 8 is performed so that a wireless signal for data communication with the mobile phone or the PHS 26 can be generated on application software originally included in the mobile phone or the PHS 25.
[0039]
As described above, conventionally, when it is necessary to check the output of the measuring instrument, the maintenance worker 10 once shifts the viewpoint to the measuring instrument, checks the output of the measuring instrument, and then changes the viewpoint to the original maintenance target. Returning to the equipment side and continuing the work, but changing the viewpoint during the work reduces the work efficiency, and also checks the output of the measuring instrument especially in maintenance work at high places Therefore, changing the posture of the head or body itself was not preferable in terms of safety. Therefore, in the present embodiment, the output 4 of the measuring device 3 can be displayed on the head-mounted display 22 so that the maintenance work and the confirmation of the output 4 of the measuring device 3 can be performed at the same time without changing the viewpoint. It was done.
[0040]
Here, in order to minimize the weight of the equipment and the like carried by the worker 10, the WCP is not carried, and basically only the wireless communication equipment 25 is carried. The output signal 4 of the measuring instrument 3 is wirelessly transmitted to the PC (general-purpose PC) 12 using the wireless communication device 25 carried by the worker 10.
[0041]
The general-purpose PC 12 combines another image to be displayed on the head-mounted display 22 of the worker 10 with the image data on which the output data 4 of the measuring device 3 is displayed. The PC 12 transmits the synthesized image signal to the wireless communication device 25 carried by the worker 10 via the wireless communication device 26 connected to the PC 12, and displays the synthesized image on the head-mounted display 22 of the worker 10. Let it.
[0042]
In order to make the wireless communication device 25 carried by the worker 10 inexpensive, a commercially available mobile phone or PHS 25 can be used. The output signal (analog signal) 4 of the measuring instrument 3 is A / D converted. The digital signal 5 obtained by the A / D conversion is input to the mobile phone or the PHS 25 from a terminal 25a attached to the mobile phone or the PHS 25 as a basic specification. The mobile phone or the PHS 25 modulates and mixes the input digital signal 5 at a frequency different from that of the audio signal, and transmits the modulated digital signal 5 to the general-purpose PC 12 via the mobile phone or the PHS 26.
[0043]
The worker 10 has a pointer 21 that is manually operated. The pointer 21 is an input device for inputting an operation signal 41 for the operator 10 to operate the screen displayed on the head mounted display 22. On the screen displayed on the head mounted display 22, a mouse pointer (arrow or cursor) indicating the position of the pointer 21 is displayed, and when the worker 10 operates the pointer 21, the mouse pointer moves on the screen. Then, the user can operate buttons on the screen and input numbers.
[0044]
The pointer 21 may have any configuration of a cross key, a track ball (control ball), a joystick, and a tablet, and is used when the user indicates a position on the screen to proceed with a job. Can be Therefore, the pointer 21 of the present embodiment is a position input device and a locator in a broad sense.
[0045]
In the conventional WPC, the worker 10 directly looks at the dedicated PC for WPC mounted on the worker 10 and checks the operation of the PC or the screen display. Therefore, when it is necessary to operate the WPC or check the screen display, the worker 10 shifts the viewpoint to the WPC once, checks the operation or the screen display, and then changes the viewpoint to the original device to be maintained. I went back to work. However, changing the viewpoint during the work reduces the work efficiency, and particularly in the case of maintenance work at a high place, changes the posture of the head or the body itself in order to operate the WPC or check the screen display. This is not a good thing in terms of safety.
[0046]
Therefore, in the present embodiment, by utilizing the wireless data communication function between the mobile phone or PHS 26 connected to the general-purpose PC 12 and the mobile phone or PHS 25 connected to the head-mounted display 22 and the pointer 21, the general-purpose PC 12 Can be performed through the pointer 21 while looking at the head-mounted display 22, so that the maintenance work and the operation of the PC 12 or the confirmation of the screen display can be performed at the same time without changing the viewpoint.
[0047]
The general-purpose PC 12 can display data of measuring instruments other than the work site of the worker 10 (data input by a worker other than the worker 10), control data of each control device, a process amount, and the like. Can perform work while confirming the data on the head-mounted display 22 at the work site.
[0048]
In this case, the pointer 21 necessary for operating the general-purpose PC 12 or confirming the screen display while looking at the head-mounted display 22 does not necessarily need to be connected to the mobile phone or the PHS 25. Data can be transmitted to the general-purpose PC 12 by wireless communication by itself, and if an input device such as a keyboard that is commercially available with the general-purpose PC 12 is used instead of the pointer 21, the input device is connected to the mobile phone or the PHS 25. Need not be.
[0049]
The operation signal 41 of the worker 10 input to the pointer 21 is output from the pointer 21 by wire to the terminal 25a of the mobile phone or the PHS 25, or transmitted from the pointer 21 to a wireless pointer receiver (not shown) wirelessly. After that, it is output to the terminal 25a of the mobile phone or the PHS 25. Then, the operation signal 41 of the worker 10 is transmitted from the mobile phone or the PHS 25 to the general-purpose PC 12 via the mobile phone or the PHS 26 connected to the general-purpose PC 12. The operation signal 41 of the worker 10 received by the general-purpose PC 12 is transmitted to a general-purpose PC 31 connected to the general-purpose PC 12 via a network. The work instructor can check the operation signal 41 of the worker 10 displayed on the general-purpose PC 31. As a result, an interactive maintenance operation using both voice and image becomes possible.
[0050]
The wireless communication unit 25 is, for example, a mobile phone FOMA that supports W-CDMA moving images. The image data received by the mobile phone 25 is displayed on the head mounted display 22 or an external projector. The sound received by the mobile phone 25 is output from the earphone 23. The voice of the worker 10 input by the microphone 23 is input to the mobile phone 25, and the voice data is transmitted from the mobile phone 25 to the mobile phone 26 and output to the PC 12.
[0051]
The mobile phone 25 receives an operation signal 41 from the pointer 21 via a digital signal input terminal 25a. The data of the operation signal 41 is output from the mobile phone 25 to the PC 12 via the mobile phone 26. The PC 12 displays an image of the button on the display screen of the PC 12, and displays a state in which the button is operated so as to correspond to the operation of the worker 10 indicated by the operation signal 41. Thus, a person who looks at the display screen of the PC 12 can check the operation status of the equipment to be maintained by the worker 10 in real time. The PC 12 transmits the data of the operation signal 41 to the PC 31 via the network. The PC 31 displays an image of the button on the display screen of the PC 31 and displays a state in which the button is operated so as to correspond to the operation of the worker 10 indicated by the operation signal 41.
[0052]
The analog measurement signal 4 indicating the value measured by the measuring device 3 is A / D converted and coded by the device 8, and then input to the mobile phone 25 as the measurement signal 5. The mobile phone 25 modulates and mixes the operation signal 41, the voice signal of the worker 10 input from the microphone 23, and the measurement signal 5 at different frequencies, and transmits the mixed signal to the mobile phone 26. The mobile phone 26 separates and outputs the demodulated operation signal 41, audio signal, and measurement signal 5 to the PC 12.
[0053]
Data indicating the amount of change in the output 4 of the strain measuring device as an example of the measuring device 3 is transmitted to the PC 12 via the mobile phones 25 and 26, and is synthesized with a predetermined image. The combined image includes data indicating the amount of change in the output 4 of the strain meter and data of the image in which the numerical value of the amount of rotation of the adjusting screw of the machine to be operated corresponding to the output 4 is displayed. And are included. The operator 10 working in the machine actually looks at the numerical data of the amount of change of the output 4 of the measuring instrument and the numerical value of the amount of rotation of the adjusting screw included in the image obtained by synthesizing the images on the head-mounted display 22 while actually watching the data. Turn the adjustment screw.
[0054]
The conductor of the work checks the image of the camera 24 of the worker 10, the operation signal 41, and the measurement signal 5 on the PC 31 via the network connected to the PC 12, and checks the mouse pointer 34 and the keyboard 33 connected to the PC 31. And a work instruction is issued via the microphone 32. The work instruction using the mouse pointer 34 and the keyboard 33 is generated on the PC 31 as image data (data showing the work instruction) that is easy for the worker 10 to understand. In the image data indicating the work instruction, a button is displayed on the application software of the PC 31 or the PC 12, and the operator 10 can operate the button with the pointer 21 on the screen of the head mounted display 22.
[0055]
The work instruction input to the PC 31 by the conductor is transmitted to the mobile phone 25 via the mobile phone 26, the work instruction by voice is output from the earphone 23, and the work instruction by image is output from the head mount display 22. In addition, the conductor of the work transmits a reference drawing or photograph from the PC 31 to the worker 10 and causes the head mount display 22 to display the drawing or the photograph so that the worker 10 can confirm it visually. The PC 31 connected to the PC 12 via a network records work data and refers to past data.
[0056]
The adjustment analog signal 9 to the control device 2 is obtained by D / A converting data designated as a digital signal from the PC 12 or PC 31 via the mobile phones 26 and 25, and is used as an analog input of the control device 2. Is output. The calibration and sensitivity adjustment of the control device 2 may be performed by applying an analog voltage to the control device 2. In this case, by operating the PC 12 or 31, a digital signal indicating the analog voltage value is output from the PC 12 or 31, and an analog voltage instruction signal can be output to the control device 2 via the device 8.
[0057]
Alternatively, the PC 12 or 31 calculates based on at least one of the measurement signal of the measuring device 3, the image signal of the camera 24, the audio signal of the microphone 23, and the operation signal 41 of the pointer 21 input to the PC 12 or PC 31. And calculates an adjustment value for the control device 2 as a result of the calculation, outputs a digital signal indicating the analog adjustment value from the PC 12 or PC 31, and outputs an analog adjustment value instruction signal to the control device 2 via the device 8. can do.
The adjustment analog signal 9 of the control device 2 includes a signal for controlling the number of rotations of the motor and adjusting the opening of the valve.
[0058]
A sequencer for rotating the motor and opening and closing the valve is connected to the PC 12. Software for editing the program of the sequencer is installed in the PC 12. In general, data input to the PC 12 is calculated by the software on the PC 12, data of the calculation result is downloaded to the sequencer, and the program of the sequencer is operated. On the other hand, in the present embodiment, the data input by the worker 10 from the remote as the operation signal 41 by the pointer 21 is calculated by the software on the PC 12, and the data of the calculation result is downloaded to the sequencer. Run the sequencer program. The operator 10 can control the operation of the motor and the valve by remotely modifying the data preset in the sequencer. That is, the operator 10 operates the screen on the software of the PC 12 displayed on the head mounted display 22 with the pointer 21 to transmit a signal indicating an analog value to be input to the control device 2 to the PC 12, and the PC 12 transmits the signal. A digital signal indicating an analog value can be output, and the control device 2 can output an analog instruction signal via the device 8.
[0059]
The maintenance worker 10 does not necessarily need to wear a device having a data processing function on the body. The wireless communication means (mobile phone or PHS) 25 worn by the worker 10 does not need to perform data processing or data accumulation, and the wireless communication means 25 is merely an extension device of communication means of intention. To the last, data processing and data storage are performed on the PC 12 or PC 31 regardless of the model, as long as the worker 10 does not wear the data and the interface with the wireless communication means 26 is provided. The data is transferred through the wireless communication means 25 and is displayed on the display device (head-mounted display 22) located at the operator's location. Thus, the PC 12 can be appropriately changed according to needs and technological evolution.
[0060]
In the present embodiment, using the data communication function of the mobile phone or the PHS, the worker 10 and the conductor transmit / receive the work contents or work instructions mixed with voice / image signals by voice recognition or a pointer.
[0061]
In the conventional system, the computer network and the telephone function itself are used, but the operability is poor because the work instruction includes a voice or a button press operation (the work instruction was not easily transmitted). . In the present embodiment, an instruction by voice recognition (microphone 32) or an instruction by a mouse pointer (or keyboard 33) is performed while watching the image displayed on the head-mounted display 22, so that the work navigation by the worker 10 can be performed. it can. The worker 10 can perform an interactive selection of a work process by synthesizing a computer screen and a camera image so as to facilitate remote work.
[0062]
2. Description of the Related Art Conventionally, a technique is known in which monitoring data to be monitored is transmitted to a remote monitoring center via a mobile phone or a PHS, and data is collected at the monitoring center. In this technique, a mobile phone or a PHS is used as a one-way communication means, and cannot communicate with the worker 10 in a special environment requiring hands-free.
[0063]
In this embodiment, the analog output 4 of the general measuring instrument 3 is A / D converted, and the digital signal obtained by the A / D conversion is converted into a code so as to conform to the data communication standard using the mobile phone or the PHS 25. It has a device 8 for converting and outputting. Therefore, the measuring device 3 does not need to be a dedicated measuring device, and can be a general device, and the worker 10 does not need to carry the dedicated measuring device.
[0064]
In addition, as the measuring device 3, a thermometer, a pressure gauge, a flow meter, a strain gauge, a gap sensor, or the like can be used as long as it can capture analog data that does not require a fast measurement time of less than ms (slow response). Not limited. On the other hand, the measuring instrument 3 inputs high-frequency analog data (a phenomenon that changes at high speed) from an oscilloscope or the like, and the PC 12 performs arithmetic processing in response to an output signal from the measuring instrument 3. When controlling a controlled object in real time, it is necessary to take measures to prevent a control delay due to a delay (time lag) associated with data communication.
[0065]
Hereinafter, effects of the present embodiment will be described.
[0066]
Conventional hands-free PCs (WPCs) have good portability, but they are not always easy to operate, and are places where both hands cannot use them for actual work, or where there are restrictions on carrying weight. However, in other applications, the price required for the special specification is not acceptable to the user, and the performance of the PC is inferior.
[0067]
Therefore, if only an interface necessary for this hands-free connection is detachable, the interface itself (communication standard, communication technology, port standard, etc.) does not evolve as much as a PC. Update as needed and keep the interface intact.
[0068]
The data collected at a remote place can be stored in the PC 12 or transferred to another PC 31 using a network. In addition, the PC 31 receives information from different places via the network, thereby enabling data sharing among a plurality of PCs, thereby enabling a network meeting.
[0069]
In addition, by installing only the necessary auxiliary communication means, for example, the worker 10 can perform the work of checking the output 4 of the measuring instrument 3 without greatly changing the viewpoint, thereby improving workability.
[0070]
【The invention's effect】
ADVANTAGE OF THE INVENTION According to this invention, the performance and the problem of a price of a wearable computer (WPC) can be solved.
[Brief description of the drawings]
FIG. 1 is a block diagram of an overall configuration of an embodiment of a computer remote control device of the present invention.
FIG. 2 is a diagram showing a worker wearing an embodiment of the computer remote control device of the present invention.
[Explanation of symbols]
2 Control equipment
3 Measuring instrument
4 Output of measuring instrument
5 Measurement signal
8 Equipment
8a port
8b port
9 Analog signal transmission cable
10 workers
12 General-purpose PC
21 pointer
21a keyboard
22 Head Mount Display
23 Earphones and microphone
24 Camera
25 Wireless communication means (mobile phone or PHS)
25a terminal
26 Wireless communication means (mobile phone or PHS)
31 General-purpose PC
32 microphones
33 keyboard
34 mouse pointer
41 Operation signal

Claims (12)

作業者が身に付けて作業が可能であり前記作業者が無線で遠隔のコンピュータを操作可能なコンピュータ遠隔操作装置であって、
前記作業者の身に付けられ前記コンピュータとの間で無線データ通信を行うための無線通信手段と、
前記作業者の身に付けられ前記コンピュータから前記無線通信手段によって受信したデータを表示する表示部と、
前記作業者によって操作され前記表示部の画面上の位置を指示する位置入力手段とを備え、
前記位置入力手段によって指示された位置を示す信号は、前記コンピュータに送信される
コンピュータ遠隔操作装置。
A computer remote operation device capable of being worn by an operator and capable of operating a remote computer wirelessly,
Wireless communication means for performing wireless data communication with the computer attached to the worker,
A display unit attached to the worker and displaying data received by the wireless communication unit from the computer;
Position input means operated by the operator to indicate a position on the screen of the display unit,
A signal indicating the position designated by the position input means is transmitted to the computer.
請求項1記載のコンピュータ遠隔操作装置において、
前記コンピュータは、前記作業者が身に付けていないコンピュータである
コンピュータ遠隔操作装置。
The computer remote control device according to claim 1,
The computer remote control device, wherein the computer is a computer not worn by the worker.
請求項1または2に記載のコンピュータ遠隔操作装置において、
前記無線通信手段は、携帯電話、PHS、トランシーバ、ワイヤレス式電話機を含む汎用無線通信手段である
コンピュータ遠隔操作装置。
The computer remote control device according to claim 1 or 2,
The computer remote control device is a general-purpose wireless communication means including a mobile phone, a PHS, a transceiver, and a wireless telephone.
請求項1から3のいずれか1項に記載のコンピュータ遠隔操作装置において、
前記コンピュータは、体に装着しない汎用のコンピュータである
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 3,
The computer remote control device is a general-purpose computer that is not worn on the body.
請求項1から4のいずれか1項に記載のコンピュータ遠隔操作装置において、
前記無線通信手段は、携帯電話またはPHSであり、
前記コンピュータには、前記無線通信手段と無線データ通信が可能な携帯電話またはPHSが接続されている
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 4,
The wireless communication means is a mobile phone or a PHS,
A computer remote control device in which a mobile phone or a PHS capable of wireless data communication with the wireless communication means is connected to the computer.
請求項1から5のいずれか1項に記載のコンピュータ遠隔操作装置において、
前記表示部には、前記コンピュータの画面表示に対応する画像データが表示され、
前記作業者は、前記位置入力手段を操作することにより前記コンピュータを操作する
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 5,
On the display unit, image data corresponding to the screen display of the computer is displayed,
A computer remote control device in which the operator operates the computer by operating the position input means.
請求項1から6のいずれか1項に記載のコンピュータ遠隔操作装置において、
更に、
前記無線通信手段に接続されたユニットを備え、
前記ユニットは、前記作業者の作業に伴い計測された計測値を示すアナログ計測データを入力し、前記アナログ計測データをA/D変換し、前記無線データ通信のルールに適合するようにコード化して前記無線通信手段に出力する
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 6,
Furthermore,
Comprising a unit connected to the wireless communication means,
The unit inputs analog measurement data indicating a measurement value measured in accordance with the work of the worker, performs A / D conversion on the analog measurement data, and codes the analog measurement data to conform to the wireless data communication rules. A computer remote control device for outputting to said wireless communication means.
請求項1から7のいずれか1項に記載のコンピュータ遠隔操作装置において、
更に、
前記無線通信手段に接続されたユニットを備え、
前記コンピュータは、前記作業者の作業に伴い制御すべき制御機器に入力すべき制御値を示すアナログ制御データに対応するデジタル制御データを生成し、
前記ユニットは、前記無線通信手段にて受信された前記デジタル制御データを入力し、前記デジタル制御データをD/A変換し、デコードして前記制御機器に出力する
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 7,
Furthermore,
Comprising a unit connected to the wireless communication means,
The computer generates digital control data corresponding to analog control data indicating a control value to be input to a control device to be controlled with the work of the worker,
The computer remote operation device, wherein the unit receives the digital control data received by the wireless communication unit, D / A converts the digital control data, decodes the digital control data, and outputs the digital control data to the control device.
請求項7記載のコンピュータ遠隔操作装置において、
前記コンピュータは、前記計測値を含む画像データを生成し、
前記表示部には、前記計測値を含む画像データが表示される
コンピュータ遠隔操作装置。
The computer remote control device according to claim 7,
The computer generates image data including the measurement value,
A computer remote control device on which image data including the measurement value is displayed on the display unit.
請求項1から9のいずれか1項に記載のコンピュータ遠隔操作装置において、
前記コンピュータは、前記作業者に対する作業指示を含む画像データを生成し、
前記表示部には、前記作業指示を含む画像データが表示される
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 9,
The computer generates image data including a work instruction for the worker,
A computer remote control device on which image data including the work instruction is displayed on the display unit.
請求項1から10のいずれか1項に記載のコンピュータ遠隔操作装置において、
前記表示部は、前記作業者の目前に固定的に設けられている
コンピュータ遠隔操作装置。
The computer remote control device according to any one of claims 1 to 10,
The computer remote control device, wherein the display unit is fixedly provided in front of the worker.
コンピュータと、作業者が身に付けて作業が可能であり前記作業者が無線で遠隔の前記コンピュータを操作可能なコンピュータ遠隔操作装置とを含む作業支援システムであって、
前記コンピュータ遠隔操作装置は、
前記作業者の身に付けられ前記コンピュータとの間で無線データ通信を行うための無線通信手段と、
前記作業者の目前に設けられ前記コンピュータから前記無線通信手段によって受信したデータを表示する表示部と、
前記作業者によって操作され前記表示部の画面上の位置を指示する位置入力手段とを備え、
前記位置入力手段によって指示された位置を示す信号は、前記コンピュータに送信され、
前記コンピュータは、前記作業者が身に付けていないウエアラブルコンピュータとして専用のコンピュータを除く汎用のコンピュータであり、
前記無線通信手段は、携帯電話またはPHSであり、
前記コンピュータには、前記無線通信手段と無線データ通信が可能な携帯電話またはPHSが接続されている
作業支援システム。
A work support system including a computer and a computer remote control device that can be worn by a worker and that can be operated by the worker and that can remotely operate the computer by wireless.
The computer remote control device includes:
Wireless communication means for performing wireless data communication with the computer attached to the worker,
A display unit that is provided in front of the worker and displays data received by the wireless communication unit from the computer,
Position input means operated by the operator to indicate a position on the screen of the display unit,
A signal indicating the position designated by the position input means is transmitted to the computer,
The computer is a general-purpose computer except for a dedicated computer as a wearable computer not worn by the worker,
The wireless communication means is a mobile phone or a PHS,
A work support system in which a mobile phone or a PHS capable of wireless data communication with the wireless communication means is connected to the computer.
JP2002255200A 2002-08-30 2002-08-30 Computer remote control device and work support system Expired - Fee Related JP4089813B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002255200A JP4089813B2 (en) 2002-08-30 2002-08-30 Computer remote control device and work support system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002255200A JP4089813B2 (en) 2002-08-30 2002-08-30 Computer remote control device and work support system

Publications (2)

Publication Number Publication Date
JP2004094622A true JP2004094622A (en) 2004-03-25
JP4089813B2 JP4089813B2 (en) 2008-05-28

Family

ID=32060778

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002255200A Expired - Fee Related JP4089813B2 (en) 2002-08-30 2002-08-30 Computer remote control device and work support system

Country Status (1)

Country Link
JP (1) JP4089813B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009041955A (en) * 2007-08-07 2009-02-26 Hitachi Zosen Corp Data acquisition device
JP2009258954A (en) * 2008-04-16 2009-11-05 Japan Society For The Promotion Of Machine Industry Hands-free type computer device and computer system
JP6244069B1 (en) * 2017-04-17 2017-12-06 株式会社オプティム Remote work support system, remote work support method, and program

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009041955A (en) * 2007-08-07 2009-02-26 Hitachi Zosen Corp Data acquisition device
JP2009258954A (en) * 2008-04-16 2009-11-05 Japan Society For The Promotion Of Machine Industry Hands-free type computer device and computer system
JP6244069B1 (en) * 2017-04-17 2017-12-06 株式会社オプティム Remote work support system, remote work support method, and program
WO2018193509A1 (en) * 2017-04-17 2018-10-25 株式会社オプティム Remote work supporting system, remote work supporting method, and program
US10591986B2 (en) 2017-04-17 2020-03-17 Optim Corporation Remote work supporting system, remote work supporting method, and program

Also Published As

Publication number Publication date
JP4089813B2 (en) 2008-05-28

Similar Documents

Publication Publication Date Title
JP6419262B2 (en) Headset computer (HSC) as an auxiliary display with ASR and HT inputs
KR101643869B1 (en) Operating a Mobile Termianl with a Vibration Module
US11169764B2 (en) Remote work-support system
US8150318B2 (en) Apparatus for collecting environmental data and method of monitoring environment in real time
US11554939B2 (en) Loading crane controller with user worn remote control input and dispaly device
JP2001078177A (en) Wearable display system
JP2017138307A (en) Watch equipped with wireless control module
US20100164909A1 (en) Information processing apparatus
JP2004120577A (en) Equipment controller
JP4089813B2 (en) Computer remote control device and work support system
KR101800323B1 (en) Multi-function treadmill and system using the same
TW201631464A (en) Control system and method for multi-display
CN109062533A (en) Sounding control method, device, electronic device and storage medium
CN209911926U (en) Cable accessory manufacturing and guiding system
JP2002310642A (en) Surface property measuring instrument
CA3090228C (en) Apparatus and method for presenting visual content from a smart device
US11509758B2 (en) Apparatus and method for presenting visual content from a smart device
JP2002041133A (en) Device and method for supporting operation
KR101705274B1 (en) Terminal device
CN112702611A (en) Playing method and playing system
WO2009113683A1 (en) Audio synthesis system for programmable display device
KR101289693B1 (en) Method for Motion-dependent displaying of three-dimensional graphic of image in Mobile terminal
WO2024034416A1 (en) Support device, support system, and support method
CN114087912A (en) Control method and system based on control cabinet and electronic equipment
KR101868373B1 (en) Mobile phone and network system comprising thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041019

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20060313

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20060315

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070427

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070507

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070523

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20071129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071227

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080220

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110307

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110307

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120307

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130307

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140307

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees