JP4742394B2 - 遠隔制御装置、方法、プログラムおよびシステム - Google Patents

遠隔制御装置、方法、プログラムおよびシステム Download PDF

Info

Publication number
JP4742394B2
JP4742394B2 JP2006084029A JP2006084029A JP4742394B2 JP 4742394 B2 JP4742394 B2 JP 4742394B2 JP 2006084029 A JP2006084029 A JP 2006084029A JP 2006084029 A JP2006084029 A JP 2006084029A JP 4742394 B2 JP4742394 B2 JP 4742394B2
Authority
JP
Japan
Prior art keywords
remote control
unit
image
information
stored
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006084029A
Other languages
English (en)
Other versions
JP2007259328A (ja
Inventor
丈司 宮下
充史 三沢
一成 大井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2006084029A priority Critical patent/JP4742394B2/ja
Priority to US11/723,927 priority patent/US20070236327A1/en
Publication of JP2007259328A publication Critical patent/JP2007259328A/ja
Application granted granted Critical
Publication of JP4742394B2 publication Critical patent/JP4742394B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B15/00Systems controlled by a computer
    • G05B15/02Systems controlled by a computer electric

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Selective Calling Equipment (AREA)
  • Details Of Television Systems (AREA)
  • Telephonic Communication Services (AREA)

Description

本発明は撮像素子により機器固有の情報を取得し、取得した機器固有の情報に基づいて所望の機器を遠隔制御する技術に関する。
従来、複数の機器から所望の機器を単一のコントローラで簡単に制御するための技術が様々開発されている。例えば特許文献1によると、複数の機器の物理的な配置を記述した物理的トポロジマップを予めリモコン内のメモリに蓄積し、ユーザがリモコンの方向ボタンを見た目の配置どおりに操作する。リモコンがその方向ボタンの入力どおりに物理的トポロジマップを参照して辿ることで所望の機器を選択する。これによりユーザがすばやく直感的に所望の機器を選択することができる。リモコンは物理的トポロジマップを作成するために必要な機器の物理的な配置情報を無線やネットワークの特性を利用して自動的に収集するマップ作成部を有している。
また特許文献2によると、リモコン操作対象機器のそれぞれに対応したリモコン操作情報を記憶するサーバ装置を具備し、携帯リモコン端末はサーバ装置に対して無線通信手段もしくは公衆通信回線を介して予め選択したリモコン操作対象機器に対応するリモコン操作情報を要求するリモコン操作情報要求データを送信する送信部を持ち、サーバ装置はリモコン操作情報要求データに基づいて選択したリモコン操作対象機器に対応するリモコン操作情報を携帯リモコン端末に送信するように構成する。
また非特許文献1によると、携帯電話に搭載されたカスタムイメージセンサを用い、通常画像をリアルタイムに撮像しながら、情報家電からIDを受信する。受信したIDは撮像した背景画像上に重ねてディスプレイ上に表示される。ユーザはディスプレイ上で対象機器を視認しながら操作することができる。
特開2003−284168号公報 特開2002−291072号公報 「部分領域高速読出し機能をもつ低消費電力ID受信CMOSイメージセンサを用いた情報家電マルチリモコン「オプトナビ」システムの提案」、映像情報メディア学会誌Vol.59、No12、pp.1830〜1840(2005)
特許文献1では、機器の配置情報を収集する必要がありトポロジマップの作成が煩雑である。特許文献2では、リモコン操作対象機器を視覚的に簡単に選択できる手段の開示が全くない。また、非特許文献1では、操作対象機器の面前に携帯電話がなければ操作できない。
本発明はこのような問題点に鑑みてなされたもので、操作対象機器の面前にいなくても、遠隔から視覚的に分かりやすく所望の操作対象機器を選択できるようにし、かつ選択した操作対象機器に所望の遠隔制御を行えるようにすることを目的とする。
本発明に係る遠隔制御装置は、遠隔制御の対象となる機器を被写体とする画像と機器から光学的に発信される機器に固有の情報とを撮像素子により取得する取得部と、取得部の取得した機器の画像と機器に固有の情報とを対応づけて記憶する不揮発性の記憶媒体である記憶部と、記憶部に記憶された画像を表示する表示部と、画像と対応づけて固有の情報が記憶部に記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付ける指示受付部と、少なくとも機器に遠隔制御信号を送信する通信部と、指示受付部から選択された機器の制御内容に対応する遠隔制御信号を、指示受付部から選択された機器に送信するよう通信部を制御する遠隔制御部と、を備える。
本発明によると、取得部から取得された画像と機器に固有の情報とを対応づけて不揮発性の記憶媒体に記憶しておく。以後は、この記憶媒体に記憶された画像を表示するとともに、記憶媒体に記憶された固有の情報に基づいて所望の機器を選び、その機器についての所望の遠隔制御内容を選んで、選ばれた遠隔制御内容に対応する遠隔制御信号を、選択された機器に送信する。
本発明では、従来技術と異なり、機器を制御したい場合その都度機器の面前で機器を撮像して固有の情報を取得する必要がない。このため、機器に遠隔制御信号を送る経路が確保されていれば、機器の面前であるか否かにかかわらず、画像を見ながら視覚的に分かりやすく簡単に所望の機器を遠隔制御できる。
好ましくは、取得部は機器に固有の情報として機器のアドレスを取得し、遠隔制御部は機器に関する情報の送信を要求する信号を機器のアドレスに送信するよう通信部を制御し、通信部は遠隔制御部の制御に応じて機器に関する情報の送信を要求する信号を機器のアドレスに送信するとともに、機器から機器に関する情報を受信し、表示部は通信部の受信した機器に関する情報を画像と対応づけて表示する。
機器に関する情報は機器の状態または機器の種類のうち少なくともいずれか1つを含む。
機器の種類や状態のような機器に関する静的・動的な情報を受けたい場合は、機器から固有の情報に含めてアドレスを発信し、機器の遠隔制御の必要が生じる都度、そのアドレスにアクセスして情報を取得することもできる。
好ましくは、取得部は機器に固有の情報として機器のアドレスを取得し、遠隔制御部は機器の遠隔制御に関する情報の送信を要求する信号を機器のアドレスに送信するよう通信部を制御し、通信部は遠隔制御部の制御に応じて機器の遠隔制御に関する情報の送信を要求する信号を機器のアドレスに送信するとともに、機器から機器の遠隔制御に関する情報を受信する。
通信部はネットワークを介してサーバと接続しており、遠隔制御部は機器の遠隔制御に関する情報の送信を要求する信号をサーバに送信するよう通信部を制御し、通信部は遠隔制御部の制御に応じて機器の遠隔制御に関する情報の送信を要求する信号をサーバに送信するとともに、サーバから機器の遠隔制御に関する情報を受信する。
取得部は機器に固有の情報としてサーバのアドレスを取得し、遠隔制御部は機器の遠隔制御に関する情報の送信を要求する信号をサーバのアドレスに送信するよう通信部を制御するとよい。
機器の遠隔制御に関する情報は、機器の種類、遠隔制御部が機器の遠隔制御信号の送信を制御するためのプログラムまたは機器の遠隔操作方法のうち少なくともいずれか1つを含む。
機器の種類、制御プログラム、遠隔制御方法のような機器の遠隔制御に関する静的・動的な情報を受けたい場合は、機器から固有の情報に含めて機器あるいはその機器の販売元・製造元の管理するサーバのアドレスを発信し、機器の遠隔制御の必要が生じる都度、そのアドレスにアクセスして最新の情報を取得することもできる。
この装置は、機器の種類または機器の遠隔操作案内を含む機器に関する情報を音声で案内する音声案内部をさらに備えていてもよい。
視覚的な案内だけでは不十分な場合は、補助的に音声を用いて機器の遠隔操作に関する情報を案内すると便利である。
また、指示受付部はユーザの音声を認識することにより指示を受け付けてもよい。
ユーザの手動操作が不便な場合は、音声で遠隔制御の指示が行え、便利である。
本発明に係る遠隔制御方法は、遠隔制御の対象となる機器を被写体とする画像と機器から光学的に発信される機器に固有の情報とを撮像素子により取得するステップと、取得した機器の画像と機器に固有の情報とを対応づけて不揮発性の記憶媒体に記憶するステップと、記憶媒体に記憶された画像を表示するステップと、記憶媒体に画像と対応づけて固有の情報が記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付けるステップと、選択された機器の制御内容に対応する遠隔制御信号を、選択された機器に送信するステップと、を含む。
本発明に係るプログラムは、遠隔制御の対象となる機器を被写体とする画像と機器から光学的に発信される機器に固有の情報とを撮像素子により取得するステップと、取得した機器の画像と機器に固有の情報とを対応づけて不揮発性の記憶媒体に記憶するステップと、記憶媒体に記憶された画像を表示するステップと、記憶媒体に画像と対応づけて固有の情報が記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付けるステップと、選択された機器の制御内容に対応する遠隔制御信号を、選択された機器に送信するステップと、をコンピュータに実行させる。
本発明に係る遠隔制御システムは、固有の情報を光学的に発信する機器と、遠隔制御の対象となる機器を被写体とする画像と機器から光学的に発信される機器に固有の情報とを撮像素子により取得する取得部と、取得部の取得した機器の画像と機器に固有の情報とを対応づけて記憶する不揮発性の記憶媒体である記憶部と、記憶部に記憶された画像を表示する表示部と、記憶部に画像と対応づけて固有の情報が記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付ける指示受付部と、少なくとも機器に遠隔制御信号を送信する通信部と、指示受付部から選択された機器の制御内容に対応する遠隔制御信号を、指示受付部から選択された機器に送信するよう通信部を制御する遠隔制御部と、を備え、機器は通信部から送信された遠隔制御信号を受信し、受信した遠隔制御信号に対応する制御内容に従って動作する。
本発明によると、取得部から取得された画像と機器に固有の情報とを対応づけて不揮発性の記憶媒体に記憶しておく。以後は、この記憶媒体に記憶された画像を表示するとともに、記憶媒体に記憶された固有の情報に基づいて所望の機器を選び、その機器についての所望の遠隔制御内容を選んで、選ばれた遠隔制御内容に対応する遠隔制御信号を、選択された機器に送信する。
本発明では、従来技術と異なり、機器を制御したい場合その都度機器の面前で機器に固有の情報を取得する必要がない。このため、機器に遠隔制御信号を送る経路が確保されていれば、機器の面前であるか否かにかかわらず、画像を見ながら視覚的に分かりやすく簡単に所望の機器を遠隔制御できる。
<第1実施形態>
図1は本発明の好ましい第1の実施形態に係る遠隔制御システムの概略構成図である。このシステムは、画像記憶装置1と、画像記憶装置1によって制御されるAV機器、パソコン、調理機器などの各種の機器2とを含む。画像記憶装置1は、基地局8、移動体通信網7、インターネット6およびルータ5を介した外部ネットワークか、無線ステーション4との無線通信を介してLAN3と接続する。
機器2はLAN3およびルータ5を介してインターネット6と接続しており、画像記憶装置1は、外部ネットワークまたは無線通信によって機器2と接続することができる。
機器2は自己に固有の情報(機器2の識別番号、ID、シリアル番号、メーカ番号、型式番号、機種、外部ネットワーク上のアドレスなど機器2に固有の情報であれば何でも可)である機器固有情報を赤外線信号などの光学的信号に重畳して発信する固有情報発信部21と、画像記憶装置1からの遠隔制御信号(赤外線信号その他の光学的信号あるいはBluetoothその他の電気的信号で発信)を受信する受信部22とを備える。固有情報発信部21は発光ダイオードや赤外線LEDなどで構成される。
図2は、本発明の好ましい実施形態に係る画像記憶装置1の機能ブロック図である。画像記憶装置1は、撮像レンズ、CMOSやCCDなどの固体撮像素子、ドライバが固体撮像素子から読み取ったアナログ画像をデジタル信号に処理するためのアナログフロントエンドIC、アナログフロントエンドICからのデジタル画像信号を処理するDSP(Digital Signal Processor)等の信号処理ICなどを含んだカメラ部20、ワンチップマイコンなどで構成されカメラ部20の撮像動作を制御するカメラ制御部21を含む。
また、画像記憶装置1は、テンキーや十字キーなどで構成された操作部14への入力操作、リモコン信号送受信部22が外部から受信した各種の操作信号、カメラ部20の取得した画像や機器固有情報などに従って表示部13の表示制御を行う表示制御部26を備えている。
また、画像記憶装置1は、各部の動作制御を統括するCPU10、各種データやプログラムを記憶するROM12、CPU10の処理に必要な各種データを記憶するRAM11を備えている。
特にROM12には、CPU10が操作部14への操作に応じた機器2の制御コードを重畳した遠隔制御信号を発信するようリモコン信号制御部23または無線制御部16を制御するための制御プログラムおよび操作部14の各部の操作とその操作によって重畳される制御コードとの関係を視覚的に表示するリモコンGUIを、複数存在する機器2ごとに格納している。
撮像レンズには、例えば光学2倍ズームレンズが用いられ、操作部14から入力される倍率変更操作に応じてモータドライバが撮像レンズを望遠(テレ)側又は広角(ワイド)側に進退駆動することで光学ズーム倍率が変更される。撮像レンズの倍率は上記に限定されない。撮像レンズには絞りが設けられており、モータドライバを介して絞りを制御して適正な露光量を得る。
操作部14によって撮影モードが設定されると、CPU10は、動画(スルー画)を表示部13に表示させ、撮影画角を確認可能にする。即ち、固体撮像素子は、撮像レンズの受光面に結像された被写体光をその光量に応じた量の信号電荷に変換する。このようにして蓄積された各画素の信号電荷は、CPU10の指令に従いタイミングジェネレータから与えられる駆動パルスに基づき、信号電荷に応じた電圧信号(画像信号)としてドライバによって順次個別に読み出され、アナログフロントエンド回路でデジタル信号に変換されてそれぞれ信号処理回路に加えられる。
信号処理回路は、ゲイン調整回路及びA/D変換器を含み、輝度・色差信号生成回路、ガンマ補正回路、シャープネス補正回路、コントラスト補正回路、ホワイトバランス補正回路、撮影画像に対する輪郭補正を含む画像処理を行う輪郭処理部、画像のノイズ低減処理を行うノイズ低減処理部等を含む画像処理手段であり、CPU10からのコマンドに従って画像信号を処理する。
信号処理回路に入力された画像データは、輝度信号(Y信号)及び色差信号(Cr、Cl信号)に変換されるとともに、ガンマ補正等の所定の処理が施された後、VRAMに格納される。
撮影画像を表示部13にモニタ出力する場合、VRAMからYC信号が読み出され、表示制御部26に送られる。表示制御部26は、入力されたYC信号を表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換して表示部13に出力する。
所定のフレームレートで処理された各フレームのYC信号は、VRAMのA領域とB領域とに交互に書き込まれ、VRAMのA領域及びB領域のうち、YC信号が書き込まれている方の領域以外の領域から、書き込まれているYC信号が読み出される。このようにしてVRAM内のYC信号が定期的に書き換えられ、そのYC信号から生成される映像信号が表示部13に供給されることにより、撮像中の映像がリアルタイムに表示部13に表示される。ユーザは、表示部13に表示される映像(スルー)によって撮影画角を確認できる。
ここで、操作部14に設けられた撮影キーが押下されると、記憶用の撮影動作がスタートする。撮影キーの押下に応動して取得された画像データは信号処理回路において輝度/色差信号(Y/C信号)に変換され、ガンマ補正等の所定の処理が施された後、RAM11に格納される。
RAM11に格納されたY/C信号は、圧縮伸長処理回路によって所定のフォーマットに従って圧縮された後、メモリカード27にExifファイルなどの所定フォーマットの画像ファイルとして記憶される。画像ファイルはフラッシュメモリ28に記憶することもできる。
操作部14によって再生モードが設定されると、メモリカード28に記憶されている最終の画像ファイル(最後に記憶されたファイル)の圧縮データが読み出される。最後の記憶に係るファイルが静止画ファイルの場合、この読み出された画像圧縮データは、圧縮伸長処理回路を介して非圧縮のYC信号に伸長され、VRAMに保存される。VRAMに保存されたYC信号は、表示制御部26に加えられる。表示制御部26は、入力するYC信号からNTSC方式のRGBカラー複合映像信号を作成し、これを表示部13に出力する。これにより、表示部13にはメモリカード27に記憶されている最終コマのコマ画像が表示される。
その後、操作部14に設けられた十字キーの右キーが押されると、順方向にコマ送りされ、十字キーの左キーが押されると、逆方向にコマ送りされる。そして、コマ送りされたコマ位置の画像ファイルがメモリカード27から読み出され、上記と同様にしてコマ画像が表示部13に再生される。尚、最終コマのコマ画像が表示されている状態で順方向にコマ送りされると、メモリカード27に記憶されている1コマ目の画像ファイルが読み出され、1コマ目のコマ画像が表示部13に再生される。
記憶させる画像ファイルの画素数は、例えば、2832×2128(6M)、2048×1536(3M)、1280×960(1M)、640×480(VGA)の何れかであり、記憶画質と記憶画素数との組合せによって撮影画像のデータ量(ファイルサイズ)が変化する。
リモコン送受信部22は、受光素子を備える。図2はカメラ部20とリモコン信号送受信部22とは別体で示されているが、実際には、受光素子は、カメラ部20の固体撮像素子と共通する。このため、カメラ部20が機器2の固有情報発信部21を被写体Sとして撮像すると、画像と合わせて、各機器2が光学的に発信した機器固有情報が取得できる。
リモコン信号制御部23は、外部の機器2からリモコン送受信部22に入射した光学信号に重畳されている機器固有情報をデジタルデータに変換してCPU10に出力する。
CPU10は、リモコン信号制御部23から入力した機器固有情報に応じ、機器固有情報で特定される機器2に固有の制御コードを規定したテーブルをROM12からRAM11に読み出す。そして、操作部14の操作に応じた特定の機器2の制御コードをRAM11から読み出して、リモコン信号制御部23に送る。
リモコン送受信部22は発光ダイオードや赤外線LEDなどで構成された光学的信号発信手段を備える。リモコン信号制御部23は、CPU10から指示された制御コードその他のデータを重畳した光学的信号を機器2に発信する。このように、画像記憶装置1から機器2に光学的な制御信号を送ることで操作部14による特定の機器2の遠隔操作が可能である。
また、画像記憶装置1は、基地局8あるいは無線ステーション4との間で、移動体通信電波、IrDA、Bluetooth、無線LAN、Wireless USBなどの無線信号を送受信する無線送受信部17と、受信した無線信号をデータに変換してCPU10に送信したり、あるいはCPU10から指示された遠隔制御信号を無線信号に重畳する無線制御部16、USBその他の規格に従ってパソコンやプリンタなどの各種家電機器と通信する外部インターフェース部15を備える。
CPU10は、操作部14の操作に応じた特定の機器2の制御コードをRAM11から読み出して、無線制御部16に送ることもできる。無線制御部16は、CPU10から入力された制御コードその他のデータを重畳した無線信号を機器2に発信する。この無線信号は無線ステーション4あるいは基地局8で受信されてLAN3または外部ネットワーク経由で機器2に到達する。機器2は、制御コードを受信すると、制御コードに応じた動作を行う。このように、画像記憶装置1から機器2に無線信号を送ることで操作部14による特定の機器2の遠隔操作も可能である。
画像記憶装置1は、音声を発するスピーカなどの拡声手段および音声を受けて電気信号に変換するマイクなどの受話手段を含む送受話部19、拡声手段の発話内容を制御する音声制御部18を備える。
CPU10は、送受話部19の受けた音声に応じた特定の機器2の制御コードをRAM11から読み出して、リモコン信号制御部23あるいは無線制御部16に送ることもできる。すなわち、特定の機器2に光学的信号あるいは無線信号で発信する制御コードの指定は、操作部14への入力操作に限られず、音声入力でも行える。
また、CPU10は、操作部14への入力操作や送受話部19への音声に応じ、制御コードをリモコン信号送受信部22かまたは無線送受信部17のいずれから発信するかを選択する。画像記憶装置1が制御対象となる機器2の面前であればリモコン信号送受信部22から制御コードを発信すればよいが、そうでない場合は、ユーザが無線送受信部17から制御コードを発信する旨を操作部14への入力操作や送受話部19への音声によってCPU10に指示する。CPU10はこの指示に応じ、無線送受信部17から制御コードを発信するよう制御を行う。
図3は画像記憶装置1の操作画像取得処理の流れを示すフローチャートである。
まず、S1では、CPU10は、操作部14に入力された撮像指示に応じ、カメラ制御部21に静止画取得動作の開始を指令する。カメラ制御部21は、カメラ部20を制御し、静止画および機器固有情報を取得する。静止画はいったんRAM11に記憶される。
S2では、CPU10は、カメラ部20の取得した画像および画像中に被写体として配置された各々の機器2を機器固有情報に基づいて識別する。
S3では、CPU10は、カメラ部20の取得した画像と機器固有情報と識別した機器2とを対応づけてメモリカード27、フラッシュメモリ28などの不揮発性記憶媒体に記憶する。記憶される静止画の数は単数でも複数でもよい。
図4は画像記憶装置1の遠隔操作処理の流れを示すフローチャートである。
S11では、CPU10は表示制御部26に指令して、操作画像取得処理により不揮発性記憶媒体に記憶された静止画をRAM11に読み出して表示部13に表示させる。なお静止画が複数存在する場合は、操作部14への手動入力あるいは送受話部19への音声入力により、所望の1つの静止画を選択させ、選択された静止画を表示する。
S12では、CPU10は、操作部14への手動入力あるいは送受話部19への音声入力によって、画像に対応して不揮発性記憶媒体に記憶された機器2の中から、遠隔制御を希望する機器2を選択するよう表示部13への表示あるいは送受話部19の音声案内などで促す。CPU10は、操作部14への手動入力あるいは送受話部19への音声入力に応じ、機器2を選択する。
S13では、CPU10は選択した機器2に対応する制御プログラムをROM12からRAM11に読み出して実行する。CPU10は制御プログラムの指令に従い、選択した機器2に対応するGUIをROM12からRAM11に読み出した上、表示制御部26に指令してGUIを表示部13に表示させる。GUIは画像と重ねて表示してもよい。
S14では、CPU10はリモコン信号制御部23に指令して、操作部14への手動入力あるいは送受話部19への音声入力に応じ、リモコン信号送受信部22、無線送受信部17、あるいは外部インターフェース部15から、選択した機器2に対し、所望の制御内容を規定する制御コードを送信する。
このように、画像記憶装置1は、カメラ部20による撮像動作により、機器2を被写体とする静止画と機器2から発信される機器固有情報とを取得する。取得された静止画と機器固有情報で識別される機器2は対応づけられて記憶される。その後、画像記憶装置1は、記憶した静止画を表示するとともに、静止画と対応する機器2の中から所望の機器2を選択するよう促し、選択された機器2に対し所望の制御コードを送って遠隔制御する。
画像記憶装置1が機器2の面前で機器2から機器固有情報を取得しなくても、すでに記憶された画像と機器固有情報に基づいて無線送受信部17で制御コードを所望の機器2に送り、任意の場所での機器2の遠隔操作を実現できる。
<第2実施形態>
図5は本発明の好ましい第2の実施形態に係る遠隔制御システムの概略構成図である。このシステムは、画像記憶装置1と機器2とを備える。このシステムでは、画像記憶装置1は、無線ステーション4との無線通信を介してLAN3と接続する。その他の構成は第1実施形態と同様であるため詳細は省略する。
図6は画像記憶装置1の操作画像取得処理の流れを示すフローチャートである。
まず、S21では、CPU10は、操作部14に入力された撮像指示に応じ、カメラ制御部21に静止画取得動作の開始を指令する。カメラ制御部21は、カメラ部20を制御し、静止画と機器固有情報を取得する。
S22では、CPU10は、カメラ部20の取得した画像および機器固有情報に基づき、画像中に被写体として配置された各々の機器2を識別する。機器固有情報には、LAN3上の機器2のアドレスが含まれている。
S23では、CPU10は、各機器2のアドレスに対し、機器2のステータス、制御コードテーブル、制御プログラム、GUI、機器2の操作方法を説明するプログラムや文書などの機器2の制御に関する情報を要求し、要求に応じて送信されてきた情報を受信する。
S24では、CPU10は、カメラ部20の取得した画像と、機器固有情報と、機器2の制御に関する情報とを対応づけて不揮発性記憶媒体に記憶する。
このように、画像と機器固有情報取得後に、機器2の制御に関する情報をLAN3経由で取得し、画像と合わせて記憶しておき、実際の機器2の操作時にその情報を活用することで、機器2の遠隔制御がより容易になる。
<第3実施形態>
図7は本発明の好ましい第3の実施形態に係る遠隔制御システムの概略構成図である。このシステムは、画像記憶装置1と、機器2と、機器2のメーカのサーバ30を含む。画像記憶装置1は、インターネット6を介してサーバ30と接続する。その他の構成は第1実施形態と同様であるため図示と説明は省略する。
画像記憶装置1は、第2実施形態と同様の操作画像取得処理を行う。ただし、S23では、機器2ではなく、サーバ30に対して機器2の制御に関する情報を要求し、この要求に応じてサーバ30が機器操作データベース31から当該機器2の制御に関する情報を抽出して画像記憶装置1に送る。画像記憶装置1は、サーバ30から機器2の制御に関する情報を受信し、画像および機器固有情報と対応づけて不揮発性記憶媒体に記憶する。
こうすると、機器2自身が機器2の制御に関する情報を保有しておく必要がないし、最新の情報をサーバ30から送ることができる。
なお、サーバ30のアドレスは、予め画像記憶装置1のROM12に記憶させておいてもよいし、機器2の固有情報発信部21が発信する機器固有情報に含めて画像記憶装置1に発信してもよい。
図8は機器2からサーバ30のアドレスを送信する場合のデータの流れを示す。
S23では、機器2の固有情報発信部21は、サーバ30のアドレスを機器固有情報に含めて発信する。画像記憶装置1は、機器固有情報からサーバ30のアドレスを認識する。あるいは、機器固有情報に機器2のアドレスしか含まれていない場合でも、画像記憶装置1は、サーバ30のアドレスを送信するよう、LAN3を介して機器2に要求し、LAN3経由でサーバ30のアドレスを機器2から送信させてもよい。画像記憶装置1は、機器2から送信されたサーバ30のアドレスにアクセスし、機器2の制御に関する情報を要求する。サーバ30はこの要求に応じて機器2の制御に関する情報を画像記憶装置1に送る。画像記憶装置1は、サーバ30から機器2の制御に関する情報を受信する。
こうすると、機器2がサーバ30のアドレスを送ることができれば、画像記憶装置1はどのような機器2についても対応するメーカのサーバ30にアクセスして最新情報を取得することができる。
<第4実施形態>
第1実施形態の遠隔操作処理において、操作したい所望の機器2の指定は、音声で行うこともできる。
図9は本発明の好ましい第4の実施形態に係る遠隔操作処理の流れを示すフローチャートである。
S31では、CPU10は表示制御部26に指令して、操作画像取得処理により不揮発性記憶媒体に記憶された静止画を表示部13に表示させる。なお静止画が複数存在する場合は、送受話部19への音声入力により、所望の1つの静止画を選択させ、選択された静止画を表示する。
S32では、CPU10は送受話部19への音声入力による機器2の選択指示(例えば「ビデオ」のような機器の種類の発声)に応じ、画像に対応する機器2の内ユーザが遠隔操作を希望する機器2を選択する。
S33では、CPU10は選択した機器2に対応するGUIをROM12からRAM11に読み出した上、表示制御部26に指令してGUIを表示部13に表示させる。
S34では、CPU10は、音声制御部18が認識した送受話部19への入力音声の内容に応じ、リモコン信号送受信部22、無線送受信部17、あるいは外部インターフェース部15から、選択した機器2に対し、制御コードを送信する。例えば、「再生」という発声が送受話部19へ入力され、これに応じて音声制御部18が「再生」という単語を認識すれば、CPU10はリモコン信号制御部23等に指令して、「ビデオデッキ」である機器2に対し、映像の再生を開始する制御コードを送信する。
その他、第3実施形態のサーバ30への機器2の制御に関する情報の要求も、送受話部19への音声入力に応じて行ってもよい。
<第5実施形態>
第1実施形態の操作画像取得処理においては、画像が取得されたこと、機器固有情報で識別された機器2の種類、操作手順、操作結果などを音声で案内してもよい。
図10は本発明の好ましい第5の実施形態に係る操作画像取得処理の流れを示すフローチャートである。
S41では、CPU10は、操作部14または送受話部19へ入力された撮像指示に応じ、カメラ制御部21に静止画取得動作の開始を指令する。カメラ制御部21は、カメラ部20を制御し、静止画および機器固有情報を取得する。静止画および機器固有情報はいったんRAM11に記憶される。画像の記憶が終了すると、CPU10は音声制御部18に指令し、「撮影しました」などと画像の記憶が完了した旨の案内メッセージを送受話部19から拡声させる。
S42では、CPU10は、RAM11の機器固有情報に基づき、各々の機器2を識別する。各々の機器2の識別が完了すると、CPU10は音声制御部18に指令し、「テレビ、ビデオがあります。記憶しますか」などと識別した機器2の種別および画像を記憶するか否かを確認する案内メッセージを送受話部19から拡声させる。
S43では、CPU10は、操作部14または送受話部19へ入力された画像記憶指示に応じ、カメラ部20の取得した画像と各機器2の機器固有情報とを対応づけて不揮発性記憶媒体に記憶する。
さらに、遠隔操作処理において、音声で操作したい所望の機器2を指定する場合の処理の流れは、次のようになる。
S51では、CPU10は表示制御部26に指令して、操作画像取得処理により不揮発性記憶媒体に記憶された静止画を表示部13に表示させる。この際、CPU10は音声制御部18に指令し、「テレビ、ビデオがあります。」などと不揮発性記憶媒体の機器固有情報で識別される機器2の種別の案内メッセージを送受話部19から拡声させる。
S52では、CPU10は送受話部19への音声入力による機器2の選択指示(例えば「ビデオ」のような機器の種類の発声)に応じ、ユーザが遠隔操作を希望する機器2を選択する。
S53では、CPU10は選択した機器2に対応するGUI(例えば、「ビデオ」の遠隔制御コードである再生、停止、取り出しなどの選択メニュー)をROM12からRAM11に読み出した上、表示制御部26に指令して表示部13に表示させる。
S54では、CPU10はリモコン信号制御部23に指令して、送受話部19への音声入力に応じ、リモコン信号送受信部22、無線送受信部17、あるいは外部インターフェース部15から、選択した機器2に対し、制御コードを送信する。例えば、「再生」という発声が送受話部19へ入力されれば、CPU10はリモコン信号制御部23等に指令して、「ビデオデッキ」である機器2に対し、映像の再生を開始する制御コードを送信する。
このように、音声による案内や音声による遠隔制御の指示を行えるようにしてもよい。
第1実施形態に係る遠隔制御システムの構成図 画像記憶装置の構成図 第1実施形態に係る操作画像取得処理の流れを示すフローチャート 第1実施形態に係る遠隔操作処理の流れを示すフローチャート 第2実施形態に係る遠隔制御システムの構成図 第2実施形態に係る操作画像取得処理の流れを示すフローチャート 第3実施形態に係る遠隔制御システムの構成図 第3実施形態に係る遠隔制御システム(機器からサーバのアドレスが通知)の構成図 第4実施形態に係る遠隔操作処理の流れを示すフローチャート 第5実施形態に係る操作画像取得処理の流れを示すフローチャート 第5実施形態に係る遠隔操作処理の流れを示すフローチャート
符号の説明
1:画像記憶装置、2:機器、3:LAN、4:無線ステーション、5:ルータ、6:インターネット、7:移動体通信網、8:基地局、10:CPU、11:RAM、12:ROM、13:表示部、14:操作部、16:無線制御部、17:無線送受信部、18:音声制御部、19:送受話部、20:カメラ部、21:カメラ制御部、22:リモコン信号送受信部、23:リモコン信号制御部

Claims (11)

  1. 遠隔制御の対象となる機器を被写体とする単数の画像および前記機器から光学的に発信される機器に固有の情報を撮像素子により取得する取得部と、
    前記取得部の取得した各機器を被写体とする単数の画像と前記機器に固有の情報とを対応づけて記憶する不揮発性の記憶媒体である記憶部と、
    前記記憶部に記憶された画像を表示し、前記画像と対応づけて前記固有の情報が前記記憶部に記憶された機器の中から遠隔制御する所望の機器の選択を促す表示部と、
    前記画像と対応づけて前記固有の情報が前記記憶部に記憶された機器の内、遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付ける指示受付部と、
    少なくとも前記機器に遠隔制御信号を送信する通信部と、
    前記指示受付部から選択された機器の制御内容に対応する遠隔制御信号を、前記指示受付部から選択された機器に送信するよう前記通信部を制御する遠隔制御部と、
    を備える遠隔制御装置。
  2. 前記取得部は前記機器に固有の情報として前記機器のアドレスを取得し、
    前記遠隔制御部は前記機器に関する情報の送信を要求する信号を前記機器のアドレスに送信するよう前記通信部を制御し、
    前記通信部は前記遠隔制御部の制御に応じて前記機器に関する情報の送信を要求する信号を前記機器のアドレスに送信するとともに、前記機器から前記機器に関する情報を受信し、
    前記記憶部は前記通信部の受信した前記機器に関する情報を前記画像および前記機器に固有の情報と対応づけて記憶する請求項1に記載の遠隔制御装置。
  3. 前記取得部は前記機器に固有の情報として前記機器のアドレスを取得し、
    前記遠隔制御部は前記機器の遠隔制御に関する情報の送信を要求する信号を前記機器のアドレスに送信するよう前記通信部を制御し、
    前記通信部は前記遠隔制御部の制御に応じて前記機器の遠隔制御に関する情報の送信を要求する信号を前記機器のアドレスに送信するとともに、前記機器から前記機器の遠隔制御に関する情報を受信し、
    前記記憶部は前記通信部の受信した前記機器の遠隔制御に関する情報を前記画像および前記機器に固有の情報と対応づけて記憶する請求項1に記載の遠隔制御装置。
  4. 前記通信部はネットワークを介してサーバと接続しており、
    前記遠隔制御部は前記機器の遠隔制御に関する情報の送信を要求する信号を前記サーバに送信するよう前記通信部を制御し、
    前記通信部は前記遠隔制御部の制御に応じて前記機器の遠隔制御に関する情報の送信を要求する信号を前記サーバに送信するとともに、前記サーバから前記機器の遠隔制御に関する情報を受信し、
    前記記憶部は前記通信部の受信した前記機器の遠隔制御に関する情報を前記画像および前記機器に固有の情報と対応づけて記憶する請求項1に記載の遠隔制御装置。
  5. 前記取得部は前記機器に固有の情報として前記サーバのアドレスを取得し、
    前記遠隔制御部は前記機器の遠隔制御に関する情報の送信を要求する信号を前記サーバのアドレスに送信するよう前記通信部を制御する請求項4に記載の遠隔制御装置。
  6. 前記機器の遠隔制御に関する情報は、前記機器の種類、前記遠隔制御部が前記機器の遠隔制御信号の送信を制御するためのプログラムまたは前記機器の遠隔操作方法のうち少なくともいずれか1つを含む請求項4または5に記載の遠隔制御装置。
  7. 前記機器の種類または前記機器の遠隔操作案内を含む前記機器に関する情報を音声で案内する音声案内部をさらに備える請求項1〜6のいずれかに記載の遠隔制御装置。
  8. 前記指示受付部は前記ユーザの音声を認識することにより指示を受け付ける請求項1〜7のいずれかに記載の遠隔制御装置。
  9. 遠隔制御の対象となる機器を被写体とする単数の画像および前記機器から光学的に発信される機器に固有の情報を撮像素子により取得するステップと、
    取得した各機器を被写体とする単数の画像と前記機器に固有の情報とを対応づけて不揮発性の記憶媒体に記憶するステップと、
    前記記憶媒体に記憶された画像を表示し、前記画像と対応づけて前記固有の情報が前記記憶媒体に記憶された機器の中から遠隔制御する所望の機器の選択を促すステップと、
    前記記憶媒体に画像と対応づけて固有の情報が記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付けるステップと、
    選択された機器の制御内容に対応する遠隔制御信号を、選択された機器に送信するステップと、
    を含む遠隔制御方法。
  10. 遠隔制御の対象となる機器を被写体とする単数の画像および前記機器から光学的に発信される機器に固有の情報を撮像素子により取得するステップと、
    取得した各機器を被写体とする単数の画像と前記機器に固有の情報とを対応づけて不揮発性の記憶媒体に記憶するステップと、
    前記記憶媒体に記憶された画像を表示し、前記画像と対応づけて前記固有の情報が前記記憶媒体に記憶された機器の中から遠隔制御する所望の機器の選択を促すステップと、
    前記記憶媒体に画像と対応づけて固有の情報が記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付けるステップと、
    選択された機器の制御内容に対応する遠隔制御信号を、選択された機器に送信するステップと、
    をコンピュータに実行させる遠隔制御プログラム。
  11. 固有の情報を光学的に発信する機器と、
    遠隔制御の対象となる機器を被写体とする単数の画像および前記機器から光学的に発信される機器に固有の情報を撮像素子により取得する取得部と、
    前記取得部の取得した各機器を被写体とする単数の画像と前記機器に固有の情報とを対応づけて記憶する不揮発性の記憶媒体である記憶部と、
    前記記憶部に記憶された画像を表示し、前記画像と対応づけて前記固有の情報が前記記憶部に記憶された機器の中から遠隔制御する所望の機器の選択を促す表示部と、
    前記記憶部に画像と対応づけて固有の情報が記憶された機器の内遠隔制御する所望の機器の選択および選択された機器に対する所望の制御内容の選択の指示をユーザから受け付ける指示受付部と、
    少なくとも前記機器に遠隔制御信号を送信する通信部と、
    前記指示受付部から選択された機器の制御内容に対応する遠隔制御信号を、前記指示受付部から選択された機器に送信するよう前記通信部を制御する遠隔制御部と、
    を備え、
    前記機器は前記通信部から送信された遠隔制御信号を受信し、受信した遠隔制御信号に対応する制御内容に従って動作する遠隔制御システム。
JP2006084029A 2006-03-24 2006-03-24 遠隔制御装置、方法、プログラムおよびシステム Expired - Fee Related JP4742394B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006084029A JP4742394B2 (ja) 2006-03-24 2006-03-24 遠隔制御装置、方法、プログラムおよびシステム
US11/723,927 US20070236327A1 (en) 2006-03-24 2007-03-22 Apparatus, method, program and system for remote control

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006084029A JP4742394B2 (ja) 2006-03-24 2006-03-24 遠隔制御装置、方法、プログラムおよびシステム

Publications (2)

Publication Number Publication Date
JP2007259328A JP2007259328A (ja) 2007-10-04
JP4742394B2 true JP4742394B2 (ja) 2011-08-10

Family

ID=38574632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006084029A Expired - Fee Related JP4742394B2 (ja) 2006-03-24 2006-03-24 遠隔制御装置、方法、プログラムおよびシステム

Country Status (2)

Country Link
US (1) US20070236327A1 (ja)
JP (1) JP4742394B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101322165A (zh) * 2005-11-30 2008-12-10 皇家飞利浦电子股份有限公司 通用遥控装置的编程
JP4730663B2 (ja) * 2006-03-20 2011-07-20 富士フイルム株式会社 遠隔制御装置、遠隔制御システムおよび遠隔制御方法
JP2007259329A (ja) * 2006-03-24 2007-10-04 Fujifilm Corp 遠隔制御装置、システムおよび方法
US9014685B2 (en) * 2009-06-12 2015-04-21 Microsoft Technology Licensing, Llc Mobile device which automatically determines operating mode
KR101584304B1 (ko) * 2009-07-20 2016-01-11 삼성전자주식회사 콘텐츠 요청 장치 및 방법
KR101606134B1 (ko) * 2009-08-28 2016-03-25 삼성전자주식회사 휴대용 단말기에서 이미지 인식을 통하여 디바이스 연결을 수행하기 위한 장치 및 방법
EP2501150B1 (en) 2009-11-10 2014-08-27 Nec Corporation Remote control apparatus, remote control system and remote control method
GB2492009B (en) * 2010-03-01 2017-02-22 T-Data Systems (S) Pte Ltd A memory card
KR20120099857A (ko) * 2011-03-02 2012-09-12 삼성전자주식회사 통합 리모콘 시스템 및 그 제어 방법
US9241355B2 (en) * 2013-09-30 2016-01-19 Sonos, Inc. Media system access via cellular network
JP6227459B2 (ja) * 2014-03-31 2017-11-08 Kddi株式会社 遠隔操作方法ならびにシステムならびにそのユーザ端末および視聴端末
JP5754058B2 (ja) * 2014-04-16 2015-07-22 オリンパス株式会社 撮影機器
JP6460322B2 (ja) * 2015-02-03 2019-01-30 シャープ株式会社 制御端末装置
JP2021004980A (ja) * 2019-06-26 2021-01-14 株式会社アール・イー・ハヤシ 生活支援マルチリモコン及び生活支援マルチリモコンシステム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3961851A (en) * 1974-10-03 1976-06-08 The United States Of America As Represented By The Secretary Of The Army Passive stereovision range finder
JPH07162843A (ja) * 1993-12-02 1995-06-23 Canon Inc 遠隔制御装置及び画像入力装置
US6424660B2 (en) * 1997-10-10 2002-07-23 Intel Corporation Addressable distributed wireless remote control system
US6646676B1 (en) * 2000-05-17 2003-11-11 Mitsubishi Electric Research Laboratories, Inc. Networked surveillance and control system
US6868292B2 (en) * 2000-09-14 2005-03-15 The Directv Group, Inc. Device control via digitally stored program content
JP2002247666A (ja) * 2001-02-20 2002-08-30 Seiko Epson Corp 機器制御方法および機器制御システム
AU2002354181A1 (en) * 2001-12-03 2003-06-17 Nikon Corporation Electronic apparatus, electronic camera, electronic device, image display apparatus, and image transmission system
US7068306B2 (en) * 2002-01-02 2006-06-27 Hewlett-Packard Development Company, L.P. Proxy-based remote control method and system for a digital camera
JP2004048524A (ja) * 2002-07-15 2004-02-12 Sony Corp 情報処理装置および方法、情報処理システム、記録媒体、並びにプログラム
JP2004164602A (ja) * 2002-10-21 2004-06-10 Connect Technologies Corp 電子機器の制御システムと電子機器
US7177633B2 (en) * 2003-02-04 2007-02-13 Canon Kabushiki Kaisha Remote control system, remote control apparatus, remote control method, program for implementing the method, and electronic apparatus
JP2004289505A (ja) * 2003-03-24 2004-10-14 Daikin Ind Ltd 制御対象機器、機器制御システムおよび機器制御方法
US7626608B2 (en) * 2003-07-10 2009-12-01 Sony Corporation Object detecting apparatus and method, program and recording medium used therewith, monitoring system and method, information processing apparatus and method, and recording medium and program used therewith
WO2005034060A1 (en) * 2003-10-09 2005-04-14 Moreton Bay Corporation Pty Ltd System and method for image monitoring
JP4169714B2 (ja) * 2004-03-10 2008-10-22 シャープ株式会社 操作器
JP2005268941A (ja) * 2004-03-16 2005-09-29 Sony Corp 遠隔制御装置、遠隔制御方法及びそのプログラム
US7379664B2 (en) * 2005-07-26 2008-05-27 Tinkers & Chance Remote view and controller for a camera
JP4765027B2 (ja) * 2005-07-29 2011-09-07 国立大学法人 奈良先端科学技術大学院大学 情報処理装置及び情報処理システム

Also Published As

Publication number Publication date
US20070236327A1 (en) 2007-10-11
JP2007259328A (ja) 2007-10-04

Similar Documents

Publication Publication Date Title
JP4742394B2 (ja) 遠隔制御装置、方法、プログラムおよびシステム
JP4730663B2 (ja) 遠隔制御装置、遠隔制御システムおよび遠隔制御方法
US7710456B2 (en) Remote control device, method and system
JP4645956B2 (ja) 映像配信遠隔制御装置、映像配信システムおよび映像配信方法
JP4719943B2 (ja) 遠隔制御装置、遠隔制御システムおよび機器固有情報表示方法
JP2007259329A (ja) 遠隔制御装置、システムおよび方法
US8848085B2 (en) Photographing apparatus capable of communication with external apparatus and method of controlling the same
US8750674B2 (en) Remotely controllable digital video camera system
US20130077932A1 (en) Digital video camera system having two microphones
JP2006270263A (ja) 撮影システム
JP6319491B2 (ja) 撮像装置及び制御方法
JP5574397B2 (ja) 遠隔制御システム
JP6583458B2 (ja) 撮像装置及び制御方法
JP6583457B2 (ja) 撮像装置及び制御方法
JP5657223B2 (ja) 撮像装置、画像再生システム及び画像再生方法
KR101314565B1 (ko) 위치 관련 정보를 제공하는 촬영장치 및 그 제어방법
JP2005318259A (ja) 画像撮影装置、画像撮影システム及び画像撮影装置制御方法
JP2002281376A (ja) カメラ装置
KR101053045B1 (ko) 영상물의 정보 입력 시스템
JP4989527B2 (ja) 電子機器、遠隔操作制御方法、遠隔操作制御プログラムおよび記録媒体
WO2015052959A1 (ja) 撮像装置、撮像システム、撮像方法、及び撮像プログラム
JP2015036748A (ja) 撮像装置、撮像装置の制御方法、プログラム
JP2010273153A (ja) 撮像装置、電子機器
JP4800888B2 (ja) 撮像装置
JP2007110603A (ja) 携帯端末装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080804

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100917

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101115

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110424

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140520

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees