JP5996869B2 - 遠隔操作システム、遠隔操作機器及び遠隔操作方法 - Google Patents

遠隔操作システム、遠隔操作機器及び遠隔操作方法 Download PDF

Info

Publication number
JP5996869B2
JP5996869B2 JP2011540455A JP2011540455A JP5996869B2 JP 5996869 B2 JP5996869 B2 JP 5996869B2 JP 2011540455 A JP2011540455 A JP 2011540455A JP 2011540455 A JP2011540455 A JP 2011540455A JP 5996869 B2 JP5996869 B2 JP 5996869B2
Authority
JP
Japan
Prior art keywords
information
scenario
remote
target device
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011540455A
Other languages
English (en)
Other versions
JPWO2011058857A1 (ja
Inventor
宇野 博之
博之 宇野
Original Assignee
レノボ・イノベーションズ・リミテッド(香港)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by レノボ・イノベーションズ・リミテッド(香港) filed Critical レノボ・イノベーションズ・リミテッド(香港)
Publication of JPWO2011058857A1 publication Critical patent/JPWO2011058857A1/ja
Application granted granted Critical
Publication of JP5996869B2 publication Critical patent/JP5996869B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/30User interface
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C2201/00Transmission systems of control signals via wireless link
    • G08C2201/90Additional features
    • G08C2201/92Universal remote control

Description

本発明は、遠隔操作システム、遠隔操作機器及び遠隔操作方法に関し、特にネットワークに接続された機器に対する遠隔操作システム、遠隔操作機器及び遠隔操作方法に関する。
赤外線リモコンは、機械や電子機器を離れた場所から操作する遠隔操作機器として現在広く使われている。これは、制御データで変調した赤外線を機械や電子機器の赤外線受光部に向けて送信することにより、それらの機械や電子機器に対して目的とする操作を遠隔で行うものである。赤外線リモコンを使った場合の操作範囲は、赤外線ビームの広がりで制限される正面から上下左右約±5度以下の範囲と赤外線ビームの到達距離で制限される約5メートルから10メートルの範囲に限られる。
また、この赤外線リモコンは、その操作の簡便性からあらゆる機器に付属している。例えば、テレビ、DVD(Digital Versatile Disk)レコーダー/プレーヤー、オーディオ装置、エアコン、照明機器、カメラ、ゲーム機、パソコン等に付属して消費者に提供されている。さらに、このように多数の機器に付属する赤外線リモコンを一つに集約させる目的で提供されている機器として、学習リモコンやマルチリモコンと呼ばれる機器もある。
近年、ネットワークには、通信系機器のみならずAV(Audio Visual)機器、制御機器等の多くの種類の機器が接続されるようになっている。例えば、家庭内でホームネットワークを構築し、テレビ、DVDレコーダー/プレーヤー、オーディオ装置等のAV機器や、エアコン、照明機器、防犯装置等の制御機器をホームネットワークに接続し、外出先からそれらの機器を操作することができる。
特許文献1は、ネットワークに接続された機器をカメラ部で撮像し、機器を操作するときは、撮像した画像を表示部に表示させ、所望の機器を選択することによりネットワーク経由で機器を遠隔操作する遠隔操作機器の技術を開示する。そして、この遠隔操作機器は、1台で複数の異なる種類の機器を遠隔操作することができる。
特許文献1が開示する遠隔操作機器は、遠隔操作の対象とする機器を撮像する際に、機器固有情報を赤外線信号でその機器自体から取得して、撮像した画像と対応させてメモリに記憶させておく。遠隔操作の際に、ユーザが所望の機器を表示部に表示された画像から選択すると、その選択した画像に対応する機器のユーザインタフェース、操作制御プログラム及び機器固有情報が読み出される。そして、遠隔操作対象となる機器を操作するためのユーザインタフェースが表示部に表示され、遠隔操作機器は無線通信手段を用いて機器固有情報に基づいてネットワークに接続された機器に接続する。そして、ユーザは、遠隔操作機器の表示部に表示されたユーザインタフェースに基づく操作をすることによりネットワークに接続された機器を遠隔操作することができる。
特許文献2は、使用者が頭部に装着し、使用者の視界内の領域を撮像する撮像装置を備える遠隔操作用の操作装置の技術を開示する。この操作装置も1台で複数の異なる種類の機器を遠隔操作することができる。
特許文献2が開示する操作装置は、使用者の視界内に入ることにより撮像装置によって得られた画像情報と、記憶装置に記憶された識別情報とにもとづいて操作対象機器を認識し、使用者が入力した動作指令を操作対象機器に送信する。そのため、この操作装置は、使用者の視界内に入った操作対象装置を自動的に特定して、操作対象装置を遠隔操作することができる。また、使用者は、装着した操作装置に設置された半透過型光学素子に表示される仮想コントローラをポイントすることにより動作指令を入力する。
特許文献3は、遠隔操作対象の機器に一切の機能を追加することなく、複数の対象機器を遠隔操作することができる遠隔操作機器の技術を開示する。
特許文献3が開示する遠隔操作機器は、カメラ部で遠隔操作対象の機器を撮像し、撮像した画像から文字列を抽出して複数の対象機器から操作対象機器を特定する。そして、この遠隔操作機器は、特定した操作対象機器に合わせて操作部の各ボタンを設定し、液晶表示部に操作部の操作方法を表示する。なお、この遠隔操作機器は、特定した機器の遠隔操作にあたっては、従来どおりの赤外線ビームを用いている。そのため、特許文献3が開示する技術は、操作範囲を広げるために中継用の遠隔操作機器を設ける等の工夫がされている。
特開2007−259328号公報 特開2006−146803号公報 特開2005−268941号公報
赤外線リモコンによる遠隔操作は、操作対象の機器に向けて操作ボタンを押すという非常に直感的な操作である。しかし、前述の如く、赤外線リモコンを使った場合の操作範囲は、赤外線ビームの広がりで制限される正面から上下左右約±5度以下の範囲と赤外線ビームの到達距離で制限される約5メートルから10メートルの範囲に限られる。また、学習リモコンやマルチリモコンのように多数の赤外線リモコンを一つに集約することができる装置はあるものの、複数の機器の操作を連携して行うことは困難である。例えば、DVDで映画を見る際に、テレビとDVDプレーヤーの電源を入れ、DVDプレーヤーの再生動作を行うというような機器間での連携操作はできない。
特許文献1が開示する遠隔操作機器は、操作対象機器からの距離に依存することなく遠隔操作を行うことができる。しかし、その操作は、操作対象機器が近距離に存在する場合であっても、メモリに記憶している画像を呼び出し、そして遠隔操作機器上の液晶画面に表示された画像を見ながら特定画像を選択するという操作を行う必要がある。そのため、この遠隔操作機器は、操作対象の機器に向けて操作するという、長年の間、慣れ親しんできた直感的な操作ができない。
指向性のないリモコンを用いるようになっても、操作対象の機器にリモコンを向けて操作するという、リモコン操作の慣れ親しんだ行動スタイルを崩さないようにすることが望まれていると考える。
特許文献2が開示する操作装置は、撮像した画像により操作対象機器を特定するという点において特徴を有する。しかし、使用者は、半透過型光学素子に表示される仮想コントローラをポイントすることにより動作指令を入力するというような特殊な操作を必要する。また、そのために複雑な装置構成となっている。
特許文献3が開示する遠隔操作機器は、操作対象機器の特定にあたって、撮像した画像から文字列を抽出するという点において特徴を有するが、この遠隔操作機器は、従来どおりの赤外線ビームを用いた遠隔操作を行っている。そのため、中継用の遠隔操作機器の開示があるものの、その構成が複雑になり、操作範囲には限度がある。
特許文献1乃至3に開示された技術は、1台で複数の異なる種類の機器を遠隔操作することができる遠隔操作機器を提供することができる。しかし、特許文献1乃至3に開示された技術は、複数の異なる種類の機器の遠隔操作を連携して行うことができる遠隔操作機器を提供することは困難である。
本発明の目的は、上記の課題を解決する遠隔操作システム、遠隔操作機器及び遠隔操作方法を提供することにある。
上記の目的を実現するために、本発明における遠隔操作システムは、ネットワークに接続された複数の機器それぞれ撮像して操作対象機器を特定し、特定した前記操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の操作シナリオ情報を送信する遠隔操作機器と、前記複数の機器を収容して前記ネットワークを構成し、前記遠隔操作機器から前記操作シナリオ情報を受信すると、当該受信した操作シナリオ情報が規定する前記操作対象機器に対して、当該受信した操作シナリオ情報が規定する動作を実行させる操作指示を出力するネットワーク制御ユニットとを備える遠隔操作システムであって、前記遠隔操作機器は、カメラ部と表示部とを含み、前記カメラ部が撮像した前記操作対象機器を、前記遠隔操作機器が撮像対象として認識すると、前記表示部においては、前記操作対象機器に四角枠を表示し、特定した前記操作対象機器を示す制御信号を前記ネットワーク制御ユニットに送信し、前記ネットワーク制御ユニットが受信した前記制御信号に基づいて、前記操作対象機器に設置されているLEDを点灯させることを特徴とする。
また、本発明の遠隔操作機器は、ネットワーク制御ユニットが収容する複数の機器を遠隔操作する遠隔操作機器であって、複数の前記操作対象機器それぞれ撮像して操作対象とする機器を特定する操作対象機器特定手段と、特定した前記操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の各機器の動作を規定する操作シナリオ情報を出力する操作シナリオ出力手段とを備え、前記ネットワーク制御ユニットが前記操作シナリオ情報を受信して当該操作シナリオ情報が規定する動作を前記操作対象機器に実行させる遠隔操作機器であって、前記遠隔操作機器は、カメラ部と表示部とを含み、前記カメラ部が撮像した前記操作対象機器を、前記遠隔操作機器が撮像対象として認識すると、前記表示部においては、前記操作対象機器に四角枠を表示し、特定した前記操作対象機器を示す制御信号を前記ネットワーク制御ユニットに送信し、前記ネットワーク制御ユニットが受信した前記制御信号に基づいて記操作対象機器に設置されているLEDを点灯させることを特徴とする。
また、本発明の遠隔操作方法は、ネットワーク制御ユニットに接続された複数の機器を遠隔操作機器がそれぞれ撮像して操作対象機器を特定する操作対象機器特定ステップと、特定した前記操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の操作シナリオ情報を前記遠隔操作機器が送信する操作シナリオ送信ステップと、受信した前記操作シナリオ情報が規定する機器に対して、当該受信した前記操作シナリオ情報が規定する動作を実行させる操作指示を前記ネットワーク制御ユニットが出力する操作指示出力ステップと、前記遠隔操作機器は、カメラ部と表示部とを含み、前記カメラ部が撮像した前記操作対象機器を、前記遠隔操作機器が撮像対象として認識すると、前記表示部においては、前記操作対象機器に四角枠を表示するステップと、特定した前記操作対象機器を示す制御信号を前記ネットワーク制御ユニットに送信するステップと、前記ネットワーク制御ユニットが受信した前記制御信号に基づいて記操作対象機器に設置されているLEDを点灯させる表示ステップとを含むことを特徴とする。
本発明によれば、リモコン操作の慣れ親しんだ直感的な行動スタイルを崩さず、しかも複数の異なる種類の機器の遠隔操作を連携して行うことができる。
本発明の基本実施形態に係るシステム構成を示すブロック構成図である。 本発明の基本実施形態に係る動作を示すシーケンス図である。 本発明の基本実施形態に係る遠隔操作機器の構成を示すブロック構成図である。 本発明の実施形態1に係る遠隔操作機器の構成を示すブロック構成図である。 本発明の実施形態1に係るネットワーク制御ユニットの構成を示すブロック構成図である。 本発明の実施形態2に係るシステム構成を示すブロック構成図である。 本発明の実施形態2に係る遠隔操作機器の構成を示すブロック構成図である。 本発明の実施形態2に係るネットワーク制御ユニットの構成を示すブロック構成図である。 本発明の実施形態2に係る遠隔操作機器の上面外観を示す外観図である。 本発明の実施形態2に係る遠隔操作機器の表示部に表示された初期メニュー画面例を示す図である。 本発明の実施形態2に係る遠隔操作機器の初期メニュー動作を示すフロー図である。 本発明の実施形態2に係る遠隔操作機器の操作対象機器登録動作を示すフロー図である。 本発明の実施形態2に係る遠隔操作機器の表示部に表示された操作対象機器登録動作時の表示例を示す図である。 本発明の実施形態2の単独操作モードに係る動作を示すシーケンス図である。 本発明の実施形態2に係る遠隔操作機器の表示部に表示された単独操作モード時の表示例を示す図である。 本発明の実施形態2の連携操作モードの操作シナリオ登録に係る動作を示すシーケンス図である。 本発明の実施形態2の連携操作モードの操作シナリオ登録に係る表示部に表示された表示例を示す図である。 本発明の実施形態2の連携操作モードの遠隔操作に係る動作を示すシーケンス図である。 本発明の実施形態2に係る遠隔操作機器の表示部に表示された連携操作モード時の表示例を示す図である。 本発明の実施形態2の連携操作モードの操作シナリオ情報の一例を示す図である。 本発明の実施形態3に係るシステム構成を示すブロック構成図である。 本発明の実施形態3に係るネットワーク制御ユニットの構成を示すブロック構成図である。
本発明を実施するための形態について図面を参照して説明する。
図1は、本発明の基本実施形態に係るシステム構成を示すブロック構成図である。
遠隔操作機器10は、ネットワークに接続された機器を遠隔操作するための装置である。図1において、遠隔操作機器10が操作対象とする機器を、例えば、操作対象機器A30および操作対象機器B40として示している。また、機器C50は、ネットワークに接続された機器ではあるが、現時点での操作対象機器ではないものとしている。
ネットワーク制御ユニット20は、それらの操作対象機器A30、操作対象機器B40および機器C50を収容してネットワークを構成している。
遠隔操作機器10は、ネットワークに接続された任意の複数の機器のそれぞれを撮像して操作対象とする機器を特定し、特定した操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の操作シナリオ情報を送信する。
ネットワーク制御ユニット20は、遠隔操作機器10から前記の操作シナリオ情報を受信すると、当該受信した操作シナリオ情報が規定する機器に対して、当該受信した操作シナリオ情報が規定する動作を実行させる操作指示を出力する。
図1は、上記の様子を模式的に示しており、遠隔操作機器10が機器をそれぞれ撮像する様子、操作シナリオ情報を送信する様子を示している。また、図1は、ネットワーク制御ユニット20が、受信した操作シナリオ情報が規定する機器(操作対象機器A30および操作対象機器B40)に対して、その操作シナリオ情報が規定する動作の実行を指示する様子を示している。
図2は、本発明の基本実施形態に係る動作を示すシーケンス図である。
遠隔操作機器10は、ネットワークに接続された任意の複数の機器をそれぞれ撮像し、操作対象機器を特定する(S201)。遠隔操作機器10は、操作対象機器の種類の組合せで決まる操作シナリオ情報を送信する(S202)。操作シナリオ情報はネットワーク制御ユニット20に送られる。ネットワーク制御ユニット20は、操作シナリオ情報が規定する機器に対して、操作シナリオ情報が規定する動作の実行を指示する操作指示を出力する(S203)。操作指示は各操作対象機器に送られる。操作指示を受信した各操作対象機器は、操作指示で指示された動作を実行する(S204)。
図3は、本発明の基本実施形態に係る遠隔操作機器の構成を示すブロック構成図である。
遠隔操作機器10は、ネットワーク制御ユニットが収容する複数の機器を遠隔操作する遠隔操作機器であって、それら機器のそれぞれを撮像して操作対象とする機器を特定する操作対象機器特定手段11を備える。また、遠隔操作機器10は、特定した操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の各機器の動作を規定する操作シナリオ情報を出力する操作シナリオ出力手段12を備える。そして、前記のネットワーク制御ユニットが前記の操作シナリオ情報を受信して当該操作シナリオ情報が規定する動作を操作対象機器に実行させる。
以上に説明したように、本発明の基本実施形態において、ユーザは、連携動作の操作対象としたい機器に遠隔操作機器10を向けてそれらの機器を撮像する。この操作形態は、リモコン操作の慣れ親しんだ直感的な行動スタイルである。この操作により特定された操作対象機器の種類の組合せで、複数の操作対象機器間の連携動作の操作シナリオ情報が決まる。操作シナリオ情報には制御すべき機器とその動作が規定されているので、この操作シナリオ情報に基づいてそれぞれの操作対象機器が連携した制御動作を実行することができる。
次に、図4と図5を参照して、本発明の実施形態1に係る遠隔操作機器とネットワーク制御ユニットの構成と動作を説明する。
図4は本発明の実施形態1に係る遠隔操作機器の構成を示すブロック構成図である。基本実施形態で説明したように、ユーザは、連携動作の操作対象としたい機器に遠隔操作機器10を向けてそれらの機器を撮像する。例えば、テレビとDVDプレーヤーをそれぞれ撮像したものとする。
この操作により得られた機器の画像は、操作対象機器特定手段11に転送される。操作対象機器特定手段11は、画像照合手段111により、入力した機器の画像を予め記憶している照合用画像112と照合して操作対象機器を特定する。特定された操作対象機器の情報は操作シナリオ出力手段12に転送される。
操作シナリオ出力手段12は、操作シナリオ検索手段121により、特定された制御機器の種類の組合せに基づいて、操作シナリオ登録情報記憶手段122に予め記憶している操作シナリオ登録情報のどの操作シナリオに該当するかを検索する。
操作シナリオについては後述するが、例えば、テレビとDVDプレーヤーをそれぞれ撮像した場合の操作シナリオとして次の制御動作を行うことが規定されているものとする。
・DVDプレーヤーの映像と音声をテレビのライン入力に接続する。
・テレビ、DVDプレーヤーのそれぞれの電源をオンにする。
・テレビの入力ソースをライン入力に切替える。
つまり、これは、DVDプレーヤーをテレビに接続し、テレビとDVDプレーヤーの電源を入れ、DVDプレーヤーで再生する映像をテレビで視聴する準備を行わせる操作シナリオの例である。
このとき、操作シナリオ登録情報記憶手段122から検索した情報には、テレビとDVDプレーヤーの組合せに対応する操作シナリオである上記内容か、又は当該内容の操作シナリオであることを特定することができる操作シナリオ識別情報が含まれている。
操作シナリオ出力手段12は、この検索によって得られた操作シナリオ情報を、通信手段123により出力する。
遠隔操作機器10から出力される操作シナリオ情報は、上述のように、各機器の具体的な動作を規定する操作シナリオそのものか、又はそのような内容の操作シナリオであることを特定できる操作シナリオ識別情報のいずれかを含む。この場合、どちらの操作シナリオ情報が出力されているのかを示す表示フラグを付しても良い。
図5は本発明の実施形態1に係るネットワーク制御ユニットの構成を示すブロック構成図である。
遠隔操作機器10が出力した操作シナリオ情報は、ネットワーク制御ユニット20の通信手段21で受信され、操作シナリオ分析手段22に転送される。
遠隔操作機器10が出力した操作シナリオ情報が操作シナリオ識別情報であった場合、操作シナリオ分析手段22は、操作シナリオ識別情報で操作シナリオ登録情報記憶手段25を検索して、操作シナリオが規定する各機器に対する具体的な動作内容に関する情報を取得する。
一方、遠隔操作機器10が出力した操作シナリオ情報が具体的な各機器の動作を規定する操作シナリオそのものであった場合には、その検索動作は必要ない。
操作シナリオ分析手段22がどちらの動作を行うかは、操作シナリオ情報が表示フラグとともに出力される場合は、その表示フラグで識別できる。また、表示フラグが付されていない場合であっても、操作シナリオ分析手段22は受信した操作シナリオ情報のデータ量を見ることによりいずれの操作シナリオ情報であるかを識別することができる。
操作シナリオ分析手段22は、操作シナリオが規定する操作対象機器と具体的な動作の内容を取得すると、それらを分析し、各操作対象機器の特定と、各操作対象機器に対する操作指示データの生成準備を行う。具体的には、各操作対象機器を特定した操作対象機器情報と、各操作対象機器に対して生成する操作指示の種類を含む操作指示データを出力する。また、操作対象機器間の接続に関する情報が含まれてもよい。
操作シナリオ分析手段22は、これらの分析結果データを操作指示データ生成手段23に転送して操作指示データの生成を指示する。
操作指示データ生成手段23は、操作シナリオ分析手段22から各操作対象機器に対する操作指示データの生成を指示されると、転送された分析結果データに基づいて、各操作対象機器対応に操作指示データを生成する。そして、操作指示データ生成手段23は生成した操作指示データを機器接続手段24に転送する。
機器接続手段24は、各機器を接続するポートを備えており、操作対象機器がどのポートに接続されているかを特定することができる。
当該ネットワーク制御ユニット内で機器間の接続設定を行うことができる制御動作は機器接続手段24にその接続制御が指示される。例えば、「DVDプレーヤーの映像と音声をテレビのライン入力に接続する」制御を機器接続手段24で実行することができる場合には、機器接続手段24にその接続制御が指示される。
また、各操作対象機器で実行させる動作は、機器接続手段24からその操作対象機器に対して操作指示データが送信される。例えば、テレビに対しては、「電源のオン」および「入力ソースをライン入力に切替え」の操作指示データを送り、DVDプレーヤーに対しては、「電源のオン」の操作指示データを送る。
本実施形態は、このように構成し、動作することにより、ユーザが連携動作の操作対象としたい機器に遠隔操作機器10を向けてリモコン操作するだけで、それぞれの操作対象機器が連携した動作を実行することができる。つまり、ユーザは、テレビとDVDプレーヤーを撮像するだけで、画像照合手段111が入力した機器の画像を予め記憶している照合用画像112と照合して操作対象機器をテレビとDVDプレーヤーであると特定する。操作シナリオ検索手段121は、操作対象機器がテレビとDVDプレーヤーであることを知ると、予め記憶している操作シナリオ登録情報記憶手段122のどの操作シナリオに該当するかを検索する。そして、検索された操作シナリオはネットワーク制御ユニット20に送られ、そこで操作シナリオ分析手段22により、操作シナリオの具体的な内容が分析される。分析の結果、各機器の動作を規定する操作指示データが操作指示データ生成手段23で生成され、操作指示データが各機器に送られる。その結果、DVDプレーヤーがテレビに接続され、テレビとDVDプレーヤーの電源が入り、DVDプレーヤーで再生する映像をテレビで視聴する準備ができる。
さらに詳細な実施形態を実施形態2にもとづいて説明する。
図6は、本発明の実施形態2に係るシステム構成を示すブロック図である。
実施形態2は、無線LAN(Local Area Network)や電灯線ネットワーク等で構築する内部ネットワークに適用する例である。
ネットワーク制御ユニット20は、そのような内部ネットワークを構築する制御装置が組み込まれ、遠隔操作機器10とは、無線により通信を行う。この場合の無線通信は、無線LAN、Bluetooth(登録商標)または小電力無線の適用が考えられる。したがって、遠隔操作機器10とネットワーク制御ユニット20との間は、少なくとも10メートルから100メートルの距離があっても通信が可能である。そのため、本実施形態は、家庭内での使用に限ることなく、会議室、小ホールまたはイベント会場等で使用することができる。
その他のシステム構成は、図1を参照して説明した基本実施形態と同様である。ネットワーク制御ユニット20は、複数の機器を収容することが可能である。図6においては、3つの収容機器が例示されている。ネットワーク制御ユニット20は、ユーザが遠隔操作の対象とする操作対象機器A30および操作対象機器B40と、現時点では遠隔操作の対象としていない機器C50を収容しているものとする。
図7は、本発明の実施形態2に係る遠隔操作機器10の構成を示すブロック構成図である。
遠隔操作機器10は、図9にその外観を示すように、操作対象とする機器を撮像するためのカメラ部102、遠隔操作の入力操作を行う操作部104、操作部104の操作方法等を示す表示部103が筐体の外部に配備されている。
筐体の内部には、主制御部101、カメラ制御部105、インタフェース制御部106、メモリ部107および無線通信部108を主要構成要素として含む。
主制御部101は、メモリ部107に記憶されている主プログラムにより遠隔操作機器10の全体的な動作に関する制御を司る。主プログラム以外にも各種のアプリケーションプログラムがメモリ部107に格納され、主制御部101やカメラ制御部105、インタフェース制御部106等の他の制御部と協働して遠隔操作機器10の制御動作を実行する。なお、実施形態1で説明した画像照合手段や操作シナリオ検索手段は、主制御部101が実行する制御動作により実現される。
メモリ部107は、それらのプログラム以外にも、実施形態1で説明した照合用画像情報や操作シナリオ登録情報を記憶する領域を備えている。また、後述する操作対象機器毎の操作インタフェースプログラムもメモリ部107に格納されている。
カメラ制御部105は、カメラ部102を用いた撮像操作に関わる制御を実行する。また、インタフェース制御部106は、表示部103への表示制御や操作部104での操作入力された情報の識別等の制御を行う。
無線通信部108は、当該遠隔操作機器10とネットワーク制御ユニット20との間の無線通信を行う。
図8は、本発明の実施形態2に係るネットワーク制御ユニット20の構成の一例を示すブロック構成図である。
図8において、制御部201は、メモリ部204に記憶されているプログラムによりネットワーク制御ユニット20の全体的な動作に関する制御を司る。なお、実施形態1で説明した操作シナリオ分析手段や操作指示データ生成手段は、制御部201が実行する制御動作により実現される。
メモリ部204は、プログラム以外にも、実施形態1で説明した操作シナリオ登録情報や収容している機器に関する各種のデータを記憶する領域を備えている。
接続部205は、収容機器を接続する機器接続ポート206を備え、当該ネットワーク制御ユニット内で機器間の接続設定を行うことができる制御は接続部205で実行される。
ルーティング部202は、制御部201から出力される操作対象機器に送信する操作指示データを接続部205の目的とするポートに対してルーティングを行う。
無線通信部203は、当該ネットワーク制御ユニット20と遠隔操作機器10との間の無線通信を行う。
次に、本実施形態の動作について説明する。
図10は、本発明の実施形態2に係る遠隔操作機器10の表示部103に表示された初期メニュー画面例を示す図である。
この初期メニュー画面に示されるように、遠隔操作機器10は3つの動作モードを有している。
登録モードは、遠隔操作の対象とする機器を事前に登録しておくための動作モードである。単独操作モードは、機器を個別に遠隔操作するための動作モードである。そして、連携操作モードは、複数の機器を連携して遠隔操作するための動作モードである。ユーザがいずれかのモードを選択し、実行ボタンで確定操作することにより、それぞれのモードの動作が実行される。
図11は、遠隔操作機器10の初期メニュー動作を示すフロー図である。
遠隔操作機器10の表示部103には、電源を投入した初期状態で図10に示す初期メニュー画面が表示され、ユーザの操作入力待ち状態となる(S1101、S1102無)。
ユーザがいずれかのモードを選択し、実行ボタンで確定操作すると(S1102、有)、どのメニューが選択されたかが識別される(S1103)。
登録モードが選択された場合には、登録モードの動作が実行される(S1104)。単独操作モードが選択された場合には、単独操作モードの動作が実行される(S1105)。そして、連携操作モードが選択された場合には、連携操作モードの動作が実行される(S1106)。
以下に、それぞれのモードでの動作を順次説明する。
図12は、遠隔操作機器10の操作対象機器登録動作を示すフロー図である。
まず、ネットワーク制御ユニット20が管理している収容機器情報について説明する。
各機器をネットワーク制御ユニット20の機器接続ポート206に接続すると、図示しない機器の制御部との通信により、ネットワーク制御ユニット20の制御部201でその機器が認識される。そして、接続した機器の種別情報および接続位置情報が特定される。また、各機器には内部ネットワークで使用するアドレスが、例えばDHCP(Dynamic Host Configuration Protocol)機能により付与される。そして、ネットワーク制御ユニット20のメモリ部204には、当該ネットワーク制御ユニット20に接続されている各機器のこれらの情報が接続機器情報として記憶される。
この状態で、遠隔操作機器10が登録モードの動作を行うと、遠隔操作機器10は、ネットワーク制御ユニット20と通信を行い、ネットワーク制御ユニット20から接続機器情報を取得する(S1201)。
ネットワーク制御ユニット20から取得した接続機器情報は、図13に示すように、遠隔操作機器10の表示部103に表示される(S1202)。図13は、ネットワーク制御ユニット20に接続している機器種別、ポート番号、アドレスが表示されている様子を示す。
ユーザは、操作対象機器として登録したい機器を選択して確定操作を行う(S1203)。このユーザ操作は、遠隔操作機器10の操作部104からインタフェース制御部106を介して主制御部101に伝達されるので、主制御部101は、カメラ制御部105にカメラ部102の起動を指示する。
ユーザは、起動されたカメラ部102を用いて、操作対象機器の外観を撮像し、登録操作を行う(S1204)。この機器の外観撮像において、ユーザは異なる角度から複数の外観を撮像してもかまわない。このようにすることにより、後述する単独操作モードや連携操作モードの際に、操作対象とする機器を特定する動作である照合動作がより正確に行われることになる。
登録操作が完了した機器については、表示部103に登録完了の表示が付され、遠隔操作機器10のメモリ部107に照合用画像として機器種別、ポート番号、アドレス等の関連機器情報と対応付けられて記憶される。
ユーザが登録操作を連続して実行する場合(S1205、有)は、上記S1203から再度、操作を繰り返す。
ユーザが登録操作を終了した場合(S1205、無)は、登録モード動作を終了する。
次に、上述した登録モード動作が完了している状態で、ユーザが初期メニュー画面において単独操作モードを選択した場合の動作を説明する。
図14は、単独操作モードに係る動作を示すシーケンス図である。
まず、ユーザは遠隔操作機器10の表示部103の初期メニュー画面において単独操作モードを選択して確定操作を行う(S1401)。このユーザ操作は、遠隔操作機器10の操作部104からインタフェース制御部106を介して主制御部101に伝達されるので、主制御部101は、カメラ制御部105にカメラ部102の起動を指示する。
ユーザは、起動されたカメラ部102を操作対象機器に向けて撮像操作を行う(S1402)。つまり、表示部103がモニタ画面に切り替わっていれば、ユーザはそのモニタ画面に操作対象機器が映っていることを確認してシャッターを切ればよい。
ユーザが撮像した画像は、カメラ制御部105から主制御部101に送られ(S1403)、登録モードで登録した照合用画像との照合が行われる(S1404)。この照合動作により、合致した照合用画像と対応付けて記憶されている機器情報が読み出され、操作対象機器が特定される(S1405)。
操作対象機器が特定されると、主制御部101は、メモリ部107からその機器に対応するインタフェースプログラムを読み出し、インタフェース制御部106に転送する。インタフェース制御部106は、転送されたインタフェースプログラムに従った操作キー配列に操作部104のキーを意味づけ、表示部103にその説明を表示する(S1407)。
図15は、遠隔操作機器10の表示部103に表示された単独操作モード時の操作キー説明の表示例を示す図である。
図15(a)は、操作対象機器をテレビと特定した場合に表示される。四方向キーは音量調節とチャンネル切り替えに、数字キーはチャンネルの直接入力に、確定キーは電源の入/切に使用される例を示している。図15(b)は、操作対象機器をオーディオ機器と特定した場合に表示される。四方向キーは音量調節と演奏局の変更に、数字キーは演奏局の直接指定に、確定キーは電源の入/切に使用される例を示している。そして、図15(c)は、操作対象機器を照明機器と特定した場合に表示される。四方向キーは明るさ調節に、確定キーは電源の入/切に使用される例を示している。もちろん、これらは例示であって、これらの設定に限られることは無い。
ユーザは、遠隔操作機器10の操作部104のキーを操作して、所望の遠隔操作を行う(S1408)。
このユーザ操作は、遠隔操作機器10の操作部104からインタフェース制御部106を介して主制御部101に伝達される。主制御部101は、ユーザが操作した制御内容を識別して、その操作指示データを生成し、無線通信部108を介してネットワーク制御ユニット20に送信する(S1409)。このとき、ネットワーク制御ユニット20に送信される操作指示データには、操作対象機器を特定するアドレス情報を含む。また、後述する連携操作モードと区別するために単独操作モードであることを示す操作モードフラグを付加する。
この操作指示データはネットワーク制御ユニット20の無線通信部206で受信され、制御部201に転送される。
ネットワーク制御ユニット20の制御部201は、操作指示データに付加された操作モードフラグから単独操作モードであることを識別し、操作指示データに含まれるアドレス情報から操作対象機器を特定する(S1410)。
そして、制御部201は、操作指示データをルーティング部202、接続部205を介して操作対象となる機器に送信する(S1411)。
操作対象機器では受信した操作指示データで指定される動作を実行する(S1412)。
上記の、S1408からS1412の動作は、ユーザが遠隔操作機器10の操作部104のキーを操作する度に繰り返される。
以上に説明したように、本実施形態の単独操作モードは、ユーザが遠隔操作機器10のカメラ部102を向けて撮像した機器が遠隔操作の対象機器として特定され、その機器種別に応じた操作を行うことができる。また、カメラ部102がズーム機能を有していれば、離れた場所からでも対象機器を撮像することができるので、大会議室、小ホールまたはイベント会場等でも使用することができる。
また、操作対象とする機器が密集しているような場所で使うことを考慮して、次のように構成してもよい。
一例として、遠隔操作機器10は、ユーザがカメラ部102を操作対象機器に向けたときに、表示部103に表示されている画像のうち、カメラ部102が撮像対象として認識している画像に例えば四角枠を表示するようにしてもよい。また、他の一例として、図14のS1405で、取得した画像による操作対象機器を特定したときに、遠隔操作機器10は、ネットワーク制御ユニット20に特定した機器を示す制御信号を送信するようにしてもよい。この場合、ネットワーク制御ユニット20は、遠隔操作機器10から受信したその制御信号に基づいて、対象機器に設置されている表示手段を点灯させるように指示する操作指示データを送信する。表示手段としては、LED(Light Emitting Diode)が例示される。
次に、登録モード動作が完了している状態で、ユーザが初期メニュー画面において連携操作モードを選択した場合の動作を説明する。
連携操作モードは、実施形態1で説明したように、操作対象とする複数の機器間で連携をとった動作を行わせることができる操作モードである。連携操作モードの動作は、操作シナリオを登録する動作と、操作シナリオが登録されている状況下で複数の機器を連携させて遠隔操作を行なう連携操作モード実行動作とがある。
図16は、本発明の実施形態2の連携操作モードの操作シナリオ登録に係る動作を示すシーケンス図である。
ユーザが遠隔操作機器10の初期メニュー画面で連携操作モードを選択して確定操作を行うと、表示部103が図17(a)に示す連携操作モードのメニュー画面に切り替わる。この連携操作モードのメニュー画面では、操作シナリオ登録動作と連携操作モード実行動作を選択することができる。
ユーザが連携操作モードのメニュー画面で操作シナリオ登録動作を選択すると(S1601、登録)、図17(b)に示す操作対象機器を選択する画面が表示部103に表示される。ここで、表示部103には、図12で説明した登録操作により操作対象機器として登録されている機器の一覧が表示される。
例えば、ユーザが、「DVDプレーヤーで再生する映像、音声をテレビから出力する」という連携操作シナリオを登録するものとする。
ユーザは、登録機器一覧画面から「DVDプレーヤー」を選択して設定する(S1602)。
次に、表示部103には、図17(c)に示すように、当該選択した機器種別に対応して設定が可能な動作内容を選択することができる動作登録画面が表示される。そこでユーザは、「映像出力」という動作を選択して設定する(S1603)。さらに設定する動作がある場合には(S1604、未)、動作登録画面に戻り、次に所望する動作を設定登録する。この場合、「音声出力」を選択して設定し、そして次に「電源入り」を選択して設定する。
「DVDプレーヤー」の設定動作が終了すると(S1604、終了)、ユーザは連携操作する機器である「テレビ」を選択するために操作対象機器の選択画面に戻る(S1605、有)。操作対象機器の選択画面で「テレビ」を選択したユーザは、動作登録画面に移り、そこで前述のように所望の動作を選択して設定する。この場合、「映像入力」、「音声入力」、「電源入り」、「入力ソースのライン入力切替」をそれぞれ選択して設定する。
ユーザが操作シナリオの登録操作を終了すると(S1605、無)、登録した操作シナリオを遠隔操作機器10のメモリ部107に記憶するとともに、同じ操作シナリオをネットワーク制御ユニット20に送信する(S1606)。
以上の動作により、操作シナリオが作成され、遠隔操作機器10とネットワーク制御ユニット20とで操作シナリオを保持する。
図20は、本発明の実施形態2の連携操作モードの操作シナリオの一例を示す図である。各操作シナリオには、シナリオ識別番号が付されて遠隔操作機器10のメモリ部107とネットワーク制御ユニット20のメモリ部204にそれぞれ記憶される。
なお、図20に示された操作シナリオは、それぞれ次のような連携動作を行うことを規定している。シナリオ識別番号No.1は「テレビの音声をオーディオ機器から出力する」。シナリオ識別番号No.2は「DVDプレーヤーで再生する映像、音声をテレビから出力する」。シナリオ識別番号No.3は「DVDプレーヤーで再生する映像をテレビから出力し、音声をオーディオ機器から出力する」。シナリオ識別番号No.4は「DVDプレーヤーで再生する映像をテレビから出力し、音声をオーディオ機器から出力し、照明の明るさをシアターモードに設定する」。
なお、以上に説明した操作シナリオの登録方法は一例であって、これに限定されるものではない。操作対象機器を選択する順番に応じて操作内容が異なるシナリオが登録できるように構成してもよい。例えば、「テレビ」を選択して「録画」という操作を規定し、続いて、「DVD」でテレビを録画するための動作を規定する操作シナリオを登録してもよい。この場合のユーザの遠隔操作としては、「DVDプレーヤーで再生する映像、音声をテレビから出力する」操作シナリオを実行させる場合には、「DVD」を選択し、続いて「テレビ」を選択する。そして、「テレビの番組をDVDレコーダーに録画する」操作シナリオを実行させる場合には、「テレビ」を選択し、続いて「DVD」を選択する。
次に、操作シナリオが上述したように登録されている状態で、ユーザが連携操作モードのメニュー画面で連携操作モード実行動作を選択した場合の動作を説明する。この場合は、図16の選択分岐において(S1601、実行)、連携操作モード動作実行(S1607)に動作が移る。
図18は、連携操作モードの遠隔操作に係る動作を示すシーケンス図である。
連携操作モード実行が選択されると(S1801)、このユーザ操作は、遠隔操作機器10の操作部104からインタフェース制御部106を介して主制御部101に伝達されるので、主制御部101は、カメラ制御部105にカメラ部102の起動を指示する。
ユーザは、起動されたカメラ部102を操作対象機器に向けて撮像する操作を複数の操作対象機器に対して行う(S1802)。つまり、「DVDプレーヤーで再生する映像、音声をテレビから出力する」という連携操作を行う場合、ユーザは、「DVDプレーヤー」を撮像し、引き続き「テレビ」を撮像して確定操作を行えばよい。
ユーザが撮像した画像は、カメラ制御部105から主制御部101に順次送られ(S1803)、登録モードで登録した照合用画像との照合が行われる(S1804)。この照合動作により、合致した照合用画像と対応付けて記憶されている機器情報が読み出され、操作対象機器が特定される(S1805)。この場合、「DVDプレーヤー」と「テレビ」が特定される。
また、このとき、連携操作モード実行が選択されているので、主制御部101は、特定された操作対象機器の組合せで決まる操作シナリオを、メモリ部107に記憶している登録済みの操作シナリオから検索する(S1806)。例えば、図20に示した操作シナリオリストから、シナリオ識別番号No.2が検索される。
続いて、主制御部101は、操作シナリオに基づく動作を実行させるために、操作シナリオ情報をネットワーク制御ユニット20に送信する。実施形態1でも説明したように、遠隔操作機器10からネットワーク制御ユニット20に送信する操作シナリオ情報は、操作シナリオの内容そのものでもよいし、操作シナリオの内容を特定することができる識別情報でもよい。この場合は、送信する情報量を減らすためにシナリオ識別番号を送信するものとする。
主制御部101は、連携操作モードであることを示す操作モードフラグとシナリオ識別番号(No.2)を含む操作指示データを生成して無線通信部108を介してネットワーク制御ユニット20に送信する(S1807)。
ネットワーク制御ユニット20の無線通信部203で受信した制御データは、制御部201に転送される。制御部201は、操作指示データに含まれる連携操作モードであることを示す操作モードフラグとシナリオ識別番号(No.2)から、メモリ部204に記憶している操作シナリオを検索して該当する操作シナリオを読み出す(S1808)。
つまり、操作対象機器として「DVDプレーヤー」と「テレビ」がそれぞれのアドレスおよびポート番号とともに特定される。そして、実行すべき動作として「DVDプレーヤーの映像、音声をテレビに出力」、「DVDプレーヤーの電源入り」、「テレビの電源入り」および「テレビの入力ソース切替」が特定される。
制御部201は、特定した動作のうち、機器間接続設定のようなネットワーク制御ユニット20で実行できる動作を実行する(S1809)。例えば、「DVDプレーヤーの映像、音声をテレビに出力」の動作を、接続部205を制御して実行できる場合には、接続部205にその接続の実行を指示する。
続いて、制御部201は、各操作対象機器に送信する操作指示データを生成し、ルーティング部202および接続部205を介して、各機器が接続されているポートから送信する(S1810)。操作指示データには実行する動作を指示する命令と、ルーティングのためのアドレス情報、ポート情報を含む。そして、この操作指示データにより、目的とする機器に対して、実行する動作に関する情報が伝達される。
この場合、「DVDプレーヤー」には「電源入り」の命令を含む操作指示データが送信され、「テレビ」には、「電源入り」の命令を含む操作指示データと「入力ソース切替」の命令を含む操作指示データが送信される。
各機器では、受信した操作指示データに含まれる命令に従った動作を実行する(S1811)。
一方、操作シナリオ情報を送信した遠隔操作機器10は、ユーザが連携操作の次に行う操作入力ができるように操作部104を設定する。
主制御部101は、S1805で特定した操作対象機器に対応するインタフェースプログラムをメモリ部107から読み出し(S1812)、インタフェース制御部106に転送する。この場合は、「DVDプレーヤー」と「テレビ」のインタフェースプログラムが読み出される。
インタフェース制御部106は、転送されたインタフェースプログラムに従った操作キー配列に操作部104のキーを意味づけ、表示部103にその説明を表示する(S1813)。連携操作モードでは複数の機器に関するインタフェースプログラムが読み出され、表示部103にはいずれか一つのインタフェースしか表示しないが、ユーザ操作で切り替えられるようになっている。
図19は、遠隔操作機器10の表示部103に表示された連携操作モード時の表示例を示す図である。図19では、「DVDプレーヤー」、「オーディオ機器」、「テレビ」および「照明機器」の4つのインタフェースプログラムが読み出されて、適宜切り替えられる様子を示している。
ユーザは、遠隔操作機器10の操作部104のキーを操作して、所望の遠隔操作を行う(S1814)。例えば、上述した連携操作によりDVDプレーヤーとテレビが接続され、両方の機器の電源が入った状態になっており、操作部104は「DVDプレーヤー」の操作インタフェースが設定されている。
このような状態で、ユーザは「再生」に該当する操作を行う。
このユーザ操作は、遠隔操作機器10の操作部104からインタフェース制御部106を介して主制御部101に伝達される。主制御部101は、ユーザが操作した制御内容を識別して、その操作指示データを生成し、無線通信部108を介してネットワーク制御ユニット20に送信する(S1815)。このとき、ネットワーク制御ユニット20に送信される操作指示データには、操作対象機器を特定するアドレス情報を含む。また、連携操作モードであることを示す操作モードフラグを付加する。
この操作指示データはネットワーク制御ユニット20の無線通信部203で受信され、制御部201に転送される。
ネットワーク制御ユニット20の制御部201は、操作指示データに付加された操作モードフラグから連携操作モードであることを識別し、操作指示データに含まれるアドレス情報から操作対象機器を特定する(S1816)。
そして、制御部201は、操作指示データをルーティング部202、接続部205を介して操作対象となる機器に送信する(S1817)。
操作対象機器では受信した操作指示データで指定される動作を実行する(S1818)。
上記の、S1814からS1818の動作は、ユーザが遠隔操作機器10の操作部104のキーを操作する度に繰り返される。
以上に説明したように、本実施形態の連携操作モードは、複数の機器間の連携操作のシナリオを設定することができる。そして、ユーザが遠隔操作機器10のカメラ部102を向けて撮像した複数の機器が遠隔操作の対象機器として特定され、その機器の組合せ応じた連携操作を行うことができる。また、カメラ部102がズーム機能を有していれば、離れた場所からでも対象機器を撮像することができるので、このような機器間の連携操作を大会議室、小ホールまたはイベント会場等でも使用することができる。
また、本実施形態においても、ユーザがカメラ部102を操作対象機器に向けたときに、表示部103に表示されている画像のうち、カメラ部102が撮像対象として認識している画像に例えば四角枠を表示するようにしてもよい。また、図18のS1805で、取得した画像による操作対象機器を特定したときに、当該特定した機器のLEDを含む表示手段を点灯させるようにしてもよい。
次に、本発明の実施形態3を説明する。
図21は、本発明の実施形態3に係るシステム構成を示すブロック図である。
実施形態3は、実施形態2と同様に操作対象機器はローカルエリアネットワーク等の内部ネットワークに接続されているが、遠隔操作機器60が携帯電話機等の移動通信端末に組み込まれる形態となっている。
そのため、実施形態3のネットワーク制御ユニット70は、遠隔操作機器60と直接通信を行う必要はなく、少なくとも移動通信網を介して通信が行われる。
図22は、本発明の実施形態3に係るネットワーク制御ユニットの構成の一例を示すブロック図である。ネットワーク制御ユニット70は、図8に示した実施形態2のネットワーク制御ユニット20から無線通信部203を削除した構成となっている。そして、遠隔操作機器60との間の通信は移動通信網およびインターネットを介して、ローカルエリアネットワークを構築するルーター80を介して行う。従って、ネットワーク制御ユニット70は、図22に示すように、ルーター80と通信を行うことができる通信部703を備える。
その他の構成および動作は実施形態2で説明したものと同じで、登録モード、単独操作モード及び連携操作モードを備えている。
また、本実施形態においても、ユーザがカメラ部102を操作対象機器に向けたときに、表示部103に表示されている画像のうち、カメラ部102が撮像対象として認識している画像に例えば四角枠を表示するようにしてもよい。また、撮像した画像で特定した機器のLEDを含む表示手段を点灯させるようにしてもよい。
この実施形態3は、携帯電話の通信を操作情報の伝達に使うことができ、しかもカメラ部のズーム機能を用いれば遠方に設置された機器の特定も可能になるので、仮設の屋外イベント会場やテーマパーク等の広範に開けた場所での使用に好適である。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2009年11月10日に出願された日本出願特願2009−256909を基礎とする優先権を主張し、その開示の全てをここに取り込む。
10、60 遠隔操作機器
20、70 ネットワーク制御ユニット
30、40 操作対象機器
50 機器
11 操作対象機器特定手段
12 操作シナリオ出力手段
111 画像照合手段
121 操作シナリオ検索手段
13、21 通信手段
112 照合用画像
122、25 操作シナリオ登録情報記憶手段
22 操作シナリオ分析手段
23 操作指示データ生成手段
24 機器接続手段
101 主制御部
102 カメラ部
103 表示部
104 操作部
105 カメラ制御部
106 インタフェース制御部
107、204 メモリ部
108、203 無線通信部
201、701 制御部
202、702 ルーティング部
205、705 接続部
206、706 機器接続ポート
703 通信部
80 ルーター
90 モデム

Claims (21)

  1. ネットワークに接続された複数の機器をそれぞれ撮像して操作対象機器を特定し、特定した前記操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の操作シナリオ情報を送信する遠隔操作機器と、
    前記複数の機器を収容して前記ネットワークを構成し、前記遠隔操作機器から前記操作シナリオ情報を受信すると、当該受信した操作シナリオ情報が規定する前記操作対象機器に対して、当該受信した操作シナリオ情報が規定する動作を実行させる操作指示を出力するネットワーク制御ユニットと
    を備える遠隔操作システムであって、
    前記遠隔操作機器は、カメラ部と表示部とを含み、
    前記カメラ部が撮像した前記操作対象機器を、前記遠隔操作機器が撮像対象として認識すると、前記表示部においては、前記操作対象機器に四角枠を表示し、
    特定した前記操作対象機器を示す制御信号を前記ネットワーク制御ユニットに送信し、前記ネットワーク制御ユニットが受信した前記制御信号に基づいて、前記操作対象機器に設置されているLEDを点灯させることを特徴とする遠隔操作システム。
  2. 前記遠隔操作機器は、
    撮像した前記操作対象機器を、記憶する照合用画像情報と照合して前記操作対象機器を特定する画像照合手段と、
    前記操作シナリオ情報を記憶する操作シナリオ登録情報から、特定した前記操作対象機器の種類の組合せで決まる操作シナリオ情報を取得する操作シナリオ情報検索手段と、
    取得した前記操作シナリオ情報を外部に送信する通信手段と
    を備えることを特徴とする請求項1に記載の遠隔操作システム。
  3. 前記ネットワーク制御ユニットは、
    前記操作シナリオ情報を外部から受信する通信手段と、
    前記操作シナリオ情報が規定する前記操作対象機器と前記操作シナリオ情報が規定する各操作対象機器の動作内容を分析し、各操作対象機器を特定した操作対象機器情報と、各操作対象機器の動作内容情報を出力する操作シナリオ分析手段と、
    前記操作シナリオ分析手段から転送された前記操作対象機器情報と、前記動作内容情報に基づき、各操作対象機器に対応する操作指示データを生成して出力する操作指示データ生成手段と、
    複数の前記操作対象機器のそれぞれを接続するポートを備え、前記操作指示データ生成手段が出力する前記操作指示データに基づいて、前記操作対象機器を接続している前記ポートを特定して前記各操作対象機器に対応する操作指示データを送信する機器接続手段と
    を備えることを特徴とする請求項2に記載の遠隔操作システム。
  4. 前記ネットワーク制御ユニットは、当該ネットワーク制御ユニットに接続した前記操作対象機器の機器種別情報、接続位置情報及び前記ネットワークで規定するアドレス情報を接続機器情報として記憶するメモリ部を備え、
    前記遠隔操作機器は、撮像した前記操作対象機器の画像を前記照合用画像として登録する処理を実行する画像登録制御手段を備え、当該画像登録制御手段は、前記接続機器情報を前記ネットワーク制御ユニットから取得し、撮像した前記操作対象機器の画像を前記接続機器情報と対応させて前記照合用画像として登録することを特徴とする請求項2又は請求項3に記載の遠隔操作システム。
  5. 前記遠隔操作機器は、前記操作シナリオ情報を登録する処理を実行する操作シナリオ登録制御手段を備え、当該操作シナリオ登録制御手段は、操作シナリオ毎に、当該操作に関与する複数の前記操作対象機器の機器種別情報と各操作対象機器に規定される動作情報を、当該操作シナリオを特定する操作シナリオ識別情報とともに前記操作シナリオ登録情報として登録し、登録した当該操作シナリオ登録情報を前記ネットワーク制御ユニットに転送することを特徴とする請求項4に記載の遠隔操作システム。
  6. 前記ネットワーク制御ユニットは、前記遠隔操作機器から転送された前記操作シナリオ登録情報を、当該操作シナリオ登録情報が含む前記操作対象機器の機器種別情報に前記接続機器情報の前記接続位置情報及び前記アドレス情報を付加して、前記メモリ部に記憶することを特徴とする請求項5に記載の遠隔操作システム。
  7. 前記遠隔操作機器の前記操作シナリオ情報検索手段は、取得した前記操作シナリオ情報が含む前記操作シナリオ識別情報を、前記通信手段を介して出力し、前記ネットワーク制御ユニットの前記操作シナリオ分析手段は、前記通信手段を介して前記操作シナリオ識別情報を受信すると、前記メモリ部に記憶された前記操作シナリオ登録情報から前記操作シナリオ識別情報に対応する前記操作シナリオ情報を読み出して、当該操作シナリオ情報が規定する前記操作対象機器と各操作対象機器の動作内容を分析することを特徴とする請求項6に記載の遠隔操作システム。
  8. 前記遠隔操作機器の前記通信手段は、前記ネットワーク制御ユニットの前記通信手段と、直接通信を行うか、又は移動通信網を介して通信を行うことを特徴とする請求項3乃至請求項7のいずれかの請求項に記載の遠隔操作システム。
  9. ネットワーク制御ユニットが収容する複数の機器を遠隔操作する遠隔操作機器であって、
    複数の前記操作対象機器をそれぞれ撮像して操作対象とする機器を特定する操作対象機器特定手段と、
    特定した前記操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の各機器の動作を規定する操作シナリオ情報を出力する操作シナリオ出力手段と
    を備え、
    前記ネットワーク制御ユニットが前記操作シナリオ情報を受信して当該操作シナリオ情報が規定する動作を前記操作対象機器に実行させる遠隔操作機器であって、
    前記遠隔操作機器は、カメラ部と表示部とを含み、
    前記カメラ部が撮像した前記操作対象機器を、前記遠隔操作機器が撮像対象として認識すると、前記表示部においては、前記操作対象機器に四角枠を表示し、
    特定した前記操作対象機器を示す制御信号を前記ネットワーク制御ユニットに送信し、前記ネットワーク制御ユニットが受信した前記制御信号に基づいて記操作対象機器に設置されているLEDを点灯させることを特徴とする遠隔操作機器。
  10. 前記操作対象機器特定手段は、撮像した前記操作対象機器を、記憶する照合用画像情報と照合して前記操作対象機器を特定する画像照合手段を備え、
    前記操作シナリオ出力手段は、前記操作シナリオ情報を記憶する操作シナリオ登録情報から、特定した前記操作対象機器の種類の組合せで決まる操作シナリオ情報を取得する操作シナリオ情報検索手段と、取得した前記操作シナリオ情報を外部に送信する通信手段とを備える
    ことを特徴とする請求項9記載の遠隔操作機器。
  11. 前記遠隔操作機器は、撮像した前記操作対象機器の画像を前記照合用画像として登録する処理を実行する画像登録制御手段を備え、当該画像登録制御手段は、前記ネットワーク制御ユニットが記憶する、当該ネットワーク制御ユニットに接続した前記操作対象機器の機器種別情報、接続位置情報及び前記ネットワークで規定するアドレス情報を含む接続機器情報を、前記ネットワーク制御ユニットから取得し、撮像した前記操作対象機器の画像を前記接続機器情報と対応させて前記照合用画像として登録することを特徴とする請求項10に記載の遠隔操作機器。
  12. 前記遠隔操作機器は、前記操作シナリオ情報を登録する処理を実行する操作シナリオ登録制御手段を備え、当該操作シナリオ登録制御手段は、操作シナリオ毎に、当該操作に関与する複数の前記操作対象機器の機器種別情報と各操作対象機器に規定される動作情報を、当該操作シナリオを特定する操作シナリオ識別情報とともに前記操作シナリオ登録情報として登録し、登録した当該操作シナリオ登録情報を前記ネットワーク制御ユニットに転送することを特徴とする請求項11に記載の遠隔操作機器。
  13. 前記操作シナリオ情報検索手段は、前記操作シナリオ情報を取得すると、当該操作シナリオ情報が含む前記操作シナリオ識別情報か、又は前記操作対象機器の種類情報と各操作対象機器に規定される動作情報を、前記通信手段を介して出力することを特徴とする請求項12に記載の遠隔操作機器。
  14. 前記通信手段は、前記ネットワーク制御ユニットと直接通信を行うか、又は少なくとも移動通信網を介して通信を行うことを特徴とする請求項10乃至請求項13のいずれかの請求項に記載の遠隔操作機器。
  15. ネットワーク制御ユニットに接続された複数の機器を遠隔操作機器がそれぞれ撮像して操作対象機器を特定する操作対象機器特定ステップと、
    特定した前記操作対象機器の種類の組合せで決まる複数の操作対象機器間の連携動作の操作シナリオ情報を前記遠隔操作機器が送信する操作シナリオ送信ステップと、
    受信した前記操作シナリオ情報が規定する機器に対して、当該受信した前記操作シナリオ情報が規定する動作を実行させる操作指示を前記ネットワーク制御ユニットが出力する操作指示出力ステップと、
    前記遠隔操作機器は、カメラ部と表示部とを含み、
    前記カメラ部が撮像した前記操作対象機器を、前記遠隔操作機器が撮像対象として認識すると、前記表示部においては、前記操作対象機器に四角枠を表示するステップと、
    特定した前記操作対象機器を示す制御信号を前記ネットワーク制御ユニットに送信するステップと、
    前記ネットワーク制御ユニットが受信した前記制御信号に基づいて記操作対象機器に設置されているLEDを点灯させる表示ステップと
    を含むことを特徴とする遠隔操作方法。
  16. 前記操作対象機器特定ステップは、撮像した前記操作対象機器を、記憶する照合用画像情報と照合して前記操作対象機器を特定する画像照合ステップを含み、
    前記操作シナリオ送信ステップは、前記操作シナリオ情報を記憶する操作シナリオ登録情報から、特定した前記操作対象機器の種類の組合せで決まる操作シナリオ情報を取得する操作シナリオ情報検索ステップと、取得した前記操作シナリオ情報を外部に送信する通信ステップとを含む
    ことを特徴とする請求項15に記載の遠隔操作方法。
  17. 前記操作指示出力ステップは、
    前記操作シナリオ情報を外部から受信する通信ステップと、
    前記操作シナリオ情報が規定する前記操作対象機器と前記操作シナリオ情報が規定する各操作対象機器の動作内容を分析し、各操作対象機器を特定した操作対象機器情報と、各操作対象機器の動作内容情報を出力する操作シナリオ分析ステップと、
    前記操作シナリオ分析ステップで出力された前記操作対象機器情報と、前記動作内容情報に基づき、各操作対象機器に対応する操作指示データを生成して出力する操作指示データ生成ステップと、
    前記操作指示データ生成ステップで出力した前記操作指示データに基づいて、前記操作対象機器を接続しているポートを特定して前記各操作対象機器に対応する操作指示データを送信する操作指示送信ステップと
    を含むことを特徴とする請求項16に記載の遠隔操作方法。
  18. 前記ネットワーク制御ユニットに接続した前記操作対象機器の機器種別情報、接続位置情報及び前記ネットワークで規定するアドレス情報を接続機器情報として記憶する接続機器情報記憶ステップと、前記遠隔操作機器が撮像した前記操作対象機器の画像を前記照合用画像として登録する画像登録制御ステップを更に含み、
    前記画像登録制御ステップは、前記接続機器情報を前記ネットワーク制御ユニットから取得するステップと、撮像した前記操作対象機器の画像を前記接続機器情報と対応させて前記照合用画像として登録するステップを含む
    ことを特徴とする請求項16又は請求項17に記載の遠隔操作方法。
  19. 前記遠隔操作機器が前記操作シナリオ情報を登録する操作シナリオ登録制御ステップを更に有し、
    前記操作シナリオ登録制御ステップは、操作シナリオ毎に、当該操作に関与する複数の前記操作対象機器の機器種別情報と各操作対象機器に規定される動作情報を、当該操作シナリオを特定する操作シナリオ識別情報とともに前記操作シナリオ登録情報として登録するステップと、登録した当該操作シナリオ登録情報を前記ネットワーク制御ユニットにも転送するステップを含む
    ことを特徴とする請求項18に記載の遠隔操作方法。
  20. 前記遠隔操作機器から転送された前記操作シナリオ登録情報を、前記ネットワーク制御ユニットが、当該操作シナリオ登録情報が含む前記操作対象機器の機器種別情報に、前記接続機器情報記憶ステップで記憶した前記接続機器情報の前記接続位置情報及び前記アドレス情報を付加して、記憶する操作シナリオ登録情報記憶ステップを更に含むことを特徴とする請求項19に記載の遠隔操作方法。
  21. 前記操作シナリオ情報検索ステップは、取得した前記操作シナリオ情報が含む前記操作シナリオ識別情報を出力するステップを含み、
    前記操作シナリオ分析ステップは、受信した前記操作シナリオ識別情報に対応する前記操作シナリオ情報を前記操作シナリオ登録情報から読み出すステップと、読み出した当該操作シナリオ情報が規定する前記操作対象機器と各操作対象機器の動作内容を分析するステップを含むことを特徴とする請求項20に記載の遠隔操作方法。
JP2011540455A 2009-11-10 2010-10-14 遠隔操作システム、遠隔操作機器及び遠隔操作方法 Expired - Fee Related JP5996869B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009256909 2009-11-10
JP2009256909 2009-11-10
PCT/JP2010/068531 WO2011058857A1 (ja) 2009-11-10 2010-10-14 遠隔操作システム、遠隔操作機器及び遠隔操作方法

Publications (2)

Publication Number Publication Date
JPWO2011058857A1 JPWO2011058857A1 (ja) 2013-03-28
JP5996869B2 true JP5996869B2 (ja) 2016-09-21

Family

ID=43991517

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011540455A Expired - Fee Related JP5996869B2 (ja) 2009-11-10 2010-10-14 遠隔操作システム、遠隔操作機器及び遠隔操作方法

Country Status (5)

Country Link
US (1) US8704644B2 (ja)
EP (1) EP2501150B1 (ja)
JP (1) JP5996869B2 (ja)
CN (1) CN102668593B (ja)
WO (1) WO2011058857A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112013003389T5 (de) 2012-03-09 2015-04-16 Panasonic Corporation Arbeitsgang-Festlegungssystem für ein elektrisches Haushaltsgerät
US9989939B2 (en) * 2012-08-21 2018-06-05 Nec Communication Systems, Ltd. Wireless device, controlled device controlled by the same, control system including a wireless device and controlled device, and program for causing a computer in a wireless device to control a controlled device
WO2014115316A1 (ja) * 2013-01-25 2014-07-31 三菱電機株式会社 空気調和システム
US9843831B2 (en) * 2013-05-01 2017-12-12 Texas Instruments Incorporated Universal remote control with object recognition
CN103533706A (zh) * 2013-09-25 2014-01-22 浙江生辉照明有限公司 无线led照明装置、无线照明控制系统及控制方法
JP6145034B2 (ja) * 2013-12-03 2017-06-07 アズビル株式会社 監視制御システム
JP2015228184A (ja) * 2014-06-02 2015-12-17 富士通株式会社 監視プログラム、監視システムおよび監視方法
JP2016086221A (ja) * 2014-10-23 2016-05-19 アイシン精機株式会社 リモコン装置
TWI611379B (zh) * 2015-03-27 2018-01-11 寶貝安科技股份有限公司 遙控燈具方法
JP5975135B1 (ja) * 2015-03-31 2016-08-23 ダイキン工業株式会社 制御システム
CN106101783A (zh) * 2016-05-24 2016-11-09 乐视控股(北京)有限公司 设备的控制方法和装置
KR102384518B1 (ko) * 2017-08-28 2022-04-08 삼성전자 주식회사 메시지 처리 방법 및 이를 지원하는 전자 장치
JP2019184779A (ja) * 2018-04-09 2019-10-24 シャープ株式会社 端末装置、情報処理装置、表示システム、情報表示方法、情報処理方法、制御プログラム、及び電気機器
CN109213039A (zh) * 2018-09-04 2019-01-15 攀枝花学院 一种遥控特斯拉线圈

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003022224A (ja) * 2001-07-09 2003-01-24 Fujitsu Ltd ネットワークを介して相互接続された複数の機器の連携動作の制御
JP2005065118A (ja) * 2003-08-19 2005-03-10 Hitachi Ltd リモコン機能付き携帯端末及びリモコンサーバ
JP2005332070A (ja) * 2004-05-18 2005-12-02 Nippon Telegr & Teleph Corp <Ntt> 端末操作方法とその装置、プログラム及び記録媒体
JP2006041747A (ja) * 2004-07-23 2006-02-09 Funai Electric Co Ltd 遠隔見守りシステム、及び遠隔見守りシステムに用いられる宅内装置
JP2006196956A (ja) * 2005-01-11 2006-07-27 Matsushita Electric Ind Co Ltd 端末装置
JP2009200784A (ja) * 2008-02-21 2009-09-03 Nikon Corp 画像処理装置およびプログラム
JP2009260523A (ja) * 2008-04-15 2009-11-05 Nippon Telegr & Teleph Corp <Ntt> 制御システム、制御装置、管理装置、制御方法、管理方法、制御プログラム、管理プログラム及びそのプログラムを記録した記録媒体

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7224903B2 (en) * 2001-12-28 2007-05-29 Koninklijke Philips Electronics N. V. Universal remote control unit with automatic appliance identification and programming
US7653212B2 (en) * 2006-05-19 2010-01-26 Universal Electronics Inc. System and method for using image data in connection with configuring a universal controlling device
US20040203387A1 (en) * 2003-03-31 2004-10-14 Sbc Knowledge Ventures, L.P. System and method for controlling appliances with a wireless data enabled remote control
JP2005268941A (ja) 2004-03-16 2005-09-29 Sony Corp 遠隔制御装置、遠隔制御方法及びそのプログラム
JP2006146803A (ja) 2004-11-24 2006-06-08 Olympus Corp 操作装置及び遠隔操作システム
DE102006018238A1 (de) * 2005-04-20 2007-03-29 Logitech Europe S.A. System und Verfahren zur adaptiven Programmierung einer Fernbedienung
FR2897186B1 (fr) * 2006-02-06 2008-05-09 Somfy Sas Procede de communication par relais entre une telecommande nomade et des equipements domotiques.
JP2007259329A (ja) * 2006-03-24 2007-10-04 Fujifilm Corp 遠隔制御装置、システムおよび方法
JP4742394B2 (ja) 2006-03-24 2011-08-10 富士フイルム株式会社 遠隔制御装置、方法、プログラムおよびシステム
JP2007318380A (ja) * 2006-05-25 2007-12-06 Pioneer Electronic Corp リモートコントローラ
US20080028430A1 (en) * 2006-07-28 2008-01-31 Barrett Kreiner Control gateways that control consumer electronic devices responsive to RF command signals
KR101362221B1 (ko) 2007-10-18 2014-02-12 삼성전자주식회사 배치 인스트럭션 기반의 통합 리모트 제어 장치, 통합리모콘 제어 시스템, 및 그 제어 방법
JP5373312B2 (ja) 2008-04-14 2013-12-18 株式会社小松製作所 作業車両の配管取付構造
JP4286896B1 (ja) * 2008-05-20 2009-07-01 株式会社東芝 無線機器、無線制御システムおよび無線制御方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003022224A (ja) * 2001-07-09 2003-01-24 Fujitsu Ltd ネットワークを介して相互接続された複数の機器の連携動作の制御
JP2005065118A (ja) * 2003-08-19 2005-03-10 Hitachi Ltd リモコン機能付き携帯端末及びリモコンサーバ
JP2005332070A (ja) * 2004-05-18 2005-12-02 Nippon Telegr & Teleph Corp <Ntt> 端末操作方法とその装置、プログラム及び記録媒体
JP2006041747A (ja) * 2004-07-23 2006-02-09 Funai Electric Co Ltd 遠隔見守りシステム、及び遠隔見守りシステムに用いられる宅内装置
JP2006196956A (ja) * 2005-01-11 2006-07-27 Matsushita Electric Ind Co Ltd 端末装置
JP2009200784A (ja) * 2008-02-21 2009-09-03 Nikon Corp 画像処理装置およびプログラム
JP2009260523A (ja) * 2008-04-15 2009-11-05 Nippon Telegr & Teleph Corp <Ntt> 制御システム、制御装置、管理装置、制御方法、管理方法、制御プログラム、管理プログラム及びそのプログラムを記録した記録媒体

Also Published As

Publication number Publication date
EP2501150A4 (en) 2013-05-29
US20120206245A1 (en) 2012-08-16
WO2011058857A1 (ja) 2011-05-19
CN102668593B (zh) 2015-09-02
EP2501150B1 (en) 2014-08-27
JPWO2011058857A1 (ja) 2013-03-28
EP2501150A1 (en) 2012-09-19
US8704644B2 (en) 2014-04-22
CN102668593A (zh) 2012-09-12

Similar Documents

Publication Publication Date Title
JP5996869B2 (ja) 遠隔操作システム、遠隔操作機器及び遠隔操作方法
CN100508554C (zh) 遥控系统、远程命令器及遥控服务器
JP4812841B2 (ja) Av機器のための映像再生装置
US7653212B2 (en) System and method for using image data in connection with configuring a universal controlling device
US8595856B2 (en) Apparatus and method for installing software
KR101690955B1 (ko) 증강 현실을 이용한 영상 데이터 생성 방법 및 재생 방법, 그리고 이를 이용한 촬영 장치
US20110129196A1 (en) Display control apparatus, display control system, and remote control apparatus
CN104247388B (zh) 自走式电子设备、终端装置以及带遥控器电子设备的操作系统
CN106028106A (zh) 一种电视操控方法及装置
JP2006203831A (ja) リモコン・システム、リモート・コマンダ、並びにリモコン・サーバ
TW201037594A (en) Control system for controlling one or more controllable devices sources and method for enabling such control
KR20110052345A (ko) 디스플레이장치, 카메라 및 그 제어방법
JP2007142806A (ja) 遠隔制御システムおよび遠隔制御装置
US9886844B2 (en) Information processing apparatus, information processing method, and program
JP2006109404A (ja) アダプタ装置及びネットワークカメラシステム
KR20130080278A (ko) 스마트폰을 이용한 디지털기기 제어 및 홈 오토메이션 시스템
JP2005072764A (ja) 機器制御システムとそのための装置及び機器制御方法
JP2007184745A (ja) リモコン・システム、リモコン制御対象機器、並びにコンピュータ・システム
CN109587536A (zh) 一种远程遥控方法、设备、服务器和系统
CN102215122A (zh) 管理用户选择型设备的方法和系统
JP2006324876A (ja) 制御装置および方法、プログラム、並びに記録媒体
JP2015122671A (ja) データ供給装置、データ受信装置、ならびに遠隔通信システム
KR101726578B1 (ko) 모바일 원격 제어 장치
US20140152901A1 (en) Control system for video device and video device
US8589990B2 (en) Demonstration system for electronic devices

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130919

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20140605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140820

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141014

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150309

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150422

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20150626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160407

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160825

R150 Certificate of patent or registration of utility model

Ref document number: 5996869

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees