JP2014191433A - Server device, apparatus control system, control method of server device, and control program of server device - Google Patents

Server device, apparatus control system, control method of server device, and control program of server device Download PDF

Info

Publication number
JP2014191433A
JP2014191433A JP2013064237A JP2013064237A JP2014191433A JP 2014191433 A JP2014191433 A JP 2014191433A JP 2013064237 A JP2013064237 A JP 2013064237A JP 2013064237 A JP2013064237 A JP 2013064237A JP 2014191433 A JP2014191433 A JP 2014191433A
Authority
JP
Japan
Prior art keywords
server
control
application program
program interface
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013064237A
Other languages
Japanese (ja)
Inventor
Kanako Makino
加奈子 牧野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2013064237A priority Critical patent/JP2014191433A/en
Publication of JP2014191433A publication Critical patent/JP2014191433A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To enable a controlled apparatus to be simply controlled from a browser of a terminal.SOLUTION: A server device 20 comprises: a storage unit 21 which stores control information for controlling a controlled apparatus 30; an application program interface 22 which accepts an access from a browser 11 of a terminal device 10 and outputs a control request for controlling the controlled apparatus 30 based on the control information in response to the access; and a real time socket communication server 23 which performs real time socket communication with the terminal device 10 through the application program interface 22 and transmits a control message to the controlled apparatus 30 in response to the output control request.

Description

本発明は、サーバ装置、機器制御システム、サーバ装置の制御方法、及びサーバ装置の制御プログラムに関し、特に、端末装置のブラウザからアクセスを受け付けるサーバ装置、機器制御システム、サーバ装置の制御方法、及びサーバ装置の制御プログラムに関する。   The present invention relates to a server device, a device control system, a server device control method, and a server device control program, and more particularly to a server device, device control system, server device control method, and server that accept access from a browser of a terminal device. The present invention relates to a device control program.

近年、スマートフォンやタブレット端末の普及に伴い、端末アプリ(アプリケーション)市場が拡大している。端末アプリでは、Android(登録商標)端末用のAndroidアプリと、iOS(登録商標)端末用のiOSアプリが市場を席巻している。   In recent years, with the spread of smartphones and tablet terminals, the terminal application (application) market is expanding. In the terminal application, the Android application for the Android (registered trademark) terminal and the iOS application for the iOS (registered trademark) terminal dominate the market.

しかし、端末アプリのビジネスではAndroidアプリの場合は通信キャリアや決済会社へ、iOSアプリの場合はApple(登録商標)社へそれぞれアプリ売り上げの30%の手数料を徴収されてしまい、アプリ提供者は利益を100%得られるわけではない。更に、iOS向けのアプリの場合、アプリのリリース前に審査が必要となるため、リリースタイミングの自由度が下がってしまう。   However, in the business of terminal apps, fees for 30% of app sales are collected by communication carriers and payment companies in the case of Android apps, and Apple (registered trademark) in the case of iOS apps. Is not 100%. Furthermore, in the case of an app for iOS, screening is required before the release of the app, so that the degree of freedom of release timing is lowered.

これらを背景に、近年では端末アプリを脱し、Webアプリへ移行しようとする流れがおきているが、現状ではインターネットブラウザから、端末デバイス(ローカルデバイス)を直接起動することが出来ないという問題が生じている。そのため、未だWebアプリに移行しているアプリ提供者は希少である。そのため、クライアント側(およびユーザ側)で端末アプリをインストール、もしくは、デバイスアクセス用の特定のアプリケーションを事前に用意する必要があった。   Against this background, in recent years, there has been a trend to move away from terminal applications and shift to Web applications, but at present there is a problem that it is not possible to directly start terminal devices (local devices) from an Internet browser. ing. For this reason, there are few app providers that are still transitioning to Web apps. Therefore, it is necessary to install a terminal application on the client side (and the user side) or prepare a specific application for device access in advance.

関連する技術として、例えば、特許文献1や2が知られている。   For example, Patent Documents 1 and 2 are known as related techniques.

特開2012−253514号公報JP 2012-253514 A 特開2009−230378号公報JP 2009-230378 A

現状では、ユーザの持つデータ端末(携帯端末、PC、スマートフォン等)から情報取得機器(Webカメラ、マイク等。但しユーザの持つデータ端末のデバイスも含む)を起動する際に、情報取得機器(端末デバイス)にアクセスする必要が有る。情報取得機器にアクセスするためには、情報取得機器に対応した端末アプリをインストールしておき、その端末アプリからしかアクセスできない。このため、取得したデータは、端末アプリをインストールした端末機器上に保存されてしまう。更に、このとき保存されるデータの形式は、端末機器独自の形式であることも多い。(一例として、日本の携帯電話会社の携帯電話で録音した音声は、ブラウザでの再生が出来ない形式[.3gp、.amc等]である)   At present, when an information acquisition device (Web camera, microphone, etc., including a device of a data terminal owned by a user) is activated from a data terminal (mobile terminal, PC, smartphone, etc.) possessed by the user, the information acquisition device (terminal Device). In order to access the information acquisition device, a terminal application corresponding to the information acquisition device is installed and can be accessed only from the terminal application. For this reason, the acquired data will be preserve | saved on the terminal device which installed the terminal application. Furthermore, the format of the data stored at this time is often a format unique to the terminal device. (For example, audio recorded with a mobile phone of a Japanese mobile phone company is in a format that cannot be played back by a browser [.3gp, .amc, etc.])

これに対して、情報取得機器と同じローカルネットワーク上に情報処理装置を用意することで、これを経由することで情報取得機器をインターネットブラウザから起動し、サーバにデータを保存する発案がされている(例えば、特許文献1など)。   On the other hand, by preparing an information processing device on the same local network as the information acquisition device, the information acquisition device is started from the Internet browser via this and the data is stored in the server. (For example, patent document 1 etc.).

しかしながら、既存のシステムではローカルネットワーク上に情報取得機器を制御する情報処理装置を用意しなくてはならず、例えばデータ端末内のデバイスへアクセスする際には実現することが出来ない。また、ユーザ側で事前にローカル環境の準備や情報取得機器の情報を把握し設定する必要があり、ブラウザさえあれば誰でもアクセスできるとはいえなかった。   However, in an existing system, an information processing apparatus for controlling an information acquisition device must be prepared on a local network, and cannot be realized, for example, when accessing a device in a data terminal. Also, it is necessary for the user to prepare the local environment and information of the information acquisition device in advance, and it cannot be said that anyone with a browser can access it.

本発明は、このような課題に鑑み、端末のブラウザから簡易に被制御機器の制御を可能とするサーバ装置、機器制御システム、サーバ装置の制御方法、及び制御プログラムを提供することを主要な目的としている。   SUMMARY OF THE INVENTION In view of the above problems, the present invention provides a server device, a device control system, a server device control method, and a control program that can easily control a controlled device from a browser of a terminal. It is said.

本発明に係るサーバ装置は、被制御機器を制御するための制御情報を記憶する記憶部と、端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力するアプリケーションプログラムインタフェース部と、前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信するリアルタイムソケット通信サーバ部と、を備えるものである   The server device according to the present invention receives access from a storage unit that stores control information for controlling a controlled device and a browser of a terminal device, and controls the controlled device based on the control information according to the access. An application program interface unit that outputs a control request to be controlled, and a real-time socket communication between the terminal device via the application program interface unit, and a control message to the controlled device according to the output control request A real-time socket communication server unit for transmitting

本発明に係る機器制御システムは、サーバ装置と、端末装置及び被制御機器とが通信可能に接続された機器制御システムであって、前記サーバ装置は、前記被制御機器を制御するための制御情報を記憶する記憶部と、前記端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力するアプリケーションプログラムインタフェース部と、前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信するリアルタイムソケット通信サーバ部と、を備えるものである。   The device control system according to the present invention is a device control system in which a server device, a terminal device, and a controlled device are communicably connected, and the server device has control information for controlling the controlled device. A storage unit that stores information, an application program interface unit that receives access from a browser of the terminal device, and outputs a control request for controlling the controlled device based on the control information in response to the access, and the application program interface A real-time socket communication server unit that performs real-time socket communication with the terminal device via a unit and transmits a control message to the controlled device in response to the output control request.

本発明に係るサーバ装置の制御方法は、記憶部及びアプリケーションプログラムインタフェース部を有するサーバ装置の制御方法であって、被制御機器を制御するための制御情報を前記記憶部に記憶し、前記アプリケーションプログラムインタフェース部は、端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力し、前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信するものである。   A server device control method according to the present invention is a server device control method having a storage unit and an application program interface unit, wherein control information for controlling a controlled device is stored in the storage unit, and the application program The interface unit receives an access from the browser of the terminal device, outputs a control request for controlling the controlled device based on the control information according to the access, and communicates with the terminal device via the application program interface unit. Real-time socket communication is performed, and a control message is transmitted to the controlled device in response to the output control request.

本発明に係るサーバ装置の制御プログラムは、記憶部及びアプリケーションプログラムインタフェース部を有するサーバ装置で実行されるサーバ装置の制御プログラムであって、被制御機器を制御するための制御情報を前記記憶部に記憶し、前記アプリケーションプログラムインタフェース部は、端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力し、前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信するものである。   A control program for a server device according to the present invention is a control program for a server device executed by a server device having a storage unit and an application program interface unit. Control information for controlling a controlled device is stored in the storage unit. And the application program interface unit receives an access from a browser of the terminal device, outputs a control request for controlling the controlled device based on the control information according to the access, and passes through the application program interface unit. Then, real-time socket communication is performed with the terminal device, and a control message is transmitted to the controlled device in response to the output control request.

本発明によれば、端末のブラウザから簡易に被制御機器の制御を可能とするサーバ装置、機器制御システム、サーバ装置の制御方法、及び制御プログラムを提供することができる。   According to the present invention, it is possible to provide a server device, a device control system, a control method for a server device, and a control program that can easily control a controlled device from a browser of a terminal.

実施の形態に係るサーバ装置の主要な特徴を説明するための構成図である。It is a block diagram for demonstrating the main characteristics of the server apparatus which concerns on embodiment. 実施の形態1に係る情報取得システム(機器制御システム)の構成を示す構成図である。1 is a configuration diagram showing a configuration of an information acquisition system (device control system) according to Embodiment 1. FIG. 実施の形態1に係る情報取得システムの動作を示すシーケンス図である。6 is a sequence diagram illustrating an operation of the information acquisition system according to Embodiment 1. FIG.

(実施の形態の特徴)
まず、実施の形態の特徴についてその概要を説明する。図1は、実施の形態に係るサーバ装置を含む機器制御システム(例えば、情報取得システム)の主要な構成を示している。
(Features of the embodiment)
First, an outline of features of the embodiment will be described. FIG. 1 shows a main configuration of a device control system (for example, an information acquisition system) including a server device according to an embodiment.

図1に示すように、実施の形態に係る機器制御システムは、端末装置10、サーバ装置20、被制御機器30を備えている。サーバ装置20は、記憶部21、アプリケーションプログラムインタフェース(API)22、リアルタイムソケット通信サーバ23を備えている。   As shown in FIG. 1, the device control system according to the embodiment includes a terminal device 10, a server device 20, and a controlled device 30. The server device 20 includes a storage unit 21, an application program interface (API) 22, and a real-time socket communication server 23.

記憶部21は、被制御機器30を制御するための制御情報を記憶する。アプリケーションプログラムインタフェース22は、端末装置10のブラウザ11からアクセスを受け付け、当該アクセスに応じて制御情報に基づいた被制御機器30を制御する制御要求を出力する。リアルタイムソケット通信サーバ23は、アプリケーションプログラムインタフェース22を介して端末装置10との間でリアルタイムソケット通信を行い、出力された制御要求に応じて被制御機器30へ制御メッセージを送信する。   The storage unit 21 stores control information for controlling the controlled device 30. The application program interface 22 receives an access from the browser 11 of the terminal device 10 and outputs a control request for controlling the controlled device 30 based on the control information according to the access. The real-time socket communication server 23 performs real-time socket communication with the terminal device 10 via the application program interface 22 and transmits a control message to the controlled device 30 in response to the output control request.

このように、実施の形態では、制御機器の制御情報を端末ではなくサーバに記憶し、サーバのAPIで端末のブラウザから要求を受け付け、記憶された制御情報を用いて、WebSocketなどのリアルタイムソケットを介した被制御機器の制御を行うことを可能とした。これにより、端末側で被制御機器を制御するため事前に必要な情報の設定等を行ったり、被制御機器を制御するための制御を備えたり、また、被制御機器用の端末アプリをインストールする必要がないため、端末のブラウザから簡易に被制御機器を制御することができる。   As described above, in the embodiment, the control information of the control device is stored in the server instead of the terminal, a request is received from the browser of the terminal with the API of the server, and a real-time socket such as WebSocket is set using the stored control information. The controlled device can be controlled via As a result, information necessary for controlling the controlled device on the terminal side is set in advance, control for controlling the controlled device is provided, and a terminal application for the controlled device is installed. Since it is not necessary, the controlled device can be easily controlled from the browser of the terminal.

(実施の形態1)
以下、図面を参照して本発明の実施の形態1について説明する。本実施の形態では、ローカル環境やエンドユーザの事前準備を不要としたデバイスアクセスを行う。Webサーバ上で動作可能なプログラムを用意し、ここに情報取得機器の情報を持たせておくことで、ローカル環境での端末アプリや情報処理装置を不要とする。
(Embodiment 1)
Embodiment 1 of the present invention will be described below with reference to the drawings. In this embodiment, device access is performed without the need for local environment or end user preparation. By preparing a program that can operate on a Web server and having information on the information acquisition device stored therein, a terminal application or an information processing apparatus in the local environment is not required.

本実施の形態では、ユーザが事前に仕込みを行うことなく、Webサーバ上動作するJavaScript(登録商標)のプログラムによって、インターネットブラウザから情報デバイスの起動をリアルタイムに行うことが出来る。特定の端末アプリや情報処理装置を経由しないため、取得したデータはブラウザが認識可能な形式としてサーバに保存する。これにより、ローカルネットワーク上に特定の情報処理装置を必要とせずデバイスアクセスが可能となり、データの二次利用もサーバ上のみで可能となる。   In the present embodiment, an information device can be activated in real time from an Internet browser by a JavaScript (registered trademark) program that operates on a Web server without a user preparing in advance. Since it does not go through a specific terminal application or information processing device, the acquired data is stored in the server in a format that can be recognized by the browser. As a result, device access is possible without requiring a specific information processing apparatus on the local network, and secondary use of data is possible only on the server.

図2は、本実施の形態に係る情報取得システムの構成を示している。この情報取得システムは、インターネットブラウザから端末デバイスを起動し、データをリアルタイムに利用するためのシステムである。   FIG. 2 shows the configuration of the information acquisition system according to the present embodiment. This information acquisition system is a system for starting a terminal device from an Internet browser and using data in real time.

図2に示すように、情報取得システムは、データ端末100、Webサーバ200、データベース300、情報取得機器400を備えている。Webサーバ200と、データ端末100、データベース300、及び情報取得機器400とは、ネットワーク500を介して通信可能に接続されている。ネットワーク500は、例えば、インターネットなどのグローバルネットワークである。また、データ端末100は、インターネットブラウザ101を有している。Webサーバ200は、API210、Web Socket(ウェブソケット)サーバ220を有し、API210には機器情報211が記憶されている。   As shown in FIG. 2, the information acquisition system includes a data terminal 100, a Web server 200, a database 300, and an information acquisition device 400. The Web server 200, the data terminal 100, the database 300, and the information acquisition device 400 are connected via a network 500 so that they can communicate with each other. The network 500 is a global network such as the Internet, for example. Further, the data terminal 100 has an Internet browser 101. The web server 200 includes an API 210 and a web socket (web socket) server 220, and device information 211 is stored in the API 210.

例えば、ユーザ110は、データ端末100によりインターネットブラウザ101を起動し、任意のHTMLページにアクセスする。HTMLページに表示された情報取得ボタン等を押下することで、情報取得機器400を起動しようとする。このとき、Webサーバ200内に保存してあるJavaScriptによるAPI210にアクセスされる。API210は、データ端末100からの指示に従い、Web Socketサーバ220へ情報取得リクエストをリアルタイム送信する。リクエストを受け取ったWeb Socketサーバ220は、情報取得機器400に対して、データの取得リクエストを送信する。データの取得が成功すると、まず、生データとしてオブジェクトが返されるため、Web socketサーバ220は、生データをAPI210に返す。API210は、生データをインターネットブラウザ101が認識可能である汎用的な形式に変換した後に、データベース300に登録する。   For example, the user 110 activates the Internet browser 101 by the data terminal 100 and accesses an arbitrary HTML page. The information acquisition device 400 is activated by pressing an information acquisition button or the like displayed on the HTML page. At this time, the API 210 by JavaScript saved in the Web server 200 is accessed. The API 210 transmits an information acquisition request to the Web Socket server 220 in real time in accordance with an instruction from the data terminal 100. The Web Socket server 220 that has received the request transmits a data acquisition request to the information acquisition device 400. If data acquisition is successful, an object is first returned as raw data, so the Web socket server 220 returns the raw data to the API 210. The API 210 registers the raw data in the database 300 after converting the raw data into a general-purpose format that can be recognized by the Internet browser 101.

図2の各構成について説明する。ユーザ110は、実際にデータ端末100を操作するエンドユーザである。エンドユーザは、データ端末100に標準で実装されている一般的なインターネットブラウザ101を操作すること本実施の形態のシステムを利用する。このため、データ端末100に専用のアプリケーションをインストールしたり、ローカルネットワークの構築をしたりなどの準備を必要としないことが、本実施の形態の特徴のひとつである。   Each configuration of FIG. 2 will be described. The user 110 is an end user who actually operates the data terminal 100. An end user operates a general Internet browser 101 that is installed in the data terminal 100 as a standard, and uses the system of this embodiment. For this reason, it is one of the features of the present embodiment that preparations such as installing a dedicated application on the data terminal 100 or constructing a local network are not required.

データ端末100は、インターネットブラウザ(Webブラウザ)101を起動することができる端末機器である。データ端末100は、例えば、携帯電話、PC(personal computer)、スマートフォン、タブレット端末等であり、インターネットブラウザ101によりWebサーバ200へアクセス可能な装置である。データ端末100のインターネットブラウザ101は、ユーザ110の操作に応じた情報取得リクエストをトリガとし、情報取得リクエストをWebサーバ200およびAPI210へ送信する役割を持つ。   The data terminal 100 is a terminal device that can start an Internet browser (Web browser) 101. The data terminal 100 is, for example, a mobile phone, a PC (personal computer), a smartphone, a tablet terminal, or the like, and is a device that can access the Web server 200 by the Internet browser 101. The Internet browser 101 of the data terminal 100 has a role of transmitting an information acquisition request to the Web server 200 and the API 210 using an information acquisition request according to the operation of the user 110 as a trigger.

Webサーバ200は、データ端末100のインターネットブラウザ101へWebサービス(Webページ)を提供するサーバであり、API210およびWeb Socketサーバ220を有するサーバである。データ端末100が発信した情報取得リクエストは、Webサーバ200で受け取られる。   The Web server 200 is a server that provides a Web service (Web page) to the Internet browser 101 of the data terminal 100, and is a server that includes an API 210 and a Web Socket server 220. The information acquisition request transmitted from the data terminal 100 is received by the Web server 200.

API210は、Webアプリケーションの内部処理を行うプログラム(もしくはAPIプログラムを実行する処理部でもよい)である。API210は、JavaScript言語で記述されたJavaScript APIである。本実施の形態は端末固有のアプリケーションは使用せず、インターネットブラウザ101で閲覧することができるWebページにて一連の処理の指示をだすが、API210は、その内部処理を行う。API210は、データ端末100のインターネットブラウザ101からのアクセスを受け付け、アクセスに応じて、WebSocketサーバ220とWebSocket通信を行い、情報取得リクエスト等を送信する。   The API 210 is a program that performs internal processing of a Web application (or may be a processing unit that executes an API program). API 210 is a JavaScript API written in the JavaScript language. In this embodiment, a terminal-specific application is not used, and a series of processing instructions are issued on a Web page that can be browsed by the Internet browser 101. The API 210 performs internal processing. The API 210 receives access from the Internet browser 101 of the data terminal 100, performs WebSocket communication with the WebSocket server 220 in response to the access, and transmits an information acquisition request or the like.

尚、API210のプログラムはサーバ上で動かせること、プログラムに情報取得機器400の機器情報211を持っていることが本実施の形態の特徴のひとつあり、これにより、クライアント側にプログラムを仕込む(用意する)必要が無くなる。機器情報211は、API210の内部に含まれていてもよいし、図1のように記憶部等に記憶されていてもよい。機器情報(制御情報)211は、被制御機器30の種類や、被制御機器30を制御するための制御コマンド、被制御機器30のアドレス等である。API210は、機器情報211を用いて、情報取得機器400から情報を取得する情報取得リクエストを送信する。また、API210は、情報取得機器400が取得したデータを、インターネットブラウザ101が認識できる汎用的な形式に変換する機能も持つ。   Note that one of the features of the present embodiment is that the API 210 program can be run on the server and that the program has the device information 211 of the information acquisition device 400. Thus, the program is prepared (prepared) on the client side. ) No need. The device information 211 may be included in the API 210, or may be stored in a storage unit or the like as shown in FIG. The device information (control information) 211 is the type of the controlled device 30, the control command for controlling the controlled device 30, the address of the controlled device 30, and the like. The API 210 uses the device information 211 to transmit an information acquisition request for acquiring information from the information acquisition device 400. The API 210 also has a function of converting data acquired by the information acquisition device 400 into a general-purpose format that can be recognized by the Internet browser 101.

Web Socketサーバ220は、API210を介して、実際にリクエストを受けるサーバである。Web Socketサーバ220は、Web Socket通信の確立、制御を行う。また、Web Socketサーバ220は、API210からの情報取得リクエストに応じて、情報取得機器400へデータ取得リクエストを送信し、情報取得機器400から情報を取得する。本実施の形態では、WebSocketを利用することで、サーバへAPIを動作させることが可能になる。API210を介してWeb Socketサーバ220とデータ端末100の間でWeb Socket通信が確立し、Web Socketサーバ220とデータ端末100の間でリアルタイム通信が可能となる。また、Web Socketサーバ220と情報取得機器400の間も、Web Socket通信により接続することで、Web Socketサーバ220と情報取得機器400の間でもリアルタイム通信が可能となる。   The Web Socket server 220 is a server that actually receives a request via the API 210. The Web Socket server 220 establishes and controls Web Socket communication. Further, the Web Socket server 220 transmits a data acquisition request to the information acquisition device 400 in response to the information acquisition request from the API 210, and acquires information from the information acquisition device 400. In the present embodiment, it is possible to operate the API on the server by using WebSocket. Web Socket communication is established between the Web Socket server 220 and the data terminal 100 via the API 210, and real-time communication is possible between the Web Socket server 220 and the data terminal 100. Further, by connecting the Web Socket server 220 and the information acquisition device 400 by Web Socket communication, real-time communication can be performed between the Web Socket server 220 and the information acquisition device 400.

データベース300は、情報取得機器400から取得した生データをインターネットブラウザ101で認識可能である汎用的な形式へ変換後、データを格納する格納部である。データベース300に、情報取得機器400が取得したデータを格納することで、データ端末100のストレージにデータを保存する必要がなくなる。   The database 300 is a storage unit that stores data after converting raw data acquired from the information acquisition device 400 into a general-purpose format that can be recognized by the Internet browser 101. By storing the data acquired by the information acquisition device 400 in the database 300, it is not necessary to store the data in the storage of the data terminal 100.

データベース300に格納されるデータは、インターネットブラウザ101が認識可能である汎用的な形式のデータであり、一例として、音声ならばmp3, wav、動画像ならばmp4, webm, ogg、静止画像ならばjpg,gif, png等である。すなわち、API210は、ブラウザが認識不可能なデータ形式をこれらの汎用的な形式に変換する。例えば、このデータを検索システムに渡した場合、データを直接検索対象にすることが可能となる。このとき、ユーザが増加してもサーバ負荷がかからない。   Data stored in the database 300 is data in a general format that can be recognized by the Internet browser 101. For example, mp3, wav for audio, mp4, webm, ogg for moving images, and still images for audio. jpg, gif, png, etc. That is, the API 210 converts data formats that cannot be recognized by the browser into these general-purpose formats. For example, when this data is passed to the search system, the data can be directly searched. At this time, even if the number of users increases, the server load is not applied.

情報取得機器400は、情報(動画像、静止画像、音声等)を取得する機器である。情報取得機器400は、インターネットに接続し、インターネット経由で受信する制御コマンドにより情報の取得を制御可能な機器である。Webカメラなどのものもあれば、データ端末100内に搭載されているカメラやマイクなどもこれに該当する。   The information acquisition device 400 is a device that acquires information (moving images, still images, sounds, etc.). The information acquisition device 400 is a device that can connect to the Internet and control acquisition of information by a control command received via the Internet. There are things such as a Web camera, and a camera and a microphone mounted in the data terminal 100 also correspond to this.

図3のシーケンスを用いて、本実施の形態の動作について説明する。図3に示すように、まず、ユーザ110は、データ端末100を操作することによりインターネットブラウザ101を起動する(S10)。   The operation of the present embodiment will be described using the sequence of FIG. As shown in FIG. 3, first, the user 110 activates the Internet browser 101 by operating the data terminal 100 (S10).

続いて、データ端末100は、インターネットブラウザ101に表示されたHTMLページからWebサーバ200内に保存してあるJavaScriptによるAPI210にアクセスする(S11)。続いて、API210は、データ端末100からの指示に従い、データ端末100とAPI210でWeb Socket通信を確立する(S12)。例えば、インターネットブラウザ101のアクセスに応じてAPI210からWeb Socketサーバ220へWeb Socketの確立を要求し、ハンドシェイクを行うことで、データ端末100とWeb Socketサーバ220の間でWeb Socketが確立する。   Subsequently, the data terminal 100 accesses the API 210 by Java Script stored in the Web server 200 from the HTML page displayed on the Internet browser 101 (S11). Subsequently, the API 210 establishes Web Socket communication between the data terminal 100 and the API 210 in accordance with an instruction from the data terminal 100 (S12). For example, the web socket is established between the data terminal 100 and the web socket server 220 by requesting establishment of the web socket from the API 210 to the web socket server 220 according to the access of the internet browser 101 and performing a handshake.

続いて、API210は、Web Socket通信によってWeb Socketサーバ220へ情報取得リクエストをリアルタイム送信する(S13)。このとき、情報取得機器400にアクセスするための機器情報を隠蔽して付与する。続いて、リクエストを受け取ったWeb Socketサーバ220は、情報取得機器400に対して、データの取得リクエストを送信する(S14)。   Subsequently, the API 210 transmits an information acquisition request to the Web Socket server 220 in real time by Web Socket communication (S13). At this time, device information for accessing the information acquisition device 400 is concealed and attached. Subsequently, the Web Socket server 220 that has received the request transmits a data acquisition request to the information acquisition device 400 (S14).

続いて、情報取得機器400によりデータの取得が成功すると、画像や音声等の生データとしてオブジェクトがWeb Socketサーバ220に返される(S15)。続いて、Web socketサーバ220は、受信した生データをAPI210に返す(S16)。   Subsequently, when the data acquisition by the information acquisition device 400 is successful, the object is returned to the Web Socket server 220 as raw data such as an image or sound (S15). Subsequently, the Web socket server 220 returns the received raw data to the API 210 (S16).

続いて、API210は、受信した生データをインターネットブラウザ101が認識可能となる汎用的な形式に変換する(S17)。続いて、API210は、ブラウザ認識可能となったデータをデータベース300に渡し、格納する(S18)。   Subsequently, the API 210 converts the received raw data into a general format that can be recognized by the Internet browser 101 (S17). Subsequently, the API 210 passes the data that can be recognized by the browser to the database 300 and stores it (S18).

続いて、API210は、インターネットブラウザ101にデータが取得できたことを通知する(S19)。これ以降、インターネットブラウザ101もしくはWebサーバ200上において、データベース300に格納したデータを自由に扱うことが可能になる。S19で、データ端末100へ情報取得機器400から取得したデータを送信しないため、データ端末100に情報取得機器400のデータが保存されることがない。その後、ユーザ110は、データ端末100を操作することによりインターネットブラウザ101を終了する(S20)。   Subsequently, the API 210 notifies the Internet browser 101 that data has been acquired (S19). Thereafter, data stored in the database 300 can be freely handled on the Internet browser 101 or the Web server 200. In S19, since the data acquired from the information acquisition device 400 is not transmitted to the data terminal 100, the data of the information acquisition device 400 is not stored in the data terminal 100. Thereafter, the user 110 ends the Internet browser 101 by operating the data terminal 100 (S20).

本実施の形態によって、以下の効果が得られる。
・Webサーバに情報取得機器の機器情報を記憶し、Webサーバから情報取得機器の制御を可能としたため、これまで端末アプリでしか実施できなかったデバイス起動・アクセスがインターネットブラウザでも可能となり、端末アプリからWebアプリ移行の可能性が広がる。
・Webサーバにおいて情報取得機器から取得したデータを汎用的な形式に変換し保存するため、保存したデータをあらゆる認識装置(たとえば検索システム、変換装置、認識装置等)で利用可能となる。
・情報取得機器から取得したデータをデータ端末に保存せずに、ネットワーク上のデータベースに保存するため、端末ストレージの容量を気にしなくてもよく、端末の負荷を低減することができる。また、情報取得機器のデータを共有できるため、異なるデータ端末からでも同じ情報にアクセス可能となる。
・特許文献1などのようにローカルネットワークに情報処理装置を用意するシステムでは、ブラウザから情報取得機器をネットワーク上で検索するためにサーバへ定期的なメッセージを送る必要があったため、ユーザが増えるとメッセージ増によりサーバやネットワークの負荷が増大してしまう。しかし、本実施の形態では、ローカルネットワーク上に情報処理装置が不要になるため、この問題が解消される。
・情報取得機器の機器情報を有していることにより情報取得機器にアクセスできるため、ローカルネットワークに限らず、グローバルネットワーク上の情報取得機器にもアクセスすることができる。
According to this embodiment, the following effects can be obtained.
-Since the device information of the information acquisition device is stored in the Web server and the information acquisition device can be controlled from the Web server, device activation and access that could only be performed with a terminal application until now can be performed with an Internet browser. The possibility of web application migration from will expand.
Since the data acquired from the information acquisition device is converted into a general-purpose format and stored in the Web server, the stored data can be used in any recognition device (for example, a search system, a conversion device, a recognition device, etc.).
Since the data acquired from the information acquisition device is stored in the database on the network without being stored in the data terminal, it is not necessary to worry about the capacity of the terminal storage, and the load on the terminal can be reduced. Further, since the data of the information acquisition device can be shared, the same information can be accessed from different data terminals.
-In a system that prepares an information processing device in a local network such as Patent Document 1, it is necessary to send a periodic message to a server in order to search for information acquisition devices on the network from a browser. The increase in messages increases the load on the server and network. However, this embodiment eliminates this problem because an information processing device is not required on the local network.
Since the information acquisition device can be accessed by having device information of the information acquisition device, it is possible to access not only the local network but also the information acquisition device on the global network.

なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。   Note that the present invention is not limited to the above-described embodiment, and can be changed as appropriate without departing from the spirit of the present invention.

上記実施の形態の一部は、次のように置き換えが可能であり、本発明はこれも含んでいる。例えば、データ端末100とAPI210および情報取得機器400の接続について、Web Socket以外の通信手段で行ってもよい。ただし、リアルタイム通信を可能とするため、既存のHTTP通信[polling、Comet等]は除くことが好ましい。   A part of the above embodiment can be replaced as follows, and the present invention also includes this. For example, the connection between the data terminal 100, the API 210, and the information acquisition device 400 may be performed by a communication unit other than Web Socket. However, in order to enable real-time communication, it is preferable to exclude existing HTTP communication [polling, Comet, etc.].

また、 ユーザ110がインターネットブラウザ101を起動する機器は、データ端末100以外でもよい。例えば、PC等でもよい。   Further, the device that the user 110 activates the Internet browser 101 may be other than the data terminal 100. For example, a PC or the like may be used.

また、情報取得機器400は、映像を取得(撮影)する機器以外でもよい。取得するデータの種類もそれに伴い、あらゆるデータを対象としてもよい。   The information acquisition device 400 may be other than a device that acquires (captures) video. Accompanying this, the type of data to be acquired may be any data.

また、データ端末100から、情報取得機器400へデータ取得リクエスト以外の制御を行ってもよい。例えば、情報取得機器400の操作や、データ端末100からの情報発信を行ってもよい。   Control other than the data acquisition request may be performed from the data terminal 100 to the information acquisition device 400. For example, an operation of the information acquisition device 400 or information transmission from the data terminal 100 may be performed.

その他、上記実施の形態を、様々な分野へ適用してもよい。例えば、端末アプリからWebアプリへの移行およびこれによる新規サービスの提案や、講演会、大学講義等のリアルタイム情報配信手段、生データによる検索装置(例えば、音声:鼻歌から歌を検索、静止画:観光地の写真から目的地を検索)、生データによる画像分析装置(例えば、医療分野)、聴覚障がい者、盲障がい者対象の音声および画像のリアルタイム変換装置、TVなどBML形式で表示するコンテンツの遠隔操作(双方向通信およびデバイスアクセスが可能となるため、データの受信だけではなく送信ができるようになる)。   In addition, the above embodiment may be applied to various fields. For example, a transition from a terminal application to a web application and a proposal of a new service, a real-time information distribution means such as a lecture or a university lecture, a search device based on raw data (for example, search for a song from a voice: a nose song, a still image: Search destinations from tourist spots), image analysis device based on raw data (for example, medical field), audio and image real-time conversion device for hearing-impaired and blind people, TV and other content to be displayed in BML format Remote operation (two-way communication and device access are possible so that data can be transmitted as well as received).

上述の実施の形態における各構成は、ハードウェア又はソフトウェア、もしくはその両方によって構成され、1つのハードウェア又はソフトウェアから構成してもよいし、複数のハードウェア又はソフトウェアから構成してもよい。データ端末、Webサーバ、情報取得機器の各機能(各処理)を、CPU(Central Processing Unit)やメモリ等を有するコンピュータにより実現してもよい。例えば、記憶装置に実施の形態における制御方法を行うための制御プログラムを格納し、各機能を、記憶装置に格納された制御プログラムをCPUで実行することにより実現してもよい。   Each configuration in the above-described embodiment is configured by hardware and / or software, and may be configured by one piece of hardware or software, or may be configured by a plurality of pieces of hardware or software. Each function (each process) of the data terminal, the Web server, and the information acquisition device may be realized by a computer having a CPU (Central Processing Unit), a memory, and the like. For example, a control program for performing the control method according to the embodiment may be stored in the storage device, and each function may be realized by executing the control program stored in the storage device by the CPU.

プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。   The program may be stored using various types of non-transitory computer readable media and supplied to a computer. Non-transitory computer readable media include various types of tangible storage media. Examples of non-transitory computer-readable media include magnetic recording media (for example, flexible disks, magnetic tapes, hard disk drives), magneto-optical recording media (for example, magneto-optical disks), CD-ROMs (Read Only Memory), CD-Rs, CD-R / W and semiconductor memory (for example, mask ROM, PROM (Programmable ROM), EPROM (Erasable PROM), flash ROM, RAM (random access memory)) are included. The program may also be supplied to the computer by various types of transitory computer readable media. Examples of transitory computer readable media include electrical signals, optical signals, and electromagnetic waves. The temporary computer-readable medium can supply the program to the computer via a wired communication path such as an electric wire and an optical fiber, or a wireless communication path.

10 端末装置
11 ブラウザ
20 サーバ装置
21 記憶部
22 アプリケーションプログラムインタフェース
23 リアルタイムソケット通信サーバ
30 被制御機器
100 データ端末
101 インターネットブラウザ
110 ユーザ
200 Webサーバ
210 API(アプリケーションプログラムインタフェース)
211 機器情報
220 WebSocketサーバ
300 データベース
400 情報取得機器
500 ネットワーク
DESCRIPTION OF SYMBOLS 10 Terminal apparatus 11 Browser 20 Server apparatus 21 Memory | storage part 22 Application program interface 23 Real-time socket communication server 30 Controlled apparatus 100 Data terminal 101 Internet browser 110 User 200 Web server 210 API (application program interface)
211 Device information 220 WebSocket server 300 Database 400 Information acquisition device 500 Network

Claims (9)

被制御機器を制御するための制御情報を記憶する記憶部と、
端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力するアプリケーションプログラムインタフェース部と、
前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信するリアルタイムソケット通信サーバ部と、
を備えるサーバ装置。
A storage unit for storing control information for controlling the controlled device;
An application program interface unit that receives an access from a browser of a terminal device and outputs a control request for controlling the controlled device based on the control information according to the access;
A real-time socket communication server unit that performs real-time socket communication with the terminal device via the application program interface unit, and transmits a control message to the controlled device in response to the output control request;
A server device comprising:
前記リアルタイムソケット通信サーバ部は、前記被制御機器から前記制御メッセージの応答データを受信し、
前記アプリケーションプログラムインタフェース部は、前記応答データを前記ブラウザが認識可能なデータ形式に変換する、
請求項1に記載のサーバ装置。
The real-time socket communication server unit receives response data of the control message from the controlled device,
The application program interface unit converts the response data into a data format that can be recognized by the browser.
The server device according to claim 1.
前記変換した応答データを格納するデータベースを備える、
請求項2に記載のサーバ装置。
A database for storing the converted response data;
The server device according to claim 2.
前記アプリケーションプログラムインタフェース部は、JavaScript(登録商標)言語で記述されたアプリケーションプログラムインタフェースである、
請求項1乃至3のいずれか一項に記載のサーバ装置。
The application program interface unit is an application program interface described in Java Script (registered trademark) language.
The server apparatus as described in any one of Claims 1 thru | or 3.
前記リアルタイムソケット通信サーバ部は、WebSocketサーバである、
請求項1乃至4のいずれか一項に記載のサーバ装置。
The real-time socket communication server unit is a WebSocket server.
The server apparatus as described in any one of Claims 1 thru | or 4.
前記被制御機器は、前記制御メッセージに応じて取得した情報を返信する情報取得機器である、
請求項1乃至5のいずれか一項に記載のサーバ装置。
The controlled device is an information acquisition device that returns information acquired in response to the control message.
The server apparatus as described in any one of Claims 1 thru | or 5.
サーバ装置と、端末装置及び被制御機器とが通信可能に接続された機器制御システムであって、
前記サーバ装置は、
前記被制御機器を制御するための制御情報を記憶する記憶部と、
前記端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力するアプリケーションプログラムインタフェース部と、
前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信するリアルタイムソケット通信サーバ部と、
を備える機器制御システム。
A device control system in which a server device, a terminal device, and a controlled device are communicably connected,
The server device
A storage unit for storing control information for controlling the controlled device;
An application program interface unit that receives an access from the browser of the terminal device and outputs a control request to control the controlled device based on the control information according to the access;
A real-time socket communication server unit that performs real-time socket communication with the terminal device via the application program interface unit, and transmits a control message to the controlled device in response to the output control request;
A device control system comprising:
記憶部及びアプリケーションプログラムインタフェース部を有するサーバ装置の制御方法であって、
被制御機器を制御するための制御情報を前記記憶部に記憶し、
前記アプリケーションプログラムインタフェース部は、端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力し、
前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信する、
サーバ装置の制御方法。
A control method of a server device having a storage unit and an application program interface unit,
Storing control information for controlling the controlled device in the storage unit;
The application program interface unit receives access from a browser of the terminal device, and outputs a control request for controlling the controlled device based on the control information according to the access,
Real-time socket communication is performed with the terminal device via the application program interface unit, and a control message is transmitted to the controlled device in response to the output control request.
A method for controlling a server device.
記憶部及びアプリケーションプログラムインタフェース部を有するサーバ装置で実行されるサーバ装置の制御プログラムであって、
被制御機器を制御するための制御情報を前記記憶部に記憶し、
前記アプリケーションプログラムインタフェース部は、端末装置のブラウザからアクセスを受け付け、当該アクセスに応じて前記制御情報に基づいた前記被制御機器を制御する制御要求を出力し、
前記アプリケーションプログラムインタフェース部を介して前記端末装置との間でリアルタイムソケット通信を行い、前記出力された制御要求に応じて前記被制御機器へ制御メッセージを送信する、
サーバ装置の制御プログラム。
A server device control program executed by a server device having a storage unit and an application program interface unit,
Storing control information for controlling the controlled device in the storage unit;
The application program interface unit receives access from a browser of the terminal device, and outputs a control request for controlling the controlled device based on the control information according to the access,
Real-time socket communication is performed with the terminal device via the application program interface unit, and a control message is transmitted to the controlled device in response to the output control request.
Server device control program.
JP2013064237A 2013-03-26 2013-03-26 Server device, apparatus control system, control method of server device, and control program of server device Pending JP2014191433A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013064237A JP2014191433A (en) 2013-03-26 2013-03-26 Server device, apparatus control system, control method of server device, and control program of server device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013064237A JP2014191433A (en) 2013-03-26 2013-03-26 Server device, apparatus control system, control method of server device, and control program of server device

Publications (1)

Publication Number Publication Date
JP2014191433A true JP2014191433A (en) 2014-10-06

Family

ID=51837666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013064237A Pending JP2014191433A (en) 2013-03-26 2013-03-26 Server device, apparatus control system, control method of server device, and control program of server device

Country Status (1)

Country Link
JP (1) JP2014191433A (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002112256A (en) * 2000-10-02 2002-04-12 I Broadcast:Kk Image distribution system utilizing internet
KR100694155B1 (en) * 2005-10-12 2007-03-12 삼성전자주식회사 Method and apparatus for providing service of home network device for service client outside the home network through web service
CN101159797A (en) * 2006-10-06 2008-04-09 佳能株式会社 Image processing apparatus and control method of the apparatus

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002112256A (en) * 2000-10-02 2002-04-12 I Broadcast:Kk Image distribution system utilizing internet
KR100694155B1 (en) * 2005-10-12 2007-03-12 삼성전자주식회사 Method and apparatus for providing service of home network device for service client outside the home network through web service
US20070083618A1 (en) * 2005-10-12 2007-04-12 Samsung Electronics Co., Ltd. Method and apparatus for providing home network device service to an external device through web service
CN1949731A (en) * 2005-10-12 2007-04-18 三星电子株式会社 Method and apparatus for providing home network device service to an external device
JP2007109236A (en) * 2005-10-12 2007-04-26 Samsung Electronics Co Ltd Method and apparatus for providing home network device service to outside of home network through web service
CN101159797A (en) * 2006-10-06 2008-04-09 佳能株式会社 Image processing apparatus and control method of the apparatus
US20080086778A1 (en) * 2006-10-06 2008-04-10 Canon Kabushiki Kaisha Image processing apparatus, control method of the apparatus, computer program for implementing the method, and storage medium
KR20080031776A (en) * 2006-10-06 2008-04-11 캐논 가부시끼가이샤 Image processing apparatus, control method of the apparatus, and storage medium storing computer program for implementing the method
JP2008098784A (en) * 2006-10-06 2008-04-24 Canon Inc Image processing apparatus, control method thereof, program for implementing same control method, and storage medium

Similar Documents

Publication Publication Date Title
JP6616473B2 (en) Method and apparatus for controlling pages
KR20150032152A (en) Method and apparatus for performing edit operations between electronic devices
JP2022002107A (en) Business negotiation support device, method and computer program
US20150058397A1 (en) Information processing system, information processing apparatus, terminal apparatus and information transmission method
US9948732B2 (en) Method for providing status messaging service in electronic device and the electronic device thereof
US11528302B2 (en) Real-time media streams
US9769608B2 (en) System and method for transmitting information about task to external device
CN103907311B (en) Remote access from mobile equipment
US10542054B2 (en) Device and method for providing mobile internet call service
JP2015513142A (en) Method and terminal for editing information in social network service application
US11184687B2 (en) Wearable device, information processing method, apparatus and system
JP2015185119A (en) Position content providing server, position content providing method, and program for position content providing server
CN110659006A (en) Cross-screen display method and device, electronic equipment and readable storage medium
US20170070589A1 (en) Information processing device and recording medium
JP2014191433A (en) Server device, apparatus control system, control method of server device, and control program of server device
CN110634478A (en) Method and apparatus for processing speech signal
CN103888535A (en) Position information processing method and system based on wechat platform
WO2013182129A2 (en) Cloud note implementation method and device
JP2023051211A (en) Information processor, information processing method, and information processing program
JP2013196405A (en) Information processing apparatus and method, program, and information processing system
KR20150073464A (en) Mobiel library providing system for implemeting mobile web service environment based on business information provision
KR102192010B1 (en) Method for providing contents based on inference engine and deploying engine and electronic device using the same
JP6662590B2 (en) User interface and data management system used for sending and receiving voice information
JP2016123001A (en) Information processing apparatus and service provision method
CN117082047A (en) Data processing method and device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170117

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170317

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170926