JP6351394B2 - 表示装置、通信システム、表示装置の制御方法及びプログラム - Google Patents

表示装置、通信システム、表示装置の制御方法及びプログラム Download PDF

Info

Publication number
JP6351394B2
JP6351394B2 JP2014126126A JP2014126126A JP6351394B2 JP 6351394 B2 JP6351394 B2 JP 6351394B2 JP 2014126126 A JP2014126126 A JP 2014126126A JP 2014126126 A JP2014126126 A JP 2014126126A JP 6351394 B2 JP6351394 B2 JP 6351394B2
Authority
JP
Japan
Prior art keywords
electronic device
image
display
communication
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014126126A
Other languages
English (en)
Other versions
JP2016005225A (ja
Inventor
工藤 利道
利道 工藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014126126A priority Critical patent/JP6351394B2/ja
Publication of JP2016005225A publication Critical patent/JP2016005225A/ja
Application granted granted Critical
Publication of JP6351394B2 publication Critical patent/JP6351394B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、撮像装置等の電子機器との無線通信が可能な表示装置、電子機器と表示装置とを有する通信システム、表示装置の制御方法及びプログラムに関する。
近年、デジタルカメラ等の撮像装置に無線通信機能を搭載し、ワイヤレスで(無線通信で)画像を他の機器に送信する技術が知られている。また、無線通信機能や撮像機能を搭載したウエアラブルコンピュータが知られており、小型化が進むにつれて普及が急速に進む可能性がある。
このような撮像装置とウエアラブルコンピュータとからなるシステムとして、特許文献1には、カメラとヘッドマウントディスプレイ(以下「HMD」と記す)からなるシステムが記載されている。特許文献1に記載された技術では、HMDは、カメラからの撮影像を受信すると、受信した撮影像をHMDに表示し、カメラからの撮影像を受信していないときには、外部からの光に基づく像をユーザの目に導いている。また、引用文献1には、HMDをカメラのファインダとして利用する構成が記載されている。具体的には、ユーザが目の前にカメラを構えていないときには、カメラからHMDへの撮影像の送信を禁止し、目の前にカメラを構えているときには、カメラからHMDへの撮影像の送信を許可する構成が記載されている。
特開2010−183274号公報
しかしながら、上記特許文献1には、カメラの表示部が使用者の視野に存在せず、カメラの表示部に映し出された撮影像を確認しながら撮影することが困難な姿勢での撮影補助に関する開示がない。例えば、特許文献1に記載された技術では、ユーザが、人垣の後ろから撮影を行おうとしてカメラを頭上に構えたときに、撮影像を視認することができない場合には、HMDを撮影補助に用いることができない。
本発明は、表示装置を装着したユーザが撮影機能を有する電子機器を操作する際に、撮電子機器による撮影を自動的に補助することができる技術を提供することを目的とする。
本発明に係る表示装置は、撮像機能を有する電子機器と通信可能な表示装置であって、前記表示装置の使用者の視界方向を撮影して撮像データを生成する撮像手段と、画像を表示する表示手段と、前記表示手段に対する画像表示を制御する制御手段とを備え、前記電子機器との間で通信接続が確立した状態において前記制御手段は、前記撮像データに基づいて、前記使用者が前記電子機器を視認することができると判断した場合には前記電子機器による撮影像の撮像データを前記電子機器から取得せず、前記表示装置の使用者が前記電子機器を視認することができないと判断した場合には、前記撮像データを前記電子機器から前記通信接続を介して取得して前記表示手段に表示することを特徴とする。
本発明によれば、撮影機能を有する電子機器による撮影中に、被写体を表示する電子機器の表示部が使用者の視野から外れると、表示装置に撮影像が自動的に表示されるため、ユーザは、表示装置に表示される撮影像を確認しながら、撮影を継続することができる。また、電子機器の表示部がユーザの視野に入ったときには、表示装置での撮影像の表示が自動停止されるため、ユーザは視界を確保することができ、また、表示装置の消費電力を低減することが可能になる。
本発明の実施形態に係る通信システムを構成するデジタルカメラの外観構成を示す背面斜視図と、眼鏡型表示装置の概略構成を示す正面図である。 本発明の実施形態に係る通信システムの全体構成を示すブロック図である。 本発明の実施形態に係る通信システムでの通信動作の概要を示すシーケンス図である。 図3のシーケンス実行時に眼鏡型表示装置で行われる処理のフローチャートである。 図3のシーケンス実行時にデジタルカメラで行われる処理のフローチャートである。 第1実施形態に係る通信システムの使用例(撮影を行う際の状況)を示す図である。 第1実施形態に係る通信システムを構成するデジタルカメラの表示部に表示されるライブビュー画面の例を示す図である。
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。ここでは、撮像機能を有する電子機器の一例としてデジタルカメラ(撮像装置)を、表示装置として眼鏡型表示装置(HMD)とからなる通信システムを取り上げることとする。なお、撮像機能を有する電子機器としては、他に、カメラ付き携帯電話や、いわゆるカメラ付きタブレットデバイス、カメラ付きパソコン等を採用することができる。
<第1実施形態>
[通信システムの構成]
図1(a)は、本発明の実施形態に係る通信システムを構成するデジタルカメラ100の外観構成を示す背面斜視図である。デジタルカメラ100は、表示部101(第1の表示手段)、電源ボタン102、レリーズボタン103、再生ボタン104を備える。デジタルカメラ100において、表示部101が設けられている背面の反対側となる正面側には、不図示のレンズ鏡筒が設けられている。表示部101には、レンズ鏡筒を通してデジタルカメラ100の本体内に設けられた不図示のCMOSセンサ等の撮像素子に結像した被写体の光学像を撮影像として表示することができるようになっている。
なお、デジタルカメラ100において、レンズ鏡筒と撮像素子は、図2を参照して説明する撮像部202(第1の撮像手段)の構成要素である。また、表示部101、電源ボタン102、レリーズボタン103及び再生ボタン104についは、図2についての説明と併せて後述することとする。
図1(b)は、本発明の実施形態に係る通信システムを構成する眼鏡型表示装置150の概略構成を示す正面図である。眼鏡型表示装置150は、撮像部151(第2の撮像部)及び表示部152(第2の表示手段)を有する。眼鏡型表示装置150は、一般的な眼鏡と同様に、耳にかけて、表示部152が眼の前の位置にくるように装着可能な構造を有する。
表示部152は、左眼用と右眼用で構成されており、それぞれに、例えば、液晶パネルが用いられている。表示部152の液晶パネルは、透過率を制御して透明な状態と半透明な状態とを選択的に切り替えることができるようになっており、表示部152を透明な状態とすることにより、一般的な眼鏡のように周囲を直視、視認することが可能となる。
また、表示部152は、半透明な状態とした際に、画像や様々な情報を表示することができるようになっている。撮像部151は、眼鏡型表示装置150を装着したユーザ(使用者)の前方(つまり、視界方向)を撮像可能に配置されている。なお、撮像部151の光学系は、ユーザの視野をカバーする焦点距離に設計されている。
図2は、本発明の実施形態に係る通信システムの全体構成を示すブロック図である。デジタルカメラ100は、表示部101、制御部201、撮像部202、不揮発性メモリ203、作業用メモリ204、操作部205、記憶媒体206、接続部207及び近距離無線通信部208を備える。
制御部201は、操作部205から入力された操作指示等に従って、デジタルカメラ100の全体的な動作を制御する。なお、1つの制御部201がデジタルカメラ100の全体的な動作制御を行う構成に代えて、複数のハードウェアが処理を分担することによってデジタルカメラ100の全体的な動作が実現されるように構成してもよい。
撮像部202は、光学レンズや絞り、光学レンズを光軸方向に移動させることでズームやフォーカスを行う駆動系、光学レンズを通過した被写体からの光を電気信号に変換する撮像素子等を含む。なお、撮像素子としては、一般的に、CMOSセンサやCCDセンサ等が用いられる。撮像部202は、制御部201の制御下で、光学レンズを通して撮像素子に結像した被写体の光学像を撮像素子により電気信号に変換し、ノイズ低減処理等の所定の現像処理等の画像処理を行って、撮像データ(デジタルデータ)を生成する。
不揮発性メモリ203は、電気的に消去と記憶が可能なメモリであり、例えば、EEPROM等が用いられる。不揮発性メモリ203には、制御部201が実行するプログラムや、プログラムの実行に必要なパラメータ等が格納される。なお、ここでのプログラムとは、後述する図3のシーケンス図や図5に示すフローチャートの処理を実行するためのプログラムを指す。作業用メモリ204は、例えば、RAMであり、撮像部202で撮影された撮像データを一時的に保持するバッファメモリや、表示部101の画像表示用メモリ、制御部201の作業領域等として使用される。
操作部205は、デジタルカメラ100に対する指示をユーザから受け付け、受け付けた指示を制御部201へ通知する。操作部205は、図1(a)に示した電源ボタン102、レリーズボタン103及び再生ボタン104を含む。電源ボタン102は、デジタルカメラ100の電源のオン/オフ(ON/OFF)を切り替えるためのボタンである。レリーズボタン103は、撮影指示を行うためのボタンである。再生ボタン104は、撮像データの再生指示を行うためのボタンである。
なお、レリーズボタン103は、半押しでONするスイッチSW1と、全押しでONするスイッチSW2とを有する。スイッチSW1がONになると、AF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理、EF(フラッシュプリ発光)処理等の撮影準備処理が実行される。スイッチSW2がONになると、撮像素子により被写体の光学像が電気信号へ変換され、電気信号は所定の処理によりデジタルデータからなる撮像データに変換されて、記憶媒体206に記憶される。
表示部101は、例えば、液晶ディスプレイや有機ELディスプレイ等である。表示部101には、撮像準備段階でのライブビュー表示、記憶媒体206に記憶された画像の再生表示、対話的な操作のための文字表示(メニュー表示)等が行われる。記憶媒体206は、半導体メモリカードやハードディスク等であり、撮像部202から出力された撮像データを記憶する。記憶媒体206は、デジタルカメラ100に内蔵されていてもよいし、着脱可能であってもよい。
接続部207は、外部機器と接続するためのインタフェースである。接続部207を介して、デジタルカメラ100の制御部201と外部機器との間でデータのやりとりを行うことができる。例えば、接続部207は、IEEE802.11の規格に従った、所謂、無線LANにより外部機器と通信するためのインタフェースを含む。以下の説明では、IEEE802.11の規格を採用した場合について述べるが、これに限られるものではない。他にも例えば携帯電話網やインターネット回線を介した通信を採用することも可能である。制御部201は、接続部207を制御することにより、外部機器との無線通信を実現する。
近距離無線通信部208は、例えば、近距離無線通信のためのアンテナと無線信号を処理するため変復調回路、通信コントローラ等から構成される。近距離無線通信部208は、変調した無線信号をアンテナから出力し、逆に、アンテナで受信した無線信号を復調することによりIEEE802.15の規格(所謂、Bluetooth(登録商標))に従った近距離無線通信を実現する。
Bluetooth(登録商標)通信には、低消費電力であるBluetooth(登録商標) Low Energyのバージョン4.0が好適に採用される。Bluetooth(登録商標)通信は、無線LAN通信と比べると、通信可能な範囲が狭く(つまり、通信可能な距離が短く)、通信速度も速くはないが、一方で消費電力が小さいという特徴がある。そこで、本実施形態では、デジタルカメラ100の近距離無線通信部208と眼鏡型表示装置150が備える後述の近距離無線通信部218とを近接させることにより、デジタルカメラ100と眼鏡型表示装置150との間でBluetooth(登録商標)通信を行う。
なお、近距離無線通信部208と近距離無線通信部218とは、一定の距離範囲(以下「通信可能範囲」という)内であれば通信可能であるため、これらの間で通信を確立するために接触させる必要は必ずしもない。一方、近距離無線通信部208と近距離無線通信部218とが通信可能範囲外にある場合には、通信は開始されない。また、近距離無線通信部208と近距離無線通信部218とが通信可能範囲にあって通信が確立されている状態から、近距離無線通信部208と近距離無線通信部218とが通信可能範囲外にある状態へと変わったときには、通信は切断される。
眼鏡型表示装置150は、撮像部151、表示部152、制御部211、不揮発性メモリ212、作業用メモリ213、操作部214、記憶媒体215、眼部検出部216、接続部217及び近距離無線通信部218を備える。
制御部211は、操作部214から入力された操作指示等に従って、眼鏡型表示装置150の全体的な動作を制御する。なお、1つの制御部211が眼鏡型表示装置150の全体的な動作制御を行う構成に代えて、複数のハードウェアが処理を分担することによって眼鏡型表示装置150の全体的な動作が実現されるように構成してもよい。
撮像部151は、光学レンズユニットと、絞りやズーム・フォーカス等を制御する光学制御系と、光学レンズユニットを通過した被写体からの光を電気信号に変換する撮像素子等を含む。撮像素子としては、一般的に、CMOSセンサやCCDセンサ等が用いられる。撮像部151は、制御部211の制御下で、光学レンズユニットを通して撮像素子に結像した光学像を撮像素子により電気信号に変換し、ノイズ低減処理等の所定の現像処理を行って、撮像データ(デジタルデータ)を生成する。
不揮発性メモリ212は、電気的に消去と記憶が可能なメモリであり、例えば、EEPROM等が用いられる。不揮発性メモリ212には、制御部211が実行するプログラムや、プログラムの実行に必要なパラメータ等が格納される。なお、ここでのプログラムとは、後述する図3のシーケンス図や図4に示すフローチャートの処理を実行するためのプログラムを指す。作業用メモリ213は、例えば、RAMであり、撮像部151で撮影された撮像データを一時的に保持するバッファメモリや、表示部152の画像表示用メモリ、制御部211の作業領域等として使用される。
操作部214は、眼鏡型表示装置150に対する指示をユーザから受け付け、受け付けた指示を制御部211へ通知する。操作部214は、眼鏡型表示装置150の電源のON/OFFを指示する電源ボタンや、画面遷移を指示するための操作ボタン等を含む。表示部152は、図1を参照して説明した通りの構成を有し、撮影した画像や接続部217を通して取得した画像を表示し、また、対話的な操作のためのGUI(Graphical User Interface)等の表示を行う。
記憶媒体215は、例えば、半導体メモリ等であり、撮像部151で撮影した画像の撮像データ等を記憶する。眼部検出部216は、ユーザの視野に関する情報、具体的には、ユーザの眼部の有無、即ち、ユーザが眼鏡型表示装置150を通常の使用方法で装着しており、ユーザの眼部が表示部152と対面していることを検出する。
接続部217及び近距離無線通信部218の構成や機能はそれぞれ、デジタルカメラ100の接続部207及び近距離無線通信部208の構成及び機能と同様であるため、ここでの説明を省略する。制御部211は、接続部217及び近距離無線通信部218を制御することにより、外部機器との無線通信を実現する。
[通信システムでの通信動作の概要]
図3は、本実施形態に係る通信システムでの機器探索から画像送信までの処理の流れを示すシーケンス図である。図3において、破線矢印はBluetooth(登録商標)による通信であることを表しており、実線矢印は無線LANによる通信であることを表している。
なお、デジタルカメラ100の制御部201及び眼鏡型表示装置150の制御部211はそれぞれ、ユーザによる操作にしたがって、Bluetooth(登録商標)と無線LANの各機能の有効/無効を切り替える。図3のシーケンスは、デジタルカメラ100及び眼鏡型表示装置150の双方において、Bluetooth(登録商標)と無線LANの各機能が有効に設定されている状態で開始されたものとする。また、デジタルカメラ100は眼鏡型表示装置150の機器IDを、眼鏡型表示装置150はデジタルカメラ100の機器IDをそれぞれ、予め内部(例えば、不揮発性メモリ203,212)に記憶しているものとする。
図3のシーケンス図の詳細について説明する前に、本実施形態に係る通信システムの使用例について(デジタルカメラ100で撮影を行う際の状況)について、図6を参照して説明する。図6は、本実施形態に係る通信システムの使用例を示す図である。
図6(a)には、眼鏡型表示装置150を装着したユーザ601が、デジタルカメラ100を右手で保持し、顔の前にデジタルカメラ100を構えて、表示部101に表示されている撮影像を確認しながら撮影を行っている状態が示されている。また、図6(b)には、眼鏡型表示装置150を装着したユーザ601が、デジタルカメラ100を右手で保持し、頭上にデジタルカメラ100を構えて、撮影を行っている状態が示されている。
図6(a)の状態では、ユーザ601の視界内にデジタルカメラ100の表示部101が存在する。そのため、眼鏡型表示装置150の表示部152を透過状態とすることで、ユーザ601はデジタルカメラ100の表示部101に表示されている撮影像を直視することができる。これに対して、図6(b)の状態では、ユーザ601の視界内にデジタルカメラ100の表示部101が存在しないため、ユーザ601は表示部101に表示された撮影像を直視することができない。また、図6(a)の状態では、眼鏡型表示装置150の撮像部151はデジタルカメラ100の表示部101を撮影することができるが、図6(b)の状態では、眼鏡型表示装置150の撮像部151は表示部101を撮影することができない。
つまり、ユーザ601がデジタルカメラ100の表示部101を直視することができる状態では、眼鏡型表示装置150の撮像部151も表示部101を撮影することができる。逆に、ユーザ601がデジタルカメラ100の表示部101を直視することができない状態では、眼鏡型表示装置150の撮像部151も表示部101を撮影することができない。そこで、デジタルカメラ100の表示部101に特定パターンを表示し、眼鏡型表示装置150の撮像部151による撮影像にこの特定パターンがあるか否かを判断することで、ユーザ601が表示部101を直視可能な状態か否かを判断することができる。
以下に説明するように、眼鏡型表示装置150の撮像部151による撮影像にデジタルカメラ100の表示部101に表示される特定パターンがない場合、表示部101に表示されている撮影像を眼鏡型表示装置150へ送信し、眼鏡型表示装置150の表示部152に表示させる。これにより、図6(b)の状態であっても、ユーザ601は、デジタルカメラ100の表示部101に表示されている撮影像を確認することができる。
図3のシーケンスの詳細について説明する。図3のシーケンスにおけるデジタルカメラ100の動作と処理は、制御部201が不揮発性メモリ203に格納されたプログラムを作業用メモリ204に展開し、デジタルカメラ100を構成する各部の動作を制御することにより実現される。同様に、眼鏡型表示装置150の動作と処理は、制御部211が不揮発性メモリ212に格納されたプログラムを作業用メモリ213に展開し、眼鏡型表示装置150を構成する各部の動作を制御することにより実現される。
デジタルカメラ100の制御部201は、電源ボタン102の操作を受け付けると、図3のシーケンスを開始し、デジタルカメラ100の表示部101にライブビュー画面を表示する。図7は、デジタルカメラ100の表示部101に表示されるライブビュー画面の例を示す図である。図7(a)は、通常のライブビュー画面の例を示しており、撮像部202から順次入力される映像が表示される。なお、不図示であるが、表示部101には、各種情報やアイコン(例えば、フラッシュの設定状況やバッテリー残量、ズームの状態等)が映像に重畳表示される。また、各種情報やアイコンは、デジタルカメラ100の操作部205の操作部材に対するユーザの操作に応じて、表示/非表示を切り替えることができる。ユーザは、ライブビュー画面を確認しながら、所望の画像を撮影することができ、撮影の指示はレリーズボタン103の全押しによってスイッチSW2がONすることによって受け付けられる。
デジタルカメラ100の制御部201は、電源ボタン102の操作に応じて、上記のライブビュー表示を行うと共に、ステップS311において、Bluetooth(登録商標)により、周囲の機器に対して探索要求(アドバタイズ)をブロードキャストする。その際、制御部201は、探索要求に自機を一意に特定可能な情報である機器IDを付加する。
眼鏡型表示装置150の制御部211は、デジタルカメラ100からの探索要求を受信すると、ステップS312において、デジタルカメラ100に対してBluetooth(登録商標)により探索応答を送信する。その際、制御部211は、探索応答に自機を示す情報である機器IDと、自機に設定されたユーザ名等を付加する。デジタルカメラ100の制御部201が眼鏡型表示装置150の制御部211からの探索応答を受信すると、各機で通信確立処理が行われる。そして、デジタルカメラ100と眼鏡型表示装置150との間の通信が確立すると、デジタルカメラ100の表示部101のライブビュー画面に、図7(b)を参照して後述する特定画像であるマーカ701が重畳して表示される。これ以降、デジタルカメラ100と眼鏡型表示装置150とは、1対1の排他的な通信を行う。
図7(b)は、デジタルカメラ100と眼鏡型表示装置150との間で通信が確立した状態においてデジタルカメラ100の表示部101に表示されるライブビュー画面の例を示す図であり、通信確立状態では、ライブビュー画面にマーカ701が表示される。なお、マーカ701の表示位置は表示部101の外周部とすることが好ましく、これにより、撮像部151が表示部101全体を撮影していることを正確に判断することができる。
ステップS313では、眼鏡型表示装置150の制御部211が、デジタルカメラ100に対して状態要求を送信する。この状態要求とは、デジタルカメラ100の状態を示す情報を要求するものであり、デジタルカメラ100の状態を示す情報には、デジタルカメラ100の表示部101にライブビュー画面が表示されているか否かを示す情報が含まれる。デジタルカメラ100の制御部201は、ステップS313の状態要求を受信すると、ステップS314において、眼鏡型表示装置150へ状態応答を送信する。この状態応答とは、状態要求に対応するものであり、デジタルカメラ100の状態を示す情報の送信処理である。ステップS314で送信される状態応答には、前述のライブビュー画面の表示状態を示す情報が含まれる。
眼鏡型表示装置150の制御部211は、ステップS314で受信した状態応答の情報からデジタルカメラ100においてライブビュー画面が表示されていると判断すると、ステップS315においてマーカ検出を行う。このマーカ検出とは、制御部211が、デジタルカメラ100の撮像部151によって撮影された撮像データを解析して、図7(b)で説明したマーカ701を所定の周期で検出する処理である。マーカ701が検出されている間、ステップS315の処理は継続して実行される。よって、例えば、図6(a)に示す姿勢でユーザ601がデジタルカメラ100を構えている場合には、ステップS315の処理が継続して実行されることになる。
眼鏡型表示装置150の制御部211は、ステップS315の処理中にマーカ701が検出されなくなると、ステップS316において、デジタルカメラ100へ撮影像転送要求を送信する。なお、例えば、図6(b)に示すように、デジタルカメラ100の表示部101が撮像部151の撮影範囲から外れた状況となったときに、マーカ701が検出されなくなる。
デジタルカメラ100の制御部201は、ステップS316の撮影像転送要求を受信すると、ステップS317において、撮影像転送応答を眼鏡型表示装置150へ送信する。そして、眼鏡型表示装置150がステップS317の撮影像転送応答を受信すると、デジタルカメラ100の制御部201は、無線LAN設定を眼鏡型表示装置150へ送信する。これにより、ステップS318において、デジタルカメラ100と眼鏡型表示装置150は、無線LAN接続に必要な通信パラメータをBluetooth(登録商標)による通信によって共有する。その結果、ステップS319において、デジタルカメラ100の制御部201と眼鏡型表示装置150の制御部211は、共有した通信パラメータに基づき、無線LAN接続を確立する。
そして、ステップS320においてデジタルカメラ100の制御部201は、無線LANによる通信によって撮影像を眼鏡型表示装置150へ転送(送信)する。この撮影像の転送は、所定周期で繰り返され、眼鏡型表示装置150の制御部211は、受信した撮影像を表示部152に表示する。このとき、制御部211は撮影像を所定周期で受信するため、表示部152に表示される撮影像は、デジタルカメラ100の撮像部202によるリアルタイムな撮影像となる。よって、ユーザは、デジタルカメラ100の撮影像を、表示部152でリアルタイムに視認することができる。なお、図6(b)には、デジタルカメラ100の撮影像の眼鏡型表示装置150における表示領域が、右眼側の表示部152に領域602として示されている。
ユーザが眼鏡型表示装置150の表示部152でデジタルカメラ100の撮影像を確認している状態において、眼鏡型表示装置150の制御部211は、ステップS321において、マーカ非検出処理を行う。このマーカ非検出処理とは、眼鏡型表示装置150の撮像部151によって撮影された撮像データを制御部211によって解析し、マーカ701(図7(b)参照)が存在しないことを所定周期で検出する処理である。マーカ701が検出されない間は、ステップS321の処理が継続される。例えば、図6(b)に示す姿勢でユーザ601がデジタルカメラ100を構えている間は、ステップS321の処理が継続されることになる。
眼鏡型表示装置150の制御部211は、ステップS321の処理中にマーカ701を検出すると、ステップS322において、デジタルカメラ100へ撮影像転送終了要求を送信する。マーカ701が検出された場合とは、例えば、図6(b)の状態から図6(a)の状態へと遷移することによって、デジタルカメラ100の表示部101が、眼鏡型表示装置150の撮像部151の撮影範囲に入ってきたときである。
デジタルカメラ100の制御部201は、眼鏡型表示装置150から送信されてきた撮影像転送終了要求を受信すると、ステップS323において、撮影像転送を停止すると共に、撮影像転送終了応答を眼鏡型表示装置150へ送信する。そして、続くステップS324においてデジタルカメラ100の制御部201と眼鏡型表示装置150の制御部211は、互いに無線LANによる通信を切断し、その後は、ステップS315の処理へ戻る。これにより、デジタルカメラ100と眼鏡型表示装置150とがBluetooth(登録商標)により通信接続された状態で、眼鏡型表示装置150の制御部211は、ステップS315のマーカ検出を開始する。
このように、本実施形態では、デジタルカメラ100での撮影中に表示部101がユーザの視野から外れると、眼鏡型表示装置150に撮影像を自動的に表示する。これにより、ユーザは、常に撮影像を確認しながら撮影を行うことができる。また、再びデジタルカメラ100の表示部101がユーザの視野に戻ってきたとき(デジタルカメラ100を眼前に構え直したとき)には、眼鏡型表示装置150での表示が自動的に停止される構成としている。これにより、眼鏡型表示装置150の消費電力を低減させることができる。更に、本実施形態では、通信相手の探索を、無線LANではなくBluetooth(登録商標)により行うことで、消費電力の更なる低減を可能としている。一方で、撮影像の送信には、Bluetooth(登録商標)よりも通信速度の速い無線LANを利用するため、表示画像のフリーズや乱れが生じることのない、スムーズな画像送信を実現することができる。
[眼鏡型表示装置の動作]
図3のシーケンスが実行される際に、眼鏡型表示装置150において行われる処理について、図4を参照して説明する。図4は、眼鏡型表示装置150で行われる処理のフローチャートである。図4のフローチャートに示す各処理は、眼鏡型表示装置150の制御部211が、入力信号に従い、不揮発性メモリ212に格納されたプログラムを作業用メモリ213に展開して、眼鏡型表示装置150の各部を制御することにより実現される。
ステップS401において制御部211は、近距離無線通信部218を介して、外部機器から探索要求を受け付けたか否かを判断する。ここでは、外部機器は、デジタルカメラ100であるとして、以下の説明を続ける。制御部211は、探索要求を受け付けていないと判断した場合(S401でNO)、ステップS401の処理を繰り返し、探索要求を受け付けたと判断した場合(S401でYES)、処理をステップS402へ進める。
ステップS402において制御部211は、近距離無線通信部218を介して、探索要求を受け付けたことを示す探索応答をデジタルカメラ100に送信する。これにより、眼鏡型表示装置150とデジタルカメラとの間での無線接続(例えば、Bluetooth(登録商標)による無線通信)が確立される。続くステップS403において制御部211は、近距離無線通信部218を介して、デジタルカメラ100へ状態要求を送信する。そして、ステップS404において制御部211は、近距離無線通信部218を介して、デジタルカメラ100からの状態応答を受信したか否かを判断する。制御部211は、状態応答を受信していないと判断した場合(S404でNO)、ステップS404の処理を繰り返し、状態応答を受信したと判断した場合(S404)、処理をステップS405へ進める。
ステップS405において制御部211は、ステップS404で受信した状態情報から、デジタルカメラ100の表示部101にライブビュー画面が表示されているか否かを判断する。制御部211は、ライブビュー画面が表示されていないと判断した場合(S405でNO)、処理をステップS403へ戻す。これは、デジタルカメラ100の状態の変化を確認するために行われるため、所定時間の経過後にステップS403の処理に戻るようにしてもよい。制御部211は、ライブビュー画面が表示されてると判断した場合(S405でYES)、処理をステップS406へ進める。
ステップS406において制御部211は、撮像部151による撮影像を解析し、撮影像にマーカ701が存在するか否かを判断する。制御部211は、マーカ701が存在すると判断した場合(S406でYES)、ステップS406の処理を繰り返し、マーカ701が存在しない判断した場合(S406でNO)、処理をステップS407へ進める。
ステップS407において制御部211は、近距離無線通信部218を介して、撮影像転送要求をデジタルカメラ100へ送信する。続くステップS408において制御部211は、近距離無線通信部218を介して、撮影像転送要求に対するデジタルカメラ100からの応答である撮影像転送応答を受信したか否かを判断する。制御部211は、撮影像転送応答を受信していないと判断した場合(S408でNO)、ステップS408の処理を繰り返し、撮影像転送応答を受信したと判断した場合(S408でYES)、処理をステップS409へ進める。
ステップS409において制御部211は、接続部217を介した無線LAN通信に必要な通信パラメータを、近距離無線通信部218を介してデジタルカメラ100との間で送受信する。そして、ステップS410において制御部211は、ステップS409で受信した通信パラメータに基づき、デジタルカメラ100と接続部217を介して無線LAN接続を確立する。続くステップS411において制御部211は、デジタルカメラ100から接続部217を介して撮影像(撮像データ)を受信し、受信した撮影像の表示部152への表示を開始する。
ステップS412において制御部211は、撮像部151による撮影像を解析し、撮影像にマーカ701が存在するか否かを判断する。制御部211は、マーカ701が存在しないと判断した場合(S412でNO)、ステップS412の処理を繰り返し、マーカ701が存在すると判断した場合(S412でYES)、処理をステップS413へ進める。ステップS413において制御部211は、デジタルカメラ100から取得した撮像データの表示部152への表示を停止する。そして、ステップS414において制御部211は、近距離無線通信部218を介して、撮影像転送終了要求をデジタルカメラ100へ送信する。
続いて、ステップS415において制御部211は、近距離無線通信部218を介して、デジタルカメラ100から撮影像転送終了応答を受信したか否かを判断する。制御部211は、撮影像転送終了応答を受信していないと判断した場合(S415でNO)、ステップS415の処理を繰り返し、撮影像転送応答を受信したと判断した場合(S415でYES)、処理をステップS416へ進める。ステップS416において制御部211は、デジタルカメラ100との接続部217を介した通信である無線LAN接続を切断する。制御部211は、ステップS416の処理の後、処理をステップS403へ戻す。
<デジタルカメラの動作>
図3のシーケンスが実行される際に、デジタルカメラ100において行われる処理について、図5を参照して説明する。図5は、デジタルカメラ100で行われる処理のフローチャートである。図5のフローチャートに示す各処理は、デジタルカメラ100の制御部201が、入力信号に従い、不揮発性メモリ203に格納されたプログラムを作業用メモリ204に展開して、デジタルカメラ100の各部を制御することにより実現される。
図5のフローチャートに示す処理は、操作部205に含まれる電源ボタン102をユーザが操作し、デジタルカメラ100の電源をONにしたことをトリガとして開始される。先ず、ステップS501において制御部201は、近距離無線通信部208を介して、探索要求をブロードキャストする。そして、ステップS502において制御部201は、近距離無線通信部208を介して、探索要求を受信した外部機器から送信された探索要求応答を受信したか否かを判断する。以下では、探索要求を受信した外部機器が眼鏡型表示装置150であるとして、説明を続けることとする。
制御部201は、探索要求応答を受信していないと判断した場合(S501でNO)、ステップS502の処理を繰り返し、探索要求応答を受信したと判断した場合(S502でYES)、処理をステップS503へ進める。なお、制御部201は、処理をステップS503へ進めるまでの間、図7(b)に示したように、マーカ701を表示部101に表示する。
ステップS503において制御部201は、近距離無線通信部208を介して、眼鏡型表示装置150から状態要求を受信したか否かを判断する。制御部201は、状態要求を受信していないと判断した場合(S503でNO)、ステップS503の処理を繰り返し、状態要求を受信したと判断した場合(S503でYES)、処理をステップS504へ進める。ステップS504において制御部201は、近距離無線通信部208を介して、眼鏡型表示装置150へ状態応答を送信する。ここでは、デジタルカメラ100は、表示部101にライブビュー画面を表示している状態にあるとする。
続いて、ステップS505において制御部201は、近距離無線通信部208を介して、眼鏡型表示装置150から撮影像転送要求を受信したか否かを判断する。制御部201は、撮影像転送要求を受信していないと判断した場合(S505でNO)、ステップS505の処理を繰り返し、撮影像転送要求を受信したと判断した場合(S505でYES)、処理をステップS506へ進める。
ステップS506において制御部201は、撮影像転送要求を受け付けたことを眼鏡型表示装置150へ通知するために、近距離無線通信部208を介して、眼鏡型表示装置150へ撮影像転送応答を送信する。続くステップS507において制御部201は、撮影像の送信先である眼鏡型表示装置150との間で、近距離無線通信部208を介して、接続部207を介した無線LAN通信に必要な通信パラメータを送受信する。続いて、ステップS508において制御部201は、ステップS507で受信した通信パラメータに基づき、眼鏡型表示装置150との間で接続部207を介して無線LAN接続を確立する。
続いて、ステップS509において制御部201は、接続部207を介して、撮影像の眼鏡型表示装置150への送信を開始し、この撮影像の送信を眼鏡型表示装置150からの撮影像転送終了要求があるまで継続する。このとき、撮影像の送信間隔は、例えば、表示部101に表示する撮影像の更新周期と同じか又はそれ以下とされる。
次いで、ステップS510において制御部201は、近距離無線通信部208を介して、眼鏡型表示装置150から撮影像転送終了要求を受信したか否かを判断する。制御部201は、撮影像転送終了要求を受信していないと判断した場合(S510でNO)、ステップS510の処理を繰り返し、撮影像転送終了要求を受信したと判断した場合(S510でYES)、処理をステップS511へ進める。
ステップS511において制御部201は、眼鏡型表示装置150への撮影像の送信を停止する。そして、ステップS512において制御部201は、接続部217を介した眼鏡型表示装置150との間の通信である無線LAN接続を切断する。その後、制御部201は、処理をステップS503へ戻す。
<第2実施形態>
第1実施形態では、眼鏡型表示装置150が備える眼部検出部216の機能を用いていない形態について説明した。これに対して、第2実施形態では、眼部検出部216を用いて、ユーザの眼部が存在することを検出したことをトリガにして、図3のステップS313以降の処理を開始させる。つまり、ユーザが眼鏡型表示装置150を装着しているときにのみ、図3のステップS313以降の処理を開始させる。これにより、消費電力低減の効果をより顕著に得ることができる。この場合、眼部検出部216は、少なくともユーザの眼部が存在するか否かを判断する情報を検出することができていればよい。また、本実施形態の目的に鑑みれば、眼部検出部216以外の手段で、ユーザが眼鏡型表示装置150を装着しているか否かを判断してもよい。例えば、眼鏡型表示装置150のテンプル部に圧力検知部を設け、継続的な圧力が検知された場合に、眼鏡型表示装置150が装着されていると判断してもよい。または、電気的に接触を感知する検知部をテンプル部に設けて、接触の検知によって装着の判断を行ってもよい。あるいは、テンプル部とHMDのレンズ部とをつなぐ蝶番部に物理的なスイッチを設けてテンプル部の開閉を検知し、テンプル部が開いていることを以て眼鏡型表示装置150を利用している状態と判断してもよい。
また、たとえ消費電力の少ない通信規格を採用したとしても、通信が行われる以上は、少なくとも消費電力がゼロになることはない。そこで、眼鏡型表示装置150が装着されていない、利用されていないと判断された場合には、S313以降の処理のみならず、S311の処理から実行しないようにしてもよい。
<その他の実施形態>
以上、本発明をその好適な実施形態に基づいて詳述してきたが、上記の実施形態は、本発明の技術的思想を具現化する手段の一例であり、本発明はこのような特定の実施形態に限られるものではない。つまり、本発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。さらに、上述した各実施形態は本発明の一実施形態を示すものにすぎず、各実施形態を適宜組み合わせることも可能である。
例えば、上記実施形態では、デジタルカメラ100の表示部101に、図7(b)に示したマーカ701を表示し、マーカ701を眼鏡型表示装置150で検出することによって、ユーザの視野にデジタルカメラ100が存在するか否かを判断した。これに加えて、マーカ701の判定に必要となる情報を、予め、デジタルカメラ100から眼鏡型表示装置150へ送信しておく構成としてしてもよい。これにより、眼鏡型表示装置150と通信を行うデジタルカメラの製造メーカや型番の違いによってマーカの形状や色等が変わっても、正確にマーカを検出することができるようになる。なお、マーカに代えて、眼鏡型表示装置150との通信が確立されたデジタルカメラの形状的特徴を、予め、眼鏡型表示装置150に記憶させる構成としてもよい。
また、上記実施形態では、無線LAN及びBluetooth(登録商標)の2つの通信手段を利用する形態について説明した。しかし、これに限定されず、撮影像を送信していない期間では消費電力を低減することが可能であり、且つ、撮影像の送信をスムーズに行うことができる通信速度の速い通信手段であれば、その1つの通信手段だけを利用する構成としてもよい。
更に、自機器を一意に特定可能な情報(機器ID)に関して、図3のステップS312以下のシーケンスを実行する外部機器を予め記憶させ、記憶している機器IDに対してのみ、図3のステップS312以下のシーケンスを実行するように構成してもよい。これにより、ユーザは、例えば、ユーザ自身が所有する機器間においてのみ、図3のステップS312以下のシーケンスを実行させることが可能となる。
本発明は以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
100 デジタルカメラ
101 表示部
150 眼鏡型表示装置
151 撮像部
152 表示部
201 制御部
207,217 接続部
208,218 近距離無線通信部
216 眼部検出部

Claims (14)

  1. 撮像機能を有する電子機器と通信可能な表示装置であって、
    前記表示装置の使用者の視界方向を撮影して撮像データを生成する撮像手段と、
    画像を表示する表示手段と、
    前記表示手段に対する画像表示を制御する制御手段とを備え、
    前記電子機器との間で通信接続が確立した状態において前記制御手段は、前記撮像データに基づいて、前記使用者が前記電子機器を視認することができると判断した場合には前記電子機器による撮影像の撮像データを前記電子機器から取得せず、前記表示装置の使用者が前記電子機器を視認することができないと判断した場合には、前記撮像データを前記電子機器から前記通信接続を介して取得して前記表示手段に表示することを特徴とする表示装置。
  2. 前記制御手段は、前記撮像データの画像に特定画像が存在する場合に、前記使用者が前記電子機器を視認することができると判断し、前記撮像データの画像に前記特定画像が存在しない場合に、前記使用者が前記電子機器を視認することができないと判断することを特徴とする請求項1に記載の表示装置。
  3. 前記特定画像とは、前記電子機器が備える表示部に前記撮影像に重畳されて表示されたマーカ、または、前記電子機器の形状的特徴であることを特徴とする請求項2に記載の表示装置。
  4. 前記表示手段は、前記使用者の眼部の前方に位置するように配置され、
    前記制御手段は、前記電子機器から取得した前記撮像データの画像を表示しないときには、前記表示手段を透明な状態とすることを特徴とする請求項1乃至3のいずれか1項に記載の表示装置。
  5. 前記使用者の眼部の有無を検出する視野検出手段をさらに備え、
    前記制御手段は、前記視野検出手段が前記使用者の眼部を検出しているときに、前記電子機器から前記撮像データを取得して前記撮像データの画像を前記表示手段に表示するか否かの制御を行うことを特徴とする請求項4に記載の表示装置。
  6. 通信速度の異なる少なくとも2つの通信手段を有し、
    前記電子機器から前記撮像データを受信する際には、前記少なくとも2つの通信手段のうち通信速度の速い方の通信手段が用いられることを特徴とする請求項1乃至5のいずれか1項に記載の表示装置。
  7. 撮像機能を有する電子機器と、前記電子機器と通信可能な表示装置とを有する通信システムであって、
    前記電子機器は、
    被写体を撮影して第1の撮像データを生成する第1の撮像手段と、
    前記第1の撮像手段により撮影される撮影像を表示する第1の表示手段と、
    前記表示装置との通信を行う第1の通信手段とを備え、
    前記表示装置は、
    使用者の視界方向を撮影して第2の撮像データを生成する第2の撮像手段と、
    前記第1の通信手段と通信する第2の通信手段と、
    画像を表示する第2の表示手段と、
    前記第2の表示手段における画像表示を制御する制御手段とを備え、
    前記第2の通信手段と前記第1の通信手段との間の通信接続が確立した状態において前記制御手段は、前記第2の撮像データに基づいて、前記使用者が前記第1の表示手段を視認することができると判断した場合には、前記第1の撮像データの撮影像を前記第2の表示手段に表示せず、前記第2の撮像データに基づいて前記使用者が前記第1の表示手段を視認することができないと判断した場合には、前記通信接続を介して前記第1の撮像データを前記電子機器から取得して前記第1の撮像データの撮影像を前記第2の表示手段に表示することを特徴とする通信システム。
  8. 前記制御手段は、前記第2の撮像データの画像に特定画像が存在する場合に、前記使用者が前記第1の表示手段を視認することができると判断し、前記第2の撮像データの画像に前記特定画像が存在しない場合に、前記使用者が前記第1の表示手段を視認することができないと判断することを特徴とする請求項7に記載の通信システム。
  9. 前記特定画像とは、前記第1の表示手段に表示されたマーカであることを特徴とする請求項8に記載の通信システム。
  10. 前記第2の表示手段は、前記使用者の眼部の前方に位置するように配置され、
    前記制御手段は、前記第1の撮像データの画像を表示しないときには、前記第2の表示手段を透明な状態とすることを特徴とする請求項7乃至9のいずれか1項に記載の通信システム。
  11. 前記表示装置は、前記使用者の眼部の有無を検出する視野検出手段を備え、
    前記制御手段は、前記視野検出手段が前記使用者の眼部を検出しているときに、前記第1の撮像データの撮影像を前記第2の表示手段に表示するか否かの制御を行うことを特徴とする請求項10に記載の通信システム。
  12. 前記第1の通信手段と前記第2の通信手段はそれぞれ、通信速度の異なる少なくとも2つの通信手段を有し、
    前記電子機器からの前記第1の撮像データの前記表示装置への送信には、前記少なくとも2つの通信手段のうち、通信速度の速い方の通信手段が用いられることを特徴とする請求項7乃至11のいずれか1項に記載の通信システム。
  13. 撮像機能を有する電子機器と通信可能な表示装置の制御方法であって、
    前記電子機器との間での通信接続を確立する通信ステップと、
    前記表示装置の使用者の視界方向を撮影して撮像データを生成する撮像ステップと、
    前記撮像ステップで撮影した撮像データを解析する解析ステップと、
    前記解析ステップによる解析の結果、前記撮像データの画像に前記電子機器が撮影されていない場合に、前記電子機器から前記電子機器による撮影像の撮像データを受信して前記表示装置が有する表示手段に受信した撮影像を表示し、前記撮像データの画像に前記電子機器が撮影されている場合に、前記電子機器から前記電子機器による撮影像の撮像データを受信しない制御ステップと、を有することを特徴とする表示装置の制御方法。
  14. 撮像機能を有する電子機器と通信可能な表示装置が備えるコンピュータを、前記表示装置が有する表示手段における画像表示の制御と、前記電子機器との間の通信の制御とを行う制御手段として機能させるプログラムであって、
    前記表示装置の使用者の視界方向を撮影して得られる撮像データを解析して、前記撮像データの画像に前記電子機器が撮影されていない場合に、前記電子機器から前記電子機器による撮影像の撮像データを受信して前記表示装置が有する表示手段に受信した撮影像を表示し、前記撮像データの画像に前記電子機器が撮影されている場合に、前記電子機器から前記電子機器による撮影像の撮像データを受信しない制御手段として機能させることを特徴とするプログラム。
JP2014126126A 2014-06-19 2014-06-19 表示装置、通信システム、表示装置の制御方法及びプログラム Active JP6351394B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014126126A JP6351394B2 (ja) 2014-06-19 2014-06-19 表示装置、通信システム、表示装置の制御方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014126126A JP6351394B2 (ja) 2014-06-19 2014-06-19 表示装置、通信システム、表示装置の制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2016005225A JP2016005225A (ja) 2016-01-12
JP6351394B2 true JP6351394B2 (ja) 2018-07-04

Family

ID=55224190

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014126126A Active JP6351394B2 (ja) 2014-06-19 2014-06-19 表示装置、通信システム、表示装置の制御方法及びプログラム

Country Status (1)

Country Link
JP (1) JP6351394B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5630513B2 (ja) * 2006-11-22 2014-11-26 ソニー株式会社 表示装置、表示方法、画像表示システム
JP4281819B2 (ja) * 2007-04-02 2009-06-17 ソニー株式会社 撮像画像データ処理装置、視聴情報生成装置、視聴情報生成システム、撮像画像データ処理方法、視聴情報生成方法
JP2010183274A (ja) * 2009-02-04 2010-08-19 Olympus Imaging Corp カメラシステム、カメラ、及び装着型画像表示装置
JP2010283645A (ja) * 2009-06-05 2010-12-16 Nikon Corp ヘッドマウントディスプレイ装置及び通信システム

Also Published As

Publication number Publication date
JP2016005225A (ja) 2016-01-12

Similar Documents

Publication Publication Date Title
JP6205072B2 (ja) 撮像制御装置、撮像制御方法、カメラ、カメラシステム及びプログラム
CN108603997B (zh) 控制装置、控制方法和控制程序
US8692666B2 (en) Communication system and communication terminal
US9635235B2 (en) Communication apparatus and control method thereof
JP6481225B2 (ja) 情報端末装置、情報支援方法及び情報支援プログラム
US11394862B2 (en) Voice input apparatus, control method thereof, and storage medium for executing processing corresponding to voice instruction
JP6642982B2 (ja) 通信装置、通信装置の制御方法、プログラム
JP2018152787A (ja) 撮像装置、外部装置、撮像システム、撮像方法、操作方法およびプログラム
JP5789725B2 (ja) 撮像装置及びその合焦方法と合焦制御プログラム
CN113364945A (zh) 电子装置、控制方法和计算机可读介质
JP5446976B2 (ja) 電子機器
JP5392141B2 (ja) 電子機器
JP6351394B2 (ja) 表示装置、通信システム、表示装置の制御方法及びプログラム
CN112040095A (zh) 电子装置、电子装置的控制方法及存储介质
JP6468827B2 (ja) 撮像装置、撮像装置の制御方法、プログラム
JP2014057374A (ja) 電子機器および電子機器用プログラム
US20230300453A1 (en) Electronic apparatus, control method of electronic apparatus, and non-transitory computer readable medium
JP2017092799A (ja) 撮像装置、ウェアラブル機器、制御方法及びプログラム
JP6319081B2 (ja) 端末装置、撮影システム、及び撮影方法
US20230209177A1 (en) Imaging apparatus
JP5644976B2 (ja) 電子機器及び電子機器用プログラム
JP5614487B2 (ja) 電子機器および電子機器用プログラム
JP5644932B2 (ja) 電子機器
JP2023184106A (ja) 表示制御装置、表示制御方法、プログラム、および記憶媒体
JP2021182692A (ja) 電子機器及びその制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170615

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180301

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180306

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180413

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180605

R151 Written notification of patent or utility model registration

Ref document number: 6351394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151