JP2016024751A - 画像表示装置 - Google Patents

画像表示装置 Download PDF

Info

Publication number
JP2016024751A
JP2016024751A JP2014150369A JP2014150369A JP2016024751A JP 2016024751 A JP2016024751 A JP 2016024751A JP 2014150369 A JP2014150369 A JP 2014150369A JP 2014150369 A JP2014150369 A JP 2014150369A JP 2016024751 A JP2016024751 A JP 2016024751A
Authority
JP
Japan
Prior art keywords
display
image
scaling
head
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014150369A
Other languages
English (en)
Other versions
JP6339887B2 (ja
Inventor
雅則 本田
Masanori Honda
雅則 本田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2014150369A priority Critical patent/JP6339887B2/ja
Publication of JP2016024751A publication Critical patent/JP2016024751A/ja
Application granted granted Critical
Publication of JP6339887B2 publication Critical patent/JP6339887B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】 表示範囲を狭くすることなく、表示エリアに表示中の画像を拡大又は縮小する際の操作性を向上させることができる画像表示装置を提供する。【解決手段】 ユーザの頭部5の動きを検出する頭部検出部211と、ユーザが視認可能な表示エリア126を有し、表示エリア126上に表示画像を表示する画像表示部12と、頭部5の検出結果に基づいて、スケーリング倍率を決定するスケーリング倍率決定部212と、スケーリング倍率に基づいて、表示画像をスケーリングするスケーリング部213により構成される。スケーリング倍率決定部212は、頭部5の前後方向の動きに応じて、スケーリング倍率を変更する。【選択図】 図4

Description

本発明は、画像表示装置に係り、更に詳しくは、ユーザが視認可能な表示エリア上に画像を表示する画像表示装置の改良に関する。
HMD(Head Mounted Display)は、ユーザの頭部に装着する画像表示装置であり、両方又は片方の目の前方に配置されるスクリーンに映像を投影することにより、ユーザにVR(バーチャルリアリティ:仮想現実)を体感させるウエアラブルデバイスの一つとして知られている(例えば、特許文献1)。この種の画像表示装置では、ユーザの視界がスクリーンによって遮られることから、手や指の位置を目で見て確認するのは容易ではなく、キーボード、マウス等の入力装置を操作する際の操作性が良くないという問題があった。
特許文献1には、操作対象を示すアイコンを仮想的に表示する一方、操作者の手や指をカメラにより撮影して、アイコンに対する操作者の動きを検知し、手や指の動きを表示してアイコンを操作する技術が開示されている。この技術によれば、手や入力装置の位置を実際に確認しなくても、仮想的に表示されるアイコンを操作することができる。
特開平8−6708号公報
しかしながら、上述した様な従来の画像表示装置では、操作対象を示すアイコンを表示エリア内に表示する必要があることから、アイコンの分だけ表示範囲が狭くなってしまうという問題があった。また、手又は指の動きを検知してアイコンを操作することから、両手が塞がっている場合に、表示エリアに表示中の画像を拡大し、或いは、縮小することができないという問題もあった。
本発明は、上記の事情に鑑みてなされたものであり、表示範囲を狭くすることなく、表示エリアに表示中の画像を拡大又は縮小する際の操作性を向上させることができる画像表示装置を提供することを目的とする。特に、両手が塞がっている場合であっても、表示画像の拡大又は縮小を容易に行うことができる画像表示装置を提供することを目的とする。
本発明による画像表示装置は、ユーザの頭部の動きを検出する頭部検出手段と、上記ユーザが視認可能な表示エリアを有し、上記表示エリア上に表示画像を表示する画像表示手段と、上記頭部の検出結果に基づいて、スケーリング倍率を決定するスケーリング倍率決定手段と、上記スケーリング倍率に基づいて、上記表示画像をスケーリングするスケーリング手段とを備え、上記スケーリング倍率決定手段が、上記頭部の前後方向の動きに応じて、上記スケーリング倍率を変更するように構成される。
この様な構成によれば、ユーザの頭部の動きを検出し、頭部の前後方向の動きに応じて表示画像のスケーリング倍率を変更するので、頭部を前方又は後方へ移動させるだけで、表示エリア上の表示画像を拡大又は縮小することができる。また、アイコンなどの操作オブジェクトを表示エリア内に表示する必要がないので、表示範囲が操作オブジェクトの分だけ狭くなるのを防止することができる。
本発明によれば、表示範囲を狭くすることなく、表示エリアに表示中の画像を拡大又は縮小する際の操作性を向上させた画像表示装置を提供することができる。特に、両手が塞がっている場合であっても、表示画像の拡大又は縮小を容易に行うことができる画像表示装置を提供することができる。
本発明の実施の形態1による画像表示装置1の一構成例を示した斜視図である。 図1の画像表示部12の構成例を模式的に示した説明図であり、左目表示部12Lを上から見た場合が示されている。 図1の画像表示装置1の動作の一例を示した図であり、左目用及び右目用の表示画像をそれぞれ表示する左目表示部12L及び右目表示部12Rが示されている。 図1のコントローラ部20の構成例を示したブロック図である。 図1の画像表示装置1の動作の一例を模式的に示した説明図であり、ユーザの頭部5を前後方向に移動させて表示画像を拡大又は縮小させる場合が示されている。 図1の画像表示装置1の動作の一例を示した図であり、表示エリア126内に予め定められる倍率変更エリアAEが示されている。 図1の画像表示装置1における動画撮影時の動作の一例を示したフローチャートである。 本発明の実施の形態2による画像表示装置1の一構成例を示した斜視図であり、自動車の車内に設置されたHUD型の画像表示部30が示されている。 図8の画像表示装置1の動作の一例を示した図であり、3つの表示エリア34a〜34cに分割された投影エリア34が示されている。 図8の画像表示装置1におけるコントローラ部40の構成例を示したブロック図である。
実施の形態1.
<画像表示装置1>
図1は、本発明の実施の形態1による画像表示装置1の一構成例を示した斜視図である。図中には、接続ケーブル2を介して互いに接続されたヘッドセット部10及びコントローラ部20からなる画像表示装置1が示されている。この画像表示装置1は、眼鏡型のHMDであり、ユーザの頭部に装着するヘッドセット部10と、ヘッドセット部10を制御するコントローラ部20とにより構成される。
ヘッドセット部10は、頭部装着ユニットであり、加速度センサ3、視線検知用のカメラ4及びフレーム部11と、左目表示部12L及び右目表示部12Rからなる画像表示部12とにより構成される。
フレーム部11は、眼前に配置され、顔面に沿って左右方向に延びる形状のレンズ保持部11aと、側頭部に沿って前後方向に延びる形状のテンプル部11bとからなる。画像表示部12は、映像を表示し、ユーザに視認させる。左目表示部12Lは、ユーザの左目に映像を視認させるための表示部であり、左目の前方に配置される。右目表示部12Rは、ユーザの右目に映像を視認させるための表示部であり、右目の前方に配置される。左目表示部12L及び右目表示部12Rは、フレーム部11のレンズ保持部11aに保持される。
加速度センサ3は、ユーザの頭部の動きを検知するために、フレーム部11に生じる加速度を検出するセンサである。例えば、加速度センサ3には、復帰用のばねに接続された可動体の微小な位置の変化を静電容量の変化に基づいて検知する機械的変位計測方式の静電容量型センサが用いられる。この加速度センサ3は、フレーム部11のテンプル部11bに配設されている。
カメラ4は、ユーザの視線を検知するために、ユーザの目を被写体として撮影する撮像装置であり、投光装置、結像レンズ及び撮像素子により構成される。投光装置は、検出光を眼球に向けて出射する照明装置であり、検出光を生成する発光素子と、検出光を平行光に変換する投光レンズとからなる。例えば、検出光には、赤外線が用いられ、発光素子には、LED(発光ダイオード)が用いられる。
結像レンズは、角膜により反射された検出光を撮像素子の受光面上に結像させる光学素子である。撮像素子は、検出光を受光し、結像した像の光の明暗を電気信号に変換して撮影画像を生成するイメージセンサである。例えば、撮像素子には、CCD(電荷結合素子)イメージセンサが用いられる。このカメラ4は、フレーム部11のレンズ保持部に配設されている。このカメラ4は、左目を撮影するカメラであり、レンズ保持部11aにおける左目表示部12Lの上方に配置されている。
コントローラ部20は、ユーザ操作を受け付け、ヘッドセット部10を制御する制御ユニットであり、直方体形状の薄型筐体の前面に、カメラ21、タッチパネル22及び操作キー23が設けられている。例えば、コントローラ部20は、通話機能を含む各種機能を有する携帯電話機からなる。
カメラ21は、コントローラ部20の前方の風景などを被写体として撮影する撮像装置である。タッチパネル22は、各種情報が表示される表示画面を有し、表示画面に対するタッチ操作を検出する表示装置である。操作キー23は、押下型の接点式スイッチからなり、各種機能が割り当てられる。例えば、後述するズーム機能の有効又は無効を切り替える機能が操作キー23に割り当てられる。
このコントローラ部20は、投影用の画像データを生成するとともに、加速度センサ3の出力に基づいて、頭部の動きを検知し、また、カメラ4により撮影された画像データに基づいて、視線を検知する。
<画像表示部12>
図2は、図1の画像表示部12の構成例を模式的に示した説明図であり、左目表示部12Lを上から見た場合が示されている。この左目表示部12Lは、外界の様子を直接に視認可能な光学透過型の表示装置であり、投影装置121、投光レンズ122、プリズム123、導光板124及びハーフミラー層125により構成される。
投影装置121は、表示画像を投影する装置であり、前方に向けて配置される。例えば、投影装置121は、画像を表示画面上に表示する液晶パネルと、液晶パネルの表示画面に背面側から可視光を照射し、映像光を生成するためのバックライトとからなる。
プリズム123は、投影装置121の前方に配置され、投影装置121から投光レンズ122を介して入射される映像光をハーフミラー層125に向けて反射する。導光板124は、プリズム123及びハーフミラー層125を収容する略矩形の平板状の光学素子であり、視線と交差するように配置され、右端部に入射される映像光をハーフミラー層125へ導光する。ハーフミラー層125は、プリズム123から入射される映像光を後方に向けて反射する一方、前方から入射される外光を透過させる。
図3は、図1の画像表示装置1の動作の一例を示した図であり、左目用及び右目用の表示画像をそれぞれ表示する左目表示部12L及び右目表示部12Rが示されている。図中には、フレーム部11のレンズ保持部11aを後方から見た様子が示されている。
左目表示部12L及び右目表示部12Rには、ハーフミラー層125の位置に対応して、ユーザが視認可能な表示エリア126がそれぞれ形成され、ハーフミラー層125により反射された映像光からなる表示画像が表示エリア126上に表示されている。
例えば、表示エリア126は、横長の矩形形状からなる。左右の表示エリア126には、左目用及び右目用の表示画像がそれぞれ表示される。この様なヘッドセット部10を使用することにより、ユーザは、任意の姿勢で映像を閲覧することができる。
画像表示部12に表示される映像には、カメラ21により撮影した撮影画像と、外部機器から取得した画像と、現在地から目的地までの経路を含むナビゲーション地図と、放送波を受信して得られるTV映像とがある。例えば、カメラ21により撮影した動画像が画像表示部12に表示される。また、インターネット上のウェブサイトからダウンロードした映像コンテンツが画像表示部12に表示される。また、これらの映像は、モノクロ画像又はカラー画像からなる動画像又は静止画像として供給される。
この画像表示装置1では、ユーザの頭部の動きを検知して、表示エリア126に表示中の画像を拡大又は縮小する動作が行われる。表示画像の拡大又は縮小は、表示エリア126内の視線位置を中心として行われる。
<コントローラ部20>
図4は、図1のコントローラ部20の構成例を示したブロック図である。このコントローラ部20は、カメラ21、操作キー23、撮影画像記憶部201、頭部検出部211、スケーリング倍率決定部212、スケーリング部213、表示画像記憶部214、通信部215、視線検出部221、スケーリング中心決定部222及び倍率変更許可部223により構成される。
撮影画像記憶部201には、カメラ21により撮影した撮影画像が保持される。頭部検出部211は、加速度センサ3の出力に基づいて、ユーザの頭部の動きを検出し、その検出結果をスケーリング倍率決定部212へ出力する。例えば、前後方向の加速度成分に基づいて、頭部の前後方向の動きが検出される。すなわち、頭部の移動距離及び移動方向が検出される。
スケーリング倍率決定部212は、頭部の検出結果に基づいて、表示エリア126に表示される画像のサイズを規定するスケーリング倍率を決定する。具体的には、頭部の前後方向の動きに応じて、スケーリング倍率を変更する動作が行われる。例えば、予め定められた距離D1を超えて頭部が前方に移動した場合に、スケーリング倍率を一定量だけ変更し、表示画像を拡大させる。一方、予め定められた距離D2を超えて頭部が後方に移動した場合には、スケーリング倍率を一定量だけ変更し、表示画像を縮小させる。
スケーリング部213は、スケーリング倍率に基づいて、表示画像をスケーリングする。例えば、スケーリング部213は、撮影画像記憶部201から撮影画像を読み出し、スケーリング倍率に従って画像サイズを変換することにより、画像表示部12に表示するための表示画像を生成し、表示画像記憶部214内に格納する。また、スケーリング部213は、スケーリング倍率が変更されれば、表示画像記憶部214内の表示画像を更新する。通信部215は、接続ケーブル2を介してヘッドセット部10と通信し、表示画像記憶部214から表示画像を読み出して画像表示部12へ送信する。
この様な構成によれば、頭部の前後方向の動きに応じて、スケーリング倍率が変更され、表示画像が更新されるので、頭部を前方又は後方へ移動させることにより、表示画像を拡大又は縮小させることができる。ここでは、表示画像が誤って拡大又は縮小されるのを防止するために、スケーリング倍率決定部212は、操作キー23の押下操作に基づいて、頭部の動きに連動するズーム機能を有効化し、当該ズーム機能が有効な期間内において、頭部の動きに応じてスケーリング倍率を変更する動作を行う。
なお、ここでいう表示画像の拡大又は縮小は、表示エリア126における画像の表示サイズの拡大又は縮小である。従って、撮影画像のピクセル数が表示画像に比べて多い場合、撮影画像を元画像として画像サイズを縮小することにより、表示画像が作製される。例えば、元画像の縮小処理は、ピクセルデータをスケーリング倍率に応じて間引くことによって行われる。従って、表示画Aを表示画Bに拡大又は縮小する処理は、共通の元画像から表示画A及びBを生成する際の縮小率を異ならせることによって行われる。
また、カメラ21が光学的に撮影倍率を変更可能である場合は、カメラ21の撮影倍率を変更することにより、表示画像のスケーリング倍率を変更するような構成であっても良い。
視線検出部221は、カメラ4により撮影された撮影画像に基づいて、ユーザの視線を検出し、その検出結果をスケーリング中心決定部222及び倍率変更許可部223へ出力する。例えば、撮影画像の特徴点を解析し、眼球の輪郭や角膜、虹彩の位置を特定することにより、眼球の回転角から視線方向が推定される。また、カメラ4及び眼球の相対的な位置関係を特定することにより、表示エリア126上の視線位置Pが推定される。
スケーリング中心決定部222は、視線の検出結果に基づいて、表示画像上におけるスケーリング中心SCを決定する。例えば、スケーリング中心決定部222は、視線位置Pに対応する表示画像上の位置をスケーリング中心SCとして指定する。スケーリング部213は、表示画像のスケーリング中心SCを移動させることなく、表示画像をスケーリングする。
この様にスケーリング中心SCを中心として表示画像をスケーリングすることにより、表示中の画像を拡大させた際に、視線位置Pの画像が表示エリア126の外に移動して視認できなくなるのを抑制することができる。
倍率変更許可部223は、視線が倍率変更エリアAE内に属するか否かを判別し、倍率変更エリアAE内であれば、スケーリング倍率決定部212に対し、スケーリング倍率の変更を許可する。倍率変更許可部223は、視線が倍率変更エリアAE外であれば、スケーリング倍率の変更を許可しない。倍率変更エリアAEは、表示エリア126の中央を含み、表示エリア126の端部を含まないエリアである。
スケーリング倍率決定部212は、倍率変更が許可されている場合に、スケーリング倍率を変更し、倍率変更が許可されていない場合に、スケーリング倍率を変更しない。この様にスケーリング倍率を変更する場合のスケーリング中心SCを倍率変更エリアAE内に制限することにより、頭部の動きとスケーリング中心SCとが大きくずれるのを防止し、酔いが生じるのを抑制することができる。
図5は、図1の画像表示装置1の動作の一例を模式的に示した説明図であり、ユーザの頭部5を前後方向に移動させて表示画像を拡大又は縮小させる場合が示されている。この図では、頭部5にヘッドセット部10を装着したユーザを左方から見た様子と、表示画像を表示する表示エリア126とが示されている。
図中の(a)には、頭部5を前方に移動させて表示画像を拡大させる場合が示されている。腰部を中心として上体を前方へ傾ければ、頭部5が前方に移動する。具体的には、上体を前方へ傾けつつ、上体に対して頭部5を相対的に後方へ傾けることにより、顔面を前方に向けた状態を維持しながら、頭部5を前方に移動させることができる。この様な頭部5の前後方向の動きに連動してスケーリング倍率を変更することにより、表示画像が拡大する。
図中の(b)には、頭部5を後方に移動させて表示画像を縮小させる場合が示されている。腰部を中心として上体を後方へ傾ければ、頭部5が後方に移動する。具体的には、上体を後方へ傾けつつ、上体に対して頭部5を相対的に前方へ傾けることにより、顔面を前方に向けた状態を維持しながら、頭部5を後方に移動させることができる。この様な頭部5の前後方向の動きに連動してスケーリング倍率を変更することにより、表示画像が縮小する。
ユーザの前方に固定された静止物体は、頭部5を前方へ移動させることにより、ユーザの目から静止物体までの距離が近くなるので、視野内において、より大きな物体として知覚される。一方、頭部5を後方へ移動させることにより、視野内において、より小さな物体として知覚される。本実施の形態による画像表示装置1では、頭部5の前後方向の動きに連動してスケーリング倍率を変更することにより、直感的な身体の動きによって表示画像を拡大又は縮小させることができる。
<倍率変更エリアAE>
図6は、図1の画像表示装置1の動作の一例を示した図であり、表示エリア126内に予め定められる倍率変更エリアAEが示されている。この倍率変更エリアAEは、表示エリア126の中央を中心とする楕円形状のエリアであり、表示エリア126の周縁部を含まないように指定される。
視線位置Pが倍率変更エリアAEに属しているか否かに応じて、スケーリング倍率の変更が許可される。つまり、視線位置Pが倍率変更エリアAEに属している場合にのみ、スケーリング倍率の変更が許可され、頭部5の動きに応じてスケーリング倍率が変更される。表示画像の拡大又は縮小処理は、視線位置Pをスケーリング中心SCとして行われる。この様に、ユーザに任意に指定させるスケーリング中心SCを倍率変更エリアAE内に制限することにより、頭部5の動きとスケーリング中心SCとが大きくずれ、酔いが発生するのを抑制することができる。
表示エリア126の中央点は、スケーリング中心SCのデフォルト位置SCであり、視線移動によってスケーリング中心SCの位置を変更しない場合と、視線位置Pを検知してスケーリング中心SCを決定する機能が無効である場合とには、デフォルト位置SCを中心として表示画像の拡大又は縮小が行われる。
図7のステップS101〜S115は、図1の画像表示装置1における動画撮影時の動作の一例を示したフローチャートである。この図には、コントローラ部20に設けられたカメラ21を用いて、周囲の風景などを被写体として撮影する場合の処理手順が示されている。
まず、コントローラ部20は、撮影開始を指示するユーザ操作に基づいて、カメラ21を起動し、動画撮影を開始して撮影画像を取得し、表示画像をスケーリングして画像表示部12の表示エリア126上に表示する(ステップS101)。
次に、コントローラ部20は、操作キー23の押下操作により、頭部5の動きに連動するズーム機能を有効化することがユーザにより指示されれば(ステップS102)、倍率設定を参照する(ステップS103)。例えば、撮影画像に対し、顔認証処理を行い、被写体の顔が表示エリア126からはみ出さない範囲内に、スケーリング倍率を制限する機能に対し、当該機能が有効又は無効のいずれであるのかを示す選択情報が倍率設定として保持される。
また、頭部5の動きに連動するズーム機能が有効であることをユーザ報知する機能に対し、当該機能が有効又は無効のいずれであるのかを示す選択情報が倍率設定として保持される。このユーザ報知機能を選択した場合に、報知方法の選択情報が倍率設定として保持される。報知方法には、ヘッドセット部10のフレーム部11又は画像表示部12に設けられるインジケータを点灯又は点滅させて通知する方法と、表示エリア126内にアイコンを表示させて通知する方法と、フレーム部11に設けられるバイブレータを振動させて通知する方法と、フレーム部11に設けられるスピーカから報知音を出力する方法と、コントローラ部20に設けられるインジケータを点灯又は点滅させて通知する方法と、タッチパネル22の表示画面内にアイコンを表示させて通知する方法と、コントローラ部20に設けられるバイブレータを振動させて通知する方法と、コントローラ部20に設けられるスピーカから報知音を出力する方法とがあり、ユーザは、これらの報知方法を任意に指定することができる。
また、視線位置Pを検知してスケーリング中心SCを決定する機能に対し、当該機能が有効又は無効のいずれであるのかを示す選択情報が倍率設定として保持される。また、表示画像のみ拡大又は縮小を行い、記録用の撮影画像については拡大又は縮小を行わない機能に対し、当該機能が有効又は無効のいずれであるのかを示す選択情報が倍率設定として保持される。また、頭部5の移動距離とスケーリング倍率の変更量との比率を示す選択情報が倍率設定として保持される。この比率には、頭部5の移動距離にかかわらず一定量だけスケーリング倍率を変更させる場合と、頭部5の移動距離に応じてスケーリング倍率の変更量を変化させる場合とのいずれかを選択することができる。
ここでは、頭部5の動きに連動するズーム機能が有効であることをユーザ報知する機能が選択され、表示画像のみ拡大又は縮小を行い、記録用の撮影画像については拡大又は縮小を行わない機能は、無効である。
次に、コントローラ部20は、頭部5の動きを検出し、頭部5の前後方向の動きに応じてスケーリング倍率を変更し、頭部5の動きに連動して倍率変更が可能であることをユーザに通知する(ステップS104〜S106)。ステップS104からステップS106までの処理手順は、録画開始を指示するユーザ操作が検知されるまで繰り返される(ステップS107)。
次に、コントローラ部20は、録画開始を指示するユーザ操作に基づいて、撮影画像を記憶する録画処理を開始する(ステップS108)。次に、コントローラ部20は、頭部5の動きを検出し、頭部5の前後方向の動きに応じてスケーリング倍率を変更する(ステップS109,S110)。ステップS108からステップS110までの処理手順は、録画終了を指示するユーザ操作が検知されるまで繰り返され(ステップS111)、録画終了が指示されれば、この処理は終了する。
一方、コントローラ部20は、ステップS102において、頭部5の動きに連動するズーム機能を有効化することがユーザにより指示されなければ、動画撮影を継続し、表示画像の表示を維持する(ステップS112)。次に、コントローラ部20は、録画開始を指示するユーザ操作が検知されれば(ステップS113)、撮影画像を記憶する録画処理を開始する(ステップS114)。ステップS114の処理手順は、録画終了を指示するユーザ操作が検知されるまで繰り返され(ステップS115)、録画終了が指示されれば、この処理は終了する。
本実施の形態による画像表示装置1では、ユーザの頭部5の動きを検出し、頭部5の前後方向の動きに応じて表示画像のスケーリング倍率を変更するので、頭部5を前方又は後方へ移動させるだけで、表示エリア126上の表示画像を拡大又は縮小することができる。また、アイコンなどの操作オブジェクトを表示エリア126内に表示する必要がないので、表示範囲が操作オブジェクトの分だけ狭くなるのを防止することができる。従って、表示範囲を狭くすることなく、表示エリア126に表示中の画像を拡大又は縮小する際の操作性を向上させることができる。
実施の形態2.
実施の形態1では、画像表示装置1が眼鏡型のHMDからなる場合の例について説明した。これに対し、本実施の形態では、画像表示装置1が自動車の車内に設置されるHUD(Head Up Display:ヘッドアップディスプレイ)型の画像表示部を備える場合について説明する。
<画像表示部30>
図8は、本発明の実施の形態2による画像表示装置1の一構成例を示した斜視図であり、自動車の車内に設置されたHUD型の画像表示部30が示されている。この画像表示装置1は、自動車の車内に設置される画像表示部30と、画像表示部30を制御するコントローラ部40とにより構成される。画像表示部30は、運転席側の天井に設置される車載ユニットであり、投影装置31、投影スクリーン32及び頭部検知用のカメラ33により構成される。コントローラ部40は、車内に設置される。
投影装置31は、表示画像を投影スクリーン32上に投影する装置であり、前方に向けて配置される。例えば、投影装置31は、画像を表示画面上に表示する液晶パネルと、液晶パネルの表示画面に背面側から可視光を照射し、映像光を生成するためのバックライトとからなる。
投影スクリーン32は、ハーフミラー層を収容する略矩形の平板状の光学素子からなり、視線と交差するように、ユーザの頭部5とフロントガラスとの間に配置されている。ハーフミラー層は、投影装置31から入射される映像光を後方に向けて反射する一方、前方から入射される外光を透過させる。
カメラ33は、ユーザの頭部5の動き及び視線を検知するために、ユーザの目を被写体として撮影する撮像装置である。例えば、カメラ33により撮影された画像の特徴点を解析し、カメラ33からユーザの目までの距離を特定することにより、頭部5の前後方向の動きが検知される。
また、眼球の輪郭や角膜、虹彩の位置を特定することにより、眼球の回転角から視線方向が推定される。また、カメラ33及び眼球の相対的な位置関係を特定することにより、投影スクリーン32上の視線位置Pが推定される。このカメラ33は、投影装置31に設けられている。
図9は、図8の画像表示装置1の動作の一例を示した図であり、3つの表示エリア34a〜34cに分割された投影エリア34が示されている。この画像表示装置1では、ユーザの視線を検知して、投影スクリーン32上における視線位置Pを特定することにより、3つの表示エリア34a〜34cのいずれかがスケーリング対象エリアとして選択される。頭部5の動きに連動するズーム機能は、スケーリング対象エリアに表示中の画像に基づいて行われる。
投影エリア34は、ユーザが視認可能な表示エリアであり、投影スクリーン32上において映像光が投影される領域からなる。この投影エリア34は、ハーフミラー層の位置に対応して形成され、ハーフミラー層により反射された映像光からなる表示画像が表示されている。この例では、現在地、現在地から目的地までの経路、通過点までの距離、進行方向、現在時刻等を含む地図情報が投影エリア34上に表示されている。
表示エリア34aは、投影エリア34の左端部に形成され、通過点までの距離、進行方向及び現在時刻が表示されている。表示エリア34bは、投影エリア34の中央部及び右端部を含むエリアであり、現在地や現在地から目的地までの経路がシンボル、図形等によって示された地図画像が表示されている。表示エリア34cは、投影エリア34の下端部に形成されたエリアである。
ユーザは、視線を移動させて表示エリア34a〜34cのいずれかをスケーリング対象エリアとして選択した後、頭部5を前方又は後方へ移動させることにより、当該表示エリアに表示中の画像を拡大又は縮小させることができる。例えば、表示エリア34aをスケーリング対象エリアとして選択し、頭部5を前方へ移動させれば、通過点までの詳細地図が表示される。
また、表示エリア34bをスケーリング対象エリアとして選択し、頭部5を前後方向に移動させれば、頭部5の移動方向及び移動距離に応じて、地図の縮尺が変更される。また、表示エリア34cをスケーリング対象エリアとして選択し、頭部5を前後方向に移動させれば、投影エリア34に表示中の画像全体に対し、頭部5の移動方向及び移動距離に応じて、スケーリング倍率が変更される。或いは、表示エリア34cをスケーリング対象エリアとして選択した場合、頭部5を前後方向に移動させることにより、頭部5の移動方向及び移動距離に応じて、地図上に重ねて表示されている文字のフォントサイズが拡大又は縮小される。
<コントローラ部40>
図10は、図8の画像表示装置1におけるコントローラ部40の構成例を示したブロック図である。このコントローラ部40は、地図情報記憶部401、頭部検出部411、スケーリング倍率決定部412、スケーリング部413、表示画像記憶部414、通信部415、視線検出部421及び対象エリア選択部422により構成される。
スケーリング倍率決定部412、スケーリング部413、表示画像記憶部414、通信部415及び視線検出部421は、図4のコントローラ部20におけるスケーリング倍率決定部212、スケーリング部213、表示画像記憶部214、通信部215及び視線検出部221と同様の構成からなり、重複する説明を省略する。
地図情報記憶部401には、地図情報が保持される。頭部検出部411は、カメラ33により撮影された撮影画像に基づいて、ユーザの頭部の動きを検出し、その検出結果をスケーリング倍率決定部212へ出力する。例えば、撮影画像の特徴点を解析し、眼球までの距離の変化から、頭部5の前後方向の動きが検出される。すなわち、頭部の移動距離及び移動方向が検出される。
スケーリング部413は、地図情報記憶部401から地図情報を読み出し、スケーリング倍率に従って画像サイズを変換することにより、画像表示部30に表示するための表示画像を生成し、表示画像記憶部414内に格納する。
対象エリア選択部422は、視線の検出結果に基づいて、2以上の表示エリア34a〜34cのいずれかをスケーリング対象エリアとして選択する。この対象エリア選択部422は、視線が表示エリア34a〜34cのいずれに属するのかを判別し、同一の表示エリア内に一定時間を超えて視線が属している場合に、当該表示エリアをスケーリング対象エリアとして選択する。一方、対象エリア選択部422は、視線がスケーリング対象エリアから出た場合に、スケーリング対象エリアの選択を解除する。スケーリング部413は、スケーリング対象エリアの表示画像をスケーリングする。
本実施の形態による画像表示装置1では、視線移動により、スケーリング対象エリアを選択することができる。また、同一の表示エリア内に一定時間を超えて視線が属している場合に、当該表示エリアをスケーリング対象エリアとして選択し、スケーリング対象エリアに表示中の画像に対し、頭部5の前後方向の動きに応じてスケーリング倍率を変更するので、表示画像が誤って拡大又は縮小されるのを防止することができる。
なお、実施の形態1では、カメラ21により撮影された撮影画像が画像表示部12に表示される場合の例について説明した。また、実施の形態2では、地図情報が画像表示部30に表示される場合の例について説明した。本発明は、画像表示部に表示される画像をこれに限定するものではない。例えば、前方の風景などを被写体として撮影するカメラをヘッドセット部10に設け、このカメラにより撮影された画像を画像表示部12の表示エリア126上に表示することにより、ユーザの視界を仮想的に再現させるような構成のものにも本発明は適用することができる。
また、実施の形態1では、加速度センサ3を用いてユーザの頭部5の動きが検知される場合の例について説明した。また、実施の形態2では、カメラ33により撮影された撮影画像を解析して頭部5の動きが検知される場合の例について説明した。本発明は、頭部5の動きを検知する方法をこれに限定するものではない。例えば、コリオリの力を利用して姿勢変化を検出するジャイロセンサを用いて、頭部5の動きを検知するような構成であっても良い。
また、実施の形態1及び2では、画像表示部とコントローラ部とが別体である場合の例について説明したが、本発明は、画像表示装置1の構成をこれに限定するものではない。例えば、画像表示部及びコントローラ部を一体化したものにも本発明は適用することができる。
また、実施の形態1では、ヘッドセット部10及びコントローラ部20が接続ケーブル2を介して接続される場合の例について説明したが、本発明は、ヘッドセット部10及びコントローラ部20間の接続形態をこれに限定するものではない。例えば、近距離無線通信又は赤外線通信などの無線通信により、ヘッドセット部10及びコントローラ部20を接続するような構成であっても良い。
本発明の実施の形態による画像表示装置1の構成と対応する作用効果とを以下に整理してまとめる。
第1の本発明による画像表示装置1は、ユーザの頭部5の動きを検出する頭部検出部211と、ユーザが視認可能な表示エリア126を有し、表示エリア126上に表示画像を表示する画像表示部12と、頭部5の検出結果に基づいて、スケーリング倍率を決定するスケーリング倍率決定部212と、スケーリング倍率に基づいて、表示画像をスケーリングするスケーリング部113とを備え、スケーリング倍率決定部212が、頭部5の前後方向の動きに応じて、スケーリング倍率を変更するように構成される。
この様な構成によれば、ユーザの頭部5の動きを検出し、頭部5の前後方向の動きに応じて表示画像のスケーリング倍率を変更するので、頭部5を前方又は後方へ移動させるだけで、表示エリア126上の表示画像を拡大又は縮小することができる。また、アイコンなどの操作オブジェクトを表示エリア126内に表示する必要がないので、表示範囲が操作オブジェクトの分だけ狭くなるのを防止することができる。
第2の本発明による画像表示装置1は、上記構成に加え、ユーザの視線を検出する視線検出部221と、視線の検出結果に基づいて、表示画像上におけるスケーリング中心SCを決定するスケーリング中心決定部222とを備え、スケーリング部213が、表示画像のスケーリング中心SCを移動させることなく、表示画像をスケーリングするように構成される。この様な構成によれば、ユーザは、視線移動により、スケーリング中心SCを任意に指定することができる。また、スケーリング中心SCを移動させることなく、表示画像をスケーリングするので、表示画像を拡大させた際に、視線位置Pの画像が表示エリア126の外に移動し、視認できなくなるのを防止することができる。
第3の本発明による画像表示装置1は、上記構成に加え、視線が、表示エリア126の中央を含み、端部を含まない倍率変更エリアAE内に属するか否かを判別し、倍率変更エリアAE内であれば、スケーリング倍率の変更を許可する倍率変更許可部223を備え、スケーリング倍率決定部212が、倍率変更が許可されている場合に、スケーリング倍率を変更し、倍率変更が許可されていない場合に、スケーリング倍率を変更しないように構成される。この様な構成によれば、頭部5の動きに連動するスケーリングを視線位置Pが倍率変更エリアAE内に存在する場合に制限することにより、頭部5の動きとスケーリング中心SCとが大きくずれ、酔いが発生するのを抑制することができる。
第4の本発明による画像表示装置1は、上記構成に加え、ユーザの視線を検出する視線検出部421と、視線の検出結果に基づいて、2以上の表示エリア34a〜34cのいずれかをスケーリング対象エリアとして選択する対象エリア選択部422とを備え、スケーリング部413が、スケーリング対象エリアの表示画像をスケーリングするように構成される。この様な構成によれば、ユーザは、視線移動により、スケーリング対象エリアを任意に指定することができる。
第5の本発明による画像表示装置1は、上記構成に加え、対象エリア選択部422が、視線が表示エリア34a〜34cのいずれに属するのかを判別し、同一の表示エリア内に一定時間を超えて視線が属している場合に、当該表示エリアをスケーリング対象エリアとし、視線がスケーリング対象エリアから出た場合に、スケーリング対象エリアの選択を解除するように構成される。この様な構成によれば、同一の表示エリア内に一定時間を超えて視線が属している場合に、当該表示エリアをスケーリング対象エリアとし、スケーリング対象エリアの表示画像をスケーリングすることにより、表示画像が誤って拡大又は縮小されるのを抑制することができる。
1 画像表示装置
10 ヘッドセット部
11 フレーム部
11a レンズ保持部
11b テンプル部
12 画像表示部
12L 左目表示部
12R 右目表示部
121 投影装置
122 投光レンズ
123 プリズム
124 導光板
125 ハーフミラー層
126 表示エリア
20 コントローラ部
21 カメラ
22 タッチパネル
23 操作キー
201 撮影画像記憶部
211 頭部検出部
212 スケーリング倍率決定部
213 スケーリング部
214 表示画像記憶部
215 通信部
221 視線検出部
222 スケーリング中心決定部
223 倍率変更許可部
30 画像表示部
31 投影装置
32 投影スクリーン
33 頭部検知用のカメラ
34 投影エリア
34a〜34c 表示エリア
40 コントローラ部
401 地図情報記憶部
411 頭部検出部
412 スケーリング倍率決定部
413 スケーリング部
414 表示画像記憶部
415 通信部
421 視線検出部
422 対象エリア選択部
2 接続ケーブル
3 加速度センサ
4 視線検知用のカメラ
5 頭部
AE 倍率変更エリア
SC スケーリング中心のデフォルト位置
P 視線位置

Claims (5)

  1. ユーザの頭部の動きを検出する頭部検出手段と、
    上記ユーザが視認可能な表示エリアを有し、上記表示エリア上に表示画像を表示する画像表示手段と、
    上記頭部の検出結果に基づいて、スケーリング倍率を決定するスケーリング倍率決定手段と、
    上記スケーリング倍率に基づいて、上記表示画像をスケーリングするスケーリング手段とを備え、
    上記スケーリング倍率決定手段は、上記頭部の前後方向の動きに応じて、上記スケーリング倍率を変更することを特徴とする画像表示装置。
  2. 上記ユーザの視線を検出する視線検出手段と、
    上記視線の検出結果に基づいて、上記表示画像上におけるスケーリング中心を決定するスケーリング中心決定手段とを備え、
    上記スケーリング手段は、上記表示画像の上記スケーリング中心を移動させることなく、上記表示画像をスケーリングすることを特徴とする請求項1に記載の画像表示装置。
  3. 上記視線が、上記表示エリアの中央を含み、端部を含まない倍率変更エリア内に属するか否かを判別し、上記倍率変更エリア内であれば、上記スケーリング倍率の変更を許可する倍率変更許可手段を備え、
    上記スケーリング倍率決定手段は、倍率変更が許可されている場合に、上記スケーリング倍率を変更し、倍率変更が許可されていない場合に、上記スケーリング倍率を変更しないことを特徴とする請求項2に記載の画像表示装置。
  4. 上記ユーザの視線を検出する視線検出手段と、
    上記視線の検出結果に基づいて、2以上の上記表示エリアのいずれかをスケーリング対象エリアとして選択する対象エリア選択手段とを備え、
    上記スケーリング手段は、上記スケーリング対象エリアの上記表示画像をスケーリングすることを特徴とする請求項1に記載の画像表示装置。
  5. 上記対象エリア選択手段は、上記視線が上記表示エリアのいずれに属するのかを判別し、同一の上記表示エリア内に一定時間を超えて上記視線が属している場合に、当該表示エリアを上記スケーリング対象エリアとし、上記視線が上記スケーリング対象エリアから出た場合に、上記スケーリング対象エリアの選択を解除することを特徴とする請求項4に記載の画像表示装置。
JP2014150369A 2014-07-24 2014-07-24 画像表示装置 Expired - Fee Related JP6339887B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014150369A JP6339887B2 (ja) 2014-07-24 2014-07-24 画像表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014150369A JP6339887B2 (ja) 2014-07-24 2014-07-24 画像表示装置

Publications (2)

Publication Number Publication Date
JP2016024751A true JP2016024751A (ja) 2016-02-08
JP6339887B2 JP6339887B2 (ja) 2018-06-06

Family

ID=55271427

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014150369A Expired - Fee Related JP6339887B2 (ja) 2014-07-24 2014-07-24 画像表示装置

Country Status (1)

Country Link
JP (1) JP6339887B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017168998A1 (ja) * 2016-03-28 2017-10-05 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
WO2018083757A1 (ja) * 2016-11-02 2018-05-11 楽天株式会社 画像提供装置、画像提供方法、プログラム、ならびに、非一時的なコンピュータ読取可能な情報記録媒体
WO2019171834A1 (ja) * 2018-03-08 2019-09-12 株式会社コナミデジタルエンタテインメント 表示制御装置及びプログラム
JP2019184830A (ja) * 2018-04-10 2019-10-24 キヤノン株式会社 画像表示装置、画像表示方法
JP2019531550A (ja) * 2016-06-13 2019-10-31 株式会社ソニー・インタラクティブエンタテインメント 仮想現実環境内の特定のコンテンツに焦点を合わせるためのhmd遷移
JP2020085914A (ja) * 2018-11-14 2020-06-04 株式会社ガゾウ カメラ付き情報端末及プログラム
KR20200064998A (ko) 2017-10-20 2020-06-08 소니 주식회사 재생 장치 및 방법, 그리고 생성 장치 및 방법
US11055923B2 (en) 2018-12-19 2021-07-06 Samsung Electronics Co., Ltd. System and method for head mounted device input
US11906741B2 (en) 2018-11-06 2024-02-20 Nec Corporation Display control device, display control method, and non-transitory computer-readable medium storing program

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05281931A (ja) * 1992-03-31 1993-10-29 Toshiba Corp 表示装置
JPH10320109A (ja) * 1997-05-19 1998-12-04 Canon Inc 表示装置、拡大表示支援方法、および音声化支援方法
JP2006023953A (ja) * 2004-07-07 2006-01-26 Fuji Photo Film Co Ltd 情報表示システム
JP2007134785A (ja) * 2005-11-08 2007-05-31 Konica Minolta Photo Imaging Inc 頭部装着型の映像表示装置
JP2009043003A (ja) * 2007-08-08 2009-02-26 Denso Corp 運転支援装置
JP2010056661A (ja) * 2008-08-26 2010-03-11 Olympus Corp 頭部装着型映像取得表示装置
JP2013093705A (ja) * 2011-10-25 2013-05-16 Olympus Corp 頭部装着型表示装置、プログラム及び画像処理システム
JP2014021596A (ja) * 2012-07-13 2014-02-03 Fujitsu Ltd タブレット端末、操作受付方法および操作受付プログラム
JP2014095953A (ja) * 2012-11-07 2014-05-22 Tokyo Institute Of Technology 操作対象装置の操作システム、操作入力装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05281931A (ja) * 1992-03-31 1993-10-29 Toshiba Corp 表示装置
JPH10320109A (ja) * 1997-05-19 1998-12-04 Canon Inc 表示装置、拡大表示支援方法、および音声化支援方法
JP2006023953A (ja) * 2004-07-07 2006-01-26 Fuji Photo Film Co Ltd 情報表示システム
JP2007134785A (ja) * 2005-11-08 2007-05-31 Konica Minolta Photo Imaging Inc 頭部装着型の映像表示装置
JP2009043003A (ja) * 2007-08-08 2009-02-26 Denso Corp 運転支援装置
JP2010056661A (ja) * 2008-08-26 2010-03-11 Olympus Corp 頭部装着型映像取得表示装置
JP2013093705A (ja) * 2011-10-25 2013-05-16 Olympus Corp 頭部装着型表示装置、プログラム及び画像処理システム
JP2014021596A (ja) * 2012-07-13 2014-02-03 Fujitsu Ltd タブレット端末、操作受付方法および操作受付プログラム
JP2014095953A (ja) * 2012-11-07 2014-05-22 Tokyo Institute Of Technology 操作対象装置の操作システム、操作入力装置

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017168998A1 (ja) * 2016-03-28 2017-10-05 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US11360545B2 (en) 2016-03-28 2022-06-14 Sony Corporation Information processing device, information processing method, and program
US11568604B2 (en) 2016-06-13 2023-01-31 Sony Interactive Entertainment Inc. HMD transitions for focusing on specific content in virtual-reality environments
JP2019531550A (ja) * 2016-06-13 2019-10-31 株式会社ソニー・インタラクティブエンタテインメント 仮想現実環境内の特定のコンテンツに焦点を合わせるためのhmd遷移
WO2018083757A1 (ja) * 2016-11-02 2018-05-11 楽天株式会社 画像提供装置、画像提供方法、プログラム、ならびに、非一時的なコンピュータ読取可能な情報記録媒体
JP6356928B1 (ja) * 2016-11-02 2018-07-11 楽天株式会社 画像提供装置、画像提供方法、プログラム、ならびに、非一時的なコンピュータ読取可能な情報記録媒体
US10783853B2 (en) 2016-11-02 2020-09-22 Rakuten, Inc. Image provision device, method and program that adjusts eye settings based on user orientation
KR20200064998A (ko) 2017-10-20 2020-06-08 소니 주식회사 재생 장치 및 방법, 그리고 생성 장치 및 방법
US11270413B2 (en) 2017-10-20 2022-03-08 Sony Corporation Playback apparatus and method, and generation apparatus and method
JP2019174853A (ja) * 2018-03-08 2019-10-10 株式会社コナミデジタルエンタテインメント 表示制御装置及びプログラム
WO2019171834A1 (ja) * 2018-03-08 2019-09-12 株式会社コナミデジタルエンタテインメント 表示制御装置及びプログラム
JP2019184830A (ja) * 2018-04-10 2019-10-24 キヤノン株式会社 画像表示装置、画像表示方法
JP7121523B2 (ja) 2018-04-10 2022-08-18 キヤノン株式会社 画像表示装置、画像表示方法
US11906741B2 (en) 2018-11-06 2024-02-20 Nec Corporation Display control device, display control method, and non-transitory computer-readable medium storing program
JP2020085914A (ja) * 2018-11-14 2020-06-04 株式会社ガゾウ カメラ付き情報端末及プログラム
JP7157444B2 (ja) 2018-11-14 2022-10-20 株式会社ガゾウ カメラ付き情報端末及プログラム
US11055923B2 (en) 2018-12-19 2021-07-06 Samsung Electronics Co., Ltd. System and method for head mounted device input

Also Published As

Publication number Publication date
JP6339887B2 (ja) 2018-06-06

Similar Documents

Publication Publication Date Title
JP6339887B2 (ja) 画像表示装置
US11449133B2 (en) Information processing apparatus and information processing method
US8441435B2 (en) Image processing apparatus, image processing method, program, and recording medium
US10645374B2 (en) Head-mounted display device and display control method for head-mounted display device
JP5450791B2 (ja) 立体表示装置及び立体撮影装置、並びに利き目判定方法及びこれに用いる利き目判定プログラム並びに記録媒体
JP6479199B2 (ja) 情報処理装置
US10642348B2 (en) Display device and image display method
WO2005043218A1 (ja) 画像表示装置
JP2017102768A (ja) 情報処理装置、表示装置、情報処理方法、及び、プログラム
CN107851423B (zh) 投影型显示装置及投影控制方法
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
US20180316911A1 (en) Information processing apparatus
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
KR20190067523A (ko) 글래스 타입 단말기 및 그것의 동작방법
JP2013148599A (ja) 表示装置
JP2018203245A (ja) 表示システム、電子ミラーシステム及び移動体
JP2013070227A (ja) 頭部装着型表示装置
JP2016126687A (ja) ヘッドマウントディスプレイ、操作受付方法および操作受付プログラム
JP2005313772A (ja) 車両用ヘッドアップ・ディスプレイ装置
JP2012194626A (ja) 表示装置
JP2016197816A (ja) ヘッドマウントディスプレイ及び制御方法
JPWO2018101170A1 (ja) 表示装置、及び、電子ミラー
JP2019008205A (ja) ヘッドマウントディスプレイ装置
JP6304415B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
WO2020171045A1 (ja) ヘッドアップディスプレイ装置、表示制御装置、及び表示制御プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180511

R150 Certificate of patent or registration of utility model

Ref document number: 6339887

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees