JP2013235220A - 画像表示装置、その表示方法、及び表示プログラム - Google Patents

画像表示装置、その表示方法、及び表示プログラム Download PDF

Info

Publication number
JP2013235220A
JP2013235220A JP2012109259A JP2012109259A JP2013235220A JP 2013235220 A JP2013235220 A JP 2013235220A JP 2012109259 A JP2012109259 A JP 2012109259A JP 2012109259 A JP2012109259 A JP 2012109259A JP 2013235220 A JP2013235220 A JP 2013235220A
Authority
JP
Japan
Prior art keywords
image
unit
region
display device
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012109259A
Other languages
English (en)
Other versions
JP5862444B2 (ja
Inventor
Kunimatsu Hashimoto
国松 橋本
Takao Yasuda
貴夫 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2012109259A priority Critical patent/JP5862444B2/ja
Publication of JP2013235220A publication Critical patent/JP2013235220A/ja
Application granted granted Critical
Publication of JP5862444B2 publication Critical patent/JP5862444B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Manipulator (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】撮影画像の視認性を向上させること。
【解決手段】画像表示装置は、所定領域の撮影を行う撮影手段と、撮影手段により撮影される撮影画像を表示画面上に表示する表示手段と、表示手段により表示される表示画面の領域に対して、撮影手段により撮影される撮影画像の領域を相対変化させる画像補正手段と、を備えている。画像補正手段は、表示手段により表示される表示画面の領域に対して、撮影手段により撮影される撮影画像の領域の外縁を相対変化させ、あるいは、相対移動させてもよい。
【選択図】図1

Description

本発明は、表示画面上において撮影画像の視認性を向上させた画像表示装置、その表示方法、及び表示プログラムに関するものである。
例えば、カメラ等により撮影された撮影画像を表示させ、その撮影画像を見てロボットなどの移動体の遠隔操作などが行われており、その撮影画像を表示する様々な表示方法が提案されている。例えば、移動体の後方から見たときの仮想的な視界を生成し、表示する仮想視界生成システムが知られている(特許文献1参照)。
特許第3675787号公報
しかしながら、上記特許文献1に示す仮想視界生成システムにおいては、生成される画像を見ただけでは、直感的かつ容易に、その移動体の移動方向などの状態を把握できるものではなく、その視認性の点で問題が生じている。
本発明は、このような問題点を解決するためになされたものであり、表示画面上において撮影画像の視認性を向上させた画像表示装置、その表示方法、及び表示プログラムを提供することを主たる目的とする。
上記目的を達成するための本発明の一態様は、所定領域の撮影を行う撮影手段と、前記撮影手段により撮影される撮影画像を表示画面上に表示する表示手段と、を備える画像表示装置であって、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させる画像補正手段を備える、ことを特徴とする画像表示装置である。
この一態様において、前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁を相対変化させてもよい。
この一態様において、前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対移動させてもよい。
この一態様において、前記撮影手段は移動体に設けられており、前記移動体は遠隔操作されてもよい。
この一態様において、前記画像補正手段は、前記移動体の状態に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させてもよい。
この一態様において、前記画像補正手段は、前記撮影手段の撮影方向に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させてもよい。
この一態様において、前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記撮影方向側を拡張するように、相対変化させてもよい。
この一態様において、前記撮影画像の領域は略矩形状となっており、前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される略矩形状の撮影画像の領域において、前記撮影方向側の辺を伸張させ、該撮影方向側の辺に対向する辺を収縮させる、台形補正処理を行っても良い。
この一態様において、前記撮影手段はロボットの頭部に設けられており、前記画像補正手段は、前記ロボットの頭部の回転量が増加するに従って、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記首関節が回転する方向側を大きく拡張するように、相対変化させてもよい。
この一態様において、前記移動体の傾斜を検出する傾斜検出手段を更に備え、前記画像補正手段は、前記傾斜検出手段により検出された前記移動体の傾斜に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対移動させてもよい。
この一態様において、前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を、前記傾斜検出手段により検出された前記移動体の傾斜方向へ相対移動させてもよい。
この一態様において、前記移動体の移動方向を検出する方向検出手段を更に備え、前記画像補正手段は、前記方向検出手段により検出された前記移動体の移動方向に応じて、前記表示手段により表示される表示画面の領域に対して前記撮影手段により撮影される撮影画像の領域を相対移動させてもよい。
この一態様において、前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を、前記方向検出手段により検出された前記移動体の移動方向に相対移動させてもよい。
この一態様において、前記移動体の移動速度を検出する速度検出手段を更に備え、前記画像補正手段は、前記速度検出手段により検出された移動体の移動速度に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させてもよい。
この一態様において、前記画像補正手段は、速度検出手段により検出される移動体の移動速度が増加するに従って、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記移動体の移動方向側を大きく拡張するように、相対変化させてもよい。
この一態様において、前記移動体の移動加速度を検出する加速度検出手段を更に備え、前記画像補正手段は、前記加速度検出手段により検出された移動体の移動加速度に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させてもよい。
この一態様において、前記画像補正手段は、加速度検出手段により検出される移動体の移動加速度が増加するに従って、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記移動体の移動方向側を大きく拡張するように、相対変化させてもよい。
この一態様において、前記撮影手段は、前記移動体に上下方向へ移動可能に設けられており、前記撮影手段の高さ位置を検出する位置検出手段を更に備え、前記画像補正手段は、前記位置検出手段により検出された前記撮影手段の高さ位置に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対移動させてもよい。
他方、上記目的を達成するための本発明の一態様は、所定領域の撮影を行うステップと、前記撮影された撮影画像を表示画面上に表示するステップと、前記表示される表示画面の領域に対して、前記撮影された撮影画像の領域を相対変化させるステップと、を含む、ことを特徴とする画像表示装置の表示方法であってもよい。
また、上記目的を達成するための本発明の一態様は、撮影画像を表示画面上に表示する処理と、前記表示される表示画面の領域に対して、前記撮影された撮影画像の領域を相対変化させる処理と、をコンピュータに実行させる、ことを特徴とする画像表示装置の表示プログラムであってもよい。
本発明によれば、表示画面上において撮影画像の視認性を向上させた画像表示装置、その表示方法、及び表示プログラムを提供することができる。
本発明の実施の形態に係る画像表示装置の概略的なシステム構成を示すブロック図である。 (a)視線が水平方向を向いている場合のロボットの状態を示す図である。(b)ロボットの視線が水平方向を向いている場合の撮影画像領域を示す図である。 (a)視線が上方を向いている場合のロボットの状態を示す図である。(b)ロボットの視線が上方を向いている場合の撮影画像領域を示す図である。 (a)視線が下方を向いている場合のロボットの状態を示す図である。(b)ロボットの視線が下方を向いている場合の撮影画像領域を示す図である。 (a)視線が左方を向いている場合のロボットの状態を示す図である。(b)ロボットの視線が左方を向いている場合の撮影画像領域を示す図である。 (a)視線が右方を向いている場合のロボットの状態を示す図である。(b)ロボットの視線が右方を向いている場合の撮影画像領域を示す図である。 本発明の実施の形態1に係る画像表示装置の処理フローの一例を示すフローチャートである。 本発明の実施の形態2に係る画像表示装置の概略的なシステム構成を示すブロック図である。 (a)上方を向いて傾斜している場合のロボットの状態を示す図である。(b)ロボットが上方を向いて傾斜している場合の撮影画像領域を示す図である。 (a)下方を向いて傾斜している場合のロボットの状態を示す図である。(b)ロボットが下方を向いて傾斜している場合の撮影画像領域を示す図である。 (a)左方へ傾斜している場合のロボットの状態を示す図である。(b)ロボットが左方へ傾斜している場合の撮影画像領域を示す図である。 (a)右方へ傾斜している場合のロボットの状態を示す図である。(b)ロボットが右方へ傾斜している場合の撮影画像領域を示す図である。 本発明の実施の形態2に係る画像表示装置の処理フローの一例を示すフローチャートである。 本発明の実施の形態3に係る画像表示装置の概略的なシステム構成を示すブロック図である。 ロボットが左方へ移動している場合の撮影画像領域を示す図である。 ロボットが右方へ移動している場合の撮影画像領域を示す図である。 ロボットが上昇している場合の撮影画像領域を示す図である。 ロボットが下降している場合の撮影画像領域を示す図である。 ロボットが右方向へ移動しつつ上昇している場合の撮影画像領域を示す図である。 実施の形態1と実施の形態2とを組み合わせた画像表示装置のシステム構成を示すブロック図である。
実施の形態1.
以下、図面を参照して本発明の実施の形態について説明する。図1は、本発明の実施の形態1に係る画像表示装置の概略的なシステム構成を示すブロック図である。本実施の形態1に係る画像表示装置10は、カメラ11と、姿勢制御部12と、カメラ画像補正部13と、表示装置14と、を備えている。
カメラ11は、例えば、CCD(Charge Coupled Device)カメラ、CMOS(Complementary Metal Oxide Semiconductor)カメラであり、所定領域の撮影を行うことができる。カメラ11は、例えば、ロボットの頭部などに設けられており、ロボットの視覚として機能する。また、ロボットは、複数の関節部(首関節など)を含み、各関節部や車輪などを回転駆動することで、任意の方向へ移動可能なヒューマノイドロボットなどの移動体として構成されている。カメラ11は、撮影した所定領域の撮影画像をカメラ画像補正部13に対して出力する。
姿勢制御部12は、例えば、ロボットの各関節の回転駆動を制御することで、ロボットの姿勢を制御することができる。例えば、姿勢制御部12は、無線或いは有線などを介して入力されるユーザからの操作情報に基づいて、ロボットの各関節のアクチュエータ15を制御し、ロボットの動作を制御する。ユーザは、表示装置14に表示されたカメラ11の撮影画像を見て、ロボットを遠隔操作することができる。
姿勢制御部12は、例えば、ロボットの首関節に設けられたアクチュエータ15を介して、ロボットの首関節の回転駆動を制御することで、カメラ11の撮影方向を制御することができる。そのとき、姿勢制御部12は、ロボットの首関節の回転角度をカメラ画像補正部13に対して出力する。なお、上記ロボットの首関節の回転角度は、ロボットの首関節に設けられた回転センサ16から姿勢制御部12を介してカメラ画像補正部13に対して出力されているが、回転センサ16からカメラ画像補正部13に直接的に出力されてもよい。
カメラ画像補正部13は、姿勢制御部12から出力されるロボットの首関節の回転角度に基づいて、カメラ11から出力される撮影画像に対して補正処理を行う。カメラ画像補正部13は、例えば、ロボットの姿勢に応じたロボットの首関節の回転角度に基づいて、カメラ11の撮影画像の台形補正処理を行う。
表示装置14は、カメラ画像補正部13により台形補正処理された撮影画像の領域を表示画面の領域上に表示させる。ここで、上記撮影画像に対して台形補正処理を行うことで、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域の外縁が変化する。表示装置14は、例えば、液晶ディスプレイ装置、有機或いは無機ELディスプレイ装置などにより構成されている。
画像表示装置10は、例えば、演算処理等を行うCPU(Central Processing Unit)、CPUによって実行される演算プログラム等が記憶されたROM(Read Only Memory)、処理データ等を一時的に記憶するRAM(Random Access Memory)等からなるマイクロコンピュータを、中心にしてハードウェア構成されている。CPU、ROM、及びRAMは、データバスなどを介して相互に接続されている。
ところで、従来、ロボットの遠隔操作等を行う場合、そのロボットのカメラにより撮影された撮影画像を見て、そのロボットの状態(ロボットの傾斜方向や視線方向など)を直感的に把握するのは困難となっていた。
そこで、本実施の形態1に係る画像表示装置10において、カメラ画像補正部13は、例えば、ロボットの視線方向に応じてカメラ11の撮影画像に対して台形補正処理を行う。
これにより、ロボットの視線方向に応じて、表示装置14により表示される表示画面の領域(以下、表示画面領域と称す)に対してカメラ11により撮影された撮影画像の領域(以下、撮影画像領域と称す)の外縁が変化する。したがって、ユーザは、その撮影画像領域の外縁変化を見るだけで、そのロボットの状態(ロボットの視線方向など)を直感的かつ容易に把握することができる。すなわち、表示画面上においてロボットのカメラ11により撮影された撮影画像の視認性を向上させることができる。
次に、上述したカメラ画像補正部による台形補正処理の一例について、図2乃至図6を参照して詳細に説明する。
(1)ロボット100の視線が水平方向の場合(図2(a))
カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、カメラ11から出力される撮影画像に対して台形補正処理を行わない。この場合、図2(b)に示すように、表示装置14により表示される矩形状の表示画面領域Xの略中央に、矩形状の撮影画像領域Yは少し小さく表示される。
(2)ロボット100の視線が上方を向いている場合(図3(a))
カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、カメラ11から出力される撮影画像に対して台形補正処理を行う。カメラ画像補正部13は、この台形補正処理において、例えば、図3(b)に示すように、撮影画像領域Yの上辺Y1を伸張させ、下辺Y2を収縮させる補正処理を行う。これにより、撮影画像の上方側が拡張しより強調されることから、ユーザはロボット100の視線が上方を向いていることを直感的かつ容易に把握できる。
(3)ロボット100の視線が下方を向いている場合(図4(a))
カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、カメラ11から出力される撮影画像に対して台形補正処理を行う。カメラ画像補正部13は、この台形補正処理において、例えば、図4(b)に示すように、撮影画像領域Yの上辺Y1を収縮させ、下辺Y2を伸張させる補正処理を行う。これにより、撮影画像の下方側が拡張しより強調されることから、ユーザはロボット100の視線が下方を向いていることを直感的かつ容易に把握できる。
(4)ロボット100の視線が左方を向いている場合(図5(a))
カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、カメラ11から出力される撮影画像に対して台形補正処理を行う。カメラ画像補正部13は、この台形補正処理において、例えば、図5(b)に示すように、撮影画像領域Yの左辺Y3を伸張させ、右辺Y4を収縮させる補正処理を行う。これにより、撮影画像の左方側が拡張しより強調されることから、ユーザはロボット100の視線が左方を向いていることを直感的かつ容易に把握できる。
(5)ロボット100の視線が右方を向いている場合(図6(a))
カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、カメラ11から出力される撮影画像に対して台形補正処理を行う。カメラ画像補正部13は、この台形補正処理において、例えば、図6(b)に示すように、撮影画像領域Yの右辺Y4を伸張させ、左辺Y3を収縮させる補正処理を行う。これにより、撮影画像の右方側が拡張しより強調されることから、ユーザはロボット100の視線が右方を向いていることを直感的かつ容易に把握できる。
なお、カメラ画像補正部13は、撮影画像の台形補正処理を行なっているが、これに限らず、ロボット100の視線方向を強調するような任意の形状に補正処理を行ってもよい。また、撮影画像領域Yは、通常、矩形状となっているが、これに限らず、例えば、円形、楕円形などの任意の形状であってもよい。例えば、撮影画像領域Yが円形状である場合、カメラ画像補正部13は、ロボット100の首関節の回転角度に基づいて、円形状の撮影画像領域においてロボット100の視線方向側を拡張するような補正処理を行ってもよい。
なお、カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度が増加するに従って、撮影画像領域Yを大きく変形しても良い。例えば、カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の左方向の回転角度が増加するに従って、撮影画像領域Yの左辺Y3を大きく伸張し、右辺Y4を大きく収縮する台形補正処理を行う。これにより、ユーザはロボット100の視線方向だけでなく、その向いている量も直感的かつ容易に把握することができる。
次に、本実施の形態に係る画像表示装置の処理フローについて詳細に説明する。図7は、本実施の形態1に係る画像表示装置の処理フローの一例を示すフローチャートである。
まず、カメラ11は所定領域の撮影を行い(ステップS101)、撮影した所定領域の撮影画像をカメラ画像補正部13に対して出力する。
姿勢制御部12は、ロボット100の首関節の回転駆動を制御し、そのときのロボット100の首関節の回転角度をカメラ画像補正部13に対して出力する(ステップS102)。
次に、カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、ロボット100の視線が水平方向、上方向、及び下方向のうちいずれを向いているか判断する(ステップS103)。
カメラ画像補正部13は、ロボット100の視線が上方向と判断したとき、撮影画像領域Yの上辺Y1を伸張させ、下辺Y2を収縮させる台形補正処理を行い(ステップS104)、下記(ステップS106)に移行する。カメラ画像補正部13は、ロボット100の視線が下方向と判断したとき、撮影画像領域Yの下辺Y2を伸張させ、上辺Y1を収縮させる台形補正処理を行い(ステップS105)、下記(ステップS106)に移行する。カメラ画像補正部13は、ロボット100の視線が水平方向と判断したとき、撮影画像領域に対して台形補正処理を行わずに、下記(ステップS106)に移行する。
さらに、カメラ画像補正部13は、姿勢制御部12から出力されるロボット100の首関節の回転角度に基づいて、ロボット100の視線方向が左方、及び右方のうちいずれを向いているか判断する(ステップS106)。
カメラ画像補正部13は、ロボット100の視線方向が左方と判断したとき、撮影画像領域Yの左辺Y3を伸張させ、右辺Y4を収縮させる台形補正処理を行い(ステップS107)、下記(ステップS109)に移行する。カメラ画像補正部13は、ロボット100の視線方向が右方と判断したとき、撮影画像領域Yの右辺Y4を伸張させ、左辺Y3を収縮させる台形補正処理を行い(ステップS108)、下記(ステップS109)に移行する。カメラ画像補正部13は、ロボット100の視線が真直ぐ状態であると判断したとき、撮影画像領域Yに対して台形補正処理を行わずに、下記(ステップS109)に移行する。
表示装置14は、カメラ画像補正部13により台形補正処理された撮影画像領域Yを表示画面領域X上に表示させる(ステップS109)。
以上、本実施の形態1に係る画像表示装置10において、ロボットの視線方向に応じてカメラ11の撮影画像に対して台形補正処理を行う。これにより、ロボットの視線に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域の外縁が変化する。したがって、ユーザは、その撮影画像領域の外縁変化を見るだけで、そのロボットの視線方向を直感的かつ容易に把握することができる。すなわち、表示画面上において撮影画像の視認性を向上させることができる。
なお、上記実施の形態1において、ロボット100の視線方向に応じて表示装置14の表示画面領域Xに対してカメラ11の撮影画像領域Yの外縁を変化させる補正を行っているが、ロボット100の移動速度あるいは移動加速度に応じて、表示装置14の表示画面領域Xに対してカメラ11の撮影画像領域Yの外縁を変化させる補正を行ってもよい。
例えば、カメラ画像補正部13は、速度センサ(速度検出手段の一具体例)により検出されたロボットの移動速度に基づいて、撮影画像領域の移動方向側を移動速度に比例して拡張するような補正を行ってもよい。これにより、ユーザは、ロボットの移動方向だけでなく、移動速度も直感的かつ容易に把握することができる。
また、カメラ画像補正部13は、加速度センサ(加速度検出手段の一具体例)により検出されたロボットの移動加速度に基づいて、撮影画像領域の移動方向側を移動加速度に比例して拡張するような補正を行ってもよい。これにより、ユーザは、ロボットの移動方向だけでなく、移動加速度も直感的かつ容易に把握することができる。
実施の形態2.
本発明の実施の形態2に係る画像表示装置20は、ロボットの傾斜方向に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域を相対移動させる補正処理を行う点で、上記実施の形態1に係る画像表示装置10と相違する。
図8は、本実施の形態2に係る画像表示装置の概略的なシステム構成を示すブロック図である。本実施の形態2に係る画像表示装置20は、カメラ11と、傾斜センサ21と、表示画像生成部22と、表示装置14と、を備えている。
傾斜センサ21は、ロボットに搭載されており、ロボットの傾斜角度を検出することができる。傾斜センサ21は、例えば、ジャイロセンサなどから構成されており、検出したロボットの傾斜角度を表示画像生成部22に対して出力する。表示画像生成部22は、画像補正手段の一具体例であり、カメラ11からの撮影画像と、傾斜センサ21からのロボットの傾斜角度と、に基づいて、表示装置14の表示画面領域に対してカメラ11の撮影画像領域を相対移動させる補正処理(相対移動補正処理)を行う。なお、本実施の形態2において、上記実施の形態1と同一部分に同一符号を付して詳細な説明は省略する。
次に、上述した表示画像生成部による相対移動補正処理の一例について、図9乃至図12を参照して詳細に説明する。
(1)ロボット100が上方を向いて傾斜(昇り坂など)している場合(図9(a))
表示画像生成部22は、カメラ11からの撮影画像と、傾斜センサ21からのロボット100の傾斜角度と、に基づいて、例えば、図9(b)に示すように、表示画面領域Xに対して撮影画像領域Yを上方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが上方に寄っていることから、ユーザはロボット100が上方に傾斜していることを直感的かつ容易に把握できる。
(2)ロボット100が下方を向いて傾斜(下り坂など)している場合(図10(a))
表示画像生成部22は、カメラ11からの撮影画像と、傾斜センサ21からのロボット100の傾斜角度と、に基づいて、例えば、図10(b)に示すように、表示画面領域Xに対して撮影画像領域Yを下方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが下方に寄っていることから、ユーザはロボット100が下方に傾斜していることを直感的かつ容易に把握できる。
(3)ロボット100が左方へ傾斜(左斜面など)している場合(図11(a))
表示画像生成部22は、カメラ11からの撮影画像と、傾斜センサ21からのロボット100の傾斜角度と、に基づいて、例えば、図11(b)に示すように、表示画面領域Xに対して撮影画像領域Yを左方へ回転移動させる補正処理を行う。これにより、撮影画像領域Yが左方へ回転していることから、ユーザはロボット100が左方へ傾斜していることを直感的かつ容易に把握できる。
(4)ロボット100が右方へ傾斜(右斜面など)している場合(図12(a))
表示画像生成部22は、カメラ11からの撮影画像と、傾斜センサ21からのロボット100の傾斜角度と、に基づいて、例えば、図12(b)に示すように、表示画面領域Xに対して撮影画像領域Yを右方へ回転移動させる補正処理を行う。これにより、撮影画像領域Yが右方へ回転していることから、ユーザはロボット100が右方へ傾斜していることを直感的かつ容易に把握できる。
なお、表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度が増加するに従って、表示画面領域Xに対して撮影画像領域Yを相対移動させる移動量を増加させてもよい。これにより、ユーザはロボット100が傾斜方向だけでなく、その傾斜量も直感的かつ容易に把握できる。
次に、本実施の形態2に係る画像表示装置の処理フローについて詳細に説明する。図13は、本実施の形態2に係る画像表示装置の処理フローの一例を示すフローチャートである。
まず、カメラ11は所定領域の撮影を行い(ステップS201)、撮影した所定領域の撮影画像を表示画像生成部22に対して出力する。
次に、傾斜センサ21は、ロボット100の傾斜角度を検出し、検出したロボット100の傾斜角度を表示画像生成部22に対して出力する(ステップS202)。
その後、表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度と、に基づいて、ロボット100が上方及び下方のうちいずれの方向に傾斜しているかを判断する(ステップS203)。
表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が上方を向いて傾斜(図9(a))していると判断したとき、表示画面領域Xに対して撮影画像領域Yを上方へ相対移動させる補正処理(図9(b))を行い(ステップS204)、下記(ステップS206)に移行する。表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が下方を向いて傾斜(図10(a))していると判断したとき、表示画面領域Xに対して撮影画像領域Yを下方へ相対移動させる補正処理(図10(b))を行い(ステップS205)、下記(ステップS206)に移行する。表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が水平状態であると判断したとき、撮影画像領域Yに対して相対移動処理を行わず下記(ステップS206)に移行する。
さらに、表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が左方及び下右のうちいずれの方向に傾斜しているかを判断する(ステップS206)。
表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が左方へ傾斜(図11(a))していると判断したとき、表示画面領域Xに対して撮影画像領域Yを左方へ相対移動させる補正処理(図11(b))を行い(ステップS207)、下記(ステップS209)に移行する。表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が右方へ傾斜(図12(a))していると判断したとき、表示画面領域Xに対して撮影画像領域Yを右方へ相対移動させる補正処理(図12(b))を行い(ステップS208)、下記(ステップS209)に移行する。表示画像生成部22は、傾斜センサ21からのロボット100の傾斜角度に基づいて、ロボット100が水平状態であると判断したとき、撮影画像領域Yに対して相対移動処理を行わず下記(ステップS209)に移行する。
表示装置14は、表示画像生成部22により相対移動処理された撮影画像領域Yを表示画面領域X上に表示させる(ステップS209)。
以上、本実施の形態2に係る画像表示装置20において、ロボットの傾斜方向に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域を相対移動させる補正処理を行う。これにより、ロボットの傾斜方向に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域が相対移動する。したがって、ユーザは、その撮影画像領域の相対移動を見るだけで、そのロボットの傾斜方向を直感的かつ容易に把握することができる。すなわち、ロボットの撮影画像の視認性を向上させることができる。
実施の形態3.
本発明の実施の形態3に係る画像表示装置30は、ロボットの移動方向に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域が相対移動させる補正処理を行う点で、上記実施の形態2に係る画像表示装置20と相違する。
図14は、本実施の形態3に係る画像表示装置の概略的なシステム構成を示すブロック図である。本実施の形態3に係る画像表示装置30は、カメラ11と、方向センサ31と、表示画像生成部32と、表示装置14と、を備えている。
方向センサ31は、方向検出手段の一具体例であり、ロボットの移動方向を検出することができる。方向センサ31は、例えば、速度センサ33により検出されたロボットの移動速度や加速度センサ34により検出されたロボットの移動加速度などに基づいて、ロボットの移動方向を検出する。方向センサ31は、検出したロボットの移動方向を表示画像生成部32に対して出力する。
表示画像生成部32は、画像補正手段の一具体例であり、カメラ11からの撮影画像と、方向センサ31からのロボットの移動方向と、に基づいて、表示画面領域に対して撮影画像領域を相対移動させる補正処理を行う。なお、本実施の形態3において、上記実施の形態1及び2と同一部分に同一符号を付して詳細な説明は省略する。
次に、上述した表示画像生成部による相対移動処理の一例について、図15乃至図19を参照して詳細に説明する。
(1)ロボット100が左方へ移動(左カーブなど)している場合
表示画像生成部32は、カメラ11からの撮影画像と、方向センサ31からのロボット100の移動方向と、に基づいて、例えば、図15に示すように、表示画面領域Xに対して撮影画像領域Yを左方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが左方へ寄っていることから、ユーザはロボット100が左方へ移動していることを直感的かつ容易に把握できる。
(2)ロボット100が右方へ移動(右カーブなど)している場合
表示画像生成部32は、カメラ11からの撮影画像と、方向センサ31からのロボット100の移動方向と、に基づいて、例えば、図16に示すように、表示画面領域Xに対して撮影画像領域Yを右方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが右方へ寄っていることから、ユーザはロボット100が右方へ移動していることを直感的かつ容易に把握できる。
(3)ロボット100が上昇している場合
表示画像生成部32は、カメラ11からの撮影画像と、方向センサ31からのロボット100の移動方向と、に基づいて、例えば、図17に示すように、表示画面領域Xに対して撮影画像領域Yを上方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが上方に寄っていることから、ユーザはロボット100が上昇していることを直感的かつ容易に把握できる。
(4)ロボット100が下降している場合
表示画像生成部32は、カメラ11からの撮影画像と、方向センサ31からのロボット100の移動方向と、に基づいて、例えば、図18に示すように、表示画面領域Xに対して撮影画像領域Yを下方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが下方に寄っていることから、ユーザはロボット100が下降していることを直感的かつ容易に把握できる。
(5)ロボット100が右方向へ移動しつつ上昇している場合
表示画像生成部32は、カメラ11からの撮影画像と、方向センサ31からのロボット100の移動方向と、に基づいて、例えば、図19に示すように、表示画面領域Xに対して撮影画像領域Yを右斜め上方へ相対移動させる補正処理を行う。これにより、撮影画像領域Yが右斜め上方に寄っていることから、ユーザはロボット100が右方向へ移動しつつ上昇していることを直感的かつ容易に把握できる。
以上、実施の形態3に係る画像表示装置30において、ロボットの移動方向に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域を相対移動させる補正処理を行う。これにより、ロボットの移動方向に応じて、表示装置14により表示される表示画面領域に対してカメラ11により撮影された撮影画像領域が相対移動する。したがって、ユーザは、その撮影画像領域の相対移動を見るだけで、そのロボットの移動方向を直感的かつ容易に把握することができる。すなわち、表示画面上においてロボットの撮影画像の視認性を向上させることができる。
上記実施の形態3において、ロボット100の移動方向に応じて、表示装置14の表示画面領域Xに対してカメラ11の撮影画像領域Yが相対移動させる補正処理を行っているが、ロボット100の視線の高さ位置に応じて、表示装置14の表示画像領域Xに対してカメラ11の撮影画像領域Yを相対移動させる補正処理を行ってもよい。
例えば、表示画像生成部32は、位置センサ(位置検出手段の一具体例)により検出されたカメラ11の高さ位置に基づいて、カメラ11が上方へ移動すると表示画像領域Xに対して撮影画像領域Yを上方へ相対移動させる補正処理を行なう。一方、表示画像生成部32は、位置センサにより検出されたカメラ11の高さ位置に基づいて、カメラ11が下方へ移動すると表示画像領域Xに対して撮影画像領域Yを下方へ相対移動させる補正処理を行なう。なお、例えば、カメラ11は、昇降機構により上下方向へ移動するロボット100の頭部に設けられており、位置センサは、昇降機構の昇降軸などに設けられている。
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
例えば、上記実施の形態1乃至3を任意に組み合わせて構成することが可能である。図20は、例えば、実施の形態1と実施の形態2とを組み合わせた画像表示装置のシステム構成を示すブロック図である。
上記実施の形態において、通常の画像から上記台形補正処理及び相対移動補正処理後の画像を表示させる間にその過渡状態を表わす複数の中間画像を表示させてもよい。これにより、表示画面の急激な切替えを抑制できるため、表示画面の視認性がより向上する。
上記実施の形態において、画像表示装置10、20、30がロボットに適用される場合について説明したが、これに限らず、例えば、自動車や飛行体などの任意の移動体、さらに、テレビ、ビデオ、ゲーム、ヘッドマウントディスプレイ、PC、タブレット端末、携帯端末、など撮影画像を表示する任意の装置に適用可能である。
また、本発明は、例えば、上記図7及び図13に示す処理を、CPUにコンピュータプログラムを実行させることにより実現することも可能である。
プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)、CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。
また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
10、20、30 画像表示装置
11 カメラ
12 姿勢制御部
13 カメラ画像補正部
14 表示装置
15 アクチュエータ
16 回転センサ
21 傾斜センサ
22、32 表示画像生成部
31 方向センサ
100 ロボット

Claims (20)

  1. 所定領域の撮影を行う撮影手段と、
    前記撮影手段により撮影される撮影画像を表示画面上に表示する表示手段と、を備える画像表示装置であって、
    前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させる画像補正手段を備える、ことを特徴とする画像表示装置。
  2. 請求項1又は2記載の画像表示装置であって、
    前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁を相対変化させる、ことを特徴とする画像表示装置。
  3. 請求項1記載の画像表示装置であって、
    前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対移動させる、ことを特徴とする画像表示装置。
  4. 請求項1乃至3のうちいずれか1項記載の画像表示装置であって、
    前記撮影手段は移動体に設けられており、
    前記移動体は遠隔操作される、ことを特徴とする画像表示装置。
  5. 請求項4記載の画像表示装置であって、
    前記画像補正手段は、前記移動体の状態に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させる、ことを特徴とする画像表示装置。
  6. 請求項4又は5記載の画像表示装置であって、
    前記画像補正手段は、前記撮影手段の撮影方向に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させる、ことを特徴とする画像表示装置。
  7. 請求項6記載の画像表示装置であって、
    前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記撮影方向側を拡張するように、相対変化させる、ことを特徴とする画像表示装置。
  8. 請求項7記載の画像表示装置であって、
    前記撮影画像の領域は略矩形状となっており、
    前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される略矩形状の撮影画像の領域において、前記撮影方向側の辺を伸張させ、該撮影方向側の辺に対向する辺を収縮させる、台形補正処理を行う、ことを特徴とする画像表示装置。
  9. 請求項7又は8記載の画像表示装置であって、
    前記撮影手段はロボットの頭部に設けられており、
    前記画像補正手段は、前記ロボットの頭部の回転量が増加するに従って、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記首関節が回転する方向側を大きく拡張するように、相対変化させる、ことを特徴とする画像表示装置。
  10. 請求項4又は5記載の画像表示装置であって、
    前記移動体の傾斜を検出する傾斜検出手段を更に備え、
    前記画像補正手段は、前記傾斜検出手段により検出された前記移動体の傾斜に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対移動させる、ことを特徴とする画像表示装置。
  11. 請求項10記載の画像表示装置であって、
    前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を、前記傾斜検出手段により検出された前記移動体の傾斜方向へ相対移動させる、ことを特徴とする画像表示装置。
  12. 請求項4又は5記載の画像表示装置であって、
    前記移動体の移動方向を検出する方向検出手段を更に備え、
    前記画像補正手段は、前記方向検出手段により検出された前記移動体の移動方向に応じて、前記表示手段により表示される表示画面の領域に対して前記撮影手段により撮影される撮影画像の領域を相対移動させる、ことを特徴とする画像表示装置。
  13. 請求項12記載の画像表示装置であって、
    前記画像補正手段は、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を、前記方向検出手段により検出された前記移動体の移動方向に相対移動させる、ことを特徴とする画像表示装置。
  14. 請求項4又は5記載の画像表示装置であって、
    前記移動体の移動速度を検出する速度検出手段を更に備え、
    前記画像補正手段は、前記速度検出手段により検出された移動体の移動速度に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させる、ことを特徴とする画像表示装置。
  15. 請求項14記載の画像表示装置であって、
    前記画像補正手段は、速度検出手段により検出される移動体の移動速度が増加するに従って、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記移動体の移動方向側を大きく拡張するように、相対変化させる、ことを特徴とする画像表示装置。
  16. 請求項4又は5記載の画像表示装置であって、
    前記移動体の移動加速度を検出する加速度検出手段を更に備え、
    前記画像補正手段は、前記加速度検出手段により検出された移動体の移動加速度に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対変化させる、ことを特徴とする画像表示装置。
  17. 請求項14記載の画像表示装置であって、
    前記画像補正手段は、加速度検出手段により検出される移動体の移動加速度が増加するに従って、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域の外縁において、前記移動体の移動方向側を大きく拡張するように、相対変化させる、ことを特徴とする画像表示装置。
  18. 請求項4又は5記載の画像表示装置であって、
    前記撮影手段は、前記移動体に上下方向へ移動可能に設けられており、
    前記撮影手段の高さ位置を検出する位置検出手段を更に備え、
    前記画像補正手段は、前記位置検出手段により検出された前記撮影手段の高さ位置に応じて、前記表示手段により表示される表示画面の領域に対して、前記撮影手段により撮影される撮影画像の領域を相対移動させる、ことを特徴とする画像表示装置。
  19. 所定領域の撮影を行うステップと、
    前記撮影された撮影画像を表示画面上に表示するステップと、
    前記表示される表示画面の領域に対して、前記撮影された撮影画像の領域を相対変化させるステップと、
    を含む、ことを特徴とする画像表示装置の表示方法。
  20. 撮影画像を表示画面上に表示する処理と、
    前記表示される表示画面の領域に対して、前記撮影された撮影画像の領域を相対変化させる処理と、
    をコンピュータに実行させる、ことを特徴とする画像表示装置の表示プログラム。
JP2012109259A 2012-05-11 2012-05-11 画像表示装置、その表示方法、及び表示プログラム Expired - Fee Related JP5862444B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012109259A JP5862444B2 (ja) 2012-05-11 2012-05-11 画像表示装置、その表示方法、及び表示プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012109259A JP5862444B2 (ja) 2012-05-11 2012-05-11 画像表示装置、その表示方法、及び表示プログラム

Publications (2)

Publication Number Publication Date
JP2013235220A true JP2013235220A (ja) 2013-11-21
JP5862444B2 JP5862444B2 (ja) 2016-02-16

Family

ID=49761360

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012109259A Expired - Fee Related JP5862444B2 (ja) 2012-05-11 2012-05-11 画像表示装置、その表示方法、及び表示プログラム

Country Status (1)

Country Link
JP (1) JP5862444B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017034479A (ja) * 2015-07-31 2017-02-09 キヤノン株式会社 制御装置、再生システム、補正方法、及び、コンピュータプログラム
JP2019148555A (ja) * 2018-02-28 2019-09-05 Necプラットフォームズ株式会社 位置推定装置、位置推定方法及びプログラム
JP2020520591A (ja) * 2017-05-05 2020-07-09 アウディ アクチェンゲゼルシャフトAudi Ag 移動体内で使用可能な頭部装着型の視覚的出力デバイスのためのモバイルセンサ装置および表示システムならびにそれを動作させるための方法
US10853962B2 (en) 2018-02-22 2020-12-01 Panasonic Intellectual Property Management Co., Ltd. Device, system, and method of determining reclining state

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1139035A (ja) * 1997-07-16 1999-02-12 Fujitsu Ltd ロボット遠隔制御システム
JP2006168699A (ja) * 2004-11-22 2006-06-29 Nagano Kogaku Kenkyusho:Kk 車両の監視画像の表示方法
JP2010283529A (ja) * 2009-06-03 2010-12-16 Canon Inc 表示制御装置、表示装置の制御方法、プログラム、記憶媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1139035A (ja) * 1997-07-16 1999-02-12 Fujitsu Ltd ロボット遠隔制御システム
JP2006168699A (ja) * 2004-11-22 2006-06-29 Nagano Kogaku Kenkyusho:Kk 車両の監視画像の表示方法
JP2010283529A (ja) * 2009-06-03 2010-12-16 Canon Inc 表示制御装置、表示装置の制御方法、プログラム、記憶媒体

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017034479A (ja) * 2015-07-31 2017-02-09 キヤノン株式会社 制御装置、再生システム、補正方法、及び、コンピュータプログラム
JP2020520591A (ja) * 2017-05-05 2020-07-09 アウディ アクチェンゲゼルシャフトAudi Ag 移動体内で使用可能な頭部装着型の視覚的出力デバイスのためのモバイルセンサ装置および表示システムならびにそれを動作させるための方法
US10853962B2 (en) 2018-02-22 2020-12-01 Panasonic Intellectual Property Management Co., Ltd. Device, system, and method of determining reclining state
JP2019148555A (ja) * 2018-02-28 2019-09-05 Necプラットフォームズ株式会社 位置推定装置、位置推定方法及びプログラム

Also Published As

Publication number Publication date
JP5862444B2 (ja) 2016-02-16

Similar Documents

Publication Publication Date Title
US10375312B2 (en) Imaging device and video generation method by imaging device
JP5862444B2 (ja) 画像表示装置、その表示方法、及び表示プログラム
WO2007055336A1 (ja) 画像処理装置、画像処理方法、そのプログラム及びそのプログラムを記録した記録媒体と撮像装置
US9973690B2 (en) Imaging device, imaging method, and computer-readable recording medium
CN103108170A (zh) 一种视频监控云台控制方法和装置
JP5322287B2 (ja) 回転台付カメラ装置
JP2008311804A (ja) 撮像装置および撮像方法
JP2011071919A (ja) 周囲画像提示装置及び操作支援システム
US10096339B2 (en) Display apparatus and control method thereof
US20170262163A1 (en) Apparatus, method and storage medium for correcting page image
JP6101432B2 (ja) プロジェクタ
JP6685742B2 (ja) 操作装置、移動装置、およびその制御システム
JP5919570B2 (ja) 画像表示装置及び画像表示方法
KR102104406B1 (ko) 패닝 및 틸팅을 수행하는 감시 카메라
WO2016157951A1 (ja) 表示制御装置、表示制御方法および記録媒体
CN106293065A (zh) 应用程序的控制方法及控制系统
JP2023030142A (ja) 画像処理装置、制御方法、プログラム
JP5763978B2 (ja) 制御装置、制御装置の制御方法
JP2013012930A (ja) 全方位撮像装置、及びその制御方法
JP2015139124A (ja) 画像生成装置、画像生成システム、画像生成方法、及びプログラム
JP6188369B2 (ja) 撮像装置
JP6137009B2 (ja) 画像処理装置、画像処理方法、プログラム及びカメラ
JP6222006B2 (ja) 移動体の遠隔操作装置、遠隔操作方法及びプログラム
WO2023037626A1 (ja) 情報処理装置、情報処理方法、プログラム
JP2011259341A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140821

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150526

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150611

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151214

R151 Written notification of patent or utility model registration

Ref document number: 5862444

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees