JP2015139004A - 映像投影装置、映像投影方法、およびコンピュータプログラム - Google Patents

映像投影装置、映像投影方法、およびコンピュータプログラム Download PDF

Info

Publication number
JP2015139004A
JP2015139004A JP2014007977A JP2014007977A JP2015139004A JP 2015139004 A JP2015139004 A JP 2015139004A JP 2014007977 A JP2014007977 A JP 2014007977A JP 2014007977 A JP2014007977 A JP 2014007977A JP 2015139004 A JP2015139004 A JP 2015139004A
Authority
JP
Japan
Prior art keywords
projection
area
image
input image
inappropriate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014007977A
Other languages
English (en)
Other versions
JP2015139004A5 (ja
JP6508874B2 (ja
Inventor
直樹 小嶋
Naoki Kojima
直樹 小嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014007977A priority Critical patent/JP6508874B2/ja
Priority to US14/599,367 priority patent/US9516289B2/en
Publication of JP2015139004A publication Critical patent/JP2015139004A/ja
Publication of JP2015139004A5 publication Critical patent/JP2015139004A5/ja
Application granted granted Critical
Publication of JP6508874B2 publication Critical patent/JP6508874B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Projection Apparatus (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Optics & Photonics (AREA)

Abstract

【課題】 視認しづらくなる領域を避けるために画像を分割して投影する際に、当該画像に含まれるオブジェクトが視認されづらくなることを抑制する。【解決手段】 投影不適領域103で入力画像を分割する際に、分割する位置に所定のオブジェクトが存在している場合には、投影不適領域103に対応する領域内の当該オブジェクトが分割されない位置に、当該分割する位置を変更する。そして、投影不適領域103を除く領域に、分割した入力画像を当該領域に合う大きさにして投影する。【選択図】 図1

Description

本発明は、映像投影装置、映像投影方法、およびコンピュータプログラムに関し、特に、映像を投影するために用いて好適なものである。
映像投影装置は、投影用スクリーンがない環境であっても、会議室の壁などに画像を投影することができる。したがって、映像投影装置を用いれば、投影用スクリーン以外の領域に投影された画像を視聴することができる。このように、投影用スクリーン以外の領域に画像を投影して視聴することが、映像投影装置の一般的なユースケースとなってきている。
しかしながら、壁には、投影用スクリーンのように常に平らで継ぎ目のない投影領域が確保されているわけではない。例えば、壁が石膏ボードを並べて貼って構成されていたとする。このような壁では、石膏ボードの継ぎ目に隙間が生じる。この継ぎ目の部分に画像中の文字が投影された場合、文字を判別しづらいという課題があった。
そこで、特許文献1、2には、投影した画像が欠落する領域を検出し、当該領域を避けるように画像を分割・縮小することが記載されている。
特開2011−50013号公報 特開2013−64827号公報
しかしながら、特許文献1、2に記載の技術では、入力画像が何であれ、投影に適さない領域を中心に画像を分割して投影する。よって、分割する領域に文字が含まれている場合、投影に適さない領域を挟んで文字が左右や上下に分割されて投影されることになり、当該文字が視認されづらくなるという課題がある。分割する領域に文字以外の特定のオブジェクトが含まれている場合であっても同じ課題が生じる。
本発明は、このような課題に鑑みてなされたものであり、視認しづらくなる領域を避けるために画像を分割して投影する際に、当該画像に含まれるオブジェクトが視認されづらくなることを抑制することを目的とする。
本発明の映像投影装置は、入力画像に含まれる所定のオブジェクトの少なくとも一部が、当該入力画像の投影に適さない領域である投影不適領域に投影される場合、当該投影不適領域に対応する領域内の位置であって、当該オブジェクトが分割されない位置で前記入力画像を分割する分割手段と、前記分割手段により分割された入力画像が前記投影不適領域に投影されないように、前記分割手段により分割された入力画像を投影する投影手段と、を有することを特徴とする。
本発明によれば、視認しづらくなる領域を避けるために画像を分割して投影する際に、当該画像に含まれるオブジェクトが視認されづらくなることを抑制することができる。
映像投影装置と投影面との関係を示す図である。 視聴対象の画像と、当該画像が投影面に投影された様子を示す図である。 映像投影装置の構成を示す図である。 パターン画像を示す図である。 投影不適領域を説明する図である。 文字位置情報を説明する図である。 座標変換作用素を説明する図である。 座標変換作用素の作成方法の第1の例を説明する図である。 座標変換作用素の作成方法の第2の例を説明する図である。 座標変換作用素の作成方法の第3の例を説明する図である。 映像投影装置の処理の第1の例を説明するフローチャートである。 映像投影装置の処理の第2の例を説明するフローチャートである。 入力画像の他の例を示す図である。 座標変換作用素の作成方法の第4の例を説明する図である。
図面を参照しながら、本発明の一実施形態を説明する。
図1は、映像投影装置100と投影面101との関係の一例を示す図である。図2は、視聴対象の画像と、当該画像が投影面101に投影された様子(当該画像に基づいて投影面101に投影された映像)の一例を示す図である。
図1において、投影面101のうち、映像投影装置100により投影される領域が投影領域102である。投影面101には、網掛けで示すように、投影に適さない領域である投影不適領域103が存在する。投影不適領域103とは、例えば、投影光の反射率が著しく低い領域や、投影面101を構成するボードやパネル等の継ぎ目等で隙間や段差が生じている領域を指す。
図2(a)は、映像投影装置100に入力された画像の一例を示す図である。図2(b)は、映像投影装置100により投影面101に投影された映像の様子の一例を示す図である。
図2(b)に示す例では、投影不適領域103の中に文字「F」の一部が投影されており、当該文字が視認しづらい状態が発生している。
図2(c)は、投影不適領域103を検知するためのパターン画像の一例を示す図である。図2(d)は、映像投影装置100により投影面101に投影されたパターン画像の様子の一例を示す図である。図2(e)は、映像投影装置100に入力された画像に含まれる文字画像が左右に分かれることなく、投影不適領域103を避けるように変形した上で投影面101に投影された映像の様子の一例を示す図である。
図2(e)に示すような映像を生成して投影することを実現するために、本実施形態の映像投影装置100は、例えば、図3に示すブロック図のように構成される。始めに、図3の各部の簡単な説明を行う。
映像投影装置100は、パターン撮影部301、映像入力部302、投影不適領域検知部303、入力映像解析部304、座標変換作用素作成部305、座標変換部306、パターン生成部307、映像切替部308、および映像投影部309を有する。
映像入力部302は、画像を入力する。映像入力部302は、例えば、可搬型の記憶媒体から画像を読み出したり、外部装置から送信された画像を取り込んだりすることにより画像を入力する。以下の説明では、映像入力部302に入力された画像を必要に応じて入力画像と称する。
パターン生成部307は、パターン画像を生成する。座標変換部306は、入力画像を変形する。映像切替部308は、座標変換部306で変形された画像とパターン生成部307で生成されたパターン画像とのどちらかを選択する。映像投影部309は、映像切替部308で選択された画像を表示素子へ出力し、投影面101に対して映像を投影する。
パターン撮影部301は、投影面101に投影されたパターン画像を撮影する。投影不適領域検知部303は、パターン撮影部301で撮影されたパターン画像から、投影不適領域103を検知する。入力映像解析部304は、入力画像に含まれる文字画像の位置を検知する。座標変換作用素作成部305は、座標変換作用素を作成する。
次に、図3の各部の詳細な説明を行う。
パターン生成部307は、投影不適領域を検知するためのパターン画像を生成する。本実施形態では、図2(c)に示すように、複数の十字状のパターンを2次元マトリックス状に(上下方向(縦方向)および左右方向(横方向)のそれぞれに)等間隔に並べた画像をパターン画像とする。映像投影部309は、このパターン画像を、図2(d)に示すように、投影面101に対して投影する。パターン生成部307は、パターン撮影部301で撮影されるパターン画像の中の各パターンの座標情報(位置情報)を生成する。この座標情報は、後述する投影不適領域検知部303で用いられる。
パターン撮影部301は、図2(c)に示すような、映像投影部309が投影したパターン画像を撮影する。図4は、パターン撮影部301で撮影されたパターン画像の一例を示す図である。投影不適領域が、低反射率の領域である場合、投影不適領域に投影されたパターンは、パターン撮影部301による撮影によって、図4の中央に示す網掛け部のように、不鮮明な画像になる。
投影不適領域検知部303は、パターン撮影部301で撮影されたパターン画像から、投影不適領域を検知する。
図5は、投影不適領域の一例を説明する図である。図5(a)は、投影不適領域の座標を格納するテーブルの一例を示す図である。図5(b)は、パターン画像から抽出されたパターンの一例を示す図である。図5(c)は、鮮明に撮影できているパターンと鮮明に撮影できていないパターンの一例を示す図である。図5(d)は、投影不適領域の一例を示す図である。
投影不適領域を矩形領域とすると、投影不適領域の座標S={(x0,y0),(x1,y1),(x2,y2),(x3,y3)}は、当該投影不適領域(矩形領域)の頂点である4点の座標からなる。図5(a)に示すように、投影不適領域検知部303は、1つのパターン画像から、複数の投影不適領域の座標S1、S2、S3を検知することができる。投影不適領域検知部303は、例えば、撮影されたパターン画像に対し、公知の2値化処理や細線検出処理等の技術を適用してパターンを抽出することにより投影不適領域を検知することができる。抽出したパターンは、例えば図5(b)に示すようになる。
次に、投影不適領域検知部303は、抽出したパターンと、パターン生成部307から取得した各パターンの座標情報(位置情報)とを比較して、どの位置のパターンが抽出できていないか、すなわち、どのパターンが鮮明に撮影できていないかを求める。図5(b)に示す例では、図5(c)に黒塗りの四角形で表したパターンが鮮明に撮影できていないことになる。
最後に、投影不適領域検知部303は、鮮明に撮影できていないパターンの位置を起点とする一定の領域を投影不適領域とする。鮮明に撮影できていないパターンとして、図5(b)に示すようなパターンが得られた場合、投影不適領域を、例えば、次のように定めることができる。すなわち、鮮明に撮影できていないパターンの位置から、各パターン間の左右方向の距離(図2(d)の距離104)の1/2倍の距離だけ左右方向に離隔した位置を長辺とし、パターン画像の上端と下端を短辺とする矩形領域を投影不適領域とすることができる。
尚、パターン撮影部301で撮影されたパターン画像が歪んでいる場合においても、投影不適領域検知部303は、撮影されたパターン画像からパターンを抽出する前に、以下の処理を行えば、投影不適領域を適切に定めることができる。すなわち、撮影されたパターン画像の四隅のパターンの座標情報を用いて、撮影されたパターン画像の歪み補正およびサイズ調整を行えば、投影不適領域を適切に定めることができる。
入力映像解析部304は、入力画像を解析し、文字と判断した領域の座標情報(文字位置情報)を座標変換作用素作成部305へ出力する。
図6は、文字位置情報の一例を説明する図である。図6(a)は、文字位置情報を格納するテーブルの一例を示す図である。図6(b)は、文字位置情報を検知する方法の一例を説明する図である。
図6(a)において、文字位置情報M={(x0,y0),(x1,y1),(x2,y2),(x3,y3)}は、文字の領域を矩形領域とした場合のその矩形領域の頂点である4点の座標からなる。図6(a)に示すように、入力映像解析部304は、1つの映像から複数の文字位置情報M1、M2、M3を検知することができる。図6に示す例では、それぞれの文字位置情報を、1つの文字の情報とする。画像の解析には、例えば、OCR等で一般的に用いられている公知のレイアウト解析処理等の技術を用いればよい。
かかる画像の解析の方法の具体例を説明すると、まず、入力映像解析部304は、図6(b)に示すように、入力画像からブロック601a、601bを抽出する。次に、入力映像解析部304は、抽出したブロック601a、601bから文字列領域602を抽出する。次に、入力映像解析部304は、抽出した文字列領域602から文字603a、603bを切り出す。最後に、入力映像解析部304は、切り出された文字603a、603bの領域の全ての位置情報(座標)を文字位置情報として求める。
尚、メタデータとして文字位置情報を入力画像に予め埋め込んでおき、その文字位置情報を座標変換作用素作成部305が用いてもよい。また、入力画像から検知するオブジェクトは、文字に限定されない。入力映像解析部304は、例えば、文字に加えてまたは替えて、人体や図形等、別のオブジェクトを検知してもよい。
図3の説明に戻り、座標変換作用素作成部305は、投影不適領域検知部303で求められた投影不適領域と、入力映像解析部304で求められた文字位置情報とを用いて、入力画像に対する座標変換作用素を作成する。ここでは、まず、本実施形態における座標変換作用素の定義を説明し、次に、その座標変換作用素を投影不適領域と文字位置情報とを用いてどのように求めるかについて述べる。
座標変換作用素として、種々の作用素が考えられるが、本実施形態では、座標変換作用素は、複数の4点指定変形を実現するための作用素とする。4点指定変形とは、プロジェクタの台形補正等で一般的に用いられている技術であり、変換前の画像の四隅の点の座標を、任意の幾何変換(例えば射影変換)により変換する技術である。
図7は、座標変換作用素作成部305が求める座標変換作用素(4点指定変形作用素)の一例を説明する図である。図7(a)は、座標変換作用素を格納するテーブルの一例を示す図である。図7(b)は、4点指定変形により変換される前の画像と変換された後の画像の一例を示す図である。
図7(a)において、各座標変換作用素は、変換前の矩形の四隅の点の座標の組Hsrcと、変換後の矩形の四隅の点の座標の組Hdstとから構成される。図7(b)に示す例では、座標変換作用素は3つ存在する。図7(a)に示す作用素1は、入力画像を分割する線分の左側に配置される矩形の変換前の四隅の点の座標の組Hsrc1と、当該矩形の変換後の四隅の点の座標Hdst1の組とからなる。同様に図7(a)に示す作用素2は、入力画像を分割する線分の変換前の四隅の点の座標の組Hsrc2と、当該線分の変換後の四隅の点の座標Hdst2の組とからなる。また、図7(a)に示す作用素3は、入力画像を分割する線分の右側に配置される矩形の四隅の点の座標の組Hsrc3と、当該矩形の変換後の四隅の点の座標Hdst3の組とからなる。尚、変換前の線分の四隅の点の座標のうち、右上端と左上端の座標は同じ座標となり、右下端と左下端の座標は同じ座標となる。
図7に示すように、1つの入力画像に複数の座標変換作用素が存在する。座標変換作用素作成部305は、変換後の四隅の点の座標の組Hdstで構成される矩形により、変換後の画像に対して漏れがないようにすると共に当該矩形が重ならないように、複数の座標変換作用素を作成する。また、図7(b)では、変換前の四隅の点の座標の組Hsrc2で構成される形状は、線分となる。線分を変換する場合、変換前の線分の画像を黒画素で構成される画像とする。つまり、変換前の四隅の点の座標の組Hsrc2で構成される矩形は黒画素で構成される領域となる。
次に、座標変換作用素作成部305が、以上のように定義される座標変換作用素を、投影不適領域と文字位置情報とを用いて算出する方法の一例について述べる。
図8は、座標変換作用素の作成方法の一例を説明する図である。具体的に図8(a)は、入力映像解析部304により入力画像中の文字の位置を検知した結果の一例を概念的に示す図である。図8(b)は、投影不適領域検知部303により投影不適領域を検知した結果の一例を概念的に示す図である。図8(c)は、入力画像中の文字と投影不適領域とを重ねて示す図である。図8(d)は、4点指定変形による変換前の画像と変換後の画像の一例を示す図である。
図8では、図2(b)に示すようにして投影面101に投影された映像に対して座標変換作用素を算出する場合を例に挙げて示す。また、図8(a)では、9個の文字位置情報M1〜M9が検知された場合を例に挙げて示す。また、図8(b)では、1個の投影不適領域(座標S1)が検知された場合を例に挙げて示す。
仮に、入力映像解析部304で文字位置情報が検知されなかった場合、座標変換作用素作成部305は、座標S1の投影不適領域だけを用いて座標変換作用素を求める。図9は、文字位置情報が検知されなかった場合の座標変換作用素の作成方法の一例を説明する図である。具体的に図9では、4点指定変形による変換前の画像と変換後の画像の一例を示す。
図9において、座標変換作用素作成部305は、座標S1の投影不適領域を構成する矩形を左右に均等に分ける直線状の線分801およびその両隣接領域の3つに、変換前の画像を分割する。分割したそれぞれの領域の四隅の点の座標の組を、Hsrc2、Hsrc1、Hsrc3とする。次に、座標変換作用素作成部305は、座標S1の投影不適領域が黒領域となるように、変換後の中央の矩形の四隅の点の座標の組Hdst2を決める。次に、座標変換作用素作成部305は、変換後の画像に対して、漏れや重なりが起きないように、当該四隅の点の座標の組Hdst2により定まる矩形の左右両隣に矩形を設定する。そして、座標変換作用素作成部305は、設定した矩形の四隅の点の座標の組を、変換後の左右の矩形の四隅の点の座標の組Hdst1、Hdst3として決める。図9に示すように、変換後の矩形の四隅の点の座標の組Hdst1、Hdst2、Hdst3で定まる3つの矩形は隙間なく配置され、且つ、これら3つの矩形の大きさの総和は入力画像の大きさに等しい。すなわち、入力画像を投影したと仮定した場合の入力画像の投影領域の大きさと、変形後の入力画像の投影領域の大きさは等しくなる。
次に、入力映像解析部304で文字位置情報が検知された場合の座標変換作用素の算出方法の一例について述べる。この場合に、図9に示すようにして座標変換作用素を求めてしまうと、座標S1の投影不適領域の中に存在する文字(文字位置情報M5が示す文字)の画像が左右に分かれてしまう。すなわち、座標S1の投影不適領域に存在する文字画像が、変換後の矩形の四隅の点の座標の組Hdst1、Hdst3により定まる2つの矩形に分かれてしまう。これは、文字が検知されなかった場合に、変換前の四隅の点の座標の組Hsrc2により定まる矩形(線分)を、座標S1の投影不適領域を構成する矩形を左右に均等に分ける線分としているためである。
文字画像が左右に分かれるか否かは、座標S1の投影不適領域を構成する矩形を左右に均等に分ける線分801に、文字位置情報で特定される文字が重複しているか否かを判定することで検知することが可能である。よって、座標変換作用素作成部305は、まず、線分801と、文字位置情報で特定される文字の位置とが重複しているか否かを、投影不適領域の座標S1と、文字位置情報M1〜M9とを順次比較して確認する。この結果、図8(c)に示す例では、線分801上に、文字位置情報M5で特定される文字が重複して存在していることが確認される。
次に、座標変換作用素作成部305は、文字位置情報M5が全て、入力画像を分割する線分の左側に配置される矩形の四隅の点の座標の組Hsrc1に含まれるようにする。具体的に、座標変換作用素作成部305は、変換前の線分の四隅の点の座標の組Hsrc2の値を、線分801の座標の値から、文字位置情報M5の右端において上下方向に直線状に延びる線分802の座標の値に変更する。
次に、座標変換作用素作成部305は、変換前の四隅の点の座標の組Hsrc1で構成される矩形の領域を、変換前の座標の組Hsrc2の値の変更により拡大された分だけ拡大する(図8(d)の上の図を参照)。このようにして拡大した領域の四隅の点の座標の組を、入力画像を分割する線分の左側に配置される矩形の変換前の四隅の点の座標の組Hsrc1とする。
次に、座標変換作用素作成部305は、変換前の画像の残りの領域の四隅の点の座標の組を、入力画像を分割する線分の右側に配置される矩形の変換前の四隅の点の座標の組Hsrc3とする(図8(d)の上の図を参照)。
変換後の四隅の点の座標の組Hdst1、Hdst2、Hdst3に関しては、図9に示したものと同じでよい。
すなわち、まず、座標変換作用素作成部305は、座標S1の投影不適領域が黒領域となるように、変換後の四隅の点の座標Hdst2の領域を決める。
次に、座標変換作用素作成部305は、変換後の画像に対して、漏れや重なりが起きないように、当該四隅の点の座標の組Hdst2により定まる矩形の左右両隣に矩形を設定する。
そして、座標変換作用素作成部305は、設定した左右の矩形の四隅の点の座標の組を、投影不適領域の左右の矩形の変換後の四隅の点の座標の組Hdst1、Hdst3として決める。入力画像を分割する線分の変換後の四隅の点の座標Hdst2は、座標S1の投影不適領域の四隅の点の座標になる。したがって、投影不適領域の左右の矩形の変換後の四隅の点の座標の組Hdst1、Hdst3は、変換前の四隅の点の座標の組Hsrc1、Hsrc3に対し、座標S1の投影不適領域の大きさと線分802の位置とに応じて縮小する変形が行われたものとなる。
したがって、入力画像を線分802で分割した左右の矩形(座標の組Hsrc1、Hsrc3により定まる矩形)内の画像は、それぞれ、座標S1の投影不適領域のうち線分802よりも左右にはみ出している領域の分だけ縮小される。
図8に示すように、変換後の四隅の点の座標の組Hdst1、Hdst2、Hdst3で定まる3つの矩形は、隙間と重なりがないように配置され、且つ、これら3つの矩形の大きさの総和は入力画像の大きさに等しい。
座標変換作用素作成部305は、線分801と文字位置情報で特定される文字との重複の状態によって、線分801よりも左側の矩形と、線分801よりも右側の矩形の何れを拡大するかを選択する。具体例を説明すると、座標変換作用素作成部305は、線分801よりも左側の矩形寄りに、線分801と重複する文字位置情報がある場合、線分801よりも左側の矩形を拡大する。一方、線分801よりも右側の矩形寄りに、線分801と重複する文字位置情報がある場合、座標変換作用素作成部305は、線分801よりも右側の矩形を拡大する。
尚、図8(c)に示す例では、文字位置情報で特定される文字の中央に線分801があるので、線分801よりも左側の矩形を拡大しても右側の矩形を拡大してもよい。図8(c)では、線分801よりも左側の矩形を拡大した場合を一例として示している。
また、線分801に重複する文字位置情報が複数あった場合、座標変換作用素作成部305は、線分801からの移動量が少ない方向に、線分802(座標の組Hsrc2)を移動させる。
図10は、入力画像を左右に均等に分割する線分と複数の文字とが重複する場合の座標変換作用素の作成方法の一例を説明する図である。具体的に図10(a)は、入力画像中の文字と投影不適領域とを重ねて示す図である。図10(b)は、4点指定変形による変換前の画像と変換後の画像の一例を示す図である。
図10(a)に示す例では、線分801と、文字位置情報M5、M6で特定される文字とが重複している。線分801の移動先の候補としては、文字位置情報M5で特定される文字の左端において上下方向に直線状に延びる線分1001と、文字位置情報M6で特定される文字の右端において上下方向に直線状に延びる線分1002になる。座標変換作用素作成部305は、これらの線分1001、1002のうち、線分801の移動量が小さい線分1002を、入力画像を分割する線分の変換前の四隅の点の座標の組Hsrc2とする。図10(b)では、このように、変換前の線分の四隅の点の座標の組Hsrc2で線分1002を表すものとした場合の座標変換作用素の一例を示す。
尚、文字位置情報M5で特定される文字の右端で上下方向に直線状に延びる線分1003と、文字位置情報M6で特定される文字の右端で上下方向に直線状に延びる線分1004を線分801の移動先にしたとする。そうすると、文字位置情報M5、M6で特定される文字の何れか一方の重複が解消できない。したがって、線分1003、1004は、線分801の移動先として設定されない。
図3の説明に戻り、座標変換部306は、座標変換作用素作成部305が作成した座標変換作用素を用いて入力画像を変形する。具体的に、変換後の四隅の点の座標の組Hdst1、Hdst2、Hdst3で表される四角形内の座標の画素値を、変換前の四隅の点の座標の組Hsrc1、Hsrc2、Hsrc3で表される四角形内の座標の画素値を用いて4点指定変形にて求める。座標変換作用素が複数ある場合、座標変換部306は、座標変換作用素毎に座標の変換を行う。尚、変換前の四隅の点の座標の組Hsrc2で表される形状が線分になる場合、座標変換部306は、変換後の四隅の点の座標の組Hdst2で表される四角形内の座標の画素値を黒に対応する値(画素値=0)とし、4点指定変形を行わない。
次に、図11、図12のフローチャートを参照しながら、本実施形態の映像投影装置100の処理の一例を説明する。
図11のフローチャートは、映像投影装置100の電源が投入されたときや、映像投影装置100の設置位置が変わったときに実行される処理である。その他にも、壁面の環境が変わった時などに、ユーザからの指示に応じて実行される。
まず、ステップS1101において、パターン生成部307は、パターン画像を生成する。
次に、ステップS1102において、映像切替部308は、ステップS1101で生成されたパターン画像を選択する。これにより、映像投影部309からパターン画像が投影面101に投影される。
次に、ステップS1103において、パターン撮影部301は、ステップS1102で投影されたパターン画像を撮影し、撮影画像を得る。
次に、ステップS1104において、投影不適領域検知部303は、ステップS1103で撮影されたパターン画像から投影不適領域103を検知する。
以下のステップS1105が開始する前に、ステップS1108において、入力映像解析部304は、映像入力部302に入力された画像(入力画像)を解析し、当該入力画像に含まれる文字画像の位置情報(文字位置情報M1、M2、M3等)を求める。
そして、ステップS1105において、座標変換作用素作成部305は、ステップS1104で検知された投影不適領域103と、ステップS1105で求められた文字位置情報とを用いて、座標変換作用素を作成する。
次に、ステップS1106において、座標変換部306は、ステップS1105で作成された座標変換作用素を用いて、入力画像を変形させる。
次に、ステップS1107において、映像切替部308は、ステップS1106で変形された入力画像を選択する。これにより、映像投影部309から、ステップS1106で変形された入力画像が投影面101に投影される。
図12のフローチャートは、入力画像が変わった時に実行される処理である。入力画像が変わると、文字画像の位置等も変わる。ただし、壁面(投影面101)の環境は変わらない(つまり投影不適領域は変わらない)。よって、図12のフローチャートは、文字位置情報のみを更新する場合の処理と言える。
ステップS1201において、入力映像解析部304は、入力画像を解析し、当該入力画像に含まれる文字画像の位置情報(文字位置情報)を求める。
次に、ステップS1202において、座標変換作用素作成部305は、図11のステップS1104で既に検知されている投影不適領域103と、ステップS1201で求められた文字位置情報とを用いて、座標変換作用素を作成する。
次に、ステップS1203において、座標変換部306は、ステップS1202で作成された座標変換作用素を用いて入力画像を変形させる。
次に、ステップS1204において、映像切替部308は、ステップS1203で変形された入力画像を選択する。これにより、映像投影部309から、ステップS1203で変形された入力画像が投影面101に投影される。
以上のように本実施形態では、投影不適領域103で入力画像を分割する際に、分割する位置に所定のオブジェクトが存在している場合には、投影不適領域103に対応する領域内の当該オブジェクトが分割されない位置に、当該分割する位置を変更する。そして、投影不適領域103を除く領域に、分割した入力画像を当該領域に合う大きさにして投影する。したがって、文字や特定のオブジェクトが分割されないように、入力画像を分割して投影することができる。よって、視認しづらくなる領域を避けるために画像を分割して投影する際に、当該画像に含まれるオブジェクトが視認されづらくなることを抑制することができる。
映像入力部302に入力される画像は、図2(a)に示すようなものに限定されない。図13は、入力画像の他の例を示す図である。図13に示すように、入力画像のアスペクト比を保持する影響で、入力画像の左右の端に、常時、帯状の黒帯領域1301a、1301bが付加される場合がある。この場合、座標変換作用素作成部305は、変換前の四隅の点の座標の組Hsrc1、Hsrc3で表される四角形を拡大せずとも水平方向に移動させるようにすればよい。
図14は、入力画像の左右の端に黒帯領域が負荷されている場合の座標変換作用素の作成方法の一例を説明する図である。具体的に図14(a)は、入力画像中の文字と投影不適領域とを重ねて示す図である。図14(b)は、変換前の画像と変換後の画像の一例を示す図である。
図14(a)に示す例では、図8(c)に示す例と同様に、座標S1の投影不適領域を構成する矩形を左右に均等に分ける線分801に、文字位置情報M5で特定される文字が重複している。したがって、図8(c)を参照しながら説明したように、入力画像を分割する線分の変換前の四隅の点の座標の組Hsrc2の値を、線分801の座標の値から、線分802の座標の値に変更する。
このとき、座標変換作用素作成部305は、黒帯領域1301aの水平方向の長さ(幅)で許容される分だけ、変換前の四隅の点の座標の組Hsrc1で構成される矩形を左側にずらして、変換後の四隅の点の座標の組Hdst1を定める。同様に、座標変換作用素作成部305は、黒帯領域1301bの水平方向の長さ(幅)で許容される分だけ、変換前の四隅の点の座標の組Hsrc3で構成される矩形を右側にずらして、変換後の四隅の点の座標の組Hdst3を定める。
図14(b)に示す例において、変換前の四隅の点の座標の組Hsrc1と、変換後の矩形の四隅の点の座標の組Hdst1とからなる座標変換作用素では、水平方向の移動のみで投影不適領域を避けるように線分802よりも左側の入力画像を表示できる。同様に、変換前の四隅の点の座標の組Hsrc3と、変換後の四隅の点の座標の組Hdst3とからなる座標変換作用素でも、水平方向の移動のみで投影不適領域を避けるように線分802よりも右側の入力画像を表示できる。
尚、図14(b)に示す例では、線分802よりも右側の入力画像の水平方向の移動量よりも黒帯領域1301bの水平方向の長さの方が長い。したがって、変換後の四隅の点の座標の組Hdst3で表される矩形に表示される画像(線分802よりも右側の入力画像)の右側に黒帯領域1301cが表示される。一方、線分802よりも左側の入力画像の水平方向の移動量と黒帯領域1301aの水平方向の長さは同じである。したがって、変換後の四隅の点の座標の組Hdst1で表される矩形に表示される画像(線分802よりも左側の入力画像)の左側には黒帯領域は表示されない。
このような水平方向の移動のみでは入力画像の全ての領域を表示することができない場合(黒帯領域の水平方向の長さよりも、入力画像の水平方向の移動量の方が長い場合)には、それらの差に応じて、分割した入力画像を縮小する。
また、このような黒帯領域がない場合であっても、画像の縮小を行わずに前述した水平方向の移動(変換前の四隅の点の座標の組Hsrc1・Hsrc3で構成される矩形を縮小せずに左側・右側にずらすこと)を行うようにしてもよい。ただし、このようにする場合、変形後の入力画像の大きさは、変形前の入力画像よりも大きくなる(本実施形態で説明した例では、投影不適領域の分だけ横長の画像になる)。そこで、このようにする場合には、当該変形後の入力画像と同じ大きさを有するパターン画像を投影して、当該パターン画像の投影領域のうち、変形前の入力画像からはみ出る領域に投影不適領域がないことを確認すればよい。また、当該パターン画像の投影領域のうち、変形前の入力画像からはみ出る領域に投影不適領域がないことが予め分かっている場合には、このようなパターン画像の投影を行わなくてもよい。
また、本実施形態では、垂直方向に沿う投影不適領域103が存在する場合を例に挙げて説明した。しかしながら、水平方向に沿う投影不適領域が存在する場合であっても、本実施形態を適用することができる。尚、同一の方向に沿う投影不適領域103が複数ある場合には、投影不適領域103ごとに本実施形態で説明した処理を行えばよい。
また、図13に示す黒帯領域が入力画像の上下端に付加される場合であっても、本実施形態を適用することができる。
以上の場合、前述した説明において、「上下」を「左右」に、「左右」を「上下」に、「水平」を「垂直」に、「垂直」を「水平」にそれぞれ置き換えればよい。
また、垂直方向の投影不適領域と水平方向の投影不適領域とが混在している場合には、水平方向の投影不適領域が存在する場合の処理と、垂直方向の投影不適領域が存在する場合の処理とを組み合わせればよい。例えば、まず、垂直方向の投影不適領域が存在する場合の処理を行って変形後の四隅の点の座標の組を得る。そして、この変形後の四隅の点の座標の組を変換前のものとして、水平方向の投影不適領域が存在する場合の処理を行い、最終的な変形後の四隅の点の座標の組を得る。
また、本実施形態では、変換前の四隅の点の座標の組Hsrc2で表される形状が、線分になる場合、座標変換部306は、変換後の四隅の点の座標の組Hdst2で表される四角形に含まれる座標の画素値を0(ゼロ)、すなわち黒画素とした。このようにすれば、視聴用の画像と投影不適領域に投影される画像とを明確に区別することができるので好ましい。しかしながら、変換後の四隅の点の座標の組Hdst2で表される四角形に、視聴用の画像とは別の画像を表示していれば、必ずしもこのようにする必要はない。例えば、当該四角形の領域に画像を表示しないようにしてもよいし、当該四角形に0(ゼロ)以外の所定のパターンの画素値を与えてもよい。例えば0(ゼロ)以外の同値の画素値を前記所定のパターンの画素値として与えてもよいし、視聴用の画像とは明らかに区別される複数の画素値からなるパターンの画素値を前記所定のパターンの画素値として与えてもよい。このことは、図13に示す黒帯領域についても同じである。
また、本実施形態では、パターン画像を投影して撮影した結果から、投影不適領域を検知する場合を例に挙げて説明した。しかしながら、例えば、映像投影装置100と投影面101との幾何学的な関係等から、投影不適領域の位置を特定できる場合には、必ずしもパターン画像を投影して撮影しなくてもよい。
尚、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
(その他の実施例)
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
301 パターン撮影部、302 映像入力部、303 投影不適領域検知部、304 入力映像解析部、305 座標変換作用素作成部、306 座標変換部

Claims (21)

  1. 入力画像に含まれる所定のオブジェクトの少なくとも一部が、当該入力画像の投影に適さない領域である投影不適領域に投影される場合、当該投影不適領域に対応する領域内の位置であって、当該オブジェクトが分割されない位置で前記入力画像を分割する分割手段と、
    前記分割手段により分割された入力画像が前記投影不適領域に投影されないように、前記分割手段により分割された入力画像を投影する投影手段と、
    を有することを特徴とする映像投影装置。
  2. 前記投影手段は、前記分割手段により分割される前の前記入力画像を投影したと仮定した場合の前記入力画像の投影領域と同じ大きさを有する投影領域に、前記分割手段により分割された入力画像が、前記投影不適領域と重ならずに投影されるように、前記分割手段により分割された入力画像を投影することを特徴とする請求項1に記載の映像投影装置。
  3. 前記分割手段により分割された入力画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、前記分割手段により分割された入力画像を縮小する縮小手段をさらに有し、
    前記投影手段は、前記縮小手段により縮小された入力画像を、前記投影不適領域と重ならないように、前記投影領域に投影することを特徴とする請求項2に記載の映像投影装置。
  4. 前記縮小手段は、前記分割手段により分割された入力画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、前記分割手段により分割された入力画像の座標を変換することにより、前記分割手段により分割された入力画像を縮小することを特徴とする請求項3に記載の映像投影装置。
  5. 前記分割手段により分割された入力画像のうち、所定の帯状の領域を除く領域の画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、当該画像の位置を移動する移動手段をさらに有し、
    前記投影手段は、前記移動手段により位置が移動された画像を、前記投影不適領域と重ならないように、前記投影領域に投影することを特徴とする請求項2に記載の映像投影装置。
  6. 前記移動手段は、前記分割手段により分割された入力画像のうち、所定の帯状の領域を除く領域の画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、当該画像の座標を変換することにより、当該画像の位置を移動させることを特徴とする請求項5に記載の映像投影装置。
  7. 前記投影手段は、前記投影不適領域に、前記入力画像とは別の画像を投影することを特徴とする請求項2〜6の何れか1項に記載の映像投影装置。
  8. 前記投影不適領域に投影される画像の画素値は0(ゼロ)であることを特徴とする請求項7に記載の映像投影装置。
  9. 所定のパターンを有するパターン画像を撮影する撮影手段と、
    前記撮影手段により撮影されたパターン画像に基づいて、前記投影不適領域を検知する検知手段と、
    をさらに有し、
    前記投影手段は、前記パターン画像を投影することを特徴とする請求項1〜8の何れか1項に記載の映像投影装置。
  10. 前記分割手段は、前記投影不適領域に対応する領域内の位置であって、前記オブジェクトが分割されない位置で、前記入力画像を、前記入力画像の縦方向および横方向の少なくとも何れか一方の方向に直線状に分割することを特徴とする請求項1〜9の何れか1項に記載の映像投影装置。
  11. 入力画像に含まれる所定のオブジェクトの少なくとも一部が、当該入力画像の投影に適さない領域である投影不適領域に投影される場合、当該投影不適領域に対応する領域内の位置であって、当該オブジェクトが分割されない位置で前記入力画像を分割する分割工程と、
    前記分割工程により分割された入力画像が前記投影不適領域に投影されないように、前記分割工程により分割された入力画像を投影することを投影手段に指示する投影工程と、
    を有することを特徴とする映像投影方法。
  12. 前記投影工程は、前記分割工程により分割される前の前記入力画像を投影したと仮定した場合の前記入力画像の投影領域と同じ大きさを有する投影領域に、前記分割工程により分割された入力画像が、前記投影不適領域と重ならずに投影されるように、前記分割工程により分割された入力画像を投影することを投影手段に指示することを特徴とする請求項11に記載の映像投影方法。
  13. 前記分割工程により分割された入力画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、前記分割工程により分割された入力画像を縮小する縮小工程をさらに有し、
    前記投影工程は、前記縮小工程により縮小された入力画像を、前記投影不適領域と重ならないように、前記投影領域に投影することを投影手段に指示することを特徴とする請求項12に記載の映像投影方法。
  14. 前記縮小工程は、前記分割工程により分割された入力画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、前記分割工程により分割された入力画像の座標を変換することにより、前記分割工程により分割された入力画像を縮小することを特徴とする請求項13に記載の映像投影方法。
  15. 前記分割工程により分割された入力画像のうち、所定の帯状の領域を除く領域の画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、当該画像の位置を移動する移動工程をさらに有し、
    前記投影工程は、前記移動工程により位置が移動された画像を、前記投影不適領域と重ならないように、前記投影領域に投影することを投影手段に指示することを特徴とする請求項12に記載の映像投影方法。
  16. 前記移動工程は、前記分割工程により分割された入力画像のうち、所定の帯状の領域を除く領域の画像が、前記投影不適領域と重ならずに前記投影領域に投影されるように、当該画像の座標を変換することにより、当該画像の位置を移動させることを特徴とする請求項15に記載の映像投影方法。
  17. 前記投影工程は、前記投影不適領域に、前記入力画像とは別の画像を投影することを投影手段に指示することを特徴とする請求項12〜16の何れか1項に記載の映像投影方法。
  18. 前記投影不適領域に投影される画像の画素値は0(ゼロ)であることを特徴とする請求項17に記載の映像投影方法。
  19. 所定のパターンを有するパターン画像の撮影画像に基づいて、前記投影不適領域を検知する検知工程と、
    をさらに有し、
    前記投影工程は、前記パターン画像を投影することを投影手段に指示することを特徴とする請求項11〜18の何れか1項に記載の映像投影方法。
  20. 前記分割工程は、前記投影不適領域に対応する領域内の位置であって、前記オブジェクトが分割されない位置で、前記入力画像を、前記入力画像の縦方向および横方向の少なくとも何れか一方の方向に直線状に分割することを特徴とする請求項11〜19の何れか1項に記載の映像投影方法。
  21. 請求項11〜20の何れか1項に記載の映像投影方法の各工程をコンピュータに実行させることを特徴とするコンピュータプログラム。
JP2014007977A 2014-01-20 2014-01-20 映像投影装置、映像投影方法、およびコンピュータプログラム Expired - Fee Related JP6508874B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014007977A JP6508874B2 (ja) 2014-01-20 2014-01-20 映像投影装置、映像投影方法、およびコンピュータプログラム
US14/599,367 US9516289B2 (en) 2014-01-20 2015-01-16 Video image projection apparatus, video image projection method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014007977A JP6508874B2 (ja) 2014-01-20 2014-01-20 映像投影装置、映像投影方法、およびコンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2015139004A true JP2015139004A (ja) 2015-07-30
JP2015139004A5 JP2015139004A5 (ja) 2017-06-08
JP6508874B2 JP6508874B2 (ja) 2019-05-08

Family

ID=53545934

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014007977A Expired - Fee Related JP6508874B2 (ja) 2014-01-20 2014-01-20 映像投影装置、映像投影方法、およびコンピュータプログラム

Country Status (2)

Country Link
US (1) US9516289B2 (ja)
JP (1) JP6508874B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10432901B2 (en) 2016-01-15 2019-10-01 Rakuten, Inc. Content projection control apparatus, content projection control method and program

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107422590B (zh) * 2017-09-12 2020-09-08 中广热点云科技有限公司 自动调节投影面大小的家用投影系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006243360A (ja) * 2005-03-03 2006-09-14 Matsushita Electric Ind Co Ltd 電子ブックおよび電子ブックに用いられる表示方法
JP2011050013A (ja) * 2009-08-28 2011-03-10 Panasonic Corp 映像投影装置及び映像投影方法
WO2011074595A1 (ja) * 2009-12-18 2011-06-23 日本電気株式会社 携帯情報端末、表示制御方法、およびプログラム
JP2012159716A (ja) * 2011-02-01 2012-08-23 Sharp Corp マルチディスプレイシステム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007004502A1 (ja) * 2005-06-30 2007-01-11 Ricoh Company, Ltd. 投影画像表示装置
US7967451B2 (en) * 2008-06-27 2011-06-28 Microsoft Corporation Multi-directional image displaying device
US8727539B2 (en) * 2010-10-28 2014-05-20 Seiko Epson Corporation Projector and method of controlling projector
JP2013064827A (ja) 2011-09-16 2013-04-11 Seiko Epson Corp 電子機器
JP5862304B2 (ja) * 2012-01-04 2016-02-16 株式会社リコー 投影表示装置、投影表示方法およびプログラム
JP2013156324A (ja) * 2012-01-27 2013-08-15 Seiko Epson Corp プロジェクター、および、プロジェクターによる画像投射方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006243360A (ja) * 2005-03-03 2006-09-14 Matsushita Electric Ind Co Ltd 電子ブックおよび電子ブックに用いられる表示方法
JP2011050013A (ja) * 2009-08-28 2011-03-10 Panasonic Corp 映像投影装置及び映像投影方法
WO2011074595A1 (ja) * 2009-12-18 2011-06-23 日本電気株式会社 携帯情報端末、表示制御方法、およびプログラム
JP2012159716A (ja) * 2011-02-01 2012-08-23 Sharp Corp マルチディスプレイシステム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10432901B2 (en) 2016-01-15 2019-10-01 Rakuten, Inc. Content projection control apparatus, content projection control method and program

Also Published As

Publication number Publication date
US9516289B2 (en) 2016-12-06
JP6508874B2 (ja) 2019-05-08
US20150208047A1 (en) 2015-07-23

Similar Documents

Publication Publication Date Title
JP6227563B2 (ja) ユーザインタフェース装置及び表示オブジェクト操作方法
JP4850278B2 (ja) コンテンツ作成支援装置、コンテンツ作成支援方法、およびシナリオファイル生成方法
JP6071866B2 (ja) 表示制御装置、表示装置、撮像システム、表示制御方法、及びプログラム
JP6429545B2 (ja) 制御装置、制御方法
US9275486B2 (en) Collage image creating method and collage image creating device
JP5644461B2 (ja) 画像処理装置及びプログラム
AU2013222958A1 (en) Method and apparatus for object size adjustment on a screen
US10466835B2 (en) Display method and display control apparatus
US8401278B2 (en) Image processing apparatus and image processing method
JP6508874B2 (ja) 映像投影装置、映像投影方法、およびコンピュータプログラム
JP5832119B2 (ja) 投影装置、その制御方法及びプログラム
JP2015139087A (ja) 投影装置
JP2013080466A (ja) 文書画像の処理方法及び装置
CN101609547A (zh) 基于累积能量的无缝拼接图像处理方法
JP2005084089A (ja) 画像比較表示方法及びその装置並びに画像比較表示プログラム
CN110362262B (zh) 显示系统及其画面操作方法
JP2014130504A (ja) 表示制御装置、表示制御方法及びそのプログラム
JP6520194B2 (ja) 表示装置及び表示方法
JP2015139004A5 (ja)
JP6381235B2 (ja) 投影装置、画像投影方法及びプログラム
JP2005084088A (ja) 画像比較表示方法及びその装置並びに画像比較表示プログラム
JP2016076017A (ja) 図形処理装置および図形処理プログラム
JP6285657B2 (ja) 画像処理装置及び画像処理方法、プログラム
CN111083350B (zh) 图像处理装置、图像处理方法及存储介质
JP5799715B2 (ja) 画像遷移装置、画像遷移方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170421

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170807

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190402

R151 Written notification of patent or utility model registration

Ref document number: 6508874

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees