JP2010139746A - ホログラム生成装置、ホログラム生成方法およびホログラム生成プログラム - Google Patents
ホログラム生成装置、ホログラム生成方法およびホログラム生成プログラム Download PDFInfo
- Publication number
- JP2010139746A JP2010139746A JP2008315776A JP2008315776A JP2010139746A JP 2010139746 A JP2010139746 A JP 2010139746A JP 2008315776 A JP2008315776 A JP 2008315776A JP 2008315776 A JP2008315776 A JP 2008315776A JP 2010139746 A JP2010139746 A JP 2010139746A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- hologram
- adjacent
- image
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
【解決手段】ホログラム生成装置1は、奥行マップに基づいて、隣接画素間の奥行きの不連続範囲を検出する奥行不連続検出手段10と、ホログラム画素を中心とした光の拡散範囲で、不連続範囲を隣接画素の奥側の画素が存在する被写体平面上に投影した範囲の画素を、基準映像に対して視差を有する隣接映像から選択することで、基準映像の画素が存在しない画素を補填する欠落画素補填手段30と、基準映像における光の拡散範囲の画素および隣接映像から補填された画素の各画素位置からホログラム画素の位置に仮想的に入射される光量を加算してホログラム画素の画素値を算出するホログラム計算手段40と、を備えることを特徴とする。
【選択図】図3
Description
従来の手法は、コンピュータグラフィックスで生成した平面映像を、その奥行値に基づいて、複数の被写体を3次元空間に仮想的に配置し、それぞれの被写体から出る光を合成してホログラムを求めるものである。
この手法は、図13(a)に示すように、奥行値を示す奥行マップZに基づいて、2次元映像Dを、例えば、前景の被写体Aと背景の被写体Bとに被写体を分けて3次元空間に配置し、ホログラムHの画素ごとに、光の拡散範囲内にある各被写体A,Bの各座標位置からの光量を加算し、ホログラムHの画素値を求めることで、ホログラムHを生成する。
また、SSB法を用いた場合であっても、一方向からのオクルージョンホールの観測を防止することはできるが、他の方向からはオクルージョンホールが観測されるため、同様の問題を残している。さらに、オクルージョンホールを単に観測しないようにするのみならず、視認方向によって、前景の被写体に隠れていた背景の被写体を視認したいという要望もある。
そして、ホログラム生成方法は、補填映像選択ステップで、3次元空間上において、不連続領域と、当該3次元空間上に仮想的に配置したホログラム面の画素であるホログラム画素との位置関係に基づいて、不連続領域に対応する画素を補填するための隣接映像を選択する。
そして、ホログラム生成方法は、ホログラム値演算ステップで、ホログラム画素の位置からの仮想的な光の拡散範囲において、基準映像の画素および補填された画素の各画素の位置からホログラム画素の位置に仮想的に入射される光量を加算して、当該ホログラム画素の画素値を算出する。
そして、ホログラム生成プログラムは、補填映像選択手段によって、3次元空間上において、奥行不連続検出手段で検出された不連続領域と、当該3次元空間上に仮想的に配置したホログラム面の画素であるホログラム画素との位置関係に基づいて、不連続領域に対応する画素を補填するための隣接映像を選択する。
そして、ホログラム生成プログラムは、ホログラム計算手段によって、ホログラム画素の位置からの仮想的な光の拡散範囲において、基準映像の画素および欠落画素補填手段で補填された画素の各画素の位置からホログラム画素の位置に仮想的に入射される光量を加算して、当該ホログラム画素の画素値を算出する。
請求項1,9,10に記載の発明によれば、基準映像の前景に隠れている背景の被写体の画素の光量を隣接映像の画素によって補填するため、基準映像を撮影した方向以外から視認した場合であっても、オクルージョンホールの発生がない高品位な立体像を再生可能なホログラムを生成することができる。
[オクルージョンホール補填の手法]
最初に、図1,図2を参照して、本発明の実施形態に係るホログラム生成装置におけるオクルージョンホールを補填する手法について説明する。図1は、本発明の実施形態に係るホログラム生成装置がホログラムを生成する際に用いる各種の映像の内容を説明するための説明図である。図2は、本発明の実施形態に係るホログラム生成装置において、オクルージョンホールを補填する手法の概略を説明するための説明図である。
以下、本手法を実現するためのホログラム生成装置の構成および動作について詳細に説明する。
まず、図3を参照して、本発明の実施形態に係るホログラム生成装置の構成について説明する。図3は、本発明の実施形態に係るホログラム生成装置の全体構成を示すブロック図である。
図4に示すように、ホログラム面(ホログラム画素h)がギャップgよりも手前に存在し、ギャップgが右奥にあって、ギャップgの両端の画素a,bのうち、奥側の画素bが手前側の画素aの左側にある場合、ホログラム画素hの位置からはギャップgが見えることになる。そこで、欠落画素補填手段30は、ホログラム画素hからはギャップgが見える範囲の画素を隣接映像から補填する。
これによって、ホログラム画素hの位置から見えるギャップgに相当する画素が、画素補填範囲Rの画素によって補填されることになる。
図6に示すように、ホログラム面とギャップgとが交差し、かつ、ホログラム画素hがギャップg上に存在せず、ギャップgより左下側に存在する場合、欠落画素補填手段30は、基本的には、図4と同様に、ホログラム画素hと、ギャップgを構成する手前側の画素aとを結んだ光線(直線)が、奥側の画素bの奥行値と同一の被写体面(z=zbのxy平面)に投影された画素と、画素bとを結んだ直線上の画素を画素補填範囲とすればよい。しかし、この場合、画素補填範囲は、画素bから無限遠の範囲となってしまう。また、ホログラム再生光は、(3)式で示したように、最大回折角度θ以上には拡散しない。
図8に示すように、ホログラム画素hがギャップg上に存在する場合、ホログラム画素hの位置から見える奥側の画素bの奥行値と同一の被写体面(z=zbのxy平面)は無限領域となる。しかし、この場合であっても、ホログラム再生光は、(3)式で示したように、最大回折角度θ以上には拡散しない。そこで、欠落画素補填手段30は、光の最大回折角度をθ、ギャップgの奥側の画素bの奥行値をzbとし、画素bから、上方向にzb×tanθを満たす画素dと、右方向にzb×tanθを満たす画素eとしたとき、扇型領域bdeを画素補填範囲Rとする。そして、欠落画素補填手段30は、画素補填範囲R上の画素を、隣接映像(図8の例では、左視点隣接映像)から選択する。
このように、ホログラム計算手段40は、ホログラム画素に仮想的に入射される光量を加算することで、ホログラム画素の画素値を算出することができる。
次に、図10を参照(構成については適宜図3参照)して、本発明の実施形態に係るホログラム生成装置の動作について説明する。図10は、本発明の実施形態に係るホログラム生成装置の動作を示すフローチャートである。
そして、ホログラム生成装置1は、奥行不連続検出手段10によって、ステップS1で選択されたホログラム画素hを中心に光の拡散範囲にある隣接する画素a,bの奥行値za,zbを比較する(ステップS2)。
そして、奥行値の差が所定値よりも大きい場合(ステップS3でYes)、ホログラム生成装置1は、補填映像選択手段20によって、オクルージョンホールを補填するための隣接映像を選択する(ステップS4)。なお、このステップS4の動作については、図11を参照して後で説明を行う。
さらに、ホログラム生成装置1は、欠落画素補填手段30によって、ステップS2でギャップと判定された領域を隣接映像の画素により補填する(ステップS5)。なお、このステップS5の動作については、図12を参照して後で説明を行う。
一方、光の拡散範囲内のすべての画素について参照を行った場合(ステップS6で“なし”)、ホログラム生成装置1は、ホログラム計算手段40によって、ステップS5によって補填された光の拡散範囲の画素の位置からの光量を加算することでホログラム画素の画素値を算出する(ステップS7)。なお、算出されたホログラム画素値は、順次ホログラムHを構成する画素値として外部に出力される。
一方、すべてのホログラム画素について、画素値を算出した場合(ステップS8で“なし”)、ホログラム生成装置1は、動作を終了する。
次に、図11を参照(構成については適宜図3参照)して、ホログラム生成装置1が、オクルージョンホールを補填するための隣接映像を選択する動作について説明する。なお、この動作は、図10で説明したステップS4の動作に相当し、補填映像選択手段20によって行われる。また、本説明では、適宜図4で用いた符号を用いることとする。
以上の動作によって、補填映像選択手段20は、ギャップの領域を補填する映像を複数の隣接映像の中から選択することができる。
次に、図12を参照(構成については適宜図3参照)して、ホログラム生成装置1が、オクルージョンホール(ギャップ)における欠落した画素を補填する動作について説明する。なお、この動作は、図10で説明したステップS5の動作に相当し、欠落画素補填手段30によって行われる。また、本説明では、適宜図4、図6、図8で用いた符号を用いることとする。
以上の動作によって、欠落画素補填手段30は、ギャップの領域を隣接映像の画素から補填することができる。
ここでは、被写体からの光が、水平・垂直の両方に拡散する全視差型のホログラムを生成する場合を例に、オクルージョンホールを補填したホログラムを生成するホログラム生成装置1について説明した。
10 奥行不連続検出手段
20 補填映像選択手段
30 欠落画素補填手段
40 ホログラム計算手段
H ホログラム
Z 奥行マップ
FC 基準映像
FNU 上視点隣接映像
FNV 下視点隣接映像
FNL 左視点隣接映像
FNR 右視点隣接映像
OH オクルージョンホール
g ギャップ(不連続領域)
Claims (10)
- 被写体像を含んだ基準映像と、当該基準映像に対して予め定めた視差を有する隣接映像と、当該基準映像における画素ごとの被写体までの奥行値を示す奥行マップとに基づいて、前記被写体の立体像を再生するためのホログラムを生成するホログラム生成装置であって、
前記奥行マップに基づいて、前記基準映像内の隣接画素間の奥行値の差が予め定めた値以上となる奥行きの不連続領域を検出する奥行不連続検出手段と、
3次元空間上において、前記奥行不連続検出手段で検出された不連続領域と、当該3次元空間上に仮想的に配置したホログラム面の画素であるホログラム画素との位置関係に基づいて、前記不連続領域に対応する画素を補填するための前記隣接映像を選択する補填映像選択手段と、
前記ホログラム画素の位置を中心とした予め定めた仮想的な光の拡散範囲で、前記隣接画素の奥側の画素の奥行値と同一の被写体平面上に前記不連続領域を投影した範囲の画素を、前記隣接映像から選択する欠落画素補填手段と、
前記ホログラム画素の位置からの前記光の拡散範囲において、前記基準映像の画素および前記欠落画素補填手段で選択された画素の各画素の位置から、前記ホログラム画素の位置に仮想的に入射される光量を加算して、当該ホログラム画素の画素値を算出するホログラム計算手段と、
を備えることを特徴とするホログラム生成装置。 - 前記隣接映像は、前記基準映像に対して左右方向にそれぞれ予め定めた視差を有する左視点隣接映像および右視点隣接映像であって、
前記奥行不連続検出手段は、左右に隣接する画素ごとに前記不連続領域を検出し、
前記補填映像選択手段は、前記不連続領域と前記ホログラム画素とを通る仮想光が、前記基準映像に対して前記ホログラム画素の左手前側に進んで行く場合には前記左視点隣接映像を、前記不連続領域と前記ホログラム画素とを通る仮想光が、前記基準映像に対して前記ホログラム画素の右手前側に進んで行く場合には前記右視点隣接映像を、前記隣接映像として選択することを特徴とする請求項1に記載のホログラム生成装置。 - 前記隣接映像は、前記基準映像に対して上下方向にそれぞれ予め定めた視差を有する上視点隣接映像および下視点隣接映像であって、
前記奥行不連続検出手段は、上下に隣接する画素ごとに前記不連続領域を検出し、
前記補填映像選択手段は、前記不連続領域と前記ホログラム画素とを通る仮想光が、前記基準映像に対して前記ホログラム画素の上手前側に進んで行く場合には前記上視点隣接映像を、前記不連続領域と前記ホログラム画素とを通る仮想光が、前記基準映像に対して前記ホログラム画素の下手前側に進んで行く場合には前記下視点隣接映像を、前記隣接映像として選択することを特徴とする請求項1に記載のホログラム生成装置。 - 前記隣接映像は、前記基準映像に対して、前記ホログラムを表示するディスプレイの画素サイズで定まるホログラム再生光の最大回折角度と、前記ホログラムから前記被写体までの最大距離とで特定される視差量以上の視差を有することを特徴とする請求項1に記載のホログラム生成装置。
- 前記欠落画素補填手段は、前記3次元空間上において、前記ホログラム画素が前記不連続領域上に存在する場合、前記不連続領域の奥側の画素の奥行値と同一の被写体平面上で、ホログラム再生光の最大回折角度で定まる光の拡散範囲内の画素を、前記隣接映像から選択することを特徴とする請求項1に記載のホログラム生成装置。
- 前記欠落画素補填手段は、前記3次元空間上において、前記ホログラム面が前記不連続領域と交差し、かつ、前記ホログラム画素が前記不連続領域上に存在しない場合、前記ホログラム画素の位置を視点として前記不連続領域が前記奥側の画素の奥行値と同一の被写体平面に投影された画素のうちで、前記奥側の画素からホログラム再生光の最大回折角度で定まる光の拡散範囲内の画素を、前記隣接映像から選択することを特徴とする請求項1に記載のホログラム生成装置。
- 前記欠落画素補填手段は、前記3次元空間上において、前記ホログラム面が前記不連続領域よりも手前に存在する場合、前記ホログラム画素と、前記不連続領域の手前側の画素とを結んだ直線が、前記不連続領域の奥側の奥行値と同一の被写体平面に投影された画素と、前記奥側の画素とを結んだ直線上の画素を、前記隣接映像から選択することを特徴とする請求項1に記載のホログラム生成装置。
- 前記欠落画素補填手段は、前記3次元空間上において、前記ホログラム面と前記不連続領域の奥側の奥行値と同一の被写体平面との距離が、所定値よりも小さい場合、欠落画素の補填を行わないことを特徴とする請求項1に記載のホログラム生成装置。
- 被写体像を含んだ基準映像と、当該基準映像に対して予め定めた視差を有する隣接映像と、当該基準映像における画素ごとの被写体までの奥行値を示す奥行マップとに基づいて、前記被写体の立体像を再生するためのホログラムを生成するホログラム生成方法であって、
隣接画素間の奥行きの不連続領域を検出する奥行不連続検出手段により、前記奥行マップに基づいて、前記基準映像内の隣接画素間の奥行値の差が予め定めた値以上となる奥行きの不連続領域を検出する奥行不連続検出ステップと、
前記不連続領域に対応する画素を補填するための隣接映像を選択する補填映像選択手段により、3次元空間上において、前記奥行不連続検出手段で検出された不連続領域と、当該3次元空間上に仮想的に配置したホログラム面の画素であるホログラム画素との位置関係に基づいて、前記不連続領域に対応する画素を含んだ前記隣接映像を選択する補填映像選択ステップと、
前記不連続領域に対応する画素を補填する欠落画素補填手段により、前記ホログラム画素の位置を中心とした予め定めた仮想的な光の拡散範囲で、前記隣接画素の奥側の画素の奥行値と同一の被写体平面上に前記不連続領域を投影した範囲の画素を、前記隣接映像から選択する欠落画素補填ステップと、
前記ホログラム画素の画素値を算出するホログラム計算手段により、前記ホログラム画素の位置からの前記光の拡散範囲において、前記基準映像の画素および前記欠落画素補填手段で選択された画素の各画素の位置から、前記ホログラム画素の位置に仮想的に入射される光量を加算して、当該ホログラム画素の画素値を算出するホログラム値演算ステップと、
を含むことを特徴とするホログラム生成方法。 - 被写体像を含んだ基準映像と、当該基準映像に対して予め定めた視差を有する隣接映像と、当該基準映像における画素ごとの被写体までの奥行値を示す奥行マップとに基づいて、前記被写体の立体像を再生するためのホログラムを生成するために、コンピュータを、
前記奥行マップに基づいて、前記基準映像内の隣接画素間の奥行値の差が予め定めた値以上となる奥行きの不連続領域を検出する奥行不連続検出手段、
3次元空間上において、前記奥行不連続検出手段で検出された不連続領域と、当該3次元空間上に仮想的に配置したホログラム面の画素であるホログラム画素との位置関係に基づいて、前記不連続領域に対応する画素を補填するための前記隣接映像を選択する補填映像選択手段、
前記ホログラム画素の位置を中心とした予め定めた仮想的な光の拡散範囲で、前記隣接画素の奥側の画素の奥行値と同一の被写体平面上に前記不連続領域を投影した範囲の画素を、前記隣接映像から選択する欠落画素補填手段、
前記ホログラム画素の位置からの前記光の拡散範囲において、前記基準映像の画素および前記欠落画素補填手段で選択された画素の各画素の位置から、前記ホログラム画素の位置に仮想的に入射される光量を加算して、当該ホログラム画素の画素値を算出するホログラム計算手段、
として機能させることを特徴とするホログラム生成プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008315776A JP5246864B2 (ja) | 2008-12-11 | 2008-12-11 | ホログラム生成装置、ホログラム生成方法およびホログラム生成プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008315776A JP5246864B2 (ja) | 2008-12-11 | 2008-12-11 | ホログラム生成装置、ホログラム生成方法およびホログラム生成プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010139746A true JP2010139746A (ja) | 2010-06-24 |
JP5246864B2 JP5246864B2 (ja) | 2013-07-24 |
Family
ID=42349948
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008315776A Expired - Fee Related JP5246864B2 (ja) | 2008-12-11 | 2008-12-11 | ホログラム生成装置、ホログラム生成方法およびホログラム生成プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5246864B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015065345A1 (en) * | 2013-10-30 | 2015-05-07 | Empire Technology Development Llc | Holographic image generation and reconstruction |
US9618902B2 (en) | 2012-11-26 | 2017-04-11 | Samsung Electronics Co., Ltd. | Apparatus and method for generating hologram pattern |
US9727023B2 (en) | 2013-04-15 | 2017-08-08 | Samsung Electronics Co., Ltd. | Apparatus and method for generating hologram pattern |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2689680C1 (ru) * | 2018-07-11 | 2019-05-28 | Федеральное государственное бюджетное образовательное учреждение высшего образования "Кубанский государственный аграрный университет имени И.Т. Трубилина" | Способ производства пробиотической добавки |
RU2762427C1 (ru) * | 2020-11-03 | 2021-12-21 | Федеральное государственное бюджетное образовательное учреждение высшего образования "Кубанский государственный аграрный университет имени И.Т. Трубилина" | Способ кормления цыплят-бройлеров |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06130881A (ja) * | 1992-10-14 | 1994-05-13 | Fujitsu Ltd | ホログラム情報作成方法 |
JPH10288939A (ja) * | 1997-04-16 | 1998-10-27 | Nippon Telegr & Teleph Corp <Ntt> | デプスバッファ利用による計算機ホログラム生成方法並びに装置 |
JP2003186378A (ja) * | 2001-12-17 | 2003-07-04 | Dainippon Printing Co Ltd | 計算機ホログラムの作成方法およびホログラム記録媒体 |
JP2003228270A (ja) * | 2001-11-30 | 2003-08-15 | Dainippon Printing Co Ltd | 真贋判定情報が記録されたホログラム |
-
2008
- 2008-12-11 JP JP2008315776A patent/JP5246864B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06130881A (ja) * | 1992-10-14 | 1994-05-13 | Fujitsu Ltd | ホログラム情報作成方法 |
JPH10288939A (ja) * | 1997-04-16 | 1998-10-27 | Nippon Telegr & Teleph Corp <Ntt> | デプスバッファ利用による計算機ホログラム生成方法並びに装置 |
JP2003228270A (ja) * | 2001-11-30 | 2003-08-15 | Dainippon Printing Co Ltd | 真贋判定情報が記録されたホログラム |
JP2003186378A (ja) * | 2001-12-17 | 2003-07-04 | Dainippon Printing Co Ltd | 計算機ホログラムの作成方法およびホログラム記録媒体 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9618902B2 (en) | 2012-11-26 | 2017-04-11 | Samsung Electronics Co., Ltd. | Apparatus and method for generating hologram pattern |
US9727023B2 (en) | 2013-04-15 | 2017-08-08 | Samsung Electronics Co., Ltd. | Apparatus and method for generating hologram pattern |
WO2015065345A1 (en) * | 2013-10-30 | 2015-05-07 | Empire Technology Development Llc | Holographic image generation and reconstruction |
Also Published As
Publication number | Publication date |
---|---|
JP5246864B2 (ja) | 2013-07-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4489610B2 (ja) | 立体視可能な表示装置および方法 | |
JP4764305B2 (ja) | 立体画像生成装置、方法およびプログラム | |
JP2008146221A (ja) | 画像表示システム | |
US20110026809A1 (en) | Fast multi-view three-dimensional image synthesis apparatus and method | |
TWI492186B (zh) | 修補三維立體影像之裝置及方法 | |
KR20110049039A (ko) | 능동 부화소 렌더링 방식 고밀도 다시점 영상 표시 시스템 및 방법 | |
TWI496452B (zh) | 立體影像系統、立體影像產生方法、立體影像調整裝置及其方法 | |
JP5246864B2 (ja) | ホログラム生成装置、ホログラム生成方法およびホログラム生成プログラム | |
TW201333533A (zh) | 用於模擬自動立體顯示裝置的顯示設備及方法 | |
JP2005151534A (ja) | 擬似立体画像作成装置及び擬似立体画像作成方法並びに擬似立体画像表示システム | |
JP5987267B2 (ja) | 画像処理装置および画像処理方法 | |
WO2012157540A1 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
KR101066550B1 (ko) | 가상시점 영상 생성방법 및 그 장치 | |
JP2011215422A (ja) | 表示装置及び立体画像の表示方法 | |
JP2010226500A (ja) | 立体画像表示装置および立体画像表示方法 | |
JPH08115439A (ja) | 画像データ処理装置及び画像再生装置 | |
JP2015104107A (ja) | Ip立体映像推定装置及びそのプログラム | |
JP4214529B2 (ja) | 奥行き信号生成装置、奥行き信号生成プログラム、擬似立体画像生成装置、及び擬似立体画像生成プログラム | |
TWI547904B (zh) | 多視角視差圖的補洞方法 | |
JP5691965B2 (ja) | 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム | |
JP2013135357A (ja) | 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム | |
JP4963467B2 (ja) | ホログラムパターン発生装置、電子ホログラフィの非点収差補正方法、および、ホログラムパターン発生プログラム | |
JP2006185033A (ja) | 擬似立体画像生成装置及び擬似立体画像生成プログラム並びに擬似立体画像表示システム | |
KR101192121B1 (ko) | 양안시차 및 깊이 정보를 이용한 애너그리프 영상 생성 방법 및 장치 | |
JP5099825B2 (ja) | 干渉縞データ生成装置、干渉縞データ生成方法及び干渉縞データ生成プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111111 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120815 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130319 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130405 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5246864 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160419 Year of fee payment: 3 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |