JP6631607B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP6631607B2 JP6631607B2 JP2017179761A JP2017179761A JP6631607B2 JP 6631607 B2 JP6631607 B2 JP 6631607B2 JP 2017179761 A JP2017179761 A JP 2017179761A JP 2017179761 A JP2017179761 A JP 2017179761A JP 6631607 B2 JP6631607 B2 JP 6631607B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- predetermined area
- unit
- imaging
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000003384 imaging method Methods 0.000 claims description 47
- 238000000034 method Methods 0.000 claims description 32
- 230000008569 process Effects 0.000 claims description 27
- 238000001514 detection method Methods 0.000 claims description 14
- 230000002194 synthesizing effect Effects 0.000 claims description 11
- 230000004044 response Effects 0.000 claims description 9
- 239000002131 composite material Substances 0.000 description 16
- 210000001747 pupil Anatomy 0.000 description 10
- 230000006870 function Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 210000000554 iris Anatomy 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 235000002673 Dioscorea communis Nutrition 0.000 description 1
- 241000544230 Dioscorea communis Species 0.000 description 1
- 241001469893 Oxyzygonectes dovii Species 0.000 description 1
- 208000035753 Periorbital contusion Diseases 0.000 description 1
- 241001504424 Zosteropidae Species 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000015654 memory Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Description
1)瞳に映り込みが少なく目が生き生きしていない(図6(b)参照)。
2)自撮りの場合はカメラや自分の手が映り込んでしまう(図6(c)参照)。
といった問題が生じる場合がある。
第1の撮像手段と、
前記第1の撮像手段とは撮像方向が異なる第2の撮像手段と、
撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を取得させる撮影制御手段と、
前記第1の画像から所定の領域を検出する領域検出手段と、
前記第1の画像に顔認識処理を行い、認識された顔が向いている方向を検出する顔方向検出手段と、
前記顔方向検出手段により検出された顔が向いている方向の画像を前記第2の画像から切り出す切り出し手段と、
前記第1の画像における前記所定の領域に、前記切り出し手段により切り出し処理が行われた前記第2の画像を合成する合成手段と、
を備える。
[画像処理装置1の構成]
図1の(a)は、本発明の実施形態における画像処理装置1の正面図であり、(b)は、画像処理装置1の背面図である。図1(a)に示すように、画像処理装置1の正面側には、画像処理装置1の正面方向を撮影するためのインカメラ16のレンズ161が備えられ、図1(b)に示すように、画像処理装置1の背面側には、画像処理装置1の背面方向を撮影するためのアウトカメラ17のレンズ171が備えられている。
次に、画像処理装置1の動作について説明する。
図3は、画像処理装置1のCPU11により実行される自撮り処理Aを示すフローチャートである。自撮り処理Aは、操作部14により自撮りモードが設定され、撮影が指示された場合に、CPU11と記憶部13に記憶されているプログラムとの協働により実行される。
インカメラ16では、ユーザ自身が映ったインカメラ画像を取得することができる。アウトカメラ17では、ユーザの瞳に映り込むはずだった光景が映ったアウトカメラ画像を取得することができる。
なお、インカメラ16とアウトカメラ17は同時に撮像を行うことが好ましいが、わずかにそのタイミングがずれても構わない。
例えば、CPU11は、インカメラ画像に顔認識処理を行って顔領域を認識し、認識した顔領域から目の領域を検出する。顔検出処理は、例えば、Haar−like特徴等を用いた手法等、公知の画像処理技術を用いて行うことができる。また、目の領域の検出は、例えば、AAM(Active Appearance Model)を用いた手法等の公知の画像処理技術を用いて行うことができる。検出された顔領域や目の領域の位置座標は、RAM12に記憶される。目の領域は、黒目のみの領域としてもよいし、黒目と白目を合わせた領域としてもよい。
ここで、本処理では、瞳(目)への光の映り込みが不足している場合に、人物の表情を生き生きとさせるためにアウトカメラ画像を合成する。そのため、瞳への光の映り込みが十分な場合は、合成は不要である。そこで、CPU11は、例えば、インカメラ画像の取得時にフラッシュ撮影が行われた場合、または瞳への光の映り込みが十分な場合は、合成は行わないと判断する。瞳への光の映り込みが十分であるか否かは、例えば、インカメラ画像の目の領域の輝度(例えば、YUVデータのY信号)が予め定められた閾値以上の領域が目の領域の所定の割合以上を占める場合に、瞳への光の映り込みが十分であると判断する。
なお、ステップS2において目の領域が検出されなかった場合についても、合成を行わないと判断する。
ステップS4において、CPU11は、まず、アウトカメラ画像の縮小処理を行う。例えば、インカメラ画像から検出された目の領域の大きさに基づいて縮小率を決定し、決定した縮小率でアウトカメラ画像を縮小する。次いで、CPU11は、例えば、縮小したアウトカメラ画像の中心を歪み中心として、縮小したアウトカメラ画像に歪加工処理を行う。次いで、CPU11は、歪み加工処理後のアウトカメラ画像と、インカメラ画像の合成対象の目の領域の大きさに基づいて、歪み加工処理後のアウトカメラ画像にトリミングを行う。
なお、アウトカメラ17が全天周カメラであり、アウトカメラ画像が全天周画像である場合は、歪加工処理は省略してもよい。
例えば、インカメラ画像の目の領域にユーザの手や画像処理装置1が映っている場合がある(図6(c)参照)。そこで、ステップS5においては、インカメラ画像の目の領域からこれらの不要な映り込みを除去する処理を行う。例えば、黒目の領域、白目の領域のそれぞれの画素値を、その領域の画素値の代表値(平均値、最大値、最小値、中央値等)に置き換える処理等を行う。
例えば、インカメラ画像の目の領域の各画素の輝度値(例えば、YUVデータのY信号)を加工済みのアウトカメラ画像の対応する画素の輝度値により上書きすることにより合成する。あるいは、アルファブレンド等によりアウトカメラ画像を透過画像としてインカメラ画像の目の領域に合成することとしてもよい。これにより、合成画像に不自然さが生じないようにすることができる。
一方、ステップS3において、合成を行わないと判断した場合(ステップS3;NO)、CPU11は、インカメラ画像を記憶部13に保存させ(ステップS8)、自撮り処理Aを終了する。
次に、本発明の第2の実施形態について説明する。
第2の実施形態における画像処理装置1の構成は、第1の実施形態で説明したものと同様であるので説明を援用し、以下、第2の実施形態の動作について説明する。
ステップS13において、CPU11は、例えば、アウトカメラ動画像の1番目のフレーム画像をアウトカメラ画像として図3のステップS2、S4〜S6の処理を実行することにより、インカメラ画像の目の領域にアウトカメラ動画像の1番目のフレーム画像を合成する。
合成画像における目の領域のタッチ操作が操作部14により検出されていないと判断した場合(ステップS22;NO)、CPU11は、操作部14により合成画像を閉じる指示が検出されたか否かを判断する(ステップS23)。合成画像を閉じる操作が検出されていないと判断した場合(ステップS23;NO)、CPU11は、ステップS22に戻る。合成画像を閉じる操作が検出されたと判断した場合(ステップS23;YES)、CPU11は、合成画像を閉じて再生制御処理を終了する。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
[付記]
<請求項1>
第1の撮像手段と、
前記第1の撮像手段とは異なる方向を撮像する第2の撮像手段と、
撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を取得させる撮影制御手段と、
前記第1の画像から所定の領域を検出する検出手段と、
前記第1の画像における前記所定の領域に前記第2の画像を合成する合成手段と、
を備える画像処理装置。
<請求項2>
前記第2の画像に切り出し処理を行う切り出し手段を備え、
前記合成手段は、前記切り出し手段により前記第2の画像から切り出された画像を前記所定の領域に合成する請求項1に記載の画像処理装置。
<請求項3>
前記第1の画像に顔認識処理を行い、認識された顔が向いている方向を検出する顔方向検出手段を備え、
前記切り出し手段は、前記顔が向いている方向の画像を前記第2の画像から切り出す請求項2に記載の画像処理装置。
<請求項4>
前記撮影制御手段は、撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を略同時に取得させる請求項1〜3のいずれか一項に記載の画像処理装置。
<請求項5>
前記所定の領域は、目の領域又は外部の像が映り込む領域である請求項1〜4のいずれか一項に記載の画像処理装置。
<請求項6>
前記合成手段は、前記第2の画像に加工を施してから合成する請求項1〜5のいずれか一項に記載の画像処理装置。
<請求項7>
前記合成手段は、前記第1の画像に加工を施してから合成する請求項1〜6のいずれか一項に記載の画像処理装置。
<請求項8>
前記第2の撮像手段は、前記第2の画像として動画像を取得し、
前記合成手段は、前記第1の画像における前記所定の領域に前記動画像を合成する請求項1〜7のいずれか一項に記載の画像処理装置。
<請求項9>
前記所定の領域に前記動画像が合成された前記第1の画像を表示する表示手段と、
前記表示手段に表示された前記第1の画像の前記所定の領域がタッチされた際に、前記動画像の再生を開始するように制御する再生制御手段を備える請求項8に記載の画像処理装置。
<請求項10>
第1の画像と、前記第1の画像の撮像と同時に前記第1の画像とは異なる方向を撮像することにより取得された第2の画像とを記憶する記憶手段と、
前記第1の画像から所定の領域を検出する検出手段と、
前記第1の画像における前記所定の領域に前記第2の画像を合成する合成手段と、
を備える画像処理装置。
<請求項11>
第1の撮像手段と、前記第1の撮像手段とは異なる方向を撮像する第2の撮像手段と、を備える画像処理装置における画像処理方法であって、
撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を取得させる工程と、
前記第1の画像から所定の領域を検出する工程と、
前記第1の画像における前記所定の領域に前記第2の画像を合成する工程と、
を含む画像処理方法。
<請求項12>
画像処理装置における画像処理方法であって、
第1の画像と、前記第1の画像の撮像と同時に前記第1の画像とは異なる方向を撮像することにより取得された第2の画像とを記憶手段に記憶する工程と、
前記第1の画像から所定の領域を検出する工程と、
前記第1の画像における前記所定の領域に前記第2の画像を合成する工程と、
を含む画像処理方法。
<請求項13>
第1の撮像手段と、前記第1の撮像手段とは異なる方向を撮像する第2の撮像手段と、を備える画像処理装置に用いられるコンピュータを、
撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を取得させる撮影制御手段、
前記第1の画像から所定の領域を検出する検出手段、
前記第1の画像における前記所定の領域に前記第2の画像を合成する合成手段、
として機能させるためのプログラム。
<請求項14>
コンピュータを、
第1の画像と、前記第1の画像の撮像と同時に前記第1の画像とは異なる方向を撮像することにより取得された第2の画像とを記憶する記憶手段、
前記第1の画像から所定の領域を検出する検出手段、
前記第1の画像における前記所定の領域に前記第2の画像を合成する合成手段、
として機能させるためのプログラム。
11 CPU
12 RAM
13 記憶部
14 操作部
15 表示部
16 インカメラ
17 アウトカメラ
18 通信部
Claims (12)
- 第1の撮像手段と、
前記第1の撮像手段とは撮像方向が異なる第2の撮像手段と、
撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を取得させる撮影制御手段と、
前記第1の画像から所定の領域を検出する領域検出手段と、
前記第1の画像に顔認識処理を行い、認識された顔が向いている方向を検出する顔方向検出手段と、
前記顔方向検出手段により検出された顔が向いている方向の画像を前記第2の画像から切り出す切り出し手段と、
前記第1の画像における前記所定の領域に、前記切り出し手段により切り出し処理が行われた前記第2の画像を合成する合成手段と、
を備えることを特徴とする画像処理装置。 - 前記撮影制御手段は、撮影指示に応じて、前記第1の撮像手段により第1の画像を取得させるとともに前記第2の撮像手段により第2の画像を略同時に取得させることを特徴とする請求項1に記載の画像処理装置。
- 前記所定の領域は、目の領域又は外部の像が映り込む領域であることを特徴とする請求項1又は2に記載の画像処理装置。
- 前記合成手段は、前記第2の画像に加工を施してから合成することを特徴とする請求項1〜3のいずれか一項に記載の画像処理装置。
- 前記合成手段は、前記第1の画像に加工を施してから合成することを特徴とする請求項1〜4のいずれか一項に記載の画像処理装置。
- 第1の撮像手段と、
前記第1の撮像手段とは撮像方向が異なる第2の撮像手段と、
撮影指示に応じて、前記第1の撮像手段により画像を取得させるとともに前記第2の撮像手段により動画像を取得させる撮影制御手段と、
前記画像から所定の領域を検出する領域検出手段と、
前記画像における前記所定の領域に前記動画像を合成する動画合成手段と、
前記所定の領域に前記動画像が合成された前記画像を表示する表示手段と、
前記表示手段に表示された前記画像の前記所定の領域がタッチされた際に、前記動画像の再生を開始するように制御する再生制御手段と、
を備えることを特徴とする画像処理装置。 - 第1の画像と、前記第1の画像の撮像と同時に前記第1の画像とは異なる方向を撮像することにより取得された第2の画像とを記憶する記憶手段と、
前記第1の画像から所定の領域を検出する領域検出手段と、
前記第1の画像に顔認識処理を行い、認識された顔が向いている方向を検出する顔方向検出手段と、
前記顔方向検出手段により検出された顔が向いている方向の画像を前記第2の画像から切り出す切り出し手段と、
前記第1の画像における前記所定の領域に、前記切り出し手段により切り出し処理が行われた前記第2の画像を合成する合成手段と、
を備えることを特徴とする画像処理装置。 - 画像と、前記画像の撮像と同時に前記画像とは異なる方向を撮像することにより取得された動画像とを記憶する記憶手段と、
前記画像から所定の領域を検出する領域検出手段と、
前記画像における前記所定の領域に前記動画像を合成する動画合成手段と、
前記所定の領域に前記動画像が合成された前記画像を表示する表示手段と、
前記表示手段に表示された前記画像の前記所定の領域がタッチされた際に、前記動画像の再生を開始するように制御する再生制御手段と、
を備えることを特徴とする画像処理装置。 - 画像処理装置における画像処理方法であって、
第1の画像と、前記第1の画像の撮像と同時に前記第1の画像とは異なる方向を撮像することにより取得された第2の画像とを記憶手段に記憶する工程と、
前記第1の画像から所定の領域を検出する工程と、
前記第1の画像に顔認識処理を行い、認識された顔が向いている方向を検出する工程と、
前記顔が向いている方向を検出する工程により検出された顔が向いている方向の画像を前記第2の画像から切り出す工程と、
前記第1の画像における前記所定の領域に、前記切り出す工程により切り出し処理が行われた前記第2の画像を合成する工程と、
を含むことを特徴とする画像処理方法。 - 画像処理装置における画像処理方法であって、
画像と、前記画像の撮像と同時に前記画像とは異なる方向を撮像することにより取得された動画像とを記憶部に記憶する工程と、
前記画像から所定の領域を検出する工程と、
前記画像における前記所定の領域に前記動画像を合成する工程と、
前記所定の領域に前記動画像が合成された前記画像を表示部に表示する工程と、
前記表示された前記画像の前記所定の領域がタッチされた際に、前記動画像の再生を開始するように制御する工程と、
を含むことを特徴とする画像処理方法。 - コンピュータを、
第1の画像と、前記第1の画像の撮像と同時に前記第1の画像とは異なる方向を撮像することにより取得された第2の画像とを記憶する記憶手段、
前記第1の画像から所定の領域を検出する領域検出手段、
前記第1の画像に顔認識処理を行い、認識された顔が向いている方向を検出する顔方向検出手段、
前記顔方向検出手段により検出された顔が向いている方向の画像を前記第2の画像から切り出す切り出し手段、
前記第1の画像における前記所定の領域に、前記切り出し手段により切り出し処理が行われた前記第2の画像を合成する合成手段、
として機能させることを特徴とするプログラム。 - コンピュータを、
画像と、前記画像の撮像と同時に前記画像とは異なる方向を撮像することにより取得された動画像とを記憶部に記憶する記憶手段、
前記画像から所定の領域を検出する領域検出手段、
前記画像における前記所定の領域に前記動画像を合成する動画合成手段、
前記所定の領域に前記動画像が合成された前記画像を表示部に表示する表示手段、
前記表示手段に表示された前記画像の前記所定の領域がタッチされた際に、前記動画像の再生を開始するように制御する再生制御手段、
として機能させることを特徴とするプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017179761A JP6631607B2 (ja) | 2017-09-20 | 2017-09-20 | 画像処理装置、画像処理方法及びプログラム |
CN201810729903.1A CN109525772B (zh) | 2017-09-20 | 2018-07-05 | 图像处理装置、图像处理方法以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017179761A JP6631607B2 (ja) | 2017-09-20 | 2017-09-20 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019056997A JP2019056997A (ja) | 2019-04-11 |
JP6631607B2 true JP6631607B2 (ja) | 2020-01-15 |
Family
ID=65769729
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017179761A Expired - Fee Related JP6631607B2 (ja) | 2017-09-20 | 2017-09-20 | 画像処理装置、画像処理方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6631607B2 (ja) |
CN (1) | CN109525772B (ja) |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004080099A (ja) * | 2002-08-09 | 2004-03-11 | Canon Inc | 撮像装置及び画像処理方法 |
JP5115139B2 (ja) * | 2007-10-17 | 2013-01-09 | ソニー株式会社 | 構図判定装置、構図判定方法、プログラム |
JP5042896B2 (ja) * | 2008-03-25 | 2012-10-03 | オリンパス株式会社 | 画像処理装置および画像処理プログラム |
JP5963256B2 (ja) * | 2012-08-17 | 2016-08-03 | Kddi株式会社 | 画像生成装置 |
JP2016009873A (ja) * | 2014-06-20 | 2016-01-18 | ソニー株式会社 | 情報処理装置、情報処理システム、情報処理方法およびプログラム |
-
2017
- 2017-09-20 JP JP2017179761A patent/JP6631607B2/ja not_active Expired - Fee Related
-
2018
- 2018-07-05 CN CN201810729903.1A patent/CN109525772B/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN109525772A (zh) | 2019-03-26 |
JP2019056997A (ja) | 2019-04-11 |
CN109525772B (zh) | 2020-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10469746B2 (en) | Camera and camera control method | |
JP5136669B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
KR101817657B1 (ko) | 디지털 촬영 장치 및 이의 제어 방법 | |
US8587658B2 (en) | Imaging device, image display device, and program with intruding object detection | |
KR20160128366A (ko) | 이동 단말의 촬영 방법 및 이동 단말 | |
JP2004040712A (ja) | 撮像装置 | |
KR20090088325A (ko) | 화상 처리 장치, 화상 처리 방법 및 촬상 장치 | |
JP2010141649A (ja) | 撮像装置、顔検出方法及びプログラム | |
US9253406B2 (en) | Image capture apparatus that can display review image, image capture method, and storage medium | |
JP2010041586A (ja) | 撮像装置 | |
CN115706850A (zh) | 图像拍摄的方法、设备、存储介质和程序产品 | |
JP2011223294A (ja) | 撮像装置 | |
JP5370555B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP2014068081A (ja) | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 | |
JP6330862B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP2012257112A (ja) | 撮像装置およびプログラム | |
JP2011239267A (ja) | 撮像装置及び画像処理装置 | |
JP6631607B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4632417B2 (ja) | 撮像装置、及びその制御方法 | |
JP5951988B2 (ja) | 画像合成装置及び画像合成方法 | |
JP2013081136A (ja) | 画像処理装置および制御プログラム | |
JP5289354B2 (ja) | 撮像装置 | |
JP6211139B2 (ja) | 画像合成装置 | |
JP6470594B2 (ja) | 撮像装置、その制御方法、及びプログラム | |
JP2004208024A (ja) | 撮像装置および撮像方法およびプログラムおよび記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181107 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181107 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190903 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191030 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191125 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6631607 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |