JP2022137198A - 画像処理装置、画像処理方法、及び画像処理プログラム - Google Patents
画像処理装置、画像処理方法、及び画像処理プログラム Download PDFInfo
- Publication number
- JP2022137198A JP2022137198A JP2022112099A JP2022112099A JP2022137198A JP 2022137198 A JP2022137198 A JP 2022137198A JP 2022112099 A JP2022112099 A JP 2022112099A JP 2022112099 A JP2022112099 A JP 2022112099A JP 2022137198 A JP2022137198 A JP 2022137198A
- Authority
- JP
- Japan
- Prior art keywords
- correction
- template
- image
- degree
- coordinates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 9
- 238000012937 correction Methods 0.000 claims abstract description 338
- 238000012545 processing Methods 0.000 claims abstract description 101
- 210000000056 organ Anatomy 0.000 claims description 33
- 230000001815 facial effect Effects 0.000 claims description 7
- 230000002093 peripheral effect Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 claims description 3
- 230000009467 reduction Effects 0.000 claims description 3
- 238000000034 method Methods 0.000 abstract description 56
- 238000003384 imaging method Methods 0.000 abstract description 52
- 230000008569 process Effects 0.000 description 43
- 238000001514 detection method Methods 0.000 description 36
- 238000010586 diagram Methods 0.000 description 23
- 238000012986 modification Methods 0.000 description 18
- 230000004048 modification Effects 0.000 description 18
- 230000006870 function Effects 0.000 description 13
- 210000000887 face Anatomy 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000010191 image analysis Methods 0.000 description 6
- 238000009966 trimming Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 238000007796 conventional method Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000005286 illumination Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 230000033001 locomotion Effects 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 230000000593 degrading effect Effects 0.000 description 2
- 210000004709 eyebrow Anatomy 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 240000007594 Oryza sativa Species 0.000 description 1
- 235000007164 Oryza sativa Nutrition 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 235000009566 rice Nutrition 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/754—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
-
- G06T5/80—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
- G06V10/247—Aligning, centring, orientation detection or correction of the image by affine transforms, e.g. correction due to perspective effects; Quadrilaterals, e.g. trapezoids
Abstract
【解決手段】撮像装置は、画像取得部51と、テンプレート記憶部62と、適合位置特定部53と、歪曲補正処理部55と、を有する。画像取得部51は、所定の被写体が写った画像を取得する。テンプレート記憶部62は、所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する。適合位置特定部53は、画像内のテンプレートに適合する座標を特定する。歪曲補正処理部55は、適合位置特定部53が特定した座標と、テンプレートに含まれる補正度合いとに基づいて、画像に対して補正を行う。
【選択図】図3
Description
このような、画像解析処理による輪郭全体の精度高い特定を要することなく、より簡略な方法にて補正処理を実現することが望まれる。
所定の被写体が写った画像を取得する取得手段と、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶手段と、
前記画像内の前記テンプレートに適合する座標を特定する特定手段と、
前記特定手段が特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正手段と、
を有することを特徴とする。
撮像装置1は、例えば、デジタルカメラとして構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
光学レンズ部にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号を撮像画像のデータとしてCPU11や図示しない画像処理部等に適宜供給される。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
以下では、撮像装置1による、このテンプレートを利用した歪曲補正を行う一連の処理を「細顔補正処理」と称する。次に、図2を参照して、細顔補正処理の概要について説明する。
図2は、撮像装置1による、細顔補正処理の概要を説明するための模式図である。
図2においては、顔に含まれる所定の器官である鼻筋を含む領域と、所定の部位である左右のフェイスライン領域それぞれとに対して、局所的な歪曲補正を行う例を示している。
この点、従来であれば、適切な歪曲補正を行うためには、ユーザの補正対象とするユーザの器官や所定の部位の位置と、これら器官や所定の部位の輪郭全体とを、精度高く特定する必要があった。これに対して、撮像装置1は、上述したように、器官や所定の部位の輪郭を精度高く検出する必要をなくした上で、補正後の画像の品質をほぼ落すことなく歪曲補正を行うことができる。
つまり、本実施形態によれば、より簡略な方法にて補正処理を実現することができる。
図3は、図1の撮像装置1の機能的構成のうち、細顔補正処理を実行するための機能的構成を示す機能ブロック図である。
上述したように、細顔補正処理とは、テンプレートを利用した歪曲補正を行う一連の処理をいう。
また、記憶部19の一領域には、画像記憶部61と、テンプレート記憶部62と、が設定される。
テンプレート記憶部62には、顔の各種部位に対応する形状のテンプレートのデータが記憶される。テンプレートの詳細については、図4を参照して説明する。
次に、テンプレート記憶部62が記憶するテンプレートの詳細について図4を参照して説明する。図4は、テンプレートの形状及びアルファ値の例と、テンプレートが適用される顔の部位との関係を示す模式図である。
ここで、テンプレートは、一般的な顔において顔の所定の器官や所定の部位に対応する補正対象領域の形状を模したテンプレートであり、顔の特定の部位らしさを表すものである。また、上述のように、補正対象領域に対応した形状内における、各位置の補正度合いを示すアルファ値を含む。
次に、顔検出部52及び適合位置特定部53により行われる、元画像に対するテンプレートの適合について説明する。図5は、元画像に対するテンプレートの適合について説明するための模式図である。図5では、画像取得部51が取得した元画像における鼻に対して、鼻用テンプレートT1を適合する場合を例に取って説明する。
以下の図5(B)以降を参照して説明する適合に関する処理は、このように検出された各特徴点の元画像における座標に基づいて行われる。なお、顔検出部52による、顔検出及び各特徴点の検出は、既存の顔検出技術及び特徴点検出技術を用いることができる。
次に、アルファマップ作成部54により行われる、アルファマップの作成について説明をする。図6は、複数のテンプレートを用いたアルファマップの生成について説明するための模式図である。
図6(A)に示すように、アルファマップ作成部54は、適合位置特定部53により特定された、複数のテンプレートそれぞれに適合する座標を取得する。
次に、歪曲補正処理部55により行われる、アルファマップに含まれるアルファ値に基づいた歪曲補正について説明をする。図2を参照して上述したように、本実施形態では、元画像に対して、アルファマップに含まれるアルファ値に基づいた歪曲補正を行う。
(xout,yout)=(xin,yin)×(1-α)+(xdist,ydist)×α
但し、
(xin,yin):元画像の座標
(xout,yout):アルファマップ適用後座標
(xdist,ydist):アルファマップ適用前補正座標
であるものとする。また、αの値は、(0≦α≦1)の値をとるものとする。
すなわち、上述した複数のテンプレートにおける補正度合いに対応した、局部的な歪曲補正が行われる。かかる歪曲補正が奏する効果について図7、図8及び図9を参照して説明する。
図10は、図3の機能的構成を有する図1の撮像装置1が実行する細顔補正処理の流れを説明するフローチャートである。
細顔補正処理は、ユーザによる入力部17への細顔補正処理開始の操作により開始される。
細顔補正処理開始の操作は、撮影指示操作とすることが可能であり、この撮影指示操作に応じて撮像部16により撮像された画像を対象として、現像処理を行い、引き続き細顔補正処理を行うことができる。また、画像記憶部61に記憶されている撮像画像のデータを選択し、その選択された撮像画像のデータに対して、細顔補正処理開始の操作を行うこととしてもよい。
顔が検出されなかった場合には、ステップS12においてNOと判定されて、細顔補正処理は終了する。
顔が検出された場合には、ステップS12においてYESと判定されて、処理はステップS13に進む。
その後、細顔補正処理が終了する。
以上説明した動作により、図9を参照して上述したような、ユーザの顔を違和感なく自然な細顔とした画像が生成される。
画像取得部51は、所定の被写体が写った画像を取得する。
テンプレート記憶部62は、所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する。
適合位置特定部53は、画像内のテンプレートに適合する座標を特定する。
歪曲補正処理部55は、適合位置特定部53が特定した座標と、テンプレートに含まれる補正度合いとに基づいて、画像に対して補正を行う。
これにより、テンプレートを適合させることにより補正を実現できることから、器官や所定の部位の輪郭を精度高く検出する必要をなくすことができる。従って、より簡略な方法にて補正処理を実現することができる。更に、器官や所定の部位の輪郭を精度高く検出しない場合であっても、補正後の画像の品質をほぼ落すことなく補正を行うことができる。
また、補正対象領域以外に対しては不要な補正を行うことなく、テンプレートに対応する補正対象領域に対してのみ歪曲補正を行うことができる。また、一律な補正度合いによる歪曲補正ではなく、テンプレートに含まれる補正度合い応じた、器官や所定の部位それぞれ毎に適切な歪曲補正を行うことができる。
画像を解析することにより、所定の被写体の第1特徴点に対応する座標と、所定の被写体の第2特徴点に対応する座標とを検出し、
検出した第1特徴点の座標に基づいてテンプレートにおける基点に適合する座標を特定し、検出した第2特徴点の座標に基づいてテンプレートにおける輪郭に適合する座標を特定する。
これにより、特徴点のみを検出することにで、テンプレートに適合する座標を特定することができる。
第1特徴点の座標にテンプレートの基点を配置し、配置したテンプレートの基点を回転中心としてテンプレートを回転させることによりテンプレートに適合する座標を特定する。
これにより、各角度に応じた複数のテンプレートを用意することなく、顔の向きや大きさがそれぞれ異なる多様な元画像それぞれに対して、回転をするのみで、共通のテンプレートを適合させることができる。
検出した第2特徴点の座標と、テンプレートにおける輪郭とに基づいて、テンプレートの輪郭の形状を維持した拡大又は縮小を行う。
これにより、大きさが異なる複数のテンプレートを用意することなく、顔の向きや大きさがそれぞれ異なる多様な元画像それぞれに対して、拡大又は縮小をするのみで、共通のテンプレートを適合させることができる。
テンプレートに含まれる補正度合いの変更は行わない。
これにより、元画像に含まれる所定の被写体の大きさによらず、テンプレートに対応した補正度合いで補正を行うことができる。
歪曲補正処理部55は、適合位置特定部53が修正した補正度合いと、適合位置特定部53が特定した座標とに基づいて画像に対して補正を行う。
これにより、被写体の状態に基づいて、より適切に修正された補正度合いに基づいて、歪曲補正を行なうことができる。例えば、顔が、顔の上下方向軸を中心として左右に回転する場合(すなわち、ヨーイングする場合)や、顔の左右方向軸を中心として上下に回転する場合(すなわち、ピッチングする場合)のそれぞれに対応して修正された補正度合いに基づいて、歪曲補正を行なうことができる。そのため、例えば、顔全体のバランスを考慮した歪曲補正を行なうことができる。
これにより、深度情報という明確な指標に基づいて、被写体の傾き度合いを特定することができる。そのため、被写体の傾き度合いに応じた程度で、補正度合いを修正することができる。例えば、より傾いている場合には、より補正度合いを強くする(あるいは、弱くする)というように修正をすることができる。
画像に対する補正として、少なくとも、テンプレートに含まれる補正度合いに対応した補正度合いで、画像の座標を移動することにより歪曲補正を行う。
これにより、テンプレート対応した補正度合いで、違和感なく自然な歪曲補正により補正できる。
適合位置特定部53は、複数のテンプレートについて適合する座標を、複数の前記テンプレートそれぞれ毎に独立して特定する。
これにより、顔の向きや大きさがそれぞれ異なる多様な元画像にそれぞれに対して、予め用意されている共通のテンプレートを適合させることができる。
補正対象領域は、顔の器官又は顔の部位である。
これにより、被写体の顔を違和感なく自然な細顔とすることができる。
これにより、補正対象領域となる所定の器官の輪郭や所定の部位の輪郭と、テンプレートの輪郭とが、完全に適合しなかった場合であっても、輪郭周辺へ与える影響は少なく、全体として被写体を違和感なく自然に補正することができる。
図5を参照して上述した例では、適合位置特定部53は、基点P11と、輪郭点P31及び輪郭点P32とを利用して適合を行ったが、これに限らず、他の輪郭点を用いて適合を行うようにしてもよい。
例えば、輪郭点P31及び輪郭点P32に代えて、輪郭点P21及び輪郭点P22を用いて適合を行うようにしてもよい。この場合、例えば、図5(C)に示すように、テンプレートを回転させる場合に、輪郭点P21と輪郭点P22を結ぶ直線と、Y軸に平行な直線とのなす角度である角度(以下、「角度A2」と称する。)を、角度A1の代わりに用いるようにしてもよい。また、例えば、図5(D)に示すように、テンプレートを拡大又は縮小させる場合に、鼻用テンプレートT1の両端が、輪郭点P21と輪郭点P22により示される鼻の両端と同じ大きさとなるように、鼻用テンプレートT1の形状を維持したまま鼻用テンプレートT1を拡大又は縮小するようにしてもよい。
上述した実施形態では、元画像全体に対応するアルファマップを作成し、元画像全体に対してアルファマップに含まれるアルファ値に基づいた歪曲補正を行っていた。これに限らず、トリミングを行うことにより、元画像を一部切り出して、この切り出した画像に対して歪曲補正を行うようにしてもよい。本変形例について、図11を参照して説明する。
最後に、図11(D)に示すように、顔検出部52が、補正後の切り出した画像を、元画像に貼り付ける。
このようにトリミングによる切り出しを行うことにより、適合位置特定部53によるテンプレートの適合処理において、テンプレートを適合させる候補となる座標の数を削減できる。そのため、適合処理での演算量を減少させることができる。また、このようにトリミングによる切り出しを行うことにより、歪曲補正処理部55による歪曲補正処理において、<アルファマップ適用式>によって、アルファマップ適用後座標を算出する対象の座標の数を削減できる。そのため、適合処理での演算量を減少させることができる。従って、細顔補正処理全体としての演算量を減少させることができる。
上述した実施形態では、ユーザの顔を対象として、アルファマップを用いた歪曲補正を行っていた。これに限らず、ユーザの顔以外の部分を対象としてアルファマップを用いた歪曲補正を行ってもよい。また、ユーザ以外の生物や、あるいは非生物を対象としてアルファマップを用いた歪曲補正を行ってもよい。すなわち、補正対象に応じたテンプレートを用意できるのであれば、どのような補正対象に対してアルファマップを用いた歪曲補正を行ってもよい。
上述した実施形態では、細顔補正処理において、元画像に対してテンプレートの適合を行った後に、テンプレートに含まれる、各位置の補正度合いを示す値であるアルファ値に基づいて歪曲補正を行っていた。これに限らず、テンプレートに含まれるアルファ値をユーザの状態等の所定の条件に基づいて修正し、修正後のアルファ値に基づいて歪曲補正を行ってもよい。例えば、元画像における、ユーザの顔の傾きの有無や傾き度合いに基づいて、テンプレートに含まれるアルファ値を修正し、修正後のアルファ値に基づいて歪曲補正を行ってもよい。このように、アルファ値の修正を行なう場合について、変形例4として以下説明する。
図12は、撮像装置1による、変形例4におけるアルファ値の修正を説明するための模式図である。図12においては、顔に含まれる所定の部位である左右のフェイスライン領域それぞれに対して、局所的な歪曲補正を行う例を示している。
本変形例では、画像解析による顔等の検出と共に、深度情報を取得する。そして、この深度情報に基づいて、図12に示す顔の上下軸方向42を中心として左右に回転するヨーイング43における傾き度合い(以下、「yaw方向傾き度合い」と称する。)を特定する。なお、これら上下軸方向42及びヨーイング43と、後述の左右軸方向44及びピッチング45は、実際に元画像41と共に表示される情報ではなく、説明の便宜のために図示している情報である。
yaw=d_l-d_r
但し、
d_l:左の頬下のdepth値
d_r:右の頬下のdepth値
yaw:yaw方向の傾き度合い
であるものとする。
修正後のアルファ値=α×修正率/100
この場合、画像解析による顔等の検出と共に、深度情報を取得する。そして、この深度情報に基づいて、図12に示す顔の左右軸方向44を中心として上下に回転するピッチング45における傾き度合い(以下、「pitch方向傾き度合い」と称する。)を特定する。この傾き度合いの特定は、上述したyaw方向傾き度合いと同様に、顔の所定の領域二箇所における深度情報の差分に基づいて算出することができる。この所定の領域は、pitch方向傾き度合いを算出可能な領域同士であれば、特に限定されない。以下では、一例として、pitch方向傾き度合いを、眉間の深度情報(depth値)と、上唇の深度情報(depth値)とに基づいて、以下の<pitch方向傾き度合い算出式>を用いて算出する。
pitch=u_c-d_c
但し、
u_c:眉間のdepth値
d_c:上唇のdepth値
pitch:pitch方向の傾き度合い
であるものとする。
修正後のアルファ値=α×修正率/100
図16は、図3の機能的構成を有する図1の撮像装置1が実行する、本変形例における細顔補正処理の流れを説明するフローチャートである。なお、本変形例における機能ブロックは、図3を参照して上述した機能ブロックと基本的に同様である。ただし、以下の動作を行なうための機能を更に備えている。
顔が検出されなかった場合には、ステップS12においてNOと判定されて、細顔補正処理は終了する。
顔が検出された場合には、ステップS12においてYESと判定されて、処理はステップS13に進む。
その後、細顔補正処理が終了する。
このようにして、本変形例では、例えば、ユーザのフェイスラインの輪郭等を検出するような煩雑な画像解析を行なうことなく、深度情報から傾き度合いを算出して、テンプレートを修正するのみで、ユーザの顔のバランスを整えるような補正を行なうことができる。つまり、本変形例においても、従来に比べて、より簡略な方法にて補正処理を実現することができる。
また、上述の実施形態では、本発明が適用される撮像装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、画像処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、スマートフォン、ポータブルゲーム機等に適用可能である。
換言すると、図3の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が撮像装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図3の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
Versatile Disk),Blu-ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図1のROM12や、図1の記憶部19に含まれるハードディスク等で構成される。
[付記1]
所定の被写体が写った画像を取得する取得手段と、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶手段と、
前記画像内の前記テンプレートに適合する座標を特定する特定手段と、
前記特定手段が特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正手段と、
を有することを特徴とする画像処理装置。
[付記2]
前記特定手段は、
前記画像を解析することにより、前記所定の被写体の第1特徴点に対応する座標と、前記所定の被写体の第2特徴点に対応する座標とを検出し、
前記検出した第1特徴点の座標に基づいて前記テンプレートにおける基点に適合する座標を特定し、前記検出した第2特徴点の座標に基づいて前記テンプレートにおける輪郭に適合する座標を特定する、
ことを特徴とする付記1に記載の画像処理装置。
[付記3]
前記特定手段は、
前記第1特徴点の座標に前記テンプレートの基点を配置し、配置した前記テンプレートの前記基点を回転中心として前記テンプレートを回転させることにより前記テンプレートに適合する座標を特定する、
ことを特徴とする付記2に記載の画像処理装置。
[付記4]
前記特定手段は、
前記検出した第2特徴点の座標と、前記テンプレートにおける輪郭とに基づいて、前記テンプレートの輪郭の形状を維持した拡大又は縮小を行う、
ことを特徴とする付記2又は3に記載の画像処理装置。
[付記5]
前記特定手段は、
前記テンプレートに含まれる補正度合いの変更は行わない、
ことを特徴とする付記4に記載の画像処理装置。
[付記6]
前記特定手段は、前記画像内における前記被写体の状態を特定し、該特定した前記被写体の状態に基づいて、前記テンプレートに含まれる補正度合いを修正し、
前記補正手段は、前記特定手段が修正した補正度合いと、前記特定手段が特定した座標とに基づいて前記画像に対して補正を行う、
ことを特徴とする付記1乃至4の何れか1に記載の画像処理装置。
[付記7]
前記特定手段は、前記画像内における前記被写体の第1領域の深度と、前記画像内における前記被写体の第2領域の深度との差分に基づいて、前記被写体の状態として前記被写体の傾き度合いを特定する、
ことを特徴とする付記6に記載の画像処理装置。
[付記8]
前記補正手段は、
前記画像に対する補正として、少なくとも、前記テンプレートに含まれる補正度合いに対応した補正度合いで、前記画像の座標を移動することにより歪曲補正を行う、
ことを特徴とする付記1乃至7の何れか1に記載の画像処理装置。
[付記9]
前記記憶手段は、複数の異なる補正対象領域それぞれに対応した複数の前記テンプレートを記憶しており、
前記特定手段は、複数の前記テンプレートについて適合する座標を、複数の前記テンプレートそれぞれ毎に独立して特定する、
ことを特徴とする付記1乃至8の何れか1に記載の画像処理装置。
[付記10]
前記所定の被写体は顔であり、
前記補正対象領域は、顔の器官又は顔の部位である、
ことを特徴とする付記1乃至9の何れか1に記載の画像処理装置。
[付記11]
前記テンプレートは、当該テンプレートの輪郭内の輪郭周辺の部分が前記テンプレートの中央部分よりも補正の度合いが抑えられるように、前記補正の度合いが設定されていることを特徴とする付記1乃至10の何れか1に記載の画像処理装置。
[付記12]
所定の被写体が写った画像を取得する取得ステップと、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶ステップと、
前記画像内の前記テンプレートに適合する座標を特定する特定ステップと、
前記特定ステップにおいて特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正ステップと、
を有することを特徴とする画像処理方法。
[付記13]
コンピュータに、
所定の被写体が写った画像を取得する取得機能と、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶機能と、
前記画像内の前記テンプレートに適合する座標を特定する特定機能と、
前記特定機能が特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正機能と、
を実現させることを特徴とする画像処理プログラム。
また、本発明に係る第2の態様の画像処理装置は、所定の深度情報が対応付けられている画像を取得する取得手段と、前記深度情報に基づいて、前記画像に写った人物の顔が顎を上げた状態であるのか顎を引いた状態であるのかを検出する検出手段と、前記画像のなかの顔におけるフェイスラインを、前記画像のなかの顔が前記検出手段により顎を上げた状態であると検出された場合と顎を引いた状態であると検出された場合との間で互いに異なる補正度合いで補正する補正手段と、を備えることを特徴とする。
また、本発明に係る第1の態様の画像処理方法は、画像処理装置が実行する画像処理方法であって、所定の深度情報が対応付けられている画像を取得する取得処理と、前記深度情報に基づいて、前記画像に写った人物の顔の傾きを検出する検出処理と、前記画像のなかの顔におけるフェイスラインを、前記検出処理で検出された前記顔の傾きに対応させた補正度合いで補正する補正処理と、を含むことを特徴とする。
また、本発明に係る第2の態様の画像処理方法は、画像処理装置が実行する画像処理方法であって、所定の深度情報が対応付けられている画像を取得する取得処理と、前記深度情報に基づいて、前記画像に写った人物の顔が顎を上げた状態であるのか顎を引いた状態であるのかを検出する検出処理と、前記画像のなかの顔におけるフェイスラインを、前記画像のなかの顔が前記検出処理で顎を上げた状態であると検出された場合と顎を引いた状態であると検出された場合との間で互いに異なる補正度合いで補正する補正処理と、を含むことを特徴とする。
また、本発明に係る第1の態様の画像処理プログラムは、コンピュータを、所定の深度情報が対応付けられている画像を取得する取得手段、前記深度情報に基づいて、前記画像に写った人物の顔の傾きを検出する検出手段、前記画像のなかの顔におけるフェイスラインを、前記検出手段により検出された前記顔の傾きに対応させた補正度合いで補正する補正手段、として機能させることを特徴とする。
また、本発明に係る第2の態様の画像処理プログラムは、コンピュータを、所定の深度情報が対応付けられている画像を取得する取得手段、前記深度情報に基づいて、前記画像に写った人物の顔が顎を上げた状態であるのか顎を引いた状態であるのかを検出する検出手段、前記画像のなかの顔におけるフェイスラインを、前記画像のなかの顔が前記検出手段により顎を上げた状態であると検出された場合と顎を引いた状態であると検出された場合との間で互いに異なる補正度合いで補正する補正手段、として機能させることを特徴とする。
Claims (13)
- 所定の被写体が写った画像を取得する取得手段と、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶手段と、
前記画像内の前記テンプレートに適合する座標を特定する特定手段と、
前記特定手段が特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正手段と、
を有することを特徴とする画像処理装置。 - 前記特定手段は、
前記画像を解析することにより、前記所定の被写体の第1特徴点に対応する座標と、前記所定の被写体の第2特徴点に対応する座標とを検出し、
前記検出した第1特徴点の座標に基づいて前記テンプレートにおける基点に適合する座標を特定し、前記検出した第2特徴点の座標に基づいて前記テンプレートにおける輪郭に適合する座標を特定する、
ことを特徴とする請求項1に記載の画像処理装置。 - 前記特定手段は、
前記第1特徴点の座標に前記テンプレートの基点を配置し、配置した前記テンプレートの前記基点を回転中心として前記テンプレートを回転させることにより前記テンプレートに適合する座標を特定する、
ことを特徴とする請求項2に記載の画像処理装置。 - 前記特定手段は、
前記検出した第2特徴点の座標と、前記テンプレートにおける輪郭とに基づいて、前記テンプレートの輪郭の形状を維持した拡大又は縮小を行う、
ことを特徴とする請求項2又は3に記載の画像処理装置。 - 前記特定手段は、
前記テンプレートに含まれる補正度合いの変更は行わない、
ことを特徴とする請求項4に記載の画像処理装置。 - 前記特定手段は、前記画像内における前記被写体の状態を特定し、該特定した前記被写体の状態に基づいて、前記テンプレートに含まれる補正度合いを修正し、
前記補正手段は、前記特定手段が修正した補正度合いと、前記特定手段が特定した座標とに基づいて前記画像に対して補正を行う、
ことを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。 - 前記特定手段は、前記画像内における前記被写体の第1領域の深度と、前記画像内における前記被写体の第2領域の深度との差分に基づいて、前記被写体の状態として前記被写体の傾き度合いを特定する、
ことを特徴とする請求項6に記載の画像処理装置。 - 前記補正手段は、
前記画像に対する補正として、少なくとも、前記テンプレートに含まれる補正度合いに対応した補正度合いで、前記画像の座標を移動することにより歪曲補正を行う、
ことを特徴とする請求項1乃至7の何れか1項に記載の画像処理装置。 - 前記記憶手段は、複数の異なる補正対象領域それぞれに対応した複数の前記テンプレートを記憶しており、
前記特定手段は、複数の前記テンプレートについて適合する座標を、複数の前記テンプレートそれぞれ毎に独立して特定する、
ことを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。 - 前記所定の被写体は顔であり、
前記補正対象領域は、顔の器官又は顔の部位である、
ことを特徴とする請求項1乃至9の何れか1項に記載の画像処理装置。 - 前記テンプレートは、当該テンプレートの輪郭内の輪郭周辺の部分が前記テンプレートの中央部分よりも補正の度合いが抑えられるように、前記補正の度合いが設定されていることを特徴とする請求項1乃至10の何れか1項に記載の画像処理装置。
- 所定の被写体が写った画像を取得する取得ステップと、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶ステップと、
前記画像内の前記テンプレートに適合する座標を特定する特定ステップと、
前記特定ステップにおいて特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正ステップと、
を有することを特徴とする画像処理方法。 - コンピュータに、
所定の被写体が写った画像を取得する取得機能と、
前記所定の被写体の補正対象領域に対応した形状内における各位置の補正度合いであって、各位置で変化する補正度合いを含むテンプレートを記憶する記憶機能と、
前記画像内の前記テンプレートに適合する座標を特定する特定機能と、
前記特定機能が特定した座標と、前記テンプレートに含まれる補正度合いとに基づいて、前記画像に対して補正を行う補正機能と、
を実現させることを特徴とする画像処理プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018114952 | 2018-06-15 | ||
JP2018114952 | 2018-06-15 | ||
JP2018193195A JP7110899B2 (ja) | 2018-06-15 | 2018-10-12 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018193195A Division JP7110899B2 (ja) | 2018-06-15 | 2018-10-12 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022137198A true JP2022137198A (ja) | 2022-09-21 |
JP7428208B2 JP7428208B2 (ja) | 2024-02-06 |
Family
ID=68840072
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022112099A Active JP7428208B2 (ja) | 2018-06-15 | 2022-07-13 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11100615B2 (ja) |
JP (1) | JP7428208B2 (ja) |
CN (1) | CN110611762A (ja) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004038531A (ja) * | 2002-07-03 | 2004-02-05 | Matsushita Electric Ind Co Ltd | 物体の位置検出方法および物体の位置検出装置 |
JP2004318204A (ja) * | 2003-04-10 | 2004-11-11 | Sony Corp | 画像処理装置、画像処理方法及び撮影装置 |
JP2009211450A (ja) * | 2008-03-05 | 2009-09-17 | Seiko Epson Corp | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラム |
JP2011053942A (ja) * | 2009-09-02 | 2011-03-17 | Seiko Epson Corp | 画像処理装置、画像処理方法および画像処理プログラム |
JP2016058882A (ja) * | 2014-09-09 | 2016-04-21 | カシオ計算機株式会社 | 画像補正装置、画像補正方法及びプログラム |
JP2016127419A (ja) * | 2014-12-26 | 2016-07-11 | カシオ計算機株式会社 | 画像補正装置、画像補正方法及びプログラム |
JP2017188766A (ja) * | 2016-04-05 | 2017-10-12 | レノボ・シンガポール・プライベート・リミテッド | カメラを備える電子機器、撮影映像の補正方法および記憶媒体 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7869630B2 (en) * | 2005-03-29 | 2011-01-11 | Seiko Epson Corporation | Apparatus and method for processing image |
JP5229910B2 (ja) | 2008-08-08 | 2013-07-03 | 株式会社メイクソフトウェア | 画像処理装置、画像出力装置、画像処理方法及びコンピュータプログラム |
JP5212461B2 (ja) | 2010-12-28 | 2013-06-19 | フリュー株式会社 | 画像処理装置および画像処理方法 |
JP6222900B2 (ja) * | 2012-07-09 | 2017-11-01 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
US9378576B2 (en) * | 2013-06-07 | 2016-06-28 | Faceshift Ag | Online modeling for real-time facial animation |
JP6188452B2 (ja) | 2013-06-28 | 2017-08-30 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP6499583B2 (ja) * | 2013-09-24 | 2019-04-10 | シャープ株式会社 | 画像処理装置及び画像表示装置 |
JP6147172B2 (ja) * | 2013-11-20 | 2017-06-14 | キヤノン株式会社 | 撮像装置、画像処理装置、画像処理方法、及びプログラム |
CN103632165B (zh) | 2013-11-28 | 2017-07-04 | 小米科技有限责任公司 | 一种图像处理的方法、装置及终端设备 |
CN104966280B (zh) * | 2014-09-04 | 2017-06-23 | 腾讯科技(深圳)有限公司 | 照片处理方法及装置 |
CN105701763B (zh) | 2015-12-30 | 2019-05-21 | 青岛海信移动通信技术股份有限公司 | 一种调整人脸图像的方法及装置 |
CN105825486B (zh) * | 2016-04-05 | 2018-12-25 | 北京小米移动软件有限公司 | 美颜处理的方法及装置 |
CN106447638A (zh) * | 2016-09-30 | 2017-02-22 | 北京奇虎科技有限公司 | 一种美颜处理方法及装置 |
CN107730445B (zh) * | 2017-10-31 | 2022-02-18 | Oppo广东移动通信有限公司 | 图像处理方法、装置、存储介质和电子设备 |
CN107742274A (zh) | 2017-10-31 | 2018-02-27 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、计算机可读存储介质和电子设备 |
JP6973258B2 (ja) * | 2018-04-13 | 2021-11-24 | オムロン株式会社 | 画像解析装置、方法およびプログラム |
-
2019
- 2019-06-07 US US16/435,377 patent/US11100615B2/en active Active
- 2019-06-14 CN CN201910515934.1A patent/CN110611762A/zh active Pending
-
2022
- 2022-07-13 JP JP2022112099A patent/JP7428208B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004038531A (ja) * | 2002-07-03 | 2004-02-05 | Matsushita Electric Ind Co Ltd | 物体の位置検出方法および物体の位置検出装置 |
JP2004318204A (ja) * | 2003-04-10 | 2004-11-11 | Sony Corp | 画像処理装置、画像処理方法及び撮影装置 |
JP2009211450A (ja) * | 2008-03-05 | 2009-09-17 | Seiko Epson Corp | 画像処理装置、画像処理方法及び画像処理用コンピュータプログラム |
JP2011053942A (ja) * | 2009-09-02 | 2011-03-17 | Seiko Epson Corp | 画像処理装置、画像処理方法および画像処理プログラム |
JP2016058882A (ja) * | 2014-09-09 | 2016-04-21 | カシオ計算機株式会社 | 画像補正装置、画像補正方法及びプログラム |
JP2016127419A (ja) * | 2014-12-26 | 2016-07-11 | カシオ計算機株式会社 | 画像補正装置、画像補正方法及びプログラム |
JP2017188766A (ja) * | 2016-04-05 | 2017-10-12 | レノボ・シンガポール・プライベート・リミテッド | カメラを備える電子機器、撮影映像の補正方法および記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP7428208B2 (ja) | 2024-02-06 |
CN110611762A (zh) | 2019-12-24 |
US20190385284A1 (en) | 2019-12-19 |
US11100615B2 (en) | 2021-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6961811B2 (ja) | 画像処理のための方法および装置、ならびにコンピュータ可読記憶媒体 | |
JP6864449B2 (ja) | イメージの明るさを調整する方法及び装置 | |
JP5949331B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
CN108846807B (zh) | 光效处理方法、装置、终端及计算机可读存储介质 | |
CN110321768B (zh) | 用于生成头部相关传递函数滤波器的布置 | |
CN108810406B (zh) | 人像光效处理方法、装置、终端及计算机可读存储介质 | |
KR102390252B1 (ko) | 이미지 데이터에 가상 조명 조정들을 제공하기 위한 기술 | |
JP2004062565A (ja) | 画像処理装置及び方法並びにプログラム記憶媒体 | |
US20090028390A1 (en) | Image Processing for Estimating Subject Distance | |
JP2016208098A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
WO2022121842A1 (zh) | 文本图像的矫正方法及装置、设备和介质 | |
JP2018163648A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7110899B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP5966657B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP6098133B2 (ja) | 顔構成部抽出装置、顔構成部抽出方法及びプログラム | |
WO2022121843A1 (zh) | 文本图像的矫正方法及装置、设备和介质 | |
JP5419777B2 (ja) | 顔画像合成装置 | |
JP7428208B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
CN114697530B (zh) | 一种智能取景推荐的拍照方法及装置 | |
WO2021147650A1 (zh) | 拍照方法、装置、存储介质及电子设备 | |
JP2015184701A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2019205205A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP7279741B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7400196B2 (ja) | 電子機器、画像処理方法、及び画像処理プログラム | |
CN114049250B (zh) | 一种证件照人脸姿态矫正方法、装置及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220728 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220728 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230516 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230613 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230926 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231011 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231226 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240108 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7428208 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |