JP6990773B2 - 画像処理方法及び装置、画像デバイス並びに記憶媒体 - Google Patents
画像処理方法及び装置、画像デバイス並びに記憶媒体 Download PDFInfo
- Publication number
- JP6990773B2 JP6990773B2 JP2020535619A JP2020535619A JP6990773B2 JP 6990773 B2 JP6990773 B2 JP 6990773B2 JP 2020535619 A JP2020535619 A JP 2020535619A JP 2020535619 A JP2020535619 A JP 2020535619A JP 6990773 B2 JP6990773 B2 JP 6990773B2
- Authority
- JP
- Japan
- Prior art keywords
- fat pad
- image
- face image
- key point
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 20
- 238000003860 storage Methods 0.000 title claims description 16
- 210000000577 adipose tissue Anatomy 0.000 claims description 187
- 230000001815 facial effect Effects 0.000 claims description 119
- 238000005282 brightening Methods 0.000 claims description 81
- 238000000034 method Methods 0.000 claims description 65
- 210000000033 corpus adiposum buccae Anatomy 0.000 claims description 56
- 238000012545 processing Methods 0.000 claims description 30
- 230000008569 process Effects 0.000 claims description 29
- 230000015654 memory Effects 0.000 claims description 18
- 238000001514 detection method Methods 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 5
- 230000000694 effects Effects 0.000 description 28
- 210000005252 bulbus oculi Anatomy 0.000 description 22
- 210000001508 eye Anatomy 0.000 description 22
- 238000010586 diagram Methods 0.000 description 11
- 238000012790 confirmation Methods 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000006073 displacement reaction Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 210000000744 eyelid Anatomy 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 101100175003 Oryza sativa subsp. japonica RGB1 gene Proteins 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 210000001519 tissue Anatomy 0.000 description 2
- 210000000216 zygoma Anatomy 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 210000004709 eyebrow Anatomy 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G06T5/77—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/40—Filling a planar surface by adding surface attributes, e.g. colour or texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G06T5/94—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
Description
本願は、2019年3月6日に中国特許局に提出された、出願番号201910169460.X、発明の名称「画像処理方法及び装置、画像デバイス並びに記憶媒体」の優先権を出張し、その開示の全てが参照によって本願に組み込まれる。
第1顔画像のキーポイントを検出するステップと、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定するステップと、
前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定するステップと、
前記調整パラメータに基づいて前記目標領域を調整して第2顔画像を形成するステップと、を含む画像処理方法を提供する。
前記第1顔画像中の顔の向きを決定するステップを更に含み、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定する前記ステップは、
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定するステップを含む。
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定する前記ステップは、
前記向きが、第1顔画像が正面顔画像であることを表すと決定された場合に、前記第1顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第1中間点を決定するステップと、
前記第1中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、を含む。
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定する前記ステップは、
前記向きが、前記第1顔画像が側面顔画像であることを表すと決定された場合に、前記第2顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第2中間点を決定するステップと、
前記第2中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、を含む。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整方向を決定するステップを含む。
前記向きが、第1顔画像が正面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第1方向と決定するステップを含む。
前記向きが、第1顔画像が側面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第2方向及び第3方向と決定するステップであって、前記第3方向は第2方向と異なるステップを含む。
前記第3方向は、鼻翼キーポイントが目標領域を決定する第2顔型輪郭キーポイントへ向く方向である。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整幅を決定するステップを含む。
目尻キーポイントと目頭キーポイントに基づいて前記頬脂肪パッド領域の最大移動距離を決定するステップと、
前記向きが、前記第1顔画像が側面顔画像であることを表す場合に、顔偏向角と前記最大移動距離に従って前記第1顔画像の頬脂肪パッド領域の実際移動距離を決定するステップと、を含む。
前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って第3顔画像を取得するステップを更に含む。
前記第2顔画像から顔の肌色パラメータを取得するステップと、
前記顔の肌色パラメータに基づいて頬脂肪パッド領域のブライトニング処理のブライトニングパラメータを決定するステップと、
前記ブライトニングパラメータに基づいて前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って、前記第3顔画像を取得するステップと、を含む。
前記第2顔画像中の頬脂肪パッド領域の位置に従ってマスク画像を生成するステップと、
前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って前記第3顔画像を得るステップと、を含む。
予め設定された頬脂肪パッド領域のブライトニングの輝点と前記第2顔画像中の頬脂肪パッド領域の位置に従って、前記輝点を含む前記マスク画像を生成するステップを含む。
前記マスク画像における画素値が所定閾値より大きい画素を、前記第2顔画像における対応位置画素の第1画素値と混合して、混合後の第2画素値を得るステップと、
前記第2画素値に基づいて前記第3顔画像を生成するステップと、を含む。
制御パラメータを取得するステップを更に含み、
前記第2画素値に基づいて前記第3顔画像を生成する前記ステップは、
前記制御パラメータ、前記第2画素値及び前記第1画素値に基づいて線形混合を行って第3画素値を得るステップと、
前記第3画素値に基づいて前記第3顔画像を生成するステップと、を含む。
第1顔画像のキーポイントを検出するための検出ユニットと、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定するための第1決定ユニットと、
前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定するための第2決定ユニットと、
前記調整パラメータに基づいて前記目標領域を調整して第2顔画像を形成するための調整ユニットと、を含む画像処理装置を提供する。
前記第1顔画像中の顔の向きを決定するための第3決定ユニットを更に含み、
前記第1決定ユニットは、
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定するために用いられる。
前記第2決定ユニットは、
前記向きが、第1顔画像が正面顔画像であることを表すと決定された場合に、前記第1顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第1中間点を決定するステップと、
前記第1中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、に用いられる。
前記第1決定ユニットは、
前記向きが、前記第1顔画像が側面顔画像であることを表すと決定された場合に、前記第2顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第2中間点を決定するステップと、
前記第2中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、に用いられる。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整方向を決定するために用いられる。
前記向きが、第1顔画像が正面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第1方向と決定するために用いられる。
前記向きが、第1顔画像が側面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第2方向及び第3方向と決定するために用いられ、前記第3方向は第2方向と異なる。
前記第3方向は、鼻翼キーポイントが目標領域を決定する第2顔型輪郭キーポイントへ向く方向である。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整幅を決定するために用いられる。
目尻キーポイントと目頭キーポイントに基づいて前記頬脂肪パッド領域の最大移動距離を決定するステップと、
前記向きが、前記第1顔画像が側面顔画像であることを表す場合に、顔偏向角と前記最大移動距離に従って前記第1顔画像の頬脂肪パッド領域の実際移動距離を決定するステップと、に用いられる。
前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って第3顔画像を取得するためのブライトニング処理ユニットを更に含む。
前記第2顔画像から顔の肌色パラメータを取得するステップと、
前記顔の肌色パラメータに基づいて頬脂肪パッド領域のブライトニング処理のブライトニングパラメータを決定するステップと、
前記ブライトニングパラメータに基づいて前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って、前記第3顔画像を取得するステップと、に用いられる。
前記第2顔画像中の頬脂肪パッド領域の位置に従ってマスク画像を生成するステップと、
前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って前記第3顔画像を得るステップと、に用いられる。
予め設定された頬脂肪パッド領域のブライトニングの輝点と前記第2顔画像中の頬脂肪パッド領域の位置に従って、前記輝点を含む前記マスク画像を生成するために用いられる。
前記マスク画像における画素値が所定閾値より大きい画素を、前記第2顔画像における対応位置画素の第1画素値と混合して、混合後の第2画素値を得るステップと、
前記第2画素値に基づいて前記第3顔画像を生成するステップと、に用いられる。
制御パラメータを取得するための取得ユニットを更に含み、
前記ブライトニング処理ユニットは、
前記制御パラメータ、前記第2画素値及び前記第1画素値に基づいて線形混合を行って第3画素値を得るステップと、
前記第3画素値に基づいて前記第3顔画像を生成するステップと、に用いられる。
メモリと、
前記メモリに接続され、前記メモリに記憶されているコンピュータ実行可能コマンドを実行することによって第1態様及びそのいずれか1種の実施形態を実現するために用いられるプロセッサと、を含む画像デバイスを提供する。
第1顔画像のキーポイントを検出するステップS110と、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定するステップS120と、
前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定するステップS130と、
前記調整パラメータに基づいて前記目標領域を調整して第2顔画像を形成するステップS140と、を含む画像処理方法を提供する。
顔型輪郭キーポイント、例えば、図4に示すキーポイント0~キーポイント32、
眉毛キーポイント、例えば、図4のキーポイント33~37、キーポイント38~42及びキーポイント64~キーポイント71、
目キーポイント、
鼻キーポイント、及び
唇部キーポイント等を含むが、それらに限定されなく、前記唇部キーポイントについて図4のキーポイント84~キーポイント103を参照してよい。
目頭に位置する目頭キーポイント、例えば、図4に示すキーポイント55とキーポイント58、
目尻に位置する目尻キーポイント、例えば、図4に示すキーポイント52とキーポイント62、
上まぶたに位置する上まぶたキーポイント、例えば、図4に示すキーポイント53、72及び54、キーポイント59、75及び60、
下まぶたに位置する下まぶたキーポイント、例えば、図4に示すキーポイント62、76及び63、キーポイント57、73及び56、
眼球に位置する眼球キーポイント、例えば、図4に示すキーポイント74、104及びキーポイント77及び105を含んでもよい。
鼻根に位置するキーポイント、例えば、図4に示すキーポイント43、
鼻背に位置する鼻背キーポイント、例えば、図4のキーポイント44とキーポイント45、
鼻翼に位置する鼻翼キーポイント、例えば、図4のキーポイント80~83、
鼻先に位置する鼻先キーポイント、例えば、図4のキーポイント46、
鼻底部に位置する鼻底部キーポイント、例えば、図4に示すキーポイント47~51に分けられてもよい。
図4に示す顔型輪郭キーポイントのうちの頬骨位置に近いキーポイント4、5、28及び27、
目尻キーポイント、
目頭キーポイントのうちの少なくとも1つを含み、
ステップS130において、まずキーポイントのうちの1つ又は複数のものによって、第1顔画像において頬脂肪パッド領域調整を行われる目標領域を画定する。この領域を画定した後この領域内の画素によって頬脂肪パッド領域の調整を実現してよい。具体的に実施するに際して、頬脂肪パッド領域の調整パラメータを決定するように以上の顔型輪郭キーポイントから第1顔型輪郭キーポイント及び/又は第2顔型輪郭キーポイントを選択してよい。
頬脂肪パッド領域の第1顔画像での移動方向を決定するための頬脂肪パッド領域の調整方向と、
頬脂肪パッド領域の第1顔画像での変化スケール、例えば、移動距離又は縮小拡大比等を決定するための頬脂肪パッド領域の調整幅と、
複数回調整する時の毎回の調整幅の差、又は、頬脂肪パッド領域を複数の領域に区画して調整する時の領域間の調整幅の差を決定するための頬脂肪パッド領域の調整勾配を含むが、それらに限定されない。
前記目標領域を移動して前記目標領域の位置を調整するステップ、
前記目標領域のサイズを縮小拡大して前記目標領域の第2顔画像でのサイズを調整するステップ、
前記目標領域の色を変更して前記目標領域の色を調整して、顔の高輝度又は陰影領域等を形成するステップ、
前記目標領域の形状を変更して前記目標領域の表示する形状を調整して、顔型にふさわしい頬脂肪パッド領域形状を表示するステップの中の少なくとも1つのものを含んでよい。例えば、異なる人物画像には異なる顔型が表示され、例えば、卵形の顔、ハート形の顔、丸顔、菱形の顔がある。頬脂肪パッド領域の大まかな形状が逆三角形であるが、逆三角形の3つの角の角度又は頂点の顔画像での位置によっては、頬脂肪パッド領域に異なる視覚的感覚が現れる。従って、ある実施例では、画像デバイスは、更に目標領域内の画素の位置を調整する等の方式によって、目標領域内又は移動後の目標領域内に頬脂肪パッド領域に顔型にふさわしい異なる形状の逆三角形を表示させ、それによって人物画像を美しくしたり、面白くしたりする等の処理を実現することができる。
前記第1顔画像中の顔の向きを決定するステップS111を含み、
前記ステップS120は、前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定するステップを含むステップS121を含んでよい。
第1顔画像が正面顔画像であることを表す正面顔の向きと、
第1顔画像が側面顔画像であることを表す横顔の向きと、を含む。
前記向きが、前記第1顔画像が正面顔画像であることを表すと決定された場合に、第1顔型輪郭キーポイントと鼻翼キーポイントに基づいて前記目標領域の第1中間点を決定するステップを含んでよい。
前記第1中間点と目尻キーポイントに基づいて前記目標領域を決定するステップを更に含む。
前記向きが、前記第1顔画像が側面顔画像であることを表すと決定された場合に、第2顔型輪郭キーポイントと鼻翼キーポイントに基づいて前記目標領域の第2中間点を決定するステップを含んでよい。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整パラメータを決定するステップを含んでよい。
前記向きが、第1顔画像が正面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第1方向と決定するステップと、
前記向きが、第1顔画像が側面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第2方向及び第3方向と決定するステップであって、前記第3方向は第2方向と異なるステップと、を含む。
目尻キーポイントと目頭キーポイントに基づいて前記頬脂肪パッド領域の最大移動距離を決定するステップを含んでよい。
前記向きが、第1顔画像が側面顔画像であることを表す場合に、顔偏向角と前記最大移動距離に従って側面顔画像の頬脂肪パッド領域の実際移動距離を決定するステップを含んでよい。
第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って第3顔画像を取得するステップS150を更に含む。
前記第2顔画像から顔の肌色パラメータを取得するステップと、
前記顔の肌色パラメータに基づいて頬脂肪パッド領域のブライトニング処理のブライトニングパラメータを決定するステップと、を更に含み、
前記ステップS150は、前記ブライトニングパラメータに基づいて前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って前記第3顔画像を取得するステップを含んでよい。
顔画像における皮膚画素のカラー値及び顔画像における目と唇部との間の皮膚画素のカラー値、顔画像における皮膚画素のグレースケールヒストグラム及び顔画像における目と唇部との間の皮膚画素のカラー値、顔画像における皮膚画素のカラー値及び顔画像における目と唇部との間の皮膚画素のグレースケールヒストグラム、顔画像における皮膚画素のグレースケールヒストグラム及び顔画像における目と唇部との間の皮膚画素のグレースケールヒストグラムの中の少なくとも1種を含むが、それらに限定されない。
頬脂肪パッド領域の第2顔画像での所在位置を決定するステップと、
この所在位置に基づいて前記第2顔画像と同じサイズのマスク画像を形成するステップであって、このマスク画像において頬脂肪パッド領域の第2顔画像での所在位置に半透明のブライトニングハレーションが形成されており、他の位置が透明領域となるステップと、前記マスク画像を前記第2顔画像に積み重ねて前記第3顔画像を生成するステップと、を含んでよい。
予め設定された頬脂肪パッド領域のブライトニングの輝点と前記第2顔画像中の頬脂肪パッド領域の位置に従って、前記輝点を含むマスク画像を生成するステップを含み、
及び/又は、
前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って前記第3顔画像を得る前記ステップは、
前記マスク画像における画素値が所定閾値より大きい画素を、前記第2顔画像における対応位置画素の第1画素値と混合して、混合後の第2画素値を得るステップと、
前記第2画素値に基づいて前記第3顔画像を生成するステップと、を含む。
Sqrt(original color)*(a*mask color-1.0)+b*original color*(c-mask color)であってよく、ここで、original colorが第2顔画像中の第1画素値であり、mask colorがマスク画像中の画素値であり、a、b、cがいずれも既知の計算パラメータである。具体的な値は必要に応じて設定可能である。
前記第2画素値に基づいて前記第3顔画像を生成する前記ステップは、
前記制御パラメータ、前記第2画素値及び前記第1画素値に基づいて線形混合を行って第3画素値を得るステップと、
前記第3画素値に基づいて前記第3顔画像を生成するステップと、を含む。
第1顔画像のキーポイントを検出するための検出ユニット11と、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定するための第1決定ユニット12と、
前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定するための第2決定ユニット13と、
前記調整パラメータに基づいて前記目標領域を調整して第2顔画像を形成するための調整ユニット14と、を含む画像処理装置1を提供する。
前記第1顔画像中の顔の向きを決定するための第3決定ユニット15を更に含み、
前記第1決定ユニット12は、
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定するために用いられる。
前記第2決定ユニット13は、
前記向きが、第1顔画像が正面顔画像であることを表すと決定された場合に、前記第1顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第1中間点を決定するステップと、
前記第1中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、に用いられる。
前記第1決定ユニット12は、
前記向きが、前記第1顔画像が側面顔画像であることを表すと決定された場合に、前記第2顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第2中間点を決定するステップと、
前記第2中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、に用いられる。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整方向を決定するために用いられる。
前記向きが、第1顔画像が正面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第1方向と決定するために用いられる。
前記向きが、第1顔画像が側面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第2方向及び第3方向と決定するために用いられ、前記第3方向は第2方向と異なる。
前記第3方向は、鼻翼キーポイントが目標領域を決定する第2顔型輪郭キーポイントへ向く方向である。
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整幅を決定するために用いられる。
目尻キーポイントと目頭キーポイントに基づいて前記頬脂肪パッド領域の最大移動距離を決定するステップと、
前記向きが、前記第1顔画像が側面顔画像であることを表す場合に、顔偏向角と前記最大移動距離に従って前記第1顔画像の頬脂肪パッド領域の実際移動距離を決定するステップと、に用いられる。
前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って第3顔画像を取得するためのブライトニング処理ユニット16を更に含む。
前記第2顔画像から顔の肌色パラメータを取得するステップと、
前記顔の肌色パラメータに基づいて頬脂肪パッド領域のブライトニング処理のブライトニングパラメータを決定するステップと、
前記ブライトニングパラメータに基づいて前記第2顔画像中の頬脂肪パッド領域に対してブライトニング処理を行って、前記第3顔画像を取得するステップと、に用いられる。
前記第2顔画像中の頬脂肪パッド領域の位置に従ってマスク画像を生成するステップと、
前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って前記第3顔画像を得るステップと、に用いられる。
予め設定された頬脂肪パッド領域のブライトニングの輝点と前記第2顔画像中の頬脂肪パッド領域の位置に従って、前記輝点を含む前記マスク画像を生成するために用いられる。
前記マスク画像における画素値が所定閾値より大きい画素を、前記第2顔画像における対応位置画素の第1画素値と混合して、混合後の第2画素値を得るステップと、
前記第2画素値に基づいて前記第3顔画像を生成するステップと、に用いられる。
制御パラメータを取得するための取得ユニット17を更に含み、
前記ブライトニング処理ユニット16は、
前記制御パラメータ、前記第2画素値及び前記第1画素値に基づいて線形混合を行って第3画素値を得るステップと、
前記第3画素値に基づいて前記第3顔画像を生成するステップと、に用いられる。
頬脂肪パッド領域調整方法は、
1)第1顔画像中の頬脂肪パッド領域範囲領域を上へ引っ張るステップと、
2)第1顔画像が側面顔画像である時に、上へ引っ張ると共に、この領域を第1顔画像の顔偏向角に応じて外へ膨らませるステップと、
3)マスク(mask)テクスチャを用いて頬脂肪パッド領域をブライトニングするステップと、を含んでよい。
第1顔画像中の左顔領域を例とすると、頬脂肪パッド領域の調整例を提供し、そのステップとして以下を含む。
メモリと、
前記メモリに接続され、前記メモリに記憶されているコンピュータ実行可能コマンドを実行することによって前記の任意の技術的解決手段で提供された画像処理方法、例えば、図1及び/又は図3に示す画像処理方法を実現可能であるプロセッサと、を含む画像デバイスを提供する。
また、本開示の各実施例における各機能ユニットは全て一つの処理モジュールに統合されてもよいし、一つのユニットとして別々に使用されてもよいし、二つ以上で一つのユニットに統合されてもよく、上記統合されたユニットはハードウェアの形で、またはハードウェアとソフトウェアを組み合わせた機能ユニットの形で実現され得る。
Claims (17)
- 第1顔画像のキーポイントを検出するステップと、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定するステップと、
前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定するステップと、
前記調整パラメータに基づいて前記目標領域を調整して第2顔画像を形成するステップと、
予め設定された頬脂肪パッド領域のブライトニングの輝点と前記第2顔画像中の頬脂肪パッド領域の位置に従って、前記輝点を含むマスク画像を生成するステップと、
前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って第3顔画像を得るステップと、を含むことを特徴とする画像処理方法。 - 前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定する前記ステップの前に、
前記第1顔画像中の顔の向きを決定するステップを更に含み、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定する前記ステップは、
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定するステップを含むことを特徴とする請求項1に記載の方法。 - 前記キーポイントは、目尻キーポイント、第1顔型輪郭キーポイント及び鼻翼キーポイントを含み、
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定する前記ステップは、
前記向きが、第1顔画像が正面顔画像であることを表すと決定された場合に、前記第1顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第1中間点を決定するステップと、
前記第1中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、を含むことを特徴とする請求項2に記載の方法。 - 前記キーポイントは、目尻キーポイント、第2顔型輪郭キーポイント及び鼻翼キーポイントを含み、
前記キーポイントと前記向きに基づいて頬脂肪パッド領域調整の前記目標領域を決定する前記ステップは、
前記向きが、前記第1顔画像が側面顔画像であることを表すと決定された場合に、前記第2顔型輪郭キーポイントと前記鼻翼キーポイントに基づいて前記目標領域の第2中間点を決定するステップと、
前記第2中間点と前記目尻キーポイントに基づいて前記目標領域を決定するステップと、を含むことを特徴とする請求項2に記載の方法。 - 前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定する前記ステップは、
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整方向を決定するステップを含むことを特徴とする請求項2~4のいずれか一項に記載の方法。 - 前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整方向を決定する前記ステップは、
前記向きが、第1顔画像が正面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第1方向と決定するステップを含むことを特徴とする請求項5に記載の方法。 - 前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整方向を決定する前記ステップは、
前記向きが、第1顔画像が側面顔画像であることを表す場合に、前記キーポイントに基づいて頬脂肪パッド領域の調整方向を第2方向及び第3方向と決定するステップであって、前記第3方向は第2方向と異なるステップを含むことを特徴とする請求項5に記載の方法。 - 前記第1方向は、前記目標領域の第1中間点が目尻キーポイントへ向く方向であることを特徴とする請求項6に記載の方法。
- 前記第2方向は、前記目標領域の第2中間点が目尻キーポイントへ向く方向であり、前記第3方向は、鼻翼キーポイントが目標領域を決定する第2顔型輪郭キーポイントへ向く方向であることを特徴とする請求項7に記載の方法。
- 前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定する前記ステップは、
前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整幅を決定するステップを含むことを特徴とする請求項2~4のいずれか一項に記載の方法。 - 前記キーポイントと前記向きに基づいて前記頬脂肪パッド領域の調整幅を決定する前記
ステップは、
目尻キーポイントと目頭キーポイントに基づいて前記頬脂肪パッド領域の最大移動距離を決定するステップと、
前記向きが、前記第1顔画像が側面顔画像であることを表す場合に、顔偏向角と前記最大移動距離に従って前記第1顔画像の頬脂肪パッド領域の実際移動距離を決定するステップと、を含むことを特徴とする請求項10に記載の方法。 - 前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って前記第3顔画像を得る前記ステップは、
前記マスク画像における画素値が所定閾値より大きい画素を、前記第2顔画像における対応位置画素の第1画素値と混合して、混合後の第2画素値を得るステップと、
前記第2画素値に基づいて前記第3顔画像を生成するステップと、を含むことを特徴とする請求項1に記載の方法。 - 制御パラメータを取得するステップを更に含み、
前記第2画素値に基づいて前記第3顔画像を生成する前記ステップは、
前記制御パラメータ、前記第2画素値及び前記第1画素値に基づいて線形混合を行って第3画素値を得るステップと、
前記第3画素値に基づいて前記第3顔画像を生成するステップと、を含むことを特徴とする請求項12に記載の方法。 - 第1顔画像のキーポイントを検出するための検出ユニットと、
前記キーポイントに基づいて頬脂肪パッド領域調整の目標領域を決定するための第1決
定ユニットと、
前記キーポイントに基づいて頬脂肪パッド領域の調整パラメータを決定するための第2決定ユニットと、
前記調整パラメータに基づいて前記目標領域を調整して第2顔画像を形成するための調整ユニットと、
予め設定された頬脂肪パッド領域のブライトニングの輝点と前記第2顔画像中の頬脂肪パッド領域の位置に従って、前記輝点を含むマスク画像を生成し、前記マスク画像に基づいて前記第2顔画像に対して前記頬脂肪パッド領域のブライトニング処理を行って第3顔画像を得るためのブライトニング処理ユニットを含むことを特徴とする画像処理装置。 - メモリと、
前記メモリに接続され、前記メモリに記憶されているコンピュータ実行可能コマンドを実行することによって請求項1~13のいずれか一項で提供された方法を実現するために用いられるプロセッサと、を含むことを特徴とする画像デバイス。 - コンピュータ実行可能コマンドが記憶されているコンピュータ記憶媒体であって、前記コンピュータ実行可能コマンドが実行されるとき、請求項1~13のいずれか一項で提供された方法を実現可能であるコンピュータ記憶媒体。
- コンピュータに、請求項1~13のいずれか一項に記載の方法を実行させるためのコンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910169460.X | 2019-03-06 | ||
CN201910169460.XA CN109949237A (zh) | 2019-03-06 | 2019-03-06 | 图像处理方法及装置、图像设备及存储介质 |
PCT/CN2019/124515 WO2020177434A1 (zh) | 2019-03-06 | 2019-12-11 | 图像处理方法及装置、图像设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021517676A JP2021517676A (ja) | 2021-07-26 |
JP6990773B2 true JP6990773B2 (ja) | 2022-01-12 |
Family
ID=67009236
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020535619A Active JP6990773B2 (ja) | 2019-03-06 | 2019-12-11 | 画像処理方法及び装置、画像デバイス並びに記憶媒体 |
Country Status (7)
Country | Link |
---|---|
US (1) | US11238569B2 (ja) |
JP (1) | JP6990773B2 (ja) |
KR (1) | KR102386642B1 (ja) |
CN (1) | CN109949237A (ja) |
SG (1) | SG11202006333VA (ja) |
TW (1) | TWI752419B (ja) |
WO (1) | WO2020177434A1 (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109949237A (zh) * | 2019-03-06 | 2019-06-28 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、图像设备及存储介质 |
CN111754415B (zh) * | 2019-08-28 | 2022-09-27 | 北京市商汤科技开发有限公司 | 人脸图像处理方法及装置、图像设备及存储介质 |
CN110555896B (zh) * | 2019-09-05 | 2022-12-09 | 腾讯科技(深圳)有限公司 | 一种图像生成方法、装置以及存储介质 |
CN111680546A (zh) * | 2020-04-26 | 2020-09-18 | 北京三快在线科技有限公司 | 注意力检测方法、装置、电子设备及存储介质 |
CN112001872B (zh) * | 2020-08-26 | 2021-09-14 | 北京字节跳动网络技术有限公司 | 信息显示方法、设备及存储介质 |
CN112906512A (zh) * | 2021-02-03 | 2021-06-04 | 北京海迩西医疗科技有限公司 | 一种确定人体关节的方法、装置以及存储介质 |
CN112767288B (zh) * | 2021-03-19 | 2023-05-12 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、电子设备和存储介质 |
CN113674139A (zh) * | 2021-08-17 | 2021-11-19 | 北京京东尚科信息技术有限公司 | 人脸图像的处理方法、装置、电子设备及存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007193729A (ja) | 2006-01-23 | 2007-08-02 | Seiko Epson Corp | 印刷装置、画像処理装置、印刷方法、および画像処理方法 |
JP2007193730A (ja) | 2006-01-23 | 2007-08-02 | Seiko Epson Corp | 印刷装置、画像処理装置、印刷方法、および画像処理方法 |
CN108876731A (zh) | 2018-05-25 | 2018-11-23 | 北京小米移动软件有限公司 | 图片处理方法及装置 |
WO2018221092A1 (ja) | 2017-05-31 | 2018-12-06 | ソニー株式会社 | 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム |
CN109376684A (zh) | 2018-11-13 | 2019-02-22 | 广州市百果园信息技术有限公司 | 一种人脸关键点检测方法、装置、计算机设备和存储介质 |
CN109377446A (zh) | 2018-10-25 | 2019-02-22 | 北京市商汤科技开发有限公司 | 人脸图像的处理方法及装置、电子设备和存储介质 |
CN109376671A (zh) | 2018-10-30 | 2019-02-22 | 北京市商汤科技开发有限公司 | 图像处理方法、电子设备及计算机可读介质 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20040075672A (ko) * | 2003-02-21 | 2004-08-30 | 정보통신연구진흥원 | 계층적 가상 성형시뮬레이션 방법 |
JP2004318204A (ja) | 2003-04-10 | 2004-11-11 | Sony Corp | 画像処理装置、画像処理方法及び撮影装置 |
JP2009064423A (ja) * | 2007-08-10 | 2009-03-26 | Shiseido Co Ltd | メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム |
JP2009211513A (ja) * | 2008-03-05 | 2009-09-17 | Toshiba Corp | 画像処理装置及びその方法 |
CN103236066A (zh) * | 2013-05-10 | 2013-08-07 | 苏州华漫信息服务有限公司 | 一种基于人脸特征分析的虚拟试妆方法 |
CN106991367B (zh) * | 2016-01-21 | 2019-03-19 | 腾讯科技(深圳)有限公司 | 确定人脸转动角度的方法和装置 |
CN107103271A (zh) * | 2016-02-23 | 2017-08-29 | 芋头科技(杭州)有限公司 | 一种人脸检测方法 |
CN107305622B (zh) * | 2016-04-15 | 2021-08-31 | 北京市商汤科技开发有限公司 | 一种人脸五官识别方法、装置及系统 |
CN108734070A (zh) * | 2017-04-24 | 2018-11-02 | 丽宝大数据股份有限公司 | 腮红指引装置及方法 |
CN108230331A (zh) * | 2017-09-30 | 2018-06-29 | 深圳市商汤科技有限公司 | 图像处理方法和装置、电子设备、计算机存储介质 |
CN108986019A (zh) * | 2018-07-13 | 2018-12-11 | 北京小米智能科技有限公司 | 肤色调整方法及装置、电子设备、机器可读存储介质 |
CN109949237A (zh) * | 2019-03-06 | 2019-06-28 | 北京市商汤科技开发有限公司 | 图像处理方法及装置、图像设备及存储介质 |
-
2019
- 2019-03-06 CN CN201910169460.XA patent/CN109949237A/zh active Pending
- 2019-12-11 WO PCT/CN2019/124515 patent/WO2020177434A1/zh active Application Filing
- 2019-12-11 KR KR1020207019432A patent/KR102386642B1/ko active IP Right Grant
- 2019-12-11 SG SG11202006333VA patent/SG11202006333VA/en unknown
- 2019-12-11 JP JP2020535619A patent/JP6990773B2/ja active Active
-
2020
- 2020-02-25 TW TW109105958A patent/TWI752419B/zh active
- 2020-06-29 US US16/914,637 patent/US11238569B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007193729A (ja) | 2006-01-23 | 2007-08-02 | Seiko Epson Corp | 印刷装置、画像処理装置、印刷方法、および画像処理方法 |
JP2007193730A (ja) | 2006-01-23 | 2007-08-02 | Seiko Epson Corp | 印刷装置、画像処理装置、印刷方法、および画像処理方法 |
WO2018221092A1 (ja) | 2017-05-31 | 2018-12-06 | ソニー株式会社 | 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム |
CN108876731A (zh) | 2018-05-25 | 2018-11-23 | 北京小米移动软件有限公司 | 图片处理方法及装置 |
CN109377446A (zh) | 2018-10-25 | 2019-02-22 | 北京市商汤科技开发有限公司 | 人脸图像的处理方法及装置、电子设备和存储介质 |
CN109376671A (zh) | 2018-10-30 | 2019-02-22 | 北京市商汤科技开发有限公司 | 图像处理方法、电子设备及计算机可读介质 |
CN109376684A (zh) | 2018-11-13 | 2019-02-22 | 广州市百果园信息技术有限公司 | 一种人脸关键点检测方法、装置、计算机设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2020177434A1 (zh) | 2020-09-10 |
TWI752419B (zh) | 2022-01-11 |
US20200327647A1 (en) | 2020-10-15 |
CN109949237A (zh) | 2019-06-28 |
KR102386642B1 (ko) | 2022-04-14 |
SG11202006333VA (en) | 2020-10-29 |
US11238569B2 (en) | 2022-02-01 |
KR20200107957A (ko) | 2020-09-16 |
JP2021517676A (ja) | 2021-07-26 |
TW202036467A (zh) | 2020-10-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6990773B2 (ja) | 画像処理方法及び装置、画像デバイス並びに記憶媒体 | |
JP6864449B2 (ja) | イメージの明るさを調整する方法及び装置 | |
US11423556B2 (en) | Methods and systems to modify two dimensional facial images in a video to generate, in real-time, facial images that appear three dimensional | |
US11250241B2 (en) | Face image processing methods and apparatuses, and electronic devices | |
US10739849B2 (en) | Selective peripheral vision filtering in a foveated rendering system | |
CN102419868B (zh) | 基于3d头发模板进行3d头发建模的设备和方法 | |
US8698796B2 (en) | Image processing apparatus, image processing method, and program | |
CN112669447B (zh) | 一种模型头像创建方法、装置、电子设备和存储介质 | |
US9058765B1 (en) | System and method for creating and sharing personalized virtual makeovers | |
CN106920274A (zh) | 移动端2d关键点快速转换为3d融合变形的人脸建模方法 | |
JPWO2018221092A1 (ja) | 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム | |
US11733769B2 (en) | Presenting avatars in three-dimensional environments | |
CN110688948A (zh) | 视频中人脸性别变换方法、装置、电子设备和存储介质 | |
US11217036B1 (en) | Avatar fidelity and personalization | |
JP4188487B2 (ja) | 目元メーキャップシミュレーションシステム | |
US20230298253A1 (en) | Appearance editing method and apparatus for virtual pet, terminal, and storage medium | |
KR102459851B1 (ko) | 이미지의 밝기를 조절하는 방법 및 장치 | |
JP5419773B2 (ja) | 顔画像合成装置 | |
JP2000155836A (ja) | 似顔絵画像形成システム及び形成方法 | |
CN114255230A (zh) | 基于人脸特征点的人像下颌线修图方法和装置以及设备 | |
WO2023276271A1 (ja) | 情報処理装置、情報処理方法、及び記録媒体 | |
CN112562066A (zh) | 图像重建方法和装置、电子设备 | |
CN110580733A (zh) | 一种数据处理方法、装置和用于数据处理的装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200625 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200625 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210824 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211108 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211130 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211206 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6990773 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |