JP2016531361A - 画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体 - Google Patents

画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体 Download PDF

Info

Publication number
JP2016531361A
JP2016531361A JP2016535336A JP2016535336A JP2016531361A JP 2016531361 A JP2016531361 A JP 2016531361A JP 2016535336 A JP2016535336 A JP 2016535336A JP 2016535336 A JP2016535336 A JP 2016535336A JP 2016531361 A JP2016531361 A JP 2016531361A
Authority
JP
Japan
Prior art keywords
face
image
probability
pixel point
shoulder
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016535336A
Other languages
English (en)
Other versions
JP6134446B2 (ja
Inventor
琳 王
琳 王
▲暁▼舟 徐
▲暁▼舟 徐
志▲軍▼ ▲陳▼
志▲軍▼ ▲陳▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiaomi Inc
Original Assignee
Xiaomi Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiaomi Inc filed Critical Xiaomi Inc
Publication of JP2016531361A publication Critical patent/JP2016531361A/ja
Application granted granted Critical
Publication of JP6134446B2 publication Critical patent/JP6134446B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/143Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G06F18/24155Bayesian classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Data Mining & Analysis (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Probability & Statistics with Applications (AREA)
  • Software Systems (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本開示は、画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体に関し、画像処理技術分野に属する。上記方法は、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップと、事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップと、顔肩前景サンプル画素点の色特徴ベクトル及び背景サンプル画素点の色特徴ベクトルに基づいて、顔肩前景の第1色尤度確率と背景の第2色尤度確率を計算するステップと、事前確率、第1色尤度確率、及び第2色尤度確率に基づいて、顔肩前景の第1事後確率と背景の第2事後確率を計算するステップと、第1事後確率と第2事後確率に基づいて、分割しようとする画像に対して顔肩分割を行うステップとを含む。事前確率及び色尤度確率に基づいて、画像分割を行うため、分割精度が向上する。【選択図】図1

Description

相互参照
本願は、出願番号がCN201410353140.7であって、出願日が2014年7月23日である中国特許出願に基づき優先権を主張し、当該中国特許出願のすべての内容を本願に援用する。
本開示は、画像処理技術分野に関し、特に、画像分割方法、画像分割装置、及び画像分割デバイスに関する。
インターネット上のマルチメディア情報量の増加に伴い、顔肩(head−shoulder、人の頭部と肩部を含む部位を示す)分割技術は、特殊な画像分割技術として飛躍的な発展を成し遂げた。顔肩分割技術は、ビデオ会議の背景の置換やモバイルデバイスがフロントカメラで人を撮影し、リアカメラで景色などを撮影する場合に広く使用されている。
関連技術において、画像に対して顔肩分割を行う場合、まず、ユーザに顔肩前景の第1サンプル画素点及び背景の第2サンプル画素点を選択させ、その後、第1サンプル画素点及び第2サンプル画素点の色特徴ベクトルをそれぞれ計算し、顔肩前景の第1色特徴ベクトル及び背景の第2色特徴ベクトルを得る。第1色特徴ベクトル及び第2色特徴ベクトルに基づいて、顔肩前景及び背景のそれぞれについて色モデルを作成し、第1色モデル及び第2色モデルを得る。最後に、第1色モデルと第2色モデルを用いて画像に対して顔肩分割を行い、顔肩分割結果を得る。
本開示の実現において、発明者は、関連技術に下記問題が存在することを発見した。
画像分割において、ユーザが画素点の選択に関与する必要があり、ユーザの利便性が損なわれる。また、サンプルの画素点の色特徴ベクトルのみに基づいて画像分割を行うので、分割の精度が劣る。
本開示は、上記関連技術の問題点を解決するために、画像分割方法、画像分割装置、及び画像分割デバイスを提供する。
本開示の実施例の第1態様は、画像分割方法を提供する。
この画像分割方法は、
顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップと、
前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップと、
前記顔肩前景サンプル画素点の色特徴ベクトルと前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算するステップと、
前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算し、
前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行うステップと、を含む。
選択的には、前記顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
所定枚数の女性正面顔画像を選択するステップと、
各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで位置決め結果を取得するステップと、
顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算するステップと、を含む。
選択的には、前記顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
所定枚数の男性正面顔画像を選択するステップと、
各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで位置決め結果を取得するステップと、
顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算するステップとを含む。
Figure 2016531361
選択的には、前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップは、
前記分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得するステップと、
前記性別認識結果に基づいて、前記分割しようとする画像に対応する事前確率を決定するステップと、
前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記顔肩前景の確率閾値より大きいか否かを判定し、前記画素点の事前確率が前記顔肩前景の確率閾値より大きい場合、前記画素点を前景サンプル画素点と決定するステップと、
前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記背景の確率閾値より小さいか否かを判定し、前記画素点の事前確率が前記背景の確率閾値より小さい場合、前記画素点を背景サンプル画素点と決定するステップと、を含む。
Figure 2016531361
Figure 2016531361
本開示の実施例の第2態様は、画像分割装置を提供する。
前記装置は、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するための事前確率計算モジュールと、
前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するためのサンプル画素点選択モジュールと、
前記顔肩前景サンプル画素点の色特徴ベクトル及び前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算するための色尤度確率計算モジュールと、
前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算するための事後確率計算モジュールと、
前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行うための画像分割モジュールと、を備える。
選択的には、前記事前確率計算モジュールは、
所定枚数の女性正面顔画像を選択し、
各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成し、
各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得し、
顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得し、
複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算する。
選択的には、前記事前確率計算モジュールは、
所定枚数の男性正面顔画像を選択し、
各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成し、
各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得し、
顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像に対して位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得し、
複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算する。
Figure 2016531361
選択的には、前記サンプル画素点選択モジュールは、
前記分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得し、
前記性別認識結果に基づいて、前記分割しようとする画像に対応する事前確率を決定し、
前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記顔肩前景の確率閾値より大きいか否かを判定し、前記画素点の事前確率が前記顔肩前景の確率閾値より大きい場合、前記画素点を前景サンプル画素点と決定し、
前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記背景の確率閾値より小さいか否かを判定し、前記画素点の事前確率が前記背景の確率閾値より小さい場合、前記画素点を背景サンプル画素点と決定する。
Figure 2016531361
Figure 2016531361
本開示の実施例の第3態様は、画像分割デバイスを提供する。
前記デバイスは、
プロセッサと、
前記プロセッサにより実行可能な指令を記憶するメモリと、を備え、
前記プロセッサは、
顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、
前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択し、
前記顔肩前景サンプル画素点の色特徴ベクトル及び前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算し、
前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算し、
前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行う。
本開示の実施例により提供された技術方案は、下記の有益な効果を奏する。
顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、顔肩前景の事前確率に基づいて自動的に顔肩前景サンプル画素点及び背景サンプル画素点を選択することで、ユーザがサンプル画素点の選択に関与する必要がなくなり、ユーザの利便性が向上する。また、事前確率と色尤度確率に基づいて、画像分割を行い、分割の標準を細かく設定でき、分割精度が向上する。
以上の一般的な記述及び以下の詳細な記述は、例示のものに過ぎず、本開示を限定するものではないと理解すべきである。
ここでの図面は、明細書の一部分として明細書全体を構成することにより、本開示に合致する実施例を例示するとともに、本開示の原理を解釈するためのものである。
本開示の例示的な実施例による画像分割方法のフローチャートである。 本開示の例示的な実施例による画像分割方法のフローチャートである。 本開示の例示的な実施例による画像分割装置のブロック図である。 本開示の例示的な実施例による画像分割デバイスのブロック図である。 本開示の例示的な実施例による画像分割デバイスのブロック図である。
ここで、図面に示された例示的な実施例を詳細に説明する。以下の内容において、図面を言及するとき、特に説明しない限り、異なる図面における同じ数字が同一または同等の要素を示す。以下の例示的な実施例に記載の実施の形態は、本発明と一致するあらゆる実施の形態を代表するわけではない。逆に、それらは、添付された特許請求の範囲に詳細に記載される、本発明の一部の方面と一致する装置及び方法の例にすぎない。
図1は、本開示の例示的な実施例による画像分割方法のフローチャートである。図1に示すように、本開示の実施例による画像分割方法は、画像分割デバイスに用いられ、下記のステップを含む。
ステップ101において、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算する。
ステップ102において、事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択する。
ステップ103において、顔肩前景サンプル画素点の色特徴ベクトル及び背景サンプル画素点の色特徴ベクトルに基づいて、顔肩前景の第1色尤度確率と背景の第2色尤度確率を計算する。
ステップ104において、事前確率、第1色尤度確率、及び第2色尤度確率に基づいて、顔肩前景の第1事後確率と背景の第2事後確率を計算する。
ステップ105において、第1事後確率と第2事後確率に基づいて、分割しようとする画像に対して顔肩分割を行う。
本開示の実施例にかかる方法によれば、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、顔肩前景の事前確率に基づいて自動的に顔肩前景サンプル画素点及び背景サンプル画素点を選択することで、ユーザがサンプル画素点の選択に関与する必要がなくなり、ユーザの利便性が向上する。また、事前確率と色尤度確率に基づいて、画像分割を行い、分割の標準を細かく設定でき、分割精度が向上する。
選択的には、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
所定枚数の女性正面顔画像を選択するステップと、
各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得するステップと、
顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算するステップとを含む。
選択的には、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
所定枚数の男性正面顔画像を選択するステップと、
各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得するステップと、
顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算するステップとを含む。
Figure 2016531361
選択的には、事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップは、
分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得するステップと、
性別認識結果に基づいて、分割しようとする画像に対応する事前確率を決定するステップと、
分割しようとする画像における各画素点について、画素点の事前確率が顔肩前景の確率閾値より大きいか否かを判定し、画素点の事前確率が顔肩前景の確率閾値より大きい場合、画素点を前景サンプル画素点と決定するステップと、
分割しようとする画像における各画素点について、画素点の事前確率が背景の確率閾値より小さいか否かを判定し、画素点の事前確率が背景の確率閾値より小さい場合、画素点を背景サンプル画素点と決定するステップとを含む。
Figure 2016531361
Figure 2016531361
上記全ての技術方案を適宜に組み合わせて本開示の選択的な実施例を構成することができ、ここで、詳しく説明しない。
図2は、本開示の例示的な実施例による画像分割方法のフローチャートである。図2に示すように、本開示の実施例による画像分割方法は、画像分割デバイスに用いられ、下記のステップを含む。
ステップ201において、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算する。
本開示の実施例において、顔肩前景の事前確率を計算することは、顔肩位置事前モデルを作成することである。男性と女性の顔特徴が一定の差異を有するため、顔肩位置事前モデルを作成する場合、女性顔肩位置事前モデルと男性顔肩位置事前モデルをそれぞれ作成する必要がある。以下、顔肩位置事前モデルの作成について詳しく説明する。
201aにおいて、女性顔肩位置事前モデルを作成するには、下記5つのステップを含む。
ステップ1において、所定枚数の女性正面顔画像を選択する。
ここで、所定枚数は、500枚又は1000等であってもよく、本開示の実施例において、所定枚数を具体的に限定しない。所定枚数の女性正面顔画像は、後述する女性顔肩位置事前モデルのトレーニングデータとして画像トレーニングライブラリに保存しておく。
ステップ2において、各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成する。
オフライントレーニングにおいて、所定枚数の女性正面顔画像の顔肩前景は、人によりキャリブレーションされる必要がある。即ち、ユーザは、手動で各女性正面顔画像における顔肩区域をキャリブレーションする必要がある。各女性正面顔画像のキャリブレーション結果を得た後、二値化画像を生成し、当該二値化画像を顔肩キャリブレーション画像とする。ここで、二値化画像の画素点の中、階調値が255の区域が顔肩前景であり、即ち、二値化画像における白色区域が顔肩区域である。また、二値化画像における画素点の中、階調値が0の区域が背景であり、即ち、二値化画像における黒色区域が背景区域である。
Figure 2016531361
ステップ3において、各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得する。
本開示の実施例において、各女性正面顔画像に対して顔の外部輪郭特徴点位置決めを行う場合、従来の顔の外部輪郭特徴点の位置決めアルゴリズムを用いて実現できるので、ここで詳細な説明を省略する。女性正面顔画像に対して、顔の外部輪郭特徴点の位置決めを行った後、各顔の外部輪郭特徴点の位置座標データを取得する。
ステップ4において、顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得する。
ここで、所定大きさは、400*400、200*200などであってもよく、本開示において、所定大きさを具体的に限定しない。本開示の実施例において、所定大きさが400*400である場合のみを例に挙げて説明する。
本開示の実施例において、各顔肩キャリブレーション画像のそれぞれについて、顔の外部輪郭特徴点の位置決め結果を得た後、まず、顔の外部輪郭特徴点の位置決め結果に基づいて、当該顔肩キャリブレーション画像を同一の寸法に調整する。そして、顔の外部輪郭特徴点の位置座標データに基づいて、顔肩キャリブレーション画像を顔の外部輪郭特徴点と位置揃えるとともに、顔肩キャリブレーション画像を400*400のテンプレートに正規化する。各顔肩キャリブレーション画像のそれぞれが、すべて400*400のテンプレートに対応するため、所定の大きさを有する画像を得ることができる。
ステップ5において、複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算する。
本開示の実施例において、複数の所定の大きさを有する画像の同一位置の画素点について、当該画素点の位置で顔肩顔肩前景に現れる事前確率は、即ち、画像トレーニングライブラリにおいて、各女性正面顔画像における当該画素点が顔肩前景にキャリブレーションされた頻度である。例えば、1000枚の女性正面顔画像があり、ある画素点が500枚の女性正面顔画像において顔肩前景にキャリブレーションされたとすると、当該画素点の位置で顔肩前景が現れる事前確率は、0.5である。従って、トレーニングデータにおいて、各画素点が顔肩前景にキャリブレーションされる頻度を計算することで、各画素点の位置で顔肩前景が現れる確率を取得することができる。
201bにおいて、男性顔肩位置事前モデルを作成するには、下記5つのステップを含む。
ステップ1において、所定枚数の男性正面顔画像を選択する。
ここで、所定枚数は、500又は1000等であってもよく、本開示の実施例において、所定枚数を具体的に限定しない。所定枚数の男性正面顔画像は、後述する男性顔肩位置事前モデルのトレーニングデータとして画像トレーニングライブラリに保存されている。
ステップ2において、各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成する。
これは、上記201aにおけるステップ2と同じであるので、詳細な説明を省略する。
ステップ3において、各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得する。
これは、上記201aにおけるステップ3と同じであるので、詳細な説明を省略する。
ステップ4において、顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得する。
これは、上記201aにおけるステップ4と同じであるので、詳細な説明を省略する。
ステップ5において、複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算する。
これは、上記201aにおけるステップ5と同じであるので、詳細な説明を省略する。
Figure 2016531361
女性正面顔画像について、各画素点の位置で顔肩前景が現れる事前確率を計算することで、女性顔肩位置事前モデルを得ることができ、男性正面顔画像について、各画素点の位置で顔肩前景が現れる事前確率を計算することで、男性顔肩位置事前モデルを得ることができる。
ステップ202において、分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得し、性別認識結果に基づいて、分割しようとする画像に対応する事前確率を決定する。
本開示の実施例において、男性顔画像と女性顔画像の特徴が一定の差異を有するため、それぞれ異なる顔肩位置事前モデルに対応する。従って、画像分割を行う前、分割しようとする画像中の顔に対して性別認識を行うことが必要である。分割しようとする画像中の顔に対して性別認識を行う場合、従来の顔識別アルゴリズムを用いることができるので、その詳細な説明を省略する。上記ステップ201において、女性顔肩位置事前モデル及び男性顔肩位置事前モデルを既に取得したため、分割しようとする画像中の顔の性別を特定した後、分割しようとする画像に対応する顔肩位置事前モデルを直接特定することができる。即ち、分割しようとする画像に対応する事前確率を取得することができる。
ステップ203において、分割しようとする画像における各画素点について、画素点の事前確率が顔肩前景の確率閾値より大きいか否かを判定し、画素点の事前確率が顔肩前景の確率閾値より大きい場合、画素点を前景サンプル画素点と決定し、分割しようとする画像における各画素点について、画素点の事前確率が背景の確率閾値より小さいかを判定し、画素点の事前確率が背景の確率閾値より小さい場合、画素点を背景サンプル画素点と決定する。
ここで、顔肩前景の確率閾値は、具体的に0.7又は0.8等であってもよく、本開示の実施例は、この顔肩前景の確率閾値を具体的に限定しない。背景の確率閾値は、具体的に0.2又は0.3等であってもよく、本開示の実施例は、この背景の確率閾値を具体的に限定しない。
本開示の実施例において、サンプル画素点を選択する前に、まず、分割しようとする画像に対して顔の外部輪郭特徴点位置決めを行い、また、位置決め結果に基づいて、分割しようとする画像に対して寸法調整を行い、400*400テンプレートの寸法と同様にする。これにより、分割しようとする画像における各画素点は、400*400テンプレートにおける同じ位置にある画素点とそれぞれ対応する。従って、400*400テンプレート中の対応する位置にある画素点で顔肩前景が現れる事前確率は、分割しようとする画像における同一位置の画素点に対応する事前確率である。
例えば、顔肩前景の確率閾値が0.8、背景の確率閾値が0.2であるとすると、一つの画素点について、画素点の事前確率が0.8より大きい場合、この画素点を前景サンプル画素点として決定し、一方、この画素点の事前確率が0.2より小さい場合、この画素点を背景サンプル画素点として決定する。事前確率が0.2以上且つ0.8以下の画素点に対して、何の処理もしない。
ステップ204において、顔肩前景サンプル画素点の色特徴ベクトル及び背景サンプル画素点の色特徴ベクトルに基づいて,顔肩前景の第1色尤度確率と背景の第2色尤度確率を計算する。
Figure 2016531361
Figure 2016531361
ステップ205において、事前確率、第1色尤度確率、及び第2色尤度確率に基づいて、下記式を用いて、顔肩前景の第1事後確率と背景の第2事後確率を計算する。
Figure 2016531361
ステップ206において、第1事後確率と第2事後確率に基づいて、分割しようとする画像に対して顔肩分割を行う。
本開示の実施例において、第1事後確率と第2事後確率を取得することで、最終の顔肩分割モデルを取得することができる。この顔肩分割モデルをGraphcutの最適化フレームワーク中のデータ項目にロードし、画像画素のコントラスト情報を合わせて、min−cut−max−flow最適化方法を用いて、分割しようとする画像に対して分割を行うことで、最後の顔肩分割結果を得ることができる。
本開示の実施例にかかる方法によれば、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、顔肩前景の事前確率に基づいて自動的に顔肩前景サンプル画素点及び背景サンプル画素点を選択することで、ユーザがサンプル画素点の選択に関与する必要がなくなり、ユーザの利便性が向上する。また、事前確率と色尤度確率に基づいて、画像分割を行い、分割の標準を細かく設定でき、分割精度が向上する。
図3は、本開示の例示的な実施例による画像分割装置のブロック図である。図3に示すように、この装置は、事前確率計算モジュール301、サンプル画素点選択モジュール302、色尤度確率計算モジュール303、事後確率計算モジュール304及び画像分割モジュール305を備える。
事前確率計算モジュール301は、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算する。
サンプル画素点選択モジュール302は、事前確率計算モジュール301と接続され、事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択する。
色尤度確率計算モジュール303は、サンプル画素点選択モジュール302と接続され、顔肩前景サンプル画素点の色特徴ベクトル及び背景サンプル画素点の色特徴ベクトルに基づいて,顔肩前景の第1色尤度確率と背景の第2色尤度確率を計算する。
事後確率計算モジュール304は、色尤度確率計算モジュール303と接続され、事前確率、第1色尤度確率、及び第2色尤度確率に基づいて、顔肩前景の第1事後確率と背景の第2事後確率を計算する。
画像分割モジュール305は、事後確率計算モジュール304と接続され、第1事後確率と第2事後確率に基づいて、分割しようとする画像に対して顔肩分割を行う。
選択的には、事前確率計算モジュール301は、所定枚数の女性正面顔画像を選択し、各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成し、各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得し、顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得し、複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算する。
選択的には、事前確率計算モジュール301は、所定枚数の男性正面顔画像を選択し、各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成し、各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得し、顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得し、複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算する。
Figure 2016531361
選択的には、サンプル画素点選択モジュールは、分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得し、性別認識結果に基づいて、分割しようとする画像に対応する事前確率を決定し、分割しようとする画像における各画素点について、画素点の事前確率が顔肩前景の確率閾値より大きいか否かを判定し、画素点の事前確率が顔肩前景の確率閾値より大きい場合、画素点を前景サンプル画素点と決定し、分割しようとする画像における各画素点について、画素点の事前確率が背景の確率閾値より小さいか否かを判定し、画素点の事前確率が背景の確率閾値より小さい場合、画素点を背景サンプル画素点と決定する。
Figure 2016531361
Figure 2016531361
本開示の実施例にかかる装置によれば、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、顔肩前景の事前確率に基づいて自動的に顔肩前景サンプル画素点及び背景サンプル画素点を選択することで、ユーザがサンプル画素点の選択に関与する必要がなくなり、ユーザの利便性が向上する。また、事前確率と色尤度確率に基づいて、画像分割を行い、分割の標準を細かく設定でき、分割精度が向上する。
上記実施例における装置において、各モジュールが操作を実行する具体的な形態は、すでに該当する方法の実施例において詳しく説明されたので、ここで、詳細な説明を省略する。
図4は、本開示の例示的な実施例による画像分割デバイス400のブロック図である。例えば、デバイス400は、携帯電話、コンピューター、デジタル放送端末、メッセージ送受信デバイス、ゲームコンソール、タブレットデバイス、医療機器、フィットネス機器、パーソナルデジタルアシスタント等であってもよい。
図4を参照して、デバイス400は、プロセスアセンブリ402、メモリ404、電源アセンブリ406、マルチメディアアセンブリ408、オーディオアセンブリ410、入出力(I/O)インターフェイス412、センサアセンブリ414、及び通信アセンブリ416のような一つ以上のアセンブリを含んでよい。
プロセスアセンブリ402は、一般的にはデバイス400の全体の操作を制御するものであり、例えば、表示、電話呼び出し、データ通信、カメラ操作、及び記録操作と関連する操作を制御する。プロセスアセンブリ402は、一つ以上のプロセッサ420を含み、これらによって命令を実行することにより、上記の方法の全部、或は一部のステップを実現するようにしてもよい。なお、プロセスアセンブリ402は、一つ以上のモジュールを含み、これらによってプロセスアセンブリ402と他のアセンブリの間のインタラクションを容易にするようにしてもよい。例えば、プロセスアセンブリ402は、マルチメディアモジュールを含み、これらによってマルチメディアアセンブリ408とプロセスアセンブリ402の間のインタラクションを容易にするようにしてもよい。
メモリ404は、各種類のデータを記憶することによりデバイス400の操作を支援するように構成される。これらのデータの例は、デバイス400において操作されるいずれのアプリケーションプログラム又は方法の命令、連絡対象データ、電話帳データ、メッセージ、画像、ビデオ等を含む。メモリ404は、いずれの種類の揮発性メモリ、不揮発性メモリ記憶デバイスまたはそれらの組み合わせによって実現されてもよく、例えば、SRAM(Static Random Access Memory)EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable Read Only Memory)、PROM(Programmable ROM)、ROM(Read Only Member)、磁気メモリ、フラッシュメモリ、磁気ディスク、或いは光ディスクである。
電源アセンブリ406は、デバイス400の多様なアセンブリに電力を供給する。電源アセンブリ406は、電源管理システム、一つ以上の電源、及びデバイス400のための電力の生成、管理及び割り当てに関連する他のアセンブリを含んでもよい。
マルチメディアアセンブリ408は、前記デバイス400とユーザの間に一つの出力インターフェイスを提供するスクリーンを含む。上記の実施例において、スクリーンは液晶モニター(LCD)とタッチパネル(TP)を含んでもよい。スクリーンがタッチパネルを含むことにより、スクリーンはタッチスクリーンを実現することができ、ユーザからの入力信号を受信することができる。タッチパネルは一つ以上のタッチセンサを含んでおり、タッチ、スライド、及びタッチパネル上のジェスチャを検出することができる。前記タッチセンサは、タッチ、或はスライドの動作の境界だけでなく、前記のタッチ、或はスライド操作に係る継続時間及び圧力も検出できる。上記の実施例において、マルチメディアアセンブリ408は、一つのフロントカメラ、及び/又はリアカメラを含む。デバイス400が、例えば撮影モード、或はビデオモード等の操作モードにある場合、フロントカメラ、及び/又はリアカメラは外部からマルチメディアデータを受信できる。フロントカメラとリアカメラのそれぞれは、一つの固定型の光レンズ系、或は可変焦点距離と光学ズーム機能を有するものであってもよい。
オーディオアセンブリ410は、オーディオ信号を入出力するように構成されてもよい。例えば、オーディオアセンブリ410は、一つのマイク(MIC)を含み、デバイス400が、例えば呼出しモード、記録モード、及び音声認識モード等の操作モードにある場合、マイクは外部のオーディオ信号を受信することができる。受信されたオーディオ信号は、さらにメモリ404に記憶されたり、通信アセンブリ416を介して送信されたりされる。上記の実施例において、オーディオアセンブリ410は、オーディオ信号を出力するための一つのスピーカーをさらに含む。
I/Oインターフェイス412は、プロセスアセンブリ402と周辺インターフェイスモジュールの間にインターフェイスを提供するものであり、上記周辺インターフェイスモジュールは、キーボード、クリックホイール、ボタン等であってもよい。これらのボタンは、ホームボタン、ボリュームボタン、起動ボタン、ロッキングボタンを含んでもよいが、これらに限定されない。
センサアセンブリ414は、デバイス400に各方面の状態に対する評価を提供するための一つ以上のセンサを含む。例えば、センサアセンブリ414は、デバイス400のON/OFF状態、デバイス400のディスプレイとキーパッドのようなアセンブリの相対的な位置決めを検出できる。また、例えば、センサアセンブリ414は、デバイス400、或はデバイス400の一つのアセンブリの位置変更、ユーザとデバイス400とが接触しているか否か、デバイス400の方位、又は加速/減速、デバイス400の温度の変化を検出できる。センサアセンブリ414は、何れの物理的接触がない状態にて付近の物体の存在を検出するための近接センサを含んでもよい。センサアセンブリ414は、撮影アプリケーションに適用するため、CMOS、又はCCD図像センサのような光センサを含んでもよい。上記の実施例において、当該センサアセンブリ414は、加速度センサ、ジャイロスコープセンサ、磁気センサ、圧力センサ、及び温度センサをさらに含んでもよい。
通信アセンブリ416は、デバイス400と他の機器の間に有線、又は無線形態の通信を提供する。デバイス400は、例えばWiFi、2G、3G、或はこれらの組み合わせのような、通信規格に基づいた無線ネットワークに接続されてもよい。一つの例示的な実施例において、通信アセンブリ416は、放送チャンネルを介して外部の放送管理システムからの放送信号、又は放送に関連する情報を受信する。一つの例示的な実施例において、前記通信アセンブリ416は、近距離無線通信(NFC)モジュールをさらに含むことにより、近距離通信を推進するようにする。例えば、NFCモジュールは、RFID(Radio Frequency IDentification)技術、IrDA(Infrared Data Association)技術、UWB(Ultra Wide Band)技術、BT(Bluetooth)技術、他の技術に基づいて実現できる。
例示的な実施例において、デバイス400は、一つ以上のASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、DSPD(Digital Signal Processing Device)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、コントローラ、マイクロコントローラ、マイクロプロセッサ、または他の電子部品によって実現されるものであり、上記方法を実行する。
例示的な実施例において、さらに、命令を含む非一時的なコンピュータで読み取り可能な記憶媒体、例えば命令を含むメモリ404を提供しており、デバイス400のプロセッサ420により上記命令を実行して上記方法を実現する。例えば、前記非一時的なコンピュータで読み取り可能な記憶媒体は、ROM、RAM(Random−Access Memory)、CD−ROM(Compact Disc ROM)、磁気テープ、フロッピーディスク、光データ記憶デバイス等である。
非一時的なコンピュータで読み取り可能な記憶媒体は、当該記憶媒体中の指令がデバイス400のプロセッサにより実行される際に、デバイス400に画像分割方法を実行させることができる。前記方法は、
顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップと、
事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップと、
顔肩前景サンプル画素点の色特徴ベクトル及び背景サンプル画素点の色特徴ベクトルに基づいて、顔肩前景の第1色尤度確率と背景の第2色尤度確率を計算するステップと、
事前確率、第1色尤度確率、及び第2色尤度確率に基づいて、顔肩前景の第1事後確率と背景の第2事後確率を計算するステップと、
第1事後確率と第2事後確率に基づいて、分割しようとする画像に対して顔肩分割を行うステップとを含む。
選択的には、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
所定枚数の女性正面顔画像を選択するステップと、
各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得するステップと、
顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算するステップとを含む。
選択的には、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
所定枚数の男性正面顔画像を選択するステップと、
各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得するステップと、
顔の外部輪郭特徴点の位置決め結果に基づいて、各顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
複数の所定の大きさを有する画像の同一位置にある画素点について、顔肩前景キャリブレーション結果に基づいて、画素点の位置で顔肩前景が現れる事前確率を計算するステップとを含む。
Figure 2016531361
選択的には、事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップは、
分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得するステップと、
性別認識結果に基づいて、分割しようとする画像に対応する事前確率を決定するステップと、
分割しようとする画像における各画素点について、画素点の事前確率が顔肩前景の確率閾値より大きいか否かを判定し、画素点の事前確率が顔肩前景の確率閾値より大きい場合、画素点を前景サンプル画素点と決定するステップと、
分割しようとする画像における各画素点について、画素点の事前確率が背景の確率閾値より小さいか否かを判定し、画素点の事前確率が背景の確率閾値より小さい場合、画素点を背景サンプル画素点と決定するステップとを含む。
Figure 2016531361
Figure 2016531361
本開示の実施例にかかる非一時的なコンピュータで読み取り可能な記憶媒体によれば、顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、顔肩前景の事前確率に基づいて自動的に顔肩前景サンプル画素点及び背景サンプル画素点を選択することで、ユーザがサンプル画素点の選択に関与する必要がなくなり、ユーザの利便性が向上する。また、事前確率と色尤度確率に基づいて、画像分割を行い、分割の標準を細かく設定でき、分割精度が向上する。
図5は、本開示の例示的な実施例による画像分割デバイス500のブロック図である。例えば、デバイス500は、サーバであってもよい。図5に示すように、デバイス500は、1つ又は複数のプロセッサを含むプロセスアセンブリ522と、メモリ532が代表となり、例えばアプリケーションなどのプロセスアセンブリ522により実行可能な各種コマンドを記憶する記憶媒体ソースと、を備える。メモリ532内に記憶されたアプリケーションは、1つ又は1つ以上のモジュールを含み、当該1つ又は1つ以上のモジュールは、それぞれ1組の指令に対応する。また、プロセスアセンブリ522は、コマンドを実行するように構成され、これにより、上記方法を実行する。
デバイス500は、さらに、デバイス500の給電管理を行うための電源アセンブリ526と、デバイス500とネットワークと接続するための有線又は無線のネットワークインターフェース550と、入出力(I/O)インターフェース558とを備える。デバイス500は、例えば、WindowsServerTM,Mac OSXTM,UnixTM, LinuxTM,FreeBSDTMなどの、メモリ532に記憶された操作システムにおいて操作を行うことができる。
当業者は、本明細書に開示された発明の詳細を考慮し、実施することにより、本発明の他の実施方案を容易に想定することができる。本出願は、本発明のいかなる変形、用途、又は適応的な変化を含むことを目的としており、いかなる変形、用途、又は適応的な変化は、本発明の一般原理に基づき、且つ本開示において公開されていない本技術分野においての公知常識又は慣用技術手段を含む。明細書及び実施例は、例示的なものを開示しており、本発明の保護範囲と主旨は、特許請求の範囲に記述される。
本発明は、上記において開示された構成又は図面に示した構造に限定されるものではなく、本発明の範囲内であれば、様々な補正又は変更を行うことができる。本発明の範囲は、特許請求の範囲により制限される。
本開示は、画像処理技術分野に関し、特に、画像分割装置、画像分割デバイス、プログラム及び記録媒体に関する。
本開示は、上記関連技術の問題点を解決するために、画像分割装置、画像分割デバイス、プログラム及び記録媒体を提供する。
前記デバイスは、
プロセッサと、
前記プロセッサにより実行可能な指令を記憶するメモリと、を備え、
前記プロセッサは、
顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、
前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択し、
前記顔肩前景サンプル画素点の色特徴ベクトル及び前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算し、
前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算し、
前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行う。
本開示の実施例の第4態様は、プロセッサに実行されることにより、前記画像分割方法を実現するプログラムを提供する。
本開示の実施例の第5態様は、前記プログラムを記録した記録媒体を提供する。
Figure 2016531361

Claims (15)

  1. 顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップと、
    前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップと、
    前記顔肩前景サンプル画素点の色特徴ベクトルと前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算するステップと、
    前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算し、
    前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行うステップと、を含む
    ことを特徴とする画像分割方法。
  2. 前記顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
    所定枚数の女性正面顔画像を選択するステップと、
    各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
    各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで位置決め結果を取得するステップと、
    顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
    複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算するステップと、を含む
    ことを特徴とする請求項1に記載の画像分割方法。
  3. 前記顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するステップは、
    所定枚数の男性正面顔画像を選択するステップと、
    各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成するステップと、
    各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで位置決め結果を取得するステップと、
    顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得するステップと、
    複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算するステップとを含む
    ことを特徴とする請求項1に記載の画像分割方法。
  4. Figure 2016531361
  5. 前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するステップは、
    前記分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得するステップと、
    前記性別認識結果に基づいて、前記分割しようとする画像に対応する事前確率を決定するステップと、
    前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記顔肩前景の確率閾値より大きいか否かを判定し、前記画素点の事前確率が前記顔肩前景の確率閾値より大きい場合、前記画素点を前景サンプル画素点と決定するステップと、
    前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記背景の確率閾値より小さいか否かを判定し、前記画素点の事前確率が前記背景の確率閾値より小さい場合、前記画素点を背景サンプル画素点と決定するステップと、を含む
    ことを特徴とする請求項1に記載の画像分割方法。
  6. Figure 2016531361
  7. Figure 2016531361
  8. 顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算するための事前確率計算モジュールと、
    前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択するためのサンプル画素点選択モジュールと、
    前記顔肩前景サンプル画素点の色特徴ベクトル及び前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算するための色尤度確率計算モジュールと、
    前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算するための事後確率計算モジュールと、前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行うための画像分割モジュールと、を備える
    ことを特徴とする画像分割装置。
  9. 前記事前確率計算モジュールは、
    所定枚数の女性正面顔画像を選択し、
    各女性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各女性正面顔画像の顔肩キャリブレーション画像を生成し、
    各女性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得し、
    顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像について位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得し、
    複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算する
    ことを特徴とする請求項8に記載の画像分割装置。
  10. 前記事前確率計算モジュールは、
    所定枚数の男性正面顔画像を選択し、
    各男性正面顔画像に対してユーザにより行われた顔肩前景のキャリブレーション結果に基づいて、各男性正面顔画像の顔肩キャリブレーション画像を生成し、
    各男性正面顔画像に対して顔の外部輪郭特徴点の位置決めを行うことで、位置決め結果を取得し、
    顔の外部輪郭特徴点の位置決め結果に基づいて、各前記顔肩キャリブレーション画像に対して位置揃え処理及び寸法正規化処理を行うことで、所定の大きさを有する画像を複数取得し、
    複数の所定の大きさを有する画像の同一位置にある画素点について、前記顔肩前景キャリブレーション結果に基づいて、前記画素点の位置で顔肩前景が現れる事前確率を計算する
    ことを特徴とする請求項8に記載の画像分割装置。
  11. Figure 2016531361
  12. 前記サンプル画素点選択モジュールは、
    前記分割しようとする画像における顔に対して性別認識を行い、性別認識結果を取得し、
    前記性別認識結果に基づいて、前記分割しようとする画像に対応する事前確率を決定し、
    前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記顔肩前景の確率閾値より大きいか否かを判定し、前記画素点の事前確率が前記顔肩前景の確率閾値より大きい場合、前記画素点を前景サンプル画素点と決定し、
    前記分割しようとする画像における各画素点について、前記画素点の事前確率が前記背景の確率閾値より小さいか否かを判定し、前記画素点の事前確率が前記背景の確率閾値より小さい場合、前記画素点を背景サンプル画素点と決定する
    ことを特徴とする請求項8に記載の画像分割装置。
  13. Figure 2016531361
  14. Figure 2016531361
  15. プロセッサと、
    前記プロセッサにより実行可能な指令を記憶するメモリと、を備え、
    前記プロセッサは、
    顔の外部輪郭点の位置決め結果に基づいて、所定の大きさを有する画像における各画素点の位置で顔肩前景が現れる事前確率を計算し、
    前記事前確率、予め設定された顔肩前景の確率閾値及び背景の確率閾値に基づいて、分割しようとする画像において顔肩前景サンプル画素点及び背景サンプル画素点を選択し、
    前記顔肩前景サンプル画素点の色特徴ベクトル及び前記背景サンプル画素点の色特徴ベクトルに基づいて、前記顔肩前景の第1色尤度確率と前記背景の第2色尤度確率を計算し、
    前記事前確率、前記第1色尤度確率、及び前記第2色尤度確率に基づいて、前記顔肩前景の第1事後確率と前記背景の第2事後確率を計算し、
    前記第1事後確率と前記第2事後確率に基づいて、前記分割しようとする画像に対して顔肩分割を行う
    ことを特徴とする画像分割デバイス。


JP2016535336A 2014-07-23 2014-11-19 画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体 Active JP6134446B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201410353140.7A CN104156947B (zh) 2014-07-23 2014-07-23 图像分割方法、装置及设备
CN201410353140.7 2014-07-23
PCT/CN2014/091643 WO2016011745A1 (zh) 2014-07-23 2014-11-19 图像分割方法、装置及设备

Publications (2)

Publication Number Publication Date
JP2016531361A true JP2016531361A (ja) 2016-10-06
JP6134446B2 JP6134446B2 (ja) 2017-05-24

Family

ID=51882437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016535336A Active JP6134446B2 (ja) 2014-07-23 2014-11-19 画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体

Country Status (9)

Country Link
US (1) US9665945B2 (ja)
EP (1) EP2977956B1 (ja)
JP (1) JP6134446B2 (ja)
KR (1) KR101694643B1 (ja)
CN (1) CN104156947B (ja)
BR (1) BR112015003800A2 (ja)
MX (1) MX352237B (ja)
RU (1) RU2577188C1 (ja)
WO (1) WO2016011745A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105258680B (zh) * 2015-09-30 2017-12-01 西安电子科技大学 一种目标位姿测量方法和装置
CN105719294B (zh) * 2016-01-21 2018-09-25 中南大学 一种乳腺癌病理学图像有丝分裂核自动分割方法
JP6688990B2 (ja) * 2016-04-28 2020-04-28 パナソニックIpマネジメント株式会社 識別装置、識別方法、識別プログラムおよび記録媒体
US9681096B1 (en) 2016-07-18 2017-06-13 Apple Inc. Light field capture
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
CA3090684A1 (en) 2017-02-07 2018-08-16 Valorbec Societe En Commandite Methods and systems for additive manufacturing
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
US9992450B1 (en) * 2017-03-24 2018-06-05 Apple Inc. Systems and methods for background concealment in video conferencing session
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
US11070729B2 (en) * 2018-07-27 2021-07-20 Canon Kabushiki Kaisha Image processing apparatus capable of detecting moving objects, control method thereof, and image capture apparatus
CN113129312B (zh) * 2018-10-15 2022-10-28 华为技术有限公司 一种图像处理方法、装置与设备
CN109614983B (zh) * 2018-10-26 2023-06-16 创新先进技术有限公司 训练数据的生成方法、装置及系统
CN109409377B (zh) * 2018-12-03 2020-06-02 龙马智芯(珠海横琴)科技有限公司 图像中文字的检测方法及装置
US10635940B1 (en) * 2018-12-11 2020-04-28 Capital One Services, Llc Systems and methods for updating image recognition models
CN109509195B (zh) * 2018-12-12 2020-04-17 北京达佳互联信息技术有限公司 前景处理方法、装置、电子设备及存储介质
WO2020219612A1 (en) 2019-04-23 2020-10-29 The Procter & Gamble Company Apparatus and method for visualizing cosmetic skin attributes
JP7248820B2 (ja) 2019-04-23 2023-03-29 ザ プロクター アンド ギャンブル カンパニー 美容的皮膚属性を決定するための機器及び方法
CN110266611B (zh) * 2019-07-08 2023-06-23 腾讯科技(上海)有限公司 缓冲数据的处理方法、装置和系统
CN110827371B (zh) * 2019-11-05 2023-04-28 厦门美图之家科技有限公司 证件照生成方法、装置、电子设备及存储介质
CN114022934B (zh) * 2021-11-04 2023-06-27 清华大学 一种基于多数原则的实时人像聚档方法、系统和介质
CN115345895B (zh) * 2022-10-19 2023-01-06 深圳市壹倍科技有限公司 用于视觉检测的图像分割方法、装置、计算机设备及介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010282276A (ja) * 2009-06-02 2010-12-16 Nippon Telegr & Teleph Corp <Ntt> 映像認識理解装置、映像認識理解方法、及びプログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW505513B (en) 2000-11-30 2002-10-11 Sanyo Electric Co Massager and electronic machine with controller
KR100427181B1 (ko) * 2001-12-19 2004-04-28 한국전자통신연구원 에지/컬러정보를 이용한 얼굴 피부색 영역 추출시스템 및그 방법
US6879709B2 (en) * 2002-01-17 2005-04-12 International Business Machines Corporation System and method for automatically detecting neutral expressionless faces in digital images
US20030156759A1 (en) 2002-02-19 2003-08-21 Koninklijke Philips Electronics N.V. Background-foreground segmentation using probability models that can provide pixel dependency and incremental training
KR100474848B1 (ko) * 2002-07-19 2005-03-10 삼성전자주식회사 영상시각 정보를 결합하여 실시간으로 복수의 얼굴을검출하고 추적하는 얼굴 검출 및 추적 시스템 및 방법
GB2395264A (en) * 2002-11-29 2004-05-19 Sony Uk Ltd Face detection in images
GB2395779A (en) * 2002-11-29 2004-06-02 Sony Uk Ltd Face detection
JP5340228B2 (ja) * 2010-06-21 2013-11-13 日本電信電話株式会社 状態推定装置、状態推定方法、およびプログラム
CN102436637B (zh) 2010-09-29 2013-08-21 中国科学院计算技术研究所 从头部图像中自动分割头发的方法及其系统
CN102436636B (zh) * 2010-09-29 2013-09-25 中国科学院计算技术研究所 自动分割头发的方法及其系统
RU2440608C1 (ru) * 2010-12-02 2012-01-20 Государственное образовательное учреждение высшего профессионального образования Московский военный институт радиоэлектроники Космических войск Способ распознавания объектов на основе фрактально-вейвлетного анализа
CN102567998A (zh) * 2012-01-06 2012-07-11 西安理工大学 基于双模板匹配和边缘细化的头肩序列图像分割方法
EP2669865A1 (en) 2012-05-31 2013-12-04 Thomson Licensing Segmentation of a foreground object in a 3D scene
WO2013178725A1 (en) 2012-05-31 2013-12-05 Thomson Licensing Segmentation of a foreground object in a 3d scene
RU2522044C1 (ru) * 2013-01-09 2014-07-10 Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Южно-Российский государственный университет экономики и сервиса" (ФГБОУ ВПО "ЮРГУЭС") Устройство выделения контуров объектов на текстурированном фоне при обработке цифровых изображений
CN103871050B (zh) * 2014-02-19 2017-12-29 小米科技有限责任公司 图标分割方法、装置和终端
CN103871060B (zh) 2014-03-13 2016-08-17 西安电子科技大学 基于平稳方向波域概率图模型的图像分割方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010282276A (ja) * 2009-06-02 2010-12-16 Nippon Telegr & Teleph Corp <Ntt> 映像認識理解装置、映像認識理解方法、及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
XIN, HAI ET AL.: "Human head-shoulder segmentation", AUTOMATIC FACE & GESTURE RECOGNITION AND WORLSHOPS, JPN6016038183, 2011, pages 227 - 232, XP031869405, ISSN: 0003412264, DOI: 10.1109/FG.2011.5771402 *

Also Published As

Publication number Publication date
EP2977956B1 (en) 2017-01-11
EP2977956A1 (en) 2016-01-27
US9665945B2 (en) 2017-05-30
US20160027187A1 (en) 2016-01-28
KR101694643B1 (ko) 2017-01-09
WO2016011745A1 (zh) 2016-01-28
CN104156947B (zh) 2018-03-16
MX2015002246A (es) 2016-04-01
CN104156947A (zh) 2014-11-19
JP6134446B2 (ja) 2017-05-24
KR20160021737A (ko) 2016-02-26
BR112015003800A2 (pt) 2017-07-04
MX352237B (es) 2017-11-15
RU2577188C1 (ru) 2016-03-10

Similar Documents

Publication Publication Date Title
JP6134446B2 (ja) 画像分割方法、画像分割装置、画像分割デバイス、プログラム及び記録媒体
EP2977959B1 (en) Method and device for adjusting skin color
US9674395B2 (en) Methods and apparatuses for generating photograph
EP3125158B1 (en) Method and device for displaying images
CN107944367B (zh) 人脸关键点检测方法及装置
CN107464253B (zh) 眉毛定位方法及装置
CN107967459B (zh) 卷积处理方法、装置及存储介质
EP2927787A1 (en) Method and device for displaying picture
CN109840939B (zh) 三维重建方法、装置、电子设备及存储介质
CN105631803B (zh) 滤镜处理的方法和装置
EP2975574B1 (en) Method, apparatus and terminal for image retargeting
JP2017513075A (ja) 画像フィルタを生成する方法及び装置
EP3113071A1 (en) Method and device for acquiring iris image
EP3040912A1 (en) Method and device for classifying pictures
CN107403144B (zh) 嘴巴定位方法及装置
CN107424130B (zh) 图片美颜方法和装置
US9665925B2 (en) Method and terminal device for retargeting images
US10846513B2 (en) Method, device and storage medium for processing picture
CN107239758B (zh) 人脸关键点定位的方法及装置
CN106469446B (zh) 深度图像的分割方法和分割装置
CN107992894B (zh) 图像识别方法、装置及计算机可读存储介质
US9619016B2 (en) Method and device for displaying wallpaper image on screen
CN107122356B (zh) 显示人脸颜值的方法及装置、电子设备

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170421

R150 Certificate of patent or registration of utility model

Ref document number: 6134446

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250