JP4946035B2 - 画像処理方法、その装置およびそのプログラム - Google Patents
画像処理方法、その装置およびそのプログラム Download PDFInfo
- Publication number
- JP4946035B2 JP4946035B2 JP2005367962A JP2005367962A JP4946035B2 JP 4946035 B2 JP4946035 B2 JP 4946035B2 JP 2005367962 A JP2005367962 A JP 2005367962A JP 2005367962 A JP2005367962 A JP 2005367962A JP 4946035 B2 JP4946035 B2 JP 4946035B2
- Authority
- JP
- Japan
- Prior art keywords
- energy
- pixel data
- segment
- data
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Description
セグメンテイションの精度を高めるために、例えば、下記引用文献1に開示された技術では、セグメンテイションにおけるエネルギを定義し、そのエネルギを最小にするようにグラフカット法などを用いてセグメンテイションを行っている。
先ず、本実施形態の構成要素と、本発明の構成要素との対応関係を説明する。
本実施形態の肌確率Pskin(cu)が本発明の確率データの一例である。また、本実施形態のエネルギDskin(u)が本発明の第1のエネルギの一例であり、本実施形態のエネルギDnon−skin(u)が本発明の第2のエネルギの一例である。また、本実施形態のエネルギS(u,v)が本発明の第3のエネルギの一例である。また、エネルギMskin(u)が本発明の第4のエネルギの一例であり、エネルギMnon−skin(u)が本発明の第5のエネルギの一例である。
また、本実施形態のステップST12が本発明の第1の工程の一例であり、ステップST13が本発明の第2の工程の一例であり、ステップST18,ST19が本発明の第3の工程の一例であり、ステップST2,ST3が本発明の第4の工程の一例である。
さらに、図9に示す処理回路43が、ステップST12を実行することで本発明の確率データ生成手段が実現され、処理回路43がステップST13を実行することで本発明のエネルギ計算手段が実現され、処理回路43がステップST13を実行することで本発明の第1のエネルギ計算手段が実現され、処理回路43がステップST18,ST19を実行することで本発明の第2のエネルギ計算手段が実現され、処理回路43がステップST2,ST3を実行することで本発明の割り当て手段が実現される。
また、図9に示すプログラムPRGが本発明のプログラムの一例である。
図1に示すように、画像処理装置1は、例えば、カメラ10、カラーエネルギ計算部12、動きエネルギ計算部14、関連エネルギ計算部16、グラフ構築部18、マックス・フロー最適化部20およびスキン・セグメントマスク生成部22を有する。
画像処理装置1は、カラーエネルギ計算部12において、所定の色が所定の特徴を持つセグメント内の色である確率を示す確率データを参照して、処理対象の画像データを構成する画素データの各々について、当該画素データが示す色が前記セグメント内の色である確率を示す肌確率Pskin(cu)を生成する。
そして、カラーエネルギ計算部12において、肌確率Pskin(cu)を基に、複数の画素データの各々について、当該画素データが肌領域内の画素データであることに対するエネルギDskin(u)等を生成する。
そして、グラフ構築部18において、上記エネルギを基にグラフを構築し、マックス・フロー最適化部20により、総エネルギを最小にするように、全画素データの各々を肌領域の内外のいずれか一方に割り当てる(セグメンテイションを行う)。
カメラ10は、撮像対象を撮像し、その撮像結果に応じた画像データS10を、カラーエネルギ計算部12、動きエネルギ計算部14および関連エネルギ計算部16に出力する。
画像データS10は、例えば、各々がR,G,B値を示す複数の画素データで構成される。
カラーエネルギ計算部12は、画像データS10の画素データを、R,G,B値から色相値Hueに変換する。
また、カラーエネルギ計算部12は、図2に示すように、色相値Hueと、肌確率Pskinとの関係を示すテーブルデータを備えている。
カラーエネルギ計算部12は、画像データS10の各画素データuについて、その色相値cuに対応する肌確率Pskin(cu)を、上記テーブルデータを基に取得する。
カラーエネルギ計算部12は、下記式(1)により、画素データuが肌に対応することに対するエネルギ値を示すエネルギDskin(u)を計算する。すなわち、エネルギDskin(u)は、画素データuの色相値cuの肌確率Pskin(cu)が高くなるに従って小さくなるように規定されている。
下記式において、fuは、画素データuが肌領域と仮定されているか否かを示し、uが肌領域と仮定された場合は「f u =1」、非肌領域と仮定されている場合は「f u =0」である。
また、T「.」は、「.」の条件が真の場合に「1」となり、偽の場合に「0」となる。
動きエネルギ計算部14は、画像データS10に動き抽出処理を施し、それをエネルギ換算する。これは、肌は、通常動きがある人間の一部であり、動き情報はスキンセグメンテーションの耐性(ロバストネス)および精度を高める上で役に立つためである。
動きエネルギ計算部14は、カレントピクチャ(フレーム)の各画素データに対して、抽出した動き量を基に、画素データuが肌に対応することに対するエネルギ値を示すエネルギMskin(u)を計算する。すなわち、動きエネルギ計算部14は、下記式(6)に示すように、フレーム間の差分を検出することで簡単な計算でエネルギMskin(u)を算出する。
下記式(6)において、It(u)は、時刻tのフレーム内での画素データu(画素位置uの画素データ)の画素値を示している。また、Cは固定値である。
下記式において、fuは、上述したように、画素データuが肌領域と仮定されているか否かを示し、uが肌領域と仮定された場合は「f u =1」、非肌領域と仮定されている場合は「f u =0」である。
関連エネルギ計算部16は、所定の画素の画素データuと、それに隣接する画素の画素データvとの間の関係性を示すエネルギS(u,v)を下記式(9)に示すように設定する。
下記式(9)において、I(u)は、処理対象のフレーム内での画素データu(画素位置uの画素データ)の画素値を示し、I(v)は隣接画素データvの画素値を示している。また、Thrdは、予め決められたしきい値を示している。また、λは、所定の固定値を示している。
すなわち、関連エネルギ計算部16は、画素データuとvとの間にエッジが存在する場合に、それらの間の関係が弱くするために、エッジが存在しない場合に比べてfu≠fvの時のエネルギを小さくする。
グラフ構築部18は、例えば、図4に示すように、画像データS10内の画素データの各々について、当該画素データとノードN(skin)との間のエッジE(skin)のエネルギとして上記式(1)に示すエネルギDskin(u)と上記式(6)に示すエネルギMskin(u)との加算値を割り当ててグラフデータを生成する(グラフ構築する)。
また、グラフ構築部18は、各画素データとノードN(non−skin)との間のエッジE(non−skin)のエネルギとして上記式(2)に示すエネルギDnon−skin(u)と上記式(7)に示すエネルギMnon−skin(u)との加算値を割り当ててグラフデータを生成する。
また、グラフ構築部18は、各画素データと、それに隣接する画素データとの間のエッジE(nei)として上記式(9)のエネルギS(u,v)を割り当ててグラフデータを生成する。
マックス・フロー最適化部20は、グラフ構築部18が生成した図4に示すグラフを基に、グラフカット法などにより、上記式(3),(8),(10)を用いて、下記式(11)に示すエネルギES(f)を最小にする構造データfを生成する。
ここで、構造データfは、画像データS10の各画素データに対して、肌領域であるか非肌領域であるかを示している。具体的には、マックス・フロー最適化部20は、図5に示すように、下記式(11)に示すエネルギES(f)を最小にするようにグラフカット処理を行い、その結果として、各画素データに対応するデータとして、肌領域を示す「1」か非肌領域を示す「0」を割り当てた構造データfを生成する。
スキン・セグメントマスク生成部22は、例えば、マックス・フロー最適化部20が生成した構造データfを基に、画像データS10から肌領域の画像を抽出するためのマスクデータを生成する。
その後、画像処理装置1は、上記マスクデータを基に、画像データS10から肌領域の画像データのみを抽出し、人間の動作などの検出処理を行う。
本実施形態では、例えば、図6に示す画像データS10に対して上記マスクデータを用いてマスク処理を行い高精度な画像データS20を生成できる。従来では、図6に示すように、マスク処理により、精度が低い画像データS120にしか得られなかった。
[全体動作例]
図7は、図1に示す画像処理装置1の全体動作例を説明するためのフローチャートである。
ステップST1:
カラーエネルギ計算部12、動きエネルギ計算部14および関連エネルギ計算部16が、エネルギDskin(u),Dnon−skin(u)、エネルギMskin(u),Mnon−skin(u)、エネルギS(u,v)を生成し、それらをグラフ構築部18に出力する。
当該処理については後に詳細に説明する。
グラフ構築部18は、カラーエネルギ計算部12、動きエネルギ計算部14および関連エネルギ計算部16から入力した上記エネルギを、図4に示すように各エッジE(skin),E(non−skin),E(nei)に割り当て、その割り当て内容を示すグラフデータを生成する。
マックス・フロー最適化部20は、グラフ構築部18がステップST1で生成した図4に示すグラフのグラフデータを基に、グラフカット法などにより、上記式(11)に示すエネルギES(f)を最小にする構造データfを生成する。
スキン・セグメントマスク生成部22は、例えば、マックス・フロー最適化部20が生成した構造データfを基に、画像データS10から肌領域の画像を抽出するためのマスクデータを生成する。その後、画像処理装置1は、上記マスクデータを基に、画像データS10から肌領域の画像データのみを抽出し、人間の動作などの検出処理を行う。
図8は、図7のステップST1の動作例を詳細に説明するためのフローチャートである。
ステップST11:
カラーエネルギ計算部12は、画像データS10の画素データを、R,G,B値から色相値Hueに変換する。
カラーエネルギ計算部12は、画像データS10の各画素データuについて、その色相値cuに対応する肌確率Pskin(cu)を、上記テーブルデータを基に取得する。
カラーエネルギ計算部12は、上記式(1)により、画素データuが肌に対応することに対するエネルギ値を示すエネルギDskin(u)を計算する。
カラーエネルギ計算部12は、上記式(2)に示すように、画素データuが肌に対応しないことに対するエネルギ値を示すエネルギDnon−skin(u)として、一定値Mを設定する。
動きエネルギ計算部14は、カレントピクチャ(フレーム)の各画素データに対して動き量(=|It(u)−It−1(u)|)を抽出する。
動きエネルギ計算部14は、ステップST15で抽出した動き量を基に、上記式(6)に従って、画素データuが肌に対応しないことに対するエネルギ値を示すエネルギMskin(u)を計算する。
動きエネルギ計算部14は、上記式(7)に示すように、画素データuが肌に対応しないことに対するエネルギ値を示すエネルギMnon−skin(u)として、一定値Cを代入する。
関連エネルギ計算部16は、所定の画素の画素データuと、それに隣接する画素の画素データvとの間の差分(=|I(u)−I(v)|)を計算する。
関連エネルギ計算部16は、ステップST18で計算した差分を基に、エネルギS(u,v)を上記式(9)に示すように設定する。
この場合に、処理回路43が、メモリ42に記憶されたプログラムPRGを読み出して、図7および図8に示す処理を実行する。
また、インターフェース41は、図1に示すカメラ10から画像データS10を入力する。
すなわち、当業者は、本発明の技術的範囲またはその均等の範囲内において、上述した実施形態の構成要素に関し、様々な変更、コンビネーション、サブコンビネーション、並びに代替を行ってもよい。
また、本明細書において、記録媒体により提供されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
例えば、図10に示すように、カラーコスト計算部12と動きコスト計算部14を用い、関連エネルギ計算部を用いなくてもよい。
また、上述した実施形態では、上記式(11)のエネルギを最小にする構造データfをグラフカット法を用いて決定する場合を例示したが、エネルギ最小の構造データfを決定する手法であれば特に限定されない。
Claims (4)
- 所定の色が所定の特徴を持つセグメント内の色である確率を示す確率データを参照して、処理対象の画像データを構成する所定の画素データに応じた色が前記セグメント内の色である確率を示す確率データを生成する第1の工程と、
前記第1の工程で生成した前記確率データを基に、前記所定の画素データが前記セグメント内の画素データであることに応じた第1のエネルギを計算する第2の工程と、
前記所定の画素データと、それに隣接する画素データとの差異に応じた第3のエネルギを計算する第3の工程と、
前記処理対象の画像データを構成する画素データの各々について、当該画素データに対して時間的に前あるいは後の対応する画素データとの差異を検出する第4の工程と、
前記第4の工程で検出した前記差異にさらに基づいて、当該画素データが前記セグメント内の画素データであることに対する第4のエネルギを少なくとも計算する第5の工程と、
前記第2の工程で計算した前記第1のエネルギと、前記画素データが前記セグメント外の画素データであることに対する、前記第1のエネルギに対応して予め決められた第2のエネルギとを基に、第6のエネルギを更に算出し、
前記第3の工程で計算した前記第3のエネルギを基に、第7のエネルギを更に算出し、
前記第5の工程で計算した前記第4のエネルギと、前記画素データが前記セグメント外の画素データであることに対する、前記第4のエネルギに対応して予め決められた第5のエネルギとを基に、第8のエネルギを更に算出し、
前記第6のエネルギと、前記第7のエネルギと、前記第8のエネルギとの総和を最小にするように、前記所定の画素データを前記セグメント内外のいずれか一方に割り当てる第6の工程と、
を有する画像処理方法。 - 前記第2の工程において、前記確率データが高くなるに従って小さくなるように前記第1のエネルギを計算する
請求項1に記載の画像処理方法。 - 所定の色が所定の特徴を持つセグメント内の色である確率を示す確率データを参照して、処理対象の画像データを構成する所定の画素データに応じた色が前記セグメント内の色である確率を示す確率データを生成し、当該確率データを基に、前記所定の画素データが前記セグメント内の画素データであることに応じた第1のエネルギを計算する第1のエネルギ計算手段と、
前記所定の画素データと、それに隣接する画素データとの差異に応じた第3のエネルギを計算する第2のエネルギ計算手段と、
前記処理対象の画像データを構成する画素データの各々について、当該画素データに対して時間的に前あるいは後の対応する画素データとの差異を検出し、当該差異にさらに基づいて、当該画素データが前記セグメント内の画素データであることに対する第4のエネルギを少なくとも計算する第3のエネルギ計算手段と、
前記第1のエネルギ計算手段が計算した前記第1のエネルギと、前記画素データが前記セグメント外の画素データであることに対する、前記第1のエネルギに対応して予め決められた第2のエネルギとを基に、第6のエネルギを更に算出し、
前記2のエネルギ計算手段が計算した前記第3のエネルギを基に、第7のエネルギを更に算出し、
前記3のエネルギ計算手段が計算した前記第4のエネルギと、前記画素データが前記セグメント外の画素データであることに対する、前記第4のエネルギに対応して予め決められた第5のエネルギとを基に、第8のエネルギを更に算出し、
前記第6のエネルギと、前記第7のエネルギと、前記第8のエネルギとの総和を最小にするように、前記所定の画素データを前記セグメント内外のいずれか一方に割り当てる割り当て手段と、
を有する画像処理装置。 - コンピュータが実行するプログラムであって、
所定の色が所定の特徴を持つセグメント内の色である確率を示す確率データを参照して、処理対象の画像データを構成する所定の画素データに応じた色が前記セグメント内の色である確率を示す確率データを生成する第1の手順と、
前記第1の手順で生成した前記確率データを基に、前記所定の画素データが前記セグメント内の画素データであることに応じた第1のエネルギを計算する第2の手順と、
前記所定の画素データと、それに隣接する画素データとの差異に応じた第3のエネルギを計算する第3の手順と、
前記処理対象の画像データを構成する画素データの各々について、当該画素データに対して時間的に前あるいは後の対応する画素データとの差異を検出する第4の手順と、
前記第4の手順で検出した前記差異にさらに基づいて、当該画素データが前記セグメント内の画素データであることに対する第4のエネルギを少なくとも計算する第5の手順と、
前記第2の手順で計算した前記第1のエネルギと、前記画素データが前記セグメント外の画素データであることに対する、前記第1のエネルギに対応して予め決められた第2のエネルギとを基に、第6のエネルギを更に算出し、
前記第3の手順で計算した前記第3のエネルギを基に、第7のエネルギを更に算出し、
前記第5の手順で計算した前記第4のエネルギと、前記画素データが前記セグメント外の画素データであることに対する、前記第4のエネルギに対応して予め決められた第5のエネルギとを基に、第8のエネルギを更に算出し、
前記第6のエネルギと、前記第7のエネルギと、前記第8のエネルギとの総和を最小にするように、前記所定の画素データを前記セグメント内外のいずれか一方に割り当てる第6の手順と、
を前記コンピュータに実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005367962A JP4946035B2 (ja) | 2005-12-21 | 2005-12-21 | 画像処理方法、その装置およびそのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005367962A JP4946035B2 (ja) | 2005-12-21 | 2005-12-21 | 画像処理方法、その装置およびそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007172224A JP2007172224A (ja) | 2007-07-05 |
JP4946035B2 true JP4946035B2 (ja) | 2012-06-06 |
Family
ID=38298718
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005367962A Expired - Fee Related JP4946035B2 (ja) | 2005-12-21 | 2005-12-21 | 画像処理方法、その装置およびそのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4946035B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ES2692520T3 (es) | 2011-03-04 | 2018-12-04 | Lbt Innovations Limited | Método para mejorar los resultados de clasificación de un clasificador |
JP5766986B2 (ja) * | 2011-03-16 | 2015-08-19 | オリンパス株式会社 | 画像処理装置、画像処理方法、及び画像処理プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08221567A (ja) * | 1995-02-10 | 1996-08-30 | Fuji Photo Film Co Ltd | 色領域分離方法 |
JP3272584B2 (ja) * | 1995-09-19 | 2002-04-08 | シャープ株式会社 | 領域抽出装置及びそれを用いた方向検出装置 |
KR100474848B1 (ko) * | 2002-07-19 | 2005-03-10 | 삼성전자주식회사 | 영상시각 정보를 결합하여 실시간으로 복수의 얼굴을검출하고 추적하는 얼굴 검출 및 추적 시스템 및 방법 |
-
2005
- 2005-12-21 JP JP2005367962A patent/JP4946035B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2007172224A (ja) | 2007-07-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105590312B (zh) | 前景图像分割方法和装置 | |
US10388018B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP4954206B2 (ja) | ビデオオブジェクトのカットアンドペースト | |
JP4740657B2 (ja) | カラーセグメンテーションに基づくステレオ3次元再構成システムおよびプロセス | |
JP5554984B2 (ja) | パターン認識方法およびパターン認識装置 | |
US9111174B2 (en) | Machine learnng techniques for pectoral muscle equalization and segmentation in digital mammograms | |
EP2523164B1 (en) | Image processing apparatus, image processing method, and image processing program | |
US9280830B2 (en) | Image processing apparatus and segmentation method | |
US10692215B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JPWO2017154630A1 (ja) | 画像処理装置、画像処理方法および記録媒体 | |
JP2009517163A (ja) | 画像内の参照構造に関連付けられた構造をセグメント化する方法、システム及びコンピュータ・プログラム | |
US11406340B2 (en) | Method for converting tone of chest X-ray image, storage medium, image tone conversion apparatus, server apparatus, and conversion method | |
JP2013206015A (ja) | 画像処理装置および方法、並びにプログラム | |
US20090116731A1 (en) | Method and system for detection of concha and intertragal notch point in 3D undetailed ear impressions | |
JP4946035B2 (ja) | 画像処理方法、その装置およびそのプログラム | |
JP5412984B2 (ja) | フォロー対象検出装置、フォロー対象検出方法およびフォロー対象検出プログラム | |
JP4708740B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2008146647A (ja) | 画像処理方法および装置 | |
JP2012022651A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2000348173A (ja) | 唇抽出方法 | |
CN114783454B (zh) | 一种模型训练、音频降噪方法、装置、设备及存储介质 | |
JP2005198887A (ja) | 解剖学的構造物の構造検出方法および装置並びにプログラム、構造物除去画像生成装置、異常陰影検出装置 | |
JP2005165969A (ja) | 画像処理装置、及び方法 | |
JP2017162034A (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
JP2007105196A (ja) | 画像処理装置、画像処理方法およびそのプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081209 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110328 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110510 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110927 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120207 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120220 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150316 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150316 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |