JP7047294B2 - 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム - Google Patents
輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム Download PDFInfo
- Publication number
- JP7047294B2 JP7047294B2 JP2017178462A JP2017178462A JP7047294B2 JP 7047294 B2 JP7047294 B2 JP 7047294B2 JP 2017178462 A JP2017178462 A JP 2017178462A JP 2017178462 A JP2017178462 A JP 2017178462A JP 7047294 B2 JP7047294 B2 JP 7047294B2
- Authority
- JP
- Japan
- Prior art keywords
- contour
- detection
- detection target
- nail
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
Description
例えば、カメラで人物を撮影した場合に、輪郭検出の技術を用いることで、撮影画像から当該人物の顔の輪郭や、目、鼻、口等の各パーツの輪郭を検出することができる。
また、輪郭検出の対象は、顔や顔のパーツに限定されず、爪の輪郭形状等、各種の輪郭検出に輪郭検出の技術を用いることができる。
例えば、従来輪郭検出に用いられる手法として、AAM(Active Appearance Model)やASM(Active Shape Model)がある。これらの手法は、顔の輪郭や各パーツの輪郭の特徴点の配置を形状モデル(Shape Model)と呼ばれるモデルで表現する。そして、この形状モデルと検出対象を含む画像にフィッティングさせることで検出対象の輪郭検出を行う。
また、非特許文献1には、ESR(Explicit Shape Regression)と呼ばれるアルゴリズムにより検出対象の輪郭を検出する技術が開示されている。
ESRにおいても、重心の周囲に特徴点が配置された形状モデル(初期形状)を生成し、これと検出対象を含む画像とのフィッティングを行う。この際、ESRでは、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、形状モデル(初期形状)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
すなわち、できる限り検出対象の重心に近い位置に形状モデル(初期形状)の重心を配置した方が検出対象の輪郭をより高精度に検出することができる。
このため、例えば顔の輪郭を検出する場合には、目、鼻、口等、周囲との輝度や色の差が大きく見つけやすいパーツの位置情報を参考に顔全体の輪郭の重心を特定して、この位置を重心位置として形状モデル(初期形状)を配置する等の手法がとられる。
なお、ESRによる輪郭検出では、AAMやASM等と比較して重心の配置位置による輪郭検出の精度への影響は少ないが、検出対象の重心に近い位置に形状モデル(初期形状)の重心を配置した方がより正確な輪郭検出を行うことができることに変わりはない。
例えば、爪の輪郭を検出する場合には、爪の領域内に周囲との輝度や色の差が特に大きく目印となるような部分がなく、また、その輪郭部分は指と爪との境界であり、輝度や色の差が少ないために特定しにくい。
このような場合には、形状モデル(初期形状)を配置すべき位置を決めることが難しいとの問題がある。
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得する撮影手段と、
学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶した輪郭検出情報記憶手段と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出手段と、
を備え、
前記輪郭検出手段は、前記学習データに基づいて、前記検出対象画像に配置される前記初期形状の輪郭の初期位置を予め設定し、当該初期位置に配置された前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行うことを特徴としている。
また、本発明の描画装置は、
上記の輪郭検出装置と、
前記輪郭検出装置により検出された輪郭内に描画を施す描画部と、を備えることを特徴としている。
また、本発明の輪郭検出方法は、
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得する撮影工程と、
学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶する輪郭検出情報記憶工程と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出工程と、
を含み、
前記輪郭検出工程は、前記学習データに基づいて、前記検出対象画像に配置される前記初期形状の輪郭の初期位置を予め設定し、当該初期位置に配置された前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行うことを特徴としている。
また、本発明の輪郭検出プログラムは、
輪郭検出装置のコンピュータに、
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得させる撮影機能と、
学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶する輪郭検出情報記憶機能と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出機能と、
を実現させ、
前記輪郭検出機能は、前記学習データに基づいて、前記検出対象画像に配置される前記初期形状の輪郭の初期位置を予め設定し、当該初期位置に配置された前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行うことを特徴としている。
図1から図9を参照しつつ、本発明に係る輪郭検出装置の第1の実施形態について説明する。
なお、以下の本実施形態では、輪郭の検出を行う対象である検出対象が指の爪である場合を例として説明する。
以下においては、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
図1に示すように、本実施形態における輪郭検出装置1は、ほぼ箱形に形成された筐体11を有している。
筐体11の上面(天板)には操作部12が設置されている。
操作部12は、ユーザが各種入力を行う入力部である。
操作部12には、例えば、輪郭検出装置1の電源をONする電源スイッチ釦、動作を停止させる停止スイッチ釦、爪Tの輪郭検出の開始を指示する検出開始釦等、各種の入力を行うための操作釦が配置されている。
表示部13は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機エレクトロルミネッセンスディスプレイその他のフラットディスプレイ等で構成されている表示手段である。
本実施形態において、この表示部13には、例えば、各種の指示等や、指U1を撮影して得た爪画像(爪Tの画像を含む指画像)、この爪画像中に含まれる爪Tの輪郭線等の画像、各種の指示を表示させる指示画面等が適宜表示される。
また、本実施形態の表示部13の表面には、タッチパネルが一体的に構成されていてもよい。この場合には、タッチパネルも操作部12として機能する。
開口部14の内側には、本実施形態における検出対象である爪T(爪Tを含む指U1)を固定する指固定部3が配置されている。
図2(a)は、指固定部3の斜視図であり、図2(b)は、指固定部3を上方向から見た平面図である。
図2(a)では、爪Tを含む指U1が指固定部3内に配置されている様子を二点鎖線で示している。
指固定部材32は、指U1を下側から押し上げ支持するものであり、例えば柔軟性を有する樹脂等で形成されている。なお、指固定部材32は、指U1を下側から支持し輪郭検出得るものであればよく、その構成は特に限定されない。例えば、ばね等の弾性部材によって下方から付勢されていてもよい。また、例えば、指固定部材32は、内圧を変化させることにより膨縮可能に構成されており、膨張状態において指U1を押し上げ、その位置を固定する構成としてもよい。
また、指固定部3の天面手前側は指U1の浮き上がりを防止して指U1の上方向の位置を規制する指押え34となっている。指U1及びその爪Tは、下側から指固定部材32によって支持され、指U1の上側が指押え34によって押さえられることで、高さ方向の位置が所定の位置に位置決めされる。
また、本実施形態では、指挿入方向の奥側には、爪Tを載置する爪載置部35が設けられている。爪載置部35は、検出対象である爪Tを位置決めする位置決め手段である。
この爪載置部35に爪Tの先を載置させることにより、爪Tの水平方向(すなわち、X方向及びY方向)の位置が規定されるとともに、その高さ方向の位置も規制される。
図3に示すように、指固定部3内に指U1を挿入した際に爪Tが配置される位置の上方には、撮影部50が配置されている。
撮影部50は、撮影装置51と、照明装置52とを備えている。
撮影装置51は、例えば、200万画素程度以上の画素を有する固体撮像素子とレンズ等を備えて構成された小型カメラである。
照明装置52は、例えば白色LED等の照明灯である。本実施形態では、撮影装置51を囲むように複数の照明装置52が配置されている。
なお、撮影装置51及び照明装置52の位置は図示例に限定されない。例えば、撮影部50の撮影装置51及び照明装置52は、爪Tの上方位置に固定配置されていてもよいし、撮影部50が移動手段によって移動可能に構成されている場合には、爪Tの上方位置に移動することが可能となっていればよい。
また、本実施形態では、後述する学習用サンプルとしての爪(すなわち、サンプル爪TL1~TL3・・・、図4及び図5参照)についても、位置決め手段である爪載置部35により位置決めされた状態で、検出対象である爪Tを撮影する撮影部50と同様の撮影部により撮影が行われ、学習対象画像であるサンプル爪画像が取得される。
なお、撮影部50によって撮影された画像の画像データは、後述する記憶部82等に記憶されてもよい。
制御装置80は、例えば筐体11の天面の下面側等に配置された図示しない基板等に設置されている。
制御装置80は、図示しないCPU(Central Processing Unit)により構成される制御部81と、ROM(Read Only Memory)及びRAM(Random Access Memory)等(いずれも図示せず)で構成される記憶部82とを備えるコンピュータである。
また、本実施形態において記憶部82には、輪郭検出部813が画像から爪の輪郭を検出するために用いる輪郭検出情報を記憶する輪郭検出情報記憶領域822、輪郭検出部813により検出された爪Tの輪郭の情報が記憶される輪郭情報記憶領域823等が設けられている。
輪郭検出情報記憶領域822に記憶されている輪郭検出情報は、形状モデルである初期形状Tmの輪郭Tmbを構成する各特徴点Tmdの座標値や、初期形状Tmの重心Tmcの位置、変位量関数(回帰関数)からなるリグレッサー(識別器)等、事前の学習によって得られた学習データである。
輪郭検出情報記憶領域822に記憶される輪郭検出情報(学習データ)は、学習データ生成部83によって生成される。
具体的には、学習データ生成部83は、各学習用画像から輪郭検出に有用な特徴量を抽出する特徴抽出を行う。特徴量は例えば各画素の輝度値や色、隣接する画素間における輝度値や色の変化量等である。特徴量を抽出したら、学習データ生成部83は、各学習用画像について爪領域の形状を表す特徴点のx,y座標値のデータを生成して、このx,y座標値のデータを各学習用画像に対応付ける。
さらに学習データ生成部83は、各学習用画像について対応付けられた特徴点のx,y座標値のデータを用いてパターン学習を行い、検出対象である爪Tらしい形状である初期形状Tm(初期形状Tmの輪郭Tmbを構成する特徴点Tmdの座標値)、初期形状Tmの重心Tmc、識別器等からなる学習結果としての学習データを生成する。なお、学習は通常機械学習により行われる。
なお、本実施形態では、図3に示すように、学習データ生成部83が輪郭検出装置1の外にあり、学習データ生成部83による生成された学習結果である学習データが予め制御装置80に提供され、輪郭検出情報記憶領域822に格納されている場合を例示しているが、学習データ生成部83は輪郭検出装置1内にあってもよい。
このようにすることで、爪画像内における爪の位置がほぼ同じとなるとともに、同様の構成の撮影部50により撮影することができ、撮影条件もほぼ同じとなる。
なお、ここで、「同じ」爪載置部35としたのは、全く同一の装置の同一の爪載置部との意味ではなく、同様の構成を備える装置の同様の爪載置部との意味である。撮影部50についても同様である。
このため、全く同一の装置である可能性は低く、個体としては別物だが、同じ構成、同じ部材を備え、同じ条件下でデータを取得することができるものが用いられる。
また、図4において、サンプル爪TL1の重心をTL1cとし、サンプル爪TL2の重心をTL2cとし、サンプル爪TL3の重心をTL3cとし、これらの重心TL1c~TL3cの平均値をとった平均重心をTpとしている。
ここで、「重心」とは、図形(本件では爪(サンプル爪TL))内における1次のモーメントの総和が0になる点である。
なお、図4では、学習用サンプルとして3つのサンプル爪TL1~TL3を図示しているが、サンプル爪TLの数はこれに限定されない。ある程度多くのサンプル爪TLを集めて学習を行う方がより信頼度の高い学習データを得ることが期待できる。
初期形状Tmは、重心Tmcの周囲に輪郭Tmbを構成する特徴点Tmdが設定されたものである。
初期形状Tmの重心Tmcは、全てのサンプル爪TL1~TL3の重心TL1c~TL3cの平均値でもよいし、何らかの重み付けにより選択される位置でもよい。また、初期形状Tmの特徴点Tmdは、全てのサンプル爪TL1~TL3の各特徴点TL1d~TL3dの平均値であってもよいし、全てのサンプル爪TL1~TL3の各特徴点TL1d~TL3dの中からランダムに選ばれたものであってもよい。
本実施形態では、輪郭検出部813はESR(Explicit Shape Regression)の手法を用いて、爪Tの輪郭の検出を行う。
すなわち、輪郭検出部813は、重心Tmcの周囲に特徴点Tmdが配置された初期形状Tm(形状モデル)を生成し、これと検出対象を含む画像とのフィッティングを行う。
ESRを用いた輪郭検出では、この際、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、初期形状Tm(形状モデル)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
図6(a)及び図7(a)は、初期形状Tmが検出対象画像TI内の初期位置に配置された状態を示している。
なお、ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせて輪郭検出を行うAAM等の手法と比較してロバスト性に優れるため、初期形状Tmとしてどのようなものを用いるかや初期形状Tmを配置する初期位置をそれほど厳密に設定しなくても検出結果の精度への影響は少ない。
このため、図6(a)及び図7(a)に示すように、入力された検出対象画像TIが異なる場合でも、共通の初期形状Tmを適用することができる。
しかし、ESR等の手法を用いる場合でも、できるだけ爪領域と重なり合う位置に初期形状Tmを配置した方が、より高精度に輪郭検出を行うことが期待できる。
このため、本実施形態では、初期形状Tmの重心Tmcが学習データにおける重心の平均値である平均重心Tpの位置にくるように初期形状Tmを配置する。
初期形状Tmが配置されると、輪郭検出部813は、事前の学習によって生成され、予め記憶部82の輪郭情報記憶領域823に記憶さている変位量関数(回帰関数)からなるリグレッサー(ESRの場合には2段階の弱識別器)により初期形状Tmの変位を繰り返し、正解位置である爪Tの輪郭(すなわち、爪領域の境界)に向かって徐々に収束させていく。
図6(b)及び図7(b)は、正解位置である爪Tの輪郭と重なるように初期形状Tmを変位させた状態を示している。
このように各特徴点Tmdが爪Tの輪郭に近づくように初期形状Tmを変位させることにより、輪郭検出部813は、最終的に爪Tの輪郭を推定する。
まず、図8に示すように、本実施形態における輪郭検出処理では、ユーザが指U1を指固定部3内に挿入し、検出対象である爪Tを爪載置部35によって位置決めした状態で処理開始のスイッチを操作すると、撮影制御部811が撮影部50を動作させて、爪載置部35によって位置決めされた状態の爪Tを撮影し、検出対象画像である爪画像TIを取得する(ステップS1)。
爪画像TIを取得すると、輪郭検出部813は、事前の学習によって所得した初期形状Tmの重心Tmcが平均重心Tpの位置にくるように初期形状Tmを配置する(ステップS2、図6(a)及び図7(a)参照)。
そして、サンプル爪TLが爪載置部35によって位置決めされた状態で撮影部50によりサンプル爪TLを撮影する(ステップS11)。これにより学習対象画像が取得される(ステップS12)。学習データ生成部83は、所定数の学習対象画像が取得されたか否かを判断し(ステップS13)、学習対象画像が所定数に達していない場合(ステップS13;NO)には、指固定部3の所定位置に次のサンプル爪TLを配置させ、ステップS11からの処理を繰り返す。なお、学習対象画像として用意すべき「所定数」をいくつとするかは適宜設定されるが、できるだけ多くの学習対象画像を取得した方がより信頼性の高い学習データを生成することができ、好ましい。
他方、学習対象画像が所定数に達した場合(ステップS13;YES)には、学習データ生成部83は、各学習対象画像についてサンプル爪TL(図4及び図5においてTL1~TL3)の輪郭(図4及び図5においてTL1b~TL3b)を構成する特徴点(図4及び図5においてTL1d~TL3d)及び重心(図4及び図5においてTL1c~TL3c)を取得する(ステップS14)。
そして、学習データ生成部83は、これら学習対象画像群の各特徴点(図4及び図5においてTL1d~TL3d)の平均値Tmd及び重心(図4及び図5においてTL1c~TL3c)の平均値Tmcを算出し、初期形状Tmを生成する(ステップS15)。さらに、学習データ生成部83は、学習対象画像群について学習(機械学習)を行うことにより、リグレッサー(識別器、ESRの手法による場合には、2段階の弱識別器)を生成する(ステップS16)。
そして、初期形状Tmの特徴点Tmdの座標値(x,y座標値)、重心Tmc及び識別器を含む学習データを輪郭検出情報として、記憶部82の輪郭検出情報記憶領域822に記憶させる(ステップS17)。
具体的には、初期形状Tmの個々の特徴点Tmdを、正解位置である爪領域の輪郭に近づくように、識別器によって繰り返し変位させ、正解位置に向かって徐々に収束させていく。
例えば、図6(a)では、爪Tの幅方向(図6(a)において横方向、指U1の幅方向)においては初期形状Tmと爪Tの領域の幅がほぼ一致しているが、爪Tの上下方向(図6(a)において上下方向、指U1の延在方向)においては初期形状Tmの方が爪Tの領域よりも長さが短くなっている。この場合、識別器を適用して初期形状Tmを変位させていくことで、図6(b)に示すように、全ての特徴点Tmdをほぼ爪領域の輪郭に沿う正解位置に収束させていくことができる。
また、図7(a)では、爪Tの上下方向(図7(a)において上下方向、指U1の延在方向)の上側(すなわち爪Tの先端部)においては初期形状Tmの特徴点Tmdがほぼ爪Tの輪郭と一致しているが、下側(すなわち爪Tの生え際部分)においては初期形状Tmが爪領域からはみ出している。また、爪Tの幅方向(図7(a)において横方向、指U1の幅方向)においては初期形状Tmの方が爪Tの領域よりも内側に配置されている。この場合、識別器を適用して初期形状Tmを変位させていくことで、図7(b)に示すように、全ての特徴点Tmdをほぼ爪領域の輪郭に沿う正解位置に収束させていくことができる。
このような手法を用いることで、ユーザが爪領域を自ら切り出したり設定することなく、自動的に、高精度に爪Tの輪郭を検出することができる。
このため、初期形状Tmをフィッティングに適した位置に配置してフィッティング処理を行うことができ、より高精度に検出対象(本実施形態では爪T)の輪郭を検出することができる。
ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせるAAM等の手法と比較してロバスト性に優れるため、初期形状Tmの厳密性が求められず、例えば、検出対象である爪Tの大きさ(爪幅や指の太さ、指の種類等)等に応じて複数種類の初期形状を用意したり、これらを検出対象に応じて使い分けたりする必要がない。このため、複数種類の初期形状を用意する場合と比較してメモリが少なくて済み、また、複数種類の初期形状のうちどれを適用するかを分類・判断する必要がなく、処理を簡易化することができる。
次に、図10から図12を参照しつつ、本発明に係る輪郭検出装置を爪にネイルデザインを描画する描画装置(以下、「ネイルプリント装置」という。)に適用した例を第2の実施形態として説明する。
なお、本実施形態では、輪郭検出装置の構成及び作用・効果は第1の実施形態で説明したものと同様であるため、以下においては、特に第1の実施形態と異なる点について説明する。
なお、図10では図示を省略しているが、ネイルプリント装置100は、図10に示す内部構成が、例えば図1に示すような操作部12や表示部13等を備える筐体11内に収容されて構成されている。
描画部40は、描画部本体である描画ヘッド41、ユニット支持部材42、ユニット支持部材42をX方向(図10等におけるX方向、ネイルプリント装置100の左右方向)に移動させるためのX方向移動ステージ45、X方向移動モータ46、ユニット支持部材42をY方向(図10等におけるY方向、ネイルプリント装置100の前後方向)に移動させるためのY方向移動ステージ47、Y方向移動モータ48等を備えて構成されている。
本実施形態の描画ヘッド41は、インクジェット方式で描画を行うインクジェットヘッドである。なお、描画ヘッド41はインクジェット方式で描画を行うものに限定されない。例えば、爪Tの表面に直接先端部を接触させて描画を行うペン等を備えて構成されていてもよい。
ヘッド移動部49を備えることにより、検出対象である爪を撮影する際には、指固定部3の上方に撮影部50が配置されるようにし、描画時には指固定部3の上方に描画ヘッド41が配置されるように、適宜移動させることができる。
描画部40における描画ヘッド41、X方向移動モータ46、Y方向移動モータ48は、後述する制御装置80の描画制御部815(図11参照)に接続され、該描画制御部815によって制御される。
図11に示すように、制御装置80の制御部81は、輪郭検出装置1について図3に示した撮影制御部811の他に、輪郭検出部813を含む爪情報検出部812と、描画データ生成部814と、描画制御部815と、表示制御部816と、を備えている。
ここで、爪情報とは、輪郭検出部813により検出される爪Tの輪郭(爪形状、爪Tの水平位置のXY座標等)の他、例えば、爪Tの高さ(爪Tの垂直方向の位置、爪Tの垂直位置)、爪Tの表面の、XY平面に対する傾斜角度(爪Tの傾斜角度、爪曲率)等である。
具体的には、描画データ生成部814は、爪情報検出部812により検出された爪Tの輪郭形状等に基づいてネイルデザインの画像データを拡大、縮小、切出し等することにより爪Tの形状に合わせ込む合せ込み処理を行う。
また、描画データ生成部814は、爪情報検出部812により検出された爪情報に応じて、適宜曲面補正等を行う。
これにより、描画ヘッド41によって描画されるネイルデザインの描画用データが生成される。
ネイルデザイン記憶領域824には、爪Tに描画されるネイルデザインの画像データが記憶されている。
爪画像記憶領域825には、撮影部50によって取得されたユーザの印刷指U1の爪Tの爪画像が記憶されている。
また、爪情報記憶領域826には、輪郭検出部813により検出される爪Tの輪郭(爪形状、爪Tの水平位置のXY座標等)が輪郭情報記憶領域823に記憶される他、爪情報検出部812によって検出された爪Tの高さ(爪Tの垂直方向の位置、爪Tの垂直位置)、爪Tの表面の、XY平面に対する傾斜角度(爪Tの傾斜角度、爪曲率)等が記憶されている。
本実施形態において、ネイルプリント装置100で爪Tへの描画を行う場合、ユーザは、装置電源を入れ、さらに描画開始ボタン等の操作部12を操作する。これにより、操作に応じた描画開始指示がネイルプリント装置100の制御装置80に入力される(ステップS21)。
描画開始指示が入力されると、表示制御部816は、ネイルデザインを選択させるネイルデザイン選択画面を表示部13に表示させ(ステップS22)、ユーザによる選択を促す。
ユーザが操作部12等から所望のネイルデザインを選択すると、当該選択指示に従って爪Tに描画すべきネイルデザインが選択される(ステップS23)。
ネイルデザインが選択されると、表示制御部816は、指固定部の所定位置に描画対象となる爪の指を配置するように指示する指示画面を表示部13に表示させ(ステップS24)、ユーザに爪T(及びその指U1)の固定を促す。
ユーザは指示に従って指U1を指固定部3に挿入し、爪Tの先を位置決め手段である爪載置部35に載置することで位置決め固定する。
そして、このように爪Tが爪載置部35により位置決めされた状態で、撮影制御部811が撮影部50を動作させて爪Tを撮影し(ステップS25)、検出対象としての爪Tの領域を含む検出対象画像である爪画像TIを取得する。
また、爪情報検出部812は、爪画像(検出対象画像)TIから爪Tの高さ(爪Tの垂直方向の位置、爪Tの垂直位置)、爪Tの表面の、XY平面に対する傾斜角度(爪Tの傾斜角度、爪曲率)等を検出する。
爪Tの輪郭等の爪情報が検出されると、描画データ生成部814は、検出された爪Tの輪郭に、選択されたネイルデザインをフィッティングし、さらに適宜曲面補正等の補正を行って描画用データ(ネイルデザインの描画データ)を生成する(ステップS27)。
そして、描画データ生成部814により描画用データが生成されると、描画制御部815は、描画部40に描画用データを出力するとともに、ヘッド移動部49を動作させて描画ヘッド41を適宜移動させながら描画用データに基づく描画処理を行わせる。これにより描画用データに基づくネイルデザインが爪Tに描画される(ステップS28)。
すなわち、本実施形態では、描画装置であるネイルプリント装置100が、第1の実施形態で示した輪郭検出装置1を備えている。このため、爪Tという、指部分との境界等を検出することが難しい対象について、比較的時間を掛けず、またユーザの手を煩わせずに精密に描画範囲となる爪領域を特定し、はみ出し等のない美しい仕上がりのネイルプリントを行うことができる。
検出対象の領域とのフィッティングを行う際の初期形状Tmの配置位置、重心Tmcの位置が輪郭検出に多少でも影響を与えるようなアルゴリズムを用いる場合には、上記各実施形態で示したように、初期形状Tmを生成する元となる学習対象画像と検出対象画像とをできるだけ同じ条件で取得することが好ましい。
このため、例えば、AAM(Active appearance model)、ASM(Active Shape model)ACM(Active Contour Model)等を輪郭検出部813が初期形状Tmと検出対象の領域とのフィッティングを行う際に用いることのできるアルゴリズムとして用いる場合にも本実施形態を適用することが可能である。
例えば、顔の輪郭や目・鼻・口等の顔のパーツの輪郭等を検出対象としてもよい。
このように、顔の輪郭や顔のパーツを検出する場合には、位置決め手段として、例えばあごの位置を固定する顎載せ台等を設置し、これに顎を固定した状態で学習対象画像や検出対象画像を取得するための撮影を行う。
また、検出対象が医療用の撮影装置で撮影された医療用画像に含まれる各種臓器等である場合には、輪郭検出を行った後の処理として、医師等による画像診断や患者への健康状況の情報提供等が行われてもよい。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得する撮影手段と、
撮影された学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶した輪郭検出情報記憶手段と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出手段と、
を備え、
前記輪郭検出手段は、前記学習データに基づいて初期位置を設定し、当該初期位置に前記初期形状を配置して、前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行う輪郭検出装置。
<請求項2>
検出対象を位置決めする位置決め手段を更に備え、
前記撮影手段は前記位置決め手段に位置決めされた状態の前記検出対象を撮影した画像である請求項1に記載の輪郭検出装置。
<請求項3>
前記輪郭検出手段は、前記位置決め手段に位置決めされた状態の前記学習用サンプルにおける重心の位置に基づいて、前記初期位置における前記初期形状の重心の位置を設定する請求項2に記載の輪郭検出装置。
<請求項4>
前記輪郭検出手段は、前記初期形状と前記検出対象の領域とのフィッティングを行うことにより前記輪郭の検出を行う請求項1から請求項3のいずれか一項に記載の輪郭検出装置。
<請求項5>
前記検出対象及び前記学習用サンプルは、爪であり、
前記位置決め手段は爪又は指を載置する爪載置部である請求項1から請求項4のいずれか一項に記載の輪郭検出装置。
<請求項6>
請求項1から請求項5のいずれか一項に記載の輪郭検出装置と、
前記輪郭検出装置により検出された輪郭内に描画を施す描画部と、
を備える描画装置。
<請求項7>
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得する撮影工程と、
撮影された学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶する輪郭検出情報記憶工程と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出工程と、
を含み、
前記輪郭検出工程は、前記学習データに基づいて初期位置を設定し、当該初期位置に前記初期形状を配置して、前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行う輪郭検出方法。
<請求項8>
輪郭検出装置のコンピュータに、
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得させる撮影機能と、
撮影された学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶する輪郭検出情報記憶機能と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出機能と、
を実現させ、
前記輪郭検出機能は、前記学習データに基づいて初期位置を設定し、当該初期位置に前記初期形状を配置して、前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行う輪郭検出プログラム。
3 指固定部
35 爪載置部
40 描画部
41 描画ヘッド
50 撮影部
81 制御部
82 記憶部
83 学習データ生成部
812 爪情報検出部
813 輪郭検出部
816 描画制御部
100 ネイルプリント装置
T 爪
U1 指
Claims (8)
- 検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得する撮影手段と、
学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶した輪郭検出情報記憶手段と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出手段と、
を備え、
前記輪郭検出手段は、前記学習データに基づいて、前記検出対象画像に配置される前記初期形状の輪郭の初期位置を予め設定し、当該初期位置に配置された前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行う、輪郭検出装置。 - 検出対象を位置決めする位置決め手段を更に備え、
前記撮影手段は、前記位置決め手段により位置決めされた状態の前記検出対象を撮影した前記検出対象画像を取得する、請求項1に記載の輪郭検出装置。 - 前記学習対象画像は、前記位置決め手段により位置決めされた状態で前記撮影手段によって取得された複数の学習用サンプルの画像を含み、
前記輪郭検出手段は、前記複数の学習用サンプルの画像における前記学習用サンプルの重心の位置に基づいて、前記初期位置における前記初期形状の重心の位置を設定する、請求項2に記載の輪郭検出装置。 - 前記検出対象及び前記学習用サンプルは、爪であり、
前記位置決め手段は爪又は指を載置する爪載置部である請求項3に記載の輪郭検出装置。 - 前記特徴点は、複数の前記特徴点を含み、
前記輪郭検出手段は、前記初期位置に配置された前記初期形状の輪郭を構成する前記複数の特徴点の位置を、それぞれ前記検出対象の領域の輪郭に近づけることにより前記検出対象の前記輪郭の検出を行う、請求項1から請求項4のいずれか一項に記載の輪郭検出装置。 - 請求項1から請求項5のいずれか一項に記載の輪郭検出装置と、
前記輪郭検出装置により検出された輪郭内に描画を施す描画部と、
を備える描画装置。 - 検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得する撮影工程と、
学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶する輪郭検出情報記憶工程と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出工程と、
を含み、
前記輪郭検出工程は、前記学習データに基づいて、前記検出対象画像に配置される前記初期形状の輪郭の初期位置を予め設定し、当該初期位置に配置された前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行う、輪郭検出方法。 - 輪郭検出装置のコンピュータに、
検出対象を撮影して前記検出対象の領域を含む検出対象画像を取得させる撮影機能と、
学習対象画像に基づいて生成された学習結果である初期形状の輪郭を構成する特徴点の座標値及び当該初期形状の重心を含む学習データを記憶する輪郭検出情報記憶機能と、
前記検出対象画像から前記検出対象の領域の輪郭を検出する輪郭検出機能と、
を実現させ、
前記輪郭検出機能は、前記学習データに基づいて、前記検出対象画像に配置される前記初期形状の輪郭の初期位置を予め設定し、当該初期位置に配置された前記初期形状と前記検出対象画像に含まれる前記検出対象の領域とのフィッティングを行うことにより前記検出対象の前記輪郭の検出を行う、輪郭検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017178462A JP7047294B2 (ja) | 2017-09-19 | 2017-09-19 | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017178462A JP7047294B2 (ja) | 2017-09-19 | 2017-09-19 | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019053626A JP2019053626A (ja) | 2019-04-04 |
JP7047294B2 true JP7047294B2 (ja) | 2022-04-05 |
Family
ID=66015194
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017178462A Active JP7047294B2 (ja) | 2017-09-19 | 2017-09-19 | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7047294B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020183876A (ja) * | 2019-04-26 | 2020-11-12 | 株式会社前川製作所 | 特徴点認識システムおよびワーク処理システム |
JP7370777B2 (ja) * | 2019-09-13 | 2023-10-30 | 株式会社東芝 | 学習システム、分析システム、学習方法、分析方法、プログラム、及び記憶媒体 |
JP7474580B2 (ja) | 2019-11-07 | 2024-04-25 | エスアイアイ・プリンテック株式会社 | 予測システムおよび予測方法 |
CN111860376B (zh) * | 2020-07-24 | 2023-10-31 | 北京博维航空设施管理有限公司 | 一种舱门的轮廓拟合方法及装置 |
JP7188425B2 (ja) * | 2020-09-18 | 2022-12-13 | カシオ計算機株式会社 | 印刷装置及び爪姿勢確認方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013039168A (ja) | 2011-08-12 | 2013-02-28 | Casio Computer Co Ltd | ネイルプリント装置及び印刷制御方法 |
US20150030219A1 (en) | 2011-01-10 | 2015-01-29 | Rutgers, The State University Of New Jersey | Method and apparatus for shape based deformable segmentation of multiple overlapping objects |
-
2017
- 2017-09-19 JP JP2017178462A patent/JP7047294B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150030219A1 (en) | 2011-01-10 | 2015-01-29 | Rutgers, The State University Of New Jersey | Method and apparatus for shape based deformable segmentation of multiple overlapping objects |
JP2013039168A (ja) | 2011-08-12 | 2013-02-28 | Casio Computer Co Ltd | ネイルプリント装置及び印刷制御方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2019053626A (ja) | 2019-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7035405B2 (ja) | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム | |
JP7047294B2 (ja) | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム | |
JP7039991B2 (ja) | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム | |
JP6915396B2 (ja) | 描画システム、描画装置及び端末装置 | |
JP7452571B2 (ja) | 生体認証装置、生体認証方法および生体認証プログラム | |
CN109558784B (zh) | 指甲轮廓检测装置、指甲轮廓检测方法以及记录介质 | |
JP7124419B2 (ja) | ネイルプリント装置 | |
JP5929363B2 (ja) | ネイルプリント装置及び印刷制御方法 | |
US10696067B2 (en) | Nail printing apparatus and control method | |
JP5601103B2 (ja) | ネイルプリント装置及び印刷制御方法 | |
JP5929364B2 (ja) | ネイルプリント装置及び印刷制御方法 | |
JP2016116589A (ja) | 描画装置、描画装置の動作制御方法及び描画装置の動作制御プログラム | |
JP5880135B2 (ja) | 検出装置、検出方法及びプログラム | |
JP2016123475A (ja) | プリント装置、プリント装置の動作制御方法及びプリント装置の動作制御プログラム | |
JP6958336B2 (ja) | 描画システム、描画装置及び端末装置 | |
JP2013039169A (ja) | ネイルプリント装置及び印刷制御方法 | |
JP2013192680A (ja) | ネイルプリント装置及び印刷制御方法 | |
JP2013074923A (ja) | ネイルプリント装置及び印刷制御方法 | |
JP7173256B2 (ja) | 描画システム及び描画制御方法 | |
JP7334826B2 (ja) | ネイルプリント装置 | |
JP7334832B2 (ja) | ネイルプリント装置 | |
JP7087593B2 (ja) | ネイルプリント装置、指種判定方法、及びプログラム | |
US20230044135A1 (en) | Contour detection apparatus, printing apparatus, contour detection method and storage medium | |
JP5299632B2 (ja) | 個人認証装置、プログラム及び記録媒体 | |
JP7009864B2 (ja) | 輪郭検出装置及び輪郭検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200825 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210803 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210921 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220222 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220307 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7047294 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |