JP7392696B2 - 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム - Google Patents
輪郭検出装置、印刷装置、輪郭検出方法及びプログラム Download PDFInfo
- Publication number
- JP7392696B2 JP7392696B2 JP2021127595A JP2021127595A JP7392696B2 JP 7392696 B2 JP7392696 B2 JP 7392696B2 JP 2021127595 A JP2021127595 A JP 2021127595A JP 2021127595 A JP2021127595 A JP 2021127595A JP 7392696 B2 JP7392696 B2 JP 7392696B2
- Authority
- JP
- Japan
- Prior art keywords
- nail
- contour
- outline
- finger
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims description 193
- 238000007639 printing Methods 0.000 title claims description 45
- 238000000034 method Methods 0.000 claims description 49
- 210000000282 nail Anatomy 0.000 description 322
- 210000003811 finger Anatomy 0.000 description 141
- 230000008569 process Effects 0.000 description 34
- 238000012937 correction Methods 0.000 description 22
- 238000012545 processing Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 13
- 238000013461 design Methods 0.000 description 12
- 238000013500 data storage Methods 0.000 description 11
- 210000000078 claw Anatomy 0.000 description 9
- 239000000976 ink Substances 0.000 description 9
- 230000005484 gravity Effects 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 210000003128 head Anatomy 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000007788 liquid Substances 0.000 description 2
- 230000001105 regulatory effect Effects 0.000 description 2
- 238000011410 subtraction method Methods 0.000 description 2
- 241001481833 Coryphaena hippurus Species 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000004905 finger nail Anatomy 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 230000003862 health status Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000004932 little finger Anatomy 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000005498 polishing Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 210000003813 thumb Anatomy 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A45—HAND OR TRAVELLING ARTICLES
- A45D—HAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
- A45D29/00—Manicuring or pedicuring implements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/149—Segmentation; Edge detection involving deformable models, e.g. active contour models
-
- A—HUMAN NECESSITIES
- A45—HAND OR TRAVELLING ARTICLES
- A45D—HAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
- A45D29/00—Manicuring or pedicuring implements
- A45D2029/005—Printing or stamping devices for applying images or ornaments to nails
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Description
例えば、カメラで人物を撮影した場合に、輪郭検出の技術を用いることで、撮影画像から当該人物の顔の輪郭や、目、鼻、口等の各パーツの輪郭を検出することができる。
また、輪郭検出の対象は、顔や顔のパーツに限定されず、爪の輪郭形状等、各種の輪郭の検出に輪郭検出の技術を用いることができる。
例えば、従来輪郭検出に用いられる手法として、AAM(Active Appearance Model)やASM(Active Shape Model)がある。これらの手法は、顔の輪郭や各パーツの輪郭の特徴点の配置を形状モデル(Shape Model)と呼ばれるモデルで表現する。そして、この形状モデルと検出対象を含む画像にフィッティングさせることで検出対象の輪郭検出を行う。
また、非特許文献1には、ESR(Explicit Shape Regression)と呼ばれるアルゴリズムにより検出対象の輪郭を検出する技術が開示されている。
ESRにおいても、重心の周囲に特徴点が配置された形状モデル(初期形状)を生成し、これと検出対象を含む画像とのフィッティングを行う。この際、ESRでは、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、形状モデル(初期形状)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出手段と、
前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付手段と、
を備え、
前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
前記輪郭検出手段は、
前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴としている。
図1から図14を参照しつつ、本発明に係る輪郭検出装置、輪郭検出方法及びプログラムの第1の実施形態について説明する。
なお、以下の本実施形態では、輪郭の検出を行う対象である検出対象が指の爪である場合を例として説明する。
以下においては、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
図1に示すように、本実施形態における輪郭検出装置1は、ほぼ箱形に形成された筐体11を有している。
筐体11の上面(天板)等には入力部12が設置されている。
入力部12は、ユーザが各種入力を行う機能部である。
入力部12には、例えば、輪郭検出装置1の電源をONする電源スイッチ釦、動作を停止させる停止スイッチ釦、爪Tの輪郭検出の開始を指示する検出開始釦等、各種の入力を行うための操作釦が配置されている。
例えば表示部13には、指Uを撮影した指画像FI(図5(a)、図5(c)等参照)から装置側が自動で検出した爪輪郭(検出爪輪郭、以下これを「第1爪輪郭To1」という。)が表示されるようになっており、ユーザは画面上で、この第1爪輪郭To1を確認し、第1爪輪郭To1が適切な爪輪郭Toを示しているか否かを確認することができる。
そして、第1爪輪郭To1が間違ったラインを示している場合(すなわち、第1爪輪郭To1が適切な輪郭を示していない場合)には、ユーザは、爪Tの正しい輪郭(ユーザがこの輪郭線の内側領域を「爪T」として認識してほしいと考えるライン、正解爪輪郭、以下これを「第2爪輪郭To2」という。)をタッチパネル121上でなぞることにより、第2爪輪郭To2を入力することができる。なお、第2爪輪郭To2の入力はタッチパネル121を用いて行われる場合に限定されない。マウスやトラックボール等の図示しない各種ポインティングデバイス等を用いて入力されてもよい。
このように、本実施形態においてタッチパネル121等の入力部12は、ユーザからの第2爪輪郭To2の入力を受け付ける受付手段として機能する。
表示部13は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機エレクトロルミネッセンスディスプレイその他のフラットディスプレイ等で構成されている表示手段である。
本実施形態において、この表示部13には、例えば、各種の指示等や、指Uを撮影して得た爪画像(爪Tの画像を含む指画像)、この爪画像中に含まれる爪Tの輪郭線等の画像、各種の指示を表示させる指示画面等が適宜表示される。
また、本実施形態の表示部13の表面には、上述のように入力部12として機能するタッチパネル121が一体的に構成されている。
開口部14の内側には、本実施形態における検出対象である爪T(爪Tを含む指U)を固定する指配置部3が配置されている。
図2(a)は、指配置部3の斜視図であり、図2(b)は、指配置部3を上方向から見た平面図である。
図2(a)では、爪Tを含む指Uが指配置部3内に配置されている様子を二点鎖線で示している。
指支持部材32は、指Uを下側から押し上げ支持するものであり、例えば柔軟性を有する樹脂等で形成されている。なお、指支持部材32は、指Uを下側から支持し得るものであればよく、その構成は特に限定されない。例えば、ばね等の弾性部材によって下方から付勢されていてもよい。また、例えば、指支持部材32は、内圧を変化させることにより膨縮可能に構成されており、膨張状態において指Uを押し上げ、その位置を固定する構成としてもよい。
また、指配置部3の天面手前側は指Uの浮き上がりを防止して指Uの上方向の位置を規制する指押え34となっている。指U及びその爪Tは、下側から指支持部材32によって支持され、指Uの上側が指押え34によって押さえられることで、高さ方向の位置が所定の位置に位置決めされる。
また、本実施形態では、指挿入方向の奥側には、爪Tを載置する爪載置部35が設けられている。爪載置部35は、検出対象である爪Tを位置決めする位置決め手段である。
この爪載置部35に爪Tの先を載置させることにより、爪Tの水平方向(すなわち、X方向及びY方向)の位置が規定されるとともに、その高さ方向の位置も規制される。
図3に示すように、輪郭検出装置1は、撮影部5を備えている。
撮影部5は、撮影装置51と、照明装置52とを備えており、指配置部3内に指Uを挿入した際に爪Tが配置される位置の上方に、配置される。
撮影装置51は、例えば、200万画素程度以上の画素を有する固体撮像素子とレンズ等を備えて構成された小型カメラである。
照明装置52は、例えば白色LED等の照明灯である。本実施形態では、撮影装置51を囲むように複数の照明装置52が配置されている。
なお、撮影装置51及び照明装置52の位置は図示例に限定されない。例えば、撮影部5の撮影装置51及び照明装置52は、爪Tの上方位置に固定配置されていてもよいし、撮影部5が移動手段によって移動可能に構成されている場合には、爪Tの上方位置に移動することが可能となっていればよい。
具体的には、撮影装置51は、指配置部3の窓部33に対応する範囲を撮影可能となっており、窓部33から露出する指U及び爪Tを画角内に収めることができる。指Uは指配置部3により位置決めされているため、窓部33に対応する範囲を撮影することで、指画像に写り込む指Uや爪Tの位置関係(例えば指の第1関節より先が画角内に収まる等)はほぼ一定となる。
制御装置80は、例えば筐体11の天面の下面側等に配置された図示しない基板等に設置されている。
制御装置80は、図示しないCPU(Central Processing Unit)等を含んで構成される制御部81と、ROM(Read Only Memory)及びRAM(Random Access Memory)等(いずれも図示せず)を含んで構成される記憶部82とを備えるコンピュータである。
また、本実施形態において記憶部82には、輪郭検出部813が画像から爪輪郭を検出するために用いる輪郭検出の学習データを記憶する学習データ記憶領域822、輪郭検出部813により検出された検出結果等が記憶される輪郭情報記憶領域823等が設けられている。
学習データ記憶領域822には、初期形状To0(爪輪郭モデル)の輪郭を構成する各特徴点N0~Nnの座標値(Xn0,Yn0、Xn1,Yn1、…Xnn,Ynn)や、初期形状To0の重心(図示せず)の位置、変位量関数(回帰関数)からなるリグレッサー(識別器)等、事前の学習によって得られた学習データが記憶されている。
さらに各学習用画像について対応付けられた特徴点のX,Y座標値のデータを用いてパターン学習を行い、検出対象である爪Tらしい形状である初期形状To0(初期形状To0の輪郭を構成する特徴点Nの座標値)、初期形状To0の重心、識別器等からなる学習結果としての学習データを生成する。なお、学習は通常機械学習により行われる。
後述するように、本実施形態では、この学習結果としての学習データに基づいて、輪郭検出部813が検出対象である爪Tの輪郭等を検出する。
また本実施形態では、輪郭検出部813は、指画像FIから指Uの領域を画する指輪郭Uoをも検出する。指輪郭Uoの検出は、例えば背景差分の手法等を用いて行う。すなわち、例えば予め指Uをセットしていない状態の指配置部3の窓部33をその全体が画角に収まるように撮影部5によって撮影させて事前画像を取得しておく。そして、指画像FIが撮影されると、指画像FIと事前画像とを比較して、事前画像になかったものを指Uとして検出する。
本実施形態では、輪郭検出部813はESR(Explicit Shape Regression)の手法を用いて、爪Tの輪郭の検出を行う。
すなわち、輪郭検出部813は、記憶部82の学習データ記憶領域822に記憶されている初期形状To0(爪輪郭モデル)と検出対象を含む画像とのフィッティングを行う。
ESRを用いた輪郭検出では、この際、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、初期形状To0(爪輪郭モデル)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
通常、ESRアルゴリズムによる爪輪郭Toの検出では、初期形状To0(爪輪郭モデル)の特徴点Nを少しずつ移動させていくことで、何度も検出ループを繰り返していく中で、第2爪輪郭To2(図8参照)に徐々に近づくことができる。
なお、ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせて輪郭検出を行うAAM等の手法と比較してロバスト性に優れるため、初期形状To0としてどのようなものを用いるかや初期形状To0を配置する初期位置をそれほど厳密に設定しなくても検出結果の精度への影響は少ない。
このため、入力された指画像FIが異なる場合でも、共通の初期形状To0を適用することができる。
しかし、ESR等の手法を用いる場合でも、できるだけ爪領域と重なり合う位置に初期形状To0を配置した方が、より高精度に輪郭検出を行うことが期待できる。
このため、本実施形態では、初期形状To0の重心が学習データにおける重心の平均値である平均重心の位置にくるように初期形状To0を配置することが好ましい。
輪郭検出部813として制御部81は、例えば予め取得しておいた指Uが載置されていない状態の事前画像を記憶部82から読み出して、これと指画像FIとを比較する背景差分の手法により、事前画像になかったものを指Uとして検出し、指画像FIの中から検出された指Uの領域(以後「指領域」ともいう)を画する指輪郭Uoを検出する(ステップS2)。図5(b)の左側は、図5(a)に示した指画像FIの中から検出された指領域の一例を示している。
ここにおける爪輪郭Toの検出は、学習データ記憶領域822に記憶されている学習データである初期形状To0を指画像FIに適用して、ESRアルゴリズムを用いて爪輪郭Toらしい部分を検出するものである。
図5(b)の右側は、図5(a)に示した指画像FIの中から爪輪郭Toを正しく検出した場合の例を示している。
図5(a)に網掛けで示すように、爪Tの領域(以下「爪領域」ともいう)の下側(図5(a)において下側、爪Tの生え際側)には甘皮領域ntがある。図5(b)に示すように、爪領域は、この甘皮領域ntを除いた爪Tの範囲を意味する。
例えば、爪Tの最も爪先側に位置する点を特徴点N0(座標値;Xn0,Yn0)とし、ここから反時計回りに、特徴点N1(座標値;Xn1,Yn1)、特徴点N2(座標値;Xn2,Yn2)、…特徴点Nn(座標値;Xnn,Ynn)、とする。なお、第1爪輪郭To1を構成する特徴点Nの数は特に限定されない。
ユーザが第1爪輪郭To1を承認した場合(ステップS5;YES)には、承認された検出結果(第1爪輪郭To1)を当該爪Tの爪輪郭Toと決定し(ステップS6)、輪郭検出処理を終了する。
他方、ユーザが第1爪輪郭To1を承認しない場合(ステップS5;NO)には、さらに輪郭検出部813として制御部81は、誤差サンプル(間違った第1爪輪郭To1(すなわち、ユーザに承認されなかった第1爪輪郭To1)と第2爪輪郭To2とに基づいて生成される後述の誤差サンプル)が一定数以上蓄積されているか否かをさらに判断する(ステップS7)。そして、誤差サンプルがまだ一定数以上蓄積されていない場合(ステップS7;NO)には、第1爪輪郭To1を自動的に補正する処理と、ユーザに手動で修正してもらう処理とを併用して行う自動・手動併用補正処理を行う(ステップS8)。
自動・手動併用補正処理では、図7に示すように、まず、ユーザが正解と思う爪輪郭(これを「第2爪輪郭To2」という)を手動で描画するよう促すメッセージを表示部13等に表示させる(ステップS11)。
ユーザはこのメッセージを受けて、第2爪輪郭To2をタッチパネル121等から入力する。具体的には、正解と思う位置に入力用のペンや指先を使ってラインを引く。
ユーザが第2爪輪郭To2を入力すると、輪郭検出部813としての制御部81は、この第2爪輪郭To2の情報を取得する(ステップS12)。
第2爪輪郭To2の特徴点Rについても、例えば、爪Tの最も爪先側に位置する点を特徴点R0(座標値;Xr0,Yr0)とし、ここから反時計回りに、特徴点R1(座標値;Xr1,Yr1)、特徴点R2(座標値;Xr2,Yr2)、…特徴点Rn(座標値;Xrn,Yrn)、とする。第2爪輪郭To2を構成する特徴点Rの数は、第1爪輪郭To1を構成する特徴点Nの数と同様に、特に限定されない。
なお、図8では、第1爪輪郭To1を構成する特徴点Nを黒点で示し、第2爪輪郭To2を構成する特徴点Rを斜線網掛けの点で示している。また説明の都合上、特徴点N,Rを実際よりも大きなサイズの点で示している。
そして、取得された第2爪輪郭To2(ユーザによって入力された爪輪郭)を当該爪Tの爪輪郭Toと決定し(ステップS15)、輪郭検出処理を終了する。
まず、輪郭検出部813は、間違った検出結果における爪領域(第1爪輪郭To1によって画された領域)の面積と、指領域(図6のステップS2において検出された指輪郭Uoによって画された領域)の面積との比を算出する(ステップS21)。すなわち、図5(b)に示す指Uの領域と爪Tの領域との面積比を求める。ここで指Uの領域と爪Tの領域との「面積比」は、第1爪輪郭To1によって画された領域の寸法に関する情報である。
例えば、図8に示す例の場合、爪Tの生え際付近の特徴点(図8では、Nq(座標値;Xnq,Ynq))が、第2爪輪郭To2を構成する特徴点Rのうちこれと対応する点(図8では、Rq(座標値;Xrq,Yrq))から最も離れており、最大誤差特徴点である。そして、Nq(座標値;Xnq,Ynq)とRq(座標値;Xrq,Yrq)との差分(誤差)の大きさ(補正幅、点同士の離れ具合)は、「距離d」である。
なお、いずれの特徴点を最大誤差特徴点とするかは、輪郭検出部813として制御部81が自動で設定してもよいし、最も離れていると思われる辺りをユーザがタッチパネル操作等で指定することで設定されてもよい。
また、差分情報は、差分(誤差)の大きさに限定されない。例えば、ずれの方向(ベクトル)等の情報も差分情報に含まれてよい。
また、指領域と爪領域との面積比を求める処理(ステップS21)は必須ではなく、誤差サンプルの作成及び誤差サンプルのグループ分け(分類)を行うのに爪領域の縦横比と差分情報のみを参照してもよい。
なお、本実施形態では、差分情報として、最大誤差特徴点及びその誤差の大きさを示す情報を面積比や縦横比と対応付けて記憶させる。これにより、のちの処理において比較等を行いやすくなるとともに、記憶部82に記憶されるデータ量を少なくすることができる。なお、差分情報は、最大誤差特徴点に関するものに限定せずに、ユーザが第2爪輪郭To2として入力した爪Tの輪郭線を示すラインや第2爪輪郭To2を構成する一部又はすべての特徴点Rの座標値を含んでいてもよい。
さらに、輪郭検出部813は、面積比及び縦横比に基づいて誤差サンプルのグループ分けを試みる(ステップS25)。
面積比及び縦横比に基づいて誤差サンプルを分類した結果、図11に示すグループAは、爪Tの甘皮領域ntと指の皮膚部分との境界辺りに第1爪輪郭To1の輪郭線が位置しているものであり、図10(a)、図10(c)が分類されている。また、グループBは、爪Tの甘皮領域nt内に第1爪輪郭To1の輪郭線が位置しているものであり、図10(b)、図10(e)が分類されている。また、グループCは、例えば指の皮膚の皴等の影響を受けて爪Tの甘皮領域よりも下の位置に第1爪輪郭To1の輪郭線が位置しているものであり、図10(d)、図10(f)が分類されている。
同じユーザであっても、親指と小指等、指種によって形状等が大きく異なる。このため、指種ごとにグループ分けを行った方がより高精度に爪輪郭Toの検出を行うことができる。
そして、該当するグループがある場合(ステップS26;YES)には、当該誤差サンプルを該当するグループに分類し(ステップS27)、誤差(差分)を、当該グループ内で平均化して、面積比及び縦横比とともに記憶部82に記憶させる(ステップS28)。例えば、第1爪輪郭To1と第2爪輪郭To2の最大誤差特徴点のペアについても平均化され、例えば平均化された第1爪輪郭To1の最大誤差特徴点と、平均化された第2爪輪郭To2の最大誤差特徴点Cとの誤差(差分、補正幅)の平均が平均誤差ad(図13、図14参照)である場合、輪郭検出部813は、平均化された差分情報として、最大誤差特徴点Cの座標値(Xc,Yc)と平均誤差adの値を面積比及び縦横比と対応付けて記憶する。
他方、該当するグループがない場合(ステップS26;NO)には、輪郭検出部813は、新規のグループを作成し(ステップS29)、当該誤差サンプルを新規のグループに分類する(ステップS30)。
なお、誤差サンプルが一定数以上蓄積されているか否かを判断する前に、新たに爪輪郭Toの検出対象となっている爪Tの面積比及び縦横比等を算出して、当該爪Tがどのグループに属するかを判断し、当該グループに属する誤差サンプルが一定数以上蓄積されているか否かで処理を分けてもよい。全体としては誤差サンプルが蓄積されていても、グループによってはサンプル数が少ない場合もあり、爪輪郭の自動・手動併用補正処理(図6のステップS8)によって対応した方が検出精度が高くなる場合も考えられる。
図12に示すように、新たな第1爪輪郭To1が自動補正処理にかけられる場合、まず、輪郭検出部813は、第1爪輪郭To1を構成する特徴点のうち、平均化された第2爪輪郭To2の最大誤差特徴点Cの座標値(Xc,Yc)に対応する特徴点Aを探索する(ステップS31)。
特徴点Aが設定されると、検出1タップ毎の特徴点Aの位置を(Xa(n),Ya(n))と置き、検出ループを1回回すごとにループのカウンタnをカウントアップする(ステップS32)。
すなわち、輪郭検出部813は、平均化された最大誤差特徴点Cに対応する第1爪輪郭To1の最大誤差特徴点Aの(Xa,Ya)を誤差の大きさを示す情報である平均化された差分情報である平均誤差adを用いて強制的に最大誤差特徴点C座標値(Xc,Yc)に変更する。
図13に示すように、点A(座標:Xa,Ya)を点C(座標:Xc,Yc)に引き込むと、図14に示すように、点Aの近隣に位置する点についても、点Aからの距離に比例させて変化量を調整させた伸縮変形が行われる。これによって第1爪輪郭To1に適用される爪輪郭モデルがダイナミックに変形し、より迅速かつ適切に第2爪輪郭To2に近づきやすくなる。
この学習データに基づいて爪輪郭モデルを変形させる処理は、図4に示したものと同様であるため、ここでは説明を省略する。
そして、ステップS36,ステップS37の場合には、輪郭検出部813はループカウンタnをカウントアップした後、ステップS33に戻り、ループカウンタnが規定回数Nに達するまで処理を繰り返す。これにより、第1爪輪郭To1をほぼ爪領域の輪郭に沿う正解位置に収束させていくことができる。
ループカウンタnが規定回数Nに達すると、図6のステップS4に戻り、検出結果をユーザに示して承認を求め、承認を得られるまで以下の処理を繰り返す。
このような手法を用いることで、ユーザが爪領域を自ら切り出したり設定することなく、自動的に、高精度に爪Tの輪郭を検出することができる。
このため、形状が特徴的であったり、甘皮領域nt等において認識が難しいために爪輪郭Toの検出しづらい爪Tであっても、ユーザの思う第2爪輪郭To2に徐々に近づけることができる。
そして、検出処理を行うごとに検出結果(グループ分けされた誤差サンプル等)が蓄積されていくことで、徐々に輪郭検出装置1がユーザの爪Tの特徴等にあったものにカスタマイズされて行き、ユーザが第2爪輪郭To2を手入力する手間も減らすことができる。
これにより、爪Tの特徴的な形状等に応じた第1爪輪郭To1の分類をより適切に行うことができる。
このため、差分情報を反映させやすくなる。
このため、最大誤差特徴点A及びその差分(誤差)に応じて効果的に第1爪輪郭To1の補正を行うことができる。
誤差サンプルが一定以上蓄積された後は、ユーザによる第2爪輪郭To2の入力を行わなくてもユーザの意図を反映させた適切な補正を行うことができる。
次に、図15を参照しつつ、本発明に係る輪郭検出装置を爪にネイルデザインを印刷する印刷装置(ネイルプリント装置)に適用した例を第2の実施形態として説明する。
なお、本実施形態では、輪郭検出装置の構成及び作用・効果は第1の実施形態で説明したものと同様であるため、以下においては、輪郭検出装置の構成及び作用・効果の詳細については説明を省略する。
図15に示すように、印刷装置100は、第1の実施形態で説明した輪郭検出装置1の各構成部に加えて、印刷部4を備えている。
印刷部4は、印刷ヘッド41及び印刷ヘッド41を移動させるヘッド移動機構42を備えている。
本実施形態において印刷ヘッド41は、例えば図示しないインク貯留部を内蔵するとともに、インクを微細な液滴として吐出させ印刷対象である爪Tに印刷を施すインクジェット方式の吐出機構を備えるヘッド一体型のインクカートリッジである。
インク貯留部は、例えば、シアン(C;CYAN)、マゼンタ(M;MAGENTA)、イエロー(Y;YELLOW)のインクに対応して設けられている。なお、印刷ヘッド41が吐出可能なインクはここに示した例に限定されず、他の色のインクを貯留するインク貯留部が設けられていてもよい。また、下地用の液剤やオーバーコート用の液剤等を吐出できるように構成してもよい。
ヘッド移動機構42は、例えば図示しないステッピングモータ等を備え、所定のステップずつ正確に印刷ヘッド41を移動させることができるように構成される。ヘッド移動機構42による印刷ヘッド41の移動は印刷制御部814によって制御される。
また、記憶部82は、輪郭検出装置1について図3に示したものの他に、デザイン記憶領域824等を備えている。
デザイン記憶領域824には、爪Tに印刷されるネイルデザインの画像データが記憶されている。
なお、記憶部82には、この他、輪郭検出部813により検出される爪Tの輪郭(爪形状、爪Tの水平位置のXY座標等)や爪Tの傾斜角度、爪曲率等の情報、各種の補正情報等が記憶されていてもよい。
本実施形態において、印刷装置100で爪Tへの印刷を行う場合、ユーザが装置電源を入れ、さらに印刷開始ボタン等の入力部12を操作する。これにより、操作に応じた印刷開始指示が印刷装置100の制御装置80に入力される。
印刷開始指示が入力されると、表示制御部812は、ネイルデザインを選択させるネイルデザイン選択画面を表示部13に表示させ、ユーザによる選択を促す。
ユーザが入力部12等から所望のネイルデザインを選択すると、当該選択指示に従って爪Tに印刷すべきネイルデザインが選択される。
ネイルデザインが選択されると、表示制御部812は、指配置部3の所定位置に印刷対象となる爪Tの指Uを配置するように指示する指示画面を表示部13に表示させ、ユーザに爪T(及びその指U)の固定を促す。
ユーザは指示に従って指Uを指配置部3に挿入し、爪Tの先を位置決め手段である爪載置部35に載置することで位置決めする。
そして、このように爪Tが爪載置部35により位置決めされた状態で、撮影制御部811が撮影部5を動作させて爪Tを撮影し、爪Tの領域を含む指画像FIを取得する。
爪Tの爪輪郭To等が検出されると、検出された爪輪郭Toに、選択されたネイルデザインがフィッティングされる。さらに適宜曲面補正等の必要な補正を行って印刷用データ(ネイルデザインの印刷データ)が生成される。
そして、印刷制御部814が、印刷部4に印刷用データを出力するとともに、ヘッド移動機構42を動作させて印刷ヘッド41を適宜移動させながら印刷用データに基づく印刷処理を行わせる。これにより印刷用データに基づくネイルデザインが爪Tに印刷される。
すなわち、本実施形態では、印刷装置である印刷装置100が、第1の実施形態で示した輪郭検出装置1を備えている。このため、爪Tという、指部分との境界等を検出することが難しい対象について、比較的時間を掛けず、またユーザの手を煩わせずに精密に印刷範囲となる爪領域を特定し、はみ出し等のない美しい仕上がりのネイルプリントを行うことができる。
また、使用を繰り返す度にユーザの爪Tの特徴を記憶し、誤差サンプルとして蓄積していく。このため、使用するほどユーザの手間がかからない印刷装置100とすることができる。
例えば、AAM(Active appearance model)、ASM(Active Shape model)ACM(Active Contour Model)等を輪郭検出部813が初期形状To0と爪Tの領域とのフィッティングを行う際に用いることのできるアルゴリズムとして用いる場合にも本実施形態を適用することが可能である。
外部装置としては、例えばスマートフォンやタブレット等の携帯端末装置やサーバ等が想定されるが、これに限定されない。外部装置は、輪郭検出装置1(第2の実施形態では、印刷装置100)と通信可能なものであればよく、例えばノート型又は定置型のパソコンや、ゲーム用の端末装置等であってもよい。
輪郭検出装置1(第2の実施形態では、印刷装置100)が外部装置と連携して各種処理を行う場合には、外部装置の制御装置の記憶部に、輪郭検出処理等を行うプログラムや各種データ等が格納される。
例えば、顔の輪郭や目・鼻・口等の顔のパーツの輪郭等を検出対象としてもよい。
また、検出対象が医療用の撮影装置で撮影された医療用画像に含まれる各種臓器等である場合には、輪郭検出を行った後の処理として、医師等による画像診断や患者への健康状況の情報提供等が行われてもよい。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出手段と、
前記第1爪輪郭に対するユーザからの第2爪輪郭の入力を受け付ける受付手段と、
を備え、
前記輪郭検出手段は、前記第1爪輪郭のうち、前記受付手段により入力を受け付けられた爪輪郭について、前記第1爪輪郭の寸法に関する情報に基づいてグループ分けを行い、前記第1爪輪郭と前記受付手段によりユーザにより入力された前記第2爪輪郭との差分を示す差分情報を導出することを特徴とする輪郭検出装置。
<請求項2>
前記輪郭検出手段は、前記第1爪輪郭の縦横比に基づいてグループ分けを行うことを特徴とする請求項1に記載の輪郭検出装置。
<請求項3>
前記輪郭検出手段は、前記指画像から指の領域を画する指輪郭をも検出し、前記指輪郭に基づく指領域と前記第1爪輪郭に基づく爪領域との面積比も参照してグループ分けを行うことを特徴とする請求項1又は請求項2に記載の輪郭検出装置。
<請求項4>
前記差分情報は、グループごとに平均化されて導出されることを特徴とする請求項1から請求項3のいずれか一項に記載の輪郭検出装置。
<請求項5>
前記輪郭検出手段は、後の検出において、前記第1爪輪郭について前記差分情報を用いた補正処理を行うことを特徴とする請求項1から請求項4のいずれか一項に記載の輪郭検出装置。
<請求項6>
前記差分情報は、前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点及びその差分の大きさを示す情報を含むことを特徴とする請求項5に記載の輪郭検出装置。
<請求項7>
前記輪郭検出手段は、ユーザに承認されなかった前記第1爪輪郭について複数回補正処理を繰り返すものであり、
グループ分けされた前記第1爪輪郭が一定数以上蓄積された後は、
前記輪郭検出手段は、前記補正処理において、任意の回数ごとに、最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とする請求項6に記載の輪郭検出装置。
<請求項8>
請求項1から請求項7のいずれか一項に記載の輪郭検出装置によって検出された前記第1爪輪郭により画された爪領域に対して印刷を行う印刷手段を備えることを特徴とする印刷装置。
<請求項9>
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出工程と、
前記第1爪輪郭に対するユーザからの第2爪輪郭の入力を受け付ける受付工程と、
を含み、
前記輪郭検出工程は、前記第1爪輪郭のうち、前記受付工程により入力を受け付けられた爪輪郭について、前記第1爪輪郭の寸法に関する情報に基づいてグループ分けを行い、前記第1爪輪郭と前記受付工程によりユーザにより入力された前記第2爪輪郭との差分を示す差分情報を導出することを特徴とする輪郭検出方法。
<請求項10>
コンピュータに、
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出機能と、
前記第1爪輪郭に対するユーザからの第2爪輪郭の入力を受け付ける受付機能と、
を実現させ、
前記輪郭検出機能は、前記第1爪輪郭のうち、前記受付機能により入力を受け付けられた爪輪郭について、前記第1爪輪郭の寸法に関する情報に基づいてグループ分けを行い、前記第1爪輪郭と前記受付機能によりユーザにより入力された前記第2爪輪郭との差分を示す差分情報を導出させることを特徴とするプログラム。
3 指配置部
4 印刷部
5 撮影部
51 撮影装置
81 制御部
82 記憶部
813 輪郭検出部
100 印刷装置
FI 指画像
T 爪
U 指
Claims (7)
- 爪輪郭モデルとのフィッティングを行うことにより爪を含む指の指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出手段と、
前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付手段と、
を備え、
前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
前記輪郭検出手段は、
前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とする輪郭検出装置。 - 前記輪郭検出手段は、前記寸法に関する情報としての前記第1爪輪郭の縦横比に基づいて前記第1爪輪郭のグループ分けを行うことを特徴とする請求項1に記載の輪郭検出装置。
- 前記輪郭検出手段は、前記指画像から指の領域を画する指輪郭を検出し、前記寸法に関する情報としての前記指輪郭に画された指領域と前記第1爪輪郭に画された爪領域との面積比に基づいてグループ分けを行うことを特徴とする請求項1又は請求項2に記載の輪郭検出装置。
- 前記差分情報は、グループごとに平均化されて導出されることを特徴とする請求項1から請求項3のいずれか一項に記載の輪郭検出装置。
- 請求項1から請求項4のいずれか一項に記載の輪郭検出装置によって検出された前記第1爪輪郭により画された爪領域に対して印刷を行う印刷手段を備えることを特徴とする印刷装置。
- 輪郭検出装置による輪郭検出方法であって、
爪輪郭モデルとのフィッティングを行うことにより爪を含む指の指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出工程と、
前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付工程と、
を含み、
前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
前記輪郭検出工程は、
前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とする輪郭検出方法。 - コンピュータに、
爪輪郭モデルとのフィッティングを行うことにより爪を含む指の指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出機能と、
前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付機能と、
を実現させ、
前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
前記輪郭検出機能は、
前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とするプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021127595A JP7392696B2 (ja) | 2021-08-03 | 2021-08-03 | 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム |
US17/879,621 US20230044135A1 (en) | 2021-08-03 | 2022-08-02 | Contour detection apparatus, printing apparatus, contour detection method and storage medium |
CN202210925222.9A CN115705650A (zh) | 2021-08-03 | 2022-08-03 | 轮廓检测装置、印刷装置、轮廓检测方法及记录介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021127595A JP7392696B2 (ja) | 2021-08-03 | 2021-08-03 | 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2023022617A JP2023022617A (ja) | 2023-02-15 |
JP7392696B2 true JP7392696B2 (ja) | 2023-12-06 |
Family
ID=85152016
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021127595A Active JP7392696B2 (ja) | 2021-08-03 | 2021-08-03 | 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230044135A1 (ja) |
JP (1) | JP7392696B2 (ja) |
CN (1) | CN115705650A (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016064104A (ja) | 2014-09-26 | 2016-04-28 | カシオ計算機株式会社 | ネイルデザイン表示制御装置、ネイルプリント装置、ネイルデザイン表示制御方法及びネイルデザイン表示制御プログラム |
JP2018055364A (ja) | 2016-09-28 | 2018-04-05 | カシオ計算機株式会社 | サーバ装置、爪領域検出システム及び描画装置 |
-
2021
- 2021-08-03 JP JP2021127595A patent/JP7392696B2/ja active Active
-
2022
- 2022-08-02 US US17/879,621 patent/US20230044135A1/en active Pending
- 2022-08-03 CN CN202210925222.9A patent/CN115705650A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016064104A (ja) | 2014-09-26 | 2016-04-28 | カシオ計算機株式会社 | ネイルデザイン表示制御装置、ネイルプリント装置、ネイルデザイン表示制御方法及びネイルデザイン表示制御プログラム |
JP2018055364A (ja) | 2016-09-28 | 2018-04-05 | カシオ計算機株式会社 | サーバ装置、爪領域検出システム及び描画装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115705650A (zh) | 2023-02-17 |
US20230044135A1 (en) | 2023-02-09 |
JP2023022617A (ja) | 2023-02-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9357825B2 (en) | Nail printing device, print control method for nail printing device, and computer readable medium | |
US10384483B2 (en) | Contour detecting device, printing device, contour detecting method and storage medium | |
JP5382078B2 (ja) | ネイルプリント装置及び印刷制御方法 | |
US10945506B2 (en) | Contour detection apparatus, drawing apparatus, contour detection method, and storage medium | |
CN109123989B (zh) | 描绘系统、终端装置及记录介质 | |
US8840206B2 (en) | Nail print apparatus and printing control method | |
JP6992367B2 (ja) | 爪輪郭検出装置、爪輪郭検出方法及び爪輪郭検出プログラム | |
US9603431B2 (en) | Nail design device, nail printing apparatus, nail design method, and computer-readable recording medium storing nail design program | |
BR102013022795A2 (pt) | Aparelho de impressão de unhas e método de controle de impressão | |
JP7047294B2 (ja) | 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム | |
JP5601103B2 (ja) | ネイルプリント装置及び印刷制御方法 | |
JP7392696B2 (ja) | 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム | |
US20200307252A1 (en) | Printer and printing method | |
JP6958336B2 (ja) | 描画システム、描画装置及び端末装置 | |
US20220379638A1 (en) | Printing device, printing method, and storage medium | |
US20220363052A1 (en) | Printing device, terminal device, printing system, printing method, and storage medium | |
JP7439842B2 (ja) | 輪郭検出装置及び輪郭検出方法 | |
JP2022025072A (ja) | 描画システム及び描画制御方法 | |
JP2023141654A (ja) | 制御装置、印刷装置、制御方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220808 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220808 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230608 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230620 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230809 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231024 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231106 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7392696 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |