JP7392696B2 - 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム - Google Patents

輪郭検出装置、印刷装置、輪郭検出方法及びプログラム Download PDF

Info

Publication number
JP7392696B2
JP7392696B2 JP2021127595A JP2021127595A JP7392696B2 JP 7392696 B2 JP7392696 B2 JP 7392696B2 JP 2021127595 A JP2021127595 A JP 2021127595A JP 2021127595 A JP2021127595 A JP 2021127595A JP 7392696 B2 JP7392696 B2 JP 7392696B2
Authority
JP
Japan
Prior art keywords
nail
contour
outline
finger
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021127595A
Other languages
English (en)
Other versions
JP2023022617A (ja
Inventor
雅昭 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2021127595A priority Critical patent/JP7392696B2/ja
Priority to US17/879,621 priority patent/US20230044135A1/en
Priority to CN202210925222.9A priority patent/CN115705650A/zh
Publication of JP2023022617A publication Critical patent/JP2023022617A/ja
Application granted granted Critical
Publication of JP7392696B2 publication Critical patent/JP7392696B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/149Segmentation; Edge detection involving deformable models, e.g. active contour models
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • A45D2029/005Printing or stamping devices for applying images or ornaments to nails
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、輪郭検出装置、印刷装置、輪郭検出方法及びプログラムに関するものである。
従来、検出対象を撮影した画像から画像処理によって検出対象の輪郭を検出する手法が知られている。
例えば、カメラで人物を撮影した場合に、輪郭検出の技術を用いることで、撮影画像から当該人物の顔の輪郭や、目、鼻、口等の各パーツの輪郭を検出することができる。
また、輪郭検出の対象は、顔や顔のパーツに限定されず、爪の輪郭形状等、各種の輪郭の検出に輪郭検出の技術を用いることができる。
こうした輪郭検出の技術としては、複数の学習用サンプルを集めて学習を行い、学習結果としての学習データを生成して、この学習データを用いて輪郭の検出を行う手法がある。
例えば、従来輪郭検出に用いられる手法として、AAM(Active Appearance Model)やASM(Active Shape Model)がある。これらの手法は、顔の輪郭や各パーツの輪郭の特徴点の配置を形状モデル(Shape Model)と呼ばれるモデルで表現する。そして、この形状モデルと検出対象を含む画像にフィッティングさせることで検出対象の輪郭検出を行う。
また、非特許文献1には、ESR(Explicit Shape Regression)と呼ばれるアルゴリズムにより検出対象の輪郭を検出する技術が開示されている。
ESRにおいても、重心の周囲に特徴点が配置された形状モデル(初期形状)を生成し、これと検出対象を含む画像とのフィッティングを行う。この際、ESRでは、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、形状モデル(初期形状)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
Xudong Cao, Yichen Wei, Fang Wen, Jian Sun "Face alignment by ExplicitShape Regression." CVPR 2012: 2887-2894.
しかしながら、上述のようにESR等の輪郭検出手法は、学習に基づいて輪郭の検出を行うものである。このため、学習サンプルが少ない形状の検出対象(例えば珍しい形状をした爪等)の輪郭を検出する場合や、輪郭部分が不明瞭な検出対象(例えば甘皮部分の境界が曖昧な爪等)の輪郭を検出する場合には、検出の成功率が著しく低下してしまうとの問題がある。
本発明は以上のような事情に鑑みてなされたものであり、画像から検出対象の輪郭を検出する成功率の高い輪郭検出装置、印刷装置、輪郭検出方法及びプログラムを提供することを利点とするものである。
前記課題を解決するために、本発明の輪郭検出装置は、
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出手段と、
前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付手段と、
を備え、
前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
前記輪郭検出手段は、
前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴としている。
本発明によれば、高い成功率で画像から検出対象の輪郭を検出することができる。
本実施形態における輪郭検出装置の外観構成を示す斜視図である。 (a)は、指配置部を示す斜視図であり、(b)は、指配置部を上から見た平面図である。 本実施形態における輪郭検出装置の機能的構成を示した要部ブロック図である。 通常の爪輪郭処理を模式的に示した図である。 (a)は、指画像の一例を示す図であり、(b)は、(a)に示す指画像から検出される指領域及び爪領域の一例を示す図であり、(c)は、(a)に示す指画像に第1爪輪郭を重畳して表示させた表示例を示す図である。 本実施形態における輪郭検出処理を示すフローチャートである。 本実施形態における爪輪郭の自動・手動併用補正処理を示すフローチャートである。 第1爪輪郭と第2爪輪郭とを示す説明図である。 本実施形態におけるサンプル作成・分類処理を示すフローチャートである。 (a)から(f)は、間違った第1爪輪郭の例を示す図である。 図10(a)~(f)の間違った第1爪輪郭をグループ分けした結果例を示す図である。 本実施形態における爪輪郭の自動補正処理を示すフローチャートである。 間違った第1爪輪郭の特徴点を強制的に正解の特徴点位置に移動させる様子を示す図である。 間違った第1爪輪郭の特徴点を強制的に正解の特徴点位置に移動させる様子を示す図である。 本実施形態における印刷装置の制御構成を示したブロック図である。
[第1の実施形態]
図1から図14を参照しつつ、本発明に係る輪郭検出装置、輪郭検出方法及びプログラムの第1の実施形態について説明する。
なお、以下の本実施形態では、輪郭の検出を行う対象である検出対象が指の爪である場合を例として説明する。
以下においては、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
図1は、本実施形態における輪郭検出装置の外観を示す斜視図である。
図1に示すように、本実施形態における輪郭検出装置1は、ほぼ箱形に形成された筐体11を有している。
筐体11の上面(天板)等には入力部12が設置されている。
入力部12は、ユーザが各種入力を行う機能部である。
入力部12には、例えば、輪郭検出装置1の電源をONする電源スイッチ釦、動作を停止させる停止スイッチ釦、爪Tの輪郭検出の開始を指示する検出開始釦等、各種の入力を行うための操作釦が配置されている。
本実施形態では、後述するように、表示部13の表面にタッチパネル121が一体的に構成されており、タッチパネル121も入力部12として機能する。
例えば表示部13には、指Uを撮影した指画像FI(図(a)、図(c)等参照)から装置側が自動で検出した爪輪郭(検出爪輪郭、以下これを「第1爪輪郭To1」という。)が表示されるようになっており、ユーザは画面上で、この第1爪輪郭To1を確認し、第1爪輪郭To1が適切な爪輪郭Toを示しているか否かを確認することができる。
そして、第1爪輪郭To1が間違ったラインを示している場合(すなわち、第1爪輪郭To1が適切な輪郭を示していない場合)には、ユーザは、爪Tの正しい輪郭(ユーザがこの輪郭線の内側領域を「爪T」として認識してほしいと考えるライン、正解爪輪郭、以下これを「第2爪輪郭To2」という。)をタッチパネル121上でなぞることにより、第2爪輪郭To2を入力することができる。なお、第2爪輪郭To2の入力はタッチパネル121を用いて行われる場合に限定されない。マウスやトラックボール等の図示しない各種ポインティングデバイス等を用いて入力されてもよい。
このように、本実施形態においてタッチパネル121等の入力部12は、ユーザからの第2爪輪郭To2の入力を受け付ける受付手段として機能する。
また、筐体11の上面(天板)には表示部13が設置されている。
表示部13は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機エレクトロルミネッセンスディスプレイその他のフラットディスプレイ等で構成されている表示手段である。
本実施形態において、この表示部13には、例えば、各種の指示等や、指Uを撮影して得た爪画像(爪Tの画像を含む指画像)、この爪画像中に含まれる爪Tの輪郭線等の画像、各種の指示を表示させる指示画面等が適宜表示される。
また、本実施形態の表示部13の表面には、上述のように入力部12として機能するタッチパネル121が一体的に構成されている。
さらに、筐体11の前面側(図1において手前側)には、輪郭検出装置1による撮影時に検出対象である爪Tに対応する指Uを挿入し、撮影部5による撮影が可能な撮影可能位置にセットするための開口部14が形成されている。
開口部14の内側には、本実施形態における検出対象である爪T(爪Tを含む指U)を固定する指配置部3が配置されている。
図2(a)は、指配置部3の斜視図であり、図2(b)は、指配置部3を上方向から見た平面図である。
図2(a)では、爪Tを含む指Uが指配置部3内に配置されている様子を二点鎖線で示している。
図2(a)等に示すように、指配置部3は装置手前側に開口部31を有する箱状の部材であり、指配置部3内部には指Uを支持する指支持部材32が配置されている。指配置部3は、筐体11内において、開口部31が筐体11の開口部14に対応する位置に配置されている。
指支持部材32は、指Uを下側から押し上げ支持するものであり、例えば柔軟性を有する樹脂等で形成されている。なお、指支持部材32は、指Uを下側から支持し得るものであればよく、その構成は特に限定されない。例えば、ばね等の弾性部材によって下方から付勢されていてもよい。また、例えば、指支持部材32は、内圧を変化させることにより膨縮可能に構成されており、膨張状態において指Uを押し上げ、その位置を固定する構成としてもよい。
指配置部3の天面奥側は開口する窓部33となっている。窓部33からは指配置部3内に挿入された指Uの爪Tが露出するようになっている。
また、指配置部3の天面手前側は指Uの浮き上がりを防止して指Uの上方向の位置を規制する指押え34となっている。指U及びその爪Tは、下側から指支持部材32によって支持され、指Uの上側が指押え34によって押さえられることで、高さ方向の位置が所定の位置に位置決めされる。
また、本実施形態では、指挿入方向の奥側には、爪Tを載置する爪載置部35が設けられている。爪載置部35は、検出対象である爪Tを位置決めする位置決め手段である。
この爪載置部35に爪Tの先を載置させることにより、爪Tの水平方向(すなわち、X方向及びY方向)の位置が規定されるとともに、その高さ方向の位置も規制される。
図3は、本実施形態の輪郭検出装置の機能的構成を示した要部ブロック図である。
図3に示すように、輪郭検出装置1は、撮影部5を備えている。
撮影部5は、撮影装置51と、照明装置52とを備えており、指配置部3内に指Uを挿入した際に爪Tが配置される位置の上方に、配置される。
撮影装置51は、例えば、200万画素程度以上の画素を有する固体撮像素子とレンズ等を備えて構成された小型カメラである。
照明装置52は、例えば白色LED等の照明灯である。本実施形態では、撮影装置51を囲むように複数の照明装置52が配置されている。
なお、撮影装置51及び照明装置52の位置は図示例に限定されない。例えば、撮影部5の撮影装置51及び照明装置52は、爪Tの上方位置に固定配置されていてもよいし、撮影部5が移動手段によって移動可能に構成されている場合には、爪Tの上方位置に移動することが可能となっていればよい。
本実施形態において撮影部5は、指Uを撮影した、爪Tを含む指画像FIを取得する指画像取得手段である。撮影部5は、指配置部3に配置された状態の検出対象である爪Tを含む指Uを撮影して、指画像FIを取得する。
具体的には、撮影装置51は、指配置部3の窓部33に対応する範囲を撮影可能となっており、窓部33から露出する指U及び爪Tを画角内に収めることができる。指Uは指配置部3により位置決めされているため、窓部33に対応する範囲を撮影することで、指画像に写り込む指Uや爪Tの位置関係(例えば指の第1関節より先が画角内に収まる等)はほぼ一定となる。
また、本実施形態の輪郭検出装置1は、制御装置80を備えている。
制御装置80は、例えば筐体11の天面の下面側等に配置された図示しない基板等に設置されている。
制御装置80は、図示しないCPU(Central Processing Unit)等を含んで構成される制御部81と、ROM(Read Only Memory)及びRAM(Random Access Memory)等(いずれも図示せず)を含んで構成される記憶部82とを備えるコンピュータである。
記憶部82には、輪郭検出プログラム821等、輪郭検出装置1を動作させるための各種プログラム等が格納されているプログラム記憶領域820が設けられている。
また、本実施形態において記憶部82には、輪郭検出部813が画像から爪輪郭を検出するために用いる輪郭検出の学習データを記憶する学習データ記憶領域822、輪郭検出部813により検出された検出結果等が記憶される輪郭情報記憶領域823等が設けられている。
学習データ記憶領域822は、学習対象画像に基づいて生成された学習結果であって複数の特徴点Nで構成され爪輪郭Toの検出に用いられる初期形状To0(図4参照、以下において「爪輪郭モデル」ともいう。)のデータを記憶した学習データ記憶手段である。
学習データ記憶領域822には、初期形状To0(爪輪郭モデル)の輪郭を構成する各特徴点N0~Nnの座標値(X0,Y0、X1,Y1、…Xn,Yn)や、初期形状To0の重心(図示せず)の位置、変位量関数(回帰関数)からなるリグレッサー(識別器)等、事前の学習によって得られた学習データが記憶されている。
学習データは、学習用画像から輪郭検出に有用な特徴量を抽出する特徴抽出を行うことで得られる。特徴量は例えば各画素の輝度値や色、隣接する画素間における輝度値や色の変化量等である。特徴量を抽出したら、各学習用画像について爪領域の形状を表す特徴点のX,Y座標値のデータを生成して、このX,Y座標値のデータを各学習用画像に対応付ける。
さらに各学習用画像について対応付けられた特徴点のX,Y座標値のデータを用いてパターン学習を行い、検出対象である爪Tらしい形状である初期形状To0(初期形状To0の輪郭を構成する特徴点Nの座標値)、初期形状To0の重心、識別器等からなる学習結果としての学習データを生成する。なお、学習は通常機械学習により行われる。
学習データ記憶領域822に記憶される初期形状To0等の学習データは、予め輪郭検出の学習を繰り返すことで生成されたものであり、製品出荷時の初期状態の輪郭検出装置1の記憶部82(記憶部82内の学習データ記憶領域822)に格納されている。
後述するように、本実施形態では、この学習結果としての学習データに基づいて、輪郭検出部813が検出対象である爪Tの輪郭等を検出する。
制御部81は、機能的に見た場合、撮影制御部811、表示制御部812、輪郭検出部813等を備えている。これら撮影制御部811、表示制御部812、輪郭検出部813等としての機能は、制御部81のCPUと記憶部82のROMに記憶されたプログラムとの協働によって実現される。
撮影制御部811は、撮影部5の撮影装置51及び照明装置52を制御して撮影装置51により、指配置部3に配置された指Uの爪Tの画像を含む指Uの画像(指画像FI)を撮影させる。
表示制御部812は、表示部13に表示させる表示画面を制御して各種の表示を行わせる。本実施形態では、前述のように表示画面に指画像FIや、指画像FIに指輪郭Uo、爪輪郭To等を重畳させた画像を表示させたり、第1爪輪郭To1の承認の可否をユーザに求める画面を表示させる。
輪郭検出部813は、初期形状To0とのフィッティングを行うことにより指画像FIから爪Tの領域を画する爪輪郭Toを検出する輪郭検出手段である。
また本実施形態では、輪郭検出部813は、指画像FIから指Uの領域を画する指輪郭Uoをも検出する。指輪郭Uoの検出は、例えば背景差分の手法等を用いて行う。すなわち、例えば予め指Uをセットしていない状態の指配置部3の窓部33をその全体が画角に収まるように撮影部5によって撮影させて事前画像を取得しておく。そして、指画像FIが撮影されると、指画像FIと事前画像とを比較して、事前画像になかったものを指Uとして検出する。
輪郭検出部813は、撮影装置51によって撮影された指Uの爪Tの画像(指画像FI)に基づいて、爪Tの輪郭(輪郭を構成する特徴点の座標値)を検出する。
本実施形態では、輪郭検出部813はESR(Explicit Shape Regression)の手法を用いて、爪Tの輪郭の検出を行う。
すなわち、輪郭検出部813は、記憶部82の学習データ記憶領域822に記憶されている初期形状To0(爪輪郭モデル)と検出対象を含む画像とのフィッティングを行う。
ESRを用いた輪郭検出では、この際、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、初期形状To0(爪輪郭モデル)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
図4は、ESRアルゴリズムによる爪輪郭Toの検出処理(すなわち、学習データに基づいて初期形状To0(爪輪郭モデル)を変形させ、爪輪郭Toに近づける処理)を模式的に示した図である。
通常、ESRアルゴリズムによる爪輪郭Toの検出では、初期形状To0(爪輪郭モデル)の特徴点Nを少しずつ移動させていくことで、何度も検出ループを繰り返していく中で、第2爪輪郭To2(図8参照)に徐々に近づくことができる。
具体的には、輪郭検出部813は、爪領域を含む指画像FIが入力されると、図4の左側に示すように、初期形状To0を指画像FI内の適当な位置(初期位置)に配置する。なお、図4等において爪Tと指Uの皮膚との間にある甘皮を甘皮領域ntとしている。甘皮領域ntは境界が不明瞭、不規則な領域であり、爪輪郭Toの検出を誤りやすい部分である。
なお、ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせて輪郭検出を行うAAM等の手法と比較してロバスト性に優れるため、初期形状To0としてどのようなものを用いるかや初期形状To0を配置する初期位置をそれほど厳密に設定しなくても検出結果の精度への影響は少ない。
このため、入力された指画像FIが異なる場合でも、共通の初期形状To0を適用することができる。
しかし、ESR等の手法を用いる場合でも、できるだけ爪領域と重なり合う位置に初期形状To0を配置した方が、より高精度に輪郭検出を行うことが期待できる。
このため、本実施形態では、初期形状To0の重心が学習データにおける重心の平均値である平均重心の位置にくるように初期形状To0を配置することが好ましい。
初期形状To0が配置されると、輪郭検出部813は、事前の学習によって生成され、予め記憶部82の輪郭情報記憶領域823に記憶さている変位量関数(回帰関数)からなるリグレッサー(ESRの場合には2段階の弱識別器)により初期形状To0の変位を繰り返し、図4の右側に行くにしたがって、正解位置である爪Tの輪郭(爪輪郭To、すなわち、爪領域の正しい境界)に向かって徐々に収束していく。
次に、図5から図14を参照しつつ、本実施形態における輪郭検出装置1による輪郭検出方法について説明する。
図6に示すように、爪Tの輪郭検出を行う場合には、まず、指配置部3に配置された指Uを撮影部5により撮影して指画像FIを取得する(ステップS1)。図5(a)は、指画像FIの一例を示す図である。図5(a)に示すように、指画像FIは、図2(b)に示す指配置部3の窓部33に対応する部分を撮影した画像である。
輪郭検出部813として制御部81は、例えば予め取得しておいた指Uが載置されていない状態の事前画像を記憶部82から読み出して、これと指画像FIとを比較する背景差分の手法により、事前画像になかったものを指Uとして検出し、指画像FIの中から検出された指Uの領域(以後「指領域」ともいう)を画する指輪郭Uoを検出する(ステップS2)。図5(b)の左側は、図5(a)に示した指画像FIの中から検出された指領域の一例を示している。
また、輪郭検出部813として制御部81は、指画像FIから爪輪郭Toを検出する(ステップS3、なおこの場合の爪輪郭を「第1爪輪郭To1」という。)。
ここにおける爪輪郭Toの検出は、学習データ記憶領域822に記憶されている学習データである初期形状To0を指画像FIに適用して、ESRアルゴリズムを用いて爪輪郭Toらしい部分を検出するものである。
図5(b)の右側は、図5(a)に示した指画像FIの中から爪輪郭Toを正しく検出した場合の例を示している。
図5(a)に網掛けで示すように、爪Tの領域(以下「爪領域」ともいう)の下側(図5(a)において下側、爪Tの生え際側)には甘皮領域ntがある。図5(b)に示すように、爪領域は、この甘皮領域ntを除いた爪Tの範囲を意味する。
第1爪輪郭To1は、図5(c)等に示すように、複数の特徴点N(N0~Nn)の集合体で構成されている。
例えば、爪Tの最も爪先側に位置する点を特徴点N0(座標値;X0,Y0)とし、ここから反時計回りに、特徴点N1(座標値;X1,Y1)、特徴点N2(座標値;X2,Y2)、…特徴点Nn(座標値;Xn,Yn)、とする。なお、第1爪輪郭To1を構成する特徴点Nの数は特に限定されない。
第1爪輪郭To1が検出されると、輪郭検出部813として制御部81は検出結果である第1爪輪郭To1をユーザに提示して、承認を求める(ステップS4)。提示の仕方は特に限定されない。例えば図(c)に示すように、指画像FIに第1爪輪郭To1を重畳して表示させる。なお、このとき、表示部13の表示画面に、当該検出結果の第1爪輪郭To1を承認するか否かを問い合わせるメッセージを表示させることが好ましい。なお、ユーザに承認を求める手法はこれに限定されない。例えば音声によるメッセージ等であってもよい。
輪郭検出部813として制御部81は、ユーザが検出結果を承認したか否か、すなわち、入力部12等から、検出結果の第1爪輪郭To1を承認する旨の入力(例えばOKボタンの押下等)があったか否かを判断する(ステップS5)。
ユーザが第1爪輪郭To1を承認した場合(ステップS5;YES)には、承認された検出結果(第1爪輪郭To1)を当該爪Tの爪輪郭Toと決定し(ステップS6)、輪郭検出処理を終了する。
他方、ユーザが第1爪輪郭To1を承認しない場合(ステップS5;NO)には、さらに輪郭検出部813として制御部81は、誤差サンプル(間違った第1爪輪郭To1(すなわち、ユーザに承認されなかった第1爪輪郭To1)と第2爪輪郭To2とに基づいて生成される後述の誤差サンプル)が一定数以上蓄積されているか否かをさらに判断する(ステップS7)。そして、誤差サンプルがまだ一定数以上蓄積されていない場合(ステップS7;NO)には、第1爪輪郭To1を自動的に補正する処理と、ユーザに手動で修正してもらう処理とを併用して行う自動・手動併用補正処理を行う(ステップS8)。
ここで、爪輪郭の自動・手動併用補正処理(図6のステップS8)の詳細について、図7から図11を参照しつつ、説明する。
自動・手動併用補正処理では、図7に示すように、まず、ユーザが正解と思う爪輪郭(これを「第2爪輪郭To2」という)を手動で描画するよう促すメッセージを表示部13等に表示させる(ステップS11)。
ユーザはこのメッセージを受けて、第2爪輪郭To2をタッチパネル121等から入力する。具体的には、正解と思う位置に入力用のペンや指先を使ってラインを引く。
ユーザが第2爪輪郭To2を入力すると、輪郭検出部813としての制御部81は、この第2爪輪郭To2の情報を取得する(ステップS12)。
図8は、ユーザが第2爪輪郭To2を入力するイメージを示すイメージ図である。第2爪輪郭To2が入力されると、ユーザが第2爪輪郭To2をラインとして入力した場合でも、輪郭検出部813は、これを図8に示すような、ラインを構成する特徴点Rの集合体として把握する。
第2爪輪郭To2の特徴点Rについても、例えば、爪Tの最も爪先側に位置する点を特徴点R0(座標値;X0,Y0)とし、ここから反時計回りに、特徴点R1(座標値;X1,Y1)、特徴点R2(座標値;X2,Y2)、…特徴点Rn(座標値;Xn,Yn)、とする。第2爪輪郭To2を構成する特徴点Rの数は、第1爪輪郭To1を構成する特徴点Nの数と同様に、特に限定されない。
なお、図8では、第1爪輪郭To1を構成する特徴点Nを黒点で示し、第2爪輪郭To2を構成する特徴点Rを斜線網掛けの点で示している。また説明の都合上、特徴点N,Rを実際よりも大きなサイズの点で示している。
第2爪輪郭To2の情報を取得すると、輪郭検出部813は、間違った第1爪輪郭To1(すなわち、ユーザに承認されなかった第1爪輪郭To1)と第2爪輪郭To2とに基づいて誤差サンプルを生成し(ステップS13)、誤差サンプルを適宜グループ分けする(ステップS14)。
そして、取得された第2爪輪郭To2(ユーザによって入力された爪輪郭)を当該爪Tの爪輪郭Toと決定し(ステップS15)、輪郭検出処理を終了する。
次に、図9を参照しつつ、誤差サンプルの作成(図7のステップS13)、及び誤差サンプルのグループ分け(分類)処理(図7のステップS14)について、その詳細を説明する。
まず、輪郭検出部813は、間違った検出結果における爪領域(第1爪輪郭To1によって画された領域)の面積と、指領域(図6のステップS2において検出された指輪郭Uoによって画された領域)の面積との比を算出する(ステップS21)。すなわち、図5(b)に示す指Uの領域と爪Tの領域との面積比を求める。ここで指Uの領域と爪Tの領域との「面積比」は、第1爪輪郭To1によって画された領域の寸法に関する情報である。
また、輪郭検出部813は、間違った検出結果における爪領域(第1爪輪郭To1によって画された領域)の寸法に関する情報として、縦横比を算出する(ステップS22)。すなわち、図5(a)に示す爪輪郭Toの内側領域である爪領域の縦方向の寸法Hと横方向の寸法Wとの比を算出する。
さらに、輪郭検出部813は、間違った爪輪郭(検出結果である第1爪輪郭To1)と正解の爪輪郭(ユーザが入力した第2爪輪郭To2)とを比較して、両者にどの程度の差分(誤差、すなわち、間違った第1爪輪郭To1を第2爪輪郭To2とするための修正幅、補正幅)があるか、両者の差分(誤差)を示す差分情報を取得する(ステップS23)。
ここで差分情報は、例えば第1爪輪郭To1を構成する特徴点Nのうち第2爪輪郭To2を構成する特徴点に対して最も大きく差分(誤差)を生じている最大誤差特徴点及びその差分(誤差)の大きさを示す情報を含んでいる。
例えば、図8に示す例の場合、爪Tの生え際付近の特徴点(図8では、Nq(座標値;Xnq,Ynq))が、第2爪輪郭To2を構成する特徴点Rのうちこれと対応する点(図8では、Rq(座標値;Xrq,Yrq))から最も離れており、最大誤差特徴点である。そして、Nq(座標値;Xnq,Ynq)とRq(座標値;Xrq,Yrq)との差分(誤差)の大きさ(補正幅、点同士の離れ具合)は、「距離d」である。
なお、いずれの特徴点を最大誤差特徴点とするかは、輪郭検出部813として制御部81が自動で設定してもよいし、最も離れていると思われる辺りをユーザがタッチパネル操作等で指定することで設定されてもよい。
また、差分情報は、差分(誤差)の大きさに限定されない。例えば、ずれの方向(ベクトル)等の情報も差分情報に含まれてよい。
なお、面積比を求めるステップS21、縦横比を求めるステップS22,差分情報を取得するステップS23の順序(先後)は、ここに示した例に限定されない。例えば縦横比を面積比よりも先に求める等、処理の順序は逆でもよい。
また、指領域と爪領域との面積比を求める処理(ステップS21)は必須ではなく、誤差サンプルの作成及び誤差サンプルのグループ分け(分類)を行うのに爪領域の縦横比と差分情報のみを参照してもよい。
本実施形態では、輪郭検出部813は、面積比、縦横比及び差分情報を対応付けて誤差サンプルを作成する(ステップS24)。面積比、縦横比及び差分情報を対応付けることで、どのような大きさや形状の爪Tにおいて、検出結果にどのような誤差が生じるかの傾向を見ることのできるサンプルを生成することができる。
なお、本実施形態では、差分情報として、最大誤差特徴点及びその誤差の大きさを示す情報を面積比や縦横比と対応付けて記憶させる。これにより、のちの処理において比較等を行いやすくなるとともに、記憶部82に記憶されるデータ量を少なくすることができる。なお、差分情報は、最大誤差特徴点に関するものに限定せずに、ユーザが第2爪輪郭To2として入力した爪Tの輪郭線を示すラインや第2爪輪郭To2を構成する一部又はすべての特徴点Rの座標値を含んでいてもよい。
さらに、輪郭検出部813は、面積比及び縦横比に基づいて誤差サンプルのグループ分けを試みる(ステップS25)。
図10(a)から図10(f)は、誤差サンプルとして集められた爪輪郭の検出サンプルの例である。また、図11は、図10(a)から図10(f)を3つのグループにグループ分けした分類例である。
面積比及び縦横比に基づいて誤差サンプルを分類した結果、図11に示すグループAは、爪Tの甘皮領域ntと指の皮膚部分との境界辺りに第1爪輪郭To1の輪郭線が位置しているものであり、図10(a)、図10(c)が分類されている。また、グループBは、爪Tの甘皮領域nt内に第1爪輪郭To1の輪郭線が位置しているものであり、図10(b)、図10(e)が分類されている。また、グループCは、例えば指の皮膚の皴等の影響を受けて爪Tの甘皮領域よりも下の位置に第1爪輪郭To1の輪郭線が位置しているものであり、図10(d)、図10(f)が分類されている。
面積比及び縦横比は直接輪郭線の位置に影響するものではないが、面積比及び縦横比の近いものは、指Uや爪Tの形状の特徴も近いことが多いため、図11に示す例のように、結果的に間違い方の近いものが同じグループに分類される。なお、グループ分けにおいて、面積比及び縦横比だけでなく差分情報も考慮してもよい。例えば誤差(差分)の大きさやずれ方(ずれた方向のベクトル情報)等を加味してグループ分けすることで、より詳細な分類が可能となる。
なお、誤差サンプルのグループ分けは、指種ごとに行うことが好ましい。
同じユーザであっても、親指と小指等、指種によって形状等が大きく異なる。このため、指種ごとにグループ分けを行った方がより高精度に爪輪郭Toの検出を行うことができる。
輪郭検出部813は、グループ分けにおいて、新たに生成された誤差サンプルが既存のいずれかのグループに分類することができるか否か、すなわち、類似の傾向を有する、該当するグループがあるか否かを判断する(ステップS26)。
そして、該当するグループがある場合(ステップS26;YES)には、当該誤差サンプルを該当するグループに分類し(ステップS27)、誤差(差分)を、当該グループ内で平均化して、面積比及び縦横比とともに記憶部82に記憶させる(ステップS28)。例えば、第1爪輪郭To1と第2爪輪郭To2の最大誤差特徴点のペアについても平均化され、例えば平均化された第1爪輪郭To1の最大誤差特徴点と、平均化された第2爪輪郭To2の最大誤差特徴点Cとの誤差(差分、補正幅)の平均が平均誤差ad(図13、図14参照)である場合、輪郭検出部813は、平均化された差分情報として、最大誤差特徴点Cの座標値(Xc,Yc)と平均誤差adの値を面積比及び縦横比と対応付けて記憶する。
他方、該当するグループがない場合(ステップS26;NO)には、輪郭検出部813は、新規のグループを作成し(ステップS29)、当該誤差サンプルを新規のグループに分類する(ステップS30)。
また、図4に戻って、誤差サンプルが一定数以上蓄積されている場合(ステップS7;YES)、すなわち、何度も爪輪郭Toの検出処理を行う中で、上記誤差サンプルの作成及び分類が繰り返し行われて、グループ分けされた誤差サンプルがすでに蓄積されている場合には、第1爪輪郭To1を自動的に補正する処理を行う(ステップS9)。
なお、誤差サンプルが一定数以上蓄積されているか否かを判断する前に、新たに爪輪郭Toの検出対象となっている爪Tの面積比及び縦横比等を算出して、当該爪Tがどのグループに属するかを判断し、当該グループに属する誤差サンプルが一定数以上蓄積されているか否かで処理を分けてもよい。全体としては誤差サンプルが蓄積されていても、グループによってはサンプル数が少ない場合もあり、爪輪郭の自動・手動併用補正処理(図6のステップS8)によって対応した方が検出精度が高くなる場合も考えられる。
ここで、爪輪郭の自動補正処理(図6のステップS9)の詳細について、図12から図14を参照しつつ、説明する。
図12に示すように、新たな第1爪輪郭To1が自動補正処理にかけられる場合、まず、輪郭検出部813は、第1爪輪郭To1を構成する特徴点のうち、平均化された第2爪輪郭To2の最大誤差特徴点Cの座標値(Xc,Yc)に対応する特徴点Aを探索する(ステップS31)。
特徴点Aが設定されると、検出1タップ毎の特徴点Aの位置を(Xa(n),Ya(n))と置き、検出ループを1回回すごとにループのカウンタnをカウントアップする(ステップS32)。
輪郭検出部813は、ループカウンタnが予め設定された全体の検出ループ数N未満であるか否かを判断し(ステップS33)、ループカウンタnが予め設定された全体の検出ループ数Nを未満ではない場合(ステップS33;NO)には、爪輪郭の自動補正処理を終了して、図のステップS4に戻り、爪輪郭の検出結果をユーザに提示して承認を求め、以降の処理を繰り返す。検出を何回ループさせるかは任意であるが、例えば全体の検出ループ数N=1000回である。
他方、ループカウンタnが予め設定された全体の検出ループ数N未満である場合(ステップS33;YES)には、輪郭検出部813は、さらにループカウンタnが序盤の数ループM回(例えばM=500回)未満であるか否かを判断する(ステップS34)。ループカウンタnがM回未満である場合(ステップS34;YES)には、さらに、ループカウンタnが任意のループ数L回(例えばL=100,200,300…のように100回ごと)であるか否かを判断する(ステップS35)。そして、丁度L回目である場合(ステップS35;YES)には、点A(座標:Xa,Ya)が、点C(座標:Xc,Yc)となるように、爪輪郭モデルを強制的に変形させる(ステップS36)。
すなわち、輪郭検出部813は、平均化された最大誤差特徴点Cに対応する第1爪輪郭To1の最大誤差特徴点Aの(Xa,Ya)を誤差の大きさを示す情報である平均化された差分情報である平均誤差adを用いて強制的に最大誤差特徴点C座標値(Xc,Yc)に変更する。
図13は、点A(座標:Xa,Ya)を、平均誤差adに基づいて点C(座標:Xc,Yc)の座標まで移動させる様子を模式的に示した図である。
図13に示すように、点A(座標:Xa,Ya)を点C(座標:Xc,Yc)に引き込むと、図14に示すように、点Aの近隣に位置する点についても、点Aからの距離に比例させて変化量を調整させた伸縮変形が行われる。これによって第1爪輪郭To1に適用される爪輪郭モデルがダイナミックに変形し、より迅速かつ適切に第2爪輪郭To2に近づきやすくなる。
これに対して、ループカウンタnがM回未満でない場合(ステップS34;NO)及びM回未満であるが(ステップS34;YES)、ループカウンタnが任意のループ数L回ではない場合(ステップS35;NO)には、通常のESRアルゴリズムによる爪輪郭Toの検出処理(すなわち、学習データに基づいて爪輪郭モデルを変形させる処理、ステップS37)を行う。
この学習データに基づいて爪輪郭モデルを変形させる処理は、図4に示したものと同様であるため、ここでは説明を省略する。
そして、ステップS36,ステップS37の場合には、輪郭検出部813はループカウンタnをカウントアップした後、ステップS33に戻り、ループカウンタnが規定回数Nに達するまで処理を繰り返す。これにより、第1爪輪郭To1をほぼ爪領域の輪郭に沿う正解位置に収束させていくことができる。
ループカウンタnが規定回数Nに達すると、図6のステップS4に戻り、検出結果をユーザに示して承認を求め、承認を得られるまで以下の処理を繰り返す。
このような手法を用いることで、ユーザが爪領域を自ら切り出したり設定することなく、自動的に、高精度に爪Tの輪郭を検出することができる。
以上のように、本実施形態によれば、指Uを撮影した、爪Tを含む指画像FIを取得する指画像取得手段としての撮影部5と、学習対象画像に基づいて生成された学習結果であって複数の特徴点Nで構成され爪輪郭Toの検出に用いられる初期形状To0のデータを記憶した学習データ記憶領域822と、初期形状To0とのフィッティングを行うことにより指画像FIから爪Tの領域を画する爪輪郭Toを検出する輪郭検出部813と、検出された爪輪郭Toを承認しないユーザからの正解の爪輪郭To2の入力を受け付ける入力部12と、を備え、輪郭検出部813は、少なくとも検出された爪輪郭To1に基づく爪領域の縦横比に基づいてユーザに承認されなかった第1爪輪郭To1のグループ分けを行い、第1爪輪郭To1とユーザが入力した第2爪輪郭To2とを比較して両者の差分を示す差分情報をグループ分けの結果とともに記憶させ、以降の検出において、第1爪輪郭To1について差分情報を用いた補正処理を行う。
このため、形状が特徴的であったり、甘皮領域nt等において認識が難しいために爪輪郭Toの検出しづらい爪Tであっても、ユーザの思う第2爪輪郭To2に徐々に近づけることができる。
そして、検出処理を行うごとに検出結果(グループ分けされた誤差サンプル等)が蓄積されていくことで、徐々に輪郭検出装置1がユーザの爪Tの特徴等にあったものにカスタマイズされて行き、ユーザが第2爪輪郭To2を手入力する手間も減らすことができる。
また本実施形態の輪郭検出部813は、指画像FIから指Uの領域を画する指輪郭Uoをも検出し、指輪郭Uoに基づく指領域と爪輪郭Toに基づく爪領域との面積比も参照して第1爪輪郭To1のグループ分けを行う。
これにより、爪Tの特徴的な形状等に応じた第1爪輪郭To1の分類をより適切に行うことができる。
また本実施形態では、差分情報がグループごとに平均化されて記憶される。
このため、差分情報を反映させやすくなる。
また本実施形態の差分情報は、第1爪輪郭To1を構成する特徴点Nのうち第2爪輪郭To2に対して最も大きく差分(誤差)を生じている最大誤差特徴点A及びその差分(誤差)の大きさを示す情報を含んでいる。
このため、最大誤差特徴点A及びその差分(誤差)に応じて効果的に第1爪輪郭To1の補正を行うことができる。
また本実施形態の輪郭検出部813は、ユーザに承認されなかった第1爪輪郭To1について複数回補正処理を繰り返すものであり、グループ分けされた第1爪輪郭To1が一定数以上蓄積された後は、輪郭検出部813は、補正処理において、任意の回数ごとに、最大誤差特徴点Aの座標値を差分(誤差)の大きさを示す情報を用いて強制的に変更する。
誤差サンプルが一定以上蓄積された後は、ユーザによる第2爪輪郭To2の入力を行わなくてもユーザの意図を反映させた適切な補正を行うことができる。
[第2の実施形態]
次に、図15を参照しつつ、本発明に係る輪郭検出装置を爪にネイルデザインを印刷する印刷装置(ネイルプリント装置)に適用した例を第2の実施形態として説明する。
なお、本実施形態では、輪郭検出装置の構成及び作用・効果は第1の実施形態で説明したものと同様であるため、以下においては、輪郭検出装置の構成及び作用・効果の詳細については説明を省略する。
図15は、輪郭検出装置1が適用された印刷装置100の機能的構成例を示した要部ブロック図である。
図15に示すように、印刷装置100は、第1の実施形態で説明した輪郭検出装置1の各構成部に加えて、印刷部4を備えている。
印刷部4は、印刷ヘッド41及び印刷ヘッド41を移動させるヘッド移動機構42を備えている。
本実施形態において印刷ヘッド41は、例えば図示しないインク貯留部を内蔵するとともに、インクを微細な液滴として吐出させ印刷対象である爪Tに印刷を施すインクジェット方式の吐出機構を備えるヘッド一体型のインクカートリッジである。
印刷ヘッド41は、印刷制御部814の制御にしたがって適宜所定のインクを吐出させ、印刷を行うようになっている。
インク貯留部は、例えば、シアン(C;CYAN)、マゼンタ(M;MAGENTA)、イエロー(Y;YELLOW)のインクに対応して設けられている。なお、印刷ヘッド41が吐出可能なインクはここに示した例に限定されず、他の色のインクを貯留するインク貯留部が設けられていてもよい。また、下地用の液剤やオーバーコート用の液剤等を吐出できるように構成してもよい。
ヘッド移動機構42は、例えば図示しないステッピングモータ等を備え、所定のステップずつ正確に印刷ヘッド41を移動させることができるように構成される。ヘッド移動機構42による印刷ヘッド41の移動は印刷制御部814によって制御される。
制御部81は、輪郭検出装置1について図3に示したものの他に、印刷部4の制御を行う印刷制御部814を備えている。
また、記憶部82は、輪郭検出装置1について図3に示したものの他に、デザイン記憶領域824等を備えている。
デザイン記憶領域824には、爪Tに印刷されるネイルデザインの画像データが記憶されている。
なお、記憶部82には、この他、輪郭検出部813により検出される爪Tの輪郭(爪形状、爪Tの水平位置のXY座標等)や爪Tの傾斜角度、爪曲率等の情報、各種の補正情報等が記憶されていてもよい。
なお、その他の構成は、第1の実施形態と同様であることから、同一部材には同一の符号を付して、その説明を省略する。
次に、本実施形態における印刷装置100による印刷制御処理について説明する。
本実施形態において、印刷装置100で爪Tへの印刷を行う場合、ユーザが装置電源を入れ、さらに印刷開始ボタン等の入力部12を操作する。これにより、操作に応じた印刷開始指示が印刷装置100の制御装置80に入力される。
印刷開始指示が入力されると、表示制御部812は、ネイルデザインを選択させるネイルデザイン選択画面を表示部13に表示させ、ユーザによる選択を促す。
ユーザが入力部12等から所望のネイルデザインを選択すると、当該選択指示に従って爪Tに印刷すべきネイルデザインが選択される。
ネイルデザインが選択されると、表示制御部812は、指配置部3の所定位置に印刷対象となる爪Tの指Uを配置するように指示する指示画面を表示部13に表示させ、ユーザに爪T(及びその指U)の固定を促す。
ユーザは指示に従って指Uを指配置部3に挿入し、爪Tの先を位置決め手段である爪載置部35に載置することで位置決めする。
そして、このように爪Tが爪載置部35により位置決めされた状態で、撮影制御部811が撮影部5を動作させて爪Tを撮影し、爪Tの領域を含む指画像FIを取得する。
指画像FIが取得されると、輪郭検出部813は、この画像から爪領域を画する爪輪郭Toを検出する輪郭検出処理を行う。なお、この輪郭検出処理の内容は、第1の実施形態において説明したものと同様であるため、その説明を省略する。
爪Tの爪輪郭To等が検出されると、検出された爪輪郭Toに、選択されたネイルデザインがフィッティングされる。さらに適宜曲面補正等の必要な補正を行って印刷用データ(ネイルデザインの印刷データ)が生成される。
そして、印刷制御部814が、印刷部4に印刷用データを出力するとともに、ヘッド移動機構42を動作させて印刷ヘッド41を適宜移動させながら印刷用データに基づく印刷処理を行わせる。これにより印刷用データに基づくネイルデザインが爪Tに印刷される。
なお、その他の点については、第1の実施形態と同様であることから、その説明を省略する。
以上のように、本実施形態によれば、第1の実施形態と同様の効果を得られる他、以下の効果を得ることができる。
すなわち、本実施形態では、印刷装置である印刷装置100が、第1の実施形態で示した輪郭検出装置1を備えている。このため、爪Tという、指部分との境界等を検出することが難しい対象について、比較的時間を掛けず、またユーザの手を煩わせずに精密に印刷範囲となる爪領域を特定し、はみ出し等のない美しい仕上がりのネイルプリントを行うことができる。
また、使用を繰り返す度にユーザの爪Tの特徴を記憶し、誤差サンプルとして蓄積していく。このため、使用するほどユーザの手間がかからない印刷装置100とすることができる。
なお、以上本発明の実施形態について説明したが、本発明は、かかる実施形態に限定されず、その要旨を逸脱しない範囲で、種々変形が可能であることは言うまでもない。
例えば、上記各実施形態では、輪郭検出部813がESRの手法を用いて初期形状To0と爪Tの領域とのフィッティングを行う場合を例示したが、輪郭検出部813が初期形状To0と爪Tの領域とのフィッティングを行う際に用いることのできるアルゴリズムはESRに限定されない。
例えば、AAM(Active appearance model)、ASM(Active Shape model)ACM(Active Contour Model)等を輪郭検出部813が初期形状To0と爪Tの領域とのフィッティングを行う際に用いることのできるアルゴリズムとして用いる場合にも本実施形態を適用することが可能である。
また、上記各実施形態では、輪郭検出装置1が単体で輪郭検出処理を行う場合を例示したが、例えば輪郭検出装置1が各種端末装置等の外部装置と連携し、外部装置から入力された指示に従って動作したり、演算処理の一部又は全部を外部装置側で行ってもよい。
外部装置としては、例えばスマートフォンやタブレット等の携帯端末装置やサーバ等が想定されるが、これに限定されない。外部装置は、輪郭検出装置1(第2の実施形態では、印刷装置100)と通信可能なものであればよく、例えばノート型又は定置型のパソコンや、ゲーム用の端末装置等であってもよい。
輪郭検出装置1(第2の実施形態では、印刷装置100)が外部装置と連携して各種処理を行う場合には、外部装置の制御装置の記憶部に、輪郭検出処理等を行うプログラムや各種データ等が格納される。
また、上記各実施形態では、検出対象が爪Tである場合を例示したが、輪郭検出装置によって輪郭検出を行うことができる検出対象は爪Tに限定されない。
例えば、顔の輪郭や目・鼻・口等の顔のパーツの輪郭等を検出対象としてもよい。
また、第2の実施形態では、印刷装置が爪Tに印刷を施す印刷装置100である場合を例示したが、印刷装置は、印刷装置100に限定されず、爪T以外のものに印刷を施すものでもよい。印刷対象が爪T以外である場合には、当該印刷対象の領域を画する輪郭を検出するための輪郭検出装置が適用される。
また、輪郭検出装置1が爪Tの輪郭を検出するものである場合に、第2の実施形態では、爪Tの輪郭を検出した後、検出された輪郭内に印刷を施す例を示したが、輪郭検出後の処理は印刷処理に限定されない。例えば、自動的に爪Tの表面を整えるオート爪磨き、オートネイルケア等を後処理として行ってもよい。
また、検出対象が医療用の撮影装置で撮影された医療用画像に含まれる各種臓器等である場合には、輪郭検出を行った後の処理として、医師等による画像診断や患者への健康状況の情報提供等が行われてもよい。
以上本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出手段と、
前記第1爪輪郭に対するユーザからの第2爪輪郭の入力を受け付ける受付手段と、
を備え、
前記輪郭検出手段は、前記第1爪輪郭のうち、前記受付手段により入力を受け付けられた爪輪郭について、前記第1爪輪郭の寸法に関する情報に基づいてグループ分けを行い、前記第1爪輪郭と前記受付手段によりユーザにより入力された前記第2爪輪郭との差分を示す差分情報を導出することを特徴とする輪郭検出装置。
<請求項2>
前記輪郭検出手段は、前記第1爪輪郭の縦横比に基づいてグループ分けを行うことを特徴とする請求項1に記載の輪郭検出装置。
<請求項3>
前記輪郭検出手段は、前記指画像から指の領域を画する指輪郭をも検出し、前記指輪郭に基づく指領域と前記第1爪輪郭に基づく爪領域との面積比も参照してグループ分けを行うことを特徴とする請求項1又は請求項2に記載の輪郭検出装置。
<請求項4>
前記差分情報は、グループごとに平均化されて導出されることを特徴とする請求項1から請求項3のいずれか一項に記載の輪郭検出装置。
<請求項5>
前記輪郭検出手段は、後の検出において、前記第1爪輪郭について前記差分情報を用いた補正処理を行うことを特徴とする請求項1から請求項4のいずれか一項に記載の輪郭検出装置。
<請求項6>
前記差分情報は、前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点及びその差分の大きさを示す情報を含むことを特徴とする請求項5に記載の輪郭検出装置。
<請求項7>
前記輪郭検出手段は、ユーザに承認されなかった前記第1爪輪郭について複数回補正処理を繰り返すものであり、
グループ分けされた前記第1爪輪郭が一定数以上蓄積された後は、
前記輪郭検出手段は、前記補正処理において、任意の回数ごとに、最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とする請求項6に記載の輪郭検出装置。
<請求項8>
請求項1から請求項7のいずれか一項に記載の輪郭検出装置によって検出された前記第1爪輪郭により画された爪領域に対して印刷を行う印刷手段を備えることを特徴とする印刷装置。
<請求項9>
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出工程と、
前記第1爪輪郭に対するユーザからの第2爪輪郭の入力を受け付ける受付工程と、
を含み、
前記輪郭検出工程は、前記第1爪輪郭のうち、前記受付工程により入力を受け付けられた爪輪郭について、前記第1爪輪郭の寸法に関する情報に基づいてグループ分けを行い、前記第1爪輪郭と前記受付工程によりユーザにより入力された前記第2爪輪郭との差分を示す差分情報を導出することを特徴とする輪郭検出方法。
<請求項10>
コンピュータに、
爪輪郭モデルとのフィッティングを行うことにより爪を含む指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出機能と、
前記第1爪輪郭に対するユーザからの第2爪輪郭の入力を受け付ける受付機能と、
を実現させ、
前記輪郭検出機能は、前記第1爪輪郭のうち、前記受付機能により入力を受け付けられた爪輪郭について、前記第1爪輪郭の寸法に関する情報に基づいてグループ分けを行い、前記第1爪輪郭と前記受付機能によりユーザにより入力された前記第2爪輪郭との差分を示す差分情報を導出させることを特徴とするプログラム。
1 輪郭検出装置
3 指配置部
4 印刷部
5 撮影部
51 撮影装置
81 制御部
82 記憶部
813 輪郭検出部
100 印刷装置
FI 指画像
T 爪
U 指

Claims (7)

  1. 爪輪郭モデルとのフィッティングを行うことにより爪を含む指の指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出手段と、
    前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付手段と、
    を備え、
    前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
    前記輪郭検出手段は、
    前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
    前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
    前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
    新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とする輪郭検出装置。
  2. 前記輪郭検出手段は、前記寸法に関する情報としての前記第1爪輪郭の縦横比に基づいて前記第1爪輪郭のグループ分けを行うことを特徴とする請求項1に記載の輪郭検出装置。
  3. 前記輪郭検出手段は、前記指画像から指の領域を画する指輪郭を検出し、前記寸法に関する情報としての前記指輪郭に画された指領域と前記第1爪輪郭に画された爪領域との面積比に基づいてグループ分けを行うことを特徴とする請求項1又は請求項2に記載の輪郭検出装置。
  4. 前記差分情報は、グループごとに平均化されて導出されることを特徴とする請求項1から請求項3のいずれか一項に記載の輪郭検出装置。
  5. 請求項1から請求項のいずれか一項に記載の輪郭検出装置によって検出された前記第1爪輪郭により画された爪領域に対して印刷を行う印刷手段を備えることを特徴とする印刷装置。
  6. 輪郭検出装置による輪郭検出方法であって、
    爪輪郭モデルとのフィッティングを行うことにより爪を含む指の指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出工程と、
    前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付工程と、
    を含み、
    前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
    前記輪郭検出工程は、
    前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
    前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
    前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
    新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とする輪郭検出方法。
  7. コンピュータに、
    爪輪郭モデルとのフィッティングを行うことにより爪を含む指の指画像から前記爪の領域を画する第1爪輪郭を検出する輪郭検出機能と、
    前記第1爪輪郭を承認しないユーザからの前記第1爪輪郭に対する第2爪輪郭の入力を受け付ける受付機能と、
    を実現させ、
    前記第2爪輪郭が入力された前記第1爪輪郭は、各々第2爪輪郭が入力された複数の第1爪輪郭を含み、
    前記輪郭検出機能は、
    前記第2爪輪郭が入力された前記第1爪輪郭を構成する特徴点のうち前記第2爪輪郭に対して最も大きく差分を生じている最大誤差特徴点を示す情報及びその差分の大きさを示す差分情報を導出し、
    前記第1爪輪郭の寸法に関する情報に基づいて前記複数の第1爪輪郭の各々をグループ分けし、
    前記グループ分けされた第1爪輪郭が一定数以上蓄積されている場合、
    新たに検出され前記ユーザが承認しない他の第1爪輪郭に、検出ループの任意の実行回数ごとに、前記他の第1爪輪郭の前記第2爪輪郭の平均に対して最も大きく差分が生じている最大誤差特徴点の座標値を差分の大きさを示す情報を用いて強制的に変更することを特徴とするプログラム。
JP2021127595A 2021-08-03 2021-08-03 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム Active JP7392696B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021127595A JP7392696B2 (ja) 2021-08-03 2021-08-03 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム
US17/879,621 US20230044135A1 (en) 2021-08-03 2022-08-02 Contour detection apparatus, printing apparatus, contour detection method and storage medium
CN202210925222.9A CN115705650A (zh) 2021-08-03 2022-08-03 轮廓检测装置、印刷装置、轮廓检测方法及记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021127595A JP7392696B2 (ja) 2021-08-03 2021-08-03 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2023022617A JP2023022617A (ja) 2023-02-15
JP7392696B2 true JP7392696B2 (ja) 2023-12-06

Family

ID=85152016

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021127595A Active JP7392696B2 (ja) 2021-08-03 2021-08-03 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム

Country Status (3)

Country Link
US (1) US20230044135A1 (ja)
JP (1) JP7392696B2 (ja)
CN (1) CN115705650A (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016064104A (ja) 2014-09-26 2016-04-28 カシオ計算機株式会社 ネイルデザイン表示制御装置、ネイルプリント装置、ネイルデザイン表示制御方法及びネイルデザイン表示制御プログラム
JP2018055364A (ja) 2016-09-28 2018-04-05 カシオ計算機株式会社 サーバ装置、爪領域検出システム及び描画装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016064104A (ja) 2014-09-26 2016-04-28 カシオ計算機株式会社 ネイルデザイン表示制御装置、ネイルプリント装置、ネイルデザイン表示制御方法及びネイルデザイン表示制御プログラム
JP2018055364A (ja) 2016-09-28 2018-04-05 カシオ計算機株式会社 サーバ装置、爪領域検出システム及び描画装置

Also Published As

Publication number Publication date
CN115705650A (zh) 2023-02-17
US20230044135A1 (en) 2023-02-09
JP2023022617A (ja) 2023-02-15

Similar Documents

Publication Publication Date Title
US9357825B2 (en) Nail printing device, print control method for nail printing device, and computer readable medium
US10384483B2 (en) Contour detecting device, printing device, contour detecting method and storage medium
JP5382078B2 (ja) ネイルプリント装置及び印刷制御方法
US10945506B2 (en) Contour detection apparatus, drawing apparatus, contour detection method, and storage medium
CN109123989B (zh) 描绘系统、终端装置及记录介质
US8840206B2 (en) Nail print apparatus and printing control method
JP6992367B2 (ja) 爪輪郭検出装置、爪輪郭検出方法及び爪輪郭検出プログラム
US9603431B2 (en) Nail design device, nail printing apparatus, nail design method, and computer-readable recording medium storing nail design program
BR102013022795A2 (pt) Aparelho de impressão de unhas e método de controle de impressão
JP7047294B2 (ja) 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
JP5601103B2 (ja) ネイルプリント装置及び印刷制御方法
JP7392696B2 (ja) 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム
US20200307252A1 (en) Printer and printing method
JP6958336B2 (ja) 描画システム、描画装置及び端末装置
US20220379638A1 (en) Printing device, printing method, and storage medium
US20220363052A1 (en) Printing device, terminal device, printing system, printing method, and storage medium
JP7439842B2 (ja) 輪郭検出装置及び輪郭検出方法
JP2022025072A (ja) 描画システム及び描画制御方法
JP2023141654A (ja) 制御装置、印刷装置、制御方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220808

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220808

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230608

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231024

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231106

R150 Certificate of patent or registration of utility model

Ref document number: 7392696

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150