JP7035405B2 - 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム - Google Patents

輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム Download PDF

Info

Publication number
JP7035405B2
JP7035405B2 JP2017180795A JP2017180795A JP7035405B2 JP 7035405 B2 JP7035405 B2 JP 7035405B2 JP 2017180795 A JP2017180795 A JP 2017180795A JP 2017180795 A JP2017180795 A JP 2017180795A JP 7035405 B2 JP7035405 B2 JP 7035405B2
Authority
JP
Japan
Prior art keywords
contour
detection
shape
nail
detection target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017180795A
Other languages
English (en)
Other versions
JP2019057111A (ja
Inventor
大聖 笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2017180795A priority Critical patent/JP7035405B2/ja
Priority to US16/053,554 priority patent/US10384483B2/en
Priority to CN201811034749.2A priority patent/CN109544573B/zh
Publication of JP2019057111A publication Critical patent/JP2019057111A/ja
Application granted granted Critical
Publication of JP7035405B2 publication Critical patent/JP7035405B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41MPRINTING, DUPLICATING, MARKING, OR COPYING PROCESSES; COLOUR PRINTING
    • B41M5/00Duplicating or marking methods; Sheet materials for use therein
    • B41M5/0082Digital printing on bodies of particular shapes
    • B41M5/0088Digital printing on bodies of particular shapes by ink-jet printing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J3/00Typewriters or selective printing or marking mechanisms characterised by the purpose for which they are constructed
    • B41J3/407Typewriters or selective printing or marking mechanisms characterised by the purpose for which they are constructed for marking on special material
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/181Segmentation; Edge detection involving edge growing; involving edge linking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • A45D2029/005Printing or stamping devices for applying images or ornaments to nails
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • A45D29/22Finger-supports
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/64Analysis of geometric attributes of convexity or concavity
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラムに関するものである。
従来、検出対象を撮影した画像から画像処理によって検出対象の輪郭を検出する手法が知られている。
例えば、カメラで人物を撮影した場合に、輪郭検出の技術を用いることで、撮影画像から当該人物の顔の輪郭や、目、鼻、口等の各パーツの輪郭を検出することができる。
また、輪郭検出の対象は、顔や顔のパーツに限定されず、爪の輪郭形状等、各種の輪郭検出に輪郭検出の技術を用いることができる。
こうした輪郭検出の技術としては、複数の学習用サンプルを集めて学習を行い、学習結果としての学習データを生成して、この学習データを用いて輪郭の検出を行う手法がある。
例えば、従来輪郭検出に用いられる手法として、AAM(Active Appearance Model)やASM(Active Shape Model)がある。これらの手法は、顔の輪郭や各パーツの輪郭の特徴点の配置を形状モデル(Shape Model)と呼ばれるモデルで表現する。そして、この形状モデルと検出対象を含む画像にフィッティングさせることで検出対象の輪郭検出を行う。
また、非特許文献1には、ESR(Explicit Shape Regression)と呼ばれるアルゴリズムにより検出対象の輪郭を検出する技術が開示されている。
ESRにおいても、重心の周囲に特徴点が配置された形状モデル(初期形状)を生成し、これと検出対象を含む画像とのフィッティングを行う。この際、ESRでは、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、形状モデル(初期形状)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
このようなアルゴリズムを用いることで、高精度な輪郭検出をユーザの手を煩わせることなく自動で行うことができる。
Xudong Cao, Yichen Wei, Fang Wen, Jian Sun "Face alignment by Explicit Shape Regression." CVPR 2012: 2887-2894.
しかしながら、例えば爪の輪郭を検出する場合の指と爪との境界のように周囲との輝度や色の差が少ない箇所や、境界と判断されやすいラインが複数ある箇所(例えば指と爪との境界の他に爪と甘皮との境界がある爪の生え際部分)等、自動的な輪郭検出では輪郭を認識・特定しづらい部分もある。
このような場合、検出結果の信頼度(検出結果の良し悪し)を示す指標があれば信頼度の低い部分だけユーザがチェックし、必要に応じて手直しを行うことができるが、例えばESRのようなアルゴリズムを用いた輪郭検出では、信頼度を評価する指標がない。
このため、検出結果の手直しを行う場合は、ユーザが目視にて検出精度が悪い部分を探す必要があり、手間がかかるという問題がある。
本発明は以上のような事情に鑑みてなされたものであり、画像から検出対象の輪郭を自動で検出する場合に、検出の信頼度の低い部分を容易に判別することのできる輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラムを提供することを利点とするものである。
前記課題を解決するために、本発明の第1の態様の輪郭検出装置は、
検出対象を撮影して検出対象画像を取得する撮影手段と、
前記検出対象の輪郭の形状を認識する形状認識を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出処理を行う輪郭検出手段と、
を備え、
前記輪郭検出手段は、複数回の前記形状認識における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識における分散を導出して、分散が設定された値以上の前記特徴点を信頼度の低い特徴点と判断することを特徴としている。
また、本発明の第2の態様の輪郭検出装置は、
検出対象を撮影して検出対象画像を取得する撮影手段と、
前記検出対象画像における前記検出対象の輪郭の形状に沿って複数の特徴点を配置することにより前記輪郭の形状を検出する輪郭検出処理を複数回行う輪郭検出手段と、
前記複数回の輪郭検出処理により前記輪郭の形状に沿って配置された前記複数の特徴点について、それぞれ対応する前記特徴点ごとに分散を導出し、導出された分散が所定の値以上である前記特徴点を信頼度の低い特徴点と判定する判定手段と、
を備えたことを特徴としている。
また、本発明の描画装置は、
上記の輪郭検出装置と、
前記輪郭検出装置により検出された輪郭内に描画を施す描画部と、
を備えたことを特徴としている。
また、本発明の輪郭検出方法は、
検出対象を撮影して検出対象画像を取得する撮影工程と、
前記検出対象の輪郭の形状を認識する形状認識工程を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出工程と、
前記輪郭検出工程における検出結果を表示させる表示工程と、
を含み、
前記輪郭検出工程において、前記形状認識工程における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識工程における分散を導出して、分散が所定値以上の前記特徴点を信頼度の低い特徴点と判断することを特徴としている。
また、本発明の輪郭検出プログラムは、
輪郭検出装置のコンピュータに、
検出対象を撮影して検出対象画像を取得させる撮影機能と、
前記検出対象の輪郭の形状を認識する形状認識を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出機能と、
前記輪郭検出機能による前記輪郭の検出結果を表示させる表示機能と、
を実現させ、
前記輪郭検出機能により、前記形状認識における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識における分散を導出して、分散が所定値以上の前記特徴点を信頼度の低い特徴点と判断することを特徴としている。
本発明によれば、画像から検出対象の輪郭を自動で検出する場合に、検出の信頼度の低い部分を容易に判別することができる。
本実施形態における輪郭検出装置の外観構成を示す斜視図である。 (a)は、指固定部を示す斜視図であり、(b)は、指固定部を上から見た平面図である。 本実施形態における輪郭検出装置の機能的構成を示した要部構成図である。 指固定部にサンプル爪を配置した状態を模式的に示した図である。 複数のサンプル爪から初期形状を生成する様子を模式的に示す説明図である。 (a)~(c)は、それぞれ初期形状を検出対象画像にフィッティングした場合の特徴点の位置を示した図であり、(d)は、(a)~(c)の認識結果をマージしたものであり、(e)及び(f)は、認識結果をマージした結果分散が閾値以上であった部分を拡大表示した状態を示した図である。 本実施形態における輪郭検出処理を示すフローチャートである。 本実施形態におけるネイルプリント装置の内部構成を示す斜視図である。 本実施形態におけるネイルプリント装置の制御構成を示したブロック図である。 本実施形態における描画処理を示すフローチャートである。 (a)~(e)は、それぞれ初期形状を検出対象画像にフィッティングした場合の特徴点の位置を示した図であり、(f)は、(a)~(e)の認識結果をマージしたものであり、(g)は、認識結果をマージした結果分散が閾値以上であった部分を拡大表示した状態を示した図である。
[第1の実施形態]
図1から図7を参照しつつ、本発明に係る輪郭検出装置の第1の実施形態について説明する。
なお、以下の本実施形態では、輪郭の検出を行う対象である検出対象が指の爪である場合を例として説明する。
以下においては、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
図1は、本実施形態における輪郭検出装置の外観を示す斜視図である。
図1に示すように、本実施形態における輪郭検出装置1は、ほぼ箱形に形成された筐体11を有している。
筐体11の上面(天板)には操作部12が設置されている。
操作部12は、ユーザが各種入力を行う入力部である。
操作部12には、例えば、輪郭検出装置1の電源をONする電源スイッチ釦、動作を停止させる停止スイッチ釦、爪Tの輪郭検出の開始を指示する検出開始釦等、各種の入力を行うための操作釦が配置されている。
また、筐体11の上面(天板)には表示部13が設置されている。
表示部13は、後述する輪郭検出手段である輪郭検出部813(図3参照)による検出結果を表示する表示手段である。
表示部13は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機エレクトロルミネッセンスディスプレイその他のフラットディスプレイ等で構成されている。
本実施形態において、この表示部13には、例えば、各種の指示等や、指U1を撮影して得た爪画像(爪Tの画像を含む指画像)、この爪画像中に含まれる爪Tの輪郭線等の画像、各種の指示を表示させる指示画面等が適宜表示される。
また、表示手段である表示部13は、後述するように、輪郭検出手段である輪郭検出部813により信頼度の低い特徴点tと判断された部分を他の部分と区別できるように表示させる。
本実施形態では、輪郭検出部813によって他の部分と区別して表示させる手法として、信頼度の低い特徴点tと判断された部分を表示部13に拡大表示させる。
また、本実施形態の表示部13の表面には、タッチパネル式入力部121(図3参照)が図示しない表示パネルに一体的に構成されている。
タッチパネル式入力部121は、例えば、指先やスタイラスペン(図示せず、以下、単に「ペン」という。)又は先の尖った棒状の筆記具等の入力部材によって表示部13の表面をタッチするタッチ操作を行うことにより、各種の入力操作を行うことができるように構成されたものであり、操作部として機能する。
さらに、筐体11の前面側(図1において手前側)には、輪郭検出装置1による撮影時に検出対象である爪Tに対応する指U1を挿入し、撮影部50による撮影が可能な撮影可能位置にセットするための開口部14が形成されている。
開口部14の内側には、本実施形態における検出対象である爪T(爪Tを含む指U1)を固定する指固定部3が配置されている。
図2(a)は、指固定部3の斜視図であり、図2(b)は、指固定部3を上方向から見た平面図である。
図2(a)では、爪Tを含む指U1が指固定部3内に配置されている様子を二点鎖線で示している。
図2(a)等に示すように、指固定部3は装置手前側に開口部31を有する箱状の部材であり、指固定部3内部には指U1を固定する指固定部材32が配置されている。指固定部3は、筐体11内において、開口部31が筐体11の開口部14に対応する位置に配置されている。
指固定部材32は、指U1を下側から押し上げ支持するものであり、例えば柔軟性を有する樹脂等で形成されている。なお、指固定部材32は、指U1を下側から支持し輪郭検出得るものであればよく、その構成は特に限定されない。例えば、ばね等の弾性部材によって下方から付勢されていてもよい。また、例えば、指固定部材32は、内圧を変化させることにより膨縮可能に構成されており、膨張状態において指U1を押し上げ、その位置を固定する構成としてもよい。
指固定部3の天面奥側は開口する窓部33となっている。窓部33からは指固定部3内に挿入された指U1の爪Tが露出するようになっている。
また、指固定部3の天面手前側は指U1の浮き上がりを防止して指U1の上方向の位置を規制する指押え34となっている。指U1及びその爪Tは、下側から指固定部材32によって支持され、指U1の上側が指押え34によって押さえられることで、高さ方向の位置が所定の位置に位置決めされる。
また、本実施形態では、指挿入方向の奥側には、爪Tを載置する爪載置部35が設けられている。爪載置部35に爪Tの先を載置させることにより、爪Tの水平方向(すなわち、X方向及びY方向)の位置が規定されるとともに、その高さ方向の位置も規制される。
図3は、本実施形態の輪郭検出装置の要部構成を機能的に示した説明図である。
図3に示すように、指固定部3内に指U1を挿入した際に爪Tが配置される位置の上方には、撮影部50が配置されている。
撮影部50は、撮影装置51と、照明装置52とを備えている。
撮影装置51は、例えば、200万画素程度以上の画素を有する固体撮像素子とレンズ等を備えて構成された小型カメラである。
照明装置52は、例えば白色LED等の照明灯である。本実施形態では、撮影装置51を囲むように複数の照明装置52が配置されている。
なお、撮影装置51及び照明装置52の位置は図示例に限定されない。例えば、撮影部50の撮影装置51及び照明装置52は、爪Tの上方位置に固定配置されていてもよいし、撮影部50が移動手段によって移動可能に構成されている場合には、爪Tの上方位置に移動することが可能となっていればよい。
撮影部50は、検出対象である爪Tを撮影して、検出対象(爪T)の領域を含む検出対象画像TI(すなわち、爪Tを含む指U1の画像である爪画像)を取得する撮影手段である。本実施形態では、爪Tを爪載置部35により位置決めした状態で撮影部50による撮影が行われる。
この撮影部50は、後述する制御装置80の撮影制御部811に接続され、該撮影制御部811によって制御されるようになっている。
なお、撮影部50によって撮影された画像の画像データは、後述する記憶部82等に記憶されてもよい。
また、図3に示すように、本実施形態の輪郭検出装置1は、制御装置80を備えている。
制御装置80は、例えば筐体11の天面の下面側等に配置された図示しない基板等に設置されている。
制御装置80は、図示しないCPU(Central Processing Unit)により構成される制御部81と、ROM(Read Only Memory)及びRAM(Random Access Memory)等(いずれも図示せず)で構成される記憶部82とを備えるコンピュータである。
記憶部82には、輪郭検出プログラム821等、輪郭検出装置1を動作させるための各種プログラム等が格納されているプログラム記憶領域820が設けられている。
また、本実施形態において記憶部82には、輪郭検出部813が画像から爪Tの輪郭を検出するために用いる輪郭検出情報を記憶する輪郭検出情報記憶領域822、輪郭検出部813により検出された爪Tの輪郭の情報が記憶される輪郭情報記憶領域823等が設けられている。
輪郭検出情報記憶領域822に記憶されている輪郭検出情報は、形状モデルである初期形状Tmの輪郭Tmbを構成する各特徴点tの座標値や、初期形状Tmの重心Tcの位置、変位量関数(回帰関数)からなるリグレッサー(識別器)等、事前の学習によって得られた学習データである。
後述するように、本実施形態では、この学習結果としての学習データに基づいて、輪郭検出部813が検出対象である爪Tの輪郭等を検出するようになっている。
輪郭検出情報記憶領域822に記憶される輪郭検出情報(学習データ)は、学習データ生成部83によって生成される。
すなわち、学習データ生成部83は、輪郭検出装置1を用いて撮影され、取得された学習用サンプル(本実施形態ではサンプル爪TL)の画像(学習用画像)を複数取得して、この複数の学習用サンプルの画像(学習用画像)を用いて学習を行い、この学習の結果である学習データを生成する。
具体的には、学習データ生成部83は、各学習用画像から輪郭検出に有用な特徴量を抽出する特徴抽出を行う。特徴量は例えば各画素の輝度値や色、隣接する画素間における輝度値や色の変化量等である。特徴量を抽出したら、学習データ生成部83は、各学習用画像について爪領域の形状を表す特徴点のx,y座標値のデータを生成して、このx,y座標値のデータを各学習用画像に対応付ける。
さらに学習データ生成部83は、各学習用画像について対応付けられた特徴点のx,y座標値のデータを用いてパターン学習を行い、検出対象である爪Tらしい形状である初期形状Tm(初期形状Tmの輪郭Tmbを構成する特徴点tの座標値)、初期形状Tmの重心Tc、識別器等からなる学習結果としての学習データを生成する。なお、学習は通常機械学習により行われる。
なお、学習対象画像は学習データを生成する元となるものであるため、検出対象である爪Tのデータとできる限り同じ条件下で取得した方が好ましい。
このため、例えば、学習対象であるサンプル爪TLと検出対象である爪Tとを同じ爪載置部35を用いて位置決めした状態で撮影部50により撮影を行い、爪画像(学習用画像及び検出用画像)を取得することが好ましい。
このようにすることで、爪画像内における爪の位置がほぼ同じとなるとともに、同様の構成の撮影部50により撮影することができ、撮影条件もほぼ同じとなる。
なお、ここで、「同じ」爪載置部35としたのは、全く同一の装置の同一の爪載置部との意味ではなく、同様の構成を備える装置の同様の爪載置部35及び撮影部50との意味である。
すなわち、学習用サンプルの撮影による学習対象画像の取得や学習対象画像を用いた学習データの生成は工場出荷段階までに完了し、学習結果が輪郭検出情報として予め輪郭検出情報記憶領域822に記憶されるものである。このため、学習対象画像の取得等は、出荷前のモデル機を用いて行われるのに対して、検出対象画像の取得等は各ユーザの下で個々の装置において行われる。
このため、全く同一の装置である可能性は低く、個体としては別物だが、同じ構成、同じ部材を備え、同じ条件下でデータを取得することができるものが用いられる。
図4は、学習用サンプルとして集められた複数の爪(本実施形態ではサンプル爪TL1~TL3)を指固定部3内に配置して、爪載置部35に爪TLの先を載置し位置決めした状態を模式的に示したものである。なお、図4では、第1の学習用サンプルであるサンプル爪をTL1(図4において一点鎖線で示す。)、第2の学習用サンプルであるサンプル爪をTL2(図4において破線で示す。)、第3の学習用サンプルであるサンプル爪をTL3(図4において二点鎖線で示す。)とし、実際には指固定部3内に順次1つずつ配置されるサンプル爪TL1~TL3を模式的に重ねて配置して示している。
また、図4において、サンプル爪TL1の重心をTL1cとし、サンプル爪TL2の重心をTL2cとし、サンプル爪TL3の重心をTL3cとし、これらの重心TL1c~TL3cの平均値をとった平均重心をTpとしている。
ここで、「重心」とは、図形(本件では爪(サンプル爪TL))内における1次のモーメントの総和が0になる点である。
なお、図4では、学習用サンプルとして3つのサンプル爪TL1~TL3を図示しているが、サンプル爪TLの数はこれに限定されない。ある程度多くのサンプル爪TLを集めて学習を行う方がより信頼度の高い学習データを得ることが期待できる。
図5は、サンプル爪TL1~TL3について、それぞれ特徴点TL1d~TL3dで構成される輪郭TL1b~TL3b及び重心TL1c~TL3cを検出し、これら複数のサンプル爪TL1~TL3に基づいて初期形状Tm(形状モデル)を生成する様子を模式的に示した説明図である。
初期形状Tmは、重心Tcの周囲に輪郭Tmbを構成する特徴点Tが設定されたものである。
初期形状Tmの重心Tcは、全てのサンプル爪TL1~TL3の重心TL1c~TL3cの平均値でもよいし、何らかの重み付けにより選択される位置でもよい。また、初期形状Tmの特徴点tは、全てのサンプル爪TL1~TL3の各特徴点TL1d~TL3dの平均値であってもよいし、全てのサンプル爪TL1~TL3の各特徴点TL1d~TL3dの中からランダムに選ばれたものであってもよい。
制御部81は、機能的に見た場合、撮影制御部811、輪郭検出部813、表示制御部816等を備えている。これら撮影制御部811、輪郭検出部813、表示制御部816等としての機能は、制御部81のCPUと記憶部82のROMに記憶されたプログラムとの協働によって実現される。
撮影制御部811は、撮影部50の撮影装置51及び照明装置52を制御して撮影装置51により、指固定部3の爪載置部35により位置決め固定された指U1の爪Tの画像を含む指の画像(爪画像であり、「検出対象画像TI」)を撮影させるものである。
輪郭検出部813は、検出対象画像TIから、検出対象である爪Tの輪郭(輪郭を構成する特徴点の座標値)を検出する輪郭検出処理を行う輪郭検出手段である。
本実施形態では、輪郭検出部813はESR(Explicit Shape Regression)の手法を用いて、爪Tの輪郭の検出を行う。
すなわち、輪郭検出部813は、重心Tcの周囲に特徴点tが配置された初期形状Tm(形状モデル)を生成し、これと検出対象である爪Tの領域を含む画像とのフィッティングを行う。
ESRを用いた輪郭検出では、この際、非特許文献1に記載されているように、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、初期形状Tm(形状モデル)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
具体的には、輪郭検出部813は、検出対象画像が入力されると、初期形状Tmを検出対象画像TI内の適当な位置(初期位置)に配置する。
なお、ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせて輪郭検出を行うAAM等の手法と比較してロバスト性に優れるため、初期形状Tmとしてどのようなものを用いるかや初期形状Tmを配置する初期位置をそれほど厳密に設定しなくても検出結果の精度への影響は少ない。
このため、入力された検出対象画像TIが爪Tの大きさや指U1の太さ等の異なるものである場合でも、共通の初期形状Tmを適用することができる。
本実施形態において、輪郭検出部813は、初期形状Tmの重心Tcが学習データにおける重心の平均値である平均重心Tpの位置又はその近傍にくるように初期形状Tmを配置する。
初期形状Tmが配置されると、輪郭検出部813は、事前の学習によって生成され、予め記憶部82の輪郭情報記憶領域823に記憶さている変位量関数(回帰関数)からなるリグレッサー(ESRの場合には2段階の弱識別器)により初期形状Tmの変位を複数回行い、正解位置である爪Tの輪郭(すなわち、爪領域の境界)に向かって徐々に収束させていく。
このように各特徴点tが爪Tの輪郭に近づくように初期形状Tmを変位させることにより、輪郭検出部813は、最終的に爪Tの輪郭を推定する。
本実施形態において、輪郭検出部813は、上記のような形状認識(すなわち初期形状Tmを爪Tの輪郭に向かって徐々に収束させ爪Tの輪郭を検出する処理)を複数回
行う。
図6(a)~図6(c)は、それぞれ形状認識により得られた検出結果を示した図である。本実施形態では、検出された輪郭Tmbの重心をTcとし、その周囲に爪先を頂点として反時計周りに19個の特徴点t(t1~t19)を設定している例を示す。なお、設定する特徴点tの数や特徴点tの配置の仕方等は特に限定されず、適宜設定可能である。
また、図6(a)~図6(c)では3回分の検出結果を示しているが、形状認識を繰り返す回数は3回に限定されない。形状認識を何回繰り返すかは適宜設定される。
輪郭検出部813は、この複数回の形状認識における検出結果である輪郭を構成する特徴点tごとに分散を算出する。このとき、輪郭検出部813は、初期形状Tmを配置する位置を毎回変更しながら形状認識を繰り返すことが好ましい。なお、初期形状Tmを配置する初期位置をどの程度ずつどのようにずらすかは適宜設定可能な事項である。
前述のようにESRのように回帰問題として輪郭検出を行う手法はロバスト性に優れるため、このように初期形状Tmの配置を多少変更しながら形状認識を行った場合でも、多くの特徴点tは毎回ほぼ同じ位置に検出され、分散は小さい(例えば、図6(a)~図6(c)において特徴点t1~t8、特徴点t17~t19)。
しかし、周辺との輝度差等の小さい部分等、輪郭を検出しにくい部分では、特徴点tの分散が大きくなる(例えば、図6(a)~図6(c)において特徴点t9~t16)。
輪郭検出部813は、分散が所定値以上の特徴点t(図6(a)~図6(c)では特徴点t9~t16)がある場合、これを信頼度の低い特徴点tと判断する。
具体的には、例えば、記憶部82の輪郭検出情報記憶領域822等に分散の閾値が予め記憶されており、輪郭検出部813は、算出した分散がこの閾値よりも大きい特徴点tを信頼度が低いと判断する。なお、閾値をどの程度に設定するかは適宜決定される事項である。また、特に閾値を持たず、分散の大きい上位の特徴点tを信頼度が低いと判断してもよい。
さらに、輪郭検出部813は、複数回の形状認識の検出結果をマージする。マージした結果の値としては、例えば、複数回の形状認識の検出結果の平均値としてもよいし、中央値としてもよい。
図6(d)は、図6(a)~図6(c)に示す形状認識の認識結果をマージしたマージ結果を示すものである。
図6(d)に示す例では、爪Tの根元の生え際周辺の特徴点t9~t12と、爪Tの右側部周辺の特徴点t13~t16(それぞれ図6(d)において破線で囲んだ部分)の分散が大きい。
輪郭検出部813は、このような分散が所定値以上の特徴点t(図6(a)~図6(c)では特徴点t9~t16)を信頼度の低い特徴点と判断する。
表示制御部816は、表示部13を制御して表示部13に各種の表示画面を表示させるものである。本実施形態では、表示制御部816は、例えばネイルデザインの選択画面やデザイン確認用のサムネイル画像、印刷指U1を撮影して取得した爪画像、各種の指示画面、操作画面等を表示部13に表示させるようになっている。
本実施形態では、表示制御部816は、輪郭検出部813による検出結果を表示部13に表示させるようになっている。
また、輪郭検出部813により信頼度の低い特徴点tと判断された部分がある場合には、表示制御部816は、当該部分(信頼度が低いとされた特徴点t、必要に応じてその周辺部分を含む)を他の部分と区別できるように表示させるように表示部13の表示を制御する。
本実施形態では、表示制御部816は、図6(e)及び図6(f)に示すように、爪Tの根元の生え際周辺の特徴点t9~t12(図6(e)参照)を拡大した画像と、爪Tの右側部周辺の特徴点t13~t16(図6(f)参照)を拡大した画像とを順次表示部13の表示画面に表示させる。
信頼度の低い特徴点tと判断された部分が複数ある場合には、より信頼度が低いと判断された部分から優先的に表示させてもよい。
また、図6(e)及び図6(f)では、複数の特徴点tをまとめて1画面に表示させている例を示したが、表示のさせ方は図示例に限定されず、例えば、分散の大きい特徴点tを1つずつ順次表示させてもよい。
なお、表示のさせ方は特に限定されない。例えば、拡大されている部分が画像全体のどの部分かを分かりやすくするため、図6(d)に示すような、拡大部分と検出対象(本実施形態では爪T)全体との位置関係が分かる画像を図6(e)や図6(f)とともに表示させてもよい。
また、信頼度の低い特徴点tと判断された部分を他の部分と区別できるように表示させる手法は、拡大表示に限定されない。
例えば、図6(d)に示すように、該当する部分を枠で囲って表示させてもよいし、該当する特徴点tの色を他の部分と変えて表示させてもよい。また、矢印やコメント等のアノテーションを該当する部分に重畳して表示させてもよい。
また、本実施形態のようにタッチパネル式入力部121が表示部13に設けられている場合には、図6(d)に示すように、該当する部分に枠を付した画面を表示させ、ユーザがこの枠部分をタッチパネル上でタッチ操作等すると、当該枠を付した部分の画像がズーム表示されるようにしてもよい。
また、ここに示した手法を複数組み合わせてもよいし、例示した以外の手法を用いてもよい。
次に、図7を参照しつつ、本実施形態における輪郭検出装置1による輪郭検出方法について説明する。
まず、図7に示すように、本実施形態における輪郭検出処理では、ユーザが指U1を指固定部3内に挿入し、検出対象である爪Tを爪載置部35によって位置決めした状態で処理開始のスイッチを操作すると、撮影制御部811が撮影部50を動作させて、爪載置部35によって位置決めされた状態の爪Tを撮影し、検出対象画像TIである爪画像を取得する(ステップS1)。
検出対象画像TIを取得すると、輪郭検出部813は、事前の学習によって所得され輪郭検出情報記憶領域822に記憶されている初期形状Tmの重心Tcが平均重心Tp(図4参照)又はその近傍にくるように初期形状Tmを配置する(ステップS2)。
次に、輪郭検出部813は、初期形状Tmと検出用画像TIに含まれる爪領域とのフィッティングを行うことにより、爪領域の輪郭形状を認識する(ステップS3)。
具体的には、初期形状Tmの個々の特徴点tを、正解位置である爪領域の輪郭に近づくように、識別器によって複数回変位させ、正解位置に向かって徐々に収束させていく。
輪郭検出部813は、所定回数の形状認識処理を完了したか否かを判断し(ステップS4)、所定回数に達していない場合(ステップS4;NO)には、初期位置の配置位置を変更して(ステップS5)、ステップS2からステップS4の処理を繰り返す。
他方、形状認識処理が所定回数に達した場合(ステップS4;YES)には、輪郭検出部813は、複数回分の認識結果について特徴点ごとに分散を算出する(ステップS6)。
さらに、輪郭検出部813は、複数回分の認識結果をマージする(ステップS7)。
そして、輪郭検出部813は、分散が所定値よりも大きい特徴点部分を検出の信頼度の低い部分と判断する(ステップS8)。
輪郭検出部813により検出の信頼度が低いとされる部分がある場合、表示制御部816は、当該信頼度が低いとされる部分、すなわち、マージ結果について分散が大きい特徴点部分(図6(d)では特徴点t9~t16)を表示部13に拡大表示させる(ステップS9、図6(e)及び図6(f)参照)。
なお、分散が所定値よりも大きい特徴点tがない場合には、拡大表示を行わずに処理を終了してもよい。この場合、表示部13にその旨のメッセージ等を表示させてもよい。また、所定の閾値を超えるものがない場合でも、分散の大きい特徴点tから順に表示部13に拡大表示させ、ユーザに確認を求めてもよい。
分散が大きい特徴点部分(図6(d)では特徴点t9~t16)が表示部13に拡大表示された場合、ユーザは、表示部13の拡大表示画面を確認し、検出結果の修正が必要と思われる部分があれば、タッチパネル式入力部121をペンや指先等でタッチ等することで実際の爪Tの輪郭からずれている特徴点tを適宜移動させ、所望の爪領域を画する輪郭となるように調整を行う。ユーザによる手動調整が行われた場合には、調整後の輪郭(輪郭を構成する特徴点t)が検出対象であるユーザの爪Tの輪郭として、輪郭情報記憶領域823に記憶される。
なお、表示部13の表示画面を確認した結果、正しく所望の爪領域を画する輪郭が検出できていると判断する場合には、ユーザは、操作部12の図示しないOKボタン等を操作することで輪郭検出部813により自動検出された輪郭(輪郭を構成する特徴点t)を最終的な検出結果としてもよく、この場合にはこの自動検出された輪郭(輪郭を構成する特徴点t)が検出対象であるユーザの爪Tの輪郭として、輪郭情報記憶領域823に記憶される。
以上のように、本実施形態によれば、検出対象である爪Tの輪郭の形状を認識する形状認識を複数回行って、検出対象画像TIから、爪Tの輪郭を検出する輪郭検出処理を行う輪郭検出部813が、複数回の形状認識における認識結果である輪郭を構成する特徴点tごとに分散を算出して、分散が所定値以上の特徴点tを信頼度の低い特徴点tと判断する。そして、輪郭検出部813により信頼度の低い特徴点tと判断された部分を他の部分と区別できるように表示部13に表示させる。
これにより、輪郭検出装置1による自動的な輪郭検出では正確に検出できていない可能性のある部分があった場合に、その部分を分かり易く示すことができる。
このため、ユーザに注意喚起を促すことができ、また、ユーザが自ら目視にて検出精度の低い部分を探す手間を掛けることなく、表示画面に拡大表示された領域の特徴点tを順次チェックし、修正の必要があれば適宜ユーザが検出結果を手動で修正、調整を行うことでより正しい輪郭形状を得ることができる。
また、検出精度が低い傾向が強いと思われる部分を拡大表示させることで、手動で修正、調整を行う場合にも、作業をしやすい。
また、本実施形態の輪郭検出部813は、初期位置に初期形状Tmを配置して、当該初期形状Tmと検出対象画像TIとをフィッティングさせることで輪郭の形状を認識するものであり、輪郭検出部813は、初期形状Tmを配置する初期位置を変えながら複数回の形状認識を行うようになっている。
初期形状Tmを配置する位置を変えながら形状認識を複数回行なった場合、検出の信頼度の高い部分では認識結果にばらつきが生じないのに対して、信頼度の低い部分では認識結果である特徴点tがばらつく。このため、特徴点tのうち分散の程度を見ることで、検出結果の信頼度を把握することができる。
さらに、本実施形態では、表示部13は、輪郭検出部813により信頼度の低い特徴点と判断された部分を拡大表示させる。
これにより、検出の信頼度が低くチェックが必要な部分が明確となり、自動検出結果にユーザが修正等を行う際、修正すべき箇所を容易に見つけることができる。
[第2の実施形態]
次に、図8から図10を参照しつつ、本発明に係る輪郭検出装置を爪にネイルデザインを描画する描画装置(以下、「ネイルプリント装置」という。)に適用した例を第2の実施形態として説明する。
なお、本実施形態では、輪郭検出装置の構成及び作用・効果は第1の実施形態で説明したものと同様であるため、以下においては、特に第1の実施形態と異なる点について説明する。
図8は、輪郭検出装置1が適用されたネイルプリント装置100の要部構成例を示した斜視図である。
なお、図8では図示を省略しているが、ネイルプリント装置100は、図8に示す内部構成が、例えば図1に示すような操作部12や表示部13等を備える筐体11内に収容されて構成されている。
図8に示すように、ネイルプリント装置100は、図1及び図3に示す構成の他、描画部40を備えている。
描画部40は、描画部本体である描画ヘッド41、ユニット支持部材42、ユニット支持部材42をX方向(図8等におけるX方向、ネイルプリント装置100の左右方向)に移動させるためのX方向移動ステージ45、X方向移動モータ46、ユニット支持部材42をY方向(図8等におけるY方向、ネイルプリント装置100の前後方向)に移動させるためのY方向移動ステージ47、Y方向移動モータ48等を備えて構成されている。
本実施形態の描画ヘッド41は、インクジェット方式で描画を行うインクジェットヘッドである。なお、描画ヘッド41はインクジェット方式で描画を行うものに限定されない。例えば、爪Tの表面に直接先端部を接触させて描画を行うペン等を備えて構成されていてもよい。
図8では、ユニット支持部材42に描画ヘッド41及び撮影部50が支持されている例を示しており、X方向移動モータ46とY方向移動モータ48等により、ユニット支持部材42に支持された描画ヘッド41及び撮影部50を移動させるヘッド移動部49(図9参照)が構成されている。
ヘッド移動部49を備えることにより、検出対象である爪を撮影する際には、指固定部3の上方に撮影部50が配置されるようにし、描画時には指固定部3の上方に描画ヘッド41が配置されるように、適宜移動させることができる。
描画部40における描画ヘッド41、X方向移動モータ46、Y方向移動モータ48は、後述する制御装置80の描画制御部815(図9参照)に接続され、該描画制御部815によって制御される。
図9は、本実施形態における制御構成を示す要部ブロック図である。
図9に示すように、制御装置80の制御部81は、輪郭検出装置1について図3に示した撮影制御部811の他に、輪郭検出部813を含む爪情報検出部812と、描画データ生成部814と、描画制御部815と、表示制御部816と、を備えている。
爪情報検出部812は、撮影装置51によって撮影された指固定部3に固定された印刷指U1の爪Tの画像に基づいて、印刷指U1の爪Tについての爪情報を検出するものである。
ここで、爪情報とは、輪郭検出部813により検出される爪Tの輪郭(爪形状、爪Tの水平位置のXY座標等)の他、例えば、爪Tの高さ(爪Tの垂直方向の位置、爪Tの垂直位置)、爪Tの表面の、XY平面に対する傾斜角度(爪Tの傾斜角度、爪曲率)等である。
描画データ生成部814は、爪情報検出部812により検出された爪情報に基づいて、描画ヘッド41により印刷指U1の爪Tに施される描画用のデータを生成する。
具体的には、描画データ生成部814は、爪情報検出部812により検出された爪Tの輪郭形状等に基づいてネイルデザインの画像データを拡大、縮小、切出し等することにより爪Tの形状に合わせ込む合せ込み処理を行う。
また、描画データ生成部814は、爪情報検出部812により検出された爪情報に応じて、適宜曲面補正等を行う。
これにより、描画ヘッド41によって描画されるネイルデザインの描画用データが生成される。
描画制御部815は、描画データ生成部814によって生成された描画用データに基づいて描画部40に制御信号を出力し、爪Tに対してこの描画用データにしたがった描画を施すように描画部40のX方向移動モータ46、Y方向移動モータ48、描画ヘッド41等を制御する制御部である。
また、記憶部82は、輪郭検出装置1について図3に示したものの他に、ネイルデザイン記憶領域824、爪画像記憶領域825、輪郭情報記憶領域823を含む爪情報記憶領域826等を備えている、
ネイルデザイン記憶領域824には、爪Tに描画されるネイルデザインの画像データが記憶されている。
爪画像記憶領域825には、撮影部50によって取得されたユーザの印刷指U1の爪Tの爪画像が記憶されている。
また、爪情報記憶領域826には、輪郭検出部813により検出される爪Tの輪郭(爪形状、爪Tの水平位置のXY座標等)が輪郭情報記憶領域823に記憶される他、爪情報検出部812によって検出された爪Tの高さ(爪Tの垂直方向の位置、爪Tの垂直位置)、爪Tの表面の、XY平面に対する傾斜角度(爪Tの傾斜角度、爪曲率)等が記憶されている。
なお、その他の構成は、第1の実施形態と同様であることから、同一部材には同一の符号を付して、その説明を省略する。
次に、図10を参照しつつ、本実施形態におけるネイルプリント装置100による描画処理について説明する。
本実施形態において、ネイルプリント装置100で爪Tへの描画を行う場合、ユーザは、装置電源を入れ、さらに描画開始ボタン等の操作部12を操作する。これにより、操作に応じた描画開始指示がネイルプリント装置100の制御装置80に入力される(ステップS21)。
描画開始指示が入力されると、表示制御部816は、ネイルデザインを選択させるネイルデザイン選択画面を表示部13に表示させ(ステップS22)、ユーザによる選択を促す。
ユーザが操作部12等から所望のネイルデザインを選択すると、当該選択指示に従って爪Tに描画すべきネイルデザインが選択される(ステップS23)。
ネイルデザインが選択されると、表示制御部816は、指固定部の所定位置に描画対象となる爪の指を配置するように指示する指示画面を表示部13に表示させ(ステップS24)、ユーザに爪T(及びその指U1)の固定を促す。
ユーザは指示に従って指U1を指固定部3に挿入し、爪Tの先を位置決め手段である爪載置部35に載置することで位置決め固定する。
そして、このように爪Tが爪載置部35により位置決めされた状態で、撮影制御部811が撮影部50を動作させて爪Tを撮影し(ステップS25)、検出対象としての爪Tの領域を含む検出対象画像である爪画像TIを取得する。
爪画像(検出対象画像)TIが取得されると、輪郭検出部813は、この画像内の爪領域の輪郭を検出する輪郭検出処理を行う(ステップS26)。なお、この輪郭検出処理の内容は、第1の実施形態の図7において説明したものと同様であるため、その説明を省略する。
また、爪情報検出部812は、爪画像(検出対象画像)TIから爪Tの高さ(爪Tの垂直方向の位置、爪Tの垂直位置)、爪Tの表面の、XY平面に対する傾斜角度(爪Tの傾斜角度、爪曲率)等を検出する。
爪Tの輪郭等の爪情報が検出されると、描画データ生成部814は、検出された爪Tの輪郭に、選択されたネイルデザインをフィッティングし、さらに適宜曲面補正等の補正を行って描画用データ(ネイルデザインの描画データ)を生成する(ステップS27)。
なお、ステップS26において検出された爪Tの輪郭について信頼度の低い箇所が表示部13に表示されたときは、ユーザは適宜特徴点tの移動等必要な修正を行う。そして、手動での修正が行われた場合には、修正後の輪郭(輪郭を構成する特徴点t)が爪Tの輪郭となり、描画データ生成部814は、修正後の輪郭に基づきネイルデザインのフィッティング等を行う。
そして、描画データ生成部814により描画用データが生成されると、描画制御部815は、描画部40に描画用データを出力するとともに、ヘッド移動部49を動作させて描画ヘッド41を適宜移動させながら描画用データに基づく描画処理を行わせる。これにより描画用データに基づくネイルデザインが爪Tに描画される(ステップS28)。
なお、その他の点については、第1の実施形態と同様であることから、その説明を省略する。
以上のように、本実施形態によれば、第1の実施形態と同様の効果を得られる他、以下の効果を得ることができる。
すなわち、本実施形態では、描画装置であるネイルプリント装置100が、第1の実施形態で示した輪郭検出装置1を備えている。
このため、爪Tという、指部分との境界等を検出することが難しい対象について、輪郭検出装置1による高精度の輪郭検出を行うことができる。
そして、輪郭検出処理の後、描画を行う前に、自動的な輪郭検出では信頼度を担保できない部分、検出精度が低いと思われる部分については、表示部13に拡大表示させてユーザに確認・修正を促すため、検出精度が低い部分をユーザ自らが目視で探す手間や時間を省くことができ、最小限の手間で精密に描画範囲となる爪領域を特定することができ、はみ出し等のない美しい仕上がりのネイルプリントを行うことができる。
なお、以上本発明の実施形態について説明したが、本発明は、かかる実施形態に限定されず、その要旨を逸脱しない範囲で、種々変形が可能であることは言うまでもない。
例えば、上記各実施形態では、輪郭検出部813がESRの手法を用いて初期形状Tmと検出対象の領域とのフィッティングを行う場合を例示したが、輪郭検出部813が初期形状Tmと検出対象の領域とのフィッティングを行う際に用いることのできるアルゴリズムはESRに限定されない。
例えば、Random Forestのような、複数の決定木構造を持った多クラス識別器を構築する学習アルゴリズムを適用してもよい。Random Forestは、学習サンプルをランダムサンプリングすることにより複数のサブセットを作成し、各サブセットごとに決定木を構築し、複数の決定木の結果を統合することで識別を行う。そこで、アルゴリズムとしてRandom Forestを用いる場合には、信頼度の低い特徴点部分に分散を生じるような認識結果を得るために、異なるサブセットによるトレーニング結果を使って複数回の形状認識を行う等により、複数回分の形状認識結果を得るようにする。
また、例えば、AAM(Active appearance model)、ASM(Active Shape model)ACM(Active Contour Model)等を輪郭検出部813が初期形状Tmと検出対象の領域とのフィッティングを行う際アルゴリズムとして用いることもでき、この場合には、本実施形態で示したESRを用いる場合と同様、初期形状Tmを配置する位置を変化させながら複数回分の形状認識結果を得るようにする。
また、本実施形態では、複数回分の認識結果を得る場合に、同じアルゴリズムを用い、初期形状Tmの配置位置等をずらすことで対応する例を示したが、例えば、異なるアルゴリズムを用いて、複数回分の認識結果を得てもよい。この場合にも、認識結果にばらつきが生じ、検出の信頼度の低い部分の特徴点tの分散が大きくなる。
また、上記各実施形態では、検出対象が爪Tである場合を例示したが、輪郭検出装置によって輪郭検出を行うことができる検出対象は爪Tに限定されない。
例えば、顔の輪郭や目・鼻・口等の顔のパーツの輪郭等を検出対象としてもよい。
この場合にも、図11(a)~図11(e)に示すような複数の形状認識結果を得る。
図11(a)~図11(e)では、眉毛の輪郭を示す特徴点として特徴点t21~t25が設定され、目の輪郭を示す特徴点として特徴点t31~t40が設定され、鼻の輪郭を示す特徴点として特徴点t51~t54が設定され、口の輪郭を示す特徴点として特徴点t61~t65が設定され、顎のラインの輪郭を示す特徴点として特徴点t71~t73が設定されている例を示している。
図11(f)は、図11(a)~図11(e)に示した複数回分の認識結果をマージしたマージ結果を示したものである。
図11(a)~図11(e)に示す例では、特徴点tのうち、顎のラインの輪郭を示す特徴点t71~t73の分散が大きい。そこでこの場合には、図11(g)に示すように、特徴点t71~t73及びこの周辺部分(すなわち、図11(f)において破線で囲んだ部分)を拡大した画像を表示部13の表示画面に表示させる。
これにより、例えば、似顔絵変換システム向けの顔パーツの輪郭認識結果の手直しの手間の軽減することができる。
また、爪Tや顔の輪郭や顔のパーツの輪郭検出以外にも、画像に含まれる何らかのオブジェクトについて輪郭を検出するものについては、広くこの輪郭検出装置を適用することができる。
例えば、カメラで撮影した人物や対象物(建物・乗り物等)を画像から切り抜いて他の画像に貼り付けたり、連写された対象物を画像から切り抜いて繋ぎ合わせ、動画のように構成する等、各種の加工を行う際にも各対象の輪郭を精密に検出する必要があるが、このように画像から特定のオブジェクトを切り抜く際にも、本輪郭検出装置を適用することにより、領域調整の手間を軽減することができる。
また、第2の実施形態では、描画装置が爪Tに描画を施すネイルプリント装置100である場合を例示したが、描画装置は、ネイルプリント装置100に限定されず、爪T以外のものに描画を施すものでもよい。描画対象が爪T以外である場合には、当該描画対象の領域を画する輪郭を検出するための輪郭検出装置が適用される。
また、輪郭検出装置1が爪Tの輪郭を検出するものである場合に、第2の実施形態では、爪Tの輪郭を検出した後、検出された輪郭内に描画を施す例を示したが、輪郭検出後の処理は描画処理に限定されない。例えば、自動的に爪Tの表面を整えるオート爪磨き、オートネイルケア等を後処理として行ってもよい。
また、検出対象が医療用の撮影装置で撮影された医療用画像に含まれる各種臓器等である場合には、輪郭検出を行った後の処理として、医師等による画像診断や患者への健康状況の情報提供等が行われてもよい。
以上本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
検出対象を撮影して検出対象画像を取得する撮影手段と、
前記検出対象の輪郭の形状を認識する形状認識を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出処理を行う輪郭検出手段と、
を備え、
前記輪郭検出手段は、複数回の前記形状認識における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識における分散を算出して、分散が設定された値以上の前記特徴点を信頼度の低い特徴点と判断する輪郭検出装置。
<請求項2>
前記輪郭検出手段は、初期位置に初期形状を配置して、当該初期形状と前記検出対象画像とをフィッティングさせることで前記輪郭の形状を認識するものであり、
前記輪郭検出手段は、前記初期形状を配置する前記初期位置を変えながら前記複数回の形状認識を行う請求項1に記載の輪郭検出装置。
<請求項3>
前記輪郭検出手段により信頼度の低い特徴点と判断された部分を識別できるように表示する表示手段を更に備えた請求項1又は請求項2に記載の輪郭検出装置。
<請求項4>
前記表示手段は、前記輪郭検出手段により信頼度の低い特徴点と判断された部分を拡大表示させる請求項3に記載の輪郭検出装置。
<請求項5>
請求項1から請求項4のいずれか一項に記載の輪郭検出装置と、
前記輪郭検出装置により検出された輪郭内に描画を施す描画部と、
を備える描画装置。
<請求項6>
検出対象を撮影して検出対象画像を取得する撮影工程と、
前記検出対象の輪郭の形状を認識する形状認識工程を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出工程と、
前記輪郭検出工程における検出結果を表示させる表示工程と、
を含み、
前記輪郭検出工程において、前記形状認識工程における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識工程における分散を算出して、分散が所定値以上の前記特徴点を信頼度の低い特徴点と判断する輪郭検出方法。
<請求項7>
輪郭検出装置のコンピュータに、
検出対象を撮影して検出対象画像を取得させる撮影機能と、
前記検出対象の輪郭の形状を認識する形状認識を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出機能と、
前記輪郭検出工程における検出結果を表示させる表示機能と、
を実現させ、
前記輪郭検出機能により、前記形状認識における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識における分散を算出して、分散が所定値以上の前記特徴点を信頼度の低い特徴点と判断する輪郭検出プログラム。
1 輪郭検出装置
40 描画部
41 描画ヘッド
50 撮影部
81 制御部
82 記憶部
83 学習データ生成部
812 爪情報検出部
813 輪郭検出部
816 描画制御部
100 ネイルプリント装置
T 爪
U1 指

Claims (9)

  1. 検出対象を撮影して検出対象画像を取得する撮影手段と、
    前記検出対象の輪郭の形状を認識する形状認識を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出処理を行う輪郭検出手段と、
    を備え、
    前記輪郭検出手段は、複数回の前記形状認識における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識における分散を導出して、分散が設定された値以上の前記特徴点を信頼度の低い特徴点と判断する輪郭検出装置。
  2. 前記輪郭検出手段は、初期位置に初期形状を配置して、当該初期形状と前記検出対象画像とをフィッティングさせることで前記輪郭の形状を認識するものであり、
    前記輪郭検出手段は、前記初期形状を配置する前記初期位置を変えながら前記複数回の形状認識を行う請求項1に記載の輪郭検出装置。
  3. 前記輪郭検出手段により信頼度の低い特徴点と判断された部分を識別できるように表示する表示手段を更に備えた請求項1又は請求項2に記載の輪郭検出装置。
  4. 前記表示手段は、前記輪郭検出手段により信頼度の低い特徴点と判断された部分を拡大表示させる請求項3に記載の輪郭検出装置。
  5. 請求項1から請求項4のいずれか一項に記載の輪郭検出装置と、
    前記輪郭検出装置により検出された輪郭内に描画を施す描画部と、
    を備える描画装置。
  6. 検出対象を撮影して検出対象画像を取得する撮影工程と、
    前記検出対象の輪郭の形状を認識する形状認識工程を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出工程と、
    前記輪郭検出工程における検出結果を表示させる表示工程と、
    を含み、
    前記輪郭検出工程において、前記形状認識工程における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識工程における分散を導出して、分散が所定値以上の前記特徴点を信頼度の低い特徴点と判断する輪郭検出方法。
  7. 輪郭検出装置のコンピュータに、
    検出対象を撮影して検出対象画像を取得させる撮影機能と、
    前記検出対象の輪郭の形状を認識する形状認識を複数回行って、前記検出対象画像から、前記検出対象の輪郭を検出する輪郭検出機能と、
    前記輪郭検出機能による前記輪郭の検出結果を表示させる表示機能と、
    を実現させ、
    前記輪郭検出機能により、前記形状認識における認識結果である前記輪郭を構成する特徴点について、それぞれ対応する特徴点ごとに、前記複数回の前記形状認識における分散を導出して、分散が所定値以上の前記特徴点を信頼度の低い特徴点と判断する輪郭検出プログラム。
  8. 検出対象を撮影して検出対象画像を取得する撮影手段と、
    前記検出対象画像における前記検出対象の輪郭の形状に沿って複数の特徴点を配置することにより前記輪郭の形状を検出する輪郭検出処理を複数回行う輪郭検出手段と、
    前記複数回の輪郭検出処理により前記輪郭の形状に沿って配置された前記複数の特徴点について、それぞれ対応する前記特徴点ごとに分散を導出し、導出された分散が所定の値以上である前記特徴点を信頼度の低い特徴点と判定する判定手段と、
    を備えた、輪郭検出装置。
  9. 1回の前記輪郭検出処理において前記輪郭の形状に沿って配置される前記複数の特徴点は、それぞれ互いに異なる識別情報を有しており、
    前記判定手段は、前記複数回の輪郭検出処理により前記輪郭の形状に沿って配置された前記複数の特徴点のうち、前記識別情報が共通する前記特徴点について分散を導出する、請求項8に記載の輪郭検出装置。
JP2017180795A 2017-09-21 2017-09-21 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム Active JP7035405B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017180795A JP7035405B2 (ja) 2017-09-21 2017-09-21 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
US16/053,554 US10384483B2 (en) 2017-09-21 2018-08-02 Contour detecting device, printing device, contour detecting method and storage medium
CN201811034749.2A CN109544573B (zh) 2017-09-21 2018-09-05 轮廓检测装置,印刷装置,轮廓检测方法以及记录介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017180795A JP7035405B2 (ja) 2017-09-21 2017-09-21 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム

Publications (2)

Publication Number Publication Date
JP2019057111A JP2019057111A (ja) 2019-04-11
JP7035405B2 true JP7035405B2 (ja) 2022-03-15

Family

ID=65719180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017180795A Active JP7035405B2 (ja) 2017-09-21 2017-09-21 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム

Country Status (3)

Country Link
US (1) US10384483B2 (ja)
JP (1) JP7035405B2 (ja)
CN (1) CN109544573B (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7039991B2 (ja) * 2017-12-22 2022-03-23 カシオ計算機株式会社 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
EP3888487A1 (en) * 2018-11-30 2021-10-06 Funai Electric Co., Ltd. Printer
US10939738B2 (en) * 2019-02-26 2021-03-09 Elementree Inc. Automatic nail polish application system and method
JP7342413B2 (ja) * 2019-04-22 2023-09-12 凸版印刷株式会社 爪3次元形状推定システム、爪3次元形状推定システムの利用方法、端末装置、爪3次元形状推定方法およびプログラム
AU2020373040A1 (en) 2019-10-29 2022-06-16 NailPro, Inc. Automated total nail care systems, devices and methods
JP7474580B2 (ja) * 2019-11-07 2024-04-25 エスアイアイ・プリンテック株式会社 予測システムおよび予測方法
JP2021108010A (ja) * 2019-12-27 2021-07-29 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、学習モデルの生成方法、およびプログラム
CN111142753A (zh) * 2019-12-27 2020-05-12 杭州依图医疗技术有限公司 交互方法、信息处理方法及存储介质
CN116080282A (zh) 2020-05-14 2023-05-09 卡西欧计算机株式会社 印刷装置、印刷方法以及记录介质
CN113160223A (zh) * 2021-05-17 2021-07-23 深圳中科飞测科技股份有限公司 轮廓的确定方法、确定装置、检测设备及存储介质
CN114092709B (zh) * 2021-11-23 2023-10-31 北京百度网讯科技有限公司 一种识别图像中目标轮廓的方法、装置、设备及存储介质
CN114998614B (zh) * 2022-08-08 2023-01-24 浪潮电子信息产业股份有限公司 一种图像处理方法、装置、设备及可读存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013039168A (ja) 2011-08-12 2013-02-28 Casio Computer Co Ltd ネイルプリント装置及び印刷制御方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1786980A (zh) * 2005-12-08 2006-06-14 上海交通大学 用二维轮廓进行人脸特征点新位置搜索的方法
US7672482B2 (en) * 2006-05-16 2010-03-02 Eastman Kodak Company Shape detection using coherent appearance modeling
JP2009059165A (ja) * 2007-08-31 2009-03-19 Hiroshima Univ 輪郭検出装置、それを用いた視線検出装置、偽の輪郭データの除去をコンピュータに実行させるためのプログラム、視線方向の検出をコンピュータに実行させるためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
CN102201061B (zh) * 2011-06-24 2012-10-31 常州锐驰电子科技有限公司 基于多阶层过滤人脸识别的智能安全监控系统及方法
CN102842033A (zh) * 2012-08-17 2012-12-26 苏州两江科技有限公司 基于人脸识别进行人物表情情感语义识别方法
CN102880877B (zh) * 2012-09-28 2015-07-15 中科院成都信息技术股份有限公司 一种基于轮廓特征的目标识别方法
US9208567B2 (en) * 2013-06-04 2015-12-08 Apple Inc. Object landmark detection in images
CN105740862A (zh) * 2014-10-27 2016-07-06 江苏慧眼数据科技股份有限公司 一种基于宏特征点描述的行人轮廓检测方法
JP6428415B2 (ja) * 2015-03-20 2018-11-28 カシオ計算機株式会社 描画装置及び爪形状検出方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013039168A (ja) 2011-08-12 2013-02-28 Casio Computer Co Ltd ネイルプリント装置及び印刷制御方法

Also Published As

Publication number Publication date
CN109544573A (zh) 2019-03-29
US10384483B2 (en) 2019-08-20
CN109544573B (zh) 2022-11-25
US20190084331A1 (en) 2019-03-21
JP2019057111A (ja) 2019-04-11

Similar Documents

Publication Publication Date Title
JP7035405B2 (ja) 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
JP7039991B2 (ja) 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
JP7047294B2 (ja) 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
US11170250B2 (en) Nail contour detecting device, nail contour detecting method and storage medium
US9603431B2 (en) Nail design device, nail printing apparatus, nail design method, and computer-readable recording medium storing nail design program
US9357825B2 (en) Nail printing device, print control method for nail printing device, and computer readable medium
US9733703B2 (en) System and method for on-axis eye gaze tracking
JP6915396B2 (ja) 描画システム、描画装置及び端末装置
US20170319065A1 (en) Information processing device, information processing method, and program
JP2019168954A (ja) 視線方向推定装置、視線方向推定方法、及び視線方向推定プログラム
JP5601103B2 (ja) ネイルプリント装置及び印刷制御方法
KR102045228B1 (ko) 신체 정보 분석 장치 및 얼굴형 모의 방법
JP7075237B2 (ja) 操作判定装置及び操作判定方法
GB2598016A (en) Biometric authentication apparatus and biometric authentication method
JP6540021B2 (ja) プリント装置、プリント装置の動作制御方法及びプリント装置の動作制御プログラム
US20190005306A1 (en) Electronic device, image processing method and non-transitory computer readable recording medium
JP2018128785A (ja) 生体認証装置、生体認証方法及び生体認証プログラム
JP6958336B2 (ja) 描画システム、描画装置及び端末装置
JP2014211795A (ja) 視線検出装置
JP2013192680A (ja) ネイルプリント装置及び印刷制御方法
JP7392696B2 (ja) 輪郭検出装置、印刷装置、輪郭検出方法及びプログラム
JP7009864B2 (ja) 輪郭検出装置及び輪郭検出方法
JP2015126369A (ja) 撮像装置
JP5299632B2 (ja) 個人認証装置、プログラム及び記録媒体
KR20190032156A (ko) 신체 정보 분석 장치 및 얼굴형 검측 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210921

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220214

R150 Certificate of patent or registration of utility model

Ref document number: 7035405

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150