JP6596979B2 - 描画装置及び描画装置の描画方法 - Google Patents

描画装置及び描画装置の描画方法 Download PDF

Info

Publication number
JP6596979B2
JP6596979B2 JP2015130630A JP2015130630A JP6596979B2 JP 6596979 B2 JP6596979 B2 JP 6596979B2 JP 2015130630 A JP2015130630 A JP 2015130630A JP 2015130630 A JP2015130630 A JP 2015130630A JP 6596979 B2 JP6596979 B2 JP 6596979B2
Authority
JP
Japan
Prior art keywords
nail
finger
contour
region
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015130630A
Other languages
English (en)
Other versions
JP2017012340A (ja
Inventor
義裕 手島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2015130630A priority Critical patent/JP6596979B2/ja
Priority to US15/189,820 priority patent/US9743740B2/en
Priority to CN201610511470.3A priority patent/CN106307967B/zh
Publication of JP2017012340A publication Critical patent/JP2017012340A/ja
Application granted granted Critical
Publication of JP6596979B2 publication Critical patent/JP6596979B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D34/00Containers or accessories specially adapted for handling liquid toiletry or cosmetic substances, e.g. perfumes
    • A45D34/04Appliances specially adapted for applying liquid, e.g. using roller or ball
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B41PRINTING; LINING MACHINES; TYPEWRITERS; STAMPS
    • B41JTYPEWRITERS; SELECTIVE PRINTING MECHANISMS, i.e. MECHANISMS PRINTING OTHERWISE THAN FROM A FORME; CORRECTION OF TYPOGRAPHICAL ERRORS
    • B41J3/00Typewriters or selective printing or marking mechanisms characterised by the purpose for which they are constructed
    • B41J3/407Typewriters or selective printing or marking mechanisms characterised by the purpose for which they are constructed for marking on special material
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D20/00Hair drying devices; Accessories therefor
    • A45D20/04Hot-air producers
    • A45D20/08Hot-air producers heated electrically
    • A45D20/10Hand-held drying devices, e.g. air douches
    • A45D20/12Details thereof or accessories therefor, e.g. nozzles, stands
    • A45D2020/126Stands therefor
    • A45D2020/128Stands therefor involving features of the hand-held hair dryer
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D29/00Manicuring or pedicuring implements
    • A45D2029/005Printing or stamping devices for applying images or ornaments to nails

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Ink Jet (AREA)
  • Coating Apparatus (AREA)

Description

本発明は、描画装置及び描画装置の描画方法に関するものである。
従来、人の指の爪に好みのネイルデザインを印刷するネイルプリント装置が知られている(例えば、特許文献1参照)。
このような装置を用いれば、ネイルサロン等を利用することなく、手軽にネイルプリントを楽しむことができる。
特表2003−534083号公報
しかしながら、複数色のインクを用いてネイルプリントを行う場合に、ある色インクで描画を行った後、塗布されたインクを乾燥させる工程を複数回繰り返して行うことがある。このような場合に、描画を行うごとに描画対象である爪の位置がずれる可能性がある。
ここで爪の位置がずれたまま補正をせずに描画を行うと、絵柄等の位置がずれたり色が重なって塗られてしまったりする等のおそれがあり、高精細なネイルプリントを行うことが難しいという問題があった。
本発明は以上のような事情に鑑みてなされたものであり、複数回に分けて爪に描画を施す場合に、一つの描画が終わって、次の描画を開始する間に爪の位置が移動してしまった場合でも、描画位置がずれることを防いで、高品質の描画を行うことができる描画装置及び描画装置の描画方法を提供することを目的とするものである。
前記課題を解決するために、本発明の描画装置は、
描画が施されていない爪を有する指を撮影して取得した第1の指画像における、前記指の領域を画する第1の指輪郭内の前記爪を除いた領域における特徴点と、前記爪に第1の描画が施された前記指を撮影して取得した第2の指画像における、前記指の領域を画する第2の指輪郭内における特徴点と、に基づいて、前記第1の指輪郭の位置を前記第2の指輪郭の位置に合せるように補正する位置合せ処理を行う位置合せ処理部と、
前記第2の指画像における前記爪の領域を画する第2の爪輪郭の位置を探索する爪輪郭探索部と、
前記位置合せ処理部によって補正された前記第1の指輪郭の前記位置に応じて、前記爪に第2の描画を施す描画部と、
を備え
前記爪輪郭探索部は、
前記第1の指画像における前記爪の領域を前記爪の延在方向における上部と下部とに分割し、
前記下部の領域については、前記第1の指画像における前記爪の領域を画する第1の爪輪郭との境界領域における前記第1の爪輪郭の内側領域を除く領域のテクスチャーに基づくテンプレートマッチングを行うことにより、前記第2の爪輪郭を探索し、
前記上部の領域については、前記第2の指画像において前記爪の領域と前記爪の背景となる領域とのエッジを検出することにより、前記第2の爪輪郭を探索することを特徴としている。
本発明によれば、複数回に分けて爪に描画を施す場合に、一つの描画が終わって、次の描画を開始する間に爪の位置が移動してしまった場合でも、描画位置がずれることを防いで、高品質の描画を行うことができる。
(a)は、本実施形態における描画装置の正面図であり、(b)は、(a)に示された描画装置の内部構成を示す側面図である。 図1におけるII-II断面図である。 (a)は、本実施形態における描画ヘッドの上面図であり、(b)は、本実施形態における描画ヘッドの側面図である。 本実施形態に係る描画装置の制御構成を示した要部ブロック図である。 (a)は、第1の指画像における特徴点の抽出対象領域を示した図であり、(b)は、第2の指画像における特徴点の抽出対象領域を示した図である。 本実施形態における描画処理の手順を示した説明図である。 本実施形態における描画処理の概略を示すフローチャートである。 本実施形態における爪輪郭の検出処理を示すフローチャートである。 (a)は、描画前の初期状態の爪を含む印刷指の平面図であり、(b)は、第1の描画後であって第2の描画前の爪を含む印刷指の平面図であり、(c)は、第2の描画後の爪を含む印刷指の平面図である。
図1から図9(図9(a)から図9(c))を参照しつつ、本発明に係るネイルプリント装置(描画装置)及びネイルプリント装置(描画装置)の描画方法の一実施形態について説明する。
なお、以下に述べる実施形態には、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
また、以下の実施形態では、ネイルプリント装置1は手の指の爪の表面を描画対象面として、これに描画するものとして説明するが、本発明の描画対象面は手の指の爪の表面に限るものではなく、例えば足の指の爪の表面を描画対象面としてもよい。
図1(a)は、ネイルプリント装置の内部構成を示すネイルプリント装置の正面図であり、図1(b)は、図1(a)に示されたネイルプリント装置の内部構成を示す側面図である。図2は、図1(a)におけるII-II線に沿う断面図である。
図1(a)及び図1(b)に示すように、本実施形態におけるネイルプリント装置1は、描画ヘッド43が描画用具であるペン41とインクジェット描画部71とを備え、プロッタ方式とインクジェット方式とを併用して印刷指U1の爪Tに描画を施す描画装置である。
このネイルプリント装置1は、ケース本体2と、このケース本体2に収容される装置本体10とを備えている。
ケース本体2の側面上部一端には、後述する描画部40のペン41及びインクジェット描画部71を交換するために開閉可能に構成された蓋部23が設けられている。蓋部23は、例えばヒンジ等を介して、図1に示すように閉状態から開状態まで回動自在となっている。
ケース本体2の上面(天板)には操作部25(図4参照)が設置されている。
操作部25は、ユーザが各種入力を行う入力部である。
操作部25には、例えば、ネイルプリント装置1の電源をONする電源スイッチ釦、動作を停止させる停止スイッチ釦、爪Tに描画するデザイン画像を選択するデザイン選択釦、描画開始を指示する描画開始釦等、各種の入力を行うための図示しない操作釦が配置されている。
また、ケース本体2の上面(天板)のほぼ中央部には表示部26が設置されている。
表示部26は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機エレクトロルミネッセンスディスプレイその他のフラットディスプレイ等で構成されている。
本実施形態において、この表示部26には、例えば、印刷指U1を撮影して得た指画像(爪Tの画像を含む印刷指U1の画像)、この指画像中に含まれる爪Tの輪郭等の画像、爪Tに描画すべきデザイン画像を選択するためのデザイン選択画面、デザイン確認用のサムネイル画像、各種の指示を表示させる指示画面等が適宜表示される。
なお、表示部26の表面に各種の入力を行うためのタッチパネルが一体的に構成されていてもよい。
装置本体10は、ほぼ箱状に形成され、ケース本体2の内部下方に設置された下部機枠11と、この下部機枠11の上方で且つケース本体2の内部上方に設置されている上部機枠12とを備えている。
まず、下部機枠11について説明する。
下部機枠11は、背面板111、底板112、左右一対の側板113a,113b、X方向移動ステージ収容部114、Y方向移動ステージ収容部115及び隔壁116を有する。
側板113a,113bの下端部は、底板112の左右両端部にそれぞれ連結され、側板113a,113bが底板112に対して立てられた状態に設けられている。
背面板111の下部は、前方(指挿入方向手前側)に向かって2段に窪むように形成されている。背面板111の下端部は底板112の前端部に連結されており、背面板111は、底板112と側板113a,113bによって囲われた領域を前後に区切っている。
この窪んだ背面板111の後ろ側に形成される空間がX方向移動ステージ収容部114、Y方向移動ステージ収容部115(図1(b)参照)となっている。X方向移動ステージ収容部114内には、描画部40が前方(指挿入方向手前側)に移動した際に描画部40のX方向移動ステージ45が収容される。また、Y方向移動ステージ収容部115内には、描画部40のY方向移動ステージ47が配置されている。
また、隔壁116は、下部機枠11の内部前方側の空間(背面板111、底板112及び側板113a,113bによって囲われた指挿入方向手前側の空間)を上下に区切るように下部機枠11の内側に設けられている。隔壁116はほぼ水平に設けられ、隔壁116の左右両端部が側板113a,113bにそれぞれ連結され、隔壁116の後端部が背面板111に連結されている。
この下部機枠11には、指固定部30(図1(b)参照)が一体的に設けられている。
指固定部30は、描画を施す爪Tに対応する指(以下、これを「印刷指U1」という。)を受け入れる指受入部31と、この印刷指U1以外の指(以下、これを「非印刷指U2」という。)を退避させる指退避部32と、から構成されている。
指受入部31は、隔壁116の上側であって下部機枠11の幅方向のほぼ中央部に配置されている。また、隔壁116によって下部機枠11の下側に区分けられた空間が指退避部32を構成している。
例えば、薬指の爪Tに描画を施す場合には、指受入部31に印刷指U1としての薬指を挿入し、非印刷指U2であるその他の4指(親指、人差し指、中指、小指)を指退避部32に挿入する。
図1(b)及び図2に示すように、指受入部31は、下部機枠11の前面側(印刷指挿入方向の手前側)に開口しており、下側が隔壁116の一部を構成する指載置部116a、両側が仕切り31a,31b、奥側が仕切り31cによって区画されている。指載置部116aは、描画を施す爪Tの指(印刷指U1)をXY平面上に載置するものである。
なお、本実施形態では、後述するように、指載置部116aを背景として印刷指U1の撮影が行われ、背景としての指載置部116aとの色や輝度の差等から印刷指U1の指領域の検出が行われるため、指載置部116aはできるだけ画像処理において印刷指U1と区別しやすい色であることが望ましく、例えば肌色の反対色である青色や黒色等とすることが好ましい。
また、指受入部31の上側は天井部31dによって区画されている。天井部31dには、指受入部31に挿入された印刷指U1の爪Tを露出させるための窓31eが形成されている。
また、隔壁116の上面であって下部機枠11の前面側の両側部には、下部機枠11の前面側を塞ぐ前壁31f(図1(a)参照)が立設されている。また、隔壁116の上面には、この前壁31fの中央部寄りの端部から前記指受入部31に向けて狭窄し、印刷指U1を指受入部31内に案内する一対のガイド壁31g(図1(a)参照)が立設されている。
ユーザは指受入部31に挿入した印刷指U1と指退避部32に挿入した非印刷指U2との間に隔壁116を挟むことができる。そのため、指受入部31内に挿入された印刷指U1が安定して固定される。
下部機枠11の上面であって、指受入部31の横(ケース本体2の媒体挿出口24に対応する位置であり、本実施形態では、図1(a)及び図2において左側)には、後述する描画ヘッド43による描画可能範囲内に、後述するペン41のペン先(先端部)413の書き出し時のかすれ等を無くすための慣らし書きを行う慣書部61が設けられている。
慣書部61は、平板状の部分であり、前述のケース本体2の媒体挿出口24から挿入された描画媒体61aが載置されるようになっている。
慣書部61に載置される描画媒体61aは、ペン先(先端部)413の慣らし書きを行うことができるものであればよく、例えば紙片である。
また、下部機枠11の上面であって、指受入部31の横(本実施形態では、図1(a)及び図2において右側)には、後述する描画ヘッド43の移動可能範囲内に、非描画時に、描画ヘッド43が待機するホームエリア60が設けられている。
ホームエリア60には、後述するペンホルダ42に対応する数(本実施形態では1つ)だけペンキャップ62が設置されている。
ホームエリア60内であってペン先413がペンキャップ62に収容されたときにインクジェット描画部71が配置される位置に対応する位置には、インクジェット保守部63が設けられている。インクジェット保守部63は、例えば後述するインクジェット描画部71のインク吐出部(ノズル面)をクリーニングするためのクリーニング機構やインク吐出部(ノズル面)の保湿状態を保つためのキャップ機構等(いずれも図示せず)で構成されている。
なお、ホームエリア内のペンキャップ62、インクジェット保守部63等の配置はここで例示したものに限定されない。
描画部40は、描画ヘッド43、描画ヘッド43を支持するユニット支持部材44、描画ヘッド43をX方向(図1(a)及び図2におけるX方向、描画装置1の左右方向)に移動させるためのX方向移動ステージ45、X方向移動モータ46、描画ヘッド43をY方向(図1(b)及び図2におけるY方向、描画装置1の前後方向)に移動させるためのY方向移動ステージ47、Y方向移動モータ48等を備えて構成されている。
図3(a)は、本実施形態における描画ヘッドの上面図であり、図3(b)は、描画ヘッドの側面図である。
図3(a)及び図3(b)に示すように、本実施形態の描画ヘッド43には、ペン41を保持するペンホルダ42とインクジェット描画部71を保持するインクジェットホルダ72とが隣り合って配置されている。
インクジェット描画部71は、例えば、イエロー(Y;YELLOW)、マゼンタ(M;MAGENTA)、シアン(C;CYAN)のインクに対応する図示しないインクカートリッジと各インクカートリッジにおける描画対象(爪T)に対向する面(本実施形態では、図1(a)等における下面)に設けられた図示しないインク吐出部とが一体に形成されたインクカートリッジ一体型のヘッドである。インク吐出部は、それぞれの色のインクを噴射する複数のノズルからなるノズルアレイを備えており、インクジェット描画部71は、インクを微滴化し、インク吐出部から描画対象(爪T)の被描画面に対して直接にインクを吹き付けて描画を行う。なお、インクジェット描画部71は、上記3色のインクを吐出させるものに限定されない。その他のインクを貯留するインクカートリッジ及びインク吐出部を備えていてもよい。
本実施形態のペンホルダ42には、1本のペン41が装着可能となっている。
ペン41は、爪Tの表面を描画対象面とし、先端部が描画対象面である爪Tの表面に接触して描画を施す筆記具である。
図3(b)等に示すように、ペン41は、棒状のペン軸部411の先端側(図3(b)において下側)にペン先413が設けられたものである。
ペン軸部411の内部は、各種インクを収容するインク収容部となっている。
ペン軸部411の内部に収容されるインクとしては、各種のインクが適用可能である。インクの粘度や色材の粒径(粒子の大きさ)等は特に限定されず、例えば、金銀のラメ入りのインクや白色のインク、UV硬化型のインクやジェルネイル、アンダーコート用インク、トップコート用インクやマニキュア液等も用いることができる。
本実施形態において、ペン41は、例えばペン先413を爪Tの表面に押し当てることでペン軸部411内に収容されているインクが染み出して描画する、ペン先413がボールペンタイプとなったペンである。
なお、ペン41は、ボールペンタイプのものに限定されない。例えばフェルト状のペン先にインクを染み込ませて描画するサインペンタイプや、束ねた毛にインクを染み込ませて描画する筆ペンタイプのもの等であってもよい。
また、ペン先413の太さも各種のものを用意することができる。
ペンホルダ42に保持されるペン41は、全て同じタイプのペン先413を有するペンでもよいし、異なるタイプのペン先413を有するペンであってもよい。
ペン41はペンホルダ42に上方から挿通するだけで保持されている。このため、ケース本体2に設けられている蓋部23を開けて、例えば手やピンセットでペン軸部411の上端部を摘み上げ引き出す等により、容易に交換が可能である。
これにより、ユーザは、ペンホルダ42に装着するペン41を、描画したいネイルデザインに応じて色やペン先413の種類やインクの種類の異なるペン41に適宜入れ替えることで、幅広いネイルデザインを実現することができる。
ペンホルダ42は、上下に開口し内部にペン41が挿通される筒状部材421と、筒状部材421の下側(図3(b)における下側)の開口を塞ぐように配置されたペン係止部材422と、ペン41とともに上下動する補助軸部材423とを備えている。
ペン係止部材422には、ペン41のペン軸部411における先端側を係止する係止孔422aが形成されている。ペン41は、ペン軸部411の先端側がペン係止部材422の係止孔422aに嵌め込まれることによってペンホルダ42内に係止される。なお、ペン軸部411の先端側の外周面に図示しないねじ溝を形成し、係止孔422aの内周面に軸部のねじ溝と螺合可能な図示しないねじ溝を形成し、係止孔422a側のねじ溝にペン軸部411側のねじ溝を螺着させることでペン41を係止孔422aに係止させてもよい。
本実施形態において、補助軸部材423はペン41を挟むように2本配置されている。各補助軸部材423の下端部はペン係止部材422に嵌め込まれており、これにより、補助軸部材423はペン41のペン軸部411と平行するように固定されている。
補助軸部材423には、ペン41の軸中心から離れる方向に突出する係止突起424が設けられている。
また、補助軸部材423の軸周りには、コイルバネ425が巻回されている。コイルバネ425は、外力が加わらない状態において補助軸部材423を上方向に付勢するものであり、非描画状態においてペン41の位置を、ペン先413が爪Tに当接しない位置に保持する。
ペンホルダ42の近傍には、ステッピングモータからなるペン上下用モータ426と、ペン上下用モータ426の回転軸に取り付けられた歯車427に歯合するギア428と、このギア428の回転に追従して回動する板バネ429とが設けられている。本実施形態では、これらペン上下用モータ426、歯車427、ギア428、板バネ429等によりペン41の昇降機構が構成されている。
ここで、板バネ429は、補助軸部材423に設けられた係止突起424に係合して、この係止突起424を押し下げることにより、ペン41を下方へと押し下げることができるようになっている。
すなわち、ペン上下用モータ426の回転に伴って板バネ429が回動して、板バネ429が係止突起424に係合し、係止突起424を下方へと押し下げると、ペン41はコイルバネ425の付勢力に抗して下方へと押し下げられる。
このように本実施形態では、板バネ429で直接ペン41を押し下げるのではなく、係止突起424を押し下げる構成とし、板バネ429がペン41の上方を覆わないため、ペン41の交換を容易に行うことができとともに、ペン41の昇降機構の高さを比較的低く抑え、省スペース化を図ることができる。
ここで、ペン41の昇降機構の動作について具体的に説明する。
まず、非描画時においては、係止突起424に対して板バネ429が外力を加えない状態となっている。このように外力(板バネ429による押圧力)が加わっていない状態では、ペン41は、コイルバネ425の付勢力により、上方向(図1(a)及び図3(b)において上方向)の位置に押し上げられ、ペン41の先端部であるペン先413は描画対象面である爪Tの表面から離れ、当該表面に当接しない高さに保持されている。
これに対して、描画時には、ペン上下用モータ426を所定のステップ数で回転させ、板バネ429によって係止突起424を押し下げる。これにより、ペン41が押し下げられる。
ペン上下用モータ426を駆動させる際の所定のステップ数は、指受入部31に挿入された印刷指U1の爪Tの高さ等に応じて適宜設定される。
すなわち、本実施形態のネイルプリント装置1では、後述の爪情報を事前に取得しておく。そして、当該爪情報に基づいて、ペン41の先端部であるペン先413が爪Tに当接する当接位置の爪Tの高さを認識し、その高さに応じてペン上下用モータ426のステップ数を決定する。こうして決定したステップ数でペン上下用モータ426を駆動させ、板バネ429によってペン41を押し下げることにより、ペン41のであるペン先413を爪Tの表面に近づけて接触させ、適正な筆圧を印加する。
なお、描画の際に、描画に伴って爪Tの高さが変化したときは、その都度ペン上下用モータ426のステップ数を増減してペン41の筆圧を調整し、筆圧が概ね一定になるように調整しながら描画を行う。ここで、ペン上下用モータ426のステップ数の増減による筆圧の調整は、爪Tの高さの変化が所定量(例えば、0.5mm)だけ変化する毎に行い、爪Tの高さの変化が所定量未満であるときには筆圧の調整を行わないが、このときには爪Tの形状に応じて板バネ429が撓み変形(弾性変形)することによって、ペン41が自動的に上下動するため、ペン41が爪Tに確実に当接すると同時に筆圧を適度な値に保つことができる。
なお、板バネ429のバネ定数はそれ程大きくなく、このバネ定数は、板バネ429による押圧力(外力)が爪Tにかかったときに爪Tに痛みなどを感じることがない程度の値に設定されている。また、描画を行う際には、板バネ429が適度に撓むことによりペン41の上下動による衝撃が吸収されるとともに、ペン先413に概ね一定の適度な筆圧がかかった状態を維持したままペン41が爪Tの高さに追従して上下動し、描画対象である爪Tの表面に所望のネイルデザインを綺麗に描画することができる。
また、ユニット支持部材44は、X方向移動ステージ45に取り付けられたX方向移動部451に固定されている。X方向移動部451は、X方向移動モータ46の駆動によりX方向移動ステージ45上を図示しないガイドに沿ってX方向に移動するようになっており、これにより、ユニット支持部材44に取り付けられている描画ヘッド43が、X方向(図1(a)におけるX方向、ネイルプリント装置1の左右方向)に移動するようになっている。
また、X方向移動ステージ45は、Y方向移動ステージ47のY方向移動部471に固定されている。Y方向移動部471は、Y方向移動モータ48の駆動によりY方向移動ステージ47上を図示しないガイドに沿ってY方向に移動するようになっており、これにより、ユニット支持部材44に取り付けられている描画ヘッド43が、Y方向(図1(b)におけるY方向、ネイルプリント装置1の前後方向)に移動するようになっている。
なお、本実施形態において、X方向移動ステージ45及びY方向移動ステージ47は、X方向移動モータ46、Y方向移動モータ48と、図示しないボールネジ及びガイドとを組み合わせることで構成されている。
本実施形態では、X方向移動モータ46及びY方向移動モータ48等により、ペン41を備える描画ヘッド43をX方向及びY方向に駆動するXY駆動部としてのヘッド移動部49が構成されている。
描画部40におけるペン上下用モータ426、インクジェット描画部71、X方向移動モータ46、Y方向移動モータ48は、後述する制御装置80の描画制御部815(図4参照)に接続され、該描画制御部815によって制御されるようになっている。
また、撮影部50は、撮像装置51と、照明装置52とを備えている。
この撮影部50は、指受入部31内に挿入されて窓31eから見える爪T(爪Tを含む印刷指U1)を照明装置52によって照明する。そして、撮像装置51によってその印刷指U1を撮影して、印刷指U1の画像である指画像(爪Tの爪画像を含む指の画像)を得るものである。
図1(a)及び図1(b)に示すように、本実施形態において、撮像装置51及び照明装置52は、上部機枠12に設けられている。
すなわち、上部機枠12には基板13が設置されており、撮影部50を構成する撮像装置51及び照明装置52は、この基板13の下面に、隔壁116に対向するように設けられている。
なお、基板13に取り付けられている撮像装置51及び照明装置52の位置は図示例に限定されない。
撮像装置51は、例えば、200万画素程度以上の画素を有する固体撮像素子とレンズ等を備えて構成された小型撮像装置である。
本実施形態では、撮像部50の撮像装置51によって、描画を施す前の初期状態の爪Tを含む印刷指U1を撮影した第1の指画像g1と、爪Tに第1の描画を施した後であってさらに第2の描画を施す前に爪Tを含む印刷指U1を撮影した第2の指画像g2とが取得される。
また、撮像装置51は爪Tに第1の描画を施した直後にも爪Tを含む印刷指U1を撮影し、これにより描画後の指画像が取得される。
そして、後述する輪郭検出部812、位置合せ処理部813及び爪輪郭探索部814は、これらの第1の指画像g1、第2の指画像g2及び描画後の指画像を用いて、第2の描画前に印刷指U1及び爪Tの輪郭を検出するようになっている。
照明装置52は、例えば白色LED等の照明装置である。
本実施形態では、撮像装置51の両側、手前側及び奥側に撮像装置51を囲むように4つの照明装置52が配置されている。照明装置52は、下方に向けて光を照射して、撮像装置51の下方の撮影範囲を照明する。
なお、照明装置52を設ける数や、その配置等は図示例に限定されない。
この撮影部50は、後述する制御装置80の撮影制御部811(図4参照)に接続され、該撮影制御部811によって制御されるようになっている。
なお、撮影部50によって撮影された画像(すなわち、第1の指画像g1、第2の指画像g2及び描画後の指画像)の画像データは、後述する記憶部82の爪画像記憶領域821に記憶される。
制御装置80は、例えば上部機枠12に配置された基板13等に設置されている。
図4は、本実施形態における制御構成を示す要部ブロック図である。
制御装置80は、図4に示すように、図示しないCPU(Central Processing Unit)により構成される制御部81と、ROM(Read Only Memory)及びRAM(Random Access Memory)等(いずれも図示せず)で構成される記憶部82とを備えるコンピュータである。
記憶部82には、ネイルプリント装置1を動作させるための各種プログラムや各種データ等が格納されている。
具体的には、記憶部82のROMには、印刷指U1の輪郭や爪Tの輪郭の検出を行うための輪郭検出プログラム、位置合せ処理を行うための位置合せ処理プログラム、爪Tの領域の探索を行うための爪輪郭探索プログラム、描画位置を補正するための描画位置補正プログラム、描画データを生成するための描画データ生成プログラム、描画処理を行うための描画プログラム等の各種プログラムが格納されており、これらのプログラムが制御装置80によって実行されることによって、ネイルプリント装置1の各部が統括制御されるようになっている。
また、本実施形態において記憶部82には、撮影部50によって取得されたユーザの印刷指U1の爪Tの指画像を記憶する爪画像記憶領域821、輪郭検出部812によって検出された爪情報(印刷指U1の輪郭や爪Tの輪郭等)が記憶される爪情報記憶領域822、及び爪Tに描画されるネイルデザインの画像データを記憶するネイルデザイン記憶領域823が設けられている。
制御部81は、機能的に見た場合、撮影制御部811、輪郭検出部812、位置合せ処理部813、爪輪郭探索部814、描画位置補正部815、描画データ生成部816、表示制御部817、描画制御部818等を備えている。これら撮影制御部811、輪郭検出部812、位置合せ処理部813、爪輪郭探索部814、描画位置補正部815、描画データ生成部816、表示制御部817、描画制御部818等としての機能は、制御部81のCPUと記憶部82のROMに記憶されたプログラムとの共働によって実現される。
撮影制御部811は、撮影部50の撮像装置51及び照明装置52を制御して撮像装置51により、指受入部31に挿入された印刷指U1の画像(爪Tの画像を含む印刷指U1の画像、以下「指画像」という。)を撮影させるものである。
本実施形態では、撮影制御部811は、ペン4やインクジェット描画部71により描画が施される前の初期状態の爪Tを含む印刷指U1を撮影した第1の指画像g1(図6(b)参照)と、爪Tに第1の描画を施した後であってさらに第2の描画を施す前に爪Tを含む印刷指U1を撮影した第2の指画像g2(図6(b)参照)を取得する。
また、撮像装置51は爪Tに第1の描画を施した直後にも爪Tを含む印刷指U1を撮影して描画後の指画像(図示せず)を取得する。
撮影部50により取得された指画像の画像データは、記憶部82の爪画像記憶領域821に記憶される。
なお、以下においては、撮影部50により取得された指画像(第1の指画像g1、第2の指画像g2)から印刷指U1や爪Tの輪郭等を爪情報として検出する場合について説明するが、指画像から検出される爪情報はこれに限定されず、例えば爪Tの曲率等も指画像に基づいて検出されてもよい。
輪郭検出部812は、撮影部50の撮像装置51によって取得された描画前の爪Tを含む印刷指U1の画像である第1の指画像g1から、印刷指U1の領域を画する第1の指輪郭f1と爪Tの領域を画する第1の爪輪郭n1とを検出する。
また、輪郭検出部812は、第1の描画を施した後であってさらに第2の描画を施す前に爪Tを含む印刷指U1を撮像装置51によって撮影することで取得された第2の指画像g2から印刷指U1の領域を画する第2の指輪郭f2を検出する。
本実施形態では、例えば、第1の描画としてペン41により下地(アンダーコート)が塗られた後、一旦爪Tを乾燥させ、時間をおいて第2の描画としてペン41やインクジェット描画部71により各種の絵柄等が描画される場合を想定している。
なお、本実施形態において、1つの爪Tに対して3回以上回数を分けて描画が行われる場合、2回目以降の描画は全て「第2の描画」とする。
輪郭検出部812による各検出手法は、例えば以下の通りである。
まず、輪郭検出部812による第1の指輪郭f1や第1の爪輪郭n1の検出(すなわち、描画前の初期状態の爪T及びこれを含む印刷指U1の輪郭の検出)は、例えば、AdaBoost(Adaptive Boosting)等の学習アルゴリズムを利用して行われる。
具体的には、装置製造段階において、予め一般的な人の指や爪の複数のサンプルを集めて装置側に記憶させ、輪郭検出部812が第1の指輪郭f1や第1の爪輪郭n1の検出を行う際には、これらのサンプルとのマッチング等を行う。これにより、比較的ノイズに左右されにくい検出を行うことができる。
なお、ユーザの指や爪Tを認識させ、これをサンプルに加える等、検出に用いるデータを事後的に更新可能としてもよい。この場合には、輪郭検出部812による第1の指輪郭f1や第1の爪輪郭n1の検出の精度をより高めたり、よりユーザの指や爪Tの形状に合った検出をするようにカスタマイズできたりする効果が期待できる。
なお、輪郭検出部812が第1の指輪郭f1や第1の爪輪郭n1を検出する手法は特に限定されず、ここに例示した以外の各種手法を用いることができる。
次に、輪郭検出部812による第2の指輪郭f2(すなわち、描画後の爪Tを含む印刷指U1の輪郭)の検出は、例えばグラフの最小切断(グラフカット)アルゴリズムを用いて行われる。
具体的には、第1の描画の直後に取得された描画後の指画像(図示せず)において、第1の指画像g1から検出された第1の指輪郭f1の内側領域に対応する部分の色分布を印刷指U1の色サンプルとして作成し、他方で背景となる指載置部116aの色を背景色のサンプルとして取得する。そして、両サンプル色からそれぞれヒストグラムを作成し、色の変化が大きい部分を印刷指U1と指載置部116aとの境界、すなわち第2の指輪郭f2として検出する。
なお、輪郭検出部812が第2の指輪郭f2を検出する手法は特に限定されず、ここに例示した以外の各種手法を用いることも可能である。
位置合せ処理部813は、輪郭検出部812によって検出された第1の指輪郭f1を、第2の指輪郭f2の位置に合せる位置合せ処理を行う。
具体的には、第1の指画像g1及び第2の指画像g2のそれぞれから位置合せのための特徴点を抽出する。
このとき、特徴点は、指(すなわち、爪T部分ではない皮膚の部分)に相当する領域のみから抽出する。
図5(a)は、第1の指画像g1における特徴点の抽出対象領域を示した図であり、図5(b)は、第2の指画像g2における特徴点の抽出対象領域を示した図である。
図5(a)に示すように、第1の指画像g1における特徴点の抽出対象領域は、第1の指輪郭f1として検出された印刷指U1の輪郭の内側領域から第1の爪輪郭n1として検出された爪Tの輪郭の内側領域を差し引いた領域e1(図5(a)において白抜きで示す領域)である。なお、図5(a)では、第1の爪輪郭n1のうち、指の皮膚部分と接している個所を破線で示している。
また、図5(b)に示すように、第2の指画像g2における特徴点の抽出対象領域は、第2の指輪郭f2として検出された印刷指U1の輪郭の内側領域e2(図5(b)において白抜きで示す領域)である。
なお、第2の指画像g2については、輪郭検出部812において爪輪郭の検出を行っていないため、爪T部分の特徴点も含まれているが、爪T部分の特徴点は第1の指画像g1における特徴点とのマッチングを行う際に排除されるため、事後の検出に影響はない。
第1の指画像g1及び第2の指画像g2についてそれぞれ特徴点が抽出されると、位置合せ処理部813は、抽出された特徴点を使って位置合せの変換行列を作成する。
具体的には、第1の指画像g1と第2の指画像g2から抽出した特徴点同士をマッチングし、対応した特徴点の組を使って、式1に示すような変換行列を作成する。
Figure 0006596979
なお、変換行列には、指の2次元での平行移動、2次元における回転、及び拡大・縮小の要素が含まれている。
ここでは、相似変換行列とし、位置合せ処理部813は、この変換行列により第1の指輪郭f1を第2の指輪郭f2の位置に合せる位置合せ処理を行う。
なお、位置合せ処理部813が位置合せ処理を行う手法は特に限定されず、ここに例示した以外の各種手法を用いることも可能である。
例えば、特徴点のマッチング数が少ない場合や、変換行列が作成できない場合には、位置合せ処理部813は、指領域マップを利用して位置合せ処理を行う。
マップによる位置合せ処理を行う場合には、例えば、位相情報によるパターンマッチングである位相限定相関法等を利用する。
爪輪郭探索部814は、位置合せ処理部813による位置合せ処理後の第1の指輪郭f1に対応させて第1の爪輪郭n1の座標を変換し、第2の指画像g2内から座標変換後の第1の爪輪郭n1に対応する第2の爪輪郭n2の探索を行う。
爪輪郭探索部814が第1の爪輪郭n1の座標を変換する手法は特に限定されないが、例えば、位置合せ処理部813によって作成された変換行列(上記式1参照)がある場合には、これを用いて第1の爪輪郭n1の座標を変換して位置合せ処理後の第1の指輪郭f1に対応した爪輪郭の座標を得る。
ここで、当該座標変換後の第1の爪輪郭n1は、第2の指画像g2に含まれる爪Tの爪輪郭n2とほぼ一致していると考えられる。
次に、爪輪郭探索部814は、爪Tの領域(すなわち、座標変換後の第1の爪輪郭n1の内側領域)を、爪Tの領域を爪Tの延在方向(図6(a)における縦方向)における上部(爪先端側)と下部(爪根元側)とに分割する。
図6(a)は、爪Tの領域の分割位置を示す説明図である。
図6(a)に示すように、本実施形態では、爪Tの上端部(すなわち、爪輪郭の座標のうち、最も爪の先端側にある部分)と爪Tの下端部(すなわち、爪輪郭の座標のうち、最も爪の根元側にある部分)との中間部分において分割する例を示す。
爪Tの下部領域については、爪輪郭探索部814は、位置合せ処理部813による位置合せ処理後の第1の指画像g1における座標変換後の第1の爪輪郭n1との境界部分について、指の皮膚部分のテクスチャーを用いたテンプレートマッチングを行うことにより、第2の爪輪郭n2を探索する。
図6(b)は、爪輪郭探索部814によるテンプレートマッチングのイメージを模式的に示す説明図である。
爪輪郭探索部814によるテンプレートマッチングでは、位置合せ処理後の第1の指画像g1の輝度画像において、第1の爪輪郭n1を構成する点のうち、爪Tの下部領域に属する点i(図6(a)において黒丸で示す。)の各座標を(x1, y1)〜(xn, yn)とし、図6(b)に示すように、各点iの周囲p×pの領域d1〜dn(図6(b)において実線四角で示す領域。)の指の皮膚部分のテクスチャーをテンプレートTiとする。爪輪郭探索部814は、第2の指画像g2の輝度画像において、座標(x1, y1)〜(xn, yn)の周辺w×wの領域(図6(b)において破線四角で示す領域。)内において点iに最も近い点を探索する。
なお、位置合せ処理後の第1の指画像g1において第1の爪輪郭n1を構成する点は、例えば爪Tの全周で例えば100個程度設定される。そして爪Tの下部領域に位置する点i(図6(a)において黒丸で示す。)は、このうちのほぼ1/2である例えば50個程度である。
なお、p×pの領域及びw×wの領域をそれぞれどの程度とするかは特に限定されず、画像のサイズ等に応じて適宜設定されるが、w×wの領域はp×pの領域の2倍程度の大きさであることが好ましい。
これに対して、爪Tの上部領域については、通常、指の皮膚部分が下部領域より比較的少なく、上記のテンプレートマッチングを行うことが難しいため、爪輪郭探索部814は、背景に対して爪Tのエッジを検出することにより第2の爪輪郭n2を探索する。
ここで背景とは、第2の指画像g2において爪Tを含む印刷指U1とともに撮影されている指載置部116aである。
前述のように、指載置部116aは、爪Tを含む印刷指U1とのコントラストを高めるために、肌色の反対色や黒色の部材で構成されている。爪輪郭探索部814は、指載置部116aと爪Tとの色の違いや輝度の違いを見ることにより、位置合せ処理後の第1の指画像g1において第1の爪輪郭n1を構成する点のうち爪Tの上部領域に属する点(図6(a)において白丸で示す。)において、輪郭に対する法線方向の範囲のうち、最もエッジ強度の高い場所を探す。これにより、爪輪郭探索部814は爪Tのエッジを検出してエッジ画像を作成する。
なお、爪Tが短く、爪Tが指の先端部分よりも内側にあるような場合には、指の皮膚部分が「背景」となり、爪輪郭探索部814は、指の皮膚部分に対して爪Tのエッジを検出する。
さらに、爪輪郭探索部814は、各手法によりそれぞれ探索した爪Tの下部領域及び爪Tの上部領域の輪郭を合せて、スムージング処理を行う。
このスムージング処理を行う手法は特に限定されないが、例えば、Snakes(Active Contour Model)等の手法による。Snakesは、エネルギー最小化原理に基づく手法であり、この手法を用いて得られる輪郭は、式2に示すようにエネルギー関数を最小化するような輪郭となる。
なお、式2において、Econt,iは隣接する輪郭点との距離、Ecurv,iは曲率、Eimage,iはエッジ強度に関する項とする。
Figure 0006596979
描画位置補正部815は、第1の爪輪郭n1と爪輪郭探索部814によって探索された第2の爪輪郭n2との位置ずれ量に基づいて、第2の描画時における描画位置を補正するための補正値を算出するものである。
描画位置補正部815により算出された補正値は、描画データ生成部816に送られ、描画データ生成部816は当該補正値によって画像データの補正を行う。
描画データ生成部816は、輪郭検出部812、爪輪郭探索部814により検出された爪Tの輪郭に基づいて、描画ヘッド43により印刷指U1の爪Tに施される描画用のデータを生成する。
また、描画データ生成部816は、爪Tの輪郭に応じて、ネイルデザインの画像データを爪Tの形状に合わせ込み、適宜曲面補正等を行う。
さらに、描画位置補正部815によって、描画位置について補正値が算出された場合には、当該補正値を画像データに反映させる。
これにより、ペン41やインクジェット描画部71によって描画されるネイルデザインの描画用のデータが生成される。
表示制御部817は、表示部26を制御して表示部26に各種の表示画面を表示させるものである。本実施形態では、表示制御部814は、例えばネイルデザインの選択画面やデザイン確認用のサムネイル画像、印刷指U1を撮影して取得した指画像、各種の指示画面、操作画面等を表示部26に表示させるようになっている。
描画制御部818は、描画データ生成部816によって生成された描画データに基づいて描画部40に制御信号を出力し、爪Tに対してこの描画データにしたがった描画を施すように描画部40のX方向移動モータ46、Y方向移動モータ48、ペン上下用モータ426、インクジェット描画部71等を制御する制御部である。
具体的には、描画制御部818は、ペン41の非描画時にはペン上下用モータ426を制御して、板バネ429により係止突起424が押し下げられない状態を維持し、描画時にはペン上下用モータ426を動作させて、板バネ429により係止突起424を押し下げ、ペン41の先端部(ペン先413)が爪Tの表面に当接するようにペン上下用モータ426の動作を制御する。
なお、爪Tの高さが大きく変化して板バネ429が撓み変形(弾性変形)するのみでは対応できない個所では、描画制御部815は適宜ペン上下用モータ426のステップ数を増減してペン41の筆圧を調整し、筆圧が概ね一定になるように調整することが好ましい。
次に、図7から図9を参照しつつ、本実施形態におけるネイルプリント装置1による描画方法について説明する。
なお、図7は本実施形態のネイルプリント装置1による描画処理の概略を示すフローチャートであり、図8は、本実施形態における爪輪郭の検出処理を示すフローチャートであり、図9(a)は、描画前の初期状態の爪Tを含む印刷指U1の平面図であり、図9(b)は、第1の描画後であって第2の描画前の爪Tを含む印刷指U1の平面図であり、図9(c)は、第2の描画後の爪Tを含む印刷指U1の平面図である。
このネイルプリント装置1により描画を行う場合、ユーザはまず、電源スイッチを入れて制御装置80を起動させる。
爪Tに描画するネイルデザインが選択され、印刷指U1が指受入部31にセットされると、図7に示すように、描画動作を開始する前に、まず撮影制御部811が撮影部50を制御して、照明装置52により印刷指U1を照明しながら撮像装置51により印刷指U1を撮影させる。これにより、撮影制御部811は、図9(a)に示すような、爪Tへの描画前の初期状態の印刷指U1の第1の指画像g1を取得する(ステップS1)。
その後、描画制御部818が描画部40を動作させて第1の描画が行われる(ステップS2)。これにより、例えば、図9(b)に示すように、爪Tの全体にインクが塗布された状態となる。
第1の描画が行われると、その直後に撮影制御部811が撮像装置51を動作させて印刷指U1を撮影させる。これにより、撮影制御部811は、爪Tに対して第1の描画が施された描画後の指画像を取得する(ステップS3)。
その後、爪Tに塗布されたインクの乾燥等が行われ(ステップS4)、さらに第2の描画が行われる前に、撮影制御部811は再度撮像装置51を動作させて印刷指U1を撮影させる。これにより、撮影制御部811は、爪Tに対して第1の描画が施され、第2の描画が施される前の印刷指U1の画像である第2の指画像g2を取得する(ステップS5)。
第2の指画像g2が取得されると、第2の描画が開始される前に、現状(すなわち、第2の描画が開始される直前)における爪Tの爪輪郭(第2の爪輪郭n2)の位置検出が行われる(ステップS6)。
ここで、図8を参照しつつ、第2の描画開始前における爪Tの爪輪郭の位置検出(ステップS6)について詳細に説明する。
図8に示すように、まず輪郭検出部812が、描画前の爪Tを含む印刷指U1の画像である第1の指画像g1から、第1の指輪郭f1と第1の爪輪郭n1とを検出する(ステップS11)。また、輪郭検出部812は、第2の指画像g2から第2の指輪郭f2を検出する(ステップS12)。
次に、位置合せ処理部813は、第1の指画像g1及び第2の指画像g2からそれぞれ位置合せのための特徴点を抽出する(ステップS13)。
第1の指画像g1及び第2の指画像g2についてそれぞれ特徴点が抽出されると、位置合せ処理部813は、抽出された特徴点を使って位置合せの変換行列の作成を試みる。そして、変換行列が作成できたか否かを判断し(ステップS14)、変換行列が作成できた場合(ステップS14;YES)には、当該変換行列を用いて第1の指輪郭f1を第2の指輪郭f2の位置に合せる位置合せ処理を行う(ステップS15)。
他方、変換行列が作成できなかった場合(ステップS14;NO)には、位置合せ処理部813は、指領域マップを利用して第1の指輪郭f1を第2の指輪郭f2の位置に合せる位置合せ処理を行う(ステップS16)。
位置合せ処理部813による位置合せ処理が完了すると、爪輪郭探索部814は、位置合せ処理後の第1の指輪郭f1に対応させて第1の爪輪郭n1の座標を変換する(ステップS17)。
次に、爪輪郭探索部814は、爪Tの領域(すなわち、座標変換後の第1の爪輪郭n1の内側領域)を、爪Tの領域を爪Tの延在方向における上部(爪先端側)と下部(爪根元側)とに分割する(ステップS18)。
そして、爪Tの下部領域については、爪輪郭探索部814は、位置合せ処理後の第1の指画像g1における座標変換後の第1の爪輪郭n1との境界部分についてテンプレートマッチングを行うことにより第2の爪輪郭n2を探索する(ステップS19)。
また、爪Tの上部領域については、爪輪郭探索部814は、背景に対して爪Tのエッジを検出することにより第2の爪輪郭n2を探索する(ステップS20)。
爪Tの下部領域及び爪Tの上部領域についてそれぞれ第2の爪輪郭n2が探索されると、爪輪郭探索部814は、さらに、爪Tの下部領域及び爪Tの上部領域の第2の爪輪郭n2を合せて、スムージング処理を行う(ステップS21)。
これにより、第2の描画が行われる直前の爪Tの位置(すなわち、第2の爪輪郭n2の位置)が検出される。
描画が行われる前の初期状態の爪Tの位置(すなわち、第1の爪輪郭n1の位置)と第2の描画が行われる直前の爪Tの位置(すなわち、第2の爪輪郭n2の位置)とにずれがある場合には、描画位置補正部815が補正値を算出する(ステップS7)。描画位置補正部815により算出された補正値は描画データ生成部816において第2の描画における描画データに反映される(ステップS8)。
そして描画位置補正後の描画データに基づいて描画制御部818が描画部40を動作させることにより、第2の描画が行われ、図9(c)に示すような絵柄が、爪T上に位置ずれすることなく描画される(ステップS9)。
以上のように、本実施形態によれば、描画前に第1の指画像g1を取得し、第1の描画を施した後、第2の描画を施す前に第2の指画像g2を取得して、第1の指画像g1から第1の指輪郭f1と第1の爪輪郭n1とを検出するとともに、第2の指画像g2から第2の指輪郭f2を検出する。そして、第1の指輪郭f1を第2の指輪郭f2の位置に合せる位置合せ処理を行い、位置合せ処理後の第1の指輪郭f1に対応させて第1の爪輪郭n1の座標を変換し、第2の指画像g2内から座標変換後の第1の爪輪郭n1に対応する第2の爪輪郭n2の探索を行う。
このように、複数回に分けて爪Tに描画を施す場合に、2回目以降の描画前に爪Tの爪輪郭の位置ずれの有無を判断するため、次の描画を行うまでの間に爪Tの位置が移動してしまった場合でも、描画位置のずれを防いで高品質の描画を行うことができる。
そして、第2の描画前に第2の爪輪郭n2を検出する際には、まず、指の輪郭によって爪Tのおよその位置を検出し、その後、爪Tの輪郭を精緻に探索する。これにより、爪Tの輪郭のみを探索するよりも効率よく爪Tの位置を検出することができる。
また、爪Tは、描画が施されると描画前の初期状態の爪Tとは色や輝度が異なってしまうため、単に第1の描画前後の爪Tを比較するのでは第1の描画後の爪Tの輪郭を検出することが難しい。この点、本実施形態では、少なくとも指の皮膚部分と接している爪Tの下部領域については、爪Tと隣接する指の皮膚部分のテクスチャーをマッチングさせることで爪Tの輪郭を探索する。このように、描画の前後で変化しない部分によって爪Tの輪郭を探索することにより、描画されたことにより爪Tの色や輝度が変化しても、爪Tの位置を正確に把握することができる。
そして、このようにして得た爪Tの輪郭に基づいて適宜描画位置の補正を行うため、複数回に分けて爪に描画を施す場合でも描画位置ずれのない高精細なネイルプリントを行うことができる。
なお、以上本発明の実施形態について説明したが、本発明は、かかる実施形態に限定されず、その要旨を逸脱しない範囲で、種々変形が可能であることは言うまでもない。
例えば、本実施形態では、爪輪郭探索部814が爪領域を分割する際の分割位置を、爪Tの上端部と爪Tの下端部との中間部分とする例を示したが、爪領域の分割位置はこれに限定されない。
爪Tの下部領域については、精度の高いテンプレートマッチングを行うため、下部領域に分類される部分が広いほど、マッチングの精度が向上する。このため、例えば、爪Tの上部と下部との割合は、4対6等、下部領域が上部領域よりも広くなるようにしてもよい。
また、下部領域について行われるテンプレートマッチングは爪Tに隣接する皮膚部分において行われるため、例えば爪Tが短く爪Tの外周のほとんどが皮膚部分で囲まれている場合には、爪領域のほとんどの部分を下部領域に分類してより広い範囲でテンプレートマッチングを行い、例えば爪Tが長く爪Tの下部のわずかな部分しか皮膚部分で囲まれている場合には、皮膚部分で囲まれていない部分ではテンプレートマッチングを行うことができないため、爪領域のほとんどの部分を上部領域に分類するというように、ユーザの指や爪の形状に応じて適宜爪領域の分割位置を変えるようにしてもよい。このようにすれば、よりユーザの爪に適した爪輪郭の探索を行うことができる。
また、本実施形態では、描画ヘッド43にペンホルダ42を1つ備えている場合を例示したが、描画ヘッド43に設けられるペンホルダ42の数は1つに限定されない。例えば2つ以上のペンホルダ42を備え、描画用のペン41が2本以上保持されていてもよい。
また、本実施形態では、ペンホルダ42に保持させるペン41を、ユーザが適宜手動で交換する場合を例示したが、例えば、ホームエリア60等にペン41を待機させておく待機スペースを設けて、図示しないペン交換機構により必要なペン41を自動的に待機スペース内から取得してペンホルダ42に差し替えるようにしてもよい。
また、本実施形態では、ネイルプリント装置1の天井部分等に撮像装置51及び照明装置52が固定配置されている場合を例示したが、撮像装置51や照明装置52を設ける位置はこれに限定されない。
例えば描画ヘッド43に撮像装置51や照明装置52を搭載し、ヘッド移動部49により移動可能に構成してもよい。この場合には、異なる角度から爪Tを撮影することができ、爪Tの曲率等を正確に取得することができるため、精度の高い曲面補正を行うことができる。なお、撮影部50をこのような構成とした場合でも、第1の指画像g1、第2の指画像g2及び描画後の指画像は全て同じ位置・同じ角度から撮影することが好ましい。
また、本実施形態では、指を1本ずつ装置に挿入して順次描画を行うネイルプリント装置1を例としたが、複数本の指に対して、各指を抜き差しすることなく、連続的に描画やインクの除去を行うことのできる装置に本発明を適用することも可能である。
例えば、ペンの稼動範囲を広げて描画可能範囲を大きくすることにより、複数の印刷指U1を同時に挿入した状態で、各指の爪に連続的に描画を施すことも可能となる。
以上本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
描画が施されていない爪を有する指を撮影して取得した第1の指画像における、前記指の領域を画する第1の指輪郭内の前記爪を除いた領域における特徴点と、前記爪に第1の描画が施された前記指を撮影して取得した第2の指画像における、前記指の領域を画する第2の指輪郭内における特徴点と、に基づいて、前記第1の指輪郭の位置を前記第2の指輪郭の位置に合せるように補正する位置合せ処理を行う位置合せ処理部と、
前記位置合せ処理部によって補正された前記第1の指輪郭の前記位置に応じて、前記爪に第2の描画を施す描画部と、
を備えていることを特徴とする描画装置。
<請求項2>
前記第1の指画像から前記第1の指輪郭と前記爪の領域を画する第1の爪輪郭とを検出し、前記第2の指画像から前記第2の指輪郭を検出する輪郭検出部を備えることを特徴とする請求項1に記載の描画装置。
<請求項3>
前記位置合せ処理部により補正された後の前記第1の指輪郭に対応させて、前記第1の爪輪郭の位置の位置を補正し、
前記補正後の前記第1の爪輪郭の前記位置に基づいて、前記第2の指画像における前記爪の輪郭を画する第2の爪輪郭の位置を探索する爪輪郭探索部を備えることを特徴とする請求項2に記載の描画装置。
<請求項4>
前記爪輪郭探索部は、
前記爪の領域を爪の延在方向における上部と下部とに分割し、
前記下部の領域については、前記第1の指画像における前記第1の爪輪郭との境界領域における前記第1の爪輪郭の内側領域を除く領域のテクスチャーに基づくテンプレートマッチングを行うことにより、前記第2の爪輪郭を探索し、
前記上部の領域については、前記第2の指画像において前記爪の領域と前記爪の背景となる領域とのエッジを検出することにより、前記第2の爪輪郭を探索することを特徴とする請求項3に記載の描画装置。
<請求項5>
前記爪輪郭探索部によって検出された前記第2の爪輪郭の位置に基づいて、前記描画部が前記爪に前記第2の描画を施す際の描画位置を補正するための補正値を算出する描画位置補正部を備えることを特徴とする請求項3又は請求項4に記載の描画装置。
<請求項6>
描画装置の描画方法であって、
描画が施されていない爪を有する指を撮影して取得した第1の指画像における、前記指の領域を画する第1の指輪郭内の前記爪を除いた領域における特徴点と、前記爪に第1の描画が施された前記指を撮影して取得した第2の指画像における、前記指の領域を画する第2の指輪郭内における特徴点と、に基づいて、前記第1の指輪郭の位置を前記第2の指輪郭の位置に合せるように補正する位置合せ処理を行う工程と、
前記位置合せ処理によって補正された前記第1の指輪郭の前記位置に応じて、前記爪に第2の描画を施す工程と、
を含むことを特徴とする描画装置の描画方法。
<請求項7>
前記第1の指画像から前記第1の指輪郭と前記爪の領域を画する第1の爪輪郭とを検出する工程と、
前記第2の指画像から前記第2の指輪郭を検出する工程と、
を含むことを特徴とする請求項6に記載の描画装置の描画方法。
<請求項8>
前記位置合せ処理により補正された後の前記第1の指輪郭に対応させて、前記第1の爪輪郭の位置を補正する工程と、
前記補正後の前記第1の爪輪郭の前記位置に基づいて、前記第2の指画像における前記爪の輪郭を画する第2の爪輪郭の位置を探索する工程と、
を含むことを特徴とする請求項7に記載の描画装置の描画方法。
<請求項9>
前記第2の爪輪郭の位置を探索する工程は、
前記爪の領域を爪の延在方向における上部と下部とに分割する工程と、
前記下部の領域については、前記第1の指画像における前記第1の爪輪郭との境界領域における前記第1の爪輪郭の内側領域を除く領域のテクスチャーに基づくテンプレートマッチングを行うことにより、前記第2の爪輪郭を探索する工程と、
前記上部の領域については、前記第2の指画像において前記爪の領域と前記爪の背景となる領域とのエッジを検出することにより、前記第2の爪輪郭を探索する工程と、
を含むことを特徴とする請求項8に記載の描画装置の描画方法。
<請求項10>
前記探索によって検出された前記第2の爪輪郭の位置に基づいて、前記爪に前記第2の描画を施す際の描画位置を補正するための補正値を算出する工程を含むことを特徴とする請求項8又は請求項9に記載の描画装置の描画方法。
1 ネイルプリント装置
40 描画部
41 ペン
50 撮影部
81 制御部
82 記憶部
426 ペン上下用モータ
812 輪郭検出部
813 位置合せ処理部
814 爪輪郭探索部
T 爪
U1 印刷指

Claims (8)

  1. 描画が施されていない爪を有する指を撮影して取得した第1の指画像における、前記指の領域を画する第1の指輪郭内の前記爪を除いた領域における特徴点と、前記爪に第1の描画が施された前記指を撮影して取得した第2の指画像における、前記指の領域を画する第2の指輪郭内における特徴点と、に基づいて、前記第1の指輪郭の位置を前記第2の指輪郭の位置に合せるように補正する位置合せ処理を行う位置合せ処理部と、
    前記第2の指画像における前記爪の領域を画する第2の爪輪郭の位置を探索する爪輪郭探索部と、
    前記位置合せ処理部によって補正された前記第1の指輪郭の前記位置に応じて、前記爪に第2の描画を施す描画部と、
    を備え
    前記爪輪郭探索部は、
    前記第1の指画像における前記爪の領域を前記爪の延在方向における上部と下部とに分割し、
    前記下部の領域については、前記第1の指画像における前記爪の領域を画する第1の爪輪郭との境界領域における前記第1の爪輪郭の内側領域を除く領域のテクスチャーに基づくテンプレートマッチングを行うことにより、前記第2の爪輪郭を探索し、
    前記上部の領域については、前記第2の指画像において前記爪の領域と前記爪の背景となる領域とのエッジを検出することにより、前記第2の爪輪郭を探索することを特徴とする描画装置。
  2. 前記第1の指画像から前記第1の指輪郭と前記第1の爪輪郭とを検出し、前記第2の指画像から前記第2の指輪郭を検出する輪郭検出部を備えることを特徴とする請求項1に記載の描画装置。
  3. 前記爪輪郭探索部は、
    前記位置合せ処理部により補正された後の前記第1の指輪郭に対応させて、前記第1の爪輪郭の位置の位置を補正し、
    前記補正後の前記第1の爪輪郭の前記位置に基づいて、前記第2の指画像における前記第2の爪輪郭の位置を探索することを特徴とする請求項2に記載の描画装置。
  4. 前記爪輪郭探索部によって検出された前記第2の爪輪郭の位置に基づいて、前記描画部が前記爪に前記第2の描画を施す際の描画位置を補正するための補正値を算出する描画位置補正部を備えることを特徴とする請求項1から請求項3のいずれか一項に記載の描画装置。
  5. 描画装置の描画方法であって、
    描画が施されていない爪を有する指を撮影して取得した第1の指画像における、前記指の領域を画する第1の指輪郭内の前記爪を除いた領域における特徴点と、前記爪に第1の描画が施された前記指を撮影して取得した第2の指画像における、前記指の領域を画する第2の指輪郭内における特徴点と、に基づいて、前記第1の指輪郭の位置を前記第2の指輪郭の位置に合せるように補正する位置合せ処理を行う工程と、
    前記第2の指画像における前記爪の領域を画する第2の爪輪郭の位置を探索する工程と、
    前記位置合せ処理によって補正された前記第1の指輪郭の前記位置に応じて、前記爪に第2の描画を施す工程と、
    を含み、
    前記第2の爪輪郭の位置を探索する工程は、
    前記第1の指画像における前記爪の領域を前記爪の延在方向における上部と下部とに分割する工程と、
    前記下部の領域については、前記第1の指画像における前記爪の領域を画する第1の爪輪郭との境界領域における前記第1の爪輪郭の内側領域を除く領域のテクスチャーに基づくテンプレートマッチングを行うことにより、前記第2の爪輪郭を探索する工程と、
    前記上部の領域については、前記第2の指画像において前記爪の領域と前記爪の背景となる領域とのエッジを検出することにより、前記第2の爪輪郭を探索する工程と、
    を含むことを特徴とする描画装置の描画方法。
  6. 前記第1の指画像から前記第1の指輪郭と前記第1の爪輪郭とを検出する工程と、
    前記第2の指画像から前記第2の指輪郭を検出する工程と、
    を含むことを特徴とする請求項5に記載の描画装置の描画方法。
  7. 前記位置合せ処理により補正された後の前記第1の指輪郭に対応させて、前記第1の爪輪郭の位置を補正する工程と、
    前記補正後の前記第1の爪輪郭の前記位置に基づいて、前記第2の指画像における前記第2の爪輪郭の位置を探索する工程と、
    を含むことを特徴とする請求項6に記載の描画装置の描画方法。
  8. 前記探索によって検出された前記第2の爪輪郭の位置に基づいて、前記爪に前記第2の描画を施す際の描画位置を補正するための補正値を算出する工程を含むことを特徴とする請求項5から請求項7のいずれか一項に記載の描画装置の描画方法。
JP2015130630A 2015-06-30 2015-06-30 描画装置及び描画装置の描画方法 Active JP6596979B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015130630A JP6596979B2 (ja) 2015-06-30 2015-06-30 描画装置及び描画装置の描画方法
US15/189,820 US9743740B2 (en) 2015-06-30 2016-06-22 Drawing apparatus and drawing method for drawing apparatus
CN201610511470.3A CN106307967B (zh) 2015-06-30 2016-06-30 绘图装置以及绘图装置的绘图方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015130630A JP6596979B2 (ja) 2015-06-30 2015-06-30 描画装置及び描画装置の描画方法

Publications (2)

Publication Number Publication Date
JP2017012340A JP2017012340A (ja) 2017-01-19
JP6596979B2 true JP6596979B2 (ja) 2019-10-30

Family

ID=57682730

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015130630A Active JP6596979B2 (ja) 2015-06-30 2015-06-30 描画装置及び描画装置の描画方法

Country Status (3)

Country Link
US (1) US9743740B2 (ja)
JP (1) JP6596979B2 (ja)
CN (1) CN106307967B (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9687059B2 (en) * 2013-08-23 2017-06-27 Preemadonna Inc. Nail decorating apparatus
US11265444B2 (en) * 2013-08-23 2022-03-01 Preemadonna Inc. Apparatus for applying coating to nails
CA3050861A1 (en) 2017-01-31 2018-08-09 Nailomatic Ltd. Brush integrated capsule with film-forming polymer for nail polishing
CA3051531A1 (en) * 2017-01-31 2018-08-09 Nailomatic Ltd. A nail polish kit for use by an automated nail polish application apparatus
JP7022299B2 (ja) * 2017-06-29 2022-02-18 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の制御方法
US10806231B2 (en) * 2017-07-18 2020-10-20 Casio Computer Co., Ltd. Drawing apparatus, drawing method, and recording medium storing program
WO2019070886A1 (en) 2017-10-04 2019-04-11 Preemadonna Inc. SYSTEMS AND METHODS FOR ADAPTIVE NAILS PRINTING AND COLLABORATIVE BEAUTY PLATFORM HOSTING
JP7039991B2 (ja) * 2017-12-22 2022-03-23 カシオ計算機株式会社 輪郭検出装置、描画装置、輪郭検出方法及び輪郭検出プログラム
WO2020049469A1 (en) * 2018-09-05 2020-03-12 Elitron Ipm S.R.L. A method for printing images on flat articles of various dimensions
CN109349774A (zh) * 2018-10-29 2019-02-19 徐悦 一种自动美甲方法和设备
CN109203729A (zh) * 2018-10-29 2019-01-15 徐悦 自动美甲设备
CN109532255B (zh) * 2018-12-28 2020-06-02 北京数科网维技术有限责任公司 打印机的打印控制平台
EP3914123B1 (en) 2019-01-22 2023-11-08 Nailomatic Ltd. Nail polish application and solidification apparatus
JP7111088B2 (ja) 2019-01-24 2022-08-02 カシオ計算機株式会社 画像検索装置、学習方法及びプログラム
EP3911201A4 (en) * 2019-02-26 2022-04-06 Elementree Inc. DEVICE AND METHOD FOR AUTOMATIC NAIL POLISH APPLICATION
CN109892791A (zh) * 2019-02-28 2019-06-18 秒针信息技术有限公司 目标操作的执行方法及装置、存储介质、电子装置
JP6973437B2 (ja) * 2019-03-25 2021-11-24 カシオ計算機株式会社 印刷装置、印刷方法及びプログラム
WO2021087161A1 (en) 2019-10-29 2021-05-06 NailPro, Inc. Automated total nail care systems, devices and methods
CN110754770A (zh) * 2019-10-29 2020-02-07 上海魅奈儿科技有限公司 一种美甲方法及美甲机
CN111311743B (zh) * 2020-03-27 2023-04-07 北京百度网讯科技有限公司 三维重建精度测试方法、测试装置和电子设备
GR20200100684A (el) * 2020-11-18 2022-06-08 Αθανασιος Δημητριου Κυριαζης Ψηφιακη συσκευη τοποθετησης ανω ή κατω ακρων για περιποιηση ή θεραπεια

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1156452A (ja) * 1997-08-18 1999-03-02 Jitsuto Seremonii:Kk インクジェットプリンタによるネイルアート方法及び装置
US6286517B1 (en) * 1998-12-22 2001-09-11 Pearl Technology Holdings, Llc Fingernail and toenail decoration using ink jets
JP5728885B2 (ja) * 2010-10-22 2015-06-03 カシオ計算機株式会社 ネイルプリント装置及び印刷制御方法
US8746820B2 (en) * 2010-11-04 2014-06-10 Casio Computer Co., Ltd. Nail print apparatus and print controlling method
JP5338848B2 (ja) * 2011-05-09 2013-11-13 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の印刷制御方法
JP5382078B2 (ja) * 2011-08-12 2014-01-08 カシオ計算機株式会社 ネイルプリント装置及び印刷制御方法
JP6186975B2 (ja) * 2012-09-06 2017-08-30 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の印刷制御方法
JP5915571B2 (ja) * 2013-03-14 2016-05-11 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の印刷方法
JP6268771B2 (ja) * 2013-07-05 2018-01-31 カシオ計算機株式会社 ネイルプリント装置、ネイルプリント装置の印刷方法及びプログラム
JP6167728B2 (ja) * 2013-07-26 2017-07-26 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の制御方法
JP6268827B2 (ja) * 2013-09-05 2018-01-31 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の印刷方法
JP6303413B2 (ja) * 2013-11-11 2018-04-04 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の印刷方法
JP6303434B2 (ja) * 2013-11-21 2018-04-04 カシオ計算機株式会社 ネイルプリント装置及びネイルプリント装置の印刷方法

Also Published As

Publication number Publication date
US9743740B2 (en) 2017-08-29
US20170000235A1 (en) 2017-01-05
JP2017012340A (ja) 2017-01-19
CN106307967A (zh) 2017-01-11
CN106307967B (zh) 2019-08-02

Similar Documents

Publication Publication Date Title
JP6596979B2 (ja) 描画装置及び描画装置の描画方法
JP6582611B2 (ja) 描画装置及び描画装置の描画方法
JP6493198B2 (ja) 描画装置及び描画装置の描画方法
US9642436B2 (en) Drawing device and method for detecting shape of nail in the same
JP6186975B2 (ja) ネイルプリント装置及びネイルプリント装置の印刷制御方法
US9526313B2 (en) Drawing apparatus and method for drawing with drawing apparatus
US9462869B2 (en) Drawing apparatus and control method of drawing apparatus
JP2017047044A (ja) 描画装置及び描画装置の描画方法
JP6769365B2 (ja) 描画装置及び描画方法
JP6859780B2 (ja) 描画装置、描画方法及びプログラム
JP2018000649A (ja) 描画装置及び描画装置の描画方法
JP7022299B2 (ja) ネイルプリント装置及びネイルプリント装置の制御方法
US9205672B1 (en) Drawing apparatus with a drawing head and a drawing tool and control method
JP2018000401A (ja) 指固定ユニット及び描画装置
CN106313905A (zh) 绘图装置以及绘图装置的绘图控制方法
JP2017176800A (ja) 描画装置及び描画装置の描画方法
JP2017055933A (ja) 爪形状検出装置及び描画装置、並びに爪形状検出方法
JP6825244B2 (ja) 描画装置及び描画装置の描画方法
JP6958336B2 (ja) 描画システム、描画装置及び端末装置
JP6733251B2 (ja) 描画装置及び描画装置の描画方法
JP6500529B2 (ja) 描画装置及び描画方法
JP6939957B2 (ja) 描画装置及び描画装置の描画方法
JP2017006351A (ja) 描画装置及び描画装置の描画方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180323

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190903

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190916

R150 Certificate of patent or registration of utility model

Ref document number: 6596979

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150