JP2007293649A - メークアップアシスト装置および眉毛描画アシスト装置 - Google Patents

メークアップアシスト装置および眉毛描画アシスト装置 Download PDF

Info

Publication number
JP2007293649A
JP2007293649A JP2006121514A JP2006121514A JP2007293649A JP 2007293649 A JP2007293649 A JP 2007293649A JP 2006121514 A JP2006121514 A JP 2006121514A JP 2006121514 A JP2006121514 A JP 2006121514A JP 2007293649 A JP2007293649 A JP 2007293649A
Authority
JP
Japan
Prior art keywords
template
eyebrow
image
assist device
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006121514A
Other languages
English (en)
Other versions
JP4793823B2 (ja
Inventor
Motoyasu Tanaka
基康 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MegaChips Corp
Original Assignee
MegaChips LSI Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MegaChips LSI Solutions Inc filed Critical MegaChips LSI Solutions Inc
Priority to JP2006121514A priority Critical patent/JP4793823B2/ja
Publication of JP2007293649A publication Critical patent/JP2007293649A/ja
Application granted granted Critical
Publication of JP4793823B2 publication Critical patent/JP4793823B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】豊富なバリエーションと自由度の高い操作性を有するメークアップアシスト装置を提供することを課題とする。
【解決手段】眉毛描画アシスト装置のメモリにはテンプレート画像データが格納されている。利用者は、テンプレート画像を切り替えて表示させることで、モデルやタレントの眉毛から好みのタイプのものを選択する。アシスト装置は撮像部を備え、利用者の顔映像をリアルタイムでディスプレイに表示させる。そして、利用者の顔映像にテンプレートの眉毛を合成表示させる。利用者が合成映像を見てテンプレートの決定を行うと、利用者の実際の眉毛領域とテンプレートの眉毛領域の差分領域が明示される。たとえば、眉毛を描画すべき領域が赤色に表示され、眉毛を剃る領域が青色で表示される。
【選択図】図7

Description

本発明は、眉毛書きなどのメークアップをアシストする装置に関する。
眉毛の色、形、位置によって人の表情は大きく変わる。女性の多くは、自分の顔に合った眉毛を整えるために、あるいは自分をより美しく見せるために、アイブローペンシルで眉毛を描画したり、眉毛の一部を剃ったりして眉毛の形や色を整えている。
しかし、眉毛を整える作業は非常に難しい作業である。鏡を覗きこんで、一人で眉毛を剃ったり描いたりする作業は、慣れている人でも簡単な作業ではない。そこで、このような作業をアシストするための技術が特許文献1や特許文献2で開示されている。
特許文献1は、理美容用鏡に関する発明である。この理美容用鏡には、顔、目、鼻、口、眉などの輪郭がエッチングされている。たとえば、エッチングされた口の形状を参考にしながら口紅を塗ることができる。特許文献2は、眉毛書き用のプレートに関するものである。このプレートには眉毛の形状が打ち抜かれており、また、目尻に対応する位置にガイドラインが記されている。利用者は、ガイドラインを参照して目尻の位置を合わせつつ、打ち抜かれた眉毛形状に沿って眉毛を描くことができる。
特開平8−140734号公報 特開平9−10034号公報
上記特許文献1や特許文献2で示したように、眉毛書きなどの化粧を行う作業をアシストするための器具が考えられている。しかし、これらの器具を利用する場合、あらかじめ用意された形状に合わせて眉毛や口紅を塗るため、自由度が低いという問題がある。眉毛の形や位置は微妙に変化するだけでも表情が大きく異なる。また、ある人にとっては美しく映る形状であっても、別の人に適用すると全く似合わないという場合もある。したがって、全てのユーザにぴったりとマッチする形状や位置が設定された器具を製作するということは困難である。様々な形状のものを用意するというのも現実的でない。
そこで、本発明は前記問題点に鑑み、豊富なバリエーションと自由度の高い操作性を有するメークアップアシスト装置を提供することを目的とする。
上記課題を解決するため、請求項1記載の発明は、顔を撮像する撮像手段と、メークアップの対象となる所定の要素についてテンプレートデータを蓄積する手段と、前記撮像手段より入力した顔画像に含まれる前記所定の要素の実領域と前記テンプレートデータより設定される前記所定の要素のテンプレート領域との差分領域を前記顔画像に合成して表示する合成表示手段と、を備えることを特徴とする。
請求項2記載の発明は、請求項1に記載のメークアップアシスト装置において、前記差分領域のうち、前記実領域であって前記テンプレート領域でない領域と、前記テンプレート領域であって前記実領域でない領域とは異なる態様で表示されることを特徴とする。
請求項3記載の発明は、請求項1または請求項2に記載のメークアップアシスト装置において、前記実領域には既にメークアップにより描画されている領域が含まれることを特徴とする。
請求項4記載の発明は、請求項1ないし請求項3のいずれかに記載のメークアップアシスト装置において、さらに、前記顔画像から前記所定の要素を消去した上で前記テンプレートデータより生成される前記所定の要素のテンプレート画像を前記顔画像に合成表示することでテンプレートの適用イメージを確認する手段、を備えることを特徴とする。
請求項5記載の発明は、請求項4に記載のメークアップアシスト装置において、さらに、前記顔画像に合成させている前記テンプレート画像の色、濃さ、形状、目元からの相対的位置のうちいずれか1つまたは複数を調整する調整手段、を備えることを特徴とする。
請求項6記載の発明は、請求項5に記載のメークアップアシスト装置において、前記合成表示手段は、前記調整手段により調整された前記テンプレート画像に対して前記テンプレート領域を決定し、決定されたテンプレート領域に対応して前記差分領域を合成表示することを特徴とする。
請求項7記載の発明は、請求項1ないし請求項6のいずれかに記載のメークアップアシスト装置において、前記合成表示手段は、表示する合成画像を拡大または縮小する機能を備えることを特徴とする。
請求項8記載の発明は、顔を撮像する撮像手段と、テンプレート眉毛データを蓄積する手段と、前記撮像手段より入力した顔画像に含まれる実眉毛領域と前記テンプレート眉毛データより設定されるテンプレート眉毛領域との差分領域を前記顔画像に合成して表示する合成表示手段と、を備えることを特徴とする。
請求項9記載の発明は、請求項8に記載の眉毛描画アシスト装置において、前記差分領域のうち、前記実眉毛領域であって前記テンプレート眉毛領域でない領域と、前記テンプレート眉毛領域であって前記実眉毛領域でない領域とは異なる態様で表示されることを特徴とする。
請求項10記載の発明は、請求項8または請求項9に記載の眉毛描画アシスト装置において、前記実眉毛領域には眉墨が描画された領域が含まれることを特徴とする。
請求項11記載の発明は、請求項8ないし請求項10のいずれかに記載の眉毛描画アシスト装置において、さらに、前記顔画像から眉毛を消去した上で前記テンプレート眉毛データより設定されるテンプレート眉毛画像を前記顔画像に合成して表示することでテンプレートの適用イメージを確認する手段、を備えることを特徴とする。
請求項12記載の発明は、請求項11に記載の眉毛描画アシスト装置において、さらに、前記顔画像に合成させている前記テンプレート眉毛画像の色、濃さ、形状、目元からの相対的位置のうちいずれか1つまたは複数を調整する調整手段、を備えることを特徴とする。
請求項13記載の発明は、請求項12に記載の眉毛描画アシスト装置において、前記合成表示手段は、前記調整手段により調整されたテンプレート眉毛画像に対して前記テンプレート眉毛領域を決定し、決定した前記テンプレート眉毛領域に対して前記差分領域を合成表示することを特徴とする。
請求項14記載の発明は、請求項8ないし請求項13のいずれかに記載の眉毛描画アシスト装置において、前記合成表示手段は、表示する合成画像を拡大または縮小する機能を備えることを特徴とする。
本発明のメークアップアシスト装置は、撮像手段より入力した顔画像に含まれる所定の要素の実領域とテンプレートデータより設定される所定の要素のテンプレート領域との差分領域を顔画像に合成して表示する。これにより、テンプレートにあわせて容易にメークアップすることが可能である。
また、テンプレートデータを多数用意すれば、多数のバリエーションのメークアップパターンを楽しむことが可能である。たとえば、お気に入りのモデルやタレントのテンプレートデータを用意すれば、モデルやタレントと同じメークを行うことが可能である。また、メーク作業をアシストするためのガイドプレートや補助器具を装着したり、携帯したりする必要がなく、使い勝手もよい。
本発明のメークアップアシスト装置は、また、実領域であってテンプレート領域でない領域と、テンプレート領域であって実領域でない領域とは異なる態様で表示される。これにより、描画すべき部分と削るべき部分とが明確になり、メーク作業を行い易い。
また、実領域には既にメークアップにより描画されている領域が含まれる。したがって、メーク作業を行うにつれて描画すべき領域の表示が変化するので、描画すべき部分が、より明確になり、メーク作業を行い易い。
また、撮影された顔画像から所定の要素を消去した上でテンプレートデータより生成される所定の要素のテンプレート画像を顔画像に合成表示する。これにより、たとえばモデルやタレントのメークアップを自分の顔に適用させた場合のイメージを確認することが可能である。
{装置構成および各処理部の概略}
以下、図面を参照しつつ本発明の実施の形態について説明する。図1は、本発明の実施の形態に係る眉毛描画アシスト装置1の正面図である。この眉毛描画アシスト装置1は、装置前面に撮像部11、液晶表示ディスプレイ12、操作部13を備えている。眉毛描画アシスト装置1は、液晶表示ディスプレイ12等が配置される装置本体部1Lと、装置本体部1Lの下端に連設された把持部1Mとから構成されている。装置本体部1Lは、正面視が略長方形状で薄型の形状をしており、その下端に丸みを帯びた細長形状の把持部1Mが連設されることで全体として手鏡のようなシルエットとなっている。
また、眉毛描画アシスト装置1は、メモリカードスロットを備えており、メモリカード2を装着することで、メモリカード2に格納されたデータやプログラムにアクセスすることが可能である。
利用者は、化粧品とともにこの眉毛描画アシスト装置1を携帯することで、外出先においても、美しい眉毛を描画することができるのである。したがって、眉毛描画アシスト装置1は、携帯可能な程度の小型の装置となっている。たとえば、液晶表示ディスプレイ12は、携帯電話機のディスプレイと同程度の表示面積を有するものを使用すればよい。もちろん、携帯電話機が備えるディスプレイよりも大きめのディスプレイで構成し、メークが行い易いようにしてもよい。
図2は、眉毛描画アシスト装置1のブロック図である。撮像部11は、光学部材、撮像素子、アナログ信号処理回路、A/D変換器などを備えている。撮像素子としては、CCDやCMOSが利用される。撮像部11から出力されたデジタルの画像信号は、画像解析部14、画像合成部15、テンプレート作成部17に出力される。
操作部13は、上下左右方向へ回動可能な操作部材から構成されている。利用者は、この操作部材を上下左右方向へ回動させることで、4種類(たとえば上下左右方向への移動)の操作指示を行うことが可能である。また、利用者は、この操作部材を後方に押下することで(つまり、装置の奥に向かって押し込む操作を行うことで)、所定の操作指示(たとえば決定操作)を行うことが可能である。
画像解析部14、画像合成部15、描画データ生成部16、テンプレート作成部17、テンプレート選択部18は、眉毛描画アシスト機能を実行するための処理部である。これら処理部は画像処理回路あるいはソフトウェアにより実現する機能である。つまり、眉毛描画アシスト装置1は、図示せぬ画像処理用LSI,CPU、RAMなどのハードウェアを備えており、眉毛描画アシストを実行するプログラムがこれらハードウェアを利用することで、各処理部14〜18として機能する。これらプログラムは、たとえば、メモリカード2に格納されて供給される。
画像解析部14は、撮像部11から入力した利用者の顔の画像を解析し、顔画像から目の位置を検出する。また、画像解析部14は、目の位置を基準として眉毛の領域を検出する。
画像合成部15は、撮像部11から入力した顔画像に描画データ(眉毛画像)を合成する。画像合成部15は、合成画像を液晶表示ディスプレイ12に出力する。また、画像合成部15は、合成画像を拡大・縮小する機能を備えている。したがって、液晶表示ディスプレイ12には、眉毛画像が合成された顔画像の一部を拡大して表示させることが可能である。
描画データ生成部16は、顔画像に合成する描画データ(眉毛画像)を生成する。描画データ生成部16は、メモリカード2に格納されているテンプレート設定データ21やテンプレート画像データ22に基づいて描画データを生成する。また、描画データ生成部16は、操作部13から入力された操作指示に従い顔画像に合成する描画データを生成する。
テンプレート作成部17は、テンプレート設定データ21あるいはテンプレート画像データ22を作成する。ここで、テンプレート設定データ21あるいはテンプレート画像データ22とは、様々なバリエーションの眉毛の情報が含まれるデータベースである。以下の説明において、適宜、テンプレート設定データ21およびテンプレート画像データ22を総称してテンプレートデータ20と呼ぶことにする。メモリカード2には、様々な種類のテンプレートデータ20が格納されている。各テンプレートデータ20により設定される眉毛は、色、濃さ、形状、目元からの相対位置が異なっている。したがって、利用者は、自分の顔に合ったテンプレートデータ20を選択することや、その日の気分に合ったテンプレートデータ20を選択することができる。テンプレート選択部18は、利用者の指示に従い、メモリカード2に格納されているテンプレートデータ20のいずれかを選択する。
ここで、テンプレート設定データ21は、眉毛の色、濃さ、形状、目元からの相対的位置を数値化したデータである。これに対してテンプレート画像データ22は、顔画像データである。描画データ生成部16は、テンプレート設定データ21に基づいて描画データ(眉毛画像)を生成する。また、テンプレート画像データ22については、テンプレート作成部17により一旦テンプレート設定データ21に変換された後、描画データ生成部16によって描画データ(眉毛画像)が生成される。
たとえば、利用者が何度も利用し、仕上がりイメージの確認が不要な場合には、テンプレート設定データ21を直接利用すると便利である。一方、利用者がテンプレート画像データ22を利用する場合には、そのテンプレートを使用するかどうかを決定する前に、眉毛のイメージを液晶表示ディスプレイ12に表示して確認することが可能である。
つまり、テンプレート画像データ22は、眉毛を含む顔全体の画像データであるので、液晶表示ディスプレイ12に表示させることで、眉毛のイメージを確認することができるのである。たとえば、テンプレート画像データ22として、モデルや女性タレントの顔画像データを記録しておけば、モデルや女性タレントの眉毛を参照し、好きなタイプのものを選択することが可能である。あるいは、自分でメークアップした眉毛が気に入ったときは、そのときの自分の顔を撮像し、テンプレート画像データ22として保存しておけばよい。
{テンプレート}
次に、テンプレートについて詳しく説明する。テンプレートデータ20の取得方法としては、コンテンツプロバイダから取得する方法と、自分で作成する方法とがある。コンテンツプロバイダから供給される場合には、メモリカード2にテンプレート設定データ21あるいはテンプレート画像データ22が格納されて供給される。あるいは、各テンプレートについてテンプレート設定データ21とテンプレート画像データ22の両方がセットで格納されて供給される。
たとえば、化粧品メーカがテンプレートデータ20の格納されたメモリカード2の販売を行う。あるいは、化粧品メーカは、アイブローペンシルなどの化粧品の販売を促進する目的で、テンプレートデータ20を無償で提供してもよい。また、化粧品メーカは、テンプレートデータ20とともにキャンペーン情報などをメモリカード2に格納して提供することもできる。
また、コンテンツプロバイダは、テンプレートデータ20をダウンロード可能に提供してもよい。眉毛描画アシスト装置1は、図2に示すように、通信処理部19を備えている。通信処理部19は、インターネットなどのネットワークに接続し、サーバとの間でデータの送受信などを行う。したがって、眉毛描画アシスト装置1は、たとえば化粧品メーカによって運営されているサーバからテンプレートデータ20をダウンロードしてメモリに格納することもできる。ダウンロード可能なテンプレートデータ20は、テンプレート設定データ21であってもよいし、テンプレート画像データ22であってもよい。また、各テンプレートについて両方のデータ21,22がセットでダウンロード可能であってもよい。
利用者がテンプレートデータ20を作成する方法には2通りの方法がある。1つの方法は、利用者自身の顔画像を撮像部11で撮像する方法である。この場合、テンプレート作成部17は、撮像部11が撮像した顔画像をテンプレート画像データ22としてメモリカード2に格納する。
もう1つの方法は、利用者自身が操作部13を操作して描画したデータからテンプレート設定データ21を作成する方法である。具体的には、撮像部11で撮像した利用者の顔画像を液晶表示ディスプレイ12に表示させている状態で、操作部13を操作して画面上の顔画像に重ねて眉毛を描画することが可能なユーザインタフェースが準備されている。そして、この描画されたデータをテンプレート設定データ21として保存するのである。
具体的には、撮像部11により撮像された利用者の顔画像に含まれる眉毛は、画像合成部15により消去される。したがって、液晶表示ディスプレイ12には、最初眉毛のない状態の利用者の顔が表示される。そして、利用者が操作部13を操作して眉毛を描く操作を行うと、この操作に応じて描画データ生成部16が描画データ(眉毛画像)を生成する。そして、画像合成部15が、眉毛が消去された撮影画像に描画データを合成して表示するのである。そして、眉毛の描画が終えたところで、利用者が終了指示を行うと、テンプレート作成部17が、描画データ生成部16が生成している描画データからテンプレート設定データ21を作成して、メモリカード2に格納するのである。
以上のように、コンテンツプロバイダから取得することにより、あるいは自分で作成することによりテンプレートデータ20が格納されたメモリカード2が眉毛描画アシスト装置1にセットされるのである。なお、本実施の形態においては、テンプレートデータ20を、着脱可能なメモリカード2に格納するようにしているが、テンプレートデータ20を内蔵メモリに格納する形態であってもよい。
{眉毛描画手順}
次に、眉毛描画の手順について説明する。眉毛描画手順は、
(第1ステップ)テンプレートの選択ステップ
(第2ステップ)テンプレート確認ステップ
(第3ステップ)メークアップステップ
の3つのステップからなる。
(第1ステップ)
第1ステップは、テンプレートの選択ステップである。上述したように、メモリカード2には、複数のテンプレートデータ20が格納されている。利用者は、この中から今から利用するテンプレートデータ20を選択するのである。利用者は、テンプレートを選択するために、図3に示すように、テンプレート画像データ22を切り替えつつ液晶表示ディスプレイ12に表示させる。
具体的には、利用者は、操作部13を操作してテンプレート選択メニューを表示させる。これにより、テンプレート選択部18は、液晶表示ディスプレイ12にテンプレートデータ20の一覧を表示させる。この中で利用者がいずれかのテンプレート画像データ22を選択すると、テンプレート選択部18は、選択されたテンプレート画像データ22を液晶表示ディスプレイ12に表示する。これにより、図3に示すように、モデルあるいは女性タレントの顔画像が表示されるのである。ここでは、テンプレートA〜テンプレートDの4つのテンプレートを次々に選択して表示させている様子を示している。また、利用者が過去にメークした自分自身の顔画像をテンプレート画像データ22として保存している場合には、図に示すように前回のメークとして表示させることも可能である。また、テンプレート選択部18は、液晶表示ディスプレイ12に表示させるテンプレート画像を拡大・縮小する機能を備えている。利用者は、操作部13を操作してテンプレート画像の拡大・縮小指示を行うことで、より鮮明にテンプレート画像を確認することができる。
次に、ユーザは、液晶表示ディスプレイ12に表示させたテンプレート画像データ22から好みの画像を選択する。つまり、これらからメークしたい眉毛、今の気分に合った眉毛を選択するのである。ここでは、図4に示すように、テンプレートBの画像が表示されているところで、利用者がテンプレート選択の決定操作を行ったものとする。
利用者がテンプレート画像データ22を選択すると、テンプレート作成部17が、選択されたテンプレート画像データ22に含まれる顔画像を解析する。まず、目の位置を検出し、次に、目の位置を基準として眉毛領域を検出する。そして、テンプレート画像データ22に含まれる眉毛の色、濃さ、形状、目元からの相対位置のデータを取得し、テンプレート設定データ21を作成する。このテンプレート作成データ21は、一時的にメモリカード2に格納される(今後生成処理を省略できるように保存してもよいが)。このようにして、選択したテンプレート画像データ22に対するテンプレート設定データ21が作成されると、次の第2ステップに移行する。
ここで、テンプレート画像データ22に含まれるモデルやタレントの顔画像が真正面を向いた画像でない場合、たとえば少し斜めを向いた画像である場合などには、瞳間の距離、瞳を結ぶ直線の傾きなどから、作成するテンプレート設定データ21のデータを補正するようにすればよい。あるいは、三角法により斜めからの映像についても正規投影の画像に補正した後、瞳間の距離から大きさを調整してテンプレート設定データ21を作成するようにすればよい。
また、テンプレート画像データ22からテンプレート設定データ21を作成する場合、右あるいは左の一方の眉毛から、眉毛の色、濃さ、形状、目元からの相対位置のデータを取得し、このデータから左右対称の眉毛のデータを作成するようにしてもよい。これにより、左右対称の眉毛データが設定されたテンプレート設定データ21を作成することができる。
なお、利用者が使用したいテンプレートデータ20としてテンプレート設定データ21のみがメモリカード2に格納されている場合、つまり、テンプレート画像データ22が存在しない場合には、直接テンプレート設定データ21を選択する。この場合には、第1ステップをスキップして第2ステップから開始する。あるいは、テンプレート画像データ22が存在している場合であっても、確認が不要な場合には、利用者は第2ステップから操作を開始してもよい。
(第2ステップ)
第1ステップにおいて使用するテンプレート設定データ21が決定すると、図5(a)に示すように、液晶表示ディスプレイ12の表示が自分自身の現在の映像に切り替えられる。つまり、撮像部11から出力される画像信号が画像合成部15に入力され、画像合成部15は、利用者の顔画像をそのまま液晶表示ディスプレイ12に表示させる。この利用者の顔画像はリアルタイム表示される。つまり、液晶表示ディスプレイ12には、利用者の顔画像が動画として表示される。
次に、画像解析部14が、撮像部11から出力される顔画像を解析し、目の位置を検出する。さらに、目の位置を基準として眉毛領域を検出する。画像合成部15は、画像解析部14から眉毛領域の情報を入力すると、図5(b)に示すように眉毛を消去する。つまり、眉毛の色を周囲の肌の色で置き換えるのである。
続いて、描画データ生成部16が、テンプレート設定データ21に基づいて合成する描画データ(眉毛画像)を生成すると、画像合成部15が、眉毛を消去している利用者の顔画像に、テンプレート設定データ21から生成された描画データを合成する。そして、描画データが合成された顔画像が図5(c)に示すように液晶表示ディスプレイ12に表示されるのである。
つまり、図5(c)は、現在の自分のリアルタイムの映像に、選択したテンプレートBの眉毛が合成されている映像である。自分の顔画像はリアルタイムで画像解析部14において解析され、目の位置や眉毛の位置が検出され、その目の位置に基づいてテンプレートBの眉毛が合成される。したがって、自分の顔画像の動きに追随するように合成眉毛も移動する。もし、利用者の顔が撮像部11から離れたり近づいたりした場合、あるいは角度が変化した場合、利用者の撮像画像の大きさや角度も変化するが、この変化に伴って目の間の距離や座標が変化する。画像合成部15は、利用者の撮像画像から目の位置を検出し、その検出結果にしたがって描画データを合成しているので、テンプレートの眉毛がずれることなく合成表示される。
ここで、利用者は、操作部13を操作して、合成している眉毛画像を微調整することができる。たとえば、上下左右に眉毛を移動させたり、あるいは、中心点を指定した上で眉毛を回転させたりすることもできる。また、眉毛の形状を拡大、縮小させたり、眉毛の形状自体を変形させたりすることもできる。また、眉毛の色や濃さについても変更することで、イメージを確認することもできる。利用者が眉毛画像を微調整した後、調整完了の指示を行うと、この調整結果がテンプレート設定データ21に反映される。上述したように、画像合成部15は、表示する合成画像を拡大・縮小する機能を備えている。したがって、利用者は、合成画像を拡大させて、眉毛部分を詳細に参照しながら微調整を行うことができる。
このようにして、自分自身の映像に選択したテンプレートの眉毛を合成することで、選択したテンプレートで問題ないかどうかの確認を行うことができる。もし、合成された映像を見てイメージが異なれば、再び第1ステップに戻り別のテンプレートデータ20を選択する。もし、選択しているテンプレートデータ20が気に入ったのであれば、決定操作を行い、第3ステップに移行する。
(第3ステップ)
第2ステップで使用するテンプレートが決定されると、画像合成部15は、現在の利用者の顔画像に含まれる眉毛領域と、テンプレートから生成されている眉毛領域の差分領域を表示する。図6は、利用者の顔画像の映像に眉毛領域の差分領域が表示された状態を示す図である。この差分領域は、利用者が眉毛をアイブローペンシルなどで描画すべき領域と、剃刀で削る領域とを指定したものである。なお、第2ステップで利用者がテンプレートを微調整している場合には、微調整が反映されたテンプレートに対して差分領域が表示される。
図7は、図6で示した顔画像の右眉毛部分の拡大図である。図の黒色に塗られた領域31は、アイブローペンシルで描画する必要のある領域である。つまり、テンプレート設定データ21より生成された眉毛画像の領域であって、利用者の実際(現在)の眉毛領域ではない領域である。そして、図の斜線でハッチングされた領域32は、剃刀で削る必要のある領域である。つまり、利用者の実際(現在)の眉毛領域であって、テンプレート設定データ21より生成された眉毛画像の領域ではない領域である。ここでは、領域31と領域32を黒色と斜線ハッチングで示しているが、実際には、領域31が赤色、領域32が青色など、分かり易い色で表示される。また、図において白抜きの領域は、利用者の実際(現在)の眉毛領域であり、かつ、テンプレートの眉毛領域でもあり、特に何もする必要のない領域である。この領域についても、黄色など分かり易い色で表示させるとよい。
利用者は、液晶表示ディスプレイ12に表示され領域31、領域32を見ながらメークを行うのである。つまり、領域31で表示されている部分にアイブローペンシルなどを利用して眉書きを行い、領域32で表示される領域の眉毛を削るのである。そして、画像解析部14および画像合成部15は、リアルタイムで上記の合成処理を実行しているので、利用者が領域31に対して眉を書く作業を行うと、それに従って領域31の表示が消えていくのである。つまり、利用者は、領域31を消すようなイメージで眉書きの作業を行えばよいのである。これは、利用者が眉を描けば、この描かれた眉(眉墨が塗られた領域)も利用者の実際(現在)の眉として認識されるので、領域31と見なされなくなるからである。同様に、利用者は、領域32を消すようなイメージで眉を削る作業を行えばよいのである。
また、テンプレート設定データ21には、眉毛の色や濃さのデータも含まれている。したがって、利用者が描画した眉毛の色や濃さがテンプレートと異なる場合には、注意メッセージが表示される。これにより、利用者は、色や濃さについても、テンプレートに近づくようにメークすることができるのである。そして、利用者がメーク作業を行い、利用者の眉毛がテンプレートと一致すれば、その時点で領域31、32の表示が消え、終了メッセージが表示されるのである。上述したように、画像合成部15は、表示する合成画像を拡大・縮小する機能を備えている。したがって、利用者は、合成画像を拡大させて、眉毛部分を詳細に参照しながらメーク作業を行うことができる。
このように、本実施の形態の眉毛描画アシスト装置1を利用することで、利用者は、モデルや女性タレントなどのお気に入りの眉毛とそっくりのメークアップを行うことが可能である。あるいは、過去に自分でメークしたときの状態や、メークアップアーティストにメークしてもらった状態をテンプレート画像データ22として保存しておけば、そのときと同じ眉毛を描画することが可能である。
ガイドプレートなどの器具を利用する場合と異なり、本実施の形態においては、テンプレートのデータを利用して眉書き作業をアシストするので、多数のテンプレートデータ20を保有することができ、実質的には無制限にバリエーションを楽しむことが可能である。また、メーク作業をアシストするためのガイドプレートや補助器具を装着したり、携帯したりする必要がなく、使い勝手もよい。
{変形例}
上記のように、眉毛描画アシスト装置1は持ち運び可能な携帯タイプの装置である。したがって、乗り物の中においても眉毛描画アシスト装置1を利用してメークをすることが可能である。そこで、この眉毛描画アシスト装置1に手振れ補正機能を搭載するようにしてもよい。たとえば、電車の中に乗っている場合、電車の揺れに伴い顔画像が小刻みに揺れるとメーク作業が行い難い。そこで、手振れ補正機能を搭載することで、小さな振動、揺れに対しては画像がぶれないように補正すると便利である。
本実施の形態においては、図1等で示したように、眉毛描画アシスト装置1として、手鏡形状の専用の装置を例に説明した。もちろん、これは一例であり、装置の形状は自由である。たとえば、コンパクト型の装置とすれば乗り物の中で使う場合にもお洒落である。また、このように専用の装置を利用する他、眉毛描画アシスト装置1として携帯電話機を利用することも可能である。図8は、眉毛描画アシスト装置1Aとして機能する携帯電話機を示す図である。携帯電話機には、撮像部11、液晶表示ディスプレイ12、操作部13が備わっているので、眉毛描画アシスト機能を実行するプログラムをメモリカードに格納して携帯電話機にセットするようにすればよい。
また、本実施の形態においては、眉毛描画をアシストする装置を説明したが、本発明の技術思想を利用すれば、眉毛描画以外の用途にも利用可能である。たとえば、アイシャドー、チークカラー、口紅などのメークをアシストする装置としても適用可能である。この場合にも、お気に入りのモデルや女性タレントとそっくりのメークを楽しむことが可能である。
実施の形態に係る眉毛描画アシスト装置の概観図である。 眉毛描画アシスト装置のブロック図である。 テンプレート画像を切り替えて表示している様子を示す図である。 選択されたテンプレート画像を表示している様子を示す図である。 テンプレート画像から生成された眉毛画像を利用者の顔画像に合成させるプロセスを示す図である。 眉毛の差分領域が顔画像に合成表示された様子を示す図である。 眉毛の差分領域表示を詳細に示す図である。 携帯電話機を眉毛描画アシスト装置として利用した変形例を示す図である。
符号の説明
1 眉毛描画アシスト装置
2 メモリカード
11 撮像部
12 液晶表示ディスプレイ
13 操作部
14 画像解析部
15 画像合成部
16 描画データ生成部
17 テンプレート作成部
18 テンプレート選択部
20 テンプレートデータ
21 テンプレート設定データ
22 テンプレート画像データ

Claims (14)

  1. 顔を撮像する撮像手段と、
    メークアップの対象となる所定の要素についてテンプレートデータを蓄積する手段と、
    前記撮像手段より入力した顔画像に含まれる前記所定の要素の実領域と前記テンプレートデータより設定される前記所定の要素のテンプレート領域との差分領域を前記顔画像に合成して表示する合成表示手段と、
    を備えることを特徴とするメークアップアシスト装置。
  2. 請求項1に記載のメークアップアシスト装置において、
    前記差分領域のうち、前記実領域であって前記テンプレート領域でない領域と、前記テンプレート領域であって前記実領域でない領域とは異なる態様で表示されることを特徴とするメークアップアシスト装置。
  3. 請求項1または請求項2に記載のメークアップアシスト装置において、
    前記実領域には既にメークアップにより描画されている領域が含まれることを特徴とするメークアップアシスト装置。
  4. 請求項1ないし請求項3のいずれかに記載のメークアップアシスト装置において、さらに、
    前記顔画像から前記所定の要素を消去した上で前記テンプレートデータより生成される前記所定の要素のテンプレート画像を前記顔画像に合成表示することでテンプレートの適用イメージを確認する手段、
    を備えることを特徴とするメークアップアシスト装置。
  5. 請求項4に記載のメークアップアシスト装置において、さらに、
    前記顔画像に合成させている前記テンプレート画像の色、濃さ、形状、目元からの相対的位置のうちいずれか1つまたは複数を調整する調整手段、
    を備えることを特徴とするメークアップアシスト装置。
  6. 請求項5に記載のメークアップアシスト装置において、
    前記合成表示手段は、前記調整手段により調整された前記テンプレート画像に対して前記テンプレート領域を決定し、決定されたテンプレート領域に対応して前記差分領域を合成表示することを特徴とするメークアップアシスト装置。
  7. 請求項1ないし請求項6のいずれかに記載のメークアップアシスト装置において、
    前記合成表示手段は、表示する合成画像を拡大または縮小する機能を備えることを特徴とするメークアップアシスト装置。
  8. 顔を撮像する撮像手段と、
    テンプレート眉毛データを蓄積する手段と、
    前記撮像手段より入力した顔画像に含まれる実眉毛領域と前記テンプレート眉毛データより設定されるテンプレート眉毛領域との差分領域を前記顔画像に合成して表示する合成表示手段と、
    を備えることを特徴とする眉毛描画アシスト装置。
  9. 請求項8に記載の眉毛描画アシスト装置において、
    前記差分領域のうち、前記実眉毛領域であって前記テンプレート眉毛領域でない領域と、前記テンプレート眉毛領域であって前記実眉毛領域でない領域とは異なる態様で表示されることを特徴とする眉毛描画アシスト装置。
  10. 請求項8または請求項9に記載の眉毛描画アシスト装置において、
    前記実眉毛領域には眉墨が描画された領域が含まれることを特徴とする眉毛描画アシスト装置。
  11. 請求項8ないし請求項10のいずれかに記載の眉毛描画アシスト装置において、さらに、
    前記顔画像から眉毛を消去した上で前記テンプレート眉毛データより設定されるテンプレート眉毛画像を前記顔画像に合成して表示することでテンプレートの適用イメージを確認する手段、
    を備えることを特徴とする眉毛描画アシスト装置。
  12. 請求項11に記載の眉毛描画アシスト装置において、さらに、
    前記顔画像に合成させている前記テンプレート眉毛画像の色、濃さ、形状、目元からの相対的位置のうちいずれか1つまたは複数を調整する調整手段、
    を備えることを特徴とする眉毛描画アシスト装置。
  13. 請求項12に記載の眉毛描画アシスト装置において、
    前記合成表示手段は、前記調整手段により調整されたテンプレート眉毛画像に対して前記テンプレート眉毛領域を決定し、決定した前記テンプレート眉毛領域に対して前記差分領域を合成表示することを特徴とする眉毛描画アシスト装置。
  14. 請求項8ないし請求項13のいずれかに記載の眉毛描画アシスト装置において、
    前記合成表示手段は、表示する合成画像を拡大または縮小する機能を備えることを特徴とする眉毛描画アシスト装置。
JP2006121514A 2006-04-26 2006-04-26 メークアップアシスト装置および眉毛描画アシスト装置 Expired - Fee Related JP4793823B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006121514A JP4793823B2 (ja) 2006-04-26 2006-04-26 メークアップアシスト装置および眉毛描画アシスト装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006121514A JP4793823B2 (ja) 2006-04-26 2006-04-26 メークアップアシスト装置および眉毛描画アシスト装置

Publications (2)

Publication Number Publication Date
JP2007293649A true JP2007293649A (ja) 2007-11-08
JP4793823B2 JP4793823B2 (ja) 2011-10-12

Family

ID=38764221

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006121514A Expired - Fee Related JP4793823B2 (ja) 2006-04-26 2006-04-26 メークアップアシスト装置および眉毛描画アシスト装置

Country Status (1)

Country Link
JP (1) JP4793823B2 (ja)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010245950A (ja) * 2009-04-08 2010-10-28 Toyota Motor Kyushu Inc 車載用画像制御装置
JP2013223001A (ja) * 2012-04-13 2013-10-28 Casio Comput Co Ltd 画像処理装置及び画像処理方法並びにプログラム
WO2015029392A1 (ja) * 2013-08-30 2015-03-05 パナソニックIpマネジメント株式会社 メイクアップ支援装置、メイクアップ支援方法、およびメイクアップ支援プログラム
JP2015072697A (ja) * 2014-11-14 2015-04-16 レノボ・イノベーションズ・リミテッド(香港) 化粧支援装置、化粧支援方法、及びプログラム
JP2015121841A (ja) * 2013-12-20 2015-07-02 カシオ計算機株式会社 眉生成装置、眉生成方法及びプログラム
JP2017097589A (ja) * 2015-11-24 2017-06-01 株式会社桃谷順天館 メイクアップ補助システム、及びメイクアップ補助方法
JP2017108462A (ja) * 2017-03-15 2017-06-15 カシオ計算機株式会社 画像処理装置及び画像処理方法並びにプログラム
CN108875462A (zh) * 2017-05-16 2018-11-23 丽宝大数据股份有限公司 眉毛造型指引装置及其方法
EP3462375A1 (en) * 2017-09-28 2019-04-03 Cal-Comp Big Data Inc Body information analysis apparatus with augmented reality and eyebrow shape preview method thereof
KR20190037050A (ko) * 2017-09-28 2019-04-05 칼-콤프 빅 데이터, 인크. 신체 정보 분석 장치 및 눈썹 모양 보조 비교 방법
CN110246206A (zh) * 2019-06-21 2019-09-17 北京新氧科技有限公司 辅助画眉的方法、装置及系统
JP2019220130A (ja) * 2018-06-15 2019-12-26 カシオ計算機株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
CN111553221A (zh) * 2020-04-21 2020-08-18 海信集团有限公司 一种数据处理方法及智能设备
JP2022534458A (ja) * 2020-04-29 2022-08-01 バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド 画像処理の方法及び装置
WO2023026891A1 (ja) * 2021-08-27 2023-03-02 株式会社資生堂 眉メイクガイド方法、装置、プログラム、およびシステム
JP7384027B2 (ja) 2019-12-25 2023-11-21 大日本印刷株式会社 眉毛テンプレート製造システム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56104608A (en) * 1980-01-25 1981-08-20 Mitsubishi Rayon Co Displaying of makeeup design
JPS6380692A (ja) * 1986-09-24 1988-04-11 Kanebo Ltd メ−クアツプシミユレ−シヨンシステム
JPH1125253A (ja) * 1997-07-07 1999-01-29 Onishi Netsugaku:Kk 眉描画方法
JPH11143352A (ja) * 1997-11-13 1999-05-28 Onishi Netsugaku Kogyosho:Kk 化粧シミュレーション自動描画方法および装置
JP2000194835A (ja) * 1998-12-28 2000-07-14 Kao Corp 化粧アドバイスシステム
JP2001325400A (ja) * 2000-05-16 2001-11-22 Mitsubishi Electric Corp メイクアップシステム
JP2005216131A (ja) * 2004-01-30 2005-08-11 Digital Fashion Ltd 化粧シミュレーション装置、化粧シミュレーション方法、化粧シミュレーションプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS56104608A (en) * 1980-01-25 1981-08-20 Mitsubishi Rayon Co Displaying of makeeup design
JPS6380692A (ja) * 1986-09-24 1988-04-11 Kanebo Ltd メ−クアツプシミユレ−シヨンシステム
JPH1125253A (ja) * 1997-07-07 1999-01-29 Onishi Netsugaku:Kk 眉描画方法
JPH11143352A (ja) * 1997-11-13 1999-05-28 Onishi Netsugaku Kogyosho:Kk 化粧シミュレーション自動描画方法および装置
JP2000194835A (ja) * 1998-12-28 2000-07-14 Kao Corp 化粧アドバイスシステム
JP2001325400A (ja) * 2000-05-16 2001-11-22 Mitsubishi Electric Corp メイクアップシステム
JP2005216131A (ja) * 2004-01-30 2005-08-11 Digital Fashion Ltd 化粧シミュレーション装置、化粧シミュレーション方法、化粧シミュレーションプログラム

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010245950A (ja) * 2009-04-08 2010-10-28 Toyota Motor Kyushu Inc 車載用画像制御装置
JP2013223001A (ja) * 2012-04-13 2013-10-28 Casio Comput Co Ltd 画像処理装置及び画像処理方法並びにプログラム
WO2015029392A1 (ja) * 2013-08-30 2015-03-05 パナソニックIpマネジメント株式会社 メイクアップ支援装置、メイクアップ支援方法、およびメイクアップ支援プログラム
JPWO2015029392A1 (ja) * 2013-08-30 2017-03-02 パナソニックIpマネジメント株式会社 メイクアップ支援装置、メイクアップ支援方法、およびメイクアップ支援プログラム
JP2015121841A (ja) * 2013-12-20 2015-07-02 カシオ計算機株式会社 眉生成装置、眉生成方法及びプログラム
JP2015072697A (ja) * 2014-11-14 2015-04-16 レノボ・イノベーションズ・リミテッド(香港) 化粧支援装置、化粧支援方法、及びプログラム
JP2017097589A (ja) * 2015-11-24 2017-06-01 株式会社桃谷順天館 メイクアップ補助システム、及びメイクアップ補助方法
JP2017108462A (ja) * 2017-03-15 2017-06-15 カシオ計算機株式会社 画像処理装置及び画像処理方法並びにプログラム
CN108875462A (zh) * 2017-05-16 2018-11-23 丽宝大数据股份有限公司 眉毛造型指引装置及其方法
JP2018192230A (ja) * 2017-05-16 2018-12-06 麗寶大數據股▲フン▼有限公司 眉形状ガイド装置およびその方法
JP2019063480A (ja) * 2017-09-28 2019-04-25 麗寶大數據股▲フン▼有限公司 拡張現実を結合した身体情報分析装置およびその眉型プレビュー方法
KR20190037050A (ko) * 2017-09-28 2019-04-05 칼-콤프 빅 데이터, 인크. 신체 정보 분석 장치 및 눈썹 모양 보조 비교 방법
KR20190037051A (ko) * 2017-09-28 2019-04-05 칼-콤프 빅 데이터, 인크. 증강 현실과 결합된 신체 정보 분석 장치 및 눈썹 모양 미리보기 방법
EP3462375A1 (en) * 2017-09-28 2019-04-03 Cal-Comp Big Data Inc Body information analysis apparatus with augmented reality and eyebrow shape preview method thereof
CN109583263A (zh) * 2017-09-28 2019-04-05 丽宝大数据股份有限公司 结合扩增实境的身体信息分析装置及其眉型预览方法
KR102045219B1 (ko) * 2017-09-28 2019-11-15 칼-콤프 빅 데이터, 인크. 증강 현실과 결합된 신체 정보 분석 장치 및 눈썹 모양 미리보기 방법
KR102045218B1 (ko) 2017-09-28 2019-11-15 칼-콤프 빅 데이터, 인크. 신체 정보 분석 장치 및 눈썹 모양 보조 비교 방법
US10528796B2 (en) 2017-09-28 2020-01-07 Cal-Comp Big Data, Inc. Body information analysis apparatus with augmented reality and eyebrow shape preview method thereof
JP7110899B2 (ja) 2018-06-15 2022-08-02 カシオ計算機株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2019220130A (ja) * 2018-06-15 2019-12-26 カシオ計算機株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
CN110246206A (zh) * 2019-06-21 2019-09-17 北京新氧科技有限公司 辅助画眉的方法、装置及系统
CN110246206B (zh) * 2019-06-21 2023-03-10 北京新氧科技有限公司 辅助画眉的方法、装置及系统
JP7384027B2 (ja) 2019-12-25 2023-11-21 大日本印刷株式会社 眉毛テンプレート製造システム
CN111553221A (zh) * 2020-04-21 2020-08-18 海信集团有限公司 一种数据处理方法及智能设备
CN111553221B (zh) * 2020-04-21 2023-10-31 海信集团有限公司 一种数据处理方法及智能设备
JP2022534458A (ja) * 2020-04-29 2022-08-01 バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド 画像処理の方法及び装置
JP7183414B2 (ja) 2020-04-29 2022-12-05 バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド 画像処理の方法及び装置
WO2023026891A1 (ja) * 2021-08-27 2023-03-02 株式会社資生堂 眉メイクガイド方法、装置、プログラム、およびシステム

Also Published As

Publication number Publication date
JP4793823B2 (ja) 2011-10-12

Similar Documents

Publication Publication Date Title
JP4793823B2 (ja) メークアップアシスト装置および眉毛描画アシスト装置
CN107852443B (zh) 信息处理设备、信息处理方法和程序
JP7200439B1 (ja) アバター表示装置、アバター生成装置及びプログラム
JP4760349B2 (ja) 画像処理装置および画像処理方法、並びに、プログラム
KR101190686B1 (ko) 화상 처리 장치, 화상 처리 방법 및 컴퓨터 판독가능한 기록 매체
KR101635730B1 (ko) 몽타주 생성 장치 및 방법, 그 방법을 수행하기 위한 기록 매체
JP5432532B2 (ja) 化粧方法、化粧シミュレーション装置、及び化粧シミュレーションプログラム
JPH10255066A (ja) 顔画像の修正方法、化粧シミュレーション方法、化粧方法、化粧サポート装置及びファンデーション転写膜
CN109196856B (zh) 虚拟化妆装置和虚拟化妆方法
JP2001344612A (ja) アニメーション作成方法及びアニメーション作成装置並びにアニメーション作成プログラムを記録したコンピュータ読み取り可能な記録媒体
JP6448869B2 (ja) 画像処理装置、画像処理システム、及びプログラム
JPWO2008102440A1 (ja) 化粧顔画像生成装置及び方法
JP6675384B2 (ja) 化粧支援システム、計測装置、携帯端末装置およびプログラム
CN110263617B (zh) 三维人脸模型获取方法及装置
JP2011209887A (ja) アバター作成方法、アバター作成プログラム、およびネットワークサービスシステム
JP2001109913A (ja) 画像処理装置および画像処理方法ならびに画像処理プログラムを記録した記録媒体
JP2001216386A (ja) 化粧支援装置
WO2015152028A1 (ja) 化粧支援装置および記録媒体
JP2009039523A (ja) メイクアップシミュレーションに利用する端末装置
US11477366B2 (en) Selfie setup and stock videos creation
JP2018195996A (ja) 画像投影装置、画像投影方法、及び、画像投影プログラム
JP2016110416A (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP3444148B2 (ja) 眉描画方法
JP5966657B2 (ja) 画像生成装置、画像生成方法及びプログラム
JP2016181280A (ja) 画像処理装置、画像処理方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090223

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20090223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101026

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101224

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110425

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110628

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110720

R150 Certificate of patent or registration of utility model

Ref document number: 4793823

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140805

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees