JP6694504B2 - 顔部位別の年齢と環境的要因に基づく年齢変換方法、これを遂行するための記録媒体、及び装置 - Google Patents

顔部位別の年齢と環境的要因に基づく年齢変換方法、これを遂行するための記録媒体、及び装置 Download PDF

Info

Publication number
JP6694504B2
JP6694504B2 JP2018514817A JP2018514817A JP6694504B2 JP 6694504 B2 JP6694504 B2 JP 6694504B2 JP 2018514817 A JP2018514817 A JP 2018514817A JP 2018514817 A JP2018514817 A JP 2018514817A JP 6694504 B2 JP6694504 B2 JP 6694504B2
Authority
JP
Japan
Prior art keywords
age
face
skin
environmental factors
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018514817A
Other languages
English (en)
Other versions
JP2018531449A (ja
JP2018531449A6 (ja
Inventor
キム,イジェ
チェ,ソンウン
アン,サンチョル
Original Assignee
コリア・インスティテュート・オブ・サイエンス・アンド・テクノロジー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コリア・インスティテュート・オブ・サイエンス・アンド・テクノロジー filed Critical コリア・インスティテュート・オブ・サイエンス・アンド・テクノロジー
Publication of JP2018531449A publication Critical patent/JP2018531449A/ja
Publication of JP2018531449A6 publication Critical patent/JP2018531449A6/ja
Application granted granted Critical
Publication of JP6694504B2 publication Critical patent/JP6694504B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • G06T11/60Creating or editing images; Combining images with text
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/18Image warping, e.g. rearranging pixels individually

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Processing Or Creating Images (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、顔部位別の年齢と環境的要因に基づく年齢変換方法、これを遂行するための記録媒体、及び装置に係り、より詳しくは、顔部位別に測定された年齢と個人の環境情報を用いて写実的な年齢変換結果を得ることができる年齢変換方法、これを遂行するための記録媒体、及び装置に関する。
顔の年齢を自動で認識し特定の年齢に変換する研究が実生活での応用分野が増えるなか、それについての関心が高まりつつある。特に、顔映像の年齢を特定の年齢に変換する研究は多様な分野で多くなされている。
既存の多くの研究で入力映像の年齢から所望の年齢に変換しようとするとき、顔全体の年齢を実際の年齢と同一に設定し年齢を変換していた。しかし、顔の部位別の老化過程が環境的な要因と結びついて差異があることがある。例えば、野外で多くの活動をする職業を持つ人の場合、顔全体の形態(shape)は実際の本人の年齢に応じて変化するが、皮膚の場合は紫外線の影響を多く受けるため、老化がそれより早く進むことがある。
そのため、実際の年齢よりも皮膚の年齢が高く測定されることがある。また、機能性化粧品、皮膚美容等で日ごろ皮膚を管理していた人の場合、そうではない人に比べて皮膚の老化が遅れることがある。このように、顔部位別に測定される年齢と個人の環境情報を考慮せずに顔の年齢を変換したとき、正確な年齢変換結果を得にくい場合が生じる。
そこで、本発明はこのような点に鑑みてなされたものであって、その目的は、正確な年齢変換結果を導き出すために顔部位別の年齢と環境的要因に基づく年齢変換方法を提供することである。
本発明の他の目的は、前記顔部位別の年齢と環境的要因に基づく年齢変換方法を遂行するためのコンピュータプログラムが記録された記録媒体を提供することである。
本発明のまた他の目的は、前記顔部位別の年齢と環境的要因に基づく年齢変換方法を遂行するための装置を提供することである。
前記本発明の目的を実現するための一実施例に係る顔部位別の年齢と環境的要因に基づく年齢変換方法は、入力される顔映像に基づいて顔部位別に年齢を測定する段階;個人の環境的な要因を指定する段階;前記顔部位別の年齢と前記環境的な要因に応じた年齢変換モデルを適用して前記顔部位別に年齢を変換する段階;前記顔部位別に変換された映像を復元する段階;及び復元された映像を合成して年齢変換された顔を生成する段階を含む。
本発明の実施例において、前記入力される顔映像に基づいて顔部位別に年齢を測定する段階は、入力される顔映像を顔部位別に細分化する段階;前記部位別の特徴を抽出する段階;及び前記部位別の特徴から年齢を測定する段階を含んでいてよい。
本発明の実施例において、前記部位別の特徴から年齢を測定する段階では、顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)とテクスチャー(texture)に対する年齢を測定していてよい。
本発明の実施例において、前記部位別の特徴を抽出する段階は、統計的分析方法、周波数分析基盤フィルター及びローカルバイナリパターン分析方法(Local Binary Pattern)の少なくとも一つを用いて部位別の特徴を抽出していてよい。
本発明の実施例において、前記顔部位別の年齢と前記環境的な要因に応じた年齢変換モデルを適用して前記顔部位別に年齢を変換する段階では、前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)とテクスチャー(texture)に対する年齢を変換していてよい。
本発明の実施例において、前記復元された映像を合成して年齢変換された顔を生成する段階は、年齢変換された前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)のテクスチャー(texture)に対して復元された映像を合成する段階;及び前記合成された映像を年齢変換された前記顔の形態(shape)と結合してワーピング(warping)する段階を含んでいてよい。
本発明の実施例において、前記個人の環境的な要因を指定する段階では、個人の健康、体形、職業、生活習慣、人種、地域の少なくとも一つを指定していてよい。
本発明の実施例において、顔部位別の年齢と環境的要因に基づく年齢変換方法は、環境的要因に応じて顔映像を分類したデータベースを構築する段階;及び前記データベースを用いて環境別の年齢関数(aging function)を学習する段階をさらに含んでいてよい。
本発明の実施例において、前記顔部位別の年齢と前記環境的な要因に応じた年齢変換モデルを適用して前記顔部位別に年齢を変換する段階では、前記環境別の年齢関数(aging function)を用いていてよい。
本発明の実施例において、顔部位別の年齢と環境的要因に基づく年齢変換方法は、前記顔部位別の年齢と環境的要因を基盤に生成された年齢変換結果と他の環境的要因を基盤に生成された年齢変換結果とを視覚的に比較し、または二つの結果の各顔部位別に測定された年齢で二つの結果を比較する段階をさらに含んでいてよい。
前記本発明の他の目的を実現するための一実施例に係るコンピュータ読取可能な記録媒体には、顔部位別の年齢と環境的要因に基づく年齢変換方法を遂行するためのコンピュータプログラムが記録されている。
前記本発明のまた他の目的を実現するための一実施例に係る顔部位別の年齢と環境的要因に基づく年齢変換装置は、入力される顔映像に基づいて顔部位別に年齢を測定する年齢測定部;個人の環境的な要因を指定する環境選択部;前記顔部位別の年齢と前記環境的な要因に応じた年齢変換モデルを適用して前記顔部位別に年齢を変換する年齢変換部;前記顔部位別に変換された映像を復元する映像復元部;及び復元された映像を合成して年齢変換された顔を生成するシミュレーション部を含む。
本発明の実施例において、前記年齢測定部は、入力される顔映像を顔部位別に細分化する分割部;前記部位別の特徴を抽出する特徴抽出部;及び前記部位別の特徴から年齢を推定する年齢推定部を含んでいてよい。
本発明の実施例において、前記年齢推定部は、顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)に対する年齢を測定する顔形態測定部;及び顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)のテクスチャー(texture)に対する年齢を測定するテクスチャー測定部を含んでいてよい。
本発明の実施例において、前記特徴抽出部は、統計的分析技法、周波数分析基盤フィルター及びローカルバイナリパターン分析方法(Local Binary Pattern)の少なくとも一つを用いて部位別の特徴を抽出していてよい。
本発明の実施例において、前記年齢推定部は、年齢認識器及び皮膚測定センサーの少なくとも一つを利用していてよい。
本発明の実施例において、前記年齢変換部では、前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)及びテクスチャー(texture)に対する年齢を変換していてよい。
本発明の実施例において、前記シミュレーション部は、年齢変換された前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)のテクスチャー(texture)に対して復元された映像を合成する合成部;及び前記合成された映像を年齢変換された前記顔の形態(shape)と結合してワーピング(warping)するワーピング部を含んでいてよい。
本発明の実施例において、前記環境選択部では、個人の健康、体形、職業、生活習慣、人種、地域の少なくとも一つを指定していてよい。
本発明の実施例において、顔部位別の年齢と環境的要因に基づく年齢変換装置は、環境的要因に応じて顔映像を分類したデータベースを構築するデータベース構築部;及び前記データベースを用いて環境別の年齢関数(aging function)を学習する学習部をさらに含んでいてよい。
本発明の実施例において、前記年齢変換部では、前記環境別の年齢関数(aging function)を用いていてよい。
本発明の実施例において、顔部位別の年齢と環境的要因に基づく年齢変換装置は、前記シミュレーション部の結果と他の環境的要因を基盤に生成された年齢変換結果とを視覚的に比較し、または二つの結果の各顔部位別に測定された年齢で二つの結果を比較する比較部をさらに含んでいてよい。
このような顔部位別の年齢と環境的要因に基づく年齢変換方法によれば、顔を多様な部位に分けて細部的に年齢を変換し、顔部位別に測定された年齢を基盤に年齢を変換する。また、顔部位に応じて異なって適用する環境変数を活用して年齢を変換する。
本発明は、顔画像を用いて顔部位別の年齢を測定し、これを基盤に年齢変換顔を生成する方法であって、実際の年齢と顔部位別に測定された年齢とで差異がある場合、既存の方法に比べて写実的な年齢変換結果を得ることができる。
また、本提案方法は、顔部位別の年齢変換過程に影響を与える環境的要因(健康、体形、職業、生活習慣等)を共に用いることで個人オーダーメード型年齢変換結果を得ることができる。
本発明は、顔部位別の年齢と環境的要因を基盤に生成した年齢変換結果と他の環境的要因を基盤に生成した年齢変換結果とを視覚的に比較し、または二つの結果の各顔部位別に測定された年齢等二つの結果を比較することで、顔の老化に影響を与える個人の環境的要因を確認しこれを改善するのに用いることができる。
本発明の一実施例に係る年齢変換装置のブロック図である。 図1中の年齢測定部の詳細ブロック図である。 図1中のシミュレーション部の詳細ブロック図である。 本発明の一実施例に係る年齢変換方法の流れ図である。 図4中の年齢変換方法の詳細な流れ図である。
後述する本発明に関する詳細な説明は、本発明が実施できる特定の実施例の例示であって、図示する添付図面を参照する。これらの実施例は当業者が本発明を実施できるようにするうえで十分に詳細に説明される。本発明の種々の実施例はそれぞれ異なるが、相互排他的なものである必要はないと理解されるべきである。例えば、ここに記載されている特定の形状、構造及び特性は一実施例に関連して本発明の精神及び範囲を逸脱することなく他の実施例で具現されてよい。また、それぞれの開示された実施例内の個別の構成要素の位置または配置は本発明の精神及び範囲を逸脱することなく変更されてよいものと理解されるべきである。したがって、後述する詳細な説明は本発明の範囲を限定するためのものではなく、本発明の範囲は、当該請求項が主張するものと均等なあらゆる範囲とともに添付の請求項によってのみ限定される。図中の類似した図面符号はあらゆる側面から同一または類似した機能を指し示す。
以下、図面を参照して本発明の好適な実施例についてより詳細に説明することにする。
図1は、本発明の一実施例に係る年齢変換装置のブロック図である。図2は、図1中の年齢測定部の詳細ブロック図である。図3は、図1中のシミュレーション部の詳細ブロック図である。
本発明に係る年齢変換装置10は、顔を多様な部位に分け、各顔部位別の年齢情報を基盤に年齢を変換し、また、各顔部位別の年齢変換過程に影響を与える環境変数を用いて年齢を変換する。
図1を参照すると、本発明に係る年齢変換装置10は、オフライン過程でデータベースを構築し、環境別の年齢関数(aging function)を学習するオフライン部100及びオンライン過程で入力される顔映像に基づいて年齢変換された映像を出力するオンライン部300を含む。
本発明の前記年齢変換装置10は、顔部位別の年齢と環境的要因に基づく年齢変換を遂行するためのソフトウェア(アプリケーション)がインストールされて実行されていてよく、また、前記オフライン部100及び前記オンライン部300の構成は、前記年齢変換装置10で実行される年齢変換を遂行するためのソフトウェアによって制御されていてよい。
前記年齢変換装置10は、別個の端末であるかまたは端末の一部のモジュールであってよい。また、前記オフライン部100及び前記オンライン部300の各構成は、統合モジュールで形成され、または一つ以上のモジュールからなるものであってよい。なお、これとは逆に、各構成は、別個のモジュールからなるものであってもよい。
前記年齢変換装置10は、可搬性のものであっても固設されるものであってもよい。前記年齢変換装置10は、サーバー(server)またはエンジン(engine)形態のものであってよく、デバイス(device)、機構(apparatus),端末(terminal),UE(user equipment),MS(mobile station),無線機器(wireless device),携帯機器(handheld device)等の他の用語で呼ばれることがある。
前記年齢変換装置10は、オペレーティングシステム(Operation System;OS)、すなわち、システムを基盤に多様なソフトウェアを実行したり製作することができる。前記オペレーティングシステムは、ソフトウェアが装置のハードウェアを使用できるようにするためのシステムプログラムであって、アンドロイドOS、iOS、ウインドウモバイルOS、バダOS、シンビアンOS、ブラックベリーOS等のモバイルコンピュータオペレーティングシステム及びウインドウ系、リナックス系、ユニックス系、MAC,AIX,HP−UX等のコンピュータオペレーティングシステムをいずれも含んでいてよい。
以下、前記年齢変換装置10の各構成について簡単に説明し、本発明に係る年齢変換方法の具体的な内容について図4以降を参照して詳しく説明する。
前記オフライン部100は、データベース構築部130及び学習部150を含む。前記オフライン部100は、前記オンライン部300とは別個のモジュールまたは装置で形成されていてよく、これとは逆に、前記オンライン部300とは一つのモジュールまたは装置で形成されていてもよい。
前記データベース構築部130は、顔映像を収集し、各顔映像の主人公の健康、体形、職業、生活習慣、性別、人種等の様々な環境的要因を調査し、前記顔映像を環境別に分類してデータベースを構築する。前記環境的要因の生活習慣には、皮膚管理、飲酒、喫煙、運動、食餌療法等が含まれていてよい。前記環境的要因は、顔映像の主人公のアンケート作成によって調査してよく、または体形、職業等の特殊のグループを指定して顔映像を収集することで自動で調査してもよい。
前記学習部150は、前記データベースを用いて顔部位別の年齢と環境別の年齢関数(aging function)を学習する。前記年齢関数(aging function)は、顔の部位別の特徴及び環境情報と年齢との関係を関数にて定義したものであり、これに基づき、顔部位別の年齢と環境的要因を基盤に年齢変換モデルを生成することができる。
前記オンライン部300は、年齢測定部310、環境選択部330、年齢変換部350、映像復元部370及びシミュレーション部390を含む。
前記年齢測定部310は、入力される顔映像に基づいて顔部位別に年齢を測定する。人の顔映像は、目、鼻、口等の多様な構成要素の形態とテクスチャー情報から構成されており、各構成要素に応じて老化過程に差異がある。
また、人の顔は、経時的変化だけでなく、多くの環境的要因(健康、職業、生活習慣等)に影響を受けるため、実際の年齢と顔部位別に測定される年齢とでは差異が存在する。例えば、野外での活動が多い職業を持つ人の場合、顔の全体形態(shape)は実際の本人の年齢に応じて変化するが、皮膚年齢の場合は紫外線の影響を多く受けることから、老化がより早く進むことがある。
したがって、既存のものでは顔のすべての部位に同じ年齢を基準として年齢変換を施していたが、本発明では、顔の部位別にそれぞれ測定された年齢を基準とした個人固有の特徴を基盤に年齢変換を施している。
図2を参照すると、前記年齢測定部310は、入力される顔映像を顔部位別に細分化する分割部311、前記部位別の特徴を抽出する特徴抽出部313及び前記部位別の特徴から年齢を推定する年齢推定部315を含む。
前記分割部311では、入力された顔映像を顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)に細分化していてよい。
前記特徴抽出部313では、前記細分化された特徴から各特徴ベクトルを抽出していてよい。例えば、顔の目、鼻、口等の形態(shape)とテクスチャー(texture)等の特徴に対しては統計的分析技法によって特徴を抽出し、シワ(wrinkle),皮膚(skin)等は周波数分析基盤フィルター及びローカルバイナリパターン分析方法(Local Binary Pattern)等を用いて特徴を抽出していてよい。
前記年齢推定部315は、顔の目、鼻、口等の形態(shape)に対する年齢を測定する顔形態測定部及び顔の目、鼻、口等のテクスチャー(texture)、シワ(wrinkle)及び皮膚(skin)の一部またはすべてのテクスチャー(texture)に対する年齢を測定するテクスチャー測定部を含んでいてよい。
一実施例として、前記年齢推定部315では、抽出された特徴と年齢情報とのSVR(Support vector regression)を通じて学習し、各部位別の年齢を測定していてよい。また、前記年齢推定部315では、実験者を対象に実施する主観的評価によって収集された情報を補完資料として活用していてよい。
他の実施例として、前記年齢推定部315は、年齢認識器、皮膚測定センサー等の別個のモジュールを利用していてもよい。
前記環境選択部330では、個人の環境的な要因を指定する。個人の環境的な要因としては、個人の健康、体形、職業、生活習慣、人種、地域の少なくとも一つを指定していてよい。前記環境的要因の生活習慣には、皮膚管理、飲酒、喫煙、運動、食餌療法等が含まれていてよい。
このような環境選択は、顔映像モデルに対しアンケート作成によって収集された資料に基づいて行っていてよい。
前記年齢変換部350では、前記顔部位別の年齢と前記環境的な要因に応じた年齢変換モデルを適用して前記顔部位別に年齢を変換する。このとき、前記オフライン部100の学習部150で学習した前記年齢関数(aging function)を用いていてよい。
具体的に、年齢関数を用いて年齢変換モデルを学習し、顔部位別に測定された年齢情報を基盤に年齢関数を適用する。また、環境的要因にて分類されたデータベースを用いて、各環境別の年齢関数を学習し、入力映像の環境的要因に応じた年齢関数を用いて年齢変換する。
部位別の年齢変換では、前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)及びテクスチャー(texture)に対する年齢を変換していてよい。
例えば、シワに対しては周波数分析基盤フィルターにより特徴を抽出し年齢関数にて年齢変換し、皮膚に対してはローカルバイナリパターン分析方法(Local Binary Pattern)により特徴を抽出し年齢関数にて年齢変換していてよい。
前記映像復元部370では、前記顔部位別に変換された映像を復元する。例えば、顔の目、鼻、口等の形態(shape)とテクスチャー(texture)、シワ(wrinkle)及び皮膚(skin)の各部位に対する変換映像を各復元技法により復元していてよい。
例えば、学習データ(training data)のシワ、皮膚特徴ベクトルとシワ、皮膚映像パッチから構成されたローカル映像テーブル(local image table)を用いて映像に復元していてよい。また、シワ及び皮膚特徴の類似性と環境的要因を用いてローカル映像テーブルからシワ、皮膚映像パッチを選択する方法にて部位別の映像復元が可能である。
前記シミュレーション部390は、前記映像復元部370で各部位別に復元された映像を合成して年齢変換された顔を生成し、結果を出力する。
図3を参照すると、前記シミュレーション部390は、年齢変換された前記顔の各部位(目、鼻、口、あご、額、シワ(wrinkle)及び皮膚(skin)等)の形態(shape)とテクスチャー(texture)に対して復元された映像を合成する合成部391及び前記合成された映像を年齢変換された前記顔の形態(shape)と結合してワーピング(warping)するワーピング部393を含んでいてよい。
例えば、前記合成部391では、周波数分析基盤フィルターで作ったシワマスクを用いてシワの部分だけを抽出した後、年齢変換顔テクスチャーに合成し、二値化によって皮膚マスクを生成して、ほくろ、しみ等の特徴だけを年齢変換顔テクスチャーに合成していてよい。
前記ワーピング部393では、年齢変換されたテクスチャーを年齢変換された顔の形態に応じてワーピングして最終年齢変換顔を生成する。
他の実施例において、本発明に係る前記年齢変換装置10は、前記シミュレーション部390で導き出された結果、すなわち、個人の顔部位別の年齢と環境的要因を基盤に生成された年齢変換結果と他の環境的要因を基盤に生成された年齢変換結果とを視覚的に比較し、または二つの結果の各顔部位別に測定された年齢で二つの結果を比較して提供する比較部をさらに含んでいてよい。
本発明は、顔部位別の年齢を測定し、これを基盤に年齢変換顔を生成する方法であって、実際の年齢と顔部位別に測定された年齢とで差異がある場合、既存の方法に比べて写実的な年齢変換結果を得ることができる。また、本提案方法では、顔部位別の年齢変換過程に影響を与える環境的要因(健康、体形、職業、生活習慣等)を共に用いることで個人オーダーメード型年齢変換結果を得ることができる。
また、本発明は、顔部位別の年齢と環境的要因を基盤に生成された年齢変換結果と他の環境的要因を基盤に生成された年齢変換結果とを視覚的に比較し、または二つの結果の各顔部位別に測定された年齢で二つの結果を比較して、顔の老化に影響を与える個人の環境的要因を確認しこれを改善するのに用いることができる。
図4は、本発明の一実施例に係る年齢変換方法の流れ図である。図5は、図4の年齢変換方法の詳細な流れ図である。
本実施例に係る年齢変換方法は、図1中の年齢変換装置10と実質的に同じ構成で行われていてよい。したがって、図1中の年齢変換装置10と同じ構成要素は同じ図面符号を付し、繰り返しの説明は省略する。また、本実施例に係る年齢変換方法は、顔部位別の年齢と環境的要因に基づく年齢変換を行うためのソフトウェア(アプリケーション)により実行されていてよい。
図4及び図5を参照すると、本実施例に係る年齢変換方法は、顔映像、環境的要因を入力され、これを基盤に年齢変換を行う(段階S00)。
先ず、入力される顔映像に基づいて顔部位別に年齢を測定する(段階S10)。人の顔映像は、目、鼻、口等の様々な構成要素の形態とテクスチャー情報から構成されており、各構成要素に応じて老化過程に差異がある。このため、既存のものでは個人の生まれた年を基準として年齢変換を施していたが、本発明では顔全体の実際の年齢でない顔部位別に測定された年齢を基準とした個人固有の特徴を基盤に年齢変換を施している。
前記入力される顔映像に基づいて顔部位別に年齢を測定する段階(段階S10)は、入力される顔映像を顔部位別に細分化する段階(段階S11)、前記部位別の特徴を抽出する段階(段階S12)、及び前記部位別の特徴から年齢を測定する段階(段階S13)を含んでいてよい。
前記入力される顔映像を顔部位別に細分化する段階では、顔映像を目、鼻、口、あご、額、皮膚、シワ等の形態(shape)とテクスチャー(texture)に分割していてよい(段階S11)。
前記部位別の特徴を抽出する段階では、統計的分析技法、周波数分析基盤フィルター及びローカルバイナリパターン分析方法(Local Binary Pattern)の少なくとも一つを用いていてよい(段階S12)。
一実施例において、顔の目、鼻、口等の形態(shape)とテクスチャー(texture)に対しては統計的分析技法を用い、シワ(wrinkle)に対しては周波数分析基盤フィルターを用い、皮膚(skin)に対してはローカルバイナリパターン分析方法(Local Binary Pattern)を用いていてよい。
次いで、前記抽出した特徴を用いて、前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)及びテクスチャー(texture)に対する年齢を測定する(段階S13)。
また、人の顔は経時的変化だけでなく、多くの環境的要因(健康、職業、生活習慣等)に影響を受けるため、顔部位別に測定される年齢と老化過程には差異が存在する。例えば、野外での活動が多い職業を持つ人の場合、顔の全体形態(shape)は実際の本人の年齢に応じて変化するが、皮膚年齢の場合には紫外線の影響を多く受けることから、老化がより早く進むことがある。
したがって、個人の環境的な要因を指定する(段階S30)。個人の環境的な要因としては、個人の健康、体形、職業、生活習慣、人種、地域の少なくとも一つを指定していてよい。前記環境的要因の生活習慣には、皮膚管理、飲酒、喫煙、運動、食餌療法等が含まれていてよい。このような環境選択は、アンケート作成によって収集された資料に基づいて行っていてよい。
次いで、前記顔部位別の年齢と前記環境的な要因に応じた年齢変換モデルを適用して前記顔部位別に年齢を変換する(段階S50)。
同様に、年齢変換段階(段階S50)でも、顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)及びテクスチャー(texture)に対して行われる。
前記年齢変換段階(段階S50)では、予め学習した前記年齢関数(aging function)を用いていてよい。このために、顔映像を収集し、各顔映像の主人公の健康、体形、職業、生活習慣、性別、人種等の様々な環境的要因を調査し、前記顔映像を環境別に分類してデータベースを構築する。前記環境的要因の生活習慣には、皮膚管理、飲酒、喫煙、運動、食餌療法等が含まれていてよい。前記環境的要因は、顔映像の主人公のアンケート作成によって調査されていてよく、または体形、職業等の特殊グループを指定して顔映像を収集することによって自動で調査されていてもよい。
前記データベースを用いて顔部位別の年齢と環境別の年齢関数(aging function)を学習する。前記年齢関数(aging function)は、顔の部位別の特徴及び環境情報と年齢との関係を関数にて定義したものであり、これに基づき、顔部位別の年齢と環境的要因を基盤に年齢変換モデルを生成していてよい。
具体的に、年齢関数を用いて年齢変換モデルを学習し、顔部位別に測定された年齢情報を基盤に年齢関数を適用する。また、環境的要因によって分類されたデータベースを用いて、各環境別の年齢関数を学習し、入力映像の環境的要因に応じた年齢関数を用いて年齢変換する。
顔部位別の年齢変換では、前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)の形態(shape)及びテクスチャー(texture)に対する年齢を変換していてよい。
例えば、シワに対しては周波数分析基盤フィルターにより特徴を抽出して年齢変換していてよく、また、皮膚に対してはローカルバイナリパターン分析方法(Local Binary Pattern)により特徴を抽出し年齢関数にて年齢変換していてよい。
顔の部位別の年齢変換が完了すると、前記顔部位別に変換された映像を復元する(段階S70)。例えば、顔の目、鼻、口等の形態(shape)及びテクスチャー(texture)、シワ(wrinkle)及び皮膚(skin)の各部位に対する変換映像を各復元技法により復元していてよい。
最終的に、復元された映像を合成して年齢変換された顔を生成する(段階S90)。具体的に、年齢変換された前記顔の各部位(目、鼻、口、あご、額、シワ、皮膚等)のテクスチャー(texture)に対して復元された映像を合成する段階及び前記合成された映像を年齢変換された前記顔の形態(shape)と結合してワーピング(warping)する段階を含む。
また、顔部位別の年齢と環境的要因を基盤に生成された年齢変換結果と他の環境的要因を基盤に生成された年齢変換結果とを視覚的に比較し、または二つの結果の顔部位別に測定された年齢で二つの結果を比較する段階がさらに含まれていてよい。
本実施例では、顔映像を目、鼻、口、あご、額、シワ、皮膚等の形態(shape)とテクスチャー(texture)に細分化して特徴抽出及び年齢変換を行っていたが、前記細分化した要素は必要に応じて追加、削除、変更が可能である。
本発明では、顔の部位別に測定された年齢と環境的要因を考慮して年齢を変換する方法を提案した。顔部位別に異なって測定される年齢情報と個人の環境情報を用いて年齢を変換することで個人オーダーメード型の年齢変換結果を得ることができる。これにより、既存の方法に比べてより精度よい年齢変換顔を生成することができる。また、本発明では、顔部位別の年齢と環境的要因を基盤に生成された年齢変換結果と他の環境的要因を基盤に生成された年齢変換結果とを視覚的に比較し、または二つの結果の顔部位別に測定された年齢で二つの結果を比較することにより、顔の老化に影響を与える個人の環境的要因を確認しこれを改善するのに用いることができる。
このような、顔部位別の年齢と環境的要因に基づく年齢変換方法は、アプリケーションで具現され、または多様なコンピュータ構成要素によって実行され得るプログラムコマンドの形態で具現され、コンピュータ読取可能な記録媒体に記録されていてよい。前記コンピュータ読取可能な記録媒体は、プログラムコマンド、データファイル、データ構造等を単独でまたは組み合わせて含んでいてよい。
前記コンピュータ読取可能な記録媒体に記録されるプログラムコマンドは、本発明のために特別に設計され構成されたものであるか、またはコンピュータソフトウェア分野の当業者に公知され使用可能になったものであってよい。
コンピュータ読取可能な記録媒体の例としては、ハードディスク、フロッピーディスク及び磁気テープのような磁気記録媒体、CD−ROM、DVDのような光気録媒体、フロプティカルディスク(floptical disk)のような光磁気記録媒体(magneto−optical media)、及びROM、RAM、フラッシュメモリ等のようなプログラムコマンドを記憶し実施するように特別に構成されたハードウェア装置が含まれる。
プログラムコマンドの例としては、コンパイラによって作られるような機械語のコードだけでなく、インタープリタ等を用いてコンピュータによって実行され得る高級言語コードも含まれる。前記ハードウェア装置は、本発明に係る処理を行うために一つ以上のソフトウェアモジュールとして作動するように構成されていてよく、その逆も同様である。
以上では実施例を参照して説明したが、当該技術分野の熟練した当業者であれば下記の特許請求の範囲に記載された本発明の思想及び領域から逸脱しない範囲内で本発明を多様に修正及び変更させ得ることが理解できるであろう。
2014年度の韓国保健産業振興院の報告書によれば、国際化粧品市場の規模は年平均3.9%ずつ増加しており、2013年には2,495億ドル規模であった。本発明によって消費者の顔部位別の年齢及び環境的要因に応じた年齢変換顔を生成し、消費者オーダーメード型の製品開発及び推薦に活用できるので、化粧品産業分野において有効に活用できる。また、機能性化粧品を用いる前と後の年齢変換結果を生成し比較することにより、化粧品の効果を評価し、当該製品を消費者に対し効率よく広告するのに活用できる。
さらには、公共社会分野において本発明によって過去写真から現在の姿をより精度よく予測し、迷子、長期失踪者等を探すのに活用できると予想される。

Claims (16)

  1. 皮膚年齢を測定する段階は、入力される顔映像を複数の顔部位に細分化する段階;各顔部位から各顔部位の特徴を抽出する段階;を含み、前記各顔部位の特徴は、入力される顔映像の複数の顔部位の各形態を含み、入力される人の顔映像に基づいて複数の顔部位の各皮膚年齢を測定する段階
    環境的要因に応じて顔映像を分類したデータベースを構築する段階;
    前記データベースに基づき自動で個人の環境的要因を指定する段階;
    年齢変換モデルは複数の顔部位の各皮膚年齢と前記個人の環境的要因に基づき生成され、測定された各皮膚年齢を変換する段階は、所望の年齢に対応するように抽出された各形態を変換する段階を含み、年齢変換モデルを適用して複数の顔部位の測定された各皮膚年齢を変換する段階;
    変換された各形態に基づき、変換された複数の顔部位映像を復元する段階;
    年齢変換された人の映像を生成するように復元された複数の顔部位の映像を合成する段階
    他の個人の環境的要因を指定する段階;
    複数の顔部位の各皮膚年齢と前記個人の環境的要因に基づく年齢変換された人の顔映像と複数の顔部位の各皮膚年齢と前記他の個人の環境的要因に基づく別の年齢変換された人の顔映像との比較を生成する段階;を含み、
    前記データベースを用いて環境別の年齢関数を学習する段階;をさらに含み、
    測定された各皮膚年齢を変換する段階は、前記環境別の年齢関数を用いる、
    複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換方法。
  2. 前記入力される人の顔映像に基づいて複数の顔部位の各皮膚年齢を測定する段階は、
    抽出された各顔部位の特徴に基づき、複数の顔部位の各皮膚年齢をそれぞれ推定する段階をさらにみ、
    前記各顔部位の特徴は、入力される顔映像の複数の顔部位の各テクスチャーをさらに含む、
    請求項1に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換方法。
  3. 各皮膚年齢を測定する段階では、
    顔部位の形態とテクスチャーに対する各皮膚年齢を測定する、
    請求項2に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換方法。
  4. 各皮膚年齢を変換する段階では、
    年齢変換モデルが、複数の顔部位のテクスチャーに対する各皮膚年齢をさらに変換する、
    請求項3に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換方法。
  5. 前記復元された複数の顔部位の映像を合成する段階は、
    各皮膚年齢を変換する段階に起因する各テクスチャーに対して年齢変換された複数の顔部位の映像を合成する段階;及び
    合成された映像を年齢変換された顔部位の形態と結合してワーピングする段階を含む、
    請求項4に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換方法。
  6. 前記個人の環境的要因は、
    個人の健康、体形、職業、生活習慣、人種、地域の少なくとも一つである、
    請求項1に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換方法。
  7. 比較を生成する段階は、比較を視覚的に生成する段階を含む、
    請求項1に記載の年齢変換方法。
  8. 請求項1に記載の年齢変換方法を遂行するための、コンピュータプログラムが記録されたコンピュータ読取可能な記録媒体。
  9. 年齢測定部は、入力される顔映像を複数の顔部位に細分化する細分化部、各顔部位から各顔部位の特徴を抽出する抽出部を含み、前記各顔部位の特徴は、入力される顔映像の複数の顔部位の各形態を含み、入力される人の顔映像に基づいて複数の顔部位の各皮膚年齢を測定する年齢測定部;
    環境的要因に応じて顔映像を分類したデータベースを構築するデータベース構築部;
    前記データベースに基づき自動で個人の環境的要因を指定する環境選択部;
    年齢変換モデルは複数の顔部位の各皮膚年齢と前記個人の環境的要因に基づき生成され、測定された各皮膚年齢を変換することは、所望の年齢に対応するように抽出された各形態を変換することを含み、年齢変換モデルを適用して複数の顔部位の測定された各皮膚年齢を変換する年齢変換部;
    変換された各形態に基づき、変換された複数の顔部位映像を復元する映像復元部;
    年齢変換された人の映像を生成するように復元された複数の顔部位の映像を合成するシミュレーション部を含む顔年齢変換装置であって
    環境選択部は、他の個人の環境的要因を指定するようにさらに構成され;
    顔年齢変換装置は、複数の顔部位の各皮膚年齢と前記個人の環境的要因に基づく年齢変換された人の顔映像と複数の顔部位の各皮膚年齢と前記他の個人の環境的要因に基づく別の年齢変換された人の顔映像との比較を生成するように構成された比較部をさらに含み、
    学習部は、前記データベースを用いて環境別の年齢関数を学習するように構成され、
    年齢変換部は、前記環境別の年齢関数を用いて測定された各皮膚年齢を変換するようにさらに構成される、
    複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  10. 前記年齢測定部は、
    抽出された各顔部位の特徴に基づき、複数の顔部位の各皮膚年齢をそれぞれ推定する年齢推定部を含む、
    請求項に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  11. 前記年齢推定部は、
    複数の顔部位の形態に対する各皮膚年齢を測定する顔形態測定部;及び
    複数の顔部位のテクスチャーに対する各皮膚年齢を測定するテクスチャー測定部を含む、
    請求項10に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  12. 前記年齢推定部では、
    年齢認識器及び皮膚測定センサーの少なくとも一つを利用する、
    請求項10に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  13. 前記年齢変換部では、
    複数の顔部位のテクスチャーに対する年齢をさらに変換する、
    請求項11に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  14. 前記シミュレーション部は、
    各皮膚年齢を変換することに起因する各テクスチャーに対して年齢変換された複数の顔部位の映像を合成する合成部;及び
    合成された映像を年齢変換された顔部位の形態と結合してワーピングするワーピング部を含む、
    請求項13に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  15. 環境選択部は、
    個人の健康、体形、職業、生活習慣、人種、地域の少なくとも一つを指定する、
    請求項に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
  16. 比較部はさらに比較を視覚的に生成するように構成される
    請求項に記載の複数の顔部位の各皮膚年齢と環境的要因に基づく年齢変換装置。
JP2018514817A 2015-09-22 2016-09-20 顔部位別の年齢と環境的要因に基づく年齢変換方法、これを遂行するための記録媒体、及び装置 Active JP6694504B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR10-2015-0133608 2015-09-22
KR1020150133608A KR101758825B1 (ko) 2015-09-22 2015-09-22 얼굴 부위별 나이와 환경적 요인을 기반으로 하는 나이 변환 방법, 이를 수행하기 위한 기록 매체 및 장치
US15/259,645 US10593083B2 (en) 2015-09-22 2016-09-08 Method for facial age simulation based on age of each part and environmental factors, recording medium and device for performing the method
US15/259,645 2016-09-08
PCT/KR2016/010464 WO2017052153A1 (ko) 2015-09-22 2016-09-20 얼굴 부위별 나이와 환경적 요인을 기반으로 하는 나이 변환 방법, 이를 수행하기 위한 기록 매체 및 장치

Publications (3)

Publication Number Publication Date
JP2018531449A JP2018531449A (ja) 2018-10-25
JP2018531449A6 JP2018531449A6 (ja) 2018-12-13
JP6694504B2 true JP6694504B2 (ja) 2020-05-13

Family

ID=58282779

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018514817A Active JP6694504B2 (ja) 2015-09-22 2016-09-20 顔部位別の年齢と環境的要因に基づく年齢変換方法、これを遂行するための記録媒体、及び装置

Country Status (5)

Country Link
US (1) US10593083B2 (ja)
JP (1) JP6694504B2 (ja)
KR (1) KR101758825B1 (ja)
CN (1) CN108140110B (ja)
WO (1) WO2017052153A1 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107491747A (zh) * 2017-08-08 2017-12-19 西南大学 基于回归分析和小波变换的人脸预测方法
CN107483636A (zh) * 2017-09-22 2017-12-15 百度在线网络技术(北京)有限公司 用于推送信息的方法和装置
CN108898587A (zh) * 2018-06-19 2018-11-27 Oppo广东移动通信有限公司 图片处理方法、图片处理装置及终端设备
CN108932493B (zh) * 2018-06-29 2022-01-28 东北大学 一种面部皮肤质量评价方法
KR102132275B1 (ko) * 2018-08-21 2020-07-09 주식회사 더마프로 딥러닝 기반 주름 평가 장치
CN109285205A (zh) * 2018-10-29 2019-01-29 重庆中科云丛科技有限公司 一种人脸互换方法、系统、计算机可读存储介质及设备
US11127176B2 (en) * 2019-01-31 2021-09-21 L'oreal Systems and methods for visualizing future skin trends based on biomarker analysis
CN109994206A (zh) * 2019-02-26 2019-07-09 华为技术有限公司 一种容貌预测方法及电子设备
KR102720807B1 (ko) * 2019-03-21 2024-10-23 김종호 개인 저장소 기반 미아추적 시스템과 방법
CN111507890B (zh) * 2020-04-13 2022-04-19 北京字节跳动网络技术有限公司 图像处理方法、装置、电子设备及计算机可读存储介质
CN113761985B (zh) * 2020-06-05 2025-03-04 中国科学院上海营养与健康研究所 用于确定影响面部衰老程度的局部区域的方法和装置
KR102498384B1 (ko) 2020-10-08 2023-02-10 (주)가시 나이변화에 따른 얼굴예측 및 ai를 활용한 cctv 기반의 실종자 검색방법
KR102942162B1 (ko) * 2021-09-16 2026-03-23 주식회사 엘지생활건강 인지 나이 예측 장치
KR102555166B1 (ko) * 2022-10-04 2023-07-12 인하대학교 산학협력단 매우 미세한 얼굴 피부 정보를 포함하는 얼굴 텍스처 생성 방법 및 시스템
CN116228571B (zh) * 2023-01-29 2026-01-30 厦门美图之家科技有限公司 一种人像视频皱纹祛除方法、装置以及设备
CN121811460A (zh) * 2024-09-29 2026-04-07 株式会社资生堂 人脸衰老预测方法、装置、电子设备、存储介质和程序产品

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6437866B1 (en) * 1999-07-07 2002-08-20 Fd Management, Inc. System for assisting customers in selecting an optimum color cosmetic product
JP2001212087A (ja) * 2000-01-31 2001-08-07 Axiom Co Ltd 肌年齢算出装置および肌年齢算出方法
US20060274071A1 (en) 2004-09-29 2006-12-07 L'oreal Method of predicting the appearance of at least a portion of an individual's body
CN100386778C (zh) * 2006-06-15 2008-05-07 西安交通大学 基于平均脸和衰老比例图的人脸图像年龄变换方法
US8290257B2 (en) * 2007-03-02 2012-10-16 The Procter & Gamble Company Method and apparatus for simulation of facial skin aging and de-aging
JP2008242963A (ja) 2007-03-28 2008-10-09 Fujifilm Corp 健康分析表示方法及び健康分析表示装置
US8391639B2 (en) * 2007-07-23 2013-03-05 The Procter & Gamble Company Method and apparatus for realistic simulation of wrinkle aging and de-aging
WO2010028247A2 (en) 2008-09-04 2010-03-11 Elc Management Llc An objective model of apparent age, methods and use
CN101425138B (zh) * 2008-11-18 2011-05-18 北京航空航天大学 一种基于人脸超分辨率处理的人脸老化模拟方法
US9195815B2 (en) * 2011-06-17 2015-11-24 Dell Products Lp. Systems and methods for automated selection of a restricted computing environment based on detected facial age and/or gender
KR101700818B1 (ko) 2011-11-03 2017-02-01 한국전자통신연구원 얼굴 영상을 이용하여 나이 또는 성별을 추정하는 방법 및 장치
US9311564B2 (en) 2012-10-05 2016-04-12 Carnegie Mellon University Face age-estimation and methods, systems, and software therefor
KR101538231B1 (ko) 2013-11-28 2015-07-20 고려대학교 산학협력단 피부 나이 예측 방법 및 장치
JP2015114946A (ja) 2013-12-13 2015-06-22 沖電気工業株式会社 画像処理装置、プログラムおよび画像処理方法
KR101558547B1 (ko) 2014-01-27 2015-10-19 주식회사 에스원 얼굴 포즈 변화에 강한 연령 인식방법 및 시스템
KR101507081B1 (ko) 2014-05-23 2015-04-01 동국대학교 산학협력단 나이 추정 장치 및 방법
CN103984948B (zh) * 2014-06-03 2017-04-05 南京大学 一种基于人脸图像融合特征的软双层年龄估计方法
CN104537630A (zh) * 2015-01-22 2015-04-22 厦门美图之家科技有限公司 一种基于年龄估计的图像美颜方法和装置
JP2016161830A (ja) * 2015-03-03 2016-09-05 カシオ計算機株式会社 コンテンツ出力装置、コンテンツ出力方法及びプログラム

Also Published As

Publication number Publication date
JP2018531449A (ja) 2018-10-25
WO2017052153A1 (ko) 2017-03-30
US10593083B2 (en) 2020-03-17
KR20170035050A (ko) 2017-03-30
KR101758825B1 (ko) 2017-07-18
CN108140110A (zh) 2018-06-08
US20170084069A1 (en) 2017-03-23
CN108140110B (zh) 2022-05-03

Similar Documents

Publication Publication Date Title
CN108140110B (zh) 年龄转换方法、用于执行该方法的存储介质及装置
JP2018531449A6 (ja) 顔部位別の年齢と環境的要因に基づく年齢変換方法、これを遂行するための記録媒体、及び装置
US10489683B1 (en) Methods and systems for automatic generation of massive training data sets from 3D models for training deep learning networks
US11010896B2 (en) Methods and systems for generating 3D datasets to train deep learning networks for measurements estimation
JP6985403B2 (ja) 年齢容姿シミュレーションのための方法
US11507781B2 (en) Methods and systems for automatic generation of massive training data sets from 3D models for training deep learning networks
CN103649987B (zh) 脸印象分析方法、美容信息提供方法和脸图像生成方法
CN109325437B (zh) 图像处理方法、装置和系统
US10614623B2 (en) Methods and apparatuses for age appearance simulation
KR102014660B1 (ko) 개선된 나이 모델링 방법
US11798299B2 (en) Methods and systems for generating 3D datasets to train deep learning networks for measurements estimation
EP3485762A1 (en) Makeup assistance device and makeup assistance method
WO2019050808A1 (en) SCANNING AVATAR FROM A SINGLE IMAGE FOR REAL TIME REALIZATION
CN101652784B (zh) 模拟面部皮肤老化和去老化的方法
US11354844B2 (en) Digital character blending and generation system and method
CN105813548A (zh) 用于评估至少一个面部临床体征的方法
CN111814738A (zh) 基于人工智能的人脸识别方法、装置、计算机设备及介质
Sharma et al. Comparative analysis of CycleGAN and AttentionGAN on face aging application
CN110838042B (zh) 一种商品展示方法及系统
JP2022024565A (ja) 顔変化出力方法
CN118401967A (zh) 分析用户皮肤区域的图像的像素数据以确定皮肤油性的数字成像系统和方法
KR20240080687A (ko) 원샷 페이스 스왑을 통한 실시간 얼굴 특수 분장 장치 및 방법
JP2023155988A (ja) 鼻唇側影分析方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180509

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190814

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191008

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200207

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200417

R150 Certificate of patent or registration of utility model

Ref document number: 6694504

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250