JPWO2020255645A1 - 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびプログラム - Google Patents

3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびプログラム Download PDF

Info

Publication number
JPWO2020255645A1
JPWO2020255645A1 JP2021527505A JP2021527505A JPWO2020255645A1 JP WO2020255645 A1 JPWO2020255645 A1 JP WO2020255645A1 JP 2021527505 A JP2021527505 A JP 2021527505A JP 2021527505 A JP2021527505 A JP 2021527505A JP WO2020255645 A1 JPWO2020255645 A1 JP WO2020255645A1
Authority
JP
Japan
Prior art keywords
data
dimensional data
acquired
image pickup
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021527505A
Other languages
English (en)
Other versions
JP7276968B2 (ja
Inventor
孝浩 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Solution Innovators Ltd
Original Assignee
NEC Solution Innovators Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Solution Innovators Ltd filed Critical NEC Solution Innovators Ltd
Publication of JPWO2020255645A1 publication Critical patent/JPWO2020255645A1/ja
Application granted granted Critical
Publication of JP7276968B2 publication Critical patent/JP7276968B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

3次元データ更新装置1は、記憶装置71に記憶される顔の3次元データ71Aを、撮像装置70が撮像した人物の顔の撮像データ70Aに基づいて更新する。3次元データ更新装置1は、撮像装置70により撮像された撮像データ70Aを取得する撮像データ取得部2と、3次元データ71Aを記憶装置71から取得する3次元データ取得部3と、撮像データ取得部2が取得した撮像データ70Aと、3次元データ取得部3が取得した3次元データ71Aとを用いて、3次元データ71Aを調整する調整部4と、記憶装置71に記憶される3次元データ71Aを、調整部による調整後の3次元データ71Aに更新する更新部5と、を備える。

Description

本発明は、3次元データを対象人物に近似する顔形状に更新する3次元データ更新装置、顔向き推定装置、および3次元データ更新方法に関し、さらには、これらを実現するためのプログラムを記録したコンピュータ読み取り可能な記録媒体に関する。
近年、撮像装置で人物の顔を撮像して得られた撮像データから、例えば、その人物の顔の表情または感情を読み取る技術が提案されている。撮像データを用いて顔の表情などを読み取る場合、撮像データにおける顔の向きを考慮する必要がある。顔の向きを検出する技術として、例えば、特許文献1には、3次元モデルを用いて、顔の向きを推定する技術が開示されている。
また、特許文献2には、2次元顔画像から顔特徴点を抽出し、機械学習により生成される角度予測モデルを用いて、顔特徴点の座標から撮影された向きを特定する技術が開示されている。この機械学習では、正面向きの2次元顔画像を変換した3次元顔データの3次元相同モデルを、所定角度に回転させながらXY平面に射影することにより生成した、2次元相同モデルを生成して角度予測モデルを学習している。
国際公開第2018/168041号 特開2016−194892号公報
特許文献1に記載の従来の手法では、平均的な顔形状の3次元モデルが用いられる。この場合、人の顔は、目鼻立ちに個人差があるため、撮像された顔が3次元モデルと隔たりがある場合、精度よく顔の向きの推定できないおそれがある。また、特許文献2に記載の手法では、正面向きの2次元顔画像を3次元顔画像に変換しているため、高精度な3次元画像が得られず、顔の向き特定の結果の信頼度が低下するおそれがある。
本発明の目的の一例は、データ比較用の3次元データを高精度にする3次元データ更新装置、3次元データ更新方法、および、それを用いた顔向き推定装置、並びに、これらを実現するためのプログラムを記録したコンピュータ読み取り可能な記録媒体を提供することにある。
上記目的を達成するため、本発明の一側面における3次元データ更新装置は、
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新装置であって、
前記撮像装置により撮像された撮像データを取得する撮像データ取得部と、
前記3次元データを前記記憶装置から取得する3次元データ取得部と、
前記撮像データ取得部が取得した前記撮像データと、前記3次元データ取得部が取得した3次元データとを用いて、前記3次元データを調整する調整部と、
前記記憶装置に記憶される3次元データを、前記調整部による調整後の3次元データに更新する更新部と、
を備える、ことを特徴とする。
上記目的を達成するため、本発明の一側面における顔向き推定装置は、
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新装置であって、
前記撮像装置により撮像された撮像データを取得する撮像データ取得部と、
前記3次元データを前記記憶装置から取得する3次元データ取得部と、
前記撮像データ取得部が取得した前記撮像データと、前記3次元データ取得部が取得した3次元データとを用いて、前記3次元データを調整する調整部と、
前記記憶装置に記憶される3次元データを、前記調整部による調整後の3次元データに更新する更新部と、
を備える、ことを特徴とする。
また、上記目的を達成するため、本発明の一側面における3次元データ更新方法は、
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新方法であって、
前記撮像装置により撮像された撮像データを取得するステップと、
前記3次元データを前記記憶装置から取得するステップと、
取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整するステップと、
前記記憶装置に記憶される3次元データを、調整後の3次元データに更新するステップと、
を備える、ことを特徴とする。
更に、上記目的を達成するため、本発明の一側面におけるコンピュータ読み取り可能な記録媒体は、
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新するコンピュータに、
前記撮像装置により撮像された撮像データを取得するステップと、
前記3次元データを前記記憶装置から取得するステップと、
取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整するステップと、
前記記憶装置に記憶される3次元データを、調整後の3次元データに更新するステップと、
を実行させる命令を含む、プログラムを記録したことを特徴とする。
本発明によれば、平均的な顔形状の3次元データを撮像装置が撮像する人物に近似する顔形状に更新して、3次元データを高精度にすることができる。
図1は、実施形態における3次元データ更新装置の構成を示すブロック図である。 図2は、3次元データ更新装置を備えた顔向き推定装置の具体的構成を示す図である。 図3は、調整部が検出する特徴点を示す図である。 図4は、実施形態における3次元データ更新装置の動作を示すフロー図である。 図5は、実施形態における3次元データ更新装置および顔向き推定装置を実現するコンピュータの一例を示すブロック図である。
以下、本発明における一実施形態の3次元データ更新装置、3次元データ更新方法、および、顔向き推定装置について、図面を参照しながら説明する。
[装置構成]
図1は、本実施形態における3次元データ更新装置1の構成を示すブロック図である。
3次元データ更新装置1は、記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する装置である。3次元データ更新装置1は、撮像データ取得部2と、3次元データ取得部3と、調整部4と、更新部5と、を備えている。
撮像データ取得部2は、撮像装置により撮像された人物の顔の撮像データを取得する。
3次元データ取得部3は、3次元データを記憶装置から取得する。3次元データは、人物の顔の3次元画像データである。
調整部4は、撮像データ取得部2が取得した撮像データと、3次元データ取得部3が取得した3次元データとを用いて、3次元データを調整する。
更新部5は、記憶装置に記憶される3次元データを、調整部4による調整後の3次元データに更新する。
この3次元データ更新装置1は、平均的な顔形状の3次元データを撮像装置が撮像する人物に近似する顔形状に更新して、3次元データを高精度にすることができる。この3次元データを、例えば顔認証の認証用のデータに用いることで、認証精度を高めることができる。
続いて、図2および図3を用いて、本実施形態の3次元データ更新装置1の構成について具体的に説明する。本実施形態の3次元データ更新装置1は、顔向き推定装置の一部構成として用いられる。以下では、顔向き推定装置について具体的に説明することで、3次元データ更新装置1について説明する。なお、3次元データ更新装置1は、顔向き推定装置とは独立して設けられていてもよいし、3次元データを用いる他の装置の一部構成として用いられてもよい。
図2は、3次元データ更新装置1を備えた顔向き推定装置10の具体的構成を示す図である。顔向き推定装置10は、例えば自動車に搭載される。自動車には、撮像装置70が搭載されている。その撮像装置70は、少なくとも運転者(以下、対象人物と言う)の顔を撮像するように設置されている。顔向き推定装置10は、その撮像装置70と接続されている。なお、撮像装置70は、顔向き推定装置10のために設けられた装置でなくてもよい。
顔向き推定装置10は、3次元データ更新装置1と、角度推定部11とを備えている。3次元データ更新装置1は、上記したように、撮像データ取得部2と、3次元データ取得部3と、調整部4と、更新部5とを備えている。
撮像データ取得部2は、撮像装置70により撮像された対象人物の顔の撮像データ70Aを取得する。撮像装置70は、対象人物の顔を随時撮像する。撮像データ取得部2は、所定のタイミングで撮像データ70Aを随時取得する。
3次元データ取得部3は、記憶装置71から人物の顔の3次元データ71Aを取得する。記憶装置71には、予め3次元データ71Aが記憶されている。予め記憶装置71に記憶される3次元データ71Aは、平均的な顔形状の画像データである。
調整部4は、撮像データ取得部2が取得した撮像データ70Aと、3次元データ取得部3が取得した3次元データ71Aと用いて、3次元データ71Aの顔特徴点の位置座標を調整する。顔特徴点とは、顔を構成する器官(例えば、目、鼻、口など)の特徴点、例えば「鼻の頂点」などである。
具体的には、調整部4は、撮像データ70Aから対象人物の顔を検出する。調整部4は、例えばエッジ検出または形状パターン検出によって、撮像データ70Aにおける顔の候補領域を抽出する。調整部4は、抽出した候補領域を小領域に分割し、各小領域の特徴点を、顔認証パターンとパターン照合することで、顔を検出する。顔認証パターンは、外部からネットワークを介して取得してもよいし、3次元データ更新装置1内の記憶装置に記憶されていてもよい。
続いて、調整部4は、検出した撮像データ70Aから顔特徴点を検出する。図3は、調整部4が検出する特徴点を示す図である。例えば、調整部4は、撮像データ70Aにおいて、検出した顔から、「左の目じりの端」、「右の目じりの端」、「鼻の頂点」、「左の口角」、「右の口角」および「あご先」の6点の顔特徴点(図3の黒丸)を検出する。同様に、調整部4は、3次元データ取得部3が取得した3次元データ71Aから6点の顔特徴点を検出する。調整部4は、撮像データ70Aおよび3次元データ71Aそれぞれから検出した顔特徴点を比較して変化量を検出する。2次元データである撮像データ70Aと、3次元データ71Aとを比較して変化量を検出する手法は、射影変換などが挙げられる。
例えば、調整部4は、撮像データ70Aから検出した「左の目じりの端」の位置座標を、3次元データ71Aから検出した「左の目じりの端」の位置座標に合わせたときの、位置座標の変化量を検出する。調整部4は、他の顔特徴点についても同様に、位置座標の変化量を検出する。
調整部4は、「左の目じりの端」の位置座標の変化量を基準として、「鼻の頂点」の変化量が基準よりも大きいか小さいかを判定する。変化量が基準より大きい場合、調整部4は、撮像データ70Aの「鼻の頂点」の位置座標は、3次元データ71Aの「鼻の頂点」の位置座標より高いと判定する。この場合、調整部4は、3次元データ71Aにおける「鼻の頂点」の顔特徴点の位置座標を高くする。変化量が基準より小さい場合、調整部4は、撮像データ70Aの「鼻の頂点」の位置座標は、3次元データ71Aの「鼻の頂点」の位置座標より低いと判定する。この場合、調整部4は、3次元データ71Aにおける「鼻の頂点」の顔特徴点の位置座標を低くする。
また、「あご先」の位置座標の変化量を基準として、「左の口角」および「右の口角」それぞれの位置座標の変化量が基準よりも大きく、3次元データ71Aにおける顔の中心から外側に大きく動いた場合は、調整部4は、左右の口角は広いと判断して補正する。逆に、内側に大きく動いた場合は、調整部4は、左右の口角が狭いと判断して補正する。同様に、「左の目じりの端」および「右の目じりの端」については、「鼻の頂点」の位置座標の変化量を基準として、3次元データ71Aにおける顔の中心から内側または外側のどちらに大きく動いたかによって、目じりの端の間が狭いか広いかを判断して補正する。
更新部5は、記憶装置71に記憶されている3次元データ71Aを、調整部4が調整した3次元データに更新する。
角度推定部11は、撮像データ70A内の顔の角度を推定する。顔の角度は、対象人物が撮像装置70に対して正面を向いた状態を基準とする。角度推定部11は、撮像データ70A内の顔の複数の顔特徴点、例えば、鼻の先端、あご、左目の左隅、右目の右隅、口の左隅、および口の右隅の座標を検出する。そして、角度推定部11は、記憶装置71に記憶され、3次元データ更新装置1により更新される3次元データ71Aからも顔特徴点を検出する。角度推定部11は、撮像データ70Aから検出した顔特徴点と、3次元データ71Aから検出した顔特徴点とから、行列変換などの計算を行い、角度を求める。
[動作説明]
次に、本実施形態における3次元データ更新装置1の動作について説明する。図4は、本実施形態における3次元データ更新装置1の動作を示すフロー図である。本実施形態では、3次元データ更新装置1を動作させることによって、3次元データ更新方法が実施される。よって、本実施形態における3次元データ更新方法の説明は、以下の3次元データ更新装置1の動作説明に代える。
まず、前提として、撮像装置70により対象人物の顔が撮像される。この前提において、撮像データ取得部2は、撮像装置70により撮像された撮像データ70Aを取得する(S1)。次に、調整部4は、撮像データ70Aから顔特徴点を検出する(S2)。例えば、調整部4は、撮像データ70Aから、「左の目じりの端」、「右の目じりの端」、「鼻の頂点」、「左の口角」、「右の口角」および「あご先」の6点の顔特徴点を検出する。次に、3次元データ取得部3は、記憶装置71から3次元データ71Aを取得する(S3)。調整部4は、3次元データ71Aから、上記6点の顔特徴点を検出する(S4)。なお、撮像データ70Aおよび3次元データ71Aを取得する順序、顔特徴点を検出する順序はこれに限定されない。また、調整部4が検出する顔特徴点の種類および数も、これに限定されない。
調整部4は、検出した撮像データ70Aおよび3次元データ71Aそれぞれの顔特徴点の位置座標を比較して、位置座標の変位量を検出する(S5)。調整部4は、検出した位置座標の変化量に基づいて、3次元データ71Aの各顔特徴点の位置座標を調整する(S6)。更新部5は、記憶装置71に記憶される3次元データ71Aを、S6で調整された3次元データ71Aに更新する(S7)。
このように、平均的な顔形状の3次元データ71Aは、図4に示す動作を繰り返し実行することで、対象人物の顔形状に近似するようになる。この図4に示す動作は、顔向き推定装置10が対象人物の顔向きを推定するたびに実行されてもよいし、顔向き推定とは関係なく、定期的に実行されてもよい。
[実施形態による効果]
以上の構成の3次元データ更新装置1により、平均的な顔形状の3次元データ71Aを撮像装置が撮像する人物に近似する顔形状に更新して、3次元データ71Aを高精度にすることができる。この3次元データ71Aを、例えば顔認証の認証用のデータに用いることで、認証精度を高めることができる。
[プログラム]
本実施形態におけるプログラムは、コンピュータに、図4に示すステップS1〜S7を実行させるプログラムであればよい。このプログラムをコンピュータにインストールし、実行することによって、本実施形態における3次元データ更新装置1、顔向き推定装置10および3次元データ更新方法を実現することができる。この場合、コンピュータのプロセッサは、撮像データ取得部2、3次元データ取得部3、調整部4および更新部5として機能し、処理を行なう。
また、本実施形態におけるプログラムは、複数のコンピュータによって構築されたコンピュータシステムによって実行されてもよい。この場合は、例えば、各コンピュータが、それぞれ、撮像データ取得部2、3次元データ取得部3、調整部4および更新部5のいずれかとして機能してもよい。
[物理構成]
ここで、本実施形態におけるプログラムを実行することによって、3次元データ更新装置1および顔向き推定装置10を実現するコンピュータについて図5を用いて説明する。図5は、本実施形態における3次元データ更新装置1および顔向き推定装置10を実現するコンピュータの一例を示すブロック図である。
図5に示すように、コンピュータ110は、CPU111と、メインメモリ112と、記憶装置113と、入力インターフェイス114と、表示コントローラ115と、データリーダ/ライタ116と、通信インターフェイス117とを備える。これらの各部は、バス125を介して、互いにデータ通信可能に接続される。なお、コンピュータ110は、CPU111に加えて、またはCPU111に代えて、GPU(Graphics Processing Unit)、またはFPGA(Field-Programmable Gate Array)を備えていてもよい。
CPU111は、記憶装置113に格納された、本実施形態におけるプログラム(コード)をメインメモリ112に展開し、これらを所定順序で実行することにより、各種の演算を実施する。メインメモリ112は、典型的には、DRAM(Dynamic Random Access Memory)等の揮発性の記憶装置である。また、本実施形態におけるプログラムは、コンピュータ読み取り可能な記録媒体120に格納された状態で提供される。なお、本実施形態におけるプログラムは、通信インターフェイス117を介して接続されたインターネット上で流通するものであってもよい。
また、記憶装置113の具体例としては、ハードディスクドライブの他、フラッシュメモリ等の半導体記憶装置が挙げられる。入力インターフェイス114は、CPU111と、キーボード及びマウスといった入力機器118との間のデータ伝送を仲介する。表示コントローラ115は、ディスプレイ装置119と接続され、ディスプレイ装置119での表示を制御する。
データリーダ/ライタ116は、CPU111と記録媒体120との間のデータ伝送を仲介し、記録媒体120からのプログラムの読み出し、及びコンピュータ110における処理結果の記録媒体120への書き込みを実行する。通信インターフェイス117は、CPU111と、他のコンピュータとの間のデータ伝送を仲介する。
また、記録媒体120の具体例としては、CF(Compact Flash(登録商標))およびSD(Secure Digital)等の汎用的な半導体記憶デバイス、フレキシブルディスク(Flexible Disk)等の磁気記録媒体、またはCD−ROM(Compact Disk Read Only Memory)などの光学記録媒体が挙げられる。
なお、本実施形態における顔向き推定装置10は、プログラムがインストールされたコンピュータではなく、各部に対応したハードウェアを用いることによっても実現可能である。更に、3次元データ更新装置1および顔向き推定装置10は、一部がプログラムで実現され、残りの部分がハードウェアで実現されていてもよい。
上述した実施形態の一部または全部は、以下に記載する(付記1)〜(付記10)によって表現することができるが、以下の記載に限定されるものではない。
(付記1)
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新装置であって、
前記撮像装置により撮像された撮像データを取得する撮像データ取得部と、
前記3次元データを前記記憶装置から取得する3次元データ取得部と、
前記撮像データ取得部が取得した前記撮像データと、前記3次元データ取得部が取得した3次元データとを用いて、前記3次元データを調整する調整部と、
前記記憶装置に記憶される3次元データを、前記調整部による調整後の3次元データに更新する更新部と、
を備える、ことを特徴とする3次元データ更新装置。
(付記2)
付記1に記載の3次元データ更新装置であって、
前記調整部は、前記3次元データ内の顔特徴点の位置座標を調整する、
ことを特徴とする3次元データ更新装置。
(付記3)
付記2に記載の3次元データ更新装置であって、
前記調整部は、
前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点の位置座標を調整する、
ことを特徴とする3次元データ更新装置。
(付記4)
撮像装置が撮像した対象の顔の撮像データと、記憶装置に記憶される3次元データとを比較して、前記対象人物の顔の角度を推定する顔向き推定装置であって、
前記撮像装置により撮像された撮像データを取得する撮像データ取得部と、
前記3次元データを前記記憶装置から取得する3次元データ取得部と、
前記撮像データ取得部が取得した前記撮像データと、前記3次元データ取得部が取得した3次元データとを用いて、前記3次元データを調整する調整部と、
前記記憶装置に記憶される3次元データを、前記調整部による調整後の3次元データに更新する更新部と、
を備える、ことを特徴とする顔向き推定装置。
(付記5)
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新方法であって、
前記撮像装置により撮像された撮像データを取得するステップと、
前記3次元データを前記記憶装置から取得するステップと、
取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整するステップと、
前記記憶装置に記憶される3次元データを、調整後の3次元データに更新するステップと、
を有することを特徴とする3次元データ更新方法。
(付記6)
付記5に記載の3次元データ更新方法であって、
前記取得した3次元データを調整するするステップでは、前記3次元データ内の顔特徴点の位置座標を調整する、
ことを特徴とする3次元データ更新方法。
(付記7)
付記6に記載の3次元データ更新方法であって、
前記取得した3次元データを調整するするステップでは、
前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点の位置座標を調整する、
ことを特徴とする3次元データ更新方法。
(付記8)
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新するコンピュータに、
前記撮像装置により撮像された撮像データを取得するステップと、
前記3次元データを前記記憶装置から取得するステップと、
取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整するステップと、
前記記憶装置に記憶される3次元データを、調整後の3次元データに更新するステップと、
を実行させる命令を含むプログラムを記録した、コンピュータ読み取り可能な記録媒体。
(付記9)
付記8に記載のコンピュータ読み取り可能な記録媒体であって、
前記プログラムは、
前記コンピュータに、
前記取得した3次元データを調整させるときは、前記3次元データ内の顔特徴点の位置座標を調整するステップ、
を実行させる命令を含む、コンピュータ読み取り可能な記録媒体。
(付記10)
付記9に記載のコンピュータ読み取り可能な記録媒体であって、
前記取得した3次元データを調整するステップでは、
前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点を調整する、
コンピュータ読み取り可能な記録媒体。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記実施の形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2019年6月20日に出願された日本出願特願2019-114767を基礎とする優先権を主張し、その開示の全てをここに取り込む。
以上のように、本発明によれば、予め記憶した3次元データと、撮像して得られる撮像データとを比較する技術に利用できる。
1 3次元データ更新装置
2 撮像データ取得部
3 3次元データ取得部
4 調整部
5 更新部
10 顔向き推定装置
11 角度推定部
70 撮像装置
70A 撮像データ
71 記憶装置
71A 3次元データ
110 コンピュータ
111 CPU
112 メインメモリ
113 記憶装置
114 入力インターフェイス
115 表示コントローラ
116 データリーダ/ライタ
117 通信インターフェイス
118 入力機器
119 ディスプレイ装置
120 記録媒体
125 バス
本発明は、3次元データを対象人物に近似する顔形状に更新する3次元データ更新装置、顔向き推定装置、および3次元データ更新方法に関し、さらには、これらを実現するためのプログラムに関する。
本発明の目的の一例は、データ比較用の3次元データを高精度にする3次元データ更新装置、3次元データ更新方法、および、それを用いた顔向き推定装置、並びに、これらを実現するためのプログラムを提供することにある。
更に、上記目的を達成するため、本発明の一側面におけるプログラムは、
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新するコンピュータに、
前記撮像装置により撮像された撮像データを取得するステップと、
前記3次元データを前記記憶装置から取得するステップと、
取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整するステップと、
前記記憶装置に記憶される3次元データを、調整後の3次元データに更新するステップと、
を実行させる命令を含む、ことを特徴とする。
(付記8)
記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新するコンピュータに、
前記撮像装置により撮像された撮像データを取得するステップと、
前記3次元データを前記記憶装置から取得するステップと、
取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整するステップと、
前記記憶装置に記憶される3次元データを、調整後の3次元データに更新するステップと、
を実行させる命令を含むプログラム。
(付記9)
付記8に記載のプログラムであって、
記コンピュータに、
前記取得した3次元データを調整させるときは、前記3次元データ内の顔特徴点の位置座標を調整するステップ、
を実行させる命令を含む、プログラム
(付記10)
付記9に記載のプログラムであって、
前記取得した3次元データを調整するステップでは、
前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点を調整する、
プログラム

Claims (10)

  1. 記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新装置であって、
    前記撮像装置により撮像された撮像データを取得する撮像データ取得手段と、
    前記3次元データを前記記憶装置から取得する3次元データ取得手段と、
    前記撮像データ取得手段が取得した前記撮像データと、前記3次元データ取得手段が取得した3次元データとを用いて、前記3次元データを調整する調整手段と、
    前記記憶装置に記憶される3次元データを、前記調整手段による調整後の3次元データに更新する更新手段と、
    を備える、3次元データ更新装置。
  2. 請求項1に記載の3次元データ更新装置であって、
    前記調整手段は、前記3次元データ内の顔特徴点の位置座標を調整する、
    3次元データ更新装置。
  3. 請求項2に記載の3次元データ更新装置であって、
    前記調整手段は、
    前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点の位置座標を調整する、
    3次元データ更新装置。
  4. 撮像装置が撮像した対象の顔の撮像データと、記憶装置に記憶される3次元データとを比較して、前記対象人物の顔の角度を推定する顔向き推定装置であって、
    前記撮像装置により撮像された撮像データを取得する撮像データ取得手段と、
    前記3次元データを前記記憶装置から取得する3次元データ取得手段と、
    前記撮像データ取得手段が取得した前記撮像データと、前記3次元データ取得手段が取得した3次元データとを用いて、前記3次元データを調整する調整手段と、
    前記記憶装置に記憶される3次元データを、前記調整手段による調整後の3次元データに更新する更新手段と、
    を備える、顔向き推定装置。
  5. 記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新する3次元データ更新方法であって、
    前記撮像装置により撮像された撮像データを取得し、
    前記3次元データを前記記憶装置から取得し、
    取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整し、
    前記記憶装置に記憶される3次元データを、調整後の3次元データに更新する、
    3次元データ更新方法。
  6. 請求項5に記載の3次元データ更新方法であって、
    前記取得した3次元データを調整するときは、前記3次元データ内の顔特徴点の位置座標を調整する、
    3次元データ更新方法。
  7. 請求項6に記載の3次元データ更新方法であって、
    前記取得した3次元データを調整するときは、
    前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点の位置座標を調整する、
    3次元データ更新方法。
  8. 記憶装置に記憶される顔の3次元データを、撮像装置が撮像した人物の顔の撮像データに基づいて更新するコンピュータに、
    前記撮像装置により撮像された撮像データを取得させ、
    前記3次元データを前記記憶装置から取得させ、
    取得した前記撮像データと、取得した3次元データとを用いて、前記3次元データを調整させ、
    前記記憶装置に記憶される3次元データを、調整後の3次元データに更新させる、
    命令を含むプログラムを記録した、コンピュータ読み取り可能な記録媒体。
  9. 請求項8に記載のコンピュータ読み取り可能な記録媒体であって、
    前記プログラムは、
    前記コンピュータに、
    前記取得した3次元データを調整させるときは、前記3次元データ内の顔特徴点の位置座標を調整させる、
    命令を含む、コンピュータ読み取り可能な記録媒体。
  10. 請求項9に記載のコンピュータ読み取り可能な記録媒体であって、
    前記取得した3次元データを調整させるときは、
    前記撮像データおよび前記3次元データそれぞれの顔特徴点を検出し、検出した顔特徴点を比較して変化量を検出し、前記変化量を用いて、前記3次元データの顔特徴点を調整させる、
    コンピュータ読み取り可能な記録媒体。
JP2021527505A 2019-06-20 2020-05-26 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびプログラム Active JP7276968B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019114767 2019-06-20
JP2019114767 2019-06-20
PCT/JP2020/020747 WO2020255645A1 (ja) 2019-06-20 2020-05-26 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JPWO2020255645A1 true JPWO2020255645A1 (ja) 2021-11-25
JP7276968B2 JP7276968B2 (ja) 2023-05-18

Family

ID=74037105

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021527505A Active JP7276968B2 (ja) 2019-06-20 2020-05-26 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびプログラム

Country Status (2)

Country Link
JP (1) JP7276968B2 (ja)
WO (1) WO2020255645A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023144950A1 (ja) 2022-01-27 2023-08-03 三菱電機株式会社 調整装置、顔向き推定装置、および、調整方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009199417A (ja) * 2008-02-22 2009-09-03 Denso Corp 顔追跡装置及び顔追跡方法
US20150042743A1 (en) * 2013-08-09 2015-02-12 Samsung Electronics, Ltd. Hybrid visual communication
US20160148425A1 (en) * 2014-11-25 2016-05-26 Samsung Electronics Co., Ltd. Method and apparatus for generating personalized 3d face model
US20170018088A1 (en) * 2015-07-14 2017-01-19 Samsung Electronics Co., Ltd. Three dimensional content generating apparatus and three dimensional content generating method thereof
US20190164341A1 (en) * 2017-11-27 2019-05-30 Fotonation Limited Systems and Methods for 3D Facial Modeling

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009199417A (ja) * 2008-02-22 2009-09-03 Denso Corp 顔追跡装置及び顔追跡方法
US20150042743A1 (en) * 2013-08-09 2015-02-12 Samsung Electronics, Ltd. Hybrid visual communication
US20160148425A1 (en) * 2014-11-25 2016-05-26 Samsung Electronics Co., Ltd. Method and apparatus for generating personalized 3d face model
US20170018088A1 (en) * 2015-07-14 2017-01-19 Samsung Electronics Co., Ltd. Three dimensional content generating apparatus and three dimensional content generating method thereof
US20190164341A1 (en) * 2017-11-27 2019-05-30 Fotonation Limited Systems and Methods for 3D Facial Modeling

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
ブレイドアンドソウル プレイングガイド, JPN6022046863, 21 June 2014 (2014-06-21), pages 58, ISSN: 0004916122 *

Also Published As

Publication number Publication date
JP7276968B2 (ja) 2023-05-18
WO2020255645A1 (ja) 2020-12-24

Similar Documents

Publication Publication Date Title
KR102702357B1 (ko) 눈 피처들을 사용한 눈 포즈 식별
JP4830650B2 (ja) 追跡装置
US9519968B2 (en) Calibrating visual sensors using homography operators
JP5554984B2 (ja) パターン認識方法およびパターン認識装置
US11138419B2 (en) Distance image processing device, distance image processing system, distance image processing method, and non-transitory computer readable recording medium
JP2019028843A (ja) 人物の視線方向を推定するための情報処理装置及び推定方法、並びに学習装置及び学習方法
US9727776B2 (en) Object orientation estimation
JP7064257B2 (ja) 画像深度確定方法及び生き物認識方法、回路、装置、記憶媒体
JPWO2009091029A1 (ja) 顔姿勢推定装置、顔姿勢推定方法、及び、顔姿勢推定プログラム
KR20170014491A (ko) 움직임 인식 방법 및 움직임 인식 장치
US10964046B2 (en) Information processing apparatus and non-transitory computer readable medium storing information processing program for estimating face orientation by using an omni-directional camera
JPWO2018078857A1 (ja) 視線推定装置、視線推定方法及びプログラム記録媒体
US20230196593A1 (en) High Density Markerless Tracking
CN112017212A (zh) 人脸关键点跟踪模型的训练、跟踪方法及系统
JP2009064395A (ja) ポインティングデバイス、操作者の注視位置とカーソルの位置との誤差の補正をコンピュータに実行させるためのプログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
WO2020255645A1 (ja) 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびコンピュータ読み取り可能な記録媒体
US11941498B2 (en) Facial motion detection and image correction method and apparatus
JP2021144359A (ja) 学習装置、推定装置、学習方法、及びプログラム
JP7327776B2 (ja) 表情推定装置、感情判定装置、表情推定方法及びプログラム
KR102538685B1 (ko) 다시점 정보를 이용하여 3d 정보를 복원하는 방법 및 이를 위한 장치
US20170109569A1 (en) Hybrid face recognition based on 3d data
KR102074977B1 (ko) 전자 장치 및 그의 제어 방법
JP2020135078A (ja) 追跡装置、追跡方法、及びプログラム
WO2020095400A1 (ja) 特徴点抽出装置、特徴点抽出方法およびプログラム記憶媒体
WO2024070610A1 (ja) 情報処理方法及び情報処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210716

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220829

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230207

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20230207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230208

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20230208

C609 Written withdrawal of request for trial/appeal

Free format text: JAPANESE INTERMEDIATE CODE: C609

Effective date: 20230210

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230216

C092 Termination of reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C092

Effective date: 20230221

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20230221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230427

R151 Written notification of patent or utility model registration

Ref document number: 7276968

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151