JP2015149016A - 視線変換装置、視線変換方法及びプログラム - Google Patents
視線変換装置、視線変換方法及びプログラム Download PDFInfo
- Publication number
- JP2015149016A JP2015149016A JP2014022718A JP2014022718A JP2015149016A JP 2015149016 A JP2015149016 A JP 2015149016A JP 2014022718 A JP2014022718 A JP 2014022718A JP 2014022718 A JP2014022718 A JP 2014022718A JP 2015149016 A JP2015149016 A JP 2015149016A
- Authority
- JP
- Japan
- Prior art keywords
- image
- subject
- eye
- sight
- line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 61
- 238000000034 method Methods 0.000 title claims description 67
- 230000008859 change Effects 0.000 claims abstract description 54
- 238000012545 processing Methods 0.000 claims abstract description 33
- 230000008569 process Effects 0.000 claims description 25
- 238000012360 testing method Methods 0.000 claims description 6
- 238000004519 manufacturing process Methods 0.000 claims description 2
- 230000000007 visual effect Effects 0.000 claims description 2
- 238000000605 extraction Methods 0.000 abstract description 13
- 239000000203 mixture Substances 0.000 abstract description 4
- 239000002131 composite material Substances 0.000 abstract description 3
- 239000000284 extract Substances 0.000 abstract description 2
- 230000015572 biosynthetic process Effects 0.000 description 41
- 238000003786 synthesis reaction Methods 0.000 description 41
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 15
- 230000009466 transformation Effects 0.000 description 15
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 14
- 238000001514 detection method Methods 0.000 description 11
- 230000002194 synthesizing effect Effects 0.000 description 8
- 210000001747 pupil Anatomy 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 230000009467 reduction Effects 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 241001469893 Oxyzygonectes dovii Species 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 210000000744 eyelid Anatomy 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Circuits (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】視線変換装置10において、対象画像取得部11は、被験者の顔の画像を含む視線変換対象画像を取得し、参照画像記憶部12は、予め登録された被験者の視線が正面方向を向いた顔の画像を含む参照画像を記憶し、特徴点抽出部13は、視線変換対象画像及び参照画像から特徴点を抽出し、テクスチャ合成部14は、視線変換対象画像(合成対象画像)に含まれる被験者の目の画像に対し、被験者の視線を正面方向に向ける加工を行うことにより、合成結果画像を生成し、形状変化部15は、合成結果画像(変化対象画像)に含まれる被験者の目の画像に対し、目の形状を変化させる加工を行うことにより、変化結果画像を生成し、結果画像出力部16は、変化結果画像(視線変換結果画像)を出力する。
【選択図】図1
Description
本実施の形態では、目の内部テクスチャや形状の変更により、他方向に視線を向けた顔画像から正面方向に視線を向けた顔画像を生成する。
図1は、このような視線変換を実現する視線変換装置10の機能構成例を示したブロック図である。図示するように、視線変換装置10は、対象画像取得部11と、参照画像記憶部12と、特徴点抽出部13と、テクスチャ合成部14と、形状変化部15と、結果画像出力部16とを備える。
図2は、視線変換装置10の動作例を示したフローチャートである。
図2のステップ101では、特徴点抽出部13が、一般的な目の特徴点抽出器を用いて、視線変換対象画像及び参照画像から目の特徴点を抽出する。図3(a),(b)は、一般的な目の特徴点抽出器により抽出した特徴点の例を示した図である。図中、目の中心部及び周辺部の白丸が特徴点を表す。
本実施の形態では、テクスチャ合成部14が、目の内部テクスチャの合成により、他方向に視線を向けた顔画像から正面方向に視線を向けた顔画像を生成する。
図2のステップ102では、テクスチャ合成部14が、特徴点抽出部13が抽出した特徴点を使用し、三角パッチ毎に参照画像中の目の内部テクスチャを合成対象画像中に合成する。図4は、このときに用いられる三角パッチの例を示した図である。図中、太い斜線を施した円が瞳孔を表し、細い斜線を施した円が虹彩を表し、破線が目と瞼の境界を表し、瞳孔及び境界上の白丸が特徴点を表す。
本実施の形態では、テクスチャ合成部14が、正面方向を向いた顔画像を作成するにあたり、前節で示したように、合成対象画像の目の内部テクスチャを参照画像のものに変更する。しかし、その際、合成対象画像における参照画像のテクスチャに置き換えられた領域と参照画像のテクスチャに置き換えられていない領域との境界部分では輝度値が極端に変化し、違和感が生じる。
ところで、本実施の形態のように目の内部テクスチャの合成により視線を変更した場合、顔を正面から撮影した際には、図7−1(c)のように、視線が変化しても目の形状は大きく変わらず、合成結果画像は自然に仕上がる。これに対し、顔を上方から撮影した際には、図7−2(f)のように、視線の変化に伴い目の形状が大きく変化し、合成結果画像は視線が正面を向いたものとは捉え難く違和感が大きくなる。
本実施の形態では、目及びその周辺領域の形状を正面方向に視線を向けたものに変換するにあたり、特徴点抽出器で抽出した顔画像中の特徴点を用いたワーピングを行う。尚、この特徴点は、目の内部テクスチャを合成するにあたり、図2のステップ101で取得しているので、ワーピングに際して新たに取得しない。
図2のステップ103では、前節で取得した初期点、目標点を使用してワーピングを行うことにより、目の形状変化を実現する。本実施の形態では、特徴点ベースの形状変化手法としてBスプライン(B-spline)基底関数を使用したFFD(Free-Form Deformation)法を使用してワーピングを実現する。Bスプライン基底関数を使用したFFD法は滑らかな形状変化を実現する手法であるため、顔画像のワーピングに多く使用されており、今回は第一候補として使用したが、ワーピング手法としては他の手法を用いてもよい。本実施の形態の内容には直接影響しないため、ここではFFD法についての詳細な説明は省略する。FFD法以外のワーピング手法の候補としては放射基底関数等を用いたものが考えられる。
図12は、視線変換装置10の他の機能構成例を示したブロック図である。この視線変換装置10は、図1に示した視線変換装置10と同様に、対象画像取得部11と、参照画像記憶部12と、特徴点抽出部13と、テクスチャ合成部14と、形状変化部15と、結果画像出力部16とを備え、これらの処理部の機能も図1に示したものと同様である。テクスチャ合成部14と形状変化部15の順番が入れ替わっている点だけが、図1の視線変換装置10とは異なる。この例では、形状変化部15が第1の生成手段の一例であり、テクスチャ合成部14が第2の生成手段の一例である。
図13は、視線変換装置10の他の動作例を示したフローチャートである。このフローチャートは、図2に示したフローチャートと同様に、ステップ101と、ステップ102と、ステップ103とを含み、これらのステップでの処理も図2に示したものと同様である。ステップ102とステップ103の順番が入れ替わっている点だけが、図2のフローチャートとは異なる。
図14は、これまで述べた内容に加えて、画像の取得から出力までを行う画像処理装置20の構成例を示した図である。画像処理装置20は、被験者の顔の画像を含む画像データを用いて、被験者の視線方向を変換する装置である。そのため、画像処理装置20は、図示するように、画像取得部21と、顔検出処理部22と、目領域検出部23と、視線方向検出部24と、処理続行判断部25と、視線方向変換部26とを備える。また、画像処理装置20は、キーボード/マウス96(図15参照)等に相当する画像入力装置30と、ディスプレイ95(図15参照)等に相当する画像表示装置40とに接続されている。
図15は、本実施の形態を実現するコンピュータ90のハードウェア構成例を示した図である。図示するように、コンピュータ90は、演算手段であるCPU91と、記憶手段であるメインメモリ92及び磁気ディスク装置93とを備える。ここで、CPU91は、OS(Operating System)やアプリケーション等の各種ソフトウェアを実行し、上述した視線変換装置10及び画像処理装置20の処理部を実現する。また、メインメモリ92は、各種ソフトウェアやその実行に用いるデータ等を記憶し、磁気ディスク装置93は、各種ソフトウェアに対する入力データや各種ソフトウェアからの出力データ等を記憶し、これらの一方又は両方が上述した視線変換装置10及び画像処理装置20の記憶部を実現する。更に、コンピュータ90は、外部との通信を行うためのネットワークI/F94と、情報を表示するためのデバイスであるディスプレイ95と、情報を入力するためのデバイスであるキーボード/マウス96とを備える。
Claims (12)
- 被験者の顔の画像を含む入力画像を取得する取得手段と、
予め登録された前記被験者の視線が正面方向を向いた顔の画像を含む登録画像を用いて、前記入力画像に含まれる前記被験者の目の画像に対し、前記被験者の視線を正面方向に向ける第1の加工を行うことにより、第1の画像を生成する第1の生成手段と、
前記登録画像を用いて、前記第1の画像に含まれる前記被験者の目の画像に対し、当該目の形状を変化させる第2の加工を行うことにより、第2の画像を生成する第2の生成手段と、
前記第2の画像を出力する出力手段と
を備えたことを特徴とする視線変換装置。 - 前記第1の生成手段は、前記登録画像に含まれる前記被験者の目の画像の部分画像である登録部分画像を、前記入力画像に含まれる前記被験者の目の画像の部分画像であって当該登録部分画像に対応する部分画像である入力部分画像に重ねる前記第1の加工を行うことを特徴とする請求項1に記載の視線変換装置。
- 前記第1の生成手段は、前記登録画像に含まれる前記被験者の目の画像上の当該目の中心点である登録中心点が、前記入力画像に含まれる前記被験者の目の画像上の当該目の中心点である入力中心点に略一致するように、当該登録中心点を通る境界を有する前記登録部分画像の形状及び位置を、当該入力中心点を通る境界を有する前記入力部分画像の形状及び位置に変化させた後に、当該登録部分画像を当該入力部分画像に重ねることを特徴とする請求項2に記載の視線変換装置。
- 前記第1の生成手段は、前記入力画像に含まれる前記被験者の目の画像上で当該目の中心部から遠ざかるに従って前記登録画像に含まれる前記被験者の目の画像から前記入力画像に含まれる前記被験者の目の画像に徐々に変化するように、前記登録画像に含まれる前記被験者の目の画像を、前記入力画像に含まれる前記被験者の目の画像に重ねる前記第1の加工を行うことを特徴とする請求項1に記載の視線変換装置。
- 前記第1の生成手段は、前記入力画像に含まれる前記被験者の顔の画像上の当該被験者の目の外側の予め決められた位置まで、前記第1の加工を行うことを特徴とする請求項4に記載の視線変換装置。
- 前記第2の生成手段は、前記第1の画像に含まれる前記被験者の目の画像の形状が、前記登録画像に含まれる前記被験者の目の画像の形状に略一致するように、前記目の形状を変化させる前記第2の加工を行うことを特徴とする請求項1に記載の視線変換装置。
- 前記第2の生成手段は、前記第1の画像に含まれる前記被験者の目の画像の形状を表す複数の点を初期点とし、前記登録画像に含まれる前記被験者の目の画像の形状を表す複数の点を前記第1の画像に含まれる前記被験者の目の画像の形状に位置合わせして得られた前記第1の画像上の複数の点を目標点として、当該初期点から当該目標点へのワーピングを行うことにより、前記目の形状を変化させることを特徴とする請求項6に記載の視線変換装置。
- 被験者の顔の画像を含む入力画像を取得する取得手段と、
予め登録された前記被験者の視線が正面方向を向いた顔の画像を含む登録画像を用いて、前記入力画像に含まれる前記被験者の目の画像に対し、当該目の形状を変化させる第1の加工を行うことにより、第1の画像を生成する第1の生成手段と、
前記登録画像を用いて、前記第1の画像に含まれる前記被験者の目の画像に対し、前記被験者の視線を正面方向に向ける第2の加工を行うことにより、第2の画像を生成する第2の生成手段と、
前記第2の画像を出力する出力手段と
を備えたことを特徴とする視線変換装置。 - 被験者の顔の画像を含む入力画像を取得するステップと、
予め登録された前記被験者の視線が正面方向を向いた顔の画像を含む登録画像を用いて、前記入力画像に含まれる前記被験者の目の画像に対し、前記被験者の視線を正面方向に向ける第1の加工を行うことにより、第1の画像を生成するステップと、
前記登録画像を用いて、前記第1の画像に含まれる前記被験者の目の画像に対し、当該目の形状を変化させる第2の加工を行うことにより、第2の画像を生成するステップと、
前記第2の画像を出力するステップと
を含むことを特徴とする視線変換方法。 - 被験者の顔の画像を含む入力画像を取得するステップと、
予め登録された前記被験者の視線が正面方向を向いた顔の画像を含む登録画像を用いて、前記入力画像に含まれる前記被験者の目の画像に対し、当該目の形状を変化させる第1の加工を行うことにより、第1の画像を生成するステップと、
前記登録画像を用いて、前記第1の画像に含まれる前記被験者の目の画像に対し、前記被験者の視線を正面方向に向ける第2の加工を行うことにより、第2の画像を生成するステップと、
前記第2の画像を出力するステップと
を含むことを特徴とする視線変換方法。 - コンピュータに、
被験者の顔の画像を含む入力画像を取得する機能と、
予め登録された前記被験者の視線が正面方向を向いた顔の画像を含む登録画像を用いて、前記入力画像に含まれる前記被験者の目の画像に対し、前記被験者の視線を正面方向に向ける第1の加工を行うことにより、第1の画像を生成する機能と、
前記登録画像を用いて、前記第1の画像に含まれる前記被験者の目の画像に対し、当該目の形状を変化させる第2の加工を行うことにより、第2の画像を生成する機能と、
前記第2の画像を出力する機能と
を実現させるためのプログラム。 - コンピュータに、
被験者の顔の画像を含む入力画像を取得する機能と、
予め登録された前記被験者の視線が正面方向を向いた顔の画像を含む登録画像を用いて、前記入力画像に含まれる前記被験者の目の画像に対し、当該目の形状を変化させる第1の加工を行うことにより、第1の画像を生成する機能と、
前記登録画像を用いて、前記第1の画像に含まれる前記被験者の目の画像に対し、前記被験者の視線を正面方向に向ける第2の加工を行うことにより、第2の画像を生成する機能と、
前記第2の画像を出力する機能と
を実現させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014022718A JP6402301B2 (ja) | 2014-02-07 | 2014-02-07 | 視線変換装置、視線変換方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014022718A JP6402301B2 (ja) | 2014-02-07 | 2014-02-07 | 視線変換装置、視線変換方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015149016A true JP2015149016A (ja) | 2015-08-20 |
JP6402301B2 JP6402301B2 (ja) | 2018-10-10 |
Family
ID=53892307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014022718A Expired - Fee Related JP6402301B2 (ja) | 2014-02-07 | 2014-02-07 | 視線変換装置、視線変換方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6402301B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210015951A (ko) * | 2019-05-09 | 2021-02-10 | 선전 센스타임 테크놀로지 컴퍼니 리미티드 | 이미지 처리 방법 및 장치, 전자 기기, 및 기억 매체 |
CN113395438A (zh) * | 2020-03-12 | 2021-09-14 | Oppo广东移动通信有限公司 | 眼球追踪技术的图像校正方法及相关装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012103941A (ja) * | 2010-11-11 | 2012-05-31 | Nec Saitama Ltd | 画像処理装置および画像処理方法 |
US20130070046A1 (en) * | 2010-05-26 | 2013-03-21 | Ramot At Tel-Aviv University Ltd. | Method and system for correcting gaze offset |
JP2013171470A (ja) * | 2012-02-21 | 2013-09-02 | Kao Corp | 顔画像合成装置及び顔画像合成方法 |
JP2013182616A (ja) * | 2012-02-29 | 2013-09-12 | Samsung Electronics Co Ltd | 映像内のユーザの視線補正方法、機械可読の格納媒体及び携帯端末 |
-
2014
- 2014-02-07 JP JP2014022718A patent/JP6402301B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130070046A1 (en) * | 2010-05-26 | 2013-03-21 | Ramot At Tel-Aviv University Ltd. | Method and system for correcting gaze offset |
JP2012103941A (ja) * | 2010-11-11 | 2012-05-31 | Nec Saitama Ltd | 画像処理装置および画像処理方法 |
JP2013171470A (ja) * | 2012-02-21 | 2013-09-02 | Kao Corp | 顔画像合成装置及び顔画像合成方法 |
JP2013182616A (ja) * | 2012-02-29 | 2013-09-12 | Samsung Electronics Co Ltd | 映像内のユーザの視線補正方法、機械可読の格納媒体及び携帯端末 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210015951A (ko) * | 2019-05-09 | 2021-02-10 | 선전 센스타임 테크놀로지 컴퍼니 리미티드 | 이미지 처리 방법 및 장치, 전자 기기, 및 기억 매체 |
KR102445193B1 (ko) * | 2019-05-09 | 2022-09-19 | 선전 센스타임 테크놀로지 컴퍼니 리미티드 | 이미지 처리 방법 및 장치, 전자 기기, 및 기억 매체 |
CN113395438A (zh) * | 2020-03-12 | 2021-09-14 | Oppo广东移动通信有限公司 | 眼球追踪技术的图像校正方法及相关装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6402301B2 (ja) | 2018-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7365445B2 (ja) | コンピューティング装置及び方法 | |
CN110766777B (zh) | 虚拟形象的生成方法、装置、电子设备及存储介质 | |
US10789453B2 (en) | Face reenactment | |
JP5463866B2 (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
JP6864449B2 (ja) | イメージの明るさを調整する方法及び装置 | |
US9563975B2 (en) | Makeup support apparatus and method for supporting makeup | |
JP4760349B2 (ja) | 画像処理装置および画像処理方法、並びに、プログラム | |
JP6874772B2 (ja) | 画像生成装置、画像生成方法、およびプログラム | |
JP5632100B2 (ja) | 表情出力装置及び表情出力方法 | |
US20220155855A1 (en) | Interface-based modeling and design of three dimensional spaces using two dimensional representations | |
JP2019075162A (ja) | 画像処理装置 | |
JP4246516B2 (ja) | 人物動画像生成システム | |
WO2006057267A1 (ja) | 顔画像合成方法および顔画像合成装置 | |
JP3810943B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラムを記録した記録媒体 | |
JPWO2007129446A1 (ja) | 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置 | |
JP2009211513A (ja) | 画像処理装置及びその方法 | |
JP4875887B2 (ja) | 画像合成システム及び画像合成方法 | |
JP6402301B2 (ja) | 視線変換装置、視線変換方法及びプログラム | |
JPH09305798A (ja) | 画像表示装置 | |
JP2004326179A (ja) | 画像処理装置、画像処理方法および画像処理プログラムならびに画像処理プログラムを記録した記録媒体 | |
JP2007102478A (ja) | 画像処理装置、画像処理方法、及び半導体集積回路 | |
JP7218769B2 (ja) | 画像生成装置、画像生成方法、およびプログラム | |
JP2009043065A (ja) | 顔認証装置 | |
JP3940484B2 (ja) | 三次元形状復元装置及び方法並びに三次元形状復元プログラムを記録したコンピュータ読取り可能な記録媒体 | |
CN111083345A (zh) | 独照生成装置和方法及其非易失性计算机可读媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170127 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180227 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20180329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180329 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20180831 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20180831 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6402301 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |