JP2000137789A - 画像処理装置 - Google Patents

画像処理装置

Info

Publication number
JP2000137789A
JP2000137789A JP30854898A JP30854898A JP2000137789A JP 2000137789 A JP2000137789 A JP 2000137789A JP 30854898 A JP30854898 A JP 30854898A JP 30854898 A JP30854898 A JP 30854898A JP 2000137789 A JP2000137789 A JP 2000137789A
Authority
JP
Japan
Prior art keywords
eye
information
area
image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP30854898A
Other languages
English (en)
Inventor
Akio Suwa
昭夫 諏訪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP30854898A priority Critical patent/JP2000137789A/ja
Publication of JP2000137789A publication Critical patent/JP2000137789A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 ハーフミラー使用による入力画像劣化などを
生じることなく、装置の小型化を図り、かつ視線方向の
一致を可能とする画像処理装置を提供する。 【解決手段】 画像信号から顔領域を検出する顔領域検
出手段と、検出された顔領域の情報から顔の向きを推定
する視線検出手段と、顔領域の情報から目部分を抽出す
る目領域抽出手段と、顔領域検出手段と目領域抽出手段
を用いて予め正視している目領域の画像情報を取り込み
格納しておくメモリ手段と、目部分の大きさに応じて前
記メモリ手段によって蓄えられているデータに拡大縮小
を加える領域変換手段と、目部分の画像情報を、視線検
出手段によって得られた視線方向に応じて、大きさを変
換された目データに置換を行うデータ置換手段とを備え
視線の一致した画像を生成することを特徴とする。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、画像信号を伝送す
るテレビ電話、テレビ会議システム、テロッパー付きカ
メラ、画像を記録するカメラ付きVTRなどの人物画像
を中心に伝送することを目的とする画像処理装置に関す
る。
【0002】
【従来の技術】従来、テレビ電話、テレビ会議などの人
物像を中心に伝送する画像伝送装置、さらには、画面に
原稿を表示し、画面上に付いたカメラで撮像し、画面の
原稿を読み上げるテロッパーや、液晶ビューカム(商品
名)やカメラ付きカラーザウルス(商品名)など表示と
カメラが一体化された画像処理装置では、表示装置(各
種ディスプレイ)と撮像装置(カメラ等)とが、一般に
図1あるいは図2に示す位置関係にあることから、互い
の受信画像、特に人物を見た場合、視線の不一致が生じ
る。そのため、視線が対話相手とあわないと会話の不自
然さが生じ、最適なユーザーインタフェースを提供する
ことができないという問題点を有していた。
【0003】そこで、視線を一致させるための手段とし
て、図3、図4に示すように、ハーフミラー等を用い
て、表示装置の表示画面中心に撮像装置が疑似的に位置
するように幾何学的に両者の位置を調整する方法などが
用いられていた。
【0004】
【発明が解決しようとする課題】上記のような方法によ
り、表示装置と撮像装置の位置を視線が一致するように
調整し、対話相手との視線を一致させることはできる
が、ハーフミラーを用いるために、撮像装置への入力光
量が減少し、入力信号のSN比が劣化し、結果として、
相手に送られる画像品質が落ちることにつながってい
た。また、図3、図4の様に、表示装置と撮像装置位置
を調整することは、光学的距離を調整することにつなが
り、その制限から装置の小型化を実現することはできな
い、という問題点があった。
【0005】そこで、本発明は係る課題を解決する為に
なされたものであり、入力画像に劣化を生じることな
く、装置の小型化を図り、かつ、対話者同士の視線一致
を実現することのできる画像処理装置を提供することを
目的とする。
【0006】
【課題を解決するための手段】上記目的を達成する為
に、本願請求項1記載の画像処理装置は、画像信号から
顔領域を検出する顔領域検出手段と、前記顔領域検出手
段で検出された顔領域の情報から顔の向きを推定する視
線検出手段と、前記顔領域検出手段で検出された顔領域
の情報から目部分を抽出する目領域抽出手段と、前記顔
領域検出手段と目領域抽出手段を用いて予め正視してい
る目領域の画像情報を取り込み格納しておくメモリ手段
と、前記目領域抽出手段により抽出を行った目部分の大
きさに応じて前記メモリ手段によって蓄えられているデ
ータに拡大縮小を加える領域変換手段と、前記目領域抽
出手段により抽出を行った目部分の画像情報を、前記視
線検出手段によって得られた視線方向に応じて、前記領
域変換手段によって大きさを変換された目データに置換
を行うデータ置換手段とを備え、視線の一致した画像を
生成することを特徴とする。
【0007】すなわち、特に伝送する為の画像信号から
顔領域を検出し、検出された顔領域から目部分を抽出
し、予め蓄えられている正視の目の画像データに拡大縮
小を加え、検出した顔情報から顔の向きを推定し、その
向きに応じて、抽出を行った目部分の画像データを拡大
縮小したデータに置き換えを行う手段を備えたものであ
る。
【0008】また、本願請求項2記載の画像処理装置
は、画像信号から顔領域を検出する顔領域検出手段と、
検出された顔領域から目部分を抽出する目領域抽出手段
と、前記顔領域検出手段で検出された顔領域の情報から
顔の向きを推定する視線検出手段と、前記目領域抽出手
段により抽出を行った目部分の画像情報から正視した目
のデータに変換する正視変換手段と、前記目領域抽出手
段により抽出を行った目部分の画像データを、前記視線
検出手段によって得られた視線方向に応じて、前記正視
変換手段によって変換された目データに置き換えを行う
データ置換手段とを備え、視線の一致した画像を生成す
ることを特徴とする。
【0009】すなわち、伝送する画像信号から顔領域を
検出し、検出された顔領域から目部分を抽出し、抽出さ
れた目の画像データに正視した目となるように加工を加
え、検出した顔情報から顔の向きを推定し、その向きに
応じて、抽出を行った目部分の画像データを加工した目
データに置き換えを行う手段を備えたものである。
【0010】さらに、前記視線検出手段が、前記顔領域
検出手段により、検出された顔領域の微分値データの空
間分布、輝度データの空間分布、肌色データの空間分布
の少なくとも1つの分布データにより、視線方向を推定
することを特徴とする。このように構成することによ
り、視線検出手段は、検出された顔領域の微分値データ
の空間分布、輝度データの空間分布、肌色データの空間
分布により顔の向いている方向を推定することが可能と
なる。
【0011】また、本願請求項4記載の画像処理装置
は、画像信号から顔領域を検出するステップと、前記検
出された顔領域情報より目領域情報を抽出するステップ
と、正視した目領域画像情報を格納するステップと、前
記顔領域情報から顔の向きを推定するステップと、前記
抽出された目領域情報に基づいて、黒目領域の割合を検
出するステップと、前記抽出された目領域の大きさに応
じて、正視した目領域の正視の画像情報に拡大縮小を加
えるステップと、前記ステップにより抽出された目領域
の視線方向情報又は黒目領域情報、もしくは目領域の画
像情報有無に基づいて、視線一致のための目領域のデー
タ置換を行うか否かの判定を行うステップと、視線一致
のデータ置換の必要性があるとの判断後、前記ステップ
により抽出された目領域の画像情報に応じて、前記変換
後の正視の目領域の画像情報に置換するステップとを具
備することにより、視線の一致した画像を生成すること
を特徴とする。
【0012】また、本願請求項5記載の画像処理装置
は、画像信号から顔領域を検出するステップと、前記検
出された顔領域情報より目領域情報を抽出するステップ
と、前記顔領域情報から顔の向きを推定するステップ
と、前記抽出された目領域情報に基づいて、黒目領域に
修正を加え正視した目領域の画像情報に変換作成を行う
ステップと、前記抽出された目領域情報に基づいて、黒
目領域の割合を検出するステップと、前記ステップによ
り抽出された目領域の視線方向情報又は黒目領域情報、
もしくは目領域の画像情報有無に基づいて、視線一致の
ための目領域のデータ置換を行うか否かの判定を行うス
テップと、視線一致のデータ置換の必要性があるとの判
断後、前記ステップにより抽出された目領域の画像情報
に応じて、前記変換後の正視の目領域の画像情報に置換
するステップとを具備することにより、視線の一致した
画像を生成することを特徴とする。
【0013】さらに、本願請求項6記載の画像処理装置
は、画像信号から顔領域を検出するステップと、前記検
出された顔領域情報より目領域情報を抽出するステップ
と、前記抽出された目領域情報に基づいて、目領域の中
心を求めるステップと、前記抽出された目領域情報に基
づいて、黒目領域の中心を求めるステップと、前記ステ
ップにより求められた目領域の中心と黒目領域の中心を
一致させるように黒目領域を移動するステップと、前記
抽出された目領域情報に基づいて、黒目領域を除くエッ
ジ部分を求めるステップと、前記ステップに基づいて、
正視した目領域の画像情報に変換作成を行うステップ
と、前記抽出された目領域情報に基づいて、黒目領域の
割合を検出するステップと、前記ステップにより抽出さ
れた目領域の視線方向情報又は黒目領域情報、もしくは
目領域の画像情報有無に基づいて、視線一致のための目
領域のデータ置換を行うか否かの判定を行うステップ
と、視線一致のデータ置換の必要性があるとの判断後、
前記ステップにより抽出された目領域の画像情報に応じ
て、前記変換後の正視の目領域の画像情報に置換するス
テップとを具備することにより、視線の一致した画像を
生成することを特徴とする。
【0014】
【発明の実施の形態】本発明に係る画像処理装置は、伝
送する画像信号から顔領域を検出し、検出された顔領域
から目部分を抽出し、予め蓄えられている目の画像デー
タに拡大縮小を加え、検出した顔情報から顔の向きを推
定し、その向きに応じて、抽出を行った目部分の画像デ
ータを拡大縮小したデータに置き換えを行うことによ
り、視線の一致した画像を伝送することができるように
したものである。
【0015】また、本発明に係わる視線検出方法は、検
出された顔領域の微分値データの空間分布、輝度データ
の空間分布、肌色データの空間分布により顔の向いてい
る方向を推定することができる。
【0016】本発明に係る画像処理装置は、伝送する画
像信号から顔領域を検出し、検出された顔領域から目部
分を抽出し、抽出された目の画像データに正視した目と
なるように加工を加え、検出した顔情報から顔の向きを
推定し、その向きに応じて、抽出を行った目部分の画像
データを加工した目データに置き換えを行うことによ
り、視線の一致した画像を伝送することができるように
したものである。
【0017】《実施形態1》以下に、本発明の実施形態
1について説明する。図5は実施形態1の画像処理装置
を示すブロック図である。このブロック図にしたがっ
て、本発明の視線一致を実現する画像処理装置の動作を
説明する。
【0018】カメラ等の撮像装置からの画像入力信号は
顔領域検出部5に入力される。顔領域検出部では、顔領
域の持つ特徴量、例えば色、細かさ、形などを用いて、
入力画像の中から顔領域を検出する。具体的な検出方法
としては特許公報第2578986号記載のように、画
像をブロックに分割し、分割したブロック毎に色情報、
輝度情報及び輝度情報の微分値情報を求める情報演算手
段と、色情報、輝度情報及び輝度情報の微分値情報をパ
ラメータとするパラメータ空間に対し、予め設定した顔
部分に相当する基準パターン位置と、情報検出手段によ
り得られた情報によって設定した情報パターン位置との
距離を算出する距離算出手段と、前記距離を閾値と比較
して各ブロックが顔部分であるか否かを判別する判別手
段とを用いて顔領域を検出する方法がある。
【0019】視線検出部6では前記顔領域検出部5で検
出された顔領域に基づいて、視線一致のための目のデー
タ置換を行うか否かの判断を行うために顔の向きを推定
する。つまり、顔の向いている方向、水平あるいは垂直
方向の傾きが正面方向に対してある一定値以内であれば
視線を一致させ、一定値以上であれば撮像装置のほうを
向いていないつまり横や上下を見ていると判断し、視線
一致のための置き換えを行わない。これは、横を向いて
いるにもかかわらず視線を一致させようとすると不自然
な画像となってしまうためである。あくまでも、画像通
信に於けるデータ置換は不自然さを伴わないことが必須
である。
【0020】目領域検出部7では、顔領域検出部5にて
検出された顔領域の中から目の領域を抽出する。図6か
らも分かるように、顔領域において目の部分は、顔の垂
直方向水平方向ともほぼその中央に位置し、眉、白目、
黒目などの要素により微分値が周辺部分より多く、かつ
水平方向に2つあるという特徴がある。この特徴量を用
いて、図6のように片目づつを全て含むような最小長方
形領域を目領域として抽出する。あわせて、抽出した目
領域の中の黒目の割合を算出する。これは抽出領域の輝
度データから黒目を判断し、つまり輝度が小さい部分を
黒目とし、抽出した長方形目領域の何割に相当するか算
出する。
【0021】拡大縮小演算部9では、目領域抽出部7に
よって検出された長方形領域の大きさにしたがって、目
データ蓄積部10に蓄積されている視線一致のために正
面を向いた目の長方形領域データの拡大あるいは縮小を
行い、目領域抽出部7によって検出された長方形領域の
大きさに一致させた視線一致の目データを作成する。拡
大縮小演算部9では、データの拡大縮小を行うと共に、
目データ蓄積部に蓄積されたデータを、入力された顔領
域データの輝度、色合いにあうように、輝度補正、色補
正を行う。
【0022】目データ置換部8では、以下の3つの条件
のいずれかに当てはまる場合、目のデータの置換は行わ
ず、入力データそのままを画像処理装置制御部にデータ
を素通しする。いずれの条件にも当てはまらない場合、
視線一致を行うべきデータと判断し、抽出された目領域
のデータについて、拡大縮小部9からのデータで置換を
行う。
【0023】条件1:視線検出部6にて横あるいは上下
を見ていると判断させた場合 条件2:目領域抽出部7にて目領域が抽出されなかった
場合 まぶたが完全につぶられている場合は目領域が抽出され
ない 条件3:目領域抽出部7にて黒目領域がある一定割合よ
り少ない場合 一定割合より少ない場合はまぶたを閉じている、あるい
は開いている途中と判断する 目データ蓄積部には、図7の様な正面を向いた目のデー
タが蓄積されている。このデータの作成方法としては、
本発明の画像処理装置を用いるユーザがあらかじめ正面
を向いた画像をとり込み、その画像から目領域を抽出す
るか、あるいは適当な方向をむいた目データから黒目の
部分を補正修正して、作成しても構わない。
【0024】以上説明したような処理の流れによって、
図6のようなうつむいた視線の画像データを図8の様な
視線の一致した画像にすることができる。視線の一致さ
れた画像データは画像処理装置制御部4にて、静止画デ
ータの場合はJPEG等の方式により、動画像の場合は
H.261、H.263、MPEGなどの符号化方式に
よって符号化され伝送される。
【0025】《実施形態2》以下に本発明の実施形態2
について説明する。図9のように向かって左向きの場
合、検出された顔領域を右半分、左半分でその細かさを
見ると、左半分のほうに目、鼻、口などの細かな要素が
片寄っているため、左半分のほうが右半分に比較し微分
値の値が大きくなる。また、逆に右半分は頬部分が広い
領域を占めるため微分値の少ない肌色領域が左に比較し
多くなる。
【0026】上下向きの判定の場合も同様に、上向きで
あれば検出された顔領域の上半分の方に顔の細かな要素
が片寄るため微分値が多くなる一方、下半分はのど部分
が現われるため微分値の少ない肌色領域が多くなる。ま
た、下向きの場合は検出される顔領域の上半分は大半の
場合髪の毛領域が多くなることにより低輝度領域が増加
する。
【0027】このように検出された顔領域に対して、水
平及び垂直方向の中心線の左右あるいは上下の領域のそ
れぞれについて、微分値データの総和、輝度データの総
和、肌色データの総和を求め、それらの値から入力され
た画像が左右を向いている画像か、あるいは上下を向い
ている画像かを判断することができる。
【0028】本発明は伝送側に関して記載をしたが、本
発明と同様の処理を受信装置側で行ってもよい。つま
り、受信側では受信し復号した画像に関して同様の顔領
域検出、目領域抽出、目データ置換を行うことにより同
様の効果が得られることは明白である。
【0029】《実施形態3》以下に本発明の実施形態3
について説明する。図10は実施形態3の画像処理装置
を示すブロック図である。このブロック図にしたがっ
て、本発明の視線一致を実現する画像処理装置の動作を
説明する。
【0030】顔領域検出部5、視線検出部6、目領域検
出部7、目データ置換部8及び画像処理装置制御部4の
動作は実施形態1で説明したと同様の動作が行われる。
目データ変換部12では、目領域検出部7で抽出された
目領域に対して、黒目部分の画像データを補正/修正を
することで正視した目のデータに変換を行う。
【0031】図11を用いて変換手順を説明する。目領
域検出部7で抽出された目の長方形領域の中心位置を求
める(手順1)。それと共に目の長方形領域内の黒目部
分を除くエッジを求める(手順2)。このエッジはまぶ
たを示すことになる。エッジを求めるには微分演算フィ
ルタ等を施すことにより得られ、輝度データとの比較に
より得られたエッジ情報から黒目部分を削除することが
できる。
【0032】次に抽出された黒目部分を心円形と近似
し、その中心を求める。黒目部分の中心が、前記手順1
で求められた目の長方形領域の中心に一致するように黒
目領域を移動する(手順3)。黒目領域を移動すること
により、図11に示すような黒目領域の欠落部分、ある
いはまぶたからはみ出る部分が生じる。
【0033】欠落部分に関しては、黒目を心円形と見な
してデータを補間し円形の黒目データに変換する。手順
2で求められたエッジをまたいた黒目データは削除する
(手順4)。この手順によりまぶた内に収められた黒目
領域が作成される。
【0034】実施形態1の動作と同様に、目データ置換
部8で目領域の置換を行うと判断された場合に、前記の
ように正視した目データに変換された目領域データを用
いて置換を行う。
【0035】以上説明したような処理の流れによって、
実施形態1と同様に、図6のようなうつむいた視線の画
像データを図8の様な視線の一致した画像にすることが
できる。視線の一致された画像データは画像処理装置制
御部4にて、静止画データの場合はJPEG等の方式に
より、動画像の場合はH.261、H.263、MPE
Gなどの符号化方式によって符号化され伝送される。
【0036】
【発明の効果】以上のように、本発明の画像処理装置
は、伝送する画像信号から顔領域を検出し、検出された
顔領域から目部分を抽出し、予め蓄えられている正視の
目の画像データに拡大縮小を加え、検出した顔情報から
顔の向きを推定し、その向きに応じて、抽出を行った目
部分の画像データを拡大縮小したデータに置き換えを行
うことにより、入力画像に劣化を生じることなく、装置
の小型化を図れる、視線の一致を実現することが可能と
なる。
【0037】また、本発明の画像処理装置において、検
出された顔領域の微分値データの空間分布、輝度データ
の空間分布、肌色データの空間分布により顔の向いてい
る方向を推定し、視線方向を検出し、視線の一致を実現
することのできる画像処理装置を提供することが可能と
なる。
【0038】本発明の画像処理装置は、伝送する画像信
号から顔領域を検出し、検出された顔領域から目部分を
抽出し、抽出された目の画像データに正視した目となる
ように加工を加え、検出した顔情報から顔の向きを推定
し、その向きに応じて、抽出を行った目部分の画像デー
タを加工した目データに置き換えを行うことにより、入
力画像に劣化を生じることなく、装置の小型化を図れ
る、視線の一致を実現することが可能となる。
【図面の簡単な説明】
【図1】画像処理装置における撮像装置と表示装置の位
置関係を示す図である。
【図2】画像処理装置における撮像装置と表示装置の位
置関係を示す図である。
【図3】視線一致のための従来例を示す図である。
【図4】視線一致のための従来例を示す図である。
【図5】本発明の実施形態1による画像処理装置のブロ
ック図である。
【図6】目領域の抽出を説明する図である。
【図7】目データ蓄積部に蓄積されたデータを説明する
図である。
【図8】視線一致が施された画像データを示す図であ
る。
【図9】横向きの画像データ例を示す図である。
【図10】本発明の実施形態3による画像処理装置のブ
ロック図である。
【図11】正視した目データへの変換手順を示す図であ
る。
【符号の説明】
1 ハーフミラー 2 表示装置 3 撮像装置 4 画像処理装置制御部 5 顔領域検出部 6 視線検出部 7 目領域抽出部 8 目データ置換部 9 拡大縮小演算部 10 目データ蓄積部 11 ミラー 12 目データ変換部
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 AA20 CD02 CD05 CE08 CE09 CH11 DA08 DC06 DC08 DC16 DC22 DC25 5B087 AA07 AB09 AE03 BC12 BC26 BC32 DJ01 5C064 AA01 AA02 AC02 AC08 AC13 AC22 AD14 5L096 BA08 BA18 DA01 EA03 EA35 FA14 FA67 GA02 GA38

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 画像信号から顔領域を検出する顔領域検
    出手段と、前記顔領域検出手段で検出された顔領域の情
    報から顔の向きを推定する視線検出手段と、前記顔領域
    検出手段で検出された顔領域の情報から目部分を抽出す
    る目領域抽出手段と、前記顔領域検出手段と目領域抽出
    手段を用いて予め正視している目領域の画像情報を取り
    込み格納しておくメモリ手段と、前記目領域抽出手段に
    より抽出を行った目部分の大きさに応じて前記メモリ手
    段によって蓄えられているデータに拡大縮小を加える領
    域変換手段と、前記目領域抽出手段により抽出を行った
    目部分の画像情報を、前記視線検出手段によって得られ
    た視線方向に応じて、前記領域変換手段によって大きさ
    を変換された目データに置換を行うデータ置換手段とを
    備え、視線の一致した画像を生成することを特徴とする
    画像処理装置。
  2. 【請求項2】 画像信号から顔領域を検出する顔領域検
    出手段と、検出された顔領域から目部分を抽出する目領
    域抽出手段と、前記顔領域検出手段で検出された顔領域
    の情報から顔の向きを推定する視線検出手段と、前記目
    領域抽出手段により抽出を行った目部分の画像情報から
    正視した目のデータに変換する正視変換手段と、前記目
    領域抽出手段により抽出を行った目部分の画像データ
    を、前記視線検出手段によって得られた視線方向に応じ
    て、前記正視変換手段によって変換された目データに置
    き換えを行うデータ置換手段とを備え、視線の一致した
    画像を生成することを特徴とする画像処理装置。
  3. 【請求項3】 前記視線検出手段が、前記顔領域検出手
    段により、検出された顔領域の微分値データの空間分
    布、輝度データの空間分布、肌色データの空間分布の少
    なくとも1つの分布データにより、視線方向を推定する
    ことを特徴とする請求項1または2記載の画像処理装
    置。
  4. 【請求項4】 画像信号から顔領域を検出するステップ
    と、前記検出された顔領域情報より目領域情報を抽出す
    るステップと、正視した目領域画像情報を格納するステ
    ップと、前記顔領域情報から顔の向きを推定するステッ
    プと、前記抽出された目領域情報に基づいて黒目領域の
    割合を検出するステップと、前記抽出された目領域の大
    きさに応じて、正視した目領域の正視の画像情報に拡大
    縮小を加えるステップと、前記ステップにより抽出され
    た目領域の視線方向情報又は黒目領域情報、もしくは目
    領域の画像情報有無に基づいて、視線一致のための目領
    域のデータ置換を行うか否かの判定を行うステップと、
    視線一致のデータ置換の必要性があるとの判断後、前記
    ステップにより抽出された目領域の画像情報に応じて、
    前記変換後の正視の目領域の画像情報に置換するステッ
    プとを具備することにより、視線の一致した画像を生成
    することを特徴とする画像処理装置。
  5. 【請求項5】 画像信号から顔領域を検出するステップ
    と、前記検出された顔領域情報より目領域情報を抽出す
    るステップと、前記顔領域情報から顔の向きを推定する
    ステップと、前記抽出された目領域情報に基づいて、黒
    目領域に修正を加え正視した目領域の画像情報に変換作
    成を行うステップと、前記抽出された目領域情報に基づ
    いて黒目領域の割合を検出するステップと、前記ステッ
    プにより抽出された目領域の視線方向情報又は黒目領域
    情報、もしくは目領域の画像情報有無に基づいて、視線
    一致のための目領域のデータ置換を行うか否かの判定を
    行うステップと、視線一致のデータ置換の必要性がある
    との判断後、前記ステップにより抽出された目領域の画
    像情報に応じて、前記変換後の正視の目領域の画像情報
    に置換するステップとを具備することにより、視線の一
    致した画像を生成することを特徴とする画像処理装置。
  6. 【請求項6】 画像信号から顔領域を検出するステップ
    と、前記検出された顔領域情報より目領域情報を抽出す
    るステップと、前記抽出された目領域情報に基づいて、
    目領域の中心を求めるステップと、前記抽出された目領
    域情報に基づいて、黒目領域の中心を求めるステップ
    と、前記ステップにより求められた目領域の中心と黒目
    領域の中心を一致させるように黒目領域を移動するステ
    ップと、前記抽出された目領域情報に基づいて、黒目領
    域を除くエッジ部分を求めるステップと、前記ステップ
    に基づいて、正視した目領域の画像情報に変換作成を行
    うステップと、前記抽出された目領域情報に基づいて黒
    目領域の割合を検出するステップと、前記ステップによ
    り抽出された目領域の視線方向情報又は黒目領域情報、
    もしくは目領域の画像情報有無に基づいて、視線一致の
    ための目領域のデータ置換を行うか否かの判定を行うス
    テップと、視線一致のデータ置換の必要性があるとの判
    断後、前記ステップにより抽出された目領域の画像情報
    に応じて、前記変換後の正視の目領域の画像情報に置換
    するステップとを具備することにより、視線の一致した
    画像を生成することを特徴とする画像処理装置。
JP30854898A 1998-10-29 1998-10-29 画像処理装置 Pending JP2000137789A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP30854898A JP2000137789A (ja) 1998-10-29 1998-10-29 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30854898A JP2000137789A (ja) 1998-10-29 1998-10-29 画像処理装置

Publications (1)

Publication Number Publication Date
JP2000137789A true JP2000137789A (ja) 2000-05-16

Family

ID=17982362

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30854898A Pending JP2000137789A (ja) 1998-10-29 1998-10-29 画像処理装置

Country Status (1)

Country Link
JP (1) JP2000137789A (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2390256A (en) * 2002-06-26 2003-12-31 Hewlett Packard Development Co Correcting the viewing direction of eyes of a subject in an image
JP2008504760A (ja) * 2004-06-30 2008-02-14 ソニー エリクソン モバイル コミュニケーションズ, エービー 顔画像の補正
JP2010134490A (ja) * 2008-12-02 2010-06-17 Omron Corp 検出装置および方法、並びに、プログラム
JP2012088538A (ja) * 2010-10-20 2012-05-10 Casio Comput Co Ltd 画像表示装置及びプログラム
JP2012103941A (ja) * 2010-11-11 2012-05-31 Nec Saitama Ltd 画像処理装置および画像処理方法
JP2012114557A (ja) * 2010-11-22 2012-06-14 Nec Saitama Ltd 表示装置、表示制御方法、プログラム及び電子機器
JP2013055372A (ja) * 2011-08-31 2013-03-21 Furyu Kk 写真シール機、写真シール機の処理方法、および、そのプログラム
WO2013129792A1 (en) * 2012-02-29 2013-09-06 Samsung Electronics Co., Ltd. Method and portable terminal for correcting gaze direction of user in image
JP2013254999A (ja) * 2012-06-05 2013-12-19 Nippon Telegr & Teleph Corp <Ntt> 映像会話システム
US9041828B2 (en) 2010-08-17 2015-05-26 Canon Kabushiki Kaisha Imaging apparatus, imaging method, image processing apparatus, and image processing method for a set execution condition
JP2021073589A (ja) * 2015-03-10 2021-05-13 アイフリー アシスティング コミュニケ−ション リミテッドEyeFree Assisting Communication Ltd. アイフィードバックによるコミュニケーションを可能にするシステム及び方法
US11612342B2 (en) 2017-12-07 2023-03-28 Eyefree Assisting Communication Ltd. Eye-tracking communication methods and systems

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2390256B (en) * 2002-06-26 2006-03-01 Hewlett Packard Development Co Image correction system and method
GB2390256A (en) * 2002-06-26 2003-12-31 Hewlett Packard Development Co Correcting the viewing direction of eyes of a subject in an image
JP2008504760A (ja) * 2004-06-30 2008-02-14 ソニー エリクソン モバイル コミュニケーションズ, エービー 顔画像の補正
JP2010134490A (ja) * 2008-12-02 2010-06-17 Omron Corp 検出装置および方法、並びに、プログラム
US9041828B2 (en) 2010-08-17 2015-05-26 Canon Kabushiki Kaisha Imaging apparatus, imaging method, image processing apparatus, and image processing method for a set execution condition
JP2012088538A (ja) * 2010-10-20 2012-05-10 Casio Comput Co Ltd 画像表示装置及びプログラム
JP2012103941A (ja) * 2010-11-11 2012-05-31 Nec Saitama Ltd 画像処理装置および画像処理方法
JP2012114557A (ja) * 2010-11-22 2012-06-14 Nec Saitama Ltd 表示装置、表示制御方法、プログラム及び電子機器
JP2013055372A (ja) * 2011-08-31 2013-03-21 Furyu Kk 写真シール機、写真シール機の処理方法、および、そのプログラム
JP2013182616A (ja) * 2012-02-29 2013-09-12 Samsung Electronics Co Ltd 映像内のユーザの視線補正方法、機械可読の格納媒体及び携帯端末
CN103310186A (zh) * 2012-02-29 2013-09-18 三星电子株式会社 校正图像中用户的注视方向的方法和便携式终端
WO2013129792A1 (en) * 2012-02-29 2013-09-06 Samsung Electronics Co., Ltd. Method and portable terminal for correcting gaze direction of user in image
US9288388B2 (en) 2012-02-29 2016-03-15 Samsung Electronics Co., Ltd. Method and portable terminal for correcting gaze direction of user in image
CN103310186B (zh) * 2012-02-29 2018-01-16 三星电子株式会社 校正图像中用户的注视方向的方法和便携式终端
JP2013254999A (ja) * 2012-06-05 2013-12-19 Nippon Telegr & Teleph Corp <Ntt> 映像会話システム
JP2021073589A (ja) * 2015-03-10 2021-05-13 アイフリー アシスティング コミュニケ−ション リミテッドEyeFree Assisting Communication Ltd. アイフィードバックによるコミュニケーションを可能にするシステム及び方法
JP7153096B2 (ja) 2015-03-10 2022-10-13 アイフリー アシスティング コミュニケ-ション リミテッド アイフィードバックによるコミュニケーションを可能にするシステム及び方法
US11883101B2 (en) 2015-03-10 2024-01-30 Eyefree Assisting Communication Ltd. System and method for enabling communication through eye feedback
US11612342B2 (en) 2017-12-07 2023-03-28 Eyefree Assisting Communication Ltd. Eye-tracking communication methods and systems

Similar Documents

Publication Publication Date Title
US8299979B2 (en) Integral eye-path alignment on telephony and computer video devices using two or more image sensing devices
US7982762B2 (en) System and method for combining local and remote images such that images of participants appear overlaid on another in substanial alignment
US8203595B2 (en) Method and apparatus for enabling improved eye contact in video teleconferencing applications
US5675376A (en) Method for achieving eye-to-eye contact in a video-conferencing system
JP3256474B2 (ja) 色映像信号における皮膚のトーンを定める装置およびその方法、ならびに、皮膚領域を符号化する装置およびその方法
KR100556856B1 (ko) 이동통신 단말기에서 화면 제어 방법 및 장치
EP0932114B1 (en) A method of and apparatus for detecting a face-like region
US7623733B2 (en) Image combination device, image combination method, image combination program, and recording medium for combining images having at least partially same background
US20060215014A1 (en) System and method for very low frame rate teleconferencing employing image morphing and cropping
JP2000137789A (ja) 画像処理装置
JP2005303991A (ja) 撮像装置、撮像方法、及び撮像プログラム
JPH10229505A (ja) 低ビットレートビデオシステムのためのフィルタリング装置および方法
JPH08317429A (ja) 立体電子ズーム装置及び立体画質制御装置
GB2453890A (en) Pupil colour correction device and program
US20050041111A1 (en) Frame adjustment device and image-taking device and printing device
JP2001067459A (ja) 顔画像処理方法および顔画像処理装置
WO2018225518A1 (ja) 画像処理装置、画像処理方法、プログラム、およびテレコミュニケーションシステム
US6144403A (en) Image processing apparatus and image processing system
JP2004056488A (ja) 画像処理方法、画像処理装置および画像通信装置
KR100464079B1 (ko) 화상 통신에서의 얼굴 검출 및 추적 시스템
TWI807495B (zh) 虛擬運鏡方法、攝像裝置及電子系統
JP2000261774A (ja) 人物画切り出し伝送方法
JPH0716244B2 (ja) 視線一致補正装置
JPH1083033A (ja) 動画像のプリント方法
US11798149B2 (en) Removing reflected information from within a video capture feed during a videoconference

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040518

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040629

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040831