JP4461739B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP4461739B2 JP4461739B2 JP2003294638A JP2003294638A JP4461739B2 JP 4461739 B2 JP4461739 B2 JP 4461739B2 JP 2003294638 A JP2003294638 A JP 2003294638A JP 2003294638 A JP2003294638 A JP 2003294638A JP 4461739 B2 JP4461739 B2 JP 4461739B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- imaging
- line
- sight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Description
k=D/B・・・・・・・・(1)
情報生成部30は、図示しない操作部を介して入力される情報に応じて距離Dを決定することができ、また状況に応じて任意にこの距離Dを決定することができる。
(xt,yt)=(1−k)×(x1,y1)+k×(x2,y2)・・・(2)
また画素位置P11、P11’における輝度成分をそれぞれJ11, J11’としたときに、かかる仮想視点画像Ima上の画素位置Phにおける輝度成分Ptを以下の式(3)により決定することができる。
このように仮想視点画像生成部31は、仮想視点画像Imaを構成する各画素の座標並びにその輝度成分につき、相対位置情報としてのkに応じて決定することができる。ここでkは、仮想カメラにおける仮想視点がカメラ11aに近くなるにつれて小さくなり、また仮想視点がカメラ12aに近くなるにつれて大きくなる。
の両側に配設すれば足り、また被写体の3次元情報をその都度抽出する必要もなくなるため、システム全体が複雑化することがなくなるという利点もある。
Claims (21)
- 撮影対象を互いに異なる角度から撮像する複数のカメラを含む撮像手段と、
上記撮像手段から画像が供給される度に、上記撮像手段に含まれる各カメラのレンズの色収差、歪み、光軸のズレを示すパラメータに基づいて、上記画像を補正するキャリブレーション手段と、
上記キャリブレーション手段によって補正された各画像から、上記撮影対象を含む前景画像領域とその背景画像とを、撮像された各画像の色相並びに彩度の分布特性、又は各カメラに対する被写体の距離に基づいて各々分離する画像分離手段と、
上記画像分離手段により分離された各前景画像に関し、上記各前景画像領域に関して解像度を下げた低解像度画像を用いて、上記撮影対象と関連させつつ画素位置毎に対応付けを行うマッチング手段と、
上記撮像手段によって撮像された画像データ内に存在する撮像対象の画像領域から当該撮像対象の瞳の部分を輝度成分に基づいて抽出し、抽出した瞳の部分の位置に応じて、撮像対象の視線方向並びに視線位置を推定し、推定した視線方向並びに視線位置と、撮像対象の表示像が写し出されるディスプレイの中心付近に仮想的に設置された仮想カメラの撮影方向とが合致するような相対位置情報を生成する情報生成手段と、
上記マッチング手段により互いに対応付けされた画素位置並びにその輝度成分から、上記情報生成手段によって生成された相対位置情報に応じて、上記仮想カメラにより撮像される仮想視点画像を構成する各画素の画素位置並びにその輝度成分を求め、撮像対象の視線方向並びに視線位置と、上記仮想カメラの撮影方向とが合致するような仮想視点画像を生成する画像生成手段と、
上記画像生成手段により求められた画素位置並びにその輝度成分により構成される仮想視点画像を外部へ送信する送信手段と
を備える撮像装置。 - 上記情報生成手段は、
ユーザの操作によってデータを入力することが可能な操作部を介して入力された情報に基づき、相対位置情報を生成する請求項1記載の撮像装置。 - 上記マッチング手段は、
上記画像分離手段により分離された各前景画像に関し、各画像間で対応を取るための特徴点を各々抽出する特徴点抽出手段と、
上記特徴点抽出手段によって抽出された特徴点を用いて、上記撮影対象と関連させつつ画素位置毎に対応付けを行う手段と
を備える請求項1記載の撮像装置。 - 上記撮像手段は
第1のカメラと、第2のカメラとを含み、
上記画像分離手段は、
上記第1のカメラにより撮像された画像につき抽出した色相をHue1、彩度をSatu1、ユーザの肌の色を基準として定められた色相の基準値をHUE1±HReg1とした場合、HUE1−HReg1<Hue1<HUE1+HReg1であり、かつSAT1−SReg1<Satu1<SAT1+SReg1となる画素につき、画素値を“1”に設定する処理と、HUE1−HReg1<Hue1<HUE1+HReg1、又はSAT1−SReg1<Satu1<SAT1+SReg1の何れかが成立しない画素につき、画素値を“0”に設定する処理とを、色相と彩度とを算出した全ての画素に関して実行し、画素値として“1”が割り当てられた画素からユーザの顔を構成する画像領域の大きさ、及び当該画像領域の中心に位置する画素位置の情報を取得する第1の処理と、
上記第2のカメラにより撮像された画像につき抽出した色相をHue2、彩度をSatu2、ユーザの肌の色を基準として定められた色相の基準値をHUE2±HReg2とした場合、HUE2−HReg2<Hue2<HUE2+HReg2であり、かつSAT2−SReg2<Satu2<SAT2+SReg2となる画素につき、画素値を“1”に設定する処理と、HUE2−HReg2<Hue2<HUE2+HReg2、又はSAT2−SReg2<Satu2<SAT2+SReg2の何れかが成立しない画素につき、画素値を“0”に設定する処理とを、色相と彩度とを算出した全ての画素に関して実行し、画素値として“1”が割り当てられた画素からユーザの顔を構成する画像領域の大きさ、及び当該画像領域の中心に位置する画素位置の情報を取得する第2の処理と、
上記第1の処理及び上記第2の処理により取得したユーザの顔を構成する画像領域の大きさ、及び当該画像領域の中心に位置する画素位置の情報に基づいて、ユーザの顔を構成する画像領域を前景画像領域として上記各カメラによって撮像された画像から各々分離する処理とを実行する請求項1記載の撮像装置。 - 上記撮像手段は、
上記撮影対象として画面を視認するユーザを撮像し、
上記情報生成手段は、
上記撮像手段により撮像されたユーザの上記画面に対する視線方向に基づいて上記相対位置情報を生成する請求項1記載の撮像装置。 - 少なくとも上記各カメラ間の幾何学的な位置関係に基づき、上記撮像手段により撮像された画像を補正する画像補正手段をさらに備える請求項1記載の撮像装置。
- 上記画像分離手段は、
上記撮影対象の色相並びに彩度の分布特性に応じた基準値を予め決定し、上記撮像手段における各カメラにより撮像された各画像の色相並びに彩度を上記基準値との関係において画素位置毎に識別し、上記識別した結果に応じて上記前景画像領域とその背景画像とをそれぞれ分離する請求項1記載の撮像装置。 - 上記画像分離手段は、
上記撮像手段における各カメラにより撮像された各画像から、予め取得された背景画像を差し引くことにより、上記前景画像領域を分離する請求項1記載の撮像装置。 - 上記撮像手段は、
光学中心を結ぶ直線距離がBである第1のカメラと第2のカメラとを含み、
上記画像分離手段は、
上記第1のカメラにより撮像された画像から前景画像領域T1を分離し、また上記第2のカメラにより撮像された画像から前景画像領域T2を分離し、
上記情報生成手段は、
上記第1のカメラに対する仮想視点の距離をDとしたとき、上記相対位置情報としてk(=D/B)を生成し、
上記画像生成手段は、
上記マッチング手段により互いに対応付けされた前景画像領域T1における画素位置(x1,y1),前景画像領域T2における画素位置(x2,y2)並びにその輝度成分J1,J1’から、上記仮想視点画像を構成する画素位置(xt,yt)並びにその輝度成分Ptを以下の式
(xt,yt)=(1−k)×(x1,y1)+k×(x2,y2)
Pt=(1−k)×J1+k×J1’
に基づいて求める請求項1記載の撮像装置。 - 上記仮想視点画像とその背景画像とを合成する画像合成手段をさらに備え、
上記送信手段は、
上記画像合成手段により合成された画像を外部へ送信する請求項1記載の撮像装置。 - 上記仮想視点画像と合成する背景画像を、上記画像分離手段により分離された各背景画像に基づいて作成する背景画像作成手段をさらに備える請求項10記載の撮像装置。
- 上記背景画像作成手段は、
外部入力された情報に基づいて上記作成する背景画像の解像度を変化させる請求項11記載の撮像装置。 - 上記送信手段は、
上記撮像手段における各カメラにより撮像された各画像、上記画像合成手段により合成された画像の何れか或いは全てを、外部入力された情報に応じて送信する請求項10記載の撮像装置。 - 外部から受信した仮想視点画像を表示画面上へ表示させる表示制御手段をさらに備える請求項1記載の撮像装置。
- 外部から受信した仮想視点画像とその背景画像とを合成する画像合成手段をさらに備え、
上記表示制御手段は、
上記画像合成手段により合成された画像を上記表示画面上へ表示させる請求項14記載の撮像装置。 - 互いに異なる角度から撮像する複数のカメラで撮影対象を撮像する撮像ステップと、
上記各カメラのレンズの色収差、歪み、光軸のズレを、上記各カメラから画像が供給される度に補正するキャリブレーションステップと、
上記キャリブレーションステップで補正された各画像から、上記撮影対象を含む前景画像領域とその背景画像とを、撮像された各画像の色相並びに彩度、又は各カメラに対する被写体の距離に基づいて各々分離する画像分離ステップと、
上記画像分離ステップで分離された各前景画像に関し、上記各前景画像領域に関して解像度を下げた低解像度画像を用いて、上記撮影対象と関連させつつ画素位置毎に対応付けを行うマッチングステップと、
上記撮像ステップで撮像された画像データ内に存在する撮像対象の画像領域から当該撮像対象の瞳の部分を輝度成分に基づいて抽出し、抽出した瞳の部分の位置に応じて、撮像対象の視線方向並びに視線位置を推定し、推定した視線方向並びに視線位置と、撮像対象の表示像が写し出されるディスプレイの中心付近に仮想的に設置された仮想カメラの撮影方向とが合致するような相対位置情報を生成する情報生成ステップと、
上記マッチングステップで互いに対応付けされた画素位置並びにその輝度成分から、上記情報生成ステップで生成された相対位置情報に応じて、上記仮想カメラにより撮像される仮想視点画像を構成する各画素の画素位置並びにその輝度成分を求め、撮像対象の視線方向並びに視線位置と、上記仮想カメラの撮影方向とが合致するような仮想視点画像を生成する画像生成ステップと、
上記画像生成ステップで求められた画素位置並びにその輝度成分により構成される仮想視点画像を外部へ送信する送信ステップと
を含む撮像方法。 - 撮影対象を複数のカメラにより互いに異なる角度から撮像することにより生成された各画像を処理する画像処理装置において、
上記各カメラから画像が供給される度に、上記各カメラのレンズの色収差、歪み、光軸のズレを示すパラメータに基づいて、上記画像を補正するキャリブレーション手段と、
上記キャリブレーション手段によって補正された各画像から、上記撮影対象を含む前景画像領域とその背景画像とを、撮像された各画像の色相並びに彩度の分布特性、又は各カメラに対する被写体の距離に基づいて各々分離する画像分離手段と、
上記画像分離手段により分離された各前景画像に関し、上記各前景画像領域に関して解像度を下げた低解像度画像を用いて、上記撮影対象と関連させつつ画素位置毎に対応付けを行うマッチング手段と、
上記各カメラによって撮像された画像データ内に存在する撮像対象の画像領域から当該撮像対象の瞳の部分を輝度成分に基づいて抽出し、抽出した瞳の部分の位置に応じて、撮像対象の視線方向並びに視線位置を推定し、推定した視線方向並びに視線位置と、撮像対象の表示像が写し出されるディスプレイの中心付近に仮想的に設置された仮想カメラの撮影方向とが合致するような相対位置情報を生成する情報生成手段と、
上記マッチング手段により互いに対応付けされた画素位置並びにその輝度成分から、上記情報生成手段によって生成された相対位置情報に応じて、上記仮想カメラにより撮像される仮想視点画像を構成する各画素の画素位置並びにその輝度成分を求め、撮像対象の視線方向並びに視線位置と、上記仮想カメラの撮影方向とが合致するような仮想視点画像を生成する画像生成手段と、
上記画像生成手段により求められた画素位置並びにその輝度成分により構成される仮想視点画像を外部へ送信する送信手段と
を備える画像処理装置。 - 撮影対象を複数のカメラにより互いに異なる角度から撮像することにより生成された各画像を処理する画像処理方法において、
上記各カメラから画像が供給される度に、上記各カメラのレンズの色収差、歪み、光軸のズレを示すパラメータに基づいて、上記画像を補正するキャリブレーションステップと、
上記キャリブレーションステップで補正された各画像から、上記撮影対象を含む前景画像領域とその背景画像とを、撮像された各画像の色相並びに彩度の分布特性、又は各カメラに対する被写体の距離に基づいて各々分離する画像分離ステップと、
上記画像分離ステップで分離された各前景画像に関し、上記各前景画像領域に関して解像度を下げた低解像度画像を用いて、上記撮影対象と関連させつつ画素位置毎に対応付けを行うマッチングステップと、
上記各カメラで撮像された画像データ内に存在する撮像対象の画像領域から当該撮像対象の瞳の部分を輝度成分に基づいて抽出し、抽出した瞳の部分の位置に応じて、撮像対象の視線方向並びに視線位置を推定し、推定した視線方向並びに視線位置と、撮像対象の表示像が写し出されるディスプレイの中心付近に仮想的に設置された仮想カメラの撮影方向とが合致するような相対位置情報を生成する情報生成ステップと、
上記マッチングステップで互いに対応付けされた画素位置並びにその輝度成分から、上記情報生成ステップで生成された相対位置情報に応じて、上記仮想カメラにより撮像される仮想視点画像を構成する各画素の画素位置並びにその輝度成分を求め、撮像対象の視線方向並びに視線位置と、上記仮想カメラの撮影方向とが合致するような仮想視点画像を生成する画像生成ステップと、
上記画像生成ステップで求められた画素位置並びにその輝度成分により構成される仮想視点画像を外部へ送信する送信ステップと
を含む画像処理方法。 - ネットワークを介して画像を双方向で送受信する通信システムにおいて、
上記ネットワークを介して相手側から受信した画像を互いに表示するための表示装置と、
上記各表示装置を視認するユーザを撮影対象とし、複数のカメラにより互いに異なる角度からこれを撮像する撮像装置と、
上記各カメラから画像が供給される度に、上記各カメラに含まれる各カメラのレンズの色収差、歪み、光軸のズレを示すパラメータに基づいて、上記画像を補正するキャリブレーション手段と、上記キャリブレーション手段によって補正された各画像から、上記撮影対象を含む前景画像領域とその背景画像とを、撮像された各画像の色相並びに彩度の分布特性、又は各カメラに対する被写体の距離に基づいて各々分離する画像分離手段と、上記画像分離手段により分離された各前景画像に関し、上記各前景画像領域に関して解像度を下げた低解像度画像を用いて、上記撮影対象と関連させつつ画素位置毎に対応付けを行うマッチング手段と、上記各カメラによって撮像された画像データ内に存在する撮像対象の画像領域から当該撮像対象の瞳の部分を輝度成分に基づいて抽出し、抽出した瞳の部分の位置に応じて、撮像対象の視線方向並びに視線位置を推定し、推定した視線方向並びに視線位置と、撮像対象の表示像が写し出されるディスプレイの中心付近に仮想的に設置された仮想カメラの撮影方向とが合致するような相対位置情報を生成する情報生成手段と、上記マッチング手段により互いに対応付けされた画素位置並びにその輝度成分から、上記情報生成手段によって生成された相対位置情報に応じて、上記仮想カメラにより撮像される仮想視点画像を構成する各画素の画素位置並びにその輝度成分を求め、撮像対象の視線方向並びに視線位置と、上記仮想カメラの撮影方向とが合致するような仮想視点画像を生成する画像生成手段と、上記画像生成手段により求められた画素位置並びにその輝度成分により構成される仮想視点画像を外部へ送信する送信手段とを有する画像処理装置と
を備える通信システム。 - 上記画像処理装置は、
上記仮想視点画像とその背景画像とを合成する画像合成手段をさらに有し、
上記送信手段は、
上記画像合成手段により合成された画像を、上記ネットワークを介して送信する請求項19記載の通信システム。 - 上記画像処理装置は、
上記ネットワークを介して相手側から受信した仮想視点画像とその背景画像とを合成する画像合成手段をさらに有する請求項19記載の通信システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003294638A JP4461739B2 (ja) | 2003-08-18 | 2003-08-18 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003294638A JP4461739B2 (ja) | 2003-08-18 | 2003-08-18 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005065051A JP2005065051A (ja) | 2005-03-10 |
JP4461739B2 true JP4461739B2 (ja) | 2010-05-12 |
Family
ID=34371147
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003294638A Expired - Fee Related JP4461739B2 (ja) | 2003-08-18 | 2003-08-18 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4461739B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101827998B1 (ko) * | 2017-04-24 | 2018-02-12 | 에스케이플래닛 주식회사 | 얼굴 특징 기반의 가상 체험 시스템 및 그 방법 |
US10848748B2 (en) | 2016-05-25 | 2020-11-24 | Canon Kabushiki Kaisha | Method for generating virtual viewpoint image and image processing apparatus |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4645356B2 (ja) * | 2005-08-16 | 2011-03-09 | ソニー株式会社 | 映像表示方法、映像表示方法のプログラム、映像表示方法のプログラムを記録した記録媒体及び映像表示装置 |
JP5078589B2 (ja) * | 2007-12-17 | 2012-11-21 | 株式会社タイトー | 異種カメラによる画像形成方法を用いたマルチカメラ装置および該マルチカメラ装置を備えたプリントシール機 |
JP2011097447A (ja) * | 2009-10-30 | 2011-05-12 | Sharp Corp | コミュニケーションシステム |
CN101778246B (zh) | 2010-01-29 | 2014-04-02 | 华为终端有限公司 | 多画面视频图像处理方法和装置 |
JP2012114557A (ja) * | 2010-11-22 | 2012-06-14 | Nec Saitama Ltd | 表示装置、表示制御方法、プログラム及び電子機器 |
WO2012112788A2 (en) * | 2011-02-17 | 2012-08-23 | Eyelock Inc. | Efficient method and system for the acquisition of scene imagery and iris imagery using a single sensor |
JP6499583B2 (ja) * | 2013-09-24 | 2019-04-10 | シャープ株式会社 | 画像処理装置及び画像表示装置 |
EP3149937A4 (en) * | 2014-05-29 | 2018-01-10 | NEXTVR Inc. | Methods and apparatus for delivering content and/or playing back content |
US20150346812A1 (en) | 2014-05-29 | 2015-12-03 | Nextvr Inc. | Methods and apparatus for receiving content and/or playing back content |
JP6462441B2 (ja) * | 2015-03-18 | 2019-01-30 | 株式会社タイトー | ダンス装置 |
JP6491503B2 (ja) * | 2015-03-18 | 2019-03-27 | 株式会社タイトー | ダンス装置 |
JP6491502B2 (ja) * | 2015-03-18 | 2019-03-27 | 株式会社タイトー | 撮影装置 |
JP6461679B2 (ja) * | 2015-03-31 | 2019-01-30 | 大和ハウス工業株式会社 | 映像表示システム及び映像表示方法 |
JP6513169B1 (ja) * | 2017-12-14 | 2019-05-15 | キヤノン株式会社 | 仮想視点画像を生成するシステム、方法及びプログラム |
JP2020134973A (ja) | 2019-02-12 | 2020-08-31 | キヤノン株式会社 | 素材生成装置、画像生成装置および画像処理装置 |
-
2003
- 2003-08-18 JP JP2003294638A patent/JP4461739B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10848748B2 (en) | 2016-05-25 | 2020-11-24 | Canon Kabushiki Kaisha | Method for generating virtual viewpoint image and image processing apparatus |
KR101827998B1 (ko) * | 2017-04-24 | 2018-02-12 | 에스케이플래닛 주식회사 | 얼굴 특징 기반의 가상 체험 시스템 및 그 방법 |
Also Published As
Publication number | Publication date |
---|---|
JP2005065051A (ja) | 2005-03-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4461739B2 (ja) | 撮像装置 | |
JP4069855B2 (ja) | 画像処理装置及び方法 | |
US7330584B2 (en) | Image processing apparatus and method | |
CN109952759B (zh) | 用于具有hmd的视频会议的改进的方法和系统 | |
CN104885125B (zh) | 信息处理设备、信息处理系统和信息处理方法 | |
US20230206531A1 (en) | Avatar display device, avatar generating device, and program | |
KR20190000591A (ko) | 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치 | |
US20170180680A1 (en) | Object following view presentation method and system | |
US20060120712A1 (en) | Method and apparatus for processing image | |
WO2010119852A1 (ja) | 任意視点画像合成装置 | |
WO2012029301A1 (ja) | 撮影装置、再生装置、および画像処理方法 | |
WO2012029299A1 (ja) | 撮影装置、再生装置、および画像処理方法 | |
CN105141841B (zh) | 摄像设备及其方法 | |
WO2018225518A1 (ja) | 画像処理装置、画像処理方法、プログラム、およびテレコミュニケーションシステム | |
WO2017141584A1 (ja) | 情報処理装置、情報処理システム、および情報処理方法、並びにプログラム | |
JP2014220639A (ja) | 撮像装置および撮像方法 | |
JP2013025649A (ja) | 画像処理装置及び画像処理方法、プログラム | |
JP2004193962A (ja) | 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム | |
CN113112407B (zh) | 基于电视的照镜视野生成方法、系统、设备及介质 | |
JP4595313B2 (ja) | 撮像表示装置及び方法、画像送受信システム | |
JP2005142765A (ja) | 撮像装置及び方法 | |
JP7452434B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP4211097B2 (ja) | 受像機、その位置認識装置、その位置認識方法及び仮想画像立体合成装置 | |
JP2020191624A (ja) | 電子機器およびその制御方法 | |
JP2005174148A (ja) | 撮像装置及び方法、撮像システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060817 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091229 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100126 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100208 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130226 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |