JP2006190129A - 画像処理システム - Google Patents
画像処理システム Download PDFInfo
- Publication number
- JP2006190129A JP2006190129A JP2005002094A JP2005002094A JP2006190129A JP 2006190129 A JP2006190129 A JP 2006190129A JP 2005002094 A JP2005002094 A JP 2005002094A JP 2005002094 A JP2005002094 A JP 2005002094A JP 2006190129 A JP2006190129 A JP 2006190129A
- Authority
- JP
- Japan
- Prior art keywords
- image
- person
- processing system
- image processing
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Position Input By Displaying (AREA)
- Studio Circuits (AREA)
- Image Analysis (AREA)
Abstract
【課題】人物に負担をかけずに当該人物の視野画像を簡易に生成できる画像処理システムを提供する。
【解決手段】画像処理システム1は、人物SBの顔部SBfを撮影するカメラA1〜2と、人物SBの想定される視野ESをカバーした撮影を行うカメラB1〜3と、画像処理装置2とを備えており、人物SBの頭部に近赤外光を照射する照明装置が設けられている。カメラA1〜2で取得した画像に基づき人物SBの顔位置・顔向きが検出され、近赤外光で照明された眼周辺の画像から瞳孔の位置を取得して基準視線の方向が検出される。そして、検出された顔位置・顔向きおよび基準視線に基づき人物SBに設定した仮想カメラで撮影される視野ESの画像を、カメラB1〜3で取得した多視点の画像に基づき生成する。その結果、人物に負担をかけずに当該人物の視野画像を簡易に生成できる。
【選択図】図1
【解決手段】画像処理システム1は、人物SBの顔部SBfを撮影するカメラA1〜2と、人物SBの想定される視野ESをカバーした撮影を行うカメラB1〜3と、画像処理装置2とを備えており、人物SBの頭部に近赤外光を照射する照明装置が設けられている。カメラA1〜2で取得した画像に基づき人物SBの顔位置・顔向きが検出され、近赤外光で照明された眼周辺の画像から瞳孔の位置を取得して基準視線の方向が検出される。そして、検出された顔位置・顔向きおよび基準視線に基づき人物SBに設定した仮想カメラで撮影される視野ESの画像を、カメラB1〜3で取得した多視点の画像に基づき生成する。その結果、人物に負担をかけずに当該人物の視野画像を簡易に生成できる。
【選択図】図1
Description
本発明は、人物に関する視野画像を生成する画像処理システムに関する。
人物の視線を検出する技術としては、例えば特許文献1に開示されるものがある。この技術よれば、視線検出の対象となる人物(被験者)の頭部に取り付けた赤外線照射装置から赤外線を眼に照射し、その反射光を被験者の頭部に取り付けた眼球カメラで検出することによって視線が検出でき、被験者の頭部に取り付けたカメラで視野内の画像(視野画像)を取得できる。
しかしながら、上記の特許文献1の技術では、被験者の頭部に各種の装置を取り付けなければならないため、各装置が小型のものであっても被験者の行動を制約したり、被験者自身や周囲の人に違和感を与えるなどの弊害を生じることとなる。すなわち、被験者に負担をかけずに、その視野画像を簡易に生成するのは困難である。
本発明は、上記課題に鑑みてなされたものであり、人物に負担をかけずに当該人物の視野画像を簡易に生成できる画像処理システムを提供することを目的とする。
上記の課題を解決するため、請求項1の発明は、画像処理システムであって、(a)人物に関する顔の位置と顔の向きと視線とを、前記人物から離隔した離隔位置で検出する検出手段と、(b)前記人物に関する視野をカバーする多視点の画像を取得する画像取得手段と、(c)前記多視点の画像に基づき、前記検出手段で検出された顔の位置と顔の向きと視線とに対応した視野画像を生成する画像生成手段とを備える。
また、請求項2の発明は、請求項1の発明に係る画像処理システムにおいて、前記離隔位置には、前記人物を撮像する撮像手段が設けられており、前記検出手段は、(a-1)前記撮像手段で取得した人物の撮像画像に対して所定の処理を行うことにより、前記顔の位置と前記顔の向きと前記視線とを検出する手段を有する。
また、請求項3の発明は、請求項2の発明に係る画像処理システムにおいて、前記画像取得手段は、(b-1)複数の撮像装置によって前記多視点の画像を取得する手段と、(b-2)前記複数の撮像装置それぞれに関する光学パラメータ情報と、前記複数の撮像装置に関する相互の相対位置情報とを取得する情報取得手段とを有する。
また、請求項4の発明は、請求項3の発明に係る画像処理システムにおいて、前記画像生成手段は、(c-1)前記情報取得手段で取得した前記光学パラメータ情報と前記相互の相対位置情報とに基づき、前記多視点の画像において前記視野画像の各画素に対応した位置を検知して当該位置の周辺画素で補間することにより前記視野画像の各画素データを生成する手段を有する。
また、請求項5の発明は、請求項1ないし請求項4のいずれかの発明に係る画像処理システムにおいて、(d)前記画像生成手段で生成された視野画像に対して、前記視線に対応した位置に所定のマークを重畳させる処理を行う手段をさらに備える。
請求項1ないし請求項5の発明によれば、人物に関する視野をカバーする多視点の画像を取得し、多視点の画像に基づき、人物から離隔した離隔位置で検出された顔の位置と顔の向きと視線とに対応した視野画像を生成するため、人物に負担をかけずに当該人物の視野画像を簡易に生成できる。
特に、請求項2の発明においては、離隔位置に設けられた撮像手段で取得した人物の撮像画像に対して所定の処理を行うことにより、顔の位置と顔の向きと視線とを検出するため、顔の位置等を離隔位置から簡易に検出できる。
また、請求項4の発明においては、複数の撮像装置に関する光学パラメータ情報と相互の相対位置情報とに基づき、多視点の画像において視野画像の各画素に対応した位置を検知して当該位置の周辺画素で補間することにより視野画像の各画素データを生成するため、視野画像を精度良く生成できる。
また、請求項5の発明においては、視野画像に対して視線に対応した位置に所定のマークを重畳させる処理を行うため、人物の視線方向を容易に把握できる。
<画像処理システムの要部構成>
図1は、本発明の実施形態に係る画像処理システム1の要部構成を示す図である。
図1は、本発明の実施形態に係る画像処理システム1の要部構成を示す図である。
画像処理システム1は、2つのカメラ群A、Bと、画像処理装置2とを有しており、対象となる人物SBの視線方向を中心とした視野画像を生成できる。図示は省略しているが、人物SBの頭部は照明装置による近赤外光の照明が行われているものとする。
カメラ群Aは、人物SBから離隔した離隔位置に設けられる撮像手段として機能し、例えばデジタルビデオカメラとして構成される2台のカメラ(撮像装置)A1〜2を備えている。これら2台のカメラA1〜2によって異なる2つの視点位置から人物SBの顔部SBfを撮影して得られた各画像については、無線または有線で画像処理装置2に送信される。
カメラ群Bは、例えばデジタルビデオカメラとして構成される3台のカメラB1〜3を備えており、異なる3つの視点位置から人物SBの想定される視野ESをカバーした撮影が可能となっている。これらのカメラB1〜3で取得した多視点の画像については、無線または有線で画像処理装置2に送信される。
画像処理装置2は、例えばパーソナルコンピュータとして構成されており、本体部20と、画像表示が可能な表示部21と、マウス221およびキーボード222からなる操作部22とを備えている。
本体部20は、コンピュータとして働くCPUおよびメモリを内蔵し、画像処理装置2の各部を統括的に制御する。この本体部20においては、上記のCPUにおいて画像処理プログラムが実行されることで、後述する画像処理動作が行われることとなる。
また、本体部20は、例えば特開2003−256804号公報に記載される方法により、各カメラA1〜2、B1〜3の光学パラメータ(例えば撮影レンズの焦点距離、光軸中心画像座標、画素サイズなど)と、基準の三次元座標系に対する各カメラの位置・姿勢とを計算する。このように取得された各カメラに関する光学パラメータ情報とカメラに関する相互の相対位置情報とは、各カメラの校正データとして例えば本体部20内のハードディスクに保存される。
<画像処理システム1の動作>
画像処理システム1においては、各カメラA1〜2、B1〜3を起動するとともに画像処理装置2を起動し、画像処理装置2で上記の画像処理プログラムを実行する。これにより、以下で説明する動作が実施されることとなる。
画像処理システム1においては、各カメラA1〜2、B1〜3を起動するとともに画像処理装置2を起動し、画像処理装置2で上記の画像処理プログラムを実行する。これにより、以下で説明する動作が実施されることとなる。
図2は、画像処理システム1の基本的な動作を示すフローチャートである。
ステップS1では、各カメラA1〜2、B1〜3を同期させ、人物SBの顔部SBf(図1)をカメラA1〜2で撮影して2枚の画像を取得するとともに、人物SBの想定される視野ESをカメラB1〜3で撮影して3枚の画像(入力画像)を取得する。そして、カメラA1〜2、B1〜3それぞれで取得された各画像を、画像処理装置2に転送する。
ステップS2では、ステップS1で転送されたカメラ群Aによる2枚の撮影画像に対して画像処理を行うことにより、画像処理装置2において人物SBに関する顔の位置・顔の向きおよび基準の視線Do(図3)を検出する。具体的には、2台のカメラA1〜2で取得された画像を解析することで三次元的な人物SBの顔位置・顔向きが検出されるとともに、近赤外線で照明された人物SBの眼周辺の画像から瞳孔の位置を取得して基準視線Doの方向が検出される。ここで、基準視線Doは、両眼の中心の平均位置Poを起点として両眼の視線の平均方向に向かう1本の直線として与えられる。また、上記の顔位置・顔向きおよび基準視線Doの方向については、例えば特開2003−15816号公報に記載される方法により検出できる。
ステップS3では、ステップS2で検出された基準視線Doの起点Poを視点とし、人物SBの顔向きと同一方向に光軸を有する仮想カメラVc(図3)を人物SBについて設定する。なお、仮想カメラVcは、標準の画角および解像度を有しているものとする。
ステップS4では、ステップS3で設定された仮想カメラVCによって撮影される人物SBの視野ES(図3)を示す画像を、カメラB1〜3で取得した各画像を合成することで生成する。すなわち、カメラB1〜3で取得した多視点の画像に基づき、ステップS2で検出された顔の位置と顔の向きと視線とに対応した人物SBの視野画像が生成される。
この視野画像については、例えば山本ほかによる論文「ボリュームレンダリングを利用したイメージベーストレンダリングの試み」(画像電子学会誌、第30巻、第4号、2001)で開示されるイメージベーストレンダリング手法を用いて、各カメラB1〜3による撮影画像(入力画像)群から仮想カメラVCで撮影されるべき画像が合成される。具体的には、人物SBの想定される視野に対応した三次元空間内の各点(ボクセル)について、各入力画像に対する一致度を計算し、仮想カメラVCによる撮影画像の各画素値に関して各画素が対応する三次元空間内の点における上記一致度に応じて適応的に入力画像の画素を選択することにより、視野画像が生成されることとなる。ここでは、周辺の画素による補完処理、つまり補間して求めようとする画素について入力画像中の各画素のうち最も近いN個の、視線に対応した周辺画素を選び出し、その重み付け平均した画素値を求める処理が行われる。
以上のように、各カメラに関する光学パラメータ情報とカメラ相互の相対位置情報とに基づき、カメラB1〜3で取得した多視点の画像において視野画像の各画素に対応した画素位置を検知して当該位置の周辺画素で補間することにより、視野画像の各画素データが生成され、これらを合成することで視野画像が作成されることとなる。
ステップS5では、ステップS4で生成された人物SBの視野画像に対して、基準視線Do(図3)に対応した位置に”+”印を重畳させる合成処理を行う。この基準視線Doに対応する視野画像上の位置については、仮想カメラVCの撮像面と基準視線Doとの交点として算出できる。
以上のようなステップS1〜S5の動作を時刻t、t+1、t+2、・・・で繰り返し、基準視線Doのマークが合成された映像を順次に、送信用の画像形式に変換して映像サーバ(不図示)に転送する。そして、映像サーバから映像が転送された放送用機器により、放送用映像に合成されて配信されることとなる。これにより、注目すべき人物の視線に追従したインパクトのある映像を視聴者に提供できる。
以上のような画像処理システム1の動作により、人物SBの想定される視野ESをカバーする多視点の画像を各カメラB1〜3で取得し、これらの画像に基づき各カメラA1〜2によって遠隔から検出された人物SBの顔位置と顔向きと視線とに対応した視野画像を生成するため、人物に負担をかけずに当該人物の視野画像を簡易に生成できる。
本実施形態においては、人物の頭部の位置がほぼ同一位置に静止する場合を想定しているが、人物の頭部が移動する場合には、想定される全ての範囲をカバーする多数のカメラを設置するか、カメラの方向や画角等を例えばモータ駆動により変更可能とするようにする。ここで、後者のようにカメラを駆動する場合には、各カメラの光学パラメータと、各カメラの相対的位置関係とが動的に変更されることとなるが、モータの制御信号に応じた光学パラメータ等の変化を予めテーブル化しておいたり、光学パラメータ等の変化を近似した変換式を予め設定しておくことで、カメラが駆動されても光学パラメータ等の検出を適切に行えることとなる。
1 画像処理システム
2 画像処理装置
A1〜2、B1〜3 カメラ
Do 基準視線
ES 視野
SB 人物
SBf 顔部
2 画像処理装置
A1〜2、B1〜3 カメラ
Do 基準視線
ES 視野
SB 人物
SBf 顔部
Claims (5)
- 画像処理システムであって、
(a)人物に関する顔の位置と顔の向きと視線とを、前記人物から離隔した離隔位置で検出する検出手段と、
(b)前記人物に関する視野をカバーする多視点の画像を取得する画像取得手段と、
(c)前記多視点の画像に基づき、前記検出手段で検出された顔の位置と顔の向きと視線とに対応した視野画像を生成する画像生成手段と、
を備えることを特徴とする画像処理システム。 - 請求項1に記載の画像処理システムにおいて、
前記離隔位置には、前記人物を撮像する撮像手段が設けられており、
前記検出手段は、
(a-1)前記撮像手段で取得した人物の撮像画像に対して所定の処理を行うことにより、前記顔の位置と前記顔の向きと前記視線とを検出する手段、
を有することを特徴とする画像処理システム。 - 請求項2に記載の画像処理システムにおいて、
前記画像取得手段は、
(b-1)複数の撮像装置によって前記多視点の画像を取得する手段と、
(b-2)前記複数の撮像装置それぞれに関する光学パラメータ情報と、前記複数の撮像装置に関する相互の相対位置情報とを取得する情報取得手段と、
を有することを特徴とする画像処理システム。 - 請求項3に記載の画像処理システムにおいて、
前記画像生成手段は、
(c-1)前記情報取得手段で取得した前記光学パラメータ情報と前記相互の相対位置情報とに基づき、前記多視点の画像において前記視野画像の各画素に対応した位置を検知して当該位置の周辺画素で補間することにより前記視野画像の各画素データを生成する手段、
を有することを特徴とする画像処理システム。 - 請求項1ないし請求項4のいずれかに記載の画像処理システムにおいて、
(d)前記画像生成手段で生成された視野画像に対して、前記視線に対応した位置に所定のマークを重畳させる処理を行う手段、
をさらに備えることを特徴とする画像処理システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005002094A JP2006190129A (ja) | 2005-01-07 | 2005-01-07 | 画像処理システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005002094A JP2006190129A (ja) | 2005-01-07 | 2005-01-07 | 画像処理システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006190129A true JP2006190129A (ja) | 2006-07-20 |
Family
ID=36797270
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005002094A Pending JP2006190129A (ja) | 2005-01-07 | 2005-01-07 | 画像処理システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006190129A (ja) |
-
2005
- 2005-01-07 JP JP2005002094A patent/JP2006190129A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20190379885A1 (en) | Optimized object scanning using sensor fusion | |
JP2020516090A (ja) | ヘッドマウントディスプレイのための光照射野キャプチャおよびレンダリング | |
US20130335535A1 (en) | Digital 3d camera using periodic illumination | |
JP2017517794A (ja) | 画像処理方法および画像処理装置 | |
JP2008140271A (ja) | 対話装置及びその方法 | |
JP2009267729A (ja) | 映像処理装置、映像処理方法、プログラム及び記録媒体 | |
CN111373748A (zh) | 用于外部校准相机和衍射光学元件的系统和方法 | |
JP2013076924A5 (ja) | ||
JP2009267787A (ja) | 構図判定装置、構図判定方法、プログラム | |
US20150256764A1 (en) | Active-tracking based systems and methods for generating mirror image | |
JP2015119395A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2019100995A (ja) | 測量画像表示制御装置、測量画像表示制御方法および測量画像表示制御用プログラム | |
TWI501193B (zh) | Computer graphics using AR technology. Image processing systems and methods | |
JP2010181826A (ja) | 立体画像形成装置 | |
JP2018500690A (ja) | 拡大3d画像を生成するための方法およびシステム | |
EP3038061A1 (en) | Apparatus and method to display augmented reality data | |
JP2019029721A (ja) | 画像処理装置、画像処理方法およびプログラム | |
WO2016157923A1 (ja) | 情報処理装置及び情報処理方法 | |
CN107659772B (zh) | 3d图像生成方法、装置及电子设备 | |
JP6409769B2 (ja) | 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム | |
JP2017046233A (ja) | 表示装置及び情報処理装置及びその制御方法 | |
JP2009212582A (ja) | バーチャルスタジオ用フィードバックシステム | |
JP2006267767A (ja) | 画像表示装置 | |
JP5202448B2 (ja) | 画像処理システム及び方法 | |
JP2009055332A (ja) | 映像合成表示装置 |