JP2004172862A - 画像合成方法および合成画像配信システム - Google Patents
画像合成方法および合成画像配信システム Download PDFInfo
- Publication number
- JP2004172862A JP2004172862A JP2002335241A JP2002335241A JP2004172862A JP 2004172862 A JP2004172862 A JP 2004172862A JP 2002335241 A JP2002335241 A JP 2002335241A JP 2002335241 A JP2002335241 A JP 2002335241A JP 2004172862 A JP2004172862 A JP 2004172862A
- Authority
- JP
- Japan
- Prior art keywords
- image
- background
- subject
- area
- combining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】画像配信において、プライバシー保護を図ること、画像の合成処理を簡易かつ精度良く実行することを課題とする。
【解決手段】カメラ1の撮影した画像は、ネットワークを介して中継サーバ2に送信される。中継サーバ2は、背景画像データBD、代理画像データADを記憶しており、受信した撮影画像から背景領域および被写体領域を決定し、背景領域に背景画像を合成する。あるいは、被写体領域に代理画像を合成する。合成された画像は、端末装置3に送信される。ここで、カメラ1は、最初にブルーバックのみの背景を撮影しており、これを基準画像として中継サーバ2が記憶する。中継サーバ2は、その後受信する撮影画像と基準画像を比較することにより、背景領域を決定する。
【選択図】 図3
【解決手段】カメラ1の撮影した画像は、ネットワークを介して中継サーバ2に送信される。中継サーバ2は、背景画像データBD、代理画像データADを記憶しており、受信した撮影画像から背景領域および被写体領域を決定し、背景領域に背景画像を合成する。あるいは、被写体領域に代理画像を合成する。合成された画像は、端末装置3に送信される。ここで、カメラ1は、最初にブルーバックのみの背景を撮影しており、これを基準画像として中継サーバ2が記憶する。中継サーバ2は、その後受信する撮影画像と基準画像を比較することにより、背景領域を決定する。
【選択図】 図3
Description
【0001】
【発明の属する技術分野】
本発明は、被写体画像と背景画像の合成技術に関する。
【0002】
【従来の技術】
{ブルーバッククロマキー合成法}
被写体の画像に任意の背景画像を合成する方法として、放送などの分野においてはクロマキー合成が行なわれている。クロマキー合成の原理は、被写体となる人物と関係の薄い色調(通常は青色(ブルーバック)または緑色を用いる)を背景とした状態で撮影を行い、その撮影画像から背景となった色調を光学的にあるいは電子的に抜き出し、排除して、そこに他の画像を代替して合成するというものである。
【0003】
図8は、クロマキー合成システムの概略図である。ブルーシートの前にいる被写体100を撮影カメラ101で撮影し、その撮影画像をクロマキー合成装置102に入力する。クロマキー合成装置102は、複数の背景画像データ104を蓄積しており、合成部103は、入力した撮影画像のブルーバック部分に任意に選択された背景画像データ104を合成して出力するのである。
【0004】
{ホロセットクロマキー合成法}
また、ブルーバックを用いたクロマキー合成方法に代用される方法として、米グローバルストリーム社により提供されている「ホロセット法」が存在する。図9は、ホロセット法による合成システムの概略図である。被写体100の背景には、色成分補助光を乱反射させる乱反射素材110(布に硝材をつけたもの等)が吊り下げられている。また、撮影カメラ111の近傍位置に配置された光源115からは補助光が照射される。そして、光源115から、たとえば青色光を発生させる。青色光は背景の乱反射素材110で反射し、撮影カメラ111で捉えられる。これにより撮影カメラ111が取得する画像は、背景が青色の画像となる。そして、同様に撮影画像を入力するクロマキー合成装置112では、合成部113が、入力した撮影画像のブルーバック部分に任意に選択された背景画像データ114を合成して出力するのである。
【0005】
{輝度差検出法}
また、同一出願人によって、輝度差検出による画像合成方法が提案されている。この方法は、ストロボあるいは人工照明などを投射したうえで撮影を行い、撮影画像における被写体と背景の輝度差を用いて(コントラス拡張を行い)、輝度の小さい部分の背景を抜き出すというものである。
【0006】
図10は、輝度差検出によりブルーバック処理を実行するシステムの概略および処理の流れを示す図であり、図11は、輝度差検出によりブルーバック処理を実行する処理部120の機能ブロック図を示している。処理部120は、撮影画像を入力するPC等のコンピュータ上で動作するソフトウェアにより実現される。あるいは、処理部120は専用のハードウェアで実現されてもよい。
【0007】
図10に示すように、撮影カメラ129の近傍位置には、光源128が配置されており、光源128が発する白色光が被写体100を照射している。処理部120には、白色光が照射された状態で被写体100を撮影して得られた画像A1が入力される。次に、画像A1は、コントラスト拡張部121においてコントラストの強調処理が行われる。このようにして得られる画像を拡張輝度画像A2とする。拡張輝度画像A2は、次に、低輝度域カット部122において処理され、設定された閾値以下の輝度の情報が切り捨てられる。この処理により、背景部分の情報が切り取られ、被写体部分の輝度が拡張された拡張高輝度画像A3が生成される。拡張高輝度画像A3は、次に、逆補正部123によってコントラストの補正が行われる。逆補正部123では、コントラスト拡張部121において拡張されたコントラストが、元のコントラストに戻され、高輝度画像A4が生成される。したがって、被写体100が背景127よりも輝度が大きく撮影される環境下では、高輝度画像A4は、背景が取り除かれた被写体を含む画像である。以上の処理により生成された高輝度画像A4は、輝度補正部124において輝度補正が施された後、ブルーバック処理部125においてブルーバック処理がされる。つまり、被写体以外の領域がブルーバックに置き換えられる。このようにして、ブルーバック画像が得られるのである。
【0008】
{多点測距法}
また、クロマキー合成を行うために多点測距を利用する方法が同一出願人により提案されている(特開2001−167276公報)。この方法は、AF(オートフォーカス)機構により距離差検出を行い、被写体領域を検知するものである。スチル、ビデオカメラなどに内蔵されているAF機構を用い、画面内の複数地点に対して同時あるいは連続的に測距を行い、等高線と同様の考え方で同一距離点を結び、ある閾値以下の距離を抜き出し被写体とするか、あるいは、ある設定値以上の差異が発生したものを被写体と背景として区別する技術である。そして、この技術を利用すれば、背景に任意の画像を合成することが可能である。
【0009】
図12は、多点測距法による処理の流れを示す図である。図13は、多点測距処理を行なう処理部130の機能ブロック図である。処理部130は、撮影画像を入力するPC等のコンピュータ上で動作するソフトウェアにより実現される。あるいは、処理部130は専用のハードウェアで実現されてもよい。
【0010】
まず、任意の背景で被写体135を撮影するとともに、多点測距素子により撮影領域内における被写体および背景の距離情報を取得する。そして、処理部130は、この撮影画像と距離情報とを入力する。距離情報解析部131は、この距離情報をもとに等距離点を結び、等距離画像136を生成する。そして、被写体抽出部132は、距離がある閾値以下の領域を抽出することにより、特定被写体画像137を取得するとともに、被写体135を撮影した画像データから、特定被写体画像137の領域のデータを抽出することにより、被写体撮影画像138を生成する。そして、ブルーバック処理部133において背景領域がブルーバック画像に置き換えられるのである。
【0011】
以上、背景画像を合成するためのいくつかの方法を示したが、この他にも被写体(人物)自体を合成処理により置き換ええることも行なわれている。そのような技術の1つとして、アバターと呼ばれる技術が存在する。アバターは、一般の人物等を被写体として撮影し、撮影画像に対して画像認識を行い、顔や目の動きを解析し、それをアニメーションやキャラクターの画像に置き換えて表示を行なうものである。この技術については、たとえば、特願平09−064812において開示されている。
【0012】
一方、ネットワーク経由で撮影画像を配信するWebカメラが存在する。また、ネットワークを利用し、多地点・双方向で画像や音声をやりとりするテレビ会議システムが存在する。
【0013】
【発明が解決しようとする課題】
上述した、ブルーバックやホロセットによるクロマキー合成方法において、ブルーシートや乱反射素材に”しわ”がある場合や、シートが破れている場合などには、撮影画像における背景領域の青色にばらつきが生じることとなる(濃い青色部分や薄い青色部分、あるいは他の色として撮影される部分が混在することになる)。このような場合、背景領域の抽出精度が低下するため、合成処理を行なっても背景部分の置き換えが不充分である。
【0014】
また、上述したブルーバックやホロセットによるクロマキー合成方法では、被写体の背景にシートを設置する必要があるため、大掛かりな仕組みとなる。また、多点測距法において、撮影装置に特別の仕組みが必要であり、輝度差検出法では、被写体を照射するための光源が必要となるなど、簡易なシステム構成とは言えない。
【0015】
また、テレビ会議による画像配信やWebカメラによる画像配信が、ブロードバンドネットワークなどの普及で一般化された現代においては、一般利用者のプライバシー配慮が重要な課題となっている。たとえば、利用者の人物画像を配信しようとする場合、不用意に自宅の様子が映し出される場合がある。逆に、利用者自身が人物画像として配信されることを望まない場合もある。
【0016】
本発明においては、Webカメラやテレビ電話システムその他の画像配信システム、PCカメラ(USBカメラ)、デジタルムービーカメラ、デジタルスチルカメラ、テレビゲーム機器、携帯電話および携帯通信機器等を用いた画像配信において、利用者プラバシーの保護を行なうこと、機器に搭載されるアプリケーション・ソフトウェアで構成されるクロマキー処理、またはクロマキーと同様な効果を得られる手法、およびアバター処理等を、簡便かつ有効に用いることを目的とする。
【0017】
【課題を解決するための手段】
上記課題を解決するため、請求項1記載の発明は、被写体画像と背景画像とを組み合わせて合成画像を生成する方法であって、被写体の存在しない状態で略全面にわたり一の系統色に設定された背景を撮影して第1画像を取得する工程と、前記第1画像の画像情報を記憶手段に格納する工程と、前記背景の中に被写体が存在する状態で撮影を行い、第2画像を取得する工程と、前記第2画像中、前記一の系統色であって、前記第1画像と画像情報が一致する領域を背景領域として決定する工程と、前記背景領域に、予め蓄積された背景画像を合成する工程と、を備えることを特徴とする。
【0018】
請求項2記載の発明は、請求項1に記載の画像合成方法において、前記背景が略全面にわたり青色系統色となっていることを特徴とする。
【0019】
請求項3記載の発明は、被写体画像と背景画像とを組み合わせて合成画像を生成する方法であって、被写体の存在しない状態で背景を撮影して第1画像を取得する工程と、前記第1画像の画像情報を記憶手段に格納する工程と、前記背景の中に被写体が存在する状態で撮影を行い、第2画像を取得する工程と、前記第1画像と前記第2画像との差分を被写体領域として抽出し、当該被写体領域以外の領域を背景領域として決定する工程と、前記背景領域に、予め蓄積された背景画像を合成する工程と、を備えることを特徴とする。
【0020】
請求項4記載の発明は、被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して配信するシステムであって、撮影装置と、前記撮影装置の撮影した画像をネットワーク経由で受信し、画像合成処理を行った後、合成画像を端末装置に配信するサーバと、を備え、前記サーバは、背景画像を蓄積する記憶手段と、前記撮影装置から受信した撮影画像の中から背景領域を決定する手段と、前記背景領域に前記背景画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0021】
請求項5記載の発明は、請求項4に記載の合成画像配信システムであって、前記サーバは、さらに、代理画像を蓄積する記憶手段と、前記撮影装置から受信した撮影画像の中から被写体領域を決定する手段と、前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0022】
請求項6記載の発明は、被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して配信するシステムであって、撮影装置と、撮影画像に画像合成処理を実行するためのプログラムを記憶するとともに、前記撮影装置から受信した合成画像を端末装置に配信するサーバと、を備え、前記撮影装置は、背景画像を蓄積する記憶手段と、前記プログラムをダウンロードする手段と、を備え、前記プログラムが実行されることにより、前記撮影装置が、撮影画像の中から背景領域を決定する手段、前記背景領域に前記背景画像を合成して前記合成画像を生成する手段、として動作することを特徴とする。
【0023】
請求項7記載の発明は、請求項6に記載の合成画像配信システムであって、前記撮影装置は、さらに、代理画像を蓄積する記憶手段、を備え、前記プログラムが実行されることにより、前記撮影装置が、さらに、撮影画像の中から被写体領域を決定する手段、前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段、として動作することを特徴とする。
【0024】
請求項8記載の発明は、被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して交換するシステムであって、少なくとも2以上の端末装置と、前記端末装置の送信した画像をネットワーク経由で受信し、画像合成処理を行った後、合成画像を他の端末装置に送信するサーバと、を備え、前記サーバは、背景画像を蓄積する記憶手段と、前記端末装置から受信した撮影画像の中から背景領域を決定する手段と、前記背景領域に前記背景画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0025】
請求項9記載の発明は、請求項8に記載の合成画像配信システムであって、前記サーバは、さらに、代理画像を蓄積する記憶手段と、前記端末装置から受信した撮影画像の中から被写体領域を決定する手段と、前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0026】
【発明の実施の形態】
以下、図面を参照しつつ本発明の実施の形態について説明する。図1および図2は、本発明の合成画像配信システムの2つの実施の形態を示している。図1は片方向配信型、図2は多地点・双方向配信型のシステム概略図である。
【0027】
片方向配信型では、カメラ1より撮影された画像が、中継サーバ2に送信される。中継サーバ2は、撮影画像に背景画像を合成した後、端末装置3に合成画像を配信する。また、中継サーバ2では、アバター等により人物画像の置き換え処理なども行なわれる。
【0028】
多地点・双方向配信型では、各端末装置4(4a,4b,4c)より中継サーバ5に対して画像が送信される。中継サーバ5は、撮影画像に背景画像を合成した後、他の端末装置4に合成画像を配信する。また、中継サーバ5では、アバター等により人物画像の置き換え処理なども行なわれる。この多地点・双方向配信型は、音声の交換も行なうことで、いわゆるテレビ会議システムの形態となる。
【0029】
図3は、片方向配信型におけるシステムの主な機能ブロックを示す図である。カメラ1は、CCD等からなる撮影手段を備えるとともに、撮影画像をネットワークに対して送信する機能を備えている。ネットワーク配信機能がWebサーバにより実現されている場合には、カメラ1は、いわゆるWebカメラと呼ばれる。撮影手段としては、他にも、PCとデジタルカメラの組み合わせ、通信機能つきデジタルカメラ、デジタルビデオなどを利用可能である。
【0030】
カメラ1から送信された画像は、中継サーバ2の画像受信部21で受信される。中継サーバ2は、受信した撮影画像に合成するための背景画像データBDと代理画像データADとを蓄積している。合成処理部22において、撮影画像に背景画像データBDあるいは代理画像データADが合成されると、合成画像は画像配信部23より端末装置3に配信される。
【0031】
端末装置3では、画像受信部31が合成画像を受信し、受信した合成画像は、モニタ32に出力されるのである。端末装置3としては、PCの他に、携帯電話などのモバイル端末を利用することが可能である。
【0032】
このようなシステム形態とすることにより、端末装置3は、カメラ1の撮影した画像を参照可能となる。そして、カメラ1の撮影した画像は、背景画像や人物画像を合成によって差替えることが可能であるので、撮影側は、見せたくない対象(部屋の中の様子や自分自身の顔など)の画像が配信されることを防止することが可能である。また、中継サーバ2が複数の背景画像データBDあるいは代理画像データADを蓄積することにより、目的に応じて様々な映像効果を得ることが可能である。さらには、合成処理を中継サーバ2で行なうことにより、カメラ1側に合成処理を行なうためのハードウェアやソフトウェアが不要となり、一般的なWebカメラを利用することが可能である。また、カメラ1側には高い処理能力が要求されないので、携帯系端末を利用することも可能である。また、中継サーバ2に複数のカメラ1がネットワーク接続され、複数のカメラ1から画像が配信されるシステム形態であっても、中継サーバ2で集中的に合成処理を実行することで、システムコストを低減させることも可能である。また、中継サーバ2に豊富な背景画像や代理画像を用意することで、多くの利用者がこれらデータベースを共有することが可能である。
【0033】
図4は、多地点・双方向配信型におけるシステムの主な機能ブロックを示す図である。各端末装置4(4a,4b)は、カメラ41を備えることにより、端末装置4の周辺画像を撮影可能である。カメラ41が撮影した画像は、画像送受信部45によりネットワークに対して送信される。端末装置4としては、テレビ会議システム専用端末や、テレビ会議ソフトウェアが搭載されたPC,通信機能つきゲーム機、セットトップボックス、PDAや携帯電話端末などを利用可能である。
【0034】
端末装置4から送信された画像は、中継サーバ5の画像送受信部52で受信される。中継サーバ5は、受信した撮影画像に合成するための背景画像データBDと代理画像データADとを蓄積している。合成処理部51において、撮影画像に背景画像データBDあるいは代理画像データADが合成されると、合成画像は画像送受信部52より他の端末装置4に配信される。
【0035】
端末装置4では、画像送受信部45が合成画像を受信し、受信した合成画像は、モニタ43に出力されるのである。端末装置4としては、PCの他に、携帯電話などのモバイル端末を利用することも可能である。なお、本発明においては必須の機能ではないが、各端末装置4は、マイク42およびスピーカ44を備えており、各端末装置4がマイク42で集音した音声は、中継サーバ5を介して各端末装置4に送信される。各端末装置4は、受信した音声をスピーカ44より出力する。
【0036】
このようなシステム形態とすることにより、各端末装置4は、他の端末装置4のカメラ41の撮影した画像を参照可能となる。そして、カメラ41の撮影した画像は、背景画像や人物画像を合成によって差替えることが可能であるので、撮影側は、見せたくない対象(部屋の中の様子や自分自身の顔など)の画像が配信されることを防止することが可能である。また、中継サーバ5が複数の背景画像データBDあるいは代理画像データADを蓄積することにより、目的に応じて様々な映像効果を得ることが可能である。さらには、合成処理を中継サーバ5で行なうことにより、各端末装置4に合成処理を行なうためのハードウェアやソフトウェアが不要となる。
【0037】
以上、片方向配信型および多地点・双方向配信型の合成画像配信システムについて、そのシステム全体構成について説明したが、このようなシステム形態とすることにより、映像通信利用者の自宅やその他通信場所などの背景環境のプライバシー保護を図ることがでる。また、好みの仮想空間を合成することにより、映像通信利用者の意思や主張を付加することや、背景を通信内容に係る映像や資料とすることにより、教育分野での活用が可能であり、プレゼンテーション効果を発揮することができる。また、通信利用者がその場所に存在しなくても、映画やムービーなどのコンテンツのようなロケ効果を得ることができる。
【0038】
また、切り出した被写体を、他の代理画像に変換することで、本人が映し出されなく無い場合、プライバシー保護を図ることができ、適当なキャラクター画像を選択するなどの娯楽的な利用が可能である。また、アバターを用いることで、本人が他のキャラクター(ニュースキャスターやアニメの主人公など)になりきって、教育番組やプレゼンテーション、あるいはドラマやムービーを製作することが可能である。
【0039】
また、同時に背景と被写体を変換することで、仮想的な背景内で仮想的なキャラクターが通話者に代わり会話を行うことが可能であり、プライバシーを保護することができる。また、ネット通信でハンドルネームのように、ハンドル画像により本人の個性を主張することや、教育、プレゼンテーションを効果的に行なうことが可能である。
【0040】
次に、上述した中継サーバ2あるいは中継サーバ5が備える合成処理部22あるいは合成処理部51の機能構成および、調整型クロマキー合成処理および動き検出型合成処理について説明する。合成処理部22および合成処理部51は同様の処理を行なうので、共通の説明を行なう。
【0041】
<調整型クロマキー合成処理>
まず、図5、図6を参照しながら調整型クロマキー処理について説明する。図5に示すように、合成処理部22(51)は、登録部61、ブルーバック除去部64、差分検出部65、代理画像合成部66、背景画像合成部67を備えている。
【0042】
調整型クロマキー処理では、図6に示すように、まず、被写体の存在しないブルーバックの撮影を行なう。つまり、背景には、ブルーシートが設置されており(あるいは、青色の壁でもよい。)、背景は全面にわたって青色となっている。この撮影は、カメラ1(図3)あるいはカメラ41(図4)により行なわれる。したがって、カメラ1あるいはカメラ41の撮影現場には、ブルーシート等が準備される。登録部61は、中継サーバ2(5)が受信したブルーバックのみからなる撮影画像を入力する。そして、登録部61は、このブルーバックのみからなる撮影画像を基準ブルーバックデータ62として記憶手段に格納する。
【0043】
前述したように、ブルーシートに”しわ”や破れた部分などが存在すれば、実際に撮影されたブルーバックのみの画像は、青色にもばらつきが生じていることになる(”しわ”などが無い場合であっても、現実的には色にばらつきが生じることになる。)。したがって、このような色の分布を基準ブルーバックデータ62として記憶するのである。
【0044】
次に、図6に示すように、ブルーバックの前に被写体が追加され、さらに撮影が行なわれる。登録部61が入力した撮影画像は、ブルーバック除去部64に出力される。ブルーバック除去部64は、入力した撮影画像と基準ブルーバックデータ62とを比較処理することにより、被写体が追加された撮影画像からブルーバックの除去処理を行なう。
【0045】
ここで、一般のブルーバック除去処理は、画像中の青色領域を背景として除去する処理であるが、本実施の形態においては、基準ブルーバックデータ62として、初期状態のブルーバック情報が登録されている。したがって、一律に青色と判断される領域を除去するのではなく、基準ブルーバックデータ62と変化のない青色領域を除去することとしている。この処理は、あくまでも青色をキー色として背景除去を行なうので、被写体部分など、青色とは色相の異なる領域については、比較処理を省略することが可能である。
【0046】
これにより、ブルーシートに”しわ”ができている場合や破れた部分がある場合などにおいて、ブルーバックに濃い青色部分や薄い青色部分が存在している場合であっても、これらの情報を初期情報である基準ブルーバックデータ62として保存しているので、この初期情報と比較することで背景を正確に認識することが可能となるのである。
【0047】
なお、この調整型クロマキー法を行なう場合には、背景は必ずしもブルーバックでなくてもよい。したがって、青色以外の色であっても、一の系統色で背景全面を設定するようにしてもよい。ただし、人の肌色と補色の関係にあるブルー系統の色を使用することが望ましい。
【0048】
ブルーバック除去処理が行なわれると切り出し画像71が生成される。背景画像合成部67は、この切り出し画像と背景画像データBDを合成処理することにより、合成画像72を出力するのである。これにより、背景画像の差替え処理が行なわれることになる。また、人物の差替えを行なう場合には、代理画像合成部66において切り出し画像71を代理画像データADに差替えることが可能である。また、代理画像合成部66においてアバターを行い、キャラクター動画などに画像を置き換えることも可能である。
【0049】
<動き検出処理>
次に、図5、図7を参照しながら動き検出型合成処理について説明する。図5に示すように、合成処理部22(51)は、登録部61、ブルーバック除去部64、差分検出部65、代理画像合成部66、背景画像合成部67を備えている。
【0050】
動き検出方合成処理では、図7に示すように、まず、被写体の存在しない背景の撮影を行なう。この背景には、ブルーシートなどは不要である。この撮影は、カメラ1(図3)あるいはカメラ41(図4)により行なわれる。登録部61は、中継サーバ2(5)が受信した背景のみからなる撮影画像を入力する。そして、登録部61は、この背景のみからなる撮影画像を基準背景データ62として記憶手段に格納する。
【0051】
次に、図7に示すように、背景の前に被写体が追加され、さらに撮影が行なわれる。登録部61が入力した撮影画像は、差分検出部65に出力される。差分検出部65は、入力した撮影画像と基準背景データ63とを比較処理することにより、被写体が追加された撮影画像から背景の除去処理を行なう。具体的には、新たに入力した撮影画像データと基準背景データ63との差分抽出を行なうことにより、撮影画像データ中の差分抽出された領域を切り出し画像71として出力するのである。
【0052】
差分検出処理が切り出し画像71を出力すると、背景画像合成部67は、この切り出し画像と背景画像データBDを合成処理することにより、合成画像72を出力するのである。これにより、背景画像の差替え処理が行なわれることになる。また、人物の差替えを行なう場合には、代理画像合成部66において切り出し画像71を代理画像データADに差替えることが可能である。また、代理画像合成部66においてアバターを行い、キャラクター動画などに画像を置き換えることも可能である。
【0053】
また、上記説明では、被写体のいない状態で1度基準となる背景基準データ63を取得するようにしたが、この背景基準データ63を定期的に更新するようにすれば、背景自体に変化が生じるような環境でも合成処理が可能となる。
【0054】
この動き検出型合成処理は、ブルーバッククロマキー合成方法のように、被写体の背後にブルーシートを用意する必要がなく、撮影場所を任意に選択することが可能である。
【0055】
以上、合成処理部22あるいは合成処理部51において、調整型クロマキー合成処理および動き検出型合成処理を行う場合を説明したが、合成処理部22あるいは合成処理部51において、上述した各合成処理(ブルーバッククロマキー合成法、ホロセットクロマキー合成法、輝度差検出法、多点測距法)を実行することにしてもよい。そして、ブルーバッククロマキー合成法を利用する場合には、各撮影場所においてブルーシートを、ホロセットクロマキー合成法を利用する場合には、各撮影場所に乱反射素材シートおよび光源を用意すればよい。また、輝度差検出法を利用する場合にも、各撮影場所に光源を用意すればよい。また、多点測距法を利用する場合には、カメラ1(図3)あるいはカメラ41(図4)に、多点測距機能および測定情報を画像とともに送信する機能を付加するようにすればよい。
【0056】
図1および図3で示した片方向配信型のシステムでは、画像の合成処理は、中継サーバ2で実行するようにした。この変形例として、画像合成処理をカメラ1側で実行するようにしてもよい。そして、図3および図5で示した合成処理部22を実現するためのソフトウェアを中継サーバ2がダウンロード可能に記憶するようにする。カメラ1は、当該ソフトウェア(JAVA(登録商標)等)をダウンロードし、実行することによって、合成処理部22と同様の機能を実行可能とするのである。背景画像データBDおよび代理画像データADは、カメラ1が蓄積するようにすればよい。この場合、カメラ1は、背景画像を合成した合成画像あるいは代理画像を合成した合成画像を中継サーバ2に送信することとなる。中継サーバ2は、受信した合成画像を端末装置3に配信するのである。このようなシステム形態とすれば、様々な端末機器(撮影装置)において、必要に応じて画像合成処理機能を付加することが可能となる。また、各端末機器に処理負荷を分散させることが可能である。
【0057】
同様に、図2および図4で示した多地点・双方向配信型のシステムにおいても、各端末装置4が合成処理部51を実現するソフトウェアをダウンロードし、各端末装置4において合成処理を実行することも可能である。
【0058】
【発明の効果】
以上説明したように、請求項1記載の発明では、同一系統色に設定された背景を第1画像として記憶し、撮影された第2画像と比較処理を行なって背景領域の決定を行なうので、背景色に色のばらつきが生じている場合であっても、背景領域の抽出を精度よく行なうことができる。
【0059】
請求項2記載の発明では、背景を青色とするので、人物被写体が背景と誤認されることを防止できる。
【0060】
請求項3記載の発明では、背景を第1画像として記憶し、撮影された第2画像との差分を抽出して背景領域を決定するので、自由な背景を選択することができるため撮影環境の制約がなく、簡易なシステムとすることができる。
【0061】
請求項4ないし7記載の発明では、撮影された画像を遠隔地に配信する際、プライバシーの保護を図ることが可能である。
【0062】
請求項8,9記載の発明では、撮影された画像を多地点間で交換する際、プライバシーの保護を図ることが可能である。
【図面の簡単な説明】
【図1】片方向配信型の合成画像配信システムの概略図である。
【図2】多地点・双方向配信型の合成画像配信システムの概略図である。
【図3】片方向配信型の合成画像配信システムの機能ブロック図である。
【図4】多地点・双方向配信型の合成画像配信システムの機能ブロック図である。
【図5】合成処理部の機能ブロック図である。
【図6】調整型クロマキー合成処理の処理の流れを示す図である。
【図7】動き検出型合成処理の処理の流れを示す図である。
【図8】ブルーバッククロマキー合成処理の処理概要図である。
【図9】ホロセットクロマキー合成処理の処理概略図である。
【図10】輝度差検出処理の処理概要図である。
【図11】輝度差検出処理の機能ブロック図である。
【図12】多点測距処理の処理概要図である。
【図13】多点測距処理の機能ブロック図である。
【符号の説明】
1 カメラ
2 中継サーバ
3 端末装置
4 端末装置
5 中継サーバ
22,51 合成処理部
【発明の属する技術分野】
本発明は、被写体画像と背景画像の合成技術に関する。
【0002】
【従来の技術】
{ブルーバッククロマキー合成法}
被写体の画像に任意の背景画像を合成する方法として、放送などの分野においてはクロマキー合成が行なわれている。クロマキー合成の原理は、被写体となる人物と関係の薄い色調(通常は青色(ブルーバック)または緑色を用いる)を背景とした状態で撮影を行い、その撮影画像から背景となった色調を光学的にあるいは電子的に抜き出し、排除して、そこに他の画像を代替して合成するというものである。
【0003】
図8は、クロマキー合成システムの概略図である。ブルーシートの前にいる被写体100を撮影カメラ101で撮影し、その撮影画像をクロマキー合成装置102に入力する。クロマキー合成装置102は、複数の背景画像データ104を蓄積しており、合成部103は、入力した撮影画像のブルーバック部分に任意に選択された背景画像データ104を合成して出力するのである。
【0004】
{ホロセットクロマキー合成法}
また、ブルーバックを用いたクロマキー合成方法に代用される方法として、米グローバルストリーム社により提供されている「ホロセット法」が存在する。図9は、ホロセット法による合成システムの概略図である。被写体100の背景には、色成分補助光を乱反射させる乱反射素材110(布に硝材をつけたもの等)が吊り下げられている。また、撮影カメラ111の近傍位置に配置された光源115からは補助光が照射される。そして、光源115から、たとえば青色光を発生させる。青色光は背景の乱反射素材110で反射し、撮影カメラ111で捉えられる。これにより撮影カメラ111が取得する画像は、背景が青色の画像となる。そして、同様に撮影画像を入力するクロマキー合成装置112では、合成部113が、入力した撮影画像のブルーバック部分に任意に選択された背景画像データ114を合成して出力するのである。
【0005】
{輝度差検出法}
また、同一出願人によって、輝度差検出による画像合成方法が提案されている。この方法は、ストロボあるいは人工照明などを投射したうえで撮影を行い、撮影画像における被写体と背景の輝度差を用いて(コントラス拡張を行い)、輝度の小さい部分の背景を抜き出すというものである。
【0006】
図10は、輝度差検出によりブルーバック処理を実行するシステムの概略および処理の流れを示す図であり、図11は、輝度差検出によりブルーバック処理を実行する処理部120の機能ブロック図を示している。処理部120は、撮影画像を入力するPC等のコンピュータ上で動作するソフトウェアにより実現される。あるいは、処理部120は専用のハードウェアで実現されてもよい。
【0007】
図10に示すように、撮影カメラ129の近傍位置には、光源128が配置されており、光源128が発する白色光が被写体100を照射している。処理部120には、白色光が照射された状態で被写体100を撮影して得られた画像A1が入力される。次に、画像A1は、コントラスト拡張部121においてコントラストの強調処理が行われる。このようにして得られる画像を拡張輝度画像A2とする。拡張輝度画像A2は、次に、低輝度域カット部122において処理され、設定された閾値以下の輝度の情報が切り捨てられる。この処理により、背景部分の情報が切り取られ、被写体部分の輝度が拡張された拡張高輝度画像A3が生成される。拡張高輝度画像A3は、次に、逆補正部123によってコントラストの補正が行われる。逆補正部123では、コントラスト拡張部121において拡張されたコントラストが、元のコントラストに戻され、高輝度画像A4が生成される。したがって、被写体100が背景127よりも輝度が大きく撮影される環境下では、高輝度画像A4は、背景が取り除かれた被写体を含む画像である。以上の処理により生成された高輝度画像A4は、輝度補正部124において輝度補正が施された後、ブルーバック処理部125においてブルーバック処理がされる。つまり、被写体以外の領域がブルーバックに置き換えられる。このようにして、ブルーバック画像が得られるのである。
【0008】
{多点測距法}
また、クロマキー合成を行うために多点測距を利用する方法が同一出願人により提案されている(特開2001−167276公報)。この方法は、AF(オートフォーカス)機構により距離差検出を行い、被写体領域を検知するものである。スチル、ビデオカメラなどに内蔵されているAF機構を用い、画面内の複数地点に対して同時あるいは連続的に測距を行い、等高線と同様の考え方で同一距離点を結び、ある閾値以下の距離を抜き出し被写体とするか、あるいは、ある設定値以上の差異が発生したものを被写体と背景として区別する技術である。そして、この技術を利用すれば、背景に任意の画像を合成することが可能である。
【0009】
図12は、多点測距法による処理の流れを示す図である。図13は、多点測距処理を行なう処理部130の機能ブロック図である。処理部130は、撮影画像を入力するPC等のコンピュータ上で動作するソフトウェアにより実現される。あるいは、処理部130は専用のハードウェアで実現されてもよい。
【0010】
まず、任意の背景で被写体135を撮影するとともに、多点測距素子により撮影領域内における被写体および背景の距離情報を取得する。そして、処理部130は、この撮影画像と距離情報とを入力する。距離情報解析部131は、この距離情報をもとに等距離点を結び、等距離画像136を生成する。そして、被写体抽出部132は、距離がある閾値以下の領域を抽出することにより、特定被写体画像137を取得するとともに、被写体135を撮影した画像データから、特定被写体画像137の領域のデータを抽出することにより、被写体撮影画像138を生成する。そして、ブルーバック処理部133において背景領域がブルーバック画像に置き換えられるのである。
【0011】
以上、背景画像を合成するためのいくつかの方法を示したが、この他にも被写体(人物)自体を合成処理により置き換ええることも行なわれている。そのような技術の1つとして、アバターと呼ばれる技術が存在する。アバターは、一般の人物等を被写体として撮影し、撮影画像に対して画像認識を行い、顔や目の動きを解析し、それをアニメーションやキャラクターの画像に置き換えて表示を行なうものである。この技術については、たとえば、特願平09−064812において開示されている。
【0012】
一方、ネットワーク経由で撮影画像を配信するWebカメラが存在する。また、ネットワークを利用し、多地点・双方向で画像や音声をやりとりするテレビ会議システムが存在する。
【0013】
【発明が解決しようとする課題】
上述した、ブルーバックやホロセットによるクロマキー合成方法において、ブルーシートや乱反射素材に”しわ”がある場合や、シートが破れている場合などには、撮影画像における背景領域の青色にばらつきが生じることとなる(濃い青色部分や薄い青色部分、あるいは他の色として撮影される部分が混在することになる)。このような場合、背景領域の抽出精度が低下するため、合成処理を行なっても背景部分の置き換えが不充分である。
【0014】
また、上述したブルーバックやホロセットによるクロマキー合成方法では、被写体の背景にシートを設置する必要があるため、大掛かりな仕組みとなる。また、多点測距法において、撮影装置に特別の仕組みが必要であり、輝度差検出法では、被写体を照射するための光源が必要となるなど、簡易なシステム構成とは言えない。
【0015】
また、テレビ会議による画像配信やWebカメラによる画像配信が、ブロードバンドネットワークなどの普及で一般化された現代においては、一般利用者のプライバシー配慮が重要な課題となっている。たとえば、利用者の人物画像を配信しようとする場合、不用意に自宅の様子が映し出される場合がある。逆に、利用者自身が人物画像として配信されることを望まない場合もある。
【0016】
本発明においては、Webカメラやテレビ電話システムその他の画像配信システム、PCカメラ(USBカメラ)、デジタルムービーカメラ、デジタルスチルカメラ、テレビゲーム機器、携帯電話および携帯通信機器等を用いた画像配信において、利用者プラバシーの保護を行なうこと、機器に搭載されるアプリケーション・ソフトウェアで構成されるクロマキー処理、またはクロマキーと同様な効果を得られる手法、およびアバター処理等を、簡便かつ有効に用いることを目的とする。
【0017】
【課題を解決するための手段】
上記課題を解決するため、請求項1記載の発明は、被写体画像と背景画像とを組み合わせて合成画像を生成する方法であって、被写体の存在しない状態で略全面にわたり一の系統色に設定された背景を撮影して第1画像を取得する工程と、前記第1画像の画像情報を記憶手段に格納する工程と、前記背景の中に被写体が存在する状態で撮影を行い、第2画像を取得する工程と、前記第2画像中、前記一の系統色であって、前記第1画像と画像情報が一致する領域を背景領域として決定する工程と、前記背景領域に、予め蓄積された背景画像を合成する工程と、を備えることを特徴とする。
【0018】
請求項2記載の発明は、請求項1に記載の画像合成方法において、前記背景が略全面にわたり青色系統色となっていることを特徴とする。
【0019】
請求項3記載の発明は、被写体画像と背景画像とを組み合わせて合成画像を生成する方法であって、被写体の存在しない状態で背景を撮影して第1画像を取得する工程と、前記第1画像の画像情報を記憶手段に格納する工程と、前記背景の中に被写体が存在する状態で撮影を行い、第2画像を取得する工程と、前記第1画像と前記第2画像との差分を被写体領域として抽出し、当該被写体領域以外の領域を背景領域として決定する工程と、前記背景領域に、予め蓄積された背景画像を合成する工程と、を備えることを特徴とする。
【0020】
請求項4記載の発明は、被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して配信するシステムであって、撮影装置と、前記撮影装置の撮影した画像をネットワーク経由で受信し、画像合成処理を行った後、合成画像を端末装置に配信するサーバと、を備え、前記サーバは、背景画像を蓄積する記憶手段と、前記撮影装置から受信した撮影画像の中から背景領域を決定する手段と、前記背景領域に前記背景画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0021】
請求項5記載の発明は、請求項4に記載の合成画像配信システムであって、前記サーバは、さらに、代理画像を蓄積する記憶手段と、前記撮影装置から受信した撮影画像の中から被写体領域を決定する手段と、前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0022】
請求項6記載の発明は、被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して配信するシステムであって、撮影装置と、撮影画像に画像合成処理を実行するためのプログラムを記憶するとともに、前記撮影装置から受信した合成画像を端末装置に配信するサーバと、を備え、前記撮影装置は、背景画像を蓄積する記憶手段と、前記プログラムをダウンロードする手段と、を備え、前記プログラムが実行されることにより、前記撮影装置が、撮影画像の中から背景領域を決定する手段、前記背景領域に前記背景画像を合成して前記合成画像を生成する手段、として動作することを特徴とする。
【0023】
請求項7記載の発明は、請求項6に記載の合成画像配信システムであって、前記撮影装置は、さらに、代理画像を蓄積する記憶手段、を備え、前記プログラムが実行されることにより、前記撮影装置が、さらに、撮影画像の中から被写体領域を決定する手段、前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段、として動作することを特徴とする。
【0024】
請求項8記載の発明は、被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して交換するシステムであって、少なくとも2以上の端末装置と、前記端末装置の送信した画像をネットワーク経由で受信し、画像合成処理を行った後、合成画像を他の端末装置に送信するサーバと、を備え、前記サーバは、背景画像を蓄積する記憶手段と、前記端末装置から受信した撮影画像の中から背景領域を決定する手段と、前記背景領域に前記背景画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0025】
請求項9記載の発明は、請求項8に記載の合成画像配信システムであって、前記サーバは、さらに、代理画像を蓄積する記憶手段と、前記端末装置から受信した撮影画像の中から被写体領域を決定する手段と、前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段と、を備えることを特徴とする。
【0026】
【発明の実施の形態】
以下、図面を参照しつつ本発明の実施の形態について説明する。図1および図2は、本発明の合成画像配信システムの2つの実施の形態を示している。図1は片方向配信型、図2は多地点・双方向配信型のシステム概略図である。
【0027】
片方向配信型では、カメラ1より撮影された画像が、中継サーバ2に送信される。中継サーバ2は、撮影画像に背景画像を合成した後、端末装置3に合成画像を配信する。また、中継サーバ2では、アバター等により人物画像の置き換え処理なども行なわれる。
【0028】
多地点・双方向配信型では、各端末装置4(4a,4b,4c)より中継サーバ5に対して画像が送信される。中継サーバ5は、撮影画像に背景画像を合成した後、他の端末装置4に合成画像を配信する。また、中継サーバ5では、アバター等により人物画像の置き換え処理なども行なわれる。この多地点・双方向配信型は、音声の交換も行なうことで、いわゆるテレビ会議システムの形態となる。
【0029】
図3は、片方向配信型におけるシステムの主な機能ブロックを示す図である。カメラ1は、CCD等からなる撮影手段を備えるとともに、撮影画像をネットワークに対して送信する機能を備えている。ネットワーク配信機能がWebサーバにより実現されている場合には、カメラ1は、いわゆるWebカメラと呼ばれる。撮影手段としては、他にも、PCとデジタルカメラの組み合わせ、通信機能つきデジタルカメラ、デジタルビデオなどを利用可能である。
【0030】
カメラ1から送信された画像は、中継サーバ2の画像受信部21で受信される。中継サーバ2は、受信した撮影画像に合成するための背景画像データBDと代理画像データADとを蓄積している。合成処理部22において、撮影画像に背景画像データBDあるいは代理画像データADが合成されると、合成画像は画像配信部23より端末装置3に配信される。
【0031】
端末装置3では、画像受信部31が合成画像を受信し、受信した合成画像は、モニタ32に出力されるのである。端末装置3としては、PCの他に、携帯電話などのモバイル端末を利用することが可能である。
【0032】
このようなシステム形態とすることにより、端末装置3は、カメラ1の撮影した画像を参照可能となる。そして、カメラ1の撮影した画像は、背景画像や人物画像を合成によって差替えることが可能であるので、撮影側は、見せたくない対象(部屋の中の様子や自分自身の顔など)の画像が配信されることを防止することが可能である。また、中継サーバ2が複数の背景画像データBDあるいは代理画像データADを蓄積することにより、目的に応じて様々な映像効果を得ることが可能である。さらには、合成処理を中継サーバ2で行なうことにより、カメラ1側に合成処理を行なうためのハードウェアやソフトウェアが不要となり、一般的なWebカメラを利用することが可能である。また、カメラ1側には高い処理能力が要求されないので、携帯系端末を利用することも可能である。また、中継サーバ2に複数のカメラ1がネットワーク接続され、複数のカメラ1から画像が配信されるシステム形態であっても、中継サーバ2で集中的に合成処理を実行することで、システムコストを低減させることも可能である。また、中継サーバ2に豊富な背景画像や代理画像を用意することで、多くの利用者がこれらデータベースを共有することが可能である。
【0033】
図4は、多地点・双方向配信型におけるシステムの主な機能ブロックを示す図である。各端末装置4(4a,4b)は、カメラ41を備えることにより、端末装置4の周辺画像を撮影可能である。カメラ41が撮影した画像は、画像送受信部45によりネットワークに対して送信される。端末装置4としては、テレビ会議システム専用端末や、テレビ会議ソフトウェアが搭載されたPC,通信機能つきゲーム機、セットトップボックス、PDAや携帯電話端末などを利用可能である。
【0034】
端末装置4から送信された画像は、中継サーバ5の画像送受信部52で受信される。中継サーバ5は、受信した撮影画像に合成するための背景画像データBDと代理画像データADとを蓄積している。合成処理部51において、撮影画像に背景画像データBDあるいは代理画像データADが合成されると、合成画像は画像送受信部52より他の端末装置4に配信される。
【0035】
端末装置4では、画像送受信部45が合成画像を受信し、受信した合成画像は、モニタ43に出力されるのである。端末装置4としては、PCの他に、携帯電話などのモバイル端末を利用することも可能である。なお、本発明においては必須の機能ではないが、各端末装置4は、マイク42およびスピーカ44を備えており、各端末装置4がマイク42で集音した音声は、中継サーバ5を介して各端末装置4に送信される。各端末装置4は、受信した音声をスピーカ44より出力する。
【0036】
このようなシステム形態とすることにより、各端末装置4は、他の端末装置4のカメラ41の撮影した画像を参照可能となる。そして、カメラ41の撮影した画像は、背景画像や人物画像を合成によって差替えることが可能であるので、撮影側は、見せたくない対象(部屋の中の様子や自分自身の顔など)の画像が配信されることを防止することが可能である。また、中継サーバ5が複数の背景画像データBDあるいは代理画像データADを蓄積することにより、目的に応じて様々な映像効果を得ることが可能である。さらには、合成処理を中継サーバ5で行なうことにより、各端末装置4に合成処理を行なうためのハードウェアやソフトウェアが不要となる。
【0037】
以上、片方向配信型および多地点・双方向配信型の合成画像配信システムについて、そのシステム全体構成について説明したが、このようなシステム形態とすることにより、映像通信利用者の自宅やその他通信場所などの背景環境のプライバシー保護を図ることがでる。また、好みの仮想空間を合成することにより、映像通信利用者の意思や主張を付加することや、背景を通信内容に係る映像や資料とすることにより、教育分野での活用が可能であり、プレゼンテーション効果を発揮することができる。また、通信利用者がその場所に存在しなくても、映画やムービーなどのコンテンツのようなロケ効果を得ることができる。
【0038】
また、切り出した被写体を、他の代理画像に変換することで、本人が映し出されなく無い場合、プライバシー保護を図ることができ、適当なキャラクター画像を選択するなどの娯楽的な利用が可能である。また、アバターを用いることで、本人が他のキャラクター(ニュースキャスターやアニメの主人公など)になりきって、教育番組やプレゼンテーション、あるいはドラマやムービーを製作することが可能である。
【0039】
また、同時に背景と被写体を変換することで、仮想的な背景内で仮想的なキャラクターが通話者に代わり会話を行うことが可能であり、プライバシーを保護することができる。また、ネット通信でハンドルネームのように、ハンドル画像により本人の個性を主張することや、教育、プレゼンテーションを効果的に行なうことが可能である。
【0040】
次に、上述した中継サーバ2あるいは中継サーバ5が備える合成処理部22あるいは合成処理部51の機能構成および、調整型クロマキー合成処理および動き検出型合成処理について説明する。合成処理部22および合成処理部51は同様の処理を行なうので、共通の説明を行なう。
【0041】
<調整型クロマキー合成処理>
まず、図5、図6を参照しながら調整型クロマキー処理について説明する。図5に示すように、合成処理部22(51)は、登録部61、ブルーバック除去部64、差分検出部65、代理画像合成部66、背景画像合成部67を備えている。
【0042】
調整型クロマキー処理では、図6に示すように、まず、被写体の存在しないブルーバックの撮影を行なう。つまり、背景には、ブルーシートが設置されており(あるいは、青色の壁でもよい。)、背景は全面にわたって青色となっている。この撮影は、カメラ1(図3)あるいはカメラ41(図4)により行なわれる。したがって、カメラ1あるいはカメラ41の撮影現場には、ブルーシート等が準備される。登録部61は、中継サーバ2(5)が受信したブルーバックのみからなる撮影画像を入力する。そして、登録部61は、このブルーバックのみからなる撮影画像を基準ブルーバックデータ62として記憶手段に格納する。
【0043】
前述したように、ブルーシートに”しわ”や破れた部分などが存在すれば、実際に撮影されたブルーバックのみの画像は、青色にもばらつきが生じていることになる(”しわ”などが無い場合であっても、現実的には色にばらつきが生じることになる。)。したがって、このような色の分布を基準ブルーバックデータ62として記憶するのである。
【0044】
次に、図6に示すように、ブルーバックの前に被写体が追加され、さらに撮影が行なわれる。登録部61が入力した撮影画像は、ブルーバック除去部64に出力される。ブルーバック除去部64は、入力した撮影画像と基準ブルーバックデータ62とを比較処理することにより、被写体が追加された撮影画像からブルーバックの除去処理を行なう。
【0045】
ここで、一般のブルーバック除去処理は、画像中の青色領域を背景として除去する処理であるが、本実施の形態においては、基準ブルーバックデータ62として、初期状態のブルーバック情報が登録されている。したがって、一律に青色と判断される領域を除去するのではなく、基準ブルーバックデータ62と変化のない青色領域を除去することとしている。この処理は、あくまでも青色をキー色として背景除去を行なうので、被写体部分など、青色とは色相の異なる領域については、比較処理を省略することが可能である。
【0046】
これにより、ブルーシートに”しわ”ができている場合や破れた部分がある場合などにおいて、ブルーバックに濃い青色部分や薄い青色部分が存在している場合であっても、これらの情報を初期情報である基準ブルーバックデータ62として保存しているので、この初期情報と比較することで背景を正確に認識することが可能となるのである。
【0047】
なお、この調整型クロマキー法を行なう場合には、背景は必ずしもブルーバックでなくてもよい。したがって、青色以外の色であっても、一の系統色で背景全面を設定するようにしてもよい。ただし、人の肌色と補色の関係にあるブルー系統の色を使用することが望ましい。
【0048】
ブルーバック除去処理が行なわれると切り出し画像71が生成される。背景画像合成部67は、この切り出し画像と背景画像データBDを合成処理することにより、合成画像72を出力するのである。これにより、背景画像の差替え処理が行なわれることになる。また、人物の差替えを行なう場合には、代理画像合成部66において切り出し画像71を代理画像データADに差替えることが可能である。また、代理画像合成部66においてアバターを行い、キャラクター動画などに画像を置き換えることも可能である。
【0049】
<動き検出処理>
次に、図5、図7を参照しながら動き検出型合成処理について説明する。図5に示すように、合成処理部22(51)は、登録部61、ブルーバック除去部64、差分検出部65、代理画像合成部66、背景画像合成部67を備えている。
【0050】
動き検出方合成処理では、図7に示すように、まず、被写体の存在しない背景の撮影を行なう。この背景には、ブルーシートなどは不要である。この撮影は、カメラ1(図3)あるいはカメラ41(図4)により行なわれる。登録部61は、中継サーバ2(5)が受信した背景のみからなる撮影画像を入力する。そして、登録部61は、この背景のみからなる撮影画像を基準背景データ62として記憶手段に格納する。
【0051】
次に、図7に示すように、背景の前に被写体が追加され、さらに撮影が行なわれる。登録部61が入力した撮影画像は、差分検出部65に出力される。差分検出部65は、入力した撮影画像と基準背景データ63とを比較処理することにより、被写体が追加された撮影画像から背景の除去処理を行なう。具体的には、新たに入力した撮影画像データと基準背景データ63との差分抽出を行なうことにより、撮影画像データ中の差分抽出された領域を切り出し画像71として出力するのである。
【0052】
差分検出処理が切り出し画像71を出力すると、背景画像合成部67は、この切り出し画像と背景画像データBDを合成処理することにより、合成画像72を出力するのである。これにより、背景画像の差替え処理が行なわれることになる。また、人物の差替えを行なう場合には、代理画像合成部66において切り出し画像71を代理画像データADに差替えることが可能である。また、代理画像合成部66においてアバターを行い、キャラクター動画などに画像を置き換えることも可能である。
【0053】
また、上記説明では、被写体のいない状態で1度基準となる背景基準データ63を取得するようにしたが、この背景基準データ63を定期的に更新するようにすれば、背景自体に変化が生じるような環境でも合成処理が可能となる。
【0054】
この動き検出型合成処理は、ブルーバッククロマキー合成方法のように、被写体の背後にブルーシートを用意する必要がなく、撮影場所を任意に選択することが可能である。
【0055】
以上、合成処理部22あるいは合成処理部51において、調整型クロマキー合成処理および動き検出型合成処理を行う場合を説明したが、合成処理部22あるいは合成処理部51において、上述した各合成処理(ブルーバッククロマキー合成法、ホロセットクロマキー合成法、輝度差検出法、多点測距法)を実行することにしてもよい。そして、ブルーバッククロマキー合成法を利用する場合には、各撮影場所においてブルーシートを、ホロセットクロマキー合成法を利用する場合には、各撮影場所に乱反射素材シートおよび光源を用意すればよい。また、輝度差検出法を利用する場合にも、各撮影場所に光源を用意すればよい。また、多点測距法を利用する場合には、カメラ1(図3)あるいはカメラ41(図4)に、多点測距機能および測定情報を画像とともに送信する機能を付加するようにすればよい。
【0056】
図1および図3で示した片方向配信型のシステムでは、画像の合成処理は、中継サーバ2で実行するようにした。この変形例として、画像合成処理をカメラ1側で実行するようにしてもよい。そして、図3および図5で示した合成処理部22を実現するためのソフトウェアを中継サーバ2がダウンロード可能に記憶するようにする。カメラ1は、当該ソフトウェア(JAVA(登録商標)等)をダウンロードし、実行することによって、合成処理部22と同様の機能を実行可能とするのである。背景画像データBDおよび代理画像データADは、カメラ1が蓄積するようにすればよい。この場合、カメラ1は、背景画像を合成した合成画像あるいは代理画像を合成した合成画像を中継サーバ2に送信することとなる。中継サーバ2は、受信した合成画像を端末装置3に配信するのである。このようなシステム形態とすれば、様々な端末機器(撮影装置)において、必要に応じて画像合成処理機能を付加することが可能となる。また、各端末機器に処理負荷を分散させることが可能である。
【0057】
同様に、図2および図4で示した多地点・双方向配信型のシステムにおいても、各端末装置4が合成処理部51を実現するソフトウェアをダウンロードし、各端末装置4において合成処理を実行することも可能である。
【0058】
【発明の効果】
以上説明したように、請求項1記載の発明では、同一系統色に設定された背景を第1画像として記憶し、撮影された第2画像と比較処理を行なって背景領域の決定を行なうので、背景色に色のばらつきが生じている場合であっても、背景領域の抽出を精度よく行なうことができる。
【0059】
請求項2記載の発明では、背景を青色とするので、人物被写体が背景と誤認されることを防止できる。
【0060】
請求項3記載の発明では、背景を第1画像として記憶し、撮影された第2画像との差分を抽出して背景領域を決定するので、自由な背景を選択することができるため撮影環境の制約がなく、簡易なシステムとすることができる。
【0061】
請求項4ないし7記載の発明では、撮影された画像を遠隔地に配信する際、プライバシーの保護を図ることが可能である。
【0062】
請求項8,9記載の発明では、撮影された画像を多地点間で交換する際、プライバシーの保護を図ることが可能である。
【図面の簡単な説明】
【図1】片方向配信型の合成画像配信システムの概略図である。
【図2】多地点・双方向配信型の合成画像配信システムの概略図である。
【図3】片方向配信型の合成画像配信システムの機能ブロック図である。
【図4】多地点・双方向配信型の合成画像配信システムの機能ブロック図である。
【図5】合成処理部の機能ブロック図である。
【図6】調整型クロマキー合成処理の処理の流れを示す図である。
【図7】動き検出型合成処理の処理の流れを示す図である。
【図8】ブルーバッククロマキー合成処理の処理概要図である。
【図9】ホロセットクロマキー合成処理の処理概略図である。
【図10】輝度差検出処理の処理概要図である。
【図11】輝度差検出処理の機能ブロック図である。
【図12】多点測距処理の処理概要図である。
【図13】多点測距処理の機能ブロック図である。
【符号の説明】
1 カメラ
2 中継サーバ
3 端末装置
4 端末装置
5 中継サーバ
22,51 合成処理部
Claims (9)
- 被写体画像と背景画像とを組み合わせて合成画像を生成する方法であって、
被写体の存在しない状態で略全面にわたり一の系統色に設定された背景を撮影して第1画像を取得する工程と、
前記第1画像の画像情報を記憶手段に格納する工程と、
前記背景の中に被写体が存在する状態で撮影を行い、第2画像を取得する工程と、
前記第2画像中、前記一の系統色であって、前記第1画像と画像情報が一致する領域を背景領域として決定する工程と、
前記背景領域に、予め蓄積された背景画像を合成する工程と、
を備えることを特徴とする画像合成方法。 - 請求項1に記載の画像合成方法において、
前記背景が略全面にわたり青色系統色となっていることを特徴とする画像合成方法。 - 被写体画像と背景画像とを組み合わせて合成画像を生成する方法であって、
被写体の存在しない状態で背景を撮影して第1画像を取得する工程と、
前記第1画像の画像情報を記憶手段に格納する工程と、
前記背景の中に被写体が存在する状態で撮影を行い、第2画像を取得する工程と、
前記第1画像と前記第2画像との差分を被写体領域として抽出し、当該被写体領域以外の領域を背景領域として決定する工程と、
前記背景領域に、予め蓄積された背景画像を合成する工程と、
を備えることを特徴とする画像合成方法。 - 被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して配信するシステムであって、
撮影装置と、
前記撮影装置の撮影した画像をネットワーク経由で受信し、画像合成処理を行った後、合成画像を端末装置に配信するサーバと、
を備え、
前記サーバは、
背景画像を蓄積する記憶手段と、
前記撮影装置から受信した撮影画像の中から背景領域を決定する手段と、
前記背景領域に前記背景画像を合成して前記合成画像を生成する手段と、
を備えることを特徴とする合成画像配信システム。 - 請求項4に記載の合成画像配信システムであって、
前記サーバは、さらに、
代理画像を蓄積する記憶手段と、
前記撮影装置から受信した撮影画像の中から被写体領域を決定する手段と、
前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段と、
を備えることを特徴とする合成画像配信システム。 - 被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して配信するシステムであって、
撮影装置と、
撮影画像に画像合成処理を実行するためのプログラムを記憶するとともに、前記撮影装置から受信した合成画像を端末装置に配信するサーバと、
を備え、
前記撮影装置は、
背景画像を蓄積する記憶手段と、
前記プログラムをダウンロードする手段と、
を備え、
前記プログラムが実行されることにより、前記撮影装置が、
撮影画像の中から背景領域を決定する手段、
前記背景領域に前記背景画像を合成して前記合成画像を生成する手段、
として動作することを特徴とする合成画像配信システム。 - 請求項6に記載の合成画像配信システムであって、
前記撮影装置は、さらに、
代理画像を蓄積する記憶手段、
を備え、
前記プログラムが実行されることにより、前記撮影装置が、さらに、
撮影画像の中から被写体領域を決定する手段、
前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段、
として動作することを特徴とする合成画像配信システム。 - 被写体画像と背景画像とを組み合わせた合成画像をネットワークを介して交換するシステムであって、
少なくとも2以上の端末装置と、
前記端末装置の送信した画像をネットワーク経由で受信し、画像合成処理を行った後、合成画像を他の端末装置に送信するサーバと、
を備え、
前記サーバは、
背景画像を蓄積する記憶手段と、
前記端末装置から受信した撮影画像の中から背景領域を決定する手段と、
前記背景領域に前記背景画像を合成して前記合成画像を生成する手段と、
を備えることを特徴とする合成画像配信システム。 - 請求項8に記載の合成画像配信システムであって、
前記サーバは、さらに、
代理画像を蓄積する記憶手段と、
前記端末装置から受信した撮影画像の中から被写体領域を決定する手段と、
前記被写体領域に前記代理画像を合成して前記合成画像を生成する手段と、
を備えることを特徴とする合成画像配信システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002335241A JP2004172862A (ja) | 2002-11-19 | 2002-11-19 | 画像合成方法および合成画像配信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002335241A JP2004172862A (ja) | 2002-11-19 | 2002-11-19 | 画像合成方法および合成画像配信システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004172862A true JP2004172862A (ja) | 2004-06-17 |
Family
ID=32699424
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002335241A Pending JP2004172862A (ja) | 2002-11-19 | 2002-11-19 | 画像合成方法および合成画像配信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004172862A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006270887A (ja) * | 2005-03-25 | 2006-10-05 | Nec Corp | Tv電話装置及びプログラム |
WO2008072669A1 (ja) * | 2006-12-14 | 2008-06-19 | Panasonic Corporation | 動画像符号化方法、動画像符号化装置、動画像記録方法、記録媒体、動画像再生方法、動画像再生装置および動画像再生システム |
JP2009194687A (ja) * | 2008-02-15 | 2009-08-27 | Sony Corp | 画像処理装置、カメラ装置、通信システム、画像処理方法、およびプログラム |
JP2012090197A (ja) * | 2010-10-22 | 2012-05-10 | Nec System Technologies Ltd | 画像配信システムおよび画像配信方法と画像配信プログラム |
JP2013066170A (ja) * | 2011-08-31 | 2013-04-11 | Tatsumi Denshi Kogyo Kk | 画像処理装置、画像データ提供装置、写真撮影遊戯装置、画像データ提供システム、画像表示方法、および画像表示プログラム |
JP2017076998A (ja) * | 2016-11-22 | 2017-04-20 | オリンパス株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP2020072415A (ja) * | 2018-11-01 | 2020-05-07 | 株式会社ブラスト | 映像・音声合成方法 |
-
2002
- 2002-11-19 JP JP2002335241A patent/JP2004172862A/ja active Pending
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006270887A (ja) * | 2005-03-25 | 2006-10-05 | Nec Corp | Tv電話装置及びプログラム |
JP4718616B2 (ja) * | 2006-12-14 | 2011-07-06 | パナソニック株式会社 | 動画像符号化方法、動画像符号化装置、動画像記録方法、動画像再生方法および動画像再生装置 |
US8526797B2 (en) | 2006-12-14 | 2013-09-03 | Panasonic Corporation | Moving image coding method, moving image coding device, moving image recording method, recording medium, moving image playback method, moving image playback device, and moving image playback system |
JP2011097612A (ja) * | 2006-12-14 | 2011-05-12 | Panasonic Corp | 動画像符号化方法、動画像符号化装置、動画像記録方法、動画像再生方法および動画像再生装置 |
JP2011103669A (ja) * | 2006-12-14 | 2011-05-26 | Panasonic Corp | 動画像符号化方法、動画像符号化装置、動画像記録方法、動画像再生方法および動画像再生装置 |
US7974521B2 (en) | 2006-12-14 | 2011-07-05 | Panasonic Corporation | Moving image coding method, moving image coding device, moving image recording method, recording medium, moving image playback method, moving image playback device, and moving image playback system |
WO2008072669A1 (ja) * | 2006-12-14 | 2008-06-19 | Panasonic Corporation | 動画像符号化方法、動画像符号化装置、動画像記録方法、記録媒体、動画像再生方法、動画像再生装置および動画像再生システム |
US8023804B2 (en) | 2006-12-14 | 2011-09-20 | Panasonic Corporation | Moving image coding method, moving image coding device, moving image recording method, recording medium, moving image playback method, moving image playback device, and moving image playback system |
RU2475997C2 (ru) * | 2006-12-14 | 2013-02-20 | Панасоник Корпорэйшн | Способ кодирования движущегося изображения, устройство кодирования движущегося изображения, способ записи движущегося изображения, носитель записи, способ воспроизведения движущегося изображения, устройство воспроизведения движущегося изображения и система воспроизведения движущегося изображения |
JP2009194687A (ja) * | 2008-02-15 | 2009-08-27 | Sony Corp | 画像処理装置、カメラ装置、通信システム、画像処理方法、およびプログラム |
JP2012090197A (ja) * | 2010-10-22 | 2012-05-10 | Nec System Technologies Ltd | 画像配信システムおよび画像配信方法と画像配信プログラム |
JP2013066170A (ja) * | 2011-08-31 | 2013-04-11 | Tatsumi Denshi Kogyo Kk | 画像処理装置、画像データ提供装置、写真撮影遊戯装置、画像データ提供システム、画像表示方法、および画像表示プログラム |
JP2017076998A (ja) * | 2016-11-22 | 2017-04-20 | オリンパス株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP2020072415A (ja) * | 2018-11-01 | 2020-05-07 | 株式会社ブラスト | 映像・音声合成方法 |
JP7267568B2 (ja) | 2018-11-01 | 2023-05-02 | 株式会社ブラスト | 映像・音声合成方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020048149A (ja) | 画像処理装置、カメラ装置、および画像処理方法 | |
CN107105315A (zh) | 直播方法、主播客户端的直播方法、主播客户端及设备 | |
WO2018214746A1 (zh) | 一种视频会议实现方法、装置、系统及计算机存储介质 | |
EA018293B1 (ru) | Способ обработки видео- и телеприсутствия | |
CN109922252B (zh) | 短视频的生成方法及装置、电子设备 | |
WO2012019517A1 (zh) | 用于视频通信的视频处理方法、装置及系统 | |
JP2011217350A (ja) | 描画画像共有装置、データ処理方法、プログラムおよび記録媒体 | |
JP2009169209A (ja) | 画像表示装置、画像表示方法、および画像表示用プログラム | |
JP3464754B2 (ja) | ヘッドマウントディスプレイを装着した人物の顔画像合成方法およびその装置 | |
JP2004172862A (ja) | 画像合成方法および合成画像配信システム | |
JP2011239370A (ja) | 撮影機能を有する画像表示装置 | |
JP6454883B1 (ja) | コンテンツ配信システム、コンテンツ配信方法およびコンテンツ配信プログラム | |
KR101665988B1 (ko) | 영상 생성 방법 | |
JP2023153790A (ja) | プログラム | |
CN107197147A (zh) | 一种全景相机的操作控制方法和装置 | |
KR20090035254A (ko) | 동영상 합성 및 실시간 피사체 추출을 통한 캐릭터 생성시스템 | |
JP7026364B1 (ja) | 撮像プログラム及びコンピュータ | |
JP2013196154A (ja) | 画像コミュニケーションシステム、AR(AugmentedReality)動画生成装置及びプログラム | |
KR102404130B1 (ko) | 텔레 프레젠스 영상 송신 장치, 텔레 프레젠스 영상 수신 장치 및 텔레 프레젠스 영상 제공 시스템 | |
KR100632533B1 (ko) | 자동 얼굴 검출을 통한 애니메이션 효과 제공 방법 및 장치 | |
CN116962744A (zh) | 网络直播的连麦互动方法、装置及直播系统 | |
JP5924833B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び撮像装置 | |
JP2012169936A (ja) | 撮像装置およびその画像処理方法 | |
JP5916365B2 (ja) | 映像送信システム、映像送信方法及びコンピュータプログラム | |
KR102241240B1 (ko) | 영상 처리 장치 및 방법 |