JP2004112112A - 情報処理装置 - Google Patents
情報処理装置 Download PDFInfo
- Publication number
- JP2004112112A JP2004112112A JP2002269196A JP2002269196A JP2004112112A JP 2004112112 A JP2004112112 A JP 2004112112A JP 2002269196 A JP2002269196 A JP 2002269196A JP 2002269196 A JP2002269196 A JP 2002269196A JP 2004112112 A JP2004112112 A JP 2004112112A
- Authority
- JP
- Japan
- Prior art keywords
- image
- moving
- blue light
- moving image
- special effect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】本発明は、動画像に対して思い通りに画像特殊効果を付加させる。
【解決手段】本発明は、デジタルビデオカメラ17によって動画像データD1を取り込みながらCPU10により当該動画像データD1に基づく動画像内の青色光の移動の有無及び移動方向を検出し、その検出結果に基づいて、動画像内の青色光が移動した際に当該動画像内の青色光の移動方向側に画像特殊効果として球状画像40を付加するようにしたことにより、動画像内で青色光の移動した任意のタイミングで当該青色光の移動方向側の任意の領域に球状画像40を容易に付加することができ、かくして動画像に対して思い通りに球状画像40等の画像特殊効果を付加することができる。
【選択図】 図5
【解決手段】本発明は、デジタルビデオカメラ17によって動画像データD1を取り込みながらCPU10により当該動画像データD1に基づく動画像内の青色光の移動の有無及び移動方向を検出し、その検出結果に基づいて、動画像内の青色光が移動した際に当該動画像内の青色光の移動方向側に画像特殊効果として球状画像40を付加するようにしたことにより、動画像内で青色光の移動した任意のタイミングで当該青色光の移動方向側の任意の領域に球状画像40を容易に付加することができ、かくして動画像に対して思い通りに球状画像40等の画像特殊効果を付加することができる。
【選択図】 図5
Description
【0001】
【発明の属する技術分野】
本発明は情報処理装置に関し、例えばライブ配信する動画像にリアルタイムで画像特殊効果を付加するパーソナルコンピュータに適用して好適なものである。
【0002】
【従来の技術】
従来、ライブ配信する動画像に画像特殊効果を付加する際には、当該動画像に付加する画像特殊効果を特定する効果特定情報を予め設定された配列で表示し、その効果特定情報の中から所望の効果特定情報が選択されると、動画像に対して、選択された効果特定情報によって特定される画像特殊効果を付加している。(例えば、特許文献1参照)。
【0003】
【特許文献1】
特開2002−152591号公報(第4頁 第9頁乃至第11頁、図11)
【0004】
【発明が解決しようとする課題】
ところがかかる画像特殊効果の付加手法においては、動画像を演算処理することにより白黒、モザイク及びセピア等の画像特殊効果を動画像全体に付加し、又はフラワー、ハート及びクラッカー等の比較的単純な付加用画像を画像特殊効果として動画像内の予め設定された固定領域に付加している。
【0005】
このためかかる画像特殊効果の付加手法においては、動画像に対して任意のタイミングで任意の領域に画像特殊効果を思い通りに付加し難い問題があった。
【0006】
本発明は以上の点を考慮してなされたもので、動画像に対して思い通りに画像特殊効果を付加し得る情報処理装置を提案しようとするものである。
【0007】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、動画像取込手段によって動画像データを取り込みながら検出手段により当該動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出し、その検出結果に基づいて、画像特殊効果付加手段により動画像内の特定物が移動した際に当該動画像内の特定物の移動方向側に所定の画像特殊効果を付加するようにした。
【0008】
従って、動画像内で特定物の移動した任意のタイミングで当該特定物の移動方向側の任意の領域に画像特殊効果を容易に付加することができる。
【0009】
【発明の実施の形態】
以下図面について、本発明の一実施の形態を詳述する。
【0010】
図1において、1は全体として本発明を適用したパーソナルコンピュータを示し、CPU(Central Processing Unit )10にRAM(Random Access Memory)11、ROM(Read Only Memory)12、ハードディスクドライブ13、操作部インターフェース14、スピーカインターフェース15、表示用インターフェース16、デジタルビデオカメラ17、ネットワークインターフェース18、MPEG(Moving Picture Experts Group)2コーデック19、オーディオエンコーダ20がそれぞれバス21を介して接続されて構成されている。
【0011】
この場合、パーソナルコンピュータ1は、ROM12にCPU10によって実行する一連のプログラムを予め格納していると共に、ハードディスクドライブ13のハードディスクにCPU10によって実行するオペレーティングシステムや、配信処理プログラム、特殊効果付加処理プログラム、キャプチャフィルタ、表示フィルタ、エンコードフィルタ及びダイアログアプリケーションプログラムからなるライブ配信処理プログラム等の各種アプリケーションプログラムを予め格納している。
【0012】
そしてパーソナルコンピュータ1のCPU10は、RAM11をワークエリアとして用いてこれら一連のプログラムやオペレーティングシステム、またライブ配信処理プログラム等の各種アプリケーションプログラムに従った各種演算処理を実行しながらハードディスクドライブ13、操作部インターフェース14、スピーカインターフェース15、表示用インターフェース16、デジタルビデオカメラ17、ネットワークインターフェース18、MPEG2コーデック19及びオーディオエンコーダ20等の各回路部を制御する。
【0013】
これによりCPU10は、ユーザを撮像対象として撮像することにより得られた動画像データD1に画像特殊効果として球状画像及び剣状画像を付加すると共に、音声特殊効果として当該球状画像及び剣状画像の状態を表現する効果音を付加しながら、これら画像特殊効果及び音声特殊効果(以下、これらをまとめてエフェクトと呼ぶ)の付加によって得られた映像データ(以下、これをエフェクト付加映像データと呼ぶ)D2をインターネット上のストリーミングサーバ(図示せず)を利用してライブ配信するライブ配信処理を実行する。
【0014】
実際上、CPU10は、ハードディスクドライブ13のハードディスクからライブ配信処理プログラムを読み出してRAM11上で展開することにより当該ライブ配信処理プログラムに従ってライブ配信処理手順RT1の開始ステップから入り、続くステップSP1に移る。
【0015】
ステップSP1においてCPU10は、ライブ配信用の各種操作命令が入力可能なライブ配信処理用画面(図示せず)に相当するライブ配信処理用画面データD3をバス21及び表示用インターフェース16を順次介して液晶ディスプレイ又は陰極線管等でなる表示部25に送出することにより当該表示部25にライブ配信処理用画面データD3に基づくライブ配信処理用画面を表示する。
【0016】
この状態でCPU10は、ユーザによりキーボード及びマウス等でなる操作部26を介してライブ配信処理用画面上で画像特殊効果を設定するための効果設定要求が入力されると、これを操作部インターフェース14及びバス21を順次介して取り込む。
【0017】
このときCPU10は、図3に示すようにライブ配信処理プログラムを構成するダイアログアプリケーションプログラムP1に従い、効果設定要求に応じてライブ配信処理用画面内に、動画像に付加する画像特殊効果として球状画像及び剣状画像のいずれか一方を選択させるための効果選択用ダイアログボックスを表示する。
【0018】
この結果、CPU10は、ユーザにより操作部26を介してライブ配信処理用画面内の効果選択用ダイアログボックス上で球状画像及び剣状画像のいずれか一方が選択されると、当該選択された球状画像又は剣状画像を示す効果選択情報を操作部インターフェース14及びバス21を順次介して取り込む。
【0019】
このときCPU10は、ライブ配信処理プログラムを構成する特殊効果付加処理プログラムP2(図3)に従い、効果選択情報で示される球状画像又は剣状画像をライブ配信用の動画像に付加する画像特殊効果として用いるように設定して続くステップSP2に移る。
【0020】
ステップSP2においてCPU10は、ユーザによってライブ配信の開始が指示されることを待ち受け、当該ユーザにより操作部26を介してライブ配信処理用画面上でライブ配信の開始が指示されると、その指示結果を操作部インターフェース14及びバス21を順次介して取り込み、続くステップSP3に移る。
【0021】
ステップSP3においてCPU10は、予め登録されているストリーミングサーバのURL(Uniform Resource Locator)に基づいて当該ストリーミングサーバとパーソナルコンピュータ1との間で通信回線を確保する。
【0022】
またCPU10は、このとき動画像に画像特殊効果を付加するタイミング及び領域を指示するための図4に示すような指示器具30を手に持ったユーザ(撮像対象)に対してデジタルビデオカメラ17による撮像を開始する。
【0023】
ここで指示器具30は、内部に電池が収納された円筒状本体31の一端(以下、これを本体一端と呼ぶ)に電球により青色に発光する青色発光部32が設けられると共に、当該円筒状本体31の他端(以下、これを本体他端と呼ぶ)に電球により赤色に発光する赤色発光部33が設けられている。
【0024】
また指示器具30は、円筒状本体31の側面に3段階の切換機能を有するスイッチ34がスライド自在に設けられ、ユーザにより円筒状本体31が手で握持された状態でスイッチ34がスライド範囲内を本体一端側に目いっぱいスライドすると、青色発光部32のみを発光させ、当該スイッチ34がスライド範囲の中央部に位置したときに青色発光部32及び赤色発光部33を両方とも消灯させ、さらにスイッチ34がスライド範囲内を本体他端側に目いっぱいスライドすると、青色発光部32及び赤色発光部33の両方を発光させるようになされている。
【0025】
そしてCPU10は、ユーザの撮像を開始すると、ライブ配信処理プログラムを構成するキャプチャフィルタP3(図3)に従い、デジタルビデオカメラ17からその撮像によって得られる動画像データD1の取り込みを開始してステップSP4に移る。
【0026】
ステップSP4においてCPU10は、キャプチャフィルタP3に従い、デジタルビデオカメラ17から動画像データD1をフレーム画像データD1A単位でバス21を介して取り込むようにし、当該動画像データD1を構成するフレーム画像データD1Aを1フレーム分取り込むと、当該デジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に画像特殊効果設定変更検出処理を実行する画像特殊効果設定変更検出処理ルーチンSRT10に移る。
【0027】
画像特殊効果設定変更検出処理ルーチンSRT100においてCPU10は、ユーザを撮像している途中でも、画像特殊効果設定変更検出処理として、そのユーザによって行われる例えば青色発光部32のみを発光させた指示器具30を一旦は上方向に振った後、引き続き下方向に振る連続した動作を画像特殊効果の設定内容の変更を指示する特定動作として認識し、当該特定動作を認識するとこれに応じて画像特殊効果の設定内容を変更するようになされている。
【0028】
実際にCPU10は、デジタルビデオカメラ17からこの時点に取り込んだフレーム画像データD1Aに基づく1枚のフレーム画像(以下、これを特に現時点処理対象フレーム画像と呼ぶ)内で指示器具30の青色発光部32の発光によって得られる青色光の移動の有無及び移動方向を検出して蓄積し、当該蓄積した移動の有無及び移動方向に基づいて、画像特殊効果の設定内容の変更を指示する特定動作に応じて青色光が移動しているか否かを検出する。
【0029】
そしてCPU10は、画像特殊効果の設定内容の変更を指示する特定動作に応じて青色光が移動していることを検出するまでは画像特殊効果の設定内容を変更せずにステップSP5に移る。
【0030】
これに対してCPU10は、画像特殊効果の設定内容の変更を指示する特定動作に応じて青色光が移動していることを検出すると、これに応じて画像特殊効果の設定内容を変更してステップSP5に移る。
【0031】
ステップSP5においてCPU10は、この時点における画像特殊効果の設定内容が球状画像を用いる設定であるか否かを判断する。
【0032】
このステップSP5において肯定結果が得られると、このことは画像特殊効果として球状画像を用いるように設定していることを表しており、このときCPU10はデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎にその都度1フレーム分のフレーム画像データD1Aに対して球状画像付加処理を実行する球状画像付加処理ルーチンSRT200に移る。
【0033】
球状画像付加処理ルーチンSRT200においてCPU10は、球状画像付加処理として、撮像中のユーザによって行われる例えば青色発光部32のみを発光させた指示器具30を任意の一方向に移動させる動作をフレーム画像に対して球状画像の付加を指示する特定動作として認識し、当該特定動作を認識するとこれに応じてフレーム画像に球状画像を付加するようになされている。
【0034】
実際にCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32の発光によって得られる青色光の移動の有無及び移動方向を検出して蓄積し、当該蓄積した移動の有無及び移動方向に基づいて、フレーム画像に対して球状画像の付加を指示する特定動作に応じて青色光が移動しているか否かを検出する。
【0035】
そしてCPU10は、フレーム画像に対して球状画像の付加を指示する特定動作に応じて青色光が移動していることを検出するまでは、未だ球状画像を付加していない現時点処理対象フレーム画像に相当するフレーム画像データD1Aを、ライブ配信処理プログラムを構成するエンコードフィルタP4(図3)に従いバス21を介してMPEG2コーデック19に送出する。
【0036】
またCPU10は、このときライブ配信処理プログラムを構成する表示フィルタP5(図3)に従いそのフレーム画像データD1Aをバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6に移る。
【0037】
ステップSP6においてCPU10は、MPEG2コーデック19によりフレーム画像データD1AをMPEG2規格に従って圧縮符号化し、得られた圧縮符号化フレーム画像データD5Aをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信する。
【0038】
またCPU10は、このとき表示部25にフレーム画像データD1Aに基づく現時点処理対象フレーム画像(すなわち球状画像を付加していない元のフレーム画像)を表示してステップSP7に移る。
【0039】
ステップSP7においてCPU10は、ライブ配信の終了が指示されたか否かを判断する。
【0040】
このステップSP7において否定結果が得られると、このことはユーザにより操作部26を介して未だライブ配信の終了が指示されていないことを表しており、このときCPU10はステップSP4に戻る。
【0041】
このようにしてCPU10は、画像特殊効果として球状画像を用いるように設定されている間は、ステップSP7−SP4−SRT100−SP5―SRT200−SP6−SP7の一連の処理を循環的に繰り返すことによりデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に球状画像付加処理ルーチンSRT200において撮像中のユーザにより球状画像の付加を指示する特定動作が行われたか否かを監視する。
【0042】
この結果、球状画像付加処理ルーチンSRT200においてCPU10は、撮像中のユーザにより球状画像の付加を指示する特定動作が行われることによりそのフレーム画像に対して球状画像の付加を指示する特定動作に応じて青色光が移動していることを検出すると、球状画像の状態として動画像中における球状画像の出現を表現する効果音(以下、これを特に球状画像用効果音と呼ぶ)に相当する球状画像用効果音データD6をこれが予め記録されているハードディスクドライブ13のハードディスクから読み出してステップSP6に移る。
【0043】
そしてCPU10は再びステップSP6−SP7−SP4−SRT100−SP5の処理を順次経て再び球状画像付加処理ルーチンSRT200に移ると、当該球状画像付加処理ルーチンSRT200においてデジタルビデオカメラ17からこの時点に取り込んだフレーム画像データD1Aに基づくフレーム画像(以下、これを特に球描画対象フレーム画像と呼ぶ)に対して球状画像を付加する。
【0044】
またCPU10は、その球状画像を付加した球描画対象フレーム画像(以下、これを球状画像付加フレーム画像と呼ぶ)に相当する球状画像付加フレーム画像データD7AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いその球状画像付加フレーム画像データD7Aをバス21及び表示用インターフェース16を順次介して表示部25に送出する。
【0045】
因みにCPU10は、このとき1フレーム前の現時点処理対象フレーム画像に対する処理でハードディスクから読み出していた球状画像用効果音データD6を球状画像付加フレーム画像データD7Aの送出タイミングに合わせて、エンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、当該球状画像用効果音データD6をバス21及びスピーカインターフェース15を順次介してスピーカ27に送出してステップSP6に移る。
【0046】
これによりステップSP6においてCPU10は、MPEG2コーデック19により球状画像付加フレーム画像データD7AをMPEG2規格に従って圧縮符号化し、得られた球付加圧縮フレーム画像データD8Aと、オーディオエンコーダ20により球状画像用効果音データD6を所定の圧縮符号化方式に従って圧縮符号化し、得られた圧縮符号化効果音データD9とをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信する。
【0047】
またCPU10は、このとき表示部25に球状画像付加フレーム画像データD7Aに基づく球状画像付加フレーム画像(すなわち画像特殊効果として球状画像を付加した球描画対象フレーム画像)を表示すると共に、これに合わせてスピーカ27から球状画像用効果音データD6に基づく球状画像用効果音を出力することにより球描画対象フレーム画像に画像特殊効果としての球状画像と共に音声特殊効果としての球状画像用効果音を合わせて付加してステップSP7に移る。
【0048】
このようにしてCPU10は、ステップSP7において肯定結果が得られるまでの間、ステップSP7−SP4−SRT100−SP5―SRT200−SP6−SP7の一連の処理を循環的に繰り返すことにより、デジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に球状画像付加処理ルーチンSRT200において球状画像の付加を指示する特定動作の有無の監視と、その特定動作による指示に応じた球描画対象フレーム画像への球状画像の付加とを適宜繰り返す。
【0049】
これによりCPU10は、デジタルビデオカメラ17から順次1フレーム分のフレーム画像データD1Aを取り込む毎に球状画像付加処理ルーチンSRT200を実行すると、例えば図5に示すように撮像対象のユーザ39が一方の手に持った指示器具30の青色発光部32のみを発光させ、その青色発光部32を他方の手のひらに沿わせた状態で当該他方の手を自分の前に突き出した際に、その他方の手の動きを球状画像40の付加を指示する特定動作と認識して当該他方の手のひらからその突き出した方向側の領域にあたかも青色に発光している球状のエネルギー体(すなわち球状画像40)を放出させるように動画像内(実際には動画像を構成する個々のフレーム画像41、……、41A、……、41N)に画像特殊効果として球状画像40を変位させて付加することができる。
【0050】
ところで上述したステップSP5において否定結果が得られると、このことは画像特殊効果として剣状画像を用いるように設定していることを表しており、このときCPU10はデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎にその都度1フレーム分のフレーム画像データD1Aに対して剣状画像付加処理を実行する剣状画像付加処理ルーチンSRT300に移る。
【0051】
剣状画像付加処理ルーチンSRT300においてCPU10は、剣状画像付加処理として、撮像中のユーザによる指示器具30への操作で青色発光部32及び赤色発光部33の両方が発光すると、当該両方の発光をフレーム画像に対する剣状画像の付加の指示として認識し、当該認識した指示に応じてフレーム画像に剣状画像を付加するようになされている。
【0052】
実際にCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33の発光によって得られる青色光及び赤色光の両方を検出し得たか否かを判断し、当該青色光及び赤色光の両方を検出するまでは、未だ剣状画像を付加していない現時点処理対象フレーム画像に相当するフレーム画像データD1AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出する。
【0053】
またCPU10は、このとき表示フィルタP5に従いそのフレーム画像データD1Aをバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6に移る。
【0054】
ステップSP6においてCPU10は、上述と同様の処理を実行することによりMPEG2コーデック19によりフレーム画像データD1AをMPEG2規格に従って圧縮符号化し、得られた圧縮符号化フレーム画像データD5Aをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信してステップSP7に移る。
【0055】
ステップSP7においてCPU10は上述と同様に否定結果を得ると、画像特殊効果として剣状画像を用いるように設定されている間は、ステップSP7−SP4−SRT100−SP5―SRT300−SP6−SP7の一連の処理を循環的に繰り返すことによりデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に剣状画像付加処理ルーチンSRT300において撮像中のユーザにより剣状画像の付加が指示されたか否かを監視する。
【0056】
この結果、剣状画像付加処理ルーチンSRT300においてCPU10は、撮像中のユーザにより剣状画像の付加が指示されることにより現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出すると、当該現時点処理対象フレーム画像に剣状画像を付加する。
【0057】
またCPU10は、その剣状画像の状態(例えば剣状画像の描画の完了や剣状画像が急激に振られた状態)を表現する剣状画像用効果音(剣生成音や剣振り効果音)に相当する剣状画像用効果音データD11をこれが予め記録されているハードディスクドライブ13のハードディスクから読み出す。
【0058】
そしてCPU10は、その剣状画像を付加した現時点処理対象フレーム画像(以下、これを剣状画像付加フレーム画像と呼ぶ)に相当する剣状画像付加フレーム画像データD10AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いその剣状画像付加フレーム画像データD10Aをバス21及び表示用インターフェース16を順次介して表示部25に送出する。
【0059】
またCPU10は、このとき剣状画像用効果音データD11を剣状画像付加フレーム画像データD10Aの送出タイミングに合わせて、エンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、当該剣状画像用効果音データD11をバス21及びスピーカインターフェース15を順次介してスピーカ27に送出してステップSP6に移る。
【0060】
これによりステップSP6においてCPU10は、MPEG2コーデック19により剣状画像付加フレーム画像データD10AをMPEG2規格に従って圧縮符号化し、得られた剣付加圧縮フレーム画像データD12Aと、オーディオエンコーダ20により剣状画像用効果音データD11を所定の圧縮符号化方式に従って圧縮符号化し、得られた圧縮符号化効果音データD13とをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信する。
【0061】
またCPU10は、このとき表示部25に剣状画像付加フレーム画像データD10Aに基づく剣状画像付加フレーム画像(すなわち画像特殊効果として剣状画像を付加した現時点処理対象フレーム画像)を表示すると共に、これに合わせてスピーカ27から剣状画像用効果音データD11に基づく剣状画像用効果音を出力することにより現時点処理対象フレーム画像に画像特殊効果としての剣状画像と共に音声特殊効果としての剣状画像用効果音を合わせて付加してステップSP7に移る。
【0062】
このようにしてCPU10は、ステップSP7において肯定結果が得られるまでの間、ステップSP7−SP4−SRT100−SP5―SRT300−SP6−SP7の一連の処理を循環的に繰り返すことにより、デジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に剣状画像付加処理ルーチンSRT300において剣状画像を付加する指示の有無の監視と、その指示に応じた現時点処理対象フレーム画像への剣状画像の付加とを適宜繰り返す。
【0063】
これによりCPU10は、デジタルビデオカメラ17から順次1フレーム分のフレーム画像データD1Aを取り込む毎に剣状画像付加処理ルーチンSRT300を実行すると、例えば図6に示すように撮像対象のユーザ45が一方の手に持った指示器具30の青色発光部32及び赤色発光部33の両方を発光させた際に、その指示器具30の青色発光部32側にあたかも青色に発光している光の剣(すなわち剣状画像46)を出現させると共に、当該一方の手の動きに応じた指示器具30の傾きに合わせてあたかも実際に振りまわしている物理的な剣の見え方を再現してその剣の長さを変化させるように動画像内(実際には動画像を構成する個々のフレーム画像47、……、47A、……、47N)に画像特殊効果として剣状画像46を変位させて付加することができる。
【0064】
ここで上述した画像特殊効果設定変更検出処理ルーチンSRT100、球状画像付加処理ルーチンSRT200及び剣状画像付加処理ルーチンSRT300について以下に詳細に説明する。
【0065】
まずCPU10は、上述したステップSP4(図2)の処理を実行した後に画像特殊効果設定変更検出処理ルーチンSRT100に移ると、特殊効果処理プログラムP2に従って図7及び図8に示す画像特殊効果設定変更検出処理ルーチンSRT100の開始ステップから入って続くステップSP101に移る。
【0066】
ステップSP101においてCPU10は、デジタルビデオカメラ17からこの時点に取り込んだフレーム画像データD1Aに基づく現時点処理対象フレーム画像に対して所定の画像処理を施すことにより当該現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33が発光した際の青色光及び赤色光を探索してステップSP102に移る。
【0067】
ステップSP102においてCPU10は、現時点処理対象フレーム画像内における探索の結果、青色光のみを検出したか否かを判断する。
【0068】
このステップSP102において肯定結果が得られると、このことはこの時点でユーザが指示器具30の青色発光部32のみを発光させていることにより現時点処理対象フレーム画像内で青色光のみを検出したことを表しており、このときCPU10はステップSP103に移る。
【0069】
ステップSP103においてCPU10は、ユーザを撮像して得られる動画像を構成する複数のフレーム画像のうち、現時点処理対象フレーム画像よりも時間的に1フレーム分過去のすでに検索に用いられたフレーム画像(以下、これを特に過去フレーム画像と呼ぶ)でも青色光のみを検出したか否かを判断する。
【0070】
このステップSP103において肯定結果が得られると、このことは過去フレーム画像内でも青色光及び赤色光のうち青色光のみを検出したことを表しており、このときCPU10はステップSP104に移る。
【0071】
ステップSP104においてCPU10は、過去フレーム画像に対して画像特殊効果設定変更検出処理ルーチンSRT100を実行した際にRAM11にすでに記録している当該過去フレーム画像内の青色光の位置(この位置は過去フレーム画像内の座標値で表すものであり、以下この位置を過去青色光位置と呼ぶ)と、現時点処理対象フレーム画像内の青色光の位置(この位置は現時点処理対象フレーム画像内の座標値で表すものであり、以下この位置を現時点青色光位置と呼ぶ)との間の距離(以下、これを現時点移動距離と呼ぶ)を算出し、当該算出した現時点移動距離が所定の第1の距離閾値以内か否かを判断する。
【0072】
このステップSP104において肯定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じた距離であり、青色光が正しく検出されたことを表しており、このときCPU10はステップSP105に移る。
【0073】
ステップSP105においてCPU10は、過去青色光位置及び現時点青色光位置に基づいて過去フレーム画像から現時点処理対象フレーム画像に渡って移動した青色光の移動方向(以下、これを現時点移動方向と呼ぶ)及び現時点移動距離からなる移動量(以下、これを現時点移動量と呼び、当該現時点移動量は現時点移動方向及び現時点移動距離を一括してベクトルで表す)を検出し、続くステップSP106に移る。
【0074】
ステップSP106においてCPU10は、図9に示すように過去青色光位置KP1を中心とした上方向閾値範囲UH及び下方向閾値範囲DHと現時点移動量GH1とを比較することにより青色光の現時点移動方向が上方向又は下方向であるか否かを判断する。
【0075】
ステップSP106において肯定結果が得られると、このことは上方向閾値範囲UH内及び下方向閾値範囲DH内のいずれか一方に現時点移動量GH1が存在することにより青色光の現時点移動方向が上方向又は下方向であると認識し得ることを表しており、このときCPU10はステップSP107に移る。
【0076】
ステップSP107においてCPU10は、動画像を構成する複数のフレーム画像のうち現時点よりも時間的に過去の現時点処理対象フレーム画像と連続する所定フレーム数分(例えば14又は29フレーム)のフレーム画像に対してそれぞれ画像特殊効果設定変更検出処理ルーチンSRT100を実行した際に当該所定フレーム数分のフレーム画像の全て又はいずれかのフレーム画像で青色光のみを検出している場合、これら複数のフレーム画像で青色光のみを検出してすでにRAM11に記録している移動量(以下、これを過去移動量と呼ぶ)に応じた移動軌跡と、現時点移動量GH1とに基づいて当該青色光が移動開始から上方向に移動している途中であるか、又は当該青色光が移動開始から上方向に移動し、次いで下方向に連続して移動している途中であるか否かを判断する。
【0077】
ステップSP107において肯定結果が得られると、このことはユーザにより青色発光部32のみを発光させた指示器具30が一旦上方向に振られ、又は当該指示器具30が一旦上方向に振られた後、引き続き下方向に振られた動作(すなわち画像特殊効果の設定内容の変更を指示する特定動作とほぼ同じ動作)に応じてフレーム画像内の青色光がその特定動作に応じた特定の軌跡で移動していることを表しており、このときCPU10はステップSP108に移る。
【0078】
ステップSP108においてCPU10は、現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する所定フレーム数分のフレーム画像(現時点処理対象フレーム画像を含む15又は30フレーム分のフレーム画像であり、当該15又は30フレーム分のフレーム画像を以下、まとめて設定変更検出範囲フレーム画像群と呼ぶ)に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の図示しない設定変更用のカウンタ)を1だけインクリメントする。
【0079】
またCPU10は、このとき現時点処理対象フレーム画像内で検出した青色光に対する現時点青色光位置及び現時点移動量をRAM11に記録して続くステップSP109に移る。
【0080】
ステップSP109においてCPU10は、青色光検出フレーム数が予め設定された所定のフレーム数閾値よりも大きく、かつ設定変更検出範囲フレーム画像群に対してそれぞれ画像特殊効果設定変更検出処理ルーチンSRT100を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)のうち最大の値を示す移動量が予め設定された所定の移動量閾値よりも大きく、さらに現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する例えば2フレーム分のフレーム画像(すなわち設定変更検出範囲フレーム画像群において時間的に最も未来の3フレーム分のフレーム画像)に対して画像特殊効果設定変更検出処理ルーチンSRT100を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)の値がそれ以前の移動量よりも低下しているか否かを判断する。
【0081】
このステップSP109において肯定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下が、それぞれ青色光の移動がユーザの動作に応じた自然なものであるかを判断するために予め設定された規定を満たしていることにより、ユーザによる画像特殊効果の設定内容の変更を指示する特定動作に応じて自然に移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより画像特殊効果の設定内容の変更が指示されたと判断して続くステップSP110に移る。
【0082】
ステップSP110においてCPU10は、画像特殊効果設定変更検出処理ルーチンSRT100を開始する以前に画像特殊効果として球状画像40を用いるように設定していたときには当該画像特殊効果として剣状画像46を用いるように設定内容を変更する。
【0083】
またステップSP110においてCPU10は、画像特殊効果設定変更検出処理ルーチンSRT100を開始する以前に画像特殊効果として剣状画像46を用いるように設定していたときには当該画像特殊効果として球状画像40を用いるように設定内容を変更する。
【0084】
このようにしてCPU10は、画像特殊効果の設定内容を変更すると、ステップSP5(図2)に移る。
【0085】
ところでCPU10かデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込んで画像特殊効果設定変更検出処理ルーチンSRT100を実行している際に上述したステップSP102において否定結果が得られると、このことはこの時点でユーザにより画像特殊効果の設定内容の変更が指示されず又はその指示が途中で中止されたことにより指示器具30の青色発光部32及び赤色発光部33の発光状態に応じて現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP111に移る。
【0086】
ステップSP111においてCPU10は、設定変更検出範囲フレーム画像群に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の設定変更用のカウンタ)を1だけデクリメントする。
【0087】
このようにしてCPU10は、1フレーム分のフレーム画像データD1Aを取り込んで画像特殊効果設定変更検出処理ルーチンSRT100を実行する毎に、その都度時間的に最も未来の設定変更検出範囲フレーム画像群の対象となるフレーム画像を変更しても当該設定変更検出範囲フレーム画像群において青色光を検出したフレーム画像の数を青色光検出フレーム数で適確に認識し得る状態にしてステップSP112に移る。
【0088】
ステップSP112においてCPU10は、現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出することができなかったことで、画像特殊効果設定変更検出処理ルーチンSRT100を開始する以前に設定していた画像特殊効果の設定内容をそのまま変更せずにステップSP5に移る。
【0089】
また上述したステップSP103において否定結果が得られると、このことはユーザにより画像特殊効果の設定内容の変更が未だ指示されず又はその指示がすでに中止されていることによりその時点の指示器具30における青色発光部32及び赤色発光部33の発光状態に応じて過去フレーム画像内でも青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP111に移る。
【0090】
さらに上述したステップSP104において否定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じているとは言い難い不自然な距離であり、青色光が誤検出されたことを表しており、このときCPU10はステップSP111に移る。
【0091】
さらに上述したステップSP106において否定結果が得られると、このことは現時点移動量GH1が上方向閾値範囲UH内及び下方向閾値範囲DH内のいずれからも外れていることにより青色光の現時点移動方向が上方向及び下方向とは異なる方向であると認識し得ることを表しており、このときCPU10はステップSP113に移る。
【0092】
ステップSP113においてCPU10は、現時点処理対象フレーム画像内でユーザによる画像特殊効果の設定内容の変更を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと判断し、その時点の設定変更検出範囲フレーム画像群に対してカウントしていた青色光検出フレーム数と、RAM11にすでに記録している青色光の位置及び移動量とからなる青色検出情報を初期化してステップSP112に移る。
【0093】
また上述したステップSP107において否定結果が得られると、このことはユーザによる画像特殊効果の設定内容の変更を指示する特定動作とは異なる動作に応じてフレーム画像内の青色光が移動していることを表しており、このときCPU10はステップSP113に移る。
【0094】
さらに上述したステップSP109において否定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下の少なくとも1つが規定を満たしていないことにより、ユーザによる画像特殊効果の設定内容の変更を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより画像特殊効果の設定内容の変更が指示されていないと判断してステップSP112に移る。
【0095】
このようにしてCPU10は、ライブ配信を実行している間、フレーム画像を取り込む毎に順次更新する時間的に最新の所定フレーム数分(すなわちユーザの特定動作を撮像するのに充分なフレーム数である設定変更検出範囲フレーム画像群)のフレーム画像内で検出した青色光の移動量をRAM11に蓄積し、当該蓄積した移動量に基づいてユーザによる画像特殊効果の設定内容の変更を指示す特定動作に応じて青色光が移動したことを認識すると、デジタルビデオカメラ17の前で撮像用に演技しているユーザに操作部26を特には操作させることなく画像特殊効果の設定内容を容易に変更することができる。
【0096】
またCPU10は、画像特殊効果として球状画像40を用いるように設定していることにより上述したステップSP5(図2)の処理を実行した後に球状画像付加処理ルーチンSRT200に移ると、特殊効果付加処理プログラムP2に従って図10及び図11に示す球状画像付加処理ルーチンSRT200の開始ステップから入って続くステップSP201に移る。
【0097】
ステップSP201においてCPU10は、現時点のモードが撮像中のユーザによって行われる球状画像40の付加を指示する特定動作を検出するための青色光検出モードと、球状画像40を付加する指示に応じて球描画対象フレーム画像に画像特殊効果として球状画像40を描画する描画モードとのうち当該描画モードであるか否かを判断する。
【0098】
このステップSP201において否定結果が得られると、このことは現時点処理対象フレーム画像に画像特殊効果として球状画像40を描画するための前処理となる青色光検出モードに移行していることを表しており、このときCPU10はステップSP202に移る。
【0099】
ステップSP202においてCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33が発光した際の青色光及び赤色光を探索してステップSP203に移る。
【0100】
ステップSP203においてCPU10は、現時点処理対象フレーム画像内における探索の結果、青色光のみを検出したか否かを判断する。
【0101】
このステップSP203において肯定結果が得られると、このことはこの時点でユーザが指示器具30の青色発光部32のみを発光させていることにより現時点処理対象フレーム画像内で青色光のみを検出したことを表しており、このときCPU10はステップSP204に移る。
【0102】
ステップSP204においてCPU10は、ユーザを撮像して得られる動画像を構成する複数のフレーム画像のうち現時点処理対象フレーム画像よりも時間的に1フレーム過去のすでに検索に用いられた過去フレーム画像でも青色光のみを検出したか否かを判断する。
【0103】
このステップSP204において肯定結果が得られると、このことは過去フレーム画像内でも青色光及び赤色光のうち青色光のみを検出したことを表しており、このときCPU10はステップSP205に移る。
【0104】
ステップSP205においてCPU10は、過去フレーム画像に対して球状画像付加処理ルーチンSRT200を実行した際にRAM11にすでに記録している当該過去フレーム画像内の青色光の過去青色光位置と、現時点処理対象フレーム画像内の青色光の現時点青色光位置との間の現時点移動距離を算出し、当該算出した現時点移動距離が所定の第2の距離閾値以内か否かを判断する。
【0105】
このステップSP205において肯定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じた距離であり、青色光が正しく検出されたことを表しており、このときCPU10はステップSP206に移る。
【0106】
ステップSP206においてCPU10は、過去青色光位置及び現時点青色光位置に基づいて、過去フレーム画像から現時点処理対象フレーム画像に渡って移動した青色光の現時点移動方向及び現時点移動距離を一括してベクトルで表す現時点移動量を検出し、続くステップSP207に移る。
【0107】
ステップSP207においてCPU10は、動画像を構成する複数のフレーム画像のうち現時点よりも時間的に過去の現時点処理対象フレーム画像と連続する所定フレーム数分(例えば14又は29フレーム)のフレーム画像に対してそれぞれ球状画像付加処理ルーチンSRT200を実行した際に当該複数のフレーム画像の全て又はいずれかのフレーム画像内で青色光のみを検出している場合、これら所定フレーム数分のフレーム画像内で青色光のみを検出した際に得られた過去移動量をRAM11から読み出す。
【0108】
そしてCPU10は、図12に示すように所定フレーム数分のフレーム画像内で青色光のみを検出した際に得られた過去移動量のうち最も過去のフレーム画像内で青色光のみを検出した際に得られた過去移動量KH1の始点となる移動開始点MS1に現時点移動量GH1の始点となる過去青色光位置KP1を一致させる。
【0109】
この状態でCPU10は、現時点移動量GH1と、移動開始点MS1を中心とし、かつ過去移動量KH1を基準中心線とする所定角度範囲でなる方向判別用閾値範囲AH1とを比較することにより、現時点移動方向が現時点処理対象フレーム画像よりも過去のフレーム画像における青色光の移動方向に対して急激に変化していないか否かを判断する。
【0110】
このステップSP207において否定結果が得られると、このことは方向判別用閾値範囲AH1内に現時点移動量GH1が存在することにより青色光の現時点移動方向が現時点処理対象フレーム画像よりも過去のフレーム画像における青色光の移動方向とほぼ同じ方向であり、青色光が複数のフレーム画像に渡ってほぼ直線的に移動していることを表しており、このときCPU10はステップSP208に移る。
【0111】
ステップSP208においてCPU10は、現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する所定フレーム数分のフレーム画像(現時点処理対象フレーム画像を含む15又は30フレーム分のフレーム画像であり、当該15又は30フレーム分のフレーム画像を以下、まとめて描画検出用範囲フレーム画像群と呼ぶ)に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の図示しない描画検出用のカウンタ)を1だけインクリメントする。
【0112】
またCPU10は、このとき現時点処理対象フレーム画像内で検出した青色光に対する現時点青色光位置及び現時点移動量をRAM11に記録してステップSP209に移る。
【0113】
ステップSP209においてCPU10は、青色光検出フレーム数が予め設定された所定のフレーム数閾値よりも大きく、かつ描画検出用範囲フレーム画像群に対してそれぞれ球状画像付加処理ルーチンSRT200を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)のうち最大の値を示す移動量が予め設定された所定の移動量閾値よりも大きく、さらに現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する例えば2フレーム分のフレーム画像(すなわち描画検出用範囲フレーム画像群において時間的に最も未来の3フレーム分のフレーム画像)に対して球状画像付加処理ルーチンSRT200を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)の値がそれ以前の移動量よりも低下しているか否かを判断する。
【0114】
このステップSP209において肯定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下が、それぞれ青色光の移動がユーザの動作に応じた自然なものであるかを判断するために予め設定された規定を満たしていることにより、ユーザによって行われた球状画像40の付加を指示する特定動作に応じて当該特定動作に応じた特定の軌跡でほぼ直線的に自然に移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより球状画像40の付加が指示されたと判断して続くステップSP210に移る。
【0115】
ステップSP210においてCPU10は、ユーザによる球状画像40の付加の指示に応じて青色光検出モードから描画モードに移行してステップSP211に移る。
【0116】
ステップSP211においてCPU10は、球状画像用効果音の再生タイミングを動画像中で球状画像40が出現するタイミングに合わせるためにハードディスクドライブ13のハードディスクから球状画像用効果音データD6を読み出してステップSP212に移る。
【0117】
ステップSP212においてCPU10は、上述したステップSP201乃至ステップSP211において青色光の検出に用いた現時点処理対象フレーム画像をこの時点では球状画像40の付加の対象にはしていないことにより当該現時点処理対象フレーム画像に相当するフレーム画像データD1AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6(図2)に移る。
【0118】
ところでCPU10がデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込んで球状画像付加処理ルーチンSRT200を実行している際に上述したステップSP203において否定結果が得られると、このことはこの時点でユーザにより球状画像40の付加が指示されず又はその指示が途中で中止されたことにより指示器具30の青色発光部32及び赤色発光部33の発光状態に応じて現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP213に移る。
【0119】
ステップSP213においてCPU10は、描画検出用範囲フレーム画像群に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の描画検出用のカウンタ)を1だけデクリメントする。
【0120】
このようにしてCPU10は、1フレーム分のフレーム画像データD1Aを取り込んで球状画像付加処理ルーチンSRT200を実行する毎に、その都度時間的に最も未来の描画検出用範囲フレーム画像群の対象となるフレーム画像を変更しても当該描画検出用範囲フレーム画像群において青色光を検出したフレーム画像の数を青色光検出フレーム数で適確に認識し得る状態にしてステップSP212に移る。
【0121】
また上述したステップSP204において否定結果が得られると、このことはユーザにより球状画像40の付加が未だ指示されず又はその指示がすでに中止されていることによりその時点の指示器具30の青色発光部32及び赤色発光部33の発光状態に応じて過去フレーム画像内でも青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP213に移る。
【0122】
さらに上述したステップSP205において否定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じているとは言い難い不自然な距離であり、青色光が誤検出されたことを表しており、このときCPU10はステップSP213に移る。
【0123】
さらに上述したステップSP207において肯定結果が得られると、このことは現時点移動量GH1が方向判別用閾値範囲AH1内から外れていることにより青色光の現時点移動方向が現時点処理対象フレーム画像よりも過去のフレーム画像における青色光の移動方向とは全く異なる方向で、球状画像40の付加を指示するほぼ直線的な特定動作とは異なる動作に応じて青色光がその移動方向を急激に変化させて移動したことを表しており、このときCPU10はステップSP214に移る。
【0124】
ステップSP214においてCPU10は、現時点処理対象フレーム画像内でユーザによる球状画像40の付加を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと判断し、その時点の描画検出用範囲フレーム画像群に対してカウントしていた青色光検出フレーム数と、RAM11にすでに記録している青色光の位置及び移動量とからなる青色検出情報を初期化してステップSP212に移る。
【0125】
また上述したステップSP209において否定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下の少なくとも1つが規定を満たしていないことにより、ユーザによる球状画像40の付加を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより球状画像40の付加が指示されていないと判断してステップSP212に移る。
【0126】
ところでCPU10は、上述したステップSP210において青色光検出モードから描画モードに移行すると、上述したステップSP7(図2)からステップSP4(図2)に戻りキャプチャフィルタP3に従ってデジタルビデオカメラ17から新たな1フレーム分のフレーム画像データD1Aを取り込んで再び球状画像付加処理ルーチンSRT200を開始した場合、上述したステップSP201において肯定結果を得ることによりステップSP215に移る。
【0127】
ステップSP215においてCPU10は、青色光検出モードから描画モードに移行して初めて取り込んだ1フレーム目の球描画対象フレーム画像に対しては当該球描画対象フレーム画像内の青色光の位置(以下、これを描画参照用位置と呼ぶ)を検出し、当該検出した描画参照用位置をRAM11に記録すると共に、その1フレーム目の球描画対象フレーム画像内における描画参照用位置を球状画像40の描画中心位置としてステップSP216に移る。
【0128】
ステップSP216においてCPU10は、球描画対象フレーム画像に対する球状画像40の描画中心位置が当該球描画対象フレーム画像の外側であるか否かを判断する。
【0129】
このステップSP216において肯定結果が得られると、このことは球状画像40の描画中心位置が球描画対象フレーム画像内に存在することにより当該球描画対象フレーム画像内に球状画像40を描画し得ることを表しており、このときCPU10はステップSP217に移る。
【0130】
ステップSP217においてCPU10は、ハードディスクドライブ13のハードディスクからこれに予め記録している球状画像40の定数でなる半径(以下、これを球状画像半径と呼ぶ)と、当該球状画像40及び剣状画像46描画用のデータテーブルでなる色パレットとを読み出す。
【0131】
ここで図13に示すように、色パレット50は、例えば最も明るい色を表す白色から青色が離散的に濃くなるような複数色を経て非描画用の透明色までの多数の色情報を有し、これら白色から透明色までの各色情報に色を識別するための色識別番号0乃至Mが割り当てられている。
【0132】
CPU10は、図14に示すように、球描画対象フレーム画像内の描画中心位置DPを中心として球状画像半径BRで形成される円状の領域を球状画像40の描画領域(以下、これを球状画像描画領域と呼ぶ)SDAとし、当該球状画像描画領域SDAにおいて描画中心位置DPから外周までの間を色パレット50の有する色情報の数に応じて同心円状に分割する。
【0133】
またCPU10は、球状画像描画領域SDAを同心円状に分割して得た各領域(以下、これを球状画像描画用分割領域と呼ぶ)SDA0、……、SDAMのうち最も中心に位置する球状画像描画用分割領域SDA0に色識別番号0(白色を表す)を割り当てると共に最外周の球状画像描画用分割領域SDAMに色識別番号M(透明色を表す)を割り当てるように、これら全ての球状画像描画用分割領域SDA0、……、SDAMに描画中心位置DPから最外周にかけて色識別番号0乃至Mを線形に割り当てる。
【0134】
そしてCPU10は、球描画対象フレーム画像において各球状画像描画用分割領域SDA0、……、SDAM内のピクセルの本来の色(すなわち撮像時の色)をそれぞれ各球状画像描画用分割領域SDA0、……、SDAMに割り当てた色識別番号0乃至Mに対応する色情報の色に変更する。
【0135】
これによりCPU10は、球描画対象フレーム画像内に描画中心位置DPを中心として当該描画中心位置DPから外周にかけて順次色を変化させた球状画像40を描画してステップSP218に移る。
【0136】
ステップSP218においてCPU10は、球状画像40を描画した1フレーム目の球描画対象フレーム画像でなる球状画像付加フレーム画像に相当する球状画像付加フレーム画像データD7AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出する。
【0137】
因みにCPU10は、このとき1フレーム前の処理でハードディスクから読み出していた球状画像用効果音データD6をエンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、その球状画像用効果音データD6をバス21及びスピーカインターフェース14を順次介してスピーカ27に送出してステップSP6に移る。
【0138】
またCPU10は、青色光検出モードから描画モードに移行した時点において現時点処理対象フレーム画像内に球状画像40を付加した(すなわち現時点処理対象フレーム画像内に初めて球状画像40を出現させた)後、再びキャプチャフィルタP3に従ってデジタルビデオカメラ17から新たに2フレーム目以降のフレーム画像データD1Aを1フレーム分取り込んで球状画像付加処理ルーチンSRT200を開始すると、上述の場合と同様にステップSP201において肯定結果を得てステップSP215に移る。
【0139】
この際、ステップSP215においてCPU10は、現時点で取り込んでいる2フレーム目以降の球描画対象フレーム画像よりも時間的に1フレーム分過去の球描画対象フレーム画像(以下、これを特に過去球描画対象フレーム画像と呼ぶ)において描画中心位置DPとした描画参照用位置をRAM11から読み出すと共に、青色光検出モードから描画モードに移行した時点に描画検出用範囲フレーム画像群としていた全てのフレーム画像に対してそれぞれ検出した青色光の移動量をRAM11から読み出す。
【0140】
またCPU10は、描画検出用範囲フレーム画像群としていた全てのフレーム画像に対してそれぞれ検出した青色光の移動量と、動画像を構成するフレーム画像のフレーム周期と、当該描画検出用範囲フレーム画像群としていたフレーム画像のフレーム数とに基づいてその描画検出用範囲フレーム画像群における青色光の移動方向及び移動速度を移動パラメータとして算出する。
【0141】
そしてCPU10は、その移動パラメータと、過去球描画対象フレーム画像において描画中心位置DPとした描画参照用位置とに基づいて、青色光の移動方向側の領域で当該過去球描画対象フレーム画像から2フレーム目以降の球描画対象フレーム画像までの球状画像40の移動距離及び移動方向を推測する。
【0142】
これによりCPU10は、その推測結果から描画検出用範囲フレーム画像群における青色光の移動速度及び移動方向(すなわちユーザによる球状画像40の付加を指示する特定動作の速度及び方向)に合わせて球状画像40をほぼ同じ移動速度及び移動方向で当該青色光の移動方向側の領域を変位させるための2フレーム目以降の球描画対象フレーム画像における描画参照用位置を特定し、当該特定した描画参照用位置を球状画像40の描画中心位置としてステップSP216に移る。
【0143】
このようにしてCPU10は、この後ステップSP216乃至ステップSP218において順次上述と同様の処理を実行することにより2フレーム目以降の球描画対象フレーム画像に球状画像40を付加すると共に、当該球状画像40を付加した2フレーム目以降の球描画対象フレーム画像でなる球状画像付加フレーム画像を球状画像付加フレーム画像データD7AとしてMPEG2コーデック19及び表示部25に送出してステップSP6に移る。
【0144】
ところで上述したステップSP216において否定結果が得られると、このことは球状画像40の描画中心位置DPが2フレーム目以降の球描画対象フレーム画像の外側まで移動したことにより当該球描画対象フレーム画像に対して球状画像40を描画することができないことを表しており、このときCPU10はステップSP219に移る。
【0145】
ステップSP219においてCPU10は、描画モードから青色光検出モードに移行してステップSP212に移る。
【0146】
このようにしてCPU10は、球状画像付加処理ルーチンSRT200を実行した際にフレーム画像を取り込む毎に順次更新する時間的に最新の所定フレーム数分(すなわちユーザの特定動作を撮像するのに充分なフレーム数であり描画検出用範囲フレーム画像群)のフレーム画像内で検出した青色光の移動量をRAM11に蓄積し、当該蓄積した移動量に基づいてユーザによる球状画像40の付加を指示する特定動作に応じて青色光がその特定動作に応じた特定の軌跡で移動したことを検出すると、動画像内にその特定動作時に青色光の移動方向側に画像特殊効果として球状画像40を変位させて付加する。
【0147】
そしてこの際、CPU10は、球状画像付加処理ルーチンSRT200において青色光検出モードと描画モードとを適宜切り換えて処理を実行することにより、球状画像40の描画中に青色光の移動に応じて意図しない他の球状画像を描画することを防止することができる。
【0148】
さらにCPU10は、画像特殊効果として剣状画像46を用いるように設定していることにより上述したステップSP5の処理を実行した後に剣状画像付加処理ルーチンSRT300に移ると、特殊効果付加処理プログラムP2に従って図15及び図16に示す剣状画像付加処理ルーチンSRT300の開始ステップから入って続くステップSP301に移る。
【0149】
ステップSP301においてCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33が発光した際の青色光及び赤色光を探索してステップSP302に移る。
【0150】
ステップSP302においてCPU10は、現時点処理対象フレーム画像内における探索の結果、青色光及び赤色光を両方とも検出したか否かを判断する。
【0151】
このステップSP302において肯定結果が得られると、このことはこの時点で指示器具30の青色発光部32及び赤色発光部33の両方が発光してユーザにより剣状画像46の付加が指示されていることによりこれに応じて現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出したことを表しており、このときCPU10はステップSP303に移る。
【0152】
ステップSP303においてCPU10は、現時点処理対象フレーム画像内で検出した青色光の現時点青色光位置と、赤色光の位置(この位置は現時点処理対象フレーム画像内の座標値で表すものであり、以下この位置を現時点赤色光位置と呼ぶ)とをRAM11に記録して続くステップSP304に移る。
【0153】
ステップSP304においてCPU10は、順次1フレーム分のフレーム画像データD1Aに対して剣状画像付加処理ルーチンSRT300を実行する毎に青色光及び赤色光を検出したフレーム画像の数を表す青色光及び赤色光検出フレーム数(実際には内部の図示しない青色光及び赤色光検出用のカウンタ)を1だけインクリメントする。
【0154】
ただし青色光及び赤色光検出フレーム数は、現時点処理対象フレーム画像に剣状画像46の付加を開始した際にその青色光及び赤色光検出フレーム数に比例させて剣状画像46の長さを順次伸ばすために利用されるものである。
【0155】
このためCPU10は、青色光及び赤色光検出フレーム数に予め上限値(例えばn)を設定し、当該青色光及び赤色光検出フレーム数をインクリメントして上限値に達すると、その後に再び青色光及び赤色光検出フレーム数をインクリメントする際には上限値を変化させないようにすることにより剣状画像46の長さが極端に伸びすぎることを防止している。
【0156】
このようにしてCPU10は、青色光及び赤色光検出フレーム数をインクリメントすると、続くステップSP305に移る。
【0157】
ステップSP305においてCPU10は、ハードディスクドライブ13のハードディスクからこれに予め記録している剣状画像46の長さの定数(以下、これを長さ定数と呼ぶ)及び当該剣状画像46の幅(以下、これを幅定数と呼ぶ)と、図13について上述した色パレット50とを読み出すと共に、RAM11から現時点処理対象フレーム画像内で検出した現時点青色光位置及び現時点赤色光位置を読み出す。
【0158】
CPU10は、図17に示すように、現時点青色光位置BP及び現時点赤色光位置RPに基づいて、現時点処理対象フレーム画像内で水平線Hに対するその現時点青色光位置BP及び現時点赤色光位置RP間を結ぶ仮想線KL1の傾き角度(以下、これを光点間傾き角度と呼ぶ)LA1を検出する。
【0159】
またCPU10は、現時点青色光位置BP及び現時点赤色光位置RP間の距離(以下、これを光点間距離と呼ぶ)LL1を算出した後、その光点間距離LL1とこの時点の青色光及び赤色光検出フレーム数と長さ定数とを乗算することにより剣状画像46を描画する際の青色光及び赤色光検出フレーム数に比例した実際の長さ(以下、これを剣状画像描画長さと呼ぶ)NLを算出すると共に、光点間距離LL1とこの時点の青色光及び赤色光検出フレーム数と幅定数とを乗算することにより剣状画像46を描画する際の青色光及び赤色光検出フレーム数に比例した実際の幅(以下、これを剣状画像描画幅と呼ぶ)NWを算出する。
【0160】
さらにCPU10は、光点間傾き角度LA1に従って現時点処理対象フレーム画像内で仮想線KL1を現時点青色光位置側に延長させ、当該仮想線KL1の延長線KLP上で現時点青色光位置BPから剣状画像描画長さNLの位置を剣状画像46の表す剣の先端となる剣状画像描画軸先端位置NPとする。
【0161】
そしてCPU10は、図18に示すように、現時点処理対象フレーム画像内で剣状画像描画幅NWの中心を延長線KLPとして現時点青色光位置BPから剣状画像描画軸先端位置NPまでの剣状画像描画幅NWで形成される四角形状の領域を剣状画像46の描画領域(以下、これを剣状画像描画領域と呼ぶ)NDAとする。
【0162】
この状態でCPU10は、図19に示すように、現時点処理対象フレーム画像内で剣状画像描画領域NDAを剣状画像描画長さNL方向及び剣状画像描画幅NW方向にそれぞれ色パレット50の有する色情報の数に応じて格子状に分割する。
【0163】
またCPU10は、剣状画像描画領域NDAを分割して得た各領域(以下、これを剣状画像描画用分割領域と呼ぶ)NDA0、……、NDAMのうち指示器具30における青色発光部32の端面中心部に位置する剣状画像描画用分割領域NDA0に色識別番号0(白色を表す)を割り当てると共に剣状画像描画幅NW方向の最も外側の剣状画像描画用分割領域NDAM11乃至NDAMに色識別番号M(透明色を表す)を割り当てるように、これら全ての剣状画像描画用分割領域NDA0、……、NDAMに対して青色発光部32の端面側(すなわち現時点青色光位置BP側)から剣状画像46の表す剣の先端側(すなわち剣状画像描画軸先端位置NP側)にかけて色識別番号0乃至Mを線形に割り当てると共に、剣状画像46の表す剣の中心軸(すなわち延長線KLP)から剣状画像描画幅NWの最も外側にかけて色識別番号0乃至Mを線形に割り当てる。
【0164】
そしてCPU10は、現時点処理対象フレーム画像において各剣状画像描画用分割領域NDA0、……、NDAM内のピクセルの本来の色(すなわち撮像時の色)をそれぞれ各剣状画像描画用分割領域NDA0、……、NDAMに割り当てた色識別番号0乃至Mに対応する色情報の色に変更する。
【0165】
これによりCPU10は、現時点処理対象フレーム画像内に青色発光部32の端面側から剣の先端側までと剣の中心軸から当該剣の幅の外側にかけて順次色を変化させて先端部分を細く絞った剣を表す剣状画像46を描画してステップSP306に移る。
【0166】
ステップSP306においてCPU10は、剣状画像46を描画した現時点処理対象フレーム画像でなる剣状画像付加フレーム画像に相当する剣状画像付加フレーム画像データD10AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP307に移る。
【0167】
ステップSP307においてCPU10は、この時点の青色光及び赤色光検出フレーム数が上限値であるか否かを判断する。
【0168】
このステップSP307において肯定結果が得られると、このことは剣状画像46の描画を開始してから剣状画像描画長さNLが青色光及び赤色光検出フレーム数に比例して順次長くなり当該青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さ(それまでで最も長い)に相当する描画が完了したことにより、あたかも指示器具30の青色発光部32側で剣状画像46が順次伸びながらその生成が完了したことを表しており、このときCPU10はステップSP308に移る。
【0169】
ここでCPU10は、剣状画像46の本来の長さに相当する描画が完了した際、当該描画の完了を表現する剣状画像用効果音としての剣生成音を再生するようになされている。
【0170】
そしてCPU10は、剣生成音の再生に剣完成フラグを利用しており、当該剣完成フラグの設定内容を確認した際にその剣完成フラグを0に設定していると、剣生成音を再生し得ると判断すると共に、当該剣完成フラグの設定内容を確認した際にその剣完成フラグを1に設定していると、剣生成音を再生しないと判断し、剣状画像46の描画を一旦終了してから当該剣状画像46の描画を再び開始してその生成が完了するまでの間は剣完成フラグを0に設定している。
【0171】
従ってステップSP308においてCPU10は、この時点の剣完成フラグの設定内容を確認し、当該剣完成フラグの設定が0であるか否かを判断する。
【0172】
このステップSP308おいて肯定結果が得られると、このことはこの時点で剣状画像46の描画が完了することを待ち受ける状態として剣完成フラグが0に設定されていることを表しており、このときCPU10は剣生成音を再生し得ると判断してステップSP309に移る。
【0173】
ステップSP309においてCPU10は、剣完成フラグの設定を0から1に変更してステップSP310に移る。
【0174】
そしてステップSP310においてCPU10は、ハードディスクドライブ13のハードディスクから剣状画像用効果音データD11として剣生成音に相当する剣生成音データを読み出し、当該読み出した剣生成音データをエンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、その剣生成音データをバス21及びスピーカインターフェース14を順次介してスピーカ27に送出してステップSP6に移る。
【0175】
ところで上述したステップSP308において否定結果が得られると、すでに剣状画像46の生成の完了に応じて剣生成音を再生したことにより剣完成フラグを1に設定していることを表しており、このときCPU10はステップSP311に移る。
【0176】
ステップSP311においてCPU10は、現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する所定フレーム分(例えば3フレーム)のフレーム画像内でそれぞれ検出した現時点青色光位置BPをRAM11から読み出し、当該読み出した現時点青色光位置BPと、これら現時点青色光位置BPの検出に用いた複数のフレーム画像の数(例えば4枚)と、動画像を構成するフレーム画像のフレーム周期とに基づいて当該複数のフレーム画像における青色光の移動速度を検出する。
【0177】
そしてCPU10は、その複数のフレーム画像における青色光の移動速度のうち何れか一つがこれを除く他の移動速度よりも速く、かつ全ての移動速度が予め設定された所定の一定速度以上であるか否かを判断する。
【0178】
このステップSP311において肯定結果が得られると、このことは剣状画像46を描画した複数のフレーム画像において青色光が急激に移動したことにより撮像中のユーザによりあたかも剣を何かに切りつけたように指示器具30が急激に動かされた(すなわち振りまわされた)ことを表しており、このときCPU10はステップSP312に移る。
【0179】
ステップSP312においてCPU10は、ハードディスクドライブ13のハードディスクから剣状画像用効果音データD11として剣状画像46(すなわち剣)が振りまわされた状態を表現する剣振り効果音に相当する剣振り効果音データを読み出し、当該読み出した剣振り効果音データをエンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、その剣振り効果音データをバス21及びスピーカインターフェース14を順次介してスピーカ27に送出してステップSP6に移る。
【0180】
また上述したステップSP307おいて否定結果が得られると、このことは剣状画像46の描画を開始してから未だ青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さに相当する描画が完了していないことにより、あたかも指示器具30の青色発光部32側で剣状画像46が生成されている途中であることを表しており、このときCPU10はステップSP6に移る。
【0181】
さらに上述したステップSP311において否定結果が得られると、このことは剣状画像46を描画した複数のフレーム画像において青色光が比較的ゆっくりと移動したことにより撮像中のユーザにより剣を何かに切りつけるような動きとは異なり指示器具30も比較的ゆっくりと動かされたことを表しており、このときCPU10はステップSP6に移る。
【0182】
これに加えて上述したステップSP302において否定結果が得られると、このことはこの時点でユーザにより剣状画像46の付加が指示されず又はその指示が途中で中止されたことにより指示器具30の青色発光部32のみが発光し、又は青色発光部32及び赤色発光部33の両方が消灯しているために現時点処理対象フレーム画像内で青色光のみを検出し、又は青色光及び赤色光の両方を検出することができなかったことを表しており、このときCPU10はステップSP313に移る。
【0183】
ステップSP313においてCPU10は、現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出することができなかったことにより青色光及び赤色光検出フレーム数(実際には内部の青色光及び赤色光検出用のカウンタ)を1だけデクリメントしてステップSP314に移る。
【0184】
ここでCPU10は、上述したように青色光及び赤色光検出フレーム数を剣状画像46の描画の際に長さの決定や剣生成音の生成に用いるものの、現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出することができなかったときには当該青色光及び赤色光検出フレーム数を1だけデクリメントしている。
【0185】
このためCPU10は、例えば撮像中のユーザの動作により指示器具30の青色発光部32及び又は赤色発光部33が一時的に体の陰になって青色光及び又は赤色光を検出することができない場合でも、再び青色光及び赤色光を検出した際に青色光及び赤色光検出フレーム数に従って、検出が途切れる前よりもわずかに短い剣状画像46を描画することができ、当該検出が途切れた前後で剣状画像46の長さが大幅に異なり違和感が生じることを防止している。
【0186】
ステップSP314においてCPU10は、青色光及び赤色光検出フレーム数が0であるか否かを判断する。
【0187】
このステップSP314において肯定結果が得られると、このことは現時点処理対象フレーム画像内で青色光及び赤色光を検出することができなかった状態が所定フレーム数分連続したことにより青色光及び赤色光検出フレーム数が0となり、ユーザにより剣状画像46の付加が指示されていないことを表しており、このときCPU10はステップSP315に移る。
【0188】
ステップSP315においてCPU10は、剣完成フラグの設定が1であるか否かを判断する。
【0189】
このステップSP315において肯定結果が得られると、このことはすでに青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さに相当する描画が完了し、剣生成音も再生し終えたことにより、剣完成フラグの設定が1であることを表しており、このときCPU10はステップSP316に移る。
【0190】
ステップSP316においてCPU10は、剣完成フラグの設定内容を1から0に変更することにより再び剣状画像46の描画が完了することを待ち受ける状態としてステップSP317に移る。
【0191】
ステップSP317においてCPU10は、このときデジタルビデオカメラ17から取り込んでいる1フレーム分のフレーム画像データD1AをそのままエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6に移る。
【0192】
ところで上述したステップSP314において否定結果が得られると、このことは現時点処理対象フレーム画像内で青色光及び赤色光を検出することができなかったものの、未だ青色光及び赤色光検出フレーム数が0には到達していないことにより、撮像中のユーザによる剣状画像46の付加の指示が終了した又は撮像中のユーザの動作により指示器具30が一時的にユーザの体の陰になって青色光及び赤色光を検出することができなかったことを表しており、このときCPU10はステップSP317に移る。
【0193】
また上述したステップSP315において否定結果が得られると、このことは剣状画像46の描画を開始してから青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さに相当する描画が完了する前に(すなわち剣生成音を再生する前に)撮像中のユーザによる剣状画像46の付加の指示が終了した又は撮像中のユーザの動作により指示器具30が一時的にユーザの体の陰になって青色光及び赤色光を検出することができなかったことにより青色光及び赤色光検出フレーム数が0に到達したことを表しており、このときCPU10はステップSP317に移る。
【0194】
以上の構成において、このパーソナルコンピュータ1は、青色発光部32を有する指示器具30を手に持ったユーザをデジタルビデオカメラ17によって撮像し、この結果得られる動画像データD1に基づく動画像内でその青色発光部32が発光して得られる青色光の移動の有無及び移動方向とを検出する。
【0195】
そしてパーソナルコンピュータ1は、撮像中のユーザによりフレーム画像に対して球状画像40の付加を指示するために行われた特定動作に応じた青色光の特定の軌跡の移動及び移動方向を検出すると、当該動画像データD1に基づく動画像内の青色光の移動方向側に球状画像40を付加するようにした。
【0196】
従ってこのパーソナルコンピュータ1は、ユーザの特定動作に応じて青色光が移動した任意のタイミングで動画像内の当該特定動作に応じた青色光の移動方向側の任意の領域に画像特殊効果として球状画像40を付加することができる。
【0197】
またパーソナルコンピュータ1は、動画像内に画像特殊効果として付加した球状画像40をユーザの特定動作に応じた青色光の移動速度とほぼ同じ移動速度で変位させるため、当該動画像内にユーザの特定動作に応じた青色光の任意の移動速度で変位させて球状画像40を付加することができる。
【0198】
さらにこのパーソナルコンピュータ1は、動画像内に画像特殊効果として球状画像40を付加する際、その球状画像40の状態(この場合は球状画像40の出現)を表現する音声特殊効果として球状画像用効果音も合わせて付加するようにした。
【0199】
このためパーソナルコンピュータ1は、動画像内の任意の領域に任意のタイミングで画像特殊効果としての球状画像40を付加すると共に、これに合わせて動画像に音声特殊効果としての球状画像用効果音も合わせて付加することで、臨場感あふれるエフェクト付加映像を容易に生成することができる。
【0200】
これに加えてこのパーソナルコンピュータ1は、動画像内に画像特殊効果を付加する際に、ユーザによる画像特殊効果の設定変更を指示する特定動作に応じた青色光の特定の軌跡の移動及び移動方向を検出すると、これに応じて動画像内に付加する画像特殊効果の種類を変更するようにした。
【0201】
従ってこのパーソナルコンピュータ1は、例えばたった一人でライブ配信を実行し、自分を撮像対象とするユーザに対しては、ライブ配信中に操作部26の操作のためにデジタルビデオカメラ17の前での演技を中断することや、その操作部26の操作(すなわち演技中の煩わしい操作)自体から開放し、デジタルビデオカメラ17の前での演技に集中させて続行させながら当該ユーザの特定動作で動画像内に付加する画像特殊効果の種類を容易に変更することができ、かくしてパーソナルコンピュータ1の操作性を向上させることができる。
【0202】
以上の構成によれば、青色発光部32を有する指示器具30を手に持ったユーザをデジタルビデオカメラ17によって撮像することにより得られる動画像内で当該ユーザの特定動作に応じた青色光の特定の軌跡の移動及び移動方向を検出すると、その動画像内の青色光の移動方向側に画像特殊効果としての球状画像40を付加するようにしたことにより、ユーザの特定動作に応じて青色光が移動した任意のタイミングで動画像内の当該特定動作に応じた青色光の移動方向側の任意の領域に画像特殊効果として球状画像40を付加することができ、かくして動画像に対して思い通りに画像特殊効果を付加し得るパーソナルコンピュータを実現することができる。
【0203】
なお上述の実施の形態においては、動画像内に球状画像40及び剣状画像46を別々に付加するようにした場合について述べたが、本発明はこれに限らず、動画像内に球状画像40及び剣状画像46を合わせて付加し、例えば剣状画像46を付加した状態で青色光の移動及び移動方向を検出したとき、あたかも剣状画像46から球状画像40が放出されるようにし、又はこのように剣状画像46から放射される球状画像40が動画像内で所定の撮像対象に当たったときにその撮像対象が例えば火で燃えるような画像特殊効果を付加するようにしても良い。因みに球状画像40が動画像内で所定の撮像対象に当たったか否かを検出するには、例えば事前に撮像対象の背景のみを撮像しておき、その撮像結果に撮像対象を撮像して得られた動画像を重ねて新たな動画像を生成することにより当該新たな撮像画像内で撮像対象を容易に識別するようにすれば良い。
【0204】
また上述の実施の形態においては、フレーム画像内に球状画像40及び剣状画像46を描画する際、各球状画像描画用分割領域SDA0、……、SDAM及び剣状画像描画用分割領域NDA0、……、NDAMにそれぞれ任意の法則で色識別番号0乃至Mを線形に割り当てるようにした場合について述べたが、本発明はこれに限らず、フレーム画像内に球状画像40及び剣状画像46を描画する際、各球状画像描画用分割領域SDA0、……、SDAM及び剣状画像描画用分割領域NDA0、……、NDAMにそれぞれ色識別番号0乃至Mを基本的には線形でわずかに無作為に攪拌して割り当てるようにしても良く、このようにすれば動画像内に色合いが揺らいだ感じの球状画像及び剣状画像を付加することができ、当該球状画像の表すエネルギー体及び剣状画像の表す光の剣をよりリアルなものにすることができる。
【0205】
さらに上述の実施の形態においては、動画像内に球状画像40を大きさを特には変えずに付加するようにした場合について述べたが、本発明はこれに限らず、撮像対象となるユーザとデジタルビデオカメラ17との距離等に応じて青色光の大きさが変化することを利用して当該青色光の大きさに合わせて球状画像の大きさも変化させて動画像内に付加するようにしても良く、このようにすれば球状画像40をユーザの立ち位置や動作に応じてよりリアルに描くことができる。
【0206】
さらに上述の実施の形態においては、1台のデジタルビデオカメラ17によってユーザを撮像することにより得られた2次元動画像に画像特殊効果として球状画像40を付加するようにした場合について述べたが、本発明はこれに限らず、撮像対象となるユーザを例えば2台のデジタルビデオカメラで撮像して生成された3次元動画像を画像特殊効果としての球状画像40を付加するために利用し、3次元測定器により3次元動画像から検出した青色光に対する奥行きの情報を用いて当該3次元動画像に画像特殊効果として球状画像を付加するようにしても良い。このようにすれば2次元動画像に球状画像を2次元平面上で変位させて付加するだけでなく、3次元動画像に球状画像を3次元的に変位させて付加することができ、かくしてより臨場感あふれるエフェクト付加映像を容易に生成することができる。
【0207】
さらに上述の実施の形態においては、動画像に球状画像40及び剣状画像46の状態に合わせて球状画像用効果音及び剣状画像用効果音を付加するようにした場合について述べたが、本発明はこれに限らず、動画像に青色光の大きさや移動速度等に応じて音量を変化させた球状画像用効果音及び剣状画像効果音を付加するようにしても良い。
【0208】
さらに上述の実施の形態においては、動画像内で青色光の一旦は上方向に移動した後、引き続き下方向に移動する連続した移動を検出すると、画像特殊効果の設定内容を変更するようにした場合について述べたが、本発明はこれに限らず、動画像内で青色光の横方向への移動、斜め方向への移動、円や四角等の所定の形状を描くような移動等のように、この他種々の移動を検出すると、画像特殊効果の設定内容を変更するようにしても良い。因みに、このような青色光の各種移動は球状画像のような種々の画像特殊効果の付加にも利用することができる。
【0209】
さらに上述の実施の形態においては、動画像内でユーザの特定動作に応じた青色光の移動の有無及び移動方向を検出した際に当該動画像内の青色光の移動方向側に画像特殊効果を付加するようにした場合について述べたが、本発明はこれに限らず、特定動作に応じた移動とは関係せずに所定フレーム数分のフレーム画像内で青色光の移動の有無及び移動方向を検出した際に動画像内の青色光の移動方向側に画像特殊効果を付加するようにしても良い。このようにすれば特定動作にとらわれることなく、任意のタイミングで動画像内の任意の領域に画像特殊効果を付加することができ、動画像に対してさらに思い通りに画像特殊効果を付加することができる。
【0210】
さらに上述の実施の形態においては、ライブ配信用の動画像に画像特殊効果を付加するようにした場合について述べたが、本発明はこれに限らず、動画像をフレーム画像単位で順次処理してリアルタイム性を損なわずに画像特殊効果を付加し得ることにより、テレビジョン電話、テレビジョン会議システム及びビデオチャット等のビジュアルコミュニケーション用の動画像や、ライブハウス、コンサート会場等で利用されるビジュアルジョッキー用の動画像に画像特殊効果を付加するようにしても良い。
【0211】
さらに上述の実施の形態においては、画像特殊効果設定変更検出処理ルーチンSRT100及び球状画像付加処理ルーチンSRT200においてそれぞれ同一の現時点処理対象フレーム画像内で青色光及びその位置を検出すると共に、当該青色光の移動量を検出する等のように重複した処理を実行するようにした場合について述べたが、本発明はこれに限らず、画像特殊効果設定変更検出処理ルーチンSRT100及び球状画像付加処理ルーチンSRT200において重複する処理については例えば画像特殊効果設定変更検出処理ルーチンSRT100においてのみ実効し、球状画像付加処理ルーチンSRT200においてはその重複する処理の結果を共有して利用するようにしても良く、このようにすればCPU10の処理負荷を大幅に低減させることができる。
【0212】
さらに上述の実施の形態においては、本発明による情報処理装置を図1乃至図19について上述したパーソナルコンピュータ1に適用するようにした場合について述べたが、本発明はこれに限らず、画像処理装置や携帯電話機、PDA(Personal Digital Assistance )等のように、この他種々の情報処理装置に広く適用することができる。
【0213】
さらに上述の実施の形態においては、本発明による情報処理プログラムを図1乃至図19について上述したライブ配信処理プログラムに適用するようにした場合について述べたが、本発明はこれに限らず、ライブ配信処理手順RT1内の少なくとも球状画像付加処理ルーチンSRT200を実行する特殊効果付加処理プログラムP2や、当該特殊効果付加処理プログラムP2及びダイアログアプリケーションプログラムP1を適用するようにしても良い。
【0214】
さらに上述の実施の形態においては、ハードディスクドライブ13のハードディスクに予め記録されたライブ配信処理プログラムに従って図2、図7及び図8、図10及び図11、図15及び図16について上述したライブ配信処理手順RT1を実行するようにした場合について述べたが、本発明はこれに限らず、ライブ配信処理プログラムをローカルエリアネットワークやインターネット、ディジタル衛星放送等の有線及び無線通信媒体を利用してパーソナルコンピュータ1にインストールすることによりライブ配信処理手順RT1を実行するようにしても良いし、当該ライブ配信処理プログラムが格納されたプログラム格納媒体をパーソナルコンピュータ1にインストールすることによりライブ配信処理手順RT1を実行するようにしても良い。
【0215】
因みに上述したライブ配信処理手順RT1を実行するためのライブ配信処理プログラムをパーソナルコンピュータ1にインストールして実行可能な状態にするためのプログラム格納媒体としては、例えばフレキシブルディスク、CD−ROM(Compact Disc−Read Only Memory )、DVD(Digital Versatile Disc)等のパッケージメディアのみならず、ライブ配信処理プログラムが一時的もしくは永続的に格納される半導体メモリや磁気ディスク等で実現しても良い。またこれらプログラム格納媒体にライブ配信処理プログラムを格納する手段としては、ローカルエリアネットワークやインターネット、ディジタル衛星放送等の有線及び無線通信媒体を利用しても良く、ルータやモデム等の各種通信インターフェースを介して格納するようにしても良い。
【0216】
さらに上述の実施の形態においては、動画像データを取り込む動画像取込手段として、図1乃至図19について上述したデジタルビデオカメラ17を適用するようにした場合について述べたが、本発明はこれに限らず、外部のデジタルビデオカメラで特定物が撮像されることにより得られた動画像データを取り込むインターフェース回路等のように、この他種々の動画像取込手段を広く適用することができる。
【0217】
さらに上述の実施の形態においては、動画像データに基づく動画像内の特定物として、図1乃至図19について上述した指示器具30の青色発光部32の発光によって得られる青色光を適用するようにした場合について述べたが、本発明はこれに限らず、動画像内で背景や他の撮像対象とは区別して移動の有無及び移動方向を検出することができれば、他の特定色の光や、特定輝度の光、また人体の手、頭、足、目、口等の特定部分、指示器具30自体や、他の物理的な部材等のように、この他種々の特定物を広く適用することができる。
【0218】
さらに上述の実施の形態においては、動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出する検出手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、動画像に対して画像処理を施して特定物の移動の有無及び移動方向を検出する画像処理回路や、マイクロプロセッサ等のように、この他種々の検出手段を広く適用することができる。
【0219】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が移動した際に動画像内の特定物の移動方向側に所定の画像特殊効果を付加する画像特殊効果付加手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、動画像内に所定の画像特殊効果を描画して付加する画像処理回路や、動画像内に所定の画像特殊効果を重畳又は演算処理によって付加する画像処理回路等のように、この他種々の画像特殊効果付加手段を広く適用することができる。
【0220】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が移動した際に動画像内の特定物の移動方向側に付加する所定の画像特殊効果として、図1乃至図19について上述したエネルギー体を想起させるように球状画像40を適用するようにした場合について述べたが、本発明はこれに限らず、種々の色で描画された剣状画像や、動画像内の特定物の移動方向側に変位させて付加する所定形状の火の玉、スパーク体、モザイク体、ハート及び動物やこれらの分身、動画像内の特定部分の移動方向側を適宜固定領域として付加する火炎、ノイズ、反転、白黒、モザイク及びスパーク、またこれらの複合体等のように、この他種々の画像特殊効果を広く適用することができる。
【0221】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が特定の軌跡で移動したか否かを判断する判断手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、画像処理回路やマイクロプロセッサ等のように、この他種々の判断手段を広く適用することができる。
【0222】
さらに上述の実施の形態においては、動画像データに基づく動画像内の特定物の移動速度を検出する移動速度検出手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、特定物の移動速度を検出するマイクロプロセッサ等のように、この他種々の移動速度検出手段を広く適用することができる。
【0223】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が移動した際に、動画像内に付加される画像特殊効果の状態を表現する所定の音声特殊効果を当該動画像に付加する音声特殊効果付加手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、マイクロプロセッサ等のように、この他種々の音声特殊効果付加手段を広く適用することができる。
【0224】
【発明の効果】
上述のように本発明によれば、動画像取込手段によって動画像データを取り込みながら検出手段により当該動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出し、その検出結果に基づいて、画像特殊効果付加手段により動画像内の特定物が移動した際に当該動画像内の特定物の移動方向側に所定の画像特殊効果を付加するようにしたことにより、動画像内で特定物の移動した任意のタイミングで当該特定物の移動方向側の任意の領域に画像特殊効果を容易に付加することができ、かくして動画像に対して思い通りに画像特殊効果を付加し得る情報処理装置を実現することができる。
【図面の簡単な説明】
【図1】本発明によるパーソナルコンピュータの回路構成の一実施の形態を示すブロック図である。
【図2】ライブ配信処理手順を示すフローチャートである。
【図3】ライブ配信処理プログラムを構成する個々のプログラムに従った処理の説明に供する略線図である。
【図4】指示器具の構成を示す略線的斜視図である。
【図5】画像特殊効果として球状画像を付加した動画像の説明に供する略線図である。
【図6】画像特殊効果として剣状画像を付加した動画像の説明に供する略線図である。
【図7】画像特殊効果設定変更検出処理ルーチン(1)を示すフローチャートである。
【図8】画像特殊効果設定変更検出処理ルーチン(2)を示すフローチャートである。
【図9】現時点移動方向の判断の説明に供する略線図である。
【図10】球状画像付加処理ルーチン(1)を示すフローチャートである。
【図11】球状画像付加処理ルーチン(2)を示すフローチャートである。
【図12】現時点移動方向の変化の検出の説明に供する略線図である。
【図13】色パレットの構成を示す略線図である。
【図14】球状画像の描画の説明に供する略線図である。
【図15】剣状画像付加処理ルーチン(1)を示すフローチャートである。
【図16】剣状画像付加処理ルーチン(2)を示すフローチャートである。
【図17】剣状画像の長さの決定の説明に供する略線図である。
【図18】剣状画像描画領域の決定の説明に供する略線図である。
【図19】剣状画像の描画の説明に供する略線図である。
【符号の説明】
1……パーソナルコンピュータ、10……CPU、13……ハードディスクドライブ、17……デジタルビデオカメラ、30……指示器具、32……青色発光部、33……赤色発光部、40……球状画像、46……剣状画像、D1……動画像データ、D1A……フレーム画像データ、D7A……球状画像付加フレーム画像データ、D6……球状画像用効果音データ、D10A……剣状画像付加フレーム画像データ、D11……剣状画像用効果音データ、RT1……特殊効果付加処理プログラム、RT1……ライブ配信処理手順、SRT100……画像特殊効果設定変更検出処理ルーチン、SRT200……球状画像付加処理ルーチン、SRT300……剣状画像付加処理ルーチン。
【発明の属する技術分野】
本発明は情報処理装置に関し、例えばライブ配信する動画像にリアルタイムで画像特殊効果を付加するパーソナルコンピュータに適用して好適なものである。
【0002】
【従来の技術】
従来、ライブ配信する動画像に画像特殊効果を付加する際には、当該動画像に付加する画像特殊効果を特定する効果特定情報を予め設定された配列で表示し、その効果特定情報の中から所望の効果特定情報が選択されると、動画像に対して、選択された効果特定情報によって特定される画像特殊効果を付加している。(例えば、特許文献1参照)。
【0003】
【特許文献1】
特開2002−152591号公報(第4頁 第9頁乃至第11頁、図11)
【0004】
【発明が解決しようとする課題】
ところがかかる画像特殊効果の付加手法においては、動画像を演算処理することにより白黒、モザイク及びセピア等の画像特殊効果を動画像全体に付加し、又はフラワー、ハート及びクラッカー等の比較的単純な付加用画像を画像特殊効果として動画像内の予め設定された固定領域に付加している。
【0005】
このためかかる画像特殊効果の付加手法においては、動画像に対して任意のタイミングで任意の領域に画像特殊効果を思い通りに付加し難い問題があった。
【0006】
本発明は以上の点を考慮してなされたもので、動画像に対して思い通りに画像特殊効果を付加し得る情報処理装置を提案しようとするものである。
【0007】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、動画像取込手段によって動画像データを取り込みながら検出手段により当該動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出し、その検出結果に基づいて、画像特殊効果付加手段により動画像内の特定物が移動した際に当該動画像内の特定物の移動方向側に所定の画像特殊効果を付加するようにした。
【0008】
従って、動画像内で特定物の移動した任意のタイミングで当該特定物の移動方向側の任意の領域に画像特殊効果を容易に付加することができる。
【0009】
【発明の実施の形態】
以下図面について、本発明の一実施の形態を詳述する。
【0010】
図1において、1は全体として本発明を適用したパーソナルコンピュータを示し、CPU(Central Processing Unit )10にRAM(Random Access Memory)11、ROM(Read Only Memory)12、ハードディスクドライブ13、操作部インターフェース14、スピーカインターフェース15、表示用インターフェース16、デジタルビデオカメラ17、ネットワークインターフェース18、MPEG(Moving Picture Experts Group)2コーデック19、オーディオエンコーダ20がそれぞれバス21を介して接続されて構成されている。
【0011】
この場合、パーソナルコンピュータ1は、ROM12にCPU10によって実行する一連のプログラムを予め格納していると共に、ハードディスクドライブ13のハードディスクにCPU10によって実行するオペレーティングシステムや、配信処理プログラム、特殊効果付加処理プログラム、キャプチャフィルタ、表示フィルタ、エンコードフィルタ及びダイアログアプリケーションプログラムからなるライブ配信処理プログラム等の各種アプリケーションプログラムを予め格納している。
【0012】
そしてパーソナルコンピュータ1のCPU10は、RAM11をワークエリアとして用いてこれら一連のプログラムやオペレーティングシステム、またライブ配信処理プログラム等の各種アプリケーションプログラムに従った各種演算処理を実行しながらハードディスクドライブ13、操作部インターフェース14、スピーカインターフェース15、表示用インターフェース16、デジタルビデオカメラ17、ネットワークインターフェース18、MPEG2コーデック19及びオーディオエンコーダ20等の各回路部を制御する。
【0013】
これによりCPU10は、ユーザを撮像対象として撮像することにより得られた動画像データD1に画像特殊効果として球状画像及び剣状画像を付加すると共に、音声特殊効果として当該球状画像及び剣状画像の状態を表現する効果音を付加しながら、これら画像特殊効果及び音声特殊効果(以下、これらをまとめてエフェクトと呼ぶ)の付加によって得られた映像データ(以下、これをエフェクト付加映像データと呼ぶ)D2をインターネット上のストリーミングサーバ(図示せず)を利用してライブ配信するライブ配信処理を実行する。
【0014】
実際上、CPU10は、ハードディスクドライブ13のハードディスクからライブ配信処理プログラムを読み出してRAM11上で展開することにより当該ライブ配信処理プログラムに従ってライブ配信処理手順RT1の開始ステップから入り、続くステップSP1に移る。
【0015】
ステップSP1においてCPU10は、ライブ配信用の各種操作命令が入力可能なライブ配信処理用画面(図示せず)に相当するライブ配信処理用画面データD3をバス21及び表示用インターフェース16を順次介して液晶ディスプレイ又は陰極線管等でなる表示部25に送出することにより当該表示部25にライブ配信処理用画面データD3に基づくライブ配信処理用画面を表示する。
【0016】
この状態でCPU10は、ユーザによりキーボード及びマウス等でなる操作部26を介してライブ配信処理用画面上で画像特殊効果を設定するための効果設定要求が入力されると、これを操作部インターフェース14及びバス21を順次介して取り込む。
【0017】
このときCPU10は、図3に示すようにライブ配信処理プログラムを構成するダイアログアプリケーションプログラムP1に従い、効果設定要求に応じてライブ配信処理用画面内に、動画像に付加する画像特殊効果として球状画像及び剣状画像のいずれか一方を選択させるための効果選択用ダイアログボックスを表示する。
【0018】
この結果、CPU10は、ユーザにより操作部26を介してライブ配信処理用画面内の効果選択用ダイアログボックス上で球状画像及び剣状画像のいずれか一方が選択されると、当該選択された球状画像又は剣状画像を示す効果選択情報を操作部インターフェース14及びバス21を順次介して取り込む。
【0019】
このときCPU10は、ライブ配信処理プログラムを構成する特殊効果付加処理プログラムP2(図3)に従い、効果選択情報で示される球状画像又は剣状画像をライブ配信用の動画像に付加する画像特殊効果として用いるように設定して続くステップSP2に移る。
【0020】
ステップSP2においてCPU10は、ユーザによってライブ配信の開始が指示されることを待ち受け、当該ユーザにより操作部26を介してライブ配信処理用画面上でライブ配信の開始が指示されると、その指示結果を操作部インターフェース14及びバス21を順次介して取り込み、続くステップSP3に移る。
【0021】
ステップSP3においてCPU10は、予め登録されているストリーミングサーバのURL(Uniform Resource Locator)に基づいて当該ストリーミングサーバとパーソナルコンピュータ1との間で通信回線を確保する。
【0022】
またCPU10は、このとき動画像に画像特殊効果を付加するタイミング及び領域を指示するための図4に示すような指示器具30を手に持ったユーザ(撮像対象)に対してデジタルビデオカメラ17による撮像を開始する。
【0023】
ここで指示器具30は、内部に電池が収納された円筒状本体31の一端(以下、これを本体一端と呼ぶ)に電球により青色に発光する青色発光部32が設けられると共に、当該円筒状本体31の他端(以下、これを本体他端と呼ぶ)に電球により赤色に発光する赤色発光部33が設けられている。
【0024】
また指示器具30は、円筒状本体31の側面に3段階の切換機能を有するスイッチ34がスライド自在に設けられ、ユーザにより円筒状本体31が手で握持された状態でスイッチ34がスライド範囲内を本体一端側に目いっぱいスライドすると、青色発光部32のみを発光させ、当該スイッチ34がスライド範囲の中央部に位置したときに青色発光部32及び赤色発光部33を両方とも消灯させ、さらにスイッチ34がスライド範囲内を本体他端側に目いっぱいスライドすると、青色発光部32及び赤色発光部33の両方を発光させるようになされている。
【0025】
そしてCPU10は、ユーザの撮像を開始すると、ライブ配信処理プログラムを構成するキャプチャフィルタP3(図3)に従い、デジタルビデオカメラ17からその撮像によって得られる動画像データD1の取り込みを開始してステップSP4に移る。
【0026】
ステップSP4においてCPU10は、キャプチャフィルタP3に従い、デジタルビデオカメラ17から動画像データD1をフレーム画像データD1A単位でバス21を介して取り込むようにし、当該動画像データD1を構成するフレーム画像データD1Aを1フレーム分取り込むと、当該デジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に画像特殊効果設定変更検出処理を実行する画像特殊効果設定変更検出処理ルーチンSRT10に移る。
【0027】
画像特殊効果設定変更検出処理ルーチンSRT100においてCPU10は、ユーザを撮像している途中でも、画像特殊効果設定変更検出処理として、そのユーザによって行われる例えば青色発光部32のみを発光させた指示器具30を一旦は上方向に振った後、引き続き下方向に振る連続した動作を画像特殊効果の設定内容の変更を指示する特定動作として認識し、当該特定動作を認識するとこれに応じて画像特殊効果の設定内容を変更するようになされている。
【0028】
実際にCPU10は、デジタルビデオカメラ17からこの時点に取り込んだフレーム画像データD1Aに基づく1枚のフレーム画像(以下、これを特に現時点処理対象フレーム画像と呼ぶ)内で指示器具30の青色発光部32の発光によって得られる青色光の移動の有無及び移動方向を検出して蓄積し、当該蓄積した移動の有無及び移動方向に基づいて、画像特殊効果の設定内容の変更を指示する特定動作に応じて青色光が移動しているか否かを検出する。
【0029】
そしてCPU10は、画像特殊効果の設定内容の変更を指示する特定動作に応じて青色光が移動していることを検出するまでは画像特殊効果の設定内容を変更せずにステップSP5に移る。
【0030】
これに対してCPU10は、画像特殊効果の設定内容の変更を指示する特定動作に応じて青色光が移動していることを検出すると、これに応じて画像特殊効果の設定内容を変更してステップSP5に移る。
【0031】
ステップSP5においてCPU10は、この時点における画像特殊効果の設定内容が球状画像を用いる設定であるか否かを判断する。
【0032】
このステップSP5において肯定結果が得られると、このことは画像特殊効果として球状画像を用いるように設定していることを表しており、このときCPU10はデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎にその都度1フレーム分のフレーム画像データD1Aに対して球状画像付加処理を実行する球状画像付加処理ルーチンSRT200に移る。
【0033】
球状画像付加処理ルーチンSRT200においてCPU10は、球状画像付加処理として、撮像中のユーザによって行われる例えば青色発光部32のみを発光させた指示器具30を任意の一方向に移動させる動作をフレーム画像に対して球状画像の付加を指示する特定動作として認識し、当該特定動作を認識するとこれに応じてフレーム画像に球状画像を付加するようになされている。
【0034】
実際にCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32の発光によって得られる青色光の移動の有無及び移動方向を検出して蓄積し、当該蓄積した移動の有無及び移動方向に基づいて、フレーム画像に対して球状画像の付加を指示する特定動作に応じて青色光が移動しているか否かを検出する。
【0035】
そしてCPU10は、フレーム画像に対して球状画像の付加を指示する特定動作に応じて青色光が移動していることを検出するまでは、未だ球状画像を付加していない現時点処理対象フレーム画像に相当するフレーム画像データD1Aを、ライブ配信処理プログラムを構成するエンコードフィルタP4(図3)に従いバス21を介してMPEG2コーデック19に送出する。
【0036】
またCPU10は、このときライブ配信処理プログラムを構成する表示フィルタP5(図3)に従いそのフレーム画像データD1Aをバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6に移る。
【0037】
ステップSP6においてCPU10は、MPEG2コーデック19によりフレーム画像データD1AをMPEG2規格に従って圧縮符号化し、得られた圧縮符号化フレーム画像データD5Aをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信する。
【0038】
またCPU10は、このとき表示部25にフレーム画像データD1Aに基づく現時点処理対象フレーム画像(すなわち球状画像を付加していない元のフレーム画像)を表示してステップSP7に移る。
【0039】
ステップSP7においてCPU10は、ライブ配信の終了が指示されたか否かを判断する。
【0040】
このステップSP7において否定結果が得られると、このことはユーザにより操作部26を介して未だライブ配信の終了が指示されていないことを表しており、このときCPU10はステップSP4に戻る。
【0041】
このようにしてCPU10は、画像特殊効果として球状画像を用いるように設定されている間は、ステップSP7−SP4−SRT100−SP5―SRT200−SP6−SP7の一連の処理を循環的に繰り返すことによりデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に球状画像付加処理ルーチンSRT200において撮像中のユーザにより球状画像の付加を指示する特定動作が行われたか否かを監視する。
【0042】
この結果、球状画像付加処理ルーチンSRT200においてCPU10は、撮像中のユーザにより球状画像の付加を指示する特定動作が行われることによりそのフレーム画像に対して球状画像の付加を指示する特定動作に応じて青色光が移動していることを検出すると、球状画像の状態として動画像中における球状画像の出現を表現する効果音(以下、これを特に球状画像用効果音と呼ぶ)に相当する球状画像用効果音データD6をこれが予め記録されているハードディスクドライブ13のハードディスクから読み出してステップSP6に移る。
【0043】
そしてCPU10は再びステップSP6−SP7−SP4−SRT100−SP5の処理を順次経て再び球状画像付加処理ルーチンSRT200に移ると、当該球状画像付加処理ルーチンSRT200においてデジタルビデオカメラ17からこの時点に取り込んだフレーム画像データD1Aに基づくフレーム画像(以下、これを特に球描画対象フレーム画像と呼ぶ)に対して球状画像を付加する。
【0044】
またCPU10は、その球状画像を付加した球描画対象フレーム画像(以下、これを球状画像付加フレーム画像と呼ぶ)に相当する球状画像付加フレーム画像データD7AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いその球状画像付加フレーム画像データD7Aをバス21及び表示用インターフェース16を順次介して表示部25に送出する。
【0045】
因みにCPU10は、このとき1フレーム前の現時点処理対象フレーム画像に対する処理でハードディスクから読み出していた球状画像用効果音データD6を球状画像付加フレーム画像データD7Aの送出タイミングに合わせて、エンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、当該球状画像用効果音データD6をバス21及びスピーカインターフェース15を順次介してスピーカ27に送出してステップSP6に移る。
【0046】
これによりステップSP6においてCPU10は、MPEG2コーデック19により球状画像付加フレーム画像データD7AをMPEG2規格に従って圧縮符号化し、得られた球付加圧縮フレーム画像データD8Aと、オーディオエンコーダ20により球状画像用効果音データD6を所定の圧縮符号化方式に従って圧縮符号化し、得られた圧縮符号化効果音データD9とをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信する。
【0047】
またCPU10は、このとき表示部25に球状画像付加フレーム画像データD7Aに基づく球状画像付加フレーム画像(すなわち画像特殊効果として球状画像を付加した球描画対象フレーム画像)を表示すると共に、これに合わせてスピーカ27から球状画像用効果音データD6に基づく球状画像用効果音を出力することにより球描画対象フレーム画像に画像特殊効果としての球状画像と共に音声特殊効果としての球状画像用効果音を合わせて付加してステップSP7に移る。
【0048】
このようにしてCPU10は、ステップSP7において肯定結果が得られるまでの間、ステップSP7−SP4−SRT100−SP5―SRT200−SP6−SP7の一連の処理を循環的に繰り返すことにより、デジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に球状画像付加処理ルーチンSRT200において球状画像の付加を指示する特定動作の有無の監視と、その特定動作による指示に応じた球描画対象フレーム画像への球状画像の付加とを適宜繰り返す。
【0049】
これによりCPU10は、デジタルビデオカメラ17から順次1フレーム分のフレーム画像データD1Aを取り込む毎に球状画像付加処理ルーチンSRT200を実行すると、例えば図5に示すように撮像対象のユーザ39が一方の手に持った指示器具30の青色発光部32のみを発光させ、その青色発光部32を他方の手のひらに沿わせた状態で当該他方の手を自分の前に突き出した際に、その他方の手の動きを球状画像40の付加を指示する特定動作と認識して当該他方の手のひらからその突き出した方向側の領域にあたかも青色に発光している球状のエネルギー体(すなわち球状画像40)を放出させるように動画像内(実際には動画像を構成する個々のフレーム画像41、……、41A、……、41N)に画像特殊効果として球状画像40を変位させて付加することができる。
【0050】
ところで上述したステップSP5において否定結果が得られると、このことは画像特殊効果として剣状画像を用いるように設定していることを表しており、このときCPU10はデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎にその都度1フレーム分のフレーム画像データD1Aに対して剣状画像付加処理を実行する剣状画像付加処理ルーチンSRT300に移る。
【0051】
剣状画像付加処理ルーチンSRT300においてCPU10は、剣状画像付加処理として、撮像中のユーザによる指示器具30への操作で青色発光部32及び赤色発光部33の両方が発光すると、当該両方の発光をフレーム画像に対する剣状画像の付加の指示として認識し、当該認識した指示に応じてフレーム画像に剣状画像を付加するようになされている。
【0052】
実際にCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33の発光によって得られる青色光及び赤色光の両方を検出し得たか否かを判断し、当該青色光及び赤色光の両方を検出するまでは、未だ剣状画像を付加していない現時点処理対象フレーム画像に相当するフレーム画像データD1AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出する。
【0053】
またCPU10は、このとき表示フィルタP5に従いそのフレーム画像データD1Aをバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6に移る。
【0054】
ステップSP6においてCPU10は、上述と同様の処理を実行することによりMPEG2コーデック19によりフレーム画像データD1AをMPEG2規格に従って圧縮符号化し、得られた圧縮符号化フレーム画像データD5Aをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信してステップSP7に移る。
【0055】
ステップSP7においてCPU10は上述と同様に否定結果を得ると、画像特殊効果として剣状画像を用いるように設定されている間は、ステップSP7−SP4−SRT100−SP5―SRT300−SP6−SP7の一連の処理を循環的に繰り返すことによりデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に剣状画像付加処理ルーチンSRT300において撮像中のユーザにより剣状画像の付加が指示されたか否かを監視する。
【0056】
この結果、剣状画像付加処理ルーチンSRT300においてCPU10は、撮像中のユーザにより剣状画像の付加が指示されることにより現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出すると、当該現時点処理対象フレーム画像に剣状画像を付加する。
【0057】
またCPU10は、その剣状画像の状態(例えば剣状画像の描画の完了や剣状画像が急激に振られた状態)を表現する剣状画像用効果音(剣生成音や剣振り効果音)に相当する剣状画像用効果音データD11をこれが予め記録されているハードディスクドライブ13のハードディスクから読み出す。
【0058】
そしてCPU10は、その剣状画像を付加した現時点処理対象フレーム画像(以下、これを剣状画像付加フレーム画像と呼ぶ)に相当する剣状画像付加フレーム画像データD10AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いその剣状画像付加フレーム画像データD10Aをバス21及び表示用インターフェース16を順次介して表示部25に送出する。
【0059】
またCPU10は、このとき剣状画像用効果音データD11を剣状画像付加フレーム画像データD10Aの送出タイミングに合わせて、エンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、当該剣状画像用効果音データD11をバス21及びスピーカインターフェース15を順次介してスピーカ27に送出してステップSP6に移る。
【0060】
これによりステップSP6においてCPU10は、MPEG2コーデック19により剣状画像付加フレーム画像データD10AをMPEG2規格に従って圧縮符号化し、得られた剣付加圧縮フレーム画像データD12Aと、オーディオエンコーダ20により剣状画像用効果音データD11を所定の圧縮符号化方式に従って圧縮符号化し、得られた圧縮符号化効果音データD13とをこの時点のエフェクト付加映像データD2としてバス21及びネットワークインターフェース18を順次介してインターネット上のストリーミングサーバに送信する。
【0061】
またCPU10は、このとき表示部25に剣状画像付加フレーム画像データD10Aに基づく剣状画像付加フレーム画像(すなわち画像特殊効果として剣状画像を付加した現時点処理対象フレーム画像)を表示すると共に、これに合わせてスピーカ27から剣状画像用効果音データD11に基づく剣状画像用効果音を出力することにより現時点処理対象フレーム画像に画像特殊効果としての剣状画像と共に音声特殊効果としての剣状画像用効果音を合わせて付加してステップSP7に移る。
【0062】
このようにしてCPU10は、ステップSP7において肯定結果が得られるまでの間、ステップSP7−SP4−SRT100−SP5―SRT300−SP6−SP7の一連の処理を循環的に繰り返すことにより、デジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込む毎に剣状画像付加処理ルーチンSRT300において剣状画像を付加する指示の有無の監視と、その指示に応じた現時点処理対象フレーム画像への剣状画像の付加とを適宜繰り返す。
【0063】
これによりCPU10は、デジタルビデオカメラ17から順次1フレーム分のフレーム画像データD1Aを取り込む毎に剣状画像付加処理ルーチンSRT300を実行すると、例えば図6に示すように撮像対象のユーザ45が一方の手に持った指示器具30の青色発光部32及び赤色発光部33の両方を発光させた際に、その指示器具30の青色発光部32側にあたかも青色に発光している光の剣(すなわち剣状画像46)を出現させると共に、当該一方の手の動きに応じた指示器具30の傾きに合わせてあたかも実際に振りまわしている物理的な剣の見え方を再現してその剣の長さを変化させるように動画像内(実際には動画像を構成する個々のフレーム画像47、……、47A、……、47N)に画像特殊効果として剣状画像46を変位させて付加することができる。
【0064】
ここで上述した画像特殊効果設定変更検出処理ルーチンSRT100、球状画像付加処理ルーチンSRT200及び剣状画像付加処理ルーチンSRT300について以下に詳細に説明する。
【0065】
まずCPU10は、上述したステップSP4(図2)の処理を実行した後に画像特殊効果設定変更検出処理ルーチンSRT100に移ると、特殊効果処理プログラムP2に従って図7及び図8に示す画像特殊効果設定変更検出処理ルーチンSRT100の開始ステップから入って続くステップSP101に移る。
【0066】
ステップSP101においてCPU10は、デジタルビデオカメラ17からこの時点に取り込んだフレーム画像データD1Aに基づく現時点処理対象フレーム画像に対して所定の画像処理を施すことにより当該現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33が発光した際の青色光及び赤色光を探索してステップSP102に移る。
【0067】
ステップSP102においてCPU10は、現時点処理対象フレーム画像内における探索の結果、青色光のみを検出したか否かを判断する。
【0068】
このステップSP102において肯定結果が得られると、このことはこの時点でユーザが指示器具30の青色発光部32のみを発光させていることにより現時点処理対象フレーム画像内で青色光のみを検出したことを表しており、このときCPU10はステップSP103に移る。
【0069】
ステップSP103においてCPU10は、ユーザを撮像して得られる動画像を構成する複数のフレーム画像のうち、現時点処理対象フレーム画像よりも時間的に1フレーム分過去のすでに検索に用いられたフレーム画像(以下、これを特に過去フレーム画像と呼ぶ)でも青色光のみを検出したか否かを判断する。
【0070】
このステップSP103において肯定結果が得られると、このことは過去フレーム画像内でも青色光及び赤色光のうち青色光のみを検出したことを表しており、このときCPU10はステップSP104に移る。
【0071】
ステップSP104においてCPU10は、過去フレーム画像に対して画像特殊効果設定変更検出処理ルーチンSRT100を実行した際にRAM11にすでに記録している当該過去フレーム画像内の青色光の位置(この位置は過去フレーム画像内の座標値で表すものであり、以下この位置を過去青色光位置と呼ぶ)と、現時点処理対象フレーム画像内の青色光の位置(この位置は現時点処理対象フレーム画像内の座標値で表すものであり、以下この位置を現時点青色光位置と呼ぶ)との間の距離(以下、これを現時点移動距離と呼ぶ)を算出し、当該算出した現時点移動距離が所定の第1の距離閾値以内か否かを判断する。
【0072】
このステップSP104において肯定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じた距離であり、青色光が正しく検出されたことを表しており、このときCPU10はステップSP105に移る。
【0073】
ステップSP105においてCPU10は、過去青色光位置及び現時点青色光位置に基づいて過去フレーム画像から現時点処理対象フレーム画像に渡って移動した青色光の移動方向(以下、これを現時点移動方向と呼ぶ)及び現時点移動距離からなる移動量(以下、これを現時点移動量と呼び、当該現時点移動量は現時点移動方向及び現時点移動距離を一括してベクトルで表す)を検出し、続くステップSP106に移る。
【0074】
ステップSP106においてCPU10は、図9に示すように過去青色光位置KP1を中心とした上方向閾値範囲UH及び下方向閾値範囲DHと現時点移動量GH1とを比較することにより青色光の現時点移動方向が上方向又は下方向であるか否かを判断する。
【0075】
ステップSP106において肯定結果が得られると、このことは上方向閾値範囲UH内及び下方向閾値範囲DH内のいずれか一方に現時点移動量GH1が存在することにより青色光の現時点移動方向が上方向又は下方向であると認識し得ることを表しており、このときCPU10はステップSP107に移る。
【0076】
ステップSP107においてCPU10は、動画像を構成する複数のフレーム画像のうち現時点よりも時間的に過去の現時点処理対象フレーム画像と連続する所定フレーム数分(例えば14又は29フレーム)のフレーム画像に対してそれぞれ画像特殊効果設定変更検出処理ルーチンSRT100を実行した際に当該所定フレーム数分のフレーム画像の全て又はいずれかのフレーム画像で青色光のみを検出している場合、これら複数のフレーム画像で青色光のみを検出してすでにRAM11に記録している移動量(以下、これを過去移動量と呼ぶ)に応じた移動軌跡と、現時点移動量GH1とに基づいて当該青色光が移動開始から上方向に移動している途中であるか、又は当該青色光が移動開始から上方向に移動し、次いで下方向に連続して移動している途中であるか否かを判断する。
【0077】
ステップSP107において肯定結果が得られると、このことはユーザにより青色発光部32のみを発光させた指示器具30が一旦上方向に振られ、又は当該指示器具30が一旦上方向に振られた後、引き続き下方向に振られた動作(すなわち画像特殊効果の設定内容の変更を指示する特定動作とほぼ同じ動作)に応じてフレーム画像内の青色光がその特定動作に応じた特定の軌跡で移動していることを表しており、このときCPU10はステップSP108に移る。
【0078】
ステップSP108においてCPU10は、現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する所定フレーム数分のフレーム画像(現時点処理対象フレーム画像を含む15又は30フレーム分のフレーム画像であり、当該15又は30フレーム分のフレーム画像を以下、まとめて設定変更検出範囲フレーム画像群と呼ぶ)に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の図示しない設定変更用のカウンタ)を1だけインクリメントする。
【0079】
またCPU10は、このとき現時点処理対象フレーム画像内で検出した青色光に対する現時点青色光位置及び現時点移動量をRAM11に記録して続くステップSP109に移る。
【0080】
ステップSP109においてCPU10は、青色光検出フレーム数が予め設定された所定のフレーム数閾値よりも大きく、かつ設定変更検出範囲フレーム画像群に対してそれぞれ画像特殊効果設定変更検出処理ルーチンSRT100を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)のうち最大の値を示す移動量が予め設定された所定の移動量閾値よりも大きく、さらに現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する例えば2フレーム分のフレーム画像(すなわち設定変更検出範囲フレーム画像群において時間的に最も未来の3フレーム分のフレーム画像)に対して画像特殊効果設定変更検出処理ルーチンSRT100を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)の値がそれ以前の移動量よりも低下しているか否かを判断する。
【0081】
このステップSP109において肯定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下が、それぞれ青色光の移動がユーザの動作に応じた自然なものであるかを判断するために予め設定された規定を満たしていることにより、ユーザによる画像特殊効果の設定内容の変更を指示する特定動作に応じて自然に移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより画像特殊効果の設定内容の変更が指示されたと判断して続くステップSP110に移る。
【0082】
ステップSP110においてCPU10は、画像特殊効果設定変更検出処理ルーチンSRT100を開始する以前に画像特殊効果として球状画像40を用いるように設定していたときには当該画像特殊効果として剣状画像46を用いるように設定内容を変更する。
【0083】
またステップSP110においてCPU10は、画像特殊効果設定変更検出処理ルーチンSRT100を開始する以前に画像特殊効果として剣状画像46を用いるように設定していたときには当該画像特殊効果として球状画像40を用いるように設定内容を変更する。
【0084】
このようにしてCPU10は、画像特殊効果の設定内容を変更すると、ステップSP5(図2)に移る。
【0085】
ところでCPU10かデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込んで画像特殊効果設定変更検出処理ルーチンSRT100を実行している際に上述したステップSP102において否定結果が得られると、このことはこの時点でユーザにより画像特殊効果の設定内容の変更が指示されず又はその指示が途中で中止されたことにより指示器具30の青色発光部32及び赤色発光部33の発光状態に応じて現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP111に移る。
【0086】
ステップSP111においてCPU10は、設定変更検出範囲フレーム画像群に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の設定変更用のカウンタ)を1だけデクリメントする。
【0087】
このようにしてCPU10は、1フレーム分のフレーム画像データD1Aを取り込んで画像特殊効果設定変更検出処理ルーチンSRT100を実行する毎に、その都度時間的に最も未来の設定変更検出範囲フレーム画像群の対象となるフレーム画像を変更しても当該設定変更検出範囲フレーム画像群において青色光を検出したフレーム画像の数を青色光検出フレーム数で適確に認識し得る状態にしてステップSP112に移る。
【0088】
ステップSP112においてCPU10は、現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出することができなかったことで、画像特殊効果設定変更検出処理ルーチンSRT100を開始する以前に設定していた画像特殊効果の設定内容をそのまま変更せずにステップSP5に移る。
【0089】
また上述したステップSP103において否定結果が得られると、このことはユーザにより画像特殊効果の設定内容の変更が未だ指示されず又はその指示がすでに中止されていることによりその時点の指示器具30における青色発光部32及び赤色発光部33の発光状態に応じて過去フレーム画像内でも青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP111に移る。
【0090】
さらに上述したステップSP104において否定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じているとは言い難い不自然な距離であり、青色光が誤検出されたことを表しており、このときCPU10はステップSP111に移る。
【0091】
さらに上述したステップSP106において否定結果が得られると、このことは現時点移動量GH1が上方向閾値範囲UH内及び下方向閾値範囲DH内のいずれからも外れていることにより青色光の現時点移動方向が上方向及び下方向とは異なる方向であると認識し得ることを表しており、このときCPU10はステップSP113に移る。
【0092】
ステップSP113においてCPU10は、現時点処理対象フレーム画像内でユーザによる画像特殊効果の設定内容の変更を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと判断し、その時点の設定変更検出範囲フレーム画像群に対してカウントしていた青色光検出フレーム数と、RAM11にすでに記録している青色光の位置及び移動量とからなる青色検出情報を初期化してステップSP112に移る。
【0093】
また上述したステップSP107において否定結果が得られると、このことはユーザによる画像特殊効果の設定内容の変更を指示する特定動作とは異なる動作に応じてフレーム画像内の青色光が移動していることを表しており、このときCPU10はステップSP113に移る。
【0094】
さらに上述したステップSP109において否定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下の少なくとも1つが規定を満たしていないことにより、ユーザによる画像特殊効果の設定内容の変更を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより画像特殊効果の設定内容の変更が指示されていないと判断してステップSP112に移る。
【0095】
このようにしてCPU10は、ライブ配信を実行している間、フレーム画像を取り込む毎に順次更新する時間的に最新の所定フレーム数分(すなわちユーザの特定動作を撮像するのに充分なフレーム数である設定変更検出範囲フレーム画像群)のフレーム画像内で検出した青色光の移動量をRAM11に蓄積し、当該蓄積した移動量に基づいてユーザによる画像特殊効果の設定内容の変更を指示す特定動作に応じて青色光が移動したことを認識すると、デジタルビデオカメラ17の前で撮像用に演技しているユーザに操作部26を特には操作させることなく画像特殊効果の設定内容を容易に変更することができる。
【0096】
またCPU10は、画像特殊効果として球状画像40を用いるように設定していることにより上述したステップSP5(図2)の処理を実行した後に球状画像付加処理ルーチンSRT200に移ると、特殊効果付加処理プログラムP2に従って図10及び図11に示す球状画像付加処理ルーチンSRT200の開始ステップから入って続くステップSP201に移る。
【0097】
ステップSP201においてCPU10は、現時点のモードが撮像中のユーザによって行われる球状画像40の付加を指示する特定動作を検出するための青色光検出モードと、球状画像40を付加する指示に応じて球描画対象フレーム画像に画像特殊効果として球状画像40を描画する描画モードとのうち当該描画モードであるか否かを判断する。
【0098】
このステップSP201において否定結果が得られると、このことは現時点処理対象フレーム画像に画像特殊効果として球状画像40を描画するための前処理となる青色光検出モードに移行していることを表しており、このときCPU10はステップSP202に移る。
【0099】
ステップSP202においてCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33が発光した際の青色光及び赤色光を探索してステップSP203に移る。
【0100】
ステップSP203においてCPU10は、現時点処理対象フレーム画像内における探索の結果、青色光のみを検出したか否かを判断する。
【0101】
このステップSP203において肯定結果が得られると、このことはこの時点でユーザが指示器具30の青色発光部32のみを発光させていることにより現時点処理対象フレーム画像内で青色光のみを検出したことを表しており、このときCPU10はステップSP204に移る。
【0102】
ステップSP204においてCPU10は、ユーザを撮像して得られる動画像を構成する複数のフレーム画像のうち現時点処理対象フレーム画像よりも時間的に1フレーム過去のすでに検索に用いられた過去フレーム画像でも青色光のみを検出したか否かを判断する。
【0103】
このステップSP204において肯定結果が得られると、このことは過去フレーム画像内でも青色光及び赤色光のうち青色光のみを検出したことを表しており、このときCPU10はステップSP205に移る。
【0104】
ステップSP205においてCPU10は、過去フレーム画像に対して球状画像付加処理ルーチンSRT200を実行した際にRAM11にすでに記録している当該過去フレーム画像内の青色光の過去青色光位置と、現時点処理対象フレーム画像内の青色光の現時点青色光位置との間の現時点移動距離を算出し、当該算出した現時点移動距離が所定の第2の距離閾値以内か否かを判断する。
【0105】
このステップSP205において肯定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じた距離であり、青色光が正しく検出されたことを表しており、このときCPU10はステップSP206に移る。
【0106】
ステップSP206においてCPU10は、過去青色光位置及び現時点青色光位置に基づいて、過去フレーム画像から現時点処理対象フレーム画像に渡って移動した青色光の現時点移動方向及び現時点移動距離を一括してベクトルで表す現時点移動量を検出し、続くステップSP207に移る。
【0107】
ステップSP207においてCPU10は、動画像を構成する複数のフレーム画像のうち現時点よりも時間的に過去の現時点処理対象フレーム画像と連続する所定フレーム数分(例えば14又は29フレーム)のフレーム画像に対してそれぞれ球状画像付加処理ルーチンSRT200を実行した際に当該複数のフレーム画像の全て又はいずれかのフレーム画像内で青色光のみを検出している場合、これら所定フレーム数分のフレーム画像内で青色光のみを検出した際に得られた過去移動量をRAM11から読み出す。
【0108】
そしてCPU10は、図12に示すように所定フレーム数分のフレーム画像内で青色光のみを検出した際に得られた過去移動量のうち最も過去のフレーム画像内で青色光のみを検出した際に得られた過去移動量KH1の始点となる移動開始点MS1に現時点移動量GH1の始点となる過去青色光位置KP1を一致させる。
【0109】
この状態でCPU10は、現時点移動量GH1と、移動開始点MS1を中心とし、かつ過去移動量KH1を基準中心線とする所定角度範囲でなる方向判別用閾値範囲AH1とを比較することにより、現時点移動方向が現時点処理対象フレーム画像よりも過去のフレーム画像における青色光の移動方向に対して急激に変化していないか否かを判断する。
【0110】
このステップSP207において否定結果が得られると、このことは方向判別用閾値範囲AH1内に現時点移動量GH1が存在することにより青色光の現時点移動方向が現時点処理対象フレーム画像よりも過去のフレーム画像における青色光の移動方向とほぼ同じ方向であり、青色光が複数のフレーム画像に渡ってほぼ直線的に移動していることを表しており、このときCPU10はステップSP208に移る。
【0111】
ステップSP208においてCPU10は、現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する所定フレーム数分のフレーム画像(現時点処理対象フレーム画像を含む15又は30フレーム分のフレーム画像であり、当該15又は30フレーム分のフレーム画像を以下、まとめて描画検出用範囲フレーム画像群と呼ぶ)に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の図示しない描画検出用のカウンタ)を1だけインクリメントする。
【0112】
またCPU10は、このとき現時点処理対象フレーム画像内で検出した青色光に対する現時点青色光位置及び現時点移動量をRAM11に記録してステップSP209に移る。
【0113】
ステップSP209においてCPU10は、青色光検出フレーム数が予め設定された所定のフレーム数閾値よりも大きく、かつ描画検出用範囲フレーム画像群に対してそれぞれ球状画像付加処理ルーチンSRT200を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)のうち最大の値を示す移動量が予め設定された所定の移動量閾値よりも大きく、さらに現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する例えば2フレーム分のフレーム画像(すなわち描画検出用範囲フレーム画像群において時間的に最も未来の3フレーム分のフレーム画像)に対して球状画像付加処理ルーチンSRT200を実行した結果RAM11に記録している青色光の移動量(現時点移動量を含む)の値がそれ以前の移動量よりも低下しているか否かを判断する。
【0114】
このステップSP209において肯定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下が、それぞれ青色光の移動がユーザの動作に応じた自然なものであるかを判断するために予め設定された規定を満たしていることにより、ユーザによって行われた球状画像40の付加を指示する特定動作に応じて当該特定動作に応じた特定の軌跡でほぼ直線的に自然に移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより球状画像40の付加が指示されたと判断して続くステップSP210に移る。
【0115】
ステップSP210においてCPU10は、ユーザによる球状画像40の付加の指示に応じて青色光検出モードから描画モードに移行してステップSP211に移る。
【0116】
ステップSP211においてCPU10は、球状画像用効果音の再生タイミングを動画像中で球状画像40が出現するタイミングに合わせるためにハードディスクドライブ13のハードディスクから球状画像用効果音データD6を読み出してステップSP212に移る。
【0117】
ステップSP212においてCPU10は、上述したステップSP201乃至ステップSP211において青色光の検出に用いた現時点処理対象フレーム画像をこの時点では球状画像40の付加の対象にはしていないことにより当該現時点処理対象フレーム画像に相当するフレーム画像データD1AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6(図2)に移る。
【0118】
ところでCPU10がデジタルビデオカメラ17から1フレーム分のフレーム画像データD1Aを取り込んで球状画像付加処理ルーチンSRT200を実行している際に上述したステップSP203において否定結果が得られると、このことはこの時点でユーザにより球状画像40の付加が指示されず又はその指示が途中で中止されたことにより指示器具30の青色発光部32及び赤色発光部33の発光状態に応じて現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP213に移る。
【0119】
ステップSP213においてCPU10は、描画検出用範囲フレーム画像群に対して青色光を検出したフレーム画像の数を表す青色光検出フレーム数(実際には内部の描画検出用のカウンタ)を1だけデクリメントする。
【0120】
このようにしてCPU10は、1フレーム分のフレーム画像データD1Aを取り込んで球状画像付加処理ルーチンSRT200を実行する毎に、その都度時間的に最も未来の描画検出用範囲フレーム画像群の対象となるフレーム画像を変更しても当該描画検出用範囲フレーム画像群において青色光を検出したフレーム画像の数を青色光検出フレーム数で適確に認識し得る状態にしてステップSP212に移る。
【0121】
また上述したステップSP204において否定結果が得られると、このことはユーザにより球状画像40の付加が未だ指示されず又はその指示がすでに中止されていることによりその時点の指示器具30の青色発光部32及び赤色発光部33の発光状態に応じて過去フレーム画像内でも青色光及び赤色光の両方を検出し、又は両方とも検出することができなかったことを表しており、このときCPU10はステップSP213に移る。
【0122】
さらに上述したステップSP205において否定結果が得られると、このことは現時点移動距離がユーザの自然な動きに応じているとは言い難い不自然な距離であり、青色光が誤検出されたことを表しており、このときCPU10はステップSP213に移る。
【0123】
さらに上述したステップSP207において肯定結果が得られると、このことは現時点移動量GH1が方向判別用閾値範囲AH1内から外れていることにより青色光の現時点移動方向が現時点処理対象フレーム画像よりも過去のフレーム画像における青色光の移動方向とは全く異なる方向で、球状画像40の付加を指示するほぼ直線的な特定動作とは異なる動作に応じて青色光がその移動方向を急激に変化させて移動したことを表しており、このときCPU10はステップSP214に移る。
【0124】
ステップSP214においてCPU10は、現時点処理対象フレーム画像内でユーザによる球状画像40の付加を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと判断し、その時点の描画検出用範囲フレーム画像群に対してカウントしていた青色光検出フレーム数と、RAM11にすでに記録している青色光の位置及び移動量とからなる青色検出情報を初期化してステップSP212に移る。
【0125】
また上述したステップSP209において否定結果が得られると、このことは青色光検出フレーム数、最大の値を示す移動量及び移動量の低下の少なくとも1つが規定を満たしていないことにより、ユーザによる球状画像40の付加を指示する特定動作とは異なる動作に応じて移動した青色光を検出したと認識し得ることを表しており、このときCPU10はユーザにより球状画像40の付加が指示されていないと判断してステップSP212に移る。
【0126】
ところでCPU10は、上述したステップSP210において青色光検出モードから描画モードに移行すると、上述したステップSP7(図2)からステップSP4(図2)に戻りキャプチャフィルタP3に従ってデジタルビデオカメラ17から新たな1フレーム分のフレーム画像データD1Aを取り込んで再び球状画像付加処理ルーチンSRT200を開始した場合、上述したステップSP201において肯定結果を得ることによりステップSP215に移る。
【0127】
ステップSP215においてCPU10は、青色光検出モードから描画モードに移行して初めて取り込んだ1フレーム目の球描画対象フレーム画像に対しては当該球描画対象フレーム画像内の青色光の位置(以下、これを描画参照用位置と呼ぶ)を検出し、当該検出した描画参照用位置をRAM11に記録すると共に、その1フレーム目の球描画対象フレーム画像内における描画参照用位置を球状画像40の描画中心位置としてステップSP216に移る。
【0128】
ステップSP216においてCPU10は、球描画対象フレーム画像に対する球状画像40の描画中心位置が当該球描画対象フレーム画像の外側であるか否かを判断する。
【0129】
このステップSP216において肯定結果が得られると、このことは球状画像40の描画中心位置が球描画対象フレーム画像内に存在することにより当該球描画対象フレーム画像内に球状画像40を描画し得ることを表しており、このときCPU10はステップSP217に移る。
【0130】
ステップSP217においてCPU10は、ハードディスクドライブ13のハードディスクからこれに予め記録している球状画像40の定数でなる半径(以下、これを球状画像半径と呼ぶ)と、当該球状画像40及び剣状画像46描画用のデータテーブルでなる色パレットとを読み出す。
【0131】
ここで図13に示すように、色パレット50は、例えば最も明るい色を表す白色から青色が離散的に濃くなるような複数色を経て非描画用の透明色までの多数の色情報を有し、これら白色から透明色までの各色情報に色を識別するための色識別番号0乃至Mが割り当てられている。
【0132】
CPU10は、図14に示すように、球描画対象フレーム画像内の描画中心位置DPを中心として球状画像半径BRで形成される円状の領域を球状画像40の描画領域(以下、これを球状画像描画領域と呼ぶ)SDAとし、当該球状画像描画領域SDAにおいて描画中心位置DPから外周までの間を色パレット50の有する色情報の数に応じて同心円状に分割する。
【0133】
またCPU10は、球状画像描画領域SDAを同心円状に分割して得た各領域(以下、これを球状画像描画用分割領域と呼ぶ)SDA0、……、SDAMのうち最も中心に位置する球状画像描画用分割領域SDA0に色識別番号0(白色を表す)を割り当てると共に最外周の球状画像描画用分割領域SDAMに色識別番号M(透明色を表す)を割り当てるように、これら全ての球状画像描画用分割領域SDA0、……、SDAMに描画中心位置DPから最外周にかけて色識別番号0乃至Mを線形に割り当てる。
【0134】
そしてCPU10は、球描画対象フレーム画像において各球状画像描画用分割領域SDA0、……、SDAM内のピクセルの本来の色(すなわち撮像時の色)をそれぞれ各球状画像描画用分割領域SDA0、……、SDAMに割り当てた色識別番号0乃至Mに対応する色情報の色に変更する。
【0135】
これによりCPU10は、球描画対象フレーム画像内に描画中心位置DPを中心として当該描画中心位置DPから外周にかけて順次色を変化させた球状画像40を描画してステップSP218に移る。
【0136】
ステップSP218においてCPU10は、球状画像40を描画した1フレーム目の球描画対象フレーム画像でなる球状画像付加フレーム画像に相当する球状画像付加フレーム画像データD7AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出する。
【0137】
因みにCPU10は、このとき1フレーム前の処理でハードディスクから読み出していた球状画像用効果音データD6をエンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、その球状画像用効果音データD6をバス21及びスピーカインターフェース14を順次介してスピーカ27に送出してステップSP6に移る。
【0138】
またCPU10は、青色光検出モードから描画モードに移行した時点において現時点処理対象フレーム画像内に球状画像40を付加した(すなわち現時点処理対象フレーム画像内に初めて球状画像40を出現させた)後、再びキャプチャフィルタP3に従ってデジタルビデオカメラ17から新たに2フレーム目以降のフレーム画像データD1Aを1フレーム分取り込んで球状画像付加処理ルーチンSRT200を開始すると、上述の場合と同様にステップSP201において肯定結果を得てステップSP215に移る。
【0139】
この際、ステップSP215においてCPU10は、現時点で取り込んでいる2フレーム目以降の球描画対象フレーム画像よりも時間的に1フレーム分過去の球描画対象フレーム画像(以下、これを特に過去球描画対象フレーム画像と呼ぶ)において描画中心位置DPとした描画参照用位置をRAM11から読み出すと共に、青色光検出モードから描画モードに移行した時点に描画検出用範囲フレーム画像群としていた全てのフレーム画像に対してそれぞれ検出した青色光の移動量をRAM11から読み出す。
【0140】
またCPU10は、描画検出用範囲フレーム画像群としていた全てのフレーム画像に対してそれぞれ検出した青色光の移動量と、動画像を構成するフレーム画像のフレーム周期と、当該描画検出用範囲フレーム画像群としていたフレーム画像のフレーム数とに基づいてその描画検出用範囲フレーム画像群における青色光の移動方向及び移動速度を移動パラメータとして算出する。
【0141】
そしてCPU10は、その移動パラメータと、過去球描画対象フレーム画像において描画中心位置DPとした描画参照用位置とに基づいて、青色光の移動方向側の領域で当該過去球描画対象フレーム画像から2フレーム目以降の球描画対象フレーム画像までの球状画像40の移動距離及び移動方向を推測する。
【0142】
これによりCPU10は、その推測結果から描画検出用範囲フレーム画像群における青色光の移動速度及び移動方向(すなわちユーザによる球状画像40の付加を指示する特定動作の速度及び方向)に合わせて球状画像40をほぼ同じ移動速度及び移動方向で当該青色光の移動方向側の領域を変位させるための2フレーム目以降の球描画対象フレーム画像における描画参照用位置を特定し、当該特定した描画参照用位置を球状画像40の描画中心位置としてステップSP216に移る。
【0143】
このようにしてCPU10は、この後ステップSP216乃至ステップSP218において順次上述と同様の処理を実行することにより2フレーム目以降の球描画対象フレーム画像に球状画像40を付加すると共に、当該球状画像40を付加した2フレーム目以降の球描画対象フレーム画像でなる球状画像付加フレーム画像を球状画像付加フレーム画像データD7AとしてMPEG2コーデック19及び表示部25に送出してステップSP6に移る。
【0144】
ところで上述したステップSP216において否定結果が得られると、このことは球状画像40の描画中心位置DPが2フレーム目以降の球描画対象フレーム画像の外側まで移動したことにより当該球描画対象フレーム画像に対して球状画像40を描画することができないことを表しており、このときCPU10はステップSP219に移る。
【0145】
ステップSP219においてCPU10は、描画モードから青色光検出モードに移行してステップSP212に移る。
【0146】
このようにしてCPU10は、球状画像付加処理ルーチンSRT200を実行した際にフレーム画像を取り込む毎に順次更新する時間的に最新の所定フレーム数分(すなわちユーザの特定動作を撮像するのに充分なフレーム数であり描画検出用範囲フレーム画像群)のフレーム画像内で検出した青色光の移動量をRAM11に蓄積し、当該蓄積した移動量に基づいてユーザによる球状画像40の付加を指示する特定動作に応じて青色光がその特定動作に応じた特定の軌跡で移動したことを検出すると、動画像内にその特定動作時に青色光の移動方向側に画像特殊効果として球状画像40を変位させて付加する。
【0147】
そしてこの際、CPU10は、球状画像付加処理ルーチンSRT200において青色光検出モードと描画モードとを適宜切り換えて処理を実行することにより、球状画像40の描画中に青色光の移動に応じて意図しない他の球状画像を描画することを防止することができる。
【0148】
さらにCPU10は、画像特殊効果として剣状画像46を用いるように設定していることにより上述したステップSP5の処理を実行した後に剣状画像付加処理ルーチンSRT300に移ると、特殊効果付加処理プログラムP2に従って図15及び図16に示す剣状画像付加処理ルーチンSRT300の開始ステップから入って続くステップSP301に移る。
【0149】
ステップSP301においてCPU10は、現時点処理対象フレーム画像内で指示器具30の青色発光部32及び赤色発光部33が発光した際の青色光及び赤色光を探索してステップSP302に移る。
【0150】
ステップSP302においてCPU10は、現時点処理対象フレーム画像内における探索の結果、青色光及び赤色光を両方とも検出したか否かを判断する。
【0151】
このステップSP302において肯定結果が得られると、このことはこの時点で指示器具30の青色発光部32及び赤色発光部33の両方が発光してユーザにより剣状画像46の付加が指示されていることによりこれに応じて現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出したことを表しており、このときCPU10はステップSP303に移る。
【0152】
ステップSP303においてCPU10は、現時点処理対象フレーム画像内で検出した青色光の現時点青色光位置と、赤色光の位置(この位置は現時点処理対象フレーム画像内の座標値で表すものであり、以下この位置を現時点赤色光位置と呼ぶ)とをRAM11に記録して続くステップSP304に移る。
【0153】
ステップSP304においてCPU10は、順次1フレーム分のフレーム画像データD1Aに対して剣状画像付加処理ルーチンSRT300を実行する毎に青色光及び赤色光を検出したフレーム画像の数を表す青色光及び赤色光検出フレーム数(実際には内部の図示しない青色光及び赤色光検出用のカウンタ)を1だけインクリメントする。
【0154】
ただし青色光及び赤色光検出フレーム数は、現時点処理対象フレーム画像に剣状画像46の付加を開始した際にその青色光及び赤色光検出フレーム数に比例させて剣状画像46の長さを順次伸ばすために利用されるものである。
【0155】
このためCPU10は、青色光及び赤色光検出フレーム数に予め上限値(例えばn)を設定し、当該青色光及び赤色光検出フレーム数をインクリメントして上限値に達すると、その後に再び青色光及び赤色光検出フレーム数をインクリメントする際には上限値を変化させないようにすることにより剣状画像46の長さが極端に伸びすぎることを防止している。
【0156】
このようにしてCPU10は、青色光及び赤色光検出フレーム数をインクリメントすると、続くステップSP305に移る。
【0157】
ステップSP305においてCPU10は、ハードディスクドライブ13のハードディスクからこれに予め記録している剣状画像46の長さの定数(以下、これを長さ定数と呼ぶ)及び当該剣状画像46の幅(以下、これを幅定数と呼ぶ)と、図13について上述した色パレット50とを読み出すと共に、RAM11から現時点処理対象フレーム画像内で検出した現時点青色光位置及び現時点赤色光位置を読み出す。
【0158】
CPU10は、図17に示すように、現時点青色光位置BP及び現時点赤色光位置RPに基づいて、現時点処理対象フレーム画像内で水平線Hに対するその現時点青色光位置BP及び現時点赤色光位置RP間を結ぶ仮想線KL1の傾き角度(以下、これを光点間傾き角度と呼ぶ)LA1を検出する。
【0159】
またCPU10は、現時点青色光位置BP及び現時点赤色光位置RP間の距離(以下、これを光点間距離と呼ぶ)LL1を算出した後、その光点間距離LL1とこの時点の青色光及び赤色光検出フレーム数と長さ定数とを乗算することにより剣状画像46を描画する際の青色光及び赤色光検出フレーム数に比例した実際の長さ(以下、これを剣状画像描画長さと呼ぶ)NLを算出すると共に、光点間距離LL1とこの時点の青色光及び赤色光検出フレーム数と幅定数とを乗算することにより剣状画像46を描画する際の青色光及び赤色光検出フレーム数に比例した実際の幅(以下、これを剣状画像描画幅と呼ぶ)NWを算出する。
【0160】
さらにCPU10は、光点間傾き角度LA1に従って現時点処理対象フレーム画像内で仮想線KL1を現時点青色光位置側に延長させ、当該仮想線KL1の延長線KLP上で現時点青色光位置BPから剣状画像描画長さNLの位置を剣状画像46の表す剣の先端となる剣状画像描画軸先端位置NPとする。
【0161】
そしてCPU10は、図18に示すように、現時点処理対象フレーム画像内で剣状画像描画幅NWの中心を延長線KLPとして現時点青色光位置BPから剣状画像描画軸先端位置NPまでの剣状画像描画幅NWで形成される四角形状の領域を剣状画像46の描画領域(以下、これを剣状画像描画領域と呼ぶ)NDAとする。
【0162】
この状態でCPU10は、図19に示すように、現時点処理対象フレーム画像内で剣状画像描画領域NDAを剣状画像描画長さNL方向及び剣状画像描画幅NW方向にそれぞれ色パレット50の有する色情報の数に応じて格子状に分割する。
【0163】
またCPU10は、剣状画像描画領域NDAを分割して得た各領域(以下、これを剣状画像描画用分割領域と呼ぶ)NDA0、……、NDAMのうち指示器具30における青色発光部32の端面中心部に位置する剣状画像描画用分割領域NDA0に色識別番号0(白色を表す)を割り当てると共に剣状画像描画幅NW方向の最も外側の剣状画像描画用分割領域NDAM11乃至NDAMに色識別番号M(透明色を表す)を割り当てるように、これら全ての剣状画像描画用分割領域NDA0、……、NDAMに対して青色発光部32の端面側(すなわち現時点青色光位置BP側)から剣状画像46の表す剣の先端側(すなわち剣状画像描画軸先端位置NP側)にかけて色識別番号0乃至Mを線形に割り当てると共に、剣状画像46の表す剣の中心軸(すなわち延長線KLP)から剣状画像描画幅NWの最も外側にかけて色識別番号0乃至Mを線形に割り当てる。
【0164】
そしてCPU10は、現時点処理対象フレーム画像において各剣状画像描画用分割領域NDA0、……、NDAM内のピクセルの本来の色(すなわち撮像時の色)をそれぞれ各剣状画像描画用分割領域NDA0、……、NDAMに割り当てた色識別番号0乃至Mに対応する色情報の色に変更する。
【0165】
これによりCPU10は、現時点処理対象フレーム画像内に青色発光部32の端面側から剣の先端側までと剣の中心軸から当該剣の幅の外側にかけて順次色を変化させて先端部分を細く絞った剣を表す剣状画像46を描画してステップSP306に移る。
【0166】
ステップSP306においてCPU10は、剣状画像46を描画した現時点処理対象フレーム画像でなる剣状画像付加フレーム画像に相当する剣状画像付加フレーム画像データD10AをエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP307に移る。
【0167】
ステップSP307においてCPU10は、この時点の青色光及び赤色光検出フレーム数が上限値であるか否かを判断する。
【0168】
このステップSP307において肯定結果が得られると、このことは剣状画像46の描画を開始してから剣状画像描画長さNLが青色光及び赤色光検出フレーム数に比例して順次長くなり当該青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さ(それまでで最も長い)に相当する描画が完了したことにより、あたかも指示器具30の青色発光部32側で剣状画像46が順次伸びながらその生成が完了したことを表しており、このときCPU10はステップSP308に移る。
【0169】
ここでCPU10は、剣状画像46の本来の長さに相当する描画が完了した際、当該描画の完了を表現する剣状画像用効果音としての剣生成音を再生するようになされている。
【0170】
そしてCPU10は、剣生成音の再生に剣完成フラグを利用しており、当該剣完成フラグの設定内容を確認した際にその剣完成フラグを0に設定していると、剣生成音を再生し得ると判断すると共に、当該剣完成フラグの設定内容を確認した際にその剣完成フラグを1に設定していると、剣生成音を再生しないと判断し、剣状画像46の描画を一旦終了してから当該剣状画像46の描画を再び開始してその生成が完了するまでの間は剣完成フラグを0に設定している。
【0171】
従ってステップSP308においてCPU10は、この時点の剣完成フラグの設定内容を確認し、当該剣完成フラグの設定が0であるか否かを判断する。
【0172】
このステップSP308おいて肯定結果が得られると、このことはこの時点で剣状画像46の描画が完了することを待ち受ける状態として剣完成フラグが0に設定されていることを表しており、このときCPU10は剣生成音を再生し得ると判断してステップSP309に移る。
【0173】
ステップSP309においてCPU10は、剣完成フラグの設定を0から1に変更してステップSP310に移る。
【0174】
そしてステップSP310においてCPU10は、ハードディスクドライブ13のハードディスクから剣状画像用効果音データD11として剣生成音に相当する剣生成音データを読み出し、当該読み出した剣生成音データをエンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、その剣生成音データをバス21及びスピーカインターフェース14を順次介してスピーカ27に送出してステップSP6に移る。
【0175】
ところで上述したステップSP308において否定結果が得られると、すでに剣状画像46の生成の完了に応じて剣生成音を再生したことにより剣完成フラグを1に設定していることを表しており、このときCPU10はステップSP311に移る。
【0176】
ステップSP311においてCPU10は、現時点処理対象フレーム画像及び現時点よりも時間的に過去の当該現時点処理対象フレーム画像と連続する所定フレーム分(例えば3フレーム)のフレーム画像内でそれぞれ検出した現時点青色光位置BPをRAM11から読み出し、当該読み出した現時点青色光位置BPと、これら現時点青色光位置BPの検出に用いた複数のフレーム画像の数(例えば4枚)と、動画像を構成するフレーム画像のフレーム周期とに基づいて当該複数のフレーム画像における青色光の移動速度を検出する。
【0177】
そしてCPU10は、その複数のフレーム画像における青色光の移動速度のうち何れか一つがこれを除く他の移動速度よりも速く、かつ全ての移動速度が予め設定された所定の一定速度以上であるか否かを判断する。
【0178】
このステップSP311において肯定結果が得られると、このことは剣状画像46を描画した複数のフレーム画像において青色光が急激に移動したことにより撮像中のユーザによりあたかも剣を何かに切りつけたように指示器具30が急激に動かされた(すなわち振りまわされた)ことを表しており、このときCPU10はステップSP312に移る。
【0179】
ステップSP312においてCPU10は、ハードディスクドライブ13のハードディスクから剣状画像用効果音データD11として剣状画像46(すなわち剣)が振りまわされた状態を表現する剣振り効果音に相当する剣振り効果音データを読み出し、当該読み出した剣振り効果音データをエンコードフィルタP4に従いバス21を介してオーディオエンコーダ20に送出すると共に、その剣振り効果音データをバス21及びスピーカインターフェース14を順次介してスピーカ27に送出してステップSP6に移る。
【0180】
また上述したステップSP307おいて否定結果が得られると、このことは剣状画像46の描画を開始してから未だ青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さに相当する描画が完了していないことにより、あたかも指示器具30の青色発光部32側で剣状画像46が生成されている途中であることを表しており、このときCPU10はステップSP6に移る。
【0181】
さらに上述したステップSP311において否定結果が得られると、このことは剣状画像46を描画した複数のフレーム画像において青色光が比較的ゆっくりと移動したことにより撮像中のユーザにより剣を何かに切りつけるような動きとは異なり指示器具30も比較的ゆっくりと動かされたことを表しており、このときCPU10はステップSP6に移る。
【0182】
これに加えて上述したステップSP302において否定結果が得られると、このことはこの時点でユーザにより剣状画像46の付加が指示されず又はその指示が途中で中止されたことにより指示器具30の青色発光部32のみが発光し、又は青色発光部32及び赤色発光部33の両方が消灯しているために現時点処理対象フレーム画像内で青色光のみを検出し、又は青色光及び赤色光の両方を検出することができなかったことを表しており、このときCPU10はステップSP313に移る。
【0183】
ステップSP313においてCPU10は、現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出することができなかったことにより青色光及び赤色光検出フレーム数(実際には内部の青色光及び赤色光検出用のカウンタ)を1だけデクリメントしてステップSP314に移る。
【0184】
ここでCPU10は、上述したように青色光及び赤色光検出フレーム数を剣状画像46の描画の際に長さの決定や剣生成音の生成に用いるものの、現時点処理対象フレーム画像内で青色光及び赤色光の両方を検出することができなかったときには当該青色光及び赤色光検出フレーム数を1だけデクリメントしている。
【0185】
このためCPU10は、例えば撮像中のユーザの動作により指示器具30の青色発光部32及び又は赤色発光部33が一時的に体の陰になって青色光及び又は赤色光を検出することができない場合でも、再び青色光及び赤色光を検出した際に青色光及び赤色光検出フレーム数に従って、検出が途切れる前よりもわずかに短い剣状画像46を描画することができ、当該検出が途切れた前後で剣状画像46の長さが大幅に異なり違和感が生じることを防止している。
【0186】
ステップSP314においてCPU10は、青色光及び赤色光検出フレーム数が0であるか否かを判断する。
【0187】
このステップSP314において肯定結果が得られると、このことは現時点処理対象フレーム画像内で青色光及び赤色光を検出することができなかった状態が所定フレーム数分連続したことにより青色光及び赤色光検出フレーム数が0となり、ユーザにより剣状画像46の付加が指示されていないことを表しており、このときCPU10はステップSP315に移る。
【0188】
ステップSP315においてCPU10は、剣完成フラグの設定が1であるか否かを判断する。
【0189】
このステップSP315において肯定結果が得られると、このことはすでに青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さに相当する描画が完了し、剣生成音も再生し終えたことにより、剣完成フラグの設定が1であることを表しており、このときCPU10はステップSP316に移る。
【0190】
ステップSP316においてCPU10は、剣完成フラグの設定内容を1から0に変更することにより再び剣状画像46の描画が完了することを待ち受ける状態としてステップSP317に移る。
【0191】
ステップSP317においてCPU10は、このときデジタルビデオカメラ17から取り込んでいる1フレーム分のフレーム画像データD1AをそのままエンコードフィルタP4に従いバス21を介してMPEG2コーデック19に送出すると共に、表示フィルタP5に従いバス21及び表示用インターフェース16を順次介して表示部25に送出してステップSP6に移る。
【0192】
ところで上述したステップSP314において否定結果が得られると、このことは現時点処理対象フレーム画像内で青色光及び赤色光を検出することができなかったものの、未だ青色光及び赤色光検出フレーム数が0には到達していないことにより、撮像中のユーザによる剣状画像46の付加の指示が終了した又は撮像中のユーザの動作により指示器具30が一時的にユーザの体の陰になって青色光及び赤色光を検出することができなかったことを表しており、このときCPU10はステップSP317に移る。
【0193】
また上述したステップSP315において否定結果が得られると、このことは剣状画像46の描画を開始してから青色光及び赤色光検出フレーム数の上限値に応じた剣状画像46の本来の長さに相当する描画が完了する前に(すなわち剣生成音を再生する前に)撮像中のユーザによる剣状画像46の付加の指示が終了した又は撮像中のユーザの動作により指示器具30が一時的にユーザの体の陰になって青色光及び赤色光を検出することができなかったことにより青色光及び赤色光検出フレーム数が0に到達したことを表しており、このときCPU10はステップSP317に移る。
【0194】
以上の構成において、このパーソナルコンピュータ1は、青色発光部32を有する指示器具30を手に持ったユーザをデジタルビデオカメラ17によって撮像し、この結果得られる動画像データD1に基づく動画像内でその青色発光部32が発光して得られる青色光の移動の有無及び移動方向とを検出する。
【0195】
そしてパーソナルコンピュータ1は、撮像中のユーザによりフレーム画像に対して球状画像40の付加を指示するために行われた特定動作に応じた青色光の特定の軌跡の移動及び移動方向を検出すると、当該動画像データD1に基づく動画像内の青色光の移動方向側に球状画像40を付加するようにした。
【0196】
従ってこのパーソナルコンピュータ1は、ユーザの特定動作に応じて青色光が移動した任意のタイミングで動画像内の当該特定動作に応じた青色光の移動方向側の任意の領域に画像特殊効果として球状画像40を付加することができる。
【0197】
またパーソナルコンピュータ1は、動画像内に画像特殊効果として付加した球状画像40をユーザの特定動作に応じた青色光の移動速度とほぼ同じ移動速度で変位させるため、当該動画像内にユーザの特定動作に応じた青色光の任意の移動速度で変位させて球状画像40を付加することができる。
【0198】
さらにこのパーソナルコンピュータ1は、動画像内に画像特殊効果として球状画像40を付加する際、その球状画像40の状態(この場合は球状画像40の出現)を表現する音声特殊効果として球状画像用効果音も合わせて付加するようにした。
【0199】
このためパーソナルコンピュータ1は、動画像内の任意の領域に任意のタイミングで画像特殊効果としての球状画像40を付加すると共に、これに合わせて動画像に音声特殊効果としての球状画像用効果音も合わせて付加することで、臨場感あふれるエフェクト付加映像を容易に生成することができる。
【0200】
これに加えてこのパーソナルコンピュータ1は、動画像内に画像特殊効果を付加する際に、ユーザによる画像特殊効果の設定変更を指示する特定動作に応じた青色光の特定の軌跡の移動及び移動方向を検出すると、これに応じて動画像内に付加する画像特殊効果の種類を変更するようにした。
【0201】
従ってこのパーソナルコンピュータ1は、例えばたった一人でライブ配信を実行し、自分を撮像対象とするユーザに対しては、ライブ配信中に操作部26の操作のためにデジタルビデオカメラ17の前での演技を中断することや、その操作部26の操作(すなわち演技中の煩わしい操作)自体から開放し、デジタルビデオカメラ17の前での演技に集中させて続行させながら当該ユーザの特定動作で動画像内に付加する画像特殊効果の種類を容易に変更することができ、かくしてパーソナルコンピュータ1の操作性を向上させることができる。
【0202】
以上の構成によれば、青色発光部32を有する指示器具30を手に持ったユーザをデジタルビデオカメラ17によって撮像することにより得られる動画像内で当該ユーザの特定動作に応じた青色光の特定の軌跡の移動及び移動方向を検出すると、その動画像内の青色光の移動方向側に画像特殊効果としての球状画像40を付加するようにしたことにより、ユーザの特定動作に応じて青色光が移動した任意のタイミングで動画像内の当該特定動作に応じた青色光の移動方向側の任意の領域に画像特殊効果として球状画像40を付加することができ、かくして動画像に対して思い通りに画像特殊効果を付加し得るパーソナルコンピュータを実現することができる。
【0203】
なお上述の実施の形態においては、動画像内に球状画像40及び剣状画像46を別々に付加するようにした場合について述べたが、本発明はこれに限らず、動画像内に球状画像40及び剣状画像46を合わせて付加し、例えば剣状画像46を付加した状態で青色光の移動及び移動方向を検出したとき、あたかも剣状画像46から球状画像40が放出されるようにし、又はこのように剣状画像46から放射される球状画像40が動画像内で所定の撮像対象に当たったときにその撮像対象が例えば火で燃えるような画像特殊効果を付加するようにしても良い。因みに球状画像40が動画像内で所定の撮像対象に当たったか否かを検出するには、例えば事前に撮像対象の背景のみを撮像しておき、その撮像結果に撮像対象を撮像して得られた動画像を重ねて新たな動画像を生成することにより当該新たな撮像画像内で撮像対象を容易に識別するようにすれば良い。
【0204】
また上述の実施の形態においては、フレーム画像内に球状画像40及び剣状画像46を描画する際、各球状画像描画用分割領域SDA0、……、SDAM及び剣状画像描画用分割領域NDA0、……、NDAMにそれぞれ任意の法則で色識別番号0乃至Mを線形に割り当てるようにした場合について述べたが、本発明はこれに限らず、フレーム画像内に球状画像40及び剣状画像46を描画する際、各球状画像描画用分割領域SDA0、……、SDAM及び剣状画像描画用分割領域NDA0、……、NDAMにそれぞれ色識別番号0乃至Mを基本的には線形でわずかに無作為に攪拌して割り当てるようにしても良く、このようにすれば動画像内に色合いが揺らいだ感じの球状画像及び剣状画像を付加することができ、当該球状画像の表すエネルギー体及び剣状画像の表す光の剣をよりリアルなものにすることができる。
【0205】
さらに上述の実施の形態においては、動画像内に球状画像40を大きさを特には変えずに付加するようにした場合について述べたが、本発明はこれに限らず、撮像対象となるユーザとデジタルビデオカメラ17との距離等に応じて青色光の大きさが変化することを利用して当該青色光の大きさに合わせて球状画像の大きさも変化させて動画像内に付加するようにしても良く、このようにすれば球状画像40をユーザの立ち位置や動作に応じてよりリアルに描くことができる。
【0206】
さらに上述の実施の形態においては、1台のデジタルビデオカメラ17によってユーザを撮像することにより得られた2次元動画像に画像特殊効果として球状画像40を付加するようにした場合について述べたが、本発明はこれに限らず、撮像対象となるユーザを例えば2台のデジタルビデオカメラで撮像して生成された3次元動画像を画像特殊効果としての球状画像40を付加するために利用し、3次元測定器により3次元動画像から検出した青色光に対する奥行きの情報を用いて当該3次元動画像に画像特殊効果として球状画像を付加するようにしても良い。このようにすれば2次元動画像に球状画像を2次元平面上で変位させて付加するだけでなく、3次元動画像に球状画像を3次元的に変位させて付加することができ、かくしてより臨場感あふれるエフェクト付加映像を容易に生成することができる。
【0207】
さらに上述の実施の形態においては、動画像に球状画像40及び剣状画像46の状態に合わせて球状画像用効果音及び剣状画像用効果音を付加するようにした場合について述べたが、本発明はこれに限らず、動画像に青色光の大きさや移動速度等に応じて音量を変化させた球状画像用効果音及び剣状画像効果音を付加するようにしても良い。
【0208】
さらに上述の実施の形態においては、動画像内で青色光の一旦は上方向に移動した後、引き続き下方向に移動する連続した移動を検出すると、画像特殊効果の設定内容を変更するようにした場合について述べたが、本発明はこれに限らず、動画像内で青色光の横方向への移動、斜め方向への移動、円や四角等の所定の形状を描くような移動等のように、この他種々の移動を検出すると、画像特殊効果の設定内容を変更するようにしても良い。因みに、このような青色光の各種移動は球状画像のような種々の画像特殊効果の付加にも利用することができる。
【0209】
さらに上述の実施の形態においては、動画像内でユーザの特定動作に応じた青色光の移動の有無及び移動方向を検出した際に当該動画像内の青色光の移動方向側に画像特殊効果を付加するようにした場合について述べたが、本発明はこれに限らず、特定動作に応じた移動とは関係せずに所定フレーム数分のフレーム画像内で青色光の移動の有無及び移動方向を検出した際に動画像内の青色光の移動方向側に画像特殊効果を付加するようにしても良い。このようにすれば特定動作にとらわれることなく、任意のタイミングで動画像内の任意の領域に画像特殊効果を付加することができ、動画像に対してさらに思い通りに画像特殊効果を付加することができる。
【0210】
さらに上述の実施の形態においては、ライブ配信用の動画像に画像特殊効果を付加するようにした場合について述べたが、本発明はこれに限らず、動画像をフレーム画像単位で順次処理してリアルタイム性を損なわずに画像特殊効果を付加し得ることにより、テレビジョン電話、テレビジョン会議システム及びビデオチャット等のビジュアルコミュニケーション用の動画像や、ライブハウス、コンサート会場等で利用されるビジュアルジョッキー用の動画像に画像特殊効果を付加するようにしても良い。
【0211】
さらに上述の実施の形態においては、画像特殊効果設定変更検出処理ルーチンSRT100及び球状画像付加処理ルーチンSRT200においてそれぞれ同一の現時点処理対象フレーム画像内で青色光及びその位置を検出すると共に、当該青色光の移動量を検出する等のように重複した処理を実行するようにした場合について述べたが、本発明はこれに限らず、画像特殊効果設定変更検出処理ルーチンSRT100及び球状画像付加処理ルーチンSRT200において重複する処理については例えば画像特殊効果設定変更検出処理ルーチンSRT100においてのみ実効し、球状画像付加処理ルーチンSRT200においてはその重複する処理の結果を共有して利用するようにしても良く、このようにすればCPU10の処理負荷を大幅に低減させることができる。
【0212】
さらに上述の実施の形態においては、本発明による情報処理装置を図1乃至図19について上述したパーソナルコンピュータ1に適用するようにした場合について述べたが、本発明はこれに限らず、画像処理装置や携帯電話機、PDA(Personal Digital Assistance )等のように、この他種々の情報処理装置に広く適用することができる。
【0213】
さらに上述の実施の形態においては、本発明による情報処理プログラムを図1乃至図19について上述したライブ配信処理プログラムに適用するようにした場合について述べたが、本発明はこれに限らず、ライブ配信処理手順RT1内の少なくとも球状画像付加処理ルーチンSRT200を実行する特殊効果付加処理プログラムP2や、当該特殊効果付加処理プログラムP2及びダイアログアプリケーションプログラムP1を適用するようにしても良い。
【0214】
さらに上述の実施の形態においては、ハードディスクドライブ13のハードディスクに予め記録されたライブ配信処理プログラムに従って図2、図7及び図8、図10及び図11、図15及び図16について上述したライブ配信処理手順RT1を実行するようにした場合について述べたが、本発明はこれに限らず、ライブ配信処理プログラムをローカルエリアネットワークやインターネット、ディジタル衛星放送等の有線及び無線通信媒体を利用してパーソナルコンピュータ1にインストールすることによりライブ配信処理手順RT1を実行するようにしても良いし、当該ライブ配信処理プログラムが格納されたプログラム格納媒体をパーソナルコンピュータ1にインストールすることによりライブ配信処理手順RT1を実行するようにしても良い。
【0215】
因みに上述したライブ配信処理手順RT1を実行するためのライブ配信処理プログラムをパーソナルコンピュータ1にインストールして実行可能な状態にするためのプログラム格納媒体としては、例えばフレキシブルディスク、CD−ROM(Compact Disc−Read Only Memory )、DVD(Digital Versatile Disc)等のパッケージメディアのみならず、ライブ配信処理プログラムが一時的もしくは永続的に格納される半導体メモリや磁気ディスク等で実現しても良い。またこれらプログラム格納媒体にライブ配信処理プログラムを格納する手段としては、ローカルエリアネットワークやインターネット、ディジタル衛星放送等の有線及び無線通信媒体を利用しても良く、ルータやモデム等の各種通信インターフェースを介して格納するようにしても良い。
【0216】
さらに上述の実施の形態においては、動画像データを取り込む動画像取込手段として、図1乃至図19について上述したデジタルビデオカメラ17を適用するようにした場合について述べたが、本発明はこれに限らず、外部のデジタルビデオカメラで特定物が撮像されることにより得られた動画像データを取り込むインターフェース回路等のように、この他種々の動画像取込手段を広く適用することができる。
【0217】
さらに上述の実施の形態においては、動画像データに基づく動画像内の特定物として、図1乃至図19について上述した指示器具30の青色発光部32の発光によって得られる青色光を適用するようにした場合について述べたが、本発明はこれに限らず、動画像内で背景や他の撮像対象とは区別して移動の有無及び移動方向を検出することができれば、他の特定色の光や、特定輝度の光、また人体の手、頭、足、目、口等の特定部分、指示器具30自体や、他の物理的な部材等のように、この他種々の特定物を広く適用することができる。
【0218】
さらに上述の実施の形態においては、動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出する検出手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、動画像に対して画像処理を施して特定物の移動の有無及び移動方向を検出する画像処理回路や、マイクロプロセッサ等のように、この他種々の検出手段を広く適用することができる。
【0219】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が移動した際に動画像内の特定物の移動方向側に所定の画像特殊効果を付加する画像特殊効果付加手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、動画像内に所定の画像特殊効果を描画して付加する画像処理回路や、動画像内に所定の画像特殊効果を重畳又は演算処理によって付加する画像処理回路等のように、この他種々の画像特殊効果付加手段を広く適用することができる。
【0220】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が移動した際に動画像内の特定物の移動方向側に付加する所定の画像特殊効果として、図1乃至図19について上述したエネルギー体を想起させるように球状画像40を適用するようにした場合について述べたが、本発明はこれに限らず、種々の色で描画された剣状画像や、動画像内の特定物の移動方向側に変位させて付加する所定形状の火の玉、スパーク体、モザイク体、ハート及び動物やこれらの分身、動画像内の特定部分の移動方向側を適宜固定領域として付加する火炎、ノイズ、反転、白黒、モザイク及びスパーク、またこれらの複合体等のように、この他種々の画像特殊効果を広く適用することができる。
【0221】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が特定の軌跡で移動したか否かを判断する判断手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、画像処理回路やマイクロプロセッサ等のように、この他種々の判断手段を広く適用することができる。
【0222】
さらに上述の実施の形態においては、動画像データに基づく動画像内の特定物の移動速度を検出する移動速度検出手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、特定物の移動速度を検出するマイクロプロセッサ等のように、この他種々の移動速度検出手段を広く適用することができる。
【0223】
さらに上述の実施の形態においては、検出手段によって得られた検出結果に基づいて、特定物が移動した際に、動画像内に付加される画像特殊効果の状態を表現する所定の音声特殊効果を当該動画像に付加する音声特殊効果付加手段として、図1乃至図19について上述したCPU10を適用するようにした場合について述べたが、本発明はこれに限らず、マイクロプロセッサ等のように、この他種々の音声特殊効果付加手段を広く適用することができる。
【0224】
【発明の効果】
上述のように本発明によれば、動画像取込手段によって動画像データを取り込みながら検出手段により当該動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出し、その検出結果に基づいて、画像特殊効果付加手段により動画像内の特定物が移動した際に当該動画像内の特定物の移動方向側に所定の画像特殊効果を付加するようにしたことにより、動画像内で特定物の移動した任意のタイミングで当該特定物の移動方向側の任意の領域に画像特殊効果を容易に付加することができ、かくして動画像に対して思い通りに画像特殊効果を付加し得る情報処理装置を実現することができる。
【図面の簡単な説明】
【図1】本発明によるパーソナルコンピュータの回路構成の一実施の形態を示すブロック図である。
【図2】ライブ配信処理手順を示すフローチャートである。
【図3】ライブ配信処理プログラムを構成する個々のプログラムに従った処理の説明に供する略線図である。
【図4】指示器具の構成を示す略線的斜視図である。
【図5】画像特殊効果として球状画像を付加した動画像の説明に供する略線図である。
【図6】画像特殊効果として剣状画像を付加した動画像の説明に供する略線図である。
【図7】画像特殊効果設定変更検出処理ルーチン(1)を示すフローチャートである。
【図8】画像特殊効果設定変更検出処理ルーチン(2)を示すフローチャートである。
【図9】現時点移動方向の判断の説明に供する略線図である。
【図10】球状画像付加処理ルーチン(1)を示すフローチャートである。
【図11】球状画像付加処理ルーチン(2)を示すフローチャートである。
【図12】現時点移動方向の変化の検出の説明に供する略線図である。
【図13】色パレットの構成を示す略線図である。
【図14】球状画像の描画の説明に供する略線図である。
【図15】剣状画像付加処理ルーチン(1)を示すフローチャートである。
【図16】剣状画像付加処理ルーチン(2)を示すフローチャートである。
【図17】剣状画像の長さの決定の説明に供する略線図である。
【図18】剣状画像描画領域の決定の説明に供する略線図である。
【図19】剣状画像の描画の説明に供する略線図である。
【符号の説明】
1……パーソナルコンピュータ、10……CPU、13……ハードディスクドライブ、17……デジタルビデオカメラ、30……指示器具、32……青色発光部、33……赤色発光部、40……球状画像、46……剣状画像、D1……動画像データ、D1A……フレーム画像データ、D7A……球状画像付加フレーム画像データ、D6……球状画像用効果音データ、D10A……剣状画像付加フレーム画像データ、D11……剣状画像用効果音データ、RT1……特殊効果付加処理プログラム、RT1……ライブ配信処理手順、SRT100……画像特殊効果設定変更検出処理ルーチン、SRT200……球状画像付加処理ルーチン、SRT300……剣状画像付加処理ルーチン。
Claims (10)
- 動画像データを取り込む動画像取込手段と、
上記動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出する検出手段と、
上記検出手段によって得られた検出結果に基づいて、上記特定物が移動した際に上記動画像内の上記特定物の上記移動方向側に所定の画像特殊効果を付加する画像特殊効果付加手段と
を具えることを特徴とする情報処理装置。 - 上記検出手段によって得られた上記検出結果に基づいて、上記特定物が特定の軌跡で移動したか否かを判断する判断手段
を具え、
上記画像特殊効果付加手段は、
上記判断手段によって上記特定物が上記特定の軌跡で移動したと判断された際に上記動画像内の上記特定物の上記特定の軌跡の上記移動方向側に上記画像特殊効果を付加する
ことを特徴とする請求項1に記載の情報処理装置。 - 上記動画像データに基づく上記動画像内の上記特定物の移動速度を検出する移動速度検出手段
を具え、
上記画像特殊効果付加手段は、
上記検出手段によって得られた上記検出結果に基づいて、上記特定物が移動した際に上記動画像内の上記特定物の上記移動方向側に上記画像特殊効果を、上記移動速度検出手段によって検出された上記移動速度で変位させて付加する
ことを特徴とする請求項1に記載の情報処理装置。 - 上記検出手段によって得られた検出結果に基づいて、上記特定物が移動した際に、上記動画像内に付加される上記画像特殊効果の状態を表現する所定の音声特殊効果を上記動画像に付加する音声特殊効果付加手段
を具えることを特徴とする請求項1に記載の情報処理装置。 - 上記検出手段は、
上記動画像データに基づく上記動画像内の上記特定物として特定色の光の移動の有無及び上記移動方向を検出する
ことを特徴とする請求項1に記載の情報処理装置。 - 上記検出手段は、
上記動画像データに基づく上記動画像内の上記特定物として特定輝度の光の移動の有無及び上記移動方向を検出する
ことを特徴とする請求項1に記載の情報処理装置。 - 上記検出手段は、
上記動画像データに基づく上記動画像内の上記特定物として人体の特定部分の移動の有無及び上記移動方向を検出する
ことを特徴とする請求項1に記載の情報処理装置。 - 動画像データを取り込む動画像取込ステップと、
上記動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出する検出ステップと、
上記検出ステップによって得られた検出結果に基づいて、上記特定物が移動した際に上記動画像内の上記特定物の上記移動方向側に所定の画像特殊効果を付加する画像特殊効果付加ステップと
を具えることを特徴とする情報処理方法。 - コンピュータに、
動画像データを取り込む動画像取込ステップと、
上記動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出する検出ステップと、
上記検出ステップによって得られた検出結果に基づいて、上記特定物が移動した際に上記動画像内の上記特定物の上記移動方向側に所定の画像特殊効果を付加する画像特殊効果付加ステップと
を実行させるための情報処理プログラム。 - 動画像データを取り込む動画像取込ステップと、
上記動画像データに基づく動画像内の特定物の移動の有無及び移動方向を検出する検出ステップと、
上記検出ステップによって得られた検出結果に基づいて、上記特定物が移動した際に上記動画像内の上記特定物の上記移動方向側に所定の画像特殊効果を付加する画像特殊効果付加ステップと
を具えることを特徴とする情報処理プログラムを情報処理装置に実行させる情報処理プログラム格納媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002269196A JP2004112112A (ja) | 2002-09-13 | 2002-09-13 | 情報処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002269196A JP2004112112A (ja) | 2002-09-13 | 2002-09-13 | 情報処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004112112A true JP2004112112A (ja) | 2004-04-08 |
Family
ID=32267212
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002269196A Pending JP2004112112A (ja) | 2002-09-13 | 2002-09-13 | 情報処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004112112A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005333309A (ja) * | 2004-05-19 | 2005-12-02 | Satoru Tokuhisa | 情報処理装置および情報処理方法、情報処理システム、並びに、プログラム |
CN104270673A (zh) * | 2014-09-15 | 2015-01-07 | 深圳市兆通影视科技有限公司 | 文艺节目虚拟图文实时处理方法及系统 |
JP2019009754A (ja) * | 2017-06-21 | 2019-01-17 | メディアフロント カンパニー リミテッド | リアルタイム増強合成技術を用いた映像生成サーバ、映像生成システム及び方法 |
WO2020211422A1 (zh) * | 2019-04-16 | 2020-10-22 | 北京字节跳动网络技术有限公司 | 视频处理方法、装置及设备 |
CN112154658A (zh) * | 2018-05-29 | 2020-12-29 | 索尼公司 | 图像处理装置、图像处理方法和程序 |
CN112419899A (zh) * | 2020-11-26 | 2021-02-26 | 北京三月雨文化传播有限责任公司 | 一种基于飞行时间技术的展厅交互方法和装置 |
CN112530329A (zh) * | 2020-11-26 | 2021-03-19 | 北京三月雨文化传播有限责任公司 | 一种基于压力传感的展示互动方法和系统 |
WO2021129385A1 (zh) * | 2019-12-26 | 2021-07-01 | 北京字节跳动网络技术有限公司 | 图像处理方法及装置 |
-
2002
- 2002-09-13 JP JP2002269196A patent/JP2004112112A/ja active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005333309A (ja) * | 2004-05-19 | 2005-12-02 | Satoru Tokuhisa | 情報処理装置および情報処理方法、情報処理システム、並びに、プログラム |
CN104270673A (zh) * | 2014-09-15 | 2015-01-07 | 深圳市兆通影视科技有限公司 | 文艺节目虚拟图文实时处理方法及系统 |
JP2019009754A (ja) * | 2017-06-21 | 2019-01-17 | メディアフロント カンパニー リミテッド | リアルタイム増強合成技術を用いた映像生成サーバ、映像生成システム及び方法 |
CN112154658A (zh) * | 2018-05-29 | 2020-12-29 | 索尼公司 | 图像处理装置、图像处理方法和程序 |
WO2020211422A1 (zh) * | 2019-04-16 | 2020-10-22 | 北京字节跳动网络技术有限公司 | 视频处理方法、装置及设备 |
WO2021129385A1 (zh) * | 2019-12-26 | 2021-07-01 | 北京字节跳动网络技术有限公司 | 图像处理方法及装置 |
GB2606904A (en) * | 2019-12-26 | 2022-11-23 | Beijing Bytedance Network Tech Co Ltd | Image processing method and apparatus |
US11812180B2 (en) | 2019-12-26 | 2023-11-07 | Beijing Bytedance Network Technology Co., Ltd. | Image processing method and apparatus |
GB2606904B (en) * | 2019-12-26 | 2024-03-13 | Beijing Bytedance Network Tech Co Ltd | Image processing method and apparatus |
CN112419899A (zh) * | 2020-11-26 | 2021-02-26 | 北京三月雨文化传播有限责任公司 | 一种基于飞行时间技术的展厅交互方法和装置 |
CN112530329A (zh) * | 2020-11-26 | 2021-03-19 | 北京三月雨文化传播有限责任公司 | 一种基于压力传感的展示互动方法和系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10440407B2 (en) | Adaptive control for immersive experience delivery | |
EP3151548B1 (en) | Video recording method and device | |
CN106792246B (zh) | 一种融合式虚拟场景互动的方法及系统 | |
JP7407929B2 (ja) | 情報再生方法、装置、コンピュータ読み取り可能な記憶媒体及び電子機器 | |
JP4719641B2 (ja) | 動画像データ提供方法、動画像データ提供方法のプログラム、動画像データ提供方法のプログラムを記録した記録媒体、動画像データ提供装置及び動画像データ提供システム。 | |
TWI530157B (zh) | 多視角影像之顯示系統、方法及其非揮發性電腦可讀取紀錄媒體 | |
CN112235585B (zh) | 一种虚拟场景的直播方法、装置及系统 | |
US10965783B2 (en) | Multimedia information sharing method, related apparatus, and system | |
CN106303555A (zh) | 一种基于混合现实的直播方法、装置和系统 | |
JP6499324B2 (ja) | ビデオを再生するための方法、クライアント及びコンピュータ記憶媒体 | |
TW202007142A (zh) | 視頻檔案的生成方法、裝置及儲存媒體 | |
JP2014183379A (ja) | 情報処理装置、動画データのデータ構造、情報処理システム、動画再生プログラム、および、動画の再生方法。 | |
JPWO2017169369A1 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP6628343B2 (ja) | 装置および関連する方法 | |
WO2015151766A1 (ja) | 投影撮影システム、カラオケ装置及びシミュレーション装置 | |
JP2004112112A (ja) | 情報処理装置 | |
CN108418832A (zh) | 一种虚拟现实导购方法、系统及存储介质 | |
CN108307197A (zh) | 虚拟现实视频数据的传输方法、播放方法及装置和系统 | |
CN110730340B (zh) | 基于镜头变换的虚拟观众席展示方法、系统及存储介质 | |
JP6220449B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN109741464B (zh) | 用于显示实景的方法和装置 | |
CN116761009A (zh) | 元宇宙全景直播场景下的视频播放方法、装置及直播系统 | |
CN112166599A (zh) | 视频剪辑方法及终端设备 | |
CN116962745A (zh) | 视频图像的混画方法、装置及直播系统 | |
CN113194326A (zh) | 全景直播方法、装置、计算机设备及计算机可读存储介质 |