以下、ダイジェスト映像取得装置、映像処理装置等の実施形態について図面を参照して説明する。なお、実施の形態において同じ符号を付した構成要素は同様の動作を行うので、再度の説明を省略する場合がある。
(実施の形態1)
本実施の形態において、映像のフレーム間の変化情報であるフレーム間変化情報を取得し、当該フレーム間変化情報を用いて、映像の一部からなるダイジェスト映像を取得するダイジェスト映像取得装置について説明する。
また、本実施の形態において、フレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報に対応するフレームをシーンの開始フレームとして、映像の一部を取得し、当該映像の一部を含むダイジェスト映像を取得するダイジェスト映像取得装置について説明する。
また、本実施の形態において、フレーム間の変化に関する2以上の特徴量から、フレーム間ごとに一のフレーム間変化情報を取得し、当該フレーム間変化情報を用いて、映像の一部からなるダイジェスト映像を取得するダイジェスト映像取得装置について説明する。
また、本実施の形態において、映像の分割数N(Nは2以上の自然数)を受け付け、当該分割数Nの数のシーンを検出し、2以上のシーンごとに部分映像を取得し、当該2以上の部分映像を連結したダイジェスト映像を取得するダイジェスト映像取得装置について説明する。
また、本実施の形態において、予め決められた条件に合致するフレームをシーンの開始フレームとして、映像の一部を取得し、当該映像の一部を含むダイジェスト映像を取得するダイジェスト映像取得装置について説明する。
また、本実施の形態において、シーンの長さに応じた長さの部分映像を各シーンから取得し、ダイジェスト映像を構成するダイジェスト映像取得装置について説明する。
また、本実施の形態において、シーンの長さとは無関係に、一定長の部分映像を各シーンから取得し、ダイジェスト映像を構成するダイジェスト映像取得装置について説明する。
さらに、本実施の形態において、予め決められた条件を満たす終了フレームを決定し、開始フレームからかかる終了フレームまでの部分映像を取得し、ダイジェスト映像を構成するダイジェスト映像取得装置について説明する。
図1は、本実施の形態におけるダイジェスト映像取得装置1のブロック図である。
ダイジェスト映像取得装置1は、格納部11、受付部12、処理部13、および送信部14を備える。格納部11は、映像格納部111、選択条件格納部112、およびダイジェスト映像格納部113を備える。
処理部13は、変化情報取得部131、部分映像取得部132、および蓄積部133を備える。
部分映像取得部132は、フレーム選択手段1321、および部分映像取得手段1322を備える。
格納部11は、各種の情報が格納される。各種の情報とは、例えば、ダイジェスト映像が作成される元になる映像、後述する選択条件、ダイジェスト映像等である。
映像格納部111は、2以上のフレームを有する映像が格納される。この映像は、ダイジェスト映像が作成される元になる映像である。この映像に、音声が対応付いて含まれていても良いことは言うまでもない。
選択条件格納部112は、部分映像の開始フレームを選択するための第一選択条件が格納される。第一選択条件は、後述するフレーム間変化情報をパラメータとする条件である。第一選択条件は、例えば、フレーム間変化情報が閾値以上であるフレーム間の変化後のフレームを開始フレームとして選択すること、フレーム間変化情報の値が上位Nに対応するフレーム間の変化後のフレームを開始フレームとして選択すること、フレーム間変化情報が閾値以上であるフレーム間の変化後のフレームからX(Xは1以上の自然数)フレーム後のフレームを開始フレームとして選択すること、フレーム間変化情報の値が上位Nに対応するフレーム間の変化後のフレームからX(Xは1以上の自然数)フレーム後のフレームを開始フレームとして選択すること等である。
選択条件格納部112は、部分映像の終了フレームを選択するための第二選択条件をも格納していることは好適である。第二選択条件は、例えば、部分映像の時間に関する条件である。第二選択条件は、例えば、開始フレームから、シーンの長さをパラメータとする増加関数により算出される時間後、またはフシーンの長さをパラメータとする増加関数により算出されるフレーム数後のフレームを終了フレームとして選択することである。第二選択条件は、例えば、開始フレームから定数時間後のフレームを終了フレームとして選択すること、開始フレームから定数だけ後のフレームを終了フレームとして選択することである。
なお、第一選択条件、および第二選択条件の表現は問わない。第一選択条件、および第二選択条件は、例えば、論理式、プログラム等である。
ダイジェスト映像格納部113は、処理部13が取得したダイジェスト映像が格納される。
受付部12は、各種の指示や映像を受け付ける。各種の指示や映像とは、例えば、開始指示、部分映像数、ダイジェスト映像送信指示等である。開始指示とは、ダイジェスト映像の作成を開始する指示である。また、部分映像数とは、ダイジェスト映像を構成する部分映像の数である。ダイジェスト映像送信指示とは、ダイジェスト映像の送信の指示であり、映像またはダイジェスト映像を識別する映像識別子を有する。ダイジェスト映像送信指示は、通常、ユーザの端末装置(図示しない)から受信される。
ここで、受け付けとは、キーボードやマウス、タッチパネルなどの入力デバイスから入力された情報の受け付け、有線もしくは無線の通信回線を介して送信された情報の受信、光ディスクや磁気ディスク、半導体メモリなどの記録媒体から読み出された情報の受け付けなどを含む概念である。
各種の指示や映像の入力手段は、キーボードやマウスやメニュー画面によるもの等、何でも良い。受付部12は、キーボード等の入力手段のデバイスドライバーや、メニュー画面の制御ソフトウェア等で実現され得る。
処理部13は、各種の処理を行う。各種の処理とは、例えば、変化情報取得部131、部分映像取得部132、蓄積部133、フレーム選択手段1321、部分映像取得手段1322等が行う処理である。
変化情報取得部131は、映像格納部111の映像からフレーム間変化情報を取得する。フレーム間変化情報は、映像を構成する2以上のフレームのうちの2以上のフレーム間の変化を示す情報である。
変化情報取得部131は、例えば、2つのフレーム間の変化に関する1または2以上の特徴量を取得し、当該1または2以上の特徴量を用いて、フレーム間変化情報を取得しても良い。かかる場合、フレーム間変化情報は、例えば、0から9までの自然数で示される。なお、フレーム間変化情報は、ここでは、数値が大きくなるほど、変化が大きいことを示す。なお、1以上の特徴量は、例えば、DC成分、輝度、色値、色差ヒストグラム相関などである。
変化情報取得部131は、例えば、上述したフレーム間変化情報を取得する第一から第三の処理を行い、第一フレーム間変化情報、第二フレーム間変化情報、第三フレーム間変化情報を取得する。そして、変化情報取得部131は、第一フレーム間変化情報、第二フレーム間変化情報、第三フレーム間変化情報を用いてフレーム間変化情報を取得する。なお、第一フレーム間変化情報、第二フレーム間変化情報、第三フレーム間変化情報は、それぞれが大きい値である(変化が大きい)ほど、フレーム間変化情報が大きい値(例えば、9に近づく)を採る。なお、2つのフレーム間からフレーム間変化情報を取得する場合、フレーム微分値をフレーム間変化情報として取得する、と言える。
変化情報取得部131は、3以上のフレームの組を取得し、3以上のフレームの組からフレーム間変化情報を取得しても良い。変化情報取得部131は、例えば、3つのフレームの組の中の前2つのフレーム間のフレーム微分値と、後2つのフレーム間のフレーム微分値とを取得し、2つのフレーム微分値の差異からフレーム間変化情報を取得しても良い。なお、変化情報取得部131は、通常、2つのフレーム微分値の差異をパラメータとする増加関数により、フレーム間変化情報を取得する。
フレーム間変化情報は、2以上のフレーム間の変化を示す情報の微分値(変化の度合い、変化の傾きと言っても良い)でも良い。つまり、変化情報取得部131は、例えば、上記の第一フレーム間変化情報、第二フレーム間変化情報、第三フレーム間変化情報のうちの1以上の情報から取得される2以上の変化に関する情報の微分値であっても良い。
フレーム間変化情報は、異なる2以上のフレーム間の変化に関する情報であれば良い。フレーム間変化情報は、好ましくは、隣接するフレームを含む、異なる2以上のフレーム間の変化に関する情報であれば良い。
さらに具体的には、変化情報取得部131は、例えば、以下のように動作する。まず、変化情報取得部131は、映像の最初からフレーム間変化情報を取得する対象となる2つのフレームの組を、順次、選択する。次に、変化情報取得部131は、選択したフレームの間のフレーム間変化情報を取得する。
なお、フレーム間変化情報は、例えば、2つのフレームである画像の類似度をパラメータとする減少関数(例えば、逆数)により取得される。また、フレーム間変化情報は、例えば、以下の第一から第四のいずれかの処理により算出される。
フレーム間変化情報の第一の取得処理は、ピクセル毎比較処理である。ピクセル毎比較処理とは、2つの各フレームの空間上の同一ピクセルの色値(例えば、RGBの値)の差であえる色値差を取得する。2つの各フレーム(フレーム1とフレーム2)の同一位置上のピクセルの色値がそれぞれ(r1,g1,b1)、(r2,g2,b2)であるとした場合、色値差(d)は、数式1で示される。
そして、変化情報取得部131は、例えば、複数のピクセル間の色値差の平均値をフレーム間変化情報として取得する。また、変化情報取得部131は、例えば、当該色値差の平均値が大きいほど、大きい値となるフレーム間変化情報を取得しても良い。つまり、変化情報取得部131は、色値差の平均値をパラメータとする増加関数により、フレーム間変化情報を取得しても良い。なお、ピクセル毎比較処理により得られたフレーム間変化情報を第一フレーム間変化情報と言う。
フレーム間変化情報の第二の取得処理は、ピクセル比較処理である。ピクセル比較処理とは、2つの各フレーム(フレーム1とフレーム2)の同一位置上のピクセルの色値差(d)を算出し、色値差(d)が閾値以上または閾値より大きい場合、エラーピクセルと判断し、エラーピクセルの数を取得する処理である。つまり、変化情報取得部131は、エラーピクセルの数をフレーム間変化情報として取得する。変化情報取得部131は、エラーピクセルの数が多いほど、大きい値となるフレーム間変化情報を取得しても良い。つまり、変化情報取得部131は、エラーピクセルの数をパラメータとする増加関数により、フレーム間変化情報を取得しても良い。なお、ピクセル比較処理により得られたフレーム間変化情報を第二フレーム間変化情報と言う。
フレーム間変化情報の第三の取得処理は、カラーヒストグラム比較処理である。なお、カラーヒストグラムとは、画像中に各色が何ピクセルあるか数えて作成した棒グラフである。カラーヒストグラム比較処理は、例えば、2つのフレームの各色の数の差異の合計または各色の数の差異の平均値や中央値等をフレーム間変化情報として取得する処理である。また、変化情報取得部131は、例えば、2つのフレームの各色の数の差異の合計または各色の数の差異の平均値や中央値等が大きい、大きい値となるフレーム間変化情報を取得しても良い。つまり、変化情報取得部131は、2つのフレームの各色の数の差異の合計または各色の数の差異の平均値や中央値等をパラメータとする増加関数により、フレーム間変化情報を取得しても良い。なお、カラーヒストグラム比較処理により得られたフレーム間変化情報を第三フレーム間変化情報と言う。
また、変化情報取得部131は、上記の処理において、例えば、正規化されたフレーム間変化情報(例えば、0から9の整数のうちのいずれか)を取得しても良い。
フレーム間変化情報の第四の取得処理は、分割領域比較処理である。分割領域比較処理とは、以下のような処理である。つまり、変化情報取得部131は、2つの各フレーム(フレーム1とフレーム2)を2以上の領域に分割し、2以上の分割領域を得る。そして、変化情報取得部131は、2つの各フレームの同一の分割領域に対して、分割領域間の変換の度合いを示す情報である分割領域変化情報を、2以上の各分割領域ごとに取得する。そして、変化情報取得部131は、2以上の各分割領域の2以上の分割領域変化情報を用いて、フレーム間変化情報を取得する。分割領域比較処理において、変化情報取得部131は、2以上の各分割領域に対して、上述したピクセル毎比較処理により分割領域変化情報を取得しても良いし、ピクセル比較処理により分割領域変化情報を取得しても良いし、2つの各分割領域における1以上の特徴量の差異から分割領域変化情報を取得しても良い。
部分映像取得部132は、フレーム間変化情報を用いて、映像から1または2以上の部分映像を取得する。なお、部分映像は映像の一部である。ここで部分映像を取得する処理は、部分映像の開始フレームと終了フレームを特定する処理でも良い。また、具体的には、部分映像取得部132は、フレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応するフレームを含む1以上の部分映像を取得する。フレーム間変化情報に対応するフレームとは、通常、フレーム間変化情報の算出対象となった2以上のフレームである。フレーム間変化情報に対応するフレームは、通常、フレーム間変化情報の算出対象となった2以上のフレームのうちの、時間的に最後のフレームである。ただし、フレーム間変化情報に対応するフレームは、フレーム間変化情報の算出対象となった2以上のフレームのうちのいずれかを基準として、時間的に後のフレーム(例えば、3フレーム後のフレーム、10フレーム後のフレーム等)でも良い。
部分映像取得部132は、受付部12で受け付けられた部分映像数の部分映像を取得しても良い。なお、部分映像取得部132が取得する部分映像の長さ(例えば、時間、フレーム数)は予め決められていても良いし、動的に変わっても良い。
フレーム選択手段1321は、第一選択条件に合致する1以上のフレームを選択する。フレーム選択手段1321が取得した1以上の各フレームは、部分映像の開始フレームである。なお、第一選択条件は、例えば、フレーム間変化情報が閾値以上または閾値より大きいことである。また、第一選択条件は、例えば、フレーム間変化情報の上位N(Nは部分映像数、または部分映像数−1であり、自然数である。)であることである。
部分映像取得手段1322は、フレーム選択手段1321が選択した1以上の各フレームを開始フレームとする1以上の部分映像を取得する。
部分映像取得手段1322は、2以上の各シーンから、シーンの長さに応じた長さの部分映像を取得しても良い。シーンとは、開始フレームと次の開始フレームまでフレーム群、または開始フレームと映像の終了フレームとまでのフレーム群である。
部分映像取得手段1322は、2以上の各シーンから、一定長の部分映像を取得しても良い。一定長を特定する情報は、格納部11に格納されている。
部分映像取得手段1322は、第二選択条件に合致する1以上のフレームを終了フレームとして選択し、開始フレームから選択した終了フレームまでの部分映像を取得する。なお、第二選択条件は、例えば、開始フレームからMフレーム後のフレームを終了フレームとして選択することである。また、第二選択条件は、例えば、開始フレームが含まれるシーンの長さに応じた部分映像の長さの決定し、開始フレームから当該部分映像の長さに対応するフレームを終了フレームとして選択することである。
蓄積部133は、部分映像取得部132が取得した1以上の部分映像を有するダイジェスト映像を蓄積する。蓄積部133は、部分映像取得部132が取得した2以上の部分映像を連結して、ダイジェスト映像を生成し、当該ダイジェスト映像を蓄積しても良い。ここで、蓄積とは、通常、格納部11への格納であるが、外部の装置に蓄積することでも良い。また、ダイジェスト映像を蓄積することは、映像の開始フレームおよび終了フレームに対応付けて、フラグを付加し、当該フラグを用いて、ダイジェスト映像が再生できる状況を構成することでも良い。なお、ここでのフラグとは、例えば、後述する開始フラグ、または終了フラグである。
送信部14は、ダイジェスト映像を図示しない端末装置に送信する。送信部14は、部分映像取得部132が取得した1以上の部分映像を端末装置に送信しても良い。送信部14は、例えば、受付部12がダイジェスト映像送信指示を受け付けた場合に、当該ダイジェスト映像送信指示に対応するダイジェスト映像を端末装置に送信する。なお、この端末装置は、ダイジェスト映像送信指示を送信した装置である。
格納部11、映像格納部111、選択条件格納部112、ダイジェスト映像格納部113は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
格納部11等に情報が記憶される過程は問わない。例えば、記録媒体を介して情報が格納部11等で記憶されるようになってもよく、通信回線等を介して送信された情報が格納部11等で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された情報が格納部11等で記憶されるようになってもよい。
処理部13、変化情報取得部131、部分映像取得部132、蓄積部133、フレーム選択手段1321、部分映像取得手段1322は、通常、MPUやメモリ等から実現され得る。処理部13等の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
送信部14は、通常、無線または有線の通信手段で実現されるが、放送手段で実現されても良い。
次に、ダイジェスト映像取得装置1の動作について、図2のフローチャートを用いて説明する。
(ステップS201)受付部12は、開始指示を受け付けたか否かを判断する。開始指示を受け付けた場合はステップS202に行き、開始指示を受け付けない場合はステップS212に行く。
(ステップS202)変化情報取得部131は、カウンタiに1を代入する。
(ステップS203)変化情報取得部131は、映像格納部111の映像の中に、i番目の組が存在するか否かを判断する。i番目の組が存在する場合はステップS204に行き、i番目の組が存在しない場合はステップS206に行く。なお、i番目の組とは、フレーム間変化情報を取得する対象の2以上のフレームである。例えば、i番目の組とは、フレーム間変化情報を取得する対象の2つの連続するフレームである。
(ステップS204)変化情報取得部131は、i番目の組のフレーム群に対して、フレーム間変化情報を取得する。なお、フレーム間変化情報取得処理について、図3、図4のフローチャートを用いて説明する。
(ステップS205)変化情報取得部131は、カウンタiを1、インクリメントする。ステップS203に戻る。
(ステップS206)フレーム選択手段1321は、第一選択条件に合致する1または2以上の開始フレームを選択する。第一選択条件は、例えば、フレーム間変化情報が閾値以上または閾値より大きい(変化が激しい)フレームである。なお、当該開始フレームは、通常、i番目の組のフレーム群のうちの最後のフレームである。
(ステップS207)部分映像取得手段1322は、カウンタjに1を代入する。
(ステップS208)部分映像取得手段1322は、j番目の開始フレームが存在するか否かを判断する。j番目の開始フレームが存在する場合はステップS209に行き、j番目の開始フレームが存在しない場合はステップS211に行く。
(ステップS209)部分映像取得手段1322は、j番目の開始フレームに対応する終了フレームであり、第二選択条件に合致する終了フレームを決定する。なお、この終了フレームは、(j+1)番目の開始フレームより時間的に前のフレームである。また、部分映像取得手段1322が終了フレームを決定する処理は、例えば、終了フレームの識別子(例えば、フレーム番号)を取得すること、終了フレームの識別子(例えば、フレーム番号)を開始フレームの識別子に対応付けて蓄積すること、終了フレームに終了フレームであることを示すフラグを付加すること等である。終了フレームを決定する処理の内容は問わない。
(ステップS210)部分映像取得手段1322は、カウンタjを1、インクリメントする。ステップS208に戻る。
(ステップS211)蓄積部133は、部分映像取得部132が取得した1以上の部分映像を有するダイジェスト映像を蓄積する。ステップS201に戻る。なお、蓄積部133は、例えば、開始フレームから終了フレームまでのフレーム群を切り出し、部分映像を取得し、取得した2以上の部分映像を連結してダイジェスト映像を生成し、当該ダイジェスト映像を蓄積しても良い。また、蓄積部133は、フレーム選択手段1321が取得した開始フレームの識別子と、部分映像取得手段1322が取得した終了フレームの識別子との組を、格納部11に蓄積しても良い。また、蓄積部133は、フレーム選択手段1321が取得した開始フレームの識別子に対応する開始フレームに、開始フレームである旨のフラグを付加し、かつ部分映像取得手段1322が取得した終了フレームの識別子に対応する終了フレームに、終了フレームである旨のフラグを付加するなどしても良い。つまり、蓄積部133がダイジェスト映像を蓄積する処理は、ダイジェスト映像を取得できるようにする処理であれば良い。
(ステップS212)受付部12は、ダイジェスト映像送信指示を図示しない端末装置から受信したか否かを判断する。ダイジェスト映像送信指示を受信した場合はステップS213に行き、受信しなかった場合はステップS201に戻る。
(ステップS213)処理部13は、ステップS212で受信されたダイジェスト映像送信指示に対応するダイジェスト映像を取得する。
(ステップS214)送信部14は、ステップS213で取得されたダイジェスト映像を図示しない端末装置に送信する。ステップS201に戻る。
なお、図2のフローチャートにおいて、例えば、フレーム間変化情報取得処理の対象となるフレームの組は、2フレームであり、時間的に連続する2つのフレームである、とする。
しても良い。
また、図2のフローチャートにおいて、部分映像取得手段1322は、映像の最初のフレームを、部分映像の開始フレームとし、第二選択条件に合致する終了フレームを決定しても良い。
さらに、図2のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
次に、ステップS204のフレーム間変化情報取得処理の第一の例について、図3のフローチャートを用いて説明する。図3のフローチャートにおいて、フレーム間変化情報の取得処理は、上述したピクセル比較処理を例として説明する。また、本フローチャートにおいて、フレーム間変化情報の取得処理の対象の2つの時間的に連続するフレームをフレーム1、フレーム2ということとする。また、映像中において、フレーム1の次にフレーム2が存在する、とする。
(ステップS301)変化情報取得部131は、カウンタiに1を代入する。また、変化情報取得部131は、変数「エラー数」に0を代入する。
(ステップS302)変化情報取得部131は、フレーム1またはフレーム2にi番目のピクセルが存在するか否かを判断する。i番目のピクセルが存在する場合はステップS303に行き、i番目のピクセルが存在しない場合はステップS309に行く。なお、変化情報取得部131は、例えば、フレーム1またはフレーム2のピクセルを順に走査し、i番目のピクセルを取得する。
(ステップS303)変化情報取得部131は、フレーム1のi番目のピクセルの色値を取得する。
(ステップS304)変化情報取得部131は、フレーム2のi番目のピクセルの色値を取得する。なお、フレーム1のi番目のピクセルのフレーム内の座標位置とフレーム2のi番目のピクセルのフレーム内の座標位置とは同じである。
(ステップS305)変化情報取得部131は、ステップS303およびステップS304で取得した2つの色値から、距離を算出する。かかる算出方法は、上述した数式1である。
(ステップS306)変化情報取得部131は、ステップS305で取得した距離が閾値以上であるか否かを判断する。距離が閾値以上であればステップS307に行き、距離が閾値未満であればステップS308に行く。
(ステップS307)変化情報取得部131は、変数「エラー数」に1を加える。
(ステップS308)変化情報取得部131は、カウンタiを1、インクリメントする。
(ステップS309)変化情報取得部131は、フレーム間変化情報に変数「エラー数」の値を代入する。
なお、図3のフローチャートにおいて、ピクセルの色値を用いて、フレーム間変化情報を取得した。しかし、図3のフローチャートにおいて、ピクセルの他の特徴量(属性値と言っても良い)を用いて、2つのピクセル間の距離(差異と言っても良い)を算出し、かかる距離を用いて、フレーム間変化情報を取得しても良い。なお、ピクセルの他の特徴量とは、例えば、輝度、明度である。
次に、ステップS204のフレーム間変化情報取得処理の第二の例について、図4のフローチャートを用いて説明する。図4のフローチャートにおいて、フレーム間変化情報の取得処理は、上述した分割領域比較処理を例として説明する。また、本フローチャートにおいて、フレーム間変化情報の取得処理の対象の2つの連続するフレームをフレーム1、フレーム2ということとする。また、映像中において、フレーム1の次にフレーム2が存在する、とする。
(ステップS401)変化情報取得部131は、カウンタiに1を代入する。
(ステップS402)変化情報取得部131は、フレーム1またはフレーム2にi番目の分割領域が存在するか否かを判断する。i番目の分割領域が存在する場合はステップS403に行き、i番目の分割領域が存在しない場合はステップS408に行く。なお、格納部11に、2以上の各分割領域を特定する分割領域特定(例えば、領域の左上座標と右下座標)が格納されている。そして、変化情報取得部131は、格納部11の分割領域特定情報を順に取得していき、i番目の分割領域が存在するか否か(i番目の分割領域特定情報が格納部11に存在するか否か)を判断する。
(ステップS403)変化情報取得部131は、フレーム1のi番目の分割領域の1以上の特徴量を取得する。なお、1以上の特徴量は、例えば、i番目の分割領域の各ピクセルの色値の平均値、i番目の分割領域の各ピクセルの輝度の平均値、i番目の分割領域の色ヒストグラムの情報等である。また、変化情報取得部131は、例えば、i番目の分割領域特定情報を格納部11から取得する。そして、変化情報取得部131は、例えば、当該分割領域特定情報が示す領域の画像から1以上の特徴量を取得する。
(ステップS404)変化情報取得部131は、フレーム2のi番目の分割領域の1以上の特徴量を取得する。
(ステップS405)変化情報取得部131は、ステップS403で取得した1以上の特徴量とステップS404で取得した1以上の特徴量とを用いて、各特徴量の差を取得する。つまり、例えば、変化情報取得部131は、ステップS403で取得したフレーム1の色値の平均値とテップS404で取得したフレーム2の色値の平均値との差異を取得し、かつフレーム1の輝度の平均値とフレーム2の輝度の平均値との差異を取得する。
(ステップS406)変化情報取得部131は、ステップS405で取得した1以上の差の情報から、i番目の分割領域の分割領域変化情報を取得する。変化情報取得部131は、ステップS405で取得した1以上の差の情報が大きな差を示す情報であるほど、i番目の分割領域の分割領域変化情報が大きな情報となるように、分割領域変化情報を取得する。
(ステップS407)変化情報取得部131は、カウンタiを1、インクリメントする。ステップS402に戻る。
(ステップS408)変化情報取得部131は、ステップS406で取得した2以上の各分割領域の分割領域変化情報を用いて、フレーム間変化情報を取得する。上位処理にリターンする。ここで、変化情報取得部131は、2以上の分割領域変化情報の平均値や中央値をフレーム間変化情報として取得しても良いし、2以上の分割領域変化情報の最大値をフレーム間変化情報として取得しても良い。つまり、分割領域変化情報が大きな値を示す場合ほど、大きな値のフレーム間変化情報を取得すれば良い。
以下、本実施の形態におけるダイジェスト映像取得装置1の具体的な動作について説明する。
今、映像格納部111に一の映像が格納されている。そして、ユーザは、ダイジェスト映像取得装置1に、部分映像数「5」を有する開始指示を入力した、とする。なお、一の映像は、例えば、フレーム番号0からフレーム番号17999の18000フレームを有する映像である、とする。
次に、受付部12は、開始指示を受け付ける。そして、変化情報取得部131は、フレーム番号0に対応付けて、フレーム間変化情報「−1」を格納部11に付加する。
そして、次に、変化情報取得部131は、映像格納部111の映像の中のフレーム番号0とフレーム番号1を取得する。そして、変化情報取得部131は、フレーム番号0からフレーム番号1への変換の度合いを示すフレーム間変化情報を、例えば、上述した分割領域比較処理により取得する。ここでは、変化情報取得部131は、フレーム番号0とフレーム番号1の各分割領域の分割領域変化情報を取得し、当該各分割領域の分割領域変化情報を用いて、正規化したフレーム間変化情報「1」を取得した、とする。そして、変化情報取得部131は、フレーム番号1に対応付けて、フレーム間変化情報「1」を格納部11に付加する。なお、変化情報取得部131は、「0」から「9」のいずれかの整数のフレーム間変化情報を取得する、とする。
同様に、変化情報取得部131は、フレーム番号1とフレーム番号2との間のフレーム間変化情報「2」を取得した、とする。そして、変化情報取得部131は、フレーム番号2に対応付けて、フレーム間変化情報「2」を格納部11に蓄積する。
また、変化情報取得部131は、フレーム番号2とフレーム番号3との間のフレーム間変化情報「7」を取得した、とする。そして、変化情報取得部131は、フレーム番号3に対応付けて、フレーム間変化情報「7」を格納部11に蓄積する。
変化情報取得部131は、以上の処理を、映像の最終フレームまで行う。そして、変化情報取得部131は、図5に示す概念のフレーム間変化情報を算出した、とする。また、変化情報取得部131は、図6に示すフレーム間変化情報管理表の「ID」「フレーム番号」「フレーム間変化情報」の情報を蓄積した、とする。なお、フレーム間変化情報管理表は、「ID」「フレーム番号」「フレーム間変化情報」「開始フレームフラグ」「終了フレームフラグ」を有するレコードをフレーム数だけ保持している。「開始フレームフラグ」は開始フレームか否かを示すフラグであり、「終了フレームフラグ」は終了フレームか否かを示すフラグである。
次に、フレーム選択手段1321は、フレーム間変化情報の値が上位5つの開始フレームを選択する。ここで、フレーム選択手段1321は、開始フレームとして、フレーム間変化情報の値が「9」のフレーム番号「6」「2517」「4510」「8321」「12548」を選択した、とする。そして、フレーム選択手段1321は、開始フレームのフレーム番号に対応付けて、開始フラグ「1」を蓄積する。なお、フレーム選択手段1321は、開始フレーム以外のフレーム番号には、開始フラグ「0」を蓄積する、とする。なお、開始フラグ「1」は開始フラグであることを示し、開始フラグ「0」は開始フラグでないことを示す。また、同一のフレーム間変化情報に対応するすべてのフレームを開始フレームとして採用すると、部分映像数を超える部分映像を取得する場合、フレーム選択手段1321は、極力、間が均等になるように、開始フラグを選択することは好適である。
次に、部分映像取得手段1322は、各開始フレームごとに、例えば、以下のように終了フレームを決定する。部分映像取得手段1322は、例えば、シーンの長さに応じた長さの部分映像となるように、終了フレームを決定する。部分映像取得手段1322は、例えば、1番目の部分映像のフレーム数「2517−6+1=2512」、2番目の部分映像のフレーム数「4510−2517+1=1994」、3番目の部分映像のフレーム数「8321−4510+1=3812」、4番目の部分映像のフレーム数「12548−8321+1=4228」、5番目の部分映像のフレーム数「最終のフレーム番号(例えば、177999−12548+1=5452」を得る。そして、部分映像取得手段1322は、例えば、概ね「2512:1994:3812:4228:5452」の比に、部分映像の長さがなるように、終了フレームを決定する。例えば、部分映像取得手段1322は、開始フレーム「6」に対応する終了フレームとしてフレーム番号「508」を得る。そして、部分映像取得手段1322は、フレーム番号「508」に対応付けて終了フレームフラグ「1」を書き込む。また、例えば、部分映像取得手段1322は、開始フレーム「2517」に対応する終了フレームとしてフレーム番号「2916」を得る。そして、部分映像取得手段1322は、フレーム番号「2916」に対応付けて終了フレームフラグ「1」を書き込む。また、例えば、部分映像取得手段1322は、開始フレーム「4510」に対応する終了フレームとしてフレーム番号「5272」を得る。そして、部分映像取得手段1322は、フレーム番号「5272」に対応付けて終了フレームフラグ「1」を書き込む。また、例えば、部分映像取得手段1322は、開始フレーム「8321」に対応する終了フレームとしてフレーム番号「9167」を得る。そして、部分映像取得手段1322は、フレーム番号「9167」に対応付けて終了フレームフラグ「1」を書き込む。また、映像の最終フレームに対応付けて終了フレームフラグ「1」を書き込む。なお、終了フレームではないフレームに対しては、終了フレームフラグ「0」が書き込まれる、とする。
なお、部分映像取得手段1322は、上記で算出した終了フレームのフレーム番号に対応するフレーム間変化情報が閾値以上の場合、当該フレーム番号の前または後であり、フレーム間変化情報が示す変化の傾向が予め決められた変化より少ないフレームを終了フレームとして選択することは好適である。
また、上記の場合、ダイジェスト映像のフレーム数(再生時間でも良い)が予め格納部11に格納されている、とする。また、ダイジェスト映像のフレーム数(再生時間でも良い)がユーザにより指定されても良い。
そして、次に、蓄積部133は、図6の開始フレームフラグ「1」に対応するフレームから、次の終了フレーム「1」に対応するフレームまでの映像を部分映像として取得する。次に、蓄積部133は、取得した5つの部分映像を連結し、ダイジェスト映像を構成し、当該ダイジェスト映像をダイジェスト映像格納部113に蓄積する。
以上のダイジェスト映像の生成処理の後、ダイジェスト映像取得装置1は、ユーザの端末装置から、ダイジェスト映像送信指示を受信した、とする。
次に、処理部13は、受信されたダイジェスト映像送信指示に対応するダイジェスト映像を取得する。ここで、処理部13は、ダイジェスト映像格納部113からダイジェスト映像を読み出しても良いし、図6の管理表を用いて、映像格納部111の映像からダイジェスト映像を構成しても良い。
次に、送信部14は、取得されたダイジェスト映像を、ダイジェスト映像送信指示を送信した端末装置に送信する。
以上、本実施の形態によれば、フレーム間変化情報を用いてダイジェスト映像を取得するため、適切なダイジェスト映像を取得できる。
なお、本実施の形態において、部分映像取得部132が取得する2つの部分映像が、映像の中で連続していても良い。つまり、部分映像の終了フレームの次のフレームが、次の部分映像の開始フレームであっても良い。
また、本実施の形態の具体例において、部分映像数を用いて、部分映像を取得した。つまり、上記具体例において、第一選択条件は、「フレーム間変化情報の値が上位Nに対応するフレーム間の変化後のフレームを開始フレームとして選択すること」であった。しかし、上述したように、第一選択条件は、「フレーム間変化情報が閾値以上または閾値より大きいフレーム間の変化後のフレームを開始フレームとして選択すること」等の他の条件でも良いことは言うまでもない。
また、本実施の形態における処理は、ソフトウェアで実現しても良い。そして、このソフトウェアをソフトウェアダウンロード等により配布しても良い。また、このソフトウェアをCD−ROMなどの記録媒体に記録して流布しても良い。なお、このことは、本明細書における他の実施の形態においても該当する。なお、本実施の形態におけるダイジェスト映像取得装置1を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、映像を構成する2以上のフレームのうちの2以上のフレーム間の変化を示す情報であるフレーム間変化情報を取得する変化情報取得部と、前記フレーム間変化情報を用いて、前記受付部が受け付けた映像の一部である1または2以上の部分映像を取得する部分映像取得部と、前記部分映像取得部が取得した1以上の部分映像を有するダイジェスト映像を蓄積する蓄積部として機能させるためのプログラムである。
また、上記プログラムにおいて、前記部分映像取得部は、前記フレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応するフレームを含む1以上の部分映像を取得するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記変化情報取得部は、2つのフレーム間の変化に関する2以上の特徴量を取得し、当該2以上の特徴量を用いて、フレーム間変化情報を取得するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、コンピュータを、部分映像の数である部分映像数を受け付ける受付部としてさらに機能させ、前記部分映像取得部は、前記部分映像数の部分映像を取得するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記部分映像取得部は、部分映像の開始フレームを選択するための第一選択条件に合致する1以上のフレームを選択するフレーム選択手段と、前記フレーム選択手段が選択した1以上の各フレームを開始フレームとする1以上の部分映像を取得する部分映像取得手段とを具備するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記部分映像取得手段は、前記開始フレームと次の開始フレームまたは映像の終了フレームとまでの2以上の各シーンから、シーンの長さに応じた長さの部分映像を取得するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記部分映像取得手段は、前記開始フレームと次の開始フレームまたは映像の終了フレームとまでの2以上の各シーンから、一定長の部分映像を取得する
ものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記部分映像取得手段は、部分映像の終了フレームを選択するための第二選択条件に合致する1以上のフレームを選択し、前記開始フレームから前記選択した終了フレームまでの部分映像を取得するものとして、コンピュータを機能させるプログラムであることは好適である。
(実施の形態2)
本実施の形態において、映像のフレーム間の変化情報であるフレーム間変化情報を取得し、当該フレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である箇所を明示する情報(例えば、旗を付与した画面)を出力する映像処理装置について説明する。
また、本実施の形態において、条件を与えた場合に、明示する情報(例えば、旗の箇所)が増減する映像処理装置について説明する。
また、本実施の形態において、一のシーンの選択を受け付ける映像処理装置について説明する。さらに、本実施の形態において、選択された一のシーンに対応する部分映像を出力する映像処理装置について説明する。
図7は、本実施の形態における映像処理装置2のブロック図である。映像処理装置2は、格納部11、受付部22、処理部23、および出力部24を備える。
処理部23は、変化情報取得部131、箇所決定部231、部分映像取得部232、および蓄積部233を備える。出力部24は、箇所出力部241、および部分映像出力部242を備える。
受付部22は、各種の情報や指示等を受け付ける。各種の情報や指示等とは、例えば、第一選択条件である。第一選択条件については、上述した。各種の情報や指示等とは、例えば、2以上のシーンの中の一のシーンの選択である。第一選択条件の入力は、例えば、キーボードからの閾値の入力、スライダーバー等による閾値の入力等、いかなる手段でも良いことは言うまでもない、また、シーンとは、箇所出力部241が出力した1または2つの第一の箇所により区切られる映像領域である。第一の箇所は、例えば、上述した開始フレームである。ただし、第一の箇所は、開始フレームを含む複数のフレーム群でも良い。各種の情報や指示等とは、例えば、開始指示である。開始指示とは、動作の開始の指示である。各種の情報や指示等とは、例えば、ダイジェスト映像取得指示である。ダイジェスト映像取得指示とは、ダイジェスト映像を取得する指示である。各種の情報や指示等とは、例えば、部分映像の開始フレームの選択指示、部分映像の開始フレームの変更指示、部分映像の終了フレームの選択指示、部分映像の終了フレームの変更指示、後述するシーン間ジャンプの指示等でも良い。なお、部分映像の開始フレームまたは終了フレームの選択指示とは、映像内のフレームの中で、部分映像の開始フレームまたは終了フレームを選択する指示である。また、部分映像の開始フレームまたは終了フレームの変更指示とは、箇所決定部231が決定した開始フレームまたは自動的に決定された終了フレーム、またはユーザにより指示された開始フレームまたは終了フレームを変更する指示である。
ここで、受け付けとは、キーボードやマウス、タッチパネルなどの入力デバイスから入力された情報の受け付け、有線もしくは無線の通信回線を介して送信された情報の受信、光ディスクや磁気ディスク、半導体メモリなどの記録媒体から読み出された情報の受け付けなどを含む概念である。
各種の情報や指示等の入力手段は、キーボードやマウスやメニュー画面によるもの等、何でも良い。受付部22は、キーボード等の入力手段のデバイスドライバーや、メニュー画面の制御ソフトウェア等で実現され得る。
処理部23は、各種の処理を行う。各種の処理とは、例えば、変化情報取得部131、箇所決定部231、部分映像取得部232、蓄積部233が行う処理である。
箇所決定部231は、変化情報取得部131が取得したフレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応する第一の箇所を決定する。箇所とは、通常、一のフレームであるが、2以上のフレーム群でも良い。箇所決定部231は、上述したフレーム選択手段1321と同じ処理を行うものでも良い。
部分映像取得部232は、1または2以上の部分映像を取得する。部分映像取得部232は、実施の形態1で説明した部分映像取得部132の機能以外に以下の機能を有しても良い。つまり、部分映像取得部232は、受付部22が受け付けた選択に対応するシーンに対応する1または2以上の部分映像を取得しても良い。シーンに対応する部分映像とは、シーンそのもの(シーンの開始フレームからシーンの終了フレームまで)でも良いし、シーンの開始フレームからシーンの終了フレーム以外の終了フレームまででも良い。
部分映像取得部232は、映像から、当該映像の一部である部分映像を取得する。ここで部分映像を取得する処理は、部分映像の開始フレームと終了フレームを特定する処理でも良い。部分映像取得部232は、通常、箇所決定部231が決定した第一の箇所を開始フレームとする部分映像を、映像から取得する。部分映像取得部232は、2以上の各シーンから、シーンの長さに応じた長さの部分映像を取得しても良い。シーンとは、開始フレームと次の開始フレームまでフレーム群、または開始フレームと映像の終了フレームとまでのフレーム群である。なお、ここでの開始フレームは、箇所決定部231が決定した第一の箇所、またはユーザが指示したフレーム等である。
部分映像取得部232は、2以上の各シーンから、一定長の部分映像を取得しても良い。一定長を特定する情報は、格納部11に格納されている。
部分映像取得部232は、第二選択条件に合致する1以上のフレームを終了フレームとして選択し、開始フレームから選択した終了フレームまでの部分映像を取得する。なお、第二選択条件は、例えば、開始フレームからMフレーム後のフレームを終了フレームとして選択することである。また、第二選択条件は、例えば、開始フレームが含まれるシーンの長さに応じた部分映像の長さの決定し、開始フレームから当該部分映像の長さに対応するフレームを終了フレームとして選択することである。
また、部分映像取得部232は、ユーザにより指示または変更された開始フレーム、または終了フレームを用いて、開始フレームから終了フレームまでの部分映像を取得しても良い。
蓄積部233は、部分映像取得部232が取得した1または2以上の部分映像を有するダイジェスト映像を蓄積する。蓄積部233は、部分映像取得部232が取得した2以上の部分映像を連結して、ダイジェスト映像を生成し、当該ダイジェスト映像を蓄積しても良い。ここで、蓄積とは、通常、ダイジェスト映像格納部113への格納であるが、外部の装置に蓄積することでも良い。また、ダイジェスト映像を蓄積することは、部分映像の開始フレームおよび終了フレームに対応付けて、フラグを付加し、当該フラグを用いて、ダイジェスト映像が再生できる状況を構成することでも良い。なお、ここでのフラグとは、例えば、後述する開始フラグ、または終了フラグである。
出力部24は、各種の情報を出力する。各種の情報とは、例えば、後述する第一の箇所、受付部22が受け付けた選択に対応する一のシーンに対応する表示、部分映像等である。
ここで、出力とは、ディスプレイへの表示、プロジェクターを用いた投影、外部の装置への送信、記録媒体への蓄積、他の処理装置や他のプログラムなどへの処理結果の引渡しなどを含む概念である。
箇所出力部241は、箇所決定部231が決定した第一の箇所であり、映像の中の箇所を視覚的に認識可能に出力する。箇所出力部241は、例えば、映像の全体を示す図柄(例えば、長方形の図柄であり、例えば、後述するシークバーである。)の中または隣接する場所に、第一の箇所に対応する箇所に第二の図柄(例えば、旗や星形等の特定の図柄)を出力する。ただし、第一の箇所の出力態様は問わない。ユーザにとって、第一の箇所が視覚的に把握できれば良い。なお、第一の箇所が一のフレームである場合、箇所出力部241は、当該フレームに対応する領域や範囲を、視覚的に認識可能に出力しても良い。かかる場合も、第一の箇所を視覚的に認識可能に出力していることとなる。
箇所出力部241は、受付部22が受け付けた選択に対応する一のシーン等に対応する表示を、他のシーン等に対応する表示と比較して、強調する態様で出力する。箇所出力部241は、例えば、映像の全体を示す図柄(例えば、長方形の図柄)の中または隣接する場所に、一のシーン等の領域を視覚的に認識可能なように表示する。ただし、受付部22が受け付けた選択に対応する一のシーン等が認識可能なように表示されれば良く、その表示態様は問わない。なお、一のシーン等とは、一のシーンまたは一のシーンの一部である。一のシーン等とは、一の部分映像と言っても良い。
部分映像出力部242は、受付部22が受け付けた選択に対応する一のシーンに対応する部分映像を出力する。部分映像出力部242は、カレントのシーンの開始フレームを出力しても良い。なお、部分映像の出力とは、例えば、部分映像の再生である。
処理部23、変化情報取得部131、箇所決定部231、部分映像取得部232、および蓄積部233は、通常、MPUやメモリ等から実現され得る。処理部23等の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
出力部24、箇所出力部241、および部分映像出力部242は、ディスプレイやスピーカー等の出力デバイスを含むと考えても含まないと考えても良い。出力部24は、出力デバイスのドライバーソフトまたは、出力デバイスのドライバーソフトと出力デバイス等で実現され得る。
次に、映像処理装置2の動作について、図8のフローチャートを用いて説明する。図8のフローチャートにおいて、図2のフローチャートと同一のステップについて、説明を省略する。
(ステップS801)受付部22は、開始指示を受け付けたか否かを判断する。開始指示を受け付けた場合はステップS202に行き、開始指示を受け付けない場合はステップS804に行く。
(ステップS802)箇所決定部231は、変化情報取得部131が取得したフレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である場合、フレーム間変化情報に対応する1または2以上の第一の箇所を決定する。箇所決定部231は、例えば、第一選択条件を満たすほど大きな変化を示すフレーム間変化情報に対応する1または2以上のフレームを第一の箇所として決定する。ここで、箇所決定部231は、例えば、第一選択条件を満たすほど大きな変化を示すフレーム間変化情報に対応する1または2以上のフレームのフレーム番号を取得する。
(ステップS803)箇所出力部241は、箇所決定部231が決定した1以上の第一の箇所を視覚的に認識可能に出力する。ステップS801に戻る。なお、ここで、出力部24は、他の情報を出力しても良い。他の情報とは、例えば、最初の第一の箇所、最初の部分映像等である。
(ステップS804)受付部22は、第一選択条件を受け付けたか否かを判断する。第一選択条件を受け付けた場合はステップS805に行き、第一選択条件を受け付けない場合はステップS806に行く。なお、第一選択条件の受け付けとは、第一選択条件を構成するフレーム間変化情報の閾値の受け付けでも良い。
(ステップS805)蓄積部233は、ステップS804で受け付けられた第一選択条件を選択条件格納部112に蓄積する。ステップS802に行く。
(ステップS806)受付部22は、2以上のシーンの中の一のシーン等の選択を受け付けたか否かを判断する。一のシーン等の選択を受け付けた場合はステップS807に行き、一のシーン等の選択を受け付けない場合はステップS808に行く。シーン等とは、シーンまたはシーンの一部の映像である。なお、シーンの一部の映像の選択を受け付ける前には、シーンの一部の映像の最後のフレームが決定している必要がある。シーンの一部の映像の最後のフレームは、実施の形態1で説明したように、第二選択条件を用いて自動的に決定されても良いし、ユーザの指示により決定されても良い。なお、シーンの一部の映像とは、部分映像である。また、シーンも部分映像と言っても良い。
(ステップS807)箇所出力部241は、ステップS806で受け付けられた選択に対応する一のシーン等に対応する表示を、他のシーン等に対応する表示と比較して、強調する態様で出力する。
(ステップS808)受付部22は、ダイジェスト映像取得指示を受け付けたか否かを判断する。ダイジェスト映像取得指示を受け付けた場合はステップS809に行き、ダイジェスト映像取得指示を受け付けない場合はステップS811に行く。
(ステップS809)部分映像取得部232は、ステップS806で選択された1以上の部分映像を取得する。部分映像取得部232は、通常、箇所決定部231が決定した1以上の各第一の箇所を開始フレームとする1以上の部分映像を取得する。なお、ここでの部分映像は、シーンでも良い。
(ステップS810)蓄積部233は、ステップS809で取得された1以上の部分映像を有するダイジェスト映像を取得し、蓄積する。ステップS801に戻る。
(ステップS811)受付部22は、部分映像の開始フレームまたは終了フレームの変更指示を受け付けたか否かを判断する。変更指示を受け付けた場合はステップS812に行き、変更指示を受け付けない場合はステップS801に戻る。
(ステップS812)処理部23は、ステップS811における変更指示に応じて、開始フレームまたは終了フレームを変更する。なお、開始フレームまたは終了フレームの変更とは、例えば、開始フレームまたは終了フレームのフレーム番号に対応付くフラグを開始フラグまたは終了フラグに書き換えること、および元の開始フレームまたは終了フレームのフレーム番号に対応付くフラグを、開始フラグでもなく終了フラグでもない情報に変更すること等である。
なお、図8のフローチャートにおいて、受付部22が第二選択条件を受け付けた場合、蓄積部233は、当該第二選択条件を選択条件格納部112に蓄積しても良い。
また、図8のフローチャートのステップS805において、第一選択条件が受け付けられた後、ステップS802に行くことにより、第一選択条件の変化をトリガーとて、第一の箇所が変化し、当該変化した第一の箇所が出力されることとなる。
また、図8のフローチャートにおいて、受付部22が、ユーザから、部分映像の開始フレームの選択または終了フレームの選択を受け付けても良い。
さらに、図8のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
以下、本実施の形態における映像処理装置2の具体的な動作について説明する。
今、格納部11には、編集対象の一の映像が格納されている、とする。なお、一の映像は、実施の形態1の具体例の説明で用いた映像と同じであり、例えば、フレーム番号0からフレーム番号17999の18000フレームを有する映像である、とする。かかる状況において、以下の2つの具体例について説明する。具体例1は、シーンの開始フレームが自動的に決定され、ユーザがシーンの開始フレームを決定するための第一選択条件を変更した場合に、動的にシーンの分割が変更される場合である。具体例2は、ユーザのシーン選択により、ダイジェスト動画が生成される場合である。
(具体例1)
まず、ユーザは、映像処理装置2に開始指示を入力した、とする。次に、映像処理装置2の受付部22は、開始指示を受け付ける。そして、変化情報取得部131は、フレーム番号0に対応付けて、フレーム間変化情報「−1」を格納部11に付加する。
そして、次に、変化情報取得部131は、映像格納部111の映像の中のフレーム番号0のフレームとフレーム番号1のフレームとを取得する。そして、変化情報取得部131は、フレーム番号0のフレームからフレーム番号1のフレームへの変換の度合いを示すフレーム間変化情報を、例えば、上述した分割領域比較処理により取得する。ここでは、変化情報取得部131は、フレーム番号0のフレームとフレーム番号1のフレームの各分割領域の分割領域変化情報を取得し、当該各分割領域の分割領域変化情報を用いて、正規化したフレーム間変化情報「1」を取得した、とする。そして、変化情報取得部131は、フレーム番号1に対応付けて、フレーム間変化情報「1」を格納部11に付加する。なお、変化情報取得部131は、「0」から「9」のいずれかの整数のフレーム間変化情報を取得する、とする。
同様に、変化情報取得部131は、フレーム番号1のフレームとフレーム番号2のフレームとの間のフレーム間変化情報「2」、フレーム番号2のフレームとフレーム番号3のフレームとの間のフレーム間変化情報「7」等を取得し、格納部11に蓄積した、とする。変化情報取得部131は、以上の処理を、映像の最終フレームまで行う。そして、変化情報取得部131は、図5に示す概念のフレーム間変化情報を算出した、とする。また、変化情報取得部131は、図6に示すフレーム間変化情報管理表の「ID」「フレーム番号」「フレーム間変化情報」の情報を蓄積した、とする。
次に、ユーザは、シーンの開始フレームを決定するための第一選択条件として、フレーム間変化情報「7」を入力した、とする。なお、ユーザが入力したフレーム間変化情報がN(ここでは、Nは0から9までの整数)の場合、第一選択条件は、「N<=フレーム間変化情報」である。そして、受付部22は、第一選択条件「7<=フレーム間変化情報」を受け付ける。次に、蓄積部233は、第一選択条件「7<=フレーム間変化情報」を選択条件格納部112に蓄積する。
次に、箇所決定部231は、第一選択条件「7<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「3」「6」等を取得する。なお、フレーム間変化情報に対応するフレームとは、フレーム間変化情報を算出する元になった2つのフレームの、時間的に後のフレームである。
次に、箇所出力部241は、箇所決定部231が決定したフレーム番号「3」「6」等の第一の箇所を視覚的に認識可能に出力する。ここでは、例えば、図9に示すように、箇所出力部241は、フレーム番号「3」の前、フレーム番号「6」の前に、フラグ901、902を表示する。
また、出力部24は、図9に示すように、シークバー903を表示する。シークバーとは、動画の編集または再生のための画面に表示される棒状の操作領域である。ここでのシークバー903を構成するセルには、フレーム番号が表示されている。また、出力部24は、ユーザが入力したフレーム間変化情報「7」をフィールド904に表示する。なお、図9において、フィールド904の項目名は「変化量」である。「変化量」とは、フレーム間変化情報と同じである、とする。さらに、部分映像出力部242は、最初のフラグに対応するフレーム番号「3」のフレームをウィンドウ905に表示する、とする。なお、最初のフラグをカレントのフラグという、こととする。
次に、ユーザは、図9のフィールド904の変化量を「7」から「2」に変更する入力を行った、とする。次に、受付部22は、新しい第一選択条件を受け付ける。ここでの第一選択条件は「2<=フレーム間変化情報」である。
次に、箇所決定部231は、第一選択条件「2<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「2」「3」「5」「6」等を取得する。
次に、箇所出力部241は、箇所決定部231が決定したフレーム番号「2」「3」「5」「6」等の第一の箇所を視覚的に認識可能に出力する。ここでは、例えば、図10に示すように、箇所出力部241は、フレーム番号「2」の前、フレーム番号「3」の前、フレーム番号「5」の前、フレーム番号「6」の前に、フラグ1001、1002、1003、1004を表示する。
また、出力部24は、図10に示すように、シークバーを表示する。また、出力部24は、ユーザが入力したフレーム間変化情報「2」をフィールド1005に表示する。さらに、部分映像出力部242は、最初のフラグに対応するフレーム番号「2」のフレームをウィンドウ1006に表示する。
以上、ユーザが、フィールド1005の変化量を「7」から「2」に変更したことにより、第一選択条件が変更された。そして、第一選択条件の変更により、シーンの分割が変更され、画面における表示が図9から図10に変更された。なお、シーンの分割の変更とは、シーンの開始フレームの変更である。
また、次に、ユーザは、図10のフィールド1005の変化量を「2」から「1」に変更する入力を行った、とする。次に、受付部22は、新しい第一選択条件を受け付ける。ここでの第一選択条件は「1<=フレーム間変化情報」である。
次に、箇所決定部231は、第一選択条件「1<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「1」「2」「3」「4」「5」「6」「8」等を取得する。
次に、箇所出力部241は、箇所決定部231が決定したフレーム番号「1」「2」「3」「4」「5」「6」「8」等の第一の箇所を視覚的に認識可能に出力する。ここでは、例えば、図11に示すように、箇所出力部241は、フレーム番号「1」の前、フレーム番号「2」の前、フレーム番号「3」の前、フレーム番号「4」の前、フレーム番号「5」の前、フレーム番号「6」の前、フレーム番号「8」の前に、それぞれフラグ1101、1102、1103、1104、1105、1106、1107を表示する。
また、出力部24は、図11に示すように、シークバーを表示する。また、出力部24は、ユーザが入力したフレーム間変化情報「1」をフィールド1108に表示する。さらに、部分映像出力部242は、最初のフラグに対応するフレーム番号「1」のフレームをウィンドウ1109に表示する。
以上、ユーザが、フィールド1108の変化量を「2」から「1」に変更したことにより、第一選択条件が変更された。そして、第一選択条件の変更により、シーンの分割が変更され、画面における表示が図10から図11に変更された。
以上、本具体例によれば、ユーザは、容易にシーンの分割を変更できる。なお、本具体例において、後述する具体例2と同様、図9や図10や図11等の画面から、ユーザが1以上の部分映像を選択し、選択された1以上の部分映像からなるダイジェスト映像を取得し、蓄積しても良いことは言うまでもない。
(具体例2)
今、第一選択条件「8<=フレーム間変化情報」が選択条件格納部112に格納されている、とする。かかる状況において、ユーザは、映像処理装置2に開始指示を入力した、とする。
次に、映像処理装置2の受付部22は、開始指示を受け付ける。そして、変化情報取得部131は、具体例1で説明した処理により、図5に示す概念のフレーム間変化情報を算出する。また、変化情報取得部131は、図6に示すフレーム間変化情報管理表の「ID」「フレーム番号」「フレーム間変化情報」の情報を蓄積する。
次に、箇所決定部231は、第一選択条件「8<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「6」等を取得する。 次に、箇所出力部241は、箇所決定部231が決定したフレーム番号「6」等の第一の箇所を視覚的に認識可能に出力する。ここでは、例えば、図12に示すように、箇所出力部241は、フレーム番号「6」の前等にフラグを表示する。また、出力部24は、シークバーを表示する。なお、図12において、1202は、例えば、出力されているフレームの相対的な位置(映像中の位置)を示すバーである。また、図12の1203において、1202に対応するフレームが出力されている。
次に、ユーザは、図12の画面から、例えば、シークバーの上のシーン1201に対応する領域のいずれかの点をクリックした、とする。つまり、ユーザは、シーン1201の選択を入力した、とする。
すると、受付部22は、シーン1201の選択を受け付ける。そして、箇所出力部241は、シーン1201に対応する表示を、他のシーンに対応する表示と比較して、強調する態様で出力する。箇所出力部241は、通常、選択されたシーンの領域の属性値(例えば、色、形状、背景、輪郭線など)を変更し、当該シーンを強調するような表示とする。また、シーン1201を選択した後の画面例は、図13である。図13において、1301はシークバーである。1302はシーンの開始フラグである。1303は選択されたシーンが強調表示されている例である。ここでは、箇所出力部241は、例えば、シーン1303のセルを網掛けの表示とし、かつ幅を拡大している。なお、箇所出力部241が選択されたシーンを強調するように出力する方法は問わない。また、部分映像出力部241は、シーン1303の開始フレームを1304に示すように表示している。
以上の処理により、シーン1303である部分映像が選択された。なお、選択される対象は、シーンではなく、シーンの一部でも良い。また、シーン等を強調するような出力は、通常、選択されたシーンの領域の1以上の属性値を他と異なる属性値にすれば良い。
また、ユーザは、フラグに対応するフレームをジャンプする指示を映像処理装置2に入力していく。すると、受付部22は、かかるシーン間ジャンプの指示を受け付ける。そして、シーン間ジャンプの指示に応じて、出力部24は、シークバーの表示を変更する。つまり、出力部24は、ジャンプ先のシーンに対応するカレントのフラグが表示されるように、シークバーを移動させ、表示する。また、部分映像出力部242は、カレントのフラグに対応するフレームをウィンドウ905に表示する。なお、カレントのフラグとは、カレントのシーンの開始フラグである。
そして、ユーザは、シーンの開始フレームを見て、または、シーンの一部または全部を再生させ、ダイジェスト映像を構成する部分映像を決定する。つまり、ユーザは、ダイジェスト映像を構成して欲しい、シーンまたは部分映像に対して、選択の指示を入力する。そして、受付部22は、一のシーンまたは一の部分映像の選択を受け付ける。
なお、シーンの一部分の部分映像を選択するためには、ユーザは、部分映像の終了フレームの選択指示を入力している、とする。そして、受付部22は、部分映像の終了フレームの選択指示を受け付ける。そして、処理部23は、選択された終了フレームのフレーム番号を終了フラグとして、対応する開始フラグに対応付けて蓄積する。そして、出力部24は、選択された終了フレームに対応付けて、終了フラグを表示する。なお、終了フラグは、開始フラグと異なる表示形態(異なる図柄、異なる色等)で表示されることは好適である。
次に、ユーザは、映像処理装置2に、ダイジェスト映像取得指示を入力した、とする。次に、受付部22は、ダイジェスト映像取得指示を受け付ける。
次に、部分映像取得部232は、選択されている1以上の部分映像を取得する。ここでの部分映像は、シーンまたはシーンの一部であり、開始フラグに対応するフレームから、終了フレームに対応するフレームまたは次の開始フレームの前のフレームまでのフレームにより構成される映像である。次に、蓄積部233は、取得された1以上の部分映像を有するダイジェスト映像を取得し、蓄積する。
以上の処理により、ユーザは容易にダイジェスト映像を取得できる。
以上、本実施の形態によれば、シーンの切り替わりの箇所を適切に明示できる。また、本実施の形態によれば、シーンの切り替わりの箇所を動的に変更し、適切に明示できる。また、本実施の形態によれば、シーンまたはシーンの一部である部分映像の選択が容易に行われる。さらに、本実施の形態によれば、ダイジェスト映像が容易に取得できる。
なお、本実施の形態における映像処理装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、映像を構成する2以上のフレームのうちの2以上のフレーム間の変化を示す情報であるフレーム間変化情報を取得する変化情報取得部と、前記フレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応する第一の箇所を決定する箇所決定部と、前記箇所決定部が決定した第一の箇所であり、映像の中の箇所を視覚的に認識可能に出力する箇所出力部として機能させるためのプログラムである。
また、上記プログラムにおいて、前記変化情報取得部は、2つのフレーム間の変化に関する2以上の特徴量を取得し、当該2以上の特徴量を用いて、フレーム間変化情報を取得するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記予め決められた条件に関する第一選択条件を受け付ける受付部として、コンピュータをさらに機能させ、前記箇所決定部は、前記フレーム間変化情報が前記第一選択条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応する第一の箇所を決定するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記受付部は、前記箇所出力部が出力した1または2つの第一の箇所により区切られる2以上のシーンの中の一のシーンの選択を受け付け、前記箇所出力部は、前記受付部が受け付けた選択に対応する一のシーンに対応する表示を、他のシーンに対応する表示と比較して、強調する態様で出力するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記受付部が受け付けた選択に対応する一のシーンに対応する部分映像を出力する部分映像出力部として、コンピュータをさらに機能させるプログラムであることは好適である。
(実施の形態3)
本実施の形態において、画面分割し、2以上の各シーンを分割画面に同時再生する映像処理装置について説明する。
また、本実施の形態において、受け付けた第一選択条件によりシーン数を変更し、当該シーン数により画面分割数が異なる映像処理装置について説明する。
また、本実施の形態において、2以上の分割画面のうち、1以上の分割画面の選択を受け付け、当該選択を受け付けた分割画面に対応する部分映像を取得し、ダイジェスト映像を構成する映像処理装置について説明する。
図14は、本実施の形態における映像処理装置3のブロック図である。映像処理装置3は、格納部11、受付部32、処理部33、および出力部34を備える。
処理部33は、変化情報取得部131、箇所決定部231、部分映像取得部232、および蓄積部333を備える。出力部34は、部分映像出力部341を備える。
受付部32は、各種の指示や情報等を受け付ける。各種の指示や情報等とは、例えば、第一選択条件である。また、 各種の指示や情報等とは、例えば、分割画面の選択指示である。なお、分割画面の選択指示は、部分映像の選択指示である、と言っても良い。受付部32は、2以上の分割画面のうち、1または2以上の分割画面の選択指示を受け付ける。
各種の指示や情報等の入力手段は、キーボードやマウスやメニュー画面によるもの等、何でも良い。受付部32は、キーボード等の入力手段のデバイスドライバーや、メニュー画面の制御ソフトウェア等で実現され得る。
処理部33は、各種の処理を行う。各種の処理とは、例えば、変化情報取得部131、箇所決定部231、部分映像取得部232、蓄積部333等が行う処理である。
蓄積部333は、部分映像取得部232が取得した1以上の部分映像を有するダイジェスト映像を蓄積する。
出力部34は、各種の情報を出力する。各種の情報とは、例えば、部分映像である。出力部34は、後述するフレーム間閾値を入力するフィールド等を出力しても良い。
部分映像出力部341は、1つまたは2つの第一の箇所により区切られるシーンに対応する2以上の各部分映像を、分割画面に同時再生する。分割画面とは、画面の中の分割された領域である。
部分映像出力部341は、第一の箇所の数に対応するシーン数に応じて分割された各分割画面に、1つまたは2つの第一の箇所により区切られる2以上の各シーンに対応する各部分映像を、同時再生することは好適である。なお、部分映像出力部341は、分割画面に部分映像を繰り返し再生しても良い。複数の分割画面(ウィンドウ)に、異なる映像を同時再生する技術は公知技術であるので詳細な説明は省略する。
部分映像出力部341は、例えば、第一の箇所の数に対応するシーン数に応じた分割画面の数を決定し、分割画面の数に合致する各分割画面に、1つまたは2つの第一の箇所により区切られるすべてのシーンに対応する2以上の各部分映像を、同時再生する。第一の箇所の数に対応するシーン数は、通常、「第一の箇所の数+1」である。例えば、シーン数と分割画面の態様の情報との組が2組以上、格納部11に格納されており、部分映像出力部341は、第一の箇所の数に対応するシーン数をキーにして格納部11を検索し、分割画面の態様の情報を取得する。分割画面の態様の情報は、例えば、分割画面数、「n×m(n,mは自然数であり、nは横の画面の分割数、mは縦の画面の分割数)」などの情報である。
部分映像出力部341は、受付部32が受け付けた選択に対応する一の部分映像に対応する分割画面を、他の部分映像に対応する分割画面と比較して、強調する態様で出力する。強調する態様は、例えば、分割画面の属性値(枠の線の属性値、背景の属性値など)を、他の分割画面の属性値と異なる属性値にすること等である。
処理部33、変化情報取得部131、箇所決定部231、部分映像取得部232、および蓄積部333は、通常、MPUやメモリ等から実現され得る。処理部33等の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。
出力部34、および部分映像出力部341は、ディスプレイやスピーカー等の出力デバイスを含むと考えても含まないと考えても良い。出力部34等は、出力デバイスのドライバーソフトまたは、出力デバイスのドライバーソフトと出力デバイス等で実現され得る。
次に、映像処理装置3の動作について、図15のフローチャートを用いて説明する。図15のフローチャートにおいて、図2、図8のフローチャートと同一のステップについて、説明を省略する。
(ステップS1501)部分映像出力部341は、箇所決定部231が決定した第一の箇所の数を取得する。次に、部分映像出力部341は、第一の箇所の数+1であるシーン数を取得する。次に、部分映像出力部341は、シーン数に応じた分割画面の数を決定する。部分映像出力部341は、シーン数と同じ数を分割画面数としても良いし、「n×m<=シーン数(n,mは自然数であり、nは横の画面の分割数、mは縦の画面の分割数)」を満たし、「n×m−シーン数」が最小となる「n×m」の分割画面数とする等しても良い。
(ステップS1502)部分映像出力部341は、部分映像を再生する。部分映像再生処理について、図16のフローチャートを用いて説明する。
(ステップS1503)受付部32は、部分映像出力部341が画面を分割して出力している2以上のシーン等の中の一のシーン等の選択を受け付けたか否かを判断する。一のシーン等の選択を受け付けた場合はステップステップS1504に行き、一のシーン等の選択を受け付けない場合はステップS808に行く。シーン等とは、シーンまたはシーンの一部の映像である。なお、シーンの一部の映像の選択を受け付ける前には、シーンの一部の映像の最後のフレームが決定している必要がある。シーンの一部の映像の最後のフレームは、実施の形態1で説明したように、第二選択条件を用いて自動的に決定されても良いし、ユーザの指示により決定されても良い。なお、シーンの一部の映像とは、部分映像である。また、シーンも部分映像と言っても良い。
(ステップS1504)部分映像出力部341は、シーン等が選択されたことを視覚的に認識可能なように、選択されたシーン等に対応する表示を変更する。ステップS801に戻る。
なお、図15のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
次に、ステップS1502の部分映像再生処理について、図16のフローチャートを用いて説明する。
(ステップS1601)部分映像出力部341は、カウンタiに1を代入する。
(ステップS1602)部分映像出力部341は、再生対象の映像の中に、i番目のシーンが存在するか否かを判断する。i番目のシーンが存在する場合はステップS1603に行き、i番目のシーンが存在しない場合は上位処理にリターンする。なお、部分映像出力部341は、例えば、iが1である場合、または(i−1)番目の第一の箇所の情報が存在する場合に、i番目のシーンが存在すると判断する。また、部分映像出力部341は、再生対象の映像の中からi番目のシーンを構成する部分映像を取得していき、映像の最終フレームが取得できるまで、i番目のシーンが存在すると判断しても良い。なお、第一の箇所の情報は、箇所決定部231が取得し、少なくとも図示しないバッファや格納部11に格納されている。
(ステップS1603)部分映像出力部341は、画面の分割領域の中のi番目のウィンドウ(分割領域)の領域の情報を取得する。なお、領域の情報は、例えば、ウィンドウの左上座標および右下座標である。
(ステップS1604)部分映像出力部341は、i番目のシーンの映像を、ステップS1603で取得したウィンドウの領域の情報に対応するウィンドウの領域に再生する。
(ステップS1605)部分映像出力部341は、カウンタiを1、インクリメントする。ステップS1602に戻る。
以下、本実施の形態における映像処理装置3の具体的な動作について説明する。
今、格納部11には、編集対象の一の映像が格納されている、とする。なお、一の映像は、実施の形態1の具体例の説明で用いた映像と同じであり、例えば、フレーム番号0からフレーム番号17999の18000フレームを有する映像である、とする。かかる状況において、以下の2つの具体例について説明する。具体例1は、シーンの開始フレームが自動的に決定され、ユーザがシーンの開始フレームを決定するための第一選択条件を変更した場合に、動的にシーンの分割が変更される場合である。具体例2は、ユーザのシーン選択により、ダイジェスト動画が生成される場合である。
かかる状況において、2つの具体例について説明する。具体例1は、シーンの開始フレームが自動的に決定され、ユーザがシーンの開始フレームを決定するための第一選択条件を変更した場合に、動的にシーンの分割が変更される場合である。具体例2は、ユーザのシーンの選択により、ダイジェスト動画が生成される場合である。
(具体例1)
まず、ユーザは、映像処理装置2に開始指示を入力した、とする。次に、映像処理装置2の受付部22は、開始指示を受け付ける。そして、実施の形態2で説明したように、変化情報取得部131は、2つのフレームの間のフレーム間変化情報を、フレーム毎に取得する。変化情報取得部131は、例えば、図6に示すフレーム間変化情報管理表を蓄積する。
次に、ユーザは、シーンの開始フレームを決定するための第一選択条件として、フレーム間変化情報の閾値「8」を入力した、とする。そして、受付部22は、第一選択条件「8<=フレーム間変化情報」を受け付ける。次に、蓄積部233は、第一選択条件「8<=フレーム間変化情報」を選択条件格納部112に蓄積する。
次に、箇所決定部231は、第一選択条件「8<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「6」等を取得する。なお、箇所決定部231が取得した1以上のフレーム番号は、第一の箇所を示す情報である。
次に、部分映像出力部341は、箇所決定部231が取得した第一の箇所の数を取得する。ここで、部分映像出力部341は、第一の箇所の数「8」を取得した、とする。そして、部分映像出力部341は、シーン数「8+1=9」を取得する。
次に、部分映像出力部341は、シーン数「9」に応じた分割画面の数を決定する。ここで、部分映像出力部341は、「3×3」(横3、縦3に画面を分割すること)の分割画面の情報を得る。なお、例えば、格納部11に、シーン数と分割画面の情報との対の情報が格納されており、部分映像出力部341は、シーン数「9」に対応する分割画面の情報を格納部11から取得する。分割画面の情報は、例えば、「m×m」、各分割領域を特定する情報(例えば、分割領域の左上座標、右下座標)の集合等である。
次に、部分映像出力部341は、部分映像再生処理を行う。つまり、9つの各シーンを、9つのうちの対応する分割領域に再生する。9つの各シーンは、例えば、同時に、繰り返し再生される。かかる出力例は、図17である。図17において、部分映像の再生画面において、9つの分割領域に各シーンが同時再生されている(1601等を参照)。また、ユーザが入力した閾値であり、第一選択条件を構成する閾値「8」は、1602のフィールドに表示されている。
次に、ユーザは、第一選択条件として、フレーム間変化情報の閾値を「8」から「6」に変更した、とする。そして、受付部22は、第一選択条件「6<=フレーム間変化情報」を受け付ける。次に、蓄積部233は、第一選択条件「6<=フレーム間変化情報」を選択条件格納部112に蓄積する。
次に、箇所決定部231は、第一選択条件「6<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「3」「6」等を取得する。なお、箇所決定部231が取得した1以上のフレーム番号は、第一の箇所を示す情報である。
次に、部分映像出力部341は、箇所決定部231が取得した第一の箇所の数を取得する。ここで、部分映像出力部341は、第一の箇所の数「13」を取得した、とする。そして、部分映像出力部341は、シーン数「13+1=14」を取得する。
次に、部分映像出力部341は、シーン数「14」に応じた分割画面の数を決定する。ここで、部分映像出力部341は、「4×4」(横4、縦4に画面を分割すること)の分割画面の情報を得た、とする。
次に、部分映像出力部341は、部分映像再生処理を行う。つまり、14つの各シーンを、16のうちの対応する分割領域に再生する。14つの各シーンは、例えば、同時に、繰り返し再生される。かかる出力例は、図18である。図18において、部分映像の再生画面において、14つの分割領域に各シーンが同時再生されている。また、2つの分割領域には、部分映像が再生されていない。
また、次に、ユーザは、第一選択条件として、フレーム間変化情報の閾値を「6」から「1」に変更した、とする。そして、受付部22は、第一選択条件「1<=フレーム間変化情報」を受け付ける。次に、蓄積部233は、第一選択条件「1<=フレーム間変化情報」を選択条件格納部112に蓄積する。
次に、箇所決定部231は、第一選択条件「1<=フレーム間変化情報」に合致するフレームを、図6のフレーム間変化情報管理表から選択する。つまり、箇所決定部231は、フレーム番号「1」「2」「3」「4」「5」「6」「8」等を取得する。なお、箇所決定部231が取得した1以上のフレーム番号は、第一の箇所を示す情報である。
次に、部分映像出力部341は、箇所決定部231が取得した第一の箇所の数を取得する。ここで、部分映像出力部341は、第一の箇所の数「107」を取得した、とする。そして、部分映像出力部341は、シーン数「107+1=108」を取得する。
次に、部分映像出力部341は、シーン数「108」に応じた分割画面の数を決定する。ここで、部分映像出力部341は、「5×5」(横5、縦5に画面を分割すること)の分割画面の情報を得た、とする。なお、本具体例において、最も分割数が多い分割態様が「5×5」である、とする。
次に、部分映像出力部341は、部分映像再生処理を行う。つまり、部分映像出力部341は、108の各シーンを、最初のジーンから順に、25の各分割領域に再生する。ここで、部分映像出力部341は、26以降のシーンは、再生できていない。かかる出力例は、図19である。
そして、図19において、ユーザは、次のシーン群を再生表示させる画面に切り替えるためのボタン(図示しない)を押下した場合、受付部32は、画面切替指示を受け付ける。そして、画面切替指示の受け付けに応じて、部分映像出力部341は、26番目から50番目までの各シーンを、25の各分割領域に同時再生される画面を表示する、とする。
以上、本具体例において、ユーザは、容易にシーンの分割を変更できる。そして、シーンの数に応じて、画面が複数のウィンドウに分割され、複数のシーンが同時再生される。なお、本具体例において、後に説明する具体例2と同様、図17や図18や図19等の画面から、ユーザが1以上の部分映像(ここでは、シーンと言っても良い)を選択し、選択された1以上の部分映像からなるダイジェスト映像を取得し、蓄積しても良いことは言うまでもない。
(具体例2)
今、第一選択条件「6<=フレーム間変化情報」が選択条件格納部112に格納されており、図18のように「4×4」の分割領域で14のシーンが同時かつ繰り返し再生されている、とする。
かかる状況において、ユーザは、再生されている複数のシーンの動画を見ながら、ダイジェスト映像に含めたいシーンを選択する。ここで、ユーザは、1701の分割領域を指示した、とする。そして、受付部32は、部分映像出力部341が画面を分割して出力している2以上のシーン等の中の、1701の分割領域で再生されているシーン等の選択を受け付ける。
次に、部分映像出力部341は、シーン等が選択されたことを視覚的に認識可能なように、1701の分割領域の表示を変更する。ここでは、部分映像出力部341は、1701の分割領域の表示を網掛けにした、とする。
そして、ユーザは、他の分割領域も指示した、とする。そして、受付部32は、指示された分割領域で再生されているシーン等の選択を受け付ける。
次に、ユーザは、ダイジェスト映像取得指示を入力した、とする。そして、受付部22は、ダイジェスト映像取得指示を受け付ける。
次に、部分映像取得部232は、選択された1以上のシーンを取得する。そして、蓄積部233は、部分映像取得部232が取得した1以上のシーンを有するダイジェスト映像を構成し、ダイジェスト映像格納部113に蓄積する。
以上、本具体例において、ユーザは、分割領域に再生されている部分映像を見ながら、部分映像を選択できる。そして、選択された1または2以上の部分映像を有するダイジェスト映像を自動的に構成し、蓄積できる。
以上、本実施の形態によれば、映像内のシーンの切り替わりの箇所を適切に明示できる。また、本実施の形態によれば、シーンの切り替わりの箇所を動的に変更し、適切に明示できる。また、本実施の形態によれば、シーンの選択が容易に行われる。また、本実施の形態によれば、2以上の各シーンに対応する部分映像を同時に再生できる。また、本実施の形態によれば、入力した条件に対応するシーンに映像を分割でき、かつすべてのシーンに対応する部分映像を同時に再生できる。さらに、本実施の形態によれば、選択した部分映像が明示できる。
なお、上記の具体例の図17から図19において、第一選択条件は、数値で入力されたフレーム間しきい値であった。しかし、第一選択条件の入力は、図20に示すように、スライダーバー等の図柄(図形といっても良い)による、直感的な操作による図的な入力であっても良い。図20において、2001は、映像を構成するフレームのフレーム間変化情報を線で接続し、グラフ化したものである。2002は、第一選択条件の入力のためのインターフェイスであり、スライダーバーである。2003は、第一選択条件の入力のためのバーである。2004の位置がシーンまたは部分映像を構成する開始フレームの閾値である。なお、図2の2001のグラフの縦軸はフレーム間変化情報の軸であり、横軸は時間軸である。
また、図20において、2005の5フレーム、または映像の開始フレームと2005の5フレームとを加えた6フレームが、シーンまたは部分映像を構成する開始フレームとなる。図20において、2004で示されたフレーム間変化情報の閾値より小さいフレーム間変化情報のフレームからフレーム間変化情報の閾値以上のフレーム間変化情報のフレームに変わったところのフレームがシーンまたは部分映像を構成する開始フレームとなる。
2006は、映像の再生位置を示したり、操作したりするシークバーである。また、2007は、映像の再生位置を示すバーである。2008は、再生位置を移動させるバーである。
また、本実施の形態における映像処理装置3を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、映像を構成する2以上のフレームのうちの2以上のフレーム間の変化を示す情報であるフレーム間変化情報を取得する変化情報取得部と、前記フレーム間変化情報が予め決められた条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応する第一の箇所を決定する箇所決定部と、1または2つの第一の箇所により区切られるシーンに対応する2以上の各部分映像を、画面の中の分割された領域である分割画面に同時再生する部分映像出力部として機能させるためのプログラムである。
また、上記プログラムにおいて、前記予め決められた条件に関する第一選択条件を受け付ける受付部として、コンピュータをさらに機能させ、前記箇所決定部は、前記フレーム間変化情報が前記第一選択条件を満たすほど大きな変化を示す情報である場合、当該フレーム間変化情報に対応する第一の箇所を決定し、前記部分映像出力部は、前記第一の箇所の数に対応するシーン数に応じた分割画面の数を決定し、当該分割画面の数に合致する各分割画面に、1または2つの第一の箇所により区切られるすべてのシーンに対応する2以上の各部分映像を、同時再生するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記受付部は、前記部分映像出力部が出力している2以上の部分映像の中の一の部分映像の選択を受け付け、前記部分映像出力部は、前記受付部が受け付けた選択に対応する一の部分映像に対応する分割画面を、他の部分映像に対応する分割画面と比較して、強調する態様で出力するものとして、コンピュータを機能させるプログラムであることは好適である。
また、上記プログラムにおいて、前記受付部が受け付けたシーンの選択または部分映像の選択に対応する1または2以上の部分映像を取得する部分映像取得部と、前記部分映像取得部が取得した1以上の部分映像からを有するダイジェスト映像を蓄積する蓄積部として、さらにコンピュータを機能させるプログラムであることは好適である。
また、図21は、本明細書で述べたプログラムを実行して、上述した種々の実施の形態の映像処理装置2等を実現するコンピュータの外観を示す。上述の実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムで実現され得る。図21は、このコンピュータシステム300の概観図であり、図22は、システム300のブロック図である。
図21において、コンピュータシステム300は、CD−ROMドライブを含むコンピュータ301と、キーボード302と、マウス303と、モニタ304とを含む。
図22において、コンピュータ301は、CD−ROMドライブ3012に加えて、MPU3013と、CD−ROMドライブ3012等に接続されたバス3014と、ブートアッププログラム等のプログラムを記憶するためのROM3015と、MPU3013に接続され、アプリケーションプログラムの命令を一時的に記憶するとともに一時記憶空間を提供するためのRAM3016と、アプリケーションプログラム、システムプログラム、及びデータを記憶するためのハードディスク3017とを含む。ここでは、図示しないが、コンピュータ301は、さらに、LANへの接続を提供するネットワークカードを含んでも良い。
コンピュータシステム300に、上述した実施の形態の映像処理装置2等の機能を実行させるプログラムは、CD−ROM3101に記憶されて、CD−ROMドライブ3012に挿入され、さらにハードディスク3017に転送されても良い。これに代えて、プログラムは、図示しないネットワークを介してコンピュータ301に送信され、ハードディスク3017に記憶されても良い。プログラムは実行の際にRAM3016にロードされる。プログラムは、CD−ROM3101またはネットワークから直接、ロードされても良い。
プログラムは、コンピュータ301に、上述した実施の形態の映像処理装置2等の機能を実行させるオペレーティングシステム(OS)、またはサードパーティープログラム等は、必ずしも含まなくても良い。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいれば良い。コンピュータシステム300がどのように動作するかは周知であり、詳細な説明は省略する。
なお、上記プログラムにおいて、情報を送信するステップや、情報を受信するステップなどでは、ハードウェアによって行われる処理、例えば、送信ステップにおけるモデムやインターフェースカードなどで行われる処理(ハードウェアでしか行われない処理)は含まれない。
また、上記プログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
また、上記各実施の形態において、一の装置に存在する2以上の通信手段は、物理的に一の媒体で実現されても良いことは言うまでもない。
また、上記各実施の形態において、各処理は、単一の装置によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。