以下、この発明によるコンテンツ再生装置およびコンテンツ再生方法の実施形態を、図を参照しながら説明する。以下に説明する実施形態は、テレビ放送番組およびインターネットからダウンロードした映像・音声コンテンツを記録再生する記録再生装置に、この発明を適用した場合であり、再生対象のコンテンツは、記録媒体に記録されたテレビ放送番組やダウンロードされたコンテンツなどとされている。なお、以下の実施形態は、記録再生装置にこの発明を適用した場合の例であり、コンテンツ再生装置およびコンテンツ再生方法の実施形態は、当該記録再生装置の再生系に、それぞれ具現化されている。
[第1の実施形態]
第1の実施形態は、受信したテレビ放送番組の映像信号および音声信号からなる情報信号を、内蔵するハードディスク装置などからなる内蔵記録媒体に記録し、また、この内蔵記録媒体に記録された情報信号を読み出して再生する機能を備える記録再生装置に、この発明を適用した場合の例である。
この実施形態の記録再生装置は、記録媒体としてDVDなどのリムーバルな外部記録媒体を用いることができるようにされており、当該外部記録媒体に対しても、この発明が同様に適用できるようにされているが、説明が煩雑になるので、図1の例では、外部記録媒体への記録再生の系は省略してある。以下の説明においても、便宜上、記録媒体は内蔵記録媒体のみを用いるものとし、外部記録媒体に対する記録再生処理は省略してある。
この例の記録再生装置は、テレビ放送番組などの映像信号および音声信号を内蔵記録媒体に記録し、また、この内蔵記録媒体に記録されている映像信号および音声信号を再生する機能を備えるだけでなく、記録するテレビ放送番組などの映像信号および音声信号または再生した映像信号および音声信号の特徴量(特徴データ)を検出し、その検出出力から、特徴点としてのシーン変化点を検出し、その検出したシーン変化点の情報のうちの必要なものを、テレビ放送番組などの情報信号と共に、記録媒体に記録する機能を備える。
ここで、シーン変化点は、情報信号の区切りに対応し、例えば番組本編とコマーシャル(以下、CMと略称する)との区切りのみではなく、番組本編内の番組宣伝の区間の開始点および終了点、番組オープニングや番組エンディングの区間の開始点や終了点の他、番組本編内で、場面が大きく変化する場面変化点(いわゆるシーンチェンジ)を含む。また、この実施形態では、複数個のCMが連続するとき、それぞれのCMの開始点、終了点もシーン変化点として検出することができるようにされている。
なお、この実施形態の説明においては、隣接するシーン変化点により特定されるテレビ放送番組の情報信号(映像信号や音声信号)の区間、すなわち、隣接するシーン変化点の間の区間(これを分節区間と称することとする)を、シーンと呼ぶことにする。このシーンは、最短で数秒程度の区間のものであり、番組内のスポーツコーナーや料理コーナーなどの「コーナー」は、通常、連続する複数個のシーンからなる。ただし、検出されたシーン区間が長い場合には、コーナーが1個のシーンからなる場合もある。
[第1の実施形態の記録再生装置のハードウエア構成例]
図1は、第1の実施形態の記録再生装置のハードウエア構成例を示すブロックである。図1において、システムコントローラ部20は、マイクロコンピュータを備えて構成されるもので、この例の記録再生装置における各種モードの制御およびその他の動作制御を行なう。
このシステムコントローラ部20には、例えばリモートコマンダ22を用いたユーザの操作入力に応じて操作入力情報が、ユーザ入力インターフェース部21を通じて供給される。システムコントローラ部20は、入力された操作入力情報を判別し、当該操作入力情報に応じた処理を実行する。
システムコントローラ部20には、表示処理部23を通じて、例えばLCD(Liquid Crystal Display)などからなる表示部24が接続されており、この表示部24に、ユーザの操作入力に際して参考となる表示情報が表示される。ユーザは、この表示部24の表示を見ながら、種々の操作入力をすることができる。
<記録系処理>
先ず、図1を参照しながら、この例の記録再生装置の記録系について説明する。
ユーザが、例えばリモートコマンダ22を用いて記録指示のコマンド入力をすると、その操作情報が、ユーザインターフェース部21を通じてシステムコントローラ部20に供給され、このシステムコントローラ部20による制御の下で、記録再生装置は、以下のような記録処理を行なう。
放送受信部2は、この例では、地上波アナログテレビ放送の受信用として、テレビチューナ、映像および音声中間周波回路および映像および音声検波回路を備える。
前述の記録指示のコマンド入力に先立ち、ユーザは、リモートコマンダ22を用いて、選局入力操作をする。すると、その操作情報が、ユーザインターフェース部21を通じてシステムコントローラ部20に供給され、システムコントローラ部20は、ユーザの選局操作に応じた放送チャンネルを選択するようにするための選局制御情報を放送受信部2に供給する。この選局の際、システムコントローラ部20は、表示処理部23を通じて表示部24に選局中の放送チャンネルの表示を行なうので、ユーザは、この表示部24の表示を見ながら、選局操作をする。
放送受信部2は、この選局制御情報を受けて、受信アンテナ1で受信したテレビ放送電波から、ユーザが選局した放送チャンネルの放送番組を選択抽出し、当該選択抽出した放送番組から映像信号および音声信号を出力する。
放送受信部2で選択抽出されたテレビ放送番組の映像信号および音声信号は、映像信号記録エンコード部3および音声信号記録エンコード部4に供給されて、所定のサンプリング周波数、所定の量子化ビット数で、A/D(Analog to Digital)変換信号処理が行われ、その変換後のデジタル映像信号およびデジタル音声信号が、記録エンコード処理される。
ここで記録エンコード処理としては、デジタル音声信号に対しては、例えばMPEGオーディオやAC−3オーディオ(ドルビーAC−3、またはAudio Code Number 3)などの所定の帯域圧縮方式でデータ圧縮処理が行われる。
また、デジタル映像信号に対しては、記録エンコード処理として、例えばMPEGビデオやウェーブレット変換などの所定の帯域圧縮方式でデータ圧縮処理が行われる。そして、データ圧縮処理された映像データは、前記圧縮音声データと多重化されて、記録処理部5を通じて内蔵の記録媒体6に記録される。
このとき、記録される放送番組には識別情報(記録番組識別情報という)が付与され、圧縮映像データおよび圧縮音声データは、この記録番組識別情報が付加されて記録媒体6に記録される。この記録番組識別情報は、再生時の検索用に用いられる。ここで、内蔵の記録媒体6は、この例では、ハードディスク装置で構成される。
また、この例の記録再生装置では、放送受信部2では、例えば垂直ブランキング期間に重畳されている放送番組に関する情報を抽出し、当該抽出した情報をジャンル判定部7に供給される。ジャンル判定部7は、受け取った放送番組に関する情報から放送番組コンテンツの分類種別、つまり、ジャンルを判定し、その判定結果をシステムコントローラ部20に入力するようにする。
また、この例の記録再生装置では、映像信号記録エンコード部3からのデジタル映像信号および音声信号記録エンコード部4からのデジタル音声信号は、特徴抽出処理部8に供給されて、予め定められた種々の特徴データが検出され、その検出された特徴データがシーン変化点検出部9に供給されると共に、システムコントローラ部20に供給される。
特徴抽出処理部8で行なう特徴データの検出としては、番組本編とCMとの区切り、複数個のCMが連続するとき、それぞれのCMの開始点、終了点を検出するためのものとしては、無音区間の検出、黒レベル区間の検出などが用いられる。また、CM区間の時間長は15秒、30秒、45秒、60秒などのように、15秒の倍数となっているので、検出された無音区間や黒レベル区間の時間長さが15秒の倍数となっているかもCM区間の検出に用いられる。
また、その他の特徴データの検出としては、シーンチェンジの検出、テロップの検出、人物の検出、肌色検出、トーク検出、音楽検出、盛り上がり検出などが用いられる。ここで、盛り上がり検出は、静かな状態から急激な音量変化があったり、大きな拍手があったりすることを検出することにより行なわれる。
すなわち、特徴抽出処理部8では、この例では、各種映像特性データおよび各種音声特性データと所定のパラメータデータとにより、所定のテロップ特徴データ(テロップ区間判定データ)、人物特徴データその他の画像特徴データ(画像特徴区間判定データ)、および話者音声特徴データ(話者音声判定データ)、拍手歓声特徴データ(拍手歓声判定データ)、その他の音声特徴データ(音声特徴区間判定データ)の各種特徴抽出処理が行われる。
なお、特徴抽出処理部8には、映像信号記録エンコード処理部3および音声信号記録エンコード部4からの、データ圧縮処理過程の途中で得られる映像データおよび音声データが入力される。この例では、後述するように、再生信号についても特徴抽出処理を行ない、シーン変化点の検出を行なうことを考慮して、データ圧縮処理過程の途中で得られるデータを用いて特徴抽出処理およびシーン変化点検出部9においてシーン変化点の検出を行なうようにする。
このようにすれば、再生信号について、特徴抽出処理およびシーン変化点の検出を行なう際に、再生信号を完全に圧縮デコードして、元のデジタル音声データおよびデジタル映像データに戻す必要がなく、圧縮デコード処理の途中のデータを用いて特徴抽出処理およびシーン変化点検出を行なうことができ、検出処理が早くなるというメリットがある。
シーン変化点検出部9では、特徴抽出処理部8で抽出された特徴データからシーン変化点を検出する。この場合に、シーン変化点検出部9は、前述したように、例えば番組本編とCMとの区切りのみではなく、番組本編内の番組宣伝の区間の開始点および終了点、番組オープニングや番組エンディングの区間の開始点や終了点の他、番組本編内で、場面が大きく変化する場面変化点、複数個のCMが連続するとき、それぞれのCMの開始点、終了点などを、区切りとしてのシーン変化点(特徴点)として検出する。この例の場合、このシーン変化点の検出データは、CMや番組本編、番組オープニング、番組エンディングの開始点および終了点の位置情報(例えばCMを含めた放送番組の先頭位置を基準にしたフレーム番号(あるいはフィールド番号))である。
なお、受信した放送番組の情報に、番組タイトルや番組のジャンルなどの情報が含まれている場合には、特徴抽出処理部8では、これら番組タイトルやジャンルの情報をも、特徴データとして検出し、シーン変化点検出部9に送る。したがって、シーン変化点検出部9は、これら番組タイトルやジャンルの情報をも用いて、シーン変化点の検出を行なう。
そして、シーン変化点検出部9からのシーン変化点の位置データは、システムコントローラ部20に供給される。システムコントローラ部20は、シーン変化点検出部9で検出されたシーン変化点の隣接するものの間の区間である分節区間(シーン)毎の、特徴データを生成し、付加情報ファイル生成部10に供給する。このときシステムコントローラ部20から付加情報ファイル生成部10に供給されるデータには、シーンを特定するための隣接するシーン変化点の位置情報の組と、当該シーンの特徴データとが含まれる。さらに、ジャンル判定部7で判定された記録された放送番組のジャンルも、付加情報の一部として付加情報ファイル生成部10に供給される。
付加情報ファイル生成部10は、システムコントローラ部20から受け取ったデータを付加情報ファイルに含めて、記録処理部5に送る。記録処理部5は、前述の記録番組識別情報により記録番組情報と対応付けて、付加情報ファイルを記録媒体6の所定の記録領域、この例では、付加情報ファイルの領域に記録するようにする。
この場合、シーン変化点の位置データは、この実施形態では、例えば、記録される放送番組のフレーム番号(またはフィールド番号)が用いられることにより、当該記録される放送番組の一塊について、その映像データおよび音声データのフレーム位置(またはフィールド位置)と対応付けられているものである。
なお、シーン毎の特徴データの抽出に関しては、詳しくは、例えば特願2004−233943に記載されたものを用いることができるが、ここでは、その詳細な説明は省略する。
図2に、付加情報ファイルとして記録されるデータの例を示す。この例では、特徴データは、シーン毎に検出された特徴種別と、各特徴種別の特徴量の一例としての検出割合とからなる。ここで、検出割合とは、例えば所定のシーン区間全体に対する所定の特徴データが検出された割合である。
例えば、あるシーン区間長がfaであるときに、ある特徴データPの検出区間が、前記faの一部f0およびf1であったと仮定した場合、特徴データPの検出割合Fは、
F=(f0+f1)/fa
で表される。
特徴種別は、例えば、次のように定義されたものである。図4および図5は、この特徴種別を説明するための図である。この例では、特徴データの属性情報としては、音声属性情報、色特徴情報、類似画像情報、人物特徴情報、テロップ特徴情報、カメラ特徴情報およびシーンチェンジ情報が用いられている。
そして、各特徴データの属性情報は、それぞれ複数個の特徴種別に分けられており、それらの特徴種別のそれぞれに対して、この例では、アルファベットと番号との組み合わせからなる特徴種別識別コードが付与されている。
すなわち、音声属性情報は、「話者音声」、「音楽」、「その他(歓声、拍手)」という3種の特徴種別に分けられ、そのそれぞれに対して、アルファベットAと番号との組み合わせ、この例では、A1,A2,A3が、特徴種別識別コードとして割り当てられている。
また、色特徴情報は、所定の色が画面上のどの領域で検出されるかを特徴種別として4種に分けられ、そのそれぞれに対して、アルファベットBと番号との組み合わせ、この例では、B1,B2,B3,B4が、特徴種別識別コードとして割り当てられている。なお、色特徴の検出領域は、この例では、図5に示すように、画面の垂直方向に4分割された4つの領域1、領域2、領域3、領域4とされている。
また、類似画像情報は、類似する画像の出現頻度の1位と2位とが特徴種別として2種に分けられ、そのそれぞれに対して、アルファベットCと番号との組み合わせ、この例では、C1,C2が、特徴種別識別コードとして割り当てられている。
また、人物特徴情報は、人物として検出される特徴が、画面上のどの領域で検出されるかを特徴種別として5種に分けられ、そのそれぞれに対して、アルファベットDと番号との組み合わせ、この例では、D1,D2,D3,D4,D5が、特徴種別識別コードとして割り当てられている。なお、人物特徴の検出領域は、この例では、図6に示すように、画面を縦横に分割して4分割した領域1、領域2、領域3、領域4と、中央の領域5との合計5個の領域とされる。
テロップ特徴情報は、テロップが画面上のどの領域で検出されるかを特徴種別として4種に分けられ、そのそれぞれに対して、アルファベットEと番号との組み合わせ、この例では、E1,E2,E3,E4が、特徴種別識別コードとして割り当てられている。なお、テロップ特徴情報の検出領域は、この例では、色特徴と同様に、図5に示すように、画面の垂直方向に4分割された4つの領域1、領域2、領域3、領域4とされている。
カメラ特徴情報は、カメラが静止している状態、ズーム状態、パン状態の3種を特徴種別としており、そのそれぞれに対して、アルファベットFと番号との組み合わせ、この例では、F1,F2,F3が、特徴種別識別コードとして割り当てられている。
図2に示したように、付加情報ファイルに記憶される特徴種別は、上述した特徴種別のうち、そのシーン区間に存在している特徴種別のコードと、その特徴量としての検出割合である。この場合に、シーンに存在していたすべての特徴種別を付加情報として記録するのではなく、特徴量が所定値以上のものを記録するようにする。
なお、シーン変化点検出部9からのシーン変化点の位置データや特徴データおよびジャンル情報は、付加情報ファイルとして記録するのではなく、記録処理部5内の多重化処理部に供給し、圧縮エンコード処理された映像データおよび音声データに多重化して、記録媒体6の所定の記録領域に記録するようにしてもよい。
図1の例の記録再生装置においては、記録するコンテンツは、放送受信部2で受信した放送番組のみに限られない。すなわち、この実施形態の記録再生装置は、通信インターフェース11を通じてインターネットにアクセスして、所定のコンテンツサーバから、映画、ニュース、ドラマ、スポーツ番組などのコンテンツをダウンロードして記録することができるように構成されている。
すなわち、コンテンツサーバからダウンロードして取得した映像データおよび音声データは、通信インターフェース11から、映像信号記録エンコード部3および音声信号記録エンコード部4に供給されて、上述の放送番組コンテンツの場合と同様にして記録媒体6に記録される。
このときにも、映像データや音声データから、特徴抽出処理部8で特徴データが抽出されると共に、シーン変化点検出部9でシーン変化点の検出が、前述した放送番組の場合と全く同様にして行われ、付加情報ファイルが生成されて、記録コンテンツデータに対応付けられて記録媒体6に記録される。
そして、この場合には、ダウンロードされるコンテンツのデータには、当該コンテンツのジャンル情報も含まれており、そのジャンル情報が通信インターフェース11からジャンル判定部7に供給されて、ダウンロードされたコンテンツのジャンルが判定される。そして、ジャンル判定部7で判定されたジャンルの情報は、システムコントローラ部20を通じて付加情報ファイルに含められて記録される。
なお、放送受信部2で受信された情報からジャンル情報が得られない場合に、通信インターフェース11を通じてインターネットにアクセスし、このインターネットを通じて放送番組の電信番組表データを取得し、その電子番組表データの中から、ジャンル判定部7が受信し記録した放送番組のジャンルを判定するようにすることもできる。
なお、ジャンル判定部7、特徴抽出処理部8、シーン変化点検出部9および付加情報ファイル生成部10の処理は、システムコントローラ部20のマイクロコンピュータによるソフトウエア処理とすることもできる。
<再生系処理>
次に、図1を参照しながら、この例の記録再生装置の再生系について説明する。
ユーザが、記録媒体6からの通常再生モードによる再生指示を、例えばリモートコマンダ22を通じて入力すると、ユーザ入力インターフェース部21を通じてシステムコントローラ部20にそれが入力される。システムコントローラ部20は、このユーザ入力を受けて、通常再生モードを行なうように読み出し制御部12を制御する。
読み出し制御部12は、このシステムコントローラ部20からの制御指示に応じて、記録媒体6から再生指定された放送番組の圧縮映像データおよび圧縮音声データを読み出し再生処理部13に供給する。再生処理部13は、記録媒体6から読み出された、ユーザにより再生指定された放送番組の圧縮映像データおよび圧縮音声データを、映像信号再生デコード出力部14および音声信号デコード出力部15に供給する。
映像信号再生デコード出力部14では、圧縮映像データは、記録時に帯域圧縮処理された信号処理方式に対応する所定のデコード処理がなされて、デジタル映像信号とされた後、D/A変換処理が行なわれ、アナログ映像信号として出力端子(図示は省略)を通じて出力される。
また、音声信号デコード出力部15では、圧縮音声データは、記録時に帯域圧縮処理された信号処理方式に対応する所定のデコード処理がなされ、そのデコード処理されて得られたデジタル音声信号が、D/A(Digital to Analog)変換処理され、これよりアナログ音声信号として、出力端子(図示は省略)を通じて出力される。
この実施形態の記録再生装置は、再生モードにおいて、ユーザが再生速度の変更制御をすることができるように構成されており、そのための操作ボタンがリモートコマンダ22に設けられており、その操作ボタンが操作されると、システムコントローラ部20は、その操作ボタンに応じた再生速度でコンテンツ再生するように構成されている。
例えば、再生中に、押下操作することにより、システムコントローラ部20が、当該押下操作区間を早送り再生するように制御する早送り操作ボタンや、押下操作されると、システムコントローラ部20が、その時点から一定時間分だけ先の再生位置まで、スキップあるいは高速再生をするように制御するスキップ再生指示操作ボタンを備えている。
また、この実施形態の記録再生装置は、再生中にユーザが操作をすることにより、システムコントローラ部20が、操作された所定のシーン区間をリピートさせるように制御するリピート操作ボタンを構成されている。
そして、この第1の実施形態の記録再生装置は、後述するように、早送り操作ボタンまたは巻き戻し再生ボタンが操作されたときに、通常の早送り再生や巻き戻し再生がされるモードの他、早送り操作ボタンまたは巻き戻し再生ボタンが操作されて、早送り再生や巻き戻し再生がされているときに、ユーザが何時も注目して視聴しているシーン区間(キーフレーム区間)と同一の特徴または類似する特徴を備えるシーン区間では自動的に再生速度をノーマル速度に変更制御してユーザの視聴に供するようにするキーフレーム検出モードが設定可能とされている。
すなわち、この実施形態の記録再生装置では、キーフレーム検出モードのオン/オフ操作ボタンを備え、キーフレーム検出モードをオンにするか、オフにするかを設定することができるようにされている。
そして、キーフレーム検出モードがオフであるときには、早送り操作ボタンまたは巻き戻し再生ボタンが操作されたときに、通常の早送り再生や巻き戻し再生がなされる。また、キーフレーム検出モードがオンであるときに、早送り操作ボタンまたは巻き戻し再生ボタンが操作されて早送り再生や巻き戻し再生がされると、この実施形態の記録再生装置では、ユーザが何時も注目して視聴しているシーン区間と同一または類似する特徴のシーン区間において自動的に再生速度がノーマル速度に変更制御されて再生がなされる。
そして、この第1の実施形態の記録再生装置は、ユーザがリピート再生したり、サーチ再生した後、ノーマル再生したりしたシーン区間については、そのリピート再生した回数やサーチ再生後にノーマル再生した回数などのユーザ評価(シーンの再生についての正方向のユーザ評価)を、当該シーンを備えるコンテンツ(この例では放送番組)のジャンルと、当該シーンの特徴データとに対応させて記憶するようにする。そして、この第1の実施形態では、この正方向のユーザ評価値が高いシーンを、対応するジャンルのキーフレーム(重要シーン)と呼ぶ。
そして、記憶する、ジャンルとキーフレームの特徴データと当該キーフレームのユーザ評価値との対応情報を、この第1の実施形態では、キーフレーム特徴情報と呼び、図1の記録再生装置においては、キーフレーム特徴情報メモリ部25に記憶するようにする。
このキーフレーム特徴情報は、コンテンツごとに記憶されるのではなく、ジャンルごとに記憶される。図7に、キーフレーム特徴情報メモリ部25に記憶されるキーフレーム特徴情報の例を示す。
すなわち、この例においては、各ジャンルごとに、キーフレームについての特徴データおよびユーザ評価値が記憶されるが、特徴データとしては、前述した特徴種別と特徴量(この例では検出割合)が記憶される。この例においては、キーフレームは、各ジャンルごとに複数個、記憶される。
そして、この実施形態では、一つのジャンルごとに記憶されている複数個のキーフレームのうち、例えば所定値以上の評価値となっているキーフレームと同一または類似するシーン区間を、キーフレーム検出モードがオンの状態において、ユーザが何時も注目しているキーフレーム(重要シーン)として、当該シーン区間をノーマル再生速度で再生するようにする。
なお、この実施形態では、実際的には、再生中には、前記リピート再生ボタン操作、早送り操作ボタンやノーマル速度再生操作ボタンの操作区間の情報を保持しておき、再生が終了したときに、保持していた各操作ボタンの操作区間の情報に基づいて、キーフレーム区間を検出する。そして、記録媒体6に記録されている付加情報ファイルを付加情報ファイル処理部16を介して読み出し、検出したキーフレームのシーン区間の特徴データを取得して、キーフレーム特徴情報メモリ部25に、検出したキーフレーム区間のキーフレーム特徴情報を記憶するようにする。
この際に、この実施形態においては、検出したキーフレームの特徴データが、キーフレーム特徴情報メモリ部25に既に記憶されている特徴データと同一または類似しているときは、既に当該キーフレーム特徴情報は記憶されているとして、当該記憶されているキーフレーム特徴情報のユーザ評価値を更新する。この例では、ユーザ評価値は回数(再生回数または検出回数)であるので、その回数を1だけ増加するようにする。
そして、この実施形態では、新たにキーフレームとして検出した類似する特徴データは、それまでキーフレーム特徴情報メモリ部25に記憶されている類似する特徴データとの間で、平均をとるなどして、新たな特徴データを記憶するキーフレーム特徴情報に反映させるようにする。
また、検出したキーフレームの特徴データが、キーフレーム特徴情報メモリ部25に既に記憶されている特徴データと同一または類似しておらず、新たなキーフレームであると検出されたときは、キーフレーム特徴情報メモリ部25の対応するジャンルにおける新たなキーフレーム特徴情報として追加記憶する。
このように、この例においては、再生終了後に、キーフレーム特徴情報メモリ部25の記憶内容が更新される。
なお、図7の例では、シーン番号が記憶されているが、これは、キーフレーム(重要シーン)を識別するためのものであって、記憶しなくてもよい。また、特徴データとしては、特徴量(例えば検出割合)を記憶せずに、特徴種別のみを記憶するようにしても良い。その場合のキーフレーム特徴情報メモリ部25の記憶データの例を図8に示す。
なお、通常再生モードがユーザにより指示されたときに、記録媒体6に記録された放送番組のデータに、付加情報ファイルが対応して記録されていないときには、この実施形態の記録再生装置は、ユーザに「必要な付加情報ファイルがないので、生成しますか?」という問合せをする。
そして、この問合せに対して、ユーザが「YES(付加情報ファイルを生成する)」と返答操作したときには、記録再生装置のシステムコントローラ部20は、再生モードの実行に先立ち、記録された放送番組の記録データを読み出して、再生処理部13、映像信号再生デコード出力部14および音声信号再生デコード出力部15を通じて、映像データおよび音声データを特徴抽出処理部8に供給し、特徴抽出処理部8での特徴データ抽出処理およびシーン変化点検出部9でのシーン変化点検出を実行するように制御する。そして、前述の図3に示したような、特徴抽出処理部8で抽出された特徴データとシーン変化点検出部9で検出されたシーン変化点の情報とを含む付加情報ファイルを、再生対象の放送番組の記録データに対応付けて、記録媒体6に記録するようにする。
なお、記録媒体6に記録されている放送番組の情報中に、シーン変化点情報、特徴データを含む付加情報ファイルが記録されていない状態は、例えばDVDなどの外部記録媒体から、テレビ放送番組コンテンツを記録媒体6に取り込んだ場合などに生じる。
これにより、例えば、外部記録媒体が、この実施形態の記録再生装置によって記録されたものではなく、付加情報ファイルが記録されていなくても、この実施形態の記録再生装置における後述するようなキーフレーム検出モードを実行することができるようになる。
[キーフレーム検出モード]
この実施形態の記録再生装置では、ユーザのボタン操作により、キーフレーム検出モードをオン・オフすることができる。そして、キーフレーム検出モードがオフとされているときには、前述したように、早送り操作や巻き戻し操作がユーザによりなされたときには、従来と同様の通常の早送り処理動作および巻き戻し処理動作がなされる。
また、キーフレーム検出モードがオンとされている状態で、早送り操作や巻き戻し操作がユーザによりなされたときには、システムコントローラ部20は、キーフレーム区間では、ノーマル再生速度として再生を実行し、その他の区間は、早送り処理動作および巻き戻し処理動作をするようにする。ここで、早送り処理動作や巻き戻し処理動作は、再生を伴わない動作であっても良いし、早送り再生動作や巻き戻し再生動作など再生動作を伴うものであっても良い。
このキーフレーム検出モードがオンとされている場合における動作を、図9〜図?を参照しながら具体例を挙げて説明する。
例えば図9は、ジャンルが「ニュース」の放送番組のシーンnからシーン(n+5)までの画像の一例であり、図10は、その各シーンn〜(n+5)の画像の特徴データの例を示すものである。
そして、図9の例においては、シーン(n+1)およびシーン(n+2)において、ユーザが例えばリピート再生の操作をした、あるいは、早送り状態からノーマル再生状態に移行させたなどのキーフレーム区間とするような操作をしたものとして、これらシーン(n+1)およびシーン(n+2)の区間がキーフレーム(重要シーン)区間とされた場合を想定している。
したがって、この図9の例の「ニュース」のコンテンツの再生が終了すると、この実施形態の記録再生装置は、図10において、シーン(n+1)およびシーン(n+2)について丸印を付与した特徴種別コードおよびその特徴量が、図7に示したようにして、キーフレーム特徴情報メモリ部25に記憶される。
そして、他の「ニュース」の放送番組の再生時において、キーフレーム検出モードがオンに設定されている状態で、ユーザにより早送り操作または巻き戻し操作がなされたときには、この実施形態の記録再生装置のシステムコントローラ部20は、当該他の「ニュース」の放送番組についての付加情報ファイルを、記録媒体6から付加情報ファイル処理部16を通じて読み出して、各シーンの特徴データを取得し、キーフレーム特徴情報メモリ部25に記憶されている、同じジャンルについてのキーフレームの特徴と比較しながら、当該他の「ニュース」の放送番組の高速再生を実行する。
そして、付加情報ファイルから取得した各シーンの特徴データと、キーフレーム特徴情報メモリ部25から読み出した、当該再生中の放送番組と同じジャンルについてのキーフレームの特徴データとの比較の結果、特徴データが同じあるいは類似するシーンを検出すると、図11に示すように、当該特徴データが類似するシーン区間においては、再生速度を高速再生速度から、ノーマル再生速度(1倍)に制御して、当該特徴データが類似するシーン区間の画像内容をノーマル再生するようにする。そして、当該特徴データが類似するシーン区間が終了すると、再度、ノーマル再生速度から高速再生速度に戻すようにする。
これにより、キーフレーム検出モードにおいては、ユーザが早送り操作または巻き戻し操作をすると、同じジャンルの番組で、何時も注目して観ているシーンは、自動的にノーマル再生速度で再生がなされる。したがって、この実施形態においては、ユーザは、当該注目して観ているシーンを、特別の操作なしにノーマル再生の状態で視聴することができるようになる。
図11の例では、キーフレーム検出モードのオン状態における再生速度制御は、所定の高速の状態からノーマル速度に、また、ノーマル速度から高速の状態に、というように2段階に行うようにするが、この2段階の再生速度制御は、ステップ的に変更しても良いし、また、図11の例のように、徐々に速度を下げたり、徐々に上げたりするようにしても良い。
そして、この場合に、検出するキーフレームは、キーフレーム特徴情報メモリ部25に記憶されている同一のジャンルの、最もユーザ評価値の高い特徴データと同一または類似するものとしても良いし、前述もしたように、ユーザ評価値が、予め定めた所定値よりも高い特徴データと同一または類似するものとしても良い。
また、ユーザ評価値に応じて多段階に再生速度を変化させるようにしても良い。例えば、図12(A)に示すように、ユーザ評価値のスレッショールド値として、0,E1,E2,E3(0<E1<E2<E3)の4値を設定し、検出されたキーフレームの評価値Eが、どのような値であるかに応じて、図12(B)または(C)に示すように、再生速度を多段階に変えるようにしても良い。
例えば、(1)0<E<E1のときには、図12(B)または(C)に示すように、再生速度を3倍速にする。(2)E1≦E<E2のときには、図12(B)または(C)に示すように、再生速度を2倍速にする。(3)E2≦E<E3のときには、図12(B)または(C)に示すように、再生速度を1.5倍速にする。(4)E3≦Eのときには、図12(B)または(C)に示すように、再生速度を1倍速(ノーマル速度)にする。
なお、図12(B)の場合は、再生速度をステップ状に変化させるように制御する場合であり、図12(C)の場合は、再生速度を穏やかに徐々に変化させるように制御する場合である。
図12(C)の場合の再生速度の変化こう配は、図13に示すように、減速のときと、加速のときとで変化させても良い。すなわち、図13(A)は、再生速度の減速は緩やかなこう配で行い、再生速度の加速は急峻なこう配で行う場合であり、また、図13(B)は、逆に、再生速度の減速は急峻なこう配で行い、再生速度の加速は穏やかなこう配で行う場合である。
[実施形態の記録再生装置における主要な動作処理の説明]
次に、上述のように構成された実施形態の記録再生装置における主要な動作処理を、図14〜図20のフローチャートを参照しながら説明する。以下に説明するフローチャートの各ステップの処理は、主としてシステムコントローラ部20を構成するマイクロコンピュータが実行するものである。
すなわち、図14に示すように、システムコントローラ部20は、ユーザ入力インターフェース部21の出力を監視することにより、ユーザ操作入力があるか否か監視する(ステップS1)。そして、ユーザ操作入力があったと判別したときには、システムコントローラ部20は、当該ユーザ操作入力に対応する動作モードを判定し(ステップS2)、判定した動作モードは記録開始操作であるか否か判別する(ステップS3)。
そして、ステップS3で、記録開始操作であると判別したときには、システムコントローラ部20は、記録処理ルーチンと、特徴抽出処理およびシーン変化点検出処理ルーチンとを、並行して実行する(ステップS4)。
そして、システムコントローラ部20は、記録停止のユーザ操作があったか否か監視し(ステップS5)、記録停止のユーザ操作を検知しないときには、ステップS4に戻って、記録処理ルーチンと、特徴抽出処理およびシーン変化点検出処理ルーチンとの並行実行を継続し、記録停止のユーザ操作がなされたと判別したときには、記録後処理として、付加情報ファイル生成および記録処理を実行(ステップS6)した後、ステップS1に戻る。
ステップS6の記録後処理においては、システムコントローラ部20は、前述したように、シーン変化点検出部9で検出されたシーン変化点のデータ(シーン変化点の組)と、特徴抽出処理部8で抽出された特徴データとを対応付けた付加情報を生成し、生成した付加情報を付加情報ファイルとして、記録した放送番組などのコンテンツの記録データに対応付けて記録媒体6に記録する処理を行う。この場合、付加情報ファイルと、記録した放送番組の記録データとの対応付けは、記録した放送番組などのコンテンツの識別情報により行なわれる。
なお、記録処理と並行してリアルタイムでなされたシーン変化点検出の検出結果、そのものを記録後処理で用いるシーン変化点の情報として用いるのではなく、記録後処理において、シーン変化点検出部9で、記録処理と並行してなされたシーン変化点検出の検出結果にさらに検討を加えて、より確からしいシーン変化点を検出し、当該より確からしいシーン変化点を付加情報ファイルに含めて記録するようにしてもよい。
ステップS4で実行される、記録処理と特徴抽出処理およびシーン変化点検出処理との並行処理ルーチンを、図15のフローチャートを参照して説明する。
先ず、システムコントローラ部20は、記録しようとするコンテンツのジャンルを検出する(ステップS11)。次に、システムコントローラ部20は、コンテンツデータを取り込む(ステップS12)。すなわち、システムコントローラ部20は、記録しようとするデータが放送受信部2からの放送番組の情報(映像情報および音声情報)であるときには、放送受信部2で選択受信した放送番組の情報を映像信号記録エンコード部3および音声信号記録エンコード部4に供給するように指示する。また、ダウンロードしたコンテンツデータを記録するときには、通信インターフェース11を通じて得たコンテンツデータを、映像信号記録エンコード部3および音声信号記録エンコード部4に供給するように指示する。
次に、システムコントローラ部20は、映像信号記録エンコード部3および音声信号記録エンコード部4に、コンテンツデータを記録エンコード処理するように指示し(ステップS13)、記録処理部5を制御して、記録媒体6に、その記録エンコード処理されたコンテンツの映像データおよび音声データを記録する(ステップS14)。
そして、システムコントローラ部20は、ユーザにより記録終了指示がなされたか否か判別し(ステップS15)、記録終了指示がなされてはいないと判別したときには、ステップS11に戻って、上述の記録処理を継続する。
ステップS11〜S14は、記録処理ルーチンを構成するもので、この記録処理ルーチンと並行して特徴量検出およびシーン変化点検出処理ルーチンがなされる。すなわち、システムコントローラ部20は、ステップS12で取り込まれた記録すべきデータを、特徴抽出処理部8にも供給するように指示すると共に、特徴抽出処理部8に特徴抽出処理の実行を指示する(ステップS16)。なお、前述したように、この例では、映像信号記録エンコード部3および音声信号記録エンコード部4からの圧縮途中のデータが特徴抽出処理部8に供給される。
特徴抽出処理部8は、この実行指示を受けて、前述した種々の特徴量の検出を実行し、その処理結果をシーン変化点検出部9に供給する。シーン変化点検出部9は、システムコントローラ部20の実行指示を受けて、上述したシーン変化点の検出処理を実行する(ステップS17)。そして、システムコントローラ部20は、特徴抽出処理部8で検出された特徴データと、シーン変化点検出部9で検出されたシーン変化点のデータとを、ステップS11で検出したジャンルに対応させて、内蔵するバッファメモリなどに記憶保持しておく(ステップS18)。
そして、システムコントローラ部20は、ユーザにより記録終了指示がなされたか否か判別し(ステップS19)、記録終了指示がなされてはいないと判別したときには、ステップS16に戻って、特徴抽出処理およびシーン変化点検出の処理を継続する。
なお、ステップS15の判別処理とステップS19の判別処理は、実際には、別々の判別処理ではなく、同一の判別処理であるが、ここでは、2つの処理ルーチンを並列に記述したため、便宜上、図15のように、2つの判別ステップに分離して記載している。
そして、システムコントローラ部20は、ステップS15、ステップS19で、ユーザにより記録終了指示がなされたと判別したときには、シーン変化点検出部9に指示して、バッファメモリに保持しているジャンルに対応した特徴データとシーン変化点データとを用いて、記録するための、より確からしいシーン変化点の情報を生成させるようにする(ステップS20)。
そして、システムコントローラ部20は、記録処理部5に対し、図2に示したような、ステップS20で生成されたシーン変化点の情報と、対応するシーン区間の特徴データとを、ジャンルに対応させた付加情報ファイルを、記録したコンテンツデータに対応付けた状態で、放送番組の記録データを記録した記録媒体に記録するように制御する(ステップS21)。
次に、図14のステップS3で、操作入力は、記録開始操作ではないと判別したときには、システムコントローラ部20は、操作入力は、キーフレーム検出モードのオン操作であるか否か判別し(図16のステップS31)、キーフレーム検出モードのオン操作ではないと判別したときには、通常再生モードの開始操作がなされたか否か判別する(ステップS32)。
ステップS32で、通常再生モードの開始操作がなされたと判別したときには、システムコントローラ部20は、記録媒体6から再生指定されたコンテンツの記録データを読み出すと共に、付加情報ファイルが検出できる場合には、当該付加情報ファイルを読み出して、通常再生を開始する(ステップS33)。
次に、システムコントローラ部20は、キーフレーム区間と評価されるようなユーザ操作がなされたか否か判別し(ステップS34)、なされていないと判別したときには、再生終了操作がなされたか、あるいはコンテンツが最後まで再生されて再生終了となったか否か判別する(ステップS35)。そして、システムコントローラ部20は、ステップS35で、再生終了ではないとは判別したときには、ステップS33に戻って再生を継続し、再生終了であると判別したときには、ステップS1に戻って、このステップS1以降を繰り返し実行するようにする。
また、ステップS34で、キーフレーム区間と評価されるようなユーザ操作、例えばリピート再生操作がなされたと判別したときには、システムコントローラ部20は、再生処理部13および付加情報ファイル処理部16を通じて記録媒体6から取得した付加情報ファイルから、再生されたコンテンツのジャンルと、キーフレーム区間と評価されるユーザ操作の対象シーンの特徴データを、得て認識する(図17のステップS41)。
次に、システムコントローラ部20は、キーフレーム特徴情報メモリ部25に、認識したジャンルについての特徴データと同等のもの、つまり、認識したジャンルについての特徴データと同じあるいは類似する特徴データが既に記憶されているか否か判別する(ステップS42)。なお、特徴データが類似するとは、複数個の特徴種別のうちの例えば1個が異なる、あるいは1個が欠落しているなどの状態をいう。また、特徴量が記憶されている場合には、特徴量が異なる場合を含むものである。
ステップS42で、既にキーフレーム特徴情報メモリ部25に、ステップS41で認識されたジャンルについての特徴データが記憶されていると判別したときには、システムコントローラ部20は、当該ジャンルの特徴データについての回数値を1だけ加算すると共に、ステップS41で認識された特徴データを、記憶されている特徴データに反映させる(ステップS43)。そして、図16のステップS35に進む。
ここで、ステップS41で認識された特徴データを、記憶されている特徴データに反映させる処理としては、記憶される特徴データに特徴量を含む場合には、ステップS41で認識された特徴データに含まれる特徴量と、記憶されている特徴データの特徴量との平均値を取る処理が例として挙げられる。また、記憶される特徴データに特徴量を含まない場合において、ステップS41で認識された特徴データの特徴種別と、記憶済みの特徴種別との数が異なるときには、例えば多い数の特徴種別を記憶するようにする、などの処理をするようにしても良い。
ステップS42で、キーフレーム特徴情報メモリ部25には、ステップS41で認識したジャンルについての特徴データが記憶されていないと判別したときには、システムコントローラ部20は、ステップS41で認識したジャンルおよび特徴データを、ユーザ評価値の初期値(「1」)と共に、キーフレーム特徴情報メモリ部25に書き込むようにする(ステップS44)。つまり、ステップS41で認識されたジャンルについてのキーフレームの特徴情報を追加するようにする。そして、図16のステップS35に進む。
次に、ステップS32で、通常再生モードの開始操作はなされていないと判別したときには、システムコントローラ部20は、早送り操作(FF)または巻き戻し操作(REW)がなされたか否か判別し(ステップS36)、早送り操作(FF)または巻き戻し操作(REW)がなされていないと判別したときには、ステップS1でなされた操作に応じたその他の所定動作モードの処理を実行する(ステップS37)。
また、ステップS36で、早送り操作(FF)または巻き戻し操作(REW)がなされたと判別したときには、システムコントローラ部20は、通常の早送り再生または巻き戻し再生の処理を行うようにする(ステップS38)。
そして、システムコントローラ部20は、キーフレーム区間と評価されるようなユーザ操作がなされたか否か判別し(ステップS38)、なされていないと判別したときには、再生終了操作がなされたか、あるいはコンテンツが最後まで再生されて再生終了となったか否か判別する(ステップS40)。そして、システムコントローラ部20は、ステップS40で、再生終了ではないとは判別したときには、ステップS38に戻って再生を継続し、再生終了であると判別したときには、ステップS1に戻って、このステップS1以降を繰り返し実行するようにする。
また、ステップS39で、キーフレーム区間と評価されるようなユーザ操作、例えばリピート再生操作がなされたと判別したときには、システムコントローラ部20は、再生処理部13および付加情報ファイル処理部16を通じて記録媒体6から取得した付加情報ファイルから、再生されたコンテンツのジャンルと、キーフレーム区間と評価されるユーザ操作の対象シーンの特徴データを、得て認識する(図18のステップS51)。
次に、システムコントローラ部20は、キーフレーム特徴情報メモリ部25に、認識したジャンルについての特徴データと同等のもの、つまり、認識したジャンルについての特徴データと同じあるいは類似する特徴データが既に記憶されているか否か判別する(ステップS52)。
ステップS52で、既にキーフレーム特徴情報メモリ部25に、ステップS51で認識されたジャンルについての特徴データが記憶されていると判別したときには、システムコントローラ部20は、当該ジャンルの特徴データについての回数値を1だけ加算すると共に、ステップS41で認識された特徴データを、記憶されている特徴データに反映させる(ステップS53)。そして、図16のステップS40に進む。
ここで、ステップS53における、ステップS51で認識された特徴データを、記憶されている特徴データに反映させる処理は、ステップS43と同様である。
ステップS52で、キーフレーム特徴情報メモリ部25には、ステップS51で認識したジャンルについての特徴データが記憶されていないと判別したときには、システムコントローラ部20は、ステップS51で認識したジャンルおよび特徴データを、ユーザ評価値の初期値(「1」)と共に、キーフレーム特徴情報メモリ部25に書き込むようにする(ステップS54)。つまり、ステップS51で認識されたジャンルについてのキーフレームの特徴情報を追加するようにする。そして、図16のステップS40に進む。
次に、ステップS31で、キーフレーム検出モードのオン操作がなされたと判別したときには、システムコントローラ部20は、再生を指示されたコンテンツのジャンルを、付加情報ファイル処理部16を通じて取得する付加情報ファイルから検出する(図19のステップS61)。
そして、次に、システムコントローラ部20は、キーフレーム特徴情報メモリ部25の記憶内容のジャンル情報を調べ(ステップS62)、ステップS61で検出したジャンルと同一のジャンルが存在するか否か判別する(ステップS63)。
ここで、同一ジャンルであるか否かの判別において、ジャンルが、大分類、中分類、小分類などのように、階層的に分けられるときには、例えば小分類や中分類のジャンルが再生コンテンツのジャンルとして付与されていて、キーフレーム特徴情報メモリ部25には対応するジャンルが記憶されていないときには、その上位の中分類または大分類のジャンルがあれば、その中分類または大分類のジャンルを同一のジャンルとして検出する。
そして、ステップS63で、ステップS61で検出した再生しようとするコンテンツのジャンルと同じジャンルが有ると判別したときには、システムコントローラ部20は、早送り操作(FF)または巻き戻し操作(REW)がなされたか否か判別し(ステップS64)、早送り操作(FF)または巻き戻し操作(REW)がなされていないと判別したときには、ノーマル速度再生を実行する(ステップS65)。
そして、システムコントローラ部20は、コンテンツの再生が終了したか、あるいはユーザにより終了操作がなされたか否かにより、当該コンテンツのキーフレーム検出モードの再生が終了したか判別し(ステップS66)、終了したと判別したときには、再生終了処理を実行して(ステップS67)、この処理ルーチンを終了する。
また、ステップS66で、再生が終了していないと判別したときには、ステップS64に戻り、このステップS64以降の処理を繰り返す。
そして、ステップS63で、ステップS61で検出した再生しようとするコンテンツのジャンルと同じジャンルが無いと判別したときには、システムコントローラ部20は、例えば、キーフレーム検出モードの実行ができない旨のメッセージを表示部24の表示画面に表示して、ユーザに警告を報知する(ステップS68)。
その後、システムコントローラ部20は、キーフレーム検出モードの解除操作がなされたか否か判別し(図20のステップS80)、キーフレーム検出モードの解除操作がなされたと判別したときには、キーフレーム検出モードを終了して(ステップS81)、図14のステップS1に戻る。また、ステップS80で、キーフレーム検出モードの解除操作がなされていないと判別したときには、図19のステップS65に戻る。
また、ステップS64で、早送り操作(FF)または巻き戻し操作(REW)がなされたと判別したときには、システムコントローラ部20は、再生コンテンツの付加情報ファイルから、各シーンの特徴データを取得し(図20のステップS71)、キーフレーム特徴情報メモリ部25の、同一ジャンルにおけるキーフレーム特徴データと比較する(ステップS72)。
ここで、再生コンテンツの各シーンの特徴データと比較する同一ジャンルのキーフレーム特徴データは、前述したように、ユーザ評価値が最大である1個でも良いし、ユーザ評価値が所定のスレッショールド値以上である上位の複数個であってもよい。また、前述した図12の例のように、ユーザ評価値に対して複数個のスレッショールド値を設定して、再生速度を複数段階に制御する場合には、再生コンテンツの各シーンの特徴データは、対応するすべてのキーフレームの特徴データと比較するようにする。
次に、システムコントローラ部20は、ステップS72での比較の結果、特徴データがキーフレームの特徴データと同一または類似するシーンであるか否か判別し(ステップS73)、同一または類似するシーンではないと判別したときには、通常の早送り再生または巻き戻し再生の処理を行うようにする(ステップS74)。そして、ステップS71に戻り、このステップS71以降の処理を繰り返す。
また、ステップS73で、特徴データがキーフレームの特徴データと同一または類似するシーンであると判別したときには、システムコントローラ部20は、前述した例のように、当該シーンをノーマル速度再生するように再生速度制御を行う(ステップS75)。
この場合に、実際的には、付加情報ファイルのシーンの特徴データを、実際の再生タイミングよりも先読みし、事前にキーフレームと同一または類似の特徴データのシーンであるかを判別しておき、そのシーンのところで、前述した例のような再生速度制御を行うものである。
次に、システムコントローラ部20は、キーフレームと同一または類似の特徴データのシーン区間が終了したか否か判別し(ステップS76)、終了していないと判別したときには、ステップS75に戻り、ノーマル速度再生を継続する。また、ステップS76で、キーフレームと同一または類似の特徴データのシーン区間が終了したと判別したときには、システムコントローラ部20は、再生速度を早送り再生または巻き戻し再生の状態に戻す(ステップS77)。
次に、システムコントローラ部20は、ユーザにより、早送り再生または巻き戻し再生の停止操作がなされたか否かを判別し(ステップS78)、早送り再生または巻き戻し再生の停止操作がなされていないと判別したときには、ステップS71に戻り、このステップS71以降の処理を繰り返す。
また、ステップS78で、早送り再生または巻き戻し再生の停止操作がなされたと判別したときには、システムコントローラ部20は、早送り再生または巻き戻し再生の停止処理を行う(ステップS79)。
次に、システムコントローラ部20は、キーフレーム検出モードの解除操作、つまり、キーフレーム検出モードをオフにする操作がなされたか否か判別し(ステップS80)、キーフレーム検出モードをオフにする操作がなされていないと判別したときには、図19のステップS65に戻り、このステップS65以降の処理を繰り返す。
また、ステップS80で、キーフレーム検出モードをオフにする操作がなされたと判別したときには、システムコントローラ部20は、キーフレーム検出モードを終了し(ステップS81)、図14のステップS1に戻る。
以上のようにして、第1の実施形態では、ユーザが、重要とするシーン(キーフレーム)の特徴データを、ジャンルごとに、キーフレーム特徴情報メモリ部25に記憶しておき、キーフレーム検出モードにおいて、当該キーフレームと同一または類似のシーンを、他の区間とは区別してノーマル速度再生する。
したがって、ユーザは、キーフレーム検出モードをオンに設定し、早送り操作ボタンまたは巻き戻し操作ボタンを操作するだけで、自動的に、再生コンテンツと同じジャンルのキーフレームと同一または類似する特徴を有するシーンを、ノーマル再生速度で視聴することができるようになる。
[第2の実施形態]
上述した第1の実施形態では、ジャンルごとにユーザが重要とするシーン(キーフレーム)の特徴データを、記憶部に記憶しておき、そのキーフレーム区間は、ノーマル再生するようにした。これに対して、この第2の実施形態では、ジャンルごとに、ユーザが不要とするシーンの特徴データを記憶部に記憶してお区。そして、記録再生装置には、不要シーン除去再生モードを設け、この不要シーン除去再生モードがオンとされたときには、記憶部に記憶された当該シーンと同じまたは類似する特徴データを備えるシーンは、ノーマル再生しているときにも、スキップ再生あるいはジャンプ再生するように制御する。
この第2の実施形態においては、コンテンツの再生時に、ユーザが早送り再生操作ボタンを操作したり、スキップ再生指示操作ボタンを操作したりした場合には、当該操作がなされた再生信号区間は、ユーザにとって再生を要しないユーザ評価が負の方向である不要シーン区間と判定し、そのコンテンツのジャンルに対応して、その不要シーン区間の特徴データをメモリ部に記憶する。
そして、再生に当たっては、付加情報ファイルから取得した特徴データと、メモリ部に記憶した不要シーン区間の特徴データとを比較して、両者が同一または類似するシーン区間を検出したら、その検出したシーン区間においては、スキップ再生またはジャンプ再生するように制御する。
この第2の実施形態においても、実際的には、再生中には、早送り再生操作ボタンやスキップ指示操作ボタンの操作区間の情報を保持しておき、再生が終了したときに、保持していた早送り再生操作ボタンやスキップ指示操作ボタンの操作区間の情報に基づいて、対応するシーン区間の特徴データを取得し、取得した特徴データを、再生したコンテンツのジャンルに対応して、不要シーン区間の特徴データとしてメモリ部に記憶するようにする。
そして、同一または類似する特徴データを有する不要シーン区間についてのユーザ評価値は、例えば、早送り再生操作ボタンやスキップ指示操作ボタンの操作回数(早送り再生やスキップ再生された回数)が記録される。
[第1の実施形態および第2の実施形態の変形例]
上述の第1および第2の実施形態では、記録媒体に、記録したコンテンツデータに対応付けて、各シーンの特徴データを付加情報ファイルとして記録しておき、キーフレーム検出モードや不要シーン区間の検出モードにおいては、付加情報ファイルから取得した特徴データと、メモリ部に記憶した対応するジャンルのキーフレームまたは不要シーン区間の特徴データとを比較するようにした。
しかし、予め、記録したコンテンツデータの各シーンの特徴データを抽出して記録媒体に記録しておかなくても、コンテンツデータの再生をしながら、各シーン区間の検出および検出したシーン区間の特徴データを検出し、その検出した特徴データと、メモリ部に記憶した、対応するジャンルのキーフレームまたは不要シーン区間の特徴データとを比較するようにしてもよい。
また、上述の第1および第2の実施形態では、キーフレームや不要シーン区間のユーザ評価値には、キーフレーム区間と評価されるユーザ操作の回数、あるいは、不要シーン区間と評価されるユーザ操作の回数を用いたが、例えば図21に示すように、ユーザの操作に基づく再生態様に応じたユーザ評価値を設定しておき、再生時に、当該再生態様になったシーンには、対応するユーザ評価値を割り当てるようにして、各シーンに対するユーザ評価値を求めるようにしても良い。
この場合には、キーフレーム特徴情報メモリ部25や、不要シーン区間の特徴情報メモリ部には、前述の例のようなキーフレームや不要シーン区間の特徴データのみを、ジャンルに対応して記憶するのではなく、ジャンルごとに、出現するすべてシーンについての特徴データと、当該特徴データに対応してユーザ評価値を記憶するようにする。そして、ユーザ評価値は、コンテンツを再生するごとに、その再生コンテンツと同じジャンルについての各シーンの特徴データについて、累積加算するようにする。
そして、この例では、検出するキーフレームや検出する不要シーン区間は、当該メモリ部に記憶されているものの中から、例えばユーザ評価値に基づいて決定し、決定したキーフレームの特徴データや不要シーン区間の特徴データに基づいて、キーフレーム検出モードや不要シーン区間を実行するようにする。
例えば、あるジャンルのシーン区間のユーザ評価値が、正方向に最も大きい特徴データや、所定のスレッショールド値よりも正方向に大きい特徴データを、キーフレームの特徴データとしてキーフレーム検出モードを実行するようにする。また、あるジャンルのシーン区間のユーザ評価値が、負方向に最も大きい特徴データや、所定のスレッショールド値よりも負方向に大きい特徴データを、不要シーン区間の特徴データとして不要シーン区間検出モードを実行するようにする。
また、上述の実施形態では、キーフレーム特徴情報メモリ部25や、不要シーン区間特徴情報メモリ部には、ユーザ評価に応じたキーフレームや不要シーン区間の特徴データを、ジャンルごとに記憶するようにしたが、予め、記録再生装置の製造者側において、それぞれのジャンルのコンテンツにおける特徴的なシーン区間を設定し、その設定したシーン区間の特徴データ(これを教師データと呼ぶことにする)をメモリ部に記憶して、キーフレームの特徴データや不要シーン区間の特徴データとして用いるようにしても良い。
この場合に、教師データの設定は、不特定多数のユーザに対してアンケート調査や、視聴状態調査、あるいは実際的な再生操作調査を行って決定するようにすると良い。
また、教師データのほかに、前述したユーザ評価を反映させて決定されるキーフレームの特徴データや、不要シーン区間の特徴データを、追加記憶して用いるようにしても良い。そして、そのように追加記憶する場合において、教師データと類似する特徴データがキーフレームや不要シーン区間の特徴データとして検出されたときには、教師データと、その検出されたキーフレームや不要シーン区間の特徴データとの平均をとるなどして、ユーザの嗜好を反映させるようにしてもよい。
[その他の変形例等]
上述の実施形態の受信部2は、地上アナログテレビ放送の受信部の場合である他、地上デジタルテレビ放送の受信部、衛星デジタルテレビ放送の受信部、ケーブルテレビ放送の受信部、インターネット配信されたテレビ放送の受信部であっても、この発明は適用可能である。
また、この発明は、テレビ放送番組のコンテンツではなく、例えばラジオ放送番組のコンテンツの記録再生の他、種々の情報信号の記録再生に適用可能である。
また、シーン変化点で区分けされるシーン区間は、上述の実施形態のように、映像情報および音声情報の両方の特徴量から検出する場合のみではなく、映像情報のみの特徴量から、あるいは、音声情報の特徴量のみから検出するようにすることもできる。
6…記録媒体、7…ジャンル判定部、8…特徴抽出処理部、9…シーン変化点検出部、20…システムコントローラ部、21…ユーザ入力インターフェース、25…キーフレーム特徴情報メモリ部