JP3970080B2 - 動画再生装置、動画再生方法及びそのコンピュータ・プログラム - Google Patents

動画再生装置、動画再生方法及びそのコンピュータ・プログラム Download PDF

Info

Publication number
JP3970080B2
JP3970080B2 JP2002113625A JP2002113625A JP3970080B2 JP 3970080 B2 JP3970080 B2 JP 3970080B2 JP 2002113625 A JP2002113625 A JP 2002113625A JP 2002113625 A JP2002113625 A JP 2002113625A JP 3970080 B2 JP3970080 B2 JP 3970080B2
Authority
JP
Japan
Prior art keywords
section
playback
information
moving image
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002113625A
Other languages
English (en)
Other versions
JP2003309786A (ja
JP2003309786A5 (ja
Inventor
弘隆 椎山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2002113625A priority Critical patent/JP3970080B2/ja
Priority to US10/413,390 priority patent/US7286749B2/en
Publication of JP2003309786A publication Critical patent/JP2003309786A/ja
Publication of JP2003309786A5 publication Critical patent/JP2003309786A5/ja
Priority to US11/756,777 priority patent/US7450821B2/en
Application granted granted Critical
Publication of JP3970080B2 publication Critical patent/JP3970080B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Signal Processing For Recording (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、音声の再生を伴う動画再生技術の分野に関する。
【0002】
【従来の技術】
従来より、例えば、ビデオテープレコーダ等のように、音声の再生を伴う動画再生装置においては、再生実行時にユーザが動画全体を短時間で見ることを可能とすべく、倍速再生機能や、高速早送り機能等が備えられている。
【0003】
また、代表的な動画再生装置であるビデオテープレコーダにおいては、近年、記録媒体の倍速再生実行時に、音のエネルギが所定のしきい値以上の第1音声区間と、当該所定のしきい値未満の第2音声区間とを検出すると共に、その第1音声区間における音声信号のピッチ変換を行ないながら継続再生することにより、当該第2音声区間を侵食しながらも、再生された音声はユーザにとって多少早口ではあるもの、内容の理解が可能な再生音を伴いながら、2倍速で記憶媒体を再生可能な技術も提案されている。
【0004】
【発明が解決しようとする課題】
しかしながら、上記の如く音声信号の部分的なピッチ変換処理を行うと、動画再生時に必ずしも音声と映像との同期関係が保てないことにより、例えば、再生された映像中の人物の喋っている映像と、再生された音声との同期が取れないことから、人間の感覚にとって不自然な再生となり、ユーザは違和感を感じることがある。
【0005】
また、例えば特開平10−32776号公報、特開平9−243351号公報等においては、音声エネルギに基づいて無音状態を検出し、検出した無音状態以外の音を人の発した音声区間とみなすことにより、動画の要約(サマリー)を行う技術も提案されている。しかしながら、例えばニュース番組等のように、その番組全体を通して人の発した音声が支配的な動画においては、音声エネルギに基づく人の発した音声区間の検出はある程度は可能であるものの、バックグラウンドノイズやバックグラウンド音楽が存在する環境下ではこの方法は現実的ではない。
【0006】
更に、上記特許公報以前の従来技術においても、音声検出を行なうと共に、検出した音声を考慮した動画再生を行なう技術が数多く提案されており、その殆どが音のエネルギをしきい値処理することによって音声を検出している。この背景には、日本語の曖昧さに起因する問題があり、「人の声」も「音声」と言い、人の声を含む音一般も「音声」と呼ぶことに起因しており、このような従来技術における音のエネルギのしきい値処理を、真の「音声検出」とひとまとめに総称するのは不適当である。
【0007】
また、特開平9−247617号公報には、音声信号のFFT(高速フーリエ変換)スペクトラムを算出することによって特異点を求めることによって「音声情報等の特徴点」を検出し、その音量を分析する技術が提案されている。しかしながら、FFTスペクトラムを利用する方法においては、再生すべき音声信号の中に、広帯域のスペクトル分布となる所謂バックグラウンド音楽等が含まれる場合には、その中から人の発した声を検出することは困難である。
【0008】
このように、音声を伴う従来の動画再生においては、上述したように音声区間の検出が便宜的で不正確であるという問題があり、更に、その検出結果を用いた動画のサマリーの作成や倍速再生を行う場合には、再生に際して、映像と音声との同期関係が維持できないという問題がある。
【0009】
また、近年においては、発声内容の情報を、所謂、字幕やクロ−ズキャプション等によって、動画データ及び音声信号と多重化、或いは別の領域帯域に挿入されたメディアが登場しているが、このようなメディアの再生時においても、音声区間の検出結果を用いた動画のサマリーの作成や倍速再生を行う場合には、再生に際して、映像と音声との同期関係が維持できないという問題がある。
【0010】
また、一般に、老人や子供等のユーザにとって各種装置を使いこなすことは容易なことでななく、且つ速い速度で発せられる音声は、その内容の理解が追いつき難いことが知られている。従って、このようなユーザにとって、上述したテープレコーダのような動画再生装置において倍速再生等の内容の早見(短縮再生)を行なうに際しては、再生に最適な条件が一般のユーザとは異なる。
【0011】
更に、動体視力の弱いユーザ、早い音声に対する聴力が弱いユーザ、或いは再生される音声を母国語としない外国のユーザ等にとっても、上記のような動画再生装置によって倍速再生等の内容の早見(短縮再生)を行なうに際しては、再生に最適な条件が一般のユーザとは異なる。
【0012】
そこで本発明は、人の発した音声区間を正確に検出すると共に、検出した音声区間に従って映像と音声との同期関係を忠実に維持しながら、ユーザの閲覧所要時間を大幅に短縮する動画再生装置、動画再生方法及びそのコンピュータ・プログラムの提供を目的とする。
【0013】
【課題を解決するための手段】
上記の目的を達成するため、本発明に係る動画再生装置は、以下の構成を特徴とする。
【0014】
即ち、音声信号と副情報とを含む動画情報を、高速度で再生可能な動画再生装置であって、前記動画情報に含まれる副情報に基づいて、人の発声期間を表わす第1音声区間と、それ以外の第2音声区間とを判定する音声区間判定手段と、前記動画情報に基づいて、前記第1音声区間は、ユーザが内容を把握可能な所定速度で、再生音声を伴う高速動画再生を行なう一方で、前記第2音声区間は、前記所定速度より高速度で、高速動画再生を行なう早見再生手段とを備え、前記音声区間判定手段は、前記副情報から前記第1音声区間の始点を読み出す読み出し手段と、前記動画情報のシーンチェンジ点を検出し、検出した複数のシーンチェンジ点のうち着目する第1シーンチェンジ点と該第1シーンチェンジ点の次の第2シーンチェンジ点との区間内に、前記読み出し手段で読み出した前記第1音声区間の始点が存在する場合で、該第1シーンチェンジ点と該第1音声区間の始点との時間差が所定のしきい値以下であるときは、該第1音声区間の始点を該第1シーンチェンジ点に変更する補正を行う始点補正手段とを含むことを特徴とする。
【0015】
好適な実施形態において、前記早見再生手段は、前記第2音声区間において、前記第1の音声区間における音量より小音量の再生音声を伴う動画再生を行なうと良い。
【0016】
好適な他の実施形態において、前記早見再生手段は、前記第2音声区間において、無音声にて動画再生を行なうと良い。
【0017】
ここで、前記副情報には、人の発した音声区間の開始タイミングと終了タイミング、開始タイミングとその区間長、或いは終了タイミングとその区間長のうち何れかが含まれる。
【0018】
また、例えば前記早見再生手段による高速動画再生の実行を指示された際に、前記音声区間判定手段は、再生映像が出力されるのに先立って前記動画情報に基づいて前記第1及び第2音声区間を判定することにより、前記音声区間判定手段による音声区間の判定と、前記早見再生手段による高速動画再生とが、擬似的リアルタイムに行われると良い。
【0020】
ここで、前記補正手段は、前記動画情報に含まれるシーンチェンジ点を、前記副情報から抽出することによって取得しても良い。
【0021】
尚、同目的は、上記の各構成を備える動画再生装置に対応する動画再生方法によっても達成される。
【0022】
また、同目的は、上記の各構成を備える動画再生装置及び方法を、コンピュータによって実現するプログラムコード、及びそのプログラムコードが格納されている、コンピュータ読み取り可能な記憶媒体によっても達成される。
【0023】
【発明の実施の形態】
以下、本発明に係る動画再生装置の一実施形態を、図面を参照して詳細に説明する。
【0024】
はじめに、本実施形態における動画再生装置の動作の概要について、図1を参照して説明する。
【0025】
図1は、本実施形態に係る動画再生装置における動画早見アルゴリズムの概念図を表す図である。
【0026】
本実施形態に係る動画再生装置は、図1に示すように、大別して、動画早見インデックス作成部100と、動画早見再生部200とからなる。
【0027】
<動画早見インデックス作成部100>
動画早見インデックス作成部100では、動画データ記憶部10から読み出した動画データが映像/音声/副情報分離処理(ステップS101)において映像データ(映像信号)、音声データ(音声信号)、並びに副情報に分離される。
【0028】
そして、音声信号に対しては、音声区間読み込み処理(ステップS102)及び音声区間補正処理(ステップS103)が施され、映像信号に対しては、当該副情報にシーンチェンジ点情報が含まれない場合に、映像変化度演算処理(ステップS106)及びシーンチェンジ点検出処理(ステップS107)が施され、副情報に対しては、当該副情報にシーンチェンジ点情報が含まれる場合に、シーンチェンジ点読み出し処理(ステップS105)が施される。早見再生区間補正処理(ステップS104)では、早見再生区間情報が生成され、生成されたこの情報は、動画早見インデックス記憶部11に記憶される。
【0029】
即ち、音声区間読み込み処理(ステップS102)では、動画データが映像/音声/副情報分離処理(ステップS101)にて分離された情報に基づいて、「人の発生内容に関する情報」と、「表示タイミング情報」とが、音声区間読み込み結果として、当該動画データから読み出される。ここで、表示タイミング情報には、表示開始タイミング、表示終了タイミング、並びに区間長が含まれる。
【0030】
音声区間補正処理(ステップS103)では、上記の音声区間読み込み結果に基づいて、音声再生時に人(ユーザ)が不快にならないように、近接する複数の音声区間を統合することによって新たに再生するところの、人の発声期間を表わす音声区間(以下、「人の音声区間」または区間Aと称する)の補正が行われることにより、補正済みの音声区間情報を取得する。
【0031】
例えば、高速動画再生に際する悪い態様として、近接する2つの区間Aの間隔が狭い場合に、動画再生に際して、それらの音声区間を、人が聞いて内容把握ができる程度の速度で、音声を伴う倍速再生(例えば2倍速再生)を行なうと共に、人の音声区間ではない区間(以下、区間Bと称する)に対しては、動画再生に際して、再生映像を人が見ることによって内容把握ができる程度の高倍率の倍速で再生を行うと、変化が激しく、一般のユーザにとって聞き苦しいものとなる。
【0032】
従って、本実施形態では、音声区間補正処理(ステップS103)において、人の音声区間の間隔を考慮し、その間隔がある所定の条件を満たす場合には複数の人の音声区間群を統合することにより、前記の聞き苦しさを解消する。ここで、所定の条件としては、例えば、人の音声区間の間隔が所定のしきい値以下であることを設定するのが最も容易である。
【0033】
また、映像変化度演算処理(ステップS106)では、映像/音声/副情報分離処理(ステップS101)にて得られた映像データに対して、特開2000−235639号公報に記載されたフレーム間の類似比較処理を行うことによってフレーム間類似度を演算することにより、映像変化情報が生成される。
【0034】
一般に、音声信号を含む動画データに映像の変わり目が存在し、その直ぐ後に音声区間が始まる場合には、動画再生に際して、ほんの一瞬高速でシーンの先頭部分の映像が再生された後で、音声を伴う倍速再生による再生映像が、人が聞いて把握できる速度で行われるため、ユーザにとって映像がちらついたような違和感が生じる。
【0035】
そこで、本実施形態では、上記の副情報にシーンチェンジ点情報が含まれている場合には、シーンチェンジ点読み出し処理(ステップS105)において、その副情報からシーンチェンジ点群(シーンチェンジ点情報)を読み出し、シーンチェンジ点情報が含まれていない場合には、シーンチェンジ点検出処理(ステップS107)において、例えば、本願出願人による先行する特開2000−235639号公報に開示されたシーンチェンジ点の検出技術を採用することにより、映像変化度演算処理(ステップS106)にて得られた映像変化情報に基づいて、シーンチェンジ点群(シーンチェンジ点情報)を検出する。
【0036】
そして、早見再生区間補正処理(ステップS104)では、ステップS103における音声区間補正処理後の音声区間の先頭よりも時間的に早く、且つ最も近傍で、その距離が所定のしきい値以下である場合に、音声区間の先頭を、ステップS105またはステップS107にて取得したシーンチェンジ点に対応する情報に置き換えることにより、ユーザの違和感を取り除くことができる。
【0037】
上記各ステップの処理は、極めて高速に処理が可能であるから、本実施形態では、動画早見再生部200による動画再生を行なうに際して、動画データ記憶部10から読み出した音声・副情報付き動画データをメモリバッファ(不図示)に一時記憶しておき、動画再生が実際に行われるのに先んじて、上記の「人の発生内容に関する情報」を取得することにより、再生対象の動画データの内容を予め解析すること無く、動画早見インデックス作成部100による早見再生区間情報の生成プロセスと、生成された早見再生区間情報及び動画データを利用した動画早見再生部200による動画再生プロセスとを、動画全体(即ち、再生対象のコンテンツ全編)を、擬似的リアルタイムに実行(即ち、擬似並行処理によって実行)することにより、ユーザは、所望する動画コンテンツの全体(全編)を、短時間で効率良く早見することが可能である。
【0038】
<動画早見再生部200>
次に、動画早見再生部200では、動画早見再生処理(ステップS107)において、再生映像はディスプレイ12、再生音声はスピーカ13を利用して再生される。この動画早見再生処理による動画再生に際しては、動画早見インデックス記憶部11から読み出された早見再生区間情報に基づいて、ステップS108にて再生に要する時間が表示されると共に、その表示に応じてステップS109にて設定されたユーザ所望の再生条件のフィードバックおよびユーザ・プロファイル14に基づく再生条件を統合判断することにより、早見再生条件の最終的な設定が行われ、設定された早見再生条件に基づいて、動画データ記憶部10から読み出した動画データの動画再生が行われる。
【0039】
その際、本実施形態では、
・区間Aに対しては、再生される音声をユーザが聞いた際に内容を把握できる速度で音声を伴う倍速再生が行われ、
・区間Bに対しては、再生される映像を見ることによってユーザが内容を把握できる範囲内で高倍率の倍速再生が行われる。
【0040】
ここで、上記の区間Aにおける倍速再生、即ち、人が聞いて内容を把握できる速度の再生とは、実験では2倍速まで、望ましくは1.5倍速程度にすると良いことが本願出願人による実験の結果から判っている。他方、区間Bに対しては、再生映像を人が見て内容が把握できる範囲で高い倍率の倍速で再生を行うが、本願出願人による実験の結果によれば、経験的には10倍速まで、望ましくは5倍速以上に設定すると良いことが判っている。
【0041】
区間Bを高倍率で倍速再生すると、一般に、「キュルキュル」という音が出ることが知られているので、ステップS107では、区間Bを高速で再生するに際して、ユーザがそのような音を聞きたくない場合には、音声再生はミュートすることによって無音状態にする、或いは、再生時の音量を小さくすることが考えられる。
【0042】
区間Aの再生速度、区間Bの再生速度及びその再生時の音量に関して、最も簡単な実施方法は、動画早見再生処理(ステップS107)において、予め音声をどう処理するかを決めておく他、その再生速度を、ユーザが可変で設定可能とする方法が存在する。
【0043】
しかし、一般に、例えば老人や子供等のユーザにとっては各種装置を使いこなすことは容易なことでななく、速い速度の音声再生が行われた場合にはその内容理解が難いことが知られており、面倒な速度調整を行わず且つ簡易に、やや低い倍率の倍速再生することが好ましい。これと同様に、年齢に関わらず視力の弱いユーザ(視覚障害者)、特に動体視力や聴力、特に早い音声の聴力の弱いユーザの弱いユーザ(聴覚障害者)、或いは再生される音声を母国語としない外国のユーザ等にとっても、速い速度の音声再生が行われた場合にはその内容理解が難いことが知られており、これらのユーザにとって最適な再生速度もある。
【0044】
そこで、本実施形態では、ユーザの年齢や言語や理解できる言語や視力や聴力等の情報、更には個々のユーザが好む基準の再生条件等のユーザに関する属性情報を、ユーザ・プロファイル14に予め記憶しておき、動画早見再生処理(ステップS107)において、そのプロファイル14を参照することにより、対象となるユーザに応じて、人間の発声期間を表わす音声区間(区間A)および人間の発声区間を除く区間(区間B)の再生速度をそれぞれ決定し、個人に応じた内容理解が容易な動画早見再生を行うことが可能となる。
【0045】
また、上述したように、区間Bの高倍率な倍速再生時に、音声のミュート或いは音量を小さくする場合にも、係る設定をプロファイル14に予め記述しておくことにより、個々のユーザに応じた快適な動画早見再生を行うことが可能となる。
【0046】
更に、高齢者および動体視力にハンディキャップのあるユーザに関しては、本来の早見再生という観点からは外れるかもしれないが、区間Aの再生速度を等倍速度より遅く設定すると共に、区間Bの再生速度は等倍速度以上に設定することにより、係るユーザが区間Aの音声内容を把握可能な低速再生を行いながらも、全体としては全ての区間を低速再生する場合と比較して短い所要時間で、動画(即ち、動画データ記憶部10に格納されている動画データ)を閲覧することが可能となる。
【0047】
また、早い音声の内容理解にハンディキャップのあるユーザおよび音声内容の言語に堪能でないユーザに関しては、本来の早見再生という観点からは外れるかもしれないが、区間Aの再生速度を等倍速度より遅く設定すると共に、区間Bの再生速度は10倍速まで、望ましくは5倍速以上とし、係るユーザが区間Aの音声内容を把握可能な低速再生を行いながらも、全体としては全ての区間を低速再生する場合と比較して短い所要時間で、動画(即ち、動画データ記憶部10に格納されている動画データ)を閲覧することが可能となる。ここで、音声内容の言語に堪能か否かの判断は、上述したプロファイル14に予め記憶した識別情報(後述する表4では得意言語)と、再生対象の動画に含まれる音声の言語種類情報とを比較することによって行なえば良い。
【0048】
ユーザ・プロファイル14を選択する手順としては、例えば、ディスプレイ12に表示されたプロファイル選択画面にユーザ・プロファイルリストを表示し、その中から、ユーザによるリモコン端末(不図示)の操作に応じて選択することが考えられ、更に指紋や声紋や顔認識等の個人認識技術を用いた自動的なプロファイル選択方法を採用しても良い。
【0049】
ところで、上記の如く個々のユーザにとって最適な早見再生を行う場合に、果たして元々どの長さの動画がどの位の時間で早見できるかは、空き時間を活用して早見を行おうとしているユーザにとって重要な情報である。
【0050】
そこで、本実施形態では、ステップS108において、区間Aのトータル長を再生速度で割ることによって区間Aの再生時間を計算すると共に、区間Bについては、当該トータル長を再生速度で割ることによって区間Bの再生速度を計算し、早見に要する時間として、算出したこれら2つの値の和を求め、元の動画を等倍再生する場合の所要時間と共にユーザに提示する。更に、これらの再生時間をユーザが見た上で、所望の再生時間内に収まるように、区間Aの再生速度や区間Bの再生速度を指定することにより、ユーザ所望の再生時間に近くなるように調節することが可能である。
【0051】
ところで、予め設定されたユーザのプロファイル14と、ユーザが指示した所望の再生速度との関連であるが、上記の如くステップS108においてプロファイル14を用いて自動的に算出された動画早見再生に要する時間を見たユーザが、所定のマンマシン・インタフェースを介して、ステップS109において、更に、区間Aおよび区間Bの再生速度を指定することにより、所望の動画早見再生に要する時間(再生速度情報)を設定した場合には、設定された所要時間内に納めるべく、自動的、或いはユーザに確認を行った上で、係る設定された再生速度情報を新たにプロファイルに記憶することにより、前回の操作情報を反映しつつ個々のユーザの好みに応じた理解の容易な動画早見再生を行うことが可能となる。
【0052】
また、上述したユーザ・プロファイルに、更に、区間Bの再生時の音量をどう処理するかを予め指定しておく、或いは所定のマンマシン・インタフェースを介してユーザが指定した場合には、その指定された音量情報を反映しつつ個々のユーザの好みに応じた理解の容易な動画早見再生を行うことが可能となる。
【0053】
<動画再生装置の動作の詳細>
以下、上記の如く概説した本実施形態に係る動画再生装置の動作の詳細について説明する。以下の説明では、動画データ記憶部10に記憶された録画済の動画データ(音声信号及び副情報を含む動画データ)に対して早見再生を行うためのインデックスとして早見再生区間情報を作成し、作成したその情報を利用して、当該動画データの早見再生を行う場合を例に説明する。
【0054】
本実施形態では、上述したように、ステップS101の映像/音声分離処理を経た後処理として、大別して、動画早見インデックス作成部100による動画早見インデックス作成処理と、動画早見再生部200による動画早見再生処理とがある。
【0055】
本実施形態における音声・副情報付き動画データは、映像情報、音声情報、並びに副情報が多重化されたコンテンツであり、このような情報形態のメディアとしては、例えば、DVDやデジタルテレビ放送等が挙げられる。
【0056】
本実施形態において、副情報とは、動画のセグメント情報、シーンチェンジ情報、字幕に関する情報、時間情報等のように、映像や音声そのものとは異なる各種の情報である。
【0057】
本実施形態において、以下の説明では、係る副情報として、「人の発生内容に関する情報」を利用するが、この他にも、例えば、字幕、クロ−ズキャプション等があり、更に、人が発した音声の認識結果から得られる音素列表記等を採用することができる。
【0058】
ここで、字幕やクロ−ズキャプションは、聴覚障害者や自分が聴いている言語が理解できない者でもコンテンツの内容を楽しめるように、映像信号と同期して、人の発した音声内容に対応してオーバーレー表示するためのものであり、このような副情報を含むコンテンツは、その提供に先立って、人手により、或いは自動または半自動的に、人の発声期間を表わす音声区間(区間A)が決定されると共に、決定された個々の音声区間における人の発声内容は、人手によって及び/または音声認識処理を施すことによって、当該コンテンツに付加的な情報(本実施形態では「副情報」)として記述されるのが一般的である。
【0059】
また、このようなコンテンツにおいて、そのコンテンツオリジナルな人の発した音声内容とは異なる言語種類の字幕またはクロ−ズキャプションは、上記の如く当該コンテンツに記述された副情報を、更に、人手及び/または自動翻訳によって目的とする言語に翻訳した後、追加的に記述されるのが一般的である。
【0060】
そして、このような字幕やクロ−ズキャプション等の副情報は、一般に、動画再生時の表示期間を表すための区間情報を伴っており、この区間情報は、人の音声区間(区間A)を表わすと捉えることができる。
【0061】
そこで、本実施形態では、上記のような形態の副情報を含む音声・副情報付き動画データを対象として、その動画データに含まれる人の音声区間(区間A)を検出する。
【0062】
本実施形態では、上述したように、ステップS101の映像/音声分離処理を経た後処理として、大別して、動画早見インデックス作成部100による動画早見インデックス作成処理と、動画早見再生部200による動画早見再生処理とがある。
【0063】
<動画早見インデックス作成部100>
(人の音声区間の検出)
図2は、本実施形態において、動画早見インデックス作成部100にて行われる人の音声区間の検出処理の概略を示すフローチャートであり、上述した音声区間読み込み処理(ステップS102)の詳細な手順を表わす。
【0064】
同図において、ステップS201では、上述したステップS101における映像/音声/副情報分離処理が施された動画ストリームで未だ読み込んでいないものがあるかを判断し、全て読み込み済みの場合には本処理を終了する。
【0065】
ステップS202では、ステップS201にて未だ読み込んでいない動画ストリームが存在すると判断されたので、その動画ストリームをバッファ(不図示)に読み込み、ステップS203では、読み込んだ動画ストリームに含まれる副情報から、「人の発生内容に関する情報」として、字幕、クロ−ズキャプション、音声認識の結果得られる音素列表記、或いは音声検出結果情報をシークし、その結果得られる情報を、人の音声区間(音声区間情報)として設定する。
【0066】
ここで、読み込まれた情報の中からステップS203において音声区間情報として何れのものを選択するかは、存在するこれらの情報の中でその内容の確度が高いものから選べば良く、例えば字幕>クロ−ズキャプション>音素列表記>音声検出結果情報の順位で選択すれば良い。
【0067】
表1は、音声区間情報として読み込んだ副情報を例示する表であり、この例では、区間Aとして、発音区間0乃至2に関して、個々の区間の開始時刻(始点)と終了時刻(終点)とが対の情報として読み込まれている。
【0068】
【表1】
Figure 0003970080
【0069】
(人の音声区間の補正)
上述した音声区間補正処理(ステップS103)の詳細について説明する。ステップS103では、動画早見再生時に再生音声を聴いたユーザが不快感を抱かないように、時間軸上で近傍に位置する複数の音声区間を1つの音声区間として統合することによる補正が行われる。
【0070】
ここで、上述した音声区間の検出処理(図2)によって取得した音声区間情報の補正を行なう理由は、例えば、時間軸上で近傍に位置する2つの区間Aの間隔が狭い場合に、区間Aを聞いて人が内容を把握できる速度で音声を伴う倍速再生を行なう一方で、区間Bに対しては、再生映像を見て人が内容を把握できる範囲で高倍率な倍速で再生を行うと、再生態様の変化が激しく、ユーザにとって聞き苦しいものとなるからである。
【0071】
また、動画デコーダおよび再生処理の面からも、短い区間での速度の変化は、処理のオーバーヘッドが大きく、再生動作が一時的に停止状態になり、ギクシャクした再生になることが、一例として、マイクロソフト社のDirectShowを用いた本願出願人による実験において観察されている他、他の多くの動画再生手段で同様の現象が見られる。
【0072】
そこで、本実施形態では、時間軸上で最も近傍に位置する2つの音声区間(区間A)の間隔があるしきい値(図3ではTh3)以下である場合には、これらの音声区間を統合することによる補正を行う。このしきい値を決めるに当たっては、例えば、会話を行うシーンを想定し、会話が成り立つ程度の間を実験的に求め、それをしきい値に用いる。この場合の処理の手順を、図3を参照して説明する。
【0073】
図3は、本実施形態において間隔の短い音声区間に対して行われる統合補正処理を示すフローチャートである。
【0074】
同図において、ステップS301では、先に検出された複数の区間Aのうち、時間軸上で最初に位置する区間Aを、着目する音声区間として読み込むが、着目すべき音声区間が無ければ本処理は終了する。
【0075】
ステップS302では、次に着目する音声区間(区間A)が存在するかを判断し、着目すべき音声区間が無ければ本処理を終了し、一方、まだ存在する場合には、以下に説明するステップS303乃至ステップS307の処理を繰り返す。
【0076】
ステップS303では、ステップS302にて次に着目する音声区間が存在すると判断されたので、その音声区間(区間A)を表わす音声区間情報を読み込む。ここで、音声区間情報とは、音声区間の開始点と終点とが対となった情報である。
【0077】
ステップS304では、2つの区間Aの間隔、即ち、時間軸上で先の音声区間(現在着目している音声区間)の終点と、次の音声区間の開始点との間の距離(時間間隔)を求め、この距離が所定のしきい値Th3以下であるかを判断する。
【0078】
ステップS305では、ステップS302にて2つの区間Aの間隔が所定のしきい値Th3以下であると判断されたので、これら2つの音声区間を、1つの音声区間に統合する。より具体的に、統合された音声区間の音声区間情報には、本ステップにおける処理によって、先の音声区間の開始点が設定されると共に、次の音声区間の終点が設定される。
【0079】
ステップS306では、統合された音声区間を、現在着目する音声区間(区間A)として設定し、ステップS302に戻る。
【0080】
ステップS307では、ステップS302にて2つの区間Aの間隔が所定のしきい値Th3より大きいと判断されたので、現在着目する音声区間を、そのまま1つの補正した音声区間情報として記憶すると共に、ステップS308では、次の音声区間を、処理対象として着目すべき音声区間として設定し、ステップS302に戻る。
【0081】
このような統合処理が、扱うべき音声区間(区間A)がなくなるまで繰り返される。
【0082】
(シーンチェンジ点情報を利用した人の音声区間の補正)
一般に、音声信号を含む動画データに映像の変わり目が存在し、その直後に区間Aが始まる場合には、動画再生に際して、ほんの一瞬高速でシーンの先頭部分の映像が再生された後で、音声を伴う倍速再生による再生映像が、人が聞いて把握できる速度で行われるため、ユーザにとって映像がちらついたような違和感が生じる。
【0083】
そこで、本実施形態では、例えば、本願出願人による先行する特開2000−235639号公報に開示されたシーンチェンジ点の検出技術を採用することにより、ステップS107にて検出したシーンチェンジ点群、或いは、ステップS105にて副情報から読み出されたシーンチェンジ点群のうち、音声区間補正処理後の音声区間の先頭よりも時間的に早く、最も近傍で、且つその距離があるしきい値以下であるシーンチェンジ点が存在する場合には、その音声区間の先頭を、該シーンチェンジ点に対応する情報に置き換える補正を行なうことにより、早見再生時のユーザの違和感を取り除く。その際、近傍判定のためのしきい値は、高速再生の状態から人が聞いて内容が把握できる程度の速度で音声を伴う倍速再生へ移行する際のオーバーヘッドに応じた値である。
【0084】
図4は、本実施形態においてシーンチェンジ点を用いて行われる音声区間統合補正処理を示すフローチャートであり、早見再生区間補正処理(ステップS104)の詳細を表わす。
【0085】
同図において、まずステップS401では、シーンチェンジ点検出処理(ステップS107)にて検出されたシーンチェンジ点群(シーンチェンジ点情報またはシーンチェンジ位置情報)から、時間軸上で先頭となるシーンチェンジ点(A)を読み込む。
【0086】
シーンチェンジ点情報は、通常はフレーム単位で記述されるが、本ステップでは、フレームレートに基づいて時間情報に変換した後、音声区間情報と比較することになる。即ち、本実施形態のアルゴリズムでは、音声区間の開始点から最も近傍のシーンチェンジ点を求めるために、連続する2つのシーンチェンジ点情報を用いることにし、ここでは、説明の便宜上、先のシーンチェンジ点をA、次のシーンチェンジ点をBとして、ステップS401では、Aの方へシーンチェンジ点の時間を記憶する。
【0087】
ステップS402では、読み込んでない音声区間情報があるかどうかを判断し、無い場合には処理を終了し、読み込んでない音声区間情報がある場合にはステップS403において音声区間情報を1つ読み込む。
【0088】
ステップS404では、未だ読み込んでないシーンチェンジ点情報があるかどうかを判断し、無い場合には、ステップS403にて既に読み込んである音声区間情報を、ステップS405において、そのまま補正済の音声区間情報として更新記憶する。
【0089】
ステップS406では、ステップS404にて読み込んでないシーンチェンジ点情報があると判断されたので、そのシーンチェンジ点情報を、シーンチェンジ点情報Bとして読み込む。
【0090】
ステップS407では、シーンチェンジ点Aが、時間軸上において、ステップS403にて読み込んだ現在着目する音声区間の始点より前に位置するかどうか判断し、前に位置する場合には、ステップS405において、補正の必要は無いとして音声区間情報をそのまま補正済音声区間情報として更新記憶する。
【0091】
ステップS408では、ステップS407にてシーンチェンジ点Aが現在着目する音声区間の始点より前に位置すると判断されたので、そのシーンチェンジ点Aが当該音声区間の始点としきい値Th4以内の距離に存在するかどうかを判断し、当該しきい値Th4以内ではない場合には、ステップS409において、シーンチェンジ点Bの情報を、シーンチェンジ点Aへコピーすることにより、次のシーンチェンジ点を判断対象とする準備を行う。
【0092】
ステップS410では、ステップS408にてシーンチェンジ点Aが現在着目する音声区間の始点と当該しきい値Th4以内の距離に存在すると判断されたので、シーンチェンジ点Bが当該音声区間の始点よりも後ろに位置するかを判断し、後ろに位置しない場合にはステップS409に進む。
【0093】
一方、ステップS410にてシーンチェンジ点Bが当該音声区間の始点よりも後ろに位置すると判断された場合には、ステップS411において、シーンチェンジ点Aが開始点であり、当該音声区間の終点が終点である部分区間を、補正済の音声区間情報として更新記憶し、ステップS412では、シーンチェンジ点Bの情報を、シーンチェンジ点Aにコピーすることにより、次のシーンチェンジ点を判断対象とする準備を行う。
【0094】
即ち、上述したステップS407、ステップS408、並びにステップS410の判断によって、シーンチェンジ点Aが現在着目する音声区間の始点の前に位置すると共に、当該しきい値Th4以下の近傍であり且つ、最も音声区間の始点に近い点であることが確かめられて初めて、上記のステップS411及びステップS412の処理が行われる。
【0095】
また、ステップS410にてシーンチェンジ点Bが当該音声区間の始点よりも後ろではないと判断された場合、当該シーンチェンジ点Bは、現在設定されているシーンチェンジ点Aよりも補正済音声区間の始点候補として更にふさわしいと判断できるので、ステップS409において、当該シーンチェンジ点Bの情報を、新たなシーンチェンジ点Aとしてコピーすることにより、次のシーンチェンジ点を判断対象とする準備を行ない、その後でステップS404の処理に戻る。但し、この場合のシーンチェンジ点Aは、既にステップS407およびステップS408の要件を満たしているので、ステップS407とステップS408とをパスしてステップS410の判断をいきなり行っても構わない。
【0096】
上述した音声区間統合補正処理(図4)の手順によって取得した補正済の音声区間情報は、早見再生区間情報として、表2に例示するようなスキーマで、動画早見インデックス記憶部11に記憶される。
【0097】
表2は、本実施形態におけるシーンチェンジ検出結果を例示する表であり、一例として、シーンチェンジ点の検出を行ったフレームを、フレームレート(30枚/Sec)を元に秒換算した結果が格納されている。
【0098】
【表2】
Figure 0003970080
【0099】
そして、表3は、本実施形態における補正済の音声区間検出結果を例示する表であり、表2に示す結果と表1に示す結果とに基づいて、シーンチェンジ点を用いた音声区間の統合補正処理(図4)を、しきい値Th4= 2000 mSecで施した場合の処理結果を示す。
【0100】
【表3】
Figure 0003970080
【0101】
表1及び表2を参照すると、音声区間0および音声区間2に対しては、それぞれの音声区間の開始点60000 mSec、400000 mSecの前で且つしきい値Th4である2000 mSec以内の期間にはシーンチェンジは存在しない。また、音声区間1に対しては、開始点102000 mSecの1500 mSecの前で且つ2000 mSec以内には、シーンチェンジ点として、シーンチェンジID=2(開始時間100000 mSec)と、シーンチェンジID=3(開始時間101000mSec)の2点が存在するが、図4で示したアルゴリズムに従って最も近傍のものを選ぶことから、結果として、シーンチェンジID=3の101000mSecが選ばれ、これが表3に反映されている。
【0102】
<動画早見再生部200>
動画早見再生部200にて行われる動画早見再生処理(ステップS107)は、人の音声区間(区間A)に対しては人が聞いて内容を把握できる速度で音声を伴う倍速再生を行なう一方で、人の音声区間ではない区間(区間B)に対しては、再生映像を人が見て内容が把握できる範囲で高い倍率の倍速で再生を行う。
【0103】
近年、動画再生環境が整い、例えばマイクロソフト社の DirectShowモジュールを用いると、任意区間の速度を指定して連続再生することが可能である。このような機能を持つモジュールを用いることで、比較的簡易に任意区間の再生速度の変化を実現することが可能であり、その際、重要なのは、何の観点で速度を変化させるかである。
【0104】
図5は、本実施形態における動画早見再生処理を示すフローチャートである。
【0105】
同図において、ステップS601では、先に上述したユーザ・プロファイル14の中からユーザが所望のものを選択するが、その具体的な手順としては、例えば、ディスプレイ12に図8に例示するようなユーザ・プロファイルリストを含む表示画面を表示し、その中からユーザがリモコン端末等を利用して、所望のプロファイルを選択すれば良い。
【0106】
即ち、図7に示すユーザ・プロファイルリストにおけるユーザ所望のプロファイルの指定は、例えばリモコン端末にプロファイル選択用の操作ボタンを設けておき、これをユーザが押下するのに応じて、図9に例示するようなメニュー表示画面が表示され、その画面を見ながら、リモコン端末のプロファイル選択用の操作ボタンを利用して、ユーザが所望のプロファイルを指定する。もちろんユーザ・プロファイルの選択には、指紋や声紋や顔認識等の個人認識技術を用いた自動的なプロファイル選択方法も考えられ、こちらの方が常に正しいプロファイルの指定が可能なため、プロファイルの指定の誤りを起こしたり、他人のプロファイルを変更したり内容を覗く等のトラブルを防げる。
【0107】
また、ユーザ・プロファイルを新規に登録する場合には、図7の表示画面において「新規登録」ボタンをポインタデバイスで指定すると、プロファイル名およびその他の属性を入力するための、図8に例示する表示画面が現れる。
【0108】
即ち、図8は、ユーザ・プロファイル登録用の表示画面を例示する図であり、初期状態では、識別名と年齢以外の内容が基準値で埋められており、ユーザによる入力操作によってユニークな識別名と年齢の入力変更の必要がある個所のみが変更され、所定の入力値範囲の適正チェックをパスした後、ユーザが「OK]ボタンを押下するのに応じて、そのプロファイルがユーザ・プロファイル14に新たに追加登録される。
【0109】
また、ユーザが所望のプロファイルの内容変更を希望する場合、図7に示す表示画面において「変更」ボタンを押下し、図9に示す表示画面において所望のプロファイルを選択するのに応じて表示される図8の表示画面において、変更を希望する項目の情報内容を変更した後、「OK]ボタンを押下すれば良い。
【0110】
更に、ユーザが所望のプロファイルの削除を希望する場合、図7に示す表示画面において「削除」ボタンを押下し、図9に示す表示画面において所望のプロファイルを選択し、その後、「OK]ボタンを押下すれば良い。
【0111】
尚、上述した図7及び図8に示す表示画面において、「キャンセル」ボタンが押下された場合には、それまでの選択操作や入力操作に対応する処理(プロファイルの登録、変更、削除)はなされることなく処理が終了する。
【0112】
次に、ステップS602では、ステップS601にて選択されたプロファイルが、ユーザ・プロファイル14に存在するかを判断し、存在する場合には、ステップS603において対象となるプロファイルをユーザ・プロファイル14から読み込み、存在しない場合には、基準値として予め設定されているところの、区間Aおよび区間Bの再生速度、並びに区間Bの再生時の音量を、ステップS606において読み込む。ここで、ユーザ・プロファイルのデータスキーマ一の一例を、表4に示す。
【0113】
【表4】
Figure 0003970080
【0114】
表4は、本実施形態におけるユーザ・プロファイルを例示する表である。基準値は、プロファイルID=0に示すように記憶しておけば良く、この場合、区間Aの再生速度は1.5倍速、区間Bの再生速度は10.0倍速、そして、区間B再生時の音量の基準値は0(即ち音声ミュート)である。上述したユーザ・プロファイルの新規登録時に用いられる基準値には、この値を用いる。
【0115】
また、表4のユーザ・プロファイルのデータスキーマ一において、None とは値が設定されていないことを表し、逆に値が設定されている場合は、その値を最優先して再生を行う。更に、表4において、視力や聴力の欄の Good と Poorは、その人の年齢に無関係な、動体視力や早い音声の聴力の能力を表わす。
【0116】
一般に、高齢になるほど耳が聞こえにくくなる他、言葉を理解する速度の低下が見られることが多く、また子供は言語能力が未発達のために速い速度で音声再生を行なうと理解できなくなることが多い。
【0117】
これらの事情を踏まえて、健常者の年齢に適した区間Aの再生速度、並びに区間Bの再生速度のテンプレートを予め用意しておき、ユーザ・プロファイル14に記憶された年齢に基づき、これらの速度を決定する。
【0118】
しかし、青年にも関わらず動体視力や早い音声の聴力の弱い人や、外国人のため母国語とは異なる言語(例えば日本語)速い速度で音声再生を行なうと理解が追いつかない等、年齢に無関係な原因がある場合もある。このため、本実施形態では、表4に例示するユーザ・プロファイルのように、視力および聴力の特性を記述しておき、これらの設定があればこちらを優先して、区間Aの再生速度、並びに区間Bの再生速度を低めに決定する。
【0119】
このような場合、高齢者および動体視力の弱いユーザに関しては、本来の早見再生という観点からは外れるかもしれないが、人の音声区間(区間A)の再生速度を等倍速度より遅い速度に決定し、人の音声区間ではない区間(区間B)の再生速度を等倍速度以上とすることにより、係るユーザが区間Aの音声内容を把握可能な低速再生を行いながらも、全体としては全ての区間を低速再生するよりも速い時間で動画を閲覧することが可能となる。
【0120】
また、早口の音声に対する聴力の弱いユーザおよび外国人のため早口の日本語等では理解が追いつかないユーザに関しては、区間Aの再生速度を等倍速度より遅い速度に決定し、区間Bの再生速度に関しては、その年齢の健常者と同じ再生速度とすることにより、区間Aの音声内容を把握可能な低速再生を行いながらも、全体としては全ての区間を低速再生するよりも速い時間で動画を閲覧することが可能となる。
【0121】
このように、本実施形態では、ユーザ・プロファイルに対する速度決定処理は、予め健常者における年齢に適した区間Aの再生速度および区間Bの再生速度のテンプレート、動体視力や早い音声の聴力の弱い症状、外国人のため早口の日本語では理解が追いつかない状況を加味して総合的な判断を行う。
【0122】
また、本実施形態において、音声内容の言語に堪能か否かの判断は、ユーザ・プロファイル14に記憶されている堪能であるか否か、或いは母国語を特定する言語種別情報と、再生対象の動画に含まれる音声内容の言語種別情報とを比較することにより行う。近年、DVD等のデジタルコンテンツや、デジタルBS等のデジタルメディアには、音声内容の言語を特定する言語種別情報が記憶されており、また近年EPG(電子番組表)等から番組内容が電子的に入手可能であるため、これらの情報を用いることは現実的である。また、これらの情報が入手できない場合であっても、地上波TV番組でも標準設定では母国語、2カ国音声では通常メイン音声が母国語であり且つサブ音声は外国語であるため、これらの経験則に基づいて推定すれば良い。
【0123】
ステップS604では、ステップS603にて読み込んだユーザ所望のプロファイルに基づいて、区間Aの再生速度と、区間Bの再生速度とを決定する。ここで、本ステップにおける処理の詳細を、図6を参照して説明する。
【0124】
図6は、本実施形態における動画早見再生処理を示すフローチャートのうち、ステップS604(図5)の処理の詳細を示すフローチャートである。
【0125】
同図において、まずステップS601では、ユーザ・プロファイル14から先にユーザによって選択されたプロファイルを読み込み、ステップS602では、読み込んだプロファイルから取得したユーザの年齢に従って、健常者の年齢に応じた最適な区間Aの再生速度と、区間Bの再生速度とが設定されているテンプレートを参照することにより、そのユーザに対する区間Aの再生速度と、区間Bの再生速度とを仮決定する。
【0126】
ステップS603では、ステップS601にて読み込んだプロファイルに、動体視力が弱いと記述されているかを判断し、その旨が記述されている場合には、ステップS604において、区間Aの再生速度と、区間Bの再生速度とを両方とも基準値より低い値に更新する。従って、この値も、予めプロファイルに記憶しておくのが望ましい。
【0127】
ステップS605では、ステップS603にて当該プロファイルに動体視力が弱いとは記述されていないと判断されたので、当該プロファイルに、速い音声の聴力が弱いと記述されているかを判断し、その旨が記述されている場合には、ステップS606において、区間Aの再生速度のみ低い値に更新する。従って、この値も、予めプロファイルに記憶しておくのが望ましい。
【0128】
ステップS607では、ステップS605にて当該プロファイルに速い音声の聴力が弱いとは記述されていないと判断されたので、再生すべき動画データに含まれる音声内容の言語種別情報が入手可能であるかを判断し、入手可能である場合にはステップS608に進み、入手不可能な場合には処理を終了する。
【0129】
ステップS608では、再生すべき動画データに含まれる音声内容の言語種別情報を入手すると共に、入手した言語種別情報と、現在選択されている当該プロファイルに記述された得意言語情報とを比較し、これら2種類の情報が一致する場合には処理を終了し、一致しない場合には、ステップS609において、区間Aの再生速度のみ低い値に更新する。従って、この値も、予めプロファイルに記憶しておくのが望ましい。
【0130】
即ち、図6に示す一連の処理では、ステップS603、ステップS605、並びにステップS608のどれにも当たらない場合には、ステップS602において仮決定された区間Aの再生速度、並びに区間Bの再生速度がそのまま採用されることになる。
【0131】
もし、高齢や若年にもかかわらず動体視力や早い音声の聴力が優れている場合や、逆に劣っている場合には、区間Aの再生速度および区間Bの再生速度の変更メニューを用いて、これらの値を変更できるように構成すると良い。この場合、ユーザは、再生映像を見ながら、区間Aの再生速度および区間Bの再生速度を適宜変更し、自動的、或いはユーザに確認を求めた上で、設定された再生速度情報を、当該ユーザに対応するプロファイルに記憶することにより、前回の操作情報を反映しつつ個々のユーザに応じた理解しやすい動画早見再生を行うことが可能となる。
【0132】
尚、上述したプロファイルを用いずに簡易に行うのであれば、例えば、ステップS601乃至ステップS604、並びにステップS606の各ステップにおける処理の代わりに、区間Aの再生速度を0.5倍速から2倍速まで、区間Bの再生速度を2倍速から10倍速までの間で、ユーザが動作メニューを利用して可変設定可能に構成する実施形態が想定される。
【0133】
ところで、区間Bを高倍率で倍速再生すると、「キュルキュル」という音が出るが、その音を聞きたくない場合には、区間Bの再生時には、音声再生はミュート状態とすることによって音を出なくする、或いは、小さな音量に変更する実施形態が想定される。このような設定に関しても、ステップS603で読み込んだプロファイルに予め記述しておき、動画早見再生時には、係るプロファイルを最優先とし、ステップS602でプロファイルが存在しないと判定された場合には、ステップS606では予め設定されている基準の音量を採用する。もちろん更に簡易に行うのであれば、例えば、動画早見再生処理が予め区間Bの音声再生レベルをどう処理するか予め決めておく実施形態が想定される。
【0134】
上記のような構成により、本実施形態では、区間Aの再生速度および区間Bの再生速度、或いはそれら両方、並びに区間Bの音声レベルの指定を、ユーザ・プロファイルを用いることにより、個々のユーザに最適な再生を簡便に実現することが可能となる。
【0135】
次に、ステップS605では、動画早見インデックス記憶部11から、補正済み音声区間情報を読み込み、ステップS607では、区間Aのトータル長を再生速度で割ることによって区間Aの再生時間を計算し、区間Bについても同様にして再生速度を計算すると共に、これら2つの値を足すことによってユーザが早見に要する時間を算出する。そして、算出された早見に要する時間は、ディスプレイ23等を利用してユーザに提示する。
【0136】
ステップS608では、ステップS607にて早見再生時間を認識したユーザがその時間に満足しているか否かを、リモコン端末への入力操作等を利用して判断し、この判断でユーザが満足している場合には、ステップS610において、上述した処理によって設定された区間Aおよび区間Bの再生速度、並びに区間Bの音声再生レベルに従って、動画データ記憶部10に記憶されている再生対象の動画を再生する。
【0137】
ステップS609では、ステップS608にてユーザが満足していないと判断されたので、ユーザ所望の再生時間に収まるように、区間Aおよび区間Bの再生速度、並びに区間Bの音声再生レベルを変更可能なマンマシン・インタフェースを提供することにより、プロファイルや標準設定に満足できないユーザ自身が望む再生時間に近くなるように調節し、ステップS607に戻る。
【0138】
また、ステップS609に対応する他の実施形態として、現在設定されている区間Aおよび区間Bの再生速度に基づく動画再生を見ながら、それぞれの区間に対して、ユーザ所望の再生速度を変更可能に構成し、それに応じた早見に要する時間の算出及びその提示を行なうことにより、プロファイルや標準設定に満足できないユーザ自身が望む再生時間に近くなるように調節する構成も想定される。
【0139】
ところでユーザ・プロファイルと、ユーザ所望の速度指示との関連であるが、ステップS607にて動画早見再生に要する時間を見たユーザが、所望の動画早見再生に要する時間に収めるべく、区間Aおよび区間Bの再生速度を変更可能なマンマシン・インタフェースを用いて、これらの設定を調整・変更した場合には、その調整・変更後の値を、基準値として採用したいこともある。そこで、このような場合には、自動的、或いは図10に例示する確認画面により、ユーザによる確認を促した後、「はい」が選択された場合には、ユーザによって調整・変更された再生速度情報を、当該ユーザに対応するプロファイルに記憶することにより、以降の動画再生に際しては、前回の操作情報を反映しつつ当該ユーザに応じた理解しやすい動画早見再生を行うことが可能となる。
【0140】
尚、上述した実施形態において、算出された早見再生に要する時間をユーザが確認した上で、ユーザ所望の再生時間に収まるように、区間Aの再生速度および区間Bの再生速度を変更することにより、プロファイルや標準設定に満足できないユーザが、自身が望む再生時間に近くなるように調節する構成例を挙げたが、この構成に限られるものではなく、例えば、ユーザが再生映像を見ながら、区間Aの再生速度および区間Bの再生速度をそれぞれの変更可能に構成しておき、その設定に応じた早見に要する時間を再計算し、これをユーザに提示することにより、ユーザ自身が望む再生時間に近くなるように調節する実施形態も存在する。
【0141】
また、本実施形態においては、音声区間情報を、始点と終点との対であるとして説明したが、始点とその区間長、或いは終点と区間長からなる情報であっても良い。
【0142】
このように、上述した本実施形態によれば、映像と音声との同期関係は崩すことなく、動画早見再生時には、人の発した音声は全て内容を把握できる速度で再生する一方で、人の発した音声の含まれない区間(区間B)は、より高速に再生する。これにより、動画早見再生時のトータルの閲覧時間を、等倍再生を行なった場合と比較して合理的に減らすことが可能となる。
【0143】
また、本実施形態によれば、区間Aの再生速度および区間Bの再生速度を、ユーザ・プロファイル14を用いることにより、個々のユーザに適した再生速度に簡便に設定可能であると共に、区間Bの再生時における音量も、ユーザに適したものに設定できる。
【0144】
更に、本実施形態によれば、早見再生に要する時間を予め、或いは動画の再生中に表示することにより、これに満足できないユーザは、区間Aの再生速度および区間Bの再生速度を指定することにより、当該ユーザに最適な早見再生に要する時間に調整することができ、調整によって設定された情報は、当該ユーザに対応するプロファイルに更新記憶することが可能であるので、次回の早見再生に際して適切な動画再生を行なうことができる。
【0145】
【他の実施形態】
上述した各実施形態を例に説明した本発明は、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。
【0146】
尚、本発明は、前述した各実施形態において説明したフローチャートの機能を実現するソフトウェア・プログラムを、上述した動画再生装置として動作するシステム或いは装置に直接或いは遠隔から供給し、そのシステム或いは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。その場合、プログラムの機能を有していれば、形態は、プログラムである必要はない。
【0147】
従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明のクレームでは、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
【0148】
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。
【0149】
プログラムを供給するための記録媒体としては、例えば、フロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。
【0150】
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWW(World Wide Web)サーバも、本発明のクレームに含まれるものである。
【0151】
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
【0152】
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。
【0153】
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。
【0154】
【発明の効果】
以上説明した本発明によれば、人の発した音声区間を正確に検出すると共に、検出した音声区間に従って映像と音声との同期関係を忠実に維持しながら、ユーザの閲覧所要時間を大幅に短縮する動画再生装置、動画再生方法及びそのコンピュータ・プログラムの提供が実現する。
【図面の簡単な説明】
【図1】本実施形態に係る動画再生装置における動画早見アルゴリズムの概念図を表す図である。
【図2】本実施形態において、動画早見インデックス作成部100にて行われる人の音声区間の検出処理の概略を示すフローチャートである。
【図3】本実施形態において間隔の短い音声区間に対して行われる統合補正処理を示すフローチャートである。
【図4】本実施形態においてシーンチェンジ点を用いて行われる音声区間統合補正処理を示すフローチャートである。
【図5】本実施形態における動画早見再生処理を示すフローチャートである。
【図6】本実施形態における動画早見再生処理を示すフローチャートのうち、ステップS604(図5)の処理の詳細を示すフローチャートである。
【図7】ユーザ・プロファイル選択用の表示画面を例示する図である。
【図8】ユーザ・プロファイル登録用の表示画面を例示する図である。
【図9】本実施形態におけるユーザ・プロファイルの例を示す図である。
【図10】提示された動画早見再生に要する時間に満足しないユーザが設定変更をした場合に、調整・変更された値を次回以降の動画再生時に基準値として用いるか確認を促す表示画面を例示する図である。

Claims (16)

  1. 音声信号と副情報とを含む動画情報を高速度で再生可能な動画再生装置であって、
    前記動画情報に含まれる副情報に基づいて、人の発声期間を表わす第1音声区間と、それ以外の第2音声区間とを判定する音声区間判定手段と、
    前記動画情報に基づいて、前記第1音声区間は、ユーザが内容を把握可能な所定速度で、再生音声を伴う高速動画再生を行なう一方で、前記第2音声区間は、前記所定速度より高速度で、高速動画再生を行なう早見再生手段と、
    を備え
    前記音声区間判定手段は、
    前記副情報から前記第1音声区間の始点を読み出す読み出し手段と、
    前記動画情報のシーンチェンジ点を検出し、検出した複数のシーンチェンジ点のうち着目する第1シーンチェンジ点と該第1シーンチェンジ点の次の第2シーンチェンジ点との区間内に、前記読み出し手段で読み出した前記第1音声区間の始点が存在する場合で、該第1シーンチェンジ点と該第1音声区間の始点との時間差が所定のしきい値以下であるときは、該第1音声区間の始点を該第1シーンチェンジ点に変更する補正を行う始点補正手段と、
    を含むことを特徴とする動画再生装置。
  2. 前記早見再生手段は、前記第2音声区間において、前記第1音声区間における音量より小音量の再生音声を伴う動画再生を行なう
    ことを特徴とする請求項1記載の動画再生装置。
  3. 前記早見再生手段は、前記第2音声区間において、無音声にて動画再生を行なう
    ことを特徴とする請求項1記載の動画再生装置。
  4. 前記副情報には、人の発した音声区間の開始タイミングと終了タイミング、開始タイミングとその区間長、或いは終了タイミングとその区間長のうち何れかが含まれる
    ことを特徴とする請求項1乃至請求項3の何れか1項に記載の動画再生装置。
  5. 前記早見再生手段による高速動画再生の実行を指示された際に、前記音声区間判定手段は、再生映像が出力されるのに先立って前記動画情報に基づいて前記第1及び第2音声区間を判定することにより、前記音声区間判定手段による音声区間の判定と、前記早見再生手段による高速動画再生とが、擬似的リアルタイムに行われる
    ことを特徴とする請求項1乃至請求項3の何れか1項に記載の動画再生装置。
  6. 前記早見再生手段において、前記第2音声区間における音声再生時の音量は、予め決定されるまたはユーザが指定可能である
    ことを特徴とする請求項1乃至請求項3の何れか1項に記載の動画再生装置。
  7. 前記音声区間判定手段は、
    前記副情報から隣り合う2つの第1音声区間を読み出し、これら2つの第1音声区間の間に存在する前記第2音声区間の時間長が第2のしきい値以下であるときは、これら2つの第1音声区間を1つの第1音声区間に統合する補正を行う統合補正手段を更に有する
    ことを特徴とする請求項1乃至請求項の何れか1項に記載の動画再生装置。
  8. 前記始点補正手段は、前記動画情報シーンチェンジ点を、前記副情報から取得することを特徴とする請求項記載の動画再生装置。
  9. 前記第1音声区間の高速動画再生時の前記所定速度は、等速再生の1.5倍乃至2倍の速度である
    ことを特徴とする請求項1記載の動画再生装置。
  10. 音声信号と副情報とを含む動画情報を高速度で再生可能な動画再生方法であって、
    前記動画情報に含まれる副情報に基づいて、人の発声期間を表わす第1音声区間と、それ以外の第2音声区間とを判定する音声区間判定工程と、
    前記動画情報に基づいて、前記第1音声区間は、ユーザが内容を把握可能な所定速度で、再生音声を伴う高速動画再生を行なう一方で、前記第2音声区間は、前記所定速度より高速度で、高速動画再生を行なう早見再生工程と、
    を有し、
    前記音声区間判定工程は、
    前記副情報から前記第1音声区間の始点を読み出す読み出し工程と、
    前記動画情報のシーンチェンジ点を検出し、検出した複数のシーンチェンジ点のうち着目する第1シーンチェンジ点と該第1シーンチェンジ点の次の第2シーンチェンジ点との区間内に、前記読み出し工程で読み出した前記第1音声区間の始点が存在する場合で、該第1シーンチェンジ点と該第1音声区間の始点との時間差が所定のしきい値以下であるときは、該第1音声区間の始点を該第1シーンチェンジ点に変更する補正を行う始点補正工程と、
    を含むことを特徴とする動画再生方法。
  11. 前記早見再生工程では、前記第2音声区間において、前記第1音声区間における音量より小音量の再生音声を伴う動画再生を行なうことを特徴とする請求項10記載の動画再生方法。
  12. 前記早見再生工程では、前記第2音声区間において、無音声にて動画再生を行なうことを特徴とする請求項10記載の動画再生方法。
  13. 前記副情報には、人の発した音声区間の開始タイミングと終了タイミング、開始タイミングとその区間長、或いは終了タイミングとその区間長のうち何れかが含まれることを特徴とする請求項10乃至請求項12の何れか1項に記載の動画再生方法。
  14. 前記早見再生工程にて高速動画再生を実行するに際して、再生映像が出力されるのに先立って前記音声区間判定工程における前記動画情報に基づく前記第1及び第2音声区間の判定を実行することにより、前記音声区間判定工程における音声区間の判定と、前記早見再生工程における高速動画再生とが、擬似的リアルタイムに行われる
    ことを特徴とする請求項10乃至請求項12の何れか1項に記載の動画再生方法。
  15. 前記音声区間判定工程は
    前記副情報から隣り合う2つの第1音声区間を読み出し、これら2つの第1音声区間の間に存在する前記第2音声区間の時間長が第2のしきい値以下であるときは、これら2つの第1音声区間を1つの第1音声区間に統合する補正を行う統合補正工程を更に有する
    ことを特徴とする請求項10乃至請求項14の何れか1項に記載の動画再生装置。
  16. 請求項10乃至請求項14の何れか1項に記載の動画再生方法をコンピュータに実行させるためのコンピュータ・プログラム。
JP2002113625A 2002-04-16 2002-04-16 動画再生装置、動画再生方法及びそのコンピュータ・プログラム Expired - Fee Related JP3970080B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002113625A JP3970080B2 (ja) 2002-04-16 2002-04-16 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
US10/413,390 US7286749B2 (en) 2002-04-16 2003-04-15 Moving image playback apparatus, moving image playback method, and computer program thereof with determining of first voice period which represents a human utterance period and second voice period other than the first voice period
US11/756,777 US7450821B2 (en) 2002-04-16 2007-06-01 Moving image playback apparatus, moving image playback method, and computer program thereof with determining of first voice period which represents a human utterance period and second voice period other than the first voice period

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002113625A JP3970080B2 (ja) 2002-04-16 2002-04-16 動画再生装置、動画再生方法及びそのコンピュータ・プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007117564A Division JP4086886B2 (ja) 2007-04-26 2007-04-26 動画再生装置、動画再生方法及びそのコンピュータ・プログラム

Publications (3)

Publication Number Publication Date
JP2003309786A JP2003309786A (ja) 2003-10-31
JP2003309786A5 JP2003309786A5 (ja) 2005-05-19
JP3970080B2 true JP3970080B2 (ja) 2007-09-05

Family

ID=29395758

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002113625A Expired - Fee Related JP3970080B2 (ja) 2002-04-16 2002-04-16 動画再生装置、動画再生方法及びそのコンピュータ・プログラム

Country Status (1)

Country Link
JP (1) JP3970080B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8015014B2 (en) * 2006-06-16 2011-09-06 Storz Endoskop Produktions Gmbh Speech recognition system with user profiles management component
JP4984948B2 (ja) * 2007-02-15 2012-07-25 船井電機株式会社 番組記録再生装置
JP2016161830A (ja) * 2015-03-03 2016-09-05 カシオ計算機株式会社 コンテンツ出力装置、コンテンツ出力方法及びプログラム

Also Published As

Publication number Publication date
JP2003309786A (ja) 2003-10-31

Similar Documents

Publication Publication Date Title
US7450821B2 (en) Moving image playback apparatus, moving image playback method, and computer program thereof with determining of first voice period which represents a human utterance period and second voice period other than the first voice period
JP3953886B2 (ja) 字幕抽出装置
JP4695392B2 (ja) 画像と自動同期させるサウンド置換に使用する方法及び装置
US7467088B2 (en) Closed caption control apparatus and method therefor
US20100298959A1 (en) Speech reproducing method, speech reproducing device, and computer program
JP2007534235A (ja) ユーザに対する特定の感情的影響を有するコンテンツアイテムを生成する方法
JPWO2018216729A1 (ja) 音声ガイド生成装置、音声ガイド生成方法及び放送システム
WO2007029489A1 (ja) コンテンツリプレイ装置、コンテンツ再生装置、コンテンツリプレイ方法、コンテンツ再生方法、プログラム、および記録媒体
JP2008205745A (ja) 映像再生装置および方法
JP4086532B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP4086886B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP4509188B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP4455644B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP3970080B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP2006339817A (ja) 情報処理装置およびその表示方法
US20050069282A1 (en) Information reproducing method, recording medium on which information reproducing program is computer-readably recorded, and information reproducing apparatus
WO2021157192A1 (ja) 制御装置及び制御方法、コンピュータプログラム、並びにコンテンツ再生システム
JP4353084B2 (ja) 映像再生方法及び装置及びプログラム
JP2002084505A (ja) 映像閲覧時間短縮装置及び方法
JP3848144B2 (ja) 映像短縮再生装置、映像短縮再生方法、この方法のプログラムおよびこのプログラムを記録した記録媒体
JP2008294722A (ja) 動画再生装置および動画再生方法
JP2005352330A (ja) 音声分割記録装置
JP2003230094A (ja) チャプター作成装置及びデータ再生装置及びその方法並びにプログラム
WO2023238650A1 (ja) 変換装置および変換方法
JP2006093918A (ja) デジタル放送受信装置、デジタル放送受信方法、デジタル放送受信プログラム及びプログラム記録媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040706

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040706

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070427

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070605

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110615

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120615

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120615

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130615

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees