JPWO2007029479A1 - 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体 - Google Patents

記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体 Download PDF

Info

Publication number
JPWO2007029479A1
JPWO2007029479A1 JP2007534310A JP2007534310A JPWO2007029479A1 JP WO2007029479 A1 JPWO2007029479 A1 JP WO2007029479A1 JP 2007534310 A JP2007534310 A JP 2007534310A JP 2007534310 A JP2007534310 A JP 2007534310A JP WO2007029479 A1 JPWO2007029479 A1 JP WO2007029479A1
Authority
JP
Japan
Prior art keywords
scene
recording
highlight
content
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007534310A
Other languages
English (en)
Other versions
JP4866359B2 (ja
Inventor
中村 毅
毅 中村
敏雄 田畑
敏雄 田畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pioneer Corp
Original Assignee
Pioneer Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Pioneer Corp filed Critical Pioneer Corp
Priority to JP2007534310A priority Critical patent/JP4866359B2/ja
Publication of JPWO2007029479A1 publication Critical patent/JPWO2007029479A1/ja
Application granted granted Critical
Publication of JP4866359B2 publication Critical patent/JP4866359B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • G11B27/105Programmed access in sequence to addressed parts of tracks of operating record carriers of operating discs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B2220/00Record carriers by type
    • G11B2220/20Disc-shaped record carriers
    • G11B2220/25Disc-shaped record carriers characterised in that the disc is based on a specific recording technology
    • G11B2220/2508Magnetic discs
    • G11B2220/2516Hard disks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/781Television signal recording using magnetic recording on disks or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/806Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal
    • H04N9/8063Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Abstract

まず、判定部(101)は、車両が走行状態にあるか停止状態にあるかを判定する。次に、指示部(102)は、判定部(101)によって車両が走行状態にあると判定された場合、再生対象となるコンテンツにおける所定のタイミングを指示する。そして、特定部(103)は、指示部(102)によって指示されたタイミングに直近する位置において、コンテンツのうち代表的なシーンの範囲を特定する。そして、再生部(104)は、判定部(101)によって車両が停止状態にあると判定された場合、特定部(103)によって特定された範囲で指定される、このコンテンツの代表的なシーンを再生する。

Description

この発明は、記録した映像のハイライト映像を再生する記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体に関する。ただし、この発明の利用は、上述の記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体に限らない。
記録した映像を再生する手法として、ハイライト再生というものがあった。このハイライト再生では、記録した映像のハイライト部分を抜粋して再生することにより、全ての場面を視聴していなくても、短い時間で記録した映像の概要をつかむことができる。従来、このハイライト検出は、背景音声のレベル、テロップ情報の有無、音声認識した文章からのキーワード抽出などの、情報を解析することによってなされていた。
ハイライト再生の手法として、前回視聴時に視聴者がハイライト箇所を指定して、このハイライト箇所から一定時間の再生を繰り返すことにより、ハイライト再生するものがある(たとえば、特許文献1参照。)。また、視聴時に視聴者がハイライト箇所を指定して、ボタンが押された時点から、設定されたオフセット時間だけ前後の区間を、ハイライト区間として設定するものがある(たとえば、特許文献2参照。)。また、動画像をカット点や音声/音楽区間検出などによりシーン分割し、視聴動作を監視した上で各シーンの興味強度を算出するものがある。そして、この興味強度が閾値以上の区間を要約映像としているものがある(たとえば、特許文献3参照。)。
特開平11−273227号公報 特開2001−57660号公報 特開2004−159192号公報
ここで、車両の走行中には、安全運転のために走行中TVを視聴できない。その一方で運転中の放送番組のハイライトシーン、たとえば野球のホームランシーンやサッカーのゴールシーンなどを見ることができない。そこでTV番組受信と同時に番組を録画し、停車状態になったときに視聴者がTVを操作して、目的のハイライトシーンをリプレイすることが考えられる。しかし、この操作をする場合には、巻き戻しボタンを押す、目的のシーンを探し出す、再生ボタンを押すなど、かなり面倒な操作が必要となってしまうという問題が一例として挙げられる。
また、従来の自動ハイライト検出技術では、動画像情報や付随する音響情報から得られる特徴量、あるいはコンテンツに付与されたメタデータのみを指標としてハイライト検出がされており、視聴者の意思を反映する情報は利用されていなかった。また、自動ハイライト再生技術自体に完全な検出を求めることは困難でもあった。よって、視聴者の要求を十分満足するハイライトの検出は実現困難だった、という問題が一例として挙げられる。
また、ハイライト位置を指定してからハイライト再生する場合、ハイライトイベントが発生してから視聴者がこれを指定するので、正しいハイライトイベントの開始位置を指定することは困難である。また、ハイライトイベントの終了位置も指定しない限り分からなかったという問題が一例として挙げられる。
また、視聴者によってボタンを押されたショットを、視聴者が興味を持っているショットであると判断する場合、ハイライトイベント自体を指定するのと大きくは違わない。さらにはボタンの押し下げの圧力、押し下げの速度や連射検出に応じた興味強度を算出する場合であっても、ショットの興味の程度に応じた視聴者のボタン操作を期待するものであり、操作内容にしたがったハイライトイベントの指定とは趣旨が異なる。さらに、興味強度の値によってショット単位で評価するので、ハイライトイベントの正確な開始および終了位置を知ることができなかったという問題が一例として挙げられる。
請求項1の発明にかかる記録再生装置は、車両が走行状態にあるか停止状態にあるかを判定する判定手段と、前記判定手段によって前記車両が走行状態にあると判定された場合、再生対象となるコンテンツにおける所定のタイミングを指示する指示手段と、前記指示手段によって指示されたタイミングに直近する位置において、前記コンテンツのうち代表的なシーンの範囲を特定する特定手段と、前記判定手段によって前記車両が停止状態にあると判定された場合、前記特定手段によって特定された範囲で指定される、前記コンテンツの代表的なシーンを再生する再生手段と、を備えることを特徴とする。
また、請求項6の発明にかかる記録再生装置は、再生対象となるコンテンツから代表的なシーンを抽出する抽出手段と、車両の走行情報を取得する取得手段と、前記取得手段によって取得された走行情報にしたがって前記車両の停車時間を予測する予測手段と、前記予測手段によって予測される前記停車時間に終了する時間の範囲に、前記抽出手段によって抽出されたコンテンツの代表的なシーンを短縮する短縮手段と、前記短縮手段によって短縮された前記コンテンツの代表的なシーンを再生する再生手段と、を備えることを特徴とする。
また、請求項7の発明にかかる記録再生装置は、再生対象となるコンテンツにおける所定のタイミングを指示する指示手段と、前記指示手段によって指示されたタイミングに直近する位置において、前記コンテンツのうち代表的なシーンの範囲を特定する特定手段と、前記特定手段によって特定された範囲で指定される前記コンテンツの代表的なシーンを再生対象として出力する出力手段と、を備えることを特徴とする。
また、請求項8の発明にかかる記録再生装置は、再生対象となるコンテンツを記録する記録手段と、前記記録手段によって記録されたコンテンツの代表的なシーンを再生する再生手段と、前記記録手段によってコンテンツを記録するとともに前記再生手段によって前記代表的なシーンを再生している場合、前記記録手段によって記録しているコンテンツに代表的なシーンが含まれているか否かを判定する判定手段と、前記判定手段によって代表的なシーンが含まれていると判定された場合、前記記録手段に該代表的なシーンを記録させる制御手段と、を備えることを特徴とする。
また、請求項9の発明にかかる記録再生装置は、再生対象となるコンテンツを記録する記録手段と、前記記録手段によって記録されるコンテンツの重要度を検出する検出手段と、前記検出手段によって検出された重要度にしたがって、前記コンテンツの代表的なシーンの範囲を特定する特定手段と、前記特定手段によって特定された範囲で指定される前記コンテンツの代表的なシーンを再生する再生手段と、を備えることを特徴とする。
また、請求項10の発明にかかる記録再生方法は、車両が走行状態にあるか停止状態にあるかを判定する判定工程と、前記判定工程によって前記車両が走行状態にあると判定された場合、再生対象となるコンテンツにおける所定のタイミングを指示する指示工程と、前記指示工程によって指示されたタイミングに直近する位置において、前記コンテンツのうち代表的なシーンの範囲を特定する特定工程と、前記判定工程によって前記車両が停止状態にあると判定された場合、前記特定工程によって特定された範囲で指定される、前記コンテンツの代表的なシーンを再生する再生工程と、を含むことを特徴とする。
また、請求項11の発明にかかる記録再生プログラムは、請求項10に記載の記録再生方法をコンピュータに実行させることを特徴とする。
また、請求項12の発明にかかるコンピュータに読み取り可能な記録媒体は、請求項11に記載の記録再生プログラムを記録したことを特徴とする。
図1は、この発明の実施の形態にかかる記録再生装置の機能的構成を示すブロック図である。 図2は、この発明の実施の形態にかかる記録再生方法の処理を示すフローチャートである。 図3は、記録再生装置の機能的構成を説明するブロック図である。 図4は、車載応用する場合のハイライト記録処理を説明するフローチャートである。 図5は、ブレーキ検出状態にしたがった処理を説明するフローチャートである。 図6は、停車時刻データベースを説明する説明図である。 図7は、ハイライト検出処理を説明するフローチャートである。 図8は、ハイライトシーンの開始位置と終了位置を説明する説明図である。 図9は、VICS/ビーコンを使用する場合のハイライト再生処理を説明するフローチャートである。 図10は、ヒント情報をもとにしたハイライト再生処理を説明するフローチャートである。 図11は、リプレイ間のハイライト検出を考慮したハイライト再生処理を説明するフローチャートである。 図12は、ハイライトシーンと重要度をHDDに記録する場合の機能的構成を説明するブロック図である。 図13は、ハイライトシーンと重要度をHDDに記録する場合の処理を説明するフローチャートである。 図14は、ハイライトシーンの開始位置/終了位置と重要度を説明する説明図である。 図15は、ハイライトイベントの指示を受けて行うハイライト検出処理を説明するフローチャートである。
符号の説明
101 判定部
102 指示部
103 特定部
104 再生部
301 アンテナ
302 チューナ
303 IF回路
310 映像復調部
311 映像合成部
312 映像出力部
313 A/D変換部
314 映像符号化部
315 映像復号部
316 映像処理部
317 D/A変換部
319 バス
320 音声復調部
321 音声選択部
322 音声出力部
323 A/D変換部
324 音声符号化部
325 音声復号部
327 D/A変換部
330 特徴量抽出部
331 HDD
332 ハイライト検出部
333 制御部
334 操作部
335 サイドブレーキ状態検出部
336 VICS/ビーコン情報取得部
以下に添付図面を参照して、この発明にかかる記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体の好適な実施の形態を詳細に説明する。
図1は、この発明の実施の形態にかかる記録再生装置の機能的構成を示すブロック図である。この実施の形態の記録再生装置は、判定部101、指示部102、特定部103、再生部104により構成されている。
判定部101は、車両が走行状態にあるか停止状態にあるかを判定する。たとえば、サイドブレーキの状態によって車両が走行状態にあるか停止状態にあるかを判定する。指示部102は、判定部101によって車両が走行状態にあると判定された場合、再生対象となるコンテンツにおける所定のタイミングを指示する。具体的には、コンテンツ中のハイライトイベントの指示を受け付ける。
特定部103は、指示部102によって指示されたタイミングに直近する位置において、このコンテンツのうち代表的なシーンの範囲を特定する。具体的には、ハイライトイベントが指示された場合、コンテンツからハイライトイベントの範囲を特定する。特定部103は、コンテンツに含まれる各シーンが特徴的なシーンであるか否かを判別し、そのシーンが特徴的なシーンである区間を代表的なシーンの範囲と特定することもできる。
また、特定部103は、コンテンツに含まれる各シーンについてコンテンツの特徴量を抽出し、特徴量にしたがってそのシーンが特徴的なシーンであるか否かを判別することもできる。また、特定部103は、指示部102によって指定されたタイミングより所定時間前の位置以降のシーンが特徴的なシーンに含まれるか否かを判別して代表的なシーンの範囲を特定することもできる。
再生部104は、判定部101によって車両が停止状態にあると判定された場合、特定部103によって特定された範囲で指定される、このコンテンツの代表的なシーンを再生する。具体的には、範囲が特定されたハイライトイベントを再生する。また、判定部101で車両が前回停車した時刻を記録し、再生部104は、判定部101によって記録された前回停車した時刻以降のハイライトイベントを再生することもできる。
なお、この記録再生装置において、再生対象となるコンテンツから代表的なシーンを抽出しておき、車両の走行情報を取得して、取得された走行情報にしたがって車両の停車時間を予測し、予測された停車時間に終了する時間の範囲に、抽出されたコンテンツの代表的なシーンを短縮し、再生部104が、短縮されたコンテンツの代表的なシーンを再生するよう構成することもできる。
また、この記録再生装置において、指示部102が、再生対象となるコンテンツにおける所定のタイミングを指示し、特定部103が、指示部102によって指示されたタイミングに直近する位置において、このコンテンツのうち代表的なシーンの範囲を特定し、再生部104が、特定部103によって特定された範囲で指定される前記コンテンツの代表的なシーンを再生対象として出力することもできる。
また、この記録再生装置において、再生対象となるコンテンツを記録しておき、再生部104が、記録されたコンテンツの代表的なシーンを再生し、判定部101が、コンテンツを記録するとともに再生部104によって代表的なシーンを再生しているときに、記録されているコンテンツに代表的なシーンが含まれているか否かを判定し、判定部101によってハイライトシーンが含まれていると判定された場合、代表的なシーンを記録させることもできる。
また、この記録再生装置において、再生対象となるコンテンツを記録して、記録されたコンテンツの重要度を検出し、特定部103が、検出された重要度にしたがって、このコンテンツの代表的なシーンの範囲を特定し、再生部104が、特定部103によって特定されたハイライトシーンを再生するように構成することもできる。
図2は、この発明の実施の形態にかかる記録再生方法の処理を示すフローチャートである。まず、判定部101は、車両が走行状態にあるか停止状態にあるかを判定する(ステップS201)。たとえば、サイドブレーキの状態によって車両が走行状態にあるか停止状態にあるかを判定する。指示部102は、判定部101によって車両が走行状態にあると判定された場合(ステップS201:走行状態)、再生対象となるコンテンツにおいて所定のタイミングを指示する(ステップS202)。
特定部103は、指示部102によって指示されたタイミングに直近する位置において、コンテンツのうち代表的なシーンの範囲を特定する(ステップS203)。特定部103は、コンテンツに含まれる各シーンが特徴的なシーンであるか否かを判別し、そのシーンが特徴的なシーンである区間を代表的なシーンの範囲と特定することもできる。
また、特定部103は、コンテンツに含まれる各シーンについてコンテンツの特徴量を抽出し、特徴量にしたがってそのシーンが代表的なシーンであるか否かを判別することもできる。また、特定部103は、指示部102によって指定されたタイミングより所定時間前の位置以降のシーンが特徴的なシーンに含まれるか否かを判別して代表的なシーンの範囲を特定することもできる。特定後、一連の処理を終了する。
再生部104は、判定部101によって車両が停止状態にあると判定された場合(ステップS201:停止状態)、特定部103によって特定された範囲で指定される、このコンテンツの代表的なシーンを再生する(ステップS204)。そして、一連の処理を終了する。
以上説明した実施の形態により、車両が走行状態のときに所定のタイミングを指示し、車両が停止状態のときにハイライトシーンなどの代表的なシーンを再生することができる。それにより、運転者の運転の邪魔をしない形でのコンテンツの視聴を支援することができる。また、停車時刻を記録しておくことにより、前回停車時以降のハイライトイベントのみを再生できるので、代表的なシーンのうち重複したものの再生を防ぐことができる。
(実施例1)
図3は、記録再生装置の機能的構成を説明するブロック図である。テレビ電波は、アンテナ301を介して受信される。ここで、チューナ302は、選局して同調操作することにより、アンテナ301から映像音声信号を受信する。そしてIF回路303は、映像音声信号を映像信号と音声信号に分離する。
映像復調部310は映像信号を復調し、音声復調部320は音声信号を復調する。復調された映像信号および音声信号は、それぞれA/D変換部313,323でデジタル信号に変換する。映像信号および音声信号をデジタル信号に変換した映像データおよび音声データは、それぞれ映像符号化部314、音声符号化部324に入力される。また、映像データおよび音声データは、ともに特徴量抽出部330に入力される。また、映像データおよび音声データは、それぞれ映像処理部316、D/A変換部327にそれぞれ入力される。
映像符号化部314、映像復号部315、音声符号化部324、音声復号部325、特徴量抽出部330、HDD331、ハイライト検出部332は、バス319によって接続されている。HDD331は、ハードディスクドライブである。HDD331は、コンテンツを記録し、また、ハイライトシーンデータベース、停車時刻を記録した停車時刻データベースを備える。
映像符号化部314では、デジタル化された映像データを圧縮する。それにより、HDD331に長い時間のコンテンツを記録する。圧縮方式としては、MPEG−2が標準的であるが、より高い圧縮効率の高い符号化方式を選択する場合、たとえばMPEG−4やITU−T_H.264などを使用することが考えられる。映像復号部315は、HDD331に記録された符号化された映像データを読み出して復号する。映像復号部315は、復号した映像データを、映像処理部316に送って映像処理するとともに、特徴量抽出部330に送る。映像データを映像処理部316で映像処理した後、D/A変換部317でアナログ信号に変換し、映像合成部311に入力する。映像合成部311は、D/A変換部317と映像復調部310の入力の一方を選択して映像出力部312に出力する。映像出力部312からは、映像信号がディスプレイに出力される。
音声符号化部324は、映像データと同様に音声データを圧縮符号化する。符号化方式としては、MPEG−1_Layer2、MPEG−1_layer3(MP3)、MPEG−2_AAC、Dolby_AC3などが考えられる。音声復号部325は、HDD331に記録された符号化された音声データを復号する。復号された音声データは、D/A変換部327でアナログ信号に変換され、音声選択部321に入力される。音声選択部321は、D/A変換部327と音声復調部320の入力の一方を選択して音声出力部322に出力する。音声出力部322からは、音声信号がスピーカに出力される。
特徴量抽出部330は、特徴量を映像データあるいは音声データから検出する。この特徴量は、動画像コンテンツから、ハイライト、つまり意味的に重要な部分を検出するために必要なパラメータである。抽出すべき特徴量は、たとえばシーンチェンジ、動き情報、カメラワーク、テロップ、音声レベル、音声情報を、音声認識して作成されるテキストなどが考えられる。このような映像・音声の特徴を示すデータを抽出し、その量を求めることにより特徴量を抽出している。この映像、音声、またはその両方を含む情報をコンテンツといい、テレビ番組や映像のみ、音声のみの情報などが挙げられる。
ハイライト検出部332は、特徴量抽出部330によって抽出された特徴量を利用して、映像データおよび音声データの集合により構成される動画像コンテンツからハイライト部分を抽出する。ハイライト検出の手法には様々な方法が考えられ、音声レベルの高い区間あるいは無音区間を利用することで、ハイライト区間を検出する方法が考えられる。
制御部333は、ハイライト検出部332による検出結果および、操作部334、サイドブレーキ状態検出部335、VICS/ビーコン情報取得部336からの出力に基づいてハイライト場面に関する情報をHDD331に記録する。
操作部334は、ハイライトイベント指示、リプレイ実行、ダイジェスト再生開始などの、視聴者からの操作指示を受け付ける。操作部334の操作としては、リモコン、ボタン、キーボード、マウスなどの機器操作の他に、音声認識、ジェスチャー認識などのユーザインターフェースを使用することも考えられる。また、その他、アプリケーションに応じて、様々な操作方法を使用することができる。
サイドブレーキ状態検出部335は、車両のサイドブレーキの固定/解放状態を検出する。そしてこの固定/解放状態にしたがって、映像のディスプレイ上での表示状態を制御する。通常、車載用TVでは、サイドブレーキを引くなど停車状態でないと視聴できない仕様になっている。それにより、走行中の運転者の注意が、TVに向けられることによる事故の発生を防止している。つまり、走行中はTV画面が消え、音声のみの状態となる。
以上の構成により、車両の走行中、視聴者によるハイライトイベントの指示を受け付け、停車時にハイライトシーンのリプレイを実行するが、この処理について説明する。
図4は、車載応用する場合のハイライト記録処理を説明するフローチャートである。まず、番組受像とともに、HDD331に番組コンテンツを録画する(ステップS401)。そして、番組コンテンツの録画にあたって、ハイライト検出に使用される特徴量を抽出し、HDD331に記録する(ステップS402)。なお、記録すべき特徴量は、ハイライト検出アルゴリズムに依存し、このハイライト検出アルゴリズムは、固有のものには限定しない。そして、受像が終了したか否かを判定する(ステップS403)。ここで、受像が終了していた場合(ステップS403:Yes)、一連の処理を終了する。ここで受像が終了していない場合(ステップS403:No)、図5に示すブレーキ検出状態にしたがった処理を実行する(ステップS404)。
図5は、ブレーキ検出状態にしたがった処理を説明するフローチャートである。まず、サイドブレーキの状態を判定する(ステップS501)。サイドブレーキの状態が解放状態であると判定された場合(ステップS501:解放状態)、TV画面を消去する(ステップS502)。そして、ハイライトイベントの指示があるか否かを判定する(ステップS503)。ハイライトイベントの指示がない場合(ステップS503:No)、一連の処理を終了する。ハイライトイベントの指示があった場合(ステップS503:Yes)、図7に示すハイライト検出処理を実行する(ステップS504)。実行後、一連の処理を終了する。
視聴者は、車両を運転中に、ハイライトイベントの発生をTV音声によって確認した場合には、ハイライトイベントを指示する。視聴者によるハイライトイベント指示は、特に限定しないが、リモコンによる操作や音声認識による方法が考えられる。それにより、運転への影響を最小化することができる。
一方、サイドブレーキの状態が固定状態であると判定された場合(ステップS501:固定状態)、TV画面を表示する(ステップS505)。このとき、TV音声の出力も継続する。そして、車両は停止状態に入っているので、この停車時刻を図6に示すように停車時刻データベースに保存する(ステップS506)。そして、リプレイ指示があったか否かを判定する(ステップS507)。リプレイ指示がなかった場合(ステップS507:No)、一連の処理を終了する。
リプレイ指示があった場合(ステップS507:Yes)、停車時刻データベースを確認して、前回停車時刻以降のハイライトシーン情報をHDD331から読み出す(ステップS508)。そして、リプレイ処理を実行する(ステップS509)。それにより、前回停車時刻以降の番組のハイライトシーンを短時間に楽しむことができる。そして、リプレイ後、一連の処理を終了する。
上述の処理により、サイドブレーキを引き、車両の停車が確認されたあと、視聴者が指示したハイライトをリプレイする。これにより、TV画面つきで番組のダイジェストを短時間で楽しむことができる。このリプレイ開始は、視聴者によるリプレイ開始指示でもよく、サイドブレーキと連動した自動リプレイ開始でもよい。
また、停車時刻を管理する停車時刻データベースを実装し、サイドブレーキと連動つまり固定状態になると自動的にリプレイを開始することもできる。そして、車両の停車時刻をデータベースで管理する。これにより、前回停車以降から、ここまでに視聴者によって指示されたハイライトだけをリプレイすることができる。前回停車時以前のハイライトは、前回以前の停車時に視聴済みであると考えられる。つまり、停車時間の管理により、必要最小限のダイジェストを実現することができる。
なお、サイドブレーキの状態検出によって車両の停止状態を検出する方法は、車載TV視聴を制限する一般的な方法であるが、車両のキーの位置が停止状態であるか否か、速度計、車速パルス検出、加速度センサなどの手法をとることもできる。また、ハイライトシーンのリプレイは、視聴者の指示によって開始することもできるが、サイドブレーキと連動、すなわちサイドブレーキが固定状態になった場合に自動的にリプレイを開始させることもできる。また、リプレイ対象のハイライトシーンについても、前回停車時以降としたが、全ハイライトシーンを再生するようにすることもできる。
それにより、視聴者の車両運転を邪魔しない形での車載TV視聴支援を実現することができる。また、停車時刻データベースにより、前回停車時以降のハイライトシーンのみをリプレイすることができ、重複したハイライトのリプレイを排除することができる。
図6は、停車時刻データベースを説明する説明図である。それぞれIDに対応させて停車時刻の開始時刻と終了時刻を記録する。データ600〜603は、それぞれID0〜3に対応付けて開始時刻および終了時刻を記録しているが、これ以降の停車時刻についても、IDを4、5、・・と用意しておくことにより、開始時刻および終了時刻を記録していくことができる。
データ600は、ID0に対応付けて記録されており、開始時刻は0時30分10秒05である。また、終了時刻は0時1分12秒04である。データ601は、ID1に対応付けて記録されており、開始時刻は5時22分21秒05である。また、終了時刻は0時2分57秒13である。データ602は、ID2に対応付けて記録されており、開始時刻は8時3分11秒04である。また、終了時刻は0時3分47秒01である。データ603は、ID3に対応付けて記録されており、開始時刻は17時14分1秒04である。また、終了時刻は0時4分43秒20である。
図7は、ハイライト検出処理を説明するフローチャートである。まず、Tcを現在の再生位置として保存する(ステップS701)。次に、一定時間の処理を待つ(ステップS702)。それにより、ハイライト検出処理の開始を遅らせる。遅らせることにより、ハイライトイベントの終了を待ち、ハイライトの開始時間/終了時間を検出できるようにする。
そして、ハイライト検出区間を設定する(ステップS703)。ここで、ハイライト検出開始時間をs、ハイライト検出終了時間をeとする。ハイライト検出区間については、たとえば、s=Tc−30秒とする。また、e=Tc+120秒とする。この長さは、それぞれアプリケーションに応じて様々に設定することができる。
次に、区間[s,e]の特徴量をHDD331から読み出す(ステップS704)。次に、読み出された特徴量からハイライトシーンを検出する(ステップS705)。ここで、ハイライト検出アルゴリズムについては特に限定しない。そして、ハイライト情報をHDD331に記録する(ステップS706)。具体的には、ハイライトシーンの開始位置と終了位置をデータベースに記録する。そして、記録後、一連の処理を終了する。
図8は、ハイライトシーンの開始位置と終了位置を説明する説明図である。それぞれIDに対応させてハイライトシーンの開始位置と終了位置を記録する。データ800〜804は、それぞれID0〜4に対応付けて開始位置および終了位置を記録しているが、これ以降のハイライトシーンについても、IDを5、6、・・と用意しておくことにより、開始位置および終了位置を記録していくことができる。それにより、新たなハイライトシーンを検出する毎にIDを1ずつ増加して追記していく。図8は、このように検出されたハイライトシーン情報の一例である。IDは、各ハイライトシーンを識別するために付与される番号である。また終了時間は、ハイライトシーンの継続時間の形で記録してもよい。
データ800は、ID0に対応付けて記録されており、開始位置は0時0分30秒15である。また、終了位置は0時1分12秒04である。データ801は、ID1に対応付けて記録されており、開始位置は0時2分21秒25である。また、終了位置は0時2分57秒13である。データ802は、ID2に対応付けて記録されており、開始位置は0時3分1秒14である。また、終了位置は0時3分47秒01である。データ803は、ID3に対応付けて記録されており、開始位置は0時4分11秒04である。また、終了位置は0時4分43秒20である。データ804は、ID4に対応付けて記録されており、開始位置は0時5分5秒17である。また、終了位置は0時0分0秒0である。
また、ハイライトシーンの検出は、特徴量をHDD331に記録して、記録した特徴量を利用することによって実現することもできるが、その他、ハイライトシーン候補とその重要度を検出してHDD331に記録し、これを利用してハイライトシーンを検出することもできる。また、ハイライト検出処理については、後述する実施例5で説明する部分に置き換えることもできる。それにより、ハイライト検出に必要となるHDD331に記録すべきデータを削減することができる。
以上のように、実施例1によれば、車両の走行中に、たとえば番組の音声を聴きながら番組のハイライトシーンであることを認識して、その番組中のあるタイミングを指定することにより、そのタイミングの直近する位置でコンテンツのハイライトシーンの範囲を特定することができる。従来であれば、指定した時点を開始時点とし、また別の指定した時点を終了時点として範囲を決めていたので実際のハイライトシーンの範囲を特定することができなかった。とくに、運転中の場合は運転に集中しているので、指定したタイミングと実際のハイライトシーンの開始時点の間にはズレが発生しやすかった。それに対して、指定したタイミングをヒント情報としてハイライトシーンを特定するので、的確に範囲を特定することができる。
また運転中には、番組自体はもちろん、ハイライトシーンを視聴することは安全面を考慮すると不可能であるものの、車両が停止状態にある場合は、その間に発生した番組を把握しておきたいというニーズがある。これに対して、車両が停止状態にあるときに、このハイライトシーンを再生する。それにより、たとえばスポーツ番組を視聴している場合に、試合の進行に合わせたハイライトシーンを視聴することにより、運転中に視聴できなかった番組のうち必要な部分を視聴することができる。
(実施例2)
図9は、VICS/ビーコンを使用する場合のハイライト再生処理を説明するフローチャートである。この実施例2のハイライト再生処理は、図3に示した記録再生装置において実行することができる。まず、サイドブレーキの状態を判定する(ステップS901)。サイドブレーキが解放状態の場合(ステップS901:解放状態)、TV画面を消去する(ステップS902)。そして、ハイライトイベントの指示があったか否かを判定し(ステップS903)、ハイライトイベントの指示がない場合(ステップS903:No)、一連の処理を終了する。ハイライトイベントの指示があった場合(ステップS903:Yes)、図7に示したハイライト検出処理を実行する(ステップS904)。そして、一連の処理を終了する。
一方、サイドブレーキの状態が固定状態であると判定された場合(ステップS901:固定状態)、TV画面を表示する(ステップS905)。そして、車両は停止状態に入っているので、この停車時刻を保存する(ステップS906)。そして、リプレイ指示があったか否かを判定する(ステップS907)。リプレイ指示がなかった場合(ステップS907:No)、一連の処理を終了する。リプレイ指示があった場合(ステップS907:Yes)、ハイライトシーン情報をHDD331から読み出す(ステップS908)。そして、VICS/ビーコン情報を取得し、この情報をもとに停車時間の予測を行う(ステップS909)。そしてこの予測される停車時間に応じて、ハイライトシーンを選択/短縮する(ステップS910)。そして、リプレイ処理を実行し(ステップS911)、一連の処理を終了する。
以上の処理により、リプレイ対象となるリプレイ時間が、予測される停車時間よりも長い場合は、(1)リプレイ対象となるハイライトシーンを、たとえば過去順、重要度順などにしたがって選択する。そして残ったハイライトシーンは、次回停車時のリプレイで再生する。(2)リプレイ対象となるハイライトシーンを一律に短縮し、リプレイ総時間を停車時間内に収める。(3)リプレイ対象となるハイライトシーンで、重要度の低いものから優先的に時間を短縮し、リプレイ総時間を停車時間内に収める。
以上のように、実施例2によれば、VICS/ビーコンなどから車両の走行情報を取得し、取得した走行情報から車両の停車時間を予測する。具体的には交差点での信号待ち時間や、渋滞による停車時間などである。そして、予測される停車時間に合わせてハイライトシーンを選択/短縮する。それにより、車両の停車時間内にリプレイが終了することを保証することができる。運転者は走行と停車を繰り返しながら運転していくが、視聴し終わるまでに走行を開始してしまうことなく、停車時間中に走行中に見ることができなかったシーンを視聴し終わることができる。それにより、次に走行して停車したときには、前に停車したとき以前のシーンを再生する必要がなくなり、視聴すべきシーンに遅れていってしまうことを防ぐことができる。
(実施例3)
図10は、ヒント情報をもとにしたハイライト再生処理を説明するフローチャートである。この実施例3のハイライト再生処理は、図3に示した記録再生装置において実行することができる。まず、HDD331に番組コンテンツを録画する(ステップS1001)。次に、ハイライト検出のための特徴量を抽出してHDD331に記録する(ステップS1002)。そして、ハイライトイベントの指示があったか否かを判定し(ステップS1003)、ハイライトイベントの指示があった場合(ステップS1003:Yes)、図7に示したハイライト検出処理を実行する(ステップS1004)。
ハイライトイベントの指示がない場合(ステップS1003:No)、またはハイライト検出処理が終了した後、受像が終了したか否かを判定する(ステップS1005)。受像が終了していない場合(ステップS1005:No)、ステップS1001に戻って処理を再開する。受像が終了している場合(ステップS1005:Yes)、一連の処理を終了する。
すなわち、番組受像と同時に、ハイライトシーンの検出に利用される特徴量を抽出し、HDD331に記録する。そして、視聴者のハイライトイベント指示に応じて、所定のハイライト検出区間の特徴量をHDD331から読み出し、ハイライト検出する。そして、ハイライトシーンの終了時間を検出する。それにより、視聴者によるハイライトイベント指示をハイライトシーンの自動検出のヒント情報として利用し、ハイライトシーンの終了時間を検出している。
以上の処理により、視聴者によるハイライトイベント指示にあいまいさがあっても、正確にハイライトシーンを検出できる。また、ハイライトシーンの終了時間も検出するので、たとえばハイライトシーンのリプレイ時には、視聴者によるリプレイ終了指示の必要がなく、リプレイの自動終了も可能である。また、ハイライトシーンの自動繰り返しも可能になる。
ハイライトシーンの自動検出では、視聴者の意思に完全に即した検出は困難であるという問題が挙げられる。そこで、ハイライトイベントの発生を視聴者から指示され、これをヒントとしてハイライトシーンを検出する。このようにハイライト検出することにより、ハイライトシーンの自動リプレイ、あるいはハイライトシーンのみを再生することによる、ハイライト再生、要約再生、ダイジェスト再生を含む短時間再生を行う。
ハイライトイベントを視聴者に指示してもらい、指示内容を記録して利用することも考えられるが、これだけでは、第1に視聴者がハイライトイベントを指示できるのは、ハイライトイベントが発生した後であるので、正確なハイライトシーン開始時間を得ることができないという問題が一例として挙げられる。また第2に、ハイライトシーン終了時間を指定することができず、指定したとしても指示操作を視聴者に煩わせた上にその操作が正確ではないという問題が一例として挙げられる。
以上のように、実施例3によれば、視聴者によってハイライトイベントを指示させ、この視聴者による指示をハイライトシーン自動検出のヒント情報で利用する。つまり、視聴者の指示により希望に沿ったハイライトシーンを指定することができ、かつ視聴者指示の不完全さをハイライト検出処理で補完することにより、単一ボタン操作での正確なハイライトシーン指定を可能として、このための面倒な操作を排除することができる。
さらに、得られたハイライト情報を利用することにより、ハイライト再生することができる。つまり検出されたハイライトシーンを時間順に順次再生することにより、番組全体をハイライト再生することができる。これにより、番組全体を短い時間で内容理解、あるいは興味の有無の判断に役立てることができる。
なお、視聴者からのハイライトイベント指示に応じてこの指示時間に近いハイライトシーンを検出したが、この検出されたハイライトシーンの検出条件を記憶しておき、以降はこの記憶した条件に近いハイライトシーンを検出したときに自動的にハイライトシーンを決定するようにしてもよい。
(実施例4)
図11は、リプレイ間のハイライト検出を考慮したハイライト再生処理を説明するフローチャートである。この実施例4のハイライト再生処理は、図3に示した記録再生装置において実行することができる。まず、HDD331に番組コンテンツを録画する(ステップS1101)。次に、ハイライト検出のための特徴量を抽出し、HDD331に記録する(ステップS1102)。次に、受像が終了したか否かを判定する(ステップS1103)。終了していた場合(ステップS1103:Yes)、一連の処理を終了する。
終了していない場合(ステップS1103:No)、ハイライトイベントの指示があったか否かを判定する(ステップS1104)。ハイライトイベントの指示があった場合(ステップS1104:Yes)、図7に示したハイライト検出処理を実行し(ステップS1105)、ステップS1101に戻る。ハイライトイベントの指示がなかった場合(ステップS1104:No)、リプレイ指示があったか否かを判定する(ステップS1106)。
リプレイ指示がなかった場合(ステップS1106:No)、ステップS1101に戻る。リプレイ指示があった場合(ステップS1106:Yes)、ハイライトシーン情報をHDD331から読み出す(ステップS1107)。このとき、リプレイ対象となるハイライトシーンは、直前のハイライトシーン、前回リプレイ指示以降のハイライトシーン、全てのハイライトシーン、など様々な場合を考えることができる。前回リプレイ指示以降のハイライトシーンを決定する場合、リプレイ実施時刻データベースの情報を利用することにより可能となる。
次に、リプレイ処理を実行する(ステップS1108)。ここで、今回リプレイを視聴した時刻、つまりリプレイによってリアルタイムのTV番組の視聴ができなかった時刻を、リプレイ実施時刻データベースに記録する(ステップS1109)。この例は、図6に示したとおりである。そして、このデータベース形式は、実施例1で説明した停車時刻データベースと同じになる。そして、リプレイ直後にハイライトイベント指示があったか否かを判定する(ステップS1110)。このリプレイ直後というタイミングは、リプレイ視聴終了後1分以内とする。ただし、この時間は、アプリケーションに応じた長さを設定することができる。
指示がなかった場合(ステップS1110:No)、ステップS1101に戻る。指示があった場合(ステップS1110:Yes)、リプレイ時ハイライト検出処理を実行する(ステップS1111)。このハイライトシーン検出処理は、図7に示すハイライト検出処理と基本的には同じである。相違点は、ハイライト検出区間を、リプレイ実施時刻データベースから読み出される前回リプレイ視聴開始/終了時刻とする点である。処理後、ステップS1101に戻る。
リプレイ時ハイライト検出処理について説明する。リプレイ中にハイライトイベントが発生した場合でも、リプレイを終了して通常のTV視聴に戻った時点で、視聴者はなんらかのハイライトシーンがあったと推測する。たとえば、リプレイ開始前と比べて何らかの変化があった場合である。この変化の例としては、(1)スポーツ番組でスコアに変化があった場合、(2)映画やドラマなどでストーリーのつながりが把握できない、つまりストーリーに変化があった場合、(3)番組内の情報、たとえば登場人物、撮影場所、時刻、天気などに変化があった場合、などが挙げられる。そこでリプレイ終了直後、たとえば1分以内にハイライトイベントが指示された場合、リプレイ視聴の間に発生したはずのハイライト検出を指示していると判断して、この区間からハイライトシーンを検出する。
なお、ハイライトシーンのリプレイ機能に関連して、視聴者のハイライトイベント指示によりハイライトシーンを検出し、視聴者のリプレイ指示によって直前のハイライトシーン、前回リプレイ指示以降のハイライトシーン、全てのハイライトシーンのいずれかをリプレイする方法も考えられる。しかしこの場合、リプレイ視聴中に発生したハイライトイベントを見損ねてしまうという問題が発生することがある。
一方で、2画面表示、あるいはピクチャ・イン・ピクチャ(PinP)にして、1つの画面をリアルタイムのTV番組表示、もう1つの画面をリプレイ画面表示にする方法がある。それによってリアルタイムのTV番組を見逃すことはないが、これを実現するために追加のハードウェアが必要となり、商品がコストアップしてしまうという問題が挙げられる。そこで、最小限のコストで上述の機能を実現することが望まれている。
そこでリプレイ視聴中のハイライトシーンの検出を、リプレイ直後のハイライトイベント指示で行うほか、リプレイ視聴終了後、自動的にリプレイ視聴期間のハイライトシーンを検出してもよい。また、ハイライトシーンの検出は、特徴量をHDD331に記録して、記録した特徴量を利用することによって実現することもできるが、その他、ハイライトシーン候補とその重要度を検出してHDD331に記録し、これを利用してハイライトシーンを検出することもできる。また、ハイライト検出処理については、図7で説明した処理ではなく、後述する実施例5で説明する処理で置き換えることもできる。それにより、ハイライト検出に必要となるHDD331に記録すべきデータを削減することができる。
以上のように、実施例4によれば、リプレイ視聴によって見逃してしまったハイライトシーンを視聴することができるようになる。そして、視聴者はこのハイライトシーンの指示を簡単にすることができる。また、リプレイ実施時刻を記録しておくことにより、前回停車時のハイライトシーンのみをリプレイすることが可能となり、ハイライトシーンを繰り返しリプレイしてしまうことを防ぐことができる。
(実施例5)
図12は、ハイライトシーンと重要度をHDD331に記録する場合の機能的構成を説明するブロック図である。特徴量抽出部330、HDD331、制御部333、操作部334の構成は、図3に示した構成と同様であり、図3に示したバス接続の部分のみを説明している。そして、他の構成は図3と同じである。特徴量抽出部330には、A/D変換部313,323、映像復号部315、音声復号部325からの出力が入力されている。
特徴量抽出部330で抽出された特徴量は、ハイライト検出部1200に入力される。ハイライト検出部1200ではハイライトシーンを検出してHDD331に記録する。一方、制御部333は、操作部334からの入力に基づいてHDD331からハイライトシーンを読み出し、図3に示した映像復号部315、音声復号部325に出力する。
なお、このハイライト検出部1200は、特徴量抽出部330の次に配置される。この場合、特徴量抽出部330によって抽出された特徴量を使用して、動画像コンテンツからハイライト部分を検出、同時にそのハイライト区間の重要度も算出する。ここで、最高重要度を100、最低重要度を0として、重要度を100〜0の間の整数値で表現する。重要度の表現方法は、この方法に限定するものではなく、様々な方法が考えられる。ハイライト検出の具体的な方法についても、いかなる方法を使用してもよい。
図13は、ハイライトシーンと重要度をHDDに記録する場合の処理を説明するフローチャートである。まず、HDD331に番組コンテンツを録画する(ステップS1301)。番組コンテンツの録画は、番組受像とともに行う。次に、特徴量を抽出する(ステップS1302)。抽出した特徴量は、メモリ(図示しない)に記憶して、HDD331には記録しない。ただし、記憶しておくべき特徴量は、ハイライト検出に必要な時間分で十分であり、必要なメモリ容量はアプリケーションに依存する。
そして、ハイライト候補を検出してHDD331に記録する(ステップS1303)。ここでは、HDD331中のハイライトシーンデータベースに記録する。具体的には、ハイライトシーンの開始位置と終了位置、検出されたハイライトシーンの重要度を算出する。このハイライトシーンの開始位置/終了位置と重要度を、ともにデータベースに記録する。
次に、ハイライトイベントの指示があったか否かを判定する(ステップS1304)。ハイライトイベントの指示があった場合(ステップS1304:Yes)、図15に示すハイライト検出処理を実行する(ステップS1305)。ハイライトイベントの指示がなかった場合(ステップS1304:No)、またはハイライト検出処理が終了したあと、受像が終了したか否かを判定する(ステップS1306)。受像が終了していない場合(ステップS1306:No)、ステップS1301に戻って処理を再開する。受像が終了した場合(ステップS1306:Yes)、一連の処理を終了する。
図14は、ハイライトシーンの開始位置/終了位置と重要度を説明する説明図である。それぞれIDに対応させて停車時刻の開始位置、終了位置、重要度、選択フラグを記録する。ここで、「選択フラグ」は視聴者によって選択されたハイライトシーンか否かを意味する。ここで、0はハイライトシーン候補を、1は視聴者によって指示された選択ハイライトシーンを意味する。
データ1400〜1404は、それぞれID0〜4に対応付けて開始位置および終了位置を記録しているが、これ以降のハイライトシーンについても、IDを5、6、・・と用意しておくことにより、開始位置および終了位置を記録していくことができる。それにより、新たなハイライトシーンを検出する毎にIDを1ずつ増加して追記していく。図14は、このように検出されたハイライトシーン情報の一例である。IDは、各ハイライトシーンを識別するために付与される番号である。また終了時間は、ハイライトシーンの継続時間の形で記録してもよい。
データ1400は、ID0に対応付けて記録されており、開始位置は0時0分30秒15である。また、終了位置は0時1分12秒04である。そして、重要度は30、選択フラグは0である。データ1401は、ID1に対応付けて記録されており、開始位置は0時2分21秒25である。また、終了位置は0時2分57秒13である。そして、重要度は45、選択フラグは1である。データ1402は、ID2に対応付けて記録されており、開始位置は0時3分1秒14である。また、終了位置は0時3分47秒01である。そして、重要度は37、選択フラグは0である。データ1403は、ID3に対応付けて記録されており、開始位置は0時4分11秒04である。また、終了位置は0時4分43秒20である。そして、重要度は60、選択フラグは1である。データ1404は、ID4に対応付けて記録されており、開始位置は0時5分5秒17である。また、終了位置は0時0分0秒0である。そして、重要度は22、選択フラグは0である。
図15は、ハイライトイベントの指示を受けて行うハイライト検出処理を説明するフローチャートである。まず、Tcを現在の再生位置として保存する(ステップS1501)。次に、一定時間の処理を待つ(ステップS1502)。それにより、ハイライト検出処理の開始を遅らせる。遅らせることにより、ハイライト候補の終了を待ち、ハイライト候補の開始時間/終了時間を検出できるようにする。
そして、ハイライト検出区間を設定する(ステップS1503)。ここで、ハイライト検出開始時間をs、ハイライト検出終了時間をeとする。ハイライト検出区間については、たとえば、s=Tc−30秒とする。また、e=Tc+120秒とする。この長さは、それぞれアプリケーションに応じて様々に設定することができる。次に、区間[s,e]のハイライト候補をHDD331から読み出す(ステップS1504)。次に、最高重要度のハイライト候補を選択ハイライトとする(ステップS1505)。次に、選択ハイライトに選択フラグを設定する(ステップS1506)。たとえば、選択フラグを1にする。設定後、一連の処理を終了する。
ここで実施例1においては、ハイライトシーンの検出に必要な特徴量を保存した。よって状況に応じたより最適なハイライト検出手法の選択が可能となる。一方で、画像データに比べたとき、圧倒的に少ないデータ量ではあるものの、抽出された特徴量データを保存しておく必要があった。このHDDに記録するデータ量を削減する1つの方法として、リアルタイムにハイライトシーンを検出して、HDDに記録することが考えられる。しかし、システムのハイライト検出アルゴリズムに完全に依存した形でハイライト検出されるので、視聴者の好きなタイミング、すなわちハイライトイベント指示によるタイミングでは、ハイライト検出することができないという問題があった。
この問題点に対しては、実施例5で示すように、ハイライトシーンの検出と、この重要度をともに検出し、HDD331に記録するようにすることができる。すなわち、リアルタイムにはハイライトシーン候補とそのハイライトシーンの重要度を検出して、HDD331に記録する。このとき、ハイライトシーンの検出は、閾値を低く設定し、多めに検出するようにしておくことにより、ハイライトシーンの見落としをより少なくすることができる。そして、ハイライトイベント指示時にはハイライト検出区間内で最も重要度の高いハイライトシーン候補を、所望のハイライトシーンとする。なお、ここではハイライトシーンの重要度付与の方法を特には限定しない。その手法として、音声レベルの高い区間でより高く持続する区間、音声レベルの値がより高い区間、長い無音区間のあとの区間を、重要度の高いハイライトシーンとすることができる。
このように、視聴者からのハイライトイベント指示に応じてこの指示時間に近いハイライトシーンを検出した。ここでさらに、検出されたハイライトシーンの検出条件を記憶しておき、以降はこの条件に近いハイライトシーンを検出した場合に、自動的にハイライトシーンを決定するようにしてもよい。
以上説明した実施例1〜5により、あるタイミングで指示を受け、指示されたタイミングをヒントとして、ハイライトシーンとすることができる。そして、そのハイライトシーンを後に再生することができる。たとえば、車両が走行状態のときに指示を受け、車両が停止状態のときにハイライトシーンを再生することができる。それにより、運転者の運転の邪魔をしない形でコンテンツを視聴できるように支援できる。
リプレイ再生中の場合、リプレイ再生後に指示することにより、視聴できなかった場合でも、後にハイライトシーンとして視聴することができる。それにより、リプレイ中に見逃してしまったシーンがあった場合であっても、ハイライト再生として視聴し直すことができ、視聴中断中の見逃しを最小限にすることができる。
また、運転中やリプレイ中など、視聴者が視聴することができない場合に、視聴者の指示によってハイライトシーンを特定することができる。それにより、たとえばコンピュータによって一方的にハイライトシーンが決められることを防ぎ、視聴者の必要に応じて、かつ視聴者に負担をかけることなく、適切なハイライトシーンを、視聴できる状態のときに視聴することができる。
なお、本実施の形態で説明した記録再生方法は、予め用意されたプログラムをパーソナルコンピュータやワークステーションなどのコンピュータで実行することにより実現することができる。このプログラムは、ハードディスク、フレキシブルディスク、CD−ROM、MO、DVDなどのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行される。またこのプログラムは、インターネットなどのネットワークを介して配布することが可能な伝送媒体であってもよい。

Claims (12)

  1. 車両が走行状態にあるか停止状態にあるかを判定する判定手段と、
    前記判定手段によって前記車両が走行状態にあると判定された場合、再生対象となるコンテンツにおける所定のタイミングを指示する指示手段と、
    前記指示手段によって指示されたタイミングに直近する位置において、前記コンテンツのうち代表的なシーンの範囲を特定する特定手段と、
    前記判定手段によって前記車両が停止状態にあると判定された場合、前記特定手段によって特定された範囲で指定される、前記コンテンツの代表的なシーンを再生する再生手段と、
    を備えることを特徴とする記録再生装置。
  2. 前記特定手段は、前記コンテンツに含まれる各シーンが前記特徴的なシーンであるか否かを判別し、該シーンが前記特徴的なシーンである区間を前記代表的なシーンの範囲と特定することを特徴とする請求項1に記載の記録再生装置。
  3. 前記特定手段は、前記コンテンツに含まれる各シーンについてコンテンツの特徴量を抽出し、該特徴量にしたがって前記シーンが前記特徴的なシーンであるか否かを判別することを特徴とする請求項2に記載の記録再生装置。
  4. 前記特定手段は、前記指示手段によって指定されたタイミングより所定時間前の位置以降のシーンが特徴的なシーンに含まれるか否かを判別して前記代表的なシーンの範囲を特定することを特徴とする請求項1に記載の記録再生装置。
  5. 前記判定手段は、前記車両が前回停車した時刻を記録し、前記再生手段は、前記代表的なシーンのうち、前記判定手段によって記録された前回停車した時刻以降の位置を再生することを特徴とする請求項1〜4のいずれか一つに記載の記録再生装置。
  6. 再生対象となるコンテンツから代表的なシーンを抽出する抽出手段と、
    車両の走行情報を取得する取得手段と、
    前記取得手段によって取得された走行情報にしたがって前記車両の停車時間を予測する予測手段と、
    前記予測手段によって予測される前記停車時間に終了する時間の範囲に、前記抽出手段によって抽出されたコンテンツの代表的なシーンを短縮する短縮手段と、
    前記短縮手段によって短縮された前記コンテンツの代表的なシーンを再生する再生手段と、
    を備えることを特徴とする記録再生装置。
  7. 再生対象となるコンテンツにおける所定のタイミングを指示する指示手段と、
    前記指示手段によって指示されたタイミングに直近する位置において、前記コンテンツのうち代表的なシーンの範囲を特定する特定手段と、
    前記特定手段によって特定された範囲で指定される前記コンテンツの代表的なシーンを再生対象として出力する出力手段と、
    を備えることを特徴とする記録再生装置。
  8. 再生対象となるコンテンツを記録する記録手段と、
    前記記録手段によって記録されたコンテンツの代表的なシーンを再生する再生手段と、
    前記記録手段によってコンテンツを記録するとともに前記再生手段によって前記代表的なシーンを再生している場合、前記記録手段によって記録しているコンテンツに代表的なシーンが含まれているか否かを判定する判定手段と、
    前記判定手段によって代表的なシーンが含まれていると判定された場合、前記記録手段に該代表的なシーンを記録させる制御手段と、
    を備えることを特徴とする記録再生装置。
  9. 再生対象となるコンテンツを記録する記録手段と、
    前記記録手段によって記録されるコンテンツの重要度を検出する検出手段と、
    前記検出手段によって検出された重要度にしたがって、前記コンテンツの代表的なシーンの範囲を特定する特定手段と、
    前記特定手段によって特定された範囲で指定される前記コンテンツの代表的なシーンを再生する再生手段と、
    を備えることを特徴とする記録再生装置。
  10. 車両が走行状態にあるか停止状態にあるかを判定する判定工程と、
    前記判定工程によって前記車両が走行状態にあると判定された場合、再生対象となるコンテンツにおける所定のタイミングを指示する指示工程と、
    前記指示工程によって指示されたタイミングに直近する位置において、前記コンテンツのうち代表的なシーンの範囲を特定する特定工程と、
    前記判定工程によって前記車両が停止状態にあると判定された場合、前記特定工程によって特定された範囲で指定される、前記コンテンツの代表的なシーンを再生する再生工程と、
    を含むことを特徴とする記録再生方法。
  11. 請求項10に記載の記録再生方法をコンピュータに実行させることを特徴とする記録再生プログラム。
  12. 請求項11に記載の記録再生プログラムを記録したことを特徴とするコンピュータに読み取り可能な記録媒体。
JP2007534310A 2005-09-07 2006-08-21 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体 Expired - Fee Related JP4866359B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007534310A JP4866359B2 (ja) 2005-09-07 2006-08-21 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2005259899 2005-09-07
JP2005259899 2005-09-07
PCT/JP2006/316333 WO2007029479A1 (ja) 2005-09-07 2006-08-21 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体
JP2007534310A JP4866359B2 (ja) 2005-09-07 2006-08-21 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JPWO2007029479A1 true JPWO2007029479A1 (ja) 2009-03-19
JP4866359B2 JP4866359B2 (ja) 2012-02-01

Family

ID=37835602

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007534310A Expired - Fee Related JP4866359B2 (ja) 2005-09-07 2006-08-21 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体

Country Status (3)

Country Link
US (1) US20090279839A1 (ja)
JP (1) JP4866359B2 (ja)
WO (1) WO2007029479A1 (ja)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4240094B2 (ja) * 2006-09-19 2009-03-18 船井電機株式会社 コンテンツ受信システム
JP2009225202A (ja) * 2008-03-17 2009-10-01 Xanavi Informatics Corp 車載用録画再生装置及び再生方法
US20100194988A1 (en) * 2009-02-05 2010-08-05 Texas Instruments Incorporated Method and Apparatus for Enhancing Highlight Detection
US9043073B2 (en) 2011-11-16 2015-05-26 Flextronics Ap, Llc On board vehicle diagnostic module
DE112012004767T5 (de) 2011-11-16 2014-11-06 Flextronics Ap, Llc Vollständiges Fahrzeugökosystem
US9116786B2 (en) 2011-11-16 2015-08-25 Flextronics Ap, Llc On board vehicle networking module
US9081653B2 (en) 2011-11-16 2015-07-14 Flextronics Ap, Llc Duplicated processing in vehicles
US9008906B2 (en) 2011-11-16 2015-04-14 Flextronics Ap, Llc Occupant sharing of displayed content in vehicles
US20130200991A1 (en) * 2011-11-16 2013-08-08 Flextronics Ap, Llc On board vehicle media controller
US8949823B2 (en) 2011-11-16 2015-02-03 Flextronics Ap, Llc On board vehicle installation supervisor
US9055022B2 (en) 2011-11-16 2015-06-09 Flextronics Ap, Llc On board vehicle networking module
US9173100B2 (en) 2011-11-16 2015-10-27 Autoconnect Holdings Llc On board vehicle network security
US9088572B2 (en) 2011-11-16 2015-07-21 Flextronics Ap, Llc On board vehicle media controller
JP2016037283A (ja) * 2014-08-08 2016-03-22 株式会社リコー 情報処理装置、情報処理方法およびプログラム
CN104581193A (zh) * 2015-01-20 2015-04-29 卡内基投资科技有限公司 一种精彩片段直播视频的生成方法
US9437243B1 (en) * 2015-02-24 2016-09-06 Carnegie Technology Investment Limited Method of generating highlights for live videos
US9478258B2 (en) * 2015-02-25 2016-10-25 Carnegie Technology Investment Limited Method of recording multiple highlights concurrently
US10692126B2 (en) 2015-11-17 2020-06-23 Nio Usa, Inc. Network-based system for selling and servicing cars
US20180012196A1 (en) 2016-07-07 2018-01-11 NextEv USA, Inc. Vehicle maintenance manager
US9928734B2 (en) 2016-08-02 2018-03-27 Nio Usa, Inc. Vehicle-to-pedestrian communication systems
US11024160B2 (en) 2016-11-07 2021-06-01 Nio Usa, Inc. Feedback performance control and tracking
US10694357B2 (en) 2016-11-11 2020-06-23 Nio Usa, Inc. Using vehicle sensor data to monitor pedestrian health
US10410064B2 (en) 2016-11-11 2019-09-10 Nio Usa, Inc. System for tracking and identifying vehicles and pedestrians
US10708547B2 (en) 2016-11-11 2020-07-07 Nio Usa, Inc. Using vehicle sensor data to monitor environmental and geologic conditions
US10515390B2 (en) 2016-11-21 2019-12-24 Nio Usa, Inc. Method and system for data optimization
US10249104B2 (en) 2016-12-06 2019-04-02 Nio Usa, Inc. Lease observation and event recording
US10074223B2 (en) 2017-01-13 2018-09-11 Nio Usa, Inc. Secured vehicle for user use only
US10471829B2 (en) 2017-01-16 2019-11-12 Nio Usa, Inc. Self-destruct zone and autonomous vehicle navigation
US10031521B1 (en) 2017-01-16 2018-07-24 Nio Usa, Inc. Method and system for using weather information in operation of autonomous vehicles
US9984572B1 (en) 2017-01-16 2018-05-29 Nio Usa, Inc. Method and system for sharing parking space availability among autonomous vehicles
US10286915B2 (en) 2017-01-17 2019-05-14 Nio Usa, Inc. Machine learning for personalized driving
US10464530B2 (en) 2017-01-17 2019-11-05 Nio Usa, Inc. Voice biometric pre-purchase enrollment for autonomous vehicles
US10897469B2 (en) 2017-02-02 2021-01-19 Nio Usa, Inc. System and method for firewalls between vehicle networks
US10234302B2 (en) 2017-06-27 2019-03-19 Nio Usa, Inc. Adaptive route and motion planning based on learned external and internal vehicle environment
US10710633B2 (en) 2017-07-14 2020-07-14 Nio Usa, Inc. Control of complex parking maneuvers and autonomous fuel replenishment of driverless vehicles
US10369974B2 (en) 2017-07-14 2019-08-06 Nio Usa, Inc. Control and coordination of driverless fuel replenishment for autonomous vehicles
US10837790B2 (en) 2017-08-01 2020-11-17 Nio Usa, Inc. Productive and accident-free driving modes for a vehicle
US10635109B2 (en) 2017-10-17 2020-04-28 Nio Usa, Inc. Vehicle path-planner monitor and controller
US10606274B2 (en) 2017-10-30 2020-03-31 Nio Usa, Inc. Visual place recognition based self-localization for autonomous vehicles
US10935978B2 (en) 2017-10-30 2021-03-02 Nio Usa, Inc. Vehicle self-localization using particle filters and visual odometry
US10717412B2 (en) 2017-11-13 2020-07-21 Nio Usa, Inc. System and method for controlling a vehicle using secondary access methods
US10369966B1 (en) 2018-05-23 2019-08-06 Nio Usa, Inc. Controlling access to a vehicle using wireless access devices
JP7145398B2 (ja) * 2019-03-12 2022-10-03 トヨタ自動車株式会社 広告表示装置、車両及び広告表示方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003163862A (ja) * 2001-11-22 2003-06-06 Denso Corp 車載用tv
JP4516261B2 (ja) * 2002-02-18 2010-08-04 富士通テン株式会社 車載用tv録画再生装置
JP2003298990A (ja) * 2002-03-29 2003-10-17 Nissan Motor Co Ltd 車両用映像表示システム
JP2004005493A (ja) * 2002-04-24 2004-01-08 Vehicle Information & Communication System Center 運転者支援情報送信装置及び運転者支援情報受信装置ならびに運転者支援情報提供システム
JP2004007042A (ja) * 2002-05-30 2004-01-08 Canon Inc 画像再生装置とこれを動作させるプログラム、記憶媒体及び画像再生方法
JP2007027834A (ja) * 2005-07-12 2007-02-01 Denso Corp 車載テレビ装置

Also Published As

Publication number Publication date
WO2007029479A1 (ja) 2007-03-15
JP4866359B2 (ja) 2012-02-01
US20090279839A1 (en) 2009-11-12

Similar Documents

Publication Publication Date Title
JP4866359B2 (ja) 記録再生装置、記録再生方法、記録再生プログラムおよびコンピュータに読み取り可能な記録媒体
US20100122277A1 (en) device and a method for playing audio-video content
JP2003087728A (ja) 映像情報要約装置、映像情報要約方法および映像情報要約処理プログラム
EP1924092A1 (en) Content replay apparatus, content reproducing apparatus, content replay method, content reproducing method, program and recording medium
JP2007281856A (ja) 記録再生装置および記録再生方法
JP2006331591A (ja) 情報処理装置および方法、並びにプログラム
JP4668875B2 (ja) 番組録画再生装置、番組再生位置制御方法及び番組情報提供装置
JP4086532B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP2007250097A (ja) コンテンツ再生装置、コンテンツ再生再開方法およびコンテンツ再生プログラム
JP2007067522A (ja) 情報編集装置、情報編集方法、及び情報編集プログラム
JPH08329558A (ja) 記録条件判定機能付記録再生装置
JP5039020B2 (ja) 電子機器および映像コンテンツ情報表示方法
JP4455644B2 (ja) 動画再生装置、動画再生方法及びそのコンピュータ・プログラム
JP2007288300A (ja) 映像音声再生装置
JP5035174B2 (ja) 映像再生装置
JP2006270233A (ja) 信号処理方法及び信号記録再生装置
JP5002227B2 (ja) 再生装置
JP3925466B2 (ja) ストリームデータ編集方法及びその装置
JP5682167B2 (ja) 映像音声記録再生装置、および映像音声記録再生方法
JP4232744B2 (ja) 記録再生装置
JP4683277B2 (ja) 再生装置および方法、並びにプログラム
JP4774204B2 (ja) 再生装置
JP2006148839A (ja) 放送装置、受信装置、及びこれらを備えるデジタル放送システム
JP6440555B2 (ja) 映像記録再生装置および映像記録再生方法
JP4312167B2 (ja) コンテンツ再生装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090212

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111003

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20111101

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141118

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees