JP2010154254A - 合成画像作成装置 - Google Patents
合成画像作成装置 Download PDFInfo
- Publication number
- JP2010154254A JP2010154254A JP2008330497A JP2008330497A JP2010154254A JP 2010154254 A JP2010154254 A JP 2010154254A JP 2008330497 A JP2008330497 A JP 2008330497A JP 2008330497 A JP2008330497 A JP 2008330497A JP 2010154254 A JP2010154254 A JP 2010154254A
- Authority
- JP
- Japan
- Prior art keywords
- image
- content
- still
- video
- video content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000002131 composite material Substances 0.000 title claims abstract description 30
- 238000000034 method Methods 0.000 claims description 23
- 230000004931 aggregating effect Effects 0.000 claims 1
- 238000003860 storage Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 11
- 238000004220 aggregation Methods 0.000 description 6
- 230000002776 aggregation Effects 0.000 description 6
- 230000010365 information processing Effects 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000009825 accumulation Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000006735 deficit Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Abstract
【解決手段】制御部112は、映像コンテンツから、字幕と、字幕の表示タイミングとを取得し、取得された字幕の表示タイミングに基づき映像コンテンツから静止画像を取得し、取得された字幕と、取得された静止画像とを関連付ける。映像コンテンツから取得した複数の静止画像が互いに類似する場合、複数の静止画像のうち1の静止画像と、複数の静止画像のそれぞれに関連付けられた字幕とを合成した合成画像を生成する。映像コンテンツから取得した複数の静止画像が互いに類似するか否かを判定する際には、類似判定に使用する閾値を、映像コンテンツの種類に応じて動的に変更する。
【選択図】図2
Description
しかし、このような字幕のみが集約された読むコンテンツでは、映像コンテンツ独自の視覚情報が失われてしまい、読むコンテンツを読み進めるだけでは、映像コンテンツの内容を把握するのが難しくなるという問題がある。
しかし、上記のように作成された読むコンテンツでは、映像コンテンツの字幕が表示されるタイミング毎に合成画像が作成されるため、字幕のみが変化し、映像がほとんど変化しないような場面では、図1に示すように、画像部分はほぼ一緒で字幕のみが異なる合成画像が複数生成される。このような合成画像からなる読むコンテンツを合成画像1枚ずつ画面に表示させる場合、操作者は頻繁にキー操作を行わなければ読み進めて行くことができないため、快適な閲覧の妨げとなる。
制御部112は、コンテンツ変換部113を備えており、コンテンツ変換部113は、字幕表示時刻取得部113aと、静止画像取得部113bと、類似度判定部113cと、字幕取得部113dと、画像選出部113eと、字幕集約部113fにより構成されている。また、記憶蓄積部114は、一時保存部114aを備えている。
図3は、デジタル放送を読むコンテンツに変換するときの処理を説明するフローチャートである。なお、以下の処理は、ユーザが予め、もしくは直前に番組を読むコンテンツとして保存するように設定した場合において、対象番組に字幕放送が存在する場合にのみ実行される。
コンテンツ変換対象の番組の終了、もしくはユーザによる中断などによりコンテンツ変換処理が終了するまで、以降の処理を繰り返す(S101)。
字幕PES(Packetized Elementary Stream)データ(以下、字幕データという)を受信すると(S102)、字幕表示時刻取得部113aは、受信した字幕データから字幕の表示タイミングを取得し、字幕取得部113dは、受信した字幕データから字幕を取得する(S103)。
字幕の表示タイミングは、字幕パケットのヘッダに含まれているPTS(Presentation Time Stamp)を参照することで取得することが可能である。図4は、字幕パケットのヘッダに含まれているPTSを参照するプログラムを示す図である。
字幕の表示タイミングを取得すると、静止画像取得部113bは、映像パケットから字幕の表示タイミングに再生される映像フレームを抜き出すことで、静止画像を取得する(S104)。
一時保存部114aに既に一時保存されている静止画像が存在する場合(Yesの場合)、類似度判定部113cにより、先に一時保存されている静止画像と今回取得した静止画像の類似度を判定する(S107)(映像コンテンツの動画像から類似シーンを特定する)。また、このときに一時保存されている静止画像が複数存在する場合は、一時保存されている静止画像の中で、最初に一時保存された静止画像と比較をする。
類似度判定の結果、類似画像ではないと判定された場合(Noの場合)、制御部112は一時保存部114aに一時保存中の静止画像が複数であるか否かを判断する(S109)。
一時保存部114aに一時保存中の静止画像が複数ではない場合(Noの場合)、制御部112は、一時保存中の静止画像と当該静止画像に関連付けられた字幕を合成した合成画像を生成し、記録蓄積部114に保存する(S110)。
以上の理由と、色よりも輝度によく反応する人間の視覚特性から、画像中のブロックノイズの多さを調べる手法として以下の手法が考えられる(以下、図11参照)。
最終的に画像中の輝度値の差の平均値を求め、この値が最も小さいものをブロックノイズが最も少ない画像とする。
記録蓄積部114に合成画像を保存すると、制御部112は、一時保存部114aに一時保存中の全ての静止画像と字幕を消去する(S113)。
消去が完了すると、制御部112は、S104で取得した画像にS103で取得した字幕を関連付けて一時保存部114aに一時保存する(S106)。
以上のような処理を行うことで、ユーザが分かり易いコンテンツを作成することが可能となる。
図15は、本発明の処理によって生成された読むコンテンツの例を示す図である。これらの読むコンテンツの生成例から、本発明によれば、映像コンテンツをユーザにとって分かり易い、読むコンテンツへと変換できることが分かる。また、シーン単位ではなく、字幕表示タイミングごとの静止画像をキャプチャし、類似度判定により集約を行うため、シーン内において激しい動きのあるコンテンツなどにおいても、分かり易く集約するだけでなく、情報の抜け落ちも防ぐことが可能になる。また、集約処理時の静止画像選出において画像状態の良い静止画像を選出するため、画像の品質が悪いため分かり難いコンテンツになってしまうことを防ぐこともできる。
デジタル放送などで放送される番組には様々なジャンルがあるため、必ずしも同一シーン内において動きの激しいコンテンツばかりではない。例えば、図16に示すようなニュースシーンを仮定すると、映像内の一部のみが変化することが考えられる。この場合、動きの激しいコンテンツを想定して、図6のフローチャートのステップ107において、類似度判定で使用する閾値を高めに設定した場合、ほとんどが類似画像と判断され、過度に集約されてしまうため、分かり易いコンテンツを生成することはできない。また、逆に同一シーン内において動きが余り激しくないコンテンツを想定し、閾値を低めに設定した場合、図17に示すアクションシーンのように動きの激しいコンテンツでは、抽出した静止画像がほとんど類似画像ではないと判断され、適度に集約されることがないため、分かり易いコンテンツを生成することはできない。
このように、本発明では、類似度判定の際の閾値を変換対象コンテンツのジャンルに合わせて可変にしているため、ジャンルに応じたコンテンツを生成することが可能である。
コンテンツのジャンル情報の取得方法としては、TS信号内のイベントインフォメーションテーブル(EIT:Event Information Table)にあるコンテント記述子を参照することにより対象番組のジャンルを知ることが可能である。図21は、イベントインフォメーションテーブルにあるコンテント記述子を参照するプログラムを示す図であり、図22は、コンテント記述子と番組内容とを関連付けたテーブルを示す図である。
図23は、本発明の実施の形態に基づき生成された合成画像からなる読むコンテンツの表示(字幕付き映像コンテンツの表示)形態の一例を示す図である。携帯電話端末は、図23に示すように、画面を縦にして表示する場合、上部に静止画像を表示し、その下に静止画像に関連付けられている字幕を表示(合成画像の表示)する(集約した字幕を類似シーンの代表画像と共に表示する)。字幕の下には操作可能なキーと説明を分かり易く表示してもよい。また左右キーは静止画像単位でのページの切り替えに割り当てており、左右キーを操作することで書籍のページをめくるように静止画像と字幕を画面に表示していく。なお、字幕の量に合わせて字幕表示領域が自動で増減するようにする。
102 チューナ部
103 復調部
104 多重分離部
105 音声デコーダ部
106 スピーカ
107 映像デコーダ部
108 表示制御部
109 映像表示部
110 字幕デコーダ部
111 データ放送デコーダ部
112 制御部
113 コンテンツ変換部
113a 字幕表示時刻取得部
113b 静止画像取得部
113c 類似度判定部
113d 字幕取得部
113e 画像選出部
113f 字幕集約部
114 記録蓄積部
114a 一時保存部
Claims (5)
- 映像コンテンツから、字幕と、該字幕の表示タイミングと、を取得し、
前記取得された字幕の表示タイミングに基づき前記映像コンテンツから静止画像を取得し、
前記取得された字幕と、該字幕の表示タイミングに基づき取得された静止画像と、を関連付けるように制御する制御部と、を備え、
前記制御部は、前記映像コンテンツから取得した複数の静止画像が互いに類似する場合、当該複数の静止画像のうち1の静止画像と、当該複数の静止画像のそれぞれに関連付けられた字幕と、を合成した合成画像を生成するように制御することを特徴とする合成画像作成装置。 - 前記制御部は、前記映像コンテンツから取得した複数の静止画像が互いに類似するか否かを判定する際に、類似判定に使用する閾値を、前記映像コンテンツの種類に応じて動的に変更することを特徴とする請求項1に記載の合成画像作成装置。
- 前記制御部は、前記1の静止画像を、前記複数の静止画像のうちの最も画像品質の良い静止画像とすることを特徴とする請求項1または2に記載の合成画像作成装置。
- 前記制御部は、前記字幕の表示タイミングに静止画像を取得できなかった場合、取得可能な静止画像のうち前記字幕の表示タイミングに最も近い静止画像を取得することを特徴とする請求項1乃至3のいずれか1項に記載の合成画像作成装置。
- 字幕付き映像コンテンツの表示方法であって、
前記映像コンテンツの動画像から類似シーンを特定し、
該動画像から特定した類似シーンに含まれる字幕を集約し、
該集約した字幕を、前記類似シーンの代表画像と共に表示することを特徴とする表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008330497A JP5528696B2 (ja) | 2008-12-25 | 2008-12-25 | 合成画像作成装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008330497A JP5528696B2 (ja) | 2008-12-25 | 2008-12-25 | 合成画像作成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010154254A true JP2010154254A (ja) | 2010-07-08 |
JP5528696B2 JP5528696B2 (ja) | 2014-06-25 |
Family
ID=42572800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008330497A Expired - Fee Related JP5528696B2 (ja) | 2008-12-25 | 2008-12-25 | 合成画像作成装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5528696B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112866785A (zh) * | 2018-08-17 | 2021-05-28 | 腾讯科技(深圳)有限公司 | 图片生成方法、装置、设备及存储介质 |
CN113923514A (zh) * | 2021-09-23 | 2022-01-11 | 青岛信芯微电子科技股份有限公司 | 一种显示设备及memc重复帧丢弃方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002152690A (ja) * | 2000-11-15 | 2002-05-24 | Yamaha Corp | シーン切換点検出方法、シーン切換点提示装置、シーン切換点検出装置、映像再生装置および映像記録装置 |
JP2003219348A (ja) * | 2002-01-18 | 2003-07-31 | Sony Corp | 情報信号処理装置および情報信号処理方法 |
JP2005223854A (ja) * | 2004-02-09 | 2005-08-18 | Fuji Photo Film Co Ltd | 画像表示装置及びそれを備えたデジタルカメラ |
JP2006339817A (ja) * | 2005-05-31 | 2006-12-14 | Toshiba Corp | 情報処理装置およびその表示方法 |
-
2008
- 2008-12-25 JP JP2008330497A patent/JP5528696B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002152690A (ja) * | 2000-11-15 | 2002-05-24 | Yamaha Corp | シーン切換点検出方法、シーン切換点提示装置、シーン切換点検出装置、映像再生装置および映像記録装置 |
JP2003219348A (ja) * | 2002-01-18 | 2003-07-31 | Sony Corp | 情報信号処理装置および情報信号処理方法 |
JP2005223854A (ja) * | 2004-02-09 | 2005-08-18 | Fuji Photo Film Co Ltd | 画像表示装置及びそれを備えたデジタルカメラ |
JP2006339817A (ja) * | 2005-05-31 | 2006-12-14 | Toshiba Corp | 情報処理装置およびその表示方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112866785A (zh) * | 2018-08-17 | 2021-05-28 | 腾讯科技(深圳)有限公司 | 图片生成方法、装置、设备及存储介质 |
CN112866785B (zh) * | 2018-08-17 | 2021-10-29 | 腾讯科技(深圳)有限公司 | 图片生成方法、装置、设备及存储介质 |
CN113923514A (zh) * | 2021-09-23 | 2022-01-11 | 青岛信芯微电子科技股份有限公司 | 一种显示设备及memc重复帧丢弃方法 |
CN113923514B (zh) * | 2021-09-23 | 2024-03-01 | 青岛信芯微电子科技股份有限公司 | 一种显示设备及memc重复帧丢弃方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5528696B2 (ja) | 2014-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100763189B1 (ko) | 영상 표시 장치 및 방법 | |
US20160261929A1 (en) | Broadcast receiving apparatus and method and controller for providing summary content service | |
US20080022352A1 (en) | Multi-screen display apparatus and method for digital broadcast receiver | |
US20080246851A1 (en) | Video data display system and method for mobile terminal | |
US8249430B2 (en) | Digital broadcast receiving apparatus and method for displaying images with programming information | |
US8750386B2 (en) | Content reproduction device | |
US7515207B2 (en) | Television broadcast receiving apparatus, program information processing method and program information processing program | |
US8675140B2 (en) | Playback apparatus for playing back hierarchically-encoded video image data, method for controlling the playback apparatus, and storage medium | |
KR20110063004A (ko) | 키 프레임 추출 장치 및 방법과 이를 이용한 방송 녹화 장치 및 방법 | |
US7612830B2 (en) | Apparatus and method for extracting aspect ratio of received broadcast content | |
JP4431923B2 (ja) | 映像信号記録再生装置および方法、並びに記録媒体 | |
JP2006245907A (ja) | 放送記録再生装置 | |
JP6045405B2 (ja) | 映像処理装置、表示装置、テレビジョン受信機及び映像処理方法 | |
JP5528696B2 (ja) | 合成画像作成装置 | |
JP2006115228A (ja) | 番組表搭載デジタル放送受信機 | |
KR100735253B1 (ko) | 디지털 방송 수신 단말기의 디지털 방송 화면 캡쳐 방법 | |
EP2863644A1 (en) | Display apparatus and method for channel changing | |
JP2008053991A (ja) | デジタル放送受信装置 | |
US8818116B2 (en) | Image processing apparatus and image processing method | |
JP2009152756A (ja) | 映像表示装置 | |
US20050149978A1 (en) | Still image capture device and digital/analog tuner device comprising the same | |
JP2009152753A (ja) | 映像表示装置 | |
JP7232160B2 (ja) | 画質回路、映像処理装置および信号特徴検出方法 | |
JP2006339863A (ja) | デジタル放送受信装置 | |
KR20000046849A (ko) | 디지털 방송 수신기의 영상 획득/재생 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121127 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130128 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130305 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130604 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20130613 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20130816 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140325 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140416 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5528696 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |