JP7229296B2 - 関連情報提供方法及びシステム - Google Patents

関連情報提供方法及びシステム Download PDF

Info

Publication number
JP7229296B2
JP7229296B2 JP2021074133A JP2021074133A JP7229296B2 JP 7229296 B2 JP7229296 B2 JP 7229296B2 JP 2021074133 A JP2021074133 A JP 2021074133A JP 2021074133 A JP2021074133 A JP 2021074133A JP 7229296 B2 JP7229296 B2 JP 7229296B2
Authority
JP
Japan
Prior art keywords
moving image
related information
text
area
image content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021074133A
Other languages
English (en)
Other versions
JP2022051500A (ja
Inventor
ヘリュン アン
ラクヨン キム
ユジン パク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Naver Corp
Original Assignee
Naver Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Naver Corp filed Critical Naver Corp
Publication of JP2022051500A publication Critical patent/JP2022051500A/ja
Application granted granted Critical
Publication of JP7229296B2 publication Critical patent/JP7229296B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/74Browsing; Visualisation therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7844Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using original textual content or text extracted from visual content or transcript of audio data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9032Query formulation
    • G06F16/90324Query formulation using system suggestions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9038Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0483Interaction with page-structured environments, e.g. book metaphor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04803Split screen, i.e. subdividing the display area or the window area into separate subareas

Description

本発明は、動画像を活用した関連情報提供方法及びシステムに関する。
技術が発展するにつれて、デジタルデバイスの活用度が高まっている。特に、電子機器(例えば、スマートフォン、タブレットPCなど)は、電話やテキストメッセージなどの通信機能はもとより、インターネットを活用したネットサーフィン、音楽鑑賞、映像コンテンツの視聴などの様々な機能を備えている。
このような電子機器の大衆化に伴い、マルチメディアからなるコンテンツの消費が急増しており、特に動画像(又は動画像コンテンツ)の消費が次第に増加している。
また、電子機器を活用したコンテンツの発達により、ユーザは、テキストのみからなるコンテンツよりは、動画像のようなより視覚化されたコンテンツを好む傾向がある。
よって、このような趨勢に伴い、動画像フォーマットを活用してユーザに有用な情報を提供する方法に関するサービスの開発が盛んに行われている。
本発明は、動画像フォーマットを活用してユーザに有用な情報を提供することのできる関連情報提供方法及びシステムを提供するためのものである。
また、本発明は、動画像からなるコンテンツに関する関連情報を提供できるユーザ環境を構築するための関連情報提供方法及びシステムを提供するためのものである。
さらに、本発明は、動画像からなるコンテンツと連携してさらに深い情報をより直感的かつ有機的に提供することのできる関連情報提供方法及びシステムを提供するためのものである。
上記課題を解決するために、本発明による関連情報提供方法は、字幕を含む動画像コンテンツをディスプレイ部の第1領域で再生するステップと、前記字幕を構成するテキストの一部分を含むグラフィックオブジェクトを前記ディスプレイ部の第2領域に出力するステップと、前記グラフィックオブジェクトに対する選択信号に基づいて、前記一部分のテキストに関する関連情報を提供するステップとを含み、前記字幕において、前記一部分のテキストは、他の部分のテキストと区別されるように、ハイライト処理されて表示されることを特徴とする。
また、本発明による関連情報提供システムは、通信部と、第1領域及び第2領域に分けられる表示領域を含むディスプレイ部と、前記第1領域で字幕を含む動画像コンテンツを再生し、前記第2領域に前記字幕を構成するテキストの一部分を含むグラフィックオブジェクトを出力するように、前記ディスプレイ部を制御する制御部とを含み、前記制御部は、前記グラフィックオブジェクトに対する選択信号に基づいて、前記一部分のテキストに関する関連情報を出力するように、前記ディスプレイ部を制御し、前記字幕において、前記一部分のテキストは、他の部分のテキストと区別されるように、ハイライト処理されて表示されることを特徴とする。
さらに、本発明によるコンピュータ可読媒体に格納可能なプログラムは、電子機器で1つ以上のプロセスにより実行され、字幕を含む動画像コンテンツをディスプレイ部の第1領域で再生するステップ、前記字幕を構成するテキストの一部分を含むグラフィックオブジェクトを前記ディスプレイ部の第2領域に出力するステップ、及び前記グラフィックオブジェクトに対する選択信号に基づいて、前記一部分のテキストに関する関連情報を提供するステップを実行させるコマンドを含み、前記字幕において、前記一部分のテキストは、他の部分のテキストと区別されるように、ハイライト処理されて表示されることを特徴とする。
前述したように、本発明による関連情報提供方法においては、ディスプレイ部の表示領域を複数に分割し、いずれか1つの領域では動画像コンテンツを、他の領域では動画像コンテンツが提供する情報の関連情報を提供することができる。よって、ユーザは、動画像コンテンツを利用している状態でいつでも動画像コンテンツが提供する情報の関連情報をより直感的に用いることができる。その結果、ユーザは、関連情報を検索するために別の機能に移行して情報を検索する煩雑さを避けることができる。
本発明による関連情報提供システムを説明するための概念図である。 本発明による関連情報提供方法を説明するためのフローチャートである。 本発明による関連情報提供方法及びシステムにおける機能に移行する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける動画像コンテンツ再生機能を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける動画像コンテンツ再生機能を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける動画像コンテンツ再生機能を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける動画像コンテンツ再生機能を説明するための概念図である。 本発明による関連情報提供方法及びシステムにおける動画像コンテンツ再生機能を説明するための概念図である。
以下、添付図面を参照して本発明の実施形態について詳細に説明するが、図面番号に関係なく同一又は類似の構成要素には同一の符号を付し、それについての重複する説明は省略する。以下の説明で用いられる構成要素の接尾辞である「モジュール」や「部」は、明細書の作成を容易にするために付与又は混用されるものであり、それ自体が有意性や有用性を有するものではない。また、本発明の実施形態について説明するにあたり、関連する公知技術についての具体的な説明が本発明の実施形態の要旨を不明にすると判断される場合は、その詳細な説明を省略する。さらに、添付図面は本発明の実施形態の理解を助けるためのものにすぎず、添付図面により本発明の技術的思想が限定されるものではなく、本発明の思想及び技術範囲に含まれるあらゆる変更、均等物乃至代替物を含むものと理解すべきである。
「第1」、「第2」などのように序数を含む用語は様々な構成要素を説明するために用いられるが、上記構成要素は上記用語により限定されるものではない。上記用語は1つの構成要素を他の構成要素と区別する目的でのみ用いられる。
ある構成要素が他の構成要素に「連結」又は「接続」されていると言及された場合は、他の構成要素に直接連結又は接続されていてもよく、中間にさらに他の構成要素が存在してもよいものと解すべきである。それに対して、ある構成要素が他の構成要素に「直接連結」又は「直接接続」されていると言及された場合は、中間にさらに他の構成要素が存在しないものと解すべきである。
単数の表現には、特に断らない限り複数の表現が含まれる。
本明細書において、「含む」や「有する」などの用語は、本明細書に記載された特徴、数字、段階、動作、構成要素、部品又はそれらの組み合わせが存在することを指定しようとするもので、1つ又はそれ以上の他の特徴、数字、段階、動作、構成要素、部品又はそれらの組み合わせの存在や付加可能性を予め排除するものではないと理解すべきである。
本発明は、動画像フォーマットを活用してユーザに有用な情報を提供することのできる関連情報提供方法及びシステムを提供するためのものである。特に、本発明は、動画像と共に動画像により提供されるコンテンツに関する関連情報を提供できるユーザ環境を構築するための関連情報提供方法及びシステムを提供するためのものである。
以下、添付図面を参照して本発明について具体的に説明する。図1は本発明による関連情報提供システムを説明するための概念図である。
図1に示すように、本発明による関連情報提供システム100は、通信部110、保存部120及び制御部130の少なくとも1つを含むようにしてもよい。ここで、本発明による関連情報提供システム100は、上記構成要素に限定されるものではなく、本明細書において説明される機能と同一又は類似の役割を果たす構成要素をさらに含むようにしてもよい。
なお、本発明による関連情報提供システム100は、電子機器10と連動して動作するようにしてもよい。ここで、電子機器10は、スマートフォン、携帯電話、タブレットPC、キオスク、コンピュータ、ノートブックコンピュータ、デジタル放送用端末、PDA(Personal Digital Assistants)及びPMP(Portable Multimedia Player)の少なくとも1つを含むようにしてもよい。
また、本発明による関連情報提供システム100は、アプリケーション又はソフトウェアで実現してもよい。ここで、関連情報提供システム100のアプリケーション又はソフトウェアは、電子機器10にインストールされ、以下に説明される関連情報提供方法によるプロセスを行うようにしてもよい。
例えば、本発明による関連情報提供システム100の通信部110、保存部120及び制御部130は、電子機器10のハードウェア構成を用いて、関連情報の提供のための一連の機能を実行するようにしてもよい。例えば、通信部110は、電子機器10の通信部に備えられた通信モジュール(例えば、移動通信モジュール、近距離通信モジュール、無線インターネットモジュール、位置情報モジュール、放送受信モジュールなど)の構成を用いて、少なくとも1つの外部サーバ140(例えば、データベースサーバ(DBサーバ)やクラウドサーバなど)とデータを送受信するようにしてもよい。
保存部120は、電子機器10に備えられた(又は挿入された)メモリ又は外部サーバ140(例えば、データベースサーバやクラウドサーバなど)を用いて、本発明による動画像コンテンツ及び動画像コンテンツの関連情報を保存するようにしてもよい。
保存部120の少なくとも一部は、外部サーバ(クラウドサーバ及びデータベース(DB)の少なくとも一方)であり得る。すなわち、保存部120は、本発明による関連情報の提供に必要な情報を保存できる空間であれば十分であり、物理的な空間の制約はない。よって、以下では、保存部120及び外部サーバ140の構成を区分せず、クラウドサーバ及びデータベースを別に区分せず、全てを保存部120と表現する。ここで、クラウドサーバは、「クラウドストレージ」であり得る。一方、外部サーバへのアクセスは、通信部110により行われるようにしてもよい。
制御部130は、電子機器10に備えられたCPU及びクラウドサーバの少なくとも1つを用いて、各構成の制御及び本発明に係る全般的な制御を行うようにしてもよい。また、制御部130は、本発明を実現するために、電子機器10の少なくとも1つの構成要素の制御権限を有するようにしてもよい。さらに、制御部130は、電子機器10のディスプレイ部11を制御して、本発明において提供される動画像コンテンツ及びその関連情報をディスプレイ部11に出力するようにしてもよい。ここで、制御部130は、ディスプレイ部11を直接的に制御するようにしてもよく、ディスプレイ部11を制御する電子機器10の制御部に制御命令を送信することによりディスプレイ部11を間接的に制御するようにしてもよい。
このように、本発明においては、動画像コンテンツと共に、動画像コンテンツに関する関連情報を提供することができる。
本発明において、動画像コンテンツは、動画像(moving picture, video)形式を有するコンテンツであり、動画像コンテンツを構成する内容は非常に多様である。例えば、本発明による動画像コンテンツは、ニュース記事、新聞記事、雑誌記事又は本の本文だけでなく、特定のテーマに関する内容で構成されてもよい。
また、本発明による動画像コンテンツは、インターネットを介してアクセス可能なサイト(例えば、ブログ、動画像コンテンツ提供サイト、その他のウェブページなど)に掲示(又はポスティング)された掲示物に含まれる内容で構成されてもよい。この場合、掲示物の種類には制限がなく、掲示物には、画像、サウンド、テキスト及び動画像の少なくとも1つが含まれていてもよい。ここで、画像は、静的な画像及び動的な画像の少なくとも一方であってもよい。
なお、本発明による動画像コンテンツは、画像データ、音声データ及び字幕データを含むように構成されてもよい。ここで、画像データは、静的な画像及び動的な画像の少なくとも一方で構成されてもよい。
例えば、動画像コンテンツが静的な画像に対応する画像データ及び字幕データを含む場合、本発明による動画像コンテンツは、静的な画像に対応する静止画像に字幕データに対応するテキストがオーバーラップしたコンテンツであってもよい。
なお、本発明による動画像コンテンツが電子機器10で再生される場合、画像、音声及び字幕の少なくとも2つが組み合わせられて共に出力されるようにしてもよい。
本発明による動画像コンテンツは、本発明による制御部130により生成されるものであってもよく、第3の主体(例えば、映像製作者、コンテンツ製作者)により生成されるものであってもよい。
本発明による動画像コンテンツを生成する方法の一例として、制御部130は、TTS(Text to Speech)技術に基づいて、テキストを音声に変換することにより、動画像コンテンツを生成するようにしてもよい。ここで、変換された音声は、動画像コンテンツの音声データになり、変換の対象であるテキストは、動画像コンテンツの字幕データになる。この場合、制御部130は、変換の対象であるテキストを含む文書に含まれるか、又は変換の対象であるテキストに関する内容を有する静的な画像もしくは動的な画像を、動画像コンテンツの画像データとして用いてもよい。また、制御部130は、動画像コンテンツを生成する際に使用するように予め設定された任意の画像を、動画像コンテンツの画像データとして用いてもよい。
一方、制御部130は、字幕データと音声データとのシンク(sync)を制御して、電子機器10で音声データが出力される場合、それに関連する字幕データが出力されるように、動画像コンテンツを生成するようにしてもよい。
このようにTTS技術に基づいて動画像コンテンツが生成される場合において、変換の対象であるテキストは、ニュース記事、新聞記事、雑誌記事、本の本文などのように、特定のテーマに関する情報を提供するために作成された文書に含まれるテキストであってもよい。
本発明による動画像コンテンツを生成する方法の他の例として、制御部130は、既に存在する動画像ファイルの音声データに関連する字幕データを生成することにより、動画像コンテンツを生成するようにしてもよい。
ここで、制御部130は、STT(Speech to Text)技術に基づいて、動画像ファイルに含まれる音声データをテキストに変換し、変換されたテキストを用いて字幕データを生成するようにしてもよい。そして、生成された字幕データを動画像ファイルに挿入することにより、本発明による動画像コンテンツを生成するようにしてもよい。
ここで、動画像ファイルは、様々なテーマの動画像ファイルであり得る。
このように、本発明による動画像コンテンツは、字幕データを含む画像であり、本発明においては、説明の便宜上、字幕データと字幕を統一して「字幕(subtitles, caption)」という。字幕は、文字、数字及び記号の少なくとも1つからなり、動画像コンテンツが提供する音声データとのシンクが一致又は対応するように構成されてもよい。
また、前述したように、本発明による動画像コンテンツに含まれる字幕は、様々な方式で生成又は挿入される。
一方、以下では、前述した動画像コンテンツの生成方式を区分せず、字幕を含む動画像コンテンツが存在するという仮定の下で説明する。
なお、本発明による制御部130は、字幕に含まれる一部分のテキストに関連又は連関する情報を提供する。本発明においては、説明の便宜上、これを「関連情報」という。関連情報は、字幕に含まれる一部分のテキストに関する内容であり得る。
ここで、前記一部分のテキストは、字幕に含まれる単語(word)に対応するものであり得る。単語とは、分離して自立的に使える言葉やこれに準ずる言葉をいい、テキストを語節単位で分けたとき、助詞を除く部分に該当する。
なお、本発明において、前記一部分のテキストは、予め設定されたデータベースに保存(又は登録)されたキーワードに一致又は対応するテキストであり得る。ここで、前記予め設定されたデータベースは、キーワードに関する情報(又はコンテンツ)が保存されたデータベースであり、その種類に制限はない。
前記予め設定されたデータベースには、前記一部分のテキストに対応するキーワードに関する関連情報が、前記キーワードにマッチして保存されるようにしてもよい。前記予め設定されたデータベースに保存された情報は、キーワード単位で分けられるようにしてもよい。ここで、キーワードは、タグ、代表語などともいえる。
一方、前記予め設定されたデータベース(以下、「DB」という)は、語学辞典DB、知識百科事典DB、音楽情報DB、人物情報DBなどから構成されてもよい。
このような予め設定されたDBに基づいて提供される関連情報の例としては、一部分のテキストに対応する人物情報、辞書の定義、百科事典の定義、予め設定された検索エンジンでの検索情報、イシュー情報、ニュース情報、新聞情報、記事情報などが挙げられる。
一方、予め設定されたDBを構成する情報(例えば、個別コンテンツ)は、少なくとも1つのキーワードにマッチするようにしてもよい。個別コンテンツのそれぞれは、複数のキーワードにマッチするようにしてもよい。
また、同じキーワードが異なる個別コンテンツのそれぞれにマッチするようにしてもよい。例えば、「ホン・ギルドン」という人物情報に対応するキーワードは、第1個別コンテンツ(例えば、人物情報コンテンツ)及び第2個別コンテンツ(例えば、「ホン・ギルドン」という商号の商店に関するレビューコンテンツ)にそれぞれマッチするようにしてもよい。
制御部130は、字幕に含まれるテキストに、予め設定されたDBに登録されたキーワードと同一又は類似のテキストが存在するか否かを判断するようにしてもよい。
制御部130は、字幕を構成するテキストを語節単位で分け、分けられた語節から助詞を取り除き、意味を有する単語を抽出するようにしてもよい。また、単語に対応する関連情報が存在するか否かを予め設定されたDBから検索するようにしてもよい。
一方、前述したように、前記キーワードに連携したコンテンツ(又は関連情報)が複数の場合、制御部130は、予め設定された加重値と関連するアルゴリズムに基づいて、動画像コンテンツとの関連性が高いコンテンツを関連情報として検索するようにしてもよい。
このように、制御部130は、予め設定されたDBに、前記一部分のテキストに対応する関連情報が存在するか否かを検索することができる。制御部130は、前記一部分のテキストを検索語(又はキーワード)として、予め設定されたDBに関連情報が存在するか否かを検索することができる。ここで、前記一部分のテキストは、字幕に含まれる単語と理解してもよい。
例えば、前記一部分のテキストが「拘束令状」であり、知識百科事典DBに「拘束令状」をキーワードとする関連情報(例えば、「拘束令状」という単語の定義)が存在する場合、制御部130は、前記一部分のテキストに対応する関連情報が存在すると判断する。
また、制御部130は、予め設定されたDBに登録されたキーワードと、字幕に含まれる一部分のテキストとが対応する場合、前記一部分のテキストを前記字幕の他の部分のテキストと区別して表示するようにしてもよい。本発明においては、一部分のテキストを他の部分のテキストと区別して表示することを、一部分のテキストを「ハイライト」処理するという。
前記一部分のテキストをハイライト処理する方式は様々であり、制御部130は、前記一部分のテキストの視覚的な外観が前記他の部分のテキストの視覚的な外観と区別されるように表示することができる。
ハイライト処理とは、i)強調する部分を明滅させるか、ii)太線で表示するか、iii)コントラストを強くするか、iv)スクリーンの白黒部分を反転させるか(逆ビデオ)、v)下線をひくか、vii)他の色で表示するなどのソフトウェア的な処理を意味する。
すなわち、制御部130は、前記一部分のテキストの色、大きさ、太さ及びフォントの種類の少なくとも1つが前記他の部分のテキストと異なるように表示することにより、前記一部分のテキストに関する関連情報が存在することをユーザに認知させてもよい。
また、制御部130は、前記字幕のうち、前記一部分のテキストが配置された部分にグラフィックオブジェクトを表示することにより、前記一部分のテキストに対するハイライト処理を行ってもよい。
こうすることにより、上記例示における「拘束令状」に該当する単語は、他の部分のテキストとは異なる視覚的な外観を有するように表示される。
このように、制御部130は、字幕の一部分のテキストに関する関連情報を提供し、ユーザが直感的に当該関連情報にアクセスできるように、一部分のテキストに関する関連情報が存在することを様々な方式でユーザに通知することができる。
なお、本発明において、制御部130は、動画像コンテンツに関する関連情報を提供するために、異なる特性を有する複数のページ間の切り替えを用いて、動画像コンテンツ及びその関連情報を有機的に提供することもできる。
以下、添付図面を参照して本発明による関連情報提供方法について具体的に説明する。図2は本発明による関連情報提供方法を説明するためのフローチャートであり、図3は本発明による関連情報提供方法及びシステムにおける機能に移行する方法を説明するための概念図である。また、図4a、図4b、図4c、図4d、図4e及び図4fは本発明による関連情報提供方法及びシステムにおける関連情報を提供する方法を説明するための概念図である。さらに、図5a、図5b、図5c、図6a及び図6bは本発明による関連情報提供方法及びシステムにおける動画像コンテンツ再生機能を説明するための概念図である。
本発明による関連情報提供方法においては、まず、図2に示すように、字幕を含む動画像(又は動画像コンテンツ)を第1領域で再生する過程を行う(S210)。
まず、本発明において、動画像コンテンツ再生機能への移行は様々な経路で行われる。
制御部130は、電子機器10への様々な方式のユーザ入力に基づいて、動画像コンテンツを再生する。
一例として、制御部130は、図3の(a)に示すように、ユーザの音声が入力されることに基づいて、動画像コンテンツを再生するようにしてもよい。制御部130は、動画像コンテンツの再生にマッチする発話語(命令語、始動語又は起動語)に基づいて、電子機器10を制御して、動画像コンテンツが再生されるようにしてもよい。例えば、発話語として「ニュースを聞かせて」301が設定された場合、制御部130は、ユーザが前記設定された発話語に対応する音声を発話することに基づいて、動画像コンテンツを再生するようにしてもよい。
一方、電子機器10は、本発明による関連情報提供方法によるアプリケーション又はプログラムが実行された状態であり得る。
他の例として、制御部130は、図3の(b)及び(c)に示すように、電子機器10に出力された所定のアイコン302、304が選択されることに基づいて、動画像コンテンツを再生するようにしてもよい。ここで、所定のアイコン302、304は、図3の(b)に示すように、特定のアプリケーションの移行ページ上に出力されてもよく、図3の(c)に示すように、特定のアプリケーションのメインページ(例えば、機能提供ページ、情報提供ページなど)上に出力されてもよい。
ここで、制御部130は、図3の(b)及び(c)に示すように、動画像コンテンツの提供が可能であることを通知する案内情報303、305をディスプレイ部11に出力するようにしてもよい。よって、ユーザは、動画像コンテンツの再生が可能であることを認知し、動画像コンテンツ提供機能に直ちにアクセスすることができる。
なお、本発明において、制御部130は、図4aの(a)及び(b)に示すように、第1領域a及び第2領域bを含むページ(以下、「第1ページ」という)で動画像コンテンツを再生するようにしてもよい。
図4aの(a)及び(b)に示すように、第1領域aは、動画像コンテンツが再生される領域であり、第2領域bは、動画像コンテンツに関する関連情報が提供される領域であってもよい。第2領域bには、前述したように、動画像コンテンツに含まれる字幕の一部分のテキスト401、402に関する関連情報が提供されるようにしてもよい。
一方、図4aの(a)及び(b)に示すように、第1領域aで再生される動画像コンテンツは、字幕を含むように構成され、字幕のうち、予め設定されたDBに関連情報が存在する一部分のテキスト(又は単語)(例えば、強制醜行401、ホン・ギルドン402)は、ハイライト処理されて表示されるようにしてもよい。
また、図4bの(a)に示すように、第1領域aには、第1領域aで再生される動画像(又は動画像コンテンツ)の再生の程度を示すプログレスバー(又はタイムライン)410がさらに含まれるようにしてもよい。
プログレスバー410は、再生中の動画像コンテンツの総再生時間に対する現在時点の再生進捗度に関する情報を提供するようにしてもよい。
なお、本発明において、プログレスバー410は、少なくとも1つのインジケータ410a、410bを含むように構成されてもよい。制御部130は、プログレスバー410において、関連情報が存在する一部分のテキストの出力地点(又は、再生地点、再生時点)に対応する位置を特定し、特定された位置にインジケータ410a、410bを含めるようにしてもよい。制御部130は、インジケータ410a、410bと一部分のテキスト(又は単語)をそれぞれマッチするようにしてもよい。よって、制御部130は、インジケータ410a、410bを選択する選択信号を受信すると、選択されたインジケータにマッチする一部分のテキストが字幕として含まれる部分が再生されるように、動画像コンテンツの再生を制御するようにしてもよい。制御部130は、インジケータが選択されることに基づいて、選択されたインジケータにマッチし、かつハイライトされた一部分のテキストが字幕として含まれる地点から動画像コンテンツが再生されるように、ディスプレイ部11を制御するようにしてもよい。
一方、制御部130は、第1ページがディスプレイ部11に出力されているか、又は動画像コンテンツの再生中止に関する別途の制御命令を受信していない場合、第1領域aで動画像コンテンツが継続して再生されるように、ディスプレイ部11を制御するようにしてもよい。制御部130は、第1領域aで所定の再生時間を有する動画像コンテンツを連続して再生するようにしてもよい。
ここで、第1領域aで再生される動画像コンテンツの種類又はテーマは非常に多様である。制御部130は、ユーザの選択、ユーザの好み、状況情報、及び制御部の制御により、第1領域aで再生される動画像コンテンツの種類又はテーマを選択するようにしてもよい。
一例として、制御部130は、ユーザヒストリ情報に基づいて、ユーザの関心テーマ(例えば、時事、経済など)に関する動画像コンテンツを再生するようにしてもよい。この場合、制御部130は、ユーザの関心テーマに関する異なる動画像コンテンツを第1領域aで再生するようにしてもよい。なお、ユーザヒストリ情報は、ユーザアカウント情報にマッチして存在するようにしてもよい。
他の例として、制御部130は、ユーザから入力された種類又はテーマに関する動画像コンテンツを提供するようにしてもよい。ユーザから動画像コンテンツの種類又はテーマが入力される方式は非常に多様であり、図3の(a)に示すように、音声認識方式により、ユーザから再生対象の動画像コンテンツの種類又はテーマが入力されるようにしてもよい。
また、制御部130は、ユーザから動画像コンテンツの種類又はテーマに関する情報が入力されると、入力された情報に対応する動画像コンテンツを選択するようにしてもよい。
制御部130は、予め設定された基準に基づいて、第1領域aで提供する動画像コンテンツを特定するようにしてもよい。ここで、予め設定された基準は、非常に多様に設定することができる。
一例として、制御部130は、ユーザから、特定のキーワードが入力されると共に、ニュースの提供が要求されると、特定のキーワードに関連する予め設定された数(例えば、10個)のニュースに対応する動画像コンテンツを特定するようにしてもよい。この場合、制御部130は、アクセス数、上位表示数、人気度などの指標に基づいて、予め設定された数の動画像コンテンツを特定するようにしてもよい。
他の例として、制御部130は、ユーザから、ニュースの提供が要求されると、ニュースを構成する様々なカテゴリ(例えば、政治、経済、社会、IT、生活、世界などのカテゴリ)別に、予め設定された数の動画像コンテンツをそれぞれ特定するようにしてもよい。
さらに他の例として、制御部130は、ユーザから、カテゴリ別の人気ニュースの提供が要求されると、カテゴリ別に、最も多くアクセスされた(又は最も多く上位に表示された)ニュースに対応する予め設定された数の動画像コンテンツを特定するようにしてもよい。
さらに他の例として、制御部130は、ユーザから、リアルタイム人気検索語(又はキーワード)に関するニュースの提供が要求されると、リアルタイム人気検索語に関するニュースの動画像コンテンツを特定するようにしてもよい。
さらに他の例として、制御部130は、ユーザから、最新ニュースの提供が要求されると、最新にアップロードされたニュースを基準に動画像コンテンツを特定するようにしてもよい。
さらに他の例として、制御部130は、ユーザから、特定のマスコミのニュースの提供が要求されると、特定のマスコミが提供するニュースの動画像コンテンツを特定するようにしてもよい。
さらに他の例として、制御部130は、状況情報に基づいて、提供される動画像コンテンツの種類又はテーマを選択するようにしてもよい。
ここで、状況情報の種類は非常に多様である。例えば、状況情報には、時間情報(又は時間帯情報)、場所情報、デバイス接続情報、天気情報などが含まれる。
このような状況情報は、動画像コンテンツが提供される時点、動画像コンテンツが提供される電子機器がある場所、動画像コンテンツが提供される電子機器に接続されるデバイス(例えば、無線通信(例えば、ブルートゥース(登録商標))を介して接続されるデバイス(例えば、スピーカなど)のように、動画像コンテンツの提供又は動画像コンテンツが提供されるデバイスに関する状況情報であってもよい。
一例として、制御部130は、動画像コンテンツが提供される時間帯(例えば、ユーザが動画像コンテンツの提供を要求した時間帯)によって、異なる種類の動画像コンテンツを提供するようにしてもよい。制御部130は、異なる時間帯毎に異なる種類又はテーマの動画像コンテンツを特定するようにしてもよい。例えば、制御部130は、第1時間帯(例えば、午前時間帯)には、天気、交通状況、紙媒体新聞の一面記事、夜の間に多く読まれたニュースなどに関するテーマの動画像コンテンツを、電子機器10に提供するコンテンツとして特定するようにしてもよい。この場合、制御部130は、当該テーマの動画像コンテンツを電子機器10に連続して提供するようにしてもよい。
また、制御部130は、第2時間帯(例えば、夕方時間帯)には、料理、今日最も多く読まれたニュースなどに関するテーマの動画像コンテンツを、電子機器10に提供するコンテンツとして特定するようにしてもよい。
他の例として、制御部130は、電子機器10が自動車に含まれるデバイス(例えば、車両スピーカなど)と通信を行う場合、交通情報に関するテーマの動画像コンテンツを、電子機器10に提供するコンテンツとして特定するようにしてもよい。
さらに他の例として、制御部130は、電子機器10で出力されていた画面情報、電子機器10で直近に実行された機能、又は電子機器10で直近に出力された画面情報に関する種類又はテーマの動画像コンテンツを、電子機器10に提供するコンテンツとして特定するようにしてもよい。
よって、ユーザは、電子機器10に対して動画像コンテンツの提供のための同じユーザ入力を行っても、現在の状況に適した異なる種類又はテーマの動画像コンテンツの提供を受けることができる。
一方、制御部130は、ユーザの要求の他にも、制御部130自体で、前述した様々な例における基準に基づいて動画像コンテンツを特定し、特定された動画像コンテンツを第1領域aで提供するようにしてもよい。
次に、本発明においては、字幕に含まれる一部のテキストに対応するグラフィックオブジェクトを第2領域bに表示する過程を行う(S220)。
ここで、一部のテキスト(又は一部分のテキスト401、402)とは、第1領域aで再生される動画像コンテンツに含まれる字幕のうちハイライトされた部分をいう。
図4aの(a)に示すように、グラフィックオブジェクト404、407は、ハイライトされた一部分のテキスト(401、402)を含むように構成されてもよい。よって、ユーザはどの部分に関する関連情報が存在するかを認知することができる。
制御部130は、字幕に含まれる一部分のテキスト及び付加テキストの少なくとも一方がグラフィックオブジェクト404、407に含まれるようにしてもよい。
ここで、付加テキストは、一部分のテキストへのユーザの関心を引き出すための誘導情報であり、図4aに示すように、質問形式のテキスト(例えば、「**の人物情報をお知らせしましょうか?」、「**の正確な意味は?」など)であってもよい。
制御部130は、一部分のテキストに関する関連情報の種類、テーマ又はカテゴリ(以下、「属性」と通称する)によって、付加テキストを生成するようにしてもよい。一例として、関連情報が人物情報である場合、図4aの(a)に示すように、制御部130は、関連情報に対応するキーワード(人物情報)を含む付加テキスト(**の人物情報をお知らせしましょうか?)を生成するようにしてもよい。他の例として、関連情報が辞書の定義に対応する情報である場合、図4aの(a)に示すように、制御部130は、関連情報に対応するキーワード(意味)を含む付加テキスト(**の正確な意味は?)を生成するようにしてもよい。
このように、制御部130は、関連情報の属性によって、関連情報の属性に対応するキーワードを含む付加テキスト(又は質問)を生成し、それを字幕に含まれる一部分のテキストと共に第2領域bに提供することができる。よって、ユーザは気になる情報や関心のある情報に直ちにアクセスすることができる。
一方、第2領域bに出力されるグラフィックオブジェクト404、407は、文字、記号、数字及び画像の少なくとも1つを含むように構成されてもよい。
また、図4aの(a)に示すように、字幕においてハイライトされた一部分のテキストが複数の場合(401、402)、第2領域bには複数の一部分のテキストにそれぞれ対応するグラフィックオブジェクト404、407が出力されるようにしてもよい。
一方、第2領域bには、字幕に含まれる一部分のテキストを含むグラフィックオブジェクトだけでなく、第1領域aに出力された動画像コンテンツの関連情報を含むグラフィックオブジェクトが含まれてもよい。ここで、動画像コンテンツの関連情報は、質問又は命令形式の情報であってもよい。制御部130は、第1領域aに出力された動画像コンテンツの内容に基づいて、質問又は命令形式の情報を生成し、それを第2領域bに出力するようにしてもよい。ここで、質問又は命令形式の情報は、第1領域aに出力された動画像コンテンツに関連する他のコンテンツ(例えば、ニュース記事、SNS(Social Network Service)掲示物、ブログ掲示物など)の出力を誘導するための情報であってもよい。
制御部130は、第1領域aに出力された動画像コンテンツに関連する他のコンテンツが存在する場合、第2領域bに質問又は命令形式の情報を提供するようにしてもよい。
例えば、第2領域bに出力される情報は、「この事件の背景について教えて」、「議論となる点はどの部分なの?」、「この事件の判決はどうなったの?」のように、他のコンテンツへのアクセスを誘導する情報から構成されてもよい。
ここで、制御部130は、所定のアルゴリズムに基づいて、第1領域aに出力された動画像コンテンツの内容を分析し、分析した内容に基づいて、適切な質問又は命令形式の情報を生成するようにしてもよい。
また、制御部130は、第1領域aに出力された動画像コンテンツに関連する他のコンテンツに含まれる内容に基づいて、適切な質問又は命令形式の情報を生成するようにしてもよい。例えば、他のコンテンツとして、第1領域aに出力された動画像コンテンツの背景事件に関するコンテンツが存在する場合、制御部130は、「この事件の背景について教えて」という命令形式の情報を生成し、それを第2領域bに出力するようにしてもよい。
制御部130は、ディープラーニング又は人工知能ベースのアルゴリズムに基づいて、第1領域aに出力された動画像コンテンツに関連する質問又は命令形式の情報を生成するようにしてもよい。
一方、制御部130は、前記質問又は命令形式の情報を含むグラフィックオブジェクトが選択されることに基づいて、前記他のコンテンツを電子機器10に提供するようにしてもよい。これは、ステップS230と共に後述する「字幕に含まれる一部分のテキストを含むグラフィックオブジェクトが選択されることに基づいて情報(又はコンテンツ)を出力する」実施形態と同様に構成できるので、具体的な説明は省略する。
また、第2領域bには、字幕に関する情報の他に、様々な情報が含まれる。図4aの(a)及び図4fの(a)に示すように、第2領域bには、第1領域aで再生中の動画像コンテンツに関するユーザの嗜好情報の入力を受けるためのグラフィックオブジェクト403、460、461、462が含まれてもよい。
制御部130は、図4aの(a)及び図4fの(a)に示すグラフィックオブジェクト403、460、461、462によりユーザの入力を受信した場合、ユーザのヒストリ情報をアップデートするようにしてもよい。
制御部130は、再生中の動画像コンテンツに関する属性(例えば、種類、テーマ、カテゴリなど)に関するユーザの嗜好情報がユーザのヒストリ情報に反映されるように、ユーザのヒストリ情報をアップデートするようにしてもよい。
また、制御部130は、ユーザの嗜好情報を含むユーザのヒストリ情報を用いて、第1領域aで再生する動画像コンテンツを選択(又は特定)するようにしてもよい。
例えば、第2領域bで「関心ある」というグラフィックオブジェクト461が選択されると、制御部130は、再生中の動画像コンテンツに関する属性をユーザの嗜好情報(又は関心事情報)として設定するようにしてもよい。この場合、制御部130は、現在再生中の動画像コンテンツの再生が終了して次の動画像コンテンツを再生する際に、現在再生中の動画像コンテンツの属性に関連する動画像コンテンツを再生するようにしてもよい。
それに対して、第2領域bで「関心ない」というグラフィックオブジェクト462が選択されると、制御部130は、再生中の動画像コンテンツに関する属性をユーザの非嗜好情報(又は非関心事情報)として設定するようにしてもよい。この場合、制御部130は、現在再生中の動画像コンテンツの再生が終了して次の動画像コンテンツを再生する際に、現在再生中の動画像コンテンツの属性とは異なる属性を有する動画像コンテンツを再生するようにしてもよい。
さらに、制御部130は、図4fの(b)に示すように、ユーザが関心を有するテーマに関する情報を第2領域bに提供するようにしてもよい。制御部130は、ユーザが関心を有するテーマに関する関心度情報(又は嗜好情報)の入力回数をカウントするようにしてもよい。また、そのカウント情報をユーザに提供することにより、制御部130がユーザの関心度を正確に認知してモニタしていることを通知するようにしてもよい。
その他にも、第2領域bには、第1領域aで提供される動画像コンテンツに関する様々な情報が含まれるように構成することができる。
一方、第2領域bに出力されるグラフィックオブジェクトは、第1領域aで出力される動画像コンテンツの字幕が変更されることに基づいて連動して変更されてもよく、動画像コンテンツが変更されることに基づいて連動して変更されてもよい。すなわち、第1領域aで字幕が変更されることによりハイライトされたテキストが変更された場合、第2領域bには、それに連動して、変更されたテキストに対応するグラフィックオブジェクトが出力されるようにしてもよい。制御部130は、動画像コンテンツが再生されることにより字幕が変更された場合、それに連動して、第2領域bに出力される情報を変更することができる。
次に、本発明においては、第2領域bに出力されたグラフィックオブジェクトが選択されることに基づいて、字幕に含まれる一部分のテキストに関する関連情報を表示する過程を行う(S230)。
制御部130は、字幕に含まれる一部分のテキストに関するグラフィックオブジェクトに対する選択信号に基づいて、前記一部分のテキストに関する関連情報をディスプレイ部11に出力するようにしてもよい。
前述したように、関連情報は、予め設定されたDBに保存された情報であり、ハイライトされた一部分のテキストに関する内容を含む。
制御部130は、図4aの(b)及び図4bの(b)に示すように、第2領域bに関連情報409、414を提供することもでき、図4bの(c)に示すように、新しいページ415に関連情報を提供することもできる。
本発明において、新しいページ415は、第1領域a及び第2領域bを含む第1ページとは異なるページであり、「第2ページ」という。
制御部130は、一部分のテキストに関する関連情報を提供するために、第1ページを第2ページ415に切り替えるようにしてもよい。制御部130は、グラフィックオブジェクトに対する選択信号に基づいて、第2ページ415が出力されるように、ディスプレイ部11を制御するようにしてもよい。第2ページ415には、一部分のテキストに関する関連情報が含まれるようにしてもよい。
一方、第2領域bに出力される関連情報は、第2ページ415に出力される関連情報の少なくとも一部であってもよい。制御部130は、グラフィックオブジェクトに対する選択信号に基づいて、第2領域bに関連情報の少なくとも一部を提供し、さらなる選択信号に基づいて、第2ページ415に関連情報を提供するようにしてもよい。
説明の便宜上、第2領域bに提供される関連情報を「第1関連情報」といい、第2ページ415に提供される関連情報を「第2関連情報」という。
制御部130は、順次入力される選択信号に基づいて、第1関連情報及び第2関連情報を順次出力するようにしてもよい。ここで、選択信号は、ディスプレイ部11へのユーザ入力(例えば、タッチ入力など)であってもよい。この場合、第1関連情報は、第2関連情報の少なくとも一部分であってもよい。
本発明において、字幕のうちハイライトされた一部分のテキストに対応するグラフィックオブジェクトに対する選択信号は、第1選択信号及び第2選択信号を含んでもよい。
ここで、第1選択信号は、図4aの(a)及び図4bの(a)に示すように、一部分のテキスト(例えば、ホン・ギルドン、拘束令状)に関する関連情報が出力される前に、グラフィックオブジェクト404、406、411、413を選択する選択信号であってもよい。制御部130は、このような第1選択信号に基づいて、図4aの(b)及び図4bの(b)に示すように、前記一部分のテキスト(例えば、ホン・ギルドン、拘束令状)に関する第1関連情報409、414を第1ページの第2領域bに出力するようにしてもよい。第1関連情報は、ユーザの要求又は制御部130の制御により、音声情報としても出力されてもよい。
また、第2選択信号は、図4bの(b)に示すように、第1関連情報414が出力された状態で、グラフィックオブジェクト412を選択する選択信号であってもよい。第2選択信号は、グラフィックオブジェクト412及び第1関連情報414のいずれかへのユーザ入力(例えば、タッチ入力など)であってもよい。制御部130は、グラフィックオブジェクト412に対する前記第2選択信号が入力されると、図4bの(c)に示すように、一部分のテキスト(例えば、拘束令状)に関する第2関連情報を含む第2ページ415をディスプレイ部11に出力するようにしてもよい。
すなわち、制御部130は、第2選択信号に基づいて、ディスプレイ部11に出力された第1ページを第2ページに切り替えることができる。このように、制御部130は、第1選択信号及び第2選択信号に基づいて、第1関連情報及び第2関連情報を順次表示することができる。このとき、ユーザは、第1関連情報に関する内容についてより詳細に知りたい場合、第2選択信号を入力することにより、第2関連情報の提供を受けることができる。
一方、図4cの(a)及び(b)に示すように、第2ページ422は、一部分のテキストに関するグラフィックオブジェクトに対する選択信号だけでなく、予め設定された機能アイコン421の選択に基づいて出力されるようにしてもよい。この場合、制御部130は、第2ページ422に、一部分のテキストに関するグラフィックオブジェクトに関する関連情報又は動画像コンテンツに関する関連情報(例えば、ニュース記事など)を出力するようにしてもよい。
一方、図4b及び図4cで説明したように、ディスプレイ部11に第2ページ415、422が出力された場合、第1ページの第1領域aで再生されていた動画像コンテンツは継続して再生されるようにしてもよい。すなわち、制御部130は、ディスプレイ部11に第2ページ415、422が出力されても、第1領域aで再生されていた動画像コンテンツの再生が維持されるように、電子機器10を制御するようにしてもよい。この場合、電子機器10では、動画像コンテンツの再生機能と第2ページ415、422の出力機能をマルチタスク方式で処理するようにしてもよい。この場合、電子機器10のディスプレイ部11には第2ページ415、422が出力され、電子機器10の音響出力部からは動画像コンテンツの音声データに対応するサウンドが出力される。
一方、ディスプレイ部11に出力されていた第1ページが第2ページ415、422に切り替えられると、制御部130は、ディスプレイ部11の一領域に、動画像コンテンツの制御に関する画像(又はグラフィックオブジェクト、GUIオブジェクト416、423)を出力するようにしてもよい。GUIオブジェクト416、423は、フローティング(floating)オブジェクト又はフローティングアイコンともいえる。
図4bの(c)及び図4cの(b)に示すように、第2ページ415、422の一領域には、第1ページの第1領域aで再生されていた動画像コンテンツの制御に関するGUIオブジェクト416、423が出力されるようにしてもよい。
GUIオブジェクト416、423は、GUIオブジェクト416、423へのユーザ入力(例えば、タッチ入力)に基づいて、第2ページ415、422における出力位置及び出力サイズの少なくとも一方が変更されるようにしてもよい。
GUIオブジェクト416、423は、動画像コンテンツが再生されている第1ページとの媒体の役割を果たすものであり、制御部130は、GUIオブジェクト416、423へのユーザ入力(例えば、予め設定された方式のユーザ入力(又はタッチ入力))に基づいて、第1ページをディスプレイ部11に出力するようにしてもよい。この場合、ディスプレイ部11に出力されていた第2ページ415、422は、前記予め設定された方式のユーザ入力に基づいて、第1ページに切り替えられるようにしてもよい。
一方、制御部130は、図5aの(a)に示すように、GUIオブジェクト510を用いて、動画像コンテンツに関する関連情報を提供するようにしてもよい。制御部130は、動画像コンテンツが再生されることにより、動画像コンテンツの字幕が変更され、関連情報が存在する一部のテキスト(又は単語)が存在する場合、図5aの(a)に示すように、GUIオブジェクト510に又はGUIオブジェクト510の周辺に、関連情報が存在する一部のテキストに対応するグラフィックオブジェクト511を出力するようにしてもよい。制御部130は、現在再生されている部分の動画像コンテンツに関する関連情報が存在する場合、グラフィックオブジェクト511をディスプレイ部11に出力するようにしてもよい。
ここで、グラフィックオブジェクト511は、字幕に含まれる少なくとも一部分のテキスト(例えば、大法院)を含んでもよい。
また、制御部130は、グラフィックオブジェクト511に対する選択信号に基づいて、図5aの(b)に示すように、グラフィックオブジェクト511に関連する一部分のテキスト(例えば、大法院)に関する関連情報をディスプレイ部11に出力するようにしてもよい。制御部130は、既に第2ページに出力されていた関連情報を変更するか、又は新しい第3ページ502により、グラフィックオブジェクト511に関連する一部分のテキスト(例えば、大法院)に関する関連情報を提供するようにしてもよい。
さらに、制御部130は、GUIオブジェクト510を、第1領域aで再生される動画像コンテンツに対する制御命令の入力を受ける制御画面として用いてもよい。
例えば、図5bに示すように、GUIオブジェクト510は、第1領域aで再生される動画像コンテンツの属性(例えば、テーマ)の選択を受けるためのメニュー画面520、521を含んでもよい。メニュー画面520、521で特定のテーマが選択されると、制御部130は、選択された特定のテーマの動画像コンテンツが再生されるように、電子機器10を制御するようにしてもよい。
また、図5cに示すように、GUIオブジェクト510は、第1領域aで再生される動画像コンテンツの再生を制御(例えば、一時停止、再生再開、ボリューム調整、次の動画像コンテンツの選択、前の動画像コンテンツの選択など)するための制御メニュー画面531、532、533、534を含んでもよい。
このようなメニュー画面は、グラフィックオブジェクト510への予め設定された方式のユーザ入力(例えば、ロングタッチ入力など)に基づいて、図示のように、グラフィックオブジェクト510の周辺に出力されるようにしてもよい。また、このようなメニュー画面は、グラフィックオブジェクト510に含まれるファンクションキーとして提供されるようにしてもよい。
このように、本発明においては、動画像コンテンツの再生を維持すると共に、動画像コンテンツに関する関連情報を有機的に提供することにより、ユーザがより直感的に必要な情報にアクセスできるようにすることができる。
以上、本発明による動画像コンテンツを制御部130により生成できることを説明した。制御部130は、TTS技術に基づいて、テキストを音声に変換することにより、動画像コンテンツを生成するようにしてもよい。ここで、変換された音声は、動画像コンテンツの音声データになり、変換の対象であるテキストは、動画像コンテンツの字幕データになる。この場合、制御部130は、変換の対象であるテキストを含む文書に含まれるか、又は変換の対象であるテキストに関する内容を有する静的な画像もしくは動的な画像を、動画像コンテンツの画像データとして用いてもよい。また、制御部130は、動画像コンテンツを生成する際に使用するように予め設定された任意の画像(図4d参照)を、動画像コンテンツの画像データとして用いてもよい。
図示のように、予め設定された画像は、人の顔を含む画像であってもよい。図示のように、予め設定された画像は、実際の人の顔又はアバター、キャラクタ形式の画像であってもよい。このように人の顔に対応する画像が出力された場合、ユーザはアナウンサー又はアンカーが動画像コンテンツに対応する音声データを発話したかのように感じる。
この場合、音声データは、TTS方式で生成され、音声データを発話する音声の属性は、ユーザの選択に基づいて変更されるようにしてもよい。図4eに示すように、制御部130は、音声の属性(例えば、音声が与える雰囲気、音声を発話する仮想の人物の性別、声など)の選択を受けるための制御領域452を提供するようにしてもよい。制御部130は、ユーザが制御領域452により、異なる音声の属性にマッチするグラフィックオブジェクトのうち、いずれかのグラフィックオブジェクト453を選択すると、選択されたいずれかのグラフィックオブジェクト453にマッチする音声の属性(例えば、真剣で専門的な感じ)に対応する音声データを電子機器10に提供するようにしてもよい。
また、制御部130は、音声の属性が選択されることに基づいて、第1領域aに出力される画像データを変更するようにしてもよい。制御部130は、画像データとして、選択された音声の属性にマッチする顔画像(又はアバター、キャラクタ)を、第1領域aに提供するようにしてもよい。ここで、第1領域aに出力される画像データは、静的な画像及び動的な画像の少なくとも一方を含む。
なお、本発明においては、第1領域aを、動画像コンテンツを提供する出力領域として活用するだけでなく、制御命令入力領域として活用することもできる。制御部130は、第1領域aへのユーザ入力(例えば、タッチ入力)に基づいて、動画像コンテンツに関する制御を行うようにしてもよい。
ここで、ユーザ入力は、第1領域aへの予め設定された方式のタッチ入力であってもよい。本発明においては、異なる予め設定された方式のタッチ入力毎に異なる制御命令がマッチするようにしてもよい。制御部130は、第1領域aに入力されるタッチ入力の方式に基づいて、動画像コンテンツの再生に関する様々な制御を行うことができる。
一例として、図6aの(a)に示すように、制御部130は、予め設定された一方向(例えば、右から左)のドラッグタッチ入力に基づいて、図6aの(b)に示すように、第1領域aで提供されていた動画像コンテンツを変更するようにしてもよい。前記ドラッグタッチ入力に基づいて、制御部130は、図6aの(a)に示すように第1領域aで再生されていた第1動画像コンテンツ610の再生を終了し、図6aの(b)に示すように、第2動画像コンテンツ620を第1領域aに再生するようにしてもよい。
ここで、第2動画像コンテンツ620のテーマは、第1動画像コンテンツ610のテーマに関連するものであってもよく、関連しないものであってもよい。
一例として、制御部130は、図6bの(a)に示すように、第1動画像コンテンツ641に対してユーザから入力された嗜好情報に基づいて、第2動画像コンテンツ642のテーマを選択するようにしてもよい。前記嗜好情報は、第1動画像コンテンツ641の再生中に電子機器10を介して入力されるようにしてもよい。
制御部130は、第1動画像コンテンツ641に対してユーザが関心を有するという嗜好情報が入力されると、第1動画像コンテンツ641のテーマ又は内容との関連性のある動画像コンテンツを、第2動画像コンテンツ642として特定するようにしてもよい。
それとは異なり、制御部130は、第1動画像コンテンツ641に対してユーザが関心を有しないという非嗜好情報が入力されると、第1動画像コンテンツ641のテーマ又は内容との関連性のない動画像コンテンツを、第2動画像コンテンツ642として特定するようにしてもよい。
また、第1領域aへの異なる予め設定された方式のタッチ入力は、i)動画像コンテンツの再生中止、ii)以前に再生された動画像コンテンツの再生、iii)音声データを発話する声の種類の変更などのように、動画像コンテンツに対する様々な制御命令にそれぞれマッチするようにしてもよい。
一方、制御部130は、ユーザから入力されるタッチ入力に対応する制御命令の入力を音声命令で受けることができる場合、図6bの(b)に示すように、「次からは「次の記事」と言ってみてください!」などのガイド情報を出力するようにしてもよい。よって、本発明は、ユーザがより簡単に動画像コンテンツを制御できるようにすることができる。
前述したように、本発明による関連情報提供方法及びシステムにおいては、ディスプレイ部の表示領域を複数に分割し、いずれか1つの領域では動画像を、他の領域では動画像が提供する情報の関連情報を提供することができる。よって、ユーザは、動画像を利用している状態でいつでも動画像が提供する情報の関連情報をより直感的に用いることができる。その結果、ユーザは、関連情報を検索するために別の機能に移行して情報を検索する煩雑さを避けることができる。
また、本発明による関連情報提供方法及びシステムにおいては、動画像が提供する情報を字幕として提供し、字幕に含まれるテキストに関する情報を提供することができる。すなわち、本発明においては、字幕を用いてユーザに提供可能な関連情報を視覚的に提供することにより、ユーザがより容易に関連情報にアクセスできるようにすることができる。
さらに、本発明による関連情報提供方法及びシステムにおいては、動画像が再生されている状態で、関連情報を提供するためにページ切り替えを行うユーザ環境を提供することができる。よって、本発明においては、関連情報を表示領域全体で提供することができ、その場合、動画像の再生を制御するためのGUIを提供することができる。よって、ユーザは、関連情報の提供を受けると共に、動画像が提供するサウンド情報を継続して用いることができ、様々な情報の複合的な提供を受けることができる。
一方、コンピュータ可読媒体は、コンピュータシステムにより読み取り可能なデータが記録されるあらゆる種類の記録装置を含む。コンピュータ可読媒体の例としては、HDD(Hard Disk Drive)、SSD(Solid State Disk)、SDD(Silicon Disk Drive)、ROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、光データ記憶装置などが挙げられる。
また、コンピュータ可読媒体は、ストレージを含み、電子機器が通信によりアクセスできるサーバ又はクラウドストレージであり得る。この場合、コンピュータは、有線又は無線通信により、サーバ又はクラウドストレージから本発明によるプログラムをダウンロードすることができる。
さらに、本発明において、前述したコンピュータは、プロセッサ、すなわち中央処理装置(Central Processing Unit, CPU)が搭載された電子機器であり、その種類は特に限定されない。
一方、本発明の詳細な説明は例示的なものであり、あらゆる面で限定的に解釈されてはならない。本発明の範囲は添付の特許請求の範囲の合理的解釈により定められるべきであり、本発明の均等の範囲内でのあらゆる変更が本発明の範囲に含まれる。

Claims (17)

  1. 字幕を含む動画像コンテンツをディスプレイ部の第1領域で再生するステップと、
    前記字幕を構成するテキストの一部分を含むグラフィックオブジェクトを前記ディスプレイ部の第2領域に出力するステップと、
    前記グラフィックオブジェクトに対する選択信号に基づいて、前記一部分のテキストに関する関連情報を提供するステップとを含み、
    前記字幕において、前記一部分のテキストは、他の部分のテキストと区別されるように、ハイライト処理されて表示され
    前記ディスプレイ部には、前記動画像コンテンツが再生される第1領域及び前記グラフィックオブジェクトが表示される第2領域を含む第1ページが出力され、
    前記ディスプレイ部に出力された前記第1ページは、
    前記グラフィックオブジェクトに対する前記選択信号に基づいて、前記第1ページとは異なる第2ページに切り替えられる、関連情報提供方法。
  2. 前記字幕を生成するステップをさらに含み、
    前記字幕を生成するステップにおいては、
    前記字幕を構成するテキスト中に、特定のデータベースに既に登録されたキーワードに対応する部分が存在するか否かを検索し、
    前記字幕を構成するテキスト中に、前記既に登録されたキーワードに対応する部分をハイライト処理する、請求項1に記載の関連情報提供方法。
  3. 前記一部分のテキストは、前記特定のデータベースに既に登録された特定のキーワードに対応し、
    前記字幕において、前記一部分のテキストは、前記他の部分のテキストとは異なる色で表示される、請求項2に記載の関連情報提供方法。
  4. 前記特定のデータベースには、
    前記一部分のテキストに対応する前記特定のキーワードに関する関連情報が、前記特定のキーワードにマッチして保存される、請求項3に記載の関連情報提供方法。
  5. 前記ディスプレイ部に前記第2ページが出力された場合、
    前記第2ページの一領域には、前記第1ページの前記第1領域で再生されていた動画像コンテンツの制御に関するGUIオブジェクトが出力される、請求項1~4のいずれか1項に記載の関連情報提供方法。
  6. 前記ディスプレイ部に前記第2ページが出力されても、前記第1領域で再生されていた動画像コンテンツが継続して再生される、請求項に記載の関連情報提供方法。
  7. 前記GUIオブジェクトは、
    前記GUIオブジェクトへのユーザ入力に基づいて、前記第2ページにおける出力位置及び出力サイズの少なくとも一方が変更される、請求項に記載の関連情報提供方法。
  8. 前記ディスプレイ部に出力された前記第2ページは、
    前記GUIオブジェクトへの予め設定された方式のユーザ入力に基づいて、前記第1ページに切り替えられる、請求項に記載の関連情報提供方法。
  9. 前記グラフィックオブジェクトに対する前記選択信号は、第1選択信号及び第2選択信号を含み、
    前記グラフィックオブジェクトに対する前記第1選択信号が入力されると、前記第2領域に前記一部分のテキストに関する第1関連情報が出力され、
    前記グラフィックオブジェクトに対する前記第2選択信号が入力されると、前記一部分のテキストに関する第2関連情報を含む前記第2ページが出力される、請求項1~4のいずれか1項に記載の関連情報提供方法。
  10. 前記第1関連情報は、前記第2関連情報の一部を含む、請求項に記載の関連情報提供方法。
  11. 前記第1領域には、前記動画像コンテンツの再生の程度を示すプログレスバーが表示され、
    前記プログレスバーは、前記ハイライト処理された前記一部分のテキストが出力される再生地点を示すインジケータを含む、請求項1~10のいずれか1項に記載の関連情報提供方法。
  12. 前記インジケータを選択する前記選択信号が受信されると、前記ハイライト処理された前記一部分のテキストが前記字幕として含まれる地点から再生されるように、前記動画像コンテンツの再生を制御するステップをさらに含む、請求項11に記載の関連情報提供方法。
  13. 前記第1領域へのユーザ入力に基づいて、前記第1領域で再生されていた第1動画像コンテンツを前記第1動画像コンテンツとは異なる第2動画像コンテンツに切り替えるステップをさらに含む、請求項1~12のいずれか1項に記載の関連情報提供方法。
  14. 前記ユーザ入力に基づいて前記第1領域で再生される前記第2動画像コンテンツは、前記第1動画像コンテンツのテーマとは異なるテーマを有する、請求項13に記載の関連情報提供方法。
  15. 前記第1領域で再生される前記動画像コンテンツの字幕が変更されることにより、ハイライト処理される部分が変更された場合、前記第2領域に変更された前記ハイライト処理される部分に対応するグラフィックオブジェクトが出力されるように、前記第2領域に出力される情報が変更される、請求項1に記載の関連情報提供方法。
  16. 通信部と、
    第1領域及び第2領域に分けられる表示領域を含むディスプレイ部と、
    前記第1領域で字幕を含む動画像コンテンツを再生し、前記第2領域に前記字幕を構成するテキストの一部分を含むグラフィックオブジェクトを出力するように、前記ディスプレイ部を制御する制御部とを含み、
    前記制御部は、
    前記グラフィックオブジェクトに対する選択信号に基づいて、前記一部分のテキストに関する関連情報を出力するように、前記ディスプレイ部を制御し、
    前記字幕において、前記一部分のテキストは、他の部分のテキストと区別されるように、ハイライト処理されて表示され
    前記制御部は、さらに、
    前記ディスプレイ部を、前記動画像コンテンツが再生される第1領域及び前記グラフィックオブジェクトが表示される第2領域を含む第1ページが出力されるように制御し、
    前記ディスプレイ部に出力された前記第1ページは、
    前記グラフィックオブジェクトに対する前記選択信号に基づいて、前記第1ページとは異なる第2ページに切り替えられる、関連情報提供システム。
  17. 電子機器で1つ以上のプロセスにより実行され、コンピュータ可読媒体に格納可能なプログラムであって、
    前記プログラムは、前記1つ以上のプロセスが実行されるとき。前記電子機器に、請求項1~15のいずれか1項に記載の方法を実行させる、コンピュータ可読媒体に格納可能なプログラム。
JP2021074133A 2020-09-18 2021-04-26 関連情報提供方法及びシステム Active JP7229296B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0120470 2020-09-18
KR1020200120470A KR102414993B1 (ko) 2020-09-18 2020-09-18 연관 정보 제공 방법 및 시스템

Publications (2)

Publication Number Publication Date
JP2022051500A JP2022051500A (ja) 2022-03-31
JP7229296B2 true JP7229296B2 (ja) 2023-02-27

Family

ID=80855033

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021074133A Active JP7229296B2 (ja) 2020-09-18 2021-04-26 関連情報提供方法及びシステム

Country Status (2)

Country Link
JP (1) JP7229296B2 (ja)
KR (1) KR102414993B1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230147390A (ko) * 2022-04-14 2023-10-23 한화비전 주식회사 영상 검색 장치 및 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007065928A (ja) 2005-08-30 2007-03-15 Toshiba Corp 情報記憶媒体、情報処理方法、情報転送方法、情報再生方法、情報再生装置、情報記録方法、情報記録装置、及びプログラム
JP2013168927A (ja) 2012-02-15 2013-08-29 Samsung Electronics Co Ltd 映像表示装置で字幕の属性を変更するための装置及び方法
JP2018112681A (ja) 2017-01-12 2018-07-19 株式会社エドテック 外国語学習装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101644789B1 (ko) * 2009-04-10 2016-08-04 삼성전자주식회사 방송 프로그램 연관 정보 제공 장치 및 방법
KR20130000280A (ko) * 2011-06-22 2013-01-02 엘지전자 주식회사 휴대 전자기기 및 이의 제어방법
KR101379513B1 (ko) * 2011-09-16 2014-04-02 박혜옥 부가정보 제공 기능을 가진 동영상 재생 장치

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007065928A (ja) 2005-08-30 2007-03-15 Toshiba Corp 情報記憶媒体、情報処理方法、情報転送方法、情報再生方法、情報再生装置、情報記録方法、情報記録装置、及びプログラム
JP2013168927A (ja) 2012-02-15 2013-08-29 Samsung Electronics Co Ltd 映像表示装置で字幕の属性を変更するための装置及び方法
JP2018112681A (ja) 2017-01-12 2018-07-19 株式会社エドテック 外国語学習装置

Also Published As

Publication number Publication date
KR102414993B1 (ko) 2022-06-30
KR20220037696A (ko) 2022-03-25
JP2022051500A (ja) 2022-03-31

Similar Documents

Publication Publication Date Title
US9348554B2 (en) Managing playback of supplemental information
JP5855223B2 (ja) 同期されたコンテンツの再生管理
US11836180B2 (en) System and management of semantic indicators during document presentations
US9087507B2 (en) Aural skimming and scrolling
US20110153330A1 (en) System and method for rendering text synchronized audio
JP5634853B2 (ja) 電子コミックのビューワ装置、電子コミックの閲覧システム、ビューワプログラム、ならびに電子コミックの表示方法
WO2012086356A1 (ja) ファイルフォーマット、サーバ、電子コミックのビューワ装置および電子コミック生成装置
US20140164371A1 (en) Extraction of media portions in association with correlated input
US20140377722A1 (en) Synchronous presentation of content with a braille translation
US20180012595A1 (en) Simple affirmative response operating system
US20140377721A1 (en) Synchronous presentation of content with a braille translation
WO2014069220A1 (ja) 再生装置、設定装置、再生方法およびプログラム
WO2014154097A1 (en) Automatic page content reading-aloud method and device thereof
KR20090003533A (ko) 사용자 손수 저작물의 생성과 운용을 위한 방법 및 시스템
KR101567449B1 (ko) 음성인식에 기반한 애니메이션 재생이 가능한 전자책 단말기 및 그 방법
JP7229296B2 (ja) 関連情報提供方法及びシステム
US10089059B1 (en) Managing playback of media content with location data
JP2000231475A (ja) マルチメディア情報閲覧システムにおける音声読み上げ方法
US20160266654A1 (en) Providing contextual information
KR101968599B1 (ko) 입력 텍스트에 따른 스토리 동영상 생성방법 및 장치
US20140297285A1 (en) Automatic page content reading-aloud method and device thereof
WO2014210034A1 (en) Synchronous presentation of content with a braille translation
CN112424853A (zh) 以对文本文档的音频回放进行补充的视觉内容为特点的文本到语音界面
KR102656262B1 (ko) 이미지를 이용한 중국어 연상학습 콘텐츠 제공 방법 및 장치
KR102149266B1 (ko) 전자 기기의 오디오 데이터의 관리 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230214

R150 Certificate of patent or registration of utility model

Ref document number: 7229296

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350