JP6193993B2 - デジタルサービス信号処理方法及び装置 - Google Patents

デジタルサービス信号処理方法及び装置 Download PDF

Info

Publication number
JP6193993B2
JP6193993B2 JP2015523006A JP2015523006A JP6193993B2 JP 6193993 B2 JP6193993 B2 JP 6193993B2 JP 2015523006 A JP2015523006 A JP 2015523006A JP 2015523006 A JP2015523006 A JP 2015523006A JP 6193993 B2 JP6193993 B2 JP 6193993B2
Authority
JP
Japan
Prior art keywords
content
watermark
information
logo
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015523006A
Other languages
English (en)
Other versions
JP2015531189A (ja
Inventor
セチン オ
セチン オ
チンピル キム
チンピル キム
ソンチュ アン
ソンチュ アン
キョンホ キム
キョンホ キム
キョンス ムン
キョンス ムン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of JP2015531189A publication Critical patent/JP2015531189A/ja
Application granted granted Critical
Publication of JP6193993B2 publication Critical patent/JP6193993B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • H04N21/2355Processing of additional data, e.g. scrambling of additional data or processing content descriptors involving reformatting operations of additional data, e.g. HTML pages
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • H04N21/4355Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream involving reformatting operations of additional data, e.g. HTML pages on a television screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4722End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
    • H04N21/4725End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content using interactive regions of the image, e.g. hot spots
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4782Web browsing, e.g. WebTV
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8352Generation of protective data, e.g. certificates involving content or source identification data, e.g. Unique Material Identifier [UMID]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8358Generation of protective data, e.g. certificates involving watermark
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/84Generation or processing of descriptive data, e.g. content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/8545Content authoring for generating interactive applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/858Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
    • H04N21/8586Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、放送プログラムに関連した自動コンテンツ認識サービスを処理する方法及び装置に関し、特に、自動コンテンツ認識環境で放送コンテンツに関連した付加サービスを提供する方法及び装置に関する。
デジタル衛星放送の導入に伴って、デジタルデータ放送が新しい付加サービスとして現れた。代表的な双方向サービスである双方向データ放送は、様々な付加サービスを提供するために、データ信号だけでなく、既存放送信号も加入者に送信することができる。
デジタルデータ放送は、仮想チャネルを用いた独立型サービスと、ETV(enhanced television)を通した放送関連サービスとに大別できる。独立型サービスは、放送イメージ信号無しでテキストとグラフィックのみを含み、既存インターネットウェブページと類似のフォーマットで提供される。独立型サービスの代表的な例に、天気及び株式情報提供サービス、TV金融サービス、商取引サービスなどを挙げることができる。放送関連サービスは、放送イメージ信号の他、付加的なテキスト及びグラフィック情報も送信する。視聴者は、放送関連サービスから、視聴した放送プログラムに関連した情報を得ることができる。例えば、視聴者がドラマを視聴しながら、そのドラマの前のストーリーや撮影場所を確認できるようにするサービスがある。
デジタルデータ放送の放送関連サービスでは、ETVサービスを自動コンテンツ認識技術に基づいて提供することができる。自動コンテンツ認識とは、装置がオーディオ/ビデオコンテンツを再生する時、コンテンツに隠された情報から自動でコンテンツを認識する技術のことをいう。
自動コンテンツ認識技術を施行するとき、コンテンツに関する情報を得るために、ウォーターマーキング(watermarking)(透かし)やフィンガープリンティング(finger printing)方式を用いることができる。ウォーターマーキングとは、デジタルコンテンツプロバイダを示す情報をデジタルコンテンツに挿入する技術のことをいう。フィンガープリンティングとは、特定情報がデジタルコンテンツに挿入される点ではウォーターマーキングと同一であるが、コンテンツプロバイダに関する情報に代えてコンテンツ購買者に関する情報が挿入される点でウォーターマーキングと区別される。
しかし、既存の自動コンテンツ認識機能を用いて双方向サービスを提供するシステムにはいくつかの制約がある。
コンテンツプロバイダ(又は、放送局)が実時間サービスのためのコンテンツ及びETVサービスのためのエンハンスメントデータ(又は、付加データ)を送信し、TV受信機が当該実時間サービスのためのコンテンツ及びエンハンスメントデータを外部入力を通して受信すると、実時間サービスのためのコンテンツは受信できるが、エンハンスメントデータは受信できない。
また、既存ETVサービスが自動コンテンツ認識システム上で提供されると、別途の自動コンテンツ認識サーバー(又は、自動コンテンツ認識ソリューションプロバイダ)の介在が必須となる。したがって、別途の自動コンテンツ認識サーバー無しで自動コンテンツ認識機能を実行する受信機が要求される。
また、ETVサービスを提供するためのウォーターマーキング技術では、ウォーターマーク(透かし)に含まれた情報の量が多いと、ウォーターマークの埋め込まれたコンテンツの質が低下することがある。したがって、ウォーターマーキングの効率的な使用に制約がある。
また、ETVサービスを提供するためのフィンガープリンティング技術では、コンテンツを認識するための外部自動コンテンツ認識サーバーがさらに必要であるだけでなく、コンテンツ認識結果がレファレンスセットの大きさに依存する。
したがって、本発明は、従来技術の制約及び短所による一つ以上の問題点を実質的に除去するデジタルサービス信号処理方法及び装置を提供する。本発明の目的は、放送システムを用いて放送プログラムに関連した情報を確認し、確認された放送プログラムの付加情報を実時間で提供することにある。
ここに含まれ、概略的に記述されるように、上記の目的及び他の利点を達成するために且つ本発明の目的によって、本発明に係るデジタルサービス信号処理方法は、コンテンツを含むデジタルサービス信号を受信するステップと、前記コンテンツの各ビデオフレームから、各ビデオフレームの特定領域に位置してコンテンツプロバイダを示すロゴデータを抽出するステップと、前記抽出されたロゴデータと記憶されたロゴデータとを比較して前記コンテンツのチャネル情報を取得するステップと、前記ロゴデータに関連したメタデータから前記コンテンツのチャネル情報を取得するステップと、前記取得したチャネル情報を用いて前記コンテンツに関連した付加データに関するURL情報を取得するための要求を生成するステップと、前記生成された要求を用いてURL情報を受信するステップと、前記URL情報によってインターネットプロトコルIPネットワークを通して前記付加データを取得するステップと、を含む。
上記方法は、前記コンテンツと関連しており、各コンテンツを識別するためのコンテンツ識別子情報を含むプログラム情報を伝達するウォーターマークを、前記コンテンツのオーディオフレームから抽出するステップと、前記ウォーターマークから前記プログラム情報を取得するステップと、をさらに含むことができる。
前記要求を生成するステップは、前記取得したプログラム情報をさらに用いて要求を生成することができる。
前記ビデオフレームが前記コンテンツに関連したプログラムを示すためのシンボルイメージデータを含むと、上記方法は、前記コンテンツの各ビデオフレームから、前記各ビデオフレームの特定領域に位置している前記シンボルイメージデータを抽出するステップと、前記抽出されたシンボルイメージデータを処理し、前記コンテンツと関連しており、各コンテンツを識別するためのコンテンツ識別子情報を含むプログラム情報を取得するステップと、前記プログラム情報を取得するステップと、をさらに含むことができる。
前記要求を生成するステップは、前記取得したプログラム情報をさらに用いて要求を生成することができる。
上記方法は、前記ロゴデータに関連したメタデータを周期的に更新するステップをさらに含むことができる。
上記方法は、前記チャネル情報及び前記コンテンツと関連しており、各コンテンツを識別するためのコンテンツ識別子情報を含むプログラム情報を伝達するウォーターマークを、前記ビデオフレームの特定領域から抽出するステップをさらに含むことができる。
本発明の他の側面において、デジタルサービス信号処理方法は、コンテンツを含むデジタルサービス信号を生成するステップと、コンテンツプロバイダを示すロゴデータを前記コンテンツの各ビデオフレームに挿入し、前記ロゴデータは前記各ビデオフレームの特定領域に位置するステップと、前記デジタルサービス信号を送信するステップと、を含み、前記ロゴデータは、前記コンテンツのチャネル情報を取得するためのものであり、前記チャネル情報は、前記コンテンツに関連した付加データに関するURL情報を受信するためのものである。
前記コンテンツは、オーディオフレームを含み、上記方法は、ウォーターマークを生成するステップと、前記コンテンツと関連しており、各コンテンツを識別するためのコンテンツ識別子情報を含むプログラム情報を伝達する前記生成されたウォーターマークを、前記コンテンツのオーディオフレームに挿入するステップと、をさらに含むことができる。
上記方法は、ウォーターマークを生成するステップと、チャネル情報及び前記コンテンツと関連しており、各コンテンツを識別するためのコンテンツ識別子情報を含むプログラム情報を伝達する前記生成されたウォーターマークを、前記コンテンツのビデオフレームに挿入するステップと、をさらに含むことができる。上記方法は、前記オーディオフレーム又はビデオフレームをサブフレームに分離するステップと、前記分離されたサブフレームの中から特定サブフレームを検出して前記ウォーターマークを挿入するステップと、前記ウォーターマークを前記検出された特定サブフレームに挿入するステップと、前記分離されたサブフレームを前記オーディオフレーム又はビデオフレームとして構成するステップと、をさらに含むことができる。
上記方法は、前記コンテンツに関連したプログラムを示すシンボルイメージデータを生成するステップと、前記生成されたシンボルイメージデータを前記コンテンツの各ビデオフレームに挿入するステップと、をさらに含み、前記挿入されたシンボルイメージデータは、前記各ビデオフレームの特定領域に位置する。
本発明によれば、自動コンテンツ認識技術を用いて放送プログラムに関連した情報を実時間で確認することができる。
本発明によれば、TV視聴経験の向上のために、自動コンテンツ認識機能を用いて放送プログラムに関連したエンハンスメントデータを受信することができる。
本発明によれば、放送プログラムに関連した情報を認識し、ウォーターマーキング技術を用いてエンハンスメントデータを受信することによって、TV受信機は別途の自動コンテンツ認識サーバー無しで自動コンテンツ認識機能を実行することができる。
本発明によれば、ウォーターマークに含まれた情報に基づいてウォーターマークをプロファイリングし、ウォーターマークに含まれた情報の量が多くても効率的にウォーターマーキングを活用することができる。
本発明によれば、ウォーターマーキングとフィンガープリンティングを結合することによって、效率的に自動コンテンツ認識サービスを提供することができる。
自動コンテンツ認識基盤ETVサービスシステムを示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス処理システムを示す図である。 本発明の他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。 本発明の一実施例に係る受信機の構造を示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス処理システムの構造を示す図である。 本発明の一実施例に係るETVサービス受信装置の構造を示す図である。 本発明の他の実施例に係るETVサービス受信装置の構造を示す図である。 本発明のさらに他の実施例に係るETVサービス受信装置の構造を示す図である。 本発明の一実施例に係るデジタルウォーターマーキング技術のフローを示す図である。 本発明の一実施例に係る自動コンテンツ認識クエリ結果フォーマットを示す図である。 本発明の一実施例に係るコンテンツID(identifier)の構造を示す図である。 本発明の一実施例に係るウォーターマーキングを用いた受信機の動作を示す図である。 本発明の一実施例に係るウォーターマーク抽出過程を示す図である。 本発明の一実施例に係るウォーターマーク情報のプロファイリングを示す図である。 本発明の一実施例に係るウォーターマークをビデオフレームに埋め込む方法を示す図である。 本発明の他の実施例に係るウォーターマークをビデオフレームに埋め込む方法を示す図である。 本発明のさらに他の実施例に係るウォーターマークをビデオフレームに埋め込む方法を示す図である。 本発明の一実施例に係るウォーターマークをオーディオフレームに埋め込む方法を示す図である。 本発明の一実施例に係るプロファイリングされたウォーターマークを埋め込む方法を示す図である。 本発明の一実施例に係るウォーターマークを連続したフレームに埋め込む方法を示す図である。 本発明の一実施例に係る連続したフレームに挿入されたウォーターマークを抽出する方法を示す図である。 本発明の一実施例に係るウォーターマークを3次元ビデオフレームに埋め込む方法を示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス提供システムの構造を示す図である。 本発明の一実施例に係る放送局ロゴを用いて自動コンテンツ認識サービスを提供する方法を示す図である。 本発明の一実施例に係る放送局ロゴを示す図である。 本発明の一実施例に係る放送局ロゴを用いた自動コンテンツ認識サービスを示す図である。 本発明の一実施例に係るロゴ及びウォーターマークを用いた自動コンテンツ認識サービス提供方法を示す図である。 本発明の他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。 本発明の一実施例に係るロゴ及び/又はウォーターマークを用いた自動コンテンツ認識サービス提供装置の動作の概念を示す図である。 本発明のさらに他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。 本発明のさらに他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス受信装置を示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス送信装置を示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス受信過程を示す図である。 本発明の一実施例に係る自動コンテンツ認識サービス送信過程を示す図である。
本発明を理解を助けるために提供され、本出願に含まれ、本出願の一部を構成する添付の図面は、本発明の原理を説明する詳細な説明と共に本発明の実施例を例示する。
添付の図面は、上記の通りである。
以下、添付の図面を参照して、本発明の好適な実施例について詳しく説明する。図面全体を通じて、同一又は類似の部分には可能な限り同一の参照番号を共通使用するものとする。
本発明の好適な実施例について詳しく述べ、それらの例は添付の図面に示されている。本発明の好適な実施例について、添付の図面を参照して詳しく説明する。図面に示しており、後述される本発明の構成及び動作は、本発明の思想及び範囲を制限するものではなく、少なくとも一つの実施例で説明される。
本発明で使われる用語は、一般に知られて使われている用語から選択されたものであるが、ここに使われた用語は、当業者の意図、技術慣行、新しい技術の登場などによって変更されてもよい。また、本発明の詳細な説明で使われた用語の一部は、出願人の裁量で選択したものもあり、その詳細な意味は、詳細な説明の関連部分で説明する。また、本発明で使われた用語は、単純に使われている辞典的な意味ではなく、各用語に内在された意味によって把握されなければならない。
図1は、自動コンテンツ認識基盤ETVサービスシステムを示す図である。
図1に示す自動コンテンツ認識基盤ETVサービスシステムは、放送局又はコンテンツプロバイダ100、多チャネル放送事業者101、セットトップボックス102、デジタルTV受信機などの受信機103、自動コンテンツ認識サーバー(又は、自動コンテンツ認識ソリューションプロバイダ)104を含むことができる。受信機103は、ATSC(advanced television system committee)の定義によって動作でき、自動コンテンツ認識機能を支援できる。実時間放送サービス110は、オーディオ/ビデオコンテンツを含むことができる。
デジタル放送サービスは、放送局100から提供される地上波放送サービスと、多チャネル放送事業者101から提供されるケーブル放送又は衛星放送などの多チャネル放送サービスとに大別できる。放送局100は、実時間放送サービス110及びエンハンスメントデータ(又は、付加データ)120を共に送信できる。この場合、図1に示すように、受信機103は、多チャネル放送事業者101及びセットトップボックス102を通して実時間放送サービス110は受信できるが、エンハンスメントデータ120は受信できないことがある。
したがって、エンハンスメントデータ120を受信するために、受信機103は、オーディオ/ビデオコンテンツ出力を実時間放送サービス110として分析及び処理し、放送プログラム情報及び/又は放送プログラム関連メタデータを確認する。確認された放送プログラム情報及び/又は放送プログラム関連メタデータを用いて、受信機103は、放送局100又は自動コンテンツ認識サーバー104からエンハンスメントデータを受信することができる(140)。この場合、エンハンスメントデータはインターネットプロトコルネットワーク150を通して送信されうる。
エンハンスメントデータが別途の自動コンテンツ認識サーバー104から受信されると(140)、自動コンテンツ認識サーバー104と受信機103間のメカニズムにおいて、ATSC 2.0標準で定義したTDO(triggered declarative object)モデルのうち、要求/応答モデルを自動コンテンツ認識サーバー104に適用することができる。TDO及び要求/応答モデルについては後述する。
TDOは、放送コンテンツに含まれた付加情報を表す。TDOは、放送コンテンツ内で付加情報を適時にトリガリングする役割を持つ。例えば、オーディオプログラムが放送されると、視聴者が好むオーディション参加者の現在順位が放送コンテンツと共に表示される。このとき、オーディション参加者の現在順位の付加情報はTDOになり得る。このようなTDOは視聴者との相互作用によって変更されてもよく、視聴者の意図によって提供されてもよい。
標準ATSC 2.0の要求/応答自動コンテンツ認識モデルにおいて、デジタル放送受信機103は、周期的に(例えば、5秒ごとに)コンテンツのシグネチャー(signature)を生成し、当該シグネチャーを含む要求を自動コンテンツ認識サーバー104に送信するようになっている。自動コンテンツ認識サーバー104は、デジタル放送受信機103から要求を受けると、応答をする。通信セッションは要求と応答間では開放されない。このモデルで、自動コンテンツ認識サーバー104は、クライアントに対するメッセージを開始することができない。
しかし、前述したETVサービスシステムでは、別途の自動コンテンツ認識サーバーなしでは自動コンテンツ認識機能を提供することができない。そのため、別途の自動コンテンツ認識サーバー無しで受信機で自動コンテンツ認識機能を独立して行う方法が要求される。
図2は、本発明の一実施例に係る自動コンテンツ認識サービス処理システムを示す図である。
図2に示す自動コンテンツ認識サービス処理システムによれば、実時間放送に関連したエンハンスメントデータは、自動コンテンツ認識サーバーの介在無しでウォーターマーキングを用いて受信され、双方向サービスを提供することができる。
図2に示す自動コンテンツ認識サービス処理システムは、デジタルサービス信号を生成して送信する送信機200及び/又はデジタルサービス信号を受信して処理する受信機210を含むことができる。送信機200はコンテンツプロバイダ又は放送局であり、受信機210は、デジタルTV受信機のような受信機であってもよい。送信機200は、生成モジュール201、挿入モジュール202、及び/又は送信モジュール203を含むことができる。受信機210は、受信モジュール211及び/又は抽出モジュール212を含むことができる。
次に、図2に示す自動コンテンツ認識サービス処理システムの各モジュールの動作について説明する。
まず、送信機200の生成モジュール201は、ウォーターマークを生成し、送信されるオーディオ/ビデオコンテンツのフレームに挿入することができる。ウォーターマークは、ウォーターマークが挿入されるコンテンツのチャネルに関する情報及び/又はコンテンツのエンハンスメントデータのURL(uniform resource locator)情報のようなコンテンツ情報(又は、メタデータ)を含むことができる。送信モジュール203は、ウォーターマークの挿入されたコンテンツを受信機210に送信することができる。
受信機210の受信モジュール211は、ウォーターマークの挿入されたコンテンツを受信することができ、コンテンツを抽出モジュール212に伝達することができる。抽出モジュール212は、伝達されたコンテンツのオーディオ/ビデオフレームから、挿入されたウォーターマークを抽出することができる。
図3は、本発明の他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。
より詳しくは、図3は、自動コンテンツ認識基盤ETVサービスを支援する放送サービスの構成を示す。
図3に示すように、自動コンテンツ認識サービス処理システムは、コンテンツプロバイダ又は放送局300、多チャネル放送事業者302、セットトップボックス303、受信機304、アプリケーションURLルックアップサーバー306、アプリケーションサーバー307を含むことができる。コンテンツプロバイダ300は、ウォーターマーク挿入器301を含むことができ、受信機304は、ウォーターマーク抽出器305を含むことができる。アプリケーションURLルックアップサーバー306及びアプリケーションサーバー307は物理的に一つのサーバーに従属している。
図3に示す受信機304は、自動コンテンツ認識機能を有する。
コンテンツプロバイダ300は、エンハンスメントデータに関連したメタデータを、実時間で送信されるオーディオ/ビデオコンテンツにウォーターマークの形態で挿入する。オーディオ/ビデオコンテンツを多チャネル放送事業者302を通して受信する場合でも、エンハンスメントデータに関連したメタデータがウォーターマークの形態で挿入されたオーディオ/ビデオコンテンツは受信することができる。自動コンテンツ認識機能を持つ受信機304は、多チャネル放送事業者302を通して受信したオーディオ/ビデオコンテンツからウォーターマークを抽出し、実時間で放送されるプログラムに関連した情報とメタデータを認識することができる。受信機304は、インターネットプロトコルネットワークを通してエンハンスメントデータを受信することができる。
次に、図3に示す各構成要素の動作について説明する。
放送局300は、コンテンツを識別するためのコンテンツIDのようなエンハンスメントデータと関連したメタデータをオーディオ/ビデオコンテンツにウォーターマークの形態で挿入する。より具体的に、ウォーターマーク挿入器301は、オーディオ/ビデオコンテンツにおいてウォーターマークが適切に挿入される領域を検索し、ウォーターマークを検索された領域に挿入する。
自動コンテンツ認識機能を持つ受信機304は、ウォーターマークの挿入されたオーディオ/ビデオコンテンツを、多チャネル放送事業者302及びセットトップボックス303を通して受信し、オーディオ/ビデオコンテンツからウォーターマークを抽出し、エンハンスメントデータと関連したメタデータを取得することができる。より具体的に、受信機304のウォーターマーク抽出器305は、オーディオ/ビデオコンテンツからウォーターマークの挿入された領域を検索し、検索された領域に挿入されているウォーターマークを抽出する。
受信機304は、抽出されたウォーターマークから取得したメタデータを用いて実時間放送プログラムに関連したエンハンスメントデータをダウンロードできる。より具体的に、受信機304は、インターネットプロトコルネットワークを通してアプリケーションURLルックアップサーバー306に接続し、クエリによる関連アプリケーションのURLを受信することができる。アプリケーションのURLによって、受信機304は、アプリケーションを管理するアプリケーションURLルックアップサーバー306に接続し、アプリケーションURLルックアップサーバー306から、アプリケーションに従属したエンハンスメントデータをダウンロードすることができる。
図4は、本発明の一実施例に係る受信機の構造を示す図である。
具体的に、図4は、ウォーターマーキングを用いて自動コンテンツ認識基盤ETVサービスを支援する受信機の構成の一例を示す。
図4に示すように、本発明の一実施例に係る自動コンテンツ認識基盤ETVサービスを支援する受信機は、入力データプロセッサ、ATSCメインサービスプロセッサ、ATSC MH(mobile handheld)サービスプロセッサ、及び/又は自動コンテンツ認識サービスプロセッサを含むことができる。入力データプロセッサは、チューナー/復調器400及び/又は残留側波帯デコーダ401を含むことができる。ATSCメインサービスプロセッサは、トランスポートプロトコル(TP)デマルチプレクサ402、非実時間ガイド情報プロセッサ403、DSM−CC(digital storage media commandand control)アドレス指定可能セクションパーサー404、IP/UDP(information provider/user datagram protocol)パーサー405、FLUTE(file delivery over unidirectional transport)パーサー406、メタデータモジュール407、ファイルモジュール408、ESG(electronic service guide)/DCD(data carrier detect)ハンドラー409、記憶制御モジュール410、ファイル/トランスポートプロトコルスイッチ411、再生制御モジュール412、第1記憶装置413、インターネットプロトコルパケット記憶制御モジュール414、インターネット接続制御モジュール415、インターネットプロトコルインターフェース416、ライブレコーディングスイッチ417、ファイル(オブジェクト)デコーダ418、トランスポートプロトコル/PES(packetized elementary stream)デコーダ420、PSI(program specific information)/PSIP(program and system information protocol)デコーダ421、及び/又はEPG(electronic programg uide)ハンドラー422を含むことができる。ATSC MHサービスプロセッサは、メイン/MH/非実時間スイッチ419、MHベースバンドプロセッサ423、MH物理的適応プロセッサ424、インターネットプロトコルスタック425、ファイルハンドラー426、ESGハンドラー427、第2記憶装置428、及び/又はストリーミングハンドラー429を含むことができる。自動コンテンツ認識サービスプロセッサは、メイン/MH/非実時間スイッチ419、オーディオ/ビデオデコーダ430、オーディオ/ビデオ処理モジュール431、外部入力ハンドラー432、ウォーターマーク抽出器433、及び/又はアプリケーション434を含むことができる。
次に、各プロセッサの各モジュールの動作について説明する。
入力データプロセッサで、チューナー/復調器400は、アンテナから受信した放送信号をチューニング及び復調することができる。この過程によって、残留側波帯シンボルを抽出することができる。残留側波帯デコーダ401は、チューナー/復調器400によって抽出された残留側波帯シンボルをデコーティングすることができる。
残留側波帯デコーダ401は、デコーティングによるATSCメインサービスデータ及びMHサービスデータを出力することができる。ATSCメインサービスデータはATSCメインサービスプロセッサに伝達されて処理され、MHサービスデータはATSC MHサービスプロセッサに伝達されて処理されうる。
ATSCメインサービスプロセッサは、MH信号を除くメインサービスデータを自動コンテンツ認識サービスプロセッサに伝達するためにメインサービス信号を処理することができる。トランスポートプロトコルデマルチプレクサ402は、残留側波帯信号を介して送信されたATSCメインサービスデータの送信パケットを逆多重化して他の処理モジュールに伝達することができる。すなわち、トランスポートプロトコルデマルチプレクサ402は、放送信号の要素がそれぞれ放送受信機のモジュールによって処理されるように、送信パケットに含まれた様々な情報を逆多重化して伝達することができる。逆多重化されたデータは、実時間ストリーム、DSM−CCアドレス指定可能セクション、及び/又は非実時間サービステーブル/A/90&92シグナリングテーブルを含むことができる。より具体的に、図4に示すように、トランスポートプロトコルデマルチプレクサ402は、実時間ストリームをライブレコーディングスイッチ417に出力でき、DSM−CCアドレス指定可能セクションをDSM−CCアドレス指定可能セクションパーサー404に出力でき、非実時間サービステーブル/A/90&92シグナリングテーブルを非実時間ガイド情報プロセッサ403に出力することができる。
非実時間ガイド情報プロセッサ403は、トランスポートプロトコルデマルチプレクサ402から非実時間サービステーブル/A/90&92シグナリングテーブルを受信し、FLUTセッション情報を抽出してDSM−CCアドレス指定可能セクションパーサー404に伝達することができる。DSM−CCアドレス指定可能セクションパーサー404は、トランスポートプロトコルデマルチプレクサ402からDSM−CCアドレス指定可能セクションを受信し、非実時間ガイド情報プロセッサ403からFLUTセッション情報を受信し、DSM−CCアドレス指定可能セクションを処理することができる。IP/UDPパーサー405は、DSM−CCアドレス指定可能セクションパーサー404からデータ出力を受信し、IP/UDPによって送信されたIPデータグラムをパーシングすることができる。FLUTEパーサー406は、IP/UDPパーサー405から出力されたデータを受信し、ALC(asynchronous layered coding)オブジェクトの形態で送信されたデータサービスを送信するためのFLUTEデータを処理することができる。メタデータモジュール407及びファイルモジュール408は、FLUTEパーサー406から出力されたデータを受信し、メタデータ及び復元されたファイルを処理することができる。ESG/DCDハンドラー409は、メタデータモジュール407から出力されたデータを受信し、放送プログラムに関連した電子サービスガイド及び/又は下りリンクチャネル記述子を処理することができる。復旧されたファイルは、レファレンスフィンガープリント及びATSC 2.0コンテンツのようなファイルオブジェクトの形態で記憶制御モジュール410に伝達されうる。ファイルオブジェクトは、記憶制御モジュール410によって処理され、正常ファイル及びトランスポートプロトコルファイルに分離されて第1記憶装置413に記憶されうる。再生制御モジュール412は、記憶されたファイルオブジェクトを更新し、ファイルオブジェクトをファイル/トランスポートプロトコルスイッチ411に伝達して、正常ファイル及びトランスポートプロトコルファイルをデコーティングすることができる。ファイル/トランスポートプロトコルスイッチ411は、正常ファイル及びトランスポートプロトコルファイルが互いに異なる経路を通じてデコーティングされるように、正常ファイルはファイルデコーダ418に伝達し、トランスポートプロトコルファイルはライブレコーディングスイッチ417に伝達する。
ファイルデコーダ418は、正常ファイルをデコーティングして自動コンテンツ認識サービスプロセッサに伝達することができる。デコーティングされた正常ファイルは、自動コンテンツ認識サービスプロセッサのメイン/MH/非実時間スイッチ419に伝達することができる。トランスポートプロトコルファイルは、ライブレコーディングスイッチ417の制御下に、トランスポートプロトコル/PESデコーダ420に伝達することができる。トランスポートプロトコル/PESデコーダ420は、トランスポートプロトコルファイルをデコーティングし、PSI/PSIPデコーダ421は、デコーティングされたトランスポートプロトコルファイルを再びデコーティングする。EPGハンドラー422は、デコーティングされたトランスポートプロトコルファイルを処理し、ATSCによってEPGサービスを処理することができる。
ATSC MHサービスプロセッサは、ATSC MHサービスデータを自動コンテンツ認識サービスプロセッサに送信するためにMH信号を処理することができる。より具体的に、MHベースバンドプロセッサ423は、ATSC MHサービスデータを送信に適したパルス波形に切り替えることができる。MH物理的適応プロセッサ424は、ATSC MHサービスデータをMH物理的階層に適した形態として処理することができる。
インターネットプロトコルスタック425は、MH物理的適応プロセッサ424から出力されたデータを受信し、インターネット送信/受信のための通信プロトコルによって処理することができる。ファイルハンドラー426は、インターネットプロトコルスタック425から出力されたデータを受信し、応用階層のファイルを処理することができる。ESGハンドラー427は、ファイルハンドラー426から出力されたデータを受信し、モバイルESGを処理することができる。また、第2記憶装置428は、ファイルハンドラー426から出力されたデータを受信し、ファイルオブジェクトを記憶することができる。また、インターネットプロトコルスタックモジュール425から出力されたデータの一部は、ATSCによるモバイルESGサービスの代わりに受信機の自動コンテンツ認識サービスのためのデータになり得る。この場合、ストリーミングハンドラー429は、RTP(real−time transport protocol)を通して受信されたリアルストリーミングを処理して自動コンテンツ認識サービスプロセッサに伝達することができる。
自動コンテンツ認識サービスプロセッサのメイン/MH/非実時間スイッチ419は、ATSCメインサービスプロセッサ及び/又はATSC MHサービスプロセッサから出力された信号を受信することができる。オーディオ/ビデオデコーダ430はメイン/MH/非実時間スイッチ419から受信された圧縮オーディオ/ビデオデータをデコーティングすることができる。デコーティングされたオーディオ/ビデオデータは、オーディオ/ビデオ処理モジュール431に伝達できる。
外部入力ハンドラー432は、外部入力を通して受信されたオーディオ/ビデオコンテンツを処理してオーディオ/ビデオ処理モジュール431に送信することができる。
オーディオ/ビデオ処理モジュール431は、オーディオ/ビデオデコーダ430及び/又は外部入力ハンドラー432から受信されたオーディオ/ビデオデータを処理してスクリーンに表示することができる。この場合、ウォーターマーク抽出器433は、オーディオ/ビデオデータからウォーターマークの形態で挿入されたデータを抽出することができる。抽出されたウォーターマークデータは、アプリケーション434に伝達することができる。アプリケーション434は、自動コンテンツ認識機能に基づくエンハンスメントサービスを提供し、放送コンテンツを確認し、そこに関連したエンハンスメントデータを提供することができる。アプリケーション434がエンハンスメントデータをオーディオ/ビデオ処理モジュール431に伝達すると、オーディオ/ビデオ処理モジュール431は、受信したオーディオ/ビデオデータを処理して画面に表示することができる。
図5は、本発明の一実施例に係る自動コンテンツ認識サービス処理システムの構造を示す図である。
より具体的に、図5は、受信機500がセットトップボックスのような外部装置の外部入力を通して地上波チャネルを受信すると、ウォーターマークを用いてプログラム情報を得るための動作を示す。
図5に示す自動コンテンツ認識サービス処理システムは、受信機500、CEサーバー501、放送局又はコンテンツプロバイダ502、アプリケーションサーバー503を含むことができる。受信機500は、オーディオ/ビデオプロセッサ510、ウォーターマーク抽出器520、応用モジュール530を含むことができる。オーディオ/ビデオプロセッサ510は、ウォーターマーキングマネジャー511を含むことができる。また、受信機500は自動コンテンツ認識機能を持つことができる。
オーディオ/ビデオプロセッサ510は、外部入力を通して受信したオーディオ/ビデオコンテンツをウォーターマーク抽出器520に伝達し、ウォーターマーク抽出器520は、オーディオ/ビデオコンテンツからウォーターマークの形態で挿入されたデータを抽出し、アプリケーションサーバー503に接続することができる。このとき、CEサーバー501は、ウォーターマーキング関連モジュール及びマイクロコードを管理することができる。
本発明の一実施例に係るマイクロコードとは、オーディオ/ビデオコンテンツに挿入されたウォーターマークを抽出するためのコードを指し、オーディオ/ビデオデコーダチップ及び/又は未加工データ処理チップによって動的にダウンロードすることができる。受信機は、必要によって、一つ又は複数のマイクロコードを圧縮及び記憶してもよく、ダウンロードインターフェースを介して一つ又は複数のマイクロコードをダウンロードしてもよい。ダウンロードインターフェースはチップ種類によって別々に具現されてもよい。
次に、図5に示した各構成要素の動作について説明する。
受信機500のウォーターマーク抽出器520は、オーディオコンテンツ又はビデオコンテンツからウォーターマークを抽出したり、オーディオコンテンツ及びビデオコンテンツを用いてウォーターマークを抽出することができる。抽出されたウォーターマークは、チャネル情報及び/又はコンテンツ情報を含むことができる。コンテンツ情報は、ATSC 2.0サービスで使われるコンテンツに関する情報を含むことができる。
応用モジュール530は、チャネルと関連したコンテンツ及び/又はウォーターマークから抽出されたチャネル情報及びコンテンツ情報に基づくメタデータを送信するためのチャネルに同調してコンテンツ情報を受信することができる。また、応用モジュール530は、インターネットプロトコルを通してチャネルと関連したコンテンツ及び/又はメタデータを受信することができる。本発明の一実施例によれば、チャネルは、ATSCメッセージハンドラーチャネルを含むことができる。
CEサーバー501は、ウォーターマーキングと関連したマイクロコード及び/又はソフトウェアを管理及び更新することができる。すなわち、CEサーバー501は、放送局500のプロトコルに基づいて関連のマイクロコード及び/又はソフトウェアを続けて追加、削除、又は更新することができる。受信機500から要求が受信されたり、又はCEサーバー501が更新されると、CEサーバー501は受信機500に、要求が受信されたりCEサーバー501が更新されたということを知らせ、新しいコードをダウンロードする。
ウォーターマーク抽出器520は、受信機500のチップ上で動作するマイクロコード又はソフトウェアモジュールとして具現することができる。新しいマイクロコード又はソフトウェアモジュールはCEサーバー501から続けてダウンロードすることができる。
図6乃至図8は、本発明の一実施例に係るETVサービス受信装置の構造を示す図である。
図6乃至図8は、ビデオデコーダ及び/又はオーディオデコーダのチップでマイクロコードに基づいて実時間でコンテンツに挿入されたウォーターマークを抽出し、ウォーターマークに基づいてコンテンツを認識する受信機の構造を示す。次に、本発明の実施例を、図6乃至図8を参照して説明する。
図6は、本発明の一実施例に係るETVサービス受信装置の構造を示す図である。
図6に示す本発明の一実施例に係るETVサービス受信装置は、リモコン600、リモコン受信器601、UI(user interface)モジュール602、ネットワークインターフェース603、マイクロコードダウンローダ604、ウェブブラウザ605、トリガープロセッサ606、マイクロプロセッサ607、マイクロコードインターフェース608、オーディオデコーダ609、ビデオデコーダ610、グラフィックプロセッサ611、アプリケーション612、スピーカ613、ディスプレイモジュール614、アンテナ615、チューナー616、復調器617、及び/又はシステムデコーダ618を含むことができる。システムデコーダ618は、MPEG−2 TSデコーダであってもよい。復調器617は、残留側波帯復調器又はDVB(digital video broadcasting)復調器であってもよい。それぞれのオーディオデコーダ609及びビデオデコーダ610は、マイクロコードインターフェース608を含むことができる。
図6に示すように、ETVサービス受信装置は、ビデオデコーダ又はオーディオデコーダのチップ上で実行されるマイクロコードを用いて、実時間で地上波を通して送信されるオーディオ/ビデオコンテンツからウォーターマークを抽出し、抽出されたウォーターマークをアプリケーションに送信し、エンハンスメントサービスを受信することができる。マイクロコードは、マイクロコードダウンローダ604を通して外部装置からダウンロードすることができる。マイクロコードは、マイクロコードインターフェース608を通してオーディオデコーダ609又はビデオデコーダ610のチップ上で動的にダウンロードできる。
次に、図6に示すETVサービス受信装置の構成要素間の動作について説明する。
リモコン受信器601は、リモコン600から赤外線を介して視聴者の要求信号を受信し、キーコードを用いてUIモジュール602に信号を送信することができる。UIモジュール602及び/又はリモコン受信器601は、ブラウザキーコードを用いてウェブブラウザ605に信号を伝達することができる。UIモジュール602を通過した信号は、グラフィックプロセッサ601に伝達できる。
チューナー616は、アンテナ615から受信した信号をチューニングし、復調器617は、チューニングされた信号の波形を復元することができる。デコーダ618は、復元された信号をデコーティングしてトリガープロセッサ606に伝達することができる。トリガープロセッサ606は、デコーティングされた信号をトリガーデータとしてウェブブラウザ605に送信することができる。
ウェブブラウザ605に伝達された信号がマイクロコードダウンローダ604に伝達されると、マイクロコードがダウンロードされ、マイクロコードインターフェース608に伝達されうる。マイクロコードインターフェース608を通過するマイクロコード及びデコーティングされた信号はそれぞれ、オーディオデコーダ609及びビデオデコーダ610に伝達されるオーディオ信号及びビデオ信号に分離できる。オーディオデコーダ609及びビデオデコーダ610のマイクロコードインターフェース608は、マイクロコードを用いてオーディオ/ビデオコンテンツに挿入されたウォーターマークを抽出することができる。
抽出されたウォーターマークはアプリケーション612に伝達でき、オーディオ信号はスピーカ613に伝達でき、ビデオ信号は、グラフィックプロセッサ611から受信されたグラフィック信号と共にディスプレイモジュール614に出力できる。
図7は、本発明の他の実施例に係るETVサービス受信装置の構造を示す図である。
図7に示す本発明の一実施例に係るETVサービス受信装置は、リモコン700、リモコン受信器701、UIモジュール702、ネットワークインターフェース703、マイクロコードダウンローダ704、ウェブブラウザ705、トリガープロセッサ706、マイクロプロセッサ707、マイクロコードインターフェース708、オーディオデコーダ709、ビデオデコーダ710、グラフィックプロセッサ711、アプリケーション712、スピーカ713、ディスプレイモジュール714、アンテナ715、チューナー716、復調器717、システムデコーダ718、オーディオ後処理プロセッサ&増幅器719、及び/又はビデオディスプレイプロセッサ720を含むことができる。本発明の一実施例によれば、システムデコーダ718としては、MPEG−2 TSデコーダを含むことができる。本発明の一実施例によれば、復調器717としては、残留側波帯復調器及び/又はDVB復調器を含むことができる。それぞれのオーディオ後処理プロセッサ&増幅器719及びビデオディスプレイプロセッサ720は、マイクロコードインターフェース708を含むことができる。
図7に示すように、ETVサービス受信装置は、オーディオデコーダやビデオデコーダのチップの代わりに後処理チップ上で実時間でマイクロコードを用いて、オーディオ/ビデオコンテンツに挿入されるウォーターマークを抽出することができる。本発明の一実施例によれば、後処理チップは、オーディオ後処理プロセッサ&増幅器719及びビデオディスプレイプロセッサ720を含むことができる。ETVサービス受信装置は、抽出されたウォーターマークを用いてオーディオ/ビデオコンテンツを自動で認識することができる。ETVサービス受信装置は、マイクロコードダウンローダ704を通して外部装置からマイクロコードをダウンロードすることができる。また、ETVサービス受信装置のオーディオ又はビデオ後処理チップは、マイクロコードインターフェース708を通してマイクロコードをダウンロードすることができる。
次に、図7に示すETVサービス受信装置の構成要素間の動作について説明する。
リモコン受信器701は、リモコン700から赤外線を介して視聴者の要求信号を受信し、キーコードを用いてUIモジュール702に、受信したた信号を送信することができる。UIモジュール702及び/又はリモコン受信器701は、ブラウザキーコードを用いてウェブブラウザ705に信号を伝達することができる。UIモジュール702を通過した信号は、グラフィックプロセッサ711に伝達できる。
チューナー716は、アンテナ715から受信した信号をチューニングし、復調器717は、チューニングされた信号の波形を復元することができる。デコーダ718は、復元された信号をデコーティングしてトリガープロセッサ706に伝達することができる。トリガープロセッサ706は、デコーティングされた信号をトリガーデータとしてウェブブラウザ705に送信することができる。
ウェブブラウザ705に伝達された信号がマイクロコードダウンローダ704に伝達されると、マイクロコードがダウンロードされ、オーディオ後処理プロセッサ&増幅器718のマイクロコードインターフェース708に及び/又はマイクロコードインターフェース708を通してビデオディスプレイプロセッサ720に伝達されうる。
デコーティングされた信号はそれぞれ、オーディオデコーダ709及びビデオデコーダ710に伝達されるオーディオ信号及びビデオ信号に分離できる。オーディオデコーダ709によってデコーティングされたオーディオ信号は、オーディオ後処理プロセッサ&増幅器719に伝達できる。ビデオデコーダ710によってデコーティングされたビデオ信号は、ビデオディスプレイプロセッサ720に伝達できる。
オーディオ後処理プロセッサ&増幅器719のマイクロコードインターフェース708及び/又はビデオディスプレイプロセッサ720のマイクロコードインターフェース708を通してオーディオ信号及び/又はビデオ信号を受信すると、オーディオ及び/又はビデオコンテンツに挿入されたウォーターマークを、マイクロコードを用いて抽出することができる。
抽出されたウォーターマークはアプリケーション712に伝達でき、オーディオ信号はスピーカ713に出力でき、ビデオ信号はディスプレイモジュール714に出力できる。
図8は、本発明のさらに他の実施例に係るETVサービス受信装置の構造を示す図である。
図8に示す本発明の一実施例に係るETVサービス受信装置は、リモコン800、リモコン受信器801、UIモジュール802、ネットワークインターフェース803、マイクロコードダウンローダ804、ウェブブラウザ805、トリガープロセッサ806、マイクロプロセッサ807、マイクロコードインターフェース808、オーディオデコーダ809、ビデオデコーダ810、グラフィックプロセッサ811、アプリケーション812、スピーカ813、ディスプレイモジュール814、オーディオ後処理プロセッサ&増幅器815、セットトップボックス817、外部入力ハンドラー818を含むことができる。外部入力ハンドラー818は、HDMI(high definition multimedia interface)を介して外部入力を受信することができる。
図8に示すように、ETVサービス受信装置は、オーディオ/ビデオコンテンツが地上波を通して送信されず、セットトップボックス817のような外部装置を通して受信されても、マイクロコードを用いてオーディオ/ビデオコンテンツを自動で認識し、ETVサービスを受信することができる。すなわち、オーディオ/ビデオコンテンツが外部装置から受信されると、ETVサービス受信装置は実時間でマイクロコードを用いてオーディオ/ビデオコンテンツからウォーターマークを抽出することができる。このとき、ビデオ又はオーディオ後処理チップは、マイクロコードインターフェース808を通してマイクロコードをダウンロードすることができる。抽出されたウォーターマークはアプリケーション812に伝達され、受信機は、ウォーターマークに含まれたデータを用いてエンハンスメントデータを取得することができる。本発明の一実施例によれば、後処理チップは、オーディオ後処理プロセッサ&増幅器815及び/又はビデオディスプレイプロセッサ816を含むことができる。
次に、図8に示したETVサービス受信装置の構成要素間の動作について説明する。
リモコン受信器801は、リモコン800から赤外線を介して視聴者の要求信号を受信し、キーコードを用いてUIモジュール802に、受信された信号を送信することができる。UIモジュール802及び/又はリモコン受信器801は、ブラウザキーコードを用いてウェブブラウザ805に信号を伝達することができる。ウェブブラウザ805に伝達された信号がマイクロコードダウンローダ804に伝達されると、ETVサービス受信装置は、マイクロコードをダウンロードしてマイクロコードインターフェース808に伝達することができる。UIモジュール802を通過した信号は、グラフィックプロセッサ811に伝達できる。
セットトップボックスを通して外部装置から受信された信号は、外部入力ハンドラー818を通してデコーティングされず、トリガープロセッサ806を通してトリガーデータとして処理され、ウェブブラウザ805に伝達できる。又は、外部入力ハンドラー818を通過した外部入力信号はそれぞれ、オーディオデコーダ809及びビデオデコーダ810に伝達されるオーディオ信号及びビデオ信号に分離できる。このとき、オーディオデコーダ809はオーディオ信号をデコーティングすることができる。
デコーティングされたオーディオ信号は、オーディオ後処理プロセッサ&増幅器815に伝達でき、デコーティングされたビデオ信号は、ビデオディスプレイプロセッサ816に伝達できる。オーディオ後処理プロセッサ&増幅器819及びビデオディスプレイプロセッサ816のマイクロコードインターフェース808は、マイクロコードを用いて、オーディオ及び/又はビデオコンテンツに挿入されたウォーターマークを抽出することができる。
抽出されたウォーターマークは、アプリケーション812に伝達でき、オーディオ信号はスピーカ813に出力でき、ビデオ信号はディスプレイモジュール814に出力できる。
図9は、本発明の一実施例に係るデジタルウォーターマーキング技術のフローを示す図である。
デジタルウォーターマーキングは、除去し難い方式でデジタル信号に情報を埋め込む過程である。例えば、信号は、音声、画面、又は映像でありうる。信号が複製されると、情報も複製された信号に乗せられる。一つの信号は同時に複数の異なったウォーターマークを乗せることができる。
視覚的ウォーターマーキングで、情報は画面又は映像において可視的である。一般に、情報は、メディアの所有者を確認するテキストやロゴである。TV放送局が、送信される映像の隅部にロゴを追加すると、これもまた視覚的ウォーターマークである。
視覚的ウォーターマーキングで、情報はデジタルデータとして音声、画面、又は映像に追加されるが、若干の情報が隠されているということを感知できても、その自体は認知されない。ウォーターマークは広く使われるためのものであるから、検索しやすくなっていてもよく、ある団体がデジタル信号に埋め込まれた秘密メッセージをやりとりするステガノグラフィの形態であってもよい。いずれの場合であれ、視覚的ウォーターマーキングと同様に、目的は、所有主や他の記述情報を除去し難い方式で信号に付けることである。隠された埋め込まれた情報を個人間の通信を切り替えるための手段として使用することもできる。
ウォーターマーキングの一つの応用としては、デジタルメディアの非承認複製を防止又は阻止するための著作権保護システムがある。この用途では、複製装置が複製前に信号からウォーターマークを検索し、ウォーターマークのコンテンツによって複製をするか否かを決定する。他の応用としては、ソース追跡がある。ウォーターマークは配布の度にデジタル信号に埋め込まれる。著作物の複製物が後で発見されると、ウォーターマークが複製物から検索され、配布のソースが知らされる。報道によれば、この技術は、不正に複製された映画のソースを見つけるために用いられてきた。
記述情報を持つデジタル写真のアノテーションは、視覚的ウォーターマーキングの更に他の応用である。
デジタルメディアに対するファイル形式の一部がメタデータと呼ばれる付加情報を含むことができるのに対し、デジタルウォーターマーキングは、データが信号自体で伝達されるという点で異なる。
一部の文脈でデジタルウォーターマークという語句がウォーターマーキングされた信号とカバー信号間の差異を意味することもあるが、埋め込まれる情報は、デジタルウォーターマークと呼ばれる。ウォーターマークが埋め込まれる信号は、ホスト信号と呼ばれる。
ウォーターマーキングシステムは、主に、埋め込み901、攻撃902、検出又は抽出903の3つの別個の段階に区別される。
埋め込み901で、アルゴリズムは、ホスト及び埋め込まれるデータを取り込み、ウォーターマーキングされた信号を生成する。
ウォーターマーキングされた信号は送信又は記憶されるが、主に他の人に送信される。この人が変更を加えると、これは攻撃902と呼ばれる。変更が悪意的でないこともあるが、攻撃というものは、著作権侵害者が変更によってデジタルウォーターマークを除去しようとする著作権保護アプリケーションから発生する。色々な変更がありうる。例えば、データの非可逆圧縮、イメージ又は映像のクロッピング、又は意図的に加える雑音などがありうる。
検出903は、攻撃された信号からウォーターマークを抽出するために、攻撃された信号に適用されるアルゴリズムである。信号が送信中に変更されなかった場合は、ウォーターマークは依然として存在し、抽出されることが可能である。堅固なウォーターマーキングアプリケーションでは、変更が強力であっても抽出アルゴリズムはウォーターマークを正しく生成できるはずである。脆弱なウォーターマーキングでは、信号にいかなる変更が加えられても抽出アルゴリズムは失敗するだろう。
埋め込まれた情報が数回の変形によって低下してもマーキングされた信号から確実に検出されることが可能であれば、デジタルウォーターマークは変形に対して堅固であるという。典型的なイメージ低下は、JPEG圧縮、回転(rotation)、クロッピング、付加的な雑音及び量子化である。ビデオコンテンツにおいて、一時的変更及びMPEG圧縮が主としてここに含まれる。ウォーターマーキングされたコンテンツが本来のウォーターマーキングされていないコンテンツと知覚的に同等であると、ウォーターマークは感知できないという。一般に、堅固なウォーターマークや感知できないウォーターマークは生成しやすいが、堅固で且つ感知できないウォーターマークは生成し難いと知られている。堅固で且つ感知できないウォーターマークは、デジタルコンテンツの保護のための道具、例えば、専門的なビデオコンテンツにおいて埋め込まれた「複製不許可」フラグとして提案された。
デジタルウォーターマーキング技術は、いくつかの方式に分類できる。
第一に、ウォーターマークは、若干の変形後に検出されないと脆弱であるという(堅固性)。脆弱なウォーターマークは通常、タンパー検出完全性立証のために使われる。明らかに明確な原著作物に加えた変形は、普通、ウォーターマークと呼ばれず、一般化したバーコードと呼ばれる。陽性変形には抵抗力があるが、悪性変形後には検出に失敗するウォーターマークは、やや脆弱であるという。やや脆弱なウォーターマークは、通常、悪性変形を検出するために使われる。指定された部類の変形に抵抗力があるウォーターマークは堅固であるという。堅固なウォーターマークは、複製物を伝達し、制御情報に接続するために、複製防止アプリケーションで用いることができる。
第二に、元来のカバー信号とマーキングされた信号とが知覚的に区別されないと(区別され難いと)、ウォーターマークは感知できないという(知覚性)。マーキングされた信号での存在が明らかであるが、非侵害的であると、ウォーターマークは感知できるという。
第三に、容量に関して、埋め込まれたメッセージの長さは、2種類の異なる主部類(main classes)のウォーターマーキング方式を決定する。
メッセージは概念上0ビットの長さを有し、システムは、マーキングされたオブジェクトからウォーターマークの存在有無を検出するために設計される。この種のウォーターマーキング方式は、主に、イタリック0ビット又はイタリック存在ウォーターマーキング方式と呼ばれる。しばしばこの種のウォーターマーキング方式は、1がウォーターマークの存在を示すため(0は不在)、1ビットウォーターマークと呼ばれる。
メッセージはnビット長のストリーム(n=|m|又はM={0,1}n)であり、ウォーターマークで変調される。この種の方式は主に、多重ビットウォーターマーキング又は非零ビットウォーターマーキング方式と呼ばれる。
第四に、埋め込み段階にはいくつかの方式がある。マーキングされた信号が付加的な変形によって得られると、ウォーターマーキング方法は帯域拡散と呼ばれる。帯域拡散ウォーターマークは適当に堅固であると知られているが、ホスト干渉によって低い情報容量を有すると知られている。マーキングされた信号が量子化によって得られると、ウォーターマーキング方法は、量子化タイプのものという。量子化ウォーターマークは低い堅固性を有するが、ホスト干渉の排除によって高い情報容量を有する。マーキングされた信号が帯域拡散法と類似の付加的な変形によって埋め込まれるが、特別に空間領域で埋め込まれると、ウォーターマーキング方法は振幅変調と呼ばれる。図10は、本発明の一実施例に係る自動コンテンツ認識クエリ結果フォーマットを示す図である。
既存の自動コンテンツ認識サービス処理システムによれば、放送局が実時間サービスのためのコンテンツとETVサービスのためのエンハンスメントデータを共に送信し、TV受信機がコンテンツとETVサービスを受信する場合、実時間サービスのためのコンテンツは受信できるが、エンハンスメントデータは受信できない。
この場合、本発明の一実施例によれば、インターネットプロトコルネットワークを用いた独立したインターネットプロトコルシグナリングチャネルを用いて既存の自動コンテンツ認識処理システムの問題を解決することができる。すなわち、TV受信機は、多チャネル放送事業者を通して実時間サービスのためのコンテンツを受信することができ、独立したインターネットプロトコルシグナリングチャネルを通してエンハンスメントデータを受信することができる。
この場合、本発明の一実施例によれば、インターネットプロトコルシグナリングチャネルは、PSIPストリームがバイナリストリームの形態で伝達及び処理されるように構成される。このとき、インターネットプロトコルシグナリングチャネルは、プル(pull)方法やプッシュ(push)方法を利用するように構成される。
プル方法のインターネットプロトコルシグナリングチャネルは、HTTP要求/応答方法によって構成されうる。HTTP要求/応答方法によれば、PSIPバイナリストリームは、HTTP要求信号に対するHTTP応答信号に含まれ、SignalingChannelURLを通して送信されうる。この場合、ポーリングサイクルは、自動コンテンツ認識クエリ結果として伝達されたメタデータでPolling_cycleによって周期的に要求されうる。また、更新される時間及び/又は周期に関する情報は、シグナリングチャネルに含まれて送信されうる。この場合、受信機は、インターネットプロトコルシグナリングチャネルから受信した更新時間及び/又は周期情報に基づいてサーバーにシグナリング情報を要求することができる。
プッシュ方法のインターネットプロトコルシグナリングチャネルは、XMLHTTPRequestアプリケーションプログラミングインターフェースを用いて構成されうる。XMLHTTPRequestアプリケーションプログラミングインターフェースが用いられると、サーバーから非同期で最新情報を受信することができる。これは、受信機にとっては、XMLHTTPRequestオブジェクトを通してサーバーに非周期的にシグナリング情報を要求する方法であり、サーバーにとっては、シグナリング情報が変更された場合は、要求に応答してこのチャネルを通してシグナリング情報を提供する方法である。セッションの待ち時間に制限があると、セッションタイムアウト応答が生成され、受信機はセッションタイムアウト応答を認識し、シグナリング情報を再び要求し、受信機とサーバー間でシグナリングチャネルを維持できる。
インターネットプロトコルシグナリングチャネルを通してエンハンスメントデータを受信するために、受信機はウォーターマーキングとフィンガープリンティングを用いて動作することができる。フィンガープリンティングは、コンテンツ購買者に関する情報をコンテンツプロバイダの代わりにコンテンツに挿入する技術のことを指す。フィンガープリンティングが用いられると、受信機は、コンテンツを確認するために参照データベースを検索することができる。コンテンツを確認した結果は、自動コンテンツ認識クエリ結果と呼ばれる。自動コンテンツ認識クエリ結果は、TV視聴者に提供されたクエリを含み、自動コンテンツ認識機能を実行するためにクエリの情報に対して対応することができる。受信機は、自動コンテンツ認識クエリ結果に基づいてETVサービスを提供することができる。
自動コンテンツ認識クエリ結果に関する情報は、ウォーターマーク基盤自動コンテンツ認識システム上でオーディオ/ビデオコンテンツに挿入/埋め込みされて送信されうる。受信機は、ウォーターマーク抽出器を通して自動コンテンツ認識クエリ結果情報を抽出及び取得した後、ETVサービスを提供することができる。この場合、ETVサービスを別途の自動コンテンツ認識サーバー無しで提供することができ、インターネットプロトコルネットワークを通したクエリは省略することができる。
図10は、本発明の一実施例に係る自動コンテンツ認識クエリ結果を示すXML方式の図である。図10に示すように、自動コンテンツ認識クエリ結果のXMLフォーマットは、結果コード部1010を含むことができ、自動コンテンツ認識クエリ結果タイプ1000は、コンテンツID部1001、NTP(network time protocol)タイムスタンプ部1002、シグナリングチャネル情報部1003、サービス情報部1004、その他識別子部1005を含むことができる。シグナリングチャネル情報部1003は、シグナリングチャネルURL部1013、更新モード部1023、ポーリングサイクル部1033を含むことができ、サービス情報部1004は、サービスネーム部1014、サービスロゴ部1024、サービス記述部1034を含むことができる。
次に、図10に示す自動コンテンツ認識クエリ結果のXML方式の図面を詳しく説明し、XML方式の例を説明する。
結果コード部1010は、自動コンテンツ認識クエリの結果値を示すことができる。これはクエリ成功又は失敗、クエリが失敗すると失敗理由をコード値の形態で示すことができる。例えば、結果コード部1010の値が200であれば、これはクエリが成功し、それに該当するコンテンツ情報が返還されたということを示す。結果コード部1010の値が404であれば、これは、コンテンツが発見されなかったということを示す。
コンテンツID部1001は、全世界的に唯一にコンテンツを識別するための識別子を示し、サービスを識別するための識別子であるグローバルサービス識別子部を含むことができる。
NTPタイムスタンプ部1002は、自動コンテンツ認識クエリに用いられるサンプルフレーム間隔の特定時点がNTPタイムスタンプの形態で提供されるということを示すことができる。ここで、特定時点は、サンプルフレームの始点又は終点であってもよい。NTPは、インターネットを通してコンピュータの時間をレファレンスクロックに合わせるためのプロトコルのことをいい、タイムサーバーとコンピューターネットワーク上に分配されたクライアント間の時間同期化のために用いることができる。NTPがUTC(universal time coordinated)時間を使用し、10msの正確度を保障することから、受信機はフレーム同期化動作を正確に処理することができる。
シグナリングチャネル情報部1003は、ETVサービスのためのインターネットプロトコルネットワーク上の独立したシグナリングチャネルのアクセス情報を示すことができる。
より具体的に、シグナリングチャネル情報部1003の下位部であるシグナリングチャネルURL部1013は、シグナリングチャネルのURL情報を示すことができる。シグナリングチャネルURL部1013は、更新モード部1023及びポーリングサイクル部1033を下位部として含むことができる。更新モード部1023は、インターネットプロトコルシグナリングチャネルを通して情報を取得する方法を示す。例えば、プルモードで、受信機は情報を取得するためにプル方法によって周期的にポーリングを行うことができ、プッシュモードで、サーバーはプッシュ方法によって受信機に情報を送信することができる。ポーリングサイクル部1033は、更新モード部1023がプルモードであればプル方法によって受信機の基本ポーリングサイクル値を示すことができる。そして、受信機は基本ポーリングサイクル値を特定し、任意時間間隔で要求信号をサーバーに送信することで、サーバーが要求によって過負荷となることを防止することができる。
サービス情報部1004は、放送チャネルに関する情報を示すことができる。コンテンツID部1001は、視聴者によって現在視聴されているサービスの識別子を示すことができ、サービス情報部1004は、放送チャネルに関する具体的な情報を示すことができる。例えば、サービス情報部1004が示す具体的な情報は、チャネル名、ロゴ、又はテキスト説明であってもよい。
より具体的に、サービス情報部1004の下位部であるサービスネーム部1014は、チャネル名を示すことができ、サービスロゴ部1024は、チャネルロゴを示すことができ、サービス記述部1034は、チャネルテキスト説明を示すことができる。
次に、本発明の一実施例に係る図10に示した自動コンテンツ認識クエリ結果の要素のXML概要を示す。
<xs:complexType name="ACR-ResultType">
<xs:sequence>
<xs:element name="ContentID" type="xs:anyURI"/>
<xs:element name="NTPTimestamp" type="xs:unsignedLong"/>
<xs:element name="SignalingChannelInformation">
<xs:complexType>
<xs:sequence>
<xs:element name="SignalingChannelURL" maxOccurs="unbounded">
<xs:complexType>
<xs:simpleContent>
<xs:extension base="xs:anyURI">
<xs:attribute name="UpdateMode">
<xs:simpleType>
<xs:restriction base="xs:string">
<xs:enumeration value="Pull"/>
<xs:enumeration value="Push"/>
</xs:restriction>
</xs:simpleType>
</xs:attribute>
<xs:attribute name="PollingCycle" type="xs:unsignedInt"/>
</xs:extension>
</xs:simpleContent>
</xs:complexType>
</xs:element>
</xs:sequence>
</xs:complexType>
</xs:element>
<xs:element name="ServiceInformation">
<xs:complexType>
<xs:sequence>
<xs:element name="ServiceName" type="xs:string"/>
<xs:element name="ServiceLogo" type="xs:anyURI" minOccurs="0"/>
<xs:element name="ServiceDescription" type="xs:string" minOccurs="0" maxOccurs="unbounded"/>
</xs:sequence>
</xs:complexType>
</xs:element>
<xs:any namespace="##other" processContents="skip" minOccurs="0" maxOccurs="unbounded"/>
</xs:sequence>
<xs:attribute name="ResultCode" type="xs:string" use="required"/>
<xs:anyAttribute processContents="skip"/>
</xs:complexType>
図11は、本発明の一実施例に係るコンテンツIDの構造を示す図である。
図11は、本発明の一実施例に係るATSC標準に基づくコンテンツIDの構文(syntax)構造を示す。ATSCコンテンツIDは、受信機によって受信したコンテンツを識別するための識別子として用いることができる。
ATSC Content Identifierは唯一の周期を有し、TSID(Transmitting Subscriber Identification)及びハウスナンバーで構成された構造である。ハウスナンバーは、ここに制約された通り、TSIDの保有者が所望するいずれかのナンバーである。ナンバーは、TSIDのそれぞれの値に対して唯一である。ATSC Content Identifier構造の構文は、図11に定義した通りである。
16ビットの符号無し整数フィールドであるTSIDは、transport_stream_idの値を含むだろう。米国においてこの値の割当権限はFCCにある。メキシコ、カナダ、米国に対する範囲は、これら国家間の公式協約によって設定された。他の地域の値は任意の権限によって設定される。
5ビットの符号無し整数であるend_of_dayフィールドは、放送日が終了するUTCでその日の時間と設定されるはずであり、暫くしてcontent_id値がunique_forによって再使用されうる。このフィールドの値は、0乃至23の範囲にあるだろう。このとき、このフィールドの値は放送局ごとに固定されると予想される。
9ビットの符号無し整数であるunique_forフィールドは、日数と設定され、最後桁の数が切り上げられ、content_id値が他のコンテンツに再割当されないend_of_dayが示す時間に関して測定される。その値は1乃至511の範囲にあるだろう。0は禁止されるだろう。511は「無期限」という特別な意味がある。このとき、このフィールドの値は、ハウスナンバリング方法が変更される時にのみ変更され、放送局ごとに本質的に固定されると予想される。また、デコーダは、unique_forフィールドが満了するまで、記憶されたcontent_valuesを唯一のものと取扱うことができ、これは、記憶された全てのunique_forフィールドが0になるまで、end_of_dayに毎日1ずつ減少させることによって実行できる。
可変長フィールドであるcontent_idフィールドは、ハウスナンバーシステムやTSIDの値のためのシステムによって識別子の値に設定できる。このような各値は、end_of_day及びunique_forフィールドの値によって設定された唯一期間内で他のコンテンツに割り当てることができない。当該識別子は、人が読み取りでき、及び/又は2進である値のいずれかの組合せになることができ、242バイトを越えないようにハウスナンバーの形態と完全に一致する必要はない。
図12は、本発明の一実施例に係るウォーターマーキングを用いた受信機の動作を示す図である。
本発明で、自動コンテンツ認識機能を支援するETVサービスを提供する方法として、ウォーターマーキングを用いた方法が提案される。図12は、ウォーターマーキングを用いて自動コンテンツ認識機能を実行する受信機のモジュール間の動作を示す図である。
図12に示すように、ウォーターマーキングを用いた受信機は、M/H受信モジュール1200、インターネットモジュール1201、記憶モジュール1202、外部入力モジュール1203、ウォーターマーク抽出モジュール1204、アプリケーションモジュール1205、オーディオ/ビデオ処理モジュール1206、表示モジュール1207を含むことができる。
図12に示すように、受信機は、ウォーターマークを用いてコンテンツプロバイダを認識し、認識されたコンテンツプロバイダによって提供されたエンハンスメントサービスを処理することができる。
本発明の一実施例に係る受信機において、ウォーターマーク抽出モジュール1204は、外部入力を通してM/H受信モジュール1200によって受信されたオーディオ/ビデオ信号からウォーターマークを抽出し、オーディオ/ビデオ信号に含まれたコンテンツ情報を取得することができる。本発明の一実施例に係るウォーターマークに含み得るコンテンツ情報については後述する。
抽出されたコンテンツ情報は、アプリケーションモジュール1205を通して視聴者に表示することができ、視聴者は、表示されたコンテンツ情報を用いてM/H又はインターネットを通してエンハンスメントサービスのためのエンハンスメントデータを選択的に受信することができる。
図12には示していないが、受信されたエンハンスメントデータは、自動コンテンツ認識サービスのために用いられる記憶モジュール1202に記憶させることができる。この場合、コンテンツ情報及びメタデータは、記憶モジュール1202に記憶され、記憶されたコンテンツ情報及びメタデータは、オーディオ/ビデオ再生時に、関連したエンハンスメントデータを受信するために用いることができる。又は、受信機は、コンテンツプロバイダに接続したり、オーディオ/ビデオ再生時にM/Hチューニングを通して新しくエンハンスメントデータを受信することができる。
次に、図12に示した各モジュールの動作を説明した後、ウォーターマークから抽出できるコンテンツ情報について説明する。
M/H受信モジュール1200は、M/H信号を通してコンテンツプロバイダからエンハンスメント情報を受信することができる。
インターネットモジュール1201は、インターネットを通してコンテンツプロバイダからエンハンスメント情報を受信することができる。
記憶モジュール1201は、オーディオ/ビデオ情報を含むデータ及び/又はコンテンツプロバイダから受信したエンハンスメントデータを記憶することができる。ウォーターマーク抽出モジュール1204がウォーターマークを抽出すると、ウォーターマークは特別メタデータとして表示され、記憶装置に記憶されうる。
外部入力モジュール1203は、外部入力を通してコンテンツプロバイダのオーディオ/ビデオ信号を受信することができる。
ウォーターマーク抽出モジュール1204は、外部入力モジュール1203によって受信されたオーディオ/ビデオ信号からウォーターマークを抽出することができる。コンテンツがTVの記憶装置に記憶された後に再生されると、ウォーターマークは再生時に抽出されうる。
アプリケーションモジュール1205は、オーディオ/ビデオ情報を含むデータ及び/又はコンテンツプロバイダから受信され、記憶モジュール1201に記憶されたエンハンスメントデータからウォーターマーク抽出モジュール1204によって抽出されたウォーターマークを受信し、ウォーターマークに関する情報を用いて、オーディオ/ビデオ情報を含むデータ及び/又はエンハンスメントデータを処理することができる。
オーディオ/ビデオ処理モジュール1206は、オーディオデコーダ及び/又はビデオデコーダを介してオーディオ/ビデオ信号をデコーティングして、アプリケーションモジュール1205から受信されたデータを処理する。
表示モジュール1207は、オーディオ/ビデオ処理モジュール1206によって処理されたデータをOSD(on screen display)方式で受信機の画面に表示することができる。
次に、本発明の一実施例に係るコンテンツ情報について説明する。
ウォーターマークを用いて抽出されたコンテンツ情報は、コンテンツプロバイダに関する情報を含むことができる。より具体的に、コンテンツ情報は、コンテンツプロバイダ又は放送局のID情報、コンテンツのID情報、コンテンツの時間に関する情報、コンテンツライフサイクル情報、及び/又はエンハンスメントデータに関する情報を含むことができる。本発明の一実施例に係るフィンガープリンティングを用いた自動コンテンツ認識サービスで、自動コンテンツ認識クエリ結果は、自動コンテンツ認識機能によって得られたコンテンツのためのメタデータとして用いることができる。
コンテンツプロバイダID情報は、コンテンツプロバイダ又は放送局を識別するための識別子を意味できる。本発明の一実施例によれば、コンテンツプロバイダID情報は一次識別子の役割を持つことができる。コンテンツプロバイダID情報は、製作者名及び製作者を識別するための一連番号及び/又は国家、地域、サービス特性(ジャンル)を識別するための一連番号の集合を含むことができる。本発明の一実施例によれば、ATSC PSIPのために用いられるTS−idは、コンテンツプロバイダID情報として用いることができる。
コンテンツID情報は、コンテンツプロバイダの代わりにコンテンツを識別するための識別子を意味することもできる。より具体的に、コンテンツID情報は、コンテンツ名及びコンテンツを識別するための一連番号及びコンテンツ特性(ジャンル)を識別するための一連番号の集合を含むことができる。本発明の一実施例によれば、ATSC PSIPのために用いられるevent−idは、コンテンツID情報として用いることができる。
コンテンツプロバイダID情報は、コンテンツID情報よりも高い頻度でウォーターマークに含まれ、より容易に抽出されるように構成すことができる。この場合、コンテンツプロバイダID情報は、より圧縮された情報又はより詳細な情報を含むことができる。
時間情報は、コンテンツと関連した時間情報を示すことができる。より具体的に、時間情報は、開始時刻、持続時間、終了時刻、及び/又は総サービス再生時間を示すリードタイムを含むことができる。本発明の一実施例によれば、時間情報はUTCやGPSに基づくし、ATSC PSIPのSTTのような他のフォーマットで構成することができる。また、時間情報は、同期化したウィジェットのようなサービスが提供される際、表示過程で同期化のために用いられてもよい。また、時間情報は、ケーブルや衛星PVR(personal video recorder)セットトップボックスによって再スケジューリングされるコンテンツのために用いられる。
コンテンツライフサイクル情報は、サービスが有効であるライフサイクルに関する情報を含む。
エンハンスメントデータに関する情報は、エンハンスメントデータの存在有無、ウォーターマークの使用、及び/又はエンハンスメントデータを受信する経路に関する情報を含むことができる。より具体的に、エンハンスメントデータに関する情報は、コンテンツプロバイダによって提供されるエンハンスメントデータの存在に関する情報、ウォーターマークが不正複製又は配布を防止するためのライセンス、視聴率調査、又は付加サービスのためのコンテンツプロバイダ承認のために用いられるかを示す情報を含むことができる。エンハンスメントデータを受信する経路に関する情報は、インターネットプロトコルネットワークが用いられるか否か又はモバイル機器のような他の媒体が用いられるか否かを示す情報を含むことができる。より具体的に、エンハンスメントデータがインターネットプロトコルネットワークを通して受信されると、インターネットプロトコルアドレス及び/又はURL情報を含むことができ、エンハンスメントデータがモバイル機器を通して受信されると、頻度情報、標準(ATSC MH、DMB、Media Flow、DVB−H、NGHなど)情報、及び/又はチャネル情報を含むことができる。
図13は、本発明の一実施例に係るウォーターマーク抽出過程を示す図である。
一般的なデジタルTV受信機のような受信機1320は、HDMI又はコンポーネント接続を通して受信機1320に装着されたケーブル又は衛星セットトップボックス1310からオーディオ/ビデオ信号を受信する。次に、図13に示す本発明の一実施例によって、ウォーターマークを抽出しコンテンツプロバイダを認識する動作をセットトップボックス1310及び受信機1320において段階的に説明する。
受信機1320の入力モードが外部入力モードに設定されると、受信機1320は、コンテンツプロバイダ又は放送局を識別するためのコンテンツプロバイダ識別子を検索することができる。セットトップボックス1310がオン状態になり、チャネルがチューニングされると、受信機1320は、コンテンツプロバイダ識別子を検出することができる。受信機1320は、検出されたコンテンツプロバイダによって提供されるコンテンツのコンテンツ識別子及び時間情報を検出することができる。セットトップボックス1310から受信されたサービスのチャネルが変更されると、セットトップボックス1310は、変更されたチャネルによるコンテンツプロバイダを識別するためのコンテンツプロバイダ識別子を新しく検索する。
図14は、本発明の一実施例に係るウォーターマーク情報のプロファイリングを示す図である。
図12及び13を参照して説明した通り、本発明の一実施例に係る受信機は、オーディオ/ビデオコンテンツに含まれたコンテンツプロバイダ情報を送信するためのウォーターマークを用いてコンテンツプロバイダを認識する。この場合、ウォーターマークに記憶された情報の量が増加すると、ウォーターマークの挿入されたオーディオ/ビデオコンテンツの質が低下することがある。そこで、本発明では、このような問題を解決するために、ウォーターマークに記憶された情報の属性によってウォーターマークをプロファイリング及びレベリングし、レベリングされたウォーターマークをオーディオ/ビデオコンテンツに挿入する方法を提案する。この場合、レベリングされたウォーターマークは、記憶された情報の属性によって区別されてオーディオ/ビデオコンテンツに挿入されるために、挿入されたウォーターマークに関する情報の量は、コンテンツの質が低下することを防止するために調節することができる。
したがって、本発明では、プロファイリングによってウォーターマークをレベリングするために、ウォーターマークを、ウォーターマークに記憶された情報の属性によって、基本プロファイルウォーターマークと拡張プロファイルウォーターマークとに区別できる。基本プロファイルウォーターマークは、自動コンテンツ認識機能を果たすために実時間放送プログラムを認識する上で基本的に必要な情報を含むことができる。拡張プロファイルウォーターマークは、自動コンテンツ認識機能を果たす上で基本的に必要な情報の代わりに付加情報を含むことができる。複数の拡張プロファイルウォーターマークが存在し、情報の属性によってさらにレベリングを行うことができる。この場合、基本プロファイルウォーターマークと拡張プロファイルウォーターマークは、互いに異なった周期でオーディオ/ビデオコンテンツに挿入できる。
図14は、前述したようにレベリングされたウォーターマークをオーディオ/ビデオコンテンツに挿入する過程を示す図である。
前述したように、コンテンツプロバイダ1400は、オーディオ/ビデオのような原信号1410を受信し、ウォーターマークが挿入される領域を検索し(1401)、提供されるコンテンツと関連したメタデータ1420をウォーターマークに埋め込むことができる(1402)。その後、コンテンツプロバイダ1400は、ウォーターマーキングされた信号1430を受信機に送信することができる。ウォーターマーキングされた信号1430で、原信号1410及びメタデータ1420はウォーターマークの形態で記憶されうる。一実施例で、図14のウォーターマークは、基本プロファイルウォーターマークW11440、並びに第1及び第2拡張プロファイルウォーターマークW2及びW31450及び1460を含むことができる。
基本プロファイルウォーターマーク1440は、コンテンツプロバイダ識別子部と拡張指示子を含むことができる。
コンテンツプロバイダ識別子部は、コンテンツを提供する放送局やコンテンツプロバイダを識別するための情報を示すことができる。
拡張指示子部は、次のレベルのウォーターマーク、すなわち、第1拡張プロファイルウォーターマーク1450がさらに挿入されるかを示す。拡張指示子部の値が1であれば、次のレベルの第1拡張プロファイルウォーターマーク1450が挿入されるということを示す。
第1拡張プロファイルウォーターマーク1450は、コンテンツ識別子部、タイムスタンプ部、拡張指示子部を含むことができる。
コンテンツ識別子部は、コンテンツ名やコンテンツを識別するための一連番号情報を示すことができる。
タイムスタンプ部は、コンテンツの時間情報を示す。
拡張指示子部は、前述したように、次のレベルのウォーターマーク、すなわち、第2拡張プロファイルウォーターマーク1460がさらに挿入されるかを示すことができる。図14に示すように、第2拡張プロファイルウォーターマーク1460は、ウォーターマーク挿入使用部、付加情報のURL部、拡張指示子部を含むことができる。
ウォーターマーク挿入使用部は、ウォーターマーク挿入使用に関する情報を示すことができる。
付加情報のURL部は、サービスを受けるための付加情報又はURL情報を示すことができる。
拡張指示子部は、次のレベルのウォーターマークが挿入されるかを示すことができる。
図14に示すように、コンテンツプロバイダや放送局は、レベリングされたウォーターマークがオーディオ/ビデオコンテンツに挿入されるとき、ウォーターマークプロファイリングによってオーディオ/ビデオコンテンツにウォーターマークを挿入する回数を区別することができる。例えば、基本プロファイルウォーターマーク1440が放送プログラムの重要な基本情報を含んでいるため、コンテンツプロバイダや放送局は、受信者ができるだけ迅速に情報を正確に認識するように基本プロファイルウォーターマークを挿入する回数を設定することができる。
すなわち、コンテンツプロバイダや放送局は、ウォーターマーキングされた信号1430の送信周期の間に、第1及び第2拡張プロファイルウォーターマーク1450及び1460よりも基本プロファイルウォーターマーク1440を多く挿入することができる。したがって、受信機は、優先的に基本プロファイルウォーターマーク1440を抽出した後、必要によって、拡張プロファイルウォーターマーク1450及び1460を抽出することができる。この場合、受信機は、拡張指示子部の値によって拡張プロファイルウォーターマークの存在を確認し、拡張プロファイルウォーターマークを抽出することができる。すなわち、受信機は、ウォーターマークのプロファイルによって差別的に挿入されたウォーターマークを差別的に抽出し、ウォーターマークに含まれた情報を効率的に記憶及び管理することができる。
以上、本発明の一実施例に係るウォーターマーキングを用いた自動コンテンツ認識サービスを提供する方法及びシステムについて説明した。以下では、本発明の一実施例によってコンテンツプロバイダ側でコンテンツにウォーターマークを埋め込む方法、及び受信機側でコンテンツからウォーターマークを抽出する方法について詳しく説明する。
コンテンツプロバイダ側でビデオフレームにウォーターマークを埋め込む方法、及び受信機側でコンテンツからウォーターマークを抽出する方法を、図15乃至17を参照して説明し、コンテンツプロバイダ側でオーディオフレームにウォーターマークを埋め込む方法、及び受信機側でコンテンツからウォーターマークを抽出する方法を、図18を参照して説明する。
図15は、本発明の一実施例に係るウォーターマークをビデオフレームに埋め込む方法を示す図である。
コンテンツプロバイダは、まず、一つのビデオフレーム1500をサブフレーム1501に細分化し、細分化されたサブフレーム1502を検索し、ウォーターマークが適切に埋め込まれる領域を決定する。ウォーターマークの埋め込まれるサブフレーム領域が決定されると、ウォーターマークがサブフレーム領域1510に埋め込まれ、サブフレームが結合して一つのビデオフレーム1520を再生成する。
受信機側で一つのビデオフレームの全体領域に埋め込まれたビデオフレームからウォーターマークを抽出するために、まず、受信機は、一つのビデオフレームをサブフレームに細分化する。ウォーターマークが埋め込まれていてもよい領域は、細分化したサブフレームから検出される。ウォーターマークは、検出されたサブフレーム領域から抽出され、これらの抽出されたウォーターマークは最終的に一つのウォーターマークを決定するために比較される。エンハンスメントデータを、決定されたウォーターマークによるコンテンツ情報を用いてダウンロードできる。
図16は、本発明の他の実施例に係るウォーターマークをビデオフレームに埋め込む方法を示す図である。
より具体的に、図16は、本発明の一実施例によってウォーターマークをビデオフレームのバー(bar)データ領域に埋め込む方法を示す。
ウォーターマークが一つのビデオフレームの全体領域に埋め込まれると、ウォーターマーキング堅固性は向上するが、受信機側でウォーターマークを抽出するために必要な処理が増加することがある。したがって、ビデオフレームの一部領域にウォーターマークを埋め込むことによって、受信機側でウォーターマークを抽出するために必要な処理を減少させ、受信機の動作効率を向上させることができる。ビデオフレームの全体領域のうち、ウォーターマークが埋め込まれる一部領域は、送信機/受信機の規則によってあらかじめ定めることもできる。その後、本発明の一実施例によれば、コンテンツプロバイダは、ビデオフレームの全体領域の一部であるバーデータ領域にウォーターマークを埋め込むことができる。
コンテンツプロバイダが受信機にコンテンツを送信する際、コンテンツの映像比(image ratio)が送信フォーマットと合わないと、バーデータ領域1600がスクリーン上に生成されることがある。例えば、図16に示すように、16:9の画面比を有するビデオフレームを4:3の画面比に切り替える場合、スクリーンの左縁及び右縁を切り取らないために、4:3の画面比を有するスクリーンの上縁及び下縁に黒い帯を生成してもよい。黒い帯の領域が、レターボックス(letter box)と呼ばれるバーデータ領域1600となり得る。
図16に示すように、バーデータ領域1600が存在するビデオフレームの場合は、ウォーターマークがバーデータ領域1600に埋め込まれて送信されてもよい。ウォーターマークをバーデータ領域に埋め込む方法は、図15を参照して説明したウォーターマークをビデオフレームに埋め込む過程と同一にすればよい。
より具体的に、コンテンツプロバイダは、ウォーターマークの埋め込まれるビデオフレームのバーデータ領域1600を検索し(1610)、ウォーターマークをバーデータ領域1600に埋め込む(1620)。
ビデオフレームの一部領域に埋め込まれたウォーターマークを抽出するために、まず、受信機は、一つのビデオフレームをサブフレームに細分化する。ウォーターマークが埋め込まれていてもよい領域は、細分化したサブフレームから検出される。図16に示す本発明の一実施例によれば、受信機は、細分化したサブフレームからバーデータ領域を検出する。ウォーターマークは、検出されたサブフレーム領域から抽出され、これらの抽出されたウォーターマークは最終的に一つのウォーターマークを決定するために比較される。エンハンスメントデータは、決定されたウォーターマークによるコンテンツ情報を用いてダウンロードできる。
図17は、本発明のさらに他の実施例に係るウォーターマークをビデオフレームに埋め込む方法を示す図である。
より具体的に、図17は、他のコンテンツ情報(又は、メタデータ)を含む複数のウォーターマークを一つのビデオフレームの異なる領域に埋め込む方法を示す。
例えば、図17に示すように、コンテンツプロバイダ識別子情報を含むウォーターマークはスクリーンの右上側に位置しているロゴ領域1700に埋め込み、コンテンツ識別子及びタイムスタンプ情報を含むウォーターマークは、同スクリーンの中央領域1701に埋め込むことができる。
異なるコンテンツ情報を含む複数のウォーターマークを一つのビデオフレームに埋め込む方法は、本発明の一実施例によって、2種類の方法に大別できる。
複数の異なるウォーターマークは、ビデオフレームの異なった領域1700及び1701に埋め込むことができる。このとき、ウォーターマークが埋め込まれるビデオフレームの2以上の領域1700及び1701は、送信機/受信機の規則によってあらかじめ定めることができる。
又は、ビデオフレームの異なった領域1700及び1701に関する情報を含む別途のウォーターマークがまず埋め込まれてもよい。コンテンツ情報を含むウォーターマークが埋め込まれる互いに異なる領域1700及び1701は、別途のウォーターマークを用いて検出でき、それぞれのウォーターマークを領域1700及び1701に埋め込むことができる。別途のウォーターマークは、ビデオフレームの特定領域又はロゴ部分に埋め込むことができ、送信機/受信機の規則によってあらかじめ定めることができる。
受信されたビデオフレームが領域によって異なるコンテンツ情報を有するウォーターマークを含むと、受信機は、まず、他の経路を通して又は送信機/受信機の規則によって、ウォーターマークの埋め込まれる領域に関する情報を取得する。取得した情報を用いて、ウォーターマークはビデオフレームの各領域から抽出される。図17に示す本発明の一実施例によれば、コンテンツプロバイダに関する情報を含むウォーターマークは、ロゴ領域1700から抽出でき、コンテンツ識別子及び時間情報を含むウォーターマークはスクリーンの中央領域1701から抽出できる。又は、抽出されたウォーターマークから互いに異なるウォーターマークを抽出するための情報(例えば、ウォーターマークが埋め込まれた領域に関する情報)が含まれると、その情報を用いて互いに異なるウォーターマークを抽出することができる。
図18は、本発明の一実施例に係るウォーターマークをオーディオフレームに埋め込む方法を示す図である。
より具体的に、一つのウォーターマークをオーディオフレームに埋め込む過程を示す。
原オーディオ信号は一定の長さを有するフレームに分離され(1800)、分離されたオーディオフレームはサブフレームに細分化する(1801)。細分化したサブフレームを用いて、ウォーターマークの埋め込まれる領域が検索される(1802)。例えば、人の耳に敏感な4kHzを越える周波数帯域が検索され、これをウォーターマーク埋め込み領域として決定することができる。ウォーターマークは、検索された領域に埋め込まれ(1803)、サブフレームが一つのオーディオ信号に再結合する(1803)。
また、本発明の一実施例によれば、複数のウォーターマークが、図18に示したウォーターマーク埋め込み過程に基づいてオーディオ信号に埋め込まれてもよい。埋め込み方法は、ウォーターマークを2つ以上の互いに異なる周波数帯域にそれぞれ埋め込み、サブフレームを一つのオーディオ信号に再結合する方法と、一つのウォーターマークを連続したオーディオフレームに埋め込み、残りのウォーターマークを互いに異なる周波数帯域に埋め込む方法と、を含むことができる。
前述した本発明の実施例によれば、ウォーターマークの埋め込まれたオーディオ信号が受信されると、受信機は、オーディオ信号からウォーターマークを抽出するために、まず、オーディオ信号を一定の長さを有するフレームに分離できる。分離されたフレームはサブフレームに細分化でき、ウォーターマーク抽出領域をサブフレームから検出することができる。ウォーターマークは、検出された領域から抽出される。複数のウォーターマークがオーディオ信号に埋め込まれると、ウォーターマークを、送信機/受信機の規則によって定められた2つ以上の周波数帯域で受信されたオーディオ信号から抽出することができる。又は、一つのウォーターマークは、連続したオーディオフレームから抽出され、残りのウォーターマークは、送信機/受信機の規則によって定められた互いに異なる周波数帯域の信号から抽出されてもよい。また、図15乃至18を参照して説明したウォーターマークを埋め込む方法の本発明の一実施例によれば、ウォーターマークを、オーディオコンテンツとビデオコンテンツの両方に埋め込むことができる。
同一のコンテンツ情報を含むウォーターマークをオーディオフレームとビデオフレームの両方に埋め込むことができれば、同一のウォーターマークを所定の周期でオーディオフレームとビデオフレームに反復して埋め込むことができる。このような方法によれば、受信機は、ウォーターマークの埋め込まれたビデオフレーム及びオーディオフレームから同一のウォーターマークを同時に抽出できるため、ウォーターマーク抽出結果の正確度を上げ、最終的に正確な結果を得るためにかかる時間を削減することができる。
又は、ウォーターマークは、ウォーターマークに含まれたコンテンツ情報によって分離でき、分離されたウォーターマークは、ビデオフレームとオーディオフレームに埋め込むことができる。例えば、ウォーターマークに含まれたコンテンツ情報は、コンテンツプロバイダ識別子やコンテンツ識別子のような放送プログラムを認識するための必須情報と付加情報とに分離される。必須情報はビデオフレームに埋め込まれ、付加情報はオーディオフレームに埋め込まれる。逆に、必須情報はオーディオフレームに埋め込まれ、付加情報はビデオフレームに埋め込まてれもよい。一つのビデオフレーム又はオーディオフレームに埋め込まれる情報の量は制限されるため、このような方法を用いてウォーターマークが埋め込まれると、所定時間に埋め込まれるメタデータの量を増加させることができる。
図19は、本発明の一実施例に係るプロファイリングされたウォーターマークを埋め込む方法を示す図である。
図14を参照して説明した通り、ウォーターマークに記憶されたコンテンツ情報の量が増加するほどオーディオ/ビデオコンテンツの質が低下するため、ウォーターマークに記憶された情報の種類によってウォーターマークがレベリングされると、コンテンツの質を維持しながらウォーターマークを効率的に利用することができる。
本発明の一実施例によれば、ウォーターマークに記憶された情報の属性によってウォーターマークがプロファイリングされると、所定周期の間にコンテンツフレームにウォーターマークを埋め込む回数を異なるように設定できる。
例えば、ウォーターマークに記憶された情報は放送プログラムを認識するための必須情報と付加情報、又は短い変更周期を有する情報と長い変更周期を有する情報に区別できる。必須情報及び/又は短い変更周期を有する情報を含むウォーターマークを所定周期の間にフレームに埋め込む回数は増加させることができ、付加情報及び/又は長い変更周期を有する情報を含むウォーターマークを所定周期の間にフレームに埋め込む回数は減少させることができる。
より具体的に、図19に示すように、コンテンツプロバイダ識別子やコンテンツ識別子のようなプログラムを認識するために必要な情報を含むウォーターマークは、ロゴ領域1900に埋め込むことができ、URL情報のような付加情報を含むウォーターマークは、フレームの他の特定領域1901に埋め込むことができる。この場合、ロゴ領域1900のウォーターマークはプログラムを認識するために必要なデータであるから、全てのビデオフレーム1910,1920,1930に埋め込むことができ、付加情報を提供するためのフレームの特定領域1901のウォーターマークは、2つのフレーム1910,1930に1回埋め込むことができる。
図20及び図21は、本発明の一実施例に係るウォーターマークを埋め込み及び抽出する方法を示す図である。
図20は、本発明の一実施例に係るウォーターマークを連続したフレームに埋め込む方法を示す図である。
図21は、本発明の一実施例に係る連続したフレームに挿入されたウォーターマークを抽出する方法を示す図である。
一つのオーディオ/ビデオフレームに埋め込み可能なコンテンツ情報の量は制約している。図20及び図21に示す本発明の一実施例によれば、ウォーターマークは多量のコンテンツ情報を含むことができる。
図20に示すように、コンテンツプロバイダは、コンテンツ情報を含むウォーターマークを連続したフレームに埋め込むことができる。コンテンツの情報の開始及び終了を示すために、コンテンツ情報の開始情報を示す開始タグ2001及び終了タグ2002をコンテンツ情報に埋め込んだ後、コンテンツ情報はサブコンテンツ情報2003に分離される。サブコンテンツ情報2003を含むウォーターマークはそれぞれ連続したオーディオ/ビデオフレーム2000に埋め込むことができる。また、所定周期の間にウォーターマークを連続したオーディオ/ビデオフレーム2000に反復して埋め込むと、受信機は、ウォーターマークを効率的に抽出することができる。
図21に示すように、受信機は、ウォーターマークの埋め込まれた連続したフレームからウォーターマークを抽出することができる。まず、受信機は、連続したオーディオ/ビデオフレームに埋め込まれたウォーターマークを抽出する。コンテンツ情報の開始タグ2101及び終了タグ2102は、抽出されたウォーターマークから検出することができる。コンテンツ情報の開始情報が開始タグ2101から取得されると、サブコンテンツ情報2103を得るために、開始タグ2101が検出された後、受信されたオーディオ/ビデオコンテンツからウォーターマークが抽出され、取得されたサブコンテンツ情報2103は結合される。コンテンツ情報の終了情報が終了タグ2102から取得されると、一つのコンテンツ情報を取得するためにサブコンテンツ情報2103を結合する過程が終わる。
図22は、本発明の一実施例に係るウォーターマークを3次元ビデオフレームに埋め込む方法を示す図である。
フル3次元(full 3D)ビデオ映像は、2つのカメラを用いて左映像と右映像を得、左眼が左映像を見るようにし、右眼が右映像を見るようにすることによって具現することができる。本発明では、3次元ビデオフレームにウォーターマークを埋め込み、3次元ビデオフレームからウォーターマークを抽出する方法が提案される。
図22に示すように、3次元ビデオフレームは、左フレーム2200と右フレーム2201を含むことができる。コンテンツプロバイダは、コンテンツ情報(又は、メタデータ)2202を左フレーム2200及び右フレーム2201に埋め込み、ウォーターマークが埋め込まれた左フレーム(以下、ウォーターマーキングされた左フレームという。)2203及びウォーターマークの埋め込まれた右フレーム(以下、ウォーターマーキングされた右フレームという。)2204を生成できる。
標準画質又は高画質イメージを生成して送信することができる。
第一に、コンテンツプロバイダは、ウォーターマークを左フレーム2200又は右フレーム2201のいずれか一方にのみ埋め込み、ウォーターマーキングされた左フレーム及び右フレームを受信機に送信することができる。受信機は、ウォーターマーキングされた左フレーム2203又はウォーターマーキングされた右フレーム2204からウォーターマークを抽出することができる。この場合、図15乃至17を参照して説明した通り、ウォーターマークをビデオフレームに埋め込む方法及びウォーターマークをビデオフレームから抽出する方法を適用することができる。ウォーターマーキングされたビデオフレームは、送信機/受信機の規則によってあらかじめ定めることができる。
第二に、コンテンツプロバイダは、同一のコンテンツ情報を含むウォーターマークを左フレーム2200又は右フレーム2201に埋め込み、ウォーターマーキングされた左フレーム及び右フレームを受信機に送信することができる。受信機は、ウォーターマーキングされた左フレーム2203又はウォーターマーキングされた右フレーム2204からウォーターマークを抽出することができる。ウォーターマークが同一であるか、又はウォーターマーク間のズレが許容誤差範囲内にあると、抽出されたウォーターマークは比較されて修正されうる。この場合、図15乃至図17を参照して説明した方法は、ウォーターマークを左フレーム2200又は右フレーム2201に埋め込む方法及び埋め込まれたウォーターマークを抽出する方法に適用することができる。ウォーターマークを、同一の方法又は異なる方法を用いて左フレーム2200又は右フレーム2201に埋め込むことができる。このような方法は、受信機がウォーターマークを抽出する際に複雑度を増加させるが、ウォーターマーク抽出堅固性は増大することができる。
第三に、コンテンツプロバイダは、互いに異なるウォーターマークを左フレーム2200又は右フレーム2201に埋め込み、ウォーターマーキングされた左フレーム及び右フレームを受信機に送信することができる。受信機は、ウォーターマーキングされた左フレーム2203又はウォーターマーキングされた右フレーム2204からウォーターマークを抽出することができる。抽出されたウォーターマークは一つのコンテンツ情報を含むことができる。又は、抽出されたウォーターマークに含まれたコンテンツ情報は結合して一つの新しいコンテンツ情報を生成することができる。後者の場合、一つのビデオフレームを通して送信可能なコンテンツ情報の量よりも多いコンテンツ情報をビデオフレームに埋め込むことができる。又は、ビデオフレームに含み得るコンテンツ情報は分離されて左フレーム2200又は右フレーム2201に埋め込まれてもよい。この場合、映像の質が低下する可能性を減らすことができる。
図23は、本発明の一実施例に係る自動コンテンツ認識サービス提供システムの構造を示す図である。
より具体的に、図23は、本発明の一実施例によってウォーターマーキング及びフィンガープリンティング技術の両方を用いて放送コンテンツを認識する自動コンテンツ認識サービス提供システムを示す。
ウォーターマーキングでは、一つのフレームに埋め込まれたコンテンツの認識率は高いが、多量のコンテンツ情報がウォーターマークに埋め込まれるとコンテンツの質が低下することがある。すなわち、埋め込まれるメタデータの量に制約がある。
フィンガープリンティングでは、コンテンツの質は影響を受けないが、コンテンツを認識するための自動コンテンツ認識サーバーが必要である。コンテンツを認識するためにかかる時間とコンテンツ認識結果がレファレンスセットの大きさに依存する。
図23に示す本発明の一実施例によれば、放送コンテンツがウォーターマーキング及びフィンガープリンティング技術の組合せによって認識されると、両技術の問題点を解決する一方で効率的に自動コンテンツ認識サービスを提供することができる。
本発明は、両技術を用いて現在視聴中の放送プログラムを認識する方法を含む。コンテンツプロバイダ又は放送局の識別子のようなプログラムを認識するために用いられ、最も正確に認識される必要があるメタデータは、放送オーディオ/ビデオコンテンツに埋め込んで送信することができる。
次に、図23に示した自動コンテンツ認識サービス提供システムの構成要素間のメカニズムについて詳しく説明する。
コンテンツプロバイダ2300がウォーターマーキングされたオーディオ/ビデオコンテンツ及びエンハンスメントデータを多チャネル放送事業者2301に送信すると(2310及び2330)、受信機2303は、セットトップボックス2302を通してオーディオ/ビデオコンテンツは受信するが、エンハンスメントデータは受信できない(2320)。そのため、受信機2303が他の経路を通じてエンハンスメントデータを受信できるようにするために、コンテンツプロバイダ2300は、オーディオ/ビデオコンテンツの付加情報を自動コンテンツ認識サーバー2304に送信し(2340)、エンハンスメントデータをアプリケーションサーバー2305に送信することができる(2350)。オーディオ/ビデオコンテンツの付加情報は、オーディオ/ビデオコンテンツと関連したエンハンスメントデータを受信機2303に伝達するための情報であってもよく、コンテンツ識別子、タイムスタンプ、URLなどを含むことができる。
受信機2303のウォーターマーク抽出器2306は、受信されたオーディオ/ビデオコンテンツからウォーターマークを抽出でき、同時にフィンガープリント抽出器2307はオーディオ/ビデオコンテンツからフィンガープリントシグネチャーを抽出することができる。受信機2303は、ウォーターマークに含まれたコンテンツ情報を含むクエリとフィンガープリントシグネチャーを自動コンテンツ認識サーバー2304に送信し(2360)、自動コンテンツ認識サーバー2304からオーディオ/ビデオコンテンツの付加情報を取得することができる(2360)。その後、受信機2303は、オーディオ/ビデオコンテンツの付加情報を用いてアプリケーションサーバー2305からエンハンスメントデータを受信することができる(2380)。ウォーターマーキング結果をクエリに含めることによって、自動コンテンツ認識サーバーでコンテンツを認識するためにかかる時間を減らすことができ、自動コンテンツ認識サーバーのコンテンツ認識正確度を向上させることができる。
図24は、本発明の一実施例に係る放送局ロゴを用いて自動コンテンツ認識サービスを提供する方法を示す図である。
図25は、本発明の一実施例に係る放送局ロゴを示す図である。
図26は、本発明の一実施例に係る放送局ロゴを用いた自動コンテンツ認識サービスを示す図である。
コンテンツプロバイダ(又は、放送局)は、自身のロゴを表すコンテンツを有する。例えば、コンテンツプロバイダは、図25に示すロゴを有することができる。放送局又はコンテンツプロバイダは、コンテンツを表示するために、図26に示すスクリーンの右上側、左側上、右下側、又は左下側にロゴを挿入する。スクリーンに表示されたビデオシーン(video scene)が変更されても、ロゴは変更されないまま表示し続けられる。本発明では、ロゴの特性を用いてスクリーンの特定部分に表示し続けられる情報を自動で認識する自動コンテンツ認識サービス方法を提案する。
図24に示すように、本発明の一実施例によれば、自動コンテンツ認識サービスを提供するためにウォーターマークをロゴに挿入できる。受信機はロゴを認識し、ロゴを表すコンテンツプロバイダ情報を取得し、サービスを受けるためにコンテンツプロバイダに接続できる。これで、自動コンテンツ認識サービスを提供することができる。その後、ロゴを用いて自動コンテンツ認識サービスを提供する方法について詳しく説明する。
まず、受信機は、ロゴ認識段階2401及びロゴ比較段階2402によってロゴ情報を取得することができる。受信機は、コンテンツプロバイダ情報を比較結果として取得してコンテンツプロバイダを認識し(2403)、コンテンツプロバイダサーバーに接続する(2404)。コンテンツの付加情報をコンテンツプロバイダサーバーから受信し(2405)、付加サーバーに提供することができる(2406)。
受信機のロゴ認識段階2401及びロゴ比較段階2402は、受信機によって認識されたロゴと受信機にあらかじめ記憶されたコンテンツプロバイダのロゴとを比較することによって実行できる。
記憶されたロゴに関する情報は、インターネットプロトコルネットワークやMHを通して受信機で受信及び記憶された情報、又は受信機に記憶されたデフォルト情報である。ロゴの新しいバージョン情報を維持することができる。インターネットプロトコルネットワークやMHを通して受信された情報の場合、新しいロゴ情報はインターネットプロトコルネットワークやMHを通して連続してロゴ情報を受信することによって維持でき、デフォルト情報の場合、新しいロゴ情報は、連続した更新によって維持できる。
ロゴ比較段階2402で認識されたロゴを受信機に記憶された全てのロゴ情報と比較すると、情報の量が多い。そのため、受信機に負担となる。本発明の一実施例によれば、抽出、記憶、比較をロゴの具体的な特性に基づいて実行できるため、このような制約を克服することができる。例えば、比較のために、ロゴ色、文字(SBS、CNNなど)、輪郭のようなロゴの特性を認識することができる。輪郭を用いると、ロゴが表示される領域が座標によって区別され、座標特性を用いてロゴを認識することができる。
図27は、本発明の一実施例に係るロゴ及びウォーターマークを用いた自動コンテンツ認識サービス提供方法を示す図である。
図27に示すように、自動コンテンツ認識サービスで、受信機は、ロゴ情報2701又はウォーターマーク2702を抽出してコンテンツプロバイダに関する情報を得ることができ、インターネットプロトコルネットワークやMHを通してコンテンツプロバイダによって提供される付加サービスを受けることができる。
前述したように、ウォーターマークがコンテンツに埋め込まれると、そのコンテンツのデータは変更されることがある。そこで、本発明では、コンテンツに含まれたロゴ領域にウォーターマークを埋め込む方法を提案する。
次に、図27に示す本発明の一実施例に係る自動コンテンツ認識サービスのために受信機側でロゴ情報及びウォーターマークを活用する方法について詳しく説明する。
前述したように、本発明の一実施例に係る受信機は、コンテンツが再生される際、オーディオ/ビデオフレームデータの特定フィールドに挿入された特定アルゴリズムによって所定量のコンテンツ情報を含むウォーターマークを抽出及び活用することができる。例えば、秒当たり30フレームを含むビデオコンテンツを受信する受信機は、Mフレームから各フレームの特定フィールド又は特定位置に該当するNビットのデータを含むウォーターマークを抽出することができる。この場合、抽出されたウォーターマークデータの総量は、N*Mビットとなり得る。ウォーターマーキングされたフレームの数が増加すると、抽出されるウォーターマークデータの量が増加する。そのため、受信機側でウォーターマークを抽出のためにかかる時間が増加し、受信機によって処理されるオーディオ/ビデオコンテンツの質が低下することがある。
したがって、本発明では、ウォーターマークをビデオフレームに含まれたロゴ領域に埋め込む方法を提案する。全てのビデオフレームに含まれるロゴ領域は、再生スクリーンが変更されてもスクリーン上の同一位置で表示される。したがって、データの量が多くとも、ウォーターマークがロゴ領域に埋め込まれると、ウォーターマークを抽出のためにかかる時間を減らすことができ、オーディオ/ビデオコンテンツの質が低下する可能性を減らすことができる。
次に、本発明の一実施例によってウォーターマークをロゴに埋め込む方法を説明する。本発明の一実施例によってウォーターマークをロゴに埋め込む方法は、バーコードデータをロゴの所定位置に埋め込む方法、ロゴ情報のメタデータパケットをウォーターマークとして活用する方法、ウォーターマークをロゴのイメージデータの一部に埋め込む方法を含むことができる。
バーコードデータをロゴの所定位置に埋め込む方法では、受信機は、特定位置にあるバーコードデータをウォーターマークとして認識することができる。この場合、バーコードデータは表示されない。
ロゴ情報のメタデータパケットをウォーターマークとして活用する方法では、ロゴのイメージデータの原形態は維持されながらロゴを表現するメタデータパケットはウォーターマークとして用いられる。この場合、メタデータパケットは、コンテンツプロバイダ識別子、コンテンツ識別子、時間情報などを含むことができる。
ウォーターマークをロゴ情報に埋め込む方法では、N個のロゴフレームがロゴのイメージデータの一部のビットを用いて結合し、N個のウォーターマークビットがロゴイメージデータに埋め込まれる。この場合、ウォーターマークに含まれたコンテンツ情報又はメタデータは、前述した通りである。
図28は、本発明の他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。
図28は、ロゴ及びウォーターマークを用いて自動コンテンツ認識サービスを処理するシステムであって、図27とは違い、ビデオコンテンツからロゴデータを抽出する方法を用いて、ロゴデータを認識し、ロゴデータが示すコンテンツプロバイダに関する情報を認識するシステムを示す。図28の自動コンテンツ認識サービス処理システムは、セットトップボックス2800、端末2801、ロゴサーバー2802、メタデータサーバー2803、アプリケーションルックアップサーバー2804、及び/又はアプリケーションサーバー2805を含むことができる。本発明の一実施例に係る受信機は、セットトップボックス2800、端末2801、ロゴサーバー2802を含んだり、メタデータサーバー2803、アプリケーションルックアップサーバー2804、アプリケーションサーバー2805のうち少なくとも一つを含むことができるが、これは設計者の意図によって変更されてもよい。
図28に示すように、ロゴ及びウォーターマークを用いた自動コンテンツ認識サービス提供装置は、セットトップボックス2800、端末2801、ロゴサーバー2802、メタデータサーバー2803、アプリケーションルックアップサーバー2804、及び/又はアプリケーションサーバー2805を含むことができる。ここで、ロゴサーバー2802、メタデータサーバー2803、アプリケーションルックアップサーバー2804、及び/又はアプリケーションサーバー2805は、端末に内部構成要素として内蔵されてもよく、又は端末と別個に提供されてもよい。
本発明の一実施例に係る自動コンテンツ認識サービス受信装置(受信機)は、セットトップボックス2800、端末2801、ロゴサーバー2802を含んだり、メタデータサーバー2803、アプリケーションルックアップサーバー2804、アプリケーションサーバー2805のうち少なくとも一つを含むことができるが、これは設計者の意図によって変更されてもよい。
より具体的に、図28は、本発明の一実施例に係る受信機がセットトップボックス2800を通して放送コンテンツを受信すると、ロゴデータ及びウォーターマークを用いて、放送コンテンツと関連した付加データ(又は、エンハンスメントデータ)を受信する受信機の構成要素間の関係を示している。ロゴデータは、コンテンツプロバイダを示し、コンテンツの特定領域に表示される放送局エンブレム(emblem)のようなロゴイメージに該当する。次に、図28に示した構成要素を説明する。
端末2801は、セットトップボックス2800を通して受信した放送コンテンツの未加工データのビデオフレームからロゴデータを認識及び抽出することができる。本発明の一実施例に係るロゴデータは、コンテンツの特定領域に表示されるロゴイメージに該当する。端末2801は、抽出したロゴデータ及びチャネル情報検索信号をロゴサーバー2802に送信し、コンテンツが送信されるチャネルのチャネル情報を、ロゴサーバー2802から受信することができる。本発明の一実施例に係るチャネル情報検索信号は、抽出されたロゴデータに基づいて生成することができ、要求構文であってもよい。また、本発明の一実施例に係るチャネル情報は、ロゴデータが示すコンテンツプロバイダを示す情報を含むことができる。また、端末2801は、放送コンテンツのオーディオフレームからウォーターマークを抽出して放送コンテンツのプログラム情報を取得することができる。本発明の一実施例に係るプログラム情報は、コンテンツ識別子情報及び/又は時間情報を含むことができる。
端末2801は、取得したチャネル情報及び/又はプログラム情報を用いてURLアドレス及び/又はインターネットプロトコルアドレスを取得するための要求を生成することができる。端末2801は、アプリケーションルックアップサーバー2804に要求を送ってURLアドレス及び/又はインターネットプロトコルアドレスを取得でき、取得したURLアドレス及び/又はインターネットプロトコルアドレスを用いてアプリケーションサーバー2805に接続し、コンテンツの付加データを受信することができる。
ロゴサーバー2802は、メタデータサーバー2803からロゴデータに関連したメタデータを受信し、メタデータをデータベースに記憶させて管理することができる。メタデータは、ロゴデータが示しているコンテンツのチャネル情報を含むことができる。
ロゴサーバー2802は、端末2801からロゴデータ及びチャネル情報検索信号を受信し、受信したロゴデータに関連したチャネル情報をデータベースから検索することができる。
本発明の一実施例に係るロゴサーバー2802は、受信したロゴデータを、データベースにあらかじめ記憶されたロゴデータと比較し、受信したロゴデータが示すコンテンツプロバイダを確認することができる。より具体的に、ロゴサーバー2802は、受信したロゴデータが、データベースに記憶されたロゴデータと同一であるか否か判断できる。本発明の一実施例に係るロゴサーバー2802は、図24を参照して説明した通り、ロゴデータに該当するロゴイメージ、ロゴイメージ色、テキスト、及び/又は輪郭を比較し、受信したロゴデータに該当するロゴイメージがデータベースに記憶されたロゴデータのロゴイメージと同一であるか否かを判断できる。
受信したロゴデータがデータベースに記憶されたロゴデータと同一であれば、受信したロゴデータが示すコンテンツプロバイダは、データベースに記憶されたロゴデータが示すコンテンツプロバイダと同一である。したがって、ロゴサーバー2802は、同一のデータベースに記憶されたロゴデータに関連したメタデータを、データベースから受信したロゴデータとして取得することができる。前述したように、メタデータはチャネル情報を含むことができる。
ロゴサーバー2802は、ロゴデータに関連したメタデータのチャネル情報を端末2801に送ることができる。チャネル情報がロゴサーバー2802のデータベースに存在しないと、ロゴサーバー2802は、メタデータサーバー2803からチャネル情報を受信することができる。
メタデータサーバー2803は、ロゴデータに関連したメタデータを更新することができる。より具体的に、メタデータサーバー2803は、メタデータを追加、更新、及び/又は削除し、周期的に更新されたメタデータをロゴサーバー2802のデータベースに送ってロゴサーバー2802のデータベースを更新することができる。メタデータサーバー2803は、コンテンツプロバイダ(放送局又は第三者)によって管理され、端末2801は製造社(受信機メーカー)又はSDP(service delivery platform)サーバーによって管理されるようにすることができるが、これは設計者の意図によって変更されてもよい。
アプリケーションルックアップサーバー2804は、端末2801から受信した要求を分析し、要求に含まれたチャネル情報及び/又はプログラム情報を取得することができる。分析結果から、アプリケーションルックアップサーバー2804は、チャネル情報及び/又はプログラム情報に該当するコンテンツのためのアプリケーションが存在するか否かを判断することができる。コンテンツのためのアプリケーションが存在すると、アプリケーションルックアップサーバー2804は、アプリケーションサーバー2805のURLアドレス及び/又はインターネットプロトコルアドレスを端末2801に送ることができる。
アプリケーションサーバー2805は、アプリケーションに関連したコンテンツ及び/又はデータのためのアプリケーションを管理することができる。
前述した通り、端末2801は、ロゴデータ及びウォーターマークを用いて要求を生成し、生成された要求に応じて、アプリケーションルックアップサーバーからURLアドレス及び/又はインターネットプロトコルアドレスを受信することができる。その後、端末2801は、受信したURLアドレス及び/又はインターネットプロトコルアドレスを用いてアプリケーションサーバー2805に接続してアプリケーションをダウンロードすることができる。アプリケーションサーバー2805は、受信機によってダウンロードされたアプリケーションを管理することができる。その後、受信機は、アプリケーションを用いてコンテンツの付加データを受信することができる。
受信機がオーディオ信号に接続できず、オーディオフレームに挿入されたウォーターマークを抽出できない場合は、本発明の一実施例に係る端末2801は、ビデオフレームから抽出されたロゴデータのみを用いて要求を生成することができる。より具体的に、本発明の一実施例に係る端末2801は、ロゴデータを通して取得したチャネル情報を含む要求をアプリケーションルックアップサーバー2804に送ることができる。本発明の一実施例に係る要求は、HTTPプロトコルを用いることができる。アプリケーションルックアップサーバー2804は、HTTPのヘッダーに含まれたデータフィールド値を用いて受信した要求の時間情報を確認することができる。その後、アプリケーションルックアップサーバー2804は、チャネル情報及び/又は時間情報を用いて端末2801によって接続可能なアプリケーションのURLアドレス及び/又はインターネットプロトコルアドレスを検索し、受信機に送ることができる。その後、受信機は、URLアドレス及び/又はインターネットプロトコルアドレスを通して付加データを受信することができる。
受信機がオーディオ信号に接続できず、オーディオフレームに挿入されたウォーターマークを抽出できない場合は、本発明の一実施例に係る端末2801は、ビデオフレームに含まれたシンボルデータを用いて要求を生成することができる。本発明の一実施例に係るシンボルデータは、スクリーン上に表示されるシンボルイメージに該当し、コンテンツに関連したプログラムを示すことができる。より具体的に、シンボルデータがビデオフレームに含まれると、端末2801はシンボルデータを抽出し、ロゴデータ及びシンボルデータを用いて要求を生成することができる。シンボルデータを用いる自動コンテンツ認識サービスシステムについては後述する。
受信機がビデオ信号に接続できず、ビデオフレームに挿入されたウォーターマークを抽出できない場合は、本発明の一実施例に係る端末2801は、オーディオフレームから抽出されたウォーターマークのみを用いて要求を生成することができる。端末2801は、ウォーターマークから取得した情報を含む要求を生成してアプリケーションルックアップサーバー2804に送ることができる。その後、アプリケーションルックアップサーバー2804は、受信した要求を用いて、端末2801によって接続可能なアプリケーションのURLアドレス及び/又はインターネットプロトコルアドレスを検索し、受信機に送ることができる。その後、受信機は、URLアドレス及び/又はインターネットプロトコルアドレスを通して付加データを受信することができる。
図29は、本発明の一実施例に係るロゴ及び/又はウォーターマークを用いた自動コンテンツ認識サービス提供装置の動作の概念を示す図である。
図29は、図28を参照して説明したロゴ及びウォーターマークを用いて自動コンテンツ認識サービスを提供する自動コンテンツ認識サービス提供装置の動作、すなわち、端末2901、ロゴサーバー2902、メタデータサーバー2903、アプリケーションルックアップサーバー2904、アプリケーションサーバー2905間の動作の概念を示す。以下、構成要素間の動作について説明する。
まず、端末2901は、ビデオフレームからロゴデータを抽出することができる。その後、端末2901は、前述したように、ロゴデータ及びチャネル情報検索信号をロゴサーバー2902に送ることができる。
ロゴサーバー2902は、端末の要求信号に応じてチャネル情報を検索し、検索されたチャネル情報を端末2901に送信することができる。
メタデータサーバー2903は、ロゴデータに関連したメタデータを周期的に更新し、更新されたメタデータをロゴサーバー2902に送ることができる。メタデータサーバー2903は、ロゴデータを受信する前又はロゴデータを受信した後にメタデータを更新することができる。
また、端末2901は、オーディオフレームからウォーターマークを抽出し、ウォーターマークからプログラム情報を取得することができる。本発明の一実施例に係る端末2901は、ビデオフレームからロゴデータを抽出する過程及びオーディオデータからウォーターマークを抽出する過程を同時に又は順次に実行できるが、これは設計者の意図によって変更可能である。
その後、端末2901は、ロゴデータから抽出されたチャネル情報及び/又はウォーターマークから抽出されたプログラム情報を用いて要求を生成することができる。端末2901は当該要求をHTTPプロトコルを用いてアプリケーションルックアップサーバー2904に送ることができる。
アプリケーションルックアップサーバー2904は、受信した要求を分析し、チャネル及び/又はプログラムの付加データを提供可能なアプリケーションのURLアドレス及び/又はインターネットプロトコルアドレスを検索し、URLアドレス及び/又はインターネットプロトコルアドレスを端末2901に送ることができる。
端末2901は、受信したURLアドレス及び/又はインターネットプロトコルアドレスを通してアプリケーションサーバー2905に接続し、アプリケーションをダウンロードすることができる。ダウンロードされたアプリケーションは、アプリケーションサーバー2905で管理でき、付加データは、ダウンロードされたアプリケーションを通して端末2901に伝送できる。
図30は、本発明のさらに他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。
図30は、図29を参照して説明した動作による自動コンテンツ認識サービス処理システムを示すもので、このシステムは、セットトップボックス、端末、ロゴサーバー、メタデータサーバー、アプリケーションルックアップサーバー、及び/又はアプリケーションサーバーを含むことができる。端末は、ロゴ抽出器3001及び/又はウォーターマーク抽出器3002をさらに含むことができる。図30に示すように、ビデオフレームに含まれたロゴデータに該当するロゴイメージ3000は、表示されたコンテンツの特定部分に含まれてもよい。図28及び29を参照して説明した通り、端末は、要求3003をアプリケーションルックアップサーバーに送ることができる。図30に示す基本構成要素は、図28を参照して説明したそれと同一であり、図28を参照して説明したものと同一の構成要素の動作については説明を省略する。
図30に示すように、端末は、独立した経路を通じてセットトップボックスから受信した放送信号に含まれたビデオ信号及びオーディオ信号を処理することができる。以下、端末に含まれたロゴ抽出器3001及び/又はウォーターマーク抽出器3002を中心に説明する。
ロゴ抽出器3001は、ビデオフレームから、ロゴイメージ3000に該当するロゴデータを自動で認識及び抽出することができる。より具体的に、ロゴ抽出器3001は、ビデオフレームの特定領域を認識し、特定領域に位置しているロゴデータを抽出することができる。ロゴ抽出器3001は、イメージ処理によって抽出されたロゴデータに該当するロゴイメージ3000を認識することができる。
端末は、ロゴサーバーがロゴ抽出器3001によって抽出されたロゴデータをロゴサーバーのデータベースに記憶されたロゴデータと比較するように、抽出されたロゴデータをロゴサーバーに送ることができる。その詳細な比較方法は、図28を参照して説明した通りである。抽出されたロゴデータに該当するロゴイメージ3000が、ロゴデータに記憶されたロゴイメージと同一であれば、ロゴサーバーは、ロゴデータのチャネル情報を検索して端末に送ることができる。本発明の一実施例によれば、チャネル情報は、「チャネル番号(主−副)」−「短縮番号」の形式で示すことができる。
ロゴサーバーは、メタデータサーバーから更新されたロゴデータを周期的に受信し、ロゴサーバーのデータベースを続けて更新することができる。ロゴデータのチャネル情報がロゴサーバーのデータベースに現在存在していなければ、ロゴサーバーは、メタデータサーバーからチャネル情報を受信することができる。
ウォーターマーク抽出器3002は、オーディオフレームに挿入されたウォーターマークを認識及び抽出することができる。オーディオフレームに挿入されたウォーターマークは、コンテンツ識別子情報及び/又は時間情報を含むプログラム情報を含むことができ、図12を参照して説明したコンテンツ識別子情報及びコンテンツライフサイクル情報をさらに含むことができるが、これは設計者の意図によって変更されてもよい。したがって、ウォーターマーク抽出器3002は、抽出されたウォーターマークからプログラム情報を取得することができる。
端末は、オーディオフレームのウォーターマークから抽出されたプログラム情報及びビデオフレームのロゴデータから抽出されたチャネル情報を用いて要求を生成し、アプリケーションルックアップサーバーに送ることができる。
本発明の一実施例に係る要求3003は、チャネル情報、プログラム情報、アプリケーションサーバーのURLアドレスの組合せで構成することができる。図30では、本発明の一実施例に係る要求3003である「http://www.ohtv.org?ch=7−1−KBS2HD&ContentID=12−2345&...」を示している。
図30に示す要求は、チャネル情報及びプログラム情報をパラメータの形態で示す要求である。「http://www.ohtv.org?」は、アプリケーションルックアップサーバー2904のURLアドレスを表すことができ、「ch=7−1−KBS2HD&」は、チャネル情報を表すことができ、「ContentID=12−2345&...」は、プログラム情報を表すことができる。
アプリケーションルックアップサーバーは、端末から受信された要求のパラメータを用いて付加データを取得できるアプリケーションのURLアドレス及び/又はインターネットプロトコルアドレスを検索し、検索結果を端末に送ることができる。
図31は、本発明のさらに他の実施例に係る自動コンテンツ認識サービス処理システムを示す図である。
図31は、ロゴデータ及びシンボルデータを用いて生成された要求を用いて付加データを受信するための自動コンテンツ認識サービス処理システムを示す。図31に示す自動コンテンツ認識サービス処理システムは、図30と同様に、セットトップボックス、端末、ロゴサーバー、メタデータサーバー、アプリケーションルックアップサーバー、及び/又はアプリケーションサーバーを含むことができる。図31の自動コンテンツ認識サービス処理システムは、シンボル抽出器3102及び/又はコンテンツメタデータサーバー3103をさらに含むことができる。
図31に示す基本構成は、図28及び30を参照して説明したそれと同一であり、それに関する説明は省略する。以下、シンボル抽出器3102及び/又はコンテンツメタデータサーバー3103を中心に説明する。
図31に示すように、シンボル抽出器3102を端末に内蔵することができる。コンテンツメタデータサーバー3103は、端末に内蔵されてもよく、端末と別個として位置してもよいが、これは設計者の意図によって変更可能である。図31に示すように、シンボルイメージ3100及び/又はロゴイメージ3101が、表示されたコンテンツの特定領域に含まれてもよい。
図28を参照して説明した通り、本発明の一実施例に係る受信機がオーディオ信号に接続すると、端末は、ビデオフレームに含まれたシンボルデータを取得し、ロゴデータ及びシンボルデータを用いて要求を生成することができる。
より具体的に、図31に示す端末のシンボル抽出器3108は、ビデオフレームからシンボルイメージ3100に該当するシンボルデータを抽出し、イメージ処理方法を用いて抽出されたシンボルデータに該当するシンボルイメージ3100を認識することができる。その後、端末は、認識されたシンボルイメージ3100又はシンボルイメージ3100に該当するシンボルデータをコンテンツメタデータサーバー3103に送ることができる。
コンテンツメタデータサーバー3103は、シンボルイメージ3100が示すプログラムのプログラム情報を取得して端末に送ることができる。コンテンツメタデータサーバー3103は、メタデータサーバーからシンボルイメージ3100に関連したプログラム情報を含むメタデータを受信し、データベースに記憶、及び管理することができる。コンテンツメタデータサーバー3103は、プログラム情報を得るためにコンテンツメタデータサーバー3103のデータベースを通して検索し、プログラム情報がデータベースに存在しないと、メタデータサーバーからプログラム情報を受信することができる。前述したように、本発明の一実施例に係るプログラム情報は、コンテンツ識別子情報及び/又は時間情報を含むことができる。プログラム情報を含むメタデータは、メタデータサーバーによって追加、訂正、更新、及び/又は削除することができる。更新されたメタデータは、コンテンツメタデータサーバー3103のデータベースに周期的に送ることができる。
図31に示すように、端末は、ビデオフレームからロゴデータを抽出することができる。図30を参照して説明した通り、端末に含まれたロゴ抽出器は、ビデオフレームからロゴイメージ3103に該当するロゴデータを抽出してロゴサーバーに送り、ロゴサーバーからロゴデータのチャネル情報を受信することができる。
前述したロゴ抽出器及びシンボル抽出器3102の動作は、順次に又は同時に実行できるが、これは、設計者の意図によって変更されてもよい。端末は、シンボルデータを用いて取得したプログラム情報及び/又はロゴデータを用いて取得したチャネルプログラムを含む要求を生成することができる。生成された要求を用いて端末で付加データを受信する方法は、図29を参照して説明した通りであり、その説明は省略する。
図32は、本発明の一実施例に係る自動コンテンツ認識サービス受信装置を示す図である。
図32に示すように、本発明の一実施例に係る自動コンテンツ認識サービス受信装置は、受信モジュール3201、抽出モジュール3202、比較モジュール3203、取得モジュール3204、及び/又は生成モジュール3205を含むことができる。
図32に示す受信モジュール3201、抽出モジュール3202、取得モジュール3204、及び/又は生成モジュール3205は、図28乃至31を参照して説明した端末2801に内蔵され、図32に示す比較モジュール3203は、図28乃至31を参照して説明したロゴサーバー2802に内蔵されうるが、これは、設計者の意図によって変更されてもよい。次に、図32のモジュールを説明する。
受信モジュール3201は、コンテンツを含むデジタルサービス信号を受信することができる。また、受信モジュール3201は、コンテンツの付加データを受信するためのURLアドレス及び/又はインターネットプロトコルアドレスを受信することができる。URLアドレス及び/又はインターネットプロトコルアドレスを受信する詳細な過程は、図28乃至図31を参照して説明した通りである。
抽出モジュール3202は、受信したコンテンツの各ビデオフレームに含まれたロゴデータを抽出することができる。ロゴデータは、図28乃至図31を参照して説明した通り、ビデオフレームの特定領域に含まれ、コンテンツの特定領域に表示されたロゴイメージに該当する。抽出モジュール3202は、ビデオフレームの特定領域からウォーターマークを抽出することができる。本発明の一実施例で、ビデオフレームから抽出されたウォーターマークは、チャネル情報及び/又はプログラム情報を含むことができる。
比較モジュール3203は、抽出モジュール3202によって抽出されたロゴデータを、自動コンテンツ認識サービス受信装置3200に記憶されたロゴデータと比較することができる。抽出されたロゴデータを記憶されたロゴデータと比較する詳細な方法は、図28乃至図31を参照して説明した通りである。
取得モジュール3204は、比較モジュール3203の比較結果を用いて、ロゴデータに関連したメタデータからチャネル情報を取得することができる。取得モジュール3204は、受信モジュール3201によって受信されたURLアドレス及び/又はインターネットプロトコルアドレスを用いてコンテンツの付加データを取得することができる。
生成モジュール3205は、取得モジュール3204によって取得したチャネル情報を用いて要求を生成することができる。図28乃至図31を参照して説明した通り、生成モジュール3205は、取得したロゴデータのチャネル情報及び/又はオーディオフレームに含まれたウォーターマークのプログラム情報を用いて要求を生成することができる。オーディオフレームに接続できない場合は、生成モジュール3205は、ビデオフレームに含まれたシンボルデータ又は取得したロゴデータのチャネル情報のみを用いて要求を生成することができる。ビデオフレームに接続できない場合は、生成モジュール3205は、オーディオフレームに含まれたウォーターマークのプログラム情報のみを用いて要求を生成することができる。
受信モジュール3201は、生成モジュール3205が生成した要求を用いてURLアドレス及び/又はインターネットプロトコルアドレスを受信することができる。取得モジュール3204は、受信モジュール3201によって受信されたURLアドレス及び/又はインターネットプロトコルアドレスによってインターネットプロトコルネットワークを通して付加データを取得することができる。
図32には示していないが、本発明の一実施例に係る自動コンテンツ認識サービス受信装置3200は、ウォーターマーク抽出モジュール、プログラム情報取得モジュール、シンボル抽出モジュール、処理モジュール、及び/又は更新モジュールをさらに含むことができる。ウォーターマーク抽出モジュール、プログラム情報取得モジュール、及び/又はシンボル抽出モジュールは、図28乃至図31を参照して説明した端末2801に含めることができる。処理モジュールは、図28乃至図31を参照して説明した端末2801又はコンテンツメタデータサーバー3103に含めることができる。更新モジュールは、図28乃至図31を参照して説明した端末2801又はメタデータサーバー2803に含めることができる。但し、これは設計者の意図によって変更されてもよい。
本発明の一実施例に係るウォーターマーク抽出モジュールは、受信モジュール3201によって受信されたコンテンツのオーディオフレームからウォーターマークを抽出することができる。その後、プログラム情報取得モジュールは、抽出されたウォーターマークに含まれたプログラム情報を取得することができる。図28を参照して説明した通り、本発明の一実施例に係るプログラム情報は、コンテンツ識別子情報及び/又は時間情報を含むことができる。端末側でオーディオフレームからウォーターマークを抽出する詳細な方法は、図30を参照して説明した通りである。
シンボルデータがビデオフレームに含まれると、本発明の一実施例に係るシンボル抽出モジュールは、ビデオフレームからシンボルデータを抽出することができる。その後、本発明の一実施例に係るプログラム情報取得モジュールは、抽出されたウォーターマークからプログラム情報を取得することができる。シンボルデータは、各ビデオフレームの特定領域に含むことができる。シンボル抽出モジュール及び/又はプログラム情報取得モジュールの具体的な動作は、図31を参照して説明した通りである。
本発明の一実施例に係る更新モジュールは、ロゴデータに関連したメタデータを周期的に更新することができる。図28乃至図31を参照して説明した通り、メタデータサーバー2803は、メタデータルックアップサーバー2804に記憶されたロゴデータを続けて追加、更新、及び/又は削除することができる。
図33は、本発明の一実施例に係る自動コンテンツ認識サービス送信装置を示す図である。
図33に示すように、本発明の一実施例に係る自動コンテンツ認識サービス送信装置は、生成モジュール3301、挿入モジュール3302、及び/又は送信モジュール3303を含むことができる。
生成モジュール3301は、コンテンツを含むデジタルサービス信号を生成することができる。より具体的に、本発明の一実施例によって生成されたコンテンツは、ビデオコンテンツとオーディオコンテンツの両方を含むことができる。生成モジュール3301は、オーディオフレーム及び/又はビデオフレームに挿入されるウォーターマークを生成することができる。生成モジュール3301は、コンテンツのプログラムを示すシンボルデータを生成することができる。
挿入モジュール3302は、ロゴデータをコンテンツの各ビデオフレームに挿入できる。より具体的に、ロゴデータは、各ビデオフレームの同一の特定領域に挿入され、コンテンツの特定領域に表示されたロゴイメージに該当する。
また、挿入モジュール3302は、ウォーターマークをオーディオフレーム及び/又はビデオフレームに挿入できる。より具体的に、挿入モジュール3302は、オーディオフレーム及び/又はビデオフレームをサブフレームに分離し、分離されたサブフレームから、ウォーターマークの挿入される特定サブフレームを検出することができる。その後、挿入モジュール3302は、ウォーターマークを特定サブフレームに挿入し、サブフレームを結合してオーディオフレーム及び/又はビデオフレームを生成することができる。
挿入モジュール3302は、生成モジュール3301によって生成されたシンボルデータをコンテンツの各ビデオフレームの特定領域に挿入することができる。
送信モジュール3303は、挿入モジュール3302でロゴデータ及び/又はウォーターマークが挿入されたコンテンツを含むデジタルサービス信号を、図32を参照して説明した自動コンテンツ認識サービス受信装置3200に送信することができる。本発明の一実施例に係るロゴデータは、図32を参照して説明した取得モジュール3204でチャネル情報を受信するために用いることができる。本発明の一実施例に係るチャネル情報は、図32を参照して説明した受信モジュール3201でURLアドレス及び/又はインターネットプロトコルアドレスを受信するために用いることができる。
図34は、本発明の一実施例に係る自動コンテンツ認識サービス受信過程を示す図である。
本発明の一実施例に係る受信モジュール3201は、コンテンツを含むデジタルサービス信号を受信することができる(S3401)。前述したように、受信モジュール3201は、図28乃至図32を参照して説明した端末2801に含まれうる。より具体的に、図28を参照して説明した通り、端末2801は、セットトップボックス2800を通して受信した放送コンテンツの未加工データのビデオフレームからロゴデータを認識することができる。
本発明の一実施例に係る抽出モジュール3202は、受信したコンテンツの各ビデオフレームの特定領域からロゴデータを抽出できる(S3402)。前述したように、抽出モジュール3202は、図28乃至図32を参照して説明した端末2801に内蔵されうる。
より具体的に、図30を参照して説明した通り、端末のロゴ抽出器3001は、イメージ処理によってビデオフレームからロゴデータを抽出することができる。ロゴデータは、図28乃至図31を参照して説明した通り、ビデオフレームの特定領域に含まれ、コンテンツの特定領域に表示されたロゴイメージに該当し得る。
本発明の一実施例に係る端末2801は、オーディオフレームでウォーターマークを抽出し、抽出されたウォーターマークを用いてプログラム情報を取得することができる。抽出されたウォーターマークは、プログラム情報を含むことができる。図28を参照して説明した通り、本発明の一実施例に係るプログラム情報は、コンテンツ識別子情報及び/又は時間情報を含むことができる。端末側でオーディオフレームからウォーターマークを抽出する具体的な方法は、図30を参照して説明した通りである。
本発明の一実施例に係る端末2801は、各ビデオフレームの特定領域からシンボルデータを抽出することができる。その後、端末2801は、抽出されたシンボルデータを処理してプログラム情報を取得することができる。シンボルデータは、図31を参照して詳細に説明したプログラム情報を含むことができる。
図28乃至図31を参照して説明した通り、本発明の一実施例に係る端末2801は、各ビデオフレームの特定領域からシンボルデータを抽出することができる。本発明の一実施例でビデオフレームから抽出されたウォーターマークは、チャネル情報及び/又はプログラム情報を含む。
本発明の一実施例に係る比較モジュール3203は、抽出されたロゴデータを、ロゴサーバー2802のデータベースに記憶されたロゴデータと比較する(S3403)。前述した通り、比較モジュール3203は、図28乃至図32を参照して説明した端末に内蔵されうる。抽出されたロゴデータを記憶されたロゴデータと比較する詳細な方法は、図28乃至図31を参照して説明した通りである。
本発明の一実施例に係る取得モジュール3204は、ロゴデータに関連したメタデータからチャネル情報を取得することができる(S3404)。前述したように、取得モジュール3204は、図28乃至図31を参照して説明した端末2801に内蔵されうる。
より具体的に、図28乃至図30を参照して説明した通り、抽出されたロゴデータのイメージと記憶されたロゴデータのイメージが同一であれば、ロゴサーバーは、データベースからロゴデータのチャネル情報を検索して端末に送ることができる。
また、本発明の一実施例に係る更新モジュールは、ロゴデータに関連したメタデータを周期的に更新することができる。図32を参照して説明した通り、更新モジュールは、端末又はメタデータサーバーに内蔵されうる。本発明の一実施例に係るメタデータサーバーは、ロゴサーバーのデータベースに記憶されたメタデータを周期的に更新することができる。
本発明の一実施例に係る生成モジュール3205は、チャネル情報を用いて要求を生成することができる(S3405)。前述したように、生成モジュール3205は、図28乃至図32を参照して説明した端末2801に内蔵されうる。
より具体的に、図30を参照して説明した通り、端末は、ロゴサーバーから受信したチャネル情報を用いて要求を生成することができる。図29を参照して説明した通り、端末は、生成された要求をHTTPプロトコルを通してアプリケーションルックアップサーバー2904に送ることができる。
図28乃至図31を参照して説明した通り、生成モジュール3205は、取得したロゴデータのチャネル情報及びオーディオフレームに含まれたウォーターマークのプログラム情報を用いて要求を生成することができる。また、オーディオフレームに接続できない場合は、生成モジュール3205は、取得したロゴデータのチャネル情報のみを用いて又はビデオフレームに含まれたシンボルデータを用いて要求を生成することができる。ビデオフレームに接続できない場合は、生成モジュール3205は、オーディオフレームに含まれたウォーターマークのプログラム情報のみを用いて要求を生成することができる。
本発明の一実施例に係る受信モジュール3201は、要求に用いてURLアドレス及び/又はインターネットプロトコルアドレスを受信することができる(S3406)。前述したように、受信モジュール3201は、図28乃至図32を参照して説明した端末2801に内蔵されうる。
より具体的に、図29を参照して説明した通り、端末2901は、アプリケーションルックアップサーバー2904で要求を用いて検索したアプリケーションのURLアドレス及び/又はインターネットプロトコルアドレスを受信することができる。URLアドレス及び/又はインターネットプロトコルアドレスの具体的な過程は、図28乃至図31を参照して説明した通りである。
本発明の一実施例に係る取得モジュール3204は、URLアドレス及び/又はインターネットプロトコルアドレスによってインターネットプロトコルネットワークを通して付加データを取得することができる(S3407)。前述したように、取得モジュール3204は、図28乃至図32を参照して説明した端末2801に内蔵されうる。
より具体的に、図29を参照して説明した通り、端末2901は、URLアドレス及び/又はインターネットプロトコルアドレスを通してアプリケーションサーバー2905に接続し、アプリケーションをダウンロードすることができる。ダウンロードされたアプリケーションは、アプリケーションサーバー2905によって管理され、付加データは、ダウンロードされたアプリケーションを通して端末2901に送信されうるが、これは、図28乃至図31を参照して説明した通りである。
図35は、本発明の一実施例に係る自動コンテンツ認識サービス送信過程を示す図である。
本発明の一実施例に係る生成モジュール3301は、コンテンツを含むデジタルサービス信号を生成することができる(S3501)。より具体的に、本発明の一実施例によって生成されたコンテンツは、ビデオコンテンツとオーディオコンテンツの両方を含むことができる。
生成モジュール3301は、オーディオフレーム及び/又はビデオフレームに挿入されるウォーターマークを生成することができる。また、生成モジュール3301は、コンテンツのプログラムを示すシンボルデータを生成することができる。
本発明の一実施例に係る挿入モジュール3302は、ロゴデータをコンテンツの各ビデオフレームに挿入することができる(S3502)。より具体的に、ロゴデータは、各ビデオフレームの同一の特定領域に挿入され、コンテンツの特定領域に表示されたロゴイメージに該当し得る。
挿入モジュール3302は、ウォーターマークをオーディオフレーム及び/又はビデオフレームに挿入することができる。より具体的に、挿入モジュール3302は、オーディオフレーム及び/又はビデオフレームをサブフレームに区分し、区分されたサブフレームからウォーターマークの挿入される特定サブフレームを検出することができる。その後、挿入モジュール3302は、ウォーターマークを特定サブフレームに挿入し、サブフレームを結合してオーディオフレーム及び/又はビデオフレームを生成することができる。
また、挿入モジュール3302は、シンボルデータをコンテンツの各ビデオフレームの特定領域に挿入できるが、これは図31を参照して詳細に説明した通りである。
本発明の一実施例に係る送信モジュール3303は、デジタルサービス信号を送信することができる(S3503)。送信モジュール3303は、ウォーターマーク及び/又はロゴデータが挿入モジュール3302で挿入されたコンテンツを含むデジタルサービス信号を、図32を参照して説明した自動コンテンツ認識サービス受信装置3200に送信することができる。本発明の一実施例に係るロゴデータは、図32を参照して説明した取得モジュール3204でチャネル情報を受信するために用いることができる。本発明の一実施例に係るチャネル情報は、図32を参照して説明した受信モジュール3201でURLアドレス及び/又はインターネットプロトコルアドレスを受信するために用いることができる。
〔実施例〕
発明の実施例は、前述した通り、発明を実施するための形態で詳述された。
本発明の思想や範囲から逸脱することなく当業者にとって本発明の様々な変形及び変更が可能であることは明らかである。したがって、本発明は、添付の特許請求の範囲及びその同等範囲内にある本発明の変形及び変更を含むように意図される。
前述した通り、本発明は、デュアルディスプレイのための装置に全体的に又は部分的に適用可能である。

Claims (8)

  1. 放送サービスのコンテンツを受信する方法であって、
    受信プロセッサが、少なくとも一つのウォーターマークを含む前記コンテンツを受信するステップであって、前記少なくとも一つのウォーターマークは前記コンテンツに関連した付加データの付加情報を伝える、ステップと、
    前記付加情報は、前記コンテンツの識別情報及び前記コンテンツの時間情報の少なくとも一つを含み
    抽出プロセッサが、前記コンテンツから、前記少なくとも一つのウォーターマークを抽出するステップと、
    前記付加情報の開始を示す開始タグは前記付加情報の最初に挿入され、前記付加情報の終了を示す終了タグは前記付加情報の最後に挿入され
    前記開始タグと前記終了タグを含む前記付加情報は少なくとも一つのサブ付加情報に分割され、
    前記少なくとも一つのサブ付加情報を伝える前記少なくとも一つのウォーターマークは連続する順序のオーディオフレーム又はビデオフレームに挿入され、
    取得プロセッサが、前記連続するオーディオフレーム又はビデオフレームの前記少なくとも一つのウォーターマークから前記少なくとも一つのサブ付加情報を取得するステップと、
    結合プロセッサが、前記開始タグと前記終了タグを利用して、前記付加情報を生成するために前記少なくとも一つのサブ付加情報を結合するステップと、
    前記取得プロセッサが、前記付加情報にしたがって前記付加データを取得するステップとを含む、方法。
  2. 前記コンテンツは、ロゴイメージとシンボルイメージを更に含み、前記ロゴイメージはコンテンツプロバイダを示し、前記シンボルイメージは前記ロゴイメージで示される前記コンテンツプロバイダに関連する前記コンテンツを示し、前記ロゴイメージと前記シンボルイメージは前記コンテンツのビデオフレームに含まれる、請求項1に記載の方法。
  3. 前記抽出プロセッサが前記ウォーターマークを抽出するステップは、前記ロゴイメージ及び前記シンボルイメージを更に抽出し、
    第1の比較プロセッサが、前記ロゴイメージの色、テキスト、アウトラインをロゴサーバーに記憶されたロゴイメージの色、テキスト、アウトラインと比較するステップであって、前記ロゴイメージはビデオフレームのそれぞれの特定固定領域に位置する、ステップと、
    第2の比較プロセッサが、前記シンボルメージの色、テキスト、アウトラインをシンボルサーバーに記憶されたシンボルイメージの色、テキスト、アウトラインと比較するステップであって、前記シンボルイメージは前記ビデオフレームのそれぞれの特定固定領域に位置する、ステップと、
    前記取得プロセッサが、前記ロゴサーバーから前記コンテンツのプロバイダを識別するコンテンツプロバイダ識別子を取得するステップと、
    前記取得プロセッサが、前記シンボルサーバから前記コンテンツを識別するコンテンツ識別子を取得するステップとをさらに含む、請求項に記載の方法。
  4. 放送サービスのコンテンツを受信する装置であって、
    少なくとも一つのウォーターマークを含む前記コンテンツを受信する受信プロセッサであって、前記少なくとも一つのウォーターマークは前記コンテンツに関連する付加データの付加情報を伝える、受信プロセッサと、
    前記付加情報は、前記コンテンツの識別情報及び前記コンテンツの時間情報の少なくとも一つを含み
    前記コンテンツから前記少なくとも一つのウォーターマークを抽出する抽出プロセッサと、
    前記付加情報の開始を示す開始タグは前記付加情報の最初に挿入され、前記付加情報の終了を示す終了タグは前記付加情報の最後に挿入され
    前記開始タグと前記終了タグを含む前記付加情報は少なくとも一つのサブ付加情報に分割され、
    前記少なくとも一つのサブ付加情報は連続する順序のオーディオフレーム又はビデオフレームに挿入され、
    前記連続するオーディオフレーム又はビデオフレームの前記少なくとも一つのウォーターマークから前記少なくとも一つのサブ付加情報を取得する取得プロセッサと、
    前記開始タグと前記終了タグを利用して、前記付加情報を生成するために前記少なくとも一つのサブ付加情報を結合する結合プロセッサとを備え
    前記結合プロセッサは、前記付加情報にしたがって前記付加データを取得する、装置。
  5. 前記コンテンツは、ロゴイメージとシンボルイメージを更に含み、前記ロゴイメージはコンテンツプロバイダを示し、前記シンボルイメージは前記ロゴイメージで示される前記コンテンツプロバイダに関連する前記コンテンツを示し、前記ロゴイメージと前記シンボルイメージは前記コンテンツのビデオフレームを含まれる、請求項に記載の装置。
  6. 前記抽出プロセッサは、前記ロゴイメージ及び前記シンボルイメージを更に抽出し、
    前記ロゴイメージの色、テキスト、アウトラインをロゴサーバーに記憶されたロゴイメージの色、テキスト、アウトラインと比較する第1の比較プロセッサであって、前記ロゴイメージはビデオフレームのそれぞれの特定固定領域に位置する、第1の比較プロセッサと、
    前記シンボルメージの色、テキスト、アウトラインをシンボルサーバーに記憶されたシンボルイメージの色、テキスト、アウトラインと比較する第2の比較プロセッサであって、前記シンボルイメージはビデオフレームのそれぞれの特定固定領域に位置する、第2の比較プロセッサと、をさらに含み、
    前記取得プロセッサは、前記ロゴサーバーから前記コンテンツのプロバイダを識別するコンテンツプロバイダ識別子及び、前記シンボルサーバから前記コンテンツを識別するコンテンツ識別子を取得する、請求項に記載の装置。
  7. 前記付加情報は前記付加データを取得するための位置情報を含み、
    前記付加データは前記位置情報にしたがってIP(Internet Protocol)ネットワークを介して取得される、請求項1に記載の方法。
  8. 前記付加情報は前記付加データを取得するための位置情報を含み、
    前記付加データは前記位置情報にしたがってIP(Internet Protocol)ネットワークを介して取得される、請求項に記載の装置。
JP2015523006A 2012-07-16 2013-07-16 デジタルサービス信号処理方法及び装置 Expired - Fee Related JP6193993B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261671807P 2012-07-16 2012-07-16
US61/671,807 2012-07-16
PCT/KR2013/006344 WO2014014252A1 (en) 2012-07-16 2013-07-16 Method and apparatus for processing digital service signals

Publications (2)

Publication Number Publication Date
JP2015531189A JP2015531189A (ja) 2015-10-29
JP6193993B2 true JP6193993B2 (ja) 2017-09-06

Family

ID=49949027

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015523006A Expired - Fee Related JP6193993B2 (ja) 2012-07-16 2013-07-16 デジタルサービス信号処理方法及び装置

Country Status (7)

Country Link
US (2) US9131264B2 (ja)
EP (1) EP2839668A4 (ja)
JP (1) JP6193993B2 (ja)
KR (1) KR102086514B1 (ja)
CN (1) CN104471951B (ja)
MX (1) MX338996B (ja)
WO (1) WO2014014252A1 (ja)

Families Citing this family (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160196631A1 (en) * 2010-12-03 2016-07-07 Dolby Laboratories Licensing Corporation Hybrid Automatic Content Recognition and Watermarking
US9491437B2 (en) 2010-12-07 2016-11-08 Samsung Electronics Co., Ltd. Transmitter for transmitting data for constituting content, receiver for receiving and processing data, and method therefor
KR101831775B1 (ko) * 2010-12-07 2018-02-26 삼성전자주식회사 멀티미디어 컨텐츠를 송수신하는 송신 장치 및 수신 장치와, 그 재생 방법
US9363551B2 (en) * 2013-10-31 2016-06-07 Tencent Technology (Shenzhen) Company Limited TV program identification method, apparatus, terminal, server and system
CN103686407A (zh) * 2013-12-04 2014-03-26 乐视网信息技术(北京)股份有限公司 轮播水印显示的方法和系统
EP3108640A4 (en) * 2014-02-17 2018-02-28 LG Electronics Inc. Apparatus for processing a hybrid broadcast service, and method for processing a hybrid broadcast service
US10455239B2 (en) * 2014-03-05 2019-10-22 Shimadzu Corporation Information display processing device and control program for information display processing device
KR102166423B1 (ko) 2014-03-05 2020-10-15 삼성전자주식회사 디스플레이 장치, 서버 장치 및 디스플레이 장치의 이벤트 정보 제공 방법
US10504200B2 (en) 2014-03-13 2019-12-10 Verance Corporation Metadata acquisition using embedded watermarks
JP2017514345A (ja) * 2014-03-13 2017-06-01 ベランス・コーポレイション 埋め込みコードを用いた対話型コンテンツ取得
KR20150115314A (ko) * 2014-04-03 2015-10-14 삼성전자주식회사 디스플레이 장치, 이의 제어 방법, 서버, 이의 제어 방법, 채널 정보의 위치에 대한 정보를 검출하기 위한 시스템 및 이의 제어 방법
EP3138264B1 (en) * 2014-05-02 2019-11-20 Verance Corporation Metadata acquisition using embedded codes
WO2016028936A1 (en) * 2014-08-20 2016-02-25 Verance Corporation Watermark detection using a multiplicity of predicted patterns
JP6355521B2 (ja) * 2014-10-21 2018-07-11 三菱電機株式会社 デジタル放送受信装置及び方法
EP3225034A4 (en) 2014-11-25 2018-05-02 Verance Corporation Enhanced metadata and content delivery using watermarks
US9942602B2 (en) 2014-11-25 2018-04-10 Verance Corporation Watermark detection and metadata delivery associated with a primary content
WO2016100916A1 (en) 2014-12-18 2016-06-23 Verance Corporation Service signaling recovery for multimedia content using embedded watermarks
US9418395B1 (en) 2014-12-31 2016-08-16 The Nielsen Company (Us), Llc Power efficient detection of watermarks in media signals
EP3043572A1 (en) * 2015-01-07 2016-07-13 Dolby Laboratories Licensing Corporation Hybrid automatic content recognition and watermarking
CN104581393A (zh) * 2015-01-27 2015-04-29 北京正奇联讯科技有限公司 电视播出信号的故障判断和切换方法及其系统
US9912986B2 (en) * 2015-03-19 2018-03-06 Sony Corporation System for distributing metadata embedded in video
WO2016171496A1 (ko) * 2015-04-23 2016-10-27 엘지전자 주식회사 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법
CN104918107B (zh) 2015-05-29 2018-11-02 小米科技有限责任公司 视频文件的标识处理方法及装置
US10779057B2 (en) * 2015-06-08 2020-09-15 Qualcomm Incorporated Broadcast content redistribution and ad insertion
US9516377B1 (en) * 2015-06-12 2016-12-06 Sorenson Media, Inc. Detecting channel change in automatic content recognition fingerprint matching
WO2016204421A1 (ko) * 2015-06-15 2016-12-22 엘지전자 주식회사 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법
JP2017011503A (ja) * 2015-06-22 2017-01-12 ソニー株式会社 受信装置、送信装置、及び、データ処理方法
CN113438518B (zh) * 2015-07-06 2023-02-28 Lg电子株式会社 处理广播数据的方法、接收系统和发送系统
KR102575517B1 (ko) 2015-08-17 2023-09-07 소니그룹주식회사 수신 장치, 송신 장치 및 데이터 처리 방법
US10735827B2 (en) * 2015-08-19 2020-08-04 Sharp Kabushiki Kaisha Broadcast system with a watermark payload
KR102393158B1 (ko) 2015-10-13 2022-05-02 삼성전자주식회사 메타데이터를 포함하는 비트 스트림을 이용한 서비스 제공 방법 및 장치
CN205305025U (zh) * 2016-01-06 2016-06-08 京东方科技集团股份有限公司 一种高清视频发送、接收装置与设备及高清视频传输系统
KR102496618B1 (ko) * 2016-03-16 2023-02-06 삼성전자주식회사 컨텐트를 인식하는 방법 및 장치
US10304150B2 (en) * 2016-05-31 2019-05-28 Maxim Integrated Products, Inc. Apparatus and method for protecting real-time safety and security relevant video data
CN107592579B (zh) * 2016-05-31 2022-04-15 马克西姆综合产品公司 用于保护实时安全性和安全相关视频数据的装置和方法
US10136194B2 (en) 2016-07-06 2018-11-20 Cisco Technology, Inc. Streaming piracy detection method and system
US10200692B2 (en) * 2017-03-16 2019-02-05 Cisco Technology, Inc. Compressed domain data channel for watermarking, scrambling and steganography
US10136098B2 (en) 2017-03-28 2018-11-20 International Business Machines Corporation Integrity verification of an audio-visual data stream
JP7042567B2 (ja) * 2017-07-07 2022-03-28 合同会社DMM.com ユーザ特定情報が埋め込まれたデジタルコンテンツの配信
MX2020001303A (es) 2017-08-10 2020-03-09 Sony Corp Aparato de transmision, metodo de transmision, aparato de recepcion y metodo de recepcion.
KR102546026B1 (ko) * 2018-05-21 2023-06-22 삼성전자주식회사 전자 장치 및 그의 컨텐츠 인식 정보 획득
KR102599951B1 (ko) 2018-06-25 2023-11-09 삼성전자주식회사 전자 장치 및 그의 제어방법
US10958958B2 (en) * 2018-08-21 2021-03-23 International Business Machines Corporation Intelligent updating of media data in a computing environment
CN111090836A (zh) * 2018-10-23 2020-05-01 阿里巴巴集团控股有限公司 数据处理、水印嵌入和水印提取方法、装置及设备
KR102568626B1 (ko) * 2018-10-31 2023-08-22 삼성전자주식회사 전자 장치, 그 제어 방법 및 전자 시스템
KR20200080387A (ko) 2018-12-18 2020-07-07 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
WO2020256718A1 (en) * 2019-06-19 2020-12-24 Google Llc Improved image watermarking
US11343564B2 (en) * 2019-08-14 2022-05-24 Samsung Electronics Co., Ltd Automated learning platform of a content provider and method thereof
US11153616B2 (en) * 2019-09-13 2021-10-19 Roku, Inc. Method and system for re-uniting metadata with media-stream content at a media client, to facilitate action by the media client
US10777177B1 (en) 2019-09-30 2020-09-15 Spotify Ab Systems and methods for embedding data in media content
US11132557B2 (en) * 2019-12-25 2021-09-28 Tcl China Star Optoelectronics Technology Co., Ltd. Logo extraction device, and brightness adjusting method and device for logo
CN113453039B (zh) * 2020-03-24 2023-04-18 阿里巴巴集团控股有限公司 视频文件处理与水印提取的方法和装置
CN111431904B (zh) * 2020-03-25 2022-05-06 上海威固信息技术股份有限公司 一种基于时间特征的云存储访问控制方法
US11443401B2 (en) * 2020-05-21 2022-09-13 At&T Intellectual Property I, L.P. Digital watermarking
CN112069950B (zh) * 2020-08-25 2023-04-07 北京字节跳动网络技术有限公司 提取热词的方法、系统、电子设备及介质
US11722741B2 (en) 2021-02-08 2023-08-08 Verance Corporation System and method for tracking content timeline in the presence of playback rate changes
US11695988B2 (en) * 2021-07-15 2023-07-04 Disney Enterprises, Inc. Content stream having encoded metadata for video enhancement

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6421070B1 (en) * 1996-11-12 2002-07-16 Digimarc Corporation Smart images and image bookmarking for an internet browser
JP4596495B2 (ja) * 1997-07-18 2010-12-08 ソニー株式会社 制御装置、制御方法、電気機器システム、電気機器システムの制御方法、および、記録媒体
US7756892B2 (en) * 2000-05-02 2010-07-13 Digimarc Corporation Using embedded data with file sharing
US8332478B2 (en) 1998-10-01 2012-12-11 Digimarc Corporation Context sensitive connected content
US20010052133A1 (en) 2000-04-12 2001-12-13 Lg Electronics Inc. Apparatus and method for providing and obtaining product information through a broadcast signal
EP1785890B1 (en) * 2000-07-20 2019-12-11 Digmarc Corporation Using embedded data with file sharing
JP2002232685A (ja) * 2001-01-31 2002-08-16 Canon Inc 電子透かし処理装置、情報処理装置、ディジタルコンテンツ配布システム、電子透かし挿入方法、及び記憶媒体
JP3578091B2 (ja) * 2001-02-13 2004-10-20 日本電信電話株式会社 コンテンツ取得方法及びコンテンツ提供方法及びコンテンツ取得装置及びコンテンツ提供装置及びコンテンツ取得プログラム及びコンテンツ提供プログラム
US8407752B2 (en) * 2004-03-18 2013-03-26 Digimarc Corporation Synchronizing broadcast content with corresponding network content
SG119229A1 (en) * 2004-07-30 2006-02-28 Agency Science Tech & Res Method and apparatus for insertion of additional content into video
WO2006085151A2 (en) 2004-12-06 2006-08-17 Dspv, Ltd System and method of generic symbol recognition and user authentication using a communication device with imaging capabilities
KR100669224B1 (ko) * 2006-04-28 2007-01-16 모두스타 주식회사 디지털저작권관리 기반의 디지털 컨텐츠 및 사용자 제작컨텐츠 거래하는 방법
CN101115124B (zh) * 2006-07-26 2012-04-18 日电(中国)有限公司 基于音频水印识别媒体节目的方法和装置
US8763050B2 (en) 2007-04-30 2014-06-24 At&T Intellectual Property I, Lp System and apparatus for enhancing delivery of media services
JP4962335B2 (ja) * 2008-02-04 2012-06-27 富士通株式会社 埋込みデータを復元するための方法
KR20100048711A (ko) * 2008-10-31 2010-05-11 에스케이 텔레콤주식회사 컨텐츠 배포 추적 관리 시스템 및 방법
US9788043B2 (en) * 2008-11-07 2017-10-10 Digimarc Corporation Content interaction methods and systems employing portable devices
JP5319451B2 (ja) 2009-08-11 2013-10-16 株式会社神戸製鋼所 出力値予測方法、該装置および該方法のプログラム
WO2011039763A2 (en) * 2009-09-07 2011-04-07 Tata Consultancy Services Ltd. System for obtaining information about tv broadcasts via a plurality of channels
JP2011203790A (ja) * 2010-03-24 2011-10-13 Kddi Corp 画像照合装置
JP5989004B2 (ja) * 2011-01-04 2016-09-07 タタ・コンサルタンシー・サーヴィシズ・リミテッド ロゴ認証
JP4948667B2 (ja) * 2011-08-08 2012-06-06 日立公共システムエンジニアリング株式会社 動画コンテンツの改ざん検出装置及びシステム

Also Published As

Publication number Publication date
EP2839668A4 (en) 2016-03-09
US9131264B2 (en) 2015-09-08
CN104471951B (zh) 2018-02-23
JP2015531189A (ja) 2015-10-29
WO2014014252A1 (en) 2014-01-23
US20150334459A1 (en) 2015-11-19
CN104471951A (zh) 2015-03-25
KR102086514B1 (ko) 2020-03-09
US9756381B2 (en) 2017-09-05
MX2014014912A (es) 2015-03-09
US20140047475A1 (en) 2014-02-13
KR20150035582A (ko) 2015-04-06
EP2839668A1 (en) 2015-02-25
MX338996B (es) 2016-05-09

Similar Documents

Publication Publication Date Title
JP6193993B2 (ja) デジタルサービス信号処理方法及び装置
KR101664424B1 (ko) 디지털 서비스 신호 처리 방법 및 장치
JP6059810B2 (ja) デジタルサービス信号処理方法及び装置
JP6294238B2 (ja) 映像表示装置及びその動作方法
JP6294503B2 (ja) 放送信号送信装置、放送信号受信装置、放送信号送信方法、及び放送信号受信方法
JP6174702B2 (ja) デジタルサービス信号処理方法及び装置
KR20150120963A (ko) 영상 표시 장치 및 그 동작 방법

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160322

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161206

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170306

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170711

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170810

R150 Certificate of patent or registration of utility model

Ref document number: 6193993

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees