JPWO2015011877A1 - 映像受信装置、付加情報表示方法および付加情報表示システム - Google Patents

映像受信装置、付加情報表示方法および付加情報表示システム Download PDF

Info

Publication number
JPWO2015011877A1
JPWO2015011877A1 JP2015528127A JP2015528127A JPWO2015011877A1 JP WO2015011877 A1 JPWO2015011877 A1 JP WO2015011877A1 JP 2015528127 A JP2015528127 A JP 2015528127A JP 2015528127 A JP2015528127 A JP 2015528127A JP WO2015011877 A1 JPWO2015011877 A1 JP WO2015011877A1
Authority
JP
Japan
Prior art keywords
video
additional information
video signal
control unit
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015528127A
Other languages
English (en)
Other versions
JP6281126B2 (ja
Inventor
博史 薮
博史 薮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2015011877A1 publication Critical patent/JPWO2015011877A1/ja
Application granted granted Critical
Publication of JP6281126B2 publication Critical patent/JP6281126B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • H04N5/45Picture in picture, e.g. displaying simultaneously another television channel in a region of the screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/254Management at additional data server, e.g. shopping server, rights management server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25825Management of client data involving client display capabilities, e.g. screen resolution of a mobile phone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/438Interfacing the downstream path of the transmission network originating from a server, e.g. retrieving encoded video stream packets from an IP network
    • H04N21/4383Accessing a communication channel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • H04N21/4886Data services, e.g. news ticker for displaying a ticker, e.g. scrolling banner for news, stock exchange, weather data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6125Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6156Network physical structure; Signal processing specially adapted to the upstream path of the transmission network
    • H04N21/6175Network physical structure; Signal processing specially adapted to the upstream path of the transmission network involving transmission via Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/812Monomedia components thereof involving advertisement data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Graphics (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

外部から入力される映像信号に関する付加情報を取得してその映像信号に適切に重畳する。そのために、通信ネットワーク(16)を介してデータの送受信を行うように構成された映像受信装置(40)は、入力部(65)、映像抽出部(45)、制御部(41)、および付加情報表示制御部(46)を備える。制御部は、映像抽出部が抽出した部分映像の映像認識処理を映像認識装置(20)に依頼し、その映像認識処理の結果に基づく付加情報を付加情報配信装置から取得する制御を行う。付加情報表示制御部は、映像信号の画面構成に変更が生じたか否かを検出し、その検出結果に基づき、付加情報の映像信号への重畳を制御する。

Description

本開示は、外部から入力される映像信号に関する付加情報を取得して映像信号に重畳する映像受信装置に関する。
特許文献1は、データ処理システムを開示する。このシステムでは、クライアント装置は、映像認識装置であるサーバ装置に、ネットワークを通して映像データを送信し、映像認識処理を依頼する。サーバ装置は、受信した映像データにもとづき映像認識を行い、映像認識の結果を、ネットワークを通してクライアント装置に送信する。
特開平10−214258号公報
本開示は、外部から入力される映像信号に関する付加情報を取得し、取得した付加情報の映像信号への重畳を制御するのに有効な映像受信装置、付加情報表示方法、および付加情報表示システムを提供する。
本開示の映像受信装置は、通信ネットワークを介してデータの送受信を行えるように構成されており、入力部、映像抽出部、制御部、および付加情報表示制御部を備える。入力部は、外部に設置された映像送信装置から出力される映像信号を入力するように構成されている。映像抽出部は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部は、通信ネットワークに接続された映像認識装置に、部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果を映像認識装置から取得し、その映像認識処理の結果に基づく付加情報を、通信ネットワークに接続された付加情報配信装置から取得する制御を行うように構成されている。付加情報表示制御部は、映像信号の画面構成に変更が生じたか否かを検出し、その検出の結果に基づき、付加情報の映像信号への重畳を制御するように構成されている。
本開示の付加情報表示方法は、通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における付加情報表示方法であって、外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、通信ネットワークに接続された映像認識装置に、部分映像を送信して映像認識処理を依頼し、映像認識処理の結果を映像認識装置から取得するステップと、映像認識処理の結果に基づく付加情報を、通信ネットワークに接続された付加情報配信装置から取得するステップと、映像信号の画面構成に変更が生じたか否かを検出するステップと、その検出の結果に基づき、付加情報の映像信号への重畳を制御するステップと、を備える。
本開示の付加情報表示システムは、通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備える。映像受信装置は、入力部、映像抽出部、制御部、および付加情報表示制御部を備える。入力部は、外部に設置された映像送信装置から出力される映像信号を入力するように構成されている。映像抽出部は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部は、映像認識装置に通信ネットワークを介して部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果を映像認識装置から通信ネットワークを介して取得し、付加情報配信装置からその映像認識処理の結果に基づく付加情報を通信ネットワークを介して取得する制御を行うように構成されている。付加情報表示制御部は、映像信号の画面構成に変更が生じたか否かを検出し、その検出の結果に基づき、付加情報の映像信号への重畳を制御するように構成されている。映像認識装置は、通信ネットワークを介して受信した部分映像に関する映像認識処理を行い、その映像認識処理の結果を通信ネットワークを介して映像受信装置に送信するように構成されている。付加情報配信装置は、通信ネットワークを介して受信した映像認識処理の結果に対応する付加情報を通信ネットワークを介して映像受信装置に送信するように構成されている。
図1は、実施の形態1における付加情報表示システムの構成の一例を概略的に示す図である。 図2は、実施の形態1における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。 図3Aは、実施の形態1における映像受信装置の表示部に表示する映像の一例を概略的に示す図である。 図3Bは、実施の形態1における映像受信装置の表示部に表示する映像の他の一例を概略的に示す図である。 図3Cは、実施の形態1における映像受信装置の表示部に表示する映像のさらに他の一例を概略的に示す図である。 図3Dは、実施の形態1における映像受信装置の表示部に表示する映像のさらに他の一例を概略的に示す図である。 図4は、実施の形態1における映像受信装置で行う付加情報表示制御の動作を概略的に示すフローチャートである。 図5は、実施の形態1における映像受信装置で行う画面構成変更検出の動作を概略的に示すフローチャートである。 図6Aは、実施の形態1における映像受信装置で行うテンプレートマッチングの一例を概略的に示す図である。 図6Bは、実施の形態1における映像受信装置で行うテンプレートマッチングの他の一例を概略的に示す図である。 図6Cは、実施の形態1における映像受信装置で行うテンプレートマッチングに用いるテンプレート画像群の一例を概略的に示す図である。 図7は、実施の形態1における映像受信装置で行うUI表示検出の動作を概略的に示すフローチャートである。 図8Aは、実施の形態1における映像受信装置の表示部に表示する映像の一例を概略的に示す図である。 図8Bは、実施の形態1における映像受信装置で行う画像比較に用いるテンプレート映像の一例を概略的に示す図である。 図8Cは、実施の形態1における映像受信装置において局所コンテンツ検出用に表示映像に設定した複数の領域の一例を概略的に示す図である。 図8Dは、実施の形態1における映像受信装置において局所コンテンツ検出用にテンプレート映像に設定した複数の領域の一例を概略的に示す図である。 図8Eは、実施の形態1における映像受信装置において領域毎に算出した類似度の一例を概略的に示す図である。 図9は、実施の形態1における映像受信装置で行う局所コンテンツ検出の動作を概略的に示すフローチャートである。 図10は、実施の形態1における映像受信装置で行う映像切替検出の動作を概略的に示すフローチャートである。 図11Aは、実施の形態1における映像受信装置の表示部に表示する映像の他の一例を概略的に示す図である。 図11Bは、実施の形態1における映像受信装置の表示部に表示する映像のさらに他の一例を概略的に示す図である。 図12は、他の実施の形態における映像認識装置および映像受信装置の構成の一例を概略的に示すブロック図である。
以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
(実施の形態1)
以下、図1〜図11を用いて、実施の形態1を説明する。
[1−1.構成]
[1−1−1.システム構成の概略]
図1は、実施の形態1における付加情報表示システム10の構成の一例を概略的に示す図である。付加情報表示システム10は、放送局12、映像送信装置であるSTB(Set Top Box)14、映像認識装置20、付加情報配信装置30、および映像受信装置40を備える。付加情報表示システム10は、映像認識装置20が有する映像認識技術を利用して、映像受信装置40が受信した映像がどのコンテンツのものかを特定し、そのコンテンツに関連する付加情報を、付加情報配信装置30から取得して映像受信装置40に表示する、ことができるように構成された通信システムである。
映像受信装置40と、映像認識装置20および付加情報配信装置30とは、通信ネットワーク16を介して互いに接続されている。
通信ネットワーク16は、有線、または無線、あるいはその双方が混在して構成されている。通信ネットワーク16は、例えばインターネットであるが、イントラネットや商業回線、あるいはその他の通信回線であってもよく、それらが混在していてもよい。
映像受信装置40とSTB14とは、通信インターフェースを介して互いに接続されている。通信インターフェースは、例えばHDMI(登録商標)(High−Definition Multimedia Interfase)であるが、ビデオケーブルであってもよく、あるいはWi−Fi(登録商標)やBluetooth(登録商標)、無線LAN(Local Area Network)等の無線通信であってもよい。
放送局12は、放送信号を送信(放送)するように構成された送信装置である。放送局12は、番組本体とコマーシャルメッセージ(CM)とを含むテレビ番組を映像信号にして放送信号に重畳し放送する。番組本体とCMとは時間の経過に伴って互いに切り替わる。以下、番組本体やCMを「コンテンツ」と記す。すなわち、放送局12は、時間の経過に伴って切り替わるコンテンツを放送する。なお、送信装置は何ら放送局12に限定されるものではなく、時間の経過に伴って切り替わるコンテンツを送信または放送するものであればよい。
STB14は、放送局12が放送する放送信号を受信して映像信号を取り出すように構成された受信機(チューナ)である。STB14は、例えば放送局12がデジタルの映像信号を放送する場合、受信した映像信号をデコードする機能を備えていてもよい。STB14は、放送局12が放送する複数のチャンネルの中から、ユーザ(User)の指示にもとづき選局したチャンネルを受信し、そのチャンネルの映像信号を通信インターフェース(例えば、HDMI(登録商標))を介して、映像受信装置40に出力する。なお、映像送信装置は何らSTB14に限定されるものではなく、例えば録画機能と放送信号受信機能と映像信号出力機能とをあわせ持つ録画装置、等であってもよい。
映像受信装置40は、外部から入力される映像信号にもとづく映像を表示部54に表示するように構成された映像受信デバイスであり、例えばテレビジョン受像機である。映像受信装置40は、通信ネットワーク16に接続されており、通信ネットワーク16を介して映像認識装置20および付加情報配信装置30とデータの送受信ができる。
本実施の形態における映像受信装置40は、以下のことができるように構成されている。映像受信装置40は、映像送信装置(例えば、STB14)から通信インターフェースを介して入力される映像信号に関する映像認識処理を映像認識装置20を利用して行い、その映像信号が表すコンテンツを特定する。そして、そのコンテンツに関連する付加情報(例えば、広告情報)を付加情報配信装置30から取得し、取得した付加情報をその映像信号に重畳して表示部54に表示する。
具体的には、映像受信装置40は、入力される映像信号から一部を周期的に切り出すことで部分映像を周期的に抽出し、その部分映像と映像認識処理の要求(以下、「映像認識要求」とも記す)を、通信ネットワーク16を介して映像認識装置20に送信する。そして、映像受信装置40は、その部分映像に対する映像認識処理の結果を映像認識装置20から通信ネットワーク16を介して取得し、取得した映像認識処理の結果に関連する付加情報を、付加情報配信装置30から通信ネットワーク16を介して取得する。そして、取得した付加情報にもとづく画像(図1には、「付加情報51」として示す)を、表示部54に表示中の映像に重畳して表示する。これらの詳細は後述する。
なお、本実施の形態では、付加情報を「コンテンツに関連する広告情報」とする例を説明するが、付加情報は何ら広告情報に限定されるものではなく、例えば観光情報、歴史情報、人物プロフィール情報、URL(Uniform Resource Locator)、公共公報情報、放送中の番組に関する情報、ツイッター(登録商標)等のソーシャル情報、等であってもよい。
映像認識装置20は、通信ネットワーク16に接続されたサーバ装置であり、映像認識処理にもとづくコンテンツ特定処理を行うWebサイトである。コンテンツ特定処理とは、受信した部分映像に対して映像認識処理を行い、その映像認識処理の結果にもとづきその部分映像が表すコンテンツを特定する処理のことである。そのために、映像認識装置20は、放送局12が放送するコンテンツに対する解析と、その解析の結果を利用した映像認識処理を行う。
映像認識装置20は、放送局12から放送される実質的に全てのコンテンツを取得する。そして、取得したコンテンツに対する解析を行い、コンテンツの時間、容量、放送形式、内容、ジャンル、登場人物、タイムテーブル、等を調べ、解析情報を作成する。また、映像認識装置20は、放送局12から取得したコンテンツの映像信号からフィンガープリントを作成する。このフィンガープリントは、映像を認識するための情報であり、例えば、動画を構成する各画像のハッシュ値である。映像認識装置20は、放送局から放送される放送信号を受信してコンテンツを取得してもよく、あるいは、専用の映像回線等を介して放送局12から送信される映像信号を受信してコンテンツを取得してもよい。また、この解析は、例えば、自動で行われてもよく、作業者が手作業で行ってもよい。各コンテンツの解析結果である解析情報とフィンガープリントは、各コンテンツの映像(例えば、複数フレームの映像信号)毎に、映像認識装置20の記憶部23に記憶される。
映像認識装置20は、映像受信装置40から送信されてくる部分映像を伴った映像認識要求を通信ネットワーク16を介して受信すると、その部分映像から生成したフィンガープリントを、映像認識装置20があらかじめ生成し記憶部23に記憶しておいたフィンガープリントと照合してその部分映像に対する映像認識処理を行い、その部分映像に対応するコンテンツを特定する。こうして、映像認識装置20は、映像受信装置40から送信されてくる部分映像が何のコンテンツの映像なのかを判断してそのコンテンツを特定するコンテンツ特定処理を行う。そして、特定したコンテンツに関する解析結果(解析情報)を記憶部23から読み出し、読み出した情報を映像認識処理の結果として映像受信装置40に通信ネットワーク16を介して返信する。
このような手法による映像認識処理(映像認識処理にもとづくコンテンツ特定処理)を「ACR(Automatic Content Recognition)」とも呼称する。
付加情報配信装置30は、通信ネットワーク16に接続されたサーバ装置であり、様々な商品の広告情報を保持して配信するWebサイト(広告配信サイト)である。付加情報配信装置30は、映像受信装置40から送信されてくる映像認識処理の結果(映像受信装置40が映像認識装置20から取得した映像認識処理の結果にもとづく解析情報)を通信ネットワーク16を介して受信すると、その映像認識処理の結果(解析情報)に関連する付加情報を通信ネットワーク16を介して映像受信装置40に送信する。この付加情報は、例えば、映像認識処理により特定されたコンテンツに関連する広告情報である。
[1−1−2.映像認識装置および映像受信装置の構成]
図2は、実施の形態1における映像認識装置20および映像受信装置40の構成の一例を概略的に示すブロック図である。
なお、図2には、本実施の形態に示す動作に関連する主な回路ブロックを示しており、他の動作に関する機能や回路ブロックは省略している。これは、本実施の形態で説明する動作を分かりやすく示すためである。また、図2に示す各回路ブロックは、それぞれが独立した回路で構成されていてもよく、あるいは、図2に示す回路ブロックの1つまたは複数を実現するように作成されたプログラムをプロセッサーで実行する構成であってもよい。
映像認識装置20は、HTTP(Hypertext Transfer Protocol)送受信部21、検索部22、および記憶部23、を備えるサーバ装置である。映像認識装置20は、映像受信装置40に、通信ネットワーク16を介して映像認識処理にもとづくコンテンツ特定処理のサービスを提供するように構成されている。
HTTP送受信部21は、通信用のインターフェースであり、例えば、イーサネット(登録商標)の規格に適合する通信アダプタである。HTTP送受信部21は、通信ネットワーク16を介して映像受信装置40とデータの送受信を行うことができるように構成されている。
記憶部23は、例えばHDD(Hard Disk Drive)等で構成された記憶装置である。記憶部23は、放送局12から放送されるコンテンツのフィンガープリントと、そのコンテンツに対する解析結果の解析情報とを、そのコンテンツに対応付けて記憶するように構成されている。このフィンガープリントは、例えば、動画を構成する各画像のハッシュ値、等である。
記憶部23は、例えば、放送局12から放送される全チャンネル(例えば、300チャンネル)について、放送からわずかな時間遅れ(例えば、10秒)で、コンテンツ(例えば、番組本体やCM)毎に、フィンガープリントと解析結果(解析情報)を対応付けて記憶する。この解析結果(解析情報)には、例えば、番組のタイトル、CMのタイトル、番組のあらすじ、CMのあらすじ、登場人物、映像に関連する場所、URL等が含まれていてもよい。
検索部22は、映像受信装置40から送信されてくる部分映像を伴う映像認識要求をHTTP送受信部21を介して受信すると、その部分映像を用いた映像認識処理にもとづくコンテンツ特定処理を行い、その結果(解析情報)をHTTP送受信部21を介して映像受信装置40に返信するように構成されている。本実施の形態では、部分映像を用いた映像認識処理にもとづくコンテンツ特定処理の結果を、単に「映像認識処理の結果」とも記す。
具体的には、検索部22は、映像受信装置40から送信されてくる部分映像を伴う映像認識要求を、通信ネットワーク16およびHTTP送受信部21を介して受信する。次に、受信した部分映像のフィンガープリント(例えば、部分映像を構成する各画像のハッシュ値)を生成し、生成したフィンガープリントを、記憶部23に記憶されているフィンガープリントと照合し、受信した部分映像に対応するフィンガープリントを検索する(映像認識処理)。そして、その検索の結果により特定されたフィンガープリントに対応するコンテンツを、受信した部分映像に対応するコンテンツとする(コンテンツ特定処理)。このようにして、検索部22は、受信した部分映像に対応するコンテンツを特定する。そして、検索部22は、特定したコンテンツに対応付けられた解析結果(解析情報)を記憶部23から読み出し、読み出した解析結果を、映像認識処理の結果として、HTTP送受信部21および通信ネットワーク16を介して映像受信装置40に返信する。
映像受信装置40は、制御部41、HTTP送受信部42、操作信号受信部43、映像出力部44、表示部54、映像抽出部45、付加情報表示制御部46、記憶部47、取得部66および映像入力部48を備える。映像受信装置40は、映像認識装置20を利用した映像認識処理にもとづくコンテンツ特定処理を行い、その映像認識処理の結果としての解析情報を映像認識装置20から取得してその解析情報に関連する付加情報(例えば、広告情報)を付加情報配信装置30から取得し、受信した映像信号による映像(コンテンツ)に、その付加情報(例えば、その映像に関連する広告情報)による画像を重畳して表示部54に表示する、ように構成されている。
HTTP送受信部42は、通信用のインターフェースであり、例えば、イーサネット(登録商標)の規格に適合する通信アダプタである。HTTP送受信部42は、通信ネットワーク16を介して映像認識装置20とデータの送受信を行うことができるように構成されている。
操作信号受信部43は、ユーザ操作を受け付けたリモートコントロール装置(以下、「リモコン」と略記する)等の操作部(図示せず)が発信する操作信号(映像受信装置40に対する操作信号)を受信するように構成されている。操作信号受信部43は、ジャイロセンサを有するリモコンが、そのリモコンに生じる物理的な変動にもとづき発信する信号を受信するように構成されていてもよい。
映像入力部48は、受信回路およびデコーダであり、放送局が送信する放送信号を受信するように構成された受信部49と、映像送信装置(例えば、STB14)が出力する映像信号を入力するように構成された入力部65とを有する。映像入力部48が受け取る映像信号には、時間の経過に伴って切り替わるコンテンツ(番組本体とCM、等)が含まれる。
受信部49は、放送局12が送信する放送信号をアンテナ(図示せず)等を介して受信するように構成されている。
入力部65は、外部に設置された映像送信装置から出力されてくる映像信号を入力するように構成されたインターフェースである。入力部65は、例えばHDMI(登録商標)の規格に適合するように構成されており、映像送信装置からHDMI(登録商標)を介して送信されてくる映像信号を受け取ることができる。この映像送信装置は、例えばSTB14であるが、映像記録再生装置等であってもよい。また、入力部は、ビデオケーブルを介して送信されてくる映像信号や、無線通信で送信されてくる映像信号を受け取るように構成されていてもよい。
映像出力部44は、表示部54を制御する機能を有し、映像入力部48から入力される映像信号にもとづき表示部54を制御して、その映像信号にもとづく映像を表示部54に表示するように構成されている。映像出力部44は、制御部41から付加情報が入力されたときは、表示部54に表示中の映像に、付加情報にもとづく画像を重畳する。
表示部54は、映像信号にもとづく映像を表示するように構成されたディスプレイであり、例えばLCD(Liquid Crystal Display)である。しかし、本実施の形態は何らこの構成に限定されるものではなく、表示部54は、PDP(Plasma Display Panel)やOLED(Organic Electro Luminescence Display)、等であってもよい。
付加情報表示制御部46は、付加情報の表示制御を行うように構成されている。具体的には、付加情報表示制御部46は、付加情報を表示部54に表示するか否かを判断し、その判断にもとづき、表示部54に付加情報を表示する指示、表示部54に表示中の付加情報を継続表示する指示、表示部54に表示中の付加情報を非表示にする指示、等を制御部41に出力するように構成されている。
付加情報表示制御部46は、映像抽出部45で抽出された部分映像にもとづく映像認識処理(映像認識処理にもとづくコンテンツ特定処理)を、映像認識装置20を利用して行う。また、映像抽出部45で抽出された部分映像を分析する。これらの詳細は後述する。そして、映像認識装置20から取得した映像認識処理の結果にもとづき付加情報配信装置30から取得した付加情報を、表示部54に表示するか否か(映像信号に重畳するか否か)、または表示部54に表示中の付加情報を継続表示するか非表示にするか、を、その分析の結果にもとづき判断し、その判断にもとづく指示を制御部41に出力する。なお、付加情報表示制御部46は、映像抽出部45で抽出された部分映像からフィンガープリント(例えば、部分映像を構成する各画像のハッシュ値)を生成し、生成したフィンガープリントにもとづく映像認識処理を、映像認識装置20を利用して行うように構成されてもよい。
映像抽出部45は、映像入力部48から入力される映像信号から部分映像を抽出するように構成されている。映像抽出部45は、映像信号から、あらかじめ定められた周期で、映像信号の一部である部分映像を所定時間分抽出するように構成されている。例えば、あらかじめ定められた周期が3秒であり所定時間が3秒間であれば、映像抽出部45は、映像信号から、3秒毎に3秒間の部分映像を抽出する動作を繰り返す。すなわち、映像信号から3秒間の部分映像を3秒毎に隙間なく連続して抽出する動作を繰り返す。また、例えば、あらかじめ定められた周期が15秒であり所定時間が3秒間であれば、映像抽出部45は、映像信号から、15秒毎に3秒間の部分映像を抽出する動作を繰り返す。すなわち、映像信号から3秒間の部分映像を12秒の間隔をおいて抽出する動作を繰り返す。なお、映像信号から抽出する部分映像は秒単位での抽出に限定されるものではなく、例えば、映像フレームレートにおいて予め定められたフレーム数で部分映像を抽出してもよい。
記憶部47は、例えば不揮発性メモリ等で構成された記憶装置である。記憶部47は、映像入力部48で受信した電子番組表(Electronic Program Guide:EPG)等の番組メタ情報、HTTP送受信部42を介して付加情報配信装置30から取得した付加情報および付加情報の表示制御情報、映像信号を映像受信装置40に送信するSTB14の機種情報、STB14を含む複数の映像送信装置のテンプレート画像群、等を記憶する。付加情報の表示制御情報とは、付加情報の表示を制御するための情報であり、例えば付加情報の表示期間を示す情報、等が含まれる。
制御部41は、映像受信装置40が備える各回路ブロックを制御するように構成されている。制御部41は、例えば、プログラム(アプリケーションプログラム等)を記憶しているROM等の不揮発性メモリ、そのプログラムを実行するCPU、および、CPUがプログラムを実行するときに一時的にデータやパラメータ等を記憶するRAM等の揮発性メモリ、等から構成される。
制御部41が行う制御には、例えば次のようなものがある。制御部41は、映像抽出部45が映像信号から部分映像を所定の周期で抽出するように、映像抽出部45を制御する。そして、映像抽出部45が部分映像を抽出する度に、抽出された部分映像を、映像認識要求とともに、HTTP送受信部42および通信ネットワーク16を介して映像認識装置20に送信し、その部分映像に対する映像認識処理を映像認識装置20に依頼するように、各回路ブロックを制御する。そして、その部分映像に対する映像認識処理の結果を通信ネットワーク16およびHTTP送受信部42を介して映像認識装置20から取得し、その映像認識処理の結果にもとづく付加情報を通信ネットワーク16およびHTTP送受信部42を介して付加情報配信装置30から取得するように、各回路ブロックを制御する。そして、取得した付加情報を記憶部47に記憶するとともに映像出力部44に出力し、表示部54に表示中の映像に付加情報を重畳して表示するように、各回路ブロックを制御する。このとき、制御部41は、付加情報表示制御部46が「付加情報を非表示にする」と判断すれば、表示部54に表示中の付加情報を非表示にするように、各回路ブロックを制御する。
なお、映像受信装置40が映像認識装置20に映像認識処理を依頼するときには、映像受信装置40が映像認識処理の依頼を表す信号(データ)を作成し、その信号を映像認識要求として映像認識装置20に送信するように付加情報表示システム10を構成してもよいが、例えば、そのような信号(データ)の送信は行わず、映像受信装置40が部分映像を映像認識装置20に送信することで映像認識装置20に映像認識処理を依頼したことになるように映像受信装置40と映像認識装置20との間であらかじめ取り決めをしておいてもよい。
取得部66は、テンプレート映像を、通信ネットワーク16およびHTTP送受信部42を介して映像認識装置20から取得する。テンプレート映像は、映像認識装置20が放送局から取得したコンテンツの映像信号であり、制御部41が映像認識装置20から取得する映像認識処理の結果に含まれている。テンプレート映像は、後述する局所コンテンツ検出に用いられる。これらの詳細は後述する。
次に、付加情報表示制御部46が行う付加情報の表示制御の概要について、図3を用いて説明する。
図3Aは、実施の形態1における映像受信装置40の表示部54に表示する映像の一例を概略的に示す図である。図3Bは、実施の形態1における映像受信装置40の表示部54に表示する映像の他の一例を概略的に示す図である。図3Cは、実施の形態1における映像受信装置40の表示部54に表示する映像のさらに他の一例を概略的に示す図である。図3Dは、実施の形態1における映像受信装置40の表示部54に表示する映像のさらに他の一例を概略的に示す図である。
図3Aには、STB14から入力部65に入力された映像信号にもとづく映像50がそのまま表示部54に表示されている例を示す。なお、図3Aには、映像50の一例として「ABC放送番組」が表示されている例を示す。
図3Bには、映像50に、映像認識処理の結果にもとづき付加情報配信装置30から取得した付加情報51が重畳された映像が、表示部54に表示されている例を示す。なお、図3Bに示す付加情報51は、付加情報の一例として挙げているものに過ぎず、付加情報の表示位置や表示サイズ等が、何ら図3Bに示す付加情報51の表示位置や表示サイズ等に限定されるものではない。
図3Cには、STB14で音量調整やメニュー表示等のユーザ操作がなされ、この操作によるOSD(On Screen Display)画像52が映像50に重畳されている例を示す。以下、この例を「Case1」とする。
図3Dには、ユーザ操作によりSTB14がメニュー表示モードになり、複数の選択肢を表示部54に表示するために、各選択肢に対応した複数のアイコン55と、映像50を縮小した縮小映像53とが同時に表示部54に表示されている例を示す。以下、この例を「Case2」または「コンテンツ縮小表示」とする。
付加情報表示制御部46は、図3Cに示すCase1や、図3Dに示すCase2では、「表示部54に表示中の付加情報51を非表示にする」と判断し、制御部41に付加情報51の非表示を指示する。付加情報51の表示制御の詳細は、後述する。
[1−2.動作]
以上のように構成された映像受信装置40について、その動作を図4〜図11を用いて説明する。
上述したように、映像受信装置40は、例えばSTB14等の映像送信装置から出力される映像信号が入力されると、その映像信号に対する映像認識処理を映像認識装置20を利用して行う。そして、その映像認識処理の結果に関連する付加情報51(例えば、広告情報)を付加情報配信装置30から取得し、取得した付加情報51を映像信号に重畳して表示部54に表示する。
映像受信装置40は、取得した付加情報51(例えば、広告情報)を、その付加情報51とともに取得した広告表示制御情報に含まれる広告表示期間に応じて表示または非表示にする。この広告表示制御情報とは、上述した付加情報の表示制御情報の一種である。ただし、映像受信装置40は、表示部54に表示中の映像に画面構成の変更が生じたときは、広告表示期間終了前であっても表示中の付加情報51(例えば、広告情報)を非表示にする。なお、画面構成とは、表示部54に表示されている映像の状態(表示部54の画面に映る映像の構成)のことである。本実施の形態では、コンテンツを表示している映像からコンテンツ以外の情報をコンテンツに重畳して表示する映像に変化したり、コンテンツを表示している映像から別の映像に変化したりすることを「画面構成の変更」とする。
以下、表示部54に表示中の広告情報を、広告表示期間内に非表示にする動作を説明する。
[1−2−1.付加情報表示制御の動作]
図4は、実施の形態1における映像受信装置40で行う付加情報表示制御の動作を概略的に示すフローチャートである。
映像受信装置40の映像抽出部45は、STB14から出力され入力部65に入力される映像信号から部分映像を抽出する(ステップS10)。
制御部41は、映像抽出部45が抽出した部分映像を、映像認識要求とともに、HTTP送受信部42および通信ネットワーク16を介して映像認識装置20へ送信するように各回路ブロックを制御する。そして、その返信である映像認識処理の結果(解析情報)を、映像認識装置20から、通信ネットワーク16およびHTTP送受信部42を介して受信するように各回路ブロックを制御する。これにより、制御部41は、STB14から入力部65に入力された映像信号が表すコンテンツが何であるかを認識する(ステップS11)。
制御部41は、ステップS11で判明したコンテンツを示す情報を、HTTP送受信部42および通信ネットワーク16を介して付加情報配信装置30へ送信するように各回路ブロックを制御する。そして、そのコンテンツに関連する広告情報および広告表示制御情報を、付加情報配信装置30から、通信ネットワーク16およびHTTP送受信部42を介して取得するように各回路ブロックを制御する(ステップS12)。このとき、制御部41は、そのコンテンツに関連するURLを指定して付加情報配信装置30にアクセスすることで、そのコンテンツに関連する広告情報および広告表示制御情報を付加情報配信装置30から取得するように各回路ブロックを制御してもよい。例えば、映像認識装置20から取得する解析情報にURLが含まれていれば、制御部41は、そのURLを指定して付加情報配信装置30にアクセスして広告情報および広告表示制御情報を取得するように各回路ブロックを制御してもよい。
次に、制御部41は、ステップS12で取得した広告情報を記憶部47に記憶するように各回路ブロックを制御する。付加情報表示制御部46は、その広告情報を表示部54に表示するか否かを、広告表示制御情報に含まれる広告表示期間にもとづき判断する(ステップS13)。
広告表示期間の終了等により、広告情報を表示しないとの判断がステップS13でなされたとき(No)は、付加情報表示制御部46は、制御部41に対して広告情報の非表示を指示する。その指示により、制御部41は、表示部54に広告情報を表示中であればその広告情報を非表示にし、また、表示部54に広告情報を表示していなければその状態を継続するように、各回路ブロックを制御する。そして、ステップS10に戻り、一連の動作を繰り返す。
広告表示期間内である等の理由により、広告情報を表示するとの判断がステップS13でなされたとき(Yes)は、付加情報表示制御部46は、制御部41に対して広告情報の表示を指示する。その指示により、制御部41は、表示部54に広告情報を表示中であればその表示を継続するように各回路ブロックを制御する。また、表示部54に広告情報を表示していなければ、制御部41は、取得した広告情報を映像出力部44に出力し、映像出力部44は、制御部41から入力された広告情報を、入力部65から入力された映像信号に重畳して表示部54に表示するように各回路ブロックを制御する(ステップS14)。
次に、付加情報表示制御部46は、画面構成変更検出を行う(ステップS15)。画面構成変更検出とは、映像信号を出力しているSTB14で、OSD画像52の表示(Case1)が行われているか否か、および、コンテンツ縮小表示(Case2)が行われているか否か、を検出することである。本実施の形態では、通常の映像を表示している状態(例えば、図3B)からCase1(例えば、図3Cに示す映像)やCase2(例えば、図3Dに示す映像)等に移行することが「画面構成の変更」である。画面構成変更検出の詳細は後述する。
そして、画面構成の変更が検出されたか否かの判断が付加情報表示制御部46でなされる(ステップS16)。
ステップS16で「画面構成の変更が検出された」と判断された(Yes)ときは、付加情報表示制御部46は、制御部41に対して広告情報の非表示を指示する。制御部41は、付加情報表示制御部46から広告情報の非表示を指示されると、表示部54に表示中の広告情報を非表示にするために、映像出力部44への広告情報の出力を停止する(ステップS17)。
ステップS16で「画面構成の変更は検出されなかった」と判断された(No)ときは、広告情報の表示を継続し、広告表示制御情報に含まれる広告表示期間が終了するまで、ステップS10からステップS16までの一連の動作を繰り返す。そして、広告表示期間が終了すると、付加情報表示制御部46は、制御部41に対して広告情報の非表示を指示する。
映像受信装置40は、これら一連の動作を繰り返す。
次に、ステップS15の画面構成変更検出について説明する。
[1−2−2.画面構成変更検出の動作]
図5は、実施の形態1における映像受信装置40で行う画面構成変更検出の動作を概略的に示すフローチャートである。
付加情報表示制御部46は、UI(User Interface)表示検出を行う(ステップS20)。UI表示検出とは、映像信号の画面構成の状態を判別し、OSD画像52の表示や、コンテンツ縮小表示の発生を検出することである。
UI表示検出の概略を図6を用いて説明する。
図6Aは、実施の形態1における映像受信装置40で行うテンプレートマッチングの一例を概略的に示す図である。図6Bは、実施の形態1における映像受信装置40で行うテンプレートマッチングの他の一例を概略的に示す図である。図6Cは、実施の形態1における映像受信装置40で行うテンプレートマッチングに用いるテンプレート画像群60の一例を概略的に示す図である。なお、図6A、図6Bに示す探索領域61を示す枠線は、説明のために示しているに過ぎず、これらの枠線が実際に表示部54に表示されるわけではない。
図6Cに示すように、テンプレート画像群60には、OSD画像群とアイコン画像群とが含まれる。OSD画像のデザインはSTB14の機種毎に異なる。OSD画像群は、これら複数の機種のOSD画像で構成され、各OSD画像には、そのOSD画像を発生する機種の情報が紐付けされる。また、STB14はデザインが異なる複数のアイコンを表示する。アイコン画像群はこれら複数のアイコンの画像で構成される。
付加情報表示制御部46は、UI表示検出を行う際、図6A、図6Bに示すように、映像信号にもとづく映像50に対して探索領域61を設定する。探索領域61は、例えば映像50の1/6のサイズに設定されている。なお、探索領域61は何らこのサイズに限定されるものではなく、映像50の1/8、1/9、1/16等、テンプレートマッチングに適したサイズに設定すればよい。
なお、図6Aには、図3Cに示した映像に対してテンプレートマッチングを行う例を示し、図6Bには、図3Dに示した映像に対してテンプレートマッチングを行う例を示す。
そして、付加情報表示制御部46は、探索領域61を徐々に移動させながら(例えば、図6A、図6Bに矢印で示す方向に移動させながら)、テンプレート画像群60と探索領域61とのテンプレートマッチングを行う。例えば、図6Aに示す例では、このテンプレートマッチングによりOSD画像52を検出し、これにより、STB14が出力する映像信号がCase1の状態にあることを検出する。図6Bに示す例では、このテンプレートマッチングによりアイコン55を検出し、これによりSTB14が出力する映像信号がCase2のコンテンツ縮小表示状態にあることを検出する。これらの具体的な処理手順については、後述する。
以下、OSD画像52やアイコン55等のユーザインターフェースに使用される画像を「UI画像」と記す。また、STB14から出力される映像信号にUI画像が含まれている状態を「UI表示」と記す。
そして、ステップS20のUI表示検出の結果にもとづきUI表示の有無が付加情報表示制御部46で判断される(ステップS21)。
ステップS21で「UI表示あり」と判断された(Yes)ときは、付加情報表示制御部46は、「画面構成の変更を検出した」と判断する(ステップS24)。そして、図4に示したステップS16へ移行する。
ステップS21で「UI表示無し」と判断された(No)ときは、付加情報表示制御部46は、映像切替検出を行う(ステップS22)。映像切替検出については、後述する。
そして、ステップS22の映像切替検出の結果にもとづき映像切替えの有無が付加情報表示制御部46で判断される(ステップS23)。
ステップS23において「映像切替えあり」と判断されたとき(Yes)は、付加情報表示制御部46は、「画面構成の変更を検出した」と判断する(ステップS24)。そして、図4に示したステップS16へ移行する。
ステップS23において「映像切替え無し」と判断されたとき(No)は、付加情報表示制御部46は、「画面構成の変更を検出しなかった」と判断する。そして、図4に示したステップS16へ移行する。
次に、ステップS20のUI表示検出について説明する。
[1−2−3.UI表示検出の動作]
図7は、実施の形態1における映像受信装置40で行うUI表示検出の動作を概略的に示すフローチャートである。
付加情報表示制御部46は、映像送信装置(例えば、STB14)の機種情報、およびその機種(STB14の機種)に対応するテンプレート画像群、が記憶部47に記憶されているか否かを判断する(ステップS30)。
ステップS30で、STB14の機種情報およびその機種に対応するテンプレート画像群が記憶部47に記憶されており、これらの情報に基づいてSTB14の機種を特定できる、と判断された(Yes)ときは、付加情報表示制御部46は、その機種に対応するテンプレート画像群60を記憶部47から読み出す(ステップS31)。
そして、付加情報表示制御部46は、表示部54に表示中の画像に関して、読み出したテンプレート画像群60と探索領域61とのテンプレートマッチングを行う(ステップS33)。
テンプレートマッチングとは、探索の対象となる画像内でテンプレート画像を探索することである。テンプレートマッチングは、例えば次のようにして行う。まず、探索の対象となる画像から、探索窓と呼ばれる領域(探索領域61)を切り出す。そして、探索領域61とテンプレート画像との類似度を算出する。このとき、探索領域61を少しずつずらしたり、探索領域61のサイズを変えたりしながら、類似度の算出を行う。類似度の算出は、例えばヒストグラムをそれぞれ算出して互いに比較する、映像信号をそれぞれ周波数変換して互いに比較する、等、一般的に用いられている手法でかまわない。また、ここでは互いの画像の類似性が高いほど類似度が高くなるように類似度を算出するものとし、算出した類似度があらかじめ定めたしきい値以上のときに、その探索領域61にテンプレート画像が含まれている、と判断する。こうして、付加情報表示制御部46は、探索の対象となる画像内でテンプレート画像を探索する。なお、本実施の形態では、例えば顔検出に用いられているViola−Jones法等の画像探索手法を、テンプレートマッチングに代えて、あるいはテンプレートマッチングと併用して、用いてもよい。
ステップS30で、「STB14の機種を特定できない」と判断された(No)ときは、付加情報表示制御部46は、ステップS11で行った映像認識処理の結果を利用してSTB14の機種を推定し、推定した機種に対応するテンプレート画像群を取得して記憶部47に記憶する(ステップS32)。
例えば、ステップS11で行った映像認識処理の結果、部分映像が表すコンテンツは「ABC放送番組」であるという結果が得られれば、付加情報表示制御部46は、「ABC放送番組」を受信できる機種を、放送局12が提供するサーバ(図示せず)を利用して、取得する。取得した機種が1つであれば、その機種がSTB14の機種であると推定できる。また、取得した機種が複数あれば、その複数の機種の中にSTB14の機種が含まれていると推定できる。以下、この取得した機種を「機種候補」と記す。そして、付加情報表示制御部46は、機種候補に対応するテンプレート画像群を、テンプレート画像群を提供するサーバ(図示せず)から取得する。こうして取得したテンプレート画像群を記憶部47に記憶する。
そして、付加情報表示制御部46は、ステップS31、S33へ移行し、取得したテンプレート画像群と探索領域61とのテンプレートマッチングを行う。
付加情報表示制御部46では、テンプレートマッチングの結果にもとづき、UI表示(OSD画像52またはアイコン55の表示)の有無が判断される(ステップS34)。
ステップS34で、「OSD画像52またはアイコン55が表示されている」と判断された(Yes)ときは、付加情報表示制御部46は、「UI表示あり」という判断を下して(ステップS36)、図5に示したステップS21に移行する。
ステップS34で、「OSD画像52またはアイコン55は表示されていない」と判断された(No)ときは、付加情報表示制御部46では、全てのテンプレート画像に対してステップS33のテンプレートマッチングが行われたかどうかが判断される(ステップS35)。
ステップS35で、ステップS33のテンプレートマッチングは全てのテンプレート画像に対しては行われていない、と判断された(No)ときは、付加情報表示制御部46は、ステップS33に戻ってステップS33、S34の動作を繰り返す。
ステップS35で、全てのテンプレート画像に対してステップS33のテンプレートマッチングが行われた、と判断された(Yes)ときは、付加情報表示制御部46は、局所コンテンツ検出を行い(ステップS37)、図5に示したステップS21に移行する。
次に、ステップS37の局所コンテンツ検出について説明する。
[1−2−4.局所コンテンツ検出の動作]
図8Aは、実施の形態1における映像受信装置40の表示部54に表示する映像の一例を概略的に示す図である。図8Bは、実施の形態1における映像受信装置40で行う画像比較に用いるテンプレート映像の一例を概略的に示す図である。図8Cは、実施の形態1における映像受信装置40において局所コンテンツ検出用に表示映像に設定した複数の領域の一例を概略的に示す図である。図8Dは、実施の形態1における映像受信装置40において局所コンテンツ検出用にテンプレート映像に設定した複数の領域の一例を概略的に示す図である。図8Eは、実施の形態1における映像受信装置40において領域毎に算出した類似度の一例を概略的に示す図である。
なお、本実施の形態では、付加情報表示制御部46において局所コンテンツ検出を行う際、図8C、図8Dに示すように、1画面を領域(1)〜領域(30)の30領域に分割し、各領域毎に、表示映像とテンプレート映像とで比較を行い、類似度を算出する。しかし、1画面に設定する領域の数は何らこれらの数値に限定されるものではなく、局所コンテンツ検出を行うのに適した数値に設定すればよい。また、図8C、図8Dに示す各領域を区分けする線や数字は、説明のために示しているに過ぎず、これらの線や数字が実際に表示部54に表示されるわけではない。また、図8Eには、図8Cに示した各領域と図8Dに示した各領域とで比較を行い、各領域のそれぞれで類似度を算出して閾値と比較したときの例を示す。
図9は、実施の形態1における映像受信装置40で行う局所コンテンツ検出の動作を概略的に示すフローチャートである。
付加情報表示制御部46において局所コンテンツ検出を行う際は、まず、取得部66が、映像認識装置20から通信ネットワーク16およびHTTP送受信部42を介してテンプレート映像を取得する(ステップS40)。テンプレート映像は、映像認識装置20が放送局から取得したコンテンツの映像信号であり、制御部41が映像認識装置20から取得する映像認識処理の結果に含まれている。
制御部41が映像認識装置20から取得する映像認識処理の結果には、テンプレート映像とともにテンプレート映像の時間情報が含まれている。付加情報表示制御部46は、この時間情報にもとづき、テンプレート映像と、STB14から映像受信装置40の入力部65に入力される映像信号(以下、この映像信号による映像を「視聴映像」と記す)とが同時刻の映像となるように時間合わせを行う(ステップS41)。
次に、付加情報表示制御部46は、テンプレート映像を、例えば図8Dに示したように、複数(図8Dに示した例では、30)の領域に分割する(ステップS42)。
また、付加情報表示制御部46は、視聴映像を、例えば図8Cに示したように、複数(図8Cに示した例では、30)の領域に分割する(ステップS43)。
次に、付加情報表示制御部46は、テンプレート映像の領域(1)と視聴映像の領域(1)とを互いに比較して領域(1)の類似度を算出する。同様に、テンプレート映像の領域(2)以降の各領域と、視聴映像の領域(2)以降の各領域とを互いに比較して各領域の類似度をそれぞれ算出する(ステップS44)。なお、類似度の算出は、例えばヒストグラムをそれぞれ算出して互いに比較する、映像信号をそれぞれ周波数変換して互いに比較する、等、一般的に用いられている手法でかまわない。また、ここでは互いの画像の類似性が高いほど類似度が高くなるように類似度を算出するものとする。
次に、付加情報表示制御部46は、ステップS44で算出した類似度を、あらかじめ設定された閾値と比較する。そして、類似度が閾値未満の領域が所定数以上あるか否かを判断する(ステップS45)。この所定数は、例えば、2であるが、2以外の数値であってもよい。また、閾値は、互いに比較する2つの画像が互いに同じであると見なせる数値に設定することが望ましい。例えば、互いに比較する2つの画像が完全に同一のときの類似度が100%になるように類似度を算出する構成であれば、閾値は90%とする。しかし、閾値は、何らこの数値に限定されるものではない。
ステップS45において、「類似度が閾値未満の領域が所定数(例えば、2)以上ある」と判断された(Yes)ときは、付加情報表示制御部46は、「UI表示あり」という判断を下して(ステップS46)、図5に示したステップS21に移行する。
例えば、図8Cに示す例では、領域(1)、(2)、(7)、(8)、(13)、(14)、(19)、(20)、(25)、(26)にOSD画像52が表示されており、その結果、図8Eに示す例では、それらの領域(10の領域)の類似度が閾値未満になっている。すなわち、閾値未満の領域が所定数(例えば、2)以上あるので、この例では、付加情報表示制御部46は、「視聴映像にUI表示あり」という判断を下す。
ステップS45において、「類似度が閾値未満の領域が所定数未満である」と判断された(No)ときは、付加情報表示制御部46は、「UI表示無し」という判断を下して、図5に示したステップS21に移行する。
次に、ステップS22の映像切替検出について説明する。
[1−2−5.映像切替検出の動作]
図5に示したステップS21において、「UI表示無し」と判断された(No)ときは、付加情報表示制御部46は、ステップS22の映像切替検出を行い、映像切替えの有無を判断する。
図10は、実施の形態1における映像受信装置40で行う映像切替検出の動作を概略的に示すフローチャートである。
付加情報表示制御部46は、入力部65を介して入力される切替信号の検出を行う(ステップS50)。
STB14でユーザ操作によりチャンネル切替えや入力メディア切替え等が行われ、それらの切替えを通知する切替信号がSTB14から出力されたときは、ステップS50において、付加情報表示制御部46は、その切替信号を検出する(Yes)。
切替信号を検出した付加情報表示制御部46は、「映像切替えあり」という判断を下して(ステップS52)、図5に示したステップS23に移行する。
ステップS50において、切替信号が検出されなければ(No)、付加情報表示制御部46は、特定コンテンツの検出を行う(ステップS51)。
特定コンテンツとは、通常のコンテンツから特定コンテンツに切り替わったときに、映像信号(または音声信号、または異常を示す信号)の変化から映像切替えの有無を判断できるものを指し、例えば、ブラックミュート(ブルーバック)、音声ミュート、ストリームエラー、受信レベル低下、等を例として挙げることができる。
ステップS51において、特定コンテンツが検出されれば(Yes)、付加情報表示制御部46は、「映像切替えあり」という判断を下して(ステップS52)、図5に示したステップS23に移行する。
ステップS51において、特定コンテンツが検出されなければ(No)、付加情報表示制御部46は、「映像切替え無し」という判断を下して、図5に示したステップS23に移行する。
本実施の形態では、映像受信装置40において、表示部54に表示中の映像に画面構成の変更が生じたときに、表示部54に表示中の付加情報51(例えば、広告情報)を非表示にする動作を説明した。しかし、本実施の形態は何らこの動作に限定されない。例えば、表示部54に表示中の映像に画面構成の変更が生じたとき、変更後の画面構成に応じて、付加情報51の表示サイズや表示位置等を変更してもよい。図11Aは、実施の形態1における映像受信装置40の表示部54に表示する映像の他の一例を概略的に示す図である。図11Bは、実施の形態1における映像受信装置40の表示部54に表示する映像のさらに他の一例を概略的に示す図である。例えば、図3Cに示したCase1のときには、図11Aに一例を示すように、OSD画像52に重ならないように付加情報51の表示サイズおよび表示位置の少なくとも一方を変更するように映像受信装置40を構成してもよい。あるいは、図3Dに示したCase2のときには、図11Bに一例を示すように、アイコン55に重ならないように付加情報51の表示サイズおよび表示位置を変更するように映像受信装置40を構成してもよい。このように、本実施の形態では、OSD画像52やアイコン55等のUI画像に付加情報51が重なってUI画像の視認性が損なわれないように、付加情報51の表示サイズや表示位置を変更してもよい。あるいは、付加情報51の表示内容自体を変更したり、付加情報51を視覚的に表現するアイコンにデザイン変更したりしてもよい。
[1−3.効果等]
以上のように、本実施の形態において、映像受信装置40は、通信ネットワーク16を介してデータの送受信を行えるように構成されており、入力部65、映像抽出部45、制御部41、および付加情報表示制御部46、を備える。入力部65は、外部に設置された映像送信装置(例えば、STB14)から出力される映像信号を入力するように構成されている。映像抽出部45は、その映像信号から映像認識処理用の部分映像を抽出するように構成されている。制御部41は、通信ネットワーク16に接続された映像認識装置20にその部分映像を送信して映像認識処理を依頼し、その映像認識処理の結果を映像認識装置20から取得し、その映像認識処理の結果に基づく付加情報51(例えば、広告情報)を通信ネットワーク16に接続された付加情報配信装置30から取得する制御を行うように構成されている。付加情報表示制御部46は、その映像信号の画面構成に変更が生じたか否かを検出し、その検出の結果に基づき、付加情報51のその映像信号への重畳を制御するように構成されている。
これにより、映像受信装置40では、映像送信装置から入力される映像信号に関する付加情報51を取得してその映像信号に重畳するとともに、その映像信号の画面構成に応じて、付加情報51の映像信号への重畳を制御することが可能になる。
例えば、STB14等の映像送信装置では、音量調整やメニュー表示等のユーザ操作がなされ、この操作によりOSD画像52が映像50に重畳されたとしても(例えば図3Cに示すCase1の状態)、あるいは、ユーザ操作によりメニュー表示モードになり、複数のアイコン55と、映像50を縮小した縮小映像53とが1つの画面に混在したとしても(例えば図3Dに示すCase2の状態)、それらの映像信号を、通常の映像信号(映像50だけの映像信号)と区別することなく出力する場合がある。そのため、映像受信装置40では、入力部65に入力される映像信号が、通常の状態なのか、またはCase1の状態なのか、またはCase2の状態なのか、またはそれ以外の状態なのか、を判別することは困難である。
このような画面構成の変更が生じたとき、映像受信装置40では、変更後の画面構成にあわせて、直ちに付加情報51(例えば、広告情報)の映像信号への重畳を制御することが望ましい。例えば、変更後の画面構成にあわせて、付加情報51の映像信号への重畳を止めたり、付加情報51の表示サイズや表示位置等を変更したりして、OSD画像52やアイコン55が付加情報51に隠れることを防止することが望ましい。
本実施の映像受信装置40では、上述の構成により、映像送信装置(例えば、STB14)から入力される映像信号の画面構成に変更が生じたとき、変更後の画面構成を検出し、検出した画面構成にあわせて、付加情報51の映像信号への重畳を止めたり、付加情報51の表示サイズや表示位置等を変更したりすることが可能になる。したがって、映像受信装置40では、映像送信装置から入力される映像信号に、ユーザ操作によるOSD画像52やアイコン55等のUI画像が発生したとしても、それらUI画像が付加情報51に隠れて視認性が損なわれることを防止することが可能となる。
また、映像受信装置40は、映像信号に付加情報51を重畳した映像を表示するように構成された表示部54を備えていてもよい。
また、付加情報表示制御部46は、映像送信装置から入力される映像信号の画面構成の変更を検出したときに、表示部54に表示中の付加情報51を非表示にする制御を行うように構成されてもよい。
これにより、映像受信装置40は、映像送信装置(例えば、STB14)から入力される映像信号に画面構成の変更が生じたときに、表示部54に表示中の付加情報51を非表示にできるので、画面構成が変更された画像の視認性を付加情報51が損なうことを防止できる。
また、付加情報表示制御部46は、映像送信装置から入力される映像信号にUI画像が含まれているか否かを検出し、その検出結果に基づき、表示部54に表示中の付加情報51を非表示にする制御を行うように構成されてもよい。
これにより、映像受信装置40は、映像送信装置(例えば、STB14)から入力される映像信号に、ユーザ操作によるOSD画像52やアイコン55等のUI画像が発生したときに、表示部54に表示中の付加情報51を非表示にできるので、OSD画像52やアイコン55等のUI画像が付加情報51に隠れて視認性が損なわれることを防止することができる。
また、映像受信装置40は、映像信号を出力する映像送信装置に関する複数のテンプレート画像から構成されるテンプレート画像群60を記憶するように構成された記憶部47をさらに備えていてもよい。そして、付加情報表示制御部46は、映像送信装置から入力される映像信号に設定された探索領域61とテンプレート画像群60の各テンプレート画像とのテンプレートマッチングを行って映像信号にテンプレート画像が含まれているか否かを判断し、その判断に基づき映像信号にUI画像が含まれているか否かを検出するように構成されてもよい。
これにより、映像受信装置40は、映像送信装置(例えば、STB14)から入力される映像信号にUI画像が含まれているときに、そのUI画像をテンプレート画像とのテンプレートマッチングにより検出できるので、表示部54に表示中の付加情報51を非表示にする判断を適切に行うことができる。
また、映像受信装置40は、映像送信装置から入力される映像信号に関するテンプレート映像を映像認識装置20から取得するように構成された取得部66をさらに備えていてもよい。そして、付加情報表示制御部46は、映像信号およびテンプレート映像を複数の領域(例えば、図8C、図8Dに示した30の領域)に分け、テンプレート映像と映像信号とを領域毎に比較して領域毎に類似度を算出し、算出した類似度をあらかじめ設定された閾値と比較し、類似度が閾値を超えない領域が所定数以上あるか否かを判断して映像信号にUI画像が含まれているか否かを検出するように構成されてもよい。
これにより、映像受信装置40は、映像送信装置(例えば、STB14)から入力される映像信号にUI画像が含まれているにもかかわらず、そのUI画像をテンプレート画像とのテンプレートマッチングによって検出できないような状況が生じたとしても、テンプレート映像と映像信号とを領域毎に比較することでそのUI画像を検出できるので、表示部54に表示中の付加情報51を非表示にする判断を適切に行うことができるようになる。
また、付加情報表示制御部46は、映像信号を出力する映像送信装置に対して行われるコンテンツ切替操作を検出したときに、表示部54に表示中の付加情報51を非表示にする制御を行うように構成されてもよい。
これにより、映像受信装置40では、映像送信装置(例えば、STB14)でユーザ操作によりチャンネル切替えや入力切替え等が行われ、それらの切替えを通知する切替信号が映像送信装置から出力されたとき、付加情報表示制御部46は、その切替信号を検出し、表示部54に表示中の付加情報51を非表示にすることができる。したがって、映像受信装置40は、映像送信装置(例えば、STB14)においてチャンネル切りえ等のユーザ操作がなされ、映像送信装置から入力される映像信号のコンテンツが切り替わっているにもかかわらず、チャンネル切替え前のコンテンツに関連する付加情報51(例えば、広告情報)が表示部54に表示されたままになる、といった付加情報51の誤表示を防止することができる。
また、付加情報表示制御部46は、コンテンツ切替えの検知が可能な特定コンテンツを検知したときに、表示部54に表示中の付加情報51を非表示にする制御を行うように構成されてもよい。
これにより、映像受信装置40では、映像送信装置(例えば、STB14)から入力される映像信号が、通常のコンテンツから特定コンテンツ(例えば、ブラックミュート(ブルーバック)、音声ミュート、ストリームエラー、受信レベル低下、等)に切り替わったときに、表示部54に表示中の付加情報51を非表示にすることができる。例えば、映像受信装置40では、映像送信装置に放送信号受信レベルの低下や映像信号伝送時のストリームエラー等が生じて映像に乱れが生じたときに、表示部54に表示中の付加情報51を非表示にできる。あるいは、映像受信装置40では、映像送信装置においてチャンネル切替えや入力切替え等のユーザ操作がなされたときに、それらの操作時に一瞬発生するブランク画像(ブラックミュートやブルーバック、音声ミュート等)を検出して、表示部54に表示中の付加情報51を非表示にできる。したがって、チャンネル切替え前のコンテンツに関連する付加情報51(例えば、広告情報)が表示部54に表示されたままになる、といった付加情報51の誤表示を防止することができる。
(他の実施の形態)
以上のように、本出願において開示する技術の例示として、実施の形態1を説明した。しかしながら、本開示における技術は、これに限定されず、変更、置き換え、付加、省略等を行った実施の形態にも適用できる。また、上記実施の形態1で説明した各構成要素を組み合わせて、新たな実施の形態とすることも可能である。
そこで、以下、他の実施の形態を例示する。
実施の形態1では、映像受信装置40が表示部54を備えている構成を説明したが、本実施の形態における映像受信装置は何らこの構成に限定されるものではない。映像受信装置は表示部を備えていなくてもかまわない。
図12は、他の実施の形態における映像受信装置140の構成の一例を概略的に示すブロック図である。図12に示す映像受信装置140は、主に以下の点が、実施の形態1で図2に示した映像受信装置40と異なる。映像受信装置140は、表示部54を備えておらず、映像出力部144が、外部に設置された映像表示装置154に、有線または無線で、映像信号を出力するように構成されている。
このような映像受信装置140の一例として、例えば、録画機能、放送信号受信機能、映像信号入力機能、および映像信号出力機能を備え、外部に設置された映像表示装置154に映像信号を送信するように構成された録画装置等を挙げることができる。そのような録画装置には、例えばハードディスクレコーダや、DVDレコーダ、BDレコーダ、等がある。
なお、図12では、図2に示した映像受信装置40を構成する構成要素と実質的に等しい動作をする構成要素には同じ符号を付与し、説明を省略する。また、図12には、本実施の形態に示す動作に関連する主な回路ブロックを示し、他の動作に関する機能や回路ブロック(例えば、録画機能等)は省略している。
映像受信装置140では、映像出力部144から映像表示装置154に出力される映像信号に付加情報51を重畳するか否かの判断が、付加情報表示制御部46においてなされる。なお、付加情報表示制御部46における動作は実施の形態1と実質的に等しい。このような構成の映像受信装置140においても、実施の形態1に示した映像受信装置40と同様の効果を得ることができる。
なお、本実施の形態は、映像受信装置40から映像認識装置20に部分映像を送信してコンテンツ特定処理を依頼する構成を説明したが、本開示は何らこの構成に限定されない。例えば、映像受信装置40は、部分映像からフィンガープリント(例えば、部分映像を構成する各画像のハッシュ値)を生成し、そのフィンガープリントを映像認識装置20に送信してコンテンツ特定処理を依頼するように構成されていてもよい。その場合、映像認識装置20は、そのフィンガープリントを受信し、映像認識装置20があらかじめ生成して記憶部23に記憶しておいたフィンガープリントと照合し、受信したフィンガープリントに対応するコンテンツを検索するように動作する。
なお、本実施の形態に示した各構成要素は、それぞれを独立した専用の回路で構成してもよく、あるいは、それらの1つまたは複数の動作を実現するように作成されたプログラムをプロセッサーで実行する構成であってもよい。また、このときのプログラムは、サーバ等からのダウンロードにより取得されてもよく、所定の記録媒体(例えば、CD−ROM等の光ディスクや磁気ディスク、半導体メモリ等)を介して取得されてもよい。
また、本実施の形態に示したサーバにおける各動作は、単数のサーバで集中処理されてもよく、複数のサーバで分散処理されてもよい。
なお、実施の形態1に示した具体的な数値は、単に実施の形態における一例を示したものに過ぎず、本開示はこれらの数値に何ら限定されるものではない。各数値は映像受信装置の仕様等にあわせて最適な値に設定することが望ましい。
本開示は、外部に設置された映像送信装置から入力される映像信号に関する付加情報を取得し、取得した付加情報を映像信号へ重畳することが可能な映像受信装置に適用可能である。具体的には、テレビジョン受像機、ハードディスクレコーダ、DVDレコーダ、BDレコーダ、等に本開示は適用可能である。
10 付加情報表示システム
12 放送局
14 STB
16 通信ネットワーク
20 映像認識装置
21,42 HTTP送受信部
22 検索部
23,47 記憶部
30 付加情報配信装置
40,140 映像受信装置
41 制御部
43 操作信号受信部
44,144 映像出力部
45 映像抽出部
46 付加情報表示制御部
48 映像入力部
49 受信部
50 映像
51 付加情報
52 OSD画像
53 縮小映像
54 表示部
55 アイコン
60 テンプレート画像群
61 探索領域
65 入力部
66 取得部
154 映像表示装置

Claims (17)

  1. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置であって、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記通信ネットワークに接続された映像認識装置に、前記部分映像を送信して映像認識処理を依頼し、前記映像認識処理の結果を前記映像認識装置から取得し、前記通信ネットワークに接続された付加情報配信装置から前記映像認識処理の結果に基づく付加情報を取得する制御を行うように構成された制御部と、
    前記映像信号の画面構成に変更が生じたか否かを検出し、前記検出の結果に基づき、前記付加情報の前記映像信号への重畳を制御するように構成された付加情報表示制御部と、を備えた、
    映像受信装置。
  2. 前記映像信号に前記付加情報を重畳した映像を表示するように構成された表示部、をさらに備えた、
    請求項1に記載の映像受信装置。
  3. 前記付加情報表示制御部は、前記画面構成の変更を検出したときに、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項2に記載の映像受信装置。
  4. 前記付加情報表示制御部は、前記映像信号にUI(User Intereface)の画像が含まれているか否かを検出し、その検出結果に基づき、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項3に記載の映像受信装置。
  5. 前記映像信号を出力する映像送信装置に関する複数のテンプレート画像から構成されるテンプレート画像群を記憶するように構成された記憶部、をさらに備え、
    前記付加情報表示制御部は、前記映像信号に設定された探索領域と前記テンプレート画像群の各前記テンプレート画像とのテンプレートマッチングを行って前記映像信号に前記テンプレート画像が含まれているか否かを判断し、前記判断に基づき前記映像信号に前記UIの画像が含まれているか否かを検出するように構成された、
    請求項4に記載の映像受信装置。
  6. 前記映像認識装置から前記映像信号に関するテンプレート映像を取得するように構成された取得部、をさらに備え、
    前記付加情報表示制御部は、前記映像信号および前記テンプレート映像を複数の領域に分け、前記テンプレート映像と前記映像信号とを前記領域毎に比較して前記領域毎に類似度を算出し、前記類似度をあらかじめ設定された閾値と比較し、前記類似度が前記閾値を超えない領域が所定数以上あるか否かを判断して前記映像信号に前記UIの画像が含まれているか否かを検出するように構成された、
    請求項4に記載の映像受信装置。
  7. 前記付加情報表示制御部は、前記映像信号を出力する映像送信装置に対して行われるコンテンツ切替操作を検出したときに、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項3に記載の映像受信装置。
  8. 前記付加情報表示制御部は、コンテンツ切替えの検知が可能な特定コンテンツを検知したときに、前記表示部に表示中の前記付加情報を非表示にする制御を行うように構成された、
    請求項3に記載の映像受信装置。
  9. 通信ネットワークを介してデータの送受信を行えるように構成された映像受信装置における付加情報表示方法であって、
    外部から入力される映像信号から映像認識処理用の部分映像を抽出するステップと、
    前記通信ネットワークに接続された映像認識装置に、前記部分映像を送信して映像認識処理を依頼し、前記映像認識処理の結果を前記映像認識装置から取得するステップと、
    前記映像認識処理の結果に基づく付加情報を、前記通信ネットワークに接続された付加情報配信装置から取得するステップと、
    前記映像信号の画面構成に変更が生じたか否かを検出するステップと、
    前記検出の結果に基づき、前記付加情報の前記映像信号への重畳を制御するステップと、
    を備えた付加情報表示方法。
  10. 前記映像信号に前記付加情報を重畳した映像を表示部に表示するステップ、をさらに備えた、
    請求項9に記載の付加情報表示方法。
  11. 前記画面構成の変更を検出したときに、前記表示部に表示中の前記付加情報を非表示にする、
    請求項10に記載の付加情報表示方法。
  12. 前記映像信号にUIの画像が含まれているか否かを検出するステップ、をさらに備え、
    前記UI画像の検出結果に基づき、前記表示部に表示中の前記付加情報を非表示にする、
    請求項11に記載の付加情報表示方法。
  13. 前記映像信号を出力する映像送信装置に関する複数のテンプレート画像から構成されるテンプレート画像群を記憶するステップ、をさらに備え、
    前記映像信号に設定された探索領域と前記テンプレート画像の各前記テンプレート画像とのテンプレートマッチングを行って前記映像信号に前記テンプレート画像が含まれているか否かを判断し、前記判断に基づき前記映像信号に前記UIの画像が含まれているか否かを検出する、
    請求項12に記載の付加情報表示方法。
  14. 前記映像認識装置から前記映像信号に関するテンプレート映像を取得するステップ、をさらに備え、
    前記映像信号および前記テンプレート映像を複数の領域に分け、前記テンプレート映像と前記映像信号とを前記領域毎に比較して前記領域毎に類似度を算出し、前記類似度をあらかじめ設定された閾値と比較し、前記類似度が前記閾値を超えない領域が所定数以上あるか否かを判断して前記映像信号に前記UIの画像が含まれているか否かを検出する、
    請求項12に記載の付加情報表示方法。
  15. 前記映像信号を出力する映像送信装置に対して行われるコンテンツ切替操作を検出したときに、前記表示部に表示中の前記付加情報を非表示にする、
    請求項11に記載の付加情報表示方法。
  16. コンテンツ切替えの検知が可能な特定コンテンツを検知したときに、前記表示部に表示中の前記付加情報を非表示にする、
    請求項11に記載の付加情報表示方法。
  17. 通信ネットワークを介して互いにデータの送受信を行えるように構成された、映像受信装置、映像認識装置、および付加情報配信装置、を備えた付加情報表示システムであって、
    前記映像受信装置は、
    映像信号を入力するように構成された入力部と、
    前記映像信号から映像認識処理用の部分映像を抽出するように構成された映像抽出部と、
    前記映像認識装置に前記通信ネットワークを介して前記部分映像を送信して映像認識処理を依頼し、前記映像認識処理の結果を前記映像認識装置から前記通信ネットワークを介して取得し、前記付加情報配信装置から前記映像認識処理の結果に基づく付加情報を前記通信ネットワークを介して取得する制御を行うように構成された制御部と、
    前記映像信号の画面構成に変更が生じたか否かを検出し、前記検出の結果に基づき、前記付加情報の前記映像信号への重畳を制御するように構成された付加情報表示制御部と、を備え
    前記映像認識装置は、
    前記通信ネットワークを介して受信した前記部分映像に関する映像認識処理を行い、前記映像認識処理の結果を前記通信ネットワークを介して前記映像受信装置に送信するように構成され、
    前記付加情報配信装置は、
    前記通信ネットワークを介して受信した前記映像認識処理の結果に対応する付加情報を前記通信ネットワークを介して前記映像受信装置に送信するように構成された、
    付加情報表示システム。
JP2015528127A 2013-07-26 2014-07-02 映像受信装置、付加情報表示方法および付加情報表示システム Active JP6281126B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013155189 2013-07-26
JP2013155189 2013-07-26
PCT/JP2014/003526 WO2015011877A1 (ja) 2013-07-26 2014-07-02 映像受信装置、付加情報表示方法および付加情報表示システム

Publications (2)

Publication Number Publication Date
JPWO2015011877A1 true JPWO2015011877A1 (ja) 2017-03-02
JP6281126B2 JP6281126B2 (ja) 2018-02-21

Family

ID=52392944

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015528127A Active JP6281126B2 (ja) 2013-07-26 2014-07-02 映像受信装置、付加情報表示方法および付加情報表示システム

Country Status (4)

Country Link
US (1) US9955103B2 (ja)
EP (1) EP3026922B1 (ja)
JP (1) JP6281126B2 (ja)
WO (1) WO2015011877A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170094373A1 (en) * 2015-09-29 2017-03-30 Verance Corporation Audio/video state detector
KR20170052364A (ko) * 2015-11-04 2017-05-12 삼성전자주식회사 디스플레이장치 및 그 제어방법
US11044513B2 (en) * 2017-03-28 2021-06-22 Turner Broadcasting System, Inc. Platform for publishing graphics to air
KR102546026B1 (ko) 2018-05-21 2023-06-22 삼성전자주식회사 전자 장치 및 그의 컨텐츠 인식 정보 획득
KR102599951B1 (ko) * 2018-06-25 2023-11-09 삼성전자주식회사 전자 장치 및 그의 제어방법
KR102537781B1 (ko) * 2018-11-13 2023-05-30 삼성전자주식회사 전자 장치 및 이의 제어 방법
KR20200080387A (ko) 2018-12-18 2020-07-07 삼성전자주식회사 디스플레이 장치 및 그 제어 방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002209204A (ja) * 2000-04-14 2002-07-26 Nippon Telegr & Teleph Corp <Ntt> 放送情報に関連した情報の取得方法及びシステム並びに装置
JP2004007323A (ja) * 2001-06-11 2004-01-08 Matsushita Electric Ind Co Ltd テレビジョン放送受信機
JP2005167894A (ja) * 2003-12-05 2005-06-23 Matsushita Electric Ind Co Ltd コンテンツ切替方法、およびチャンネル切替方法
JP2006030244A (ja) * 2004-07-12 2006-02-02 Matsushita Electric Ind Co Ltd 情報端末及びプログラム
JP2013038773A (ja) * 2011-08-10 2013-02-21 Samsung Electronics Co Ltd 放送受信装置、放送信号に関する関連情報提供方法及びサーバ
JP2013070268A (ja) * 2011-09-22 2013-04-18 Sony Corp 受信装置、受信方法、プログラム、及び情報処理システム

Family Cites Families (100)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04245552A (ja) 1991-01-31 1992-09-02 Canon Inc データベース検索方法
JPH09185720A (ja) 1995-12-28 1997-07-15 Canon Inc 画像抽出装置
JP3731952B2 (ja) 1996-10-18 2006-01-05 シャープ株式会社 動画像検索用情報生成装置
JPH10214258A (ja) 1997-01-28 1998-08-11 Victor Co Of Japan Ltd データ処理システム
JP2000287189A (ja) 1999-03-31 2000-10-13 Toshiba Corp テレビ番組の視聴管理装置
JP3485020B2 (ja) 1999-04-09 2004-01-13 日本電気株式会社 文字認識方法及び装置ならびに記憶媒体
US8205223B2 (en) 2000-04-12 2012-06-19 Lg Electronics Inc. Method and video device for accessing information
CN100592788C (zh) 2000-04-14 2010-02-24 日本电信电话株式会社 与广播信息相关的信息取得方法、系统和装置
EP1286541B1 (en) 2000-04-14 2012-05-02 Nippon Telegraph And Telephone Corporation Method, system, and apparatus for acquiring information concerning broadcast information
JP2002016885A (ja) 2000-06-30 2002-01-18 Pioneer Electronic Corp 映像再生装置及び映像再生方法
US20020126990A1 (en) 2000-10-24 2002-09-12 Gary Rasmussen Creating on content enhancements
JP2002175311A (ja) 2000-12-08 2002-06-21 Nippon Telegr & Teleph Corp <Ntt> 映像情報登録方法、映像情報登録装置、映像情報検索方法及び映像情報検索装置
US6829015B2 (en) 2001-01-19 2004-12-07 Samsung Electronics Co., Ltd. Device and method for realizing transparency in an on screen display
JP2002232372A (ja) 2001-01-31 2002-08-16 Matsushita Electric Ind Co Ltd 放送番組関連情報提供装置
KR20020072453A (ko) 2001-03-10 2002-09-16 삼성전자 주식회사 재생장치 및 부가정보 서비스 서버 시스템
JP2002334010A (ja) 2001-05-11 2002-11-22 Tsubasa System Co Ltd 広域ネットワークシステム
US20030084462A1 (en) 2001-10-26 2003-05-01 Junichi Kubota Digital boradcast reception device and method thereof, and printing device and method thereof
US20030149983A1 (en) 2002-02-06 2003-08-07 Markel Steven O. Tracking moving objects on video with interactive access points
JP2004104368A (ja) 2002-09-06 2004-04-02 Sony Corp 画像データ処理方法、画像データ処理プログラム及び立体画像表示装置
KR100930351B1 (ko) 2003-02-25 2009-12-08 엘지전자 주식회사 고밀도 광디스크의 그래픽 및 서브타이틀 데이터관리방법
US20040237102A1 (en) 2003-03-07 2004-11-25 Richard Konig Advertisement substitution
US7809154B2 (en) 2003-03-07 2010-10-05 Technology, Patents & Licensing, Inc. Video entity recognition in compressed digital video streams
US7738704B2 (en) 2003-03-07 2010-06-15 Technology, Patents And Licensing, Inc. Detecting known video entities utilizing fingerprints
JP4374902B2 (ja) 2003-05-16 2009-12-02 富士通株式会社 類似画像検索装置、類似画像検索方法、および類似画像検索プログラム
JP4109185B2 (ja) 2003-12-01 2008-07-02 日本電信電話株式会社 映像シーン区間情報抽出方法,映像シーン区間情報抽出装置,映像シーン区間情報抽出プログラムおよびそのプログラムを記録した記録媒体
JP2005347806A (ja) 2004-05-31 2005-12-15 Toshiba Corp 電子機器および該電子機器にて実行される番組情報取得方法
US20070233285A1 (en) 2004-09-14 2007-10-04 Kakuya Yamamoto Apparatus Control System and Apparatus Control Method
US20060200842A1 (en) * 2005-03-01 2006-09-07 Microsoft Corporation Picture-in-picture (PIP) alerts
JP2006303936A (ja) 2005-04-21 2006-11-02 Matsushita Electric Ind Co Ltd コンテンツデータ、受信装置、生成装置および送信装置
WO2007017970A1 (ja) 2005-08-11 2007-02-15 Mitsubishi Denki Kabushiki Kaisha 映像記録装置、シーンチェンジ抽出方法、及び映像音声記録装置
JP3894940B2 (ja) 2005-08-11 2007-03-22 三菱電機株式会社 映像音声記録装置
EP1954041A4 (en) 2005-09-30 2010-01-27 Pioneer Corp SUMMARY PRODUCTION EQUIPMENT AND PROGRAM THEREFOR
JP2007134948A (ja) 2005-11-10 2007-05-31 Matsushita Electric Ind Co Ltd 駐車車両搭乗者撮像装置
US20070157242A1 (en) 2005-12-29 2007-07-05 United Video Properties, Inc. Systems and methods for managing content
JP4871668B2 (ja) 2006-08-01 2012-02-08 キヤノン株式会社 画像処理システム、画像処理方法及びプログラム
JP2008040622A (ja) 2006-08-02 2008-02-21 Sharp Corp 広告提供システム、広告提供装置、広告表示装置、広告提供方法およびプログラム
JP2008116792A (ja) 2006-11-07 2008-05-22 Sharp Corp 表示制御装置、映像表示機器及び表示制御方法
JP4746568B2 (ja) 2007-01-16 2011-08-10 ヤフー株式会社 情報提供装置、情報提供方法、及びプログラム
JP4957960B2 (ja) 2007-01-29 2012-06-20 ソニー株式会社 画像処理装置、画像処理方法、及びプログラム
US8281332B2 (en) 2007-05-02 2012-10-02 Google Inc. Animated video overlays
US8229227B2 (en) 2007-06-18 2012-07-24 Zeitera, Llc Methods and apparatus for providing a scalable identification of digital video sequences
US8433611B2 (en) 2007-06-27 2013-04-30 Google Inc. Selection of advertisements for placement with content
WO2009011030A1 (ja) 2007-07-17 2009-01-22 Pioneer Corporation 情報処理システム、並びに情報処理装置及び情報処理方法
JP5203648B2 (ja) 2007-07-20 2013-06-05 オリンパス株式会社 画像抽出装置および画像抽出プログラム
JP2009088777A (ja) 2007-09-28 2009-04-23 Dentsu Inc 広告選択最適化処理装置及びその処理方法
US8060609B2 (en) 2008-01-04 2011-11-15 Sling Media Inc. Systems and methods for determining attributes of media items accessed via a personal media broadcaster
US8621505B2 (en) 2008-03-31 2013-12-31 At&T Intellectual Property I, L.P. Method and system for closed caption processing
JP4623135B2 (ja) 2008-05-08 2011-02-02 株式会社デンソー 画像認識装置
EP2306717B1 (en) 2008-05-28 2019-10-09 Kyocera Corporation Communication terminal, search server, and communication system
WO2009150783A1 (ja) 2008-06-11 2009-12-17 パナソニック株式会社 パターン認識装置、パターン認識方法、画像処理装置及び画像処理方法
US8195689B2 (en) 2009-06-10 2012-06-05 Zeitera, Llc Media fingerprinting and identification system
US9367544B2 (en) 2008-06-18 2016-06-14 Gracenote, Inc. Method for efficient database formation and search on media devices acting synchronously with television programming
JP4640456B2 (ja) 2008-06-25 2011-03-02 ソニー株式会社 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
JP2012500585A (ja) 2008-08-18 2012-01-05 アイファロ メディア ゲーエムベーハー 補足情報配信
KR101380783B1 (ko) 2008-08-22 2014-04-02 정태우 영상에 포함된 객체를 식별하여 부가 서비스를 제공하는 시스템
US20100259684A1 (en) * 2008-09-02 2010-10-14 Panasonic Corporation Content display processing device and content display processing method
EP2605243B1 (en) 2008-09-17 2014-12-31 Panasonic Corporation Playback device
JP2010164901A (ja) 2009-01-19 2010-07-29 Sharp Corp Osd信号処理装置、av装置、映像表示システム、及びosd表示方法
WO2010084739A1 (ja) 2009-01-23 2010-07-29 日本電気株式会社 映像識別子抽出装置
US8260055B2 (en) 2009-03-27 2012-09-04 The Nielsen Company (Us), Llc Methods and apparatus for identifying primary media content in a post-production media content presentation
JP5434265B2 (ja) 2009-05-22 2014-03-05 三菱電機株式会社 領域分類装置、画質改善装置、映像表示装置、およびそれらの方法
JP5320204B2 (ja) 2009-07-31 2013-10-23 日本電信電話株式会社 情報端末装置、情報検索方法、および情報検索プログラム
US8421921B1 (en) 2009-07-31 2013-04-16 Pixelworks, Inc. Post processing displays with on-screen displays
JP5440051B2 (ja) 2009-09-11 2014-03-12 株式会社Jvcケンウッド コンテンツ同定方法、コンテンツ同定システム、コンテンツ検索装置及びコンテンツ利用装置
US8582952B2 (en) 2009-09-15 2013-11-12 Apple Inc. Method and apparatus for identifying video transitions
US8327407B2 (en) 2009-10-27 2012-12-04 Sling Media, Inc. Determination of receiving live versus time-shifted media content at a communication device
US8682145B2 (en) 2009-12-04 2014-03-25 Tivo Inc. Recording system based on multimedia content fingerprints
US20110137976A1 (en) 2009-12-04 2011-06-09 Bob Poniatowski Multifunction Multimedia Device
KR20110088334A (ko) 2010-01-28 2011-08-03 삼성전자주식회사 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 생성 방법 및 장치, 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 수신 방법 및 장치
US8355910B2 (en) * 2010-03-30 2013-01-15 The Nielsen Company (Us), Llc Methods and apparatus for audio watermarking a substantially silent media content presentation
JP5594002B2 (ja) 2010-04-06 2014-09-24 ソニー株式会社 画像データ送信装置、画像データ送信方法および画像データ受信装置
JP5111627B2 (ja) 2010-04-06 2013-01-09 キヤノン株式会社 映像処理装置及び映像処理方法
KR101819736B1 (ko) 2010-07-12 2018-02-28 코닌클리케 필립스 엔.브이. 3d 비디오 방송에서의 보조 데이터
JP2012027687A (ja) * 2010-07-23 2012-02-09 Casio Comput Co Ltd 画像処理装置及びプログラム
WO2012070251A1 (ja) 2010-11-25 2012-05-31 パナソニック株式会社 通信機器
US9106871B2 (en) 2011-04-01 2015-08-11 Google Inc. Detecting which channel a local STB is displaying using a local tuner
JP2012231383A (ja) 2011-04-27 2012-11-22 Nippon Telegr & Teleph Corp <Ntt> Iptvサービスを利用した情報表示制御装置、表示用情報提供サーバ、情報表示制御方法、情報配信方法、情報表示制御用プログラム、および情報配信用プログラム
KR101778530B1 (ko) 2011-06-14 2017-09-15 삼성전자 주식회사 영상 처리 방법 및 장치
KR101893151B1 (ko) 2011-08-21 2018-08-30 엘지전자 주식회사 영상 표시 장치, 단말 장치 및 그 동작 방법
US8805827B2 (en) 2011-08-23 2014-08-12 Dialogic (Us) Inc. Content identification using fingerprint matching
US20130111514A1 (en) 2011-09-16 2013-05-02 Umami Co. Second screen interactive platform
KR101310943B1 (ko) * 2011-09-26 2013-09-23 (주)엔써즈 방송 콘텐츠와 연관된 콘텐츠 연관 정보를 제공하는 시스템 및 방법
US20130094590A1 (en) 2011-10-12 2013-04-18 Vixs Systems, Inc. Video decoding device for extracting embedded metadata and methods for use therewith
US9626798B2 (en) 2011-12-05 2017-04-18 At&T Intellectual Property I, L.P. System and method to digitally replace objects in images or video
US9204199B2 (en) * 2011-12-06 2015-12-01 Lg Electronics Inc. Image display apparatus and methods for operating the same
JP2013125191A (ja) 2011-12-15 2013-06-24 Canon Inc 映像表示装置、映像表示方法及びプログラム
US20120092248A1 (en) 2011-12-23 2012-04-19 Sasanka Prabhala method, apparatus, and system for energy efficiency and energy conservation including dynamic user interface based on viewing conditions
KR20140119691A (ko) 2012-01-05 2014-10-10 엘지전자 주식회사 영상 표시 장치 및 그 동작 방법
WO2013112991A2 (en) 2012-01-27 2013-08-01 Xumo Llc System and method of augmenting linear broadcast advertising
US8832723B2 (en) 2012-02-07 2014-09-09 Turner Broadcasting System, Inc. Method and system for a synchronous event manager for automatic content recognition
EP2800392A4 (en) 2012-02-10 2015-09-09 Lg Electronics Inc IMAGE DISPLAY DEVICE AND OPERATING METHOD THEREFOR
JP5867133B2 (ja) 2012-02-10 2016-02-24 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
WO2013130988A1 (en) 2012-03-02 2013-09-06 Care Cam Innovations, Llc Apparatus, method and computer-readable storage medium for media processing and delivery
KR102116679B1 (ko) 2012-03-05 2020-05-29 엘지전자 주식회사 영상 표시 장치 및 그 동작 방법
US9292894B2 (en) 2012-03-14 2016-03-22 Digimarc Corporation Content recognition and synchronization using local caching
US8645994B2 (en) * 2012-06-28 2014-02-04 Microsoft Corporation Brand detection in audiovisual media
US9977823B2 (en) 2012-07-06 2018-05-22 Panasonic Intellectual Property Corporation Of America Content control method, content control apparatus, and program
JP5820986B2 (ja) 2013-03-26 2015-11-24 パナソニックIpマネジメント株式会社 映像受信装置及び受信映像の画像認識方法
US20150026718A1 (en) 2013-07-19 2015-01-22 United Video Properties, Inc. Systems and methods for displaying a selectable advertisement when video has a background advertisement
US9456237B2 (en) 2013-12-31 2016-09-27 Google Inc. Methods, systems, and media for presenting supplemental information corresponding to on-demand media content

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002209204A (ja) * 2000-04-14 2002-07-26 Nippon Telegr & Teleph Corp <Ntt> 放送情報に関連した情報の取得方法及びシステム並びに装置
JP2004007323A (ja) * 2001-06-11 2004-01-08 Matsushita Electric Ind Co Ltd テレビジョン放送受信機
JP2005167894A (ja) * 2003-12-05 2005-06-23 Matsushita Electric Ind Co Ltd コンテンツ切替方法、およびチャンネル切替方法
JP2006030244A (ja) * 2004-07-12 2006-02-02 Matsushita Electric Ind Co Ltd 情報端末及びプログラム
JP2013038773A (ja) * 2011-08-10 2013-02-21 Samsung Electronics Co Ltd 放送受信装置、放送信号に関する関連情報提供方法及びサーバ
JP2013070268A (ja) * 2011-09-22 2013-04-18 Sony Corp 受信装置、受信方法、プログラム、及び情報処理システム

Also Published As

Publication number Publication date
WO2015011877A1 (ja) 2015-01-29
EP3026922A1 (en) 2016-06-01
JP6281126B2 (ja) 2018-02-21
EP3026922A4 (en) 2016-08-03
US9955103B2 (en) 2018-04-24
US20160073047A1 (en) 2016-03-10
EP3026922B1 (en) 2021-01-06

Similar Documents

Publication Publication Date Title
JP6281126B2 (ja) 映像受信装置、付加情報表示方法および付加情報表示システム
JP6194484B2 (ja) 映像受信装置、付加情報表示方法および付加情報表示システム
KR101922997B1 (ko) 미디어 채널 변경을 검출하고 이에 응답하기 위한 방법 및 시스템
JP6281125B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
JP6379362B2 (ja) 映像受信装置、パラメータ設定方法および付加情報表示システム
JP2014192629A (ja) 映像受信装置及び受信映像の画像認識方法
JP6340596B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
JP6240899B2 (ja) 映像受信装置、映像認識方法および付加情報表示システム
US10750240B2 (en) Devices, systems, and methods for selecting media content based on advertisement detection
US10194216B2 (en) Video reception device, video recognition method, and additional information display system
JP2009302970A (ja) 移動体放送受信装置、放送録画装置、放送受信方法、放送録画方法、放送受信プログラム、放送録画プログラムおよび記録媒体

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171225

R151 Written notification of patent or utility model registration

Ref document number: 6281126

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151