JP2019213112A - 映像信号受信装置、及び映像信号受信方法 - Google Patents

映像信号受信装置、及び映像信号受信方法 Download PDF

Info

Publication number
JP2019213112A
JP2019213112A JP2018109299A JP2018109299A JP2019213112A JP 2019213112 A JP2019213112 A JP 2019213112A JP 2018109299 A JP2018109299 A JP 2018109299A JP 2018109299 A JP2018109299 A JP 2018109299A JP 2019213112 A JP2019213112 A JP 2019213112A
Authority
JP
Japan
Prior art keywords
image
video
video signal
similarity
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018109299A
Other languages
English (en)
Other versions
JP7128036B2 (ja
Inventor
優一 高木
Yuichi Takagi
優一 高木
連 今岡
Ren Imaoka
連 今岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2018109299A priority Critical patent/JP7128036B2/ja
Priority to US16/410,603 priority patent/US10659722B2/en
Publication of JP2019213112A publication Critical patent/JP2019213112A/ja
Application granted granted Critical
Publication of JP7128036B2 publication Critical patent/JP7128036B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/46Receiver circuitry for the reception of television signals according to analogue transmission standards for receiving on more than one standard at will
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0102Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving the resampling of the incoming video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/0122Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal the input and the output signals having different aspect ratios
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/0142Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes the interpolation being edge adaptive
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0442Handling or displaying different aspect ratios, or changing the aspect ratio
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/426Internal components of the client ; Characteristics thereof
    • H04N21/42607Internal components of the client ; Characteristics thereof for processing the incoming bitstream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Image Processing (AREA)
  • Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】同一の映像コンテンツを異なる映像信号で受信した際、ディスプレイに表示される映像を切り替えるとユーザが違和感を感じる場合がある。【解決手段】一実施の形態にかかる映像信号受信装置1は、同一の映像コンテンツを第1アスペクト比で送信する第1映像信号および第1アスペクト比と異なる第2アスペクト比で送信する第2映像信号を受信する。第2映像信号に含まれる第2映像のサイズ調整量を決定する際、第2映像信号に含まれる第2画像に対して拡縮処理を実施して拡縮画像を生成するともに、第2画像に対してシフト処理を実施してシフト画像を生成する。そして、第1映像信号に含まれる第1画像と拡縮画像との類似度を算出するとともに、第1画像とシフト画像との類似度を算出し、拡縮画像およびシフト画像のうち算出された類似度が高い方の画像を、次の拡縮処理およびシフト処理を実施する画像に用いる。【選択図】図1

Description

本発明は映像信号受信装置、及び映像信号受信方法に関し、例えば同一の映像コンテンツを異なる映像信号で受信することができる映像信号受信装置、及び映像信号受信方法に関する。
映像信号を送信する送信方式の一つに、同一の映像コンテンツを異なる映像信号で送信する送信方式がある。例えば、日本国内における地上デジタル放送では、画質と電波感度の異なる2つの映像信号(フルセグメント放送、ワンセグメント放送)が送出されている。フルセグメント放送(以下、フルセグと記載する)は、高解像度であるがノイズ耐性が弱く、電波受信感度が低下すると映像にノイズが発生する。一方、ワンセグメント放送(以下、ワンセグと記載する)は、低解像度であるがノイズ耐性が強く、電波受信感度に依存せずに一定の表示が可能である。フルセグ、ワンセグは同一の映像コンテンツ(同一の番組)を送出しているため、カーナビゲーションを代表とする移動体端末では電波受信感度に応じてフルセグとワンセグの切り替えを実施して、最適な映像を表示している。
特許文献1には、スケーリングにより発生し得る映像のずれを適切に補正することが可能な受信装置に関する技術が開示されている。
特開2010−251897号公報
上述のように、カーナビゲーション等の移動体端末では電波受信感度に応じてフルセグとワンセグとの切り替えを実施しており、この切り替えによって最適な映像を表示している。しかしながら、フルセグとワンセグとではエンコードの方式が異なるため、フルセグ映像とワンセグ映像との間に映像サイズ(アスペクト比)の違いや表示位置のずれが生じる。このため、フルセグとワンセグとを切り替えた際に、ディスプレイに表示される映像にずれが生じ、ユーザに違和感を感じさせるという問題がある。換言すると、同一の映像コンテンツを異なる映像信号で受信した際、ディスプレイに表示される映像を切り替えると、ユーザに違和感を感じさせる場合がある。
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
一実施の形態にかかる映像信号受信装置は、同一の映像コンテンツを第1アスペクト比で送信する第1映像信号および前記第1アスペクト比と異なる第2アスペクト比で送信する第2映像信号をそれぞれ受信する。第2映像信号に含まれる第2映像のサイズ調整量を決定する際、第2映像信号に含まれる第2画像を縮小または拡大する拡縮処理を実施して拡縮画像を生成するともに、第2画像を水平方向または垂直方向にシフトするシフト処理を実施してシフト画像を生成する。そして、第1映像信号に含まれる第1画像と拡縮画像との類似度を算出するとともに、第1画像とシフト画像との類似度を算出し、拡縮画像およびシフト画像のうち算出された類似度が高い方の画像を、次の拡縮処理およびシフト処理を実施する画像に用いる。
前記一実施の形態によれば、同一の映像コンテンツを異なる映像信号で受信した際に、ディスプレイに表示される映像を切り替えてもユーザが違和感を感じることを抑制することができる。
実施の形態1にかかる映像信号受信装置を説明するためのブロック図である。 実施の形態1にかかる映像信号受信装置の動作を説明するためのフローチャートである。 実施の形態1にかかる映像信号受信装置の動作を説明するためのフローチャートである。 類似度算出処理を説明するためのフローチャートである。 画像サイズ決定処理のフローを説明するための図である。 画像サイズ決定処理の具体例を説明するための図である。 実施の形態1にかかる映像信号受信装置の動作を説明するためのタイミングチャートである。 実施の形態1にかかる映像信号受信装置を備える映像受信システムの一例を示すブロック図である。 実施の形態2にかかる映像信号受信装置を説明するためのブロック図である。 実施の形態2にかかる映像信号受信装置の動作を説明するためのフローチャートである。 実施の形態2にかかる映像信号受信装置の動作を説明するための図である。 実施の形態3にかかる映像信号受信装置を説明するためのブロック図である。 実施の形態3にかかる映像信号受信装置の動作を説明するためのフローチャートである。 実施の形態4にかかる映像信号受信装置を説明するためのブロック図である。
<実施の形態1>
以下、図面を参照して実施の形態1について説明する。
図1は、実施の形態1にかかる映像信号受信装置を説明するためのブロック図である。図1に示すように、映像信号受信装置1は、受信処理部10、分離部11、第1映像復号部12_1、第2映像復号部12_2、第1映像調整部13_1、第2映像調整部13_2、演算処理部14、端処理部17、映像切替部18、及び出力制御部19を備える。演算処理部14は、類似度算出処理部15およびサイズ調整量決定処理部16を備える。
受信処理部10は映像信号を受信する。映像信号には、同一の映像コンテンツを第1アスペクト比で送信する第1映像信号と第2アスペクト比で送信する第2映像信号とが含まれている。例えば、映像信号は、地上デジタル放送の映像信号であり、この場合は、第1映像信号がフルセグの映像信号(高解像度)であり、第2映像信号がワンセグの映像信号(低解像度)である。受信処理部10は、TS(Transport Stream)データを分離部11に出力する。また、受信処理部10は、映像信号を受信したことを示す信号を演算処理部14に出力する。
なお、以下では、映像信号が地上デジタル放送の映像信号である場合を例として説明するが、本実施の形態にかかる映像信号受信装置1は、同一の映像コンテンツを第1アスペクト比で送信する第1映像信号と第2アスペクト比で送信する第2映像信号とを含む映像信号であれば、地上デジタル放送以外の映像信号にも適用することができる。
分離部11は、受信処理部10から供給されたTSデータに含まれる第1映像信号と第2映像信号とを分離し、分離した第1映像信号および第2映像信号をそれぞれ、第1映像復号部12_1および第2映像復号部12_2に出力する。
第1映像復号部12_1は、分離部11から供給された第1映像信号を復号する。例えば、第1映像信号(フルセグ)はMPEG2規格で符号化された信号である。この場合、第1映像復号部12_1はMPEG2デコーダで構成されており、第1映像信号はMPEG2デコーダを用いて復号される。復号された第1映像信号は、第1映像調整部13_1に供給される。
第2映像復号部12_2は、分離部11から供給された第2映像信号を復号する。例えば、第2映像信号(ワンセグ)はH.264規格で符号化された信号である。この場合、第2映像復号部12_2はH.264デコーダで構成されており、第2映像信号はH.264デコーダを用いて復号される。復号された第2映像信号は、第2映像調整部13_2に供給される。
なお、本実施の形態では、第1及び第2映像信号を符号化する規格を上述の例と逆にしてもよく、また、符号化する規格としてMPEG2規格およびH.264規格以外の規格を用いてもよい。この場合は、第1及び第2映像復号部12_1、12_2のそれぞれに、第1及び第2映像信号の規格に対応したデコーダを設ける。
第1映像調整部13_1は、復号された第1映像信号に含まれる第1映像のサイズを表示画面サイズに調整する。具体的には、第1映像調整部13_1は、第1映像を縮小または拡大する拡縮処理と、第1映像を水平方向または垂直方向にシフトするシフト処理とを実施することで、第1映像のサイズを表示画面サイズに調整する。ここで、表示画面サイズは、第1映像を表示するディスプレイのサイズに対応している。サイズ調整された後の第1映像信号は、映像切替部18に供給される。また、第1映像調整部13_1でサイズ調整された第1映像のうち、所定のタイミングにおける第1映像(この場合は静止画であるので「第1画像」と記載する)は、演算処理部14の類似度算出処理部15に供給される。
第2映像調整部13_2は、復号された第2映像信号に含まれる第2映像のサイズを調整する。具体的には、第2映像調整部13_2は、第2映像を縮小または拡大する拡縮処理と、第2映像を水平方向または垂直方向にシフトするシフト処理とを実施することで、第2映像のサイズを調整する。このとき、第2映像調整部13_2は、1度目の処理では、第2映像のサイズを表示画面サイズに調整する処理を実施し、この調整した第2映像を類似度算出処理部15に出力する。2度目以降の処理では、第2映像調整部13_2は、演算処理部14(サイズ調整量決定処理部16)におけるサイズ調整量決定処理の結果(画像サイズの調整量)に応じて、第2映像信号に含まれる第2映像のサイズを調整する。サイズ調整された後の第2映像信号は、端処理部17を経由して映像切替部18に供給される。
また、第2映像調整部13_2でサイズ調整された第2映像のうち、所定のタイミングにおける第2映像(この場合は静止画であるので「第2画像」と記載する)は、演算処理部14の類似度算出処理部15に供給される。ここで、第1映像調整部13_1から類似度算出処理部15に供給される第1画像と、第2映像調整部13_2から類似度算出処理部15に供給される第2画像は、時間同期された画像データ(つまり同一のタイミングにおける画像データ)であり、これらは同一の画像である。
演算処理部14は、第1映像信号に含まれる第1画像と第2映像信号に含まれる第2画像との類似度を算出する類似度算出処理と、第2映像信号に含まれる第2画像の画像サイズ調整量を類似度算出処理で算出された類似度に基づいて決定するサイズ調整量決定処理と、を実施する。類似度算出処理は類似度算出処理部15で実施され、サイズ調整量決定処理はサイズ調整量決定処理部16で実施される。例えば、演算処理部14は、映像信号を受信したことを示す信号を受信処理部10から受信したタイミングで、類似度算出処理およびサイズ調整量決定処理を開始する。例えば、映像信号を受信したことを示す信号は、映像信号の受信開始のタイミングや視聴している番組が切り替わったタイミングに、受信処理部10から演算処理部14に供給される。
演算処理部14は、類似度算出処理とサイズ調整量決定処理とを繰り返すことで、第2画像の画像サイズの調整量を決定するが、このとき演算処理部14は、類似度算出処理において算出される類似度が高くなるように第2画像の画像サイズを調整する。演算処理部14における類似度算出処理とサイズ調整量決定処理の詳細については後述する。なお、本明細書では、「類似度算出処理」および「サイズ調整量決定処理」を合わせて「画像サイズ決定処理」と記載する。
端処理部17は、第2映像調整部13_2でサイズ調整された第2映像に対して端処理を実施する。具体的には、端処理部17は、サイズ調整された後の第2映像をディスプレイに表示した際にディスプレイと第2映像との間に余白領域が生じる場合、この余白領域を補間する処理を実施する。また、端処理部17は、サイズ調整された後の第2映像をディスプレイに表示した際に表示領域外の領域が生じる場合、この表示領域外の領域を除去する処理を実施する。端処理部17で端処理された第2映像信号は、映像切替部18に供給される。
映像切替部18は、第1映像調整部13_1から出力された第1映像信号および端処理部17から出力された第2映像信号を入力し、第1映像信号および第2映像信号のうちのいずれか一方を出力制御部19に出力する。
ここで、第1映像信号はフルセグの映像信号であり、第2映像信号はワンセグの映像信号である。フルセグの映像信号(第1映像信号)は、高解像度であるがノイズ耐性が弱く、電波受信感度が低下すると映像にノイズが発生する。一方、ワンセグの映像信号(第2映像信号)は、低解像度であるがノイズ耐性が強く、電波受信感度に依存せずに一定の表示が可能である。例えば、映像切替部18は、フルセグの映像(第1映像)をディスプレイに表示している際に、第1映像信号の受信状況(電波受信感度)が所定の基準よりも悪化した場合に、第1映像信号(フルセグ)から第2映像信号(ワンセグ)に出力映像を切り替えるようにしてもよい。例えば、映像切替部18は、受信処理部10から受信状況に関する情報(符号20で示す)を取得し、この受信状況に関する情報に基づいて、第1映像信号(フルセグ)と第2映像信号(ワンセグ)とを切り替えてもよい。
また、映像切替部18は、ユーザの入力に応じて、第1映像信号(フルセグ)と第2映像信号(ワンセグ)とを切り替えるようにしてもよい。この場合は、ユーザインタフェース(不図示)から映像切替部18に切り替え信号(符号20で示す)が供給される。
出力制御部19は、映像切替部18から供給された映像信号(第1映像信号または第2映像信号)をディスプレイに表示する際の制御を実施する。
次に、本実施の形態にかかる映像信号受信装置の動作(映像信号受信方法)について説明する。図2、図3は、本実施の形態にかかる映像信号受信装置の動作を説明するためのフローチャートである。
図1に示す受信処理部10に映像信号(TSデータ)が供給されると、受信処理部10は供給された映像信号を分離部11に供給する。分離部11は、受信処理部10から供給されたTSデータに含まれる第1映像信号と第2映像信号とを分離し、分離した第1映像信号および第2映像信号をそれぞれ、第1映像復号部12_1および第2映像復号部12_2に出力する(図2のステップS1)。
次に、第1映像復号部12_1は、分離部11から供給された第1映像信号を復号する(ステップS2)。その後、第1映像調整部13_1は、復号された第1映像信号に含まれる第1映像のサイズを表示画面サイズに調整(正規化)する(ステップS3)。このとき、第1映像調整部13_1は、第1映像調整部13_1でサイズ調整された第1映像のうち、所定のタイミングにおける第1映像(この場合は静止画であるので「第1画像」と記載する)を類似度算出処理部15に供給する。
また、第2映像復号部12_2は、分離部11から供給された第2映像信号を復号する(ステップS4)。その後、第2映像調整部13_2は、復号された第2映像信号に含まれる第2映像のサイズを表示画面サイズに調整(正規化)する(ステップS5)。このとき、第2映像調整部13_2は、第2映像調整部13_2でサイズ調整された第2映像のうち、所定のタイミングにおける第2映像(この場合は静止画であるので「第2画像」と記載する)を類似度算出処理部15に供給する。
ここで、第1映像調整部13_1から類似度算出処理部15に供給される第1画像と、第2映像調整部13_2から類似度算出処理部15に供給される第2画像は、時間同期された画像データ(つまり同一のタイミングにおける画像データ)であり、これらは同一の画像である。なお、ステップS2〜S5の順序は、この順序に限定されることはない。
類似度算出処理部15に供給される第1画像および第2画像は、第1映像調整部13_1および第2映像調整部13_2において色差情報が除去された画像データであり、この場合は第1画像の各々の画素における輝度値および第2画像の各々の画素における輝度値が類似度算出処理部15に供給される。このように、第1画像の輝度値と第2画像の輝度値を用いることで、後述する類似度算出処理における計算量を削減することができる。また、人間の視覚は色差よりも輝度に敏感であることから、輝度値を用いることが好ましい。一方、本実施の形態では、類似度算出処理の計算精度を高めるために、輝度値に加えて色差情報を用いてもよい。また、輝度値を用いずに色差情報を用いてもよい。すなわち、類似度算出処理に用いる画素データ(輝度値、色差情報)は、計算量や計算精度を考慮してユーザが任意に決定することができる。
次に、類似度算出処理部15は、第1映像調整部13_1から供給された第1画像と第2映像調整部13_2から供給された第2画像の類似度R0を算出する(図3のステップS6)。このとき、類似度算出処理部15は、第1画像の各々の座標における画素値と、第1画像の各々の座標と対応する座標における第2画像の画素値とを用いて、類似度を算出する。上述したように、例えば、第1画像の画素値は第1画像の輝度値であり、第2画像の画素値は第2画像の輝度値である。以下、類似度算出処理について具体的に説明する。
図4は、類似度算出処理を説明するためのフローチャートである。図4のフローチャートに示すステップS21及びステップS25は、xの値を「0≦x<画像幅」の範囲で1ずつ増加させる処理を繰り返すループ処理を示している。また、ステップS22及びステップS24は、yの値を「0≦y<画像高さ」の範囲で1ずつ増加させる処理を繰り返すループ処理を示している。また、ステップS23は、第1画像の座標(x、y)における画素値P1(x、y)と、第2画像の座標(x、y)における画素値P2(x、y)との差の二乗をループ処理毎に加算する処理(つまり、sum=sum+{P1(x、y)−P2(x、y)})を示している。
図4に示すフローチャートでは、最初のループ処理において第1及び第2画像の座標(0、0)に対して、sum=sum+{P1(0、0)−P2(0、0)})を求める。また、次のループ処理(ステップS22〜ステップS24)では、第1及び第2画像の座標(0、1)に対して、sum=sum+{P1(0、1)−P2(0、1)})を求める。また、次のループ処理(ステップS22〜ステップS24)では、第1及び第2画像の座標(0、2)に対して、sum=sum+{P1(0、2)−P2(0、2)}を求める。このような処理を繰り返すことで、各々の座標(x、y)において、第1画像の座標(x、y)における画素値P1(x、y)と第2画像の座標(x、y)における画素値P2(x、y)との差の二乗の和を求めることができる。
その後、ステップS21〜S25で求めた値sumに対して、類似度R=1/{sum/(画像幅×画像高さ)}を演算することで、類似度Rを求めることができる(ステップS26)。つまり、「sum/(画像幅×画像高さ)」は平均二乗誤差を示しており、この平均二乗誤差の逆数を求めることで、類似度Rを算出することができる。
ここで、「画像幅」および「画像高さ」は、第1画像および第2画像のうち類似度算出処理で用いた領域の画像幅および画像高さに対応している。換言すると、類似度算出処理では第1画像および第2画像の重複する部分について類似度を算出しており、「画像幅」および「画像高さ」は、第1画像と第2画像とが重複する領域の画像幅および画像高さに対応している。類似度算出処理で用いる第1画像と第2画像の領域(画像幅および画像高さ)は任意に決定することができる。なお、第1画像の画像幅および画像高さと第2画像の画像幅および画像高さはそれぞれ同一である。
類似度Rは、第1画像と第2画像とが類似している度合いを示しており、類似度Rの値が高いほど第1画像と第2画像とが類似していることを示している。つまり、第1画像と第2画像とが類似している場合は、各々の座標において、第1画像の画素値P1(x、y)と第2画像の画素値P2(x、y)とが近似しているため、sum=sum+{P1(x、y)−P2(x、y)}の値が小さくなる。よって、この場合は、類似度R=1/{sum/(画像幅×画像高さ)}の値が大きくなる。
逆に、第1画像と第2画像とが類似していない場合は、各々の座標において、第1画像の画素値P1(x、y)と第2画像の画素値P2(x、y)とが近似していないため、sum=sum+{P1(x、y)−P2(x、y)}の値が大きくなる。よって、この場合は、類似度R=1/{sum/(画像幅×画像高さ)}の値が小さくなる。
次に、図3のフローチャートに示すように、ステップS6で算出した類似度R0を暫定的に類似度の最大値Rmaxに設定する(ステップS7)。
その後、サイズ調整量決定処理部16は、第2画像に対して拡縮処理を実施する(ステップS8)。具体的には、サイズ調整量決定処理部16は、第2映像調整部13_2を用いて第2画像に対して拡縮処理を実施する。このとき、サイズ調整量決定処理部16は、拡縮処理を実施するための命令を第2映像調整部13_2に出力する。第2映像調整部13_2は、サイズ調整量決定処理部16からの命令に応じて、第2画像に対して拡縮処理を実施する。なお、このとき拡縮処理される第2画像(元の画像)は、ステップS6で類似度R0を算出した際に用いた第2画像である。
第2映像調整部13_2は、例えば第2画像を垂直方向に1ライン分縮小することで拡縮処理を実施する。その後、第2映像調整部13_2は、拡縮処理された第2画像を類似度算出処理部15に出力する。類似度算出処理部15は、第1画像と拡縮処理された第2画像(拡縮画像)との類似度R1を算出する(ステップS9)。類似度R1を算出する処理については、ステップS6で説明した場合と同様であるので重複した説明は省略する。
次に、サイズ調整量決定処理部16は、第2画像に対してシフト処理を実施する(ステップS10)。具体的には、サイズ調整量決定処理部16は、第2映像調整部13_2を用いて第2画像に対してシフト処理を実施する。このとき、サイズ調整量決定処理部16は、第2画像に対してシフト処理を実施するための命令を第2映像調整部13_2に出力する。第2映像調整部13_2は、サイズ調整量決定処理部16からの命令に応じて、第2画像に対してシフト処理を実施する。なお、このときシフト処理される第2画像(元の画像)は、ステップS6で類似度R0を算出した際に用いた第2画像である。つまり、本実施の形態では、ステップS6で類似度R0を算出した際に用いた第2画像に対して、拡縮処理(ステップS8)とシフト処理(ステップS10)とをそれぞれ実施している。
第2映像調整部13_2は、例えば第2画像を垂直方向に1ライン分シフト(平行移動)することでシフト処理を実施する。その後、第2映像調整部13_2は、シフト処理された第2画像を類似度算出処理部15に出力する。類似度算出処理部15は、第1画像とシフト処理された第2画像(シフト画像)との類似度R2を算出する(ステップS11)。類似度R2を算出する処理については、ステップS6で説明した場合と同様であるので重複した説明は省略する。
その後、サイズ調整量決定処理部16は、ステップS9で算出した類似度R1とステップS11で算出した類似度R2とを比較する(ステップS12)。そして、類似度R1が類似度R2よりも大きい場合(ステップS12:No)、ステップS7で設定された類似度の最大値Rmaxと類似度R1とを比較する(ステップS13)。その結果、ステップS7で設定された類似度の最大値Rmaxよりも類似度R1が大きい場合(ステップS13:Yes)、類似度の最大値Rmaxを類似度R1の値に設定(更新)する(ステップS15)。その後、ステップS8〜ステップS16の処理を繰り返す。次のステップS8〜ステップS16の処理を繰り返す際、今回のステップS8において拡縮処理された第2画像(類似度R1の算出に用いられた第2画像)が次の拡縮処理およびシフト処理を実施する第2画像(基準画像)として用いられる。
一方、類似度R1が類似度R2よりも小さい場合(ステップS12:Yes)、ステップS7で設定された類似度の最大値Rmaxと類似度R2とを比較する(ステップS14)。その結果、ステップS7で設定された類似度の最大値Rmaxよりも類似度R2が大きい場合(ステップS14:Yes)、類似度の最大値Rmaxを類似度R2の値に設定(更新)する(ステップS16)。その後、ステップS8〜ステップS16の処理を繰り返す。次のステップS8〜ステップS16の処理を繰り返す際、今回のステップS10においてシフト処理された第2画像(類似度R2の算出に用いられた第2画像)が次の拡縮処理およびシフト処理を実施する第2画像(基準画像)として用いられる。
すなわち、本実施の形態にかかる映像信号受信装置では、第2画像に拡縮処理を実施した拡縮画像と第1画像との類似度R1を算出するとともに、第2画像にシフト処理を実施したシフト画像と第1画像との類似度R2を算出し、拡縮画像およびシフト画像のうち算出された類似度が高い方の画像を次の拡縮処理およびシフト処理を実施する画像(基準画像)に用いている。
図5は、本実施の形態にかかる映像信号受信装置における画像サイズ決定処理のフローを説明するための図である。図5の第2画像21は、初期の第2画像(縮小幅=0、シフト量=0)を示している。第2画像21は、ステップS6で類似度R0を算出した際の第2画像に対応している。本実施の形態では、まず、最初のフローにおいて、第2画像21に対して拡縮処理(ステップS8)とシフト処理(ステップS10)とを実施する。
すなわち、図5に示すように、第2画像21に対して拡縮処理(ステップS8)を実施する場合は、第2画像21を垂直方向に1ライン分縮小する処理を実施する。換言すると、第2画像21の画像高さが1ライン分削られた画像高さとなるような縮小率で、第2画像21を垂直方向に縮小する。第2画像21を縮小することで、第2画像21のアスペクト比が変更される。その後、縮小された画像の上端を、垂直方向の上端に揃える。図5に示す例では、第2画像21に対して拡縮処理を実施した第2画像22は、垂直方向の上側に1ライン分縮小されている(縮小幅=1、シフト量=0)。拡縮処理後の第2画像22は上端が揃えられている。
また、第2画像21に対してシフト処理(ステップS10)を実施する場合は、第2画像21のアスペクト比を変更することなく、第2画像21を垂直方向の下側に1ライン分平行移動する。図5に示す例では、第2画像21に対してシフト処理を実施した第2画像23は、垂直方向の下側に1ライン分シフトされている(縮小幅=0、シフト量=−1)。
その後、ステップS9において、第1画像と拡縮処理された第2画像(拡縮画像)22との類似度R1を算出する。また、ステップS11において、第1画像とシフト処理された第2画像(シフト画像)23との類似度R2を算出する。そして、第2画像(拡縮画像)22および第2画像(シフト画像)23のうち、算出された類似度R1、R2が高い方の画像が次の拡縮処理およびシフト処理を実施する画像(基準画像)に用いられる。図5に示す例では、第2画像(シフト画像)23の類似度R2よりも第2画像(拡縮画像)22の類似度R1のほうが大きいので、第2画像22が、次の拡縮処理およびシフト処理を実施する基準画像となる。
次のフロー(つまり、2回目のステップS8〜S16)において、第2画像22に対して拡縮処理およびシフト処理を実施する。すなわち、図5に示すように、新たな基準画像である第2画像22を垂直方向に1ライン分縮小し、その後、垂直方向の上端に画像の上端を揃えることで拡縮処理(ステップS8)を実施する。第2画像22に対して拡縮処理を実施した後の第2画像24の縮小幅およびシフト量、すなわち、第2画像21からのトータルの縮小幅およびシフト量は、縮小幅=2、シフト量=0となる。
また、新たな基準画像である第2画像22を垂直方向の下側に1ライン分平行移動することで、シフト処理(ステップS10)を実施する。第2画像22に対してシフト処理を実施した後の第2画像25の縮小幅およびシフト量、すなわち、第2画像21からのトータルの縮小幅およびシフト量は、縮小幅=1、シフト量=−1となる。
その後、ステップS9において、第1画像と拡縮処理された第2画像(拡縮画像)24との類似度R1を算出する。また、ステップS11において、第1画像とシフト処理された第2画像(シフト画像)25との類似度R2を算出する。そして、第2画像(拡縮画像)24および第2画像(シフト画像)25のうち、算出された類似度R1、R2が高い方の画像が次の拡縮処理およびシフト処理を実施する画像(基準画像)に用いられる。図5に示す例では、第2画像(拡縮画像)24の類似度R1よりも第2画像(シフト画像)25の類似度R2のほうが大きいので、第2画像(シフト画像)25が、次の拡縮処理およびシフト処理を実施する基準画像となる。
そして、次のフロー(つまり、3回目のステップS8〜S16)において、第2画像25に対して拡縮処理およびシフト処理を実施する。図5に示すように、第2画像25に対して拡縮処理を実施した第2画像26は、垂直方向の上側に1ライン分更に縮小されて、第2画像21からのトータルの縮小幅およびシフト量は、縮小幅=2、シフト量=−1となる。また、第2画像25に対してシフト処理を実施した第2画像27は、垂直方向の下側に1ライン分更にシフトされて、第2画像21からのトータルの縮小幅およびシフト量は、縮小幅=1、シフト量=−2となる。
その後、ステップS9において、第1画像と拡縮処理された第2画像(拡縮画像)26との類似度R1を算出する。また、ステップS11において、第1画像とシフト処理された第2画像(シフト画像)27との類似度R2を算出する。そして、第2画像(拡縮画像)26および第2画像(シフト画像)27のうち、算出された類似度R1、R2が高い方の画像が次の拡縮処理およびシフト処理を実施する画像に用いられる。以降、同様の動作を繰り返すことで、画像サイズ決定処理が実施される。
本実施の形態では、図3のフローチャートに示すステップS8〜S16を繰り返す際、すなわち、類似度算出処理とサイズ調整量決定処理とを繰り返す際、算出される類似度が高くなるように第2画像の画像サイズを調整する。そして、類似度の最大値Rmaxが最大となった際に(ステップS13:No、またはステップS14:No)、演算処理部14はステップS8〜S16の処理を終了する。そして、類似度の最大値Rmaxが最大となった際の拡縮量とシフト量を、第2画像の画像サイズ調整量として決定する。
第2映像調整部13_2は、決定された第2画像の画像サイズ調整量(拡縮量、シフト量)を用いて第2映像のサイズを調整し、調整後の第2映像を端処理部17に出力する。端処理部17は、決定された第2画像の画像サイズ調整量(拡縮量、シフト量)に基づいて、調整後の第2映像の端処理を実施する(ステップS17)。図5に示した例のように、第2画像に対して垂直方向に縮小する処理を実施した場合は、第2画像の上下に余白領域が発生する。このような場合、端処理部17は、余白領域を補間する処理を実施する。例えば、端処理部17は、予め保存されている補間用の画像を余白領域に埋め込むことで、余白領域を補間する処理を実施することができる。端処理部17で端処理された後の第2映像信号は、映像切替部18に供給される。
映像切替部18は、第1映像調整部13_1から出力された第1映像信号および端処理部17から出力された第2映像信号を入力し、第1映像信号および第2映像信号のうちのいずれか一方を出力制御部19に出力する。出力制御部19は、映像切替部18から供給された映像信号(第1映像信号または第2映像信号)をディスプレイ(不図示)に表示する際の制御を実施する。
上述の処理により、映像信号の受信処理が実施される。
なお、図5では拡縮処理の一例として第2画像を垂直方向に縮小した場合を示したが、拡縮処理は、垂直方向に拡大する処理、水平方向に縮小する処理、水平方向に拡大する処理、及びこれらを組み合わせた処理であってもよい。また、図5ではシフト処理の一例として、第2画像を垂直方向下側にシフトした場合を示したが、シフト処理は、垂直方向上側にシフトする処理、水平方向右側にシフトする処理、水平方向左側にシフトする処理、及びこれらを組み合わせた処理であってもよい。
例えば、上述の全ての拡縮処理およびシフト処理を組み合わせて実施してもよい。具体的には、垂直方向に縮小する処理と垂直方向下側にシフトする処理との組み合わせ、垂直方向に縮小する処理と垂直方向上側にシフトする処理との組み合わせ、垂直方向に縮小する処理と水平方向右側にシフトする処理との組み合わせ、垂直方向に縮小する処理と水平方向左側にシフトする処理との組み合わせ、垂直方向に拡大する処理と垂直方向下側にシフトする処理との組み合わせ、垂直方向に拡大する処理と垂直方向上側にシフトする処理との組み合わせ、垂直方向に拡大する処理と水平方向右側にシフトする処理との組み合わせ、垂直方向に拡大する処理と水平方向左側にシフトする処理との組み合わせ、水平方向に縮小する処理と垂直方向下側にシフトする処理との組み合わせ、水平方向に縮小する処理と垂直方向上側にシフトする処理との組み合わせ、水平方向に縮小する処理と水平方向右側にシフトする処理との組み合わせ、水平方向に縮小する処理と水平方向左側にシフトする処理との組み合わせ、水平方向に拡大する処理と垂直方向下側にシフトする処理との組み合わせ、水平方向に拡大する処理と垂直方向上側にシフトする処理との組み合わせ、水平方向に拡大する処理と水平方向右側にシフトする処理との組み合わせ、水平方向に拡大する処理と水平方向左側にシフトする処理との組み合わせ、を各々実施してもよい。
上述の拡縮処理およびシフト処理を組み合わせて実施した場合は、各々の組み合わせにおいて類似度が算出される。本実施の形態では、各々の組み合わせで算出された類似度のうち、最も高い類似度が得られた際の拡縮量とシフト量を、第2画像の画像サイズ調整量として決定する。このように、拡縮処理およびシフト処理の組み合わせを各々実施することで、画像サイズ決定処理を精度よく実施することができる。
このとき、特定の拡縮処理およびシフト処理の組み合わせを実施しても類似度が改善しない場合は、この特定の拡縮処理およびシフト処理を打ち切って、次の拡縮処理およびシフト処理の組み合わせを実施するようにしてもよい。
具体的に説明すると、例えば、第2画像を垂直方向に縮小する処理と第2画像を垂直方向下側にシフトする処理との組み合わせを実施した際、第2画像を垂直方向に縮小する処理を数回繰り返しても類似度が高くならない場合や第2画像を垂直方向下側にシフトする処理を数回繰り返しても類似度が高くならない場合には、これらの処理を打ち切って、次の拡縮処理およびシフト処理の組み合わせを実施するようにしてもよい。このように、類似度が高くならない処理を途中で打ち切ることで、全体の処理時間を短縮することができる。
また、上述の説明では、拡縮処理およびシフト処理を1ライン単位で実施する例を示したが、拡縮処理およびシフト処理は複数ライン単位(例えば、2ライン単位)で実施してもよい。このように、拡縮処理およびシフト処理を複数ライン単位で実施することで、画像サイズ決定処理にかかる処理時間を短縮することができる。一方、拡縮処理およびシフト処理を実施する単位ラインの数を大きくし過ぎると、画像サイズ決定処理の精度が悪化する。このため、拡縮処理およびシフト処理を実施する単位ラインの数は、画像サイズ決定処理にかかる処理時間と精度を考慮して決定することが好ましい。
図6は、画像サイズ決定処理の具体例を説明するための図である。図6に示す[例1]では、第2映像復号部12_2で復号された第2画像32aが、第1映像復号部12_1で復号された第1画像31aと比べて、垂直方向に伸びた画像となっている。このような第2画像32aに対して拡縮処理・シフト処理を実施する際は、図3のステップS8における拡縮処理において第2画像32aを垂直方向に縮小する処理と、ステップS10におけるシフト処理において第2画像32aを垂直方向にシフトする処理とを繰り返す。このような処理を繰り返すことで、第2映像出力例33aに示すように、第2画像32aのアスペクト比を第1画像31aのアスペクト比に合わせることができる。また、第2画像32aの垂直方向における位置を第1画像31aの垂直方向における位置に合わせることができる。なお、[例1]では第2画像32aに対して垂直方向に縮小する処理を実施しているので、第2映像出力例33aに示すように、第2画像の上下に余白領域が発生する。このような場合、端処理部17は、余白領域を補間する処理を実施する。
図6の[例2]では、第2映像復号部12_2で復号された第2画像32bが、第1映像復号部12_1で復号された第1画像31bと比べて、垂直方向において縮んだ画像となっている。このような第2画像32bに対して拡縮処理・シフト処理を実施する際は、図3のステップS8における拡縮処理において第2画像32bを垂直方向に拡大する処理と、ステップS10におけるシフト処理において第2画像32bを垂直方向にシフトする処理とを繰り返す。このような処理を繰り返すことで、第2映像出力例33bに示すように、第2画像32bのアスペクト比を第1画像31bのアスペクト比に合わせることができる。また、第2画像32bの垂直方向における位置を第1画像31bの垂直方向における位置に合わせることができる。なお、[例2]では第2画像32bに対して垂直方向に拡大する処理を実施しているので、第2映像出力例33bに示すように、第2画像の上下にディスプレイの表示領域外の領域が発生する。このような場合、端処理部17は、表示領域外の領域を除去する処理を実施する。
図6の[例3]では、第2映像復号部12_2で復号された第2画像32cが、第1映像復号部12_1で復号された第1画像31cと比べて、水平方向に伸びた画像となっている。このような第2画像32cに対して拡縮処理・シフト処理を実施する際は、図3のステップS8における拡縮処理において第2画像32cを水平方向に縮小する処理と、ステップS10におけるシフト処理において第2画像32cを水平方向にシフトする処理とを繰り返す。このような処理を繰り返すことで、第2映像出力例33cに示すように、第2画像32cのアスペクト比を第1画像31cのアスペクト比に合わせることができる。また、第2画像32cの水平方向における位置を第1画像31cの水平方向における位置に合わせることができる。なお、[例3]では第2画像32cに対して水平方向に縮小する処理を実施しているので、第2映像出力例33cに示すように、第2画像の左右に余白領域が発生する。このような場合、端処理部17は、余白領域を補間する処理を実施する。
図6の[例4]では、第2映像復号部12_2で復号された第2画像32dが、第1映像復号部12_1で復号された第1画像31dと比べて、水平方向において縮んだ画像となっている。このような第2画像32dに対して拡縮処理・シフト処理を実施する際は、図3のステップS8における拡縮処理において第2画像32dを水平方向に拡大する処理と、ステップS10におけるシフト処理において第2画像32dを水平方向にシフトする処理とを繰り返す。このような処理を繰り返すことで、第2映像出力例33dに示すように、第2画像32dのアスペクト比を第1画像31dのアスペクト比に合わせることができる。また、第2画像32dの水平方向における位置を第1画像31dの水平方向における位置に合わせることができる。なお、[例4]では第2画像32dに対して水平方向に拡大する処理を実施しているので、第2映像出力例33dに示すように、第2画像の左右にディスプレイの表示領域外の領域が発生する。このような場合、端処理部17は、表示領域外の領域を除去する処理を実施する。
図7は、本実施の形態にかかる映像信号受信装置の動作を説明するためのタイミングチャートであり、第1及び第2映像の出力タイミングと、画像サイズ決定処理のタイミングを示している。図7に示すように、視聴開始のタイミングt1において、出力制御部19は第1映像を出力する。また、演算処理部14は、第2画像に対して画像サイズ決定処理(図2、図3参照)を実施する。この画像サイズ決定処理は、タイミングt2において終了する。このとき求めた第2画像の画像サイズ調整量(拡縮量、シフト量)は、メモリ等の記憶手段(図8のメモリ104参照)に保存される。
なお、第1映像復号部12_1および第2映像復号部12_2は、分離部11から第1映像信号および第2映像信号が供給されている間、復号処理を常に実施している。例えば、出力制御部19が第1映像を出力している場合であっても、第2映像復号部12_2は第2映像信号を復号している。逆に、出力制御部19が第2映像を出力している場合であっても、第1映像復号部12_1は第1映像信号を復号している。
その後、タイミングt3において第1映像から第2映像に映像が切り替わると、第2映像調整部13_2は、保存されていた第2画像の画像サイズ調整量(拡縮量、シフト量)を用いて第2映像のサイズを調整する。そして、サイズ調整された後の第2映像は、出力制御部19からディスプレイに出力される。このとき、第2映像調整部13_2は、タイミングt3の前に第2画像の画像サイズ調整量(拡縮量、シフト量)を用いて第2映像のサイズを予め調整しておいてもよい。
その後、タイミングt4において第2映像から第1映像に映像が切り替わると、出力制御部19からディスプレイに第1映像が出力される。そして、タイミングt5において番組が切り替わると、演算処理部14は、切り替わった後の番組の第2画像に対して画像サイズ決定処理(図2、図3参照)を実施する。この画像サイズ決定処理は、タイミングt6において終了する。このとき求めた第2画像の画像サイズ調整量(拡縮量、シフト量)は、メモリ等の記憶手段に保存される。
例えば、番組の切り替えは、ユーザによるリモコン操作を用いて検出することができる。また、番組の切り替えは、電子番組表EPG(Electronic Program Guide)を用いても検出することができる。例えば、地上デジタル放送の場合はマルチチャンネル機能を備えるので、この場合は、現在視聴している番組(主チャンネル)が終了した後に、マルチチャンネル放送に自動的に切り替わるが、このときの番組の切り替えを電子番組表EPGを用いて検出することができる。番組が切り替わると、切り替わった後の映像信号を受信したことを示す信号が受信処理部10から演算処理部14に供給される(図1参照)。
その後、タイミングt7において第1映像から第2映像に映像が切り替わると、第2映像調整部13_2は、保存されていた第2画像の画像サイズ調整量(拡縮量、シフト量)を用いて第2映像のサイズを調整する。そして、サイズ調整された後の第2映像は、出力制御部19からディスプレイに出力される。
上述のように、本実施の形態にかかる映像信号受信装置では、視聴開始のタイミングt1、及び番組が切り替わったタイミングt5において画像サイズ決定処理を実施している。一度、画像サイズ調整量が決定されると、同一の番組を視聴している間は画像サイズ決定処理が不要となる。
また、本実施の形態では、第1映像および第2映像の各々1枚の画像に対して画像サイズ決定処理を実施しているが、画像調整の精度を高めるために複数の画像(フレーム)に対して継続的に画像サイズ決定処理を実施してもよい。
次に、本実施の形態にかかる映像信号受信装置のハードウェア構成について説明する。図8は、本実施の形態にかかる映像信号受信装置を備える映像受信システムの一例を示すブロック図であり、本実施の形態にかかる映像信号受信装置のハードウェア構成の一例を示している。
図8に示す映像受信システム100は、データ処理装置101、アンテナ102、チューナ103、メモリ104、及びディスプレイ105を備える。アンテナ102およびチューナ103は、デジタル放送の映像信号を受信する。データ処理装置101は、アンテナ102およびチューナ103で受信した映像信号に対して各種の処理を実施する。メモリ104はSDRAM(Synchronous Dynamic Random Access Memory)等で構成されており、データ処理装置101で実行するプログラムやデータを格納する。ディスプレイ105は、データ処理装置101で生成された映像を表示する。
データ処理装置101はLSI(Large Scale Integrated circuit)等の半導体チップで構成されている。データ処理装置101は、バス110、TSインタフェース111、デマルチプレクサ112、ビデオデコーダ113、ビデオスケーラ114、CPU(Central Processing Unit)115、メモリインタフェース116、及びディスプレイインタフェース117を備える。データ処理装置101を構成する各々の構成要素は、バス110を介して互いに接続されている。
TSインタフェース111は、図1の受信処理部10に対応している。TSインタフェース111は、チューナ103と通信を行い、チューナ103から映像信号を受信する。映像信号には第1映像信号(フルセグ)と第2映像信号(ワンセグ)とが含まれている。
デマルチプレクサ112は、図1の分離部11に対応しており、TSインタフェース111で受信した映像信号(TSデータ)に含まれる第1映像信号と第2映像信号とを分離する。
ビデオデコーダ113は、図1の第1映像復号部12_1および第2映像復号部12_2に対応しており、デマルチプレクサ112で分離された第1映像信号および第2映像信号を復号する。
ビデオスケーラ114は、図1の第1映像調整部13_1および第2映像調整部13_2に対応しており、復号された第1映像信号に含まれる第1映像および復号された第2映像信号に含まれる第2映像のサイズを調整する。
メモリインタフェース116は、データ処理装置101からメモリ104へのアクセスを制御する。ディスプレイインタフェース117は、図1の出力制御部19に対応しており、データ処理装置101で処理された映像信号(第1映像信号または第2映像信号)をディスプレイ105に表示する際の制御を実施する。
CPU(115)は、図1の演算処理部14に対応しており、上述の画像サイズ決定処理(つまり、類似度算出処理およびサイズ調整量決定処理)を実施する。また、CPU(115)は、データ処理装置101が備えるTSインタフェース111、デマルチプレクサ112、ビデオデコーダ113、ビデオスケーラ114、メモリインタフェース116、及びディスプレイインタフェース117をそれぞれ制御する。
例えば、ビデオデコーダ113は、CPU(115)からの制御に基づいて、第1映像信号および第2映像信号を復号する。また、ビデオスケーラは、CPU(115)からの制御に基づいて、第1映像信号に含まれる第1映像および第2映像信号に含まれる第2映像のサイズをそれぞれ調整する。
図1に示した映像信号受信装置1における各々の機能は、図8に示したメモリ104に格納されているプログラムをCPU(115)で実行することで実現される。
背景技術で説明したように、地上デジタル放送では、画質と電波感度の異なる2つの映像信号(フルセグ放送、ワンセグ放送)が送出されている。フルセグ、ワンセグは同一の映像コンテンツ(同一の番組)を送出しているため、カーナビゲーションを代表とする移動体端末では電波受信感度に応じてフルセグとワンセグの切り替えを実施して、最適な映像を表示している。
しかしながら、フルセグとワンセグとではエンコードの方式が異なるため、フルセグ映像とワンセグ映像との間に映像サイズ(アスペクト比)の違いが生じる。このため、フルセグとワンセグとを切り替えた際に、ディスプレイに表示される映像にずれが生じ、ユーザに違和感を感じさせるという問題があった。換言すると、同一の映像コンテンツを異なる映像信号で受信した際、ディスプレイに表示される映像を切り替えると、ユーザに違和感を感じさせる場合があった。
また、映像サイズ(アスペクト比)は各放送局によっても異なっており、このような各放送局間における画像サイズ(アスペクト比)の違いは、各放送局で用いられている画像処理装置(エンコード装置)の違いや、各放送局においてフルセグの映像からワンセグの映像を生成する際のスケーリングの違い等が原因の一つである。
上記課題を解決するために、本実施の形態にかかる映像信号受信装置では、第1映像信号に含まれる第1画像と第2映像信号に含まれる第2画像との類似度を算出する類似度算出処理と、第2映像信号に含まれる第2画像の画像サイズ調整量を類似度算出処理で算出された類似度に基づいて決定するサイズ調整量決定処理と、を実施している。そして、類似度算出処理とサイズ調整量決定処理とを繰り返す際、類似度算出処理で算出される類似度が高くなるように第2画像の画像サイズを調整している。具体的には、類似度算出処理で算出された類似度に基づいて第2画像の画像サイズ調整量を決定し、決定された画像サイズ調整量に応じて調整された第2画像と第1画像との類似度を算出し、算出された類似度に基づいて第2画像の画像サイズ調整量を決定する、処理を繰り返す際、類似度算出処理で算出される類似度が高くなるように第2画像の画像サイズ調整量を決定している。
このように、本実施の形態にかかる映像信号受信装置では、第1画像と第2画像の類似度が高くなるように第2画像の画像サイズを調整しているので、第1画像に対する第2画像のずれを小さくすることができる。すなわち、第2画像のアスペクト比を第1画像のアスペクト比に合わせることができる。よって、同一の映像コンテンツを異なる映像信号で受信した際に、ディスプレイに表示される映像を切り替えてもユーザが違和感を感じることを抑制することができる。
なお、特許文献1に開示されている技術では、上記の問題を解決するために、ワンセグの映像とフルセグの映像のそれぞれ対して特徴部分を検出し、検出した特徴部分の比較結果に基づいてスケーリング率を検出し、このスケーリング率を用いてワンセグの映像のずれを補正している。
しかしながら、特許文献1に開示されている技術では、一定以上の長さの縦線と横線の交点を特徴部分として検出しているため、例えば雨空のような明確な線や交点が存在しない映像の場合は、比較対象となる特徴部分を抽出することができない。この場合はスケーリング率を検出することができないため、ワンセグの映像のずれを適切に補正することができないという問題がある。
これに対して本実施の形態にかかる映像信号受信装置では、映像の特徴部分を検出するのではなく、第1映像信号に含まれる第1画像と第2映像信号に含まれる第2画像の類似度を定量的に算出することで画像サイズを調整しているので、映像の特徴部分に依存せずに最適な画像サイズ調整量を決定することができる。
<実施の形態2>
次に、実施の形態2について説明する。図9は、実施の形態2にかかる映像信号受信装置2を説明するためのブロック図である。本実施の形態かかる映像信号受信装置2は、実施の形態1で説明した映像信号受信装置1(図1等参照)と比べて、演算処理部40が領域決定部41を備える点が異なる。これ以外の構成及び動作については、実施の形態1で説明した映像信号受信装置と同様であるので、同一の構成要素には同一の符号を付し重複した説明は省略する。
図9に示すように、演算処理部40は、類似度算出処理部15、サイズ調整量決定処理部16に加えて、領域決定部41を備える。領域決定部41は、類似度算出処理とサイズ調整量決定処理とを実施する対象画像領域を決定する。
以下、本実施の形態にかかる映像信号受信装置2の動作について、図10に示すフローチャートを用いて説明する。なお、図10では、画像サイズ決定処理について説明しているが、これ以外の動作については実施の形態1で説明した場合(図2、図3参照)と同様である。
まず、領域決定部41は、第1画像および第2画像の画像領域を各々4つの領域に分割する(ステップS31)。具体的には、図11に示すように、第1画像および第2画像の画像領域51を領域1〜領域4に分割する。
その後、類似度算出処理部15は、各々の画像領域(領域1〜領域4)における類似度を算出する(ステップS32)。類似度を算出する処理については、実施の形態1で説明した場合(図4参照)と同様である。例えば、本実施の形態では、図4における類似度算出処理を実施する際に、第1及び第2画像の座標(x、y)を各々の領域1〜領域4に設定して各々の領域1〜領域4における類似度をそれぞれ算出する。そして、各々の画像領域(領域1〜領域4)のうち、算出された類似度が最も低い画像領域を対象画像領域に決定する(ステップS33)。本実施の形態では、一例として、図11の領域1を決定された対象画像領域xとする。
そして、決定された対象画像領域が所定のサイズであるか否かを判定する(ステップS34)。現時点での対象画像領域(図11参照)のサイズは1/4であるので、例えば、所定のサイズを1/16に設定した場合は(ステップS34:No)、再度、ステップS31〜S34の動作を繰り返す。
つまり、領域決定部41は、第1画像および第2画像の対象画像領域を各々4つの領域に分割する(ステップS31)。具体的には、図11に示すように、第1画像および第2画像の画像領域52の対象画像領域xを領域x−1〜領域x−4に分割する。その後、類似度算出処理部15は、各々の画像領域(領域x−1〜領域x−4)における類似度を算出する(ステップS32)。そして、各々の画像領域(領域x−1〜領域x−4)のうち、算出された類似度が最も低い画像領域を対象画像領域に決定する(ステップS33)。本実施の形態では、一例として、図11の領域x−4を決定された対象画像領域とする。
そして、決定された対象画像領域x−4が所定のサイズであるか否かを判定する(ステップS34)。今回の対象画像領域x−4のサイズは1/16であるので、所定のサイズ(1/16)と一致する(ステップS34:Yes)。
次に、ステップS33で決定された所定のサイズ(1/16)の対象画像領域x−4に対して画像サイズ決定処理を実施する(ステップS35)。画像サイズ決定処理は、演算処理部40の類似度算出処理部15およびサイズ調整量決定処理部16で実施される。画像サイズ決定処理を実施することで、画像サイズ調整量(拡縮量、シフト量)が決定される。なお、画像サイズ決定処理については、実施の形態1で説明した場合と同様であるので重複した説明は省略する。
その後、対象画像領域x−4の4倍の面積の領域1において、画像サイズ調整量を検証する(ステップS36)。具体的には、図11に示すように、対象画像領域x−4の4倍の面積の領域1に対して類似度算出処理を実施する。このとき、ステップS35で求めた画像サイズ調整量(拡縮量、シフト量)を用いて領域1の第2画像を調整して類似度算出処理を実施する。このとき求めた類似度が、ステップS35において画像サイズ調整量(拡縮量、シフト量)を求めた際の類似度(つまり、図3の「Rmax」に対応している)と同程度である場合、画像サイズ調整量が適切であると判定することができる。
一方、対象画像領域x−4の4倍の面積の領域1の類似度が、ステップS35において画像サイズ調整量(拡縮量、シフト量)を求めた際の類似度(つまり、図3の「Rmax」に対応している)よりも低い場合、画像サイズ調整量が不適切であると判定する。
画像サイズ調整量が不適切であると判定される場合の一例としては、例えば対象画像領域x−4に格子状の模様がある場合が挙げられる。すなわち、格子状の模様に対して画像サイズ決定処理を実施した場合は、局所的(対象画像領域x−4)に類似度が高くなるようにシフト処理を行ったとしても、シフトする方向が誤っていると、対象画像領域x−4の4倍の面積の領域1において類似度が低くなる場合がある。このような場合は、対象画像領域x−4の4倍の面積の領域1に対して、画像サイズ決定処理をやり直す(ステップS35参照)。
次に、対象画像領域が表示画面サイズか否かを判定する(ステップS37)。現時点では、対象画像領域(領域1)のサイズが1/4であるので(ステップS37:No)、再度、ステップS36の処理を繰り返す。すなわち、図11に示すように、対象画像領域(領域1)の4倍の面積の領域51(表示画面サイズ)に対して類似度算出処理を実施する。このとき、ステップS35で求めた画像サイズ調整量(拡縮量、シフト量)を用いて領域51(表示画面サイズ)の第2画像を調整して類似度算出処理を実施する。このとき求めた類似度が、ステップS35において画像サイズ調整量(拡縮量、シフト量)を求めた際の類似度(つまり、図3の「Rmax」に対応している)と同程度である場合、画像サイズ調整量が適切であると判定することができる。
その後、対象画像領域が表示画面サイズか否かを判定する(ステップS37)。今回は領域51が表示画面サイズであるので(ステップS37:Yes)、図10に示すフローチャートの処理を終了する。
上述の処理を実施することで、第2画像に対応する画像サイズ調整量(拡縮量、シフト量)を決定することができる。
本実施の形態では、分割した画像領域に対して画像サイズ決定処理を実施している。すなわち、画像サイズ決定処理を局所的に実施しているので、実施の形態1の場合よりも画像サイズ決定処理の時間を短縮することができる。
一例として、第2映像をNライン分垂直方向に縮小したケースについて、画面サイズ(display_pixel)を処理量の指標として、実施の形態1と実施の形態2の処理量を比較した結果を以下に示す。
[実施の形態1の処理量]
(1)類似度算出処理=display_pixel×1+display_pixel×(2×(N+1))
=display_pixel×(2N+3)
・「display_pixel×1」は、初期位置での類似度算出処理(図3のステップS6)を示す。
・「display_pixel×(2×(N+1))」は、N+1回の拡縮処理における類似度算出処理(図3のステップS8〜S16)を示す。
(2)サイズ調整量決定処理=display_pixel×(N+1)
・「display_pixel×(N+1)」は、N+1回の拡縮処理を示す。
[実施の形態2の処理量(画像領域を2回分割処理(1/16に分割)した場合)]
(1)類似度算出処理=display_pixel×1+(display_pixel/16)×2N+(display_pixel/4)×2+display_pixel×2=display_pixel×3+((8+2N)×display_pixel/16)
・「display_pixel×1」は、初期位置での類似度算出処理を示す。
・「(display_pixel/16)×2N」は、領域分割後の類似度算出処理を示す(図10のステップS35)。
・「(display_pixel/4)×2」は、1/4の画面サイズにおける検証用の類似度算出処理を示す(図10のステップS36)。
・「display_pixel×2」は、画面サイズにおける検証用の類似度算出処理を示す(図10のステップS36)。
(2)サイズ調整量決定処理=(display_pixel/16)×(N+1)+(display_pixel/4)×1+display_pixel×1=display_pixel+((5+N)×display_pixel)/16)
・「(display_pixel/16)×(N+1)」は、1/16に画面サイズを分割した後の拡縮処理を示す(図10のステップS35)。
・「(display_pixel/4)×1」は、1/4の画面サイズにおける検証用の拡縮処理を示す(図10のステップS36)。
・「display_pixel×1」は、画面サイズにおける検証用の拡縮処理を示す(図10のステップS36)。
実施の形態1における処理量は、類似度算出処理の処理量「display_pixel×(2N+3)」とサイズ調整量決定処理の処理量「display_pixel×(N+1)」とを加算した値「display_pixel×(3N+4)」となる。
また、実施の形態2における処理量は、類似度算出処理の処理量「display_pixel×3+((8+2N)×display_pixel/16)」とサイズ調整量決定処理の処理量「display_pixel+((5+N)×display_pixel)/16)」とを加算した値「display_pixel×4+(13+3N)×display_pixel/16」となる。
ここで、Nは1以上の整数であるので、実施の形態2における処理量「display_pixel×4+(13+3N)×display_pixel/16」は、実施の形態1における処理量「display_pixel×(3N+4)」に対して少ない量となる。
また、本実施の形態では、分割した画像領域のうち、類似度が最も低い画像領域を対象画像領域としている(図10のステップS33参照)。この理由は以下の通りである。すなわち、第1画像と第2画像の類似度が低い領域は、特徴量が多い物体が存在している領域であると推定することができる。
例えば、領域1に飛行機の画像があり、領域2に雲の画像がある場合、領域1の飛行機の画像は境界が明確であるが、領域2の雲の画像は境界がはっきりしない。このため、領域1と領域2の類似度を比較すると、領域2の画像(境界が不明確な画像)のほうが領域1の画像(境界が明確な画像)よりも、類似度が高くなる傾向がある。つまり、領域2の画像(境界が不明確な画像)のほうが領域1の画像(境界が明確な画像)よりも、第1画像と第2画像の画素値の平均二乗誤差が小さくなる傾向があり、このため類似度が高くなる傾向がある。本実施の形態では、類似度が低い画像領域を対象画像領域とすることで、特徴量が多い画像領域に対して画像サイズ決定処理を実施することができる。したがって、画像サイズ決定処理における精度を向上させることができる。
なお、上述した例では、分割した画像領域のうち、類似度が最も低い画像領域を対象画像領域としていた。しかしながら本実施の形態では、類似度が最も低い画像領域以外の画像領域(例えば分割した画像領域のうち類似度が2番目に低い画像領域など)を対象画像領域としてもよい。
また、本実施の形態では、初回の類似度算出処理(図10のステップS32)において、最小の画面分割単位(上記例では1/16)で各分割領域における類似度を保存しておいてもよい。このように類似度を保存しておくことで、以降の類似度算出処理(図10のステップS32)を省略することができ、処理時間を短縮することができる。
<実施の形態3>
次に、実施の形態3について説明する。図12は、実施の形態3にかかる映像信号受信装置3を説明するためのブロック図である。本実施の形態かかる映像信号受信装置3は、実施の形態1で説明した映像信号受信装置1(図1等参照)と比べて、データ管理部61を備える点が異なる。これ以外の構成及び動作については、実施の形態1で説明した映像信号受信装置と同様であるので、同一の構成要素には同一の符号を付し重複した説明は省略する。なお、本実施の形態は、実施の形態2と組み合わせてもよい。
図12に示すように、本実施の形態にかかる映像信号受信装置3は、データ管理部61を備える。データ管理部61は、過去に実施した画像サイズ決定処理によって決定された第2画像の画像サイズ調整量(拡縮量、シフト量)に関するデータを管理する。データ管理部61は、第1及び第2映像信号の送信元の放送局情報と画像サイズ調整量とを対応付けて管理する。このとき、データ管理部61は、第1及び第2映像信号の送信元の放送局情報と第1及び第2映像信号の復号情報(解像度情報)と画像サイズ調整量とを対応付けて管理してもよい。データ管理部61で管理する各々の情報(つまり、放送局情報、第1及び第2映像信号の復号情報、画像サイズ調整量)は、例えば、図8に示したように、外部に設けられたメモリ104に格納するようにしてもよい。
以下、本実施の形態にかかる映像信号受信装置3の動作について、図13に示すフローチャートを用いて説明する。なお、図13では、主にデータ管理部61の動作について説明しているが、これ以外の動作については実施の形態1で説明した場合(図2、図3参照)と同様である。
まず、図12に示す受信処理部10は、映像信号を受信した際、受信した映像信号の送信元の放送局情報をデータ管理部61に供給する。データ管理部61は、受信処理部10から供給された放送局情報(メタデータ)に対応する画像サイズ調整量を検索する(ステップS41)。このとき、データ管理部61は、更に第1及び第2映像信号の復号情報(解像度情報)を用いて画像サイズ調整量を検索してもよい。
ステップS41で検索した結果、放送局情報と一致するデータがある場合、データ管理部61は一致した画像サイズ調整量を演算処理部14に供給する(ステップS42:Yes)。その後、演算処理部14は、データ管理部61から供給された画像サイズ調整量を検証する(ステップS43)。具体的には、演算処理部14のサイズ調整量決定処理部16は、データ管理部61から供給された画像サイズ調整量を第2画像のサイズ調整量と決定する。その後、類似度算出処理部15は、画像サイズ調整量を用いて調整された第2画像と第1画像との類似度を算出する。また、類似度算出処理部15は、画像サイズ調整を実施していない第2画像と第1画像との類似度を算出する。そして、調整後の第2画像と第1画像との類似度が、画像サイズ調整を実施していない第2画像と第1画像との類似度よりも大きい場合に、データ管理部61から供給された画像サイズ調整量が適切であると判定する。このような処理により、データ管理部61から供給された画像サイズ調整量が適切であるか否かを判定する。なお、類似度算出処理部15およびサイズ調整量決定処理部16の動作については、実施の形態1で説明した場合と同様であるので、重複した説明は省略する。
例えば、放送局側の設備が更新されたなどの理由により、放送局側の符号化パラメータが変更される場合がある。このような場合は、データ管理部61から供給された画像サイズ調整量が適切でない場合も想定されるので、本実施の形態では、ステップS43において、データ管理部61から供給された画像サイズ調整量が適切であるか否かを検証している。
データ管理部61から供給された画像サイズ調整量が適切であると判定された場合は(ステップS44:Yes)、この画像サイズ調整量を用いて第2映像のサイズが調整される。
一方、ステップS42において放送局情報と一致するデータがない場合(ステップS42:No)、または、ステップS44において画像サイズ調整量が適切でないと判定された場合は(ステップS44:No)、演算処理部14は、第2画像の最適な画像サイズ調整量を改めて求めるために画像サイズ決定処理を実施する(ステップS45)。画像サイズ決定処理は、演算処理部40の類似度算出処理部15およびサイズ調整量決定処理部16で実施される。画像サイズ決定処理を実施することで、第2画像の画像サイズ調整量(拡縮量、シフト量)が決定される。なお、画像サイズ決定処理については、実施の形態1で説明した場合と同様であるので重複した説明は省略する。
ステップS45で決定された画像サイズ調整量は、映像信号の送信元の放送局情報と対応付けて新たにデータ管理部61に登録される(ステップS46)。また、ステップS45で決定された画像サイズ調整量を用いて第2映像のサイズが調整される。
本実施の形態にかかる映像信号受信装置3では、データ管理部61において、放送局情報と画像サイズ調整量とを対応付けて管理している。そして、受信した映像信号の放送局情報と一致するデータ(画像サイズ調整量)がある場合、一致した画像サイズ調整量を用いて第2映像の画像サイズを調整している。このように画像サイズ調整量が一致した場合は、画像サイズ決定処理を省略することができるので、映像信号受信処理にかかる時間を短縮することができる。
一例として、データ管理部61で管理していた画像サイズ調整量を用いて第2映像の画像サイズを調整した場合の処理量を示す。なお、以下では画面サイズ(display_pixel)を処理量の指標としている。
[実施の形態3の処理量]
(1)類似度算出処理=display_pixel×1 ;初期位置での類似度算出処理
+display_pixel×1 ;検索データによる類似度算出処理
+display_pixel×1 ;検証用類似度算出処理
=display_pixel×3
(2)サイズ調整量決定処理=display_pixel×1 ;検索データによる拡縮処理
+display_pixel×1 ;検証用拡縮処理
=display_pixel×2
実施の形態3の処理量は、上述した実施の形態1、2の処理量に比べて大幅に少ない。よって、データ管理部61を設けることで、映像信号受信処理にかかる時間を短縮することができる。
<実施の形態4>
次に、実施の形態4について説明する。図14は、実施の形態4にかかる映像信号受信装置4を説明するためのブロック図である。本実施の形態かかる映像信号受信装置4は、実施の形態1で説明した映像信号受信装置1(図1等参照)と比べて、対象画像決定部71を備える点が異なる。これ以外の構成及び動作については、実施の形態1で説明した映像信号受信装置と同様であるので、同一の構成要素には同一の符号を付し重複した説明は省略する。なお、本実施の形態は、実施の形態2、3と組み合わせてもよい。
例えば、電波の受信状況が悪いときなどは、復号される映像にノイズが含まれる場合がある。このような画像を画像サイズ決定処理に用いると、第2画像のサイズを適切に決定することができないという問題がある。本実施の形態にかかる映像信号受信装置4では、対象画像決定部71を設けて、画像サイズ決定処理に用いる対象画像からノイズが多い画像を除外することでこのような問題を解決している。以下、本実施の形態かかる映像信号受信装置4について詳細に説明する。
図14に示すように、本実施の形態にかかる映像信号受信装置4は、対象画像決定部71を備える。対象画像決定部71は、第1映像復号部12_1及び第2映像復号部12_2から各々供給された量子化パラメータを用いて、類似度算出処理とサイズ調整量決定処理とを実施する対象画像を決定する。例えば、対象画像決定部71は、第1映像復号部12_1及び第2映像復号部12_2から各々供給された量子化パラメータが所定の閾値よりも小さい画像を対象画像と決定することができる。
例えば、対象画像決定部71は、第1映像復号部12_1及び第2映像復号部12_2から量子化パラメータを取得した際に、1GOP(Group Of Pictures)程度の量子化パラメータを蓄積し、量子化パラメータの平均値を算出する。この平均値を再生映像の量子化パラメータの閾値として決定し、次に閾値を下回る量子化パラメータを取得した際に、この量子化パラメータに対応する第1画像および第2画像を対象画像と決定する。そして、決定された対象画像に対して画像サイズ決定処理を実施する。画像サイズ決定処理については、実施の形態1で説明した場合と同様であるので重複した説明は省略する。なお、量子化パラメータの閾値は、上述のように平均値を用いて算出するのではなく、予め定められた絶対値を用いてもよい。
量子化パラメータは、映像信号の符号化パラメータの1つであり、H.264規格ではQP値(Quantization Parameter)が、MPEG2規格ではQS値(Quantizer Scale)が用いられている。量子化パラメータは、画質とビットレートに関係するパラメータであり、量子化パラメータを小さくすると画質劣化を抑えることができるがビットレートが高くなる。一方、量子化パラメータを大きくすると画質は劣化するがビットレートを抑制できる。放送局のデジタル放送送出装置では、規定されたビットレートを超えないように量子化パラメータを調整している。本実施の形態では、量子化パラメータと画質に相関関係があることに着目し、量子化パラメータが所定の閾値よりも小さい画像を対象画像と決定することで、画像サイズ決定処理の精度を向上させている。
また、本実施の形態では、対象画像決定部71は、第1映像復号部12_1及び第2映像復号部12_2から供給された復号エラー情報を用いて、類似度算出処理とサイズ調整量決定処理とを実施する対象画像を決定してもよい。例えば、対象画像決定部71は、第1映像復号部12_1及び第2映像復号部12_2から供給された復号エラー情報がエラーを示した画像を、対象画像から除外するようにしてもよい。ここで、復号エラーとは、電波の受信状況が悪いときなどに、第1映像復号部12_1及び第2映像復号部12_2が映像を適切に復号できないことを意味する。
更に、本実施の形態では、対象画像決定部71は、類似度算出処理とサイズ調整量決定処理とを実施する対象画像を決定する際、第1映像復号部12_1及び第2映像復号部12_2から供給された量子化パラメータおよび復号エラー情報の両方を用いて決定してもよい。この場合は、量子化パラメータが所定の閾値よりも小さい画像を対象画像と決定するとともに、復号エラー情報がエラーを示した画像を対象画像から除外することで、画像サイズ決定処理の精度を向上させることができる。
以上で説明した本実施の形態にかかる映像信号受信装置では、量子化パラメータや復号エラー情報を用いて対象画像を決定している。よって、画質の劣化が著しい画像(ノイズが多い画像)を対象画像から除外することができるので、画像サイズ決定処理の精度を向上させることができる。
なお、本実施の形態にかかる技術内容は、実施の形態2にかかる映像信号受信装置にも適用することができる。すなわち、実施の形態2で説明した映像信号受信装置では、画像領域を分割し、この分割した画像領域に対して画像サイズ決定処理を局所的に実施していた。このため、分割した画像領域内にノイズが存在する場合は画像サイズ決定処理において誤検出(エラー)が発生する場合があった。このような問題は、本実施の形態にかかる映像信号受信装置のように量子化パラメータを用いることで解決することができる。すなわち、分割された領域の量子化パラメータが所定の閾値よりも小さいことを条件とすることで、画像サイズ決定処理において誤検出(エラー)を抑制することができる。
このとき、実施の形態2で説明した映像信号受信装置において、分割領域の最小サイズ(図11に示す例では、領域x−1等であり、画像領域52の1/16)を「第2映像の符号化マクロブロック×表示画面への拡大率」以上となるようにすることが好ましい。
すなわち、「符号化マクロブロック」とは符号化する際のブロック単位であり、このブロック単位で量子化パラメータが決定される。また、「表示画面への拡大率」とは第2映像を表示画面に表示する際の拡大率である。例えば、第2映像の画面解像度がQVGA(320×240)であり、表示画面の画面解像度がフルHD(1920×1080)である場合は、「表示画面への拡大率」はQVGAをフルHD(1920×1080)の表示画面に表示する際の拡大率であり、約5〜6倍程度となる。
したがって、分割領域の最小サイズ(図11に示す例では、領域x−1等)を「第2映像の符号化マクロブロック×表示画面への拡大率」以上とすることで、最小サイズの分割領域(図11に示す例では、領域x−1等)の中に、少なくとも1つの符号化マクロブロックを含めることができる。よって、最小サイズの分割領域に含まれる符号化マクロブロックの量子化パラメータを用いて、対象画像を決定することができる。つまり、分割された領域(例えば、図11の領域x−1)に含まれるマクロブロックの量子化パラメータが所定の閾値よりも小さい画像を対象画像と決定することで、画像サイズ決定処理において誤検出(エラー)を抑制することができる。
以上で説明した実施の形態1〜4にかかる映像信号受信装置は、海外のデジタル放送規格やインターネットのストリーミングサービスやテレビ・インターネット同時放送におけるシームレスな切り替えにも適用可能である。
例えば、アメリカのデジタル放送規格であるATSC M/H、中国のデジタル放送規格であるDTMB、ヨーロッパのデジタル放送規格であるDVB Tにおけるサイマル放送の切り替えを行う場合、それぞれの画像(上述の第1画像および第2画像に対応)を比較して画像サイズを調整してもよい。このような処理により、海外各国のデジタル放送において映像切り替わり時の違和感を低減することができる。
また、電波状況に応じて入力ソース(テレビまたはインターネット)の切り替えを行う場合、テレビとインターネットとの相互の切り替えをする際に、それぞれの画像(上述の第1画像および第2画像に対応)を比較して画像サイズを調整してもよい。このような処理により、テレビとインターネットを用いた同時放送の映像間の切り替わり時の違和感を低減することができる。
また、インターネット回線の速度の状況に応じて入力ソース(フルHD、SD等)の切り替えを行う場合、それぞれの画像(上述の第1画像および第2画像に対応)を比較して画像サイズを調整してもよい。このような処理により、インターネットのストリーミングサービスにおいて映像切り替わり時の違和感を低減することができる。
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。
1、2、3、4 映像信号受信装置
10 受信処理部
11 分離部
12_1 第1映像復号部
12_2 第2映像復号部
13_1 第1映像調整部
13_2 第2映像調整部
14 演算処理部
15 類似度算出処理部
16 サイズ調整量決定処理部
17 端処理部
18 映像切替部
19 出力制御部
20 受信状況に関する情報、切り替え信号
40 演算処理部
41 領域決定部
61 データ管理部
71 対象画像決定部
100 映像受信システム
101 データ処理装置
102 アンテナ
103 チューナ
104 メモリ
105 ディスプレイ
110 バス
111 TSインタフェース
112 デマルチプレクサ
113 ビデオデコーダ
114 ビデオスケーラ
115 CPU
116 メモリインタフェース
117 ディスプレイインタフェース

Claims (20)

  1. 同一の映像コンテンツを第1アスペクト比で送信する第1映像信号および前記第1アスペクト比と異なる第2アスペクト比で送信する第2映像信号をそれぞれ受信する受信処理部と、
    前記第1映像信号に含まれる第1映像のサイズを調整する第1映像調整部と、
    前記第2映像信号に含まれる第2映像のサイズを調整する第2映像調整部と、
    前記第2映像調整部で調整される前記第2映像のサイズ調整量を決定する画像サイズ決定処理を実施する演算処理部と、を備え、
    前記第2映像調整部は、前記第2映像信号に含まれる第2画像を縮小または拡大する拡縮処理を実施して拡縮画像を生成するともに、前記第2画像を水平方向または垂直方向にシフトするシフト処理を実施してシフト画像を生成し、
    前記演算処理部は、
    前記第1映像信号に含まれる第1画像と前記拡縮画像との類似度を算出するとともに、前記第1画像と前記シフト画像との類似度を算出し、
    前記拡縮画像および前記シフト画像のうち前記算出された類似度が高い方の画像を、前記第2映像調整部において次の拡縮処理およびシフト処理を実施する画像に用いる、
    映像信号受信装置。
  2. 前記演算処理部は、
    前記第1画像と前記拡縮画像との類似度と前記第1画像と前記シフト画像との類似度のうち高い方の類似度を類似度の最大値に設定し、
    前記次の拡縮処理を実施した拡縮画像と前記第1画像との類似度と前記次のシフト処理を実施したシフト画像と前記第1画像との類似度のうち、類似度が高い方の類似度が前記設定された類似度の最大値よりも低い場合、前記類似度が高い方の画像の拡縮量とシフト量を前記第2画像の画像サイズ調整量として決定し、
    前記第2映像調整部は、前記決定された第2画像の画像サイズ調整量を用いて前記第2映像のサイズを調整する、
    請求項1に記載の映像信号受信装置。
  3. 前記演算処理部は、
    前記第1画像と前記拡縮画像との類似度と前記第1画像と前記シフト画像との類似度のうち高い方の類似度を類似度の最大値に設定し、
    前記次の拡縮処理を実施した拡縮画像と前記第1画像との類似度と前記次のシフト処理を実施したシフト画像と前記第1画像との類似度のうち、類似度が高い方の類似度が前記設定された類似度の最大値よりも高い場合、前記類似度が高い方の類似度を用いて前記類似度の最大値を更新する、
    請求項1に記載の映像信号受信装置。
  4. 前記サイズ調整された第2映像に対して端処理を実施する端処理部を更に備え、
    前記端処理部は、前記サイズ調整された第2映像をディスプレイに表示した際に生じる余白領域を補間する処理および前記サイズ調整された第2映像を前記ディスプレイに表示した際に生じる表示領域外の領域を除去する処理の少なくとも一方を実施する、請求項2に記載の映像信号受信装置。
  5. 前記第1映像調整部で調整された前記第1映像および前記第2映像調整部で調整された前記第2映像を入力し、前記第1映像および前記第2映像のうちのいずれか一方を出力する映像切替部を更に備える、請求項1に記載の映像信号受信装置。
  6. 前記第2映像信号は前記第1映像信号よりも低画質の映像信号であり、
    前記映像切替部は、前記第1映像信号の受信状況が所定の基準よりも悪化した場合に、前記第1映像から前記第2映像に出力映像を切り替える、
    請求項5に記載の映像信号受信装置。
  7. 前記第1画像と前記第2画像は時間同期された画像である、請求項1に記載の映像信号受信装置。
  8. 前記類似度は、前記第1画像の各々の座標における画素値と、前記第1画像の各々の座標と対応する座標における前記第2画像の画素値と、を用いて算出される、請求項1に記載の映像信号受信装置。
  9. 前記第1画像の画素値は前記第1画像の輝度値であり、前記第2画像の画素値は前記第2画像の輝度値である、請求項8に記載の映像信号受信装置。
  10. 前記類似度は、前記第1画像の座標(x、y)における画素値P1(x、y)と前記第2画像の座標(x、y)における画素値P2(x、y)との差の二乗である{P1(x、y)−P2(x、y)}を、各々の座標において求めた和の逆数を用いて算出される(ここで、x、yは、0≦x<画像幅、0≦y<画像高さ、を満たす値である)、請求項8に記載の映像信号受信装置。
  11. 前記演算処理部は、
    前記第1及び第2画像を所定の数の画像領域に分割し、
    前記分割された各々の画像領域における前記第1及び第2画像の類似度を算出し、
    前記分割された各々の画像領域のうち、前記算出された類似度が最も低い画像領域を対象画像領域に決定し、
    前記決定された対象画像領域に対して前記画像サイズ決定処理を実施する、
    請求項1に記載の映像信号受信装置。
  12. 前記演算処理部は、
    前記対象画像領域に対して前記画像サイズ決定処理を実施することで前記第2画像のサイズ調整量を決定し、
    前記第2画像のサイズ調整量を決定した後、前記分割する前のサイズの第2画像を前記決定されたサイズ調整量を用いて調整し、当該調整後の第2画像と前記第1画像との類似度を算出することで、前記サイズ調整量を検証する、
    請求項11に記載の映像信号受信装置。
  13. 前記演算処理部で決定された前記第2画像のサイズ調整量に関するデータを管理するデータ管理部を備え、
    前記データ管理部は、前記第1及び第2映像信号の送信元の放送局情報と前記サイズ調整量とを対応付けて管理しており、
    前記受信処理部は、前記第1及び第2映像信号を受信した際、前記第1及び第2映像信号の送信元の放送局情報を前記データ管理部に供給し、
    前記データ管理部は、前記受信処理部から供給された前記放送局情報に対応するサイズ調整量が存在する場合、当該サイズ調整量を前記演算処理部に供給し、
    前記演算処理部は、前記データ管理部から供給された前記サイズ調整量を前記第2画像のサイズ調整量に決定する、
    請求項1に記載の映像信号受信装置。
  14. 前記演算処理部は、
    前記データ管理部から供給された前記サイズ調整量を用いて調整された第2画像と前記第1画像との類似度を算出することで前記サイズ調整量が適切であるか否かを判定し、
    前記サイズ調整量が適切ではないと判定した場合に、前記画像サイズ決定処理を実施する、
    請求項13に記載の映像信号受信装置。
  15. 前記第1映像信号を復号して第1映像を生成する第1映像復号部と、
    前記第2映像信号を復号して第2映像を生成する第2映像復号部と、
    前記画像サイズ決定処理を実施する対象画像を、前記第1及び第2映像復号部から供給された量子化パラメータ及び復号エラー情報の少なくとも一つを用いて決定する対象画像決定部と、を更に備える、
    請求項1に記載の映像信号受信装置。
  16. 前記対象画像決定部は、前記量子化パラメータが所定の閾値よりも小さい画像を前記対象画像と決定する、請求項15に記載の映像信号受信装置。
  17. 前記対象画像決定部は、前記復号エラー情報がエラーを示した画像を前記対象画像から除外する、請求項15に記載の映像信号受信装置。
  18. 同一の映像コンテンツを第1アスペクト比で送信する第1映像信号および前記第1アスペクト比と異なる第2アスペクト比で送信する第2映像信号をそれぞれ受信し、
    前記第1映像信号に含まれる第1映像のサイズを調整し、
    前記第2映像信号に含まれる第2映像のサイズ調整量を決定する画像サイズ決定処理を実施し、
    前記画像サイズ決定処理を実施する際、
    前記第2映像信号に含まれる第2画像を縮小または拡大する拡縮処理を実施して拡縮画像を生成するともに、前記第2画像を水平方向または垂直方向にシフトするシフト処理を実施してシフト画像を生成し、
    前記第1映像信号に含まれる第1画像と前記拡縮画像との類似度を算出するとともに、前記第1画像と前記シフト画像との類似度を算出し、
    前記拡縮画像および前記シフト画像のうち前記算出された類似度が高い方の画像を、次の拡縮処理およびシフト処理を実施する画像に用いる、
    映像信号受信方法。
  19. 前記第1画像と前記拡縮画像との類似度と前記第1画像と前記シフト画像との類似度のうち高い方の類似度を類似度の最大値に設定し、
    前記次の拡縮処理を実施した拡縮画像と前記第1画像との類似度と前記次のシフト処理を実施したシフト画像と前記第1画像との類似度のうち、類似度が高い方の類似度が前記設定された類似度の最大値よりも低い場合、前記類似度が高い方の画像の拡縮量とシフト量を前記第2画像の画像サイズ調整量として決定し、
    前記決定された第2画像の画像サイズ調整量を用いて前記第2映像のサイズを調整する、
    請求項18に記載の映像信号受信方法。
  20. 前記第1画像と前記第2画像は時間同期された画像である、請求項18に記載の映像信号受信方法。
JP2018109299A 2018-06-07 2018-06-07 映像信号受信装置、及び映像信号受信方法 Active JP7128036B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018109299A JP7128036B2 (ja) 2018-06-07 2018-06-07 映像信号受信装置、及び映像信号受信方法
US16/410,603 US10659722B2 (en) 2018-06-07 2019-05-13 Video signal receiving apparatus and video signal receiving method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018109299A JP7128036B2 (ja) 2018-06-07 2018-06-07 映像信号受信装置、及び映像信号受信方法

Publications (2)

Publication Number Publication Date
JP2019213112A true JP2019213112A (ja) 2019-12-12
JP7128036B2 JP7128036B2 (ja) 2022-08-30

Family

ID=68764390

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018109299A Active JP7128036B2 (ja) 2018-06-07 2018-06-07 映像信号受信装置、及び映像信号受信方法

Country Status (2)

Country Link
US (1) US10659722B2 (ja)
JP (1) JP7128036B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11699207B2 (en) * 2018-08-20 2023-07-11 Waymo Llc Camera assessment techniques for autonomous vehicles
US11106039B2 (en) * 2019-08-26 2021-08-31 Ati Technologies Ulc Single-stream foveal display transport

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008060848A (ja) * 2006-08-30 2008-03-13 Sanyo Electric Co Ltd 受信機
WO2008117448A1 (ja) * 2007-03-27 2008-10-02 Pioneer Corporation 再生装置、再生方法、再生プログラムおよびコンピュータに読み取り可能な記録媒体
JP2010074560A (ja) * 2008-09-18 2010-04-02 Casio Hitachi Mobile Communications Co Ltd 映像再生装置及びプログラム
JP2010074454A (ja) * 2008-09-18 2010-04-02 Honda Motor Co Ltd デジタル放送受信装置
JP2010081302A (ja) * 2008-09-26 2010-04-08 Pioneer Electronic Corp 放送受信装置、受信処理方法、受信処理プログラム及びその記録媒体
JP2011066602A (ja) * 2009-09-16 2011-03-31 Pioneer Electronic Corp 放送信号処理装置、放送信号処理方法、放送信号処理プログラム、及び、記憶媒体
JP2011082697A (ja) * 2009-10-05 2011-04-21 Canon Inc 画像処理装置及び画像処理方法
US20160300595A1 (en) * 2015-04-13 2016-10-13 Samsung Electronics Co., Ltd. Playback device for playing video content and operating method of the same
US9936208B1 (en) * 2015-06-23 2018-04-03 Amazon Technologies, Inc. Adaptive power and quality control for video encoders on mobile devices

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010251897A (ja) 2009-04-13 2010-11-04 Pioneer Electronic Corp 放送信号受信装置、放送信号受信方法、及び放送信号受信プログラム
US8355592B1 (en) * 2009-05-06 2013-01-15 Adobe Systems Incorporated Generating a modified image with semantic constraint
KR20110088334A (ko) * 2010-01-28 2011-08-03 삼성전자주식회사 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 생성 방법 및 장치, 3차원 멀티미디어 서비스를 제공하기 위한 데이터스트림 수신 방법 및 장치
US9196306B2 (en) * 2011-01-28 2015-11-24 Apple Inc. Smart scaling and cropping
TWI443600B (zh) * 2011-05-05 2014-07-01 Mstar Semiconductor Inc 影像處理的方法與相關裝置
US9154813B2 (en) * 2011-06-09 2015-10-06 Comcast Cable Communications, Llc Multiple video content in a composite video stream
KR20170006576A (ko) * 2015-07-08 2017-01-18 삼성전자주식회사 디스플레이장치, 무선통신장치 및 그들의 제어방법
JP6759662B2 (ja) * 2016-03-30 2020-09-23 コニカミノルタ株式会社 画像読み取り装置、同装置における読み取りガラス面の異物検出方法及び異物検出プログラム
CN110114988B (zh) * 2016-11-10 2021-09-07 松下电器(美国)知识产权公司 发送方法、发送装置及记录介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008060848A (ja) * 2006-08-30 2008-03-13 Sanyo Electric Co Ltd 受信機
WO2008117448A1 (ja) * 2007-03-27 2008-10-02 Pioneer Corporation 再生装置、再生方法、再生プログラムおよびコンピュータに読み取り可能な記録媒体
JP2010074560A (ja) * 2008-09-18 2010-04-02 Casio Hitachi Mobile Communications Co Ltd 映像再生装置及びプログラム
JP2010074454A (ja) * 2008-09-18 2010-04-02 Honda Motor Co Ltd デジタル放送受信装置
JP2010081302A (ja) * 2008-09-26 2010-04-08 Pioneer Electronic Corp 放送受信装置、受信処理方法、受信処理プログラム及びその記録媒体
JP2011066602A (ja) * 2009-09-16 2011-03-31 Pioneer Electronic Corp 放送信号処理装置、放送信号処理方法、放送信号処理プログラム、及び、記憶媒体
JP2011082697A (ja) * 2009-10-05 2011-04-21 Canon Inc 画像処理装置及び画像処理方法
US20160300595A1 (en) * 2015-04-13 2016-10-13 Samsung Electronics Co., Ltd. Playback device for playing video content and operating method of the same
US9936208B1 (en) * 2015-06-23 2018-04-03 Amazon Technologies, Inc. Adaptive power and quality control for video encoders on mobile devices

Also Published As

Publication number Publication date
JP7128036B2 (ja) 2022-08-30
US10659722B2 (en) 2020-05-19
US20190379859A1 (en) 2019-12-12

Similar Documents

Publication Publication Date Title
JP4747917B2 (ja) デジタル放送受信装置
US8107007B2 (en) Image processing apparatus
EP3232669B1 (en) Video frame processing method, video processing chip, motion estimation and motion compensation chip
US8265426B2 (en) Image processor and image processing method for increasing video resolution
JP4615958B2 (ja) デジタル放送の送出装置、受信装置およびデジタル放送システム
KR100992049B1 (ko) 종속적 부분들이 있는 비디오 스트림들을 스크램블링하기 위한 비디오 프로세싱 시스템 및 이것을 사용하기 위한 방법
US8643785B2 (en) Video processing apparatus and method for controlling the same
US7995146B2 (en) Image processing apparatus and image processing method
JP2008252591A (ja) 補間フレーム生成装置、補間フレーム生成方法及び放送受信装置
US20090103603A1 (en) Simulcast reproducing method
JP7128036B2 (ja) 映像信号受信装置、及び映像信号受信方法
US8520008B2 (en) Picture display device
JP4740955B2 (ja) デジタル放送受信用の信号処理装置、信号処理方法および信号処理プログラム並びにデジタル放送受信装置
KR20150027639A (ko) 화질 개선 장치 및 방법
JP2010154301A (ja) 放送信号受信装置、放送信号受信方法、及び放送信号受信プログラム
JP2007020088A (ja) テレビジョン放送受信装置及びテレビジョン放送受信方法
JP4971725B2 (ja) 受信機
KR20080055191A (ko) 영상신호의 오버 스캔 최소화 방법
JP5161514B2 (ja) デジタル放送受信装置、および、デジタル放送受信方法
JP2010251897A (ja) 放送信号受信装置、放送信号受信方法、及び放送信号受信プログラム
JP2006186787A (ja) デジタルデータ受信機
JP2011101119A (ja) 放送受信装置、切替え方法及びプログラム
JP2010062630A (ja) 放送信号切換装置、放送信号切換方法、放送信号切換プログラム、及び記録媒体
US20100220239A1 (en) Interpolation frame generation apparatus, interpolation frame generation method, and broadcast receiving apparatus
Tröger Video Error Concealment Techniques for Multi-Broadcast Reception of Digital TV

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201015

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211116

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220715

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220818

R150 Certificate of patent or registration of utility model

Ref document number: 7128036

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150