JP5514338B2 - 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体 - Google Patents

映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体 Download PDF

Info

Publication number
JP5514338B2
JP5514338B2 JP2013037917A JP2013037917A JP5514338B2 JP 5514338 B2 JP5514338 B2 JP 5514338B2 JP 2013037917 A JP2013037917 A JP 2013037917A JP 2013037917 A JP2013037917 A JP 2013037917A JP 5514338 B2 JP5514338 B2 JP 5514338B2
Authority
JP
Japan
Prior art keywords
noise reduction
noise
target frame
video
video processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013037917A
Other languages
English (en)
Other versions
JP2013240039A (ja
Inventor
茂樹 谷口
晃 小池
嘉憲 河野
哲夫 池山
昌彦 瀧口
美保子 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2013037917A priority Critical patent/JP5514338B2/ja
Priority to CN201380019345.5A priority patent/CN104221361A/zh
Priority to US14/391,826 priority patent/US20150085943A1/en
Priority to PCT/JP2013/058336 priority patent/WO2013153935A1/ja
Publication of JP2013240039A publication Critical patent/JP2013240039A/ja
Application granted granted Critical
Publication of JP5514338B2 publication Critical patent/JP5514338B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、主に、映像のノイズを低減する映像処理装置、及び映像処理方法に関する。
従来、圧縮符号化した映像を復号化する過程で生じるノイズを低減するための技術が開発されている。
下記特許文献1には、ブロック符号化の符号化ブロック境界からの距離に基づいて重み付け係数を設定し、この重み付け係数に応じて、画質補正時の画質補正量を制御する技術が記載されている。
また、下記特許文献2には、映像信号に所定の圧縮率で圧縮処理を施したものと、映像信号を所定フレーム数だけ遅延させた映像信号に所定の圧縮率で圧縮処理を施したものとの差分に基づいて動き検出を行ない、その動き検出結果に基づいて、映像信号に対するノイズリダクション処理を、前記処理手段に行わせるか否かを制御する技術が開示されている。
また、下記特許文献3には、復号画像中で指定されたそれぞれ異なる大きさの範囲について検出された第1のアクティビティ値、第2のアクティビティ値、及び量子化幅値に基づいて、高周波成分を減衰または増強させる技術が記載されている。
また、下記特許文献4には、jpeg圧縮された画像について、画像の圧縮率を予測し、当該予測した圧縮率に応じて画像圧縮ノイズ低減処理と、カラーノイズ低減処理とを行う順番を決定する技術が記載されている。また、圧縮率自体を調べることが可能である場合、圧縮率を指標としてjpeg圧縮率判定処理を構成してもよいことが記載されている。
また、下記特許文献5には、ノイズ軽減特性を設定する係数器の乗算係数を、動き検出回路で検出された動き信号と、ノイズ量検出回路で検出されたノイズ量とで切り換える技術が開示されている。
また、下記特許文献6には、復号後の映像信号がIピクチャ、PピクチャおよびBピクチャのいずれを復号したものであるのかに応じて、復号後の映像信号に対するノイズ低減特性を変更する技術が記載されている。また、特許文献2には、符号化映像信号の転送レートに応じて、Iピクチャ、PピクチャおよびBピクチャに対するノイズ低減特性を変更する技術が記載されている。
特開平10−229546号公報(1998年8月25日公開) 特開2007−166400号公報(2007年6月28日公開) 特開平8−149471号公報(1996年6月7日公開) 特開2001−177731号公報(2001年6月29日公開) 特開平7−131680号公報(1995年5月19日公開) 特開2003−32685号公報(2003年1月31日公開)
上記特許文献1に記載の技術では、ブロック符号化の符号化ブロック境界からの距離を取得することが前提となっている。そのため、上記距離を取得することができない装置においては、同手法を採用することができず、ノイズ低減処理および画質補正処理ができなくなってしまう。また、上記距離を取得する構成はコストアップの一因となる。
また、上記特許文献2に記載の技術のようにノイズリダクション処理のオンオフを切り替える構成を用いたとしても、期待されるほど画質が向上しないという第1の問題がある。
本発明は、上記の第1の問題に鑑みてなされたものであり、その目的は、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことのできる映像処理装置を実現することにある。
また、上記特許文献3に記載の技術のように、第1のアクティビティ値、第2のアクティビティ値、及び量子化幅値に基づいて高周波成分を減衰または増強させる構成を用いたとしても、期待されるほど画質が向上しないという第2の問題がある。
本発明は、上記の第2の問題に鑑みてなされたものであり、その目的は、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことのできる映像処理装置を実現することにある。
また、上記特許文献4に記載の技術を用いたとしても、期待されるほど画質が向上しないという第3の問題がある。
本発明は、上記の第3の問題に鑑みてなされたものであり、その目的は、コストアップを抑制しつつ、従来技術に比べてより効果的なカラーノイズ低減処理を実行可能な映像処理装置を提供することにある。
また、上記特許文献5に記載の技術においても、動き検出回路及びノイズ量検出回路が必要になるため、コストアップを招来するという第4の問題がある。
本発明は、上記の第4の問題に鑑みてなされたものであり、その目的は、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことのできる映像処理装置を実現することにある。
また、対象フレームを構成するブロックが有する量子化コード値に基づいて、ノイズ低減処理の強度を決定する技術も知られている。例えば、対象フレームを構成するブロックが有する量子化コード値が、所定の閾値より大きいか否かを判別することによって、ノイズ低減処理を実行するか否かを決定する技術が知られている。このような技術は、所定の閾値を上回ると判別された対象フレームには一律の強度でノイズ低減処理が適用されるという課題を有する。例えば、量子化コード値における所定の閾値が10である場合、対象フレームを構成する全ブロックが量子化コード値が11である映像と、対象フレームを構成する全ブロックが量子化コード値が31である映像とには、それぞれ同じ強度のノイズ低減処理が適用されてしまう。実際には、量子化コード値が11である映像と、量子化コード値が31である映像とでは、それぞれの映像が符号化および復号化される際の量子化コード値は異なる。このような両映像に対して、同じ強度のノイズ低減処理を適用した場合、量子化コード値が11である映像にとっては強度が過剰なノイズ低減処理が適用され、一方、量子化コード値が31である映像にとっては強度が不足したノイズ低減処理が適用される。
また、上述の技術は、量子化コード値が11である映像には過剰なノイズ低減処理が適用される一方で、量子化コード値が10である映像にはノイズ低減処理が適用されないという課題を有する。このようなノイズ低減処理は、映像を視聴しているユーザに対して違和感を与える虞がある。
すなわち、上述の技術は、量子化コードの値によって、適切な強度のノイズ低減処理を施すことができないという第5の問題を有する。
本発明は、上記の第5の問題に鑑みてなされたものであり、その目的は、コストアップを抑制しつつ、従来技術に比べてより適切な強度のノイズ低減処理を施すことが可能な映像処理装置を提供することにある。
また、上記特許文献6に記載の技術では、Iピクチャ、PピクチャおよびBピクチャの違いに着目して各ピクチャに施すノイズ低減特性を変更しているものの、当該技術を用いても期待される程画質が向上しないという第6の問題があった。
本発明は、上記の第6の問題に鑑みて、発明者の知見に基づいてなされたものであり、その目的は、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことのできる映像処理装置を実現することにある。
上記の第1の問題を解決するために、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
また、上記の第1の問題を解決するために、本発明の一態様に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択工程と、上記ノイズ低減処理選択工程にて選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、を含んでいる。
また、上記の第2の問題を解決するために、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの周波数特性またはエッジ情報とに基づいて、モスキートノイズ低減パラメータを設定する設定手段と、上記設定手段によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減手段と、を備えている。
また、上記の第2の問題を解決するために、本発明の一態様に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コード、ならびに、当該対象フレームを構成する各ブロックの周波数特性または各画素のエッジ情報とに基づいて、モスキートノイズ低減パラメータを設定する設定工程と、上記設定工程によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減工程と、を含んでいる。
また、上記の第3の問題を解決するために、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定手段と、上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
また、上記の第3の問題を解決するために、本発明の一態様に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定工程と、上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、を含んでいる。
また、上記の第4の問題を解決するために、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
また、上記の第4の問題を解決するために、本発明の一態様に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択工程と、上記ノイズ低減処理選択工程にて選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、を含んでいる。
また、上記の第5の問題を解決するために、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コード値を取得し、それぞれの上記量子化コード値に基づいて上記対象フレームにおけるノイズ低減パラメータを算出し、所定の範囲内のノイズ低減処理強度を、所定の範囲内の上記ノイズ低減パラメータと正の相関を有するように設定する設定手段と、上記設定手段によって設定された上記ノイズ低減処理強度を用いたノイズ低減処理を、上記対象フレームに施すノイズ低減手段と、を備えている。
また、上記の第5の問題を解決するために、本発明の一態様に係る映像処理方法は、対象フレームを構成する各ブロックの量子化コード値を取得し、それぞれの上記量子化コード値に基づいて上記対象フレームにおけるノイズ低減パラメータを算出し、所定の範囲内の上記ノイズ低減パラメータを、所定の範囲内のノイズ低減処理強度と正の相関を有するように設定する設定手段と、上記設定手段によって設定された上記ノイズ低減処理強度を用いたノイズ低減処理を、上記対象フレームに施すノイズ低減手段と、を含んでいる。
また、上記の第6の問題を解決するために、本発明の一態様に係る映像処理装置は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定手段と、上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更手段と、上記変更手段によって変更されたオフセットを含むノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減手段と、を備えている。
また、上記の第6の問題を解決するために、本発明の一態様に係る映像処理方法は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定工程と、上記設定手段によって設定された上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更工程と、上記変更手段によって変更されたオフセットを有するノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減工程と、を含んでいる。
以上のように、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
以上のように、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コード、ならびに、当該対象フレームを構成する各ブロックの周波数特性または各画素のエッジ情報に基づいて、モスキートノイズ低減パラメータを設定する設定手段と、上記設定手段によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減手段と、を備えている。
以上のように、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定手段と、上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
以上のように、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
以上のように、本発明の一態様に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コード値を取得し、それぞれの上記量子化コード値に基づいて上記対象フレームにおけるノイズ低減パラメータを算出し、所定の範囲内のノイズ低減処理強度を、所定の範囲内の上記ノイズ低減パラメータと正の相関を有するように設定する設定手段と、上記設定手段によって設定された上記ノイズ低減処理強度を用いたノイズ低減処理を、上記対象フレームに施すノイズ低減手段と、を備えている。
以上のように、本発明の一態様に係る映像処理装置は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定手段と、上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更手段と、上記変更手段によって変更されたオフセットを含むノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減手段と、を備えている。
上記の各構成によれば、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことができる。
実施形態1に係る映像処理装置100の機能ブロック図である。 実施形態2に係る映像処理装置100の動作フローである。 実施形態4に係る映像処理装置100の機能ブロック図である。 実施形態5に係る映像処理装置100の機能ブロック図である。 映像処理装置100が実施する映像補正量と、当該映像のノイズ量との関係を概念的に示す図である。 本発明の一実施形態に係る映像処理装置の構成を示すブロック図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、各画素についての量子化コード及び閾値の一例を示す図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、(a)は、3Dノイズ低減処理において参照されるフレームを示しており、(b)は、2Dノイズ低減処理において参照されるフレームを示している。 本発明の一実施形態に係る映像処理装置を説明するための図であって、「動き有り」のブロックと「動き無し」のブロックとを示している。 本発明の一実施形態に係る映像処理装置を説明するための図であって、量子化コードが閾値を越えた割合と、「動き有り」のブロックの割合とによって指定される各ノイズ低減処理の強度を示す図である。 本発明の一実施形態の変形例に係る映像処理装置を説明するための図であって、各画素についての量子化コード及び閾値の一例を示す図である。 本発明の一実施形態の変形例に係る映像処理装置を説明するための図であって、量子化コードが閾値を越えた割合と、「動き有り」のブロックの割合とによって指定される各ノイズ低減処理の強度を示す図である。 本発明の一実施形態に係る映像処理装置の構成を示すブロック図である。 (a)はモスキートノイズを説明するための概念図である。(b)はモスキート低減処理において、参照する領域を説明するための外面図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、対象フレームを構成するピクセルの周波数特性を示すヒストグラムである。 本発明の一実施形態の変形例に係る映像処理装置を説明するための図であって、量子化コードが閾値を越えた割合と、対象フレームを構成する周波数成分の割合とによって指定される各ノイズ低減処理の強度を示す図である。 本発明の一実施形態の変形例に係る映像処理装置を説明するための図であって、量子化コードが閾値を越えた割合と、対象フレームを構成する周波数成分の割合とによって指定される各ノイズ低減処理の強度を示す図である。 本発明の一実施形態に係る映像処理装置の構成を示すブロック図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、映像を表示するフレームが、カラーノイズと判別されるパターンと、人為的に追加されたと判別されるパターンとを含む場合を示す概念図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、量子化コードが閾値を超えた割合と、原色ピクセルの判別結果とによって指定される各ノイズ低減処理の強度を示す図である。 本発明の一実施形態に係る映像処理装置の構成を示すブロック図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、動きベクトルの一例を示している。 本発明の一実施形態に係る映像処理装置の構成を示すブロック図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、(a)は、対象フレームを構成する各ブロックの量子化コード値のヒストグラムを示し、(b)は、ノイズ低減パラメータと、ノイズ低減処理強度との相関関係を示している。 本発明の一実施形態に係る映像処理装置の構成を示すブロック図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、映像データが含む複数のピクチャと、各ピクチャにおけるNRパラメータ、オフセット、及びNRゲインを示す図である。 本発明の一実施形態に係る映像処理装置を説明するための図であって、オフセット(N)、及びオフセット(M)の概略を示す図である。
<実施形態1>
図1は、本発明の実施形態1に係る映像処理装置100の機能ブロック図である。映像処理装置100は、入力された映像信号のノイズを補正する装置であり、映像取得部110、復号処理部120、量子化パラメータ取得部130、記憶部140、ノイズ量算出部150、ノイズ低減処理部160を備える。
映像処理装置100は、例えば、放送信号として伝送されるTS(Transport Stream)を復号し、復号して得られた映像を表示するテレビジョン受像機に好適に用いられる。
(映像取得部110)
映像取得部110は、映像を信号化した映像信号を受け取る。映像信号の取得元は、例えば放送波、記憶媒体に格納された映像データなど、任意の形態の映像信号源が考えられる。ただし、後述する量子化パラメータを取得することができる手法を採用した映像信号である必要がある。
(復号処理部120)
復号処理部120は、映像取得部110が取得した映像信号を復号化する。映像信号は何らかの手法によって符号化されていることが通常であるため、復号処理部120の処理が必要となる。
復号処理部120が復号する映像信号は、例えば、MPEG−1、MPEG−2、及び、H.264/MPEG−4.AVC等によって符号化されている。
復号処理部120は、例えば、画面内予測(イントラ予測)及び画面間予測(インター予測)の何れかを用いて予測画像を生成し、当該予測画像の各画素値に対して、映像信号から復号した各画素値を加算することによって、復号画像を生成する。
復号処理部120は、予測画像をインター予測によって生成する場合、すでに復号化され、図示しないフレームメモリに格納されている1または複数の復号化済み画像を参照し、当該復号化済み画像を構成する各ブロックに対して、動きベクトルを用いた動き補償を行うことによって予測画像を生成する。ここで、各動きベクトルを表す動きベクトル情報は、映像信号から復号される。
また、映像信号には、通常、各ブロックに含まれる画素の画素値を、ブロック毎に周波数変換(例えば、DCT(Discrete Cosine Transform)変換)した後に、量子化パラメータに応じた量子化処理を施して得られる量子化変換係数(単に変換係数とも呼ぶ)が含まれている。例えば、映像信号が8×8画素のブロック毎に符号化されたものである場合、映像信号には8×8成分の量子化変換係数が各ブロックについて含まれている。
このような映像信号を復号する場合、復号処理部120は、各変換係数を量子化パラメータを参照して逆量子化した後、逆周波数変換を施すことによって、各画素値を復号する。
また、映像信号に含まれる各フレーム(ピクチャ)は、以下のように大別される。
・Iピクチャ:他のピクチャを参照することなく復号化することが可能なピクチャ。Iピクチャは、例えば、上述したイントラ予測を用いて符号化された画像である。
・Pピクチャ:他の1枚のピクチャを参照することによって復号化可能なピクチャ。Pピクチャは、例えば、上述したインター予測を用いて符号化された画像である。
・Bピクチャ:他の2枚のピクチャを参照することによって復号化可能なピクチャ。Bピクチャは、例えば、上述したインター予測を用いて符号化された画像である。
(量子化パラメータ取得部130)
量子化パラメータ取得部130は、復号処理部120が映像信号を復号化する過程で用いる量子化パラメータを取得する。上述のように、多くの画像符号化手法では、映像を符号化する際に量子化処理を実施する。このときの量子化パラメータは、復号処理を実施するために必要となるので、何らかの形態で復号処理を実施する側に引き渡される。例えば、映像ストリームのヘッダ部分などに、映像ブロック毎の量子化パラメータを記述することができる。量子化パラメータ取得部130は、符号化手法が採用する形式に合わせて、この量子化パラメータを取得する。
なお、量子化パラメータは、量子化コードと呼ばれることもある。
また、映像が符号化されていない場合は、量子化パラメータを取得することができないが、符号化処理が行われていなければ符号化にともなうノイズも発生しないので、本発明に係る手法を採用する必然性はない。
(記憶部140)
記憶部140は、量子化パラメータを用いて当該映像のノイズ量を算出するための閾値を記憶している。この閾値は、量子化パラメータの値の大小に基づき、当該量子化パラメータが適用されている映像ブロックが高周波成分を多く除去されているか否かを判定するために用いられる。
(ノイズ量算出部150)
ノイズ量算出部150は、量子化パラメータ取得部130が取得した量子化パラメータと、記憶部140が格納している閾値とを用いて、当該映像のノイズ量を算出する。算出手法については後述する。
(ノイズ低減処理部160)
ノイズ低減処理部160は、ノイズ量算出部150が算出したノイズ量に基づき、当該映像のノイズを低減する処理を実施する。具体的には、例えば画像の高周波成分を除去する処理(モスキートノイズ低減処理)、画像の境界部分に生じるノイズを低減させる処理(ブロックノイズ低減処理)、などが該当する。
映像取得部110、復号処理部120、量子化パラメータ取得部130、ノイズ量算出部150、ノイズ低減処理部160は、これらの機能を実現する回路デバイスなどのハードウェアを用いて実現することもできるし、マイコンやCPU(Central Processing Unit)などの演算装置とその動作を規定するソフトウェアを用いて構成することもできる。
記憶部140は、例えばHDD(Hard Disk Drive)などの記憶装置を用いて構成することができる。
以上、本実施形態1に係る映像処理装置100の構成を説明した。次に、映像処理装置100が映像のノイズ量を算出する処理について、基本的な考え方とともに説明する。
<実施形態1:ノイズ量算出の考え方>
一般に、映像信号を符号化する際には、量子化処理を実施する。この処理は、映像信号の高周波成分を間引いて情報量を圧縮するのが主な目的であるといえる。例えば、各周波数成分の振幅値を量子化パラメータで除算し、振幅値のスケールを小さくする。これにより、各周波数成分の振幅値を表現するために必要なビット数が減り、また微小な振幅値は0で近似して簡易化するなどの処理を施すことができる。結果として、映像を表現するために必要な情報量を削減することができる。
映像信号を符号化する際に、映像を複数の領域(ブロック)に分割し、各ブロックに対して符号化処理および量子化処理を実施する場合がある。この場合、ブロック毎に異なる量子化パラメータを採用することもできる。あるブロックの、量子化パラメータの値が大きいということは、より多くの高周波成分が、符号化の過程で間引かれたということを意味する。すなわち、量子化パラメータの値が大きいブロックを復号化すると、高周波成分がより多く喪失しているので、復号化後の映像においてノイズが生じやすいという傾向がある。
本発明に係る各実施形態では、この点に着目し、量子化パラメータの値の大小に基づいて、当該ブロックにおける復号化後のノイズ量の大小を推定する。符号化処理を実施する際に量子化処理を行う符号化方式では、必ず復号側でも量子化パラメータを取得することが可能である。そのため、量子化を採用した符号化方式の下において、量子化パラメータを用いてノイズ量を算出することにより、特別な符号化方式や算出手法を採用することなく、確実にノイズ量を算出することができる利点がある。
ノイズ量を算出した後は、そのノイズ量に適した補正処理(ノイズ低減処理)を映像に施すことにより、ノイズの少ないブロックに対しては補正量を小さくし、ノイズの多いブロックに対しては補正量を大きくする、といった最適な補正処理を実施することができる。
<実施形態1:ノイズ低減手順>
以下では、映像処理装置100がノイズ量を算出し、そのノイズ量を用いてノイズ低減処理を実施する手順を説明する。
(ステップ1:映像信号を取得)
映像取得部110は、任意の映像信号源から映像信号を取得する。
(ステップ2:量子化パラメータを取得)
復号処理部120は、映像取得部110が取得した映像信号を復号化する。量子化パラメータ取得部130は、映像信号を復号化する過程で得られる量子化パラメータを取得する。映像内のブロック毎に量子化パラメータが設定されている場合は、各ブロックの量子化パラメータを取得する。
(ステップ2:補足)
なお、量子化パラメータ取得部130が量子化パラメータを取得する手法は、符号化手法によって異なる。例えば先に述べたように、映像信号そのものに量子化パラメータが記録されている場合は、その値を取得すればよい。必ずしも映像信号そのものから量子化パラメータを導出する必要はないが、いずれの符号化手法が採用されている場合であっても、復号処理を実施する際に量子化パラメータの値が必要となるので、その値を取得すればよい。
(ステップ3:閾値を取得)
ノイズ量算出部150は、量子化パラメータ取得部130が取得した量子化パラメータを取得する。また、記憶部140から、量子化パラメータに基づき当該映像のノイズ量を算出するための閾値を取得する。
(ステップ4:ノイズ量を算出)
ノイズ量算出部150は、当該映像内の映像ブロックのうち、量子化パラメータの値が上記閾値を超えているブロックの数をカウントする。ノイズ量算出部150は、そのカウント結果を用いて、当該映像のノイズ量を算出する。
(ステップ4:補足その1)
なお、量子化パラメータの値が閾値を超えているブロックが多いということは、高周波成分を多く除去されているブロック数が多いということである。高周波成分が多く除去されたブロックを復号すると、符号化前後の差異が大きくなるという傾向があるので、当該ブロックは復号化後のノイズが大きいものとして取り扱う。ノイズが大きいブロックが多いほど、当該映像全体のノイズ量は大きいという傾向があるので、量子化パラメータが閾値を超えているブロック数をもって、ノイズ量と定義することにした。
(ステップ4:補足その2)
また、本ステップにおいて、量子化パラメータが閾値を超えているブロック数そのものをノイズ量としてもよいし、これに何らかの演算式を適用してノイズ量を改めて算出してもよい。いずれの場合でも、量子化パラメータが閾値を超えているブロック数に基づき、当該映像のノイズ量を算出する点は共通である。この点は、以下の実施形態でも同様である。
(ステップ5:ノイズ低減処理)
ノイズ低減処理部160は、ノイズ量算出部150が算出したノイズ量に応じて、当該映像のノイズを低減する量を調整した上で、ノイズ低減処理を実施する。具体的には、当該映像のノイズ量が大きければ、ノイズ低減処理の強度をより強くする。例えば、高周波フィルタで除去する高周波成分の低減量(フィルタゲイン)を大きくする。
(ステップ5:補足その1)
なお、量子化処理は、符号化過程において高周波成分を除去する処理であるため、本ステップにおいて高周波成分を除去する量を増やすのは、2重に高周波成分を除去しているかのようにも思える。しかし、符号化過程において高周波成分を除去した映像を復号化すると、元の高周波成分が符号化過程で失われているがゆえに、かえって高周波ノイズが生じてしまう場合がある。この典型的な例として、画像がブロック境界で格子状に区切られているかのように見える、ブロックノイズがある。このように、復号化後に生じるノイズを効果的に除去するためにも、本ステップは有効である。
(ステップ5:補足その2)
また、復号化後のノイズ量を算出する基準として、本実施形態1では量子化パラメータを用いている。この理由は、復号側で量子化パラメータを必ず取得できる点のほか、量子化パラメータが情報圧縮の程度を示唆する点も加味している。すなわち、量子化パラメータの値が大きいということは、高周波成分がより多く除去されていることになるので、復号化後により多くのノイズが発生すると考えられる。したがって、量子化パラメータの大小に基づきノイズ量を推定することには、妥当性がある。本発明は、これら2重の利点を効果的に享受することができる点で、有利である。
<実施形態1:まとめ>
以上のように、本実施形態1に係る映像処理装置100は、量子化パラメータの値が閾値を超えているブロック数を用いて、当該映像のノイズ量を算出する。映像符号化の過程で量子化処理を実施している場合、復号側でもその量子化パラメータを取得できるようになっているので、ノイズ量を算出するために特殊な情報を用いたり、独自の算出手法を採用したりする必要がなくなり、確実にノイズ量を算出することができる。
また、本実施形態1において、量子化パラメータの値が閾値を超えているブロック数を用いてノイズ量を算出するのは、高周波成分が符号化過程でより多く除去されているブロックを復号すると、より多くのノイズが生じるという知見に基づく。これにより、符号化処理の過程に対応してノイズ量を算出することができるので、画像の特性に合ったノイズ量を求めることができる。
また、本実施形態1では、算出したノイズ量に応じて、ノイズ低減量を調整する。これにより、ノイズの少ない映像に対してノイズ低減量を大きくして却ってノイズを大きくしてしまうような不具合を避け、適切なノイズ低減処理を実施することができる。
<実施形態2>
実施形態1では、量子化パラメータが閾値を超えているか否かを基準として、ノイズ量を算出した。本発明の実施形態2では、量子化パラメータの値をその大小に基づき複数レベルに段階分けし、各レベルに付与した重み付け係数を乗算した上で集計する。これにより、当該映像のノイズの程度をより詳細に分析し、復号化後のノイズ量をより適正に算出することを図る。映像処理装置100の構成は実施形態1と同様であるため、以下では上記算出手法にかかる差異点を中心に説明する。
図2は、本実施形態2に係る映像処理装置100の動作フローである。以下、図2の各ステップについて説明する。
(ステップS200)
映像取得部110が映像信号を取得すると、本動作フローが開始される。復号処理部120は、映像取得部110が取得した映像信号を復号化する。
(ステップS201)
量子化パラメータ取得部130は、実施形態1で説明したように、復号処理の過程で得られる各映像ブロックの量子化パラメータを取得する。
(ステップS202〜S204)
ノイズ量算出部150は、量子化パラメータ取得部130が取得した、各映像ブロックの量子化パラメータの値を、その大小によって複数レベルに区分けする。ここでは3レベルに区分けする例を示したが、これに限られるものではない。ノイズ量算出部150は、当該量子化パラメータの値が3レベルのいずれに属するかを判定する。
(ステップS205〜S207)
ノイズ量算出部150は、当該量子化パラメータの値が属するレベルに応じて、あらかじめ定めておいた重み付け係数を当該量子化パラメータに乗算する。実施形態1では量子化パラメータの値をそのまま用いていたところ、本実施形態2では重み付け係数を乗じた後の値を用いる。これにより、重み付け係数を調整するなどして、ノイズ量を算出する過程を、よりきめ細かく調整することができる。
(ステップS205〜S207:補足その1)
本ステップにおける重み付け係数は、必ずしも全てのブロックについて共通でなくともよい。例えば、重要度が低いと思われるブロックについては各レベルの重み付け係数を全体的に小さくし、重要度が高いと思われるブロックについては、LV2〜3を他のブロックよりも高めに設定する、などの調整を施すこともできる。
(ステップS205〜S207:補足その2)
重み付け係数の値は、記憶部140などの記憶装置にあらかじめ格納しておき、必要なときに適宜読み出せばよい。
(ステップS208)
ノイズ量算出部150は、以上のステップを画面全体のブロックに対して実施完了したか否かを判定する。完了していなければステップS202に戻って同様の処理を繰り返し、完了していればステップS209へ進む。
(ステップS209〜S211)
ノイズ量算出部150は、実施形態1と同様に、量子化パラメータの値が閾値を超えているブロック数をカウントし、その結果に基づき当該映像のノイズ量を算出する。実施形態1と異なるのは、本実施形態では重み付け係数を量子化パラメータに乗算した上で閾値と比較する点である。ノイズ低減処理部160の処理は、実施形態1と同様である。
<実施形態2:まとめ>
以上のように、本実施形態2によれば、ノイズ量算出部150は、量子化パラメータをレベル分けし、各レベルに重み付け係数を割り当てる。ノイズ量算出部150は、量子化パラメータと重み付け係数を乗算した結果を集計して、当該映像のノイズ量を算出する。これにより、記憶部140が格納している閾値に加えて重み付け係数も調整することができるので、ノイズ量を算出する過程をより細かく調整することができる。
例えば、先に述べたブロック毎の重要度に応じて重み付け係数を調整する手法のほか、映像の種類に応じて重み付け係数を調整する、などの手法も考えられる。なお、閾値や重み付け係数の調整は、映像が入力される毎に動的に実施してもよいし、あらかじめ想定される組合せパターンを複数準備して記憶部140に格納しておき、映像が入力されるときにそのいずれかを適用するようにしてもよい。
<実施形態3>
実施形態1〜2では、量子化パラメータが閾値を超えたブロック数をカウントし、その値を当該映像のノイズ量として採用することとした。その他の変形例として、量子化パラメータが閾値を超えたブロック数をカウントし、その値を総ブロック数で除算した値、すなわち量子化パラメータが大きいブロックが全体に占める割合を、ノイズ量として定義することもできる。
また、実施形態2のように重み付け係数と量子化パラメータを乗算する場合でも、最終的に得られたカウント結果を総ブロック数で除算した値、すなわち重み付け後の量子化パラメータが大きいブロックが全体に占める割合を、当該映像のノイズ量として定義することもできる。
<実施形態4>
図3は、本発明の実施形態4に係る映像処理装置100の機能ブロック図である。本実施形態4における映像処理装置100は、実施形態1〜3で説明した構成において、ノイズ低減処理部160の内部機能として、高周波フィルタ161とエッジフィルタ162を備える。その他の構成は、実施形態1〜3と同様である。
高周波フィルタ161は、復号処理部120が復号化した映像信号の高周波成分を除去するフィルタである。高周波フィルタ161は、復号処理部120が復号化した映像信号の画面全体に対して、高周波成分を除去する処理を施す。なお、除去する高周波成分の量(フィルタゲイン)は、変更できるように構成されている。
エッジフィルタ162は、復号処理部120が復号化した映像信号の輪郭部分に生じたノイズ(エッジノイズ)を除去するフィルタである。例えば、画像のエッジ領域に生じるモスキートノイズなどを除去する。エッジフィルタ162は、復号処理部120が復号化した映像信号の画面全体に対して、エッジノイズを除去する処理を施す。なお、除去する高周波成分の量(フィルタゲイン)は、変更できるように構成されている。
本実施形態4において、ノイズ量算出部150は、算出したノイズ量に基づき、高周波フィルタ161のノイズ低減量とエッジフィルタ162のノイズ低減量を調整する。具体的には、当該映像のノイズ量が多いほど、各フィルタのノイズ低減量を増やし、復号化後のノイズを低減させる。
本実施形態4では、ノイズフィルタによってノイズを低減するようにしているので、ノイズ低減量を調整するためには、フィルタゲインを調整すればよい。その他の手法でノイズを低減する場合は、当該手法に合わせてノイズ低減量を調整する。
<実施形態4:まとめ>
以上のように、本実施形態4によれば、ノイズ量算出部150は、算出したノイズ量に基づき、各ノイズフィルタのフィルタゲインを調整する。これにより、算出したノイズ量に合わせてノイズ補正処理量を調整することができる。
<実施形態5>
図4は、本発明の実施形態5に係る映像処理装置100の機能ブロック図である。本実施形態5における映像処理装置100は、実施形態1〜4で説明した構成に加え、新たにコアリング処理部171とシャープネス処理部172を備える。その他の構成は、実施形態1〜4と同様である。
図4では、実施形態4で説明した構成に加えてコアリング処理部171とシャープネス処理部172を設けた例を示したが、その他の実施形態における構成の下で、コアリング処理部171とシャープネス処理部172を設けてもよい。
コアリング処理部171は、ノイズ低減処理部160がノイズ低減処理を施した後の映像の画面全体に対して、微小な高周波成分を除去する処理を施す。これは、次に説明するシャープネス処理部172が高周波ノイズを強調してしまわないように、あらかじめ高周波成分を除去しておくためのものである。特に、映像ブロックの境界部分に生じるブロックノイズは、高周波フィルタ161では十分に取り除けない可能性がある。コアリング処理部171によってブロックノイズをあらかじめ除去しておくことにより、シャープネス処理部172がブロックノイズを強調してしまったとしても、その影響を抑えることができる。
シャープネス処理部172は、ノイズ低減処理部160がノイズ低減処理を施した後の映像の画面全体に対して、輪郭強調処理を施す。輪郭強調処理は、高周波成分を増幅させる作用があるため、コアリング処理部171によってあらかじめ微小な高周波成分を除去した上で、輪郭強調処理を施すこととした。
<実施形態5:まとめ>
以上のように、本実施形態5によれば、ノイズ量算出部150の算出結果にしたがって高周波ノイズを低減する処理を施した上で、さらにシャープネス処理部172によって輪郭強調処理を施すことにより、ノイズを除去しつつ鮮明な映像を得ることができる。
また、本実施形態5によれば、コアリング処理部171によってブロックノイズなどの微小な高周波ノイズを除去することにより、シャープネス処理部172の悪影響を抑えて輪郭強調の効果を有効に発揮させることができる。
<実施形態6>
実施形態4〜5では、高周波フィルタ161、エッジフィルタ162、コアリング処理部171、およびシャープネス処理部172の処理対象は、映像の画面全体であるものとしたが、これら各部の処理対象を、画面の一部のブロックのみに限定してもよい。例えば量子化パラメータの値(または重み付け後の量子化パラメータの値)が閾値を超えているブロックに対してのみ、上記各部の処理を施すようにしてもよい。
これにより、ノイズ量の大きいブロックに対してはノイズ低減処理を施し、かつノイズ低減処理にともなって鮮明度が落ちた画像を改めて鮮明化することができる。また、処理対象とするブロックを限定することにより、処理負荷を抑えることができる点も、実施形態4〜5と比較して有利である。
なお、特定のブロックのみに対してノイズ低減処理や鮮明化処理を施すと、近接するブロックとのバランスがとれなくなる可能性がある。そこで、例えばノイズ量の大きいブロックを含む周辺領域に対して、同様のノイズ低減処理や鮮明化処理を施すようにしてもよい。これにより、処理負荷を抑えつつ、他のブロックとのバランスを取ることができる。
<実施形態7>
図5は、本発明に係る映像処理装置100が実施する映像補正量と、当該映像のノイズ量との関係を概念的に示す図である。
本発明においては、量子化パラメータの値が閾値を超えているブロックに基づき当該映像のノイズ量を算出するので、量子化パラメータの値が閾値を超えない限り、ノイズであると判定されないことになる。すなわち、ノイズ量が閾値に達するまでは、映像補正量は増えずに略一定となる。
ノイズ量が閾値を超えた以降は、ノイズ量が増えるとノイズ低減処理部160におけるノイズ低減量を増やすので、ノイズ量と補正量の関係は比例する。
図5における閾値や、ノイズ量と補正量の比例係数を調整することにより、映像処理装置100の処理特性を調整することができる。また、実施形態2で説明した重み付け係数を調整することによっても、同様の効果を発揮することができる。
その他、ノイズ低減処理部160のノイズ低減量、コアリング処理部171およびシャープネス処理部172の処理量を調整することにより、図5の縦軸方向の特性を調整することができる。
<実施形態8>
本明細書に記載の各実施形態において、映像取得部110が映像信号を取得する取得元として以下のような例が考えられる。
(映像信号源の例1)アナログ映像放送波から映像信号を取得する。
(映像信号源の例2)デジタル映像放送波から映像信号を取得する。
(映像信号源の例3)Blu−ray(登録商標)ディスク、DVD(DigitalVersatile Disk:登録商標)、HDDなどの記憶媒体に記録されている映像信号を取得する。
(映像信号源の例4)IP放送波、CATV放送波などの放送波から映像信号を取得する。
(映像信号源の例5)外付け映像記録装置、外付け映像取得装置などの外部装置から、映像信号を取得する。
<実施形態9>
以下では、量子化コードと、動き判別の結果とに基づいて、ノイズ低減処理に関するノイズ低減パラメータを変更する構成について、図6〜図12を参照して説明する。
図6は、本実施形態に係る映像処理装置1100の構成を示すブロック図である。図6に示すように、本実施形態に係る映像処理装置1100は、図1に示した構成に加えて、動き判別部1200を備えている。
なお、本実施形態に係る映像処理装置1100の構成は、図6に示すものに限定されるものではなく、図3及び図4にそれぞれ示す構成に、動き判別部1200を付加する構成としてもよい。また、本実施形態は、上述した各実施形態と組み合わせて用いることもできる。
(動き判別部1200)
本実施形態に係る動き判別部1200は、復号処理部120から供給される映像を構成するフレームのうち、動き判別の対象となる復号済みの対象フレームを、復号済みの他のフレームと比較することによって、当該対象フレームを構成する処理単位毎の動き判別を行う。ここで、動き判別の処理単位は、例えば、上述したブロックと同じ大きさとしてもよいし、異なる大きさとしてもよい。また、上記他のフレームは、対象フレームと隣り合うフレームとしてもよいし、対象フレームと所定のフレーム数だけ離れたフレームとしてもよい。
動き判別部1200は、処理単位毎に動き判別を行い、各処理単位について、当該処理単位が動きを有する処理単位であるのか、そうでないのかを判別する。より具体的には、動き判別部1200は、例えば、以下の処理を行うことによって動き判別を行う。
(ステップS1001)
動き判別部1200は、対象フレーム中の対象処理単位の各画素値を、他のフレームの各画素値と比較することによって動き検出を行う。
(ステップS1002)
続いて、動き判別部1200は、ステップS1001にて得られた動き検出の結果を、記憶部140に格納されている閾値と比較し、当該閾値よりも大きな動きを示しているブロックを、「動き有りのブロック」と判別し、そうでないブロックを、「動き無しのブロック」と判別する。
図9は、本ステップによって判別された「動き有りのブロック」及び「動き無しのブロック」の一例を示している。図9に示すように、動きのあるオブジェクト(車)の少なくとも一部を含むブロックは、「動き有りのブロック」と判別され、動きのあるオブジェクトを含まないブロックは、「動き無しのブロック」と判別される。
(ステップS1003)
ステップS1001〜S1002の処理を、対象フレームに含まれる全てのブロックに対して行う。
動き判別部1200は、以上の処理によって得られた各ブロックについての動き検出の結果を、ノイズ量算出部1150に供給する。
(ノイズ低減処理部1160)
ノイズ低減処理部1160は、後述するノイズ量算出部1150からの指示に基づき、以下に示す複数のノイズ低減処理の少なくとも何れかを、対象フレームに適用する。また、ノイズ低減処理部1160は、ノイズ量算出部1150からの指示に基づき、対象フレームに適用するノイズ低減処理の強度を切り替える。
・3Dブロックノイズ低減処理
・2Dブロックノイズ低減処理
・3Dモスキートノイズ低減処理
・2Dモスキートノイズ低減処理
ここで、3Dブロックノイズ低減処理、及び3Dモスキートノイズ低減処理は、対象フレームと、1または複数の他のフレームとを参照して行われるものである。以下では、3Dブロックノイズ低減処理と3Dモスキートノイズ低減処理とを便宜的に、3Dノイズ低減処理と呼ぶこともある。
3Dノイズ低減処理は、具体的には、図8の(a)に示すように、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域との平均を画素毎にとることによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を多くし、より弱い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を少なくする。
参照するフレームの枚数を多くすることによって、ノイズ低減効果が大きくなるが、動きの激しいシーンでは、残像が発生し易いという側面もある。参照するフレームの枚数を少なくすることによって、動きの激しいシーンであっても、残像の発生が発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、3Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、3Dノイズ低減処理は、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域とを比較し、瞬間的に変化している部分をノイズと判定し、当該ノイズを低減する処理としてもよい。
一方で、2Dブロックノイズ低減処理、及び2Dモスキートノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを参照して行われるものである。以下では、2Dブロックノイズ低減処理と2Dモスキートノイズ低減処理とを便宜的に、2Dノイズ低減処理と呼ぶこともある。
2Dノイズ低減処理は、具体的には、図8の(b)に示すように、対象フレームにおける対象画素の画素値と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素の画素値とを平均することによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い2Dノイズ低減処理を適用する場合には、参照領域を大きく設定し、より弱い2Dノイズ低減処理を適用する場合には、参照領域を小さく設定する。
参照領域を大きくすることによって、ノイズ低減効果が大きくなるが、ノイズが発生している領域以外の領域にもボケが発生し易いという側面もある。参照領域を小さくすることによって、ボケが発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、2Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、2Dノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを比較し、対象画素の色または輝度が、参照画素の色または輝度と大きく異なる場合に、当該対象画素にノイズが発生していると判断し、当該ノイズを低減する処理としてもよい。
(ノイズ量算出部1150)
続いて、本実施形態に係るノイズ量算出部1150について説明する。本実施形態に係るノイズ量算出部1150は、ノイズ低減処理選択手段であり、強度決定手段でもある。ノイズ量算出部1150は、量子化パラメータ取得部130が取得した量子化コード、動き判別部1200による動き判別の結果、及び記憶部140が格納している閾値を用いて、当該映像におけるノイズ量を推定する。また、ノイズ量算出部1150は、推定したノイズ量に基づいて、ノイズ低減処理部1160によるノイズ低減処理の種類及び強度を変更する。
図7は、各画素についての量子化コードの一例を示す図である。横軸は、対象フレームに含まれる各画素(より具体的には、各画素に付された画素番号)を示しており、縦軸は各画素についての量子化コードの値の例を示している。
ノイズ量算出部1150は、対象フレームにおいて量子化コードが所定の閾値(図7の例では、閾値=10)を越える画素の数の、当該対象フレームにおける全画素数に対する割合を算出する。
また、ノイズ量算出部1150は、対象フレームにおいて「動き有り」と判別されたブロックの数の、当該対象フレームにおける全ブロック数に対する割合を算出する。
これらの算出結果に基づき、ノイズ量算出部1150は、ノイズ低減処理部1160が対象フレームに適用するノイズ低減処理の種類及びその強度を変更する。
図10は、「動き有り」と判別されたブロック割合と、閾値を超えた量子化コードの割合と、ノイズ量算出部1150により設定される各ノイズ低減処理の強度との関係の一例を示す表である。図10において、「BNR」は、ブロックノイズ低減処理を指しており、「MNR」は、モスキートノイズ低減処理を指している。
図10に示すように、ノイズ量算出部1150は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする。
また、図10に示すように、ノイズ量算出部1150は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くする。
また、ノイズ量算出部1150は、「弱」に設定したノイズ低減処理を省略するよう、ノイズ低減処理部1160に指示してもよい。
また、ノイズ量算出部1150は、例えば、「動き有り」と判別されたブロックの割合がより小さい場合には、2Dノイズ低減処理を選択し、「動き有り」と判別されたブロックの割合がより大きい場合には、3Dノイズ低減処理を選択する構成とすることができる。
また、ノイズ量算出部1150は、3Dノイズ低減処理を用いる場合、「動き有り」と判別されたブロックの割合がより大きい場合には、参照するフレームの枚数を少なくし、「動き有り」と判別されたブロックの割合がより小さい場合には、参照するフレームの枚数を多くする構成とすることができる。
また、ノイズ量算出部1150は、対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、ノイズ低減処理部1160により、当該対象領域に適用されるノイズ低減処理の種類及び強度を変更する構成としてもよい。
例えば、ノイズ量算出部1150は、各ブロックにおける平均的な色や輝度を検出し、色や輝度がブロック単位で変化している場合、当該対象フレームにブロックノイズが存在すると推定し、ブロック境界に適用するブロックノイズ低減処理の強度を強くする構成とすることができる。
また、ノイズ量算出部1150は、色や輝度が大きく変化している領域(例えば、画像のエッジ)の近傍にてノイズを検出した場合、当該ノイズをモスキートノイズと判定し、上記エッジを含まない領域での画素値の平均をとることによって、当該モスキートノイズを低減する構成としてもよい。
このような構成とすることによって、よりきめ細かなノイズ低減処理を行うことができる。
なお、上述した各閾値は、映像処理装置1100が出力する映像がより高画質となるように決定しておくことができる。
<実施形態10>
図11〜図12を参照して、実施形態9の変形例について説明する。
本変形例に係るノイズ量算出部1150は、上述した構成に加え、動きを有すると判別されたブロックが多いほど、量子化コードに関する閾値を小さくする構成である。
図11は、各画素についての量子化コードの一例を、本変形例に係るノイズ量算出部1150によって設定される閾値と共に示す図である。
図12は、ノイズ量算出部1150は、動きを有すると判別されたブロックが多いほど、量子化コードに関する閾値を小さく設定する。
多くの符号化方式において、量子化コードは、必要な圧縮率等を鑑みて、エンコーダ側にて設定される。たとえば、元映像に、「じらじらしたノイズ」を含んでいた場合、たとえ圧縮率が低く、すなわち、量子化コードが小さく設定されていたとしても、映像自体に多くのノイズが含まれている場合がある。
一方で、このような映像は、動き判別によって、「動き有り」のブロックが多いと判定される傾向がある。
本変形例においては、「動き有り」のブロックが多い場合、量子化コードに関する閾値を小さく設定するので、上述の「じらじらしたノイズ」を好適に低減することができる。
<実施形態11>
対象フレームを構成する各ブロックの量子化コード、ならびに、当該対象フレームを構成する各ブロックの周波数特性または各画素のエッジ情報とに基づいて、モスキートノイズ低減パラメータを設定し、当該モスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施す構成の映像処理装置2100について、図13〜図16を参照しながら説明する。
図13は、本実施形態に係る映像処理装置2100の構成を示すブロック図である。図13に示す映像処理装置2100は、図1に示す映像処理装置と比べて、周波数判別部2200を備えている点において異なる。
また、図14はモスキートノイズを説明するための概略図であり、図8は、本実施形態に係るノイズ低減処理の一態様である3Dノイズ低減処理、及び2Dノイズ低減処理を説明するための概略図である。
図7は、本実施形態に係る映像処理装置を説明するための図であって、対象フレームを構成する各ブロックが有する量子化コード及び閾値の一例を示す図である。
(周波数判別部2200)
周波数判別手段である周波数判別部2200は、周波数特性に基づいてノイズ低減パラメータを算出する。
より具体的には、周波数判別部2200は、対象フレームを構成する各ブロックが有する周波数成分を復号処理部120から取得する(図13参照)。そのうえで、周波数判別部2200は、当該周波数成分に基づいて、周波数成分のヒストグラムを導出する。図15に示す周波数成分のヒストグラムは、周波数判別部2200が導出した周波数成分のヒストグラムの一例である。この周波数成分のヒストグラムは、対象フレームの周波数特性を反映している。
周波数判別部2200は、導出した周波数成分のヒストグラムを、設定手段であるノイズ量算出部2150に供給する。
(エッジ情報導出部)
なお、映像処理装置2100は、周波数判別部2200の代わりに、エッジ情報導出手段であるエッジ情報導出部を備えていてもよい。エッジ情報導出部は、上記対象フレームを構成する各ピクセルに供給されるピクセル値に対してエッジ情報抽出処理を施し、対象フレームにおけるエッジ情報を導出する。そして、エッジ情報導出部は、当該エッジ情報をノイズ量算出部2150に供給する。
ここで用いるエッジ情報抽出処理としては、既に知られているエッジ情報抽出の方法を適用可能である。具体的なエッジ情報抽出処理の一例を以下に説明する。エッジ情報導出部は、対象フレームが含むあるピクセルの輝度と、当該あるピクセルの隣に配置されているピクセルの輝度との差分を輝度差として算出する。同様に、エッジ情報導出部は、対象フレームを構成する全てのピクセルに対して、上記輝度差を算出する。その上で、エッジ情報導出部は、上記輝度差の分布をエッジヒストグラムとして導出する。当該エッジヒストグラムはエッジ情報の一態様である。すなわち、エッジ情報導出部が導出するエッジ情報は、エッジヒストグラムに限定されるものではない。
別のエッジ情報抽出処理の例としては、ソーベルフィルタを用いたエッジ検出が挙げられる。エッジ情報導出部が、対象フレームに対してソーベルフィルタを施すことによって、対象フレームが含むエッジ成分が検出される。エッジ情報導出部は、この対象フレームが含むエッジ成分に基づいて、対象フレームのエッジヒストグラムを導出してもよい。
(ノイズ低減処理部2160)
ノイズ低減処理部2160は、後述するノイズ量算出部2150からの指示に基づき、以下に示す複数のノイズ低減処理のうち、少なくともモスキートノイズ低減処理を含むノイズ低減処理を対象フレームに適用する。また、ノイズ低減処理部2160は、ノイズ量算出部2150からの指示に基づき、対象フレームに適用するノイズ低減処理の強度を切り替える。
・3Dモスキートノイズ低減処理
・2Dモスキートノイズ低減処理
・3Dブロックノイズ低減処理
・2Dブロックノイズ低減処理
(モスキートノイズ低減処理)
ノイズ低減処理部2160は、上述のようにカラーノイズ低減処理の一類型として、モスキートノイズ低減処理を行う。ここでは、図14の(a)を参照しながら、モスキートノイズの概略について説明する。モスキートノイズは、対象フレーム内において輝度、または、色が大きく変化するようなエッジ領域に生じやすい傾向を有する。図14の(a)において、領域Bは輝度の低い領域を示し、領域Cは輝度の高い領域を示す。領域Bおよび領域Cの境界付近では、輝度が大きく変化するのでモスキートノイズが生じやすい。領域Aは、モスキートノイズが生じている領域を示す。本来であれば領域Bと同様に輝度が低い領域であるはずだが、モスキートノイズが生じていることによって領域Aの輝度は、領域Bより高く、領域Cより低くなっている。
なお、上述のエッジ領域は、対象フレームを構成する各ブロックのうち、高い周波数成分を有するブロックによって形成されると言い換えることも可能である。したがって、モスキートノイズは、高い周波数成分を有するブロック内、及びその周辺のブロックに生じやすいとも言える。その結果として、対象フレームを構成するブロックのうち、高い周波数成分を有するブロックの割合が高いと、その対象フレームには多くのモスキートノイズが含まれている可能性が高い。また、対象フレームが表す映像が、多くのエッジ領域を含んでいると、その対象フレームにはモスキートノイズが多くのモスキートノイズが含まれている可能性が高い。
モスキートノイズ低減処理には、後述するように3Dモスキートノイズ低減処理と、2Dモスキートノイズ低減処理とがある。
(ブロックノイズ低減処理)
ブロックノイズは、一般的に映像を高い圧縮率で符号化した際に生じる矩形のノイズである。その当該ノイズのサイズが、符号化におけるブロックサイズと同じことからブロックノイズと呼ばれる。ブロックノイズ低減処理には、後述するように3Dブロックノイズ低減処理と、2Dブロックノイズ低減処理とがある。
(3Dノイズ低減処理)
ここで、3Dブロックノイズ低減処理、及び3Dモスキートノイズ低減処理は、対象フレームと、1または複数の他のフレームとを参照して行われるものである。以下では、3Dブロックノイズ低減処理と3Dモスキートノイズ低減処理とを便宜的に、3Dノイズ低減処理と呼ぶこともある。
3Dノイズ低減処理は、具体的には、図8の(a)に示すように、ノイズを含む対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域との平均を画素毎にとることによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を多くし、より弱い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を少なくする。
参照するフレームの枚数を多くすることによって、ノイズ低減効果が大きくなるが、動きの激しいシーンでは、残像が発生し易いという側面もある。参照するフレームの枚数を少なくすることによって、動きの激しいシーンであっても、残像の発生が発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、3Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、3Dノイズ低減処理は、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域とを比較し、瞬間的に変化している部分をノイズと判定し、当該ノイズを低減する処理としてもよい。
(2Dノイズ低減処理)
一方で、2Dブロックノイズ低減処理、及び2Dモスキートノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを参照して行われるものである。以下では、2Dブロックノイズ低減処理と2Dモスキートノイズ低減処理とを便宜的に、2Dノイズ低減処理と呼ぶこともある。
2Dノイズ低減処理は、具体的には、図8の(b)に示すように、対象フレームにおける対象画素の画素値と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素の画素値とを平均することによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い2Dノイズ低減処理を適用する場合には、参照領域を大きく設定し、より弱い2Dノイズ低減処理を適用する場合には、参照領域を小さく設定する。
参照領域を大きくすることによって、ノイズ低減効果が大きくなるが、ノイズが発生している領域以外の領域にもボケが発生し易いという側面もある。参照領域を小さくすることによって、ボケが発生しにくいが、ノイズ低減効果が小さくなるという側面もある。また、2Dモスキートノイズ低減処理を適用する場合には、図14の(b)に示すようにモスキートノイズである領域Aと、輝度が高い領域Cとが近い場合がある。このような場合、参照領域を図14の(b)に示すように設定することによって、参照領域に輝度が高い領域Cが含まれることを防ぐことが可能である。上述のように参照領域を設定することによって、モスキートノイズ低減処理をより効果的に実行することが可能である。
なお、2Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、2Dノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを比較し、対象画素の色または輝度が、参照画素の色または輝度と大きく異なる場合に、当該対象画素にノイズが発生していると判断し、当該ノイズを低減する処理としてもよい。
(ノイズ量算出部2150)
設定手段であるノイズ量算出部2150は、周波数判別部2200によって導出された周波数成分のヒストグラム、及び、対象フレームを構成する各ブロックの量子化コードに基づいて、モスキートノイズ低減パラメータを導出する。
ここで、ノイズ量算出部2150によるモスキートノイズ低減パラメータの導出について、図7、15および16を参照して説明すれば以下の通りである。
図7は、各画素についての量子化コードの一例を示す図である。横軸は、対象フレームに含まれる各画素(より具体的には、各画素に付された画素番号)を示しており、縦軸は各画素についての量子化コードの値の例を示している。
ノイズ量算出部2150は、対象フレームにおいて量子化コードが所定の閾値(図7の例では、閾値=10)を越える画素の数の、当該対象フレームにおける全画素数に対する割合を算出する。
図15は、周波数判別部2200によって導出された周波数成分のヒストグラムの一例を示す図である。図15に示す2本の実線は、それぞれ第1の周波数、及び第2の周波数を示している。第1の周波数、及び第2の周波数は、いずれも製造者が予め設定した周波数である。第1の周波数、及び第2の周波数は、映像処理装置2100の製造段階において、記憶部140に記憶されていてもよい。上記の構成によれば、ノイズ量算出部2150は、記憶部140を参照することによって、第1の周波数、及び第2の周波数を取得する。なお、本実施形態において、第1の周波数<第2の周波数である。
ノイズ量算出部2150は、第1の周波数、及び第2の周波数を境界値として、周波数成分のヒストグラムを3つの周波数成分に分割する(図15参照)。ノイズ量算出部2150は、周波数が第1の周波数以下の周波数領域を第1の周波数成分として扱う。図15に記載される周波数「低」の領域が第1の周波数成分である。ノイズ量算出部2150は、周波数が第1の周波数より高く、かつ、第2の周波数以下である周波数領域を、第2の周波数成分として扱う。第2の周波数成分は、図15に示す周波数「中」の領域に対応する。ノイズ量算出部2150は、周波数が第2の周波数より高い周波数領域を第3の周波数成分として扱う。第3の周波数成分は、図15に示す周波数「高」の領域に対応する。以上のように、対象フレームを構成するブロックが有する周波数特性において、第3の周波数成分は高周波成分と言い換えることが可能であり、第1の周波数成分は低周波成分と言い換えることが可能である。また、本実施形態においては、第2の周波数成分のことを中周波数成分と表現する。
その上で、ノイズ量算出部2150は、全周波数成分に対する第1の周波数成分の割合を算出する。同様に、ノイズ量算出部2150は全周波数成分に対する第2の周波数成分の割合、及び、全周波数成分に対する第3の周波数成分の割合を算出する。
なお、第1の周波数、及び第2の周波数は、製造者が任意に定めることが可能な値である。製造者は、ノイズ低減処理部2160が出力するノイズ低減処理後の映像が所望の画質を有するように、第1の周波数、及び第2の周波数の値を適宜調整すればよい。
(モスキートノイズ低減パラメータの導出)
続いてノイズ量算出部2150は、対象フレームにおいて量子化コードが所定の閾値を越える画素の数の、当該対象フレームにおける全画素数に対する割合、ならびに、第1の周波数成分、第2の周波数成分、及び第3の周波数成分に基づいてモスキートノイズ低減パラメータを設定する。以下に、図16を参照しながら、ノイズ量算出部2150が、モスキートノイズ低減パラメータを設定する処理について説明する。なお、以下において、「対象フレームにおいて量子化コードが所定の閾値を越える画素の数の、当該対象フレームにおける全画素数に対する割合」のことを、単に「量子化コードの閾値を超えた割合」と表現する。
図16は、対象フレームを構成する全ブロックのうち量子化コードが閾値を越えたブロックの割合と、対象フレームを構成する周波数成分の割合とによって指定される各ノイズ低減処理の強度を示す図である。図16において、モスキートノイズ低減パラメータのことをMNRと表記している。また、ブロックノイズ低減パラメータのことをBNRと表記し、シャープネス処理パラメータのことをSHARPNESSと表記している。
ノイズ量算出部2150が設定するモスキートノイズ低減パラメータの大きさが大きいほど、ノイズ低減処理部2160は、強いモスキートノイズ低減処理を対象フレームに対して施す。すなわち、ノイズ低減処理部2160が、モスキートノイズ低減パラメータ「大」を取得した場合、ノイズ低減処理部2160は「強」のモスキートノイズ低減処理を対象フレームに施す。ノイズ低減処理部2160が、モスキートノイズ低減パラメータ「中」を取得した場合、ノイズ低減処理部2160は「中」のモスキートノイズ低減処理を対象フレームに施す。ノイズ低減処理部2160が、モスキートノイズ低減パラメータ「小」を取得した場合、ノイズ低減処理部2160は「弱」のモスキートノイズ低減処理を対象フレームに施す。
(高周波成分の割合が高い場合)
対象フレームを構成するブロックが有する高周波成分が多い場合に、ノイズ量算出部2150が設定するモスキートノイズ低減パラメータの大きさについて以下に説明する。本実施形態では、高周波成分の割合が50%以上である場合を、高周波成分の割合が高い場合と定義する。なお、高周波成分の割合が高いか否かを判別する割合は、50%に限定されるものではなく、ノイズ低減処理後の映像が所望の画質を有するように、製造者が任意の割合に適宜調整することが可能である。
対象フレームを構成するブロックが有する高周波成分が多いということは、(i)対象フレームが表す映像に含まれるオブジェクトの輪郭はくっきりしている、(ii)対象フレームが表す映像は、ノイズを多く含んでいる、のいずれかである可能性が高い。オブジェクトの輪郭がくっきりしている場合、オブジェクトの輪郭を形成する領域の近傍にはモスキートノイズが生じやすい。したがって、(i)および(ii)の何れであるにせよ、対象フレームは、多くのモスキートノイズを含んでいる可能性が高い。
よって、量子化コードの閾値を超えた割合が0〜40%未満と低い場合であっても、ノイズ量算出部2150は、モスキートノイズ低減パラメータを「中」に設定する(図16の1行目を参照)。また、量子化コードの閾値を超えた割合が高くなるほど、映像を符号化及び復号化する際の圧縮率が高くなるため、モスキートノイズが生じる頻度も高まる可能性が高い。したがって、図16に示すように、量子化コードの閾値を超えた割合が高くなるほど、ノイズ量算出部2150は、設定するモスキートノイズ低減パラメータを強める。
(高周波成分の割合が高くない場合)
本実施形態において、高周波成分の割合が50%より小さい場合のことを、高周波成分の割合が高くない場合とも表現する。図16に示すように、高周波成分が高くない場合には、2つの場合がある。一方の場合は、図16の2行目に示すように、中周波成分の割合が、低周波成分の割合を上回る場合である。この場合の対象フレームが表す映像は、ボケ感のあるシーンであると表現することができる。当該映像が含むエッジ領域は多くないので、量子化コードの閾値を超えた割合が低い場合であれば、当該映像が含むモスキートノイズの量は少ない。したがって、ノイズ量算出部2150は、モスキートノイズ低減パラメータを「弱」に設定する。なお、量子化コードの閾値を超えた割合が高くなるほど、ノイズ量算出部2150は、設定するモスキートノイズ低減パラメータを強める。
もう一方の場合は、図16の3行目に示すように、低周波成分の割合が、中周波成分の割合を上回る場合である。この場合の対象フレームが表す映像は、単色ベタの多いシーンであると表現することができる。すなわち、当該映像が含むエッジ領域は、ボケ感のあるシーンと比較してさらに少ない。このような映像において、モスキートノイズが生じる可能性は低いので、量子化コードの閾値を超えた割合が低い場合であれば、ノイズ量算出部2150は、モスキートノイズ低減パラメータを「弱」に設定する。また、量子化コードの閾値を超えた割合が高くなるほど、ノイズ量算出部2150は、設定するモスキートノイズ低減パラメータを強める。しかし、その強める度合いは、ボケ感のあるシーンと比較して小さい。したがって、量子化コードの閾値を超えた割合が80〜100%である場合であっても、ノイズ量算出部2150は、モスキートノイズ低減パラメータを「中」に設定する。
このように、ノイズ量算出部2150が、モスキートノイズ低減パラメータを適切に設定し、ノイズ低減処理部2160が、当該モスキートノイズ低減パラメータに基づいてモスキートノイズ低減処理を対象フレームに施すことによって、対象フレームが表す映像の画質を効果的に向上することが可能である。
本実施形態において、図16に示すように、ノイズ量算出部2150が設定するノイズ低減パラメータは、モスキートノイズ低減パラメータに限定されるものではない。ノイズ量算出部2150は、量子化コードの閾値を超えた割合、及び、周波数成分の割合に基づいて、ブロックノイズ低減パラメータと、シャープネス処理パラメータとを図16に示すように設定する構成であってもよい。ノイズ量算出部2150が、モスキートノイズ低減パラメータに加えて、ブロックノイズ低減パラメータ、及びシャープネス処理パラメータを適切に設定し、ノイズ低減処理部2160がこれらの各パラメータに基づいてそれぞれのノイズ低減処理を対象フレームに施すことによって、対象フレームが表す映像の画質をさらに向上することが可能である。
なお、ノイズ量算出部2150は、「弱」に設定したノイズ低減処理を省略するよう、ノイズ低減処理部2160に指示してもよい。
また、ノイズ低減処理部2160がモスキートノイズ低減処理、及びブロックノイズ低減処理を行う際に、それぞれのノイズ低減処理は、2Dノイズ低減処理であってもよいし、3Dノイズ低減処理であってもよい。
また、ノイズ量算出部2150は、対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、ノイズ低減処理部2160により、当該対象領域に適用されるノイズ低減処理の種類及び強度を変更する構成としてもよい。
例えば、ノイズ量算出部2150は、各ブロックにおける平均的な色や輝度を検出し、色や輝度がブロック単位で変化している場合、当該対象フレームにブロックノイズが存在すると推定し、ブロック境界に適用するブロックノイズ低減処理の強度を強くする構成とすることができる。
また、ノイズ量算出部2150は、色や輝度が大きく変化している領域(例えば、画像のエッジ)の近傍にてノイズを検出した場合、当該ノイズをモスキートノイズと判定し、上記エッジを含まない領域での画素値の平均をとることによって、当該モスキートノイズを低減する構成としてもよい。
このような構成とすることによって、よりきめ細かなノイズ低減処理を行うことができる。
なお、上述した各閾値は、映像処理装置2100が出力する映像がより高画質となるように決定しておくことができる。
(エッジ情報に基づくモスキートノイズ低減パラメータの設定)
映像処理装置2100が、周波数判別部2200の代わりにエッジ情報導出部を備えている場合、ノイズ量算出部2150は、エッジ情報導出部からエッジ情報の一態様であるエッジヒストグラムを取得する。エッジヒストグラムは、上述したように、対象フレームを構成する各ピクセルが有する輝度差に応じてその分布を表すものである。対象フレームを構成するブロックが有する周波数成分と、対象フレームを構成する各ピクセルが有する輝度差とは、いずれも所定の領域内に含まれるエッジ領域の量を反映している。すなわち、エッジヒストグラムにおける輝度差が大きい領域は、周波数成分のヒストグラムにおける高周波成分の領域に対応している。そして、エッジヒストグラムにおける輝度差が小さい領域は、周波数成分のヒストグラムにおける低周波成分の領域に対応している。さらに、エッジヒストグラムにおける輝度差が中程度の領域は、周波数成分のヒストグラムにおける中周波成分の領域に対応している。
したがって、ノイズ量算出部2150は、周波数成分のヒストグラムの代わりに、エッジヒストグラムを用い、かつ、輝度差を3領域に分けるために所定の輝度差を2つ用いることによって、モスキートノイズ低減パラメータを適切に設定することが可能である。
また、ノイズ量算出部2150は、エッジヒストグラムにおける輝度差が大きい領域を定めるために、所定の輝度差を1つ用いる構成であってもよい。すなわち、ノイズ量算出部2150は、対象フレームを構成する全ピクセルに対して、当該所定の輝度差によって定められる輝度差が大きい領域を構成するピクセルの割合を算出する構成であってもよい。この場合、当該割合に基づいてノイズ量算出部2150は、モスキートノイズ低減パラメータを設定することが可能である。ノイズ量算出部2150は、上記の輝度差が大きい領域を構成するピクセルの割合が高いほど、モスキートノイズ低減パラメータを大きく設定する。
<実施形態12>
図11および17を参照して、実施形態11の変形例について説明する。
本変形例に係るノイズ量算出部2150は、上述した構成に加え、高周波成分の割合が高いほど量子化コードに関する閾値を小さくし、低周波成分の割合が高いほど量子化コードに関する閾値を大きくする構成である。
図11は、各画素についての量子化コードの一例を、本変形例に係るノイズ量算出部2150によって設定される閾値と共に示す図である。
図17に示すように、ノイズ量算出部2150は、高周波成分の割合が高いほど量子化コードに関する閾値を小さく設定し、低周波成分の割合が高いほど量子化コードに関する閾値を大きく設定する。
多くの符号化方式において、量子化コードは、必要な圧縮率等を鑑みて、エンコーダ側にて設定される。たとえば、元映像に、「じらじらしたノイズ」を含んでいた場合、たとえ圧縮率が低く、すなわち、量子化コードが小さく設定されていたとしても、映像自体に多くのノイズが含まれている場合がある。
一方で、このような映像自体に多くのノイズが含まれている場合、ノイズ量算出部2150は、当該映像を表す対象フレームに対して高周波成分の割合が高いと判別する。したがって、ノイズ量算出部2150は、上述の「じらじらしたノイズ」を好適に低減することができる。
<実施形態13>
以下では、対象フレームを構成する量子化コードと、当該対象フレームを構成する各ピクセルのうち表示する色が含む原色成分の割合が所定の割合より大きいピクセルの数と、上記原色成分を含む同一色を表示する各ピクセルが連続して形成する領域が含むピクセルの数とに基づいて、ノイズ低減処理に関するノイズ低減パラメータを変更する構成について、図7、8、14、18および19を参照して説明する。
図18は、本実施形態に係る映像処理装置3100の構成を示すブロック図である。図18に示すように、本実施形態に係る映像処理装置3100は、図1に示した構成に加えて、彩度判別部3200を備えている。
なお、本実施形態に係る映像処理装置3100の構成は、図18に示すものに限定されるものではなく、図3及び図4にそれぞれ示す構成に、彩度判別部3200を付加する構成としてもよい。また、本実施形態は、上述した各実施形態と組み合わせて用いることもできる。
(彩度判別部3200)
本実施形態に係る彩度判別部3200は、復号処理部120から供給される映像を構成するフレームのうち、彩度判別の対象となる復号済みの対象フレームに含まれるピクセル(以下において、対象ピクセルとも表現する)が原色ピクセルであるか否かを判別する。対象フレームに含まれるピクセルが、原色ピクセルであるか否かを判別する方法は限定されず、周知である原色ピクセルを判別する方法を使用可能である。
例えば、あるピクセルに供給されるRGB信号において、R、G、及びBのうち何れか1つの信号が有限の階調を有し、他の2つの信号の階調が0である場合に、当該ピクセルを原色ピクセルと判別してもよい。
また、原色ピクセルを判別する方法の別の一例としては、あるピクセルに供給されるRGB信号において、R、G、及びBの各信号が、RGB信号全体に対して占める割合を算出してもよい。この割合のことを原色成分の割合と表現する。そして、当該ピクセルに供給されるRGB信号において、いずれか一色における原色成分の割合が高い場合に、当該ピクセルを原色ピクセルと判別してもよい。以下に、原色成分の割合を用いて原色ピクセルを判別する方法を説明する。
(ステップS1001)
復号処理部120から供給される対象ピクセルに対応する信号がRGB信号であれば、彩度判別部3200は、当該RGB信号における各色の信号強度であるr、gおよびbを原色成分として検出する。
(ステップS1002)
検出したr、gおよびbに基づいて、彩度判別部3200は、対象ピクセルにおける原色成分の割合を算出する。赤成分の割合であるrrate、緑成分の割合であるgrate、および、青成分の割合であるbrateを、例えば(1)式から(3)式のように定義する。
rrate=r/(r+g+b) ・・・(1)
grate=g/(r+g+b) ・・・(2)
brate=b/(r+g+b) ・・・(3)
(ステップS1003)
彩度判別部3200は、rrate、grate、及びbrateのそれぞれと、原色ピクセルであるか否かを決定する所定の閾値をCthとの大小関係を比較する。各原色成分のうちいずれか1つの原色成分の割合が、所定の閾値Cthより大きい場合、彩度判別部3200は、当該ピクセルを原色ピクセルであると判別し、原色ピクセルとして積算する。一方、各原色成分の全てが、所定の閾値Cth以下である場合、彩度判別部3200は、当該ピクセルを原色ピクセルでないと判別する。
(ステップS1004)
彩度判別部3200は、対象フレームが含むすべてのピクセルについて原色ピクセルであるか否かを判別した上で、当該対象フレームが含む原色ピクセルの数と、それぞれの原色ピクセルに供給されるRGB信号とを後述するノイズ量算出部3150に供給する。
なお、復号処理部120から供給される各ピクセルに対応する信号は、RGB信号に限定されない。復号処理部120から供給される信号が、例えばYPbPr信号である場合、彩度判別部3200は、当該YPbPr信号をRGB信号に変換し、変換後のRGB信号におけるr、gおよびbを原色成分として検出してもよい。また、Cthは、製造者が任意の値に決定することが可能である。製造者がCthを大きく設定することによって、ノイズ量算出部3150が、原色ピクセルであると判別する判別基準が厳しくなる。
(ノイズ低減処理部3160)
実施形態13に係るノイズ低減処理部3160は、後述するノイズ量算出部3150からの指示に基づき、以下に示す複数のノイズ低減処理の少なくとも何れかを、対象フレームに適用する。また、ノイズ低減処理部3160は、ノイズ量算出部3150からの指示に基づき、対象フレームに適用するノイズ低減処理の強度を切り替える。
・カラーノイズ低減処理
・3Dブロックノイズ低減処理
・2Dブロックノイズ低減処理
・3Dモスキートノイズ低減処理
・2Dモスキートノイズ低減処理
・シャープネス処理
なお、上述のように、本実施形態におけるノイズ低減処理は、シャープネス処理を含んでもよい。
(カラーノイズ低減処理)
カラーノイズは、例えば映像を撮影する撮像素子における暗電流によって生じるノイズである。カラーノイズは、以下の特徴を有する。
・原色、または、原色に近い色である。
・単一のカラーノイズはとても狭い領域に限られる。
このように、カラーノイズは、原色、または、原色に近い色であることが多いため、ユーザから視認されやすい。カラーノイズの低減処理は、カラーノイズを形成するピクセルに供給される原色、または原色に近い色を表すRGB信号を、無彩色に近い色を表すRGB信号に変換することによって実行可能である。
例えば、カラーノイズを形成するピクセルに、原色の1つである赤に近い色を表すRGB信号が供給されるとする。当該RGB信号において、rrateのみが大きく、grateおよびbrateは小さい。そこで、ノイズ低減処理部3160は、当該RGB信号に対して赤のカラーゲインのみを下げる。このことによって、カラーノイズを形成するピクセルに供給されるRGB信号が表す色は、赤から無彩色に近い色に変換され、ユーザから視認されにくくなる。このカラーノイズ低減処理は、カラーノイズが赤、または、赤に近い色である場合に限られず、カラーノイズが緑、または、緑に近い色である場合にも有効であり、カラーノイズが青、または、青に近い色である場合にも有効である。
ノイズ低減処理部3160は、カラーノイズ低減処理の一類型として、カラーゲイン低減処理を行う。
後述する強度決定手段であるノイズ量算出部3150が強度の強いカラーノイズ低減処理を適用する場合には、上述のカラーゲインを大きく下げるようにノイズ低減処理部3160を制御すればよい。反対に、ノイズ量算出部3150が強度の弱いカラーノイズ低減処理を低減する場合には、上述のカラーゲインを小さく下げるようにノイズ低減処理部3160を制御すればよい。
(モスキートノイズ低減処理)
ノイズ低減処理部3160は、カラーノイズ低減処理の一類型として、モスキートノイズ低減処理を行う。ここで、モスキートノイズは、対象フレーム内において輝度、または、色が大きく変化するようなエッジ領域に生じやすい傾向を有する。図14の(a)を参照しながら、モスキートノイズの概略について説明する。図14の(a)において、領域Bは輝度の低い領域を示し、領域Cは輝度の高い領域を示す。領域Bおよび領域Cの境界付近では、輝度が大きく変化するのでモスキートノイズが生じやすい。領域Aは、モスキートノイズが生じている領域を示す。本来であれば領域Bと同様に輝度が低い領域であるはずだが、モスキートノイズが生じていることによって領域Aの輝度は、領域Bより高く、領域Cより低くなっている。
モスキートノイズ低減処理には、後述するように3Dモスキートノイズ低減処理と、2Dモスキートノイズ低減処理とがある。
(ブロックノイズ低減処理)
ブロックノイズは、一般的に映像を高い圧縮率で符号化した際に生じる矩形のノイズである。その当該ノイズのサイズが、符号化におけるブロックサイズと同じことからブロックノイズと呼ばれる。ブロックノイズ低減処理には、後述するように3Dブロックノイズ低減処理と、2Dブロックノイズ低減処理とがある。
(3Dノイズ低減処理)
ここで、3Dブロックノイズ低減処理、及び3Dモスキートノイズ低減処理は、対象フレームと、1または複数の他のフレームとを参照して行われるものである。以下では、3Dブロックノイズ低減処理と3Dモスキートノイズ低減処理とを便宜的に、3Dノイズ低減処理と呼ぶこともある。
3Dノイズ低減処理は、具体的には、図8の(a)に示すように、ノイズを含む対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域との平均を画素毎にとることによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を多くし、より弱い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を少なくする。
参照するフレームの枚数を多くすることによって、ノイズ低減効果が大きくなるが、動きの激しいシーンでは、残像が発生し易いという側面もある。参照するフレームの枚数を少なくすることによって、動きの激しいシーンであっても、残像の発生が発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、3Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、3Dノイズ低減処理は、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域とを比較し、瞬間的に変化している部分をノイズと判定し、当該ノイズを低減する処理としてもよい。
(2Dノイズ低減処理)
一方で、2Dブロックノイズ低減処理、及び2Dモスキートノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを参照して行われるものである。以下では、2Dブロックノイズ低減処理と2Dモスキートノイズ低減処理とを便宜的に、2Dノイズ低減処理と呼ぶこともある。
2Dノイズ低減処理は、具体的には、図8の(b)に示すように、対象フレームにおける対象画素の画素値と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素の画素値とを平均することによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い2Dノイズ低減処理を適用する場合には、参照領域を大きく設定し、より弱い2Dノイズ低減処理を適用する場合には、参照領域を小さく設定する。
参照領域を大きくすることによって、ノイズ低減効果が大きくなるが、ノイズが発生している領域以外の領域にもボケが発生し易いという側面もある。参照領域を小さくすることによって、ボケが発生しにくいが、ノイズ低減効果が小さくなるという側面もある。また、2Dモスキートノイズ低減処理を適用する場合には、図14の(b)に示すようにモスキートノイズである領域Aと、輝度が高い領域Cとが近い場合がある。このような場合、参照領域を図14の(b)に示すように設定することによって、参照領域に輝度が高い領域Cが含まれることを防ぐことが可能である。上述のように参照領域を設定することによって、モスキートノイズ低減処理をより効果的に実行することが可能である。
なお、2Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、2Dノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを比較し、対象画素の色または輝度が、参照画素の色または輝度と大きく異なる場合に、当該対象画素にノイズが発生していると判断し、当該ノイズを低減する処理としてもよい。
(ノイズ量算出部3150)
続いて、ノイズ低減処理選択手段であり、強度決定手段でもあるノイズ量算出部3150について説明する。本実施形態に係るノイズ量算出部3150は、量子化パラメータ取得部130が取得した量子化コード、彩度判別部3200が判別した原色ピクセルに係る情報、および、記憶部140が格納している複数の閾値を用いて、当該映像におけるノイズの種類およびノイズ量を推定する。ノイズ量算出部3150は、ノイズの種類およびノイズ量を推定する際に、量子化コードを判別する閾値であるQthに加えて、対象フレームが含む原色ピクセルの個数を判別する閾値であるNth、及び、原色ピクセルのなす面積が含む原色ピクセルの数を判別する閾値であるDthを用いる。
また、ノイズ量算出部3150は、推定したノイズの種類およびノイズ量に基づいて、ノイズ低減処理部3160によるノイズ低減処理の種類及び強度を変更する。
(カラーノイズの判別)
ノイズ量算出部3150が実行するカラーノイズを特定する処理について、以下に説明する。
ノイズ量算出部3150は、それぞれの原色ピクセルのなす面積が有するサイズが、所定の閾値であるDthと比較して大または小のいずれであるかを判別する。原色ピクセルが連続して形成する領域が有するサイズが大きい場合、この領域は、テロップまたはコンピュータグラフィクス(CG)などの人為的に映像中に埋め込まれたパターンである可能性が高い。したがって、ノイズ量算出部3150は、原色ピクセルが連続して形成する領域のうちサイズが大きい領域をカラーノイズでないと判別する。一方、原色ピクセルが連続して形成する領域が有するサイズが小さい場合、この領域は、人為的に埋め込まれたパターンではなくカラーノイズである可能性が高い。よって、ノイズ量算出部3150は、原色ピクセルが連続して形成する領域のうちサイズが小さい領域をカラーノイズであると判別する。
具体的には、ノイズ量算出部3150は、互いに隣接する原色ピクセルがなす面積を特定し、その面積が含む原色ピクセルの数をNumとして導出する。このNumは、互いに隣接する原色ピクセルのなす面積を表すパラメータであると捉えるともできる。その上で、ノイズ量算出部3150は、NumとDthとを比較し、Num>Dthである場合には、原色ピクセルがなす面積が大きいと判別し、Num≦Dthである場合には、原色ピクセルがなす面積が小さいと判別する。なお、所定の閾値であるDthは限定されず、製造者が任意の値に決定することが可能である。たとえば、Dth=4であってもよい。図19に示す領域Xおよび領域Yは、原色ピクセルのなす面積を示している。領域Xにおいて、例えばNum=4であれば、ノイズ量算出部3150は、領域Xをカラーノイズであると判別する。一方、領域Yにおいて、例えばNum=200であれば、ノイズ量算出部3150は、領域Yをカラーノイズではないと判別する。
なお、ここでは原色ピクセルがなす面積が含む原色ピクセルの数を用いて、当該面積が大きいか、または小さいかを判別する例を示している。しかし、ノイズ量算出部3150は、面積を判別する所定の閾値と比較することによって、原色ピクセルがなす面積が大きいか、小さいか、を判別する構成であってもよい。また、面積の導出方法は限定されるものではなく、従来知られている手法を用いてもよい。
また、ノイズ量算出部3150は、彩度判別部3200から供給される情報に基づいて、対象フレームが含む原色ピクセルの数をNfとして導出する。ノイズ量算出部3150は、Nfと所定の閾値であるNthとを比較し、Nf>Nthである場合には、当該対象フレームが含む原色ピクセルは多いと判別する。一方、Nf≦Nthである場合には、当該対象フレームが含む原色ピクセルは少ないと判別する。なお、所定の閾値であるNthは限定されず、製造者が任意の値に決定することが可能である。
ノイズ量算出部3150が実行する処理の一例を、以下に示す。
(ステップS1101)
ノイズ量算出部3150は、原色ピクセルに最隣接するピクセルが、原色ピクセルであるか否かを判別する。
(ステップS1102)
上記最隣接するピクセルが原色ピクセルである場合、ノイズ量算出部3150は、上記最隣接するピクセルにさらに隣接するピクセルが、原色ピクセルであるか否かを判別する。このように原色ピクセルに隣接する各ピクセルに対して、逐次的に原色ピクセルであるか否かを判別し、ノイズ量算出部3150は、原色ピクセルがなす面積を特定する。
(ステップS1103)
その上で、ノイズ量算出部3150は、当該面積に含まれる原色ピクセルの数であるNumを導出する。
(ステップS1104)
ノイズ量算出部3150は、それぞれの原色ピクセルが連続して形成する各領域について、Num、及びNthの大小関係を比較する。ある領域についてNum、及びNthの大小関係を比較した結果がNum≦Dthであれば、ノイズ量算出部3150は、当該領域をサイズ小、すなわちカラーノイズと判別する。一方、Num>Dthであれば当該領域をサイズ大、すなわちカラーノイズではないと判別する。
(ステップS1105)
ノイズ量算出部は、対象フレームが含む原色ピクセルの数であるNfと、所定の閾値Nthとを比較する。Nf>Nthである場合には、当該対象フレームが含む原色ピクセルは多いと判別する。一方、Nf≦Nthである場合には、当該対象フレームが含む原色ピクセルは少ないと判別する。
なお、上述の処理におけるDth、及びNthは、製造者が任意に決めることが可能である。製造者がDthを小さく設定することによって、ノイズ量算出部3150が、原色ピクセルがなす面積をカラーノイズであると判別する判別基準が厳しくなる。また、製造者がNthを小さく設定することによって、ノイズ量算出部3150が、領域が有するサイズをサイズ小と判別する際の判別基準が厳しくなる。映像処理装置3100の製造段階において、上記所定の割合は、例えば記憶部140に記憶される。ノイズ量算出部3150は、記憶部140を参照することによって上記所定の割合を取得すればよい。
(ノイズ種類、及びノイズ量)
図7は、各画素についての量子化コードの一例を示す図である。横軸は、対象フレームに含まれる各画素(より具体的には、各画素に付された画素番号)を示しており、縦軸は各画素についての量子化コードの値の例を示している。
ノイズ量算出部3150は、対象フレームにおいて量子化コードが所定のQth(図7の例では、Qth=10)を越える画素の数の、当該対象フレームにおける全画素数に対する割合を算出する。
カラーノイズの判別結果、及び、量子化コードがQthを超える画素の全画素数に対する割合に基づき、ノイズ量算出部3150は、ノイズ低減処理部3160が対象フレームに適用するノイズ低減処理の種類及びその強度を変更する。
図20は、対象フレームが含む原色ピクセルの数の多少と、互いに隣接する原色ピクセルがなす面積の大小と、閾値を超えた量子化コードの割合と、ノイズ量算出部3150により設定される各ノイズ低減処理の強度との関係の一例を示す表である。図20において、「BNR」は、ブロックノイズ低減処理を指しており、「MNR」は、モスキートノイズ低減処理を指しており、「SHARPNESS」は、シャープネス処理を指しており、「COLOR」は、カラーゲイン低減処理を指している。本実施形態において、カラーノイズ低減処理は、モスキートノイズ低減処理、及び、カラーノイズと判別された原色のゲインの低減するカラーゲイン低減処理を含んでいる。
なお、カラーノイズ低減処理の一態様であるカラーゲイン低減処理において「×1」とは、復号処理部120から供給される映像信号に対して1を乗算することを意味する。すなわち、「×1」はカラーゲインを変更しないことを意味し、カラーノイズ低減処理の強度が非常に小さい、または、カラーノイズ低減処理を実行しないことを意味する。一方、カラーノイズ低減処理において、例えば「×0.7」とは、復号処理部120から供給される映像信号に対して0.7を乗算することを意味する。すなわち、カラーゲインが0.7倍になり、該当するピクセルが表示する色は、原色に近い色から、無彩色へ近づく方向に変換される。このように、カラーノイズ低減処理における乗算の数値は、その値が小さいほどカラーノイズ低減処理の強度が強いことを意味する。
また、図20に示すように、ノイズ量算出部3150は、Qthを越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理、及びブロックノイズ低減処理の強度を強くする。
また、ノイズ量算出部3150は、「弱」に設定したノイズ低減処理を省略するよう、ノイズ低減処理部3160に指示してもよい。
図20の2行目に示すように、対象フレームが含む原色ピクセルの数が多く、原色ピクセルが連続して形成する領域の面積が大きい場合、ノイズ量算出部3150は、対象フレームには人為的に映像中に埋め込まれたパターン(テロップ、及びCG)が多いと推定する。したがって、ノイズ量算出部3150は、量子化コードがQthを超える画素の全画素数に対する割合に関わらず、カラーノイズ低減処理の強度を非常に弱くする、または、カラーノイズ低減処理を省略する。すなわち、ノイズ量算出部3150は、「×1」をノイズ低減処理部3160に供給する。
また、図20の1行目に示すように、対象フレームが含む原色ピクセルの数が多く、原色ピクセルが連続して形成する領域の面積が小さい場合、ノイズ量算出部3150は、対象フレームには多くのカラーノイズが含まれていると推定する。したがって、ノイズ量算出部3150は、量子化コードがQthを超える画素の全画素数に対する割合に応じてカラーノイズ低減処理の強度を「×1」、「×0.9」または「×0.7」のいずれかに設定し、ノイズ低減処理部3160に供給する。
また、図20の3行目に示すように、対象フレームが含む原色ピクセルの数が少なく、原色ピクセルが連続して形成する領域の面積が小さい場合、ノイズ量算出部3150は、対象フレームにはカラーノイズがまばらに含まれていると推定する。したがって、ノイズ量算出部3150は、量子化コードがQthを超える画素の全画素数に対する割合に応じてカラーノイズ低減処理の強度を「×1」、「×0.9」または「×0.8」のいずれかに設定し、ノイズ低減処理部3160に供給する。
上述したように、それぞれのカラーノイズがなす面積は上述のように小さいので、カラーゲインを低減することによって、原色が無彩色に近い色に変換されても表示品位に影響を与える可能性は極めて低い。したがって、本実施形態に係るカラーノイズ低減処理は、ユーザに違和感を与えることなくカラーノイズを低減することが可能である。
また、ノイズ量算出部3150は、対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、ノイズ低減処理部3160により、当該対象領域に適用されるノイズ低減処理の種類及び強度を変更する構成としてもよい。
例えば、ノイズ量算出部3150は、各ブロックにおける平均的な色や輝度を検出し、色や輝度がブロック単位で変化している場合、当該対象フレームにブロックノイズが存在すると推定し、ブロック境界に適用するブロックノイズ低減処理の強度を強くする構成とすることができる。
また、ノイズ量算出部3150は、色や輝度が大きく変化している領域(例えば、画像のエッジ)の近傍にてノイズを検出した場合、当該ノイズをモスキートノイズと判定し、上記エッジを含まない領域での画素値の平均をとることによって、当該モスキートノイズを低減する構成としてもよい。このような構成とすることによって、よりきめ細かなノイズ低減処理を行うことができる。
なお、上述した各閾値は、映像処理装置3100が出力する映像がより高画質となるように決定しておくことができる。
<実施形態14>
以下では、量子化コードと、動きベクトル情報とに基づいて、ノイズ低減処理に関するノイズ低減パラメータを変更する構成について、図7、8、10〜12、21および22を参照して説明する。
図21は、本実施形態に係る映像処理装置4100の構成を示すブロック図である。図21に示すように、本実施形態に係る映像処理装置4100は、図1に示した構成と略同様の構成を有しているが、ノイズ量算出部4150が、復号処理部120から動きベクトル情報(図21において「MVI」と表記)を取得する点が異なっている。
なお、本実施形態に係る映像処理装置4100の構成は、図21に示すものに限定されるものではなく、図3及び図4にそれぞれ示す構成において、ノイズ量算出部4150が、復号処理部120から動きベクトル情報MVIを取得する構成としてもよい。
(動きベクトル情報)
動きベクトル情報は、復号処理部120によって、映像信号から復号され、各ブロックに割り付けられる。動きベクトル情報には、各ブロックの動きベクトルの各成分が含まれている。
図22は、対象フレーム中を右側に向けて動くオブジェクトを含むブロックに割り付けられた動きベクトルを示している。
(ノイズ低減処理部4160)
ノイズ低減処理部4160は、後述するノイズ量算出部4150からの指示に基づき、以下に示す複数のノイズ低減処理の少なくとも何れかを、対象フレームに適用する。また、ノイズ低減処理部4160は、ノイズ量算出部4150からの指示に基づき、対象フレームに適用するノイズ低減処理の強度を切り替える。
・3Dブロックノイズ低減処理
・2Dブロックノイズ低減処理
・3Dモスキートノイズ低減処理
・2Dモスキートノイズ低減処理
ここで、3Dブロックノイズ低減処理、及び3Dモスキートノイズ低減処理は、対象フレームと、1または複数の他のフレームとを参照して行われるものである。以下では、3Dブロックノイズ低減処理と3Dモスキートノイズ低減処理とを便宜的に、3Dノイズ低減処理と呼ぶこともある。
3Dノイズ低減処理は、具体的には、図8の(a)に示すように、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域との平均を画素毎にとることによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を多くし、より弱い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を少なくする。
参照するフレームの枚数を多くすることによって、ノイズ低減効果が大きくなるが、動きの激しいシーンでは、残像が発生し易いという側面もある。参照するフレームの枚数を少なくすることによって、動きの激しいシーンであっても、残像の発生が発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、3Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、3Dノイズ低減処理は、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域とを比較し、瞬間的に変化している部分をノイズと判定し、当該ノイズを低減する処理としてもよい。
一方で、2Dブロックノイズ低減処理、及び2Dモスキートノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを参照して行われるものである。以下では、2Dブロックノイズ低減処理と2Dモスキートノイズ低減処理とを便宜的に、2Dノイズ低減処理と呼ぶこともある。
2Dノイズ低減処理は、具体的には、図8の(b)に示すように、対象フレームにおける対象画素の画素値と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素の画素値とを平均することによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い2Dノイズ低減処理を適用する場合には、参照領域を大きく設定し、より弱い2Dノイズ低減処理を適用する場合には、参照領域を小さく設定する。
参照領域を大きくすることによって、ノイズ低減効果が大きくなるが、ノイズが発生している領域以外の領域にもボケが発生し易いという側面もある。参照領域を小さくすることによって、ボケが発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、2Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、2Dノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを比較し、対象画素の色または輝度が、参照画素の色または輝度と大きく異なる場合に、当該対象画素にノイズが発生していると判断し、当該ノイズを低減する処理としてもよい。
(ノイズ量算出部4150)
続いて、本実施形態に係るノイズ量算出部4150について説明する。本実施形態に係るノイズ量算出部4150は、設定手段である。ノイズ量算出部4150は、量子化パラメータ取得部130が取得した量子化コード、動きベクトル情報、及び記憶部140が格納している閾値を用いて、当該映像におけるノイズ量を推定する。また、ノイズ量算出部4150は、推定したノイズ量に基づいて、ノイズ低減処理部4160によるノイズ低減処理の種類及び強度を変更する。
ノイズ量算出部4150は、対象フレームを構成する各ブロックについて、当該ブロックに割り付けられた動きベクトルの大きさを所定の閾値と比較し、当該動きベクトルが当該閾値よりも大きい場合、当該ブロックを「動き有りのブロック」と判定し、当該動きベクトルが当該閾値以下である場合、当該ブロックを「動き無しのブロック」と判定する。
図7は、各画素についての量子化コードの一例を示す図である。横軸は、対象フレームに含まれる各画素(より具体的には、各画素に付された画素番号)を示しており、縦軸は各画素についての量子化コードの値の例を示している。
ノイズ量算出部4150は、対象フレームにおいて量子化コードが所定の閾値(図7の例では、閾値=10)を越える画素の数の、当該対象フレームにおける全画素数に対する割合を算出する。
また、ノイズ量算出部4150は、対象フレームにおいて「動き有り」と判別されたブロックの数の、当該対象フレームにおける全ブロック数に対する割合を算出する。
これらの算出結果に基づき、ノイズ量算出部4150は、ノイズ低減処理部4160が対象フレームに適用するノイズ低減処理の種類及びその強度を変更する。
図10は、「動き有り」と判別されたブロック割合と、閾値を超えた量子化コードの割合と、ノイズ量算出部4150により設定される各ノイズ低減処理の強度との関係の一例を示す表である。図10において、「BNR」は、ブロックノイズ低減処理を指しており、「MNR」は、モスキートノイズ低減処理を指している。
図10に示すように、ノイズ量算出部4150は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする。
また、図10に示すように、ノイズ量算出部4150は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くする。
また、ノイズ量算出部4150は、「弱」に設定したノイズ低減処理を省略するよう、ノイズ低減処理部4160に指示してもよい。
また、ノイズ量算出部4150は、例えば、「動き有り」と判別されたブロックの割合がより小さい場合には、2Dノイズ低減処理を選択し、「動き有り」と判別されたブロックの割合がより大きい場合には、3Dノイズ低減処理を選択する構成とすることができる。
また、ノイズ量算出部4150は、3Dノイズ低減処理を用いる場合、「動き有り」と判別されたブロックの割合がより大きい場合には、参照するフレームの枚数を少なくし、「動き有り」と判別されたブロックの割合がより小さい場合には、参照するフレームの枚数を多くする構成とすることができる。
また、ノイズ量算出部4150は、対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、ノイズ低減処理部4160により、当該対象領域に適用されるノイズ低減処理の種類及び強度を変更する構成としてもよい。
例えば、ノイズ量算出部4150は、各ブロックにおける平均的な色や輝度を検出し、色や輝度がブロック単位で変化している場合、当該対象フレームにブロックノイズが存在すると推定し、ブロック境界に適用するブロックノイズ低減処理の強度を強くする構成とすることができる。
また、ノイズ量算出部4150は、色や輝度が大きく変化している領域(例えば、画像のエッジ)の近傍にてノイズを検出した場合、当該ノイズをモスキートノイズと判定し、上記エッジを含まない領域での画素値の平均をとることによって、当該モスキートノイズを低減する構成としてもよい。
このような構成とすることによって、よりきめ細かなノイズ低減処理を行うことができる。
なお、上述した各閾値は、映像処理装置4100が出力する映像がより高画質となるように決定しておくことができる。
<実施形態15>
図11〜図12を参照して、実施形態14の変形例について説明する。
本変形例に係るノイズ量算出部4150は、上述した構成に加え、動きを有すると判別されたブロックが多いほど、量子化コードに関する閾値を小さくする構成である。
図11は、各画素についての量子化コードの一例を、本変形例に係るノイズ量算出部4150によって設定される閾値と共に示す図である。
図12は、ノイズ量算出部4150は、動きを有すると判別されたブロックが多いほど、量子化コードに関する閾値を小さく設定する。
多くの符号化方式において、量子化コードは、必要な圧縮率等を鑑みて、エンコーダ側にて設定される。たとえば、元映像に、「じらじらしたノイズ」を含んでいた場合、たとえ圧縮率が低く、すなわち、量子化コードが小さく設定されていたとしても、映像自体に多くのノイズが含まれている場合がある。
一方で、このような映像は、動き判別によって、「動き有り」のブロックが多いと判定される傾向がある。
本変形例においては、「動き有り」のブロックが多い場合、量子化コードに関する閾値を小さく設定するので、上述の「じらじらしたノイズ」を好適に低減することができる。
<実施形態16>
以上では、ノイズ量算出部4150が、動きベクトル情報を、復号処理部120から取得するものとして説明を行ったが、実施形態14は、これに限定されない。
例えば、映像処理装置4100が、倍速駆動を行うためのフレームレート調整手段(FRC:Frame Rate Controller)と共に用いられる構成では、動きベクトル情報を、FRCから取得する構成としてもよい。このような構成の具体例として、例えば、2倍速駆動を行うテレビジョン受像機等が挙げられる。
FRCは、補完フレームを生成するために、各ブロックについて動きベクトルを算出するので、ノイズ量算出部4150は、この動きベクトルをFRCから取得し、上述したノイズ低減処理を行うことができる。
<実施形態17>
以下では、対象フレームを構成する各ブロックの量子化コード値を取得し、それぞれの上記量子化コード値に基づいて上記対象フレームにおけるノイズ低減パラメータを算出し、所定の範囲内のノイズ低減処理強度を、所定の範囲内の上記ノイズ低減パラメータと正の相関を有するように設定する構成について、図7、23および24を参照して説明する。なお、以下において、ノイズ低減パラメータのことをNR判別値とも表現し、ノイズ低減処理強度のことをNRゲインとも表現する。
図23は、本実施形態に係る映像処理装置5100の構成を示すブロック図である。図23に示すように、本実施形態に係る映像処理装置5100は、NR判別値算出部5200を備えている点において実施形態1に係る映像処理装置と異なる。
図7は、各画素についての量子化コードの一例を示す図である。横軸は、対象フレームに含まれる各画素(より具体的には、各画素に付された画素番号)を示しており、縦軸は各画素についての量子化コードの値の例を示している。
図24は、映像処理装置5100が実行するノイズ低減処理を説明するための図である。図24の(a)は、対象フレームを構成する各ブロックの量子化コード値のヒストグラムを示す。図24の(b)は、ノイズ低減パラメータと、ノイズ低減処理強度との相関を示している。
(NR判別値算出部5200)
図23に示すNR判別値算出部5200は、対象フレームに含まれる各ブロックに割り付けられた各量子化コード値に基づいて、対象フレームにおけるNR判別値を算出する。
より具体的には、NR判別値算出部5200は、対象フレームが含むある量子化コード値の該量子化コード値を有するブロックの数を重みとする重み付け和をとることによって、対象フレームにおけるNR判別値を算出する。本実施形態において、可能な量子化コード値は0〜31の整数であるとして説明する。上述の処理を数式を用いて表現すれば以下の通りである。
NRP={BN(0)×0+BN(1)×1+BN(2)×2+・・・+BN(30)×30+BN(31)×31}/31 ・・・(1)
(1)式において、NRPはNR判別値を表し、BN(n)は対象フレームが含む量子化コード値nを有するブロックの数を表している。すなわち、(1)式の各項は、ある量子化コード値を有するブロックの数と、当該ある量子化コード値との積を表している。さらに、各量子化コード値に関する和をとることによって、NR判別値算出部5200は、対象フレームにおけるNR判別値を算出する。
図24の(a)は、当該カウントの結果の概略を表すイメージ図である。したがって、図24の(a)は、1つの対象フレームにおける量子化コード値のヒストグラムを厳密に示すものではなく、異なる対象フレームである映像a、及び映像bにおけるヒストグラムを示している。具体的には、映像aを構成する全てのブロックは、量子化コード値として11を有している。一方、映像bを構成する全てのブロックは、量子化コード値として31を有している。
対象フレームが1920×1080ピクセルによって構成され、全てのブロックサイズが16×16であるとすれば、対象フレームが含むブロック数は8100個である。したがって、映像aは、量子化コード値が11である8100個のブロックによって構成されている。一方、映像bは、量子化コード値が31である8100個のブロックによって構成されている。NR判別値算出部5200は、映像aのNR判別値として、8100×11/31=2874を算出し、映像bのNR判別値として、8100×31/31=8100を算出する。
NR判別値算出部5200は、このように算出した各対象フレームにおけるNR判別値を、ノイズ量算出部5150に供給する。
(ノイズ低減処理部5160)
ノイズ低減処理部5160は、後述するノイズ量算出部5150からの指示に基づき、以下に示す複数のノイズ低減処理の少なくとも何れかを、対象フレームに適用する。また、ノイズ低減処理部5160は、ノイズ量算出部5150からの指示に基づき、対象フレームに適用するノイズ低減処理の強度を切り替える。
・3Dブロックノイズ低減処理
・2Dブロックノイズ低減処理
・3Dモスキートノイズ低減処理
・2Dモスキートノイズ低減処理
ここで、3Dブロックノイズ低減処理、及び3Dモスキートノイズ低減処理は、対象フレームと、1または複数の他のフレームとを参照して行われるものである。以下では、3Dブロックノイズ低減処理と3Dモスキートノイズ低減処理とを便宜的に、3Dノイズ低減処理と呼ぶこともある。
3Dノイズ低減処理は、具体的には、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域との平均を画素毎にとることによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を多くし、より弱い3Dノイズ低減処理を適用する場合には、参照フレームの枚数を少なくする。
参照するフレームの枚数を多くすることによって、ノイズ低減効果が大きくなるが、動きの激しいシーンでは、残像が発生し易いという側面もある。参照するフレームの枚数を少なくすることによって、動きの激しいシーンであっても、残像の発生が発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、3Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、3Dノイズ低減処理は、対象フレームにおける対象領域と、対象フレームを起点として時間的に前後に位置する1または複数の参照フレームにおける対象領域とを比較し、瞬間的に変化している部分をノイズと判定し、当該ノイズを低減する処理としてもよい。
一方で、2Dブロックノイズ低減処理、及び2Dモスキートノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを参照して行われるものである。以下では、2Dブロックノイズ低減処理と2Dモスキートノイズ低減処理とを便宜的に、2Dノイズ低減処理と呼ぶこともある。
2Dノイズ低減処理は、具体的には、対象フレームにおける対象画素の画素値と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素の画素値とを平均することによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い2Dノイズ低減処理を適用する場合には、参照領域を大きく設定し、より弱い2Dノイズ低減処理を適用する場合には、参照領域を小さく設定する。
参照領域を大きくすることによって、ノイズ低減効果が大きくなるが、ノイズが発生している領域以外の領域にもボケが発生し易いという側面もある。参照領域を小さくすることによって、ボケが発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、2Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、2Dノイズ低減処理は、対象フレームにおける対象画素と、当該対象フレームにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを比較し、対象画素の色または輝度が、参照画素の色または輝度と大きく異なる場合に、当該対象画素にノイズが発生していると判断し、当該ノイズを低減する処理としてもよい。
(ノイズ量算出部5150)
続いて、本実施形態に係るノイズ量算出部5150について説明する。本実施形態に係るノイズ量算出部5150は、設定手段である。ノイズ量算出部5150は、NR判別値算出部5200によって算出されたNR判別値に応じたNRゲイン(ノイズ低減処理強度)を導出する。また、ノイズ量算出部5150は、導出したNRゲインに基づいて、ノイズ低減処理部5160によるノイズ低減処理の種類及び強度を変更する。
図24の(b)は、NR判別値と、NRゲインとの相関を表す図である。ノイズ量算出部5150は、当該相関に基づいて、NR判別値から対応するNRゲインを導出する。製造者は、NRゲインを表すNR判別値の関数を当該相関として記憶部140に記憶させてもよいし、各NR判別値に対する各NRゲインを対応付けるルックアップテーブル(LUT)を当該層間として記憶部140に記憶させてもよい。当該相関は、上記の関数、及びLUTに限定されるものではなく、各NR判別値と各NRゲインとを対応付けられる構成であればよい。
図24の(b)に示すように、上記相関は、NR判別値が所定の範囲(図24の(b)において、2600〜6270までの範囲)内である場合に、NR判別値とNRゲインとが正の相関を有するように定められている。図24の(a)において、当該正の相関は一次関数である。一方、NR判別値が上記所定の範囲外(図24の(b)において、0〜2600の範囲、及び6270〜8100の範囲)である場合に、NRゲインは、NR判別値に依存しない。すなわち、NR判別値が0〜2600の範囲において、NRゲインは、常に所定の範囲における下限値である。また、NR判別値が6270〜8100の範囲において、NRゲインは、常に所定の範囲における上限値である。
本実施形態における所定の範囲は、対象フレームを構成する全ブロックが、量子化コード値10を有する場合と、24を有する場合とによって構成されている。上記全ブロックが量子化コード値10を有する場合、NR判別値はおよそ2600となる。一方、上記全ブロックが量子化コード値24を有する場合、NR判別値はおよそ6270となる。発明者らは、量子化コード値が10以下であれば、符号化、及び復号化に伴う映像の劣化は、ユーザが視認し得ない程度であるという知見を得た。したがって、本実施形態において、NR判別値における所定の範囲の下限を2600としている。また、発明者らは、量子化コード値が24以上である場合、符号化、及び復号化に伴う映像の劣化は大きく、可能な限り強い強度のノイズ低減処理を実行することが好ましいという知見を得た。したがって、本実施形態において、NR判別値における所定の範囲の上限を6270としている。なお、上記所定の範囲は、上述の範囲に限定されるものではなく、実行するノイズ低減処理の態様などに応じて、製造者が適宜定めることができる。
ノイズ量算出部5150は、NR判別値算出部5200によって算出されたNR判別値から、上記相関に基づいてNRゲインを導出する。上記相関が、全てのNR判別値の全範囲(0〜8100の範囲)において連続的な構成であることによって、ノイズ量算出部5150は、それぞれのNR判別値に好適なNRゲインを導出することが可能である。上記相関が連続的な構成であることによって、ノイズ量算出部5150が算出するNRゲインは、あるNR判別値を境に急激に変化することがない。したがって、映像を視聴しているユーザにノイズ低減処理を意識させることなく、効果的なノイズ低減処理を実行することが可能である。
なお、上記所定の範囲内における上記相関は、一次関数に限定されるものではない。NR判別値と、NRゲインとが正の相関を有していれば、更に高次の関数を用いて上記相関を構成してもよい。
対象フレームを構成するブロックが有する量子化コード値が、所定の1つの閾値より大きいか否かに基づいてNRゲインを決定する場合、当該所定の閾値を境にNRゲインが大きく変化することになる。したがって、当該所定の閾値を境にしてノイズ低減処理の強度が急激に変化することになり、ユーザに違和感を与える虞がある。本実施形態に係るノイズ量算出部5150は、上述の通り連続的な構成の相関を用いてNRゲインを導出するので、よりきめ細やかなノイズ低減処理を行うことが可能である。
このように導出されたNRゲインに基づいて、ノイズ量算出部5150は、ノイズ低減処理部5160が対象フレームに適用するノイズ低減処理の種類及びその強度を導出する。ノイズ低減処理部5160が対象フレームに適用するノイズ低減処理として、従来知られたノイズ低減処理の方法を用いることが可能である。例えば、上述したようにブロックノイズ低減処理であってもより、モスキートノイズ低減処理であってもよい。また、複数のノイズ低減処理を組み合わせたものであってもよい。
例えば、ノイズ量算出部5150は、各ブロックにおける平均的な色や輝度を検出し、色や輝度がブロック単位で変化している場合、当該対象フレームにブロックノイズが存在すると推定し、ブロック境界に適用するブロックノイズ低減処理の強度を強くする構成とすることができる。
また、ノイズ量算出部5150は、色や輝度が大きく変化している領域(例えば、画像のエッジ)の近傍にてノイズを検出した場合、当該ノイズをモスキートノイズと判定し、上記エッジを含まない領域での画素値の平均をとることによって、当該モスキートノイズを低減する構成としてもよい。
このような構成とすることによって、よりきめ細かなノイズ低減処理を行うことができる。
なお、上述した各閾値は、映像処理装置5100が出力する映像がより高画質となるように決定しておくことができる。
<実施形態18>
映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定手段と、上記オフセットを、Iピクチャ同士のフレーム間隔である第1の間隔に応じて変更する変更手段と、上記変更手段によって変更されたオフセットを含むノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減手段と、を備えている映像処理装置6100について、図7、8、14および25〜27を参照しながら説明する。
図25は、本実施形態に係る映像処理装置6100の構成を示すブロック図である。図25に示す映像処理装置6100は、図1に示す映像処理装置と比べて、オフセット算出部6200を備えている点において異なる。
また、図14はモスキートノイズを説明するための概略図であり、図8は、本実施形態に係るノイズ低減処理の一態様である3Dノイズ低減処理、及び2Dノイズ低減処理を説明するための概略図である。
図7は、本実施形態に係る映像処理装置を説明するための図であって、対象フレームを構成する各ブロックが有する量子化コード及び閾値の一例を示す図である。
図26は、本発明の一実施形態に係る映像処理装置を説明するための図であって、映像データが含む複数のピクチャと、各ピクチャにおけるNRパラメータ、オフセット、及びNRゲインを示す図である。
図27は、本発明の一実施形態に係る映像処理装置を説明するための図であって、オフセット(N)、及び、オフセット(M)の概略を示す図である。
(オフセット算出部6200)
オフセット算出部6200は、設定手段であるノイズ量算出部6150が設定したオフセットを、Iピクチャ同士のフレーム間隔、及び、Pピクチャ同士のフレーム間隔のそれぞれに基づいて、上記オフセットを変更する変更手段である。以下において、ノイズ量算出部6150が設定したオフセットのことをオフセット(i)、または、OFFSET(i)と表現し、オフセット算出部6200が変更した後のオフセットのことをオフセット(f)、または、OFFSET(f)と表現する。ノイズ量算出部6150及びオフセット(i)については、後述する。以下では、本実施形態のポイントであるオフセット算出部6200について、図26、及び、図27を参照しながら説明する。
図26は、本発明の一実施形態に係る映像処理装置を説明するための図であって、映像データが含む複数のピクチャと、各ピクチャにおけるNRパラメータ、オフセット、及びNRゲインを示す図である。映像データは、1つのIピクチャ、ならびに、複数のPピクチャ及び複数のBピクチャによって構成されるGOP(Group Of Pictures)が連続する構成である。図26に示す映像データにおいては、「I,B,B,P,B,B,P,B,B,P,B,B,P,B,B」という12のピクチャによって1つのGOPが構成されている。
本実施形態において、あるGOPが含むIピクチャと、当該GOPに隣接するGOPが含むIピクチャとの間隔のことを、Iピクチャ同士のフレーム間隔と定義する。また、以下において、Iピクチャ同士のフレーム間隔のことをNと表記する。図26を参照すれば、本実施形態において、Iピクチャ同士のフレーム間隔は、N=15である。なお、N=1の場合、映像データを構成する全てのピクチャがIピクチャになる。したがって、Nが取りうる値は、1≦Nの範囲に含まれる整数である。
一方、本実施形態において、1つのGOPに含まれる複数のPピクチャのうち、最も近接するPピクチャ同士のフレーム間隔のことを、Pピクチャ同士のフレーム間隔と定義する。また、以下において、Pピクチャ同士のフレーム間隔のことをMと表記する。MはNの約数であることが好ましい。本実施形態において、MはNの約数であり、M=3である。なお、Nの場合と同様に、Mが取りうる値は、1≦Mの範囲に含まれる整数である。
上述したN及びMは、ほとんどの符号化方式によって符号化された映像データに埋め込まれている。したがって、オフセット算出部6200は、例えば復号処理部120からM及びNを容易に取得することが可能である。
なお、図26に示すNRパラメータは、ノイズ量算出部6150が、Iピクチャ、Pピクチャ、及び、Bピクチャのそれぞれに対して設定するノイズ低減処理の強度を示すパラメータである。当該NRパラメータについては、後述する。
(オフセットの変更)
上述したように、オフセット算出部6200は、ノイズ量算出部6150からオフセット(i)を取得する。ノイズ量算出部6150は、Iピクチャを構成する各ブロックの量子化コードに基づいてオフセット(i)を設定する。オフセット算出部6200は、オフセット(i)をNに応じて変化させるためのオフセット(N)と、オフセット(i)をMに応じて変化させるためのオフセット(M)とを導出する。以下では、図27を参照しながら、オフセット(N)、及び、オフセット(M)について説明する。
図27は、本発明の一実施形態に係る映像処理装置を説明するための図であって、オフセット(N)、及び、オフセット(M)の概略を示す図である。
(オフセット(N))
本実施形態において、オフセット(N)はNと正の相関を有する。オフセット(N)とNとの相関関係は、図27に示すように一次関数であってもよく、二次関数、対数関数などであってもよい。言い換えると、当該相関関係は、正の相関を有していればよく、それ以外の点において限定されるものではない。また、当該相関関係は、図27に示すような関数に限られるものではなく、オフセット(N)とNとを正の相関を有するように対応付けるルックアップテーブルであってもよい。なお、本実施形態において、当該相関関係は、図27に示す一次関数であるとして説明する。
オフセット(N)とNとの相関を表す一次関数を(1)式に示す。なお、以下において、オフセット(N)のことをOFFSET(N)とも表記する。
OFFSET(N)=an×N+bn ・・・(1)
ここで、第1の係数であるanは傾きであり、bnはy切片である。(1)式の一次関数において、その傾きは0<anの範囲に限られる。なお、図27に示すオフセット(N)を示す図において、x切片である−(bn/an)の値は特に限定されるものではない。例えば、N=1であっても、オフセット算出部6200が0より大きなオフセット(N)を導出する際は、x切片が−(bn/an)<1の範囲に含まれる構成にすればよい。この際、x切片が負、言い換えるとy切片が正なる一次関数であってもよい。別の例として、1≦N≦10の範囲においては、オフセット(i)を変更する必要がない、という状況も想定しうる。このような場合、(1)式におけるx切片が10<−(bn/an)≦11の範囲に含まれており、かつ、オフセット算出部6200が(1)式を用いて導出するオフセット(N)が負である際には、オフセット算出部6200はオフセット(N)=0を導出する構成とすればよい。上記の構成によれば、Nが1≦N≦10の範囲内に含まれている際には、オフセット算出部6200はオフセット(N)=0を導出する。このように、(1)式に示す一次関数において、x切片である−(bn/an)、及び、y切片であるbnは特に限定されるものではなく、オフセット算出部6200が導出するオフセット(N)が適当な値になるように適宜設定することが可能である。
(オフセット(M))
オフセット(N)とNとの相関と同様に、本実施形態において、オフセット(M)はMと正の相関を有する。オフセット(M)とMとの相関は、オフセット(N)とNとの相関と同様に、正の相関を有していればよく、それ以外の点において限定されるものではない。すなわち、オフセット(M)とMとの相関は、図27に示すような一次関数であってもよく、二次関数、対数関数などであってもよい。また、オフセット(M)とMとの相関はルックアップテーブルによって表されてもよい。なお、本実施形態において、オフセット(M)とMとの相関は、図27に示す一次関数であるとして説明する。
オフセット(M)とMとの相関を表す一次関数を(2)式に示す。以下において、オフセット(M)のことをOFFSET(M)とも表記する。
OFFSET(M)=am×M+bm ・・・(2)
ここで、第2の係数であるamは傾きであり、bmはy切片である。(2)式の一次関数において、その傾きは0<amの範囲に限られる。一方、x切片である−(bm/am)、及び、y切片であるbmは特に限定されるものではなく、オフセット算出部6200が導出するオフセット(M)が適当な値になるように適宜設定することが可能である。
オフセット算出部6200は、上述のようにオフセット(N)、及び、オフセット(M)を導出する。その上で、オフセット算出部6200は、ノイズ量算出部6150が設定するオフセット(i)に、オフセット(N)とオフセット(M)とを加算することによって、変更後のオフセットであるオフセット(f)を導出する。オフセット(f)は、(3)式のように表現することが可能である。なお、オフセット(i)のことをOFFSET(i)とも表現し、オフセット(f)のことをOFFSET(f)とも表現する。
OFFSET(f)=OFFSET(i)+OFFSET(N)+OFFSET(M) ・・・(3)
オフセット算出部6200は、このようにして導出した変更後のオフセット(f)をノイズ量算出部6150に出力する。
(N及びMが映像データに与える影響)
Iピクチャ同士のフレーム間隔であるNと、Pピクチャ同士のフレーム間隔であるMとが、それぞれ映像データの画質に与える影響について、発明者らが得た知見に基づいて説明する。
発明者らは、映像データを符号化、及び、復号化する際に、N及びMをそれぞれパラメータとして変化させることによって、映像データの画質に与えるN及びMの影響を調べた。その結果、発明者らは、映像データを符号化、及び、復号化する際に、映像データの画質に大きな影響を与えるのはNであるとの知見を得た。言い換えると、Mが映像データの画質に与える影響は、Nが映像データの画質に与える影響に比べて小さい。
この知見に基づいて、オフセット(N)を表す(1)式の傾きanと、オフセット(M)を表す(2)式の傾きamとの大小関係は、an>amであることが好ましい。(3)式にのOFFSET(N)、及びOFFSET(M)に、(1)式、及び(2)式を代入することによって、(4)式が得られる。
OFFSET(f)=OFFSET(i)+an×N+am×M+bn+bm ・・・(4)
(4)式において、N>Mであり、an>amであるので、OFFSET(f)は(4)式の第2項であるan×Nに大きく依存する。
(1)式の傾きであるan、及び(2)式の傾きであるamは、それぞれ、変更後をオフセットであるオフセット(f)を導出する際の、N、及びMに対する重み係数であるとも表現可能である。
(オフセット算出部6200の変形例)
オフセット算出部6200の変形例であるオフセット算出部を、オフセット算出部αと表記する。オフセット算出部αは、Nに基づいてオフセット(N)を導出し、オフセット(i)に加算することによってオフセット(f)を導出する。発明者らが得た知見によれば、映像データの符号化、及び復号化に伴って映像データの画質に主要な影響を与えるのはNである。Mが映像データの画質に与える影響は副次的であるので、オフセット算出部αが、Nに基づいてオフセット(f)を導出する構成であってもよい。
(ノイズ低減処理部6160)
ノイズ低減手段であるノイズ低減処理部6160は、後述するノイズ量算出部6150からの指示に基づき、以下に示す複数のノイズ低減処理のうち、少なくとも1つのノイズ低減処理を含むノイズ低減処理を対象フレームに適用する。また、ノイズ低減処理部6160は、ノイズ量算出部6150からの指示に基づき、各ピクチャに適用するノイズ低減処理の強度を切り替える。
・3Dモスキートノイズ低減処理
・2Dモスキートノイズ低減処理
・3Dブロックノイズ低減処理
・2Dブロックノイズ低減処理
(モスキートノイズ低減処理)
ノイズ低減処理部6160は、上述のようにカラーノイズ低減処理の一類型として、モスキートノイズ低減処理を行う。ここでは、図14の(a)を参照しながら、モスキートノイズの概略について説明する。モスキートノイズは、対象ピクチャ内において輝度、または、色が大きく変化するようなエッジ領域に生じやすい傾向を有する。図14の(a)において、領域Bは輝度の低い領域を示し、領域Cは輝度の高い領域を示す。領域Bおよび領域Cの境界付近では、輝度が大きく変化するのでモスキートノイズが生じやすい。領域Aは、モスキートノイズが生じている領域を示す。本来であれば領域Bと同様に輝度が低い領域であるはずだが、モスキートノイズが生じていることによって領域Aの輝度は、領域Bより高く、領域Cより低くなっている。
なお、上述のエッジ領域は、対象ピクチャを構成する各ブロックのうち、高い周波数成分を有するブロックによって形成されると言い換えることも可能である。したがって、モスキートノイズは、高い周波数成分を有するブロック内、及びその周辺のブロックに生じやすいとも言える。その結果として、対象ピクチャを構成するブロックのうち、高い周波数成分を有するブロックの割合が高いと、その対象ピクチャには多くのモスキートノイズが含まれている可能性が高い。また、対象ピクチャが表す映像が、多くのエッジ領域を含んでいると、その対象ピクチャにはモスキートノイズが多くのモスキートノイズが含まれている可能性が高い。
モスキートノイズ低減処理には、後述するように3Dモスキートノイズ低減処理と、2Dモスキートノイズ低減処理とがある。
(ブロックノイズ低減処理)
ブロックノイズは、一般的に映像を高い圧縮率で符号化した際に生じる矩形のノイズである。その当該ノイズのサイズが、符号化におけるブロックサイズと同じことからブロックノイズと呼ばれる。ブロックノイズ低減処理には、後述するように3Dブロックノイズ低減処理と、2Dブロックノイズ低減処理とがある。
(3Dノイズ低減処理)
ここで、3Dブロックノイズ低減処理、及び3Dモスキートノイズ低減処理は、対象ピクチャと、1または複数の他のピクチャとを参照して行われるものである。以下では、3Dブロックノイズ低減処理と3Dモスキートノイズ低減処理とを便宜的に、3Dノイズ低減処理と呼ぶこともある。
3Dノイズ低減処理は、具体的には、図8の(a)に示すように、ノイズを含む対象ピクチャにおける対象領域と、対象ピクチャを起点として時間的に前後に位置する1または複数の参照ピクチャにおける対象領域との平均を画素毎にとることによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い3Dノイズ低減処理を適用する場合には、参照ピクチャの枚数を多くし、より弱い3Dノイズ低減処理を適用する場合には、参照ピクチャの枚数を少なくする。
参照するピクチャの枚数を多くすることによって、ノイズ低減効果が大きくなるが、動きの激しいシーンでは、残像が発生し易いという側面もある。参照するピクチャの枚数を少なくすることによって、動きの激しいシーンであっても、残像の発生が発生しにくいが、ノイズ低減効果が小さくなるという側面もある。
なお、3Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、3Dノイズ低減処理は、対象ピクチャにおける対象領域と、対象ピクチャを起点として時間的に前後に位置する1または複数の参照ピクチャにおける対象領域とを比較し、瞬間的に変化している部分をノイズと判定し、当該ノイズを低減する処理としてもよい。
(2Dノイズ低減処理)
一方で、2Dブロックノイズ低減処理、及び2Dモスキートノイズ低減処理は、対象ピクチャにおける対象画素と、当該対象ピクチャにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを参照して行われるものである。以下では、2Dブロックノイズ低減処理と2Dモスキートノイズ低減処理とを便宜的に、2Dノイズ低減処理と呼ぶこともある。
2Dノイズ低減処理は、具体的には、図8の(b)に示すように、対象ピクチャにおける対象画素の画素値と、当該対象ピクチャにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素の画素値とを平均することによって、ノイズ低減後の画像を生成する処理のことである。
ここで、より強い2Dノイズ低減処理を適用する場合には、参照領域を大きく設定し、より弱い2Dノイズ低減処理を適用する場合には、参照領域を小さく設定する。
参照領域を大きくすることによって、ノイズ低減効果が大きくなるが、ノイズが発生している領域以外の領域にもボケが発生し易いという側面もある。参照領域を小さくすることによって、ボケが発生しにくいが、ノイズ低減効果が小さくなるという側面もある。また、2Dモスキートノイズ低減処理を適用する場合には、図14の(b)に示すようにモスキートノイズである領域Aと、輝度が高い領域Cとが近い場合がある。このような場合、参照領域を図14の(b)に示すように設定することによって、参照領域に輝度が高い領域Cが含まれることを防ぐことが可能である。上述のように参照領域を設定することによって、モスキートノイズ低減処理をより効果的に実行することが可能である。
なお、2Dノイズ低減処理における上記の平均処理は、ノイズ低減後の画像がより高画質となるように設定された重み係数を用いるものでもよい。
また、2Dノイズ低減処理は、対象ピクチャにおける対象画素と、当該対象ピクチャにおいて、当該対象画素の周辺に設定された参照領域に含まれる参照画素とを比較し、対象画素の色または輝度が、参照画素の色または輝度と大きく異なる場合に、当該対象画素にノイズが発生していると判断し、当該ノイズを低減する処理としてもよい。
(ノイズ量算出部6150)
続いて、図26を参照しながら、実施形態18に係るノイズ量算出部6150について説明する。ノイズ量算出部6150は、設定手段である。
(NRパラメータ)
本実施形態に係るノイズ量算出部6150は、映像データが含むIピクチャ、Pピクチャ、及びBピクチャのそれぞれのピクチャに対して、図26に示すようにNRパラメータを割り当てる。本実施形態において、Iピクチャに対するNRパラメータをNRIと表記し、Pピクチャに対するNRパラメータをNRPと表記し、Bピクチャに対するNRパラメータをNRBと表記する。ノイズ量算出部6150は、Iピクチャに対してNRI=2を割り当て、Pピクチャに対してNRP=3を割り当て、Bピクチャに対してNRB=5を割り当てる。NRI、NRP、及びNRBの値は上述の値に限定されるものではないが、それぞれのNRパラメータの大小関係は、NRI<NRP<NRBであることが好ましい。
Iピクチャは他のピクチャを参照することなく復号化可能であり、Pピクチャは他の1枚のピクチャを参照することによって復号化可能であり、Bピクチャは他の2枚のピクチャを参照することによって復号化可能である。このことから、各ピクチャを符号化、及び復号化する際にノイズが発生する可能性は、Iピクチャが最も低く、Pピクチャが次に低く、Bピクチャが最も高いと推定することが可能である。したがって、上述の通り各NRパラメータの大小関係は、NRI<NRP<NRBであることが好ましい。
(オフセット(i))
図7は、各画素についての量子化コードの一例を示す図である。横軸は、対象となるIピクチャに含まれる各画素(より具体的には、各画素に付された画素番号)を示しており、縦軸は各画素についての量子化コードの値の例を示している。
ノイズ量算出部6150は、当該Iピクチャにおいて量子化コードが所定の閾値(図7の例では、閾値=10)を越える画素の数の、当該対象ピクチャにおける全画素数に対する割合を算出する。
設定手段であるノイズ量算出部6150は、算出した量子化コードが所定の閾値を超えるブロックの割合に基づいて、NRパラメータのオフセットであるオフセット(i)を設定する。対象となるIピクチャを構成する各ブロックのうち、所定の閾値を超えた量子化コードを有するブロックが多い(算出した量子化コードが所定の閾値を超えるブロックの割合が高い)ということは、当該Iピクチャを符号化する際の圧縮率が高いと推定される。そして、高い圧縮率で圧縮されたピクチャは、低い圧縮率で圧縮されたピクチャと比較して、ノイズを含む確率が高いと推定される。したがって、ノイズ量算出部6150は、Iピクチャを構成する各ブロックのうち、所定の閾値を超えた量子化コードを有するブロックが多いほど、オフセット(i)を大きく設定する構成であることが好ましい。
ノイズ量算出部6150は、設定したオフセット(i)をオフセット算出部6200に供給する。
(NRゲインの算出)
ノイズ量算出部6150は、オフセット算出部6200にオフセット(i)を供給した後に、オフセット算出部6200から変更されたオフセット(f)を取得する。図26に示すオフセットは、オフセット(f)を示している。
ノイズ量算出部6150は、各ピクチャのNRパラメータと、オフセット(f)とを加算することによって、ノイズ低減処理の強度を決定するパラメータであるNRゲインを算出する。ノイズ量算出部6150は、NRゲインに基づいてノイズ低減処理部6160によるノイズ低減処理の種類及び強度を変更する。
上記の構成によれば、ノイズ量算出部6150は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、上記初期オフセットを設定する。また、オフセット算出部6200は、上記Iピクチャ同士のフレーム間隔に応じて、上記初期オフセットを変更する。したがって、当該映像処理装置は、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことを可能にする。
また、上記の構成によれば、オフセット算出部6200は、上記Iピクチャ同士のフレーム間隔であるNが大きくなるほど、オフセット(N)の値が大きくなるように変更する。すなわち、Nが大きくなるほど、ノイズ低減処理部6160は、強度の強いノイズ低減処理を映像に対して施す。したがって、Nの変化に伴い、適切なノイズ低減処理を施すことが可能である。
また、上記の構成によれば、オフセット算出部6200は、更に、上記Pピクチャ同士のフレーム間隔であるMが大きくなるほど、オフセット(M)の値が大きくなるように変更する。すなわち、Mが大きくなるほど、ノイズ低減処理部6160は、強度の強いノイズ低減処理を映像に対して施す。したがって、Nの変化に加え、Mの変化をも加味した適切なノイズ低減処理を施すことが可能である。
また、上記の構成によれば、オフセット算出部6200は、anとNとの積を導出することによって、Nに基づくオフセット(N)を導出する。また、オフセット算出部6200は、amとMとの積を導出することによって、Mに基づくオフセット(M)を導出する。さらに、オフセット算出部6200は、Nに基づく上記オフセット(N)と、Pに基づくオフセット(M)との和に基づいて、オフセット(f)を導出する。
この際、anは、amよりも大きい。当該構成は、映像の画質を劣化させる(ノイズを発生させる)要因として、Nの方が、Mよりも主要である、という発明者らが得た知見に基づいている。上記の構成によれば、Nと、Mとがそれぞれ映像の画質を劣化させる度合いに応じたノイズ低減処理を、映像に対して施すことが可能である。
また、上記の構成によれば、ノイズ量算出部6150は、上記Iピクチャを構成する各ブロックのうち、上記閾値を超えた量子化コードを有するブロックが多いほど、上記オフセットを大きく設定する。したがって、映像を圧縮する圧縮率が高いほど、強度の強いノイズ低減処理を映像に対して施すことが可能である。
また、ノイズ量算出部6150は、対象ピクチャ上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、ノイズ低減処理部6160により、当該対象領域に適用されるノイズ低減処理の種類及び強度を変更する構成としてもよい。
例えば、ノイズ量算出部6150は、各ブロックにおける平均的な色や輝度を検出し、色や輝度がブロック単位で変化している場合、当該対象ピクチャにブロックノイズが存在すると推定し、ブロック境界に適用するブロックノイズ低減処理の強度を強くする構成とすることができる。
また、ノイズ量算出部6150は、色や輝度が大きく変化している領域(例えば、画像のエッジ)の近傍にてノイズを検出した場合、当該ノイズをモスキートノイズと判定し、上記エッジを含まない領域での画素値の平均をとることによって、当該モスキートノイズを低減する構成としてもよい。
このような構成とすることによって、よりきめ細かなノイズ低減処理を行うことができる。
なお、上述した閾値は、映像処理装置6100が出力する映像がより高画質となるように決定しておくことができる。
<実施形態19>
本明細書に記載の各実施形態で説明する映像処理装置1100、2100、3100、4100、5100および6100の各機能部の処理を実現するためのプログラムをコンピュータ読み取り可能な記憶媒体に記録して、この記憶媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、各機能部の処理を実現してもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含むものとする。
また、前記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
また、上記プログラムを格納した「記憶媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD−ROM等のコンピュータ読み取り可能な可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置などのことをいう。さらには、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。
〔まとめ〕
本発明の態様1に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
ここで、量子化コードとは、映像を符号化する際の量子化の粗さを規定するパラメータであり、ほとんどの符号化方式によって符号化された映像信号に埋め込まれているので、特別な構成を必要とすることなく容易に取得することができる。このため、コストアップが抑制される。また、上記の構成では、量子化コードと動き判別の結果とに基づいて、ノイズ低減処理を選択するので、量子化コードのみを参照する構成に比べて、より効果的なノイズ低減処理を行うことができる。
また、ノイズ低減処理の選択は、互いに異なる特性を有する複数のノイズ低減処理から行われるので、映像信号に様々な特性のノイズが生じている場合であっても、有効なノイズ低減処理を行うことができる。
このように、上記の構成によれば、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことができる。
本発明の態様2に映像処理装置は、上記態様1において、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動き判別結果とに基づいて変更する強度変更手段を更に備えている、ことが好ましい。
上記の構成によれば、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動き判別結果とに基づいて変更するので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様3に映像処理装置は、上記態様2において、上記複数のノイズ低減処理には、ブロックノイズ低減処理が含まれており、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする、ことが好ましい。
発明者は、大きな動きを有する映像には、より多くのブロックノイズが含まれる傾向があるとの知見を得た。
上記の構成によれば、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くするので、映像の動きに応じて、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様4に映像処理装置は、上記態様3において、上記ブロックノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、参照される上記他のフレームの枚数を多くする、ことが好ましい。
上記の構成によれば、対象フレームと、1または複数の他のフレームとを参照して行われるブロックノイズ低減処理において、動きを有すると判別されたブロックが多いほど、参照される上記他のフレームの枚数を多くするので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様5に映像処理装置は、上記態様3において、上記ブロックノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記参照領域を広く設定する、ことが好ましい。
上記の構成によれば、対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるブロックノイズ低減処理において、動きを有すると判別されたブロックが多いほど、上記参照領域を広く設定するので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様6に映像処理装置は、上記態様2から5の何れか一態様において、上記複数のノイズ低減処理には、モスキートノイズ低減処理が含まれており、上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記モスキートノイズ低減処理の強度を強くする、ことが好ましい。
発明者は、大きな量子化コードを有するブロックが多いほど、より多くのモスキートノイズが含まれる傾向があるとの知見を得た。
上記の構成によれば、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くするので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様7に映像処理装置は、上記態様6において、上記モスキートノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、参照される上記他のフレームの枚数を多くする、ことが好ましい。
上記の構成によれば、対象フレームと、1または複数の他のフレームとを参照して行われるモスキートノイズ低減処理において、所定の閾値を越えた量子化コードを有するブロックが多いほど、参照される上記他のフレームの枚数を多くするので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様8に映像処理装置は、上記態様6において、上記モスキートノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記参照領域を広く設定する、ことが好ましい。
上記の構成によれば、対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるモスキートノイズ低減処理において、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記参照領域を広く設定するので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様9に映像処理装置は、上記態様6から8の何れか一態様において、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記所定の閾値を小さくすることが好ましい。
発明者は、元映像に、「じらじらしたノイズ」を含んでいた場合、たとえ圧縮率が低く、すなわち、量子化コードが小さく設定されていたとしても、映像自体に多くのノイズが含まれている場合があり、このような映像は、動き判別によって、「動き有り」のブロックが多いと判定される傾向があるとの知見を得た。
上記の構成によれば、動きを有すると判別されたブロックが多いほど、上記所定の閾値を小さくするので、このような「じらじらしたノイズ」を好適に低減することができる。
また、本発明の態様10に映像処理装置は、上記態様1から9の何れか一態様において、上記ノイズ低減処理選択手段は、上記対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、上記複数のノイズ低減処理から、当該対象領域に適用する少なくとも1つのノイズ低減処理を選択する、ことが好ましい。
上記の構成によれは、上記対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、上記複数のノイズ低減処理から、当該対象領域に適用する少なくとも1つのノイズ低減処理を選択するので、よりきめ細かなノイズ低減処理を行うことができる。
また、本発明の態様11に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択工程と、上記ノイズ低減処理選択工程にて選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、を含んでいる。
上記のように構成された映像処理方法によれば、上述の映像処理装置と同様の効果を奏する。
本発明の態様12に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの周波数特性またはエッジ情報とに基づいて、モスキートノイズ低減パラメータを設定する設定手段と、上記設定手段によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減手段と、を備えている。
ここで、量子化コードとは、映像を符号化する際の量子化の粗さを規定するパラメータであり、ほとんどの符号化方式によって符号化された映像信号に埋め込まれているので、特別な構成を必要とすることなく容易に取得することができる。このため、コストアップが抑制される。
また、上記の構成によれば、設定手段は、量子化コード値と、周波数特性またはエッジ情報とに基づいて、モスキートノイズ低減パラメータを設定する。さらに、ノイズ低減手段は、上記モスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を上記対象フレームに施す。
発明者の知見によれば、モスキートノイズの発生は、周波数特性及びエッジ情報と相関を有する。具体的には、周波数特性には輝度変化の急峻さに係る情報が含まれており、エッジ情報には色度変化の急峻さに係る情報が含まれる。ここで、輝度変化の急峻さ、および、色の変化の急峻さは、いずれもモスキートノイズの発生と相関を有する。このため、上記の構成によれば、効果的にモスキートノイズを低減することができる。
また、本発明の態様13に係る映像処理装置は、上記態様12において、上記対象フレームを構成する各ブロックの周波数成分に基づいて、上記対象フレームにおける周波数成分のヒストグラムを上記周波数特性として導出する周波数判別手段をさらに備え、上記設定手段は、上記周波数成分のヒストグラムから、周波数が所定の第1の周波数より低い第1の周波数成分と、周波数が上記第1の周波数より高く、所定の第2の周波数より低い第2の周波数成分と、周波数が上記所定の第2の周波数より高い第3の周波数成分とをそれぞれ導出し、全周波数成分に対する第3の周波数成分の割合が高いほど、モスキートノイズ低減パラメータを大きく設定する、ことが好ましい。
全周波数成分に対する上記第3の周波数成分の割合が高いということは、全周波数成分に対する高周波成分の割合が高いと言い換えることが可能である。上記対象フレームを構成する各ブロックにおいて高周波成分の割合が高いということは、上記対象フレームが表す映像がくっきりした映像である、または、ノイズが多い映像である可能性が高い。したがって、上記設定手段が、高周波成分の割合が高いほどモスキートノイズ低減パラメータを大きく設定することによって、上記ノイズ低減手段は、効果的なモスキートノイズ低減処理を上記対象フレームに施すことが可能である。
また、本発明の態様14に係る映像処理装置は、上記態様13において、上記設定手段は、上記周波数成分のヒストグラムにおいて、全周波数成分に対する上記第1の周波数成分の割合が高いほど、モスキートノイズ低減パラメータを小さく設定する、ことが好ましい。
全周波数成分に対する上記第1の周波数成分の割合が高いということは、全周波数成分に対する低周波成分の割合が高いと言い換えることが可能である。上記対象フレームを構成する各ブロックにおいて低周波成分の割合が高いということは、上記対象フレームが表す映像が、輝度および色度の変化が少ない映像である可能性が高い。このような映像において、モスキートノイズが生じる可能性は低いので、上記設定手段は、低周波成分の割合が高いほどモスキートノイズ低減処理パラメータを小さく設定する。このことによって、上記ノイズ低減手段は、モスキートノイズが生じる可能性が低い映像に対して、過剰なモスキートノイズ低減処理を施さず、上記対象フレームが表す映像の画質を劣化させない。
また、本発明の態様15に係る映像処理装置は、上記態様13または14において、上記設定手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減パラメータを大きく設定する、ことが好ましい。
上記量子化コードは、映像を符号化および復号化する際の圧縮率を反映するパラメータである。上記量子化コードが大きいほど、映像を符号化および復号化する際の圧縮率が大きく、モスキートノイズが生じる可能性が高くなる。上記の構成によれば、上記設定手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減パラメータを大きく設定する。したがって、上記ノイズ低減手段は、効果的なモスキートノイズ低減処理を上記対象フレームに施すことが可能である。
また、本発明の態様16に係る映像処理装置は、上記態様12において、上記エッジ情報として、上記対象フレームを構成する各画素が有する画素値に対して、エッジ情報抽出処理を施し、上記対象フレームにおけるエッジヒストグラムを上記エッジ情報として導出するエッジ情報導出手段をさらに備え、上記設定手段は、上記エッジヒストグラムから、上記対象フレームを構成する全画素数に対して輝度差が所定の輝度差より大きい画素数の割合を導出し、当該割合が高いほど、モスキートノイズ低減パラメータを大きく設定する、構成であってもよい。
上記対象フレームを構成する全画素数に対して輝度差が所定の輝度差より大きい画素数の割合は、上記対象フレームが含むエッジ領域の多さを反映するパラメータである。上記の構成によれば、上記設定手段は、上記割合が高いほど、モスキートノイズ低減処理パラメータを大きく設定するので、上記ノイズ低減手段は、効果的なモスキートノイズ低減処理を上記対象フレームに施すことが可能である。
また、本発明の態様17に係る映像処理装置は、上記態様13から15の何れか一態様において、上記設定手段は、上記第3の周波数成分の割合が高いほど、上記所定の閾値を小さくする、ことが好ましい。
元映像に、「じらじらしたノイズ」を含んでいた場合、たとえ圧縮率が低く、すなわち、量子化コードが小さく設定されていたとしても、映像自体に多くのノイズが含まれている場合がある。発明者らは、このような映像は、周波数判別によって上記第3の周波数成分の割合、すなわち高周波成分の割合が高いと判別される傾向があるとの知見を得た。上記の構成によれば、高周波成分の割合が高いほど、上記所定の閾値を小さくするので、このような「じらじらしたノイズ」を好適に低減することができる。
また、本発明の態様18に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コード、ならびに、当該対象フレームを構成する各ブロックの周波数特性または各画素のエッジ情報とに基づいて、モスキートノイズ低減パラメータを設定する設定工程と、上記設定工程によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減工程と、を備えている。
上記のように構成された映像処理方法によれば、上述の映像処理装置と同様の効果を奏する。
また、本発明の態様19に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定手段と、上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
発明者は、対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに応じて、カラーノイズ低減処理の強度を設定することによって、カラーノイズをより効果的に削減することができるとの知見を得た。
上記の構成によれば、上記対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、強度決定手段がカラーノイズ低減処理の強度を決定する。そして、上記ノイズ低減手段が、上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するので、効果的なカラーノイズ低減処理を実現することができる。
また、上記の構成によれば、さらに量子化コードに応じて、カラーノイズ低減処理の強度を決定するので、より効果的なカラーノイズ低減処理が可能となる。
なお、量子化コードとは、映像を符号化する際の量子化の粗さを規定するパラメータであり、ほとんどの符号化方式によって符号化された映像信号に埋め込まれているので、特別な構成を必要とすることなく容易に取得することができる。このため、コストアップが抑制される。
このように、上記の構成によれば、コストアップを抑制しつつ、効果的なカラーノイズ低減処理を行うことができる。
また、本発明の態様20に係る映像処理装置は、上記態様19において、上記カラーノイズ低減処理には、モスキートノイズ低減処理が含まれており、
上記強度決定手段は、上記対象フレームに含まれる上記原色ピクセルの数が多く、かつ、上記互いに隣接する原色ピクセルのなす面積が小さいほど、モスキートノイズ低減処理の強度を強くする、ことが好ましい。
カラーノイズは映像を撮影する撮像素子に生じた暗電流などに起因して発生するため、一般的に、カラーノイズが表す色は原色または原色に近い色であり、それぞれのカラーノイズのなす面積は小さい。上記対象フレームに含まれる上記原色ピクセルの数が多く、かつ、上記互いに隣接する原色ピクセルのなす面積が小さいということは、上記対象フレームが多くのカラーノイズを含むことを意味する。このような上記対象フレームに対して、強い強度のモスキート低減処理を実行することによって、カラーノイズをユーザから視認されにくく処理することが可能である。したがって、上記の構成によれば、カラーノイズを効果的に低減可能である。
また、本発明の態様21に係る映像処理装置は、上記態様20において、上記強度決定手段は、上記強度決定手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くする、ことが好ましい。
所定の閾値を越えた量子化コードを有するブロックが多いということは、高い圧縮率で符号化されているブロックが多いということである。カラーノイズが表す色は原色または原色に近い色である。よって、カラーノイズを形成するピクセルと、隣接するピクセルとがそれぞれ表す色は、その輝度、または色度において大きく異なる。モスキートノイズは輝度、または色度が大きく異なるエッジ領域において生じやすい。すなわち、カラーノイズを含む映像を高い圧縮率で符号化するとモスキートノイズが生じやすいと言える。上記の構成によれば、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くするので、カラーノイズ、及び、カラーノイズに起因するモスキートノイズを効果的に低減可能である。
また、本発明の態様22に係る映像処理装置は、上記態様19から21の何れか一態様において、上記カラーノイズ低減処理には、ノイズと判別された原色のゲインを低減するカラーゲイン低減処理が含まれており、上記強度決定手段は、所定の閾値を超えた量子化コードを有するブロックの割合が所定の割合を超えている場合に、上記互いに隣接する原色ピクセルのなす面積が小さいほど、上記カラーゲイン低減処理の強度を強くする、ことが好ましい。
カラーノイズ低減処理の一態様として、カラーノイズと判別された原色のゲインを低減するカラーゲイン低減処理が含まれている。上述したように、カラーノイズが表す色は、原色、又は原色に近い色である。当該原色のゲインを低減することによって、カラーノイズが表す色は、原色、または原色に近い色から、無彩色に近い色へ変換される。よって、原色のゲインを低減することによって、カラーノイズはユーザから視認されにくくなる。上記の構成によれば、カラーノイズを効果的に低減可能である。
また、本発明の態様23に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定工程と、上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、を含んでいる。
上記のように構成された映像処理方法によれば、上述の映像処理装置と同様の効果を奏する。
また、本発明の態様24に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、を備えている。
ここで、量子化コードとは、映像を符号化する際の量子化の粗さを規定するパラメータであり、ほとんどの符号化方式によって符号化された映像信号に埋め込まれているので、特別な構成を必要とすることなく容易に取得することができる。また、動きベクトル情報を参照する上記の構成では、動き検出回路が不要である。このため、上記の構成によれば、コストアップが抑制される。また、上記の構成では、量子化コードと動きベクトル情報とに基づいて、ノイズ低減処理を選択するので、効果的なノイズ低減処理を行うことができる。
また、ノイズ低減処理の選択は、互いに異なる特性を有する複数のノイズ低減処理から行われるので、映像信号に様々な特性のノイズが生じている場合であっても、有効なノイズ低減処理を行うことができる。
このように、上記の構成によれば、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことができる。
また、本発明の態様25に係る映像処理装置は、上記態様24において、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動きベクトル情報とに基づいて変更する強度変更手段を更に備えている、ことが好ましい。
上記の構成によれば、上記ノイズ低減処理選択手段によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動きベクトル情報とに基づいて変更するので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様26に係る映像処理装置は、上記態様25において、上記複数のノイズ低減処理には、ブロックノイズ低減処理が含まれており、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする、ことが好ましい。
発明者は、大きな動きを有する映像には、より多くのブロックノイズが含まれる傾向があるとの知見を得た。
上記の構成によれば、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くするので、映像の動きに応じて、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様27に係る映像処理装置は、上記態様26において、上記ブロックノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、参照される上記他のフレームの枚数を多くする、ことが好ましい。
上記の構成によれば、対象フレームと、1または複数の他のフレームとを参照して行われるブロックノイズ低減処理において、動きを有すると判別されたブロックが多いほど、参照される上記他のフレームの枚数を多くするので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様28に係る映像処理装置は、上記態様26において、上記ブロックノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記参照領域を広く設定する、ことが好ましい。
上記の構成によれば、対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるブロックノイズ低減処理において、動きを有すると判別されたブロックが多いほど、上記参照領域を広く設定するので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様29に係る映像処理装置は、上記態様25から28の何れか一態様において、上記複数のノイズ低減処理には、モスキートノイズ低減処理が含まれており、上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くする、ことが好ましい。
発明者は、大きな量子化コードを有するブロックが多いほど、より多くのモスキートノイズが含まれる傾向があるとの知見を得た。
上記の構成によれば、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くするので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様30に係る映像処理装置は、上記態様29において、上記モスキートノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、参照される上記他のフレームの枚数を多くする、ことが好ましい。
上記の構成によれば、対象フレームと、1または複数の他のフレームとを参照して行われるモスキートノイズ低減処理において、所定の閾値を越えた量子化コードを有するブロックが多いほど、参照される上記他のフレームの枚数を多くするので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様31に係る映像処理装置は、上記態様29において、上記モスキートノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記参照領域を広く設定する、ことが好ましい。
上記の構成によれば、対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるモスキートノイズ低減処理において、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記参照領域を広く設定するので、より効果的なノイズ低減処理を行うことができる。
また、本発明の態様32に係る映像処理装置は、上記態様29から31の何れか一態様において、上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記所定の閾値を小さくすることが好ましい。
発明者は、元映像に、「じらじらしたノイズ」を含んでいた場合、たとえ圧縮率が低く、すなわち、量子化コードが小さく設定されていたとしても、映像自体に多くのノイズが含まれている場合があり、このような映像は、動き判別によって、「動き有り」のブロックが多いと判定される傾向があるとの知見を得た。
上記の構成によれば、動きを有すると判別されたブロックが多いほど、上記所定の閾値を小さくするので、このような「じらじらしたノイズ」を好適に低減することができる。
また、本発明の態様33に係る映像処理装置は、上記態様24から32の何れか一態様において、上記ノイズ低減処理選択手段は、上記対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、上記複数のノイズ低減処理から、当該対象領域に適用する少なくとも1つのノイズ低減処理を選択する、ことが好ましい。
上記の構成によれは、上記対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、上記複数のノイズ低減処理から、当該対象領域に適用する少なくとも1つのノイズ低減処理を選択するので、よりきめ細かなノイズ低減処理を行うことができる。
また、本発明の態様34に係る映像処理方法は、映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択工程と、上記ノイズ低減処理選択工程にて選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、を含んでいる。
上記のように構成された映像処理方法によれば、上述の映像処理装置と同様の効果を奏する。
また、本発明の態様35に係る映像処理装置は、映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、対象フレームを構成する各ブロックの量子化コード値を取得し、それぞれの上記量子化コード値に基づいて上記対象フレームにおけるノイズ低減パラメータを算出し、所定の範囲内のノイズ低減処理強度を、所定の範囲内の上記ノイズ低減パラメータと正の相関を有するように設定する設定手段と、上記設定手段によって設定された上記ノイズ低減処理強度を用いたノイズ低減処理を、上記対象フレームに施すノイズ低減手段と、を備えている。
上記の構成によれば、上記ノイズ低減パラメータは、上記対象フレームを構成する各ブロックの量子化コード値に基づいて算出される連続的なパラメータである。そして、所定の範囲内において、上記ノイズ低減処理強度は、上記ノイズ低減パラメータと正の相関を有する連続的なパラメータである。よって、上記対象フレームを構成する各ブロックの量子化コード値に基づいて、上記設定手段は、連続的なノイズ低減処理強度を設定可能であり、上記ノイズ低減手段は、連続的な強度のノイズ低減処理を施すことが可能である。したがって、本発明の一実施形態に係る映像処理装置は、上記対象フレームを構成する各ブロックの量子化コード値に応じて、好適な強度のノイズ低減処理を上記対象フレームに施すことが可能である。
また、本発明の態様36に係る映像処理装置は、上記態様35において、設定手段は、上記対象フレームが含む各量子化コード値の、該量子化コード値を有するブロックの数を重みとする重み付け和をとることによって上記ノイズ低減パラメータを算出すること、が好ましい。
上記の構成によれば、上記設定手段は、上記対象フレームが含む各ブロックが有する量子化コード値に基づいて、上記対象フレームに好適な上記ノイズ低減パラメータを算出可能である。したがって、本発明の一実施形態に係る映像処理装置は、上記対象フレームを構成する各ブロックの量子化コード値に応じて、好適な強度のノイズ低減処理を上記対象フレームに施すことが可能である。
また、本発明の態様37に係る映像処理装置は、上記態様35または36において、上記設定手段が、上記ノイズ低減処理強度を設定する際に用いる上記正の相関は、一次関数で表されること、が好ましい。
上記の構成によれば、上記設定手段は、上記ノイズ低減処理強度と、上記ノイズ低減パラメータとを、線形な相関を有するように設定することが可能である。
また、本発明の態様38に係る映像処理装置は、上記態様35から37の何れか一態様において、上記ノイズ低減処理強度は、上記ノイズ低減パラメータにおける0から上記所定の範囲の下限までの範囲内、及び、上記ノイズ低減パラメータにおける上記所定の範囲の上限からノイズ低減パラメータの最大値までの範囲内において、上記ノイズ低減パラメータに依存しないこと、が好ましい。
上記の構成によれば、上記対象フレームが含むノイズが上記ノイズ低減パラメータに依存する範囲内において、上記ノイズ低減処理強度と、上記ノイズ低減パラメータとが正の相関を有する。したがって、上記設定手段は、上記対象コードが含む各ブロックが有するそれぞれの上記量子化コード値に応じて、好適な上記ノイズ低減処理強度を設定することが可能である。
また、本発明の態様39に係る映像処理装置は、上記態様35から38の何れか一態様において、上記ノイズ低減手段が施すノイズ低減処理は、少なくともブロックノイズ低減処理、及びモスキートノイズ低減処理のうち何れか一方を含むこと、が好ましい。
ブロックノイズ、及びモスキートノイズは、映像を符号化、及び復号化する際の圧縮率に依存して発生する頻度が高くなる傾向を有する。上記の構成によれば、ノイズ低減手段は、上記ノイズ低減処理強度に応じてブロックノイズ低減処理、及びモスキートノイズ低減処理のうち何れか一方を含むノイズ低減処理を上記対象フレームに施す。したがって、上記ノイズ低減手段は、効果的なノイズ低減処理を施すことが可能である。
また、本発明の態様40に係る映像処理方法は、対象フレームを構成する各ブロックの量子化コード値を取得し、それぞれの上記量子化コード値に基づいて上記対象フレームにおけるノイズ低減パラメータを算出し、所定の範囲内の上記ノイズ低減パラメータを、所定の範囲内のノイズ低減処理強度と正の相関を有するように設定する設定手段と、上記設定手段によって設定された上記ノイズ低減処理強度を用いたノイズ低減処理を、上記対象フレームに施すノイズ低減手段と、を含んでいる。
上記のように構成された映像処理方法によれば、上述の映像処理装置と同様の効果を奏する。
また、本発明の態様41に係る映像処理装置は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定手段と、上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更手段と、上記変更手段によって変更されたオフセットを含むノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減手段と、を備えている。
発明者は、Iピクチャ同士のフレーム間隔と、ノイズ量とが互いに関連しているとの知見を得た。
上記の構成によれば、上記設定手段は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、上記オフセットを設定し、上記変更手段は、上記Iピクチャ同士のフレーム間隔に応じて、上記オフセットを変更する。したがって、当該映像処理装置は、効果的なノイズ低減処理を行うことができる。
また、上記量子化コードとは、映像を符号化する際の量子化の粗さを規定するパラメータである。また、Iピクチャ同士のフレーム間隔とは、映像を符号化する際に符号化装置が定めるパラメータである。量子化コード、及び上記Iピクチャ同士のフレーム間隔は、ほとんどの符号化方式によって符号化された映像データに埋め込まれているので、特別な構成を必要とすることなく容易に取得することができる。
したがって、上記の構成によれば、コストアップを抑制しつつ、効果的なノイズ低減処理を行うことができる。
また、本発明の態様42に係る映像処理装置は、上記態様41において、上記変更手段は、上記Iピクチャ同士のフレーム間隔と正の相関を有するように上記オフセットを変更することが好ましい。
発明者は、Iピクチャ同士のフレーム間隔と、ノイズ量とが正の相関を有しているとの知見を得た。
上記の構成によれば、上記変更手段は、上記Iピクチャ同士のフレーム間隔が大きくなるほど、上記オフセットの値が大きくなるように変更する。すなわち、上記Iピクチャ同士のフレーム間隔が大きくなるほど、ノイズ低減手段は、強度の強いノイズ低減処理を映像に対して施す。したがって、上記Iピクチャ同士のフレーム間隔の変化に伴い、適切なノイズ低減処理を施すことが可能である。
また、本発明の態様43に係る映像処理装置は、上記態様42において、上記変更手段は、更に、上記映像データに含まれるPピクチャ同士のフレーム間隔と正の相関を有するように上記オフセットを変更することが好ましい。
発明者は、Pピクチャ同士のフレーム間隔と、ノイズ量とが正の相関を有しているとの知見を得た。
上記の構成によれば、上記変更手段は、更に、上記Pピクチャ同士のフレーム間隔が大きくなるほど、上記オフセットの値が大きくなるように変更する。すなわち、上記Pピクチャ同士のフレーム間隔が大きくなるほど、ノイズ低減手段は、強度の強いノイズ低減処理を映像に対して施す。したがって、上記Iピクチャ同士のフレーム間隔の変化に加え、上記Pピクチャ同士のフレーム間隔の変化をも加味した適切なノイズ低減処理を施すことが可能である。
また、本発明の態様44に係る映像処理装置は、上記態様43において、上記変更手段は、上記オフセットを、(a)第1の係数と上記Iピクチャ同士のフレーム間隔との積、及び、(b)当該第1の係数より小さい第2の係数と上記Pピクチャ同士のフレーム間隔との積、の和に基づいて導出することが好ましい。
上記変更手段は、(a)上記第1の係数と上記Iピクチャ同士のフレーム間隔との積を導出することによって、上記Iピクチャ同士のフレーム間隔に基づく上記オフセットの変化分を導出する。また、上記変更手段は、(b)上記第2の係数と上記Pピクチャ同士のフレーム間隔との積を導出することによって、上記Pピクチャ同士のフレーム間隔に基づく上記オフセットの変化分を導出する。さらに、上記変更手段は、上記Iピクチャ同士のフレーム間隔に基づく上記オフセットの変化分と、上記Pピクチャ同士のフレーム間隔に基づく上記オフセットの変化分との和に基づいて、上記オフセットを導出する。
この際、上記第1の係数は、上記第2の係数よりも大きい。当該構成は、映像の画質を劣化させる(ノイズを発生させる)要因として、上記Iピクチャ同士のフレーム間隔の方が、上記Pピクチャ同士のフレーム間隔よりも主要である、という発明者らが得た知見に基づいている。上記の構成によれば、上記Iピクチャ同士のフレーム間隔と、上記Pピクチャ同士のフレーム間隔とがそれぞれ映像の画質を劣化させる度合いに応じたノイズ低減処理を、映像に対して施すことが可能である。
また、本発明の態様45に係る映像処理装置は、上記態様41から44の何れか一態様において、上記設定手段は、上記Iピクチャを構成する各ブロックのうち、所定の閾値を超えた量子化コードを有するブロックが多いほど、上記オフセットを大きく設定すること、が好ましい。
上記の構成によれば、上記設定手段は、上記Iピクチャを構成する各ブロックのうち、上記閾値を超えた量子化コードを有するブロックが多いほど、上記オフセットを大きく設定する。したがって、映像を圧縮する圧縮率が高いほど、強度の強いノイズ低減処理を映像に対して施すことが可能である。
また、本発明の態様46に係る映像処理方法は、映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定工程と、上記設定手段によって設定された上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更工程と、上記変更手段によって変更されたオフセットを有するノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減工程と、を含んでいる。
上記のように構成された映像処理方法によれば、上述の映像処理装置と同様の効果を奏する。
また、上記の各態様に係る映像処理装置を備えているテレビジョン受像機も本発明の範疇に含まれる。
また、上記の各態様に係る映像処理装置が備えている各手段としてコンピュータを動作させるためのプログラム、及び、そのようなプログラムを記録しているコンピュータ読取り可能な記録媒体も本発明の範疇に含まれる。
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
本発明は、映像のノイズを低減するための映像処理装置に好適に適用することができる。
1100、2100、3100、4100、5100、6100 映像処理装置
110 映像取得部
120 復号処理部
130 量子化パラメータ取得部
140 記憶部
1150、3150、4150 ノイズ量算出部(ノイズ低減処理選択手段、強度変更手段)
2150、5150、6150 ノイズ量算出部(設定手段)
1160、2160、3160、4160、5160、6160 ノイズ低減処理部(ノイズ低減手段)
1200 動き判別部
2200 周波数判別部(周波数判別手段)
3200 彩度判別部
5200 NR判別値算出部
6200 オフセット算出部
161 高周波フィルタ
162 エッジフィルタ
171 コアリング処理部
172 シャープネス処理部

Claims (38)

  1. 映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、
    対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、
    上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、
    を備えており、
    上記ノイズ低減処理選択手段によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動き判別結果とに基づいて変更する強度変更手段を更に備えており、
    上記複数のノイズ低減処理には、ブロックノイズ低減処理が含まれており、
    上記強度変更手段は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする、
    ことを特徴とする映像処理装置。
  2. 上記ブロックノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、
    上記強度変更手段は、動きを有すると判別されたブロックが多いほど、参照される上記他のフレームの枚数を多くする、
    ことを特徴とする請求項1に記載の映像処理装置。
  3. 上記ブロックノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、
    上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記参照領域を広く設定する、
    ことを特徴とする請求項1に記載の映像処理装置。
  4. 上記複数のノイズ低減処理には、モスキートノイズ低減処理が含まれており、
    上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記モスキートノイズ低減処理の強度を強くする、
    ことを特徴とする請求項1から3の何れか1項に記載の映像処理装置。
  5. 上記モスキートノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、
    上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、参照される上記他のフレームの枚数を多くする、
    ことを特徴とする請求項4に記載の映像処理装置。
  6. 上記モスキートノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、
    上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記参照領域を広く設定する、
    ことを特徴とする請求項4に記載の映像処理装置。
  7. 上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記所定の閾値を小さくする
    ことを特徴とする請求項4から6の何れか1項に記載の映像処理装置。
  8. 上記ノイズ低減処理選択手段は、上記対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、上記複数のノイズ低減処理から、当該対象領域に適用する少なくとも1つのノイズ低減処理を選択する、
    ことを特徴とする請求項1から7の何れか1項に記載の映像処理装置。
  9. 映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、
    対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動き判別結果とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択工程と、
    上記ノイズ低減処理選択工程にて選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、
    を含んでおり、
    上記ノイズ低減処理選択工程によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動き判別結果とに基づいて変更する強度変更工程を更に含んでおり、
    上記複数のノイズ低減処理には、ブロックノイズ低減処理が含まれており、
    上記強度変更工程は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする、
    ことを特徴とする映像処理方法。
  10. 映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、
    対象フレームを構成する各ブロックの量子化コード、ならびに、当該対象フレームを構成する各ブロックの周波数特性または各画素のエッジ情報に基づいて、モスキートノイズ低減パラメータを設定する設定手段と、
    上記設定手段によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減手段と、
    を備えており、
    上記対象フレームを構成する各ブロックの周波数成分に基づいて、上記対象フレームにおける周波数成分のヒストグラムを上記周波数特性として導出する周波数判別手段を更に備え、
    上記設定手段は、上記周波数成分のヒストグラムから、周波数が所定の第1の周波数より低い第1の周波数成分と、周波数が上記第1の周波数より高く、所定の第2の周波数より低い第2の周波数成分と、周波数が上記所定の第2の周波数より高い第3の周波数成分とをそれぞれ導出し、全周波数成分に対する第3の周波数成分の割合が高いほど、モスキートノイズ低減パラメータを大きく設定する、
    ことを特徴とする映像処理装置。
  11. 上記設定手段は、上記周波数成分のヒストグラムにおいて、全周波数成分に対する上記第1の周波数成分の割合が高いほど、モスキートノイズ低減パラメータを小さく設定する、
    ことを特徴とする請求項10に記載の映像処理装置。
  12. 上記設定手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減パラメータを大きく設定する、
    ことを特徴とする請求項10または11に記載の映像処理装置。
  13. 上記対象フレームを構成する各画素が有する画素値に対して、エッジ情報抽出処理を施し、上記対象フレームにおけるエッジヒストグラムを上記エッジ情報として導出するエッジ情報導出手段をさらに備え、
    上記設定手段は、上記エッジヒストグラムから、上記対象フレームを構成する全画素数に対して輝度差が所定の輝度差より大きい画素数の割合を導出し、当該割合が高いほど、モスキートノイズ低減パラメータを大きく設定する、
    ことを特徴とする請求項10に記載の映像処理装置。
  14. 上記設定手段は、上記第3の周波数成分の割合が高いほど、上記所定の閾値を小さくする、
    ことを特徴とする請求項12に記載の映像処理装置。
  15. 映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、
    対象フレームを構成する各ブロックの量子化コード、ならびに、当該対象フレームを構成する各ブロックの周波数特性または各画素のエッジ情報に基づいて、モスキートノイズ低減パラメータを設定する設定工程と、
    上記設定工程によって設定されたモスキートノイズ低減パラメータを用いたモスキートノイズ低減処理を当該対象フレームに施すノイズ低減工程と、
    を含んでおり、
    上記対象フレームを構成する各ブロックの周波数成分に基づいて、上記対象フレームにおける周波数成分のヒストグラムを上記周波数特性として導出する周波数判別工程を更に含んでおり、
    上記設定工程は、上記周波数成分のヒストグラムから、周波数が所定の第1の周波数より低い第1の周波数成分と、周波数が上記第1の周波数より高く、所定の第2の周波数より低い第2の周波数成分と、周波数が上記所定の第2の周波数より高い第3の周波数成分とをそれぞれ導出し、全周波数成分に対する第3の周波数成分の割合が高いほど、モスキートノイズ低減パラメータを大きく設定する、
    ことを特徴とする映像処理方法。
  16. 映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、
    対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定手段と、
    上記強度決定手段によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、
    を備えていることを特徴とする映像処理装置。
  17. 上記カラーノイズ低減処理には、モスキートノイズ低減処理が含まれており、
    上記強度決定手段は、上記対象フレームに含まれる上記原色ピクセルの数が多く、かつ、上記互いに隣接する原色ピクセルのなす面積が小さいほど、モスキートノイズ低減処理の強度を強くする、
    ことを特徴とする請求項16に記載の映像処理装置。
  18. 上記強度決定手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くする、
    ことを特徴とする請求項17に記載の映像処理装置。
  19. 上記カラーノイズ低減処理には、ノイズと判別された原色のゲインを低減するカラーゲイン低減処理が含まれており、
    上記強度決定手段は、所定の閾値を超えた量子化コードを有するブロックの割合が所定の割合を超えている場合に、上記互いに隣接する原色ピクセルのなす面積が小さいほど、上記カラーゲイン低減処理の強度を強くする、
    ことを特徴とする請求項16から18の何れか1項に記載の映像処理装置。
  20. 映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、
    対象フレームを構成する各ブロックの量子化コードと、当該対象フレームに含まれる原色ピクセルの数と、互いに隣接する原色ピクセルのなす面積とに基づいて、カラーノイズ低減処理の強度を決定する強度決定工程と、
    上記強度決定工程によって決定された強度を有するカラーノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、
    を備えていることを特徴とする映像処理方法。
  21. 映像信号を復号して得られた映像のノイズを低減する映像処理装置であって、
    対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択手段と、
    上記ノイズ低減処理選択手段によって選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減手段と、
    を備えており、
    上記ノイズ低減処理選択手段によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動きベクトル情報とに基づいて変更する強度変更手段を更に備えており、
    上記複数のノイズ低減処理には、ブロックノイズ低減処理が含まれており、
    上記強度変更手段は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする、
    ことを特徴とする映像処理装置。
  22. 上記ブロックノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、
    上記強度変更手段は、動きを有すると判別されたブロックが多いほど、参照される上記他のフレームの枚数を多くする、
    ことを特徴とする請求項21に記載の映像処理装置。
  23. 上記ブロックノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、
    上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記参照領域を広く設定する、
    ことを特徴とする請求項21に記載の映像処理装置。
  24. 上記複数のノイズ低減処理には、モスキートノイズ低減処理が含まれており、
    上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、モスキートノイズ低減処理の強度を強くする、
    ことを特徴とする請求項21から23の何れか1項に記載の映像処理装置。
  25. 上記モスキートノイズ低減処理は、上記対象フレームと、1または複数の他のフレームとを参照して行われるものであり、
    上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、参照される上記他のフレームの枚数を多くする、
    ことを特徴とする請求項24に記載の映像処理装置。
  26. 上記モスキートノイズ低減処理は、上記対象フレーム上の対象画素と、当該対象画素の周辺に設定された参照領域に含まれる画素とを参照して行われるものであり、
    上記強度変更手段は、所定の閾値を越えた量子化コードを有するブロックが多いほど、上記参照領域を広く設定する、
    ことを特徴とする請求項24に記載の映像処理装置。
  27. 上記強度変更手段は、動きを有すると判別されたブロックが多いほど、上記所定の閾値を小さくする
    ことを特徴とする請求項24から26の何れか1項に記載の映像処理装置。
  28. 上記ノイズ低減処理選択手段は、上記対象フレーム上に設定された対象領域におけるノイズ発生パターンを識別すると共に、識別した結果に基づいて、上記複数のノイズ低減処理から、当該対象領域に適用する少なくとも1つのノイズ低減処理を選択する、
    ことを特徴とする請求項21から27の何れか1項に記載の映像処理装置。
  29. 映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、
    対象フレームを構成する各ブロックの量子化コードと、当該対象フレームを構成する各ブロックの動きベクトル情報とに基づいて、互いに異なる特性を有する複数のノイズ低減処理から、当該対象フレームに適用する少なくとも1つのノイズ低減処理を選択するノイズ低減処理選択工程と、
    上記ノイズ低減処理選択工程にて選択されたノイズ低減処理を、上記対象フレームに適用するノイズ低減工程と、
    を含んでおり、
    上記ノイズ低減処理選択工程によって選択されたノイズ低減処理の強度を、上記対象フレームを構成する各ブロックの量子化コードと、上記対象フレームを構成する各ブロックの動きベクトル情報とに基づいて変更する強度変更工程を更に備えており、
    上記複数のノイズ低減処理には、ブロックノイズ低減処理が含まれており、
    上記強度変更工程は、動きを有すると判別されたブロックが多いほど、ブロックノイズ低減処理の強度を強くする、
    ことを特徴とする映像処理方法。
  30. 映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定手段と、
    上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更手段と、
    上記変更手段によって変更されたオフセットを含むノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減手段と、
    を備えていることを特徴とする映像処理装置。
  31. 上記変更手段は、上記Iピクチャ同士のフレーム間隔と正の相関を有するように上記オフセットを変更する
    ことを特徴とする請求項30に記載の映像処理装置。
  32. 上記変更手段は、更に、上記映像データに含まれるPピクチャ同士のフレーム間隔と正の相関を有するように上記オフセットを変更する
    ことを特徴とする請求項31に記載の映像処理装置。
  33. 上記変更手段は、上記オフセットを、(a)第1の係数と上記Iピクチャ同士のフレーム間隔との積、及び、(b)当該第1の係数より小さい第2の係数と上記Pピクチャ同士のフレーム間隔との積、の和に基づいて導出する
    ことを特徴とする請求項32に記載の映像処理装置。
  34. 上記設定手段は、上記Iピクチャを構成する各ブロックのうち、所定の閾値を超えた量子化コードを有するブロックが多いほど、上記オフセットを大きく設定すること、
    を特徴とする請求項30から33のいずれか1項に記載の映像処理装置。
  35. 映像信号を復号して得られた映像のノイズを低減する映像処理方法であって、
    映像データに含まれるIピクチャを構成する各ブロックの量子化コードに基づいて、ノイズ低減パラメータのオフセットを設定する設定工程と、
    上記オフセットを、Iピクチャ同士のフレーム間隔に応じて変更する変更工程と、
    上記変更工程によって変更されたオフセットを含むノイズ低減パラメータを用いたノイズ低減処理を上記映像データに施すノイズ低減工程と、
    を備えていることを特徴とする映像処理方法。
  36. 請求項1から8、10から14、16から19、21から28、および、30から34の何れか1項に記載の映像処理装置を備えていることを特徴とするテレビジョン受像機。
  37. 請求項1から8、10から14、16から19、21から28、および、30から34の何れか1項に記載の映像処理装置が備えている各手段としてコンピュータを動作させるためのプログラム。
  38. 請求項37に記載のプログラムを記録しているコンピュータ読取り可能な記録媒体。
JP2013037917A 2012-04-11 2013-02-27 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体 Expired - Fee Related JP5514338B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013037917A JP5514338B2 (ja) 2012-04-11 2013-02-27 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体
CN201380019345.5A CN104221361A (zh) 2012-04-11 2013-03-22 视频处理装置、视频处理方法、电视接收机、程序及记录介质
US14/391,826 US20150085943A1 (en) 2012-04-11 2013-03-22 Video processing device, video processing method, television receiver, program, and recording medium
PCT/JP2013/058336 WO2013153935A1 (ja) 2012-04-11 2013-03-22 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体

Applications Claiming Priority (13)

Application Number Priority Date Filing Date Title
JP2012090510 2012-04-11
JP2012090511 2012-04-11
JP2012090512 2012-04-11
JP2012090510 2012-04-11
JP2012090511 2012-04-11
JP2012090512 2012-04-11
JP2012091339 2012-04-12
JP2012091339 2012-04-12
JP2012093259 2012-04-16
JP2012093260 2012-04-16
JP2012093259 2012-04-16
JP2012093260 2012-04-16
JP2013037917A JP5514338B2 (ja) 2012-04-11 2013-02-27 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体

Publications (2)

Publication Number Publication Date
JP2013240039A JP2013240039A (ja) 2013-11-28
JP5514338B2 true JP5514338B2 (ja) 2014-06-04

Family

ID=49327506

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013037917A Expired - Fee Related JP5514338B2 (ja) 2012-04-11 2013-02-27 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体

Country Status (4)

Country Link
US (1) US20150085943A1 (ja)
JP (1) JP5514338B2 (ja)
CN (1) CN104221361A (ja)
WO (1) WO2013153935A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6285711B2 (ja) * 2013-12-26 2018-02-28 株式会社メガチップス 画像処理装置
CN104202604B (zh) 2014-08-14 2017-09-22 深圳市腾讯计算机系统有限公司 视频增强的方法和装置
JP6436385B2 (ja) * 2014-12-17 2018-12-12 パナソニックIpマネジメント株式会社 撮像装置、画像処理装置及び画像処理方法
CN106296578B (zh) * 2015-05-29 2020-04-28 阿里巴巴集团控股有限公司 一种图像处理方法及装置
US10057601B2 (en) * 2015-06-22 2018-08-21 Integrated Device Technology, Inc. Methods and apparatuses for filtering of ringing artifacts post decoding
US9781420B2 (en) * 2015-08-12 2017-10-03 Cisco Technology, Inc. Quality metric for compressed video
JP6806136B2 (ja) * 2016-03-10 2021-01-06 日本電気株式会社 画像処理装置、画像処理方法及びプログラム
CN110546956B (zh) * 2017-06-30 2021-12-28 华为技术有限公司 一种帧间预测的方法及装置
US20190356621A1 (en) * 2018-05-17 2019-11-21 Koninklijke Philips N.V. Adapting silence periods for digital messaging
CN109379630B (zh) * 2018-11-27 2021-03-12 Oppo广东移动通信有限公司 视频处理方法、装置、电子设备及存储介质
US20220188988A1 (en) * 2019-03-29 2022-06-16 Sony Group Corporation Medical system, information processing device, and information processing method
CN111372008B (zh) * 2020-03-13 2021-06-25 深圳市睿联技术股份有限公司 基于视频内容的亮度自动增益调节方法及摄像机
CN114679519B (zh) * 2020-12-24 2024-03-08 浙江宇视科技有限公司 视频处理方法、装置、电子设备及存储介质

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08214309A (ja) * 1995-02-07 1996-08-20 Canon Inc 画像信号復号装置
JP3792837B2 (ja) * 1997-06-11 2006-07-05 日本放送協会 デブロッキングフィルタ
JP2001204029A (ja) * 1999-08-25 2001-07-27 Matsushita Electric Ind Co Ltd ノイズ検出方法、ノイズ検出装置及び画像復号化装置
EP1289309B1 (en) * 2001-08-31 2010-04-21 STMicroelectronics Srl Noise filter for Bayer pattern image data
JP2003179921A (ja) * 2001-12-10 2003-06-27 Matsushita Electric Ind Co Ltd 符号化映像復号化装置
US7068722B2 (en) * 2002-09-25 2006-06-27 Lsi Logic Corporation Content adaptive video processor using motion compensation
JP4534723B2 (ja) * 2004-11-05 2010-09-01 株式会社日立製作所 画像表示装置、画像処理装置および画像処理方法
JP2007027980A (ja) * 2005-07-13 2007-02-01 Mitsubishi Electric Corp 復号装置および符号化装置
JP4747917B2 (ja) * 2006-04-03 2011-08-17 株式会社日立製作所 デジタル放送受信装置
US8111760B2 (en) * 2006-11-16 2012-02-07 Texas Instruments Incorporated Deblocking filters
WO2008075261A1 (en) * 2006-12-18 2008-06-26 Koninklijke Philips Electronics N.V. Automatic noise reduction improvement in video sequences
JP4847890B2 (ja) * 2007-02-16 2011-12-28 パナソニック株式会社 符号化方式変換装置
US20090304086A1 (en) * 2008-06-06 2009-12-10 Apple Inc. Method and system for video coder and decoder joint optimization
US8120679B2 (en) * 2008-08-01 2012-02-21 Nikon Corporation Image processing method
JP2011193391A (ja) * 2010-03-16 2011-09-29 Toshiba Corp 画像処理装置及び画像処理方法
JP5055408B2 (ja) * 2010-07-16 2012-10-24 シャープ株式会社 映像処理装置、映像処理方法、映像処理プログラム、記憶媒体

Also Published As

Publication number Publication date
JP2013240039A (ja) 2013-11-28
US20150085943A1 (en) 2015-03-26
CN104221361A (zh) 2014-12-17
WO2013153935A1 (ja) 2013-10-17

Similar Documents

Publication Publication Date Title
JP5514338B2 (ja) 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体
KR101084513B1 (ko) Mpeg 가공 감소를 위한 방법 및 장치
JP5514344B2 (ja) 映像処理装置、映像処理方法、テレビジョン受像機、プログラム、及び記録媒体
KR101001033B1 (ko) 비디오 인코더 성능을 향상시키기 위한 적응형 필터링
JP5638731B1 (ja) 拡張ダイナミックレンジをもつ画像の階層式符号化における適応的な偽輪郭生成防止
US8897581B2 (en) Guided post-prediction filtering in layered VDR coding
US6862372B2 (en) System for and method of sharpness enhancement using coding information and local spatial features
US10223774B2 (en) Single-pass and multi-pass-based polynomial approximations for reshaping functions
KR20120018124A (ko) 인터넷 비디오 콘텐츠의 추정된 품질을 기반으로 한 비디오 후처리 프로세서의 자동 조정
JP2008533937A (ja) Dctコード化されたビデオの品質を、オリジナルビデオシーケンスを用いて、もしくは用いずに客観評価する装置及び方法
US10771785B2 (en) Image encoding apparatus, method of controlling the same, and storage medium
US10922792B2 (en) Image adjustment method and associated image processing circuit
US6950561B2 (en) Method and system for sharpness enhancement for coded video
JP2005525014A (ja) 符号化されたデジタルビデオのためのシャープネスエンハンスメントのシステムおよび方法
JP2012034352A (ja) ステレオ動画像符号化装置及びステレオ動画像符号化方法
JP2004518337A (ja) ビデオエンハンスメントのために符号化情報に基づく有用メトリックを提供するための装置及び方法
US20070285729A1 (en) Image processing apparatus and image processing method
US9635359B2 (en) Method and apparatus for determining deblocking filter intensity
US8811766B2 (en) Perceptual block masking estimation system
JP5436082B2 (ja) ノイズ低減装置及びノイズ低減方法
JP2005295371A (ja) ブロックノイズ除去装置
Prangnell Spatiotemporal Adaptive Quantization for Video Compression Applications
JP6012307B2 (ja) 動画像符号化装置及びその制御方法、並びに、プログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140328

R150 Certificate of patent or registration of utility model

Ref document number: 5514338

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees