JPWO2008102827A1 - 画像表示装置、映像信号処理装置および映像信号処理方法 - Google Patents

画像表示装置、映像信号処理装置および映像信号処理方法 Download PDF

Info

Publication number
JPWO2008102827A1
JPWO2008102827A1 JP2009500223A JP2009500223A JPWO2008102827A1 JP WO2008102827 A1 JPWO2008102827 A1 JP WO2008102827A1 JP 2009500223 A JP2009500223 A JP 2009500223A JP 2009500223 A JP2009500223 A JP 2009500223A JP WO2008102827 A1 JPWO2008102827 A1 JP WO2008102827A1
Authority
JP
Japan
Prior art keywords
unit
video signal
processing
pixel
signal processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009500223A
Other languages
English (en)
Other versions
JP5294036B2 (ja
Inventor
慎一郎 宮崎
慎一郎 宮崎
一郎 村上
一郎 村上
亨 西
亨 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009500223A priority Critical patent/JP5294036B2/ja
Publication of JPWO2008102827A1 publication Critical patent/JPWO2008102827A1/ja
Application granted granted Critical
Publication of JP5294036B2 publication Critical patent/JP5294036B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/3406Control of illumination source
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/34Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source
    • G09G3/36Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters by control of light from an independent source using liquid crystals
    • G09G3/3611Control of matrices with row and column drivers
    • G09G3/3648Control of matrices with row and column drivers using an active matrix
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/66Transforming electric information into light information
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2310/00Command of the display device
    • G09G2310/02Addressing, scanning or driving the display screen or processing steps related thereto
    • G09G2310/024Scrolling of light from the illumination source over the display in combination with the scanning of the display screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2310/00Command of the display device
    • G09G2310/06Details of flat display driving waveforms
    • G09G2310/061Details of flat display driving waveforms for resetting or blanking
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0261Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0606Manual adjustment
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0613The adjustment depending on the type of the information to be displayed
    • G09G2320/062Adjustment of illumination source parameters
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/10Special adaptations of display systems for operation with variable images
    • G09G2320/106Determination of movement vectors or equivalent parameters within the image
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • G09G2340/0435Change or adaptation of the frame rate of the video stream
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/14Detecting light within display terminals, e.g. using a single or a plurality of photosensors
    • G09G2360/144Detecting light within display terminals, e.g. using a single or a plurality of photosensors the light being ambient light
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/16Calculation or use of calculated indices related to luminance levels in display data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0112Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards corresponding to a cinematograph film standard
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Television Systems (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Liquid Crystal (AREA)
  • Picture Signal Circuits (AREA)

Abstract

所定の画質改善用の映像信号処理を行う際に、動きベクトルの検出精度に起因した画質劣化を抑えることが可能な画像表示装置を提供する。動きベクトル検出部44による動きベクトルmvの検出の際の信頼度Reliabilityを考慮して、補間部45、撮像ボケ抑制処理部13およびオーバードライブ処理部10における映像信号処理を行う。具体的には、信頼度Reliabilityが大きくなるのに応じて、映像信号処理の際の処理量が大きくなるように設定する一方、信頼度Reliabilityが小さくなるのに応じて、映像信号処理の際の処理量が小さくなるように設定する。映像信号処理を動きベクトルを用いて行う場合において、動きベクトルの探索範囲(ブロックマッチングを行う範囲)を超えてしまったときなどにおいても、動きベクトルの検出精度に応じた映像信号処理が可能となる。

Description

本発明は、動き補償を用いて所定の映像信号処理を行う映像信号処理装置および映像信号処理方法、ならびにそのような映像信号処理装置を備えた画像表示装置に関する。
テレビジョン受信機やDVDプレーヤー等における画質向上のための映像信号処理の一つに、動き補償を用いたフレームレート変換が存在する。
このフレームレート変換の原理を、テレビジョン放送用のカメラで撮影された映像信号(以下、カメラ信号と呼ぶ)と、フィルムからテレビジョン方式にテレシネ変換された映像信号(以下、フィルム信号またはシネマ信号と呼ぶ)とについて、図1〜図3を用いて説明する。
図1(a)は、NTSC方式のカメラ信号のオリジナルのフレームA,B,C,Dを示している。このカメラ信号のフレームレートを120Hzに変換する場合には、図1(b)に示すように、隣り合うオリジナルフレーム(フレームAとフレームBや、フレームBとフレームCや、フレームCとフレームD)の間に、1/120secのタイミングで1つずつ補間フレームが追加される。
図2(a)は、PAL方式にテレシネ変換(2:2プルダウン)されたフィルム信号のオリジナルのフレームA,B,C,Dを示している。各オリジナルフレームは2回ずつ繰り返されている。この2:2プルダウンフィルム信号のフレームレートを100Hzに変換する場合には、図2(b)に示すように、25Hz周期で隣り合うオリジナルフレーム(フレームAとフレームBや、フレームBとフレームCや、フレームCとフレームD)の間に、1/100sec間隔で3つずつ補間フレームが追加される。
図3(a)は、NTSC方式にテレシネ変換(3:2プルダウン)されたフィルム信号のオリジナルのフレームA,B,Cを示している。奇数番目のオリジナルフレームA,Cは3回繰り返され、偶数番目のオリジナルフレームBは2回繰り返されている。この3:2プルダウンフィルム信号のフレームレートを120Hzに変換する場合には、図3(b)に示すように、24Hz周期で隣り合うオリジナルフレーム(フレームAとフレームBや、フレームBとフレームC)の間に、1/120sec間隔で4つずつ補間フレームが追加される。
各補間フレームは、前後のオリジナルフレームの映像を補間することによって作成される。この補間は、各補間フレームでの映像の補間位置のパラメータと、前後のオリジナルフレーム間の動きベクトルとに基づき、補間フレームの画素値を計算するために用いる前後のオリジナルフレームの画素のアドレスを計算した後、それらのアドレスの画素値を、補間位置に応じて重み付けするという方法で行われる。
こうしたフレームレート変換には、カメラ信号における動きぼけを解消する効果や、フィルム信号におけるジャダー(映像の動きのがくつき)を削減する効果がある。
図1〜図3には、従来のフレームレート変換における、各補間フレームでの映像の補間位置も示している。図1(b)に示すように、NTSC方式のカメラ信号のフレームレートを120Hzに変換する際の補間フレームでの映像の補間位置は、従来、前後のオリジナルフレーム間の映像の動きの大きさ(動きベクトル検出によって求めた大きさ)を均等に2分割した位置、すなわちこの動きの大きさに対して50%の位置とされていた。
図2(b)に示すように、2:2プルダウンフィルム信号のフレームレートを100Hzに変換する際の3つの補間フレームでの映像の補間位置は、従来、前後のオリジナルフレーム間の映像の動きの大きさを均等に4分割した位置、すなわちこの動きの大きさに対してそれぞれ25%,50%,75%の位置とされていた
図3(b)に示すように、3:2プルダウンフィルム信号のフレームレートを120Hzに変換する際の4つの補間フレームでの映像の補間位置は、従来、前後のオリジナルフレーム間の映像の動きの大きさを均等に5分割した位置、すなわちこの動きの大きさに対してそれぞれ20%,40%,60%,80%の位置とされていた。
図4は、従来の補間位置でフレームレート変換した3:2プルダウンフィルム信号の映像を例示する図である。隣り合うオリジナルフレームAとBとの間で飛行機の映像が動いており、4つの補間フレームにおいて、この動きの大きさを均等に5分割した位置に飛行機の映像が補間されている。
なお、このようなフレームレート変換に関する技術としては、例えば特許文献1において提案されたものが挙げられる。
特開2003−189257号公報
上記のように、動き補償を用いたフレームレート変換では、従来、各補間フレームでの映像の補間位置を、前後のオリジナルフレーム間での映像の動きの大きさを均等に分割した位置に設定していた。
ところが、フィルム信号の場合に、図4に例示したようにオリジナルフレーム間の映像の動きの大きさを均等に分割した補間位置で補間を行うと、ジャダーが大幅に削減されて映像の動きが非常にスムーズになる。その結果、フィルム信号のジャダーに慣れている人にとっては、却ってフィルム信号らしくないという印象を受けてしまうことがあった。
また、動き補償を用いたフレームレート変換では、隣り合うオリジナルフレーム間の映像の動きが非常に早くなった場合、動きベクトルの探索範囲(ブロックマッチングを行う範囲)を超えてしまうので、大きなジャダーが発生する。そうした場合、動きが非常にスムーズな映像を見ている途中で突然大きなジャダーが発生するので、違和感を感じてしまうという問題があった。
なお、従来、フィルム信号(シネマ信号)をフレームレート変換した際の映像の動きをよりスムーズにするために、フレームレート変換後のフィールドの画素位置を動きベクトルの方向にシフトさせる技術は提案されている(特許文献1参照)。しかし、フィルム信号をフレームレート変換した際に、ジャダーを削減しつつ、その削減の度合いを弱めるための技術は提案されていない。
ところで、このようにフレームレート変換等の画質改善用の映像信号処理を動きベクトルを用いて行う場合において、上記のように動きベクトルの探索範囲(ブロックマッチングを行う範囲)を超えてしまったときなどは、動きベクトルの検出が上手くできないことがある。このような場合、その動きベクトルをそのまま利用すると、映像信号処理も上手くいかず、かえって画質劣化が生じてしまう場合があるという別の問題もあった。
また、このように映像信号処理がなされた後の映像信号を、液晶表示装置等の固定画素(ホールド)型の表示装置に表示した場合、その構造に起因していわゆるホールドボケが生じてしまうというさらに別の問題もあり、このホールドボケをできるだけ改善することが望まれている。ただし、このようなホールドボケは、状況に応じて見えやすさが変化するため、状況に応じた改善方法が望まれる。
本発明はかかる問題点に鑑みてなされたもので、その第1の目的は、動き補償を用いてフィルム信号(シネマ信号)のフレームレート変換を行った際に、ジャダーを削減しつつ、その削減の度合いを弱めることが可能な画像表示装置、映像信号処理装置および映像信号処理方法を提供することにある。
また、本発明の第2の目的は、所定の画質改善用の映像信号処理を行う際に、動きベクトルの検出精度に起因した画質劣化を抑えることが可能な画像表示装置、映像信号処理装置および映像信号処理方法を提供することにある。
また、本発明の第3の目的は、状況に応じてホールドボケを改善させることが可能な画像表示装置を提供することにある。
本発明の画像表示装置は、時間軸に沿った複数のオリジナルのフレームにおいて、動きベクトルを検出する動きベクトル検出手段と、検出された動きベクトルを用いて、複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理を行う映像信号処理手段と、映像信号処理がなされた後の映像信号に基づいて映像表示を行う表示手段とを備えたものである。また、上記映像信号処理手段は、動きベクトル検出手段による動きベクトルの検出の際の信頼度が大きくなるのに応じて、映像信号処理の際の処理量が大きくなるように設定する一方、上記信頼度が小さくなるのに応じて、映像信号処理の際の処理量が小さくなるように設定するようになっている。
本発明の映像信号処理装置は、時間軸に沿った複数のオリジナルのフレームにおいて、動きベクトルを検出する動きベクトル検出手段と、検出された動きベクトルを用いて、複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理を行う映像信号処理手段とを備えたものである。また、上記映像信号処理手段は、動きベクトル検出手段による動きベクトルの検出の際の信頼度が大きくなるのに応じて、映像信号処理の際の処理量が大きくなるように設定する一方、上記信頼度が小さくなるのに応じて、映像信号処理の際の処理量が小さくなるように設定するようになっている。
本発明の映像信号処理方法は、時間軸に沿った複数のオリジナルのフレームにおいて動きベクトルを検出し、検出された動きベクトルを用いて複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理を行うと共に、上記動きベクトルの検出の際の信頼度が大きくなるのに応じて、映像信号処理の際の処理量が大きくなるように設定する一方、上記信頼度が小さくなるのに応じて、映像信号処理の際の処理量が小さくなるように設定するようにしたものである。
本発明の画像表示装置、映像信号処理装置および映像信号処理方法では、時間軸に沿った複数のオリジナルのフレームにおいて動きベクトルが検出され、この検出された動きベクトルを用いて、複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理がなされる。そしてこのような映像信号処理の際に、動きベクトルの検出の際の信頼度が大きくなるのに応じて映像信号処理の際の処理量が大きくなるように設定される一方、上記信頼度が小さくなるのに応じて映像信号処理の際の処理量が小さくなるように設定される。これにより、例えば動きベクトルの探索範囲(ブロックマッチングを行う範囲)を超えてしまったときなどにおいても、動きベクトルの検出精度に応じた映像信号処理が可能となる。
本発明の画像表示装置、映像信号処理装置または映像信号処理方法によれば、動きベクトルの検出の際の信頼度が大きくなるのに応じて、映像信号処理の際の処理量が大きくなるように設定する一方、上記信頼度が小さくなるのに応じて、映像信号処理の際の処理量が小さくなるように設定するようにしたので、所定の画質改善用の映像信号処理を動きベクトルを用いて行う場合において、動きベクトルの検出精度に応じた映像信号処理を行うことができる。よって、所定の画質改善用の映像信号処理を行う際に、動きベクトルの検出精度に起因した画質劣化を抑えることが可能となる。
カメラ信号のフレームレート変換の原理及び従来の補間位置を示す図である。 フィルム信号のフレームレート変換の原理及び従来の補間位置を示す図である。 フィルム信号のフレームレート変換の原理及び従来の補間位置を示す図である。 従来の補間位置でフレームレート変換を行ったフィルム信号の映像を例示する図である。 本発明の第1の実施の形態に係る映像信号処理装置の回路構成例を示すブロック図である。 インタポレータでのアドレス計算の原理を示す図である。 CPUが供給する補間位置パラメータを示す図である。 3:2プルダウンフィルム信号の場合の補間位置パラメータの値を示す図である。 2:2プルダウンフィルム信号の場合の補間位置パラメータの値を示す図である。 図5の装置でフレームレート変換を行ったフィルム信号の映像を例示する図である。 第1の実施の形態の変形例に係る映像信号処理装置の回路構成例を示すブロック図である。 カメラ信号の240Hzへのフレームレート変換を示す図である。 本発明の第2の実施の形態に係る映像信号処理装置の構成の一例を示すブロック図である。 人間の網膜上で形成される像のボケの周波数特性の一例を示す図である。 図13の映像信号処理装置が実行する画像処理の一例を説明するフローチャートである。 移動ベクトル(移動速度、動きベクトル)に応じた撮像ボケの周波数特性の一例を示す図である。 図13の映像信号処理装置のうちの撮像ボケ抑制処理部の機能的構成の一例を示すブロック図である。 図17の撮像ボケ抑制処理部のうちの高域成分除去部の機能的構成の一例を示すブロック図である。 図18の高域成分除去部のうちの高域リミッタ部の特性の一例を示す図である。 図17の撮像ボケ抑制処理部のうちのフィルタ部の機能的構成の一例を示すブロック図である。 図20のフィルタ部のうちのゲイン制御部の機能的構成の一例を示すブロック図である。 図21のゲイン制御部のうちの調整量決定部の特性の一例を示す図である。 図17の撮像ボケ抑制処理部のうちの撮像ボケ補償部の機能的構成の一例を示すブロック図である。 図23の撮像ボケ補償部のうちのALTI部の機能的構成の一例を示すブロック図である。 図24のALTI部の処理対象の一例を示す図であって、注目画素からみて右方に連続して並ぶ画素群の画素値の平均を演算する場合における画素値の補正方法を説明する図である。 注目画素からみて右方に連続して並ぶ画素群の画素値の平均を演算する場合における画素値の補正方法の補足説明をする図である。 図24のALTI部の処理の一例を説明するフローチャートである。 図24のALTI部のうちの調整量算出部の特性の一例を示す図である。 図23の撮像ボケ補償部のうちのALTI部の機能的構成の図12とは異なる他の例を示すブロック図である。 図23の撮像ボケ補償部のうちのゲイン制御部の機能的構成例を示すブロック図である。 図30のゲイン調整部のうちの調整量決定部の特性の一例を示す図である。 図13の映像信号処理装置のうちの撮像ボケ抑制処理部の機能的構成の図17とは異なる例を示すブロック図である。 図13の映像信号処理装置のうちの撮像ボケ抑制処理部の機能的構成の図17と図32とは異なる例を示すブロック図である。 カメラのシャッタ速度と、撮像ボケの特性とを説明する図である。 第2の実施の形態に係る映像信号処理装置の一部分の構成の図13とは異なる例を示すブロック図である。 第2の実施の形態に係る映像信号処理装置の一部分の構成の図13と図35とは異なる例を示すブロック図である。 第2の実施の形態に係る映像信号処理装置の一部分の構成の図13、図35、および図36とは異なる例を示すブロック図である。 第2の実施の形態に係る映像信号処理装置の一部分の構成の図13、図35、図36、および図37とは異なる例を示すブロック図である。 図13の映像信号処理装置のうちの撮像ボケ抑制処理部の機能的構成の、図17、図32、および図33とは異なる例を示すブロック図である。 図13の映像信号処理装置のうちの撮像ボケ抑制処理部の機能的構成の、図17、図32、図33、および図39とは異なる例を示すブロック図である。 図13の映像信号処理装置のうちの撮像ボケ抑制処理部の機能的構成の、図17、図32、図33、図39、および図40とは異なる例を示すブロック図である。 第2の実施の形態の変形例に係る映像信号処理装置の構成を示すブロック図である。 本発明の第3の実施の形態の変形例に係る映像信号処理装置の構成の一例を示すブロック図である。 動きベクトルの検出の有無と信頼度との関係の一例を示す図である。 動きベクトルの検出の有無と信頼度との関係の一例を示すタイミング波形図である。 信頼度の大きさに応じた動きベクトルに乗ずるゲイン変化の一例を示すタイミング図である。 信頼度の大きさに応じた動きベクトルに乗ずるゲイン変化の他の例を示すタイミング図である。 本発明の第4の実施の形態に係る画像表示装置の構成の一例を示すブロック図である。 図48に示したバックライト駆動部によるフレーム単位の黒挿入処理(ブリンキング処理)の一例を示すタイミング図である。 図48に示したバックライト駆動部による黒挿入ライン単位の黒挿入処理(ブリンキング処理)の一例を示すタイミング図である。 図48に示したバックライト駆動部による黒挿入ライン単位とフレーム単位とを組み合わせた黒挿入処理(ブリンキング処理)の一例を示すタイミング図である。 フレーム単位の黒挿入処理における黒挿入率の一例を示すタイミング図である。 フレーム単位の黒挿入処理における黒挿入率の他の例を示すタイミング図である。 黒挿入ライン単位とフレーム単位とを組み合わせた黒挿入処理における黒挿入率の一例を示すタイミング図である。 黒挿入ライン単位とフレーム単位とを組み合わせた黒挿入処理における黒挿入率の他の例を示すタイミング図である。 画面全体の輝度ヒストグラム分布の一例を示す特性図である。 第4の実施の形態の変形例に係る画像表示装置の構成の一例を示すブロック図である。 本発明が適用される映像信号処理装置の全部または一部分のハードウエア構成の一例を示すブロック図である。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
[第1の実施の形態]
図5は、本発明の第1の実施の形態に係る映像信号処理装置(映像信号処理装置4)の回路構成例を示すブロック図である。この映像信号処理装置4は、テレビジョン受信機に内蔵されているものであり、図示しないチューナ,デコーダ等での選局,デコード等の処理を経たデジタルコンポーネント信号YUVがこの映像信号処理装置4に供給される。
この映像信号処理装置4に供給されたデジタルコンポーネント信号YUVは、前処理部41に入力するとともに、メモリコントローラ42を介してメモリ43に順次書き込まれる。
前処理部41では、デジタルコンポーネント信号YUVから輝度信号Yを分離する処理が行われる。前処理部41で分離された輝度信号Yも、メモリコントローラ42を介してメモリ43に順次書き込まれる。
メモリ43に書き込まれた輝度信号Yは、メモリコントローラ42によって順次読み出されて(図2,図3に示したように同じオリジナルフレームが2回または3回繰り返されるフィルム信号の場合には、同じオリジナルフレームは1回だけ読み出されて)、動きベクトル検出部44に送られる。動きベクトル検出部44では、現在のフレームの輝度信号Yとその前後のフレームの輝度信号Yとを用いて、ブロックマッチングによる動きベクトル検出処理が行われる。
動きベクトル検出部44で検出された各フレームの動きベクトルmvは、メモリコントローラ42を介してメモリ43に書き込まれた後、メモリ43から読み出されて、次のフレームの動きベクトル検出での参照用に再び動きベクトル検出部44に送られる。
また、メモリコントローラ42は、メモリ43に書き込んだデジタルコンポーネント信号YUVを、2倍速で、互いに1フレーム分ずつずらして2系統分読み出す(図2,図3に示したように同じオリジナルフレームが2回または3回繰り返されるフィルム信号の場合には、同じオリジナルフレームは1回だけ読み出す)。さらに、メモリコントローラ42は、この2つのフレームの間の動きを表す動きベクトルmvを、2倍速で読み出す。こうして読み出された2系統のデジタルコンポーネント信号2YUVと動きベクトルmvとは、補間部45に送られる。
補間部45には、2系統のサーチレンジメモリ451,452と、インタポレータ453とが設けられている。メモリコントローラ42からの2系統のデジタルコンポーネント信号2YUVは、サーチレンジメモリ451,452に1系統ずつ書き込まれる。メモリコントローラ42からの動きベクトルmvは、インタポレータ453に入力する。
また、テレビジョン受信機内のCPU46からは、補間フレームでの映像の補間位置を示す補間位置パラメータRelposが、シリアルバスであるICバス40と、シリアル信号をパラレル変換するデコーダ47とを介して、補間部45に供給される(補間位置パラメータRelposの詳細については後述する)。この補間位置パラメータRelposも、インタポレータ453に入力する。
インタポレータ453は、動きベクトルmvと補間位置パラメータRelposとに基づき、補間フレームの画素値を計算するために用いるサーチレンジメモリ451,452内のオリジナルフレームの画素のアドレスを計算する。
図6は、このアドレス計算の原理を概念的に示す図である。n−1は、サーチレンジメモリ451,452内に書き込まれた1フレーム分ずれた2つのオリジナルフレームのうち時間的に早いほうのオリジナルフレームの各画素のアドレス(画面上でのx方向及びy方向の位置)を縦軸方向に表している。nは、この2つのオリジナルフレームのうち時間的に遅いほうのオリジナルフレームの各画素のアドレスを縦軸方向に表している。
iは、補間フレームの各画素のアドレスを縦軸方向に表している。横軸は時間であり、オリジナルフレームn−1,nの間での補間フレームiのタイミング(ここでは、一例として、図2(b)での3つの補間フレームのうちの中央の補間フレームに相当するタイミング)を表している。Relposは、補間フレームiの作成のために供給された補間位置パラメータである。
mv(x,y)intは、補間フレームiのうち各画素のうち、現在作成しようとしている画素(基準画素と呼ぶ)のアドレス(x,y)についてのオリジナルフレームn−1,n間の動きベクトルmvである。zeroPelPrev(x,y)は、オリジナルフレームn−1での基準アドレス(x,y)の画素の値である。zeroPelSucc(x,y)は、オリジナルフレームnでの基準アドレス(x,y)の画素の値である。
インタポレータ453は、この基準アドレス(x,y)と、動きベクトルmv(x,y)intのx方向成分mvXと、動きベクトルmv(x,y)intのy方向成分mvYと、補間位置パラメータRelposとに基づき、下記の計算式(1)により、基準アドレス(x,y)の画素値を計算するために用いるオリジナルフレームn−1,nの画素のアドレスを求める。
Figure 2008102827
インタポレータ453は、こうして求めたアドレスをサーチレンジメモリ451,452に送って、これらのアドレスの画素値prev,succを読み出す。そして、これらの画素値prev,succと補間位置パラメータRelposとを用いて、下記の計算式(2)によって補間フレームiの基準アドレス(x,y)の画素値Outの計算を行う。
Figure 2008102827
こうした計算を、補間フレームiの各画素について順次行う(基準アドレスの値(x,y)を順次更新して行う)ことにより、補間フレームiが作成される。
次に、CPU46が補間部45に供給する補間位置パラメータRelposについて説明する。図7は、CPU46が供給する補間位置パラメータRelposを示す図である。図5の映像信号処理装置4にデジタルコンポーネント信号YUVとして2:2プルダウンフィルム信号(図2(a)参照)が供給される場合には、CPU46は、Relpos_22_0,Relpos_22_1,Relpos_22_2,Relpos_22_3という4相のパラメータを1/100sec毎に(すなわち1/25sec周期で)供給する。各相のパラメータは、それぞれ6ビットである(図中の[5:0]は6ビットを表している)。
Relpos_22_0は、サーチレンジメモリ451,452内の1フレーム分ずれた2つのオリジナルフレームのうちの時間的に早いほうのオリジナルフレームをそのままインタポレータ453から出力させるためのパラメータである。Relpos_22_1〜Relpos_22_3は、この2つのオリジナルフレームの間に図2(b)に示したよう1/100sec間隔で3つの補間フレームを作成するためのパラメータである。
2:2プルダウンフィルム信号が供給される場合には、サーチレンジメモリ451,452(図5)には、同じオリジナルフレームが1/25secの間保持される。そして、この1/25secの間に、Relpos_22_0,Relpos_22_1,Relpos_22_2,Relpos_22_3という各相のパラメータ毎に、インタポレータ453が前出の式(1)及び式(2)によって補間フレームの計算を行う。こうした処理が1/25sec周期で繰り返されることにより、2:2プルダウンフィルム信号がフレームレート変換される。
他方、図5の映像信号処理装置4にデジタルコンポーネント信号YUVとして3:2プルダウンフィルム信号(図3(a)参照)が供給される場合には、CPU46は、Relpos_32_0,Relpos_32_1,Relpos_32_2,Relpos_32_3,Relpos_32_4という5相の補間位置パラメータを1/120sec毎に(すなわち1/24sec周期で)供給する。
Relpos_32_0は、サーチレンジメモリ451,452内の1フレーム分ずれた2つのオリジナルフレームのうちの時間的に早いほうのオリジナルフレームをそのままインタポレータ453から出力させるためのパラメータである。Relpos_32_1〜Relpos_32_4は、この2つのオリジナルフレームの間に図3(b)に示したよう1/120sec間隔で4つの補間フレームを作成するためのパラメータである。
3:2プルダウンフィルム信号が供給される場合には、サーチレンジメモリ451,452には、同じオリジナルフレームが1/24secの間保持される。そして、この1/24secの間に、Relpos_32_0,Relpos_32_1,Relpos_32_2,Relpos_32_3,Relpos_32_4という各相のパラメータ毎に、インタポレータ453が前出の式(1)及び式(2)によって補間フレームの計算を行う。こうした処理が1/24sec周期で繰り返されることにより、3:2プルダウンフィルム信号がフレームレート変換される。
補間位置パラメータRelposの値は、ユーザが選択するようになっている。すなわち、図5に示すように、テレビジョン受信機に付属したリモートコントローラ400には、補間位置パラメータRelposの値を「強・中・弱」の3段階に切り替えて選択するための補間位置調整釦401が設けられている。
この補間位置調整釦401での選択結果を示す信号が、リモートコントローラ400からテレビジョン受信機内の赤外線受光ユニット48で受光され、ICバス40を介してCPU46に送られると、CPU46は、その選択結果に応じた補間位置パラメータRelposの値を設定する。
図8は、3:2プルダウンフィルム信号が供給される場合に、補間位置調整釦401での選択結果に対応してCPU46が設定する補間位置パラメータRelposの値を示す図である。補間位置調整釦401で「強」が選択された場合には、Relpos_32_0,Relpos_32_1,Relpos_32_2,Relpos_32_3,Relpos_32_4の値はそれぞれ0,0.2,0.4,0.6,0.8に設定される。
1相目のパラメータRelpos_32_0の値は0なので、前出の式(1)及び式(2)から、サーチレンジメモリ451,452内の2つのオリジナルフレームのうち時間的に早いほうのオリジナルフレームがそのままインタポレータ453から出力される。
また、2相目,3相目,4相目,5相目のパラメータRelpos_32_1,Relpos_32_2,Relpos_32_3,Relpos_32_4の値は0.2,0.4,0.6,0.8というように0.2ずつ均等に変化しているので、前出の式(1)及び式(2)から、サーチレンジメモリ451,452内の2つのオリジナルフレームの間に作成される4つの補間フレームでの映像の補間位置は、図3(b)に示した従来の補間位置と同じく、この2つのオリジナルフレーム間の映像の動きの大きさを均等に5分割した位置、すなわちこの動きの大きさに対してそれぞれ20%,40%,60%,80%の位置になる。
補間位置調整釦401で「中」が選択された場合には、Relpos_32_0,Relpos_32_1,Relpos_32_2,Relpos_32_3,Relpos_32_4の値はそれぞれ0,0.15,0.3,0.7,0.85に設定される。1相目のパラメータRelpos_32_0の値は0なので、「強」の場合と同じく、サーチレンジメモリ451,452内の2つのオリジナルフレームのうち時間的に早いほうのオリジナルフレームがそのままインタポレータ453から出力される。
これに対し、2相目,3相目のパラメータRelpos_32_1,Relpos_32_2(これは、図3(b)にも表れているように、隣り合うオリジナルフレーム間の4つの補間フレームのうち、前方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータである)の値0.15,0.3は、「強」の場合の値0.2,0.4よりも小さくなっている。
また、4相目,5相目のパラメータRelpos_32_3,Relpos_32_4(これは、図3(b)にも表れているように、隣り合うオリジナルフレーム間の4つの補間フレームのうち、後方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータである)の値0.7,0.85は、「強」の場合の値0.6,0.8よりも大きくなっている。
こうしたパラメータRelpos_32_1〜Relpos_32_4の値により、「中」の場合には、サーチレンジメモリ451,452内の2つのオリジナルフレームの間に作成される4つの補間フレームでの映像の補間位置は、この2つのオリジナルフレーム間の映像の動きの大きさに対してそれぞれ15%,30%,70%,85%の位置になる。すなわち、4つの補間フレームでの映像の補間位置は、「強」の場合のようにこの2つのオリジナルフレーム間での映像の動きの大きさを均等に分割した位置(従来と同じ補間位置)ではなく、この均等に分割した位置よりもそれぞれの補間フレームに近いほうのオリジナルフレームの映像寄りの位置になる。
補間位置調整釦401で「弱」が選択された場合には、Relpos_32_0,Relpos_32_1,Relpos_32_2,Relpos_32_3,Relpos_32_4の値はそれぞれ0,0.1,0.2,0.8,0.9に設定される。2相目,3相目のパラメータ(隣り合うオリジナルフレーム間の4つの補間フレームのうち前方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータ)の値0.1,0.2は、「中」の場合の値0.15,0.3よりもさらに小さくなっている。
また、4相目,5相目のパラメータ(隣り合うオリジナルフレーム間の4つの補間フレームのうち、後方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータ)の値0.8,0.9は、「中」の場合の値0.7,0.85よりもさらに大きくなっている。
こうしたパラメータRelpos_32_1〜Relpos_32_4の値により、「弱」の場合には、サーチレンジメモリ451,452内の2つのオリジナルフレームの間に作成される4つの補間フレームでの映像の補間位置は、この2つのオリジナルフレーム間の映像の動きの大きさに対してそれぞれ10%,20%,80%,90%の位置になる。すなわち、4つの補間フレームでの映像の補間位置は、「中」の場合よりも一層、それぞれの補間フレームに近いほうのオリジナルフレームの映像寄りの位置になる。
図9は、2:2プルダウンフィルム信号が供給される場合に、補間位置調整釦401での選択結果に対応してCPU46が設定する補間位置パラメータRelposの値を示す図である。補間位置調整釦401で「強」が選択された場合には、Relpos_22_0,Relpos_22_1,Relpos_22_2,Relpos_22_3の値はそれぞれ0,0.25,0.5,0.75に設定される。
1相目のパラメータRelpos_22_0の値は0なので、サーチレンジメモリ451,452内の2つのオリジナルフレームのうち時間的に早いほうのオリジナルフレームがそのままインタポレータ453から出力される。
また、2相目,3相目,4相目のパラメータRelpos_22_1,Relpos_22_2,Relpos_22_3の値は0.25,0.5,0.75というように0.25ずつ均等に変化しているので、前出の式(1)及び式(2)から、サーチレンジメモリ451,452内の2つのオリジナルフレームの間に作成される3つの補間フレームでの映像の補間位置は、図2(b)に示した従来の補間位置と同じく、この2つのオリジナルフレーム間の映像の動きの大きさを均等に4分割した位置、すなわちこの動きの大きさに対してそれぞれ25%,50%,75%の位置になる。
補間位置調整釦401で「中」が選択された場合には、Relpos_22_0,Relpos_22_1,Relpos_22_2,Relpos_22_3の値はそれぞれ0,0.15,0.3,0.85に設定される。1相目のパラメータRelpos_22_0の値は0なので、「強」の場合と同じく、サーチレンジメモリ451,452内の2つのオリジナルフレームのうち時間的に早いほうのオリジナルフレームがそのままインタポレータ453から出力される。
これに対し、2相目のパラメータRelpos_22_1(これは、図2(b)にも表れているように、隣り合うオリジナルフレーム間の3つの補間フレームのうち、前方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータである)の値0.15は、「強」の場合の値0.25よりも小さくなっている。
また、3相目のパラメータRelpos_22_2は、図2(b)にも表れているように、隣り合うオリジナルフレーム間の3つの補間フレームのうち、前方のオリジナルフレームと後方のオリジナルフレームとのちょうど中間の補間フレームを作成するためのパラメータである。ここでは、この中間の補間フレームも、前方のオリジナルフレームに近いほうの補間フレームに分類することにより、パラメータRelpos_22_2の値も、「強」の場合の値0.5よりも小さな値0.3になっている。
また、4相目のパラメータRelpos_22_3(これは、図2(b)にも表れているように、隣り合うオリジナルフレーム間の3つの補間フレームのうち、後方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータである)の値0.85は、「強」の場合の値0.75よりも大きくなっている。
こうしたパラメータRelpos_22_1〜Relpos_22_3の値により、「中」の場合には、サーチレンジメモリ451,452内の2つのオリジナルフレームの間に作成される3つの補間フレームでの映像の補間位置は、この2つのオリジナルフレーム間の映像の動きの大きさに対してそれぞれ15%,30%,85%の位置になる。すなわち、3つの補間フレームでの映像の補間位置は、「強」の場合のようにこの2つのオリジナルフレームの間での映像の動きの大きさを均等に分割した位置(従来と同じ補間位置)ではなく、この均等に分割した位置よりもそれぞれの補間フレームに近いほうのオリジナルフレームの映像寄りの位置になる。
補間位置調整釦401で「弱」が選択された場合には、Relpos_22_0,Relpos_22_1,Relpos_22_2,Relpos_22_3の値はそれぞれ0,0.1,0.2,0.9に設定される。2相目,3相目のパラメータ(隣り合うオリジナルフレーム間の3つの補間フレームのうち前方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータ)の値0.1,0.2は、「中」の場合の値0.15,0.3よりもさらに小さくなっている。
また、4相目のパラメータ(隣り合うオリジナルフレーム間の3つの補間フレームのうち、後方のオリジナルフレームに近いほうの補間フレームを作成するためのパラメータ)の値0.9は、「中」の場合の値0.85よりもさらに大きくなっている。
こうしたパラメータRelpos_22_1〜Relpos_22_3の値により、「弱」の場合には、サーチレンジメモリ451,452内の2つのオリジナルフレームの間に作成される3つの補間フレームでの映像の補間位置は、2つのオリジナルフレーム間の映像の動きの大きさに対してそれぞれ10%,20%,90%の位置になる。すなわち、3つの補間フレームでの映像の補間位置は、「中」の場合よりも一層、それぞれの補間フレームに近いほうのオリジナルフレームの映像寄りの位置になる。
図10は、図4と同じオリジナルフレームの映像を例にとって、図5の映像信号処理装置4に3:2プルダウンフィルム信号が供給されて補間位置調整釦401で「弱」が選択された場合のフレームレート変換後の映像(図10(b))を、従来の補間位置での映像(図10(a))と対比させて示す図である。
図10(b)に表れているように、4つの補間フレームのうち、前方のオリジナルフレームAのほうに近い2つの補間フレームでは、従来の場合よりも飛行機の映像がオリジナルフレームA寄りに位置している。他方、後方のオリジナルフレームBのほうに近い2つの補間フレームでは、従来の場合よりも飛行機の映像がオリジナルフレームB寄りに位置している。したがって、2番目の補間フレームと3番目の補間フレームとの間では、飛行機の映像の位置の隔たりが従来よりも大きくなっている。
このように、この映像信号処理装置4では、補間位置調整釦401で「弱」や「中」を選択した場合、前後のオリジナルフレームのうちの前方のオリジナルフレームに近い補間フレームでは補間位置が前方のオリジナルフレームの映像寄りに偏り、後方のオリジナルフレームに近い補間フレームでは補間位置が後方のオリジナルフレームの映像寄りに偏る。
そのため、図10にも表れているように、前方のオリジナルフレームに近い補間フレームと、後方のオリジナルフレームに近い補間フレームとの間では、従来よりも、補間された映像の位置の隔たりが大きくなる。
このように、従来よりも映像の補間位置の隔たりが大きい補間フレームが存在するようになるので、それらの補間フレームの間での映像の動きのがくつきが従来よりも大きくなる。したがって、フィルム信号のフレームレート変換を行った際に、フレームレート変換によってジャダーを削減しつつ、その削減の度合いを従来よりも弱めることができる。
そして、ユーザがテレビジョン受信機でフィルム信号の映像を見る場合に、ジャダーを大幅に削減して映像の動きをスムーズにしたほうがよいと感じるのか、それともジャダーをある程度残したほうがフィルム信号らしくよいと感じるのかは、個々のユーザによって好みが分かれるところである。そこで、映像の動きがスムーズになったほうがよいと感じるユーザは補間位置調整釦401で「強」を選択し、ジャダーをある程度残したほうがよいと感じるユーザは補間位置調整釦401で「弱」や「中」を選択することにより、個々のユーザの好みに応じてジャダーの削減の度合いを選択することができる。
また、〔背景技術〕の欄に記載したように、動き補償を用いたフレームレート変換では、隣り合うオリジナルフレーム間の映像の動きが非常に早くなった場合、動きベクトルの探索範囲を超えてしまうので、大きなジャダーが発生する。そうした場合でも、補間位置調整釦401で「弱」や「中」を選択してジャダーの削減の度合いを弱めておけば、もともとある程度ジャダーが存在する映像を見ている途中で大きなジャダーが発生するので、従来のように動きが非常にスムーズな映像を見ている途中で突然大きなジャダーが発生する場合よりも、違和感を感じることが少なくなる。
また、動き補償を用いたフレームレート変換では、副作用として、動きのある人物等の映像の輪郭に陽炎のようなノイズが見える現象(Haloと呼んでいる)が生じることが知られているが、このHaloは、補間される映像の位置がオリジナルフレームの映像の位置から離れるほど顕著になる。これに対し、補間位置調整釦401で「弱」や「中」を選択すれば、補間される映像の位置がオリジナルフレームの映像寄りの位置になるので、このHaloも抑制することができるようになる。
なお、図5の例では、リモートコントローラ400に、補間位置パラメータRelposの値を「強・中・弱」の3段階に切り替えて選択するための補間位置調整釦401を設けている。しかし、別の例として、補間位置パラメータRelposの値を図8や図9の「強」から「弱」までの範囲内で連続的(無段階)に変化させて選択するためのボリュームスイッチ等の操作手段を、リモートコントローラ400またはテレビジョン受信機本体に設けるようにしてもよい。また、その場合に、補間位置パラメータRelposの値の最小変化量を一層小さくするために、CPU46が供給する補間位置パラメータRelposのビット数を6ビットよりも大きく(例えば8ビット程度に)してもよい。
次に、図11は、本実施の形態の変形例に係る映像信号処理装置(映像信号処理装置4A)の回路構成例を示すブロック図である。なお、図5に示した映像信号処理装置4と同一構成の部分には同一符号を付しており、それらの重複説明は省略する。
この映像信号処理装置4Aでは、映像信号処理装置4Aに供給されるデジタルコンポーネント信号YUVのS/Nレベルが、S/Nレベル検出部49で検出される。そして、その検出結果を示す信号が、ICバス40を介してCPU46に送られる。
動き補償を用いたフレームレート変換では、前述のように、動きのある人物等の映像の輪郭に陽炎のようなノイズが見える現象(Halo)が生じる。このHaloは、映像の補間位置がオリジナルフレームの映像の位置から離れるほど顕著になるほか、映像信号のS/Nレベルが低くなる(ノイズレベルが高くなる)ほど生じやすくなる。
CPU46内のメモリには、Haloが生じやすくなるか否かの境界として予め設定した所定の値のS/Nレベルを示す情報が予め記憶されている。CPU46は、S/Nレベル検出部49での検出結果がこの所定レベルよりも高い場合には、補間部45に供給する補間位置パラメータRelposを、図8や図9の「強」の値に設定する。他方、S/Nレベル検出部49での検出結果がこの所定レベル以下である場合には、CPU46は、補間部45に供給する補間位置パラメータRelposを、図8や図9の「弱」(あるいは「中」でもよい)の値に設定する。
これにより、供給されるデジタルコンポーネント信号YUVのS/Nレベルが高い場合(Haloが生じにくい場合)には、映像の動きをスムーズにすることができ、このS/Nレベルが低い場合(Haloが生じやすい場合)には、映像の補間位置をオリジナルフレームの映像寄りの位置にしてHaloを抑制することができる。
なお、本実施の形態では、フィルム信号をフレームレート変換する例を説明した。しかし、カメラ信号でも、例えば図12に示すように、NTSC方式のカメラ信号のフレームレートを240Hzに変換する場合には、隣り合うオリジナルフレーム(フレームAとフレームBや、フレームBとフレームCや、フレーCとフレームD)の間に、1/240sec間隔で3つずつ補間フレームが追加される。また、図示は省略するが、PAL方式のカメラ信号のフレームレートを200Hzに変換する場合には、隣り合うオリジナルフレームの間に、1/200sec間隔で3つずつ補間フレームが追加される。本発明は、カメラ信号をこのようにハイフレームレートに変換する場合にも適用してよい。
また、本実施の形態では、ユーザの選択操作によって補間位置パラメータRelposの値を設定する例や、映像信号のS/Nレベルに応じて補間位置パラメータRelposの値を設定する例を説明した。しかし、補間位置パラメータRelposの値のさらに別の設定方法として、例えば現在受信しているテレビジョン放送番組のジャンルの情報をEPG(電子番組ガイド)から取得し、そのジャンルによって補間位置パラメータRelposの値を設定する(例えば、映像の動きの遅いジャンルでは図8や図9の「強」の値に設定し、映像の動きの速いジャンルでは図8や図9の「弱」または「中」の値に設定する)ようにしてもよい。
あるいはまた、補間位置パラメータRelposの値を、ファクトリセットで図8や図9の「弱」または「中」の値に設定するようにしてもよい。
また、図8や図9に示した「弱」や「中」の値はあくまで一例であり、それ以外の値であって各補間フレームでの映像の補間位置がそれぞれの補間フレームに近いほうのオリジナルフレームの映像寄りの位置になる値に設定してもよいことはもちろんである。
また、本実施の形態では、テレビジョン受信機内の映像信号処理装置に本発明を適用した例を説明した。しかし、本発明は、それ以外にも、例えばDVDプレーヤー内の映像信号処理装置など、動き補償を用いて映像信号のフレームレート変換を行うあらゆる映像信号処理装置に適用することができる。
[第2の実施の形態]
次に、本発明の第2の実施の形態について説明する。
図13は、本実施の形態に係る映像信号処理装置(映像信号処理装置4B)の構成の一例を示している。なお、上記実施の形態における構成要素と同一のものには同一の符号を付し、適宜説明を省略する。
この映像信号処理装置4Bは、動画像データに対する各種画像処理をアクセスユニット単位で実行する。アクセスユニットとは、フレームやフィールドといった動画像の単位を指し、具体的には例えば、動画像を構成する各コマ全体またはその一部分を指す。なお、ここで言うコマとは、1枚の静止画像を言い、従って、コマ全体がフレームに該当することになる。ただし、以下、説明の簡略上、映像信号処理装置4Bは、動画像データに対する各種画像処理をフレーム単位で実行するとする。
この映像信号処理装置4Bは、図13に示されるように、第1の実施の形態で説明した映像信号処理装置4A(補間部45(高フレームレート変換部)を含む)において、撮像ボケ特性検出部12および撮像ボケ抑制処理部13をさらに設けるようにしたものである。
補間部45には、第1の実施の形態で説明したように、例えばテレビジョン放送信号等の動画像信号が、フレーム単位の動画像データとして入力される。
なお、以下、動画像と、それに対応する動画像データとを個々に区別する必要がない場合、これらをまとめて動画像と単に称する。同様に、フレームと、それに対応するフレームデータとを個々に区別する必要がない場合、これらをまとめてフレームと単に称する。
補間部45は、第1のフレームレートの動画像が入力された場合、その動画像に対して高フレームレート変換処理を施し、その結果得られる、第1のフレームレートよりも高い第2のフレームレートの動画像を撮像ボケ特性検出部12と撮像ボケ抑制処理部13に供給する。
高フレームレート変換処理とは、入力時の第1のフレームレートが出力(表示)時の第2のフレームレートよりも低い場合に実行される処理であって、入力時の動画像を構成する各フレームのそれぞれの間に、新たなフレームを創造してそれぞれ挿入することで、第1のフレームレートをそれよりも高い第2のフレームレートに変換する処理を指す。
なお、第1のフレームレートとは、補間部45に入力された時点の動画像のフレームレートを指す。従って、第1のフレームレートは、任意のフレームレートとなり得るが、ここでは例えば、図示せぬ撮影装置により動画像が撮影されたときのフレームレート、即ち、撮像フレームレートであるとする。
また、本実施の形態では、このような高フレームレート変換処理を行う高フレームレート変換部の一例として、第1の実施の形態で説明した補間部45(オリジナルフレームの間にN個ずつの補間フレームを追加する場合に、これらの補間フレームでの映像の補間位置を、前後のオリジナルフレーム間での映像の動きの大きさを均等に分割した位置ではなく、この均等に分割した位置よりもそれぞれの補間フレームに近いほうのオリジナルフレームの映像寄りの位置に設定するもの)を挙げて説明するが、このような補間部45の代わりに、通常の高フレームレート変換部(補間フレームでの映像の補間位置を、前後のオリジナルフレーム間での映像の動きの大きさを均等に分割した位置に設定するもの)を設けるようにしてもよい。
撮像ボケ特性検出部12は、補間部45から供給された動画像を構成する各フレームのそれぞれについて、撮像ボケの特性を示すパラメータの値を検出する。撮像ボケ特性検出部12の検出結果、即ち、撮像ボケの特性を示すパラメータの値は、撮像ボケ抑制処理部13に供給される。
なお、撮像ボケの特性を示すパラメータは、特に限定されず様々なパラメータの採用が可能である。このような撮像ボケの特性を示すパラメータの具体例については後述するが、例えば撮像ボケの特性を示すパラメータとして移動ベクトル(動きベクトル)の絶対値を利用する場合、撮像ボケ特性検出部12を、第1の実施の形態で説明した動きベクトル検出部44により構成してもよい。
また、1つのフレーム内での、撮像ボケの特性を示すパラメータの値の検出個数も特に限定されない。例えば、1つのフレームに対して、撮像ボケの特性を示すパラメータの値が1つのみ検出されてもよいし、そのフレームを構成する各画素毎に、撮像ボケの特性を示すパラメータの値が1つずつ個別に検出されてもよい。或いは、その1つのフレームが幾つかのブロックに分割され、分割された各ブロック毎に、撮像ボケの特性を示すパラメータの値が1つずつ個別に検出されてもよい。
撮像ボケ抑制処理部13は、補間部45から供給された動画像を構成する各フレームのそれぞれについて、撮像ボケ特性検出部12により検出されたパラメータの値のうちの処理対象のフレームに対応する値に基づいて、処理対象のフレームを構成する各画素値を補正する。即ち、撮像ボケ抑制処理部13は、処理対象のフレームについての撮像ボケの特性(パラメータの値)に応じて、処理対象のフレームの各画素値を、その撮像ボケが抑制されるように補正する。すなわち、検出されたパラメータの値を用いることによって、補間部45から供給された各フレームに含まれる撮像ボケに起因した画質劣化を抑制する撮像ボケ抑制処理を行うようになっている。
これにより、各フレームの各画素値が補正されることで撮像ボケが抑制された動画像であって、入力時の第1のフレームレートよりも高い第2のフレームレートに変換された動画像が、撮像ボケ抑制処理部13から映像信号処理装置4Bの外部に出力される。
なお、図13の例では、撮像ボケ特性検出部12と撮像ボケ抑制処理部13との組は、補間部45と組み合わせて用いられているが、当然ながら、その組単体で用いることも可能であるし、また、図示せぬ他の機能ブロック(所定の画像処理を施す他の映像信号処理部)と組み合わせて用いることも可能である。
即ち、撮像ボケ特性検出部12と撮像ボケ抑制処理部13との組だけで、撮像ボケを抑制するという効果を奏することが可能になる。ただし、この効果をより顕著にするためには、撮像ボケ特性検出部12と撮像ボケ抑制処理部13との組に対して、上述したように、補間部45を組み合わせると好適である。以下、この理由について説明していく。
図示せぬ表示装置に表示される動画像が人間の網膜上に像として形成される際にその人間に認識されるボケは、その人間が動画像に含まれる動物体を追従視することによるホールドボケと、その動画像の撮像時に加わる上述した撮像ボケとを組み合わせたものである。
ここでいう撮像ボケの特性は、図16等を参照して後述するように、ローパスフィルタとして表される。即ち、撮像ボケ後の画像信号とは、撮像ボケ前の画像信号(理想的な画像信号)に対してこのローパスフィルタがかけられた信号と等価な信号である。従って、撮像ボケ後の画像信号は、撮像ボケ前の画像信号と比較して、その周波数特性が落ちてしまう。即ち、撮像ボケ後の画像信号においては、撮像ボケ前の画像信号と比較して、高周波数になればなる程ゲインが一般的に落ちてしまう。
ここでいうホールドボケの特性もまた、撮像ボケの特性と同様にローパスフィルタとして表される。即ち、ホールドボケ後の画像信号とは、ホールドボケ前の画像信号(撮像ボケ後の画像信号)に対してこのローパスフィルタがかけられた信号と等価な信号である。従って、ホールドボケ後の画像信号は、ホールドボケ前の画像信号と比較して、その周波数特性が落ちてしまう。即ち、ホールドボケ後の画像信号においては、ホールドボケ前の画像信号と比較して、高周波数になればなる程ゲインが一般的に落ちてしまう。ただし、ホールドボケは、表示装置が固定画素(ホールド)表示装置の時にのみ発生する。
従って、周波数特性が撮像ボケのため既に落ちている撮像ボケ後の画像信号に対して、高フレームレート変換処理を施すことで、ホールドボケを抑制すること自体は可能である。しかしながら、このような高フレームレート変換処理を施したとしても、撮像ボケの劣化は変わらず、最終的に人間の網膜上におけるボケを抑制させるという効果は半減してしまう。このことを、図14を参照して説明する。
図14は、撮影装置(以下、カメラと称する)の撮影範囲内で移動速度4[画素/フレーム]で移動している実物体を撮影した時における、人間の網膜上で形成される像のボケの周波数特性を示している。図14において、横軸は周波数を、縦軸はゲインのそれぞれを示している。ただし、横軸の各値は、ナイキスト周波数が1とされた場合の相対値を示している。
図14において、同図中一点鎖線で示される曲線h0は、ボケ(撮像ボケもホールドボケも含む)を改善するための処理が特に施されていない場合における、人間の網膜上で形成される像のボケの周波数特性を示している。即ち、図13の例では映像信号処理装置4Bに入力される動画像が、仮に映像信号処理装置4Bに入力されること無く(処理されること無く)そのまま表示装置に供給されて表示された場合に、人間がその動画像を見たときに網膜上で形成される像のボケの周波数特性が、曲線h0である。
これに対して、例えば高フレームレート変換処理により表示速度が倍にされると、ホールドボケのみは改善され、その結果、人間の網膜上で形成される像のボケの周波数特性は、同図中点線で示される曲線h1になる。即ち、図13の映像信号処理装置4Bに入力された動画像が、補間部45により高フレームレート変換処理が施され、その後、仮に撮像ボケ抑制処理部13に入力されること無く(撮像ボケが改善されること無く)表示装置に供給されて表示された場合、人間がその動画像を見たときに網膜上で形成される像のボケの周波数特性が、曲線h1である。
また、例えば本発明が適用されて、高フレームレート変換処理により表示速度が倍にされ(ホールドボケが改善され)、かつ撮像ボケの度合いが半分に改善されると、人間の網膜上で形成される像のボケの周波数特性は、同図中実線で示される曲線h2になる。即ち、図13の映像信号処理装置4Bに入力された動画像が、補間部45により高フレームレート変換処理が施され、さらに、撮像ボケ抑制処理部13により撮像ボケが抑制された上で表示装置に供給されて表示された場合、人間がその動画像を見たときに網膜上で形成される像のボケの周波数特性が、曲線h2である。
曲線h1と曲線h2とを比較するに、高フレームレート変換処理によりホールドボケのみが改善されただけでは、人間の網膜上におけるボケの特性の改善は不十分であり、さらに撮像ボケの改善も必要なことがわかる。しかしながら、上述したように、従来の手法では、撮像ボケの改善が必要なことは特に考慮されずに、高フレームレート変換処理が単に行われていた。
そこで、図13の実施例の他、後述する図35や図36等の実施例で示される本発明の映像信号処理装置においては、補間部45の他さらに、撮像ボケの改善を目的として、即ち、人間の網膜上のけるボケの特性を図14の曲線h0から曲線h2のように改善することを目的として、撮像ボケ特性検出部12と撮像ボケ抑制処理部13とが設けられているのである。ただし、後述する図37と図38の実施例で示されるように、撮像ボケ特性検出部12は、本発明の映像信号処理装置にとって必須な構成要素ではない。
即ち、撮像ボケ抑制処理部13は、各フレームのそれぞれについて、撮像ボケ特性検出部12により検出された撮像ボケの特性を示すパラメータの値のうちの処理対象のフレームに対応する値に基づいて、処理対象のフレームの各画素値を補正することで、高フレームレート変換後のフレームについての撮像ボケに起因する画像劣化を抑制しているのである。即ち、映像信号処理装置4Bなど、本発明の映像信号処理装置から出力された画像信号を図示せぬ表示装置に供給することで、表示装置は、その画像信号に対応する映像として、画像劣化(ボケ画像)が抑制された鮮明な映像を表示することが可能になるのである。
このように、撮像ボケ特性検出部12と撮像ボケ抑制処理部13との組は、補間部45と組み合わされると好適である。
次に、図15のフローチャートを参照して、かかる図13の機能的構成を有する映像信号処理装置4Bの画像処理について説明する。
ステップS1において、補間部45は、第1のフレームレートの動画像を入力する。
ステップS2において、補間部45は、動画像のフレームレートを、第1のフレームレートよりも高い第2のフレームレートに変換する。
第1のフレームレートから第2のフレームレートに変換された動画像が、補間部45から撮像ボケ検出部12と撮像ボケ抑制処理部13とに供給されると、処理はステップS3に進む。
ステップS3において、撮像ボケ特性検出部12は、動画像を構成する各フレームのそれぞれの中から、撮像ボケの特性を示すパラメータの値を1以上検出する。
動画像を構成する各フレームのそれぞれについての撮像ボケの特性を示すパラメータの1以上の値が、撮像ボケ特性検出部12から撮像ボケ抑制処理部13に供給されると、処理はステップS4に進む。
ステップS4において、撮像ボケ抑制処理部13は、補間部45から供給された動画像を構成する各フレームのそれぞれについて、撮像ボケ検出部12により検出されたパラメータの値のうちの処理対象のフレームに対応する1以上の値に基づいて、処理対象のフレームの各画素値を補正する。
ステップS5において、撮像ボケ抑制処理部13は、各フレームの画素値が補正され、かつ、第1のフレームレートから第2のフレームレートに変更された動画像を出力する。
これにより、図15の画像処理は終了となる。
なお、上述した説明では、説明の簡略上、ステップS1乃至S5の各ステップの処理は、動画像が処理単位とされた。ただし、実際には、フレームが処理単位となる場合が多々ある。
図15の画像処理において、各ステップの処理単位が動画像であるとは、ステップS1乃至S5のうちの処理対象のステップから次のステップへの移行条件が、処理対象のステップの処理が動画像全体に対して施されるという条件になることと等価である。
これに対して、図15の画像処理において、各ステップの処理単位がフレームであるとは、ステップS1乃至S5のうちの処理対象のステップから次のステップへの移行条件が、処理対象のステップの処理が1つのフレーム全体に対して施されるという条件になることと等価である。換言すると、各ステップの処理単位がフレームであるとは、各フレームのそれぞれに対するステップS1乃至S5の連続処理が、他のフレームとは独立して(並行して)実行されることと等価である。この場合、例えば、第1のフレームに対するステップS3の処理が実行されているときに、それとは異なる第2のフレームに対するステップS2の処理が並行して実行されているようなことが起こり得る。
さらに、実際には、処理対象のフレームを構成する各画素のそれぞれが、処理の対象として注目すべき画素(以下、注目画素と称する)に順次設定されて、その注目画素に対して、少なくともステップS3とS4の処理が順次個別に施されていくことが多々ある。即ち、ステップS3とS4の処理単位は画素であることが多々ある。
そこで、以下の説明においても、ステップS3とS4の処理は画素単位であるとして説明していく。即ち、ステップS3の処理とは撮像ボケ特性検出部12の処理であり、ステップS4の処理とは撮像ボケ抑制処理部13の処理である。従って、以下の説明においては、撮像ボケ特性検出部12と撮像ボケ抑制処理部13の処理単位は画素であるとして説明していく。
次に、図13の映像信号処理装置4Bのうちの、撮像ボケ抑制処理部13の詳細について説明していく。具体的には例えば、撮像ボケの特性を示すパラメータとして、移動ベクトル(動きベクトル)の絶対値を利用する場合の撮像ボケ抑制処理部13の実施形態について説明していく。
なお、以下、移動ベクトル(動きベクトル)の絶対値を移動速度と称し、また、移動ベクトル(動きベクトル)の方向を移動方向と称する。移動方向は、2次元平面上の何れの方向ともなり得、図13の映像信号処理装置4Bは、当然ながら、2次元平面上の何れの方向が移動方向になった場合でも、後述する各種処理を全く同様に実行することが可能である。ただし、以下においては、説明の簡略上、移動方向は横方向であるとする。
撮像ボケの特性を示すパラメータとして移動速度が利用される場合、撮像ボケ特性検出部12は、例えば、動画像を構成する各フレームのそれぞれについて、処理対象のフレームを構成する各画素のそれぞれを注目画素として順次設定し、注目画素における移動ベクトルを順次検出し、それを、注目画素における撮像ボケの特性を示すパラメータの値として撮像ボケ抑制処理部13に順次供給していくことになる。
従って、撮像ボケ抑制処理部13は、例えば、動画像を構成する各フレームのそれぞれについて、処理対象のフレームを構成する各画素のそれぞれを注目画素として順次設定し、撮像ボケ特性検出部12から供給された注目画素における移動速度に基づいて、注目画素の画素値を順次補正していくことになる。
ここで、移動速度が、撮像ボケの特性を示すパラメータとして採用可能な理由について説明する。
撮像ボケの特性は、一般的に被写体の移動速度に依存した形態で表すことが可能である。
なお、被写体の移動速度とは、実空間において被写体自体が移動してカメラが固定されている場合に、その被写体がカメラで撮影されたときの、フレーム内での被写体(画像)の移動速度を当然ながら含む。さらに、ここで言う被写体の移動速度とは、実空間において被写体が固定されてカメラが手振れ等により移動した場合、または、実空間において被写体とカメラとが共に移動した場合に、その被写体がカメラで撮影されたときの、フレーム内での被写体(画像)の相対的な移動速度も含む。
従って、撮像ボケの特性は、被写体の画像を構成する各画素における移動速度に依存した形態で表すことができる。
画素における移動速度とは、処理対象のフレーム内の画素と、それよりも前のフレーム内の対応する画素(対応点)との間の空間的な距離を指す。例えば、処理対象のフレーム内の画素と、その直前(時間的に1つ前)のフレーム内の対応する画素(対応点)との間の空間的な距離が、v(vは、0以上の任意の整数値)画素分である場合、その画素における移動速度とは、v[画素/フレーム]になる。
この場合、被写体の画像を構成する各画素のうちの所定の1つが注目画素に設定されているとすると、注目画素における撮像ボケの特性は、注目画素における移動速度v[画素/フレーム]の大小に依存した形態で表すことができる。
より具体的には例えば、注目画素の移動速度が2,3,4[画素/フレーム]のそれぞれの場合、注目画素における撮像ボケの周波数特性のそれぞれは、図16の曲線H2乃至H4のそれぞれで表すことができる。
即ち、図16は、注目画素における移動速度が2,3,4[画素/フレーム]のそれぞれの場合についての、注目画素における撮像ボケの周波数特性のそれぞれを示している。図16において、横軸は周波数を、縦軸はゲインのそれぞれを示している。ただし、横軸の各値は、ナイキスト周波数が1とされた場合の相対値を示している。
以上の内容が、移動速度が、撮像ボケの特性を示すパラメータとして採用可能な理由である。
ところで、図16の周波数特性H2乃至H4の形態からわかるように、注目画素における撮像ボケの特性は空間領域で表現すると、移動平均フィルタ(ローパスフィルタ)で表すことが可能である。
即ち、この移動平均フィルタ(ローパスフィルタ)を示す伝達関数(以下、撮像ボケの伝達関数と称する)をHと記述し、撮像ボケが仮に発生しなかった場合の理想的な画像信号(以下、撮像ボケ前の信号と称する)を周波数領域でFと記述し、かつ、カメラから出力される実際の画像信号、即ち、撮像ボケが発生した画像信号(以下、撮像ボケ後の信号と称する)を周波数領域でHと記述すると、撮像ボケ後の信号Gは、次の式(3)のように表される。
G = H×F ・・・(3)
本発明においては撮像ボケを取り除く(抑制する)ことが目的とされているので、この本発明の目的を達成するためには、既知である撮像ボケ後の信号Gと、既知である撮像ボケの伝達関数Hとから、撮像ボケ前の信号Fを予測演算すればよい。即ち、次の式(4)の予測演算が実行されればよい。
F = inv(H)×G ・・・(4)
式(4)において、inv(H)は、撮像ボケの伝達関数Hの逆関数を示している。上述したように撮像ボケの伝達関数Hがローパスフィルタの特性を持つことから、その逆関数inv(H)も、当然ながらハイパスフィルタの特性を持つ。
また、上述したように、撮像ボケの伝達関数Hは、移動速度に応じてその特性が変化する。具体的には例えば、注目画素における移動速度が2,3,4[画素/フレーム]のそれぞれの場合、注目画素における撮像ボケの伝達関数Hの周波数特性は、図16の曲線H2,曲線H3,曲線H4のそれぞれに示されるような相異な特性となる。
従って、撮像ボケ抑制処理部13は、移動速度に応じて撮像ボケの伝達関数Hの特性を変更して、特性が変更された伝達関数Hの逆関数inv(H)を求め、その逆関数inv(H)を用いて上述した式(4)の演算処理を実行すれば、本発明の目的、即ち、撮像ボケを取り除く(抑制する)という目的を達成することが可能になる。
或いは、上述した式(4)の演算は周波数領域の演算であるので、本発明の目的を達成するために、撮像ボケ抑制処理部13は、上述した式(4)の演算処理と等価な空間領域での処理を実行してもよい。具体的には例えば、撮像ボケ抑制処理部13は、次のような第1乃至第3の処理を実行してもよい。
第1の処理とは、撮像ボケ特性検出部12から供給された注目画素における移動速度に応じて、注目画素における撮像ボケを示す移動平均フィルタ(ローパスフィルタ)の特性を変換する処理である。具体的には例えば、複数の移動速度毎に移動平均フィルタを1つずつ予め用意しておき、複数の移動平均フィルタの中から、注目画素における移動速度に対応する1つを選択する処理が、第1の処理の一例である。
第2の処理とは、次の第2−1乃至第2−3の処理からなる処理である。
第2−1の処理とは、第1の処理により特性が変換された移動平均フィルタに対してフーリエ変換を施すことにより、その移動平均フィルタを周波数表示する処理である。具体的には例えば、注目画素における移動速度が2,3,4[画素/フレーム]のそれぞれの場合、図16の曲線H2,曲線H3,曲線H4のそれぞれを得る処理が第2−1の処理である。即ち、周波数領域で考えると、注目画素における撮像ボケの伝達関数Hを求める処理が第2−1の処理である。
第2−2の処理とは、第2−1の処理により周波数表示された移動平均フィルタの逆数を算出する処理である。即ち、周波数領域で考えると、上述した式(4)に示される、撮像ボケの伝達関数Hの逆関数inv(H)を生成する処理が、第2−2の処理である。
第2−3の処理とは、第2−2の処理により算出された、周波数表示された移動平均フィルタの逆数に対して逆フーリエ変換を施す処理である。即ち、逆関数inv(H)に対応するハイパスフィルタ(ウィーナーフィルタ等)を生成する処理が第2−3の処理である。換言すると、移動平均フィルタの逆フィルタを生成する処理が第2−3の処理である。なお、以下、第2−3の処理により生成されるハイパスフィルタを、逆移動平均フィルタと称する。
第3の処理とは、撮像ボケ後の周波数領域の上述した式(4)の信号Gに対応する空間領域の画像信号gを入力画像として入力し、その画像信号gに対して、第2−3の処理により生成された逆移動平均フィルタをかける処理である。この第3の処理により、撮像ボケ前の周波数領域の上述した式(4)の信号Fに対応する空間領域の画像信号fが復元(予測演算)されることになる。具体的には例えば、処理対象のフレームのうちの注目画素を含む所定のブロックに対して逆移動平均フィルタをかけることで、注目画素の画素値を補正する処理が、第3の処理である。
かかる第1乃至第3の処理を実行可能な撮像ボケ抑制処理部13の機能的構成の一実施例については、本発明人により既に発明され、特願2004−234051号の願書とともに提出された図面の図17に開示されている。
しかしながら、撮像ボケ抑制処理部13が、特願2004−234051号の願書とともに提出された図面の図17の構成を有する場合、次のような第1の課題が新たに発生してしまう。即ち、図16の周波数特性H2乃至H4にも示されるように、撮像ボケを示す移動平均フィルタ(その周波数特性)には、ゲインが0となる周波数が含まれている。このため、撮像ボケ抑制処理部13は、その移動平均フィルタの完全な逆フィルタ(完全な逆移動平均フィルタ)を生成するのは困難であり、その結果、ノイズを増長させてしまうという第1の課題が新たに発生してしまう。
また、第3の処理のような、画像信号に対してハイパスフィルタ(逆移動平均フィルタ)をかける処理とは、エッジを急峻にする処理であるとも言える。「エッジを急峻にする」という意味での画作りの技術として、従来、LTIやsharpnessと称される技術が存在する。従って、このような従来の技術を撮像ボケ抑制処理部13に適用させることも当然ながら可能である。
しかしながら、このような従来の技術を撮像ボケ抑制処理部13に適用させた場合には、次の第2の課題乃至第5の課題が新たに発生してしまう。
即ち、LTIとは、特開2000−324364号公報等に開示されている従来の技術である。特開2000−324364号公報によると、注目画素の輝度(画素値)をその近隣画素の輝度(画素値)にハードスイッチで置き換えることで、注目画素の輝度を補正し、その結果としてエッジを急峻にさせる技術がLTIである。従って、このLTIには、その特徴上、ノイズに対して耐久性が弱く、ノイズに振られて処理画像が破綻してしまう恐れがあるという第2の課題があった。また、LTIを施す前の画像データに依存せずに、全てのエッジを急峻にしてしまうという第3の課題もあった。
また、従来の技術(LTI、sharpness)は画作りで用いられている技術なので、撮像ボケが生じていない静止画に対しても全く同様に処理を施してしまうという第4の課題と、撮像ボケが生じている量に関わらずに一様に処理をしてしまうという第5の課題があった。
そこで、本発明人は、[発明が解決しようとする課題]で上述した課題の他、これらの第1の課題乃至第5の課題も同時に解決すべく、例えば本願の図17に示される機能的構成を有する撮像ボケ抑制処理部13を発明した。即ち、図17は、本発明が適用される撮像ボケ抑制処理部13の機能的構成の一例を示している。
図17の例では、撮像ボケ抑制処理部13は、高成分除去部21、フィルタ部22、および、撮像ボケ補償部23により構成されている。
なお、以下、少なくとも撮像ボケ抑制処理部13の説明をしている間においては、撮像ボケ抑制処理部13を構成する各機能ブロック(加算部等の演算部も含む)に入力される信号を、即ち、動画像、動画像を構成する各フレーム、および、各フレームを構成する各画素の画素値といった入力単位によらず、一括して入力信号と適宜称する。同様に、各機能ブロックから出力される信号を、その出力単位によらず、一括して出力信号と適宜称する。換言すると、入力単位や出力単位の区別が必要な場合、その単位(主に画素値)を用いて説明を行い、それ以外の場合、単に入力信号または出力信号を用いて説明を行う。
図17に示されるように、補間部45の出力信号は、撮像ボケ抑制処理部13にとっての入力信号として、高域成分除去部21に供給される。また、撮像ボケ特性検出部12の出力信号は、フィルタ部22と撮像ボケ補償部23とのそれぞれに供給される。高域成分除去部21の出力信号はフィルタ部22に供給される。フィルタ部22の出力信号は撮像ボケ補償部23に供給される。撮像ボケ補償部23の出力信号が、撮像ボケ抑制処理部13の最終的な処理結果を示す出力信号として外部に出力される。
以下、高成分除去部21、フィルタ部22、および、撮像ボケ補償部23のそれぞれの詳細について、その順番に個別に説明していく。
はじめに、図18と図19とを参照して、高域成分除去部21の詳細について説明する。
図18は、高域成分除去部21の詳細な機能的構成例を示している。図19は、図18の高域成分除去部21のうちの後述する高域リミッタ部32の特性を示している。
図18の例では、高域成分除去部21は、ハイパスフィルタ部31、高域リミッタ部32、および、減算部33により構成されている。
図18に示されるように、補間部45の出力信号は、高域成分除去部21にとっての入力信号として、ハイパスフィルタ部31と減算部33とのそれぞれに供給される。
ハイパスフィルタ部31は、HPF(ハイパスフィルタ)の機能を有している。従って、ハイパスフィルタ部31は、高域成分除去部21の入力信号から高域成分を抽出し、高域リミッタ部32に供給する。
高域リミッタ部32は、図19の曲線P1で示される関数を保持しており、ハイパスフィルタ部31から供給された高域成分を入力パラメータとしてその関数に代入して、その関数の出力(図19の出力)を減算部33に供給する。即ち、図19の曲線P1の形状から容易にわかることであるが、高域リミッタ部32は、ハイパスフィルタ部31から供給されてくる高域成分(入力)の値がある一定以上の場合またはある一定以下の場合にリミッタをかける。換言すると、高域リミッタ部32は、図19の曲線P1で示される特性を有している。
図18に戻り、減算部33は、高域成分除去部21の入力信号と、高域リミッタ部32によりリミッタがかけられた高域成分との差分を演算し、その結果得られる差分信号を、高域成分除去部21の出力信号としてフィルタ部22に供給する。
このようにして、高域成分除去部21において、その入力信号からノイズなどの高域成分が除去されて、その結果得られる信号が出力信号としてフィルタ部22に供給される。
次に、図20乃至図22を参照して、フィルタ部22の詳細について説明する。
図20は、フィルタ部22の詳細な機能的構成例を示している。図21は、図20のフィルタ部22のうちの後述するゲイン制御部53の詳細な機能的構成例を示している。図22は、図21のゲイン制御部53のうちの後述する調整量決定部64の特性を示している。
図20の例では、フィルタ部52は、移動平均フィルタ部51乃至加算部54により構成されている。
図20に示されるように、高域成分除去部21の出力信号は、フィルタ部22にとっての入力信号として、移動平均フィルタ部51、減算部52、および、加算部54のそれぞれに供給される。また、撮像ボケ特性検出部12の出力信号は、移動平均フィルタ部51とゲイン制御部53とのそれぞれに供給される。
移動平均フィルタ部51は、フィルタ部22の入力信号に対して移動平均フィルタをかける。より詳細には、移動平均フィルタ部51は、フィルタ部22の入力信号のうちの、処理対象のフレーム内の注目画素を含む所定のブロックの各画素値に対して移動平均フィルタをかけることで、注目画素の画素値を補正する。その際、移動平均フィルタ部51は、撮像ボケ特性検出部12の出力信号のうちの注目画素における移動速度に応じて、移動平均フィルタの特性を変換する。具体的には例えば、注目画素における移動速度が2,3,4[画素/フレーム]のそれぞれの場合、周波数領域で考えると、移動平均フィルタ部51は、移動平均フィルタの特性を、上述した図16の曲線H2,H3,H4のそれぞれで示される特性に変換する。移動平均フィルタ部51により補正された注目画素の画素値は、減算部52に供給される。
その際、移動平均フィルタ部51は、撮像ボケ特性検出部12の出力信号のうちの注目画素における移動速度に応じて、注目画素に対して移動平均フィルタを書ける場合に利用するタップ(注目画素とその周辺の所定の画素)の個数を変更することもできる。具体的には例えば、移動平均フィルタ部51は、移動速度が大きくなるに従ってタップの個数も多くするように(即ち、平均する幅を広げるように)可変していけばよい。このように移動速度に応じた個数のタップを利用した移動平均フィルタの結果を、撮像ボケ補償部23が用いることで、より一段と精度の高い補正、即ち、より一段と撮像ボケを抑制することが可能な補正を行うことが可能となる。
減算部52は、フィルタ部22の入力信号のうちの注目画素の補正前の画素値と、移動平均フィルタ部51により補正された注目画素の画素値との差分を求め、その差分値をゲイン制御部53に供給する。なお、以下、減算部52の出力信号を、移動平均フィルタ前後の差分と称する。
ゲイン制御部53は、移動平均フィルタ前後の差分の値を調整し、調整後の移動平均フィルタ前後の差分を出力信号として加算部54に供給する。なお、ゲイン制御部53の詳細については図21を参照して後述する。
加算部54は、フィルタ部22の入力信号と、ゲイン制御部53の出力信号とを加算し、その加算信号を出力信号として撮像ボケ補償部23に供給する。詳細には、注目画素に着目すると、加算部54は、注目画素の補正前の画素値に対して、注目画素についての移動平均フィルタ前後の差分の調整値を補正量として加算し、その加算値を、注目画素の補正後の画素値として外部の撮像ボケ補償部23に供給する。
以上説明したようなフィルタ部22の空間領域での処理は、周波数領域で考えると次のようになる。
即ち、減算部52の出力信号である移動平均フィルタ前後の差分を周波数領域で考えた場合、所定の周波数に着目すると、減算部52の出力信号のゲインとは、次のようなゲインになる。即ち、着目された周波数において、フィルタ部22の入力信号のゲインと、移動平均フィルタがかけられた後の入力信号のゲインとの差分ゲインが、減算部52の出力信号のゲインとなる。以下、減算部52の出力信号のゲインを、移動平均フィルタ前後の差分ゲインと称する。
さらに、この移動平均フィルタ前後の差分ゲインは、ゲイン制御部53によりゲイン調整される。このゲイン調整については後述する。
従って、図20の例のフィルタ部22(加算部54)の出力信号を周波数領域で考えた場合、所定の周波数に着目すると、出力信号のゲインは、その入力信号のゲインと、ゲイン調整後の移動平均フィルタ前後の差分ゲインとが加算された加算ゲインとなっている。即ち、各周波数のそれぞれにおいて、出力信号のゲインは、入力信号のゲインに比較して、ゲイン調整後の移動平均フィルタ前後の差分ゲイン分だけ持ち上げられている。
換言すると、フィルタ部22全体では、ハイパスフィルタをかける処理と基本的に等価な処理を実行していることになる。
ここで、図21を参照して、ゲイン調整部53の詳細について説明する。
図21の例では、ゲイン制御部53は、遅延部61−1乃至61−n(以下、図21の記載にあわせてDL部61−1乃至61−nと称する)、MAX/MIN算出部62、減算部63、調整量決定部64、および、乗算部65により構成されている。
図21に示されるように、減算部52の出力信号である移動平均フィルタ前後の差分は、ゲイン制御部53にとっての入力信号として、DL部61−1に供給される。また、撮像ボケ特性検出部12の出力信号は、MAX/MIN算出部62に供給される。
ゲイン調整部53は、このような構成を有することで、信号のレベルが高い場所で発生するリンギングを抑えることができる。
以下、ゲイン制御部53の詳細な機能的構成(各機能ブロックの接続形態)とその動作について併せて説明する。
DL部61−1乃至61−nは、その順番で接続されており、前段の出力信号が自分自身の入力信号として供給されると、その入力信号を所定の遅延時間だけ遅延させて、出力信号として後段に供給する。DL部61−1乃至61−nのそれぞれの出力信号はまた、MAX/MIN算出部62に供給される。さらに、DL部61−(n/2)の出力は乗算部65にも供給される。
ゲイン制御部53の入力信号である移動平均フィルタ前後の差分のうちの、注目画素を中心として移動方向(ここでは横方向)に連続して並ぶn個の画素のそれぞれに対応する値(以下、画素の前後差分値と称する)が、右から左に向けて画素の配置順番でDL部61−1に順次入力されていく。従って、その後、遅延時間のn倍の時間がほぼ経過すると、DL部61−1乃至61−nのそれぞれからは、注目画素を中心として横方向に連続して並ぶn個の画素の各前後差分値のそれぞれが1つずつ出力され、MAX/MIN算出部62に供給されることになる。また、注目画素の前後差分値は、DL部61−(n/2)から出力されて、上述したようにMAX/MIN算出部62に供給される他、乗算部65にも供給される。
なお、DL部61−1乃至61−nの個数nは、特に限定されないが、ここでは、移動速度の最高値[画素/フレーム]であるとする。また、撮像ボケ特性検出部12から供給された注目画素における移動速度は、v[画素/フレーム]であるとする。ただし、vは、0以上の任意の整数値であるとする。
MAX/MIN算出部62は、注目画素を中心として含む、その移動速度分の個数vの画素の各前後差分値を含む範囲を算出範囲として決定する。そして、MAX/MIN算出部62は、DL部61−1乃至61−nから供給されるn個の前後差分値のうちの、算出範囲に含まれるv個の前後差分値の中から最大値MAXと最小値MINとを求め、それぞれ減算部63に供給する。
なお、注目画素を中心として含む、その移動速度分の個数vの画素の各前後差分値を含む範囲が算出範囲とされるのは、次の理由からである。即ち、リンギングは、ハイパスフィルタのタップ数分だけ、換言すると、移動速度分だけ影響を及ぼすからである。
減算部63は、MAX/MIN算出部62からそれぞれ供給された最大値MAXと最小値MINとの差分を取り、その差分値(=MAX-MIN)を調整量決定部64に供給する。
この差分値(=MAX-MIN)が大きくなるほど、注目画素近傍のリンギングもまた大きくなることがわかっている。即ち、この差分(=MAX-MIN)は、注目画素近傍のリンギングの大きさの指標となる値である。
そこで、調整量決定部64は、減算部63から供給された差分値(=MAX-MIN)に基づいて、注目画素の前後差分値についての調整量を決定し、乗算部65に供給する。
詳細には例えば、調整量決定部64は、図22の曲線P2で示される関数を保持しており、減算部63から供給された差分値(=MAX-MIN)を入力パラメータとしてその関数に代入して、その関数の出力(図22の出力)を、注目画素の前後差分値についての調整量として乗算部65に供給する。即ち、図22の曲線P2の形状から容易にわかることであるが、減算部63から供給された差分値(=MAX-MIN)がある一定値を超えると、それ以降、リンギングの発生を抑制させるべく、調整量(出力)が小さくなっていく。換言すると、調整量決定部64は、図22の曲線P2で示される特性を有している。
図21に戻り、乗算部65は、DL部61-(n/2)から供給された注目画素の前後差分値に対して、調整量決定部64から供給された調整量(図22の例では0乃至1の範囲内の値)を乗算し、その乗算値を、注目画素の調整後の前後差分値として加算部54に供給する。即ち、各画素の調整後の前後差分値のそれぞれが、ゲイン制御部53の出力信号として、加算部54に順次供給されていく。
以上説明したように、減算部63の出力信号である差分値(=MAX-MIN)がある一定値を超えると、その差分値(=MAX-MIN)が大きくなるほど、調整量(出力)も1乃至0に向かう方向でだんだん小さくなっていく。従って、減算部63の出力信号である差分値(=MAX-MIN)がある一定値以上の場合、1未満の調整量が、注目画素の前後差分値に対して乗算されるので、注目画素の前後差分は小さくなるように調整されることになる。これにより、注目画素近傍のリンギングが抑制されることになる。
以上説明したようなゲイン制御部53の空間領域での処理は、周波数領域で考えると、結局、リンギングの抑制を目的として、移動平均フィルタ前後の差分ゲインをゲイン調整する処理であると言える。
次に、図23乃至図31を参照して、撮像ボケ補償部23の詳細について説明する。
図23は、撮像ボケ補償部23の詳細な機能的構成例を示している。
図23の例では、撮像ボケ補償部23は、ALTI部81、減算部82、ゲイン制御部83、および、加算部84により構成されている。
図23に示されるように、フィルタ部22の出力信号は、撮像ボケ補償部23にとっての入力信号として、ALTI部81、減算部82、および加算部84のそれぞれに入力される。また、撮像ボケ特性検出部12の出力信号は、ALTI部81とゲイン制御部83とのそれぞれに供給される。
以下、撮像ボケ補償部23の入力信号のうちの注目画素の画素値に着目して、ALTI部81乃至加算部84のそれぞれの説明を個別に行っていく。
なお、上述したように、撮像ボケ補償部23に供給された段階の注目画素の画素値は、図17の撮像ボケ抑制処理部13に入力された段階と比較して、高域成分除去部21やフィルタ部22により既に補正が行われて異なる値になっていることが多い。また、後述するように、撮像ボケ補償部23内でも、注目画素の画素値は適宜補正される。そこで、混乱を避けるために、撮像ボケ補償部23の説明を行っている間においては、各機能ブロックに入力される段階の各画素値を、入力画素値と称し、各機能ブロックから出力される段階の画素値を、出力画素値と称する。さらに、機能ブロックの中には、同一画素について、複数の前段の機能ブロックのそれぞれから複数の異なる画素値が入力される場合もある。このような場合、オリジナルに近い方の画素値(主に補正前の画素値)を入力画素値と称し、それ以外の画素値を、後段の機能ブロックの出力画素値と称する。例えば、詳細については後述するが、減算部82には、ALTI部81と外部のフィルタ部22とのそれぞれから注目画素の画素値として異なる値が供給される。そこで、外部のフィルタ部22から供給される方を、入力画素値と称し、ALTI部81から供給される方を、ALTI部81の出力画素値と称する。
ALTI部81は、撮像ボケ特性検出部12により供給された注目画素における移動速度に応じて補正量を決定し、注目画素の入力画素値に対して補正量を加算し、その加算値を、注目画素の出力画素値として減算部82に供給する。なお、ALTI部81のさらなる詳細については、図24を参照して後述する。
減算部82は、ALTI部81の注目画素の出力画素値と、注目画素の入力画素値との差分を演算し、その差分値(以下、注目画素差分値と称する)をゲイン制御部83に供給する。
ゲイン制御部83は、撮像ボケ特性検出部12から供給された注目画素における移動速度に応じて、減算部82から供給された注目画素差分値の値を調整して、調整後の注目画素差分値を、注目画素についての最終的な補正量として加算部84に供給する。
加算部84は、注目画素の入力画素値に対して、ゲイン制御部83からの最終的な補正量を加算し、その加算値を、注目画素の出力画素値として外部に出力する。即ち、加算部84の注目画素の出力画素値が、撮像ボケ抑制補償部23により最終的に補正された注目画素の画素値として外部に出力される。
以下、撮像ボケ補償部23のうちのALTI部81とゲイン制御部83とのそれぞれの詳細について、その順番に個別に説明していく。
はじめに、図24乃至図29を参照して、ALTI部81の詳細について説明する。
図24は、ALTI部81の詳細な機能的構成例を示している。
図24の例では、ALTI部81は、遅延部91−1乃至91−n(以下、図24の記載にあわせてDL部91−1乃至91−nと称する)、平均値算出部92乃至94、補正量決定部95、および加算部96により構成されている。
以下、ALTI部81の詳細な機能的構成(各機能ブロックの接続形態)とその動作について併せて説明する。
DL部91−1乃至91−nは、その順番で接続されており、前段から出力されてくる各画素値のそれぞれを、所定の遅延時間だけ遅延させて後段に出力する。DL部91−1乃至91−(n/2-1)のそれぞれから出力される画素値はまた、平均値算出部93に供給される。DL部91−(n/2-1)、DL部91−(n/2)、および、DL部91−(n/2+1)のそれぞれから出力される画素値はまた、平均値算出部92に供給される。DL部91−(n/2+1)乃至91−nのそれぞれから出力される画素値はまた、平均値算出部94に供給される。DL部91−(n/2)から出力される画素値はまた、補正量決定部95と加算部96にも供給される。
フィルタ部22からは、注目画素を中心にして移動方向(ここでは横方向)に連続して並ぶn個の画素の各画素値が、右から左に向かう方向に画素の配置順番で、DL部91−1に順次入力されていく。従って、その後、遅延時間のn倍の時間がほぼ経過すると、DL部91−1乃至91−nのそれぞれからは、注目画素を中心にして横方向に連続して並ぶn個の画素の各画素値のそれぞれが1つずつ出力されることになる。
なお、以下、DL部91−1乃至91−nのそれぞれから出力された段階の各画素値を、ALTI部81にとっての入力画素値であるとして説明する。
具体的には、DL部91−(n/2)からは、注目画素の入力画素値Nが出力される。また、注目画素から見て左側に連続して配置されるn/2-1個の画素の各入力画素値は、DL部91−1乃至91−(n/2-1)のそれぞれから1つずつ出力される。一方、注目画素から見て右側に連続して配置されるn/2-1個の画素の各入力画素値は、DL部91−(n/2+1)乃至91−nのそれぞれから1つずつ出力される。
なお、DL部91−1乃至91−nの個数nは、特に限定されないが、ここでは、移動速度の最高値[画素/フレーム]であるとする。また、撮像ボケ特性検出部12から供給される注目画素における移動速度は、上述した例と同様にv[画素/フレーム]であるとする。
従って、平均値算出部92には、注目画素の入力画素値N、注目画素の左隣画素の入力画素値、および、注目画素の右隣画素の入力画素値が入力される。そこで、平均値算出部92は、注目画素の入力画素値N、注目画素の左隣画素の入力画素値、および、注目画素の右隣画素の入力画素値の平均値Na(以下、注目画素の平均画素値Naと称する)を算出し、補正量決定部95に供給する。
なお、詳細については後述するが、補正量決定部95により決定される注目画素の補正量ADDは、所定の調整量cにより調整される。この調整量cは、固定値ではなく、所定の処理(以下、調整量決定処理と称する)により決定される可変値である。本実施の形態では、この調整量決定処理において、注目画素の平均画素値Naが利用される。なぜならば、この調整量決定処理において、注目画素の入力画素値Nそのものを利用することも可能であるが、この場合、注目画素にノイズが含まれていると、処理画像が破綻することがあるからである。即ち、処理画像の破綻を防止するためである。
平均値算出部93には、注目画素から見て左側に連続して配置されるn/2-1個の画素の各入力画素値が供給される。そこで、平均値算出部93は、注目画素の左隣画素から左方向に順番に、移動速度のほぼ半分の個数k(kは、約v/2)の画素を選択して、選択したk個の画素の各入力画素値を含む範囲を算出範囲として決定する。そして、平均値算出部93は、供給されたn/2-1個の入力画素値のうちの、算出範囲に含まれるk個の入力画素値の平均値La(以下、左方画素の平均画素値Laと称する)を算出し、補正量決定部95に供給する。
一方、平均値算出部94には、注目画素から見て右側に連続して配置されるn/2-1個の画素の各入力画素値が供給される。そこで、平均値算出部94は、注目画素の右隣画素から右方向に順番にk個の画素を選択して、選択したk個の画素の各入力画素値を含む範囲を算出範囲として決定する。そして、平均値算出部94は、供給されたn/2-1個の入力画素値のうちの、算出範囲に含まれるk個の入力画素値の平均値Ra(以下、右方画素の平均画素値Raと称する)を算出し、補正量決定部95に供給する。
詳細については後述するが、左方画素の平均画素値Laと右方画素の平均画素値Raとはいずれも、調整量決定処理や、補正量の候補を決定するための処理(以下、候補決定処理と称する)に利用される。
即ち、上述した特開2000−324364号公報等に開示されている従来のLTIにおいては、注目画素から左方向に所定の距離だけ離間した1つの画素(以下、左方画素と称する)の入力画素値と、注目画素の入力画素値との差分値が、補正量の第1の候補に決定されていた。また、注目画素から右方向に所定の距離だけ離間した1つの画素(以下、右方画素と称する)の入力画素値と、注目画素の入力画素値との差分値が、補正量の第2の候補に決定されていた。そして、第1の候補と第2の候補のうちの何れか一方が、特に調整されずにそのまま補正量として決定されていた。このため、従来のLTIでは、左方画素や右方画素の入力画素値にノイズが含まれていると、補正量(その2つの候補)を適切に決定できないという課題があった。
そこで、この課題を解決すべく、即ち、補正量の候補を適切に決定できるように、本実施の形態の候補決定処理では、左方画素や右方画素といった1つの画素の入力画素値が単に利用されるのではなく、左方画素の平均画素値Laと右方画素の平均画素値Raとが利用されるのである。
ただし、算出範囲に含まれる各入力画素値の変化方向が一定で無い場合、即ち、増加後減少したり、逆に、減少後増加しているような場合がある。換言すると、横方向の画素位置が横軸とされ、画素値が縦軸とされた平面(例えば、後述する図25の平面)上において、算出範囲に含まれる各入力画素値を示す点(後述する図25の点131乃至134等)を結んだ線の傾きの極性が反転してしまう場合がある。このような場合、算出範囲に含まれる各入力画素値の単純な平均値を、左方画素の平均画素値Laまたは右方画素の平均画素値Raとして採用しても、補正量(候補)を適切に決定できないおそれが生じる、という新たな課題が発生してしまう。
そこで、この新たな課題を解決すべく、本実施の形態ではさらに、平均値算出部93と平均値算出部94とは何れも、算出範囲に含まれる各入力画素値のうちの極性反転後の第1の点が示す入力画素値βを、極性反転前の第2の点が示す入力画素値αを用いる次の式(5)の右辺を演算することで、画素値γに更新し、第1の点が示す画素の入力画素値は更新後の画素値γであるとみなして、左方画素の平均画素値Laまたは右方画素の平均画素値Raを算出するのである。
γ = α − H×f(H) ・・・(5)
式(5)において、Hは、図25に示されるように、極性反転前の第2の点(同図中点133)の画素値αと極性反転後の第1の点(同図中点134)の画素値βとの差分値(=α−β)を示している。
即ち、図25は、注目画素131を含む水平方向に連続して並ぶ12個の画素の画素値の一例を示している。図25において、横軸は「横方向の画素位置」とされ、縦軸は「画素値」とされている。図25の例では、平均値算出部94の算出範囲、即ち、右方画素の平均画素値Raの算出範囲は、注目画素を示す点131の右方の3個の点132乃至133が示す画素値α,α,βを含む範囲Dとされている。
図25の例では、点133から点134にかけて傾きの極性が判定していることがわかる。即ち、点134が極性反転後の第1の点であり、点133が極性判定前の第2の点である。従って、図25の例では、平均値算出部94は、点133が示す入力画素値α、および、その入力画素値αと点134が示す入力画素値βとの差分値H(=α―β)とを、式(5)の右辺に代入して演算することで、点134が示す入力画素値を画素値βから画素値γに変更する。そして、平均値算出部94は、算出範囲Dのうちの、点134が示す画素の入力画素値としては更新後の画素値γを利用し、それ以外の点132と点133との各入力画素値としては元の画素値αをそのまま利用して、右方画素の平均画素値Raを算出することになる。即ち、Ra=(α+α+γ)/3が演算されることになる。
本実施の形態では、このような式(5)の右辺の演算において、関数f(H)として、図26の線141のような特性を有する関数が利用される。
図26に示されるように、極性反転前の画素値αと極性反転後の画素値βとの差分値Hが値H2以上である場合には、関数f(H)の出力は0となる。また、差分値Hが大きいことは、極性反転後の傾きが急峻であることを意味している。従って、極性反転後の傾きが一定以上急峻である場合、即ち、差分値Hが値H2以上である場合には、式(5)より更新後の画素値γは、画素値αになる。即ち、図25に示されるように、極性反転後の傾きが一定以上急峻である場合には、極性反転後の点134が示す画素の入力画素値としては画素値βの代わりに画素値αが利用されて、算出範囲Dにおける右方画素の平均画素値Raが算出されるのである。即ち、Ra=(α+α+α)/3=αが演算されて、右方画素の平均画素値Raは画素値αであると決定されることになる。
これに対して、図26に示されるように、極性反転前の画素値αと極性反転後の画素値βとの差分値Hが値H1以下であるときには、関数f(H)の出力は1となる。また、差分値Hが小さいことは、極性反転後の傾きが緩やかであることを意味している。従って、極性反転後の傾きが一定以上緩やかである場合、即ち、差分値Hが値H1以下である場合には、式(5)より更新後の画素値γは、画素値βのままになる。即ち、極性反転後の傾きが一定以上緩やかな場合には、図示はしないが、極性反転後の点134が示す入力画素値としては画素値βがそのまま利用されて、算出範囲Dにおける右方画素の平均画素値Raが算出されるのである。即ち、Ra=(α+α+β)/3が演算されて、右方画素の平均画素値Raは画素値{(α+α+β)/3}であると決定されることになる。
なお、極性反転後の傾きが一定以上緩やかなときには、極性反転後の点134が示す画素値は更新されずに元の画素値βがそのまま利用されるのは、次の理由からである。即ち、極性反転後の傾きが一定以上緩やかな場合とは、ノイズのために極性反転が起きた可能性が大であると言え、このよう場合には、各入力画素値を更新してから平均を取るよりも、そのまま平均をとった方が、ノイズが除去された適切な右方画素の平均画素値Raが得られることになる、という理由からである。
以上、図25の具体例を用いて右方画素の平均画素値Raを算出する場合について説明したが、その他の場合、例えば左方画素の平均画素値Laを算出する場合にも、極性反転後の点が示す画素の入力画素値は、上の式(5)に従って全く同様に、画素値βから画素値γに更新されることになる。
図24に戻り、以上説明した平均値算出部92乃至94のそれぞれにおいて、平均値を求める場合に利用するタップの個数(画素値の数)は、上述した例では固定されていたが、その他例えば、撮像ボケ特性検出部12の出力信号のうちの注目画素における移動速度に応じて可変してもよい。具体的には例えば、移動速度が大きくなるに従ってタップの個数も多くするように(即ち、平均する幅を広げるように)可変してもよい。このように移動速度に応じた個数のタップを利用した平均値算出部92乃至94のそれぞれの結果が、後述する補正量決定部95により利用されることで、より一段と精度の高い補正、即ち、より一段と撮像ボケを抑制することが可能な補正を行うための補正量を決定することが可能となる。
補正量決定部95は、DL部91−(n/2)からの注目画素の入力画素値N、平均値算出部92からの注目画素の平均画素値Na、平均値算出部93からの左方画素の平均画素値La、および、平均値算出部94からの右方画素の平均画素値Raを利用して、補正量ADDを決定して加算部96に供給する。
加算部96は、DL部91−(n/2)からの注目画素の入力画素値Nに対して、補正量決定部95からの補正量ADDを加算し、その加算結果を注目画素の出力画素値として、即ち、注目画素の補正後の画素値として、ALTI部82の外部の加算部82に供給する。
ここで、補正量決定部95の詳細な機能的構成例を説明する前に、図27のフローチャートを参照して、ALTI部81の処理について説明する。
ステップS21において、ALTI部81は、注目画素を設定する。
ステップS22において、ALTI部81のDL部乃91−1乃至91−nは、注目画素の入力画素値Nを中心に、その前後の入力画素値をn個取得する。
ステップS23において、ALTI部81の平均値算出部92は、上述したように、注目画素の平均画素値Naを算出して、補正量決定部95に供給する。
ステップS24において、ALTI部82の平均値算出部93は、上述したように、左方画素の平均画素値Laを算出して、補正量決定部95に供給する。
ステップS25において、ALTI部82の平均値算出部94は、上述したように、右方画素の平均画素値Raを算出して、補正量決定部95に供給する。
なお、図24から明らかなように、平均値算出部92乃至94のそれぞれは、他とは独立して処理を実行する。従って、ステップS23乃至S25の処理の順番は、図27の例に限定されず任意の順番でよい。即ち、実際には、ステップS23乃至S25のそれぞれの処理は、他とは独立して並行して実行される。
ステップS26において、ALTI部82の補正量決定部95は、DL部91−(n/2)からの注目画素の入力画素値N、平均値算出部93からの左方画素の平均画素値La、および、平均値算出部94からの右方画素の平均画素値Raを利用して、補正量の2つの候補ADDL,ADDRを決定する。即ち、ステップS26の処理とは、上述した候補決定処理をいう。補正量の候補ADDL,ADDRとは、後述する減算部101と減算部102とのそれぞれの出力信号をいう。なお、ステップS26の候補決定処理や、補正量の候補ADDL,ADDRの詳細な説明については後述する。
ステップS27において、補正量決定部95は、平均値算出部92からの注目画素の平均画素値Na、平均値算出部93からの左方画素の平均画素値La、および、平均値算出部94からの右方画素の平均画素値Raを利用して、調整量cを決定する。即ち、ステップS27の処理とは、上述した調整量決定処理をいう。調整量cとは、後述する調整量算出部109の出力信号をいう。なお、ステップS27の調整量決定処理や調整量cの詳細な説明については後述する。
なお、詳細については後述するが、実際には、ステップS26とS27のそれぞれの処理は、他とは独立して並行して実行される。即ち、ステップS26とS27との処理の順番は、図27の例に限定されず任意の順番でよい。
ステップS28において、補正量決定部95は、調整量cを用いて候補ADDL,ADDRのそれぞれの値を調整する。以下、かかるステップS28の処理を調整処理と称する。調整処理の詳細については後述する。
ステップS29において、補正量決定部95は、調整量cにより値が調整された候補ADDL,ADDRと、0との中から所定の1つを、所定の判別条件に従って補正量ADDとして決定し(選抜し)、加算部96に供給する。以下、かかるステップS29の処理を補正量選抜処理と称する。補正量選抜処理の詳細(判別条件等含む)については後述する。
ステップS30において、ALTI部81の加算部96は、注目画素の入力画素値Nに対して補正量ADDを加算し、その加算値を、注目画素の出力画素値として外部の加算部82に出力する。
ステップS31において、ALTI部81は、全ての画素について処理が終了したか否かを判定する。
ステップS31において、全ての画素について処理がまだ終了していないと判定された場合、処理はステップS21に戻され、それ以降の処理が繰り返される。即ち、今度は、別の画素が注目画素に設定されて、その注目画素の入力画素値Nに対して補正量ADDが加算され、その加算値が、注目画素の出力画素値として外部の加算部82に出力される。なお、当然ながら、画素値Nと補正量ADDとのそれぞれは、各画素毎に異なる値になることが多い。
このようにして、全ての画素が注目画素に設定され、その都度、上述したステップS21乃至S31のループ処理が繰り返し実行されると、ステップS31において、全ての画素について処理が終了したと判定されて、ALTI部81の処理は終了になる。
なお、ALTI部81は、図13の撮像ボケ抑制処理部13の一構成要素であるので、上述した図27のALTI部81の処理は、上述した図15のステップS4の処理の一部として実行されることになる。
以上説明したように、補正量決定部95は、ステップS26乃至S29の処理を実行する。そこで、以下、図24に戻って、補正量決定部95の詳細な機能的構成例を説明しつつ、ステップS26乃至S29の処理の詳細についても併せて説明していく。
図24に示されるように、補正量決定部95には、加算部101と加算部102とが、上述した図27のステップS26の候補決定処理を実行するために設けられている。換言すると、減算部101と減算部102とから構成される候補決定部121が、ステップS26の候補決定処理を実行する。
減算部101は、平均値算出部93からの左方画素の平均画素値Laと、DL部91−(n/2)からの注目画素の入力画素値Nとの差分値(=La―N)を算出し、その差分値を補正量の候補ADDLとして、乗算部110に供給する。
なお、後述するように、この補正量の候補ADDLが調整されずに(調整量c=1が乗算されて)そのまま補正量ADDとして決定された場合には、加算部96において、注目画素の入力画素値Nに対してこの補正量ADD(=La−N)が加算され、その加算値(=La)が外部に出力されることになる。即ち、この補正量の候補ADDL(=La―N)がそのまま補正量ADDとして利用された場合には、注目画素の画素値は、元の画素値Nから、左方画素の平均画素値Laに補正される(置き換えられる)ことになる。
減算部102は、平均値算出部94からの右方画素の平均画素値Raと、DL部91−(n/2)からの注目画素の入力画素値Nとの差分値(=Ra―N)を算出し、その差分値を補正量の候補ADDRとして、乗算部111に供給する。
なお、後述するように、この補正量の候補ADDRが調整されずに(調整量c=1が乗算されて)そのまま補正量ADDとして決定された場合には、加算部96において、注目画素の入力画素値Nに対してこの補正量ADD(=Ra−N)が加算され、その加算値(=Ra)が外部に出力されることになる。即ち、この補正量の候補ADDR(=Ra―N)がそのまま補正量ADDとして利用された場合には、注目画素の画素値は、元の画素値Nから、右方画素の平均画素値Raに補正される(置き換えられる)ことになる。
また、図24に示されるように、補正量決定部95には、減算部103乃至調整量算出部109が、上述した図27のステップS27の調整量決定処理を実行するために設けられている。換言すると、減算部103乃至調整量決定部109から構成される調整量決定部122が、ステップS27の調整量決定処理を実行する。
減算部103は、平均値算出部92からの注目画素の平均画素値Naと、平均値算出部93からの左方画素の平均画素値Laとの差分値(=Na−La)を算出し、その差分値を加算部105に供給する。
減算部104は、平均値算出部92からの注目画素の平均画素値Naと、平均値算出部94からの右方画素の平均画素値Raとの差分値(=Na−Ra)を算出し、その差分値を加算部105に供給する。
加算部105は、減算部103と減算部104とのそれぞれの出力信号の和を算出し、その算出結果をABS部106に出力する。
ABS部106は、加算部105の出力信号の絶対値bを算出し、その絶対値bを除算部108に供給する。
換言すると、画素値が縦軸とされて横方向の画素位置が横軸とされた平面上において、左方画素の平均画素値Laを示す第1の点、注目画素の平均画素値Naを示す第2の点、および右方画素の平均画素値Raを示す第3の点をその順番で結ぶ線の第2の点における2次微分値が、減算部103、減算部104、および加算部105により演算される。そして、その2次微分値の絶対値bがABS部106により演算されて、除算部108に供給される。従って、以下、ABS部106から出力される絶対値bを、2次微分絶対値bと称する。
2次微分絶対値bは、先の平面において、左方画素の平均画素値Laを示す第1の点と右方画素の平均画素値Raを示す第3の点とを結ぶ直線を境界線とした場合に、注目画素の平均画素値Naを示す第2の点は境界線から縦軸方向にどの程度離間しているのかを示す値である。
そこで、補正量決定部95が、2次微分絶対値bの大きさに応じて、補正量の候補ADDL,ADDRの値をそれぞれ調整し、調整後の候補ADDL,ADDRのうちの何れか一方を補正量ADDとして決定するようにすれば、即ち、加算部96が、注目画素の入力画素値Nと、2次微分絶対値bの大きさに応じて調整された補正量ADDとの加算値を注目画素の出力画素値として出力するようにすれば、その加算部96の出力信号(処理対象のフレーム)のうちのエッジ部分をソフトに立たせることが可能になる。
ただし、2次微分絶対値bが同一の大きさであったとしても、左方画素の平均画素値Laと右方画素の平均画素値Raとの差分の絶対値h、即ち、先の平面における縦軸方向の第1の点と第3の点との間の距離h(以下、高さhと称する)が異なると、2次微分絶対値bの大きさの意味合いも自ずと変わってくる。即ち、2次微分絶対値bが同一の大きさであっても、その大きさが高さhに比較して遥かに小さい場合には、換言すると、2次微分値bを高さhで除算した除算値(=b/h)が小さい場合には、注目画素近傍でノイズが発生している可能性が高いと判断できる。これに対して、2次微分絶対値bが同一の大きさであっても、その大きさが高さhに比較してさほど小さくない場合には、換言すると、上述した除算値(=b/h)がある程度の大きさ以上である場合には、注目画素近傍でノイズが発生している可能性は低いと判断できる。
従って、2次微分絶対値bの単なる大きさに応じて、候補値ADDL,ADDRの値が調整されてしてしまうと、注目画素の入力画素値Nの補正量ADDは、ノイズが発生している場合でも発生していない場合でも同一の値となってしまい、注目画素の入力画素値Nの適切な補正ができなくなる、という新たな課題が生じてしまう。
そこで、この新たな課題を解決すべく、本実施の形態の補正量決定部95の調整量決定部122には、上述した減算部103乃至ABS部106に加えてさらに、差分絶対値算出部107、除算部(b/h演算部)108、および、調整量算出部109が設けられているのである。
差分絶対値算出部107は、平均値算出部93からの左方画素の平均画素値Laと、平均値算出部94からの右方画素の平均画素値Raとの差分値を算出し、さらに、その差分値の絶対値h(h=|La−Na|)、即ち上述した高さhを算出し、その高さhを除算部108に供給する。
除算部108は、ABS部106からの2次微分絶対値bを、差分絶対値算出部107からの高さhで除算し、その除算値(=b/h)を調整量算出部109に提供する。即ち、この除算値(=b/h)とは、2次微分絶対値bが高さhにより正規化された値であるといえる。従って、以下、この除算値(=b/h)を、2次微分正規化値(=b/h)と称する。
調整量算出部109は、除算部108からの2次微分正規化値(=b/h)に基づいて、候補ADDL,ADDRについての調整量cを算出し、乗算部110と乗算部111とに供給する。
詳細には例えば、調整量算出部109は、図28の曲線151で示される特性の関数を保持しており、除算部108からの2次微分正規化値(=b/h)を入力パラメータとしてその関数に代入して、その関数の出力(図28の出力)を調整量cとして乗算部110と乗算部111とに供給する。
即ち、図28の曲線151の形状から容易にわかることであるが、2次微分正規化値(=b/h)がある一定値b1よりも小さい場合には、ノイズの可能性が大であるとして、調整量c(出力)は0になる。この場合、後述するように、候補ADDL,ADDRは、調整量cとして0がそれぞれ乗算されて調整されることになるので、調整後の候補ADDL,ADDRは何れも0になる。従って、補正量ADDも0になり、注目画素の入力画素値Nは補正されないことになる。
また、2次微分正規化値(=b/h)がその一定値b1を超えて大きくなっていくと、調整量c(出力)も徐々に大きくなっていく。この場合、後述するように、候補ADDL,ADDRのそれぞれは、1未満の調整量cがそれぞれ乗算されて調整されることになるので、調整後の候補ADDL,ADDRは何れも元の値より小さくなる。従って、補正量ADDは、元の値より小さくなった候補ADDL,ADDRのうちの何れか一方になり、注目画素の補正後の画素値は、左方画素の平均画素値Laよりも大きくなるか、或いは、右方画素の平均画素値Raよりも小さくなる。
さらに、2次微分正規化値(=b/h)がある一定値b2以上になると、それ以降、調整量c(出力)は1になる。この場合、後述するように、候補ADDL,ADDRのそれぞれは、調整量cとして1がそれぞれ乗算されて調整されることになるので、調整後の候補ADDL,ADDRは何れも元の値のままになる(即ち、調整されない)。従って、補正量ADDは、元の値のままの候補ADDL,ADDRのうちの何れか一方になり、上述したように、注目画素の補正後の画素値は、左方画素の平均画素値Laになるか、或いは、右方画素の平均画素値Raになる。
このように、本実施の形態では、2次微分正規化値(=b/h)をパラメータとして入力する、図28の線151で示される特性の関数を利用して調整量cが決定されるので、その調整量cを用いて補正量ADDを調整することで(正確には、補正量の候補ADDL,ADDRを調整することで)、加算部96の出力信号(処理対象のフレーム)のうちのエッジ部分をソフトに立たせることが可能になる。即ち、従来のLTIでは、ハードスイッチでの切り替え(画素値の単なる置き換え)により注目画素の画素値が補正されていたために、その出力信号のうちのエッジ部分をソフトに立たせることができないという課題があったが、本実施の形態のALTI部81を採用することで、この課題を解決することが可能になる。
図24に戻り、補正量決定部95の詳細な説明を引き続き行う。即ち、補正量決定部95には、乗算部110と乗算部111とが、上述した図27のステップS28の調整処理を実行するために設けられている。換言すると、乗算部101と乗算部111とから構成される調整部123が、ステップS28の調整処理を実行する。
乗算部110は、減算部101からの候補ADDLに対して、調整量算出部109からの補正量cを乗算し、その乗算値を、調整後の候補ADDLとして判別部113に供給する。
乗算部111は、減算部102からの候補ADDRに対して、調整量算出部109からの補正量cを乗算し、その乗算値を、調整後の候補ADDRとして判別部113に供給する。
また、補正量決定部95には、固定値発生部112と判別部113とが、上述した図27のステップS29の補正量選抜処理を実行するために設けられている。換言すると、固定値発生部112と判別部113とから構成される補正量選抜部124が、ステップS29の補正量選抜処理を実行する。
本実施の形態では、固定値発生部112は、図24に示されるように「0」を常時発生して、判別部113に供給する。
判別部113には、減算部103、減算部104、加算部105、乗算部110、乗算部111、および固定値発生部112の各出力信号が供給される。そこで、判別部113は、減算部103、減算部104、および加算部105の出力信号を利用する所定の選抜条件に基づいて、固定値発生部112からの「0」、乗算部110からの補正後の候補ADDL、および、乗算部111からの補正後の候補ADDRのうちの所定の1つを、補正量ADDとして選抜し(決定し)、加算部96に供給する。
具体的には例えば、画素値が縦軸とされ横方向の画素位置が横軸とされた上述した平面上において、左方画素の平均画素値Laを示す第1の点と右方画素の平均画素値Raを示す第3の点とを結ぶ直線が境界線とされて、その境界線の変化方向が上向きであって、注目画素の平均画素値Naを示す第2の点が境界線よりも上側に配置されている場合、補正後の候補ADDRを補正量ADDとして選抜することが、本実施の形態の選抜条件として規定されているとする。これに対して、境界線の変化方向が上向きであって、第2の点が境界線よりも下側に配置されている場合、補正後の候補ADDLを補正量ADDとして選抜することが、本実施の形態の選抜条件として規定されているとする。
この場合、判別部113は、減算部103、減算部104、および加算部105の出力信号に基づいて、境界線の変化方向や、境界線と第2の点との位置関係を認識することができる。
そこで例えば、判別部113は、減算部103、減算部104、および加算部105の出力信号に基づいて、境界線の変化方向が上向きであって、第2の点が境界線よりも上側に配置されていると認識した場合には、乗算部111からの補正後の候補ADDRを、補正量ADDとして選抜し(決定し)、加算部96に供給する。
これに対して例えば、判別部113は、減算部103、減算部104、および加算部105の出力信号に基づいて、境界線の変化方向が上向きであって、第2の点が境界線よりも下側に配置されていると認識した場合には、乗算部110からの補正後の候補ADDLを、補正量ADDとして選抜し(決定し)、加算部96に供給する。
また例えば、注目画素がエッジ部分以外の場所に位置している場合、0を補正量ADDとして選抜することが、本実施の形態の選抜条件として規定されているとする。この場合、判別部113は、例えば、判別部113は、減算部103、減算部104、および加算部105の出力信号の何れもが略0であることを認識したとき、即ち、左方画素の平均画素値La、注目画素の入力画素値N、および、右方画素の平均画素値Rcがほぼ同一値のとき等、注目画素がエッジ部分以外の場所に位置すると認識して、固定値発生部112からの「0」を、補正量ADDとして選抜して(決定して)、加算部96に供給する。
以上、ALTI部81の実施の形態として、図24の機能的構成のALTI部81について説明したが、ALTI部81の機能的構成は、上述した一連の処理と等価な処理を実行可能であれば、何れの機能的構成でもよい。具体的には例えば、ALTI部81は、図29に示される機能的構成を有するようにしてもよい。即ち、図29は、ALTI部81の図24とは異なる詳細な機能的構成例を示している。
図29の例では、ALTI部81は、マスキング信号生成部161、LTI処理部162、および、平均化部163により構成されている。
マスキング信号生成部161は、フィルタ部22の出力信号を、自分自身の入力信号として、その入力信号のうちの処理対象のフレームを構成する各画素のそれぞれを注目画素として順次設定する。マスキング信号生成部161は、注目画素から移動速度の半分に相当する画素数分を注目画素の左右にサーチさせ、移動速度に相当する画素数分の画素値を示す各信号に対してマスキング処理を施す。なお、注目画素における移動速度は、上述したように、撮像ボケ特性検出部12から供給される。マスキングされた各信号は、マスキング信号生成部161からLTI処理部162に供給される。
LTI処理部162は、マスキングされた各信号に対してLTI処理を施して、その結果得られる信号を出力信号として平均化部163に供給する。
平均化部163は、LTI処理部162の出力信号のうちの、マスキング信号生成部161によるサーチ回数と同一数分の信号の平均を取り、その結果得られる信号をALTI部81の出力信号として、外部の加算部82に供給する。
以上、図24乃至図29を参照して、図23の撮像ボケ補償部23のうちのALTI部81の詳細について説明した。
次に、図30と図31とを参照して、図23の撮像ボケ補償部23のうちのゲイン制御部83の詳細について説明する。
図30は、ゲイン制御部83の詳細な機能的構成例を示している。図31は、図30のゲイン制御部83のうちの後述する調整量決定部171の特性を示している。
図30の例では、ゲイン制御部83は、調整量決定部171、および、乗算部172により構成されている。
調整量決定部171は、図31の曲線181で示される関数を保持しており、撮像ボケ特性検出部12から供給された注目画素における移動速度を入力パラメータとしてその関数に代入して、その関数の出力(図31の出力)を調整量として乗算部172に供給する。換言すると、調整量決定部171は、図31の曲線181で示される特性を有している。
乗算部172には、調整量決定部171からの調整量の他、加算部82の出力信号も供給される。加算部82の出力信号は、上述した図23の機能的構成から明らかなように、加算部84において、撮像ボケ補償部23にとっての注目画素の入力画素値に対して加算される最終的な補正量の候補である。即ち、乗算部172は、この最終的な補正量の候補に対して、調整量決定部171からの調整量を乗算し、その乗算値を、最終的な調整量として加算部84に供給する。
即ち、図31の線181の形状と撮像ボケ補償部23の図23の機能的構成とから容易にわかることであるが、ゲイン制御部83は、移動速度が小さい時にALTI部81の処理結果(以下、ALTIと称する)が注目画素の画素値の最終的な補正量に余り影響を及ぼさないようにコントロールしている。移動速度が小さい時には撮像ボケによるゲインの劣化が少なく、減衰したゲインを図17や図20のフィルタ部22で持ち上げるだけでよいからである。即ち、フィルタ部22の出力信号を、それに対してあまり補正を加えずにそのまま、撮像ボケ補償部23の最終的な出力信号として出力されればよいからである。
以上、図17乃至図31を参照して、図13の映像信号処理装置4Bのうちの撮像ボケ抑制処理部13の一例について説明した。
ただし、撮像ボケ抑制処理部13の機能的構成は、上述した図17の例に限定されず、様々な実施の形態を取ることが可能である。具体的には例えば、図32と図33とは、本発明が適用される撮像ボケ抑制処理部13の機能的構成例であって、図17の例とは異なる2つの例のそれぞれを示している。
図32の例では、撮像ボケ抑制処理部13は、図17の例と同様に、高成分除去部21、フィルタ部22、および、撮像ボケ補償部23により構成されている。
図32の例でも、図17の例と同様に、補間部45の出力信号は、撮像ボケ抑制処理部13にとっての入力信号として、高域成分除去部21に供給される。また、撮像ボケ特性検出部12の出力信号は、フィルタ部22と撮像ボケ補償部23とのそれぞれに供給される。
ただし、図32の例では、高域成分除去部21の出力信号は撮像ボケ補償部23に供給される。撮像ボケ補償部23の出力信号はフィルタ部22に供給される。フィルタ部22の出力信号が、撮像ボケ抑制処理部13の最終的な処理結果を示す出力信号として外部に出力される。
換言すると、図32の例では、フィルタ部22と撮像ボケ補償部23との配置位置が、図17の例の配置位置と逆になっている。即ち、フィルタ部22と撮像ボケ補償部23との配置位置の順番(処理の順番)は、特に限定されず、何れが先になってもよい。
また、図33の例では、図17や図32の例と同様に、撮像ボケ抑制処理部13には、高成分除去部21、フィルタ部22、および、撮像ボケ補償部23が設けられており、さらにそれらの機能ブロックに加えて、加算部24も設けられている。
図33の例でも、図17や図32の例と同様に、補間部45の出力信号は、撮像ボケ抑制処理部13にとっての入力信号として、高域成分除去部21に供給される。また、撮像ボケ特性検出部12の出力信号は、フィルタ部22と撮像ボケ補償部23とのそれぞれに供給される。
ただし、図33の例では、高域成分除去部21の出力信号は、フィルタ部22と撮像ボケ補償部23とのそれぞれに供給される。フィルタ部22と撮像ボケ補償部23とのそれぞれの出力信号は加算部24に供給される。加算部24は、フィルタ部22の出力信号と撮像ボケ補償部23の出力信号との加算を取り、その結果得られる加算信号を、撮像ボケ抑制処理部13の最終的な処理結果を示す出力信号として外部に出力する。
換言すると、フィルタ部22と撮像ボケ補償部23との配置位置は、図17や図32の例では直列配置とされていたが図33の例では並列配置とされている。即ち、フィルタ部22と撮像ボケ補償部23との配置は、直列配置でもよいし並列配置でもよい。ただし、フィルタ部22と撮像ボケ補償部23との両者が仮にラインメモリを使用する場合には、図33の例のようにフィルタ部22と撮像ボケ補償部23とを並列配置にすることで、ラインメモリを共有できることになり、その結果、回路規模(ラインメモリ分)を削減できる、という効果を奏することが可能になる。
以上説明したように、撮像時における動物体のボケ(撮像ボケ)を画像処理により改善する際に、従来技術では静止状態やボケ量の度合いに関わらず一様に処理をしていた。これに対して、本発明においては、例えば上述した撮像ボケ抑制処理部13を利用することで、移動ベクトル(移動速度)を算出し動画像の状態に応じてエンハンス量を変えるため、リンギングを発生させずに、ボケを改善することができる。また、従来のLTIではハードスイッチで信号を切り替えていたために処理画像の破綻が多かったが、上述した撮像ボケ抑制処理部13は、ALTI部81をその構成要素として有しているので、ソフトに信号を切り替えることができ、その結果、処理画像の破綻を抑制することができる。
なお、上述した例では、説明の簡略上、移動ベクトルの方向(移動方向)が横方向とされたが、移動方向がその他の方向であっても、撮像ボケ抑制処理部13は、上述した一連の処理と基本的に同様の処理を行うことができる。即ち、撮像ボケ抑制処理部13は、移動方向がいずれの場合であっても、撮像ボケを抑制するように、注目画素の画素値を同様に補正することができる。具体的には例えば、図24の機能的構成のALTI部81については、注目画素を中心にして、移動方向(例えば縦方向)に連続して並ぶn個の画素の各画素値を、その配置順番で順次DL部91−1に入力させていくだけでよい。その他の機能ブロックについても同様である。
ところで、撮像ボケ抑制処理部13は、各画素値の補正を行う際、上述した例では、移動速度(移動ベクトルの絶対値)をパラメータとして使用したが、この移動速度の他、撮像ボケの特性を示すパラメータであれば任意のパラメータを使用することができる。
具体的には例えば、撮像ボケ抑制処理部13は、撮像ボケの特性を示すパラメータとして、処理対象の動画像を撮影した時点のカメラのシャッタ速度を利用することができる。なぜならば、例えば図34に示されるように、シャッタ速度が違うと同図中の時間Ts分だけ撮像ボケの度合いも異なるからである。
即ち、図34において、上側の図は、シャッタ速度がフレーム速度と同一の1/30秒である場合の図を示しており、下側の図は、シャッタ速度がフレーム速度よりも早い(1/30-Ts)秒である場合の図を示している。図34の両図とも、横軸は時間軸を表しており、縦軸はシャッタ開口時間の割合を表している。シャッタ開口時間の割合とは、例えば、シャッタ速度をVa[秒](Vaは、0以上の任意の値)とし、シャッタが開口された第1の時刻の割合を0%とし、第1の時刻からV[秒]が経過してシャッタが閉じる第2の時刻の割合を100%とし、かつ、第1の時刻から現時刻までの時間Ta[秒](Taは、0以上V以下の任意の正値)とした場合に、(Ts/Vs)×100[%]で示される割合である。この場合、図23の両図の縦軸において、時間軸と接する値が100[%]になり、最大値(各直線の最上位の値)が0[%]になる。即ち、図34の両図の縦軸においては、下方にいく程、シャッタ開口時間の割合は大きくなっていくのである。
例えばいま、カメラの1つの検出素子が、フレーム内の1つの画素に対応しているとする。この場合、図34の上側の図に示されるように、シャッタ速度が1/30秒であるときには、カメラの1つの検出素子からは、シャッタが開口している1/30秒間に入射された光の積分値が、対応する画素の画素値として出力される。これに対して、シャッタ速度が(1/30-Ts)秒である場合には、カメラの1つの検出素子からは、シャッタが開口している(1/30-Ts)秒間に入射された光の積分値が、対応する画素の画素値として出力される。
即ち、シャッタ速度は、検出素子における光の蓄積時間(露光時間)に対応している。従って、例えば、実空間において所定の検出素子の前を横切って移動するオブジェクトが存在する場合、シャッタ速度が(1/30-Ts)秒のときよりも1/30秒のときの方が、その検出素子には、オブジェクトに対応する光とは異なる光、例えば、背景の光が時間Ts[秒]分だけ多く入射されてしまうことになる。これにより、シャッタ速度が(1/30-Ts)秒のときよりも1/30秒のときの方が、1つの検出素子から出力される画素値の中に、オブジェクトとは異なる背景等の光の蓄積値が混合される割合が多くなってしまう。その結果、撮像ボケの度合いが大きくなってしまう。
以上の内容をまとめると、シャッタ速度が遅くなればなるほど、撮像ボケの度合いが大きくなる。即ち、シャッタ速度は、撮像ボケの一特性を示していると言える。従って、シャッタ速度も、移動速度と同様に、撮像ボケの特性を示すパラメータとして利用することが可能である。
なお、このようなシャッタ速度が、撮像ボケの特性を示すパラメータとして利用される場合には、図13の撮像ボケ特性検出部12は、例えば、補間部45から供給された動画像(データ)に付加されているヘッダ情報などを解析することで、各フレームのシャッタ速度を検出し、それらを撮像ボケの特性を示すパラメータとして、撮像ボケ抑制処理部13に供給することができる。撮像ボケ抑制処理部13は、例えば、移動速度の代わりにこのシャッタ速度を利用して上述した一連の処理を実行することで、各画素値を適切に補正することができる。このシャッタ速度を利用する場合の撮像ボケ抑制処理部13の機能的構成は、移動速度を利用する場合のそれと基本的に同様とすることができる。即ち、上述した図17乃至図31で説明した撮像ボケ抑制処理部13であれば、シャッタ速度をパラメータ値として利用して上述した一連の処理を実行することで、各画素値を適切に補正することができる。
以上、本実施の形態の映像信号処理装置の一例として、図13に示される構成を有する映像信号処理装置4Bについて説明したが、本実施の形態の映像信号処理装置は、図13の例に限定されず、その他様々な構成とすることが可能である。
具体的には例えば、図35乃至図38のそれぞれには、本実施の形態の変形例に係る映像信号処理装置の一部分に係るブロック図が示されている。
例えば、図35の映像信号処理装置は、図13の映像信号処理装置4Bと同様に、補間部45、撮像ボケ特性検出部12、および、撮像ボケ抑制処理部13から構成される。
ただし、図35の映像信号処理装置においては、撮像ボケ抑制処理部13の補正処理の対象は、この映像信号処理装置の入力動画像、即ち、補間部45により高フレームレート変換処理が施される前の動画像である。このため、撮像ボケ特性検出部12も、補間部45により高フレームレート変換処理が施される前の動画像の中から、撮像ボケの特性を示すパラメータの値を検出し、その検出結果を撮像ボケ抑制処理部13に供給している。
従って、図35の映像信号処理装置の画像処理は、図15の画像処理のうちの、ステップS1、S3、S4、S2、およびS5のそれぞれの処理がその順番で実行される処理となる。
また、例えば、図36の映像信号処理装置は、図13の映像信号処理装置4Bや図35の映像信号処理装置と同様に、補間部45、撮像ボケ特性検出部12、および、撮像ボケ抑制処理部13から構成される。
この図36の映像信号処理装置においては、撮像ボケ抑制処理部13の補正処理の対象は、図13の映像信号処理装置4Bと同様に、入力動画像に対して高フレームレート変換処理が補間部45により施された結果得られる動画像である。即ち、撮像ボケ抑制処理部13は、高フレームレート変換処理が施された後の動画像に対して補正処理を施す。
ただし、図36の映像信号処理装置の撮像ボケ特性検出部12は、入力動画像の中から、即ち、補間部45により高フレームレート変換処理が施される前の動画像の中から、撮像ボケの特性を示すパラメータを検出し、その検出結果を撮像ボケ抑制処理部13に供給している。即ち、図36の映像信号処理装置の撮像ボケ抑制処理部13は、高フレームレート変換処理が施される前の動画像の中から検出されたパラメータの値を利用して、各画素値を補正している。
以上のことから、図36の映像信号処理装置の画像処理も、図15の画像処理と同様の流れで実行される処理、即ち、ステップS1、S2、S3、S4、およびS5のそれぞれの処理がその順番で実行される処理となる。ただし、ステップS3の処理は、「高フレームレート変換処理が施される前の動画像、即ち、ステップS1の処理で入力された動画像を構成する各フレームのそれぞれの中から、撮像ボケの特性を示すパラメータの値を検出する」という処理になる。
このような図35の映像信号処理装置と図36の映像信号処理装置とに対して、図37の映像信号処理装置と図38の映像信号処理装置とは、補間部45と撮像ボケ抑制処理部13とから構成され、撮像ボケ特性検出部12はその構成要素に含んでいない。
即ち、図37と図38に示されるように、撮像ボケ特性検出部12は、他の映像信号処理装置211(以下、図面の記載にあわせて、画像信号生成装置211と称する)内に重畳部221とともに設けられている。この画像信号生成装置211に入力された動画像は、撮像ボケ特性検出部12と重畳部221とに供給される。撮像ボケ特性検出部12は、この動画像の中から、撮像ボケの特性を示すパラメータの値を検出し、重畳部221に供給する。重畳部221は、この動画像に対して、撮像ボケの特性を示すパラメータの値を重畳し、その結果得られる信号を出力する。
従って、図37の映像信号処理装置と図38の映像信号処理装置とには、撮像ボケの特性を示すパラメータの値が重畳された動画像(信号)が画像信号生成装置211から供給されてくる。
そこで、例えば、図37の映像信号処理装置では、撮像ボケ抑制処理部13が、撮像ボケの特性を示すパラメータの値と動画像とを分離して、分離された動画像を構成する各フレームのそれぞれについて、分離された撮像ボケの特性を示すパラメータの値に基づいて各画素値を補正する。
次に、補間部45が、撮像ボケ抑制処理部13により補正された動画像に対して高フレームレート変換処理を施し、その結果得られる動画像、即ち、高フレームレートに変換され、かつ補正がなされた動画像を出力する。
以上のことから、図37の映像信号処理装置の画像処理は、図15の画像処理のうちの、ステップS1、S4、S2、およびS5のそれぞれの処理がその順番で実行される処理となる。
これに対して、例えば、図38の映像信号処理装置では、補間部45が、撮像ボケの特性を示すパラメータの値と動画像とを分離して、分離された動画像に対して高フレームレート変換処理を施し、その結果得られる動画像、即ち、高フレームレートに変換された動画像を撮像ボケ抑制処理部13に供給する。このとき、補間部45により分離された撮像ボケの特性を示すパラメータの値も、撮像ボケ抑制処理部13に供給される。
次に、撮像ボケ抑制処理部13が、高フレームレートに変換された動画像を構成する各フレームのそれぞれについて、撮像ボケの特性を示すパラメータの値に基づいて各画素値を補正し、その結果得られる動画像、即ち、補正がなされ、かつ高フレームレートに変換された動画像を出力する。
ところで、上述した撮像ボケ抑制処理部13についての説明を行う際、説明の簡略上、移動方向(移動ベクトルの方向)は横方向であるとし、それ故、注目画素に対してフィルタや補正等の上述した各種処理を施す場合に利用する画素もまた、注目画素の横方向に隣接する画素が利用された。なお、注目画素の所定の方向に隣接する画素が利用される処理を、その所定の方向の処理と称する。即ち、上述した例では、横方向の処理が対象とされた。
しかしながら、上述したように、移動方向は、2次元平面上の何れの方向ともなり得、撮像ボケ抑制処理部13は、当然ながら、2次元平面上の何れの方向が移動方向になった場合でも、例えば垂直方向になった場合でも、上述した各種処理を全く同様に実行することが可能である。ただし、移動方向が垂直方向の場合の処理(または、移動方向が斜め方向の場合の処理であって、垂直方向の処理と水平方向の処理との組み合わせ処理)を行うためには、撮像ボケ抑制処理部13として、上述した図17の構成の代わりに例えば図39の構成を、上述した図32の構成の代わりに例えば図40の構成を、上述した図33の構成の代わりに例えば図41の構成を、それぞれ採用する必要がある。
即ち、図39乃至図41は、本発明が適用される撮像ボケ抑制処理部13の機能的構成例であって、上述した各例とはさらに異なる3つの例のそれぞれを示している。
図39、図40、および図41のそれぞれにおいて、図17、図32、および図33のそれぞれと対応する部分(ブロック)には対応する符号を付しており、それらの説明については同様の説明となるため、ここでは省略する。
図39の例の撮像ボケ抑制処理部13では、図17例の構成に対して、垂直方向の処理を可能にすべくさらに、フィルタ部22の前段にラインメモリ261−1が設けられ、また、撮像ボケ補償部23の前段にラインメモリ261−2が設けられている。
同様に、図40の例の撮像ボケ抑制処理部13では、図32例の構成に対して、垂直方向の処理を可能にすべくさらに、撮像ボケ補償部23の前段にラインメモリ261−1が設けられ、また、フィルタ部22の前段にラインメモリ261−2が設けられている。
一方、図41の例の撮像ボケ抑制処理部13では、図33例の構成に対して、垂直方向の処理を可能にすべくさらに、撮像ボケ補償部23とフィルタ部22との前段に、共通のラインメモリ261がひとつだけ設けられている。
このように、図41の例の撮像ボケ抑制処理部13を採用することで、図39や図40の構成例のものを採用した場合と比較して、その撮像ボケ抑制という効果を落とすことなく、ラインメモリ数を削減することが可能になる。即ち、撮像ボケ抑制処理部13の構成として、図41の例の構成を採用することで、図39や図40の例の構成を採用した場合と比較して、その回路規模の削減を図ることが可能になり、ひいては図13の映像信号処理装置4Bの回路規模の削減を図ることが可能になる。
なお、本実施の形態では、例えば図42に示した映像信号処理装置4Cのように、デコーダ47から出力される補間位置パラメータRelposを、インポレータ453に加えて撮像ボケ抑制処理部13にも供給するようにしてもよい。このように構成した場合、撮像ボケ抑制処理部13が、補間部45による、各補間フレームにおいて近いほうのオリジナルのフレームの映像寄りの位置に補間位置が設定された度合いに応じて、撮像ボケ抑制処理の際の処理量を変化させることが可能となる。したがって、補間フレームの配置の不均等性(ジャダーの強さ)に応じて撮像ボケの改善度を変化させることができ、表示映像におけるホールドボケの抑制度と撮像ボケの抑制度との微調整を行うことにより、例えば映画等を視聴する際の画質をより向上させることが可能となる。
また、上述の各種実施の形態で実行される高フレームレート変換処理において、入力映像信号の第1のフレームレート(フレーム周波数)と、出力映像信号の第2のフレームレート(フレーム周波数)との組み合わせは、特に限定されず任意の組み合わせで良い。具体的には例えば、入力映像信号の第1のフレームレートとして60(または30)〔Hz〕を採用し、かつ、出力映像信号の第2のフレームレートとして120[Hz]を採用することができる。例えば、入力映像信号の第1のフレームレートとして60(または30)〔Hz〕を採用し、かつ、出力映像信号の第2のフレームレートとして240[Hz]を採用することができる。例えば、入力映像信号の第1のフレームレートとして、PAL(Phase Alternation by Line)方式に対応する50〔Hz〕を採用し、かつ、出力映像信号の第2のフレームレートとして100〔Hz〕や200〔Hz〕を採用することができる。例えば、入力映像信号の第1のフレームレートとして、テレシネに対応する48〔Hz〕を採用し、かつ、出力映像信号の第2のフレームレートとしてそれ以上の所定の周波数を採用することができる。
なお、このような既存のテレビジョン方式等に由来する入力映像信号に対して、上述の各種実施の形態における高フレームレート変換処理を施すことで、既存のコンテンツを高品位に表示することが可能になる。
[第3の実施の形態]
次に、本発明の第3の実施の形態について説明する。
図43は、本実施の形態に係る映像信号処理装置(映像信号処理装置4D)の構成の一例を示している。なお、上記実施の形態における構成要素と同一のものには同一の符号を付し、適宜説明を省略する。
この映像信号処理装置4Dは、第2の実施の形態で説明した映像信号処理装置4Bにおいて、オーバードライブ処理部10をさらに設けると共に、動きベクトル検出部44による動きベクトルmvの検出の際の信頼度(信頼度Reliability)を考慮して、補間部45、撮像ボケ抑制処理部13およびオーバードライブ処理部10における映像信号処理を行うようにしたものである。なお、撮像ボケ特性検出部12においても動きベクトルを検出する場合には、その動きベクトルの検出の際の信頼度を考慮するようにしてもよい。以下、本実施の形態では、撮像ボケ抑制処理部13およびオーバードライブ処理部10が、動きベクトル検出部44により検出された動きベクトルmvを用いて映像信号処理を行う場合について説明する。
オーバードライブ処理部10は、動きベクトル検出部44において検出された動きベクトルmvを用いることにより、撮像ボケ抑制処理部13から供給される映像信号に対してオーバードライブ処理を行うものである。具体的には、動きベクトルmvが大きくなるのに応じてオーバードライブ処理の際の処理量が大きくなるようにすると共に、動きベクトルmvが小さくなるのに応じてオーバードライブ処理の際の処理量が小さくなるようにしている。このようなオーバードライブ処理により、表示映像において動きボケやホールドボケを抑制することが可能となっている。
ここで、図45および図46を参照して、動きベクトルmvの検出の際の信頼度Reliabilityについて詳細に説明する。図44および図45は、動きベクトルmvの検出の有無(MC ON/OFF信号)と信頼度Reliabilityとの関係の一例を示したものである。
図44により、MC ON/OFF信号の値が「0」(ON;動きベクトルが検出できた場合)のままで変化しない場合および「1」(OFF;動きベクトルの探索範囲(ブロックマッチングを行う範囲)を超えてしまったときなど、動きベクトルが検出できなかった場合)から「0」へと変化する場合には、信頼度Reliabilityの値が「P(従前の値)+Y(変化量)」へと増加する一方、MC ON/OFF信号の値が「0」から「1」へと変化する場合および「1」のまま変化しない場合には、信頼度Reliabilityの値が「P−Y」へと減少するようになっている。
これにより、例えば図45に示したように、MC ON/OFF信号の値が「0」である期間には、徐々に信頼度Reliabilityが0%から100%へと増加していく一方、MC ON/OFF信号の値が「1」である期間には、徐々に信頼度Reliabilityが100%から0%へと減少していくことが分かる。
このような動きベクトルmvの検出の際の信頼度Reliabilityを考慮することにより、補間部45、撮像ボケ抑制処理部13およびオーバードライブ処理部10では、信頼度Reliabilityが大きくなるのに応じて、映像信号処理の際の処理量が大きくなるように設定する一方、信頼度Reliabilityが小さくなるのに応じて、映像信号処理の際の処理量が小さくなるように設定するようになっている。
具体的には、オーバードライブ処理部10は、信頼度Reliabilityが大きくなるのに応じて、オーバードライブ処理の際の処理量が大きくなるように設定する一方、信頼度Reliabilityが小さくなるのに応じて、オーバードライブ処理の際の処理量が小さくなるように設定するようになっている。なお、補間部45によって各補間フレームにおいて近いほうのオリジナルのフレームの映像寄りの位置に補間位置が設定された度合いに応じて、オーバードライブ処理の際の処理量を変化させる(補間フレームの位置の不均等性(ジャダーの強さ)に応じて、動きボケやホールドボケの改善度を可変にする)と共に、このような信頼度Reliabilityをも考慮してオーバードライブ処理を行うようにしてもよい。
また、撮像ボケ抑制処理部13は、信頼度Reliabilityが大きくなるのに応じて、撮像ボケ抑制処理の際の処理量が大きくなるように設定する一方、信頼度Reliabilityが小さくなるのに応じて、撮像ボケ抑制処理の際の処理量が小さくなるように設定するようになっている。なお、例えば第2の実施の形態における図42に示した映像信号処理装置4Cのように、補間部45によって各補間フレームにおいて近いほうのオリジナルのフレームの映像寄りの位置に補間位置が設定された度合いに応じて、撮像ボケ抑制処理の際の処理量を変化させる(補間フレームの位置の不均等性(ジャダーの強さ)に応じて、撮像ボケの改善度を可変にする)と共に、このような信頼度Reliabilityをも考慮して撮像ボケ抑制処理を行うようにしてもよい。
また、補間部45は、各補間フレームにおいて近いほうのオリジナルのフレームの映像寄りの位置に補間位置を設定する度合いを、動きベクトルmvの検出の際の信頼度Reliabilityを考慮して変化させるようになっている。これにより、動きベクトルmvの検出の際の信頼度Reliabilityを考慮して、補間フレームの位置の不均等性(ジャダーの強さ)を変化させることが可能となる。
なお、このような補間部45の代わりに、時間軸に沿って互いに隣り合うオリジナルのフレームの間に、動き補償を用いて、オリジナルのフレームの映像を補間したM個(Mは1以上の整数)ずつの補間フレームを追加することによって、映像信号のフレームレート変換を行う場合には、例えば図46(3:2プルダウン信号の場合)および図47(24Hzのフィルムソース信号の場合)に示したようにして、信頼度を考慮したフレームレート変換処理を行うようにしてもよい。
具体的には、信頼度Reliabilityが大きくなるのに応じて、フレームレート変換の際に動きベクトルMV1〜MV3に乗ずるゲインが大きくなるように設定する一方、信頼度Reliabilityが小さくなるのに応じて、フレームレート変換の際に動きベクトルMV1〜MV3に乗ずるゲインが小さくなるように設定するようにしてもよい。
このようにして本実施の形態では、動きベクトル検出部44による動きベクトルmvの検出の際の信頼度Reliabilityを考慮して、補間部45、撮像ボケ抑制処理部13およびオーバードライブ処理部10における映像信号処理を行うようにし、信頼度Reliabilityが大きくなるのに応じて映像信号処理の際の処理量が大きくなるように設定する一方、信頼度Reliabilityが小さくなるのに応じて映像信号処理の際の処理量が小さくなるように設定するようにしたので、映像信号処理を動きベクトルを用いて行う場合において、動きベクトルの探索範囲(ブロックマッチングを行う範囲)を超えてしまったときなどにおいても、動きベクトルの検出精度に応じた映像信号処理を行うことができる。よって、所定の映像信号処理を行う際に、動きベクトルの検出精度に起因した画質劣化を抑えることが可能となる。
[第4の実施の形態]
次に、本発明の第4の実施の形態について説明する。
図48は、本実施の形態に係る画像表示装置(液晶表示装置7)の構成の一例を示している。なお、上記実施の形態における構成要素と同一のものには同一の符号を付し、適宜説明を省略する。
この液晶表示装置7は、第1〜第3の実施の形態で説明した映像信号処理装置4(または映像信号処理装置4A〜4Dのうちの1つ)により映像信号処理がなされた後の映像信号に基づいて映像表示を行うものであり、ホールド型の表示装置である。具体的には、液晶表示装置7は、映像信号処理装置4(4A〜4D)と、液晶表示パネル70と、バックライト駆動部71と、バックライト72と、タイミングコントローラ73と、ゲートドライバ74と、データドライバ75とを備えている。
バックライト72は、液晶表示パネル70に対して光を照射する光源であり、例えばCCFL(Cold Cathode Fluorescent Lamp)や発光ダイオード(LED:Light Emitting Diode)を含んで構成されている。
液晶表示パネル70は、バックライト72からの照射光を映像信号に基づいて変調するものであり、透過型の液晶層(図示せず)と、この液晶層を挟む一対の基板(TFT基板および対向電極基板;図示せず)と、これらTFT基板および対向電極基板における液晶層と反対側にそれぞれ積層された偏光板(図示せず)とを含んで構成されている。
データドライバ75は、液晶表示パネル2内の各画素電極へ映像信号に基づく駆動電圧を供給するものである。ゲートドライバ74は、液用表示パネル2内の各画素電極を図示しない水平走査線に沿って線順次駆動するものである。タイミングコントローラ73は、映像信号処理装置4(4A〜4D)から供給される映像信号に基づき、データドライバ75およびゲートドライバ74を制御するものである。バックライト駆動部71は、映像信号処理装置4(4A〜4D)へ供給される映像信号に基づき、バックライト72の点灯および消灯の動作を制御する(バックライト72の点灯駆動を行う)ものである。
本実施の形態の液晶表示装置7では、オリジナルのフレームにおける映像信号の内容およびユーザの視聴環境の明るさの少なくとも一方に応じて、液晶表示パネル2における表示画面上に黒表示領域が挿入される黒挿入処理がなされるように構成されている。具体的には、例えば、オリジナルのフレームにおける映像信号がシネマ信号(フィルム信号)であるときに、液晶表示パネル2における表示画面上に黒表示領域が挿入される黒挿入処理がなされるように構成されている。より具体的には、バックライト駆動部71が、液晶表示パネル2における表示画面上において黒挿入処理がなされるように、バックライト72の点灯および消灯の切替駆動を行うようになっている。なお、このバックライト駆動部71は、例えば、EPG(電子番組ガイド)に含まれるオリジナルフレームのコンテンツ情報を利用したり、オリジナルフレームのフレームレートに基づいたりして、そのオリジナルのフレームにおける映像信号がシネマ信号であるか否かを判断するようになっている。
このような黒挿入の方法としては、例えば図49(A),(B)に示したように、黒挿入処理がフレーム単位でなされるようにしたり、例えば図50(A),(B)に示したように、黒挿入処理が、オリジナルのフレームにおける所定数の水平走査ラインによる黒挿入ライン単位でなされるようにしたり、例えば図51(A),(B)に示したように、黒挿入ライン単位とフレーム単位との組み合わせによってなされるようにしたりすることが挙げられる。なお、図49〜図51(および後述する図52〜図55)において、(A)は液晶表示パネル2(LCD)における表示映像の内容(オリジナルのフレームA〜Cおよび補間フレームA’〜C’)を示しており、(B)はバックライト72の点灯状態を示しており、図中の横軸は時間を示している。
図49に示したフレーム単位での黒挿入処理の場合、フレーム全体が点灯または消灯するため、ホールド改善効果が高くなる。また、図50に示した黒挿入ライン単位での黒挿入処理の場合、後述する黒挿入率の設定によって表示輝度の調整が可能となると共に、擬似的にフレームレートが高くなるため、フレーム単位の場合と比べてフリッカが見えづらくなる。また、図51に示したフレーム単位と黒挿入ライン単位との組み合わせの場合、最も動画応答性が高くなる。
なお、図50および図51に示したように黒挿入ライン単位の黒挿入処理を含む場合、黒挿入処理が、互いに分離した複数の黒挿入ラインによってなされるようにしてもよい。このように構成した場合、以下説明する黒挿入率や表示輝度の調整がしやすくなる。
また、例えば図52〜図55に示したように、バックライト駆動部71は、黒挿入処理を行う際に、黒挿入ラインの太さ(黒挿入ラインを構成する水平走査ライン数)を変化させることにより、表示画面全体に占める黒表示領域の面積比率(=黒挿入率)が可変となるように切替駆動を行うようにしてもよい。このように構成した場合、ホールドボケの改善効果および表示輝度の調整が可能となる。
また、バックライト駆動部71は、黒挿入処理を行う際に、黒表示領域の輝度が可変となるように、切替駆動を行うようにしてもよい。このように構成した場合、ホールドボケを改善しつつ、表示輝度の調整が可能となる。またさらに、これら黒挿入率および黒表示領域の輝度の両方が可変となるようにしてもよい。
なお、このように黒挿入率および黒表示領域の輝度のうちの少なくとも一方を可変とする場合、黒挿入率や黒表示領域の輝度が、多段階に変化するようにしてもよいし、連続的に変化するようにしてもよい。これらのように変化するようにした場合、ホールドボケの改善および表示輝度の調整がしやすくなる。
このようにして本実施の形態では、オリジナルのフレームにおける映像信号の内容およびユーザの視聴環境の明るさの少なくとも一方に応じて、液晶表示パネル2における表示画面上に黒表示領域が挿入される黒挿入処理がなされるようにしたので、状況に応じてホールドボケを改善させることが可能となる。
なお、例えば図56に示したように、オリジナルのフレームにおける輝度ヒストグラム分布に応じて、黒挿入処理を行うかどうかを判断したり、黒挿入率や黒表示領域の輝度が変化させるようにしてもよい。このように構成した場合、例えば暗い映像のときなどには表示輝度の低下が気にならないこともあるため、そのようなときには黒挿入処理を行うと判断したり、また、黒挿入率を高くしたり黒表示領域の輝度を低下させるなどすることにより、ホールドボケの改善効果を優先させるなどの調整が可能となる。
また、動きベクトル検出部44などで検出したオリジナルのフレームにおける動きベクトルの大きさに応じて、黒挿入率や黒表示領域の輝度が変化するようにしてもよい。このように構成した場合、例えば映像の動きが大きい場合などには黒挿入率を高くしたり黒表示領域の輝度を低下させるなどによって、ジャダーが見えにくくなるようにするなどの調整が可能となる。
さらに、例えば図57に示した液晶表示装置7Aのように、ユーザの視聴環境の明るさを検出する明るさ検出部76(例えば、照度センサなどにより構成されている)を設けるなどして、この検出されたユーザの視聴環境の明るさに応じて、前述のように黒挿入処理を行うかどうかを判断したり、黒挿入率や黒表示領域の輝度を変化させるようにしてもよい。このように構成した場合、視聴環境の明るさによっては表示輝度の低下が気にならないこともある(例えば、視聴環境が暗い状態の場合)ため、そのようなときには黒挿入処理を行うと判断したり、また、黒挿入率を高くしたり黒表示領域の輝度を低下させるなどすることにより、ホールドボケの改善効果を優先させるなどの調整が可能となる。
なお、このような明るさ検出部76を設けるようにした場合、検出されたユーザの視聴環境の明るさに応じて、例えば、撮像ボケ抑制処理部13による撮像ボケ抑制処理の際の処理量や、補間部45による、各補間フレームにおいて近いほうのオリジナルのフレームの映像寄りの位置に補間位置を設定する度合いなどを、それぞれ変化させるようにしてもよい。撮像ボケ抑制処理部13による撮像ボケ抑制処理の際の処理量を変化させた場合、視聴環境の明るさによっては撮像ボケが気にならないこともある(例えば、視聴環境が暗い状態の場合)ため、そのようなときには撮像ボケ抑制処理の際の処理量を低下させるなどの調整が可能となる。また、補間部45による近いほうのオリジナルのフレームの映像寄りの位置に補間位置を設定する度合いを変化させた場合、視聴環境の明るさによってジャダーが気にならないとき(例えば、視聴環境が暗い状態の場合)には、補間位置をよりオリジナルのフレーム寄りに設定することによってジャダー感を残すことにより、例えば映画固有の臨場感を生じさせるといった調整が可能となる。
なお、本実施の形態では、ホールド型の画像表示装置が液晶表示装置であると共に、バックライト駆動部71による切替駆動によって黒挿入処理(ブリンキング処理)を行うようにした場合で説明したが、例えば液晶表示装置以外の自発光型の表示装置(例えば、有機EL表示装置)の場合などは、例えば映像信号処理装置内に、オリジナルのフレームの映像信号に対して黒挿入処理を行う黒挿入処理部(図示せず)を設けると共に、この黒挿入処理部によって映像信号処理を行うことにより、黒挿入処理を行うようにしてもよい。
また、本実施の形態において、黒挿入処理の実行の可否や、黒挿入率の変更、黒表示領域の輝度の変更などは、例えば所定の操作手段(設定手段)を設けることによって、ユーザによる操作によって設定可能となっているようにしてもよい。
また、本実施の形態における映像信号処理装置は、第1〜第3の実施の形態で説明した映像信号処理装置4(または映像信号処理装置4A〜4Dのうちの1つ)には限られず、時間軸に沿った複数のオリジナルのフレームに対して所定の映像信号処理を行うものであれば、他の映像信号処理装置であってもよい。
なお、上記第1〜第4の実施の形態で説明した一連の処理(或いはそのうちの一部分の処理)は、ハードウエアにより実行させることもできるが、ソフトウエアにより実行させることもできる。
この場合、上記第1〜第4の実施の形態で説明した映像信号処理装置4,4A〜4D、バックライト駆動部71およびタイミングコントローラ73の全体若しくはその一部分(例えば、撮像ボケ抑制処理部13等)、は、例えば、図58に示されるようなコンピュータで構成することができる。
図58において、CPU(Central Processing Unit)301は、ROM(Read Only Memory)302に記録されているプログラム、または記憶部308からRAM(Random Access Memory)303にロードされたプログラムに従って各種の処理を実行する。RAM303にはまた、CPU301が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU301、ROM302、およびRAM303は、バス304を介して相互に接続されている。このバス304にはまた、入出力インタフェース305も接続されている。
入出力インタフェース305には、キーボード、マウスなどよりなる入力部306、ディスプレイなどよりなる出力部307、ハードディスクなどより構成される記憶部308、および、モデム、ターミナルアダプタなどより構成される通信部309が接続されている。通信部309は、インターネットを含むネットワークを介して他の装置との通信処理を行う。
入出力インタフェース305にはまた、必要に応じてドライブ310が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどよりなるリムーバブル記録媒体311が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部308にインストールされる。
一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、専用のハードウエアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
このようなプログラムを含む記録媒体は、図58に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フロッピディスクを含む)、光ディスク(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク(MD(Mini-Disk)を含む)、もしくは半導体メモリなどよりなるリムーバブル記録媒体(パッケージメディア)211により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM302や、記憶部308に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、上述したように、本明細書において、システムとは、複数の処理装置や処理部により構成される装置全体を表すものである。
また、上記実施の形態および変形例で説明した構成等は、これまでに説明したものの他、任意の組み合わせとすることが可能である。

Claims (10)

  1. 時間軸に沿った複数のオリジナルのフレームにおいて、動きベクトルを検出する動きベクトル検出手段と、
    検出された動きベクトルを用いて、前記複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理を行う映像信号処理手段と、
    前記映像信号処理がなされた後の映像信号に基づいて映像表示を行う表示手段と
    を備え、
    前記映像信号処理手段は、前記動きベクトル検出手段による動きベクトルの検出の際の信頼度が大きくなるのに応じて、前記映像信号処理の際の処理量が大きくなるように設定する一方、前記信頼度が小さくなるのに応じて、前記映像信号処理の際の処理量が小さくなるように設定する
    ことを特徴とする画像表示装置。
  2. 前記映像信号処理手段は、検出された動きベクトルを用いることによって前記オリジナルのフレームに含まれる撮像ボケに起因した画質劣化を抑制する撮像ボケ抑制処理を行う撮像ボケ抑制処理手段を含む
    ことを特徴とする請求項1に記載の画像表示装置。
  3. 前記撮像ボケ抑制処理手段は、前記信頼度が大きくなるのに応じて、前記撮像ボケ抑制処理の際の処理量が大きくなるように設定する一方、前記信頼度が小さくなるのに応じて、前記撮像ボケ抑制処理の際の処理量が小さくなるように設定する
    ことを特徴とする請求項2に記載の画像表示装置。
  4. 前記映像信号処理手段は、検出された動きベクトルを用いることによって前記オリジナルのフレームの映像信号に対してオーバードライブ処理を行うオーバードライブ処理手段を含む
    ことを特徴とする請求項1に記載の画像表示装置。
  5. 前記オーバードライブ処理手段は、前記信頼度が大きくなるのに応じて、前記オーバードライブ処理の際の処理量が大きくなるように設定する一方、前記信頼度が小さくなるのに応じて、前記オーバードライブ処理の際の処理量が小さくなるように設定する
    ことを特徴とする請求項4に記載の画像表示装置。
  6. 前記映像信号処理手段は、時間軸に沿って互いに隣り合うオリジナルのフレームの間に、動き補償を用いて、オリジナルのフレームの映像を補間したM個(Mは1以上の整数)ずつの補間フレームを追加することによって、映像信号のフレームレート変換を行うフレームレート変換手段を含む
    ことを特徴とする請求項1に記載の画像表示装置。
  7. 前記フレームレート変換手段は、前記信頼度が大きくなるのに応じて、前記フレームレート変換の際に前記動きベクトルに乗ずるゲインが大きくなるように設定する一方、前記信頼度が小さくなるのに応じて、前記フレームレート変換の際に前記動きベクトルに乗ずるゲインが小さくなるように設定する
    ことを特徴とする請求項6に記載の画像表示装置。
  8. 前記信頼度は、前記動きベクトルの検出がなされている期間では、その値が徐々に増加する一方、前記動きベクトルの検出がなされていない期間では、その値が徐々に減少するように設定されている
    ことを特徴とする請求項1ないし請求項7のいずれか1項に記載の画像表示装置。
  9. 時間軸に沿った複数のオリジナルのフレームにおいて、動きベクトルを検出する動きベクトル検出手段と、
    検出された動きベクトルを用いて、前記複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理を行う映像信号処理手段と
    を備え、
    前記映像信号処理手段は、前記動きベクトル検出手段による動きベクトルの検出の際の信頼度が大きくなるのに応じて、前記映像信号処理の際の処理量が大きくなるように設定する一方、前記信頼度が小さくなるのに応じて、前記映像信号処理の際の処理量が小さくなるように設定する
    を備えたことを特徴とする映像信号処理装置。
  10. 時間軸に沿った複数のオリジナルのフレームにおいて動きベクトルを検出し、
    検出された動きベクトルを用いて、前記複数のオリジナルのフレームに対して所定の画質改善用の映像信号処理を行うと共に、
    前記動きベクトルの検出の際の信頼度が大きくなるのに応じて、前記映像信号処理の際の処理量が大きくなるように設定する一方、前記信頼度が小さくなるのに応じて、前記映像信号処理の際の処理量が小さくなるように設定する
    ことを特徴とする映像信号処理方法。
JP2009500223A 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法 Expired - Fee Related JP5294036B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009500223A JP5294036B2 (ja) 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2007039559 2007-02-20
JP2007039559 2007-02-20
JP2009500223A JP5294036B2 (ja) 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法
PCT/JP2008/052902 WO2008102827A1 (ja) 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法

Publications (2)

Publication Number Publication Date
JPWO2008102827A1 true JPWO2008102827A1 (ja) 2010-05-27
JP5294036B2 JP5294036B2 (ja) 2013-09-18

Family

ID=39710100

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2009500224A Expired - Fee Related JP5187531B2 (ja) 2007-02-20 2008-02-20 画像表示装置
JP2009500222A Expired - Fee Related JP5212742B2 (ja) 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法
JP2009500223A Expired - Fee Related JP5294036B2 (ja) 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2009500224A Expired - Fee Related JP5187531B2 (ja) 2007-02-20 2008-02-20 画像表示装置
JP2009500222A Expired - Fee Related JP5212742B2 (ja) 2007-02-20 2008-02-20 画像表示装置、映像信号処理装置および映像信号処理方法

Country Status (6)

Country Link
US (3) US8213504B2 (ja)
EP (3) EP2059037B1 (ja)
JP (3) JP5187531B2 (ja)
KR (3) KR100988652B1 (ja)
CN (3) CN101543064B (ja)
WO (3) WO2008102828A1 (ja)

Families Citing this family (69)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4863767B2 (ja) * 2006-05-22 2012-01-25 ソニー株式会社 映像信号処理装置及び画像表示装置
JP5141871B2 (ja) * 2007-05-14 2013-02-13 株式会社リコー 画像処理方法及び画像表示装置
US8300958B2 (en) * 2007-07-11 2012-10-30 Samsung Electronics Co., Ltd. System and method for detecting scrolling text in mixed mode film and video
JP4268220B2 (ja) * 2007-08-03 2009-05-27 パナソニック株式会社 撮影装置、撮影方法、およびプログラム
EP2101503A1 (en) * 2008-03-11 2009-09-16 British Telecommunications Public Limited Company Video coding
JP4506875B2 (ja) * 2008-05-19 2010-07-21 ソニー株式会社 画像処理装置および画像処理方法
JP5015089B2 (ja) * 2008-08-06 2012-08-29 シャープ株式会社 フレームレート変換装置、フレームレート変換方法、テレビジョン受像機、フレームレート変換プログラムおよび該プログラムを記録した記録媒体
JP2011530937A (ja) * 2008-08-12 2011-12-22 キーレス システムズ エルティーディー. データ入力システム
JP4626779B2 (ja) 2008-08-26 2011-02-09 ソニー株式会社 映像信号処理装置、画像表示装置および映像信号処理方法
US8373644B2 (en) * 2008-09-23 2013-02-12 Sharp Kabushiki Kaisha Backlight luminance control apparatus and video display apparatus
JP5262546B2 (ja) * 2008-10-08 2013-08-14 ソニー株式会社 映像信号処理システム、再生装置および表示装置、ならびに映像信号処理方法
US8488057B2 (en) * 2008-12-01 2013-07-16 Ati Technologies Ulc Method and apparatus for dejuddering image data
EP2200319A1 (en) 2008-12-10 2010-06-23 BRITISH TELECOMMUNICATIONS public limited company Multiplexed video streaming
WO2010067519A1 (ja) * 2008-12-10 2010-06-17 パナソニック株式会社 映像処理装置及び映像処理方法
JP5219771B2 (ja) * 2008-12-15 2013-06-26 キヤノン株式会社 映像処理装置および映像処理装置の制御方法
US8903191B2 (en) * 2008-12-30 2014-12-02 Intel Corporation Method and apparatus for noise reduction in video
EP2219342A1 (en) 2009-02-12 2010-08-18 BRITISH TELECOMMUNICATIONS public limited company Bandwidth allocation control in multiple video streaming
JP5011434B2 (ja) * 2009-02-19 2012-08-29 パナソニック株式会社 画像表示装置
EP2234402B1 (en) * 2009-03-25 2012-07-04 Bang & Olufsen A/S A method and a system for adapting film judder correction
JP2012138646A (ja) 2009-04-23 2012-07-19 Panasonic Corp 映像処理装置及び映像処理方法
JP2011035776A (ja) * 2009-08-04 2011-02-17 Sanyo Electric Co Ltd 映像情報処理装置およびプログラム
JP4656546B2 (ja) * 2009-08-28 2011-03-23 日本ビクター株式会社 映像信号処理装置
JP5631565B2 (ja) 2009-08-31 2014-11-26 京セラディスプレイ株式会社 表示装置
JP2011091533A (ja) * 2009-10-21 2011-05-06 Sony Corp 画像処理装置および方法、並びに、プログラム
JP5324391B2 (ja) * 2009-10-22 2013-10-23 キヤノン株式会社 画像処理装置およびその制御方法
US9019317B2 (en) * 2009-10-23 2015-04-28 Lg Display Co., Ltd. Liquid crystal display and method for driving the same
JP2011102876A (ja) * 2009-11-10 2011-05-26 Hitachi Displays Ltd 液晶表示装置
EP2509306A4 (en) * 2009-12-01 2013-05-15 Panasonic Corp IMAGE PROCESSING DEVICE AND IMAGE PROCESSING METHOD
WO2011067870A1 (ja) 2009-12-01 2011-06-09 パナソニック株式会社 画像処理装置および画像処理方法
JP2013077862A (ja) * 2010-02-08 2013-04-25 Panasonic Corp 映像信号処理装置および映像信号処理方法
US8922474B2 (en) * 2010-02-10 2014-12-30 Sharp Laboratories Of America, Inc. Method of performing off axis halo reduction by generating an off-axis image and detecting halo artifacts therein
US9659353B2 (en) 2010-03-01 2017-05-23 Stmicroelectronics, Inc. Object speed weighted motion compensated interpolation
JP2011227153A (ja) * 2010-04-15 2011-11-10 Canon Inc 画像表示装置、画像表示方法
JP5634245B2 (ja) * 2010-12-15 2014-12-03 キヤノン株式会社 動きベクトル検出装置及びその制御方法、プログラム
KR101745418B1 (ko) * 2010-12-30 2017-06-12 엘지디스플레이 주식회사 전원 공급부 및 이를 포함하는 액정표시장치
CN102214450B (zh) 2011-06-02 2013-01-09 深圳市华星光电技术有限公司 液晶显示器及其驱动方法
JP2013015585A (ja) * 2011-06-30 2013-01-24 Toshiba Corp 表示装置及び表示方法
US8692933B1 (en) 2011-10-20 2014-04-08 Marvell International Ltd. Method and apparatus for buffering anchor frames in motion compensation systems
US9653026B2 (en) 2012-03-07 2017-05-16 Canon Kabushiki Kaisha Backlight controlling apparatus, backlight controlling method and program
JP2013201607A (ja) * 2012-03-26 2013-10-03 Jvc Kenwood Corp 動きベクトル補正装置及び方法、並びに、映像信号処理装置及び方法
JP5178933B1 (ja) * 2012-05-21 2013-04-10 正浩 小林 画像処理装置
JP6041535B2 (ja) * 2012-05-29 2016-12-07 株式会社トプコン 画像取得方法及び撮影装置
JP5202749B1 (ja) * 2012-09-03 2013-06-05 正浩 小林 画像処理方法
JP5939108B2 (ja) * 2012-09-25 2016-06-22 三菱電機株式会社 画像表示装置および画像表示方法
US10154177B2 (en) * 2012-10-04 2018-12-11 Cognex Corporation Symbology reader with multi-core processor
JP6369929B2 (ja) * 2013-07-11 2018-08-08 Eizo株式会社 表示装置及びバックライトの駆動方法
WO2015087597A1 (ja) * 2013-12-13 2015-06-18 シャープ株式会社 フィールドシーケンシャル表示装置およびその駆動方法
US10368031B2 (en) 2014-02-27 2019-07-30 Dolby Laboratories Licensing Corporation Systems and methods to control judder visibility
KR102107472B1 (ko) 2014-03-24 2020-05-08 엘지디스플레이 주식회사 백색 유기 발광 소자
KR102145759B1 (ko) 2014-03-27 2020-08-20 엘지디스플레이 주식회사 유기 발광 소자
WO2016018283A1 (en) * 2014-07-30 2016-02-04 Halliburton Energy Services, Inc. Deployable baffle
JP2018022932A (ja) * 2014-12-08 2018-02-08 株式会社ジャパンディスプレイ 表示システム及び表示装置
WO2016185947A1 (ja) * 2015-05-19 2016-11-24 ソニー株式会社 画像処理装置、画像処理方法、受信装置および送信装置
CN105141969B (zh) * 2015-09-21 2017-12-26 电子科技大学 一种视频帧间篡改被动认证方法
KR102538879B1 (ko) * 2016-08-11 2023-06-02 삼성디스플레이 주식회사 표시 장치 및 이의 구동 방법
JP6362116B2 (ja) * 2016-11-30 2018-07-25 キヤノン株式会社 表示装置及びその制御方法、プログラム、記憶媒体
CN110178365B (zh) * 2017-02-15 2021-10-08 松下知识产权经营株式会社 图像处理装置和图像处理方法
US11151727B2 (en) * 2017-08-24 2021-10-19 Sony Group Corporation Image processing devices with efficient motion blur detection and methods of operating same
CN107424571B (zh) * 2017-08-31 2021-03-09 北京集创北方科技股份有限公司 有机发光二极管显示装置及其驱动方法
EP3843380A4 (en) * 2018-08-22 2021-10-20 Sony Group Corporation DISPLAY DEVICE, SIGNAL PROCESSING DEVICE AND SIGNAL PROCESSING METHOD
WO2020170945A1 (ja) 2019-02-20 2020-08-27 富士フイルム株式会社 表示制御装置、撮像装置、表示制御方法、及び表示制御プログラム
KR102549786B1 (ko) 2019-03-29 2023-06-30 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
CN110933496B (zh) * 2019-12-10 2021-07-23 Oppo广东移动通信有限公司 图像数据插帧处理方法、装置、电子设备及存储介质
CN110992902B (zh) * 2019-12-24 2022-06-14 苏州佳世达电通有限公司 显示系统及其背光控制方法
WO2021221192A1 (ko) * 2020-04-28 2021-11-04 엘지전자 주식회사 디스플레이 장치, 및 이를 구비하는 영상표시장치
CN111586321B (zh) * 2020-05-08 2023-05-12 Oppo广东移动通信有限公司 视频生成方法、装置、电子设备和计算机可读存储介质
CN111641829B (zh) * 2020-05-16 2022-07-22 Oppo广东移动通信有限公司 视频处理方法及装置、系统、存储介质和电子设备
CN111641828B (zh) * 2020-05-16 2022-03-18 Oppo广东移动通信有限公司 视频处理方法及装置、存储介质和电子设备
CN112164374A (zh) * 2020-11-05 2021-01-01 北京集创北方科技股份有限公司 亮度调节方法、亮度调节装置、显示面板和显示装置

Family Cites Families (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9214218D0 (en) 1992-07-03 1992-08-12 Snell & Wilcox Ltd Motion compensated video processing
US5748231A (en) * 1992-10-13 1998-05-05 Samsung Electronics Co., Ltd. Adaptive motion vector decision method and device for digital image stabilizer system
US5642170A (en) * 1993-10-11 1997-06-24 Thomson Consumer Electronics, S.A. Method and apparatus for motion compensated interpolation of intermediate fields or frames
US5519446A (en) * 1993-11-13 1996-05-21 Goldstar Co., Ltd. Apparatus and method for converting an HDTV signal to a non-HDTV signal
JP4256471B2 (ja) 1994-04-05 2009-04-22 エヌエックスピー ビー ヴィ インタレース−順次走査変換方法及び装置
US5929919A (en) * 1994-04-05 1999-07-27 U.S. Philips Corporation Motion-compensated field rate conversion
JP2891129B2 (ja) * 1995-01-27 1999-05-17 日本電気株式会社 動き補償予測画像作成装置
KR100391192B1 (ko) 1995-04-11 2003-11-17 코닌클리케 필립스 일렉트로닉스 엔.브이. 입력필드처리방법및장치및텔레비전신호수신기
GB2305569B (en) 1995-09-21 1999-07-21 Innovision Res Ltd Motion compensated interpolation
GB2311184A (en) 1996-03-13 1997-09-17 Innovision Plc Motion vector field error estimation
KR100207323B1 (ko) * 1996-12-06 1999-07-15 윤종용 약전계 신호 수신시 영 잡음 제거방법
CN1217852A (zh) * 1997-02-13 1999-05-26 三菱电机株式会社 动态图象预测方式
JP4083265B2 (ja) * 1997-10-07 2008-04-30 株式会社日立製作所 画像信号の方式変換方法および装置
US6195389B1 (en) * 1998-04-16 2001-02-27 Scientific-Atlanta, Inc. Motion estimation system and methods
JP2000217108A (ja) * 1999-01-22 2000-08-04 Canon Inc 画像符号化方法及び記憶媒体
JP2000324364A (ja) * 1999-05-07 2000-11-24 Sony Corp 映像信号の輪郭補正回路
JP2001169281A (ja) * 1999-12-13 2001-06-22 Matsushita Electric Ind Co Ltd 動画像符号化装置、および動画像符号化方法
US7106350B2 (en) * 2000-07-07 2006-09-12 Kabushiki Kaisha Toshiba Display method for liquid crystal display device
JP2002158941A (ja) * 2000-11-16 2002-05-31 Sharp Corp 画質制御装置
US6956617B2 (en) 2000-11-17 2005-10-18 Texas Instruments Incorporated Image scaling and sample rate conversion by interpolation with non-linear positioning vector
KR100549156B1 (ko) * 2001-07-23 2006-02-06 가부시키가이샤 히타치세이사쿠쇼 표시 장치
JP2003036056A (ja) * 2001-07-23 2003-02-07 Hitachi Ltd 液晶表示装置
WO2003032288A1 (fr) 2001-10-05 2003-04-17 Nec Corporation Appareil d'affichage, systeme d'affichage d'image, et terminal utilisant ce systeme et cet appareil
JP3855761B2 (ja) 2001-10-09 2006-12-13 ソニー株式会社 画像信号処理装置及び方法
US20030123738A1 (en) * 2001-11-30 2003-07-03 Per Frojdh Global motion compensation for video pictures
KR100610954B1 (ko) * 2002-01-21 2006-08-10 마츠시타 덴끼 산교 가부시키가이샤 표시 장치 및 표시 장치의 구동 방법
JP2003244659A (ja) 2002-02-14 2003-08-29 Toshiba Corp フレーム補間方法
EP3029938A1 (en) * 2002-03-15 2016-06-08 Nokia Technologies Oy Method for coding motion in a video sequence
US20040090554A1 (en) * 2002-10-23 2004-05-13 Takahiro Nishi Picture coding method
AU2003289238A1 (en) 2002-12-06 2004-06-30 Sharp Kabushiki Kaisha Liquid crystal display device
JP2004234051A (ja) 2003-01-28 2004-08-19 Fuji Xerox Co Ltd 文章分類装置およびその方法
JP4239892B2 (ja) * 2003-07-14 2009-03-18 セイコーエプソン株式会社 電気光学装置とその駆動方法ならびに投射型表示装置、電子機器
JP4367100B2 (ja) 2003-11-18 2009-11-18 日本ビクター株式会社 画像表示装置
JP4539152B2 (ja) * 2003-11-07 2010-09-08 ソニー株式会社 画像処理装置および方法、並びにプログラム
JP4198608B2 (ja) * 2004-01-15 2008-12-17 株式会社東芝 補間画像生成方法および装置
EP1589763A2 (en) 2004-04-20 2005-10-26 Sony Corporation Image processing apparatus, method and program
JP2005338262A (ja) 2004-05-25 2005-12-08 Sharp Corp 表示装置およびその駆動方法
US7657118B2 (en) * 2004-06-09 2010-02-02 Hewlett-Packard Development Company, L.P. Generating and displaying spatially offset sub-frames using image data converted from a different color space
CN1860779B (zh) * 2004-08-11 2010-05-12 索尼株式会社 图像处理设备和方法
JP5062968B2 (ja) 2004-08-11 2012-10-31 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP4359223B2 (ja) * 2004-10-29 2009-11-04 株式会社 日立ディスプレイズ 映像補間装置とこれを用いたフレームレート変換装置,映像表示装置
JP4396496B2 (ja) * 2004-12-02 2010-01-13 株式会社日立製作所 フレームレート変換装置、及び映像表示装置、並びにフレームレート変換方法
US7728877B2 (en) * 2004-12-17 2010-06-01 Mitsubishi Electric Research Laboratories, Inc. Method and system for synthesizing multiview videos
JP2006189661A (ja) * 2005-01-06 2006-07-20 Toshiba Corp 画像表示装置及びその方法
JP2006189658A (ja) * 2005-01-06 2006-07-20 Toshiba Corp 画像表示装置及びその画像表示方法
KR100714689B1 (ko) * 2005-01-21 2007-05-04 삼성전자주식회사 다 계층 구조 기반의 스케일러블 비디오 코딩 및 디코딩방법, 이를 위한 장치
JP2008033209A (ja) * 2005-09-28 2008-02-14 Toshiba Matsushita Display Technology Co Ltd 液晶表示装置
KR20070055212A (ko) * 2005-11-25 2007-05-30 삼성전자주식회사 프레임 보간장치, 프레임 보간방법 및 움직임 신뢰성평가장치
US20070132709A1 (en) * 2005-12-12 2007-06-14 Toshiba Matsushita Display Technology Co., Ltd Liquid crystal display device and method for driving the same
KR101225058B1 (ko) * 2006-02-14 2013-01-23 삼성전자주식회사 콘트라스트 조절 방법 및 장치
JP5076355B2 (ja) 2006-04-25 2012-11-21 ソニー株式会社 画像表示装置、画像表示方法
JP4863767B2 (ja) * 2006-05-22 2012-01-25 ソニー株式会社 映像信号処理装置及び画像表示装置
US8174544B2 (en) 2006-05-23 2012-05-08 Panasonic Corporation Image display apparatus, image displaying method, plasma display panel apparatus, program, integrated circuit, and recording medium
CN101578866B (zh) * 2006-10-20 2013-11-13 诺基亚公司 利用参考画面标记和参考画面列表对可缩放视频位流进行编解码的方法及装置
US20080095228A1 (en) * 2006-10-20 2008-04-24 Nokia Corporation System and method for providing picture output indications in video coding

Also Published As

Publication number Publication date
EP2059023B1 (en) 2015-11-04
KR101456305B1 (ko) 2014-11-03
KR20090115653A (ko) 2009-11-05
EP2059037A1 (en) 2009-05-13
KR101522736B1 (ko) 2015-05-26
EP2059023A4 (en) 2011-10-12
JPWO2008102828A1 (ja) 2010-05-27
EP2059037B1 (en) 2012-06-20
EP2018052B1 (en) 2014-12-10
CN101543043A (zh) 2009-09-23
EP2018052A1 (en) 2009-01-21
CN101543065B (zh) 2012-03-14
CN101543065A (zh) 2009-09-23
US20090184916A1 (en) 2009-07-23
JP5212742B2 (ja) 2013-06-19
JP5294036B2 (ja) 2013-09-18
CN101543043B (zh) 2011-05-18
US8441468B2 (en) 2013-05-14
WO2008102827A1 (ja) 2008-08-28
WO2008102826A1 (ja) 2008-08-28
US20100013991A1 (en) 2010-01-21
KR20090113752A (ko) 2009-11-02
CN101543064A (zh) 2009-09-23
JPWO2008102826A1 (ja) 2010-05-27
EP2059023A1 (en) 2009-05-13
KR100988652B1 (ko) 2010-10-18
CN101543064B (zh) 2013-07-03
US8917767B2 (en) 2014-12-23
US8213504B2 (en) 2012-07-03
JP5187531B2 (ja) 2013-04-24
WO2008102828A1 (ja) 2008-08-28
US20100034272A1 (en) 2010-02-11
EP2059037A4 (en) 2010-12-01
KR20090113751A (ko) 2009-11-02
EP2018052A4 (en) 2010-03-10

Similar Documents

Publication Publication Date Title
JP5187531B2 (ja) 画像表示装置
JP4139430B1 (ja) 画像処理装置及び方法、画像表示装置及び方法
KR101200231B1 (ko) 화상 처리 장치 및 방법, 및 기록 매체
WO2008035472A1 (fr) Dispositif et procédé d'affichage d'image, et dispositif et procédé de traitement d'image
JP5128668B2 (ja) 画像信号処理装置、画像信号処理方法、画像表示装置、テレビジョン受像機、電子機器
JP2009169411A (ja) 画像処理装置および画像表示システム
WO2008035474A1 (fr) Dispositif et procédé d'affichage d'image
US20090002559A1 (en) Phase Shift Insertion Method For Reducing Motion Artifacts On Hold-Type Displays
JP4181613B2 (ja) 画像表示装置及び方法
JP4674528B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP2010124257A (ja) 映像処理装置、映像表示装置、及びフレームレート変換方法
JP2017050824A (ja) フレームレート拡大装置及びプログラム
JP5480674B2 (ja) 画像処理装置およびその制御方法
Shin et al. 26.3: Motion Interpolation Performance of 120Hz Display Systems
JP2008079287A (ja) 画像表示装置及び方法
JP2010154300A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130416

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130529

R151 Written notification of patent or utility model registration

Ref document number: 5294036

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees