JP2010525470A - 信号に対して所望のエフェクトを得るために、信号にカーネルを適用するエフェクトを調整するための技術 - Google Patents
信号に対して所望のエフェクトを得るために、信号にカーネルを適用するエフェクトを調整するための技術 Download PDFInfo
- Publication number
- JP2010525470A JP2010525470A JP2010504532A JP2010504532A JP2010525470A JP 2010525470 A JP2010525470 A JP 2010525470A JP 2010504532 A JP2010504532 A JP 2010504532A JP 2010504532 A JP2010504532 A JP 2010504532A JP 2010525470 A JP2010525470 A JP 2010525470A
- Authority
- JP
- Japan
- Prior art keywords
- kernel
- matrix
- signal
- image
- effect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000000694 effects Effects 0.000 title claims abstract description 130
- 238000000034 method Methods 0.000 title claims abstract description 91
- 239000011159 matrix material Substances 0.000 claims abstract description 148
- 238000012545 processing Methods 0.000 claims abstract description 98
- 230000003287 optical effect Effects 0.000 claims abstract description 25
- 230000033001 locomotion Effects 0.000 claims description 85
- 230000006870 function Effects 0.000 claims description 34
- 238000004364 calculation method Methods 0.000 claims description 25
- 230000008569 process Effects 0.000 claims description 21
- 238000003708 edge detection Methods 0.000 claims description 16
- 230000004075 alteration Effects 0.000 claims description 13
- 230000008859 change Effects 0.000 claims description 8
- 230000000051 modifying effect Effects 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 abstract description 3
- 238000004891 communication Methods 0.000 description 23
- 239000013598 vector Substances 0.000 description 21
- 238000012937 correction Methods 0.000 description 19
- 238000010586 diagram Methods 0.000 description 14
- 238000004422 calculation algorithm Methods 0.000 description 10
- 230000004044 response Effects 0.000 description 10
- 239000003086 colorant Substances 0.000 description 7
- 230000001419 dependent effect Effects 0.000 description 6
- 230000002902 bimodal effect Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000002829 reductive effect Effects 0.000 description 5
- 238000011144 upstream manufacturing Methods 0.000 description 5
- 230000003321 amplification Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000003199 nucleic acid amplification method Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000001965 increasing effect Effects 0.000 description 3
- 229910052710 silicon Inorganic materials 0.000 description 3
- 239000010703 silicon Substances 0.000 description 3
- 230000003313 weakening effect Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000003705 background correction Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 230000000670 limiting effect Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 238000007619 statistical method Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G06T5/70—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G06T5/73—
-
- G06T5/94—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Abstract
Description
本発明は、デジタル信号処理に関する。特に、本発明の実施の形態は、所望のエフェクトが得られるように、信号データを処理するためにカーネルマトリクスを適用するときに得られるエフェクトを修正することに関する。
デジタルイメージングにおいて、デジタルカメラなどのイメージング器具において行なわれる、光学的ブレ、光学的歪み、色収差、フィールド湾曲等の、光学収差の補正によって、よりよい画像を作成するために、デコンボリューションが時々用いられる。デコンボリューションを規定する数学演算は、コンボリューションにおいて実行される数学演算と同じである。それをデコンボリューションと名付けた理由は、それが、コンボリューションによって画像に対して適用されるエフェクトに対して、補正または補填の文脈において用いられるからである。言い換えると、この態様でのデコンボリューションの使用は、イメージング器具を画像信号が通るときに、画像信号と、点拡がり(PSF)関数と呼ばれる2D関数との間でのコンボリューションとして、出力信号を記述することが可能であるという事実に基づく。光学的ブレを例として用いて、PSFは、電磁放射の点光源が器具を通る経路、すなわち、光学系を通って1点の光がどのように画像化されるかの観点で、光学的ブレを記述する。PSFコンボリューションの結果は、捉えられた画像信号が、被写体自体よりもぼやけるというものである(そして、歪まされ、かつ/または色収差を含む)。このブレを補うため、ブレのない画像を作ることを目的とした2D関数を用いて画像信号がコンボリューションされる、デコンボリューション処理が行われ得る。この2D関数は、大抵、PSFが取り込んだブレを元に戻すことができるように、PSFの逆(または、PSFの逆の変形)である。
ラー補間)が実行された後、または、デモザイキングの前になされ得る。前者の方法は、画像中の最大限の可能な周波数に(ピクセル毎に)、フィルタが作用するようにすることができるが、大空間のサポートをカバーするためには、2Dカーネルが多くの係数を有するべきである。後者の方法は、画像がまだベイヤーである間(カラー補間前)にフィルタを適用することを意味する。後者の方法は、少ない係数に対して大きい空間サポートをカバーすることに関して有利であるが、フィルタは、低い周波数にしか作用できない。デコンボリューションを効果的にするために、ほとんどの光学設計に対して、カーネルのサイズは、(ピクセルで)PSFのサイズと大体同じであるべきであるため、大きなPSFを補うためには、デコンボリューションカーネルに対して十分に大きい空間サポート、それゆえ、(より多くのメモリおよび数値計算を意味する)多くの係数が必要である。これは、デモザイキング処理の前に、デコンボリューションカーネルをベイヤー画像に適用する主要な理由になり得る。なぜなら、もし、大きなPSFによりぼかされた画像に非常に小さいカーネルが適用されると、処理の後において意図しない副作用が残り得るからである。
本発明は、添付の図面の図において、例であって限定ではなく図示され、図面において、同じ参照符号等は同様の要素を参照する。
下記の記載では、説明の目的のため、多数の詳細な細部が、本発明の完全な理解を提供するために述べられる。しかしながら、それは、本発明が、これらの詳細な細部がなくとも実施され得ることがあきらかであろう。他の例では、本発明が不必要に曖昧になることを避けるために、周知の構造および機器はブロック図で示される。
1.0 概説
2.0 画像信号処理チェーンの例
3.0 コンボリューションの概説
4.0 意図されたエフェクトの強度に基づくカーネルエフェクトの調整の概説
4.1 処理の概説
4.2 カーネルの更新によるカーネルエフェクトの調整の概説
4.3 コンボリューション結果の修正によるカーネルエフェクトの調整の概説5.0 様々な因子に基づくカーネルエフェクトの調整
5.1 S/N値に基づくカーネルエフェクトの調整
5.2 空間位置に従ったカーネルエフェクトの調整
5.3 局所的な画像特性に従ったカーネルエフェクトの調整
6.0 実施の形態に従った、モーションブラーを扱うカーネルエフェクトの調整
6.1 モーションブラーの修正の概説
6.2 ブレ点拡がり関数の実施の形態
6.3 モーションシフトベクトルの実施の形態
6.4 シャープニングとモーションブラーカーネルとの組合せ
8.0 ハードウェアの概説
8.1 モバイル機器の例
8.2 コンピュータシステムの例
1.0 概説
ここでは、信号データを処理するための技術が開示される。信号データは、多数の異なる信号マトリクスで表わされ得、各マトリクスは、信号の異なる部分を表わす。たとえば、各信号マトリクスは、画像センサにおけるピクセルの組に対応するエントリを含み得る。しかしながら、信号は、たとえば、画像データよりも、むしろ音声データまたは他の信号データであり得る。与えられた信号マトリクスは、いくつかの意図されたエフェクトを達成するために、少なくとも1つのカーネルマトリクスに基づいて処理される。より特定的には、カーネルマトリクスに基づいて信号マトリクスを処理することによって達成される、意図されたエフェクトの強度は、意図されたエフェクトの強度を達成するために調整される。
れる例もある。しかしながら、ここに記載される技術が、画像のコントラストを強調するために用いられるカーネルに適用されることは要求されない。さらに、ここでは、画像処理のためにカーネルが用いられる例もある。しかしながら、より一般的には、ここで記載される技術は、いかなるデジタル信号処理アプリケーションのために用いられるカーネルに適用され得る。
デジタルスチルカメラモジュールにおいて、raw画像を処理し、不揮発性メモリに保存された最終画像(たとえば、JPEG画像、TIFF画像等)を出力するアルゴリズムの組は、画像信号処理チェーン、またはISPチェーンと呼ばれる。図1aは、ISPチェーン100において提供された典型的なステージを描く。ISPチェーンは他のステージを有することができ、かつ、図1a中に描かれたステージの全てを有することは要求されない。ステージの順番は異なってもよい。
位置がある。図1bは、実施の形態に従って、デジタルオートフォーカスブロック111を組み込んだISPチェーン100aを描く。例示のISPチェーン100aにおいては、デジタルオートフォーカスブロック111は、デモザイキングブロック112の直前に配置されている。すなわち、デジタルオートフォーカスブロック111がベイヤー画像に適用される。図1cは、実施の形態に従った、同様にデジタルオートフォーカスブロック111を組み込んだISPチェーン100bを描く。ISPチェーン100bにおいて、デジタルオートフォーカスブロック111は、デモザイキングブロック112の後に配置されている。すなわち、デジタルオートフォーカスブロック111がRGB画像に適用される。ISP100aおよびISP100bの両方の場合において、描かれた場所にデジタルオートフォーカスブロックが正確に配置されることは要求されない。デジタルオートフォーカスブロックは、ISPの他の場所に配置されていてもよい。実施の形態においては、デジタルオートフォーカス111は、悪質ピクセルピクセルエフェクトを強調し得るため、デジタルオートフォーカス111ブロックは、悪質ピクセル補正106の後に来る。別の実施の形態においては、ベイヤーデノイジング110ブロック、レンズシェーディング補正109ブロック、ホワイトバランス108ブロック、Gr/Gb補償107ブロック、悪質ピクセル補正106ブロック、および黒レベル補正102ブロックの後に、デジタルオートフォーカスブロックが来ることが推奨される。これらのブロックは、センサおよび部分的にレンズの誤りを補正するからである。なお、デジタルオートフォーカスブロックをISPに組み込むことによって、シャープニング114ブロックが不必要となる結果になり得る。
3.0 デコンボリューションの概説
1つの実施の形態においては、カーネルは、ベイヤーデコンボリューションを実行するために用いられる。しかしながら、デコンボリューションは、どのようにカーネルが用いられ得るかの一例にすぎない。セル値が表わすセンサのピクセルの上のカラーフィルタに従って、全てのセル値がそれ自身の色(赤、緑または青)を有するように、ベイヤー画像は、ピクセル値の2Dマトリクスとしてモデル化され得る。図8は、赤(R)、青(B)および(G)のピクセルを有するベイヤー画像800の例を示す。ピクセルの位置は、色に対してカーネルを用いてコンボリュ−ションされた画像データ中のピクセルの場所を表わす。色の各々は、画像信号中の対応するピクセルを用いて、適切な色カーネルマトリクスをコンボリュ−ションすることにより値が修正された、画像信号中のピクセルを特定す
る、中央ピクセル801g、801r、801bを有する。
4.0 意図されたエフェクトの強度に基づくカーネルエフェクトの調整の概説
4.1 処理の概説
図12は、実施の形態に従う、カーネルエフェクトを調整するための処理1200を説明するフローチャートである。ステップ1202にて、初期カーネルマトリクスがアクセルされる。ステップ1204にて、カーネルマトリクスの処理が信号マトリクス上で有するエフェクトに対して調整がなされる。調整は、カーネルが信号上で有するエフェクトの強度を修正することが意図される。図21および図22は、カーネルマトリクスを処理することが信号マトリクス上で有するエフェクトを調整するための2つの技術を描く。
フェクトの強度の調整は、ピクセルの位置に基づいたものであり得る。エフェクトの強度の調整は、信号を取得するために用いられたレンズの特性(たとえば、レンズシェーディング)に基づいたものであり得る。エフェクトの強度の調整は、処理されるデータの付近にあるデータの特性に基づくものであり得る。一例として、特性は、データの標準偏差など、事実上統計的なものであり得る。カーネルエフェクトは、これらの因子、または他の因子のいくつによってでも調整され得る。
4.2 カーネルの更新にようるカーネルエフェクトの調整の概説
図21は、実施の形態に従う、1つ以上のパラメータに基づいてカーネルが更新される技術を描く。そして、更新されたカーネルは、コンボリューションのために用いられる。図21において、入力インターフェイス2202は、ISPチェーン内の他のステージから画像信号を受け取り、画像ピクセルを更新カーネルブロック2106に渡す。この実施の形態においては、入力インターフェイス2206は、IPSチェーンからの所定のデータを更新カーネルブロック2106に提供する。このデータの例は、S/N値、画像ヒストグラム、露出時間、デジタルおよびアナログゲイン、デノイジング情報、ホワイトバランス情報、およびピクセルの位置を含むが、それに限定されない。
ば初期カーネルよりも強いエフェクトを有するカーネルと置き換えられ、したがって、メトリックに応じて、処理のエフェクト力を増大するエフェクトが達成される。
4.3 コンボリューション結果の修正によるカーネルエフェクトの調整の概説
図22は、実施の形態に従う、修正される必要のない、カーネルのコンボリューション結果に、「スケーリング」が適用される技術を描く。このスケーリングは、図21に描かれたようなカーネルの更新と同じ結果を達成する。図22において、入力インターフェイス2202は、ISPチェーンの他のステージから画像信号を受け取り、画像ピクセルをコンボリューションブロック2206に渡す。コンボリューションブロック2206は、未修正のカーネル215を用いて、(画像ピクセルに基づいて)信号マトリクスをコンボリューションし、コンボリューション結果を出力する。コンボリューションブロック2206は、初期カーネルを用いて処理されている現在のピクセルのためにコンボリューションを実行し、結果をブロック2212に出力する。
方程式(1)において、ConvRsは、コンボリューション結果であり、InputPixelは、処理されている現在のピクセルの元の値である。実施の形態において、InputPixelは、クロネッカーのデルタカーネルおよび信号マトリクスのコンボリューションの結果であるため、InputPixelが用いられる。所望のエフェクトが、初期カーネルのエフェクトを増大するものである場合、InputPixelは、ConvRsを作成するために用いられたカーネルよりも強いエフェクトを有するカーネルを用いたコンボリューション結果と置き換えられる。メトリックは、0と1の間のダイナミックレンジを有し、0に近い場合には、所望のエフェクトが方程式における第1加数のエフェクトを低減するとともに第2過数のエフェクトを増大し、1に近い場合には、逆になる(最終結果において、方程式における第1加数のエフェクトを増大するとともに第2加数のエフェクトを低減する)ように構成された、いかなる更新メトリックであり得る。いくつかのメトリックは、最終出力を生成するために用いられることができ、また、乗じられている係数の合計が1である限り、2つ以上の加数が方程式において用いられてもよい。ここでは、S/N(「アルファ」)、空間的な位置(「ベータ」)、局所的な特性(「ガンマ」)などの因子に基づいたメトリックのいくつかの例が述べられる。最終結果は、これらの因子または他の因子の1つ以上に基づき得る。
5.0 様々な因子に基づくカーネルエフェクトの調整
5.1 S/N値に基づくカーネルエフェクトの調整
カーネルを更新するシステムの例
図2は、カーネルマトリクスに基づく処理の所望の量を達成する信号マトリクスの処理のためのシステム200の例を説明するブロック図を描く。図2は、実施の形態に従う、カーネルマトリクスの更新、および、更新されたカーネルマトリクスを用いた、画像データの処理を描く。ここにおいて別の場所で記載されたように、カーネルを適用するエフェクトを調整するために、カーネル自体が修正されることは要求されない。1つの実施の形態においては、カーネルに基づく処理のエフェクトを調整するために、画像の処理の後に
、未修正おカーネルを用いてスケーリングが行なわれる。したがって、図2中の様々なブロックが説明の便宜のために描かれ、カーネルの更新の実現には、図2に描かれたようにアルファにるカーネルの乗算は要求されないことが理解されるであろう。
ii.ノイズレベル推定量
iii.インプット画像
実施の形態において、撮影モードは、カーネル215a、215bのどちらの組を用いるかを決定するために用いられる。図2のシステムの例は、マクロモードおよびノーマルモードのためのカーネルを描く。しかしながら、夜間、風景など、他のモードのためのカーネルがあってもよい。撮影モードは、カーネルに対する特別な処理を必要とする、いかなる種類のシーンであり得る。1つの実施の形態においては、撮影モードは、ユーザの選択に基づく。たとえば、ユーザは、マクロモードおよびノーマルモードのどちらかを選択することができる。別の実施の形態においては、撮影モードは自動的に決定される。この実施の形態においては、撮影モードに基づいて、マクロカーネル215aまたはノーマルカーネル215bが、更新初期カーネルブロック202に入力として提供される。実施の形態において、カーネルのための係数は内部メモリに記憶される。一例として、16ビットの符号付の解像度が係数を表わすために用いられる。
計算するアルファ計算ロジック212を有する。1つの実施の形態においては、ノイズレベル推定量が0と最大ノイズ値との間の数値である場合、値αは方程式(2)を用いて計算される。
方程式(2)は、画像にノイズが多いほど(ノイズ値が大きいほど)、値αが小さいことを示す(逆もまた同じ)。したがって、もし、画像中のノイズが少しであれば、値αが1に近くなる。方程式(2)において、アルファとノイズ値との間の関係は線形である。しかしながら、線形の関係は要求されない。ノイズ値と画像中のノイズの実際の量との間の関係に従って、アルファは、二次的な依存、またはその他など、より複雑な態様でノイズ値に依存し得る。もし、ノイズ値が線形であれば、アルファはノイズ値の線形関数であることができる。更新カーネルブロック202は、値αに基づいて初期カーネルの更新版を生成するカーネル更新ロジック214を有する。
ポストコンボリューションスケーリングを用いるシステムの例
前述したように、アルファ更新を達成するためにカーネルにアルファが乗じられることは要求されない。図16は、未修正のカーネルのコンボリューション結果に「スケーリング」が適用される実施の形態を描く。このスケーリングは、図2に描かれた、アルファを用いたカーネルの更新と同じ結果を達成する。図16において、イメージャインターフェイス208は、画像センサ1372から画像信号を受け取り、信号マトリクスをコンボリ
ューションブロック206に渡す。イメージャインターフェイス208からのモード選択信号は、コンボリューションブロック206に供給される1つ以上のカーネル215を選択するために用いられる。異なるモードの例は、前述された。コンボリューションブロック206は、未修正のカーネルを用いて信号マトリクスをコンボリューションし、コンボリューション結果を出力する。各コンボリューション結果は、現在処理されている信号マトリクスのエントリの1つに対する値を含む。
方程式(3)において、ConvRsはコンボリューション結果であり、InputPixelは、処理されている現在のピクセルの元の値である。従って、現在のピクセルに対する最終処理結果は、未修正のカーネルおよび1つ以上の他の値を用いてコンボリューション結果の合計に重み付けさせられる。それらの他の値は、入力画像中の元のピクセル値を含むが、限定されない。この実施の形態において、アルファパラメータは、重み付け(またはスケーリング)パラメータとして用いられる。
5.2 空間的な位置に応じたカーネルエフェクトの調整
システム例
1つの実施の形態においては、デコンボリューションカーネルを画像に適用するエフェクトは、空間的な位置に従って修正される。1つの実施の形態においては、空間的な位置は、画像データを取得するために用いられたレンズに対するシェーディングプロファイルに基づく。図4は、更新カーネルブロック202によってアルファ更新されたコンボリューションカーネルが修正された後に、アルファ更新されたコンボリューションカーネルを修正するために、コンボリューションブロック203内のベータ更新ロジック304が「シェーディングインジケータ」を用いるシステム400のブロック図を描く。シェーディングインジケータは、レンズシェーディングの量を規定し、画像データの中央に関連して記述される。もし望めば、カーネルに対するアルファ更新よりも前に、またはアルファ更新をせずに、カーネルに対するベータ更新を行なうことができる。ここで、別の場所で述べたように、カーネルを適用するエフェクトを調整するためにカーネル自体を修正することは要求されない。1つの実施の形態においては、カーネルに基づく処理のエフェクトを調整するために、未修正のカーネルを用いた画像の処理の後に、スケーリングが行なわれる。ここで、シェーディングインジケータに基づく調整は、「ベータ調整」と表記される。
は要求されないことに留意されたい。むしろ、後述するように、アルファおよびベータ「スケーリング」は、未修正のデコンボリューションマトリクスを用いて画像マトリクスをコンボリューションした後に行なうことができる。
ベータおよびシェーディングプロファイルの例
実施の形態において、レンズシェーディングプロファイルによって引き起こされる、画像境界におけるS/Nのペナルティを補償するために、画像の中心からの距離の関数として、ベータ更新はカーネルを弱くする。図5は、レンズシェーディングプロファイルの例のグラフ500を描く。y軸は、シェーディングパラメータ、すなわちベータの値である。x軸は、レンズの中央からの距離(「R」)である。この例において、Rが大きいほどベータが小さくなる。したがって、この例においては、レンズの中央の付近においてベータが1に近づき、レンズの外端(たとえば外周)に向かって、ベータが零に近づく。この例において、Rとベータとの関係は非線形であることに留意されたい。カーブの形は、方程式(4)に従って近似され得る。
方程式(4)において、βは、0と1の間の値を有する。そして、各ピクセルは、各ピクセルの、画像のレンズ中央からの距離(R)に従って処理される。この距離または距離の2乗は、下記の方程式に従って算出される。
R2=x_index2+y_index2 ・・・(6)
これらの方程式において、x_indexおよびy_indexは、画像中のピクセルのインデックスであり(xは列に対し、yは行に対する)、画像中の中央のピクセルは、[0,0]と標される。「a」および「b」の値は、定数であり、シェーディングの量に影響を与える。
するRの値に少なくとも部分的に基づいて、処理時間を保存するためにテーブルからアクセスされる。しかしながら、βをオンザフライで算出することができる。
β係数を決定するための別の実施の形態
このセクションは、レンズに対するピクセルの相対的な位置を記す値「R」に基づいてβを決定する、別の技術について記述する。この実施の形態において、まず、R2の値が、より小さなダイナミックレンジに変更され得る。方程式(7)は、そのような変更の実行例である。
Rの値をより小さなダイナミックレンジに変更した後、ベータを算出するために方程式(8)が用いられ得る。
定数「p」および「q」は、シェーディングの量に影響を与え、したがって、カーネルの強さを調整する。したがって、これらの定数は、ベータを決定するための前の技術において述べられた定数「a」および「b」と同様の目的を果たすが、同じ定数ではない。「p」および「q」に対する値は、ISPチェーン204aにより与えられ得る(たとえば、シェーディングインジケータはこれらの定数を規定し得る)。代替的に、pおよびqに適した値をコンボリューションブロック206によって決定することができる。一例として、pおよびqは、画像統計データに基づいて決定され得る。しかしながら、pおよびqは、レンズシェーディングプロファイルによって決定され、固定されたままともなり得る。この方程式において、ベータの最終値は0と15の間になり得る(すなわち、ここでは、βを表わすために4ビットが用いられる)ことに留意されたい。しかしながら、βは、実現態様に応じて、いかなる所望のダイナミックレンジを有することができる。
方程式(9)において、βは、0および1の間の最終値を有しうる。
空間依存処理
レンズシェーディングプロファイルに基づくカーネルエフェクトの調整の例は、空間的な(またはピクセルの)位置に基づくカーネルエフェクトの調整のための1つの技術である。しかしながら、これは、空間的な位置に基づくカーネルエフェクトの調整のための唯一の技術ではない。1つの実施の形態においては、位置に依存する光学収差を把握するために画像センサの異なる領域を別に処理するために、異なるカーネルが記憶されたり、画像処理中に導かれたりする。この、位置依存処理は、単一のピクセル領域と同じくらいきめ細かいものであり得るが、異なる領域は1つよりも多いピクセルを有することができる。
ポストデコンボリューションスケーリングを用いたカーネルエフェクトの調整
前述したように、図4中に描かれたようにアルファおよびベータを用いてカーネルを更新するという結果を達成するためにアルファおよびベータの場所でカーネルを乗算することは要求されない。図19は、未修正のカーネルに基づくデコンボリューション結果に、アルファおよびベータ「スケーリング」が適用される実施の形態を描く。この実施の形態においては、イメージャインターフェイス208は、ノイズレベル推定量信号およびシェーディングインジケータを、アルファ算出ロジック212を用いて「アルファ」を算出するスケーリング1602に提供する。アルファの算出は、図2において描かれた実施の形態と同様の態様を実行され得る。本実施の形態において、イメージャインターフェイス208は、シェーディングインジケータ信号およびピクセルインデックスを、ベータ算出ロジック302を用いて「ベータ」を算出するスケーリング1602に提供する。ベータの算出は、図4に描かれた実施の形態と同様の態様で実行され得る。1つの実施の形態においては、シェーディングインジケータは、ベータを決定するためには用いられない。むしろ、ベータは、シェーディングインジケータを用いずに、ピクセルインデックスに基づいて決定される。
方程式(10)において、ConvRsは、コンボリューション結果であり、InputPixelは、処理されている現在のピクセルの元の値である。したがって、現在のピクセルに対する最終処理結果は、未修正のカーネルおよび1つ以上の他の値を用いたコンボリューション結
果の合計に重みを付けさせられる。それらの他の値は、入力画像中の元のピクセル値を含むが、これに限定されない。この実施の形態において、アルファおよびベータパラメータは、重みづけ(またはスケーリング)として用いられる。もし、所望すれば、ベータパラメータはアルファ無しで用いることができる。
5.3 局所的な画像特性に基づくカーネルエフェクトの調整
ある実施の形態においては、カーネルエフェクトは局所的な画像特性に基づいて調整される。画像特性は現在処理されているピクセルの局所的な特性であり得る。画像特性に基づくカーネルエフェクトの調整は、上述したαの調整および/あるいはβの調整とともに実行され得る。しかしながら、ある実施の形態においては、カーネルエフェクトはαやβの調整を行なうことなく画像特性に基づいて調整される。さらに、αの調整あるいはβの調整以外のカーネルエフェクトに対する調整は、このセクションの技術を用いて実行され得る。
局所的な画像特性に基づくカーネルエフェクトの調整に係るアーキテクチャの概要
図7は、コンボリューションブロック206におけるカーネル更新ロジック704が、現在処理されているピクセルの位置の画像特性に基づいて計算されるメトリックに基づいてカーネルを修正する、システム700のブロック図を示す。メトリック自体は、ここで「γ」として参照される値に到達するために修正され得る。システム700においては、カーネルは、まず、γの更新に先立って、αおよびβの更新に基づいて更新される。しかしながら、γの更新にαあるいはβの更新を利用しなくともよい。さらに、本実施の形態においては、γの更新はαおよびβの更新の後で行なわれる。しかしながら、カーネルの更新の順序は変更可能である。本明細書の他の部分で説明されるように、カーネル自体はカーネルを適用することによるエフェクトを調整するために修正される必要はない。ある実施の形態においては、スケーリングは、カーネルに基づいた処理のエフェクトを調整するために、修正されていないカーネルを用いて画像を処理した後に実行される。
局所的な画像特性に基づくカーネルエフェクトの調整に係る機能的な概要
上述したように、本実施の形態においては、処理の強さは、現在処理されているピクセルの周囲の局所的な特性に基づいて調整される。まず、現在のピクセルの周囲のエリアは、エッジがあるか否か、当該ピクセルの周囲の領域が比較的フラット、すなわち均一、(空白の灰色の壁のように)当該領域内の情報に変化がないなど、であるか否かといった情報を決定するために調べられる。方程式(11)は、メトリックを計算するための1つの技術を示すものである。
メトリックの決定の例
以下では、メトリックを計算するための方法のいくつかの例を示す。メトリックは、出力値を計算するための中心ピクセルの周囲の現在の画像ウインドウを利用することによって計算され得る。しかしながら、現在の画像ウインドウの全体における(処理されている色に関する)すべてのピクセルが使用される必要はない。さらに、メトリックは、現在の画像ウインドウの外側にあるピクセルに基づくものであってもよい。さらに、メトリックは、同じ色のピクセルのみに基づいて決定される必要はない。つまり、処理のタイプとし、メトリックの計算において異なる色のピクセルを含むことが好ましい場合もあり得る。分散/標準偏差の例
ある実施の形態においては、現在の画像ウインドウのピクセルの分散あるいは標準偏差が、中心ピクセルの周囲の現在の画像ウインドウにおける差の存在や差の程度を示すものとして利用される。標準偏差が使用される場合には、方程式(13A)あるいは(13B)が使用され得る。
掛ける係数は0に近い値となるであろう。このことは、最終的なカーネルが、画像をシャープにしたり、失われたコントラストを修復したりすることを意味する。標準偏差のダイナミックレンジはすべてのピクセルに対して設定されるので、シーンからシーンへと変化し得るしきい値への依存がない。
ヒストグラムの例
標準偏差の方法と同様の方法は、現在の画像ウインドウのヒストグラムを計算し、当該ヒストグラムに基づいてカーネルの強度を決定することである。現在の画像ウインドウの局所的なヒストグラムは、最初にいくつかの瓶(bin)を定義することによって計算され得る。たとえば、この計算は方程式(19)に従って行なわれる。
エッジ検出の例
ある実施の形態においては、メトリックの決定は、画像内のエッジの検出に基づく。たとえば、コンボリューションマスクは、現在の画像ウインドウ内のエッジを見つけるために使用され得る。使用され得るコンボリューションマスクの例は、以下のものに限定されるわけではないが、Sobel、Laplacian、Prewitt、Robertsを含む。ある実施の形態においては、エッジ検出マスクはエッジを検出するために現在の画像ウインドウに適用される。ウインドウ内のピクセルの標準偏差のような、統計的な尺度が結果に適用される。そして、メトリックは標準偏差の結果に基づく。他の実施の形態においては、エッジ検出マスクは、エッジを検出するために画像ウインドウに適用される。エッジ検出の実施の形態においては、カーネルがエッジが発見されたか否かに基づいて適用される。
距離の例
情報メトリックは、「距離」の方法に基づいても計算され得る。情報メトリックを計算するための方法2300は、図23に示される。この方法は、ピクセル間の絶対的な開きを合計する、ステップ2304から始まる。近い距離は、現在の画像ウインドウ内の中心ピクセルの周囲にあるピクセルから計算される。遠い距離は、同様の画像ウインドウ内の中心ピクセルから空間的な距離にあるピクセルから計算される。この情報メトリック2312は、近い距離のみから計算され、一方、メトリック2316は近い距離および遠い距離の両方から計算される。ステップ2320において、方法2300は、2つの情報メト
リックの値に従って決定される重みを用いて両方の情報メトリックの加重平均を計算し、未だ測定されていない最終の情報メトリックを算出する。ステップ2324において、当該最終の情報メトリックは、現在の画像内の空間的な位置に従って測定され、その後、当該測定された情報メトリックは、図20においてより詳細に説明される処理2400に与えられる。
エッジ強調の実施の形態
エッジ検出マスク内の係数の合計は0であるため、元の画像ウインドウ内にエッジがあるとき、画像ウインドウの結果には、強い積極的および消極的な値を含むであろう。そのため、エッジを含む画像ウインドウは、高い標準偏差の値を有し、その結果高い処理メトリックを有することになる。一方、ウインドウが画像内に「フラット」で均一な領域のためのデータを有するとき、あるいはノイズを有するものの比較的低いノイズの標準偏差を有する領域のためのデータを有するとき、エッジフィルタ処理された画像は互いに近い(典型的には0に近い)ピクセル値を有するであろう。そのため、エッジフィルタ処理された画像は、低い標準偏差の値と低い処理メトリックとを有するであろう。ある実施の形態においては、最終の処理メトリックが0と1との間の値となるように、予め定められた固定のしきい値が、標準偏差を正規化するために使用される。メトリック計算は、方程式(22)に示されるようにして決定され得る。
の例を示す。グリーンピクセルがGr(レッド列におけるグリーン)とGb(ブルー列におけるグリーン)とに分けられると、テーブルIIIをすべてのピクセル(Gr、R、B、Gb)のために使用することができる。テーブルIIIは、レッドあるいはブルーのベイヤー処理のためのエッジ検出マスクの値の例を示す。
エッジ検出の実施の形態
エッジ検出の実施の形態においては、エッジ検出マスク(処理がベイヤーイメージ上で行なわれたときに、ベイヤーパターンに適合するもの)は、エッジを発見するために画像ウインドウ上に適用される。エッジが自然画像の中でどのように現われたかを示すパターンが存在するという仮定を考慮して、しきい値はエッジが存在するか否かを決定するために使用され得る。たとえば、他とは異なる単一のピクセルは、有効な画像データとは対照の無作為のノイズであり得る。エッジの検出とは対照に、ノイズを誤って検出する可能性を低減するために、付近のピクセルに関する結果に従ってしきい値が更新され得る。この方法の可能な実装形態について以下に説明する。
ションカーネルが適用される。そうでない場合、弱いデコンボリューションカーネルがウインドウに適用され得る。さらに、デコンボリューションカーネルのゲインの設定は、エッジの「強さ」に従って行なわれ得る。たとえば、エッジが見つかった場合においては、画像ウインドウのピクセルの標準偏差は、エッジマスクが適用された後に計算される。そして、上述した標準偏差の方法と同様の方法において、カーネルのゲインは標準偏差のメトリックに基づく。
エントロピに基づく例
ある実施の形態においては、画像ウインドウに適用されるべきカーネル(たとえば高いゲインあるいは低いゲインのデコンボリューションカーネル)の強度は、現在の画像ウインドウにおけるエントロピに基づく。高いエントロピは、現在の画像ウインドウに多くの情報が存在することを示すかもしれず、それゆえに、ウインドウに強いカーネルを適用することが望まれるかもしれない。「フラット」な画像ウインドウは、低いエントロピを有するかもしれず、それゆえに、当該ウインドウの処理メトリックに弱いカーネルを適用することが望まれるかもしれない。エントロピの計算は、方程式(23)によって示されるようにして決定され得る。
傾きに基づく例
ある実施の形態においては、エッジの存在は、現在処理されているウインドウ内の中心ピクセルの周囲のいくつかの局所的な傾きを計算することによって決定される。そして、メトリックは、傾きの大きさに従って、たとえば、傾きの大きさの加重平均に従って、計算される。傾きは以下の例に従って得られる。
自然光の例
情報メトリックからγを決定するために同様のゲインファンクションを通常利用するよ
りも、現在の画像ウインドウにおける光の量(レベル)の局所的な推定値に依存することによって利用される、2つあるいはそれ以上の別々のゲインファンクションを有することも可能である。ある実施の形態においては、この推定値は、中心画素自体の値あるいはいくつかの近接するピクセルの加重平均であってもよい。例として方法2400を図24に示す。ここでは、正に2つのゲインファンクションが利用されるが、2つよりも多いゲインファンクションが利用されてもよく、図24は単なる例に過ぎない。ステップ2404において、(図23に関して説明したように)測定された情報メトリックは、2つのゲインファンクションFg1とFg2とに受け渡される。この例においては、ゲインファンクションFg1は光の高いレベルに適合するものであって、ゲインファンクションFg2は光の低いレベルに適合するものである。一方、ステップ2408において、現在処理されているピクセルの光のレベルが測定される。ステップS2412と2416において、第1および第2のゲインファンクションFg1とFg2とが、測定された情報メトリックに適用される。ステップ2420において、2つのゲインファンクションの出力は、ステップS2408において測定されたピクセルの光のレベルに従って重み付けされ、合計されることによって1つの統合されたメトリックが生成される。
ポストコンボリューションスケーリングによるカーネルエレクトの調整
α、β、γに基づく画像処理が、カーネルにγを掛け合わせることを含むということは要求されない。図20は、α、β、γの「スケーリング」が、修正されていないカーネルのデコンボリューション結果に適用される形態を示す。この実施の形態においては、イメージャインターフェイス208は、ノイズレベルの推定量の信号とシェーディングインジケータとをスケーリング1602に提供し、スケーリング1602は、α計算ロジック202を用いることによって「α」を計算する。αの計算は、図2に示される形態と同様の方法によって実行され得る。この実施の形態においては、イメージャインターフェイス208は、シェーディングインジケータの信号とピクセルインデックスとをスケーリング1602に提供し、スケーリング1602はβ計算ロジック302を用いることによって「β」を計算する。βの計算は、図4にて示される形態と同様の方法によって実行される。この実施の形態においては、イメージャインターフェイス208は、現在のピクセルと当該ピクセルの近傍のピクセルの値とをスケーリング1602に提供し、スケーリング1602はγ計算ロジック702を用いることによって「γ」を計算する。γの計算は、ここに開示された技術に従って実行され得る。
6.0 実施の形態に従うモーションブラーを取扱うためのカーネルエフェクトの調整
6.1 モーションブラーの補正の概要
モーションブラーは、画像を取得する際のカメラの動きによって生じ得る画像のブレである。モーションブラーは、長い露出時間(たとえば、光量が少ない状況)で画像を取得するときによく生じる。しばしば、モーションブラーは、方向性のあるPSFによって特徴付けられ得る。たとえば、水平な線は、カメラの水平の動きによって生じるブレを意味する。
向におけるレンズPSFとモーションブラーPSFとのコンボリューションであるPSFに適合する。カーネルの選択は、マッチングアルゴリズムを用いることによってなされ得る。
6.2 ブレ点拡がり関数の実施の形態
モーションブラーの補正を実現するための1つの方法は、モーションブラーの特性を評価し、プレビューモード中にデコンボリューションカーネル(「モーションブラーカーネル」)に適合することである。この方法は、図17に示される実施の形態において説明される。この方法は、プレビューモード中にフレーム同士を比較することによって、モーションブラーを特定する。そして、キャプチャモードに移行したときに、モーションブラーカーネルとその他のカーネルとが画像に適用される。その他のカーネルは、シャープニングのために用いられ得る。ここに示されるように、さまざまな実施の形態においては、α、βおよび/あるいはγのパラメータが、他のカーネルによる処理のエフェクトの強さを修正するために使用される。
6.3 モーションシフトベクトルの実施の形態
IPチェーンのデジタルオートフォーカスブロック111は、プレビューモードあるいはビデオストリーミング中に、揺れている画像の問題に対処するために使用され得る。プレビューモードあるいはビデオストリーミングにおいて、空間的なオフセットが、ディスプレイにおける「揺れ」画像を引起す連続したフレーム間に現われ得る。この問題を取扱うための1つの方法は、最終フレームから推定されたモーションベクトルと反対の方向に予め定められた量だけ画像をシフトさせることである。モーションベクトルが推定されると、当該シフトは、要求された方向への空間的なシフトを引起すカーネルを用いて画像をコンボリューションすることによって、デジタルオートフォーカスブロック111内で実行され得る。
シャープニングとモーションブラーカーネルとの組み合わせ
ここで示されるように、シャープニングアルゴリズムは、処理系依存であり得るカーネルのためのあるサポートサイズを使用し得る。たとえば、カーネルは9×9のピクセルサポートを提供する。しかしながら、シャープニングアルゴリズムに沿ったアンチモーションブラーを用いることは、必ずしもカーネルサイズを増加すべきものではない。通常、2つのカーネルをコンボリューションするときにおいて、1つがM×Mのサイズであって、もう1つがN×Nのサイズである場合、それらのコンボリューションは(M+N−1)×(M+N−1)となる。カーネルサイズを維持するために、シャープニングカーネルの形状をより似通ったものに変更することや、モーションブラーカーネルを補完することが可能である。また、モーションデブラーリングカーネルは、非対称の形状を有し得る。たとえば、デブラーカーネルは、長方形、対角線、さらに円形のサポートでさえも含み得るが、必ずしも正方形のサポートを含むものではない。この非対称は、(線のような)「シンプルな」シェーキングパスだけでなく、(交差した、T字の、あるいは円形のパスのような)より複雑なパスをも補償することができる。
8.0 ハードウェア概要
8.1 モバイルデバイスの例
図13は、本発明の実施の形態が実現されるモバイルデバイス1300の例のブロック図を示す。モバイルデバイス1300は、カメラアセンブリ1302と、カメラおよびグラフィックインターフェイス1380と、通信回路1390とを含む。カメラアセンブリ1370は、カメラレンズ1336と、画像センサ1372と画像プロセッサ1374と
を含む。単一のあるいは複数のレンズを含むカメラレンズ1336は、画像センサ1372への光を集めたり焦点を合わせたりする。画像センサ1372は、カメラレンズ1336によって集められたおよび焦点を合わせられた光によって形成される画像を取得する。画像センサ1372は、CCD(charge-coupled device)あるいはCMOS(complementary metal oxide semiconductor)画像センサのような、通常の画像センサ1372であり得る。画像プロセッサ1374は、引続きメモリ1396に記憶するため、ディスプレイ1326に出力するため、および/あるいは通信回路1390を介して送信するために、画像センサ1372によって取得される未処理の画像データに対して処理を施す。画像プロセッサ1374は、この技術分野においてよく知られている、画像データを処理するためにプログラムされた通常のデジタル信号プロセッサであり得る。
1326と、スピーカ1328と、マイクロフォン1338と、キーパッド1340とを含む。ディスプレイセクションの背面に配置されるディスプレイ1326は、オペレータに、ダイヤルされた数字や、画像や、呼出されたステータスや、メニューの選択肢や、他のサービス情報を見せる。キーパッド1340は、英数字のキーパッドと、この技術分野においてよく知られているような(図示しない)ジョイスティックコントロールのような、ナビゲーションコントロールを選択的に含み得る。さらに、キーパッド1340は、パームトップコンピュータあるいはスマートフォンなどに使用されるような、完全なQWERTYキーボードを含み得る。キーパッド1340は、オペレータに、数字をダイヤルさせたり、命令を入力させたり、選択肢を選択させたりする。
8.2 コンピュータシステムの例
図14は、本発明の1または複数の実施の形態が実現されるコンピュータシステム1400を示すブロック図である。コンピュータシステム1400は、情報を通信するためのバス1402あるいは他の通信機構と、バス1402に接続される情報を処理するためのプロセッサ1404とを含む。コンピュータシステム1400は、バス1402に接続され、プロセッサ1404によって実行される情報と指令とを記憶するための、RAM(random access memory)や他の動的な記憶装置のような、メインメモリ1406をも含む。メインメモリ1406は、プロセッサによって実行されるべき指令が実行されている最中に、一時的な変数あるいは他の中間情報を記憶するためにも使用され得る。コンピュータシステム1400は、バス1402に接続されるとともにプロセッサ1404のための静的な情報および指令を記憶するためのROM(read only memory)1408あるいは他の静的な記憶装置をさらに含む。磁気ディスクあるいは光学ディスクのような記憶装置1410は、情報や指令を記憶するために、提供され、バス1402に接続される。
ピュータシステム1400は、上述された実施の形態を使用することによって処理され得る、可聴式の音声や、静止画や、あるいは動画ビデオを提供するためのマイクロフォンあるいはカメラなどのような音声/ビデオ入力装置1415をさらに含み得る。
接続されるネットワークリンク1420に接続するための双方向のデータ通信を提供する。たとえば、通信インターフェイス1418は、対応する電話回線のタイプへのデータ通信接続を提供するための、ISDN(integrated services digital network)カードあるいはモデムであり得る。他の例としては、通信インターフェイス1418は、互換性があるLANへのデータ通信接続を提供するためのLAN(local area network)カードであり得る。無線のリンクも実現される。このようないかなる実現方法においても、通信インターフェイス1418は、さまざまなタイプの情報を示すデジタルデータストリームを搬送する電気的、電磁気的、あるいは光学的な信号を送信したり受信したりする。
Claims (39)
- 信号の処理の方法であって、
各々が信号の異なる部分を記述するエントリを含む複数の信号マトリクスのうちの各信号マトリクスに対して、前記信号マトリクス上でカーネルマトリクスが有するように意図されたエフェクトの強度に基づいて、前記カーネルマトリクスに基づく、前記信号マトリクスの処理により達成される前記エフェクトの前記強度を調整するステップを含む、方法。 - 前記カーネルマトリクスに基づく前記信号マトリクスの処理により達成される前記エフェクトの前記強度を調整するステップは、
前記信号マトリクスに対し、修正されたカーネルマトリクスを生成するステップと、
前記信号マトリクスに対する第1エントリに対し、新しい値を決定するために、前記修正されたカーネルマトリクスを、前記信号マトリクスに適用するステップとを含む、請求項1に記載の方法。 - 前記カーネルマトリクスに基づく前記信号マトリクスの処理により達成される前記エフェクトの前記強度を調整するステップは、
中間ピクセル値を生成するために前記カーネルマトリクスを前記信号マトリクスに適用するステップと、
前記中間ピクセル値と前記信号マトリクスの第1エントリとの、重み付けされた平均を決定するステップとを含む、請求項1に記載の方法。 - 前記カーネルマトリクスを適用する前記エフェクトは、前記信号中の画像のコントラストを強調する、請求項1に記載の方法。
- 前記カーネルマトリクスを適用する前記エフェクトは、前記信号中の画像上でノイズの除去を実行する、請求項1に記載の方法。
- 前記信号に関連付けられた信号対ノイズレベルに基づいて、前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度を決定するステップをさらに含む、請求項1に記載の方法。
- 前記信号マトリクスによって記述された前記信号を取得するために用いられたレンズの特性に基づいて、前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度を決定するステップをさらに含む、請求項1に記載の方法。
- 前記信号マトリクス中のデータの特性に基づいて、前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度を決定するステップをさらに含む、請求項1に記載の方法。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度の決定は、画像センサ内のピクセルの位置に基づく、請求項1に記載の方法。
- 前記カーネルマトリクスに基づく前記信号マトリクスの処理の前に、画像データのモーションブラー特性に基づいて、前記カーネルマトリクスを修正するステップをさらに含む、請求項1に記載の方法。
- レンズと、
前記レンズに光学的に連結された、画像を取得する画像取得機器と、
カーネルマトリクスに基づいて前記画像を処理するように構成されたロジックとを含み、
前記ロジックは、各々が信号の異なる部分を記述するエントリを含む、複数の信号マトリクスのうちの各信号マトリクスに対して、信号マトリクス上でカーネルマトリクスが有するように意図されたエフェクトの強度に基づいて、前記カーネルマトリクスに基づく、前記信号マトリクスの処理により達成される前記エフェクトの前記強度を調整するように動作可能である、装置。 - 前記カーネルマトリクスに基づく、前記信号マトリクスの処理により達成される前記エフェクトの前記強度を調整するように動作可能な前記ロジックは、
前記信号マトリクスに対し、修正されたカーネルマトリクスを生成し、
前記信号マトリクスに対する第1エントリに対し、新しい値を決定するために、前記修正されたカーネルマトリクスを、前記信号マトリクスに適用するように動作可能である、請求項11に記載の装置。 - 前記カーネルマトリクスに基づく、前記信号マトリクスの処理により達成される前記エフェクトの前記強度を調整するように動作可能な前記ロジックは、
中間ピクセル値を生成するために前記カーネルマトリクスを前記信号マトリクスに適用し、
前記中間ピクセル値と前記信号マトリクスの第1エントリとの、重み付けされた平均を決定するように動作可能である、請求項11に記載の装置。 - 前記カーネルマトリクスを適用する前記エフェクトは、前記信号中の画像のコントラストを強調する、請求項11に記載の装置。
- 前記カーネルマトリクスを適用する前記エフェクトは、前記信号中の画像上でノイズの除去を実行する、請求項11に記載の装置。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度は、前記信号に関連付けられた信号対ノイズ比に基づく、請求項11に記載の装置。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度は、さらに、前記信号マトリクスによって記述された前記信号を取得するために用いられたレンズの特性に基づく、請求項16に記載の装置。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度は、さらに、前記信号マトリクス内のエントリの特性に基づく、請求項17に記載の装置。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度は、さらに、前記信号マトリクス内のエントリの特性に基づく、請求項16に記載の装置。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度は、前記信号マトリクスによって記述された前記信号を取得するために用いられたレンズの特性に基づく、請求項11に記載の装置。
- 前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェ
クトの前記強度は、前記信号マトリクス内のエントリの特性に基づく、請求項11に記載の装置。 - 前記ロジックは、前記信号マトリクス内のエントリの特性に基づいて、前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度を決定するように、さらに動作可能である、請求項11に記載の装置。
- 前記ロジックは、前記カーネルマトリクスが前記信号マトリクス上で有するように意図された前記エフェクトの前記強度を決定するために用いられるメトリックを算出するように、さらに動作可能である、請求項22に記載の装置。
- 前記ロジックは、前記信号マトリクス内の前記エントリの値間の差に基づいて、メトリックを決定するように、さらに動作可能である、請求項23に記載の装置。
- 前記ロジックは、前記信号マトリクス内の前記エントリの値間の標準偏差に基づいて、メトリックを決定するように、さらに動作可能である、請求項24に記載の装置。
- 前記ロジックは、前記信号マトリクス内の前記エントリの値のヒストグラムに基づいて、メトリックを決定するように、さらに動作可能である、.
請求項23に記載の装置。 - 前記ロジックは、前記信号マトリクスにエッジディテクションマスクを適用することにより前記メトリックを決定するように、さらに動作可能である、請求項23に記載の装置。
- 前記ロジックは、前記信号マトリクス内の値のエントロピに基づいて、メトリックを決定するように、さらに動作可能である、請求項23に記載の装置。
- 前記ロジックは、前記カーネルマトリクスに基づく前記信号マトリクスの処理の前に、画像データのモーションブラー特性に基づいて、前記カーネルマトリクスを修正するように、さらに動作可能である、請求項11に記載の装置。
- レンズと、
前記レンズに光学的に連結された、前記レンズから画像データを取得する画像取得機器と、
前記レンズに起因する光学収差およびモーションブラーの両方を補正するように前記画像データを同時に処理するように構成されたロジックとを含む、装置。 - 前記光学収差を補正するために、前記ロジックは、画像の信号対ノイズ比に基づいて、前記画像データのシャープニングの量を調整するように構成される、請求項30に記載の装置。
- 前記光学収差を補正するために、前記ロジックは、前記レンズのレンズシェーディングプロファイルに基づいて、前記画像データのシャープニングの量を調整するように構成される、請求項30に記載の装置。
- 前記光学収差を補正するために、前記ロジックは、前記画像データの局所的な特性に基づいて、前記画像データのシャープニングの量を調整するように構成される、請求項30に記載の装置。
- 前記画像データを処理するように構成される前記ロジックは、前記装置の動きに起因する、推定収差の点拡がり関数に基づいて、前記モーションブラーを補正するように構成される、請求項30に記載の装置。
- 前記画像データを処理するように構成される前記ロジックは、前記画像データの複数のフレーム間で検出可能な、画像の推定変化に基づいて、前記モーションブラーを補正するように構成される、請求項30に記載の装置。
- 前記ロジックは、複数のゲイン関数に基づいて、メトリックを決定するように、さらに動作可能である、請求項23に記載の装置。
- 前記複数のゲイン関数は、画像ウィンドウ中の光量の局所的な推定に基づいて、前記メトリックに適用される、請求項36に記載の装置。
- 前記複数のゲイン関数は、画像ウィンドウ中の光量の局所的な推定に基づいて、重み付けされる、請求項37に記載の装置。
- 前記ロジックは、前記信号マトリクスに適用される距離計算に基づいて、メトリックを決定するように、さらに動作可能である、請求項23に記載の装置。
Applications Claiming Priority (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US92610907P | 2007-04-24 | 2007-04-24 | |
US60/926,109 | 2007-04-24 | ||
US93317707P | 2007-06-04 | 2007-06-04 | |
US60/933,177 | 2007-06-04 | ||
US11/970,427 US8306348B2 (en) | 2007-04-24 | 2008-01-07 | Techniques for adjusting the effect of applying kernels to signals to achieve desired effect on signal |
US11/970,427 | 2008-01-07 | ||
PCT/EP2008/003278 WO2008128772A2 (en) | 2007-04-24 | 2008-04-24 | Techniques for adjusting the effect of applying kernels to signals to achieve desired effect on signals |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010525470A true JP2010525470A (ja) | 2010-07-22 |
JP5374700B2 JP5374700B2 (ja) | 2013-12-25 |
Family
ID=39876007
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010504532A Active JP5374700B2 (ja) | 2007-04-24 | 2008-04-24 | 信号に対して所望のエフェクトを得るために、信号にカーネルを適用するエフェクトを調整するための技術 |
Country Status (6)
Country | Link |
---|---|
US (1) | US8306348B2 (ja) |
EP (1) | EP2147406A2 (ja) |
JP (1) | JP5374700B2 (ja) |
KR (1) | KR101313911B1 (ja) |
CN (2) | CN101669142B (ja) |
WO (1) | WO2008128772A2 (ja) |
Families Citing this family (76)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ES2522589T3 (es) | 2007-02-08 | 2014-11-17 | Behavioral Recognition Systems, Inc. | Sistema de reconocimiento conductual |
JP4922091B2 (ja) | 2007-07-23 | 2012-04-25 | ルネサスエレクトロニクス株式会社 | 映像信号処理装置、映像信号処理方法及び表示装置 |
US8200011B2 (en) | 2007-09-27 | 2012-06-12 | Behavioral Recognition Systems, Inc. | Context processor for video analysis system |
US8300924B2 (en) * | 2007-09-27 | 2012-10-30 | Behavioral Recognition Systems, Inc. | Tracker component for behavioral recognition system |
US8064695B2 (en) * | 2007-09-27 | 2011-11-22 | Behavioral Recognition Systems, Inc. | Dark scene compensation in a background-foreground module of a video analysis system |
US8310587B2 (en) | 2007-12-04 | 2012-11-13 | DigitalOptics Corporation International | Compact camera optics |
JP5191224B2 (ja) * | 2007-12-07 | 2013-05-08 | イーストマン コダック カンパニー | 画像処理装置 |
US20090179913A1 (en) * | 2008-01-10 | 2009-07-16 | Ali Corporation | Apparatus for image reduction and method thereof |
WO2009136923A2 (en) * | 2008-05-07 | 2009-11-12 | Tessera, Inc. | Efficient implementations of kernel computation |
US8471921B1 (en) * | 2008-06-23 | 2013-06-25 | Marvell International Ltd. | Reducing optical crosstalk and radial fall-off in imaging sensors |
US8537233B1 (en) | 2008-10-14 | 2013-09-17 | Marvell International Ltd. | Preventing color artifacts in overexposed regions and preserving maximum signals in near-overexposed regions of digital images |
WO2010085249A1 (en) | 2009-01-22 | 2010-07-29 | Hewlett-Packard Development Company, L.P. | Estimating blur degradation of an image using specular higlights |
WO2010114449A1 (en) * | 2009-03-30 | 2010-10-07 | Telefonaktiebolaget Lm Ericsson (Publ) | Barcode processing |
TW201044856A (en) * | 2009-06-09 | 2010-12-16 | Ind Tech Res Inst | Image restoration method and apparatus |
US8482622B2 (en) * | 2009-08-27 | 2013-07-09 | Sony Corporation | Method, system and computer program product for reducing motion blur |
US8611690B2 (en) * | 2009-10-21 | 2013-12-17 | Hewlett-Packard Development Company, L.P. | Real-time video deblurring |
TW201121305A (en) * | 2009-12-15 | 2011-06-16 | Ability Entpr Co Ltd | System and method of color interpolation |
CN102098520A (zh) * | 2009-12-15 | 2011-06-15 | 佳能企业股份有限公司 | 色彩内插系统及方法 |
US8478064B2 (en) * | 2010-01-19 | 2013-07-02 | Pixar | Selective diffusion of filtered edges in images |
EP2574039B1 (en) * | 2010-05-21 | 2018-05-02 | Panasonic Intellectual Property Corporation of America | Image pickup device, image processing device, image processing method, and image processing program |
US8325248B2 (en) | 2010-06-04 | 2012-12-04 | Apple Inc. | Dual processing of raw image data |
US8228406B2 (en) | 2010-06-04 | 2012-07-24 | Apple Inc. | Adaptive lens shading correction |
US8319861B2 (en) | 2010-06-04 | 2012-11-27 | Apple Inc. | Compensation for black level changes |
KR101681776B1 (ko) * | 2010-06-10 | 2016-12-01 | 엘지디스플레이 주식회사 | 화질 제어 방법과 이를 이용한 표시장치 |
WO2012015628A2 (en) * | 2010-07-30 | 2012-02-02 | Ge Healthcare Bio-Sciences Corp. | Method for reducing image artifacts produced by a cmos camera |
US20120033888A1 (en) * | 2010-08-09 | 2012-02-09 | Tetsuya Takamori | Image processing system, image processing method, and computer readable medium |
US9208570B2 (en) * | 2012-03-28 | 2015-12-08 | Sony Corporation | System and method for performing depth estimation by utilizing an adaptive kernel |
US9153015B2 (en) * | 2011-03-24 | 2015-10-06 | Mitsubishi Electric Corporation | Image processing device and method |
US8781187B2 (en) * | 2011-07-13 | 2014-07-15 | Mckesson Financial Holdings | Methods, apparatuses, and computer program products for identifying a region of interest within a mammogram image |
SE536669C2 (sv) * | 2012-02-21 | 2014-05-13 | Flir Systems Ab | Bildbehandlingsmetod med detaljförstärkande filter med adaptiv filterkärna |
JP6306811B2 (ja) * | 2012-06-22 | 2018-04-04 | 富士通株式会社 | 画像処理装置、情報処理方法及びプログラム |
US9830172B2 (en) * | 2012-06-30 | 2017-11-28 | Microsoft Technology Licensing, Llc | Implementing functional kernels using compiled code modules |
WO2014014957A1 (en) * | 2012-07-16 | 2014-01-23 | Flir Systems, Inc. | Methods and systems for suppressing noise in images |
US9811884B2 (en) | 2012-07-16 | 2017-11-07 | Flir Systems, Inc. | Methods and systems for suppressing atmospheric turbulence in images |
JP5983373B2 (ja) * | 2012-12-07 | 2016-08-31 | 富士通株式会社 | 画像処理装置、情報処理方法及びプログラム |
KR102087986B1 (ko) * | 2013-10-04 | 2020-03-11 | 삼성전자주식회사 | 이미지 데이터를 처리하는 방법 및 장치 |
WO2015064277A1 (ja) * | 2013-10-31 | 2015-05-07 | 富士フイルム株式会社 | 信号処理装置、撮像装置、パラメータ生成方法、信号処理方法及びプログラム |
US9626476B2 (en) | 2014-03-27 | 2017-04-18 | Change Healthcare Llc | Apparatus, method and computer-readable storage medium for transforming digital images |
US9785860B2 (en) * | 2014-07-16 | 2017-10-10 | The Cleveland Clinic Foundation | Real-time image enhancement for X-ray imagers |
CN104202583B (zh) * | 2014-08-07 | 2017-01-11 | 华为技术有限公司 | 图像处理装置和方法 |
US9781405B2 (en) * | 2014-12-23 | 2017-10-03 | Mems Drive, Inc. | Three dimensional imaging with a single camera |
CN104574277A (zh) * | 2015-01-30 | 2015-04-29 | 京东方科技集团股份有限公司 | 图像插值方法和图像插值装置 |
KR101731178B1 (ko) * | 2015-10-02 | 2017-04-28 | 엘지디스플레이 주식회사 | 유기 발광 표시장치와 그 구동 방법 |
US9503291B1 (en) * | 2015-11-04 | 2016-11-22 | Global Unichip Corporation | Method and apparatus for discrete multitone transmission |
US11100622B2 (en) * | 2016-04-21 | 2021-08-24 | Kripton Co., Ltd. | Image processing device, image processing program and image processing method, and image transmission/reception system and image transmission/reception method |
US10230912B2 (en) * | 2016-06-28 | 2019-03-12 | Seek Thermal, Inc. | Fixed pattern noise mitigation for a thermal imaging system |
US10867371B2 (en) | 2016-06-28 | 2020-12-15 | Seek Thermal, Inc. | Fixed pattern noise mitigation for a thermal imaging system |
WO2018068250A1 (zh) * | 2016-10-13 | 2018-04-19 | 深圳市大疆创新科技有限公司 | 处理数据的方法、装置、芯片和摄像头 |
US11113791B2 (en) | 2017-01-03 | 2021-09-07 | Flir Systems, Inc. | Image noise reduction using spectral transforms |
KR101956250B1 (ko) * | 2017-02-20 | 2019-03-08 | 한국해양과학기술원 | 해색 영상을 이용한 해안선 모니터링 장치 및 방법 |
CN108513043A (zh) * | 2017-02-27 | 2018-09-07 | 中兴通讯股份有限公司 | 一种图像降噪方法及终端 |
US10467056B2 (en) * | 2017-05-12 | 2019-11-05 | Google Llc | Configuration of application software on multi-core image processor |
US10580149B1 (en) * | 2017-06-26 | 2020-03-03 | Amazon Technologies, Inc. | Camera-level image processing |
US10510153B1 (en) * | 2017-06-26 | 2019-12-17 | Amazon Technologies, Inc. | Camera-level image processing |
CN109587466B (zh) * | 2017-09-29 | 2020-02-21 | 华为技术有限公司 | 颜色阴影校正的方法和装置 |
US20190202372A1 (en) * | 2018-01-03 | 2019-07-04 | Getac Technology Corporation | Vehicular image pickup device and image capturing method |
US20190295228A1 (en) * | 2018-03-21 | 2019-09-26 | Nvidia Corporation | Image in-painting for irregular holes using partial convolutions |
US10546044B2 (en) | 2018-05-15 | 2020-01-28 | Apple Inc. | Low precision convolution operations |
CN110536063B (zh) * | 2018-05-25 | 2021-06-15 | 神讯电脑(昆山)有限公司 | 车用取像装置及影像撷取方法 |
CN109065001B (zh) * | 2018-06-20 | 2021-06-25 | 腾讯科技(深圳)有限公司 | 一种图像的降采样方法、装置、终端设备和介质 |
US11227435B2 (en) | 2018-08-13 | 2022-01-18 | Magic Leap, Inc. | Cross reality system |
JP2022512600A (ja) | 2018-10-05 | 2022-02-07 | マジック リープ, インコーポレイテッド | 任意の場所における場所特有の仮想コンテンツのレンダリング |
KR102575126B1 (ko) * | 2018-12-26 | 2023-09-05 | 주식회사 엘엑스세미콘 | 영상 처리 장치 및 그 방법 |
US11170475B2 (en) | 2019-01-10 | 2021-11-09 | Kla Corporation | Image noise reduction using stacked denoising auto-encoder |
WO2021076757A1 (en) * | 2019-10-15 | 2021-04-22 | Magic Leap, Inc. | Cross reality system supporting multiple device types |
US11640645B2 (en) | 2019-10-25 | 2023-05-02 | Samsung Electronics Co., Ltd. | Apparatus and method of acquiring image by employing color separation lens array |
EP4073763A4 (en) | 2019-12-09 | 2023-12-27 | Magic Leap, Inc. | CROSS-REALLY SYSTEM WITH SIMPLIFIED PROGRAMMING OF VIRTUAL CONTENT |
KR20210099516A (ko) * | 2020-02-03 | 2021-08-12 | 아이엠에스 나노패브릭케이션 게엠베하 | 멀티―빔 라이터의 블러 변화 보정 |
US11562525B2 (en) | 2020-02-13 | 2023-01-24 | Magic Leap, Inc. | Cross reality system with map processing using multi-resolution frame descriptors |
US11727540B2 (en) * | 2020-12-31 | 2023-08-15 | Samsung Electronics Co., Ltd. | Image sharpening |
US11922609B2 (en) * | 2021-03-17 | 2024-03-05 | Huawei Technologies Co., Ltd. | End to end differentiable machine vision systems, methods, and media |
CN113191976B (zh) * | 2021-04-30 | 2024-03-22 | Oppo广东移动通信有限公司 | 图像拍摄方法、装置、终端及存储介质 |
EP4109060A1 (en) * | 2021-06-22 | 2022-12-28 | Melexis Technologies NV | Method of digitally processing a plurality of pixels and temperature measurement apparatus |
KR20230036409A (ko) * | 2021-09-07 | 2023-03-14 | 삼성전자주식회사 | 이미지를 선명화하는 전자 장치 및 그 동작 방법 |
KR20230039018A (ko) * | 2021-09-13 | 2023-03-21 | 삼성전자주식회사 | 대조도 조절 방법 및 이를 이용하는 장치 |
CN114511469B (zh) * | 2022-04-06 | 2022-06-21 | 江苏游隼微电子有限公司 | 一种图像智能降噪先验检测方法 |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000057337A (ja) * | 1998-08-06 | 2000-02-25 | Mitsubishi Electric Corp | 画像処理装置 |
JP2001319228A (ja) * | 2000-02-28 | 2001-11-16 | Sharp Corp | 画像処理装置および画像処理システム |
JP2001352464A (ja) * | 2000-06-08 | 2001-12-21 | Sony Corp | 映像信号処理装置および映像信号処理方法 |
JP2002247444A (ja) * | 2001-02-14 | 2002-08-30 | Olympus Optical Co Ltd | 画像処理装置及び画像処理プログラムを記録した記録媒体 |
JP2002325186A (ja) * | 2001-04-25 | 2002-11-08 | Matsushita Electric Ind Co Ltd | 撮像装置 |
JP2003150955A (ja) * | 2001-11-15 | 2003-05-23 | Denso Corp | 画像処理装置、ナビゲーション装置、プログラム |
JP2003308528A (ja) * | 2003-02-04 | 2003-10-31 | Seiko Epson Corp | 画像処理装置および方法 |
JP2005063022A (ja) * | 2003-08-08 | 2005-03-10 | Noritsu Koki Co Ltd | ノイズ画素マップ作成方法とその方法を実施する装置とプログラム及び写真プリント装置 |
JP2005074080A (ja) * | 2003-09-02 | 2005-03-24 | Fuji Photo Film Co Ltd | 異常陰影候補検出方法、装置、およびプログラム |
JP2005103325A (ja) * | 2004-12-28 | 2005-04-21 | Olympus Corp | 電子内視鏡装置 |
JP2005142891A (ja) * | 2003-11-07 | 2005-06-02 | Fujitsu Ltd | 画像処理方法及び画像処理装置 |
JP2005216043A (ja) * | 2004-01-30 | 2005-08-11 | Noritsu Koki Co Ltd | 軟調効果フィルタ及びその処理プログラム |
JP2005354701A (ja) * | 2004-06-08 | 2005-12-22 | Samsung Electronics Co Ltd | 鮮明度の向上及びノイズ処理が可能な映像信号処理装置及び方法 |
JP2006033760A (ja) * | 2004-07-21 | 2006-02-02 | Olympus Imaging Corp | 撮像装置および画像補正方法 |
JP2006166108A (ja) * | 2004-12-08 | 2006-06-22 | Canon Inc | 撮像装置および撮像制御方法 |
JP2006187004A (ja) * | 2004-12-24 | 2006-07-13 | Sony Taiwan Ltd | 画像信号処理装置 |
JP2006229383A (ja) * | 2005-02-16 | 2006-08-31 | Sony Corp | 画像データ処理方法および画像データ処理装置 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5764307A (en) * | 1995-07-24 | 1998-06-09 | Motorola, Inc. | Method and apparatus for spatially adaptive filtering for video encoding |
JPH11122626A (ja) | 1997-10-17 | 1999-04-30 | Nikon Corp | 画像処理方法及び装置並びに画像処理プログラムを記録した記録媒体 |
US6625325B2 (en) * | 1998-12-16 | 2003-09-23 | Eastman Kodak Company | Noise cleaning and interpolating sparsely populated color digital image using a variable noise cleaning kernel |
AUPQ377899A0 (en) * | 1999-10-29 | 1999-11-25 | Canon Kabushiki Kaisha | Phase three kernel selection |
US6674486B2 (en) | 2000-05-31 | 2004-01-06 | Sony Corporation | Signal processor and signal processing method |
US6823086B1 (en) * | 2000-08-29 | 2004-11-23 | Analogic Corporation | Adaptive spatial filter |
KR20020086937A (ko) * | 2001-01-26 | 2002-11-20 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 시공간 필터 유닛 및 이러한 시공간 필터 유닛을 포함하는영상 디스플레이 장치 |
US7072525B1 (en) * | 2001-02-16 | 2006-07-04 | Yesvideo, Inc. | Adaptive filtering of visual image using auxiliary image information |
CN1208740C (zh) * | 2002-05-29 | 2005-06-29 | 北京中星微电子有限公司 | 数码图像噪声净化和锐化方法 |
US7305145B2 (en) * | 2003-05-23 | 2007-12-04 | Lockheed Martin Corporation | Method and apparatus for filtering an image |
US7430334B2 (en) * | 2003-07-31 | 2008-09-30 | Hewlett Packard Development Company, L.P. | Digital imaging systems, articles of manufacture, and digital image processing methods |
US20050114418A1 (en) * | 2003-11-24 | 2005-05-26 | John E. Rosenstengel | Efficient convolution method with radially-symmetric kernels |
WO2005124664A2 (en) * | 2004-06-14 | 2005-12-29 | Precoad, Inc. | Image clean-up and pre-coding |
JP4724124B2 (ja) * | 2004-10-08 | 2011-07-13 | パナソニック株式会社 | 画像処理装置および画像処理プログラム |
US20060093234A1 (en) * | 2004-11-04 | 2006-05-04 | Silverstein D A | Reduction of blur in multi-channel images |
US7847863B2 (en) * | 2005-06-10 | 2010-12-07 | Intel Corporation | Enhancing sharpness in video images |
EP1959390A4 (en) * | 2005-10-12 | 2010-05-05 | Panasonic Corp | VISUAL PROCESSING APPARATUS, DISPLAY APPARATUS, VISUAL PROCESSING METHOD, PROGRAM, AND INTEGRATED CIRCUIT |
US7826676B2 (en) | 2007-03-08 | 2010-11-02 | Mitsubishi Electric Research Laboraties, Inc. | Method for filtering data with arbitrary kernel filters |
US20090077359A1 (en) * | 2007-09-18 | 2009-03-19 | Hari Chakravarthula | Architecture re-utilizing computational blocks for processing of heterogeneous data streams |
-
2008
- 2008-01-07 US US11/970,427 patent/US8306348B2/en not_active Expired - Fee Related
- 2008-04-24 WO PCT/EP2008/003278 patent/WO2008128772A2/en active Application Filing
- 2008-04-24 CN CN2008800134225A patent/CN101669142B/zh active Active
- 2008-04-24 EP EP08735375A patent/EP2147406A2/en not_active Ceased
- 2008-04-24 KR KR1020097023185A patent/KR101313911B1/ko active IP Right Grant
- 2008-04-24 JP JP2010504532A patent/JP5374700B2/ja active Active
- 2008-04-24 CN CN201310331810.0A patent/CN103561206B/zh active Active
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000057337A (ja) * | 1998-08-06 | 2000-02-25 | Mitsubishi Electric Corp | 画像処理装置 |
JP2001319228A (ja) * | 2000-02-28 | 2001-11-16 | Sharp Corp | 画像処理装置および画像処理システム |
JP2001352464A (ja) * | 2000-06-08 | 2001-12-21 | Sony Corp | 映像信号処理装置および映像信号処理方法 |
JP2002247444A (ja) * | 2001-02-14 | 2002-08-30 | Olympus Optical Co Ltd | 画像処理装置及び画像処理プログラムを記録した記録媒体 |
JP2002325186A (ja) * | 2001-04-25 | 2002-11-08 | Matsushita Electric Ind Co Ltd | 撮像装置 |
JP2003150955A (ja) * | 2001-11-15 | 2003-05-23 | Denso Corp | 画像処理装置、ナビゲーション装置、プログラム |
JP2003308528A (ja) * | 2003-02-04 | 2003-10-31 | Seiko Epson Corp | 画像処理装置および方法 |
JP2005063022A (ja) * | 2003-08-08 | 2005-03-10 | Noritsu Koki Co Ltd | ノイズ画素マップ作成方法とその方法を実施する装置とプログラム及び写真プリント装置 |
JP2005074080A (ja) * | 2003-09-02 | 2005-03-24 | Fuji Photo Film Co Ltd | 異常陰影候補検出方法、装置、およびプログラム |
JP2005142891A (ja) * | 2003-11-07 | 2005-06-02 | Fujitsu Ltd | 画像処理方法及び画像処理装置 |
JP2005216043A (ja) * | 2004-01-30 | 2005-08-11 | Noritsu Koki Co Ltd | 軟調効果フィルタ及びその処理プログラム |
JP2005354701A (ja) * | 2004-06-08 | 2005-12-22 | Samsung Electronics Co Ltd | 鮮明度の向上及びノイズ処理が可能な映像信号処理装置及び方法 |
JP2006033760A (ja) * | 2004-07-21 | 2006-02-02 | Olympus Imaging Corp | 撮像装置および画像補正方法 |
JP2006166108A (ja) * | 2004-12-08 | 2006-06-22 | Canon Inc | 撮像装置および撮像制御方法 |
JP2006187004A (ja) * | 2004-12-24 | 2006-07-13 | Sony Taiwan Ltd | 画像信号処理装置 |
JP2005103325A (ja) * | 2004-12-28 | 2005-04-21 | Olympus Corp | 電子内視鏡装置 |
JP2006229383A (ja) * | 2005-02-16 | 2006-08-31 | Sony Corp | 画像データ処理方法および画像データ処理装置 |
Also Published As
Publication number | Publication date |
---|---|
CN103561206A (zh) | 2014-02-05 |
WO2008128772A2 (en) | 2008-10-30 |
US20080266413A1 (en) | 2008-10-30 |
CN101669142A (zh) | 2010-03-10 |
WO2008128772A3 (en) | 2009-10-01 |
KR101313911B1 (ko) | 2013-10-01 |
JP5374700B2 (ja) | 2013-12-25 |
WO2008128772A8 (en) | 2010-04-29 |
EP2147406A2 (en) | 2010-01-27 |
KR20100016278A (ko) | 2010-02-12 |
CN101669142B (zh) | 2013-10-16 |
CN103561206B (zh) | 2017-05-31 |
US8306348B2 (en) | 2012-11-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5374700B2 (ja) | 信号に対して所望のエフェクトを得るために、信号にカーネルを適用するエフェクトを調整するための技術 | |
US10171786B2 (en) | Lens shading modulation | |
RU2543974C2 (ru) | Управление автофокусировкой с использованием статистических данных изображения на основании показателей грубой и точной автофокусировки | |
JP6169186B2 (ja) | 画像処理方法及び装置並びに撮影端末 | |
RU2537038C2 (ru) | Автоматическая обработка баланса белого с гибким выбором цветового пространства | |
EP2368226B1 (en) | High dynamic range image combining | |
EP2987135B1 (en) | Reference image selection for motion ghost filtering | |
US8941762B2 (en) | Image processing apparatus and image pickup apparatus using the same | |
JP5251637B2 (ja) | ノイズ低減装置、ノイズ低減方法、ノイズ低減プログラム、記録媒体 | |
US20160371821A1 (en) | Image processing device, imaging device, image processing method, and program | |
US7999867B2 (en) | Image edge detection apparatus and method, image sharpness emphasizing apparatus and method, recorded meduim recorded the program performing it | |
JP5759085B2 (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム並びに記録媒体 | |
KR101526031B1 (ko) | 이미지에서 콘트라스트를 보존하면서 노이즈를 저감시키기 위한 기술 | |
US20170070718A1 (en) | Advanced Multi-Band Noise Reduction | |
JP2013509092A (ja) | 撮像素子における欠陥画素の検出及び補正のためのシステム及び方法 | |
WO2006005798A1 (en) | Methods, system, program modules and computer program product for restoration of color components in an image model | |
US10692191B2 (en) | Per-pixel photometric contrast enhancement with noise control | |
US8249376B2 (en) | Apparatus and method of restoring an image | |
WO2013187133A1 (ja) | 画像処理装置及び画像処理方法 | |
JP2012257140A (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110136073B (zh) | 图像锐化处理方法及其系统 | |
JP7248042B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
CN113808038A (zh) | 图像处理方法、介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101118 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20110309 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20110309 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120302 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120821 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121115 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130423 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130726 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20130805 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130827 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130828 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5374700 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D04 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D04 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |