JP2023075606A - 画像処理装置および撮像装置 - Google Patents

画像処理装置および撮像装置 Download PDF

Info

Publication number
JP2023075606A
JP2023075606A JP2021188609A JP2021188609A JP2023075606A JP 2023075606 A JP2023075606 A JP 2023075606A JP 2021188609 A JP2021188609 A JP 2021188609A JP 2021188609 A JP2021188609 A JP 2021188609A JP 2023075606 A JP2023075606 A JP 2023075606A
Authority
JP
Japan
Prior art keywords
image data
unit
row
size
noise
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021188609A
Other languages
English (en)
Inventor
建吾 安藤
Kengo Ando
知治 竹林
Tomoharu Takebayashi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2021188609A priority Critical patent/JP2023075606A/ja
Publication of JP2023075606A publication Critical patent/JP2023075606A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Abstract

【課題】回路規模の縮小化を図る画像処理装置及び撮像装置を提供する。【解決手段】撮像装置から撮像部を除いた画像処理部からなる装置である画像処理装置200は、サイズが異なる複数の画像データのいずれかを時分割で選択する選択部と、選択部によって選択された画像データを選択順にノイズ除去するノイズ除去部260と、を有する。【選択図】図2

Description

本発明は、画像処理装置および撮像装置に関する。
従来、画像からノイズ除去するにあたり、画像に対して多重解像度変換処理を施して大きさの異なる複数の縮小画像を生成し、各縮小画像に対するノイズ抽出処理の結果に基づいて、元の画像からノイズを除去する技術がある。
特開2000-224421号公報
第1開示技術の画像処理装置は、サイズが異なる複数の画像データのいずれかを時分割で選択する選択部と、前記選択部によって選択された画像データを選択順にノイズ除去するノイズ除去部と、を有する。
第2開示技術の画像処理装置は、入力画像データの1/2サイズから1/22nサイズ(nは1以上の整数)までの縮小画像データ群を生成する縮小部と、前記縮小部によって縮小された縮小画像データ群について、1/22(n-1)サイズから1/2サイズまでの拡大画像データ群を生成する拡大部と、前記1/22nサイズの縮小画像データと、前記拡大部によって生成された1/22(n-1)サイズから1/2サイズまでの拡大画像データ群と、の中から、時分割でいずれかの画像データを選択する選択部と、前記選択部によって選択された画像データを選択順にノイズ除去し、ノイズ除去した画像データのサイズが1/2サイズになるまで、前記ノイズ除去した画像データを前記拡大部に出力するノイズ除去部と、を有する。
第3開示技術の画像処理装置は、入力された画像データに基づいてサイズの異なる複数の画像データを生成する生成部と、前記生成部によって生成されたサイズの異なる複数の前記画像データのうち、異なるタイミングで選択された画像データを選択順にノイズ除去するノイズ除去部と、を有する。
図1は、撮像装置のハードウェア構成例を示すブロック図である。 図2は、画像処理装置のハードウェア構成例を示すブロック図である。 図3は、縮小部の構成例を示す説明図である。 図4は、1/16解像処理の一例を示す説明図である。 図5は、1/8解像処理の一例を示す説明図である。 図6は、1/4解像処理の一例を示す説明図である。 図7は、1/2解像処理の一例を示す説明図である。 図8は、時分割ノイズ除去処理例1を示す説明図である。 図9は、時分割ノイズ除去処理例2を示す説明図である。 図10は、時分割ノイズ除去処理例3を示す説明図である。 図11は、時分割ノイズ除去処理例4を示す説明図である。 図12は、時分割ノイズ除去処理例5を示す説明図である。 図13は、時分割ノイズ除去処理例6を示す説明図である。 図14は、時分割ノイズ除去処理例7を示す説明図である。
<撮像装置のハードウェア構成例>
図1は、撮像装置のハードウェア構成例を示すブロック図である。撮像装置100は、静止画または動画撮影可能な装置であり、具体的には、たとえば、デジタルカメラ、デジタルビデオカメラ、スマートフォン、タブレット、パーソナルコンピュータ、ゲーム機である。図1では、撮像装置の一例としてデジタルカメラを例に挙げて説明する。
撮像装置100は、プロセッサ101と、記憶デバイス102と、駆動部103と、光学系104と、撮像素子105と、AFE(Analog Front End)106と、LSI(Large Scale Integration)107と、操作デバイス108と、センサ109と、表示デバイス110と、通信IF(Interface)111と、バス112と、を有する。プロセッサ101、記憶デバイス102、駆動部103、LSI107、操作デバイス108、センサ109、表示デバイス110、および通信IF111は、バス112に接続される。
プロセッサ101は、撮像装置100を制御する。記憶デバイス102は、プロセッサ101の作業エリアとなる。また、記憶デバイス102は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体である。記憶デバイス102としては、たとえば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、フラッシュメモリがある。記憶デバイス102は、撮像装置100に複数実装されてもよく、そのうちの少なくとも1つは、撮像装置100に対し着脱自在でもよい。
駆動部103は、光学系104を駆動制御する。駆動部103は、駆動回路103aと駆動源103bとを有する。駆動回路103aは、プロセッサ101からの指示により駆動源103bを制御する。駆動源103bは、たとえば、モータであり、駆動回路103aの制御により、光学系104内のズーミングレンズ741bおよびフォーカシングレンズ741cを光軸方向に移動させたり、絞り742を開閉制御する。
光学系104は、光軸方向に配列された複数のレンズ(レンズ741a、ズーミングレンズ741b、およびフォーカシングレンズ741c)と、絞り742と、を含む。光学系104は、被写体光を集光し、撮像素子105に出射する。
撮像素子105は、光学系104からの被写体光を受光して電気信号に変換する。撮像素子105は、たとえば、XYアドレス方式の固体撮像素子(たとえば、CMOS(Complementary Metal‐Oxide Semiconductor))であってもよく、順次走査方式の固体撮像素子(たとえば、CCD(Charge Coupled Device))であってもよい。
撮像素子105の受光面には、複数の受光素子(画素)がマトリクス状に配列されている。そして、撮像素子105の画素には、それぞれが異なる色成分の光を透過させる複数種類のカラーフィルタが所定の色配列(たとえば、ベイヤ配列)に従って配置される。そのため、撮像素子105の各画素は、カラーフィルタでの色分解によって各色成分に対応するアナログの電気信号を出力する。
AFE106は、撮像素子105からのアナログの電気信号に対して信号処理を施すアナログフロントエンド回路である。AFE106は、電気信号のゲイン調整、アナログ信号処理(相関二重サンプリング、黒レベル補正など)、A/D変換処理、デジタル信号処理(欠陥画素補正など)を順次実行してRAW画像データを生成し、LSI107に出力する。上述した駆動部103、光学系104、撮像素子105、およびAFE106は、撮像部720を構成する。
LSI107は、AFE106からのRAW画像データについて、色補間、ホワイトバランス調整、輪郭強調、ガンマ補正、階調変換などの画像処理や符号化処理、復号処理、圧縮伸張処理など、特定の処理を実行する集積回路である。LSI107は、具体的には、たとえば、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)などのPLD(Programmable Logic Device)によって実現してもよい。
操作デバイス108は、コマンドやデータを入力する。操作デバイス108としては、たとえば、レリーズボタンを含む各種ボタン、スイッチ、ダイヤル、タッチパネルがある。センサは、情報を検出するデバイスであり、たとえば、AF(Automatic Focus)センサ、AE(Automatic Exposure)センサ、ジャイロセンサ、加速度センサ、温度センサなどがある。表示デバイス110は、画像データや設定画面300を表示する。表示デバイス110には、撮像装置100の背面にある背面モニタと、電子ビューファインダと、がある。通信IF111は、ネットワークと接続し、データを送受信する。
なお、プロセッサ101、記憶デバイス102、LSI107、操作デバイス108、センサ109、表示デバイス110、通信IF111、およびバス112を、画像処理部130と称す。また、撮像装置100から撮像部120を除いた画像処理部130からなる装置を、画像処理装置と称す。
<画像処理装置のハードウェア構成例>
図2は、画像処理装置のハードウェア構成例を示すブロック図である。画像処理装置200は、たとえば、多重解像度解析を実行する。画像処理装置200は、縮小部210と、第1選択部220と、変更部230と、拡大部240と、第2選択部250と、ノイズ除去部260と、第3選択部270と、を有する。
縮小部210は、入力画像データから、入力画像データのサイズ(解像度ともいう)よりも小さく、かつ、各々サイズが異なる複数の縮小画像データを生成する回路である。すなわち、縮小部210は、入力画像データに基づいてサイズの異なる複数の画像データを生成する生成部として機能する回路である。具体的には、たとえば、縮小部210は、入力画像データの1/2サイズから1/22nサイズ(nは1以上の整数)までの縮小画像データ群を生成する。図2は、n=4の例である。n=4の場合、縮小部210は、1/2サイズ、1/4サイズ、1/8サイズ、および1/16サイズの縮小画像データを生成する。
第1選択部220は、1/2サイズから1/22(n-1)サイズまでの縮小画像データ群を保持し、いずれかのサイズの縮小画像データを選択して、変更部230に出力する回路である。具体的には、たとえば、第1選択部220は、縮小画像データの保持順に選択して、変更部230に出力する。
第1選択部220は、1/2サイズから1/22(n-1)サイズ(nは1以上の整数)までの縮小画像データ群の各々を保持する(n-1)個のラインバッファを有する。図2は、n=4の例であるため、第1選択部220は、1/2縮小バッファ221、1/4縮小バッファ222、および1/8縮小バッファ223を有する。
たとえば、1/2縮小バッファ221は、1/2サイズの縮小画像データの1行分を保持し、1/4縮小バッファ222は、1/4サイズの縮小画像データの1行分を保持し、1/8縮小バッファ223は、1/8サイズの縮小画像データの1行分を保持する。なお、各縮小バッファ221~223が保持する行は、1行分に限らず複数行分でもよい。
変更部230は、第3選択部270から選択されたノイズ除去画像データのサイズが特定のサイズである場合に、第1選択部220から選択された縮小画像データと第3選択部270から選択されたノイズ除去画像データとの拡大部240への出力タイミングを変更する回路である。具体的には、変更部230は、拡大部240からのサイズが異なる複数の拡大画像データの第2選択部250による選択タイミングが異なるように、拡大部240への出力タイミングを変更する。
たとえば、変更部230は、1/22(n-m)サイズの拡大画像データをノイズ除去部260によってノイズ除去した1/22(n-m)サイズ(mは、n<2m-1を満たす1以上の整数)のノイズ除去画像データの拡大部240への出力を、入力画像データの(n-(2m-1))行分遅延するように制御する。
具体的には、たとえば、1/22(n-1)サイズの拡大画像データであれば、変更部230は、1/22(n-1)サイズのノイズ除去画像データの拡大部240への出力を、入力画像データの(n-1)行分遅延するように制御する(m=1)。n=4であれば、変更部230は、1/8サイズのノイズ除去画像データの拡大部240への出力を、入力画像データの3行分遅延させる。
また、1/22(n-2)サイズの拡大画像データであれば、変更部230は、1/22(n-1)サイズのノイズ除去画像データの拡大部240への出力を、入力画像データの(n-3)行分遅延するように制御する(m=2)。n=4であれば、変更部230は、1/4サイズのノイズ除去画像データの拡大部240への出力を、入力画像データの1行分遅延させる。
また、1/22(n-3)サイズの拡大画像データであれば、変更部230は、1/22(n-3)サイズのノイズ除去画像データの拡大部240への出力を、入力画像データの(n-5)行分遅延するように制御する(m=3)。n=4であれば、mは、n<2m-1を充足しないため、変更部230は、1/2サイズのノイズ除去画像データの拡大部240への出力タイミングを変更せずに拡大部240に出力する。
このように、第2選択部250は、拡大部240からの拡大画像データ群を時分割で選択可能になる。したがって、ノイズ除去部260は、サイズが異なる画像データの各ノイズ除去を、異なるタイミングで実行することができる。
なお、変更部230は、第3選択部270から選択されたノイズ除去画像データのサイズが特定のサイズでない場合、第1選択部220から選択された縮小画像データと第3選択部270から選択されたノイズ除去画像データとの拡大部240への出力タイミングを変更せずに拡大部240に出力する。
拡大部240は、変更部230からの第1選択部220から選択された縮小画像データと第3選択部270から選択されたノイズ除去画像データとを用いて、第3選択部270から選択されたノイズ除去画像データのサイズを拡大し、拡大画像データを生成して、第2選択部250に出力する回路である。具体的には、たとえば、拡大部240は、縮小部210によって縮小された縮小画像データ群について、1/22(n-1)サイズから1/2サイズまでの拡大画像データ群を生成する。
第2選択部250は、サイズが異なる複数の画像データのいずれかを時分割で選択する回路である。具体的には、第2選択部250は、第1サイズの画像データを選択してノイズ除去部260に出力してから第1サイズの他の画像データを選択してノイズ除去部260に出力するまでの間に、第1サイズとは異なる第2サイズの画像データを選択してノイズ除去部260に出力する。
たとえば、第2選択部250は、縮小部210からの1/22nサイズの縮小画像データを保持するラインバッファと、拡大部240によって生成された1/22(n-1)サイズから1/2サイズまでの拡大画像データ群の各々を保持するラインバッファと、を有する。
図2は、n=4の例であるため、第2選択部250は、1/16縮小バッファ251、1/8拡大バッファ252、1/4拡大バッファ253および1/2拡大バッファ254を有する。1/16縮小バッファ251は、縮小部210からの1/22nサイズの縮小画像データの一行分を保持し、1/8拡大バッファ252は、1/8拡大画像データの一行分を保持し、1/4拡大バッファ253は、1/4拡大画像データの一行分を保持し、1/2拡大バッファ254は、1/2拡大画像データの一行分を保持する。
ノイズ除去部260は、第2選択部250によって選択された画像データを選択順にノイズ除去する回路である。具体的には、たとえば、ノイズ除去部260は、K×Kのフィルタ(Kは2以上の整数)を用いて、第2選択部250によって選択された画像データに含まれるノイズを除去して、ノイズ除去画像データを生成する。
たとえば、K=5の場合、ノイズ除去部260は、連続する3行分の画像データが第2選択部250のバッファに蓄積されると、不足する2行分の画像データを、連続する3行分の画像データからミラーリングして補完し、K×Kのフィルタを用いてフィルタ処理を実行する。
また、連続する4行分の画像データが第2選択部250のバッファに蓄積されると、不足する1行分の画像データを、連続する4行分の画像データからミラーリングして補完し、K×Kのフィルタを用いてフィルタ処理を実行する。連続する5行分の画像データが第2選択部250のバッファに蓄積されると、K×Kのフィルタを用いてフィルタ処理を実行する。
ノイズ除去部260は、ノイズ除去画像データのサイズが1/2サイズになるまで、ノイズ除去した画像データを第3選択部270に出力する。
すなわち、ノイズ除去部260は、1/2サイズのノイズ除去画像データを画像処理装置200内または画像処理装置200外の回路(以下、出力先回路)に出力する。出力先回路は、入力画像データを用いて1/2サイズのノイズ除去画像データを拡大して、入力画像データと同サイズの画像データを生成する。そして、当該出力先回路は、生成した画像データと入力画像データとに基づいて、ノイズ除去画像データを生成する。
<縮小部210の構成例>
つぎに、縮小部210の構成例について説明する。縮小部210は、n個の入力バッファと、n個の縮小処理部(1/2縮小処理部~1/22n縮小処理部)と、を有する。すなわち、i番目(1≦i≦n)の入力バッファは、1/22(i-1)縮小処理部の行方向画像データを順次保持して、1/22i縮小処理部322からの読出しにより1/22i縮小処理部に出力する。以下、n=4を例に挙げて図3で説明する。
図3は、縮小部210の構成例を示す説明図である。縮小部210は、入力画像データ300の行方向画像データを、先頭行(0行目)から行番号の昇順に行単位で取得して、1/2サイズの縮小画像データ302、1/4サイズの縮小画像データ304、1/8サイズの縮小画像データ308、および1/16サイズの縮小画像データ316を生成する。
具体的には、たとえば、縮小部210は、縮小部210は、第1入力バッファ311と、第2入力バッファ312と、第3入力バッファ313と、第4入力バッファ314と、1/2縮小処理部321と、1/4縮小処理部322と、1/8縮小処理部323と、1/16縮小処理部324と、を有する。
第1入力バッファ311は、入力画像データ300の行方向画像データを順次保持して、1/2縮小処理部321からの読出しにより1/2縮小処理部321に出力する。
第2入力バッファ312は、1/2縮小処理部321の行方向画像データを順次保持して、1/4縮小処理部322からの読出しにより1/4縮小処理部322に出力する。
第3入力バッファ313は、1/4縮小処理部322の行方向画像データを順次保持して、1/8縮小処理部323からの読出しにより1/8縮小処理部323に出力する。
第4入力バッファ314は、1/8縮小処理部323の行方向画像データを順次保持して、1/16縮小処理部324からの読出しにより1/16縮小処理部323に出力する。
1/2縮小処理部321は、第1入力バッファ311から、入力画像データ300の連続する2行分の行方向画像データを読み出し、1/2縮小画像データ302の1行分の行方向画像データを生成する。具体的には、たとえば、1/2縮小処理部321は、入力画像データ300の連続する2行分の行方向画像データにおける2行2列の画素群の画素値の平均値を、1/2縮小画像データ302の1行分の行方向画像データの1画素の値として生成する。
1/2縮小処理部321は、生成した1/2縮小画像データ302の1行分の行方向画像データを、第2入力バッファ312および第1選択部220の1/2縮小バッファ221に書き込む。
1/4縮小処理部322は、第2入力バッファ312から、1/2縮小画像データ302の連続する2行分の行方向画像データを読み出し、1/4縮小画像データ304の1行分の行方向画像データを生成する。具体的には、たとえば、1/4縮小処理部322は、1/2縮小画像データ302の連続する2行分の行方向画像データにおける2行2列の画素群(入力画像データ300の4行4列の画素群に対応)の画素値の平均値を、1/4縮小画像データ304の1行分の行方向画像データの1画素の値として生成する。
1/4縮小処理部322は、生成した1/4縮小画像データ304の1行分の行方向画像データを、第3入力バッファ313および第1選択部220の1/4縮小バッファ222に書き込む。
1/8縮小処理部323は、第3入力バッファ313から、1/4縮小画像データ304の連続する2行分の行方向画像データを読み出し、1/8縮小画像データ308の1行分の行方向画像データを生成する。具体的には、たとえば、1/8縮小処理部323は、1/4縮小画像データ304の連続する2行分の行方向画像データにおける2行2列の画素群(入力画像データ300の8行8列の画素群に対応)の画素値の平均値を、1/8縮小画像データ308の1行分の行方向画像データの1画素の値として生成する。
1/8縮小処理部323は、生成した1/8縮小画像データ308の1行分の行方向画像データを、第3入力バッファ313および第1選択部220の1/8縮小バッファ223に書き込む。
1/16縮小処理部324は、第4入力バッファ314から、1/8縮小画像データ308の連続する2行分の行方向画像データを読み出し、1/16縮小画像データ316の1行分の行方向画像データを生成する。具体的には、たとえば、1/16縮小処理部324は、1/8縮小画像データ308の連続する2行分の行方向画像データにおける2行2列の画素群(入力画像データ300の16行16列の画素群に対応)の画素値の平均値を、1/16縮小画像データ316の1行分の行方向画像データの1画素の値として生成する。
1/16縮小処理部324は、生成した1/16縮小画像データ316の1行分の行方向画像データを、第4入力バッファ314および第2選択部250の1/16縮小バッファ251に書き込む。
<1/16解像処理>
図4は、1/16解像処理の一例を示す説明図である。縮小部210は、1/16縮小処理部324により1/16縮小画像データ316の1行分の行方向画像データを生成し、第2選択部250の1/16縮小バッファ251に書き込む(ステップS401)。
縮小部210は、1/8縮小処理部323により1/18縮小画像データ308の1行分の行方向画像データを生成し、第1選択部220の1/8縮小バッファ223に書き込む(ステップS402)。
第2選択部250は、1/16縮小バッファ251を選択し、1/16縮小画像データ316の行方向画像データをノイズ除去部260に出力する(ステップS403)。
ノイズ除去部260は、1/16縮小画像データ316のK行分の行方向画像データのノイズ除去処理を実行して、ノイズ除去処理結果である1/16NR画像データ416を第3選択部270の1/16NRバッファ271に書き込む(ステップS404)。このようにして、1/16解像処理により、1/16NR画像データ416が生成される。
<1/8解像処理>
図5は、1/8解像処理の一例を示す説明図である。縮小部210は、1/4縮小処理部322により1/4縮小画像データ304の1行分の行方向画像データを生成し、第1選択部220の1/4縮小バッファ222に書き込む(ステップS501)。
第1選択部220は、1/8縮小バッファ223を選択し、1/8縮小画像データ308の行方向画像データを変更部230に出力する(ステップS502)。
第3選択部270は、1/16NRバッファ271を選択し、1/16NR画像データ416の行方向画像データを変更部230に出力する(ステップS503)。
変更部230は、1/8縮小画像データ308の行方向画像データおよび1/16NR画像データ416の行方向画像データの出力タイミングを変更して、拡大部240に出力する(ステップS504)。具体的には、たとえば、変更部230は、入力画像データ300の3行分遅延させて拡大部240に出力する。
拡大部240は、1/8縮小画像データ308の行方向画像データを用いて、1/16NR画像データ416の行方向画像データのサイズを1/8に拡大して、1/8拡大画像データ508の行方向画像データを生成し、第2選択部250の1/8拡大バッファ252に書き込む(ステップS505)。
第2選択部250は、1/8拡大バッファ252を選択し、1/8縮小画像データ308の行方向画像データをノイズ除去部260に出力する(ステップS506)。
ノイズ除去部260は、1/8拡大画像データ508のK行分の行方向画像データのノイズ除去処理を実行して、ノイズ除去処理結果である1/8NR画像データ408の1行分の行方向画像データを第3選択部270の1/8NRバッファ272に書き込む(ステップS507)。このようにして、1/8解像処理により、1/8NR画像データ408が生成される。
<1/4解像処理>
図6は、1/4解像処理の一例を示す説明図である。縮小部210は、1/2縮小処理部321により1/2縮小画像データ302の1行分の行方向画像データを生成し、第1選択部220の1/2縮小バッファ221に書き込む(ステップS601)。
第1選択部220は、1/4縮小バッファ222を選択し、1/4縮小画像データ304の行方向画像データを変更部230に出力する(ステップS602)。
第3選択部270は、1/8NRバッファ272を選択し、1/8NR画像データ408の行方向画像データを変更部230に出力する(ステップS603)。
変更部230は、1/4縮小画像データ304の行方向画像データおよび1/8NR画像データ408の行方向画像データの出力タイミングを変更して、拡大部240に出力する(ステップS604)。具体的には、たとえば、変更部230は、入力画像データ300の1行分遅延させて拡大部240に出力する。
拡大部240は、1/4縮小画像データ304の行方向画像データを用いて、1/8NR画像データ408の行方向画像データのサイズを1/4に拡大して、1/4拡大画像データ504の行方向画像データを生成し、第2選択部250の1/4拡大バッファ253に書き込む(ステップS605)。
第2選択部250は、1/4拡大バッファ253を選択し、1/4縮小画像データ304の行方向画像データをノイズ除去部260に出力する(ステップS606)。
ノイズ除去部260は、1/4拡大画像データ504のK行分の行方向画像データのノイズ除去処理を実行して、ノイズ除去処理結果である1/4NR画像データ404の1行分の行方向画像データを第3選択部270の1/4NRバッファ273に書き込む(ステップS607)。このようにして、1/4解像処理により、1/4NR画像データ404が生成される。
<1/2解像処理>
図7は、1/2解像処理の一例を示す説明図である。第1選択部220は、1/2縮小バッファ221を選択し、1/2縮小画像データ302の行方向画像データを変更部230に出力する(ステップS701)。
第3選択部270は、1/4NRバッファ273を選択し、1/4NR画像データ404の行方向画像データを変更部230に出力する(ステップS702)。
変更部230は、1/2縮小画像データ302の行方向画像データおよび1/4NR画像データ404を、タイミング変更せずに拡大部240に出力する(ステップS703)。
拡大部240は、1/2縮小画像データ302の行方向画像データを用いて、1/4NR画像データ404の行方向画像データのサイズを1/2に拡大して、1/2拡大画像データ502の行方向画像データを生成し、第2選択部250の1/2拡大バッファ254に書き込む(ステップS704)。
第2選択部250は、1/2拡大バッファ254を選択し、1/2拡大画像データ502の行方向画像データをノイズ除去部260に出力する(ステップS705)。
ノイズ除去部260は、1/2拡大画像データ502のK行分の行方向画像データのノイズ除去処理を実行して、ノイズ除去処理結果である1/2NR画像データ402の1行分の行方向画像データを出力する(ステップS706)。このようにして、1/2解像処理により、1/2NR画像データ402が生成される。
<時分割ノイズ除去処理>
つぎに、図4~図7に示した1/16解像処理、1/8解像処理、1/4解像処理および1/2解像処理における時分割ノイズ除去処理について、図8~図14を用いて説明する。
図8~図14は、時分割ノイズ除去処理例を示す説明図である。図8~図14において、各列のセル内の数値は、当該列が示す画像データの行番号である。たとえば、入力画像データ300の列の行番号0は、入力画像データ300の0行目の行方向画像データを示す。
また、同一行に行番号がある場合は、同一タイミングで処理(入力画像データ300の列であれば縮小部210への書き込み、縮小画像データ302,304,308,316の列であれば縮小部210による縮小処理、NR画像データ402,404,408,416の列であればノイズ除去部260によるノイズ除去処理、拡大画像データ502,504,508の列であれば拡大部240による拡大処理)されていることを示す。
画像処理装置200は、入力画像データ300の行番号の昇順で、当該行番号の行方向画像データを読み込む。図8では、入力画像データ300の行番号0~15までの行方向画像データ群が行番号の昇順に読み込まれた場合に、1/2縮小画像データ302の0行目から7行目までの行方向画像データ群が生成され、1/4縮小画像データ304の0行目から3行目までの行方向画像データ群が生成され、1/8縮小画像データ308の0行目から1行目までの行方向画像データ群が生成され、1/16縮小画像データ316の0行目の行方向画像データが生成されたことを示している。
具体的には、たとえば、1/2縮小画像データ302の0行目の行方向画像データは、入力画像データ300の0行目および1行目の行方向画像データにより生成されることを示す。以降同様に、1/2縮小画像データ302の1行目~49行目の行方向画像データ(図14)の各々は、入力画像データ300の同一行および1つ前の行の2つの行の行方向画像データにより生成される。
また、1/4縮小画像データ304の0行目の行方向画像データは、1/2縮小画像データ302の0行目および1行目の行方向画像データにより生成されることを示す。以降同様に、1/4縮小画像データ304の1行目~24行目の行方向画像データ(図14)の各々は、1/2縮小画像データ302の同一行および1つ前の行の2つの行の行方向画像データにより生成される。
また、1/8縮小画像データ308の0行目の行方向画像データは、1/4縮小画像データ304の0行目および1行目の行方向画像データにより生成されることを示す。以降同様に、1/8縮小画像データ308の1行目~12行目の行方向画像データ(図14)の各々は、1/4縮小画像データ304の同一行および1つ前の行の2つの行の行方向画像データにより生成される。
また、1/16縮小画像データ316の0行目の行方向画像データは、1/8縮小画像データ308の0行目および1行目の行方向画像データにより生成されることを示す。以降同様に、1/16縮小画像データ316の1行目~6行目の行方向画像データ(図14)の各々は、1/8縮小画像データ308の同一行および1つ前の行の2つの行の行方向画像データにより生成される。
図10~図12において、ノイズ除去部260は、ノイズ除去処理によりノイズ除去画像データを生成する。たとえば、図10において、1/16縮小画像データ316が3行分(0行目(図8)、1行目(図9)、2行目)生成されると、ノイズ除去部260は、1行目および2行目の行方向画像データをミラーリングして、1/16縮小画像データ316の5行分の行方向画像データ群にする。ノイズ除去部260は、1/16縮小画像データ316の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/16NR画像データ416の0行目の行方向画像データを生成する。
同様に、図11において、1/16縮小画像データ316が4行分(0行目(図8)、1行目(図9)、2行目(図10)、3行目)生成されると、ノイズ除去部260は、3行目の行方向画像データをミラーリングして、1/16縮小画像データ316の5行分の行方向画像データ群にする。ノイズ除去部260は、1/16縮小画像データ316の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/16NR画像データ416の1行目の行方向画像データを生成する。
また、図12において、1/16縮小画像データ316が5行分(0行目(図8)、1行目(図9)、2行目(図10)、3行目(図11)、4行目)生成されると、ノイズ除去部260は、1/16縮小画像データ316の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/16NR画像データ416の2行目の行方向画像データを生成する。以下同様にして、図13および図14においてもそれぞれ、1/16NR画像データ416の3行目および4行目の行方向画像データが生成される。
また、1/16NR画像データ416が生成されると、拡大部240は、変更部230によって入力画像データ300の3行分遅延して、1/8拡大画像データ508を生成する。
具体的には、たとえば、図10において1/16NR画像データ416の0行目の行方向画像データが生成されると、拡大部240は、図11に示すように変更部230によって入力画像データ300の3行分遅延して、1/8拡大画像データ508の0行目の行方向画像データを生成する。
同様に、図11において1/16NR画像データ416の1行目の行方向画像データが生成されると、拡大部240は、図12に示すように変更部230によって入力画像データ300の3行分遅延して、1/8拡大画像データ508の2行目の行方向画像データを生成する。
同様に、図12において1/16NR画像データ416の2行目の行方向画像データが生成されると、拡大部240は、図13に示すように変更部230によって入力画像データ300の3行分遅延して、1/8拡大画像データ508の4行目の行方向画像データを生成する。
同様に、図13において1/16NR画像データ416の3行目の行方向画像データが生成されると、拡大部240は、図14に示すように変更部230によって入力画像データ300の3行分遅延して、1/8拡大画像データ508の6行目の行方向画像データを生成する。
なお、1/8拡大画像データ508の奇数行目の行方向画像データは、1/8拡大画像データ508の連続する偶数行の行方向画像データが生成される間で生成される。
また、図12~図14において、ノイズ除去部260は、ノイズ除去処理によりノイズ除去画像データを生成する。たとえば、図12において、1/8拡大画像データ508が3行分(0行目(図11)、1行目(図11)、2行目)生成されると、ノイズ除去部260は、1行目および2行目の行方向画像データをミラーリングして、1/8拡大画像データ508の5行分の行方向画像データ群にする。ノイズ除去部260は、1/8拡大画像データ508の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/8NR画像データ408の0行目の行方向画像データを生成する。
同様に、図12において、1/8拡大画像データ508が4行分(0行目(図11)、1行目(図11)、2行目、3行目)生成されると、ノイズ除去部260は、3行目の行方向画像データをミラーリングして、1/8拡大画像データ508の5行分の行方向画像データ群にする。ノイズ除去部260は、1/8拡大画像データ508の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/8NR画像データ408の1行目の行方向画像データを生成する。
同様に、図13において、1/8拡大画像データ508が5行分(0行目(図11)、1行目(図11)、2行目(図12)、3行目(図12)、4行目)生成されると、ノイズ除去部260は、1/8拡大画像データ508の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/8NR画像データ408の2行目の行方向画像データを生成する。以下同様にして、図13および図14においてもそれぞれ、1/8NR画像データ408の3行目~5行目の行方向画像データが生成される。
また、1/8NR画像データ408が生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504を生成する。
具体的には、たとえば、図12において1/8NR画像データ408の0行目の行方向画像データが生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504の0行目の行方向画像データを生成する。
同様に、図12において1/8NR画像データ408の1行目の行方向画像データが生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504の2行目の行方向画像データを生成する。
同様に、図13において1/8NR画像データ408の2行目の行方向画像データが生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504の4行目の行方向画像データを生成する。
同様に、図13において1/8NR画像データ408の3行目の行方向画像データが生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504の6行目の行方向画像データを生成する。
同様に、図14において1/8NR画像データ408の4行目の行方向画像データが生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504の8行目の行方向画像データを生成する。
同様に、図14において1/8NR画像データ408の5行目の行方向画像データが生成されると、拡大部240は、変更部230によって入力画像データ300の1行分遅延して、1/4拡大画像データ504の10行目の行方向画像データを生成する。
なお、1/4拡大画像データ504の奇数行目の行方向画像データは、1/4拡大画像データ504の連続する偶数行の行方向画像データが生成される間で生成される。
また、図12~図14において、ノイズ除去部260は、ノイズ除去処理によりノイズ除去画像データを生成する。たとえば、図12において、1/4拡大画像データ504が3行分(0行目、1行目、2行目)生成されると、ノイズ除去部260は、1行目および2行目の行方向画像データをミラーリングして、1/4拡大画像データ504の5行分の行方向画像データ群にする。ノイズ除去部260は、1/4拡大画像データ504の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/4NR画像データ404の0行目の行方向画像データを生成する。
同様に、図13において、1/4拡大画像データ504が4行分(0行目(図12)、1行目(図12)、2行目(図12)、3行目)生成されると、ノイズ除去部260は、3行目の行方向画像データをミラーリングして、1/4拡大画像データ504の5行分の行方向画像データ群にする。ノイズ除去部260は、1/4拡大画像データ504の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/4NR画像データ404の1行目の行方向画像データを生成する。
同様に、図13において、1/4拡大画像データ504が5行分(0行目(図12)、1行目(図12)、2行目(図12)、3行目、4行目)生成されると、ノイズ除去部260は、1/4拡大画像データ504の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/4NR画像データ404の2行目の行方向画像データを生成する。以下同様にして、図13および図14においてもそれぞれ、1/4NR画像データ404の3行目~8行目の行方向画像データが生成される。
また、1/4NR画像データ404が生成されると、拡大部240は、変更部230によるタイミング変更なしで、1/2拡大画像データ502を生成する。
具体的には、たとえば、図12において1/4NR画像データ404の0行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の0行目の行方向画像データを生成する。
同様に、図13において1/4NR画像データ404の1行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の2行目の行方向画像データを生成する。
同様に、図13において1/4NR画像データ404の2行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の4行目の行方向画像データを生成する。
同様に、図13において1/4NR画像データ404の3行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の6行目の行方向画像データを生成する。
同様に、図13において1/4NR画像データ404の4行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の8行目の行方向画像データを生成する。
同様に、図14において1/4NR画像データ404の5行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の10行目の行方向画像データを生成する。
同様に、図14において1/4NR画像データ404の6行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の12行目の行方向画像データを生成する。
同様に、図14において1/4NR画像データ404の7行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の14行目の行方向画像データを生成する。
同様に、図14において1/4NR画像データ404の8行目の行方向画像データが生成されると、拡大部240は、1/2拡大画像データ502の16行目の行方向画像データを生成する。
なお、1/2拡大画像データ502の奇数行目の行方向画像データは、1/2拡大画像データ502の連続する偶数行の行方向画像データが生成される間で生成される。
また、図13および図14において、ノイズ除去部260は、ノイズ除去処理によりノイズ除去画像データを生成する。たとえば、図13において、1/2拡大画像データ502が3行分(0行目(図12)、1行目、2行目)生成されると、ノイズ除去部260は、1行目および2行目の行方向画像データをミラーリングして、1/2拡大画像データ502の5行分の行方向画像データ群にする。ノイズ除去部260は、1/2拡大画像データ502の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/2NR画像データ402の0行目の行方向画像データを生成する。
同様に、図13において、1/2拡大画像データ502が4行分(0行目(図12)、1行目、2行目、3行目)生成されると、ノイズ除去部260は、3行目の行方向画像データをミラーリングして、1/2拡大画像データ502の5行分の行方向画像データ群にする。ノイズ除去部260は、1/2拡大画像データ502の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/2NR画像データ402の1行目の行方向画像データを生成する。
同様に、図13において、1/2拡大画像データ502が5行分(0行目(図12)、1行目、2行目、3行目、4行目)生成されると、ノイズ除去部260は、1/2拡大画像データ502の5行分の行方向画像データ群を、5×5のフィルタでフィルタ処理することにより、1/2NR画像データ402の2行目の行方向画像データを生成する。以下同様にして、図13および図14においてもそれぞれ、1/2NR画像データ402の3行目~14行目の行方向画像データが生成される。
図11~図14のノイズ除去処理を参照すると、入力画像データ300の63行目~111行目までにおいて、いずれのNR画像データも同じ行で生成されない。このように、1つのノイズ除去部260が、サイズ(解像度)が異なる複数の画像データを時分割でノイズ除去処理することができる。
このように、画像処理装置200は、複数の縮小処理部321~324の各々についてノイズ除去部260および拡大部240を設ける必要がなく、ノイズ除去部260および拡大部240を、複数の縮小処理部321~324で共用することができる。すなわち、複数の縮小処理部321~324の数(縮小画像データのサイズの種類数)よりもノイズ除去部260の数が少ない。したがって、画像処理装置200の回路規模の縮小化および部品点数の削減によるコスト低減化を図ることができる。単純に第1サイズの画像データのノイズ除去を行って、第2サイズのノイズ除去を行う場合に比べて、処理時間の短縮化を図ることができる。
なお、本発明は上記の内容に限定されるものではなく、これらを任意に組み合わせたものであっても良い。また、本発明の技術的思想の範囲で考えられるその他の態様も本発明の範囲に含まれる。
100 撮像装置、200 画像処理装置、210 縮小部、220 第1選択部、230 変更部、240 拡大部、250 第2選択部、260 ノイズ除去部、270 第3選択部

Claims (10)

  1. サイズが異なる複数の画像データのいずれかを時分割で選択する選択部と、
    前記選択部によって選択された画像データを選択順にノイズ除去するノイズ除去部と、
    を有する画像処理装置。
  2. 請求項1に記載の画像データ処理装置であって、
    前記選択部は、第1サイズの画像データを選択して前記ノイズ除去部に出力してから前記第1サイズの他の画像データを選択して前記ノイズ除去部に出力するまでの間に、前記第1サイズとは異なる第2サイズの画像データを選択して前記ノイズ除去部に出力する、画像処理装置。
  3. 請求項1に記載の画像処理装置であって、
    前記ノイズ除去部によってノイズ除去されたノイズ除去画像データを拡大して拡大画像データを生成し、前記選択部に出力する拡大部と、
    を有する画像処理装置。
  4. 請求項3に記載の画像処理装置であって、
    入力画像データから、前記入力画像データのサイズよりも小さく、かつ、各々前記サイズが異なる複数の縮小画像データを生成する縮小部を有し、
    前記縮小部は、前記サイズが異なる複数の縮小画像データのうち最小サイズの縮小画像データを前記選択部に出力し、前記サイズが異なる複数の縮小画像データのうち最小サイズの縮小画像データ以外の他の縮小画像データを前記拡大部に出力する、画像処理装置。
  5. 請求項3に記載の画像処理装置であって、
    前記ノイズ除去画像データのうち特定サイズのノイズ除去画像データの前記拡大部への出力タイミングを、前記サイズが異なる複数の拡大画像データの前記選択部による選択タイミングが異なるように、変更する変更部と、
    を有する画像処理装置。
  6. 入力画像データの1/2サイズから1/22nサイズ(nは1以上の整数)までの縮小画像データ群を生成する縮小部と、
    前記縮小部によって縮小された縮小画像データ群について、1/22(n-1)サイズから1/2サイズまでの拡大画像データ群を生成する拡大部と、
    前記1/22nサイズの縮小画像データと、前記拡大部によって生成された1/22(n-1)サイズから1/2サイズまでの拡大画像データ群と、の中から、時分割でいずれかの画像データを選択する選択部と、
    前記選択部によって選択された画像データを選択順にノイズ除去し、ノイズ除去した画像データのサイズが1/2サイズになるまで、前記ノイズ除去した画像データを前記拡大部に出力するノイズ除去部と、
    を有する画像処理装置。
  7. 請求項6に記載の画像処理装置であって、
    1/22(n-m)サイズの拡大画像データを前記ノイズ除去部によってノイズ除去した1/22(n-m)サイズ(mは、n<2m-1を満たす1以上の整数)のノイズ除去画像データの前記拡大部への出力を、前記入力画像データの(n-(2m-1))行分遅延するように制御する変更部と、
    を有する画像処理装置。
  8. 入力された画像データに基づいてサイズの異なる複数の画像データを生成する生成部と、
    前記生成部によって生成されたサイズの異なる複数の前記画像データのうち、異なるタイミングで選択された画像データを選択順にノイズ除去するノイズ除去部と、
    を有する画像処理装置。
  9. 請求項1に記載の画像データ処理装置であって、
    前記ノイズ除去部は、選択された第1サイズの画像データをノイズ除去してから前記第1サイズの他の画像データを選択して前記ノイズ除去するまでの間に、前記第1サイズとは異なる、選択された第2サイズの画像データをノイズ除去する、画像処理装置。
  10. 請求項1または9のいずれか一項に記載の画像処理装置を有する撮像装置。
JP2021188609A 2021-11-19 2021-11-19 画像処理装置および撮像装置 Pending JP2023075606A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021188609A JP2023075606A (ja) 2021-11-19 2021-11-19 画像処理装置および撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021188609A JP2023075606A (ja) 2021-11-19 2021-11-19 画像処理装置および撮像装置

Publications (1)

Publication Number Publication Date
JP2023075606A true JP2023075606A (ja) 2023-05-31

Family

ID=86542405

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021188609A Pending JP2023075606A (ja) 2021-11-19 2021-11-19 画像処理装置および撮像装置

Country Status (1)

Country Link
JP (1) JP2023075606A (ja)

Similar Documents

Publication Publication Date Title
US7679657B2 (en) Image sensing apparatus having electronic zoom function, and control method therefor
JP4320658B2 (ja) 撮像装置、制御方法、並びにプログラム
JP4860488B2 (ja) 画像表示制御装置
JP5132507B2 (ja) 焦点検出装置およびカメラシステム
JP7449824B2 (ja) 撮像装置および撮像方法
JP4255345B2 (ja) 撮像装置
JP2008005048A (ja) 撮像装置及び信号処理装置
KR20100096523A (ko) 영상 데이터 처리 장치 및 방법
JP5829122B2 (ja) 撮像装置および評価値生成装置
EP4007267A1 (en) Solid-state imaging device and method for driving same, and electronic instrument
JP5959194B2 (ja) 撮像装置
JP4225241B2 (ja) 画像表示装置
JP5820720B2 (ja) 撮像装置
JP2023075606A (ja) 画像処理装置および撮像装置
JP5972016B2 (ja) 撮像装置
KR101608347B1 (ko) 디지털 영상 신호 처리 장치 및 방법
JP4697094B2 (ja) 画像信号出力装置及びその制御方法
JP5315093B2 (ja) 撮像装置および撮像方法
JP2020031336A (ja) 撮像装置
JP2002199281A (ja) 画像処理装置
TW201914293A (zh) 影像擷取裝置以及用於影像放大的影像擷取方法
JP6045247B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JPWO2017086218A1 (ja) カメラ制御装置およびテレビジョンカメラ
JP2010206591A (ja) 固体撮像装置、集積回路及びプログラム
JP4407475B2 (ja) カメラ画像処理装置