JP2015138417A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2015138417A
JP2015138417A JP2014009880A JP2014009880A JP2015138417A JP 2015138417 A JP2015138417 A JP 2015138417A JP 2014009880 A JP2014009880 A JP 2014009880A JP 2014009880 A JP2014009880 A JP 2014009880A JP 2015138417 A JP2015138417 A JP 2015138417A
Authority
JP
Japan
Prior art keywords
pixels
image
pixel
divided
divided image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014009880A
Other languages
English (en)
Other versions
JP2015138417A5 (ja
Inventor
静香 安西
Shizuka Anzai
静香 安西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014009880A priority Critical patent/JP2015138417A/ja
Priority to US14/600,873 priority patent/US9741086B2/en
Publication of JP2015138417A publication Critical patent/JP2015138417A/ja
Publication of JP2015138417A5 publication Critical patent/JP2015138417A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Picture Signal Circuits (AREA)
  • Television Systems (AREA)

Abstract

【課題】分割画像に対するフィルタ処理を容易に且つ適切に行えるようにする。
【解決手段】画像処理部105は、分割画像の画素と、画素格納部103に格納されたのりしろ画素のうち、画素格納部103に格納されていない分割画像の画素を参照しない画素と、に対するフィルタ処理を行う。また、画像処理部105と並行してフィルタ処理を行う画像処理部106は、分割画像3の画素のうち、分割画像の画素を参照しない画素に対するフィルタ処理を行う。
【選択図】図3

Description

本発明は、画像処理装置および画像処理方法に関し、特に、1フレームの画像を複数の画像に分割して処理するために用いて好適なものである。
従来、4K2K、8K4K等の高解像度画像処理においては、1フレームの画像を複数のFHD画像に分割し、分割した複数のFHD画像を並列処理するアーキテクチャや、予め分割した画像を伝送する方式が提案されている。分割画像の端部の画素に隣接する画素は、当該分割画像に隣接する分割画像の端部の画素にあたる。このため、分割画像の端部をフィルタ処理する場合は、当該分割画像に隣接する分割画像の端部の画素の一部を参照して処理を行う。以下の説明では、分割画像の端部の画素のうち、当該分割画像に隣接する分割画像の端部のフィルタ処理の際に参照される画素を必要に応じてのりしろ画素と称する。
このようにして分割画像をフィルタ処理する技術として特許文献1、2に記載の技術がある。
特許文献1では、テレビジョンカメラから得られた1フレームの画像を複数の画像に分割した後、全ての分割画像に、当該分割画像に隣接する分割画像の端部のフィルタ処理で参照されるのりしろ画素を付加した画像を生成する。そして、分割画像に付加されたのりしろ画素を参照して当該分割画像の端部の画素を処理する。
特許文献2では、1フレームの画像を受信し、受信した画像を複数の画像に分割して読み出し、信号処理後、出力する。分割画像の読み出しの際、上下に隣接する2つの分割画像を、上の分割画像は上から下方向へラインを走査し、下の分割画像は、下から上方向へラインを走査する。
特開2000−312311号公報 特開2009−010613号公報
しかしながら、画像解析等で、入力直後にフィルタ処理回路を持つ構成で、分割画像が並列に入力された場合、特許文献1に記載の技術では、一つの分割画像の処理時には他方の分割画像をフレームバッファに格納しておかなければならない。もしくは、分割画像を並列処理するために、のりしろ画素用のラインバッファを各分割画像に設ける必要がある。したがって、メモリコストが増加するという課題がある。
また、特許文献2に記載の技術では、上下ののりしろ画素が同時期に画像処理装置で参照されるように、参照し合う分割画像における走査方向(読み出し方向)を互いに逆向きに設定する。一般的な画像の走査方式は、水平方向では左から右へ画素を走査し、垂直方向では上から下へ画素を走査する。したがって、画像の伝送時に特殊な送受信装置を使用しなければならないという課題がある。
本発明は、以上の課題を鑑みてなされたものであり、分割画像に対するフィルタ処理を容易に且つ適切に行えるようにすることを目的とする。
本発明の画像処理装置は、1フレームの画像を複数に分割した画像である分割画像の画素を、当該画素の周囲の領域の画素の値を用いて処理する画像処理装置であって、前記周囲の領域の画素の値を格納部に格納する格納手段と、垂直方向および水平方向のうちの一方向で隣接する複数の分割画像に対する前記処理を、前記格納部に格納された画素の値を用いて並行して行う処理手段と、を有し、前記処理を行う際の前記画素の走査方向は、全ての前記分割画像で同じであり、前記格納手段は、前記一方向で隣接する2つの前記分割画像のうち、前記一方向における並び順が前記画素の走査方向で後になる一方の分割画像に対する前記処理を行う際に参照される画素の値として、他方の分割画像の画素の値を格納しないことを特徴とする。
本発明によれば、分割画像に対するフィルタ処理を容易に且つ適切に行うことができる。
分割前の1フレームの画像の全体を示す図である。 画像処理システムを示す図である。 画像処理装置の構成を示す図である。 画像処理装置の動作を説明するフローチャートである。 画像入力部に入力される分割画像を示す図である。 開始ライン番号を説明する図である。 画像処理部で参照される分割画像の画像領域を示す図である。 分割前の1フレームの画像の全体の変形例を示す図である。 画像処理システムの変形例を示す図である。
以下、図面を参照しながら、本発明の一実施形態を説明する。
本実施形態では、8K4K画像を縦横に2分割して得た4つの分割画像のうち、上下2枚の分割画像を1つの画像処理装置に入力する。そして、当該画像処理装置で上下2枚の分割画像の単位で画像処理を行い、最終的に元の8K4K画像と同じサイズの画像を出力する場合を例に挙げて説明する。
図1は、画像の入力形式の一例を示す図である。具体的に図1は、分割前の1フレームの画像の全体の一例を示す図である。
画像は、画像処理システムに入力した後、縦横に2分割されて4つに分割される。そして、2組の上下2枚の分割画像のうちの一方の組が2台の画像処理装置のうちの一方の画像処理装置に入力され、他方の組が他方の画像処理装置に入力される。
領域200は、分割画像1、2、3、4を示す。領域200内の斜線で示す領域は、のりしろ画素を示す。フィルタ処理では、処理の対象となる画素の周囲の画素の値を用いて、当該処理の対象となる画素の値が変更される。したがって、分割画像の端部の画素をフィルタ処理する際には、当該分割画像に隣接する分割画像内の画素を、のりしろ画素として参照する。分割画像4を例にとると、分割画像2のフィルタ処理の際に参照される画素はのりしろ画素4Tに含まれ、分割画像3のフィルタ処理の際に参照される画素はのりしろ画素4Lに含まれる。また、分割画像1のフィルタ処理の際に参照される画素はのりしろ4L、4Tが重複する領域の画素4TLに含まれる。分割画像4の右部及び下部のように、隣接する分割画像がない端部の領域には、のりしろ画素は存在しない。
また、フィルタ処理を行う際の画素の走査方向(読み出し方向)は、全ての分割画像1〜4で同じであるものとする。具体的に本実施形態では、水平方向では左から右へ画素を走査し、垂直方向では上から下へ画素を走査するものとする。したがって、垂直方向で隣接する2つの分割画像1、3のうち、並び順が走査方向で後になる一方の分割画像は分割画像3であり、並び順が走査方向で前になる他方の分割画像は分割画像1になる。このことは、分割画像2、4についても同じである。
図2は、画像処理システムの一例を示す図である。
図2において、画像処理システムは、画像処理装置100a、100b(画像処理チップ)を有する。画像処理装置100aは、後述するようにしてのりしろ画素が付加された4つの分割画像1〜4のうち、垂直方向で上下に隣接する2つの分割画像1、3を同時に入力して画像処理を行い、画像処理を行った2つの分割画像1、3を統合して出力する。画像処理装置100bは、後述するようにしてのりしろ画素が付加された4つの分割画像1〜4のうち、上下に隣接する2つの分割画像2、4を同時に入力して画像処理を行い、画像処理を行った2つの分割画像2、4を統合して出力する。
画像処理装置100a、100bから出力される画像の大きさは、8K4K画像を左右2分割した大きさと同じである。
画像合成出力部110は、画像処理装置100a、100bから出力された画像を合成して出力する。画像合成出力部110から出力される画像の大きさは、8K4K画像と同じ大きさである。尚、画像合成出力部110は、例えば、画像処理装置100a、100bから出力される画像の位置関係を示す情報を予め保持することにより、画像処理装置100a、100bから出力された画像の位置関係を特定する。
表示部120は、画像合成出力部110から出力された画像を表示する。表示部120は、例えば、液晶ディスプレイを用いることにより実現できる。
図3は、画像処理装置100aの構成の一例を示す図である。尚、画像処理装置100bの構成は、画像処理装置100aの構成と同じであるので、画像処理装置100bの構成の詳細な説明を省略する。
画像入力部101、102は、それぞれ、入力された分割画像1、3をラインバッファに格納し、後段の画像処理部105、106のフィルタタップ数分のライン数(行数)がそろったら、当該ライン数に対応する画素を、画像処理部105、106に出力する。分割画像1、3は、画像入力部101、102に同時に入力される。
画素格納部103は、分割画像3の画素のうち、分割画像1の画素に対するフィルタ処理を行う際に参照される画素(のりしろ画素3T)からなる第1の画素群の画素の値を格納する。また、画素格納部103は、分割画像3の画素のうち、当該第1の画素群の画素以外の画素であって、当該第1の画素群の画素に対するフィルタ処理を行う際に参照される画素からなる第2の画素群の画素の値を格納する。
フィルタが3×3フィルタであるとすると、分割画像3の画素のうち、分割画像1に隣接するライン(行)の画素が第1の画素群の画素になり、その下のライン(行)の画素が第2の画素群の画素になる。
さらに画素格納部103は、分割画像3に付加された画素(図1ののりしろ画素4L)のうち、分割画像1の画素に対するフィルタ処理を行う際に参照される画素(図1ののりしろ画素4TL)からなる第3の画素群の画素の値を格納する。また、画素格納部103は、分割画像3に付加された画素(図1ののりしろ画素4L)のうち、当該第3の画素群の画素以外の画素であって、前記第1の画素群の画素に対するフィルタ処理を行う際に参照される画素からなる第4の画素群の画素の値を格納する。
フィルタが3×3フィルタであるとすると、分割画像4の画素のうち、分割画像1に隣接する(左上隅の)画素が第3の画素群の画素になり、その下の画素が第4の画素群の画素になる。
画像処理部105、106は、統計量処理等の、入力直後の分割画像に対するフィルタ処理を行う。
後段画像処理部107は、画像処理部105、106によりフィルタ処理が行われた分割画像1、3に対して、IP変換、スケーリング等の、画像加工処理を行う。
フレームメモリ108は、後段画像処理部107で画像加工処理が行われることにより生成された出力画像を格納する。
画像出力部109は、フレームメモリ108から出力画像を読み出し、出力タイミングに従って出力画像を出力する。
図4は、画像処理装置100aの動作の一例を説明するフローチャートである。尚、ステップS404〜S407と、ステップS408〜S410は、並行して実行される(並列処理である)ものとする。また、画像処理装置100bの動作は、画像処理装置100aの動作と同じであるので、画像処理装置100bの動作の詳細な説明を省略する。
ステップS401において、画像入力部101は、分割画像1、3を入力する。図5(a)、(b)は、それぞれ、画像入力部101に入力される分割画像1、3の一例を示す図である。
図5(a)に示すように、分割画像1には、水平方向で隣接する分割画像2の画素のうち、分割画像1に対するフィルタ処理の際に参照される画素がのりしろ画素2Lとして付加される。同様に、分割画像3には、水平方向で隣接する分割画像4の画素のうち、分割画像3に対するフィルタ処理の際に参照される画素がのりしろ画素4Lとして付加される。
フィルタが3×3フィルタであるとすると、のりしろ画素2Lは、分割画像2の画素のうち、分割画像1に隣接する1ライン(列)の画素となり、のりしろ画素4Lは、分割画像4の画素のうち、分割画像2に隣接する1ライン(列)の画素となる。
尚、分割画像1、3の入力時に、のりしろ画素2L、4Lを分割画像1、3に付加しなくてもよい。例えば、後述する画像処理部105、106でのフィルタ処理時に、他の画像処理装置100bから、必要なのりしろ画素を受信してもよい。以上のことは、分割画像2、4についても同じである。
次に、ステップS402において、画像入力部101、102は、それぞれ、のりしろ画素2L、4Lが付加された分割画像1、3を、ライン(行)単位で上のライン(行)から順に画像処理部105、106へ出力する。
次に、ステップS403において、画像入力部102は、のりしろ画素4Lが付加された分割画像3の画素のうち、のりしろ画素3T、4TLを含む画素(前述した第1〜第4の画素群の画素)の値を選択して画素格納部103に格納する。
次に、ステップS404において、画像処理部105は、画像入力部101から入力されたライン数が、フィルタ処理が可能な数になる度に、分割画像1に対してフィルタ処理を行う。
次に、ステップ405において、画像処理部105は、分割画像1に対するフィルタ処理のために、画素格納部103に格納されたのりしろ画素3T、4TLを含む画素(前述した第1〜第4の画素群の画素)の値が必要であるか否かを判定する。
この判定の結果、のりしろ画素3T、4TLを含む画素の値が必要でない場合には、ステップS404に戻り、のりしろ画素3T、4TLを含む画素の値が必要になるまで、フィルタ処理を継続して行う。
そして、のりしろ画素3T、4TLを含む画素の値が必要になると、ステップS406に進む。ステップS406に進むと、画像処理部105は、画素格納部103に格納されたのりしろ画素3T、4TLを含む画素(前述した第1〜第4の画素群の画素)の値のうち、分割画像1に対するフィルタ処理のために必要な画素の値を読み出す。そして、画像処理部105は、画像入力部101から入力されたライン数(行数)が、フィルタ処理が可能な数になる度に、読み出した画素の値を用いて、分割画像1に対してフィルタ処理を行う。
また、画像処理部105は、画素格納部103に格納されたのりしろ画素3T(分割画像3の画素のうち、フィルタ処理の際に分割画像1の画素を参照する必要がある画素)についてもフィルタ処理を行う。
次に、ステップS407において、画像処理部105は、分割画像1及びのりしろ画素3Tに対するフィルタ処理が終了したか否かを判定する。この判定の結果、分割画像1及びのりしろ画素3Tに対するフィルタ処理が終了していない場合には、ステップS406に戻り、分割画像1及びのりしろ画素3Tに対するフィルタ処理が終了するまで、フィルタ処理を継続して行う。
ステップS408において、画像処理部106内の開始ライン検出部1061は、分割画像3のラインであって、分割画像1の画素を参照せずに分割画像3に対するフィルタ処理を行うことができるライン(行)のうち、一番上のライン(行)の番号を検出する。以下の説明では、この番号を必要に応じて開始ライン番号と称する。
開始ライン番号は、例えば、画像処理部106のフィルタタップ数から算出される。図6は、開始ライン番号の一例を説明する図である。具体的に、図6(a)は、分割画像1の画素の値を参照して分割画像3に対するフィルタ処理を行う必要がある様子の一例を示す図である。また、図6(b)は、分割画像1の画素の値を参照せずに分割画像3に対するフィルタ処理を行う必要がある様子の一例を示す図である。
図6では、分割画像3の上から3つのライン(行)3L1、3L2、3L2と、分割画像3に隣接する分割画像1の最終ライン(最も下のライン(行))1LNを示す。
図6に示す例では、画像処理部106におけるフィルタが3×3フィルタであるとする。そうすると、図6(a)に示す画像220のように、分割画像3の最初のライン3L1の画素に対するフィルタ処理を行う場合には、分割画像1の最終ライン1LNの画素を参照する必要がある。このため、このライン3L1の番号は開始ライン番号として検出されない。
一方、図6(b)に示す画像221のように、分割画像3の最初から2番目のライン3L2の画素に対するフィルタ処理を行う場合には、分割画像1の最終ライン1LNの画素を参照せず、分割画像3内の画素のみを参照すればよい。したがって、このライン3L2の番号が、開始ライン番号として検出される。
以上のようにして開始ライン番号が検出されると、ステップS409に進み、画像処理部106は、画像入力部102から入力されたライン数が、フィルタ処理が可能な数になる度に、分割画像3に対してフィルタ処理を行う。前述したように、開始ライン番号の画素に対してフィルタ処理を行う場合には、分割画像1の画素を参照する必要はない。したがって、分割画像3及び当該分割画像3に付加されたのりしろ画素4Lのみで、ステップS410のフィルタ処理を行うことができる。
尚、ライン3L1の画素の値は、前述した第1の画素群(のりしろ画素3T)として画像格納部106に格納されている。また、ライン3L2の画素の値は、前述した第2の画素群として画像格納部106に格納されている。さらに、ライン3L1、3L2に隣接する分割画像4の2つの画素は、それぞれ前述した第3、第4の画素群として画像格納部106に格納されている。このように、ライン3L1の画素に対するフィルタ処理を行うために必要な画素の値は、画像処理部105で参照することができる。したがって、本実施形態では、前述したように、ステップS406において、分割画像1の画素に対するフィルタ処理の後に、分割画像1の直下の画素に対するフィルタ処理として、ライン3L1の画素に対するフィルタ処理が行われる。
図4の説明に戻り、ステップS410において、画像処理部106は、分割画像3に対するフィルタ処理が終了したか否かを判定する。この判定の結果、分割画像3に対するフィルタ処理が終了していない場合には、ステップS409に戻り、分割画像3に対するフィルタ処理が終了するまで、フィルタ処理を継続して行う。
図7(a)、(b)は、それぞれ、画像処理部105、106で参照される分割画像1、3の画像領域の一例を示す図である。
図7において、破線で囲まれた領域が、フィルタ処理の対象となる領域である。画像230は、分割画像1と、分割画像1に対するフィルタ処理を行う際に参照されるのりしろ画素3T、2L、4TL(4L)とを含む。分割画像1は、分割画像2ののりしろ画素2Lと、分割画像3ののりしろ画素3Tと、分割画像4ののりしろ画素4TLとを含む画素が付加された画像として画像処理部105に入力され、フィルタ処理される。画像231は、分割画像3と、分割画像3に対するフィルタ処理を行う際に参照されるのりしろ画素4Lとを含む。分割画像3は、分割画像4ののりしろ画素4Lを含む画素が付加された画像として画像処理部106に入力され、分割画像3のラインのうち、分割画像1ののりしろ1Bを参照するラインを除外したラインでのみフィルタ処理される。
図4の説明に戻り、以上のようにして、分割画像1、3に対する全てのフィルタ処理が終了すると、ステップS411に進む、ステップS411において、画像処理部105、106は、フィルタ処理が終了した画素を後段画像処理部107に出力する。このとき、画像処理部105は、フィルタ処理が行われたのりしろ画素3Tを、分割画像1の直下に配置される画素として後段画像処理部107に出力する。
次に、ステップS412において、後段画像処理部107は、画像処理部105、106によりフィルタ処理が行われた分割画像1、3に対して、画像加工処理を行う。
次に、ステップS413において、後段画像処理部107は、画像加工処理を行うことにより得られた出力画像をいったんフレームメモリ108に格納する。そして、画像出力部109は、出力タイミングになると、フレームメモリ108から出力画像を読み出して出力する。
以上のように本実施形態では、分割画像1、3にのりしろ画素2L、4Lを付加する。また、のりしろ画素3T、4TLの値と、のりしろ画素3T、4TL以外の画素であって、のりしろ画素3Tに対するフィルタ処理を行う際に参照される分割画像3、4の画素の値と、を画素格納部103に格納する。そして、画像処理部105は、分割画像1の画素と、画素格納部103に格納されたのりしろ画素3Tに対するフィルタ処理を行う。また、画像処理部105と並行してフィルタ処理を行う画像処理部106は、分割画像3の画素のうち、分割画像1の画素を参照しない画素(のりしろ画素3T以外の画素)に対するフィルタ処理を行う。したがって、分割画像の走査方向を分割画像によって異ならせる必要がなくなるとともに、分割画像を格納するフレームバッファや、分割画像ごとにのりしろ画素を格納するバッファが不要になる。これにより、分割画像を並列に入力した直後に、当該分割画像に対してフィルタ処理を行う構成としても、特殊な送受信装置が不要になると共に、メモリコストを削減することができる画像処理装置を実現することができる。また、分割画像1〜4の(フィルタ処理が可能な)全ての画素に対してフィルタ処理を行うことができる。よって、分割画像に対するフィルタ処理を容易に且つ適切に行うことができる。
本実施形態では、2つの画像処理装置100a、100bで、垂直方向で隣接する2つの分割画像(分割画像1と分割画像3、分割画像2と分割画像4)をそれぞれ処理するようにした。しかしながら、必ずしもこのようにする必要はない。
例えば、1つの画像処理装置が、8K4K画像を上下に2分割したサイズの2つの分割画像(分割画像1と分割画像2、分割画像3と分割画像4)を並行して処理する能力を有する場合には、当該1つの画像処理装置で処理を行うようにしてもよい。このようにした場合、フレームメモリ108に格納される画像は、8K4K画像の全体(全画面)になる。
また、垂直方向で隣接する2つの分割画像(分割画像1と分割画像3、分割画像2と分割画像4)の単位で1つの画像処理装置に順次分割画像を処理してもよい。このようにした場合、画像合成出力部110にフレームバッファを設け、先に処理された垂直方向で隣接する2つの分割画像を当該フレームバッファに格納しておき、次に処理された垂直方向で隣接する2つの分割画像と合成することになる。
尚、画像処理装置には、画素格納部103に格納されるのりしろ画素を有する分割画像と、当該のりしろ画素を参照してフィルタ処理を行う分割画像は、同時に画像処理装置100a、100bに入力されるようにする必要がある。例えば、画素格納部103に格納されるのりしろ画素3Tを有する分割画像3と、当該のりしろ画素3Tを参照してフィルタ処理を行う分割画像1は、同時に画像処理装置100aに入力されるようにする必要がある。
また、本実施形態では、画像処理装置100a、100bは、垂直方向で隣接した2つの分割画像の組(分割画像1、3の組と分割画像2、4の組)を統合して出力するようにした。しかしながら、必ずしもこのようにする必要はない。例えば、画像処理装置100a、100bが、入力した分割画像の単位で分割画像を出力してもよい。すなわち、画像処理装置100a、100bは、画像処理を行った4つの分割画像1、2、3、4を個別に出力してもよい。このようにした場合には、画像合成出力部110は、4つの分割画像を合成することになる。
また、本実施形態では、垂直方向で隣接した2つの分割画像の組(分割画像1、3の組、分割画像2、4の組)の単位で画像処理(フィルタ処理)を行うようにした(すなわち、垂直方向が一方向となり水平方向が他方向となるようにした)。しかしながら、必ずしもこのようにする必要はない。例えば、水平方向で隣接した2つの分割画像の組(例えば、分割画像1、2の組、分割画像3、4の組)の単位で画像処理(フィルタ処理)を行うようにしてもよい(すなわち、水平方向が一方向となり垂直方向が他方向となるようにしてもよい)。
画素の走査方向が左から右の場合、分割画像1、2のうち、並び順が画素の走査方向で後になる一方の分割画像は分割画像2となり、並び順が画素の走査方向で前になる一方の分割画像は分割画像1となる。このことは、分割画像3、4についても同じである。
また、分割画像1に対して、分割画像3の画素のうち、前記分割画像1に対するフィルタ処理を行う際に参照される画素(のりしろ画素3T)を付加する。同様に、分割画像2には、のりしろ画素4Tを付加する。
そして、画素格納部103は、分割画像2の画素のうち、分割画像1の画素に対するフィルタ処理を行う際に参照される画素からなる第1の画素群の画素の値を格納する。また、画素格納部103は、分割画像2の画素のうち、当該第1の画素群の画素以外の画素であって、当該第1の画素群の画素に対するフィルタ処理を行う際に参照される画素からなる第2の画素群の画素の値を格納する。図1に示す例において、フィルタが3×3のフィルタである場合、分割画像2の画素のうち、分割画像1との境界のライン(列)の画素(すなわちのりしろ画素2L)が第1の画素群に対応する。また、分割画像2の画素のうち、分割画像1との境界のライン(列)の右隣のライン(列)の画素(すなわち、のりしろ画素2L)の右隣の画素)が第2の画素群に対応する。
また、画素格納部103は、分割画像2に付加された画素(図1ののりしろ画素4T)のうち、分割画像1の画素に対するフィルタ処理を行う際に参照される画素からなる第3の画素群の画素の値を格納する。また、画素格納部103は、分割画像2に付加された画素(図1ののりしろ画素4T)のうち、当該第3の画素群の画素以外の画素であって、前記第1の画素群の画素に対するフィルタ処理を行う際に参照される画素からなる第4の画素群の画素の値を格納する。図1に示す例において、フィルタが3×3のフィルタである場合、のりしろ画素4Tのうち、分割画像1に隣接する(左上隅の)画素(すなわちのりしろ画素4TL)が第3の画素群に対応する。また、のりしろ画素4Tのうち、分割画像1に隣接する(左上隅の)画素の右隣の画素(すなわちのりしろ画素4TLの右隣の画素)が第4の画素群に対応する。
そして、画像処理部105は、分割画像1と、のりしろ画素2Lに対するフィルタ処理を行う。画像処理部105は、このフィルタ処理と並行して、分割画像2の画素のうち、フィルタ処理を行うに際し分割画像1を参照する必要がない画素(のりしろ画素2L以外の画素)に対するフィルタ処理を行う。
また、本実施形態では、分割画像の数が4つである場合を例に挙げて説明したが、分割画像の数は複数であれば4つに限定されない。また、本実施形態では、分割画像の大きさが同じである場合を例に挙げて説明したが、分割画像の大きさは同じでなくてもよい。
図8は、分割前の1フレームの画像の全体の変形例を示す図である。図8では、8K4K画像を縦横に3分割して分割画像の数を9つとする場合を示す。
図9は、画像処理システムの変形例を示す図である。
図9に示す例では、3つの画像処理装置に、垂直方向で隣接する3つの分割画像(例えば、分割画像1、2、3)が同時に入力され、並列処理がお子合われる。各分割画像1〜9には、分割画像1〜9に水平方向で隣接する分割画像の画素のうち、分割画像1〜9に対するフィルタ処理を行う際に参照される画素が付加される。例えば、分割画像5には、分割画像5に水平方向で隣接する分割画像2、8の画素のうち、分割画像5に対するフィルタ処理を行う際に参照される画素(のりしろ画素2R、8L)が付加される。
また、例えば、垂直方向で隣接する3つの分割画像のうち、下2つの分割画像に対して画素格納部103a〜103fを設ける(一番上の分割画像1、4、7に対しては画素格納部を設けない)。画素格納部103a〜103fは、それぞれ、前述した第1〜第4の画素群の画素の値を格納する。例えば、分割画像5に対する画素格納部103cは、第1の画素群の画素の値として、分割画像5の画素のうち、分割画像4の画素に対するフィルタ処理を行う際に参照される画素(のりしろ画素5T)の値を格納する。また、画素格納部103cは、第2の画素群の画素の値として、分割画像5の画素のうち、当該第1の画素群の画素(のりしろ画素5T)以外の画素であって、当該第1の画素群の画素に対するフィルタ処理を行う際に参照される画素の値を格納する。
また、画素格納部103cは、第3の画素群の画素の値として、分割画像5に付加された画素(のりしろ画素2R、8L)のうち、分割画像4の画素に対するフィルタ処理を行う際に参照される画素の値を格納する。図8に示す例では、のりしろ画素2R、2Tの重複領域の画素、のりしろ画素8L、8Tの重複領域の画素が第3の画素群の画素に対応する。また、画素格納部103は、第4の画素群の画素の値として、分割画像5に付加された画素(のりしろ画素2R、8L)のうち、第3の画素群の画素以外の画素であって、第1の画素群の画素に対するフィルタ処理を行う際に参照される画素の値を格納する。
そして、垂直方向で隣接する2つの分割画像について、分割画像の数が4つの場合と同様にしてフィルタ処理を行う。例えば、分割画像5に対するフィルタ処理を行う場合には、分割画像5のフィルタ処理は、フィルタ処理の際に分割画像4の画素を参照する必要がない画素のうち、最も上のライン(行)、すなわち、のりしろ画素5Tの次のライン(行)から開始される。また、分割画像5の画素のうち、分割画像5に対するフィルタ処理を行う際に分割画像6の画素を参照する画素(のりしろ画素5B)については、画素格納部103dに格納されている画素の値を参照してフィルタ処理を行う。具体的には、のりしろ画素6T、のりしろ画素3R、3Tの重複領域の画素、のりしろ画素9L、9Tの重複領域の画素の値が参照される。
また、分割画像5の画素のうち、残りの画素(のりしろ画素5T)の値は、画像格納部103cに格納されている。そこで、のりしろ画素5Tに対するフィルタ処理は、分割画像4に対するフィルタ処理の後に続けて行われる。
その他については、分割画像の数が4つの場合と同様にして処理を行うことが可能であるので、詳細な説明を省略する。
また、一方向(例えば垂直方向)でのみ画像を分割(上下2分割)して2つの分割画像を形成した場合には、他方向(例えば水平方向)で隣接する分割画像は存在しない。したがって、このようにする場合には、分割画像に対して、当該分割画像(例えば水平方向)に他方向で隣接する分割画像の画素(のりしろ画素)を付加する必要はなくなる。
尚、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
(その他の実施例)
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
103 画素格納部、105、106 画像処理部、1061 開始ライン検出部

Claims (10)

  1. 1フレームの画像を複数に分割した画像である分割画像の画素を、当該画素の周囲の領域の画素の値を用いて処理する画像処理装置であって、
    前記周囲の領域の画素の値を格納部に格納する格納手段と、
    垂直方向および水平方向のうちの一方向で隣接する複数の分割画像に対する前記処理を、前記格納部に格納された画素の値を用いて並行して行う処理手段と、を有し、
    前記処理を行う際の前記画素の走査方向は、全ての前記分割画像で同じであり、
    前記格納手段は、前記一方向で隣接する2つの前記分割画像のうち、前記一方向における並び順が前記画素の走査方向で後になる一方の分割画像に対する前記処理を行う際に参照される画素の値として、他方の分割画像の画素の値を格納しないことを特徴とする画像処理装置。
  2. 前記格納手段は、前記一方の分割画像の画素の中から、前記他方の分割画像の画素に対する前記処理の際に参照される画素からなる第1の画素群と、当該第1の画素群の画素以外の画素であって、当該第1の画素群の画素に対する前記処理の際に参照される画素からなる第2の画素群と、を選択して、それらの画素の値を格納部に格納することを特徴とする請求項1に記載の画像処理装置。
  3. 前記格納手段は、前記一方の分割画像に対し、垂直方向および水平方向のうち前記一方向と異なる他方向で隣接する前記分割画像の画素の中から、前記他方の分割画像の画素に対する前記処理の際に参照される画素からなる第3の画素群と、当該第3の画素群の画素以外の画素であって、前記第1の画素群の画素に対する前記処理の際に参照される画素からなる第4の画素群と、を選択して、それらの画素の値を格納部にさらに格納することを特徴とする請求項2に記載の画像処理装置。
  4. 前記分割画像には、当該分割画像に対する前記処理の際に参照される画素のうち、当該分割画像と前記他方向で隣接する前記分割画像の画素が付加されており、
    前記格納手段は、前記付加された画素の中から、前記第3の画素群と前記第4の画素群とを選択することを特徴とする請求項3に記載の画像処理装置。
  5. 前記処理手段は、前記一方の分割画像の画素のうち、前記他方の分割画像の画素を参照せずに前記処理を行える画素として最初に走査されるラインを検出し、前記一方の分割画像に対する前記処理を、当該検出したラインの画素から行うことを特徴とする請求項1〜4の何れか1項に記載の画像処理装置。
  6. 1フレームの画像を複数に分割した画像である分割画像の画素を、当該画素の周囲の領域の画素の値を用いて処理する画像処理方法であって、
    前記周囲の領域の画素の値を格納部に格納する格納工程と、
    垂直方向および水平方向のうちの一方向で隣接する複数の分割画像に対する前記処理を、前記格納部に格納された画素の値を用いて並行して行う処理工程と、を有し、
    前記処理を行う際の前記画素の走査方向は、全ての前記分割画像で同じであり、
    前記格納工程は、前記一方向で隣接する2つの前記分割画像のうち、前記一方向における並び順が前記画素の走査方向で後になる一方の分割画像に対する前記処理を行う際に参照される画素の値として、他方の分割画像の画素の値を格納しないことを特徴とする画像処理方法。
  7. 前記格納工程は、前記一方の分割画像の画素の中から、前記他方の分割画像の画素に対する前記処理の際に参照される画素からなる第1の画素群と、当該第1の画素群の画素以外の画素であって、当該第1の画素群の画素に対する前記処理の際に参照される画素からなる第2の画素群と、を選択して、それらの画素の値を格納部に格納することを特徴とする請求項6に記載の画像処理方法。
  8. 前記格納工程は、前記一方の分割画像に対し、垂直方向および水平方向のうち前記一方向と異なる他方向で隣接する前記分割画像の画素の中から、前記他方の分割画像の画素に対する前記処理の際に参照される画素からなる第3の画素群と、当該第3の画素群の画素以外の画素であって、前記第1の画素群の画素に対する前記処理の際に参照される画素からなる第4の画素群と、を選択して、それらの画素の値を格納部にさらに格納することを特徴とする請求項7に記載の画像処理方法。
  9. 前記分割画像には、当該分割画像に対する前記処理の際に参照される画素のうち、当該分割画像と前記他方向で隣接する前記分割画像の画素が付加されており、
    前記格納工程は、前記付加された画素の中から、前記第3の画素群と前記第4の画素群とを選択することを特徴とする請求項8に記載の画像処理方法。
  10. 前記処理工程は、前記一方の分割画像の画素のうち、前記他方の分割画像の画素を参照せずに前記処理を行える画素として最初に走査されるラインを検出し、前記一方の分割画像に対する前記処理を、当該検出したラインの画素から行うことを特徴とする請求項6〜9の何れか1項に記載の画像処理方法。
JP2014009880A 2014-01-22 2014-01-22 画像処理装置および画像処理方法 Pending JP2015138417A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014009880A JP2015138417A (ja) 2014-01-22 2014-01-22 画像処理装置および画像処理方法
US14/600,873 US9741086B2 (en) 2014-01-22 2015-01-20 Image processing apparatus, image processing method, and storage medium storing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014009880A JP2015138417A (ja) 2014-01-22 2014-01-22 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2015138417A true JP2015138417A (ja) 2015-07-30
JP2015138417A5 JP2015138417A5 (ja) 2017-02-23

Family

ID=53545215

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014009880A Pending JP2015138417A (ja) 2014-01-22 2014-01-22 画像処理装置および画像処理方法

Country Status (2)

Country Link
US (1) US9741086B2 (ja)
JP (1) JP2015138417A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6251029B2 (ja) * 2013-12-12 2017-12-20 キヤノン株式会社 制御装置、画像処理装置、制御方法、およびプログラム
JP2017191145A (ja) * 2016-04-11 2017-10-19 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005094212A (ja) * 2003-09-16 2005-04-07 Canon Inc 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
US20100086216A1 (en) * 2008-10-08 2010-04-08 Samsung Electronics Co., Ltd. Apparatus and method for ultra-high resolution video processing
JP2010245961A (ja) * 2009-04-08 2010-10-28 Olympus Imaging Corp 画像処理装置
JP2012075083A (ja) * 2010-08-30 2012-04-12 Canon Inc 画像処理装置及びその制御方法
JP2013065283A (ja) * 2011-09-02 2013-04-11 Canon Inc 画像処理装置及びその制御方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000312311A (ja) 1999-04-27 2000-11-07 Nippon Hoso Kyokai <Nhk> 信号処理装置
JP4626007B2 (ja) * 1999-06-14 2011-02-02 株式会社ニコン 画像処理方法、画像処理プログラムを記録した機械読み取り可能な記録媒体、および画像処理装置
US7412109B2 (en) * 2003-11-07 2008-08-12 Mitsubishi Electric Research Laboratories, Inc. System and method for filtering artifacts in images
EP1770636A1 (en) * 2005-09-28 2007-04-04 Pioneer Digital Design Centre Ltd Television image filtering
JP4653059B2 (ja) * 2006-11-10 2011-03-16 オリンパス株式会社 撮像システム、画像処理プログラム
JP2009010613A (ja) 2007-06-27 2009-01-15 Nippon Hoso Kyokai <Nhk> 映像信号出力装置及び映像伝送方法
JP5340088B2 (ja) * 2009-09-07 2013-11-13 キヤノン株式会社 情報処理方法及び装置
JP5526840B2 (ja) * 2010-02-09 2014-06-18 ソニー株式会社 画像信号処理装置、撮像装置、画像信号処理方法、およびプログラム
US9813738B2 (en) * 2010-10-05 2017-11-07 Hfi Innovation Inc. Method and apparatus of adaptive loop filtering
US8582890B2 (en) * 2010-10-15 2013-11-12 DigitalOptics Corporation Europe Limited Image sharpening via gradient environment detection
US9161041B2 (en) * 2011-01-09 2015-10-13 Mediatek Inc. Apparatus and method of efficient sample adaptive offset

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005094212A (ja) * 2003-09-16 2005-04-07 Canon Inc 画像処理装置及び方法、並びにコンピュータプログラム及びコンピュータ可読記憶媒体
US20100086216A1 (en) * 2008-10-08 2010-04-08 Samsung Electronics Co., Ltd. Apparatus and method for ultra-high resolution video processing
JP2010245961A (ja) * 2009-04-08 2010-10-28 Olympus Imaging Corp 画像処理装置
JP2012075083A (ja) * 2010-08-30 2012-04-12 Canon Inc 画像処理装置及びその制御方法
JP2013065283A (ja) * 2011-09-02 2013-04-11 Canon Inc 画像処理装置及びその制御方法

Also Published As

Publication number Publication date
US9741086B2 (en) 2017-08-22
US20150206274A1 (en) 2015-07-23

Similar Documents

Publication Publication Date Title
US20200372609A1 (en) Super-resolution video reconstruction method, device, apparatus and computer-readable storage medium
US9454794B2 (en) Image processing apparatus, image processing method, and program
WO2015032185A1 (zh) 图像超分辨率重构系统及方法
US8570443B2 (en) Image processing circuit and method thereof
JP6515455B2 (ja) 撮像装置及び撮像表示装置
US7742636B2 (en) Method and apparatus for scaling down a bayer domain image
JP6601020B2 (ja) 撮像表示装置
US9519959B2 (en) Image processing apparatus, imaging apparatus, and method for processing image
US9154665B2 (en) Image processing apparatus and control method thereof
JP2015138417A (ja) 画像処理装置および画像処理方法
CN103856729A (zh) 图像处理装置
US20180114292A1 (en) Image processing apparatus, image processing method, and storage medium storing program to scale image having hierarchical layer
US20230283916A1 (en) Imaging apparatus, operation method of imaging apparatus, and program
CN108875733B (zh) 一种红外小目标快速提取系统
US11991461B2 (en) Imaging apparatus, operation method of imaging apparatus, program, and imaging system
JP5718029B2 (ja) 撮像装置
JP2008228251A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2010161677A (ja) 画像処理装置及び画像処理方法
JP2012134626A (ja) 画像処理装置、画像処理方法、及び撮像装置
CN111768732B (zh) 一种显示驱动装置、显示装置和显示驱动方法
US20140063068A1 (en) Accommodating display data corresponding to a scanout area of a graphics processor within an incompatible display unit
US10853919B2 (en) Image processing apparatus, image processing method, and program
JP2016095667A (ja) 画像処理装置および電子機器
US20140078161A1 (en) Image processing device for scrolling display of an image
JP2010245682A (ja) 画像処理装置、画像処理方法およびコンピュータープログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170120

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180313

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20181218