JP2018018173A - 画像処理装置、画像処理方法、コンピュータプログラム - Google Patents

画像処理装置、画像処理方法、コンピュータプログラム Download PDF

Info

Publication number
JP2018018173A
JP2018018173A JP2016145740A JP2016145740A JP2018018173A JP 2018018173 A JP2018018173 A JP 2018018173A JP 2016145740 A JP2016145740 A JP 2016145740A JP 2016145740 A JP2016145740 A JP 2016145740A JP 2018018173 A JP2018018173 A JP 2018018173A
Authority
JP
Japan
Prior art keywords
color
region
area
image
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016145740A
Other languages
English (en)
Other versions
JP6779688B2 (ja
JP2018018173A5 (ja
Inventor
航也 島村
Koya Shimamura
航也 島村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016145740A priority Critical patent/JP6779688B2/ja
Priority to US15/648,285 priority patent/US10438376B2/en
Priority to CN201710613490.6A priority patent/CN107659799B/zh
Publication of JP2018018173A publication Critical patent/JP2018018173A/ja
Publication of JP2018018173A5 publication Critical patent/JP2018018173A5/ja
Application granted granted Critical
Publication of JP6779688B2 publication Critical patent/JP6779688B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/187Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6011Colour correction or control with simulation on a subsidiary picture reproducer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6016Conversion to subtractive colour signals
    • H04N1/6019Conversion to subtractive colour signals using look-up tables
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/62Retouching, i.e. modification of isolated colours only or in isolated picture areas only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

【課題】背景領域中の前景領域が類似色の画素で構成されている場合に、その前景領域の色を、選択された1つの色で置換する。
【解決手段】背景領域中の前景領域が類似色の画素で構成されている場合に、その前景領域の色を、選択された1つの色で置換する。具体的には、マーカー部抽出処理S510は、入力画像内からマーカーで記載された領域を抽出する。次に、マーカー部色置換処理S520は抽出されたマーカー領域の色を別の色に置換する。次に、マーカー部スムージング処理S530は、マーカーで記載された領域の輪郭のスムージング処理を行う。
【選択図】図5

Description

本発明は、画素の色を置換する画像処理技術に関する。
近年、スマートフォンやタブレットPCといった高度な情報処理機能を持つ携帯端末が普及してきている。これら携帯端末は、カメラを備え、撮影機能(カメラ機能)を有している。このような携帯端末のカメラ機能を用いて、ホワイドボードマーカーペン(以下、マーカー)によって文字や図が書かれたホワイトボード面を撮影し、携帯端末のメモリ上に画像データとして保存することが行われるようになってきた。
携帯端末のカメラ機能を用いたホワイトボード面の撮影は、撮影時の環境に影響を受ける。例えば、ホワイトボード面を照らす光源の影響で、ホワイトボード面上のマーカーによって書かれた文字や図が、マーカーの本来の色とは異なる色で撮影されてしまうことがある。例えば青のマーカーで書かれた文字と黒のマーカーで書かれた文字との区別が撮影画像上で区別がつきにくいことがある。
原稿画像中のマーカーで書かれた部分の色を補正する技術として、特許文献1がある。特許文献1では、画像中の画素の色が蛍光色の色範囲に含まれるか否かに基づいて、色が置換される画素を抽出し、その抽出された画素の色を所定の色に置き換えることを開示する。
特開2015−207961号公報
特許文献1の方法は、画素の色が所定の色範囲内にあるか否かに基づいてその画素の色を置換する。そのため、例えば撮影画像中に写真など複数の色からなる画像領域中に所定の色範囲内に該当する画素と該当しない画素とが混在すると、該当する画素の色だけが特定の色に置換されてしまう。その結果、色が置換された画素が目立ってしまい、画質が低下してしまう。
本発明の画像処理装置は、背景領域中の類似色の画素で構成される前景領域を、画像から特定する特定手段と、前記特定された領域の色に基づいて、予め定められた複数の色から1つの色を選択する選択手段と、前記特定された領域の色を、前記選択された色で置き換える置換手段と、を有することを特徴とする。
本発明によれば、背景領域中の類似色の画素で構成される前景領域の色を置換することができる。
システム構成図の例。 携帯端末101の外観の例 携帯端末101のハードウェア構成図の例 携帯端末101のソフトウェア構成図の例 実施例1の全体フローチャート 実施例1のマーカー部抽出処理のフローチャート 実施例1のマーカー部色置換処理のフローチャート 実施例1のマーカー部スムージング処理のフローチャート 実施例1の処理の例を示す図 実施例1のマーカー部抽出処理の例を示す図 実施例1の属性判定処理のフローチャート 実施例1の属性判定処理の例を示す図 実施例1のマーカー部スムージング処理の例を示す図 実施例2のマーカー部色置換処理のフローチャート 実施例3のマーカー部色置換処理のフローチャート
(実施例1)
図1に本実施例で利用するシステムの全体構成を示す。LAN110には、無線ルータ102、プリンタ103が接続されている。携帯端末101は無線ルータ102およびLAN110を介して、プリンタ103に接続することができる。なお携帯端末101は、以下の実施例において画像処理装置として機能する。
<携帯端末の構成>
図2に本実施例で利用する携帯端末101の外観を示す。携帯端末101は様々な種類が存在するが、図2(a)は、携帯端末101の表面である。表面には、タッチパネルディスプレイ201、操作ボタン202を持つ。タッチパネルディスプレイ201は詳細には操作に必要な情報やボタン、画像などを表示するための表示装置と、人体の指などで触れることにより画面上で触れた位置の座標入力をする装置とが組み合わされた装置である。図2(b)は携帯端末101の裏面である。裏面には撮影部203が配置されている。なお、本発明は撮影部203を含むカメラ機能を持つ端末装置ならば利用が可能である。すわなち、適用されるのはカメラ機能を持ったスマートフォンや携帯電話でも、通信機能を持ったデジタルカメラでも構わない。また、非接触にホワイトボード面を撮影可能な書画カメラにも適用可能である。
<携帯端末101のハードウェア構成>
図3に、携帯端末101の内部のハードウェア構成を示す。但し、この構成図は本実施例を実施するための構成の一例である。図3において、CPU301、RAM302、ROM303がデータバス311を介してプログラムやデータを送受信する。また、データバス311には、フラッシュメモリ304、データ送受信部305、撮像部306、表示部307、操作部308が接続され、CPU301、RAM302、ROM303も併せて、互いにプログラムやデータの送受信を行っている。
フラッシュメモリ304は、内蔵されたフラッシュメモリや外付けのSDフラッシュメモリカードであり、画像データや各種プログラムを格納する。
データ送受信部305は、無線LANコントローラを有し、無線ルータ102を介して、プリンタ103とのデータの送受信を実現する。尚、無線LAN以外にもBluetooth(登録商標)やNFC(Near Field Communication)など、データの送受信を実現できるものであればよい。
撮像部306は、前述のカメラ203であり、ホワイトボード面の撮影を行って撮影画像を取得する。取得された撮影画像のデータはフラッシュメモリ304やRAM302に格納され、CPU301で処理される。処理された画像データは、CPU301により、表示部307での表示、フラッシュメモリ部304への保存、データ送受信部305を介した外部への送信等の後処理が施される。
表示部307は、タッチパネルディスプレイ201を構成するディスプレイであり、カメラ機能を用いてホワイトボード面を撮影する際のライブビューによる表示のほか、本実施例の画像処理結果の表示、処理過程の通知や操作に必要な情報などを表示する。
操作部308は、前述のタッチパネルディスプレイ201を構成するタッチパネルや操作ボタン202であり、ユーザーからの操作を受け付けて各部へ該操作の情報を送信する。
なお、CPU301がROM303やフラッシュメモリ304が保持するプログラム(例えばカメラ撮影アプリケーション403、画像補正アプリケーション404)を実行することで、以下で説明される各フローチャートの処理が実行される。また、CPU301が携帯端末101内の構成要素の制御を行う。
<携帯端末101のソフトウェア構成>
図4に、携帯端末101の処理を行うソフトウェア構成を示す。但し、この構成図は本実施例を実施するための構成の一例である。これらソフトウェアモジュールは、携帯端末101のフラッシュメモリ304に格納され、CPU301が実行する。
OS402は、システム全体を管理し、携帯端末の動作を管理や、後述のカメラ撮影アプリケーション403や画像補正アプリケーション404の制御を行う。
カメラ撮影アプリケーション403は、OS402からの指示により、撮像部306を動作させ、カメラ203が駆動し画像を撮影する。また、カメラ203から画像データを受け取りフラッシュメモリ304に画像データを保存する。
画像補正アプリケーション404は、撮影アプリ呼出部405、画像処理部406、表示制御部407、データ保存部408からなる。画像補正アプリケーション404は、OS402からの指示により、撮影アプリケーションの呼び出し処理、撮影した画像の画像処理、画像処理済みの画像のディスプレイへの描画、保存を行う。なお、この画像補正アプリケーション404は、OS402の指示にしたがって、不図示の外部サーバーから受信されてインストールされたたものである。CPU301は、RAM302およびフラッシュメモリ304を用いて、この画像補正アプリケーション404を実行する。
撮影アプリ呼出部405は、画像補正アプリケーション403内で呼び出され、OS402に対しカメラ撮影アプリケーション403の実行を指示する。撮影アプリ呼出部405からOS402を介しカメラ撮影アプリケーション403を呼び出し、画像を撮影する。
画像処理部406は、画像補正アプリケーション403内で呼び出され、撮影した画像や、フラッシュメモリ304に格納されている画像に対し、画像処理を行う。
表示制御部407は、画像補正アプリケーション403内で呼び出され、撮影した画像や、フラッシュメモリ304に格納されている画像及び、画像処理部406で処理(色置換)を行った画像を表示部307に表示する。
データ保存部408は、画像補正アプリケーション403内で呼び出され、画像処理部406で処理を行った画像をフラッシュメモリ304保存する。
<処理の流れの詳細説明>
図5、図6、図7、図8は本実施例における入力画像を補正する処理を説明するフローチャートである。これらフローチャートは、画像処理部406によって実行される。
以下で説明する処理の概要は次の通りである。入力画像中の前景の画素群の隣接関係に基づいて1つ以上の前景画素群を抽出し、画素群ごとに、その画素群が類似色の画素で構成されているかを判定して、類似色の画素で構成されている画素群をマーカーで記載された領域と見なして色を置換する。このようにすることで、マーカーで記載された箇所と、写真などの箇所とを区別して、マーカーで記載された箇所を選択的に補正することができる。
図5は入力画像の補正処理の全体の流れを表している。撮影部203を含むカメラ機能によってホワイトボード面を撮影した画像やフラッシュメモリ304に保存されている画像が入力画像として処理される。あるいは、外部から受信した画像などが入力画像として処理される。カメラ機能の指示は、カメラ撮影アプリケーション403の指示により撮影が実行される。入力画像はホワイトボード面の画像が含まれていることが前提となる。撮影画像にホワイトボード面以外の背景領域が含まれている場合は、ホワイトボード面の領域を検出し、その領域が長方形の領域になるように台形補正を行ったものを入力画像とすればよい。ホワイトボード面は、撮影画像内で最も外側にある4辺で構成されていると考えられる。そこで、画像処理部406は、撮影画像にエッジ抽出処理を行い、抽出されたエッジのうち、既定の長さ以上の長さを持ち、且つ、撮影画像中の上下左右それぞれで最も外側にある4辺を特定する。そして画像処理部406は、その特定された上下左右の4辺からなる矩形をホワイトボード面の画像として抽出する。そして、画像処理部406は、その抽出された画像に対して射影変換(台形補正)を行うことで、長方形の画像を処理対象の入力画像として得る。
図9(a)は、入力画像の例である。また、図9(b)に図9(a)内のそれぞれの属性を記している。符号600は、ホワイトボード面の枠を示す。符号601〜604は、マーカーで記載された文字を示し、それぞれ、黒色で記載された文字、赤色で記載された文字、青色で記載された文字、緑色で記載された文字を示す。符号605、606は、マーカーで記載された線画である。符号607は、ホワイトボード面上に貼られたカラー写真である。符号601〜606のマーカーで記載された箇所は、マーカーの状態や記載方法によって記載されている濃度はまばらであり、濃い部分や薄い部分が混在している。尚、撮影環境により文字部や写真部の背景に影があることが分かる。背景に影については、影除去技術を用いることで除去することができる。
図9(c)は、図9(a)から影を除去した画像であり、本実施例で説明する入力画像として扱う画像である。影除去技術は、例えば画像から長周期の輝度成分(影成分)を抽出し、その画像から抽出した影成分を差し引くことで影の除去をする方法や、明るさやコントラストを調整など、公知の影除去技術でよい。図9(c)では、符号601〜606のマーカーで記載された領域は、マーカーの状態や記載方法によって記載されている濃度はまばらであり、濃度が薄く視認性が低い箇所があるのがわかる。
ステップS510のマーカー部抽出処理は、入力画像内からマーカーで記載された領域を抽出する。このマーカー部抽出処理の詳細は図6のフローチャートにより後述する。図9(d)の黒実線部は、図9(c)の入力画像から抽出したマーカーで記載された領域を示す。符号601〜606のマーカーで記載された領域だけが抽出されており、符号607の写真部が抽出されていないことが分かる。
次にステップS520のマーカー部色置換処理は、S510で抽出されたマーカーの領域の色を別の色に置換する。このマーカー部色置換処理の詳細は図7のフローチャートにより後述する。図9(e)は、図9(d)に示されるマーカーで記載された領域の色を特定の色で置換した画像を示す。この図9(e)は、マーカー部色置換処理によって、マーカーによって記載されている部分の視認性が向上することを表している。カラー信号値の違いを説明するため図9(f)に、処理前(図9(c)の一部領域拡大)と処理後(図9(e)の一部領域拡大)の信号値を示す。
符号601で示される黒色のマーカーについて、処理前の場合にはRGB信号値が8bitで{R、G、B}={50、60、40}や、{R、G、B}={100、120、90}と文字ごとに色が異なっている。また、黒色であっても厳密な黒色ではなく、グレーの状態や有彩色の状態になっている。一方、処理後の場合にはRGBの信号値が8bitで{R、G、B}={0、0、0}と文字間で色の差はない。更に、色も無彩色の状態になっていることがわかる。同様に、符号602で示される赤色のマーカーで記載した文字も文字間で色の差はなく、明確な赤色に変換されていることがわかる。
最後にステップS530のマーカー部スムージング処理は、マーカーで記載された領域の色置換を行った画像を処理することで、そのマーカーで記載された領域の輪郭のスムージング処理を行う。このマーカー部スムージング処理の詳細は図8のフローチャートにより後述する。マーカー部スムージング処理によって、色が置換されたマーカー領域の輪郭がスムージングされて、より見た目の良い画像を生成することができる。
<マーカー部抽出処理>
図6はマーカー部抽出処理を説明するフローチャートである。また、図10は処理のイメージ図である。領域701はマーカーで記載した文字の領域、領域702はマーカーで記載した線画の領域、領域703は写真が貼られた領域、領域704は記載されていないホワイトボード面領域を示している。領域701から704のそれぞれの画像に対してS511、S512、S514、S515の処理を行った結果のイメージを示す。
以下のステップS511およびS512は、所定の輝度未満の輝度を有する画素を前景画素とみなし、それら前景画素のうちで互いに隣接する画素どうしを同じ画素群(ラベル)に分類する。これによって、複数の前景画素からなる画素群(つまり背景領域中の前景領域)を、1つ以上、抽出する。
ステップS511は、入力画像に対して、所定の輝度を閾値とした二値化処理を行い、二値画像を生成する。二値化処理は、所定の輝度未満の画素を、前景画素を示す黒画素に置き換え、所定の輝度以上の画素を、背景画素を示す白画素に置き換える。この二値化処理によって、マーカーで記載された文字や図形の領域や写真が貼られた領域と、文字の記載や写真の貼付のないホワイトボードの領域との切り分けを行う。すなわち、二値化処理は、入力画像を、前景画素(有色画素、非白色画素)で構成される前景領域と、背景画素(白色画素)で構成される背景領域とに分離する。なお、画像の二値化処理の手法は、白と黒の二階調に変換できる手法であれば、公知の技術でよい。
領域701から704に対し、二値化処理したそれぞれの結果を二値画像705から708に示す。階調を持つ画像が白と黒の二階調に変換されていることがわかる。入力画像は、RGB信号を持つ3チャンネル画像の場合でも、グレー信号しか持たない1チャンネル画像の場合でもよい。二値化処理後に出力される画像は、入力画像がRGB信号を持つ3チャンネル画像の場合には各チャンネルで二値化処理を行い1チャンネルの画像に合成してもよいし、RGB信号を輝度信号に変換し二値化処理を行ってもよい。二値化処理を行う際の閾値の決定方法は、どの画像に対しても同一の固定値を用いてもよいし、入力画像ごとにヒストグラムから判別分析法を用いて閾値を決める方法でもよい。また、画像面内一律の固定閾値としてもよいし、画素ごとに閾値を切り替える手法であってもよい。尚、本ステップは、二値化処理に限定するものではなく、例えばエッジ抽出処理などのエッジ画素と非エッジ画素を切り分ける処理など、入力画像を白と黒の二階調に変換できる手法であればよい。また、処理する入力画像も、本実施例では影除去後の画像としたが、影除去前の画像から二値化する構成であっても良い。
ステップS512は、二値画像に対してラベリング処理を行う。このラベリング処理は、黒画素が互いに隣接することに基づいてそれら隣接する黒画素を、同一のラベル(画素群)に分類する処理である。ラベリング処理は、黒画素の隣接関係、つまり前景画素の隣接関係に基づいて画素群を抽出するので、マーカーで手書きされたサイズが不揃いの文字なども画素群として好適に抽出することができる。また画素をラベルに分類することで、後述するように同一ラベルの画素群ごとにそのサイズや色分散値などの特徴量を取得でき、画素群ごとの属性判定を可能にする。
画像のラベリング処理の手法は、二階調の画素の内、黒画素(または、白画素)が縦、横、斜め方向に連続している画素に同一ラベルを付与し、一つの画素群とする。連続していない画素群には別のラベルを付与することができればよい。また、連続する画素を検出する方法は、縦、横方向の連続ラベルを検出する4連結でも、縦、横、斜め方向のラベルを検出する8連結でもよい。図10の二値画像705から708に対し、ラベリング処理したそれぞれの結果をラベル付き二値画像709から712に示す。二値化された画素の内、連結する画素ごとに同一ラベルが付与されていることがわかる。
ステップS513は、後述のステップS514でのラベルごと(画素群ごと)の特徴量抽出のために、入力画像に対して色空間変換処理を行うことで色変換後の画像を生成する。具体的には、RGB信号の色空間を持つ入力画像を、YUV信号の色空間に変換する。YUV信号の色空間に変換することで、輝度(Y)と色差(輝度と青の差U、輝度と赤の差V)の組み合わせで色を表現することができ、色差信号値から精度よく色種を判定することができる。
尚、変換する色空間は、本実施例ではYUV色空間としたが、YCbCr色空間など輝度と色差を使って表現される色空間であればよいし、色種の判定が可能であればRGB色空間のままであってもよい。本実施例では画像全画素に対し、色空間変換処理を行うが、画像全画素に行う必要はなく、S511の二値化処理で前景画素と判定した画素のみに対し行うだけでもよい。
以上のように入力画像、ラベル付き二値画像、YUV色空間の多値画像は、互いに対応している。すなわち、ある座標上の入力画像の画素は、その画素の属性として、その座標と同一の座標上のラベル付き二値画像の画素が持つラベルと、その座標と同一座標上のYUV多値画像の画素のYUV信号値を持つと言える。
ステップS514は、ラベル付き二値画像およびYUV多値画像を参照することで、同一ラベルの画素群ごとに特徴量の抽出処理を行う。抽出された特徴量は、後述の同一ラベルごとの属性判定を行う際に用いられる。この抽出処理により、具体的には、ラベルごとに、ラベルの外接矩形のサイズや、ラベルを構成する画素の数、ラベルに対応する平均色および色分散値などの特徴量が抽出される。図10のラベル付き二値画像709から712のそれぞれのラベルに対し、ラベルごとに特徴量を抽出した結果を、特徴量抽出結果713から716に示す。同一ラベルごとに特徴量が取得できていることがわかる。
ラベルの外接矩形サイズは、同一ラベルを持つ画素群の外接矩形を求め、その外接矩形の幅および高さとして求められる。
ラベルの画素数は、ラベルを構成する画素の数を数え上げることで求められる。
ラベルの平均色は、色変換後の画像における、同一ラベルに対応する各画素のYUV信号値(色値)を累積し、その同一ラベルを持つ画素群に含まれる画素の数で除算することで求められる。なお、この平均色は、同一ラベルを持つ画素群に含まれる画素のYUV信号値のヒストグラムを作成し、各ヒストグラムの最大頻度を持つYUVの各信号値としても良い。
ラベルの色分散値は、色変換後の画像における、同一ラベルに対応する各画素のYUV信号値の各分散値を求めることで算出することができる。
尚、YUV信号値の平均値や色分散は、Y、U、Vの各チャンネル(3チャンネル)で算出を行ってもよいし、色判定に最も寄与するU、Vの2チャンネルだけを求めるだけであってもよい。また、この色分散値は、同一ラベルを持つ画素群における、色の散らばりの程度(言い換えると、類似の程度)が分かる指標であれば、他の方法によって求められる特徴量でも良い。例えば、散の正の平方根を求めた標準偏差であっても良いし、U信号とV信号の共分散値であっても良い。
ステップS515は、S514でラベルごとに抽出した特徴量に基づいて、各ラベルに対して属性判定処理を行う。図11に示される属性判定処理を行うことにより、同一ラベルごとにマーカーで記載された領域と、写真が貼られた領域などのマーカーで記載していない領域とに属性を区別することができる。属性判定処理は、同一ラベルごとにマーカーで記載された領域とそれ以外の領域を判定できる属性判定処理であればよい。
図11に属性判定処理の詳細なフローチャートを示し、属性判定処理の詳細を説明する。属性判定処理は、特徴量の抽出処理で取得した特徴量に基づいて、ラベルごとにマーカーで記載された前景部分(マーカー属性)か、マーカーで記載された部分ではない、写真などの前景部分(非マーカー属性)かを判定する。
ホワイトボードには、白い面上にマーカーで文字が描かれたり、写真などの紙面が貼られたりする。属性判定処理は、撮影された画像中の有色の前景画素群が、単色で描かれたマーカーによる記載なのか、使用色数が多い写真なのかを、画素群の外接矩形サイズ、画素群を構成する画素数、画素群の平均色、画素群の色分散値に基づいて判別する。
以下の処理は処理対象のラベルが無くなるまで、ラベルの外接矩形のサイズが小さい順に、ラベルごとに繰返し行われる。
ステップS801は、ラベルの外接矩形サイズと入力画像のサイズの比較判定を行う。具体的には、矩形サイズの幅と入力画像サイズの幅の差分の絶対値が閾値未満であり、且つ、矩形サイズの高さと入力画像サイズの高さの差分の絶対値が閾値未満であるかが判定される。この判定によって、入力画像のサイズとほぼ一致するような外接矩形を持つラベルは、ホワイトボード中のマーカーで書かれた部分ではないとみなされ、幅の差分の絶対値および高さの差分の絶対値がともに閾値未満の場合には、ステップS808へ進む。そうでない場合には、そのラベルの画素群は、ホワイトボード中のマーカーで書かれた部分である可能性があるので、更なる判定のためにステップS802へ進む。
ステップS802は、ラベルの色分散値が第1閾値未満かを判定する。具体的には、U信号値の分散値が第1閾値未満であり、且つ、V信号値の分散値が第1閾値未満であるかが判定される。U信号値の分散値およびV信号値の分散値がともに第1閾値未満である場合には、ステップS807へ進む。そうでない場合には、ステップS803へ進む。
つまりステップS802は、U信号値およびV信号値の分散値がともに第1閾値未満であるような、類似色の画素で構成されている画素群を、マーカー属性と判定する。言い換えると、ステップS802は、ほぼ白色の領域(つまり、背景領域)に囲まれた、ほぼ単色の領域(つまり、連続する類似色の画素で構成される前景領域)を、後述の色置換処理が行われる領域として特定する。ホワイトボード面に記載されている1色しか使われていない文字や図形を撮影した場合、ラベルごとに見ると色分散値が非常に小さくなる。一方、ホワイトボード面にカラーの写真が貼られていると、そのラベルはU信号値かV信号値のいずれかの分散値が大きくなるため、その場合には非マーカー属性と判定する。
なお、U信号値の分散値と比較される閾値と、V信号値の分散値と比較される閾値とを異なる閾値にしても良い。また、人の目にとって、U信号値(およびV信号値)の変化(分散具合)の認識しやすさは、Y信号値によって異なるので、U信号値(およびV信号値)の閾値をY信号値に応じて変えても良い。
ステップS803は、S802と同様に、YUVの色分散値が第2閾値未満であるかを判定する。色分散値が第2閾値未満の場合(つまり色分散値が、第1閾値以上、かつ、第2閾値未満の場合)には、ステップS804へ進む。この第2閾値はS802で用いられた第1閾値よりも大きい。つまりS803の判定によって、画素群が類似色の画素で構成されているとも構成されていないとも判断がつきにくい画素群について、ステップS804以降の処理が行われることになる。色分散値が第2閾値以上の場合には、ステップS808へ進む。すなわち、第2閾値以上の色分散値を持つラベルの画素群については、後述するように非マーカー属性として扱うことで、後述の色置換を行わない。
ステップS804は、S511で生成された二値画像中の処理対象のラベルの画素群を抽出し、その抽出された画素群に対して細線化処理を行う。図12(a)に示す同一ラベルの二値画像に対して、細線化処理(黒画素の収縮化処理または、白画素の膨張化処理)を行い、図12(b)を生成する。ステップS804において細線化処理を行い、ステップS805に進む。
ステップS805は、細線化後の黒画素の数(残画素数)をカウントし、元のラベルの画素群を構成する画素数に対する残画素数の割合(残画素率)を算出する。この処理は、ホワイトボードに書かれたマーカーの線は所定の細さをもっているという仮定の下、残画素率が閾値未満であれば、その画素群はマーカーで書かれた部分に対応するだろうという考え方に基づいている。
例えば、図12(b)に示す細線化後の残画素数がカウントされ、以下の式を用いて、残画素率が求められる。
残画素率=(細線化後の残画素数/同一ラベルの画素数)*100
ステップS806は、求められた残画素率が第3閾値未満か否かを判定する。残画素率が第3閾値未満の場合には、ステップS807へ進む。そうでなければステップS808へ進む。この第3閾値としては、例として50%とし、残画素率<50%が成り立つラベルをマーカー属性、成り立たないラベルを非マーカー属性とする。マーカーで記載した線幅3画素の文字の場合、1画素の細線化を行うと残画素率は50%を下回るため、マーカー属性と判定することができる。尚、本実施例では細線化処理を行い、残画素率を求める方法を説明したが、限定するものではなく、ラベルの線幅を抽出でき、かつ、その線幅が太いか否かを判定できる処理であればよい。
ステップS806において、残画素率が第3閾値以上の場合には、ステップS808へ進む。
ステップS807は、処理対象のラベルの属性をマーカー属性と判定する。
ステップS808は、処理対象のラベルの属性を非マーカー属性と判定する。
ステップS809は、非マーカー属性と判定された処理対象のラベルに囲まれている領域内部に、マーカー属性がついたラベルが存在するか否かを判定する。非マーカー属性と判定されたラベルに囲まれた別ラベルも非マーカー属性である可能性が高いため、その別ラベルの属性を修正するためにこの判定処理が行われる。
図12(c)を用いて説明する。図12(c)内の処理中のラベルに囲まれている領域内部にマーカー属性のラベルと、非マーカー属性のラベルが存在する。処理中のラベルに囲まれている領域内部の判定は、処理中のラベルの外接矩形を求め、その領域内部に処理中以外のラベルがあるか否かで判定することができる。囲まれている領域内部に、マーカー属性のラベルが存在する場合には、ステップS810に進む。非マーカー属性のラベルについては、処理をしない。
ステップS810は、S809の判定によって見つかったマーカー属性のラベルの属性を、非マーカー属性に修正する。この処理は、処理対象の非マーカー属性のラベルに囲まれている領域内部のマーカー属性の全てのラベルの属性が修正されるまで繰り返される。
ステップS811は、全ラベルの判定が終了しているか判定し、まだ未判定のラベルがある場合には、次のラベルの属性判定を行う。全ラベルの判定が終了している場合には図11の処理を終了する。
上記の処理により、図10の713に示すマーカーで記載した文字や、714に示すマーカーで記載した線画は、色分散値も低く、かつ細いオブジェクトのため、マーカー属性へと判定することができる。一方、715に示す写真を張り付けた領域の色分散値は高く、残画素率も高くなり、非マーカー属性へと判定することができる。
このように、ステップS511からステップS515の処理を行い、S510のマーカー部抽出処理が終了し、続くS520のマーカー部色置換処理が行われる。
図7はマーカー部色置換処理を説明するフローチャートである。この処理は、マーカー属性を持つ、同一ラベルの画素群に含まれる画素の色に基づく色の信号値(階調値)で、その画素群に含まれる各画素の信号値(階調値)を置き換える。言い換えるとこの処理は、類似色の画素で構成されていると判定された画素群の色を、その画素群を構成する少なくとも1つの画素の色に基づいて求められる1色で置き換える。
ステップS521は、ラベルごとに(つまり画素群ごとに)同一ラベル色判定処理する。ここでは、前述のS514で抽出されたラベルごとのYUV色空間での平均色と、予め定められた複数の基準色(黒色、赤色、青色、緑色)との距離(類似度)を求め、その平均色はどの基準色に近いかを判定する。
例えば、あるラベルの平均色の色差(Uチャンネル、Vチャンネル)の信号値と、各基準色に対応する色差(Uチャンネル、Vチャンネル)の信号値との差分をそれぞれ計算し、それら差分をそれぞれ2乗した値の和の平方根を計算する。各基準色に対応する色差信号値は、画像処理部406に記憶されている。すなわち、平均色の色差と各基準色の色差の距離が計算される。そして計算された各基準色までの距離のうちで最も近い距離の基準色(つまり最も平方根が小さい基準色)を、そのラベルの色と判定する。例えば、図9(b)で示した601から604の各ラベルをそれぞれ黒色、赤色、青色、緑色と判定する。
ステップS522は、ラベルごとに置換色選択処理する。この処理は、S521で判定した基準色に対応するRGB値を、ラベルごとに選択し、ラベルに割り当てる。そのためあるラベルに対して割り当てられた色(RGB値)は、別のラベルの画素群(背景領域中の別の前景領域)の色に依存しないで決まる。例えば、黒色であると判定されたラベルの場合、ラベルにRGB信号値{R、G、B}={0、0、0}が割り当てられる。赤色の場合、RGB信号値{R、G、B}={255、0、0}が割り当てられる。緑色の場合、RGB信号値{R、G、B}={0、255、0}が割り当てられる。青色の場合、RGB信号値{R、G、B}={0、255、0}が割り当てられる。このRGB信号値は、基準色ごとに予めテーブルに記憶されている。このテーブルは、画像処理部406が持っている。
図9(f)の上図に示されるように、RGB信号値{R、G、B}={50、60、40}や{100、120、90}のように信号値が異なっている場合でも、S521で黒色と判定されると、一律にRGB信号値を{0、0、0}に変換される。同様に、図9(f)の下図にしめされるように、RGB信号値{R、G、B}={200、30、20}や{180、40、40}であった入力画像の部分のRGB信号値は、S521で赤色と判定されると、{255、0、0}に変換される。
ステップS523は、ラベルごとに色置換処理する。この色置換処理は、各ラベルの画素群に対応する入力画像中の画素群を構成する各画素の色を、S522で割り当てられた色で置き換える。具体的に色置換処理は、ラベル付き二値画像中の同一ラベルの画素群の対応する入力画像中の画素群のRGB信号値(階調値)を、そのラベルに割り当てられたRGB信号値で置き換える。この色置換処理により、同一ラベルの信号値が統一化され、1色に置き換えられるため、ホワイトボードに描かれたマーカーの色を、写真と区別して鮮やかに補正できる。
このようにステップS521からステップS523の処理を行い、S520のマーカー部置換処理が終了し、続くS530のマーカー部スムージング処理が行われる。
図8はマーカー部スムージング処理を説明するフローチャートである。S520のマーカー部置換処理は、ラベル付き二値画像中の同一ラベルの画素群に対応する入力画像中の画素のRGB信号値を、1色のRGB信号値に置き換える。この同一ラベルの画素群(ラベル付き二値画像)は、S511の二値化処理によって生成された二値画像に基づいて形成されている。そのため、色が置き換えられた入力画像中の画素群の輪郭形状には、図13(a)に示されるように、ジャギー(段差)が目立つ。そこでマーカー部スムージング処理は、図13(b)に示されるように、その段差を平滑化する。
ステップS531とS532を、図13を用い説明する。このステップS531、S532は、属性判定処理の判定結果と、同一ラベルを持つ画素群の輪郭形状とに基づいて、色置換処理が行われた画素群の輪郭に多値画素を付加することで、スムージング処理を行う。つまりS531、S532は、マーカー属性を持つ同一ラベルを持つ画素群の輪郭形状に基づいて、多値画素付加される輪郭上の位置および付加される画素の階調値を決定し、その位置にその階調値を持つ画素を付加する。
ステップS531は、ラベル輪郭段差検出処理を行う。S531は、マーカー属性のラベルの画素群の輪郭をパターンマッチングにより追跡しながら特定の段差を検出する。図13(a)は、ラベル付き二値画像中の画素群の輪郭を黒画素で示しており、パターン901で示す黒画素の一画素の段差を、特定の段差としている。輪郭を追跡し、パターン901で示す3画素×3画素パターンを検出するパターンマッチングを実施する。パターン901を検出すると、更にそこからX方向にパターンマッチングの検出を進め、パターン902で示す3画素×3画素パターンを検出する。その際、パターン901から、パターン902までの画素数903をカウントしておく。
ステップS532は、ラベル付き二値画像から検出された段差に基づいて、スムージング処理を行う。S531において検出した段差に対し、ピンポイントでフィルタや多値画素の付加による高精細化を行う事で、ジャギーを軽減させる。言い換えると、S532は、入力画像中のS523の色置換処理が行われた画素群に隣接する少なくとも1つの画素の色を、画素群の輪郭を平滑化するための色に置き換える。図13(b)は、パターン901からパターン902の間をスムージングした結果を示す。図13(b)は、A座標の画素のRGB信号値(信号値A)と、B座標の画素のRGB信号値(信号値B)と、画素数903と、から、画素群の輪郭の領域904付加される多値画素の信号値が決まることを示す。この決められた信号値が、画素群の輪郭を平滑化するための色である。例えば、A座標からB座標までの間の画素数903が5画素であれば、輪郭の領域904内の4画素の階調値を信号値Aから信号値Bまで段階的に変化する階調値にすればよい。すなわち輪郭の領域904はグラデーション状に階調値が変化する。
ステップS531からステップS532の処理を行い、S530のマーカー部スムージング処理が終了する。
なお、以上では、マーカーで記載した領域の内、特定の段差を検出してスムージングする処理を説明したが、マーカー属性を持つ画素に対する一律のスムージングフィルタによるスムージング処理を行ってもよい。
以上のような処理をすることにより、入力画像内からマーカーで記載された領域とマーカーで記載されていない領域とに精度よく分けることができる。領域に分けた上で、マーカーで記載された領域に対し、色の置換処理など専用の画像処理を行うことが可能になり、マーカー記載領域の視認性を向上さることが可能となり、マーカーの色がわかりにくいといった課題を解決できる。また、マーカーで記載されていない領域に対しては、処理を行わないので非マーカー記載領域に対しての画質低下を防ぐことが可能となる。
なお本実施例では、入力画像に対して、マーカー部色置換処理(S520)、マーカー部スムージング処理(S530)を順に行ったが、次のようにしても良い。すなわち、S523は、ラベル付き二値画像のうちのマーカー属性の黒画素群がS521およびS522によって選択された多値の信号値を持つ画素群に変換された多値画像を生成する。そして、S531は、生成されたその多値画像から多値の信号値を持つ画素群の輪郭を追跡することで段差を検出し、S532は、検出された段差とその形状に基づいて、その段差を、画素群の色(信号値)で決まる色(信号値)で平滑化する。そしてさらにS532は、全ての画素群について平滑化が行われた多値画像を、入力画像と合成する。この合成では、平滑化が行われた多値画像のうち、白色以外の画素、ならびに、その画素に隣接する白色の画素だけが、入力画像の該当する画素に上書きされる。このようにすることで、スムージング処理済みの単色置き換え後の画素群を、入力画像に合成できる。
(実施例2)
実施例1においては、同一ラベルに対しラベルごとに決めた色を、事前に決めた色へ置き換え処理を行った。しかしながら、事前に決めた色はマーカーの色としてよく使われる色(例えば、黒色、赤色、青色、緑色など)は決めているが、特殊な色で事前に決めた色以外の色がある場合には、置き換えを行うことができない場合がある。
そこで、実施例2では、事前に置き換え色が決まっていない場合に、置き換え色を自動的に決めることが可能な構成を説明する。
図14はマーカー部色置換処理を説明するフローチャートであり、本実施例における事前に置き換え色が決まっていない場合に、置き換え色を自動的に決める処理が含まれている。図14は、図7の構成に加えS524置換色生成処理がある。
ステップS521は、ラベルごとに同一ラベル色判定処理を行う。このS521は、ラベルの平均色が基準色のいずれとも所定の距離内にない場合、そのラベルの置換色が無いと判定する。
続いて、ステップS522は、実施例1と同様に、ラベル毎に置換色を事前に決めた置き換え色テーブルの中から選択する。しかしこのS522は、ラベルの置換色が無いとS521で判定されている場合、そのラベルの置換色をテーブルの中から選択しない。このようなラベルの置換色は、次のS524の置換色生成処理で決定される。
ステップS524は、置換色が無いとS521で判定されたラベルに対して置換色生成処理を行う。具体的にはステップS524は、そのラベルの置換色を、そのラベルのYUV空間での平均色に基づいて決定する。その決定方法には次のようなものが例としてある。ラベルの平均色(YUV信号値)をRGB信号値に変換したものを置換色とする方法がある。また、平均色(YUV信号値)をHSV色空間の信号値(HSV信号値)に変換し、彩度の信号値を所定量だけ上げ、そのHSV信号値をRGB信号値に変換したものを置換色とする方法がある。
そして、ステップS523は、実施例1と同様に、ラベルごとの置換色を用いて、色置換処理を行う。
以上のような処理をすることにより、マーカーで記載された領域に対し、色の置換処理する際に、置換する色が定まっていない場合においても自動で生成し、マーカー記載領域の色を置換することが可能となる。
(実施例3)
実施例1及び、実施例2においては、同一ラベルに対し1色の色を決め、置き換え処理を行った。しかしながら、同一ラベルに異なる色の画素群が複数、存在する場合には、1色に置き換えてしまうと、色情報が欠落してしまう可能性がある。また実施例1のS802の第1閾値近傍の色分散値を持つラベルの画素群については、2色の画素群で構成されているものの同一ラベルが割り当てられている可能性がある。そこで、実施例3では、同一ラベルに対し複数色を設定し置き換えを行うことが可能な構成を説明する。
図15はマーカー部色置換処理を説明するフローチャートであり、本実施例における複数色の選択処理と、複数色への置き換え処理が含まれている。図15は、図7の構成に加えS525、S526、S527が追加されている。
ステップS521は、ラベルごとに同一ラベル色判定処理を行う。このS521は、ラベルの平均色が基準色のいずれとも所定の距離内にない場合、そのラベルについて次のクラスタリング処理を行う。そのラベルの画素群を構成する各画素に対応する、YUV色空間の多値画像中の画素UV信号値のクラスタリングを行う。このクラスタリングには、例えば、k−means法やDBSCAN(Density−Based Spatial Clustering)と呼ばれる公知のクラスタリング方法が用いられる。クラスタリングの結果得られる1つ以上のクラスタの重心のUV信号値が、そのラベルの画素群を構成する画素の色の置換色のUV信号値となる。
ステップS525は、色数判定処理する。色数判定処理では、処理対象のラベルのYUV色空間の色分散値と、ステップS521のクラスタリングを行った結果のクラスタ数に基づいて、そのラベル内で用いられている色の色数が1色か複数色かを判定する。色分散値が閾値以上である場合、または、クラスタ数が2つ以上である場合、複数色で置換すべきと判定され、S526へ進む。そうではなく、色分散値が閾値未満であり、かつ、クラスタ数が1つのみである場合、1色で置換すべきと判定され、実施例1、2と同様に、S522へと進む。
ステップS526は、複数置換色選択処理を行う。この処理は、S521で行われたクラスタリングの結果得られた各クラスタの中心のUV信号値に基づいて決まる各RGB信号値を複数の置換色として決定する。
ステップS527は、複数色置換処理を行う。複数色置換処理では、同一ラベルを1色に置き換えるのではなく、そのラベルの画素群を複数色で置き換えていく。具体的には、S526で決定された複数色のRGB値のうち、ラベルに対応する入力画像中の画素群を構成する各画素がどのRGB値に近いのかを判定し、その判定されたRGB値で入力画像中の画素のRGB値を置き換える。
尚、本処理を色置換時に複数色を設定する構成を説明したが、S512ラベリング処理時に色情報を用いてラベリングすることで、色の差が閾値以上あるところでラベルを分割することができる。
以上のような処理をすることにより、マーカーで記載された領域に対し、色の置換処理する際に、同一ラベルを複数の色に置換することが可能となる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。

Claims (18)

  1. 背景領域中の類似色の画素で構成される前景領域を、画像から特定する特定手段と、
    前記特定された領域の色に基づいて、予め定められた複数の色から1つの色を選択する選択手段と、
    前記特定された領域の色を、前記選択された色で置き換える置換手段と、
    を有することを特徴とする画像処理装置。
  2. 前記特定手段は、所定の輝度以上の領域を背景領域として特定し、前記所定の輝度未満の輝度を持つ画素で構成される領域を前景領域として特定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記特定手段は、
    前記所定の輝度未満の輝度を持つ画素が連続する領域を前景領域として抽出する抽出手段と、
    前記抽出された前景領域を構成する複数の画素の色値の分散値を求め、所定の閾値未満である前記分散値を持つ当該前景領域を、背景領域中の類似色の画素で構成される前景領域であると判定する判定手段と、
    を有することを特徴とする請求項2に記載の画像処理装置。
  4. 前記判定手段は、
    前記分散値が前記所定の閾値以上、かつ、前記閾値とは異なる所定の閾値未満であるかを判定し、
    前記所定の閾値以上かつ前記異なる所定の閾値未満の前記分散値を持つ前記抽出された前景領域の内部を構成する画素の数に基づいて、当該前景領域を、類似色の画素の色を前記1色で置き換えるか否かを判定し、
    前記置換手段は、前記1色で置き換えると判定された、前記所定の閾値以上かつ前記異なる所定の閾値未満の前記分散値を持つ前記抽出された前景領域の色を、前記1色で置き換えることを特徴とする請求項3に記載の画像処理装置。
  5. 前記判定手段は、前記所定の閾値以上の前記分散値を少なくとも持つ前記抽出された前景領域の色を、前記1色で置き換えないと判定することを特徴とする請求項3または4に記載の画像処理装置。
  6. 前記判定手段は、前記抽出された前景領域の大きさに基づいて、当該前景領域の色を前記1色で置き換えないと判定することを特徴とする請求項3乃至5の何れか1項に記載の画像処理装置。
  7. 前記複数の色を記憶する記憶手段を有することを特徴とする請求項1乃至6の何れか1項に記載の画像処理装置。
  8. 前記選択手段は、
    前記前景領域の色が、前記複数の色の何れかに該当するか、何れにも該当しないか、を判定し、
    前記前景領域の色が前記複数の色の何れにも該当しないと判定された場合に、前記前景領域の色に基づいて前記複数の色とは異なる色を決定し、
    前記前景領域の色を、前記決定された色で置き換えることを特徴とする請求項7に記載の画像処理装置。
  9. 前記選択手段は、前記前景領域を構成する少なくとも1つの画素の色に基づいて前記1つの色を選択することを特徴とする請求項1乃至8の何れか1項に記載の画像処理装置。
  10. 前記特定手段は、所定の輝度未満の輝度を持つ画素どうしが互いに隣接していることに基づいて当該画素どうしを同じ前景領域に分類することを特徴とする請求項1乃至9の何れか1項に記載の画像処理装置。
  11. 前記置換手段によって前記置き換えの処理が行われた前記前景領域を含む前記画像を表示部に表示する表示制御手段を有することを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。
  12. 背景領域中の類似色の画素で構成される前記前景領域に隣接する少なくとも1つの画素の色を、前記置き換えが行われた当該前景領域の輪郭を平滑化するための色に置き換える平滑化手段をさらに有することを特徴とする請求項1乃至11の何れか1項に記載の画像処理装置。
  13. 前記平滑化手段は、前記平滑化するための色は、前記隣接する少なくとも1つの画素が隣接する箇所における前記輪郭の形状に基づいて決定することを特徴とする請求項12に記載の画像処理装置。
  14. 背景領域中の前景領域を構成する複数の画素の色を複数のクラスタにクラスタリングする手段を有し、
    前記置換手段は、
    背景領域中の前景領域を構成する複数の画素の色値の分散値が所定の閾値以上である場合に、前記クラスタリングによって形成された各クラスタに対応する色で、当該前景領域を構成する前記複数の画素の色を置き換えることを特徴とする請求項1に記載の画像処理装置。
  15. 前記1つの色は、前記背景領域中の別の前景領域の色に依存しないことを特徴とする請求項1乃至14の何れか1項に記載の画像処理装置。
  16. 前記画像は、撮像手段によって撮像されたホワイトボードの画像であり、
    色が置き換えられる前記前景領域は、ユーザーによってマーカーで描かれた、前記ホワイトボード中の部分に対応することを特徴とする請求項1乃至15の何れか1項に記載の画像処理装置。
  17. 背景領域中の類似色の画素で構成される前景領域を、画像から特定する特定工程と、
    前記特定された領域の色に基づいて、予め定められた複数の色から1つの色を選択する選択工程と、
    前記特定された領域の色を、前記選択された色で置き換える置換工程と、
    を有することを特徴とする画像処理方法。
  18. 請求項1乃至16の何れか1項に記載の各手段としてコンピュータを機能させることを特徴とするプログラム。
JP2016145740A 2016-07-25 2016-07-25 画像処理装置、画像処理方法、コンピュータプログラム Active JP6779688B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016145740A JP6779688B2 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法、コンピュータプログラム
US15/648,285 US10438376B2 (en) 2016-07-25 2017-07-12 Image processing apparatus replacing color of portion in image into single color, image processing method, and storage medium
CN201710613490.6A CN107659799B (zh) 2016-07-25 2017-07-25 摄像装置、图像处理方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016145740A JP6779688B2 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法、コンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2018018173A true JP2018018173A (ja) 2018-02-01
JP2018018173A5 JP2018018173A5 (ja) 2019-08-22
JP6779688B2 JP6779688B2 (ja) 2020-11-04

Family

ID=60990026

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016145740A Active JP6779688B2 (ja) 2016-07-25 2016-07-25 画像処理装置、画像処理方法、コンピュータプログラム

Country Status (3)

Country Link
US (1) US10438376B2 (ja)
JP (1) JP6779688B2 (ja)
CN (1) CN107659799B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020009345A (ja) * 2018-07-12 2020-01-16 スキャネット株式会社 答案採点のシステム、プログラムおよび方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6779688B2 (ja) * 2016-07-25 2020-11-04 キヤノン株式会社 画像処理装置、画像処理方法、コンピュータプログラム
CN111325805B (zh) * 2020-01-21 2022-09-06 西南石油大学 一种基于图像分割的岩屑荧光选样方法
CN111563510B (zh) * 2020-04-30 2023-04-18 广东小天才科技有限公司 一种图像处理的方法和系统
CN114945107B (zh) * 2022-04-15 2024-02-02 北京奕斯伟计算技术股份有限公司 视频处理方法和相关装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008306394A (ja) * 2007-06-06 2008-12-18 Canon Inc 画像処理装置およびその方法
JP2010277227A (ja) * 2009-05-27 2010-12-09 Sharp Corp 画像処理装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2013120994A (ja) * 2011-12-06 2013-06-17 Fuji Xerox Co Ltd 画像処理装置および画像処理プログラム
JP2015207961A (ja) * 2014-04-23 2015-11-19 京セラドキュメントソリューションズ株式会社 画像処理装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1173003B1 (en) * 2000-07-12 2009-03-25 Canon Kabushiki Kaisha Image processing method and image processing apparatus
CN100375500C (zh) * 2004-05-17 2008-03-12 精工爱普生株式会社 图像处理方法及图像处理装置
AU2005211665A1 (en) * 2005-09-23 2007-04-19 Canon Kabushiki Kaisha Vectorisation of colour gradients
JP4857173B2 (ja) * 2007-04-25 2012-01-18 日立オムロンターミナルソリューションズ株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP4993093B2 (ja) * 2007-05-31 2012-08-08 富士ゼロックス株式会社 画像処理装置および画像処理プログラム
JP4577421B2 (ja) * 2008-07-10 2010-11-10 富士ゼロックス株式会社 画像処理装置及び画像処理プログラム
JP5049922B2 (ja) * 2008-08-26 2012-10-17 キヤノン株式会社 画像処理装置及び画像処理方法
US8576450B2 (en) * 2011-06-23 2013-11-05 Hewlett-Packard Development Company, L.P. Replacing a defective colorant
JP5928719B2 (ja) * 2012-08-08 2016-06-01 富士ゼロックス株式会社 画像処理装置および画像処理プログラム
JP2014174193A (ja) * 2013-03-06 2014-09-22 Toshiba Corp 画像形成装置及び画像形成方法
JP6118698B2 (ja) * 2013-09-30 2017-04-19 株式会社Ihi 画像解析装置及びプログラム
JP6415062B2 (ja) * 2014-02-21 2018-10-31 キヤノン株式会社 画像処理装置、画像処理方法、制御プログラム、および記録媒体
CN105338214B (zh) * 2014-08-13 2018-07-20 山东新北洋信息技术股份有限公司 图像处理方法和图像处理装置
JP6325401B2 (ja) * 2014-09-17 2018-05-16 株式会社東芝 情報処理装置、画像変更方法及びプログラム
US10102763B2 (en) * 2014-11-28 2018-10-16 D2L Corporation Methods and systems for modifying content of an electronic learning system for vision deficient users
JP2016181111A (ja) * 2015-03-24 2016-10-13 富士ゼロックス株式会社 画像処理装置、及び画像処理プログラム
JP6779688B2 (ja) * 2016-07-25 2020-11-04 キヤノン株式会社 画像処理装置、画像処理方法、コンピュータプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008306394A (ja) * 2007-06-06 2008-12-18 Canon Inc 画像処理装置およびその方法
JP2010277227A (ja) * 2009-05-27 2010-12-09 Sharp Corp 画像処理装置、画像処理方法、コンピュータプログラム及び記録媒体
JP2013120994A (ja) * 2011-12-06 2013-06-17 Fuji Xerox Co Ltd 画像処理装置および画像処理プログラム
JP2015207961A (ja) * 2014-04-23 2015-11-19 京セラドキュメントソリューションズ株式会社 画像処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020009345A (ja) * 2018-07-12 2020-01-16 スキャネット株式会社 答案採点のシステム、プログラムおよび方法

Also Published As

Publication number Publication date
US20180025509A1 (en) 2018-01-25
JP6779688B2 (ja) 2020-11-04
US10438376B2 (en) 2019-10-08
CN107659799B (zh) 2022-03-25
CN107659799A (zh) 2018-02-02

Similar Documents

Publication Publication Date Title
CN107659799B (zh) 摄像装置、图像处理方法和存储介质
JP5701182B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
JP5701181B2 (ja) 画像処理装置、画像処理方法及びコンピュータプログラム
US11138695B2 (en) Method and device for video processing, electronic device, and storage medium
JP2017517980A (ja) プレビューモードにおける画像キャプチャリングパラメータ調整
US9171224B2 (en) Method of improving contrast for text extraction and recognition applications
US10354352B2 (en) Image processing apparatus, image processing method, and storage medium
US9401027B2 (en) Method and apparatus for scene segmentation from focal stack images
CN101983507A (zh) 自动红眼检测
CN108615030B (zh) 一种标题一致性检测方法、装置及电子设备
US9679386B2 (en) Image processing device capable of segmenting an image into plural areas
KR101549495B1 (ko) 문자 추출 장치 및 그 방법
JP2019109624A (ja) 情報処理装置、プログラム及び情報処理方法
CN108965646B (zh) 图像处理装置、图像处理方法
JP5640622B2 (ja) 赤目オブジェクト候補を分類する方法、コンピューター読み取り可能な媒体および画像処理装置
CN106682670B (zh) 一种台标识别方法及系统
CN111462221A (zh) 待侦测物体阴影面积提取方法、装置、设备及存储介质
CN111311500A (zh) 一种对图像进行颜色还原的方法和装置
US10275888B2 (en) Algorithmic method for detection of documents in images
CN110310341B (zh) 颜色算法中默认参数的生成方法、装置、设备和存储介质
JP2019121810A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN102005029A (zh) 图像处理方法及装置
CN109978889A (zh) 一种图像处理方法、系统、装置、存储介质及黑板装置
KR101465940B1 (ko) 영상에서 컬러 객체를 검출하는 방법, 영상에서 컬러 객체를 검출하는 장치 및 영상에서 복수의 컬러 객체를 검출하는 방법
KR101465933B1 (ko) 영상에서 컬러 객체를 검출하는 방법, 영상에서 컬러 객체를 검출하는 장치 및 영상에서 복수의 컬러 객체를 검출하는 방법

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190711

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200915

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201014

R151 Written notification of patent or utility model registration

Ref document number: 6779688

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151