JP2021196451A - 画像変換装置、画像変換方法及び画像変換用コンピュータプログラム - Google Patents

画像変換装置、画像変換方法及び画像変換用コンピュータプログラム Download PDF

Info

Publication number
JP2021196451A
JP2021196451A JP2020101821A JP2020101821A JP2021196451A JP 2021196451 A JP2021196451 A JP 2021196451A JP 2020101821 A JP2020101821 A JP 2020101821A JP 2020101821 A JP2020101821 A JP 2020101821A JP 2021196451 A JP2021196451 A JP 2021196451A
Authority
JP
Japan
Prior art keywords
color space
bird
image
shadow
eye view
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020101821A
Other languages
English (en)
Other versions
JP7151742B2 (ja
Inventor
雅浩 田中
Masahiro Tanaka
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2020101821A priority Critical patent/JP7151742B2/ja
Priority to CN202110622304.1A priority patent/CN113808004B/zh
Priority to US17/342,614 priority patent/US11588955B2/en
Publication of JP2021196451A publication Critical patent/JP2021196451A/ja
Application granted granted Critical
Publication of JP7151742B2 publication Critical patent/JP7151742B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/182Network patterns, e.g. roads or rivers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6002Corrections within particular colour systems
    • H04N1/6005Corrections within particular colour systems with luminance or chrominance signals, e.g. LC1C2, HSL or YUV
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6002Corrections within particular colour systems
    • H04N1/6008Corrections within particular colour systems with primary colour signals, e.g. RGB or CMY(K)
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6072Colour correction or control adapting to different types of images, e.g. characters, graphs, black and white image portions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Remote Sensing (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Astronomy & Astrophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Instructional Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】鳥瞰画像に表された道路標示の検出を容易にする画像変換装置を提供する。【解決手段】画像変換装置は、RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を影が掛かっている影領域と影が掛かっていない非影領域とに区分する区分部12と、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの鳥瞰画像上の影領域の輝度平均値と非影領域の輝度平均値の差が、RGB色空間で表される鳥瞰画像における影領域の輝度平均値と非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する補正係数設定部13と、設定した階調補正係数を用いて鳥瞰画像の階調を補正するとともに鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換することで色変換画像を生成する色変換部14とを有する。【選択図】図2

Description

本発明は、画像の色を表現する色空間を変換する画像変換装置、画像変換方法及び画像変換用コンピュータプログラムに関する。
衛星写真または航空写真が表された画像から地図を生成する技術が提案されている(例えば、特許文献1を参照)。例えば、特許文献1に開示された地図情報の表示方法では、地図部分を表示する面の表示が、2次元ビューまたは3次元ビューにおいて少なくとも部分的に航空写真および/または衛星写真に基づく。
特表2008−509441号公報
画像から地図を生成するためには、地図に含まれるべき情報、例えば、道路上に表された道路標示を画像から正確に検出できることがもとめられる。しかし、衛星写真または航空写真が表された画像では、建築物等の影が掛かった領域と、影が掛からない領域とが含まれることがある。そのような画像において、道路標示を精度良く検出することが困難となることがある。
そこで、本発明は、鳥瞰画像に表された道路標示の検出を容易にする画像変換装置を提供することを目的とする。
本発明の一つの形態として、画像変換装置が提供される。この画像変換装置は、RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を影が掛かっている影領域と影が掛かっていない非影領域とに区分する区分部と、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの鳥瞰画像上の影領域の輝度平均値と非影領域の輝度平均値の差が、RGB色空間で表される鳥瞰画像における影領域の輝度平均値と非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する補正係数設定部と、設定した階調補正係数を用いて鳥瞰画像の階調を補正するとともに鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換することで色変換画像を生成する色変換部とを有する。
この画像変換装置は、所定の地物として道路が表された道路領域を基準領域として検出する基準領域検出部をさらに有することが好ましい。
また、この画像変換装置は、色変換画像から道路標示を検出する道路標示検出部をさらに有することが好ましい。
さらに、この画像変換装置において、所定の色空間は、その色空間を表す尺度の一つとして輝度または明るさを含む色空間、または、RGB色空間に含まれる何れかの色成分でRGB色空間に含まれる他の色成分を正規化した色空間であることが好ましい。
本発明の他の形態として、画像変換方法が提供される。この画像変換方法は、RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を影が掛かっている影領域と影が掛かっていない非影領域とに区分し、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの鳥瞰画像上の影領域の輝度平均値と非影領域の輝度平均値の差が、RGB色空間で表される鳥瞰画像における影領域の輝度平均値と非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定し、階調補正係数を用いて鳥瞰画像の階調を補正するとともに鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換することで色変換画像を生成する、ことを含む。
本発明のさらに他の形態として、画像変換用コンピュータプログラムが提供される。この画像変換用コンピュータプログラムは、RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を影が掛かっている影領域と影が掛かっていない非影領域とに区分し、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの鳥瞰画像上の影領域の輝度平均値と非影領域の輝度平均値の差が、RGB色空間で表される鳥瞰画像における影領域の輝度平均値と非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定し、階調補正係数を用いて鳥瞰画像の階調を補正するとともに鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換することで色変換画像を生成する、ことをコンピュータに実行させるための命令を含む。
本発明に係る画像変換装置は、鳥瞰画像に表された道路標示の検出を容易にすることができるという効果を奏する。
一つの実施形態による、画像変換装置のハードウェア構成図である。 画像変換装置のプロセッサの機能ブロック図である。 影道路領域及び非影道路領域の検出についての説明図である。 鳥瞰画像と色変換画像の違いの一例を示す図である。 画像変換処理の動作フローチャートである。
以下、図を参照しつつ、画像変換装置、及び、その画像変換装置で利用される画像変換方法及び画像変換用コンピュータプログラムについて説明する。
車両の自動運転制御に利用される、いわゆる高精度地図情報には、車両制御装置が、その高精度地図情報を参照して、車線変更、合流、または追い越しなどに関する制御を適切に行うことができるよう、個々の道路における車線ごとの情報、特に、車線区画線、一時停止線あるいは進行方向別通行区分を表す矢印といった道路標示に関する情報が含まれることが好ましい。そのような高精度地図情報を生成するために、航空写真または衛星写真が表された画像といった、道路が表された鳥瞰画像を利用することが考えられる。このような鳥瞰画像では、道路の一部に、道路に近接する建築物の影が掛かっているために、道路上でも、影が掛かっている領域と影が掛かっていない領域とが含まれることがある。そして、影が掛かっている領域の輝度と影が掛かっていない領域の輝度との差が大きくなるほど、鳥瞰画像から道路標示を精度良く検出することが困難となる。
そこで、この画像変換装置は、RGB色空間で表される鳥瞰画像において影が掛かっている影領域と影が掛かっていない非影領域間のコントラストを小さくするように、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換する。その際、この画像変換装置は、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの鳥瞰画像上の所定の地物が表された基準領域のうちの影領域の輝度平均値と基準領域のうちの非影領域の輝度平均値の差が、RGB色空間で表される鳥瞰画像における影領域の輝度平均値と非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する。そしてこの画像変換装置は、設定した階調補正係数を用いて鳥瞰画像の階調を補正するとともに鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換する。これにより、元の鳥瞰画像における影領域と非影領域間のコントラストよりも、影領域と非影領域間のコントラストが小さい色変換画像が得られる。そのため、得られた色変換画像から道路標示を検出することで、道路標示の検出が容易となる。
なお、以下に説明する各実施形態または変形例において、画像変換処理の対象となる鳥瞰画像は、例えば、高解像度の衛星写真あるいは航空写真が表され、かつ、RGB色空間で表されるカラー画像とすることができる。なお、以下の説明において、RGB色空間で表される鳥瞰画像を、単に鳥瞰画像と呼ぶことがある。また、本明細書において、RGB色空間とは、赤色(R)、緑色(G)及び青色(B)の組み合わせで色が表現される色空間を表すものとする。したがって、例えば、sRGB色空間あるいはRGBA色空間も、RGB色空間に含まれるものとする。
図1は、画像変換装置のハードウェア構成図である。図1に示されるように、画像変換装置1は、通信インターフェース2と、入力装置3と、表示装置4と、メモリ5と、記憶媒体アクセス装置6と、プロセッサ7とを有する。
通信インターフェース2は、イーサネット(登録商標)などの通信規格に従った通信ネットワークに接続するための通信インターフェース及びその制御回路を有する。通信インターフェース2は、通信ネットワークを介して接続される他の機器(図示せず)から、様々な情報あるいはデータを受信してプロセッサ7へわたす。通信インターフェース2が受信するデータには、画像変換処理の対象となる、道路が表された鳥瞰画像と、その鳥瞰画像に表された地理的範囲を表す情報(例えば、その鳥瞰画像に表された領域の所定の位置(例えば、左上端または中心)の緯度及び経度、その領域の水平方向及び垂直方向の実空間でのサイズ、及び方位)が含まれていてもよい。また通信インターフェース2は、プロセッサ7から受け取った、画像変換処理の実行結果として得られた色変換画像または色変換画像から検出された道路標示を表す情報(以下、単に道路標示情報と呼ぶことがある)を、通信ネットワークを介して他の機器へ出力してもよい。
入力装置3は、例えば、キーボードと、マウスといったポインティングデバイスとを有する。そして入力装置3は、ユーザによる操作、例えば、画像変換処理の対象となる鳥瞰画像を選択する操作、画像変換処理の実行開始を指示する操作、あるいは、生成された色変換画像または色変換画像から検出された道路標示情報を表示装置4に表示させる操作に応じた操作信号を生成し、その操作信号をプロセッサ7へ出力する。
表示装置4は、例えば、液晶ディスプレイまたは有機ELディスプレイを有する。そして表示装置4は、プロセッサ7から受け取った表示用のデータ、例えば、画像変換処理が実行される鳥瞰画像の候補を表すデータ、あるいは、生成された色変換画像、色変換画像から検出された道路標示情報またはその一部を表示する。
なお、入力装置3と表示装置4とは、タッチパネルディスプレイのように一体化された装置であってもよい。
メモリ5は、記憶部の一例であり、例えば、読み書き可能な半導体メモリと読み出し専用の半導体メモリである。そしてメモリ5は、例えば、プロセッサ7で実行される画像変換処理用のコンピュータプログラム、その画像変換処理で用いられる各種のデータ、例えば、画像変換処理の対象となる鳥瞰画像、画像変換処理で用いられる識別器を規定するパラメータ群、及び、その画像変換処理の実行中に生成される各種のデータを記憶する。さらに、メモリ5は、生成された色変換画像及び色変換画像から検出された道路標示情報を記憶してもよい。
記憶媒体アクセス装置6は、例えば、磁気ディスク、半導体メモリカード及び光記憶媒体といった記憶媒体8にアクセスする装置である。なお、記憶媒体アクセス装置6は、記憶媒体8とともに、記憶部の他の一例を構成する。記憶媒体アクセス装置6は、例えば、記憶媒体8に記憶された、プロセッサ7上で実行される画像変換処理用のコンピュータプログラム、あるいは、画像変換処理の対象となる鳥瞰画像を読み込み、プロセッサ7に渡す。あるいは、記憶媒体アクセス装置6は、生成された色変換画像または色変換画像から検出された道路標示情報をプロセッサ7から受け取って、その色変換画像または道路標示情報を記憶媒体8に書き込んでもよい。
プロセッサ7は、処理部の一例であり、例えば、1個または複数個のCPU及びその周辺回路を有する。さらに、プロセッサ7は、数値演算用の演算回路、グラフィック処理用の演算回路及び論理演算用の演算回路を有していてもよい。そしてプロセッサ7は、画像変換装置1全体を制御する。また、プロセッサ7は、道路が表された鳥瞰画像に対して画像変換処理を実行する。
図2は、プロセッサ7の機能ブロック図である。図2に示されるように、プロセッサ7は、基準領域検出部11と、区分部12と、補正係数設定部13と、色変換部14と、道路標示検出部15とを有する。プロセッサ7が有するこれらの各部は、例えば、プロセッサ7上で実行されるコンピュータプログラムによって実現される機能モジュールである。あるいは、プロセッサ7が有するこれらの各部は、プロセッサ7に設けられる、専用の演算回路であってもよい。
基準領域検出部11は、対象となる鳥瞰画像から、所定の地物が表され、かつ、階調補正係数を設定するための基準となる基準領域を検出する。本実施形態では、基準領域検出部11は、所定の地物として道路が表された道路領域を基準領域として検出する。そのために、基準領域検出部11は、例えば、対象となる鳥瞰画像を、画像の画素ごとに、その画素に表された物体の種類を出力するように予め学習された識別器に入力することで道路領域を検出する。
基準領域検出部11は、識別器として、例えば、コンボリューショナルニューラルネットワーク(Convolutional Neural Network, CNN)型のアーキテクチャを持つ、いわゆるディープニューラルネットワーク(Deep Neural Network, DNN)を用いることができる。具体的には、基準領域検出部11は、識別器として、セマンティックセグメンテーション用のCNN、例えば、Fully Convolutional Network(FCN)(Long, J., Shelhamer他, 「Fully convolutional networks for semantic segmentation」, In CVPR, 2015年)、U-Net、SegNet、PSPNetあるいはRefineNetといったCNNを用いることができる。あるいはまた、基準領域検出部11は、識別器として、ランダムフォレストといった他のセマンティックセグメンテーション技術に従った識別器を用いてもよい。
基準領域検出部11は、検出した道路領域を表す情報を、区分部12及び道路標示検出部15へ出力する。なお、道路領域を表す情報は、例えば、元の鳥瞰画像と同サイズを有し、かつ、道路領域に含まれる画素と道路領域に含まれない画素とが互いに異なる値を有する2値画像とすることができる。
区分部12は、鳥瞰画像から検出された基準領域を、影が掛かっている影領域と影が掛かっていない非影領域とに区分する。本実施形態では、区分部12は、道路領域を、影が掛かっている影道路領域と影が掛かっていない非影道路領域とに区分する。
一般的に、影領域の輝度は非影領域の輝度よりも相対的に低くなる。そこで、本実施形態では、区分部12は、鳥瞰画像の各画素の輝度値から、輝度分布を表すヒストグラムを生成する。このヒストグラムは、影領域の輝度分布と非影領域の輝度分布が合成されたものとなることから、このヒストグラムは双峰性を有する、すなわち、度数に関して二つのピークを有することが想定される。そこで、区分部12は、生成したヒストグラムのうちの二つのピークのうちの輝度値の低い方を影領域の代表輝度値とし、二つのピークのうちの輝度値の高い方を非影領域の輝度代表値とする。なお、区分部12は、生成したヒストグラムの二つのピークを正確に検出するために、生成したヒストグラムの個々の輝度値の度数を、その輝度値を含む輝度値の所定区間の平均値で置換するといったスムージング処理、あるいは、生成したヒストグラムの包絡線を算出する処理をヒストグラムに対して実行してもよい。そして区分部12は、スムージング処理が施されたヒストグラムあるいはヒストグラムの包絡線から、二つのピークを検出してもよい。区分部12は、影領域の代表輝度値及び非影領域の代表輝度値に基づいて、影領域と非影領域とを識別するための輝度閾値を決定する。例えば、区分部12は、影領域の輝度分布及び非影領域の輝度分布がそれぞれ正規分布に従うと仮定して、影領域の輝度分布に対するマハラノビス距離と非影領域の輝度分布に対するマハラノビス距離とが等しくなるように、輝度閾値を決定する。あるいは、区分部12は、単に影領域の代表輝度値と非影領域の代表輝度値の平均値、あるいは、影領域の代表輝度値と非影領域の代表輝度値の間で度数が最小となる輝度値を、輝度閾値としてもよい。あるいはまた、区分部12は、輝度分布を表すヒストグラムに対して大津の2値化処理を適用することで得られる閾値を、影領域と非影領域とを識別するための輝度閾値としてもよい。
輝度閾値が決定されると、区分部12は、道路領域に含まれる各画素のうち、輝度閾値以下の輝度値を持つ画素の集合を影領域とし、一方、輝度閾値よりも高い輝度値を持つ画素の集合を非影領域とする。
さらに、区分部12は、鳥瞰画像から検出された道路領域のうち、影領域に含まれる影道路領域と非影領域に含まれる非影道路領域を検出する。本実施形態では、区分部12は、影領域を表す画素の集合と道路領域を表す情報において道路領域を表す画素の集合とが重なる領域を影道路領域として検出し、一方、非影領域を表す画素の集合と道路領域を表す情報において道路領域を表す画素の集合とが重なる領域を非影道路領域として検出すればよい。
図3は、影道路領域及び非影道路領域の検出についての説明図である。図3に示されるように、鳥瞰画像300において、道路301の一部には、道路に近接する建築物の影が掛かっており、道路領域301の他の一部には、影が掛かっている。そのため、この鳥瞰画像300から検出された道路領域を表す情報310に示される道路領域311と、鳥瞰画像を影領域と非影領域とに区分した結果を表す影領域情報320に示される影領域321とが重なった領域が、影道路領域331として検出される。また、道路領域を表す情報310に示される道路領域311と、影領域情報320に示される非影領域322とが重なった領域が、非影道路領域332として検出される。
区分部12は、影道路領域と非影道路領域とを表す影道路領域情報を、補正係数設定部13へ出力する。なお、影道路領域情報は、例えば、元の鳥瞰画像と同じサイズを有し、影道路領域に含まれる画素と、非影道路領域に含まれる画素と、影道路領域及び非影道路領域の何れにも含まれない画素とが互いに異なる値を持つ画像とすることができる。
補正係数設定部13は、鳥瞰画像に適用する階調補正係数を設定する。本実施形態では、補正係数設定部13は、鳥瞰画像の色空間をRGB色空間から所定の色空間へ変換したときの影道路領域の輝度平均値と非影道路領域の輝度平均値の差が、RGB色空間で表される鳥瞰画像における影道路領域の輝度平均値と非影道路領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する。
本実施形態では、鳥瞰画像に適用する階調補正は、次式で表されるγ変換に従って実行される。
Figure 2021196451
ただし、変数x及びyは、それぞれ、階調補正前の各画素の輝度値及び階調補正後の各画素の輝度値である。また、鳥瞰画像の各画素の輝度値は8bit(すなわち、0〜255)で表されるものとする。そして係数γが階調補正係数である。
したがって、補正係数設定部13は、先ず、元の鳥瞰画像において、影道路領域に含まれる各画素の輝度値の平均値及び非影道路領域に含まれる各画素の輝度値の平均値を算出し、影道路領域の輝度値の平均値と非影道路領域の輝度値の平均値との差の絶対値(以下、補正前平均輝度差と呼ぶ)を算出する。その際、補正係数設定部13は、色空間を、RGB色空間から、色空間を表す尺度の一つとして輝度を含む色空間(例えば、HLS色空間)へ変換する処理を鳥瞰画像の影道路領域に含まれる各画素及び非影道路領域に含まれる各画素に対して実行することで、影道路領域に含まれる各画素の輝度値及び非影道路領域に含まれる各画素の輝度値を算出できる。
補正係数設定部13は、(1)式に従って影道路領域の各画素の輝度値及び非影道路領域の各画素の輝度値を補正し、補正後の影道路領域の各画素の輝度値の平均値と補正後の非影道路領域の各画素の輝度値の平均値の差の絶対値(以下、補正後平均輝度差と呼ぶ)を算出する。なお、補正係数設定部13は、(1)式に従って、各画素の各色成分の値、または、各画素の各色成分を何れかの色成分で正規化したもの(例えば、R/B及びG/B)を補正してから、上記のように、色空間を、RGB色空間から、色空間を表す尺度の一つとして輝度を含む色空間に変換することでも、各画素の輝度値を補正できる。
補正係数設定部13は、階調補正係数γを所定量ずつ変化させながら、上記の処理を実行することで、階調補正係数γの値ごとに、補正後平均輝度差を算出するとともに、補正前平均輝度差と補正後平均輝度差間の差の絶対値を算出する。そして補正係数設定部13は、それぞれの階調補正係数γの値のうち、補正前平均輝度差よりも補正後平均輝度差が小さくなる階調補正係数γの何れかの値を、元の鳥瞰画像の階調補正に適用する階調補正係数γmとして設定する。その際、補正係数設定部13は、補正前平均輝度差よりも補正後平均輝度差が小さくなる階調補正係数γの値のうち、補正後平均輝度差が最小となる階調補正係数γの値を、元の鳥瞰画像の階調補正に適用する階調補正係数γmとして設定することが好ましい。このように階調補正係数γmを設定することで、色変換画像における影領域と非影領域間のコントラストが最小化されるので、道路標示の検出を容易化することが可能となる。
あるいは、補正係数設定部13は、最急降下法あるいはシミュレーティッドアニーリングといった所定の最適化手法に従って、補正前平均輝度差よりも補正後平均輝度差が小さくなり、かつ、補正後平均輝度差が最小となる階調補正係数γmを探索してもよい。なお、元の鳥瞰画像における、道路に対する影の掛かり方、あるいは、道路標示とその周囲の道路の路面のコントラストによっては、必ずしも、補正後平均輝度差が最小とならなくても、補正前平均輝度差よりも補正後平均輝度差が小さくなることで、道路標示の検出を容易化する効果がある程度得られる。そのため、補正係数設定部13は、補正後平均輝度差が算出された階調補正係数γの値のうち、補正前平均輝度差よりも補正後平均輝度差が小さくなるものの、補正後平均輝度差が最小でない階調補正係数γの値の何れかを、階調補正係数γmとして設定してもよい。
補正係数設定部13は、設定した階調補正係数γmを色変換部14へ通知する。
色変換部14は、設定された階調補正係数γmを用いて鳥瞰画像の階調を補正するとともに、鳥瞰画像を表す色空間をRGB色空間から所定の色空間へ変換することで、色変換画像を生成する。
色変換部14は、設定された階調補正係数γmを(1)式の係数γとして用いて、鳥瞰画像の各画素の各色成分を(1)式に従って補正することで、鳥瞰画像の階調を補正できる。そして色変換部14は、補正された各画素の各色成分に対して、RGB色空間から所定の色空間への変換式を適用することで、色変換画像を生成すればよい。
所定の色空間は、例えば、HSV色空間またはHLS色空間といった、色空間を表す尺度の一つとして、輝度、または、輝度と同様に明るさを表す尺度(例えば、明度)を含む色空間であることが好ましい。あるいは、所定の色空間は、RGB色空間の何れかの色成分で他の色成分を正規化して得られる色空間であってもよい。影道路領域と非影道路領域とでは、何れも道路が表されているので、輝度(または明るさ)以外の尺度(例えば、色相あるいは彩度)に関して、元の鳥瞰画像においても、影道路領域に含まれる各画素の値と非影道路領域に含まれる各画素の値との差は、道路標示の検出に影響しない程度であると想定される。そこで、階調補正された鳥瞰画像の色空間が、上記のような輝度または明るさを表す尺度を含む色空間に変換されることで、色変換画像における影道路領域と非影道路領域間のコントラストが、元の鳥瞰画像におけるコントラストよりも小さくなる。その結果として、色変換画像から道路標示を精度良く検出することが可能となる。
図4は、鳥瞰画像と色変換画像の違いの一例を示す図である。鳥瞰画像400では、道路410において、影が掛かっている影道路領域411と影が掛かっていない非影道路領域412間のコントラストが相対的に大きくなっている。これに対して、色変換画像420では、道路430において影が掛かっている影道路領域431と影が掛かっていない非影道路領域432間のコントラストが相対的に小さくなっていることが分かる。
色変換部14は、生成した色変換画像を道路標示検出部15へ出力する。
道路標示検出部15は、色変換画像から道路標示を検出する。そのために、道路標示検出部15は、例えば、対象となる色変換画像を、画像の画素ごとに、その画素に表された物体の種類を出力するように予め学習された識別器に入力することで道路標示を検出する。なお、道路標示検出部15は、色変換画像のうち、基準領域検出部11により検出された道路領域のみから道路標示を検出してもよい。
道路標示検出部15は、識別器として、例えば、CNN型のアーキテクチャを持つDNNを用いることができる。具体的には、道路標示検出部15は、識別器として、セマンティックセグメンテーション用のCNN、例えば、FCN、U-Net、SegNet、PSPNetあるいはRefineNetといったCNNを用いることができる。あるいはまた、道路標示検出部15は、識別器として、ランダムフォレストといった他のセマンティックセグメンテーション技術に従った識別器を用いてもよい。さらに、道路標示検出部15が使用する識別器と、基準領域検出部11が使用する識別器とは同一のものであってもよい。
道路標示検出部15は、検出された道路標示を表す情報を色変換画像とともにメモリ5に記憶し、あるいは、通信インターフェース2を介して他の機器へ出力する。
図5は、画像変換処理の動作フローチャートである。プロセッサ7は、画像変換処理の対象となる鳥瞰画像ごとに、下記の動作フローチャートに従って画像変換処理を実行すればよい。
プロセッサ7の基準領域検出部11は、鳥瞰画像から基準領域として道路領域を検出する(ステップS101)。また、プロセッサ7の区分部12は、鳥瞰画像の各画素を、影領域と非影領域の何れかに区分する(ステップS102)。そして区分部12は、道路領域のうち、影領域に含まれる影道路領域と、非影領域に含まれる非影道路領域とを検出する(ステップS103)。
影道路領域及び非影道路領域が検出されると、プロセッサ7の補正係数設定部13は、鳥瞰画像の色空間をRGB色空間から所定の色空間へ変換したときの影道路領域の輝度平均値と非影道路領域の輝度平均値の差が、元の鳥瞰画像における影道路領域の輝度平均値と非影道路領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する(ステップS104)。
プロセッサ7の色変換部14は、設定された階調補正係数を用いて鳥瞰画像の階調を補正するとともに、鳥瞰画像を表す色空間をRGB色空間から所定の色空間へ変換することで、色変換画像を生成する(ステップS105)。そしてプロセッサ7の道路標示検出部15は、色変換画像から道路標示を検出する(ステップS106)。ステップS106の後、プロセッサ7は、画像変換処理を終了する。
以上に説明してきたように、この画像変換装置は、鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの鳥瞰画像上の所定の地物が表された基準領域のうちの影領域の輝度平均値とその基準領域のうちの非影領域の輝度平均値の差が、元の鳥瞰画像における影領域の輝度平均値と非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する。そしてこの画像変換装置は、設定した階調補正係数を用いて鳥瞰画像の階調を補正するとともに鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換する。これにより、元の鳥瞰画像における影領域と非影領域間のコントラストよりも、影領域と非影領域間のコントラストが小さい色変換画像が得られる。そのため、この画像変換装置は、得られた色変換画像を道路標示の検出に利用することで、道路標示の検出を容易にすることができる。
変形例によれば、区分部12は、道路領域といった所定の地物が表された基準領域を対象として、上記の実施形態における区分部12の影領域と非影領域とを区分する処理と同様の処理を行うことで、その基準領域のうちの影領域と非影領域とを検出してもよい。この場合、区分部12は、画像全体でなく、基準領域について輝度のヒストグラムを作成すればよく、かつ、基準領域についての輝度のヒストグラムに基づいて輝度閾値を設定すればよいので、演算量を削減できる。
他の変形例によれば、基準領域は、道路領域に限られない。基準領域は、影が掛かっているか否かによる輝度の差以外の違いが無いような所定の地物が表された領域に設定されればよい。例えば、所定の地物は、駐車スペース、グラウンド、用水路、あるいは、河川または池などの水面であってもよい。この場合、基準領域検出部11は、そのような所定の地物を表す画素を識別するように予め学習された、セマンティックセグメンテーション用の識別器に鳥瞰画像を入力することで、そのような所定の地物を表す基準領域を検出できる。そして区分部12は、そのような所定の地物が表された基準領域のうちの影領域と非影領域とを、上記の実施形態と同様の処理を行って検出し、補正係数設定部13は、検出された影領域と非影領域とに基づいて、上記の実施形態と同様の処理を行って階調補正係数を設定すればよい。
さらに、鳥瞰画像全体に比較的一様な地物が表されている場合、例えば、森林及び森林内を通過する道路が鳥瞰画像全体に表されているような場合、基準領域は鳥瞰画像全体であってもよい。この場合、基準領域検出部11は省略されてもよい。また、色変換画像からの道路標示の検出が他の機器により実行される場合、あるいは、色変換画像が道路標示の検出以外に利用される場合には、道路標示検出部15は省略されてもよい。
さらに、上記の各実施形態または変形例による画像変換装置のプロセッサが有する各部の機能をコンピュータに実現させるコンピュータプログラムは、コンピュータによって読取り可能な記録媒体に記憶された形で提供されてもよい。なお、コンピュータによって読取り可能な記録媒体は、例えば、磁気記録媒体、光記録媒体、又は半導体メモリとすることができる。
1 画像変換装置
2 通信インターフェース
3 入力装置
4 表示装置
5 メモリ
6 記憶媒体アクセス装置
7 プロセッサ
8 記憶媒体
11 基準領域検出部
12 区分部
13 補正係数設定部
14 色変換部
15 道路標示検出部

Claims (6)

  1. RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を、影が掛かっている影領域と影が掛かっていない非影領域とに区分する区分部と、
    前記鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの前記鳥瞰画像上の前記影領域の輝度平均値と前記非影領域の輝度平均値の差が、RGB色空間で表される前記鳥瞰画像における前記影領域の輝度平均値と前記非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定する補正係数設定部と、
    前記階調補正係数を用いて前記鳥瞰画像の階調を補正するとともに前記鳥瞰画像が表される色空間をRGB色空間から前記所定の色空間へ変換することで色変換画像を生成する色変換部と、
    を有する画像変換装置。
  2. 前記鳥瞰画像から、前記所定の地物として道路が表された道路領域を前記基準領域として検出する基準領域検出部をさらに有する、請求項1に記載の画像変換装置。
  3. 前記色変換画像から道路標示を検出する道路標示検出部をさらに有する、請求項1または2に記載の画像変換装置。
  4. 前記所定の色空間は、当該色空間を表す尺度の一つとして輝度または明るさを含む色空間、または、RGB色空間に含まれる何れかの色成分でRGB色空間に含まれる他の色成分を正規化した色空間である、請求項1〜3の何れか一項に記載の画像変換装置。
  5. RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を、影が掛かっている影領域と影が掛かっていない非影領域とに区分し、
    前記鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの前記鳥瞰画像上の前記影領域の輝度平均値と前記非影領域の輝度平均値の差が、RGB色空間で表される前記鳥瞰画像における前記影領域の輝度平均値と前記非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定し、
    前記階調補正係数を用いて前記鳥瞰画像の階調を補正するとともに前記鳥瞰画像が表される色空間をRGB色空間から前記所定の色空間へ変換することで色変換画像を生成する、
    ことを含む画像変換方法。
  6. RGB色空間で表される鳥瞰画像において所定の地物が表された基準領域を、影が掛かっている影領域と影が掛かっていない非影領域とに区分し、
    前記鳥瞰画像が表される色空間をRGB色空間から所定の色空間へ変換したときの前記鳥瞰画像上の前記影領域の輝度平均値と前記非影領域の輝度平均値の差が、RGB色空間で表される前記鳥瞰画像における前記影領域の輝度平均値と前記非影領域の輝度平均値の差よりも小さくなるように、階調補正係数を設定し、
    前記階調補正係数を用いて前記鳥瞰画像の階調を補正するとともに前記鳥瞰画像が表される色空間をRGB色空間から前記所定の色空間へ変換することで色変換画像を生成する、
    ことをコンピュータに実行させるための画像変換用コンピュータプログラム。
JP2020101821A 2020-06-11 2020-06-11 画像変換装置、画像変換方法及び画像変換用コンピュータプログラム Active JP7151742B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020101821A JP7151742B2 (ja) 2020-06-11 2020-06-11 画像変換装置、画像変換方法及び画像変換用コンピュータプログラム
CN202110622304.1A CN113808004B (zh) 2020-06-11 2021-06-04 图像变换装置、图像变换方法以及图像变换用计算机程序
US17/342,614 US11588955B2 (en) 2020-06-11 2021-06-09 Apparatus, method, and computer program for image conversion

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020101821A JP7151742B2 (ja) 2020-06-11 2020-06-11 画像変換装置、画像変換方法及び画像変換用コンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2021196451A true JP2021196451A (ja) 2021-12-27
JP7151742B2 JP7151742B2 (ja) 2022-10-12

Family

ID=78826195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020101821A Active JP7151742B2 (ja) 2020-06-11 2020-06-11 画像変換装置、画像変換方法及び画像変換用コンピュータプログラム

Country Status (3)

Country Link
US (1) US11588955B2 (ja)
JP (1) JP7151742B2 (ja)
CN (1) CN113808004B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114862867A (zh) * 2021-12-27 2022-08-05 青岛海尔电冰箱有限公司 冰箱内物品信息识别方法、冰箱和计算机存储介质
CN114937212B (zh) * 2022-07-26 2022-11-11 南通华锐软件技术有限公司 基于频域空间转换的航拍道路类型识别方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020090428A1 (ja) * 2018-10-30 2020-05-07 三菱電機株式会社 地物検出装置、地物検出方法および地物検出プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11283012A (ja) 1998-03-31 1999-10-15 Hitachi Software Eng Co Ltd 陰の認識方法
JP2004291509A (ja) * 2003-03-27 2004-10-21 Sharp Corp 画像処理装置、画像形成装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体
JP2005072635A (ja) * 2003-08-21 2005-03-17 Sharp Corp 画像処理装置、画像形成装置、画像読取装置、画像処理方法、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
DE102004038739A1 (de) 2004-08-10 2006-02-23 Robert Bosch Gmbh Verfahren zur Darstellung von Karteninformationen
JP2006195032A (ja) 2005-01-12 2006-07-27 Kokusai Kogyo Co Ltd 地形図作成方法および地形図作成システム
JP5772446B2 (ja) * 2010-09-29 2015-09-02 株式会社ニコン 画像処理装置及び画像処理プログラム
JP2015073162A (ja) * 2013-10-02 2015-04-16 コニカミノルタ株式会社 画像形成装置及びシェーディング補正の補正値の更新方法
JP6326997B2 (ja) * 2014-06-13 2018-05-23 大日本印刷株式会社 画像処理装置および輝度調整方法
CN105678285B (zh) * 2016-02-18 2018-10-19 北京大学深圳研究生院 一种自适应的道路鸟瞰图变换方法和道路车道检测方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020090428A1 (ja) * 2018-10-30 2020-05-07 三菱電機株式会社 地物検出装置、地物検出方法および地物検出プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
YAN LI: "A system of the shadow detection and shadow removal for high resolution city aerial photo", RESEARCHGATE[ONLINE], JPN6022035558, 16 April 2017 (2017-04-16), ISSN: 0004862006 *
石野 裕一 外1名: "航空画像を用いた道路標示抽出", 電子情報通信学会技術研究報告 VOL.106 NO.438, vol. 第106巻 第438号, JPN6022035557, 11 December 2006 (2006-12-11), JP, pages 1 - 6, ISSN: 0004862005 *

Also Published As

Publication number Publication date
US11588955B2 (en) 2023-02-21
US20210392238A1 (en) 2021-12-16
JP7151742B2 (ja) 2022-10-12
CN113808004A (zh) 2021-12-17
CN113808004B (zh) 2023-09-29

Similar Documents

Publication Publication Date Title
CN112348815A (zh) 图像处理方法、图像处理装置以及非瞬时性存储介质
EP3076364A1 (en) Image filtering based on image gradients
JP5810628B2 (ja) 画像処理装置及び画像処理プログラム
CN108197567B (zh) 用于图像处理的方法、装置和计算机可读介质
JP2013203374A (ja) 車両用表示装置、その制御方法及びプログラム
CN113808004B (zh) 图像变换装置、图像变换方法以及图像变换用计算机程序
US9087272B2 (en) Optical match character classification
KR20200015095A (ko) 영상 처리 장치 및 그 동작방법
CN112102207A (zh) 一种确定温度的方法、装置、电子设备及可读存储介质
US20100225984A1 (en) Image processing apparatus and image forming apparatus
JP2021189527A (ja) 情報処理装置、情報処理方法及びプログラム
CN111724396A (zh) 图像分割方法及装置、计算机可读存储介质、电子设备
CN113487473B (zh) 一种添加图像水印的方法、装置、电子设备及存储介质
CN106611406B (zh) 图像校正方法和图像校正设备
CN114187515A (zh) 图像分割方法和图像分割装置
JP6791593B2 (ja) 認識装置、認識プログラム、及び認識方法
CN111985471A (zh) 一种车牌定位方法、装置及存储介质
JP6337680B2 (ja) 画像処理システム、画像処理装置、プログラム及び画像処理方法
KR101592087B1 (ko) 배경 영상의 위치를 이용한 관심맵 생성 방법 및 이를 기록한 기록 매체
CN115843375A (zh) 徽标标注方法及装置、徽标检测模型更新方法及系统、存储介质
JP5098488B2 (ja) 画像処理装置
Park et al. Simple shadow removal using shadow depth map and illumination-invariant feature
JP4935561B2 (ja) 画像処理装置
RU2758668C1 (ru) Способ и система защиты цифровой информации, отображаемой на экране электронных устройств
CN114390265B (zh) 投射区域的设定辅助方法、设定辅助系统以及记录介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211014

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220912

R151 Written notification of patent or utility model registration

Ref document number: 7151742

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151