JP5857256B2 - オブジェクト検出装置、画像分割装置、集積回路 - Google Patents

オブジェクト検出装置、画像分割装置、集積回路 Download PDF

Info

Publication number
JP5857256B2
JP5857256B2 JP2012546696A JP2012546696A JP5857256B2 JP 5857256 B2 JP5857256 B2 JP 5857256B2 JP 2012546696 A JP2012546696 A JP 2012546696A JP 2012546696 A JP2012546696 A JP 2012546696A JP 5857256 B2 JP5857256 B2 JP 5857256B2
Authority
JP
Japan
Prior art keywords
image
unit
processor element
object detection
element units
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012546696A
Other languages
English (en)
Other versions
JPWO2012073490A1 (ja
Inventor
西村 隆
隆 西村
井上 昭彦
昭彦 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2012546696A priority Critical patent/JP5857256B2/ja
Publication of JPWO2012073490A1 publication Critical patent/JPWO2012073490A1/ja
Application granted granted Critical
Publication of JP5857256B2 publication Critical patent/JP5857256B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • G06V10/7515Shifting the patterns to accommodate for positional errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • G06V10/955Hardware or software architectures specially adapted for image or video understanding using specific electronic processors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Description

本発明は、画像から人物等のオブジェクトを検出するオブジェクト検出技術に関し、特に、複数のプロセッサエレメントを利用して行う並列処理型のオブジェクト検出技術に関する。
従来、画像からオブジェクトを検出する技術として、検出対象となる画像に対して、オブジェクトの特徴を有するテンプレート画像を走査しながら逐次照合するマッチング処理を行うことでオブジェクトを検出するテンプレートマッチング手法が知られている。
このテンプレートマッチング手法は、そのマッチング処理における演算量が比較的大きい。このため、テンプレートマッチング手法を利用するオブジェクト検出装置には、マッチング処理の処理時間を比較的短くするために、互いに並列に動作することができる複数のプロセッサエレメントを用いてマッチング処理を行うものがある。
例えば、特許文献1には、それぞれローカルメモリを有するプロセッサエレメントを複数と、各プロセッサエレメントが行うマッチング処理を互いに独立したものとするために他の分割画像との重複部分(以下、「重複領域」と呼ぶ。)を有する複数の分割画像を生成する生成部とを備える並列処理型のオブジェクト検出装置が記載されている。この並列処理型のオブジェクト検出装置は、生成部が、各プロセッサエレメントが行うこととなるマッチング処理の処理量を考慮して分割画像を生成する。そして、各プロセッサエレメントが、自部のマッチング処理対象となる分割画像を自部のローカルメモリに転送し、それぞれ互いに並列にマッチング処理を行う。
特開2010−9405号公報
一般に、マッチング処理を複数のプロセッサエレメントに並列処理させる場合には、各プロセッサエレメントが行うマッチング処理の処理量の総和は、画像の分割数に依らず一定である。これに対して、各分割画像における画素数の総和は、画像の分割数が多い程多くなる。これは、画像の分割数が多い程重複領域が多くなるためである。
このため、各プロセッサエレメントへ順次画像を転送するアーキテクチャを採用する並列処理型のオブジェクト検出装置においては、各プロセッサエレメントが行うマッチング処理の処理量のみを考慮して画像の分割を行っても、マッチング処理のために必要となる時間と画像転送処理のために必要となる時間との双方を合わせた時間(以下、「オブジェクトを検出するための処理時間」と呼ぶ。)が最短にならない場合がある。
そこで、本発明は係る問題に鑑みてなされたものであり、各プロセッサエレメントへ順次画像を転送するアーキテクチャを採用する場合において、従来よりも、オブジェクトを検出するための処理時間が短くなる可能性が高くなるオブジェクト検出装置を適用することを目的とする。
上記課題を解決するために本発明に係るは、オブジェクト検出装置は、画像からオブジェクトを検出するオブジェクト検出装置であって、画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部と、前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割部と、
前記分割部によって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送部とを備え、前記複数のプロセッサエレメント部のそれぞれは、前記転送部によって転送された画像を参照して前記検出処理を行い、前記分割部は、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定めることを特徴とする。
上述の構成を備える本発明に係るオブジェクト検出装置によると、画像の分割は、転送部が行うこととなる重複部分それぞれの転送におけるデータ量と、複数のプロセッサエレメント部のそれぞれが行うこととなる検出処理における処理量との双方を反映して行われることとなる。
従って、このオブジェクト検出装置は、各プロセッサエレメントへ順次画像を転送するアーキテクチャを採用する場合において、従来よりも、オブジェクトを検出するための処理時間が短くなる可能性を高くすることができる。
画像処理装置100の主要なハードウエア構成を示すブロック図 オブジェクト検出装置110の機能ブロック図 マッチング処理を示す模式図 マッチング処理における重複領域を視覚的に表現した模式図 数1を最小とする各分割数Nkを示す表 オブジェクト検出処理のフローチャート 初期割当処理のフローチャート 分割部800の機能ブロック図 第1変形オブジェクト検出処理のフローチャート 第1変形分割処理のフローチャート 第1変形分割処理によって算出された各分割数Nkを示す表 分割部1200の機能ブロック図 第2変形分割処理のフローチャート 第2変形分割処理によって算出された各分割数Nkを示す表 変形例における分割画像の生成を模式的に示す模式図 オブジェクト検出装置1600の構成図
<実施の形態1>
<概要>
以下、本発明に係るオブジェクト検出装置の一実施形態として、所定のフレームレートで画像を撮影する機能と、撮影した画像それぞれについて、被写体として含まれる人物の顔を検出する機能とを有する画像処理装置100について説明する。
この画像処理装置100は、撮影した画像から、その画像に被写体として含まれる人物の顔を検出するオブジェクト検出装置110を内蔵する。
このオブジェクト検出装置110は、1個のコントローラと、互いに独立にマッチング処理を行うことができる16個のプロセッサエレメントとを備える。そして、まず、コントローラが、画像処理装置100が撮影した画像(以下、「原画像」と呼ぶ。)から、所定の縮小比率で縮小された15個の縮小画像を生成する。次に、コントローラが、各プロセッサエレメントが行うこととなるマッチング処理の処理量と、各プロセッサエレメントへ転送することとなる画像の転送量とを考慮して、原画像と15個の縮小画像とのそれぞれについて、画像を分割して分割画像を生成する。そして、各プロセッサエレメントが、分割画像それぞれについて、互いに独立にマッチング処理を行う。
以下、本実施の形態1に係る画像処理装置100の詳細について図面を参照しながら説明する。
<画像処理装置100のハードウエア構成>
図1は、画像処理装置100の主要なハードウエア構成を示すブロック図である。
同図に示す通り、画像処理装置100は、オブジェクト検出装置110と撮像装置120と入力処理回路130とメインメモリ140と画像メモリ150とプロセッサ160とメモリバス170とプロセッサバス180とから構成される。
メモリバス170は、入力処理回路130とメインメモリ140と画像メモリ150とプロセッサ160とオブジェクト検出装置110とに接続され、これら接続される回路間の信号を伝達する機能を有する。
プロセッサバス180は、撮像装置120と入力処理回路130とプロセッサ160とオブジェクト検出装置110とに接続され、これら接続される回路間の信号を伝達する機能を有する。
画像メモリ150は、メモリバス170に接続され、RAM(Random Access Memory)によって構成され、オブジェクト検出装置110が利用する画像を記憶する。
メインメモリ140は、メモリバス170に接続され、RAMとROM(Read Only Memory)とによって構成され、プロセッサ160が利用するプログラムと、プロセッサ160が利用するデータと、オブジェクト検出装置110が利用するプログラムと、オブジェクト検出装置110が利用するデータとを記憶する。
撮像装置120は、入力処理回路130とプロセッサバス180とに接続され、プロセッサバス180を介してプロセッサ160によって制御され、固体撮像素子(例えば、COMS(Complementary Metal Oxide Semiconductor)イメージセンサ)と、固体撮像素子に外部の光を集光するレンズ群とを備え、外部の被写体を所定のフレームレート(例えば10fps)で撮影して、所定数(例えば、640×480)の画素からなる原画像を生成する機能を有する。
入力処理回路130は、撮像装置120とメモリバス170とプロセッサバス180とに接続され、プロセッサバス180を介してプロセッサ160によって制御され、撮像装置120が原画像を生成した場合に、その原画像を、メモリバス170を介して画像メモリ150に書き込む機能と、画像メモリ150への原画像の書き込みが完了した場合に、原画像の書き込みが完了した旨の原画像書込完了信号を、プロセッサバス180を介してオブジェクト検出装置110に送る機能とを有する。
プロセッサ160は、メモリバス170とプロセッサバス180とに接続され、メインメモリ140に記憶されているプログラムを実行することで、プロセッサバス180を介して撮像装置120と入力処理回路130とオブジェクト検出装置110とを制御して、画像処理装置100に、所定のフレームレートで画像を撮影する機能と、撮影した画像それぞれについて、被写体として含まれる人物の顔を検出する機能とを実現させる機能を有する。
オブジェクト検出装置110は、メモリバス170とプロセッサバス180とに接続され、プロセッサバス180を介してプロセッサ160によって制御され、画像メモリ150が記憶する原画像から、その原画像に被写体として含まれる人物の顔を検出する機能を有する。
図1に示されるように、オブジェクト検出装置110は、さらに、コントローラ119と、互いに独立に動作することが可能な16個のプロセッサエレメント(第1PE(Processor Element)111〜第16PE114)と、16個のローカルメモリ(第1LM(Local Memory)115〜第16LM118)とから構成される。
オブジェクト検出装置110は、これら複数の構成要素が1つの半導体集積回路に集積されることで実現されている。
16個のプロセッサエレメント(第1PE111〜第16PE114)は、それぞれ互いに同様の構成と同様の機能とを有している。よってここでは、第1PE111について説明する。
第1PE111は、第1LM115とプロセッサバス180とに接続され、プロセッサバス180を介してコントローラ119によって制御され、第1LM115に記憶されているプログラムを実行することで、第1LM115に記憶されている画像に対してマッチング処理を行って、画像から被写体として含まれる人物の顔を検出する機能を有する。
16個のローカルメモリ(第1LM115〜第16LM118)は、それぞれ互いに同様の構成と同様の機能とを有している。よってここでは、第1LM115について説明する。
第1LM115は、第1PE111とメモリバス170とに接続され、RAMとROMとによって構成され、第1PE111が利用するプログラムと、第1PE111が利用するデータと、第1PE111が行うマッチング処理の対象となる画像とを記憶する。
コントローラ119は、メモリバス170とプロセッサバス180とに接続され、プロセッサバス180を介してプロセッサ160によって制御され、メインメモリ140に記憶されているプログラムを実行することで、プロセッサバス180を介して第1PE111〜第16PE114を制御して、オブジェクト検出装置110に、画像メモリ150が記憶する原画像から、その原画像に被写体として含まれる人物の顔を検出する機能を実現させる機能を有する。
以下、オブジェクト検出装置110について、図面を参照しながらさらに詳細に説明する。
<オブジェクト検出装置110>
図2は、上記ハードウエア構成を備えるオブジェクト検出装置110が、プログラムを実行することで実現する機能の機能ブロック図である。
同図に示されるように、オブジェクト検出装置110は、16個のPE部(第1PE部201〜第16PE部204)と縮小画像生成部210と受付部220と分割部230と割当部240と転送部250とから構成される。そして転送部250は、さらに、PE実行管理部260と画像受信部270とから構成される。
16個のPE部(第1PE部201〜第16PE部204)は、それぞれ互いに同様の構成と同様の機能とを有している。よってここでは、第1PE部201について説明する。
第1PE部201は、プログラムを実行する第1PE111と第1LM115とによって実現され、PE実行管理部260に接続され、以下の4つの機能を有する。
画像記憶機能:自部の行うマッチング処理の対象となる画像を記憶する機能。
テンプレート画像記憶機能:20画素×20画素からなる人の顔に係る特徴を有するテンプレート画像を複数(例えば1000個)記憶する機能。
検出機能:記憶するテンプレート画像のそれぞれを利用して、記憶する画像に対してマッチング処理を行って、画像から被写体として含まれる人物の顔を検出する機能。
完了通知機能:記憶する画像に対するマッチング処理が完了した場合に、マッチング処理完了信号をPE実行管理部に出力する機能。
図3は、第1PE部201が、テンプレート画像を利用して画像に対して行うマッチング処理を模式的に示す模式図である。
同図に示されるように、第1PE部201は、マッチング処理の対象となる画像300に対して、テンプレート画像のそれぞれを、4画素単位でずらしながら走査して、逐次照合することで行う。
第1PE部201は、以下の順番で走査を行う。第1PE部201は、画像300の左上から走査を開始し、まず、水平方向に4画素単位でずらしながら画像の右端まで走査する。そして、画像300の右端までの走査が終わると、次に、垂直方向に4画素単位でずらして、画像300の左端から右端まで順に走査を継続する。このような走査を上列側から下列側へと順に繰り返して、画像300の左上から画像300の右下まで走査を行う。そして、画像300の右下まで走査を行うと、その走査を終了する。
ここで、第1PE部201は、画像300の右下まで走査を行う前に人の顔を検出した場合であっても、走査を終了することなく、画像300の右下まで走査を行う。
再び図2に戻って、オブジェクト検出装置110の説明を続ける。
縮小画像生成部210は、プログラムを実行するコントローラ119によって実現され、メモリバス170と受付部220とに接続され、以下の5つの機能を有する。
縮小画像生成機能:入力処理回路130からプロセッサバス180を介して原画像書込完了信号が送られてくると、画像メモリ150から原画像を読み出して、読み出した原画像に対して、垂直方向90%、水平方向90%の縮小率で逐次縮小して15個の縮小画像を生成する機能。
縮小画像ID付与機能:読み出した原画像、及び生成する縮小画像のそれぞれに対して縮小画像を識別するための縮小画像IDを対応付ける機能。ここでは、原画像に縮小画像ID=0を付与し、縮小率の小さな縮小画像から順に、縮小画像ID=1、2、3、…、15を付与する。
縮小画像画素数算出機能:読み出した原画像、及び生成する縮小画像のそれぞれについて、画像を構成する画素の画素数を算出し、算出した画素数のそれぞれに縮小画像IDのそれぞれを対応付けて、受付部220に送る機能。
縮小画像書込機能:生成した縮小画像のそれぞれを、付与した縮小画像IDのそれぞれと対応付けて画像メモリ150に書き込み、書き込んだアドレスのそれぞれに縮小画像IDのそれぞれを対応付けて、受付部220に送る機能。
縮小完了信号出力機能:全ての縮小画像に対する画像メモリ150への書き込みが完了すると、受付部220に縮小完了信号を送る機能。
受付部220は、プログラムを実行するコントローラ119によって実現され、縮小画像生成部210と分割部230とに接続され、以下の受付機能を有する。
受付機能:縮小画像生成部210から縮小完了信号が送られてくると、縮小画像生成部210から送られた、縮小画像IDに対応付けられた画素数のそれぞれと縮小画像IDに対応付けられたアドレスのそれぞれとを、分割部230へ送る機能。
分割部230は、プログラムを実行するコントローラ119によって実現され、受付部220と割当部240とに接続され、以下の3つの機能を有する。
分割数算出機能:縮小画像IDがkとなる画像の分割数Nkとした場合における、数1を最小とする各Nkを算出する機能。
Figure 0005857256
数1において、X0は原画像における水平方向の画素数であって、ここでは640となる。Y0は原画像における垂直方向の画素数であって、ここでは480となる。Rxは、垂直方向の縮小率であって、ここでは0.9となる。Ryは、水平方向の縮小率であって、ここでは0.9となる。Rtは、PE部がマッチング処理を行う場合における1画素当たりの処理時間に対する、画像をPE部に転送する場合における1画素当たりの転送時間の比率であって、ここでは、0.5となる。この比率は、実験によって計測することで求められる。GDBは、分割画像を生成するために画像を垂直方向に分割した場合において、分割画像に含まれる重複領域の水平方向における画素数であって、ここでは16となる。これは、テンプレート画像の水平方向の画素数(ここでは20)から、走査時においてずらす単位画素数(ここでは4)を減算することで求められる。
数1において、数2の部分は、縮小画像IDがkとなる縮小画像に含まれる画素数を分割数Nkで除算した値であって、縮小画像IDがkとなる画像に対して行うPE部のマッチング処理における処理時間を示す。
Figure 0005857256
数1において、数3の部分は、縮小画像IDがkとなる画像を分割することで発生する重複領域に含まれる画素数(数4)に、Rtを掛けたものであって、縮小画像IDがkとなる画像における重複領域の画素をPEに転送する転送時間を示す。
Figure 0005857256
Figure 0005857256
従ってfk(Nk)は、縮小画像IDがkとなる縮小画像について、PE部のマッチング処理における処理時間と、重複領域の画素をPEに転送する転送時間との和となっている。
数1を最小とする各Nkの算出は、例えば、各Nkに1から順に2、3、…、M(Mは15に比べて十分大きな整数)と1以上M以下の整数を代入して数1を計算し、計算結果のうち、数1が最小の値となるときのNkを選択することで実現できる。
図4は、画像を分割する場合に必要となる重複領域を視覚的に表現した模式図である。
同図は、画像を垂直方向に2分割して、それぞれの分割画像に対して、第nPE部と第n+1PE部とがそれぞれマッチング処理を行う場合の例を模式的に示している。
同図に示されるように、20画素×20画素からなるテンプレート画像を4画素単位でずらしながら走査をしていく場合には、分割前の画像において行う走査と同等の走査をするために、第nPE部と第n+1PE部との双方が、20画素−4画素=16画素の幅をもつ重複領域の画素を利用する必要がある。
図5は、X0が640、Y0が400、Rxが0.9、Ryが0.9、Rtが0.5、GDBが16となる場合における、数1を最小とする各分割数Nkを示す表である。
同図において、縮小画像ID510は、縮小画像を識別するために、各縮小画像に割り当てられた識別子である。横幅(画素)520は、対応する縮小画像ID510で識別される縮小画像の水平方向の画素数である。縦幅(画素)530は、対応する縮小画像ID510で識別される縮小画像の垂直方向の画素数である。画素数540は、対応する縮小画像ID510で識別される画像に含まれる画素の数である。分割数Nk(処理PE数)550は、対応する縮小画像ID510で識別される画像において、数1を最小とする分割数である。重複領域画素数560は、対応する縮小画像ID510で識別される画像を、対応する分割数Nk(処理PE数)550個に分割した場合に発生する重複領域それぞれの画素数の総和である。fk(Nk)570は、対応する縮小画像ID510で識別される画像を、対応する分割数Nk(処理PE数)550で分割した場合における、fk(Nk)の値である。
再び図2に戻って、分割部230の説明を続ける。
分割機能:原画像と15個の縮小画像とについて、算出した分割数Nkに基づいて、各PE部が行うマッチング処理が互いに独立したものとなるように、各画像を垂直方向に分割して分割画像を生成する機能。なお、Nkが1となる画像については、生成する分割画像は、分割前の元画像となる。
アドレス生成機能:生成した分割画像のそれぞれについて、画像メモリ150における分割画像を構成する画素群を記憶する記憶領域を示すアドレスを生成する機能。
割当部240は、プログラムを実行するコントローラ119によって実現され、分割部230と転送部250とに接続され、分割部230によって生成された分割画像のそれぞれを、第1PE部201〜第16PE部204のいずれかに割り当てる機能を有する。ここで、割当部240の行う分割画像の割り当て方の詳細については、後程、オブジェクト検出処理におけるステップS630〜ステップS655の処理の部分で説明する。
画像受信部270は、プログラムを実行するコントローラ119によって実現され、メモリバス170と割当部240とPE実行管理部260とに接続され、割当部240によって生成されたアドレスを利用して、分割部230によって生成された分割画像のそれぞれを、メモリバス170を介して画像メモリ150から読み出す機能を有する。
PE実行管理部260は、プログラムを実行するコントローラ119によって実現され、第1PE部201〜第16PE部204と割当部240と画像受信部270とに接続され、以下の2つの機能を有する。
画像転送機能:画像受信部270が読み出した分割画像を、割当部240によって割り当てられたPE部に転送する機能。
完了通知機能:いずれかのPE部からマッチング処理完了信号が送られてきた場合に、そのマッチング処理完了信号を割当部240へ送信する機能。
以下、図面を参照しながら、上記構成を備えるオブジェクト検出装置110の行う動作について説明する。
<動作>
ここでは、オブジェクト検出装置110の行う動作のうち、特徴的な動作である、オブジェクト検出処理について説明する。
<オブジェクト検出処理>
オブジェクト検出処理は、画像メモリ150が記憶する原画像から、その原画像に被写体として含まれる人物の顔を検出する処理である。
図6は、オブジェクト検出処理のフローチャートである。
オブジェクト検出処理は、縮小画像生成部210が、入力処理回路130からプロセッサバス180を介して送られて来た原画像書込完了信号を受けることで開始される。
オブジェクト検出処理が開始されると、縮小画像生成部210は、画像メモリ150から原画像を読み出して、読み出した原画像、及び生成する15個の縮小画像のそれぞれに対して縮小画像を識別するための縮小画像IDを対応付ける。そして、読み出した原画像、及び生成する縮小画像のそれぞれについて、画像を構成する画素の画素数を算出して、算出した画素数のそれぞれを、それぞれ対応付けられた画像IDと共に受付部220に送る(ステップS600)。
算出した画素数のそれぞれを受付部220に送ると、縮小画像生成部210は、原画像に対して、垂直方向90%、水平方向90%の縮小率で逐次縮小して15個の縮小画像を生成し、生成した縮小画像のそれぞれを画像メモリ150に書き込み、書き込みアドレスのそれぞれを受付部220に送り(ステップS605)、全ての縮小画像についての書き込みが終了すると縮小完了信号を受付部220に送る(ステップS610)。
縮小完了信号を受けると、受付部220は、縮小画像生成部210から送られた、縮小画像IDに対応付けられた画素数のそれぞれと縮小画像IDに対応付けられたアドレスのそれぞれとを、分割部230へ送る。そして、分割部230は、数1を最小とする各分割数Nkを算出する(ステップS615)。
各分割数Nkを算出すると、分割部230は、原画像と15個の縮小画像とについて、算出した分割数Nkに基づいて、各画像を垂直方向に分割して分割画像を生成する(ステップS620)。そして、生成した分割画像のそれぞれについて、分割画像を構成する画素群を記憶する、画像メモリ150における記憶領域を示すアドレスを生成して、割当部240へ出力する(ステップS625)。
割当部240は、各アドレスを受けると、以下の初期割当処理を開始する(ステップS630)。
<初期割当処理>
初期割当処理は、オブジェクト検出処理が開始された後に最初に行う各PE部への分割画像の割り当てを行う処理であって、分割画像が割り当てられていない16個のPE部のそれぞれに、それぞれ1つずつの分割画像を割り当てる処理である。
図7は、初期割当処理のフローチャートである。
初期割当処理が開始されると、割当部240は、まず、縮小画像IDを示すkの初期値を0に設定する(ステップS700)。
次に、割当部240は、縮小画像ID=kについて、分割部230によって算出された分割数Nkが、分割画像が割り当てられていないPE部(以下、「空きPE部」と呼ぶ。)の数以下であるか否かを調べる(ステップS710)。
ステップS710の処理において、分割数Nkが空きPE部数以下である場合に(ステップS710:Yes)、割当部240は、Nk個の空きPE部のそれぞれに、1つずつ分割画像を割り当てて、空きPE部数を更新する(ステップS720)。
ステップS720の処理が終了した場合、又はステップS710の処理において、分割数Nkが空きPE部数以下でない場合(ステップS710:No)、割当部240は、kが15未満であるか否かを調べる(ステップS730)。
ステップS730の処理において、kが15未満である場合に(ステップS730:Yes)、割当部240は、kを1インクリメントして(ステップS740)、ステップS710以下の処理を繰り返す。
ステップS730の処理において、kが15未満でない場合に(ステップS730:No)、割当部240は、PE部のいずれにも割り当てられていない分割画像(以下、「未割当分割画像」と呼ぶ。)が残っているか否かを調べる(ステップS750)。
ステップS750の処理において、未割当分割画像が残っている場合に(ステップS750:Yes)、割当部240は、未割当分割画像のうち、データ量の多いものから順に空きPE部に割り当てる(ステップS760)。ここで、割当部240は、この空きPE部への割り当てを、空きPEがなくなる、又は未割当分割画像がなくなるまで行う。
ステップS760の処理が終了した場合、又はステップS750の処理において、未割当分割画像が残っていない場合(ステップS750:No)に、割当部240は、その初期割当処理を終了する。
再び図6に戻って、オブジェクト検出処理の説明を続ける。
ステップS630の初期割当処理が終了すると、画像受信部270は、割当部240によってPE部のいずれかに割り当てられた分割画像のそれぞれについて、画像メモリ150から読み出しを開始する。そして、PE実行管理部260は、読み出しを開始した分割画像のそれぞれについて、割当部240によって割り当てられたPE部のそれぞれへの転送を開始する。そして、PE部のそれぞれは、分割画像を受け取るとマッチング処理を開始する(ステップS635)。
ここで、PE部のそれぞれは、マッチング処理を開始するために必要となるデータを受信した時点でマッチング処理を開始する。必ずしも、分割画像の全てのデータを受信するまで待ってからマッチング処理を開始するわけではない。
その後、PE実行管理部260は、いずれかのPE部から、マッチング処理が完了した旨のマッチング処理完了信号が送られてくると(ステップS640:Noを繰り返した後にステップS640の処理がYesになると)、そのマッチング処理完了信号を割当部240へ送信する。
マッチング処理完了信号を受けると、割当部240は、未割当分割画像が残っているか否かを調べる(ステップS645)。
ステップS645の処理において、未割当分割画像が残っている場合に(ステップS645:Yes)、割当部240は、未割当分割画像のうち、データ量の最も多い分割画像を、マッチング処理完了信号を送信した空きPE部に割り当てる(ステップS650)。
ステップS650の処理が終わると、画像受信部270は、割当部240によって新たに割り当てられた分割画像について、画像メモリ150から読み出しを開始する。そして、PE実行管理部260は、読み出しを開始した分割画像について、割当部240によって割り当てられたPE部への転送を開始する。そして、そのPE部は、その分割画像を受け取るとマッチング処理を開始する(ステップS655)。
その後、PE実行管理部260は、再びステップS640の処理に戻って、ステップS640以下の処理を繰り返す。
ステップS645の処理において、未割当分割画像が残っていない場合に(ステップS645:No)、全てのPE部がマッチング処理を終了すると、割当部240は、プロセッサ160に、オブジェクト検出処理が終了した旨の信号を送信し(ステップS660)、オブジェクト検出装置110は、そのオブジェクト検出処理を終了する。
<考察>
上記構成のオブジェクト検出装置110は、撮像装置120が撮影した原画像から15の縮小画像を生成し、原画像と生成した15の縮小画像とを対象として、数1を最小とする分割数Nkを算出して、それぞれの画像を分割する。そして、分割画像のそれぞれを転送部250がPE部のそれぞれに転送し、PE部のそれぞれは、転送された分割画像のそれぞれに対してマッチング処理を行う。
従って、このオブジェクト検出装置110は、それぞれの画像の分割を、転送部250が行うこととなる転送のそれぞれにおける重複領域のデータ量と、PE部のそれぞれが行うこととなるマッチング処理における処理量との双方を反映して行うこととなる。
<実施の形態2>
<概要>
以下、本発明に係るオブジェクト検出装置の一実施形態として、実施の形態1に係る画像処理装置100の一部を変形した第1変形画像処理装置について説明する。この第1変形画像処理装置は、そのハードウエア構成が実施の形態1に係る画像処理装置100と同様の構成のものとなっているが、実行するソフトウエアの一部が、実施の形態1に係る画像処理装置100から変形されている。そして、この第1変形画像処理装置は、実施の形態1に係る画像処理装置100から、オブジェクト検出装置110が第1変形オブジェクト検出装置に変形されたものとなっている。
実施の形態1に係るオブジェクト検出装置110は、縮小画像の分割数を決定するアルゴリズムが、転送部250が行うこととなる転送のそれぞれにおける重複領域のデータ量と、PE部のそれぞれが行うこととなるマッチング処理における処理量との双方を反映するものである構成の例であった。これに対して、第1変形オブジェクト検出装置は、縮小画像の分割数を決定するアルゴリズムが、転送部が250行うこととなる重複領域のデータ転送量を反映せずに、PE部のそれぞれが行うこととなるマッチング処理における処理量を反映するものである構成の例となっている。
以下、本実施の形態2に係る第1変形オブジェクト検出装置の構成について、図面を参照しながら、実施の形態1に係るオブジェクト検出装置110との相違点を中心に説明する。
<構成>
第1変形オブジェクト検出装置は、実施の形態1に係るオブジェクト検出装置110から、分割部230(図2参照)が分割部800に変形されている。
よって、ここでは、分割部800について説明する。
分割部800は、プログラムを実行するコントローラ119によって実現され、実施の形態1に係る分割部230が有する分割機能とアドレス生成機能とに加えて、以下の第1変形分割数算出機能を有する。
第1変形分割数算出機能:原画像、及び全ての縮小画像を対象として、各PE部の行うこととなるマッチング処理における処理量のバランスを取るように、各画像の分割数Nkを算出する機能。
この第1変形分割数算出機能における、各画像の分割数Nkの算出方法の詳細については、後程、第1変形分割処理の項目の部分で説明する。
図8は、分割部800の機能構成を示す機能ブロック図である。
同図に示す通り、分割部800は、バッファ部810と加算器部820とPE数更新部830とから構成される。
加算器部820は、プログラムを実行するコントローラ119によって実現され、受付部220とPE数更新部830とに接続され、受付部220から送られた、縮小画像IDに対応付けられた画素数のそれぞれを受け取り、受け取った画素数のそれぞれを逐次累積加算して総画素数を算出し、算出した総画素数をPE数更新部830に出力する機能を有する。
バッファ部810は、プログラムを実行するコントローラ119によって実現され、受付部220とPE数更新部830とに接続され、受付部220から送られた、縮小画像IDのそれぞれと、縮小画像IDに対応付けられた画素数のそれぞれとを記憶する機能を有する。
PE数更新部830は、プログラムを実行するコントローラ119によって実現され、バッファ部810と加算器部820と割当部240とに接続され、バッファ部810に記憶される、縮小画像IDのそれぞれと、縮小画像IDに対応付けられた画素数のそれぞれとを読み出して、加算器部820から送られる総画素数と比較することで、各画像の分割数Nkを算出する機能を有する。各画像の分割数Nkの算出方法の詳細については、後程、第1変形分割処理の項目の部分で説明する。
以下、図面を参照しながら、上記構成を備える第1変形オブジェクト検出装置の行う動作について説明する。
<動作>
ここでは、第1変形オブジェクト検出装置が行う動作のうち、特徴的な動作である、第1変形オブジェクト検出処理について説明する。
<第1変形オブジェクト検出処理>
第1変形オブジェクト検出処理は、実施の形態1に係るオブジェクト検出処理と同様に、画像メモリ150が記憶する原画像から、その原画像に被写体として含まれる人物の顔を検出する処理である。
図9は、第1変形オブジェクト検出処理のフローチャートである。
第1変形オブジェクト検出処理は、実施の形態1に係るオブジェクト検出処理(図6参照)から、その一部の処理が変形されたものである。具体的には、実施の形態1に係るオブジェクト検出処理におけるステップS615の処理が、第1変形オブジェクト検出処理におけるステップS915の第1変形分割処理に変形されている。
よって、ここでは、この第1変形分割処理について説明する。
<第1変形分割処理>
第1変形分割処理は、第1変形オブジェクト検出処理装置が、各画像の分割数Nkを算出する処理である。
図10は、第1変形分割処理のフローチャートである。
第1変形分割処理は、第1オブジェクト検出処理におけるステップS910の処理において、縮小画像生成部210が受付部220に縮小完了信号を送ることで開始される。
第1変形分割処理が開始されると、受付部220は、縮小画像生成部210から送られた、縮小画像IDに対応付けられた画素数のそれぞれと縮小画像IDに対応付けられたアドレスのそれぞれとを、分割部800へ送る。すると分割部800の加算器部820は、送られて来た画素数の全てを加算して総画素数を算出し、PE数更新部830に出力する(ステップS1000)。
PE数更新部830は、総画素数を受けると、まず、縮小画像IDを示すkの初期値を0に設定する(ステップS1010)。
次に、PE数更新部830は、縮小画像ID=kについて、総画素数と縮小画像の画素数とを比較して、総画素数と縮小画像の画素数との比率が、総PE部数(ここでは16)と分割数Nkとの比率となるように、分割数Nkを算出する(ステップS1020)。このとき、算出される分割数Nkは、整数となるように、小数点以下が切り捨てられることで算出される。
分割数Nkを算出すると、PE数更新部830は、算出したNkが1であるか否かを調べる(ステップS1030)。
ステップS1030の処理において、算出したNkが1である場合に(ステップS1030:Yes)、PE数更新部830は、縮小画像IDがkより大きな全ての画像についての分割数Nkを1とする(ステップS1040)。
ステップS1030の処理において、算出した分割数Nkが1でない場合に(ステップS1030:No)、kが15であるか否かを調べる(ステップS1050)。
ステップS1050の処理において、kが15でない場合に(ステップS1050:No)、PE数更新部830は、kを1インクリメントして(ステップS1060)、再びステップS1020の処理に戻って、ステップS1020以下の処理を行う。
ステップS1040の処理が終了した場合、又はステップS1050の処理において、kが15である場合に(ステップS1050:Yes)、第1変形オブジェクト検出処理装置は、その第1変形分割処理を終了する。
図11は、X0が640、Y0が400、Rxが0.9、Ryが0.9、Rtが0.5、GDBが16となる場合において、第1変形分割処理によって算出された各分割数Nkを示す表である。
同図において、縮小画像ID1110と横幅(画素)1120と縦幅(画素)1130と画素数1140と重複領域画素数1160とは、それぞれ、図5における縮小画像ID510と横幅(画素)520と縦幅(画素)530と画素数540と重複領域画素数560と同様のものである。分割数Nk(処理PE数)1150は、対応する縮小画像ID1110で識別される画像において、第1変形分割処理によって算出された各分割数である。1PE部当たりの画素数1170は、対応する縮小画像ID510で識別される画像を、対応する分割数Nk(処理PE数)1150で分割した場合における、1PE部当たりの画素数である。
<考察>
上記構成の第1変形オブジェクト検出装置は、総画素数と対象となる画像の画素数との比率が、総PE部数(ここでは16)と分割数Nkとの比率となるように、各画像の分割数Nkを算出する。このため、第1変形オブジェクト検出装置は、各PE部におけるマッチング処理量が互いに比較的均等になるように、各画像の分割を行うことができる。
この第1変形オブジェクト検出装置は、特に、画像を各PE部に転送する転送時間が、各PE部が行うマッチング処理に必要となる処理時間に比べて十分小さい場合に有用である。
<実施の形態3>
<概要>
以下、本発明に係るオブジェクト検出装置の一実施形態として、実施の形態2に係る第1変形画像処理装置の一部を変形した第2変形画像処理装置について説明する。この第2変形画像処理装置は、そのハードウエア構成が実施の形態2に係る第1変形画像処理装置と同様の構成のものとなっているが、実行するソフトウエアの一部が、実施の形態2に係る第1変形画像処理装置から変形されている。そして、この第2変形画像処理装置は、実施の形態2に係る第1変形画像処理装置から、第1変形オブジェクト検出装置が第2変形オブジェクト検出装置に変形されたものとなっている。
実施の形態2に係る第1変形オブジェクト検出装置は、PE部のそれぞれが行うこととなるマッチング処理における処理量を反映して分割数Nkを算出する構成の例であった。これに対して第2変形オブジェクト検出装置は、各PE部を構成する各LM(ローカルメモリ)に記憶することのできる画素数を反映して分割数Nkを算出する構成の例となっている。
以下、本実施の形態3に係る第3変形オブジェクト検出装置の構成について、図面を参照しながら、実施の形態2に係る第1変形オブジェクト検出装置との相違点を中心に説明する。
<構成>
第2変形オブジェクト検出装置は、実施の形態2に係る第1変形オブジェクト検出装置から、PE実行管理部260が(図2参照)が変形PE実行管理部(図示せず)に変形され、分割部800(図8参照)が分割部1200に変形されている。
よって、ここでは、変形PE実行管理部と分割部1200とについて説明する。
分割部1200は、プログラムを実行するコントローラ119によって実現され、実施の形態2に係る分割部800が有する分割機能とアドレス生成機能とに加えて、以下の第2変形分割数算出機能を有する。
第2変形分割数算出機能:原画像、及び全ての縮小画像を対象として、各PE部の行うこととなるマッチング処理における処理量のバランスを取るように、各画像の分割数Nkを算出する機能。
この第2変形分割数算出機能における、各画像の分割数Nkの算出方法の詳細については、後程、第2変形分割処理の項目の部分で説明する。
図12は、分割部1200の機能構成を示す機能ブロック図である。
同図に示す通り、分割部1200は、PE数更新部1210と重複領域算出部1220と加算器部1230と処理容量算出部1240と比較器部1250とから構成される。
処理容量算出部1240は、プログラムを実行するコントローラ119によって実現され、プロセッサバス180とPE数更新部1210と比較器部1250とに接続され、プロセッサバス180を介してプロセッサ160から送られてくる、各PE部を構成する各LM(ローカルメモリ)に記憶することのできる画素数(以下、「LM画素数」と呼ぶ。)を記憶する機能を有する。なお、ここでは、LM画素数が16000と設定されているものとする。
PE数更新部1210は、プログラムを実行するコントローラ119によって実現され、受付部220と重複領域算出部1220と処理容量算出部1240と比較器部1250と割当部240とに接続され、以下の3つの機能を有する。
仮分割数算出機能:受付部220から送られた、縮小画像IDに対応付けられた画素数と、処理容量算出部1240が記憶するLM画素数とから、その縮小画像IDに対応付けられた画像についての仮分割数を算出する機能。
ここで、この仮分割数は、画素数を仮分割数で除算することで得られる画素数が、LM画素数を超えない範囲における最大値となるように算出される。但し、仮分割数がPE部の数(ここでは16)以上となってしまう場合には、さらに、16を分割数として算出する。
仮分割数更新機能:PE数更新部1210が仮分割数を算出した場合において、比較器部1250から、論理値が0となるPE部数決定信号(後述)が送られてきたとき、仮分割数が16以上でなければ、仮分割数を1インクリメントして、新たな仮分割数として算出する機能。
分割数算出機能:PE数更新部1210が仮分割数を算出した場合において、比較器部1250から、論理値が1となるPE部数決定信号が送られて来たとき、その仮分割数を分割数として算出し、割当部240に出力する機能。
重複領域算出部1220は、プログラムを実行するコントローラ119によって実現され、受付部220とPE数更新部1210と加算器部1230とに接続され、PE数更新部1210が算出した仮分割数と、受付部220から送られて来た画素数とから、画像を仮分割数の分割画像に分割した場合に発生する重複領域の総画素数を算出する機能。
加算器部1230は、プログラムを実行するコントローラ119によって実現され、受付部220と重複領域算出部1220と比較器部1250とに接続され、重複領域算出部1220が算出した重複領域の総画素数と、受付部220から送られて来た画素数とから、1つのPE部がマッチング処理することとなる画像の画素数(以下、「分割画像の画素数」と呼ぶ。)を算出する機能。
比較器部1250は、プログラムを実行するコントローラ119によって実現され、加算器部1230と処理容量算出部1240とPE数更新部1210とに接続され、加算器部1230が算出した分割画像の画素数と、処理容量算出部1240が記憶するLM画素数とを比較して、分割画像の画素数がLM画素数より多い場合に論理値が0となるPE部数決定信号を出力し、分割画像の画素数がLM画素数より多くない場合に論理値が1となるPE部数決定信号を出力する機能。
変形PE実行管理部(図示せず)は、プログラムを実行するコントローラ119によって実現され、実施の形態2に係るPE実行管理部260と同様に、第1PE部201〜第16PE部204と割当部240と画像受信部270(図2参照)とに接続され、実施の形態2に係るPE実行管理部260が有する画像転送機能と完了通知機能とに加えて、以下の分割転送機能を有する。
分割転送機能:画像受信部270が読み出した分割画像を割当部240によって割り当てられたPE部に転送する場合において、画像受信部270が読み出した分割画像の画素数が、各PE部を構成する各LM(ローカルメモリ)に記憶することのできる画素数(以下、「LM画素数」と呼ぶ。)よりも多いときに、1回の転送量がLM画素数よりも少なくなる分割転送を複数回行うことで、PE部への転送を行う機能。
以下、図面を参照しながら、上記構成を備える第2変形オブジェクト検出装置の行う動作について説明する。
<動作>
ここでは、第2変形オブジェクト検出装置が行う動作のうち、特徴的な動作である、第2変形分割処理について説明する。
<第2変形分割処理>
第2変形分割処理は、実施の形態2に係る第1変形分割処理が変形された処理であって、第2変形オブジェクト検出処理装置が、各画像の分割数Nkを算出する処理である。
図13は第2変形分割処理のフローチャートである。
第2変形分割処理は、第1オブジェクト検出処理(図9参照)におけるステップS910の処理において、縮小画像生成部210が受付部220に縮小完了信号を送ることで開始される。
第2変形分割処理が開始されると、PE数更新部1210は、縮小画像IDを示すkの初期値を15に設定する(ステップS1300)。この初期値15は、原画像数1と縮小画像数14との和である。
次に、PE数更新部1210は、縮小画像ID=kの画像について仮分割数を算出し(ステップS1305)、算出した仮分割数がPE部の数である16未満であるか否かを調べる(ステップS1310)。
ステップS1310の処理において、仮分割数が16未満である場合に(ステップS1310:Yes)、重複領域算出部1220は、縮小画像ID=kの画像を仮分割数の分割画像に分割した場合に発生する重複領域の総画素数を算出する(ステップS1315)。そして、加算器部1230は、分割画像の画素数を算出する(ステップS1320)。
分割画像の画素数が算出されると、比較器部1250は、分割画像の画素数と、処理容量算出部1240が記憶するLM画素数とを比較して、分割画像の画素数がLM画素数より多い場合か否かを調べる(ステップS1325)。
ステップS1325の処理において、分割画像の画素数がLM画素数より多い場合に(ステップS1325:Yes)、比較器部1250は、論理値が0となるPE部数決定信号を出力する。すると、PE数更新部1210は、仮分割数を1だけインクリメントして(ステップS1330)、ステップS1310以下の処理を繰り返す。
ステップS1325の処理において、分割画像の画素数がLM画素数より多くない場合に(ステップS1325:No)、比較器部1250は、論理値が1となるPE部数決定信号を出力する。すると、PE数更新部1210は、その仮分割数を分割数Nkとして算出して(ステップS1335)、kが0であるか否かを調べる(ステップS1340)。
ステップS1340の処理においてkが0でない場合に(ステップS1340:No)、PE数更新部1210は、kを1だけデクリメントして(ステップS1345)、ステップS1305以下の処理を繰り返す。
ステップS1310の処理において、仮分割数が16未満でない場合に(ステップS1310:No)、重複領域算出部1220は、16を分割数Nkとして算出する(ステップS1350)。そして、縮小画像IDがkより小さな全ての画像についての分割数Nkを16とする(ステップS1355)。
ステップS1355の処理が終了した場合、又はステップS1340の処理においてkが0である場合に(ステップS1340:Yes)、第2変形オブジェクト検出処理装置は、その第2変形分割処理を終了する。
図14は、X0が640、Y0が400、Rxが0.9、Ryが0.9、Rtが0.5、GDBが16、LM画素数が16000となる場合において、第2変形分割処理によって算出された各分割数Nkを示す表である。
同図において、縮小画像ID1410と横幅(画素)1420と縦幅(画素)1430と画素数1440と処理PE数1450と重複領域画素数1460と1PE部当たりの画素数1470は、それぞれ、図11における縮小画像ID1110と横幅(画素)1120と縦幅(画素)1130と画素数1140と処理PE数1150と重複領域画素数1160と1PE部当たりの画素数1170と同様のものである。
<考察>
上記構成の第2変形オブジェクト検出装置は、LM画素数を上限として画像の分割数Nkを決定することとなる。但し、分割数NkがPE数16となる場合には、必ずしもこの限りではない。このため、分割数NkがPE数16未満となる場合において、各PE部は、マッチング処理対象となる画像の全てを、自部を構成するLM内に記憶することができるようになる。
<補足>
以上、本発明に係るオブジェクト検出装置の一実施形態として、実施の形態1、実施の形態2、実施の形態3において、3つの画像処理装置を例として説明したが、以下のように変形することも可能であり、本発明は上述した実施の形態で示した通りのオブジェクト検出装置に限られないことはもちろんである。
(1)実施の形態1において、オブジェクト検出装置110は、人の顔に係る特徴を有するテンプレート画像を利用して、画像に被写体として含まれる人の顔を検出する機能を有する構成の例であった。しかしながら、検出対象となるオブジェクトは、被写体として画像に含まれる可能性があるオブジェクトであれば、必ずしも人の顔に限られる必要はなく、例えば、猫、自動車等であっても構わない。
一例として、猫に係る特徴を有するテンプレート画像を利用して、画像から、その画像に被写体として含まれる猫を検出する機能を有する構成の例が考えられる。
(2)実施の形態1において、オブジェクト検出装置110は、16個のプロセッサエレメントを備える構成の例であったが、互いに独立に動作することが可能なプロセッサエレメントを複数備えていれば、必ずしもプロセッサエレメントの数は16個の場合に限られず、例えば64個のプロセッサエレメントを備える構成であっても構わない。
(3)実施の形態1において、オブジェクト検出装置110は、原画像から、垂直方向の縮小率が0.9、水平方向の縮小率が0.9となる縮小率で逐次縮小した15個の縮小画像を生成する構成の例であった。しかしながら、原画像を縮小して1個以上の縮小画像を生成することができれば、必ずしも縮小画像の数は15に限られず、必ずしも垂直方向の縮小率が0.9に限られず、必ずしも水平方向の縮小率が0.9に限られない。
一例として、垂直方向の縮小率が0.95、水平方向の縮小率が0.95となる縮小率で逐次縮小した20個の縮小画像を生成する構成の例が考えられる。
また、別の一例として、垂直方向の縮小率が0.8、水平方向の縮小率が0.6となる縮小率で逐次縮小した5個の縮小画像を生成する構成の例が考えられる。
(4)実施の形態1において、オブジェクト検出装置110は、分割部230が、画像を垂直方向に分割することで分割画像を生成する構成の例であった。しかしながら、各PE部が行うマッチング処理が互いに独立したものとなるように分割画像を生成することができれば、必ずしも画像を垂直方向に分割することで分割画像を生成する場合に限られず、例えば、画像を水平方向に分割することで分割画像を生成してもよいし、画像を水平方向と垂直方向との格子状に分割することで分割画像を生成してもよいし、さらには、縮小画像IDによって、分割方法を変更して分割画像を生成してもよい。
図15は、一例として、縮小画像IDによって分割方法を変更して分割画像を生成するように変形された変形分割部を備える第3変形オブジェクト検出装置が行う分割画像の生成を模式的に示す模式図である。
同図に示されるように、第3変形オブジェクト検出装置は、縮小画像IDが4となる縮小画像について、画像を水平方向と垂直方向との格子状に分割することで12個の分割画像を生成し、縮小画像IDが7となる縮小画像について、画像を水平方向と垂直方向との格子状に分割することで6個の分割画像を生成し、縮小画像IDが10となる縮小画像について、画像を垂直方向に分割することで3個の分割画像を生成する。
(5)実施の形態1において、オブジェクト検出装置110は、各PE部が、マッチング処理を、20画素×20画素からなるテンプレート画像を4画素単位でずらしながら、画像の左上から右下へ走査することで行う構成の例であった。しかしながら、画像からオブジェクトを検出することができれば、必ずしもテンプレート画像は必ずしも20画素×20画素に限られず、必ずしもテンプレート画像をずらす画素数は4画素単位に限られず、必ずしも走査の順番は画像の左上から右下の順に限られない。
一例として、テンプレート画像が15画素×10画素からなり、テンプレート画像をずらす画素数が2画素単位であり、走査の順番が右下から左上の順である構成の例が考えられ得る。
(6)実施の形態1において、オブジェクト検出装置110は、割当部240が、オブジェクト検出処理(図6参照)におけるステップS630〜ステップS655の処理を行うことで各分割画像をPEのそれぞれへ割り当てる構成の例であった。しかしながら、各PEが互いに効率的に動作することができるように、各分割画像をPEのそれぞれへ割り当てることができれば、必ずしもオブジェクト検出処理におけるステップS630〜ステップS655の処理を行うことで各分割画像をPEのそれぞれへ割り当てる構成に限られない。一例として、ステップS630の処理が終了した時点で、全ての分割画像に対して、それぞれPEを割り当てる構成の例が考えられる。
さらには、互いに重複領域を共有する分割画像が、同一PEに割り当てられるように画像の割り当てを行ってもよい。このようにすることで、共有する重複領域の画素の転送回数を削減することができる。
(7)実施の形態1において、オブジェクト検出装置110は、Rtが0.5である構成の例であった。しかしながらこのRtは、オブジェクト検出装置110のハードウエア構成に大きく依存する。従って、このRtは、オブジェクト検出装置110のハードウエア構成によっては、0.5以外の値となることもあり得る。
(8)実施の形態1において、オブジェクト検出装置110は、各PE部が行うマッチング処理が、画像の走査途中に人の顔を検出した場合であっても、画像の走査を継続して、画像全体の走査が終了するまで処理を継続する構成の例であった。これに対して、別の一例として、各PE部が行うマッチング処理が、画像の走査途中に人の顔を検出すると、その処理を終了する構成の例もあり得る。さらに別の一例として、各PE部が行うマッチング処理が、画像の走査途中に所定数(例えば10)の人の顔を検出すると、その処理を終了する構成の例もあり得る。
(9)実施の形態3において、第2変形オブジェクト検出装置は、各縮小画像についての分割数の上限が、PE部の数である16となる構成の例であったが、分割数の上限を設けない構成の例も考えられる。このようにすることで、全ての分割画像の画素数をLM画素数以下とすることができるようになる。
(10)実施の形態3において、第2変形オブジェクト検出装置は画像の分割数Nkを決定するための閾値が、LM画素数である構成を例としたが、画像の分割数Nkを決定するための閾値は、必ずしもLM画素数である構成に限られる必要はなく、他のハードウエア資源によって定められるものであっても構わない。
(11)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
(12)以下、さらに本発明の一実施形態に係るオブジェクト検出装置の構成及びその変形例と各効果について説明する。
(a)本発明の一実施例に係るオブジェクト検出装置は、画像からオブジェクトを検出するオブジェクト検出装置であって、画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部と、前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割部と、前記分割部によって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送部とを備え、前記複数のプロセッサエレメント部のそれぞれは、前記転送部によって転送された画像を参照して前記検出処理を行い、前記分割部は、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定めることを特徴とする。
上記構成を備える本実施形態に係るオブジェクト検出装置によると、画像の分割は、転送部が行うこととなる転送のそれぞれにおける重複部分のデータ量と、複数のプロセッサエレメント部のそれぞれが行うこととなる検出処理における処理量との双方を反映して行われることとなる。
従って、このオブジェクト検出装置は、各プロセッサエレメントへ順次画像を転送するアーキテクチャを採用する場合において、従来よりも、オブジェクトを検出するための処理時間が短くなる可能性が高くすることができる。
図16は、上記変形例におけるオブジェクト検出装置1600の構成図である。
同図に示されるように、オブジェクト検出装置1600は、第1PE部1611〜第mPE部1613からなるm個のPE部と、分割部1620と、転送部1630とから構成される。
第1PE部1611〜第mPE部1613のそれぞれは、転送部1630に接続され、画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行するプロセッサエレメント部である。一例として実施の形態1における第1PE部201として実現される。
転送部1630は、分割部1620によって分割された分割画像のそれぞれを、分割部1620によって割り当てられたプロセッサエレメント部のそれぞれへ転送する転送部である。一例として実施の形態1における転送部250として実現される。
分割部1620は、m個プロセッサエレメント部(第1PE部1611〜第mPE部1613)のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割部であって、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理における処理量とに応じて、前記分割画像の数Nを定める分割部である。一例として実施の形態1における分割部230と割当部240との組み合わせとして実現される。
(b)また、原画像と、当該原画像を縮小した1以上の縮小画像とを受け付ける受付部を備え、前記分割部は、前記受付部が受け付けた画像のそれぞれについて、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、分割するか否かを決定し、前記転送部は、さらに、前記分割部が分割しないと決定した画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送するとしてもよい。
このような構成にすることで、オブジェクト検出装置は、原画像と、原画像を縮小した1以上の縮小画像とから、オブジェクトを検出することができるようになる。
(c)また、原画像から、当該原画像を縮小した1以上の縮小画像を生成する縮小画像生成部を備え、前記受付部が受け付ける縮小画像は、前記縮小画像生成部によって生成された縮小画像であるとしてもよい。
このような構成にすることで、オブジェクト検出装置は、原画像を用いて、その原画像と、その原画像の1以上の縮小画像とから、オブジェクトを検出することができるようになる。
することができるようになる。
(d)また、前記プロセッサエレメント部のそれぞれは、前記転送部によって転送された画像を記憶するローカルメモリを有し、前記検出処理を、自部に備えるローカルメモリが記憶する画像を参照して行い、前記分割部は、さらに、前記転送部の行う転送対象となる画像のデータサイズが、前記ローカルメモリにおける画像記憶領域の記憶容量以下となるように、前記分割するか否かの決定と前記分割とを行うとしてもよい。
このような構成にすることで、プロセッサエレメント部のそれぞれは、自部に備えるローカルメモリに、オブジェクトの検出処理対象となる画像の全データを記憶することができるようになる。
(e)また、前記プロセッサエレメント部のそれぞれは、前記転送部によって自部に転送された画像を記憶するローカルメモリを有し、前記転送部は、プロセッサエレメント部への画像の転送において、転送する画像のデータ量が、前記ローカルメモリにおける画像記憶領域の記憶容量よりも大きい場合に、一回に行う転送データ量が、前記ローカルメモリにおける画像記憶領域の記憶容量以下となるように複数回の分割転送に分割して、前記転送を行うとしてもよい。
このような構成にすることで、転送部は、1回の分割転送で転送するデータ量を、ローカルメモリにおける画像記憶領域の容量以下とすることができるようになる。
(f)また、前記プロセッサエレメント部のそれぞれは、前記検出処理における検出対象のオブジェクトの特徴を示す特徴情報を記憶する特徴情報記憶部を有し、前記特徴情報記憶部の記憶する特徴情報を利用して、前記検出処理を行うとしてもよい。
このような構成にすることで、プロセッサエレメント部のそれぞれは、自部が記憶する特徴情報を利用して、オブジェクトの検出処理を行うことができるようになる。
本発明は、画像からオブジェクトを検出する機能を有する機器に広く利用することができる。
100 画像処理装置
110 オブジェクト検出装置
111〜114 第1PE〜第16PE
115〜118 第1LM〜第16LM
119 コントローラ
120 撮像装置
130 入力処理回路
140 メインメモリ
150 画像メモリ
160 プロセッサ
170 メモリバス
180 プロセッサバス
201〜204 第1PE部〜第16PE部
210 縮小画像生成部
220 受付部
230 分割部
240 割当部
250 転送部
260 PE実行管理部
270 画像受信部

Claims (11)

  1. 画像からオブジェクトを検出するオブジェクト検出装置であって、
    画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部と、
    前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割部と、
    前記分割部によって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送部とを備え、
    前記複数のプロセッサエレメント部のそれぞれは、前記転送部によって転送された画像を参照して前記検出処理を行い、
    前記分割部は、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定める
    ことを特徴とするオブジェクト検出装置。
  2. 原画像と、当該原画像を縮小した1以上の縮小画像とを受け付ける受付部を備え、
    前記分割部は、前記受付部が受け付けた画像のそれぞれについて、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、分割するか否かを決定し、
    前記転送部は、さらに、前記分割部が分割しないと決定した画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する
    ことを特徴とする請求項1記載のオブジェクト検出装置。
  3. 原画像から、当該原画像を縮小した1以上の縮小画像を生成する縮小画像生成部を備え、
    前記受付部が受け付ける縮小画像は、前記縮小画像生成部によって生成された縮小画像である
    ことを特徴とする請求項2記載のオブジェクト検出装置。
  4. 前記プロセッサエレメント部のそれぞれは、前記転送部によって転送された画像を記憶するローカルメモリを有し、前記検出処理を、自部に備えるローカルメモリが記憶する画像を参照して行い、
    前記分割部は、さらに、前記転送部の行う転送対象となる画像のデータサイズが、前記ローカルメモリにおける画像記憶領域の記憶容量以下となるように、前記分割するか否かの決定と前記分割とを行う
    ことを特徴とする請求項3記載のオブジェクト検出装置。
  5. 前記プロセッサエレメント部のそれぞれは、前記転送部によって自部に転送された画像を記憶するローカルメモリを有し、
    前記転送部は、プロセッサエレメント部への画像の転送において、転送する画像のデータ量が、前記ローカルメモリにおける画像記憶領域の記憶容量よりも大きい場合に、一回に行う転送データ量が、前記ローカルメモリにおける画像記憶領域の記憶容量以下となるように複数回の分割転送に分割して、前記転送を行う
    ことを特徴とする請求項3記載のオブジェクト検出装置。
  6. 前記プロセッサエレメント部のそれぞれは、
    前記検出処理における検出対象のオブジェクトの特徴を示す特徴情報を記憶する特徴情報記憶部を有し、
    前記特徴情報記憶部の記憶する特徴情報を利用して、前記検出処理を行う
    ことを特徴とする請求項3記載のオブジェクト検出装置。
  7. 画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する画像分割装置であって、
    前記複数のプロセッサエレメント部のそれぞれへ転送することとなる前記重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定める
    ことを特徴とする画像分割装置。
  8. 画像からオブジェクトを検出する集積回路であって、
    画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部と、
    前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割部と、
    前記分割部によって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送部とを備え、
    前記複数のプロセッサエレメント部のそれぞれは、前記転送部によって自部に転送された画像を参照して前記検出処理を行い、
    前記分割部は、前記転送部が行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定める
    ことを特徴とする集積回路。
  9. 画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部を備え、画像からオブジェクトを検出するオブジェクト検出装置を制御するオブジェクト検出方法であって、
    前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割ステップと、
    前記分割ステップによって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送ステップとを含み、
    前記分割ステップは、前記転送ステップが行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定める
    ことを特徴とするオブジェクト検出方法。
  10. 画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部を備えるオブジェクト検出装置に、画像からオブジェクトを検出するオブジェクト検出処理を実行させるためのオブジェクト検出プログラムであって、
    前記オブジェクト検出処理は、
    前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割ステップと、
    前記分割ステップによって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送ステップとを含み、
    前記分割ステップは、前記転送ステップが行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定める
    ことを特徴とするオブジェクト検出プログラム。
  11. 画像を参照して、参照した画像に含まれるオブジェクトの検出処理を実行する複数のプロセッサエレメント部を備えるオブジェクト検出装置に、画像からオブジェクトを検出するオブジェクト検出処理を実行させるためのオブジェクト検出プログラムを記録した記録媒体であって、
    前記オブジェクト検出処理は、
    前記複数のプロセッサエレメント部のそれぞれが前記検出処理を互いに独立して実行するために、画像を、他の1以上の分割画像との重複部分を有するN個の分割画像に分割する分割ステップと、
    前記分割ステップによって分割された分割画像のそれぞれを、プロセッサエレメント部のそれぞれへ転送する転送ステップとを含み、
    前記分割ステップは、前記転送ステップが行うこととなる前記転送のそれぞれにおける重複部分のデータ量と、前記複数のプロセッサエレメント部のそれぞれが行うこととなる前記検出処理の処理量とに応じて、前記分割画像の数Nを定める
    ことを特徴とする記録媒体。
JP2012546696A 2010-11-30 2011-11-29 オブジェクト検出装置、画像分割装置、集積回路 Expired - Fee Related JP5857256B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012546696A JP5857256B2 (ja) 2010-11-30 2011-11-29 オブジェクト検出装置、画像分割装置、集積回路

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010265915 2010-11-30
JP2010265915 2010-11-30
JP2012546696A JP5857256B2 (ja) 2010-11-30 2011-11-29 オブジェクト検出装置、画像分割装置、集積回路
PCT/JP2011/006664 WO2012073490A1 (ja) 2010-11-30 2011-11-29 オブジェクト検出装置、画像分割装置、集積回路

Publications (2)

Publication Number Publication Date
JPWO2012073490A1 JPWO2012073490A1 (ja) 2014-05-19
JP5857256B2 true JP5857256B2 (ja) 2016-02-10

Family

ID=46171462

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012546696A Expired - Fee Related JP5857256B2 (ja) 2010-11-30 2011-11-29 オブジェクト検出装置、画像分割装置、集積回路

Country Status (4)

Country Link
US (1) US8699753B2 (ja)
JP (1) JP5857256B2 (ja)
CN (1) CN102741877B (ja)
WO (1) WO2012073490A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6167525B2 (ja) * 2012-03-21 2017-07-26 株式会社リコー 距離計測装置及び車両
CN103916644B (zh) * 2013-01-08 2015-12-02 聚晶半导体股份有限公司 影像主体侦测方法及摄像装置
CN104142939B (zh) * 2013-05-07 2019-07-02 杭州智棱科技有限公司 一种基于运动特征信息匹配特征码的方法与设备
CN104144520A (zh) 2013-05-07 2014-11-12 李东舸 一种设备间建立连接的方法、装置与系统
US10311564B2 (en) * 2014-03-14 2019-06-04 Omron Corporation Image processing device, image sensor, and image processing method
KR101930049B1 (ko) * 2014-11-28 2018-12-17 한국전자통신연구원 관심 객체 기반 병렬 영상 분석 장치 및 그 방법
WO2017043284A1 (ja) * 2015-09-10 2017-03-16 富士フイルム株式会社 情報処理システム、情報処理方法、情報処理プログラム、及び記憶媒体

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3923574B2 (ja) 1996-12-02 2007-06-06 株式会社日立製作所 並列データ処理機能を備えた検査装置及び検査方法
JP2000330928A (ja) * 1999-05-20 2000-11-30 Hitachi Ltd 高速転送を行う並列処理システム
JP4569781B2 (ja) * 2004-07-22 2010-10-27 日本電気株式会社 画像処理システム
JP4929474B2 (ja) * 2006-09-27 2012-05-09 富士通株式会社 画像処理装置
JP2009295032A (ja) * 2008-06-06 2009-12-17 Canon Inc 画像処理装置及びその制御方法
JP5067282B2 (ja) * 2008-06-27 2012-11-07 ソニー株式会社 物体検出制御装置、物体検出システム、物体検出制御方法およびプログラム
JP5258506B2 (ja) * 2008-10-24 2013-08-07 キヤノン株式会社 情報処理装置

Also Published As

Publication number Publication date
CN102741877A (zh) 2012-10-17
WO2012073490A1 (ja) 2012-06-07
JPWO2012073490A1 (ja) 2014-05-19
US20120294487A1 (en) 2012-11-22
CN102741877B (zh) 2016-03-30
US8699753B2 (en) 2014-04-15

Similar Documents

Publication Publication Date Title
JP5857256B2 (ja) オブジェクト検出装置、画像分割装置、集積回路
JP3534416B2 (ja) デジタルカメラにおける着脱式メモリの管理方法およびシステム
JP3781634B2 (ja) 画像処理装置および画像処理方法並びに携帯用映像機器
JP2001189886A (ja) 撮像装置、情報処理装置、画像処理システム、画像処理方法、及び記憶媒体
US20080012972A1 (en) Image sensing apparatus
US10223031B2 (en) Memory control apparatus and memory control method
JP5849724B2 (ja) 映像取得装置及び方法
EP3836527A1 (en) Multi-sensor high dynamic range imaging
JP6305232B2 (ja) 情報処理装置、撮像装置、撮像システム、情報処理方法およびプログラム。
US20110050913A1 (en) Method of controlling digital photographing apparatus having memory, recording medium for recording the method, and digital photographing apparatus
JP6602412B2 (ja) 情報処理装置及び方法、情報処理システム、ならびにプログラム。
JP7362748B2 (ja) 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム
JP6871795B2 (ja) 撮像装置、その制御方法、プログラム及び記録媒体
US10510135B2 (en) Image processing apparatus, method of controlling the same, and storage medium
JP6915016B2 (ja) 情報処理装置及び方法、情報処理システム、ならびにプログラム
CN104933677A (zh) 用以在多个讯框中决定多个候选讯框的方法
CN112672046B (zh) 连拍图像的存储方法、装置、电子设备和存储介质
WO2019041245A1 (zh) 斑点检测方法、系统、存储介质及计算机程序产品
US11570395B2 (en) Recording and reproducing apparatus and method of controlling recording and reproducing apparatus
JP5833605B2 (ja) 画像処理装置および画像処理システム
JP2006189919A (ja) 電子機器、制御方法及びコンピュータプログラム
WO2022131017A1 (ja) 画像処理装置、及び画像処理方法
JP5335598B2 (ja) 情報処理装置、その制御方法及びプログラム
JP2969912B2 (ja) 画像処理装置
JP2022182120A (ja) 映像生成装置、映像処理システム、映像生成装置の制御方法及びプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140606

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140805

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150806

R151 Written notification of patent or utility model registration

Ref document number: 5857256

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees