JP2004192582A - 物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法 - Google Patents
物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法 Download PDFInfo
- Publication number
- JP2004192582A JP2004192582A JP2002363151A JP2002363151A JP2004192582A JP 2004192582 A JP2004192582 A JP 2004192582A JP 2002363151 A JP2002363151 A JP 2002363151A JP 2002363151 A JP2002363151 A JP 2002363151A JP 2004192582 A JP2004192582 A JP 2004192582A
- Authority
- JP
- Japan
- Prior art keywords
- object information
- extracted
- image data
- data
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30221—Sports video; Sports image
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Abstract
【解決手段】カメラモジュール2から入力された画像データの色相、彩度、輝度(HSV)を、物体情報抽出用LSI3の物体情報抽出処理回路32によって、1画素毎に逐次、基準値と比較処理して画像中に含まれる物体を抽出し、抽出された物体の座標データを物体情報保存用レジスタに保存する。画像データをそのまま保存するのではなく、物体抽出結果の座標データのみを保存するため、フレームメモリ、ラインメモリなどのような大容量の画像メモリを必要としない。抽出された物体の情報は、1フレーム毎に1チップマイクロコンピュータ3の中央演算処理装置41によって読み出されてレジスタまたはメモリ(RAM)に保存され、画像中に含まれる物体の認識、物体の移動や変化の検出が行われる。
【選択図】図1
Description
【発明の属する技術分野】
本発明は、入力画像データを処理して画像中に含まれる物体に関する情報を得る物体情報処理装置、この物体情報を用いて画像中に含まれる物体を認識する機能を有する画像処理システム、これを用いたゲーム装置および画像処理方法に関する。
【0002】
【従来の技術】
従来、CCDやCMOSイメージャーなどといった撮像素子および画像処理用DSPデバイスなどの高機能化・低コスト化に伴って、多くの商品にカメラモジュールが搭載されている。特に、近年、携帯型電話機器を始めとするモバイル機器や玩具およびその周辺機器などにもカメラモジュールが使用されていることが多くなっている。
【0003】
画像データ入力方法としてのカメラモジュールは、キーやジョグダイヤル、ジョイスティックなど操作入力や音声入力に用いるデータ入力方法と比較して、その情報量が多いことから大変有効な方法である。
【0004】
ところが、従来のカメラモジュールでは、一般に、入力画像データをモニター上に入力画像として表示させ、その後の最終的な処理、即ちその画像を記憶させたり送信したりするなどの各種判断は人間が行うという方法が取られている。
【0005】
ところで、操作者が実際に動作を行うことによってリアリティを増加させる手法がゲーム装置等においても応用されており、そのために、動作をセンシングする技術が多数開発されている。特に、操作者の動作を画像データとして画像処理システムに入力し、その動作を認識することができれば、このようなゲーム装置にも広く応用することが可能となる。
【0006】
このように、操作者の動作を画像データとして画像処理システムに入力して認識しようとした場合、最終的な動作認識処理をコンピューターの中央演算装置で行うことが必要であり、画像データから必要とされる情報を抽出する必要がある。従来から、画像データから物体を抽出する各種方法が多数提案されている。
【0007】
例えば、物体を認識するために、画像データから過去と現在との異なる特徴を抽出して静止物体を認識し、この認識結果から背景となるデータを算出し、現在のデータとの差分演算を行うことにより、動く物体を認識する物体認識装置が開示されている(特許文献1)。
【0008】
また、隣接する画素の明暗濃度データから明暗勾配ベクトルを算出し、隣接する画素の明暗勾配ベクトルの角度差によって物体を認識する物体認識方法が開示されている(特許文献2)。
【0009】
さらに、物体認識に要する処理時間を短縮化するため、物体の輪郭を抽出した結果のみを画像メモリに保存してから、中央演算装置により認識処理を行う画像処理装置が開示されている(特許文献3)。
【0010】
【特許文献1】
特開平6−266841号公報
【特許文献2】
特開昭63−88684号公報
【特許文献3】
特開昭59−132075号公報
【0011】
【発明が解決しようとする課題】
上記従来の物体認識装置(特許文献1)では、物体の特徴の抽出処理、静止物体の認識処理、背景データの算出処理、画像差分処理および動く物体の認識処理という各処理段階で、大量のデータを格納するためのメモリが必要になる。また、それらの処理に要する演算量も多く、しかも、リアルタイムで処理を行うためには、高速演算可能な中央演算処理装置またはそれに相当する演算回路が必要になってくる。
【0012】
また、上記従来の物体認識方法(特許文献2)においても、隣接する画素の画像データを比較するために、演算処理を行っている間、画像データを保存しておく必要があるため、少なくとも1フレーム分の画像データを格納するための画像メモリを必要としている。
【0013】
さらに、上記従来の画像処理装置(特許文献3)においても、物体の輪郭を抽出した結果データをメモリに保存した後に、中央演算処理装置により物体の認識処理を行うため、リアルタイムで物体の認識処理を行うことが容易ではない。特に、処理能力が低い中央演算処理装置およびそれを内蔵した1チップマイクロコンピュータを用いる場合には、リアルタイムで物体の認識処理を行うことができない。また、この画像処理装置では、物体の輪郭を抽出した結果を保存する画像メモリも必要とされるため、コストを削減することが容易ではない。
【0014】
以上の各物体認識方法では、画像メモリを用いて、高度な演算処理を行うことによって、物体認識のための複雑な抽出処理を行っている。よって、画像処理のために大量の画像データ用メモリと、それらのデータを高速に演算処理するための中央演算処理装置またはそれに相当する演算回路とが必要であり、画像処理システムを低コストで実現することが容易ではない。そのため、画像データを用いることは、データ入力方法としては有効であっても、玩具など、低価格の商品に応用するためには適していない。
【0015】
従来の物体認識方法により得られる物体抽出情報は、種類、量ともに多いが、物体認識のために必要とされる情報は、画像処理システムによって異なるはずである。
【0016】
本発明は、上記従来の事情を鑑みて為されたもので、物体認識のために必要とされる情報を少ない種類および量で得ることができる物体情報処理装置、この物体情報を用いて物体の認識、物体の移動や変化の検出を比較的容易に行うことができる画像処理システム、これを用いたゲーム装置および画像処理方法を提供することを目的とする。
【0017】
【課題を解決するための手段】
本発明の物体情報処理装置は、入力画像データから物体情報を得る物体情報処理装置であって、入力画像データに含まれる色情報を、1画素毎に、入力画像データから抽出すべき物体に対して設定された基準値と比較して、抽出すべき物体であるか否かを判定する物体判定手段と、物体判定手段により抽出すべき物体であると判定された物体の座標データを物体情報として物体毎に保持する物体情報保持手段とを備えたものであり、そのことにより上記目的が達成される。
【0018】
また、好ましくは、本発明の物体情報処理装置における物体判定手段は、第1物体条件に合致するか否かを判定する第1比較手段と、・・・第n(nは自然数)物体条件に合致するか否かを判定する第n比較手段と、これらの第1〜第n比較手段からのn個の出力を入力とするアンド回路とを有する。
【0019】
さらに、好ましくは、本発明の物体情報処理装置において、物体判定手段の前段に、入力画像データのUYVY値をHSV値に変換する画像データ変換手段をさらに備え、物体判定手段は、画像データ変換手段からのHSV値を、1画素毎に、抽出すべき物体に対して設定された基準値と比較して、抽出すべき物体であるか否かを判定する。
【0020】
さらに、好ましくは、本発明の物体情報処理装置における画像データ変換手段は、入力画像データのUV値を色相のH値に変換する第1変換テーブルと、この入力画像データのUV値を彩度のS値に変換する第2変換テーブルとを有し、入力画像データの輝度はY値をV値として出力する。
【0021】
さらに、好ましくは、本発明の物体情報処理装置において、物体判定手段による判定結果からノイズを除去するノイズ除去処理手段をさらに備えている。
【0022】
さらに、好ましくは、本発明の物体情報処理装置におけるノイズ除去処理手段は、物体判定手段による判定結果を順次保持するためのシフトレジスタ手段と、シフトレジスタ手段で保持した複数の判定結果のうち所定数以上の判定結果が一致するか否かに基づいて、複数の判定結果がノイズであるか否かを判定するノイズ除去判定手段とを有する。
【0023】
さらに、好ましくは、本発明の物体情報処理装置におけるノイズ除去処理手段の後段に、物体判定手段で抽出すべき物体であると判定された物体が、既に抽出された物体の一部であるか、または、それまでに抽出されていない新規の物体であるかを判定して、各物体の座標データを生成する物体包含関係判定手段をさらに備え、物体情報保持手段は、物体包含関係判定手段で生成された座標データを、抽出された物体毎に保持する。
【0024】
さらに、好ましくは、本発明の物体情報処理装置における物体包含関係判定手段は、物体の座標データ(X,Y)として、Xが最大となる座標、Xが最小となる座標、Yが最大となる座標およびYが最小となる座標の4座標を生成する。
【0025】
さらに、好ましくは、本発明の物体情報処理装置において、物体包含関係判定手段は、抽出すべき物体のデータが現れた場合に、その付近に同じ物体条件に合致する物体が存在するか否かを確認し、当該物体が存在する場合に、当該物体の一部として物体の座標データ(X,Y)を更新可能とする。
【0026】
さらに、好ましくは、本発明の物体情報処理装置において、抽出すべき物体のデータが現れた場合に、同一物体ではないと判定された場合に、物体は新規に抽出された物体であると判定し、抽出された物体の情報は、当該物体に応じた物体情報保持手段に保存する。
【0027】
さらに、好ましくは、本発明の物体情報処理装置における物体情報保持手段は、物体抽出条件が複数設定されている場合に、どの条件に合致する物体であるかを示す条件合致フラグを物体情報の一つとしてさらに保持する。
【0028】
さらに、好ましくは、本発明の物体情報処理装置における物体情報保持手段は、抽出すべき物体であると判定された物体の物体情報を1フレーム分保持する。
【0029】
本発明の画像処理システムは、請求項1〜7の何れかに記載の物体情報処理装置と、物体情報処理装置に画像データを出力する画像データ出力装置と、物体情報処理装置および画像データ出力装置を制御する制御装置とを備えており、そのことにより上記目的が達成される。
【0030】
また、好ましくは、本発明の画像処理システムにおける画像データ出力装置には物体画像を撮像する撮像素子が設けられ、物体が存在する位置を示す前記物体の座標データは該撮像素子上の座標データである。
【0031】
さらに、好ましくは、本発明の画像処理システムにおける制御装置は、物体情報処理装置に保持された物体情報を読み出して、画像データ中に含まれる物体を認識するための演算処理を行う演算処理手段を備えている。
【0032】
さらに、好ましくは、本発明の画像処理システムにおける演算処理手段は、物体情報処理装置から1フレーム毎に物体情報を読み出す。
【0033】
さらに、好ましくは、本発明の画像処理システムにおける演算処理手段は、物体情報処理装置から1フレーム毎に抽出された物体情報を読み出して、フレーム間でデータを比較することにより、物体の移動または変化を検出する。
【0034】
さらに、好ましくは、本発明の画像処理システムにおける制御装置は、物体の座標データが、連続した複数のフレーム間で所定方向に変化している場合には、物体は所定方向に移動していると認識する。
【0035】
さらに、好ましくは、本発明の画像処理システムにおける制御装置は、物体の座標データが、連続した複数のフレーム間で中心座標位置が変化せず、物体の大きさが大きくなっている場合には、その物体は観測点に近づいていると認識する。
【0036】
さらに、好ましくは、本発明の画像処理システムにおける制御装置は、物体の座標データが、連続した複数のフレーム間で中心座標位置が変化せず、物体の大きさが小さくなっている場合には、その物体は観測点から遠ざかっていると認識する。
【0037】
さらに、好ましくは、本発明の画像処理システムにおいて、物体が少なくとも二つの色で構成されている場合に、制御装置は、その物体の各色の座標データがそれぞれ、連続した複数のフレーム間で移動した場合に物体の動作状態を認識する。
【0038】
本発明のゲーム装置は、請求項13〜21の何れかに記載の画像処理システムを用いて物体の動作状態を認識するものであり、そのことにより上記目的が達成される。
【0039】
本発明の画像処理方法は、画像データ出力装置から物体情報処理装置に画像データを出力するステップと、物体情報処理装置により、入力画像データのUYVY値をHSV値に変換し、変換されたHSV値を、1画素毎に、抽出すべき物体に対して設定された基準値と比較して、抽出すべき物体であるか否かを判定し、抽出すべき物体であると判定された物体の座標データを物体情報として物体毎に保持するステップと、制御装置の演算処理手段により、物体情報処理装置に保持されている物体情報を1フレーム毎に読み出し、読み出された物体情報に基づいて、画像データ中に含まれる物体を認識するステップとを含んでおり、そのことにより上記目的が達成される。
【0040】
また、好ましくは、本発明の画像処理方法において、制御装置の演算処理手段により、物体情報処理装置から1フレーム毎に抽出された物体情報を読み出し、読み出された物体情報をフレーム間で比較することにより、物体の移動および変化を検出するステップを含む。
【0041】
上記構成により、以下に、本発明の作用について説明する。
【0042】
本発明にあっては、カメラモジュールなどの画像データ出力手段から入力された画像データが、物体情報処理装置の物体判定手段にて1画素毎に逐次処理されて、抽出すべき物体の座標データが物体情報処理装置の物体情報保持手段に保存される。従来のように画像データをメモリにそのまま保存するのではなく、抽出すべき物体の座標データのみが保存されるため、本発明においては、フレームメモリ、ラインメモリなどのような大容量のメモリを必要としない。この物体情報保持手段内の物体情報は、必要に応じて書き換えられ、場合によっては全ての内容が同時に書き換えられ得る。このため、RAM等のメモリデバイスではなく、全てのビットに同時にアクセスが可能なレジスタを用いることが好ましい。
【0043】
また、本発明にあっては、物体情報処理装置にて画像データの色を基準値と比較して画像中に含まれる物体が抽出され、従来のように物体抽出のために中央演算処理装置などを用いた複雑な処理フローを必要としない。抽出された物体の座標データを用いて、中央演算処理装置やその演算回路などの演算処理手段にて画像中に含まれる物体を認識することができる。このため、演算処理手段における画像処理の負荷を大幅に軽減することができる。
【0044】
したがって、本発明によれば、画像データを保存するための大容量のメモリが不要となり、また、比較的低処理能力の中央演算処理装置や演算回路などを用いることができるため、物体を認識する機能を有する画像処理システムの大幅な小型化および低コスト化を図ることができる。
【0045】
画像から物体を認識する方法としては、例えば物体の形状を読み取って判断する方法、色の違いから判断する方法、またはこれらを組み合わせる方法などが考えられるが、本発明では画像の色により物体であるか否かを判定している。この場合、画像データ出力手段から物体情報処理装置に入力された画像データを、画像データ変換手段によりUYVY値からHSV値に変換し、HSV値を用いて抽出すべき物体であるか否かを判定することが好ましい。色相(H)および彩度(S)は、通常0度〜360度のカラーホイールにて示され、色相は角度、彩度はその中心点からの大きさ(距離)として表される。したがって、色を指定する際に、例えば「色相が10度から20度の間で、彩度の大きさが10以上の色」というように指定することができるからである。これに対して、UV値は、色情報を2次元の座標で表したものであるため、UV値を用いて色を指定することは可能であるが、人間の感覚に合わせてその範囲を規定することは容易ではない。人間の感覚に合わせた色の範囲指定を行うためには、円状に規定された空間によって、角度と大きさ(半径)で示すことが好ましいからである。UYVY値−HSV値の変換は、変換テーブルを用いることによって、画像転送用のクロック信号に従って1サイクルで処理を完了させることができ、高速のクロック信号を用いることなくリアルタイムに処理を行うことができる。
【0046】
また、カメラモジュールによって撮像された画像などのアナログ信号は、ノイズや曖昧な情報も含まれている。そこで、ノイズ除去処理手段を設けて、物体判定手段による判定結果からノイズを除去することが好ましい。
【0047】
また、物体判定手段により、抽出すべき物体であると判定された物体は、既に抽出された物体の一部である場合もあり得るため、物体包含関係判定手段によって、既に抽出された物体の一部であるか、または、それまでに抽出されていない新規の物体であるかを判定することが好ましい。この物体包含関係判定手段にて、座標データ(X,Y)において、Xが最大となる座標、Xが最小となる座標、Yが最大となる座標およびYが最小となる座標の4座標を生成することにより、四つの座標データによって物体を認識することができるため、データ量を更により少なくすることができる。
【0048】
また、物体情報保持手段に保存されている物体の情報は、演算処理手段によって、1フレーム毎に読み出すことができる。これによって、物体情報保持手段は、例えばレジスタによって、抽出すべき物体であると判定された物体の座標データを1フレーム分だけ保存すればよく、データ保存容量を小さくすることができる。
【0049】
さらに、演算処理手段によって、物体情報保持手段から1フレーム毎に物体の座標データを読み出して、フレーム間で物体の座標データを比較することにより、物体の移動または変化を検出することもできる。この場合、メモリを用いなくても、物体の座標データをレジスタに一時的に保持しておき、次のフレームで入力されたデータと比較することによって、物体の移動または変化などを検出することもできる。
【0050】
【発明の実施の形態】
以下に、本発明の画像処理システムの実施形態について図面を参照しながら説明する。
【0051】
図1は、本発明の画像処理システムの実施形態における要部構成を示すブロック図である。
【0052】
図1において、画像処理システム1は、画像データ出力装置であるカメラモジュール2と、物体情報処理装置としての物体抽出用LSI3と、カメラモジュール2および物体抽出用LSI3を制御する制御装置である1チップマイクロコンピュータ4とを備えている。
【0053】
カメラモジュール2は、レンズ21、CCDやCMOSイメージャーといった撮像素子22および画像処理用DSP23によって構成されている。
【0054】
カメラモジュール2を制御するためには、画像処理用DSP23と1チップイクロコンピュータ4間でデータ通信を行う必要がある。画像処理用DSP23では、I2Cバスなどのインターフェイス回路(図示せず)を介して通信が行われるが、安価な1チップマイクロコンピュータ4にはそのようなインターフェイス回路が内蔵されていない場合が多いので、本実施形態では、物体抽出用LSI3に、後述するが、カメラモジュール制御用バスインターフェイス回路31が設けられている。
【0055】
物体抽出用LSI3は、カメラモジュール2と1チップイクロコンピュータ4間をインターフェイスするカメラモジュール制御用バスインターフェイス回路31と、カメラモジュール2から入力された画像データの色を、1画素毎に、抽出すべき物体に対して設定された基準値と比較して、抽出すべき物体であるか否かを判定し、抽出すべき物体であると判定された物体の座標データを、物体毎に保持する物体情報抽出処理回路32を備えている。
【0056】
この物体抽出用LSI3は、回路規模が小さいため、カメラモジュール2の画像処理用DSP23や1チップマイクロコンピュータ4に内蔵することも可能である。本実施形態では、汎用のカメラモジュール2および1チップマイクロコンピューター4を使用してシステムが構成できるように、物体抽出用LSI3を単体で構成した場合について説明を行う。
【0057】
1チップマイクロコンピュータ4は制御手段としての中央演算処理装置41(CPU)および、記憶手段としてのROM42などを有しており、ROM42内に格納された画像処理制御プログラムに基づいて、カメラモジュール2および物体抽出用LSI3を制御して、画像中に含まれる物体の認識処理、物体の移動や変化を検出する処理を実行する。
【0058】
また、1チップマイクロコンピュータ4には、図示しない入力設定手段が接続されており、この入力設定手段から操作者が適宜入力を行うことによって、カメラモジュール3および物体抽出用LSI4への各種設定が行われる。このカメラモジュール3については、画像データ出力フォーマット、ゲイン、ホワイトバランスなどの項目が設定される。また、物体抽出用LSI3については、抽出すべき物体の色相(H)、彩度(S)、輝度(Y)の基準値や物体の包含関係を判定するための基準値などが設定されている。例えば、抽出条件として、色相が20度から30度、彩度が50パーセント以上、輝度が30パーセント以上の物体であり、3画素以内であれば離れていても同一物体であると判定するといったように基準値が設定されている。抽出条件は一つとは限らず、複数の抽出条件を設定することも可能である。
【0059】
図2は、図1の物体情報抽出処理回路32の要部構成を示すブロック図である。
【0060】
図2において、物体情報抽出処理回路32は、画像データ変換手段としての画像データ変換回路321と、物体判定手段としての抽出条件判定回路322と、ノイズ除去処理手段としてのノイズ除去処理回路323と、物体包含関係判定手段としての物体包含関係判定回路324と、物体情報保持手段(物体情報記憶手段)としての物体情報保存用レジスタ325とを有している。
【0061】
画像データ変換回路321は、カメラモジュール2から入力された画像データのUYVY値がHSV値にフォーマット変換される。
【0062】
抽出条件判定回路322は、画像データ変換回路321から出力されたHSV値が、1画素毎に、抽出すべき物体に対して設定された基準値と比較されて、抽出すべき物体であるか否かが判定される。
【0063】
ノイズ除去処理回路323では、抽出条件判定回路322による判定結果からノイズが除去される。
【0064】
物体包含関係判定回路324では、抽出すべき物体であると判定された物体が、既に抽出された物体の一部であるかまたは、それまでに抽出されていない新規の物体であるかが判定され、各物体の座標データが生成される。本実施形態では、物体の座標データとして、Xが最大となる座標、Xが最小となる座標、Yが最大となる座標およびYが最小となる座標の4座標が生成される。
【0065】
物体情報保存用レジスタ325では、抽出すべき物体であると判定された物体の座標データが、物体毎に保持される。本実施形態では、抽出すべき物体であると判定された物体の座標データが1フレーム分だけ保持されるようになっている。
【0066】
なお、本実施形態において、物体情報保持手段としてレジスタ325を用いている理由は、以下の通りである。
【0067】
即ち、抽出された物体情報は、必要に応じて書き換えられ、場合によっては全ての内容が同時に書き換えられることもある。したがって、全部のビットに同時にアクセスが可能なメモリとして、レジスタを用いることが好ましい。RAMなどのメモリデバイスでは、ゲート効率がよいものの、入出力部から同時にアクセス可能なビット数が限られるため、本実施形態ではレジスタを用いて物体情報保持手段を構成している。
【0068】
以下に、このように構成された本実施形態の物体情報抽出処理回路32による物体情報抽出処理方法について説明する。
【0069】
図3は、図2の物体情報抽出処理回路32による物体情報抽出処理の制御フローを示すフローチャートである。
【0070】
まず、ステップS1において、カメラモジュール2から出力される画像データ(UYVY)が、1画素ずつ、物体抽出用LSI3の画像データ変換回路321に入力される。
【0071】
ステップS2では、画像データ変換回路321によって、入力画像データに含まれる色情報のUYVY値がHSV値にフォーマット変換される。ここで、入力画像データのUYVY値をHSV値に変換する理由は、色相(H)および彩度(S)は0度〜360度のカラーホイールにおいて角度および中心点からの大きさ(距離)として表され、人間の感覚に合わせて範囲を指定することが容易になるからである。
【0072】
次に、ステップS3で、抽出条件判定回路322によって、画像データ変換回路321から出力されたHSV値がそれぞれ、1画素毎に、抽出すべき物体に対して設定された基準値と比較されて、抽出すべき物体であるか否かが判定される。このフローチャートからも分かるように、本実施形態の物体情報抽出処理フローは、条件分岐によるフィードバックなどがなく、単純に後の処理ステップに送られていくため、複数の条件に対して、並列して抽出条件判定処理を行う回路を容易に構成することができる。
【0073】
ステップS4では、抽出条件判定回路322による判定結果からノイズ除去処理回路323によってノイズが除去される。
【0074】
ステップS5では、ノイズ除去された抽出条件判定回路322の判定結果に基づいて、抽出されるべき物体のデータであるかどうかが判定される。ステップS5で抽出されるべき物体のデータであると判定されると(Yes)、ステップS6の処理に進む。一方、ステップS5で抽出されるべき物体のデータではないと判定されると(No)、ステップS8の処理に進み、次に画素のデータが処理される。
【0075】
ステップS6では、ステップS5で抽出すべき物体であると判定された物体が、物体包含関係判定回路324によって既に抽出された物体の一部であるのか、またはそれまでに抽出されていない新規の物体であるのかどうかが判定され、各物体の座標データが生成される。
【0076】
ステップS7において、物体情報保存用レジスタ325内の記憶値が更新されて、抽出すべき物体であると判定された物体の座標データが物体毎に新たに保持される。その後、ステップS8の処理に進み、次の画素のデータが処理される。
【0077】
ここで、以下に、図2の各構成要素および図3の物体抽出処理フローにおける各処理についてさらに詳細に説明する。
【0078】
まず、ステップS2の画像データフォーマット変換処理(図2の画像データ変換回路321)について詳細に説明する。
【0079】
図4は、図2の画像データ変換回路321の画像データ変換処理内容を説明するための図である。
【0080】
図4において、画像データ変換回路321は、入力画像データの(U,V)値を色相のH値に変換する変換テーブルと、入力画像データの(U,V)値を彩度のS値に変換する変換テーブルとを有しており、変換されたH値およびS値が抽出条件判定処理回路322に供給される。また、画像データ変換処理回路321に入力された画像データの輝度は、Y値をV値として抽出条件判定処理回路322に供給される。
【0081】
このようなUYVY値−HSV値のデータ変換は、乗算処理などを含むため、通常の演算処理を行うと、1サイクルでは処理が完了しない。これに対して、本実施形態では、フレームメモリなどの画像メモリを用いておらず、画像データは保存されないため、各処理をリアルタイムに行う必要がある。そのため、画像データ変換処理についても、複数サイクルを必要とする変換方法は好ましくなく、1サイクルで完了する必要がある。そこで、本実施形態では、UYVY値−HSV値間の変換テーブルを設けて入力値と出力値とが一対一に対応して出力されるように画像データ変換回路321を構成することにより、1サイクルで処理が完了するように構成している。
【0082】
ここで、1サイクルとは、画像データフォーマット変換処理を行うために使用されるクロックの1サイクルを示す。本実施形態では物体抽出処理回路32にてクロックを生成しておらず、カメラモジュール2の画像処理用DSP23から送られてくる画像データUYVYに同期して処理を進めているため、ここで言う1サイクルとは、1画素分の画像データが送られてくる時間およびそのタイミングのことを示す。
【0083】
次に、ステップS3の抽出条件判定処理(図2の抽出条件判定回路322)について詳細に説明する。
【0084】
図5は、図2の抽出条件判定回路322の具体的構成例を示すブロック図である。
【0085】
図5において、抽出条件判定回路322は、物体多入力の条件0に合致するか否かを判定するための比較回路322aおよび多入力のAND回路322Aと、他の物体抽出用の条件1に合致するか否かを判定するための比較回路322bおよび多入力のAND回路322Bと、更に他の物体抽出用の条件2に合致するか否かを判定するための比較回路322cおよび多入力のAND回路322Cと、・・・とを有している。
【0086】
各比較回路322a,322b,322c・・・では、色相(H)、彩度(S)、輝度(V)の各値が、規定した範囲内であるか否かが判定され、AND回路322A,322B,322C・・・によって全ての項目が満足している場合には、AND回路からハイレベル出力が為され、その条件に合致したデータであると判定される。この条件判定結果は、条件に合致したか否かの1ビットのデータとして次の処理に送られる。条件が複数設定されている場合には、条件の数だけビットが割り当てられる。
【0087】
例えば比較回路322aの”条件0輝度Vmin判定”では、入力された画像データの輝度(V)値と、予め1チップマイクロコンピュータ4により物体抽出用LSI3内のレジスタに基準値として設定された条件0の輝度値のmin.(最小)値”Vmin.”とが比較される。このとき、入力された画像データの輝度値Vが、設定された条件0輝度Vmin.よりも大きければ条件0に合致したことになり、その判定結果”1”となってAND回路322Aに出力される。これと同様に、色相Hおよび彩度Sなどについても判定が行われる。
【0088】
その結果、例えば全ての項目が条件0に合致していれば、例えばAND回路322Aの入力は全て”1”となり、AND回路322Aの出力も”1”となる。AND回路322Aの出力が”1”になるということは、このときに入力されたデータが条件0に合致したことを示している。同様にして、条件1、条件2、・・・についても物体の画素毎の抽出条件判定が行われ、その条件判定結果が次のノイズ除去処理回路323に供給される。
【0089】
次に、ステップS4のノイズ除去処理(ノイズ除去処理回路423)について詳細に説明する。なお、カメラモジュール2によって撮像された画像などのアナログ信号は、多くの情報を含むと共に、ノイズや曖昧さをも多分に含んでいる。デジタルデータを処理する場合に、このようなノイズや曖昧さをどのように取り扱うかということが問題となる。そこで、本実施形態では、抽出条件判定処理回路322による判定結果を5回、シフトレジスタによって保持し、5個のデータ中に3個以上、同じ判定結果が含まれていれば、ノイズではなく、抽出すべき物体のデータであるという判断を行う。
【0090】
図6は、図2のノイズ除去処理回路323の要部構成を示すブロック図である。
【0091】
図6において、ノイズ除去処理回路323は、判定結果を保持するためのシフトレジスタ15と、保持した5つの判定結果に基づいてノイズであるか否かを判定するノイズ除去判定回路16とを有している。
【0092】
抽出条件判定処理回路322により判定された条件判定結果データ(各AND回路出力)は、シフトレジスタ15に入力される。このシフトレジスタ15の各段15a〜15e(ここでは5段)の出力端はそれぞれ、ノイズ除去判定回路16に接続されており、ノイズ除去判定回路16によってノイズ除去処理が実行された結果が、ノイズ処理結果データとして物体包含関係判定回路324に出力される。
【0093】
図7は、図2のノイズ除去判定回路323の要部構成例を示す回路図である。
【0094】
図7において、ノイズ除去判定回路16は、AND回路16a〜16jとOR回路16kとによって構成されている。AND回路16aの入力端には3段目のレジスタ15c〜5段目のレジスタ15eの各出力端が接続されており、これらのレジスタ15c〜15eのデータが全て”1”となった場合に”1”が出力される。また、AND回路16b〜16hのそれぞれについても同様に、各入力に接続されたシフトレジスタ15の各段(ここでは3段)のデータが全て”1”となった場合に”1”が出力されるようになっている。各AND回路16a〜16jの各出力端はOR回路16kの各入力端とそれぞれ接続されており、AND回路16a〜16jのうち少なくとも何れかの出力が”1”となったときにOR回路16kから”1”が出力される。したがって、シフトレジスタ15の各段に保持されている5個のデータ中、3個以上が”1”となった場合にOR回路16kから”1”がノイズ処理結果データとして出力され、この場合にノイズではなく、抽出条件に該当する物体が存在すると判定される。
【0095】
以下に、図7のノイズ除去処理回路323の実際の具体的動作例について詳細に説明する。
【0096】
図8は、図2のノイズ除去処理回路323の動作例を説明するための図である。
【0097】
図8(a)は初期状態であり、5段のレジスタ15a〜15eの各データは全て”0”となっているため、ノイズ除去判定回路16から出力されるノイズ処理結果データも”0”となっている。
【0098】
図8(b)では、データが一つシフトしてシフトレジスタ15にデータ”1”が読み込まれている。この場合にも、5段のレジスタ15a〜15eのうち、一つのレジスタ15aのデータだけが”1”となっているため、ノイズ除去判定回路16から出力される処理結果データは”0”のままである。
【0099】
図8(c)ではシフトレジスタ15にデータ”1”が読み込まれ、図8(d)ではシフトレジスタ15にデータ”0”が読み込まれている。ところが、5段のレジスタ15a〜15eのうち、データが”1”となっているレジスタの数は二つであるため、ノイズ除去判定回路16から出力される処理結果データは”0”のままである。
【0100】
ここで、図8(e)において、シフトレジスタ15にデータ”1”が読み込まれた場合、5段のレジスタ15a〜15eのうち、データが”1”となっているレジスタの数が三つ以上(ここでは三つ)となるため、ノイズ除去判定回路16から出力される処理結果データは”1”に変化する。
【0101】
図8(f)ではシフトレジスタ15にデータ”0”が読み込まれているが、5段のレジスタ15a〜15eのうち、データが”1”となっているレジスタの数は三つであるため、ノイズ除去判定回路16から出力される処理結果データは”1”のままである。
【0102】
次に、ステップS6の物体包含関係判定処理(物体包含関係判定回路324)について詳細に説明する。
【0103】
上記ステップS1〜ステップS5の各処理および各判定によって、抽出されるべき物体であると判定されたデータが現れた場合、そのデータが既に抽出された物体の一部であるのか、または、それまでに抽出されていない新規の物体であるのかについて、判定する必要がある。そこで、本実施形態では、物体包含関係判定回路234によって、抽出されるべき物体であると判定された物体が、既に抽出された物体の一部であるのか、または、それまでに抽出されていない新規の物体であるのかについて判定するものである。
【0104】
図9は、図3のステップS6の物体包含関係判定処理における処理フロー例を示すフローチャート図である。
【0105】
図9に示すように、まず、物体を抽出した場合に、物体情報保存用レジスタ325には、物体の存在する位置を示す撮像素子22上の座標データが保存される。また、条件を複数設定した場合には、どの条件に合致する物体であるかということを示す条件合致フラグも保存される。
【0106】
座標情報は、例えば、
Xが最大となる座標:(XXMAX,YXMAX)
Xが最小となる座標:(XXMIN,YXMIN)
Yが最大となる座標:(XYMAX,YYMAX)
Yが最小となる座標:(XYMIN,YYMIN)
の4点の座標データが物体情報保存用レジスタ325に保存される。この4点の座標データを保存することによって、物体の位置情報の他に、物体の大きさ、形状などをおおまかに判断することも可能であり、後述する物体の移動および変化を検出することも可能となる。また、一つの物体に対して、4点の座標データのみを保存するため、画像データそのものを保存するよりも、データ量を大幅に少なくすることができる。
【0107】
本実施形態の画像処理システム1において、これらの座標データが保存される物体情報保存用レジスタ325は、抽出される物体の数を見込んで、システム1に予め組み込まれている。抽出された物体の情報は、抽出された順番に、物体情報保存用レジスタ325に保存される。そこで、図9では、新規に抽出された物体を何番目のレジスタに保存するかを示すポインタを、OBJ_POINT(OP)として示している。
【0108】
また、上述したように、カメラモジュール2によって撮像された画像などのアナログ信号は、ノイズや曖昧さを多分に含んでいるため、1個の物体であっても、必ずしも隣接する画素にデータが連続して存在しているとは限らない。したがって、抽出すべき物体のデータが現れた場合に、その付近に同じ条件に合致する物体が存在するか否かを確認し、存在する場合には、その物体の一部としてデータをまとめる処理が必要である。どの程度、距離が近接していれば、同一物体であると判定してデータをまとめるかについては、1チップマイクロコンピュータ4によって物体抽出用LSI3内のレジスタに設定され、物体包含関係判定回路324では、その設定に基づいて処理が行われる。図9では、この距離を(DX,DY)として示している。
【0109】
条件に合致すると判定されたデータの座標を(X,Y)とすると、既に抽出された物体の座標データ
Xが最大となる座標:(XXMAX,YXMAX)
Xが最小となる座標:(XXMIN,YXMIN)
Yが最大となる座標:(XYMAX,YYMAX)
Yが最小となる座標:(XYMIN,YYMIN)
と比較され、
XXMIN−DX < X < XXMAX+DX
であり、かつ、
Y < YYMAX+DY
であれば、その物体の一部であると判断してデータがまとめられ、該当する物体の情報が更新される。ここで、物体の情報の更新とは、X座標およびY座標の最小値または最大値が変更される場合に、物体情報保存用レジスタ325のデータを新しい最小値または最大値に更新することを示す。
【0110】
図9では、比較回路13aによって条件0に合致する(比較回路324aの出力がYes:1)と判定されたデータの座標(X,Y)と、既に抽出された物体OBJECT_0(例えば条件0に合致する物体)の座標データとを、比較回路324b〜324dによって比較し、
XXMIN_0−DX < X < XXMAX_0+DX
(比較回路324bおよび比較回路324cの出力が共にYes:”1”)であり、かつ、
Y < YYMAX_0+DY
(比較回路324dの出力がYes:”1”)であれば、AND回路324eによってその物体OBJECT_0の一部である(AND回路324eの出力が”1”)と判定される。他の物体OBJECT_1、OBJECT_2(例えばそれぞれ条件1、条件2に合致する物体)・・・についても、同様に、その物体の一部であるか否かが判定される。AND回路13aの出力は、AND回路13i〜13kの入力と接続されている。
【0111】
また、座標(X,Y)と、既に抽出された物体OBJECT_0の座標データとを、比較回路324f〜324hによって比較して、
Y > YYMAX_0
(比較回路324fの出力がYes:”1”、Y座標の最大値を変更する)であり、かつ、AND回路324eの出力が1であれば、AND回路324kの出力が”1”となり、物体情報保存用レジスタ325の物体OBJECT_0の座標データYYMAX_0がYに更新される。また、
X > XXMAX_0
(比較回路324gの出力がYes:”1”、X座標の最大値を変更する)であり、かつ、AND回路324eの出力が”1”であれば、AND回路324jの出力が”1”となり、物体情報保存用レジスタ325の物体OBJECT_0の座標データXXMAX_0がXに更新される。また、
X < XXMIN_0
(比較回路324hの出力がYes:”1”、X座標の最小値を変更する)であり、かつ、AND回路324eの出力が”1”であれば、AND回路324iの出力が”1”となり、物体情報保存用レジスタ325の物体OBJECT_0の座標データXXMIN_0がXに更新される。
【0112】
一方、座標(X,Y)と、既に抽出された物体の座標データとを比較して、同一物体であると判断されるものが無かった場合には、その物体は新規に抽出された物体であると判定され、情報が新しい物体情報保存用レジスタ325に保存される。
【0113】
図9では、座標(X,Y)と、既に抽出された物体OBJECT_0、OBJECT_1、OBJECT_2、・・・の各座標データとをそれぞれ比較して、同一物体であると判断されるものが無かった場合(NOR回路324lの入力が全て”0”)であれば、座標(X,Y)は既に抽出された物体に含まれていない(AND回路324iの出力が”0”)と判定される。物体情報保存用レジスタ325の物体OBJECT_OPの座標データXXMIN_OPおよびXXMAX_OPにXが、YYMIN_OPおよびYYMAX_OPにYが、それぞれ書き込まれると共に、OBJ_POINTがインクリメントされてOBJ_POINT+1とされ、次に新規物体が抽出されたときに保存されるレジスタが示される。
【0114】
物体情報抽出用LSI3の物体情報抽出処理回路32では、カメラモジュール2から1フレーム分の画像データが転送される間、上記ステップS1〜ステップS8の処理フローが繰り返される。1画素分の画像データが入力される度に逐次処理が行われ、リアルタイムに物体情報保存用レジスタ325の情報が更新されるので、1フレーム分の画像データの転送が完了した時点で、最終的な画像抽出結果の情報が既に物体情報保存用レジスタ325に格納されている。
【0115】
上述した物体情報抽出処理フローについて、さらに具体的な例を挙げて詳細に説明する。
【0116】
図10A〜図10Eにおいて、(a)は本実施形態の画像データ走査例を示す図であり、(b)は本実施形態の物体情報保存用レジスタ325のデータ状態(A)〜(E)を示す図である。
【0117】
図10Aにおいて、画像データの転送は座標(X,Y)=(0,0)の点から開始される。X軸に沿って順次画像データが転送され、X軸1ライン分の画像データが転送されると、次のY座標(X軸1ライン)へ進むものとする。初期状態では、物体情報保存用レジスタ324は、全て”0”となっている。
【0118】
図10Bでは、最初の抽出条件合致データが座標(2,1)で検出されている。これまで物体が抽出されていないので、このデータは新規に抽出された物体のものであるとして、物体情報保存用レジスタ324において、
Xが最大となる座標:(XXMAX,YXMAX)
Xが最小となる座標:(XXMIN,YXMIN)
Yが最大となる座標:(XYMAX,YYMAX)
Yが最小となる座標:(XYMIN,YYMIN)
へ、それぞれ座標(2、1)が書き込まれる。
【0119】
このとき、条件が複数設定されている場合には、これらの情報に加えて、この物体が本条件に合致した物体であることを示す情報として、条件合致フラグがセットされる。
【0120】
さらに処理が進められ、図10Cでは、物体抽出条件に合致したデータが座標(0,2)で検出されている。このとき、この座標のX座標値”0”と物体情報保存用レジスタ325のXXMINおよびXXMAXとの間の距離、並びにY座標値”2”とYYMINおよびYYMAXとの間の距離が同一の物体として許容できる範囲内であれば、このデータ(座標(0,2))は既に抽出された物体の一部であると判定されて物体情報保存用レジスタ325の情報が更新される。ここでは、この条件を満たしているものとして説明を行う。
【0121】
この場合に更新される内容は、
Xが最小となる座標:(XXMIN,YXMIN)
Yが最大となる座標:(XYMAX,YYMAX)
であり、これらの座標データが(0,2)に更新される。
【0122】
同様に、図10Dでは、抽出条件に合致したデータが座標(4,3)で検出され、
Xが最大となる座標:(XXMAX,YXMAX)
Yが最大となる座標:(XYMAX,YYMAX)
が座標データ(4,3)に更新されている。
【0123】
同様に、図10Eでは、物体抽出条件に合致したデータが座標(3,5)で検出され、
Yが最大となる座標:(XYMAX,YYMAX)
が座標データ(3,5)に更新されている。
【0124】
このようにして、抽出条件に合致したデータが検出される度に、物体情報保存用レジスタ324のデータが更新され、物体の情報として、
条件合致フラグ :1
Xが最小となる座標:(0、2)
Xが最大となる座標:(4、3)
Yが最小となる座標:(2、1)
Yが最大となる座標:(3、5)
が保存される。これによって、条件に合致した物体が、これらの座標データによって示される座標位置に存在していることが分かる。また、別の物体が抽出された場合には、このような座標データが、抽出された物体の数だけ、物体情報保存用レジスタ324に保存される。
【0125】
物体情報保存用レジスタ324では、これらの座標データは、カメラモジュール2から物体抽出用LSI3に次のフレームの画像データが入力される前に初期化され、最初から物体情報抽出処理が繰り返される。そのため、物体情報保存用レジスタ324において情報が初期化される前に、1チップマイクロコンピュータ4の中央演算処理装置41によって、物体情報保存用レジスタ324内に保存されている物体の情報を読み出しておく必要がある。
【0126】
1チップマイクロコンピュータ4の中央演算処理装置41では、物体情報抽出用LSI3によって画像から抽出された物体の情報を用いて、画像中に含まれる物体の有無、移動、変化などを検出し、画像処理システムを制御することができる。1フレーム分のデータだけでも、どの位置に、どのような条件(色相、彩度、輝度)の物体が、どのような大きさで存在しているかを認識することができる。また、フレーム間で物体の座標データを比較することによって、物体の移動または変化を検出することができる。
【0127】
以下に、抽出された物体の情報(座標データ)を用いて、物体の移動または変化を検出する方法について詳細に説明する。
【0128】
上述したように、本実施形態の画像処理システム1では、画像中に含まれる物体の情報として、物体抽出条件、X座標が最大・最小となる座標、Y座標が最大・最小となる座標のそれぞれが物体情報保存用レジスタ324に格納されて保存されている。
【0129】
これらの物体情報を、1チップマイクロコンピュータ4によって、1フレーム毎に読み出して1チップマイクロコンピュータ4内のメモリ(例えばRAM(図示せず))またはレジスタ(図示せず)に保存しておき、別のフレームのデータと比較することによって、物体の移動または変化を検出することができる。このとき、抽出された物体の情報は、処理前の画像データよりも大幅に少ないデータ量となるため、保存のために必要とされるメモリまたはレジスタの容量、および中央演算処理装置41の処理負荷を大幅に小さくすることができる。
【0130】
例えば、画面サイズ352ドット×288ドットの画像を処理する際に、従来技術のように、1画面(フレーム)分の画像データをそのまま保存する場合には、
YUV各8ビット×352×288=51904512ビット
のデータを処理する必要がある。
【0131】
これに対して、本実施形態のように、物体の抽出結果のみを保存する場合には、
(色条件数+(座標X軸のビット+座標Y軸のビット)×座標データ)×物体数
となる。
【0132】
例えば、四つの色条件について、同時に10個までの物体を検出するように設定した場合、画面サイズ352ドット×288ドットの画像を処理する際に、一つの座標は、
X軸9ビット+Y軸9ビット=18ビットで表される。
【0133】
また、本実施形態では一つの物体に対して4点の座標(Xが最小となる座標、Xが最大となる座標、Yが最小となる座標およびYが最大となる座標)を保存するため、座標データは
(座標X軸9ビット+Y軸9ビット)×4座標)=72ビット
のデータとなる。ここで、色条件数として4ビットを付加すれば、一つの物体当たり、
(色条件数4ビット+(座標X軸9ビット+Y軸9ビット)×4座標)=76ビット
のデータとなる。さらに、認識される物体の個数を10個とした場合、
(色条件数4ビット+(座標X軸9ビット+Y軸9ビット)×4座標)
×物体数10=760ビット
となる。したがって、四つの色条件について同時に10個までの物体を検出するように設定した場合、本実施形態では、
(4+(9+9)×4)×10=760ビット
となる。
【0134】
したがって、本実施形態の画像処理システム1によれば、1画面当たりのデータ量を、従来技術に比べて、
760/51904512=0.0000146=0.00146パーセントまで小さくすることができる。さらに大きな画面であれば、より一層の差が生じる。
【0135】
例えば、640×480の画面サイズについて、同様に、1画面当たりのデータ量を比較すると、
(4+(10+9)×4)×10)/(8×8×8×640×480)
=800/157286400
=0.000005=0.0005パーセントとなる。
【0136】
このように、本実施形態の画像処理システム1によれば、抽出された物体の情報を保存するためのメモリまたはレジスタの容量を大幅に小さくすることができる。
【0137】
また、本発明の画像処理システム1では、物体情報抽出処理回路32の物体情報保存用レジスタ324から読み出されて1チップマイクロコンピュータ4のレジスタまたはメモリに保存された1フレーム毎の物体抽出情報を用いて、どの位置(座標)にどんな条件(色相、彩度、輝度)の物体がどのような大きさで存在しているかをフレーム毎に比較することで、物体がどのように移動しているかを判断することができる。
【0138】
図11〜図14は、本実施形態の画像処理システム1による物体の移動または変化の検出例1〜4を示す図である。
【0139】
図11に示す検出例1では、フレーム1〜フレーム3での物体Aの抽出情報を比較すると、座標位置が図11中、矢印で示す方向に変化していることから、物体Aが矢印で示す方向に移動していると判断することができる。
【0140】
図12で示す検出例2では、図12(a)に示すように、フレーム1およびフレーム2での物体Bの抽出情報を比較すると、中心の座標位置が変わらず、物体の大きさが大きくなっていることから、図12(b)に示すように、物体Bが観測点(カメラモジュール1)に近づいていると判断することができる。
【0141】
図13に示す検出例3では、図13(a)に示すように、バットのような円柱状の物体の先端と根元とが互いに異なる二つの色で塗られており、二つの色の見え方によって、円柱状の物体がどちらの方向を向いているかを判断することができる。この円柱状の物体をバットして考えた場合、フレーム1〜フレーム3でのバットの物体情報(座標データ)を比較すると、図13(b)に示すように、その向きおよび位置の変化によって、バットがスイングしたか、どのような軌跡を描いたか、どのような速さか、振るタイミングはどうか等といった内容を読み取るために応用することができる。また、卓球のラケットをイメージする場合には、板状の物体の両面に互いに異なる二つの色を塗り分けると、見えている色によってラケットの面が表であるか裏であるかを判断することができる。
【0142】
図14に示す検出例4では、ボールをイメージして、図14(a)に示すように、球状の物体が互いに異なる二つ色に塗り分けられており、フレーム1〜フレーム3でのボールの抽出情報を比較すると、図14(b)に示すように、その向き、距離および位置の変化によって、ボールの移動、回転の状況などを判断することができる。
【0143】
ここでは、二つの色で物体を塗り分ける一例について説明したが、三つ、四つと複数色に物体色を増やしたり、塗り分ける割合を調節することによって、最適な物体情報が得られるように調整することも可能であり、画像処理システム1の応用範囲を例えばゲーム装置などさらに広げることができる。
【0144】
さらに他の応用例として、正六面体を互いに異なる6色に塗り分けることによって、数字の形状認識はできなくても、色条件からサイコロとしての機能を実現することも、本画像処理システム1によれば可能となる。
【0145】
以上のように、本実施形態の画像処理システム1によれば、画像中の物体を認識することによって、キー入力やジョイスティックなどの入力デバイスに比較して、様々な情報の入力に応用することが可能である。また、抽出対象となる物体、例えばバットやラケット、ボールやグラブなどに特定の色を塗ることによって、物体情報抽出処理回路32にて様々な物体の情報を抽出することができる。したがって、画像処理システム1のハードウェア構成を変えることなく、1チップマイクロコンピュータ4に読み込まれる画像処理プログラムと、対象となる物体の彩色を調整することによって、変化に富んだゲームを一つのハードウェアによって実現することができる。
【0146】
【発明の効果】
以上説明したように、本発明によれば、カメラモジュールなどの画像データ出力手段からの画像データを物体情報処理装置にて1画素毎に逐次処理することによって、従来のように画像データを保存するために大容量のメモリを必要とせず、物体抽出のために複雑な演算および処理フローを必要としないため、画像転送用クロック信号よりも高速のクロック信号を用いることなくリアルタイムで画像処理を行うことが可能となり、かつ、中央演算処理装置における画像処理の負荷を最小限に抑えることができる。
【0147】
したがって、本発明によれば、従来、画像中に含まれる物体を認識するために必要とされていた画像メモリや高性能の中央演算処理装置が不要となり、比較的処理能力が低い安価な中央演算処理装置や演算回路などを用いることができるため、物体を認識する機能、物体の移動や変化を検出する機能を有する画像処理システムを大幅に小型化および低コスト化することができる。これにより、玩具やゲーム装置など、価格を低く抑える必要があるものであっても、画像中の物体を認識し、物体の移動や変化を検出する機能を備えた画像処理システムを実現することができる。
【図面の簡単な説明】
【図1】本発明の画像処理システムの実施形態における要部構成を示すブロック図である。
【図2】図1の物体情報抽出処理回路の要部構成を示すブロック図である。
【図3】図2の物体情報抽出処理回路による物体情報抽出処理の制御フローを示すフローチャートである。
【図4】図2の画像データ変換回路の画像データ変換処理内容を説明するための図である。
【図5】図2の抽出条件判定回路の具体的構成例を示すブロック図である。
【図6】図2のノイズ除去処理回路の要部構成を示すブロック図である。実施形態のノイズ除去処理回路の構成を示すブロック図である。
【図7】図2のノイズ除去判定回路の要部構成例を示す回路図である。
【図8】(a)〜(f)は、図2のノイズ除去処理回路の動作例を説明するための図である。
【図9】図3のステップS6の物体包含関係判定処理における処理フロー例を示すフローチャート図である。
【図10A】(a)は本実施形態の画像データ走査例を示す図であり、(b)は本実施形態の物体情報保存用レジスタのデータ状態(A)を示す図である。
【図10B】(a)は本実施形態の画像データ走査例を示す図であり、(b)は本実施形態の物体情報保存用レジスタのデータ状態(B)を示す図である。
【図10C】(a)は本実施形態の画像データ走査例を示す図であり、(b)は本実施形態の物体情報保存用レジスタのデータ状態(C)を示す図である。
【図10D】(a)は本実施形態の画像データ走査例を示す図であり、(b)は本実施形態の物体情報保存用レジスタのデータ状態(D)を示す図である。
【図10E】(a)は本実施形態の画像データ走査例を示す図であり、(b)は本実施形態の物体情報保存用レジスタのデータ状態(E)を示す図である。
【図11】実施形態の画像処理システムによる物体の移動変化の検出例1を示す図である。
【図12】(a)および(b)は、実施形態の画像処理システムによる物体の移動変化の検出例2を示す図である。
【図13】(a)および(b)は、実施形態の画像処理システムによる物体の移動変化の検出例3を示す図である。
【図14】(a)および(b)は、実施形態の画像処理システムによる物体の移動変化の検出例4を示す図である。
【符号の説明】
1 画像処理システム
2 カメラモジュール(画像データ出力装置)
3 物体情報抽出用LSI(物体情報処理装置)
32 物体情報抽出処理回路
321 画像データ変換回路(画像データ変換手段)
322 抽出条件判定回路(物体判定手段)
323 ノイズ除去処理回路(ノイズ除去処理手段)
15 シフトレジスタ
16 ノイズ除去判定回路
324 物体包含関係判定回路(物体包含関係判定手段)
325 物体情報保存用レジスタ(物体情報保持手段)
4 1チップマイクロコンピュータ(制御装置)
41 中央演算処理装置(CPU)
Claims (24)
- 入力画像データから物体情報を得る物体情報処理装置であって、
該入力画像データに含まれる色情報を、1画素毎に、該入力画像データから抽出すべき物体に対して設定された基準値と比較して、該抽出すべき物体であるか否かを判定する物体判定手段と、
該物体判定手段により抽出すべき物体であると判定された物体の座標データを該物体情報として物体毎に保持する物体情報保持手段とを備えた物体情報処理装置。 - 前記物体判定手段は、第1物体条件に合致するか否かを判定する第1比較手段と、・・・第n(nは自然数)物体条件に合致するか否かを判定する第n比較手段と、該第1〜第n比較手段からのn個の出力を入力とするアンド回路とを有した請求項1記載の物体情報処理装置。
- 前記物体判定手段の前段に、前記入力画像データのUYVY値をHSV値に変換する画像データ変換手段をさらに備え、
前記物体判定手段は、該画像データ変換手段からのHSV値を、1画素毎に、抽出すべき物体に対して設定された基準値と比較して、抽出すべき物体であるか否かを判定する請求項1または2記載の物体情報処理装置。 - 前記画像データ変換手段は、前記入力画像データのUV値を色相のH値に変換する第1変換テーブルと、該入力画像データのUV値を彩度のS値に変換する第2変換テーブルとを有し、該入力画像データの輝度はY値をV値として出力する請求項3記載の物体情報処理装置。
- 前記物体判定手段による判定結果からノイズを除去するノイズ除去処理手段をさらに備えた請求項1または3記載の物体情報処理装置。
- 前記ノイズ除去処理手段は、前記物体判定手段による判定結果を順次保持するためのシフトレジスタ手段と、該シフトレジスタ手段で保持した複数の判定結果のうち所定数以上の判定結果が一致するか否かに基づいて、該複数の判定結果がノイズであるか否かを判定するノイズ除去判定手段とを有する請求項5記載の物体情報処理装置。
- 前記物体判定手段で抽出すべき物体であると判定された物体が、既に抽出された物体の一部であるか、または、それまでに抽出されていない新規の物体であるかを判定して、各物体の座標データを生成する物体包含関係判定手段をさらに備え、
前記物体情報保持手段は、該物体包含関係判定手段で生成された座標データを、抽出された物体毎に保持する請求項1または3記載の物体情報処理装置。 - 前記物体包含関係判定手段は、前記物体の座標データ(X,Y)として、Xが最大となる座標、Xが最小となる座標、Yが最大となる座標およびYが最小となる座標の4座標を生成する請求項7記載の物体情報処理装置。
- 前記物体包含関係判定手段は、抽出すべき物体のデータが現れた場合に、その付近に同じ物体条件に合致する物体が存在するか否かを確認し、当該物体が存在する場合に、当該物体の一部として前記物体の座標データ(X,Y)を更新可能とする請求項8記載の物体情報処理装置。
- 前記抽出すべき物体のデータが現れた場合に、同一物体ではないと判定された場合に、該物体は新規に抽出された物体であると判定し、抽出された物体の情報は、当該物体に応じた物体情報保持手段に保存する請求項9記載の物体情報処理装置。
- 前記物体情報保持手段は、物体抽出条件が複数設定されている場合に、どの物体条件に合致する物体であるかを示す条件合致フラグを前記物体情報の一つとしてさらに保持する請求項1記載の物体情報処理装置。
- 前記物体情報保持手段は、抽出すべき物体であると判定された物体の物体情報を1フレーム分保持する請求項1記載の物体情報処理装置。
- 請求項1〜12の何れかに記載の物体情報処理装置と、
該物体情報処理装置に画像データを出力する画像データ出力装置と、
該物体情報処理装置および画像データ出力装置を制御する制御装置とを備えた画像処理システム。 - 前記画像データ出力装置には物体画像を撮像する撮像素子が設けられ、物体が存在する位置を示す前記物体の座標データは該撮像素子上の座標データである請求項13記載の画像処理システム。
- 前記制御装置は、該物体情報処理装置に保持された物体情報を読み出して、画像データ中に含まれる物体を認識するための演算処理を行う演算処理手段を備えた請求項13記載の画像処理システム。
- 前記演算処理手段は、前記物体情報処理装置から1フレーム毎に物体情報を読み出す請求項15記載の画像処理システム。
- 前記演算処理手段は、前記物体情報処理装置から1フレーム毎に抽出された物体情報を読み出して、フレーム間でデータを比較することにより物体の移動または変化を検出する請求項16記載の画像処理システム。
- 前記制御装置は、前記物体の座標データが、連続した複数のフレーム間で所定方向に変化している場合には、該物体は該所定方向に移動していると認識する請求項17記載の画像処理システム。
- 前記制御装置は、前記物体の座標データが、連続した複数のフレーム間で中心座標位置が変化せず、物体の大きさが大きくなっている場合には、該物体は観測点に近づいていると認識する請求項17記載の画像処理システム。
- 前記制御装置は、前記物体の座標データが、連続した複数のフレーム間で中心座標位置が変化せず、物体の大きさが小さくなっている場合には、該物体は観測点から遠ざかっていると認識する請求項17記載の画像処理システム。
- 前記物体が少なくとも二つの色で構成されている場合に、前記制御装置は、前記物体の各色の座標データがそれぞれ、連続した複数のフレーム間で移動した場合に該物体の動作状態を認識する請求項17記載の画像処理システム。
- 請求項13〜21の何れかに記載の画像処理システムを用いて物体の動作状態を認識するゲーム装置。
- 画像データ出力装置から物体情報処理装置に画像データを出力するステップと、
該物体情報処理装置により、入力画像データのUYVY値をHSV値に変換し、変換されたHSV値を、1画素毎に、抽出すべき物体に対して設定された基準値と比較して、抽出すべき物体であるか否かを判定し、抽出すべき物体であると判定された物体の座標データを物体情報として物体毎に保持するステップと、
制御装置の演算処理手段により、該物体情報処理装置に保持されている物体情報を1フレーム毎に読み出し、読み出された物体情報に基づいて、画像データ中に含まれる物体を認識するステップとを含む画像処理方法。 - 前記制御装置の演算処理手段により、前記物体情報処理装置から1フレーム毎に抽出された物体情報を読み出し、読み出された物体情報をフレーム間で比較することにより、物体の移動および変化を検出するステップを含む請求項23記載の画像処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002363151A JP4521747B2 (ja) | 2002-12-13 | 2002-12-13 | 物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法 |
US10/727,609 US7248750B2 (en) | 2002-12-13 | 2003-12-05 | Object information processing apparatus, image processing system, game apparatus and image processing method |
EP03257805A EP1437686A3 (en) | 2002-12-13 | 2003-12-11 | Object information processing apparatus, image processing system, game apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002363151A JP4521747B2 (ja) | 2002-12-13 | 2002-12-13 | 物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004192582A true JP2004192582A (ja) | 2004-07-08 |
JP4521747B2 JP4521747B2 (ja) | 2010-08-11 |
Family
ID=32501079
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002363151A Expired - Fee Related JP4521747B2 (ja) | 2002-12-13 | 2002-12-13 | 物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7248750B2 (ja) |
EP (1) | EP1437686A3 (ja) |
JP (1) | JP4521747B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100607046B1 (ko) | 2004-09-09 | 2006-08-01 | 주식회사 쿼터뷰 | 체감형 게임용 화상처리 방법 및 이를 이용한 게임 방법 |
JP2006277020A (ja) * | 2005-03-28 | 2006-10-12 | Kddi R & D Laboratories Inc | オブジェクト検出方法 |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100419781C (zh) * | 2005-10-05 | 2008-09-17 | 三菱电机株式会社 | 图像识别装置 |
US20100082612A1 (en) * | 2008-09-24 | 2010-04-01 | Microsoft Corporation | Determining relevance between an image and its location |
TWI410127B (zh) * | 2009-12-04 | 2013-09-21 | Silicon Motion Inc | 攝像裝置及攝像裝置處理影像之方法 |
US8475050B2 (en) * | 2009-12-07 | 2013-07-02 | Honeywell International Inc. | System and method for obstacle detection using fusion of color space information |
CN102810204B (zh) * | 2012-07-03 | 2015-12-16 | 天津大学 | 基于平行四边形的单目视觉单幅图像定位方法 |
WO2015026874A1 (en) * | 2013-08-19 | 2015-02-26 | Nant Holdings Ip, Llc | Metric based recognition, systems and methods |
US9589179B2 (en) * | 2013-12-19 | 2017-03-07 | Microsoft Technology Licensing, Llc | Object detection techniques |
US9805662B2 (en) * | 2015-03-23 | 2017-10-31 | Intel Corporation | Content adaptive backlight power saving technology |
CN104820997B (zh) * | 2015-05-14 | 2016-12-21 | 北京理工大学 | 一种基于分块稀疏表达与hsv特征融合的目标跟踪方法 |
US11030775B2 (en) * | 2016-03-17 | 2021-06-08 | Flir Systems, Inc. | Minimal user input video analytics systems and methods |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS59132075A (ja) | 1983-01-18 | 1984-07-30 | Seiko Instr & Electronics Ltd | 画像処理装置 |
JPS62264090A (ja) * | 1986-05-12 | 1987-11-17 | ソニー株式会社 | マルチスキヤンモニタ用入力インタ−フエ−ス回路 |
JPS6388684A (ja) | 1986-10-01 | 1988-04-19 | Daido Steel Co Ltd | 物体認識方法 |
US5717440A (en) * | 1986-10-06 | 1998-02-10 | Hitachi, Ltd. | Graphic processing having apparatus for outputting FIFO vacant information |
US5249264A (en) * | 1988-11-14 | 1993-09-28 | International Business Machines Corporation | Image display method and apparatus |
US5235650A (en) * | 1989-02-02 | 1993-08-10 | Samsung Electronics Co. Ltd. | Pattern classifier for character recognition |
JPH06266841A (ja) | 1993-03-12 | 1994-09-22 | Matsushita Electric Ind Co Ltd | 物体認識装置 |
TW348239B (en) * | 1996-06-28 | 1998-12-21 | Cirrus Logic Inc | Embedding a transparency enable bit as part of a resizing bit block transfer operation |
US6144374A (en) * | 1997-05-15 | 2000-11-07 | Orion Electric Co., Ltd. | Apparatus for driving a flat panel display |
US6263088B1 (en) * | 1997-06-19 | 2001-07-17 | Ncr Corporation | System and method for tracking movement of objects in a scene |
US6380946B1 (en) * | 1999-02-09 | 2002-04-30 | Intel Corporation | Enhancing hardware clipping for bit-packed fonts |
US6417861B1 (en) * | 1999-02-17 | 2002-07-09 | Sun Microsystems, Inc. | Graphics system with programmable sample positions |
JP3921015B2 (ja) * | 1999-09-24 | 2007-05-30 | 富士通株式会社 | 画像解析装置及び方法並びにプログラム記録媒体 |
JP3603737B2 (ja) * | 2000-03-30 | 2004-12-22 | 日本電気株式会社 | 移動体追尾方法及びその装置 |
US6967664B1 (en) * | 2000-04-20 | 2005-11-22 | Ati International Srl | Method and apparatus for primitive processing in a graphics system |
DE10024374B4 (de) * | 2000-05-17 | 2004-05-06 | Micronas Munich Gmbh | Verfahren und Vorrichtung zum Messen des in einem Bild enthaltenen Rauschens |
KR100450793B1 (ko) * | 2001-01-20 | 2004-10-01 | 삼성전자주식회사 | 영역 분할된 영상의 영역 특징치 정합에 기초한객체추출장치 및 그 방법 |
JP3753954B2 (ja) * | 2001-06-11 | 2006-03-08 | 株式会社メガチップス | 画像処理装置および画像処理システム |
US6778180B2 (en) * | 2001-09-28 | 2004-08-17 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Video image tracking engine |
US6693643B1 (en) * | 2001-12-31 | 2004-02-17 | Apple Computer, Inc. | Method and apparatus for color space conversion |
KR100547812B1 (ko) * | 2002-06-24 | 2006-01-31 | 삼성전자주식회사 | 컬러 참조테이블을 사용하여 화소데이터의 컬러모델을변환하는 장치 및 방법 |
-
2002
- 2002-12-13 JP JP2002363151A patent/JP4521747B2/ja not_active Expired - Fee Related
-
2003
- 2003-12-05 US US10/727,609 patent/US7248750B2/en not_active Expired - Fee Related
- 2003-12-11 EP EP03257805A patent/EP1437686A3/en not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100607046B1 (ko) | 2004-09-09 | 2006-08-01 | 주식회사 쿼터뷰 | 체감형 게임용 화상처리 방법 및 이를 이용한 게임 방법 |
JP2006277020A (ja) * | 2005-03-28 | 2006-10-12 | Kddi R & D Laboratories Inc | オブジェクト検出方法 |
JP4609936B2 (ja) * | 2005-03-28 | 2011-01-12 | 株式会社Kddi研究所 | オブジェクト検出方式 |
Also Published As
Publication number | Publication date |
---|---|
JP4521747B2 (ja) | 2010-08-11 |
EP1437686A2 (en) | 2004-07-14 |
US20040113917A1 (en) | 2004-06-17 |
EP1437686A3 (en) | 2006-01-18 |
US7248750B2 (en) | 2007-07-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019196581A1 (zh) | 人体姿态预测方法、装置、设备及存储介质 | |
CN108648235A (zh) | 相机姿态追踪过程的重定位方法、装置及存储介质 | |
CN110222551B (zh) | 识别动作类别的方法、装置、电子设备及存储介质 | |
US6617565B2 (en) | CMOS image sensor with on-chip pattern recognition | |
JP4521747B2 (ja) | 物体情報処理装置、画像処理システム、ゲーム装置および画像処理方法 | |
WO2019007258A1 (zh) | 相机姿态信息的确定方法、装置、设备及存储介质 | |
JP5739522B2 (ja) | 全体画像内で注意の焦点に関する画像データを処理するためのシステムと方法 | |
CN106204660A (zh) | 一种基于特征匹配的地面目标跟踪装置 | |
CN104508680B (zh) | 改善之视讯追踪 | |
WO2017086841A1 (ru) | Способ воздействия на виртуальные объекты дополненной реальности | |
JP2022511427A (ja) | 画像特徴点の動き情報の決定方法、タスク実行方法およびデバイス | |
TW202016793A (zh) | 提取特徵之方法、圖像匹配之方法以及處理圖像之方法 | |
JP4941568B2 (ja) | 画像処理装置及びプログラム | |
CN111080683B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JPH11167455A (ja) | 手形状認識装置及び単色物体形状認識装置 | |
KR20130098675A (ko) | 얼굴 검출 처리 회로 및 이를 포함하는 촬상 장치 | |
Dudek | A flexible global readout architecture for an analogue SIMD vision chip | |
WO2005065798A1 (ja) | 情報処理システム、エンタテインメントシステム、および情報処理システムの入力受け付け方法 | |
JP2865168B1 (ja) | 動作データ作成システム | |
JP2938217B2 (ja) | 画像処理装置 | |
Yu et al. | FPGA based real-time color discrimination design for ubiquitous robots | |
Zhu et al. | A digital-pixel-sensor-based global feature extraction processor for real-time object recognition | |
JP2000231640A (ja) | 物体の境界決定方法および装置 | |
JPH05103318A (ja) | 動きベクトル検出回路 | |
JPH11195122A (ja) | テンプレートマッチング方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050615 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080822 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080911 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081110 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20081204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090121 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20090212 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20090313 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100421 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100520 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130604 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees | ||
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D04 |