JP2010020622A - 画像処理装置及び画像処理方法 - Google Patents

Abstract

【課題】対象物をナンバープレートに限定することなく、有意な情報を持つ画像を選択的に記録することができる画像処理装置及び画像処理方法を提供する。
【解決手段】画像データ一時記憶部１１１に複数の画像及び画像の付帯情報を格納し、文字認識部１１４で画像中の文字認識を行い、認識結果記憶部１１５に画像データ一時記憶部１１１に保持された複数の画像に対応する認識結果を保持し、認識結果評価部１１７で画像内容の変化のタイミングを検出し、画像内容に変化があった時だけ画像データ一時記憶部１１１の画像を外部画像蓄積メディア１０３に記録する。これにより、名札を身につけた人物画像や、必ずしもナンバープレート全体が写っていない画像に対しても、画像内容の変化が検出でき、外部画像蓄積メディアを有効利用できる。
【選択図】図１

Description

本発明は、例えば監視カメラ等により撮影された画像に記録された対象物の変化を、同時に記録された文字情報を用いて解析する画像処理装置及び画像処理方法に関する。

監視カメラ等により連続して撮影される画像には、対象物が何も記録されていない画像や、同じ対象を連続して記録した画像が含まれる。記録メディアの容量は有限なので、これらの膨大な画像の中から対象物が記録されており、かつ対象物ごとに１画像を選択して記録メディアに格納すれば、記録メディアを有効に利用することができる。

従来の画像処理装置としては、画像入力手段とは別の物理センサを設けて対象物を検知し、そのセンサからの信号をきっかけとして画像を出力するものがある。また、物理センサを設けないで、撮影された画像中の文字を読み取り、連続する画像で読み取られた文字が一致するか否かで、連続して撮像された対象物が同一か否かを判定するものもある。

また、文字読み取りの誤りを考慮し、読み取られた文字が一致するか否かの判断と、対象物の形状が一致するか否かの判断を併せて行うものがある（例えば、特許文献１参照）。図１５は、特許文献１に記載された従来の画像処理装置の概略構成を示すブロック図である。同図において、カメラ１０によって撮像された画像はＡＤＣ１２でデジタル変換された後、画像メモリ１４に格納される。画像メモリ１４には常に最新の画像データが保持される。２値化回路１６は画像メモリ１４上のデータを２値化し、プレート切出部１８はナンバープレート画像を切り出し、文字切出部２０はナンバープレート画像中の文字画像を切り出し、文字認識部２２は文字認識処理を行い、その結果をメモリ３８に記憶する。

一方、中心計算部３０はナンバープレート位置を計算し、座標計算部３２はエッジを検出する座標を計算し、エッジ検出部３４はエッジ画像を生成し、マトリクス生成部３６は指定座標におけるエッジの有無により形状判定用マトリクスを生成し、その結果をメモリ４０に記憶する。判定部４２は、得られた車番とマトリクスを前回の結果と比較し、対象物が同一であるか否かを判定し、車番の出力の制御を行う。

特開平７−２７２１８９号公報

しかしながら、上述した従来の構成では、対象物がナンバープレートを備えた車両に限定されるため、道路や駐車場といった特定の場所でナンバープレート全体が映るようにカメラが設定されている状況でのみ使用が可能であり、それ以外での使用が不可能であるという問題がある。

本発明は、かかる事情に鑑みてなされたものであり、対象物をナンバープレートに限定することなく、有意な情報を持つ画像を選択的に記録することができる画像処理装置及び画像処理方法を提供することを目的とする。

本発明の画像処理装置は、画像及び該画像に付帯する付帯情報を連続して入力する画像入力手段と、前記画像入力手段で入力された画像を一時記憶する画像一時記憶手段と、前記画像一時記憶手段に記憶された画像から文字を抽出する文字抽出手段と、前記文字抽出手段で抽出された文字を認識し、認識した文字に対する１ないし複数の候補文字と夫々の評価値とを認識結果として得る文字認識手段と、前記文字認識手段で得られた前記認識結果を記憶する認識結果記憶手段と、前記認識結果記憶手段に記憶された前記認識結果に基づき、前記画像一時記憶手段に記憶された画像を出力するか否かを判定する認識結果評価手段と、前記認識評結果評価手段で出力すると判定された画像を該画像の付帯情報及び前記認識結果と共に出力する画像出力制御手段と、を備え、前記画像一時記憶手段は、複数の画像を夫々の付帯情報と共に一時的に記憶し、前記認識結果記憶手段は、前記画像一時記憶手段に記憶されている複数の画像の夫々の文字の認識結果を記憶し、前記認識結果評価手段は、前記認識結果記憶手段に記憶されている複数の画像の夫々の文字の認識結果を調べ、前記複数の画像の認識結果中に同一文字列が含まれる場合には認識結果の評価値が最も良い画像を選択し、前記画像出力制御手段は、前記認識結果評価手段で選択された画像を該画像の付帯情報及び認識結果と共に出力する。

この構成によれば、認識結果評価手段で認識結果の同一性を判断する際、単一の認識結果のみでなく、候補文字の組み合わせで判断するため、同一対象物を認識の誤りにより同一でないと判断することを防止できる。これにより、対象物の同一性の判断に文字認識結果以外の特徴を用いる必要が無く、対象物をナンバープレートに限定することなく、画像入力手段より入力される大量の画像のうち、有意な情報を持つ画像を選択することができる。また、対象物の同一性を対象物の文字のみから判断するため、対象物を撮影する大きさ、方向に影響を受けない。これにより、異なる画像入力手段からの画像との間でも対象物の同一性を判定することができる。

また、上記構成において、前記認識結果評価手段は、前記認識結果記憶手段に記憶されている複数の画像の夫々の文字の認識結果を調べ、１画像中に文字が含まれるにも関わらず、全ての文字の認識結果も評価値が悪い場合はその旨を前記画像出力制御手段に通知し、前記画像出力制御手段は、前記認識結果評価手段から通知された前記画像を該画像の付帯情報及び認識結果と共に出力する。

この構成によれば、文字を認識できたにも関わらず、評価値の良い認識結果が得られなかった画像品質の悪い画像を出力するので、画像品質の悪い画像でも高機能なＰＣ（Personal Computer）或いは認識ソフトで再処理を行うことができる。

また、上記構成において、ネットワークを介して接続された他の画像処理装置の出力である、画像中の文字の認識結果と当該認識結果を得る元となった画像の付帯情報とを記憶する多カメラ認識結果連携手段を更に備え、前記認識結果評価手段は、前記認識結果記憶手段に記憶された認識結果と前記多カメラ認識結果連携手段に記憶された認識結果とを調べ、双方に同一の文字列が含まれ且つ画像の付帯情報及び認識結果の評価値が所定の条件を満たす場合は前記画像出力制御手段に前記画像の出力を行わない旨の通知を行い、前記認識結果記憶手段に記憶された認識結果に含まれる文字列が前記多カメラ認識結果連携手段に記憶された認識結果には含まれない場合或いは含まれても前記画像の付帯情報及び認識結果の評価値が所定の条件を満たさない場合は前記画像出力制御手段に前記画像を出力させる旨の通知を行い、前記画像出力制御手段は、前記認識結果評価手段から画像を出力する旨の通知を受けると、前記画像と該画像の付帯情報及び認識結果とを前記ネットワークへ出力する。

この構成によれば、認識結果記憶手段に記憶された認識結果に含まれる文字列が多カメラ認識結果連携手段に記憶された認識結果には含まれない場合、或いは含まれても画像の付帯情報及び認識結果の評価値が所定の条件を満たさない場合は、ネットワークに接続可能な外部画像蓄積メディアに画像と該画像の付帯情報及び認識結果を記録できる。また、ネットワークに接続された他の画像処理装置は、当該画像の付帯情報及び認識結果を取得して、自己の多カメラ認識結果連携手段に記録できる。

本発明の画像処理方法は、画像及び該画像に付帯する付帯情報を連続して入力する画像入力工程と、前記画像入力工程で入力された画像を一時記憶する画像一時記憶工程と、前記画像一時記憶工程で記憶された画像から文字を抽出する文字抽出工程と、前記文字抽出工程で抽出された文字を認識し、認識した文字に対する１ないし複数の候補文字と夫々の評価値とを認識結果として得る文字認識工程と、前記文字認識工程で得られた認識結果を記憶する認識結果記憶工程と、前記認識結果記憶工程で記憶された認識結果に基づき、前記画像一時記憶工程で記憶された画像を出力するか否かを判定する認識結果評価工程と、前記認識評結果評価工程で出力すると判定された画像を該画像の付帯情報及び認識結果と共に出力する画像出力制御工程と、を備え、前記画像一時記憶工程では、複数の画像を夫々の付帯情報と共に一時的に記憶し、前記認識結果記憶工程では、前記画像一時記憶工程で記憶された複数の画像の夫々の文字の認識結果を記憶し、前記認識結果評価工程では、前記認識結果記憶工程で記憶された複数の画像の夫々の文字の認識結果を調べ、前記複数の画像の認識結果中に同一文字列が含まれる場合には認識結果の評価値が最も良い画像を選択し、前記画像出力制御工程では、前記認識結果評価工程で選択された画像を該画像の付帯情報及び認識結果と共に出力する。

この方法によれば、認識結果評価工程で認識結果の同一性を判断する際、単一の認識結果のみでなく、候補文字の組み合わせで判断するため、同一対象物を認識の誤りにより同一でないと判断することを防止できる。これにより、対象物の同一性の判断に文字認識結果以外の特徴を用いる必要が無く、対象物をナンバープレートに限定することなく、画像入力工程より入力される大量の画像のうち、有意な情報を持つ画像を選択することができる。また、対象物の同一性を対象物の文字のみから判断するため、対象物を撮影する大きさ、方向に影響を受けない。これにより、異なる画像入力工程からの画像との間でも対象物の同一性を判定することができる。

本発明の画像処理プログラムは、画像及び該画像に付帯する付帯情報を連続して入力する画像入力ステップと、前記画像入力ステップで入力された画像を一時記憶する画像一時記憶ステップと、前記画像一時記憶ステップで記憶された画像から文字を抽出する文字抽出ステップと、前記文字抽出ステップで抽出された文字を認識し、認識した文字に対する１ないし複数の候補文字と夫々の評価値とを認識結果として得る文字認識ステップと、前記文字認識ステップで得られた認識結果を記憶する認識結果記憶ステップと、前記認識結果記憶ステップで記憶された認識結果に基づき、前記画像一時記憶ステップで記憶された画像を出力するか否かを判定する認識結果評価ステップと、前記認識評結果評価ステップで出力すると判定された画像を該画像の付帯情報及び認識結果と共に出力する画像出力制御ステップと、を備え、前記画像一時記憶ステップでは、複数の画像を夫々の付帯情報と共に一時的に記憶し、前記認識結果記憶ステップでは、前記画像一時記憶ステップで記憶された複数の画像の夫々の文字の認識結果を記憶し、前記認識結果評価ステップでは、前記認識結果記憶ステップで記憶された複数の画像の夫々の文字の認識結果を調べ、前記複数の画像の認識結果中に同一文字列が含まれる場合には認識結果の評価値が最も良い画像を選択し、前記画像出力制御ステップでは、前記認識結果評価ステップで選択された画像を該画像の付帯情報及び認識結果と共に出力し、コンピュータが前記各ステップを実行する。

このプログラムによれば、認識結果評価ステップで認識結果の同一性を判断する際、単一の認識結果のみでなく、候補文字の組み合わせで判断するため、同一対象物を認識の誤りにより同一でないと判断することを防止できる。これにより、対象物の同一性の判断に文字認識結果以外の特徴を用いる必要が無く、対象物をナンバープレートに限定することなく、画像入力ステップより入力される大量の画像のうち、有意な情報を持つ画像を選択することができる。また、対象物の同一性を対象物の文字のみから判断するため、対象物を撮影する大きさ、方向に影響を受けない。これにより、異なる画像入力ステップからの画像との間でも対象物の同一性を判定することができる。

本発明の記憶媒体は、前記画像処理プログラムが記憶されたものである。

この記憶媒体によれば、上述した画像処理プログラムによる効果と同様の効果が得られる。

本発明によれば、対象物をナンバープレートに限定することなく、有意な情報を持つ画像を選択的に記録することができる画像処理装置及び画像処理方法を提供できる。

以下、本発明を実施するための好適な実施の形態について、図面を参照して詳細に説明する。

図１は、本発明の一実施の形態に係る画像処理装置の概略構成を示すブロック図である。同図において、本実施の形態の画像処理装置１０１は、画像データ一時記憶部１１１と、２値化処理部１１２と、文字領域抽出部１１３と、文字認識部１１４と、認識結果記憶部１１５と、多カメラ認識結果連携部１１６と、認識結果評価部１１７と、画像出力制御部１１８とを備える。画像処理装置１０１と外部画像蓄積メディア１０３及び監視センタ１０４はネットワーク１０２を介して結ばれる。なお、画像処理装置１０１は、１台に限らず２台以上であってもよい。同様に、外部画像蓄積メディア１０３も１台に限らず２台以上であってもよい。この場合、複数の画像処理装置１０１と複数の外部画像蓄積メディア１０３はネットワーク１０２を介して接続されることは言うまでもない。画像入力部１１０は、画像及び画像の撮影位置及び撮影時刻を含む画像に付帯する付帯情報を連続して画像処理装置１０１に入力する。

画像処理装置１０１において、画像データ一時記憶部１１１は、画像入力部１１０から入力された画像及び該画像の撮影位置及び撮影時刻を含む画像に付帯する付帯情報を予め決められた回数分記憶する。２値化処理部１１２は、画像データ一時記憶部１１１に格納されている画像を２値化し、文字領域抽出部１１３に送る。文字領域抽出部１１３は、２値化画像から文字領域を抽出し、抽出した文字領域の個々の文字の座標を文字認識部１１４に送る。文字認識部１１４は、２値画像及び文字座標に基づき、画像中の文字を認識する。文字認識部１１４は、当該文字認識処理により、候補文字コード及び評価値と、文字座標を含む認識結果を得る。認識結果記憶部１１５は、文字認識部１１４で得られた認識結果を保持する。認識結果記憶部１１５は複数の認識結果を保持する。多カメラ認識結果連携部１１６は、ネットワーク１０２を介して接続された他の画像処理装置１０１で得られた付帯情報と認識結果を複数個保持する。

認識結果評価部１１７は、認識結果記憶部１１５に保持された当該画像処理装置１０１で得られた認識結果と多カメラ認識結果連携部１１６に保持された複数個の他の画像処理装置１０１それぞれで得られた認識結果とに基づき、画像データ一時記憶部１１１に保持されている画像を外部画像蓄積メディア１０３に記録するか否かを判断する。画像出力制御部１１８は、認識結果評価部１１７が画像データ一時記憶部１１１に保持されている画像を記録すると判断した場合、画像データ一時記憶部１１１に保持されている画像及び該画像に付帯する付帯情報と認識結果記憶部１１５に保持された当該画像の認識結果とを外部画像蓄積メディア１０３に記録する。

図２は、上記構成の画像処理装置１０１の動作を示すフローチャートである。同図において、画像及び該画像の撮影位置及び撮影時刻を含む付帯情報を連続して入力する（ステップＳ１１０）。次いで、画像入力ステップＳ１１０で入力された画像及び付帯情報を一時記憶する（ステップＳ１１１）。次いで、一時記憶している画像を２値化する（ステップＳ１１２）。そして、２値化した画像から文字領域を抽出し、抽出した文字領域の個々の文字の座標を得る（ステップＳ１１３）。次いで、２値画像及び文字座標に基づき画像中の文字を認識する（ステップＳ１１４）。当該文字認識処理により、候補文字コード及び評価値と文字座標を含む認識結果を得る。

次いで、文字認識のステップで得られた認識結果を保持する（ステップＳ１１５）。ここでは過去の認識結果も複数個保持している。次にネットワーク１０２を介して接続された他の画像処理装置１０１で得られた付帯情報と認識結果とを複数個保持する（ステップＳ１１６）。次いで、認識結果記憶のステップに保持した当該画像処理装置１０１から得られた認識結果と多カメラ認識結果連携のステップに保持した複数個の他の画像処理装置１０１から得られた認識結果に基づき、画像一時記憶のステップで保持した画像を外部画像蓄積メディア１０３に記録するか否かを判断する（ステップＳ１１７）。そして、認識結果評価のステップで当該画像を記録すると判断した場合、画像一時記憶のステップで保持した画像及び付帯情報と、認識結果記憶のステップで保持した当該画像の認識結果とを外部画像蓄積メディア１０３に記録する（ステップＳ１１８）。以上の処理ステップを完了すると、再び画像入力のステップＳ１１０から処理を繰り返す。

次に、本実施の形態の画像処理装置１０１の動作を詳細に説明する。図３は、１箇所の撮影地点（Ｐａ）で撮影した画像列の説明図である。画像入力部１１０で画像（Ｐａ０）、（Ｐａ１）、（Ｐａ２）…の順に入力される場合を例に説明する。図４は、画像データ一時記憶部１１１に記憶された画像及び付帯情報の説明図である。画像入力部１１０から入力された画像とその撮影地点及び撮影時間を予め決められた回数分記録する。なお、新たに画像を記録する際には最も古いデータを削除する。図４は、最新の画像（Ｐａ２）を記録した時点の画像データ一時記憶部１１１の内容を示している。
る。

図５及び図６は、画像データ一時記憶部１１１に記録された最新画像（Ｐａ２）の認識過程の説明図である。図５の（ａ）は、画像データ一時記憶部１１１中の最新画像（Ｐａ２）である。図５の（ｂ）は、２値化処理部１１２により図５の（ａ）が２値化された画像である。図５の（ｃ）は、文字領域抽出部１１３により抽出された文字領域（Ａ２）及び文字領域（Ａ２）中の文字を示す。図６の（ｄ）は、抽出された文字領域（Ａ２）を拡大した図である。図６の（ｅ）は、文字領域抽出部１１３で抽出された文字座標データを示す図である。図６の（ｆ）は、文字認識部１１４で出力される文字認識結果を示す図である。

画像入力部１１０からの最新画像（Ｐａ２）（図５の（ａ））が、画像データ一時記憶部１１１に記録されると、２値化処理部１１２が２値化処理を行い、２値画像（図５の（ｂ））を作成する。次いで、文字領域抽出部１１３が２値画像（図５の（ｂ））から、文字領域及び個々の文字座標を抽出する。

図７は、文字領域抽出部１１３の処理の概略を示すフローチャートである。同図において、文字領域抽出部１１３は、２値化処理部１１２により作成された２値画像から黒画素連結領域を抽出する（ステップＳ５０１）。次いで、抽出した黒画素連結領域を位置の近いもの同士を集めてグループに分ける（ステップＳ５０２）。そして、グループ毎にグループ内の黒画素連結領域の平均サイズを算出し（ステップＳ５０３）、グループ内の個々の黒画素連結領域が平均サイズと大きく異なることが無いかどうかチェックする（ステップＳ５０４）。そして、グループ内全ての黒画素連結領域のサイズが均一であるかどうか判定し（ステップＳ５０５）、均一と判断した場合には、そのグループは文字領域であると判断して個々の黒画素連結領域から文字座標を算出し、算出した文字座標に基づき、文字を文字列毎にまとめて記録する（ステップＳ５０６）。これに対して不均一な黒画素連結領域を含むグループは文字領域ではないと判断する。上記のステップＳ５０３〜ステップＳ５０６の処理を全グループについて行う。

このようにして文字領域抽出部１１３で得られた文字座標（図６の（ｅ））が文字認識部１１４に渡され、文字認識部１１４が文字座標に基づき、文字認識を行う。この文字認識により、図６の（ｆ）の認識結果が得られる。なお、文字認識処理は、一般に処理時間のかかる処理であり、処理時間は認識対象とする文字の数に応じて大きくなる。数字と平仮名（約６０文字）を認識対象にする場合、数字のみ（１０文字）を認識対象にする場合に比較して数倍の処理時間が必要になる。３０００字以上有る漢字までを認識対象とする場合には、数字のみの場合の１００倍以上の処理時間が必要になる。ここでは画像入力部１１０での画像入力間隔が短いことを想定し、認識対象字種を数字に限定しているが、認識処理時間に比べて画像入力部１１０での画像入力間隔が十分に大きい場合には、平仮名、漢字までを認識対象としてもかまわない。

図８及び図９は、認識結果記憶部１１５に保持された認識結果の説明図である。これらの図において、画像データ一時記憶部１１１に記録されている複数の画像の認識結果（候補文字コード、評価値、文字座標）を保持する。評価値は、認識結果として得られた候補文字コードの確からしさを示す値であり、本実施の形態では、０から１００の値で示し、数値が小さい方が候補文字が確からしいことを意味するものとする。新たに認識結果を記録する際には最も古いデータを削除する。図８は画像（Ｐａ２）の認識結果（Ｒ２）を記録した時点の認識結果記憶部１１５の内容を示しており、図９は画像入力部１１０から次の画像が入力され、画像（Ｐａ３）が最新画像となった時点の認識結果記憶部１１５の内容を示している。画像（Ｐａ３）には文字が含まれないため、認識結果は空欄となっている。

認識結果評価部１１７は、認識結果記憶部１１５の内容に基づき、外部画像蓄積メディア１０３に記録する画像を選択する。以下、認識結果評価部１１７の処理を認識結果記憶部１１５の内容が図９の場合を例に挙げて説明する。

図１０は、認識結果評価部１１７の処理の概略を示すフローチャートである。認識結果評価部１１７は、認識結果記憶部１１５に新たな認識結果が記録されると、図１０に示された一連の処理を実施する。同図において、最新直前画像（図９の場合（Ｐａ２））中の文字列の検出を行う（ステップＳ７０１）。そして、文字列の検出の有無を判定し（ステップＳ７０２）、文字列を検出できなかった場合は、認識結果評価部１１７の処理を終了し、文字列を検出できた場合（文字列（Ｌ２）（Ｌ３））には、有効な候補文字列を検出する（ステップＳ７０３）。ここでは、評価値が５０未満の文字コードの並びを有効な候補文字列であると判断する。図９の場合、文字列（Ｌ２）についての有効な候補文字列は「８８８」、文字列（Ｌ３）についての有効な候補文字列は「１２３４」、「１２８４」、「・２３４」及び「・２８４」の４つを検出する。

次いで、検出した有効な候補文字列の有無を判定し（ステップＳ７０４）、有効な候補文字列を検出できない場合は、最新直前画像を画像出力制御部１１８に通知する（ステップＳ７０５）。これは、文字が検出されたにも関わらず、評価値の良い認識結果が得られなかった画像は画像品質が悪いことが考えられるため、外部画像蓄積メディア１０３に記録すれば監視センタ１０４のより高機能なＰＣ或いは認識ソフトウェアで再処理することができるからである。

一方、有効な候補文字列を検出できた場合は、着目している候補文字列が最新画像の認識結果に候補文字列として存在するか否かをチェックし（ステップＳ７０７）、その結果をステップＳ７０８で判定する。着目している候補文字列が最新画像の認識結果に候補文字列として存在する場合には、着目している文字列についての処理を終わり、次の文字列の処理へと進む。着目している候補文字列が最新画像の認識結果に候補文字列として存在しない場合は、次の候補文字列が有るか否かをステップＳ７１０で判断し、まだ調べるべき候補文字列が残っていればステップＳ７０３に戻り、全ての候補文字列を調べ終えた場合には、着目している文字列が最新画像には含まれていないと結論できるので、着目している文字列が存在する画像は最新直前画像までであることがわかる。そこで、着目している文字列について過去に遡って最も良い状態の画像を探し、画像出力制御部１１８に通知する（ステップＳ７０９）。

なお、ここでは候補文字列の評価値として、各文字の第１候補文字コードの評価値の平均値を用いるが、文字サイズの均等性等を評価に加味しても構わない。今、文字列（Ｌ２）についての有効な候補文字列「８８８」に着目した場合、最新直前画像（Ｐａ２）での評価値は２７((20+22+40)/3≒27）となる。最新画像（Ｐａ３）には有効な候補文字列「８８８」が存在しないため、有効な候補文字列「８８８」について、ステップＳ７０９の処理を行う。

文字列（Ｌ３）に注目した場合、（Ｌ３）の全ての有効な候補文字列「１２３４」、「１２８４」、「・２３４」及び「・２８４」のいずれもが最新画像（Ｐａ３）には存在しないので、文字列（Ｌ２）の有効な候補文字列「８８８」と同様にステップＳ７０９の処理を行う。検出された文字列は以上なので、認識結果評価部１１７の１回の処理を終了する。

図１１は、図１０に示すステップＳ７０９の処理概略図である。同図において、最新直前画像から時間を遡って着目している画像に、着目している文字列の候補文字列が存在しているか否かをチェックする（ステップＳ８０１〜ステップＳ８０４）。いずれの候補文字列も存在しない画像が見つかるか、認識結果記憶部１１５にそれ以前の認識結果が保存されていない場合は、着目している文字列の存在する最も古い画像が特定できる。次いで、候補文字列のいずれかが存在する、それぞれの画像での候補文字列の評価値を算出し、評価値の最も良い評価値の画像を選択する（ステップＳ８０５）。

図９の場合、文字列（Ｌ２）が存在する画像は、（Ｐａ２）のみである。したがって、文字列（Ｌ２）についての各画像での評価値は、
画像（Ｐａ２）→候補文字列「８８８」→評価値２７
であり、文字列（Ｌ２）については、評価値２７の画像（Ｐａ２）が選択される。

一方、文字列（Ｌ３）が存在する画像は、（Ｐａ１）〜（Ｐａ２）である。したがって、文字列（Ｌ３）についての各画像での評価値は、
画像（Ｐａ１）→候補文字列「１２３４」→評価値２８((25+20+35+30)/4≒28)
画像（Ｐａ１）→候補文字列「１２８４」→評価値２９((25+20+40+30)/4≒29)
画像（Ｐａ２）→候補文字列「１２３４」→評価値９ ((5+5+15+10)/4≒9)★
画像（Ｐａ２）→候補文字列「１２８４」→評価値１５((5+5+40+10)/4＝15)
画像（Ｐａ２）→候補文字列「・２３４」→評価値１５((30+5+15+10)/4＝15)
画像（Ｐａ２）→候補文字列「・２８４」→評価値２１((30+5+40+10)/4≒21)
となり、文字列（Ｌ３）については、評価値９の画像（Ｐａ２）が選択される。

図１２は、多カメラ認識結果連携部１１６に格納されるデータの説明図である。同図において、ネットワーク１０２で接続された他の画像処理装置１０１が有る場合、他の画像処理装置１０１が画像を外部画像蓄積メディア１０３に記録する際に、ネットワーク１０２で接続されている全ての画像処理装置１０１に対し、画像の付帯情報と認識結果を通知する。その通知された付帯情報と認識結果とが、個々の画像処理装置１０１の多カメラ認識結果連携部１１６に格納される。

図１１のステップＳ８０６では、多カメラ認識結果連携部１１６に保持された他の画像認識装置１０１で得られた認識結果に、候補文字列のいずれかが有効候補文字列として存在するかをチェックする。その結果の有無をステップＳ８０７で判定し、他の画像認識装置１０１で得られた認識結果に、候補文字列のいずれかが有効候補文字列として存在する場合には、ステップＳ８０５で得られた評価値と、ステップＳ８０６で得られた評価値とを比較し、ステップＳ８０５で得られた評価値の方が良ければ、その画像を画像出力制御部１１８に通知する。ステップＳ８０６で得られた評価値の方が良ければ、何もしない。

図１２の場合、
画像（Ｐｃ１）→候補文字列「８８８」→評価値３０((20+30+40/3＝30))
画像（Ｐｃ１）→候補文字列「１２３４」→評価値２０((5+20+25+30)/4＝20)
が得られる。いずれもステップＳ８０５で得られた評価値よりは悪いので、ステップＳ８０５で得られた、
画像（Ｐａ２）→候補文字列「８８８」→評価値２７
画像（Ｐａ２）→候補文字列「１２３４」→評価値９
が画像出力制御部１１８に通知される。

なお、ステップＳ８０６で得られた他の画像処理装置１０１の認識結果を選択する場合、偶然の認識結果の一致を回避するため、評価値だけで判断するのではなく、時間的な制限や同一文字領域の全文字列で候補文字列が一致しないといけないとの制限を付加しても構わない。

画像出力制御部１１８は、認識結果評価部１１７から通知された画像について、画像と付帯情報を画像データ一時記憶部１１１から読み出し、また認識結果を認識結果記憶部１１５から読み出して、ネットワーク１０２を介して外部画像蓄積メディア１０３に記録する。なお、認識結果評価部１１７から通知される画像は１つとは限らない。また、複数指定された場合には、同じ画像を指している場合も有るが、画像出力制御部１１８で重複を解消し、同じ画像は１度だけ記録する。また、１度記録した画像については、画像データ一時記憶部１１１の記録済みフラグをセットする。

画像出力制御部１１８は、画像と付帯情報及び認識結果を外部画像蓄積メディア１０３に記録すると共に、ネットワーク１０２で接続されている全ての画像処理装置１０１に対して付帯情報と認識結果を通知する。通知された付帯情報と認識結果とは、個々の画像処理装置１０１の多カメラ認識結果連携部１１６に格納される。

図１３は、ネットワーク１０２を介して複数の画像処理装置１０１がつながっている第１の構成を示すブロック図である。本構成では、各画像処理装置１０１に備えられた多カメラ認識結果連携部１１６に他の画像処理装置１０１で得られた認識結果を保持することで、複数のカメラで同一対象を撮影した場合に、外部画像蓄積メディア１０３に画像を重複して記録することを防ぐことができる。

図１４は、ネットワーク１０２を介して複数の画像処理装置１０１がつながっている第２の構成を示すブロック図である。本構成では、多カメラ認識結果連携部１１６は、各画像処理装置１０１に含まれるのではなく、複数の画像処理装置１０１に対して、単一の多カメラ認識結果連携部１１６を備える。本構成においても、多カメラ認識結果連携部１１６に他の画像処理装置１０１で得られた認識結果を保持することで、複数のカメラで同一対象を撮影した場合に、外部画像蓄積メディア１０３に画像を重複して記録することを防ぐことができる。

また、外部画像蓄積メディア１０３に記録される画像に、画像の内容を示す認識結果が付与されるため、監視センタ１０４のＰＣ等で、外部画像蓄積メディア１０３中の画像を検索することが容易となる。更に、文字領域座標及び文字座標が付与されているため、監視センタ１０４のＰＣ等で、外部画像蓄積メディア１０３中の画像を再処理する場合、特定の領域のみを処理すればよいため、大幅な処理の効率化を実現できる。

このように、本実施の形態の画像処理装置１０１によれば、画像データ一時記憶部１１１に複数の画像及び付帯情報を格納し、文字認識部１１４で画像中の文字認識を行い、認識結果記憶部１１５に画像データ一時記憶部１１１に保持された複数の画像に対応する認識結果を保持し、認識結果評価部１１７で画像内容の変化のタイミングを検出し、画像内容に変化があったときだけ画像データ一時記憶部１１１の画像を外部画像蓄積メディア１０３に記録するため、名札を身につけた人物画像や、必ずしもナンバープレート全体が写っていない画像に対しても画像内容に変化を検出でき、外部画像蓄積メディア１０３を有効利用できる。

また、ナンバープレート画像に限定することなく画像内容の変化を検出できるため、カメラの設置が簡易である。また、画像入力部１１０が可動カメラであっても構わないため、少ないカメラで広範囲を監視することができる。画像入力部１１０より入力される大量の画像のうち、有意な情報を持つ画像を選択して記録することができるため、外部画像蓄積メディア１０３を有効利用できる。また、ネットワーク１０２を介して複数のカメラがつながっている構成では、複数のカメラで同一対象を撮影した場合にも同一性を判断できるため、外部画像蓄積メディア１０３に画像を重複して記録することを防ぐことができる。また、画像を外部画像蓄積メディア１０３に記録する際に、画像の内容を示す認識結果を付与するため、監視センタのＰＣ等で、蓄積された膨大な画像の内から特定の画像を検索することが容易になる。更に、付与される認識結果には文字領域座標及び文字座標が含まれているため、監視センタのＰＣ等で、外部画像蓄積メディア１０３に記録された画像を２次処理する場合に、画像に付与された認識結果に含まれる文字領域座標及び文字座標を利用し、文字領域のみを再処理することで、処理精度を上げると共に、大幅な処理の効率化を実現できる。

なお、本実施の形態では、外部画像蓄積メディア１０３に情報を記録する際、画像とその付帯情報及び認識結果とを共に記録するとしたが、画像の記録が必須ではない場合には評価値が十分良ければ、画像を除き、付帯情報及び認識結果のみを記録するようにしてもよい。このようにすることで、外部画像蓄積メディア１０３の使用量を更に削減できる。

また、本実施の形態では、対象物と同時に撮影され、対象物を指し示すパターンを文字列としたが、ロゴやマーク、或いは顔など、文字と同様の性質を持つパターンを用いてもよい。各処理での各種条件や閾値についても同様の判定基準であれば、これに限るものではない。更に画像入力部１１０、画像データ一時記憶部１１１、２値化処理部１１２、文字領域抽出部１１３、文字認識部１１４、認識結果記憶部１１５、多カメラ認識結果連携部１１６、認識結果評価部１１７、画像出力制御部１１８等の各機能ブロックを、典型的には集積回路であるＬＳＩとして実現してもよい。集積回路化の手法は、ＬＳＩに限るものではない。これらは個別に１チップ化されてもよいし、一部又は全部を含むように１チップ化されてもよい。

また、本実施の形態において、上述した各動作における各処理ステップを、コンピュータで実行可能なプログラムで記述してもよい。

本発明は、対象物をナンバープレートに限定することなく、有意な情報を持つ画像を選択的に記録することができるといった効果を有し、監視システムなどへの適用が可能である。

本発明の一実施の形態に係る画像処理装置の概略構成を示すブロック図 図１の画像処理装置の動作を示すフローチャート 図１の画像処理装置において１箇所の撮影地点で撮影した画像列を説明するための図 図１の画像処理装置の画像データ一時記憶部に記録された画像及び付帯情報を説明するための図 図１の画像処理装置における文字認識過程を説明するための図 図１の画像処理装置における文字認識過程を説明するための図 図１の画像処理装置の文字領域抽出部の処理を示すフローチャート 図１の画像処理装置の認識結果記憶部に保持された認識結果を説明するための図 図１の画像処理装置の認識結果記憶部に保持された認識結果を説明するための図 図１の画像処理装置の認識結果評価部の処理を示すフローチャート 図１０のステップＳ７１０の詳細な処理を示すフローチャート 図１の画像処理装置の多カメラ認識結果連携部に格納されるデータを説明するための図 図１の画像処理装置を複数個用いてネットワーク接続した第１の構成を示すブロック図 図１の画像処理装置を複数個用いてネットワーク接続した第２の構成を示すブロック図 従来の画像処理装置の概略構成を示すブロック図

符号の説明

１０１ 画像処理装置
１０２ ネットワーク
１０３ 外部画像蓄積メディア
１０４ 監視センタ
１１０ 画像入力部
１１１ 画像データ一時記憶部
１１２ ２値化処理部
１１３ 文字領域抽出部
１１４ 文字認識部
１１５ 認識結果記憶部
１１６ 多カメラ認識結果連携部
１１７ 認識結果評価部
１１８ 画像出力制御部

Claims (6)

1. 画像及び該画像に付帯する付帯情報を連続して入力する画像入力手段と、
   前記画像入力手段で入力された画像を一時記憶する画像一時記憶手段と、
   前記画像一時記憶手段に記憶された画像から文字を抽出する文字抽出手段と、
   前記文字抽出手段で抽出された文字を認識し、認識した文字に対する１ないし複数の候補文字と夫々の評価値とを認識結果として得る文字認識手段と、
   前記文字認識手段で得られた前記認識結果を記憶する認識結果記憶手段と、
   前記認識結果記憶手段に記憶された前記認識結果に基づき、前記画像一時記憶手段に記憶された画像を出力するか否かを判定する認識結果評価手段と、
   前記認識評結果評価手段で出力すると判定された画像を該画像の付帯情報及び前記認識結果と共に出力する画像出力制御手段と、を備え、
   前記画像一時記憶手段は、複数の画像を夫々の付帯情報と共に一時的に記憶し、
   前記認識結果記憶手段は、前記画像一時記憶手段に記憶されている複数の画像の夫々の文字の認識結果を記憶し、
   前記認識結果評価手段は、前記認識結果記憶手段に記憶されている複数の画像の夫々の文字の認識結果を調べ、前記複数の画像の認識結果中に同一文字列が含まれる場合には認識結果の評価値が最も良い画像を選択し、
   前記画像出力制御手段は、前記認識結果評価手段で選択された画像を該画像の付帯情報及び認識結果と共に出力する画像処理装置。
2. 前記認識結果評価手段は、前記認識結果記憶手段に記憶されている複数の画像の夫々の文字の認識結果を調べ、１画像中に文字が含まれるにも関わらず、全ての文字の認識結果も評価値が悪い場合はその旨を前記画像出力制御手段に通知し、
   前記画像出力制御手段は、前記認識結果評価手段から通知された前記画像を該画像の付帯情報及び認識結果と共に出力する請求項１に記載の画像処理装置。
3. ネットワークを介して接続された他の画像処理装置の出力である、画像中の文字の認識結果と当該認識結果を得る元となった画像の付帯情報とを記憶する多カメラ認識結果連携手段を更に備え、
   前記認識結果評価手段は、前記認識結果記憶手段に記憶された認識結果と前記多カメラ認識結果連携手段に記憶された認識結果とを調べ、双方に同一の文字列が含まれ且つ画像の付帯情報及び認識結果の評価値が所定の条件を満たす場合は前記画像出力制御手段に前記画像の出力を行わない旨の通知を行い、前記認識結果記憶手段に記憶された認識結果に含まれる文字列が前記多カメラ認識結果連携手段に記憶された認識結果には含まれない場合或いは含まれても前記画像の付帯情報及び認識結果の評価値が所定の条件を満たさない場合は前記画像出力制御手段に前記画像を出力させる旨の通知を行い、
   前記画像出力制御手段は、前記認識結果評価手段から画像を出力する旨の通知を受けると、前記画像と該画像の付帯情報及び認識結果とを前記ネットワークへ出力する請求項１又は請求項２に記載の画像処理装置。
4. 画像及び該画像に付帯する付帯情報を連続して入力する画像入力工程と、
   前記画像入力工程で入力された画像を一時記憶する画像一時記憶工程と、
   前記画像一時記憶工程で記憶された画像から文字を抽出する文字抽出工程と、
   前記文字抽出工程で抽出された文字を認識し、認識した文字に対する１ないし複数の候補文字と夫々の評価値とを認識結果として得る文字認識工程と、
   前記文字認識工程で得られた認識結果を記憶する認識結果記憶工程と、
   前記認識結果記憶工程で記憶された認識結果に基づき、前記画像一時記憶工程で記憶された画像を出力するか否かを判定する認識結果評価工程と、
   前記認識評結果評価工程で出力すると判定された画像を該画像の付帯情報及び認識結果と共に出力する画像出力制御工程と、を備え、
   前記画像一時記憶工程では、複数の画像を夫々の付帯情報と共に一時的に記憶し、
   前記認識結果記憶工程では、前記画像一時記憶工程で記憶された複数の画像の夫々の文字の認識結果を記憶し、
   前記認識結果評価工程では、前記認識結果記憶工程で記憶された複数の画像の夫々の文字の認識結果を調べ、前記複数の画像の認識結果中に同一文字列が含まれる場合には認識結果の評価値が最も良い画像を選択し、
   前記画像出力制御工程では、前記認識結果評価工程で選択された画像を該画像の付帯情報及び認識結果と共に出力する画像処理方法。
5. 画像及び該画像に付帯する付帯情報を連続して入力する画像入力ステップと、
   前記画像入力ステップで入力された画像を一時記憶する画像一時記憶ステップと、
   前記画像一時記憶ステップで記憶された画像から文字を抽出する文字抽出ステップと、
   前記文字抽出ステップで抽出された文字を認識し、認識した文字に対する１ないし複数の候補文字と夫々の評価値とを認識結果として得る文字認識ステップと、
   前記文字認識ステップで得られた認識結果を記憶する認識結果記憶ステップと、
   前記認識結果記憶ステップで記憶された認識結果に基づき、前記画像一時記憶ステップで記憶された画像を出力するか否かを判定する認識結果評価ステップと、
   前記認識評結果評価ステップで出力すると判定された画像を該画像の付帯情報及び認識結果と共に出力する画像出力制御ステップと、を備え、
   前記画像一時記憶ステップでは、複数の画像を夫々の付帯情報と共に一時的に記憶し、
   前記認識結果記憶ステップでは、前記画像一時記憶ステップで記憶された複数の画像の夫々の文字の認識結果を記憶し、
   前記認識結果評価ステップでは、前記認識結果記憶ステップで記憶された複数の画像の夫々の文字の認識結果を調べ、前記複数の画像の認識結果中に同一文字列が含まれる場合には認識結果の評価値が最も良い画像を選択し、
   前記画像出力制御ステップでは、前記認識結果評価ステップで選択された画像を該画像の付帯情報及び認識結果と共に出力し、
   コンピュータが前記各ステップを実行する画像処理プログラム。
6. 請求項５に記載の画像処理プログラムが記憶された記憶媒体。