JP4964849B2 - 画像処理装置、画像処理プログラム、コンピュータ読み取り可能な記録媒体、電子機器及び画像処理方法 - Google Patents

Description

本発明は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置に関する。

携帯電話やＰＤＡ（Personal Digital Assistants）などの各種機器に、画像表示部として液晶ディスプレイを備えた画像表示装置（以下、「液晶表示装置」と呼ぶ。）が幅広く利用されていることは周知の通りである。特に、ＰＤＡでは、古くからタッチセンサーを備えることにより、直接指などを液晶ディスプレイに接触させることによって情報を入力するタッチ入力が可能となっている。また、携帯電話やその他の機器においても、タッチセンサーを備える液晶表示装置の普及が期待されている。

このようなタッチセンサーを備える液晶表示装置の一例として特許文献１に開示された技術がある。

この従来の液晶表示装置は、主としてエッジ検出回路、接触判定回路及び座標計算回路を備えている。エッジ検出回路は、撮影された画像のエッジを検出して、エッジ画像を得るようになっている。

また、接触判定回路は、エッジ検出回路によって得られたエッジ画像を用いて物体が表示画面に接触したか否かを判定するようになっている。この接触判定回路は、エッジ毎にその移動方向（エッジの座標の時間変化）を調べ、互いに逆方向に移動するエッジがある場合に物体が表示画面に接触したと判定するようになっている。これは、物体が接触しない限りはエッジが互いに逆方向に移動することはないという原理を利用したものである。具体的には、逆方向への移動量が所定の閾値以上の場合に接触したと判定することで、判定の精度を高めるようになっている。

さらに、座標計算回路は、物体が接触したと判定されたときに、エッジの重心を物体の座標位置として計算するようになっている。これにより、物体が接触する前に座標位置を計算しないようにして、位置算出の精度の向上を図ることを可能としている。
特開２００６−２４４４４６号公報（平成１８年９月１４日公開）

しかしながら、従来の液晶表示装置では、接触判定回路が表示画面全体において接触判定を行なっているため、エッジ画像におけるノイズ、表示画面の画素欠陥、画面傷等があった場合に、接触判定回路がこのようなノイズの発生、画素欠陥の存在等によりエッジ移動があったと誤認識し、その結果、接触判定回路による接触判定精度を低下させてしまうという課題があった。

また、上記のようなノイズ等があった場合では、エッジの重心と物体の位置が異なって判定されてしまう可能性があるため、表示画面上に複数の物体が接触したことを判定しようとしても、各エッジの重心と各物体の座標位置との対応付けを正確に行なうことができないという課題もあった。

上記課題に鑑み、本発明は、撮像された撮像画像の画像データを用いて撮像対象による撮像画像上の指示位置を高精度に特定可能な画像処理装置、画像処理プログラム、コンピュータ読み取り可能な記録媒体、電子機器及び画像処理方法を提供することを目的とする。

上記目的を達成するために、本発明における画像処理装置は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置であって、前記画像データ上の画素ごとに、隣接する画素との画素値差に応じた特徴量を算出する特徴量算出手段と、前記特徴量算出手段により算出された特徴量が第１閾値以上である第１エッジ画素を特定する第１エッジ特定手段と、前記第１エッジ画素の特定結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、あらかじめ定められたモデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出手段と、前記第１エッジ画素のうち、前記特徴量が前記第１閾値よりも大きい第２閾値以上である第２エッジ画素を特定する第２エッジ特定手段と、第１エッジ画素数と第２エッジ画素数との比率及び前記合致度算出手段により算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定手段とを備えている。

そして、前記位置特定手段は、例えば、第１エッジ画素数に対する第２エッジ画素数の割合があらかじめ定められた値を超えており、且つ、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大である照合領域の位置から、撮像対象による前記撮像画像上の指示位置を特定する。

上記の画像処理装置では、画像データ上における第１エッジ画素の特定結果に基づいて照合領域とモデルパターンとのマッチングを行なうと共に、第１エッジ画素を特定する第１閾値よりも大きい第２閾値を用いて第２エッジ画素を特定するので、第１エッジ画素数に対する第２エッジ画素数の割合があらかじめ定められた値を超えており、且つ、合致度が最大である照合領域の位置から、撮像対象による撮像画像上の指示位置を特定することができる。

すなわち、上記の画像処理装置では、第１エッジ画素の特定結果に基づいてモデルパターンとのマッチングを行ない、マッチングされた照合領域について第１エッジ画素数のうち第２エッジ画素数の割合があらかじめ定められた値を超えたものを用いて、撮像対象による撮像画像上の指示位置を特定することができる。

このため、撮像された撮像画像の画像データを用いて撮像対象による撮像画像上の指示位置を高精度に特定することが可能となる。

前記画像処理装置の利用空間における明るさの変化に応じて前記第２閾値を調節する閾値調節手段をさらに備えていることが好ましい。

この場合、画像処理装置の利用空間における明るさの変化に起因して画像データ上の画素ごとの特徴量が変化する場合でも、利用空間における明るさの変化に応じて第２閾値を調節し、第２エッジ画素を精度良く特定することができる。

前記閾値調節手段は、前記画像処理装置の利用空間における明るさの変化に応じて撮像画像上の背景画像がとりうる画素値ごとにあらかじめテーブル形式で記憶されている複数の第２閾値のうち、前記撮像画像上における背景画像の画素値に対応する第２閾値を選択することが好ましい。

この場合、利用空間における明るさの変化に応じて第２閾値を調節する際に、複数の第２閾値のうちから選択すればよく、第２閾値の調節を効率よく行なうことができる。

前記テーブル形式で記憶されている複数の第２閾値は、撮像画像の画像データを撮像する撮像センサーの感度が第１感度を持つ場合に利用されるものであり、前記閾値調節手段は、前記撮像センサーの感度が前記第１感度から前記第１感度とは異なる第２感度に変化し、撮像センサーの感度が前記第２感度を持つ場合に利用されるべき第２閾値を選択する場合には、前記第１感度での撮像画像上の指示位置と背景画像との画素値差が前記第２感度での撮像画像上の指示位置と背景画像との画素値差であったと仮定した場合において前記第１感度での撮像画像上の背景画像がとるべき画素値を算出し、前記算出された撮像画像上の背景画像の画素値に対応する第２閾値を選択することが好ましい。

この場合、撮像センサーの感度が第１感度から第２感度に変化する場合でも、撮像センサーの感度が第１感度を持つ場合に利用される第２閾値と第２感度を持つ場合に利用される第２閾値とを別々に記憶しておく必要がないので、第２閾値を記憶するための記憶装置等の容量を低減することができる。

前記特徴量は、大きさと方向を持つベクトル量であることが好ましい。

この場合、スカラー量でパターンマッチングする場合に比べ、情報量が多く、より正確にパターンマッチングを行なうことができる。

前記特徴量は、画素の輝度の勾配量であることが好ましい。

この場合、画素の輝度の勾配量に基づいてパターンマッチングを行なうことによって、位置検出の精度を向上できる。

本発明における電子機器は、上記の画像処理装置を備えている。

上記の電子機器では、上記の画像処理装置を備えている電子機器が実現される。

本発明における画像処理方法は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する画像処理方法であって、前記画像データ上の画素ごとに、隣接する画素との画素値差に応じた特徴量を算出する特徴量算出工程と、前記特徴量算出工程において算出された特徴量が第１閾値以上である第１エッジ画素を特定する第１エッジ特定工程と、前記第１エッジ画素の特定結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、あらかじめ定められたモデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出工程と、前記第１エッジ画素のうち、前記特徴量が前記第１閾値よりも大きい第２閾値以上である第２エッジ画素を特定する第２エッジ特定工程と、第１エッジ画素数と第２エッジ画素数との比率及び前記合致度算出工程において算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定工程とを備えている。

そして、前記位置特定工程においては、例えば、第１エッジ画素数に対する第２エッジ画素数の割合があらかじめ定められた値を超えており、且つ、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大である照合領域の位置から、撮像対象による前記撮像画像上の指示位置を特定する。

上記の画像処理方法では、画像データ上における第１エッジ画素の特定結果に基づいて照合領域とモデルパターンとのマッチングを行なうと共に、第１エッジ画素を特定する第１閾値よりも大きい第２閾値を用いて第２エッジ画素を特定するので、第１エッジ画素数に対する第２エッジ画素数の割合があらかじめ定められた値を超えており、且つ、合致度が最大である照合領域の位置から、撮像対象による撮像画像上の指示位置を特定することができる。

すなわち、上記の画像処理方法では、第１エッジ画素の特定結果に基づいてモデルパターンとのマッチングを行ない、マッチングされた照合領域について第１エッジ画素数のうち第２エッジ画素数の割合があらかじめ定められた値を超えたものを用いて、撮像対象による撮像画像上の指示位置を特定することができる。

このため、撮像された撮像画像の画像データを用いて撮像対象による撮像画像上の指示位置を高精度に特定することが可能となる。

本発明における画像処理装置は、撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置であって、前記画像データ上の一部の領域に含まれる照合領域と、あらかじめ定められたモデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出手段と、前記合致度算出手段による照合においてモデルパターンにマッチした画素ごとに、隣接する画素との画素値差に応じた特徴量を算出する特徴量算出手段と、前記特徴量算出手段により算出された特徴量が所定の閾値以上であるエッジ画素を特定するエッジ特定手段と、マッチした画素数とエッジ画素数との比率及び前記合致度算出手段により算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定手段とを備えている。

そして、前記位置特定手段は、例えば、マッチした画素数に対するエッジ画素数の割合があらかじめ定められた値を超えており、且つ、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大である照合領域の位置から、撮像対象による前記撮像画像上の指示位置を特定する。

上記の画像処理装置では、照合領域とモデルパターンとのマッチングを行ない、モデルパターンとマッチした画素数に対するエッジ画素数の割合があらかじめ定められた値を超えており、且つ、合致度が最大である照合領域の位置から、撮像対象による撮像画像上の指示位置を特定することができる。

すなわち、上記の画像処理方法では、マッチングされた照合領域についてマッチした画素数のうちエッジ画素数の割合があらかじめ定められた値を超えたものを用いて、撮像対象による撮像画像上の指示位置を特定することができる。

このため、撮像された撮像画像の画像データを用いて撮像対象による撮像画像上の指示位置を高精度に特定することが可能となる。

なお、上記の画像処理装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各手段として動作させることにより上記の画像処理装置をコンピュータにて実現させる画像処理プログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。

本発明の画像処理装置は、以上のように、前記第１エッジ画素のうち、前記特徴量が前記第１閾値よりも大きい第２閾値以上である第２エッジ画素を特定する第２エッジ特定手段と、第１エッジ画素数と第２エッジ画素数との比率及び前記合致度算出手段により算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定手段とを備えている。

それゆえ、撮像された撮像画像の画像データを用いて撮像対象による撮像画像上の指示位置を高精度に特定可能な画像処理装置を提供することができるという効果を奏する。

以下、本発明の実施の形態について、図面を参照しながら説明する。なお、同一部分には同一符号を付し、図面で同一の符号が付いたものは、説明を省略する場合もある。なお、本実施の形態では、画像表示部の例として液晶ディスプレイを採用した場合について説明するが、液晶ディスプレイ以外の画像表示部を採用する場合も本発明の適用範囲に含まれる。

（１．画像処理装置の構成）
図１は、本発明の実施の形態における画像処理装置１の構成を示すブロック図である。まず、本発明の実施の形態における画像処理装置１の構成及びその撮像画像の例について説明する。以下では、便宜上、画像処理装置１について説明するが、図１に示すように、本発明の実施の形態における画像処理装置１の機能を必要とする電子機器２０であれば、一般の電子機器に対して適用可能である。

最初に、画像処理装置１の構成の概要及び画像処理装置１の撮像原理について説明する。画像処理装置１は、表示機能を有しており、複数の画素から構成される液晶ディスプレイ（ディスプレイ）及び該液晶ディスプレイに光を照射するバックライトを備えている点は、通常の液晶ディスプレイと同様である。

そして、画像処理装置１における液晶ディスプレイは、各画素内に光センサー（撮像センサー）が内蔵され、該光センサーによって液晶ディスプレイの表示画面に近接してきた外部の物体等（撮像対象）を撮像し、画像データ（撮像センサーによって撮像された画像データ）として取り込むことが可能となっている点が、通常の液晶ディスプレイと異なっている。

なお、液晶ディスプレイは、複数の画素のうち、所定数の画素ごとに光センサーが内蔵されているものであっても良いが、光センサーによる撮像画像の解像度の観点から、光センサーは全画素に内蔵されていることが好ましい。

また、画像処理装置１の液晶ディスプレイは、通常の液晶ディスプレイと同様に、複数の走査線と複数の信号線とが交差するように配線され、この各交差部に画素が配置され、薄膜トランジスタ、及び各種容量を有する画素を備えた表示部と、走査線を駆動する駆動回路と、信号線を駆動する駆動回路とを備えているものである。

さらに、画像処理装置１の液晶ディスプレイは、例えば各画素内に光センサーとしてフォトダイオードを内蔵する構成となっている。このフォトダイオードには、キャパシタが接続され、表示画面から入射された光のフォトダイオードでの受光量の変化に応じてキャパシタの電荷量を変化させる構成となっている。そして、このキャパシタの両端の電圧を検出することにより画像データを生成し、画像の撮像（取り込み）を行なうようになっている。これが画像処理装置１の液晶ディスプレイによる撮像原理である。

なお、光センサーとしては、フォトダイオードに限られず、光電効果を動作原理とし、液晶ディスプレイ等の各画素に内蔵できるものであれば良い。

以上の構成により、画像処理装置１は、液晶ディスプレイ本来の画像を表示する表示機能に加え、表示画面に近接してきた外部の物体の画像（撮像対象）を撮像する撮像機能を備える構成となっている。それゆえ、ディスプレイの表示画面でのタッチ入力が可能な構成とすることができる。

ここで、図２（ａ）〜（ｈ）に基づき、画像処理装置１の液晶ディスプレイの各画素に内蔵されたフォトダイオードによって撮像される撮像対象について説明する。ここでは、「指の腹（以下、「指腹」と呼ぶ場合もある。）」及び「ペン先」の例を挙げ、それぞれの撮像画像（又は画像データ）の特徴の概要について説明する。

図２（ａ）は、周囲が暗い場合における指腹の撮像画像の様子を示す概要図であり、図２（ｂ）は、周囲が暗い場合における指腹の撮像画像の特徴を示す概要図である。図２（ａ）に示すように、ユーザが、暗い部屋で液晶ディスプレイの表示画面６５に、人差し指の腹を接触させた場合について考える。

この場合、図２（ｂ）の撮像画像６１は、バックライトが撮像対象（指腹）に反射して得られる画像であり、白い円形状がぼやけたような画像となる。なお、各画素における勾配方向は、おおよそ、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中心付近に向かう傾向を示している（ここでは、勾配方向は暗い部分から明るい部分に向かう向きを正としている。）。

次に、図２（ｃ）は、周囲が明るい場合における指腹の撮像画像の様子を示す概要図であり、図２（ｄ）は、周囲が明るい場合における指腹の撮像画像の特徴を示す概要図である。図２（ｃ）に示すように、ユーザが、明るい部屋で液晶ディスプレイの表示画面６５に、人差し指の腹を接触させた場合について考える。

この場合、図２（ｄ）の撮像画像６２は、外光６６が液晶ディスプレイの表示画面６５に入射することによって得られる画像（接触した場合は、バックライトによる反射光も混じる。）であり、人差し指で外光が遮られることによって生じた指の影と、液晶ディスプレイの表示画面に接触した指の腹にバックライトの光が反射してできた白い円形状がぼやけた部分とからなる。これらのうち白い円形状の部分における勾配方向は、上述した暗い部屋で指の腹を接触させた場合と同様の傾向を示すが、その周囲を囲む影は暗く、周囲が外光６６で明るいので、各画素における勾配方向は、白い円形状の部分における勾配方向と逆向きの傾向を示している。

図２（ｅ）は、周囲が暗い場合におけるペン先の撮像画像の様子を示す概要図であり、図２（ｆ）は、周囲が暗い場合におけるペン先の撮像画像の特徴を示す概要図である。図２（ｅ）に示すように、ユーザが、暗い部屋で液晶ディスプレイの表示画面６５に、ペン先を接触させた場合について考える。

この場合、図２（ｆ）の撮像画像６３は、バックライトが撮像対象（ペン先）に反射して得られる画像であり、小さな白い円形状がぼやけたような画像となる。なお、各画素における勾配方向は、おおよそ、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中心付近に向かう傾向を示している。

次に、図２（ｇ）は、周囲が明るい場合におけるペン先の撮像画像の様子を示す概要図であり、図２（ｈ）は、周囲が明るい場合におけるペン先の撮像画像の特徴を示す概要図である。図２（ｇ）に示すように、ユーザが、明るい部屋で液晶ディスプレイの表示画面６５に、ペン先を接触させた場合について考える。

この場合、図２（ｈ）の撮像画像６４は、外光６６が液晶ディスプレイの表示画面６５に入射することによって得られる画像（接触した場合は、バックライトによる反射光も混じる。）であり、ペンで外光が遮られることによって生じたペンの影と、液晶ディスプレイの表示画面６５に接触したペン先にバックライトの光が反射してできた小さな白い円形状がぼやけた部分とからなる。これらのうち小さな白い円形状の部分における勾配方向は、上述した暗い部屋でペン先を接触させた場合と同様の傾向を示すが、その周囲を囲む影は暗く、周囲が外光で明るいので、各画素における勾配方向は、小さな白い円形状の部分における勾配方向と逆向きの傾向を示している。

以上のような、各勾配方向の分布は、例えば、指のように表面が柔らかく、面に接触することにより接触面が円形になる場合、または先が丸いペンのように表面が固くても接触面が円形になるような場合には、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中心付近に向かうか、或いは、該中心付近から放射状にエッジ部分に向かうかのいずれかの傾向を示す。

また、接触面がその他の形状であっても、撮像画像におけるエッジ部分からエッジ部分に囲まれた領域の中に向かうか、或いは、エッジ部分に囲まれた領域の中からその領域の外側に向かうかのいずれかの傾向を示す。さらに、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。したがって、勾配方向は、パターンマッチングに適した量である。

次に、図１を用いて、本実施の形態における画像処理装置１の構成の詳細について説明する。

画像処理装置１は、図１に示すように、撮像された撮像画像の画像データを用いて、撮像対象による撮像画像上の指示位置を特定する機能を備えたものであり、低解像度化部２と、縦勾配量算出部（特徴量算出手段）３ａと、横勾配量算出部（特徴量算出手段）３ｂと、第１エッジ抽出部（第１エッジ特定手段）４と、方向特定部５と、効率化部６と、一致画素数算出部７と、モデルパターン・比較用一致パターン格納部８と、パターン合致度算出部９と、スコア算出部（合致度算出手段）１０と、位置特定部（位置特定手段）１１と、第２エッジ抽出部（第２エッジ特定手段）１５と、閾値調節部（閾値調節手段）１６と、閾値格納部１７と、を備えている。

低解像度化部２は、液晶ディスプレイに内蔵されている光センサーを用いて撮像された撮像画像の画像データを低解像度化する。

縦勾配量算出部３ａ及び横勾配量算出部３ｂは、画像データ上の画素ごとに、注目画素の画素値と複数の隣接画素の画素値とから注目画素の画素値の縦方向勾配量及び横方向勾配量を算出する。具体的には、Ｓｏｂｅｌ（ソベル）オペレータ、Ｐｒｅｗｉｔｔ（プリウイット）オペレータ等の公知のエッジ抽出オペレータを用いれば良い。

例えば、Ｓｏｂｅｌオペレータについて説明すると、各画素の画素位置ｘ（ｉ，ｊ）における局所的な縦方向勾配Ｓｙ及び横方向勾配Ｓｘは、次式（１）のように求められる。

Ｓ_ｘ＝ｘ_{ｉ＋１ｊ−１}−ｘ_{ｉ―１ｊ−１}＋２ｘ_ｉ＋１ｊ−２ｘ_ｉ―１ｊ＋ｘ_{ｉ＋１ｊ＋１}−ｘ_{ｉ―１ｊ＋１}
Ｓ_ｙ＝ｘ_{ｉ−１ｊ＋１}−ｘ_{ｉ−１ｊ−１}＋２ｘ_ｉｊ＋１−２ｘ_ｉｊ−１＋ｘ_{ｉ＋１ｊ＋１}−ｘ_{ｉ＋１ｊ−１}
・・・（１）
ここで、ｘ_ｉｊは画素位置ｘ（ｉ，ｊ）における画素値を表し、ｉは水平方向に沿った画素の位置を、ｊは垂直方向に沿った画素の位置をそれぞれ表す。ここに、ｉ及びｊは正の整数である。

ここで、式（１）は、次式（２）及び（３）の３×３のＳｏｂｅｌオペレータ（行列演算子Ｓｘ及びＳｙ）を、画素位置ｘ（ｉ，ｊ）を注目画素とする３×３画素に適用することと等価である。

ここで、画素位置ｘ（ｉ，ｊ）における勾配の大きさＡＢＳ（Ｓ）及び勾配方向ＡＮＧ（Ｓ）は、縦方向勾配Ｓｙ及び横方向勾配Ｓｘに基づいて、次のように与えられる。なお、以下では、演算子としての縦方向勾配Ｓｙ及び横方向勾配Ｓｘを各画素に適用することによって得られた縦方向勾配量及び横方向勾配量のそれぞれを、便宜上、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘと記載する場合がある。

ＡＢＳ（Ｓ）＝（Ｓｘ²＋Ｓｙ²）^1/2 ・・・（４）
ＡＮＧ（Ｓ）＝ｔａｎ^-1（Ｓｙ／Ｓｘ） ・・・（５）
第１エッジ抽出部４は、縦勾配量算出部３ａ及び横勾配量算出部３ｂが算出した各画素の縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘの算出結果から、撮像画像のエッジ部分の画素である第１エッジ画素を抽出（特定）する。

ここで、第１エッジ画素とは、画像データを構成する各画素のうち、明るさが急激に変化する部分（エッジ）における画素である。具体的には、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）が所定の第１閾値以上である画素のことである。

なお、この第１エッジ画素を抽出する目的は、方向特定部５が、抽出された複数の第１エッジ画素については勾配方向を特定し、第１エッジ画素以外の画素については一律無方向と看做して特定するようにする点にある。

パターンマッチングにおいて重要な情報は、エッジ部分の第１エッジ画素における勾配方向である。

したがって、あまり重要でない画素における勾配方向を一律無方向と看做すことで、パターンマッチングの効率化をさらに向上させることができる。また、以下で説明する撮像対象による撮像画像上の指示位置を検出する際のメモリ容量を少量化し、処理時間を短縮化することを可能とし、指示位置の検出処理のコストをさらに削減することができる。

方向特定部５は、上述したように、縦勾配量算出部３ａ及び横勾配量算出部３ｂが算出した縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘから、画素ごとの勾配方向ＡＮＧ（Ｓ）と、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）が第１閾値未満である無方向とのいずれかを特定するものである。

ここでは、無方向を第１閾値未満であると定義しているが、第１閾値以下と定義しても良い。

あらかじめ無方向を設定しておくことで、ノイズ等により不要な多数の勾配方向が発生することを抑制することができる。また、エッジ近傍の勾配方向に照合対象を絞りこむことが可能となり、照合の効率化を図ることができる。

なお、方向特定部５は、第１エッジ抽出部４によって特定された複数の第１エッジ画素の勾配方向を特定し、第１エッジ画素以外の画素を無方向と看做して特定することが好ましい。パターンマッチングにおいて重要な情報は、エッジ部分の第１エッジ画素における勾配方向であると言える。

したがって、パターンマッチングにおいてあまり重要でない画素における勾配方向を一律無方向と看做すことで、パターンマッチングの効率化をさらに向上させることができる。

ここで、勾配方向ＡＮＧ（Ｓ）は、０ｒａｄ〜２πｒａｄの範囲で変化する連続量であるから、本実施の形態においては、これを例えば８方向に量子化したものを勾配方向としてパターンマッチングに使用する特徴的な量（以下、「特徴量」と呼ぶことがある。）とする。

なお、より精度の高いパターンマッチングを行なうために、１６方位等に量子化しても良い。具体的な方向の量子化の詳細な手順については後述する。また、方向の量子化とは、勾配方向ＡＮＧ（Ｓ）が所定の範囲内にある方向を一律にある特定の方向の勾配方向であると看做して取り扱うことを言う。

効率化部６は、注目画素の周囲で所定の画素数を含む領域である照合領域と、あらかじめ定められたモデルパターンとの照合（以下、「パターンマッチング」と呼ぶこともある。）を行なう場合に、照合領域とモデルパターンとの照合の効率化を行なう。

一致画素数算出部７は、例えば、照合領域と、モデルパターンとの照合を行って、照合領域に含まれる勾配方向と、モデルパターンに含まれる勾配方向とが一致する画素数（以下、「一致画素数」と呼ぶ。）を算出する。

モデルパターン・比較用一致パターン格納部８は、モデルパターンと、比較用一致パターンとを格納する。比較用一致パターンは、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンを分析することによってあらかじめ定めたパターンである。モデルパターン・比較用一致パターン格納部８は、例えば、磁気テープやカセットテープ等のテープ系、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやコンパクトディスク−ＲＯＭ／ＭＯ／ＭＤ／デジタルビデオデイスク／コンパクトディスク−Ｒ等の光ディスクを含むディスク系、ＩＣカード（メモリカードを含む）／光カード等のカード系、あるいはマスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ系等を用いることができる。

パターン合致度算出部９は、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンと、あらかじめ定められた比較用一致パターンとが類似する度合いを示すパターン合致度を算出する。

画素値の勾配はベクトル量であり、大きさ（勾配の大きさＡＢＳ（Ｓ））と向き（勾配方向ＡＮＧ（Ｓ））とを持つものである。ここで、特に、勾配方向（向き）は、例えば８方向に量子化したりすることによって、１つの画素がとり得る状態を８（無方向を含めると９）という極めて少ない状態に離散化することでき、さらにそれぞれの状態には、方向が異なるという識別が容易な特徴を持たせる事ができる。

また、勾配方向は、上述したような傾向がある。また、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。したがって、勾配方向は、パターンマッチングに適した量である。

スコア算出部１０は、一致画素数算出部７が算出した一致画素数、及びパターン合致度算出部９が算出したパターン合致度から、照合領域とモデルパターンとのマッチングの度合いを示す合致度を算出する。なお、スコア算出部１０は、一致画素数算出部７が算出した一致画素数、及びパターン合致度算出部９が算出したパターン合致度のいずれか１つを使用するよう構成しても良い。

また、スコア算出部１０は、照合領域内において合致する勾配方向の種類数が、あらかじめ定められた規定種類数以上の場合に、合致度を算出するようにしても良い。

上述のように、勾配方向は、おおよその傾向がある。また、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。よって、例えば、勾配方向の種類数が８方向の場合、パターンマッチングで一致する勾配方向の種類数は８に近いものとなるはずである。したがって、上記の照合領域内において合致する勾配方向の種類数が、あらかじめ定められた規定種類数以上の場合に、合致度を算出するようにすれば、指示位置の検出処理のメモリ容量を少量化すること及び処理時間を短縮化することを可能とし、指示位置の検出処理のコストをさらに削減させることができる。

さらに、スコア算出部１０は、自身が算出した合致度が所定の値以上である場合には、後述する第２エッジ抽出部１５から、その合致度に対応する照合領域についての、第１エッジ抽出部４により抽出された第１エッジ画素数及び第２エッジ抽出部１５により抽出された第２エッジ画素数を取得する。そして、スコア算出部１０は、第１エッジ画素のうち第２エッジ画素が占める割合が所定の値を超えているか否かを判断し、超えているとの判断結果に基づいて自身が算出した合致度を位置特定部１１に出力する。一方、スコア算出部１０は、超えていないとの判断に基づいて自身が算出した合致度は、位置特定部１１に利用されることが回避されることになる。

要は、スコア算出部１０が、自身が算出する合致度のうち、それぞれに対応する、第１エッジ画素のうち第２エッジ画素が占める割合が所定の値を超えているものに限り、位置特定部１１に出力するように構成されていればよい。

位置特定部１１は、スコア算出部１０が算出した合致度が最大となる画素（以下、「ピーク画素」と呼ぶ。）の位置から、撮像対象による撮像画像上の指示位置を特定する。位置特定部１１は、ピーク探索部（ピーク画素特定手段、位置特定手段）１２と、座標算出判定部（座標算出判定手段、位置特定手段）１３と、座標算出部（座標算出手段、位置特定手段）１４と、を有している。

ピーク探索部１２は、注目画素の周囲で所定の画素数を含む探索領域（以下、「第１領域」と呼ぶ場合がある。）内で、スコア算出部１０が算出した合致度が最大値をとる画素であるピーク画素を探索する。

座標算出判定部１３は、探索領域の画素数よりも少ない所定の画素数を有すると共に、探索領域内に完全に包含される小領域（以下、「第２領域」と呼ぶ場合がある。）内に、ピーク探索部１２が発見したピーク画素が存在することを判定した場合に、座標算出部１４に撮像対象による撮像画像上の指示位置を算出させる。

座標算出部１４は、ピーク探索部１２が発見したピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域内の、画素ごとの合致度を用いて、撮像対象による撮像画像上の指示位置を算出するものである。

第２エッジ抽出部１５は、縦勾配量算出部３ａ及び横勾配量算出部３ｂが算出した各画素の縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘの算出結果から、撮像画像のエッジ部分の画素である第２エッジ画素を抽出（特定）する。

ここで、第２エッジ画素は、第１エッジ抽出部４により抽出される第１エッジ画素と同様、画像データを構成する各画素のうち、明るさが急激に変化する部分（エッジ）における画素である。そして、この第２エッジ画素は、第１エッジ抽出部４により先に抽出された第１エッジ画素のうち、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）が第１閾値よりも大きい第２閾値以上である画素のことである。

画像処理装置１の表示画面に近接して来る外部の物体である指腹、ペン等が表示画面に実際に接触した場合、表示画面に直接接触したエッジにおける明るさの変化幅、つまり、そのエッジ強さは、表示画面に近接するものの直接は接触しないエッジと比較して、大きくなる傾向にある。例えば、表示画面に接触したタッチ指と浮いている非タッチ指との間では、指先のエッジの強さ、つまり、指先と背景との画素値差は異なるものとなる。タッチ指の撮像画像はくっきりするため、そのエッジは強いが、非タッチ指は撮像画像がぼけるため、そのエッジは弱くなる。

そこで、第２エッジ抽出部１５は、第１エッジ抽出部４により抽出された第１エッジ画素のうち、第１閾値よりも大きい第２閾値以上である、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）を持つ第２エッジ画素を抽出する。

そして、第１エッジ画素のうち第２エッジ画素が占める割合が所定の値を超えていれば表示画面に近接する外部の物体が実際に表示画面に接触しているものとする。

このことが第２エッジ画素を抽出する目的である。

閾値調節部１６は、第２エッジ抽出部１５が第２エッジ画素を抽出する際に利用する第２閾値を調節する。

上述したように、画像処理装置１の表示画面に近接して来る外部の物体のエッジ強さは、画像処理装置１の利用空間の明るさに応じて変化してしまう。そこで、閾値調節部１６は、画像処理装置１の利用空間の明るさを取得し、その利用空間の明るさに応じて第２閾値を調節する。

また、閾値調節部１６は、画像処理装置１の利用空間の明るさを取得する際、例えば、画像処理装置１の利用空間に配置された照度計の測定結果から利用空間の明るさを取得すればよい。また、表示画面に利用空間の明るさを検知するための専用の光センサーを配置し、その光センサーの検知結果から利用空間の明るさを取得してもよい。

閾値格納部１７は、画像処理装置１の利用空間の明るさに応じて第２エッジ抽出部１５が利用すべき第２閾値をテーブル形式であらかじめ格納している。閾値格納部１７は、例えば、撮像画像上における背景画像の画素値に一対一に対応する、複数の第２閾値をあらかじめ格納している。撮像画像が２５６階調で表示される場合であれば、閾値格納部１７は、背景画素が０〜２５５階調の各々の場合についての第２閾値を格納していることになる。

また、閾値格納部１７は、例えば、磁気テープやカセットテープ等のテープ系、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやコンパクトディスク−ＲＯＭ／ＭＯ／ＭＤ／デジタルビデオデイスク／コンパクトディスク−Ｒ等の光ディスクを含むディスク系、ＩＣカード（メモリカードを含む）／光カード等のカード系、あるいはマスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ系等を用いることができる。

（２．画像処理装置の動作の概要）
次に、画像処理装置１の動作の概要について説明する。

図３は画像処理装置１の全体的な動作の概要を示すフローチャートである。ステップＳ１０１では、図１の低解像度化部２が画像データを低解像度化し、Ｓ１０２に進む。例えば、３２０×２４０画素の画像データであれば、１６０×１２０画素（低解像度化率１／２）、又は８０×６０画素（低解像度化率１／４）等のようにバイリニア縮小させる。ここで、バイリニア縮小とは、例えば２×２の各画素が持つ画素値の平均値をとり、２×２画素のデータを、該平均値を持った１×１画素のデータに置き換えることにより、全体として１／４の情報圧縮を行なうことを言う。

なお、高速処理の観点からは、できるだけ低解像度化することが好ましいが、必要なエッジ情報等を得るためには、例えば３２０×２４０画素（１５０ｄｐｉ）の画像データの場合であれば、８０×６０画素（低解像度化率１／４）を低解像度化の限度とすることが好ましい。また、高精度処理の観点からは、低解像度化を全く行なわないか、低解像度化するとしても、１６０×１２０画素（低解像度化率１／２）に留めることが好ましい。

以上の画像データの低解像度化により、パターンマッチングの処理コストやメモリ容量の少量化、及び処理時間の短縮化を図ることがきる。

Ｓ１０２では、縦勾配量算出部３ａ及び横勾配量算出部３ｂが、画像データ上の画素ごとに、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘを算出してから、方向特定部５が、画素ごとの勾配方向と無方向とのいずれかを特定するまでの過程（勾配方向・無方向特定過程）を経た上で、Ｓ１０３に進む。

Ｓ１０３では、効率化部６で、照合領域と、モデルパターンとの照合を行なう場合に、照合領域とモデルパターンとの照合の効率化を図るか否か、つまり、照合効率化の要否を選択する。照合効率化を行なう場合（Ｙｅｓ）には、Ｓ１０４に進み、効率化部６で照合効率化を行った上でＳ１０５に進み、照合効率化を行なわない場合（Ｎｏ）にはＳ１０８に進み、効率化部６は何もせず、そのままの情報（画像データ、但し、低解像度化部２で、低解像度化している場合には、低解像度化後の画像データ）でＳ１０５に進む。

Ｓ１０５では、一致画素数算出部７が、照合領域とモデルパターンとの照合を行って、一致画素数を算出し、パターン合致度算出部９が、パターン合致度を算出してから、スコア算出部１０が、一致画素数算出部７が算出した一致画素数、及び、パターン合致度算出部９が算出したパターン合致度から、合致度を算出するまでの過程（パターンマッチング過程）を経た上で、Ｓ１０６に進む。

Ｓ１０６では、第２エッジ抽出部１５が、第２エッジ画素を抽出してから、スコア算出部１０が、自身が算出した合致度を位置特定部１１に出力するまでの過程（接触・非接触判定過程）を経た上で、Ｓ１０７に進む。

Ｓ１０７では、位置特定部１１が、スコア算出部１０が算出した合致度が最大となる画素（以下、「ピーク画素」と呼ぶ。）の位置から、撮像対象による撮像画像上の指示位置を特定して「エンド」となる（ポインティング位置特定過程）。

以上が、画像処理装置１の全体の動作概要である。以下では、勾配方向・無方向特定過程、照合効率化、パターンマッチング過程、接触・非接触特定過程及びポインティング位置特定過程における画像処理装置１の各動作について説明する。

（３．勾配方向・無方向特定過程）
まず、図１、図４、図５（ａ）及び図５（ｂ）に基づいて、勾配方向・無方向特定過程における画像処理装置１の動作について説明する。

図４は、画像処理装置１の動作のうち、勾配方向・無方向特定過程の動作を示すフローチャートである。図５（ａ）は、勾配方向・無方向特定過程において参照されるテーブルの一例であり、図５（ｂ）は、勾配方向・無方向特定過程において参照されるテーブルの他の例である。

図４のフローチャートでは、まず、縦勾配量算出部３ａ及び横勾配量算出部３ｂがそれぞれ、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘを算出してからスタートする。

Ｓ２０１では、第１エッジ抽出部４が、各画素における勾配の大きさＡＢＳ（Ｓ）が第１閾値以上か否かを判定し、ＡＢＳ（Ｓ）≧第１閾値ならば（Ｙｅｓ）、Ｓ２０２に進み、ＡＢＳ（Ｓ）＜第１閾値ならば（Ｎｏ）、Ｓ２１０に進む。なお、本実施の形態では、ＡＢＳ（Ｓ）＝Ｓｘ×Ｓｘ＋Ｓｙ×Ｓｙとして計算しているが、この量は、上式（４）における厳密な意味で勾配の大きさと異なる。しかし、実装上はこのように勾配の大きさを定義しても問題は無い。

Ｓ２１０に進んだ場合には、方向特定部５は、対象となっている画素、つまり、第１エッジ画素以外の画素を無方向と設定（特定）し、次の画素へ進んで、Ｓ２０１に戻る。なお、Ｓ２０２に進んだ場合には、対象となっている画素は、無論、第１エッジ画素である。

Ｓ２０２では、方向特定部５が、横方向勾配量Ｓｘが０であるか否かを判定し、Ｓｘ≠０ならば、Ｓ２０３（Ｙｅｓ）に進み、Ｓｘ＝０ならば、Ｓ２０６（Ｎｏ）に進む。

Ｓ２０３では、方向特定部５は、横方向勾配量Ｓｘが正の値をとるか否かを判定し、Ｓｘ＞０ならば、Ｓ２０４（Ｙｅｓ）に進み、方向特定部５は、図５（ａ）のテーブルにしたがって、該当画素について、勾配方向ＡＮＧ（Ｓ）に応じて量子化された勾配方向を設定する。

一方、Ｓｘ＜０ならば、Ｓ２０５に進み、方向特定部５は、図５（ｂ）のテーブルにしたがって、該当画素について、勾配方向ＡＮＧ（Ｓ）に応じて量子化された勾配方向を設定する。

次に、Ｓ２０６では、方向特定部５は、縦方向勾配量Ｓｙが０か否かを判定し、Ｓｙ≠０ならば、Ｓ２０７（Ｙｅｓ）に進み、Ｓｙ＝０ならば、Ｓ２１０（Ｎｏ）に進み、該当画素を無方向と設定し、次の画素へ進んでＳ２０１に戻る。

Ｓ２０７では、方向特定部５は、縦方向勾配量Ｓｙが正の値をとるか否かを判定し、Ｓｙ＞０ならば、Ｓ２０８（Ｙｅｓ）に進み、該当画素の勾配方向を上向きに設定して、Ｓ２０１に戻る。

一方、Ｓｙ＜０ならば、Ｓ２０９（Ｎｏ）に進み、該当画素の勾配方向を下向きに設定して、次の画素へ進んでＳ２０１に戻る。

以上の工程は、すべての画素の勾配方向・無方向の設定が終わるまで繰り返される。

パターンマッチングにおいて重要な情報は、エッジ部分の画素である第１エッジ画素における勾配方向である。

したがって、上記の動作により、あまり重要でない第１エッジ画素以外の画素における勾配方向を一律無方向と看做すことで、パターンマッチングの効率化をさらに向上させることができる。また、撮像対象による撮像画像上の指示位置の検出を可能としてメモリ容量を少量化すること及び処理時間を短縮化することを可能とし、指示位置の検出処理のコストをさらに削減させることができる。

（４．照合効率化）
次に、画像処理装置１のおける照合効率化について説明する。

図１に示す効率化部６は、照合領域を、複数の同一画素数の分割領域に分割すると共に、分割領域ごとに、分割領域に含まれる画素ごとの勾配方向及び無方向の情報を、分割領域に含まれる勾配方向及び前記無方向の情報に置き換えることで、照合領域とモデルパターンとの照合の効率化を図る。

また、スコア算出部１０は、効率化部６によって照合の効率化が行なわれた照合領域とモデルパターンとの照合を行なって、照合領域内のそれぞれの分割領域に含まれる勾配方向と、モデルパターンにおける勾配方向との一致数を、前記合致度として算出する。

上述のように、勾配方向は、おおよその傾向がある。また、これらの傾向は、撮像対象の状況等に応じて、大きく変わることは無い。したがって、分割領域の画素数をあまり大きくしなければ、該分割領域内における勾配方向の画素の位置は、勾配方向を用いたパターンマッチングにおいてあまり重要な情報ではない。

そこで、分割領域ごとに、分割領域に含まれる画素ごとの勾配方向及び無方向の情報を、分割領域に含まれる勾配方向及び無方向の情報に置き換えることにより、パターンマッチングの照合精度を維持しつつ、照合効率化が可能となる。また、この効率化に伴い、撮像対象による前記撮像画像上の指示位置の検出処理に要するコストを削減することもできる。

以上より、パターンマッチングの照合精度を維持しつつ、照合効率化を可能とし、撮像対象による撮像画像上の指示位置の検出処理に要するコストを削減することができる画像処理装置１を提供することができる。

ここで、図６（ａ）及び図６（ｂ）に基づき、画像処理装置１における照合効率化の具体例について説明する。

まず、図６（ａ）に示すように、周囲が暗い場合における画像データの各画素における勾配方向の分布の特徴は、中央にほぼ円形状である、無方向の画素の領域があり、その回りをとり囲むようにして該無方向の領域に向かう向きの勾配方向を持つ画素が多数分布している。

次に、図６（ｂ）は、図６（ａ）の画像データについて照合効率化を行った後の様子を示す概要図である。

図６（ａ）に示すように、１４×１４画素の領域（照合領域）を、複数の２×２画素の領域（分割領域）に分割すると共に、２×２画素の領域ごとに、２×２画素の領域に含まれる画素ごとの勾配方向及び無方向の情報を、２×２画素の領域に含まれる勾配方向及び無方向の情報に置き換えることで、１４×１４画素の領域とモデルパターン（モデルパターンの例については後に詳しく説明する。）との照合の効率化が行われる。

たとえば、図６（ａ）に示す１４×１４画素の領域を分割した複数の２×２画素領域のうち、上から２つめ、左から１つめの２×２画素の領域には、左上の画素が「無方向」、右上の画素が「右下向き（勾配方向）」、左下の画素が「右向き（勾配方向）」、及び右下の画素が「右下向き（勾配方向）」となっている。この２×２画素の領域について各勾配方向の存在位置に関する情報を省略したものが、図６（ｂ）の上から２つめ、左から１つめのブロック（以下、便宜上「画素」と呼ぶ場合がある。）である。他のブロックも同様にして生成することができる。結果として、図６（ａ）に示す１４×１４画素領域は、合計７×７＝４９個の２×２画素領域に分割される。

次に、図７（ａ）〜図９（ｂ）に基づき、照合領域と照合されるモデルパターンの具体例について説明する。

図７（ａ）は、周囲が暗い場合における照合効率化前の画像データと照合されるモデルパターンの一例を示す概要図である。また、図７（ａ）のモデルパターンは、図６（ａ）に示す１４×１４画素の領域とパターンマッチングを行なう場合を想定したものである。また、撮像対象としては、指腹を想定している。

ところで、図７（ａ）のモデルパターンは、１３×１３画素のモデルパターンとなっている。この場合、図６（ａ）に示す１４×１４画素の領域と全画素数が異なっているが、この例のように照合領域とモデルパターンとの画素数は必ずしも一致しなくても良い。

また、奇数×奇数（１３×１３）としているのは、中心の画素が１つとなるようにするためである。この中心の画素を画像データ上の着目画素にあわせて１画素づつ、ずらせてパターンマッチングを行なう。

この場合の一致画素数は、１画素ごとに照合されて算出されるので、１３×１３＝１６９画素の照合が必要となる。

一方、図７（ｂ）は、周囲が明るい場合における照合効率化前の画像データと照合されるモデルパターンの一例を示す概要図である。図７（ａ）のモデルパターンと比較すると各画素の勾配方向が逆向きになっている。図７（ａ）は、バックライトの光の反射光を基礎として撮像された画像データを想定したものであり、中央に向かうほど明るくなっている様子を示している。一方、図７（ｂ）は、外光を基礎として撮像された画像データを想定したものであり、画像のエッジ部分に向けて明るくなっている様子を示している。

次に、図８（ａ）は、周囲が暗い場合における照合効率化後の画像データと照合されるモデルパターンの一例を示す概要図である。図８（ａ）のモデルパターンは、図６（ｂ）の照合効率化後の照合領域とのパターンマッチングを想定したものである。この例のように、照合領域とモデルパターンとデータ形式は必ずしも同一でなくても良い。この例では、２×２画素の領域を１画素（与えられる勾配方向は１つ）と看做してモデルパターンを簡略化することにより、さらなる照合の効率化を図っている。

図８（ｂ）は、周囲が明るい場合における照合効率化後の画像データと照合されるモデルパターンの一例を示す概要図である。図８（ａ）は、バックライトの光の反射光を基礎として撮像された画像データを想定したものであり、中央に向かうほど明るくなっている様子を示している。一方、図８（ｂ）は、外光を基礎として撮像された画像データを想定したものであり、画像のエッジ部分に向けて明るくなっている様子を示している。

図９（ａ）は、周囲が暗い場合における照合効率化後の画像データと照合されるモデルパターンの他の例を示す概要図である。図８（ａ）のモデルパターンとの違いは、２×２画素分が１つの領域に纏められているが、該１つの領域ごとに、２つの勾配方向（又は無方向）の自由度が与えられている点である。このようなモデルパターンを工夫することにより、照合の効率化を図りつつ、照合精度を高めることができる。

図９（ｂ）は、周囲が明るい場合における照合効率化後の画像データと照合されるモデルパターンの他の例を示す概要図である。図９（ａ）は、バックライトの光の反射光を基礎として撮像された画像データを想定したものであり、中央に向かうほど明るくなっている様子を示している。一方、図９（ｂ）は、外光を基礎として撮像された画像データを想定したものであり、画像のエッジ部分に向けて明るくなっている様子を示している。

（５．パターンマッチング過程）
次に、画像処理装置１におけるパターンマッチングの過程について説明する。

図１０は、図１に示す画像処理装置１の動作のうち、パターンマッチング過程の動作を示すフローチャートである。

Ｓ３０１では、一致画素数算出部７が、照合領域とモデルパターンとの照合を行って、照合領域に含まれる勾配方向と、モデルパターンに含まれる勾配方向とが一致する画素数（一致画素数）を算出してＳ３０２に進む。

Ｓ３０２では、効率化部６を備えていない場合には、方向特定部５が、効率化部６を備えている場合には、効率化部６が、勾配方向のパターン合致度も算出するかどうかを決定し、パターン合致度の算出を決定した場合には、パターン合致度算出部９に通知してＳ３０３（Ｙｅｓ）に進む。一方、パターン合致度の算出を行なわないことを決定した場合には、スコア算出部１０に通知してＳ３０４に進む。

なお、ここでは、一致画素数が必ず算出される場合について説明しているが、このような場合に限られず、パターン合致度のみを算出する構成を採用しても良い。

また、パターン合致度とは、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンと、あらかじめ定められ、モデルパターン・比較用一致パターン格納部８に記録されている比較用一致パターンとが類似する度合いを示す量である。

Ｓ３０３では、パターン合致度算出部９が、方向特定部５又は効率化部６からパターン合致度の算出を決定した旨の通知を受けて、パターン合致度を算出し、Ｓ３０４に進む。

Ｓ３０４では、パターン合致度算出部９が、パターン合致度の算出を行っていない場合には、一致画素数算出部７が算出した一致画素数を、照合領域と前記モデルパターンとのマッチングの度合いを示す合致度として算出する。一方、パターン合致度算出部９が、パターン合致度の算出を行っている場合には、一致画素数算出部７が算出した一致画素数及びパターン合致度算出部９が算出したパターン合致度を、合算した量を照合領域とモデルパターンとのマッチングの度合いを示す合致度として算出する。

次に、パターンマッチング過程におけるスコア算出部１０の具体的なスコア（合致度）算出方法について説明する。

図１１（ａ）は、照合効率化前の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、図１１（ｂ）は、その合致度算出方法の一例を示す図である。

図１１（ａ）は、図６（ａ）の照合領域と、図７（ａ）のモデルパターンとのパターンマッチングを行ったものを示している。ここで、図の中央の７行７列（以下では、横方向に並ぶ画素を「列」、縦方向に並ぶ画素を「行」と呼ぶ。また、上から行、左から列を数える。）にある１×１画素はスコアが付与される注目画素の位置である。網掛けされた部分は、照合領域とモデルパターンとで、勾配方向が一致している画素を示している。

図１１（ｂ）に示す、一致パターンは、一致した方向の種類数を見る場合のテーブルを示している。本例では、８方向のすべてについて一致した画素が存在していることを示している。

次に、図１１（ｂ）に示す、一致画素数の計算は、上記網掛けの部分を左上の１行１列の画素から、右下の１３行１３列の画素までの一致画素数を算出する方法の一例を示すものである。ここでは、勾配方向が与えられている画素で、モデルパターンの勾配方向と一致した画素を「１」とし、無方向及びモデルパターンの勾配方向と一致していない画素は「０」として計算している。なお、無方向と判定された画素は、最初から計算に含めない構成としても良い。ここでは、網掛けで示された一致画素数は「８５」であるとの算出結果を得ている。なお、この一致画素数をスコア（合致度）として用いても良いが、以下で説明するような正規化一致画素数（合致度）を用いても良い。

次に、図１１（ｂ）に示す、正規化一致画素数について説明する。この正規化一致画素数は、例えば、照合精度を高めるためモデルパターンを複数種類用意してパターンマッチングを行なう場合（例えば、２１×２１、１３×１３、及び７×７画素の３種類のモデルパターン）に、モデルパターンのサイズに依存しない量として一致画素数を正規化するものである。

ここでは、正規化一致画素数を、次式（６）で定義する。

正規化一致画素数＝適当な定数×（一致画素数／モデル中の方向成分が存在する要素数） ・・・・（６）
なお、「適当な定数」は、計算の便宜等を考慮して適宜定めれば良い。ここでは、正規化一致画素数が０〜１０の範囲となるように、適当な定数＝１０と設定している。なお、以下で説明するパターンマッチングの例においても正規化一致画素数を使用しているが、説明は省略する。

（６）式から、図１１（ａ）の場合の正規化一致画素数を求めると以下のようになる。

正規化一致画素数＝１０×（８５／１３６）＝６．２５≒６
次に、図１２（ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、図１１（ｂ）は、その合致度算出方法の一例を示す図である。

図１２（ａ）は、図６（ｂ）の照合効率化後の照合領域と、図８（ａ）のモデルパターンとのパターンマッチングを行ったものを示している。ここで、図の中央の４行４列にある１×１画素（２×２画素に相当するものであるが、便宜上「画素」と言う。）は、スコアが付与される注目画素の位置である。網掛けされた部分は、照合領域とモデルパターンとで、勾配方向が一致している場合がある画素を示している。

図１２（ｂ）に示す、一致パターンは、一致した方向の種類数を見る場合のテーブルを示している。本例では、８方向のすべてについて一致した画素が存在していることを示している。

次に、図１２（ｂ）に示す、一致画素数の計算は、上記網掛けの部分を左上の１行１列の画素から、右下の７行７列の画素までの一致画素数を算出する方法の一例を示すものである。ここでは、例えば、１行２列では、照合領域では、勾配方向が「右下」の画素が「３つ」存在しており、一方、モデルパターンの勾配方向は、１つであるが、「右下」である。従って、この場合の一致画素数は、「３」と計算する。

他の例では、２行１列では、照合領域では、勾配方向が「右下」の画素が「２つ」と、「右」が「１つ」存在しており、一方、モデルパターンの勾配方向は、１つであるが、「右下」である。勾配方向は、「右下」が「２つ」一致しているが、「右」は一致していない。従って、この場合の一致画素数は、「２」と計算する。なお、ここでは、無方向と判定された画素は、最初から計算に含めない構成としている。

以上の計算をすべての画素について行なえば、網掛けで示された部分の一致画素数は「９１」であるとの算出結果を得ている。なお、この一致画素数をスコア（合致度）として用いても良いが、以下で説明するような正規化一致画素数を用いても良い。

ここでは、正規化一致画素数を、次式（７）で定義する。

正規化一致画素数＝適当な定数×（一致画素数／モデル中の方向成分が存在する要素数を４倍した値） ・・・・（７）
適当な定数＝１０と設定している。

（７）式から、図１１（ａ）の場合の正規化一致画素数を求めると以下のようになる。

正規化一致画素数＝１０×（９１／１７６）＝５．１７≒５
次に、図１３（ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、図１３（ｂ）は、その合致度算出方法の一例を示す図である。

図１３（ａ）は、図６（ｂ）の照合効率化後の照合領域と、図９（ａ）のモデルパターンとのパターンマッチングを行ったものを示している。ここで、図の中央の４行４列にある１×１画素（２×２画素に相当するものであるが、便宜上「画素」と言う。）は、スコアが付与される注目画素の位置である。網掛けされた部分は、照合領域とモデルパターンとで、勾配方向が一致している場合がある画素を示している。

図１３（ｂ）に示す、一致パターンは、一致した方向の種類数を見る場合のテーブルを示している。本例では、８方向のすべてについて一致した画素が存在していることを示している。

次に、図１３（ｂ）に示す、一致画素数の計算は、上記網掛けの部分を左上の１行１列の画素から、右下の７行７列の画素までの一致画素数を算出方法の一例を示すものである。ここでは、例えば、１行２列では、照合領域では、勾配方向が「右下」の画素が「３つ」存在しており、一方、モデルパターンの勾配方向は、２つであり、「右下」が「１つ」に「下」が「１つ」である。従って、「右下」が一致しているので、この場合の一致画素数は、「３」と計算する。

他の例では、２行１列では、照合領域では、勾配方向が「右下」の画素が「２つ」と、「右」が「１つ」存在しており、一方、モデルパターンの勾配方向は、２つであるが、「右」が「１つ」と「右下」が「１つ」である。勾配方向は、「右」が「１つ」と「右下」が「２つ」一致している。従って、この場合の一致画素数は、「３」と計算する。なお、ここでは、無方向と判定された画素は、最初から計算に含めない構成としている。

ここで、下線を引いた数字と、引いてない数字とが記載されているが、下線を引いた数字は、図１２（ａ）の場合と比較して、一致画素数が増加しているものを示している。

この結果は、図８（ａ）のモデルパターンよりも図９（ａ）のモデルパターンを使用した場合の方が、より変形に強い（円形からの歪に対するロバスト性の高い）パターンマッチングが行なえることを示している。

以上の計算をすべての画素について行なえば、網掛けで示された部分の一致画素数は「１１９」であるとの算出結果を得ている。なお、この一致画素数をスコア（合致度）として用いても良いが、以下で説明するような正規化一致画素数を用いても良い。

（７）式から、図１３（ａ）の場合の正規化一致画素数を求めると以下のようになる。

正規化一致画素数＝１０×（１１９／１７６）＝６．７６≒７
次に、図１４〜図１７（ｂ）に基づき、図１のスコア算出部１０が、一致画素数と合致パターンとを併用して、スコア（合致度）を算出する場合について説明する。

図１４は、画像処理装置１におけるパターンマッチングにおいて一致画素数とパターン合致度とを併用する場合について説明するためのフローチャートである。

図１４のＳ４０１では、一致画素数算出部７が、一致画素数を初期化して、Ｓ４０２に進む。Ｓ４０２では、パターン合致度算出部９が一致パターンの初期化を行ってＳ４０３に進む。ここでは、勾配方向の種類数を初期化している様子を示している。すべての勾配方向が「無」と表示されているのは、このことを示している。

Ｓ４０３では、一致画素数算出部７とパターン合致度算出部９とが１画素ごとに（照合効率化後の画素も含む）勾配方向の照合等を行って、Ｓ４０４に進む。

Ｓ４０４では、方向が一致すれば（Ｙｅｓ）Ｓ４０５に進み、一致画素数算出部７が一致画素数に一致した方向の要素数（効率化処理なしの場合は「１」）を加えてＳ４０６に進み、一方、方向が一致する画素が全くなければ、（Ｎｏ）Ｓ４０１に戻る。

Ｓ４０６では、パターン合致度算出部９が一致した勾配方向を「有」と更新して、Ｓ４０７に進む。

Ｓ４０７では、一致画素数算出部７及びパターン合致度算出部９がモデルパターンの全要素（画素）について照合が終了した場合には、（Ｙｅｓ）Ｓ４０８に進み、照合が終了していない場合には、（Ｎｏ）Ｓ４０３に戻る。

Ｓ４０８では、パターン合致度算出部９が一致パターンのチェックを行ない、Ｓ４０９に進む。この一致パターンのチェックの詳細については、後に説明する。

Ｓ４０９では、パターン合致度算出部９が、モデルパターン・比較用一致パターン格納部８を参照して、「許可パターン」に該当するか否かを判定し、許可パターンに該当する場合は、（Ｙｅｓ）Ｓ４１０に進む。一方、許可パターンに該当しない場合は、（Ｎｏ）Ｓ４０４に戻る。

なお、パターン合致度算出部９は、「許可パターン」に該当する場合にはパターン合致度を「１」とし、「許可パターン」に該当しない場合にはパターン合致度を「０」とし、スコア算出部１０は、一致画素数算出部７が算出した一致画素数にこれらの数値を掛ける構成が考えられる。

Ｓ４１０では、スコア算出部１０が、一致画素数算出部７が算出した一致画素数から正規化一致画素数を算出してパターンマッチングのスコア（合致度）とする。

次に、図１５（ａ）及び図１５（ｂ）に基づき、上記パターンマッチングにおける一致パターンのチェックの一例について説明する。

図１５（ａ）は、パターン合致度算出過程の一例を示すフローチャートであり、図１５（ｂ）は、パターン合致度算出過程の他の例を示すフローチャートである。

なお、ここでは、勾配方向の種類は８方向あり、勾配方向種類数の閾値（ＤＮ）を５に設定した場合について説明する。

図１５（ａ）に示すように、Ｓ５０１では、パターン合致度算出部９が、一致パターンの「有」の数が５以上の場合には、Ｓ５０２に進み、一致パターンの許可を行なう。

一方、パターン合致度算出部９は、一致パターンの「有」の数（勾配方向種類数）が５未満の場合には、Ｓ５０３に進み、一致パターンの不許可を行なう。

同様に、図１５（ｂ）には、パターン合致度算出部９が、一致パターン中の最大連接数（連続一致数）を算出し、一致パターン中の最大連接数（連続一致数）の閾値（ＤＮ）を上記と共通の５に設定した場合が異なること以外は、Ｓ６０１〜Ｓ６０３のフローは、図１５（ａ）のＳ５０１〜Ｓ５０３のフローと同様であるので、ここでは、説明を省略する。

次に、図１６（ａ）〜図１６（ｃ）に基づき、一致パターンのチェックにおける第１の例を説明する。

図１６（ａ）は、パターン合致度算出過程の一例を示す概要図であり、図１６（ｂ）は、パターン合致度算出過程の他の例を示す概要図であり、図１６（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。

図１６（ａ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「８」方向がすべて存在しているので、閾値の５を超えており、図１５（ａ）のフローでは、「許可パターン」と判定される。一方、一致パターン中の最大連接数、「有」が連接して存在する数は、「８」となり、閾値の５を超えており、図１５（ｂ）のフローでも、「許可パターン」と判定される。したがって、図１６（ａ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。

図１６（ｂ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「６」方向が存在しているので、閾値の５を超えており、図１５（ａ）のフローでは、「許可パターン」と判定される。一方、一致パターン中の最大連接数、「有」が連接して存在する数は、「６」となり、閾値の５を超えており、図１５（ｂ）のフローでも、「許可パターン」と判定される。したがって、図１６（ｂ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。

図１６（ｃ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「６」方向が存在しているので、閾値の５を超えており、図１５（ａ）のフローでは、「許可パターン」と判定される。一方、一致パターン中の最大連接数、「有」が連接して存在する数は、「６」となり、閾値の５を超えており、図１５（ｂ）のフローでも、「許可パターン」と判定される。なお、この例のように、一致パターンのテーブルの左端と右端とは、繋がっている（周期的境界条件）ものとして、一致パターン中の最大連接数を算出する。

以上の結果、図１６（ｃ）の場合には、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。

次に、図１７（ａ）〜図１７（ｃ）に基づき、一致パターンのチェックにおける第２の例を説明する。

図１７（ａ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、図１７（ｂ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、図１７（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。

図１７（ａ）では、一致画素数は「２４」と算出している。また、勾配方向の一致パターンは、「６」方向が存在しているので、閾値の５を超えており、図１５（ａ）のフローでは、「許可パターン」と判定される。一方、一致パターン中の最大連接数、「有」が連接して存在する数は、「４」となり、閾値の５以下であり、図１５（ｂ）のフローでは、「不許可パターン」と判定される。

したがって、図１７（ａ）の場合には、図１５（ａ）のフローを用いた場合、パターン合致度算出部９は、パターン合致度として「１」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「１」とを掛け算したのち、正規化一致画素数を算出してスコアとする。

一方、図１５（ｂ）のフローを用いた場合、パターン合致度算出部９は、パターン合致度として「０」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２４」と「０」とを掛け算して「０」をスコアとする。

図１７（ｂ）では、一致画素数は「２２」と算出している。また、勾配方向の一致パターンは、「４」方向が存在しているので、閾値の５以下であり、図１５（ａ）のフローでは、「不許可パターン」と判定される。一方、一致パターン中の最大連接数、「有」が連接して存在する数は、「２」となり、閾値の５以下であり、図１５（ｂ）のフローでも、「不許可パターン」と判定される。

したがって、図１７（ｂ）の場合には、パターン合致度算出部９は、パターン合致度として「０」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２２」と「０」とを掛け算して「０」をスコアとする。

図１７（ｃ）では、一致画素数は「２２」と算出している。また、勾配方向の一致パターンは、「４」方向が存在しているので、閾値の５以下であり、図１５（ａ）のフローでは、「不許可パターン」と判定される。一方、一致パターン中の最大連接数、「有」が連接して存在する数は、「４」となり、閾値の５を超えており、図１５（ｂ）のフローでも、「不許可パターン」と判定される。

以上の結果、図１７（ｃ）の場合には、パターン合致度算出部９は、パターン合致度として「０」を算出し、スコア算出部１０は、一致画素数算出部７が算出した、一致画素数「２２」と「０」とを掛け算して「０」をスコアとする。

以上のように、スコア算出部１０は、照合領域と、モデルパターンとの照合を行って、照合領域に含まれる勾配方向と、モデルパターンに含まれる勾配方向とが一致する画素数（一致画素数）、及び、照合領域に含まれる画素ごとの勾配方向とモデルパターンに含まれる画素ごとの勾配方向との一致パターンと、あらかじめ定められた比較用一致パターンとが類似する度合いを示すパターン合致度から、スコア（合致度）を算出する。

（６．接触・非接触特定過程）
次に、画像処理装置１における接触・非接触特定過程について説明する。

図１８は、画像処理装置１の動作のうち、接触・非接触特定過程の動作を示すフローチャートである。

図１８においては、Ｓ７０１では、スコア算出部１０が、自身が算出した合致度が所定の値以上である場合には（Ｙｅｓ）、Ｓ７０２に進む。一方、自身が算出した合致度が所定の値以上でない場合には（Ｎｏ）、本接触・非接触特定過程の動作が終了する。

Ｓ７０２では、第２エッジ抽出部１５は、合致度が所定の値以上であるとのスコア算出部１０の判断に基づいて、第２エッジ画素を抽出して、Ｓ７０３に進む。

Ｓ７０３では、スコア算出部１０が、第２エッジ抽出部１５から第１エッジ画素数及び第２エッジ画素数を取得し、第１エッジ画素のうち第２エッジ画素が占める割合が所定の値を超えているか否かを判断する。そして、所定の値を超えていれば（Ｙｅｓ）、Ｓ７０４に進む。一方、所定の値を超えていなければ（Ｎｏ）、本接触・非接触特定過程の動作が終了する。

Ｓ７０４では、スコア算出部１０が、第１エッジ画素のうち第２エッジ画素が占める割合が所定の値を超えているとの自身の判断に基づいて、今回自身が算出した合致度を位置特定部１１に出力する。

このようにして、図１８に示す接触・非接触特定過程の動作が実行されることになる。

ここで、この動作の効果について具定例を用いて説明する。図２（ｃ）及び図２（ｄ）に示したように、周囲の明るさが一定以上になると表示画面に近接する指以外の部分の画素値は、指の画素値よりも明るくなる。指が表示画面に接触している時には、例えば図１９に示すような撮像画像が得られる。

この場合、第１エッジ抽出部４により抽出された第１エッジ画素の勾配方向は図２０に示すような配置となる。そして、図中のＡ部においてパターンマッチングが行なわれることになる。

また、第２エッジ抽出部１５により抽出された第２エッジ画素は図２１に示すような配置となる。

一方、図２２は指が表示画面に接近しているが接触していないときの撮像画像である。そして、第１エッジ抽出部４により抽出された第１エッジ画素の勾配方向は図２３に示すような配置となる場合がある。この場合、図中のＢ部においてパターンマッチングが行なわれてしまう可能性がある。

しかしながら、図２２に示す撮像画像においては、図２４に示すように、第２エッジ抽出部１５により第２エッジ画素が抽出されることがない。なぜなら、縦方向勾配量Ｓｙ及び横方向勾配量Ｓｘのそれぞれ、又は、勾配の大きさＡＢＳ（Ｓ）が第２閾値以上である第２エッジ画素が第１エッジ画素のうちに存在しないからである。

したがって、仮に、非接触の指の画像データに対してパターンマッチングが行なわれたとしても、第２エッジ画素を抽出することにより、接触・非接触の特定をより精度良く行なうことができる。

次に、画像処理装置１の利用空間の明るさが変化する場合について説明する。上述したように、周囲の明るさが一定以上になると表示画面に近接する指以外の部分の画素値は、指の画素値よりも明るくなる。そして、周囲が明るくなると指以外の背景部分の画素値と指の画素値との差が広がる、すなわち、指先のエッジ強度が周囲の明るさに応じて変化する。

ここで、第２エッジ抽出部１５が利用する第２閾値は、注目画素の画素値と隣接画素の画素値との差、つまり、背景部分の画素値と指の画素値との差に対して設定されるものである。このため、指先のエッジ強度が周囲の明るさに応じて変化する場合において、第２閾値を一律に設定してしまうと、第２エッジ画素の抽出を精度良く行なうことができない。

そこで、画像処理装置１の利用空間の明るさが変化する場合においては、周囲の明るさに応じて第２閾値を調節することにより、周囲の明るさが変化しても第２エッジ画素の抽出を高精度に実行する。

具体的には、本実施の形態における画像処理装置１は、図１に示したように、閾値調節部１６が利用空間の明るさを取得し、その明るさに応じて第２閾値を調節し、第２エッジ抽出部１５に出力する。

閾値調節部１６は、例えば、撮像画像における背景画像の画素値を取得する。例えば、撮像画像のヒストグラムを生成し、ヒストグラム上で明るい部分の画素値を背景画像の画素値とする。

また、所定の大きさの矩形を撮像画像上で走査したときの、矩形内の平均画素値の最大値を背景画像の画素値としてもよい。

さらに、モデルパターンと照合する際に、モデルパターンの外側の複数画素を用いてヒストグラムを生成し、ヒストグラム上で明るい部分の画素値を背景画像の画素値としてもよい。

そして、閾値調節部１６は、このように取得した背景画像の画素値に応じた第２閾値を閾値格納部１７から取得し、第２エッジ抽出部１５に出力する。

このようにして、周囲の明るさの変化に応じて第２閾値を調節することにより、周囲の明るさが変化する場合でも、第２エッジ画素を精度良く抽出することができる。

次に、画像処理装置１の利用空間が明るくなりすぎた場合について説明する。周囲が明るくなりすぎると、指に対する光の周り込みなどの影響により、指の画素値が上昇してしまう。その結果、光センサーの感度が指の画素値を検知するのに十分ではないと、光センサーが指の画像を認識することができない場合が起こり得る。

このような場合に指を認識するためには、光センサーの感度を低下させることが必要となる。しかし、光センサーの感度を変化させてしまうと、背景画像の画素値と指腹の画素値と差も同時に変化してしまうことになる。このため、上述した周囲の明るさが変化する場合と同様、光線センサーの感度を変化させた場合においても、その変化に応じて第２閾値を調節しなければならない。以下、この場合における第２閾値の調節について説明する。

図２５に、背景画像及び指腹画像の各々の画素値と利用空間の明るさの照度との関係を示す。図２５では、光センサーの感度が標準感度である場合における背景画像の画素値及び指腹画像の画素値、並びに、光センサーの感度が標準感度の１／２の感度（以下、「１／２感度」と呼ぶ。）である場合における背景画像の画素値及び指腹画像の画素値が示されている。

図２５に示すように、光センサーの感度を標準感度から１／２感度に低下させた場合、利用空間の照度に対して、画素値の傾きは背景画像、指腹画像のいずれにおいても、光センサー感度が標準感度である場合の１／２となっている。また、指腹画像の画素値については、利用空間の照度が０、つまり、０Ｌｕｘにおける画素値についても、光センサー感度が標準感度である場合の１／２となっている。

ここで、標準感度での背景画像の画素値及び指腹画像の画素値、並びに、標準感度の１／ｎの感度（以下、「１／ｎ感度」と呼ぶ。）での背景画像の画素値及び指腹画像の画素値の各々を、照度に対する数式で表わすと以下のようになる。

標準感度での背景画像の画素値：
ｖｂ_１＝ａ_ｖｂｘ ・・・・（８）
ｘ：照度、ａ_ｖｂ：定数
１／ｎ感度での背景画像の画素値：
ｖｂ_ｎ＝（ａ_ｖｂ／ｎ）ｘ ・・・・（９）
ｎ：感度
標準感度での指腹画像の画素値：
ｖｆ_１＝ａ_ｖｆｘ＋ｂ ・・・・（１０）
ａ_ｖｆ：定数、ｂ：定数
１／ｎ感度での指腹画像の画素値：
ｖｆ_ｎ＝（ａ_ｖｆ／ｎ）ｘ＋（１／ｎ）ｂ ・・・・（１１）
そして、閾値調節部１６は、上記の式（８）〜（１１）において用いられている各定数をあらかじめ保持している。また、閾値格納部１７は、撮像画像上における背景画像の画素値に一対一に対応する、複数の第２閾値をあらかじめ格納している。そして、閾値格納部１７が格納している第２閾値は、光センサーの感度が上記の標準感度をとる場合を想定して、あらかじめ設定されたものである。

閾値調節部１６は、光センサーの感度が標準感度から１／ｎ感度に変化した場合には、背景画像の画素値及び光センサーの感度を取得し、それらを用いて第２閾値を調節する。

具体的には、閾値調節部１６は、利用空間の明るさを取得すると、その明るさから現在の背景画像の画素値を特定する。そして、閾値調節部１６は、指腹画像の画素値と背景画像の画素値との差分を求め、光センサーの感度が標準感度とした場合に同じ差分となるように、標準感度の背景画像の画素値を上記の式（８）〜（１１）を用いて算出する。

標準感度の背景画像の画素値は、数式（８）〜（１１）を以下のように変換することにより、現在の背景画素値より算出される。

すなわち、式（８）及び（１０）から以下の式が与えられる。

ｖｆ_１＝（ａ_ｖｆ／ａ_ｖｂ）ｖｂ_１＋ｂ ・・・・（１２）
また、式（９）及び（１１）から以下の式が与えられる。

ｖｆ_ｎ＝（ａ_ｖｆ／ａ_ｖｂ）ｖｂ_ｎ＋（１／ｎ）ｂ
ｖｂ_ｎ−ｖｆ_ｎ＝（１−（ａ_ｖｆ／ａ_ｖｂ））ｖｂ_ｎ−（１／ｎ）ｂ ・・・・（１３）
現在の背景画像と指腹画像との画素値の差分を求め、標準感度で同じ差分となるように標準感度の背景画像の画素値を算出するため、上記の式（１２）及び（１３）を用いて、以下の順に変換を実行する。

（ａ）ｖｂ_１−ｖｆ_１＝ｖｂ_ｎ−ｖｆ_ｎ
（ｂ）ｖｂ_１＝ｖｂ_ｎ−ｖｆ_ｎ＋ｖｆ_１
（ｃ）ｖｂ_１＝（１−（ａ_ｖｆ／ａ_ｖｂ））ｖｂ_ｎ−（１／ｎ）ｂ＋（ａ_ｖｆ／ａ_ｖｂ）ｖｂ_１＋ｂ
（ｄ）（１−（ａ_ｖｆ／ａ_ｖｂ））ｖｂ_１＝（１−（ａ_ｖｆ／ａ_ｖｂ））ｖｂ_ｎ＋（（ｎ−１）／ｎ）ｂ
（ｅ）ｖｂ_１＝ｖｂ_ｎ＋（（ｎ−１）／ｎ）ｂ／（１−（ａ_ｖｆ／ａ_ｖｂ））
このようにして、閾値調節部１６は、標準感度の背景画像の画素値を算出し、それに対応する第２閾値を閾値格納部１７から取得し、第２エッジ抽出部１５に出力する。そして、第２エッジ抽出部１５は、光センサーの感度の変化に応じて調節された第２閾値を閾値調節部１６から取得することができるので、第２エッジ画素の抽出を高精度に行なうことができる。

ところで、上述した図１８の動作の効果は、図２（ｃ）及び図２（ｄ）に示したように、周囲の明るさが一定以上になると表示画面に近接する指以外の部分の画素値は、指の画素値よりも明るくなる場合に限り、有効となるものである。したがって、図２（ａ）及び（ｂ）に示したような、表示画面に近接する指以外の部分の画素値が指の画素値よりも暗くなる場合では、上記の動作を用いることができない。

そこで、このような場合においては、画像処理装置１の液晶ディスプレイの構成を工夫することにより、常に、背景画像の画素値が指腹画像の画素値よりも明るい状況を作り出すことが可能である。

例えば、液晶ディスプレイの表面に透明基板と弾性フィルムを設ければよい。透明基板と弾性フィルムとの間の空気層により、液晶ディスプレイの表面に圧力がかかっていないとき光の反射がおこる。一方、圧力がかかっているときは空気層での反射がなくなるために、反射率が低くなる。

図２６に、液晶ディスプレイの表面に透明基板と弾性フィルムを設けた場合における、背景画像及び指腹画像の各々の画素値と利用空間の明るさの照度との関係を示す。図２６では、光センサーの感度が標準感度である場合における背景画像の画素値及び指腹画像の画素値、並びに、光センサーの感度が１／２感度である場合における背景画像の画素値及び指腹画像の画素値が示されている。

この場合、図２６に示すように、光センサーの感度が標準感度及び１／２感度のいずれに場合においても、常に、背景画像の画素値が指腹画像の画素値よりも明るい状況を作り出すことができる。

したがって、図２（ａ）及び（ｂ）に示したような、表示画面に近接する指以外の部分の画素値が指の画素値よりも暗くなる場合でも、図１８の動作の効果を有効なものとすることができる。その結果、このような場合であっても、第２エッジ抽出部１５は、光センサーの感度の変化に応じて調節された第２閾値を閾値調節部１６から取得することができるので、第２エッジ画素の抽出を高精度に行なうことができる。

（７．ポインティング位置特定過程）
次に、画像処理装置１におけるポインティング位置特定過程について説明する。

図２７は、画像処理装置１の動作のうち、ポインティング位置座標算出過程の動作を示すフローチャートである。

Ｓ８０１では、ピーク探索部１２が、注目画素の周囲で所定の画素数を含む第１領域（探索領域）内で、スコア算出部１０が算出した合致度が最大値をとる画素であるピーク画素を探索して、ピーク画素を発見したらＳ８０２に進む。なお、図示していないが、ピーク探索部１２が、ピーク画素を発見できない場合には、注目画素を所定数（例えば、第１領域の注目画素から端の画素までの最短コース（第２領域の一辺のサイズ））ずらしてＳ８０１に戻る。

Ｓ８０２では、座標算出判定部１３が、第１領域と共通の注目画素をもち、第１領域の画素数よりも少ない所定の画素数を有すると共に、第１領域に完全に包含される第２領域（小領域）内に、ピーク探索部１２が発見したピーク画素が存在することを判定した場合には、Ｓ８０３に進み、座標算出判定部１３は、「ピーク画素あり」と判定し、Ｓ８０４に進む。一方、座標算出判定部１３が、第２領域（小領域）内に、ピーク探索部１２が発見したピーク画素が存在しなかった場合には、Ｓ８０５に進み、座標算出判定部１３は、「ピーク画素なし」と判定し、注目画素を所定数（例えば、第１領域の注目画素から端の画素までの最短コース（第２領域の一辺のサイズ））ずらしてＳ８０１に戻る。

以上の手順は、座標算出部１４がポインティング（補間）位置を算出するまで繰り返される。

Ｓ８０４では、座標算出部１４が、ピーク探索部１２が発見したピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域内の、画素ごとのスコアを用いて、撮像対象による撮像画像上の指示位置を算出して「ＥＮＤ」となる。

なお、上述の説明では、座標算出部１４がポインティング（補間）位置を算出するまで処理を繰り返す場合について説明したが、複数のポインティング（補間）位置を算出可能な構成としてもよく、この場合、画像全体に対して処理を終了するまで、第１・第２領域を移動して、図２７に示すフローチャートの処理を実行すればよい。

次に、図２８（ａ）及び図２８（ｂ）を用いて、ピーク画素の有無の判定について説明する。

図２８（ａ）は、画像処理装置１における座標算出判定部１３が、ピーク画素が無いと判定する場合を説明するための概要図であり、（ｂ）は、座標算出判定部１３が、ピーク画素が有ると判定する場合を説明するための概要図である。

図２８（ａ）に示す実線が第１領域であり、破線が第２領域である。第１領域の画素数は、９×９画素であり、第２領域の画素数は、５×５画素である。それぞれ、奇数×奇数としているのは、中央の注目画素が１画素となるようにするためである。

図２８（ａ）の例では、第１領域内にピーク画素である「９」が存在しているが、該ピーク画素は、第２領域内には存在していない。したがって、この場合は、座標算出判定部１３は、「ピーク画素なし」と判定する。

一方、図２８（ｂ）の例では、第１領域内にピーク画素である「９」が存在しており、かつ、第２領域内にも存在している。したがって、この場合は、座標算出判定部１３は、「ピーク画素あり」と判定する。

なお、上述の例では、第１領域にピーク画素が存在している場合において、第２領域内にピーク画素が無い場合には、第１領域の注目画素から端の画素までの最短コース（第２領域の一辺のサイズ）である「５画素」だけ、第１領域及び第２領域を動かせば、必ず、ピーク画素が第２領域内に入ってくるように、第１領域と第２領域との画素数との差が設定されている。

次に、図２９（ａ）及び図２９（ｂ）に基づき、座標算出部１４のポインティング（補間）座標（撮像対象による撮像画像上の指示位置）算出方法について説明する。

図２９（ａ）は、画像処理装置１における撮像対象による撮像画像上における指示位置の算出のために使用されるピーク画素領域について説明するための概要図であり、図２９（ｂ）は、画像処理装置１におけるポインティング（補間）座標の座標算出方法を説明するための概要図である。

図２９（ａ）は、座標算出判定部１３が「ピーク座標あり」と判定した場合であり、図２８（ｂ）の場合と同じである。

なお、図２９（ａ）は第１領域及び第２領域とも破線の領域で示されている。一方、実線で示した５×５画素の領域が、ピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域である。

図２９（ａ）に示す例では、このピーク画素領域も第２領域と同様に、第１領域に完全に包含されている。この場合は、ピーク画素領域内のスコアをあらためて調べる必要が無い。このように、第２領域の端にピーク画素が存在する場合でも、ピーク画素領域が第１領域内に包含されるように構成することが好ましい。

次に、図２９（ｂ）に基づき、座標算出部１４のポインティング座標算出方法について説明する。

本例では、画像データの画素数が、３２０×２４０画素である場合に、図１の低解像度化部２が、バイリニア縮小を２回行ない、さらに、効率化部６が、２×２画素について照合効率化を行ない、スコア画像（スコアのデータを画素ごとに付与したもの）のサイズが４０×３０画素になっている場合を想定している。

したがって、スコア画像の全領域を８倍に拡大したものが、画像データの全領域に相当する。したがって、補間量（スケール拡大量）＝８となっている。

具体的な計算方法は、以下のとおりである。まず、ピーク画素領域における行ごとのスコアの和を計算する（図２９（ｂ）の１９、２８、３３、２４、及び１１）。

次に、ピーク画素領域における列ごとのスコアの和を計算する（図２９（ｂ）の１６、２４、２８、２６、及び２１）。また、ピーク画素領域内（５×５画素）のスコアの総和を求める（図２９（ｂ）の１１５）。

次に、ピーク画素領域内のスコアの値が質量分布に相当するものとして、スコア画像の全領域における重心座標を求め、スケールを８倍に拡大すると、次式（１４）及び（１５）の座標を得る。

次に、画素のサイズを考慮して目盛り位置の調整を行なうと、ポインティング座標（Ｘ，Ｙ）は、次式（１６）となる。

以上によれば、ピーク探索部１２は、第１領域（探索領域）内で探索するので、全画素数を含む画像データ領域において、ピーク画素を探索するよりも処理コストを低減、及びメモリ容量を少量化させることができる。

例えば、第１領域の画素数が小さいということは、データ画像（スコア画像）全体（＝全画素）のスコアをバッファに保存しておく必要がなく、ピーク探索を実行する第１領域に必要なメモリ容量（例えば９×９画素の第１領域の場合、９ライン分のラインバッファ）があればよい、ということになる。

このように、ラインバッファで実装することにより、メモリ容量を少量化できる効果は、ピーク探索に限らず、縦横の各勾配量の一時保存や、勾配方向の一時保存等、後段処理に受け渡す際にバッファメモリが介在するような実装を行なう場合には、全て共通して言えることである。

さらに、座標算出部１４は、ピーク探索部１２が発見したピーク画素を中心とする所定の画素数を含む領域であるピーク画素領域内の、画素ごとのスコアを用いて、ポインティング位置を算出する。例えば、エッジ画像を用いてその重心位置からポインティング位置を求める場合、撮像画像が歪な形に変形するほど算出が困難になると考えられる。

しかし、画像処理装置１では、ピーク画素領域内の、画素ごとのパターンマッチングによるスコアを用いて、ポインティング位置を算出する。このパターンマッチングにおけるスコアの最大値近傍は、撮像画像が歪な形に変形したとしても、該最大値近傍を中心として、放射状に合致度が減少していくという、ほぼ変形前と同様の分布傾向を示すものと考えられる。

したがって、撮像画像が歪な形に変形するか否かに関係なく、所定の手順（例えば、ピーク画素領域内でスコアの重心を算出する等）で、ポインティング位置を算出することができる。それゆえ、座標位置の検出精度の維持との両立を図りつつ、ポインティング位置を算出するための画像処理量の軽減、処理コストの低減、及びメモリ容量の少量化が可能となる。

以上より、撮像対象の撮像画像へのタッチ・非タッチの検出に関係なく、１フレームの画像データのみを用いたパターンマッチングを行なうことで、ポインティング位置の検出を可能としてメモリ容量を少量化し、及び処理時間を短縮化しつつ、ポインティング位置の算出において、画像処理量の軽減とポインティング位置の検出精度の維持との両立、及びメモリ容量の少量化を実現することができる画像処理装置１を提供することができる。

また、座標算出判定部１３は、第１領域と共通の注目画素をもち、第１領域の画素数よりも少ない所定の画素数を有すると共に、第１領域内に完全に包含される第２領域（小領域）内に、ピーク探索部１２が発見したピーク画素が存在することを判定した場合に、座標算出部１４にポインティング位置を算出させることが好ましい。

ピーク画素領域は、第２領域内に存在するピーク画素を注目画素としてその周囲に広がる領域であるので、第１領域と共通する画素が多数存在することになる。また、ピーク画素領域と第１領域との共通の画素のスコアは既に算出されているので、非共通の画素のスコアを調べれば、座標算出部１４にポインティング位置を算出させることができる。

また、ピーク画素領域と第１領域とのそれぞれの画素数を調整すれば、ピーク画素領域を第１領域に包含させることも可能である。この場合、ピーク画素領域の各画素のスコアは既に判明しているので、ポインティング位置算出のためにあらためて判明していない各画素のスコアを調べる必要が無い。

以上より、ポインティング位置の算出において、さらに画像処理量の軽減及びメモリ容量の少量化を実現することができる。また、ピーク座標判定時に第１領域の外側に向けてスコアの上昇が連接している場合への対応と、ハードウェア実装等において各処理モジュールをパイプライン処理する際等に、参照すべきスコアの保持バッファ容量を少量化（例えば画像全体ではなく９ラインのみ）できる。

なお、画像処理装置１の各ブロック、特に低解像度化部２、縦勾配量算出部３ａ、横勾配量算出部３ｂ、第１エッジ抽出部４、方向特定部５、効率化部６、一致画素数算出部７、パターン合致度算出部９、スコア算出部１０、位置特定部１１、第２エッジ抽出部１５、及び、閾値調節部１６は、ハードウェアロジックによって構成してもよいし、次のようにＣＰＵを用いてソフトウェアによって実現してもよい。

すなわち、画像処理装置１は、各機能を実現する制御プログラムの命令を実行するＣＰＵ（central processing unit）、上記プログラムを格納したＲＯＭ（read only memory）、上記プログラムを展開するＲＡＭ（random access memory）、上記プログラムおよび各種データを格納するメモリ等の記憶装置（記録媒体）等を備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである画像処理装置１の制御プログラムのプログラムコード（実行形式プログラム、中間コードプログラム、ソースプログラム）をコンピュータで読み取り可能に記録した記録媒体を、上記画像処理装置１に供給し、そのコンピュータ（またはＣＰＵやＭＰＵ）が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。

上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー（登録商標）ディスク／ハードディスク等の磁気ディスクやコンパクトディスク−ＲＯＭ／ＭＯ／ＭＤ／デジタルビデオデイスク／コンパクトディスク−Ｒ等の光ディスクを含むディスク系、ＩＣカード（メモリカードを含む）／光カード等のカード系、あるいはマスクＲＯＭ／ＥＰＲＯＭ／ＥＥＰＲＯＭ／フラッシュＲＯＭ等の半導体メモリ系等を用いることができる。

また、画像処理装置１を通信ネットワークと接続可能に構成し、その通信ネットワークを介して上記プログラムコードを画像処理装置１に供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、ＬＡＮ、ＩＳＤＮ、ＶＡＮ、ＣＡＴＶ通信網、仮想専用網（virtual private network）、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、ＩＥＥＥ１３９４、ＵＳＢ、電力線搬送、ケーブルＴＶ回線、電話線、ＡＤＳＬ回線等の有線でも、ＩｒＤＡやリモコンのような赤外線、Ｂｌｕｅｔｏｏｔｈ（登録商標）、８０２．１１無線、ＨＤＲ、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。

本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。

本発明の画像処理装置は、例えば携帯電話やＰＤＡ等のように、液晶等の表示装置のディスプレイにタッチすることにより、操作や指示を行なうような装置に適用することができる。具体的には、表示装置として、例えば、アクティブマトリクス型の液晶表示装置に用いることができると共に、電気泳動型ディスプレイ、ツイストボール型ディスプレイ、微細なプリズムフィルムを用いた反射型ディスプレイ、デジタルミラーデバイス等の光変調素子を用いたディスプレイの他、発光素子として、有機ＥＬ発光素子、無機ＥＬ発光素子、ＬＥＤ（Light Emitting Diode）等の発光輝度が可変の素子を用いたディスプレイ、フィールドエミッションディスプレイ（ＦＥＤ）、プラズマディスプレイにも利用することができる。

本発明の実施の形態における画像処理装置の構成を示すブロック図である。 （ａ）は、周囲が暗い場合における指腹の撮像画像の様子を示す概要図、（ｂ）は、周囲が暗い場合における指腹の撮像画像の特徴を示す概要図、（ｃ）は、周囲が明るい場合における指腹の撮像画像の様子を示す概要図、（ｄ）は、周囲が明るい場合における指腹の撮像画像の特徴を示す概要図、（ｅ）は、周囲が暗い場合におけるペン先の撮像画像の様子を示す概要図、（ｆ）は、周囲が暗い場合におけるペン先の撮像画像の特徴を示す概要図、（ｇ）は、周囲が明るい場合におけるペン先の撮像画像の様子を示す概要図、（ｈ）は、周囲が明るい場合におけるペン先の撮像画像の特徴を示す概要図である。 画像処理装置の全体的な動作の概要を示すフローチャートである。 画像処理装置の動作のうち、勾配方向・無方向特定過程の動作を示すフローチャートである。 （ａ）は、勾配方向・無方向特定過程において参照されるテーブルの一例であり、（ｂ）は、勾配方向・無方向特定過程において参照されるテーブルの他の例である。 （ａ）は、周囲が暗い場合における画像データの勾配方向の特徴を示す概要図であり、（ｂ）は、同図について照合効率化を行った後の様子を示す概要図である。 （ａ）は、周囲が暗い場合における照合効率化前のモデルパターンの一例を示す概要図であり、（ｂ）は、周囲が明るい場合における照合効率化前のモデルパターンの一例を示す概要図である。 （ａ）は、周囲が暗い場合における照合効率化後のモデルパターンの一例を示す概要図であり、（ｂ）は、周囲が明るい場合における照合効率化後のモデルパターンの一例を示す概要図である。 （ａ）は、周囲が暗い場合における照合効率化後のモデルパターンの他の例を示す概要図であり、（ｂ）は、周囲が明るい場合における照合効率化後のモデルパターンの他の例を示す概要図である。 画像処理装置の動作のうち、パターンマッチング過程の動作を示すフローチャートである。 （ａ）は、照合効率化前の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングを説明するための概要図であり、（ｂ）は、その合致度算出方法の一例を示す図である。 （ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングの一例を説明するための概要図であり、（ｂ）は、その合致度算出方法の一例を示す図である。 （ａ）は、照合効率化後の周囲が暗い場合における照合領域と、モデルパターンとのパターンマッチングの他の例を説明するための概要図であり、（ｂ）は、その合致度算出方法の一例を示す図である。 画像処理装置におけるパターンマッチングにおいて一致画素数とパターン合致度とを併用する場合について説明するためのフローチャートである。 （ａ）は、パターン合致度算出過程の一例を示すフローチャートであり、（ｂ）は、パターン合致度算出過程の他の例を示すフローチャートである。 （ａ）は、パターン合致度算出過程の一例を示す概要図であり、（ｂ）は、パターン合致度算出過程の他の例を示す概要図であり、（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。 （ａ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、（ｂ）は、パターン合致度算出過程のさらに他の例を示す概要図であり、（ｃ）は、パターン合致度算出過程のさらに他の例を示す概要図である。 画像処理装置の動作のうち、接触・非接触特定過程の動作を示すフローチャートである。 周囲が明るい場合における指腹の撮像画像の様子を示す概要図である（接触時）。 周囲が明るい場合における指腹の撮像画像についての第１エッジ画素の勾配方向を示す概要図である（接触時）。 周囲が明るい場合における指腹の撮像画像についての第２エッジ画素の様子を示す概要図である（接触時）。 周囲が明るい場合における指腹の撮像画像の様子を示す概要図である（非接触時）。 周囲が明るい場合における指腹の撮像画像についての第１エッジ画素の勾配方向を示す概要図である（非接触時）。 周囲が明るい場合における指腹の撮像画像についての第２エッジ画素の様子を示す概要図である（非接触時）。 背景画像及び指腹画像の各々の画素値と利用空間の明るさの照度との関係を示すグラフ図である。 背景画像及び指腹画像の各々の画素値と利用空間の明るさの照度との他の関係を示すグラフ図である。 画像処理装置の動作のうち、ポインティング位置座標算出過程の動作を示すフローチャートである。 （ａ）は、画像処理装置における座標算出判定部のピーク画素が無いと判定する場合を説明するための概要図であり、（ｂ）は、画像処理装置における座標算出判定部のピーク画素が有ると判定する場合を説明するための概要図である。 （ａ）は、画像処理装置における撮像対象による撮像画像上の指示位置を算出するために使用されるピーク画素領域について説明するための概要図であり、（ｂ）は、画像処理装置における前記指示位置の座標算出方法を説明するための概要図である。

符号の説明

１ 画像処理装置
２ 低解像度化部
３ａ 縦勾配量算出部（特徴量算出手段）
３ｂ 横勾配量算出部（特徴量算出手段）
４ 第１エッジ抽出部（第１エッジ特定手段）
５ 方向特定部
６ 効率化部
７ 一致画素数算出部
８ モデルパターン・比較用一致パターン格納部
９ パターン合致度算出部
１０ スコア算出部（合致度算出手段）
１１ 位置特定部（位置特定手段）
１２ ピーク探索部
１３ 座標算出判定部
１４ 座標算出部
１５ 第２エッジ抽出部（第２エッジ特定手段）
１６ 閾値調節部（閾値調節手段）
１７ 閾値格納部
２０ 電子機器
６１、６２、６３、６４ 撮像画像
６５ 表示画面
６６ 外光

Claims (13)

1. 撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置であって、
   前記画像データ上の画素ごとに、隣接する画素との画素値差に応じた特徴量を算出する特徴量算出手段と、
   前記特徴量算出手段により算出された特徴量が第１閾値以上である第１エッジ画素を特定する第１エッジ特定手段と、
   前記第１エッジ画素の特定結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、あらかじめ定められたモデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出手段と、
   前記第１エッジ画素のうち、前記特徴量が前記第１閾値よりも大きい第２閾値以上である第２エッジ画素を特定する第２エッジ特定手段と、
   第１エッジ画素数と第２エッジ画素数との比率及び前記合致度算出手段により算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定手段と
   を備えていることを特徴とする画像処理装置。
2. 前記位置特定手段は、第１エッジ画素数に対する第２エッジ画素数の割合があらかじめ定められた値を超えており、且つ、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大である照合領域の位置から、撮像対象による前記撮像画像上の指示位置を特定することを特徴とする請求項１に記載の画像処理装置。
3. 前記画像処理装置の利用空間における明るさの変化に応じて前記第２閾値を調節する閾値調節手段をさらに備えていることを特徴とする請求項２に記載の画像処理装置。
4. 前記閾値調節手段は、前記画像処理装置の利用空間における明るさの変化に応じて撮像画像上の背景画像がとりうる画素値ごとにあらかじめテーブル形式で記憶されている複数の第２閾値のうち、前記撮像画像上における背景画像の画素値に対応する第２閾値を選択することを特徴とする請求項３に記載の画像処理装置。
5. 前記テーブル形式で記憶されている複数の第２閾値は、撮像画像の画像データを撮像する撮像センサーの感度が第１感度を持つ場合に利用されるものであり、
   前記閾値調節手段は、前記撮像センサーの感度が前記第１感度から前記第１感度とは異なる第２感度に変化し、撮像センサーの感度が前記第２感度を持つ場合に利用されるべき第２閾値を選択する場合には、
   前記第１感度での撮像画像上の指示位置と背景画像との画素値差が前記第２感度での撮像画像上の指示位置と背景画像との画素値差であったと仮定した場合において前記第１感度での撮像画像上の背景画像がとるべき画素値を算出し、
   前記算出された撮像画像上の背景画像の画素値に対応する第２閾値を選択することを特徴とする請求項４に記載の画像処理装置。
6. 前記特徴量は、大きさと方向を持つベクトル量であることを特徴とする請求項１〜５のいずれか１項に記載の画像処理装置。
7. 前記特徴量は、画素の輝度の勾配量であることを特徴とする請求項１〜６のいずれか１項に記載の画像処理装置。
8. 請求項１〜７のいずれか１項に記載の画像処理装置における各手段としてコンピュータを動作させるための画像処理プログラム。
9. 請求項８に記載の画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
10. 請求項１〜７のいずれか１項に記載の画像処理装置を備えていることを特徴とする電子機器。
11. 撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する画像処理方法であって、
    前記画像データ上の画素ごとに、隣接する画素との画素値差に応じた特徴量を算出する特徴量算出工程と、
    前記特徴量算出工程において算出された特徴量が第１閾値以上である第１エッジ画素を特定する第１エッジ特定工程と、
    前記第１エッジ画素の特定結果に基づいて、前記画像データ上の一部の領域に含まれる照合領域と、あらかじめ定められたモデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出工程と、
    前記第１エッジ画素のうち、前記特徴量が前記第１閾値よりも大きい第２閾値以上である第２エッジ画素を特定する第２エッジ特定工程と、
    第１エッジ画素数と第２エッジ画素数との比率及び前記合致度算出工程において算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定工程と
    を備えていることを特徴とする画像処理方法。
12. 撮像された撮像画像の画像データを用いて、撮像対象による前記撮像画像上の指示位置を特定する機能を備えた画像処理装置であって、
    前記画像データ上の一部の領域に含まれる照合領域と、あらかじめ定められたモデルパターンとを照合し、前記照合領域と前記モデルパターンとのマッチングの度合いを示す合致度を算出する合致度算出手段と、
    前記合致度算出手段による照合においてモデルパターンにマッチした画素ごとに、隣接する画素との画素値差に応じた特徴量を算出する特徴量算出手段と、
    前記特徴量算出手段により算出された特徴量が所定の閾値以上であるエッジ画素を特定するエッジ特定手段と、
    マッチした画素数とエッジ画素数との比率及び前記合致度算出手段により算出された合致度に基づいて、撮像対象による前記撮像画像上の指示位置を特定する位置特定手段と
    を備えていることを特徴とする画像処理装置。
13. 前記位置特定手段は、マッチした画素数に対するエッジ画素数の割合があらかじめ定められた値を超えており、且つ、前記合致度算出手段により算出された合致度が前記画像データ上の部分領域内で最大である照合領域の位置から、撮像対象による前記撮像画像上の指示位置を特定することを特徴とする請求項１２に記載の画像処理装置。

Images