JP6647956B2 - 情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法 - Google Patents

情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法 Download PDF

Info

Publication number
JP6647956B2
JP6647956B2 JP2016090359A JP2016090359A JP6647956B2 JP 6647956 B2 JP6647956 B2 JP 6647956B2 JP 2016090359 A JP2016090359 A JP 2016090359A JP 2016090359 A JP2016090359 A JP 2016090359A JP 6647956 B2 JP6647956 B2 JP 6647956B2
Authority
JP
Japan
Prior art keywords
information processing
infrared image
infrared
unit
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016090359A
Other languages
English (en)
Other versions
JP2017200090A (ja
Inventor
猛司 西川
猛司 西川
嘉泰 小笠原
嘉泰 小笠原
康幸 下畠
康幸 下畠
祐輝 田中
祐輝 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nintendo Co Ltd
Original Assignee
Nintendo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nintendo Co Ltd filed Critical Nintendo Co Ltd
Priority to JP2016090359A priority Critical patent/JP6647956B2/ja
Priority to US15/496,023 priority patent/US10474924B2/en
Publication of JP2017200090A publication Critical patent/JP2017200090A/ja
Application granted granted Critical
Publication of JP6647956B2 publication Critical patent/JP6647956B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)

Description

この発明は情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法に関し、特にたとえば、赤外線センサの出力を用いて情報処理を実行する、情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法に関する。
背景技術の一例が特許文献1に開示される。この特許文献1に開示されるゲーム装置は、複数の赤外線センサを含む位置検出部を備え、各赤外線センサは、赤外線をプレイヤに対して発射し、プレイヤに当たって反射された赤外線を検知する。各赤外線センサの検知信号は、プレイヤ位置決定手段に出力され、実空間におけるプレイヤの位置が決定される。ゲームにおいては、たとえば、実空間におけるプレイヤの位置が仮想空間におけるプレイヤの位置に変換される。
特開2003−181137号
上述の特許文献1に開示されたゲーム装置では、赤外線センサを用いて実空間におけるプレイヤの位置を決定し、これを仮想空間におけるプレイヤの位置に変換するため、プレイヤに当たって反射される赤外線を正しく検知する必要がある。このため、このようなゲーム装置は、通常、太陽光等のノイズの影響を受け難い屋内などの場所ないし位置に設置される。
また、この特許文献1に開示されるゲーム装置は、設置された後では移動されることがほとんど無く、また、設置された位置ないし場所における太陽光等のノイズの影響が変化することもほとんど無い。したがって、特許文献1のゲーム装置では、赤外線センサの検知信号を実空間におけるプレイヤの位置を決定するような情報処理に常に利用できることが前提となっており、設置場所または/およびノイズの影響の変化によって、赤外線センサの出力を情報処理に利用できるかどうかを判断することおよび赤外線センサの出力を情報処理に利用できない場合の対応については何ら想定されていない。
たとえば、携帯型のゲーム装置に赤外線センサを設けて、ユーザの手指または顔(頭部)のような体の一部を検出し、または、ユーザが把持または装着した所定の物体を検出し、その検出結果を用いてゲーム処理を実行するような場合には、ゲーム装置を使用する位置ないし場所によっては、太陽光等のノイズの影響が大きいことがある。このような場合には、ユーザの体の一部を正しく検出できないことがある。その結果、赤外線センサの出力を用いたゲーム処理を実行することができない場合がある。または、赤外線センサの出力を用いたゲーム処理を実行することができたとしても、開発者等が意図しないゲーム処理が実行されてしまう場合もある。
それゆえに、この発明の主たる目的は、新規な、情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法を提供することである。
また、この発明の他の目的は、赤外線センサの出力の利用の可否を判断することができる、情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法を提供することである。
第1の発明は、発光手段、制御手段、撮像手段、第1取得手段、第2取得手段、比較手段および推測手段を備える、情報処理システムである。発光手段は、赤外線を発光する。制御手段は、発光手段の駆動および停止を制御する。撮像手段は、赤外線画像を撮像する。第1取得手段は、制御手段によって発光手段が駆動されているときに撮像手段によって撮像された第1赤外線画像を取得する。第2取得手段は、制御手段によって発光手段が停止されているときに撮像手段によって撮像された第2赤外線画像を取得する。比較手段は、第1取得手段によって取得された第1赤外線画像の第1分析結果と第2取得手段によって取得された第2赤外線画像の第2分析結果とを比較する。推測手段は、比較手段の比較結果に基づいて撮像手段によって撮像される赤外線画像のノイズ状況を推測する。
第1の発明によれば、赤外線画像のノイズ状況を推測するので、ノイズ状況に応じて、撮像手段のような赤外線センサの出力を情報処理に利用できるかどうかを判断することができる。その結果、赤外線センサの出力を用いた情報処理の実行を事前に中止することができる。また、赤外線センサの出力を用いた処理を除く情報処理を実行することができる。
第2の発明は、第1の発明に従属し、発光手段の発光方向と撮像手段の撮影方向は実質的に一致する。したがって、発光手段から発光された赤外線が反射した光を含む赤外画像が撮像手段で撮像される。
第2の発明によれば、少なくとも発光手段と撮像手段を有するユニットを使用するユーザの体の一部を含む赤外線画像を撮影することができる。
第3の発明は、第1または第2の発明に従属し、第1分析結果は第1赤外線画像の明るさに関する第1の明るさ情報を含み、第2分析結果は第2赤外線画像の明るさに関する第2の明るさ情報を含む。比較手段は、第1の明るさ情報と第2の明るさ情報を比較する。
第3の発明によれば、赤外線画像の明るさに関する情報を比較するだけなので、ノイズ状況の推測が簡単である。
第4の発明は、第3の発明に従属し、第1の明るさ情報は、第1赤外線画像における所定値以上の輝度を有する第1画素数についての情報を含む。第2の明るさ情報は、第2赤外線画像における所定値以上の輝度を有する第2画素数についての情報を含む。
第4の発明によれば、画素単位で所定値以上の輝度を有するかどうかを判断した結果に基づいてノイズ状況を推測するので、ノイズ状況を比較的正確に推測することができる。
第5の発明は、第3の発明に従属し、第1の明るさ情報は、第1赤外線画像における所定範囲(全画素または或る領域)の画素についての輝度値を平均した第1平均値についての情報を含む。第2の明るさ情報は、第2赤外線画像における所定範囲の画素についての輝度値を平均した第2平均値についての情報を含む。
第5の発明によれば、赤外線画像の所定範囲の画素についての輝度値を平均した平均値を算出するようにしても、ノイズ状況を推測することができる。
第6の発明は、第4の発明に従属し、第1の明るさ情報は第1赤外線画像における所定範囲の画素についての輝度値を平均した第1平均値の情報をさらに含み、第2の明るさ情報は第2赤外線画像における所定範囲の画素についての輝度値を平均した第2平均値の情報をさらに含む。推測手段は、第1画素数の情報および第2画素数の情報に基づいてノイズ状況を推測するとともに、第1平均値の情報および第2平均値の情報に基づいてノイズ状況を推測する。たとえば、いずれか一方の推測結果を採用してもよいし、両方の推測結果を複合してもよい。
第6の発明においても、ノイズ状況を推測することができる。
第7の発明は、第5または第6の発明に従属し、比較手段は、第1の明るさ情報と第2の明るさ情報を用いて、撮像手段によって撮像される赤外線画像に関する評価値を算出する評価値算出手段を含む。推測手段は、評価値算出手段によって算出された評価値に応じてノイズ状況を推測する。
第7の発明によれば、評価値に基づいてノイズ状況を推測するので、ノイズ状況の推測が簡単である。
第8の発明は、第7の発明に従属し、第1判断手段をさらに備える。第1判断手段は、評価値算出手段によって算出された評価値に基づいて、所定の処理を実行するかどうかを判断する。所定の処理は、たとえば、情報処理(アプリケーション処理)とは異なる処理または情報処理の一部の処理である。以下、同様である。
第8の発明によれば、評価値に基づいて所定の処理を実行するかどうかを簡単に判断することができる。
第9の発明は、第8の発明に従属し、第1判断手段は、撮像手段の出力の利用の可否および所定の内容の報知の可否の少なくとも一方を判断する。
第10の発明は、第8または第9の発明に従属し、第1判断手段は、評価値算出手段によって算出される1または複数の評価値に基づいて、所定の処理を実行するかどうかを判断する。
第10の発明によれば、1または複数の評価値に基づいて所定の処理を実行するかどうかを判断するので、たとえば、所定の処理の内容に応じて当該所定の処理を実行するかどうかを適切に判断することができる。
第11の発明は、第10の発明に従属し、第1判断手段は、複数の評価値を平均した第3平均値が所定の第1条件を満たす場合に、所定の処理を実行することを判断する。
第11の発明によれば、複数の評価値を平均した平均値を算出するので、評価値の一時的な変動によって誤った判断を下してしまうのを防止することができる。
第12の発明は、第11の発明に従属し、システム起動時または情報処理プログラムの開始時のみならず、第1判断手段による判断を繰り返し実行する。この場合、第3平均値は、評価値算出手段によって評価値が算出される度に、所定期間における複数の評価値を平均して算出される。つまり、評価値の移動平均が算出される。
第12の発明によれば、評価値の移動平均を算出するので、所定の処理を実行するかどうかを判断するかどうかをリアルタイムに判断することができる。
第13の発明は、第11の発明に従属し、第1判断手段は、1または複数の評価値のいずれか1つでも第1条件を満たさない場合に、所定の処理を実行しないことを判断する。
第13の発明によれば、たとえば、ノイズの影響を受け易い所定の処理を実行する場合に、当該所定の処理を実行するかどうかを適切に判断することができる。
第14の発明は、第11の発明に従属し、第1判断手段は、複数の評価値のうちの連続して算出される所定数の当該評価値が第1条件を満たさない場合に、所定の処理を実行しないことを判断する。
第14の発明によれば、評価値の一時的な変動によって誤った判断を下してしまうのを防止することができる。
第15の発明は、第11ないし第14の発明のいずれかに従属し、第2判断手段をさらに備える。第2判断手段は、第1平均値または第2平均値が第1条件よりも緩和された第2条件を満たすかどうかで所定の処理を実行するかどうかを判断する。第1判断手段によって所定の処理を実行しないことが判断された場合に、第2判断手段によって所定の処理を実行するかどうかを判断する。
第15の発明によれば、2段階で所定の処理を実行するかどうかを判断することができる。
第16の発明は、第15の発明に従属し、第1判断手段によって所定の処理を実行しないことが判断された場合に、第2判断手段によって所定の処理を実行するかどうかを判断する。
第16の発明によれば、たとえば、赤外線画像に含まれるノイズが比較的多い場合であっても、第2判断手段の判断結果によって、所定の処理を実行できる場合がある。
第17の発明は、第11ないし第14の発明のいずれかに従属し、第1平均値または第2平均値が第1条件よりも緩和された所定の第2条件を満たすかどうかで所定の処理を実行するかどうかを判断する第2判断手段をさらに備える。第2判断手段によって所定の処理を実行することが判断された場合に、第1判断手段によって所定の処理を実行するかどうかを判断する。したがって、第2判断手段によって所定の処理を実行しないことが判断された場合には、第1判断処理による判断処理は実行しない。
第17の発明によれば、第2判断手段によって所定の処理を実行しないことが判断された場合には、第1判断処理による判断処理は実行しないので、不要な処理が実行されるのを回避することができる。したがって、プロセッサの処理負荷を軽減することができる。
第18の発明は、第1または第2の発明に従属し、決定手段をさらに備える。決定手段は、比較手段の比較結果に基づいて、撮像手段によって撮像された赤外線画像を用いた所定の処理を実行するかどうかを決定する。
第18の発明によれば、所定の処理を実行するかどうかを判断するので、赤外線画像に含まれるノイズが多い場合には、所定の処理を実行しないことを決定することができる。
第19の発明は、第1ないし第18の発明のいずれかに従属し、報知手段を備える。報知手段は、比較手段の比較結果に基づいて所定の内容を報知する。たとえば、所定の内容は、ノイズ状況または/および撮像手段の使用の可否である。
第19の発明によれば、所定の内容を報知するので、ユーザは撮像装置を用いた処理が実行できるかどうかを知ることができる。
第20の発明は、第19の発明に従属し、報知手段は、所定の内容を表示手段に表示する。たとえば、所定の内容についてのメッセージが表示される。
第20の発明によれば、ユーザは所定の内容を視認することができる。
第21の発明は、第1ないし20の発明のいずれかに従属し、推測手段は、少なくとも第1取得手段によって取得された第1赤外線画像のノイズ状況を推測する。
第22の発明は、比較手段および推測手段を備える画像処理装置である。比較手段は、赤外線が発光されている場合に撮像された第1赤外線画像の第1分析結果と赤外線が発光されていない場合に撮像された第2赤外線画像の第2分析結果とを比較する。推測手段は、比較手段の比較結果に基づいて撮像された赤外線画像のノイズ状況を推測する。
第23の発明は、第22の発明に従属し、赤外線を発光する発光手段、発光手段の駆動および停止を制御する制御手段、赤外線画像を撮像する撮像手段、制御手段によって発光手段が駆動されているときに撮像手段によって撮像された第1赤外線画像を取得する第1取得手段、および制御手段によって発光手段が停止されているときに撮像手段によって撮像された第2赤外線画像を取得する第2取得手段をさらに備える。
第24の発明は、赤外線を発光する発光装置および赤外線画像を撮像する撮像装置を備えるコンピュータの情報処理プログラムである。この情報処理プログラムは、コンピュータを、制御手段、第1取得手段、第2取得手段、比較手段および推測手段として機能させる。制御手段は、発光装置の駆動および停止を制御する。第1取得手段は、制御手段において発光装置を駆動しているときに撮像装置によって撮像された第1赤外線画像を取得する。第2取得手段は、制御手段において発光装置を停止しているときに撮像装置によって撮像された第2赤外線画像を取得する。比較手段は、第1取得手段において取得した第1赤外線画像の第1分析結果と第2取得手段において取得した第2赤外線画像の第2分析結果を比較する。推測手段は、比較手段の比較結果に基づいて撮像装置によって撮像される赤外線画像のノイズ状況を推測する。
第25の発明は、赤外線を発光する発光装置および赤外線画像を撮像する撮像装置を備える情報処理システムの情報処理方法であって、(a)発光装置の駆動および停止を制御するステップ、(b)ステップ(a)において発光装置を駆動しているときに撮像装置によって撮像された第1赤外線画像を取得するステップ、(c)ステップ(a)において発光装置を停止しているときに撮像装置によって撮像された第2赤外線画像を取得するステップ、(d)ステップ(b)において取得した第1赤外線画像の第1分析結果とステップ(c)おいて取得した第2赤外線画像の第2分析結果を比較するステップ、および(e)ステップ(d)の比較結果に基づいて撮像装置によって撮像される赤外線画像のノイズ状況を推測するステップを有する、情報処理方法である。
第22、第24および第25の発明においても、第1の発明と同様に、赤外線センサの出力を情報処理に利用できるかどうかを判断することができる。
この発明によれば、撮像した赤外線画像のノイズ状況を推測するので、赤外線画像を用いた情報処理の実行の可否を知ることができる。つまり、赤外線センサの出力を情報処理に利用できるかどうかを判断することができる。
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
図1は情報処理装置の電気的な構成の限定しない一例を示すブロック図である。 図2(A)は、ノイズによる影響が少ない場合において、赤外LEDのオン時における赤外線画像の限定しない一例であり、図2(B)は、ノイズによる影響が少ない場合において、赤外LEDのオフ時における赤外線画像の限定しない一例であり、そして、図2(C)は図2(A)に示すオン時の赤外線画像と図2(B)に示すオフ時の赤外線画像の差分画像を示す図解図である。 図3(A)は、ノイズによる影響が多い場合において、赤外LEDのオン時における赤外線画像の限定しない他の例であり、図3(B)は、ノイズによる影響が多い場合において、赤外LEDのオフ時における赤外線画像の限定しない他の例であり、そして、図3(C)は図3(A)に示すオン時の赤外線画像と図3(B)に示すオフ時の赤外線画像の差分画像の例を示す図解図である。 図4は図1に示したRAMのメモリマップについての限定しない一例を示す図解図である。 図5は図1に示した画像処理回路の判断制御処理の限定しない一例の一部を示すフロー図である。 図6は図1に示した画像処理回路の判断制御処理の限定しない一例の他の一部であって、図5に後続するフロー図である。 図7は図1示した画像処理回路の判断制御処理の限定しない他の例の一部であって、図5に後続するフロー図である。 図8は図1に示した画像処理回路の判断制御処理のその他の例の一部であって、図5に示すスタートとステップS1との間に設けられるフロー図である。 図9は情報処理システムの電気的な構成の限定しない一例を示すブロック図である。
[第1実施例]
図1を参照して、限定しない一例の情報処理装置10はプロセッサ12を含み、このプロセッサ12には、LCD14、スピーカ16、入力装置18、RAM20、フラッシュメモリ22および撮像装置24が接続される。また、情報処理装置10は、赤外LED26を含み、赤外LED26は撮像装置24(画像処理回路24d)に接続される。
プロセッサ12は、情報処理装置10の全体的な制御を司る。LCD14は、プロセッサ12から出力される画像データに対応する画面ないし画像を表示するための表示装置である。この第1実施例では、LCD14を設けてあるが、有機ELディスプレイを設けるようにしてもよい。スピーカ16は、プロセッサ12から出力される音声データをアナログの音声信号に変換して出力する。入力装置18は、情報処理装置10に設けられるハードウェアの操作手段であって、プッシュボタン、十字ボタン、スライドスイッチおよびタッチパネルのうちの少なくとも一つを含む。
RAM20は、揮発性の記憶装置であり、プロセッサ12および画像処理回路24dのワーキング領域およびバッファ領域として使用される。フラッシュメモリ22は、不揮発性の記憶装置であり、情報処理装置10で実行されるプログラム(情報処理プログラムまたはアプリケーションプログラム)およびセーブデータなどを記憶する。
撮像装置24は、画像処理装置としても機能し、赤外線画像を撮像(撮影)し、撮影した赤外線画像に対応する画像データに基づく所定の処理を実行し、所定の処理を実行した結果をプロセッサ12に与える。この撮像装置24は、赤外線センサとも呼ばれ、赤外線フィルタ24a、レンズ24b、撮像素子24cおよび画像処理回路24dを含む。ただし、撮像装置24と赤外LED26を有する装置を赤外線センサと呼ぶこともある。
赤外線フィルタ24aは、可視光線を遮断し、赤外線のみを透過させる。レンズ24bは、赤外線フィルタ24aを透過した赤外線を集光して撮像素子24cへ入射させる。撮像素子24cは、例えばCMOSセンサやあるいはCCDのような固体撮像素子であり、レンズ24bが集光した赤外線を撮像する。したがって、撮像素子24cは、赤外線フィルタ24aを透過した赤外線だけを撮像(撮影)して画像(赤外線画像)を生成する。撮像素子24cによって生成された赤外線画像は、図示しないA/D変換器でデジタルの画像データに変換され、画像処理回路24dで所定の処理を施される。画像処理回路24dは、たとえば、DSPで構成され、RAM20に記憶されたプログラムに従って所定の処理を実行する。所定の処理については、後で詳細に説明するが、この第1実施例では、情報処理(アプリケーション処理)に用いられる処理結果(センサ出力)を得るための第1処理と、情報処理において、少なくとも画像処理回路24d(撮像装置24)の出力を情報処理に利用できるかどうかを判断するための第2処理とを含む。
赤外LED26は、赤外線(赤外光)を発する(発光する)LEDであって、画像処理回路24d(DSP)によって点灯および消灯を制御される。
なお、情報処理装置10の外観構成についての図示および説明は省略するが、たとえば、撮像装置24および赤外LED26は、撮像装置24の撮像面と赤外LED26の発光面が情報処理装置10の筐体の同一面に配置されるように、設けられる。つまり、撮像装置24の撮影方向と赤外LED26から照射される赤外線の方向(発光方向)とは一致する。ただし、撮影方向と発光方向は完全に一致する必要は無く、多少のずれは許容される。つまり、撮影方向と発光方向とは実質的に(略)一致すれば良い。
また、図1に示す情報処理装置10は一例であり、限定されるべきでない。たとえば、情報処理装置10の向き(姿勢)または/および動きを検出するためのセンサが設けられてもよい。このようなセンサとしては、加速度センサまたは/およびジャイロセンサを適用することができる。
このような構成の情報処理装置10では、プロセッサ12から撮像装置24に撮影指示が与えられると、撮影終了の指示が与えられるまで、定期的(たとえば、0.5フレーム毎)に撮影処理が実行される。この撮影処理が定期的に実行されるタイミングに合わせて、赤外LED26のオン/オフが制御される。したがって、撮像装置24(画像処理回路24d)では、赤外LED26がオンの場合の赤外線画像と、赤外LED26がオフの赤外線画像が交互に取得される。ただし、フレームは、LCD14に表示される画面を更新する場合の単位時間であり、たとえば、1フレームは1/30秒または1/60秒である。
画像処理回路24dは、連続して撮影される、赤外LED26がオンの場合の赤外線画像(以下、「第1赤外線画像」と呼ぶことがある)と赤外LED26がオフの場合の赤外線画像(以下、「第2赤外線画像」と呼ぶことがある)の差分を算出することにより、差分の画像(差分画像)に含まれる、たとえば、情報処理装置10のユーザの手指または顔(頭部)を認識し、差分画像において、認識した手指または顔(頭部)に対応する位置の座標データをプロセッサ12に与える。このように、第1赤外線画像および第2赤外線画像を取得し、それらの差分画像を算出して、ユーザの体の一部の画像に対応する位置の座標データをプロセッサ12に与える処理が第1処理である。
ただし、ユーザの手指または顔のような体の一部に限定される必要はなく、第1赤外線画像および第2赤外線画像に基づいて、ユーザが把持または装着した所定の物体を認識し、認識した所定の物体に対応する位置の座標データをプロセッサ12に与える場合もある。
たとえば、図2(A)には、赤外LED26がオンである場合(オン時)の第1赤外線画像100の一例が示される。この第1赤外線画像100では、黒で示す部分ないし領域が暗い(輝度が低い)部分ないし領域であり、白で示す部分ないし領域が明るい(輝度が高い)部分ないし領域である。このことは、他の赤外線画像および差分画像についても同じである。
図2(A)に戻って、この第1赤外線画像100では、その中央にユーザの掌の画像が含まれ、掌の周囲の一部に、ノイズによる画像が含まれている。ただし、掌の画像は、赤外LED26から照射された赤外線がユーザの掌で反射した反射光に基づく画像である。また、たとえば、情報処理装置10が屋内に在る場合には、ノイズは、典型的には、窓から差し込む太陽光または/および部屋の蛍光灯の光によって生じる。ただし、屋内には、間接照明、ダウンライト、赤外線ストーブなど、赤外線(赤外光)を発するノイズ源は他にも存在する。また、情報処理装置10が屋外に在る場合には、ノイズは、太陽光によって生じる。
図2(B)には、赤外LED26がオフである場合(オフ時)の第2赤外線画像150の一例が示される。ただし、撮像装置24の撮像対象(被写体)は、赤外LED26がオンの場合とオフの場合とで実質的に同じである。
図2(B)に示す第2赤外線画像150では、赤外LED26がオフであるため、赤外LED26からの赤外線が掌で反射されることはない。したがって、太陽光または蛍光灯の光によるノイズだけが第2赤外線画像150に含まれる。図2(B)からも分かるように、図2(A)−図2(C)の例では、ノイズによる影響が比較的少ない場合について示してある。
図2(C)は、図2(A)に示す第1赤外線画像100と図2(B)に示す第2赤外線画像150の差分画像200である。図2(C)に示すように、差分画像200では、ノイズが消去され、掌の画像が含まれる。
このように取得された掌(明るい部分)の画像に対応する位置の座標データがプロセッサ12に与えられ、プロセッサ12で実行される情報処理プログラムの処理に利用される。
また、上記の情報処理プログラムは、一例として、ゲームプログラムであるが、これに限定される必要は無い。赤外線画像に基づく処理を実行するプログラムであれば、ユーザ認証プログラム、文書作成プログラム、電子メールプログラム、お絵描きプログラム、文字練習プログラム、語学トレーニングプログラム、学習プログラムなどの他のプログラムでもよい。
図2(A)−図2(C)に示す例では、第1赤外線画像100と第2赤外線画像150の差分画像200を算出して、ノイズを除去することができる。つまり、撮像装置24(画像処理回路24d)は、ノイズ除去機能を有しており、当該機能が働いていることを示す。
一方、ノイズ除去機能が有るが、太陽光または/および蛍光灯の光が強い場合には、ノイズによる影響が大きいため、赤外線画像の全体が白くなってしまう。この場合には、撮像装置24のノイズ除去機能は働かない。
図3(A)および図3(B)に示すように、太陽光または/および蛍光灯の光が強い場合には、赤外LED26をオンした場合とオフした場合のいずれの場合にも、全体的に高輝度の赤外線画像(100、150)が得られる。したがって、かかる場合には、図3(C)に示すように、差分画像200は、真っ暗になってしまう。これでは、ユーザの手指または/および頭部のような身体の一部を検知または認識して、情報処理装置10で実行される情報処理に利用することができない。
したがって、このような場合には、少なくとも赤外線センサの出力を利用した情報処理を実行することができない状態であることをユーザに報知する必要がある。たとえば、撮像装置24が、赤外線センサの出力を利用した情報処理を実行できないことをプロセッサ12に通知(出力)すると、プロセッサ12は、赤外線センサの出力を利用した情報処理を実行できない旨のメッセージをLCD14に表示する。ただし、メッセージは、音声によってスピーカ16から出力されてもよいし、メッセージに代えて、警告音(通知音)がスピーカ16から出力されてもよい。ただし、情報処理の内容によっては、赤外線センサの出力を利用した情報処理を実行できない状態であることを撮像装置24からプロセッサ12に通知されるだけでもよい場合もあると考えられる。
ただし、上記のような内容を報知することに代えて、または、上記のような内容を報知するとともに、赤外線センサの出力を利用した情報処理を実行するためには、太陽光等のノイズの影響を受け難い場所に移動すべきことを報知するようにしてもよい。
このため、この第1実施例では、情報処理装置10は、赤外線センサの検出結果を利用したプログラム(情報処理プログラム)を実行する場合には、たとえば、当該プログラムからの要求に応じて、赤外線センサの出力を利用した処理(情報処理)を実行することが可能であるかどうかを判断するようにしてある。つまり、赤外線センサの出力の利用の可否が判断されるのである。ただし、赤外線センサの出力を利用した情報処理を実行することができない場合には、上述したように、そのことを報知するようにしてあるため、赤外線センサの出力を利用した情報処理を実行することができない状態であることをユーザに報知するかどうかを判断しているとも言える。また、場合によっては、赤外線センサを使用できるかどうかを判断しているとも言えるし、赤外線センサの出力を利用した情報処理の進行を停止(または継続)させるかどうかを判断しているとも言える。
このような判断は、赤外線センサで検出(撮影)される赤外線画像に関する評価と言うこともできる。たとえば、赤外線センサで検出(撮影)される赤外線画像のノイズの状況(ノイズ状況)が推測される(ノイズ状況の評価が行われる)。以下、具体的な判断方法について説明するが、この判断方法についての処理が上記の第2処理である。
画像処理回路24dは、赤外LED26をオンしたときに撮像された第1赤外線画像を取得するとともに、赤外LED26をオフしたときに撮像された第2赤外線画像を取得する。第1赤外線画像および第2赤外線画像のそれぞれについて、画素毎に、輝度の数値が所定の閾値sを超えているかどうかを判断する。そして、画像処理回路24dは、第1赤外線画像について、輝度の数値(輝度値)が所定の閾値sを超えている画素の数(以下、「第1画素数」という)Aを検出(算出)する。同様に、画像処理回路24dは、第2赤外線画像について、輝度値が所定の閾値sを超えている画素の数(以下、「第2画素数」という)Bを検出(算出)する。つまり、太陽光等のノイズが数値化される。
この第1実施例では、輝度値は、0〜255の数値で表現され、輝度の最大値(最も明るい)は255であり、輝度の最小値(最も暗い)は0である。また、所定の閾値sは、実験等によって経験的に得られる数値であり、画素(画像)が明るいかどうかを判断するための基準値であり、たとえば、200に設定される。
なお、この第1実施例の赤外線センサに代えて他のセンサが使用される場合には、輝度値の範囲および基準値は他の数値が設定されることもある。つまり、上記の輝度値の範囲を示す数値および基準値は単なる一例であり、限定されるべきでない。
第2画素数Bは太陽光等のノイズにより明るくされた画素の数である。したがって、第1画素数Aから第2画素数Bを減算し、減算した結果(A−B)を第1画素数Aで除算することにより、0〜1の間で正規化された赤外線画像に関する赤外線センサの出力の利用の可否を評価するための数値(以下、「信頼度」ということにする)Rを算出することができる。ただし、上述したように、信頼度Rは、赤外線センサで検出された赤外線画像に関する評価を行うための数値ということもできる。つまり、信頼度Rは数1に従って算出される。
[数1]
R=(A−B)/A
なお、ノイズが無い理想的な環境においては、第2画素数Bは0であり、数1からも分かるように、信頼度Rは1(最大値)となる。また、第2画素数Bが第1画素数Aに近づくに連れて、信頼度Rは0(最小値)に近づく。図3(A)および図3(B)に示した例では、第1画素数Aは第2画素数Bと等しく、信頼度Rは0である。
この第1実施例では、信頼度Rが所定の閾値rを超えている場合には、赤外線センサの出力を情報処理に利用できると判断し、信頼度Rが所定の閾値r以下である場合には、赤外線センサの出力を情報処理に利用できないと判断する。
ただし、閾値rは、赤外線センサの出力を情報処理に利用できるかどうかを判断するための基準値であり、実験等によって決定される。また、閾値rは、赤外線センサの検出結果を利用するプログラムの種類(情報処理の内容)によって可変的に設定される。一例として、閾値rは0.7に設定される。さらに、この第1実施例では、信頼度Rが閾値rを超える場合に、赤外線センサの出力を情報処理に利用できると判断してあるが、信頼度Rが閾値r以上である場合に、赤外線センサの出力を情報処理に利用できると判断するようにしてもよい。
また、この第1実施例では、信頼度Rを算出するようにしてあるが、裏を返せば、赤外線画像のノイズ状況を検出(推測)しているとも言える。つまり、信頼度Rが高い場合には、ノイズが少なく、信頼度Rが低い場合には、ノイズが多い。したがって、閾値rは、赤外線画像に含まれるノイズが多いか少ないかを判断するための値ということもできる。
このように、この第1実施例では、取得(撮影)した第1赤外線画像および第2赤外線画像に基づいて、赤外線画像におけるノイズ状況を推測するため、第1赤外線画像および第2赤外線画像の各々についてノイズ状況を推測していると考えることができる。ただし、情報処理装置10は、第1赤外線画像に含まれるユーザの体の一部またはユーザが把持ないし装着した所定の物体を検出した検出結果を情報処理に利用するため、厳密に言うと、第1赤外線画像におけるノイズ状況が推測される。
また、この第1実施例では、既に取得(撮影)した第1赤外線画像および第2赤外線画像に基づいて信頼度R(または、後述する「平均値Rm」)を算出するため、過去の赤外線画像におけるノイズ状況を推測していると言える。一方で、推測という意味においては、直前に取得した第1赤外線画像および第2赤外線画像に基づいて、現在撮影している赤外線画像またはこれから(次に)撮影する赤外線画像におけるノイズ状況を推測しているとも言える。
上記のように、数1に従って信頼度Rを算出することができるが、一時的(局所的)に信頼度Rが変動することがあるため、この第1実施例では、所定時間(たとえば、1秒)において算出されたi個の信頼度Rの平均値Rmを算出し、この平均値Rmが上記の閾値rを超えるかどうかを判断するようにしてある。
なお、平均値Rmを算出する場合には、すべての信頼度Rを用いても良いし、著しく他の信頼度Rと異なる値を示す信頼度Rを除いても良い。また、平均値Rmに限定される必要はなく、他の代表値を用いるようにしても良い。他の代表値としては、中央値または最頻値が該当する。
また、平均値Rmの算出および閾値rを用いた判断は、情報処理装置10の起動時または情報処理プログラムの実行(開始)時に、一回実行されるだけではなく、赤外線センサが駆動(動作)中である場合には、常に実行される。したがって、情報処理装置10が屋内から屋外に持ち出されたときに、赤外線センサの出力を情報処理に利用できなくなったことをリアルタイムにユーザに報知することが可能である。逆に、情報処理装置10が屋外から屋内に持ち込まれたときに、赤外線センサの出力を利用できるようになったことをリアルタイムにユーザに報知することも可能である。
さらに、この第1実施例では、赤外線画像に含まれる全画素について輝度の数値が所定の閾値sを超えているかどうかを判断して、当該赤外線画像の全体の明るさに関する情報を算出(検出)するようにしてあるが、これに限定される必要はない。たとえば、赤外線画像のうちの一部の画素について輝度の数値が所定の閾値sを超えているかどうかを判断して、当該赤外線画像の全体の明るさに関する情報を算出するようにしてもよい。
図4は図1に示したRAM20のメモリマップ300の一例を示す図解図である。図4に示すように、RAM20は、プログラム記憶領域302およびデータ記憶領域304を含む。プログラム記憶領域302には、ゲームプログラムなどの情報処理プログラム(アプリケーションプログラム)が記憶される。たとえば、情報処理プログラムは、情報処理装置10に電源が投入された後の適宜のタイミングでフラッシュメモリ22からその一部または全部が読み出されてRAM20に記憶される。
なお、情報処理プログラムは、フラッシュメモリ22に代えて、情報処理装置10に着脱可能なメモリまたは光ディスクから取得されても良いし、情報処理装置10とは別の情報処理装置(コンピュータ)から、直接的にまたはネットワークを介して取得(ダウンロード)されてもよい。
この第1実施例では、情報処理プログラムは、メイン処理プログラム302a、画像生成プログラム302b、画像表示プログラム302c、点灯制御プログラム302d、撮影プログラム302e、輝度検出プログラム302f、信頼度算出プログラム302g、平均値算出プログラム302h、判断プログラム302i、決定プログラム302jおよび報知プログラム302kなどによって構成される。
ただし、メイン処理プログラム302a、画像生成プログラム302b、画像表示プログラム302c、決定プログラム302jおよび報知プログラム302kは、プロセッサ12によって実行されるが、他のプログラム(302d〜302i)は画像処理回路24d(DSP)によって実行される。
メイン処理プログラム302aは、情報処理(アプリケーション処理)についてのメインルーチンを処理するためのプログラムである。画像生成プログラム302bは、ポリゴンデータやテクスチャデータなどのデータを含む画像生成データ304aを用いて、LCD14に表示する画像に対応する画像データを生成するためのプログラムである。画像表示プログラム302cは、画像生成プログラム302bに従って生成した画像データをLCD14に出力するためのプログラムである。
点灯制御プログラム302dは、赤外LED26の点灯および消灯を制御するためのプログラムである。撮影プログラム302eは、撮像素子24cに撮影を実行させ、赤外線画像を生成させるためのプログラムである。輝度検出プログラム302fは、撮影された赤外線画像の各画素の輝度値を検出するためのプログラムである。
信頼度算出プログラム302gは、赤外LED26がオンの場合に取得された第1赤外線画像に含まれる画素のうち、輝度値が閾値sを超えている第1画素数Aを検出(算出)するとともに、赤外LED26がオフの場合に取得された第2赤外線画像に含まれる画素のうち、輝度値が閾値sを超えている第2画素数Bを検出し、数1に従って、信頼度Rを算出するためのプログラムである。たとえば、信頼度Rは、毎フレーム算出される。
平均値算出プログラム302hは、複数の信頼度Rの平均値Rmを算出するためのプログラムである。ただし、複数の信頼度Rは、所定期間(たとえば、1秒間)において算出される。判断プログラム302iは、信頼度Rの平均値Rmに基づいて、赤外線センサの出力を情報処理に利用できるかどうかを判断し、判断結果をプロセッサ12に出力(通知)するためのプログラムである。
決定プログラム302jは、判断プログラム302iに従う判断結果に応じて、赤外線センサの出力を用いた情報処理を実行するかどうかを決定するためのプログラムである。報知プログラム302kは、赤外線センサの出力を情報処理に利用できないことが通知された場合に、赤外線センサの出力を情報処理に利用できないことのメッセージをLCD14に表示するためのプログラムである。このとき、上記の画像生成プログラム302bおよび画像表示プログラム302cも実行される。
なお、図示等は省略するが、プログラム記憶領域302には、情報処理を実行するために必要な他のプログラムも記憶される。
データ記憶領域304には、画像生成データ304a、第1赤外線画像データ304b、第2赤外線画像データ304c、第1画素数データ304d、第2画素数データ304e、信頼度データ304f、平均値データ304g、判断結果データ304hなどが記憶される。
画像生成データ304aは、LCD14に表示する画像(画面)に対応する画像データを生成するためのポリゴンデータおよびテクスチャデータなどのデータである。第1赤外線画像データ304bは、赤外LED26がオンの場合に撮像素子24cによって撮影された第1赤外線画像100の画像データである。ただし、複数の第1赤外線画像100が撮影された場合には、各第1赤外線画像100の画像データが時系列に従ってデータ記憶領域304に記憶される。このことは、第2赤外線画像150についても同様である。第2赤外線画像データ304cは、赤外LED26がオフの場合に撮像素子24cによって撮影された第2赤外線画像150の画像データである。
第1画素数データ304dは、第1画素数Aについての数値データある。第2画素数データ304eは、第2画素数Bについての数値データである。信頼度データ304fは、所定期間における複数の信頼度Rの各々についての数値データである。平均値データ304gは、複数の信頼度Rの平均値Rmについての数値データである。判断結果データ304hは赤外線センサの出力を情報処理に利用できるかどうかについての判断結果を示すフラグデータである。
図示は省略するが、データ記憶領域304には、情報処理の実行に必要な他のデータが記憶されたり、情報処理の実行に必要なカウンタ(タイマ)が設けられたりする。
図5および図6は、図1に示した画像処理回路24d(DSP)の判断制御処理についてのフロー図である。ただし、この判断制御処理は、第2処理に相当する。また、判断制御処理は、プロセッサ12からの指示に従って、つまり、情報処理(アプリケーション処理)の要求に応じて開始され、繰り返し実行される。
なお、図5および図6に示すフロー図の各ステップの処理は、単なる一例に過ぎず、同様の結果が得られるのであれば、各ステップの処理順序を入れ替えてもよい。また、この第1実施例では、基本的には、図5および図6に示すフロー図の各ステップの処理を画像処理回路24dが実行するものとして説明するが、これら以外のプロセッサ12または専用回路が一部のステップを実行するようにしてもよい。また、画像処理回路24dが、赤外線画像データをプロセッサ12に出力することにより、図5および図6に示す判断制御処理のほぼ全部をプロセッサ12で実行するようにしてもよい。
図5に示すように、画像処理回路24dは、判断制御処理を開始すると、ステップS1で、タイマ(図示せず)をスタートする。次のステップS3では、変数iに初期値を設定する(i=1)。ただし、変数iは、算出された信頼度Rを個別に識別するために設けられる。
次のステップS5では、赤外LED26を点灯し、ステップS7で、撮影処理を実行し、ステップS9で、第1赤外線画像データ304bを取得して、ステップS11で、第1画素数Aを算出(検出)する。このとき、第1画素数データ304dが記憶される。次のステップS11では、赤外LED26を消灯し、ステップS13で、撮影処理を実行し、ステップS15で、第2赤外線画像データ304cを取得して、ステップS17で、第2画素数Bを算出する。このとき、第2画素数データ304eが記憶される。
続いて、ステップS21で、数1に従って信頼度Riを算出する。このとき、信頼度データ304fが記憶(追加)される。そして、ステップS23で、所定時間を経過したかどうかを判断する。ここでは、画像処理回路24dは、タイマのカウント値が所定時間(たとえば、1秒)に到達したかどうかを判断する。ステップS23で“NO”であれば、つまり、所定時間を経過していなければ、ステップS25で、変数iを1加算して(i=i+1)、ステップS5に戻る。この第1実施例では、ステップS5−S25のスキャンタイムが1フレームである。一方、ステップS23で“YES”であれば、つまり、所定時間を経過すれば、図6に示すように、ステップS27で、信頼度R1から信頼度Riまでの平均値Rmを算出する。このとき、平均値データ304gが記憶される。
そして、ステップS29で、平均値Rmが閾値rを超えているかどうかを判断する。ステップS29で“YES”であれば、つまり、平均値Rmが閾値rを超えている場合には、ステップS31で、利用可能をプロセッサ12に通知して、判断制御処理を終了する。一方、ステップS29で“NO”であれば、つまり、平均値Rmが閾値r以下である場合には、ステップS33で、利用不可をプロセッサ12に通知して、判断制御処理を終了する。
たとえば、プロセッサ12は、赤外線センサの出力を情報処理に利用できるかどうかの判断結果についての通知を受けて、赤外線センサの出力を情報処理に利用できるかどうかの判断結果に応じた判断結果データ304hをRAM20に記憶する。
プロセッサ12は、この判断結果が赤外線センサの出力を情報処理に利用できないことを示すとき、LCD14に、赤外線センサの出力を情報処理に利用できないことについてのメッセージを表示する。したがって、赤外線センサの出力を情報処理に利用できないことが情報処理装置10のユーザに報知される。
また、プロセッサ12は、上記の判断結果に応じて、赤外線センサ(撮像装置24)の出力を用いた情報処理(アプリケーション処理)を実行するかどうかを決定する。したがって、たとえば、プロセッサ12は、上記の判断結果が赤外線センサの出力を情報処理に利用できないことを示すとき、赤外線センサ(撮像装置24)の出力に基づく処理を実行しないことを決定する。一方、プロセッサ12は、上記の判断結果が赤外線センサの出力を情報処理に利用可能であることを示すとき、赤外線センサ(撮像装置24)の出力に基づく処理を実行することを決定する。
さらに、上述したように、図5および図6に示した判断制御処理は繰り返し実行され、リアルタイムに、赤外線センサの出力を情報処理に利用できるかどうかを判断し、その判断結果をプロセッサ12に通知する。そして、プロセッサ12は、判断結果が赤外線センサの出力を情報処理に利用できないことを示すとき、LCD14に、赤外線センサの出力を情報処理に利用できないことについてのメッセージを表示する。したがって、リアルタイムに、赤外線センサの出力を情報処理に利用できないことが情報処理装置10のユーザに報知される。
この実施例では、図5および図6に示した判断制御処理を繰り返し実行するようにしてあるが、これに限定される必要はない。たとえば、平均値Rmは、信頼度Rの移動平均であってもよい。この場合、画像処理回路24d(DSP)は、1フレーム毎に、信頼度Rを算出するとともに、現在のフレームまでの連続する所定数のフレーム(たとえば、20〜30フレーム)の各々で算出された所定数の信頼度Rについての平均値Rm(移動平均)を算出する。そして、1フレーム毎に、平均値Rmが閾値rを超えているかどうかを判断する。ただし、現在のフレームの信頼度Rを含む必要はなく、1つ手前のフレームまでの連続する所定数のフレームの各々で算出された所定数の信頼度Rについての平均値Rmを算出してもよい。この場合、現フレームの信頼度Rを算出する前に、平均値Rmが算出されてもよい。
また、場合によっては、平均値Rmは、連続する所定数のフレームについての信頼度Rを用いなくても良い。たとえば、情報処理装置10の移動速度を検知可能なセンサを設けておき、情報処理装置10の移動速度が比較的遅い場合には、1フレーム毎に算出される信頼度Rのうち、1〜数フレーム飛ばし(移動速度で可変的に設定してもよい)で抽出した所定数の信頼度Rを用いて平均値Rmを算出してもよい。ただし、このような場合には、1〜数フレーム飛ばしで信頼度Rを算出し、連続する所定数の信頼度Rについての平均値Rmを算出するようにしてもよい。
この第1実施例によれば、赤外LEDがオンの場合とオフの場合に取得される赤外線画像から赤外線センサまたは赤外線センサの出力についての信頼度が算出され、算出された信頼度に基づいて赤外線センサの出力を情報処理に利用できるかどうかを判断することができる。したがって、たとえば、ユーザに赤外線センサの出力を情報処理に利用できないことを報知することができる。
また、第1実施例によれば、赤外線画像の画素毎に輝度が所定の閾値を超えるかどうかを判断するので、ノイズによる影響を比較的正確に推測することができ、さらには、赤外線センサの出力を情報処理に利用できるかどうかを比較的正確に判断することができる。
なお、第1実施例では、所定期間においてフレーム毎に算出される複数の信頼度の平均値を算出するようにしたが、これに限定される必要はない。所定期間においてフレーム毎に算出される第1画素数の平均値と第2画素数の平均値に基づいて、信頼度の平均値を算出するようにしてもよい。ただし、フレームは一定時間であるため、所定期間において算出される信頼度の数は一定数である。
また、第1実施例では、第1赤外線画像および第2赤外線画像の各々の明るさの情報として第1画素数および第2画素数を算出し、第1画素数および第2画素数を用いて信頼度を算出するようにしたが、これに限定される必要はない。
たとえば、第1赤外線画像の全画素の輝度値を平均した平均値(説明の便宜上、ここでは、「第1平均値」という)を算出するとともに、第2赤外線画像の全画素の輝度値を平均した平均値(説明の便宜上、ここでは、「第2平均値」という)を算出し、第1画素数および第2画素数に代えて、第1平均値および第2平均値を用いて信頼度を算出するようにしてもよい。このように、赤外線画像の明るさの情報として、赤外線画像の全画素の輝度値を平均した平均値を用いる場合には、上記の第1実施例で示した場合よりも、赤外線センサの出力を情報処理に利用できるかどうかを判断する場合の正確性は多少劣ることがあると考えられるが、プロセッサの処理負荷を軽減することができる。したがって、赤外線センサの検出結果を用いる情報処理で求められる精度が比較的低い場合に、赤外線画像の全画素の輝度値を平均した平均値を用いて赤外線センサの出力の利用の可否を判断すれば良いと考えられる。
ただし、画素数(第1画素数および第2画素数)と平均値(第1平均値および第2平均値)の両方を用いて信頼度を算出するようにしてもよい。一例として、画素数に基づく信頼度と平均値に基づく信頼度を平均した平均値を求めることが考えられる。また、他の例として、情報処理プログラムに応じて、画素数の基づく信頼度または平均値に基づく信頼度を選択的に使用することが考えられる。つまり、画素数および平均値の少なくとも一方に基づいて、赤外線センサの出力を情報処理に利用するかどうかが判断される。上述したように、画素数に基づく信頼度に比べて平均値に基づく信頼度の方が、正確性が多少劣ることがあると考えられるため、画素数に基づく信頼度の重みを大きくするようにしてもよい。
また、第1平均値を算出する場合には、第1赤外線画像の全画素の輝度値を平均するようにしてあるが、第1赤外線画像のうちの所定の範囲(一部の領域)に含まれる画素の輝度値を平均するようにしてもよい。このことは第2平均値を算出する場合についても同様である。後述する第2実施例および第3実施例において、平均値Cを算出する場合についても同様である。
さらに、第1画素数および第2画素数を用いて信頼度を算出するとともに、第1平均値および第2平均値を用いて信頼度を算出し、各算出結果に基づいて、赤外線センサの出力を情報処理の実行に利用するかどうかを判断するようにしてもよい。
[第2実施例]
第2実施例の情報処理装置10は、平均値Rmが閾値r以下である場合に、別の方法で、赤外線センサの出力を情報処理に利用できるかどうかをさらに判断するようにした以外は、第1実施例の情報処理装置10と同じであるため、重複した説明は省略する。
情報処理の種類(内容)にもよるが、信頼度R(平均値Rm)が少し低くても、太陽光等のノイズの影響を受け難い屋内においては、赤外線センサの出力を情報処理に利用できる場合がある。したがって、第2実施例では、上記のように、2つの異なる方法で赤外線センサの出力を情報処理に利用できるか否かを判断するようにしてある。
具体的には、平均値Rmが閾値r以下である場合には、さらに、平均値Rmが閾値uを超えているかどうかを判断する。閾値uは、閾値rよりも小さい値であるが、赤外線画像の全画素の輝度値を平均した平均値(平均値C)が或る程度低い場合には、赤外線センサの出力を情報処理に利用可能であることが判断される。ただし、輝度値は変動するため、所定期間(たとえば、1秒)に取得された複数の赤外線画像に対応する全平均値Cについての平均値Dが算出され、この平均値Dが閾値k未満であるかどうかが判断される。
一例として、閾値uは0.5に設定される。また、閾値kは、実験等により経験的に得られた数値であり、情報処理装置10が屋内で使用されていると予測(判断)できる程度の値に設定される。また、平均値C(平均値D)を算出する場合に取得される赤外線画像は、第1赤外線画像100または第2赤外線画像150である。ただし、ノイズの影響を判断(ノイズ状況を推測)するため、平均値C(平均値D)の算出に使用するのは、第1赤外線画像100よりも第2赤外線画像150の方が適していると考えられる。したがって、第2実施例では、所定期間に取得された複数の第2赤外線画像150に基づいて平均値Dが算出される。
なお、複数の第1赤外線画像100に基づいて平均値Dが算出される場合には、閾値uは、赤外LED26から照射される赤外線の明るさ分を考慮して、複数の第2赤外線画像150を用いて判断する場合よりも高く設定される。
平均値Rmが閾値u以下である場合には、信頼度R(平均値Rm)が低すぎるため、赤外線センサの出力を情報処理に利用することができない。一方、平均値Rmが閾値uを超えている場合には、第2赤外線画像150の全画素の輝度値を平均した平均値Ci(平均値D)が閾値k未満であれば、赤外線センサの出力を情報処理に利用することができる。ただし、平均値Rmが閾値uを超えている場合であっても、平均値Ci(平均値D)が閾値k以上であれば、太陽光等による影響が大き過ぎるため、赤外線センサの出力を情報処理に利用することができない。
なお、閾値kは実験等により経験的に決定されるが、情報処理の種類によって異なる値である。
したがって、第2実施例では、図5および図6に示した第1実施例の判断制御処理において、ステップS29とステップS31およびS33との間に、ステップS51、S53、S55およびS57の処理が追加される。
図7に示すように、平均値Rmが閾値r以下である場合には、ステップS29で“NO”となり、ステップS51で、平均値Rmが閾値uを超えているかどうかを判断する。ステップS51で“NO”であれば、つまり、平均値Rmが閾値u以下である場合には、信頼度が低すぎるため、ステップS33に進む。
一方、ステップS51で“YES”であれば、つまり、平均値Rmが閾値uを超えている場合には、ステップS53で、各第2赤外線画像150の全画素の輝度値を平均した平均値Ciを算出し、ステップS55で、i個の平均値Ciについての平均値Dを算出する。そして、ステップS57で、平均値Dが閾値k未満であるかどうかを判断する。
ステップS57で“YES”であれば、つまり、平均値Dが閾値k未満であれば、平均値Rmは少し低いが、太陽光等のノイズの影響が比較的少ないため、ステップS31に進む。一方、ステップS57で“NO”であれば、つまり、平均値Dが閾値k以上であれば、ステップS33に進む。
第2実施例によれば、第1実施例の効果に加え、信頼度が少し低い場合であっても、赤外線画像の全画素の輝度値を平均した平均値に基づいて太陽光等の影響がほとんど無い場合には、赤外線センサの出力を情報処理に利用可能であることを判断することができる。つまり、判断基準の異なる2つの判断方法を用いるので、情報処理の種類に応じて、赤外線センサの出力を情報処理に利用できるかどうかを適切に判断することができる。
[第3実施例]
第3実施例の情報処理装置10は、信頼度を算出する前に、赤外線センサの出力を情報処理に利用できるかどうかを大まかに判断し、その判断結果に応じて、信頼度を算出するかどうかを判断するようにした以外は第1実施例の情報処理装置10と同じであるため、重複した説明は省略する。
第3実施例における赤外線センサの出力を情報処理に利用できるかどうかを大まかに判断する処理は、第2実施例で説明した場合と同様に、第2赤外線画像150の全画素の輝度値を平均した平均値に基づいて行われる。ただし、第1赤外線画像100の全画素の輝度値を平均した平均値に基づいて、赤外線センサの出力を情報処理に利用できるかどうかを大まかに判断するようにしてもよい。
具体的には、図8に示すように、図5および図6に示した判断制御処理において、ステップS1の前に、ステップS71、S73、S75、S77、S79、S81、S83、S85、S87の処理が実行される。以下、第3実施例の判断制御処理について説明するが、第1実施例および第2実施例で説明した内容と同じ処理については、簡単に説明することにする。
図8に示すように、判断制御処理を開始すると、ステップS71で、タイマをスタートする。次のステップS73で、変数jを初期化する(j=1)。変数jは、所定時間に取得される第2赤外線画像を個別に識別するために設けられる。
次のステップS75では、撮影処理を実行し、ステップS77で、第2赤外線画像データを取得して、ステップS79で、第2赤外線画像の全画素の輝度値を平均した平均値Cjを算出する。
そして、ステップS81で、所定時間を経過したかどうかを判断する。ステップS81で“NO”であれば、つまり、所定時間を経過していなければ、ステップS83で、変数jを1加算して(j=j+1)、ステップS75に戻る。
一方、ステップS81で“YES”であれば、つまり、所定時間を経過すれば、ステップS85で、j個の平均値Cjの平均値Dを算出する。そして、ステップS87で、平均値Dが閾値k未満であるかどうかを判断する。ステップS87で“YES”であれば、図5および図6に示したステップS1以降の処理を実行する。一方、ステップS87で“NO”であれば、図6に示したステップS33に進む。
第3実施例によれば、第1実施例の効果に加え、赤外線センサの出力を情報処理に利用できるかどうかを大まかに判断した結果、利用可能であると判断された場合にのみ、所定期間における信頼度の平均値を算出し、信頼度の平均値に基づいて赤外線センサの出力を情報処理に利用できるかどうかをさらに判断するので、赤外線センサの出力の利用の可否を大まかに算出した結果、利用不可と判断された場合には、信頼度等を算出する必要な無いため、画像処理回路(プロセッサ)の処理負荷を軽減することができる。また、なるべく早い段階で、ユーザに赤外線センサの出力を情報処理に利用できないことを報知することができる。
[第4実施例]
第4実施例は、撮像装置24を含む撮像ユニット50を情報処理装置10と通信可能に接続した情報処理システム80を構成するようにした以外は、第1実施例と同じであるため、重複した説明は省略する。
図9に示すように、第4実施例では、情報処理装置10と撮像ユニット50とが通信ケーブル(USBケーブルなど)を用いて接続される。ただし、情報処理装置10と撮像ユニット50は無線通信可能に接続されてもよい。たとえば、無線通信は、Bluetooth(登録商標)規格、赤外線規格またはWi-Fi規格に従って実行される。かかる場合には、後述するインターフェイス(30、58)に代えて無線通信モジュールが設けられる。ただし、インターフェイス(30、58)と無線通信モジュールが設けられ、有線通信または無線通信が選択可能な構成にされてもよい。
第4実施例の情報処理装置10では、第1実施例の情報処理装置10において、撮像装置24および赤外LED26に代えて、インターフェイス(I/F)30が設けられる。I/F30は、たとえば、USB Type-CまたはThunderbolt(登録商標) 3などのインターフェイスであり、通信可能に接続された他の機器(ここでは、撮像ユニット50)との間でデータの送受信が可能である。
撮像ユニット50は、第1実施例に示した情報処理装置10に備えられる撮像装置24および赤外LED26を含む。また、撮像ユニット50は、プロセッサ52を含み、このプロセッサ52に、撮像装置24が接続され、撮像装置24に赤外LED26が接続される。上述したように、撮像装置24および赤外LED26は、撮像装置24の撮影方向と赤外LED26の発光方向とが実質的に一致するように、撮像ユニット50の筐体に設けられる。
また、撮像ユニット50は、ROM54、RAM56およびインターフェイス(I/F)58をさらに含み、ROM54、RAM56およびI/F58もまた、プロセッサ52に接続される。ROM54は、撮像ユニット50の主記憶装置であり、上述した情報処理プログラムを含む。RAM56は、プロセッサ52のバッファ領域およびワーク領域として用いられる。
撮像ユニット50では、ROM54に記憶された情報処理プログラムが読み出され、RAM56に記憶される。RAM56のメモリマップは、図4に示したメモリマップ300の一部と同じである。つまり、第4実施例では、図4に示したメモリマップ300のうち、メイン処理プログラム302a、画像生成プログラム302b、画像表示プログラム302c、決定プログラム302jおよび報知プログラム302k以外のプログラム(302d−302i)、画像生成データ304aおよび判断結果データ304h以外のデータ(304b−304h)がRAM56に記憶される。
なお、メイン処理プログラム302a、画像生成プログラム302b、画像表示プログラム302c、決定プログラム302j、報知プログラム302k、画像生成データ304aおよび判断結果データ304hは、情報処理装置10のRAM20に記憶される。
I/F58は、上記のI/F30と同じであり、通信可能に接続された他の機器(ここでは、情報処理装置10)との間でデータの送受信が可能である。
この情報処理システム80では、撮像ユニット50に内蔵される撮像装置24が、第1実施例に示したように、図5および図6に示したフロー図に従って、赤外線センサの出力を情報処理に利用できるかどうかを判断し、その判断した結果がプロセッサ52に通知される。プロセッサ52は、赤外線センサの出力を情報処理に利用できるかどうかについての情報(データ)を、I/F58、通信ケーブルおよびI/F30を介して、情報処理装置10のプロセッサ12に通知(出力)する。
なお、赤外線センサの出力を情報処理に利用可能である場合には、撮像ユニット50(撮像装置24)から差分画像200に基づく第1処理の結果が情報処理装置10に送信され、情報処理装置10で実行される情報処理において利用される。
第4実施例においても、第1実施例と同様に、赤外線センサの出力を情報処理に利用できない場合には、ユーザに赤外線センサの出力を情報処理に利用できないことを報知することができる。
なお、第2実施例または第3実施例の変形は、第4実施例にも適用することができる。
また、上述の各実施例では、信頼度を算出するようにしたが、これに限定される必要はない。赤外線センサの出力を情報処理に利用できるかどうかを判断できれば良いため、信頼度とは逆の不信度(ノイズ度)を算出するようにしてもよい。たとえば、不信度(ノイズ度)は、赤外線センサの出力についての不信度または赤外線センサで取得される赤外線画像に含まれるノイズの量である。具体的には、ノイズ度(ノイズ状況)は、1−信頼度であり、第2画素数Bを第1画素数Aで割った値に相当する。この場合には、ノイズ度の平均値(1−Rm)が所定の閾値r以上である場合に、赤外線センサの出力を情報処理に利用することができないと判断される。つまり、ノイズ度(ノイズ状況)が推測され、推測結果に基づいて赤外線センサの出力を情報処理に利用できるかどうかが判断される。
さらに、上述の各実施例では、所定期間において算出された複数の信頼度の平均値を算出し、算出した平均値が閾値を超えるかどうかを判断するようにしたが、これに限定される必要はない。所定期間において算出された複数の信頼度の各々が閾値を超えているかどうかを判断するようにしてもよい。つまり、複数の信頼度が所定の条件を満たすかどうどうかに応じて、赤外線センサの出力を情報処理に利用できるかどうかが判断される。したがって、複数の信頼度のうちのいずれか1つでも所定の条件を満たさない場合には、赤外線センサの出力を情報処理に利用することができないと判断することができる。このような場合には、信頼度が算出される度に、当該信頼度が所定の条件を満たすかどうかが判断され、所定の条件を満たさないことが判断された時点で、赤外線センサの出力を情報処理に利用できないことが判断されるようにすることができる。ただし、連続して算出される所定数(たとえば、3〜5個)の信頼度が所定の条件を満たさないことが判断された時点で、赤外線センサの出力を情報処理に利用できないことが判断されるようにしてもよい。このように、信頼度が算出される度に、当該信頼度が所定の条件を満たすかどうかが判断される場合には、所定期間は、赤外線センサの出力を情報処理に利用することができることを判断するための終期を規定していると言える。つまり、信頼度が算出される度に、当該信頼度が所定の条件を満たすかどうかが判断される場合には、所定期間は、赤外線センサの出力を情報処理に利用することができないことを判断するための要素(条件)にはならない。
さらにまた、上述の各実施例では、情報処理プログラム(アプリケーションプログラム)の一部として、赤外線センサの出力を情報処理に利用できるかどうかを判断し、判断結果を通知するための判断制御処理についてのプログラム(302e−302j)を含むように説明したが、これらのプログラム(302e−302j)は、アプリケーションプログラムに含まれる必要はない。
また、上述の各実施例では、赤外線センサから当該赤外線センサの出力を情報処理に利用できないことがプロセッサに通知された場合に、赤外線センサの出力を情報処理に利用できないことをユーザに報知するようにしたが、赤外線センサの出力を情報処理に利用可能であることが通知された場合にも、赤外線センサの出力を情報処理に利用可能であることをユーザに報知するようにしてもよい。かかる場合には、ユーザは、赤外線センサの出力を用いた情報処理が正常に実行されていることを知ることができる。
また、上述の各実施例で示した情報処理装置としては、携帯型のゲーム装置、ノート型PC、タブレットPCまたはスマートフォンのような持ち運び可能な電子機器のみならず、据え置き型のゲーム装置、デスクトップPCなどにも適用することができる。屋内であっても、太陽光または/および蛍光灯の光による影響は変化するからである。
さらに、上述の各実施例で示した具体的な数値および画像は一例であり、実際の製品に応じて適宜変更可能である。
10 …情報処理装置
12,52 …プロセッサ
14 …LCD
16 …スピーカ
18 …入力装置
20 …RAM
22 …フラッシュメモリ
24 …赤外LED
24 …撮像装置
50 …撮像ユニット
54 …ROM
56 …RAM
80 …情報処理システム

Claims (25)

  1. 赤外線を発光する発光手段、
    前記発光手段の駆動および停止を制御する制御手段、
    赤外線画像を撮像する撮像手段、
    前記制御手段によって前記発光手段が駆動されているときに前記撮像手段によって撮像された第1赤外線画像を取得する第1取得手段、
    前記制御手段によって前記発光手段が停止されているときに前記撮像手段によって撮像された第2赤外線画像を取得する第2取得手段、
    前記第1取得手段によって取得された前記第1赤外線画像の第1分析結果と前記第2取得手段によって取得された前記第2赤外線画像の第2分析結果とを比較する比較手段、および
    前記比較手段の比較結果に基づいて前記撮像手段によって撮像される赤外線画像のノイズ状況を推測する推測手段を備える、情報処理システム。
  2. 前記発光手段の発光方向と前記撮像手段の撮像方向は実質的に一致する、請求項1記載の情報処理システム。
  3. 前記第1分析結果は前記第1赤外線画像の明るさに関する第1の明るさ情報を含み、
    前記第2分析結果は前記第2赤外線画像の明るさに関する第2の明るさ情報を含み、
    前記比較手段は、前記第1の明るさ情報と前記第2の明るさ情報を比較する、請求項1または2記載の情報処理システム。
  4. 前記第1の明るさ情報は前記第1赤外線画像における所定値以上の輝度を有する第1画素数の情報を含み、
    前記第2の明るさ情報は前記第2赤外線画像における前記所定値以上の輝度を有する第2画素数の情報を含む、請求項3記載の情報処理システム。
  5. 前記第1の明るさ情報は前記第1赤外線画像における所定範囲の画素についての輝度値を平均した第1平均値の情報を含み、
    前記第2の明るさ情報は前記第2赤外線画像における所定範囲の画素についての輝度値を平均した第2平均値の情報を含む、請求項3記載の情報処理システム。
  6. 前記第1の明るさ情報は前記第1赤外線画像における所定範囲の画素についての輝度値を平均した第1平均値の情報をさらに含み、
    前記第2の明るさ情報は前記第2赤外線画像における所定範囲の画素についての輝度値を平均した第2平均値の情報をさらに含み
    前記推測手段は、前記第1画素数の情報および前記第2画素数の情報に基づいてノイズ状況を推測するとともに、前記第1平均値の情報および前記第2平均値の情報に基づいてノイズ状況を推測する、請求項4記載の情報処理システム。
  7. 前記比較手段は、前記第1の明るさ情報と前記第2の明るさ情報を用いて、前記撮像手段によって撮像される赤外線画像に関する評価値を算出する評価値算出手段を含み、
    前記推測手段は、前記評価値算出手段によって算出された評価値に応じてノイズ状況を推測する、請求項5または6記載の情報処理システム。
  8. 前記評価値算出手段によって算出された評価値に基づいて、所定の処理を実行するかどうかを判断する第1判断手段をさらに備える、請求項7記載の情報処理システム。
  9. 前記第1判断手段は、前記撮像手段の出力の利用の可否および所定の内容の報知の可否
    の少なくとも一方を判断する、請求項8記載の情報処理システム。
  10. 前記第1判断手段は、前記評価値算出手段によって算出される1または複数の前記評価値に基づいて、前記所定の処理を実行するかどうかを判断する、請求項8または9記載の情報処理システム。
  11. 前記第1判断手段は、前記複数の評価値を平均した第3平均値が所定の第1条件を満たす場合に、前記所定の処理を実行することを判断する、請求項10記載の情報処理システム。
  12. 前記第1判断手段による判断を繰り返し実行し、
    前記第3平均値は、前記評価値算出手段によって前記評価値が算出される度に、所定期間における前記複数の評価値を平均して算出される、請求項11記載の情報処理システム。
  13. 前記第1判断手段は、前記1または複数の評価値のいずれか1つでも前記第1条件を満たさない場合に、前記所定の処理を実行しないことを判断する、請求項11記載の情報処理システム。
  14. 前記第1判断手段は、前記複数の評価値のうちの連続して算出される所定数の当該評価値が前記第1条件を満たさない場合に、前記所定の処理を実行しないことを判断する、請求項11記載の情報処理システム。
  15. 前記第1平均値または前記第2平均値が前記第1条件よりも緩和された所定の第2条件を満たすかどうかで前記所定の処理を実行するかどうかを判断する第2判断手段をさらに備え、
    前記第1判断手段によって前記所定の処理を実行しないことが判断された場合に、前記第2判断手段によって前記所定の処理を実行するかどうかを判断する、請求項11ないし14のいずれかに記載の情報処理システム。
  16. 前記第1判断手段によって前記所定の処理を実行しないことが判断された場合に、前記第2判断手段によって前記所定の処理を実行するかどうかを判断する、請求項15記載の情報処理システム。
  17. 前記第1平均値または前記第2平均値が前記第1条件よりも緩和された所定の第2条件を満たすかどうかで前記所定の処理を実行するかどうかを判断する第2判断手段をさらに備え、
    前記第2判断手段によって前記所定の処理を実行することが判断された場合に、前記第1判断手段によって前記所定の処理を実行するかどうかを判断する、請求項11ないし14記載の情報処理システム。
  18. 前記比較手段の比較結果に基づいて、前記撮像手段によって撮像された赤外線画像を用いた所定の処理を実行するかどうかを決定する決定手段をさらに備える、請求項1または2記載の情報処理システム。
  19. 前記比較手段の比較結果に基づいて所定の内容を報知する報知手段をさらに備える、請求項1ないし18のいずれかに記載の情報処理システム。
  20. 前記報知手段は、前記所定の内容を表示手段に表示する、請求項19記載の情報処理システム。
  21. 前記推測手段は、少なくとも前記第1取得手段によって取得された第1赤外線画像のノイズ状況を推測する、請求項1ないし20のいずれかに記載の情報処理システム。
  22. 赤外線が発光されている場合に撮像された第1赤外線画像の第1分析結果と前記赤外線が発光されていない場合に撮像された第2赤外線画像の第2分析結果とを比較する比較手段、および
    前記比較手段の比較結果に基づいて撮像された赤外線画像のノイズ状況を推測する推測手段を備える、画像処理装置。
  23. 赤外線を発光する発光手段、
    前記発光手段の駆動および停止を制御する制御手段、
    赤外線画像を撮像する撮像手段、
    前記制御手段によって前記発光手段が駆動されているときに前記撮像手段によって撮像された前記第1赤外線画像を取得する第1取得手段、および
    前記制御手段によって前記発光手段が停止されているときに前記撮像手段によって撮像された前記第2赤外線画像を取得する第2取得手段をさらに備える、請求項22記載の画像処理装置。
  24. 赤外線を発光する発光装置および赤外線画像を撮像する撮像装置を備えるコンピュータの情報処理プログラムであって、
    前記コンピュータを、
    前記発光装置の駆動および停止を制御する制御手段、
    前記制御手段において前記発光装置を駆動しているときに前記撮像装置によって撮像された第1赤外線画像を取得する第1取得手段、
    前記制御手段において前記発光装置を停止しているときに前記撮像装置によって撮像された第2赤外線画像を取得する第2取得手段、
    前記第1取得手段において取得した前記第1赤外線画像の第1分析結果と前記第2取得手段において取得した前記第2赤外線画像の第2分析結果を比較する比較手段、および
    前記比較手段の比較結果に基づいて前記撮像装置によって撮像される赤外線画像のノイズ状況を推測する推測手段として機能させる、情報処理プログラム。
  25. 赤外線を発光する発光装置および赤外線画像を撮像する撮像装置を備える情報処理システムの情報処理方法であって、
    (a)前記発光装置の駆動および停止を制御するステップ、
    (b)前記ステップ(a)において前記発光装置を駆動しているときに前記撮像装置によって撮像された第1赤外線画像を取得するステップ、
    (c)前記ステップ(a)において前記発光装置を停止しているときに前記撮像装置によって撮像された第2赤外線画像を取得するステップ、
    (d)前記ステップ(b)において取得した前記第1赤外線画像の第1分析結果と前記ステップ(c)おいて取得した前記第2赤外線画像の第2分析結果を比較するステップ、および
    (e)前記ステップ(d)の比較結果に基づいて前記撮像装置によって撮像される赤外線画像のノイズ状況を推測するステップを有する、情報処理方法。
JP2016090359A 2016-04-28 2016-04-28 情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法 Active JP6647956B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016090359A JP6647956B2 (ja) 2016-04-28 2016-04-28 情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法
US15/496,023 US10474924B2 (en) 2016-04-28 2017-04-25 Information processing system, image processing apparatus, storage medium and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016090359A JP6647956B2 (ja) 2016-04-28 2016-04-28 情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法

Publications (2)

Publication Number Publication Date
JP2017200090A JP2017200090A (ja) 2017-11-02
JP6647956B2 true JP6647956B2 (ja) 2020-02-14

Family

ID=60159226

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016090359A Active JP6647956B2 (ja) 2016-04-28 2016-04-28 情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法

Country Status (2)

Country Link
US (1) US10474924B2 (ja)
JP (1) JP6647956B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017197618A1 (zh) * 2016-05-19 2017-11-23 深圳大学 一种红外图像中条纹噪声的去除方法及系统
CN108844637B (zh) * 2018-07-25 2020-05-26 山东大学 一种基于图像质量的InGaAs FPAs组件性能评估装置及其应用

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3466176B2 (ja) 2001-12-21 2003-11-10 コナミ株式会社 ゲーム方法、ゲームプログラム、ゲーム装置及びゲームシステム
US20140028861A1 (en) * 2012-07-26 2014-01-30 David Holz Object detection and tracking
EP2993645B1 (en) * 2014-09-02 2019-05-08 Nintendo Co., Ltd. Image processing program, information processing system, information processing apparatus, and image processing method

Also Published As

Publication number Publication date
US20170318241A1 (en) 2017-11-02
US10474924B2 (en) 2019-11-12
JP2017200090A (ja) 2017-11-02

Similar Documents

Publication Publication Date Title
US20220030175A1 (en) Methods for reducing power consumption of a 3d image capture system
JP6340477B2 (ja) 距離画像取得装置及び距離画像取得方法
US11770619B2 (en) Generating static images with an event camera
TWI520032B (zh) 具有物件偵測之光學導航系統
JP5556098B2 (ja) 表示方法及び表示装置
CN104333654A (zh) 危险提醒方法及装置以及便携式电子设备
RU2015156315A (ru) Система, способ и устройство для контроля влияния света и звука на человека
JP2013254007A5 (ja)
EP1729259A3 (en) Image processing apparatus, image processing method, and image processing program
WO2017014135A1 (ja) 情報処理装置、疲労度評価方法、及びプログラム
JP6647956B2 (ja) 情報処理システム、画像処理装置、情報処理プログラムおよび情報処理方法
US10082883B2 (en) Optical navigation device and locus smoothing method thereof
JP6383218B2 (ja) 情報処理装置、情報処理システム、情報処理プログラム、および情報処理方法
JP2011095985A (ja) 画像表示装置
EP3485461A1 (en) Techniques for determining proximity based on image blurriness
US10348983B2 (en) Non-transitory storage medium encoded with computer readable image processing program, information processing system, information processing apparatus, and image processing method for determining a position of a subject in an obtained infrared image
KR20180112335A (ko) 안개 제거 방법 및 이를 적용한 안개 제거 시스템
TW201317863A (zh) 點擊偵測裝置
JP6654019B2 (ja) 情報処理システム情報処理装置、情報処理方法、情報処理プログラム、および、ハンドヘルド型情報処理装置
US11944887B2 (en) Information processing device and information processing method
JP4619082B2 (ja) 画像判定装置
JP6833337B2 (ja) 撮像装置、撮像装置の制御方法、およびプログラム
JP2012053366A5 (ja)
JPWO2015040809A1 (ja) 電子機器、電子機器の制御方法及びプログラム
JP6108784B2 (ja) 煙検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190319

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200115

R150 Certificate of patent or registration of utility model

Ref document number: 6647956

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250