JP2004276165A - ロボット装置及びロボット装置における画像信号処理方法 - Google Patents
ロボット装置及びロボット装置における画像信号処理方法 Download PDFInfo
- Publication number
- JP2004276165A JP2004276165A JP2003070654A JP2003070654A JP2004276165A JP 2004276165 A JP2004276165 A JP 2004276165A JP 2003070654 A JP2003070654 A JP 2003070654A JP 2003070654 A JP2003070654 A JP 2003070654A JP 2004276165 A JP2004276165 A JP 2004276165A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image signal
- image
- white balance
- robot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Manipulator (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】ロボット装置において、適切な画像信号処理を行い難い問題があった。
【解決手段】自己の体の色として基準とすべき色を予め記憶し、画像信号に基づいて、現在の照明環境下における自己の体の色を検出し、検出した自己の体の色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すようにした。また、所定物又は所定マークの色として基準とすべき色を予め記憶し、画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出し、検出した所定物又は所定マークの色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すようにした。
【選択図】 図10
【解決手段】自己の体の色として基準とすべき色を予め記憶し、画像信号に基づいて、現在の照明環境下における自己の体の色を検出し、検出した自己の体の色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すようにした。また、所定物又は所定マークの色として基準とすべき色を予め記憶し、画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出し、検出した所定物又は所定マークの色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すようにした。
【選択図】 図10
Description
【0001】
【発明の属する技術分野】
本発明はロボット装置及びロボット装置における画像信号処理方法に関し、例えばカメラデバイスを搭載した移動型のロボットに適用して好適なものである。
【0002】
【従来の技術】
移動型のロボットにおいては、搭載されたカメラデバイスから得られる画像情報が、外部状況を認識するための情報として、数あるセンサ情報の中でも重要なものである。
【0003】
かかるカメラデバイスからの画像信号に対するコントロールとしては、大きく分けて、明るさをコントロールするゲイン調整と、色合いをコントロールするホワイトバランス調整とがあるが、特に、画像情報における色のもつ情報量は多く、人間との情報共有にも大きな役割を果たすため、ホワイトバランスの調整は重要となる。
【0004】
ここで、このようなカメラデバイスにおけるホワイトバランスの一般的な調整方法としては、画像中の各画素値の平均値が無色(黒〜グレイ〜白のいずれかの色)となると仮定して、当該平均値が無色になるようにホワイトバランスを調整する第1の方法(以下、これを第1のホワイトバランス調整方法と呼ぶ)と、予め決められたホワイトバランス設定において、最も無色(黒〜グレイ〜白のいずれかの色)に近い領域の画素値が無色になるようにホワイトバランスを調整する第2の方法(以下、これを第2のホワイトバランス調整方法と呼ぶ)とがある(例えば特許文献1参照)。
【0005】
【特許文献1】
特開2003−23645号公報(第2頁)
【0006】
【発明が解決しようとする課題】
ところで、かかる移動型のロボットが行動する環境は、
▲1▼部屋によって色温度が異なる
▲2▼日光などの影響により、時間によって環境の色温度が異なる
▲3▼照明がオン・オフされることにより、環境の色温度が変化する
▲4▼ロボットの周囲に配置されたものの色によって、同じ部屋でも色温度の異なる場所が存在する
▲5▼同じ場所でも向いている方向(上下左右)によって色温度が異なる
など、環境によって色温度が異なるなどの理由により、撮像される画像のホワイトバランスが適切でない状況が存在する。
【0007】
従って、カメラデバイスからの画像信号に基づいて画像処理や画像認識を行う場合、その処理に応じた適切なホワイトバランス調整が必要となり、例えば適切なホワイトバランス調整が行われていないと、色情報を用いた画像処理や画像認識は難しいものとなる。
【0008】
しかしながら、移動型のロボットのホワイトバランス調整方法として上述の第1のホワイトバランス調整方法を採用した場合、撮像画像が常に理想的な色分布であるわけではないために、撮像画像中において支配的な面積を有する色がある場合にはその影響を受けて、適切なホワイトバランス調整処理を行い難い問題があった。
【0009】
また、上述の第2のホワイトバランス調整方法によると、選択された領域の色が必ずしも意図した色である保証はないため、この方法によっても適切なホワイトバランス調整が行われる保証はない。
【0010】
本発明は以上の点を考慮してなされたもので、適切な画像信号処理を行い得るロボット装置及びロボット装置における画像信号処理方法を提案しようとするものである。
【0011】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、ロボット装置において、自己の体の色として基準とすべき色を予め記憶する記憶手段と、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する色検出手段と、色検出手段により検出される自己の体の色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにした。この結果このロボット装置では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0012】
また本発明においては、ロボット装置における画像信号処理方法において、自己の体の色として基準とすべき色を予め記憶する第1のステップと、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する第2のステップと、検出した自己の体の色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにした。この結果このロボット装置における画像信号処理方法によれば、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0013】
さらに本発明においては、ロボット装置において、所定物又は所定マークの色として基準とすべき色を予め記憶する記憶手段と、撮像手段から出力される画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する色検出手段と、色検出手段により検出される所定物又は所定マークの色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにした。この結果このロボット装置では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0014】
さらに本発明においては、ロボット装置における画像信号処理方法において、所定物又は所定マークの色として基準とすべき色を予め記憶する第1のステップと、画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する第2のステップと、検出した所定物又は所定マークの色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにした。この結果このロボット装置における画像信号処理方法によれば、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0015】
【発明の実施の形態】
以下図面について、本発明の一実施の形態を詳述する。
【0016】
(1)第1の実施の形態
(1−1)本実施の形態によるロボットの概略構成
図1及び図2において、1は全体として本実施の形態による2足歩行型のロボットを示し、胴体部ユニット2の上部に頭部ユニット3が配設されると共に、当該胴体部ユニット2の上部左右にそれぞれ同じ構成の腕部ユニット4A、4Bがそれぞれ配設され、かつ胴体部ユニット2の下部左右にそれぞれ同じ構成の脚部ユニット5A、5Bがそれぞれ所定位置に取り付けられることにより構成されている。
【0017】
胴体部ユニット2においては、体幹上部を形成するフレーム10及び体幹下部を形成する腰ベース11が腰関節機構12を介して連結することにより構成されており、体幹下部の腰ベース11に固定された腰関節機構12の各アクチュエータA1、A2をそれぞれ駆動することによって、体幹上部を図3に示す直交するロール軸13及びピッチ軸14の回りにそれぞれ独立に回転させ得るようになされている。
【0018】
また頭部ユニット3は、フレーム10の上端に固定された肩ベース15の上面中央部に首関節機構16を介して取り付けられており、当該首関節機構16の各アクチュエータA3、A4をそれぞれ駆動することによって、図3に示す直交するピッチ軸17及びヨー軸18の回りにそれぞれ独立に回転させ得るようになされている。
【0019】
さらに各腕部ユニット4A、4Bは、それぞれ肩関節機構19を介して肩ベース15の左右に取り付けられており、対応する肩関節機構19の各アクチュエータA5、A6をそれぞれ駆動することによって図3に示す直交するピッチ軸20及びロール軸21の回りにそれぞれ独立に回転させ得るようになされている。
【0020】
この場合、各腕部ユニット4A、4Bは、それぞれ上腕部を形成するアクチュエータA7の出力軸に肘関節機構22を介して前腕部を形成するアクチュエータA8が連結され、当該前腕部の先端に手部23が取り付けられることにより構成されている。
【0021】
そして各腕部ユニット4A、4Bでは、アクチュエータA7を駆動することによって前腕部を図3に示すヨー軸24の回りに回転させ、アクチュエータA8を駆動することによって前腕部を図3に示すピッチ軸25の回りにそれぞれ回転させることができるようになされている。
【0022】
これに対して各脚部ユニット5A、5Bにおいては、それぞれ股関節機構26を介して体幹下部の腰ベース11にそれぞれ取り付けられており、それぞれ対応する股関節機構26の各アクチュエータA9〜A11をそれぞれ駆動することによって、図3に示す互いに直交するヨー軸27、ロール軸28及びピッチ軸29の回りにそれぞれ独立に回転させ得るようになされている。
【0023】
この場合各脚部ユニット5A、5Bは、それぞれ大腿部を形成するフレーム30の下端に膝関節機構31を介して下腿部を形成するフレーム32が連結されると共に、当該フレーム32の下端に足首関節機構33を介して足部34が連結されることにより構成されている。
【0024】
これにより各脚部ユニット5A、5Bにおいては、膝関節機構31を形成するアクチュエータA12を駆動することによって、下腿部を図3に示すピッチ軸35の回りに回転させることができ、また足首関節機構33のアクチュエータA13、A14をそれぞれ駆動することによって、足部34を図3に示す直交するピッチ軸36及びロール軸37の回りにそれぞれ独立に回転させ得るようになされている。
【0025】
一方、胴体部ユニット2の体幹下部を形成する腰ベース11の背面側には、図4に示すように、当該ロボット1全体の動作制御を司るメイン制御部40と、電源回路及び通信回路などの周辺回路41と、バッテリ45(図5)となどがボックスに収納されてなる制御ユニット42が配設されている。
【0026】
そしてこの制御ユニット42は、各構成ユニット(胴体部ユニット2、頭部ユニット3、各腕部ユニット4A、4B及び各脚部ユニット5A、5B)内にそれぞれ配設された各サブ制御部43A〜43Dと接続されており、これらサブ制御部43A〜43Dに対して必要な電源電圧を供給したり、これらサブ制御部43A〜43Dと通信を行うことができるようになされている。
【0027】
また各サブ制御部43A〜43Dは、それぞれ対応する構成ユニット内の各アクチュエータA1〜A14と接続されており、当該構成ユニット内の各アクチュエータA1〜A14をメイン制御部40から与えられる各種制御コマンドに基づいて指定された状態に駆動し得るようになされている。
【0028】
また頭部ユニット3には、図5に示すように、このロボット1の「目」として機能するCCD(Charge Coupled Device )カメラ50及び「耳」として機能するマイクロホン51などの各種外部センサと、「口」として機能するスピーカ52となどがそれぞれ所定位置に配設され、手部23の手の平や足部34の底面等には、それぞれ外部センサとしてのタッチセンサ53が配設されている。
【0029】
さらに制御ユニット42内には、バッテリセンサ54及び加速度センサ55などの各種内部センサが配設され、腰関節機構12等の各関節機構には、それぞれアクチュエータA1〜A14に対応させて、内部センサとしてのポテンショメータ(図示せず)が配設されている。
【0030】
そしてCCDカメラ50は、周囲の状況を撮像し、得られた画像信号S1Aをメイン制御部40に送出する一方、マイクロホン51は、各種外部音を集音し、かくして得られた音声信号S1Bをメイン制御部40に送出する。またタッチセンサ53は、外部との物理的な接触を検出し、検出結果を圧力検出信号S1Cとしてメイン制御部40に送出するようになされている。
【0031】
またバッテリセンサ54は、バッテリ45のバッテリ残量を所定周期で検出し、検出結果をバッテリ残量検出信号S2Aとしてメイン制御部40に送出する一方、加速度センサ56は、3軸方向(x軸、y軸及びz軸)の加速度を所定周期で検出し、検出結果を加速度検出信号S2Bとしてメイン制御部40に送出する。さらに各ポテンショメータは、それぞれ対応するアクチュエータA1〜A14の出力軸の回転角度を検出し、検出結果を回転角度検出信号S2Cとして対応するサブ制御部43A〜43Dを介してメイン制御部40に送出する。
【0032】
メイン制御部部40は、CPU(Central Processing Unit)、ROM(Read Only Memory)及びRAM(Random Access Memory)としての内部メモリ40A等を有するマイクロコンピュータ構成でなり、カメラ50、マイクロホン51及びタッチセンサ53等の各外部センサからそれぞれ与えられる画像信号S1A、音声信号S1B及び圧力検出信号S1C等の外部センサ信号と、バッテリセンサ54、加速度センサ55及び各ポテンショメータ等の各内部センサからそれぞれ与えられるバッテリ残量検出信号S2A、加速度検出信号S2B及び角度検出信号S2C等の内部センサ信号とに基づいて、ロボット1の周囲及び内部の状況や、外部との接触の有無などを判断する。
【0033】
そしてメイン制御部40は、この判断結果と、予め内部メモリ40Aに格納されている制御プログラムと、そのとき装填されている外部メモリ56に格納されている各種制御パラメータとに基づいて続く行動を決定し、決定結果に基づく制御コマンドを対応するサブ制御部43A〜43Dに送出する。この結果、この制御コマンドに基づき、そのサブ制御部43A〜43Dの制御のもとに、対応するアクチュエータA1〜A14が駆動され、かくして頭部ユニット3を上下左右に揺動させたり、腕部ユニット4A、4Bを上にあげたり、歩行するなどの行動がロボット1により発現されることとなる。
【0034】
またメイン制御部40は、かかるマイクロホン51から与えられる音声信号S1Bに対する所定の音声認識処理によりユーザの発話内容を認識し、当該認識に応じた音声信号S3をスピーカ52に与えることにより、ユーザと対話するための合成音声を外部に出力させる。
【0035】
このようにしてこのロボット1においては、周囲及び内部の状況等に基づいて自律的に行動することができ、またユーザと対話することもできるようになされている。
【0036】
(1−2)ホワイトバランス調整に関するメイン制御部40の処理
次に、ホワイトバランス調整に関するメイン制御部40の処理内容について説明する。
【0037】
このロボット1においては、図6(A)に示すように、工場出荷時に所定の照明環境下における自己の手部23(図1)における手の平23Aの部分の色を基準とすべき色として内部メモリ40Aに記憶し、その後の駆動時において周囲の照明環境が変化した場合等に、図6(B)に示すように、その変化後の照明環境下における自己の手の平23Aの色を検出し、当該色が工場出荷時に記憶した色と一致するようにホワイトバランスを調整するオートホワイトバランス調整機能が搭載されている。
【0038】
ここで、かかるオートホワイトバランス調整機能に関するメイン制御部40の処理を機能的に分類すると、図7に示すように、ハードウェア構成でなる信号処理部60と、ソフトウェア構成でなる画像認識部61、行動選択決定部62、行動生成部63及びコントロール部64とに分けることができる。
【0039】
この場合信号処理部60は、CCDカメラ50からの画像信号S1Aに対してホワイトバランスコントロール処理や、ゲインコントロール処理等の各種所定の信号処理を施し、かくして得られた認識用画像信号S10を画像認識部61及びコントロール部64に送出する。
【0040】
具体的に、信号処理部60には、例えば画像信号S1Aに対してゲインコントロール処理やホワイトバランスコントロール処理を施すための手段として、図8に示すように、Yゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vが設けられると共に、これらYゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vにそれぞれ対応させてYゲインレジスタ71Y、Uゲインレジスタ71U及びVゲインレジスタ71Vが設けられている。
【0041】
このときYゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vには、それぞれCCDカメラ50からの画像信号S1Aを当該信号処理部60においてYUVフォーマットに変換することにより得られた輝度信号S11Y、第1の色差信号S11U及び第2の色差信号S11Vのうちの対応する信号が供給される。
【0042】
またYゲインレジスタ71Yには、画像信号S1Aに対するゲインを規定したゲインパラメータが更新自在に格納され、Uゲインレジスタ71U及びVゲインレジスタ71Vには、それぞれ画像信号S1Aのホワイトバランス調整のための第1又は第2の色差信号S11U、S11Vに対するゲインを規定した第1又は第2のホワイトバランスパラメータが更新自在に格納されている。
【0043】
かくしてYゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vは、それぞれ供給される輝度信号S11Y、第1の色差信号S11U又は第2の色差信号S11Vを対応するYゲインレジスタ71Y、Uゲインレジスタ71U又はVゲインレジスタ71Vに格納されたゲインパラメータ、第1のホワイトバランスパラメータ又は第2のホワイトバランスパラメータの各パラメータ値に応じて増幅する。
【0044】
そして信号処理部60は、このようにして得られたゲイン調整及びホワイトバランス調整された輝度信号S11Y並びに第1及び第2の色差信号S11U、S11Vに対して図示しない信号処理回路においてさらに所定の信号処理を施し、この後これら輝度信号S11Y並びに第1及び第2の色差信号S11U、S11Vを認識用画像信号S10として画像認識部61及びコントロール部64に送出する。
【0045】
画像認識部61は、供給される認識用画像信号S10に基づく画像内の各オブジェクトの色を認識する色認識器と、当該画像内に存在する顔を認識し識別する顔認識器となどの各種認識器を有し、これら各認識器の認識結果を画像認識信号S12として行動選択決定部62に送出する。
【0046】
このとき行動選択決定部62には、マイクロホン51(図5)からの音声信号S1B(図5)に基づく音声認識結果や話者認識結果が図示しない音声認識部から音声認識信号S13として与えられると共に、手部23や足部34の底面等に配設されたタッチセンサ53(図5)から与えられる圧力検出信号S1C(図5)に基づく「接触した」、「接地した」等の各種接触認識結果が図示しない接触認識部から接触認識信号S14として与えられる。
【0047】
かくして行動選択決定部62は、これら画像認識信号S12、音声認識信号S13及び接触認識信号S14に基づいてロボット1が次に発現すべき行動を選択及び決定し、決定結果を行動決定信号S15として行動生成部63に送出する。
【0048】
行動生成部63は、どのアクチュエータA1〜A14をどのタイミングでどの程度駆動させるかを規定した各行動ごとのモーションファイル、及びそのときロボット1が発音すべき音声の音声データが格納されたサウンドファイルなどの各種行動内容規定ファイルを有している。
【0049】
そして行動生成部63は、行動決定信号S15が行動選択決定部62から与えられると、対応する行動内容規定ファイルを読み出し再生して、対応する各アクチュエータA1〜A14への指令値D2を対応するサブ制御部43A〜43Dに送出し、又は再生した音声データをアナログ変換して上述の音声信号S3(図5)としてスピーカに送出することにより、かかる行動選択決定部62により選択された行動をロボット1に発現させる。
【0050】
一方、コントロール部64は、信号処理部60から与えられる認識用画像信号S10に基づいて、周囲の照明環境が変化したか否かを常時監視する。そしてコントロール部64は、周囲の照明環境が変化したことを検出すると、行動選択決定部62を制御してロボット1の姿勢を図6(B)のように自己の手の平23Aを見る姿勢(以下、これを色検出姿勢と呼ぶ)に遷移させ、かくして当該手の平23AをCCDカメラ50(図5)の撮像領域内に位置させる。
【0051】
またコントロール部64は、この状態において信号処理部60から与えられる認識用画像信号S10に基づいて、その照明環境下における当該手の平23Aの色を検出すると共に、当該検出結果と、工場出荷時に所定の照明環境下において検出し記憶した当該手の平23Aの色とを比較する。
【0052】
そしてコントロール部64は、この比較結果に基づいて、現在の照明環境下において検出される手の平23Aの色が工場出荷時において所定の照明環境下で検出した色と一致するように信号処理部60におけるUゲインレジスタ71Uに格納されている第1のホワイトバランスパラメータ及びVゲインレジスタ71Vに格納されている第2のホワイトバランスパラメータのパラメータ値をそれぞれ必要に応じて変化させる。
【0053】
このようにしてこのロボット1においては、画像認識に用いる画像信号S1Aのホワイトバランスを自己の手の平23Aの色を利用して調整するようになされ、これによりそのときの周囲の色分布や照明環境にかかわりなく、常に一定状態にホワイトバランスを調整し得るようになされている。
【0054】
(1−3)コントロール部64の具体的処理
次に、ホワイトバランス調整に関するコントロール部64の具体的な処理内容について説明する。
【0055】
まずコントロール部64は、ロボット1の工場出荷時、所定の照明環境下におけるロボット1の手の平23Aの色を図9に示す第1の目標値設定処理手順RT1に従って検出し記憶する。
【0056】
すなわちコントロール部64は、外部操作によりロボット1の手の平23Aの色を検出すべき命令が与えられると、この第1の目標値設定処理手順RT1をステップSP0において開始し、続くステップSP1において行動選択決定部62を制御することにより、ロボット1の姿勢を色検出姿勢に遷移させる。
【0057】
続いてコントロール部64は、ステップSP2に進んで、このとき信号処理部60から与えられる認識用画像信号S10に基づく1フレーム分の画像情報を取得し、この後ステップSP3に進んで当該画像情報に基づく画像内のホワイトバランス調整に用いる範囲を算出する。
【0058】
具体的に、コントロール部64は、ステップSP2において取得した画像情報に基づく画像72内に図6(A)の右図のように存在する自己の手の平23Aの当該画像72内における位置を、そのとき各ポテンショメータから与えられる角度検出信号S2Cに基づき得られる各アクチュエータA1〜A14の出力軸の回転角度を利用してロボット1の対応するアクチュエータA1〜A14のキネマティクス(幾何学的位置関係)を解くことにより計算し、当該計算結果に基づいて画像72内における自己の手の平23Aの範囲、すなわちホワイトバランス調整に用いる範囲72Aを算出する。
【0059】
続いてコントロール部64は、ステップSP4に進んで、認識用画像信号S10を構成する第1及び第2の色差信号S10U、S10V(図7)について、それぞれかかる画像72(図6)におけるステップSP3において算出した範囲72A(図6)内における全画素の画素値の平均値を算出する。
【0060】
そしてコントロール部64は、この後ステップSP5に進んで、ステップSP4において算出した第1及び第2の色差信号S10U、S10Vの各平均値をそれぞれ当該第1及び第2の色差信号S10U、S10Vについての目標値として内部メモリ40Aに格納し、この後ステップSP6に進んでこの第1の目標値設定処理手順RT1を終了する。なお、以下においては、かかる第1及び第2の色差信号S10U、S10Vについての目標値が共に「128」であったものとする。
【0061】
一方、コントロール部64は、この後の駆動時において、信号処理部64から与えられる認識用画像信号S10に基づいて、周囲の照明環境が変化したか否かを常時監視する。
【0062】
具体的には、『得られた1枚の画像における各画素の画素値の平均をとると、無色(黒〜グレイ〜白のいずれかの色)となる』という仮定は一般的には成り立たないことは上述した通りであるが、この平均値に対してさらに時間的に平均をとった場合は無色(黒〜グレイ)になるという仮定は妥当であると考えられる。
【0063】
そこでコントロール部64は、認識用画像信号S10に基づく各画像にフレームナンバーが付されているとして、最新の画像のフレームナンバーをF、認識用画像信号S10を構成する第1及び第2の色差信号S10U、S10V(図7)のi番目の画像全体における平均値をそれぞれUAV(i)及びVAV(i)、時間的平均をとる期間をT〔s〕、1秒当たりに取得できる画像数をn、ホワイトバランスの再調整(キャリブレーション)を行うべき第1及び第2の色差信号S10U、S10Vについての各閾値をそれぞれUt及びVtとして、これら第1及び第2の色差信号S10U、S10Vに基づいて次式
【0064】
【数1】
【0065】
及び
【0066】
【数2】
【0067】
を常時計算し、(1)式の絶対値がUtよりも大きくなったとき、すなわち次式
【0068】
【数3】
【0069】
となったときや、(2)式の絶対値がVtよりも大きくなったとき、すなわち次式
【0070】
【数4】
【0071】
となったときに『周囲の照明条件が変化した』と判断する。
【0072】
また、認識用画像信号S10を構成する輝度信号S10Y(図7)のi番目の画像全体における平均値をYAV(i)としたときに、この値の時間的平均値が前回のホワイトバランス調整を行ったときから大きく変化した場合は、照明環境の異なる部屋に入った又は照明のオン/オフがあったなど、照明環境の変化があったことが推測される。
【0073】
そこでコントロール部64は、前回のホワイトバランス調整を行ったときのフレームナンバーをFC、再調整を行うべき輝度信号S10Yについての閾値をYtとして、輝度信号S10Yに基づいて次式
【0074】
【数5】
【0075】
を常時計算し、(5)式の絶対値がYtよりも大きくなったとき、すなわち次式
【0076】
【数6】
【0077】
となったときに『周囲の照明条件が変化した』と判断する。
【0078】
そしてコントロール部64は、このようにして認識用画像信号S10に基づいて『周囲の照明条件が変化した』ことを認識すると、図10に示す第1のパラメータ更新処理手順RT2に従って、信号処理部60のUゲインレジスタ71U(図8)又はVゲインレジスタ71V(図8)にそれぞれ格納されている第1及び第2のホワイトバランスパラメータをそれぞれ必要に応じて更新する。
【0079】
すなわちコントロール部64は、上述のようにして認識用画像信号S10に基づき『周囲の照明条件が変化した』ことを認識すると、この第1のパラメータ更新処理手順RT2をステップSP10において開始し、続くステップSP11〜ステップSP14を上述の第1の目標値設定処理手順RT1(図9)のステップSP1〜ステップSP4と同様に処理することにより、認識用画像信号S10を構成する第1及び第2の色差信号S10U、S10Vについて、そのときの照明環境下におけるステップSP13において算出した範囲72A(図6)内での全画素の画素値の平均値UHCAV、VHCAVをそれぞれ算出する。
【0080】
そしてコントロール部64は、この後ステップSP15に進んで、ステップSP14において算出した第1の色差信号S10Uの平均値UHCAVが目標値である「128」と一致するか否かを判断する。そしてコントロール部64は、このステップSP15において肯定結果を得るとステップSP17に進む。
【0081】
これに対してコントロール部64は、このステップSP15において否定結果を得るとステップSP16に進んで、平均値UHCAVが目標値よりも大きい場合には信号処理部60のUゲインレジスタ71U(図8)に格納された第1のホワイトバランスパラメータのパラメータ値を1だけ下げ、平均値UHCAVが目標値よりも小さい場合には当該第1のホワイトバランスパラメータのパラメータ値を1だけ上げた後、ステップSP17に進む。
【0082】
続いてコントロール部64は、このステップSP17において、上述のステップSP14において算出した第2の色差信号S10Vの平均値VHCAVが目標値である「128」と一致するか否かを判断する。そしてコントロール部64は、このステップSP17において肯定結果を得るとステップSP19に進む。
【0083】
これに対してコントロール部64は、このステップSP17において否定結果を得るとステップSP18に進んで、平均値VHCAVが目標値よりも大きい場合には信号処理部60のVゲインレジスタ71V(図8)に格納された第2のホワイトバランスパラメータのパラメータ値を1だけ下げ、平均値VHCAVが目標値よりも小さい場合には当該第2のホワイトバランスパラメータのパラメータ値を1だけ上げた後、ステップSP19に進む。
【0084】
次いでコントロール部64は、このステップSP19において、上述のステップSP14において算出した第1の色差信号S10Uの平均値UHCAVがその目標値と一致し、かつ、第2の色差信号S10Vの平均値VHCAVがその目標値と一致していたか否かを判断する。
【0085】
そしてコントロール部64は、このステップSP19において否定結果を得るとステップSP12に戻り、この後ステップSP19において肯定結果を得るまでステップSP12〜ステップSP19−ステップSP12のループを繰り返す。
【0086】
そしてコントロール部64は、やがて第1及び第2の色差信号S10U、S10Vの各平均値UHCAV、VHCAVがそれぞれ対応する目標値(いずれも「128」)に収束することによりステップSP19において肯定結果を得ると、ステップSP20に進んでこの第1のパラメータ更新処理手順RT2を終了する。
【0087】
このようにしてコントロール部64は、第1及び第2の色差信号S10U、S10Vの各平均値UHCAV、VHCAVがそれぞれ目標値となるように第1及び第2のホワイトバランスパラメータを更新するようにして、CCDカメラ50(図5)からの画像信号S1Aのホワイトバランスを調整する。
【0088】
(1−4)本実施の形態の動作及び効果
以上の構成において、ロボット1は、色温度の異なる部屋に移動し又は部屋の照明がオン/オフされるなどして周囲の照明環境が変化すると、自己の手の平23A(図6)部の色を検出し、当該色が工場出荷時に所定の照明環境下で記憶した当該自己の手の平23Aの色となるようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整する。
【0089】
従って、このロボット1では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを工場出荷時の所定の照明環境下で行った場合と同じように調整することができる。
【0090】
かくするにつきこのロボット1では、周囲の照明環境に依らずに常に信頼性の高い画像認識処理を行い得、画像処理コストを下げながら、認識率の向上を図ることができる。
【0091】
以上の構成によれば、周囲の照明環境が変化したときに、その照明環境下における自己の手の平23Aの色が工場出荷時に所定の照明環境下で記憶した当該自己の手の平23Aの色と一致するようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整するようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを工場出荷時の所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボットを実現できる。
【0092】
(2)第2の実施の形態
(2−1)本実施の形態によるロボット80の構成及びホワイトバランスコントロールに関するメイン制御部81(図5)の処理
図1〜図5において、80は全体として第2の実施の形態によるロボットを示し、周囲の照明環境が変化したときに、CCDカメラ50からの画像信号S1Aに対するホワイトバランス調整を行う一方で、これと併せてそのゲイン調整をも行うようになされた点を除いて第1の実施の形態によるロボット1と同様に構成されている。
【0093】
すなわちホワイトバランス調整として、第1の実施の形態のように画像の色味を変化させるパラメータ(第1及び第2のホワイトバランスパラメータ)のパラメータ値を変化させた場合、画像の明るさをコントロールするゲイン値(ゲインパラメータのパラメータ値)が高すぎると画像が飽和して、図11(A)のように当該画像にいわゆる白飛びが発生する。また逆に、ゲイン値が低すぎると、図11(B)のように画像にいわゆる黒つぶれが生じる。
【0094】
そしてこのような状態では、受光素子が飽和又は光量不足で正しく動作できないため、既知の色領域の画素値は信頼できないものとなり、ホワイトバランス調整を正しく行い難い問題が生じる。
【0095】
また一般的に、ホワイトバランス用のパラメータを調整すると、画像の明るさも変化するため、最適なゲイン値においてホワイトバランス調整を行うためには、ホワイトバランス調整とゲイン調整とを同時に行うことが望ましい。
【0096】
そこでこの第2の実施の形態のロボット80では、メイン制御部81において、ホワイトバランス調整時、周囲の照明環境に応じて信号処理部60のUゲインレジスタ71U(図8)及びVゲインレジスタ71V(図8)にそれぞれ格納された第1及び第2のホワイトバランスパラメータを更新する際に、これと併せてYゲインレジスタ71Y(図8)に格納されたゲインパラメータをも更新するようにして、これにより図11(C)のような適切な明るさの画像を得られるようにしている。
【0097】
かかる手段として、このロボット80のコントロール部82(図7)は、工場出荷時に所定の照明環境化における手の平23Aの色とそのときの画像の明るさとを図12に示す第2の目標値設定処理手順RT3に従って検出し、記憶する。
【0098】
すなわちコントロール部82は、外部操作によりロボット1の手の平23Aの色及びそのときの画像の明るさを検出すべき命令が与えられると、この第2の目標値設定処理手順RT3をステップSP30において開始し、続くステップSP31〜ステップSP33を第1の目標値設定処理手順RT1のステップSP1〜ステップSP3と同様に処理することにより、信号処理部64から与えられた認識用画像信号S10に基づく画像72(図11)内のホワイトバランス調整及びゲイン調整に用いる範囲72A(図11)、すなわち当該画像72内における自己の手の平23Aの範囲を算出する。
【0099】
続いてコントロール部82は、ステップSP34に進んで、認識用画像信号S10を構成する輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vについて、それぞれかかる画像72におけるステップSP33において算出した範囲72A内における全画素の画素値の平均値YHDAV、UHDAV、VHDAVを算出する。
【0100】
そしてコントロール部82は、この後ステップSP35に進んで、ステップSP34において算出した輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vの各平均値YHDAV、UHDAV、VHDAVを、それぞれ輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vについての目標値としてメイン制御部81(図5)内の内部メモリ81A(図5)に格納し、この後ステップSP36に進んでこの第2の目標値設定処理手順RT3を終了する。なお、以下においては、かかる輝度信号S10Yについての目標値が「100」、第1及び第2の色差信号S10U、S10Vについての目標値が共に「128」であったものとする。
【0101】
一方、コントロール部82は、この後の駆動時において、信号処理部60から与えられる認識用画像信号S10に基づいて、第1の実施の形態によるロボット1について上述した手法と同様にして周囲の照明環境が変化したか否かを常時監視する。
【0102】
そしてコントロール部82は、やがて認識用画像信号S10に基づいて『周囲の照明条件が変化した』ことを認識すると、図13に示す第2のパラメータ更新処理手順RT4に従って、図6に示す信号処理部60のYゲインレジスタ71Y、Uゲインレジスタ71U又はVゲインレジスタ71Vに格納されているゲインパラメータ並びに第1及び第2のホワイトバランスパラメータの各パラメータ値をそれぞれ必要に応じて更新する。
【0103】
すなわちコントロール部82は、『周囲の照明条件が変化した』ことを認識すると、この第2のパラメータ更新処理手順RT4をステップSP40において開始し、続くステップSP41〜ステップSP44を上述の第2の目標値設定処理手順RT3(図12)のステップSP31〜ステップSP34と同様に処理することにより、そのときの認識用画像信号S10を構成する輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vについてのかかる平均値YHDAV、UHDAV、VHDAVをそれぞれ算出する。
【0104】
そしてコントロール部82は、この後ステップSP45に進んで、ステップSP44において算出した輝度信号S10Yの平均値YHDAVが目標値である「100」と一致するか否かを判断する。そしてコントロール部82は、このステップSP45において肯定結果を得るとステップSP47に進む。
【0105】
これに対してコントロール部82は、このステップSP45において否定結果を得るとステップSP46に進んで、平均値YHDAVが目標値よりも大きい場合にはYゲインレジスタ71Yに格納されたゲインパラメータのパラメータ値を1だけ下げ、平均値YHDAVが目標値よりも小さい場合には当該ゲインパラメータのパラメータ値を1だけ上げた後、ステップSP47に進む。
【0106】
またコントロール部82は、この後ステップSP47〜ステップSP50を第1のパラメータ更新処理手順RT2(図10)のステップSP15〜ステップSP18と同様に処理することにより、信号処理部60のUゲインレジスタ71U又はVゲインレジスタ71Vに格納されている第1及び第2のホワイトバランスパラメータのパラメータ値を必要に応じて1だけ上げ又は下げた後、ステップSP51に進む。
【0107】
次いでコントロール部82は、このステップSP51において、上述のステップSP44において算出した輝度信号S10Yの平均値YHDAVがその目標値と一致し、かつ、第1の色差信号S10Uの平均値UHDAVがその目標値と一致し、かつ、第2の色差信号S10Vの平均値VHDAVがその目標値と一致していたか否かを判断する。
【0108】
そしてコントロール部82は、このステップSP51において否定結果を得るとステップSP42に戻り、この後ステップSP51において肯定結果を得るまでステップSP42〜ステップSP51−ステップSP42のループを繰り返す。
【0109】
そしてコントロール部82は、やがて輝度信号S10Yの平均値YHDAVと、第1及び第2の色差信号S10U、S10Vの各平均値UHDAV、VHDAVとがそれぞれ対応する目標値に収束することによりステップSP51において肯定結果を得ると、ステップSP52に進んでこの第2のパラメータ更新処理手順RT4を終了する。
【0110】
このようにしてコントロール部82は、CCDカメラ50(図5)からの画像信号S1Aに対して、ホワイトバランス調整処理と並行してゲイン調整処理をも行うようになされている。
【0111】
(2−2)本実施の形態の動作及び効果
以上の構成において、このロボット80は、色温度の異なる部屋に移動し又は部屋の照明がオン/オフされるなどして周囲の照明環境が変化すると、現在の自己の手の平23Aの色を検出し、当該色が工場出荷時に所定の照明環境下で記憶した当該自己の手の平23Aの色及び明るさとなるように、CCDカメラ50からの画像信号S1Aに対するホワイトバランスを調整すると共に、これと並行して当該画像信号S1Aに対するゲインを調整する。
【0112】
従って、このロボット80では、第1の実施の形態によるロボット1と比べて、より正確なホワイトバランス調整及びゲイン調整を行うことができ、その分より一層と周囲の照明環境に依らずに常に信頼性の高い画像認識処理を行い得、画像処理コストを下げながら、認識率の向上を図ることができる。
【0113】
以上の構成によれば、ホワイトバランス調整と併せてゲイン調整を行うようにしたことにより、より正確なホワイトバランス調整及びゲイン調整を行い得、かくしてより一層適切な画像信号処理を行い得るロボットを実現できる。
【0114】
(3)第3の実施の形態
(3−1)本実施の形態によるロボット90の構成及びホワイトバランス調整に関するメイン制御部91の処理
図1〜図5において、90は全体として第3の実施の形態によるロボットを示し、図14に示すように、既知のデザインのランドマーク91を用いてホワイトバランス調整及びゲイン調整を行うようになされた点を除いて第2の実施の形態によるロボット80と同様に構成されている。
【0115】
実際上、このロボット90のオートホワイトバランス調整機能に関するメイン制御部92(図5)の処理を機能的に分類すると、図7との対応部分に同一符号を付した図15に示すように、信号処理部60、画像認識部93、行動選択決定部62、行動生成部63及びコントロール部94とに分けることができる。
【0116】
この場合画像認識部92は、信号処理部60から与えられる認識用画像信号S10に基づく画像内のオブジェクトの色を認識する色認識器と、当該画像内に存在する顔を認識し識別する顔認識器となどの各種認識器を有し、これら各認識器の認識結果を画像認識信号S12として行動選択決定部62に送出する。
【0117】
また画像認識部92は、画像認識処理により認識用画像信号S10に基づく画像内に、例えば図16に示すような所定色に着色された円91Aの外周部に所定の形状の3つの画像認識用マーク91B1〜91B3が120〔°〕の間隔をもって順次配置されたデザインのランドマーク91のこれら各画像認識用マーク91B1〜91B3を検出すると、その旨及び当該画像内における各画像認識用マーク91B1〜91B3の位置を画像認識用マーク検出信号S20としてコントロール部94に送出する。
【0118】
コントロール部94においては、ランドマーク91における各画像認識用マーク91B1〜91B3の位置と、所定の照明環境下において認識用画像信号S10に基づき検出されるランドマーク91の各画像認識用マーク91B1〜91B3以外の部分の基準とすべき色(すなわち上述の円91A内の色、以下、これを単にランドマーク91の色と呼ぶ)と、当該所定の照明環境下における画像の基準とすべき明るさとを予め図5に示す内部メモリ92Aに記憶している。なお、この内部メモリ92Aが記憶しているランドマーク91の色や画像の明るさは、工場出荷時にかかる照明環境下において後述のようなホワイトバランス調整処理やゲイン調整処理により得られたものであっても、また予め測定されたものを各ロボット90の製造時に一律に内部メモリ92Aに記憶させたものであっても良い。
【0119】
そしてコントロール部94は、画像認識部93から画像認識用マーク検出信号S20が与えられると、当該画像認識用マーク検出信号S20に基づき得られる画像内の各画像認識用マーク91B1〜91B3の位置から、現在の照明環境下におけるランドマーク91の色及び画像の明るさを検出する範囲、すなわち画像内におけるホワイトバランス調整に用いる範囲を算出する。
【0120】
またコントロール部94は、この計算結果と、そのとき信号処理部60から与えられる認識用画像信号S10とに基づいて、かかる算出した範囲(ランドマーク91の中心部)内の色と、画像の明るさとを検出すると共に、この検出結果と、上述の予め記憶している所定の照明環境下におけるランドマーク91の色及びそのときの画像の明るさとを比較する。
【0121】
そしてコントロール部94は、この比較結果に基づいて、現在の照明環境下において検出されるランドマーク91の色及び現在の画像の明るさが、かかる所定の照明環境下において検出されるべき色及び明るさと一致するようにホワイトバランスを調整する。
【0122】
このようにしてこのロボット90においては、ランドマーク91を用いたホワイトバランス調整を行い得るようになされ、これにより周囲の色分布や照明環境に拘わりなく、常に一定状態にホワイトバランスを調整し得るようになされている。
【0123】
(3−2)コントロール部94の具体的処理
次に、ホワイトバランス調整に関するコントロール部94の具体的な処理内容について説明する。
【0124】
コントロール部94は、画像認識部93から画像認識用マーク検出信号S20が与えられると、図17に示す第3のパラメータ更新処理手順RT5に従って図8に示す信号処理部60のYゲインレジスタ71Y、Uゲインレジスタ71U又はVゲインレジスタ71Vに格納されているゲインパラメータ並びに第1及び第2のホワイトバランスパラメータの各パラメータ値をそれぞれ必要に応じて更新する。
【0125】
すなわちコントロール部94は、かかる画像認識用マーク検出信号S20が画像認識部93から与えられると、この第3のパラメータ更新処理手順RT5をステップSP60において開始し、続くステップSP61において行動選択決定部61を制御することによりロボット90の行動を一時的に停止させる。
【0126】
続いてコントロール部94は、ステップSP62に進んで、このとき信号処理部60から与えられる認識用画像信号S10に基づく1フレーム分の画像情報を取得し、この後ステップSP63に進んで当該画像情報に基づく画像95(図14(B))内のホワイトバランス調整及びゲイン調整に用いる範囲95A(図14(B))を算出する。
【0127】
具体的に、コントロール部94は、このとき画像認識用マーク検出信号S20に基づき得られる画像95内のランドマーク91の各画像認識用マーク91B1〜91B3の位置から、当該画像95内におけるランドマーク91の中心位置を中心としてその画像95内におけるランドマーク91の大きさに応じた大きさの、かつ各画像認識用マーク91B1〜91B3を含まない範囲95Aを所定の演算処理により算出する。
【0128】
そしてコントロール部94は、この後ステップSP64に進み、この後ステップSP64〜ステップSP71を第2のパラメータ更新処理手順RT4(図13)のステップSP44〜ステップSP51と同様に処理する。
【0129】
このためこの実施の形態においても、コントロール部94は、ランドマーク91の色として、信号処理部60から与えられる認識用画像信号S10を構成する輝度信号S10Y、第1及び第2の色差信号S10U、S10Vについて、所定の照明環境下における上述の画像95内のかかる範囲95Aにおける全画素の画素値の平均値YLDAV、ULDAV、VLDAVをそれぞれ目標値(この実施の形態においてはそれぞれ「100」、「128」、「128」)として予め記憶している。
【0130】
そしてコントロール部94は、やがて現在の照明環境下において、かかる輝度信号S10Yの平均値YLDAVと、第1及び第2の色差信号S10U、S10Vの各平均値ULDAV、VLDAVとがそれぞれ対応する目標値に収束することによりステップSP71において肯定結果を得ると、ステップSP72に進んでこの第3のパラメータ更新処理手順RT5を終了する。
【0131】
このようにしてコントロール部94は、既知のランドマーク91を利用して、ホワイトバランス調整及びゲイン調整を行い得るようになされている。
【0132】
(3−3)本実施の形態の動作及び効果
以上の構成において、このロボット90は、ランドマーク91を検出すると、当該ランドマーク91の円91Aの部分の色を検出し、当該色が予め与えられた色と一致するようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整する。
【0133】
従って、このロボット90では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0134】
かくするにつきこのロボット90では、周囲の照明環境に依らずに常に信頼性の高い画像認識処理を行い得、画像処理コストを下げながら、認識率の向上を図ることができる。
【0135】
以上の構成によれば、ランドマーク91を検出したときに、当該ランドマーク91の円91Aの部分の色を検出し、当該色が予め与えられた色と一致するようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整するようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを工場出荷時の所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボットを実現できる。
【0136】
(4)第4の実施の形態
(4−1)ホワイトバランス調整結果等を利用したインタラクションに関するメイン制御部101の処理
図1〜図5において、100は全体として第4の実施の形態によるロボットを示し、上述のようなホワイトバランス調整処理及びゲイン調整処理により得られた、現在の照明環境に応じた第1及び第2のホワイトバランスパラメータ並びにゲインパラメータの各パラメータ値に応じたインタラクションを発現する機能が搭載されている点を除いて第2の実施の形態によるロボット80と同様に構成されている。
【0137】
すなわち、第2の実施の形態において説明した方法でホワイトバランス調整及びゲイン調整を行うことによって、ロボット100がおかれた照明環境に適した信号処理を行うことができるが、そのときの信号処理部60のYゲインレジスタ71Yに格納されているゲインパラメータのパラメータ値と、Uゲインレジスタ71U又はVゲインレジスタ71Vにそれぞれ格納されている第1及び第2のホワイトバランスパラメータのパラメータ値とに基づいて、逆に現在の周囲の照明環境を測定することができる。
【0138】
つまり、図18及び図19に示すように、青みのゲインである第1のホワイトバランスパラメータの現在のパラメータ値が大きければロボット100が白熱灯による照明などの色温度が低い照明環境下にいることが分かり(図18(A))、赤みのゲインである第2のホワイトバランスパラメータの現在のパラメータ値が大きければロボット100が蛍光灯による照明などの色温度が高い照明環境下にいることが分かる(図18(B))。またゲインについても、現在のゲインパラメータのパラメータ値が大きければロボット100が明るい照明環境にいることが分かり(図19(A))、現在のゲインパラメータのパラメータ値が小さければロボット100が暗い照明環境にいることが分かる(図19(B))。
【0139】
そこで、このロボット100のメイン制御部101(図5)における機能モジュールとしてのコントロール部102(図7)は、図13について上述した第2のパラメータ更新処理手順RT4に従ったホワイトバランス調整及びゲイン調整の直後又はその後の所定タイミングで信号処理部60のYゲインレジスタ71Yに格納されているYゲインパラメータのパラメータ値と、Uゲインレジスタ71U又はVゲインレジスタ71Vにそれぞれ格納されている第1及び第2のホワイトバランスパラメータのパラメータ値とを読み出し、これらを行動選択決定部62に与えるようになされている。
【0140】
そして行動選択決定部62は、これらゲインパラメータのパラメータ値や第1及び第2のホワイトバランスパラメータのパラメータ値が与えられると、『この部屋の色温度は5000〔k〕です。』、『この部屋の照度は1000〔lx〕です。』などの与えられたパラメータ値に応じた発話を行う動作をロボット90の次の行動として選択及び決定し、これに応じた行動決定信号S15を行動生成部63に送出する。この結果、この行動決定信号S15に基づいて、かかる発話がロボット100により行われることとなる。
【0141】
このようにしてこのロボット100においては、かかるホワイトバランス調整の調整結果やゲイン調整の調整結果に応じたインタラクションを発現し得るようになされている。
【0142】
(4−2)本実施の形態の動作及び効果
以上の構成において、ロボット100は、信号処理部60のYゲインレジスタ71Yに格納されているYゲインパラメータのパラメータ値と、Uゲインレジスタ71U又はVゲインレジスタ71Vにそれぞれ格納されている第1及び第2のホワイトバランスパラメータのパラメータ値とに基づいて、行動を選択し発現する。
【0143】
従って、このロボット100は、時間や場所によって変化する照明環境に対応して、現在の照明環境に最も適したインタラクションをユーザに提供することができる。
【0144】
以上の構成によれば、調整後の第1及び第2のホワイトバランスパラメータのパラメータ値などのホワイトバランス調整結果等を利用したインタラクションをロボット100に発現させるようにしたことにより、時間や場所によって変化する照明環境に対応して、現在の照明環境に最も適したインタラクションをユーザに提供することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得ることに加えて、エンターテインメント性をも向上させ得るロボットを実現できる。
【0145】
(5)他の実施の形態
なお上述の第1〜第4の実施の形態においては、本発明を図1〜図5のように構成された2足歩行型のロボット1、80、90、100に適用するようにした場合について述べたが、本発明はこれに限らず、この他種々の形態のロボットや、ロボット以外のカメラデバイスを搭載する種々の移動型装置に広く適用することができる。
【0146】
また上述の第1、第2及び第4の実施の形態においては、コントロール部64、82、102が信号処理部60からの認識用画像信号にS10基づく画像72の(図6)うちのホワイトバランス調整に用いる範囲72A(図6)を計算により求めるようにした場合について述べたが、本発明はこれ限らず、例えば図20に示すように、ロボット1、80、100の手の平23AによってCCDカメラ50の撮像範囲を全て覆い、認識用画像信号S10に基づく画像72の全体を用いてホワイトバランス調整を行うようにしても良い。このようにすることによって、かかるホワイトバランス調整に用いる範囲の算出処理の必要性をなくさせてコントロール部64、82、102の演算負荷を軽減させることができる。
【0147】
さらに上述の第1、第2及び第4の実施の形態においては、コントロール部64、82、102が信号処理部60からの認識用画像信号S10に基づいて、(3)式、(4)式又は(6)式となったときにホワイトバランスの再調整を行うようにした場合について述べたが、本発明はこれに限らず、例えば画像認識部61(図7)において色認識によって検出されるオブジェクトの検出率が一定レベルを超えて低下したときや、ユーザからの再調整すべき命令が入力されたときにホワイトバランスを再調整するようにしても良い。
【0148】
またこれ以外でも、例えば太陽光が入る部屋等、時間と共に照明環境が変化する場合にも対応できるようにするため、内蔵時計により前回のホワイトバランスの再調整を行ってから一定時間が経過したことを検出したときに再調整したり、場所によって照明環境が異なる可能性があるため、前回のホワイトバランスの再調整をした場所からある一定値よりも長い距離だけ移動したことを検出したときに再調整したり、さらには前回と異なる照明環境で起動される可能性があるため、ロボット1、80、100が起動されるごとに再調整するようにしても良い。
【0149】
さらに上述の第1、第2及び第4の実施の形態においては、ロボット1、80、100が、自己の体の色として手の平23Aの色に基づいてホワイトバランス調整を行うようにした場合について述べたが、本発明はこれに限らず、例えば図21(A)に示すように、自己の足先の色に基づいてホワイトバランス調整を行い得るようにロボット1、80、100を構築するようにしても良く、要は、自己の体を用いてホワイトバランス調整を行い得るようにロボット1、80、100を構築するのであれば、ホワイトバランス調整に利用するロボット1、80、100の体の部位はどの部位であっても良い。
【0150】
同様に、上述の第3の実施の形態においては、ロボット90が、既知の色をもつランドマーク91を用いてホワイトバランスを調整するようにした場合について述べたが、本発明はこれに限らず、例えば図21(B)のように既知の色をもつ専用シート110を用いてホワイトバランス調整を行うようにしたり、図21(C)のように既知の色をもつ当該ロボットの充電器でなるステーション111の壁面を用いてホワイトバランス調整を行うようにロボット90を構築するようにしても良く、要は、既知の色をもつ所定物や所定マークを用いてホワイトバランス調整を行うのであれば、その物やマークとしてはこの他種々の物又はマークを広く適用することができる。
【0151】
さらに上述の第1、第2及び第4の実施の形態においては、工場出荷時に所定の照明環境下における自己の手の平23Aの色を、自己の体の基準とすべき色として内部メモリ40A、81Aに記憶するようにした場合について述べたが、本発明はこれに限らず、例えば予め所定の照明環境下において検出されるロボット1の手の平23Aの色を測定しておき、これを基準とすべき色として製造時に内部メモリ40A、81Aに記憶させておくようにしても良い。このようにすることによって、ロボット1、80、100ごとに工場出荷の際に自己の体の色として基準とすべき色を記憶させる作業を省略して、ロボット1、80、100の製造及び出荷作業を簡易化させることができる。
【0152】
さらに上述の第1〜第4の実施の形態においては、ロボット1、80、90、100の手の平23Aの色として基準とすべき色や、ランドマーク91の基準とすべき色を予め記憶する記憶手段として、内部メモリ40A、81A、92Aを適用するようにした場合について述べたが、本発明はこれに限らず、例えば外部メモリ56を適用するようにしても良く、またメモリ以外の例えばディスク状記憶媒体等の他の記憶媒体を適用するようにしても良い。
【0153】
さらに上述の第1〜第4の実施の形態においては、撮像手段としてCCDカメラ50を適用する場合について述べたが、本発明はこれに限らず、これ以外の撮像手段を広く適用することができる。
【0154】
さらに上述の第1〜第4の実施の形態においては、CCDカメラ50から出力される画像信号S1Aに基づいて、現在の照明環境下におけるロボット1、80、90、100の手の平23Aの色又はランドマーク91の色を検出する色検出手段としての機能や、その照明環境下における認識用画像信号S10に基づく画像の明るさを検出する明るさ検出手段としての機能、及びかかる明るさ検出手段により検出された画像の明るさが、内部メモリ40A、81A、92Aに記憶された基準とすべき明るさと一致するように、画像信号S1Aに対するゲインを調整するゲイン調整手段としての機能をコントロール部64、82、94、102にもたせるようにした場合について述べたが、本発明はこれに限らず、かかる機能を信号処理部60等の他のモジュールにもたせたり、これらを別個のモジュールとして形成するようにしても良い。
【0155】
さらに上述の第4の実施の形態においては、ホワイトバランス調整結果等を利用したインタラクションとして、単に色温度や照度の測定値を発話させるようにした場合について述べたが、本発明はこれに限らず、例えば照度が小さい場合(ゲインパラメータのパラメータ値が小さい場合)には、ロボット100に『暗くてよく見えないよ。』などの照度の測定値以外の内容を発話させるようにしたり、又は搭載されているLED(Light Emitting Diode)等を点灯させるなどのインタラクションをロボット100に発現させるようにしても良く、要は、ホワイトバランス調整結果やゲイン調整結果を活用したインタラクションをロボット100に発現させるようにするのであれば、インタラクションの内容としてはこの他種々の内容を広く適用することができる。
【0156】
【発明の効果】
上述のように本発明によれば、ロボット装置において、自己の体の色として基準とすべき色を予め記憶する記憶手段と、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する色検出手段と、色検出手段により検出される自己の体の色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置を実現できる。
【0157】
また本発明によれば、ロボット装置における画像信号処理方法において、自己の体の色として基準とすべき色を予め記憶する第1のステップと、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する第2のステップと、検出した自己の体の色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置における画像信号処理方法を実現できる。
【0158】
さらに本発明によれば、ロボット装置において、所定物又は所定マークの色として基準とすべき色を予め記憶する記憶手段と、撮像手段から出力される画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する色検出手段と、色検出手段により検出される所定物又は所定マークの色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置を実現できる。
【0159】
さらに本発明によれば、ロボット装置における画像信号処理方法において、所定物又は所定マークの色として基準とすべき色を予め記憶する第1のステップと、撮像手段から出力される画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する第2のステップと、検出した所定物又は所定マークの色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置における画像信号処理方法を実現できる。
【図面の簡単な説明】
【図1】本実施の形態によるロボットの外観構成を示す斜視図である。
【図2】本実施の形態によるロボットの外観構成を示す斜視図である。
【図3】本実施の形態によるロボットの外観構成の説明に供する概念図である。
【図4】本実施の形態によるロボットの内部構成の説明に供する概念図である。
【図5】本実施の形態によるロボットの内部構成の説明に供するブロック図である。
【図6】第1及び第2の実施の形態によるホワイトバランス調整方法の説明に供する概念図である。
【図7】第1及び第2の実施の形態におけるオートホワイトバランス調整機能に関するメイン制御部の処理内容の説明に供するブロック図である。
【図8】信号処理部の一部構成を示すブロック図である。
【図9】第1の目標値設定処理手順を示すフローチャートである。
【図10】第1のパラメータ更新処理手順を示すフローチャートである。
【図11】ホワイトバランス調整とゲイン調整との関係を示す概念図である。
【図12】第2の目標値設定処理手順を示すフローチャートである。
【図13】第2のパラメータ更新処理手順を示すフローチャートである。
【図14】第3の実施の形態によるホワイトバランス調整方法の説明に供する概念図である。
【図15】第3の実施の形態におけるオートホワイトバランス調整機能に関するメイン制御部の処理内容の説明に供するブロック図である。
【図16】ランドマークを示す略線図である。
【図17】第3のパラメータ更新処理手順を示すフローチャートである。
【図18】第1及び第2のホワイトバランスパラメータのパラメータ値を利用したインタラクションの提供についての説明に供する略線図である。
【図19】ゲインパラメータのパラメータ値を利用したインタラクションの提供についての説明に供する略線図である。
【図20】他の実施の形態を示す略線図である。
【図21】他の実施の形態を示す略線図である。
【符号の説明】
1、80、90、100……ロボット、23……手部、23A……手の平、40、81、92、101……メイン制御部、40A、81A、92A……内部メモリ、60……信号処理部、61、93……画像認識部、64、82、94……コントロール部、70Y……Yゲインアンプ、70U……Uゲインアンプ、70V……Vゲインアンプ、71Y……Yゲインレジスタ、71U……Uゲインレジスタ、71V……Vゲインレジスタ、72、95……画像、72A、95A……範囲、91……ランドマーク、91A……円、91B1〜91B3……画像認識用マーク、110……専用シート、111……ステーション、S1A……画像信号、S10……認識用画像信号、S10Y……輝度信号、S10U……第1の色差信号、S10V……第2の色差信号。
【発明の属する技術分野】
本発明はロボット装置及びロボット装置における画像信号処理方法に関し、例えばカメラデバイスを搭載した移動型のロボットに適用して好適なものである。
【0002】
【従来の技術】
移動型のロボットにおいては、搭載されたカメラデバイスから得られる画像情報が、外部状況を認識するための情報として、数あるセンサ情報の中でも重要なものである。
【0003】
かかるカメラデバイスからの画像信号に対するコントロールとしては、大きく分けて、明るさをコントロールするゲイン調整と、色合いをコントロールするホワイトバランス調整とがあるが、特に、画像情報における色のもつ情報量は多く、人間との情報共有にも大きな役割を果たすため、ホワイトバランスの調整は重要となる。
【0004】
ここで、このようなカメラデバイスにおけるホワイトバランスの一般的な調整方法としては、画像中の各画素値の平均値が無色(黒〜グレイ〜白のいずれかの色)となると仮定して、当該平均値が無色になるようにホワイトバランスを調整する第1の方法(以下、これを第1のホワイトバランス調整方法と呼ぶ)と、予め決められたホワイトバランス設定において、最も無色(黒〜グレイ〜白のいずれかの色)に近い領域の画素値が無色になるようにホワイトバランスを調整する第2の方法(以下、これを第2のホワイトバランス調整方法と呼ぶ)とがある(例えば特許文献1参照)。
【0005】
【特許文献1】
特開2003−23645号公報(第2頁)
【0006】
【発明が解決しようとする課題】
ところで、かかる移動型のロボットが行動する環境は、
▲1▼部屋によって色温度が異なる
▲2▼日光などの影響により、時間によって環境の色温度が異なる
▲3▼照明がオン・オフされることにより、環境の色温度が変化する
▲4▼ロボットの周囲に配置されたものの色によって、同じ部屋でも色温度の異なる場所が存在する
▲5▼同じ場所でも向いている方向(上下左右)によって色温度が異なる
など、環境によって色温度が異なるなどの理由により、撮像される画像のホワイトバランスが適切でない状況が存在する。
【0007】
従って、カメラデバイスからの画像信号に基づいて画像処理や画像認識を行う場合、その処理に応じた適切なホワイトバランス調整が必要となり、例えば適切なホワイトバランス調整が行われていないと、色情報を用いた画像処理や画像認識は難しいものとなる。
【0008】
しかしながら、移動型のロボットのホワイトバランス調整方法として上述の第1のホワイトバランス調整方法を採用した場合、撮像画像が常に理想的な色分布であるわけではないために、撮像画像中において支配的な面積を有する色がある場合にはその影響を受けて、適切なホワイトバランス調整処理を行い難い問題があった。
【0009】
また、上述の第2のホワイトバランス調整方法によると、選択された領域の色が必ずしも意図した色である保証はないため、この方法によっても適切なホワイトバランス調整が行われる保証はない。
【0010】
本発明は以上の点を考慮してなされたもので、適切な画像信号処理を行い得るロボット装置及びロボット装置における画像信号処理方法を提案しようとするものである。
【0011】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、ロボット装置において、自己の体の色として基準とすべき色を予め記憶する記憶手段と、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する色検出手段と、色検出手段により検出される自己の体の色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにした。この結果このロボット装置では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0012】
また本発明においては、ロボット装置における画像信号処理方法において、自己の体の色として基準とすべき色を予め記憶する第1のステップと、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する第2のステップと、検出した自己の体の色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにした。この結果このロボット装置における画像信号処理方法によれば、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0013】
さらに本発明においては、ロボット装置において、所定物又は所定マークの色として基準とすべき色を予め記憶する記憶手段と、撮像手段から出力される画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する色検出手段と、色検出手段により検出される所定物又は所定マークの色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにした。この結果このロボット装置では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0014】
さらに本発明においては、ロボット装置における画像信号処理方法において、所定物又は所定マークの色として基準とすべき色を予め記憶する第1のステップと、画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する第2のステップと、検出した所定物又は所定マークの色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにした。この結果このロボット装置における画像信号処理方法によれば、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0015】
【発明の実施の形態】
以下図面について、本発明の一実施の形態を詳述する。
【0016】
(1)第1の実施の形態
(1−1)本実施の形態によるロボットの概略構成
図1及び図2において、1は全体として本実施の形態による2足歩行型のロボットを示し、胴体部ユニット2の上部に頭部ユニット3が配設されると共に、当該胴体部ユニット2の上部左右にそれぞれ同じ構成の腕部ユニット4A、4Bがそれぞれ配設され、かつ胴体部ユニット2の下部左右にそれぞれ同じ構成の脚部ユニット5A、5Bがそれぞれ所定位置に取り付けられることにより構成されている。
【0017】
胴体部ユニット2においては、体幹上部を形成するフレーム10及び体幹下部を形成する腰ベース11が腰関節機構12を介して連結することにより構成されており、体幹下部の腰ベース11に固定された腰関節機構12の各アクチュエータA1、A2をそれぞれ駆動することによって、体幹上部を図3に示す直交するロール軸13及びピッチ軸14の回りにそれぞれ独立に回転させ得るようになされている。
【0018】
また頭部ユニット3は、フレーム10の上端に固定された肩ベース15の上面中央部に首関節機構16を介して取り付けられており、当該首関節機構16の各アクチュエータA3、A4をそれぞれ駆動することによって、図3に示す直交するピッチ軸17及びヨー軸18の回りにそれぞれ独立に回転させ得るようになされている。
【0019】
さらに各腕部ユニット4A、4Bは、それぞれ肩関節機構19を介して肩ベース15の左右に取り付けられており、対応する肩関節機構19の各アクチュエータA5、A6をそれぞれ駆動することによって図3に示す直交するピッチ軸20及びロール軸21の回りにそれぞれ独立に回転させ得るようになされている。
【0020】
この場合、各腕部ユニット4A、4Bは、それぞれ上腕部を形成するアクチュエータA7の出力軸に肘関節機構22を介して前腕部を形成するアクチュエータA8が連結され、当該前腕部の先端に手部23が取り付けられることにより構成されている。
【0021】
そして各腕部ユニット4A、4Bでは、アクチュエータA7を駆動することによって前腕部を図3に示すヨー軸24の回りに回転させ、アクチュエータA8を駆動することによって前腕部を図3に示すピッチ軸25の回りにそれぞれ回転させることができるようになされている。
【0022】
これに対して各脚部ユニット5A、5Bにおいては、それぞれ股関節機構26を介して体幹下部の腰ベース11にそれぞれ取り付けられており、それぞれ対応する股関節機構26の各アクチュエータA9〜A11をそれぞれ駆動することによって、図3に示す互いに直交するヨー軸27、ロール軸28及びピッチ軸29の回りにそれぞれ独立に回転させ得るようになされている。
【0023】
この場合各脚部ユニット5A、5Bは、それぞれ大腿部を形成するフレーム30の下端に膝関節機構31を介して下腿部を形成するフレーム32が連結されると共に、当該フレーム32の下端に足首関節機構33を介して足部34が連結されることにより構成されている。
【0024】
これにより各脚部ユニット5A、5Bにおいては、膝関節機構31を形成するアクチュエータA12を駆動することによって、下腿部を図3に示すピッチ軸35の回りに回転させることができ、また足首関節機構33のアクチュエータA13、A14をそれぞれ駆動することによって、足部34を図3に示す直交するピッチ軸36及びロール軸37の回りにそれぞれ独立に回転させ得るようになされている。
【0025】
一方、胴体部ユニット2の体幹下部を形成する腰ベース11の背面側には、図4に示すように、当該ロボット1全体の動作制御を司るメイン制御部40と、電源回路及び通信回路などの周辺回路41と、バッテリ45(図5)となどがボックスに収納されてなる制御ユニット42が配設されている。
【0026】
そしてこの制御ユニット42は、各構成ユニット(胴体部ユニット2、頭部ユニット3、各腕部ユニット4A、4B及び各脚部ユニット5A、5B)内にそれぞれ配設された各サブ制御部43A〜43Dと接続されており、これらサブ制御部43A〜43Dに対して必要な電源電圧を供給したり、これらサブ制御部43A〜43Dと通信を行うことができるようになされている。
【0027】
また各サブ制御部43A〜43Dは、それぞれ対応する構成ユニット内の各アクチュエータA1〜A14と接続されており、当該構成ユニット内の各アクチュエータA1〜A14をメイン制御部40から与えられる各種制御コマンドに基づいて指定された状態に駆動し得るようになされている。
【0028】
また頭部ユニット3には、図5に示すように、このロボット1の「目」として機能するCCD(Charge Coupled Device )カメラ50及び「耳」として機能するマイクロホン51などの各種外部センサと、「口」として機能するスピーカ52となどがそれぞれ所定位置に配設され、手部23の手の平や足部34の底面等には、それぞれ外部センサとしてのタッチセンサ53が配設されている。
【0029】
さらに制御ユニット42内には、バッテリセンサ54及び加速度センサ55などの各種内部センサが配設され、腰関節機構12等の各関節機構には、それぞれアクチュエータA1〜A14に対応させて、内部センサとしてのポテンショメータ(図示せず)が配設されている。
【0030】
そしてCCDカメラ50は、周囲の状況を撮像し、得られた画像信号S1Aをメイン制御部40に送出する一方、マイクロホン51は、各種外部音を集音し、かくして得られた音声信号S1Bをメイン制御部40に送出する。またタッチセンサ53は、外部との物理的な接触を検出し、検出結果を圧力検出信号S1Cとしてメイン制御部40に送出するようになされている。
【0031】
またバッテリセンサ54は、バッテリ45のバッテリ残量を所定周期で検出し、検出結果をバッテリ残量検出信号S2Aとしてメイン制御部40に送出する一方、加速度センサ56は、3軸方向(x軸、y軸及びz軸)の加速度を所定周期で検出し、検出結果を加速度検出信号S2Bとしてメイン制御部40に送出する。さらに各ポテンショメータは、それぞれ対応するアクチュエータA1〜A14の出力軸の回転角度を検出し、検出結果を回転角度検出信号S2Cとして対応するサブ制御部43A〜43Dを介してメイン制御部40に送出する。
【0032】
メイン制御部部40は、CPU(Central Processing Unit)、ROM(Read Only Memory)及びRAM(Random Access Memory)としての内部メモリ40A等を有するマイクロコンピュータ構成でなり、カメラ50、マイクロホン51及びタッチセンサ53等の各外部センサからそれぞれ与えられる画像信号S1A、音声信号S1B及び圧力検出信号S1C等の外部センサ信号と、バッテリセンサ54、加速度センサ55及び各ポテンショメータ等の各内部センサからそれぞれ与えられるバッテリ残量検出信号S2A、加速度検出信号S2B及び角度検出信号S2C等の内部センサ信号とに基づいて、ロボット1の周囲及び内部の状況や、外部との接触の有無などを判断する。
【0033】
そしてメイン制御部40は、この判断結果と、予め内部メモリ40Aに格納されている制御プログラムと、そのとき装填されている外部メモリ56に格納されている各種制御パラメータとに基づいて続く行動を決定し、決定結果に基づく制御コマンドを対応するサブ制御部43A〜43Dに送出する。この結果、この制御コマンドに基づき、そのサブ制御部43A〜43Dの制御のもとに、対応するアクチュエータA1〜A14が駆動され、かくして頭部ユニット3を上下左右に揺動させたり、腕部ユニット4A、4Bを上にあげたり、歩行するなどの行動がロボット1により発現されることとなる。
【0034】
またメイン制御部40は、かかるマイクロホン51から与えられる音声信号S1Bに対する所定の音声認識処理によりユーザの発話内容を認識し、当該認識に応じた音声信号S3をスピーカ52に与えることにより、ユーザと対話するための合成音声を外部に出力させる。
【0035】
このようにしてこのロボット1においては、周囲及び内部の状況等に基づいて自律的に行動することができ、またユーザと対話することもできるようになされている。
【0036】
(1−2)ホワイトバランス調整に関するメイン制御部40の処理
次に、ホワイトバランス調整に関するメイン制御部40の処理内容について説明する。
【0037】
このロボット1においては、図6(A)に示すように、工場出荷時に所定の照明環境下における自己の手部23(図1)における手の平23Aの部分の色を基準とすべき色として内部メモリ40Aに記憶し、その後の駆動時において周囲の照明環境が変化した場合等に、図6(B)に示すように、その変化後の照明環境下における自己の手の平23Aの色を検出し、当該色が工場出荷時に記憶した色と一致するようにホワイトバランスを調整するオートホワイトバランス調整機能が搭載されている。
【0038】
ここで、かかるオートホワイトバランス調整機能に関するメイン制御部40の処理を機能的に分類すると、図7に示すように、ハードウェア構成でなる信号処理部60と、ソフトウェア構成でなる画像認識部61、行動選択決定部62、行動生成部63及びコントロール部64とに分けることができる。
【0039】
この場合信号処理部60は、CCDカメラ50からの画像信号S1Aに対してホワイトバランスコントロール処理や、ゲインコントロール処理等の各種所定の信号処理を施し、かくして得られた認識用画像信号S10を画像認識部61及びコントロール部64に送出する。
【0040】
具体的に、信号処理部60には、例えば画像信号S1Aに対してゲインコントロール処理やホワイトバランスコントロール処理を施すための手段として、図8に示すように、Yゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vが設けられると共に、これらYゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vにそれぞれ対応させてYゲインレジスタ71Y、Uゲインレジスタ71U及びVゲインレジスタ71Vが設けられている。
【0041】
このときYゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vには、それぞれCCDカメラ50からの画像信号S1Aを当該信号処理部60においてYUVフォーマットに変換することにより得られた輝度信号S11Y、第1の色差信号S11U及び第2の色差信号S11Vのうちの対応する信号が供給される。
【0042】
またYゲインレジスタ71Yには、画像信号S1Aに対するゲインを規定したゲインパラメータが更新自在に格納され、Uゲインレジスタ71U及びVゲインレジスタ71Vには、それぞれ画像信号S1Aのホワイトバランス調整のための第1又は第2の色差信号S11U、S11Vに対するゲインを規定した第1又は第2のホワイトバランスパラメータが更新自在に格納されている。
【0043】
かくしてYゲインアンプ70Y、Uゲインアンプ70U及びVゲインアンプ70Vは、それぞれ供給される輝度信号S11Y、第1の色差信号S11U又は第2の色差信号S11Vを対応するYゲインレジスタ71Y、Uゲインレジスタ71U又はVゲインレジスタ71Vに格納されたゲインパラメータ、第1のホワイトバランスパラメータ又は第2のホワイトバランスパラメータの各パラメータ値に応じて増幅する。
【0044】
そして信号処理部60は、このようにして得られたゲイン調整及びホワイトバランス調整された輝度信号S11Y並びに第1及び第2の色差信号S11U、S11Vに対して図示しない信号処理回路においてさらに所定の信号処理を施し、この後これら輝度信号S11Y並びに第1及び第2の色差信号S11U、S11Vを認識用画像信号S10として画像認識部61及びコントロール部64に送出する。
【0045】
画像認識部61は、供給される認識用画像信号S10に基づく画像内の各オブジェクトの色を認識する色認識器と、当該画像内に存在する顔を認識し識別する顔認識器となどの各種認識器を有し、これら各認識器の認識結果を画像認識信号S12として行動選択決定部62に送出する。
【0046】
このとき行動選択決定部62には、マイクロホン51(図5)からの音声信号S1B(図5)に基づく音声認識結果や話者認識結果が図示しない音声認識部から音声認識信号S13として与えられると共に、手部23や足部34の底面等に配設されたタッチセンサ53(図5)から与えられる圧力検出信号S1C(図5)に基づく「接触した」、「接地した」等の各種接触認識結果が図示しない接触認識部から接触認識信号S14として与えられる。
【0047】
かくして行動選択決定部62は、これら画像認識信号S12、音声認識信号S13及び接触認識信号S14に基づいてロボット1が次に発現すべき行動を選択及び決定し、決定結果を行動決定信号S15として行動生成部63に送出する。
【0048】
行動生成部63は、どのアクチュエータA1〜A14をどのタイミングでどの程度駆動させるかを規定した各行動ごとのモーションファイル、及びそのときロボット1が発音すべき音声の音声データが格納されたサウンドファイルなどの各種行動内容規定ファイルを有している。
【0049】
そして行動生成部63は、行動決定信号S15が行動選択決定部62から与えられると、対応する行動内容規定ファイルを読み出し再生して、対応する各アクチュエータA1〜A14への指令値D2を対応するサブ制御部43A〜43Dに送出し、又は再生した音声データをアナログ変換して上述の音声信号S3(図5)としてスピーカに送出することにより、かかる行動選択決定部62により選択された行動をロボット1に発現させる。
【0050】
一方、コントロール部64は、信号処理部60から与えられる認識用画像信号S10に基づいて、周囲の照明環境が変化したか否かを常時監視する。そしてコントロール部64は、周囲の照明環境が変化したことを検出すると、行動選択決定部62を制御してロボット1の姿勢を図6(B)のように自己の手の平23Aを見る姿勢(以下、これを色検出姿勢と呼ぶ)に遷移させ、かくして当該手の平23AをCCDカメラ50(図5)の撮像領域内に位置させる。
【0051】
またコントロール部64は、この状態において信号処理部60から与えられる認識用画像信号S10に基づいて、その照明環境下における当該手の平23Aの色を検出すると共に、当該検出結果と、工場出荷時に所定の照明環境下において検出し記憶した当該手の平23Aの色とを比較する。
【0052】
そしてコントロール部64は、この比較結果に基づいて、現在の照明環境下において検出される手の平23Aの色が工場出荷時において所定の照明環境下で検出した色と一致するように信号処理部60におけるUゲインレジスタ71Uに格納されている第1のホワイトバランスパラメータ及びVゲインレジスタ71Vに格納されている第2のホワイトバランスパラメータのパラメータ値をそれぞれ必要に応じて変化させる。
【0053】
このようにしてこのロボット1においては、画像認識に用いる画像信号S1Aのホワイトバランスを自己の手の平23Aの色を利用して調整するようになされ、これによりそのときの周囲の色分布や照明環境にかかわりなく、常に一定状態にホワイトバランスを調整し得るようになされている。
【0054】
(1−3)コントロール部64の具体的処理
次に、ホワイトバランス調整に関するコントロール部64の具体的な処理内容について説明する。
【0055】
まずコントロール部64は、ロボット1の工場出荷時、所定の照明環境下におけるロボット1の手の平23Aの色を図9に示す第1の目標値設定処理手順RT1に従って検出し記憶する。
【0056】
すなわちコントロール部64は、外部操作によりロボット1の手の平23Aの色を検出すべき命令が与えられると、この第1の目標値設定処理手順RT1をステップSP0において開始し、続くステップSP1において行動選択決定部62を制御することにより、ロボット1の姿勢を色検出姿勢に遷移させる。
【0057】
続いてコントロール部64は、ステップSP2に進んで、このとき信号処理部60から与えられる認識用画像信号S10に基づく1フレーム分の画像情報を取得し、この後ステップSP3に進んで当該画像情報に基づく画像内のホワイトバランス調整に用いる範囲を算出する。
【0058】
具体的に、コントロール部64は、ステップSP2において取得した画像情報に基づく画像72内に図6(A)の右図のように存在する自己の手の平23Aの当該画像72内における位置を、そのとき各ポテンショメータから与えられる角度検出信号S2Cに基づき得られる各アクチュエータA1〜A14の出力軸の回転角度を利用してロボット1の対応するアクチュエータA1〜A14のキネマティクス(幾何学的位置関係)を解くことにより計算し、当該計算結果に基づいて画像72内における自己の手の平23Aの範囲、すなわちホワイトバランス調整に用いる範囲72Aを算出する。
【0059】
続いてコントロール部64は、ステップSP4に進んで、認識用画像信号S10を構成する第1及び第2の色差信号S10U、S10V(図7)について、それぞれかかる画像72(図6)におけるステップSP3において算出した範囲72A(図6)内における全画素の画素値の平均値を算出する。
【0060】
そしてコントロール部64は、この後ステップSP5に進んで、ステップSP4において算出した第1及び第2の色差信号S10U、S10Vの各平均値をそれぞれ当該第1及び第2の色差信号S10U、S10Vについての目標値として内部メモリ40Aに格納し、この後ステップSP6に進んでこの第1の目標値設定処理手順RT1を終了する。なお、以下においては、かかる第1及び第2の色差信号S10U、S10Vについての目標値が共に「128」であったものとする。
【0061】
一方、コントロール部64は、この後の駆動時において、信号処理部64から与えられる認識用画像信号S10に基づいて、周囲の照明環境が変化したか否かを常時監視する。
【0062】
具体的には、『得られた1枚の画像における各画素の画素値の平均をとると、無色(黒〜グレイ〜白のいずれかの色)となる』という仮定は一般的には成り立たないことは上述した通りであるが、この平均値に対してさらに時間的に平均をとった場合は無色(黒〜グレイ)になるという仮定は妥当であると考えられる。
【0063】
そこでコントロール部64は、認識用画像信号S10に基づく各画像にフレームナンバーが付されているとして、最新の画像のフレームナンバーをF、認識用画像信号S10を構成する第1及び第2の色差信号S10U、S10V(図7)のi番目の画像全体における平均値をそれぞれUAV(i)及びVAV(i)、時間的平均をとる期間をT〔s〕、1秒当たりに取得できる画像数をn、ホワイトバランスの再調整(キャリブレーション)を行うべき第1及び第2の色差信号S10U、S10Vについての各閾値をそれぞれUt及びVtとして、これら第1及び第2の色差信号S10U、S10Vに基づいて次式
【0064】
【数1】
【0065】
及び
【0066】
【数2】
【0067】
を常時計算し、(1)式の絶対値がUtよりも大きくなったとき、すなわち次式
【0068】
【数3】
【0069】
となったときや、(2)式の絶対値がVtよりも大きくなったとき、すなわち次式
【0070】
【数4】
【0071】
となったときに『周囲の照明条件が変化した』と判断する。
【0072】
また、認識用画像信号S10を構成する輝度信号S10Y(図7)のi番目の画像全体における平均値をYAV(i)としたときに、この値の時間的平均値が前回のホワイトバランス調整を行ったときから大きく変化した場合は、照明環境の異なる部屋に入った又は照明のオン/オフがあったなど、照明環境の変化があったことが推測される。
【0073】
そこでコントロール部64は、前回のホワイトバランス調整を行ったときのフレームナンバーをFC、再調整を行うべき輝度信号S10Yについての閾値をYtとして、輝度信号S10Yに基づいて次式
【0074】
【数5】
【0075】
を常時計算し、(5)式の絶対値がYtよりも大きくなったとき、すなわち次式
【0076】
【数6】
【0077】
となったときに『周囲の照明条件が変化した』と判断する。
【0078】
そしてコントロール部64は、このようにして認識用画像信号S10に基づいて『周囲の照明条件が変化した』ことを認識すると、図10に示す第1のパラメータ更新処理手順RT2に従って、信号処理部60のUゲインレジスタ71U(図8)又はVゲインレジスタ71V(図8)にそれぞれ格納されている第1及び第2のホワイトバランスパラメータをそれぞれ必要に応じて更新する。
【0079】
すなわちコントロール部64は、上述のようにして認識用画像信号S10に基づき『周囲の照明条件が変化した』ことを認識すると、この第1のパラメータ更新処理手順RT2をステップSP10において開始し、続くステップSP11〜ステップSP14を上述の第1の目標値設定処理手順RT1(図9)のステップSP1〜ステップSP4と同様に処理することにより、認識用画像信号S10を構成する第1及び第2の色差信号S10U、S10Vについて、そのときの照明環境下におけるステップSP13において算出した範囲72A(図6)内での全画素の画素値の平均値UHCAV、VHCAVをそれぞれ算出する。
【0080】
そしてコントロール部64は、この後ステップSP15に進んで、ステップSP14において算出した第1の色差信号S10Uの平均値UHCAVが目標値である「128」と一致するか否かを判断する。そしてコントロール部64は、このステップSP15において肯定結果を得るとステップSP17に進む。
【0081】
これに対してコントロール部64は、このステップSP15において否定結果を得るとステップSP16に進んで、平均値UHCAVが目標値よりも大きい場合には信号処理部60のUゲインレジスタ71U(図8)に格納された第1のホワイトバランスパラメータのパラメータ値を1だけ下げ、平均値UHCAVが目標値よりも小さい場合には当該第1のホワイトバランスパラメータのパラメータ値を1だけ上げた後、ステップSP17に進む。
【0082】
続いてコントロール部64は、このステップSP17において、上述のステップSP14において算出した第2の色差信号S10Vの平均値VHCAVが目標値である「128」と一致するか否かを判断する。そしてコントロール部64は、このステップSP17において肯定結果を得るとステップSP19に進む。
【0083】
これに対してコントロール部64は、このステップSP17において否定結果を得るとステップSP18に進んで、平均値VHCAVが目標値よりも大きい場合には信号処理部60のVゲインレジスタ71V(図8)に格納された第2のホワイトバランスパラメータのパラメータ値を1だけ下げ、平均値VHCAVが目標値よりも小さい場合には当該第2のホワイトバランスパラメータのパラメータ値を1だけ上げた後、ステップSP19に進む。
【0084】
次いでコントロール部64は、このステップSP19において、上述のステップSP14において算出した第1の色差信号S10Uの平均値UHCAVがその目標値と一致し、かつ、第2の色差信号S10Vの平均値VHCAVがその目標値と一致していたか否かを判断する。
【0085】
そしてコントロール部64は、このステップSP19において否定結果を得るとステップSP12に戻り、この後ステップSP19において肯定結果を得るまでステップSP12〜ステップSP19−ステップSP12のループを繰り返す。
【0086】
そしてコントロール部64は、やがて第1及び第2の色差信号S10U、S10Vの各平均値UHCAV、VHCAVがそれぞれ対応する目標値(いずれも「128」)に収束することによりステップSP19において肯定結果を得ると、ステップSP20に進んでこの第1のパラメータ更新処理手順RT2を終了する。
【0087】
このようにしてコントロール部64は、第1及び第2の色差信号S10U、S10Vの各平均値UHCAV、VHCAVがそれぞれ目標値となるように第1及び第2のホワイトバランスパラメータを更新するようにして、CCDカメラ50(図5)からの画像信号S1Aのホワイトバランスを調整する。
【0088】
(1−4)本実施の形態の動作及び効果
以上の構成において、ロボット1は、色温度の異なる部屋に移動し又は部屋の照明がオン/オフされるなどして周囲の照明環境が変化すると、自己の手の平23A(図6)部の色を検出し、当該色が工場出荷時に所定の照明環境下で記憶した当該自己の手の平23Aの色となるようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整する。
【0089】
従って、このロボット1では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを工場出荷時の所定の照明環境下で行った場合と同じように調整することができる。
【0090】
かくするにつきこのロボット1では、周囲の照明環境に依らずに常に信頼性の高い画像認識処理を行い得、画像処理コストを下げながら、認識率の向上を図ることができる。
【0091】
以上の構成によれば、周囲の照明環境が変化したときに、その照明環境下における自己の手の平23Aの色が工場出荷時に所定の照明環境下で記憶した当該自己の手の平23Aの色と一致するようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整するようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを工場出荷時の所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボットを実現できる。
【0092】
(2)第2の実施の形態
(2−1)本実施の形態によるロボット80の構成及びホワイトバランスコントロールに関するメイン制御部81(図5)の処理
図1〜図5において、80は全体として第2の実施の形態によるロボットを示し、周囲の照明環境が変化したときに、CCDカメラ50からの画像信号S1Aに対するホワイトバランス調整を行う一方で、これと併せてそのゲイン調整をも行うようになされた点を除いて第1の実施の形態によるロボット1と同様に構成されている。
【0093】
すなわちホワイトバランス調整として、第1の実施の形態のように画像の色味を変化させるパラメータ(第1及び第2のホワイトバランスパラメータ)のパラメータ値を変化させた場合、画像の明るさをコントロールするゲイン値(ゲインパラメータのパラメータ値)が高すぎると画像が飽和して、図11(A)のように当該画像にいわゆる白飛びが発生する。また逆に、ゲイン値が低すぎると、図11(B)のように画像にいわゆる黒つぶれが生じる。
【0094】
そしてこのような状態では、受光素子が飽和又は光量不足で正しく動作できないため、既知の色領域の画素値は信頼できないものとなり、ホワイトバランス調整を正しく行い難い問題が生じる。
【0095】
また一般的に、ホワイトバランス用のパラメータを調整すると、画像の明るさも変化するため、最適なゲイン値においてホワイトバランス調整を行うためには、ホワイトバランス調整とゲイン調整とを同時に行うことが望ましい。
【0096】
そこでこの第2の実施の形態のロボット80では、メイン制御部81において、ホワイトバランス調整時、周囲の照明環境に応じて信号処理部60のUゲインレジスタ71U(図8)及びVゲインレジスタ71V(図8)にそれぞれ格納された第1及び第2のホワイトバランスパラメータを更新する際に、これと併せてYゲインレジスタ71Y(図8)に格納されたゲインパラメータをも更新するようにして、これにより図11(C)のような適切な明るさの画像を得られるようにしている。
【0097】
かかる手段として、このロボット80のコントロール部82(図7)は、工場出荷時に所定の照明環境化における手の平23Aの色とそのときの画像の明るさとを図12に示す第2の目標値設定処理手順RT3に従って検出し、記憶する。
【0098】
すなわちコントロール部82は、外部操作によりロボット1の手の平23Aの色及びそのときの画像の明るさを検出すべき命令が与えられると、この第2の目標値設定処理手順RT3をステップSP30において開始し、続くステップSP31〜ステップSP33を第1の目標値設定処理手順RT1のステップSP1〜ステップSP3と同様に処理することにより、信号処理部64から与えられた認識用画像信号S10に基づく画像72(図11)内のホワイトバランス調整及びゲイン調整に用いる範囲72A(図11)、すなわち当該画像72内における自己の手の平23Aの範囲を算出する。
【0099】
続いてコントロール部82は、ステップSP34に進んで、認識用画像信号S10を構成する輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vについて、それぞれかかる画像72におけるステップSP33において算出した範囲72A内における全画素の画素値の平均値YHDAV、UHDAV、VHDAVを算出する。
【0100】
そしてコントロール部82は、この後ステップSP35に進んで、ステップSP34において算出した輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vの各平均値YHDAV、UHDAV、VHDAVを、それぞれ輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vについての目標値としてメイン制御部81(図5)内の内部メモリ81A(図5)に格納し、この後ステップSP36に進んでこの第2の目標値設定処理手順RT3を終了する。なお、以下においては、かかる輝度信号S10Yについての目標値が「100」、第1及び第2の色差信号S10U、S10Vについての目標値が共に「128」であったものとする。
【0101】
一方、コントロール部82は、この後の駆動時において、信号処理部60から与えられる認識用画像信号S10に基づいて、第1の実施の形態によるロボット1について上述した手法と同様にして周囲の照明環境が変化したか否かを常時監視する。
【0102】
そしてコントロール部82は、やがて認識用画像信号S10に基づいて『周囲の照明条件が変化した』ことを認識すると、図13に示す第2のパラメータ更新処理手順RT4に従って、図6に示す信号処理部60のYゲインレジスタ71Y、Uゲインレジスタ71U又はVゲインレジスタ71Vに格納されているゲインパラメータ並びに第1及び第2のホワイトバランスパラメータの各パラメータ値をそれぞれ必要に応じて更新する。
【0103】
すなわちコントロール部82は、『周囲の照明条件が変化した』ことを認識すると、この第2のパラメータ更新処理手順RT4をステップSP40において開始し、続くステップSP41〜ステップSP44を上述の第2の目標値設定処理手順RT3(図12)のステップSP31〜ステップSP34と同様に処理することにより、そのときの認識用画像信号S10を構成する輝度信号S10Y並びに第1及び第2の色差信号S10U、S10Vについてのかかる平均値YHDAV、UHDAV、VHDAVをそれぞれ算出する。
【0104】
そしてコントロール部82は、この後ステップSP45に進んで、ステップSP44において算出した輝度信号S10Yの平均値YHDAVが目標値である「100」と一致するか否かを判断する。そしてコントロール部82は、このステップSP45において肯定結果を得るとステップSP47に進む。
【0105】
これに対してコントロール部82は、このステップSP45において否定結果を得るとステップSP46に進んで、平均値YHDAVが目標値よりも大きい場合にはYゲインレジスタ71Yに格納されたゲインパラメータのパラメータ値を1だけ下げ、平均値YHDAVが目標値よりも小さい場合には当該ゲインパラメータのパラメータ値を1だけ上げた後、ステップSP47に進む。
【0106】
またコントロール部82は、この後ステップSP47〜ステップSP50を第1のパラメータ更新処理手順RT2(図10)のステップSP15〜ステップSP18と同様に処理することにより、信号処理部60のUゲインレジスタ71U又はVゲインレジスタ71Vに格納されている第1及び第2のホワイトバランスパラメータのパラメータ値を必要に応じて1だけ上げ又は下げた後、ステップSP51に進む。
【0107】
次いでコントロール部82は、このステップSP51において、上述のステップSP44において算出した輝度信号S10Yの平均値YHDAVがその目標値と一致し、かつ、第1の色差信号S10Uの平均値UHDAVがその目標値と一致し、かつ、第2の色差信号S10Vの平均値VHDAVがその目標値と一致していたか否かを判断する。
【0108】
そしてコントロール部82は、このステップSP51において否定結果を得るとステップSP42に戻り、この後ステップSP51において肯定結果を得るまでステップSP42〜ステップSP51−ステップSP42のループを繰り返す。
【0109】
そしてコントロール部82は、やがて輝度信号S10Yの平均値YHDAVと、第1及び第2の色差信号S10U、S10Vの各平均値UHDAV、VHDAVとがそれぞれ対応する目標値に収束することによりステップSP51において肯定結果を得ると、ステップSP52に進んでこの第2のパラメータ更新処理手順RT4を終了する。
【0110】
このようにしてコントロール部82は、CCDカメラ50(図5)からの画像信号S1Aに対して、ホワイトバランス調整処理と並行してゲイン調整処理をも行うようになされている。
【0111】
(2−2)本実施の形態の動作及び効果
以上の構成において、このロボット80は、色温度の異なる部屋に移動し又は部屋の照明がオン/オフされるなどして周囲の照明環境が変化すると、現在の自己の手の平23Aの色を検出し、当該色が工場出荷時に所定の照明環境下で記憶した当該自己の手の平23Aの色及び明るさとなるように、CCDカメラ50からの画像信号S1Aに対するホワイトバランスを調整すると共に、これと並行して当該画像信号S1Aに対するゲインを調整する。
【0112】
従って、このロボット80では、第1の実施の形態によるロボット1と比べて、より正確なホワイトバランス調整及びゲイン調整を行うことができ、その分より一層と周囲の照明環境に依らずに常に信頼性の高い画像認識処理を行い得、画像処理コストを下げながら、認識率の向上を図ることができる。
【0113】
以上の構成によれば、ホワイトバランス調整と併せてゲイン調整を行うようにしたことにより、より正確なホワイトバランス調整及びゲイン調整を行い得、かくしてより一層適切な画像信号処理を行い得るロボットを実現できる。
【0114】
(3)第3の実施の形態
(3−1)本実施の形態によるロボット90の構成及びホワイトバランス調整に関するメイン制御部91の処理
図1〜図5において、90は全体として第3の実施の形態によるロボットを示し、図14に示すように、既知のデザインのランドマーク91を用いてホワイトバランス調整及びゲイン調整を行うようになされた点を除いて第2の実施の形態によるロボット80と同様に構成されている。
【0115】
実際上、このロボット90のオートホワイトバランス調整機能に関するメイン制御部92(図5)の処理を機能的に分類すると、図7との対応部分に同一符号を付した図15に示すように、信号処理部60、画像認識部93、行動選択決定部62、行動生成部63及びコントロール部94とに分けることができる。
【0116】
この場合画像認識部92は、信号処理部60から与えられる認識用画像信号S10に基づく画像内のオブジェクトの色を認識する色認識器と、当該画像内に存在する顔を認識し識別する顔認識器となどの各種認識器を有し、これら各認識器の認識結果を画像認識信号S12として行動選択決定部62に送出する。
【0117】
また画像認識部92は、画像認識処理により認識用画像信号S10に基づく画像内に、例えば図16に示すような所定色に着色された円91Aの外周部に所定の形状の3つの画像認識用マーク91B1〜91B3が120〔°〕の間隔をもって順次配置されたデザインのランドマーク91のこれら各画像認識用マーク91B1〜91B3を検出すると、その旨及び当該画像内における各画像認識用マーク91B1〜91B3の位置を画像認識用マーク検出信号S20としてコントロール部94に送出する。
【0118】
コントロール部94においては、ランドマーク91における各画像認識用マーク91B1〜91B3の位置と、所定の照明環境下において認識用画像信号S10に基づき検出されるランドマーク91の各画像認識用マーク91B1〜91B3以外の部分の基準とすべき色(すなわち上述の円91A内の色、以下、これを単にランドマーク91の色と呼ぶ)と、当該所定の照明環境下における画像の基準とすべき明るさとを予め図5に示す内部メモリ92Aに記憶している。なお、この内部メモリ92Aが記憶しているランドマーク91の色や画像の明るさは、工場出荷時にかかる照明環境下において後述のようなホワイトバランス調整処理やゲイン調整処理により得られたものであっても、また予め測定されたものを各ロボット90の製造時に一律に内部メモリ92Aに記憶させたものであっても良い。
【0119】
そしてコントロール部94は、画像認識部93から画像認識用マーク検出信号S20が与えられると、当該画像認識用マーク検出信号S20に基づき得られる画像内の各画像認識用マーク91B1〜91B3の位置から、現在の照明環境下におけるランドマーク91の色及び画像の明るさを検出する範囲、すなわち画像内におけるホワイトバランス調整に用いる範囲を算出する。
【0120】
またコントロール部94は、この計算結果と、そのとき信号処理部60から与えられる認識用画像信号S10とに基づいて、かかる算出した範囲(ランドマーク91の中心部)内の色と、画像の明るさとを検出すると共に、この検出結果と、上述の予め記憶している所定の照明環境下におけるランドマーク91の色及びそのときの画像の明るさとを比較する。
【0121】
そしてコントロール部94は、この比較結果に基づいて、現在の照明環境下において検出されるランドマーク91の色及び現在の画像の明るさが、かかる所定の照明環境下において検出されるべき色及び明るさと一致するようにホワイトバランスを調整する。
【0122】
このようにしてこのロボット90においては、ランドマーク91を用いたホワイトバランス調整を行い得るようになされ、これにより周囲の色分布や照明環境に拘わりなく、常に一定状態にホワイトバランスを調整し得るようになされている。
【0123】
(3−2)コントロール部94の具体的処理
次に、ホワイトバランス調整に関するコントロール部94の具体的な処理内容について説明する。
【0124】
コントロール部94は、画像認識部93から画像認識用マーク検出信号S20が与えられると、図17に示す第3のパラメータ更新処理手順RT5に従って図8に示す信号処理部60のYゲインレジスタ71Y、Uゲインレジスタ71U又はVゲインレジスタ71Vに格納されているゲインパラメータ並びに第1及び第2のホワイトバランスパラメータの各パラメータ値をそれぞれ必要に応じて更新する。
【0125】
すなわちコントロール部94は、かかる画像認識用マーク検出信号S20が画像認識部93から与えられると、この第3のパラメータ更新処理手順RT5をステップSP60において開始し、続くステップSP61において行動選択決定部61を制御することによりロボット90の行動を一時的に停止させる。
【0126】
続いてコントロール部94は、ステップSP62に進んで、このとき信号処理部60から与えられる認識用画像信号S10に基づく1フレーム分の画像情報を取得し、この後ステップSP63に進んで当該画像情報に基づく画像95(図14(B))内のホワイトバランス調整及びゲイン調整に用いる範囲95A(図14(B))を算出する。
【0127】
具体的に、コントロール部94は、このとき画像認識用マーク検出信号S20に基づき得られる画像95内のランドマーク91の各画像認識用マーク91B1〜91B3の位置から、当該画像95内におけるランドマーク91の中心位置を中心としてその画像95内におけるランドマーク91の大きさに応じた大きさの、かつ各画像認識用マーク91B1〜91B3を含まない範囲95Aを所定の演算処理により算出する。
【0128】
そしてコントロール部94は、この後ステップSP64に進み、この後ステップSP64〜ステップSP71を第2のパラメータ更新処理手順RT4(図13)のステップSP44〜ステップSP51と同様に処理する。
【0129】
このためこの実施の形態においても、コントロール部94は、ランドマーク91の色として、信号処理部60から与えられる認識用画像信号S10を構成する輝度信号S10Y、第1及び第2の色差信号S10U、S10Vについて、所定の照明環境下における上述の画像95内のかかる範囲95Aにおける全画素の画素値の平均値YLDAV、ULDAV、VLDAVをそれぞれ目標値(この実施の形態においてはそれぞれ「100」、「128」、「128」)として予め記憶している。
【0130】
そしてコントロール部94は、やがて現在の照明環境下において、かかる輝度信号S10Yの平均値YLDAVと、第1及び第2の色差信号S10U、S10Vの各平均値ULDAV、VLDAVとがそれぞれ対応する目標値に収束することによりステップSP71において肯定結果を得ると、ステップSP72に進んでこの第3のパラメータ更新処理手順RT5を終了する。
【0131】
このようにしてコントロール部94は、既知のランドマーク91を利用して、ホワイトバランス調整及びゲイン調整を行い得るようになされている。
【0132】
(3−3)本実施の形態の動作及び効果
以上の構成において、このロボット90は、ランドマーク91を検出すると、当該ランドマーク91の円91Aの部分の色を検出し、当該色が予め与えられた色と一致するようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整する。
【0133】
従って、このロボット90では、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができる。
【0134】
かくするにつきこのロボット90では、周囲の照明環境に依らずに常に信頼性の高い画像認識処理を行い得、画像処理コストを下げながら、認識率の向上を図ることができる。
【0135】
以上の構成によれば、ランドマーク91を検出したときに、当該ランドマーク91の円91Aの部分の色を検出し、当該色が予め与えられた色と一致するようにCCDカメラ50からの画像信号S1Aのホワイトバランスを調整するようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを工場出荷時の所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボットを実現できる。
【0136】
(4)第4の実施の形態
(4−1)ホワイトバランス調整結果等を利用したインタラクションに関するメイン制御部101の処理
図1〜図5において、100は全体として第4の実施の形態によるロボットを示し、上述のようなホワイトバランス調整処理及びゲイン調整処理により得られた、現在の照明環境に応じた第1及び第2のホワイトバランスパラメータ並びにゲインパラメータの各パラメータ値に応じたインタラクションを発現する機能が搭載されている点を除いて第2の実施の形態によるロボット80と同様に構成されている。
【0137】
すなわち、第2の実施の形態において説明した方法でホワイトバランス調整及びゲイン調整を行うことによって、ロボット100がおかれた照明環境に適した信号処理を行うことができるが、そのときの信号処理部60のYゲインレジスタ71Yに格納されているゲインパラメータのパラメータ値と、Uゲインレジスタ71U又はVゲインレジスタ71Vにそれぞれ格納されている第1及び第2のホワイトバランスパラメータのパラメータ値とに基づいて、逆に現在の周囲の照明環境を測定することができる。
【0138】
つまり、図18及び図19に示すように、青みのゲインである第1のホワイトバランスパラメータの現在のパラメータ値が大きければロボット100が白熱灯による照明などの色温度が低い照明環境下にいることが分かり(図18(A))、赤みのゲインである第2のホワイトバランスパラメータの現在のパラメータ値が大きければロボット100が蛍光灯による照明などの色温度が高い照明環境下にいることが分かる(図18(B))。またゲインについても、現在のゲインパラメータのパラメータ値が大きければロボット100が明るい照明環境にいることが分かり(図19(A))、現在のゲインパラメータのパラメータ値が小さければロボット100が暗い照明環境にいることが分かる(図19(B))。
【0139】
そこで、このロボット100のメイン制御部101(図5)における機能モジュールとしてのコントロール部102(図7)は、図13について上述した第2のパラメータ更新処理手順RT4に従ったホワイトバランス調整及びゲイン調整の直後又はその後の所定タイミングで信号処理部60のYゲインレジスタ71Yに格納されているYゲインパラメータのパラメータ値と、Uゲインレジスタ71U又はVゲインレジスタ71Vにそれぞれ格納されている第1及び第2のホワイトバランスパラメータのパラメータ値とを読み出し、これらを行動選択決定部62に与えるようになされている。
【0140】
そして行動選択決定部62は、これらゲインパラメータのパラメータ値や第1及び第2のホワイトバランスパラメータのパラメータ値が与えられると、『この部屋の色温度は5000〔k〕です。』、『この部屋の照度は1000〔lx〕です。』などの与えられたパラメータ値に応じた発話を行う動作をロボット90の次の行動として選択及び決定し、これに応じた行動決定信号S15を行動生成部63に送出する。この結果、この行動決定信号S15に基づいて、かかる発話がロボット100により行われることとなる。
【0141】
このようにしてこのロボット100においては、かかるホワイトバランス調整の調整結果やゲイン調整の調整結果に応じたインタラクションを発現し得るようになされている。
【0142】
(4−2)本実施の形態の動作及び効果
以上の構成において、ロボット100は、信号処理部60のYゲインレジスタ71Yに格納されているYゲインパラメータのパラメータ値と、Uゲインレジスタ71U又はVゲインレジスタ71Vにそれぞれ格納されている第1及び第2のホワイトバランスパラメータのパラメータ値とに基づいて、行動を選択し発現する。
【0143】
従って、このロボット100は、時間や場所によって変化する照明環境に対応して、現在の照明環境に最も適したインタラクションをユーザに提供することができる。
【0144】
以上の構成によれば、調整後の第1及び第2のホワイトバランスパラメータのパラメータ値などのホワイトバランス調整結果等を利用したインタラクションをロボット100に発現させるようにしたことにより、時間や場所によって変化する照明環境に対応して、現在の照明環境に最も適したインタラクションをユーザに提供することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得ることに加えて、エンターテインメント性をも向上させ得るロボットを実現できる。
【0145】
(5)他の実施の形態
なお上述の第1〜第4の実施の形態においては、本発明を図1〜図5のように構成された2足歩行型のロボット1、80、90、100に適用するようにした場合について述べたが、本発明はこれに限らず、この他種々の形態のロボットや、ロボット以外のカメラデバイスを搭載する種々の移動型装置に広く適用することができる。
【0146】
また上述の第1、第2及び第4の実施の形態においては、コントロール部64、82、102が信号処理部60からの認識用画像信号にS10基づく画像72の(図6)うちのホワイトバランス調整に用いる範囲72A(図6)を計算により求めるようにした場合について述べたが、本発明はこれ限らず、例えば図20に示すように、ロボット1、80、100の手の平23AによってCCDカメラ50の撮像範囲を全て覆い、認識用画像信号S10に基づく画像72の全体を用いてホワイトバランス調整を行うようにしても良い。このようにすることによって、かかるホワイトバランス調整に用いる範囲の算出処理の必要性をなくさせてコントロール部64、82、102の演算負荷を軽減させることができる。
【0147】
さらに上述の第1、第2及び第4の実施の形態においては、コントロール部64、82、102が信号処理部60からの認識用画像信号S10に基づいて、(3)式、(4)式又は(6)式となったときにホワイトバランスの再調整を行うようにした場合について述べたが、本発明はこれに限らず、例えば画像認識部61(図7)において色認識によって検出されるオブジェクトの検出率が一定レベルを超えて低下したときや、ユーザからの再調整すべき命令が入力されたときにホワイトバランスを再調整するようにしても良い。
【0148】
またこれ以外でも、例えば太陽光が入る部屋等、時間と共に照明環境が変化する場合にも対応できるようにするため、内蔵時計により前回のホワイトバランスの再調整を行ってから一定時間が経過したことを検出したときに再調整したり、場所によって照明環境が異なる可能性があるため、前回のホワイトバランスの再調整をした場所からある一定値よりも長い距離だけ移動したことを検出したときに再調整したり、さらには前回と異なる照明環境で起動される可能性があるため、ロボット1、80、100が起動されるごとに再調整するようにしても良い。
【0149】
さらに上述の第1、第2及び第4の実施の形態においては、ロボット1、80、100が、自己の体の色として手の平23Aの色に基づいてホワイトバランス調整を行うようにした場合について述べたが、本発明はこれに限らず、例えば図21(A)に示すように、自己の足先の色に基づいてホワイトバランス調整を行い得るようにロボット1、80、100を構築するようにしても良く、要は、自己の体を用いてホワイトバランス調整を行い得るようにロボット1、80、100を構築するのであれば、ホワイトバランス調整に利用するロボット1、80、100の体の部位はどの部位であっても良い。
【0150】
同様に、上述の第3の実施の形態においては、ロボット90が、既知の色をもつランドマーク91を用いてホワイトバランスを調整するようにした場合について述べたが、本発明はこれに限らず、例えば図21(B)のように既知の色をもつ専用シート110を用いてホワイトバランス調整を行うようにしたり、図21(C)のように既知の色をもつ当該ロボットの充電器でなるステーション111の壁面を用いてホワイトバランス調整を行うようにロボット90を構築するようにしても良く、要は、既知の色をもつ所定物や所定マークを用いてホワイトバランス調整を行うのであれば、その物やマークとしてはこの他種々の物又はマークを広く適用することができる。
【0151】
さらに上述の第1、第2及び第4の実施の形態においては、工場出荷時に所定の照明環境下における自己の手の平23Aの色を、自己の体の基準とすべき色として内部メモリ40A、81Aに記憶するようにした場合について述べたが、本発明はこれに限らず、例えば予め所定の照明環境下において検出されるロボット1の手の平23Aの色を測定しておき、これを基準とすべき色として製造時に内部メモリ40A、81Aに記憶させておくようにしても良い。このようにすることによって、ロボット1、80、100ごとに工場出荷の際に自己の体の色として基準とすべき色を記憶させる作業を省略して、ロボット1、80、100の製造及び出荷作業を簡易化させることができる。
【0152】
さらに上述の第1〜第4の実施の形態においては、ロボット1、80、90、100の手の平23Aの色として基準とすべき色や、ランドマーク91の基準とすべき色を予め記憶する記憶手段として、内部メモリ40A、81A、92Aを適用するようにした場合について述べたが、本発明はこれに限らず、例えば外部メモリ56を適用するようにしても良く、またメモリ以外の例えばディスク状記憶媒体等の他の記憶媒体を適用するようにしても良い。
【0153】
さらに上述の第1〜第4の実施の形態においては、撮像手段としてCCDカメラ50を適用する場合について述べたが、本発明はこれに限らず、これ以外の撮像手段を広く適用することができる。
【0154】
さらに上述の第1〜第4の実施の形態においては、CCDカメラ50から出力される画像信号S1Aに基づいて、現在の照明環境下におけるロボット1、80、90、100の手の平23Aの色又はランドマーク91の色を検出する色検出手段としての機能や、その照明環境下における認識用画像信号S10に基づく画像の明るさを検出する明るさ検出手段としての機能、及びかかる明るさ検出手段により検出された画像の明るさが、内部メモリ40A、81A、92Aに記憶された基準とすべき明るさと一致するように、画像信号S1Aに対するゲインを調整するゲイン調整手段としての機能をコントロール部64、82、94、102にもたせるようにした場合について述べたが、本発明はこれに限らず、かかる機能を信号処理部60等の他のモジュールにもたせたり、これらを別個のモジュールとして形成するようにしても良い。
【0155】
さらに上述の第4の実施の形態においては、ホワイトバランス調整結果等を利用したインタラクションとして、単に色温度や照度の測定値を発話させるようにした場合について述べたが、本発明はこれに限らず、例えば照度が小さい場合(ゲインパラメータのパラメータ値が小さい場合)には、ロボット100に『暗くてよく見えないよ。』などの照度の測定値以外の内容を発話させるようにしたり、又は搭載されているLED(Light Emitting Diode)等を点灯させるなどのインタラクションをロボット100に発現させるようにしても良く、要は、ホワイトバランス調整結果やゲイン調整結果を活用したインタラクションをロボット100に発現させるようにするのであれば、インタラクションの内容としてはこの他種々の内容を広く適用することができる。
【0156】
【発明の効果】
上述のように本発明によれば、ロボット装置において、自己の体の色として基準とすべき色を予め記憶する記憶手段と、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する色検出手段と、色検出手段により検出される自己の体の色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置を実現できる。
【0157】
また本発明によれば、ロボット装置における画像信号処理方法において、自己の体の色として基準とすべき色を予め記憶する第1のステップと、画像信号に基づいて、現在の照明環境下における自己の体の色を検出する第2のステップと、検出した自己の体の色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置における画像信号処理方法を実現できる。
【0158】
さらに本発明によれば、ロボット装置において、所定物又は所定マークの色として基準とすべき色を予め記憶する記憶手段と、撮像手段から出力される画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する色検出手段と、色検出手段により検出される所定物又は所定マークの色が、記憶手段に記憶された基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段とを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置を実現できる。
【0159】
さらに本発明によれば、ロボット装置における画像信号処理方法において、所定物又は所定マークの色として基準とすべき色を予め記憶する第1のステップと、撮像手段から出力される画像信号に基づいて、現在の照明環境下における所定物又は所定マークの色を検出する第2のステップと、検出した所定物又は所定マークの色が、基準とすべき色と一致するように、画像信号に対してホワイトバランス調整処理を施す第3のステップとを設けるようにしたことにより、周囲の色分布等の影響等を受けることなく、常にホワイトバランスを所定の照明環境下で行った場合と同じように調整することができ、かくして照明環境に拘わりなく常に適切な画像信号処理を行い得るロボット装置における画像信号処理方法を実現できる。
【図面の簡単な説明】
【図1】本実施の形態によるロボットの外観構成を示す斜視図である。
【図2】本実施の形態によるロボットの外観構成を示す斜視図である。
【図3】本実施の形態によるロボットの外観構成の説明に供する概念図である。
【図4】本実施の形態によるロボットの内部構成の説明に供する概念図である。
【図5】本実施の形態によるロボットの内部構成の説明に供するブロック図である。
【図6】第1及び第2の実施の形態によるホワイトバランス調整方法の説明に供する概念図である。
【図7】第1及び第2の実施の形態におけるオートホワイトバランス調整機能に関するメイン制御部の処理内容の説明に供するブロック図である。
【図8】信号処理部の一部構成を示すブロック図である。
【図9】第1の目標値設定処理手順を示すフローチャートである。
【図10】第1のパラメータ更新処理手順を示すフローチャートである。
【図11】ホワイトバランス調整とゲイン調整との関係を示す概念図である。
【図12】第2の目標値設定処理手順を示すフローチャートである。
【図13】第2のパラメータ更新処理手順を示すフローチャートである。
【図14】第3の実施の形態によるホワイトバランス調整方法の説明に供する概念図である。
【図15】第3の実施の形態におけるオートホワイトバランス調整機能に関するメイン制御部の処理内容の説明に供するブロック図である。
【図16】ランドマークを示す略線図である。
【図17】第3のパラメータ更新処理手順を示すフローチャートである。
【図18】第1及び第2のホワイトバランスパラメータのパラメータ値を利用したインタラクションの提供についての説明に供する略線図である。
【図19】ゲインパラメータのパラメータ値を利用したインタラクションの提供についての説明に供する略線図である。
【図20】他の実施の形態を示す略線図である。
【図21】他の実施の形態を示す略線図である。
【符号の説明】
1、80、90、100……ロボット、23……手部、23A……手の平、40、81、92、101……メイン制御部、40A、81A、92A……内部メモリ、60……信号処理部、61、93……画像認識部、64、82、94……コントロール部、70Y……Yゲインアンプ、70U……Uゲインアンプ、70V……Vゲインアンプ、71Y……Yゲインレジスタ、71U……Uゲインレジスタ、71V……Vゲインレジスタ、72、95……画像、72A、95A……範囲、91……ランドマーク、91A……円、91B1〜91B3……画像認識用マーク、110……専用シート、111……ステーション、S1A……画像信号、S10……認識用画像信号、S10Y……輝度信号、S10U……第1の色差信号、S10V……第2の色差信号。
Claims (10)
- 自己の体の色として基準とすべき色を予め記憶する記憶手段と、
必要時に上記自己の体を撮像する撮像手段と、
上記撮像手段から出力される画像信号に基づいて、現在の照明環境下における上記自己の体の色を検出する色検出手段と、
上記色検出手段により検出される上記自己の体の上記色が、上記記憶手段に記憶された上記基準とすべき色と一致するように、上記画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段と
を具えることを特徴とするロボット装置。 - 上記記憶手段は、
上記画像信号に基づく画像の基準とすべき明るさを記憶し、
上記現在の照明環境下における上記画像信号に基づく画像の明るさを検出する明るさ検出手段と、
上記明るさ検出手段により検出された上記画像の明るさが、上記記憶手段に記憶された上記基準とすべき明るさと一致するように、上記画像信号に対するゲインを調整するゲイン調整手段とを具える
ことを特徴とする請求項1に記載のロボット装置。 - 上記色検出手段は、
上記画像信号に基づく画像内の上記自己の体の所定部位が撮像された範囲を検出し、当該検出した範囲の上記画像信号に基づいて上記自己の体の色を検出する
ことを特徴とする請求項1に記載のロボット装置。 - 上記色検出手段は、
上記ロボットにおける対応するアクチュエータのキネマティクスを解くことにより、上記画像信号に基づく画像内の上記自己の体の上記所定部位が撮像された範囲を検出する
ことを特徴とする請求項3に記載のロボット装置。 - 自己の体の色として基準とすべき色を予め記憶する第1のステップと、
撮像手段から出力される画像信号に基づいて、現在の照明環境下における上記自己の体の色を検出する第2のステップと、
検出した上記自己の体の上記色が、上記基準とすべき色と一致するように、上記画像信号に対してホワイトバランス調整処理を施す第3のステップと
を具えることを特徴とするロボット装置における画像信号処理方法。 - 上記第1のステップでは、
上記画像信号に基づく画像の基準とすべき明るさを記憶し、
上記第2のステップでは、
上記現在の照明環境下における上記画像信号に基づく画像の明るさを検出し、
上記第3のステップでは、
検出した上記画像の明るさが、記憶した上記基準とすべき明るさと一致するように、上記画像信号に対するゲインを調整する
ことを特徴とする請求項5に記載のロボット装置における画像信号処理方法。 - 上記第2のステップでは、
上記画像信号に基づく画像内の上記自己の体の所定部位が撮像された範囲を検出し、
当該検出した範囲の上記画像信号に基づいて上記自己の体の色を検出する
ことを特徴とする請求項5に記載のロボット装置における画像信号処理方法。 - 上記第2のステップでは、
上記ロボットにおける対応するアクチュエータのキネマディクスを解くことにより、上記画像信号に基づく画像内の上記自己の体の上記所定部位が撮像された範囲を検出する
ことを特徴とする請求項7に記載のロボット装置における画像信号処理方法。 - 所定物又は所定マークの色として基準とすべき色を予め記憶する記憶手段と、
外部を撮像する撮像手段と、
上記撮像手段から出力される画像信号に基づいて、現在の照明環境下における上記所定物又は上記所定マークの色を検出する色検出手段と、
上記色検出手段により検出される上記所定物又は上記所定マークの上記色が、上記記憶手段に記憶された上記基準とすべき色と一致するように、上記画像信号に対してホワイトバランス調整処理を施すホワイトバランス調整手段と
を具えることを特徴とするロボット装置。 - 所定物又は所定マークの色として基準とすべき色を記憶する第1のステップと、
撮像手段から出力される画像信号に基づいて、現在の照明環境下における上記所定物又は上記所定マークの色を検出する第2のステップと、
検出した上記所定物又は所定マークの上記色が、上記基準とすべき色と一致するように、上記画像信号に対してホワイトバランス調整処理を施す第3のステップと
を具えることを特徴とするロボット装置における画像信号処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003070654A JP2004276165A (ja) | 2003-03-14 | 2003-03-14 | ロボット装置及びロボット装置における画像信号処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003070654A JP2004276165A (ja) | 2003-03-14 | 2003-03-14 | ロボット装置及びロボット装置における画像信号処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004276165A true JP2004276165A (ja) | 2004-10-07 |
Family
ID=33287346
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003070654A Pending JP2004276165A (ja) | 2003-03-14 | 2003-03-14 | ロボット装置及びロボット装置における画像信号処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004276165A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007189595A (ja) * | 2006-01-16 | 2007-07-26 | Hitachi Advanced Digital Inc | 車載カメラ装置 |
JP2008006519A (ja) * | 2006-06-27 | 2008-01-17 | Toyota Motor Corp | ロボット装置及びロボット装置の制御方法 |
JP2012169917A (ja) * | 2011-02-15 | 2012-09-06 | Denso Corp | 画像処理装置及びその調整方法 |
CN105981379A (zh) * | 2014-09-17 | 2016-09-28 | 深圳市大疆创新科技有限公司 | 自动白平衡系统及方法 |
JP2019134331A (ja) * | 2018-01-31 | 2019-08-08 | セコム株式会社 | 画像処理装置 |
-
2003
- 2003-03-14 JP JP2003070654A patent/JP2004276165A/ja active Pending
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007189595A (ja) * | 2006-01-16 | 2007-07-26 | Hitachi Advanced Digital Inc | 車載カメラ装置 |
JP2008006519A (ja) * | 2006-06-27 | 2008-01-17 | Toyota Motor Corp | ロボット装置及びロボット装置の制御方法 |
JP2012169917A (ja) * | 2011-02-15 | 2012-09-06 | Denso Corp | 画像処理装置及びその調整方法 |
US9992468B2 (en) | 2011-02-15 | 2018-06-05 | Denso Corporation | Image processing apparatus and its adjustment method |
CN105981379A (zh) * | 2014-09-17 | 2016-09-28 | 深圳市大疆创新科技有限公司 | 自动白平衡系统及方法 |
JP2017502596A (ja) * | 2014-09-17 | 2017-01-19 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | ホワイトバランス調整方法及び撮像システム |
US9743058B2 (en) | 2014-09-17 | 2017-08-22 | SZ DJI Technology Co., Ltd. | Automatic white balancing system and method |
US9743059B2 (en) | 2014-09-17 | 2017-08-22 | SZ DJI Technology Co., Ltd. | Automatic white balancing system and method |
CN105981379B (zh) * | 2014-09-17 | 2018-09-25 | 深圳市大疆创新科技有限公司 | 自动白平衡系统及方法 |
CN108718405A (zh) * | 2014-09-17 | 2018-10-30 | 深圳市大疆创新科技有限公司 | 自动白平衡系统及方法 |
CN108718405B (zh) * | 2014-09-17 | 2019-11-26 | 深圳市大疆创新科技有限公司 | 自动白平衡系统及方法 |
JP2019134331A (ja) * | 2018-01-31 | 2019-08-08 | セコム株式会社 | 画像処理装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3855812B2 (ja) | 距離計測方法、その装置、そのプログラム、その記録媒体及び距離計測装置搭載型ロボット装置 | |
US8031261B2 (en) | Image pickup apparatus with backlight correction and a method therefor | |
WO2016117593A1 (ja) | 照明装置 | |
US7742840B2 (en) | Autonomous mobile robot | |
US8379966B2 (en) | Apparatus and method for recognizing position of mobile robot | |
US20140009066A1 (en) | LED Lamp Provided with a Variable-Geometry Beam Device | |
TWI612497B (zh) | 主動影像追蹤方法、影像追蹤輔助裝置與嵌入式系統 | |
US20110026833A1 (en) | Environment recognition system, environment recognition method and robot | |
EP1566311A3 (en) | Adaptive Lighting control for vision-based occupant sensing | |
JP3868896B2 (ja) | 自律移動体用撮像装置、撮像装置較正方法及び撮像装置較正プログラム | |
JP2003211381A (ja) | ロボット制御装置 | |
JP2003211382A (ja) | ロボット制御装置 | |
JP2004276165A (ja) | ロボット装置及びロボット装置における画像信号処理方法 | |
TWI704911B (zh) | 外骨骼穿戴管理系統與外骨骼穿戴管理方法 | |
CN108646814A (zh) | 一种基于物联网的储藏空间监控系统 | |
CN112747434B (zh) | 室内温度控制方法、系统、设备及计算可读机存储介质 | |
CN113165177A (zh) | 信息处理装置、用于处理信息的方法和程序 | |
US8405713B2 (en) | Image pickup apparatus and image combining method of image pickup apparatus | |
CN216649794U (zh) | 一种基于巡检机器人的自主调节补光装置 | |
TWI572966B (zh) | 拍照系統及方法 | |
JP2007152472A (ja) | 充電システム、充電ステーション及びロボット誘導システム | |
CN113134840A (zh) | 一种实时设置力控参数的工业机器人及方法 | |
JP4779226B2 (ja) | ロボット装置、並びに、画像記憶方法及び画像記憶装置、並びに、制御プログラム及び記録媒体 | |
JP2003001577A (ja) | 充電装置、ロボットシステム及び充電制御方法 | |
US20220030207A1 (en) | Apparatus, control method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060301 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090205 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20090604 |