JP2005078413A - 電子機器及び電子機器における応答情報出力方法 - Google Patents

電子機器及び電子機器における応答情報出力方法 Download PDF

Info

Publication number
JP2005078413A
JP2005078413A JP2003308617A JP2003308617A JP2005078413A JP 2005078413 A JP2005078413 A JP 2005078413A JP 2003308617 A JP2003308617 A JP 2003308617A JP 2003308617 A JP2003308617 A JP 2003308617A JP 2005078413 A JP2005078413 A JP 2005078413A
Authority
JP
Japan
Prior art keywords
information
image
response information
electronic device
response
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003308617A
Other languages
English (en)
Inventor
Shin Yamada
伸 山田
Kaoru Morita
かおる 森田
Makoto Nishimura
真 西村
Keika Onishi
恵加 大西
Takayuki Tashiro
隆之 田代
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP2003308617A priority Critical patent/JP2005078413A/ja
Priority to CNA2004800250069A priority patent/CN1846227A/zh
Priority to EP04772812A priority patent/EP1662437A1/en
Priority to PCT/JP2004/012863 priority patent/WO2005022461A1/ja
Priority to US10/569,989 priority patent/US20070003140A1/en
Publication of JP2005078413A publication Critical patent/JP2005078413A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • G06T13/403D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour

Abstract

【課題】仮想的なキャラクタの模擬が可能な電子機器であって、利用者以外の人もその仮想的なキャラクタとコミュニケーションを行うことができ、利用者が他の人と一緒に使っても楽しめるような電子機器を提供する。
【解決手段】撮像部5を介して入力した入力画像情報を、不揮発性メモリ4の登録辞書に記憶される利用者の顔画像データまたは顔の特徴データと比較し、応答情報を生成する。登録辞書は、顔の部位毎の部分領域画像データまたは特徴データを含み、応答情報は、入力画像情報から抽出した顔の部位毎の画像情報と登録辞書との類似度に基づいて生成される。応答情報は、仮想的なキャラクタの行動を模擬した情報として表示部6に出力される。画像情報の入力、登録辞書との比較、応答情報の生成、及び応答情報の出力は、制御部1によって制御される。
【選択図】図1

Description

本発明は、画像情報に基づく応答を行う電子機器、画像情報に基づく応答を行うとともに仮想的なキャラクタの模擬が可能な電子機器、及び電子機器の応答情報出力方法に関する。
仮想的なキャラクタとの間でコミュニケーションを行う電子機器としては、特許文献1及び特許文献2に記載されたものが提案されている。
特許文献1に記載された仮想ペット装置は、外部からの音声や画像等の刺激に対して適切な応答をするものであって、外部からの刺激を解析して刺激の入力者を判別し、判別者及びその認識度に応じた応答を行うものである。また、特許文献2に記載されたユーザ認識度成長システムは、玩具用、ゲーム用、民生用、産業用等のロボット装置、ナビゲーション用、自動販売機用、自動受付装置用等の各種対話型のマシンに適用されるものであって、認識されたユーザ情報と記憶されたユーザ情報とを比較してユーザ認識度を演算し、演算されたユーザ認識度に応じて選択される行動、又は行動の選択方法を補正するものである。
すなわち、特許文献1及び特許文献2に記載されたものは、いずれも、外部からの音声や画像の入力者が、登録者であるかどうか、及び登録者である場合の認識度(なつき度)によって応答を行うものである。したがって、登録者以外の者は、仮想的なキャラクタとコミュニケーションを行うことができないか、できたとしても簡単なものに限られ、所有者が友達と一緒に使う楽しみが小さい。また、入力した音声や画像そのものに対する応答を行うものでないので、応答が画一的なものになりがちである。
国際公開第00/53281号パンフレット 特開2001−51970号公報
本発明は、上記事情に鑑みなされたもので、仮想的なキャラクタの模擬が可能な電子機器であって、利用者以外の人もその仮想的なキャラクタとコミュニケーションを行うことができ、利用者が他の人と一緒に使っても楽しめるような電子機器及び応答情報出力方法を提供することを目的とする。また、入力画像に対して変化に富んだ応答を行うことができる電子機器及び応答情報出力方法を提供することを目的とする。
本発明の電子機器は、画像情報に基づく応答を行うものであって、画像情報を入力する画像入力手段と、利用者の顔画像データ又は顔の特徴データを含む登録辞書を記憶する登録辞書記憶手段と、前記画像入力手段によって入力された入力画像情報と前記登録辞書とを利用して、応答情報を生成する応答情報生成手段と、前記応答情報に基づく出力を行う出力手段とを備え、前記登録辞書は、顔の部位毎の部分領域画像データ又は特徴データを含み、前記応答情報生成手段は、前記入力画像情報から抽出した顔の部位毎の画像情報と前記登録辞書との類似度に基づいた応答情報を生成するものである。本発明によれば、入力画像情報から抽出した顔を部位毎の画像情報に応じた応答情報を生成するので、入力画像に対して変化に富んだ応答を行うことができる。
本発明の電子機器は、さらに、仮想的なキャラクタを模擬するキャラクタ模擬手段を備え、前記キャラクタ模擬手段は、前記応答情報に基づいてキャラクタの行動を模擬した模擬応答情報を生成するものであり、前記出力手段は、前記模擬応答情報に基づく出力を行うものである。本発明によれば、仮想的なキャラクタを模擬した応答を行うので、キャラクタとのコミュニケーションを楽しむことができる。
本発明の電子機器は、前記応答情報生成手段が、前記登録辞書と前記入力画像情報とを比較して、前記入力画像情報が前記利用者の画像を示すものであるかどうかを判断し、その判断結果に応じて異なる応答情報を生成するものであるものを含む。本発明によれば、利用者以外の人もその仮想的なキャラクタとコミュニケーションを行うことができ、利用者が他の人と一緒に使っても楽しむことができる。
本発明の電子機器は、前記登録辞書に含まれる前記利用者の顔画像データ又は顔の特徴データが、前記入力画像情報が前記利用者の画像を示すものであると判断された場合に、その入力画像情報に基づいて更新されるものであるものを含む。本発明によれば、利用者が使用する場合には、最新の顔画像データを考慮して登録辞書を更新するので、より適確な応答を行うことができる。
本発明の電子機器は、前記入力画像情報が前記利用者の画像を示すものと判断される場合に、前記応答情報が、前記入力画像と前記利用者の前記顔の部位毎の部分領域画像データ又は特徴データとの類似度が低い顔の部位に関する情報を含むものを含む。本発明によれば、利用者に対して、いつもの顔を異なる部分についての応答がされるので、応答を楽しむことができる。
本発明の電子機器は、前記入力画像情報が前記利用者の画像を示すものと判断されない場合に、前記応答情報が、前記入力画像と前記利用者の顔の部位毎の部分領域画像データ又は特徴データの類似度が高い顔の部位に関連する情報を含むものを含む。本発明によれば、利用者以外の画像入力に対しては、部分的に類似する人物及びその部位に関係する応答を行うことができるので、他の人と一緒に使っても楽しむことができる。利用者や利用者の周囲の人以外の人の画像データ又は特徴データを登録辞書として記憶させておくと、さらに応答を楽しむことができる。
本発明の電子機器は、前記登録辞書が、ネットワークを介してデータ提供サーバからダウンロードした画像データ又は特徴データを含むものを含む。本発明によれば、タレント、著名人等を含む多数の人の顔画像を、登録辞書として手軽に記憶させることができる。
本発明の電子機器は、前記応答情報生成手段が、ネットワークを介してデータ提供サーバからダウンロードした情報を利用して前記応答情報を生成するものであるものを含む。本発明によれば、応答情報の生成アルゴリズムを適宜選択可能となり、さらに変化に富んだ応答を楽しむことができる。
本発明の電子機器は、前記ダウンロードした応答情報が、更新可能であるものを含む。本発明によれば、定期的にあるいは、利用者の希望により応答情報の生成アルゴリズムを変更することができ、さらに変化に富んだ応答を楽しむことができる。
本発明の電子機器は、前記画像入力手段が、画像撮影手段を含むものを含む。本発明によれば、手軽に画像情報を入力することができる。例えば、カメラ等の画像撮影手段の視野に顔が入ると、自動的に撮影した画像を入力し、入力画像情報に応じた応答を出力するようにすると、さらに複数の利用者が一緒に楽しむことができる。
本発明の電子機器は、前記出力手段が、画像表示手段を含むものを含む。本発明によれば、応答を手軽に出力することができる。
本発明の応答情報出力方法は、画像情報に基づく応答を行う電子機器における応答情報出力方法であって、画像情報を入力する画像入力ステップと、利用者の顔画像データ又は顔の特徴データを含む登録辞書を記憶する登録辞書記憶ステップと、前記画像入力ステップで入力された入力画像情報と、利用者の顔画像データ又は特徴データを含む登録辞書とを利用して、応答情報を生成する応答情報生成ステップと、前記応答情報生成ステップで生成した応答情報に基づく出力を行う出力ステップとを備え、前記登録辞書は、顔の部位毎の部分領域画像データ又は特徴データを含み、前記応答情報生成ステップは、前記入力画像情報から抽出した顔の部位毎の画像情報と前記登録辞書との類似度に基づいた応答情報を生成するものである。
本発明の応答情報出力方法は、前記電子機器が、仮想的なキャラクタを模擬するキャラクタ模擬手段を備え、前記キャラクタ模擬手段によって、前記応答情報生成ステップで生成した応答情報に基づいてキャラクタの行動を模擬した模擬応答情報を生成する模擬応答情報生成ステップを含み、前記出力手段が、前記模擬応答情報に基づく出力を行うものであるものを含む。
本発明の応答情報出力方法は、前記応答情報生成ステップが、前記登録辞書と前記入力画像情報とを比較して、前記入力画像情報が前記利用者の画像を示すものであるかどうかを判断し、その判断結果に応じて異なる応答情報を生成するものであるものを含む。
本発明の応答情報出力方法は、前記入力画像情報が前記利用者の画像を示すものであると判断された場合に、前記登録辞書に含まれる前記利用者の顔画像データ又は顔の特徴データを、その入力画像情報に基づいて更新するステップを含む。
本発明のプログラムは、上記した応答情報出力方法における各ステップをコンピュータを用いて実行するためのプログラムである。
本発明によれば、利用者以外の人もその仮想的なキャラクタとコミュニケーションを行うことができ、利用者が他の人と一緒に使っても楽しめるような電子機器及び応答情報出力方法を提供することができる。また、入力画像に対して変化に富んだ応答を行うことができる電子機器及び応答情報出力方法を提供することができる。
以下、本発明の実施の形態について、図面を用いて説明する。この実施の形態では、適用する電子機器がカメラ付き携帯電話機であるが、適用対象はカメラ付き携帯電話機に限らない。
図1は、本発明の実施の形態の電子機器であるカメラ付き携帯電話機の概略構成を示す図である。図1のカメラ付き携帯電話機100は、制御部1、ROM2、RAM3、不揮発性メモリ4、撮像部5、表示部6、操作部7、内部バス10、通信部20、アンテナ21、音声処理部30、マイクロホン31、スピーカ32を含む。
制御部1は、携帯電話機100全体の動作を制御するものであり、所定のプログラムを実行するプロセッサ(図示せず)を主体に構成される。制御部1は、携帯電話機100の各要素相互間の内部バス10を介したデータや命令の授受の制御を行う。また、制御部1は、詳細は後述するように、入力画像情報と不揮発性メモリ4に記憶された前記辞書画像データとを利用して応答情報を生成する機能を有する。さらに、制御部1は、仮想的なキャラクタを模擬する機能を有する。キャラクタの行動を模擬した画像を出力する場合は、表示部6を介して出力し、キャラクタの行動を模擬した音声を出力する場合は、音声処理部30、スピーカ32を介して出力する。
ROM2は、制御部1を構成するプロセッサによって実行されるプログラムや携帯電話機100で利用する各種データを記憶する。RAM3は、データを一時的に記憶するメモリであり、制御部1による各種処理を実行する際のワークメモリとしても利用される。 不揮発性メモリ4は、例えばEEPROMで構成され、後述する登録辞書、応答情報テンプレートを記憶するとともに、利用者がカメラ付き携帯電話機100を利用する際の各種データファイル用としても利用される。
撮像部5は、レンズ等の光学系、撮像素子、画像処理部(いずれも図示せず)等を含み、
撮影画像信号に基づくデジタル画像データを出力するものである。撮像部5は、従来からのカメラ付き携帯電話機に設けられるものと同様のものであり、通常の撮影モード時の動作も同様である。すなわち、撮影モード時のスルー画像は表示部6に表示され、操作部7のシャッターボタンを操作すると、その時の撮影画像信号に基づくデジタル画像データがRAM3に一時的に保持され、操作部7から保存を支持すると、不揮発性メモリ4に記憶される。なお、このような撮影動作を行うカメラ付き携帯電話機は周知であるので、詳細な説明は省略する。
撮像部5は、後述する画像情報に基づく応答を行うゲームモード時に、画像情報を入力する画像入力手段としても利用される。このモード時には、表示部6の表示画面を見ながら操作する場合が多いので、撮像部5のレンズは、表示部6の表示面側に向けられているのが好ましい。撮像部5を複数設け、そのうちの1つを表示部6の表示面側撮影用としたり、撮像部5の撮影方向を可変とし、ゲームモード時に表示部6の表示面側を撮影方向とすることにより、実現できる。
表示部6は、携帯電話機100の各種情報を表示するもので、表示を行う液晶表示パネルとこの液晶表示パネルを駆動する表示制御回路(いずれも図示せず)とから構成される。
操作部7は、利用者が携帯電話機100を操作するための指令やデータの入力するためのものであり、電話番号や各種データを入力するためのテンキー、各種のファンクションキー等を含む。これらのキーは、動作モードによって異なる機能を有し、通常の撮影モード時のシャッターボタンやズームボタンの機能、後述するゲームモード時の撮影画像入力指示キーの機能も有する。また、制御部1によって模擬される仮想的なキャラクタとのコミュニケーションを行うためのデータ入力にも利用される。
アンテナ21と接続された通信部20は、外部との無線通信を行うもので、送信データを搬送波に乗せてアンテナ21から送信し、またアンテナ21で受信した受信データを復調するものである。復調したデータが音声データである場合は、音声処理部30に送られ、その他のデータである場合は、制御部1の制御により、内部バス10を介して制御部1、RAM3、不揮発性メモリ4等に送られる。また、送信データは、音声処理部30から直接又は他の要素から内部バス10を介して入力される。
音声処理部30は、マイクロホン31から入力された音声信号をデジタルデータに変換し、送信データとして通信部20へ出力するとともに、通信部20から出力された受信データ(音声データ)をアナログ音声信号に変換し、スピーカ32へ出力するものである。また、マイクロホン31からの音声信号に基づくデジタルデータを、内部バス10を介して制御部1等に送るとともに、内部バス10介して入力されるデジタルデータを音声信号に変換し、スピーカ32に出力することも可能である。
次に、図1のカメラ付き携帯電話機100の動作について説明する。この携帯電話機100は、音声による通話を行うだけでなく、撮像部5を利用するカメラ機能、通信部20を利用するデータ通信機能、ゲーム機能を有する。これらの機能は、操作部7の所定のキーを操作することにより、選択的に動作可能である。なお、音声通話機能、カメラ機能、データ通信機能は、従来のものと同様であるので、説明を省略する。
ゲーム機能として、入力した画像情報に基づく応答を楽しむ機能を含んでおり、応答を行うに際して、仮想的なキャラクタの行動を模擬した出力を行う。応答情報の生成には、予め不揮発性メモリ4に記憶された登録辞書を利用するので、まず、登録辞書について説明する。
登録辞書は、利用者顔情報データベースと、任意顔情報データベースを含む。利用者顔情報データベースは、携帯電話装置100の利用者の顔情報を記憶するもので、利用者の顔の部位毎の部分領域画像データまたは顔の部位毎の特徴データを含む。図2に、利用者顔情報データベースに登録される利用者顔情報の項目例を示す。これらの項目に登録されるデータは、予め入力された利用者の顔画像を分析することによって生成される。目、鼻、口、耳、眉等についてはそれらの頂点座標を、輪郭については輪郭線上の複数の点座標と、髪型については髪領域とそれ以外の領域を2値で区別したデータを、利用者顔情報として利用することが可能である。また、要素配置データとしては、目、鼻、口等の代表的な要素の相対位置データを登録する。なお、目、鼻、口、耳、眉等については、頂点座標ではなく、縮小した画像を利用者顔情報にしてもよい。例えば目であれば、目を含むように目周辺の画像を切出して縮小した画像を利用者顔情報としてもよい。
なお、ここで利用者は、予め顔画像データまたは顔の特徴データを利用者として登録した1又は複数の人物を示すものである。顔画像データまたは顔の特徴データの登録は、撮像部5によって撮影した利用者の顔画像データを入力し、制御部1によって分析することによって行う。登録するデータには、複数の顔画像データを利用することが好ましい。したがって、後述するように、ゲーム機能利用時に利用者であると判断された画像データの分析結果を利用してもよい。複数の顔画像データを利用する場合、それらの平均値を利用してもよいし、分布を登録してもよい。
任意顔情報データベースは、任意顔情報を記憶するものであり、任意顔情報は1又は複数の人物の顔の部位毎の画像データまたは特徴データを含むものである。図3に任意顔情報データベースの構成例を示す。任意顔情報データベースに登録する人物は、任意である。例えば、利用者の知人の顔画像でもよいし、タレント等の著名人の顔画像でもよい。また、利用者の顔画像を含んでいてもよい。任意顔情報データベースは、撮像部5によって撮影した利用者の顔画像データを利用して作成してもよいし、図示しないデータ提供サーバからダウンロードした顔画像データを利用して作成してもよい。また、任意顔情報データベース自体をダウンロードしてもよい。ダウンロードする場合は、携帯電話機100がネットワークを介してデータ提供サーバに接続可能としておく。
任意顔情報データベースに登録されるそれぞれの任意顔情報は、それぞれ人物IDと対応付けて記憶され、その任意顔情報の元画像が示す人物を特定できるようになっている。また、人物IDと対応付けてその人物の属性データを記憶する人物属性テーブルが不揮発性メモリ4に設けられる。図4に、人物属性テーブルに記憶される項目の一例を示す。人物属性テーブルのデータは、後述する入力画像情報に基づく応答情報の生成に利用することができる。なお、人物属性テーブルのデータは、任意顔情報データベースの登録時に合わせて記憶させる。登録する顔画像データをデータ提供サーバからダウンロードする場合は、合わせて人物属性データもダウンロードするのが好ましい。また、データ提供サーバにおいて、後述する応答データベースを人物IDに対応付けて記憶しておいてもよい。この場合は、登録する任意顔情報データベースをデータ提供するときに応答データベースもダウンロードするのが好ましい。
続いて、ゲームモード時に、入力した画像情報に応じた応答を行う場合の動作について説明する。図5は、入力画像情報に応じた応答を行う場合の概略動作フローを示す図である。図5の動作は、制御部1のプログラムによって制御される。
ステップS501で携帯電話機100をゲームモードに設定したあと、撮像部5を利用して顔画像を撮影し、撮影画像情報を入力する(ステップS502)。携帯電話機100の制御部1が、仮想的なキャラクタを模擬する機能を有する場合、図6(a)及び図6(b)に示すような画像を表示部6に表示することによって、利用者の操作を促す。図6の例では、制御部1が模擬するキャラクタが猫であり、ゲームモードに設定する前は、図6(a)に示すように、寝ていたり、勝手に遊んでいる画像が表示される。そして、ステップS501でゲームモードに設定されると、図6(b)に示すように正面を向いて質問する。この状態で、撮像部5が撮影可能となり、表示部6には撮像部5からのスルー画像が表示される。その後、操作部7のシャッターボタンを操作することによって、撮像部5が撮影を行い、得られた画像情報が入力され、RAM3に記憶される。
なお、制御部1によって模擬されるキャラクタは、猫などの現実の生物を模擬したものでも、想像上の生物を模擬したものでも、ロボット等の無生物を模擬したものでもよい。このようなキャラクタを模擬した画像を表示する技術は、各種ゲーム装置において周知であるので説明を省略する。また、キャラクタからのメッセージを文字によって表示するだけでなく、音声によって主力させてもよい。もちろん、キャラクタの模擬技術を利用することなく、単に、文字データを表示させて画像の入力を促してもよい。
画像情報が入力されると、入力画像情報から顔の部位毎の画像情報を抽出し(ステップS503)、利用者顔情報データベースの利用者顔情報と比較し(ステップS504)、入力画像情報が利用者を示すものかどうかを判断する(ステップS505)。判断方法は各種方法が採用できるが、一例として、顔の部位毎の類似度と主要要素の配置の類似度を求め、それらのスコア(重み付けは適宜定めておく。)を利用することができる。
入力画像情報が利用者を示すものである場合には、ステップS506で、利用者顔情報データベースを必要に応じて更新する。この更新処理はスキップすることも可能であり、類似度が高い場合にのみ行ってもよい。
ステップS507では、応答情報の生成を行う。ここでの応答情報は、入力画像情報から抽出した顔の部位毎の画像情報と、利用者顔情報データベースの利用者顔情報とを個別に比較し、その比較結果に応じて得られるものである。比較結果に応じた応答情報は、図7に示されるような応答データベースに記憶される情報を利用して生成することができる。応答データベースに記憶される応答情報は、入力画像情報と利用者顔情報との類似度が低い顔の部位に関する情報を利用すると、いつもの顔との違いが指摘され、応答を楽しむことができる。
なお、応答データベースは、予め不揮発性メモリに記憶させておく。応答データベースに記憶させるデータは、データ提供サーバからダウンロードした情報を利用してもよい。また、データ提供サーバが提供する情報が定期的に変更される場合、さらに変化に富んだ応答を楽しむことができる。
ステップS507で生成された応答情報は、表示部6に画像データとして出力される(ステップS508)。図6(c)にその一例を示す。この例は、入力画像情報が利用者を示すものと判断されたが、髪型の類似度が特に低い場合の応答例である。なお、入力画像情報に基づく応答情報の出力は、仮想的なキャラクタを模擬した画像を利用して出力するだけでなく、音声情報を合わせて出力してもよい。また、携帯電話機100が仮想的なキャラクタを模擬する機能を有しない場合は、表示部6に単にテキスト情報として表示してもよいし、スピーカ32に音声出力してもよい。さらに、顔の部位に関する情報を生成するときにその顔の撮影日や撮影場所の情報を保存しておいて、「3ヶ月前の顔に似ているね」というような応答をさせてもよい。
応答情報の出力後、さらにゲームを継続するかどうかを判断し(ステップS509)、継続する場合は、ステップS502に戻って画像情報を入力する。
ステップS505で、入力画像情報が利用者を示すものでないと判断された場合は、入力画像情報から抽出された顔の部位毎の画像情報を、それぞれ任意顔情報データベースの任意顔情報と比較する(ステップS510)。そして、ステップS507で、比較結果に応じた応答情報を生成する。この場合の応答情報は、比較の結果、類似度が高い任意顔情報を選択し、その部位及び人物に関連する情報を利用して生成する。
具体的には、入力画像と類似度が高い任意顔情報が抽出されると、その任意顔情報に対応する人物IDを利用して図4に示すような人物属性テーブルを参照し、その人物の属性を取得する。そして、顔の部位に関する情報と人物属性を利用して応答情報を生成する。例えば、抽出した任意顔情報が目画像データベースに含まれるもので、タレントAの目画像データであるとすると、「目がAに似ているね」という応答文を生成する。また、利用者の複数の利用者顔情報との類似度が高い場合は、「Xさん(利用者の名前)とよく似ているね。ひょっとして親戚?」というような応答文を生成する。応答文生成のためのテンプレートは、応答データベースに予め用意しておく。なお、方言の応答データベースを用意しておき、方言の応答文を生成させてもよい。また、タレントや漫画のキャラクタの口調をまねた応答データベースを用意しておいてもよい。
また、任意顔情報に対応する人物の属性として、撮影日時の情報を保持しておいて、「目が○年前のタレントAに似ているね」とか、「口が○年前のお母さんに似ているね」というような応答をさせてもよい。
本発明は、画像情報に基づく応答を行う電子機器、画像情報に基づく応答を行うとともに仮想的なキャラクタの模擬が可能な電子機器等に利用可能である。
本発明の実施の形態のカメラ付き携帯電話機の概略構成を示す図 本発明の実施の形態のカメラ付き携帯電話機の利用者顔情報データベースに登録される利用者顔情報の項目例を示す図 本発明の実施の形態のカメラ付き携帯電話機の任意顔情報データベースの構成例を示す図 本発明の実施の形態のカメラ付き携帯電話機の人物属性テーブルに記憶される項目の一例を示す図 本発明の実施の形態のカメラ付き携帯電話機において、入力画像情報に応じた応答を行う場合の概略動作フローを示す図 本発明の実施の形態のカメラ付き携帯電話機において、入力画像情報に応じた応答を行う場合の表示部の表示例を示す図 本発明の実施の形態のカメラ付き携帯電話機の応答データベースに記憶される情報の一例を示す図
符号の説明
1・・・制御部
2・・・ROM
3・・・RAM
4・・・不揮発性メモリ
5・・・撮像部
6・・・表示部
7・・・操作部
10・・・内部バス
20・・・通信部
21・・・アンテナ
30・・・音声処理部
31・・・マイクロホン
32・・・スピーカ
100・・・カメラ付き携帯電話機

Claims (16)

  1. 画像情報に基づく応答を行う電子機器であって、
    画像情報を入力する画像入力手段と、
    利用者の顔画像データ又は顔の特徴データを含む登録辞書を記憶する登録辞書記憶手段と、
    前記画像入力手段によって入力された入力画像情報と前記登録辞書とを利用して、応答情報を生成する応答情報生成手段と、
    前記応答情報に基づく出力を行う出力手段とを備え、
    前記登録辞書は、顔の部位毎の部分領域画像データ又は特徴データを含み、
    前記応答情報生成手段は、前記入力画像情報から抽出した顔の部位毎の画像情報と前記登録辞書との類似度に基づいた応答情報を生成するものである電子機器。
  2. 請求項1記載の電子機器であって、
    仮想的なキャラクタを模擬するキャラクタ模擬手段を備え、
    前記キャラクタ模擬手段は、前記応答情報に基づいてキャラクタの行動を模擬した模擬応答情報を生成するものであり、
    前記出力手段は、前記模擬応答情報に基づく出力を行うものである電子機器。
  3. 請求項1又は2記載の電子機器であって、
    前記応答情報生成手段は、前記登録辞書と前記入力画像情報とを比較して、前記入力画像情報が前記利用者の画像を示すものであるかどうかを判断し、その判断結果に応じて異なる応答情報を生成するものである電子機器。
  4. 請求項3記載の電子機器であって、
    前記登録辞書に含まれる前記利用者の顔画像データ又は顔の特徴データは、前記入力画像情報が前記利用者の画像を示すものであると判断された場合、その入力画像情報に基づいて更新される電子機器。
  5. 請求項3又は4記載の電子機器であって、
    前記入力画像情報が前記利用者の画像を示すものと判断される場合、前記応答情報は、前記入力画像と前記利用者の前記顔の部位毎の部分領域画像データ又は特徴データとの類似度が低い顔の部位に関する情報を含む電子機器。
  6. 請求項3ないし5のいずれか1項記載の電子機器であって、
    前記入力画像情報が前記利用者の画像を示すものと判断されない場合、前記応答情報は、前記入力画像と前記利用者の顔の部位毎の部分領域画像データ又は特徴データの類似度が高い顔の部位に関連する情報を含む電子機器。
  7. 請求項1ないし6のいずれか1項記載の電子機器であって、
    前記登録辞書は、ネットワークを介してデータ提供サーバからダウンロードした画像データ又は特徴データを含む電子機器。
  8. 請求項1ないし7のいずれか1項記載の電子機器であって、
    前記応答情報生成手段は、ネットワークを介してデータ提供サーバからダウンロードした情報を利用して前記応答情報を生成するものである電子機器。
  9. 請求項8記載の電子機器であって、
    前記ダウンロードした応答情報は、更新可能である電子機器。
  10. 請求項1ないし9のいずれか1項記載の電子機器であって、
    前記画像入力手段は、画像撮影手段を含む電子機器。
  11. 請求項1ないし10のいずれか1項記載の電子機器であって、
    前記出力手段は、画像表示手段を含む電子機器。
  12. 画像情報に基づく応答を行う電子機器における応答情報出力方法であって、
    画像情報を入力する画像入力ステップと、
    利用者の顔画像データ又は顔の特徴データを含む登録辞書を記憶する登録辞書記憶ステップと、
    前記画像入力ステップで入力された入力画像情報と、利用者の顔画像データ又は特徴データを含む登録辞書とを利用して、応答情報を生成する応答情報生成ステップと、
    前記応答情報生成ステップで生成した応答情報に基づく出力を行う出力ステップとを備え、
    前記登録辞書は、顔の部位毎の部分領域画像データ又は特徴データを含み
    前記応答情報生成ステップは、前記入力画像情報から抽出した顔の部位毎の画像情報と前記登録辞書との類似度に基づいた応答情報を生成するものである応答情報出力方法。
  13. 請求項12記載の応答情報出力方法であって、
    前記電子機器は、仮想的なキャラクタを模擬するキャラクタ模擬手段を備え、
    前記キャラクタ模擬手段によって、前記応答情報生成ステップで生成した応答情報に基づいてキャラクタの行動を模擬した模擬応答情報を生成する模擬応答情報生成ステップを含み、
    前記出力手段は、前記模擬応答情報に基づく出力を行うものである応答情報出力方法。
  14. 請求項12又は13記載の応答情報出力方法であって、
    前記応答情報生成ステップは、前記登録辞書と前記入力画像情報とを比較して、前記入力画像情報が前記利用者の画像を示すものであるかどうかを判断し、その判断結果に応じて異なる応答情報を生成するものである応答情報出力方法。
  15. 請求項14記載の応答情報出力方法であって、
    前記入力画像情報が前記利用者の画像を示すものであると判断された場合、前記登録辞書に含まれる前記利用者の顔画像データ又は顔の特徴データを、その入力画像情報に基づいて更新するステップを含む応答情報出力方法。
  16. 請求項12ないし15のいずれか1項に記載の各ステップをコンピュータを用いて実行するためのプログラム。
JP2003308617A 2003-09-01 2003-09-01 電子機器及び電子機器における応答情報出力方法 Pending JP2005078413A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2003308617A JP2005078413A (ja) 2003-09-01 2003-09-01 電子機器及び電子機器における応答情報出力方法
CNA2004800250069A CN1846227A (zh) 2003-09-01 2004-08-30 电子设备与电子设备中的响应信息输出方法
EP04772812A EP1662437A1 (en) 2003-09-01 2004-08-30 Electronic device and method for outputting response information in electronic device
PCT/JP2004/012863 WO2005022461A1 (ja) 2003-09-01 2004-08-30 電子機器及び電子機器における応答情報出力方法
US10/569,989 US20070003140A1 (en) 2003-09-01 2004-08-30 Electronic device and method for outputting response information in electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003308617A JP2005078413A (ja) 2003-09-01 2003-09-01 電子機器及び電子機器における応答情報出力方法

Publications (1)

Publication Number Publication Date
JP2005078413A true JP2005078413A (ja) 2005-03-24

Family

ID=34269520

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003308617A Pending JP2005078413A (ja) 2003-09-01 2003-09-01 電子機器及び電子機器における応答情報出力方法

Country Status (5)

Country Link
US (1) US20070003140A1 (ja)
EP (1) EP1662437A1 (ja)
JP (1) JP2005078413A (ja)
CN (1) CN1846227A (ja)
WO (1) WO2005022461A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006319550A (ja) * 2005-05-11 2006-11-24 Omron Corp 撮像装置、携帯端末
US10671837B2 (en) 2015-09-08 2020-06-02 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
WO2022215328A1 (ja) * 2021-04-09 2022-10-13 日本電気株式会社 認証システム、処理方法及びプログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7697827B2 (en) 2005-10-17 2010-04-13 Konicek Jeffrey C User-friendlier interfaces for a camera
US8300953B2 (en) * 2008-06-05 2012-10-30 Apple Inc. Categorization of digital media based on media characteristics
JP2010134910A (ja) * 2008-11-07 2010-06-17 Fujifilm Corp ペット画像検出システムおよびその動作制御方法
JP5956860B2 (ja) * 2012-07-09 2016-07-27 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
JP6433928B2 (ja) * 2016-02-15 2018-12-05 株式会社東芝 検索装置、検索方法および検索システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1173092A (ja) * 1997-08-28 1999-03-16 Omron Corp 仮想ペット飼育装置、方法及びプログラム記録媒体
JP3425092B2 (ja) * 1998-11-04 2003-07-07 株式会社エヌ・ティ・ティ・データ パターン認識方式
JP3622586B2 (ja) * 1999-08-17 2005-02-23 日本電気株式会社 画像入力装置とその制御方法、画像表示装置、画像表示方法、及びプログラム供給媒体
JP2001266151A (ja) * 2000-03-17 2001-09-28 Toshiba Corp 個人識別装置および個人識別方法
JP4553526B2 (ja) * 2001-08-15 2010-09-29 セコム株式会社 個人照合装置
JP2003271934A (ja) * 2002-03-18 2003-09-26 Toshiba Corp 顔画像認識システム及び顔画像認識方法
JP4314016B2 (ja) * 2002-11-01 2009-08-12 株式会社東芝 人物認識装置および通行制御装置
JP2004178163A (ja) * 2002-11-26 2004-06-24 Matsushita Electric Ind Co Ltd 画像処理方法及びその装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006319550A (ja) * 2005-05-11 2006-11-24 Omron Corp 撮像装置、携帯端末
JP4544026B2 (ja) * 2005-05-11 2010-09-15 オムロン株式会社 撮像装置、携帯端末
US10671837B2 (en) 2015-09-08 2020-06-02 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
US10885312B2 (en) 2015-09-08 2021-01-05 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
US10885311B2 (en) 2015-09-08 2021-01-05 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
US10970524B2 (en) 2015-09-08 2021-04-06 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
US11842566B2 (en) 2015-09-08 2023-12-12 Nec Corporation Face recognition system, face recognition method, display control apparatus, display control method, and display control program
WO2022215328A1 (ja) * 2021-04-09 2022-10-13 日本電気株式会社 認証システム、処理方法及びプログラム
JP7435908B2 (ja) 2021-04-09 2024-02-21 日本電気株式会社 認証システム、処理方法及びプログラム

Also Published As

Publication number Publication date
EP1662437A1 (en) 2006-05-31
US20070003140A1 (en) 2007-01-04
CN1846227A (zh) 2006-10-11
WO2005022461A1 (ja) 2005-03-10

Similar Documents

Publication Publication Date Title
US20200380594A1 (en) Virtual try-on system, virtual try-on method, computer program product, and information processing device
CN111355889B (zh) 拍摄方法、装置、电子设备和存储介质
CN111191599B (zh) 姿态识别方法、装置、设备及存储介质
US20110187743A1 (en) Terminal and method for providing augmented reality
CN111760265A (zh) 一种操作控制的方法及装置
CN110555507B (zh) 虚拟机器人的交互方法、装置、电子设备及存储介质
KR102148151B1 (ko) 디지털 커뮤니케이션 네트워크에 기반한 지능형 채팅
CN110263617B (zh) 三维人脸模型获取方法及装置
CN109819167B (zh) 一种图像处理方法、装置和移动终端
US20210312167A1 (en) Server device, terminal device, and display method for controlling facial expressions of a virtual character
CN110794964A (zh) 虚拟机器人的交互方法、装置、电子设备及存储介质
CN112669422A (zh) 仿真3d数字人生成方法、装置、电子设备及存储介质
JP2005078413A (ja) 電子機器及び電子機器における応答情報出力方法
JP2009223419A (ja) ネットワークチャットサービスにおけるアバターの作成編集方法、チャットサービスシステム、および画像データの作成編集方法
JP6796762B1 (ja) 仮想人物対話システム、映像生成方法、映像生成プログラム
CN117271749A (zh) 一种元宇宙场景非玩家角色的创建方法及计算机
JP2006318385A (ja) 画像生成システム、プログラムおよび情報記憶媒体
KR20230157494A (ko) 실시간에서의 실제 크기 안경류
EP1662438A1 (en) Electronic device having user authentication function
JP6491808B1 (ja) ゲームプログラムおよびゲーム装置
CN108525307B (zh) 游戏实现方法、装置、存储介质及电子设备
CN115068940A (zh) 虚拟场景中虚拟对象的控制方法、计算机设备及存储介质
KR101068941B1 (ko) 이동 통신 단말기의 개인 캐릭터 서비스 방법 및 그 이동통신 단말기
JP6792658B2 (ja) ゲームプログラムおよびゲーム装置
JP6583931B2 (ja) ゲームプログラムおよびゲーム装置