JP2006043780A - 曲面顔画像表示を用いたコミュニケーションロボット - Google Patents

曲面顔画像表示を用いたコミュニケーションロボット Download PDF

Info

Publication number
JP2006043780A
JP2006043780A JP2004223910A JP2004223910A JP2006043780A JP 2006043780 A JP2006043780 A JP 2006043780A JP 2004223910 A JP2004223910 A JP 2004223910A JP 2004223910 A JP2004223910 A JP 2004223910A JP 2006043780 A JP2006043780 A JP 2006043780A
Authority
JP
Japan
Prior art keywords
facial expression
robot
image
expression
look
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004223910A
Other languages
English (en)
Inventor
Minoru Hashimoto
稔 橋本
Daisuke Morooka
大介 師岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shinshu University NUC
Original Assignee
Shinshu University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shinshu University NUC filed Critical Shinshu University NUC
Priority to JP2004223910A priority Critical patent/JP2006043780A/ja
Publication of JP2006043780A publication Critical patent/JP2006043780A/ja
Pending legal-status Critical Current

Links

Abstract

【課題】豊かで親和性の高い表情を表出するためのロボットを提供する。
【解決手段】顔に相当する部位において感情状態に基づいて生成された表情を曲面ディスプレイ上に画像として表示させる表情表示手段と、表情の一部として首の運動も含めるために画像表示機と運動機構を一体化した機構と、その手段・機構における表情画像作成手段、また表情を自動的に生成する手段から成る。
【選択図】図4

Description

本発明は、人間とのコミュニケーションを目的としたロボットの顔表情の表現手法
に関するものである。
近年、AIBO(登録商標)、QRIO(登録商標)など人間とのコミュニケーションを目的としたロボットが研究開発され、社会の期待を集めている。これらのロボットは、人間を和ませ、楽しみを与えることを目的としている。AIBOは犬型、QRIOは人間型であり音声や行動に反応する事で生命を感じさせている。
しかし顔表情は考慮されておらず、されていてもLEDで簡素なものを提示する程度にとどまっている。私たちの日常のコミュニケーション、つまり感情・情緒のやりとりにおいて顔表情が大きな役割を持っていることは周知の事実である。今後、高齢化社会などで人間社会にロボットを進出させていくにあたり、ロボットを社会になじませるためには人間との情緒のやりとりにおける豊かさ・親和性が重要であり、とりわけ顔表情は最重要になると考えられる。
これまで顔表情を表出するロボットはいくつか開発されている。大別すると、リアルさを追及したものと、デフォルメを取り入れたものである。前者は筋肉の収縮によって皮膚が変形し、それによって表情が作られるという実際の人間の表情生成を模倣したものである。後者は皮膚の変化は考慮せず、特徴的な見た目の変化(目、眉、唇など)を再現するものである。両者とも機構で構成されているため、生成できる表情が制限されてしまう。
また、AIBO、BN-1(登録商標)などは顔の部分にマークを表示することで感情を表現しているが、LEDで構成されているため、特定のパターンの表示にとどまっている。
このような従来技術では機械的な表示のため表現が限定されてしまい、豊かな表情生成に至らない。また、電子表示部を搭載していたとしてもマークによる表現ではルールを知らないと意味が分からず、やはり表現に限界がある。
一方、ゲーム機器やパソコン上で顔表情を表示する方法がいくつか挙げられている。画像であれば表現に限界はないが、ロボットの頭部として使用するためには、平面画像では立体である身体に対する整合性がとれず、不自然さが残ってしまう。
また、ロボットの顔表情において画像を使用する方法は、特許文献1に記載されている。しかし、ここでは顔画像表示機はロボットの胴体に固定されており、顔画像表示機を独立に運動させることはできない。
また、この先行技術では顔画像を平面ディスプレイ上に表示する方法が主に提案されている。凹凸スクリーンへの背面照射のアイデアが示されているが、良好な画像を生成するためのピント合わせや凹凸スクリーンのための顔画像作成法などについては一切触れられておらず、その実現可能性については問題がある。
特開2001‐215940号公報
本発明は前記の課題を解決するためになされたもので、豊かで親和性の高い表情を表出するためのロボットを提供することを目的とする。
この発明の他の目的は、曲面上に画像を表示することにより、平面画像では得られなかった観察方向依存性を獲得し、存在感のある鮮明な表情表出部を提供することにある。
また、本発明の他の目的は、画像表示部を人の頭部のように運動させ、観察方向依存性を利用した自然な表情表出を可能とする方法を提供することにある。
さらに、曲面上に表示する画像を作成する方法として、実際に表示しながら作成する方法の他に、パソコン上で仮想的にプレビューしながら作成することで表示時の印象を予測しながら表情作成手段を提供することにある。
前記の目的を達成するための特許請求の範囲の請求項1に記載された発明は、顔に相当する部位において表情を曲面ディスプレイ上に画像として表示させる表情表示手段と、表情の一部として首の運動も含めるために画像表示機と運動機構を一体化した機構と、その手段・機構における表情画像作成手段、また表情を自動的に生成する手段を備えた表情を有するロボットである。
同じく請求項2に記載された発明は、前記画像表示機は状況により生成される感情状態に適応した表情を表示することを特徴とした請求項1に記載の表情を有するロボットである。
請求項3に記載された発明は、前記首運動機構は電子的制御技術により制御され、顔表情に応じた運動を生成することを特徴とした請求項1に記載の表情を有するロボットである。
本発明によれば、画像として自由に顔全体の表情が変えられるので、豊かで個性的な表情を作り出すことができる。実際の人間同様のリアルな表情をロボットが持つと、人間は不快感を抱く可能性があり良好な親和性を得にくいが、キャラクター的な表情をロボットが持つことにより親和性のあるコミュニケーションが可能となる。
また、曲面であることにより、画像でありながら見る方向によって顔の見え方が違うといった観察方向依存性を得ることができ、現実空間における存在感も得ることができる。
コミュニケーションにおいて頭部の動作によって顔表情の印象は異なることから、表示機構と運動機構を一体化し、表情と頭部の運動を協調することにより、印象深い顔表情の表出が可能となる。
以下、本発明の実施例を詳細に説明するが、本発明の範囲はこれらの実施例に限定されるものではない。
図1は本発明が適用されるロボットの一実施形態の外観的構成を示す概略図である。大きく分けてロボットの外観は画像提示部17と動作提示部18で構成される。
1は乳白半透明色板のアクリルドームでロボットの頭部の顔に相当する部位となる。乳白半透明板のため後方から投影された画像が透過し、前方から見ることができる。2は頭部中心付近に配置される魚眼レンズで、プロジェクタ3により生成される画像をアクリルドーム1に投影する。プロジェクタ3からの投射光を魚眼レンズ2に通すことにより近距離で球面に投影することが可能となる。
また、プロジェクタ3はデジタルライトプロセッシング(Digital Light
Processing :DLP)方式を用いているため、他方式に比べ小型で軽量にすることができる。アクリルドーム1、魚眼レンズ2、プロジェクタ3の位置関係は板金による固定具4により固定されている。
図2は本発明が適用されるロボットの一実施形態の投影機構(頭部機構)を示す概略図である。
デジタルライトプロセッシング(単板)方式での画像の投影のため、まず光源からの光はレンズ7を通じて収束されてカラーフィルター8を通る。その後レンズ7を通り次にデジタルマイクロミラー素子(Digital Micro-mirror Device :DMD)6に照射される。デジタルマイクロミラー素子6とは相補型金属酸化膜半導体(Complementary Metal Oxide Semiconductor :CMOS)上に独立して動く鏡が敷き詰められたものであり、その一つの鏡が画像の一画素に対応している。そしてデジタルマイクロミラー素子6で反射された光は投影レンズ5、魚眼レンズ2を通してアクリルドーム1に投影される。
また、今回は市販のデジタルライトプロセッシング方式プロジェクタを用いているため、上で説明した光源9から投影レンズ5までがプロジェクタ3内で位置を固定され投影されている。
この頭部機構の下部には頭部機構を動作させるための首部が設けられており、図3のような構造を有する。
首機構の動作は4つのモータ10で構成される。11はタイミングベルトであり、モータを直列に配列する場合に比べて首機構全体としての高さを抑えることができる。また、首機構の最下部はパラレルリンク機構14とした。パラレルリンク機構の各節点には球面軸受け(ボールジョイント)12、上下左右の動作を可能にするために回転中心としてユニバーサルジョイント13を図のように設置している。
この機構では、二つのモータが同方向に回転する(図3の実線の矢印)場合は13を中心として前後に頭部は傾き、反対方向に回転する(図3の点線の矢印)場合は13を中心として左右に頭部が傾く。二つのモータ10を連動させるため、頭部機構駆動するための負担を軽減することができる。
この頭部機構と首機構によって、本発明の一実施形態のロボットは構成されている。
図4はこの実施形態のロボットの感情を表現するための処理過程の概略ブロック図である。15は感情の変化を表現するパラメータの発生回路である。感情を喜び、悲しみ、怒り、恐れ、驚き、嫌悪の6つで構成するため、感情状態は6つの各感情のパラメータにより表現される。
画像提示部17で提示されるロボットとしての顔表情は、顔モデルを変形させることによって生成するため、表情生成部16ではこの感情状態からモデルを変化させるためのパラメータを算出する。各感情状態における顔モデルの状態はあらかじめ設定しておく。感情状態の現在値からモデルの目標状態を算出し、感情状態の変化速度からモデルの変化速度を算出する。
算出したパラメータを元に画像提示部17ではモデルの変形を行い、表示する。また、同時に表情生成部16では感情状態に応じた首の運動状態も決定する。首の運動状態についてはあらかじめ数種類用意しておき、そこから選択する。選択された運動状態を元に動作提示部18では首機構を制御し、運動させる。
例えば喜びを表す場合、15では通常の状態から「喜び」のパラメータが増加し、そして関連する「驚き」も少し増加し、他の4つのパラメータは減少する。ここで16では特にパラメータ値の大きい「喜び」に重点をおき、あらかじめ設定しておいた「喜び」の顔モデルを元に感情状態のパラメータから目標とする顔モデルの状態パラメータを決定する。また、その状態への顔モデルの変形速度を、「喜び」のパラメータの増加速度から決定する。
さらに首の運動状態として、「喜び」に応じた運動状態として「頭をリズミカルに揺らす」を選択し、「喜び」パラメータの度合いによって運動の大きさ、速度を決定する。このように16で決定された情報を元に17では顔表情、18では頭部を動作させることで「喜び」を表現する。悲しみ、怒り、恐れ、驚き、嫌悪についても同様に実施できる。
さらにこの実施形態によれば、パラメータを利用することで感情間の微妙な表現も可能であり、時間変化、首の運動を含めて生成するために、表情としての表現が幅広い。また、あらかじめモデルによって自分の好きな顔立ちを生成することができるので、個人の好みに合わせることができる。
各部は、図5に示す内部構成により有機的に結合される。
提示部ではパソコン上で常に作動しているプログラムにより、表情生成部から得られたパラメータを元にモデルを変形する。曲面ディスプレイはパソコンと直接つながっているので生成される顔モデルの変化は随時ディスプレイ上に表示される。
また、運動部では表情生成部から得られる信号を元に逆運動学により各モータの目標角度に変換し、デジタル/アナログ変換ボード、カウンタボードを利用してモータを制御する。
図6に「喜び」の感情状態における顔モデルの例を示す。顔をデフォルメして、線画により顔表情を生成している。
この実施形態では提示する顔表情を数値で制御できるような顔モデルを用いる。図7にその一例を示す。モデルは線画であり、直線は2点、ベジェ曲線は4点の座標、また円は中心座標と半径を指定することで作成する。
つまり、本実施例において顔モデルは直線、ベジェ曲線、円で構成されており、モデルの状態は座標値によって指定されている。例えば図7のように眉毛は一つのベジェ曲線で作成されており、4つの座標値によって指定されている。
また、標準状態の顔モデルの座標値を基準として、モデルの状態は座標値の変化分で表現される。そのため図4で説明した、表情生成部16で生成される顔モデルの目標状態としてのパラメータはこの座標値の変化分であり、あらかじめ設定しておく各感情状態における顔モデルの状態も同様に表現される。
画像を平面に表示した場合と曲面に表示した場合では印象が異なる。それは曲面では平面では得られない観察方向依存性が存在するためである。そのため画像作成時には異なる方向から見た印象を確認しながら作成することが望ましい。絵を描く際に私たちは平面で描く事に慣れているため、パソコンの平面ディスプレイ上で顔平面画像を作成し、同時に3次元コンピュータグラフィクスで立体表示した画像をプレビューする事で印象を予測することができる。
図8に頭部機構における表情表出の様子を示す。右側面からの観察方向の画像が示されている。また、今回は球面のスクリーンを用いているが、楕円体や卵型などのスクリーンを用いることにより、違った個性を持たせることができる。今回は人の顔立ちを参考にしてデフォルメした表情で説明したが、猫や犬などの動物、あるいは漫画やアニメのキャラクターの顔立ちを利用することもできる。
現在はおもちゃや企業のマスコットキャラクターとして社会でも認識され始めたロボットであるが、ロボット産業は21世紀の日本のリーディング産業として期待されている。
今後ロボットが普及されていくにあたり、まず普及されるとされているロボットのタイプはコミュニケーション型であり、人間接触型、遠隔操作型、汎用型と続く。実際AIBOなど家庭用エンターテイメント目的のロボットが現在普及しているが、販売は低調である。これは実用性が低い事が原因として挙げられる。
しかし、実用性のある、今後普及していくロボットも人間の周りで作業するためコミュニケーションは不可欠である。そしてコミュニケーションをさらに高度にするには顔表情を取り入れる事が一つの要素として挙げられる。本発明はその表情表出方法の一つとして今後の多くのロボットに搭載される可能性がある。
本発明を適用するロボットの外観の全体構成を示す図である。 本発明を適用するロボットの頭部機構を示す図である。 本発明を適用するロボットの首機構を示す図である。 本発明を適用するロボットの構成を示す図である。 本発明を適用するロボットの内部構成を示す図である。 本発明を適用するロボットの表情における顔モデルの例を示す図である。 本発明を適用するロボットの顔モデルの生成方法を示す図である。 本発明を適用するロボットの頭部機構における表情表出の様子を示す図である。
符号の説明
1はアクリルドーム(乳白半透明色)、2は魚眼レンズ、3はプロジェクタ、4は板金による固定具、5は投影レンズ、6はデジタルマイクロミラー素子(Digital Micro-mirror Device:DMD)、7は集光レンズ、8はカラーフィルター、9はランプ、10はモータ、11はタイミングベルト、12はボールジョイント、13はユニバーサルジョイント、14はパラレルリンク機構、15は感情生成部、16は表情生成部、17は画像提示部、18は動作提示部である。

Claims (3)

  1. 顔に相当する部位において表情を曲面ディスプレイ上に画像として表示させる表情表示手段と、表情の一部として首の運動も含めるために画像表示機と運動機構を一体化した機構と、その手段・機構における表情画像作成手段、また表情を自動的に生成する手段を備えた表情を有するロボット。
  2. 前記画像表示機は状況により生成される感情状態に適応した表情を表示することを特徴とした請求項1に記載の表情を有するロボット。
  3. 前記首運動機構は電子的制御技術により制御され、顔表情に応じた運動を生成することを特徴とした請求項1に記載の表情を有するロボット。


JP2004223910A 2004-07-30 2004-07-30 曲面顔画像表示を用いたコミュニケーションロボット Pending JP2006043780A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004223910A JP2006043780A (ja) 2004-07-30 2004-07-30 曲面顔画像表示を用いたコミュニケーションロボット

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004223910A JP2006043780A (ja) 2004-07-30 2004-07-30 曲面顔画像表示を用いたコミュニケーションロボット

Publications (1)

Publication Number Publication Date
JP2006043780A true JP2006043780A (ja) 2006-02-16

Family

ID=36022925

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004223910A Pending JP2006043780A (ja) 2004-07-30 2004-07-30 曲面顔画像表示を用いたコミュニケーションロボット

Country Status (1)

Country Link
JP (1) JP2006043780A (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012160659A1 (ja) * 2011-05-25 2012-11-29 株式会社日立製作所 ロボットの頭部構造及びその頭部駆動方法
JP2014030897A (ja) * 2012-08-03 2014-02-20 Toyota Motor Engineering & Manufacturing North America Inc 識別された投影表面に像を投影するためのプロジェクターを具備するロボット
CN105818165A (zh) * 2015-01-05 2016-08-03 沈阳新松机器人自动化股份有限公司 一种机器人面部表情模块化系统
JP2016154275A (ja) * 2015-02-20 2016-08-25 日本電信電話株式会社 顔映像実体化システム、実体化装置
JP2017007033A (ja) * 2015-06-22 2017-01-12 シャープ株式会社 ロボット
JP2019012255A (ja) * 2017-06-29 2019-01-24 ネイバー コーポレーションNAVER Corporation 人間−機械間の感情会話のための方法及びシステム
JP2020089932A (ja) * 2018-12-04 2020-06-11 カシオ計算機株式会社 ロボットの駆動機構及びロボット
CN113724367A (zh) * 2021-07-13 2021-11-30 北京理工大学 一种机器人表情驱动方法及装置

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012160659A1 (ja) * 2011-05-25 2012-11-29 株式会社日立製作所 ロボットの頭部構造及びその頭部駆動方法
US9016158B2 (en) 2011-05-25 2015-04-28 Hitachi, Ltd. Head structure of robot, and driving method for the head
JP2014030897A (ja) * 2012-08-03 2014-02-20 Toyota Motor Engineering & Manufacturing North America Inc 識別された投影表面に像を投影するためのプロジェクターを具備するロボット
JP2017061034A (ja) * 2012-08-03 2017-03-30 トヨタ モーター エンジニアリング アンド マニュファクチャリング ノース アメリカ,インコーポレイティド 識別された投影表面に像を投影するためのプロジェクターを具備するロボット
US9943965B2 (en) 2012-08-03 2018-04-17 Toyota Motor Engineering & Manufacturing North America, Inc. Robots comprising projectors for projecting images on identified projection surfaces
CN105818165A (zh) * 2015-01-05 2016-08-03 沈阳新松机器人自动化股份有限公司 一种机器人面部表情模块化系统
JP2016154275A (ja) * 2015-02-20 2016-08-25 日本電信電話株式会社 顔映像実体化システム、実体化装置
JP2017007033A (ja) * 2015-06-22 2017-01-12 シャープ株式会社 ロボット
JP2019012255A (ja) * 2017-06-29 2019-01-24 ネイバー コーポレーションNAVER Corporation 人間−機械間の感情会話のための方法及びシステム
JP2020089932A (ja) * 2018-12-04 2020-06-11 カシオ計算機株式会社 ロボットの駆動機構及びロボット
JP7163744B2 (ja) 2018-12-04 2022-11-01 カシオ計算機株式会社 ロボットの駆動機構及びロボット
CN113724367A (zh) * 2021-07-13 2021-11-30 北京理工大学 一种机器人表情驱动方法及装置

Similar Documents

Publication Publication Date Title
Gonzalez-Franco et al. The rocketbox library and the utility of freely available rigged avatars
US10445917B2 (en) Method for communication via virtual space, non-transitory computer readable medium for storing instructions for executing the method on a computer, and information processing system for executing the method
US9810975B2 (en) Rear-projected life-like robotic head
Sturman Computer puppetry
Delaunay et al. Towards retro-projected robot faces: an alternative to mechatronic and android faces
Sosnowski et al. Design and evaluation of emotion-display EDDIE
JP2013535051A (ja) 顔の表情のリアルタイムアニメーション
Kuratate et al. “Mask-bot”: A life-size robot head using talking head animation for human-robot communication
JP2007069302A (ja) 動作表出装置
Mollahosseini et al. Expressionbot: An emotive lifelike robotic face for face-to-face communication
JP2006212717A (ja) ロボット装置
JP7394158B2 (ja) ヘッドマウントデバイスを介して仮想空間を提供するためにコンピュータで実行されるプログラムおよび方法ならびに情報処理装置
Pierce et al. “Mask-Bot 2i”: An active customisable robotic head with interchangeable face
CA3044108A1 (en) Animated character head systems and methods
JP2006043780A (ja) 曲面顔画像表示を用いたコミュニケーションロボット
Hashimoto et al. Facial expression of a robot using a curved surface display
JP2001215940A (ja) 表情を有する知的ロボット
JP7104539B2 (ja) シミュレーションシステム及びプログラム
Kuratate et al. Mask-bot''-a life-size talking head animated robot for AV speech and human-robot communication research
US9792715B2 (en) Methods, systems, and computer readable media for utilizing synthetic animatronics
JPH10148788A (ja) 水膜ディスプレイを用いたバーチャルリアリティシステム
Lee et al. Semi-autonomous robot avatar as a medium for family communication and education
Sosnowski et al. EDDIE-An emotion-display with dynamic intuitive expressions
US8307295B2 (en) Method for controlling a computer generated or physical character based on visual focus
Sarafian Flashing digital animations: Pixar's digital aesthetic

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090217

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090707