JPH10187931A - 似顔絵送信及び受信装置、似顔絵通信装置及び方法、似顔絵通信プログラム記憶媒体 - Google Patents

似顔絵送信及び受信装置、似顔絵通信装置及び方法、似顔絵通信プログラム記憶媒体

Info

Publication number
JPH10187931A
JPH10187931A JP8341527A JP34152796A JPH10187931A JP H10187931 A JPH10187931 A JP H10187931A JP 8341527 A JP8341527 A JP 8341527A JP 34152796 A JP34152796 A JP 34152796A JP H10187931 A JPH10187931 A JP H10187931A
Authority
JP
Japan
Prior art keywords
data
portrait
feature amount
face
data representing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8341527A
Other languages
English (en)
Other versions
JP3551668B2 (ja
Inventor
Masahito Kawade
雅人 川出
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP34152796A priority Critical patent/JP3551668B2/ja
Publication of JPH10187931A publication Critical patent/JPH10187931A/ja
Application granted granted Critical
Publication of JP3551668B2 publication Critical patent/JP3551668B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】入力された顔画像データに基づいて似顔絵を形
成して送受信する装置および方法を提供する。 【解決手段】顔の画像データの入力を受け付ける画像入
力部3と、入力された顔画像データから各顔部品の特徴
量を抽出する特徴量抽出部4と、この抽出した特徴量を
表すデータを送信する送信部5とからなる似顔絵送信装
置1と、上記似顔絵送信装置1から送信されてくる特徴
量を表すデータを受信する受信部6と、顔部品毎に特徴
量を異にした複数の顔部品データを記憶する画像部品ラ
イブラリ7と、前記特徴量を表すデータに基づいて画像
部品ライブラリ7から各顔部品データを選択し、合成し
て似顔絵データを生成する部品データ選択部9および似
顔絵データ生成部10と、生成された似顔絵データを表
示する表示器11とからなる似顔絵受信装置2とを備え
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、入力された顔画
像データに基づいて似顔絵を合成して送受信する装置お
よび方法に関する。
【0002】
【従来の技術】顔の画像データを送受信する装置として
は、いわゆるテレビ電話がある。このテレビ電話では、
対話を行う送信者と受信者の位置にTVカメラを配置
し、双方の顔画像データを音声データとともに送受信す
るものである。
【0003】
【発明が解決しようとする課題】しかし、従来のこの種
の通信装置では、画像データの情報量がかなり多いため
に、現行の圧縮技術を使用しても動画像データを送るこ
とは相当困難であり、現実には、5フレーム/秒程度の
静止画像データのコマ送り送受信を出来るに過ぎない。
また、TVカメラは送受信者のその時の顔の画像データ
をそのまま取り込むために、プライバシーを保護する点
で問題を生じる場合がある。たとえば、寝起きに電話着
信があったとき、特に若い女性の場合は寝起きの顔や髪
の状態をそのままTVカメラで撮像されたくないことが
多いと考えられる。一般に、電話の場合は何時着信する
かわからないために、このようにTVカメラで撮像した
顔の画像データを常にそのまま送受信するようにしてお
く通信装置では、プライバシーを保護する点で問題があ
り、そのままでは普及しにくい不都合がある。
【0004】この発明の目的は、入力された顔画像デー
タに基づいて似顔絵を形成して送受信する装置および方
法を提供することにある。
【0005】
【課題を解決するための手段】請求項1に記載した発明
は、顔の画像データの入力を受け付ける顔画像データ入
力手段と、入力された顔画像データから各顔部品の特徴
量を抽出し、この抽出した特徴量を表すデータを送信す
る送信手段と、を備えることを特徴とする。
【0006】したがって、この発明においては、相手方
に送信されるデータが顔画像データそのものではなくそ
の特徴量を表すデータであるため、受信側においては顔
画像データそのものが受信されて再現されることはな
い。
【0007】請求項2に記載した発明は、顔部品毎に特
徴量を異にした複数の顔部品データを記憶する記憶手段
を備え、前記送信手段は、前記各顔部品の特徴量に対応
する顔部品データを該記憶手段から読み出して特徴量を
表すデータとして送信することを特徴とする。
【0008】したがって、この発明においては、顔画像
データがそのまま受信側に送られることがないととも
に、特徴量を表すデータとして顔部品データを送信する
ようにしているため、受信側においてはその顔部品デー
タを配置するだけで似顔絵の再現が可能になる。
【0009】請求項3に記載した発明は、請求項1記載
の似顔絵送信装置から送信されてくる特徴量を表すデー
タを受信する受信手段と、顔部品毎に特徴量を異にした
複数の顔部品データを記憶する記憶手段と、前記特徴量
を表すデータに基づいて記憶手段から各顔部品データを
選択し、合成して似顔絵データを生成する似顔絵データ
生成手段と、生成された似顔絵データを表示する表示器
と、を備えることを特徴とする。
【0010】したがって、請求項3に記載した発明にお
いては、表示されるデータが送信者の似顔絵データとな
るため、受信者は送信者の顔を認識できるとともに、送
信者のプライバシーを保護することができる。なお、顔
部品毎に特徴量を異にした複数の顔部品データを記憶す
る記憶手段は、例えば、口部品において、特徴量を異に
した複数の口部品データを記憶する手段であり、この場
合、口部品データの少なくとも1つが特徴量を異にする
ものであればよい。
【0011】請求項4に記載した発明は、請求項2記載
の似顔絵送信装置から送信されてくる各顔部品の特徴量
に対応する顔部品データを受信する受信手段と、受信し
た各顔部品データを合成して似顔絵データを生成する似
顔絵データ生成手段と、生成された似顔絵データを表示
する表示器と、を備えることを特徴とする。
【0012】したがって、請求項4に記載した発明にお
いては、受信側で、表示される似顔絵から送信者の顔を
認識できるとともに、送信者のプライバシーを保護で
き、且つ、受信側では受信した顔部品データを配置して
似顔絵データを生成すればよいために、受信側での処理
が容易になる。
【0013】請求項5に記載した発明は、請求項1に記
載した似顔絵送信装置と請求項3に記載した似顔絵受信
装置とで構成される似顔絵通信装置を特徴とする。
【0014】また、請求項6に記載した発明は、請求項
2の似顔絵送信装置と請求項3の似顔絵受信装置とから
なる似顔絵通信装置を特徴とする。
【0015】請求項7に記載した発明は、送信手段は、
抽出された特徴量から表情を判定し、前記特徴量を表す
データを最初に送信した後に、前記表情を表すデータを
繰り返し送信することを特徴とする。
【0016】したがって、請求項7に記載した発明にお
いては、最初に特徴量を表すデータを送信することで顔
の基本的なデータが送信された後、その後表情の変化を
表すデータのみが繰り返し送信されていくために、全体
としての送信データ量が少なくてすみ、且つ受信側では
最初に送られてきたデータから基本となる似顔絵を形成
し、さらにその後に繰り返し送信されてくる表情を表す
データによって似顔絵の変形を行うことになる。
【0017】請求項8に記載した発明は、音声の入力を
受け付ける音声データ入力手段を備え、送信手段は、前
記特徴量を表すデータを最初に送信した後に、入力され
た音声データの音量を表すデータを繰り返し送信するこ
とを特徴とする。
【0018】したがって、請求項8に記載した発明にお
いては、最初に似顔絵の基本となるデータを送信してか
ら、その後音声データの音量を表すデータを繰り返し送
信するだけでよいため、全体としての送信データ量は少
なくなり、一方、受信側においては、最初に送られてき
たデータから基本となる似顔絵を形成し、その後に送ら
れてくる音量データによってその似顔絵を変形する(口
をパクパクさせる)ことができるようになる。
【0019】請求項9に記載した発明は、上記請求項7
に記載した似顔絵送信装置と同様の構成を備える似顔絵
通信送信を特徴とするものである。
【0020】また、請求項10に記載した発明は、請求
項8に記載した似顔絵送信装置と同様の構成を備える似
顔絵通信装置を特徴とするものである。
【0021】請求項11に記載した発明は、似顔絵通信
装置の受信側において、似顔絵データ生成手段は、最初
に送信されてきた特徴量を表すデータに基づいて似顔絵
データを生成した後に、続いて送信されたきた表情を表
すデータに基づいて似顔絵データを変形することを特徴
とする。
【0022】したがって、請求項11に記載した発明に
おいては、受信側において最初に作成された基本となる
似顔絵データを、表情を表すデータの受信のたびに表情
が変わるように変形することができる。
【0023】請求項12に記載した発明は、似顔絵通信
装置の受信側において、似顔絵データ生成手段は、最初
に送信されてきた特徴量を表すデータに基づいて似顔絵
データを生成した後に、続いて送信されたきた音量を表
すデータに基づいて口部品データを変形することを特徴
とする。
【0024】したがって、請求項12に記載した発明に
おいては、最初に基本となる似顔絵データが生成された
後、音量を表すデータを受信するたびに口をパクパク開
閉させるように変形することができる。
【0025】
【発明の実施の形態】図1は、この発明の実施形態に係
る似顔絵通信装置の構成を示すブロック図である。似顔
絵通信装置は、似顔絵を生成するための要素となるデー
タを送信する似顔絵送信装置1と、似顔絵送信装置1か
ら送られてきたデータに基づいて似顔絵を生成する似顔
絵受信装置2とで構成される。似顔絵とは、入力された
顔画像データに基づいて予め記憶されている記憶手段か
ら顔部品データを選択し、それらの顔部品データを合成
することによって得られる顔画像をいう。
【0026】この実施形態では、似顔絵送信装置1は、
画像入力部3と特徴量抽出部4と送信部5とで構成され
ている。また、似顔絵受信装置2は、受信部6と、画像
部品ライブラリ7およびルールライブラリ8からなるラ
イブラリと、これらのライブラリから適切な画像部品を
選択する部品データ選択部9と、選択された顔部品デー
タを変形ルールや配置ルールに従って実際の似顔絵デー
タとして生成する似顔絵データ生成部10と、生成され
た似顔絵データをモニター上に表示する表示器11とで
構成される。
【0027】似顔絵送信装置1の画像入力部3は、TV
カメラからなり、特徴量抽出部4は、上記画像入力部3
で得られた顔画像データから各顔部品の特徴量を抽出す
る。抽出された特徴量は送信部5に入力され特徴量を表
すデータとして送信される。特徴量の抽出は、顔の各部
品、すなわち、目、鼻、口、眉、・・輪郭および髪を、
得られた顔画像データを2値化するなどして画像処理を
行うことにより認識し、各部品の特徴量を公知の方法に
よって抽出する。特徴量としては、たとえば、目につい
ていえば丸みの状態を表す数値データや傾きの状態を表
す数値データで表される。また、左右の目の間隔データ
や顎の位置から目の高さまでの距離なども特徴量を表す
データとして抽出される。各顔部品について特徴量を抽
出する時、その特徴量を表すデータを数値データとせず
に、予め数値データの範囲を分割しておき、どの分割範
囲に入るかによってインデックス化するなどの正規化を
行うことも可能である。
【0028】似顔絵受信装置2の受信部6では、上記送
信部5から送られてきたデータを受信して部品データ選
択部9に渡す。部品データ選択部9では、予め記憶され
ているルールライブラリ8の選択ルーブライブラリを用
いて受信した各顔部品の特徴量を表すデータに基づいて
画像部品ライブラリ7から各顔部品を選択する。画像部
品ライブラリ7は、1つであっても、画風や表情別に設
けた複数個であってもよい。画像部品ライブラリ7が複
数個の場合には、予めどのライブラリを選ぶかが選択さ
れる。
【0029】画像部品ライブラリ7は、図2に示すよう
になっている。すなわち、目の画像群7a、鼻の画像群
7b、口の画像群7c、眉の画像群7d、耳の画像群7
e、輪郭(顔)の画像群7f、および髪の画像群7gが
記憶されている。また、ルーブライブラリ8は、図3に
示すようにルールを記憶している。すなわち、選択ルー
ル群8aと変形ルール群8bと配置ルール群8cとを記
憶している。選択ルール群8aは、たとえば目について
は、選択する目の部分の傾きを決める傾きルールと、選
択する目の部品の丸みを決める丸みルールを記憶し、鼻
については、選択する鼻の大きさを決めるルールとその
丸みを決めるルールが記憶されている。同様にして、各
部品のルールが記憶される。図4は、選択ルール群8a
を用いて画像部品ライブラリ7から目を選択する時の処
理を具体的に示す図である。同図(A)は、特徴量を表
すデータとして、目の幅x、目の高さy、顎の位置から
目の中心までの高さh、両目の間隔dおよび目の中心線
が水平線となす角度θが得られることを示している。同
図(B)は傾きルールおよび丸みルールを示している。
なお、このルールはファジイルールで構成することも可
能である。図においてθ1〜θ2、a、bは予め設定し
たしきい値である。傾きルールにおいては、たとえば、
θが予め設定したしきい値θ1以下であれば目の傾きが
左下がりであると決定する。また、y/xがa以下の場
合には目が細いものと決定する。各ルールの結論の組み
合わせを示したものが同図(C)である。図4(C)
は、傾きルールの結論と丸みルールの結論の組み合わせ
によって、どの部品が選択されるかを示すもので、同図
(C)の表中の各目の形状は画像部品ライブラリ7の目
の画像群7aに記憶されているデータである。
【0030】選択ルールによって各部品が選択される
と、さらに、変形ルールによってそれらの部品の拡大率
や縮小率などにより変形することも可能である。変形ル
ールを用いないことも出来、その場合は標準値を使用す
る。変形ルールを用いる場合は、目の変形ルールに目の
幅xや目の高さyを当てはめた時に目の画像の拡大率ま
たは縮小率が1以外であるときに拡大または縮小の変形
がなされる。さらに、各部品の配置を標準にせずに、配
置ルールを用いて配置することも可能である。たとえ
ば、目についていえば、目の間隔dおよび目の中心線か
ら顎までの距離hを当てはめることによって顔の輪郭内
における目の配置位置を決定する。
【0031】このようにして、部品データ選択部9にお
いて全ての顔部品の選択を行い、さらに変形や配置をル
ールを用いて決める場合は変形ルールと配置ルールによ
り各顔部品を決定し、それらのデータに基づいて似顔絵
データ生成部10で実際の似顔絵データが生成される。
さらにその似顔絵データは表示器11に入力され、ここ
でモニター上に表示される。図5は、似顔絵送信装置1
の画像入力部3で撮像された顔画像データから特徴量が
抽出され、その特徴量を表すデータが似顔絵受信装置2
に送信され、同受信装置2において似顔絵データが生成
され表示器11のモニター上に表示された例を示してい
る。なお、同図から推測できるように、この実施形態で
は特徴量を表すデータが標準値より大きい顔部品ほど選
択される画像部品データが誇張されるようになってい
る。この誇張は、ルーブライブラリの選択ルールライブ
ラリや変形ルールライブラリおよび配置ルールライブラ
リのルールの決め方によって実現できる。
【0032】上記実施形態の似顔絵通信装置1の送信部
5を図6のように構成し、また似顔絵受信装置2の似顔
絵データ生成部10を図7のように構成することも可能
である。
【0033】図6において、送信部5は、特徴量のイン
デックス化部5aと、表情判定部5bと送信部5cとで
構成される。特徴量のインデックス化部5aは、前述の
ように、特徴量抽出部4で抽出された特徴量を表すデー
タを予め定めた複数の範囲のどこに含まれるかを検出し
て簡単な数値または符号からなるインデックスデータに
変換する部分である。送信部5は、この特徴量を表すデ
ータのインデックス化部5aとは別に、表情判定部5b
を備えている。この表情判定部5bは、特徴量を表すデ
ータ、たとえば目の傾きの程度を表す数値データから顔
の表情がどのように変わったかを判定する部分である。
この表情判定を行うアルゴリズムは公知である。たとえ
ば、普通の状態のときの目の傾き角度が、その目の外側
が短時間に下側に向くよう傾けば悲しい表情になったと
判定し、反対に、目の外側の位置が短時間に上側に傾け
ば怒った表情になったと判定する。このような表情判定
を行った結果を上記インデックスデータとともに送信部
5cに送り、両者を編集して送信する。
【0034】似顔絵受信装置の似顔絵データ生成部10
は、似顔絵基本データ生成部10aと変形部10bとで
構成される。なお、似顔絵送信装置1から送信されてく
る送信データ中に表情判定データが含まれている場合に
は、似顔絵データ生成部10には、顔部品データの他、
表情判定データが入力される。似顔絵基本データ生成部
10aは、入力された顔部品データおよび変形ルールや
配置ルールに基づいて似顔絵の基本データを生成する。
似顔絵の基本データは、喜怒哀楽の表情のない平静時の
似顔絵データをいう。この似顔絵データを変形部10b
で、表情判定データに基づいて変形する。変形の方法
は、喜怒哀楽を表す表情判定データに基づいて似顔絵基
本データの中の所定の顔部品データを変形する。たとえ
ば、上述したように、表情判定データが泣いている表情
を判定した時には、両目の外側を下方に移動するように
目の部品データを傾ける。また、表情判定データが怒っ
た状態を判定するデータである時には、目の外側が上方
に位置するように目の部品データを傾ける。
【0035】ここで、送信部5cは、特徴量を表すデー
タのインデックスデータを一度送信するだけであり、そ
の後は表情判定部5bで判定される表情判定データを一
定時間毎に繰り返し送信する。したがって、似顔絵受信
装置の似顔データ生成部10には、選択された顔部品デ
ータが一度だけ送られてくることになり、この一度だけ
送られて来る顔部品データに基づいて似顔絵基本データ
を一回生成し、そのまま表情判定データに基づいてその
似顔絵基本データを繰り返し変形する動作を行う。
【0036】図8(A)〜(C)は、それぞれ似顔絵基
本データ生成部で生成された基本の似顔絵(平静時の似
顔絵)、悲しい時や泣いた時の似顔絵、怒った時の似顔
絵をそれぞれ示している。同図(B)、(C)に示す似
顔絵は、変形部10bで生成される。
【0037】図9は、公衆回線等の通信回線を介して接
続された2つの通信装置間における似顔絵データの送受
信手順を示す図である。
【0038】同図の左側はAさんの通信装置、右側はB
さんの通信装置であり、双方の通信手順は全く同じであ
る。以下、Aさんの通信装置の通信手順について説明す
る。まず、ステップS1において顔画像データが入力さ
れると、その特徴量が抽出され、インデックス化された
特徴量を表すデータは送信部5によって送信される。こ
の時のデータフォーマットは、目、口、鼻、・・・の各
顔部品データの特徴量を表したインデックスデータであ
る。続いて、S4で表情データが特徴量抽出データに基
づいて検出され、一定時間ごとに送信される。この時送
信されるデータは、一回目に送信された特徴量を表すイ
ンデックスデータではなく表情を表すデータである。こ
のようにしてAさんの通信装置からは一回目に各顔部品
の特徴量を表すインデックスデータが送られ、以下2回
目以降は表情データが一定時間ごとに送信されていく。
一方受信側においては、Bさんの通信装置から送られて
くる一回目の特徴量を表すインデックスデータを受信す
ると(S10)、部品データが選択され似顔絵基本デー
タが生成される(S11)。そして、その似顔絵がモニ
ター上に表示され、続いて表情データが送られてくるた
びにその表情データに基づいて所定の顔部品の変形が行
われ再表示される。なお、この時の変形には、表情デー
タに基づいて変形量を設定するルール(ファジイルール
等)を使用することができる。
【0039】次に、本発明の他の実施形態について説明
する。
【0040】図10は、図1の似顔絵通信装置におい
て、送信部5に含まれる表情判定部5bに変えて、音声
データ入力部15を設けたものである。先の実施形態で
は、音声データ入力部を設けていなかったが、似顔絵通
信装置を電話機能を持ったものにする場合には、音声デ
ータ入力部が当然必要になってくる。また、音声データ
の再生部も必要になってくる。本実施形態では、この音
声データ入力部および音声データ再生部については特に
説明をするものではないが、必要であれば周知の構成の
ものを用いることができる。
【0041】音声データ入力部15の出力からは音量デ
ータを検知することができるために、図10に示す似顔
絵送信装置の送信部5に、この音量データが入力され
る。音量データは単純にしきい値検出で形成してもよい
し、また音声のパワースペクトルを検出して形成するこ
とも可能である。また、音量データはADPCM技術な
どにより圧縮してもよい。この音量データは特徴量を表
すデータのインデックスデータが最初に送られた後、一
定時間毎に送信部5cより送信される。似顔絵受信装置
2の似顔絵データ生成部10では、最初に1回送られて
くるインデックスデータに基づいて似顔絵基本データを
生成し、次に、それ以降に繰り返し送られてくる音量デ
ータに基づいて上記似顔絵基本データを変形する。この
変形部10bでの変形は、似顔絵基本データの口部品の
開閉を行うことによって行う。図11にその変形例を示
す。図の(A)は似顔絵基本データ形成部10aで形成
された基本となる似顔絵であり、同図(B)および同図
(C)は変形部10bで口部品の形状が変形された似顔
絵を示しており、この同図(B)および同図(C)は受
信データ中に音量データが含まれるたびに順次表示され
る。このため、口をパクパクして、しゃべっているよう
に見える。
【0042】図12は、この実施形態の似顔絵通信装置
での通信手順を示すフローチャートである。図9に示す
通信手順と相違する点は、図12においては、S3で2
回目以降に送信されるデータが表情データはなく音量デ
ータあり、受信時においては、S13で音量データを受
信するたびに口部品の形状を変形する動作(口をパクパ
クさせる)を行う点である。
【0043】さらに、別の実施形態として、図13に示
すように表情データと音量データをともに検出し、各検
出したデータに基づいて顔の表情および口部品の形状を
変形するようにすることも可能である。この場合には、
似顔絵送信装置の送信部5には表情判定部5bが設けら
れ、さらに送信装置1内には音声データ入力部15が設
けられることになる。
【0044】図14は、この発明のさらに他の実施形態
の似顔絵通信装置を示している。図1に示す似顔絵通信
装置と相違する点は、似顔絵送信装置1側に画像部品ラ
イブラリ7およびルールライブラリ8が設けられている
点である。このようにすると、部品データ選択部9にお
いて選択された画像部品データおよび各ルールによって
決定された変形結果、配置結果が送信部5を介して送信
される。一方、似顔絵受信装置2では、受信されたデー
タに基づいて似顔絵データを生成し.表示器11に表示
することになるため、受信側の負担が軽くなる。
【0045】なお、図9、図12および図13に示す通
信手順のプログラムはCDROMやフロッピイディスク
等の記憶媒体や通信回線を介して各送信装置および受信
装置に供給することができる。また、通信回線は公衆通
信回線を使用することもでき、インターネット上での通
信も可能である。
【0046】このように、回線を通じて相手側に自分の
顔の似顔絵を送信することができ、また相手方からは相
手の似顔絵を受信することができるため、相互に顔に関
するプライバシーを守ることができる。また、送受信す
るデータは顔画像データではなく、顔部品毎の特徴量を
表すデータであるために送信データ量は相対的に極めて
少ない。このため、表情や音声の大きさに応じて似顔絵
を変形する動作もスムーズに行え、リアルタイムでの通
信が可能である。
【0047】
【発明の効果】請求項1に記載した発明においては、相
手方に送信されるデータが顔画像データそのものではな
くその特徴量を表すデータであるため、受信側において
は顔画像データそのものが受信されて再現されることは
ない。このため、プライバシーを保護出来、装置の普及
促進を図ることが出来る。
【0048】請求項2に記載した発明においては、顔画
像データがそのまま受信側に送られることがないととも
に、特徴量を表すデータとして顔部品データを送信する
ようにしているため、受信側においてはその顔部品デー
タを配置するだけで似顔絵の再現が可能になる。
【0049】請求項3に記載した発明においては、表示
されるデータが送信者の似顔絵データとなるため、受信
者は送信者の顔を認識できるとともに、送信者のプライ
バシーを保護することができる。
【0050】請求項4に記載した発明においては、受信
側で、表示される似顔絵から送信者の顔を認識できると
ともに、送信者のプライバシーを保護でき、且つ、受信
側では受信した顔部品データを配置して似顔絵データを
生成すればよいために、受信側での処理が容易になる。
【0051】請求項7に記載した発明においては、最初
に特徴量を表すデータを送信することで顔の基本的なデ
ータが送信された後、その後表情の変化を表すデータの
みが繰り返し送信されていくために、全体としての送信
データ量が少なくてすみ、且つ受信側では最初に送られ
てきたデータから基本となる似顔絵を形成し、さらにそ
の後に繰り返し送信されてくる表情を表すデータによっ
て似顔絵の変形を行うことができる。請求項8に記載し
た発明においては、最初に似顔絵の基本となるデータを
送信してから、その後音声データの音量を表すデータを
繰り返し送信するだけでよいため、全体としての送信デ
ータ量は少なくなり、一方、受信側においては、最初に
送られてきたデータから基本となる似顔絵を形成し、そ
の後に送られてくる音量データによってその似顔絵を変
形する(口をパクパクさせる)ことができるようにな
る。
【0052】請求項11に記載した発明においては、受
信側において最初に作成された基本となる似顔絵データ
を、表情を表すデータの受信のたびに表情が変わるよう
に変形することができる。
【0053】請求項12に記載した発明においては、最
初に基本となる似顔絵データが生成された後、音量を表
すデータを受信するたびに口をパクパク開閉させるよう
に変形することができる。
【図面の簡単な説明】
【図1】この発明の実施形態に係る似顔絵通信装置の構
成を示すブロック図である。
【図2】画像部品ライブラリの構成を示す図である。
【図3】ルールライブラリの構成を示す図である。
【図4】目の特徴量を表すデータに基づいて目の部品デ
ータを選択するルールについて説明する図である。
【図5】上記似顔絵通信装置によって受信側に表示され
表示例を示す図である。
【図6】送信部の構成例を示す図である。
【図7】似顔絵データ生成部の構成例を示す図である。
【図8】(A)〜(C)似顔絵データ生成部で生成され
る似顔絵の基本とその変形例を示す図である。
【図9】上記似顔絵通信装置の通信手順を示すフローチ
ャートである。
【図10】送信部および似顔絵データ生成部の他の構成
例を示す図である。
【図11】似顔絵データ生成部で生成される似顔絵の基
本とその変形例を示す図である。
【図12】上記似顔絵通信装置の通信手順の他の例を示
すフローチャートである。
【図13】上記似顔絵通信装置の通信手順を示すさらに
他の例を示すフローチャートである。
【図14】本発明の他の実施形態の似顔絵通信装置の構
成を示すブロック図である。
【符号の説明】
1−似顔絵送信装置 2−似顔絵受信装置 3−画像入力部 4−特徴量抽出部 5−送信部 6−受信部 7−画像部品ライブラリ 8−ルールライブラリ 9−部品データ選択部 10−似顔絵データ生成部 11−表示器

Claims (20)

    【特許請求の範囲】
  1. 【請求項1】 顔の画像データの入力を受け付ける顔画
    像データ入力手段と、入力された顔画像データから各顔
    部品の特徴量を抽出し、この抽出した特徴量を表すデー
    タを送信する送信手段と、を備える似顔絵送信装置。
  2. 【請求項2】 顔部品毎に特徴量を異にした複数の顔部
    品データを記憶する記憶手段を備え、前記送信手段は、
    前記各顔部品の特徴量に対応する顔部品データを該記憶
    手段から読み出して特徴量を表すデータとして送信する
    ことを特徴とする、請求項1記載の似顔絵送信装置。
  3. 【請求項3】 請求項1記載の似顔絵送信装置から送信
    されてくる特徴量を表すデータを受信する受信手段と、
    顔部品毎に特徴量を異にした複数の顔部品データを記憶
    する記憶手段と、前記特徴量を表すデータに基づいて記
    憶手段から各顔部品データを選択し、合成して似顔絵デ
    ータを生成する似顔絵データ生成手段と、生成された似
    顔絵データを表示する表示器と、を備える似顔絵受信装
    置。
  4. 【請求項4】 請求項2記載の似顔絵送信装置から送信
    されてくる各顔部品の特徴量に対応する顔部品データを
    受信する受信手段と、受信した各顔部品データを合成し
    て似顔絵データを生成する似顔絵データ生成手段と、生
    成された似顔絵データを表示する表示器と、を備える似
    顔絵受信装置。
  5. 【請求項5】 請求項1の似顔絵送信装置と、該似顔絵
    送信装置から送信されてくる特徴量を表すデータを受信
    する受信手段と、顔部品毎に特徴量を異にした複数の顔
    部品データを記憶する記憶手段と、前記特徴量を表すデ
    ータに基づいて記憶手段から各顔部品データを選択し、
    合成して似顔絵データを生成する似顔絵データ生成手段
    と、生成された似顔絵データを表示する表示器と、を備
    える似顔絵受信装置とからなる、似顔絵通信装置。
  6. 【請求項6】 請求項2の似顔絵送信装置と、該似顔絵
    送信装置送信されてくる各顔部品の特徴量に対応する顔
    部品データを受信する受信手段と、受信した各顔部品デ
    ータを合成して似顔絵データを生成する似顔絵データ生
    成手段と、生成された似顔絵データを表示する表示器
    と、を備える似顔絵受信装置とからなる、似顔絵通信装
    置。
  7. 【請求項7】 送信手段は、抽出された特徴量から表情
    を判定し、前記特徴量を表すデータを最初に送信した後
    に、前記表情を表すデータを繰り返し送信することを特
    徴とする請求項1または2記載の似顔絵送信装置。
  8. 【請求項8】 音声の入力を受け付ける音声データ入力
    手段を備え、送信手段は、前記特徴量を表すデータを最
    初に送信した後に、入力された音声データの音量を表す
    データを繰り返し送信することを特徴とする請求項1ま
    たは2記載の似顔絵送信装置。
  9. 【請求項9】 送信手段は、抽出された特徴量から表情
    を判定し、前記特徴量を表すデータを最初に送信した後
    に、前記表情を表すデータを繰り返し送信することを特
    徴とする請求項5または6記載の似顔絵通信装置。
  10. 【請求項10】 音声の入力を受け付ける音声データ入
    力手段を備え、送信手段は、前記特徴量を表すデータを
    最初に送信した後に、入力された音声データの音量を表
    すデータを繰り返し送信することを特徴とする請求項5
    または6記載の似顔絵通信装置。
  11. 【請求項11】 似顔絵データ生成手段は、最初に送信
    されてきた特徴量を表すデータに基づいて似顔絵データ
    を生成した後に、続いて送信されたきた表情を表すデー
    タに基づいて似顔絵データを変形することを特徴とする
    請求項9記載の似顔絵通信装置。
  12. 【請求項12】 似顔絵データ生成手段は、最初に送信
    されてきた特徴量を表すデータに基づいて似顔絵データ
    を生成した後に、続いて送信されたきた音量を表すデー
    タに基づいて口部品データを変形することを特徴とする
    請求項10記載の似顔絵通信装置。
  13. 【請求項13】 似顔絵送信装置において、顔の画像デ
    ータの入力を受け付けて、各顔部品の特徴量を抽出し、
    この抽出した特徴量を表すデータを送信する一方、 似顔絵受信装置において、該送信されてくる特徴量を表
    すデータを受信して、予め顔部品データが記憶されてい
    る記憶手段から前記受信したデータに基づいて各顔部品
    データを選択し、合成して似顔絵データを生成し、生成
    された似顔絵データを表示することを特徴とする、似顔
    絵通信方法。
  14. 【請求項14】 似顔絵送信装置において、顔の画像デ
    ータの入力を受け付けて、各顔部品の特徴量を抽出し、
    予め顔部品データが記憶されている記憶手段からこの抽
    出した特徴量に対応する顔部品データを読み出して該デ
    ータを特徴量を表すデータとして送信する一方、 似顔絵受信装置において、該送信されてくる顔部品デー
    タを受信、合成して似顔絵データを生成し、生成された
    似顔絵データを表示することを特徴とする、似顔絵通信
    方法。
  15. 【請求項15】 似顔絵送信装置は、抽出された特徴量
    から表情を判定し、前特徴量を表すデータを最初に送信
    した後に、前記表情を表すデータを繰り返し送信し、似
    顔絵受信装置は、似顔絵データを生成した後に、続いて
    送信されてきた表情を表すデータに基づいて似顔絵デー
    タを変形することを特徴とする、請求項13または14
    記載の似顔絵通信方法。
  16. 【請求項16】 似顔絵送信装置は、音声の入力を受け
    付ける音声データ入力手段を備え、前特徴量を表すデー
    タを最初に送信した後に、入力された音声データの音量
    を表すデータを繰り返し送信し、似顔絵受信装置は、似
    顔絵データを生成した後に、続いて送信されてきた音量
    を表すデータに基づいて似顔絵データを変形することを
    特徴とする、請求項13または14記載の似顔絵通信方
    法。
  17. 【請求項17】 似顔絵送信装置において、顔の画像デ
    ータの入力を受け付けて、各顔部品の特徴量を抽出し、
    この抽出した特徴量を表すデータを送信する処理を実行
    し、 似顔絵受信装置において、該送信されてくる特徴量を表
    すデータを受信して、予め顔部品データが記憶されてい
    る記憶手段から前記受信したデータに基づいて各顔部品
    データを選択し、合成して似顔絵データを生成し、生成
    された似顔絵データを表示する処理処理を実行するプロ
    グラムを記憶した、似顔絵通信プログラム記憶媒体。
  18. 【請求項18】 似顔絵送信装置において、顔の画像デ
    ータの入力を受け付けて、各顔部品の特徴量を抽出し、
    予め顔部品データが記憶されている記憶手段からこの抽
    出した特徴量に対応する顔部品データを読み出して該デ
    ータを特徴量を表すデータとして送信する処理を実行
    し、 似顔絵受信装置において、該送信されてくる顔部品デー
    タを受信、合成して似顔絵データを生成し、生成された
    似顔絵データを表示する処理を実行するするプログラム
    を記憶した、似顔絵通信プログラム記憶媒体。
  19. 【請求項19】 前記プログラムは、似顔絵送信装置で
    の処理が、抽出された特徴量から表情を判定し、前特徴
    量を表すデータを最初に送信した後に、前記表情を表す
    データを繰り返し送信し、似顔絵受信装置での処理が、
    似顔絵データを生成した後に、続いて送信されてきた表
    情を表すデータに基づいて似顔絵データを変形すること
    を特徴とする、請求項17または18記載の似顔絵通信
    プログラム記憶媒体。
  20. 【請求項20】 前記プログラムは、似顔絵送信装置で
    の処理が、前特徴量を表すデータを最初に送信した後
    に、入力された音声データの音量を表すデータを繰り返
    し送信し、似顔絵受信装置での処理が、似顔絵データを
    生成した後に、続いて送信されてきた音量を表すデータ
    に基づいて似顔絵データを変形することを特徴とする、
    請求項17または18記載の似顔絵通信プログラム記憶
    媒体。
JP34152796A 1996-12-20 1996-12-20 似顔絵送信装置、似顔絵通信装置及び方法 Expired - Lifetime JP3551668B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP34152796A JP3551668B2 (ja) 1996-12-20 1996-12-20 似顔絵送信装置、似顔絵通信装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP34152796A JP3551668B2 (ja) 1996-12-20 1996-12-20 似顔絵送信装置、似顔絵通信装置及び方法

Publications (2)

Publication Number Publication Date
JPH10187931A true JPH10187931A (ja) 1998-07-21
JP3551668B2 JP3551668B2 (ja) 2004-08-11

Family

ID=18346764

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34152796A Expired - Lifetime JP3551668B2 (ja) 1996-12-20 1996-12-20 似顔絵送信装置、似顔絵通信装置及び方法

Country Status (1)

Country Link
JP (1) JP3551668B2 (ja)

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000037042A (ko) * 2000-04-06 2000-07-05 김정렬 자동 캐릭터 제작시스템
JP2000270305A (ja) * 1999-03-12 2000-09-29 Kansai Tlo Kk 多地点会議システム
JP2000311248A (ja) * 1999-04-28 2000-11-07 Sharp Corp 画像処理装置
JP2001167287A (ja) * 1999-10-25 2001-06-22 Cmaker Corp キャラクター生成方法及びそれを利用した絵文書生成方法
KR20010091743A (ko) * 2000-03-17 2001-10-23 박호성 자동캐리커처 생성방법
KR20010092618A (ko) * 2000-03-22 2001-10-26 이민호 이미지 정보를 이용한 인물의 캐리커쳐 자동 생성 방법,생성 장치 및 출력 장치
KR20020069595A (ko) * 2001-02-27 2002-09-05 강석령 얼굴 그림 제작 시스템 및 방법
KR20020082328A (ko) * 2001-04-20 2002-10-31 김장휘 네트워크상에서 나만의 동화를 구현시키는 기술
KR100385896B1 (ko) * 1999-12-28 2003-06-02 김남규 가상공간에서 사용자를 대리하는 3차원 이미지를 제공 및이용하는 방법 및 장치
KR20030067872A (ko) * 2002-02-08 2003-08-19 주식회사 홍익애니맥스 데이터베이스를 적용한 애니메이션 제작 시스템 및 제작방법
JP2003296713A (ja) * 2002-04-04 2003-10-17 Mitsubishi Electric Corp 顔画像合成装置、顔画像合成方法およびその方法を実行するプログラムならびに顔画像合成装置を備えた通信用端末およびその通信用端末による通信方法
KR100407111B1 (ko) * 2000-08-22 2003-11-28 (주)버추얼미디어 얼굴 영상의 형태 정보에 기반한 합성 얼굴 영상 생성장치 및 그 방법
KR20040049893A (ko) * 2002-12-05 2004-06-14 김의선 영상에서 자동으로 벡터 이미지 형태의 얼굴 아바타 생성 기법
JP2005354531A (ja) * 2004-06-11 2005-12-22 Sumitomo Electric Ind Ltd 画像表示方法、端末装置、及び双方向対話システム
KR100757914B1 (ko) 2006-08-08 2007-09-11 주식회사 안다미로 이미지 추출 및 편집 방법 및 이를 이용한 사진 자동판매기
WO2009067958A1 (fr) * 2007-11-29 2009-06-04 Tencent Technology (Shenzhen) Company Limited Système de génération de portrait et procédé de génération de portrait selon une image
WO2009133710A1 (ja) * 2008-04-30 2009-11-05 株式会社アクロディア キャラクタ表示用データの生成装置および方法
JP2010050685A (ja) * 2008-08-21 2010-03-04 Kyocera Mita Corp 画像形成装置、画像形成システム及び画像作成方法
US20110280485A1 (en) * 2009-02-05 2011-11-17 Kazuo Sairyo Portrait illustration creation system, character creation system, and created portrait illustration display system
JP2014099074A (ja) * 2012-11-15 2014-05-29 Casio Comput Co Ltd 閾値設定装置、閾値設定方法及びプログラム
JP2015148932A (ja) * 2014-02-06 2015-08-20 Psソリューションズ株式会社 音声同期処理装置、音声同期処理プログラム、音声同期処理方法及び音声同期システム
JP2018164311A (ja) * 2018-07-10 2018-10-18 オリンパス株式会社 撮像装置、通信機器、撮像方法、表示方法、撮像プログラム、及び表示プログラム
JP2019057116A (ja) * 2017-09-21 2019-04-11 株式会社コーエーテクモゲームス リップシンク処理プログラム、記録媒体、リップシンク処理方法

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000270305A (ja) * 1999-03-12 2000-09-29 Kansai Tlo Kk 多地点会議システム
JP2000311248A (ja) * 1999-04-28 2000-11-07 Sharp Corp 画像処理装置
JP2001167287A (ja) * 1999-10-25 2001-06-22 Cmaker Corp キャラクター生成方法及びそれを利用した絵文書生成方法
KR100385896B1 (ko) * 1999-12-28 2003-06-02 김남규 가상공간에서 사용자를 대리하는 3차원 이미지를 제공 및이용하는 방법 및 장치
KR20010091743A (ko) * 2000-03-17 2001-10-23 박호성 자동캐리커처 생성방법
KR20010092618A (ko) * 2000-03-22 2001-10-26 이민호 이미지 정보를 이용한 인물의 캐리커쳐 자동 생성 방법,생성 장치 및 출력 장치
KR20000037042A (ko) * 2000-04-06 2000-07-05 김정렬 자동 캐릭터 제작시스템
KR100407111B1 (ko) * 2000-08-22 2003-11-28 (주)버추얼미디어 얼굴 영상의 형태 정보에 기반한 합성 얼굴 영상 생성장치 및 그 방법
KR20020069595A (ko) * 2001-02-27 2002-09-05 강석령 얼굴 그림 제작 시스템 및 방법
KR20020082328A (ko) * 2001-04-20 2002-10-31 김장휘 네트워크상에서 나만의 동화를 구현시키는 기술
KR20030067872A (ko) * 2002-02-08 2003-08-19 주식회사 홍익애니맥스 데이터베이스를 적용한 애니메이션 제작 시스템 및 제작방법
US7158177B2 (en) 2002-04-04 2007-01-02 Mitsubishi Electric Corporation Apparatus for and method of synthesizing face image
JP2003296713A (ja) * 2002-04-04 2003-10-17 Mitsubishi Electric Corp 顔画像合成装置、顔画像合成方法およびその方法を実行するプログラムならびに顔画像合成装置を備えた通信用端末およびその通信用端末による通信方法
KR20040049893A (ko) * 2002-12-05 2004-06-14 김의선 영상에서 자동으로 벡터 이미지 형태의 얼굴 아바타 생성 기법
JP2005354531A (ja) * 2004-06-11 2005-12-22 Sumitomo Electric Ind Ltd 画像表示方法、端末装置、及び双方向対話システム
JP4595397B2 (ja) * 2004-06-11 2010-12-08 住友電気工業株式会社 画像表示方法、端末装置、及び双方向対話システム
KR100757914B1 (ko) 2006-08-08 2007-09-11 주식회사 안다미로 이미지 추출 및 편집 방법 및 이를 이용한 사진 자동판매기
WO2009067958A1 (fr) * 2007-11-29 2009-06-04 Tencent Technology (Shenzhen) Company Limited Système de génération de portrait et procédé de génération de portrait selon une image
US8300883B2 (en) 2007-11-29 2012-10-30 Tencent Technology (Shenzhen) Company Ltd. Sketch generating system and method for generating sketch based on image
JP5383668B2 (ja) * 2008-04-30 2014-01-08 株式会社アクロディア キャラクタ表示用データの生成装置および方法
WO2009133710A1 (ja) * 2008-04-30 2009-11-05 株式会社アクロディア キャラクタ表示用データの生成装置および方法
JP2010050685A (ja) * 2008-08-21 2010-03-04 Kyocera Mita Corp 画像形成装置、画像形成システム及び画像作成方法
US20110280485A1 (en) * 2009-02-05 2011-11-17 Kazuo Sairyo Portrait illustration creation system, character creation system, and created portrait illustration display system
US8600101B2 (en) * 2009-02-05 2013-12-03 Kazuo Sairyo Portrait illustration creation system, character creation system, and created portrait illustration display system
JP2014099074A (ja) * 2012-11-15 2014-05-29 Casio Comput Co Ltd 閾値設定装置、閾値設定方法及びプログラム
JP2015148932A (ja) * 2014-02-06 2015-08-20 Psソリューションズ株式会社 音声同期処理装置、音声同期処理プログラム、音声同期処理方法及び音声同期システム
JP2019057116A (ja) * 2017-09-21 2019-04-11 株式会社コーエーテクモゲームス リップシンク処理プログラム、記録媒体、リップシンク処理方法
JP2018164311A (ja) * 2018-07-10 2018-10-18 オリンパス株式会社 撮像装置、通信機器、撮像方法、表示方法、撮像プログラム、及び表示プログラム

Also Published As

Publication number Publication date
JP3551668B2 (ja) 2004-08-11

Similar Documents

Publication Publication Date Title
JP3551668B2 (ja) 似顔絵送信装置、似顔絵通信装置及び方法
US8581953B2 (en) Method and apparatus for providing animation effect on video telephony call
US6961446B2 (en) Method and device for media editing
EP1480425B1 (en) Portable terminal and program for generating an avatar based on voice analysis
JP4449723B2 (ja) 画像処理装置、画像処理方法、およびプログラム
KR101768980B1 (ko) 가상 동영상 통화 방법 및 단말
CN110446000B (zh) 一种生成对话人物形象的方法和装置
EP1443465B1 (en) Face information transmission system
EP2127341B1 (en) A communication network and devices for text to speech and text to facial animation conversion
US6943794B2 (en) Communication system and communication method using animation and server as well as terminal device used therefor
KR101170338B1 (ko) 화상 통화 방법 및 시스템
JP3167865B2 (ja) 情報処理装置
US20140139619A1 (en) Communication method and device for video simulation image
CN110377761A (zh) 一种增强视频体验的方法及装置
JP2004289254A (ja) テレビ電話端末
JP2007213364A (ja) 画像変換装置、画像変換方法及び画像変換プログラム
WO2008073637A1 (en) Mute function for video applications
JP2004172671A (ja) 動画像加工方法及び装置
JP2008085421A (ja) テレビ電話機、通話方法、プログラム、声質変換・画像編集サービス提供システム、および、サーバ
US20080123734A1 (en) Video generation system and method
KR100686076B1 (ko) 피사체의 감정 상태에 대응하는 메시지 출력 기능을 갖는무선 통신 단말기 및 이를 이용한 메시지 출력 방법
JP2004193809A (ja) 通信装置
KR100673608B1 (ko) 아바타 생성 장치 및 아바타 생성 기능을 가진 이동통신단말기
TWI297863B (en) Method for inserting a picture in a video frame
JP2015060380A (ja) 情報端末および情報処理システム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040406

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040419

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080514

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090514

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100514

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110514

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120514

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120514

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140514

Year of fee payment: 10

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term