<第1実施形態>
以下、本発明の第1実施形態を、図1〜図19を参照して説明する。図1(A)、図1(B)及び図2には、一実施形態に移動通信端末装置である携帯電話装置10の構成が概略的に示されている。ここで、図1(A)には、携帯電話装置10の外観の正面図が示され、図1(B)には、携帯電話装置10の外観の背面図が示されている。また、図2には、携帯電話装置10の機能ブロック構成が示されている。
図1(A)、図1(B)及び図2において総合的に示されるように、携帯電話装置10は、(a)後述する制御部21等を備える携帯電話本体11と、(b)電話番号を制御部21へ入力するためのテンキー、及び、動作モードの切換等の各種指令を制御部21へ入力するためのファンクションキーを有する操作部12と、(c)制御部21による指令に応じて、操作案内、動作状況、受信メッセージ等を表示する液晶表示装置を有する表示部13とを備えている。また、携帯電話装置10は、(d)通話時に通信相手から送られてきた音声信号を再生する通話用スピーカ14と、通話時に音声を入力するためのマイクロフォン15と、(e)制御部21による指令に応じて、着信音や案内音を発生するための案内用スピーカ16とを備えている。更に、携帯電話装置10は、(f)送受信部22と接続され、基地局との間で無線信号を授受するためのアンテナ17とを備えている。さらに、携帯電話装置10は、(g)表示部13における表示を見ながら操作部12を操作する操作者側を撮影する、すなわち、いわゆる自分撮りの態様で撮影を行うための撮像光学系18と、(h)当該操作者の視線方向を視野方向とする撮影を行う、すなわち、いわゆる相手撮りの態様で撮影を行うための撮像光学系19とを備えている。
携帯電話本体11は、図2に示されるように、(i)携帯電話装置10の全体の動作を統括制御するとともに、様々なデータ処理を行う制御部21と、(ii)基地局との間でアンテナ17を介して無線信号を送受信するための送受信部22と、(iii)オブジェクト情報部40を有するとともに、様々なデータを記憶するための記憶部23とを備えている。また、携帯電話本体11は、制御部21の制御に応じて、撮像光学系18を介した光及び撮像光学系19を介した光のいずれかを、後述する撮像素子25へ向けて射出する切換光学系24と、(iv)切換光学系24を介した光が受光面に形成する光学像を撮像するCCD素子等の撮像素子25とを備えている。ここで、撮像素子25は、制御部21の制御のもとで撮像動作を行い、撮像結果を制御部21へ通知するようになっている。
制御部21は、基本制御部29と、オブジェクト出力部30とを備えている。ここで、基本制御部29は、オブジェクト出力部30の動作を制御するとともに、制御部21の外部に配置された各要素の制御、及び、後述するオブジェクト出力処理以外のデータ処理を行う。
上記のオブジェクト出力部30は、図3に示されるように、着目像情報抽出部31と、マスク画像作成部32と、合成画像作成部33とを備えている。また、オブジェクト出力部30は、音データ通知部35を備えている。
着目像情報抽出部31は、撮像素子25からの原画像データOMDに基づいて、例えば原画像における特定人物(例えば、携帯電話装置10の利用者)の顔領域等の着目像領域を特定し、原画像における着目像領域の代表点の位置情報、原画像における着目像領域の傾き情報及び着目像領域の大きさ情報から成る着目像情報WMDを抽出する。
ここで、着目像情報WMDの抽出について、詳述する。なお、以下においては、説明を簡易に行う都合上、原画像における被撮影体の表示面に対する構造を考慮せずに2次元的に取り扱うこととし、表示面における奥行き方向の沿った被撮影体の構造は考えないものとする。また、図4(A)及び図4(B)に示されるように、原画像領域OMRにおける着目像領域WMRが特定されるものとする。ここで、図4(A)には、着目像領域WMRが基準となる傾きである(すなわち、傾き角θW=0)場合が模式的に表されている。また、図4(B)には、基準傾きからθ0だけ傾いている(すなわち、傾き角θW=θ0)場合が示されている。また、原画像領域OMRにおける各画素位置は、原画像座標系であるXSYS座標系における座標値によって表されるものとする。また、着目像領域WMRについては、代表点OWを原点とするとともに、傾き角θW=0の場合にXS軸と平行な軸をXW軸とし、YS軸と平行な軸をYW軸とする着目像座標系(すなわち、XWYW座標系)が定義されるものとする。また、傾き角θWは反時計回りの角度で表されるものとする。
図4(A)の場合には、着目像情報抽出部31は、原画像領域OMRにおける着目像領域WMRを特定した後、まず、着目像領域WMRの代表点の位置情報として、代表点OWの原画像座標系における座標位置OW(XSW1,YSW1)を求める。ここで、着目像領域WMRの代表点としては、着目像領域WMRの重心位置、着目像が特定人物の顔像である場合における当該顔像における鼻の突端位置等といった画像解析によって得られる着目像領域における特徴的な点を採用することができる。
次に、着目像情報抽出部31は、着目像領域WMRの原画像領域OMRにおける傾き情報として、XS軸とXW軸との交差角θW(すなわち、上述の傾き角θW)を求める。傾き角θWは、予め傾き角θWが「0」であると定義された着目像領域WMRにおける着目像として特徴的な方向とXS軸との交差角と、原画像内における着目像における当該特徴的な方向とXS軸との交差角との差を算出することより求められる。こうした特徴的な方向としては、例えば、着目像領域WMRの形状が楕円近似できる場合には近似楕円の長軸方向若しくは短軸方向、又は、着目像が特定人物の顔像である場合における当該顔像における両目の中心位置を結ぶ方向等を採用することができる。こうして、傾き角θW(図4Aの場合には、θW=0)が求められると、原画像領域OMR中におけるXWYW座標系(着目座標系)が求められることになる。
次いで、着目像情報抽出部31は、着目像領域WMRの大きさ情報として、着目像領域WMRに関する特徴的な長さを求める。本実施形態においては、XW軸上における着目像領域WMRの幅を当該特徴的な長さ(図4(A)における幅LXW)としている。なお、着目像領域WMRの大きさ情報としては、XW軸上における着目像領域WMRの幅LXW以外に、YW軸上における着目像領域WMRの幅、XW軸(若しくはYW軸)方向における着目像領域WMRの最大幅、又は着目像領域における特徴的な2点間の距離(例えば、着目像が特定人物の顔像である場合における当該顔像における両目の中心間距離)、当該距離のXW軸成分の長さ若しくは当該距離のYW軸成分の長さ等を採用することができる。
図4(B)の場合にも、着目像情報抽出部31は、上述した図4(A)の場合と同様に、原画像領域OMRにおける着目像領域WMRを特定した後、着目像領域WMRにおける代表点の位置情報、傾き情報及び大きさ情報を求める。なお、図4(B)の場合には、代表点の位置情報として代表点OWの原画像座標系における座標位置OW(XSW2,YSW2)が求められ、着目像領域WMRの傾き情報として傾き角θW=θ0が求められ、着目像領域WMRの大きさ情報として、XW軸上における着目像領域WMRの幅LXWが求められる。
図3に戻り、マスク画像作成部32は、基本制御部29から通知されたキー入力データKDTに対応するマスク画像情報MDDが上述した記憶部23のオブジェクト情報部40におけるマスク画像情報部45に記憶されている場合には、着目像情報抽出部31によって抽出された着目像情報WMDと、当該マスク画像情報MDDとに基づいて、マスク画像データMMDを作成する。なお、マスク画像情報MDD及びマスク画像作成部32によるマスク画像データMMDの作成については、後述する。
上記の合成画像作成部33は、原画像データOMD及びマスク画像データMMDに基づいて、原画像上にマスク画像を重ねた合成画像データSMDを作成する。なお、合成画像作成部33によって作成された合成画像データSMDは、基本制御部29へ通知されるようになっている。
上記の音データ通知部35は、基本制御部29から通知されたキー入力データKDTに対応する音データSDDが上述した記憶部23のオブジェクト情報部40における音データ部46に記憶されている場合には、当該音データSDDを読み出して、基本制御部29へ通知されるようになっている。
なお、本実施形態においては、制御部21は、中央処理装置(CPU)、デジタル信号処理装置(DSP)等を備えている。そして、制御部21で実行されるプログラムとして構成された基本制御部29やオブジェクト出力部30により、メール送受信処理を含む携帯電話機能を実現するための処理、キー入力操作により指定されたオブジェクトの出力処理等の様々なデータ処理を行うとともに、上述した他の構成要素の動作制御を行うようになっている。
上記のオブジェクト情報部40は、図5に示されるように、オブジェクト登録テーブル49と、マスク画像情報部45と、音データ部46とを備えている。ここで、オブジェクト登録テーブル49は、操作部12におけるテンキーを構成するキーの少なくとも一部のキーそれぞれに割り当てられたオブジェクトの情報が格納されている領域の先頭アドレスが登録されている。
マスク画像情報部45は、マスク画像情報ファイル471,472,473,…を含んでいる。また、音データ部46は、音データファイル481,482,…を含んでいる。
なお、本実施形態では、「1」キー割り当てられたオブジェクトであるマスク画像の情報がマスク画像情報ファイル471に格納されている。また、「2」キー割り当てられたオブジェクトであるマスク画像の情報がマスク画像情報ファイル472に格納され、「3」キー割り当てられたオブジェクトであるマスク画像の情報がマスク画像情報ファイル473に格納されている。また、「4」キー割り当てられたオブジェクトである音データの情報が音データファイル481に格納され、「5」キー割り当てられたオブジェクトである音データが音データファイル482に格納されている。
マスク画像情報ファイル47j(j=1,2,3,…)のそれぞれは、図6(A)に示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述が格納された表示指定ファイル41jと、(ii)表示指定ファイル41jにおける表示指定記述によって指定される要素画像データが格納された要素画像ファイル42jとから構成されている。なお、マスク画像情報ファイル47jのそれぞれは、携帯電話装置10に対して、コンテンツプロバイダから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
要素画像ファイル42jには、図6(B)に示されるように、要素画像が格納されている。なお、要素画像ファイル42jに格納されている第i番目の要素画像を以下においては、要素画像EMMjiと記すものとする。なお、図6(B)では、要素画像ファイル42jに格納されている要素画像が複数ある場合が示されているが、要素画像ファイル42jに格納されている要素画像の数は1つの場合もあるし、2つ以上の場合もある。要素画像EMMjiとしては、例えば、ハート図形画像、唇図形画像等がある。
こうした、要素画像EMMjiは、図7において要素画像EMM11について代表的に示されるように、要素画像に固有の座標系、すなわち要素画像EMMjiの代表点(図7では、要素画像EMM11の中心点)を原点OEとするXEYE座標系において作成されている。そして、要素画像EMMjiの大きさ情報としては、XE軸方向における最大幅LXEi(図7においては、最大幅LXE1)を使用するようになっている。なお、図7においては、要素画像EMMjiをハート図形の要素画像EMM11としたが、形状や大きさの異なる要素画像であっても、同様である。
上記の表示指定ファイル41jにおける表示指定記述の例が、図8、図9及び図10に示されている。なお、本実施形態における表示指定記述は、SMIL(Synchronized Multimedia Integration Language)形式に準じた形式で記述されるようになっている。
図8には、着目像領域の位置、傾き、及び大きさに応じて定まる2つの位置(例えば、着目像が特定の人物の顔像である場合における両目の位置)に、定常的に同一の要素画像を同時に表示させる表示指定を行うための例が表示指定ファイル411として示されている。すなわち、<同時表示指定>により、これと<同時表示指定終了>との間に記述された<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0 (以下、「値LX 0 」とも記す)である場合におけるXWYW座標系の座標位置(XW11,YW11)に、「要素画像指定」によって指定される要素画像EMM11が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM11のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R1の長さとされる。なお。後述する表示時間指定がなされていないことから、付加画像1における要素画像EMM11は常時表示されることが指定されている。
付加画像2は、<付加画像2指定>と<付加画像2指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW12,YW12)に、「要素画像指定」によって指定される要素画像EMM11が表示される。これ以外の指定については、付加画像1の場合と同様の指定が行われていることから、付加画像1の場合と同様の表示指定が行われている。
なお、図8のような表示指定ファイル411の場合には、表示指定ファイル411に対応する要素画像ファイル421には、要素画像として、要素画像EMM11のみが格納される。
図9には、着目像領域の位置、傾き、及び大きさに応じて定まる1つの位置(例えば、着目像が特定の人物の顔像である場合における口の位置)に、表示内容が時間的に変化する1つの付加画像1を表示させる表示指定を行うための例が表示指定ファイル412として示されている。なお、図9の表示指定ファイル412では、複数の要素画像を同時に表示させないので、図8における同時表示に関連する<同時表示指定>及び<同時表示指定終了>が記述されていない。
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、まず、第1の「要素画像指定」によって指定される要素画像EMM21が、第1の「表示位置指定」によって指定される着目像領域が予め定められた基準となる大きさ情報LXEが値LXE0である場合におけるXWYW座標系の座標位置(XW21,YW21)に表示される。また、第1の「大きさ指定」によって指定されるように、要素画像EMM21の表示時のXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R21の長さとされる。また、第1の「表示時間指定」によって指定されるように、要素画像EMM21が、時間T21にわたって表示される。
要素画像EMM21の時間T21の表示が終了すると、次に、第2の「要素画像指定」によって指定される要素画像EMM22が、第2の「表示位置指定」によって指定される位置、すなわち要素画像EMM21の場合と同様の位置に表示される。また、第2の「大きさ指定」によって指定されるように、要素画像EMM22の表示時におけるXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R22の長さとされる。また、第2の「表示時間指定」によって指定されるように、要素画像EMM22が、時間T22にわたって表示される。
要素画像EMM22の時間T22の表示が終了すると、次に、第3の「要素画像指定」によって指定される要素画像EMM23が、第3の「表示位置指定」によって指定される位置、すなわち要素画像EMM21の場合と同様の位置に表示される。また、第3の「大きさ指定」によって指定されるように、要素画像EMM23の表示時におけるXE軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R23の長さとされる。また、第3の「表示時間指定」によって指定されるように、要素画像EMM23が、時間T23にわたって表示される。
こうして、要素画像EMM21、要素画像EMM22及び要素画像EMM23の時間順次の表示が終了すると、再度、上記と同様の態様で要素画像EMM21、要素画像EMM22及び要素画像EMM23の時間順次の表示がされる。こうして、要素画像EMM21、要素画像EMM22及び要素画像EMM23の指定態様による表示が、時間順次に繰り返される。
図10には、着目像領域の位置、傾き、及び大きさに応じて定まる1つの位置に、常時1つの要素画像を表示させるとともに、着目像領域の位置、傾き、及び大きさに応じて定まる他の2つの位置に、時間順次に異なる2つの要素画像を択一的に表示させる表示指定を行うための例が表示指定ファイル413として例が示されている。すなわち、<同時表示指定>により、これと<同時表示指定終了>との間に記述された<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。すなわち、「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW31,YW31)に、「要素画像指定」によって指定される要素画像EMM31が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM31のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R31の長さとされる。なお、表示時間指定がなされていないことから、付加画像1における要素画像EMM31は常時表示されることが指定されている。
付加画像2は、<付加画像2指定>と<付加画像2指定終了>と間の記述によって指定される。すなわち、まず、第1の「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LXW0である場合におけるXWYW座標系の座標位置(XW32,YW32)に、第1の「要素画像指定」によって指定される要素画像EMM32が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM32のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R32の長さとされる。また、第1の「表示時間指定」によって指定されるように、要素画像EMM32が、時間T32にわたって表示される。
付加画像2においては、要素画像EMM32の時間T32の表示が終了すると、次に、第2の「表示位置指定」によって指定されるように、着目像領域WMRの大きさ情報が予め定められた基準となる値LX0である場合におけるXWYW座標系の座標位置(XW33,YW33)に、第2の「要素画像指定」によって指定される要素画像EMM33が表示される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM33のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R33の長さとされる。また、第2の「表示時間指定」によって指定されるように、要素画像EMM33が、時間T33にわたって表示される。
こうして、付加画像1と付加画像2とを合わせて、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に行われる。これらの表示が終了すると、再度、上記と同様の態様で、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に行われる。こうして、要素画像EMM31及び要素画像EMM32の同時表示と、要素画像EMM31及び要素画像EMM33の同時表示とが時間順次に繰り返される。
以下、上記のように構成された携帯電話装置10における、原画像にマスク画像を重ねた合成画像の作成の動作について説明する。
前提として、オブジェクト情報部40には、上述した情報が格納されているものとする。また、原画像は、撮像光学系18及び切換光学系24を介し、撮像素子25の撮像面に結像された像であるものとする。また、着目像WMMは、図11(A)に示されるような特定の人物の顔像であるものものとする。そして、図11(B)に示されるように、着目像WMMにおける鼻の突端位置を原点OWとし、両面を結ぶ方向をXW軸方向とし、当該XW軸方向と垂直な方向をYW軸方向とするXWYW座標系(着目像座標系)が定義されるものとする。なお、原点OW及びXW軸方向は、原画像における着目像を画像解析して求められ、YW軸方向は、求められたXW軸方向に基づいて求められるものとする。
また、携帯電話装置10は、既に、オブジェクト出力モードとなっており、テンキーにおけるいずれかのキーが押下されると、基本制御部29は、キー入力データをオブジェクト出力部30へ通知するようになっている。
《「1」キー押下に伴うオブジェクト出力例》
まず、「1」キー押下に伴うオブジェクト出力例を説明する。この例は、上述した図8において、両目の位置を表示位置とし、要素画像EMM11が、図7に示されるハート型図形画像であり、当該要素画像EMM11が着目像WMMの大きさを表す長さ値LXWに対して比率R1の大きさで表示されるマスク画像が原画像に重ねられた合成画像を出力する例である。
利用者により「1」キーが押下されると、基本制御部29がテンキーにおけるいずれかのキーが押下されたと認識し、キー入力データをオブジェクト出力部30のマスク画像作成部32及び音データ通知部35へ通知する。この通知を受けた音データ通知部35は、オブジェクト登録テーブル49を参照し、「1」キーに割り当てられた音オブジェクトが存在するか否かを判定する。上述のように、「1」キーに割り当てられているのはマスク画像であることから、音データ通知部35は、「1」キーに割り当てられた音オブジェクトが存在しないと判定する。この結果、音データ通知部35はオブジェクト出力のための動作を行わず、次のキー入力データを待つ。
一方、キー入力データ通知を受けたマスク画像作成部32は、オブジェクト登録テーブル49を参照し、「1」キーに割り当てられた音オブジェクトが存在するか否かを判定する。この判定の結果は肯定的なものとなり、マスク画像作成部32は、マスク画像情報ファイル471の内容を読み出す。
上記の動作と並行して、撮像素子25において撮像された原画像OMMのデータである原画像データOMDが、着目像情報抽出部31へ通知される。なお、原画像データOMDは、同時に合成画像作成部33へも通知される(図3参照)。ここで、得られた原画像OMMの例が、図12(A)に示されている。
着目像情報抽出部31は、通知された原画像OMMを画像処理して、着目像WMMの領域を抽出する。引き続き、着目像情報抽出部31は、着目像WMMを解析して、原画像座標系(XSYS座標系)における着目像WMMにおける鼻の突端位置(XSW,YSW)を着目像座標(XWYW座標系)の原点OWの位置として求めるとともに、両目の瞳の中央位置同士を結ぶ線分が延びる方向をXWYW座標系のXW軸方向として求める。そして、求められたXW軸方向とXS軸方向との交差角度θWを求める。さらに、着目像情報抽出部31は、着目像WMMのXW軸上における幅LXWを求める。そして、着目像情報抽出部31は、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。
着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における要素画像EMM11のXSYS座標系における表示位置(XE11,YE11)を、次の(1)式及び(2)式により算出する。
XE11=(LXW/LX0)(XW11・cosθW+YW11・sinθW)+XSW …(1)
YE11=(LXW/LX0)(−XW11・sinθW+YW11・cosθW)+YSW …(2)
次に、マスク画像作成部32は、付加画像1における要素画像EMM11の拡大又は縮小の倍率M11を、次の(3)式により算出する。
M11=R1・LXW/LXE1 …(3)
次いで、マスク画像作成部32は、要素画像EMM11をXSYS座標系において原点OEを中心として倍率M11で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM11をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM11を、XSYS座標系における座標位置(XE11,YE11)が原点OEの位置となるようにXSYS座標系に配置する。
次に、マスク画像作成部32は、付加画像1の場合と同様にして、付加画像2における要素画像EMM11のXSYS座標系における表示位置(XE12,YE12)を、次の(4)式及び(5)式により算出する。
XE12=(LXW/LX0)(XW12・cosθW+YW12・sinθW)+XSW …(4)
YE12=(LXW/LX0)(−XW12・sinθW+YW12・cosθW)+YSW …(5)
引き続き、マスク画像作成部32は、付加画像1の場合と同様にして、付加画像2における要素画像EMM11の拡大又は縮小の倍率M12を、次の(6)式により算出する。
M12=R1・LXW/LXE1 …(6)
次いで、マスク画像作成部32は、要素画像EMM11をXSYS座標系において原点OEを中心として倍率M12で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM11をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM11を、XSYS座標系における座標位置(XE12,YE12)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図12(B)に示されるようなマスク画像MMMAが作成される。そして、マスク画像作成部32は、作成されたマスク画像MMMAのデータをマスク画像データMMDとして合成画像作成部33へ通知する。
マスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMAを重ねた合成画像SMMAを作成する。こうして作成された合成画像SMMAが図13(A)に示されている。
以上のようにして、本例の場合における合成画像が作成される。このため、撮像中の原画像における着目像WMMが上記の例から平行移動したとしても、図13(B)に示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさで表示されたマスク画像が原画像上に重ねられた合成画像SMMBが作成される。
また、撮像中の原画像における着目像WMMが縮小したとしても、図13(C)に示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさで表示されたマスク画像が原画像上に重ねられた合成画像SMMCが作成される。また、撮像中の原画像における着目像WMMが回転したとしても、図13(D)に示されるように、上記の場合と同様に、着目像WMMの両目の位置に要素画像EMM11が着目像領域の大きさに応じて指定された比率の大きさを有し、かつ、着目像WMMの原画像中における傾きと同一の傾きを持って表示されたマスク画像が原画像上に重ねられた合成画像SMMDが作成される。なお、撮像中の原画像における着目像WMMが縮小、拡大又は回転した場合には、一般に、着目像領域における鼻の突端位置の原画像座標系(XSYS座標系)における座標位置の変化を伴うここととなる。
以上のようにして作成された合成画像の情報データSMDは、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMを表示部13に表示したり、送受信部22を介して、通話相手先へ送信したりする。
《「2」キー押下に伴うオブジェクト出力例》
次に、「2」キー押下に伴うオブジェクト出力例を説明する。この例は、上述した図9において、口の位置を表示位置とし、図14(A)に示される要素画像EMM21、図14(B)に示される要素画像EMM22、及び図14(C)に示される要素画像EMM23が時間順次に繰り返して表示されるマスク画像が、原画像に重ねられた合成画像を出力する例である。
なお、図9の記述で指定されている「大きさ情報」に応じた大きさで要素画像EMM21,EMM22,EMM23が表示される。すなわち、要素画像EMM21は着目像WMMの大きさを表す長さ値LXWに対して比率R21の大きさで表示される。また、要素画像EMM22は長さ値LXWに対して比率R22の大きさで表示される。さらに、要素画像EMM23は長さ値LXWに対して比率R23の大きさで表示される。
利用者により「2」キーが押下されると、上述した「1」キーが押下された場合と同様にして、基本制御部29がテンキーにおけるいずれかのキーが押下されと認識し、キー入力データをオブジェクト出力部30のマスク画像作成部32及び音データ通知部35へ通知する。上述したように、「2」キーに割り当てられているのはマスク画像であることから、音データ通知部35はオブジェクト出力のための動作を行わず、次のキー入力データを待つ。一方、マスク画像作成部32は、オブジェクト登録テーブル49を参照して、マスク画像情報ファイル472の内容を読み出す。
着目像情報抽出部31は、上述した「1」キーが押下された場合と同様にして、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。この着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における第1要素画像EMM21のXSYS座標系における表示位置(XE2,YE2)を、次の(7)式及び(8)式により算出する。
XE2=(LXW/LX0)(XW2・cosθW+YW2・sinθW)+XSW …(7)
YE2=(LXW/LX0)(−XW2・sinθW+YW2・cosθW)+YSW …(8)
次に、マスク画像作成部32は、第1の要素画像EMM21の拡大又は縮小の倍率M21を、次の(9)式により算出する。
M21=R21・LXW/LXE21 …(9)
次いで、マスク画像作成部32は、上記の「1」キーが押下された場合と同様にして、要素画像EMM21をXSYS座標系において原点OEを中心として倍率M21で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM21をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM21を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図15(A)に示されるようなマスク画像MMM21が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM21のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMを重ねた合成画像SMM21を作成する。こうして作成された合成画像SMM21が図16(A)に示されている。
以後、マスク画像作成部32は、時間T21にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM21を、着目像WMMの大きさを表す長さ値LXWに対する比率R21の大きさで表示するマスク画像を作成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM21を倍率M21で拡大又は縮小したマスク画像を重ねた合成画像を、時間T21にわたって逐次作成する。
こうして、時間T21が経過すると、マスク画像作成部32は、付加画像1における第2要素画像EMM22のXSYS座標系における表示位置(XE2,YE2)を、上記の(7)式及び(8)式により算出する。引き続き、マスク画像作成部32は、第2の要素画像EMM22の拡大又は縮小の倍率M22を、次の(10)式により算出する。
M22=R22・LXW/LXE22 …(10)
次に、マスク画像作成部32は、上記の第1の要素画像EMM21の場合と同様にして、要素画像EMM22をXEYE座標系において原点OEを中心として倍率M22で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM22をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM22を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図15(B)に示されるようなマスク画像MMM22が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM22のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMMを重ねた合成画像SMM22を作成する。こうして作成された合成画像SMM22が図16(B)に示されている。
以後、マスク画像作成部32は、時間T22にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM22を、着目像WMMの大きさを表す長さ値LXWに対する比率R22の大きさで表示するマスク画像を生成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM22を倍率M22で拡大又は縮小したマスク画像を重ねた合成画像を、時間T22にわたって作成する。
こうして、時間T22が経過すると、マスク画像作成部32は、付加画像1における第3要素画像EMM23のXSYS座標系における表示位置(XE2,YE2)を、上記の(7)式及び(8)式により算出する。引き続き、マスク画像作成部32は、第3の要素画像EMM23の拡大又は縮小の倍率M23を、次の(11)式により算出する。
M23=R23・LXW/LXE23 …(11)
次に、マスク画像作成部32は、上記の第1の要素画像EMM21の場合と同様にして、要素画像EMM23をXEYE座標系において原点OEを中心として倍率M23で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM23をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM23を、XSYS座標系における座標位置(XE2,YE2)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図15(C)に示されるようなマスク画像MMM23が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM23のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM23を重ねた合成画像SMM23を作成する。こうして作成された合成画像SMM23が図16(C)に示されている。
以後、マスク画像作成部32は、時間T23にわたって、着目像WMMの口の位置を表示位置として、要素画像EMM23を、着目像WMMの大きさを表す長さ値LXWに対する比率R23の大きさで表示するマスク画像を生成する。この結果、合成画像作成部33は、原画像の着目像WMMにおける口の位置に要素画像EMM23を倍率M23で拡大又は縮小したマスク画像を重ねた合成画像を、時間T23にわたって作成する。
こうして、時間T23が経過すると、マスク画像作成部32は、上記と同様にして、上述した要素画像EMM21を使用したマスク画像、要素画像EMM22を使用したマスク画像及び要素画像EMM23を使用したマスク画像の時間順次の作成を繰り返す。そして、合成画像作成部33は、原画像データOMDとマスク画像データMMDとに基づいて、原画像における着目像の口の位置に指定の大きさに拡大又は縮小された要素画像EMM21、要素画像EMM22、及び要素画像EMM23からなるマスク画像が重ねられた合成画像を逐次作成する。
以上のようにして作成された合成画像の情報データSMDは、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMを表示部13に表示したり、送受信部22を介して、通話相手先へ送信したりする。
《「3」キー押下に伴うオブジェクト出力例》
次に、「3」キー押下に伴うオブジェクト出力例を説明する。この例は、上述の図10におけるマスク画像指定に対応するものであり、要素画像及び着目像に対する表示位置が固定的な表示である付加画像1、並びに、要素画像及び着目像に対する表示位置が時間的に変化する付加画像2を同時表示するマスク画像が、原画像に重ねて表示される合成画像の例である。
ここで、付加画像1における要素画像EMM31は、図17(A)に示されるものであるものとする。また、付加画像2における第1要素画像EMM32は、図17(B)に示されるものであり、また、付加画像2における第2要素画像EMM33は、図17(C)に示されるものであるものとする。
なお、図10の記述で指定されている「大きさ情報」に応じた大きさで要素画像EMM31,EMM32,EMM33が表示される。すなわち、要素画像EMM31は着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示される。また、要素画像EMM32は長さ値LXWに対する比率R32の大きさで表示される。さらに、要素画像EMM33は着目像WMMの大きさを表す長さ値LXWに対する比率R33の大きさで表示される。
利用者により「3」キーが押下されると、上述した「1」キー又は「2」キーが押下された場合と同様にして、基本制御部29がテンキーにおけるいずれかのキーが押下されたと認識し、キー入力データをオブジェクト出力部30のマスク画像作成部32及び音データ通知部35へ通知する。上述したように、「3」キーに割り当てられているのはマスク画像であることから、音データ通知部35はオブジェクト出力のための動作を行わず、次のキー入力データを待つ。一方、マスク画像作成部32は、オブジェクト登録テーブル49を参照して、マスク画像情報ファイル473の内容を読み出す。
着目像情報抽出部31は、上述した「1」キー又は「2」キーが押下された場合と同様にして、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32へ通知する。この着目像情報データWMDを受けたマスク画像作成部32は、まず、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)を、次の(12)式及び(13)式により算出する。
XE31=(LXW/LX0)(XW31・cosθW+YW31・sinθW)+XSW …(12)
YE31=(LXW/LX0)(−XW31・sinθW+YW31・cosθW)+YSW …(13)
次に、マスク画像作成部32は、第1の要素画像EMM 31 の拡大又は縮小の倍率M 31 を、次の(14)式により算出する。
M31=R31・LXW/LXE31 …(14)
次いで、マスク画像作成部32は、上述した「1」キー又は「2」キーが押下された場合と同様にして、要素画像EMM31をXEYE座標系において原点OEを中心として倍率M31で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM31をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM31を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
次に、マスク画像作成部32は、付加画像1における第1要素画像EMM31の場合と同様に、付加画像2における第2要素画像EMM32のXSYS座標系における表示位置(XE32,YE32)を、次の(15)式及び(16)式により算出する。
XE32=(LXW/LX0)(XW32・cosθW+YW32・sinθW)+XSW …(15)
YE32=(LXW/LX0)(−XW32・sinθW+YW32・cosθW)+YSW …(16)
次に、マスク画像作成部32は、第2の要素画像EMM32の拡大又は縮小の倍率M32を、次の(17)式により算出する。
M32=R32・LXW/LXE32 …(17)
次いで、マスク画像作成部32は、上記の要素画像EMM31の場合と同様にして、要素画像EMM32をXEYE座標系において原点OEを中心として倍率M32で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM32をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM 32 を、XSYS座標系における座標位置(XE32,YE32)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図18(A)に示されるようなマスク画像MMM31が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM31のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM31を重ねた合成画像SMM31を作成する。こうして作成された合成画像SMM31が図19(A)に示されている。
以後、マスク画像作成部32は、時間T31にわたって、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM32を長さ値LXWに対する比率R32の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を、時間T31にわたって作成する。
こうして、時間T31が経過すると、マスク画像作成部32は、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)及び倍率M31を、上記の(12)式〜(14)式により算出する。そして、マスク画像作成部32は、XEYE座標系において原点OEを中心として、要素画像EMM31を倍率M31で拡大又は縮小した後に角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM 31 を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
次に、マスク画像作成部32は、付加画像1における第1要素画像EMM 31 の場合と同様に、付加画像2における要素画像EMM33のXSYS座標系における表示位置(XE33,YE33)を、次の(18)式及び(19)式により算出する。
XE33=(LXW/LX0)(XW33・cosθW+YW33・sinθ)+XSW …(18)
YE33=(LXW/LX0)(−XW33・sinθW+YW33・cosθ)+YSW …(19)
次に、マスク画像作成部32は、第3要素画像EMM33の拡大又は縮小の倍率M33を、次の(20)式により算出する。
M33=R33・LXW/LXE33 …(20)
次いで、マスク画像作成部32は、上記の第1要素画像EMM31の場合と同様にして、要素画像EMM33をXEYE座標系において原点OEを中心として倍率M33で拡大又は縮小を行う。引き続き、マスク画像作成部32は、拡大又は縮小された要素画像EMM33をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM33を、XSYS座標系における座標位置(XE33,YE33)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図18(B)に示されるようなマスク画像MMM32が作成される。そして、マスク画像作成部32は、作成されたマスク画像MMM32のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM32を重ねた合成画像SMM32を作成する。こうして作成された合成画像SMM32が図19(B)に示されている。
以後、マスク画像作成部32は、時間T32にわたって、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM33を長さ値LXWに対する比率R33の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を、時間T32にわたって作成する。
こうして、時間T32が経過すると、マスク画像作成部32は、上記と同様にして、上述した要素画像EMM31及び要素画像EMM32を使用したマスク画像、並びに要素画像EMM31及要素画像EMM33を使用したマスク画像の時間順次の作成を繰り返す。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を逐次作成する。
以上のようにして作成された合成画像の情報データSMDは、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMを表示部13に表示したり、送受信部22を介して、通話相手先へ送信したりする。
《「4」キー押下に伴うオブジェクト出力例》
次に、「4」キー押下に伴うオブジェクト出力例を説明する。この例は、音データファイル481に格納された音データを再生して出力する例である。
利用者により「4」キーが押下されると、基本制御部29がテンキーにおけるいずれかのキーが押下されと認識し、キー入力データをオブジェクト出力部30のマスク画像作成部32及び音データ通知部35へ通知する。この通知を受けたマスク画像作成部32は、オブジェクト登録テーブル49を参照し、「4」キーに割り当てられたマスク画像オブジェクトが存在するか否かを判定する。上述のように、「4」キーに割り当てられているのは音オブジェクトであることから、マスク画像作成部32は、「4」キーに割り当てられたマスク画像が存在しないと判定する。この結果、マスク画像作成部32はオブジェクト出力のための動作を行わず、次のキー入力データを待つ。このため、合成画像作成部33には原画像データOMDのみが通知されるので、合成画像作成部33からの出力データSMDは、原画像データOMDとなる。
一方、キー入力データ通知を受けた音データ通知部35は、オブジェクト登録テーブル49を参照し、「1」キーに割り当てられた音オブジェクトが存在するか否かを判定する。この判定の結果は肯定的なものとなり、音データ通知部35は、音データファイル481の内容を音データSDDとして読み出す。そして、音データ通知部35は、読み出したオトデータを、音データSSDとして基本制御部29へ通知する。
以上のようにして合成画像作成部33及び音データ通知部35からのデータを受けた基本制御部29は、原画像OMMを表示部13に表示するとともに、音データSSDを再生して、通話用スピーカ14又は案内用スピーカ16から出力する。
以上説明したように、本実施形態では、表示部13への原画像OMMに含まれる画像の表示と同時にオブジェクトを出力するために、利用者が操作部12のテンキーにおける1つのキーを操作すると、マスク画像作成部32及び音データ通知部35において、操作されたキーが特定される。次に、特定されたキーに固有に割り当てられたオブジェクトが存在するか否かが判定される。そして、判定結果が肯定的であった場合には、特定されたキーの操作に対応するオブジェクトが、表示部13への原画像に含まれる画像の表示と同時に出力される。したがって、本実施形態によれば、原画像OMMに含まれる画像の表示と同時に出力されるオブジェクトの切換をワンタッチキー操作により行うことができ、利用者の利便性が向上する。
また、原画像OMMに含まれる画像の表示と同時に出力されるオブジェクトがマスク画像である場合には、着目像WMMの領域を原画像において特定し、原画像中における着目像WMMの領域の位置及び大きさに関連する情報を含む着目像情報WMDを抽出する。引き続き、着目像情報WMDと、オブジェクト情報部40に登録されたマスク画像情報とに基づいて、原画像OMM上に重ねて表示させるマスク画像MMMを作成する。この結果、原画像OMMにおける着目像WMMの領域の位置に関連する情報と、マスク画像情報に含まれる着目像領域の位置との関係を示す情報とにより定まる位置に、原画像OMMにおける着目像WMMの領域の大きさに関連する情報と、着目像領域の大きさの関係を示す情報とにより定まる大きさで、マスク画像情報に含まれる要素画像選択情報により選択された要素画像から構成されるマスク画像が作成される。そして、原画像上にマスク画像を重ねた合成画像が作成される。このため、原画像に対して利用者の趣味感に応じた演出を施した画像を簡易にかつ適切に作成することができる。
また、マスク画像情報に含まれる着目像領域の位置に関連する情報には、原画像OMMにおける着目像領域WMRの代表点の位置情報が含まれている。このため、マスク画像情報に含まれる着目像領域の位置との関係を示す情報を、着目像領域の代表点に対する相対位置を示す情報とすることができ、関係情報における着目像領域の位置との関係を示す情報を簡易なものとすることができる。
また、マスク画像情報に含まれる着目像領域の位置に関連する情報には、原画像OMMにおける着目像領域の傾き情報が更に含まれている。このため、原画像OMMにおける着目像領域の傾き情報を使用することにより、着目像領域の原画像における傾きに応じた位置に、所望の要素画像を重ねて表示した合成画像を作成することができる。また、表示する要素画像に着目像領域の原画像における傾きに応じた傾きを持たせて表示させることができる。
また、マスク画像情報に含まれる着目像領域の位置に関連する情報として、着目像領域の代表点を原点とし、原画像における着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報が、要素画像の表示位置情報として含まれている。このため、着目像領域の位置との関係を示す情報を、着目像領域の代表点を原点とし、着目像領域の傾きに基づいて座標軸の方向が定められる座標系における座標位置情報という簡易かつ取り扱いが容易なものとすることができる。
また、マスク画像情報が、着目像領域の大きさと要素画像EMMの表示時における大きさとの比率情報を含むことすることができる。この場合には、原画像OMM内で着目像領域の大きさが刻々と変化する場合であっても、着目像領域の大きさに適合した大きさの要素画像EMMを含むマスク画像MMMを作成することができる。
また、マスク画像情報が、要素画像EMMそれぞれの表示の実行時間情報を含むことができる。この場合には、当該実行時間情報に従ってマスク画像WMMを作成することにより、所望の要素画像EMMそれぞれを所望の時間に設定した表示実行時間だけ表示することができ、ダイナミックに変化するマスク画像MMMを作成することができる。
また、マスク画像情報が、複数の要素画像EMMの表示を時間順次に表示するとともに、時間順次表示を繰り返すことを指定する時間順次表示指定の情報を含むことができる。この場合には、当該時間順次表示指定の情報に従ってマスク画像WMMを作成することにより、原画像OMM上に複数の要素画像を所望の時間ごとに時間順次に繰り返し表示することができる。
また、マスク画像情報が、複数の要素画像表示を同時に表示することを指定する同時表示指定の情報を含むことができる。この場合には、所望の複数の要素画像EMMそれぞれが、所望の位置に表示されるマスク画像を作成することができ、様々なバリエーションのマスク画像WMMを作成することができる。
なお、上記の第1の実施形態では、原画像上にマスク画像を重ねて表示することにしたが、人物像の背景に原画像のものとは異なる画像を用いることができる。かかる変形例を、図20〜27を参照して説明する。なお、第1の実施形態の場合と同様又は同等の要素には同一符号を付し、重複する説明を省略する。
この変形例に係る携帯電話装置10’は、図20に示されるように、携帯電話本体11内部において、制御部21が、オブジェクト出力部30に代えてオブジェクト出力部30’を備えている点と、オブジェクト情報部40に代えてオブジェクト情報部40’が記憶部23に格納されている点とが、上述の第1実施形態の携帯電話装置10と相違している。
オブジェクト出力部30’は、図21に示されるように、上述した第1実施形態のオブジェクト出力部30と比べて、マスク画像作成部32に代るマスク画像作成部32’と、合成画像作成部33に代る合成画像作成部33’とを備えている点が相違している。
マスク画像作成部32’は、第1実施形態のマスク画像作成部32と同様に、着目像情報抽出部31によって抽出された着目像情報WMDと、オブジェクト情報部40’内のマスク画像情報部45’に記憶されたマスク画像情報MDDとに基づいて、マスク画像データMMDを作成する。さらに、マスク画像作成部32’は、マスク画像情報MDDに基づいて、背景像指定の有無を示す背景像指定情報と、背景像指定情報において背景像指定が有る場合における背景像データBDDの格納位置情報から成る背景像情報BPNを作成する。
合成画像作成部33’は、背景像情報BPNにより背景像指定が有る旨が通知された場合には、まず、原画像データOMD及び背景像データBDDに基づいて、背景像データBDDによる背景像上に原画像中の特定表示画像である人物像を重ねた画像を背景像含有画像として作成する。引き続き、合成画像作成部33’は、当該背景像含有画像上にマスク画像情報MDDにより表されたマスク画像を重ねた合成画像データSMD’を作成する。
一方、背景像情報BPNにより背景像指定が無い旨が通知された場合には、合成画像作成部33’は、原画像を背景像含有画像として作成する。引き続き、合成画像作成部33’は、当該背景像含有画像上にマスク画像情報MDDにより表されたマスク画像を重ねた合成画像データSMD’を作成する。この場合には、合成画像データSMD’は、第1実施形態の合成画像データSMDと同様となる。
なお、合成画像作成部33’によって作成された合成画像データSMD’は、基本制御部29へ通知されるようになっている。
オブジェクト情報部40’は、図22に示されるように、上述したオブジェクト情報部40と比べて、マスク画像情報部45に代えてマスク画像情報部45’を含む点が相違する。そして、マスク画像情報部45’は、マスク画像情報部45と比べて、マスク画像情報ファイル471に代えてマスク画像情報ファイル471’を含む点が相違する。
マスク画像情報ファイル471’は、図23に示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述、及び、背景像指定記述が格納された表示指定ファイル41’と、(ii)上述した要素画像ファイル42と、(iii)背景像データBDDを格納した背景像ファイル43とから構成されている。なお、マスク画像情報ファイル471’は、携帯電話装置10に対して、コンテンツプロバイダから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
本変形例の表示指定ファイル41’における表示指定記述の例が、図24に示されている。なお、図24に示される記述例は、第1実施形態の場合における図8の記述例に背景像指定がある旨を加えたものである。すなわち、図24の表示指定記述では、<同時表示指定>から<同時表示指定終了>までの間において、図8の付加画像1及び付加画像2についての記述に加えて、<背景像指定>及び<背景像指定終了>、並びにこれらの間における「背景像指定」の記述により同時表示すべき背景像が指定されている。ここで、「背景像指定」としては、背景像ファイル43の記憶部23における先頭アドレスBMMAが指定される。以下の説明においては、背景像ファイル43には、図25に示されるような原画像領域OMRと同一の形状及び大きさを有する背景像領域BMR内の背景像BMMを表す背景像データBDDが格納されているものとする。
なお、<背景像指定>から<背景像指定終了>までの記述が無い場合には、背景像指定が無いことを示すようになっている。また、背景像ファイル43の先頭アドレスBMMA値として「0」が記述されている場合にも、背景像指定が無いことを示すようになっている。
以下、上記のように構成された携帯電話装置10’において「1」キーが押下された場合の合成画像出力の動作について説明する。
上述した第1実施形態における合成画像の作成の動作についての前提に加えて、図26に示される原画像領域OMR内の人物像SDMが、原画像OMMから切り出されるべき特定表示画像であるものとする。
まず、第1実施形態において「1」キーが押下された場合と同様に、撮像素子25において撮像された原画像OMMのデータである原画像データOMDが、着目像情報抽出部31へ通知され、着目像情報抽出部31により着目像情報データWMDが作成される。こうして作成された着目像情報データWMDは、着目像情報抽出部31からマスク画像作成部32’へ通知される。
着目像情報データWMDを受けたマスク画像作成部32’は、第1実施形態において「1」キーが押下された場合と同様に、着目像情報データWMD及びマスク画像情報MDDに基づいて、マスク画像MMMAのデータを作成し、マスク画像データMMDとして合成画像作成部33’へ通知する。また、マスク画像作成部32’は、マスク画像情報MDDに基づいて、背景像指定が有るか否か、及び、背景像指定が有る場合における背景像ファイル43の先頭アドレスから成る背景像情報BPNを作成し、合成画像作成部33’へ通知する。ここで、表示指定ファイル41’には、上述した図24のように、背景像指定が記述されているので、背景像情報BPNとしては、背景像指定が有る旨、及び、背景像ファイル43の先頭アドレスが含まれることになる。
マスク画像データMMD、原画像データOMD及び背景像情報BPNを受けた合成画像作成部33’は、まず、背景像情報BPNに基づいて、背景像指定が有るか否かを判定する。今回の場合は、上記のように背景像指定があるので、判定結果は肯定的となる。引き続き、合成画像作成部33’は、背景像情報BPN中の背景像ファイル43の先頭アドレスを利用して、背景像ファイル43から背景像データBDDを読み出す。
こうして、マスク画像データMMD及び原画像データOMDに加えて背景象データBDDを取得した合成画像作成部33’は、次のようにして、合成画像を作成する。
まず、合成画像作成部33’は、図27(A)に示される原画像OMMから、図27(B)に示されるように、特定表示画像である人物像SDMを切り出す。かかる切り出しは、人物像一般の特徴から人物像SDMの輪郭を特定した後、当該輪郭内の画像を抽出することにより行われる。
引き続き、合成画像作成部33’は、特定表示像SDMを、原画像OMRにおける場合と同一の位置に同一の大きさで、図27(C)に示される背景像BMMに重ねる。この結果、図27(D)に示される背景付加像BAMが作成される。
次に、合成画像作成部33’は、図27(E)に示されるマスク画像MMMAを背景付加像BAMに重ねる。この結果、図27(F)に示される合成画像SMMA’が作成される。
こうして作成された合成画像SMMA’のデータSMD’は、合成画像作成部33’から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMA’を表示部13に表示したり、送受信部22を介して、通話相手先へ送信したりする。
なお、表示指定ファイル41’に背景像指定が記述されていない場合や、背景像データBDDの格納先頭アドレスが「0」であった場合には、マスク画像作成部32’は、背景像指定が無い旨のみを含む背景像情報BPNを作成し、合成画像作成部33’へ通知する。こうした背景像情報BPNを受けた合成画像作成部33’は、背景像指定が無いと判定し、原画像OMMにマスク画像MMMAを重ねて、合成画像を作成する。この結果、第1実施形態における第1の合成画像作成例の場合と同一の合成画像SMMAが作成される。
また、上記では、表示指定ファイル41’にマスク画像指定が記述されておらず、背景像指定のみが記述されている場合には、合成画像作成部33’においては、背景付加像BAMが最終的な合成画像として作成される。
また、上記では、第1実施形態において「1」キーが押下された場合と同様のマスク画像指定に加えて、背景像指定をした例を説明したが、「2」キーや「3」キーが押下された場合と同様のマスク画像指定に加えて、背景像指定をすることが可能なことは勿論である。
<第2実施形態>
以下、本発明の第2実施形態を、図28〜図32を参照して説明する。なお、第1の実施形態の場合と同様又は同等の要素には同一符号を付し、重複する説明を省略する。
第2実施形態に係る携帯電話装置10”は、図28に示されるように、携帯電話本体11内部において、制御部21が、オブジェクト出力部30に代えてオブジェクト出力部30”を備えている点と、オブジェクト情報部40に代えてオブジェクト情報部40”が記憶部23に格納されている点とが、上述の第1実施形態の携帯電話装置10と相違している。
オブジェクト出力部30”は、図29に示されるように、上述した第1実施形態のオブジェクト出力部30と比べて、マスク画像作成部32に代えてマスク画像作成部32”を備える点と、音データ通知部35を備えていない点が相違している。
マスク画像作成部32”は、第1実施形態のマスク画像作成部32と同様に、着目像情報抽出部31によって抽出された着目像情報WMDと、オブジェクト情報部40”内のマスク画像情報ファイル47”に記憶されたマスク画像情報MDDとに基づいて、当初マスク画像を作成する。また、マスク画像作成部32”は、基本制御部29から通知されたキー入力データKDTがマスク画像更新キーの押下によって発生したものである場合には、着目像情報WMDとマスク画像情報MDDとに基づいて、更新マスク画像を作成する。そして、マスク画像作成部32”は、当初マスク画像又は更新マスク画像のデータを、マスク画像データMMDとして、合成画像作成部33へ向けて送る。なお、当初マスク画像又は更新マスク画像の作成については、後述する。
オブジェクト情報部40”は、マスク画像情報ファイル47”を含んでいる。このマスク画像情報ファイル47”は、図30に示されるように、(i)原画像における着目像領域と関連してどのようにマスク画像を表示するかを指定する表示指定記述が格納された表示指定ファイル41”と、(ii)表示指定ファイル41”における表示指定記述によって指定される要素画像データが格納された要素画像ファイル42”とから構成されている。なお、マスク画像情報ファイル47”は、携帯電話装置10に対して、コンテンツプロバイダから無線回線を介して提供されたり、利用者がパーソナルコンピュータ等により作成した後に記憶媒体や不図示の外部インターフェースを介して提供されたりする。
本実施形態の表示指定ファイル41”における表示指定記述の例が、図31に示されている。なお、図31に示される記述例は、第1実施形態の場合における図10の記述例に<付加画像2指定>における各要素画像の表示時間指定が削除されたものとなっている。すなわち、図31の表示指定記述では、<同時表示指定>と<同時表示指定終了>との間における<付加画像1指定>及び<付加画像2指定>によって指定される付加画像1及び付加画像2が同時に表示されることが指定される。
付加画像1は、<付加画像1指定>と<付加画像1指定終了>と間の記述によって指定される。この指定内容は、図10における場合と同様である。また、付加画像2では、<付加画像2指定>と<付加画像2指定終了>と間の記述によって、第1の要素画像の表示指定(以下、「第1表示指定」と呼ぶ)及び第2の要素画像に関する表示指定(以下、「第2表示指定」と呼ぶ)がなされている。
付加画像2指定における第1表示指定では、「表示位置指定」によって指定されるXWYW座標系の座標位置(XW32,YW32)に、「要素画像指定」によって指定される要素画像EMM32を表示させることが指定される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM32のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R32の長さで表示させることが指定される。
付加画像2指定における第2表示指定では、「表示位置指定」によって指定されるXWYW座標系の座標位置(XW33,YW33)に、「要素画像指定」によって指定される要素画像EMM33を表示することが指定される。また、「大きさ指定」によって指定されるように、表示時における要素画像EMM33のXW軸方向の最大幅が、着目像領域WMRの大きさLXWに対して比率R33の長さとされる。
以上の図31に示される記述例では、マスク画像作成部32”は、まず、要素画像EMM31及び要素画像EMM32を同時表示する画像を、当初マスク画像として作成する。引き続き、利用者が操作部12における画像更新キーを押下した通知を受けると、マスク画像作成部32”は、要素画像EMM31及び要素画像EMM33を同時表示する画像を、更新マスク画像として作成する。この後、利用者が操作部12における画像更新キーを押下した通知を更に受けると、マスク画像作成部32”は、要素画像EMM31及び要素画像EMM32を同時表示する画像(すなわち、当初マスク画像と同一の画像)を、更新マスク画像として作成する。以後、利用者が操作部12における画像更新キーを押下した通知を受けるごとに、マスク画像作成部32”は、次に表示すべき更新画像を作成する。
以下、上記のように構成された携帯電話装置10”における合成画像出力の動作について説明する。
上述した第1実施形態における合成画像の作成の動作についての前提に加えて、マスク画像作成部32”は、マスク画像情報ファイル47”の内容を、マスク画像情報MDDとして取得済みであるものとする。また、マスク画像作成部32”は、テンキーにおけるいずれかのキーが押下されたことに由来するキー入力データを基本制御部29から受けた場合、いずれのキーの押下に由来するキー入力データであったとしても、マスク画像更新キーが押下されたと認識するようになっているものとする。
まず、着目像情報抽出部31は、第1実施形態の場合と同様にして、着目像情報データWMDとして、着目像領域の位置情報としての位置(XSW,YSW)を、着目像領域の傾き情報としての角度θWを、着目像領域の大きさ情報としての長さLXWを、マスク画像作成部32”へ通知する。この着目像情報データWMDを受けたマスク画像作成部32”は、まず、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)を、上述した(12)式及び(13)式により算出するとともに、第1の要素画像EMM 31 の拡大又は縮小の倍率M31を、上述した(14)式により算出する。
次いで、マスク画像作成部32”は、要素画像EMM31をXEYE座標系において原点OEを中心として倍率M31で拡大又は縮小を行う。引き続き、マスク画像作成部32”は、拡大又は縮小された要素画像EMM31をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM31を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
次に、マスク画像作成部32”は、付加画像2における第2要素画像EMM32のXSYS座標系における表示位置(XE32,YE32)を、上述した(15)式及び(16)式により算出するとともに、第2の要素画像EMM32の拡大又は縮小の倍率M32を、上述した(17)式により算出する。
次いで、マスク画像作成部32”は、要素画像EMM31をXEYE座標系において原点OEを中心として倍率M31で拡大又は縮小を行う。引き続き、マスク画像作成部32”は、拡大又は縮小された要素画像EMM31をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM 32 を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図32(A)に示されるような当初のマスク画像MMM31が作成される。そして、マスク画像作成部32”は、作成されたマスク画像MMM31のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM31を重ねた合成画像SMM31を作成する。こうして作成された当初の合成画像SMM31が図33(A)に示されている。
以後、マスク画像作成部32”は、テンキーにおけるいずれかのキーの押下によるマスク画像更新の指令がなされるまで、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM32を長さ値LXWに対する比率R32の大きさで表示マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を作成する。
この後、利用者により、テンキーにおけるいずれかのキーが押下されると、基本制御部29は、キー入力データをマスク画像作成部32”へ通知する。この通知を受けると、マスク画像作成部32”は、付加画像1における第1要素画像EMM31のXSYS座標系における表示位置(XE31,YE31)及び倍率M31を、上述した(12)式〜(14)式により算出する。そして、マスク画像作成部32”は、XEYE座標系において原点OEを中心として、要素画像EMM31を倍率M31で拡大又は縮小した後に角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM 31 を、XSYS座標系における座標位置(XE31,YE31)が原点OEの位置となるようにXSYS座標系に配置する。
次に、マスク画像作成部32”は、付加画像1における第1要素画像EMM 31 の場合と同様に、付加画像2における第3要素画像EMM33のXSYS座標系における表示位置(XE33,YE33)及び第3要素画像EMM33の拡大又は縮小の倍率M33を、上述した(18)〜(20)式により算出する。
次いで、マスク画像作成部32”は、上記の第1要素画像EMM31の場合と同様にして、要素画像EMM33をXEYE座標系において原点OEを中心として倍率M33で拡大又は縮小を行う。引き続き、マスク画像作成部32”は、拡大又は縮小された要素画像EMM33をXEYE座標系において原点OEを中心として角度θWだけ回転させる。そして、拡大又は縮小され、かつ、回転された要素画像EMM33を、XSYS座標系における座標位置(XE33,YE33)が原点OEの位置となるようにXSYS座標系に配置する。
以上の結果、図32(B)に示されるような更新後のマスク画像MMM32が作成される。そして、マスク画像作成部32”は、作成されたマスク画像MMM32のデータをマスク画像データMMDとして合成画像作成部33へ通知する。
このマスク画像データMMD及び原画像データOMDを受けた合成画像作成部33は、原画像OMM上にマスク画像MMM32を重ねた合成画像SMM32を作成する。こうして作成された更新後の合成画像SMM32が図33(B)に示されている。
以後、テンキーにおけるいずれかのキーが押下されるまで、マスク画像作成部32”は、着目像WMMと指定された関係にある位置に、要素画像EMM31を着目像WMMの大きさを表す長さ値LXWに対する比率R31の大きさで表示し、かつ、要素画像EMM33を長さ値LXWに対する比率R33の大きさで表示する更新マスク画像を生成する。そして、合成画像作成部33は、マスク画像作成部32”から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた更新合成画像を作成する。
この後、テンキーにおけるいずれかのキーが押下されるごとに、マスク画像作成部32”は、上記と同様にして、上述した要素画像EMM31及び要素画像EMM32を使用したマスク画像、並びに要素画像EMM31及要素画像EMM33を使用したマスク画像の作成を順次繰り返す。そして、合成画像作成部33は、マスク画像作成部32”から通知されたマスク画像データMMDが表すマスク画像が原画像上に重ねられた合成画像を逐次作成する。
以上のようにして作成された合成画像の情報データSMDは、合成画像作成部33から基本制御部29へ通知される。この合成画像情報データを受けた基本制御部29は、予め利用者が操作部12を操作して行った指令に従って、合成画像SMMを表示部13に表示したり、送受信部22を介して、通話相手先へ送信したりする。
以上説明したように、本実施形態では、まず、着目像WMMの領域を原画像OMMにおいて特定し、原画像中における着目像WMMの領域の位置及び大きさに関連する情報を含む着目像情報WMDを抽出する。引き続き、着目像情報WMDと、オブジェクト情報部40”に登録された当初マスク画像情報とに基づいて、原画像OMM上に重ねて表示させる当初マスク画像を作成する。そして、合成画像作成部33が、原画像OMM上に当初マスク画像を重ねた当初合成画像を作成する。
こうして作成された当初合成画像の表示中に、操作部12のテンキーにおけるいずれかのキーが押下されると、マスク画像作成部32”が、着目像情報と、オブジェクト情報部40”に登録された更新マスク画像情報とに基づいて、原画像OMM上に重ねて表示させる更新マスク画像を作成する。そして、合成画像作成部33が、原画像OMM上に更新マスク画像を重ねた更新合成画像を作成する。
以後、操作部12のテンキーにおけるいずれかのキーが押下されるごとに、マスク画像作成部32”が、着目像情報と、次の更新マスク画像情報とに基づいて、原画像OMM上に重ねて表示させる次の更新マスク画像を作成する。そして、合成画像手段が、原画像OMM上に当該次の更新マスク画像を重ねた更新合成画像が作成される。
したがって、本実施形態によれば、テンキーにおけるいずれかのキーの押下ごとに、予め表示順が定められた複数のマスク画像が順次、原画像OMMと合成された更新合成画像を表示手段に表示することができる。
また、本実施形態によれば、テンキーにおける各キーに固有にオブジェクトが割り当てられていることによる効果、及び、時間順次に行われるマスク画像の自動的な切換の効果を除いて、マスク画像作成に関し、上述した第1実施形態と同様の効果を奏する。
なお、上記の第2実施形態では、オブジェクト情報部40”には、マスク画像情報ファイル47”のみを含むことにしたが、複数のマスク画像情報ファイルを含むようにすることができる。
また、上記の第2実施形態では、テンキーのいずれのキーもマスク画像更新キーとして機能することにしたが、マスク画像更新キーとして機能するキーの種類及び個数は任意に設定することができる。
また、上記の第1及び第2実施形態では、出力オブジェクトの切換用のキーをテンキーにおけるキーとしたが、他の種類のキーとすることもできる。
また、上記の第1及び第2実施形態では、原画像を動画としたが、原画像が静止画であっても、本発明を適用することができる。
また、上記の第1及び第2実施形態では、いわゆる自分撮りの態様で撮像される撮像光学系18を介した光の結像結果を原画像としたが、いわゆる相手撮りの態様で撮像される撮像光学系19を介した光の結像結果を原画像とすることもできる。さらに、記憶部23に記憶されている画像を原画像とすることもできる。
また、上記の第1及び第2実施形態では、出力オブジェクトをマスク画像とした場合に、原画像における着目像領域における着目物体について奥行きに沿った構造を考慮せず、マスク画像に利用する要素画像も2次元モデルで作成されたものとした。これに対し、着目像領域における着目物体について奥行きに沿った構造を考慮し、マスク画像に利用する要素画像を3次元モデルで作成されたものとすることもできる。この場合には、着目物体が、表示面と平行な軸の回りの回転成分を有する動きをしたときであっても、その回転に追従しつつ違和感のないマスク画像を作成することができる。
また、同時に表示する要素画像の数は任意である。さらに、時間順次又はキー操作順次に表示を行う要素画像の数も任意である。
また、上記の第1及び第2実施形態では、マスク画像情報ファイルが、表示指定ファイルと、要素画像ファイルとから構成されることとした。これに対して、マスク画像情報ファイルが、要素画像プレビューファイルを更に有することとし、要素画像のプレビューを指定された場合には、当該要素画像プレビューファイルを参照して、表示部13において要素画像のプレビューを行うこととしてもよい。
また、着目像情報に基づいて着目像領域において所定現象が発生したことを判定することとし、当該所定現象が発生したことをトリガとしてマスク画像の作成を開始させることもできる。例えば、特定人物の顔像を着目画像としたときに、瞼が閉じられたときに、目の位置から涙が流れる合成画像を作成することとすることもできる。
また、上記の第1及び第2実施形態では、携帯電話装置に本発明を適用したが、他の種類の移動通信端末装置にも本発明を適用することができる。さらに、パーソナルコンピュータ等の一般の電子機器にも本発明を適用することができる。
10,10’,10”…携帯電話装置(情報処理装置)、11…携帯電話本体、12…操作部、13…表示部(表示手段)、14…通話用スピーカ(音出力手段)、15…マイクロフォン、16…案内用スピーカ(音出力手段)、17…アンテナ、18,19…撮像光学系(撮像手段の一部)、21…制御部、22…送受信部(送信手段)、23…記憶部、24…切換光学系(撮像手段の一部)、25…撮像素子(撮像手段の一部)、29…基本制御部、30,30’,30”…オブジェクト出力部(オブジェクト出力手段)、31…着目像情報抽出部(着目像情報抽出手段)、32,32’,32”…マスク画像作成部(マスク画像作成手段、操作キー特定手段)、33,33’…合成画像作成部(合成画像作成手段)、35…音データ通知部(操作キー特定手段)、40,40’,40”…オブジェクト情報部、41,41’,41”…表示指定ファイル、42,42”…要素画像ファイル、43…背景像ファイル、45,45’…マスク画像情報部、46…音データ部、47,47’,47”…マスク画像情報ファイル、48…音データファイル、49…オブジェクト登録テーブル。