JP2015015633A - 情報処理装置、通信相手の決定方法、コンピュータプログラム - Google Patents

情報処理装置、通信相手の決定方法、コンピュータプログラム Download PDF

Info

Publication number
JP2015015633A
JP2015015633A JP2013141729A JP2013141729A JP2015015633A JP 2015015633 A JP2015015633 A JP 2015015633A JP 2013141729 A JP2013141729 A JP 2013141729A JP 2013141729 A JP2013141729 A JP 2013141729A JP 2015015633 A JP2015015633 A JP 2015015633A
Authority
JP
Japan
Prior art keywords
owner
image
person
face image
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013141729A
Other languages
English (en)
Other versions
JP6173076B2 (ja
JP2015015633A5 (ja
Inventor
正行 石澤
Masayuki Ishizawa
正行 石澤
奥谷 泰夫
Yasuo Okuya
泰夫 奥谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013141729A priority Critical patent/JP6173076B2/ja
Priority to US14/322,309 priority patent/US9406136B2/en
Publication of JP2015015633A publication Critical patent/JP2015015633A/ja
Publication of JP2015015633A5 publication Critical patent/JP2015015633A5/ja
Application granted granted Critical
Publication of JP6173076B2 publication Critical patent/JP6173076B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】通信相手となる通信機器を容易に特定可能な情報処理装置を提供する。【解決手段】情報処理装置100は、撮像部109と、本情報処理装置100の所有者を含む2以上の人物の顔画像を、各人物が所有する通信機器に関連付けて記憶する記憶部113と、撮像部109により撮像された複数の人物の顔画像を含む画像から検出される各人物の顔画像と、記憶部113に記憶された顔画像とに基づいて、検出した顔画像に関連付けられた人物を特定する特定部110と、特定した人物に所有者が含まれると、該所有者を除いた特定した人物から、通信相手となる通信機器を所有する人物を受信者として決定する決定部112と、を備える。【選択図】図1

Description

本発明は、情報処理装置により、通信相手となる通信機器を特定する技術に関する。
スマートホン等の携帯型の情報処理装置は、カメラ等の撮像装置を搭載したものが一般的である。このような情報処理装置では、撮像装置で撮像した画像から、顔認識技術により人物を特定することができる。また、特定した人物が所有する通信機器を通信相手として特定する技術が、特許文献1に開示されている。特許文献1では、情報処理装置に、予め、顔画像と、この顔画像の人物が所有する通信機器との対応関係を記憶しておく。情報処理装置は、撮像装置により撮像した画像により認識した顔画像と記憶内容とから、この顔画像の人物が所有する通信機器を特定する。特定した通信機器が、該情報処理装置の通信相手となる。
特開2011−172089号公報
情報処理装置の所有者は、該情報処理装置の表示画面に表示された画像を、所有者以外の人物と一緒に閲覧することがある。このときに、この情報処理装置から所有者以外の人物が所有する通信機器へ、閲覧中の画像の画像データを送信することがある。
例えば、ユーザAが所有するスマートホン(スマートホンA)から、ユーザAとともに写真を閲覧するユーザBの所有するスマートホン(スマートホンB)へ、ユーザAが、閲覧中の写真を提供する場合がある。このような場合、特許文献1では、ユーザAは、スマートホンAにより、ユーザBを所定の撮像条件で撮像してスマートホンBを通信相手として特定する必要がある。このような手順は、写真の閲覧を一旦中止して、撮像条件を整えてからユーザBを撮像するために、ユーザAにとって煩わしい作業となる。
本発明は、このような従来の問題を解決するため、容易に通信相手となる通信機器を特定可能な情報処理装置を提供することを主たる課題とする。
上記課題を解決する本発明の情報処理装置は、撮像手段と、本情報処理装置の所有者を含む2以上の人物の顔画像を、各人物が所有する通信機器に関連付けて記憶する記憶手段と、前記撮像手段により撮像された複数の人物の顔画像を含む画像から検出される各人物の顔画像と、前記記憶手段に記憶された顔画像とに基づいて、検出した顔画像に関連付けられた人物を特定する特定手段と、特定した人物に前記所有者が含まれると、該所有者を除いた前記特定した人物から、通信相手となる通信機器を所有する人物を受信者として決定する決定手段と、を備えることを特徴とする。
本発明によれば、煩雑な操作を行うことなく、撮像した画像から、容易に通信相手となる通信機器を特定することができる。
(a)は情報処理装置のハードウェア構成図、(b)は情報処理装置の機能ブロック図。 登録テーブルの例示図。 (a)、(b)は情報処理装置の利用場面の説明図。 (a)、(b)は受信者を特定する処理を表すフローチャート。 (a)〜(d)は運用形態の説明図。 情報処理装置の機能ブロック図。 (a)、(b)は受信者を特定する処理を表すフローチャート。 (a)、(b)は合成画像の作成処理の説明図。
以下、本発明の実施の形態を図面を参照しつつ詳細に説明する。本実施形態の記載はあくまでも例示であり、本発明の範囲をそれらのみに限定する趣旨のものではない。
[第1実施形態]
図1(a)は、本実施形態の情報処理装置100のハードウェア構成図である。情報処理装置100は、例えば、スマートホンやタブレットPC(Personal Computer)等の通信機能及び撮像機能を備えた機器により実現される。
情報処理装置100は、CPU(Central Processing Unit)101により各構成要素が制御される。CPU101は、そのための演算や論理判断等を行うために、ROM(Read Only Memory)102から読み出したコンピュータプログラムを、RAM(Random Access Memory)103を作業領域として実行する。ROM102は、このような各構成要素の制御のための各種コンピュータプログラムを記憶するメモリである。なお、CPU101は、コンピュータプログラムを、情報処理装置100に接続される外部記憶装置からRAM103にロードして実行するようにしてもよい。
HDD(Hard Disk Drive)104は、外部記憶装置の一例である。HDD104は、上記のコンピュータプログラムや、各種電子データを記憶する。なお、外部記憶装置は、HDD104の他に、例えば、メディア(記録媒体)と、当該メディアへのアクセスを実現するための外部記憶ドライブとで実現してもよい。このようなメディアには、例えば、フレキシブルディスク(FD)、CD−ROM、DVD、USBメモリ、MO、フラッシュメモリ等を用いることができる。また、外部記憶装置は、ネットワークで接続されたサーバ装置等に設けられていてもよい。
タッチパネル105は、ディスプレイとタッチパッド等の位置入力装置とが組み合わされた入出力装置である。タッチパネル105は、各種画像の表示を行い、且つユーザの操作による指示を取得する。通信インタフェース(I/F)106は、公知の通信技術により、他の情報処理装置や通信機器、外部記憶装置等との間で、有線又は無線による双方向の通信を行う。本実施形態では一例として、無線LAN(Local Area Network)を介して通信相手とのデータの送受信を可能とする。他の通信機器との間では、直接の通信以外に、中継装置を介した間接的な通信も可能である。カメラ107は、人物の画像や映像を取得する撮像装置である。本実施形態のカメラ107は、情報処理装置100の背面側に備えられるメインカメラ及びタッチパネル105のディスプレイ側に備えられるインカメラである。つまり、インカメラは、ディスプレイ(表示画面)を閲覧しようとする人物の顔を撮影可能な位置及び方向に設置されている。
CPU101、ROM102、RAM103、HDD104、タッチパネル105、通信I/F106、及びカメラ107は、システムバス108を介して相互にデータの送受信が可能に接続される。
図1(b)は、情報処理装置100に形成される機能を表す機能ブロック図である。各機能は、CPU101がROM102からコンピュータプログラムを読み出して実行することで実現される。情報処理装置100には、撮像部109、特定部110、距離データ取得部111、決定部112、記憶部113、入出力部114、送信部115、及び判定部116が形成される。なお、本実施形態では各機能ブロックをソフトウェアにより実現することとしているが、ハードウェアにより実現するようにしてもよい。
情報処理装置100は、本情報処理装置100の所有者を、カメラ107により撮像した2以上の人物が写る画像から特定し、また、所有者を特定した画像に同時に写る所有者以外の人物を特定する。特定した所有者以外の人物の中から、受信者を決める。この受信者の所有する通信機器が通信相手となる。
撮像部109は、カメラ107により実現され、カメラ107により撮像した画像の画像データを特定部110に送信する。
特定部110は、撮像部109から受信した画像データによる画像内の人物の特定処理を行う。特定部110は、公知の顔認識技術により顔画像を検出して人物の特定を行う。また、特定部110は、検出した顔画像の追尾が可能である。特定部110は、過去に取得した画像に所有者の顔画像が写り込んでいれば、追尾を行い、所有者として特定することができる。
距離データ取得部111は、特定部110で特定された人物の、情報処理装置100(カメラ107)からの距離を距離データとして取得する。本実施形態では、距離データ取得部111は、撮像部109から受信した画像データによる画像内の顔画像の面積を、距離を表す距離データとして取得する。
なお、距離データ取得部111は、情報処理装置100と画像内の人物までの距離が特定できればどのような方法で距離データを取得してもよい。例えば、画像内の顔画像への光の当たり方からも距離データを取得可能である。この場合、各顔画像の存在する領域の明るさ(照度)を検出し、明るさの度合いを距離データとしてもよい。情報処理装置100の周辺の明るさによっては、人物の顔を照らすような照明機構を情報処理装置100に設け、人物の顔を照らして明るさの違いを検出し易くしてもよい。また、画像内の顔画像及び身体画像の一部の重なり方を検出し、重なり方により距離データを補正する方法を組み合わせてもよい。例えば、各人物の顔画像の重なりにより、各人物の情報処理装置100からの距離の順序がわかる。距離データ取得部111は、この順序に矛盾が生じないように、距離データを補正する。所有者を特定部110による追尾により検出した場合には、過去に取得した所有者が写る画像から距離データを取得してもよい。
決定部112は、距離データ取得部111で取得した距離データを用いて、特定部110で特定した人物の中から受信者を決定する。決定部112は、所有者と同程度の距離にいる人物を距離データにより特定し、特定した人物を受信者とする。距離データが顔画像の面積の場合、決定部112は、所有者の顔画像の面積との差が所定値以内の顔画像の面積を有する人物を受信者に決定する。距離データが顔画像の照度の場合、決定部112は、所有者の顔画像の照度との差が所定値以内の顔画像の照度を有する人物を受信者に決定する。
記憶部113は、RAM103やHDD104により実現され、情報処理装置100に登録された人物に関する登録テーブルを記憶する。登録テーブルは、撮像部109から受信した画像データによる画像内の人物の特定に用いられる。図2は、登録テーブルの例示図である。登録テーブルには、情報処理装置100に登録される所有者やその他の人物である2以上のユーザの登録データが記録される。登録データには、ユーザの顔画像(登録顔画像)309、ユーザを識別するためのユーザID310、ユーザが所有する通信機器を識別するためのデバイスID311、ユーザが所有者か否かを表すフラグ312がある。図2の例では、ユーザAが所有者として登録されている(フラグ312がオンになっている。)。登録顔画像309にユーザID310、デバイスID311、及びフラグ312が関連付けられている。登録顔画像309により、ユーザID310、デバイスID311、及びフラグ312が特定可能になっている。
例えば、特定部110は、検出した顔画像と登録テーブルに登録された登録顔画像309とを比較することで、画像内の人物の特定を行う。特定部110は、公知の画像マッチング技術により、検出した顔画像と登録顔画像309との比較を行う。例えば、検出した顔画像と登録顔画像309との特徴点の対応関係により比較を行う。
入出力部114は、タッチパネル105の操作により入力される指示を送信部115に通知する。また、タッチパネル105のディスプレイに画像を表示する。
送信部115は、入出力部114から通知される所有者の指示に応じてデータの送信を行う。本実施形態では、送信部115は、入出力部114からデータの送信の指示を受信する。この指示に応じて、送信部115は、決定部112で決定した受信者が所有する通信機器にデータを送信する。
判定部116は、特定部110で特定された人物に所有者が含まれるか判定する。判定部116は、特定部110で特定された人物の登録データに含まれるフラグ312の状態を登録テーブルで確認することで、特定された人物が所有者であるか否かを判定する。
図3(a)、(b)は、情報処理装置100の利用場面の説明図である。図3(a)は、所有者であるユーザA301と所有者ではないユーザB302とが情報処理装置100のタッチパネル105に表示された画像の一覧を閲覧する様子を表す図である。
図3(b)は、情報処理装置100をユーザA301、ユーザB302側から見た図である。また、図3(b)では、タッチパネル105に表示される画像一覧を閲覧しているユーザA301、ユーザB302が、インカメラ304で撮像された画像308に写り込む様子を示す。なお、タッチパネル105にインカメラ304で撮像した画像を表示する必要はないが、インカメラ304にユーザA301、ユーザB302が写り込む様子を提示するために表示してもよい。
本実施形態では、情報処理装置100が、タッチパネル105に表示される画像の一覧中のいずれかの画像を受信者の通信機器に送信する例を説明する。図4(a)、(b)は、受信者を特定する処理を表すフローチャートである。この処理は、カメラ107で撮像する画像が更新されるたびに繰り返し実行される。この処理は、所定のアプリケーションソフトウェアの起動、情報処理装置100の起動、或いは送信する画像の所有者により選択等により開始される。また、通信I/F106を介して周辺の通信機器に問い合わせを行い、姿勢が類似している通信機器が発見された場合にのみ処理を開始してもよい。なお、「姿勢」とは、情報処理装置100及び通信機器のピッチ、ロール、向き等である。
ユーザA301、ユーザB302がタッチパネル105に表示される画像一覧を閲覧している間に、撮像部109は、インカメラ304で撮像された画像の画像データを特定部110に送信する。特定部110は、撮像部109から送信された画像データを受信し、受信した画像データによる画像に含まれるすべての顔画像を検出して人物の特定を行う(S201)。特定部110は、登録テーブルを参照して顔画像から人物を特定する。特定部110は、検出した顔画像が登録テーブルに登録されていない場合には、この顔画像を無視する。特定部110は、画像に所有者の顔画像の一部が写っていれば、公知の被写体の追尾検出を行い、追尾により所有者の顔画像を検出する。そのために、特定部110は、過去に撮像部109から受信した画像データを記憶部113に保持する。
特定部110による画像内の人物の特定が終了すると、判定部116は、特定部110で特定した人物に所有者が含まれるか否かを判定する(S202)。所有者が特定されていない場合(S202:N)、CPU101は処理を終了する。所有者が特定されている場合(S202:Y)、距離データ取得部111は、特定部110で検出された顔画像毎に、距離データを取得する(S203)。
距離データの取得後、決定部112は、特定部110で特定した人物及び距離データに基づいて受信者を決定する(S204)。図4(b)は、受信者の決定処理を表すフローチャートである。
決定部112は、撮像部109から取得した画像データによる画像に含まれる所有者以外の人物の顔画像に対して、後述のステップS205〜S207処理を行ったか否かを判定する(S205)。決定部112は、所有者以外のすべての人物の顔画像に対して処理が実施済みであれば、受信者決定処理を終了する(S205:Y)。
処理が未実施の顔画像があれば(S205:N)、決定部112は、ステップS203で取得した距離データに応じて、所有者以外の人物のうち情報処理装置100に最も近い人物の顔画像を取得する。本実施形態では、顔画像の面積で距離を表すため、所有者の顔画像以外で処理を未実施の顔画像のうち最も面積の大きい顔画像を取得する。
決定部112は、所有者の顔画像とステップS206で取得した顔画像とから、距離の差が所定値以内であるか否かを判定する(S207)。所定値以内でなければ(S207:N)、決定部112は、ステップS205の処理に戻る。決定部112は、距離の差が所定値以内であれば、所有者と当該顔画像の人物とが情報処理装置100から略同じ距離に位置すると判断して、当該人物を受信者に決定する(S207:Y)。
距離は顔画像の面積で表されるために、所有者の顔画像の面積「Sa」、ステップS206で取得した顔画像の面積「Sb」、所定値「D」とすると、決定部112は、以下の式により所定値以内であるか否かを判定する。
D > |Sa − Sb|・・・(式1)
なお、ステップS201において人物を追尾して特定した場合には、所定値「D」を無限大とすることで、(式1)を常に満たすようにしてもよい。また、所有者(図3(a)のユーザA301)が隣に並ぶ人物(図3(a)のユーザB302)を受信者にしたい場合には、距離の差のみならず、所有者の顔画像とステップS206で取得した顔画像との向きによって受信者を決定してもよい。この場合、決定部112は、顔画像の向きを数値化して判断する。決定部112は、所有者の顔画像の向きを値「Aa」とし、ステップS206で取得した顔画像の向きを値「Ab」、所定値を「A」として、例えば以下の関係を満たす場合に所定値以内であると判定する。
A > |Aa − Ab|・・・(式2)
決定部112は、受信者に決定した人物のユーザIDを記憶部113の登録テーブルから取得する(S208)。決定部112は、ステップS207で受信者に決定した人物の顔画像(ステップS206で取得)により、登録テーブルを参照することでユーザIDを取得する。決定部112は、取得したユーザIDを、記憶部113に記憶して処理を終了する。
以上のような処理により、受信者を特定することができる。送信部115は、記憶されたユーザIDに基づき、受信者が所有する通信機器を、登録テーブルのデバイスID311を参照することで特定することができる。情報処理装置100は、特定した通信機器との間で通信可能となる。本実施形態では、無線LAN上での識別情報を特定することで、特定された通信機器と接続状態を構成することができる。送信部115は、入出力部114によりデータ送信の指示があれば、特定した通信機器に対して閲覧中の画像データを送信する。これにより受信者は、画像を得ることができる。なお、画像データ以外であっても、電子的に扱えるデータであれば、どのようなデータでも送信可能である。なお、デバイスID311としてメールアドレス等を用いる場合には、送信部115は、電子メールによりデータを送信してもよい。
図5は、具体的な運用形態の説明図である。図5(a)〜図5(d)は、情報処理装置100と所有者であるユーザA301との位置関係、及びそのときにインカメラ304で撮像(取得)された画像を表す。
図5(a)は、所有者であるユーザA301が、情報処理装置100からやや離れた位置から一人で情報処理装置100のタッチパネル105に表示される画像を閲覧する状態を表す。インカメラ304で撮像された画像401には、ユーザA301の顔画像はない。この場合、図4(a)のステップS201において所有者の顔画像が検出されないために、受信者の特定処理が終了する。所有者の顔がインカメラ304により撮像されるまで、このような処理が繰り返される。
図5(b)は、所有者であるユーザA301が一人で情報処理装置100のタッチパネル105に表示される画像を閲覧する状態を表す。インカメラ304で撮像された画像402には、ユーザA301の顔画像406が含まれる。この場合、図4(a)のステップS201でユーザA301の顔画像406が検出され、所有者が特定される(S202:Y)。距離データ取得部111は、特定した所有者の情報処理装置100までの距離データを取得する(S203)。その後、決定部112は、受信者決定処理において、所有者以外の人物の顔画像が検出されていないために、処理を終了する(図4(b)のS205:Y)。このように、所有者が一人で情報処理装置100を操作している場合、受信者は特定されない。
図5(c)は、所有者であるユーザA301と、他の人物であるユーザB302、ユーザC303が、情報処理装置100のタッチパネル105に表示される画像を閲覧する状態を表す。インカメラ304で撮像された画像403には、ユーザA301、ユーザB302、ユーザC303の顔画像406、408、409が含まれる。ユーザB302の顔画像408は、顔の一部の画像である。そのために特定部110は、ユーザB302の顔画像408を顔画像として検出することができない。また、ユーザC303は、ユーザA301と同程度の距離とは見なされない程度に情報処理装置100から離れている。
この場合、図4(a)のステップS201でユーザA301及びユーザC303の顔画像406、409が検出されて、ユーザA301及びユーザC303が特定される。所有者(ユーザA301)が特定されているので(S202:Y)、距離データ取得部111は、特定した所有者及びユーザC303の情報処理装置100までの距離データを取得する(S203)。距離データは顔画像の面積として表されるため、距離データ取得部111は、所有者(ユーザA301)の顔画像406の面積「Sa」、ユーザC303の顔画像409の面積「Sc」を取得する。
受信者決定処理では、決定部112が、所有者を除く最も距離が近い顔画像として、ユーザC303の顔画像409を取得する(図4(b)のS206)。決定部112は、所有者の顔画像406の面積「Sa」とユーザC303の顔画像409の面積「Sc」とにより、(式1)による判定を行う。ここでユーザC303の顔画像409の面積「Sc」は(式1)を満たさない。決定部112は、所有者及びユーザC303の顔画像406、409以外に画像403から顔画像が検出されていないために、処理を終了する(図4(b)のS205:Y)。このように、図5(c)の場合でも、受信者が特定されることはない。ユーザC303のように情報処理装置100から離れた位置にいる人物は、受信者とはなり得ない。
図5(d)は、所有者であるユーザA301と、他の人物であるユーザB302、ユーザC303が、情報処理装置100のタッチパネル105に表示される画像を閲覧する状態を表す。インカメラ304で撮像された画像404には、ユーザA301、ユーザB302、ユーザC303の顔画像406、408、409が含まれる。ユーザB302は、ユーザA301と同程度の距離と見なすことができる程度に情報処理装置100から離れている。また、ユーザC303の顔画像409は、図5(c)の場合と同様に、ユーザA301と同程度の距離とは見なされない程度に情報処理装置100から離れている。
この場合、図4(a)のステップS201でユーザA301、ユーザB302、ユーザC303の顔画像406、408、409が検出されて、ユーザA301、ユーザB302、ユーザC303が特定される。所有者(ユーザA301)が特定されているので(S202:Y)、距離データ取得部111は、特定した所有者及びユーザB302、ユーザC303の情報処理装置100までの距離データを取得する(S203)。距離は顔画像の面積として表されるため、距離データ取得部111は、所有者(ユーザA301)の顔画像406の面積「Sa」、ユーザB302の顔画像408の面積「Sb」、ユーザC303の顔画像409の面積「Sc」を取得する。
受信者決定処理では、決定部112が、所有者を除く最も距離が近い顔として、ユーザB302の顔画像408を取得する(図4(b)のS206)。決定部112は、所有者の顔画像406の面積「Sa」とユーザB302の顔画像408の面積「Sb」とにより、(式1)による判定を行う。ここでユーザB302の顔画像408の面積「Sb」は(式1)を満たす。決定部112は、ユーザB302を受信者に決定し、登録テーブルからユーザB302のユーザIDを取得して処理を終了する。
以上のように図5(d)の場合、受信者が決定される。これにより、複数のユーザが情報処理装置100のタッチパネル105を同時に閲覧したとしても、所有者と同程度の距離にいるユーザB302を受信者に判別することができる。
受信者の所有する通信機器は、本実施形態の情報処理装置と同じものであってもよい。この場合、通信を確立する際に、送信側の情報処理装置から受信側の情報処理装置に、所有者のユーザIDを送信する。所有者のユーザIDを受信した受信側の情報処理装置は、図4(a)、図4(b)の処理を実行する。なお、受信側の情報処理装置が図4(a)、図4(b)の処理を実行する場合、各処理の「所有者」が情報処理装置の所有者であるので、図4(a)、図4(b)の処理の「所有者」は、受信側の情報処理装置の所有者となる。
図4(a)、図4(b)の処理により、受信者側の情報処理装置は、ステップS208の処理でユーザIDを取得する。受信側の情報処理装置は、このステップS208の処理で取得したユーザIDと、所有者側の情報処理装置から受信した所有者のユーザIDとを比較する。比較の結果、両者が一致していれば、受信者側の情報処理装置は、所有者側の情報処理装置との接続を受理する。
また、複数のユーザを受信者に決定してもよい。この場合、図4(b)のステップS208の後に、ステップS205に戻って処理を繰り返すことになる。
以上説明したように、第1実施形態では、インカメラ304に写り込む所有者を基準にして、所有者と同程度の距離にいる人物を受信者に設定する。従って、容易に、所有者と共に情報処理装置を閲覧しているユーザを受信者とすることができる。
[第2実施形態]
第1実施形態では、所有者の顔の全体がインカメラ304により撮像される場合について説明した。しかし、常に所有者の顔全体を撮像可能であるとは限らない。第2実施形態では、撮像された所有者の顔が部分的であっても、受信者を特定可能とする。そのための情報処理装置のハードウェア構成は、第1実施形態と同様であるので説明を省略する。情報処理装置に形成される機能ブロックについては異なる部分がある。
図6は、第2実施形態の情報処理装置200の機能ブロック図である。情報処理装置200に形成される機能ブロックは、第1実施形態の情報処理装置100に形成される機能ブロックに、合成部501を追加した構成である。他の機能ブロックについては第1実施形態と同様であるので説明を省略する。合成部501は、カメラ107で撮像した過去の画像と現在処理中の最新画像を合成して合成画像を生成する。そのために合成部501は、記憶部113へ画像データを保存し、また記憶部113から画像データを読み出すことができる。
図7(a)、図7(b)は、第2実施形態の受信者を特定する処理を表すフローチャートである。第1実施形態の図4(a)と同じ処理には、同じステップ番号を付してある。
撮像部109から受信した画像データによる画像内に所有者が写り込んでいる場合(S201、S202:Y)、合成部501は、所有者の顔が写っている画像の画像データを記憶部113に保存する(S601)。記憶部113には所有者の顔が写っている最新の画像データが保存されていればよいので、合成部501は、既に記憶部113に保存されている画像データが存在する場合には、既に保存されている画像データを削除してもよい。画像データの保存後に、情報処理装置200は、第1実施形態と同様に、距離データを取得して受信者決定処理(図4(b)の処理)を実行することで、受信者を特定する。
撮像部109から受信した画像データによる画像内に所有者が写り込んでいない場合(S201、S202:N)、合成部501は、画像の合成処理を行って合成画像を作成する(S602)。合成部501は、記憶部113に保存してある所有者の顔が写り込んでいる画像と、現在処理中の最新画像とを合成して合成画像を作成する。
合成画像の作成後(S603:Y)、情報処理装置200は、第1実施形態と同様に、距離データを取得して受信者決定処理(図4(b)の処理)を実行することで、受信者を特定する。なお、記憶部113に画像データが保存されていない等の理由で合成画像が作成されない場合(S603:N)、情報処理装置200は、処理を終了する。
合成画像の作成処理を図7(b)のフローチャートにより説明する。
合成部501は、記憶部113に画像データが保存されているか否かを確認する(S604)。保存されていない場合(S604:N)、合成部501は合成画像の作成処理を終了する。保存されている場合(S604:Y)、合成部501は、現在処理中の最新画像から、「所有者の顔画像らしい領域」を取得する(S605)。
「所有者の顔画像らしい領域」を取得する場合、合成部501は、まず、現在処理中の最新画像から、肌色(人の肌の色)成分の存在する領域(肌色領域)を検出する。合成部501は、検出した肌色領域の位置と、記憶部113から読み出した画像データによる画像中の所有者の顔画像の領域の位置とを比較して、位置の差が所定の範囲内であれば、検出した肌色領域を「所有者の顔画像らしい領域」とする。
これ以外にも、「所有者の顔画像らしい領域」を取得する方法として、例えば過去の画像に含まれる所有者の顔画像の領域を記憶部113に保持しておき、その領域の推移により顔画像らしい領域を推定してもよい。
所有者の顔画像らしい領域を取得できない場合(S606:N)、合成部501は、合成画像の作成処理を終了する。所有者の顔画像らしい領域を取得した場合(S606:Y)、合成部501は、現在処理中の最新の画像に、所有者の顔画像を合成して合成画像を作成する(S607)。合成部501は、ステップ605で取得した所有者の顔画像らしい領域に、ステップS601で記憶部113に保存した画像データによる画像の所有者の顔画像を切り出して重ねることで合成を行う。
合成部501は、例えば、所有者の顔画像らしい領域の、撮像範囲の境界から最も遠い頂点を画像合成の際の位置合わせの基準とする。例えば、現在処理中の最新画像に所有者の顔画像の左半分が写り込んでいる場合、合成部501は、最新画像から所有者の顔画像らしい領域の左半分を取得する。この場合、合成部501は、所有者の顔画像らしい領域と、記憶部113に保存した画像データから得られる所有者の顔画像の領域の左上の座標を基準として位置合わせを行う。同様に、現在処理中の最新画像に所有者の顔画像の右半分が写り込んでいる場合、合成部501は、所有者の顔画像らしい領域と、記憶部113に保存した画像データから得られる所有者の顔画像の領域の右上の座標を基準として位置合わせを行う。
合成部501は、所有者の顔画像らしい領域の大きさに、記憶部113に保存した画像データから得られる画像から切り出した所有者の顔画像の大きさを揃えてから合成する。
合成の際の位置合わせは、撮像範囲の境界から最も遠い頂点の他に、所有者の顔画像らしい領域と記憶部113に保存した画像データから得られる所有者の顔画像の領域との各中心点を基準にしてもよい。また、位置合わせの前に、記憶部113に保存した画像データから得られる画像から切り出した所有者の顔画像の大きさを所有者の顔画像らしい領域の大きさに合わせ、各々の画像中の特徴点を合わせることで位置あわせを行ってもよい。
以上のようにして合成画像の作成処理が終了する。図8は、合成画像の作成処理の説明図である。
図8(a)は、インカメラ304で撮像(取得)する連続した画像の例示図である。画像701では、所有者の顔画像704がすべて写り込んでおり、画像702、画像703と進むにつれて、所有者の顔画像704が右方向へ移動する。画像703では、所有者の顔画像704の右半分程度しか写っていない。画像701、702では所有者の顔画像704が検出可能であり、画像703では所有者の顔画像704が検出できない。このような状態は、例えば、情報処理装置のタッチパネル105に表示される画像を所有者が、一緒に画像を閲覧する人物側にタッチパネル105を向けることで起こる。
画像701の場合、所有者の顔画像704が検出される。そのために合成部501は、図7(a)のステップS601の処理で、画像701の画像データを記憶部113に保存する。画像702の場合も同様の処理になる。画像702を記憶部113に保存する場合、合成部501は、先に保存している画像701の画像データを記憶部113から削除する。
画像703の場合、所有者の顔画像704が検出されない。そのために合成部501は、図7(a)のステップS602の処理で合成画像を作成する。合成部501は、所有者の顔画像704が検出された際の画像の画像データが記憶部113に保存されているか確認する(S604)。画像702の画像データが保存されているために(S604:Y)、合成部501は、画像703から所有者の顔画像らしい領域の、画像703の境界から最も遠い頂点を取得する(S605)。図8(b)の例では、合成部501は、所有者の顔画像らしい領域709の、画像703の境界から最も遠い頂点706を取得する。また、合成部501は、記憶部113に保存されている画像データによる画像702から、所有者の顔画像の領域の頂点を取得する。図8(b)の例では、合成部501は、所有者の顔画像の領域708の頂点705を取得する。所有者の顔画像らしい領域709の頂点706の位置と所有者の顔画像の領域708の頂点705の位置との差が所定の範囲内であれば、所有者の顔画像らしい領域709を所有者の顔画像が表示される領域であるとする。
合成部501は、所有者の顔画像らしい領域709が最新の画像703にあるために(S606:Y)、最新画像703に、記憶部113に保存された画像データによる画像702の所有者の顔画像の領域708を合成する。合成部501は、操作者の顔画像らしい領域709の大きさに合わせて、画像702の操作者の顔画像の領域708の大きさを拡大又は縮小する。その後、合成部501は、画像703の頂点706と頂点705とが重なるように、画像を合成する。このようにして、合成部501は合成画像710を作成する。
第2の実施形態では、インカメラで撮像した最新画像に、所有者の顔画像が一部しか写っていない場合であっても、以前に検出された顔画像により、最新画像に顔画像を補完して受信者の特定処理を行うことができる。従って、インカメラの撮像範囲が狭い場合でも影響を受けずに受信者を決定することができる。

Claims (11)

  1. 撮像手段と、
    本情報処理装置の所有者を含む2以上の人物の顔画像を、各人物が所有する通信機器に関連付けて記憶する記憶手段と、
    前記撮像手段により撮像された複数の人物の顔画像を含む画像から検出される各人物の顔画像と、前記記憶手段に記憶された顔画像とに基づいて、検出した顔画像に関連付けられた人物を特定する特定手段と、
    特定した人物に前記所有者が含まれると、該所有者を除いた前記特定した人物から、通信相手となる通信機器を所有する人物を受信者として決定する決定手段と、を備えることを特徴とする、
    情報処理装置。
  2. 前記画像に含まれる前記複数の人物の、各々の前記撮像手段からの距離を取得する距離データ取得手段を備えており、
    前記決定手段は、前記所有者の前記距離との差が所定値以内の距離の人物を前記受信者に決定することを特徴とする、
    請求項1記載の情報処理装置。
  3. 前記距離データ取得手段は、前記複数の人物の各々の顔画像の面積を前記距離を表す距離データとして取得し、
    前記決定手段は、前記所有者の前記顔画像の面積との差が所定値以内の顔画像の面積を有する人物を前記受信者に決定することを特徴とする、
    請求項2記載の情報処理装置。
  4. 前記距離データ取得手段は、前記複数の人物の各々の顔画像の照度を前記距離を表す距離データとして取得し、
    前記決定手段は、前記所有者の前記顔画像の照度との差が所定値以内の顔画像の照度を有する人物を前記受信者に決定することを特徴とする、
    請求項2記載の情報処理装置。
  5. 前記距離データ取得手段は、前記複数の人物の顔画像及び身体画像の重なりを検出し、この重なりに応じて前記距離データを補正することを特徴とする、
    請求項3または4記載の情報処理装置。
  6. 前記決定手段は、前記各人物の顔画像の向きを数値化して取得し、前記所有者の顔画像の向きの値との差が所定値以内の向きの値を有する顔画像の人物を前記受信者に決定することを特徴とする、
    請求項1〜5のいずれか1項に記載の情報処理装置。
  7. 前記特定手段は、現在処理中の最新画像に前記所有者の顔画像の一部が写る場合に、過去に取得した前記画像のうち、前記所有者の顔画像が写っている画像により前記所有者の顔画像を追尾検出する、
    請求項1〜6のいずれか1項に記載の情報処理装置。
  8. 現在処理中の最新画像で前記特定手段が特定した人物に前記所有者が含まれていない場合、過去に取得した前記所有者が含まれる画像を、前記最新画像に合成して合成画像を生成する合成手段を備え、
    前記決定手段は、前記合成画像に基づいて、前記受信者を決定することを特徴とする、
    請求項1〜7のいずれか1項に記載の情報処理装置。
  9. 前記撮像手段は、前記情報処理装置が有する表示画面を閲覧しようとする人物の顔を撮影可能な位置及び方向に設置されたインカメラであることを特徴とする、
    請求項1〜8のいずれか1項に記載の情報処理装置。
  10. 撮像手段を備えた情報処理装置により実行される方法であって、
    前記情報処理装置の所有者を含む2以上の人物の顔画像を、各人物が所有する通信機器に関連付けて所定の記憶手段に記憶しておき、
    前記撮像手段により撮像された複数の人物の顔画像を含む画像から検出される各人物の顔画像と、前記記憶手段に記憶された顔画像とに基づいて、検出した顔画像に関連付けられた人物を特定し、
    特定した人物に前記所有者が含まれると、該所有者を除いた前記特定した人物から、通信相手となる通信機器を所有する人物を受信者として決定することを特徴とする、
    通信相手の決定方法。
  11. 撮像手段を備えたコンピュータを、
    本情報処理装置の所有者を含む2以上の人物の顔画像を、各人物が所有する通信機器に関連付けて記憶する記憶手段と、
    前記撮像手段により撮像された複数の人物の顔画像を含む画像から検出される各人物の顔画像と、前記記憶手段に記憶された顔画像とに基づいて、検出した顔画像に関連付けられた人物を特定する特定手段と、
    特定した人物に前記所有者が含まれると、該所有者を除いた前記特定した人物から、通信相手となる通信機器を所有する人物を受信者として決定する決定手段と、
    として機能させるためのコンピュータプログラム。
JP2013141729A 2013-07-05 2013-07-05 情報処理装置、通信相手の決定方法、コンピュータプログラム Expired - Fee Related JP6173076B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013141729A JP6173076B2 (ja) 2013-07-05 2013-07-05 情報処理装置、通信相手の決定方法、コンピュータプログラム
US14/322,309 US9406136B2 (en) 2013-07-05 2014-07-02 Information processing device, information processing method and storage medium for identifying communication counterpart based on image including person

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013141729A JP6173076B2 (ja) 2013-07-05 2013-07-05 情報処理装置、通信相手の決定方法、コンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2015015633A true JP2015015633A (ja) 2015-01-22
JP2015015633A5 JP2015015633A5 (ja) 2016-08-18
JP6173076B2 JP6173076B2 (ja) 2017-08-02

Family

ID=52437066

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013141729A Expired - Fee Related JP6173076B2 (ja) 2013-07-05 2013-07-05 情報処理装置、通信相手の決定方法、コンピュータプログラム

Country Status (1)

Country Link
JP (1) JP6173076B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016146607A (ja) * 2015-02-09 2016-08-12 キヤノン株式会社 画像処理装置及び画像処理方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009200621A (ja) * 2008-02-19 2009-09-03 Panasonic Corp 画像送受信機能付き撮像装置
JP2011172089A (ja) * 2010-02-19 2011-09-01 Nikon Corp 電子機器

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009200621A (ja) * 2008-02-19 2009-09-03 Panasonic Corp 画像送受信機能付き撮像装置
JP2011172089A (ja) * 2010-02-19 2011-09-01 Nikon Corp 電子機器

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016146607A (ja) * 2015-02-09 2016-08-12 キヤノン株式会社 画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
JP6173076B2 (ja) 2017-08-02

Similar Documents

Publication Publication Date Title
US9131147B2 (en) System and method for detecting and acting on multiple people crowding a small display for information sharing
US9811910B1 (en) Cloud-based image improvement
US9344644B2 (en) Method and apparatus for image processing
EP2770729B1 (en) Apparatus and method for synthesizing an image in a portable terminal equipped with a dual camera
EP3084683B1 (en) Distributing processing for imaging processing
KR102220443B1 (ko) 깊이 정보를 활용하는 전자 장치 및 방법
US9270899B1 (en) Segmentation approaches for object recognition
US20170223268A1 (en) Image management apparatus, image communication system, method for controlling display of captured image, and non-transitory computer-readable medium
KR102327779B1 (ko) 이미지 처리 방법 및 장치
KR20190008610A (ko) 이동 단말기 및 그 제어 방법
KR20170025177A (ko) 이동단말기 및 그 제어방법
US9037737B1 (en) Collaboration of device resources
US9888209B1 (en) Remote communication system, method for controlling remote communication system, and storage medium
JP2007019671A (ja) 画像通信システム及び画像処理プログラム
JP6686547B2 (ja) 画像処理システム、プログラム、画像処理方法
US9406136B2 (en) Information processing device, information processing method and storage medium for identifying communication counterpart based on image including person
JP6173076B2 (ja) 情報処理装置、通信相手の決定方法、コンピュータプログラム
JP6617547B2 (ja) 画像管理システム、画像管理方法、プログラム
US9900516B2 (en) Method and electronic device for generating thumbnail image
KR101672268B1 (ko) 전시공간 제어 시스템 및 전시공간 제어방법
US20170053413A1 (en) Method, apparatus, and computer program product for personalized stereoscopic content capture with single camera end user devices
JP2016038682A (ja) 情報処理装置及びその制御方法、サーバ装置及びその制御方法、コンピュータプログラム
JP6164958B2 (ja) 情報処理装置、方向特定方法、コンピュータプログラム、及び記憶媒体
KR20170022227A (ko) 이동단말기 및 그 제어방법
JP2015127925A (ja) 情報処理装置、情報処理装置の制御方法およびコンピュータプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160628

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170606

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170704

R151 Written notification of patent or utility model registration

Ref document number: 6173076

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees