JP2010272077A - 情報再生方法及び情報再生装置 - Google Patents

情報再生方法及び情報再生装置 Download PDF

Info

Publication number
JP2010272077A
JP2010272077A JP2009125606A JP2009125606A JP2010272077A JP 2010272077 A JP2010272077 A JP 2010272077A JP 2009125606 A JP2009125606 A JP 2009125606A JP 2009125606 A JP2009125606 A JP 2009125606A JP 2010272077 A JP2010272077 A JP 2010272077A
Authority
JP
Japan
Prior art keywords
information
viewer
widget
face
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009125606A
Other languages
English (en)
Inventor
Masatoshi Murakami
雅俊 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2009125606A priority Critical patent/JP2010272077A/ja
Priority to US12/787,307 priority patent/US8744142B2/en
Publication of JP2010272077A publication Critical patent/JP2010272077A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3231Monitoring the presence, absence or movement of users
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

【課題】顔認識を利用した操作を基本として、同席している場合、再生する映像や音声を予め設定されている規則に従って選択して再生する情報再生装置および情報再生方法を提供する。
【解決手段】この発明の一つの実施の形態は、視聴者の顔を顔イメージ画像として取り込むカメラモジュールと、このカメラモジュールが取り込んだ顔イメージ画像から特徴点を抽出して符号化または文字列化する符号化モジュールと、この符号化モジュールにより符号化または文字列化された特徴点に従い、視聴者を特定する視聴者特定モジュールと、この視聴者特定モジュールにより特定された視聴者ごとに、再生が認められて情報を再生する情報再生モジュールと、を有することを特徴とする情報再生装置である。
【選択図】図15

Description

この発明は、映像や音声を、視聴する利用者に合わせて選択して再生する映像音声再生装置に関する。
映像や音声を再生する映像音声再生装置として、テレビジョン受信装置、モニタ装置とプレーヤ装置、ビデオカメラ、パーソナルコンピュータ、携帯可能端末、デジタルフォトフレーム等の多様な機器が実用化され、既に広く普及している。
また、ネットワーク網の充実と、その高速化かつ大容量化に伴い、再生対象であるコンテンツ(番組)は、空間波あるいは光ファイバ等による送信側(配信局)からの一方的な供給に加え、オンデマンド方式の普及により、視聴者の要求に従う任意の時間に取得可能である。
また、ネットワーク上で提供されるニューステロップや、予め設定した特定分野の情報を、テレビジョン受信装置やデジタルフォトフレームあるいはパーソナルコンピュータの画面に独立して表示可能なウィジェット(情報画面)の普及に伴い、オンデマンド方式による視聴者からの要求とは異なる観点で提供される映像や音声の取得とその再生が可能である。
ところで、例えば、リビングに置いたデジタルフォトフレームに、視聴者とその家族が自分勝手に任意数のウィジェット(情報画面)を設定した場合、各人にとっては、見辛いものとなる。また、来訪者があった場合は、デジタルフォトフレームをオフし、あるいは来訪者が見ることのできないよう、隠す等の対応が求められる。
特許文献1(先行技術文献)は、鑑賞者を検出し、検出された鑑賞者に関連のある画像を選択して表示する電子アルバム表示システムを開示する。
特開2006−236218
特許文献1が開示する電子アルバム表示システムは、鑑賞者を特定して鑑賞者に関連のある画像(写真)を表示するが、鑑賞者以外の人が同席しても画像を表示することから、鑑賞者が鑑賞者以外の人に見てほしくない、不本意な画像も表示される。
この発明の目的は、顔認証を用い、視聴中の視聴者ごとに特定の条件で設定された映像や音声を再生する、特に視聴者として同席している人がいる場合、再生する映像や音声を予め設定されている規則に従って選択して再生する映像音声再生装置および映像音声再生方法を提供することである。
この発明は、上記問題点に基づきなされたもので、視聴者の顔画像データを取り込み、取り込んだ顔画像データから視聴者を特定し、予め視聴者毎に区分された規則に従って、在席する視聴者に応じた情報を提示する情報再生方法を提供するものである。
この発明の一つの実施の形態によれば、視聴者(操作者)が見たときに、表示される写真あるいは再生されるコンテンツを任意に選ぶことができる。また、同様に、起動されるウィジェットを、視聴者(操作者)に応じて任意に設定することができる。特に、室内(その場)にいる視聴者(操作者)が1人である場合には、実質的に各人専用端末化された映像音声再生装置として利用できる。すなわち、操作者(視聴者)が視線を合わせることで、一目で(個人に合わせた)情報を得ることができる。なお、個人向け表示条件は、1度設定すれば、引き続く操作は実質的に不要となる。特に、同席者や家族に対して見せないと決めた映像等は、操作者のみが在席の場合以外は再生されないため、映像音楽再生装置を共用する各人の同席を気にする必要がなくなる。
また、この発明の一つの実施の形態によれば、顔認識により、周りにいる人に応じた動作が可能であって、見る人に合わせた情報や音楽を自動的に表示もしくは再生することができる。また、ウィジェットを見せる人を選択する手段とウィジェットを表示する手段を持ち、選択した人が画面を見たら、登録したウィジェットが表示される。さらに、時間帯を区切って、時間情報に基づいて異なるウィジェットを表示することができる。なお、ウィジェットを見せない人を選択する手段を持ち、見せないと設定した人がいたら特定のウィジェットについては表示しないことができる。逆に、視聴者(操作者)のみが在席である場合には、予め設定した全てのウィジェットを再生できる。
さらに、この発明の一つの実施の形態によれば、視聴者(操作者)の会話から話題(キーワード)を取得し、取得したキーワードに属性が一致する情報を提示できる。なお、視聴する人がいなくなった場合には、表示を停止することで省エネルギーを実現できる。
この発明の実施の形態が適用可能な顔認証を用い、視聴者ごとに、特定の条件で設定された映像や音声を再生する映像音声再生システムの一例を示す概略図。 図1に示したシステムに組み込まれる映像音声再生システムに好適に適用可能な映像音声再生装置の一例であるデジタルフォトフレームの構成の一例を示す概略図。 図1に示したシステムに適用される視聴者ごとの映像や音声の再生条件(ウィジェット(情報画面))の設定を管理するウィジェット管理テーブルの一例を示す概略図。 図3に示したウィジェット管理テーブルが参照する家族ID管理テーブルの一例を示す概略図。 図3に示したウィジェット管理テーブルが参照するウィジェットインプット情報テーブルの一例を示す概略図。 図1に示したシステムに組み込まれる映像音声再生装置(図2に示したデジタルフォトフレーム)に適用可能なウィジェット(情報画面)の具体例を示す概略図。 図1に示したシステムに組み込まれる映像音声再生装置(図2に示したデジタルフォトフレーム)に表示されるウィジェットの表示例を示す概略図。 図7に示したウィジェット(表示)が見ている人(視聴者)に応じて変化される例を示す概略図。 図7に示したウィジェット(表示)が見ている人(視聴者)に応じて変化される例を示す概略図。 図7に示したウィジェット(表示)が見ている人(視聴者)と、その人が設定した特有の設定(時間変化)に応じて変化される例を示す概略図。 図1に示したシステムに組み込まれる映像音声再生装置(図2に示したデジタルフォトフレーム)に視聴者ごとの特定の条件に対応可能なウィジェットを設定する方法を説明する概略図(画面遷移例)。 図1に示したシステムに組み込まれる映像音声再生装置(図2に示したデジタルフォトフレーム)において、視聴者の有無を検出し、視聴者ごとに決められている条件でウィジェットを再生する方法をソフトウエア的に説明する概略図(フローチャート)。 図1に示したシステムに組み込まれる映像音声再生装置(図2に示したデジタルフォトフレーム)において、視聴者の会話の内容(話題)に従い、話題に即した情報を提供可能なウィジェットが選択されている場合に、そのウィジェットのコンテンツを変更する方法をソフトウエア的に説明する概略図(フローチャート)。 図1に示したシステムに組み込まれる映像音声再生装置(図2に示したデジタルフォトフレーム)に視聴者ごとの特定の条件に対応可能なウィジェットを設定する方法の別の一例を説明する概略図(画面遷移例)。 図1に示したシステムに組み込まれる映像音声再生装置に適用される顔認証/照合処理装置の一例を示す概略図。
以下、図面を参照して、本発明の実施の一形態について説明する。
図1は、顔認証を利用したメールシステム全体の概略を説明する。なお、以下に説明するさまざまな要素において、「モジュール」と呼称する要素は、ハードウエアで実現するものであってもよいし、CPU(マイクロコンピュータ)等を用いてソフトウエアで実現するものであってもよい。
図1に概略を示す、顔認証を用いて視聴者ごとに、特定の条件で設定された映像や音声を再生する映像音声再生システムは、空間波を用いた無線方式あるいは光ファイバ等を用いた有線伝送方式により放送事業者もしくは中継事業者から提供されるテレビジョン放送信号を受信して再生するテレビジョン受信装置(家庭内ユーザ端末1)10、ハードディスクドライブ(HDD)に代表される大容量記録装置を保持したビデオレコーダ装置(家庭内ユーザ端末2)20、あるいはデジタルフォトフレーム等に代表される映像音声再生装置(家庭内ユーザ端末3)100の少なくとも1つと、ネットワーク網、例えば光ファイバ網あるいは公衆通信網を介して家庭内ユーザ端末(1〜3)のそれぞれと相互に接続されるビデオレターサーバ1000と、により達成される。
ビデオレターサーバ1000には、ネットワーク網、例えばインターネット網を通じ、家庭内ユーザ端末1〜3、すなわちテレビジョン受信装置10、ビデオレコーダ装置20もしくはデジタルフォトフレーム100が設置される場所とは異なる、例えば親族宅や知人宅等に代表される任意の位置に設けられるカメラ付テレビジョン装置200(ユーザ端末4)、パーソナルコンピュータ(PC)300(ユーザ端末5)、外部ネットワーク網とのアクセスが可能な携帯可能端末、例えばカメラ付ゲーム機400(ユーザ端末6)やカメラ付携帯電話500(ユーザ端末7)が、任意にアクセス可能である。
ビデオレターサーバ1000は、家庭内ユーザ端末(テレビジョン受信装置10、ビデオレコーダ装置20あるいはデジタルフォトフレーム100、およびそれを操作する送信者)から送信されたメール(ビデオメール)や写真もしくは動画ファイル等を一旦保持するとともに、相手先(受信者)に、メール(ビデオメール)や写真、もしくは動画ファイルが着信したことを報知する。なお、ビデオメールには、テレビジョン受信装置10、ビデオレコーダ装置20、もしくはデジタルフォトフレーム100に付属するカメラ(10a,20a,100a)の前にいるユーザ(すなわち送信者)の映像・音声の他に、既存のコンテンツを付加することもできる。既存のコンテンツ(著作権等、他人の権利を侵さない範囲に限る)としては、ユーザが撮影したビデオ映像、ユーザが撮影したデジタルカメラ画像、ユーザが録音した音声・音楽、ビデオレコーダに録画済みの放送番組の映像・音声(音楽)、パブリックドメインに属するインターネット配信映像・音声(音楽)などがある。
ビデオレターサーバ1000とネットワーク上で接続された(ビデオレターサーバ1000にアクセス可能な)カメラ付デジタルテレビジョン装置200、パーソナルコンピュータ(PC)300、カメラ付ゲーム機400、あるいは携帯電話器500を保持する相手方(受信者)は、テレビジョン受信装置10、ビデオレコーダ装置20もしくはデジタルフォトフレーム100に付属するカメラ(10a,20a,100a)の前にいるユーザ(すなわち送信者)が送信した映像・音声の他と付加されているコンテンツを、任意のタイミングで再生できる。なお、テレビジョン装置10(あるいはレコーダ装置20)、もしくはデジタルフォトフレーム100のそれぞれは、カメラ10a(20a),100aに加えて、それぞれの機器の前または近傍にいる(在席する)人物すなわち視聴者の音声を取り込むマイク10c(20c),100cを含む。
また、送信側ユーザ端末(10,20,100)および受信側端末(200,300,400,500)のそれぞれには,図15を用いて後段に説明する顔認証/照合処理装置1が組み込まれている。顔認証/照合処理装置1は、各ユーザ端末に一体的に設けられるカメラ(10a,20a,100a,200a,300a,400a,500a)の前にいるユーザの顔の特徴をコード化し、あるいはカメラ前のユーザの顔の特徴と登録済みの顔の特徴とを照合できる。また、各ユーザ端末のカメラで取り込まれたユーザの顔の画像データ、その顔の特徴を顔認証/照合処理装置1によりコード化した特徴点データ等は、サーバ1000に設けられた宛先管理テーブル1001に登録される。
各ユーザからのビデオメール自体(メールコンテンツ)は、宛先管理テーブル1001の登録内容に関連づけられて、サーバ1000内の図示しないデータストレージ(大容量記憶装置)に格納される。
図1に示す映像音声再生システムにおいては、ユーザ自身が視認できる顔画像を宛先として、ユーザの家庭内ローカルエリアネットワーク経由で、家族内の伝言メールの送受信が可能である。また、インターネット網を経由して、遠隔地にいる別のユーザ(親族宅や知人宅等)にビデオメールを送信するとともに、各ユーザからのビデオメールを受信することができる。
なお、送信側ユーザの家庭内あるいは受信側ユーザの家庭内では、例えばテレビジョン装置10やレコーダ装置20の図示しないHDD(大容量記憶装置)、もしくはデジタルフォトフレーム100の半導体メモリ装置(HDDの場合もある)、あるいはPC(パーソナルコンピュータ)300やカメラ付テレビジョン装置200の同様の記憶装置に、管理情報テーブル1001の内容をコピーしておくことができる。これにより、テレビジョン装置10あるいはレコーダ装置20もしくはデジタルフォトフレーム100等の機器の単独利用により、家族内においてビデオメール(または伝言)を交換することもできる。
このとき、伝言を、例えば「公開(家族の全員が見ることができる)」とすることで、家庭内でテレビジョン装置10をオンした任意の家族(家人)やデジタルフォトフレーム100の前にいる人物(カメラ100aにより認識される在席者すなわち視聴者)に、伝言を伝達することができる。なお、家庭内においてビデオメールや伝言を公開する場合、テレビジョン装置10またはレコーダ装置20(またはデジタルフォトフレーム100)がホームサーバとしての機能を持つことで、容易に実現できる。
なお、サーバ1000は、インターネット上(ネットワーク網)にあり、そのサーバにビデオメール自体(=コンテンツ)と宛先管理テーブルを持つ顔イメージが、宛先相当であり、インターネットに出力する際はメールアドレスを用いることはいうまでもない。
また、ユーザが見ている(視聴中である)テレビ番組やHDDレコーダにおいて再生中であるコンテンツに関する情報を、カメラで撮影したユーザの顔イメージと関連づけ留とともに個々の嗜好を学習し、その結果をサーバ1000において一定期間保持することにより、サーバを介して接続可能な企業は、例えばユーザの思考に応じた広告メールをピンポイントでユーザに送ることができる。この場合、メール一覧の中にビデオ広告が入ることとなり、ユーザの目につきやすくなる。
図2は、図1に示したシステムに組み込まれる映像音声再生システムに好適に適用可能な映像音声再生装置の一例であるデジタルフォトフレームのシステムロジックを示す。
デジタルフォトフレーム100は、カメラ100aからの映像を取り込むカメラ制御・入力部151、マイク100cからの音声を取り込むマイク入力部153、表示部160に一体に形成されたタッチパネル(タッチスクリーン)に映像を出力する映像制御・出力部161、およびタッチパネル160による入力を受けつけ、所定の制御信号を出力するタッチ入力制御部162、等を含む。なお、カメラ制御・入力部151の出力は、蓋有無判断部152により、カメラ100aにカバー(蓋)100bがつけられたままか否か、がチェックされる。例えば、蓋有無判断部152により、カメラ100aが映像を取り込むことができない状態であることが検知できた場合、以下に説明するウィジェットの表示およびコンテンツの再生は、実行されない。
ウィジェット登録部101は、デジタルフォトフレーム100の表示部160および、以下に説明する音声制御・出力部164に接続されるスピーカ(音声再生装置)154が再生する映像および音声(コンテンツ)を、さまざまな再生形態により再生可能とする任意数のウィジェット(情報画面)を、ユーザ(視聴者)の登録/変更/削除動作に従い、設定されたウィジェットを選択的に動作させる。なお、ウィジェットは、周知の通り、例えばデジタルフォトフレーム100の表示部160、あるいはテレビジョン受信装置1の表示部の表示領域中に、1または複数、映像または写真(静止画)もしくは音楽等を再生可能な情報画面であり、デジタルフォトフレーム100が再生中の写真(静止画)等の再生状態とは独立に、選択されたウィジェットが所望するさまざまな動作を提供できる。例えば、図1は、デジタルフォトフレーム100の表示部160あるいはテレビジョン受信装置10の表示装置において、それぞれ2つのウィジェットWa,Wbが設定されている状態を概略的に示す。
デジタルフォトフレーム100はまた、半導体メモリ、例えばメモリカードMを媒体として供給される映像(写真データ)を取り込むメディア入力部163、ウィジェットが再生する映像(コンテンツ)が音声あるいは音楽を伴う場合、それを出力する音声制御・出力部164、入力された映像および音楽のデータを保持する映像・音楽記録部165、マイク100cにより取得した音声を認識して形態素を解析し、話題(キーワード)を抽出する音声認識・形態素解析・話題抽出部166、等を含む。なお、明暗判断部167は、デジタルフォトフレーム100が設置されている環境、すなわち視聴者が在席中の部屋の明るさを検知するもので、検知した部屋の明るさに従ってウィジェットおよび表示部160が表示する映像の明るさを調整し、あるいは照明が消された等の変化を検知して、ウィジェットおよびデジタルフォトフレーム100そのものの映像の再生を停止する等の制御に有益である。
デジタルフォトフレーム100はさらに、ネットワーク網(主としてインターネット)を介して接続されるビデオレターサーバ1000や同サーバ1000を介して接続される他の家庭内ユーザ端末、すなわちデジタルフォトフレーム100が設置される場所とは異なる、例えば親族宅や知人宅等に代表される任意の位置に設けられる上述のカメラ付テレビジョン装置200、同パーソナルコンピュータ(PC)300、同外部ネットワーク網とのアクセスが可能な携帯可能端末、例えばカメラ付ゲーム機400や、カメラ付携帯電話500とのアクセスを可能とする通信部171、デジタルフォトフレーム100の表示部160のオン(映像の表示)やオフ(映像非表示)の制御、およびタイマー機能による起動条件(時間帯指定)等を実行する電源制御部181等を含む。なお、デジタルフォトフレーム100には、詳述しないさまざまな外部機器、例えば外部に付属することが許可される大容量記憶装置(HDD)や、USB(Universal Serial Bus)メモリ等との信号の受け渡し等に利用される各種機能制御部(拡張機能制御部)191も設けられる。
図3は、図1に示したシステムに適用される視聴者ごとの映像や音声の再生条件(ウィジェット(情報画面))の設定を管理するウィジェット管理テーブルの一例を示す。
デジタルフォトフレーム100に、任意数のウィジェットを用意し、その動作を可能とする場合、
ア)視聴者が機器操作者(ウィジェット設定者)本人のみである場合、
イ)視聴者が機器操作者本人とその家族である場合、
ウ)視聴者が機器操作者本人とその友人等、機器操作者本人の家族以外を含む場合
等の場合分けが、可能である。なお、機器操作者は、デジタルフォトフレーム100の映像を視聴可能に、デジタルフォトフレーム100の前、あるいはデジタルフォトフレーム100の近傍に居る人物であり、1人のみである場合には、本人と称する人物が、ウィジェット設定者として認識される。また、家族は、予め視聴が許可された特定の在席者のグループを指す(家族以外であっても、同居の親族等が該当する)。
このことは、例えば視聴者が機器操作者本人以外である場合等において、ウィジェットが再生する映像(コンテンツ)が、機器操作者本人以外には見てほしくない、あるいは同席者には見せないほうが好ましいと判断できる映像、例えば子供を授からない友人に登録者本人が自分の子供と遊んでいる映像等である場合、友人が同席した時点で、デジタルフォトフレーム100が再生する映像(ウィジェットが再生するコンテンツ)として、子供の映像を除外する、等の判断が必要となる場合に有益である。
図3は、上述したア)〜ウ)の場合分けを、カメラ100aが取り込む視聴者の情報に従って選択可能とする管理テーブルの一例であり、例えば
<<存在(誰が見ているか)>>
自分(本人)だけ(見ている)
(本人と)家族のみ(見ている)
家族外の人<友人等>が(見ている)、あるいは<企業内すなわち本人が自身の勤務先のパーソナルコンピュータに設定したウィジェット>
として場合分けできる。
なお、デジタルフォトフレーム100(あるいはテレビジョン受信装置10)の表示部において再生されるウィジェットは、再生されている時間帯に応じて、
<<時間(ウィジェットが再生されている時間帯)>>
朝[5am〜]
昼[11am〜]
夕方[4pm〜]
夜[8pm〜]
深夜[11pm〜]
ALL(終日)
のように、場合分けできる。
例えば、朝と昼については、スーパーマーケットの当日の安売り情報等を表示するが、スーパーマーケットの営業時間が終わった以降の夜と深夜においては、スライドショーにより任意数の写真を再生するとともに、夜間帯に好適な音楽(睡眠を誘うBGM)、等を再生することが望ましい。
また、ウィジェットは、デジタルフォトフレーム100の表示部160(テレビジョン受信装置10の表示装置)の表示領域の大きさに依存するが、例えば[左上]/[右上]/[左下]/[右下]等により特定される4箇所程度であれば、同時に配置(再生)してもデジタルフォトフレーム100(テレビジョン受信装置10)が再生中の写真や映像の視認に支障を与えないと判断でき、例えば、[カレンダー]/[時計]/[(当日の)天気(予報)]/[電車の運行状況]等が予め選択されたウィジェットセットが選択され、再生されることを可能とする(<<表示位置>>)。なお、表示位置としては、同時に動作するウィジェットが4つ程度であれば、後段に例示する再生例のように、例えば右側に上下方向に4つ位置されてもよいことはいうまでもない。
なお、図3に示した場合分け(ウィジェット管理テーブル)では、視聴者の組み合わせに応じて、動作するウィジェットも随時変更されることは上述した通りである。
図4は、図1に示したシステムに適用される視聴者ごとの映像や音声の再生条件(ウィジェット(情報画面))の設定を管理するウィジェット管理テーブルを示す。
図4において、予め登録されている家族は、例えば本人(ID1)、同居している親族(ID2)、同じく親族(ID3)として管理される。なお、それぞれの家族は、個々の顔を予め撮影した写真または識別符号(メールアドレス)により特定される。また、顔を撮影した写真によりメールアドレスとすることもできる。なお、顔(写真)をアドレスとする方法および照合については、図15を用いて後段に説明する顔認証/照合処理装置1による「顔認証」処理/「照合」処理による。
図5は、図3に示したウィジェット管理テーブルが参照するウィジェットインプット情報テーブルの一例を示す。
図1に示した映像音声再生システムに適用される映像音声再生装置であるデジタルフォトフレーム(図2参照)100やテレビジョン受信装置10は、それぞれ視聴者すなわち任意の映像音声再生装置が再生する映像(および音声(音楽))を目視し、あるいは再生される音楽を聴取しているユーザ(家人)や来訪者(友人)等の会話から音声認識・形態素解析・話題抽出部166により、話題(キーワード)を抽出する。例えば、会話に登場するキーワード(話題)が旅行である場合、ネットワーク網(インターネット)を介して旅行先の天気を取得し、再生することができる。また、キーワードが旅行である場合、その地域の食の情報(「グルメ」情報)やお土産のランキング等を再生することができる。なお、ウィジェットインプット情報テーブルは、キーワードの入力すなわち会話から抽出できるキーワードに従い、「Input#1」、「Input#2」・・・「Input#n(nは正の整数)」のように、任意に、情報を保持できる。
図6は、図2に映像音声再生装置の一例として説明したデジタルフォトフレーム100のウィジェット登録部101に登録することで動作可能な保持するウィジェット(情報画面)の一例を示す。なお、ウィジェットの種類(個々のウィジェット)としては、目的地までに利用すべき交通機関と所要時間等を案内するものや、定期的(一日に数回)に配信されるニュースを再生するもの、あるいは予め登録した小売店や量販店の価格情報を報知するもの、株価や天気を知らせるもの等、さまざまである。
また、ウィジェットは、ネットワーク網(インターネット)を経由して、あるいは半導体メモリMを介したメディア入力部163への供給により、随時取得することができる。もちろん、既に取得したウィジェットの削除や動作させるウィジェットの変更も、以下に説明するウィジェットの交換/新規登録/削除に基づいて、随時可能である。
図7〜図10は、図2を用いて説明した映像音声再生装置(デジタルフォトフレーム)に表示されるウィジェットの例を示す。なお、図2により説明したデジタルフォトフレームに対しては、図3〜図6を用いて説明した再生条件が適用されるものとする。
すなわち、図3で示した視聴者の在席や時間情報と図4に示した家族IDに従い、動作するウィジェットが変化する。また、視聴者(在席者)の会話に従い、キーワードが抽出できた場合、図5に示したようなウィジェットインプット情報テーブルを保持した特定のウィジェットが動作され、キーワードに対応する情報が取得され、再生される。
図7は、視聴者に関する限定(条件)がない(最も多くの視聴者向け)のウィジェットが動作された状態のデジタルフォトフレーム100の画像再生状態を示す。
すなわち、特定の視聴者向けの限定がないため、起動されたウィジェットは、時刻表示(時計)と気温(地域温度)のみが表示されている。
図8は、視聴者が登録者本人のみであり、図4に示した家族IDから父親と想定している人物である場合に動作されるウィジェットの組み合わせを示している。
すなわち、登録者本人のみが視聴することを想定し、時刻表示(時計)と気温(地域温度)のウィジェットに加え、カレンダー表示ウィジェットや、株価表示ウィジェット等が追加されていることが認められる。
図9は、視聴者が登録者本人のみであり、図4に示した家族IDから母親と想定している人物が、朝方(午前中)に視聴している場合に動作されるウィジェットの組み合わせを示している。
すなわち、登録者本人のみが視聴することを想定し、時刻表示(時計)と気温(地域温度)のウィジェットに、カレンダー表示ウィジェットとスーパーマーケットあるいは量販店の特売情報表示ウィジェットが追加されていることが認められる。
図10は、視聴者の条件は図9の例に準じて図4に示した家族IDから母親と想定している人物が、昼以降(昼間〜夕方)に視聴している場合に動作されるウィジェットの組み合わせを示している。
すなわち、図10では起動されるウィジェットの組み合わせとして、時刻表示(時計)と気温(地域温度)のウィジェットおよびカレンダー表示ウィジェットに、ニュース再生ウィジェットが追加されていることが認められる。
このように、例えば付属するあるいは連動可能に設けられたカメラにより取得した視聴者の在席情報と時刻(ウィジェットが再生されている時間帯)とに基づいて、起動すべきウィジェットを任意に組み合わせる(組み合わせを変更する)ことにより、視聴者とその家族のそれぞれが必要と判断した情報のみを、在席している視聴者に対応して提供可能なあたかも個人向けのようなウィジェット再生動作を、1つの映像音声再生装置により実現できる。
なお、カメラにより視聴者の在席情報を常時取得することにより、視聴者が不在となった場合には、ウィジェットをオフするとともに、デジタルフォトフレーム(テレビジョン受信装置)の表示部の電源もオフできる。また、カメラにより取得した視聴者の顔情報から、登録者本人/家族/家族と登録者等の人物の存在(在席)を特定できるため、例えばネコや犬等のペットのみが在室している場合には、同様にウィジェットをオフするとともに、デジタルフォトフレーム(テレビジョン受信装置)の表示部の電源もオフすることができる。このことは、今日の省エネルギーの要求に対しても有益である。
図11は、図7〜図10に示した表示例を実現するためのウィジェットの登録と削除、ならびに視聴者(家族)の登録と削除の手順を、表示画面の遷移例によりソフトウエア的に示す。
付属するリモコン端末(図示せず)等の操作、もしくは表示部160のウィジェットの非表示領域への操作者の指の接触により、ウィジェット設定モードが起動すると、[1]面のように、
1.ウィジェット(セット)登録・変更<<ボタン[赤]>>
2.ウィジェット(セット)削除<<ボタン[青]>>
3.家族の登録・変更<<ボタン[黄]>>
4.家族の削除<<[削除]キー>>
5.終了(戻る)<<[戻る]キー>>
等の次の指示、すなわちウィジェット(セット)の登録・変更/ウィジェット(セット)の削除/家族の登録・変更/家族の削除/終了(戻る)等のいずれかを選択する入力信号を受けつける設定画面が表示される。
リモコン端末(図示せず)等による数字入力または特定のボタンによる制御コマンドの発行、あるいは画面(表示部)160の所定の文字列への操作者の指の接触により、特定の作業(入力待ち画面)が選択されることで、例えば[2]〜[5]で示す各種入力画面が表示される。
例えば、「ウィジェット(セット)登録・変更」が選択されることで、[2]面が表示され、
○変更するウィジェット(セット)を選んでください○
1.新規追加<<ボタン[緑]>>
2.時計、カレンダー、[任意の1つ]
3.時計、消費電力、家族
4.時計、天気、温度、特売(朝)
5.時計、天気、温度、特売
6.終了(戻る)
等の次の指示、すなわち登録(選択)するウィジェット(セット)が入力可能な設定画面が表示される。
例えば、「新規追加」が選択されることで、[21]面が表示され、
○ウィジェット[1つめ]の表示位置を選んでください○
1.表示領域 →☆[左上]☆/☆[右上]☆/☆[左下]☆/☆[右下]☆
2.カーソルを移動して[左上]/[右上]/[左下]/[右下]を決定
3.終了(戻る)
等の次の指示、すなわち登録(選択)する1つめのウィジェットの位置を入力可能な設定画面が表示される。
以下、表示される[22]面(図6に示した一覧画面に類似)から任意のウィジェットが選択されると、[21]面で設定した位置において動作されるべきウィジェットが選択される。引き続き、[23]面において、[22]面で選択したウィジェットを起動すべき時間帯の入力が要求される。なお、設定しようとするウィジェットの数だけ、[21]〜[23]面の表示が順に繰り返される。従って、操作者は、表示(面)に従って、順次ウィジェットの選定、起動位置(画面上の配置)および起動条件(時間帯)を、入力(選択)すればよい。なお、起動条件(時間帯)としては,[23]面に概略を示すが、
☆[朝]☆
☆[昼]☆
☆[夕方]☆
☆[夜]☆
☆[深夜]☆
☆[全ての時間帯]☆
○終了(戻る)
に大別される。
選択すべき全てのウィジェットについて、表示位置と起動時間帯が設定されると、起動時の視聴者を設定するための入力画面([24]面)が表示され、操作者による入力(設定)の終了が指示されることで([25]面)、ウィジェットの登録(新規追加)が完了する([26面])。なお、起動時の視聴者としては、例えば、
☆自分☆
☆父親☆
☆母親☆
☆兄弟/姉妹(1人め)☆
☆兄弟/姉妹(2人め)☆
☆家族全員☆
☆家族以外を含む全員☆
○終了(戻る)
等の[24]面の表示から、選択すればよい。
[1]面において、例えば「ウィジェット(セット)削除」が選択されると、[3]面が表示され、
○削除するウィジェット(セット)を選んでください○
1.時計、カレンダー、[任意の1つ]
2.時計、消費電力、家族
3.天気、温度、特売(朝)
4.天気、温度、特売
5.終了(戻る)
等の次の指示、すなわち削除するウィジェット(セット)が入力可能な設定画面が表示される。
以下、選択されたウィジェット(セット)が表示され([31]面)、表示された[31]面において、『はい(あるいはOK)』が選択されることで、[31]面に表示されたウィジェット(セット)が削除される。
一方、[1]面において、例えば「家族の登録・変更」が選択された場合には、[4]面が表示され、
○家族を登録します○
1.アドレス帳から<<ボタン[緑]>>
2.撮影して登録<<ボタン[黄]>>
3.終了(戻る)
等の次の指示、すなわち家族の追加あるいは変更を入力可能な設定画面が表示される。
例えば、「撮影して登録」が選択されると、[41]面が表示され、付属するカメラによる撮影後、撮影した操作者の顔の写真が表示される。なお、ここでは、『撮りなおし』を可能としている([41]面)。
以下、撮影した写真の操作者またはアドレス帳から選択した写真に該当する家族が既に登録されている場合には、例えば「42]面のように、
○登録済みです
○変更しますか
○終了(戻る)
等の次の指示、すなわち写真の変更を入力可能な設定画面が表示される。
一方、撮影した写真の操作者またはアドレス帳から選択した写真に該当する家族が登録されていない場合には、例えば「44]面のように、
○登録しますか
○終了(戻る)
等の次の指示、すなわち写真の家族を追加する変更を入力可能な設定画面が表示される。
なお、既に登録されている家族を削除する場合は、[1]面において、「家族の削除」を選択することで、[5]面のように、削除対象となる家族の写真が表示され、
○削除する家族を選んでください○
自分(写真→abcd?)
父親(写真→aacd?)
母親(写真→bbcd?)
○終了(戻る)
により、削除対象の家族を選択入力可能な入力画面が表示される。
以下、削除が指示された家族が、図4により説明した家族ID管理テーブルから削除される。
以上のような手順に従い、ウィジェット(セット)の登録・変更/ウィジェット(セット)の削除/家族の登録・変更/家族の削除が簡単な作業で完了する。
以下、[6]面に一例を示すが、『戻る』表示が表示され、入力(設定)モードが解除可能となる。なお、[1]面のような次の作業を受けつける表示が表示されて、次の入力を受けつけ可能な待機状態が継続されてもよいことは、いうまでもない。
図12は、図7〜図10に示した複数のウィジェットの選択的な起動を実現する工程をソフトウエア的に説明する概略図である。なお、図12においては、ウィジェットが動作する対象の装置を図2により説明したデジタルフォトフレームとするが、もちろん図1に示したテレビジョン受信装置や、PC(パーソナルコンピュータ)であっても同様であることはいうまでもない。
はじめに、付属するカメラ(100a)が起動され、視聴者(操作者)が装置の近傍、あるいは室内にいるか否かがチェックされる[01]。
操作者(視聴者)が存在しない場合[02−YES]、表示部160への写真(画像)の表示(再生)は実行されず、スタンバイ状態(表示部160への映像の表示をしない)が維持される[11]。
操作者(視聴者)が存在する場合[02−NO]、カメラにより顔画像が取り込まれ、顔認証/照合部1により認識される[03]。
顔認証/照合部1により認識された操作者(視聴者)の顔画像は、図4に一例を示した家族ID管理テーブルに登録されている家族の顔画像データと比較され、該当する顔画像データが存在するか否かがチェックされる[04]。
はじめに、家族ID管理テーブルに登録されていない非登録者(家族外)の人がいるかいないかがチェックされる[05]。
非登録者(家族外)の人がいる場合[05−YES]には、一例を図7に示したような家族外の人がいる(同席している)場合においても再生可能なウィジェットが検索される[10]。
非登録者(家族外)の人がいない場合[05−NO]には、視聴者が操作者(本人)のみであるか家族の誰かが同席しているかがチェックされる[06]。
視聴者が操作者(本人)のみである場合[06−YES]には、図3に示した管理テーブルに従い、操作者に対して起動が設定されているウィジェットが検索される[07]。
一方、視聴者が操作者(本人)を含む同席者(1人以上の家族)がいる場合[06−NO]には、家族のみに対して起動が設定されているウィジェットが検索される[09]。
以下、[10]/[07]/[09]で検索されたウィジェット(ウィジェットセットを含む)のいずれかが起動される[08]。
このように、視聴者として本人(操作者)以外の人が同席している場合、再生する映像や音声すなわちウィジェットを、予め設定されている規則に従って詮索して起動(再生)することにより、操作者としては第三者には見てほしくない映像等が不所望に再生されることが抑止でき、同席者としては操作者が見てほしくないと感じる映像等を視聴することになるという事態から解放される。
図13は、図5に示したインプット情報テーブルを用いて、特定のウィジェットが起動されている状態において、例えば視聴者の会話に即した新たなウィジェットを起動し、あるいは既に起動中のウィジェットが再生する内容を(視聴者の会話に沿って)変更できることを、ソフトウエア的に説明する概略図である。なお、図13においてもウィジェットが動作する対象の装置を図2により説明したデジタルフォトフレームとするが、もちろん図1に示したテレビジョン受信装置や、PC(パーソナルコンピュータ)であっても同様であることはいうまでもない。
視聴者がデジタルフォトフレームの近傍にいることが付属するカメラ100aによって検知されている状態においては、音声認識・形態素解析部166により視聴者の会話から話題(キーワード)が、広く実用化されている音声認識および形態素解析の技巧に従い、適宜、抽出される[101]。
次に、取得(抽出)できたキーワード(話題)に基づき、現在表示(起動)されているウィジェットのうちの任意の1つが選択され[103]、話題とウィジェットの属性情報とが照合される[103]。
照合の結果、属性情報が話題に一致する場合[105−YES]、そのウィジェットに属性がインプットされる[106]。
以下、インプットされた属性情報に関連するウィジェットが更新される(属性情報に関連のあるウィジェットにおいて、属性情報に関連した内容が再生される)[07]。
また、現在起動(表示されている)残りのウィジェットについても、(話題に対する)属性情報の一致/不一致が順に照合される[103]/[104]。なお、全てのウィジェットについて話題に対する属性情報が照合された時点で、属性情報が関連しているウィジェットが、次の話題が抽出されるまで、順に再生される[102]。
例えば、会話が『旅行』であり、ウィジェットとして、「天気」・「グルメ」等が起動されている場合、「天気」のウィジェットにおいて、旅先(目的地)や日時(何日後)がインプットされることにより、ネットワーク網を介して目的地の該当する日時の天気(予報)が取得され、再生される。また、「グルメ」のウィジェットにおいては、同目的地において著名な食べ物に関する情報がネットワーク網を介して取得され、ウィジェット内で再生される。
このように、視聴者の希望する、あるいは必要があると予想される項目について、現在起動されているウィジェットにおいて表示(再生)可能な属性情報を、視聴者の会話から取り込んでキーワードとして設定し、ネットワーク網を介して、あるいは内臓の辞書ファイル等を参照して属性情報が一致するものを順に再生(表示)することで、視聴者の利便性を向上できる。なお、カメラにより取得した顔画像データに基づいて、性別や年齢層を判別することにより、属性情報に基づいて取得するウィジェットが表示すべき情報の内容を、より視聴者の好みに整合させることが可能となる。
図14は、図11により説明したウィジェットの登録と削除を実現する別の実施の例を表示画面の遷移例により示す。
任意のウィジェットが起動されている状態(画面例[101])においてウィジェットが表示されていない領域を、操作者が触れることで、予め保持されているウィジェットを追加するモードが起動される(画面例[111])。
追加しようとしているウィジェットを画面例[111]面内でドラッグ(操作者の指が触れている状態を維持しながら表示領域内を移動)し、ウィジェットを動作させたい位置で、指を離すことで、画面例[111]で選択されたウィジェットが、動作させたい位置に移動され、登録される(画面例[112])。
以下、画面例[112]で移動された位置でドラッグしたウィジェットを起動してよ異場合には、その位置で『はい(あるいは「OK」)』を入力することで、ウィジェットが追加される(画面例[113])。
一方、既に登録(表示領域内で起動)されているウィジェットを削除する場合は、削除しようとするウィジェットに触れることで、削除モードが起動されるとともに削除のために選択されたウィジェットをその位置へ移動するか否かを確認する設定画面が表示される(画面例[121])。なお、画面例[121]においては、削除、あるいは移動された位置においてウィジェットを継続して利用するかが、操作者の入力指示により設定可能である。
また、表示領域内に表示されているが起動していないウィジェットについては、表示されているウィジェットに操作者が触れることで、ウィジェットが起動し、ウィジェットに固有の動作(ウィジェットが所望する動作)が実行される(画面例[131])。
なお、図14に示した例は、タッチスクリーンの機能を利用してウィジェットの追加と削除(起動位置の変更)を実行するための制御の一例であり、タッチスクリーンを用いる表示装置において広く利用されている任意の制御方法を用いることができる。また、個々のウィジェットは、表示領域内の任意の位置に配置できる。
また、ウィジェットに固有の動作(ウィジェットが所望する動作)とは、ウィジェットが、例えば「音楽プレーヤ」である場合には、操作者によるタッチ(ウィジェットへの指の接触)により、プレーヤとしての機能が開始され、あるいは既に動作中である場合において、例えば「音量設定(変更)」や「トラック選曲画面表示」およびそれらからの入力設定、等をあげることができる。なお、ウィジェットが、例えば「天気予報」である場合には、「予報対象地域変更」や「予報対象条件変更(翌日の予報や週間予報)」等を表示させることができる。
図15は、顔認証/照合処理装置の構成例を説明する図である。
図2により説明したデジタルフォトフレームにおいて、付属するカメラ100aにより撮影された顔画像データは、顔認証/照合処理装置1により、顔情報(顔イメージ画像)として取得され、認証と照合が実行される、なお、顔認証処理/照合処理以外は、カメラが付属する側の機器(この例ではデジタルフォトフレーム)の制御部に分担される(図2のデジタルフォトフレームにおいては、主制御回路120と呼称する)により処理されることは、言うまでもない。
顔認証/照合処理装置1は、(認証・照合用)主制御部111、画像インタフェース部112、通信インタフェース部113、顔検出部114、顔照合部115、記憶部117等を含む。なお、記憶部117には、照合データベースが格納されている。
主制御部111は、図示しないが、プログラムメモリ、ワークメモリなどを持つMPUにより構成され、MPUがプログラムメモリに記憶されているプログラム(ファームウエア)を実行することにより種々な機能を実現している。
画像インタフェース部112は、カメラ100aにより撮影された画像(カメラの画素数に応じた解像度のビットマップデータ)を、顔認証/照合処理装置1に入力するためのインタフェースである。また、通信インタフェース部113は、映像音声再生装置の主制御回路120との通信を行うためのインタフェースである。
顔認証/照合処理装置1は、主制御回路120からの要求に応じてカメラ100aから取り込んだ顔画像の認証と照合を実行し、その結果を、通信インタフェース部113を介して主制御回路120へフィードバックする。
顔照合部115は、顔検出部114で検出した顔画像と記憶部117が保持するデータベース(顔イメージ、顔の特徴点に相当する情報を含むデータベース)に記憶されている特定の人物の顔画像データと、照合する。
顔検出部114は、カメラ100aにより撮影された画像から撮影された人物の顔画像を検出する。その際、顔検出部114では、撮影された画像データの階調やコントラストを適宜変え、輪郭強調処理をするなどして、写っている顔画像のエッジ(顔の輪郭、目、鼻、口の輪郭など)を浮き出させ、目、鼻、口などを含む顔のパターンを検出しやすくする。これにより、顔画像が存在する領域とその周辺の背景画像が存在する領域との境界が明確となり、背景画像部分の削除処理が容易になる。
以下、顔画像を含む矩形領域の左上隅を原点とする2次元の座標値等を用い、顔画像を含む2次元領域FAを定める。
続いて、顔検出部114により、顔画像の2次元領域FAにおいて、顔検出テンプレート(予め用意された1以上の標準顔パターン)を移動させながら、領域FA上の顔パターンと予め用意された標準顔パターンとの相関値を求める。
このようにして、2次元座標で表される特定位置(x,y)にある顔パターンの特徴点(目、鼻、口等)について、標準パターンとの相関値をコード化する。その結果が、図1に示したサーバ1000の宛先管理テーブル1001における顔の特徴点に記載される。このとき、テーブル1001において顔の特徴点が記載される行は、顔の相関値を求めた原顔画像のイメージが登録された行となる(例えばID=1の行に登録された顔イメージの特徴点の相関値コードは、ID=1の行に記載される)。
いま、予め用意されたサイズの異なる複数の標準顔パターンをgs(i,j)とし、この標準顔パターンgs(i,j)と2次元領域FAの画像f(x,y)内の局所領域(目、鼻、口などの領域)との相関をMs(x,y)とする。この場合、局所領域における相関Ms(x,y)は、例えば
Ms(x,y)=
Σf(x+i,y+i)・gs(i,j)/
{Σf(x+i,y+i)・Σgs(i,j)} …(1)
として求めることができる。ここで、サイズの異なる標準顔パターンgs(i,j)は、決められたサイズで予め収集した顔パターンを平均するなどして作成できる。
上述した相関Msの求め方については、公知の方法を採用することができる。その一例として、特開2003−108935号公報開示された「証明用媒体発行装置および本人照合装置」を参考までに挙げておく(この公報の段落0043〜0057には、顔認証/照合処理で利用可能な具体例が示されている)。
顔認証/照合処理装置1に顔認証/照合処理を指示し、その処理結果を受けて上述した処理を実行する映像音声再生装置の主制御回路120には、機器構成に応じて差異があるが、顔画像表示やビデオメール再生を行う表示部121、メール着信の音声案内やビデオメール内の音声出力を行うスピーカ122、スピーカ122から出す音声案内の音声データメモリを持ち、その音声データから音声信号を合成する音声合成部123、表示部121で表示するサムネイルやダイアログあるいは絵文字が展開されるビデオメモリ124、ユーザ操作を受けるリモコン125、ビデオレターやその他の情報を保持するハードディスクドライブ(HDD)126、ビデオレターやその他の情報を保持するメモリ(ICカード)127等が接続されている。この顔認証/照合処理装置1は、インターネットあるいはホームネットワーク経由で、ビデオレターサーバ1000の宛先管理テーブル1001との間で、その内容を、適宜取り出し、あるいはその内容を適宜書き替える(追加登録や不要情報の削除)ことができることはいうまでもない。なお、顔照合部115においては、詳述しないが、顔イメージから、性別や年齢層を推定(判断)することができることも周知である。
また、図15に示した顔認識・照合装置1および映像音声再生装置の主制御回路120の機能は、図1に一例を示したさまざまな家庭内ユーザ端末装置である電子機器(テレビジョン受信装置10、レコーダ装置20、テレビジョン受信装置200、パーソナルピュータ300、ゲーム機400、携帯電話500等)のそれぞれに組み込むことができる。ただし、顔認証の処理能力は、個々の機器で異なっていてもよい。例えば、テレビジョン受信装置200やパーソナルコンピュータ300では、1画面に複数の顔があってもそれらを別々に認識できるものとし、ゲーム機400や携帯電話500においては、カメラの前のユーザの顔を、1人だけ認識するものとすることができる。
以上説明したように、この発明の一つの実施の形態によれば、視聴者(操作者)が見たときに、表示される写真あるいは再生されるコンテンツを任意に選ぶことができる。また、同様に、起動されるウィジェットを、視聴者(操作者)に応じて任意に設定することができる。特に、室内(その場)にいる視聴者(操作者)が1人である場合には、実質的に各人専用端末化された映像音声再生装置として利用できる。すなわち、操作者(視聴者)が視線を合わせることで、一目で(個人に合わせた)情報を得ることができる。なお、個人向け表示条件は、1度設定すれば、引き続く操作は実質的に不要となる。特に、同席者や家族に対して見せないと決めた映像等は、操作者のみが在席の場合以外は再生されないため、映像音楽再生装置を共用する各人の同席を気にする必要がなくなる。
またさらに、この発明の一つの実施の形態によれば、顔認識により、周りにいる人に応じた動作が可能であって、見る人に合わせた情報や音楽を自動的に表示もしくは再生することができる。また、ウィジェットを見せる人を選択する手段とウィジェットを表示する手段を持ち、選択した人が画面を見たら、登録したウィジェットが表示される。さらに、時間帯を区切って、時間情報に基づいて異なるウィジェットを表示することができる。なお、ウィジェットを見せない人を選択する手段を持ち、見せないと設定した人がいたら特定のウィジェットについては表示しないことができる。逆に、視聴者(操作者)のみが在席である場合には、予め設定した全てのウィジェットを再生できる。
またさらに、この発明の一つの実施の形態によれば、視聴者(操作者)の会話から話題(キーワード)を取得し、取得したキーワードに属性が一致する情報を提示できる。
なお、視聴する人がいなくなった場合には、表示を停止することで省エネルギーを実現できる。
1…顔認証/照合処理装置(ハードウエアまたはファームウエアもしくはソフトウエア)、10…テレビジョン受信装置(家庭内ユーザ端末1)、10a…テレビジョン受信装置一体型デジタルカメラ(視聴者(ユーザ)の顔情報/視聴者(ユーザ)の在席状況収集用)、20…ビデオレコーダ装置(家庭内ユーザ端末2)、20a…ビデオレコーダ装置一体型デジタルカメラ(視聴者(ユーザ)の顔情報/視聴者(ユーザ)の在席状況収集用)、100…デジタルフォトフレーム(映像音声再生装置/家庭内ユーザ端末3)、100a…デジタルフォトフレーム一体型デジタルカメラ(視聴者(ユーザ)の顔情報/視聴者(ユーザ)の在席状況収集用)、120…デジタルフォトフレーム等の映像音声再生装置(家庭内ユーザ端末)の制御部、200…デジタルテレビジョン受信装置、200a…テレビジョン受信装置一体型デジタルカメラ(視聴者(ユーザ)の顔情報収集用)、300…パーソナルコンピュータ、300a…パーソナルコンピュータ一体型デジタルカメラ(視聴者(ユーザ)の顔情報収集用)、400…コンピュータゲーム機(カメラ付ゲーム機)、400a…ゲーム機一体型デジタルカメラ(視聴者(ユーザ)の顔情報収集用)、500…携帯電話器)、500a…携帯電話器のカメラ装置(視聴者(ユーザ)の顔情報収集用)、1000…ビデオレターサーバ、1001…宛先管理テーブル。

Claims (11)

  1. 視聴者の顔画像データを取り込み、
    取り込んだ顔画像データから視聴者を特定し、
    予め視聴者毎に区分された規則に従って、在席する視聴者に応じた情報を提示する情報再生方法。
  2. 在席する視聴者が本人のみである場合、予め設定された全ての情報を提示することを特徴とする請求項1記載の情報再生方法。
  3. 在席する視聴者が本人と予め視聴が許可された特定の在席者である場合、予め視聴が許可された特定の在席者への提示が指定されている全ての情報を提示することを特徴とする請求項1記載の情報再生方法。
  4. 在席する視聴者が本人と予め視聴が許可された特定の在席者とそれ以外の在籍者である場合、全ての視聴者への提示が指定されている情報のみを提示することを特徴とする請求項1記載の情報再生方法。
  5. 在席者の顔の情報を取り込む手段と、
    この取り込む手段により取り込まれた在席者の顔の情報を、予め保持したデータベースが保持する顔の情報と比較する手段と、
    この比較する手段の比較結果に基づいて、情報の再生を許可する顔情報照合手段と、
    この顔情報照合手段による照合結果に基づいて、前記取り込む手段が顔の情報を取り込んだ在席者に対して提示する情報を設定する設定手段と、
    この設定手段による設定結果に基づいて、前記取り込む手段が顔の情報を取り込んだ在席者に対して提示することが設定された情報を再生する再生手段と、
    を有することを特徴とする情報再生装置。
  6. 前記設定手段は、前記取り込む手段が顔の情報を取り込んだ在席者に対して提示することが禁止されている情報を除いた情報についてのみ前記再生手段による再生を許可することを特徴とする請求項5記載の情報再生装置。
  7. 前記設定手段は、前記取り込む手段が顔の情報を取り込んだ在席者が一人のみである場合に、その在席者に対する提示が許可されている全ての情報について前記再生手段による再生を許可することを特徴とする請求項5記載の情報再生装置。
  8. 前記設定手段による設定を時間とともに変更する手段をさらに有し、前記設定手段により提示が許可されている情報を、時間の経過に合わせて変更して前記再生手段により再生することを特徴とする請求項6または7記載の情報再生装置。
  9. 在席者の会話を取得し、その会話からキーワードを抽出する手段をさらに有し、前記設定手段により提示が許可されている情報と抽出されたキーワードに関連のある情報を取得して前記再生手段により再生することを特徴とする請求項6または7記載の情報再生装置。
  10. 前記取り込む手段により在席者がないことが検知された場合に、前記再生手段の動作を停止する手段をさらに有することを特徴とする請求項5記載の情報再生装置。
  11. 機器操作者の顔を顔イメージ画像として取り込むカメラモジュールと、
    このカメラモジュールが取り込んだ顔イメージ画像から特徴点を抽出して符号化または文字列化する符号化モジュールと、
    この符号化モジュールにより符号化または文字列化された特徴点に従い、機器操作者を特定する操作者特定モジュールと、
    この操作者特定モジュールにより特定された操作者について再生が認められて情報を再生する情報再生モジュールと、
    を有することを特徴とする情報再生装置。
JP2009125606A 2009-05-25 2009-05-25 情報再生方法及び情報再生装置 Pending JP2010272077A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009125606A JP2010272077A (ja) 2009-05-25 2009-05-25 情報再生方法及び情報再生装置
US12/787,307 US8744142B2 (en) 2009-05-25 2010-05-25 Presenting information based on whether a viewer corresponding to information is stored is present in an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009125606A JP2010272077A (ja) 2009-05-25 2009-05-25 情報再生方法及び情報再生装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2011087218A Division JP5496144B2 (ja) 2011-04-11 2011-04-11 情報再生装置、情報再生用のプログラム、情報再生方法

Publications (1)

Publication Number Publication Date
JP2010272077A true JP2010272077A (ja) 2010-12-02

Family

ID=43124583

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009125606A Pending JP2010272077A (ja) 2009-05-25 2009-05-25 情報再生方法及び情報再生装置

Country Status (2)

Country Link
US (1) US8744142B2 (ja)
JP (1) JP2010272077A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013014754A1 (ja) * 2011-07-26 2013-01-31 富士通株式会社 画像表示装置、画像表示方法および画像表示プログラム
JP2014192851A (ja) * 2013-03-28 2014-10-06 Fujitsu Ltd 画像表示装置、画像表示方法及び画像表示プログラム
JPWO2013014754A1 (ja) * 2011-07-26 2015-02-23 富士通株式会社 画像表示装置および画像表示方法

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5116513B2 (ja) * 2008-03-10 2013-01-09 キヤノン株式会社 画像表示装置及びその制御方法
CN102236407A (zh) * 2011-06-29 2011-11-09 华为终端有限公司 控制移动终端状态的方法及移动终端
JP5932035B2 (ja) 2011-08-04 2016-06-08 グーグル インコーポレイテッド 検索結果を伴う知識パネルを提供すること
US9274683B2 (en) * 2011-12-30 2016-03-01 Google Inc. Interactive answer boxes for user search queries
US20130215140A1 (en) * 2012-02-16 2013-08-22 Yat Wai Edwin Kwong Photo frames for displaying pictures that are related to time zone management
US20150145763A1 (en) * 2012-06-15 2015-05-28 Nikon Corporation Electronic device
JP5784245B2 (ja) 2012-11-30 2015-09-24 日立マクセル株式会社 映像表示装置、及びその設定変更方法、設定変更プログラム
JP5902632B2 (ja) 2013-01-07 2016-04-13 日立マクセル株式会社 携帯端末装置及び情報処理システム
CN106302124A (zh) * 2016-08-18 2017-01-04 北京奇虎科技有限公司 一种添加特效的方法及电子设备
CN111212306A (zh) * 2019-12-24 2020-05-29 北京达佳互联信息技术有限公司 连麦方法、装置、电子设备及存储介质
US11442753B1 (en) * 2020-10-14 2022-09-13 Wells Fargo Bank, N.A. Apparatuses, computer-implemented methods, and computer program products for displaying dynamic user interfaces to multiple users on the same interface

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000322358A (ja) * 1999-05-11 2000-11-24 Fujitsu Ltd データ表示装置及び情報表示のためのプログラムを記録した記録媒体
JP2002259335A (ja) * 2001-03-01 2002-09-13 Konica Corp 情報認識システム、デジタル撮像装置、店頭プリント装置、携帯電話機、情報処理装置、情報認識方法、及び情報記録媒体
JP2004534317A (ja) * 2001-07-03 2004-11-11 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 対話型ディスプレイ及びメッセージを表示する方法
JP2008009694A (ja) * 2006-06-29 2008-01-17 Nikon Corp ユーザ認識装置、再生装置、再生システムおよびテレビジョンセット

Family Cites Families (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5640468A (en) * 1994-04-28 1997-06-17 Hsu; Shin-Yi Method for identifying objects and features in an image
JP3279913B2 (ja) * 1996-03-18 2002-04-30 株式会社東芝 人物認証装置、特徴点抽出装置及び特徴点抽出方法
JP2000175117A (ja) 1998-12-10 2000-06-23 Matsushita Electric Ind Co Ltd テレビジョン受像機
JP2000244673A (ja) 1999-02-24 2000-09-08 Matsushita Electric Ind Co Ltd 携帯電話装置及び方法
JP2001005967A (ja) 1999-06-21 2001-01-12 Matsushita Electric Ind Co Ltd 画像送信装置及びニューラルネットワーク
JP2008136252A (ja) 1999-11-08 2008-06-12 Casio Comput Co Ltd データ登録方法およびデータ登録装置ならびに通信端末
JP4379900B2 (ja) 1999-11-08 2009-12-09 カシオ計算機株式会社 データ登録装置及び通信装置
JP2001160145A (ja) 1999-12-03 2001-06-12 Oki Electric Ind Co Ltd パターン分類方法及びその装置
JP4660877B2 (ja) 2000-01-11 2011-03-30 ソニー株式会社 電子機器システム
US20010013895A1 (en) * 2000-02-04 2001-08-16 Kiyoharu Aizawa Arbitrarily focused image synthesizing apparatus and multi-image simultaneous capturing camera for use therein
JP2002092013A (ja) 2000-09-12 2002-03-29 Casio Comput Co Ltd 情報検索装置、情報検索システムおよびサーバ
JP4046994B2 (ja) 2001-12-06 2008-02-13 キヤノン株式会社 情報処理装置及び情報処理方法
JP4177598B2 (ja) * 2001-05-25 2008-11-05 株式会社東芝 顔画像記録装置、情報管理システム、顔画像記録方法、及び情報管理方法
US7444013B2 (en) * 2001-08-10 2008-10-28 Stmicroelectronics, Inc. Method and apparatus for recovering depth using multi-plane stereo and spatial propagation
JP2003108935A (ja) 2001-09-28 2003-04-11 Toshiba Corp 証明用媒体発行装置および本人照合装置
JP2003296713A (ja) * 2002-04-04 2003-10-17 Mitsubishi Electric Corp 顔画像合成装置、顔画像合成方法およびその方法を実行するプログラムならびに顔画像合成装置を備えた通信用端末およびその通信用端末による通信方法
US7426292B2 (en) * 2003-08-07 2008-09-16 Mitsubishi Electric Research Laboratories, Inc. Method for determining optimal viewpoints for 3D face modeling and face recognition
GB2410359A (en) * 2004-01-23 2005-07-27 Sony Uk Ltd Display
JP2005267146A (ja) 2004-03-18 2005-09-29 Nec Corp 画像認識機能を利用した電子メール作成方法および装置
US7706633B2 (en) * 2004-04-21 2010-04-27 Siemens Corporation GPU-based image manipulation method for registration applications
JP2007279776A (ja) 2004-07-23 2007-10-25 Matsushita Electric Ind Co Ltd Cgキャラクタエージェント装置
JP2006236218A (ja) 2005-02-28 2006-09-07 Fuji Photo Film Co Ltd 電子アルバム表示システム、電子アルバム表示方法、及び電子アルバム表示プログラム
JP2007028077A (ja) 2005-07-14 2007-02-01 Noritsu Koki Co Ltd 携帯端末
US20070033607A1 (en) * 2005-08-08 2007-02-08 Bryan David A Presence and proximity responsive program display
US20070206880A1 (en) * 2005-12-01 2007-09-06 Siemens Corporate Research, Inc. Coupled Bayesian Framework For Dual Energy Image Registration
US8266609B2 (en) * 2005-12-07 2012-09-11 Microsoft Corporation Efficient placement of software transactional memory operations around procedure calls
JP2007188321A (ja) * 2006-01-13 2007-07-26 Sony Corp 通信装置および通信方法、プログラム、並びに記録媒体
JP2008033862A (ja) 2006-06-30 2008-02-14 Crape:Kk ドキュメントデータを表示させる方法
US8106856B2 (en) * 2006-09-06 2012-01-31 Apple Inc. Portable electronic device for photo management
US8315463B2 (en) * 2006-11-14 2012-11-20 Eastman Kodak Company User interface for face recognition
JP2008165009A (ja) 2006-12-28 2008-07-17 Fujifilm Corp 画像表示装置
US8396320B2 (en) * 2007-01-19 2013-03-12 Purdue Research Foundation Method and apparatus for determining the stray-light point-spread function of an imaging system
US7831141B2 (en) * 2007-03-29 2010-11-09 Sony Ericsson Mobile Communications Ab Mobile device with integrated photograph management system
KR101397152B1 (ko) * 2007-06-12 2014-05-20 삼성전자주식회사 디지털 멀티미디어 재생 장치 및 그 제어방법
JP2009027221A (ja) 2007-07-17 2009-02-05 Konica Minolta Business Technologies Inc 情報管理システムおよびプログラム
JP5147352B2 (ja) * 2007-10-16 2013-02-20 株式会社日立製作所 データ処理装置の情報提供方法
US8031175B2 (en) * 2008-04-21 2011-10-04 Panasonic Corporation Touch sensitive remote control system that detects hand size characteristics of user and adapts mapping to screen display
WO2009067676A1 (en) * 2007-11-21 2009-05-28 Gesturetek, Inc. Device access control
JP2011504710A (ja) * 2007-11-21 2011-02-10 ジェスチャー テック,インコーポレイテッド メディア嗜好
JP2010016432A (ja) 2008-07-01 2010-01-21 Olympus Corp デジタルフォトフレーム、情報処理システム、制御方法、プログラム及び情報記憶媒体
JP2010086221A (ja) * 2008-09-30 2010-04-15 Fujifilm Corp 画像編集方法および装置、ならびに画像編集方法を実行させるプログラムを記録したコンピュータに読取可能な記録媒体
JP2010231350A (ja) * 2009-03-26 2010-10-14 Toshiba Corp 人物識別装置、そのプログラム、及び、その方法
US9014546B2 (en) * 2009-09-23 2015-04-21 Rovi Guides, Inc. Systems and methods for automatically detecting users within detection regions of media devices
US20110070819A1 (en) * 2009-09-23 2011-03-24 Rovi Technologies Corporation Systems and methods for providing reminders associated with detected users
JP4768846B2 (ja) * 2009-11-06 2011-09-07 株式会社東芝 電子機器及び画像表示方法
US8810684B2 (en) * 2010-04-09 2014-08-19 Apple Inc. Tagging images in a mobile communications device using a contacts list

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000322358A (ja) * 1999-05-11 2000-11-24 Fujitsu Ltd データ表示装置及び情報表示のためのプログラムを記録した記録媒体
JP2002259335A (ja) * 2001-03-01 2002-09-13 Konica Corp 情報認識システム、デジタル撮像装置、店頭プリント装置、携帯電話機、情報処理装置、情報認識方法、及び情報記録媒体
JP2004534317A (ja) * 2001-07-03 2004-11-11 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 対話型ディスプレイ及びメッセージを表示する方法
JP2008009694A (ja) * 2006-06-29 2008-01-17 Nikon Corp ユーザ認識装置、再生装置、再生システムおよびテレビジョンセット

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013014754A1 (ja) * 2011-07-26 2013-01-31 富士通株式会社 画像表示装置、画像表示方法および画像表示プログラム
JPWO2013014754A1 (ja) * 2011-07-26 2015-02-23 富士通株式会社 画像表示装置および画像表示方法
JP2014192851A (ja) * 2013-03-28 2014-10-06 Fujitsu Ltd 画像表示装置、画像表示方法及び画像表示プログラム

Also Published As

Publication number Publication date
US8744142B2 (en) 2014-06-03
US20100296707A1 (en) 2010-11-25

Similar Documents

Publication Publication Date Title
JP2010272077A (ja) 情報再生方法及び情報再生装置
TW482985B (en) Automatic media and advertising system
US20230195776A1 (en) Behavioral Curation of Media Assets
US20190235706A1 (en) Display device providing feedback based on image classification
US20200154163A1 (en) Tv mode change in accordance with number of viewers present
KR101432457B1 (ko) 콘텐츠를 자동으로 태깅하기 위한 콘텐츠 캡처 장치 및 방법
TWI581128B (zh) 基於媒體反應來控制媒體節目的方法、系統及電腦可讀取儲存記憶體
US9058375B2 (en) Systems and methods for adding descriptive metadata to digital content
CN109118290B (zh) 方法、系统和计算机可读非暂时性存储介质
KR102490438B1 (ko) 디스플레이 장치 및 그 제어 방법
KR20160144400A (ko) 주변 조건들에 기초하여 출력 디스플레이를 발생시키는 시스템 및 방법
CN102710991A (zh) 信息处理设备、信息处理方法和程序
CN102577367A (zh) 时移视频通信
US20170255654A1 (en) Image display device providing individualized feedback
US8943020B2 (en) Techniques for intelligent media show across multiple devices
KR20170011177A (ko) 디스플레이 장치 및 그 제어 방법
CN108701455A (zh) 信息处理装置、信息处理方法和程序
CN107113467A (zh) 用户终端装置、系统及其控制方法
CN102984589A (zh) 以言语方式进行交流的面部响应电视设备
US8244005B2 (en) Electronic apparatus and image display method
US20130055079A1 (en) Display device providing individualized feedback
US20120266066A1 (en) Image display device providing subject-dependent feedback
JP5496144B2 (ja) 情報再生装置、情報再生用のプログラム、情報再生方法
US20190156259A1 (en) Methods, systems, and media for creating an atmosphere suited to a social event
WO2022091493A1 (ja) プログラム、情報処理装置及び方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101006

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110411

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110414

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20110513