JP2012027611A - 画像表示装置、画像配信システム、閲覧者状況収集方法、及びプログラム - Google Patents

Abstract

【課題】ネットワークに接続された画像表示装置に効率的にコンテンツを配信するためのデータを取得する。
【解決手段】表示された配信コンテンツを閲覧しているときに（ステップＳ９４）、閲覧者の顔を認識するとともに（ステップＳ９６）、閲覧者がコンテンツを見ている距離、角度、動きなどを検出し（ステップＳ９６〜Ｓ１０２）、閲覧者がそのコンテンツにどれくらい興味を持っているかをログとして記録する（ステップＳ１０６）。これにより、どの閲覧者がどのような配信コンテンツに興味があるかを把握し、より良いコンテンツ配信に生かすことができる。
【選択図】図１５

Description

本発明は、特に、インターネットを利用した画像配信に係る画像表示装置、画像配信システム、閲覧者状況収集方法、及びプログラムに関する。

近年、デジタルカメラの普及により、写真は、デジタル画像データとして保存することが一般的となっている。従来のフィルムカメラによる撮影の場合、プリントを伴うことが多かったが、画像データの場合、撮影したデジタルカメラで閲覧したり、画像データを取り込んだパーソナルコンピュータなどで閲覧したりすることができるため、写真の楽しみ方にも変化が生じている。まず、このような技術や写真文化の流れについて特許文献を参照しながら簡単に説明する。

上記のような状況において、画像データでも従来のプリント写真と同様の楽しみ方ができるようにするため、いわゆるデジタルフォトフレームが実現され普及している（例えば、特許文献１参照）。
このようなデジタルフォトフレームでは、撮影した写真を再生して好きなときに鑑賞したり、スライドショー表示したり、画像データを保存するアルバム端末として使用することができる。

そして、ネットワークに接続し、メールの送受信も可能なデジタルフォトフレームも提案されている（例えば、特許文献２参照）。

また、複数人に閲覧可能とし、複数の閲覧者の情報を登録しておき、閲覧する人に応じて表示のさせ方等を変えるものも提案されている（例えば、特許文献３参照）。

更に、画像処理を加えることで、元の写真をベースとしつつも趣の異なる画調の画像（例えば、絵画調など）を生成して表示することができるようにした技術も提案されている（例えば、特許文献４参照）。

特許文献４の技術を発展させ、実際に画家が描いた絵画の画像から色彩情報と筆蝕情報等の特徴を抽出し、撮影された画像に抽出した特徴を付与することにより、原画像全体を勘案して、芸術性の高い絵画調画像に変換する技術も提案されるに至っている（例えば、特許文献５参照）。

また、絵画調などの画質を変更することによって変化をもたせるものも提案されている。（例えば、特許文献６参照）。

更にまた、スライドショーのように複数の画像を順次切り替え表示する場合、表示に適さない画像が不用意に表示されてしまうことを効果的に防止できるようにしたものも提案されている（例えば、特許文献７参照）。

他方、メモリカードの容量が大きくなり、価格も安くなっているために、家族が複数のデジタルカメラで複数のメモリカードに写真を撮りためたまま、メモリカードの整理がつかなくなっているケースが増えている。どのメモリカードに誰が何の写真を撮ったか分からなくなると、いちいちカメラやデジタルフォトフレームで再生して確認してから、改めてパソコンなどにフォルダ分けをして整理した上で保存しなければならないという背景がある。
そこで、大量の画像をパソコンに保存する際に、予め設定した内容に沿って、自動的にフォルダ分けを行い、その分類内容によって画像整理を効率よく行わせる技術が提案されている（例えば、特許文献８参照）。

さて、このような従来のデジタルフォトフレームにおいては、内蔵若しくはメモリカードに記録されている画像を表示するだけなので物足りないという課題があった。
そこで、デジタルフォトフレームをインターネットに接続し、様々なコンテンツ画像を有料若しくは無料で配信することが提案されている（例えば、特許文献９参照）。

特許文献９記載の技術によれば、デジタルフォトフレームにおいて、ニュースや広告など、無料若しくは有料の複数のジャンルのコンテンツ配信を受けることができる。

しかしながら、その配信情報を誰が見ているのか、何度も見ているか、あるいは１度しか見ていないかという配信情報別・個人別の人気度が分からないという課題があった。

特開２００９−１４１６７８号公報 特開２０１０−６１２４６号公報 特開２０１０−８６９１４号公報 特開平８−４４８６７号公報 特開２００４−２１３５９８号公報 特公平０１−４６９０５号公報 特開２００９−２８８５０７号公報 特開２００９−８７０９９号公報 特開２００３−９１６７５号公報

本発明は上記事情に鑑みてなされたもので、閲覧者の認証情報を得て、誰がどの程度操作しているか、誰が何のコンテンツに興味があるか等の人気度を示す情報を収集することができる画像表示装置、画像配信システム、閲覧者状況収集方法、及びプログラムを提供することを目的とする。

前記課題を解決するため、請求項１記載の発明は、ネットワークに接続し、ネットワークを介して配信される複数のコンテンツを表示する画像表示装置であって、閲覧者を認識する認識手段と、前記認識手段によって認識された前記閲覧者の前記コンテンツに対する閲覧状況を検出する検出手段と、前記検出手段によって検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出手段と、前記興味情報算出手段によって算出された前記閲覧者の興味情報を、前記認識手段に認識された前記閲覧者に対応付けて記録するログ記録手段とを具備したことを特徴とする画像表示装置である。

また、好ましい態様として、例えば請求項２記載のように、請求項１に記載の画像表示装置において、前記検出手段は、前記コンテンツに対する閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出するようにしてもよい。

また、好ましい態様として、例えば請求項３記載のように、請求項２に記載の画像表示装置において、前記検出手段は、更に、前記コンテンツに対する閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出するようにしてもよい。

また、上記目的達成のため、請求項４記載の発明は、ネットワークに接続し、前記ネットワークを介して複数のコンテンツを配信するサーバと、前記ネットワークに接続し、前記ネットワークを介してサーバから配信される複数のコンテンツを表示する画像表示装置とを具備する画像配信システムであって、前記画像表示装置は、閲覧者を認識する認識手段と、前記認識手段によって認識された前記閲覧者の前記コンテンツに対する閲覧状況を検出する検出手段と、前記検出手段によって検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出手段と、前記興味情報算出手段によって算出された前記閲覧者の興味情報を、前記認識手段に認識された閲覧者に対応付けて記録するログ記録手段とを具備し、前記サーバは、前記ログ記録手段によって前記閲覧者に対応付けて記録された前記興味情報に基づいて、前記複数のコンテンツを配信することを特徴とする画像配信システムである。

また、好ましい態様として、例えば請求項５記載のように、請求項４に記載の画像配信システムにおいて、前記画像表示装置の前記検出手段は、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出するようにしてもよい。

また、好ましい態様として、例えば請求項６記載のように、請求項５に記載の画像配信システムにおいて、前記画像表示装置の前記検出手段は、更に、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出するようにしてもよい。

また、上記目的達成のため、請求項７記載の発明は、ネットワークに接続し、前記ネットワークを介して配信される複数のコンテンツを表示する画像表示装置による閲覧者状況収集方法であって、前記画像表示装置は、閲覧者を認識する認識ステップと、前記認識ステップで認識された閲覧者の前記コンテンツに対する閲覧状況を検出する検出ステップと、前記検出ステップで検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出ステップと、前記興味情報算出ステップで算出された前記閲覧者の興味情報を、前記認識ステップで認識された前記閲覧者に対応付けて記録するログ記録ステップとを含むことを特徴とする閲覧者状況収集方法である。

また、好ましい態様として、例えば請求項８記載のように、請求項７に記載の画像配信システムにおいて、前記検出ステップは、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出するようにしてもよい。

また、好ましい態様として、例えば請求項９記載のように、請求項８に記載の画像配信システムにおいて、前記検出ステップは、更に、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出するようにしてもよい。

また、上記目的達成のため、請求項１０記載の発明は、ネットワークに接続し、ネットワークを介して配信される複数のコンテンツを表示する画像表示装置のコンピュータに、閲覧者を認識する認識機能、前記認識機能で認識された閲覧者の前記コンテンツに対する閲覧状況を検出する検出機能、前記検出機能で検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出機能、前記興味情報算出機能で算出された前記閲覧者の興味情報を、前記認識機能で認識された前記閲覧者に対応付けて記録するログ記録機能を実行させることを特徴とするプログラムである。

また、好ましい態様として、例えば請求項１１記載のように、請求項１０に記載のプログラムにおいて、前記検出機能は、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出するようにしてもよい。

また、好ましい態様として、例えば請求項１２記載のように、請求項１１に記載のプログラムにおいて、前記検出機能は、更に、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出するようにしてもよい。

本発明によれば、閲覧者の個人別興味情報を得ることができる。これにより例えば、誰がどの程度操作しているか、誰が何のコンテンツに興味があるか等の情報を把握することができるので、より有効な配信コンテンツの作成、または効率的な課金の仕方などに生かすことが可能である。

本発明を適用した第１実施形態による画像表示装置１を示す外観図である。 本第１実施形態による画像表示装置１の電気的構成を示したブロック図である。 本第１実施形態による画像表示装置１が適用されるネットワーク系の構成を示すブロック図である。 本第１実施形態による表示装置１のメモリカード６０に記憶されている画像ファイルの構造を示す概念図である。 本第１実施形態による表示装置１の内部メモリ１４内のフォルダ構成を示す概念図である。 本第１実施形態による表示装置１の内部メモリ１４内に構成されるアドレス帳３３の構成を示す概念図である。 本第１実施形態による画像表示装置１の初期設定の際に、ユーザの顔とユーザのメールアドレスとを対応づけて登録するための手順を示すフローチャートである。 本第１実施形態による画像表示装置１において、ＳＤカードなどのメモリカード６０がメモリカードスロット６に差し込まれた際に、メモリカード６０に記憶されている画像を内部メモリ１４に保存する際の手順を示すフローチャートである。 本第１実施形態による画像表示装置１でメールを受信したときの手順を示すフローチャートである。 本第１実施形態による画像表示装置１の再生動作について説明するフローチャートである。 本第１実施形態による画像表示装置１の再生動作の中のスライドショー再生の手順を示すフローチャートである。 本第２実施形態による画像表示装置のフォルダ構成を示す概念図である。 本第３実施形態による画像配信システムに係る、ネットワークによるコンテンツ配信サービスの一例を示すブロック図である。 本第３実施形態の特徴であるログ情報の解析について説明するための概念図である。 本第３実施形態による画像表示装置１でのログ記録の概略動作を示すフローチャートである。 本第３実施形態において、配信コンテンツサイト５３０から配信され、ネットワークサービスサイト５２０のコンテンツサーバー５２４に一時的に記憶されるコンテンツのファイル構成の一例を示す概念図である。

以下、本発明の実施の形態について図面を参照して説明する。

Ａ．第１実施形態
図１は、本発明を適用した第１実施形態による画像表示装置１を示す外観図である。画像表示装置１の正面には、本体２に保持された液晶表示パネル３によって構成される表示部が設けられている。この液晶表示パネル３には、タッチパネル５が一体的に構成されており、指でタッチすることにより操作可能となっている。本体２の前面上部右側には、撮像素子８が設けられ、側面には、メモリカードスロット６が設けられている。更に、本体上部にＧＰＳ（Global Positioning System)アンテナ７、全面上部左側に人感センサ４が設けられている。

図２は、本第１実施形態による画像表示装置１の電気的構成を示したブロック図である。画像表示装置１は、ＣＰＵ（Central Processing Unit）１１と、ＣＰＵ１１に接続されたＲＯＭ（Read
Only Memory）１２と、ＲＡＭ（Random Access memory）１３と、内部メモリ１４とを備え、ＲＯＭ１２には、ＣＰＵ１１に後述するフローチャートに示す動作を行わせるためのプログラムが記憶されている。また、ＣＰＵ１１は、撮像素子８で撮像した顔を認識処理するための顔認識エンジン１００と、写真画像を絵画調の画像に変換する絵画変換エンジン２００とを含んでいる。

顔認識エンジン１００は、写真の中に複数の顔が写っている場合、それぞれの顔を認識する能力を備えている。顔認識の方式自体は、本発明の趣旨ではないので説明は省略する。

絵画変換エンジン２００は、例えば、特開平８−４４８６７号公報（特許文献４）、特開２００４−２１３５９８号公報（特許文献５）などに開示されているような絵画変換処理を行うものである。絵画変換エンジン２００による絵画変換処理は、メモリカード６０に記憶されている表示対象の画像を、絵画が有する特徴を備えた絵画調画像、つまり特定の効果を与えた絵画調画像に変換し、変換後の絵画調画像を液晶表示パネル３に表示する処理である。

また、絵画調画像への変換に際して目標とする絵画の種類、つまり変換画調画像にする特徴（画調）が選択可能である。本第１実施形態において、選択可能な画調は、油絵調、水彩画調、パステル画調、鉛筆画調、クレヨン画調、イラスト画調、点描画調、エアブラシ画調とする。しかし、これに限ることなく、ゴッホ調、モネ調、ピカソ調など、画家の特徴を加味した変換の選択を可能としても良い。また、別の画調のアルゴリズムを後述するメモリカード６０で提供することもできる。

なお、本第１実施形態においては、油絵調からエアブラシ画調までの８種類の画調に変換するプログラムが記憶されているが、格別指定のない場合の優先順序は、（１）油絵調、（２）水彩画調、（３）パステル画調、（４）鉛筆画調、（５）クレヨン画調、（６）イラスト画調、（７）点描画調、（８）エアブラシ画調とする。

ＲＡＭ１３は、ＣＰＵ１１が必要に応じて種々のデータを一時的に記憶する作業用のメモリである。内部メモリ１４は、ハードディスク、またはフラッシュメモリによる大容量不揮発性メモリであり、詳細は後述するが、フォルダが形成されて多数の画像を保存可能となっている。また、電話帳３３、反応ログメモリ３００も含む。

表示制御部１６は、ＣＰＵ１１から供給される表示用の画像データに基づいて液晶表示パネル３を駆動することにより、画像や、各種メニューを液晶表示パネル３に表示させる。キー入力部制御部１７は、ＣＰＵ１１の制御に基づいてタッチパネル５の操作信号を入力するものである。
タッチパネル５は、静電容量方式、光学方式、抵抗膜方式、表面弾性波方式、超音波方式、電磁誘導方式など様々存在する中から、適宜選択することができる。指紋認証や、静脈認証の機能を組み込むことも可能である。

メモリカードインターフェース１８は、メモリカードスロット６に着脱自在に装着された各種のメモリカード６０と、ＣＰＵ１１との間におけるデータの入出力を制御する入出力インターフェースとである。

撮像制御部１９は、撮像素子８を駆動して被写体の画像を取り込む制御を行う。ベイヤーデータで取り込まれた画像データは、ＹＵＶ、及びＲＧＢデータに変換後、ＪＰＥＧ（Joint Photographic Experts
Group）データに圧縮されて内部メモリ１４またはメモリカード６０に記録される。
ＧＰＳ制御部２０は、ＧＰＳアンテナ７で受信した情報を元に位置情報を取得する。これにより、画像表示装置１の現在位置を知ることができる。
電源制御部７０は、電源プラグ３１を介してＡＣ電源を取り入れ、直流に変換して各部に主電源７１若しくは待機電源７２の電力を供給する。

人感センサ４は、焦電センサや、ラインセンサなどで構成されるもので、ＣＰＵ１１に接続され、近くに人がいるかどうかを検知する。従って、近くに人がいない状態が所定時間以上続くと、電源制御部７０をＣＰＵ１１により制御し、自動的に主電源７１を切って待機電源７２だけ供給しておき、節電を図り（オートパワーオフ）、再度、人感センサ４が人の接近を検知すると、主電源７１をオンする。

また、人感センサ４は、閲覧者の角度や、距離を測定することができる。更に、この人感センサ４を撮像素子８で流用することもできる。詳細は後述するが、撮像素子８、撮像制御部１９、及び顔認識エンジン１００の協働により、閲覧者の顔を認識し、誰が閲覧しているかによって電源の制御が可能であるとともに、誰がどの角度で、近くから見ているか遠くから見ているかも検出することができる。

通信制御部３０は、電話回線３１若しくは無線ＬＡＮ３２を経由してインターネット５００に接続し、メールの送受信や、コンテンツの送受信を含む通信制御を行う。アドレス帳３３は、メール送受信に用いられ、実際は、内部メモリ１４内に設けられる。

反応ログメモリ３００は、内部メモリ１４内に設けられ、上述した撮像素子８で撮像し、顔認識エンジン１００で認識した結果や、人感センサ１９の反応結果、タッチパネル５のタッチ結果などにより、閲覧者の反応ログ（履歴）を記憶する。

次に、図３は、本第１実施形態による画像表示装置１が適用されるネットワーク系の構成を示すブロック図である。５１０はパーソナルコンピュータであり、無線ＬＡＮ３２等で通信制御部３０を介して画像表示装置１と接続でき、画像表示装置１では設定できない複雑な設定等をすることができる。

５２０は、インターネット５００を介して接続されるネットワークサービスサイトであり、少なくとも認証サーバー５２１、メールサーバー５２２、課金サーバー５２３、コンテンツサーバー５２４を含む。表示装置１のネットワークプロバイダの役割もしている。

５３０は、表示装置１に表示させるための各種コンテンツを配信するための配信コンテンツサイトで、多数のコンテンツや、画像などを有しており、インターネット５００を介して画像表示装置１若しくはネットワークサービスサイト５２０へデータを配信することができる。

図４は、本第１実施形態による表示装置１のメモリカード６０に記憶されている画像ファイルの構造を示す概念図である。各画像ファイルは、ＥＸＩＦ（Exchangeable Image File Format）などのデータを有するヘッダＧ１と、撮影された画像であり本画像である画像データＧ２と、その画像データＧ２の縮小画像であるサムネイルＧ３の画像データを含む。なお、表示画面の大きさにより、画面に表示すべき縮小画像の大きさが異なるため、サムネイルとは別に表示用のプレビュー画像を作成して記憶しておく場合もある。本第１実施形態では、プレビュー画像も含めてサムネイルと表現している。

つまり、画像ファイルは、一般的なデジタルカメラのファイルフォーマットに準拠し、デジタルカメラで撮像したＳＤカード（メモリカード６０）をメモリカードスロット６に差し込むだけで使用できるようになっている。画像ファイルのフォーマットとしては、ＪＰＥＧ、ＧＩＦ（Graphics Interchange Format）、ＡＶＩ（Audio Video
Interleave）、ＰＮＧ（Portable Network Graphics）など種々のフォーマットに適宜対応可能である。

以下は、本第１実施形態に特有のデータである。まず、Ｇ４は、画像の保存操作を行った人物を示す個人識別コードであり、人物の特定は、顔認識により識別する。例えば、お父さんであれば“１００１”、お母さんであれば“１００２”のように、個人別に識別コードが割り振られる。Ｇ５は、画像の用途を示し、仕事用、プライベート用などに分類した分類コードである。例えば、仕事用であれば“０１”、プライベート用であれば“０２”、旅行用であれば“０３”の分類コードが記録される。この分類は、自分の画像について自由に分類分けを行うことができる。Ｇ６は、その画像をシークレット設定するかどうかを示すシークレットフラグであり、シークレット設定にする場合には“１”、そうでない場合には“０”とする。

Ｇ７は、表示している画像を閲覧している人物を示す閲覧者コードである。閲覧者の特定は、画像を表示している際に撮像素子８で撮像した人物を顔認識し、既に登録されている人物であれば、該当人物の識別コードを閲覧者コードとして記録し、登録されていない新規な人物であれば、新たに閲覧者コードを発行して記録していく。Ｇ８は、閲覧者別の閲覧回数を記憶する。Ｇ７とＧ８は、便宜上、別々に示しているが、閲覧者コードと閲覧回数とをセットで記憶していくものである。すなわち、この画像をＡさんが２回見ていれば、Ａさんの閲覧者コード“１１０１”＊２、Ｂさんが３回見ていれば、Ｂさんの閲覧者コード“１０５２”＊３、ということになる。

図５は、本第１実施形態による表示装置１の内部メモリ１４内のフォルダ構成を示す概念図である。本第１実施形態では、内部メモリ１４に画像認識により識別された個人毎のフォルダが作成される。図４には、１つの画像ファイルの構成を示したが、基本的には、この画像ファイルの個人識別コードＧ７毎にフォルダを形成する。例えばお父さんの識別コード“１００１”に対応するフォルダＦ１、お母さんの識別コード“１００２”に対応するフォルダＦ２、…のようになる。また、個人のフォルダ内に、画像ファイルの分類コードＧ５に応じて、あるいはシークレットフラグを付けたものについてサブフォルダＳＦを形成する。例えば、仕事用サブフォルダＳＦ１、プライベート用サブフォルダＳＦ２、シークレットフラグを立てたサブフォルダＳＦ３、メールで受信した画像用のサブフォルダＳＦ４が形成される。なお、これらのフォルダは、論理フォルダであって物理的にメモリエリアが区分けされているわけではない。

図６は、本第１実施形態による表示装置１の内部メモリ１４内に構成されるアドレス帳３３の構成を示す概念図である。３３１は、プロファイルと呼ばれる保有者のメールアドレス情報を記憶するエリアであり、３３２は、送受信する相手先のメールアドレス情報を記憶するエリアである。Ｍ２は、メールアドレスそのものが記録されるエリアであり、Ｍ１は、該当メールアドレスの保有者の名前が記録されるエリアである。名前は、自由に付けることができる。Ｍ３は、該当メールアドレスの個人の顔画像を登録するエリアである。Ｍ４は、上述した個人識別コードが記録されるエリアである。Ｍ５は、その他の各種情報、例えば、住所、着信拒否、…が必要に応じて適宜記録されるエリアである。

以下、本第１実施形態の画像表示装置１及びネットワークシステムの具体的な動作についてフローチャートを参照しながら説明する。なお、説明を分かりやすくするために、フローチャートは、操作者の操作手順に沿った表現となっているが、これに伴って回路やデータの動きについて説明をしていく。

図７は、本第１実施形態による画像表示装置１の初期設定の際に、ユーザの顔とユーザのメールアドレスとを対応づけて登録するための手順を示すフローチャートである。まず、ユーザのメールアドレスを設定する（ステップＳ１０）。このユーザのメールアドレスの設定方法について説明する。初回起動時に画像表示装置１と認証サーバー５２１とをネット接続し、認証を受けたらメールサーバー５２２から画像表示装置１に対してユニークなメールアドレスが発行され、付与される。パーソナルコンピュータ５１０からメールサーバー５２２にアクセスして、上記ユニークなメールアドレスを好きなメールアドレスに変更する。このメールアドレスを家族や友人に知らせれば、画像メールの送受信が可能となる。これは、基本的には、パーソナルコンピュータや携帯端末などのアドレス初期設定と同様である。

次に、画像表示装置１のユーザ（保有者を含む使用者：複数可）が自分の顔を登録する。撮像素子８は、電源オン中、ほぼ常時撮像をしているが、ユーザが、自分のメールアドレスが液晶表示パネル３に表示されている状態で（ステップＳ１２）、液晶表示パネル３に表示される顔登録ボタンをタッチパネル５でタッチすると（ステップＳ１４）、ＣＰＵ１１は、顔認識エンジン１００によりユーザの顔を認識し、上記ユーザのメールアドレスとユーザの顔とを対応付けてアドレス帳３３に登録する（ステップＳ１６）。

図８は、本第１実施形態による画像表示装置１において、ＳＤカードなどのメモリカード６０がメモリカードスロット６に差し込まれた際に、メモリカード６０に記憶されている画像を内部メモリ１４に保存する際の手順を示すフローチャートである。まず、メモリカード６０がメモリカードスロット６に挿入されたか否かを判断し（ステップＳ２０）、メモリカード６０がメモリカードスロット６に挿入されると、ＣＰＵ１１は、そのとき撮像素子８により撮影されているユーザの顔に対して、顔認識エンジン１００を用いて顔認識を行う（ステップＳ２２）。

次に、顔認識した顔に対して、個人識別コードが登録されているか否かを判断する（ステップＳ２４）。すなわち、図５に示したように、個人識別コードに対応してフォルダが構成されているので、認識した人のフォルダが存在しているか否かを判断することになる。例えば、存在していない新しいユーザであれば、新たに識別コードを発行して顔を登録するとともに、フォルダを作成する（ステップＳ２６）。一方、操作しているユーザが識別コード“１００１”のお父さんであれば、フォルダＦ１を選択する（ステップＳ２８）。登録されていないユーザの画像保存はできないようにしてもよい。

次に、液晶表示パネル３に表示されている保存ボタンが押されたか否かを判断し（ステップＳ３０）、保存ボタンがタッチキー５を介して押されると、メモリカード６０に記録されている画像を、該当するフォルダにコピーする（ステップＳ３２）。すなわち、ユーザ（操作者）は、特に意識することなく、自分のフォルダに画像を保存することができる。その後、適宜、メニューに従ってフォルダ内での分類によるサブフォルダ作成や、シークレットフラグの設定を行うことができる。

図９は、本第１実施形態による画像表示装置１でメールを受信したときの手順を示すフローチャートである。画像表示装置１に自己のメールアドレスが設定されていなければ、そもそもメールを受信できないが、設定されている場合には、例えば、お父さんのメールアドレス（father@***.**.jp）で受信したとすると（ステップＳ４０）、受信したメールアドレスに対応するフォルダが存在しているかを判断する（ステップＳ４２）。そして、対応するフォルダが存在しないと判断された場合には、受信したメールを共用フォルダＦ６に保存する（ステップＳ４４）。一方、対応するフォルダ、例えば、お父さんのメールアドレスに対応するフォルダＦ１が存在していると判断された場合には、対応するフォルダＦ１にメールが保存されるとともに、メールに画像が添付されている場合には、その画像を画像メール用サブフォルダＳＦ４に保存する（ステップＳ４６）。

図１０は、本第１実施形態による画像表示装置１の再生動作について説明するフローチャートである。再生には、内部メモリ１４に記憶された画像を再生する場合、挿入されたメモリカード６０に記憶された画像を再生する場合、１枚だけ再生する場合、スライドショー再生する場合などがある。

ユーザ（操作者：登録されているユーザと登録されていないユーザとを含む）が画像を再生しようとして画像表示装置１の前に来ると、撮像素子８が撮像しているので、ＣＰＵ１１と顔認識エンジン１００とが協働して操作者の顔を認識し（ステップＳ５０）、再生操作があったか否かを判断し（ステップＳ５２）、再生操作があると、認識した顔のユーザが登録されているか否かを判断する（ステップＳ５４）。そして、顔が登録されていれば、画像表示装置１のユーザであると推定できるので、対応するフォルダ、例えば、認識されたのがお父さんであれば、お父さんフォルダＦ１に保存されている画像と共用フォルダＦ６に保存されている画像とを再生可能にする（ステップＳ５６）。他の人のフォルダ、例えばお母さんフォルダＦ２、妹フォルダＦ４などは勝手に再生できない。一方、顔が登録されていなければ、共用フォルダＦ６に保存されている画像のみを再生可能にする（ステップＳ５８）。そして、ステップＳ６０へ進み、所定の再生操作を行う。

但し、顔認識エンジン１００は、画像に写っている複数のユーザの顔を認識可能なので、お父さんと一緒にお母さんも写っていれば、お母さんフォルダＦ２の内容も再生可能となる。
なお、複数のユーザの顔が認識され、登録されているユーザと登録されていないユーザとが混在している場合の制御については後述する。

図１１は、本第１実施形態による画像表示装置１の再生動作の中のスライドショー再生の手順を示すフローチャートである。図１０のステップＳ５２に相当する再生操作の有無の判断を行ったとき（ステップＳ７０）、それがスライドショー再生か否かを判断する（ステップＳ７２）。そして、スライドショー再生でなければ他の処理へ進む。

一方、スライドショー再生であれば、まず、１枚目の画像を読み出す（ステップＳ７４）。スライドショー再生としては、特定フォルダ内再生、古い順再生、または新しい順再生、ランダム再生などがある。次に、現在見ている閲覧者（登録されているユーザと登録されていないユーザとを含む）の顔認識を行う（ステップＳ７６）。そして、顔認識された顔が前に閲覧した閲覧者の顔か否かを判断する（ステップＳ７８）。図４に示すように、画像毎に閲覧者コードＧ７が用意されており、一度閲覧すると閲覧者コードＧ７と閲覧回数Ｇ８とが組になって登録されている。

そこで、顔認識された顔が前に閲覧した閲覧者の顔でないと判断された場合、再生対象の画像は、該顔認識された閲覧者が見たことがない画像であるので、その画像の表示を行い（ステップＳ８０）、閲覧者コードを発行し、顔画像の登録と閲覧回数の加算を行う（ステップＳ８２）。一方、顔認識された顔が前に閲覧した閲覧者の顔であると判断された場合、再生対象の画像を、顔認識された閲覧者が前に見たことがあった場合であるので、ステップＳ８０、Ｓ８２をスキップして、ステップＳ８４へ進む。

次に、インタラプトが無いか否かを判断する（ステップＳ８４）。すなわち、画像を表示中に、現在見ている閲覧者が変わった場合、あるいは新たな閲覧者が加わった場合の処理である。本第１実施形態では、表示する画像を選択する前に顔認識を行っているが、スライドショーは、数秒間同じ画像を表示し続けているので、当然、その間に閲覧者がいなくなったり、増えたり、変更したりすることが考えられる。

ここでは、表示中の画像が特定の人、あるいは所有者以外には見られては相応しくない場合の対策を想定する。例えば、家族以外の人の顔を検出した場合、すなわち、インタラプトがあった場合には、表示を停止させるか、別の画像を読み出して差し替える（ステップＳ８６）。差し替え用の特定の画像を用意しておいても良い。このインタラプト処理は、便宜上、フローチャートのこの位置に表現したが、インタラプト信号によりいつでも受け付けるようにすることもできる。

また、シークレットフラグを立てたサブフォルダＳＦ３から読み出された画像を表示中に、その保有者以外の新たな閲覧者が加わった場合も、ステップＳ８６へ進み、表示を停止させるか、別の画像を読み出して差し替える。

そして、終了指示があったか否かを判断し（ステップＳ８８）、終了指示がなければ、ステップＳ７４に戻って次の画像を読み出し、上述した処理を繰り返す。一方、終了指示があれば、当該処理を終了する。

すなわち、本第１実施形態においては、スライドショーを表示する際、長時間になると同じ画像の繰り返しとなってくるので、見飽きてくる可能性があり、閲覧者を顔認識することによって、該閲覧者がまだ見ていない画像を表示するようにしている。

なお、図１１に示すフローチャートには、詳細まで記載していないが、閲覧者が複数の場合には、誰も見ていない画像＞見たことがない人が混じっている＞全員が見たことがある、の順で優先順位付けを行う。つまり、誰も見ていない画像を第１優先、見たことがない人が混じっている画像を第２優先、全員が見たことがある画像を第３優先として類別する。

そして、まず、第１優先に属する画像をスライドショー表示し、第１優先に属する画像を全て表示し終えたならば、第２優先に属する画像をスライドショー表示する。第２優先に属する画像を全て表示し終えたならば、第３優先に属する画像をスライドショー表示し、第３優先に属する画像を全て表示し終えたならば、第１優先に属する画像からのスライドショー表示を再度実行する。

無論、上記処理は、ある瞬間における閲覧者の数、または構成員が変化しない状態での動作であり、閲覧者の数、または構成員が変化する都度、新たに上記第１、第２、第３優先の類別は変化することとなる。

更に、シークレットフラグＧ６がついている画像は、最初から表示対象としない。顔認識によりその画像の保有者本人であると認識されたときのみ表示しても良く、その際はステップＳ８４により他人の顔が検出された瞬間、ステップＳ８６で表示停止とする。

なお、図１０及び図１２に示したフローチャートにより表示される画像は、画調変換されていない画像に関するものであり、画調変換された画像に関しては、何らの制限もなくスライド表示可能である。この場合、例えば、画調変換した画像をスライドショーモードが設定されたことを条件として、特定のフォルダ内の画像を画調変換して表示、古い順または新しい順で画像を画調変換して表示、ランダムに画像を画調変換して表示のいずれであってもよい。

Ｂ．第２実施形態
次に、本発明の第２実施形態について説明する。
図１２は、本第２実施形態による画像表示装置のフォルダ構成を示す概念図である。第１実施の形態においては、図５に示すように、個人識別コードによる保有者別のフォルダを形成した。これに対し、本第２実施形態では、図１２に示すように、複数のメモリカード毎に、内部メモリ１４にフォルダを形成して保存する。

現在、カメラのＳＤカードや、携帯電話のミニＳＤカード、マイクロＳＤカード等を何枚もそのまま保管していて、どれがどれだか分からなくなってしまうケースも多い。複数のカメラで複数のＳＤカードを使用した場合も、どのＳＤカードをどのカメラでいつ撮影して何が記録されているかが分からなくなってしまうケースもある。

そこで、図８のフローで示したと同様、特別な操作を行うことなくメモリカード６０を画像表示装置１に差し込むだけで、例えば、Ａ社のＳＤカード（１）Ｆ１１、Ａ社のＳＤカード（２）Ｆ１２，Ｂ社のＳＤカード（１）Ｆ１３、携帯電話のマイクロＳＤカードＦ１４、…のようにフォルダ分けされる。Ａ社、Ｂ社と言っているのは、カメラ、または携帯のメーカー名である。もちろん、顔認識により個人識別コードを付けることで、保有者は明確になっている。すなわち、ＳＤカード（１）を挿入したのがお父さんであれば、フォルダＦ１１の保有者はお父さんである。

つまり、第１実施形態と同様、特別な操作を行うことなくメモリカード６０を画像表示装置１に挿入して画像を保存していけば、カード別のフォルダが自動的にできるので、家庭用アルバム端末として好適である。

なお、図１２において、下段のフォルダは、画像を何らかの形で加工したものが記憶される。例えば、フォルダＦ１５は、絵画変換した画像、フォルダＦ１６は、シークレットフラグを設定した画像、フォルダＦ１７は、修正加工を行った画像、そして、フォルダＦ１８は、お気に入り画像が保存されるフォルダである。

この第２実施形態においても、顔認識によって誰が挿入したメモリカードかが分かるので、図５における個人別フォルダの中に、これらのフォルダをサブフォルダとして設けても良い。

Ｃ．第３実施形態
次に、本発明の第３実施形態について説明する。
本第３実施形態は、画像配信システムの実施の形態について説明するものである。図１３は、本第３実施形態による画像配信システムに係る、ネットワークによるコンテンツ配信サービスの一例を示すブロック図である。１は、図２における画像表示装置、５２０は、図３におけるネットワークサービスサイト、５３０は、同じく配信コンテンツサイトに対応する。

配信コンテンツサイト５３０からは、コンテンツが配信されるが、図１３に示すように、複数枚の静止画データと、テロップ用文字データと、音声データとから構成される。これらのコンテンツは、基本的に配信コンテンツサイト５３０からコンテンツサーバー５２４の中に置かれる。それを画像表示装置１の液晶表示パネル３に表示することになる。静止画のみを表示したり、その上にテロップ文字を流したり、音声や、音楽を流すことができる。

図１４は、本第３実施形態の特徴であるログ情報の解析について説明するための概念図である。ＣＰＵ１１は、撮像素子８で撮像されたユーザ（閲覧者）の画像を解析し、液晶表示パネル３に表示されている画像を閲覧している閲覧者の閲覧角度情報、距離情報を算出する。図４で説明したように、閲覧者の閲覧回数は、顔認識により、画像毎、あるいはコンテンツ毎にカウント可能である。ここで興味指数という概念を導入する。

図１４において、ＣＰＵ１１は、撮像素子８による撮像結果から、閲覧者と画像表示装置１との角度θ１、θ２、θ３を判断するとともに、画像表示装置１に対する閲覧者との距離Ｌ１、Ｌ２、Ｌ３を判断する。そして、角度と距離でそのコンテンツの注目度を解析し、興味指数としてログ情報に反映する。閲覧時間や、閲覧回数に加えて、閲覧者の顔、液晶表示パネル３に対する距離、角度、動きを認識すれば、様々な興味指数の取得が可能である。

液晶表示パネル３に対する動きとしては、例えば、顔認識により、コンテンツに注目しているときの閲覧者の液晶表示パネル３に対する閲覧角度の角度θ１から角度θ３への変化や、閲覧者の液晶表示パネル３に対する閲覧距離の距離Ｌ３から距離Ｌ２への変化を、アルゴリズム化してコンテンツへの興味指数としてログ情報に反映する。

また、事前に家族の顔認識をしておき、何のコンテンツを誰がどのぐらい見ていたかの情報をログ情報に反映してもよい。あるいは、家族の表情を認識しておき、そのコンテンツを見たときの反応（笑う、関心する、驚く）等の情報も反映してもよい。更に、１日、１週間、…等、画像表示装置１の設置場所での家族の滞在状況もログ情報に反映してもよい。また、認識情報だけでなく、お気に入りに登録したか、全画面表示にしたか等の操作も興味指数として反映してもよい。

図１５は、本第３実施形態による画像表示装置１でのログ記録の概略動作を示すフローチャートである。画像表示装置１が無線ＬＡＮなどでネットワークに接続されている前提で、ＣＰＵ１１は、コンテンツ表示モードにする（ステップＳ９０）。コンテンツ表示モードとは、配信コンテンツサイト５３０から配信されるコンテンツを受信して表示するモードであり、例えば、天気予報チャンネル、ファッションチャンネル、着こなし提案チャンネル、株価チャンネル、ライブカメラチャンネル、…などがある。コンテンツ情報は、図１３で説明したように、一旦、ネットワークサービスサイト５２０のコンテンツサーバー５２４に置かれ、そこから画像表示装置１に通信制御部３０を介してダウンロードされる。

そこで、ＣＰＵ１１は、ユーザに希望のチャンネルを選択させる（ステップＳ９２）。ユーザがチャンネルを選択すると、選択されたチャンネルの所定ページを表示する（ステップＳ９４）。撮像素子８は、基本的に常時撮影を行っており、顔認識エンジン１００により操作者（閲覧者）の顔を認識する（ステップＳ９６）。その後、ＣＰＵ１１は、閲覧者までの距離、閲覧者の閲覧方向を示す、垂直方向（画面から見て正面）からの角度を演算により求める（ステップＳ９８、ステップＳ１００）。更に、認識された顔が移動した場合、移動した距離や、角度を検出する（ステップＳ１０２）。図１４で説明したように、閲覧者の閲覧方向が、角度θ１から角度θ３へ変化したら、斜めから正面へ移動したということで興味指数が高いとみなす。また、画像表示装置１と閲覧者との距離が、距離Ｌ３から距離Ｌ１へ変化したら、画面に近づいたということで、やはり興味指数が高いとみなす。

ＣＰＵ１１は、これらの情報を総合して興味指数を演算する（ステップＳ１０４）。興味指数の演算方法は、いろいろ考えられるが、例えば、個人識別コード“１００１”の「お父さん」のそのコンテンツに対する興味指数は、「見た回数」、「見た時間」、「見た距離」、「見た角度」、「見ている際の移動状況」、「お気に入り登録操作」、「全画面表示操作」に依存する。これをログ情報として反応ログメモリ３００に記録する（ステップＳ１０６）。

この状態において、何らかの操作が行われたか否かを判断し（ステップＳ１０８）、例えば、別のチャンネル選択操作が行われた場合には、ステップＳ９２へ戻り（Ａ）、同じチャンネルの別の画面を指定する操作が行われた場合には、ステップＳ９４へ戻る（Ｂ）。それ以外の操作が行われた場合には、その操作に従って必要な処理フローへ進む（ステップＳ１１０のＣ）。

このログ情報は、ネットワークサービスサイト５２０にとっては、どんなコンテンツの購入を行うか、どのような表示をさせるかの重要な情報となり、配信コンテンツサイト５３０にとっては、コンテンツ作成上、また課金金額を決定するための重要な情報となる。更に、閲覧者の顔を認識してその人の興味のあるコンテンツを自動的に表示することも可能である。

図１６は、本第３実施形態において、配信コンテンツサイト５３０から配信され、ネットワークサービスサイト５２０のコンテンツサーバー５２４に一時的に記憶されるコンテンツのファイル構成の一例を示す概念図である。Ｃ１は、ヘッダで、配信会社情報、データの種類、データのサイズなど、コンテンツファイル自身の特徴を示すデータが書き込まれる。Ｃ２は、アプリケーションであり、このコンテンツがプログラムで動く場合のプログラムが書き込まれる。例えば、アドビフラッシュ（アドビ社の商標）、JAVA（登録商標）（サンマイクロシステムズ社の商標）などである。Ｃ３は、コンテンツの主体である実際に表示されるデータ部分である。Ｃ４は、音声データ、Ｃ５は、図１３に示したようなテロップを含む文字データ、Ｃ６は、上記アプリケーションＣ２が使うパーツデータ、Ｃ７は、配信先、配信時間などを含む配信情報、Ｃ８は、有料コンテンツの場合の課金情報、Ｃ９は、広告を含む場合の広告情報である。

Ｃ１０は、上述したように認識結果である個人識別コードを含む閲覧者情報、Ｃ１１は、上述したように「見た回数」、「見た時間」、「見た距離」、「見た角度」、「見ている際の移動状況」、「お気に入り登録操作」、「全画面表示操作」から算出された興味指数情報である。この閲覧者情報Ｃ１０と興味指数情報Ｃ１１とは、このコンテンツを特定するヘッダＣ１とともに反応ログメモリ３００に保存される。

なお、本第３実施形態では、撮像素子による認証を行ったが、タッチパネル５や、ボタン部に指紋認証や、静脈認証技術を用いて、指紋認証や、静脈認証によるログ情報の解析の例として、個人割り当てのボタンを用意してチャンネル選択の時間帯等を情報化する、広告ウインドウを閉じたか、押して更に詳細情報を見たかの情報を採取したか、コンテンツ配信側が出す案内情報のウインドウ選択状況もログ解析に反映する、画像の静止ボタンやダウンロードボタンを何のコンテンツで誰が押したかを情報として採取する、などを興味指数に取り入れることができる。

なお、上記第１から第３実施形態において、メモリカード６０としてＳＤカードを例にとって説明したが、メモリ媒体であればカード形状である必要はなく、ＵＳＢでハードディスクドライブを接続し、そこに記憶されている画像を取り込むようにしてもよい。

１ 画像表示装置
２ 本体
３ 液晶表示パネル
４ 人感センサ
５ タッチパネル
６ メモリカードスロット
７ ＧＰＳアンテナ
８ 撮像素子
１１ ＣＰＵ
１２ ＲＯＭ
１３ ＲＡＭ
１４ 内部メモリ
１６ 表示制御部
１７ キー入力制御部
１８ メモリカードインターフェース
１９ 撮像制御部
２０ ＧＰＳ制御部
３０ 通信制御部
３３ アドレス帳
６０ メモリカード
７０ 電源制御部
１００ 顔認識エンジン
２００ 絵画変換エンジン
３００ 反応ログメモリ
５００ インターネット
５１０ パーソナルコンピュータ
５２０ ネットワークサービスサイト
５２１ 認証サーバー
５２２ メールサーバー
５２３ 課金サーバー
５２４ コンテンツサーバー
５３０ 配信コンテンツサイト

Claims (12)

1. ネットワークに接続し、ネットワークを介して配信される複数のコンテンツを表示する画像表示装置であって、
   閲覧者を認識する認識手段と、
   前記認識手段によって認識された前記閲覧者の前記コンテンツに対する閲覧状況を検出する検出手段と、
   前記検出手段によって検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出手段と、
   前記興味情報算出手段によって算出された前記閲覧者の興味情報を、前記認識手段に認識された前記閲覧者に対応付けて記録するログ記録手段と
   を具備したことを特徴とする画像表示装置。
2. 前記検出手段は、前記コンテンツに対する閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出することを特徴とする請求項１に記載の画像表示装置。
3. 前記検出手段は、更に、前記コンテンツに対する閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出することを特徴とする請求項２に記載の画像表示装置。
4. ネットワークに接続し、前記ネットワークを介して複数のコンテンツを配信するサーバと、前記ネットワークに接続し、前記ネットワークを介してサーバから配信される複数のコンテンツを表示する画像表示装置とを具備する画像配信システムであって、
   前記画像表示装置は、閲覧者を認識する認識手段と、
   前記認識手段によって認識された前記閲覧者の前記コンテンツに対する閲覧状況を検出する検出手段と、
   前記検出手段によって検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出手段と、
   前記興味情報算出手段によって算出された前記閲覧者の興味情報を、前記認識手段に認識された閲覧者に対応付けて記録するログ記録手段と
   を具備し、
   前記サーバは、
   前記ログ記録手段によって前記閲覧者に対応付けて記録された前記興味情報に基づいて、前記複数のコンテンツを配信する
   ことを特徴とする画像配信システム。
5. 前記画像表示装置の前記検出手段は、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出することを特徴とする請求項４に記載の画像配信システム。
6. 前記画像表示装置の前記検出手段は、更に、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出することを特徴とする請求項５に記載の画像配信システム。
7. ネットワークに接続し、前記ネットワークを介して配信される複数のコンテンツを表示する画像表示装置による閲覧者状況収集方法であって、
   前記画像表示装置は、
   閲覧者を認識する認識ステップと、
   前記認識ステップで認識された閲覧者の前記コンテンツに対する閲覧状況を検出する検出ステップと、
   前記検出ステップで検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出ステップと、
   前記興味情報算出ステップで算出された前記閲覧者の興味情報を、前記認識ステップで認識された前記閲覧者に対応付けて記録するログ記録ステップと
   を含むことを特徴とする閲覧者状況収集方法。
8. 前記検出ステップは、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出することを特徴とする請求項７に記載の閲覧者状況収集方法。
9. 前記検出ステップは、更に、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出することを特徴とする請求項８に記載の閲覧者状況収集方法。
10. ネットワークに接続し、ネットワークを介して配信される複数のコンテンツを表示する画像表示装置のコンピュータに、
    閲覧者を認識する認識機能、
    前記認識機能で認識された閲覧者の前記コンテンツに対する閲覧状況を検出する検出機能、
    前記検出機能で検出された前記コンテンツに対する閲覧状況に基づいて前記閲覧者の興味情報を算出する興味情報算出機能、
    前記興味情報算出機能で算出された前記閲覧者の興味情報を、前記認識機能で認識された前記閲覧者に対応付けて記録するログ記録機能
    を実行させることを特徴とするプログラム。
11. 前記検出機能は、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の閲覧角度と閲覧距離とを検出することを特徴とする請求項１０記載のプログラム。
12. 前記検出機能は、更に、前記コンテンツに対する前記閲覧者の閲覧状況として、当該画像表示装置に対する前記閲覧者の移動状態を検出することを特徴とする請求項１１記載のプログラム。
    

Images