JP7135466B2 - 表示装置、表示方法及び表示プログラム - Google Patents

表示装置、表示方法及び表示プログラム Download PDF

Info

Publication number
JP7135466B2
JP7135466B2 JP2018110612A JP2018110612A JP7135466B2 JP 7135466 B2 JP7135466 B2 JP 7135466B2 JP 2018110612 A JP2018110612 A JP 2018110612A JP 2018110612 A JP2018110612 A JP 2018110612A JP 7135466 B2 JP7135466 B2 JP 7135466B2
Authority
JP
Japan
Prior art keywords
display
information
subject
processing
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018110612A
Other languages
English (en)
Other versions
JP2019209065A5 (ja
JP2019209065A (ja
Inventor
利彦 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2018110612A priority Critical patent/JP7135466B2/ja
Publication of JP2019209065A publication Critical patent/JP2019209065A/ja
Publication of JP2019209065A5 publication Critical patent/JP2019209065A5/ja
Application granted granted Critical
Publication of JP7135466B2 publication Critical patent/JP7135466B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Mirrors, Picture Frames, Photograph Stands, And Related Fastening Devices (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、表示装置、表示方法及び表示プログラムに関する。
近年、透過性のあるハーフミラーにより構成された鏡部の反射面の背面側に、液晶ディスプレイ等により構成された表示部を配置した表示装置が知られている。このような表示装置によれば、鏡部に反射する鏡像に、表示部に表示され鏡部を透過した所定の情報を重畳して表示することができる(例えば、特許文献1参照)。
このような情報処理装置によれば、ユーザは鏡像とガイド画像の双方をユーザに同時に視認させることができる。
特開2003-153739号公報
上述したような表示装置では、鏡像を表示する鏡部の反射面と、ガイド画像等の所定の情報を表示する表示部の表示面の2つの面が重なる構造となっており、これら2つの面は、ユーザからの距離が異なる。よって、ユーザが表示を視認すると、鏡像と、ガイド画像等の所定の情報との間に視差が生じてしまう。
そのため、ユーザにとってみれば、鏡像とガイド画像等の所定の情報とが重畳された表示は、視認上のギャップがあり、ユーザにとって視認性が低くなってしまう場合があった。
本発明は、このような状況に鑑みてなされたものであり、鏡部に反射する鏡像に、表示部に表示され鏡部を透過した所定の情報を重畳して表示する場合における視認性の低減を抑制することを目的とする。
上記目的を達成するため、本発明の一態様の表示装置は、
被写体の像を反射面で反射させる反射手段と、
前記反射面に重なるように配置された表示手段と、
前記被写体の肌の色に関する肌色情報を前記被写体の部位に含まれる複数の領域の各々ごとに取得する取得手段と、
前記取得手段により取得された前記肌色情報に基づいて、所定の情報の輪郭に対応する輪郭領域前記領域ごとに加工する加工手段と、
前記所定の情報又は前記加工手段により加工された加工済み情報を、前記反射手段により反射された被写体の前記部位の像と重ねて前記表示手段に表示する表示制御手段と、
を備えることを特徴とする。
本発明によれば、鏡部に反射する鏡像に、表示部に表示され鏡部を透過した所定の情報を重畳して表示する場合における視認性の低減を抑制することができる。
本発明の一実施形態に係る表示システムの構成を示す構成図である。 本発明の一実施形態に係る表示装置の前面の外観構成を示す構成図である。 本発明の一実施形態に係る表示装置の側面の外観構成を示す構成図である。 本発明の一実施形態に係る表示装置のハードウェアの構成を示すブロック図である。 本発明の一実施形態に係る表示装置の機能的構成のうち、加工表示処理を実行するための機能的構成を示す機能ブロック図である。 本発明の一実施形態に係る表示装置の特定部による被写体の顔の座標領域と色判定の一例を示す模式図である。 本発明の一実施形態に係る表示装置の加工部によるガイド画像に対してのグラデーション加工の一例を示す模式図である。 本発明の一実施形態に係る表示装置が実行する加工表示処理の流れを説明するフローチャートである。
以下、本発明の実施形態について、図面を用いて説明する。
[実施形態の概略]
本発明の実施形態に係る表示装置1は、ユーザが携帯可能な自立式の鏡として構成される。そして、表示装置1は、鏡を視認するユーザに対して、鏡部に反射する鏡像と、表示部に表示したガイド画像等の所定の情報とを重畳することにより、ユーザに対するガイダンスを行う。
この場合に、表示装置1は、ユーザを被写体として撮像し、撮像したユーザに対してフェイストラッキングを行うことにより、ユーザの顔の各部の座標と、各部に対応するユーザの顔の色とを検出する。また、表示装置1は、検出したユーザの顔の色に応じて、ガイド画像に対するグラデーション加工を行う。更に、表示装置1は、検出した顔の各部の座標に基づいて、グラデーション加工後のガイド画像を表示する。
このような表示装置1によれば、鏡部に反射する鏡像と、表示部に表示したガイド画像とを重畳する場合に、ユーザの顔の色に合わせてガイド画像のエッジ部分をグラデーション等の画像処理にてぼかすので、視認上のギャップを低減して表示することができる。
つまり、表示装置1によれば、重畳表示における違和感を抑制することができる。
[システム構成]
図1は、本実施形態に係る表示装置1が含まれる表示システムSの全体構成を示す構成図である。図1に示すように、表示システムSは、複数の表示装置1、ネットワーク2及びサーバ群3を含む。
表示装置1の台数には、特に制限はなく、n台(nは、任意の自然数)の表示装置1が表示システム1に含まれていてよい。なお、以下の説明において、n台の表示装置1を特に区別することなく説明する場合には、符号の末尾のアルファベットを省略し、単に「表示装置1」と称する。
表示装置1は、上述したとおり、違和感を抑制した重畳表示を行うことにより、ガイダンスを行う装置である。表示装置1は、ネットワーク2を介して、サーバ群3に含まれる各サーバと、相互に通信可能に接続されている。
ネットワーク2は、例えば、インターネットや、LAN(Local Area Network)や、携帯電話網の何れか又はこれらを組み合わせたネットワークにより実現される。
サーバ群3には、表示装置1と協働する各種のサーバが含まれる。例えば、サーバ群3には、表示装置1のユーザを認証するための認証サーバが含まれる。また、例えば、サーバ群3には、表示装置1の機能を実現するためのアプリケーションソフトウェアを配信するアプリケーション配信サーバが含まれる。更に、例えば、サーバ群3には、ユーザに関する設定情報やユーザによる表示装置1の利用履歴等を含んだ情報である、ユーザのプロファイル情報を格納する測定データ格納サーバが含まれる。
ただし、これは一例に過ぎず、他の機能を有するサーバがサーバ群3に含まれていてもよい。また、サーバ群3に含まれる複数のサーバを、それぞれ別個のサーバ装置で実現してもよく、単一のサーバ装置にて実現するようにしてもよい。
[外観構成]
図2は、本発明の一実施形態に係る表示装置1の前面の外観構成を示す構成図である。また、図3は、表示装置1の側面の外観構成を示す構成図である。表示装置1の前面の大きさは、例えば、国際規格であるISO(International Organization for Standardization)216で規定されるA4サイズに形成される。
図2及び図3に示すように、表示装置1は、本体部30と、脚部31と、ヒンジ部32を含んで構成される。本体部30は、鏡部18や表示部19、及びその他のハードウェアを含む本体部分である。また、脚部31とヒンジ部32は、表示装置1を自立させるための部材である。脚部31は、ヒンジ部32によって本体部30に対して回動可能に接合される。
図3(A)に示すように、ユーザは、表示装置1を携帯する際に、本体部30の側面と、脚部31の側面とを揃えて、嵩張らない形状として持ち運ぶことができる。一方で、図3(B)に示すように、ユーザは、表示装置1を机等に設置して利用する際には、ヒンジ部32を中心点として脚部31を回動させることにより、表示装置1を自立させることができる。なお、表示装置1を自立可能とするために、ヒンジ部32は、脚部31が所定の角度を保った状態で保持するための機構を有する。
本体部30は、上述したように鏡部18と表示部19とを含む。
鏡部18は、光学的特性として、透過特性と反射特性の双方を有するハーフミラーである。鏡部18は、図示するように本体部30の前面に配置される。
表示部19は、各種の情報を表示することにより、これら各種の情報をユーザに対して表示する部分である。表示部19は、例えば、マッサージ等のガイダンスを行うためのガイド画像や、文字等のメッセージや、ユーザの生体情報等を表示する。
表示装置1では、鏡部18の反射面と、表示部19の表示面とが、鏡部18に正対するユーザから同時に視認可能に、ユーザの視認方向に重畳して配置される。例えば、液晶ディスプレイにより構成された表示部19が、ハーフミラーにより構成された鏡部18の視認方向における奥側に、並行に重ねて配置される。
このような配置により、ユーザは、例えば、鏡部18により反射された自身の顔(図中の鏡像41に相当)と、表示部19に表示されると共に鏡部18を透過した各種の情報(図中のガイド画像42に相当)とを同時に視認することができる。
図2に示すように、表示装置1は、外観構成として、更に、撮像部16及び入力部17を備えている。
撮像部16は、表示装置1の利用時に、鏡部18に正対するユーザを被写体として撮像する部分である。撮像部16は、鏡部18に正対するユーザの顔画像を撮像可能な位置に配置される。例えば、撮像部16は、図中に示すように、本体部30の前面であって、鏡部18の上部に配置される。
入力部17は、ユーザによる操作入力を受け付ける部分である。入力部17は、例えば複数のボタンにより実現される。図中では、一例として、小顔エステ、笑顔トレーニング、及び生体情報の記録等の各種のモードへの切り換えボタンや、表示装置1の電源のオン/オフの切り替えを行うためのボタンを図示する。
以上、表示装置1の外観構造について説明をした。ただし、この構造は一例に過ぎず、表示装置1の外観構造は、この例に限定されない。
例えば、表示装置1は、鏡部18に正対するユーザを照らすために発光する発光部を更に備えていてもよい。発光部が、照度や色成分を調整してユーザを照らすことにより、表示装置1は、照明付きの鏡として機能する。発光部の数は複数であってもよい。また、発光部は、鏡部18の上部や下部に配置されてもよく、鏡部18の周辺全体に配置されてもよい。
また、例えば、入力部17の数や配置が変更されてもよい。また、例えば、表示部19の一部がタッチパネルとして構成され、入力部17と表示部19とが一体に構成されてもよい。
更に、例えば、上述したようにハーフミラーにより鏡部18を構成し、一般的な液晶ディスプレイにより表示部19を構成するのではなく、一般的な鏡により鏡部18を構成し、透過型の液晶ディスプレイにより表示部19を構成するようにしてもよい。この場合、一般的な鏡により構成された鏡部18が、透過型の液晶ディスプレイにより構成された表示部19の視認方向における奥側に、並行に重ねて配置されるようにするとよい。
[ハードウェア構成]
図4は、表示装置1のハードウェアの構成を示すブロック図である。
図4に示すように、表示装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、鏡部18と、表示部19と、記憶部20と、通信部21と、ドライブ22と、リムーバブルメディア100と、を備えている。
CPU11は、ROM12に記録されているプログラム、又は、記憶部20からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16と、入力部17と、表示部19と、記憶部20と、通信部21と、ドライブ22とが接続されている。
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
撮像部16にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、デジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、CPU11等に適宜供給される。
入力部17は、各種ボタンやマイク等で構成され、ユーザの指示操作や指示音声に応じて各種情報を入力する。
鏡部18は、光学的特性として、透過特性と反射特性の双方を有するハーフミラーである。鏡部18は、表示部19による表示がなされている領域において、表示部19による表示を透過する。一方で、鏡部18は、表示部19による表示がなされていない領域において、表示装置1に生体するユーザ等の像を、鏡像として反射する。
表示部19は、液晶ディスプレイ等で構成され、CPU11が出力する画像データに対応する画像を表示する。これら表示部19と、鏡部18の配置については、図2を参照して上述した通りである。
記憶部20は、DRAM(Dynamic Random Access Memory)等の半導体メモリで構成され、各種データを記憶する。
通信部21は、CPU11が、ネットワーク2を介して他の装置(例えば、サーバ群3に含まれる各サーバ)との間で通信を行うための通信制御を行う。
ドライブ22は、リムーバブルメディア100が装着可能なインターフェースにより構成される。ドライブ22には、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリ等よりなる、リムーバブルメディア100が適宜装着される。リムーバブルメディア100には、後述の加工表示処理を実行するためのプログラムや、画像データ等の各種データが格納される。ドライブ22によってリムーバブルメディア100から読み出されたプログラムや、画像データ等の各種のデータは、必要に応じて記憶部20にインストールされる。
なお、表示装置1は、上述したハードウェアに加えて、他のハードウェアを更に備えていてもよい。例えば、表示装置1は、ランプやスピーカあるいは振動用モータ等で構成され、光や音声あるいはバイブレーション信号を出力する出力部等を更に備えていてもよい。
[機能的構成]
図5は、表示装置1の機能的構成のうち、加工表示処理を実行するための機能的構成を示す機能ブロック図である。
加工表示処理とは、表示装置1が、ユーザの顔の色に合わせて、ガイド画像のエッジ部分をグラデーション等の画像処理により加工し、加工後のガイド画像を表示する一連の処理である。
加工表示処理が実行される場合、図5に示すように、CPU11において、設定処理部111と、被写体情報取得部112と、加工部113と、表示制御部114とが機能する。
また、記憶部20の一領域には、ガイダンス情報記憶部201と、被写体情報記憶部202とが設定される。
ガイダンス情報記憶部201には、加工表示処理におけるガイダンスに関する各種のデータが格納される。例えば、ガイダンス情報記憶部201には、加工表示処理において表示されるガイダンス情報を生成するための、ガイド画像のデータ、テキストデータ、及び音データ等が格納される。また、ガイダンス情報記憶部201には、一連のガイダンスにおける複数のガイダンス情報の表示の順番や、表示するガイダンス情報を次のガイダンス情報へ切り替えるための条件や、各種ユーザインタフェースを生成するためのデータ等も格納される。更に、ガイダンス情報記憶部201には、加工表示処理に関して生成されたユーザのプロファイル情報が格納される。なお、ガイド画像は、予め生成された画像データであってもよく、演算に基づいてリアルタイムに生成されるCG(Computer graphics)等であってもよい。
被写体情報記憶部202には、被写体情報取得部112が取得した、被写体であるユーザに関する情報が格納される。被写体情報記憶部202に格納されるユーザに関する情報の詳細については、被写体情報取得部112の説明として後述する。
なお、上述したようなガイダンス情報記憶部201や被写体情報記憶部202に格納される各情報は、記憶部20にのみ格納されていてもよいが、ドライブ22によってリムーバブルメディア100に適宜格納されるようにしてもよい。更に、ガイダンス情報記憶部201や被写体情報記憶部202に格納される各情報は、サーバ群3に含まれる測定データ格納サーバ等に適宜格納されるようにしてもよい。
また、以下に説明する各機能ブロックでは、加工表示処理を行う前提として座標情報が設定されている。座標情報は、例えば、撮像部16において撮像された画像についての座標系である撮像座標系、鏡部18の反射面についての座標系である鏡部座標系、及び表示部19の表示面についての座標系である表示部座標系といった各座標系を定義するための情報、及び各座標系における座標を他の座標系における座標に変換するための対応関係を示す情報が含まれる。以下に説明する各機能ブロックは、これらの各座標系における座標の対応関係に基づいて、各座標系における座標を変換することにより加工表示処理を行うことができる。これら各座標系の対応関係は、例えば、表示装置1の製造時に、撮像部16における撮像レンズの方向調整や、ズーム率の調整等による、対応関係の補正を伴うキャリブレーションを行うことにより設定される。例えば、ズーム率の調整は、撮像部16のレンズ位置の調整によって行われる所謂光学ズーム、及び、画像処理における所謂デジタルズーム、の双方又は何れかを用いて行われる。
設定処理部111は、加工表示処理に関する設定等の制御を行う部分である。設定処理部111は、例えば、サーバ群3に含まれるアプリケーション配信サーバから、加工表示処理を行うためのアプリケーションソフトウェアを取得して、このアプリケーションソフトウェアを動作させる。また、設定処理部111は、例えば、サーバ群3に含まれる認証サーバと通信を行うことにより、加工表示処理を行うユーザを認証する。更に設定処理部111は、例えば、サーバ群3に含まれる測定データ格納サーバと通信を行うことにより、加工表示処理におけるユーザのプロファイル情報を更新する。
また、設定処理部111は、加工表示処理を行うためのアプリケーションソフトウェアに基づいて、ガイダンスを行うためのメニューを表示する。例えば、ガイダンスに基づいて、「小顔エステ」や「笑顔マッサージ」や「生体情報の測定」や「メイク(化粧)」を行う等の、ガイダンスの内容を選択するための選択肢を含んだメニューを表示する。また、設定処理部111は、メニューを参照したユーザから、入力部17等を介して、何れかのガイダンス内容の選択を受け付ける。例えば、「小顔エステ」の選択を受け付ける。これにより、小顔エステに関するガイダンスのために、加工表示処理が行われる。なお、小顔エステとは、例えば、リンパを流すマッサージにより顔のむくみを減少させるリンパマッサージ等を、ユーザがユーザ自身の顔等に対して行うことをいう。
被写体情報取得部112は、加工表示処理において、撮像部16による撮像の被写体となったユーザに関する情報(以下、「被写体情報」と称する。)を取得する部分である。被写体情報とは、例えば、ユーザの顔等における各部位の位置を示す座標や、ユーザの顔等における各部位の色や、ユーザの生体情報等である。
被写体情報の取得のために、被写体情報取得部112は、撮像部16が撮像した、被写体としてユーザを含む画像を解析して、画像に含まれるユーザの状態を検出する。
例えば、被写体情報取得部112は、ユーザの顔を含む顔画像に対して、輪郭や部位のパターンマッチングや肌色識別等のフェイストラッキングに関する処理を行うことで、顔の輪郭や眼の位置や肌の領域を認識し、額、頬、顎、及び首等の所定の部位領域の検出を行う。そして、被写体情報取得部112は、この検出した部位領域それぞれの、座標やユーザの肌の色や、ユーザの顔の角度(すなわち、ユーザの顔の向き)といった状態を検出する。
更に、被写体情報取得部112は、検出された、各部位領域と、対応する肌の色とを紐付けたデータ(以下、「対応肌色データ」と称する。)を生成する。対応肌色データは、例えば、テーブル形式のデータとして生成される。
対応肌色データについて、図6を参照して説明をする。
図6(A)に、ユーザの顔と、被写体情報取得部112により検出される各部位領域とを模式的に示す。上述したように、被写体情報取得部112は、フェイストラッキングに関する処理を行うことで、額、頬、顎、及び首等の所定の部位領域の検出を行う。また、被写体情報取得部112は、これら各部位領域を識別するために、識別情報を付与する。図6(A)では、説明の為の一例として、識別情報として「(1)」等の括弧付き数字を用いる。
また、上述したように、被写体情報取得部112は、この検出した部位領域それぞれの、ユーザの肌の色を検出する。検出した色は、例えば、RGBカラーモデルにおける、R(赤)、G(緑)、及びB(青)のそれぞれの値として数値化される。
次に、被写体情報取得部112は、各部位領域と、対応する肌の色とを紐付けることにより、テーブル形式の対応肌色データを生成する。生成された対応肌色テーブルの一例を図6(B)に示す。図6(B)に示す例では、各部位領域の識別情報と、対応する肌の色のRBG値とが紐付けられる。このように生成された対応肌色データは、後述の加工部113が、ガイド画像をグラデーション加工する場合に、加工に用いる肌色を決定するための加工基準の情報として利用することができる。
また、被写体情報取得部112は、他にも、実際にユーザに触れることなく、ユーザに対しては非接触で生体情報(バイタルデータと呼ばれることもある。)の計測を行うようにしてもよい。この場合、上記の検出された検出された所定の領域は、非接触で生体情報を取得するための関心領域(ROI:Region of interest)に相当する。
そして、被写体情報取得部112は、例えば、この関心領域における皮下の血液中ヘモグロビンが吸収する緑色信号に基づいて、心拍周波数近傍の成分を分析することにより計測を行う。被写体情報取得部112が計測する生体情報は、例えば、脈拍、脈波、及び血流等である。
また、被写体情報取得部112は、1つの関心領域の画像を対象として計測を行ってもよいが、複数の関心領域の画像を対象として計測を行ってもよい。この場合、被写体情報取得部112は、脈拍の遅延がわかる離れた2点(例えば頬と額、又は、額か頬と手のひら等)の関心領域を対象として測定を行なうことにより、例えば、脈波伝播速度や、脈波伝播速度と相関する血圧変動を測定することができる。
また、被写体情報取得部112は、測定した生体情報に対してノイズ除去等を行うことにより、平均化処理を施すようにしてもよい。
なお、被写体情報取得部112による生体情報の測定は、例えば、下記の参考文献に記載の技術を利用することにより行うことができる。
<参考文献>
東北大学 サイバーサイエンスセンター 先端情報技術研究部、東北大学 革新的イノベーション研究機構、“血行状態モニタリング装置「魔法の鏡」の開発に成功”、[online]、平成28年9月27日、[平成29年12月15日検索]、インターネット<URL:http://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press20160927_01web.pdf>
被写体情報取得部112は、このようにして取得した、対応肌色データや生体情報といった被写体情報を、被写体情報記憶部202に格納する。
加工部113は、ガイダンス情報記憶部201に格納されているガイダンス情報と、被写体情報記憶部202に格納されている被写体情報とに基づいて、ガイド画像に対するグラデーション加工を行う部分である。加工部113は、ガイダンス情報記憶部201からガイダンスにおいて表示すべきガイド画像を取得する。また、加工部113は、被写体情報記憶部202から対応肌色データを取得する。
そして、加工部113は、取得したガイド画像に対して、対応肌色データに基づいたグラデーション加工を行う。
このグラデーション加工の具体例を、図7に示す。
図7(A)の<加工前画像>に、ガイド画像51として示すように、ガイド画像が矢印の形状であるとする。この場合、矢印の輪郭及び輪郭の内部領域は所定の色となっている。例えば、ユーザの鏡像における肌の色と対比しやすい青色等の色となっている。加工部113は、このガイド画像51に対してグラデーション加工を行う。
具体的には、図7(A)の<加工後ガイド画像>に、グラデーション画像52として示すように、ガイド画像51の輪郭周辺の所定領域に対して、グラデーション画像52を追加することにより、ガイド画像51を加工する。グラデーション画像52の色は、肌色とする。
同様に、図7(B)の<加工前画像>に、ガイド画像53として示すように、ガイド画像が螺旋状の矢印の形状であるとする。この場合も、矢印の輪郭及び輪郭の内部領域は所定の色となっている。例えば、ユーザの鏡像における肌の色と対比しやすい青色等の色となっている。加工部113は、このガイド画像53に対してグラデーション加工を行う。
具体的には、図7(B)の<加工後ガイド画像>に、グラデーション画像54として示すように、ガイド画像53の輪郭周辺の所定領域に対して、グラデーション画像54を追加することにより、ガイド画像53を加工する。グラデーション画像54の色は、肌色とする。
このように、本実施形態では、グラデーション加工の対象とするガイド画像毎に、グラデーション加工を行う領域や色を定めておくことにより、様々なガイド画像を対象としてグラデーション加工を行うことができる。
このようにして、グラデーション画像が付加されたガイド画像を表示部19に表示した場合、鏡部18に反射するユーザの顔等に、グラデーション画像が付加されたガイド画像を重畳される。このグラデーション画像により、鏡部18に反射するユーザの顔等と、ガイド画像との境界をぼかすことができる。これにより、鏡部18と表示部19との構造上、鏡像と、ガイド画像とのそれぞれに対しての視差が生じてしまったとしても、視認上のギャップを低減して表示することができる。
なお、仮にこのようなグラデーション加工を行わない場合には、ガイド画像の色(例えば、青色)と、鏡部18に反射するユーザの顔等の肌色とが隣接することになり、ガイド画像の輪郭が余計強調されて、視認上のギャップが生じてしまう。
しかしながら、本実施形態では、上述したように、視認上のギャップを低減して表示することができる。つまり、本実施形態では、このようにグラデーション加工を行うことにより、重畳表示における違和感を抑制することができる。
また、グラデーション画像における肌色は、予め設定されている肌色であってもよいが、ガイド画像を表示する場所等に応じて、適切な肌色を選択するようにしてもよい。例えば、ユーザ毎に肌の色は異なり、同じユーザであっても顔等の部位によっても肌の色は異なる。そこで、加工部113は、グラデーション画像における肌色を、被写体情報取得部112が生成した対応肌色データに基づいて決定する。すなわち、加工部113は、ガイド画像を表示する部位領域に対応する肌色のRGB値を対応肌色データから取得する。そして、加工部113は、取得したRGB値に基づいた肌色を、グラデーション画像における肌色とする。これにより、グラデーション画像の肌色を、ユーザ毎、且つ、部位毎に応じた適切な肌色とすることができる。これにより、上述した視認上のギャップを、より低減して表示することができる。
更に、グラデーション画像の色は、全体が単一の肌色であってもよいが、複数の肌色を含んでいてもよい。この場合、グラデーション画像に対応する領域を区分し、区分した領域毎に異なる度合いで、段階的に色が変化するようにしてもよい。例えば、加工部113は、ガイド画像に近い領域は肌色が濃く、ガイド画像から遠い領域ほど肌色が薄くなるようにグラデーション加工を行うようにしてもよい。また、中間の領域の肌色については線形補間等により求めるようにしてもよい。
また他にも、例えば、グラデーション画像を所定の画素数単位で格子状に区分し、格子毎にグラデーション画像を表示させたり、表示させなかったりすることにより、グラデーション加工を行うようにしてもよい。例えば、ガイド画像に近い領域には肌色を表示する格子の密度を高くし、ガイド画像から遠い領域ほど肌色を表示する格子の密度を低くなるようにグラデーション加工を行うようにしてもよい。これにより、ガイド画像に近い領域には表示部19に表示される肌色の割合が多くなり、ガイド画像から遠い領域ほど鏡部18に反射する鏡像の割合が多くなる、というグラデーションとすることができる。このように区分した領域毎のグラデーションの度合いを異ならせることにより、上述した視認上のギャップを、より低減して表示することができる。
加工部113は、このように生成したグラデーション加工後の、グラデーション画像が付加されたガイド画像(以下、「加工後ガイド画像」と称する。)を、表示制御部114に対して出力する。
表示制御部114は、ガイダンス情報を表示する部分である。表示制御部114は、加工後ガイド画像や、その他のガイダンス情報を切り替えて表示部19に表示をさせることによって、一連のガイダンスを実現する。
そのために、表示制御部114は、加工部113から、加工後ガイド画像の入力を受け付ける。また、表示制御部114は、ガイダンス情報記憶部201からガイダンス情報を読み込む。
そして、表示制御部114は、読み込んだガイダンス情報に定められたタイミングで、読み込んだガイダンス情報に定められた位置に、加工後ガイド画像や、その他のガイド画像情報を表示する。
具体的に、表示制御部114は、例えば、鏡部18によりユーザの顔等の所定の部位領域の鏡像が反射している位置に重畳するように、加工後ガイド画像を表示する。例えば、マッサージについてのガイダンスを行うタイミングで、マッサージの際の手の動きを示す矢印の加工後ガイド画像を、ユーザの顔のマッサージを行う部位領域の鏡像が反射している位置に重畳するように表示する。ユーザは、この重畳された表示を参照することにより、マッサージを行う部位領域や、マッサージの方向等を、自身の鏡像と重畳して、分かりやすく視認することができる。この場合、上述したように、加工後ガイド画像であることから、視認上のギャップを、より低減して表示することができる。
なお、このような重畳表示を行う場合、例えば、被写体情報取得部112は、フェイストラッキングにより、撮像部16が撮像したユーザの所定の部位領域を検出する。そして、上述した各座標系の対応関係に基づいて、検出した部位領域の撮像座標系における座標に対応する、表示部座標系の座標を取得する。そして、表示制御部114は、表示部19の被写体情報取得部112が取得した表示部座標系の座標に、前記加工後ガイド画像を表示することにより、重畳表示を行うことができる。
また、表示制御部114は、ユーザの顔等の鏡像と重複しない領域に(すなわち、ユーザの顔と重畳しない領域に)、一連のガイダンスにおいてユーザが向くべき方向や、マッサージの方法を画像やテキストで自動配置し表示するようにしてもよい。他にも、表示制御部114は、例えば、ユーザの顔等の鏡像と重複しない領域に(すなわち、ユーザの顔と重畳しない領域に)、生体情報を表示するための波形データや必要な文字、画像情報を自動配置し表示するようにしてもよい。
また、表示制御部114は、これらの表示を組み合わせるようにしてもよい。例えば、表示制御部114は、マッサージの際の手の動きを示す矢印はユーザの顔等の鏡像と重複する領域に重畳して表示し、マッサージの内容を示すテキストはユーザの顔等の鏡像と重複しない領域に表示するようにしてもよい。
表示制御部114が、このような情報をリアルタイムに表示することで、一連のガイダンスを、ユーザに伝わりやすく、適切に行うことができる。
なお、表示制御部114は、表示に加えて、他の方法でガイダンス情報を出力するようにしてもよい。例えば、表示制御部114は、音データを含んだガイダンス情報を読み出し、読み出したガイダンス情報から生成される音声や音楽をスピーカから出力してもよい。また、他にも、例えば、表示制御部114は、発光部による発光状態を変化させるようにしてもよい。
[加工表示処理]
図8は、図5の機能的構成を有する図1の表示装置1が実行する加工表示処理の流れを説明するフローチャートである。
加工表示処理は、例えば、表示装置1の電源投入と共に開始される。
図8に示すように、ステップS11において、設定処理部111は、初期設定を行う。例えば、設定処理部111は、サーバ群3に含まれるアプリケーション配信サーバから、加工表示処理を行うためのアプリケーションソフトウェアを取得して、このアプリケーションソフトウェアを動作させる。また、設定処理部111は、アプリケーションソフトウェアの動作に伴い、撮像部16等の各ハードウェアに対して、アプリケーションソフトウェアに応じた設定を行う。そして、設定処理部111は、撮像部16による撮像を開始させる。
ステップS12において、設定処理部111は、ユーザを識別するための個人認証を試み、個人認証に成功したか否かを判定する。個人認証に成功した場合は、ステップS12においてYesと判定され、処理はステップS13に進む。一方で、個人認証に失敗した場合は、ステップS12においてNoと判定され、ステップS12を繰り返す。なお、個人認証は、例えば、撮像部16が撮像したユーザの顔画像を用いた顔認識や、入力部17に含まれるマイクにて集音したユーザの音声を用いた声紋認識等により行うことができる。また、それ以外にも、所定の生体情報を利用した生体認証や、ユーザから入力されたパスワードを利用した認証等の他の認証方法により個人認証を行うようにしてもよい。
ステップS13において、設定処理部111は、個人認証により特定したユーザについてのプロファイル情報を、サーバ群3に含まれる認証サーバに対して問い合わせる。認証サーバは、問い合わせを受けたユーザについてのプロファイル情報の有無を確認する。そして、認証サーバは、プロファイル情報が存在する場合には、サーバ群3に含まれる測定データ格納サーバから、対応するプロファイル情報を取得する。そして、認証サーバは、取得したプロファイル情報を、問い合わせに対する応答として、設定処理部111に対して送信する。一方で、認証サーバは、プロファイル情報が存在する場合には、その旨を、問い合わせに対する応答として、設定処理部111に対して送信する。
ここで、プロファイル情報には、ユーザに関する設定情報やユーザによる表示装置1の利用履歴等が含まれる。ここで、ユーザの関連情報とは、例えば、ユーザを識別するための識別情報や、ユーザの名前や年齢、身長体重等の情報や、認証を行うための認証元画像である。また、ユーザによる表示装置1の利用履歴とは、例えば、過去にどのようなガイダンス情報に基づいた処理を行ったかという情報や、その際に取得されたユーザの生体情報等の情報である。また、利用履歴には、例えば、そのユーザについて過去に生成された対応肌色データ等が含まれていてもよい。
ステップS14において、設定処理部111は、認証サーバからの応答の内容を確認する。認証サーバからの応答の内容が、プロファイル情報である場合には、ステップS14においてYesと判定され、処理はステップS15に進む。一方で、認証サーバからの応答の内容が、プロファイル情報が存在しない旨である場合には、ステップS14においてNoと判定され、処理はステップS16に進む。
ステップS15において、設定処理部111は、認証サーバからの応答として受信したプロファイル情報を読み込む。
ステップS16において、設定処理部111は、今回処理の対象としているユーザについてのプロファイル情報を生成し、認証サーバへ送信すると共に、プロファイル情報の登録を依頼する。認証サーバは、受信したプロファイル情報を、測定データ格納サーバに格納することにより登録を行う。
ステップS17において、被写体情報取得部112は、上述したようにして、対応肌色データを生成する。なお、対応肌色データの生成は、ステップS17のタイミングで行われてもよいが、他のタイミングで行うようにしてもよい。例えば、後述の各ステップと並行して、周期的に、対応肌色データの生成を行うようにしてもよい。このように、対応肌色データを周期的に生成することにより、最新のユーザの顔の向きや撮像環境の外光等の状況に応じた、適切な対応肌色データをリアルタイムに生成することができる。
ステップS18において、表示制御部114は、ガイド画像を表示するか否か判定する。例えば、表示制御部114は、ユーザが小顔エステを行うことを選択した場合に、この小顔エステにおけるガイダンスにて、ガイド画像を表示するタイミングであるか否かを判定する。ガイド画像を表示する場合は、ステップS17においてYesと判定され、処理はステップS19に進む。一方で、ガイド画像を表示しない場合は、ステップS17においてNoと判定され、処理はステップS18の判定を繰り返す。
ステップS19において、加工部113は、表示するガイド画像に対して、グラデーション加工を実行することにより、加工後ガイド画像を生成する。このグラデーション加工は、上述したステップS17において生成された対応肌色データ(又は、他のタイミングで周期的に生成された対応肌色データ)に基づいて、行われる。
ステップS20において、表示制御部114は、ステップS13において生成された加工後ガイド画像を、表示部19の適切な位置に表示させることにより、ガイダンスを行う。
ステップS21において、表示制御部114は、他のガイド画像を表示するか否か判定する。例えば、表示制御部114は、ユーザが小顔エステを行うことを選択した場合に、この小顔エステにおけるガイダンスにて、現在表示しているガイド画像以外の、他のガイド画像を新たに表示するタイミングであるか否かを判定する。他のガイド画像を表示する場合は、ステップS21においてYesと判定され、処理はステップS19に戻る。そして、この他のガイド画像を対象として、再度ステップS19及びステップS20が行われる。一方で、他のガイド画像を表示しない場合は、ステップS21においてNoと判定され、処理はステップS21の判定を繰り返す。
ステップS22において、表示制御部114は、ガイダンスを終了するか否かを判定する。例えば、ガイダンスにおける最後のガイド画像を表示して所定時間が経過した場合に、ガイダンスは終了する。ガイダンスを終了する場合は、ステップS22においてYesと判定され、処理はステップS23に進む。一方で、ガイダンスを終了しない場合は、ステップS22においてNoと判定され、処理は再度ステップS21から繰り返される。
ステップS23において、表示制御部114は、ガイダンス情報に表示を終了させることにより、ガイダンスを終了する。
ステップS24において、設定処理部111は、今回のガイダンスにおいて生成した対応肌色データや、今回測定した生体情報等に基づいて、記憶部20のガイダンス情報記憶部201や、サーバ群3に含まれる測定データ格納サーバ等に保存されているプロファイル情報を更新する。これにより、加工表示処理は、終了する。
なお、同じユーザを対象として次回以降に行われる加工表示処理では、ステップS14においてYesと判定されることになり、ステップS16の処理を省略することができる。また、次回以降に行われる加工表示処理では、ステップS11におけるアプリケーションの取得等の処理も省略してよい。
以上説明した加工表示処理によれば、鏡部18に反射する鏡像と、表示部19に表示したガイド画像とを重畳する場合に、ユーザの顔の色に合わせてガイド画像のエッジ部分をグラデーション等の画像処理にてぼかすので、視認上のギャップを低減して表示することができる。つまり、加工表示処理によれば、重畳表示における違和感を抑制することができる。
また、ユーザは、ガイド画像が、ユーザの鏡像と共に表示されるので、ユーザはその内容を直感的且つ適切に理解することができる。
更に、加工表示処理では、表示するガイド画像を加工すればよく、ユーザに対して、例えば、視差を低減するための特殊な3Dメガネ等の別途の装置の装着を要求することはない。従って、コストの増大を抑えることができる。また、顔に3Dメガネを装着したことにより、マッサージが可能な箇所が限定されてしまうようなことも防止できる。
以上のように構成される表示装置1は、鏡部18と、表示部19と、被写体情報取得部112と、加工部113と、表示制御部114と、を備える。
鏡部18は、被写体の像を反射する。
表示部19は、鏡部18の反射面に重なるように配置され、所定の情報を表示する。被写体情報取得部112は、被写体に関する情報を取得する。
加工部113は、被写体情報取得部112により取得された前記被写体に関する情報に基づいて、所定の情報を加工する。
表示制御部114は、加工部113により加工された所定の情報を、表示部19に表示させる制御を行う。
鏡部18により反射された被写体の像と表示部19に表示された所定の情報とが重なる。
これにより、鏡部18に反射する鏡像と、表示部19に表示したガイド画像とが重なる場合に、被写体に関する情報に基づいて、所定の情報を加工することができる。例えば、ユーザの顔の色に合わせてガイド画像のエッジ部分をグラデーション等の画像処理にてぼかすことができる。従って、視認上のギャップを低減して表示することができる。
つまり、表示装置1によれば、重畳表示における違和感を抑制することができる。
表示制御部114は、被写体情報取得部112により取得された被写体となった人物に関する情報に基づいて、表示部19に表示させる制御を行う。
これにより、表示部19に表示させる制御を、被写体となった人物に関する情報に基づいて実現することができる。
被写体となった人物に関する情報とは、被写体となった人物の肌の色に関する情報である。
これにより、表示部19に表示させる制御を、被写体となった人物の肌の色に関する情報に基づいて実現することができる。
加工部113は、被写体の像を表示部19の表示面の全面に表示する場合に、被写体情報取得部112が取得した肌の色に関する情報に基づいて所定の情報を加工する。
これにより、被写体となった人物の肌の色に関する情報に基づいて所定の情報を加工して、表示することができる。
加工部113は、鏡部18により反射された被写体の像と表示部19に表示された所定の情報とが重なる場合に、所定の情報を加工する。
これにより、被写体の像と所定の情報とが重なる場合に、加工をした所定の情報を用いた表示を行うことができる。
被写体情報取得部112は、被写体に関する情報として、鏡部18での被写体の像の反射位置に対応する、表示部19の表示面の座標を取得する。
表示制御部114は、加工部113が加工した所定の情報を、被写体情報取得部112が取得した表示部19の表示面の座標に表示させる制御を行う。
これにより、鏡部18で反射する被写体の像と、所定の情報とを重畳することができる。
被写体情報取得部112は、被写体に関する情報として、被写体の各位置の座標毎、もしくは被写体の各部位に対応する位置の座標毎に、それぞれ対応する加工基準情報を取得する。
加工部113は、被写体情報取得部112により取得された加工基準情報に基づいて、所定の情報を加工する。
これにより、被写体の各位置それぞれ、もしくは被写体の各部位それぞれに対応して、所定の情報を加工することができる。
加工部113は、所定の情報を表示部19の一部に表示する場合に、被写体情報取得部112により取得された加工基準情報に基づいて、所定の情報を加工する。
これにより、被写体の各部それぞれに対応して、表示部19の一部に表示する所定の情報を加工することができる。
加工部113は、所定の情報が示す画像の形状の輪郭に対応する領域に対して加工を行う。
これにより、所定の情報が示す画像の輪郭をぼかすような加工をすることができる。
加工部113は、所定の情報が示す画像の形状の輪郭に対応する領域を区分し、区分した領域毎に異なる度合いで、段階的に加工を行う。
これにより、段階的なグラデーションのような加工をすることができる。
加工部113は、所定の情報が示す画像の少なくとも一部を、被写体に関する情報に基づいた色とする加工を行う。
これにより、被写体に対応した色に加工した画像を、表示することができる。
加工部113は、所定の情報が示す画像を複数の格子状に区分し、区分した格子毎に表示制御部114による表示の対象とする画像の密度を異ならせる加工を行う
これにより、加工した画像の割合を段階的に異ならせて、表示をすることができる。
鏡部18は、反射面の正面側に対して被写体の像を反射すると共に、反射面の正面側に対して表示部19が表示する所定の情報を透過することにより、被写体の像と所定の情報とを重畳する。
これにより、鏡部18の正面側に対して、被写体の像と所定の情報とを重畳して出力することができる。
表示装置1は、被写体を撮像する撮像部16を更に備える。
被写体情報取得部112は、撮像部16により撮像された被写体の撮像画像から、被写体に関する情報を取得する。
これにより、撮像部16が撮像した画像から取得した被写体に関する情報に基づいて、加工を行うことができる。
撮像部16は、反射手段での被写体の像の反射位置と、表示手段の表示面の座標との対応関係を補正する。
これにより、例えば、撮像部16における撮像レンズの方向調整や、ズーム率の調整等により、対応関係の補正を行うことができる。
鏡部18は、ハーフミラーであり、
表示部19は、鏡部18の反射面の背面に配置され、所定の情報を表示する。
これにより、ハーフミラーの反射特性と、透過特性とにより、鏡像と所定の情報とを重畳することができる。
表示部19は、透過型の表示手段であり、
鏡部18は、表示手段の背面に配置される、
これにより、透過型の表示手段の反射特性と、透過特性とにより、鏡像と所定の情報とを重畳することができる。
[変形例]
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
<第1変形例>
上述した実施形態では、加工表示処理の対象となる被写体がユーザの顔等であることを想定していた。そして、このユーザの顔等の肌の色に基づいてグラデーション加工を行い、加工後ガイド画像を、このユーザの顔等に重畳して表示していた。
これに限らず、ユーザの顔等以外を、加工表示処理の対象の被写体とするようにしてもよい。例えば、ユーザの顔以外の、腕や足や全身を加工表示処理の対象の被写体とするようにしてもよい。また他にも、例えば、ユーザ以外の動物を加工表示処理の対象の被写体とするようにしてもよい。更に他にも、例えば、建築物の壁等や、棚等の家具等のものを加工表示処理の対象の被写体とするようにしてもよい。そして、これらの被写体の色に基づいてグラデーション加工を行い、加工後ガイド画像を、これらの被写体に重畳して表示するようにしてもよい。
また、このように、被写体に重畳して表示する場合に、更に、例えば、被写体の周辺の背景の色に基づいてグラデーション加工を行い、加工後ガイド画像を、この被写体の周辺の背景に重畳して表示してもよい。
<第2変形例>
上述した実施形態では、加工後ガイド画像を、表示部19の表示面の一部(例えば、所定の部位領域に対応する一部の領域)に表示する場合に、加工部113が、対応肌色データを用いたグラデーション加工を行っていた。これに限らず、加工部113が、他の方法でグラデーション加工を行うようにしてもよい。
例えば、加工後ガイド画像を、表示部19の表示面の全面の複数の位置(例えば、異なる位置にある複数の部位領域に対応する複数の領域)に表示する場合に、加工部113が、対応肌色データを用いたグラデーション加工は行わないようにしてもよい。
この場合、例えば、加工部113が、対応肌色データを用いることなく、予め用意した一般的な肌色を用いてグラデーション加工を行うようにしてもよい。また、例えば、被写体が上述した建築物の壁等の全面が同じ一様な色の場合にも、対応肌色データを用いることなく、予め用意した所定の色を用いてグラデーション加工を行うようにしてもよい。
<他の変形例>
例えば、上述の実施形態において、表示装置1と、サーバ群3に含まれる各サーバとが協働することを想定していたが、各サーバの機能を表示装置1に追加して、表示装置1のみで全ての処理を行うようにしてもよい。
また、上述の実施形態では、本発明が適用される表示装置1は、携帯可能な自立式の鏡に組み込まれた電子機器を例として説明したが、特にこれに限定されない。
例えば、本発明は、姿見等の大型の鏡に組み込まれた電子機器や、据え置き型の洗面化粧台に組み込まれた電子機器や、浴室に設置される鏡形状の電子機器に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が表示装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図4のリムーバブルメディア100により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア100は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD-ROM(Compact Disk-Read Only Memory),DVD,Blu-ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini-Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図4のROM12や、図4、5の記憶部20に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、更に、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
被写体の像を反射する反射手段と、
前記反射手段の反射面に重なるように配置され、所定の情報を表示する表示手段と、
前記被写体に関する情報を取得する取得手段と、
前記取得手段により取得された前記被写体に関する情報に基づいて、前記所定の情報を加工する加工手段と、
前記加工手段により加工された前記所定の情報を、前記表示手段に表示させる制御を行う表示制御手段と、
を備え、
前記反射手段により反射された被写体の像と前記表示手段に表示された所定の情報とが重なることを特徴とする表示装置。
[付記2]
前記表示制御手段は、
前記取得手段により取得された前記被写体となった人物に関する情報に基づいて、前記表示手段に表示させる制御を行う、
ことを特徴とする付記1に記載の表示装置。
[付記3]
前記被写体となった人物に関する情報とは、前記被写体となった人物の肌の色に関する情報である、
ことを特徴とする付記2に記載の表示装置。
[付記4]
前記加工手段は、前記被写体の像を前記表示手段の表示面の全面に表示する場合に、前記取得手段が取得した肌の色に関する情報に基づいて前記所定の情報を加工する、
ことを特徴とする付記3に記載の表示装置。
[付記5]
前記加工手段は、前記反射手段により反射された被写体の像と前記表示手段に表示された所定の情報とが重なる場合に、前記所定の情報を加工する、
ことを特徴とする付記1乃至4の何れか1に記載の表示装置。
[付記6]
前記取得手段は、前記被写体に関する情報として、前記反射手段での前記被写体の像の反射位置に対応する前記表示手段の表示面の座標を取得し、
前記表示制御手段は、前記加工手段が加工した前記所定の情報を、前記取得手段が取得した前記表示手段の表示面の座標に表示させる制御を行う、
ことを特徴とする付記1乃至5の何れか1に記載の表示装置。
[付記7]
前記取得手段は、前記被写体に関する情報として、前記被写体の各位置の座標毎、もしくは前記被写体の各部位に対応する位置の座標毎に、それぞれ対応する加工基準情報を取得し、
前記加工手段は、前記取得手段により取得された加工基準情報に基づいて前記所定の情報を加工する、
ことを特徴とする付記1乃至6の何れか1に記載の表示装置。
[付記8]
前記加工手段は、前記所定の情報を前記表示手段の一部に表示する場合に、前記取得手段により取得された加工基準情報に基づいて前記所定の情報を加工する、
ことを特徴とする付記7に記載の表示装置。
[付記9]
前記加工手段は、前記所定の情報が示す画像の形状の輪郭に対応する領域に対して加工を行う付記1乃至8の何れか1に記載の表示装置。
[付記10]
前記加工手段は、前記所定の情報が示す画像を複数の領域に区分し、区分した領域毎に異なる度合いで、段階的に加工を行う付記1乃至9の何れか1に記載の表示装置。
[付記11]
前記加工手段は、前記所定の情報が示す画像の少なくとも一部を、前記被写体に関する情報に基づいた色とする加工を行う付記1乃至10の何れか1に記載の表示装置。
[付記12]
前記加工手段は、前記所定の情報が示す画像を複数の格子状に区分し、区分した格子毎に前記表示制御手段による表示の対象とする画像の密度を異ならせる加工を行う付記1乃至11の何れか1に記載の表示装置。
[付記13]
前記反射手段は、前記反射面の正面側に対して前記被写体の像を反射すると共に、前記反射面の正面側に対して前記表示手段が表示する前記所定の情報を透過することにより、前記被写体の像と前記所定の情報とを重畳する、
ことを特徴とする付記1乃至12の何れか1に記載の表示装置。
[付記14]
前記被写体を撮像する撮像手段を更に備え、
前記取得手段は、前記撮像手段により撮像された被写体の撮像画像から、前記被写体に関する情報を取得する、
ことを特徴とする付記1乃至13の何れか1に記載の表示装置。
[付記15]
前記撮像手段は、前記反射手段での前記被写体の像の反射位置と、前記表示手段の表示面の座標との対応関係を補正する、
ことを特徴とする付記14に記載の表示装置。
[付記16]
前記反射手段はハーフミラーであり、
前記表示手段は、前記反射手段の反射面の背面に配置され、所定の情報を表示する、
ことを特徴とする付記1乃至15の何れか1に記載の表示装置。
[付記17]
前記表示手段は透過型の表示手段であり、
前記反射手段は、前記表示手段の背面に配置される、
ことを特徴とする付記1乃至15の何れか1に記載の表示装置。
[付記18]
被写体の像を反射する反射手段と、
前記反射手段の反射面に重なるように配置され、所定の情報を表示する表示手段と、
を備えたコンピュータが行う表示方法であって、
前記被写体に関する情報を取得する取得ステップと、
前記取得ステップにて取得された前記被写体に関する情報に基づいて、前記所定の情報を加工する加工ステップと、
前記加工ステップにて加工された前記所定の情報を、前記表示手段に表示させる制御を行う表示制御ステップと、
を有し、
前記反射手段により反射された被写体の像と前記表示手段に表示された所定の情報とが重なることを特徴とする表示方法。
[付記19]
被写体の像を反射する反射手段と、
前記反射手段の反射面に重なるように配置され、所定の情報を表示する表示手段と、
を備えたコンピュータに、
前記被写体に関する情報を取得する取得機能と、
前記取得機能により取得された前記被写体に関する情報に基づいて、前記所定の情報を加工する加工機能と、
前記加工機能により取得された前記所定の情報を、前記表示手段に表示させる制御を行う表示制御機能と、
を実現させ、
前記反射手段により反射された被写体の像と前記表示手段に表示された所定の情報とが重なることを特徴とする表示プログラム。
1・・・表示装置,2・・・ネットワーク,3・・・サーバ群,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・入力部,18・・・鏡部,19・・・表示部,20・・・記憶部,21・・・通信部,22・・・ドライブ,30・・・本体部,31・・・脚部,32・・・ヒンジ部,100・・・リムーバブルメディア,111・・・設定処理部,112・・・被写体情報取得部,113・・・加工部,114・・・表示制御部,201・・・ガイダンス情報記憶部,202・・・被写体情報記憶部,S・・・表示システム

Claims (20)

  1. 被写体の像を反射面で反射させる反射手段と、
    前記反射面に重なるように配置された表示手段と、
    前記被写体の肌の色に関する肌色情報を前記被写体の部位に含まれる複数の領域の各々ごとに取得する取得手段と、
    前記取得手段により取得された前記肌色情報に基づいて、所定の情報の輪郭に対応する輪郭領域前記領域ごとに加工する加工手段と、
    前記所定の情報又は前記加工手段により加工された加工済み情報を、前記反射手段により反射された被写体の前記部位の像と重ねて前記表示手段に表示する表示制御手段と、
    を備えることを特徴とする表示装置。
  2. 前記肌色情報が前記複数の領域の間で互いに異なる場合に、前記加工手段は、前記複数の領域の各々に対応する前記輪郭領域を互いに異なる態様で加工する、
    ことを特徴とする請求項1に記載の表示装置。
  3. 前記加工手段は、前記所定の情報の輪郭に対応する領域に前記表示手段による表示位置と対応した前記反射手段により反射された被写体の像の位置の前記肌色情報に基づいてグラデーション加工する、
    ことを特徴とする請求項1または2に記載の表示装置。
  4. 前記所定の情報は、エステとマッサージと生体情報の測定とのうち少なくとも何れか一つに関するガイド画像である
    ことを特徴とする請求項1乃至3の何れか1項に記載の表示装置。
  5. 前記加工手段は、前記被写体の像を前記表示手段の表示面の全面に表示する場合に、前記取得手段が取得した前記肌色情報に基づいて前記所定の情報を加工する、
    ことを特徴とする請求項1乃至4の何れか1項に記載の表示装置。
  6. 前記加工手段は、前記反射手段により反射された前記被写体の像と前記表示手段に表示された前記所定の情報とが重なる場合に、前記所定の情報を加工する、
    ことを特徴とする請求項1乃至の何れか1項に記載の表示装置。
  7. 前記取得手段は、前記被写体に関する情報として、前記反射手段での前記被写体の像の反射位置に対応する前記表示手段の表示面の座標を取得し、
    前記表示制御手段は、前記加工手段が加工した前記加工済み情報を、前記取得手段が取得した前記表示手段の表示面の座標に表示させる制御を行う、
    ことを特徴とする請求項1乃至の何れか1項に記載の表示装置。
  8. 前記取得手段は、前記被写体の各位置の座標毎、もしくは前記被写体の各部位に対応する位置の座標毎に、それぞれ対応する加工基準情報を取得し、
    前記加工手段は、前記取得手段により取得された前記加工基準情報に基づいて前記所定の情報を加工する、
    ことを特徴とする請求項1乃至の何れか1項に記載の表示装置。
  9. 前記加工手段は、前記所定の情報を前記表示手段の一部に表示する場合に、前記取得手段により取得された前記加工基準情報に基づいて前記所定の情報を加工する、
    ことを特徴とする請求項に記載の表示装置。
  10. 前記加工手段は、前記所定の情報が示す画像を複数の領域に区分し、区分した前記領域毎に異なる度合いで、段階的に加工を行う請求項1乃至の何れか1項に記載の表示装置。
  11. 前記加工手段は、前記所定の情報が示す画像の少なくとも一部を、前記被写体に関する情報に基づいた色とする加工を行う請求項1乃至10の何れか1項に記載の表示装置。
  12. 前記加工手段は、前記所定の情報が示す画像を複数の格子状に区分し、区分した格子毎に前記表示制御手段による表示の対象とする画像の密度を異ならせる加工を行う請求項1乃至11の何れか1項に記載の表示装置。
  13. 前記反射手段は、前記反射面の正面側に対して前記被写体の像を反射すると共に、前記反射面の正面側に対して前記表示手段が表示する前記所定の情報を透過することにより、
    前記被写体の像と前記所定の情報とを重畳する、
    ことを特徴とする請求項1乃至1の何れか1項に記載の表示装置。
  14. 前記被写体を撮像する撮像手段を更に備え、
    前記取得手段は、前記撮像手段により撮像された前記被写体の撮像画像から、前記被写体に関する情報を取得する、
    ことを特徴とする請求項1乃至1の何れか1項に記載の表示装置。
  15. 前記撮像手段は、前記反射手段での前記被写体の像の反射位置と、前記表示手段の表示面の座標との対応関係を補正する、
    ことを特徴とする請求項1に記載の表示装置。
  16. 前記反射手段は、ハーフミラーであり、
    前記表示手段は、前記反射手段の反射面の背面に配置され、前記所定の情報を表示する、
    ことを特徴とする請求項1乃至1の何れか1項に記載の表示装置。
  17. 前記表示手段は、透過型の表示手段であり、
    前記反射手段は、前記表示手段の背面に配置される、
    ことを特徴とする請求項1乃至1の何れか1項に記載の表示装置。
  18. 被写体の像を反射面で反射させる反射手段と、
    前記反射面に重なるように配置された表示手段と、
    前記被写体に関する情報を取得する取得手段と、
    前記取得手段により取得された前記被写体に関する情報が所定の条件を満たしている場合に第1の情報を前記表示手段に表示させる一方で、前記被写体に関する情報が所定の条件を満たしていない場合には第2の情報を前記表示手段に表示させる表示制御手段と、
    を備え、
    前記第2の情報は、前記第1の情報が前記被写体の肌の色に関する情報に基づいて輪郭に対応する領域が加工された情報である、
    ことを特徴とする表示装置。
  19. 被写体の像を反射面で反射させる反射手段と、
    前記反射面に重なるように配置された表示手段と、
    を備えたコンピュータが行う表示方法であって、
    前記被写体の肌の色に関する肌色情報を前記被写体の部位に含まれる複数の領域の各々ごとに取得する取得ステップと、
    前記取得ステップにて取得された前記肌色情報に基づいて、所定の情報の輪郭に対応する輪郭領域前記領域ごとに加工する加工ステップと、
    前記所定の情報又は前記加工ステップにて加工された加工済み情報を、前記反射手段により反射された被写体の前記部位の像と重ねて前記表示手段に表示する制御を行う表示制御ステップと、
    を備えることを特徴とすることを特徴とする表示方法。
  20. 被写体の像を反射面で反射させる反射手段と、
    前記反射面に重なるように配置された表示手段と、
    を備えコンピュータ
    前記被写体の肌の色に関する肌色情報を前記被写体の部位に含まれる複数の領域の各々ごとに取得する取得機能と、
    前記取得機能により取得された前記肌色情報に基づいて、所定の情報の輪郭に対応する領域前記領域ごとに加工する加工手段、
    前記所定の情報又は前記加工手段により取得された加工済み情報を、前記反射手段により反射された被写体の前記部位の像と重ねて前記表示手段に表示する制御を行う表示制御手段、
    として機能させることを特徴とする表示プログラム。
JP2018110612A 2018-06-08 2018-06-08 表示装置、表示方法及び表示プログラム Active JP7135466B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018110612A JP7135466B2 (ja) 2018-06-08 2018-06-08 表示装置、表示方法及び表示プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018110612A JP7135466B2 (ja) 2018-06-08 2018-06-08 表示装置、表示方法及び表示プログラム

Publications (3)

Publication Number Publication Date
JP2019209065A JP2019209065A (ja) 2019-12-12
JP2019209065A5 JP2019209065A5 (ja) 2021-07-26
JP7135466B2 true JP7135466B2 (ja) 2022-09-13

Family

ID=68846083

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018110612A Active JP7135466B2 (ja) 2018-06-08 2018-06-08 表示装置、表示方法及び表示プログラム

Country Status (1)

Country Link
JP (1) JP7135466B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021171442A1 (ja) * 2020-02-26 2021-09-02 日本電信電話株式会社 鏡像に情報を重畳して表示する表示装置と表示方法と表示プログラム
JP2021132869A (ja) * 2020-02-27 2021-09-13 カシオ計算機株式会社 電子装置、電子装置の制御方法及び電子装置の制御プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009064423A (ja) 2007-08-10 2009-03-26 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
JP2013182062A (ja) 2012-02-29 2013-09-12 Nikon Corp 表示装置および投影装置
JP2013246184A (ja) 2012-05-23 2013-12-09 Sharp Corp 表示装置
JP2014023127A (ja) 2012-07-23 2014-02-03 Sharp Corp 情報表示装置、情報表示方法、制御プログラム、および記録媒体
JP2014052512A (ja) 2012-09-07 2014-03-20 Panasonic Corp ミラーディスプレイ装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009064423A (ja) 2007-08-10 2009-03-26 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
JP2013182062A (ja) 2012-02-29 2013-09-12 Nikon Corp 表示装置および投影装置
JP2013246184A (ja) 2012-05-23 2013-12-09 Sharp Corp 表示装置
JP2014023127A (ja) 2012-07-23 2014-02-03 Sharp Corp 情報表示装置、情報表示方法、制御プログラム、および記録媒体
JP2014052512A (ja) 2012-09-07 2014-03-20 Panasonic Corp ミラーディスプレイ装置

Also Published As

Publication number Publication date
JP2019209065A (ja) 2019-12-12

Similar Documents

Publication Publication Date Title
JP7135472B2 (ja) 表示制御装置、表示制御方法及び表示制御プログラム
JP7115458B2 (ja) 電子装置、電子装置の作動方法及び電子装置の制御プログラム
JPWO2016076140A1 (ja) 情報処理装置、情報処理方法、およびプログラム
JP2021132869A (ja) 電子装置、電子装置の制御方法及び電子装置の制御プログラム
JP7135466B2 (ja) 表示装置、表示方法及び表示プログラム
US10242253B2 (en) Detection apparatus, detection method, and computer program product
US20220087547A1 (en) Electronic device, control method for electronic device, and recording medium
JP2014064248A (ja) 画像投影装置及び画像投影方法
JP7230409B2 (ja) 判定装置、判定方法及び判定プログラム
JP7139638B2 (ja) 報知装置、報知方法及び報知プログラム
US10915617B2 (en) Image processing apparatus, image processing method, and recording medium
KR20200107520A (ko) 스마트 미러 시스템 및 스마트 미러 제어 방법
JP2020057153A (ja) 表示制御装置、表示制御方法及び表示制御プログラム
JP7415318B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7225749B2 (ja) 報知装置、報知方法及びプログラム
JP7238835B2 (ja) 電子装置、電子装置の制御方法及び電子装置の制御プログラム
JP7419720B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP7485114B2 (ja) 報知装置、報知方法及びプログラム
US20240005612A1 (en) Content transformations based on reflective object recognition

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210518

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220802

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220815

R150 Certificate of patent or registration of utility model

Ref document number: 7135466

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150