JP7135472B2 - 表示制御装置、表示制御方法及び表示制御プログラム - Google Patents
表示制御装置、表示制御方法及び表示制御プログラム Download PDFInfo
- Publication number
- JP7135472B2 JP7135472B2 JP2018111360A JP2018111360A JP7135472B2 JP 7135472 B2 JP7135472 B2 JP 7135472B2 JP 2018111360 A JP2018111360 A JP 2018111360A JP 2018111360 A JP2018111360 A JP 2018111360A JP 7135472 B2 JP7135472 B2 JP 7135472B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- display control
- user
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
-
- A—HUMAN NECESSITIES
- A45—HAND OR TRAVELLING ARTICLES
- A45D—HAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
- A45D42/00—Hand, pocket, or shaving mirrors
- A45D42/08—Shaving mirrors
- A45D42/10—Shaving mirrors illuminated
-
- A—HUMAN NECESSITIES
- A45—HAND OR TRAVELLING ARTICLES
- A45D—HAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
- A45D42/00—Hand, pocket, or shaving mirrors
- A45D42/08—Shaving mirrors
- A45D42/16—Shaving mirrors with other suspending or supporting means
-
- A—HUMAN NECESSITIES
- A45—HAND OR TRAVELLING ARTICLES
- A45D—HAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
- A45D44/00—Other cosmetic or toiletry articles, e.g. for hairdressers' rooms
- A45D44/005—Other cosmetic or toiletry articles, e.g. for hairdressers' rooms for selecting or displaying personal cosmetic colours or hairstyle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1656—Details related to functional adaptations of the enclosure, e.g. to provide protection against EMI, shock, water, or to host detachable peripherals like a mouse or removable expansions units like PCMCIA cards, or to provide access to internal components for maintenance or to removable storage supports like CDs or DVDs, or to mechanically mount accessories
- G06F1/166—Details related to functional adaptations of the enclosure, e.g. to provide protection against EMI, shock, water, or to host detachable peripherals like a mouse or removable expansions units like PCMCIA cards, or to provide access to internal components for maintenance or to removable storage supports like CDs or DVDs, or to mechanically mount accessories related to integrated arrangements for adjusting the position of the main body with respect to the supporting surface, e.g. legs for adjusting the tilt angle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1675—Miscellaneous details related to the relative movement between the different enclosures or enclosure parts
- G06F1/1681—Details related solely to hinges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Signal Processing (AREA)
- General Health & Medical Sciences (AREA)
- Geometry (AREA)
- Controls And Circuits For Display Device (AREA)
- Closed-Circuit Television Systems (AREA)
- User Interface Of Digital Computer (AREA)
Description
また、本発明に係る表示制御方法は、表示手段を備えた電子機器が実行する表示制御方法であって、対象物の実像を取得する取得処理と、補助情報を所定の記憶手段が記憶する代替画像に合成して合成画像を生成する合成処理と、前記取得処理で取得された対象物の実像と前記合成処理で生成された合成画像とを所定のタイミングで切り替えて表示するとともに、前記取得処理で取得された対象物の実像と前記合成処理で生成された合成画像との間でメイン表示にする方を所定の管理手段が管理するユーザの習熟度に基づいて切り替える表示制御処理と、を含むことを特徴とする。
また、本発明に係る表示制御プログラムは、表示手段を備えた電子機器のコンピュータを、対象物の実像を取得する取得手段、補助情報を所定の記憶手段が記憶する代替画像に合成して合成画像を生成する合成手段、前記取得手段により取得された対象物の実像と前記合成手段により生成された合成画像とを所定のタイミングで切り替えて表示するとともに、前記取得手段により取得された対象物の実像と前記合成手段により生成された合成画像との間でメイン表示にする方を所定の管理手段が管理するユーザの習熟度に基づいて切り替える表示制御手段、として機能させることを特徴とする。
[実施形態の概略]
本発明の実施形態に係る表示制御装置1は、ユーザが携帯可能な自立式の鏡として構成される。そして、表示制御装置1は、鏡を視認するユーザに対して、時間、若しくはユーザの指示に応じてガイダンス内容が変更される一連のガイダンスを行うための補助情報を、所定のタイミングで切り換えながら表示することにより、ユーザに対するガイダンスを実現する。
この場合に、表示制御装置1は、補助情報を、ユーザの実際の画像の代替となる、代替画像に合成することにより合成画像を生成する。また、表示制御装置1は、一連のガイダンスを行う場合に、この合成画像と、ユーザの実際の画像とを、それぞれ表示画面上に切り換えながら表示する。
つまり、表示制御装置1によれば、より適切な表示を行うことができる。
図1は、本実施形態に係る表示制御装置1が含まれる表示制御システムSの全体構成を示すブロック図である。図1に示すように、表示制御システムSは、複数の表示制御装置1、ネットワーク2及びサーバ群3を含む。
表示制御装置1の台数には、特に制限はなく、n台(nは、任意の自然数)の表示制御装置1が表示システム1に含まれていてよい。なお、以下の説明において、n台の表示制御装置1を特に区別することなく説明する場合には、符号の末尾のアルファベットを省略し、単に「表示制御装置1」と称する。
ただし、これは一例に過ぎず、他の機能を有するサーバがサーバ群3に含まれていてもよい。また、サーバ群3に含まれる複数のサーバを、それぞれ別個のサーバ装置で実現してもよく、単一のサーバ装置にて実現するようにしてもよい。
図2は、本発明の一実施形態に係る表示制御装置1の前面の外観構成を示す構成図である。また、図3は、表示制御装置1の側面の外観構成を示す構成図である。表示制御装置1の前面の大きさは、例えば、国際規格であるISO(International Organization for Standardization)216で規定されるA4サイズに形成される。
図3(A)に示すように、ユーザは、表示制御装置1を携帯する際に、本体部30の側面と、脚部31の側面とを揃えて、嵩張らない形状として持ち運ぶことができる。一方で、図3(B)に示すように、ユーザは、表示制御装置1を机等に設置して利用する際には、ヒンジ部32を中心点として脚部31を回動させることにより、表示制御装置1を自立して設置することができる。なお、表示制御装置1を自立可能とするために、ヒンジ部32は、脚部31が所定の角度を保った状態で保持するための機構を有する。
ユーザは、表示部18を視認することにより、これらの多様な情報を一度に把握することができる。なお、このような表示部18の表示が、見た目上のギャップがない、ユーザが視認するのに適した一体感のあるものである点については、上述した通りである。
図4は、表示制御装置1のハードウェアの構成を示すブロック図である。
図4に示すように、表示制御装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、入力部17と、表示部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
撮像部16にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、デジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、CPU11等に適宜供給される。
図5は、表示制御装置1の機能的構成のうち、合成表示処理を実行するための機能的構成を示す機能ブロック図である。
合成表示処理とは、表示制御装置1が、補助情報を、代替画像に合成することにより合成画像を生成し、一連のガイダンスを行う場合に、この合成画像と、ユーザの実際の画像とを、それぞれ表示画面上に切り換えながら表示する一連の処理である。
また、記憶部19の一領域には、ガイダンス情報記憶部191と、アバター情報記憶部192とが設定される。
例えば、取得解析部112は、ユーザの顔を含む顔画像に対して、輪郭や部位のパターンマッチングや肌色識別等のフェイストラッキングに関する処理を行うことで、顔の輪郭や眼の位置や肌の領域を認識し、額、頬、顎、及び首等の所定の部位領域の検出を行う。そして、取得解析部112は、この検出した部位領域それぞれの、座標やユーザの肌の色や、ユーザの顔の角度(すなわち、ユーザの顔の向き)や、ユーザの視線の方向や、ユーザの口角の開き具合といった状態を検出する。
そして、取得解析部112は、例えば、この関心領域における皮下の血液中ヘモグロビンが吸収する緑色信号に基づいて、心拍周波数近傍の成分を分析することにより計測を行う。取得解析部112が計測する生体情報は、例えば、脈拍、脈波、及び血流等である。
また、取得解析部112は、測定した生体情報に対してノイズ除去等を行うことにより、平均化処理を施すようにしてもよい。
更に、取得解析部112は、映像脈波の解析、脈拍数や脈波波形や脈波の揺らぎを測定することで、ストレス度(例えば、心拍間隔時系列(FFI)や脈波振幅時系列(PA)に基づいたLF/HF指標や、ローレンツプロット指標等など)を算出して取得するようにしてもよい。
<参考文献>
東北大学 サイバーサイエンスセンター 先端情報技術研究部、東北大学 革新的イノベーション研究機構、“血行状態モニタリング装置「魔法の鏡」の開発に成功”、[online]、平成28年9月27日、[平成29年12月15日検索]、インターネット<URL:http://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press20160927_01web.pdf>
タイミング制御部113は、一連のガイダンスにおいて、ガイド画像や、アバター画像や、これらを合成した合成画像等の各画像を表示したり、音データ等を出力したりするタイミング(以下、「ガイダンスタイミング」と称する。)を制御する部分である。タイミング制御部113は、ガイダンス情報記憶部191に格納されている情報(例えば、上述した、一連のガイダンスにおける複数のガイダンス情報の表示の順番や、表示するガイダンス情報を次のガイダンス情報へ切り替えるための条件)と、アバター情報記憶部192に格納されている情報(例えば、上述した、ガイダンス等において何れのアバター画像を表示するかの条件)と、その他の情報(例えば、経過時間や被写体情報)に基づいて、ガイダンスタイミングを制御する。
具体的に、画像合成部114は、例えば、アバター画像の顔等の所定の部位領域に、ガイド画像が重畳するように合成画像を生成する。例えば、マッサージについてのガイダンスを行う場合に、マッサージの際の手の動きを示す矢印のガイド画像が、マッサージを行う対象の部位領域に重畳するように合成画像を生成する。
そして、表示制御部115は、タイミング制御部113が制御するガイダンスタイミングに基づいて、読み込んだガイダンス情報に定められた順番で、読み込んだガイダンス情報に定められた位置に、合成画像や、ユーザ画像や、その他の画像を切換表示する。
図6及び図7は、図5の機能的構成を有する図1の表示制御装置1が実行する合成表示処理の流れを説明するフローチャートである。
合成表示処理は、例えば、表示制御装置1の電源投入と共に開始される。
なお、次回以降に行われる合成表示処理では、ステップS11におけるアプリケーションの取得等の処理を省略してよい。
例えば、ユーザが不慣れなガイダンスメニューの場合には、マッサージ等の方法を示す合成画像をメイン表示とし、ユーザが慣れてきた場合には、ユーザの状態を示すユーザ画像をメイン表示とするようなことができる。このようにする場合、例えば、タイミング制御部113が、ユーザの習熟度を管理する。具体的には、タイミング制御部113は、記憶部19にユーザの習熟度の値を記憶させる。そして、タイミング制御部113は、ユーザによる、ガイダンスメニューの実行回数が増加するたびに、そのガイダンスメニューにおけるユーザの習熟度の値を高くする。あるいは、タイミング制御部113は、ユーザによる、表示制御装置1の使用時間の積算値といった、他の基準に基づいて、習熟度の値を高くする。
そして、表示制御部115は、ユーザが不慣れな場合であって、習熟度の値が、予め設定されている所定の閾値未満の場合には、マッサージ等の方法を示す合成画像をメイン表示とする。一方で、表示制御部115は、ユーザが慣れた場合であって、習熟度の値が、予め設定されている所定の閾値以上の場合には、ユーザの状態を示すユーザ画像をメイン表示とする。なお、習熟度は、ガイダンスメニュー毎に管理されてもよいが、各ガイダンスメニューを区別することなく共通の習熟度として管理されてもよい。また、ユーザの操作に応じて、習熟度の値を修正できるようにしてもよい。
取得解析部112は、対象物の実像を取得する。
アバター情報記憶部192は、対象物の代替画像を記憶する。
画像合成部114は、補助情報をアバター情報記憶部192が記憶する代替画像に合成して合成画像を生成する。
表示制御部115は、取得解析部112により取得された対象物の実像と、画像合成部114により生成された合成画像とを、タイミング制御部113により制御される所定のタイミングに基づいて、切替て表示する。
このように、人為的な像である補助情報の画像と、同様に人為的な像である代替画像とを合成することから、ユーザに対して、見た目上のギャップがない、ユーザが視認するのに適した一体感のある表示を提供することができる。また、このような合成画像の表示と、実像(例えば、カメラで撮像したユーザの撮像画像や鏡に反射したユーザの鏡像等)と切替て表示することができる。
これにより、実際に撮像されたユーザの実画像を表示することができる。また、撮像時にリアルタイムに表示をすることができる。
タイミング制御部113は、補助情報を表示部18に表示する所定のタイミングを制御する。
表示制御部115は、取得解析部112により取得された対象物の実画像と、画像合成部114により生成された合成画像とを、タイミング制御部113により制御される所定のタイミングに基づいて、表示部18の表示を切替て表示する。
これにより、合成画像と、対象物の実画像とを切替て表示することができる。
これにより、例えば、ユーザが横を向いたことや、所定時間所定の処置を行ったこと等を条件として、補助情報や合成画像の表示を切り替えることができる。
これにより、例えば、ユーザが横を向いた場合に、同じく横を向いたアバター画像を含む合成画像を表示することができる。これにより、ユーザに対して、アバター画像との一体感を感じさせることができる。
これにより、例えば、所定の処置であるマッサージやツボ押し等に関する状態に基づいて、所定のタイミングの制御や、合成画像に用いる代替画像の選択を行うことができる。
これにより、生体情報の変化に基づいて、所定のタイミングの制御や、合成画像に用いる代替画像の選択を行うことができる。
これにより、複数の合成画像を用いた、順を追ったガイダンスを実現することができる。
これにより、複数の補助情報それぞれを表示すべきタイミングで、複数の補助情報(又は、この補助情報を含む合成画像)を表示することができる。
これにより、例えば、何れの画像をメイン表示するのか、それともサブ表示をするのかといった表示態様を入れ替えることができる。
表示態様を入れ替えるとは、取得解析部112により取得された対象物の実画像と画像合成部114により生成された合成画像との、表示部18での表示の大きさ及び表示位置の何れか又は双方を入れ替えることである。
これにより、所定のタイミングに応じた表示の大きさや位置の入れ替えを実現することができる。
所定の条件とは、習熟度に関しての条件である。
これにより、ユーザの習熟度に応じた表示の大きさや位置の入れ替えを実現することができる。
鏡部は、取得解析部112として対象物の鏡像を取得する、
これにより、ハーフミラー等を用いた表示を行う装置においても、ユーザに対して、見た目上のギャップがない、ユーザが視認するのに適した一体感のある表示を提供することができる。
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
上述した表示部18と、反射面を有する鏡部とを組み合わせた構造の装置によって表示制御装置1を実現するようにしてもよい。
この場合、鏡部は、光学的特性として、透過特性と反射特性の双方を有するハーフミラーにより実現する。そして、鏡部は、表示部18よりも前面のユーザが視認する方向に重畳した配置する。
このような配置により、ユーザは、例えば、撮像部16により撮像されたユーザ画像ではなく、鏡部により反射された自身の顔と、表示部18に表示されると共に鏡部を透過した各種の情報(例えば、合成画像)とを同時に視認することができる。つまり、上述の実施形態では、ユーザの実像として撮像部16が被写体として撮像したユーザ画像を視認させることとしていたが、本変形例では、ユーザの実像として鏡部により反射されたユーザの鏡像を視認させこととする。
このようにしても、上述した実施形態と同様の効果を奏することができる。
例えば、上述の実施形態において、表示制御装置1と、サーバ群3に含まれる各サーバとが協働することを想定していたが、各サーバの機能を表示制御装置1に追加して、表示制御装置1のみで全ての処理を行うようにしてもよい。
例えば、本発明は、姿見等の大型の鏡に組み込まれた電子機器や、据え置き型の洗面化粧台に組み込まれた電子機器や、浴室に設置される鏡形状の電子機器に適用可能である。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が表示制御装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
[付記1]
表示手段と、
対象物の実画像を取得する取得手段と、
前記対象物の代替画像を記憶する記憶手段と、
補助情報を前記記憶手段が記憶する代替画像に合成して合成画像を生成する合成手段と、
前記取得手段により取得された対象物の実像と、前記合成手段により生成された合成画像とを、所定のタイミングに基づいて、切替て表示する表示制御手段と、
を備えることを特徴とする表示制御装置。
[付記2]
前記対象物を撮像する撮像手段を更に備え、
前記取得手段は、前記対象物の実画像として、前記撮像手段により撮像された対象物の実画像を取得する、
ことを特徴とする付記1に記載の表示制御装置。
[付記3]
前記補助情報を前記表示手段に表示する所定のタイミングを制御するタイミング制御手段を備え、
前記表示制御手段は、前記取得手段により取得された対象物の実画像と、前記合成手段により生成された合成画像とを、前記タイミング制御手段により制御される所定のタイミングに基づいて、前記表示手段の表示を切替て表示する、
ことを特徴とする付記1又は2に記載の表示制御装置。
[付記4]
前記タイミング制御手段は、前記取得手段により取得された対象物の実画像における対象物が所定の状態となった場合に、前記所定のタイミングを制御する、
ことを特徴とする付記3に記載の表示制御装置。
[付記5]
前記所定の状態には、当該対象物が自身に対して施している所定の処置に関する状態を含む、
ことを特徴とする付記3又は4に記載の表示制御装置。
[付記6]
前記所定の状態には、当該対象物の生体情報に関する状態を含む、
ことを特徴とする付記3又は4に記載の表示制御装置。
[付記7]
前記タイミング制御手段は、前記所定のタイミングを制御して、複数の前記合成画像を切替えて前記表示手段に表示させることにより、一連のガイダンスを行う、
ことを特徴とする付記3乃至6の何れか1に記載の表示制御装置。
[付記8]
前記タイミング制御手段は、一連のガイダンスを行うための複数の前記補助情報に基づいて、前記所定のタイミングを制御する、
ことを特徴とする付記3乃至7の何れか1に記載の表示制御装置。
[付記9]
画像を選択する選択手段を更に備え、
前記選択手段は、前記取得手段により取得された対象物の実画像における対象物が所定の状態となった場合に、前記合成画像の生成に用いる代替画像を選択する、
ことを特徴とする付記3乃至8の何れか1に記載の表示制御装置。
[付記10]
前記表示制御手段は、所定の条件に基づいて、前記取得手段により取得された対象物の実画像と前記合成手段により生成された合成画像との、前記表示手段での表示態様を入れ替える、
ことを特徴とする付記1乃至9の何れか1に記載の表示制御装置。
[付記11]
前記所定の条件とは、前記所定のタイミングに関しての条件であり、
前記表示態様を入れ替えるとは、前記取得手段により取得された対象物の実画像と前記合成手段により生成された合成画像との、前記表示手段での表示の大きさ及び表示位置の何れか又は双方を入れ替えることである、
ことを特徴とする付記10に記載の表示制御装置。
[付記12]
ユーザの習熟度を管理する管理手段を更に備え、
前記所定の条件とは、前記習熟度に関しての条件である。
ことを特徴とする付記10に記載の表示制御装置。
[付記13]
前記表示手段の表示面の前面側に配置された反射手段を更に備え、
前記反射手段は、前記取得手段として対象物の鏡像を取得する、
ことを特徴とする付記1乃至12の何れか1に記載の表示制御装置。
[付記14]
表示手段を備えたコンピュータが行う表示制御方法であって、
対象物の実画像を取得する取得ステップと、
前記対象物の代替画像を記憶する記憶ステップと、
補助情報を前記表示手段に表示する所定のタイミングを制御するタイミング制御ステップと、
前記補助情報を前記記憶ステップが記憶する代替画像に合成することにより合成画像を生成する合成ステップと、
前記取得ステップにより取得された対象物の実像と、前記合成ステップにより生成された合成画像とを、前記タイミング制御ステップにより制御される所定のタイミングに基づいて、切替て表示する表示制御ステップと、
を備えることを特徴とする表示制御方法。
[付記15]
表示手段を備えたコンピュータに、
対象物の実画像を取得する取得機能と、
前記対象物の代替画像を記憶する記憶機能と、
補助情報を前記表示手段に表示する所定のタイミングを制御するタイミング制御機能と、
前記補助情報を前記記憶機能が記憶する代替画像に合成することにより合成画像を生成する合成機能と、
前記取得機能により取得された対象物の実像と、前記合成機能により生成された合成画像とを、前記タイミング制御機能により制御される所定のタイミングに基づいて、切替て表示する表示制御機能と、
を実現することを特徴とする表示制御プログラム。
Claims (4)
- 表示手段と、
対象物の実像を取得する取得手段と、
前記対象物の代替画像を記憶する記憶手段と、
補助情報を前記記憶手段が記憶する代替画像に合成して合成画像を生成する合成手段と、
ユーザの習熟度を管理する管理手段と、
前記取得手段により取得された対象物の実像と前記合成手段により生成された合成画像とを所定のタイミングで切り替えて表示するとともに、前記取得手段により取得された対象物の実像と前記合成手段により生成された合成画像との間でメイン表示にする方を前記習熟度に基づいて切り替える表示制御手段と、
を備えることを特徴とする表示制御装置。 - 前記対象物を撮像する撮像手段を更に備え、
前記取得手段は、前記対象物の実画像として、前記撮像手段により撮像された対象物の実画像を取得する、
ことを特徴とする請求項1に記載の表示制御装置。 - 表示手段を備えた電子機器が実行する表示制御方法であって、
対象物の実像を取得する取得処理と、
補助情報を所定の記憶手段が記憶する代替画像に合成して合成画像を生成する合成処理と、
前記取得処理で取得された対象物の実像と前記合成処理で生成された合成画像とを所定のタイミングで切り替えて表示するとともに、前記取得処理で取得された対象物の実像と前記合成処理で生成された合成画像との間でメイン表示にする方を所定の管理手段が管理するユーザの習熟度に基づいて切り替える表示制御処理と、
を含むことを特徴とする表示制御方法。 - 表示手段を備えた電子機器のコンピュータを、
対象物の実像を取得する取得手段、
補助情報を所定の記憶手段が記憶する代替画像に合成して合成画像を生成する合成手段、
前記取得手段により取得された対象物の実像と前記合成手段により生成された合成画像とを所定のタイミングで切り替えて表示するとともに、前記取得手段により取得された対象物の実像と前記合成手段により生成された合成画像との間でメイン表示にする方を所定の管理手段が管理するユーザの習熟度に基づいて切り替える表示制御手段、
として機能させることを特徴とする表示制御プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018111360A JP7135472B2 (ja) | 2018-06-11 | 2018-06-11 | 表示制御装置、表示制御方法及び表示制御プログラム |
US16/430,495 US11029830B2 (en) | 2018-06-11 | 2019-06-04 | Display control apparatus, display controlling method and display control program for providing guidance using a generated image |
CN201910497042.3A CN110575001B (zh) | 2018-06-11 | 2019-06-10 | 显示控制装置、显示控制方法及存储显示控制程序的介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018111360A JP7135472B2 (ja) | 2018-06-11 | 2018-06-11 | 表示制御装置、表示制御方法及び表示制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019213617A JP2019213617A (ja) | 2019-12-19 |
JP7135472B2 true JP7135472B2 (ja) | 2022-09-13 |
Family
ID=68763887
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018111360A Active JP7135472B2 (ja) | 2018-06-11 | 2018-06-11 | 表示制御装置、表示制御方法及び表示制御プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11029830B2 (ja) |
JP (1) | JP7135472B2 (ja) |
CN (1) | CN110575001B (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11775164B2 (en) * | 2018-10-03 | 2023-10-03 | Sony Corporation | Information processing device, information processing method, and program |
CN109411052A (zh) * | 2018-11-26 | 2019-03-01 | Oppo广东移动通信有限公司 | 电子装置、信息推送方法及相关产品 |
CN110827378B (zh) * | 2019-10-31 | 2023-06-09 | 北京字节跳动网络技术有限公司 | 虚拟形象的生成方法、装置、终端及存储介质 |
CN114728847A (zh) | 2019-11-26 | 2022-07-08 | Agc株式会社 | 带电热线的玻璃板 |
US20220358198A1 (en) * | 2020-03-18 | 2022-11-10 | Nec Corporation | Program, mobile terminal, authentication processing apparatus, image transmission method, and authentication processing method |
CN112749634A (zh) * | 2020-12-28 | 2021-05-04 | 广州星际悦动股份有限公司 | 基于美容设备的控制方法、装置以及电子设备 |
US11908243B2 (en) * | 2021-03-16 | 2024-02-20 | Snap Inc. | Menu hierarchy navigation on electronic mirroring devices |
WO2022232968A1 (en) * | 2021-05-04 | 2022-11-10 | Nutricia Early Life Nutrition (Shanghai) Co.,Ltd. | A massage coaching method, device and application thereof |
WO2024034537A1 (ja) * | 2022-08-10 | 2024-02-15 | 株式会社 資生堂 | 情報処理装置、情報処理方法、及び、プログラム |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003153739A (ja) | 2001-09-05 | 2003-05-27 | Fuji Photo Film Co Ltd | 化粧鏡装置及び化粧方法 |
JP2012181688A (ja) | 2011-03-01 | 2012-09-20 | Sony Corp | 情報処理装置、情報処理方法、情報処理システムおよびプログラム |
WO2017148959A1 (en) | 2016-02-29 | 2017-09-08 | Virtual Beautician Limited | Image processing system and method |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8953909B2 (en) * | 2006-01-21 | 2015-02-10 | Elizabeth T. Guckenberger | System, method, and computer software code for mimic training |
US20080165388A1 (en) * | 2007-01-04 | 2008-07-10 | Bertrand Serlet | Automatic Content Creation and Processing |
US20100306685A1 (en) * | 2009-05-29 | 2010-12-02 | Microsoft Corporation | User movement feedback via on-screen avatars |
US9283429B2 (en) * | 2010-11-05 | 2016-03-15 | Nike, Inc. | Method and system for automated personal training |
US9566526B2 (en) * | 2010-12-31 | 2017-02-14 | Dazzletag Entertainment Limited | Methods and apparatus for gaming |
US9600934B2 (en) * | 2011-06-30 | 2017-03-21 | Orange | Augmented-reality range-of-motion therapy system and method of operation thereof |
JP2013026776A (ja) * | 2011-07-20 | 2013-02-04 | Sony Corp | 画像処理装置および方法 |
US9811639B2 (en) * | 2011-11-07 | 2017-11-07 | Nike, Inc. | User interface and fitness meters for remote joint workout session |
TWM449588U (zh) * | 2012-09-28 | 2013-04-01 | zhi-zhen Chen | 互動式多媒體復健訓練系統 |
KR101992437B1 (ko) * | 2013-02-21 | 2019-06-24 | 주식회사 케이티 | 이동 로봇의 학습 보조 방법 및 이에 이용되는 이동 로봇 장치 |
JP6072893B2 (ja) * | 2013-03-08 | 2017-02-01 | 富士フイルム株式会社 | 脈波伝播速度の測定方法、その測定方法を用いた測定システムの作動方法及び脈波伝播速度の測定システム並びに撮像装置 |
WO2015108702A1 (en) * | 2014-01-14 | 2015-07-23 | Zsolutionz, LLC | Cloud-based initiation of customized exercise routine |
WO2015148676A1 (en) * | 2014-03-26 | 2015-10-01 | Reflexion Health, Inc. | Systems and methods for teaching and instructing in a virtual world including multiple views |
EP2975841A1 (en) * | 2014-07-17 | 2016-01-20 | HTC Corporation | Method for performing a video talk enhancement function and an electric device having the same |
KR102322034B1 (ko) * | 2014-09-26 | 2021-11-04 | 삼성전자주식회사 | 전환 거울을 구비한 장치의 이미지 디스플레이 방법 및 그 장치 |
TWM502206U (zh) * | 2015-02-10 | 2015-06-01 | Univ Chung Hua | 數位輔助上妝裝置 |
TWI630579B (zh) * | 2015-12-27 | 2018-07-21 | 華碩電腦股份有限公司 | 電子裝置、電腦可讀取記錄媒體及臉部影像顯示方法 |
WO2018000227A1 (zh) * | 2016-06-29 | 2018-01-04 | 北京小米移动软件有限公司 | 视频直播方法及装置 |
CN206178531U (zh) * | 2016-07-07 | 2017-05-17 | 深圳市锐吉电子科技有限公司 | 一种镜面设备及镜面系统 |
US10699461B2 (en) * | 2016-12-20 | 2020-06-30 | Sony Interactive Entertainment LLC | Telepresence of multiple users in interactive virtual space |
CN107198391A (zh) * | 2017-06-30 | 2017-09-26 | 广东工业大学 | 一种上妆指导美颜镜子 |
JP7200139B2 (ja) * | 2017-07-13 | 2023-01-06 | 株式会社 資生堂 | 仮想顔化粧の除去、高速顔検出およびランドマーク追跡 |
CN107551521B (zh) * | 2017-08-17 | 2020-05-08 | 广州视源电子科技股份有限公司 | 健身指导方法及装置、智能设备及存储介质 |
CN109493310A (zh) * | 2017-09-08 | 2019-03-19 | 丽宝大数据股份有限公司 | 身体信息分析装置及其手部肌肤分析方法 |
-
2018
- 2018-06-11 JP JP2018111360A patent/JP7135472B2/ja active Active
-
2019
- 2019-06-04 US US16/430,495 patent/US11029830B2/en active Active
- 2019-06-10 CN CN201910497042.3A patent/CN110575001B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003153739A (ja) | 2001-09-05 | 2003-05-27 | Fuji Photo Film Co Ltd | 化粧鏡装置及び化粧方法 |
JP2012181688A (ja) | 2011-03-01 | 2012-09-20 | Sony Corp | 情報処理装置、情報処理方法、情報処理システムおよびプログラム |
WO2017148959A1 (en) | 2016-02-29 | 2017-09-08 | Virtual Beautician Limited | Image processing system and method |
Also Published As
Publication number | Publication date |
---|---|
US20190377481A1 (en) | 2019-12-12 |
JP2019213617A (ja) | 2019-12-19 |
CN110575001A (zh) | 2019-12-17 |
US11029830B2 (en) | 2021-06-08 |
CN110575001B (zh) | 2022-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7135472B2 (ja) | 表示制御装置、表示制御方法及び表示制御プログラム | |
EP2929477B1 (en) | Physiological cue processing | |
IL264217A (en) | A system control technique for creating a virtual character through the use of a user's emotional states | |
WO2016076140A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
KR20160037074A (ko) | 전환 거울을 구비한 장치의 이미지 디스플레이 방법 및 그 장치 | |
JP7115458B2 (ja) | 電子装置、電子装置の作動方法及び電子装置の制御プログラム | |
US11800989B2 (en) | Electronic device, control method for the electronic device, and storage medium | |
JP7139638B2 (ja) | 報知装置、報知方法及び報知プログラム | |
JP7230409B2 (ja) | 判定装置、判定方法及び判定プログラム | |
JP7135466B2 (ja) | 表示装置、表示方法及び表示プログラム | |
US10915617B2 (en) | Image processing apparatus, image processing method, and recording medium | |
JP2022052451A (ja) | 電子装置、電子装置の制御方法及び電子装置の制御プログラム | |
JP2020057153A (ja) | 表示制御装置、表示制御方法及び表示制御プログラム | |
JP7415318B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7279121B2 (ja) | ユーザ行動支援装置、方法およびプログラム | |
JP7419720B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP7238835B2 (ja) | 電子装置、電子装置の制御方法及び電子装置の制御プログラム | |
JP2023057107A (ja) | 報知装置、報知方法及びプログラム | |
KR20190136652A (ko) | 스마트 미러 디스플레이 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210601 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220420 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220426 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220517 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220802 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220815 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7135472 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |