CN110575001A - 显示控制装置、显示控制方法及存储显示控制程序的介质 - Google Patents

显示控制装置、显示控制方法及存储显示控制程序的介质 Download PDF

Info

Publication number
CN110575001A
CN110575001A CN201910497042.3A CN201910497042A CN110575001A CN 110575001 A CN110575001 A CN 110575001A CN 201910497042 A CN201910497042 A CN 201910497042A CN 110575001 A CN110575001 A CN 110575001A
Authority
CN
China
Prior art keywords
image
display
unit
display control
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910497042.3A
Other languages
English (en)
Other versions
CN110575001B (zh
Inventor
大塚利彦
富田高弘
滨冈奈都美
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of CN110575001A publication Critical patent/CN110575001A/zh
Application granted granted Critical
Publication of CN110575001B publication Critical patent/CN110575001B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D42/00Hand, pocket, or shaving mirrors
    • A45D42/08Shaving mirrors
    • A45D42/10Shaving mirrors illuminated
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D42/00Hand, pocket, or shaving mirrors
    • A45D42/08Shaving mirrors
    • A45D42/16Shaving mirrors with other suspending or supporting means
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D44/00Other cosmetic or toiletry articles, e.g. for hairdressers' rooms
    • A45D44/005Other cosmetic or toiletry articles, e.g. for hairdressers' rooms for selecting or displaying personal cosmetic colours or hairstyle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1656Details related to functional adaptations of the enclosure, e.g. to provide protection against EMI, shock, water, or to host detachable peripherals like a mouse or removable expansions units like PCMCIA cards, or to provide access to internal components for maintenance or to removable storage supports like CDs or DVDs, or to mechanically mount accessories
    • G06F1/166Details related to functional adaptations of the enclosure, e.g. to provide protection against EMI, shock, water, or to host detachable peripherals like a mouse or removable expansions units like PCMCIA cards, or to provide access to internal components for maintenance or to removable storage supports like CDs or DVDs, or to mechanically mount accessories related to integrated arrangements for adjusting the position of the main body with respect to the supporting surface, e.g. legs for adjusting the tilt angle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1675Miscellaneous details related to the relative movement between the different enclosures or enclosure parts
    • G06F1/1681Details related solely to hinges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions

Abstract

本发明公开了一种显示控制装置,能够更恰当地进行规定信息的显示。该显示控制装置(1)包括显示部(18)、取得分析部(112)、虚拟形象信息存储部(192)、图像合成部(114)和显示控制部(115)。取得分析部(112)取得对象物的实像。虚拟形象信息存储部(192)存储对象物的代替图像。图像合成部(114)将辅助信息合成至虚拟形象信息存储部(192)存储的代替图像上而生成合成图像。显示控制部(115)基于时刻控制部(113)控制的规定的时刻切换显示取得分析部(112)所取得了的对象物的实像和图像合成部(114)生成了的合成图像。

Description

显示控制装置、显示控制方法及存储显示控制程序的介质
技术领域
本发明涉及显示控制装置、显示控制方法及存储显示控制程序的介质。
背景技术
近年来,已知一种显示控制装置,如日本特开2003-153739号公报那样,对通过照相机拍摄到的用户的拍摄图像、反射到镜子中的用户的镜像等用户的实像,重叠显示规定的信息。
发明内容
但是,上述专利文献1的规定的信息不是实际的像,而是预先生成的图像数据、基于运算实时生成的CG(Computer Graphics:电脑图像)等人为的图像。因此,在如上所述那样重叠显示实际的像和规定的信息时,在用户看来,有时看上去有间隔,成为不适合用户观看的显示。
本发明是鉴于这种状况而作出的,目的在于更适当地进行规定的信息的显示。
一种显示控制装置,具有:显示单元;存储单元,存储所述对象物的代替图像;取得单元,取得被拍摄到的对象物的图像;以及显示控制单元,将附加了辅助信息的所述辅助代替图像显示于所述显示单元;其中,所述显示控制单元包括切换如下模式的切换单元:ⅰ)第一模式,将所述取得单元已取得的对象物的图像作为第一图像显示于所述显示单元,将所述辅助代替图像作为第二图像显示于所述显示单元;以及ⅱ)第二模式,将所述取得单元已取得的对象物的图像作为第二图像显示于所述显示单元,将所述辅助代替图像作为第一图像显示于所述显示单元;所述显示控制单元通过切换完毕的显示模式进行控制,以使得所述对象物的图像与所述辅助代替图像显示于所述显示单元。
一种显示控制方法,由包括显示单元和存储单元的计算机执行,包括以下步骤:存储步骤,存储所述对象物的代替图像;取得步骤,取得被拍摄到的对象物的图像;显示控制步骤,将附加了辅助信息的辅助代替图像显示于所述显示单元;其中,所述显示控制步骤包括切换如下模式的切换步骤:ⅰ)第一模式,将所述取得步骤已取得的对象物的图像作为第一图像显示于所述显示单元,将所述辅助代替图像作为第二图像显示于所述显示单元;以及ⅱ)第二模式,将所述取得单元已取得的对象物的图像作为第二图像显示于所述显示单元,将所述辅助代替图像作为第一图像显示于所述显示单元;所述显示控制步骤通过切换完毕的显示模式进行控制,以使得所述对象物的图像与所述辅助代替图像显示于所述显示单元。
一种存储介质,其存储有包括显示单元和存储器的计算机执行的显示控制程序,所述显示控制程序能够使所述计算机实现如下功能:存储功能,存储所述对象物的代替图像;取得功能,取得被拍摄到的对象物的图像;显示控制功能,将附加了辅助信息的辅助代替图像显示于所述显示单元;其中,所述显示控制功能包括切换如下模式的切换功能:ⅰ)第一模式,将通过所述取得功能已取得的对象物的图像作为第一图像显示于所述显示单元,将所述辅助代替图像作为第二图像显示于所述显示单元;以及ⅱ)第二模式,将通过所述取得功能已取得的对象物的图像作为第二图像显示于所述显示单元,将所述辅助代替图像作为第一图像显示于所述显示单元,所述显示控制功能通过切换完毕的显示模式进行控制,以使得所述对象物的图像与所述辅助代替图像显示于所述显示单元。
根据本发明,能够更适当地进行预定的信息的显示。
附图说明
图1是表示本发明的一个实施方式的显示控制系统的结构的结构图。
图2是表示本发明的一个实施方式的显示控制装置的前面的外观结构的结构图。
图3是表示本发明的一个实施方式的显示控制装置的侧面的外观结构的结构图。
图4是表示本发明的一个实施方式的显示控制装置的硬件的结构的框图。
图5是表示本发明的一个实施方式的显示控制装置的功能结构中,用于执行合成显示处理的功能结构的功能框图。
图6是说明本发明的一个实施方式的显示控制装置执行的合成显示处理的流程的第一流程图。
图7是说明本发明的一个实施方式的显示控制装置执行的合成显示处理的流程的第二流程图。
图8是表示本发明一个实施方式的显示控制装置执行的合成显示处理中的显示的一例的示意图。
图9是表示本发明一个实施方式的显示控制装置执行的合成显示处理中的显示的另一例的示意图。
图10是表示本发明一个实施方式的显示控制装置执行的合成显示处理中的显示的另一例的示意图。
具体实施方式
接下来,使用附图对本发明的实施方式进行说明。
[实施方式的概要]
本发明的实施方式的显示控制装置1构成为用户可携带的自立式镜子。然后,显示控制装置1通过对观看镜子的用户在规定的时刻切换并显示时间或者辅助信息,实现对用户的引导。所述辅助信息用于进行根据用户的指示改变引导内容的一系列引导。
此时,显示控制装置1通过将辅助信息合成到作为用户的实际图像的代替的代替图像上来生成合成图像,即,生成在代替图像上附加了辅助信息的辅助代替图像。此外,显示控制装置1在进行一系列的引导时,分别在显示画面上切换并显示该合成图像和用户的实际图像。
根据这样的显示控制装置1,由于合成作为人为图像的辅助信息的图像和同样作为人为图像的代替图像,所以能够向用户提供看上去没有间隙、适合用户观看的具有一体感的显示。
即,根据显示控制装置1,能够进行更恰当的显示。
[系统结构]
图1是表示包含本实施方式的显示控制装置1的显示控制系统S的整体结构的框图。如图1所示,显示控制系统S包括多个显示控制装置1、网络2以及服务器组3。
显示控制装置1的台数没有特别的限制,可以是n台(n为任意自然数)显示控制装置1包含在显示系统S中。另外,在以下的说明中,在未特别区分n台显示控制装置1而进行说明时,省略符号末尾的字母,仅称为“显示控制装置1”。
如上所述,显示控制装置1是通过进行没有外观上的间隙、适合用户观看的具有一体感的显示来进行引导的装置。显示控制装置1经由网络2与包含在服务器组3中的各服务器相互可通信地连接。
网络2例如由因特网、LAN(Local Area Network)、移动网络的任意一个或它们组合起来的网络实现。
服务器组3包括与显示控制装置1协作的各种服务器。例如,服务器组3包括用于认证显示控制装置1的用户的认证服务器。此外,例如,服务器组3包括分发用于实现显示控制装置1的功能的应用软件的应用分发服务器。此外,例如,服务器组3包括测量数据存储服务器,该测量数据存储服务器存储用户的简档信息即,包括与用户有关的设定信息、用户的显示控制装置1的使用历史等的信息。
但是,这只不过是一例,服务器组3中包含具有其他功能的服务器也可以。此外,可以分别用独立的服务器装置来实现包含在服务器组3中的多个服务器,也可以通过单个的服务器装置来实现。
[外观结构]
图2是表示本发明的一个实施方式的显示控制装置1的前面的外观结构的结构图。此外,图3是表示显示控制装置1的侧面的外观结构的结构图。显示控制装置1的前面的大小例如形成为由ISO(International Organization for Standardization:国际标准化组织)216规定的A4尺寸。
如图2及图3所示,显示控制装置1包含主体部30、腿部31和铰链部32而构成。主体部30是包含显示部18、参照图4后述的其他硬件的部分。此外,腿部31和铰链部32是用于使显示控制装置1自立的部件。腿部31通过铰链部32相对于主体部30可旋转地连接。
如图3的(A)所示,用户在携带显示控制装置1时,能够将主体部30的侧面与腿部31的侧面对齐,以不变大的形状携带。另一方面,如图3的(B)所示,用户在将显示控制装置1设置在桌子等上使用时,通过以铰链部32为中心点转动腿部31,能够使显示控制装置1自立设置。另外,为了使显示控制装置1能够自立,铰链部32具有用于使腿部31在保证规定角度的状态下保持的机构。
主体部30如上述那样包括显示部18。显示部18是通过显示各种信息而对用户显示这些各种信息的部分。显示部18例如显示以下内容:拍摄部16作为被摄物拍摄的用户的实像(拍摄部16拍摄到的对象物的图像)即用户图像(相当于图中的用户图像51)、作为用户的代替的虚拟形象的图像即虚拟形象图像(代替图像)(相当于图中的虚拟形象图像52)、用于进行引导的辅助信息的即引导图像(相当于图中的引导图像53),表示用户的生物信息的生物信息图像(相当于图中的生物信息图像54)。此外,此时,在显示部18中,在虚拟形象图像上合成引导图像,重叠显示。
用户通过观看显示部18,能够一次掌握这些多样的信息。另外,如上所述,这样的显示部18的显示没有外观上的间隙、具有适合用户观看的一体感。
如图2所示,显示控制装置1还具备拍摄部16、输入部17及显示部18作为外观结构。
拍摄部16是在使用显示控制装置1时,将与显示部18正对的用户作为被摄物进行拍摄的部分。拍摄部16被配置在能够拍摄与显示部18正对的用户的面部图像的位置。例如,如图中所示,拍摄部16位配置于主体部30的前面并且显示部18的上部。
输入部17是受理用户的操作输入的部分。例如,通过多个按钮实现输入部17。在图中,作为一例,图示出向小脸美容、笑容训练、以及生物信息的记录等各种模式的切换按钮、用于进行显示控制装置1的电源的打开/关闭的切换的按钮。
以上,对显示控制装置1的外观结构进行了说明。但是,该结构仅为一例,显示控制装置1的外观结构不限于该例。
例如,显示控制装置1还可以具备发光部,为了照亮与显示部18正对的用户而发光。通过发光部调整照度、颜色分量而照亮用户,显示控制装置1作为带照明的镜子发挥功能。发光部的数量可以是多个。此外,发光部可以配置在显示部18的上部、下部,也可以配置在显示部18的整个周边上。
此外,例如,可以改变输入部17的数量和配置。此外,例如,也可以是,显示部18的一部分可以构成为触摸面板,输入部17和显示部18一体构成。
[硬件结构]
图4是示出显示控制装置1的硬件结构的框图。
如图4所示,显示控制装置1包括CPU(Central Processing Unit)(处理器)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、总线14、输入输出接口15、拍摄部16、输入部17、显示部18、存储部19、通信部20、驱动器21。
CPU11根据ROM12中存储的程序或从存储部19加载到RAM13的程序执行各种处理。
在RAM13中适当地存储CPU11执行各种处理所需的数据等。
CPU11、ROM12和RAM13经由总线14相互连接。
输入输出接口15也连接到总线14。输入输出接口15连接有拍摄部16、输入部17、显示部18、存储部19、通信部20和驱动器21。
拍摄部16虽未图示,但具备光学透镜部和图像传感器。
光学透镜部为了拍摄被摄物,由聚光的透镜,例如聚焦透镜、变焦透镜等构成。
聚焦透镜是在图像传感器的受光面使被摄物像成像的透镜。
变焦镜头是在一定范围内自由地改变焦距的透镜。
拍摄部16根据需要还设置有调整焦点、曝光、白平衡等设定参数的外围电路。
图像传感器由光电转换元件、AFE(Analog Front End)等构成。
光电转换元件例如由CMOS(Complementary Metal Oxide Semiconductor)型的光电转换元件等构成。被摄物像从光学透镜部入射到光电转换元件。因此,光电转换元件将被摄体像进行光电转换从而积累一定时间图像信号,将积累的图像信号作为模拟信号依次供给至AFE。
AFE对该模拟的图像信号执行A/D(Analog/Digital)转换处理等各种信号处理。通过各种信号处理,生成数字信号,作为拍摄部16的输出信号输出。
这样的拍摄部16的输出信号被适当地提供给CPU11等。
输入部17由各种按钮、麦克风等构成,根据用户的指示操作或指示声音输入各种信息。
显示部18由液晶显示器等构成,显示与CPU11输出的图像数据对应的图像。
存储部19由DRAM(Dynamic Random Access Memory)等半导体存储器构成,存储各种数据。
通信部20进行通信控制,用于CPU11经由网络2与其他装置(例如包含在服务器组3中的各服务器)之间进行通信。
驱动器21由可安装可移动介质100的接口构成。在驱动器21中适当地安装有磁盘、光盘、光磁盘或半导体存储器等构成的可移动介质100。在可移动介质100中存储用于执行后述的合成显示处理的程序、图像数据等各种数据。驱动器21从可移动介质100读出的程序、图像数据等各种数据根据需要安装在存储部19中。
另外,显示控制装置1除了上述硬件之外,还可以具备其它硬件。例如,显示控制装置1还可以包括由灯、扬声器或振动电动机等构成的、输出光、声音或振动信号的输出部等。
[功能结构]
图5是表示用于在显示控制装置1的功能结构中执行合成显示处理的功能结构的功能框图。
合成显示处理是指,显示控制装置1通过将辅助信息合成至代替图像来生成合成图像,即,生成附加了辅助信息的代替图像,进行一系列的引导时,将该合成图像和用户的实际图像分别在显示画面上切换并显示的一系列处理。
在执行合成显示处理时,如图5所示,在CPU11中,设定处理部111、取得分析部112、时刻控制部113、图像合成部114和显示控制部115发挥功能。
此外,在存储部19的一个区域中,设定引导信息存储部191和虚拟形象信息存储部192。
引导信息存储部191存储与合成显示处理中的引导有关的各种数据。例如,在引导信息存储部191中,存储用于生成在合成显示处理中显示的引导信息的引导图像的数据、文本数据和声音数据等内容数据。此外,在引导信息存储部191中,还存储一系列的引导中的多个引导信息的显示的顺序、用于将显示的引导信息切换到下一个引导信息的条件、用于生成各种用户接口的数据等。进而,在引导信息存储部191中存储关于合成显示处理生成的用户的简档信息。另外,引导图像可以是预先生成的图像数据,也可以是基于运算实时生成的CG等。此外,各数据也可以以各引导单位作为一个库存储,以使得在实现一系列的引导时容易读取。
在虚拟形象信息存储部192中存储与作为用户实像的代替的虚拟形象相关的各种数据。例如,在虚拟形象信息存储部192中,存储用于生成合成显示处理中显示的虚拟形象图像的虚拟形象图像的数据、在引导等中显示哪个虚拟形象图像的条件等。另外,虚拟形象图像可以是预先生成的图像数据,也可以是基于运算实时生成的CG等。虚拟形象是例如是模仿人类、动物的角色图像。此外,虚拟形象图像可以仅准备任意数量,可以根据用户的属性(例如,用户的性别、年龄、喜好)、引导内容适当地选择。此外,虚拟形象图像也可以是用于实现角色等动画显示的连续的图像组。此外,各数据也可以以各引导单位作为一个库存储,以使得在实现一系列的引导时容易读取。
另外,如上所述的引导信息存储部191、虚拟形象信息存储部192中存储的各信息可以仅存储在存储部19中,但也可以通过驱动器21适当地存储在可移动介质100中。进而,引导信息存储部191、虚拟形象信息存储部192中存储的各信息也可以适当地存储在服务器组3中包含的测定数据存储服务器等中。
此外,在以下说明的各功能模块中,作为进行合成显示处理的前提,设定坐标信息。坐标信息例如是用于定义拍摄部16中拍摄的图像的坐标系即拍摄坐标系、以及显示部18的显示面的坐标系即显示部坐标系等各坐标系的信息,并且,包含表示用于将各坐标系的坐标转换为其它坐标系的坐标的对应关系的信息。以下说明的各功能块,能够基于这些各坐标系中的坐标的对应关系,对各坐标系中的坐标进行转换,由此进行合成显示处理。这些各坐标系的对应关系例如通过在显示控制装置1的制造时,定义各坐标系,进行随着拍摄部16的光轴的方向、变焦率的调整的校准而设定。
设定处理部111是进行与合成显示处理有关的设定等的控制的部分。设定处理部111例如从包含在服务器组3中的应用分发服务器取得用于进行合成显示处理的应用软件,使该应用软件动作。此外,设定处理部111例如通过与包含在服务器组3中的认证服务器进行通信,认证进行合成显示处理的用户。进而,设定处理部111例如通过与包含在服务器组3中的测定数据存储服务器进行通信,更新合成显示处理中的用户的简档信息。
此外,设定处理部111基于用于进行合成显示处理的应用软件,显示用于进行引导的菜单。例如,基于引导,显示包含选项的菜单,该菜单用于选择进行“小脸美容”、“笑容按摩”、“生物信息的测定”、“化妆”等引导内容。此外,设定处理部111从参照了菜单的用户,经由输入部17等,受理任意的引导内容的选择。例如,受理“小脸美容”的选择。由此,为了与小脸美容相关的引导,进行合成显示处理。另外,小脸美容是指,用户对用户自己的面部等进行例如通过流过淋巴的按摩来减少面部浮肿的淋巴按摩等。
取得分析部112是在合成显示处理中,取得成为了拍摄部16的拍摄的被摄物的用户的图像,并解析取得了的用户的图像,基于解析结果取得与用户相关的信息(以下称为“被摄物信息”)的部分。被摄物信息例如是表示用户的面部等中的各部位的位置的坐标、用户的面部等中的各部位的颜色、用户的生物信息等。
为了取得被摄物信息,取得分析部112分析拍摄部16拍摄到的、作为被摄物而包含用户的图像,检测图像中包含的用户的状态。
例如,取得分析部112对包含用户的面部的面部图像,进行关于轮廓、部位的图形匹配、肤色识别等的面部追踪的处理,由此,识别面部的轮廓、眼的位置、皮肤的区域,进行额头、脸颊、下巴及脖子等规定的部位区域的检测。
然后,取得分析部112检测该检测好的部位区域的各个坐标、用户的肤色、用户的面部的角度(即用户的面部的方向)、用户的视线的方向、用户的嘴角的打开状况等状态。
此外,除此以外,取得分析部112还可以实际上不与用户接触,对用户进行非接触的生物信息(有时也被称为生命数据)的测量。此时,上述检测完的规定区域相当于用于通过非接触获取生物信息的兴趣区域(ROI:Region of interest)。
并且,取得分析部112例如基于该兴趣区域中的皮下的血液中血红蛋白吸收的绿色信号,分析心跳频率附近的成分,由此进行计测。取得分析部112测量的生物信息例如是脉搏、脉波及血流等。
另外,取得分析部112可以以一个兴趣区域的图像为对象进行计测,也可以以多个兴趣区域的图像为对象进行计测。此时,取得分析部112能够将已知脉搏延迟的分离的2点(例如,脸颊和额头、额头或脸颊和手掌等)的兴趣区域作为对象进行测量,由此,测量例如脉波传播速度、与脉波传播速度相关联的血压变动。
此外,取得分析部112也可以通过对测定好的生物信息进行噪声消除等,由此实施平均化处理。
进而,取得分析部112也可以通过影像脉波的分析、测定脉搏数、脉波波形、脉波的摇摆,计算取得压力度(例如心跳间隔时间序列(FFI)、基于脉波振幅时间序列(PA)的LF/HF指标、洛伦兹绘图指标等)。
另外,例如,能够通过利用下述参考文献中记载的技术来进行获取分析部112的生物信息的测量。
<参考文献>
东北大学网络科学中心先端信息技术研究部、东北大学创新研究机构、“成功开发血液循环状态监控装置‘魔法之镜’”、【online】、2017年9月27日、【2018年12月15日检索】、因特网<URL:http://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press20160927_01web.pdf>
取得分析部112对后述的时刻控制部113等输出这样取得的用户的面部的朝向、生物信息等被摄物信息。
时刻控制部113是在一系列的引导中,控制显示引导图像、虚拟形象图像、合成了它们的合成图像等各图像,输出声音数据等的时刻(以下称为“引导时刻”)的部分。时刻控制部113基于引导信息存储部191中存储的信息(例如,上述的一系列引导中的多个引导信息的显示顺序、用于将显示的引导信息切换到下一个引导信息的条件)、虚拟形象存储部192中的信息(例如,上述的引导等中显示哪一个虚拟形象图像的条件)和其他信息(例如,经过时间、被摄物信息),控制引导时刻。
例如,如果进行显示的条件涉及时间经过,时刻控制部113在时间经过了时,判断为是应进行显示的引导时刻,将引导时刻到来了的意思输出给后述的显示控制部115等。此外,例如,如果进行显示的条件涉及被摄物信息的变化(例如,用户的面部的朝向变化为规定方向、生物信息变化为规定的值等),时刻控制部113在被摄物信息变化了时,判断为是应该进行显示的引导时刻,将引导时刻到来了的意思输出给后述的显示控制部115等。
此时,例如,也可以是,当用户的面部朝向横向时,判定为是显示横向的虚拟形象图像(或包含该虚拟形象图像的合成图像)的引导时刻,将显示横向的虚拟形象图像(或包含该虚拟形象图像的合成图像)的引导时刻已到来的意思对后述的显示控制部115等输出。这样,显示控制部115能够以与用户的面部的动作一致的方式显示虚拟形象图像(或包含该虚拟形象图像的合成图像)。
此外,例如,也可以是,当用户的血流、脉搏经按摩变为规定值时,判定为是显示关于下一个按摩的虚拟形象图像(或包含该虚拟形象图像的合成图像)的引导时刻,将显示有关下一个按摩的虚拟形象图像(或包含该虚拟形象图像的合成图像)的引导时刻已到来的意思向后述的显示控制部115等输出。这样,显示控制部115在按摩的效果充分地表现出来而血流、脉搏变化了时,能够显示有关下一次按摩的虚拟形象图像(或包含该虚拟形象图像的合成图像)。
图像合成部114是通过合成引导信息存储部191中存储的引导图像(辅助图像)和虚拟形象信息存储部192中存储的虚拟形象图像(代替图像),从而生成在虚拟形象图像上合成了引导图像的图像(以下称为“合成图像”)(辅助代替图像)的部分。即,图像合成部114生成附加了引导图像(辅助图像)的虚拟形象图像(合成图像、辅助代替图像)。图像合成部114从引导信息存储部191取得要在引导中显示的引导图像。此外,图像合成部114从虚拟形象信息存储部192取得要在引导中显示的虚拟形象图像。
然后,图像合成部114通过合成已取得的虚拟形象图像和引导图像,生成合成图像。例如,能够通过叠加虚拟形象图像和引导图像、排列虚拟形象图像和引导图像来进行合成。
具体地,图像合成部114例如在虚拟形象图像的面部等规定的部位区域生成合成图像,以使引导图像重叠。例如,在进行关于按摩的引导时,生成合成图像以使得表示按摩时的手的动作的箭头的导向图像重叠在进行按摩的对象的部位区域。
图像合成部114对后述的显示控制部115等输出这样生成好的合成图像。
显示控制部115是显示引导信息的部分。显示控制部115基于上述时刻控制部113控制的引导时刻,切换合成图像、其他引导信息,使显示部18显示,由此实现一系列的引导。
因此,显示控制部115从图像合成部114受理合成图像的输入。此外,显示控制部115从引导信息存储部191读取引导信息。
然后,显示控制部115基于由时刻控制部113控制的引导时刻,按读取到的引导信息所规定的顺序,在读取到的引导信息所规定的位置,切换显示合成图像、用户图像、其他图像。即,基于引导时刻,显示合成图像以改变辅助信息,或者改变其他引导信息而显示。
用户通过参照显示控制部115显示的合成图像,能够容易地观看进行按摩的部位区域、按摩的方向等。这里,该合成图像合成了人为的像即引导图像和同样是人为的像即虚拟形象图像。即,在本实施方式中,能够向用户提供看上去没有间隙、适合用户观看的具有一体感的显示。
进而,在该情况下,显示控制部115还能够显示用户自身的实像即用户图像。由此,用户能够观察比较实像与合成图像,并更易懂地进行规定的处理(例如按摩等)。
此外,显示控制部115也可以在与用户的面部等的实像即用户图像不重叠的区域(即,在与用户的面部不重叠的区域),将在一系列的引导中用户应该朝向的方向、按摩的方法用图像、文本自动配置并显示。另外,显示控制部115例如也可以在与用户的面部等的实像即用户图像不重叠的区域(即,在不与用户的面部重叠的区域),将用于显示生物信息的波形数据、需要的文字、图像信息自动配置并显示。
在进行这样的与用户图像的显示、不与用户图像重叠的显示时,例如,取得分析部112通过面部追踪检测拍摄部16拍摄到的用户的规定的部位区域。然后,基于上述的各坐标系的对应关系,取得与检测出的部位区域的拍摄坐标系中的坐标对应的显示部坐标系的坐标。然后,显示控制部115能够通过在显示部18的取得分析部112取得了的显示部坐标系的坐标上显示规定的图像来进行显示。
此外,显示控制部115也可以组合这些显示。例如,显示控制部115也可以在规定的图像与用户的面部等的实像即用户图像重叠的区域重叠显示,表示按摩的内容的文本在与用户的面部等的实像即用户图像不重叠的区域显示。
通过实时地显示这样的信息,显示控制部115能够容易、适当地进行向用户的一系列引导的传达。
另外,显示控制部115除了显示以外,也可以通过其他方法输出引导信息。例如,显示控制部115也可以读取包括声音数据的引导信息,从扬声器输出根据读取出的引导信息生成的声音、音乐。此外,例如,显示控制部115可以改变发光部的发光状态。
[合成显示处理]
图6和图7是说明具有图5的功能结构的图1的显示控制装置1执行的合成显示处理的流程的流程图。
合成显示处理例如与显示控制装置1的电源接通一起开始。
如图6所示,在步骤S11中,设定处理部111进行初始设定。
例如,设定处理部111从包含在服务器组3中的应用分发服务器取得用于进行合成显示处理的应用软件,使该应用软件动作。此外,设定处理部111随着应用软件的动作,对拍摄部16等各硬件进行与应用软件对应的设定。然后,设定处理部111使拍摄部16开始拍摄。
在步骤S12中,显示控制部115作为用于对准用户的面部位置的引导图像显示面部位置线。图8示出该面部位置线的显示画面的一例。如图8的(A)所示,显示面部位置线作为引导图像53a。此外,还显示用户图像51a。用户通过参照这些显示,移动自己的面部,以使自己的面部的位置与引导图像53a的轮廓内且引导图像53a的中央一致。
在步骤S13中,取得分析部112判断是否从用户接收到面部位置线与用户的面部一致的通知。例如,通过判断了面部位置线与用户的面部一致的用户按下包含在输入部17中的规定按钮来进行来自该用户的通知。没有来自用户的通知时,在步骤S13中判断为“否”,处理返回到步骤S12,重复处理。另一方面,当存在来自用户的通知时,在步骤S13中判断为“是”,处理进入步骤S14。
在步骤S14中,取得分析部112尝试面部识别,判断面部识别是否成功。面部识别成功了时,在步骤S14中判断为“是”,处理进入步骤S15。另一方面,面部识别失败了时,在步骤S14中判断为“否”,处理进入步骤S19。
在步骤S19中,显示控制部115如在图8的(B)中作为一例所示的那样,显示表示用户的面部不能识别的消息。然后,处理返回到步骤S12。此时,为了使下次的面部识别成功,可以显示“请将面部对准框内”等促使用户移动面部的文本等。
在步骤S15中,设定处理部111根据拍摄部16拍摄的用户的图像中的面部的大小,调整在显示部18上显示用户的面部时的面部的大小、位置(即,校准)。然后,设定处理部111将表示调整结果的调整数据存储在存储部19中。此后,基于该调整数据来进行显示控制部115的用户图像的显示。
在步骤S16中,显示控制部115如图8的(C)中作为一例所示的那样,显示表示用户的面部的识别已完成的消息。另外,在引导图像53a、引导图像53b及引导图像53c的各自中,也可以使面部位置线的显示方式(例如颜色)不同,以向用户传递当前状况。
在步骤S17中,显示控制部115显示用于根据用户选择任意引导菜单的菜单画面。另外,在以下的说明中,假设引导菜单是4个来进行说明,但这只是用于说明的示例,引导菜单的数量不特别限定。
在步骤S18中,设定处理部111判断是否从用户接受了任意引导菜单的选择。当接收到选择时,在步骤S18中判断为“是”,处理进入步骤S20。另一方面,当为接收到选择时,在步骤S18中判断为“否”,以规定的周期重复步骤S18的判断。
在步骤S20中,判断在步骤S19中选择完的引导菜单是否是笑容训练。是笑容训练时,在步骤S20中判断为“是”,处理进入步骤S21。不是笑容训练时,在步骤S20中判断为“否”,处理进入步骤S22。
在步骤S21中,时刻控制部113、图像合成部114和显示控制部115分别从引导信息存储部191和虚拟形象信息存储部192读取用于执行笑容训练的一系列引导所需的数据。
在步骤S22中,判断在步骤S19中选择完的引导菜单是否是面部美容。是面部美容时,在步骤S22中判断为“是”,处理进入步骤S23。不是面部美容时,在步骤S22中判断为“否”,处理进入步骤S24。
在步骤S23中,时刻控制部113、图像合成部114和显示控制部115分别从引导信息存储部191和虚拟形象信息存储部192读取用于执行面部美容的一系列引导所需的数据。
在步骤S24中,判断在步骤S19中选择完的引导菜单是否是放松(穴位按压及深呼吸)。是放松时,在步骤S24中判断为“是”,处理进入步骤S25。不是放松时,在步骤S24中判断为“否”,处理进入步骤S26。
在步骤S25中,时刻控制部113、图像合成部114和显示控制部115分别从引导信息存储部191和虚拟形象信息存储部192读取用于执行放松的一系列引导所需的数据。
在步骤S26中,时刻控制部113、图像合成部114及显示控制部115分别从引导信息存储部191和虚拟形象信息存储部192读取用于执行笑容训练、面部美容以及放松以外的菜单(例如化妆)的一系列引导所需要的数据。
在步骤S27中,时刻控制部113基于在上述步骤S21、步骤S23、步骤S25和步骤S26的任一步骤中读取到的数据、从取得信息分析部112输入的被摄物信息等,控制引导时刻。
在步骤S28中,图像合成部114基于在上述的步骤S21、步骤S23、步骤S25及步骤S26的任一步骤中读取到的数据,生成合成图像。
在步骤S29中,显示控制部115基于时刻控制部113控制的引导时刻、上述步骤S21、步骤S23、步骤S25及步骤S26的任一步骤中读取到的数据、图像合成部11 4生成的合成图像,进行用于实现一系列的指导的引导显示。在图9中示出了该引导显示的一个示例。
例如,在步骤S20中选择了笑容训练时,显示控制部115进行图9的(A)所示的引导显示。具体地,在显示部18的下部,如作为虚拟形象图像52d和引导图像53d所示的那样,显示叠加有笑容的虚拟形象图像和用于创建笑容的引导图像的合成图像。如作为用户图像51d所示的那样,用户进行一边参照该合成图像一边进行笑容的训练。此外,此时,作为引导图像之一,例如,可以显示“保持原样10秒!”等促使保持笑容的文本、或倒计时10秒这样的图标。
此外,例如,在步骤S22中选择了笑容训练时,显示控制部115进行图9的(B)所示的引导显示。具体地,在显示部18的下部,如作为虚拟形象图像52e和引导图像53e所示的那样,显示叠加有虚拟形象图像及表示面部美容的按摩中手的动作的引导图像的合成图像。用户参照该合成图像进行面部美容中的按摩。
另外,例如,在步骤S23中选择了笑容训练时,显示控制部115在第一引导时刻进行图9的(C)所示的引导显示。具体地,在显示部18的下部,如作为虚拟形象图像52f和引导图像53f所示的那样,显示叠加有虚拟形象图像及表示成为进行穴位按压的对象的第一穴位的位置的引导图像的合成图像。用户参照该合成图像,对第一穴位进行穴位按压。此外,显示控制部115在后述的步骤S32中成为“否”时再次进行第二引导时刻,进行图9的(D)所示那样的引导显示。具体而言,在显示部18的下部,如作为虚拟形象图像52g和引导图像53g所示的那样,显示叠加有虚拟形象图像及表示成为进行穴位按压的对象的第二穴位的位置的引导图像的合成图像。如作为用户图向51g所示的那样按压第一穴位的用户,参照该合成图像进行第二穴位按压。这样,在本实施方式中,能够根据引导时刻,适当地切换显示在一系列指导中应显示的图像。
在步骤S30中,显示控制部115判断是否改变显示模式。显示模式的改变可以根据用户的操作而进行,也可以根据一系列引导中的任意引导时刻而进行。在改变显示模式时,在步骤S30中判断为“是”,处理进入步骤S31。另一方面,在不变更显示模式时,在步骤S31中判断为“否”,处理进入步骤S32。
在步骤S31中,显示控制部115进行与改变后的显示模式对应的显示。图10表示伴随该显示模式的改变的显示的切换的一例。在本实施方式中,例如,准备将用户图像作为主要图像(第一图像)显示并且将合成了虚拟形象图像和引导图像的合成图像显示为次要图像(第二图像)的第一显示模式,以及,将用户图像显示为次要图像并且将合成了虚拟形象图像和引导图像的合成图像显示为主要图像的第二显示模式。即,显示控制部115作为切换部发挥作用,切换如下模式:将用户图像显示为主要图像,并将合成了虚拟形象图像和引导图像的合成图像显示为次要图像的第一显示模式,以及将用户图像作为次要图像显示,并将合成了虚拟形象图像和引导图像的合成图像显示为主要图像的第二显示模式。
通过第一显示模式进行显示时,例如,如图10的(A)所示,以用户图像51h为主要,在画面中央用大尺寸进行显示(第一显示方式),以合成图像即虚拟形象图像52h和引导图像53h为次要,在比画面下部等用比主要小的尺寸显示(第二显示方式)。另一方面,通过第二显示模式进行显示时,例如,如图10的(B)所示,以合成图像即虚拟形象图像52i和引导图像53i为主要,在画面中央用大尺寸显示(第一显示方式),以用户图像51i为次要,在画面下部等用比主要小的尺寸显示。(第二显示方式)
这样,通过设置多个显示模式,根据引导时刻、用户的操作切换显示方法,能够根据一系列的引导的内容、用户的要求进行多种多样的显示。
在步骤S32中,时刻控制部113基于引导时刻判断是否结束一系列引导。一系列引导尚未结束时,在步骤S32中判断为“否”,处理返回到步骤S27,再次重复处理。在该重复的处理中,例如,显示从图9的(C)的显示切换为图9的(D)的显示如上所述。
另一方面,在结束一系列引导时,在步骤S32中判断为“是”,处理返回到步骤S18。然后,有新的引导菜单的选择时,重复上述步骤S19以后的处理。
另外,在下次以后进行的合成显示处理中,可以省略步骤S11中的应用取得等的处理。
根据以上说明的合成显示处理,能够根据引导时刻,适当地切换显示一系列引导中应显示的图像。例如,能够适当地切换显示合成图像。这里,该合成图像合成了人为的像即引导图像和同样是人为的像即虚拟形象图像。即,根据以上说明的合成显示处理,能够对用户提供没有外观上的间隙、适合用户观看的具有一体感的显示。
此外,根据以上说明的合成显示处理,还能够进一步显示用户自身的实像即用户图像。由此,用户能够观看比较实像和合成图像,更易懂地进行按摩等。
进而,根据以上说明的合成显示处理,预先准备多个显示模式,根据引导时刻、用户的操作来切换显示方法,由此能够按照一系列的引导的内容、用户的要求进行多种多样的显示。
例如,能够这样进行:在用户不习惯的引导菜单的情况下,将表示按摩等方法的合成图像作为主要显示,在用户已经习惯了的情况下,将表示用户的状态的用户图像作为主要显示。在这种情况下,例如,时刻控制部113管理用户的熟练度。具体而言,时刻控制部113使存储部19存储用户的熟练度的值。然后,时刻控制部113每当用户增加引导菜单的执行次数时,就提高该引导菜单中的用户的熟练度的值。或者,时刻控制部113基于其他基准,例如显示控制装置1的使用时间的累计值,来提高熟练度。
然后,在用户不习惯时,并且在熟练度的值小于预先设定的规定的阈值时,显示控制部115将表示按摩等方法的合成图像作为主要显示。另一方面,在用户已经习惯时,且熟练度的值大于预先设定的预定阈值时,显示控制部115将表示用户的状态的用户图像作为主要显示。另外,熟练度可以按每个引导菜单进行管理,但也可以不区分各引导菜单而作为共用的熟练度进行管理。此外,也可以设置成能够根据用户的操作来校正熟练度的值。
如上述那样构成的显示控制装置1包括显示部18、取得分析部112、虚拟形象信息存储部192、图像合成部114和显示控制部115。
取得分析部112取得对象物的实像。
虚拟形象信息存储部192存储对象的代替图像。
图像合成部114将辅助信息合成到虚拟形象信息存储部192存储的代替图像上,生成合成图像。
显示控制部115基于由时刻控制部113控制的规定的时刻,切换显示由取得分析部112取得了的对象物的实像和由图像合成部114生成的合成图像。
这样,由于合成人为图像的辅助信息的图像和同样是人为图像的代替图像,所以能够对用户提供没有外观上的间隙、适合用户观看的具有一体感的显示。此外,能够切换显示这样的合成图像的显示和实像(例如,通过照相机拍摄的用户的拍摄图像、反射到镜子中的用户的镜像等)。
显示控制装置1还包括用于拍摄对象物的拍摄部16,取得分析部112取得由拍摄部16拍摄到的对象的实际图像作为对象物的实际图像。
由此,能够显示实际拍摄到的用户的实际图像。此外,拍摄时能够实时显示。
显示控制装置1还包括时刻控制部113。
时刻控制部113控制在显示部18上显示辅助信息的规定的时刻。
显示控制部115基于由时刻控制部113控制的规定的时刻,切换显示在显示部18上的由取得分析部112取得了的对象物的实际图像和由图像合成部114生成了的合成图像的显示。
由此,能够切换显示合成图像和对象物的实际图像。
时刻控制部113在由取得分析部112取得了的对象物的实际图像中的对象物成为了规定的状态时,控制规定的时刻。
由此,例如以用户朝向了横向、进行了规定时间规定的处理等为条件,能够切换辅助信息、合成图像的显示。
图像合成部114在由取得分析部112所取得的对象物的实际图像中的对象物成为了规定的状态时,选择用于合成图像的生成的代替图像。
由此,例如,能够在用户朝向了横向时,显示包含同样朝向了横向的虚拟形象图像的合成图像。由此,能够使用户感到与虚拟形象图像的一体感。
规定的状态包含与该对象物对自身实施的规定的处理有关的状态。
由此,例如能够基于规定的处理即与按摩、穴位按压等有关的状态,进行规定的时刻的控制、在合成图像中使用的代替图像的选择。
规定的状态包含与该对象物的生物信息有关的状态。
由此,能够基于生物信息的变化,进行规定的时刻的控制、合成图像中使用的代替图像的选择。
时刻控制部113控制规定的时刻,切换多个合成图像而在显示部18上显示,由此进行一系列的引导。
由此,能够使用多个合成图像来实现按顺序的引导。
时刻控制部113基于用于进行一系列引导的多个辅助信息,控制规定的时刻。
由此,能够在应该显示各个多个辅助信息的时刻,显示多个辅助信息(或包含该辅助信息的合成图像)。
显示控制部115基于规定的条件,替换由取得分析部112取得了的对象物的实际图像和由图像合成部114生成了的合成图像的在显示部18上的显示方式。
由此,例如能够替换将任意图像进行主要显示还是进行次要显示等的显示方式。
规定的条件是与规定的时刻相关的条件,
替换显示方式,是将由取得分析部112取得了的对象物的实际图像与由图像合成部114生成了的合成图像的在显示部18上的显示的大小及显示位置中的任意一者或两者进行替换。
由此,能够实现与规定的时刻对应的显示的大小和位置的替换。
时刻控制部113管理用户的熟练度,
规定的条件是关于熟练度的条件。
由此,能够实现与用户的熟练度对应的显示的大小和位置的替换。
还包括在显示部18的显示面的正面侧配置的镜部,
镜部作为取得分析部112取得对象物的镜像,
由此,即使在进行使用了半透明反射镜等的显示的装置中,也能够向用户提供没有外观上的间隙、适合用户观看的具有一体感的显示。
[变形例]
本发明并不限定于上述的实施方式,本发明包含能够达成本发明的目的范围内的变形、改良等。例如,上述实施方式也可以如以下变形例那样进行变形。
<使用了半透明反射镜的变形例>
也可以通过组合了上述显示部18和具有反射面的镜部的结构的装置来实现显示控制装置1。
此时,作为光学上的特性,镜部通过具有透射特性和反射特性两者的半透明反射镜来实现。然后,镜部在比显示部18更前面的用户观看的方向上重叠配置。
通过这样的配置,用户例如能够同时观看不是通过拍摄部16拍摄到的用户图像而是通过镜部反射的自己的面部,以及显示部18上显示并透过了镜部的各种信息(例如,合成图像)。即,在上述实施方式中,设置成作为用户的实像,观看拍摄部16作为被摄物拍摄了的用户图像,但在本变形例中,设置成作为用户的实像,观看而由镜部反射的用户的镜像。
这样,也能够得到与上述实施方式相同的效果。
<其他变形例>
例如,在上述实施方式中,假设显示控制装置1与包含在服务器组3中的各服务器配合,但也可以将各服务器的功能追加到显示控制装置1中,仅通过显示控制装置1进行全部的处理。
另外,在上述实施方式中,本发明适用的显示控制装置1以嵌入在便携式自立式镜子中的电子设备为例进行了说明,但并不特别限定于此。
例如,本发明能够适用于安装在诸如观察仪表等的大型镜子中的电子设备、安装在固定式洗面化妆台上的电子设备、以及设置在浴室中的镜子状的电子设备上。
上述一系列处理既可以由硬件执行,也可以由软件执行。
换言之,图5的功能结构仅仅是示例,并且不特别限定。即,只要在显示控制装置1中具备能够将上述一系列处理作为整体执行的功能即可,为了实现该功能使用怎样的功能模块并不特别限定于图5的例子。
另外,一个功能块可以由硬件单体构成,也可以由软件单体构成,还可以由它们的组合构成。
本实施方式中的功能结构由执行运算处理的处理器实现,在本实施方式中可使用的处理器中,除了由单处理器、多处理器及多核处理器等各种处理装置单体构成的之外,还包含这些各种处理装置与ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等处理电路组合而成的。
在通过软件执行一系列处理时,构成该软件的程序从网络、存储介质安装到计算机等。
计算机可以是组装到专用硬件的计算机。此外,计算机也可以是通过安装各种程序能够执行各种功能的计算机,例如通用的个人计算机。
包含这样的程序的存储介质不仅通过为了向用户提供程序而与装置主体分离配置的图4的可移动介质100构成,还由在预先安装到装置主体的状态下向用户提供的存储介质等构成。可移动介质100例如由磁盘(包括软盘)、光盘或磁光盘等构成。光盘例如由CD-ROM(Compact Disk-Read Only Memory)、DVD、Blu-ray(注册商标)Disc(蓝光光盘)等构成。光磁盘由MD(Mini-Disk)等构成。此外,在预先安装倒装置主体的状态下向用户提供的存储介质例如由记录有程序的图4的ROM12、图4、5的存储部19中包含的硬盘等构成。
另外,在本说明书中,对存储在存储介质中的程序进行记述的步骤当然包括按照其顺序按时间顺序进行的处理,但不一定按时间顺序处理,也包括并行或单独执行的处理。
此外,在本说明书中,系统术语表示由多个装置、多个单元等构成的整体装置。
以上,对本发明的若干实施方式进行了说明,但这些实施方式只是示例,并不限定本发明的技术范围。本发明可以采取其他各种实施方式,进而,在不脱离本发明主旨的范围内,能够进行省略、替换等各种改变。这些实施方式、其变形包含在本说明书等所记载的发明的范围、主旨中,并且包含在权利要求书所记载的发明及其等同的范围中。

Claims (18)

1.一种显示控制装置,其特征在于,具有:
显示单元;
存储单元,存储对象物的代替图像;
取得单元,取得被拍摄到的对象物的图像;以及
显示控制单元,将附加了辅助信息的辅助代替图像显示于所述显示单元;
其中,所述显示控制单元包括切换如下模式的切换单元:
ⅰ)第一模式,将所述取得单元已取得的对象物的图像作为第一图像显示于所述显示单元,将所述辅助代替图像作为第二图像显示于所述显示单元;以及
ⅱ)第二模式,将所述取得单元已取得的对象物的图像作为第二图像显示于所述显示单元,将所述辅助代替图像作为第一图像显示于所述显示单元,
所述显示控制单元通过切换完毕的显示模式进行控制,以使得所述对象物的图像与所述辅助代替图像显示于所述显示单元。
2.根据权利要求1所述的显示控制装置,其特征在于,
还包括拍摄所述对象物的拍摄单元,
所述取得单元取得所述拍摄单元拍摄到的对象物的图像作为所述对象物的图像。
3.根据权利要求1所述的显示控制装置,其特征在于,
包括时刻控制单元,控制将所述辅助信息显示于所述显示单元的规定的时刻,
所述显示控制单元基于所述时刻控制单元控制的规定的时刻而使所述辅助代替图像的所述辅助信息改变,并切换所述对象物的图像与所述辅助代替图像的在所述显示单元中的显示。
4.根据权利要求3所述的显示控制装置,其特征在于,
所述时刻控制单元在所述取得单元已取得的对象物的图像的对象物变为了规定的状态时,控制所述规定的时刻。
5.根据权利要求4所述的显示控制装置,其特征在于,
所述规定的状态中包含与该对象物对自身实施的规定的处理相关的状态。
6.根据权利要求4所述的显示控制装置,其特征在于,
所述规定的状态中包含与该对象物的生物信息相关的状态。
7.根据权利要求3所述的显示控制装置,其特征在于,
所述时刻控制单元控制所述规定的时刻,
所述显示控制单元通过使多个所述辅助代替图像改变并使该辅助代替图像显示于所述显示单元来进行一系列的引导。
8.根据权利要求3所述的显示控制装置,其特征在于,
所述时刻控制单元基于用于进行一系列的引导的多个所述辅助信息来控制所述规定的时刻。
9.根据权利要求4所述的显示控制装置,其特征在于,
还包括选择图像的选择单元,
所述选择单元在所述取得单元已取得的图像的对象物成为了所述规定的状态时,选择所述辅助代替图像。
10.根据权利要求1~9中任一项所述的显示控制装置,其特征在于,
所述切换单元切换如下模式:
ⅰ)所述第一模式,将所述取得单元已取得的对象物的图像作为第一显示方式显示于所述显示单元,将所述辅助代替图像作为第二显示方式显示于所述显示单元;以及
ⅱ)所述第二模式,将所述取得单元已取得的对象物的图像作为第二显示方式显示于所述显示单元,将所述辅助代替图像作为第一显示方式显示于所述显示单元;
所述显示控制单元通过被所述切换单元切换完毕的显示模式控制使得所述对象物的图像和所述辅助代替图像显示于所述显示单元。
11.根据权利要求10所述的显示控制装置,其特征在于,
所述显示控制单元显示所述对象物的图像和所述辅助代替图像,以使得在所述显示单元中,通过所述第一显示方式显示的图像大于通过所述第二显示方式显示的图像。
12.根据权利要求10所述的显示控制装置,其特征在于,
所述显示控制单元显示所述对象物的图像和所述辅助代替图像,以使得在所述显示单元中,通过所述第一显示方式显示的图像的显示位置与通过所述第二显示方式显示的图像的显示位置不同。
13.根据权利要求1所述的显示控制装置,其特征在于,
所述切换单元切换如下模式:
ⅰ)所述第一模式,将所述取得单元已取得的对象物的图像作为主要图像显示于所述显示单元,将所述辅助代替图像作为次要图像显示于所述显示单元;以及
ⅱ)所述第二模式,将所述取得单元已取得的对象物的图像作为次要图像显示于所述显示单元,将所述辅助代替图像作为主要图像显示于所述显示单元,
所述显示控制单元通过被所述切换单元切换完毕的显示模式进行控制,以使得所述对象物的图像和所述辅助代替图像显示于所述显示单元。
14.根据权利要求1所述的显示控制装置,其特征在于,
所述显示控制单元基于规定的条件进行控制,以使得通过所述第一显示模式及所述第二显示模式中的任意一者,将所述对象物的图像和所述辅助代替图像显示于所述显示单元。
15.根据权利要求14所述的显示控制装置,其特征在于,
还包括管理用户的熟练度的管理单元,
所述规定的条件是关于所述熟练度的条件。
16.根据权利要求1所述的显示控制装置,其特征在于,
还包括配置于所述显示单元的显示面的正面侧的反射单元,
所述反射单元作为所述取得单元取得对象物的镜像。
17.一种显示控制方法,由包括显示单元和存储器的计算机执行,其特征在于,包括以下步骤:
存储步骤,存储所述对象物的代替图像;
取得步骤,取得被拍摄到的对象物的图像;
显示控制步骤,将附加了辅助信息的辅助代替图像显示于所述显示单元;
其中,所述显示控制步骤包括切换如下模式的切换步骤:
ⅰ)第一模式,将所述取得步骤已取得的对象物的图像作为第一图像显示于所述显示单元,将所述辅助代替图像作为第二图像显示于所述显示单元;以及
ⅱ)第二模式,将所述取得单元已取得的对象物的图像作为第二图像显示于所述显示单元,将所述辅助代替图像作为第一图像显示于所述显示单元;
所述显示控制步骤通过切换完毕的显示模式进行控制,以使得所述对象物的图像与所述辅助代替图像显示于所述显示单元。
18.一种存储介质,其特征在于,其存储有包括显示单元和存储器的计算机执行的显示控制程序,所述显示控制程序能够使所述计算机实现如下功能:
存储功能,存储所述对象物的代替图像;
取得功能,取得被拍摄到的对象物的图像;以及
显示控制功能,将附加了辅助信息的辅助代替图像显示于所述显示单元,
其中,所述显示控制功能包括切换如下模式的切换功能:
ⅰ)第一模式,将通过所述取得功能已取得的对象物的图像作为第一图像显示于所述显示单元,将所述辅助代替图像作为第二图像显示于所述显示单元;以及
ⅱ)第二模式,将通过所述取得功能已取得的对象物的图像作为第二图像显示于所述显示单元,将所述辅助代替图像作为第一图像显示于所述显示单元,
所述显示控制功能通过切换完毕的显示模式进行控制,以使得所述对象物的图像与所述辅助代替图像显示于所述显示单元。
CN201910497042.3A 2018-06-11 2019-06-10 显示控制装置、显示控制方法及存储显示控制程序的介质 Active CN110575001B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018111360A JP7135472B2 (ja) 2018-06-11 2018-06-11 表示制御装置、表示制御方法及び表示制御プログラム
JP2018-111360 2018-06-11

Publications (2)

Publication Number Publication Date
CN110575001A true CN110575001A (zh) 2019-12-17
CN110575001B CN110575001B (zh) 2022-09-06

Family

ID=68763887

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910497042.3A Active CN110575001B (zh) 2018-06-11 2019-06-10 显示控制装置、显示控制方法及存储显示控制程序的介质

Country Status (3)

Country Link
US (1) US11029830B2 (zh)
JP (1) JP7135472B2 (zh)
CN (1) CN110575001B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112749634A (zh) * 2020-12-28 2021-05-04 广州星际悦动股份有限公司 基于美容设备的控制方法、装置以及电子设备

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11775164B2 (en) * 2018-10-03 2023-10-03 Sony Corporation Information processing device, information processing method, and program
CN109411052A (zh) * 2018-11-26 2019-03-01 Oppo广东移动通信有限公司 电子装置、信息推送方法及相关产品
CN110827378B (zh) * 2019-10-31 2023-06-09 北京字节跳动网络技术有限公司 虚拟形象的生成方法、装置、终端及存储介质
CN114728847A (zh) 2019-11-26 2022-07-08 Agc株式会社 带电热线的玻璃板
WO2021186606A1 (ja) * 2020-03-18 2021-09-23 日本電気株式会社 プログラム、携帯端末、認証処理装置、画像送信方法、及び認証処理方法
US11908243B2 (en) * 2021-03-16 2024-02-20 Snap Inc. Menu hierarchy navigation on electronic mirroring devices
AU2021444499A1 (en) * 2021-05-04 2023-10-05 Nutricia Early Life Nutrition (Shanghai) Co.,Ltd. A massage coaching method, device and application thereof
WO2024034537A1 (ja) * 2022-08-10 2024-02-15 株式会社 資生堂 情報処理装置、情報処理方法、及び、プログラム

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120223956A1 (en) * 2011-03-01 2012-09-06 Mari Saito Information processing apparatus, information processing method, and computer-readable storage medium
JP2013026776A (ja) * 2011-07-20 2013-02-04 Sony Corp 画像処理装置および方法
TWM449588U (zh) * 2012-09-28 2013-04-01 zhi-zhen Chen 互動式多媒體復健訓練系統
US20130115584A1 (en) * 2011-11-07 2013-05-09 Nike, Inc. User interface and fitness meters for remote joint workout session
CN103732297A (zh) * 2011-06-30 2014-04-16 奥林奇实验室 增强现实活动范围的治疗系统及其操作方法
KR20140104799A (ko) * 2013-02-21 2014-08-29 주식회사 케이티 이동 로봇의 학습 보조 방법 및 이에 이용되는 이동 로봇 장치
TWM502206U (zh) * 2015-02-10 2015-06-01 Univ Chung Hua 數位輔助上妝裝置
CN105188522A (zh) * 2013-03-08 2015-12-23 富士胶片株式会社 脉搏波传播速度的测定方法、测定系统及摄像装置
CN105278950A (zh) * 2014-07-17 2016-01-27 宏达国际电子股份有限公司 用于执行视频通话增强功能的方法及其电子装置
CN106165430A (zh) * 2016-06-29 2016-11-23 北京小米移动软件有限公司 视频直播方法及装置
CN206178531U (zh) * 2016-07-07 2017-05-17 深圳市锐吉电子科技有限公司 一种镜面设备及镜面系统
TW201724013A (zh) * 2015-12-27 2017-07-01 華碩電腦股份有限公司 電子裝置、電腦可讀取記錄媒體及臉部影像顯示方法
CN107003827A (zh) * 2014-09-26 2017-08-01 三星电子株式会社 由包括可切换镜子的设备执行的图像显示方法和设备
CN107198391A (zh) * 2017-06-30 2017-09-26 广东工业大学 一种上妆指导美颜镜子
CN107551521A (zh) * 2017-08-17 2018-01-09 广州视源电子科技股份有限公司 健身指导方法及装置、智能设备及存储介质

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003153739A (ja) * 2001-09-05 2003-05-27 Fuji Photo Film Co Ltd 化粧鏡装置及び化粧方法
US8953909B2 (en) * 2006-01-21 2015-02-10 Elizabeth T. Guckenberger System, method, and computer software code for mimic training
US20080165388A1 (en) * 2007-01-04 2008-07-10 Bertrand Serlet Automatic Content Creation and Processing
US20100306685A1 (en) * 2009-05-29 2010-12-02 Microsoft Corporation User movement feedback via on-screen avatars
US9283429B2 (en) * 2010-11-05 2016-03-15 Nike, Inc. Method and system for automated personal training
US9566526B2 (en) * 2010-12-31 2017-02-14 Dazzletag Entertainment Limited Methods and apparatus for gaming
WO2015108702A1 (en) * 2014-01-14 2015-07-23 Zsolutionz, LLC Cloud-based initiation of customized exercise routine
WO2015148676A1 (en) * 2014-03-26 2015-10-01 Reflexion Health, Inc. Systems and methods for teaching and instructing in a virtual world including multiple views
GB201603495D0 (en) * 2016-02-29 2016-04-13 Virtual Beautician Ltd Image processing system and method
US10699461B2 (en) * 2016-12-20 2020-06-30 Sony Interactive Entertainment LLC Telepresence of multiple users in interactive virtual space
CN111066060A (zh) * 2017-07-13 2020-04-24 资生堂美洲公司 虚拟面部化妆去除和模拟、快速面部检测和地标跟踪
CN109493310A (zh) * 2017-09-08 2019-03-19 丽宝大数据股份有限公司 身体信息分析装置及其手部肌肤分析方法

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120223956A1 (en) * 2011-03-01 2012-09-06 Mari Saito Information processing apparatus, information processing method, and computer-readable storage medium
JP2012181688A (ja) * 2011-03-01 2012-09-20 Sony Corp 情報処理装置、情報処理方法、情報処理システムおよびプログラム
CN103732297A (zh) * 2011-06-30 2014-04-16 奥林奇实验室 增强现实活动范围的治疗系统及其操作方法
JP2013026776A (ja) * 2011-07-20 2013-02-04 Sony Corp 画像処理装置および方法
US20130115584A1 (en) * 2011-11-07 2013-05-09 Nike, Inc. User interface and fitness meters for remote joint workout session
TWM449588U (zh) * 2012-09-28 2013-04-01 zhi-zhen Chen 互動式多媒體復健訓練系統
KR20140104799A (ko) * 2013-02-21 2014-08-29 주식회사 케이티 이동 로봇의 학습 보조 방법 및 이에 이용되는 이동 로봇 장치
CN105188522A (zh) * 2013-03-08 2015-12-23 富士胶片株式会社 脉搏波传播速度的测定方法、测定系统及摄像装置
CN105278950A (zh) * 2014-07-17 2016-01-27 宏达国际电子股份有限公司 用于执行视频通话增强功能的方法及其电子装置
CN107003827A (zh) * 2014-09-26 2017-08-01 三星电子株式会社 由包括可切换镜子的设备执行的图像显示方法和设备
TWM502206U (zh) * 2015-02-10 2015-06-01 Univ Chung Hua 數位輔助上妝裝置
TW201724013A (zh) * 2015-12-27 2017-07-01 華碩電腦股份有限公司 電子裝置、電腦可讀取記錄媒體及臉部影像顯示方法
CN106165430A (zh) * 2016-06-29 2016-11-23 北京小米移动软件有限公司 视频直播方法及装置
CN206178531U (zh) * 2016-07-07 2017-05-17 深圳市锐吉电子科技有限公司 一种镜面设备及镜面系统
CN107198391A (zh) * 2017-06-30 2017-09-26 广东工业大学 一种上妆指导美颜镜子
CN107551521A (zh) * 2017-08-17 2018-01-09 广州视源电子科技股份有限公司 健身指导方法及装置、智能设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
太平洋时尚女性网: "《新浪女性》", 1 November 2007, pages: 2 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112749634A (zh) * 2020-12-28 2021-05-04 广州星际悦动股份有限公司 基于美容设备的控制方法、装置以及电子设备

Also Published As

Publication number Publication date
JP7135472B2 (ja) 2022-09-13
US11029830B2 (en) 2021-06-08
JP2019213617A (ja) 2019-12-19
CN110575001B (zh) 2022-09-06
US20190377481A1 (en) 2019-12-12

Similar Documents

Publication Publication Date Title
CN110575001B (zh) 显示控制装置、显示控制方法及存储显示控制程序的介质
JP6841167B2 (ja) コミュニケーション装置、コミュニケーションロボットおよびコミュニケーション制御プログラム
KR102196380B1 (ko) 사용자의 감정 상태들을 사용하여 가상 이미지 생성 시스템을 제어하기 위한 기술
JP2020039029A (ja) 動画配信システム、動画配信方法、及び動画配信プログラム
CN112741609B (zh) 电子装置、电子装置的控制方法以及介质
JP2006293979A (ja) コンテンツ提供システム
CN109119057A (zh) 音乐创作方法、装置及存储介质和穿戴式设备
CN110993051B (zh) 判定装置、判定方法以及记录介质
CN110297720B (zh) 通知装置、通知方法及存储通知程序的介质
US10915617B2 (en) Image processing apparatus, image processing method, and recording medium
JP7135466B2 (ja) 表示装置、表示方法及び表示プログラム
CN114303142A (zh) 影像生成装置
JP2020057153A (ja) 表示制御装置、表示制御方法及び表示制御プログラム
JP7279121B2 (ja) ユーザ行動支援装置、方法およびプログラム
JP7415318B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7238835B2 (ja) 電子装置、電子装置の制御方法及び電子装置の制御プログラム
CN114430663A (zh) 图像处理装置、图像处理方法以及图像处理程序

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant