CN105474070B - 头戴式显示设备及其控制方法 - Google Patents

头戴式显示设备及其控制方法 Download PDF

Info

Publication number
CN105474070B
CN105474070B CN201380079103.5A CN201380079103A CN105474070B CN 105474070 B CN105474070 B CN 105474070B CN 201380079103 A CN201380079103 A CN 201380079103A CN 105474070 B CN105474070 B CN 105474070B
Authority
CN
China
Prior art keywords
image
information
target image
equipment
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201380079103.5A
Other languages
English (en)
Other versions
CN105474070A (zh
Inventor
朴孝琳
李度泳
金容信
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Electronics Inc
Original Assignee
LG Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Electronics Inc filed Critical LG Electronics Inc
Publication of CN105474070A publication Critical patent/CN105474070A/zh
Application granted granted Critical
Publication of CN105474070B publication Critical patent/CN105474070B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/02Viewing or reading apparatus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8126Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts
    • H04N21/8133Monomedia components thereof involving additional data, e.g. news, sports, stocks, weather forecasts specifically related to the content, e.g. biography of the actors in a movie, detailed information about an article seen in a video program
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Optics & Photonics (AREA)
  • Development Economics (AREA)
  • Accounting & Taxation (AREA)
  • Economics (AREA)
  • Finance (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

一种根据一个实施例的头戴式显示(HMD)设备包括:被配置为发送和接收数据的通信单元;被配置为显示视觉信息的显示单元;被配置为捕获图像的相机单元;以及被配置为控制通信单元、显示单元和相机单元的处理器,其中处理器被进一步配置为:从包括目标图像的第一图像来检测目标图像,第一图像被显示在位于相机单元的可视区域的角度中的外部设备中;显示与目标图像有关的信息;以及当检测到第一图像被切换至不包括目标图像的第二图像时,除了该信息之外还显示第一图像。

Description

头戴式显示设备及其控制方法
技术领域
本说明书涉及头戴式显示设备,并且更具体地,涉及头戴式显示设备及其控制方法,其中,当关于第一图像的信息正被显示在外部设备中时,如果第一图像被改变到第二图像,则显示第一图像和关于第一图像的信息。
背景技术
头戴式显示(以下,被称为HMD)设备允许用户将其像眼镜一样穿戴在他的/她的头上。可以向用户提供显示在HMD设备中的信息。具体地,HMD设备可以检测在前方的目标图像,并且向用户提供关于检测到的目标图像的信息。
但是,根据现有技术的HMD设备可能不提供关于位于可视区域的角度中的目标图像的信息,或者如果当HMD设备正显示关于该目标图像的信息时如果没有检测到目标图像,则可能维持该信息的显示。
如果HMD设备不显示关于目标图像的信息,则提供信息的连续性得不到确保,由此发生可能导致用户混淆的问题。另一方面,如果即使没有检测到目标图像,HMD设备仍维持信息的显示,则发生用户将相应的信息误解为关于其他目标图像的信息的问题。
发明内容
技术问题
因此,本说明书针对HMD设备及其控制方法,其大体上避免由于现有技术的限制和缺陷导致的一个或多个问题。
本发明的目的是提供HMD设备及其控制方法,其中,当关于目标图像的信息正被显示在外部设备中时,如果没有检测到目标图像,则显示包括相应的目标图像的内容图像和关于目标图像的信息。
本说明书的另一目的是提供HMD设备及其控制方法,其中,如果显示关于目标图像的信息,则显示相应的信息以对应于目标图像。
本说明书的另一目的是提供HMD设备及其控制方法,其中,显示包括目标图像的内容图像和关于相应的图像的信息,以便与不包括目标图像的内容图像不重叠。在这种情况下,不包括目标图像的内容图像可以代表正在外部设备中被显示的内容图像。
本说明书的附加优势、目标和特征将会在以下的描述中被阐述,并且在研究下面的描述时,对于本领域的技术人员来说,本说明书的附加优势、目标和特征将部分地变得显而易见,或者从本说明书的实践中,可以获知本说明书的附加优势、目标和特征。通过在撰写的描述和权利要求以及附图中被具体指出的结构,可以实现和取得本说明书的目标和其他优势。
技术方案
为了实现依照本说明书的目的的这些目标和其他优势,如本文所体现和广泛描述的,根据一个实施例的头戴式显示(HMD)设备包括:被配置为发送和接收数据的通信单元;被配置为显示视觉信息的显示单元;被配置为捕获图像的相机单元;以及被配置为控制通信单元、显示单元和相机单元的处理器,其中该处理器被进一步配置为:从包括目标图像的第一图像来检测目标图像,第一图像正在位于相机单元的可视区域的角度中的外部设备中被显示;显示与目标图像相关的信息;以及当检测到第一图像被切换至不包括目标图像的第二图像时,除了该信息之外还显示第一图像。
有益效果
根据一个实施例,当没有检测到目标图像时,设备可以分开地显示包括目标图像的内容图像、以及关于目标图像的信息,由此向用户提供信息的连续性可以得到确保。
此外,根据另一实施例,由于设备显示信息以对应于目标图像,用户可以直观地了解相应的信息所属的目标。
此外,根据另一实施例,设备可以显示包括目标图像的内容图像以及关于相应的图像的信息,以便与正在外部设备中被显示的内容图像不重叠,由此可以获得用户的视觉。
在下文中将更详细地描述本说明书的更详细的优点。
应该理解的是,本说明书的前面的总体描述和下面的详细描述是示例性和解释性的,并且旨在提供所要求保护的本说明书的进一步解释。
附图说明
被包括以提供对本发明的进一步理解并且被并入到本申请中且构成本申请的一部分的附图图示出本发明的实施例,并且与描述一起用于解释本说明书的原理。在图中:
图1是图示了根据一个实施例的设备的框图
图2是图示了依照一个实施例的显示关于正在外部设备中显示的图像的信息的设备的图。
图3是图示了依照一个实施例的如果当内容图像被切换时没有检测到目标图像,则分开地显示包括目标图像的内容图像和关于该目标图像的信息的设备的图。
图4是图示了依照一个实施例的显示第一图像和关于目标图像的信息以便与第二图像不重叠的设备的图。
图5是图示了依照一个实施例的如果在预定时间内第二图像被切换至第三图像则不显示第一图像的设备的图。
图6是图示了依照一个实施例的基于阈值时间来控制第一图像和/或目标图像的显示的设备的图。
图7是图示了根据实施例的用于控制设备的方法的流程图。
具体实施方式
现在将对在附图中示出其示例的本说明书的优选实施例进行详细参考。尽可能地,贯穿附图将使用相同的参考标号表示相同或者相似的部分。
考虑到本说明书中的功能,虽然用于本说明书的术语选自被广泛了解和使用的术语,但是,根据本技术领域的技术人员的意图、实践、或者新技术的出现,这些术语可以被修改。此外,在特殊情况下,申请人基于他或她的自行决定,可以选择本说明书的描述中所提及的术语,其详细含义被描述在本文的描述的相关部分中。因此,不应简单地通过现行使用的术语理解本文所使用的术语,而应通过内部含义以及本文所公开的描述来理解。
而且,虽然将通过参考附图和通过附图所描述的公开详细地描述实施例,但是应理解本说明书不限于这些实施例。以下,为了描述方便,HMD设备可以被称为“设备”。
图1是图示了根据一个实施例的设备的框图。在本明书中,该设备可以包括相机单元1010、通信单元1020、显示单元1030和处理器1040。
相机单元1010可以在设备的向前方向捕获图像。更详细地,相机单元1010可以通过使用设置在设备中的至少一个相机传感器在设备的向前方向捕获图像。相机单元1010可以在可视区域的角度内捕获图像,并且向处理器1040传送捕获的结果。具体地,在本说明书中,相机单元1010可以捕获正在位于可视区域的角度内的外部设备中显示的内容图像,并且向处理器1040传送捕获的结果。此时,相机单元1010可以在设备的向前方向中的图像间部分地捕获正由外部设备显示的内容图像区域。将参考图3更详细地对此进行描述。
通信单元1020可以通过使用各种协议执行通信,向外部设备和/或网站服务器发送数据,和/或从外部设备和/或网站服务器接收数据。更详细地,通信单元1020可以通过经由有线或无线访问网络,发送和/或接收诸如增强现实数据和虚拟图像数据的各种数字化数据。在这种情况下,外部设备可以代表至少一个与设备配对的,或者位于相机单元的可视区域的角度的数字化设备。
在本说明书中,依照实施例,通信单元1020可以发送和/或接收包括关于目标图像的信息的数字化数据。可替选地,依照实施例,通信单元1020可以发送和/或接收包括关于外部设备的位置的信息的数字化数据。
显示单元1030可以显示视觉信息。具体地,显示单元1030可以显示视觉图像。在这种情况下,视觉图像可以代表通过显示单元1030向用户提供的图形用户界面。同时,显示单元1030可以包括光学透视型显示面板。此时,显示单元1030可以通过显示基于现实世界的虚拟图像向用户提供增强现实。在本说明书中,显示单元1030可以通过显示作为虚拟图像的关于目标图像的信息,向用户提供增强现实。
处理器1040可以通过处理设备内部的数据执行各种应用。此外,处理器1040可以基于输入控制由设备执行的内容。在这种情况下,内容代表各种产品,诸如其为产品、信息、或者由数字化模式制造的内容的TV、电影、戏剧、艺术、照片和游戏。
此外,处理器1040控制前面提到的设备的单元中的每一个,并且可以控制在单元之间的数据传输和/或接收。
具体地,在本说明书中,处理器1040可以通过相机单元1010检测正在外部设备中显示的内容图像。在这种情况下,内容图像可以意味着正在外部设备中显示的内容的静止的图像、移动的画面和部分图像,或者其他各种可以被视觉地表达的图像。具体地,本说明书的内容图像可以被分为包括目标图像的第一图像和不包括目标图像的第二图像。将参考图3更详细地对此进行描述。
而且,处理器1040可以检测包括在正在外部设备中显示的内容图像中的目标图像。如果处理器1040检测到目标图像,则处理器1040可以显示关于依照预定的用户输入检测到的目标图像的信息。在这种情况下,目标图像代表了作为信息搜索的对象的图像。此外,关于目标图像的信息可以包括与相应的图像相关的各种类型的信息,诸如通过互联网的搜索信息、特征信息、商标信息、产品信息、购买地信息和购买地的位置信息。
处理器1040可以通过通信单元1020获得关于目标图像的信息。更详细地,如果接收到对于目标图像的搜索命令,则处理器1040可以通过通信单元1020接收关于目标图像的数据。此时,处理器1040可以从网站服务器和/或外部设备接收关于目标图像的数据。可替选地,处理器1040可以获得存储在存储单元中的关于目标图像的数据。处理器1040可以从所获得的数据中获得关于目标图像的信息,并且在显示单元1030上显示获得的信息。将参考图2更详细地对此进行描述。
同时,处理器1040可以显示与目标图像对应的信息。例如,处理器1040可以将相应的信息显示在目标图像附近。可替选地,处理器1040可以将相应的信息显示成与目标图像相重叠。将参考图2更详细地对此进行描述。
此外,当由外部设备显示的内容图像被切换至另一内容图像时,如果没有再检测到该内容图像,则除了关于目标图像的信息之外,处理器1040还可以分开地显示包括目标图像的内容图像。这是为了对用户确保信息和目标图像之间的相关性,以及提供信息的连续性。将参考图3更详细地对此进行描述。
此外,虽然未在图1中示出,设备可以附加地包括存储单元、音频输入和输出单元、和/或电源单元。
存储单元(未示出)可以存储诸如音频、照片、移动画面、应用和虚拟图像的各种数字化数据。存储单元可以意味着诸如闪存、随机访问存储器(RAM)和固态设备(SSD)的各种数字化数据存储空间。
此外,存储单元可以存储关于目标图像的数据。此外,存储单元可以临时存储通过通信单元1020从外部设备接收的数据。此时,存储单元可以被用于为输出从外部设备接收的数据进行缓存。同时,可以将存储单元选择性地设置在设备中。
音频输出单元(未示出)包括诸如扬声器和耳机的音频输出装置。此外,音频输出单元可以基于在处理器1040中执行的内容或者处理器1040的控制命令来输出声音。此时,可以将音频输出单元选择性地设置在设备上。
电源单元(未示出)是与设备内部的电池或者外部电源相连接的电力源,并且可以向设备提供电力。
以下,如果通过用户输入启动或者执行由设备执行的每一步骤或者操作,则应理解依照用户输入而产生和接收信号的过程包括前面提到的过程,即使这些前面提到的过程不被重复描述。此外,处理器1040可以依照用户输入控制设备或者包括在设备中的至少一个单元,并且可以被描述以指代设备。
同时,设备作为根据一个实施例的框图在图1中被示出。在图1中,示出相应的块,以逻辑地认出设备的元件。因此,前面提到的设备的元件可以依照设备的设计被设置作为一个芯片或者多个芯片。
图2是图示了依照一个实施例的显示了关于正在外部设备中显示的图像的信息的设备的图。
设备2010可以显示关于正在外部设备2060中显示的目标图像的信息2030。更详细地,设备2010可以显示关于包括在正在外部设备2060中显示的内容图像2050中的目标图像2040的信息2030。
例如,在用户穿戴设备2010的状态下,当用户正观看正在外部设备2060中显示的电影时,如果用户输入针对电影的主演所穿戴的衣物2040的搜索命令,则设备2010可以接收关于相应的衣物2040的数据。换句话说,如果设备2010接收针对正在位于相机单元2020的可视区域的角度内的外部设备2060中显示的目标图像2040的搜索命令,则设备2010可以接收关于目标图像2040的数据。
此时,设备2010可以通过使用通信单元接收关于目标图像2040的数据。更详细地,如参考图1所述,设备2010可以通过使用通信单元从网站服务器、外部设备2060和/或存储单元获得关于目标图像2040的数据。在这种情况下,关于目标图像的数据可以是之前存储的与正在外部设备2060中显示的内容、内容图像2050或者目标图像2040相关联的数字化数据。可替选地,关于目标图像2040的数据可以是通过依照用户的搜索命令输入经由网络执行实时搜索所获得的数字化数据。
如果获得关于目标图像2040的信息2030,则设备2010可以在显示单元上显示相应的信息2030。例如,设备2010可以显示关于电影的主演所穿戴的衣物2040的产品信息、商标信息、价格信息、购物地信息和上市日期信息,以及与其他衣物有关的各种类型的信息。
此时,设备2010可以显示关于目标图像2040的信息2030以对应于目标图像2040。这是为了强化目标图像2040和关于目标图像2040的信息2030之间的相关性。因此,设备2010可以在目标图像2040的附近显示关于目标图像2040的信息2030,以与目标图像2040相重叠的方式显示关于目标图像2040的信息2030,或者与指示目标图像2040的方向性图像一起显示关于目标图像2040的信息2030。
图3是图示了依照一个实施例的如果当内容图像被切换时没有检测到目标图像,则分开地显示包括目标图像的内容图像和关于该目标图像的信息的设备的图。
如果正由外部设备3020显示的内容是移动画面的内容,则内容图像3030-1可以被切换至另一内容图像3050。具体地,内容图像可以被分成包括目标图像的第一图像3030-1和不包括目标图像的第二图像3050。当播放移动画面的内容时,第一图像3030-1可以被切换至第二图像3050。而且,当播放移动画面的内容时,第二图像3050可以被再次切换至第一图像3030-1。
如果当设备3010正在显示关于第一图像3030-1的目标图像的信息3040时,设备3010检测到第一图像3030-1被切换至第二图像3050,则除了作为虚拟图像的关于目标图像的信息3040之外,设备3010还可以显示第一图像3030-1。例如,如果当设备3010正显示关于衣物的信息3040时,由于电影场景的切换而导致设备3010不能检测到由电影的主演所穿戴的衣物,则设备3010可以分开地显示包括相应的衣物的内容图像3030-2和关于相应的衣物的信息3040,以将它们提供给用户。
这是因为如果即使在内容图像被连续地切换后依然显示相应的信息3040,则用户可能将相应的信息3040误解为关于切换的内容图像3050的信息。可替选地,这是因为如果当由于内容图像的切换而导致没有检测到目标图像时不显示相应的信息3040,则无法向用户充分地传送相应的信息3040。具体地,如果相应的信息的显示时间不充分,可能无法向用户充分地传送相应的信息3040。
因此,如果由于内容图像的切换而导致没有检测到目标图像,则除了关于目标图像的信息3040之外,设备3010还可以分开地显示包括目标图像的第一图像3030-2。因此,设备3010可以以充分的时间向用户提供与目标图像相关联的相应的信息。
设备3010可以通过经由相机单元检测目标图像来检测从第一图像3030-1至第二图像3050的切换。此外,设备3010可以通过经由通信单元获得关于显示目标图像的时间的数据来检测从第一图像3030-1至第二图像3050的切换。此外,设备3010可以在第一图像3030-1被切换至第二图像3050时通过经由通信单元接收特别的信号来检测从第一图像3030-1至第二图像3050的切换。此外,设备3010可以通过上面提到的方法的结合来检测内容图像的切换。此外,设备3010可以通过不限于上面提到的方法的各种方法来检测从第一图像3030-1至第二图像3050的切换。
然而,当维持第一图像3030-1的显示时,如果关于目标图像的信息3040的显示已经被维持了之前设置的时间,则即使第一图像被切换,设备3010也可以不显示第一图像3030-2和关于目标图像的信息3040。更详细地,如果关于目标图像的信息3040已经被显示了之前设置的时间,则即使第一图像3030-1被切换至第二图像3050,设备3010也可以不显示第一图像3030-2和关于目标图像的信息3040。这是因为,如果关于目标图像的信息3040已经被显示了之前设置的时间,则可以认为用户充分地辨认了所显示的信息3040。将参考图6更详细地对此进行描述。
同时,设备3010可以通过以各种方法获得第一图像3030-2来显示第一图像3030-2和关于目标图像的信息3040。
作为一个实施例,设备3010可以从外部设备3020中获得第一图像3030-2。更详细地,设备3010可以通过使用通信单元执行与外部设备3020的通信,获得第一图像3030-2。例如,外部设备3020可以在用户的搜索命令被输入时捕获第一图像3030-2,并且向设备3010发送关于捕获的第一图像3030-2的数据。可替选地,外部设备3020可以向设备3010发送关于包括目标图像的第一图像3030-2的数据。如果设备3010从外部设备3020获得与目标图像有关的信息3040,则外部设备3020可以将关于相应的信息3040的数据和关于第一图像3030-2的数据一起发送。设备3010可以通过使用从外部设备3020接收到的关于第一图像3030-2的数据来获得并且显示第一图像3030-2。
作为另一实施例,设备3010可以通过相机单元获得第一图像3030-2。更详细地,设备3010可以通过在用户的搜索命令被输入时经由相机单元捕获第一图像3030-2来获得第一图像3030-2。此时,设备3010可以仅通过检测位于相机单元的可视区域的角度内的第一图像3030-2以部分地捕获第一图像3030-2。此时,设备3010可以执行与外部设备3020的通信以精确地捕获第一图像3030-2。更详细地,设备3010可以通过获得外部设备3020的位置来部分地捕获正在外部设备3020中显示的第一图像3030-2。此时,设备3010可以通过使用诸如GPS、蓝牙和NFC的各种协议获得外部设备3020的绝对位置和/或相对位置来捕获第一图像3030-2。
图4是图示了依照一个实施例的显示了第一图像和关于目标图像的信息以便与第二图像不重叠的设备的图。具体地,图4示出了在用户穿戴设备4010的状态下用户通过显示单元观看外部设备4050的视图。
作为一个实施例,光学透视型显示面板可以被用作显示单元。在这种情况下,用户可以通过显示单元观看外部设备4050。此时,设备4010可以显示第一图像4020和关于目标图像的信息4030,以便与外部设备4050不重叠,由此用户可以通过显示单元不受任何阻扰地观看外部设备4050。具体地,设备4010可以显示第一图像4020和关于目标图像的信息4030,以便与正在外部设备4050中显示的第二图像4040不重叠。
设备4010可以通过控制其尺寸、透明度和/或位置来显示第一图像4020和信息4030,以便与第二图像4040不重叠。例如,如图4中所示,设备4010可以在显示单元上通过控制其位置来显示第一图像4020和关于目标图像的信息4030,以便与第二图像4040不重叠。更详细地,如果第二图像4040位于右边的镜片,则设备4010可以在左边的镜片上显示第一图像4020和关于目标的信息4030。
此时,设备4010可以通过使用相机单元检测可视区域的角度内的第二图像4040的位置。而且,如参考图3所述,设备4010可以通过使用通信单元执行与外部设备4050的通信,以精确地检测第二图像的位置。此外,设备4010可以以不限于上面提到的实施例的各种方式检测第二图像4040或者外部设备4050的位置。
图5是图示了依照一个实施例的如果在预定时间内第二图像不被切换至第三图像则不显示第一图像的设备的图。
如果设备5010检测到从第一图像至第二图像的切换,则除了关于目标图像5020-1的信息5030之外,设备5010还可以显示第一图像。这是为了维持目标图像5020-1和信息5030之间的相关性,以便避免用户的困惑。
然而,如果在被切换至第二图像之后在预定时间Tr内第二图像被切换至包括目标图像5020-2的第三图像,则设备5010不显示第一图像。可替选地,如果设备5010在切换至第二图像之后在预定时间Tr内检测到从第二图像至第三图像的切换,则设备5010可以仅显示关于目标图像的信息5030。
第一图像与信息5030的一起显示是为了维持信息5030和目标图像5020-1之间的相关性。在切换至包括目标图像5020-2的第三图像的情况下,即使仅显示关于目标图像5020-2的信息5030,也可以维持信息5030和目标图像5020-2之间的相关性。这是因为虽然第三图像不同于第一图像,但是第三图像是包括目标图像5020-2的内容图像。因此,在这种情况下,如果设备5010检测到切换至第三图像,则设备5010可以仅显示关于目标图像5020-2的信息5030,而不显示第一图像。在此背景下,即使在预定的时间Tr内第二图像再次被切换至第一图像,设备5010也可以仅显示关于目标图像5020-2的信息5030。
设备5010可以检测包括在第三图像中的目标图像5020-2,并且显示关于相应的目标图像5020-2的信息5030。此时,设备5010可以显示与包括在第三图像中的目标图像5020-2对应的信息5030。
设备5010可以以与检测切换至第二图像的方式的相同方式检测切换至第三图像。因此,设备可以通过使用如参考图3所述的相机单元和/或通信单元来检测从第二图像至第三图像的切换。
图6是图示了依照一个实施例的基于阈值时间来控制第一图像和/或目标图像的显示的设备的图。
作为一个实施例,如果设备6010显示关于目标图像的信息6030,则设备6010可以显示相应的信息6030持续第一阈值时间T1。如果信息6030的显示被维持持续特定时间,则用户很可能充分地辨认了所显示的信息6030,并且继续显示可能干扰用户的视觉。因此,设备6010可以指定允许用户辨认信息6030的充分的时间为第一阈值时间T1,并且显示相应的信息6030持续第一阈值时间T1。
此时,设备6010可以附加地指定第二阈值时间T2,并且控制第一图像6020和关于目标图像的信息6030的显示。更详细地,设备6010可以显示关于目标图像的信息6030持续如上所述的第一阈值时间T1。用这种方法,如果当显示关于目标图像的信息6030时,设备6010检测到从第一图像6020至第二图像6040的切换,则设备6010可以基于小于第一阈值时间T1的第二阈值时间T2来确定是否显示第一图像6020和关于目标图像的信息6030。
例如,如果设备6010在关于目标图像的信息6030被显示之后,在第二阈值时间T2内,检测到从第一图像6020至第二图像6040的切换,则除了相应的信息6030之外,设备6010还可以显示第一图像6020。然而,如果设备6010在关于目标图像的信息6030被显示之后,在第一阈值时间T1内,检测到从第一图像6020至第二图像6040的切换,则设备6010可以不显示第一图像6020和相应的信息6030。换句话说,为了显示第一图像6020和信息6030,基于屏幕切换用于显示关于目标图像的信息6030的第一阈值时间T1可以与第二阈值时间T2分开地存在。此外,第二阈值时间T2可以小于第一阈值时间T1
如果第一图像6020和信息6030已经被显示持续第二阈值时间T2,则用户可能充分地辨认了第一图像6020和信息6030。出于这个原因,指定第二阈值时间T2。此外,如果无论何时屏幕被切换时均显示分开的屏幕,则可能干扰用户的观看。
可以以不限于上面提到的实施例的,依照设备6010的使用、将被执行的应用的类型、将被执行的模式、设计、实施例和用户的设置的各种方式指定第一阈值时间T1和第二阈值时间T2。
图7是图示了根据实施例的用于控制设备的方法的流程图。与参考图1至图6所述的描述相似或者重复的部分的详细描述将被省略。
首先,设备可以从第一图像中检测目标图像,并且在显示单元上显示与目标图像相关的信息(S7010)。在这种情况下,第一图像可以代表包括目标图像的内容图像。此外,第一图像可以是正在位于相机单元的可视区域的角度内的外部设备中显示的内容图像。设备可以通过如参考图1至图3所详细描述的通信单元获得第一图像和关于包括在第一图像中的目标图像的信息。如果设备显示关于目标图像的信息,则设备可以将关于目标图像的信息显示成与如参考图2所述的目标图像对应。
接下来,设备可以确定第一图像是否被切换至第二图像(S7020)。在这种情况下,第二图像可以代表不包括目标图像的内容图像。此外,第二图像可以是正在位于相机单元的可视区域的角度内的外部设备中显示的内容图像。设备可以如参考图3所述,通过相机单元和/或通信单元,确定第一图像是否被切换至第二图像。
如果设备检测到从第一图像切换至第二图像,则除了关于目标图像的信息之外,设备还可以在显示单元上显示第一图像(S7030)。此时,设备可以显示第一图像和相应的信息,以便与第二图像不重叠。如参考图4所述,这是为了不干扰用户对于第二图像的视觉。
在另一方面,如果当第一图像不被切换时维持其显示,则设备可以以其本来的显示维持关于目标图像的信息的显示(S7010)。换句话说,只要第一图像不被切换至第二图像,则设备可以维持关于目标图像的信息的显示。
而且,虽然未在流程图中示出,但是如果设备在切换至第二图像之后在预定时间内检测到切换至第三图像,则设备可以仅显示关于目标图像的信息。换句话说,如果设备在显示第一图像和关于目标图像的信息之后在预定时间内检测到切换至第三图像,则设备可以不显示第一图像。在这种情况下,第三图像可以代表包括目标图像的图像,并且不是第一图像。切换至第三图像已经被参考图5详细地描述。
此外,虽然未在流程图中示出,但是设备可以通过指定如参考图6所述的阈值时间来控制第一图像和/或关于目标图像的信息的显示。
虽然出于描述方便,可以对每个附图进行描述,但是可以合并相应的附图的实施例,以获得新的实施例。此外,可以在本说明书的范围内依照本技术领域技术人员的需要,设计记录用于执行实施例的程序的计算机可读记录介质。
此外,设备及其控制方法不限于前面提到的实施例,并且前面提到的实施例的全部或者某些可以以组合方式被选择性地配置,以使得可以在前面提到的实施例中进行各种修改。
对本领域的技术人员显而易见的是,在不背离本说明书的精神和本质特征的情况下,能够以其他特别形式体现本说明书。因此,将以上实施例在所有的方面当成是解释性的和非限制性的。应该通过附加的权利要求的合理的理解确定本说明书的范围,并且落入本说明书的同等范围内的所有改变被包括在本说明书的范围内。
此外,可以在作为能够由处理器读取的代码的、能够由设置在网络设备中的处理器读取的记录介质中执行本说明书的设备及其控制方法。能够由处理器读取的记录介质包括所有种类的在其中存储能够由处理器读取的数据的记录介质。记录介质的示例包括ROM、RAM、CD-ROM、磁带、软盘和光学数据存储器。此外,可以以诸如通过互联网传输的载波的类型执行记录介质的另一示例。此外,能够由处理器读取的记录介质可以被分布在通过网络连接到其上的计算机系统中,由此可以以分布式存储和执行能够由处理器读取的代码。
此外,在本说明书中,应理解时间意味着精确值并且包括特定范围的实质时间。换句话说,本说明书中的时间可以代表实质时间,并且时间中可以存在特定范围的误差。
此外,在本说明书中,已经描述了产品发明和方法发明这二者,并且视需要可以对这两个发明的描述进行补充。
针对本发明的模式
在具体实施方式中已经描述了各种实施例。
对本技术领域的技术人员显而易见的是,在不背离本发明的精神和范围的情况下,可以对本发明作出各种修改和变型。因此,本发明意在覆盖本发明的修改和变型,只要它们落入所附权利要求及其等同形式的范围内。
工业实用性
如上所述,本发明整体或部分地适用于电子设备。

Claims (15)

1.一种头戴式显示(HMD)设备,包括:
通信单元,所述通信单元被配置为发送和接收数据;
显示单元,所述显示单元被配置为显示视觉信息;
相机单元,所述相机单元被配置为捕获图像;以及
处理器,所述处理器被配置为控制所述通信单元、所述显示单元和所述相机单元,
其中,所述处理器被进一步配置为:
从包括目标图像的第一图像来检测所述目标图像,所述第一图像被显示在位于所述相机单元的可视区域的角度中的外部设备中,
显示与所述目标图像相关的信息,
当检测到所述第一图像被切换至不包括所述目标图像的第二图像时,除了所述信息之外还显示所述第一图像,
显示与所述目标图像相关的信息持续第一阈值时间,
当在第二阈值时间内检测到所述第一图像被切换至所述第二图像时,除了所述信息之外还显示所述第一图像;以及
当检测到所述第一图像被切换至所述第二图像持续超过所述第二阈值时间并且在所述第一阈值时间内时,不显示所述第一图像和所述信息。
2.根据权利要求1所述的头戴式显示设备,其中,所述外部设备与所述头戴式显示设备配对。
3.根据权利要求1所述的头戴式显示设备,其中,所述处理器被进一步配置为:
从所述外部设备接收与所述第一图像相关的第一图像数据,
从所接收的第一图像数据获得所述第一图像,以及
当检测到所述第一图像被切换至所述第二图像时,除了所述信息之外还显示所获得的第一图像。
4.根据权利要求1所述的头戴式显示设备,其中,当与所述目标图像相关的信息正被显示时,所述处理器进一步被配置为:
当检测到所述目标图像时,捕获所述第一图像,以及
当检测到所述第一图像被切换至所述第二图像时,除了所述信息之外还显示所捕获的第一图像。
5.根据权利要求1所述的头戴式显示设备,其中,所述处理器被进一步配置为除了所述信息之外还显示所述第一图像,以便与所述第二图像不重叠。
6.根据权利要求1所述的头戴式显示设备,其中,所述处理器被进一步配置为:当所述第一图像被切换至所述第二图像之后,在第三阈值时间内,检测到所述第二图像被切换至包括所述目标图像的第三图像时,不显示所述第一图像。
7.根据权利要求1所述的头戴式显示设备,其中,所述显示单元包括光学透视型显示面板。
8.根据权利要求1所述的头戴式显示设备,其中,所述处理器进一步被配置为:显示与所述目标图像相关的信息以对应于所述目标图像。
9.一种用于控制头戴式显示(HMD)设备的方法,所述方法包括以下步骤:
从包括目标图像的第一图像来检测所述目标图像,所述第一图像被显示在位于相机单元的可视区域的角度中的外部设备中;
显示与所述目标图像相关的信息;
检测所述第一图像被切换至不包括所述目标图像的第二图像;
除了所述信息之外还显示所述第一图像,
显示与所述目标图像相关的信息持续第一阈值时间,
当在第二阈值时间内检测到所述第一图像被切换至所述第二图像时,除了所述信息之外还显示所述第一图像;以及
当检测到所述第一图像被切换至所述第二图像持续超过所述第二阈值时间并且在所述第一阈值时间内时,不显示所述第一图像和所述信息。
10.根据权利要求9所述的方法,其中,所述外部设备与所述头戴式显示设备配对。
11.根据权利要求9所述的方法,其中,除了所述信息之外还显示所述第一图像的步骤包括:
从所述外部设备接收与所述第一图像相关的第一图像数据,
从所接收的第一图像数据获得所述第一图像,以及
除了所述信息之外还显示所获得的第一图像。
12.根据权利要求9所述的方法,进一步包括以下步骤:
当与所述目标图像相关的信息正被显示时,当检测到所述目标图像时捕获所述第一图像;以及
当检测到所述第一图像被切换至所述第二图像时,除了所述信息之外还显示所捕获的第一图像。
13.根据权利要求9所述的方法,进一步包括以下步骤:
除了所述信息之外还显示所述第一图像,以便与所述第二图像不重叠。
14.根据权利要求9所述的方法,进一步包括以下步骤:
当在所述第一图像被切换至所述第二图像之后,在第三阈值时间内,检测到所述第二图像被切换至包括所述目标图像的第三图像时,不显示所述第一图像。
15.根据权利要求9所述的方法,进一步包括以下步骤:
显示与所述目标图像相关的信息以对应于所述目标图像。
CN201380079103.5A 2013-08-28 2013-11-26 头戴式显示设备及其控制方法 Expired - Fee Related CN105474070B (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
KR1020130102343A KR102081934B1 (ko) 2013-08-28 2013-08-28 헤드 마운트 디스플레이 디바이스 및 그 제어 방법
KR10-2013-0102343 2013-08-28
US14/080,346 US9535250B2 (en) 2013-08-28 2013-11-14 Head mounted display device and method for controlling the same
US14/080,346 2013-11-14
PCT/KR2013/010789 WO2015030307A1 (en) 2013-08-28 2013-11-26 Head mounted display device and method for controlling the same

Publications (2)

Publication Number Publication Date
CN105474070A CN105474070A (zh) 2016-04-06
CN105474070B true CN105474070B (zh) 2018-05-29

Family

ID=52582466

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201380079103.5A Expired - Fee Related CN105474070B (zh) 2013-08-28 2013-11-26 头戴式显示设备及其控制方法

Country Status (5)

Country Link
US (1) US9535250B2 (zh)
EP (1) EP3039476B1 (zh)
KR (1) KR102081934B1 (zh)
CN (1) CN105474070B (zh)
WO (1) WO2015030307A1 (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102262086B1 (ko) * 2014-05-28 2021-06-09 삼성전자 주식회사 이미지 처리 방법 및 장치
CN105005145B (zh) * 2015-08-03 2018-02-09 众景视界(北京)科技有限公司 智能眼镜及智能眼镜的外接设备
US10691201B2 (en) 2016-12-19 2020-06-23 Intel Corporation Image stream switcher
US10803832B2 (en) 2017-08-01 2020-10-13 Samsung Electronics Co., Ltd. Synchronizing holographic displays and 3D objects with physical video panels
KR20200098034A (ko) * 2019-02-11 2020-08-20 삼성전자주식회사 가상 현실 유저 인터페이스를 제공하기 위한 전자 장치 및 그의 동작 방법
CN111913562B (zh) * 2019-05-07 2024-07-02 广东虚拟现实科技有限公司 虚拟内容的显示方法、装置、终端设备及存储介质
KR101998695B1 (ko) * 2019-05-16 2019-07-11 주식회사 다윈에어로테크 군수송기 비행조종 결함수분석법을 위한 3d 시험장비 시스템 및 그 방법
CN114527864B (zh) * 2020-11-19 2024-03-15 京东方科技集团股份有限公司 增强现实文字显示系统、方法、设备及介质
CN112543340B (zh) * 2020-12-30 2023-01-13 超幻人像科技(杭州)有限公司 一种基于增强现实的戏剧观看方法和装置
US20230177136A1 (en) * 2021-12-08 2023-06-08 Qualcomm Incorporated Auto-pairing rotation vector

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102540464A (zh) * 2010-11-18 2012-07-04 微软公司 提供环绕视频的头戴式显示设备
US8427396B1 (en) * 2012-07-16 2013-04-23 Lg Electronics Inc. Head mounted display and method of outputting a content using the same in which the same identical content is displayed

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8205223B2 (en) 2000-04-12 2012-06-19 Lg Electronics Inc. Method and video device for accessing information
JP2006267887A (ja) * 2005-03-25 2006-10-05 Konica Minolta Photo Imaging Inc 映像認識手段を備えたヘッドマウントディスプレイ
JP5228307B2 (ja) * 2006-10-16 2013-07-03 ソニー株式会社 表示装置、表示方法
KR20100125698A (ko) 2009-05-21 2010-12-01 (주)코리아센터닷컴 동영상 콘텐츠를 이용한 전자상거래를 제공하는 쇼핑몰 호스트 서버 및 그 방법
US20120050140A1 (en) 2010-08-25 2012-03-01 Border John N Head-mounted display control
US9269219B2 (en) * 2010-11-15 2016-02-23 Bally Gaming, Inc. System and method for augmented reality with complex augmented reality video image tags
KR101338818B1 (ko) 2010-11-29 2013-12-06 주식회사 팬택 이동 단말기 및 이를 이용한 정보 표시 방법
JP5391224B2 (ja) 2011-03-28 2014-01-15 日本電信電話株式会社 映像付加情報表示制御装置およびその動作方法
KR101315303B1 (ko) * 2011-07-11 2013-10-14 한국과학기술연구원 착용형 디스플레이 장치 및 컨텐츠 디스플레이 방법
JP5821526B2 (ja) * 2011-10-27 2015-11-24 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
KR20130049673A (ko) 2011-11-04 2013-05-14 주식회사 코리아퍼스텍 동영상 스팟 이미지에 기초한 객체정보 제공방법 및 시스템
US20140035877A1 (en) * 2012-08-01 2014-02-06 Hon Hai Precision Industry Co., Ltd. Using a display device with a transparent display to capture information concerning objectives in a screen of another display device
US9576397B2 (en) * 2012-09-10 2017-02-21 Blackberry Limited Reducing latency in an augmented-reality display
US20140282220A1 (en) * 2013-03-14 2014-09-18 Tim Wantland Presenting object models in augmented reality images

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102540464A (zh) * 2010-11-18 2012-07-04 微软公司 提供环绕视频的头戴式显示设备
US8427396B1 (en) * 2012-07-16 2013-04-23 Lg Electronics Inc. Head mounted display and method of outputting a content using the same in which the same identical content is displayed

Also Published As

Publication number Publication date
EP3039476A4 (en) 2017-03-22
US20150061973A1 (en) 2015-03-05
EP3039476A1 (en) 2016-07-06
EP3039476B1 (en) 2020-11-18
CN105474070A (zh) 2016-04-06
US9535250B2 (en) 2017-01-03
WO2015030307A1 (en) 2015-03-05
KR102081934B1 (ko) 2020-02-26
KR20150025122A (ko) 2015-03-10

Similar Documents

Publication Publication Date Title
CN105474070B (zh) 头戴式显示设备及其控制方法
US20210405761A1 (en) Augmented reality experiences with object manipulation
EP3628121B1 (en) Electronic device for storing depth information in connection with image depending on properties of depth information obtained using image and control method thereof
US11257233B2 (en) Volumetric depth video recording and playback
CN108604175B (zh) 装置和关联方法
US11854147B2 (en) Augmented reality guidance that generates guidance markers
CN109997098B (zh) 装置、相关联的方法和相关联的计算机可读介质
US20140240225A1 (en) Method for touchless control of a device
CN104321730B (zh) 3d图形用户接口
US20130135295A1 (en) Method and system for a augmented reality
CN106716302A (zh) 用于显示图像的方法、设备和计算机程序
US9392165B2 (en) Array camera, mobile terminal, and methods for operating the same
CN110546601B (zh) 信息处理装置、信息处理方法和程序
US11582409B2 (en) Visual-inertial tracking using rolling shutter cameras
US20150199848A1 (en) Portable device for tracking user gaze to provide augmented reality display
US20230343046A1 (en) Augmented reality environment enhancement
CN107765842A (zh) 一种增强现实方法及系统
KR101647969B1 (ko) 사용자 시선을 검출하기 위한 사용자 시선 검출 장치 및 그 방법과, 그 방법을 실행하기 위한 컴퓨터 프로그램
US20150160840A1 (en) Display device and method of controlling the same
JP2016122392A (ja) 情報処理装置、情報処理システム、その制御方法及びプログラム
CN110827195A (zh) 虚拟物品添加方法、装置、电子设备及存储介质
KR20150110032A (ko) 영상데이터 처리 전자장치 및 방법
US10783666B2 (en) Color analysis and control using an electronic mobile device transparent display screen integral with the use of augmented reality glasses
CN111754272A (zh) 广告推荐方法、推荐广告显示方法、装置及设备
JP2017032870A (ja) 画像投影装置及び画像表示システム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180529

Termination date: 20201126

CF01 Termination of patent right due to non-payment of annual fee