CN105210454A - 环境照明系统的基于相机的校准 - Google Patents

环境照明系统的基于相机的校准 Download PDF

Info

Publication number
CN105210454A
CN105210454A CN201480028353.0A CN201480028353A CN105210454A CN 105210454 A CN105210454 A CN 105210454A CN 201480028353 A CN201480028353 A CN 201480028353A CN 105210454 A CN105210454 A CN 105210454A
Authority
CN
China
Prior art keywords
light source
light
display screen
movie theatre
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201480028353.0A
Other languages
English (en)
Other versions
CN105210454B (zh
Inventor
F.J.德布鲁伊恩
T.格里特蒂
S.J.J.尼斯森
L.弗里
W.P.李
M.M.J.W.范赫彭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of CN105210454A publication Critical patent/CN105210454A/zh
Application granted granted Critical
Publication of CN105210454B publication Critical patent/CN105210454B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05BELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B47/00Circuit arrangements for operating light sources in general, i.e. where the type of light source is not relevant
    • H05B47/10Controlling the light source
    • H05B47/155Coordinated control of two or more light sources
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05BELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B47/00Circuit arrangements for operating light sources in general, i.e. where the type of light source is not relevant
    • H05B47/10Controlling the light source
    • H05B47/105Controlling the light source in response to determined parameters
    • H05B47/115Controlling the light source in response to determined parameters by determining the presence or movement of objects or living beings
    • H05B47/125Controlling the light source in response to determined parameters by determining the presence or movement of objects or living beings by using cameras

Landscapes

  • Circuit Arrangement For Electric Light Sources In General (AREA)

Abstract

提出了一种用于校准为影院显示屏幕提供环境光效果的环境照明系统的方法。该方法是基于以一个或多个编码光(CL)源的形式实现环境照明系统的。该方法然后包括处理由环境照明系统光照的场景的一个或多个图像以基于嵌入到各个CL源的光输出中的CL来确定由各个CL源生成的光的颜色和/或强度。用于控制CL源提供期望的环境光效果的控制数据的集合然后不仅基于要显示在影院显示屏幕上的图像内容的颜色和/或强度,而且还基于各个CL源的光输出的所确定的颜色和/或强度。

Description

环境照明系统的基于相机的校准
技术领域
本发明的实施例大体地涉及环境照明系统的领域,并且更具体地涉及用于这样的环境照明系统的自动校准的系统和方法。
背景技术
近年来,所谓的AmbilightTV系统已经在TV购买者之间变得非常流行。这样的Ambilight系统基于入射视频信号生成光,使得利用与所示出的视频匹配的背景光来光照围绕TV机顶盒的(多个)墙壁,从而导致更大虚拟屏幕以及更身临其境的观看体验。
这样的Ambilight系统的示例在WO2011/073877(VanHerpen等人)中公开,WO2011/073877提供了一种可以将投射在影院屏幕上的内容动态地扩展到影院中特别可用的额外空间(诸如像墙壁、地板和天花板)的系统,从而考虑到关于影院屏幕上所示出的或将要示出的图像内容的知识。VanHerpen通过说明从影院显示屏幕的左手侧接近并且朝向影院显示屏幕的右手侧移动的有色车辆的三个状态而描述了可以由这样的系统提供的环境光效果。在第一状态中,车辆未示出在影院显示屏幕上,但是布置在影院显示屏幕的左手侧上的多个光源的选择性集合将发射与车辆颜色匹配的颜色的光。在第二状态中,车辆示出在影院显示屏幕上而没有围绕影院显示屏幕布置的多个光源的部分的小集合的支持或者仅具有其的支持,接着是第三状态,其中车辆再次未示出在影院显示屏幕上,但是其中布置在影院显示屏幕的右手侧上的多个光源的选择性集合将发射与车辆颜色匹配的颜色的光。以此方式,车辆从影院显示屏幕的左手侧向影院显示屏幕的右手侧的移动在时间上有效地扩展,因而增强观众的视觉体验。
尽管VanHerpen的系统提供了用于在影院屏幕上观看视频或图像时增强环境照明体验的令人感兴趣的特征,但是可能期望的是提供进一步的改进,特别是涉及该系统的校准的那些改进。
发明内容
本发明的一个目的是能够自动校准环境照明系统。本发明的另一目的是确保自动校准可以使用诸如包括在例如移动电话或平板电脑中的相机之类的常用设备来执行。
根据本发明的一方面,提出一种用于校准环境照明系统的方法。环境照明系统至少包括用于在包括环境照明系统和影院显示屏幕的环境中提供环境光效果的第一光源。第一光源是所谓的“编码光源”,其被配置用于提供包括第一代码的第一光输出,所述第一代码作为其一个或多个特性中的第一调制序列而嵌入到第一光输出中。在获得由环境照明系统光照的场景的一个或多个图像之后,其中该场景至少包括第一光输出的足迹,该方法包括处理一个或多个图像以基于嵌入到第一光输出中的第一代码来确定由第一光源提供的第一光输出的颜色和强度中的至少一个的步骤。该方法还包括以下步骤:确定要显示在影院显示屏幕上的图像内容的颜色和强度中的至少一个;以及确定控制数据的集合以用于基于由第一光源提供的第一光输出的颜色和强度中的所确定的至少一个并基于要在影院显示屏幕上显示的图像内容的颜色和强度中的所确定的至少一个来控制第一光源提供环境光效果。
如本文使用的,术语“影院显示屏幕”或“影院屏幕”用于描述适用于以连续视频流以及静止视频图像的形式二者再现任何视频内容的任何屏幕,诸如像TV屏幕或影院中的屏幕。表述“控制数据的集合”用于描述用来控制环境照明系统的一个或多个光源的一个或多个控制参数,诸如像红-绿-蓝RGB驱动参数。
尽管以上所述方法是指针对环境照明系统的仅一个光源(第一光源)所执行的方法步骤,但是可以执行类似步骤以便对可能存在于系统内的附加光源进行校准。环境照明系统的一个或多个光源在本文中有时被称为“外部照明器”以便强调它们是处于影院显示屏幕的“主要源”外部的光源。术语“环境光效果”然后可以是指由每一个单独的外部照明器所提供的光效果,或者由多个外部照明器所提供的组合光效果。
本发明的实施例是基于若干洞悉。首先,实施例是基于以下实现:在其中实现环境照明系统的特定设置是重要的并且应当被计及以便确保系统的(多个)照明器可以提供(多个)正确的环境光效果。在其中可以实现这样的系统的特定设置的一个方面涉及由外部照明器提供的光输出对于观众看起来如何。该外观受到以下的极大影响:例如由照明器提供的光输出的实际颜色和/或强度方面的外部照明器的初始设置,以及诸如像由外部照明器光照的表面的颜色(因为反射光的颜色取决于所光照的表面的主导颜色)、从外部照明器到所光照的表面的距离(因为反射光的强度取决于该距离)和/或外部照明器关于影院屏幕的位置(因为每一个照明器需要基于其关于主要源的位置而以不同方式来驱动,例如在影院屏幕的左边、右边或上方)之类的因素。在本文描述的校准方法中包括确定由外部照明器提供的实际光输出的颜色和强度中的至少一个的步骤允许获得可以由照明器生成的光与期望的环境光效果的更好匹配,这是因为用于照明器的控制数据的集合然后可以计及照明器特定的校正,例如在RGB驱动参数方面。
其次,本发明的实施例还基于以下实现:环境照明系统的校准可以基于已经创建能够通过响应于数据信号而调制光输出的一个或多个特性来将数据嵌入到其光输出中的光源的最近发展而相对简单地做出。这样的光输出有时被称为“编码光”并且简称为“CL”,并且这样的光源然后被称为“CL源”或“CL照明器”。其中可以应用CL的一种情况包括照明器将其标识(ID)和/或指示其当前设置的信息嵌入在其光输出中。检测系统是已知的,其中检测系统的相机被配置成获取由一个或多个CL源光照的场景的一个或多个图像,并且图像随后被处理以确定各个CL源的光输出是否存在于场景内以及存在的是什么类型的光输出。在过去,这样的系统对于所谓的指向&控制应用已经特别地有用,其中用户可以利用所检测的CL以基于源的ID来选择光源并且随后调节所选光源的设置。在本发明的实施例中,CL源作为环境照明系统的外部照明器的使用允许基于获取照明器所光照的场景的一个或多个图像的相机、什么颜色和/或强度然后可以用于确定适当的照明器特定的控制数据集合,来确定由这些照明器产生的光输出的颜色和/或强度。以此方式利用CL技术允许开启了使用通常可获得的智能电话和平板电脑作为能够执行环境照明系统的校准的CL检测器和设备的可能性,只要那些设备如通常情况那样装备有相机的话。
在一个实施例中,场景还可以包括影院显示屏幕,并且方法然后还可以包括以下步骤:处理一个或多个图像以基于影院显示屏幕的图像和一个或多个图像内的第一光输出来确定第一光源关于影院显示屏幕的位置。在另一实施例中,场景可能不仅进一步包括影院显示屏幕,而且还包括第一光源。方法然后还可以包括以下步骤:处理一个或多个图像以基于影院显示屏幕的图像和一个或多个图像内的第一光源的图像来确定第一光源关于影院显示屏幕的位置。在这些实施例中的任一个中,用于控制第一光源的控制数据的集合可以基于第一光源关于影院显示屏幕的位置来确定。
在实施例中,确定控制数据集合的步骤可以包括确定指示提供用于控制第一光源的指令时的时刻与第一光源使用所确定的控制数据集合来提供环境光效果时的时刻之间的时间差异的时间延迟。
在各种实施例中,方法还可以包括提供用于控制第一光源以使用所确定的控制数据集合来提供环境光效果的指令的步骤。
根据本发明的一方面,公开一种控制系统。该控制系统至少包括被配置用于执行本文描述的方法的处理单元。在各种实施例中,处理单元可以在硬件中、软件中、或者作为具有硬件和软件组件二者的混合型解决方案而实现。这样的控制系统可以例如在用于控制环境照明系统或包括在诸如平板电脑(例如ipad)、智能电话、开关或传感器设备之类的另一单元中的远程控件中实现,所述另一单元然后还可以用于控制环境照明系统的各个CL源。
根据本发明的一方面,公开一种用于影院显示屏幕的环境照明系统。环境照明系统包括控制系统以及至少连接到控制系统的第一光源,所述控制系统至少包括被配置用于执行本文描述的方法的处理单元,所述第一光源被配置用于提供包括第一代码的第一光输出,所述第一代码作为其一个或多个特性中的第一调制序列而嵌入到第一光输出中。
在实施例中,环境照明系统可以包括不仅第一光源而且多个光源,每一个光源被配置成发射CL并且连接到控制系统,多个光源被配置成提供环境光效果。在实施例中,影院显示屏幕可以布置在诸如像影院之类的结构的前壁上,并且环境照明系统的至少一些光源可以间隔开地布置在结构的侧壁上。在一些实施例中,环境照明系统的(多个)光源可以以覆盖结构的(多个)座椅、(多个)墙壁、地板和天花板中的至少一个的(多个)发光膏体和/或(多个)发光纺织品的形式来提供。在另一实施例中,(多个)光源可以包括(多个)墙照明装置(wall-washer(s))。
根据本发明的一方面,公开了一种影院系统。该影院系统包括用于显示图像内容的影院显示屏幕、至少包括被配置用于执行本文描述的方法的处理单元的控制系统、以及连接到控制系统的至少第一光源,该第一光源被配置用于提供包括第一代码的第一光输出,该第一代码作为其一个或多个特性中的第一调制序列而嵌入到第一光输出中。
在另外的实施例中,控制系统、环境照明系统和影院系统中的每一个还可以包括用于获取要由处理单元处理的一个或多个图像的相机(即任何适当的光检测器件)。
在实施例中,用于获取要处理的图像的相机可以包括卷帘式快门图像传感器,其中图像传感器的不同部分在不同的时间点处曝光,使得第一调制序列(即第一代码)作为一个或多个所获取的图像中的所述至少一个中的交替条带而可观察到。出于检测CL的目的而使用卷帘式快门图像传感器在专利申请WO2012/127439A1中详细描述,该申请的公开内容以其整体通过引用并入本文。使用卷帘式快门图像传感器的一个优点在于,相比使用全局式快门的图像传感器而言,这样的图像传感器在设计方面是简单的并且因此较不昂贵(例如因为每像素需要较少的芯片区域)。另一优点在于,这样的图像传感器是现今在平板电脑和智能电话中采用的传感器,从而使这些常见设备特别适用于实现本发明的实施例。
根据本发明的其它方面,提供一种用于执行本文描述的方法的计算机程序,以及一种存储计算机程序的非暂时性计算机可读存储介质。计算机程序可以例如下载(更新)到现有控制系统(例如现有光学接收器、远程控件、智能电话或平板电脑)或在制造这些系统时存储。
在此之后,将进一步详细地描述本发明的实施例。然而,应当领会的是,该实施例可能不被解释为限制本发明的保护范围。
附图说明
图1-4提供了根据本发明的一个实施例的安装在结构中的环境照明系统的各个方面的示意性图示;
图5是根据本发明的一个实施例的控制系统的示意性图示;
图6是根据本发明的一个实施例的用于校准环境照明系统的方法步骤的流程图;
图7是根据本发明的一个实施例的两个光源向场景提供光贡献时的编码光基础上的足迹定位的示意性图示;
图8是根据本发明的一个实施例的用于基于相机的鲁棒识别和定位的预确定静态图案的示意性图示;
图9是根据本发明的一个实施例的用于基于相机的鲁棒识别和定位的预确定动态图案的示意性图示;并且
图10提供了根据本发明的一个实施例的利用卷帘式快门相机捕获的空间图案上的两个CL源之间时间延迟效果的图示。
具体实施方式
在以下描述中,阐述众多具体细节以提供对本发明的更透彻理解。然而,本领域技术人员将显而易见的是,可以在没有这些具体细节中的一个或多个的情况下实践本发明。在其它实例中,尚未描述众所周知的特征以便避免混淆本发明。
图1-4提供了根据本发明一个实施例的安装在结构中的环境照明系统的各个方面的示意性图示。图1-4图示了结构100,在该示例中结构100是影院,其包括布置在结构100的前壁104上的影院显示屏幕102。安装在结构100中的环境照明系统可以包括一个或多个外部照明器,如图1-4中以光源106,108,110,112,118,122和128所图示的。例如,多个光源,诸如像墙照明装置106,108,110,112可以间隔开地布置在结构100的右手侧壁114上。结构100的左手侧壁当然可以提供有类似类型的对应布置的光源。在结构100内,可以提供多个座椅116。至少一些座椅116可以具有图2中所示的一个或多个光源118,例如嵌入在座椅116的纺织品中,可能地处于每一个座椅的背部(其它放置当然是可能的,诸如处于座椅的扶手内)。另外,结构100的屋顶120可以提供有材料,例如膏体,其被配置成具有光源,如在图3中以嵌入式光源122所图示的。附加地,结构100的地板124可以提供有具有嵌入式光源128的纺织品地板覆盖物126,如图4中所图示的。对于将光源嵌入在结构的纺织品座椅/地板和/或结构的屋顶内而言,不同方法对于本领域技术人员是已知的并且在本发明的范围内是可能的。此外,未必将所有以上类型的光源包括在结构100中的环境照明系统内。相反,以上描述的光源的所选子集可以用于提供结构中的环境照明,如根据本发明所提供的。因而在操作期间,由存在于环境照明系统内的那些光源106,108,110,112,118,122和128提供的光输出贡献于由环境照明系统提供的总体环境光效果以用于光照结构100的至少部分。
存在于环境照明系统内的光源106,108,110,112,118,122和128可以包括能够发射编码光的任何适当照明器。
在一个实施例中,环境照明系统的至少一个光源的光输出可以编码成使得该光输出包括各个光源的各个标识符(ID)代码,其典型地是作为从光源所发射的光的特性中的时间调制序列而发射的嵌入式代码。如本文所使用的,术语“标识符”或“ID代码”是指允许环境照明系统内的各个CL源的充足标识的任何代码。在一个另外的实施例中,标识符代码可以包括N个符号(例如位)的重复序列。如本文中所使用的,术语“符号”不仅适应于单个位,而且适用于由单个符号表示的多个位。后者的示例是多级符号,其中不仅0和1存在于嵌入式数据,而且存在多个离散等级。以此方式,环境照明系统的总体光输出可以包含多个标识符代码,每一个源自单独的CL源。
在其它实施例中,附加于或可替换于单独的ID,由CL源产生的编码光可以包括关于光源的其它信息,诸如像光源的当前光设置和/或其它信息。
通过响应于特定代码信号而调制要应用到光源的驱动信息来将代码嵌入到CL源的光输出中。存在用于将代码嵌入到光源的光输出中的各种技术(例如脉冲宽度调制、幅值调制等),其对于本领域技术人员是已知的并且因此此处不作详细描述。
在优选实施例中,环境照明系统的光源包括发光二极管(LED)、有机发光二极管(OLED)、聚合发光二极管(PLED)或无机LED,这是因为相比于通常最佳地递送以光形式所使用的其电力的大约60%的常规灯泡而言,LED具有高得多的能量效率,并且因为LED照明器可以制成产生CL,而其它类型的照明器通常需要改型以便能够发射CL。
在实施例中,在影院显示屏幕102上显示图像内容的主要光确定设备(诸如未在图1-4中示出的设备)可以包括没有Ambilight的常规TV。可替换地,主要光确定设备可以包括(影院)电影投影系统。在系统的又一实施例中,主要光确定设备不是AmbilightTV而是唤醒灯,其中环境照明系统可以用于将附加外部照明器的强度与唤醒灯的光匹配。例如,外部照明器可以设立成生成与唤醒灯相关联的空间可变图案。因为唤醒灯本身不提供动态空间变化,所以外部灯可以被设立成例如从左向右模拟日出或日落,从而运用整个房间内的不同位置的光贡献。
在另一可能的实施例中,主要光确定设备可以包括任何其它光生成设备,至少一个辅助光源出于以下目的而与其连接:辅助光源产生以预确定的方式与主要设备的光匹配的光效果。
本发明的实施例涉及一种用于校准安装在结构100中的环境照明系统的外部光源以用于为影院显示屏幕102提供环境光效果的方法。该方法是基于以一个或多个编码光(CL)源106,108,110,112,118,122和128的形式实现环境照明系统。该方法然后包括处理由环境照明系统光照的场景的一个或多个图像以基于嵌入到各个CL源的光输出中的CL来确定由各个CL源生成的光的颜色和/或强度。用于控制CL源提供期望的环境光效果的控制数据的集合然后不仅基于要在影院显示屏幕上显示的图像内容的颜色和/或强度,而且基于各个CL源的光输出的所确定的颜色和/或强度。
为了至少校准以及可能地还有控制环境照明系统的光源,提供控制系统500,如图5中所示(控制单元未在图1-4中示出)。在实施例中,在图1-4中图示的电子组件和控制系统500的组件可以具有它们之间的无线连接性。
控制系统500至少包括以微处理器、微控制器、可编程数字信号处理器或另一可编程设备的形式的处理单元510。附加地或可替换地,处理单元510可以包括专用集成电路、可编程门阵列或可编程阵列逻辑、可编程逻辑器件或数字信号处理器。
附加于处理单元510,控制系统500可以可选地包括显示器520、光检测单元530和存储器540中的一个或多个。显示器520可以被配置用于显示例如用户接口以用于控制环境照明系统的CL源或者在环境照明系统上执行的校准的任何结果。光检测单元530可以包括任何光检测器件,诸如像相机,其被配置用于获取场景的一个或多个图像,该图像然后由处理单元510处理。处理器540,可能地连同专门设计的控制(RF/WiFi)单元(未在图5中示出)一起,可以用于控制光源。在控制系统500包括诸如以上提及的微处理器、微控制器或可编程数字信号处理器之类的可编程设备的情况下,存储器520可以用于存储在处理单元510中执行时控制可编程设备的操作的计算机可执行代码。
控制系统500可以被配置成与环境照明系统的至少一些外部照明器通信以用于允许单独地控制照明器。在实施例中,外部照明器可以通过以太网线缆连接到本地IP网络,并且诸如像iPad之类的控制系统500可以经由连接到相同网络的WiFi路由器与照明器通信。为此目的,控制系统500可以使用常规WiFi发现技术来获得照明器的IP地址,并且然后将IP地址与从编码光获得的ID匹配,所述编码光例如作为以下与图6相关联地描述的步骤620的一部分来检测。到用于将图像/视频序列显示到影院显示屏幕102上的器件的连接也可以提供用于控制何时驱动外部照明器来发射环境照明。
尽管控制系统500被图示为单个单元,但是本领域技术人员将认识到,在图5中图示为处于系统500内的各个元件的功能性也可以分布在若干其它单元当中。另外,在各种实施例中,可以作为环境照明系统的一部分(即作为还包括外部照明器本身的系统的一部分)和/或作为整个影院系统的一部分(即作为还包括不仅外部照明器而且还有影院显示屏幕的系统的一部分)而包括控制系统500。
图6是根据本发明一个实施例的用于校准安装在结构100中的环境照明系统的方法步骤的流程图。出于简洁起见,首先假定安装在结构100中的环境照明系统包括仅一个光源,其在本文中被称为“第一光源106”(当然,类似讨论适用于图1-4中所示出的其它光源中的任一个,而未必用于光源106)。图6的方法步骤由处理单元510执行。尽管结合图1-5中所示的元件描述方法步骤,但是本领域技术人员将认识到,被配置成以任何顺序执行方法步骤的任何系统都处于本发明的范围内。
图6的方法可以在步骤610中开始,其中处理单元510获得由相机获取的场景的一个或多个图像,所述相机诸如像包括在控制系统500内的相机530或者类似相机530但是实现为不是控制系统500的一部分的独立式设备的相机。场景被选择成使得场景的至少一部分包括要校准的CL源-在该示例中是第一光源106-的光输出的至少一部分(即其足迹)。在另外的实施例中,场景还可以包括实际第一光源106和/或影院显示屏幕102的至少部分。在这样的实施例中,所获取的图像然后分别包括第一光源106和/或影院显示屏幕102的图像。
获取一个或多个图像的一个目的是随后检测存在于场景内的各个CL源的光输出的颜色和/或强度。因而,所获取的图像的最小数目应当使得所获取的图像允许这样的检测。因为各种检测技术是众所周知的,所以本领域技术人员将认识到多少个图像足以执行给定设置中的检测。图像的最小数目取决于例如光源的类型和数目、用于将代码嵌入到光源的光输出中的技术、所使用的相机以及处理图像时所采用的检测技术中的一个或多个。例如,如果使用卷帘式快门相机,其中相机的(多个)图像传感器的不同部分在不同的时间点处曝光,则仅单个图像是足够的,因为嵌入式代码可以作为图像中的交替条带而可观察到,如例如在US8,248,467B1,WO2012/127439A1和US61/698761中所描述的。另一方面,如果使用全局式快门相机,其中相机的(多个)图像传感器的所有部分都在帧期间的相同时刻处曝光,并且嵌入式代码包括N个符号的重复序列,如WO2011/086501A1中所描述的,应当获取至少N个不同的图像,每一个图像以包括N个符号的重复序列内的不同时间位置处的一个或多个曝光时刻的总体曝光时间来获取。当然,可以获取更多图像以便例如改进各个光源的光输出的检测概率或者追踪不同光源的光贡献随时间的改变。
图6的方法适用于使得用户能够控制在获取场景的一个或多个图像时向场景实际提供光贡献的环境照明系统内的那些CL源。因此,在实施例中,为了为用户提供针对存在于环境照明系统内的所有CL源的控制图标,本文描述的方法可以包括处理单元510,其向环境照明系统内的所有CL源提供命令以接通CL源,使得在步骤610中获取一个或多个图像时的短时间期间每一个CL源向场景提供充足的光贡献。
在已经获取一个或多个图像之后,方法进行到步骤620,其中处理单元510可以处理至少一些所获取的图像以使用任何已知的检测技术来确定第一光源106的光输出的颜色和/或强度。为此目的,在一个实施例中,处理单元510可以被配置成从所获取的图像标识嵌入在第一光源106的光输出中的ID代码,并且基于所标识的ID代码来(使用例如查询表)确定该光源的颜色和/或强度是什么。在其它实施例中,由各种CL源发射的光输出的当前颜色和/或强度的值可以嵌入到其光输出中。在该情况下,处理单元510可能访问用于将消息编码在编码光中的协议或者可能识别所使用的协议,以便能够对编码光中的消息进行解码。
利用相机单独地定位各个CL源的光足迹的能力允许获得图像帧内的每一个源所生成的光效果的颜色、强度和分布。图7提供了根据本发明的一个实施例的编码光基础上的足迹定位的示意性图示。如利用插图700(由虚线指示)所示出的,图7的足迹定位图示了光照场景703的第一光源701和第二光源702。由第一光源701提供的光照导致光足迹704,并且由第二光源702提供的光照导致光足迹705,两个足迹在区域706中重叠。相机707,诸如像包括在控制系统500内的相机530或者类似相机530但是实现为不是控制系统500一部分的独立式设备的相机,被配置成获取场景703的一个或多个图像708。两个光源701和702中的每一个提供不同的CL信号,其可以在图像中看作来自第一光源701的CL信号709和来自第二光源702的CL信号710,其中区域711图示了CL信号709和710的捕获总和。可以实现为控制系统500的控制系统712在图6的步骤610中获得所获取的图像,并且处理图像(步骤620)以确定第一光源的光足迹的所计算图像713和第二光源的光足迹的所计算图像714。例如,如果相机707是卷帘式快门相机,则不同的CL信号709和710将引起所捕获的帧708中的不同空间或时空图案,其允许计算不同CL源的单独光贡献(即颜色和/或强度)。
在可以发生在步骤610和/或620之前或者与其同时发生的步骤630中,处理单元510确定要显示在影院显示屏幕上的图像内容的颜色和/或强度。
方法可以在步骤640中结束,其中处理单元510基于如在步骤620中确定的由该光源提供的光输出的颜色和/或强度,并且基于如在步骤630中确定的要显示在影院显示屏幕上的图像内容的颜色和/或强度,来确定用于控制第一光源106提供环境光效果的控制数据的集合。以此方式,用于环境照明系统的每一个CL源的RGB驱动信号可以利用要显示在影院显示屏幕上的对应图像内容的颜色和/或强度来校正或者与其匹配。在不存在这样的校正的情况下,外部照明器的光将一般地趋向于看起来过亮或过暗,这取决于例如到所光照的表面的距离和/或所光照的表面的倾斜。
在系统的另外的实施例中,每一个外部照明器的驱动参数还可以调节成使得相机图像中的表观光颜色与要显示在影院显示屏幕上的图像内容的表观光颜色匹配。使用这样的相对颜色匹配缓解了使处理单元510执行表观颜色的绝对评估的需要。在光源的色原(colorprimaries)与相机的色原足够匹配的情况下,可以对多个RGB颜色同时执行评估和参数调整。在光源的色原与相机色原不匹配的情况下,例如青色、品红色、黄色(CMY),这样的测量可以针对CMY色原顺序地执行。
在实施例中,在步骤640中确定的控制数据的集合的至少一部分可以存储在指令图像内容以显示在影院显示屏幕上的TV或影院投影系统中,并且可以对一个或多个其它(移动)远程控制设备是可访问的以使得能够操纵控制参数。可替换地或附加地,所确定的控制数据集合的至少一部分可以存储在附加存储器位置中并且可以对一个或多个其它(移动)远程控制设备是可访问的以使得能够操纵控制参数。这样的附加存储器位置可以例如是桥、其它(音频-视觉)设备或系统的一部分或者由在线服务(云)提供。
在实施例中,处理单元510可以被配置成提供用户接口以用于在显示器520上向用户显示环境效果。例如,环境效果可以在校准之前、期间或之后针对用户在显示器520上渲染。渲染结果可以是图像或者图像序列,诸如像与影院显示屏幕上所显示的瞬时内容相关联的所渲染效果的动画。
在实施例中,步骤640的确定还考虑到CL源关于影院显示屏幕的位置,由此允许校准以针对影院显示屏幕与CL源之间的距离进行校正。位置可以例如通过将获取其图像的场景选择成使得影院显示屏幕包括在场景中,并且基于影院显示屏幕的图像和一个或多个图像内的第一光输出的图像和/或足迹确定第一光源106关于影院显示屏幕的位置来确定。在步骤620和630中确定的信息然后可以与所获取的图像中的影院显示屏幕的位置组合,以在给定外部照明器相对于屏幕的位置的情况下确定用于该外部照明器的正确驱动参数。
处理单元510可以被配置成以若干不同方式标识所获取的图像内的影院显示屏幕。在一个实施例中,影院显示屏幕的标识可以基于图像中的设备的外观(例如如果影院显示屏幕的大概形状是处理单元510所已知的,使得处理单元可以识别所获取的图像中的该形状的存在)。在另一实施例中,影院显示屏幕的标识可以基于预确定的静态图案,例如如图8中所示,其在校准期间出现于屏幕上。图案应当使得处理单元510能够不含糊地识别相机图像中的图案并且从其提取充足的几何信息。在本发明的又一实施例中,影院显示屏幕的标识可以基于在校准期间出现于屏幕上的动态图案,如图9中所示,其中箭头901指示可能的运动方向。这可以是由编码光检测算法容易识别的图案。在又一实施例中,影院显示屏幕的标识可以基于由环境照明系统本身生成的静态或动态图案。
当采用大规模的环境照明系统时,可观察到的时间延迟可能引起光源关于图像内容的不可接受“迟到”响应。因此在实施例中,步骤640的确定还考虑到特定CL源响应于指令来开始发射期望的环境效果的时间延迟。为此目的,处理单元510可以被配置用于确定指示提供用于控制第一光源106的指令时的时刻与第一光源106提供环境光效果时的时刻之间的时间差异的时间延迟。换言之,光源的时间延迟可以被看作目标环境效果的第一“期望”时刻与外部照明器响应时的第二“错误”时刻之间的时间。联网系统中的光源的延迟一般是由于通信网络并且不是由于LED灯本身。在有线和无线网络二者中,外部照明器到发出开始发射环境效果的指令的中央单元的大物理距离可以是这种延迟的源,这是因为连接可能必须经过多个桥接网络元件。然而,在本发明的上下文中,延迟的精确源是不相关的。相关的是处理单元510能够确定用于环境照明系统的每一个外部照明器的时间延迟并且确保在针对照明器的控制数据的集合中正确地计及时间延迟。
在其中作为环境照明系统的实现方案的典型情况,发出发射环境光效果的指令的中央单元是在影院显示屏幕中或附近实现,并且其中第一光源关于影院显示屏幕的位置得以确定(例如通过选择场景以包括影院显示屏幕,如上文描述的)的实施例中,时间延迟可以基于从所获取的图像确定的影院显示屏幕和第一光源之间的距离来确定。
当使用卷帘式快门相机来获取图像时,电子卷帘式快门图像捕获的相对高时间分辨率允许这样的延迟作为相关联光捕获的光现象的空间偏移而变得可见。以此方式,可以提供自动器件以用于通过关于影院显示屏幕的位置定位来自外部照明器的光,并且在给定外部照明器相对于屏幕的位置和相对于显示图像内容的响应延迟的情况下,确定用于外部照明器的正确驱动参数来校准环境照明系统。这样的校准可以确保强度和/或颜色以及时间二者方面的期望环境效果的正确或最佳局部近似。
在影院显示屏幕102以及至少一个外部照明器二者出现在相机视场中时的情况下,使得时间延迟可以从光的相关联外观与一个或多个相机帧之间的差异来评估。在主要系统是投影系统时的情况下,可以生成预确定的图案序列。在主要系统通过二进制子帧序列的方式生成连续范围的灰色值(例如使用切换微镜)的情况下,预确定的子帧序列可以使得显示器以子帧速率或者镜切换频率而非正常图像所投影的帧速率的时间分辨率来提供时间信息。任何外部照明器可以基于来自主要系统的预确定触发而产生颜色、强度或编码光信息中的预确定的改变。任何时间差异将引起影院显示屏幕与辅助光效果之间的空间偏移,其可以作为数据报告回给用户或者直接反馈回给系统以预补偿相关联外部照明器的驱动信号。
在实施例中,主要光生成系统可以不是影院显示屏幕,而是由投影系统驱动的另一灯。一旦其延迟已知或甚至经过预补偿,则该灯可以用作针对相同视场中的另一外部照明器的基准(即作为影院显示屏幕)。这样,当操作员逐渐进一步远离影院显示屏幕102移动时,所有外部照明器的时序校准可以以接连的顺序执行,如图10中所示。图10提供了利用卷帘式快门相机捕获的空间图案上的两个CL源之间的时间延迟的效果的图示。在图10的示例中,两个光源是以来自中央控制单元的相同信号驱动的,而光源中的每一个以不同的延迟做出响应。
在实施例中,时间基准可以提供给处理单元501,例如通过显示生成系统经由(无线)网络连接。处理单元510然后可以确定所接收的基准触发信号和所观察的屏幕内容之间的时间差异,并且使用所确定的差异来建立由于通信链接的时间延迟。这样,可以利用相机单独地观察到环境照明系统的任何外部照明器以建立关于基准触发信号的时间延迟。
可以应用本发明的实施例以基于诸如iPad之类的装备有相机(移动)设备来提供例如与AmbilightTV连接的无线可控照明器的系统的完全自动的配置和校准。此外,本发明的实施例允许自动地配置多个可控外部照明器以向没有装备有Ambilight的TV机顶盒提供Ambilight效果。本文描述的想法还可以用于自动地配置所设立的环境照明系统以动态地扩展影院投影。以此方式,可以解决复杂的安装和校准问题,因为基于相机的CL检测可以提供各个光足迹的灯标识、定位和量化、颜色校准并且提供响应延迟信息。
本发明的各种实施例可以实现为用于供计算机系统使用的程序产品,其中程序产品的(多个)程序限定实施例的功能(包括本文描述的方法)。在一个实施例中,(多个)程序可以包含在各种非暂时性计算机可读存储介质上,其中如本文所使用的表述“非暂时性计算机可读存储介质”包括所有计算机可读介质,但单单排除暂时性的传播信号。在另一实施例中,(多个)程序可以包含在各种暂时性计算机可读存储介质上。说明性的计算机可读存储介质包括但不限于:(i)信息永久地存储在其上的不可写存储介质(例如计算机内的只读存储器设备,诸如由CD-ROM驱动器可读取的CD-ROM盘、ROM芯片或者任何类型的固态非易失性半导体存储器);以及(ii)可更改信息存储在其上的可写存储介质(例如闪烁存储器、磁盘驱动器或硬盘驱动器内的软盘或者任何类型的固态随机存取半导体存储器)。计算机程序可以在本文描述的处理单元510上运行。
尽管前述内容针对本发明的实施例,但是可以设计出本发明的其它和另外的实施例而不脱离其基本范围。例如,本发明的方面可以在硬件或软件中或者硬件和软件的组合中实现。因此,本发明的范围由随后的权利要求确定。

Claims (11)

1.一种用于校准环境照明系统的方法,所述环境照明系统至少包括用于在包括环境照明系统和影院显示屏幕(102)的环境中提供环境光效果的第一光源(106),所述第一光源被配置用于提供包括第一代码的第一光输出,所述第一代码作为其一个或多个特性中的第一调制序列而嵌入到第一光输出中,所述方法包括:
在获得(610)由环境照明系统光照的场景的一个或多个图像之后,其中所述场景包括至少第一光输出,处理(620)所述一个或多个图像以基于嵌入到第一光输出中的第一代码来确定由第一光源提供的第一光输出的颜色和强度中的至少一个;
确定(630)要显示在影院显示屏幕上的图像内容的颜色和强度中的至少一个;
基于由第一光源提供的第一光输出的颜色和强度中的所确定的至少一个,并且基于要显示在影院显示屏幕上的图像内容的颜色和强度中的所确定的至少一个,来确定(640)用于控制第一光源以提供环境光效果的控制数据的集合。
2.根据权利要求1的方法,其中所述场景还包括影院显示屏幕,所述方法还包括处理所述一个或多个图像以基于影院显示屏幕的图像和所述一个或多个图像内的第一光输出来确定第一光源关于影院显示屏幕的位置。
3.根据权利要求1的方法,其中所述场景还包括影院显示屏幕和第一光源,所述方法还包括处理所述一个或多个图像以基于影院显示屏幕的图像和所述一个或多个图像内的第一光源的图像来确定第一光源关于影院显示屏幕的位置。
4.根据权利要求2或3的方法,其中还基于第一光源关于影院显示屏幕的位置来确定用于控制第一光源的控制数据的集合。
5.根据前述权利要求中任一项的方法,其中确定控制数据的集合包括确定指示提供用于控制第一光源的指令时的时刻与第一光源使用所确定的控制数据的集合提供环境光效果时的时刻之间的时间差异的时间延迟。
6.根据前述权利要求中任一项的方法,还包括提供用于控制第一光源以使用所确定的控制数据的集合提供环境光效果的指令。
7.一种包括软件代码部分的计算机程序,所述软件代码部分被配置用于在处理单元(510)上运行时执行根据权利要求1-6中的一项或多项的方法的步骤。
8.一种被配置用于执行根据权利要求1-6中的一项或多项的方法的步骤的控制系统(500)。
9.一种用于影院显示屏幕(102)的环境照明系统,所述系统包括被配置用于执行根据权利要求1-6中的一项或多项的方法的步骤的控制系统(500)以及连接到控制系统的至少第一光源(106),所述第一光源被配置用于提供包括第一代码的第一光输出,所述第一代码作为其一个或多个特性中的第一调制序列而嵌入到第一光输出中。
10.一种影院系统,其包括用于显示图像内容的影院显示屏幕(102)、被配置用于执行根据权利要求1-6中的一项或多项的方法的步骤的控制系统(500)以及连接到控制系统的至少第一光源(106),所述第一光源被配置用于提供包括第一代码的第一光输出,所述第一代码作为其一个或多个特性中的第一调制序列而嵌入到第一光输出中。
11.根据权利要求8-10中任一项的系统,还包括被配置用于获取场景的一个或多个图像的相机。
CN201480028353.0A 2013-05-16 2014-05-02 环境照明系统的基于相机的校准 Expired - Fee Related CN105210454B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP13168024 2013-05-16
EP13168024.1 2013-05-16
PCT/EP2014/058976 WO2014184009A1 (en) 2013-05-16 2014-05-02 Camera-based calibration of an ambience lighting system

Publications (2)

Publication Number Publication Date
CN105210454A true CN105210454A (zh) 2015-12-30
CN105210454B CN105210454B (zh) 2018-06-08

Family

ID=48430553

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201480028353.0A Expired - Fee Related CN105210454B (zh) 2013-05-16 2014-05-02 环境照明系统的基于相机的校准

Country Status (4)

Country Link
US (1) US10492274B2 (zh)
EP (1) EP2997795B1 (zh)
CN (1) CN105210454B (zh)
WO (1) WO2014184009A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107864376A (zh) * 2017-10-11 2018-03-30 侯翠侠 一种数字电影放映系统的补光装置
CN109922574A (zh) * 2019-04-10 2019-06-21 深圳市奥拓电子股份有限公司 Led景观照明的光效调节控制方法、系统及存储介质
CN111402341A (zh) * 2020-03-10 2020-07-10 创新奇智(广州)科技有限公司 相机参数确定方法、装置、电子设备及可读存储介质

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CH711000A1 (de) * 2015-04-28 2016-10-31 Iart Lab Gmbh Leuchteneinrichtung und Verfahren zur Steuerung einer Leuchteneinrichtung.
WO2017076680A1 (en) * 2015-11-04 2017-05-11 Philips Lighting Holding B.V. Intelligent gating mechanism
WO2018073043A1 (en) 2016-10-19 2018-04-26 Philips Lighting Holding B.V. Interactive lighting system, remote interaction unit and method of interacting with a lighting system
US10165239B2 (en) 2016-12-19 2018-12-25 Disney Enterprises, Inc. Digital theatrical lighting fixture
EP3566550B1 (en) * 2017-01-04 2020-04-29 Signify Holding B.V. Lighting control.
EP3804471B1 (en) * 2018-06-07 2021-10-06 Signify Holding B.V. Selecting one or more light effects in dependence on a variation in delay
WO2020169382A1 (en) * 2019-02-18 2020-08-27 Signify Holding B.V. A controller for controlling light sources and a method thereof
CN112512184B (zh) * 2020-12-02 2023-09-26 深圳市智岩科技有限公司 一种取色照明控制方法、装置、系统及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101529984A (zh) * 2006-10-24 2009-09-09 皇家飞利浦电子股份有限公司 显示光辐射的系统、方法和计算机可读介质
CN101682790A (zh) * 2007-05-29 2010-03-24 皇家飞利浦电子股份有限公司 可视化视频信号的对象
CN102027807A (zh) * 2008-03-17 2011-04-20 安东尼·杜布莱 用于对照明和/或播放图像加以控制的方法及交互系统
CN102656950A (zh) * 2009-12-17 2012-09-05 皇家飞利浦电子股份有限公司 氛围影院照明系统
CN102742359A (zh) * 2009-12-15 2012-10-17 Tp视觉控股有限公司 动态周围环境照明系统

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4399087B2 (ja) 2000-05-31 2010-01-13 パナソニック株式会社 照明システム、映像表示デバイスおよび照明制御方法
US20050275626A1 (en) * 2000-06-21 2005-12-15 Color Kinetics Incorporated Entertainment lighting system
ES2314215T3 (es) 2002-07-04 2009-03-16 Koninklijke Philips Electronics N.V. Procedimiento y sistema para controlar una luz ambiente y unidad de iluminacion.
ES2687432T3 (es) * 2004-01-05 2018-10-25 Tp Vision Holding B.V. Luz ambiental derivada de contenido de vídeo por medio de transformaciones de mapeo a través de un espacio de color no renderizado
ES2392195T3 (es) 2006-06-28 2012-12-05 Koninklijke Philips Electronics N.V. Método para controlar un sistema de alumbrado basado en una distribución de luz objetivo
WO2008129505A1 (en) 2007-04-24 2008-10-30 Koninklijke Philips Electronics N.V. Method, system and user interface for automatically creating an atmosphere, particularly a lighting atmosphere, based on a keyword input
CN101682962A (zh) 2007-05-22 2010-03-24 皇家飞利浦电子股份有限公司 用于显示器设备的环境照明系统以及这种环境照明系统的操作方法
WO2009028168A1 (ja) * 2007-08-31 2009-03-05 Panasonic Corporation 映像連動型照明制御システムおよび映像連動型照明制御方法
TW200935972A (en) 2007-11-06 2009-08-16 Koninkl Philips Electronics Nv Light management system with automatic identification of light effects available for a home entertainment system
CN101926226B (zh) 2008-01-24 2014-05-07 皇家飞利浦电子股份有限公司 用于光传感外围设备的配置的基于光的通信
EP2524575B1 (en) 2010-01-15 2019-05-08 Signify Holding B.V. Method and system for 2d detection of localized light contributions
JP2013518383A (ja) 2010-01-27 2013-05-20 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ ビデオ照明システムの制御方法
EP2503852A1 (en) 2011-03-22 2012-09-26 Koninklijke Philips Electronics N.V. Light detection system and method
US8248467B1 (en) 2011-07-26 2012-08-21 ByteLight, Inc. Light positioning system using digital pulse recognition
CN104620519B (zh) 2012-09-10 2017-03-08 皇家飞利浦有限公司 光检测系统和方法
US8699887B1 (en) * 2013-03-14 2014-04-15 Bret Rothenberg Methods and systems for encoding and decoding visible light with data and illumination capability

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101529984A (zh) * 2006-10-24 2009-09-09 皇家飞利浦电子股份有限公司 显示光辐射的系统、方法和计算机可读介质
CN101682790A (zh) * 2007-05-29 2010-03-24 皇家飞利浦电子股份有限公司 可视化视频信号的对象
CN102027807A (zh) * 2008-03-17 2011-04-20 安东尼·杜布莱 用于对照明和/或播放图像加以控制的方法及交互系统
CN102742359A (zh) * 2009-12-15 2012-10-17 Tp视觉控股有限公司 动态周围环境照明系统
CN102656950A (zh) * 2009-12-17 2012-09-05 皇家飞利浦电子股份有限公司 氛围影院照明系统

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107864376A (zh) * 2017-10-11 2018-03-30 侯翠侠 一种数字电影放映系统的补光装置
CN109922574A (zh) * 2019-04-10 2019-06-21 深圳市奥拓电子股份有限公司 Led景观照明的光效调节控制方法、系统及存储介质
CN109922574B (zh) * 2019-04-10 2022-01-04 深圳市奥拓电子股份有限公司 Led景观照明的光效调节控制方法、系统及存储介质
CN111402341A (zh) * 2020-03-10 2020-07-10 创新奇智(广州)科技有限公司 相机参数确定方法、装置、电子设备及可读存储介质

Also Published As

Publication number Publication date
US10492274B2 (en) 2019-11-26
CN105210454B (zh) 2018-06-08
WO2014184009A1 (en) 2014-11-20
EP2997795A1 (en) 2016-03-23
EP2997795B1 (en) 2017-02-01
US20160081164A1 (en) 2016-03-17

Similar Documents

Publication Publication Date Title
CN105210454A (zh) 环境照明系统的基于相机的校准
EP2749141B1 (en) Coded light transmission and reception for light scene creation
CN104904319A (zh) 允许用户控制编码光源
US10231318B2 (en) Method and system for controlling the switching on of lights
US10716195B2 (en) Lighting system for controlling an LED array
US8344659B2 (en) System and method for lighting power and control system
US10678407B2 (en) Controlling a system comprising one or more controllable device
JP5834690B2 (ja) 投影装置、投影制御方法及びプログラム
JP7550467B2 (ja) 可視光通信システム
US20120299480A1 (en) System And Method For Current Modulated Data Transmission
US10708996B2 (en) Spatial light effects based on lamp location
US10542221B2 (en) Light-based communication using camera frame-rate based light modulation
TWI702805B (zh) 對能夠自主移動的機器進行導引的系統和方法
CN107846251B (zh) 光通信装置、光通信方法以及记录介质
JP5705875B2 (ja) 適応可能な照明システム
CN105230002B (zh) 用于检测编码光的设备和相关的计算机可读存储介质
JP5879839B2 (ja) 画像投影システム
US20240057235A1 (en) Lighting system and control method of said system
JP6410235B6 (ja) 照明電力および制御システムに関するシステムおよび方法
JP7285481B2 (ja) 照明システム、及び、制御装置
WO2018073870A1 (ja) 送信装置、受信装置、通信システム、送信方法、受信方法および送信用コンピュータプログラムならびに受信用コンピュータプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20170313

Address after: Eindhoven

Applicant after: KONINKL PHILIPS N.V.

Address before: Holland Ian Deho Finn

Applicant before: Koninkl Philips Electronics NV

GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180608

Termination date: 20210502