CN101258747A - 以可视回波消除方式处理图像的系统和方法 - Google Patents

以可视回波消除方式处理图像的系统和方法 Download PDF

Info

Publication number
CN101258747A
CN101258747A CNA2006800326368A CN200680032636A CN101258747A CN 101258747 A CN101258747 A CN 101258747A CN A2006800326368 A CNA2006800326368 A CN A2006800326368A CN 200680032636 A CN200680032636 A CN 200680032636A CN 101258747 A CN101258747 A CN 101258747A
Authority
CN
China
Prior art keywords
image
signal
numerical data
screen
expression
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CNA2006800326368A
Other languages
English (en)
Other versions
CN101258747B (zh
Inventor
O·加希尼亚尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Orange SA
Original Assignee
France Telecom SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by France Telecom SA filed Critical France Telecom SA
Publication of CN101258747A publication Critical patent/CN101258747A/zh
Application granted granted Critical
Publication of CN101258747B publication Critical patent/CN101258747B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • H04N7/144Constructional details of the terminal equipment, e.g. arrangements of the camera and the display camera and display on the same optical axis, e.g. optically multiplexing the camera and display for eye to eye contact
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/74Projection arrangements for image reproduction, e.g. using eidophor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Analysis (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Investigating Or Analyzing Materials By The Use Of Ultrasonic Waves (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

一种图像处理系统,包括:用于投射第一光束(FL1)以在屏幕(ECR)上形成第一图像(I1)的设备(PRJ,SI1),屏幕上来自观察区(ZO)的第二光束(FL2)形成第二图像(I2);用于采集第三图像(I3)的设备(CAM,SI1),所述第三图像在所述屏幕(ECR)上形成并且对应于所述第二图像(I2)及所述第一图像(I1)的至少一部分(I1’)的重叠。该系统还包括控制装置,用于:获得表示所述第一图像(I1)的所述部分(I1’)的第一信号(S1);获得表示所述第三图像(I3)的第二信号(S2);通过从所述第二信号(S2)减去所述第一信号(S1)的至少一部分计算第三信号(S3)以形成表示所述观察区(ZO)的图像(I2’)。

Description

以可视回波消除方式处理图像的系统和方法
技术领域
本发明涉及一般的图像处理领域,具体涉及例如视频会议系统的交换视频图像的人与人之间的通信装置。
背景技术
视频会议系统包括投影设备和采集设备。投影设备用从远端站接收的视频流在屏幕上形成图像;采集设备(典型的是视频相机)拍摄观察区域以形成数据流送往远端站。
在人与人之间的通信视听系统中,用户被视频相机拍摄,并同步观看屏幕,屏幕上显示其远端通信者。
在一些系统中,视频相机被安放在屏幕附近或屏幕上方。
这个拍摄角度产生了倾斜的或向下的视野,该视野是不自然的。此外,由于用户观看屏幕而不看相机,其通信者会有这样的感觉:他们不能像正常面对面交流那样进行眼睛接触。
如图1所示,解决此问题的已知方式,是用特殊的透明镜子MIR倾斜地放在屏幕ECR前面,朝视频相机CAM反射位于观察区ZO的观察者的图像。
视频相机CAM的虚拟位置因此能被放在屏幕ECR的中间或在它后面,在那里显示远端通信者的脸。
然而,该系统有很多缺陷,特别是与倾斜镜子MIR总的尺寸重量有关,因此要在观察者和屏幕之间强加一个最小距离。
更甚者,位于有关视频相机(在图1中的镜子MIR上面)镜子后的区域是视频相机经由镜子的视野领域,其图像在用户图像上重叠,因而会引入令人讨厌的赝象。
其他赝象因镜子MIR反射所致,也在屏幕ECR上显示的图像上重叠。
发明内容
在此上下文中,本发明的目的是在屏幕之后自由放置视频相机,同时消除上文提及的缺点和限制。
为此目的,本发明旨在提供一种图像处理系统,包含:
·用于投射第一光束以在屏幕上形成第一图像的设备,屏幕上来自观察区的第二光束形成第二图像;
·用于采集第三图像的设备,所述第三图像在所述屏幕上形成并且对应于所述第二图像及所述第一图像的至少一部分的重叠。
该系统还包括控制装置,用于:
·获得表示所述第一图像的所述部分的第一信号;
·获得表示所述第三图像的第二信号;
·通过从所述第二信号减去所述第一信号的至少一部分计算第三信号以形成表示所述观察区的图像。
因此,本发明的一般原则是实时地从由采集设备采集的图像中减去从远端站接收的并将被投影在屏幕上的视频流。事实上,它是视频相机输出信号和投影设备输入信号匹配层面的问题。
控制装置优选以权重系数乘第一信号,并从第二信号中减去这个乘积得到的信号以获得第三信号。
根据本发明的图像处理系统优选地包括用于根据亮度采集权重系数的亮度传感器。
该特征有利地提供了自适应过滤,这实时地修正了亮度变化。更具体地,如果观察区的亮度增加(个别地减少),视频相机要求更少的(各别地更多)光,但从视频投影仪来的视频流必须更亮(个别更暗),以便增强用户的感知。
权重系数从0到1。在受控的照明环境(屋内没窗户)中该系数等于0.5。
如果屋内有日光,权重系数可减少,例如到0.4。
相反,如果屋内变暗,例如因为缺光,权重系数可增加,例如到0.7。
在优选实施例中,本发明的图像处理系统的投影设备包括包括通过电连接和所述电连接上的无损分流调节单元连接到数据处理系统的投影仪,所述电连接传送表示所述第一图像的信号,所述无损分流调节单元复制该信号以形成第一信号。
在优选实施例中,本发明的图像处理系统包括用于将第一信号和/或第二信号转换成适合计算第三信号的格式。
例如,在一个特定实施例中,视频相机产生视频格式的第二信号,该信号在减去由投影仪输入获得的第一信号之前被转换成RGB格式,而第一信号在该特定实施例中也是RGB格式。
本发明的图像处理系统优选地包括用于发送第三信号到远端设备的装置,例如用于视频会议的应用。
本发明以相关联的方式提供能在图像处理系统中执行的图像处理方法,该图像处理系统中包括:
·用于投射第一光束以在屏幕上形成第一图像的设备,屏幕上来自观察区的第二光束形成第二图像;
·用于采集第三图像的设备,所述第三图像在所述屏幕上形成并且对应于所述第二图像及所述第一图像的至少一部分的重叠;
所述第一图像和所述第三图像以文件的形式存储在数据处理系统中,该方法包括:
·从存储所述第一图像的文件读取第一数字数据步骤,所述第一数字数据表示所述第一图像的所述部分;
·从存储所述第三图像的文件读取第二数字数据的步骤,所述第二数字数据表示第三图像;
·计算第三数字数据的步骤,所述第三数字数据是通过从所述第二数字数据中减去所述第一数字数据的至少一部分而获得的,以形成表示所述观察区的图像。
在优选实施例中,图像处理方法的步骤通过计算机程序指令确定。
因此,本发明也旨在提供信息介质上由计算机执行的计算机程序,所述程序包括适合执行上述图像处理方法步骤的指令。
该程序能使用任何可编程语言,并采用源码、目标码或介于源码和目标码之间的中间码形式,例如局部编译形式或任何其他期望的形式。
本发明旨在提供一种计算机可读的信息介质,该介质包含上文所述的计算机指令。
所述信息介质可能是任何实体或能存储程序的设备。例如,此介质可包括例如ROM的存储装置,比如CD ROM、微电子电路ROM或例如磁盘(软盘)或硬盘的磁存储装置。
信息介质也可是例如电或光信号的传输介质,能以无线电或其他装置的方式经由电缆或光缆传输。特别是根据本发明,程序可在因特网类型的网络上下载。
作为选择之一,信息介质可以是结合了程序的集成电路,该电路执行正在讨论或在其执行中使用的方法。
附图说明
当前发明的其他特征和优点可从下文给定的带有附图的描述中显现出来,该描述显示了本发明的非限定实施例。在图中:
·图1是现有技术设备的框图;
·图2显示了根据本发明的图像处理设备的第一实施例;
·图3显示了根据本发明的图像处理设备的第二实施例;
·图4的流程图形式显示了根据本发明的图像处理方法优选实施例的主要步骤。
具体实施方式
根据本发明,图2显示了图像处理系统ST1的第一实施例。
该系统包括屏幕ECR、投影仪PRJ,在屏幕ECR上投影仪PRJ投射第一光束FL1,形成第一图像I1。
图像I1是来自该输入流FE的视频图像,输入流FE从在此未显示的远端站经由信息系统SI1的通信卡COM接收。
输入流FE由视频卡CV处理,视频卡被集成到数据处理系统SI1并产生有R、G、B三个成分的信号S1,该信号供给投影仪PRJ的输入。
图像处理系统ST1还包括采集设备,它主要由视频相机CAM和采集卡CA组成,采集卡被集成进数据处理系统SI1中。
来自采集卡CA的输出流FS经由通信卡COM被送到远端站。
视频相机CAM和投影仪PRJ在由屏幕ECR定界的半平面相同侧。
相机CAM在屏幕的另一边拍摄观察区ZO。
换句话说,观察区ZO在屏幕ECR上产生第二图像I2,该图像迭加在由投影仪PRJ形成的第一图像I1的一部分I1’上。
本领域技术人员能理解实际上视频相机CAM要求在屏幕ECR上形成的第三图像I3,该第三图像I3对应于迭加在第一图像I1的一部分I1’上的第二图像。
在此处描述的实施例中,来自视频相机CAM的对应于连续图像I3的输出信号SV1符合S-Video标准。
在此处描述的优选实施例中,根据本发明的图像处理系统ST1包括亮度传感器CAP,适于根据亮度从0到1提供权重系数α;环境越暗,此权重系数越接近1。
在此第一实施例中,图像处理系统ST1首先包含数据处理系统ST1和视频相机CAM之间的控制器CTR,其次包含投影仪PRJ和视频相机CAM。
如上文所述,控制器CTR包括无损分流调节器单元DRV,此单元接收来自数据处理系统SI1的视频卡CV的带有RGB成分的信号S1作为输入,并将该信号S1转发到投影仪。
该无损分流调节器单元DRV还复制信号S1并将其重新定向到乘法器MU,乘法器在另一输入接收来自亮度传感器CAP的权重系数α。
乘法器MU因此供应带有RGB分量的信号S1’作为输出,信号S1’的每个成分由通过权重系数α乘信号S1的相应分量获得。
控制器CTR还包括转换装置CNV1,此装置接收S-Video格式的信号SV1作为输入,此信号由视频相机CAM提供,而且转换装置CNV1将该S-Video信号转换成带有RGB成分的第二信号S2。
控制器CTR包括带有第一输入和第二输入的减法器,该第一输入接收转换装置CNV1的输出信号S2,该第二输入接收乘法器MU的输出信号。
减法器SS提供第三信号S3作为输出,S3由在其第一输入接收的信号S2减去在其第二输入接收的信号而得到。
该第三信号S3表示观察区ZO的图像I2’。该第三信号S3作为输出提供给第二转换器CNV2,该转换器将有RGB成分的信号S3转换成符合S-Video标准的信号SV2
信号SV2作为输入提供给数据处理系统SI1的采集卡CA,以经由通信卡COM转发给远端站。
图3表示根据本发明图像处理系统的第二实施例。
该图与图2中的相同元件具有相同的附图标记。
图像处理系统ST2包括数据处理系统ST1,所述ST1包括由总线B连接的单元,包括上文描述的视频卡CV、采集卡CA和通信卡COM。
在此总线B上有寄存器REG,它存储由亮度传感器CAP提供的权重系数α。
此处描述的数据处理系统SI2的基础是计算机。它包括处理器CPU和只读存储器ROM,只读存储器含有执行图像处理方法步骤的计算机程序,根据本发明的方法在图4以流程图形式表示。
数据处理系统SI2还包括随机访问存储器RAM,该存储器用于存储必须由处理器CPU执行此数据处理程序的临时变量。
在此描述的优选实施例中,经由通信卡COM接收的输入流FE缓存在快速访问存储器MEM1中,该存储器是视频卡CV可访问的。
同样,由采集卡CA产生的输出流FS被存储在快速访问存储器MEM2中。
此处假设每个来自输入流FE的图像I1以计算机文件FI1形式存储在快速访问存储器MEM1中,并假设每个由采集卡CA输出的图像以数据文件FI3的形式存储在快速访问随机访问存储器MEM2中。
第一数字数据DN1表示在屏幕上与第二图像交迭的第一图像的一部分I1’。
第二数字数据DN2表示由视频相机CAM采集的第三图像I3。
假设,如果采集卡CA在快速访问存储器MEM2存储与视频相机CAM采集的图像I3对应的文件FI3,则采集卡产生发送到处理器CPU的信号,这里未显示。
收到该信号后,处理器执行第一步骤E10,在该步骤中,当视频相机CAM采集图像I3的时刻,处理器从文件FI1读取表示被投射到屏幕ECR上的第一图像I1的部分I1’的第一数字数据DN1。
第二步骤或读取步骤E20紧跟着该步骤E10,在该步骤中处理器CPU通过读取存储图像I3的文件FI3获得上文提到的第二数字数据DN2。
步骤E30紧跟着所述读取步骤D20,在该步骤中,处理器CPU从寄存器REG读取权重系数α值。
处理器CPU计算第三数字数据的步骤紧跟着所述读取步骤,该第三数字数据通过从第二数字数据DN2减去第一数字数据DN1和权重系数α的乘积而获得。
第三数字数据DN3以文件F12形式存储在随机访问存储器RAM中,该文件用来表示表示观察区的图像I2’。
计算机文件FI2构成发往远端站的输出视频流FS。

Claims (9)

1.一种图像处理系统,包括:
·用于投射第一光束(FL1)以在屏幕(ECR)上形成第一图像(I1)的设备(PRJ,SI1),在所述屏幕上来自观察区(ZO)的第二光束(FL2)形成第二图像(I2);以及
·用于采集第三图像(I3)的设备(CAM,SI1),所述第三图像在所述屏幕(ECR)上形成并且对应于所述第二图像(I2)及所述第一图像(I1)的至少一部分(I1’)的重叠;
所述系统特征在于,其进一步包含控制装置,用于:
·获得表示所述第一图像(I1)的所述部分(I1’)的第一信号(S1);
·获得表示所述第三图像(I3)的第二信号(S2);
·通过从所述第二信号(S2)减去所述第一信号(S1)的至少一部分计算第三信号(S3)以形成表示所述观察区(ZO)的图像(I2’)。
2.根据权利要求1所述的系统,其特征在于,所述控制装置(CTR)以权重系数α乘所述第一信号(S1),并且从所述第二信号(S2)减去由所述乘积产生的信号以获得所述第三信号(S3)。
3.根据权利要求2所述的系统,其特征在于,包括用于根据亮度获得所述权重系数(α)的亮度传感器(CAP)。
4.根据权利要求1至3任一项所述的系统,其特征在于,所述投影设备(PRJ,SI1)包括通过电连接和所述电连接上的无损分流调节单元(DRV)连接到数据处理系统(SI1)的投影仪(PRJ),所述电连接传送表示所述第一图像(I1)的信号(R、G、B),所述无损分流调节单元(DRV)复制所述信号以形成所述第一信号(S1)。
5.根据权利要求1至4的任一项所述的系统,其特征在于,包括用于将所述第一信号(S1)和/或所述第二信号(S2)转换成适合计算所述第三信号(S3)格式的装置(CNV1)。
6.根据权利要求1至5中的任一项所述的系统,其特征在于,包括用于发送所述第三信号(S3)到远端设备的装置(COM)。
7.一种在图像处理系统中实现的图像处理方法,该系统包括:
·用于投射第一光束(FL1)以在屏幕(ECR)上形成第一图像(I1)的设备(PRJ,SI1),所述屏幕上来自观察区(ZO)的第二光束(FL2)形成第二图像(I2);
·用于采集第三图像(I3)的设备(CAM,SI1),所述第三图像在所述屏幕(ECR)上形成并且对应于所述第二图像(I2)及所述第一图像(I1)的至少一部分(I1’)的重叠;
所述第一图像(I1)和所述第三图像(I3)以文件(FI1,FI3)的形式存储在数据处理系统(SI2)中,所述方法特征在于包括:
·从存储所述第一图像(I1)的文件(FI1)读取第一数字数据(DN1)步骤(E10),所述第一数字数据(DN1)表示所述第一图像(I1)的所述部分(I1’);
·从存储所述第三图像的文件(FI3)读取第二数字数据(DN2)的步骤(E20),所述第二数字数据(DN2)表示第三图像;
·计算第三数字数据(DN3)的步骤(E40),所述第三数字数据(DN3)是通过从所述第二数字数据(DN2)中减去所述第一数字数据(DN1)的至少一部分而获得的,以形成表示所述观察区(ZO)的图像(I2’)。
8.一种计算机程序,所述计算机程序在由计算机执行所述的程序的情况下用于执行根据权利要求7的执行图像处理方法步骤的指令。
9.一种存储计算机程序的计算机可读存储介质,所述计算机程序用于执行根据权利要求7的执行图像处理方法步骤的指令。
CN2006800326368A 2005-09-08 2006-09-07 以可视回波消除方式处理图像的系统和方法 Expired - Fee Related CN101258747B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR0509152A FR2890515A1 (fr) 2005-09-08 2005-09-08 Systeme et procede de traitement d'images par annulation d'echo video
FR0509152 2005-09-08
PCT/FR2006/050850 WO2007028928A1 (fr) 2005-09-08 2006-09-07 Systeme et procede de traitement d'images par annulation d'echo video

Publications (2)

Publication Number Publication Date
CN101258747A true CN101258747A (zh) 2008-09-03
CN101258747B CN101258747B (zh) 2010-12-01

Family

ID=36572433

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2006800326368A Expired - Fee Related CN101258747B (zh) 2005-09-08 2006-09-07 以可视回波消除方式处理图像的系统和方法

Country Status (8)

Country Link
US (1) US8421843B2 (zh)
EP (1) EP1929777B1 (zh)
JP (1) JP2009508377A (zh)
CN (1) CN101258747B (zh)
AT (1) ATE488092T1 (zh)
DE (1) DE602006018163D1 (zh)
FR (1) FR2890515A1 (zh)
WO (1) WO2007028928A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9088688B2 (en) 2012-09-05 2015-07-21 Cisco Technology, Inc. System and method for collaboration revelation and participant stacking in a network environment

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5243413A (en) * 1992-09-02 1993-09-07 At&T Bell Laboratories Color parallax-free camera and display
US5400069A (en) * 1993-06-16 1995-03-21 Bell Communications Research, Inc. Eye contact video-conferencing system and screen
US5666155A (en) * 1994-06-24 1997-09-09 Lucent Technologies Inc. Eye contact video telephony
JPH11298779A (ja) * 1998-04-09 1999-10-29 Denso Corp 画像取り込み装置
JPH11355742A (ja) * 1998-06-05 1999-12-24 Denso Corp 画像入出力システム
JP3674474B2 (ja) * 2000-08-04 2005-07-20 ヤマハ株式会社 映像システム
US6507357B2 (en) * 2000-11-29 2003-01-14 Applied Minds, Inc. Method and apparatus for maintaining eye contact in teleconferencing using reflected images
WO2003077095A1 (de) * 2002-03-13 2003-09-18 Eidgenössische Technische Hochschule Zürich Projektionsvorrichtung und verfahren zur wiedergabe und erfassung von bilddaten
US6882358B1 (en) * 2002-10-02 2005-04-19 Terabeam Corporation Apparatus, system and method for enabling eye-to-eye contact in video conferences
NO318883B1 (no) * 2003-04-07 2005-05-18 Tandberg Telecom As Arrangement og fremgangsmate for forbedret kommunikasjon mellom deltakere i en videokonferanse
FR2858431A1 (fr) * 2003-07-28 2005-02-04 France Telecom Installation de prise de vue, utilisant des trajets spatiaux partages sur une base temporelle
US7057637B2 (en) * 2004-04-21 2006-06-06 White Peter Mcduffie Reflected backdrop for communications systems

Also Published As

Publication number Publication date
FR2890515A1 (fr) 2007-03-09
JP2009508377A (ja) 2009-02-26
EP1929777B1 (fr) 2010-11-10
WO2007028928A1 (fr) 2007-03-15
ATE488092T1 (de) 2010-11-15
US20090251527A1 (en) 2009-10-08
CN101258747B (zh) 2010-12-01
EP1929777A1 (fr) 2008-06-11
DE602006018163D1 (de) 2010-12-23
US8421843B2 (en) 2013-04-16

Similar Documents

Publication Publication Date Title
US11080840B2 (en) Automatic optical inspection device based on CPU+GPU+FPGA architecture
JP4882288B2 (ja) 表示制御装置、システム及び表示制御方法
CN102577370B (zh) 信息处理系统以及信息处理方法
CN100466720C (zh) 视频合成设备及视频合成方法
US20090257730A1 (en) Video server, video client device and video processing method thereof
CN100369461C (zh) 图像捕获设备、图像显示方法和程序
TWI440361B (zh) 在具有儲存的操作系統之錄影顯示系統中覆蓋影像的方法與裝置
Baker et al. Understanding performance in coliseum, an immersive videoconferencing system
CN102761702A (zh) 在移动设备中的图像重叠
JP2000516784A (ja) 画像伝送遠隔物体検査装置
CN110333837B (zh) 会议系统、通信方法和装置
JP5317630B2 (ja) 画像配信装置、方法及びプログラム
CN103004187A (zh) 多地点绘制图像共享装置、多地点绘制图像共享系统、由多地点绘制图像共享装置执行的方法、程序和记录介质
CN107045699A (zh) 在线交互拍卖方法及系统
CN109413364A (zh) 一种交互式远程会晤系统和方法
CN102238331B (zh) 摄影设备
CN101258747B (zh) 以可视回波消除方式处理图像的系统和方法
EP1434433A3 (en) Full resolution multiple image projection system and method for projecting two images in full resolution adjacent each other
CN106888353A (zh) 一种图像采集方法及设备
EP2028641A2 (en) KVM switch and method for controlling the same
JPH10187107A (ja) 情報表示システム、表示スケジュール作成装置、案内情報管理装置
CN101051919B (zh) 通信装置
CN106878653A (zh) 一种用于受限环境下的远程视频会见的方法及系统
CN101583010A (zh) 图像处理方法及图像处理系统
US20030132939A1 (en) Interactive navigation through real-time live video space created in a given remote geographic location

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20101201

Termination date: 20150907

EXPY Termination of patent right or utility model