CN113225152B - 一种相机同步的方法、装置及计算机可读介质 - Google Patents
一种相机同步的方法、装置及计算机可读介质 Download PDFInfo
- Publication number
- CN113225152B CN113225152B CN202110769848.0A CN202110769848A CN113225152B CN 113225152 B CN113225152 B CN 113225152B CN 202110769848 A CN202110769848 A CN 202110769848A CN 113225152 B CN113225152 B CN 113225152B
- Authority
- CN
- China
- Prior art keywords
- frequency
- clock frequency
- local time
- slave device
- slave
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000001514 detection method Methods 0.000 claims abstract description 13
- 230000004044 response Effects 0.000 claims abstract description 10
- 238000012937 correction Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 3
- 230000001360 synchronised effect Effects 0.000 abstract description 14
- 238000004891 communication Methods 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 238000007405 data analysis Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 5
- 230000003993 interaction Effects 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 239000013078 crystal Substances 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000010355 oscillation Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 101100459256 Cyprinus carpio myca gene Proteins 0.000 description 1
- 101100459261 Cyprinus carpio mycb gene Proteins 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/025—Systems for the transmission of digital non-picture data, e.g. of text during the active part of a television frame
- H04N7/035—Circuits for the digital non-picture data signal, e.g. for slicing of the data signal, for regeneration of the data-clock signal, for error detection or correction of the data signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/04—Synchronising
- H04N5/06—Generation of synchronising signals
- H04N5/067—Arrangements or circuits at the transmitter end
- H04N5/073—Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations
- H04N5/0733—Arrangements or circuits at the transmitter end for mutually locking plural sources of synchronising signals, e.g. studios or relay stations for distributing synchronisation pulses to different TV cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/24—Systems for the transmission of television signals using pulse code modulation
- H04N7/52—Systems for transmission of a pulse code modulated video signal with one or more other pulse code modulated signals, e.g. an audio signal or a synchronizing signal
- H04N7/54—Systems for transmission of a pulse code modulated video signal with one or more other pulse code modulated signals, e.g. an audio signal or a synchronizing signal the signals being synchronous
- H04N7/56—Synchronising systems therefor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04J—MULTIPLEX COMMUNICATION
- H04J3/00—Time-division multiplex systems
- H04J3/02—Details
- H04J3/06—Synchronising arrangements
- H04J3/0635—Clock or time synchronisation in a network
- H04J3/0638—Clock or time synchronisation among nodes; Internode synchronisation
- H04J3/0658—Clock or time synchronisation among packet nodes
- H04J3/0661—Clock or time synchronisation among packet nodes using timestamps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/21805—Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/242—Synchronization processes, e.g. processing of PCR [Program Clock References]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/41—Structure of client; Structure of client peripherals
- H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
- H04N21/4223—Cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Studio Devices (AREA)
- Synchronisation In Digital Transmission Systems (AREA)
- Electric Clocks (AREA)
Abstract
本发明公开了一种相机同步的方法、装置及计算机可读介质,属于通信技术领域。该方法包括:确定主设备与从设备之间时钟频率比;基于时钟频率比、从设备的参考时钟频率和预设分频频率,将从设备的本地时钟频率同步至系统时钟频率;系统时钟频率是指主设备的本地时钟频率;将系统频率下从设备的本地时间同步至系统时间;系统时间是指主设备的本地时间;接收触发指令,并响应于触发指令对从设备当前时刻的本地时间进行检测;若检测结果表征从设备当前时刻的本地时间满足预设条件,则执行与本地时间相应的预设操作。由此,能够将从设备和主设备的内部运行状态实现同步,解决了现有技术中由于多个相机的内部运行状态不同步导致无法相互协同的问题。
Description
技术领域
本发明涉及通信技术领域,尤其涉及一种相机同步的方法、装置及计算机可读介质。
背景技术
在机器视觉领域,多相机同步触发拍照或者相互协同的应用场景非常常见。现有的相机触发方式主要有三种;第一种触发方式是通过上位机指令的软触发方法:上位机软件通过指令给各个相机发送触发指令,但是由于网络的实验抖动或者相机内部软件指令的解析时延波动均会导致多个相机很难实现同步操作。第二种方式是基于外部触发信号线的硬触发方式:每个相机连接一根触发信号线,虽然这种方法触发信号精度相对来讲较高,但是由于各个相机本身的差异导致相机的系统时钟不同,因此使得多个相机输出的数据帧的时间戳与内部数据等无法进行同步。第三种触发方式是基于网络广播指令的方式:这种方法有IEEE1588标准支撑,通过软件和硬件相结合的方式,为各个相机提供同步机制,能够达到很高的同步精度,但是该方法不仅需要定时去同步相机的时间戳,而且只针对网络连接的相机。
然而,现有技术较多的是针对外部曝光信号的同步,或者基于网络对相机时间戳的同步,但缺少对相机内部时钟的同步机制,从而使得相机的运行状态无法实现同步。
发明内容
为了解决上述现有技术存在的问题,本发明实施例提供一种相机同步的方法、装置及计算机可读介质,能够同步各个相机的运行状态,实现多相机之间的相互协同。
为实现上述目的,根据本发明实施例第一方面,提供一种相机同步的方法,该方法包括:作为主设备的第一相机以及至少一个作为从设备的第二相机,所述方法应用于所述从设备,确定所述主设备与所述从设备之间时钟频率比;基于所述时钟频率比、所述从设备的参考时钟频率和预设分频频率,将所述从设备的本地时钟频率同步至系统时钟频率;其中,所述系统时钟频率用于指示所述主设备的本地时钟频率;将所述系统时钟频率下所述从设备的本地时间同步至系统时间;其中,所述系统时间用于指示所述主设备的本地时间;接收触发指令,并响应于所述触发指令对所述从设备当前时刻的本地时间进行检测;若检测结果表征所述从设备当前时刻的本地时间满足预设条件,则执行与所述本地时间相应的预设操作。
可选的,所述确定所述主设备与所述从设备之间时钟频率比,包括:获取所述从设备接收第一报文时的本地时间;从所述第一报文中提取所述主设备发送所述第一报文时的本地时间;获取所述从设备接收第二报文时的本地时间;从所述第二报文中提取所述主设备发送所述第二报文时的本地时间;根据所述从设备接收第一报文时的本地时间、所述从设备接收第二报文时的本地时间、所述主设备发送第一报文时的本地时间,以及所述主设备发送所述第二报文时的本地时间,确定所述主设备和所述从设备之间时钟频率比。
可选的,所述基于所述时钟频率比、所述从设备的参考时钟频率和预设分频频率,将所述从设备的本地时钟频率同步至系统时钟频率,包括:根据所述时钟频率比和所述从设备的本地时钟频率,确定系统时钟频率;确定所述从设备的分频频率的校正系数;基于所述校正系数添加至所述从设备的分频器中,并利用所述分频器将所述从设备的本地时钟频率分频至预设分频频率;将所述从设备的预设分频频率倍频至所述系统时钟频率。
可选的,所述确定所述从设备的分频频率的校正系数,包括:获取所述从设备的参考时钟频率和预设分频频率;根据所述参考时钟频率和所述预设分频频率,确定所述从设备的基准分频系数;根据所述参考时钟频率和所述从设备的本地时钟频率,确定所述从设备的候补频率比例;基于所述候补频率比例和所述基准分频系数确定候补频率系数;基于所述基准分频系数、候补频率系数、所述参考时钟频率和所述本地时钟频率,确定所述从设备的分频频率的校正系数。
可选的,所述将所述系统时钟频率下所述从设备的本地时间同步至系统时间,包括:确定所述主设备和所述从设备之间时间差;基于所述时间差将所述从设备的本地时间同步至所述系统时间。
可选的,所述确定所述主设备和所述从设备之间时间差,包括:获取所述从设备发送第三报文时的本地时间;获取所述从设备接收第四报文时的本地时间;从所述第四报文中提取所述主设备接收所述第三报文时的本地时间以及所述主设备发送所述第四报文时的本地时间;基于所述从设备发送第三报文时的本地时间、所述从设备接收第四报文时的本地时间、所述主设备接收所述第三报文时的本地时间,以及所述主设备发送所述第四报文时的本地时间,确定所述主设备和所述从设备之间时间差。
可选的,所述主设备和所述从设备通过相机的触发管脚、12C总线或网络接口进行通信连接。
为实现上述目的,根据本发明实施例第二方面,还提供一种相机同步的装置,该装置包括:作为主设备的第一相机以及至少一个作为从设备的第二相机,所述装置应用于所述从设备,确定模块,用于确定所述主设备与所述从设备之间时钟频率比;第一同步模块,用于基于所述时钟频率比、所述从设备的参考时钟频率和预设分频频率,将所述从设备的本地时钟频率同步至系统时钟频率;其中,所述系统时钟频率用于指示所述主设备的本地时钟频率;第二同步模块,用于将所述系统时钟频率下所述从设备的本地时间同步至系统时间;其中,所述系统时间用于指示所述主设备的本地时间;执行模块,用于接收触发指令,并响应于所述触发指令对所述从设备当前时刻的本地时间进行检测;若检测结果表征所述从设备当前时刻的本地时间满足预设条件,则执行与所述本地时间相应的预设操作。
可选的,所述确定模块包括:第一获取单元,用于获取所述从设备接收第一报文时的本地时间;第一提取单元,用于从所述第一报文中提取所述主设备发送所述第一报文时的本地时间;第二获取单元,用于获取所述从设备接收第二报文时的本地时间;第二提取单元,用于从所述第二报文中提取所述主设备发送所述第二报文时的本地时间;确定单元,用于根据所述从设备接收第一报文时的本地时间、所述从设备接收第二报文时的本地时间、所述主设备发送第一报文时的本地时间,以及所述主设备发送所述第二报文时的本地时间,确定所述主设备和所述从设备之间时钟频率比。
为实现上述目的,根据本发明实施例第三方面,还提供一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如第一方面所述的方法。
与现有技术相比,本发明实施例提供一种相机同步的方法、装置及计算机可读介质,包括作为主设备的第一相机以及至少一个作为从设备的第二相机,该方法应用于从设备,首先确定所述主设备与所述从设备之间时钟频率比;
并基于所述时钟频率比、所述从设备的参考时钟频率和预设分频频率,将所述从设备的本地时钟频率同步至系统时钟频率;其中,所述系统时钟频率用于指示所述主设备的本地时钟频率;之后将所述系统时钟频率下所述从设备的本地时间同步至系统时间;其中,所述系统时间用于指示所述主设备的本地时间;最后响应于所述触发指令,对所述从设备的本地时间进行检测;若检测结果表征所述从设备的本地时间满足预设条件,则执行与所述本地时间相应的预设操作。
由此,能够将从设备和主设备的内部运行状态实现同步,提高了多相机之间时间同步的精确性,从而实现了多相机在同一时刻的相互协同,解决了现有技术中由于无法对相机内部运行状态的同步导致系统的多个相机无法实现相互协同。
需要理解的是,本发明的教导并不需要实现上面所述的全部有益效果,而是特定的技术方案可以实现特定的技术效果,并且本发明的其他实施方式还能够实现上面未提到的有益效果。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中在附图中,相同或对应的标号表示相同或对应的部分。
图1为本发明一实施例相机同步的方法的示意性流程图;
图2为本发明另一实施例确定主设备和从设备之间时钟频率比的示意性流程图的示意性流程图;
图3为本发明再一实施例确定主设备和从设备之间时间差的示意性流程图;
图4为本发明又一实施例从设备的本地时钟频率同步至系统时钟频率的示意性流程图;
图5为本发明一实施例中主设备和从设备连接方式示意图;
图6为本发明另一实施例中报文格式的示意图;
图7为本发明另一实施例中确定时钟频率比模块的示意图;
图8为本发明另一实施例中时钟频率同步过程示意图;
图9为本发明再一实施例中本地时间同步过程示意图;
图10为本发明一实施例中相机同步装置的示意性框图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
如图1所示,本发明一实施例相机同步的方法的示意性流程图。一种相机同步的方法,包括作为主设备的第一相机以及至少一个作为从设备的第二相机,该方法应用于从设备,具体操作流程如下:S101,确定主设备与从设备之间时钟频率比;S102,基于时钟频率比、从设备的参考时钟频率和预设分频频率,将从设备的本地时钟频率同步至系统时钟频率;其中,系统时钟频率用于指示主设备的本地时钟频率;S103,将系统时钟频率下从设备的本地时间同步至系统时间;其中,系统时间用于指示主设备的本地时间;S104,接收触发指令,并响应于触发指令对从设备的本地时间进行检测;若检测结果表征从设备的本地时间满足预设条件,则执行与本地时间相应的预设操作。
在S101中,多相机同步的过程中,采用一主多从的模式进行同步,从设备同步到主设备。设备连接方式如图5所示,其中host表示主设备,cam1、cam2、cam3均表示从设备。主设备通过广播报文发起同步过程后,从设备开始响应的同步过程。
系统包括控制端和设备端,设备端的链路中包括至少两个相机,选定其中一个相机作为主设备,其他相机作为从设备。从设备可以是一个,也可以是多个。主设备和从设备通过相机的触发管脚、12C总线或网络接口进行通信连接。
通过计算主设备的时钟频率和从设备的时钟频率之间的比值,得到时钟频率比。其中,主设备的时钟频率用于指示主设备晶振的振荡频率,从设备的时钟频率用于指示从设备晶振的振荡频率。在这里,对于确定时钟频率比的实现方式不作任何限定。可以基于主设备和从设备之间的报文交互获取主设备的时钟频率和从设备的时钟频率,之后基于主设备的时钟频率和从设备的时钟频率做获得时钟频率比;还可以是基于主设备和从设备之间报文交互获取主设备和从设备的时间戳,基于多个时间戳计算主设备和从设备之间时钟频率比。
在这里,时间戳是指主设备的本地时间或者从设备的本地时间。
在S102,在这里,针对同步从设备的本地时钟频率至系统时钟频率的实现方法不作任何限定。可以是利用计数高位溢出分频的方式对从设备的本地时钟频率进行分频处理,也可以是利用预训练好的模型对从设备的本地时钟频率进行分频处理,之后将分频处理后的分频频率同步至系统时钟频率。由此,通过将从设备的本地时钟频率同步至系统时钟频率,从而实现从设备和主设备具有相同的本地时钟频率。
在S103中,从设备的本地频率调整为系统时钟频率后,在从设备和主设备具有相同本地频率的情况下确定主设备和从设备之间时间差,并基于时间差将从设备的本地时间同步至系统时间。从设备同步系统时间后,由于从设备和主设备具有相同的本地频率,因此能够保证主设备和从设备在相同系统时钟下运行,并且在任何时刻主设备和从设备均具有相同的本地时间,从而有利于实现主设备和从设备的内部运行状态的同步。
在S104中,控制端不仅向从设备发送触发指令,也会向主设备发送与从设备相同的触发指令;与从设备的执行过程相同,主设备接收触发指令,并响应于触发指令,对主设备的当前时刻的本地时间进行检测,若检测结果表征主设备的本地时间满足预设条件,则执行与本地时间响应的预设操作。
例如,分别设置每个相机曝光操作为时间点触发模式;之后控制端向多个相机中每个相机发送触发指令,相机响应于触发指令,对相机当前时刻的本地时间(即当前的时间点)进行检测;若检测结果表征相机当前时刻的本地时间满足曝光操作的时间点,则相机执行与本地时间响应的曝光操作。若检测结果表征相机当前时刻的本地时间不满足曝光操作的时间点,则继续对下一时刻相机的本地时间进行检测。由于各个相机设置了统一时间点触发曝光,而且各个相机的系统时钟也相同,因此通过检测相机本地时间是否满足预设时间点,能够实现多个同时触发曝光,从而实现多个相机内部运行状态相同,使得多个相机之间的相互协同。另外,还可以对各个相机设置相同曝光时间,相同拍摄时间,以及相同时间点复位操作,从而实现多个相机同步采集图像。
在这里,时间点触发模式可以是相机的曝光时间点触发、相机的复位时间点触发,或者其他运行状态的触发。
本实施例通过将从设备的本地时钟频率同步至主设备的本地时钟频率,并在主设备和从设备具有相同本地频率的情况下将从设备的本地时间同步至主设备的本地时间,由此能够使主设备和从设备在相同时钟频率和相同本地时间的条件下运行;通过对当前时刻本地时间进行检测,并基于检测结果执行与本地时间相应的操作,由此能够实现时间点触发,从而使得主从设备实现内部运行状态的同步,提高了主从设备之间的同步性。
需要说明的是,本实施的相机同步方法不仅局限于相机的同步,相机同步只是其中一种应用场景;对于其他设备的运行状态的同步同样适用,在这里不作过多列举。
如图2所示,本发明另一实施例确定主设备和从设备之间时钟频率比的示意性流程图。本实施例是在前述实施例的基础上进一步优化得到的。确定主设备和从设备之间时钟频率比,至少包括如下操作流程:S201,获取从设备接收第一报文时的本地时间;S202,从第一报文中提取主设备发送第一报文时的本地时间;S203,获取从设备接收第二报文时的本地时间;S204,从第二报文中提取主设备发送第二报文时的本地时间;S205,根据从设备接收第一报文时的本地时间、从设备接收第二报文时的本地时间、主设备发送第一报文时的本地时间,以及主设备发送第二报文时的本地时间,确定主设备和从设备之间时钟频率比。
如图6所示,第一报文、第二报文均可以采用此格式;其中,报文包含包头,类型,相机ID,报文数据内容和校验码。报文数据内容包括时间戳、控制指令,以及数据。用类型字节表示数据包的类型,例如:广播包0xFF,设备同步0x01,设备响应0x02,时间设定0x03;用相机的编号表示相机ID;常用的控制命令主要有广播同步,设备同步,设备响应,时间设定等命令报文。广播、设备报文携带的数据包括相机的时间戳,时间设定报文携带的数据包括时间调整值。
本地时间戳模块在数据发送接口发送完相机ID字节时,锁定本地时间或对应的状态信息,并填入发送链路发送出去;数据的接收和发送均按照相同处理方式实现,保证接收方向和发送方向的链路延时相等。在通过数据链路发送不同的报文类型和相机ID,多个相机之间可以相互交换本地时间的信息,以及相机内部的控制指令信息等。
确定时钟频率比模块包括同步数据解析单元、主端时间戳提取单元、本地时间戳
单元、同步数据发送单元以及计算单元。确定模块中各单元的交互如图7所示,完成多个相
机连接后,主设备按照预设时间间隔连续向从设备发送报文。从设备在接收第一广播报
文的过程中,从设备的同步数据解析单元对接收到的第一广播报文进行解析。当解析结果
表征从设备接收第一广播报文中主设备ID,则从设备通过本地时间戳单元获取本地时间
t2,并将本地时间t2发送至计算单元。从设备在接收完第一广播报文后进行校验,若校验通
过,则主端时间戳提取单元从第一广播报文中提取主设备发送第一广播报文时的本地时间
t1,并将本地时间t1发送至计算单元。从设备在接收主设备第二广播报文的过程中,从设备
的同步数据解析单元对接收到第二广播报文进行解析。当解析结果表征从设备接收第二广
播报文中主设备ID,则从设备通过本地时间戳单元获取本地时间t4,并将本地时间t4发送至
计算单元。从设备在接收完第二广播报文后进行校验,若校验通过,则主端时间戳提取单元
从第二广播报文中提取主设备发送第二广播报文时的本地时间t3,并将本地时间t3发送至
计算单元。同步数据解析单元在提取广播报文的同时将广播报文直接通过同步数据发送单
元转发出去。为了提高主设备和从设备之间时钟频率比的准确性,可以连续多次重复发送
广播报文,获取t2n+1和t2n+2。时钟频率同步过程如图8所示。
式(1)。
本实施例通过主从设备数据报文的交互,能够准确计算主从设备之间时钟频率比,从而有利于主从设备之间时钟频率的同步。
如图3所示,本发明再一实施例确定主设备和从设备之间时间差的示意性流程图。本实施例是在前述实施例的基础上进一步优化得到的。确定主设备和从设备之间时间差,至少包括如下操作流程:S301,获取从设备发送第三报文时的本地时间;S302,获取从设备接收第四报文时的本地时间;S303,从第四报文中提取主设备接收第三报文时的本地时间以及主设备发送第四报文时的本地时间;S304,基于从设备发送第三报文时的本地时间、从设备接收第四报文时的本地时间、主设备接收第三报文时的本地时间,以及主设备发送第四报文时的本地时间,确定主设备和从设备之间时间差。
具体地,主设备发起广播报文启动时间同步过程后,从设备的同步数据发送单元在s1时刻向主设备发送第三报文;主设备接收到第三报文时,同步数据解析单元对接收到的第三报文进行解析,当解析结果表征接收到主设备的ID的字节段时,主设备通过本地时间单元获取本地时间s2。主设备在s3时刻向从设备发起用于设备响应的第四报文,从设备通过数据接收单元接收到主设备的第四报文时,通过本地时间单元获取本地时间s4。本地时间同步过程如图9所示。
从设备与主设备之间时间差通过如下式(2)得到:
式(2)。
本实施例通过主从设备数据报文的交互,能够准确计算主从设备之间时间差,从而有利于主从设备之间本地时间的同步。
如图4所示,本发明又一实施例从设备的本地时钟频率同步至系统时钟频率的示意性流程图。本实施例是在前述实施例的基础上进一步优化得到的。从设备的本地时钟频率同步至系统时钟频率,至少包括如下操作流程:S401,根据时钟频率比和从设备的本地时钟频率,确定系统时钟频率;S402,确定从设备的分频频率的校正系数;S403,将校正系数添加至从设备的分频器中,并利用分频器将从设备的本地时钟频率分频至预设分频频率;S404,将从设备的预设分频频率倍频至系统时钟频率。
在S401中,例如,系统时钟频率通过如下式(3)得到:
式(3)。
其中,f osc 是同步前从设备的的本地时钟频率;f osys 是系统时钟频率,即同步后从设备的的本地时钟频率;Ratio是主设备与从设备之间时钟频率比。
在S402至S404中,具体地,确定所述从设备的分频频率的校正系数,包括:获取所述从设备的参考时钟频率和预设分频频率;根据所述参考时钟频率和所述预设分频频率,确定所述从设备的基准分频系数;根据所述参考时钟频率和所述从设备的本地时钟频率,确定所述从设备的候补频率比例;基于所述候补频率比例和所述基准分频系数确定候补频率系数;基于所述基准分频系数、候补频率系数、所述参考时钟频率和所述本地时钟频率,确定所述从设备的分频频率的校正系数。从设备本地时钟频率的同步可以转换为单位时间内信号的转换;例如,从设备的参考时钟频率100Mhz,本地时钟频率99Mhz,预设分频频率25Mhz;计算参考时钟频率和预设分频频率之间的比值,得到基准分频系数,基准分频系数为0x1000;确定参考时钟频率与从设备本地时钟频率之间差值,并计算该差值与参考时钟频率之间的比值,得到从设备的候补频率比例,之后将候补频率比例与基准分频系数相乘,得到候补频率系数0x029;基于基准分频系数、候补频率系数、参考时钟频率和本地时钟频率,计算1ms内从设备分频频率的校正系数0x9088。将校正系数0x9088添加到从设备的分频器中,并向分频器输入从设备的参考时钟频率99Mhz,分频器将99Mhz的频率分频至25Mhz。之后在25Mhz的基础上,通过锁相环模块倍频到系统时钟频率,从而达到从设备与主设备具有相同的时钟频率。
需要说明的是,由于不同相机的晶振频率不同,因此每个相机对应的参考时钟频率也是不同的。预设分频频率是人为设定的。
本实施例采用技术高位溢出分频的方式对从设备的参考时钟频率进行分频,在基准分频系数的基础上增加或减少对应候补频率系数;并且由于时钟频率差精度存在误差累积,每毫秒需要将从设备的分频频率的校正系数累积到分频计数器中,分频计数器将溢出位作为分频频率输出,然后利用锁相环模块将分频频率倍频到系统时钟频率,从而实现将从设备的本地时钟频率同步至系统时钟频率,简化了步骤,提高了本地时钟频率同步的效率和精度。
本发明实施例的方法通过数据报文交互的方式,能够实现主从设备内部时钟的同步,不仅提高了主从设备之间时间同步的精确度,而且整个同步过程不需要任何外部设备,也不受任何连接方式的限制,因此本实施例的相机同步方法具有普适性。
如图10所示,为本发明一实施例中相机同步装置的示意性框图。一种相机同步装置,该装置100作为主设备的第一相机以及至少一个作为从设备的第二相机,该装置100应用于从设备,确定模块101,用于确定主设备与从设备之间时钟频率比;第一同步模块102,用于基于时钟频率比、从设备的参考时钟频率和预设分频频率,将从设备的本地时钟频率同步至系统时钟频率;其中,系统时钟频率用于指示主设备的本地时钟频率;第二同步模块103,用于将系统时钟频率下从设备的本地时间同步至系统时间;其中,系统时间用于指示主设备的本地时间;执行模块104,用于接收触发指令,并响应于触发指令对从设备当前时刻的本地时间进行检测;若检测结果表征从设备当前时刻的本地时间满足预设条件,则执行与本地时间相应的预设操作。
在可选的实施例中,确定模块101包括:第一获取单元,用于获取从设备接收第一报文时的本地时间;第一提取单元,用于从第一报文中提取主设备发送第一报文时的本地时间;第二获取单元,用于获取从设备接收第二报文时的本地时间;第二提取单元,用于从第二报文中提取主设备发送第二报文时的本地时间;确定单元,用于根据从设备接收第一报文时的本地时间、从设备接收第二报文时的本地时间、主设备发送第一报文时的本地时间,以及主设备发送第二报文时的本地时间,确定主设备和从设备之间时钟频率比。
在可选的实施例中,第一同步模块102包括:第一确定单元,用于根据时钟频率比和从设备的本地时钟频率,确定系统时钟频率;第二确定单元,用于确定从设备的分频频率的校正系数;分频单元,用于基于校正系数添加至从设备的分频器中,并利用分频器将从设备的本地时钟频率分频至预设分频频率;倍频单元,用于将从设备的预设分频频率倍频至系统时钟频率。
在可选的实施例中,第一同步模块102中的第二确定单元包括:获取子单元,用于获取从设备的参考时钟频率和预设分频频率;第一确定子单元,用于根据参考时钟频率和预设分频频率,确定从设备的基准分频系数;第二确定子单元,用于根据参考时钟频率和从设备的本地时钟频率,确定从设备的候补频率比例;第三确定子单元,用于基于候补频率比例和基准分频系数确定候补频率系数;第四确定子单元,用于基于基准分频系数、候补频率系数、参考时钟频率和本地时钟频率,确定从设备的分频频率的校正系数。
在可选的实施例中,第二同步模块103包括:确定单元,用于确定主设备和从设备之间时间差;同步单元,用于基于时间差将从设备的本地时间同步至系统时间。
在可选的实施例中,第二同步模块103的确定单元包括:第一获取子单元,用于获取从设备发送第三报文时的本地时间;第二获取子单元,用于获取从设备接收第四报文时的本地时间;提取子单元,用于从第四报文中提取主设备接收第三报文时的本地时间以及主设备发送第四报文时的本地时间;确定子单元,用于基于从设备发送第三报文时的本地时间、从设备接收第四报文时的本地时间、主设备接收第三报文时的本地时间,以及主设备发送第四报文时的本地时间,确定主设备和从设备之间时间差。
在可选的实施例中,主设备和从设备通过相机的触发管脚、12C总线或网络接口进行通信连接。
上述装置可执行本发明一实施例所提供的相机同步的额方法,具备执行疲劳测量方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明实施例所提供的相机同步的方法。
根据本发明再一实施例,还提供了一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当该一个或多个程序被该一个或多个处理器执行,使得该一个或多个处理器实现本发明上述实施例提供的相机同步的方法。
本发明实施例另一方面提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时,使得所述处理器至少执行如下所述的操作步骤:S101,确定主设备与从设备之间时钟频率比;S102,基于时钟频率比、从设备的参考时钟频率和预设分频频率,将从设备的本地时钟频率同步至系统时钟频率;其中,系统时钟频率用于指示主设备的本地时钟频率;S103,将系统时钟频率下从设备的本地时间同步至系统时间;其中,系统时间用于指示主设备的本地时间;S104,接收触发指令,并响应于触发指令对从设备当前时刻的本地时间进行检测;若检测结果表征从设备当前时刻的本地时间满足预设条件,则执行与本地时间相应的预设操作。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
以上,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (8)
1.一种相机同步的方法,其特征在于,包括:作为主设备的第一相机以及至少一个作为从设备的第二相机,所述方法应用于所述从设备,
确定所述主设备与所述从设备之间时钟频率比;
根据所述时钟频率比和所述从设备的本地时钟频率,确定系统时钟频率;获取所述从设备的参考时钟频率和预设分频频率;根据所述参考时钟频率和所述预设分频频率,确定所述从设备的基准分频系数;根据所述参考时钟频率和所述从设备的本地时钟频率,确定所述从设备的候补频率比例;基于所述候补频率比例和所述基准分频系数确定候补频率系数;基于所述基准分频系数、候补频率系数、所述参考时钟频率和所述本地时钟频率,确定所述从设备的分频频率的校正系数;将所述校正系数添加至所述从设备的分频器中,并利用所述分频器将所述从设备的本地时钟频率分频至预设分频频率;将所述从设备的预设分频频率倍频至所述系统时钟频率;其中,所述系统时钟频率用于指示所述主设备的本地时钟频率;
将所述系统时钟频率下所述从设备的本地时间同步至系统时间;其中,所述系统时间用于指示所述主设备的本地时间;
接收触发指令,并响应于所述触发指令对所述从设备当前时刻的本地时间进行检测;若检测结果表征所述从设备当前时刻的本地时间满足预设条件,则执行与所述本地时间相应的预设操作。
2.根据权利要求1所述的方法,其特征在于,所述确定所述主设备与所述从设备之间时钟频率比,包括:
获取所述从设备接收第一报文时的本地时间;
从所述第一报文中提取所述主设备发送所述第一报文时的本地时间;
获取所述从设备接收第二报文时的本地时间;
从所述第二报文中提取所述主设备发送所述第二报文时的本地时间;
根据所述从设备接收第一报文时的本地时间、所述从设备接收第二报文时的本地时间、所述主设备发送第一报文时的本地时间,以及所述主设备发送所述第二报文时的本地时间,确定所述主设备和所述从设备之间时钟频率比。
3.根据权利要求1所述的方法,其特征在于,所述将所述系统时钟频率下所述从设备的本地时间同步至系统时间,包括:
确定所述主设备和所述从设备之间时间差;
基于所述时间差将所述从设备的本地时间同步至所述系统时间。
4.根据权利要求3所述的方法,其特征在于,所述确定所述主设备和所述从设备之间时间差,包括:
获取所述从设备发送第三报文时的本地时间;
获取所述从设备接收第四报文时的本地时间;
从所述第四报文中提取所述主设备接收所述第三报文时的本地时间以及所述主设备发送所述第四报文时的本地时间;
基于所述从设备发送第三报文时的本地时间、所述从设备接收第四报文时的本地时间、所述主设备接收所述第三报文时的本地时间,以及所述主设备发送所述第四报文时的本地时间,确定所述主设备和所述从设备之间时间差。
5.根据权利要求1所述的方法,其特征在于,所述主设备和所述从设备通过相机的触发管脚、12C总线或网络接口进行通信连接。
6.一种相机同步的装置,其特征在于,包括:作为主设备的第一相机以及至少一个作为从设备的第二相机,所述装置应用于所述从设备,
确定模块,用于确定所述主设备与所述从设备之间时钟频率比;
第一同步模块,用于根据所述时钟频率比和所述从设备的本地时钟频率,确定系统时钟频率;获取所述从设备的参考时钟频率和预设分频频率;根据所述参考时钟频率和所述预设分频频率,确定所述从设备的基准分频系数;根据所述参考时钟频率和所述从设备的本地时钟频率,确定所述从设备的候补频率比例;基于所述候补频率比例和所述基准分频系数确定候补频率系数;基于所述基准分频系数、候补频率系数、所述参考时钟频率和所述本地时钟频率,确定所述从设备的分频频率的校正系数;将所述校正系数添加至所述从设备的分频器中,并利用所述分频器将所述从设备的本地时钟频率分频至预设分频频率;将所述从设备的预设分频频率倍频至所述系统时钟频率;其中,所述系统时钟频率用于指示所述主设备的本地时钟频率;
第二同步模块,用于将所述系统时钟频率下所述从设备的本地时间同步至系统时间;其中,所述系统时间用于指示所述主设备的本地时间;
执行模块,用于接收触发指令,并响应于所述触发指令对所述从设备当前时刻的本地时间进行检测;若检测结果表征所述从设备当前时刻的本地时间满足预设条件,则执行与所述本地时间相应的预设操作。
7.根据权利要求6所述的装置,其特征在于,所述确定模块包括:
第一获取单元,用于获取所述从设备接收第一报文时的本地时间;
第一提取单元,用于从所述第一报文中提取所述主设备发送所述第一报文时的本地时间;
第二获取单元,用于获取所述从设备接收第二报文时的本地时间;
第二提取单元,用于从所述第二报文中提取所述主设备发送所述第二报文时的本地时间;
确定单元,用于根据所述从设备接收第一报文时的本地时间、所述从设备接收第二报文时的本地时间、所述主设备发送第一报文时的本地时间,以及所述主设备发送所述第二报文时的本地时间,确定所述主设备和所述从设备之间时钟频率比。
8.一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如权利要求1-5中任一项所述的方法。
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110769848.0A CN113225152B (zh) | 2021-07-08 | 2021-07-08 | 一种相机同步的方法、装置及计算机可读介质 |
JP2024500378A JP2024529305A (ja) | 2021-07-08 | 2022-07-06 | カメラ同期のためのシステムおよび方法 |
EP22836952.6A EP4348887A4 (en) | 2021-07-08 | 2022-07-06 | CAMERA SYNCHRONIZATION SYSTEMS AND METHODS |
PCT/CN2022/104126 WO2023280206A1 (en) | 2021-07-08 | 2022-07-06 | Systems and methods for camera synchronization |
KR1020247003799A KR20240028492A (ko) | 2021-07-08 | 2022-07-06 | 카메라 동기화를 위한 시스템들 및 방법들 |
US18/406,267 US20240146870A1 (en) | 2021-07-08 | 2024-01-08 | Systems and methods for camera synchronization |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110769848.0A CN113225152B (zh) | 2021-07-08 | 2021-07-08 | 一种相机同步的方法、装置及计算机可读介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113225152A CN113225152A (zh) | 2021-08-06 |
CN113225152B true CN113225152B (zh) | 2021-10-15 |
Family
ID=77081162
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110769848.0A Active CN113225152B (zh) | 2021-07-08 | 2021-07-08 | 一种相机同步的方法、装置及计算机可读介质 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20240146870A1 (zh) |
EP (1) | EP4348887A4 (zh) |
JP (1) | JP2024529305A (zh) |
KR (1) | KR20240028492A (zh) |
CN (1) | CN113225152B (zh) |
WO (1) | WO2023280206A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113225152B (zh) * | 2021-07-08 | 2021-10-15 | 浙江华睿科技股份有限公司 | 一种相机同步的方法、装置及计算机可读介质 |
CN113821074B (zh) * | 2021-09-06 | 2023-09-08 | 北京车和家信息技术有限公司 | 一种时间同步方法、装置、电子设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107425851A (zh) * | 2017-08-09 | 2017-12-01 | 京东方科技集团股份有限公司 | 频率补偿器、电子设备和频率补偿方法 |
CN110567453A (zh) * | 2019-08-21 | 2019-12-13 | 北京理工大学 | 仿生眼多通道imu与相机硬件时间同步方法和装置 |
CN111130676A (zh) * | 2019-12-02 | 2020-05-08 | 上海赫千电子科技有限公司 | 一种应用于主时钟与从时钟的时间同步修正方法、装置 |
CN212013044U (zh) * | 2020-06-29 | 2020-11-24 | 深圳市深谷微电子科技有限公司 | 一种通用串行总线音频设备同步时钟系统 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101729180A (zh) * | 2008-10-21 | 2010-06-09 | 华为技术有限公司 | 精准时钟同步方法及系统、精准时钟频率/时间同步装置 |
US8755785B2 (en) * | 2011-03-31 | 2014-06-17 | Intel Corporation | Collaborative image control |
CN102404105A (zh) * | 2011-12-14 | 2012-04-04 | 盛科网络(苏州)有限公司 | 以太网交换机上实现时间同步的装置及方法 |
JP2014003407A (ja) * | 2012-06-16 | 2014-01-09 | Sony Corp | 通信装置、通信システム、および通信制御方法、並びにプログラム |
US10972637B2 (en) * | 2018-03-13 | 2021-04-06 | Lyft, Inc. | Systems and methods for synchronizing sensor capture |
CN109586691B (zh) * | 2018-11-19 | 2022-12-30 | 珠海市杰理科技股份有限公司 | 时钟校准方法、装置、系统、存储介质及计算机设备 |
US11330195B2 (en) * | 2019-06-12 | 2022-05-10 | Robert Mark Griswold | Time synchronized cameras for multi-camera event videos |
CN110996011A (zh) * | 2019-12-20 | 2020-04-10 | 易思维(杭州)科技有限公司 | 多相机同步触发系统 |
CN111556226A (zh) * | 2020-07-13 | 2020-08-18 | 深圳市智绘科技有限公司 | 一种相机系统 |
CN113055117A (zh) * | 2021-04-25 | 2021-06-29 | 电子科技大学 | 一种无线分布式网络的时钟同步装置及方法 |
CN113225152B (zh) * | 2021-07-08 | 2021-10-15 | 浙江华睿科技股份有限公司 | 一种相机同步的方法、装置及计算机可读介质 |
-
2021
- 2021-07-08 CN CN202110769848.0A patent/CN113225152B/zh active Active
-
2022
- 2022-07-06 KR KR1020247003799A patent/KR20240028492A/ko active Search and Examination
- 2022-07-06 JP JP2024500378A patent/JP2024529305A/ja active Pending
- 2022-07-06 EP EP22836952.6A patent/EP4348887A4/en active Pending
- 2022-07-06 WO PCT/CN2022/104126 patent/WO2023280206A1/en active Application Filing
-
2024
- 2024-01-08 US US18/406,267 patent/US20240146870A1/en active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107425851A (zh) * | 2017-08-09 | 2017-12-01 | 京东方科技集团股份有限公司 | 频率补偿器、电子设备和频率补偿方法 |
CN110567453A (zh) * | 2019-08-21 | 2019-12-13 | 北京理工大学 | 仿生眼多通道imu与相机硬件时间同步方法和装置 |
CN111130676A (zh) * | 2019-12-02 | 2020-05-08 | 上海赫千电子科技有限公司 | 一种应用于主时钟与从时钟的时间同步修正方法、装置 |
CN212013044U (zh) * | 2020-06-29 | 2020-11-24 | 深圳市深谷微电子科技有限公司 | 一种通用串行总线音频设备同步时钟系统 |
Also Published As
Publication number | Publication date |
---|---|
JP2024529305A (ja) | 2024-08-06 |
CN113225152A (zh) | 2021-08-06 |
WO2023280206A1 (en) | 2023-01-12 |
KR20240028492A (ko) | 2024-03-05 |
EP4348887A1 (en) | 2024-04-10 |
US20240146870A1 (en) | 2024-05-02 |
EP4348887A4 (en) | 2024-10-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113225152B (zh) | 一种相机同步的方法、装置及计算机可读介质 | |
US8355476B2 (en) | Timestamping method and apparatus for precise network synchronization | |
CN103563287B (zh) | 同步设备和同步方法 | |
US12085978B2 (en) | Device synchronous calibration method and apparatus, devices, and storage medium | |
US8873589B2 (en) | Methods and devices for clock synchronization | |
CN101447861B (zh) | Ieee 1588时间同步系统及其实现方法 | |
CN110740227B (zh) | 基于gnss授时和图像显示信息编码方式的相机时间同步装置及方法 | |
US8689035B2 (en) | Communication system, communication interface, and synchronization method | |
WO2018228352A1 (zh) | 一种同步曝光方法、装置及终端设备 | |
EP2101439A1 (en) | Synchronization system and method of time information and related equipment | |
CN112787740A (zh) | 一种多传感器时间同步装置及方法 | |
EP2893655A1 (en) | Methods and devices for clock synchronization | |
CN103546267A (zh) | 时间同步的监测方法和系统 | |
CN102263629A (zh) | 一种板间时间同步的方法、时钟板及网元设备 | |
WO2024193278A1 (zh) | 数据同步方法、装置、设备及存储介质 | |
CN207884639U (zh) | 一种网络节点、时间噪声传递特性测量装置和同步通信网络 | |
US11388315B2 (en) | Apparatus of synchronizing a video synchronizing signal with another signal and method of controlling the apparatus | |
CN111102689A (zh) | 时钟同步的调整方法及装置 | |
CN113965285B (zh) | 一种基于ntp协议的跨系统多传感器时间同步与标定方法 | |
GB2595881A (en) | Method for assessing synchronization between a communication device and a remote time server | |
TWM610675U (zh) | 同步裝置 | |
US11985295B2 (en) | Method for generating control signals for an image capture device | |
CN110138487A (zh) | 一种时间噪声传递特性测量方法和网络节点 | |
TWI795678B (zh) | 同步裝置和同步方法 | |
CN114337890B (zh) | 一种基于ptp网络同步的多终端播发同步系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |