CN114666635B - 多视频图像设定方法及多视频图像处理方法 - Google Patents
多视频图像设定方法及多视频图像处理方法 Download PDFInfo
- Publication number
- CN114666635B CN114666635B CN202111287535.8A CN202111287535A CN114666635B CN 114666635 B CN114666635 B CN 114666635B CN 202111287535 A CN202111287535 A CN 202111287535A CN 114666635 B CN114666635 B CN 114666635B
- Authority
- CN
- China
- Prior art keywords
- image
- local area
- correction
- feature
- setting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000003672 processing method Methods 0.000 title claims abstract description 23
- 230000001360 synchronised effect Effects 0.000 claims abstract description 16
- 238000012937 correction Methods 0.000 claims description 94
- 238000004458 analytical method Methods 0.000 claims description 12
- 238000003702 image correction Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 description 87
- 101800000560 Protein M1' Proteins 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 101000639461 Rattus norvegicus Small nuclear ribonucleoprotein-associated protein B Proteins 0.000 description 5
- 101000986989 Naja kaouthia Acidic phospholipase A2 CM-II Proteins 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000010191 image analysis Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
- H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
- H04N21/43072—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44016—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
多视频图像设定方法及多视频图像处理方法。该多视频图像处理方法包括以下步骤。首先,接收第一图像串流,第一图像串流包括数个第一图像。然后,接收第二图像串流,第二图像串流包括数个第二图像。然后,执行一重叠图像区域抓取步骤,包含:取得各第一图像的第一局部区域及取得各第二图像的第二局部区域,其中第一局部区域的图像与第二局部区域的图像一样且重叠。当第一局部区域的图像或第二局部区域的图像的内容发生变化时,同步第一图像串流与第二图像串流。
Description
技术领域
本发明涉及一种图像设定方法及图像处理方法,且特别涉及一种多视频图像设定方法及多视频图像处理方法。
背景技术
现在图像后制过程中,有一部分要处理的问题就是影音不同步的问题。然而,目前图像同步采样技术大致有二种方法:无线信号(RF)同步传送技术及声音特征比对技术。以无线信号同步传送技术来说,每台摄像器都电性连接于一台无线信号接收器,各无线信号接收器接收同一台无线信号发送器的无线信号,藉此实现图像同步化。以声音特征比对技术来说,取得每个影音档的音轨,藉由分析音轨的声音特征实现图像同步化。然而,声音特征分析需要采样一段时间,此导致时间延迟长,且在室外拍摄时,摄像器的收音质量通常不佳,使用声音特征比对技术的同步化效果通常不佳。因此,亟需提出一种能改善前述已知问题的技术。
发明内容
因此,本发明提出一种多视频图像设定方法及多视频图像处理方法,可改善已知问题。
本发明一实施例提出一种多视频图像处理方法。多视频图像处理方法包括以下步骤:接收一第一图像串流,第一图像串流包括多个第一图像;接收一第二图像串流,第二图像串流包括多个第二图像;执行一重叠图像区域抓取步骤,包含:取得各第一图像的一第一局部区域;及取得各第二图像的一第二局部区域,其中第一局部区域的图像与第二局部区域的图像一样且重叠。当第一局部区域的图像或第二局部区域的图像的内容发生变化时,同步第一图像串流与第二图像串流。
本发明另一实施例提出一种多视频图像设定方法。多视频图像设定方法包括以下步骤:接收一第一设定图像;接收一第二设定图像;执行一特征分析步骤,包括:取得第一设定图像的多个第一特征点;及,取得第二设定图像的多个第二特征点;以及,执行一重叠图像区域分析步骤,包括:比对此些第一特征点与此些第二特征点,取得相匹配的第一匹配特征点与第二匹配特征点,其中第一匹配特征点为此些第一特征点的一者,第二匹配特征点为此些第二特征点的一者;依据此些第一匹配特征点,取得第一设定图像的一第一局部区域,其中第一局部区域包含第一匹配特征点;及,依据此些第二匹配特征点,取得第二设定图像的一第二局部区域,其中第二局部区域包含第二匹配特征点。其中,第一局部区域的图像重叠于第二局部区域的图像。
为了对本发明的上述及其他方面有更佳的了解,下文特举实施例,并配合附图详细说明如下:
附图说明
图1绘示依照本发明一实施例的多视频图像处理装置的功能方块图。
图2绘示依照本发明一实施例的多视频图像设定方法的流程图。
图3A~3D绘示使用图1的多视频图像处理装置执行多视频图像设定方法的过程图。
图4绘示依照本发明一实施例的多视频图像处理方法的流程图。
图5绘示图1的多视频图像处理装置接收图像串流的示意图。
图6A~6G绘示使用图1的多视频图像处理装置执行多视频图像处理方法的过程图。
图7绘示依照本发明另一实施例的同步化步骤的流程图。
【符号说明】
10:第一摄像器
20:第二摄像器
30:摄像对象
100:多视频图像处理装置
110:第一输入端口
120:第二输入端口
130:图像处理单元
B11:第一边界
B12:第二边界
B13:第三边界
B14:第四边界
B21:第五边界
B22:第六边界
B23:第七边界
B24:第八边界
BP1:第一边界点
BP1:第二边界点
CM1,CM1’:第一校正图像
CM2,CM2’:第二校正图像
CM11,CM11’,CM21,CM12’:校正后图像
D1:方向
D2:方向
F1:第一特征点
FC11,FC12,FC13:第一特征集
F2:第二特征点
FC21,FC22,FC23:第二特征集
MF11~MF14:第一匹配特征点
MF21~MF24:第二匹配特征点
CM:拼接图像
RE1,RE1’:第一局部区域
RE2,RE2’:第二局部区域
RE3’:第三局部区域
RE4’:第四局部区域
S1:第一距离
S2:第二距离
SM1:第一设定图像
SM11:图像
SM2:第二设定图像
SM21:图像
VS1:第一图像串流
VS2:第二图像串流
VM1:第一图像
VM2:第二图像
ΔT:时间差
S110、S120~S130、S131~S132、S140、S141~S142、S150、S151~S153、S210、S220、S230、S231~S232、S240、S241~S242、S250、S260、S261~S262、S270、S271~S272、S280、S371~S372:步骤
具体实施方式
请参照图1,其绘示依照本发明一实施例的多视频图像处理装置100的功能方块图。多视频图像处理装置100包括第一输入端口110、第二输入端口120及图像处理单元130。图像处理单元130耦接第一输入端口110及第二输入端口120。
如图1所示,第一输入端口110用以接收第一设定图像SM1。第二输入端口110用以接收第二设定图像SM2。在一实施例中,第一设定图像SM1来自于第一摄像器10,第二设定图像SM2来自于第二摄像器20。其中,第一摄像器10及第二摄像器20是分别朝向同一拍摄对象30,以提取拍摄对象30的画面。然本发明实施例不限制拍摄对象30的类型,其可以是人物、物体、风景、室内场景、户外场景等。
图像处理单元130自第一设定图像SM1取得对应的第一局部区域RE1,自第二设定图像SM2取得对应的第二局部区域RE2。其中,第一局部区域RE1的图像重叠于第二局部区域RE2的图像(见图3D,详细说明容后描述)。通过第一局部区域RE1的图像与第二局部区域RE2的图像的重叠信息,可快速后续同步化在多视频图像处理流程中的二图像串流。
以下是以图2及图3A~3D说明依照本发明一实施例的多视频图像设定方法的流程。
请参照图2及图3A~3D,图2绘示依照本发明一实施例的多视频图像设定方法的流程图,而图3A~3D绘示使用图1的多视频图像处理装置100执行多视频图像设定方法的过程图。
在步骤S110中,第一输入端口110接收第一设定图像SM1。在本实施例中,拍摄对象30例如是包含椅子及窗户,因此,第一设定图像SM1中的图像SM11例如是包含椅子及窗户的图像(如图3A所示)。
在步骤S120中,第二输入端口120接收第二设定图像SM2。第二设定图像SM2中的图像SM21例如是包含椅子及窗户的图像(如图3A所示)。
在步骤S130中,图像处理单元130执行图像校正步骤。在此仅以一例子作说明,详言之,图像处理单元130于执行图像校正步骤之前,会先判断第一摄像器10及第二摄像器20面向拍摄对象30的视角为相同(如,视角平行)或不同(如,视角不平行),和/或图像SM11与图像SM21的比例相同(如,尺寸1:1)或不同(如,尺寸非1:1)。当视角不相同时,如图3A所示,图像SM11与图像SM21呈现的比例会不同。于此,当第一设定图像SM1及第二设定图像SM2经判断后的比例不同时,即执行步骤S130,进而校正第一设定图像SM1及第二设定图像SM2,让校正后第一设定图像SM1及第二设定图像SM2的视角相同。若当第一摄像器10及第二摄像器20面向拍摄对象30的视角相同时,则第一设定图像SM1及第二设定图像SM2的比例相同,如此可省略步骤S130。
其中,图像校正步骤可以包括数个步骤S131~S132。
在步骤S131中,图像处理单元130校正第一设定图像SM1为第一校正图像CM1(如图3B所示)。于此,图像处理单元130可存储校正第一设定图像SM1为第一校正图像CM1时所需要的第一校正参数。本发明实施例不限定第一校正参数的内容,其可为左右偏转角度、上下偏转角度、缩放比例、解析度调整比例、色差调整比例等或其他任何可调整图像的参数,换句话说,只要是能让第一设定图像SM1校正成第一校正图像CM1的参数皆为第一校正参数的范围。在后续多视频图像处理方法中,图像处理单元130可依据此第一校正参数快速校正第一图像串流的第一图像(在后描述)。本文的校正参数可由图像处理单元130分析图像后取得。
在步骤S132中,图像处理单元130校正第二设定图像SM2为一第二校正图像CM2(如图3B所示)。图像处理单元130可存储校正第二设定图像SM2所需要的一第二校正参数。本发明实施例不限定第二校正参数的内容,只要是能让第二设定图像SM2校正成第二校正图像CM2的参数即可。在后续多视频图像处理方法中,图像处理单元130可依据此第二校正参数快速校正第二图像串流的第二图像(在后描述)。
在一实施例中,图像处理单元130可将第一校正参数与第二校正参数存储于具有存储功能的暂存器、存储器或硬盘等存储介质,本发明并非以此为限制。于此,后续图像处理单元130可视需要而自该存储介质读取第一校正参数与第二校正参数。
于此,经过图像校正步骤校正后,第一校正图像CM1的视角与第二校正图像CM2的视角相同。如此,第一校正图像CM1的图像CM11与第二校正图像CM2的图像CM21的比例可为1:1。例如,第一校正图像CM1具有校正后图像CM11,第二校正图像CM2具有校正后图像CM21,其中校正后图像CM11与校正后图像CM21的比例等于或接近1:1。
在步骤S140中,图像处理单元130执行特征分析步骤。特征分析步骤包括数个步骤S141~S142。
在步骤S141中,图像处理单元130取得第一校正图像CM1的数个第一特征点F1(如图3C所示)。图像处理单元130可采用任何已知的图像分析技术,取得第一校正图像CM1的数个第一特征点F1。在另一实施例中,若第一设定图像SM1不需校正(省略步骤S130),图像处理单元130取得第一设定图像SM1的数个第一特征点F1。
在步骤S142中,图像处理单元130取得第二校正图像CM2的数个第二特征点F2(如图3C所示)。图像处理单元130可采用任何已知的图像分析技术,取得第二校正图像CM2的数个第二特征点F2。其中,第一特征点F1及F2例如是点、线段(如,拍摄对象30的轮廓线等)、线段上的点(如,拍摄对象30的转角、角落等)等。在另一实施例中,若第二设定图像SM2不需校正(省略步骤S130),图像处理单元130取得第二设定图像SM2的数个第二特征点F2。
在步骤S150中,图像处理单元130执行一重叠图像区域分析步骤。重叠图像区域分析步骤包括数个步骤S151~S153。
在步骤S151中,图像处理单元130比对此些第一特征点F1与此些第二特征点F2(如图3D所示),取得此些第一特征点F1与此些第二特征点F2中相匹配的至少一第一匹配特征点(如,MF11~MF14)与至少一第二匹配特征点(如,MF21~MF24)。
举例来说,第一校正图像CM1中的第一匹配特征点MF11与第二校正图像CM2中的第二匹配特征点MF21为校正图像中图像的相同特征(如,窗户的一角),因此图像处理单元130将第一匹配特征点MF11与第二匹配特征点MF21定义为“相匹配特征点”(如图3D所示)。第一校正图像CM1中的第一匹配特征点MF12与第二校正图像CM2中的第二匹配特征点MF22为校正图像中图像的相同特征(如,窗户的另一角),因此图像处理单元130将第一匹配特征点MF12与第二匹配特征点MF22定义为“相匹配特征点”(如图3D所示)。
相似地,第一校正图像CM1中的第一匹配特征点MF13与第二校正图像CM2中的第二匹配特征点MF23为校正图像中图像的相同特征(如,椅子的一角),因此图像处理单元130将第一匹配特征点MF13与第二匹配特征点MF23定义为“相匹配特征点”(如图3D所示)。第一校正图像CM1中的第一匹配特征点MF14与第二校正图像CM2中的第二匹配特征点MF24为校正图像中图像的相同特征(如,椅子的另一角),因此图像处理单元130将第一匹配特征点MF14与第二匹配特征点MF24定义为“相匹配特征点”(如图3D所示)。
本发明实施例的匹配特征点的数量是以四个为例说明,然相匹配特征点的数量可视第一设定图像SM1的图像SM11及第二设定图像SM2的图像SM21而定,本发明实施例不加以限定。此外,在实施例中,由于“相匹配特征点”成对,因此第一匹配特征点的数量与第二匹配特征点的数量可相同。
在步骤S152中,图像处理单元130依据此些第一匹配特征点,取得第一校正图像CM1的第一局部区域RE1(校正后第一局部区域),其中第一局部区域RE1包含所有的第一匹配特征点,例如是第一匹配特征点MF11~MF14(如图3D所示)。
在步骤S153中,图像处理单元130依据此些第二匹配特征点,取得第二校正图像CM2的第二局部区域RE2(校正后第二局部区域),其中第二局部区域RE2包含所有的第二匹配特征点,例如是第二匹配特征点MF21~MF24(如图3D所示)。
第一局部区域RE1的图像重叠于第二局部区域RE2的图像,即,第一局部区域RE1的图像与第二局部区域RE2的图像的内容相同且比例等于或接近1:1。换句话说,第一局部区域RE1的图像与第二局部区域RE2的图像一样且重叠。
如图3D所示,第一局部区域RE1具有第一边界B11、第二边界B12、第三边界B13及第四边界B14,其中第一边界B11、第二边界B12及第三边界B13为第一校正图像CM1本身的边界。第二局部区域RE2具有第五边界B21、第六边界B22、第七边界B23及第八边界B24,其中第六边界B22、第七边界B23及第八边界B24为第二校正图像CM2本身的边界。
第一局部区域RE1的第四边界B14可依据第二校正图像CM2决定。例如,第一校正图像CM1的第一匹配特征点至第四边界B14之间的距离与第二校正图像CM2的相匹配的第二匹配特征点至对应边界之间的距离相等。详细来说,第二校正图像CM2的第二匹配特征点MF21沿一方向D1至第八边界B24行经一第一距离S1,因此,第一校正图像CM1的第一匹配特征点MF11(其与第二匹配特征点MF21相匹配)沿相同方向D1至第四边界B14也行经相同的第一距离S1,而决定第四边界B14。在决定第四边界B14后,图像处理单元130依据第四边界B14及第一校正图像CM1本身的边界(如,第一边界B11、第二边界B12、第三边界B13)决定第一局部区域RE1的所有边界(以粗虚线绘示于图3D)。
相似地,第二局部区域RE2的第五边界B21可依据第一校正图像CM1决定。例如,第二校正图像CM2的第二匹配特征点至第一边界B11之间的距离与第一校正图像CM1的相匹配的第一匹配特征点至对应边界之间的距离相等。详细来说,第一校正图像CM1的第一匹配特征点MF11沿一方向D2至第一边界B11行经一第二距离S2,因此第二校正图像CM2的第二匹配特征点MF21(其与第一匹配特征点MF11相匹配)沿相同方向D2至第五边界B21也行经相同的第二距离S2,而决定出第五边界B21。在决定第五边界B21后,图像处理单元130依据第五边界B21及第二校正图像CM2本身的边界(如,第六边界B22、第七边界B23及第八边界B24)决定第二局部区域RE2的所有边界(以粗虚线绘示于图3D)。
在取得第一局部区域RE1的边界及第二局部区域RE2的边界后,图像处理单元130可记录第一局部区域RE1的数个第一边界点BP1的数个第一坐标以及记录第二局部区域RE2的数个第二边界点BP2的数个第二坐标。在后续多视频图像处理方法中,图像处理单元130可依据所记录的数个第一坐标及数个第二坐标,快速决定第一图像串流的第一图像与第二图像串流的第二图像的重叠区域。
虽然前述实施例的图像设定流程以第一设定图像SM1及第二设定图像SM2需要校正为例说明,然在另一实施例中,若第一设定图像SM1及第二设定图像SM2不需校正(例如,第一设定图像SM1的图像及第二设定图像SM2的图像的视角及比例相同),则可省略步骤S130,而第一局部区域RE1为第一设定图像SM1的局部区域,且第二局部区域RE2为第二设定图像SM2的局部区域。图2的流程中对校正图像的执行步骤皆改为针对设定图像执行。
在完成前述多视频图像设定方法后,多视频图像处理装置100可在线上(如,直播)执行多视频图像处理方法。以下进一步举例说明。
请参照图4、5及6A~6G,图4绘示依照本发明一实施例的多视频图像处理方法的流程图,图5绘示图1的多视频图像处理装置100接收图像串流的示意图,而图6A~6G绘示使用图1的多视频图像处理装置100执行多视频图像处理方法的过程图。在完成前述多视频图像设定方法后,可在维持第一摄像器10的位置及第二摄像器20的位置下,执行多视频图像处理方法。由于第一摄像器10的位置及第二摄像器20的位置不变,因此在后续多视频图像处理流程中,多视频图像处理装置100所记录的校正参数及坐标,可适用于对第一图像串流VS1及第二图像串流VS2的处理。
在步骤S210中,第一输入端口110接收一第一图像串流(video streaming)VS1,第一图像串流VS1包括数个第一图像VM1(如图5及6A所示)。
在步骤S220中,第二输入端口120接收一第二图像串流VS2,第二图像串流VS2包括数个第二图像VM2(如图5及6A所示)。
在步骤S230中,图像处理单元130执行一图像校正步骤。图像校正步骤包括以下步骤S231~S232。
在步骤S231中,依据第一校正参数,校正各第一图像VM1为对应的第一校正图像CM1’(如图6B所示)。第一校正参数在前述多视频图像设定方法中已存储于图像处理单元130,因此图像处理单元130可依据第一校正参数快速地将第一图像VM1校正为第一校正图像CM1’。在另一实施例中,图像处理单元130可自存储介质取得第一校正参数。
在步骤S232中,依据第二校正参数,校正各第二图像VM2为对应的第二校正图像CM2’(如图6B所示)。第二校正参数在前述多视频图像设定方法中已存储于图像处理单元130,因此图像处理单元130可依据第二校正参数快速地将第二图像VM2校正为第二校正图像CM2’。在另一实施例中,图像处理单元130可自存储介质取得第二校正参数。
校正后,各第一校正图像CM1’的视角及比例与对应的各第二校正图像CM2’的视角及比例相同,例如,第一校正图像CM1’的图像CM11’与第二校正图像CM2’的图像CM12’的比例为1:1。
在步骤S240中,图像处理单元130执行一重叠图像区域抓取步骤。重叠图像区域抓取步骤包括以下步骤S241~S242。
在步骤S241中,图像处理单元130依据所记录的数个第一坐标,取得各第一校正图像CM1’的第一局部区域RE1’(校正后第一局部区域)(如图6C所示)。由于数个第一坐标在前述多视频图像设定方法中已存储于图像处理单元130,因此图像处理单元130可快速地决定各第一校正图像CM1’的第一局部区域RE1’(如图6C所示)。
在步骤S242中,图像处理单元130依据所记录的数个第二坐标,取得各第二校正图像CM2’的第二局部区域RE2’(校正后第二局部区域)(如图6C所示),其中第一局部区域RE1’的图像与第二局部区域RE2’的图像一样且重叠。由于数个第二坐标在前述多视频图像设定方法中已存储于,图像处理单元130可快速地决定各第二校正图像CM2’的第二局部区域RE2’。
在步骤S250中,图像处理单元130判断第一局部区域RE1’的图像及第二局部区域RE2’的图像的内容是否发生变化,意即第一局部区域RE1’的图像及第二局部区域RE2’的图像的内容是否有任何异动。例如,第一局部区域RE1’的图像及第二局部区域RE2’的图像的位置改变,或一新物体或一新人物进入第一局部区域RE1’或第二局部区域RE2’,或原物体或原人物有任何的移动。若是,流程进入步骤S244;若否,流程回到步骤S230,继续取得第一校正图像CM1’的第一局部区域RE1’及第二校正图像CM2’的第二局部区域RE2’。
在步骤S260中,图像处理单元130执行一特征集分析步骤。步骤S260包括数个步骤S261~262。
在步骤S261中,图像处理单元130取得各第一校正图像CM1’的第一局部区域RE1’的一第一特征集,第一特征集例如是数个第一匹配特征点的集合,如数个第一匹配特征点MF11’~MF14’的集合(如图6D所示)。图像处理单元130可采用任何已知图像分析技术,取得第一局部区域RE1’的第一匹配特征点。
在步骤S262中,图像处理单元130取得各第二校正图像CM2’的第二局部区域RE2’的一第二特征集,第二特征集例如是数个匹配特征点的集合,如数个第二匹配特征点MF21’~MF24’的集合(如图6D所示)。图像处理单元130可采用任何已知图像分析技术,取得第二局部区域RE2’的第二匹配特征点。
在步骤S270中,图像处理单元130同步第一图像串流VS1与第二图像串流VS2。步骤S270包括数个步骤S271~272。
在步骤S271中,图像处理单元130比对数个第一校正图像CM1’的数个第一特征集与数个第二校正图像CM2’的此些第二特征集,以取得此些第一特征集与此些第二特征集之间的一时间差。
举例来说,第一图像串流VS1的数个第一校正图像CM1’具有数个第一特征集FC11、数个第一特征集FC12及数个第一特征集FC13(如图6E所示),其中第一特征集FC11、第一特征集FC12与第一特征集FC13相异,而第二图像串流VS2的数个第二校正图像CM2’具有数个第一特征集FC21、数个第一特征集FC22及数个第一特征集FC23,其中第一特征集FC21、第一特征集FC22与第一特征集FC23相异。第一特征集FC12与第一特征集FC22相同。图像处理单元130比对相同的第一特征集FC12与第一特征集FC22在时间轴上的差异,可取得二者的时间差ΔT。
在步骤S272中,图像处理单元130依据时间差ΔT,同步化第一图像串流VS1与第二图像串流VS2。例如,图像处理单元130将第一图像串流VS1的第一图像串流VS1的播放时间往前移或往后移,让时间差ΔT缩短为0,或将第二图像串流VS2的第二图像串流VS2的播放时间往前移或往后移,让时间差ΔT缩短为0。当时间差ΔT缩短为0,完成第一图像串流VS1与第二图像串流VS2的同步化。
在步骤S280中,拼接同步后的第一图像串流VS1与第二图像串流VS2。
举例来说,图像处理单元130用以:分离同步化后的各第一校正图像CM1’的第一局部区域RE1’与第一局部区域RE1’以外的第三局部区域RE3’(如图6F所示);分离同步化后的各第二校正图像CM2’的第二局部区域RE2’与第二局部区域RE2’以外的一第四局部区域RE4’(如图6F所示);将同步的第一局部区域RE1’与第二局部区域RE2’中的一个、第三局部区域RE3’与第四局部区域RE4’拼接成一拼接图像CM,如第6G图所示。拼接图像CM的解析度高于第一校正图像CM1’的解析度和/或第二校正图像CM2’的解析度,例如,拼接图像M的解析度可达8K解析度,然也可更高或更低。
然后,图像处理单元130可将数个拼接图像CM(如第6G图所示)形成的一图像串流(未绘示)以一有线通信技术或一无线通信技术传送至一外部电子装置,如计算机、手持式通信装置和/或显示屏幕等。
综上,本发明实施例可采用较低解析度(如超高画质(Full HD)解析度)的摄像器(如,第一摄像器10及第二摄像器20),而输出一较高解析度(如,8K解析度)的拼接图像CM。此外,在不需要额外设备下,多视频图像处理装置可仅靠图像信号,执行多个图像串流的同步化,并输出高解度(如,8K解析度)的同步化画面。
以下介绍另一种同步化方法。
请参照图7,其绘示依照本发明另一实施例的同步化步骤的流程图。
图4的多视频图像处理方法的流程图的步骤S271及S272可以图7的步骤S371及S372取代。
在步骤S371中,图像处理单元130比对数个第一校正图像CM1’的数个第一特征集与数个第二校正图像CM2’的此些第二特征集,以取得此些第一特征集与此些第二特征集之间的一帧率差。
举例来说,第一图像串流VS1的数个第一校正图像CM1’具有数个第一特征集FC11、数个第一特征集FC12及数个第一特征集FC13,而第二图像串流VS2的数个第二校正图像CM2’具有数个第一特征集FC21、数个第一特征集FC22及数个第一特征集FC23(如图6E所示),其中第一特征集FC12与第一特征集FC22相同。图像处理单元130比对相同的第一特征集FC12(Frame Per Second,FPS)与第一特征集FC22的帧率,可取得二者的帧率差。
在步骤S372中,图像处理单元130依据帧率差,同步化第一图像串流VS1与第二图像串流VS2。例如,第一图像串流VS1中具有第一特征集FC12的第一校正图像CM1’的帧率例如是60FPS,而第二图像串流VS2中具有第二特征集FC22的第二校正图像CM2’的帧率例如是59FPS,二者的帧率差为1FPS。视实际状况而定,第一图像串流VS1的帧率可以小于或大于第二图像串流VS2的帧率。
在步骤S372中,图像处理单元130依据帧率差,同步化第一图像串流VS1与第二图像串流VS2。例如,当第一图像串流VS1的帧率大于第二图像串流VS2的帧率时,图像处理单元130在第二图像串流VS2中具有第二特征集FC22的数个第二校正图像CM2’中插入至少一张具有第二特征集FC22的第二校正图像CM2’,使第一图像串流VS1的帧率与第二图像串流VS2的帧率相同;或者,图像处理单元130在第一图像串流VS1中具有第一特征集FC12的数个第一校正图像CM1’中删除至少一张具有第一特征集FC11的第一校正图像CM1’,使第一图像串流VS1的帧率与第二图像串流VS2的帧率相同。至此,完成第一图像串流VS1与第二图像串流VS2的同步化。
虽然前述实施例的图像处理流程以第一图像VM1及第二图像VM2需要校正为例说明,然在另一实施例中,若第一图像VM1及第二图像VM2不需校正(例如,第一图像VM1的图像及第二图像VM2的图像的视角及比例相同),则可省略步骤S230,而第二局部区域RE1’为第一图像VM1的局部区域,且第二局部区域RE2’为第二图像VM2的局部区域。图4的流程中对校正图像的执行步骤皆改为针对图像串流的图像执行。
综上,本发明实施例的多视频图像处理装置在同步化第一图像串流与第二图像串流之前,可先分析第一设定图像及第二设定图像,以取得第一设定图像与第二设定图像的一重叠图像区域,并记录此重叠图像区域的信息,例如是坐标。在取得重叠图像区域后,在维持多视频图像处理装置的架构下(例如,不改变多视频图像处理装置的至少一摄像器的位置),在一多视频图像处理方法(例如,直播过程)中,可依据所记录的重叠图像区域的信息,快速取得第一图像串流的各第一图像与第二图像串流的各第二图像的重叠图像区域,并依据重叠图像区域的特征集差异同步化第一图像串流与第二图像串流,然后拼接同步化后的第一图像串流的第一图像与第二图像串流的第二图像成为拼接图像。
综上所述,虽然本发明已以实施例公开如上,然其并非用以限定本发明。本发明所属领域技术人员,在不脱离本发明的精神和范围内,当可作各种的更动与润饰。因此,本发明的保护范围当视所附权利要求书界定范围为准。
Claims (9)
1.一种多视频图像处理方法,包括:
接收第一图像串流,该第一图像串流包括多个第一图像;
接收第二图像串流,该第二图像串流包括多个第二图像;以及
执行重叠图像区域抓取步骤,包含:
取得各该第一图像的第一局部区域;及
取得各该第二图像的第二局部区域,其中该第一局部区域的图像与该第二局部区域的图像一样且重叠;
其中,当该第一局部区域的图像或该第二局部区域的图像的内容发生变化时,同步该第一图像串流与该第二图像串流;
其中,该方法,还包括:
取得同步化后的各该第一图像的该第一局部区域与该第一局部区域以外的第三局部区域;
取得同步化后的各该第二图像的该第二局部区域与该第二局部区域以外的第四局部区域;以及
将同步化后的该第一局部区域与该第二局部区域中的一个、该第三局部区域与该第四局部区域拼接成拼接图像。
2.如权利要求1所述的多视频图像处理方法,其中各该第一图像的该第一局部区域依据多个第一坐标取得,各该第二图像的该第一局部区域依据多个第二坐标取得。
3.如权利要求1所述的多视频图像处理方法,在执行该重叠图像区域抓取步骤之前还包括:
执行图像校正步骤,包括:
依据第一校正参数,校正各该第一图像为对应的第一校正图像;以及
依据第二校正参数,校正各该第二图像为对应的第二校正图像;
其中,各该第一校正图像包含校正后的该第一局部区域,各该第二校正图像包含校正后的该第二局部区域。
4.如权利要求1所述的多视频图像处理方法,还包括:
执行特征集分析步骤,包括:
取得各该第一局部区域的第一特征集;及
取得各该第二局部区域的第二特征集;
在执行该同步该第一图像串流与该第二图像串流的步骤中包括:
比对这些第一特征集与这些第二特征集,以取得这些第一特征集与对应的这些第二特征集之间的时间差;及
依据该时间差,同步化该第一图像串流与该第二图像串流。
5.如权利要求1所述的多视频图像处理方法,还包括:
执行特征集分析步骤,包括:
取得各该第一局部区域的第一特征集;及
取得各该第二局部区域的第二特征集;
在该同步该第一图像串流与该第二图像串流的步骤中包括:
比对这些第一特征集与这些第二特征集,以取得这些第一特征集与对应的这些第二特征集之间的帧率差;及
依据该帧率差,同步化该第一图像串流与该第二图像串流。
6.一种多视频图像设定方法,包括:
接收第一设定图像;
接收第二设定图像;
执行特征分析步骤,包括:
取得该第一设定图像的多个第一特征点;及
取得该第二设定图像的多个第二特征点;以及
执行重叠图像区域分析步骤,包括:
比对这些第一特征点与这些第二特征点,取得相匹配的第一匹配特征点与第二匹配特征点,其中该第一匹配特征点为这些第一特征点的一者,该第二匹配特征点为这些第二特征点的一者;
依据这些第一匹配特征点,取得该第一设定图像的第一局部区域,其中该第一局部区域包含该第一匹配特征点;及
依据这些第二匹配特征点,取得该第二设定图像的第二局部区域,其中该第二局部区域包含该第二匹配特征点;
其中,该第一局部区域的图像重叠于该第二局部区域的图像;
其中,该方法,还包括:
取得重叠后的该第一设定图像的该第一局部区域与该第一局部区域以外的第三局部区域;
取得重叠后的该第二设定图像的该第二局部区域与该第二局部区域以外的第四局部区域;以及
将重叠后的该第一局部区域与该第二局部区域中的一个、该第三局部区域与该第四局部区域拼接成拼接图像。
7.如权利要求6所述的多视频图像设定方法,还包括:
执行图像校正步骤,包括:
校正该第一设定图像为第一校正图像;及
校正该第二设定图像为第二校正图像;
其中,该第一校正图像的视角与该第二校正图像的视角相同。
8.如权利要求6所述的多视频图像设定方法,其中这些第一匹配特征点的数量与这些第二匹配特征点的数量相同。
9.如权利要求6所述的多视频图像设定方法,还包括:
记录该第一局部区域的多个第一边界点的多个第一坐标;以及
记录该第二局部区域的多个第二边界点的多个第二坐标。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW109145832 | 2020-12-23 | ||
TW109145832A TWI773047B (zh) | 2020-12-23 | 2020-12-23 | 多視訊圖像設定方法及多視訊圖像處理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114666635A CN114666635A (zh) | 2022-06-24 |
CN114666635B true CN114666635B (zh) | 2024-01-30 |
Family
ID=82026231
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111287535.8A Active CN114666635B (zh) | 2020-12-23 | 2021-11-02 | 多视频图像设定方法及多视频图像处理方法 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114666635B (zh) |
TW (1) | TWI773047B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103065129A (zh) * | 2012-12-30 | 2013-04-24 | 信帧电子技术(北京)有限公司 | 对大熊猫识别的方法 |
CN107135330A (zh) * | 2017-07-04 | 2017-09-05 | 广东工业大学 | 一种视频帧同步的方法与装置 |
TWI601423B (zh) * | 2016-04-08 | 2017-10-01 | 晶睿通訊股份有限公司 | 攝影系統及其同步方法 |
CN110049345A (zh) * | 2019-03-11 | 2019-07-23 | 北京河马能量体育科技有限公司 | 一种多视频流导播方法及导播处理系统 |
-
2020
- 2020-12-23 TW TW109145832A patent/TWI773047B/zh active
-
2021
- 2021-11-02 CN CN202111287535.8A patent/CN114666635B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103065129A (zh) * | 2012-12-30 | 2013-04-24 | 信帧电子技术(北京)有限公司 | 对大熊猫识别的方法 |
TWI601423B (zh) * | 2016-04-08 | 2017-10-01 | 晶睿通訊股份有限公司 | 攝影系統及其同步方法 |
CN107135330A (zh) * | 2017-07-04 | 2017-09-05 | 广东工业大学 | 一种视频帧同步的方法与装置 |
CN110049345A (zh) * | 2019-03-11 | 2019-07-23 | 北京河马能量体育科技有限公司 | 一种多视频流导播方法及导播处理系统 |
Also Published As
Publication number | Publication date |
---|---|
TW202226837A (zh) | 2022-07-01 |
CN114666635A (zh) | 2022-06-24 |
TWI773047B (zh) | 2022-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8233746B2 (en) | Image processing device, image processing method and program | |
US8804832B2 (en) | Image processing apparatus, image processing method, and program | |
US7145947B2 (en) | Video data processing apparatus and method, data distributing apparatus and method, data receiving apparatus and method, storage medium, and computer program | |
JP5202211B2 (ja) | 画像処理装置及び電子機器 | |
EP2602995A1 (en) | Content supplying device, content supplying method, content reproduction device, content reproduction method, program, and content viewing system | |
US10691012B2 (en) | Image capturing apparatus, method of controlling image capturing apparatus, and non-transitory computer-readable storage medium | |
BRPI0807594A2 (pt) | Dispositivo de processamento de dados, método de processamento de dados, e, meio de armazenagem | |
JP2012129689A (ja) | 映像処理装置、カメラ装置および映像処理方法 | |
US8629939B1 (en) | Television ticker overlay | |
KR20190010129A (ko) | 디스플레이 장치, 디스플레이 방법 및 디스플레이 시스템 | |
US11342001B2 (en) | Audio and video processing | |
KR20180098850A (ko) | Uhd동영상 스티칭 방법 및 그 장치 | |
US20100296798A1 (en) | Image Reproducing Apparatus And Imaging Apparatus | |
US12119025B2 (en) | Image processing device, image processing method, and image processing program | |
US8873642B2 (en) | Video content analysis methods and systems | |
US9338429B2 (en) | Video processing apparatus capable of reproducing video content including a plurality of videos and control method therefor | |
US20100158403A1 (en) | Image Processing Apparatus and Image Processing Method | |
CN114666635B (zh) | 多视频图像设定方法及多视频图像处理方法 | |
JP5520146B2 (ja) | 映像受信装置、及びその制御方法 | |
US11044399B2 (en) | Video surveillance system | |
US10783670B2 (en) | Method for compression of 360 degree content and electronic device thereof | |
WO2013061810A1 (ja) | 画像処理装置、画像処理方法、および記録媒体 | |
US8330859B2 (en) | Method, system, and program product for eliminating error contribution from production switchers with internal DVEs | |
US20110043654A1 (en) | Image processing apparatus | |
JP2014236313A (ja) | 表示制御装置、表示制御システム、及び、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |