CN103210656A - 影像发送装置、影像发送方法、影像接收装置以及影像接收方法 - Google Patents

影像发送装置、影像发送方法、影像接收装置以及影像接收方法 Download PDF

Info

Publication number
CN103210656A
CN103210656A CN2012800036337A CN201280003633A CN103210656A CN 103210656 A CN103210656 A CN 103210656A CN 2012800036337 A CN2012800036337 A CN 2012800036337A CN 201280003633 A CN201280003633 A CN 201280003633A CN 103210656 A CN103210656 A CN 103210656A
Authority
CN
China
Prior art keywords
image
signal
reference signal
time
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012800036337A
Other languages
English (en)
Other versions
CN103210656B (zh
Inventor
沟添博树
佐佐本学
小味弘典
冈田光弘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Hitachi Consumer Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2011050975A external-priority patent/JP5697494B2/ja
Priority claimed from JP2011050973A external-priority patent/JP2012191284A/ja
Priority claimed from JP2011058665A external-priority patent/JP2012195796A/ja
Application filed by Hitachi Consumer Electronics Co Ltd filed Critical Hitachi Consumer Electronics Co Ltd
Publication of CN103210656A publication Critical patent/CN103210656A/zh
Application granted granted Critical
Publication of CN103210656B publication Critical patent/CN103210656B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明的课题在于,为了同时显示从多个影像发送装置接收的影像,影像接收侧的处理变得复杂。影像发送装置,具备:基准信号发生单元,根据时刻信息发生基准信号;摄像单元,根据由基准信号发生单元发生的基准信号对影像信号进行拍摄;压缩单元,对由摄像单元拍摄的影像信号进行数字压缩编码;网络处理单元,从网络接收时刻信息、和针对时刻信息的基准信号的相位信息,并且,发送数字压缩编码了的影像信号;以及控制单元,控制基准信号发生单元和网络处理单元。此处,控制单元根据由网络处理单元接收的时刻信息和相位信号变更由基准信号发生单元发生的基准信号的相位。

Description

影像发送装置、影像发送方法、影像接收装置以及影像接收方法
技术领域
本发明涉及传送影像的装置。
背景技术
关于上述技术领域,例如在专利文献1中公开了具有在经由网络传送影像时调节显示时间的功能的传送装置。
专利文献1:日本特开平9-51515号公报
发明内容
但是,专利文献1记载的技术存在如下问题:为了同时显示从多个影像发送装置接收到的影像而影像接收侧的处理变得复杂。
因此,在本说明书中,例如,设为根据影像接收装置的控制,影像发送装置控制其输出延迟时间的结构。
根据本发明,能够提供考虑了输出延迟时间的影像传送系统。
附图说明
图1是示出包括影像发送装置、影像接收装置的影像传送系统的一个例子的图。
图2是示出影像发送装置的内部块结构的一个例子的图。
图3是示出影像发送装置的数字压缩处理的一个例子的图。
图4是示出影像发送装置的数字压缩影像信号的一个例子的图。
图5是示出影像发送装置的数字压缩影像信号的分组的一个例子的图。
图6是示出影像发送装置的LAN分组的一个例子的图。
图7是示出影像接收装置的内部块结构的一个例子的图。
图8是示出影像接收装置的内部块结构的另一例子的图。
图9是示出影像接收装置的延迟时间确认处理的流程图的一个例子的图。
图10是示出影像发送装置的延迟时间回答处理的流程图的一个例子的图。
图11是示出影像接收装置的延迟时间设定处理的流程图的一个例子的图。
图12是示出影像发送装置的延迟时间设定处理的流程图的一个例子的图。
图13是示出影像发送装置的发送处理定时和影像接收装置的接收处理定时的一个例子的图。
图14是示出影像接收装置的发送处理定时和影像接收装置的接收处理定时的另一例子的图。
图15是示出影像接收装置的发送处理定时和影像接收装置的接收处理定时的另一例子的图。
图16是示出影像发送装置的块结构的另一例子的图。
图17是示出用于进行时刻同步的协议的一个例子的图。
图18是说明同步相位调整分组的定时的一个例子的图。
图19是说明影像发送装置的编码信号储存量的迁移的一个例子的图。
图20是示出影像接收装置的块结构的另一例子的图。
图21是说明影像接收装置的编码信号储存量的迁移的一个例子的图。
图22是示出各块的控制定时的一个例子的图。
图23是示出影像发送装置的动作流程的另一例子的图。
图24是示出影像接收装置的动作流程的另一例子的图。
图25是示出网络照相机系统的例子的图。
图26是示出影像接收装置的块结构的另一例子的图。
图27是示出影像发送装置的发送处理定时和影像接收装置的接收处理定时的另一例子的图。
图28是示出影像接收装置的延迟时间设定处理的流程图的另一例子的图。
图29是示出影像发送装置的发送处理定时和影像接收装置的接收处理定时的另一例子的图。
图30是示出影像发送装置的发送处理定时和影像接收装置的接收处理定时的另一例子的图。
(符号说明)
1、2、3:照相机;4:LAN;5:控制器;6:显示器;100:镜头;101:拍摄元件;102:影像压缩电路;103:影像缓冲器;104:系统编码器;105:分组缓冲器;106:基准信号发生电路;107:LAN接口电路;108:控制电路;201:帧内帧;202:帧间帧;301:序列头部;302:图片头部;40:传输分组;401:分组头部;402:分组信息;501、5011、5012、5013:LAN接口电路;5021、5022、5023:系统解码器;5031、5032、5033:影像解压缩电路;504:图像处理电路;505:OSD电路;506:基准信号发生电路;507:控制电路;60:LAN分组;601:LAN分组头部;602:LAN分组信息;11:分组分离部;12:时刻信息提取部;13:基准时钟恢复;14:基准时刻计数器;15:延迟信息生成部;16:同步相位信息提取部;17:基准同步信号发生器;18:传感器控制部;21:数字信号处理部;24:麦克风;25:AD变换器;26:语音编码部;27:系统Mux;28:系统控制部;51:基准时钟生成部;52:基准时刻计数器;53:时刻控制分组生成部;55:输出同步信号生成部;56:发送机同步相位计算部;58:复用部;61:系统Demux部;63:显示处理部;64:显示器部;65:语音解码部;66:DA变换部;67:扬声器部。
具体实施方式
实施例1
图1是包括作为影像传送装置的照相机的影像传送系统的方式的一个例子。在图1中,1是照相机,2至3是其他照相机。4是LAN(Local Area Network:局域网)、5是控制器,照相机1至3经由LAN4而与控制器5连接。6是显示器。在网络中,作为所使用的协议,既可以使用例如作为数据链路协议的IEEE802.3规格中规定的方式,进而也可以使用网络协议的IP(Internet Protocol:网际协议)并在其上位的传输层协议中使用TCP(Transmission ControlProtocol:传输控制协议)以及UDP(User Datagram Protocol:用户数据包协议)。在影像、语音的传送中,使用更上位的应用程序协议、例如RTP(Real-time Transport Protocol:实时传输协议)、HTTP(Hyper Text Transfer Protocol:超级文字传输协议)等。另外,也可以使用IEEE802.3规格中规定的协议方式。控制器5接收从各照相机分发的影像、语音数据,分别对显示器6、扬声器7输出影像、语音。作为LAN4的结构,例如,能够设为各照相机和控制器5分别一对一直接连接的方式、或经由未图示的交换集线器装置连接,照相机还能够是2台以下、4台以上的连接。
图2是示出作为影像传送装置的照相机1的内部块结构的一个例子的图。100是镜头、101是拍摄元件、102是影像压缩电路、103是影像缓冲器、104是系统编码器、105是分组缓冲器、106是基准信号发生电路、107是LAN接口电路、108是控制电路、109是存储器。
将经由镜头100通过拍摄元件101得到的影像信号输入到影像压缩电路102,进行色调、对比度的校正,并储存到影像缓冲器103。接下来,影像压缩电路102读出影像缓冲器103中储存的影像数据,例如,生成作为影像压缩编码方式而依照ISO/IEC13818-2(通称MPEG2Video)MPML(Main ProfileMain Level)规格的压缩编码数据。另外,作为影像压缩编码方式,也可以是H.264/AVC规格方式、JPEG规格方式。另外,既可以混合存在不同的影像压缩编码方式的照相机,也可以针对一个照相机选择并切换影像压缩编码方式。所生成的压缩编码影像数据被输入到系统编码器104。基准信号发生电路106将例如表示影像信号帧的结尾的帧脉冲供给到拍摄元件101、影像压缩电路102,而作为成为拍摄元件101、影像压缩电路102的处理定时的基准的基准信号。依照该基准信号,进行利用拍摄元件的影像的拍摄、所拍摄的影像的压缩以及所压缩的影像的发送(后述)。该基准信号是在各照相机之间同步了的信号,作为同步的方法,例如有将一台照相机的同步信号输入到其他照相机的方法等。
接下来,如以下所示,对输入到系统编码器104的压缩编码影像数据进行分组化。
图3是数字压缩处理的例子,是按照数字压缩影像信号的帧单位压缩了的帧内帧数据、和使用来自前后帧的数据的预测仅对差分信息进行压缩而得到的帧间帧数据的关系。201是帧内帧、202是帧间帧。数字压缩影像信号是将规定数量的帧、例如15帧作为一个序列,将其开头作为帧内帧,将剩余的帧作为使用来自帧内帧的预测而压缩了的帧间帧。当然,除了开头以外也可以配置帧内帧。另外,也可以仅将开头的帧作为帧内帧,将后续的帧全部作为帧间帧,或者也可以将所有帧作为帧内帧。
图4是数字压缩影像信号的结构。302是以帧单位附加的图片头部、301是以序列单位附加的序列头部。序列头部301由同步信号以及传送速率等信息构成。图片头部302由同步信号以及是帧内帧还是帧间帧的识别信息等构成。通常,各数据的长度根据信息量而变化。该数字影像压缩信号被分割为后述传输分组而成为分组串。
图5是数字影像压缩信号的传输分组的结构例。40是该传输分组,1个分组是固定长度,例如由188字节构成,包括分组头部401、和分组信息402。在图4中说明的数字压缩影像信号被分割而配置到分组信息402的区域,并且,分组头部401由分组信息的种类等信息构成。
由系统编码器104进行分组化后的数字影像压缩信号被临时储存到分组缓冲器105,从分组缓冲器105读出的分组串被输入到LAN接口电路107。
在图2的LAN接口电路107中,将所输入的分组串分组化为依照例如IEEE802.3规格的LAN分组而输出。
图6是示出由系统编码器104生成的分组串的LAN分组化的例子的图。对于LAN分组60,例如1个分组是最大1518字节的可变长度,由LAN分组头部601和LAN分组信息602构成。将由系统编码器106生成的传输分组40依照上述网络协议,与数据错误检测符号等一起储存到LAN分组信息602的区域中,附加储存用于识别各照相机的LAN4上的地址信息等的LAN分组头部601,作为LAN分组60输出到LAN。
另外,在LAN接口电路107中,与连接到LAN4的机器交换用于控制的信息。这是通过将来自控制电路108的指示等信息储存到LAN分组信息602并发送到LAN4上、或者从由LAN4接收到的LAN分组60的LAN分组信息602中取出信息并传递到控制电路108来进行的。
图7是示出控制器5的内部块结构的一个例子的图。5011~5013是LAN接口电路、5021~5023是系统解码器、5031至5033是影像解压缩电路、504是图像处理电路、505是OSD(On-Screen Display:屏幕显示)电路、506是基准信号发生电路、507是控制电路、508是存储器。
在图7的说明中,系统解码器5021~5023、影像解压缩电路5031~5033、图像处理电路504被说明为硬件。但是,它们也可以通过控制电路507在存储器508中展开并执行具有与各自对应的功能的程序,从而以软件来实现各功能。以下,为简化说明,将控制电路507执行与各功能对应的程序的情况也包含在内,说明为系统解码器5021~5023、影像解压缩电路5031~5033、图像处理电路504作为动作主体而执行各处理。
将由照相机1~3生成的LAN分组60分别输入到LAN接口电路5011~5013。针对从照相机1输入的LAN分组60,在LAN接口电路5011中去掉LAN分组头部601,依照上述网络协议,从LAN分组数据602中取出传输分组40。传输分组40被输入到系统解码器5021,从传输分组40中取出上述分组信息402,结合,成为图4所示的数字压缩影像信号。针对该数字压缩影像信号,在影像解压缩电路5031中进行解压缩处理,作为数字影像信号输入到图像处理电路504。针对从照相机2、3输入的LAN分组60也进行同样的处理,从影像解压缩电路5032、5033向图像处理电路输入数字影像信号。在图像处理电路504中,实施来自各照相机的影像信号的失真校正、基于坐标的置换的视点变换、合成处理等并输出到OSD电路505,或者进行基于来自各照相机的影像信号的物体形状的认识、距离的测量等图像处理。在OSD电路505中,在来自图像处理电路504的影像信号上重叠文字、图形,并输出到显示器6。
基准信号发生电路506将表示例如影像信号帧的结尾的帧脉冲作为基准信号而供给到图像处理电路504、OSD电路505,该基准信号为图像处理电路504、OSD电路505的处理定时的基准。对于该基准信号,例如以1帧量的影像解压缩处理完成了的时间点为基准而发生,对于基准信号的调节,通过控制电路507控制基准信号发生电路506而进行。
另外,在LAN接口电路5011至5013中,为了与各照相机交换用于控制的信息,将来自控制电路507的指示等信息储存到LAN分组信息602中并发送到各照相机、或者从由各照相机接收到的LAN分组60的LAN分组信息602中取出信息并传递到控制电路507。
图8是示出控制器5的内部块结构的另一例子的图。501是LAN接口电路,经由未图示的交换集线器装置连接到照相机1至照相机3。在LAN接口电路501中,根据上述LAN分组头部601中储存的地址信息,区别来自各照相机的LAN分组,依照上述网络协议,将从LAN分组60的LAN分组信息602取出的传输分组40向系统解码器5021~5023分配并输出。系统解码器5021~5023以后的处理与图7的说明相同。
另外,在LAN接口电路501中,为了与各照相机交换用于控制的信息,将来自控制电路507的指示等信息储存到LAN分组信息602并发送到各照相机、或者从由各照相机接收到的LAN分组60的LAN分组信息602中取出信息并传递给控制电路507。
图9是本实施例中的、基于控制器的延迟时间取得处理的流程图。控制器5首先确认连接到LAN4的照相机(步骤S101)。这能够通过例如能够对连接到LAN4的所有装置发送分组的广播分组来实现。另外,也可以对各照相机个别地发送确认的分组。接下来,对连接到LAN4的各照相机,查询各个照相机的处理延迟时间(步骤S102),接收来自各照相机的处理延迟时间的回答(步骤S103)。由此,控制器5能够取得连接到LAN4的照相机的处理延迟时间。这些处理例如在控制器5的电源接通时进行。
图10是本实施例中的、照相机中的延迟时间回答处理的流程图。如上所述,在从控制器5接收到延迟时间查询要求的情况下(步骤S301),将在该照相机中可设定的延迟时间、例如最短延迟时间至可设定的最长延迟时间的范围作为回答而发送到控制器5(步骤S302)。由此,连接到LAN4的照相机能够将该照相机的处理延迟时间传递到控制器。照相机在来自控制器5的要求之前、或者对应于来自控制器5的要求,根据所取得的影像的压缩方法、影像的比特率计算最短延迟时间,将所计算出的最短延迟时间储存到存储器109,根据需要从存储器109读出最短延迟时间,并如上所述地通知给控制器5。具有如下效果:在照相机根据来自控制器5的要求而计算最短延迟时间的情况下,能够计算与该要求时间点的照相机中的影像的压缩方法和比特率对应的最短延迟时间。特别地,在控制器5能够对照相机指示压缩方法、比特率的变更的情况下是有效的。
图11是基于控制器的延迟时间设定处理的流程图。首先,决定所设定的处理延迟时间(步骤S201)。此处,将通过图9的延迟时间取得处理得到的各照相机的最短延迟时间中的最长的时间设为对各照相机设定的处理延迟时间。但是,以对照相机设定比各照相机的最长延迟时间中最短的时间还短的处理延迟时间为必要条件。
在不满足该必要条件的情况下,控制器5对发送了不满足的最短延迟时间的照相机,发送最短延迟时间的缩短要求,并且,对发送了不满足的最长延迟时间的照相机,发送最长延迟时间的延长要求。接收到最短延迟时间的缩短要求的照相机例如能够通过变更压缩处理方法来缩短尝试最短处理时间。控制器5判断针对所述缩短要求而从各照相机接收的短延迟时间、最长延迟时间是否满足上述必要条件。在尚未满足必要条件的情况下,控制器5输出错误(error)。在满足了必要条件的情况下,控制器5将通过上述缩短要求而缩短了的最短延迟时间作为对各照相机设定的处理延迟时间。
接下来,控制器5对各照相机,要求所决定的处理延迟时间的设定(步骤S202),接收来自各照相机的设定结果的回答(步骤S203)。由此,控制器5能够对连接到LAN4的照相机进行处理延迟时间的设定。
图12是本实施例中的、照相机中的延迟时间设定处理的流程图。如上所述,在从控制器5接收到延迟时间的设定要求的情况下(步骤S401),照相机设定延迟时间(步骤S402),将其结果作为回答发送给控制器(步骤S403)。由此,连接到LAN4的照相机能够根据来自控制器的要求而设定处理延迟时间。
图13是示出本实施例中的各照相机的发送处理定时和控制器5的接收处理定时的一个例子的图。在该图中,(1-1)~(1-4)表示照相机1的处理定时,(2-1)~(2-5)表示照相机2的处理定时,(3-1)~(3-8)表示控制器5的处理定时。
(1-1)是基准信号1,(1-2)是通过拍摄元件101进行拍摄处理的拍摄定时1,(1-3)是通过影像压缩电路102进行影像压缩处理的影像压缩定时1,(1-4)是通过LAN接口电路107进行发送处理的发送定时1。此处,针对每个基准信号进行了1帧量的影像信号的处理。照相机1将基准信号1作为处理的基准,例如以基准信号1的脉冲的定时开始拍摄处理,之后,依次进行影像压缩处理、发送处理。在照相机1中,基准信号1至发送定时1的发送处理开始的时间d1成为处理延迟时间。
另外,(2-1)是照相机2的基准信号2,(2-2)是通过照相机2的拍摄元件101进行拍摄处理的拍摄定时2,(2-3)是通过影像压缩电路102进行影像压缩处理的影像压缩定时2,(2-4)是在照相机2中不进行处理延迟时间的设定时的通过LAN接口电路107进行发送处理的发送定时2。照相机2将基准信号2作为处理的基准,在基准信号2的定时开始拍摄处理,之后,依次进行影像压缩处理、发送处理。在照相机2中,基准信号2至发送定时2的时间d2成为处理延迟时间。另外,如上所述,照相机1的基准信号1和照相机2的基准信号2同步。
此处,如上所述,控制器5取得照相机1和照相机2的处理延迟时间。根据所取得的结果,照相机1的处理延迟时间比照相机2的处理延迟时间d2长,所以对照相机2,控制器5设定照相机2的处理延迟时间,以使处理延迟时间成为d1。(2-5)是设定了处理延迟时间之后的发送定时2′。对于处理延迟时间的调节,此处,例如,能够通过调节如下定时来实现:该定时是为了将从图2所示的系统编码器104储存到分组缓冲器105的分组串输入到LAN接口电路107而读出的定时。由此,照相机1的发送定时1、和照相机2的发送定时2′一致。
接下来,(3-1)是控制器5进行来自照相机1的LAN分组的接收处理的接收定时1,(3-2)是通过影像解压缩电路5031进行影像解压缩处理的影像解压缩定时1,(3-3)是通过影像解压缩电路5031进行解压缩而得到的1帧量的照相机1的影像输出定时1。另外,(3-4)是控制器5进行来自照相机2的LAN分组的接收处理的接收定时2,(3-5)通过影像解压缩电路5032进行影像解压缩处理的影像解压缩定时2,(3-6)是通过影像解压缩电路5032进行解压缩而得到的1帧量的照相机2的影像输出定时2。进而,(3-7)是控制器5中的基准信号C,(3-8)是控制器5向显示器6输出的显示影像的显示定时C。
控制器5以来自照相机1的接收定时1为处理的基准,接着接收处理依次进行影像解压缩处理。同样地,接着来自照相机2的接收处理进行影像解压缩处理。此处,照相机1的发送定时1和照相机2的发送定时2′一致,所以影像输出定时1和影像输出定时2一致。例如,对于基准信号C,与影像输出定时1以及2匹配地生成,以基准信号C的脉冲的定时进行显示处理,从而例如能够合成照相机1的影像和照相机2的影像,并在显示定时C将合成影像显示于显示器6。
图14是示出本实施例中的各照相机的发送处理定时的另一例子的图。在控制器5中针对照相机2,以使处理延迟时间成为d1的方式,控制器5设定照相机2的处理延迟时间,但在该例子中,照相机2调节开始影像压缩处理的定时,以使处理延迟时间成为d1。对于该处理延迟时间的调节,例如,能够通过调节如下定时来实现:该定时是从图2所示的影像压缩电路102为了进行影像压缩处理而读出影像压缩电路102储存到影像缓冲器中的影像数据的定时。(2-6)是设定了处理延迟时间后的影像压缩定时2′,(2-7)是与其相伴的发送定时2′′。由此,照相机1的发送定时1和照相机2的发送定时2′′一致。因此,能够与图13同样地,合成照相机1的影像和照相机2的影像,并在显示定时C将合成影像显示于显示器6。
在以上的说明中,用作为起点的基准信号至作为终点的发送开始时间定义了处理时间延迟时间,但不限于此,例如起点也可以设为拍摄元件101开始拍摄的时间,另外终点也可以设为各帧的发送定时的发送结束时间。
另外,例如还能够通过将基于每个照相机的压缩方式的差异、比特率的差异的影像解压缩处理时间的差分考虑到针对照相机的设定处理时间,从而使各照相机的影像输出定时匹配。在该情况下,控制器5针对每个照相机测定影像解压缩处理时间,将距离最长的影像解压缩处理时间的差分作为追加的处理延迟时间,合计到各照相机的处理延迟时间,将其结果作为处理延迟时间发送到各照相机,对各照相机指示新的处理延迟时间的设定,从而能够使控制器5中的各照相机的影像输出定时((3-3)、(3-6)等)更准确地对齐。
另外,对于各照相机的处理延迟时间的取得,示出了通过从控制器5的查询而实现的例子,但例如也可以在照相机的电源接通时、连接到LAN4时,从各照相机侧对控制器5通知。
另外,在以上的说明中,说明了影像信号的发送接收,但语音信号的传送也能够同样地进行。
如以上那样,通过调节各照相机中的延迟时间,能够显示显示定时匹配了的影像。
另外,控制器5无需进行吸收来自各照相机的影像的显示定时偏差的处理,所以处理不会变得复杂而能够显示显示定时匹配了的影像。
实施例2
接下来,说明包括作为影像传送装置的照相机的影像传送系统的方式的其他例子。对于与实施例1同样的部分,省略说明。
在实施例1中,说明了如图13、图14所示,照相机的基准信号1和基准信号2包括周期以及相位都同步的例子。但是,实际上,还有在系统彼此之间仅基准信号的周期(或者频率)一致而相位未必一致这样的情况。在本实施例中,设想这样的情况,对虽然基准信号1和基准信号2的周期一致但相位不一致这样的情况进行说明。
在本实施例中,在各照相机与控制器之间,设置了使时刻同步的构造。作为使时刻同步的方法,例如能够使用IEEE1588中记载的方法。使用这样的方法,在系统间定期地使时刻同步,使用该时刻,例如使用PLL(Phase Locked Loop:锁相环),调节系统内的基准信号的振荡周期。由此,能够使基准信号的周期在系统之间一致。
图15是示出本实施例中的各照相机的发送处理定时的一个例子的图。(1-0)、(2-0)分别表示照相机1、照相机2的基准时刻(内部时钟)。通过利用上述方法定期地(例如,T0、T1)取得同步,它们相互一致。
在照相机1中,在内部振荡而生成基准信号1(1-1)。此时,根据基准时刻1(1-0)调节振荡周期。同样地,在照相机2中,在内部振荡而生成基准信号2′(2-1)。此时,根据基准时刻2(2-0)调节振荡周期。
这样,各照相机根据各自的基准时刻调整基准信号的振荡周期,所以基准信号1和基准信号2′′的周期一致。但是,相互的相位未必一致。
将基准时刻T0至基准信号1的时间设为s1。照相机1在对控制器5通知处理延迟时间时(图9的步骤S103),通知s1以及d1。同样地,将基准时刻T0至基准信号2的时间设为s2,照相机2对控制器5通知s2以及d2。d1、d2也可以与实施例1同样地,设为最短延迟时间至可设定的最长时间的范围。
对于各照相机,例如,能够将基准时刻校正时作为起点,并参照基准信号发生电路106发生了基准信号时的基准时刻,从而测定s1、s2。或者,通过在照相机中另外设置计数器,照相机使计数器在基准时刻校正时启动,用计数器测定直至基准信号发生电路106发生基准信号的时间,也能够测定s1、s2。控制器5在决定所设定的延迟时间(图10的步骤S201)时,考虑基准信号1和基准信号2的相位的差异来决定。例如,在图15中,在将时刻T0考虑为基准时,在该情况下,s1+d1比s2+d2长,所以对照相机2设定d2′=s1+d1-s2,以使合计的延迟时间成为s1+d1=s2+d2′。
(2-5)是设定了处理延迟时间之后的发送定时2′′′。由此,照相机1的发送定时1和照相机2的发送定时2′′′一致。
另外,在上述实施例中,示出了在照相机1将处理延迟时间通知到控制器5时,通知了s1以及d1的例子,但也可以代替该处理而仅通知它们的合计时间D1=s1+d1(在照相机2的情况下D2=s2+d2)。在该情况下,控制器5对照相机2设定D2′=D1,以使合计时间D2等于D1。即使这样,也能够得到同样的效果。
各照相机既可以与实施例1同样地,例如在启动时对控制器5通知延迟时间,也可以根据来自控制器5的要求将延迟时间通知给控制器5。在后者的情况下,照相机能够将该时间点的基准时刻-基准信号间的时间差通知到控制器5。另外,在能够通过来自控制器5的指示来变更照相机的影像压缩方法、比特率的情况下,照相机能够将反映了起因于影像压缩方法和比特率的变更而变化的照相机的处理延迟时间的、该时间点的处理延迟时间通知给控制器5。因此,控制器5能够反映该要求时间点的各照相机中的基准时刻-基准信号间的时间差、影像压缩方式、比特率,而计算对照相机设定的处理延迟时间,能够期待控制器5中的各照相机影像的输出定时的同步精度提高。
另外,对于在各照相机中使时刻同步的处理,既可以在图2的控制电路108内进行,也可以与控制电路108独立地设置用于进行时刻的同步的专用电路来进行。在后者的情况下,通过使该专用电路专用于时刻的同步处理,能够期待进一步提高同步的精度。
实施例3
图16示出本发明的实施例3的框图。以下,使用该图来说明实施例3。
本实施例依照H.264/AVC(ISO/IEC14496-10)的规格对以每秒30帧/sec取入的1920×1080像素的视频图像进行影像编码,并且对以48KHz的采样率取入的12比特语音数据实施MPEG1LayerII的语音编码处理并进行分组复用,经由网络发送的网络照相机。在网络中,以作为所使用的协议,例如使用作为数据链路协议的IEEE802.3规格中规定的方式为前提。另外,在本实施例中,以对语音进行以往就有的PCM采样,并进行基于MEPG1LayerII编码发送为前提,在附图中仅图示块结构。
在图16的网络发送接收部29中,在系统启动之后,按照依照IEEE802.3规格的协议,与连结于端子10的未图示的网络所连接的接收机进行通信链接。接收以IEEE802.3输入的分组串,例如作为依照IEEE802.3规格的LAN分组。也可以是依照IEEE1588:IEEE1588-2002Precision Clock Synchronization Protocol for NetworkedMeasurement and Control Systems(网络测量和控制系统的精密时钟同步协议)中记载的PTP(Precision Time Protocol:精密时间协议)的方法。在本实施例中,设想简化了的协议来说明时刻同步系统。
在本系统中,将接收机侧定义为用于时刻同步的服务器,将发送机侧定义为与服务器侧的时刻匹配的客户端侧。
图17示出服务器侧和客户端侧为了取得时刻同步而进行的分组发送接收的方法。
服务器侧为了取得时刻同步,在T1时刻地点将用于取得同步信息的最初的分组发送到发送机侧。本分组被称为Sync(同步)分组,接收到该分组的图16的网络发送接收部29向分组分离部11发送分组。进而,分组分离部11通过标识符判别是Sync分组,发送到后段的时刻信息提取部12。在时刻信息提取部12中,从发送机内的基准时刻计数器14获得分组中记载的服务器侧的分组发送时刻(T1)、和分组到达时刻信息提取部12的时刻(T2)。基准时刻计数器使用如后所述地在基准时钟恢复部13中生成的系统时钟,对基准时刻进行递增计数。接下来,在延迟信息生成部15中,生成从客户端向服务器发送的分组(DelayReq),发送到网络发送接收部29。在网络发送接收部29中,从基准时刻计数器读取发送本分组的定时(T3),发送到接收机(服务器)。同时,将T3的信息转送到时刻信息提取部12。在服务器中,读取DelayReq的分组到达的定时(T4),将其记述在DelayResP的分组内,发送到客户端侧。到达发送机侧(客户端)的DelayResp分组被发送到分组分离部11,在被确认为DelayResp分组之后,被发送到时刻信息提取部12。在时刻信息提取部12中,提取在DelayResp分组内记述的T4信息。通过以上的过程,时刻信息提取部12能够得到T1、T2、T3以及T4的时刻信息。
对于服务器/客户端间的分组发送接收时的时间差,如果考虑网络的传送延迟Tnet和两者的装置的基准时刻之差Toffset(客户端的时刻-服务器侧的时刻),则成为T2-T1=Tnet+Toffset、T4-T3=Tnet-Toffset(其中,对于服务器/客户端间的网络的传送延迟,在上行和下行中假设为相同时间),所以能够求出为Tnet=(T2-T1+T4-T3)/2、Toffset=T2-T1-Tnet。
时刻信息提取部12在得到了T1、T2、T3以及T4信息的阶段,通过上述计算而计算出Toffset。进而,时刻信息提取部12进行控制,使得基准时刻计数器14从当前时刻返回Toffset量。
与上述同样地,多次重复进行Sync、DelayReq、DelayResP的分组的发送接收,计算数次Toffset,在使Toffset接近0的方向上,对基准时钟恢复部13发送控制信息。具体而言,基准时钟恢复部13例如由VCXO(Voltage-Controlled Crystal Oscillator:压控振荡器)构成,在Toffset为正值、希望使时钟变慢的情况下,降低向基准时钟恢复部13供给的电压,相反地,在Toffset是负值、希望使时钟变快的情况下,提高向基准时钟恢复部13供给的电压。
对于该控制,能够通过根据Toffset的绝对值设置变更电压控制幅度的反馈控制,从而使从基准时钟恢复部13向基准时刻计数器14送出的时钟稳定,并收敛于与服务器侧同步的频率。另外,发送机侧能够与接收机侧同步地更新基准时刻计数器14。
除了用于取得时刻同步的分组以外,网络发送接收部29将从接收机侧接收的分组中的、包括同步相位信息的分组也发送到分组分离部11。在分组分离部11中将包括同步相位信息的分组,送出到同步相位信息提取部16。在本分组中,以基准时刻计数器14为基准,指示发送机的动作同步信号的定时。例如,如图18所示,网络发送接收部29接收包括所接收的同步相位信息的分组(以下表示为SyncPhase)30并发送到同步相位信息提取部16。
在同步相位信息提取部16中,提取SyncPhase内记载的基准同步信号的发生定时TA。TA表示在发送机侧应发生基准同步信号的基准时刻计数器值。
如果预先在发送接收侧对分组内的储存位置进行标准化,并根据其语法解析数据,则能够唯一地确定TA信息的储存位置,并提取数据。所提取的定时TA被转送到基准同步信号发生器17。
如图18所示,基准同步信号发生器17参照从基准时刻计数器14送来的基准时刻,在成为TA的定时的时间点,生成基准同步信号32,并发送到传感器控制部18。同样地,每当后续的SyncPhase31以后的分组到达时,随时生成基准同步信号33。接收到基准同步信号的传感器控制部18将传感器垂直同步信号的发生定时变更为此前如图18的34、35那样以周期Tms通过自由振荡动作生成的传感器垂直同步信号32的基准同步信号的定时。
之后,根据从基准时钟恢复部13接收到的基准时钟,对周期Tms进行计数,针对每个周期Tms发生传感器垂直同步信号(图18的36~39)。另外,对于基准同步信号33以后的同步信号,成为与由传感器控制部18生成的垂直同步信号相同的定时,所以只要未探测到相位偏差,则原样地继续进行每个周期Tms的信号生成。
在之后的基准同步信号到达时,如果确认了一次或多次与由传感器控制部18生成的传感器垂直同步的相位相同,或者在某时刻范围内,则视为接收机侧和发送机侧的设想的同步信号的定时对齐,将相位调整的确认完成信号发送到系统控制部28。
在发现了基准同步信号与垂直同步信号(例如33与39)之间相位偏差的情况下,视为由于接收机侧的异常等而同步信号的定时发生了变化,对系统控制部28进行相位偏差的通知。如上所述,即使用于相位调整的信息(SyncPhase)的发送间隔定时比垂直同步信号的生成周期Tms相对地长,在传感器控制部18中生成的垂直同步信号,也能够在进行了一次相位调整的阶段,根据基准时钟和基准时刻而高精度地生成垂直同步信号。在这一点上,本方式对发送所致的网络通信量降低也有效。
另外,通过定期地发送的SyncPhase,能够探测由于系统的某种异常而同步信号的相位发生偏差的情况,能够进行之后的错误修正的控制。
在系统控制部28中,在接收到相位调整的确认完成信号之后,控制镜头部19、CMOS传感器20、数字信号处理部21、影像编码部22系统Mux部,开始影像编码。对于影像编码,进行一般的数字影像的拍摄、数字压缩编码。例如,在镜头部19中,进行从系统控制部28接收的用于AF(Auto Focus)的镜头部的移动,在CMOS传感器20中,在从镜头部受光并放大了输出值之后,作为数字影像输出到数字信号处理部21。在数字信号处理部21中,根据从CMOS传感器20接收的例如Bayer(拜耳)排列状的RAW数据,实施数字信号处理,在变换为亮度、色差信号(YUV信号)之后,转送到影像编码部22。
在影像编码部中,将在各垂直同步间内捕获的图像群处理为汇总成图片的单位,进行编码处理。此时,例如,生成使用帧内帧内的预测的I图片(Intra Picture),或者仅使用前方预测而生成P图片(Predictive Picture),以使编码延迟时间不成为几帧期间。此时,以接近一定比特率的比特发生量的方式,影像编码部22调整对由横16像素×纵16像素构成的各MB(Macroblock:微块)进行了编码之后的编码量。具体而言,通过调整量化步骤,能够控制各MB的每一个的发生符号量。直至几个MB的处理结束,在系统Mux部中将比特流储存到内部缓冲器,在储存了规定的MB数量的阶段,在系统Mux部中,作为MPEG2TS流而将视频流分组化为具有188字节的固定长度的TS分组而输出。进而,在网络发送接收部59中,被MAC分组化,并经由网络发送到接收机侧。
图19是例示了系统Mux部中的内部缓冲器的流积蓄量的迁移状况的图。在该图中,为便于说明,设为针对每个MB期间,将对各MB进行编码而得到的符号瞬间积蓄到缓冲器,针对各MB期间的每一个,以一定的吞吐量向网络输出流。
对于上述系统Mux部中的流的输出开始定时,通过等待规定的待机时间(图19的91)来控制,该规定的待机时间是以一定比特率输出到外部时,即使比特流的符号发生量(吞吐量)变动而储存于系统Mux部的缓冲器内的编码数据变成最少的情况下(图19的90的定时)系统Mux部的缓冲器也不会枯竭的时间。一般,这些控制能够通过在监视实际的编码量的同时根据缓冲器的迁移而变更上述量化步骤,来控制规定的MB数期间内的编码量,将吞吐量相对于输出比特率抑制为一定的抖动范围。通过与该收敛所需的时间量对应地设置图19的91的待机时间量的期间,能够实现系统Mux部的缓冲器不枯竭的系统。
通过将本期间规定为发送机侧的标准,能够在接收机侧计算之后的传送延迟。
接下来,使用图20来说明接收机侧的块结构以及动作。在基准时钟生成部51中生成接收机侧的基准时钟。本基准时钟成为用于取得图17所示的服务器侧与客户端侧的时刻同步的基准时钟,在51中通过晶体振荡器等不使用其他外部同步而通过自由振荡动作生成时钟。
将本时钟作为基准,在基准时刻计数器52中,对服务器侧的基准时刻进行计数。在时刻控制分组生成部53中,使用本基准时刻,生成图17所示的用于时刻同步的分组(Sync)。在Sync的发送时记载于分组内的T1通过本块生成。针对所生成的(Sync)分组,在分组复用部58中与其他分组复用,进而在网络发送接收部59中进行调制,从网络端子60经由与外部连接的网络而传送到发送部。另一方面,在从发送部接收的SyncReq分组的接收时,从网络发送接收部59接收接收定时的通知,在时刻控制分组生成部53中记录基准时刻(图17的T4)。使用本T4在时刻控制分组生成部53中生成DelayResp分组,经由分组复用部58、NW发送接收部59传送到发送机侧。
接下来,说明接收机侧的垂直同步定时的生成。将在基准时钟生成部51中生成的基准时钟作为基准,在输出同步信号生成部55中生成输出时的垂直同步信号。本垂直同步信号被送到发送机同步相位计算部56。此处,如后所述,根据接收机侧的输出时的垂直同步信号的相位,计算发送机侧的垂直同步信号的相位,使用基准时刻计数器中的计数器信息,生成图18所示的SyncPhase的分组。将SyncPhase分组发送到分组复用部,与Sync分组同样地,从网络发送接收部59、网络端子60发送到发送机侧。
接下来,说明接收机中的影像的解码步骤。将由网络发送接收部59接收的包括与影像相关的MPEG2TS流的MAC分组传送到系统Demux部61。在系统Demux部61中,进行TS分组的分离、影像流的提取。将所提取的影像流传送到影像解码部62。将语音流送到语音解码部65,通过DA转换器66进行了Digital/Audio变换之后,输出到扬声器。
在系统Demux部61中,在内部缓冲器中将流积蓄了规定的待机时间之后,对影像解码部62输出流并开始解码。
图21示出在系统Demux部61的内部缓冲器中积蓄流时的迁移状况的一个例子。在该图中,为便于说明,以按照一定的比特率从网络供给流,针对各MB按照每单位时间,瞬间地在影像解码部62中输出各MB量的流的方式,进行模型化而示出。
从时刻T0的阶段开始流的输入,待机期间92所示的期间之后,开始流的解码。为了即使在如定时93所示流的储存量变得最少时也不会下溢(underflow),而设置待机时间。对于该待机时间,在知道发送机侧为了使发生符号量收敛于网络的传送比特率而所需的最低的收敛时间的情况下,能够将该收敛时间以上的时间规定为待机时间来实现。
在影像解码部62中对从Demux部61读出的影像流进行解码,生成解码图像。将所生成的解码图像转送到显示处理部63,通过与垂直同步信号同步的定时发送到显示器64,显示为动画。另外,例如为了发送到外部的未图示的图像认识用机器等,从外部端子69作为影像信号输出。
图22是示出发送机至接收机的各功能块中的控制定时的关系的图。
图22的垂直同步信号40表示图16的传感器控制部18生成的垂直同步信号,图22中的传感器读出信号41表示从图16的CMOS传感器读出数据的定时,图22中的图像取入42表示向图16的影像编码部22的影像输入定时,图22中的编码数据输出43表示从图16的22的影像编码部22输出影像编码流的定时,图22中的编码数据输入44表示向图20的影像解码部62输入编码数据的定时,图22中的解码侧输出垂直同步信号表示从图20的显示处理部63向显示器或者外部端子69输出的垂直同步信号,进而图22的解码图像输出46表示从图20的显示处理部63向显示器或者外部端子69输出的图像的有效像素期间。为便于说明,考虑为垂直同步定时40至传感器读出定时41的垂直消隐(blanking)期间、和解码侧输出垂直同步信号至解码图像输出46的垂直消隐期间相同。
此处,设想能够通过设计标准等确定发送机侧的CMOS传感器(图16的20)的图像输出开始(图22的41的各帧的开始时刻)至接收接收机侧所接收的分组并作为解码图像输出到显示器或者其他机器的时刻(图22的46)的延迟时间(图22的Tdelay)的情况。对于Tdelay,能够通过合计发送机侧的影像取入至经由编码处理而发送分组的延迟时间、网络的转送延迟、以及从接收机侧的分组取入至经由解码处理而输出为止所需的延迟时间来定义。
在图20的发送机同步相位计算部56中,计算接收机侧的输出垂直同步信号45的输出定时(ta、tb、tc···)的基准时刻。这能够通过参照某1个采样的输出垂直同步信号的基准时刻,相加与帧周期Tms相当的基准时刻计数器来计算。在计算了ta、tb、tc之后,计算由此追溯Tdelay的时刻(TA、TB、TC···)。例如,成为TA=ta-Tdelay。
如图18所示,将由此计算出的TA、TB、TC通过SyncPhase,发送到发送机。
此时,考虑网络的延迟时间Tnet而发送到发送机侧,以使储存了TA、TB、TC的时刻信息的SyncPhase到达发送机侧的时刻,各自利用TA、TB、TC足以到达跟前。
具体而言,能够通过在接收机侧通过SyncPhase分组在时刻Tx调整发送侧的同步信号的相位的情况下,在将发送的定时设为Tsp,进而将发送机侧接收SyncPhase之后对SyncPhase内的信息进行解析所需的时间设为Ty时,选定满足Tsp+Tnet+Ty<Tx以上的Tx,并生成SyncPhase分组来实现。另外,对于规定上述Tdelay、Tnet、Ty等控制定时的各期间,在由于处理负荷等而在该期间产生抖动时,能够分别通过考虑相应期间的最差值来进行等同的控制。
通过本系统,能够在发送侧和接收侧使垂直同步信号的相位差与从影像取入至输出所需的延迟时间Tdelay等同、或者接近等同的方向调整。如上所述,之所以能够规定Tdelay,是因为具有求出网络的传送延迟的单元,进而,将发送机的编码延迟、接收机的解码延迟和缓冲器储存时间固定为规定的时间的缘故。如果不进行本实施例那样的控制而成为TA+Tdelay>ta那样的关系的情况下,对于在TA至TB之间取入的影像,在接收机侧,无法在从ta开始的帧期间输出,需要使输出定时延迟至tb。因此,即使在Tdelay比垂直同步期间充分小的情况下,拍摄定时至影像输出的时间也会无用地变大。通过本实施例,能够避免这样的状况,使总延迟时间接近网络的传送能力以及以发送机、接收机的编码、解码所需的延迟时间可实现的延迟时间。
对于发送机以及接收机,在图23以及图24中,分别示出在上述实施例中说明的与时钟同步、时刻同步、基准同步信号的相位调整以及编码流的发送相关的步骤。通过执行这些一连串的控制步骤,能够构筑能够使拍摄至影像输出的时间低延迟化的网络照相机系统。
图25示出将使用了在本实施例中说明的发送机的网络照相机部1以及接收机5通过网络而连接起来的系统。通过构成上述那样的网络照相机系统,能够构筑保证传送系统能够不失败地持续发送影像信息的延迟时间,同时减小发送机中的拍摄至接收机侧的影像输出的合计延迟的影像转送系统。
另外,具有如下效果:针对用于接收机输出影像的同步信号的定时,用于发送机侧的拍摄的同步信号的相位(两者的最近的上升沿定时的时间差)在每次系统启动时为恒定,在之后的图像处理、与其他机器需要严密的同步定时的系统中,设计也变得容易。
另外,显然,对于此处的影像输出,不论是以显示器中显示影像的定时来规定还是以向外部机器的输出定时来规定,都得到等同的效果。另外,在本系统中,除了用于编码信号的发送接收的网络以外,无需还设置用于发送用于使同步信号的定时对齐的控制信号的通信路径,从系统成本降低的观点看,也是有效的。
另外,在本实施例中,示出了从接收机侧控制发送机侧的垂直同步信号的相位的例子,但显然只要是间接或者直接地规定发送机侧的影像的取入、编码定时的同步信号或者控制定时,则通过作为本实施例的垂直同步信号的代替而从接收机侧传送相位信息,就得到与本实施例等同的效果。另外,在本实施例中,时刻同步的服务器是与接收机相同的定义,但时刻同步的服务器也可以是与接收机不同的独立的装置。此时,只要在接收机中也与发送机同样地作为客户端,并在使时钟同步、基准时刻计数器与服务器同步之后,将同步相位信息发送到发送机,就得到与本实施例等同的效果。此时,在网络中存在多个接收系统,且希望通过共通的时钟来控制这多个接收系统的情况下是有益的。
在本实施例中,示出了作为网络层的规格依照IEEE802.3规格的例子,但进而也可以使用网络协议的IP(Internet Protocol:网际协议),并在上位的传输层协议中使用TCP(Transmission ControlProtocol:传输控制协议)以及UDP(User Datagram Protocol:用户数据包协议)。在影像、语音的传送中,进而也可以使用上位的应用程序协议、例如RTP(Real-time Transport Protocol:实时传输协议)、HTTP(Hyper Text Transfer Protocol:超级文字传输协议)等。或者,另外,也可以使用IEEE802.3规格中规定的协议方式。
实施例4
本实施例是使在实施例3中叙述的例子的发送侧为多个照相机1~3时的例子。
图26是示出本实施例的接收侧的控制器5的内部块结构的一个例子的图。照相机1、2、3分别连接于LAN接口电路5011、5012、5013。在基准时钟生成部51中生成基准时钟,将该基准时钟作为基准,在基准时刻计数器52中,对作为服务器侧的控制器5的基准时刻进行计数。在时刻控制分组生成部53中,使用本基准时刻生成图17所示的用于时刻同步的分组(Sync)。发送Sync时记载在分组内的T1由本块生成。针对所生成的(Sync)分组,在分组复用部58中与其他分组复用,进而在LAN接口电路5011、5012、5013中进行调制,经由与外部连接的网络传送到照相机1~3。另一方面,在从照相机1~3收到的SyncReq分组的接收时,从LAN接口电路5011、5012、5013接收接收定时的通知,在时刻控制分组生成部53中,记录来自照相机1~3的DelayReq分组到达的各个时刻。而且,使用各T4,在时刻控制分组生成部53中生成DelayResp分组,经由分组复用部58、LAN接口电路5011~5013而传送到照相机1~3。
另外,与上述同样地,进行垂直同步定时的生成。将在基准时钟生成部51中生成的基准时钟作为基准,在输出同步信号生成部55中,生成输出时的垂直同步信号。本垂直同步信号被送到发送机同步相位计算部56。如上所述,根据接收机侧的输出时的垂直同步信号的相位,计算发送机侧的垂直同步信号的相位,使用基准时刻计数器中的计数器信息,生成图18所示的SyncPhase的分组。将SyncPhase分组送到分组复用部58,与Sync分组同样地,经由LAN接口电路5011、5012、5013而发送到照相机1~3。
对于本实施例中的影像的解码步骤,与上述同样地,将由照相机1~3生成的LAN分组60分别输入到LAN接口电路5011~5013,在LAN接口电路5011~5013中,去掉LAN分组头部601,依照上述网络协议,从LAN分组数据602中取出传输分组40。传输分组40被输入到系统解码器5021~5023,从传输分组40中取出上述的分组信息402并结合,成为图4所示的数字压缩影像信号。针对该数字压缩影像信号,在影像解压缩电路5031~5033中,进行解压缩处理,作为数字影像信号输入到图像处理电路504。在图像处理电路504中,实施来自各照相机的影像信号的失真校正、基于坐标的置换的视点变换、合成处理等,输出到OSD电路505,或者,进行基于来自各照相机的影像信号的物体形状的认识、距离的测量等图像处理。在OSD电路505中,在来自图像处理电路504的影像信号上重叠文字、图形,并输出到显示器6。
另外,对于本实施例中的照相机1~3的动作,如实施例3所述,分别进行取得时刻同步的处理,进行控制器5和照相机1~3的时刻同步。另外,分别接收来自控制器5的SyncPhase分组,根据该时刻信息生成基准同步信号。因此,照相机1~3的基准同步信号最终同步。
图27是示出本实施例中的各照相机的发送处理定时和控制器5的接收处理定时的一个例子的图。在该图中,(1-1)~(1-4)表示照相机1的处理定时,(2-1)~(2-4)表示照相机2的处理定时,(3-1)~(3-8)表示控制器5的处理定时。如上所述,接收到SyncPhase分组的照相机据此生成基准同步信号,所以照相机1的基准信号1和照相机2的基准信号2同步,即其频率、相位一致。此处,d3是从基准信号1到在控制器5中得到由照相机1拍摄的影像的时间,d4是从基准信号2到在控制器5中得到由照相机2拍摄的影像的时间,设为d3更大。因此,在发送侧和接收侧针对垂直同步信号的相位差从影像取入至输出所需的延迟时间Tdelay成为d3。
此处,如上所述,在生成SyncPhase分组时,通过设定为使追溯的时刻比d3多,控制器5的处理定时成为(3-7)的基准信号C以及(3-8)的显示影像的显示定时C。
通过以上,发送侧和接收侧能够使垂直同步信号的相位差与Tdelay等同、或者在接近等同的方向调整。即,能够使总延迟时间接近网络的传送能力以及以发送机、接收机的编码、解码所需的延迟时间可实现的延迟时间。
进而,各照相机中的拍摄时刻一致,从而能够显示显示定时匹配了的影像。
另外,控制器5无需进行吸收来自各照相机的影像的显示定时偏差的处理,所以处理不会变得复杂而能够显示显示定时对齐了的影像。
进而,通过如实施例1所述,针对所连接的各照相机,查询各个照相机的处理延迟时间,从而能够实现最短的延迟时间。与实施例1的图9同样地,首先,针对各照相机,查询各个照相机的处理延迟时间。由此,各照相机与上述图10同样地,回答在该照相机中可设定的延迟时间。接下来,根据该各照相机的处理延迟时间,生成SyncPhase分组。图28是本实施例中的、基于控制器的、SyncPhase分组生成时的时刻信息设定处理的流程图。首先,决定处理延迟时间Tdelay(步骤S2801)。此处,在通过图9的延迟时间取得处理得到的各照相机的最短延迟时间中,选择最长的时间,对其加上将网络延迟时间Tnet、接收处理和解压缩处理合起来的处理时间d5,将由此得到的时间作为接收处理延迟时间Tdelay。接下来,控制器5计算追溯了在步骤S2801中决定的Tdelay时间的时刻并储存到SyncPhase分组,发送到各照相机(步骤2802)。然后,接收来自各照相机的设定结果的回答(步骤S2803)。之后,各照相机如实施例3的图18的叙述,生成基准同步信号。由此,各照相机的基准同步信号被设定为相对控制器5的基准同步信号追溯了Tdelay时间的时刻。
图29是示出此时的各照相机的发送处理定时和控制器5的接收处理定时的一个例子的图。如该图所示,照相机1的基准信号1以及照相机2的基准信号2与相对控制器5的基准信号C追溯了Tdelay时间的位置一致,该Tdelay时间是将照相机1的处理延迟时间d1以及照相机2的处理延迟时间d2中的长的一方的处理时间d1、合计网络延迟时间Tnet以及接收处理和解压缩处理得到的处理时间d5相加而得到的时间。
在该例子中,控制器5对各照相机查询了各个照相机的处理延迟时间,但也可以在例如照相机的电源接通时、连接到LAN4时,从各照相机侧对控制器5通知。
图30是示出各照相机的发送处理定时和控制器5的接收处理定时的另一例子的图。在该例子中,如实施例1的叙述,针对照相机2,控制器5设定照相机2的处理延迟时间,以使的处理延迟时间成为d1。(2-5)是设定了处理延迟时间之后的发送定时2′。对于处理延迟时间的调节,此处,例如,能够通过调节图2所示的、为了将从系统编码器104储存到分组缓冲器105的分组串输入到LAN接口电路107而读出的定时来实现。由此,照相机1的发送定时1和照相机2的发送定时2′一致。
如以上那样,根据本实施例,通过执行这些一连串的控制步骤,能够构筑拍摄至影像输出的时间以所连接的机器之间可实现的最短的延迟时间成为拍摄时刻的网络照相机系统。

Claims (8)

1.一种影像发送装置,其特征在于,具备:
基准信号发生单元,根据时刻信息发生基准信号;
摄像单元,根据由所述基准信号发生单元发生的基准信号拍摄影像信号;
压缩单元,对由所述摄像单元所拍摄的影像信号进行数字压缩编码;
网络处理单元,从网络接收时刻信息和针对所述时刻信息的基准信号的相位信息,并且发送所述数字压缩编码了的影像信号;以及
控制单元,控制所述基准信号发生单元和所述网络处理单元,
所述控制单元控制所述基准信号发生单元,以使得根据由所述网络处理单元接收的所述时刻信息和所述相位信号,变更由所述基准信号发生单元发生的所述基准信号的相位。
2.根据权利要求1所述的影像发送装置,其特征在于,
所述控制单元对所述影像接收装置通知处理时间,该处理时间是拍摄所述影像信号并进行数字压缩编码而发送到所述网络为止的时间。
3.根据权利要求2所述的影像发送装置,其特征在于,
所述控制单元根据所述影像接收装置的要求而通知处理时间,该处理时间是拍摄所述影像信号并进行数字压缩编码而发送到所述网络为止的时间。
4.一种影像发送方法,其特征在于,
对利用根据时刻信息而发生的基准信号拍摄影像信号而取得的影像信号进行数字压缩编码,
从网络接收时刻信息和针对所述时刻信息的基准信号的相位信息,并且发送所述数字压缩编码了的影像信号,其中,
根据从网络接收的所述时刻信息和所述相位信号,变更所发生的所述基准信号的相位。
5.一种影像接收装置,其特征在于,具备:
基准信号发生单元,根据时刻信息发生基准信号;
网络处理单元,接收从连接于网络的一个或者多个影像发送装置发送的数字压缩编码了的一个或者多个影像信号数据的流;
解码单元,对由所述网络处理单元接收的一个或者多个所述影像数据进行解码;
影像显示单元,根据所述基准信号,显示以由所述解码单元解码了的一个或者多个所述影像信号为基础的影像;以及
控制单元,控制所述基准信号发生单元和所述网络处理单元,
所述控制单元控制所述网络处理单元,以使得对所述影像发送装置发送针对所述时刻信息的、由所述基准信号发生单元发生的所述基准信号的相位信息。
6.根据权利要求5所述的影像接收装置,其特征在于,
所述控制单元从所述一个或者多个影像发送装置取得处理延迟时间信息,该处理延迟时间信息是所述影像发送装置拍摄影像并进行数字压缩编码而发送到所述网络所需的处理延迟时间信息。
7.根据权利要求6所述的影像接收装置,其特征在于,
所述控制单元根据从所述一个或者多个影像发送装置取得的所述处理延迟时间信息,决定所述相位信息。
8.一种影像接收方法,其特征在于,
接收从连接于网络的一个或者多个影像发送装置发送的数字压缩编码了的一个或者多个影像信号数据的流,
对所接收的一个或者多个所述影像数据进行解码,
根据依据时刻信息而发生的基准信号,显示以所解码的一个或者多个所述影像信号为基础的影像,其中,
对所述影像发送装置发送针对所述时刻信息的所述基准信号的相位信息。
CN201280003633.7A 2011-03-09 2012-01-20 影像发送装置、影像发送方法、影像接收装置以及影像接收方法 Active CN103210656B (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
JP2011-050975 2011-03-09
JP2011050975A JP5697494B2 (ja) 2011-03-09 2011-03-09 映像送信装置、映像送信方法、映像受信装置、および映像受信方法
JP2011050973A JP2012191284A (ja) 2011-03-09 2011-03-09 映像送信装置、映像送信方法、映像受信装置、および映像受信方法
JP2011-050973 2011-03-09
JP2011-058665 2011-03-17
JP2011058665A JP2012195796A (ja) 2011-03-17 2011-03-17 符号化信号送信装置
PCT/JP2012/000331 WO2012120763A1 (ja) 2011-03-09 2012-01-20 映像送信装置、映像送信方法、映像受信装置、および映像受信方法

Publications (2)

Publication Number Publication Date
CN103210656A true CN103210656A (zh) 2013-07-17
CN103210656B CN103210656B (zh) 2016-08-17

Family

ID=46797743

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280003633.7A Active CN103210656B (zh) 2011-03-09 2012-01-20 影像发送装置、影像发送方法、影像接收装置以及影像接收方法

Country Status (4)

Country Link
US (1) US20130287122A1 (zh)
JP (1) JP5697743B2 (zh)
CN (1) CN103210656B (zh)
WO (1) WO2012120763A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105049777A (zh) * 2015-08-17 2015-11-11 深圳奇沃智联科技有限公司 具有h.265编码的实时4g影像共享信息系统
CN106131595A (zh) * 2016-05-26 2016-11-16 武汉斗鱼网络科技有限公司 一种用于视频直播的标题敏感词控制方法及装置
CN113519151A (zh) * 2020-02-12 2021-10-19 深圳元戎启行科技有限公司 图像采集触发方法、装置、计算机设备、可读存储介质和监控设备
CN115442520A (zh) * 2022-08-05 2022-12-06 珠海普罗米修斯视觉技术有限公司 图像拍摄方法、图像处理方法及拍摄系统

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5791451B2 (ja) * 2011-09-29 2015-10-07 キヤノン株式会社 符号化装置およびプログラム
US20170214903A1 (en) * 2014-03-13 2017-07-27 Sony Corporation Imaging apparatus, imaging system, and control method for imaging apparatus
JP6327929B2 (ja) * 2014-05-02 2018-05-23 キヤノン株式会社 表示装置、撮像装置及びその制御方法
JP6460105B2 (ja) * 2014-06-30 2019-01-30 パナソニックIpマネジメント株式会社 撮影方法、撮影システムおよび端末装置
JP2016123009A (ja) 2014-12-25 2016-07-07 ルネサスエレクトロニクス株式会社 半導体装置、電子デバイス・モジュール、及びネットワークシステム
CN106210708B (zh) * 2015-04-30 2019-02-01 杭州海康威视数字技术股份有限公司 一种图像延迟的检测方法和系统
JP6681244B2 (ja) * 2016-03-30 2020-04-15 キヤノン株式会社 画像処理装置、その制御方法、及びプログラム
CN106027979A (zh) * 2016-06-21 2016-10-12 深圳市智美达科技股份有限公司 摄像监控图像显示系统
JP6719994B2 (ja) * 2016-06-30 2020-07-08 キヤノン株式会社 通信システム、通信機器および通信方法
JP6743609B2 (ja) * 2016-09-15 2020-08-19 富士通株式会社 画像同期装置、画像同期プログラム、及び画像同期方法
WO2019023919A1 (en) * 2017-08-01 2019-02-07 Vishare Technology Limited METHODS AND APPARATUS FOR VIDEO CONTINUOUS DIFFUSION WITH ENHANCED SYNCHRONIZATION
US20190158721A1 (en) * 2017-11-17 2019-05-23 Texas Instruments Incorporated Multi-camera synchronization through receiver hub back channel
JP7120399B2 (ja) 2020-07-29 2022-08-17 ソニーグループ株式会社 送信方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5715285A (en) * 1994-12-26 1998-02-03 Victor Company Of Japan, Ltd. Data transmission apparatus, a data receiving apparatus, and a data transmission system
US5903308A (en) * 1996-08-26 1999-05-11 Ultrak, Inc. Phase compensation for video cameras
CN101043317A (zh) * 2006-06-12 2007-09-26 华为技术有限公司 一种时间同步设备精度测试方法及其系统
US20100135381A1 (en) * 2008-11-28 2010-06-03 Hitachi Kokusai Electric Inc. Encoding/decoding device and video transmission system

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2522580B2 (ja) * 1990-04-06 1996-08-07 シャープ株式会社 映像信号記録再生装置
DE69424129T2 (de) * 1993-11-29 2000-11-16 Canon Kk Vorrichtung zur Verarbeitung von stereoskopischen Bildern
SG34287A1 (en) * 1994-10-28 1996-12-06 Hitachi Ltd Input-output circuit recording apparatus and reproduction apparatus for digital video signal
JP2000032327A (ja) * 1998-07-10 2000-01-28 Matsushita Electric Ind Co Ltd 撮像画像伝送装置
JP2000322039A (ja) * 1999-05-13 2000-11-24 Mitsubishi Electric Corp 表示装置、制御装置および多画面表示システム
JP4228505B2 (ja) * 2000-03-17 2009-02-25 ソニー株式会社 データ伝送方法およびデータ伝送システム
JP2003235027A (ja) * 2002-02-12 2003-08-22 Matsushita Electric Ind Co Ltd 配信映像の同時再生方法、映像配信システムおよび端末装置
EP1450555A1 (en) * 2003-02-18 2004-08-25 Thomson Licensing S.A. Video device and method for synchronising time bases of video devices
JP4303535B2 (ja) * 2003-08-06 2009-07-29 パナソニック株式会社 デコード表示装置、撮像装置及びそれらを備えた画像伝送システム
CN1886989B (zh) * 2003-11-26 2010-05-26 三洋电机株式会社 无线电视频传输方法和接收装置、信号产生方法和信号解码装置
WO2006058213A2 (en) * 2004-11-24 2006-06-01 Qformx System for transmission of synchronous video with compression through channels with varying transmission delay
TW201019649A (en) * 2008-11-06 2010-05-16 Inst Information Industry Network system, adjusting method of data transmission rate and computer program procut thereof
WO2010078384A2 (en) * 2008-12-31 2010-07-08 Rambus Inc. Method and apparatus for correcting phase errors during transient events in high-speed signaling systems
JP4766128B2 (ja) * 2009-02-27 2011-09-07 ソニー株式会社 スレーブ装置、スレーブ装置の時刻同期化方法および電子機器システム
JP2010213119A (ja) * 2009-03-11 2010-09-24 Panasonic Corp 映像伝送システム、撮像装置及びモニタ装置
JP2011023992A (ja) * 2009-07-16 2011-02-03 Hitachi Consumer Electronics Co Ltd コンテンツ配信システム、再生装置、及び配信サーバ
US8446191B2 (en) * 2009-12-07 2013-05-21 Qualcomm Incorporated Phase locked loop with digital compensation for analog integration
JP2011234341A (ja) * 2010-04-09 2011-11-17 Sony Corp 受信装置およびカメラシステム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5715285A (en) * 1994-12-26 1998-02-03 Victor Company Of Japan, Ltd. Data transmission apparatus, a data receiving apparatus, and a data transmission system
US5903308A (en) * 1996-08-26 1999-05-11 Ultrak, Inc. Phase compensation for video cameras
CN101043317A (zh) * 2006-06-12 2007-09-26 华为技术有限公司 一种时间同步设备精度测试方法及其系统
US20100135381A1 (en) * 2008-11-28 2010-06-03 Hitachi Kokusai Electric Inc. Encoding/decoding device and video transmission system

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105049777A (zh) * 2015-08-17 2015-11-11 深圳奇沃智联科技有限公司 具有h.265编码的实时4g影像共享信息系统
CN106131595A (zh) * 2016-05-26 2016-11-16 武汉斗鱼网络科技有限公司 一种用于视频直播的标题敏感词控制方法及装置
CN113519151A (zh) * 2020-02-12 2021-10-19 深圳元戎启行科技有限公司 图像采集触发方法、装置、计算机设备、可读存储介质和监控设备
CN113519151B (zh) * 2020-02-12 2023-06-20 深圳元戎启行科技有限公司 图像采集触发方法、装置、计算机设备、可读存储介质和监控设备
CN115442520A (zh) * 2022-08-05 2022-12-06 珠海普罗米修斯视觉技术有限公司 图像拍摄方法、图像处理方法及拍摄系统

Also Published As

Publication number Publication date
JPWO2012120763A1 (ja) 2014-07-07
CN103210656B (zh) 2016-08-17
WO2012120763A1 (ja) 2012-09-13
JP5697743B2 (ja) 2015-04-08
US20130287122A1 (en) 2013-10-31

Similar Documents

Publication Publication Date Title
CN103210656A (zh) 影像发送装置、影像发送方法、影像接收装置以及影像接收方法
US8745432B2 (en) Delay controller, control method, and communication system
CN102891984B (zh) 发送设备、接收系统、通信系统、发送方法、接收方法和程序
CN1236620C (zh) 视频信号压缩装置及其压缩方法
CN102474656B (zh) 接收设备和摄像系统
US20110249181A1 (en) Transmitting device, receiving device, control method, and communication system
US20160366431A1 (en) Video decoding device and video decoding method
EP3826313B1 (en) Video/audio transmission system, transmission method, transmission device, and reception device
JP2003259365A (ja) データストリーム処理装置
JP5697494B2 (ja) 映像送信装置、映像送信方法、映像受信装置、および映像受信方法
JP2015149761A (ja) 符号化信号送信装置
JP2012195794A (ja) 符号化信号受信装置
KR101924183B1 (ko) 젠락 기능을 가진 멀티미디어 송수신 장치
US20100067531A1 (en) Apparatus and method for controlling independent clock domains to perform synchronous operations in an asynchronous network
CN109995963A (zh) 一种无线同步时码方法
JP2012195795A (ja) ネットワークカメラシステム
JP2012195796A (ja) 符号化信号送信装置
JP2000244433A (ja) データ多重化装置及びデータ多重化方法
JP2000244437A (ja) データ多重化装置及びデータ多重化方法
US20220360845A1 (en) Reception apparatus, reception method, and transmission and reception system
JP2017028385A (ja) 受信装置及びシステム
JP2005027006A (ja) データ伝送装置
JP2012191284A (ja) 映像送信装置、映像送信方法、映像受信装置、および映像受信方法
JP2001078195A (ja) システムエンコード装置
WO2014068629A1 (ja) 映像処理装置、映像送信装置、映像受信装置、映像処理方法、映像送信方法、及び映像受信方法。

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: HITACHI MAXELL LTD.

Free format text: FORMER OWNER: HITACHI LTD.

Effective date: 20150327

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20150327

Address after: Osaka, Japan

Applicant after: Hitachi Maxell, Ltd.

Address before: Tokyo, Japan

Applicant before: Hitachi Consumer Electronics Co.,Ltd.

C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20171218

Address after: Kyoto Japan

Patentee after: MAXELL, Ltd.

Address before: Osaka, Japan

Patentee before: Hitachi Maxell, Ltd.

CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: Kyoto Japan

Patentee after: MAXELL, Ltd.

Address before: Kyoto Japan

Patentee before: MAXELL HOLDINGS, Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20220615

Address after: Kyoto Japan

Patentee after: MAXELL HOLDINGS, Ltd.

Address before: Kyoto, Japan

Patentee before: MAXELL, Ltd.