CN109154921B - 处理设备、图像传感器和系统 - Google Patents

处理设备、图像传感器和系统 Download PDF

Info

Publication number
CN109154921B
CN109154921B CN201780030981.6A CN201780030981A CN109154921B CN 109154921 B CN109154921 B CN 109154921B CN 201780030981 A CN201780030981 A CN 201780030981A CN 109154921 B CN109154921 B CN 109154921B
Authority
CN
China
Prior art keywords
image
output
control
sensor
packet
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780030981.6A
Other languages
English (en)
Other versions
CN109154921A (zh
Inventor
三林秀树
横川峰志
吉持直树
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of CN109154921A publication Critical patent/CN109154921A/zh
Application granted granted Critical
Publication of CN109154921B publication Critical patent/CN109154921B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38Information transfer, e.g. on bus
    • G06F13/42Bus transfer protocol, e.g. handshake; Synchronisation
    • G06F13/4282Bus transfer protocol, e.g. handshake; Synchronisation on a serial bus, e.g. I2C bus, SPI bus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/41Extracting pixel data from a plurality of image sensors simultaneously picking up an image, e.g. for increasing the field of view by combining the outputs of a plurality of sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/92Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N5/9201Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving the multiplexing of an additional signal and the video signal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Input (AREA)
  • Information Transfer Systems (AREA)

Abstract

提供了一种包括处理单元的处理设备,所述处理单元连接到数据总线,并通过数据总线执行与由连接到数据总线的多个图像传感器中的每一个输出的图像相关的控制。

Description

处理设备、图像传感器和系统
交叉引用相关申请
本申请要求2016年5月26日提交的日本优先权专利申请JP2016-105353的权益,其全部内容通过引用结合于此。
技术领域
本公开内容涉及处理设备、图像传感器和系统。
背景技术
已经开发了用于在装置之间的连接的技术,例如,在处理器和传感器之间的连接。在用于在装置之间连接的这些技术中,例如,在下面描述的专利文献1中公开了一种技术。
引文列表
专利文献
专利文献1:US 2014/0281753A
发明内容
技术问题
例如,包括多个图像传感器的一些电子设备带有改进电子设备(特别是包括诸如处理器等处理设备的电子设备)的性能、多功能性等趋势。期望包括处理设备的这种电子设备应该具有更少数量的数据总线连接到处理设备。连接到处理设备的数据总线数量的减少可能导致以下情况。
-减少了处理设备和多个图像传感器连接在一起的布线区域。
-简化了处理设备的硬件配置。
在此处,作为通过数据总线(信号传输路径)将处理器(处理设备的示例,在以下描述中同样适用)和图像传感器连接在一起的标准,存在移动工业处理器接口(MIPI)联盟的相机串行接口2(CSI-2)标准。CSI-2标准是通过数据总线一对一地将处理器和图像传感器连接在一起的标准。在诸如CSI-2标准等现有标准中,未假设“处理器和多个图像传感器在数据总线上连接在一起”。因此,当诸如CSI-2标准等现有标准简单地用于通过数据总线连接处理器和多个图像传感器中的每一个时,连接到处理器的数据总线的数量等于图像传感器的数量。因此,当简单地采用诸如CSI-2标准等现有标准时,难以减少布线区域和连接到处理器的数据总线的数量。
在本公开内容中,提出了一种新颖且改进的处理设备、图像传感器和系统,其中,处理设备可以通过更少数量的数据总线连接到多个图像传感器。
问题的解决方案
根据本公开内容的实施方式,提供了一种处理设备,包括处理单元,所述处理单元连接到数据总线,并通过数据总线执行与由连接到数据总线的多个图像传感器中的每一个输出的图像相关的控制。
另外,根据本公开内容的实施方式,提供了一种图像传感器,该图像传感器连接到另一图像传感器连接到的数据总线,并且基于控制信息输出图像。
另外,根据本公开内容的实施方式,提供了一种系统,包括:多个图像传感器,多个图像传感器中的每一个连接到数据总线;以及处理电路,该处理电路连接到数据总线。处理设备包括处理单元,该处理单元通过数据总线执行与由每个图像传感器输出的图像相关的控制。
发明的有益效果
根据本公开内容的实施方式,处理设备和多个图像传感器可以通过更少数量的数据总线连接在一起。
注意,上述效果不一定是限制性的。利用或代替上述效果,可以实现本说明书中描述的任何一种效果或可以从本说明书中理解的其他效果。
附图说明
图1是示出根据本实施方式的系统的配置的示例的说明图;
图2A是用于描述与根据本实施方式的系统中包括的处理器中的图像相关的控制的示例的说明图;
图2B是用于描述与根据本实施方式的系统中包括的处理器中的图像相关的控制的示例的说明图;
图2C是用于描述与根据本实施方式的系统中包括的处理器中的图像相关的控制的示例的说明图;
图2D是用于描述与根据本实施方式的系统中包括的处理器中的图像相关的控制的示例的说明图;
图2E是用于描述与根据本实施方式的系统中包括的处理器中的图像相关的控制的示例的说明图;
图3是示出根据本实施方式的系统中包括的传感器的配置示例的说明图;
图4示出了由根据本实施方式的系统中包括的传感器200生成的图像数据的示例;
图5示出了通过根据本实施方式的系统中包括的数据总线发送的图像数据的包序列的示例;
图6示出了CSI-2标准中指定的包格式;
图7示出了CSI-2标准中指定的包格式;
图8示出了在根据本实施方式的系统中包括的存储器中分配的帧缓冲器的示例;
图9是示出由执行与图像相关的控制的根据本实施方式的系统中包括的处理器从传感器输出的图像数据的包结构示例的说明图;
图10是示出根据本实施方式的系统中包括的处理器中的与图像相关的控制所涉及的处理(根据本实施方式的控制方法所涉及的处理)的示例的流程图;
图11示出了由根据本实施方式的系统中包括的多个传感器中的每一个输出的图像数据的包序列的第一示例;
图12示出了由根据本实施方式的系统中包括的处理器接收的包序列的第一示例;
图13示出了存储在根据本实施方式的系统中包括的存储器中的帧缓冲器中的图像数据的包序列的第一示例;
图14示出了由根据本实施方式的系统中包括的多个传感器中的每一个输出的图像数据的包序列的第二示例;
图15示出了由根据本实施方式的系统中包括的处理器接收的包序列的第二示例;
图16示出了存储在根据本实施方式的系统中包括的存储器中的帧缓冲器中的图像数据的包序列的第二示例;
图17示出了由根据本实施方式的系统中包括的多个传感器中的每一个输出的图像数据的包序列的第三示例;
图18示出了由根据本实施方式的系统中包括的处理器接收的包序列的第三示例;
图19示出了存储在根据本实施方式的系统中包括的存储器中的帧缓冲器中的图像数据的包序列的第三示例;
图20示出了由根据本实施方式的系统中包括的多个传感器中的每一个输出的图像数据的包序列的第四示例;
图21示出了由根据本实施方式的系统中包括的处理器接收的包序列的第四示例;
图22示出了存储在根据本实施方式的系统中包括的存储器中的帧缓冲器中的图像数据的包序列的第四示例。
具体实施方式
在下文中,将参考附图详细描述本公开内容的优选实施方式。在本说明书和附图中,具有基本上相同的功能和结构的结构元件用相同的附图标记表示,并且省略了对这些结构元件的重复解释。
此外,将按以下顺序提供下面的描述。
1.根据本实施方式的系统配置
2.根据本实施方式的系统中的图像的输出示例
3.根据本实施方式的程序
(根据本实施方式的系统配置)
图1是示出根据本实施方式的系统1000的配置的示例的说明图。系统1000的示例包括通信设备(例如,智能手机等)、移动设备(例如,无人机(可远程操作或自主操作的设备)、汽车等)等。注意,系统1000的应用示例不限于上述那些。下面将描述系统1000的其他应用示例。
系统1000具有例如处理器100(根据本实施方式的处理设备)、具有输出图像的功能的多个传感器200A、200B、200C、…(根据本实施方式的图像传感器)、存储器300和显示装置400。多个传感器200A、200B、200C、…可以统称为“传感器200”,或者多个传感器200A、200B、200C、…中的一个可以代表性地称为“传感器200”。
尽管图1所示的系统1000具有三个或更多个传感器200,但是在根据本实施方式的系统中包括的传感器200的数量不限于图1所示的示例。例如,根据本实施方式的系统可以具有任意数量的传感器200,至少两个传感器200,例如,两个传感器200、三个传感器200等。在下面的描述中,为了方便起见,将以示例的方式描述由在系统1000中包括的多个传感器200中的两个输出图像的情况或者由在系统1000中包括的多个传感器200中的三个输出图像的情况。
处理器100和相应传感器200通过单个数据总线B1电连接在一起。数据总线B1是将处理器100和相应传感器200连接在一起的单个信号传输路径。例如,指示由每个传感器200输出的图像的数据(在下文中可称为“图像数据”)通过数据总线B1从传感器200发送到处理器100。
在系统1000中,根据发送的数据的起始和结束由预定数据指定的任何标准,例如,CSI-2标准、PCI Express等,通过数据总线B1发送信号。预定数据的示例包括CSI-2标准中的帧起始包、CSI-2标准中的帧结束包等。在下面的描述中,将描述根据CSI-2标准通过数据总线B1发送信号的示例。
处理器100和相应传感器200也通过与数据总线B1不同的控制总线B2连接在一起。控制总线B2是将处理器100和相应传感器200连接在一起的另一信号传输路径。例如,由处理器100输出的控制信息(下面描述)通过控制总线B2从处理器100发送到传感器200。在下面的描述中,将描述一个示例,其中,与数据总线B1的情况一样,根据CSI-2标准通过控制总线B2发送信号。尽管图1示出了处理器100和相应传感器200通过单个控制总线B2连接在一起的示例,但是根据本实施方式的系统可以具有为每个传感器200提供单独控制总线的配置。此外,本公开内容不限于处理器100通过控制总线B2向相应传感器200发送控制信息和从相应传感器200接收控制信息(如下所述)的配置。或者,例如,可以采用一种配置,其中,通过无线通信发送和接收控制信息(如下所述),该无线通信具有可用于发送和接收控制信息(如下所述)的任何通信方案。
<1>处理器100(根据本实施方式的处理设备)
处理器100包括一个或多个处理器、各种处理电路等,其包括计算电路,例如,微处理单元(MPU)等。处理器100由在系统1000中包括的内部电源(未示出)提供的电力驱动,或者由系统1000外部的电源提供的电力驱动。
处理器100是根据本实施方式的处理设备的示例。根据本实施方式的处理设备适用于可以执行由下面描述的处理单元执行的处理(根据本实施方式的控制方法所涉及的处理)的任何电路和装置。
处理器100执行“与由连接到数据总线B1的多个传感器200中的每一个通过数据总线B1输出的图像有关的控制(根据本实施方式的控制方法所涉及的控制)。
例如,与图像相关的控制由处理器100中包括的处理单元102执行。在处理器100中,执行与图像相关的控制的特定处理器(或特定处理电路)或多个处理器(或多个处理电路)用作处理单元102。
注意,为了方便起见,处理单元102负责处理器100的一部分功能。因此,在处理器100中,例如,根据本实施方式的与图像相关的控制可以由多个功能块来执行。在下面的描述中,将描述处理单元102执行根据本实施方式的与图像相关的控制的示例。
<1-1>根据本实施方式的图像控制的示例
处理单元102通过向每个传感器200发送控制信息来执行与图像相关的控制。
根据本实施方式的控制信息包括例如指示传感器200的识别信息和用于控制传感器200的信息。根据本实施方式的识别信息是例如可以用于识别传感器200的任何数据,例如,为传感器200设置的ID等。下面将描述根据本实施方式的用于控制的信息的具体示例。
如上所述,通过例如控制总线B2发送控制信息。
此外,由处理单元102发送的控制信息记录到例如包括在每个传感器200中的寄存器(记录介质的示例)中。如下所述,传感器200基于存储在相应寄存器中的控制信息输出图像。
作为与图像相关的控制,处理单元102执行例如根据下面(1)中所示的第一示例的控制到根据(4)中所示的第四示例的控制中的任一个。注意,下面将描述系统1000中的图像的输出示例,通过根据本实施方式的与图像相关的控制来实现该图像。
(1)与图像相关的控制的第一示例:用于接合图像的控制
处理单元102控制由传感器200输出的多个图像的接合。
更具体地,处理单元102通过例如控制每个图像的帧起始和帧结束来控制由传感器200输出的多个图像的接合。
每个传感器200中的帧的起始由例如控制传感器200中的帧的起始包的输出的处理单元102控制。例如,帧的起始包是CSI-2标准中的“帧起始(FS)”包。在下面的描述中,帧起始包可以由“FS”或“FS包”指示。
例如,处理单元102通过向传感器200发送包含指示是否要输出帧起始包的数据的控制信息(第一输出信息,用于控制的信息的示例),来控制传感器200输出帧起始包。指示是否要输出帧起始包的数据是例如指示是否要输出帧起始包的标志。
此外,每个传感器200中的帧的结束由例如控制传感器200中的帧的结束包的输出的处理单元102控制。例如,帧的结束包是CSI-2标准中的“帧结束(FE)包”。在下面的描述中,帧结束包可以由“FE”或“FE包”指示。
例如,处理单元102通过向传感器200发送包含指示是否要输出帧结束包的数据的控制信息(第二输出信息,用于控制的信息的示例),来控制传感器200中的帧结束包的输出。例如,指示是否要输出帧结束包的数据是指示是否要输出帧结束包的标志。
例如,如上所述,通过控制由传感器200输出的多个图像中的每一个的帧起始和帧结束的处理单元102,从多个传感器200输出指示图像的以下数据:
-包含帧起始包和帧结束包的数据;
-仅包含帧起始包的数据;
-仅包含帧结束包的数据;
-既不包含帧起始包也不包含帧结束包的数据。
接收通过数据总线B1从多个传感器200发送的多个图像的处理器100基于包含在接收到的图像中的帧起始包来识别已经起始发送帧中的图像。
此外,处理器100基于包含在接收到的图像中的帧结束包来识别已经结束发送特定帧中的图像。
此外,当接收到的图像中既不包含帧起始包也不包含帧结束包时,处理器100未识别已经起始发送特定帧中的图像或者已经结束发送特定帧中的图像。注意,在上述情况下,处理器100可以识别正在执行特定帧中的图像的发送。
因此,在接收通过数据总线B1从多个传感器200发送的多个图像的处理器100中,实现了下面在(a)和(b)中所示的处理。注意,当可以处理图像的另一处理电路连接到数据总线B1时,由多个传感器200输出的图像可以由该处理电路处理。在下面的描述中,将以示例的方式描述处理器100中包括的处理单元102处理从多个传感器200输出的图像的情况。
(a)传感器200输出的图像的处理的第一示例
当从传感器200发送的数据包含帧起始包和帧结束包时,处理单元102处理该传感器200输出的图像,作为单个图像。
(b)传感器200输出的图像的处理的第二示例
当“传感器200输出的数据包含帧起始包,并且在接收包含帧起始包的数据之后从另一个传感器200接收的数据包含帧结束包”时,处理单元102将包含帧起始包的数据中的图像和包含帧结束包的数据中的图像组合在一起。
此外,当“在第二示例的上述情况下,在接收包含帧结束包的数据之前,从一个或多个其他传感器200发送既不包含帧起始包也不包含帧结束包的数据”时,处理单元102将包含帧起始包的数据中的图像、既不包含帧起始包也不包含帧结束包的数据中的图像以及包含帧结束包的数据中的图像组合在一起。
如上所述,处理单元102基于帧起始包和帧结束包将从多个传感器200发送的图像组合在一起。因此,从多个传感器200发送的多个图像可以接合。
注意,根据本实施方式的接合多个图像的控制不限于上述示例。
例如,处理单元102可以控制向由多个传感器200输出的多个图像添加标识符,以控制多个图像的接合。
在此处,根据本实施方式的标识符是可用于识别传感器200输出的图像的数据。根据本实施方式的标识符是例如CSI-2标准中定义的虚拟信道(VC)值(也可以称为“VC号”)和/或CSI-2标准中定义的数据类型(DT)值。注意,根据本实施方式的标识符不限于上述示例,并且可能是可以用于在控制从多个传感器200发送的多个图像的接合时识别图像的任何数据。
处理单元102通过例如向传感器200发送包含指示图像的标识符的数据的控制信息(第三输出信息,用于控制的信息的示例),来控制向传感器200输出的图像添加标识符。
当从传感器200发送的数据包含标识符时,处理单元102识别添加了不同标识符的特定帧中的图像是彼此不同的图像。换言之,当从传感器200发送的数据包含标识符时,处理单元102不接合添加了不同标识符的图像。
因此,除了控制帧起始和帧结束之外,处理单元102还控制向传感器200输出的多个图像添加标识符。因此,与仅控制帧起始和帧结束时相比,可以以更广泛的方式控制图像的接合。
图2A至图2E是用于描述与根据本实施方式的系统1000中包括的处理器100中的图像相关的控制的示例的说明图。图2A至图2E均示出了控制处理器100中的图像的接合的结果的示例。
(1-1)控制图像的接合的结果的第一示例:图2A
图2A的A部分示出了与由处理器100通过数据总线B1从两个传感器200获取的特定帧对应的数据的示例。图2A的A部分示出了从一个传感器200和另一个传感器200接收以下数据的示例。
-一个传感器200:包含每行图像数据、帧起始包、帧结束包和VC值“0”(标识符示例,同样适用于下面的描述)的数据;
-另一个传感器200:包含每行图像数据、帧起始包、帧结束包和VC值“1”(标识符示例,同样适用于下面的描述)的数据。
此外,图2A的B部分示出了在图2A的A部分中所示的数据存储在存储器300的帧缓冲器中的情况下的存储图像。注意,图2A的A部分中所示的数据可以存储在其他记录介质中,例如,包括在处理器100中的记录介质等。
例如,当接收到图2A的A部分中所示的数据时,处理单元102将单独的图像记录到帧缓冲器中,用于相应的不同VC值,如图2A的B部分中所示。
(1-2)控制图像的接合的结果的第二示例:图2B
图2B的A部分示出了与处理器100通过数据总线B1从两个传感器200获取的特定帧对应的数据的示例。图2B的A部分示出了从一个传感器200和另一个传感器200接收以下数据的示例。
-一个传感器200:包含每行图像数据、帧起始包、帧结束包和VC值“0”的数据;
-另一个传感器200:包含每行图像数据、帧起始包、帧结束包和VC值“0”的数据。
例如,当接收到图2B的A部分所示的数据时,处理单元102将图像记录到帧缓冲器中,用于相同的VC值,如图2B的B部分所示。图2B的B部分中所示的图像的存储通过例如双缓冲等来实现。
(1-3)控制图像的接合的结果的第三示例:图2C
图2C的A部分示出了与由处理器100通过数据总线B1从两个传感器200获取的特定帧对应的数据的示例。图2C的A部分示出了从一个传感器200和另一个传感器200接收以下数据的示例。
-一个传感器200:包含每行图像数据、帧起始包和VC值“0”的数据;
-另一个传感器200:包含每行图像数据、帧结束包和VC值“0”的数据。
例如,当接收到图2C的A部分中所示的数据时,处理单元102在垂直方向上将两个图像接合在一起,并将结果图像记录到帧缓冲器中,如图2C的B部分中所示。
(1-4)控制图像的接合的结果的第四示例:图2D
图2D的A部分示出了与由处理器100通过数据总线B1从两个传感器200获取的特定帧对应的数据的示例。图2D的A部分示出了从一个传感器200和另一个传感器200接收以下数据的示例。
-一个传感器200:包含每行图像数据、帧起始包、帧结束包和VC值“0”的数据;
-另一个传感器200:包含每行图像数据、帧起始包、帧结束包和VC值“1”的数据。
例如,当接收到图2D的A部分中所示的数据时,处理单元102将单独的图像记录到帧缓冲器中,用于相应的不同VC值,如图2D的B部分中所示。
(1-5)控制图像的接合的结果的第五示例:图2E
图2E的A部分示出了与由处理器100通过数据总线B1从两个传感器200获取的特定帧对应的数据的示例。图2E的A部分示出了从一个传感器200和另一个传感器200接收以下数据的示例。
-一个传感器200:包含每行图像数据、帧起始包和VC值“0”的数据;
-另一个传感器200:包含每行图像数据、帧结束包和VC值“0”的数据。
例如,当接收到图2E的A部分中所示的数据时,处理单元102在水平方向上将两个图像接合在一起,并将结果图像记录到帧缓冲器中,如图2E的B部分中所示。
例如,通过处理器100的处理单元102控制图像的接合,允许选择性地接合图像,如图2A至图2E所示。注意,毋庸置疑,根据本实施方式的处理器100的处理单元102控制图像的接合的结果的示例不限于图2A至图2E所示的那些示例。
(2)与图像相关的控制的第二示例:要输出的图像的控制
处理单元102控制要由传感器200输出的图像。根据本实施方式的由传感器200输出的图像的控制例如是由多个传感器200输出的图像的大小的控制和/或由多个传感器200输出的图像的帧速率的控制。
例如,处理单元102将包含指示图像尺寸的数据和/或指示帧速率的数据的控制信息(用于控制的信息的示例)发送到传感器200,以控制要由传感器200输出的图像。
(3)与图像相关的控制的第三示例:要输出的图像的控制
处理单元102控制要由每个传感器200输出的图像的输出时间。
例如,处理单元102向传感器200发送控制信息,该控制信息包含指示从接收输出图像的指令到输出图像的输出延迟量的数据(用于控制的信息的示例),以控制要由传感器200输出的图像的输出时间。
(4)与图像相关的控制的第四示例
处理单元102可以执行上面在(1)中描述的根据第一示例的控制到在(3)中描述的根据第三示例的控制中的两个或更多个。
例如,处理单元102执行上面在(1)中描述的根据第一示例的控制到上面在(4)中描述的根据第四示例的控制,作为与图像相关的控制。
例如,处理器100包括处理单元102,以执行与图像相关的控制所涉及的上述处理(根据本实施方式的控制方法所涉及的处理)。
注意,由处理器100执行的处理不限于与图像相关的控制所涉及的上述处理。
例如,如上面参考图2A至图2E所述,处理器100可以执行各种处理,例如,涉及控制将图像数据记录到诸如存储器300等记录介质中的处理、涉及控制在显示装置400的显示屏上显示图像的处理、执行任何应用软件的处理等。记录控制所涉及的处理例如是“将包含记录指令和要记录到记录介质中的数据的控制数据传送到诸如存储器300等记录介质的处理”。此外,显示控制所涉及的处理例如是“将包含显示指令和要在显示屏上显示的数据的控制数据传送到显示装置(例如,显示装置400)等的处理”。
<2>传感器200(根据本实施方式的图像传感器)
传感器200是图像传感器。根据本实施方式的图像传感器包括例如成像装置,例如,数码相机、数字视频相机、立体相机等,或者包括任何传感器装置,例如,红外传感器、距离成像传感器等,以具有输出生成的图像的功能。在此处,由传感器200生成的图像对应于指示由传感器200执行的感测结果的数据。
例如,如图1所示,传感器200连接到与其他传感器200连接的数据总线B1。
此外,传感器200基于控制信息输出图像。如上所述,控制信息从处理器100发送,然后由传感器200通过控制总线B2接收。
图3是示出根据本实施方式的系统1000中包括的传感器200的配置示例的说明图。传感器200具有例如处理器250、ROM 252、寄存器254、传感器装置256和通信装置258。此外,传感器200中的这些构成元件通过例如内部总线260连接在一起。传感器200由系统1000中包括的内部电源(未示出)提供的电力驱动,或者由系统1000外部的电源提供的电力驱动。
处理器250具有控制整个传感器200的功能。由处理器250执行的控制的示例包括控制将接收的控制信息记录到寄存器254中、控制传感器装置256的操作、控制通信装置258的通信等。
控制接收到的控制信息的记录所涉及的处理示例是“将接收到的控制信息中包含的识别信息与存储在ROM 252中的识别信息270进行比较,并且基于比较结果,选择性地将接收到的控制信息记录到寄存器254中的处理”。例如,当包含在接收到的控制信息中的识别信息与存储在ROM 252中的识别信息270匹配时,处理器250选择性地将接收到的控制信息记录到寄存器254中。
控制传感器装置256的操作所涉及的处理示例是“向传感器装置256传送控制信号的处理,该控制信号包含定期或不定期地或者当接收到包含感测指令的控制信息时操作传感器装置256的指令。
控制通信装置258的通信所涉及的处理示例是“将包含发送指令和要发送的数据的控制信号传送到通信装置258的处理”。
ROM 252是在传感器200中包括的记录介质。ROM 252存储例如识别信息。
寄存器254是在传感器200中包括的另一记录介质。寄存器254存储例如通过控制总线B2接收的控制信息。尽管图3示出了控制信息存储在寄存器254中的示例,但是控制信息可以存储在其他记录介质中,例如,非易失性存储器(例如,闪存等)、磁记录介质(例如,硬盘等)等。
传感器装置256是生成图像的装置。传感器装置256的示例包括图像装置(例如,数码相机、数字视频相机等)以及任何传感器装置,例如,红外传感器、距离成像传感器等。
通信装置258例如是通过连接的外部总线(例如,数据总线B1、控制总线B2等)与外部装置通信的装置。通信装置258例如是可以执行符合任何标准的通信的装置,在该标准中,由预定数据指定要发送的数据的起始和结束,例如,CSI-2标准、PCI Express等。
传感器200具有例如图3所示的配置,以基于控制信息输出图像。注意,毋庸置疑,传感器200的配置不限于图3所示的示例。
将更具体地描述与基于控制信息输出图像相关的传感器200中的处理。作为与基于控制信息输出图像相关的处理,传感器200例如执行下面(I)中描述的根据第一示例的输出处理到下面(V)中描述的根据第五示例的输出处理中的一个或多个。例如,由在传感器200中包括的处理器250执行传感器200中与基于控制信息输出图像相关的处理,该传感器查找存储在寄存器254中的控制信息272。
(I)根据第一示例的输出处理:控制信息包含指示是否要输出帧起始包的数据(第一输出信息)的情况
当控制信息包含指示是否要输出帧起始包的数据时,传感器200基于指示是否要输出帧起始包的数据选择性地输出帧起始包。
例如,当指示是否要输出帧起始包的数据指示要输出帧起始包时,传感器200将帧起始包与图像一起输出。
(II)根据第二示例的输出处理:控制信息包含指示是否要输出帧结束包的数据(第二输出信息)的情况
当控制信息包含指示是否要输出帧结束包的数据时,传感器200基于指示是否要输出帧结束包的数据选择性地输出帧结束包。
例如,当指示是否要输出帧结束包的数据指示要输出帧结束包时,传感器200将帧结束包与图像一起输出。
(III)根据第三示例的输出处理:控制信息包含指示图像标识符的数据(第三输出信息)的情况
当控制信息包含指示图像标识符的数据时,传感器200将由指示图像标识符的数据指示的标识符与图像一起输出。下面将描述传感器200输出标识符的具体示例。
(IV)根据第四示例的输出处理:控制信息包含指示图像尺寸的数据和/或指示帧速率的数据的情况
当控制信息包含指示图像尺寸的数据时,传感器200输出具有由控制信息指示的图像尺寸的图像。
此外,当控制信息包含指示帧速率的数据时,传感器200以由控制信息指示的帧速率输出图像。
此外,当控制信息包含指示图像尺寸的数据和指示帧速率的数据时,传感器200以由控制信息指示的帧速率输出具有由控制信息指示的图像尺寸的图像。
(V)根据第五示例的输出处理:控制信息包含指示输出延迟量的数据的情况
例如,当控制信息包含指示输出延迟量的数据时,传感器200在从通过控制总线B2接收到输出图像的指令起经过了与由控制信息指示的输出延迟量对应的时间段之后输出图像。
例如,传感器200执行上面(I)中描述的根据第一示例的输出处理到上面(V)中描述的根据第五示例的输出处理中的一个或多个。因此,在系统1000中,处理器100促使每个传感器200基于传感器200中设置的控制信息输出图像。此后,在系统1000中,处理器100接收由每个传感器200通过数据总线B1输出的图像,例如,如图2A的A部分至图2E的A部分所示。
<3>存储器300
存储器300是在系统1000中包括的记录介质。存储器300的示例包括易失性存储器(例如,随机存取存储器等)、非易失性存储器(例如,闪存等)等。
存储器300存储由每个传感器200输出的图像,例如,如图2A的B部分到图2E的B部分所示。例如,由处理器100控制将图像记录到存储器300中。
<4>显示装置400
显示装置400是在系统1000中包括的显示装置。显示装置400的示例包括液晶显示器、有机电致发光(EL)显示器、有机发光二极管(OLED)显示器等。
显示装置400的显示屏显示各种图像和屏幕,例如,每个传感器200输出的图像、与处理器100执行的应用程序相关的屏幕、与用户界面(UI)相关的屏幕等。例如,由处理器100控制在显示装置400的显示屏上显示图像等。
<5>系统1000显示的效果以及系统1000的变化
系统1000具有例如图1所示的配置。
在系统1000中,处理器100和多个传感器200通过数据总线B1连接在一起。此外,在系统1000中,由多个传感器200输出的图像由执行与图像相关的控制的处理器100控制。因此,在系统1000中,处理器100可以通过数据总线B1接收由多个传感器200独立输出的图像。
因此,在系统1000中,处理器100(根据本实施方式的处理设备)可以通过更少数量的数据总线连接到多个传感器200(根据本实施方式的图像传感器)。
此外,在系统1000中,连接到处理器100的数据总线的数量的减少导致以下效果。
-可以减少处理器100和多个传感器200连接在一起的布线区域;
-由于例如用于连接数据总线的终端数量的减少,可以进一步简化处理器100的硬件配置。
此外,例如,如图2A至图2E所示,处理器100接收由传感器200输出的多个图像,作为单独的图像或两个或更多图像在垂直方向或水平方向上接合在一起的图像。处理器100将传感器200输出的多个图像识别为单独的图像或两个或更多图像在垂直方向或水平方向上接合在一起的图像,并且执行预定的处理,例如,将图像记录到记录介质(例如,存储器300等)中的处理、在显示装置(例如,显示装置400等)上显示图像所涉及的处理等。
因此,系统1000提供“在数据总线B1上接合或分离由多个传感器200独立输出的多个图像的机构”。
注意,根据本实施方式的系统的配置不限于图1所示的示例。
例如,当由多个传感器200输出的图像存储在系统外部的记录介质中时,或者当由多个传感器200输出的图像存储在处理器100中包括的存储器中时,根据本实施方式的系统可以没有图1所示的存储器300。
此外,根据本实施方式的系统可以具有没有图1所示的显示装置400的配置。
此外,根据本实施方式的系统可以具有适合于应用根据本实施方式的系统的电子设备(下面描述)所拥有的功能的任何配置。
此外,根据本实施方式的系统可以具有将M条数据总线(其中,M是小于传感器200的数量的整数)连接到处理器的配置。即使当根据本实施方式的系统具有M条数据总线(其中,M是小于系统中包括的传感器200的数量的整数)连接到处理器的配置时,与简单地使用诸如CSI-2标准等现有标准相比,连接到处理器的数据总线的数量也可以减少。
<6>根据本实施方式的系统的应用示例
在前面,已经通过示例将系统描述为本实施方式。本实施方式不限于此。本实施方式适用于各种电子设备,例如,通信设备(例如,智能手机等)、移动设备(例如,无人机(可远程操作或自主操作的设备)、汽车等)、计算机(例如,个人计算机(PC)等)、平板型设备、游戏设备等。
此外,在前面,已经通过示例的方式将处理器描述为在根据本实施方式的系统中包括的处理设备。根据本实施方式的处理设备不限于上述示例。例如,根据本实施方式的处理设备适用于可以执行与图像相关的控制的任何处理电路或设备,该图像由连接到数据总线的多个图像传感器中的每一个通过数据总线输出。
(根据本实施方式的系统中的图像的输出示例)
接下来,将描述系统1000中的图像的输出示例。在下面的描述中,将描述根据CSI-2标准通过数据总线B1发送信号的示例。
图4示出了由根据本实施方式的系统1000中包括的传感器200生成的图像数据的示例。
例如,由传感器200生成的图像数据包括N行数据(其中,N是1或更大的整数),并且逐行输出到数据总线B1。
图5示出了根据CSI-2标准通过根据本实施方式的系统1000中包括的数据总线B1发送的图像数据的包序列的示例。在图5中,“FS”表示FS包,“FE”表示FE包。此外,在图5中,“PH”表示包报头,“PF”表示包页脚。
在CSI-2标准中,在图像数据的头部发出FS包P1之后,发出N个图像数据包P2,最后发出FE包P3。在一个图像数据包P1和另一图像数据包P1之间存在称为行消隐BL1的间隔。在FE包P3和下一个FS包P1之间存在称为帧消隐BL2的间隔。
图6和图7示出了CSI-2标准中规定的包格式。图6表示CSI-2标准中定义的“短包”格式。图7表示CSI-2标准中定义的“长包”格式。
图5所示的FS包P1和FE包P3是“短包”。此外,图5所示的图像数据包P2是“长包”。
在“短包”和“长包”中,在其报头中记录VC号(图6和图7中所示的“VC”,VC值)。可以向每个包提供任意的VC号。处理具有相同VC号的包,作为包含在相同图像数据中的包。
如上所述,在系统1000中,执行与图像相关的控制的处理器100可以向每个传感器200提供VC号作为标识符。
此外,在“短包”和“长包”中,在其报头中记录DT值(图5和图6中所示的“数据类型”)。因此,与VC号一样,可以处理具有相同DT值的包,作为包含在相同图像数据中的包。如上所述,在系统1000中,由执行与图像相关的控制的处理器100可以将DT值作为标识符提供给每个传感器200。
图8示出了根据本实施方式的系统1000中包括的存储器300中分配的帧缓冲器的示例。
当接收到图5所示的包序列时,处理器100将接收到的图像数据记录到存储器300的帧缓冲器中,如图8所示。
图9是示出由执行与图像相关的控制的根据本实施方式的系统1000中包括的处理器100从传感器200输出的图像数据的包结构示例的说明图。图9的A部分到图9的D部分均对应于从传感器200输出的图像数据的包结构示例。
图9的A部分示出了图像数据的包结构示例,其中,输出了FS包P1和FE包P3。图9的B部分示出了图像数据的包结构示例,其中,输出FS包P1,而不输出FE包P3。图9的C部分示出了图像数据的包结构示例,其中,既不输出FS包P1,也不输出FE包P3。图9的D部分示出了图像数据的包结构示例,其中,输出FE包P3,而不输出FS包P1。
图10是示出根据本实施方式的系统1000中包括的处理器100中的与图像相关的控制所涉及的处理(根据本实施方式的控制方法所涉及的处理)的示例的流程图。图10示出了在系统1000包括称为“传感器200A、200B和200C”的三个图像传感器的情况下,与处理器100中的图像相关的控制所涉及的处理的示例。
处理器100打开要控制的传感器200A、200B和200C中的每一个,从而释放其复位状态(S100)。例如,步骤S100的处理对应于初始化传感器200A、200B和200C的处理的示例。
处理器100为传感器200A配置寄存器设置(S102)。处理器100通过控制总线B2发送控制信息来配置传感器200A的寄存器设置。
在此处,处理器100通过发送控制信息来配置传感器200A的寄存器设置,其中,例如,指定了传感器200A,并且指定了在传感器200A中包括的寄存器的地址。或者,处理器100可以通过发送控制信息来配置传感器200A的寄存器设置,其中,指定了要控制的所有传感器200,并且指定了在每个传感器200中包括的寄存器的地址。例如,发送指定要控制的所有传感器200的控制信息以及指定每个传感器200中包括的寄存器的地址,在将相同数据同步记录到所有传感器200中包括的寄存器中是有效的。
处理器100为传感器200B配置寄存器设置(S104)。如在步骤S102中,处理器100通过经由控制总线B2发送控制信息来配置传感器200B的寄存器设置。
处理器100为传感器200C配置寄存器设置(S106)。如在步骤S102中,处理器100通过经由控制总线B2发送控制信息来配置传感器200C的寄存器设置。
处理器100促使传感器200A、200B和200C中的每一个拍摄图像并将图像数据输出到数据总线B1(S108)。处理器100通过控制总线B2发送控制信息,以促使传感器200A、200B和200C中的每一个拍摄图像并将图像数据输出到数据总线B1。
例如,处理器100执行图10所示的处理,作为与图像相关的控制所涉及的处理。注意,毋庸置疑,与图像相关的控制所涉及的处理的示例不限于图10所示的示例。
例如,如图10所示,通过由处理器100执行的与图像相关的控制,将控制信息记录到传感器200中包括的寄存器中。此外,传感器200基于如上所述的控制信息输出图像。
因此,例如,如图10所示,通过由处理器100执行的与图像相关的控制,从传感器200输出具有图9的A部分至D部分所示的任何包结构的图像数据。
现在将针对从传感器200A、200B和200C输出的图像数据的每个包序列示例,来描述系统1000中的图像的输出示例。
<i>系统1000中的图像输出的第一示例
图11示出了由根据本实施方式的系统1000中包括的多个传感器200中的每一个输出的图像数据的包序列的第一示例。
图11的A部分示出了由传感器200A输出的图像数据的包序列的示例。图11的B部分示出了由传感器200B输出的图像数据的包序列的示例。此外,图11的C部分示出了由传感器200C输出的图像数据的包序列的示例。在图11中,示出了传感器200A、200B和200C均输出具有图9的A部分所示的结构的包序列(输出FS包P1和FE包P3的图像数据的包结构)的示例。
在图11中,根据同步信号Vsync同步传感器200A、200B和200C的图像输出。
例如,如图11的A部分所示,在接收到同步信号Vsync之后,传感器200A立即输出图像数据的包序列。此外,如图11的B部分所示,自接收同步信号Vsync以来,在已经经过为传感器200B设置的帧消隐BL2(对应于由控制信息指示的输出延迟量)之后,传感器200B输出图像数据的包序列。此外,如图11的C部分所示,自接收同步信号Vsync以来,在已经经过为传感器200C设置的帧消隐BL2(对应于由控制信息指示的输出延迟量)之后,传感器200C输出图像数据的包序列。
在此处,例如,处理器100通过控制总线B2输出同步信号Vsync。在系统1000中,可以由通过控制总线B2发送同步信号Vsync的处理器100来同步操作多个传感器200。换言之,在系统1000中,通过控制总线B2执行控制的处理器100可以同步多个传感器200的图像输出。
注意,同步操作系统1000中的多个传感器200的方法不限于上述“处理器100向系统1000中包括的所有传感器200发送同步信号Vsync的方法”。
例如,在系统1000中,在处理器100通过控制总线B2激活每个传感器200之后,多个传感器200中的一个可以用作主设备,使得多个传感器200同步。具体地,在系统1000中,用作主设备的传感器200向其他传感器200(用作从设备的传感器200)发送同步信号Vsync。在系统1000中,接收由用作主设备的传感器200发送的同步信号Vsync的其他传感器200实现多个传感器200的同步操作。在此处,通过例如每个传感器200之间的1位专用线路来执行每个传感器200之间的同步信号Vsync的发送和接收。
如图11所示,在系统1000中,可以通过由处理器100执行的控制(或者由在由处理器100执行控制之后用作主设备的传感器200执行的控制)来避免由传感器200A、200B和200C输出的图像数据的包序列之间的冲突。
另外,如图11所示,由传感器200A、200B和200C输出的图像数据的包序列可以具有不同的VC号设置。在图11中,示出了一个示例,其中,将VC号“0”提供给传感器200A输出的图像数据的包序列,将VC号“1”提供给传感器200B输出的图像数据的包序列,并且将VC号“2”提供给传感器200C输出的图像数据的包序列。
图12示出了由根据本实施方式的系统1000中包括的处理器100接收的包序列的第一示例。图12所示的包序列对应于在数据总线B1上多路复用的图11所示的包序列。
图12所示的包序列符合CSI-2标准。因此,处理器100可以处理图12所示的包序列,这些包序列对应于多个传感器200输出的图像数据,作为根据CSI-2标准指定的单个传感器200输出的包序列。
图13示出了存储在根据本实施方式的系统1000中包括的存储器300中的帧缓冲器中的图像数据的包序列的第一示例。图13示出了处理器100将图12所示的包序列存储到帧缓冲器中的示例。
例如,处理器100为每个VC号分配存储器300中的帧缓冲器,并且将图12所示的针对相应VC号的包序列记录到为相应VC号分配的帧缓冲器中。换言之,由传感器200A、200B和200C输出的图像数据(由在数据总线B1上多路复用的图12的包序列表示)可以分离成存储器300中的相应帧缓冲器中的相应传感器200的图像数据的部分。
<ii>系统1000中的图像输出的第二示例
图14示出了由根据本实施方式的系统1000中包括的多个传感器200中的每一个输出的图像数据的包序列的第二示例。
图14的A部分示出了由传感器200A输出的图像数据的包序列的示例。图14的B部分示出了由传感器200B输出的图像数据的包序列的示例。此外,图14的C部分示出了由传感器200C输出的图像数据的包序列的示例。在图14中,示出了由每个传感器200A、200B和200C输出具有以下结构的包序列的示例。
-传感器200A:具有图9的B部分所示的结构的包序列(输出FS包P1而不输出FE包P3的图像数据的包结构);
-传感器200B:具有图9的C部分所示结构的包序列(其中,既不输出FS包P1也不输出FE包P3的图像数据的包结构);
-传感器200C:具有图9的D部分所示结构的包序列(输出FE包P3而不输出FS包P1的图像数据的包结构)。
在图14中,传感器200A、200B和200C的同步和包输出延迟类似于图11所示的图像输出的第一示例。
另外,如图14所示,由传感器200A、200B和200C输出的图像数据的包序列可以具有相同的VC号设置。在图14中,将VC号“0”提供给由每个传感器200A、200B和200C输出的图像数据的包序列。
图15示出了由根据本实施方式的系统1000中包括的处理器100接收的包序列的第二示例。图15所示的包序列对应于在数据总线B1上多路复用的图14所示的包序列。
图15所示的包序列符合CSI-2标准。因此,处理器100可以处理图15所示的包序列,这些包序列对应于多个传感器200输出的图像数据,作为根据CSI-2标准指定的单个传感器200输出的包序列。
图16示出了存储在根据本实施方式的系统1000中包括的存储器300中的帧缓冲器中的图像数据的包序列的第二示例。图16示出了处理器100将图15所示的包序列存储到帧缓冲器中的示例。
例如,处理器100为每个VC号分配存储器300中的帧缓冲器,并将图15所示的包序列记录到为相应VC号分配的帧缓冲器中。换言之,由传感器200A、200B和200C输出的图像数据(由在数据总线B1上多路复用的图15的包序列表示)存储在存储器300中的帧缓冲器中,作为“通过在垂直方向上将传感器200A输出的图像、传感器200B输出的图像和传感器200C输出的图像接合在一起而获得的单个图像”。
因此,在图像输出的第二示例中,实现了在垂直方向上将传感器200A输出的图像、传感器200B输出的图像和传感器200C输出的图像接合在一起。
<iii>系统1000中图像输出的第三示例
图17示出了由根据本实施方式的系统1000中包括的多个传感器200中的每一个输出的图像数据的包序列的第三示例。
图17的A部分示出了由传感器200A输出的图像数据的包序列的示例。图17的B部分示出了由传感器200B输出的图像数据的包序列的示例。此外,图17的C部分示出了由传感器200C输出的图像数据的包序列的示例。在图17中,示出了具有图9的A部分所示的结构的包序列(输出FS包P1和FE包P3的图像数据的包结构)输出到传感器200A、200B和200C中的每一个的示例。
在图17中,例如,通过处理器100通过控制总线B2执行的控制,来同步传感器200A、200B和200C的图像输出,如图11所示的图像输出的第一示例中那样。
例如,如图17的A部分所示,在接收到同步信号Vsync之后,立即输出由传感器200A输出的图像数据的包序列。此外,如图17的B部分所示,自接收同步信号Vsync以来,在已经经过为传感器200B设置的帧消隐BL2(对应于由控制信息指示的输出延迟量)之后,输出由传感器200B输出的图像数据的包序列。此外,如图17的部分C所示,自接收同步信号Vsync以来,在已经经过为传感器200C设置的行消隐BL1(对应于由控制信息指示的输出延迟量)之后,输出由传感器200C输出的图像数据的包序列。在此处,图11所示的第一示例与图17所示的第三示例的不同之处在于,“在图11所示的第一示例中,逐帧控制包的输出延迟,而在图17所示的第三示例中,逐行控制包的输出延迟。”
如图17所示,在系统1000中,通过由处理器100执行的控制,可以避免由传感器200A、200B和200C输出的图像数据的包序列之间的冲突。
另外,如图17所示,由传感器200A、200B和200C输出的图像数据的包序列可以具有不同的VC号设置。在图17中,示出了一个示例,其中,示出了以下示例:将VC号“0”提供给传感器200A输出的图像数据的包序列,将VC号“1”提供给传感器200B输出的图像数据的包序列,并且将VC号“2”提供给传感器200C输出的图像数据的包序列。
图18示出了由根据本实施方式的系统1000中包括的处理器100接收的包序列的第三示例。图18所示的包序列对应于在数据总线B1上多路复用的图17所示的包序列。
图18所示的包序列符合CSI-2标准。因此,处理器100可以处理图18所示的包序列,这些包序列对应于多个传感器200输出的图像数据,作为根据CSI-2标准指定的单个传感器200输出的包序列。
图19示出了存储在根据本实施方式的系统1000中包括的存储器300中的帧缓冲器中的图像数据的包序列的第三示例。图19示出了处理器100将图18所示的包序列存储到帧缓冲器中的示例。
例如,处理器100为每个VC号分配存储器300中的帧缓冲器,并且将图18所示的针对相应VC号的包序列记录到为相应VC号分配的帧缓冲器中。在此处,图12所示的根据第一示例的包序列和图18所示的根据第一示例的包序列具有不同的包顺序,但是以相同的格式存储在帧缓冲器中。具体地,由传感器200A、200B和200C输出的图像数据(由在数据总线B1上多路复用的图18的包序列表示)可以分离成存储器300中的相应帧缓冲器中的相应传感器200的图像数据的部分。
<iv>系统1000中的图像输出的第四示例
图20示出了由根据本实施方式的系统1000中包括的多个传感器200中的每一个输出的图像数据的包序列的第四示例。
图20的A部分示出了由传感器200A输出的图像数据的包序列的示例。图20的B部分示出了由传感器200B输出的图像数据的包序列的示例。此外,图20的C部分示出了由传感器200C输出的图像数据的包序列的示例。在图20中,示出了具有以下结构的包序列由传感器200A、200B和200C中的每一个输出的示例。
-传感器200A:具有图9的B部分所示结构的包序列(输出FS包P1而不输出FE包P3的图像数据的包结构);
-传感器200B:具有图9的C部分所示结构的包序列(既不输出FS包P1也不输出FE包P3的图像数据的包结构);
-传感器200C:具有图9的D部分所示结构的包序列(输出FE包P3而不输出FS包P1的图像数据的包结构)。
在图20中,传感器200A、200B和200C的同步和包输出延迟类似于图17所示的图像输出的第三示例。
另外,如图20所示,由传感器200A、200B和200C输出的图像数据的包序列可以具有相同的VC号设置。在图20中,将VC号“0”提供给由传感器200A、200B和200C中的每一个输出的图像数据的包序列。
图21示出了由根据本实施方式的系统1000中包括的处理器100接收的包序列的第四示例。图21所示的包序列对应于在数据总线B1上多路复用的图20所示的包序列。
图21所示的包序列符合CSI-2标准。因此,处理器100可以处理图21所示的包序列,这些包序列对应于多个传感器200输出的图像数据,作为根据CSI-2标准指定的单个传感器200输出的包序列。
图22示出了存储在根据本实施方式的系统1000中包括的存储器300中的帧缓冲器中的图像数据的包序列的第四示例。图22示出了处理器100将图21所示的包序列存储到帧缓冲器中的示例。
例如,处理器100为每个VC号分配存储器300中的帧缓冲器,并将图21所示的包序列记录到为相应VC号分配的帧缓冲器中。换言之,由传感器200A、200B和200C输出的图像数据(由在数据总线B1上多路复用的图21所示的包序列表示)存储在存储器300中的帧缓冲器中,作为“通过在水平方向将传感器200A输出的图像、传感器200B输出的图像和传感器200C输出的图像接合在一起而获得的单个图像”。
因此,在图像输出的第四示例中,实现了在水平方向上将传感器200A输出的图像、传感器200B输出的图像和传感器200C输出的图像接合在一起。
<v>系统1000中的图像输出的其他示例
系统1000中的图像输出的示例不限于上面在<i>中描述的第一示例到上面在<iv>中描述的第四示例。
例如,在系统1000中,可以通过组合上面在<i>中描述的第一示例到上面在<iv>中描述的第四示例中的两个或更多个,来组合垂直接合图像、水平接合图像和分离图像。
将描述一个示例。例如,由四个传感器200输出的图像称为“图像0”、“图像1”、“图像2”和“图像3”。可以实现组合要接合的图像,例如,“图像0和图像1在水平方向上接合在一起,图像2和图像3在水平方向上接合在一起,并且在水平方向上接合在一起的图像0和图像1以及在水平方向上接合在一起的图像2和图像3在垂直方向上接合在一起”等。
(根据本实施方式的程序)
具有“在数据总线上接合或分离由多个传感器独立输出的多个图像的机构”的系统可以由用于促使计算机用作根据本实施方式的处理设备的程序(例如,促使计算机执行与由计算机中的处理器等执行的图像相关的控制所涉及的处理(根据本实施方式的控制方法所涉及的处理)提供。
此外,可以由促使计算机用作由计算机中的处理器等执行的根据本实施方式的处理设备的程序显示与图像相关的控制所涉及的上述处理(根据本实施方式的控制方法所涉及的处理)所显示的效果。
上面已经参考附图描述了本公开内容的优选实施方式,而本公开内容不限于上述示例。本领域的技术人员可以在所附权利要求的范围内找到各种变更和修改,并且应当理解,这些变更和修改将自然地落入本公开内容的技术范围内。
例如,前面已经指出,提供了用于促使计算机用作根据本实施方式的处理设备的程序(计算机程序)。此外,在本实施方式中,可以另外提供存储上述程序的记录介质。
上述配置是本实施方式的示例,当然,在本公开内容的技术范围内。
此外,本说明书中描述的效果仅仅是说明性的或示例性的效果,而不是限制性的。即,利用或代替上述效果,根据本公开内容的技术可以基于本说明书的描述实现对本领域技术人员显而易见的其他效果。
另外,本技术也可以如下配置。
(1)一种处理设备,包括:
处理单元,其连接到数据总线,并通过数据总线执行与由连接到数据总线的多个图像传感器中的每一个输出的图像相关的控制。
(2)根据(1)所述的处理设备,其中,
所述处理单元执行由多个图像传感器输出的相应图像的接合的控制,作为与图像相关的控制。
(3)根据(2)所述的处理设备,其中,
所述处理单元控制由所述多个图像传感器输出的图像中的帧的起始和帧的结束,以控制图像的接合。
(4)根据(3)所述的处理设备,其中,
所述处理单元通过控制所述多个图像传感器中的每一个中的帧起始包的输出来控制帧的起始。
(5)根据(3)或(4)所述的处理设备,其中,
所述处理单元通过控制所述多个图像传感器中的每一个中的帧结束包的输出来控制帧的结束。
(6)根据(3)至(5)中任一项所述的处理设备,其中,
所述处理单元还控制向由所述多个图像传感器输出的相应图像中的每一个添加标识符,以控制图像的接合。
(7)根据(1)至(6)中任一项所述的处理设备,其中,
所述处理单元执行由所述多个图像传感器中的每一个输出的图像的尺寸的控制和/或由所述多个图像传感器中的每一个输出的图像的帧速率的控制,作为与图像相关的控制。
(8)根据(1)至(7)中任一项所述的处理设备,其中,
所述处理单元执行由所述多个图像传感器中的每一个输出的图像的输出时间的控制,作为与图像相关的控制。
(9)根据(1)至(8)中任一项所述的处理设备,其中,
所述处理单元通过向所述多个图像传感器中的每一个发送控制信息来执行与图像相关的控制。
(10)根据(9)所述的处理设备,其中,
通过与数据总线不同的控制总线传输所述控制信息,所述控制总线连接到所述多个图像传感器中的每一个。
(11)根据(9)或(10)所述的处理设备,其中,
所述控制信息记录在包括在图像传感器中的寄存器中。
(12)一种图像传感器,其连接到与另一图像传感器连接的数据总线,并基于控制信息输出图像。
(13)根据(12)所述的图像传感器,其中,
所述控制信息包含指示是否要输出帧起始包的第一输出信息,并且
在第一输出信息指示要输出帧起始包的情况下,所述图像传感器将帧起始包与图像一起输出。
(14)根据(12)或(13)所述的图像传感器,其中,
所述控制信息包含指示是否要输出帧结束包的第二输出信息,并且
在第二输出信息指示要输出帧结束包的情况下,所述图像传感器将帧结束包与图像一起输出。
(15)根据(12)至(14)中任一项所述的图像传感器,其中,
所述控制信息包含指示所述图像的标识符的第三输出信息,并且
所述图像传感器将由第三输出信息指示的标识符与图像一起输出。
(16)根据(12)至(15)中任一项所述的图像传感器,其中,
所述控制信息存储在寄存器中。
(17)一种系统,包括:
多个图像传感器,每个图像传感器连接到数据总线;以及
处理设备,其连接到数据总线,
其中,所述处理设备包括处理单元,所述处理单元通过数据总线执行与由每个图像传感器输出的图像相关的控制。
附图标记列表
100、250 处理器
102 处理单元
200、200A、200B、200C 传感器
252 ROM
254 寄存器
256 传感器装置
258 通信装置
260 内部总线
270 识别信息
272 控制信息
300 存储器
400 显示装置
1000 系统
B1 数据总线
B2 控制总线。

Claims (14)

1.一种处理设备,包括:
处理电路,被配置为:
连接到数据总线,
经由所述数据总线从多个图像传感器中的每一个接收图像,并且
响应于从所述多个图像传感器中的每一个接收所述图像而控制所述图像,
其中,为了控制所述图像,所述处理电路还被配置为控制从所述多个图像传感器接收的图像的接合,
其中,为了控制所述图像的接合,所述处理电路还被配置为控制所述多个图像传感器,以在从所述多个图像传感器接收到的图像的第一图像之前插入帧的帧起始,并且在从所述多个图像传感器接收到的图像的最后图像之后插入所述帧的帧结束。
2.根据权利要求1所述的处理设备,其中,
所述处理电路还被配置为通过控制所述多个图像传感器中的每一个的输出,以在从所述多个图像传感器输出所述图像的第一图像之前输出单个帧起始包,从而控制所述多个图像传感器插入所述帧的帧起始。
3.根据权利要求1所述的处理设备,其中,
所述处理电路还被配置为通过控制所述多个图像传感器中的每一个的输出,以在从所述多个图像传感器输出所述图像的最后图像之后输出单个帧结束包,从而控制所述多个图像传感器插入所述帧的帧结束。
4.根据权利要求1所述的处理设备,其中,
为了控制所述图像的接合,所述处理电路还被配置为控制将标识符插入到从所述多个图像传感器接收的图像中的每一个。
5.根据权利要求1所述的处理设备,其中,
为了控制所述图像,所述处理电路被配置为控制以下至少一个:从所述多个图像传感器中的每一个接收的图像的尺寸和从所述多个图像传感器中的每一个接收的图像的帧速率。
6.根据权利要求1所述的处理设备,其中,
为了控制所述图像,所述处理电路还被配置为控制由所述多个图像传感器中的每一个输出的图像的输出时间。
7.根据权利要求1所述的处理设备,其中,
为了控制所述图像,所述处理电路还被配置为向所述多个图像传感器中的每一个发送控制信息。
8.根据权利要求7所述的处理设备,其中,
为了控制所述图像,所述处理电路被配置为经由数据总线或与所述数据总线不同的控制总线来向所述多个图像传感器中的每一个发送控制信息。
9.根据权利要求7所述的处理设备,其中,
所述处理电路被配置为控制所述多个图像传感器中的一个,以将发送的控制信息记录在寄存器中,所述寄存器包括在所述多个图像传感器中的一个中。
10.一种图像装置,包括:
图像传感器,被配置为:
连接到数据总线,
经由所述数据总线接收控制信息,
拍摄图像,并且
响应于接收所述控制信息并拍摄所述图像,而基于所述控制信息来经由所述数据总线输出所述图像,
其中,所述控制信息包括指示要输出的帧起始包的第一输出信息,并且
所述图像传感器还被配置为响应于指示要输出的所述帧起始包的第一输出信息而在输出包括所述图像的有效载荷之前输出所述帧起始包。
11.根据权利要求10所述的图像装置,其中,
所述控制信息包括指示要输出的帧结束包的第二输出信息,以及
所述图像传感器还被配置为响应于指示要输出的所述帧结束包的第二输出信息而在输出包括所述图像的有效载荷之后输出所述帧结束包。
12.根据权利要求10所述的图像装置,其中,
所述控制信息包括指示所述图像的标识符的第三输出信息,并且
所述图像传感器还被配置为将所述标识符与所述图像一起输出。
13.根据权利要求10所述的图像装置,其中,
所述图像传感器还包括寄存器,
所述图像传感器还被配置为将所述控制信息存储在所述寄存器中。
14.一种图像系统,包括:
数据总线;
多个图像传感器,所述多个图像传感器中的每一个被配置为:
连接到数据总线,
拍摄图像,并且
经由所述数据总线输出所述图像;以及
处理电路,被配置为:
连接到所述数据总线,
从所述多个图像传感器中的每一个接收所述图像,并且
控制来自所述多个图像传感器中的每一个的图像,
其中,为了控制所述图像,所述处理电路还被配置为控制从所述多个图像传感器接收的图像的接合,
其中,为了控制所述图像的接合,所述处理电路还被配置为控制所述多个图像传感器,以在从所述多个图像传感器接收到的图像的第一图像之前插入帧的帧起始,并且在从所述多个图像传感器接收到的图像的最后图像之后插入所述帧的帧结束。
CN201780030981.6A 2016-05-26 2017-04-19 处理设备、图像传感器和系统 Active CN109154921B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016105353A JP6695739B2 (ja) 2016-05-26 2016-05-26 処理装置、画像センサ、およびシステム
JP2016-105353 2016-05-26
PCT/JP2017/015666 WO2017203901A1 (en) 2016-05-26 2017-04-19 Processing apparatus, image sensor, and system

Publications (2)

Publication Number Publication Date
CN109154921A CN109154921A (zh) 2019-01-04
CN109154921B true CN109154921B (zh) 2023-01-31

Family

ID=58739315

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780030981.6A Active CN109154921B (zh) 2016-05-26 2017-04-19 处理设备、图像传感器和系统

Country Status (7)

Country Link
US (2) US10825156B2 (zh)
EP (2) EP3465451A1 (zh)
JP (1) JP6695739B2 (zh)
KR (1) KR102402716B1 (zh)
CN (1) CN109154921B (zh)
TW (1) TWI744315B (zh)
WO (1) WO2017203901A1 (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111919453A (zh) * 2018-04-05 2020-11-10 索尼半导体解决方案公司 发送装置、接收装置以及通信系统
TW202029002A (zh) 2018-12-20 2020-08-01 日商索尼半導體解決方案公司 通信裝置、通信方法及程式
JPWO2020166378A1 (ja) 2019-02-15 2021-12-09 ソニーセミコンダクタソリューションズ株式会社 通信装置および通信方法、並びにプログラム
CN111756963B (zh) * 2019-03-29 2022-01-14 华为技术有限公司 图像摄取模组及电子终端
JP2020188323A (ja) * 2019-05-10 2020-11-19 ソニーセミコンダクタソリューションズ株式会社 撮像装置および撮像方法
TW202101946A (zh) 2019-06-14 2021-01-01 日商索尼半導體解決方案公司 通信裝置及通信方法以及程式
WO2021215269A1 (ja) 2020-04-24 2021-10-28 ソニーセミコンダクタソリューションズ株式会社 送信装置、受信装置、および通信システム
TW202203048A (zh) 2020-07-10 2022-01-16 日商索尼半導體解決方案公司 通信裝置及通信方法、以及程式
US11671704B2 (en) 2020-11-13 2023-06-06 Samsung Electronics Co., Ltd. Electronic device including a plurality of image sensors and method for thereof
WO2023153743A1 (ko) * 2022-02-09 2023-08-17 삼성전자주식회사 전자 장치 및 이의 동작 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1632771A (zh) * 2005-01-17 2005-06-29 北京中星微电子有限公司 直接存储访问控制装置和图像处理系统以及传输方法
CN101141642A (zh) * 2006-09-05 2008-03-12 索尼株式会社 信息处理装置及方法
JP4331245B1 (ja) * 2008-03-27 2009-09-16 株式会社東芝 映像画質制御装置とその制御方法
CN101639605A (zh) * 2008-07-29 2010-02-03 索尼株式会社 快门器件与摄像装置
JP2016045630A (ja) * 2014-08-21 2016-04-04 株式会社キングジム 画像取得装置

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4949391A (en) * 1986-09-26 1990-08-14 Everex Ti Corporation Adaptive image acquisition system
JP2914277B2 (ja) 1996-03-15 1999-06-28 日本電気株式会社 画像合成方式
US20090012530A1 (en) * 2003-07-15 2009-01-08 Fowler Dennis L Insertable Device and System For Minimal Access Procedure
US20060256122A1 (en) * 2005-05-13 2006-11-16 Rai Barinder S Method and apparatus for streaming data from multiple devices over a single data bus
US7884871B2 (en) * 2007-06-15 2011-02-08 Aptina Imaging Corporation Images with high speed digital frame transfer and frame processing
JP5262546B2 (ja) * 2008-10-08 2013-08-14 ソニー株式会社 映像信号処理システム、再生装置および表示装置、ならびに映像信号処理方法
CN101777036B (zh) * 2009-01-09 2011-12-14 比亚迪股份有限公司 一种实现无驱图像数据传输的装置、usb设备和方法
US20110242355A1 (en) 2010-04-05 2011-10-06 Qualcomm Incorporated Combining data from multiple image sensors
US9112520B2 (en) * 2010-08-12 2015-08-18 Mediatek Inc. Transmission interface and system using the same
US8717422B2 (en) * 2010-12-22 2014-05-06 Texas Instruments Incorporated Multi-sensor video frame synchronization apparatus and methods
WO2012155119A1 (en) * 2011-05-11 2012-11-15 Pelican Imaging Corporation Systems and methods for transmitting and receiving array camera image data
KR101965631B1 (ko) * 2012-02-22 2019-04-04 삼성전자 주식회사 Cds 회로, 이를 포함하는 이미지 센서, 및 상기 이미지 센서를 포함하는 이미지 처리 장치
JP5828038B2 (ja) * 2012-06-11 2015-12-02 株式会社ソニー・コンピュータエンタテインメント 画像撮像装置および画像撮像方法
US20140232892A1 (en) * 2013-02-20 2014-08-21 Woodman Labs, Inc. Digital signal processor buffer management
US9086966B2 (en) * 2013-03-15 2015-07-21 Intel Corporation Systems, apparatuses, and methods for handling timeouts
KR102023067B1 (ko) * 2013-03-15 2019-09-19 삼성전자주식회사 시스템 온 칩과 이를 포함하는 디스플레이 시스템의 동작 방법
KR20150026223A (ko) * 2013-09-02 2015-03-11 에스케이하이닉스 주식회사 이미지 센서 및 그 제조방법
US9710410B2 (en) * 2013-10-31 2017-07-18 Qualcomm Incorporated Camera control slave devices with multiple slave device identifiers
JP2015125606A (ja) * 2013-12-26 2015-07-06 株式会社東芝 送信回路
JP6530658B2 (ja) 2014-08-11 2019-06-12 キヤノン株式会社 撮像装置およびその制御方法、プログラムならびに記録媒体
US10560188B2 (en) * 2015-02-17 2020-02-11 Kookmin University Industry Academy Cooperation Foundation Image sensor communication system and communication method using rolling shutter modulation

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1632771A (zh) * 2005-01-17 2005-06-29 北京中星微电子有限公司 直接存储访问控制装置和图像处理系统以及传输方法
CN101141642A (zh) * 2006-09-05 2008-03-12 索尼株式会社 信息处理装置及方法
JP4331245B1 (ja) * 2008-03-27 2009-09-16 株式会社東芝 映像画質制御装置とその制御方法
CN101639605A (zh) * 2008-07-29 2010-02-03 索尼株式会社 快门器件与摄像装置
JP2016045630A (ja) * 2014-08-21 2016-04-04 株式会社キングジム 画像取得装置

Also Published As

Publication number Publication date
JP2017211864A (ja) 2017-11-30
JP6695739B2 (ja) 2020-05-20
US20210174481A1 (en) 2021-06-10
US20190130550A1 (en) 2019-05-02
US10825156B2 (en) 2020-11-03
EP4375843A1 (en) 2024-05-29
TWI744315B (zh) 2021-11-01
KR20190013727A (ko) 2019-02-11
TW201741996A (zh) 2017-12-01
US11557024B2 (en) 2023-01-17
EP3465451A1 (en) 2019-04-10
CN109154921A (zh) 2019-01-04
KR102402716B1 (ko) 2022-05-27
WO2017203901A1 (en) 2017-11-30

Similar Documents

Publication Publication Date Title
CN109154921B (zh) 处理设备、图像传感器和系统
US10999568B2 (en) Method and apparatus for 3D capture synchronization
US10104364B2 (en) Method and apparatus for bus sharing by multiple imaging sensors
US20160065934A1 (en) Imaging architecture for depth camera mode with mode switching
US8330821B2 (en) Mobile terminal and image processing method
US20140368609A1 (en) Systems And Methods For Generating A Panoramic Image
US10841478B2 (en) Image sensor and control system
JP5970748B2 (ja) 動画像撮影システム及び同期制御方法
CN108432228B (zh) 图像数据的帧同步方法、图像信号处理单元、装置及终端
CN109155814B (zh) 处理装置、图像传感器和系统
CN106031187B (zh) 发射设备、发射方法、接收设备与接收方法
CN110347360A (zh) 包括多个显示设备的系统中的显示设备的同步
JPWO2020129685A1 (ja) 通信装置および通信方法、並びにプログラム
KR102107299B1 (ko) 영상 데이터 전송 방법 및 이를 수행하는 장치들
CN104469149A (zh) 电子设备、座子和同步拍照方法
KR20130064294A (ko) 무선단말장치를 이용한 재구성 가능한 표시장치의 제어 장치 및 방법
JP2007081962A (ja) 映像撮像記録装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant