CN110678897B - 图像处理装置及摄像装置 - Google Patents
图像处理装置及摄像装置 Download PDFInfo
- Publication number
- CN110678897B CN110678897B CN201880035737.3A CN201880035737A CN110678897B CN 110678897 B CN110678897 B CN 110678897B CN 201880035737 A CN201880035737 A CN 201880035737A CN 110678897 B CN110678897 B CN 110678897B
- Authority
- CN
- China
- Prior art keywords
- image processing
- unit
- input
- image
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/20—Handling requests for interconnection or transfer for access to input/output bus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F15/00—Digital computers in general; Data processing equipment in general
- G06F15/16—Combinations of two or more digital computers each having at least an arithmetic unit, a program unit and a register, e.g. for a simultaneous processing of several programs
- G06F15/163—Interprocessor communication
- G06F15/173—Interprocessor communication using an interconnection network, e.g. matrix, shuffle, pyramid, star, snowflake
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/21—Intermediate information storage
- H04N1/2104—Intermediate information storage for one or a few pictures
- H04N1/2112—Intermediate information storage for one or a few pictures using still video cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
一种图像处理装置,具备多个处理部,该多个处理部与共通的数据总线连接,且对从与数据总线连接的数据存储部经由数据总线读出的数据实施预先决定的处理,其中,至少1个处理部是如下的图像处理部,该图像处理部具备:多个处理模块,它们对输入的数据实施预先决定的处理;作为处理模块而进行动作的输入输出用模块,其不经由数据总线地与外部之间直接输入输出数据;以及连接切换部,其按照所输入的设定来切换处理模块彼此的连接从而变更流水线结构,该图像处理部通过构成流水线的各个处理模块来实施流水线处理,该图像处理装置具备:动作检测部,其对各个处理部的动作进行检测;输入输出位置决定部,其基于动作检测部检测到的各个处理部的动作的信息,来决定图像处理部中的流水线结构;信息输出部,其将输入输出位置决定部决定出的流水线结构的信息向外部输出;以及信息输入部,其从外部接收流水线结构的信息,连接切换部按照输入输出位置决定部决定出的流水线结构的信息或者信息输入部接收到的流水线结构的信息,来切换构成流水线的处理模块彼此的连接。
Description
技术领域
本发明涉及图像处理装置及摄像装置。
本申请基于2017年07月24日申请的PCT专利申请号PCT/JP2017/026672而主张优先权,在此援引其内容。
背景技术
在静态图像用照相机、动态图像用照相机、医疗用内窥镜照相机或产业用内窥镜照相机等摄像装置中,通过所搭载的系统LSI等的图像处理装置来实施各种图像处理。因此,在图像处理装置中期望具备用于实现搭载于摄像装置的功能的图像处理功能。
此外,近年来,显示在摄像装置中拍摄到的图像的显示装置的高精细化不断发展。例如,在显示装置中,能够显示具有与HDTV(High Definition TeleVision)对应的全HD尺寸(1920×1080)的分辨率的图像、具有与UHDTV(Ultra High Definition TeleVision)对应的4K尺寸(3840×2160)的分辨率的图像。并且,在显示装置中,还计划显示具有将4K尺寸进一步高精细化的8K尺寸(7680×4320)的分辨率的图像。
因此,在搭载于摄像装置的图像处理装置中,也要求应对更高精细的图像。即,在图像处理装置中必须具备应对4K尺寸或8K尺寸这样的高分辨率的图像、和高帧率的图像的图像处理功能。
然而,在搭载于摄像装置的多数图像处理装置中,为了实现图像处理功能而采用了内置的多个处理块共享与图像处理装置连接的1个DRAM(Dynamic Random AccessMemory)的结构。而且,在这样的图像处理装置中,内置的多个处理块与图像处理装置的内部的数据总线连接,各个处理块通过经由了数据总线的DMA(Direct Memory Access)而对DRAM进行访问。因此,在图像处理装置中,根据要实施图像处理的对象的图像的分辨率、帧率,在图像处理中处理的数据量、即各个处理块访问DRAM所需的总线带宽发生改变。即,在图像处理装置具备应对高分辨率的图像、高帧率的图像的图像处理功能时,在图像处理中处理的数据量增加,因此,所需的DRAM的总线带宽也增加。此外,在应对高分辨率的图像、高帧率的图像的图像处理装置中,内置的多个处理块分别也需要高速地动作。
另外,在图像处理装置所具备的处理块中,也存在通过采用将多个处理模块串联连接的结构而实施流水线处理的处理块。例如,在图像处理装置中,实施摄像装置中的一系列图像处理的图像处理部是实施流水线处理这一结构的处理块。在这种结构的图像处理装置中,通过将实施各个图像处理的多个图像处理模块串联连接而得到的图像处理部中的流水线处理,能够实现摄像装置中的一系列图像处理的高速化。此外,在这种结构的图像处理装置中,除了图像处理部所具备的数据输入侧和输出侧的处理模块以外,不存在实施流水线处理的各个图像处理模块对DRAM的访问,因此,能够避免实施图像处理时的DRAM的总线带宽的压迫,降低图像处理装置的消耗电力。
另一方面,摄像装置根据要搭载的功能、处理能力(速度)或其价格而展开有各种机型。而且,从图像处理装置的开发期间和成本的观点出发,按照在摄像装置中展开的各个机型中的每个机型来开发具备所需图像处理功能的图像处理装置并非是有益的方法。因此,考虑作为1个图像处理装置来开发具备包括应对高分辨率的图像在内的多数图像处理功能的高功能的图像处理装置,将其共通地搭载于所开展的所有摄像装置。但是,高功能的图像处理装置在搭载时所需的面积及动作时的消耗电力会变大。此外,高功能的图像处理装置的价格变得非常高。这样,从摄像装置的小型化、低消耗电力化、低价格化的观点出发,高功能的图像处理装置难以搭载于搭载有较少的功能的摄像装置。
对此,以往,提出了使所实施的图像处理功能具有扩展性这一结构的各种图像处理装置的技术。例如,在专利文献1中,公开了利用多个ASIC来实现功能不同的各种图像处理装置的技术。更具体而言,在专利文献1中公开了如下技术:仅使用具备图像处理所需的最低限度的功能的基本功能ASIC,以最佳成本来实现低功能图像处理装置,使用基本功能ASIC和具备多个功能的高功能ASIC,来实现多功能的高性能图像处理装置。因此,通过将专利文献1所公开的技术应用于摄像装置,认为能够展开各个机型的摄像装置。即,认为通过仅搭载低功能的图像处理装置,能够实现低成本的摄像装置,通过搭载低功能的图像处理装置与高功能的图像处理装置这两方,能够实现高功能的摄像装置。
现有技术文献
专利文献
专利文献1:日本特开2008-301090号公报
发明内容
发明要解决的问题
但是,在专利文献1所公开的技术中,虽然是通过向基本功能ASIC连接高功能ASIC来扩展图像处理装置的功能用的技术,但未公开与认为是在高性能图像处理装置中需要的DRAM的总线带宽的确保相关的技术。即,在专利文献1中,未公开如下技术:即,在向基本功能ASIC连接了高功能ASIC的情况下,认为是为了实现各个功能而增加的DRAM的总线带宽的确保以及用于降低总线带宽的技术。
因此,在摄像装置中,虽然能够通过应用专利文献1所公开的技术来扩展图像处理功能,但无法确保在搭载于摄像装置的图像处理装置中需要的DRAM的总线带宽,认为无法实现达到为了应对高分辨率的图像、高帧率的图像而要求的高处理能力(处理速度)的结构。
本发明是基于上述的问题而完成的,其目的在于,提供一种图像处理装置及摄像装置,该图像处理装置及摄像装置能够确保图像处理装置所具备的各个处理块访问共享的DRAM所需的总线带宽。
用于解决问题的手段
根据本发明的第1方式,图像处理装置具备多个处理部,该多个处理部与共通的数据总线连接,且对从与所述数据总线连接的数据存储部经由所述数据总线读出的数据实施预先决定的处理,其中,至少1个所述处理部是如下的图像处理部,该图像处理部具备:多个处理模块,它们对输入的数据实施预先决定的处理;作为所述处理模块而进行动作的输入输出用模块,其不经由所述数据总线地与外部之间直接输入输出数据;以及连接切换部,其按照所输入的设定来切换所述处理模块彼此的连接从而变更流水线结构,该图像处理部通过构成所述流水线的各个所述处理模块来实施流水线处理,该图像处理装置具备:动作检测部,其对各个所述处理部的动作进行检测;输入输出位置决定部,其基于所述动作检测部检测到的各个所述处理部的动作的信息,来决定所述图像处理部中的所述流水线结构;信息输出部,其将所述输入输出位置决定部决定出的所述流水线结构的信息向外部输出;以及信息输入部,其从外部接收所述流水线结构的信息,所述连接切换部按照所述输入输出位置决定部决定出的所述流水线结构的信息或者所述信息输入部接收到的所述流水线结构的信息,来切换构成所述流水线的所述处理模块彼此的连接。
根据本发明的第2方式,在上述第1方式的图像处理装置的基础上也可以是,所述动作检测部检测各个所述处理部进行的伴有经由所述数据总线对所述数据存储部的访问的动作,作为各个所述处理部的动作,所述输入输出位置决定部决定用于划分在所述图像处理部中实施的流水线处理的所述流水线结构,以使得各个所述处理部经由所述数据总线访问所述数据存储部时需要的所述数据总线的带宽的合计成为与所述数据总线连接的所述数据存储部中的最大的带宽以内。
根据本发明的第3方式,在上述第2方式的图像处理装置的基础上也可以是,所述输入输出位置决定部决定向在所述图像处理部中构成的所述流水线内组入所述输入输出用模块的位置,以划分在所述图像处理部中实施的流水线处理。
根据本发明的第4方式,摄像装置具备多个上述第2方式的图像处理装置,各个所述图像处理装置通过将前级的所述图像处理装置所具备的所述输入输出用模块的输出与后级的所述图像处理装置所具备的所述输入输出用模块的输入连接而连接成一串,各个所述图像处理装置所具备的所述图像处理部内的所述连接切换部按照任意1个所述图像处理装置所具备的所述输入输出位置决定部决定出的所述流水线结构的信息,来切换在所述图像处理部中构成的所述流水线中的所述处理模块彼此的连接。
根据本发明的第5方式,在上述第4方式的摄像装置的基础上也可以是,所述任意1个所述图像处理装置所具备的所述输入输出位置决定部基于对应的所述动作检测部检测到的各个所述处理部的动作的信息,来决定向在各个所述图像处理部中构成的所述流水线内组入所述输入输出用模块的位置,以使得由各个所述图像处理部分担流水线处理,所述任意1个所述图像处理装置所具备的所述信息输出部将所述输入输出位置决定部决定出的所述流水线结构的信息向其他的所述图像处理装置所具备的所述信息输入部输出,各个所述图像处理装置所具备的所述图像处理部内的所述连接切换部将所述输入输出用模块组入如下位置,来切换在所述图像处理部中构成的所述流水线中的所述处理模块彼此的连接,其中,该位置是在所述输入输出位置决定部决定出的所述流水线结构的信息或者对应的所述信息输入部接收到的所述流水线结构的信息中包含的所述输入输出用模块的位置。
根据本发明的第6方式,在上述第5方式的摄像装置的基础上也可以是,所述任意1个所述图像处理装置所具备的所述输入输出位置决定部决定向在各个所述图像处理部中构成的所述流水线内组入所述输入输出用模块的位置,以使得在各个所述图像处理装置中实施处理的各个所述处理部经由对应的所述数据总线而访问所述数据存储部时需要的所述数据总线的带宽的合计成为与对应的所述数据总线连接的所述数据存储部中的最大的带宽以内。
根据本发明的第7方式,在上述第6方式的摄像装置的基础上也可以是,将连接成所述一串的最终级的所述图像处理装置所具备的所述输入输出用模块的输出与第一级的所述图像处理装置所具备的所述输入输出用模块的输入连接,从而将全部的所述图像处理装置呈圆环状地连接,将各个所述图像处理装置处理后的数据聚集到与任意1个所述图像处理装置的所述数据总线连接的所述数据存储部。
根据本发明的第8方式,摄像装置具备多个上述第2方式的图像处理装置,各个所述图像处理装置将前级的所述图像处理装置所具备的所述输入输出用模块的输出与后级的所述图像处理装置所具备的所述输入输出用模块的输入经由实施其他图像处理的外部图像处理装置而连接,各个所述图像处理装置所具备的所述图像处理部内的所述连接切换部按照任意1个所述图像处理装置所具备的所述输入输出位置决定部决定出的所述流水线结构的信息,来切换在所述图像处理部中构成的所述流水线中的所述处理模块彼此的连接。
发明的效果
根据述各方式,得到如下效果:能够提供一种图像处理装置及摄像装置,该图像处理装置及摄像装置能够确保图像处理装置所具备的各个处理块访问共享的DRAM所需的总线带宽。
附图说明
图1是示出具备本发明的实施方式的图像处理装置的摄像装置的概要结构的框图。
图2是示意性示出具备本发明的实施方式的图像处理装置的摄像装置中的数据流的图。
图3是示意性示出具备多个本发明的实施方式的图像处理装置这一结构的摄像装置中的数据流的图。
图4是示意性示出具备多个本发明的实施方式的图像处理装置的另一结构的摄像装置中的数据流的图。
图5是示意性示出具备多个本发明的实施方式的图像处理装置的另一结构的摄像装置中的数据流的图。
图6是示意性示出具备多个本发明的实施方式的图像处理装置并且在外部具备图像处理装置这一结构的摄像装置中的数据流的图。
图7是示出具备多个本发明的实施方式的图像处理装置并且进行由外部的图像处理装置扩展后的图像处理的另一结构的摄像装置的概要结构的框图。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。另外,在以下的说明中,针对本发明的实施方式的图像处理装置例如搭载于静态图像用照相机等摄像装置(以下称为“摄像装置1”)的情况进行说明。图1是示出具备本发明的实施方式中的图像处理装置的摄像装置的概要结构的框图。
图1所示的图像处理装置10具备DMA(Direct Memory Access)总线110、成像器接口(I/F)部120、摄像处理部130、CPU(Central Processing Unit)140、图像处理部150、外部输入接口(I/F)部161、外部输出接口(I/F)部162、动作检测部170、输入输出位置决定部180、通信接口(I/F)部191、通信接口(I/F)部192、数字信号处理器(DSP)200、显示处理部210、视频接口(I/F)部220、存储卡接口(I/F)部230以及高速串行接口(I/F)部240。此外,图像处理部150具备连接切换部151、输入DMA模块152、3个图像处理模块153-1~图像处理模块153-3、输入输出用模块154以及输出DMA模块155。
另外,在图1中,作为与本发明的实施方式的图像处理装置10关联的摄像装置1内的构成要素,仅示出DRAM70,省略了摄像装置1所具备的其他构成要素的图示。另外,作为摄像装置1所具备的其他构成要素,例如具有对被摄物的光学像进行光电转换的固体摄像元件(以下也称为“成像器”)、使被摄物的光学像成像于成像器的透镜、记录由图像处理装置10进行图像处理后的图像的数据的存储卡等记录介质、显示由图像处理装置10进行图像处理后的图像的显示设备等显示装置等。这里,上述的摄像装置1所具备的其他构成要素也可以采用相对于摄像装置1能够装卸的结构。此外,作为摄像装置1所具备的其他构成要素,例如,也可以具有用于控制图像处理装置10和上述的其他构成要素的系统控制装置等。
DRAM70是与图像处理装置10内的DMA总线110连接、且用于存储摄像装置1中处理的各种数据的数据存储部。例如,DRAM70存储从摄像装置1所具备的未图示的成像器输出的静止图像的数据。
在图像处理装置10中,对存储于DRAM70的静止图像的数据实施图像处理。另外,图像处理装置10在对存储于DRAM70的静止图像的数据实施图像处理时,可以按照每1帧的静止图像、即针对1帧的静止图像的整体来实施图像处理,也可以将存储于DRAM70的1帧的静止图像的数据分割为预先决定的多个小块,按照各个块来实施图像处理。但是,在以下的说明中,为了容易说明,将图像处理装置10设为如下结构来进行说明:不针对图像处理的方法进行区分,对存储于DRAM70的1帧的静止图像的数据(以下简称为“图像数据”)实施图像处理。
DMA总线110是用于供所连接的各个构成要素通过DMA来访问DRAM70的数据总线。
CPU140是通过控制图像处理装置10所具备的各个构成要素来控制图像处理装置10的整体的控制部。CPU140根据用于控制各个构成要素的程序和数据来控制图像处理装置10的整体。另外,用于供CPU140控制图像处理装置10的整体的程序和数据也可以存储在与DMA总线110连接的DRAM70中。在该情况下,CPU140通过读出并实施存储于DRAM70的程序和数据来控制图像处理装置10的整体。
成像器接口部120是与摄像装置1所具备的未图示的成像器之间的接口部。成像器接口部120基于来自CPU140的设定,接收从未图示的成像器输出的表示被摄物的光学像的各个像素的信号(以下称为“像素信号”),将接收到的像素信号输出(传输)到摄像处理部130。
另外,在构成为由未图示的成像器输出模拟的像素信号的情况下,成像器接口部120也可以构成为,具备将从未图示的成像器输出的模拟的像素信号转换成数字的像素信号的A/D(模拟/数字)转换器,将数字的像素信号(以下称为“像素数据”)向摄像处理部130输出。此外,在构成为由未图示的成像器输出数字的像素信号(像素数据)的情况下,成像器接口部120也可以构成为,通过基于大多在固体摄像元件(成像器)中被采用的例如作为差分接口方式的LVDS(Low Voltage Differential Signaling)方式的传输方式,来接收从未图示的成像器输出的像素信号(像素数据)。另外,用于供成像器接口部120接收从未图示的成像器输出的像素信号(像素数据)的传输方式不限于上述的传输方式。
摄像处理部130基于来自CPU140的设定,对从成像器接口部120输出的像素数据实施各种处理。在摄像处理部130对像素数据实施的处理中,例如包括对像素数据表示的图像整体的明亮度进行校正的阴影校正、对图像整体的黑电平的变动进行校正的黑电平校正、对与未图示的成像器所包含的缺陷像素对应的像素数据进行置换的像素缺陷校正等预处理。摄像处理部130将包括实施了预处理的各个像素数据在内的图像数据通过经由了DMA总线110的DMA写入(存储)到DRAM70。
另外,摄像处理部130也可以具备如下的AE/AF检测处理的功能:基于实施了预处理的各个像素数据、图像数据,来生成自动曝光(Auto Exposure:AE)、自动对焦(AutoFocus:AF)、自动白平衡(Auto White Balance:AWB)等用于控制摄像装置1中的被摄物的拍摄的评价值。在该情况下,摄像处理部130将通过AE/AF检测处理生成的评价值的数据作为检测AE/AF的数据而通过经由了DMA总线110的DMA写入(存储)到DRAM70。
图像处理部150对输入的图像数据实施预先决定的各种图像处理。图像处理部150是在图像处理装置10中实施预先决定的一系列图像处理这一结构的流水线处理部。更具体而言,图像处理部150通过将输入DMA模块152、图像处理模块153-1~图像处理模块153-3及输出DMA模块155串联连接而成的流水线处理,在图像处理装置10中依次实施预先决定的一系列图像处理。另外,在以下的说明中,在不区分地表示图像处理模块153-1~图像处理模块153-3中的每一个时,称为“图像处理模块153”。
此外,图像处理部150具备:选择流水线处理所包含的图像处理的功能;以及变更通过流水线处理实施的图像处理的顺序的功能。即,图像处理部150具备变更流水线结构的功能。例如,图像处理部150能够构成依次实施图像处理模块153-1~图像处理模块153-3各自的图像处理的流水线。此外,例如,图像处理部150能够构成变更图像处理模块153-1~图像处理模块153-3的顺序来实施图像处理的流水线。此外,例如,图像处理部150也能够构成通过图像处理模块153-1~图像处理模块153-3中的任意1个或多个模块来实施图像处理的流水线。另外,图像处理部150中的流水线结构由后述的输入输出位置决定部180变更(设定)。此外,也能够通过经由后述的通信接口部191,从图像处理装置10的外部(例如系统控制装置等)变更(设定)图像处理部150中的流水线结构。
此外,图像处理部150具备对从图像处理装置10的外部输入的图像数据实施图像处理模块153-1~图像处理模块153-3各自的图像处理的功能。此外,图像处理部150具备将图像处理模块153-1~图像处理模块153-3分别实施了图像处理的图像数据向图像处理装置10的外部输出的功能。换言之,图像处理部150具备如下功能:在与作为摄像装置1中的其他构成要素的、图像处理装置10的外部所具备的其他图像处理装置等之间,直接输入输出图像数据。通过在与图像处理装置10的外部之间直接输入输出该图像数据的功能,在图像处理部150中,能够将在图像处理装置10的外部实施的、与图像处理模块153-1~图像处理模块153-3分别实施的图像处理不同的图像处理组入到流水线处理。即,图像处理部150能够将在图像处理模块153-1~图像处理模块153-3中的任意1个图像处理模块153中都未实施的图像处理组入到流水线处理。
此时,在采用将摄像装置1中的图像处理装置10的外部所具备的其他图像处理装置设为相同结构的图像处理装置10、即摄像装置1具备多个图像处理装置10的结构时,能够利用在与图像处理装置10的外部之间直接输入输出图像数据的功能,由多个图像处理装置10分别具备的图像处理部150分担地实施流水线处理中的一系列图像处理。例如,在摄像装置1是具备2个图像处理装置10的结构的情况下,能够由2个图像处理装置10分别具备的图像处理部150分担作为一系列图像处理而实施的流水线处理。
另外,在图像处理部150中,通过将后述的输入输出用模块154组入到图像处理模块153-1~图像处理模块153-3的流水线结构内,来实现与图像处理装置10的外部之间直接输入输出图像数据的功能、将不同的图像处理组入到流水线处理的功能、由多个图像处理装置10分担流水线处理的功能。
另外,如上所述,通过来自后述的输入输出位置决定部180的设定、经由后述的通信接口部191而输入的来自图像处理装置10的外部的控制,来变更(设定)图像处理部150中的流水线结构。因此,在图像处理部150中,通过来自后述的输入输出位置决定部180的设定、经由后述的通信接口部191而输入的来自图像处理装置10的外部(例如,系统控制装置等)的控制,从而与上述的变更流水线结构这一功能的设定一同设定是否将输入输出用模块154组入到流水线的设定、将输入输出用模块154组入到流水线的位置的设定等。
另外,在具备多个图像处理装置10且由多个图像处理装置10分别具备的图像处理部150分担上述的流水线处理这一结构的摄像装置1中,由任意1个图像处理装置10所具备的后述的输入输出位置决定部180与上述的变更流水线结构这一功能的设定一同来变更(设定)各个图像处理部150中的流水线结构。但是,在具备多个图像处理装置10这一结构的摄像装置1中,也可以从各个图像处理装置10的外部(例如,系统控制装置等)经由后述的各个通信接口部191来变更(设定)各个图像处理部150中的流水线结构。
另外,在图1所示的图像处理装置10中,示出在图像处理部150中的图像处理模块153-2与图像处理模块153-3之间的位置组入有输入输出用模块154的情况。但是,如上所述,通过来自后述的输入输出位置决定部180的设定、经由后述的通信接口部191而输入的来自图像处理装置10的外部的控制,来变更(设定)在图像处理部150中将输入输出用模块154组入到流水线的位置。因此,在图像处理部150中将输入输出用模块154组入到流水线的位置不限于图1所示的位置,也能够组入到图像处理部150中的流水线结构内的任何位置。即,在图像处理部150中,输入输出用模块154也能够组入到流水线的前头、中途、最末尾等任何位置。
连接切换部151按照来自后述的输入输出位置决定部180的设定、经由后述的通信接口部191而输入的来自图像处理装置10的外部的控制,来切换图像处理部150所具备的处理模块输出的图像数据的输出目的地。即,连接切换部151切换图像处理部150所具备的各个处理模块彼此的连接。更具体而言,连接切换部151按照来自后述的输入输出位置决定部180的设定、经由后述的通信接口部191而输入的来自图像处理装置10的外部的控制,来切换图像处理部150所具备的输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155分别输出的图像数据的输出目的地。由此,在图像处理部150中,实现了上述的选择流水线处理所包含的图像处理的功能、变更通过流水线处理实施的图像处理的顺序的功能、与图像处理装置10的外部之间直接输入输出图像数据的功能(将不同的图像处理组入到流水线处理的功能、分担流水线处理的功能)等变更流水线结构的功能。
例如,考虑由图像处理部150仅实施图像处理模块153-2的图像处理的情况。在该情况下,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-2的输入端子连接,将图像处理模块153-2的输出端子与输出DMA模块155的输入端子连接。此外,例如,考虑由图像处理部150以图像处理模块153-3、图像处理模块153-1的顺序实施图像处理的情况。在该情况下,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-3的输入端子连接,将图像处理模块153-3的输出端子与图像处理模块153-1的输入端子连接,将图像处理模块153-1的输出端子与输出DMA模块155的输入端子连接。此外,例如,考虑由图像处理部150接着图像处理模块153-2而在图像处理装置10的外部实施图像处理的情况。在该情况下,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-2的输入端子连接,将图像处理模块153-2的输出端子与输入输出用模块154的输入端子连接,将输入输出用模块154的输出端子与输出DMA模块155的输入端子连接。
此外,例如在具备2个图像处理装置10的摄像装置1中,考虑由一方的图像处理装置10所具备的图像处理部150仅实施图像处理模块153-2的图像处理、由另一方的图像处理装置10所具备的图像处理部150仅实施图像处理模块153-3的图像处理的情况。在该情况下,一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-2的输入端子连接,将图像处理模块153-2的输出端子与输入输出用模块154的输入端子连接。此外,另一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入输出用模块154的输出端子与图像处理模块153-3的输入端子连接,将图像处理模块153-3的输出端子与输出DMA模块155的输入端子连接。
另外,在图像处理部150中,如上所述,输入输出用模块154能够组入到流水线的前头、中途、最末尾等任何位置。例如,考虑接着图像处理装置10的外部的图像处理而由图像处理部150实施图像处理模块153-1的图像处理的情况,即,将输入输出用模块154组入到流水线的前头的情况。在该情况下,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与输入输出用模块154的输入端子连接,将输入输出用模块154的输出端子与图像处理模块153-1的输入端子连接,将图像处理模块153-1的输出端子与输出DMA模块155的输入端子连接。此外,例如,考虑由图像处理部150以图像处理模块153-2、图像处理装置10的外部的图像处理、图像处理模块153-3的顺序实施图像处理的情况,即,将输入输出用模块154组入到流水线的途中的情况。在该情况下,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-2的输入端子连接,将图像处理模块153-2的输出端子与输入输出用模块154的输入端子连接,将输入输出用模块154的输出端子与图像处理模块153-3的输入端子连接,将图像处理模块153-3的输出端子与输出DMA模块155的输入端子连接。此外,例如,考虑由图像处理部150接着图像处理模块153-3而在图像处理装置10的外部实施图像处理的情况,即,将输入输出用模块154组入到流水线的最末尾的情况。在该情况下,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-3的输入端子连接,将图像处理模块153-3的输出端子与输入输出用模块154的输入端子连接,将输入输出用模块154的输出端子与输出DMA模块155的输入端子连接。
另外,图像处理装置10的外部的图像处理也能够作为具备多个图像处理装置10的摄像装置1中的其他的图像处理装置10所具备的图像处理部150实施的图像处理(流水线处理)来考虑。例如,在具备2个图像处理装置10的摄像装置1中,也能够构成为,由一方的图像处理装置10所具备的图像处理部150实施图像处理模块153-1的图像处理,由另一方的图像处理装置10所具备的图像处理部150实施仅图像处理模块153-2的图像处理,再由一方的图像处理装置10所具备的图像处理部150实施图像处理模块153-3的图像处理。在该情况下,一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与图像处理模块153-1的输入端子连接,将图像处理模块153-1的输出端子与输入输出用模块154的输入端子连接。并且,一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入输出用模块154的输出端子与图像处理模块153-3的输入端子连接,将图像处理模块153-3的输出端子与输出DMA模块155的输入端子连接。此外,另一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入输出用模块154的输出端子与图像处理模块153-2的输入端子连接,将图像处理模块153-2的输出端子与输入输出用模块154的输入端子连接。
另外,在图像处理部150中,也能够仅将输入输出用模块154组入到流水线。即,在图像处理部150中,也能够将存储于DRAM70的图像数据向外部输出,将从外部输入的图像数据再次存储于DRAM70。更具体而言,连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与输入输出用模块154的输入端子连接,将输入输出用模块154的输出端子与输出DMA模块155的输入端子连接。由此,在图像处理部150中,能够仅将输入输出用模块154的图像处理、即图像处理装置10的外部的图像处理作为流水线处理来实施。
此外,例如,在具备2个图像处理装置10的摄像装置1中考虑如下情况:在一方的图像处理装置10所具备的图像处理部150中不实施图像处理,即,仅从一方的图像处理装置10向另一方的图像处理装置10传输图像数据,由另一方的图像处理装置10所具备的图像处理部150实施图像处理。在该情况下,一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入DMA模块152的输出端子与输入输出用模块154的输入端子连接。此外,另一方的图像处理装置10所具备的连接切换部151切换各个构成要素的连接,以使得将输入输出用模块154的输出端子与要实施图像处理的图像处理模块153的输入端子连接,将要实施图像处理的图像处理模块153的输出端子与输出DMA模块155的输入端子连接。另外,在另一方的图像处理装置10所具备的图像处理部150中也不实施图像处理的情况下,另一方的图像处理装置10所具备的连接切换部151也能够切换各个构成要素的连接,以使得将输入输出用模块154的输出端子与输出DMA模块155的输入端子连接。在该情况下,从与一方的图像处理装置10连接的DRAM70向与另一方的图像处理装置10连接的DRAM70传输图像数据。
输入DMA模块152是如下的处理模块:通过DMA读出存储于DRAM70的图像数据,将读出的图像数据向作为接下来要实施图像处理的处理模块而由连接切换部151切换了连接的连接目的地的处理模块输出。更具体而言,输入DMA模块152基于来自CPU140的设定,通过经由了DMA总线110的DMA来读出存储于DRAM70的图像数据。然后,输入DMA模块152将读出的图像数据经由连接切换部151,向作为接下来要实施图像处理的处理模块而连接的图像处理模块153和输入输出用模块154中的任意一个模块输出。
另外,输入DMA模块152也可以是具备数据缓冲区的结构,该数据缓冲区能够暂时存储图像数据所包含的预先决定的数量的像素数据(实施了预处理的像素数据)。在该结构的情况下,输入DMA模块152将经由DMA总线110从DRAM70读出的图像数据所包含的预先决定的数量的像素数据分别暂时存储于数据缓冲区。然后,输入DMA模块152将暂时存储于数据缓冲区的各个像素数据作为从DRAM70读出的图像数据所包含的各个像素数据,向由连接切换部151切换了连接的连接目的地的图像处理模块153和输入输出用模块154中的任意一个模块输出。
图像处理模块153-1~图像处理模块153-3分别是用于对经由连接切换部151而输入的图像数据实施预先决定的各种数字图像处理的处理模块。更具体而言,从作为之前实施了图像处理的处理模块而由连接切换部151切换了连接的连接目的地的输入DMA模块152、其他的图像处理模块153、以及输入输出用模块154中的任意一个模块经由连接切换部151,向图像处理模块153-1~图像处理模块153-3分别输入要实施图像处理的对象的图像数据。图像处理模块153-1~图像处理模块153-3分别基于来自CPU140的设定,对经由连接切换部151而输入的图像数据实施预先决定的图像处理。在图像处理模块153-1~图像处理模块153-3分别对输入的图像数据实施的图像处理中,具有各种图像处理。在图像处理模块153实施的图像处理中,例如,包括:生成与图像数据所包含的各个像素数据对应的Y(亮度)信号和C(颜色)信号的YC处理、降低各个像素数据所包含的噪声的噪声降低处理、抑制由各个像素数据表示的图像中的高频成分的LPF处理、强调由各个像素数据表示的图像所包含的被摄物的轮廓的边缘强调处理等。此外,在图像处理模块153实施的图像处理中,例如也包括:生成与输入的图像数据相应的图像、即用于使摄像装置1中拍摄到的图像显示于未图示的显示装置等的图像的图像处理;生成用于将摄像装置1中拍摄到的图像记录于未图示的记录介质的图像的图像处理;用于将输入的图像数据向其他装置传输的处理等。图像处理模块153-1~图像处理模块153-3分别将对经由连接切换部151输入的图像数据实施了上述那样的图像处理的图像数据,向由连接切换部151切换了连接的连接目的地的其他的图像处理模块153、输入输出用模块154和输出DMA模块155中的任意1个模块输出。
另外,图像处理模块153-1~图像处理模块153-3分别也可以是具备数据缓冲区的结构,该数据缓冲区能够暂时存储图像数据所包含的预先决定数量的像素数据。在该结构的情况下,图像处理模块153-1~图像处理模块153-3分别将经由连接切换部151输入的图像数据所包含的预先决定的数量的像素数据分别暂时存储于数据缓冲区。然后,图像处理模块153-1~图像处理模块153-3分别对暂时存储于数据缓冲区的各个像素数据实施图像处理。之后,图像处理模块153-1~图像处理模块153-3分别将实施了图像处理的各个像素数据作为图像数据所包含的各个像素数据,向由连接切换部151切换了连接的连接目的地的其他的图像处理模块153、输入输出用模块154和输出DMA模块155中的任意1个模块输出。另外,图像处理模块153-1~图像处理模块153-3分别也可以构成为,对经由连接切换部151输入的图像数据实施图像处理之后暂时存储于数据缓冲区,将暂时存储于数据缓冲区的图像数据向由连接切换部151切换了连接的连接目的地输出。
另外,在图1所示的图像处理装置10中,示出具备图像处理模块153-1~图像处理模块153-3这3个图像处理模块153的图像处理部150的结构,但图像处理部150所具备的图像处理模块153的数量不限于图1所示的3个。即,图像处理部150也可以是具备更多的图像处理模块153的结构。
另外,在以下的说明中,在与存储于DRAM70的要实施图像处理的对象的图像数据区分地表示的情况下,将由图像处理模块153的任意1个模块实施图像处理之后的图像数据称为“处理图像数据”。
输入输出用模块154是用于将来自图像处理装置10的外部的图像数据直接输入到图像处理部150、并将图像处理部150进行图像处理后的图像数据直接向图像处理装置10的外部输出的接口模块。换言之,输入输出用模块154是如下的接口模块:用于将在摄像装置1中的作为其他的构成要素而具备的其他的图像处理装置(也可以是其他的图像处理装置10)等图像处理装置10的外部的图像处理装置(以下称为“外部图像处理装置”)中实施的图像处理(以下称为“外部图像处理”)组入到图像处理部150中的流水线处理。此外,输入输出用模块154还是如下的接口模块:在摄像装置1是具备多个图像处理装置10的结构的情况下,用于将流水线处理分配给各个图像处理装置10所具备的图像处理部150。更具体而言,输入输出用模块154基于来自CPU140的设定,将由所连接的外部输入接口部161从外部图像处理装置或其他的图像处理装置10接收并输出的图像数据,不经由DMA总线110地直接向由连接切换部151切换了连接的连接目的地的图像处理模块153和输出DMA模块155中的任意1个模块输出。此外,输入输出用模块154基于来自CPU140的设定,将从由连接切换部151切换了连接的连接目的地的输入DMA模块152和图像处理模块153中的任意1个模块经由连接切换部151而输入的图像数据,不经由DMA总线110地直接向所连接的外部输出接口部162输出,由此向外部图像处理装置或其他的图像处理装置10输出。
另外,输入输出用模块154也可以构成为具备数据缓冲区,该数据缓冲区能够暂时存储从外部图像处理装置直接输入的或者向外部图像处理装置直接输出的图像数据所包含的预先决定的数量的像素数据。在该结构的情况下,输入输出用模块154将外部输入接口部161从外部图像处理装置接收并输出的图像数据所包含的预先决定的数量的像素数据分别暂时存储于数据缓冲区。然后,输入输出用模块154将暂时存储于数据缓冲区的各个像素数据作为从外部图像处理装置直接输入的图像数据所包含的各个像素数据,向由连接切换部151切换了连接的连接目的地的图像处理模块153和输出DMA模块155中的任意1个模块输出。此外,输入输出用模块154将从由连接切换部151切换了连接的连接目的地的输入DMA模块152和图像处理模块153中的任意1个模块经由连接切换部151输入的图像数据所包含的预先决定的数量的像素数据分别暂时存储于数据缓冲区。然后,输入输出用模块154将暂时存储于数据缓冲区的各个像素数据作为向外部图像处理装置直接输出的图像数据所包含的各个像素数据,向所连接的外部输出接口部162输出。
另外,在图1所示的图像处理装置10中,示出具备1个输入输出用模块154的图像处理部150的结构,但图像处理部150所具备的输入输出用模块154的数量不限于图1所示的1个。即,图像处理部150也可以构成为:具备更多的输入输出用模块154,能够向图像处理部150中的流水线处理组入多个外部图像处理,或者使多个图像处理装置10分担图像处理部150中的流水线处理。
另外,在以下的说明中,在与存储于DRAM70的要实施图像处理的对象的图像数据和图像处理模块153中的任意1个模块实施图像处理后的图像数据(处理图像数据)区分地表示的情况下,将由输入输出用模块154从外部图像处理装置直接输入到图像处理装置10(即,图像处理部150)的图像数据称为“外部处理图像数据”。
输出DMA模块155是如下的处理模块:用于将从作为最后实施了图像处理的处理模块的由连接切换部151切换了连接的连接目的地的处理模块中的任意1个模块输出的图像数据通过DMA而存储于DRAM70。更具体而言,经由连接切换部151,向输出DMA模块155输入由连接切换部151切换了连接的连接目的地的图像处理模块153实施图像处理后的处理图像数据、或者从外部图像处理装置直接输入到输入输出用模块154的外部处理图像数据。输出DMA模块155基于来自CPU140的设定,将经由连接切换部151输入的处理图像数据或者外部处理图像数据通过经由了DMA总线110的DMA而输出并写入(存储)到DRAM70。
另外,输出DMA模块155也可以构成为具备数据缓冲区,该数据缓冲区能够暂时存储处理图像数据或外部处理图像数据所包含的预先决定的数量的像素数据。在该结构的情况下,输出DMA模块155将经由连接切换部151而输入的处理图像数据或外部处理图像数据所包含的预先决定的数量的像素数据分别暂时存储于数据缓冲区。然后,输出DMA模块155将暂时存储于数据缓冲区的各个像素数据作为写入(存储)到DRAM70的处理图像数据或外部处理图像数据所包含的各个像素数据,经由DMA总线110向DRAM70输出。
另外,在以下的说明中,在不区分地表示图像处理模块153分别输出的处理图像数据与输入输出用模块154输出的外部处理图像数据的情况下,简称为“处理图像数据”。
外部输入接口部161及外部输出接口部162分别是与摄像装置1中设置于图像处理装置10的外部而连接的外部图像处理装置(也可以是其他的图像处理装置10)之间的接口部。另外,与外部输入接口部161连接的外部图像处理装置和与外部输出接口部162连接的外部图像处理装置可以是相同的外部图像处理装置,也可以是不同的外部图像处理装置。
外部输入接口部161接收从所连接的外部图像处理装置输出的外部处理图像数据,将接收到的外部处理图像数据不经由DMA总线110,直接向图像处理部150所具备的输入输出用模块154输出(传输)。此外,外部输出接口部162不经由DMA总线110,直接将从图像处理部150所具备的输入输出用模块154输出的处理图像数据向所连接的外部图像处理装置输出(传输)。
另外,关于外部输入接口部161和外部输出接口部162中的与外部图像处理装置之间的处理图像数据的传输方式,能够使用在多个系统LSI之间的数据的传输中使用的已有的各种规格和方式。例如,作为用于在外部输入接口部161和外部输出接口部162中与外部图像处理装置之间传输处理图像数据的传输方式,也可以使用PCI-Express(PeripheralComponent Interconnect-Express)、USB(Universal Serial Bus(注册商标))等依照预先决定的各种高速串行总线规格的传输方式。此外,作为用于在外部输入接口部161和外部输出接口部162中与外部图像处理装置之间传输处理图像数据的传输方式,也可以使用AXI(Advanced eXtensible Interface)规格的传输方式。另外,用于在外部输入接口部161和外部输出接口部162中与外部图像处理装置之间传输处理图像数据的规格和传输方式不限于上述的规格和传输方式。而且,外部输入接口部161和外部输出接口部162分别也可以构成为,与在多个系统LSI之间的数据的传输中使用的多个规格和传输方式对应地,根据所连接的外部图像处理装置使用的规格和传输方式,来变更在与外部图像处理装置之间交接处理图像数据时使用的规格和传输方式。因此,在本发明中,关于在外部输入接口部161和外部输出接口部162中分别与外部图像处理装置之间传输处理图像数据的规格和传输方式,没有特别规定。
另外,外部输入接口部161和外部输出接口部162分别也可以具备如下功能:在与外部图像处理装置之间交接处理图像数据时,使在输入输出用模块154中处理的处理图像数据的形式与在外部图像处理装置中处理的图像数据的形式、即与外部图像处理装置之间交接的处理图像数据的形式一致。例如,外部输入接口部161也可以具备如下功能:在从外部图像处理装置接收外部处理图像数据时,将以在外部图像处理装置中处理的形式输出的外部处理图像数据转换成在输入输出用模块154中处理的形式、即图像处理模块153接着实施图像处理的形式或者连接切换部151向DRAM70输出的形式,之后向输入输出用模块154输出。此外,例如,外部输出接口部162也可以具备如下功能:在向外部图像处理装置输出(传输)处理图像数据时,将从输入输出用模块154输出的处理图像数据的形式转换成在外部图像处理装置中处理的形式,之后向外部图像处理装置输出(传输)。
另外,外部输入接口部161和外部输出接口部162分别不限于为了与外部图像处理装置之间交接外部处理图像数据而专门设置的结构。即,外部输入接口部161不限于为了接收从所连接的外部图像处理装置输出的外部处理图像数据而专门设置的结构,外部输出接口部162不限于为了向所连接的外部图像处理装置输出(传输)处理图像数据而专门设置的结构。例如,通过将外部输入接口部161设为使用按照LVDS方式的传输方式来作为与外部图像处理装置之间的外部处理图像数据的传输方式的结构,也可以与成像器接口部120一同构成,其中,该成像器接口部120是按照LVDS方式接收从未图示的成像器输出的像素信号的结构。此外,例如,通过将外部输出接口部162设为使用如下的传输方式来作为与外部图像处理装置之间的外部处理图像数据的传输方式的结构,也可以与视频接口部220一同构成,该传输方式是依照与后述的视频接口部220输出显示于未图示的显示装置等的图像的数据时的数据的传输方式相同的传输方式的方式。因此,在本发明中,关于外部输入接口部161和外部输出接口部162各自的结构,没有特别规定。
数字信号处理器200是对存储于DRAM70的图像数据(包括处理图像数据、外部处理图像数据)实施预先决定的各种数字信号处理(图像处理)的信号处理部。更具体而言,数字信号处理器200例如基于来自CPU140的设定,通过经由了DMA总线110的DMA而读出存储于DRAM70的图像数据。然后,数字信号处理器200对读出的图像数据实施图像处理。这里,数字信号处理器200实施的图像处理是在图像处理部150所具备的图像处理模块153-1~图像处理模块153-3中的任意图像处理模块153中都未实施的图像处理(以下称为“DSP图像处理”)。即,数字信号处理器200对读出的图像数据实施与图像处理部150实施的一系列图像处理不同的DSP图像处理。例如,数字信号处理器200将利用了对图像数据表示的图像所包含的被摄物的动作或脸部进行检测的图像识别等学习功能的处理作为DSP图像处理来实施。此外,数字信号处理器200例如将伴有与图像数据所包含的各个像素数据对应的像素的位置(坐标)的转换的图像插值处理等也作为DSP图像处理来实施。在数字信号处理器200作为DSP图像处理而实施的图像插值处理中,例如包括对图像的大小(尺寸)进行变更(扩大或缩小)的尺寸处理、对图像所包含的倍率色差或畸变像差等畸变进行校正的畸变校正处理、进行梯形校正等图像形状的校正的形状校正处理等各种处理。数字信号处理器200将实施DSP图像处理后的图像数据通过经由了DMA总线110的DMA再次写入(存储)到DRAM70。
另外,在以下的说明中,在与存储于DRAM70的用于实施图像处理的对象的图像数据、图像处理模块153中的任意1个模块实施图像处理后的处理图像数据、外部图像处理装置实施外部图像处理并经由输入输出用模块154直接输入的外部处理图像数据区分地表示的情况下,将实施DSP图像处理后的图像数据称为“DSP处理图像数据”。此外,在以下的说明中,在不区分地表示图像处理模块153中的任意1个模块实施图像处理后的处理图像数据、经由输入输出用模块154从外部图像处理装置直接输入的外部处理图像数据、以及数字信号处理器200实施了DSP图像处理的DSP处理图像数据的情况下,简称为“处理图像数据”。
显示处理部210基于来自CPU140的设定,对存储于DRAM70的显示用的图像数据实施预先决定的显示处理,生成用于使与显示用的图像数据相应的图像显示于未图示的显示装置的显示图像。即,显示处理部210对图像处理部150生成并存储于DRAM70的、用于显示于未图示的显示装置的图像的图像数据实施预先决定的显示处理,生成用于使在摄像装置1中拍摄到的图像例如显示于液晶显示器(LCD:Liquid Crystal Display)等未图示的显示装置的显示图像。在显示处理部210生成显示图像时对图像数据实施的显示处理中,例如包括OSD重叠处理等,在该OSD重叠处理中,重叠用于使摄像装置1的拍摄日期时间等与拍摄到的静态图像相关的各种信息显示的屏幕显示(On Screen Display:OSD)图像。显示处理部210将生成的显示图像的数据(以下称为“显示图像数据”)向视频接口部220输出,使未图示的显示装置显示显示图像。
另外,作为摄像装置1所具备的未图示的显示装置,考虑显示各种尺寸(分辨率)的图像的显示装置。例如,作为未图示的显示装置,存在用于确认在摄像装置1中拍摄到的被摄物的EVF(Electronic View Finder:电子取景器)、用于确认拍摄到的被摄物的作为取景器而动作的TFT(薄膜晶体管:Thin Film Transistor)液晶显示器等设置于摄像装置1且显示分辨率比较低的图像的小型的显示装置。此外,例如,作为未图示的显示装置,也存在用于显示具有XGA尺寸(1024×768)的分辨率的图像的TFT液晶显示器等、构成为相对于摄像装置1能够装卸且显示中等程度的分辨率的图像的中型的显示装置。此外,例如,作为构成为相对于摄像装置1能够装卸的未图示的显示装置,也存在大型的显示装置,该大型的显示装置用于显示具有与HDTV(High Definition TeleVision)对应的全HD尺寸(1920×1080)的分辨率的图像或具有与UHDTV(Ultra High Definition TeleVision)对应的4K尺寸(3840×2160)的分辨率的图像等高分辨率的图像。此外,例如,作为构成为相对于摄像装置1能够装卸的未图示的显示装置,还考虑更加大型的显示装置,该更加大型的显示装置显示具有将4K尺寸进一步高精细化的8K尺寸(7680×4320)的分辨率的图像。因此,显示处理部210生成与摄像装置1所具备的未图示的显示装置能够显示的图像的尺寸(分辨率)一致的显示图像,并向视频接口部220输出。因此,在本发明中,关于在显示处理部210生成显示图像时对显示用的图像数据实施的显示处理,没有特别规定。
视频接口部220是与摄像装置1所具备的未图示的显示装置之间的接口部。视频接口部220基于来自CPU140的设定,将从显示处理部210输出的显示图像数据向未图示的显示装置输出(传输),显示与显示图像数据相应的图像。
另外,视频接口部220也可以构成为,利用依照在显示装置中被采用的例如作为差分接口方式的MIPI(注册商标)(Mobile Industry Processor Interface)方式的传输方式,将依照MIPI(注册商标)方式的显示图像数据向未图示的显示装置输出(传输)。另外,用于供视频接口部220向未图示的显示装置输出(传输)显示图像数据的传输方式不限于上述的传输方式。
存储卡接口部230是与摄像装置1所具备的未图示的记录介质之间的接口部。存储卡接口部230基于来自CPU140的设定,将图像处理部150进行图像处理而生成并存储于DRAM70的记录用的图像数据(以下称为“记录图像数据”)输出(传输)并记录于未图示的记录介质。另外,存储卡接口部230向未图示的记录介质记录记录图像数据时的传输方式是在未图示的记录介质中采用的传输方式。
高速串行接口部240是用于将存储于DRAM70的图像数据高速地向未图示的其他装置传输的接口部。高速串行接口部240基于来自CPU140的设定,将存储于DRAM70的图像数据(包括处理图像数据、外部处理图像数据、DSP处理图像数据)或记录图像数据(也可以包括显示图像数据)向未图示的其他装置输出(传输)。另外,作为高速串行接口部240将存储于DRAM70的图像数据或记录图像数据高速地传输的目的地的其他装置,例如考虑用于存储图像数据或记录图像数据的外部存储装置(所谓的储存装置)等。此外,作为高速串行接口部240将存储于DRAM70的图像数据或记录图像数据高速地传输的目的地的其他装置,例如,也考虑为了将图像数据或记录图像数据保管到因特网上而与云计算系统中的存储装置或服务器装置等之间进行无线通信或有线通信的通信装置等。另外,高速串行接口部240向未图示的其他装置输出(传输)图像数据或记录图像数据时的传输方式是在未图示的其他装置中采用的传输方式。
动作检测部170检测图像处理装置10所具备的各个构成要素进行的伴有对DRAM70的访问的动作。即,动作检测部170针对图像处理装置10所具备的各个构成要素,检测使用DMA总线110的总线带宽的处理的动作。更具体而言,动作检测部170检测如下的各个动作:图像处理装置10中的与摄像关联的动作;图像处理装置10中的与显示关联的动作;以及图像处理装置10中的与图像处理关联的动作。更具体而言,动作检测部170检测如下的各个动作:与图像处理装置10中的摄像的动作关联的成像器接口部120及摄像处理部130的动作;与图像处理装置10中的显示的动作关联的显示处理部210及视频接口部220的动作;以及与图像处理装置10中的图像处理的动作关联的图像处理部150的动作。
此时,作为图像处理装置10中的与摄像关联的动作,动作检测部170检测未图示的成像器的尺寸(水平方向的像素数和垂直方向的像素数等)、帧率、从摄像中的曝光结束开始到1帧量的像素信号(像素数据)的输出结束为止所需的输出时间、像素信号(像素数据)的比特长度等。另外,能够根据CPU140对与图像处理装置10中的摄像的动作关联的成像器接口部120及摄像处理部130分别设定的设定值等来得到这些信息。
此外,作为图像处理装置10中的与显示关联的动作,动作检测部170检测未图示的显示装置所显示的图像(显示图像)的分辨率、帧率、显示图像数据的形式(格式)、重叠的屏幕显示图像的张数、输出显示图像数据的通道数(同时输出显示图像数据的数量等)等。另外,能够根据CPU140对与图像处理装置10中的显示的动作关联的显示处理部210及视频接口部220分别设定的设定值等来得到这些信息。
此外,作为图像处理装置10中的与图像处理关联的动作,动作检测部170检测对图像数据实施的图像处理的处理内容、用于实施图像处理的图像的尺寸(图像数据的像素数或处理图像数据的像素数等)等。另外,能够根据与图像处理装置10中的图像处理的动作关联的图像处理部150、图像处理部150所具备的输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154、以及输出DMA模块155各自的设定值等来得到这些信息。此外,作为图像处理装置10中的与图像处理关联的动作,动作检测部170也检测在数字信号处理器200中实施的DSP图像处理的处理内容等。能够根据CPU140对数字信号处理器200设定的设定值等来得到该信息。
动作检测部170将检测到的图像处理装置10所具备的各个构成要素中的动作的信息(以下称为“动作信息”)向输入输出位置决定部180输出。即,动作检测部170将与图像处理装置10中的摄像的动作、显示的动作、及图像处理的动作的各个动作关联的信息向输入输出位置决定部180输出。
输入输出位置决定部180基于从动作检测部170输出的动作信息,来决定图像处理部150中的流水线结构。更具体而言,输入输出位置决定部180决定通过在图像处理部150中构成的流水线处理而实施的图像处理的种类和顺序。此外,输入输出位置决定部180决定与图像处理装置10连接的外部图像处理装置所进行的外部图像处理向流水线组入的有无以及组入位置,即,输入输出用模块154向在图像处理部150中构成的流水线的组入的有无以及组入位置。此外,输入输出位置决定部180决定多个图像处理装置10中的流水线处理的分担的有无以及划分流水线处理的位置、即,输入输出用模块154向在各个图像处理部150中构成的流水线组入的有无以及组入位置。
此时,输入输出位置决定部180将图像处理部150中的流水线结构决定为,使得图像处理装置10所具备的各个构成要素访问DRAM70时所需的DMA总线110的总线带宽(以下也称为“DRAM70的总线带宽”)的合计成为能够访问DRAM70的最大的带宽以内。即,输入输出位置决定部180变更在图像处理部150中实施的流水线处理,以避免图像处理部150中的一系列图像处理压迫DMA总线110的总线带宽而引起摄像装置1中的整体的处理能力(速度)的下降。
另外,输入输出位置决定部180例如在图像处理部150中实施多个图像处理的情况下,在将全部的图像处理构成为1个流水线时,会压迫DRAM70的总线带宽而引起摄像装置1中的整体的处理能力(速度)的下降的该情况下,为了避免DRAM70的总线带宽的压迫,也可以决定将在图像处理部150中实施的流水线处理划分后的流水线结构。此时,输入输出位置决定部180也可以决定划分后的流水线处理各自的DRAM70的总线带宽相同的流水线结构。
输入输出位置决定部180在图像处理部150所具备的连接切换部151中设定多决定出的流水线结构。由此,在图像处理装置10中,能够设定(变更)将图像处理部150所具备的图像处理模块153内的仅在图像处理部150中实施的一系列图像处理串联连接的流水线结构。
此外,输入输出位置决定部180将决定出的流水线结构的信息向通信接口部192输出。由此,例如,在摄像装置1是具备相同结构的多个图像处理装置10的结构的情况下,能够将输入输出位置决定部180决定出的各个图像处理装置10所具备的图像处理部150中的流水线结构设定到后级的图像处理装置10所具备的图像处理部150。即,由于设想作为摄像装置1中的整体的处理而实施较多的图像处理,因此,在通过从一开始具备多个(例如2个)图像处理装置10从而由各个图像处理装置10分担地实施一系列图像处理这一结构的摄像装置1中,能够将前级的图像处理装置10所具备的由输入输出位置决定部180决定出的流水线结构设定到后级的图像处理装置10分别具备的图像处理部150。此时,输入输出位置决定部180也可以决定前级的图像处理装置10实施图像处理时需要的DRAM70的总线带宽与后级的图像处理装置10实施图像处理时需要的DRAM70的总线带宽成为等同的流水线结构,并设定到后级的图像处理装置10分别具备的图像处理部150。
另外,由输入输出位置决定部180进行的图像处理部150中的流水线结构的决定不仅仅局限于上述的DMA总线110的总线带宽的观点。例如,也可以从摄像装置1中的消耗电力的观点出发,来决定图像处理部150中的流水线结构。例如,在摄像装置1是具备相同结构的多个图像处理装置10的结构的情况下,有时即便使任意1个图像处理装置10的动作停止,也能够通过其他的图像处理装置10所具备的图像处理部150来构成需要的流水线结构。在该情况下,输入输出位置决定部180将各个图像处理装置10所具备的图像处理部150中的流水线结构决定为,使能够停止的图像处理装置10的动作停止,通过其他的图像处理装置10所具备的图像处理部150构成需要的流水线。
通信接口部192是用于将输入输出位置决定部180决定出的流水线结构的信息向摄像装置1所具备的其他的图像处理装置10输出(传输)的接口部。此外,通信接口部191是用于接收如下信息的接口部,该信息是:由摄像装置1所具备的其他的图像处理装置10具备的输入输出位置决定部180决定并经由通信接口部192而输出(传输)的流水线结构的设定的信息、和例如从系统控制装置等图像处理装置10的外部输出的控制的信息(对图像处理部150的流水线结构进行变更(设定)的信息)。
关于用于在通信接口部191和通信接口部192中分别与外部之间传输变更(设定)流水线结构的信息的传输方式,能够使用在多个系统LSI之间的数据的传输中使用的已有的各种规格和方式。例如,作为用于在通信接口部191和通信接口部192中与外部之间传输变更(设定)流水线结构的信息的传输方式,也可以使用依照UART(UniversalAsynchronous Receiver-Transmitter)、I2C(Inter-Integrated Circuit),SPI(SerialPeripheral Interface)等预先决定的各种通信方式和规格的传输方式。此外,作为用于在通信接口部191和通信接口部192中与外部之间传输变更(设定)流水线结构的信息的传输方式,例如,也可以使用PCI-Express、USB(注册商标)等依照预先决定的各种高速串行总线规格的传输方式。另外,用于在通信接口部191和通信接口部192中与外部之间传输变更(设定)流水线结构的信息的规格和传输方式不限于上述的规格和传输方式。而且,通信接口部191和通信接口部192分别也可以构成为,与在多个系统LSI之间的数据的传输中使用的多个规格和传输方式对应地,根据用于变更(设定)流水线结构的信息的量,来变更在与外部之间传输变更(设定)流水线结构的信息时使用的规格和传输方式。因此,在本发明中,关于用于在通信接口部191和通信接口部192中分别与外部之间传输变更(设定)流水线结构的信息的规格和传输方式,没有特别规定。
根据这样的结构,在图像处理装置10中,将摄像处理部130对从摄像装置1所具备的未图示的成像器输出的像素信号(像素数据)进行处理后的图像数据存储于DRAM70。之后,在图像处理装置10中,图像处理部150对存储于DRAM70的像素数据实施基于流水线处理的一系列图像处理,并再次存储于DRAM70。此时,在图像处理部150中,通过将输入输出用模块154组入到流水线结构内,能够将在图像处理部150所具备的任意1个图像处理模块153中都未实施的、通过图像处理装置10的外部的外部图像处理装置而实施的外部图像处理组入到流水线处理。换言之,在图像处理装置10中,能够扩展图像处理部150中的流水线处理。而且,在图像处理装置10中,显示处理部210生成与存储于DRAM70的显示用的图像数据相应的显示图像数据,并显示于摄像装置1所具备的未图示的显示装置。此外,在图像处理装置10中,将存储于DRAM70的记录用的图像数据(记录图像数据)经由存储卡接口部230而记录于摄像装置1所具备的未图示的记录介质。此外,在图像处理装置10中,将存储于DRAM70的图像数据经由高速串行接口部240向未图示的其他装置输出(传输)。
此外,在图像处理装置10中,动作检测部170检测图像处理装置10所具备的各个构成要素的动作。然后,在图像处理装置10中,输入输出位置决定部180基于从动作检测部170输出的动作信息,来决定用于使图像处理装置10所具备的各个构成要素访问DRAM70时的DMA总线110的总线带宽成为最大的带宽以内的图像处理部150中的流水线结构,变更在图像处理部150中实施的流水线处理。由此,在图像处理装置10中,能够避免在图像处理部150中实施的流水线处理对DMA总线110的总线带宽的压迫。换言之,在图像处理装置10中,能够确保图像处理装置10所具备的各个构成要素访问DRAM70所需的总线带宽。由此,在具备图像处理装置10的摄像装置1中,能够避免由于图像处理装置10所具备的图像处理部150对DMA总线110的总线带宽的压迫而引起的摄像装置1中的整体的处理能力(速度)的下降。
此外,在摄像装置1是具备多个图像处理装置10的结构的情况下,前级的图像处理装置10所具备的输入输出位置决定部180基于从动作检测部170输出的动作信息,来决定由多个图像处理装置10的各自具备的图像处理部150分担地实施图像处理部150中的流水线处理的图像处理部150中的流水线结构。然后,前级的图像处理装置10所具备的输入输出位置决定部180将决定出的流水线结构的信息向后级的图像处理装置10输出。由此,在具备多个图像处理装置10的摄像装置1中,能够变更由后级的图像处理装置10所具备的图像处理部150分担地实施前级的图像处理装置10实施的流水线处理的一部分的流水线结构。由此,在具备多个图像处理装置10的摄像装置1中,不会引起整体的处理能力(速度)的下降,能够由多个图像处理装置10分担地实施流水线处理中的一系列图像处理。换言之,在图像处理装置10中,能够降低各个图像处理装置10所具备的图像处理部150中的流水线处理的负荷。
另外,在图1所示的图像处理装置10中,说明了独立地具备动作检测部170及输入输出位置决定部180、并将输入输出位置决定部180决定出的流水线结构设定到连接切换部151的情况。如上所述,在该结构中动作检测部170检测的图像处理装置10所具备的各个构成要素中的动作信息能够根据CPU140对各个构成要素设定的设定值等来得到。这里,CPU140例如根据对摄像装置1中作为用户接口而具备的开关或按钮类实施的操作,来检测变更了摄像装置1的动作模式,从例如按照摄像装置1的各动作模式而存放有设定值的存储器(ROM(Read Only Memory)或闪速存储器(Flash Memory)等)取得对各个构成要素设定的设定值,将取得的设定值设定到图像处理装置10所具备的各个构成要素。因此,CPU140在检测到摄像装置1的动作模式的变更并从存储器取得对各个构成要素设定的设定值时,可以说已经具有由动作检测部170检测的图像处理装置10所具备的各个构成要素中的动作信息。因此,在图像处理装置10中,CPU140也可以实施动作检测部170的功能。并且,CPU140将取得的设定值设定到图像处理装置10所具备的各个构成要素,并且,对各个构成要素进行控制。因此,在图像处理装置10中,CPU140也可以实施输入输出位置决定部180的功能。因此,在图像处理装置10中,代替独立地分别具备动作检测部170及输入输出位置决定部180,CPU140也可以实施动作检测部170及输入输出位置决定部180各自的功能。
(第1动作例)
接着,对图像处理装置10的动作进行说明。首先,将图像处理装置10中的基本动作作为第1动作例,来说明在图1所示的具备1个图像处理装置10这一结构的摄像装置1中、图像处理装置10实施流水线处理的情况下的数据流。另外,如上所述,在图像处理装置10中,通过向在图像处理部150中构成的流水线内组入输入输出用模块154,能够将在图像处理装置10的外部实施的外部图像处理组入到流水线。但是,在以下的说明中,针对以下情况进行说明:未在图像处理部150中的构成的流水线内组入外部图像处理,即,仅通过图像处理装置10所具备的构成要素来实施图像处理。
图2是示意性地示出具备本发明的实施方式的图像处理装置10的摄像装置1中的数据流的图。在摄像装置1中,通过图像处理装置10所具备的各个构成要素并列地实施各个图像处理,从而顺畅地实施图像处理装置10中的整体的图像处理。即,在摄像装置1中,在图像处理装置10中在相同的时间并列地实施由摄像处理部130进行的预处理、由图像处理部150进行的流水线处理、以及由显示处理部210进行的显示处理。但是,在图2所示的图像数据流的说明中,为了容易说明,着眼于1帧的图像数据来说明数据流。在图2所示的图像数据流中,按照如下的流(流程)来实施处理。
(流程F1):首先,成像器接口部120接收从未图示的成像器输出的像素信号,并输出(传输)到摄像处理部130。然后,摄像处理部130对从成像器接口部120输出的像素数据实施预处理,将包括实施了预处理的各个像素数据在内的图像数据通过经由了DMA总线110的DMA写入(存储)到DRAM70。
(流程F2):接下来,图像处理部150所具备的输入DMA模块152通过经由了DMA总线110的DMA读出存储于DRAM70的图像数据。然后,输入DMA模块152将读出的图像数据经由连接切换部151向接下来实施图像处理的连接目的地的图像处理模块153-1输出。
(流程F3):接下来,图像处理模块153-1对经由连接切换部151从连接目的地的输入DMA模块152输出的图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151向接下来实施图像处理的连接目的地的图像处理模块153-2输出。
(流程F4):接下来,图像处理模块153-2对经由连接切换部151从连接目的地的图像处理模块153-1输出的处理图像数据实施预先决定的图像处理,将进一步实施图像处理后的处理图像数据经由连接切换部151向接下来实施图像处理的连接目的地的图像处理模块153-3输出。
(流程F5):接下来,图像处理模块153-3对经由连接切换部151从连接目的地的图像处理模块153-2输出的处理图像数据实施预先决定的图像处理,将进一步实施图像处理后的处理图像数据经由连接切换部151向输出DMA模块155输出。这里,图像处理模块153-3实施如下的图像处理:生成与从图像处理模块153-2输出的处理图像数据相应的显示用的图像数据。因此,图像处理模块153-3将显示用的图像数据经由连接切换部151向输出DMA模块155输出。
(流程F6):接下来,输出DMA模块155将经由连接切换部151从连接目的地的图像处理模块153-3输出的处理图像数据(显示用的图像数据)通过经由了DMA总线110的DMA写入(存储)到DRAM70。
(流程F7):接下来,显示处理部210通过经由了DMA总线110的DMA读出存储于DRAM70的显示用的图像数据。然后,显示处理部210对读出的显示用的图像数据实施预先决定的显示处理,生成与显示用的图像数据相应的显示图像数据。之后,显示处理部210将生成的显示图像数据向视频接口部220输出。由此,未图示的显示装置显示与从显示处理部210经由视频接口部220输出的显示图像数据相应的显示图像。
这样,在图像处理装置10中,如第1动作例所示,对从摄像装置1所具备的未图示的成像器输出的像素信号实施由摄像处理部130进行的预处理、由图像处理部150进行的流水线处理、以及由显示处理部210进行的显示处理,将与显示图像数据相应的显示图像显示于未图示的显示装置。
如上所述,在图像处理装置10中,一边通过经由了DMA总线110的DMA将各个阶段的图像数据存储于DRAM70,一边实施摄像装置1中的整体的处理。
另外,作为摄像装置1所具备的未图示的显示装置,如上所述,从显示分辨率比较低的图像的小型的显示装置到显示高分辨率的图像的大型的显示装置,有各种各样的显示装置。而且,摄像装置1所具备的未图示的显示装置显示的图像进一步高精细化。此外,在摄像装置1所具备的未图示的成像器中,也考虑进一步的高像素数化。因此,设想作为摄像装置1中的整体的处理而实施较多的图像处理。而且,在1个图像处理装置10中,认为难以应对设想的较多的图像处理。即,在1个图像处理装置10中,认为图像处理装置10所具备的各个构成要素难以确保摄像装置1中的实施较多的图像处理所需的DMA总线110的总线带宽。例如,在1个图像处理装置10中,能够构成与具有全HD尺寸(1920×1080)的分辨率的图像对应的摄像装置1,但在构成与具有4K尺寸(3840×2160)的分辨率的图像对应的摄像装置1时,认为难以确保图像处理装置10所具备的各个构成要素访问DRAM70所需的总线带宽。
对此,在图像处理装置10中,在实施流水线处理的图像处理部150内具备输入输出用模块154,该输入输出用模块154担负不经由DMA总线110而与图像处理装置10的外部之间直接输入输出图像数据的功能。更具体而言,在图像处理装置10中具备用于实现如下功能的输入输出用模块154,该功能是,通过经由外部输入接口部161及外部输出接口部162,与图像处理装置10的外部所具备的其他的图像处理装置等之间直接输入输出图像数据。该输入输出用模块154的与图像处理装置10的外部之间直接输入输出图像数据的功能是如下功能:用于通过将与图像处理部150所具备的图像处理模块153-1~图像处理模块153-3分别实施的图像处理不同的、由外部图像处理装置实施的外部图像处理组入到流水线处理,来扩展图像处理部150中的流水线处理。但是,如上所述,关于该输入输出用模块154的与图像处理装置10的外部之间直接输入输出图像数据的功能,通过将外部图像处理装置设为其他的图像处理装置10,从而能够在由多个图像处理装置10分别具备的图像处理部150分担地实施流水线处理中的一系列图像处理的结构中利用。在摄像装置1中,在预先设想作为整体的处理而实施较多的图像处理的情况下,首先采用具备多个图像处理装置10的结构,利用输入输出用模块154的与图像处理装置10的外部之间直接输入输出图像数据的功能,来实现实施较多的图像处理的结构。在该结构的情况下,关于各个图像处理装置10所具备的图像处理部150所构成的流水线,能够根据摄像装置1实施的整体的处理内容,动态地变更(设定)流水线结构。
(第2动作例)
接着,将摄像装置1具备多个图像处理装置10的情况下的各个图像处理装置10的动作作为第2动作例,来说明各个图像处理装置10分担地实施流水线处理的情况下的数据流。在第2动作例中,考虑如下结构的摄像装置1:由于具备以高帧率进行动作的高像素数(尺寸大)的成像器,因此在向DRAM70写入(存储)与从成像器输出的像素信号相应的图像数据时需要较多的总线带宽,由于具备显示低分辨率的图像的1个(1通道输出)显示装置,因此在从DRAM70读出显示用的图像数据时不需要较多的总线带宽。另外,在以下的说明中,为了与图1所示的具备1个图像处理装置10这一结构的摄像装置1区分开来,将上述的第2动作例这一结构的摄像装置1称为“摄像装置2”。
图3是示意性地示出具备多个本发明的实施方式的图像处理装置10这一结构的摄像装置2中的数据流的图。在图3所示的摄像装置2中,具备2个相同结构的图像处理装置10。另外,在图3所示的摄像装置2中,为了区分2个图像处理装置10中的各个图像处理装置10,将接收从未图示的成像器输出的像素信号这一侧的图像处理装置10称为“图像处理装置10a”,将使显示图像显示于未图示的显示装置这一侧的图像处理装置10称为“图像处理装置10b”。而且,在图3所示的摄像装置2中,通过在对各个图像处理装置10所具备的各个构成要素标注的标号之后标注表示是图像处理装置10a的构成要素的“a”和表示是图像处理装置10b的构成要素的“b”中的任意1个,来区分是图像处理装置10a的构成要素还是图像处理装置10b的构成要素。此外,在图3所示的摄像装置2中,将与图像处理装置10a对应的DRAM70(与图像处理装置10a内的DMA总线110a连接的DRAM70)表示为“DRAM70a”,将与图像处理装置10b对应的DRAM70(与图像处理装置10b内的DMA总线110b连接的DRAM70)表示为“DRAM70b”。另外,在以下的说明中,在不区分是与图像处理装置10a关联的构成要素还是与图像处理装置10b关联的构成要素的情况下,不在对各个构成要素标注的标号之后标注“a”或“b”地进行表示。
在图3所示的摄像装置2中,通过将图像处理装置10a所具备的外部输出接口部162a与图像处理装置10b所具备的外部输入接口部161b连接来实现分担地实施流水线处理的结构。而且,在图3所示的摄像装置2中,通过将图像处理装置10a所具备的通信接口部192a与图像处理装置10b所具备的通信接口部191b连接,来实现对流水线结构进行设定的结构,该流水线结构用于在图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b中分担流水线处理。
在摄像装置2中的流水线结构的设定中,首先,图像处理装置10a所具备的动作检测部170a在连接了图像处理装置10a与图像处理装置10b的结构中对各个构成要素的动作进行检测。更具体而言,作为图像处理装置10a中的摄像动作,动作检测部170a检测与以高帧率动作的高像素数(尺寸大)的未图示的成像器对应地设定的成像器接口部120a及摄像处理部130a的动作。此外,作为图像处理装置10b中的显示动作,动作检测部170a检测与显示低分辨率的图像的1个(1通道输出)未图示的显示装置对应地设定的显示处理部210b及视频接口部220b的动作。此外,作为图像处理装置10a及图像处理装置10b所具备的图像处理部150中的图像处理的动作,动作检测部170a检测输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155的动作。另外,动作检测部170a在该阶段未判别输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155是图像处理装置10a所具备的构成要素还是图像处理装置10b所具备的构成要素。动作检测部170a将检测到的各个构成要素中的动作信息向图像处理装置10a所具备的输入输出位置决定部180a输出(路径C11)。
由此,输入输出位置决定部180a基于从动作检测部170a输出的动作信息,来决定由图像处理部150a和图像处理部150b分担流水线处理的流水线结构。这里,从动作检测部170a输出的动作信息表示:摄像装置2所具备的未图示的成像器是以高帧率动作的高像素数(尺寸大)的成像器,因此,在图像处理装置10a内的DMA总线110a需要较多的总线带宽。此外,从动作检测部170a输出的动作信息表示:摄像装置2所具备的未图示的显示装置是显示低分辨率的图像的1个(1通道输出)显示装置,因此,在图像处理装置10b内的DMA总线110b中不需要较多的总线带宽。因此,输入输出位置决定部180a决定如下的图像处理部150a及图像处理部150b中的流水线结构:减少在图像处理装置10a所具备的图像处理部150a中实施的图像处理,在图像处理装置10b所具备的图像处理部150b中实施更多的图像处理。更具体而言,在图3所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150a中由图像处理模块153-1a实施图像处理的图像处理部150a中的流水线结构。此外,在图3所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150b中由图像处理模块153-2b及图像处理模块153-3b分别实施图像处理的图像处理部150b中的流水线结构。
输入输出位置决定部180a将对图像处理部150a决定出的流水线结构设定到图像处理部150a所具备的连接切换部151a(路径C12)。此外,输入输出位置决定部180a将对图像处理部150b决定出的流水线结构的信息向通信接口部192a输出,经由通信接口部192a及通信接口部191b而设定到图像处理部150b所具备的连接切换部151b(路径C13)。
在图像处理装置10a及图像处理装置10b中,各个构成要素通过由输入输出位置决定部180a设定的流水线结构而实施图像处理。在摄像装置2中,也通过图像处理装置10a及图像处理装置10b所具备的各个构成要素并列地实施各个图像处理,来顺畅地实施摄像装置2中的整体的图像处理。即,在摄像装置2中,在相同的时间并列地实施由图像处理装置10a所具备的摄像处理部130a进行的预处理、由图像处理装置10a和图像处理装置10b分别具备的图像处理部150分担的流水线处理、以及由图像处理装置10b所具备的显示处理部210b进行的显示处理。但是,在图3所示的图像数据流的说明中,为了容易说明,着眼于1帧的图像数据来说明数据流。在图3所示的图像数据流中,按照如下的流(流程)来实施处理。
(流程F21):首先,图像处理装置10a所具备的成像器接口部120a接收从未图示的成像器输出的像素信号并向摄像处理部130a输出(传输)。然后,摄像处理部130a对从成像器接口部120a输出的像素数据实施预处理,将包括实施了预处理的各个像素数据在内的图像数据通过经由了DMA总线110a的DMA写入(存储)到DRAM70a。
(流程F22):接下来,图像处理装置10a所具备的图像处理部150a内的输入DMA模块152a通过经由了DMA总线110a的DMA读出存储于DRAM70a的图像数据。然后,输入DMA模块152a将读出的图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-1a输出。
(流程F23):接下来,图像处理模块153-1a对经由连接切换部151a从连接目的地的输入DMA模块152a输出的图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151a向输入输出用模块154a输出。
(流程F24):接下来,输入输出用模块154a将经由连接切换部151a从连接目的地的图像处理模块153-1a输出的处理图像数据不经由DMA总线110a地直接向外部输出接口部162a输出。
(流程F25):由此,外部输出接口部162a将从输入输出用模块154a输出的处理图像数据、即图像处理模块153-1a进行图像处理后的处理图像数据向图像处理装置10b所具备的外部输入接口部161b输出(传输)。
(流程F26):由此,外部输入接口部161b接收从外部输出接口部162a输出(传输)的处理图像数据、即图像处理模块153-1a进行图像处理后的处理图像数据,将接收到的处理图像数据不经由DMA总线110b地直接向图像处理部150b所具备的输入输出用模块154b输出(传输)。
(流程F27):接下来,输入输出用模块154b将从外部输入接口部161b输出(传输)的处理图像数据经由连接切换部151b向接下来实施图像处理的连接目的地的图像处理模块153-2b输出。
(流程F28):接下来,图像处理模块153-2b对经由连接切换部151b从连接目的地的输入输出用模块154b输出的处理图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151b向接下来实施图像处理的连接目的地的图像处理模块153-3b输出。
(流程F29):接下来,图像处理模块153-3b对经由连接切换部151b从连接目的地的图像处理模块153-2b输出的处理图像数据实施预先决定的图像处理,将进一步实施图像处理后的处理图像数据经由连接切换部151b向输出DMA模块155b输出。这里,图像处理模块153-3b实施如下的图像处理:生成与从图像处理模块153-2b输出的处理图像数据相应的显示用的图像数据。因此,图像处理模块153-3b将显示用的图像数据经由连接切换部151b向输出DMA模块155b输出。
(流程F30):接下来,输出DMA模块155b将经由连接切换部151b从连接目的地的图像处理模块153-3b输出的处理图像数据(显示用的图像数据)通过经由了DMA总线110b的DMA写入(存储)到DRAM70b。
(流程F31):接下来,显示处理部210b通过经由了DMA总线110b的DMA读出存储于DRAM70b的显示用的图像数据。然后,显示处理部210b对读出的显示用的图像数据实施预先决定的显示处理,生成与显示用的图像数据相应的显示图像数据。之后,显示处理部210b将生成的显示图像数据向视频接口部220b输出。由此,未图示的显示装置显示与经由视频接口部220b从显示处理部210b输出的显示图像数据相应的显示图像。
这样,在摄像装置2中,通过图像处理装置10a所具备的动作检测部170a和输入输出位置决定部180a的结构,来设定用于实施由图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b分担的流水线处理的流水线结构。由此,在摄像装置2中,如第2动作例所示,通过由动作检测部170a和输入输出位置决定部180a的结构设定的流水线结构,图像处理装置10a所具备的图像处理部150a与图像处理装置10b所具备的图像处理部150b分担地实施流水线处理。更具体而言,在摄像装置2中,图像处理装置10a对从摄像装置2所具备的未图示的成像器输出的像素信号实施由摄像处理部130a进行的预处理、以及作为流水线处理的一部分的由图像处理部150a所具备的图像处理模块153-1a进行的图像处理。此外,在摄像装置2中,作为流水线处理的一部分,实施由图像处理部150b所具备的图像处理模块153-1b及图像处理模块153-3b进行的图像处理、以及由显示处理部210b进行的显示处理,使与显示图像数据相应的显示图像显示于未图示的显示装置。
(第3动作例)
接着,将摄像装置1具备多个图像处理装置10的情况下的各个图像处理装置10的另一动作作为第3动作例,来说明各个图像处理装置10分担地实施流水线处理的情况下的数据流。在第3动作例中,考虑如下结构的摄像装置1:通过具备中等程度的像素数(尺寸)且帧率也不高的成像器,在向DRAM70写入(存储)与从成像器输出的像素信号相应的图像数据时不需要较多的总线带宽,但通过具备使包括显示高分辨率的图像的显示装置在内的3个显示装置同时显示图像的3通道输出的功能,在从DRAM70读出显示用的图像数据时,需要更多的总线带宽。另外,在以下的说明中,为了与图1所示的具备1个图像处理装置10这一结构的摄像装置1及图3所示的摄像装置2区分开来,将上述的第3动作例这一结构的摄像装置1称为“摄像装置3”。
图4是示意性地示出具备多个本发明的实施方式的图像处理装置10的另一结构的摄像装置3中的数据流的图。图4所示的摄像装置3也与图3所示的摄像装置2同样地具备2个相同结构的图像处理装置10。另外,图4所示的摄像装置3的结构除了未图示的成像器和未图示的显示装置不同以外,是与图3所示的摄像装置2相同的结构。因此,在图4所示的摄像装置3中,也基于与图3所示的摄像装置2相同的考虑方法来区分各个构成要素。即,在图4所示的摄像装置3中,也通过将接收从未图示的成像器输出的像素信号这一侧的图像处理装置10设为“图像处理装置10a”,并在各个构成要素的标号之后赋予“a”,来表示是与图像处理装置10a关联的构成要素。此外,在图4所示的摄像装置3中,也通过将使显示图像显示于未图示的显示装置这一侧的图像处理装置10设为“图像处理装置10b”,并在各个构成要素的标号之后标注“b”,来表示是与图像处理装置10b关联的构成要素。另外,在以下的说明中,在不区分是与图像处理装置10a关联的构成要素还是与图像处理装置10b关联的构成要素的情况下,不在向各个构成要素标注的标号之后标注“a”或“b”来表示。
在图4所示的摄像装置3中,也与图3所示的摄像装置2同样地,通过将图像处理装置10a所具备的外部输出接口部162a与图像处理装置10b所具备的外部输入接口部161b连接来实现分担地实施流水线处理的结构。而且,在图4所示的摄像装置3中,也与图3所示的摄像装置2同样地,通过将图像处理装置10a所具备的通信接口部192a与图像处理装置10b所具备的通信接口部191b连接,来实现对流水线结构进行设定的结构,该流水线结构用于在图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b中分担流水线处理。
在摄像装置3中的流水线结构的设定中也与摄像装置2同样地,首先,图像处理装置10a所具备的动作检测部170a在连接了图像处理装置10a与图像处理装置10b的结构中对各个构成要素的动作进行检测。更具体而言,作为图像处理装置10a中的摄像动作,动作检测部170a检测与中等程度的像素数(尺寸)帧率也不高的未图示的成像器对应设定的成像器接口部120a及摄像处理部130a的动作。此外,作为图像处理装置10b中的显示动作,动作检测部170a检测与包括显示高分辨率的图像的显示装置在内的3个(3通道输出)未图示的显示装置分别对应设定的显示处理部210b及视频接口部220b的动作。此外,作为图像处理装置10a及图像处理装置10b所具备的图像处理部150中的图像处理的动作,动作检测部170a检测输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155的动作。另外,动作检测部170a在该阶段与摄像装置2同样地未判别输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155是图像处理装置10a所具备的构成要素还是图像处理装置10b所具备的构成要素。动作检测部170a将检测到的各个构成要素中的动作信息向图像处理装置10a所具备的输入输出位置决定部180a输出(路径C41)。
由此,输入输出位置决定部180a基于从动作检测部170a输出的动作信息,来决定由图像处理部150a和图像处理部150b分担流水线处理的流水线结构。这里,从动作检测部170a输出的动作信息表示:摄像装置3所具备的未图示的成像器是中等程度的像素数(尺寸)且帧率也不高的成像器,因此,在图像处理装置10a内的DMA总线110a中不需要较多的总线带宽。此外,从动作检测部170a输出的动作信息表示:摄像装置3所具备的未图示的显示装置是包括显示高分辨率的图像的显示装置在内的3个(3通道输出)显示装置,且具有同时显示图像的功能,因此,在图像处理装置10b内的DMA总线110b中需要较多的总线带宽。因此,输入输出位置决定部180a决定如下的图像处理部150a及图像处理部150b中的流水线结构:在图像处理装置10a所具备的图像处理部150a中实施更多的图像处理,减少在图像处理装置10b所具备的图像处理部150b中实施的图像处理。更具体而言,在图4所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150a中由图像处理模块153-1a及图像处理模块153-2a分别实施图像处理的图像处理部150a中的流水线结构。此外,在图4所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150b中由图像处理模块153-3b实施图像处理的图像处理部150b中的流水线结构。
输入输出位置决定部180a将对图像处理部150a决定出的流水线结构设定到图像处理部150a所具备的连接切换部151a(路径C42)。此外,输入输出位置决定部180a将对图像处理部150b决定出的流水线结构的信息向通信接口部192a输出,经由通信接口部192a及通信接口部191b设定到图像处理部150b所具备的连接切换部151b(路径C43)。
在图像处理装置10a及图像处理装置10b中,各个构成要素通过由输入输出位置决定部180a设定的流水线结构而实施图像处理。在摄像装置3中也与摄像装置2同样地,通过图像处理装置10a及图像处理装置10b所具备的各个构成要素并列地实施各个图像处理,来顺畅地实施摄像装置3中的整体的图像处理。即,在摄像装置3中也与摄像装置2同样地,在相同的时间并列地实施由图像处理装置10a所具备的摄像处理部130a进行的预处理、由图像处理装置10a和图像处理装置10b分别具备的图像处理部150分担的流水线处理、以及由图像处理装置10b所具备的显示处理部210b进行的显示处理。但是,在图4所示的图像数据流的说明中,也与图3所示的图像数据流的说明同样地,为了容易说明,着眼于1帧的图像数据来说明数据流。在图4所示的图像数据流中,按照如下的流(流程)来实施处理。
(流程F51):首先,图像处理装置10a所具备的成像器接口部120a接收从未图示的成像器输出的像素信号,并向摄像处理部130a输出(传输)。然后,摄像处理部130a对从成像器接口部120a输出的像素数据实施预处理,将包括实施了预处理的各个像素数据在内的图像数据通过经由了DMA总线110a的DMA写入(存储)到DRAM70a。
(流程F52):接下来,图像处理装置10a所具备的图像处理部150a内的输入DMA模块152a通过经由了DMA总线110a的DMA读出存储于DRAM70a的图像数据。然后,输入DMA模块152a将读出的图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-1a输出。
(流程F53):接下来,图像处理模块153-1a对经由连接切换部151a从连接目的地的输入DMA模块152a输出的图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-2a输出。
(流程F54):接下来,图像处理模块153-2a对经由连接切换部151a从连接目的地的图像处理模块153-1a输出的处理图像数据实施预先决定的图像处理,将进一步实施图像处理后的处理图像数据经由连接切换部151a向输入输出用模块154a输出。
(流程F55):接下来,输入输出用模块154a将经由连接切换部151a从连接目的地的图像处理模块153-2a输出的处理图像数据不经由DMA总线110a地直接向外部输出接口部162a输出。
(流程F56):由此,外部输出接口部162a将从输入输出用模块154a输出的处理图像数据、即图像处理模块153-2a进行图像处理后的处理图像数据向图像处理装置10b所具备的外部输入接口部161b输出(传输)。
(流程F57):由此,外部输入接口部161b接收从外部输出接口部162a输出(传输)的处理图像数据、即图像处理模块153-2a进行图像处理后的处理图像数据,将接收到的处理图像数据不经由DMA总线110b地直接向图像处理部150b所具备的输入输出用模块154b输出(传输)。
(流程F58):接下来,输入输出用模块154b将从外部输入接口部161b输出(传输)的处理图像数据经由连接切换部151b向接下来实施图像处理的连接目的地的图像处理模块153-3b输出。
(流程F59):接下来,图像处理模块153-3b对经由连接切换部151b从连接目的地的输入输出用模块154b输出的处理图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151b向输出DMA模块155b输出。这里,图像处理模块153-3b实施如下的图像处理:生成与从输入输出用模块154b输出的处理图像数据相应的显示用的图像数据。因此,图像处理模块153-3b将显示用的图像数据经由连接切换部151b向输出DMA模块155b输出。
(流程F60):接下来,输出DMA模块155b将经由连接切换部151b从连接目的地的图像处理模块153-3b输出的处理图像数据(显示用的图像数据)通过经由了DMA总线110b的DMA写入(存储)到DRAM70b。
(流程F61):接下来,显示处理部210b通过经由了DMA总线110b的DMA读出存储于DRAM70b的显示用的图像数据。然后,显示处理部210b对读出的显示用的图像数据实施预先决定的显示处理,生成与显示用的图像数据相应的显示图像数据。这里,在摄像装置3中,由于具备使包括显示高分辨率的图像的显示装置在内的3个显示装置同时显示图像的3通道输出的功能,因此,显示处理部210b生成3通道量、即3个种类的显示图像数据。之后,显示处理部210b将生成的3个种类的显示图像数据分别向视频接口部220b输出。由此,3个未图示的显示装置分别显示经由视频接口部220b从显示处理部210b输出的、与对应的显示图像数据相应的显示图像。
这样,在摄像装置3中与摄像装置2同样地,通过图像处理装置10a所具备的动作检测部170a和输入输出位置决定部180a的结构,来设定用于实施由图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b分担的流水线处理的流水线结构。由此,在摄像装置3中,也如第3动作例所示,通过由动作检测部170a和输入输出位置决定部180a的结构设定的流水线结构,图像处理装置10a所具备的图像处理部150a与图像处理装置10b所具备的图像处理部150b分担地实施流水线处理。更具体而言,在摄像装置3中,图像处理装置10a对从摄像装置3所具备的未图示的成像器输出的像素信号实施由摄像处理部130a进行的预处理、以及作为流水线处理的一部分的由图像处理部150a所具备的图像处理模块153-1a及图像处理模块153-2a进行的图像处理。此外,在摄像装置3中,作为流水线处理的一部分,实施由图像处理部150b所具备的图像处理模块153-3b进行的图像处理、以及由显示处理部210b进行的显示处理,将与显示图像数据相应的显示图像分别显示于未图示的显示装置。
如上所述,摄像装置具备多个图像处理装置10,从而能够构成为由多个图像处理装置10分别具备的图像处理部150分担地实施在摄像装置实施的整体的处理中包含的流水线处理中的一系列图像处理。此时,通过任意1个图像处理装置10所具备的动作检测部170和输入输出位置决定部180的结构,能够根据摄像装置实施的整体的处理内容而动态地变更(设定)各个图像处理装置10所具备的图像处理部150中的流水线结构。由此,即便在1个图像处理装置10中,在认为难以确保摄像装置中的实施多个图像处理所需的DMA总线110的总线带宽的情况下,通过由多个图像处理装置10分别具备的构成要素分担流水线处理,也能够确保摄像装置的整体上需要的DMA总线110的总线带宽,能够实施摄像装置中的较多的图像处理。
另外,在第2动作例所示的摄像装置2及第3动作例所示的摄像装置3中,对具备2个相同结构的图像处理装置10的情况进行了说明。但是,构成摄像装置的图像处理装置10的数量不限于第2动作例及第3动作例所示的2个。即,在摄像装置中也可以具备更多的图像处理装置10。在该情况下,在摄像装置中,如第2动作例所示的摄像装置2或第3动作例所示的摄像装置3那样,将全部的图像处理装置10串联地连接(例如连接成一串(数珠つなぎ))。由此,能够由摄像装置所具备的各个图像处理装置10所具备的图像处理部150分担地实施流水线处理。
此外,在第3动作例所示的摄像装置3中,说明了图像处理装置10b具备使3个未图示的显示装置同时显示图像的3通道输出的功能的结构。但是,在具备多个图像处理装置10的摄像装置中,也可以采用将使各个未图示的显示装置显示图像的功能分配到多个图像处理装置10的结构。例如,在实现与第3动作例所示的摄像装置3相同的功能的摄像装置中,也可以将图像处理装置10b设为3个,采用将各个图像处理装置10b与图像处理装置10a并联地连接的结构。即,也可以采用将3个图像处理装置10b呈树状地与图像处理装置10a连接的结构。在该情况下,图像处理装置10a将图像处理模块153-2a实施图像处理后的处理图像数据向各个图像处理装置10b并列地输出。然后,在各个图像处理装置10b中,图像处理模块153-3b将实施图像处理后的显示用的图像数据写入(存储)到对应的DRAM70b。之后,各个图像处理装置10b所具备的显示处理部210生成与在对应的DRAM70b中存储的显示用的图像数据相应的显示图像数据,使连接的未图示的显示装置中显示与显示图像数据相应的显示图像。由此,在各个图像处理装置10b中,能够通过仅具备1通道输出的功能来实现与第3动作例所示的摄像装置3相同的功能。另外,在该结构的摄像装置具备对要输出显示图像数据的未图示的显示装置进行选择(选择1个或多个)的构成要素的情况下,不仅能够使3个未图示的显示装置同时显示图像,也可以使选择出的1个或多个未图示的显示装置显示与显示图像数据相应的显示图像。
此外,在第2动作例所示的摄像装置2及第3动作例所示的摄像装置3中,说明了图像处理装置10a接收从未图示的成像器输出的像素信号且图像处理装置10b使显示图像显示于未图示的显示装置的结构。但是,在具备多个图像处理装置10的摄像装置中,连接未图示的成像器的图像处理装置10与连接未图示的显示装置的图像处理装置10不限于不同的图像处理装置10。即,在具备多个图像处理装置10的摄像装置中,连接未图示的成像器的图像处理装置10与连接未图示的显示装置的图像处理装置10也可以是相同的图像处理装置10。在该情况下,在摄像装置中,将全部的图像处理装置10串联地连接(例如连接成一串),并且将第一级的图像处理装置10与最终级的图像处理装置10连接,由此,将全部的图像处理装置10呈圆环状(环状)地连接。由此,能够由摄像装置所具备的各个图像处理装置10所具备的图像处理部150分担流水线处理,并且,能够将在摄像装置中进行图像处理后的处理图像数据聚集(汇集)到与1个图像处理装置10对应的DRAM70(与1个图像处理装置10内的DMA总线110连接的DRAM70)。
(第4动作例)
接着,将摄像装置1具备多个图像处理装置10的情况下的各个图像处理装置10的又一动作作为第4动作例,来说明各个图像处理装置10分担地实施摄像装置1中的处理的情况下的数据流。在第4动作例中,考虑如下结构的摄像装置1:在向DRAM70写入(存储)与从成像器输出的像素信号相应的图像数据时不需要较多的总线带宽,并且,在从DRAM70读出显示用的图像数据时不需要较多的总线带宽,但代替流水线处理中的图像处理模块153-2而组入需要较多的总线带宽的由数字信号处理器200进行的DSP图像处理。另外,在以下的说明中,为了与图1所示的具备1个图像处理装置10这一结构的摄像装置1、图3所示的摄像装置2及图4所示的摄像装置3区分开来,将上述的第4动作例的构成的摄像装置1称为“摄像装置4”。
图5是示意性地示出具备多个本发明的实施方式的图像处理装置10的另一结构的摄像装置4中的数据流的图。图5所示的摄像装置4也与图3所示的摄像装置2及图4所示的摄像装置3同样地,具备2个相同结构的图像处理装置10。另外,图5所示的摄像装置4的结构除了未图示的成像器与未图示的显示装置不同以外,是与图3所示的摄像装置2及图4所示的摄像装置3相同的结构。因此,在图5所示的摄像装置4中,也基于与图3所示的摄像装置2及图4所示的摄像装置3相同的考虑方法来区分各个构成要素。
在图5所示的摄像装置4中,未图示的成像器和未图示的显示装置这两方与相同的图像处理装置10a连接。即,在图5所示的摄像装置4中,接收从未图示的成像器输出的像素信号这一侧的图像处理装置10与使显示图像显示于未图示的显示装置这一侧的图像处理装置10是图像处理装置10a。而且,在图5所示的摄像装置4中,通过将图像处理装置10a所具备的外部输出接口部162a与图像处理装置10b所具备的外部输入接口部161b连接、并将图像处理装置10b所具备的外部输出接口部162b与图像处理装置10a所具备的外部输入接口部161a连接,来实现向流水线处理组入DSP图像处理的结构。而且,在图5所示的摄像装置4中,通过将图像处理装置10a所具备的通信接口部192a与图像处理装置10b所具备的通信接口部191b连接,来实现对流水线结构进行设定的结构,该流水线结构用于向由图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b分担地实施的流水线处理组入由数字信号处理器200进行的DSP图像处理。
在摄像装置4中的流水线结构的设定中也与摄像装置2及摄像装置3同样地,首先,图像处理装置10a所具备的动作检测部170a在连接了图像处理装置10a与图像处理装置10b的结构中检测各个构成要素的动作。更具体而言,作为图像处理装置10a中的摄像动作,动作检测部170a检测与中等程度的像素数(尺寸)且帧率也不高的未图示的成像器对应设定的成像器接口部120a及摄像处理部130a的动作。并且,作为图像处理装置10a中的显示动作,动作检测部170a检测与显示低分辨率的图像的1个(1通道输出)未图示的显示装置对应设定的显示处理部210a及视频接口部220a的动作。此外,作为图像处理装置10a及图像处理装置10b所具备的图像处理部150中的图像处理的动作,动作检测部170a检测输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154、输出DMA模块155及数字信号处理器200的动作。另外,动作检测部170a在该阶段也与摄像装置2及摄像装置3同样地未判别输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154、输出DMA模块155及数字信号处理器200是图像处理装置10a所具备的构成要素还是图像处理装置10b所具备的构成要素。动作检测部170a将检测到的各个构成要素中的动作信息向图像处理装置10a所具备的输入输出位置决定部180a输出(路径C71)。
由此,输入输出位置决定部180a基于从动作检测部170a输出的动作信息,来决定用于向由图像处理部150a和图像处理部150b分担地实施的流水线处理组入由数字信号处理器200进行的DSP图像处理的流水线结构。这里,从动作检测部170a输出的动作信息表示:摄像装置4所具备的未图示的成像器是中等程度的像素数(尺寸)且帧率也不高的成像器,因此,在图像处理装置10a内的DMA总线110a中不需要较多的总线带宽。此外,从动作检测部170a输出的动作信息表示:摄像装置4所具备的未图示的显示装置是显示低分辨率的图像的1个(1通道输出)显示装置,因此,在图像处理装置10a内的DMA总线110a中不需要较多的总线带宽。此外,从动作检测部170a输出的动作信息表示:流水线处理中的代替图像处理模块153-2而组入的数字信号处理器200的DSP图像处理在图像处理装置10a内的DMA总线110a或图像处理装置10b内的DMA总线110b中需要较多的总线带宽。因此,输入输出位置决定部180a决定如下的图像处理部150a及图像处理部150b中的流水线结构:实施在图像处理装置10a所具备的图像处理部150a中实施的由图像处理模块153进行的图像处理,在图像处理装置10b所具备的图像处理部150b中组入了由数字信号处理器200b进行的DSP图像处理。更具体而言,在图5所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150a中由图像处理模块153-1a实施图像处理的图像处理部150a中的流水线结构。并且,在图5所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150a中由图像处理模块153-3a实施图像处理的图像处理部150a中的流水线结构。此外,在图5所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150b中代替图像处理模块153-2b而由数字信号处理器200b实施DSP图像处理的图像处理部150b中的流水线结构。
输入输出位置决定部180a将对图像处理部150a决定出的流水线结构设定到图像处理部150a所具备的连接切换部151a(路径C72)。此外,输入输出位置决定部180a将对图像处理部150b决定出的流水线结构的信息向通信接口部192a输出,经由通信接口部192a及通信接口部191b设定到图像处理部150b所具备的连接切换部151b(路径C73)。
在图像处理装置10a及图像处理装置10b中,各个构成要素通过由输入输出位置决定部180a设定的流水线结构而实施图像处理。在摄像装置4中也与摄像装置2及摄像装置3同样地,通过图像处理装置10a及图像处理装置10b所具备的各个构成要素并联的实施各个图像处理,从而顺畅地实施摄像装置4中的整体的图像处理。即,在摄像装置4中也与摄像装置2及摄像装置3同样地,在相同的时间并列地实施由图像处理装置10a所具备的摄像处理部130a进行的预处理、由图像处理装置10a和图像处理装置10b分别具备的图像处理部150分担的流水线处理、以及由图像处理装置10a所具备的显示处理部210a进行的显示处理。但是,在图5所示的图像数据流的说明中也与图3及图4所示的图像数据流的说明同样地,为了容易说明,着眼于1帧的图像数据来说明数据流。在图5所示的图像数据流中,按照如下的流(流程)来实施处理。
(流程F81):首先,图像处理装置10a所具备的成像器接口部120a接收从未图示的成像器输出的像素信号,并向摄像处理部130a输出(传输)。然后,摄像处理部130a对从成像器接口部120a输出的像素数据实施预处理,将包括实施了预处理的各个像素数据在内的图像数据通过经由了DMA总线110a的DMA写入(存储)到DRAM70a。
(流程F82):接下来,图像处理装置10a所具备的图像处理部150a内的输入DMA模块152a通过经由了DMA总线110a的DMA读出存储于DRAM70a的图像数据。然后,输入DMA模块152a将读出的图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-1a输出。
(流程F83):接下来,图像处理模块153-1a对经由连接切换部151a从连接目的地的输入DMA模块152a输出的图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151a向输入输出用模块154a输出。
(流程F84):接下来,输入输出用模块154a将经由连接切换部151a从连接目的地的图像处理模块153-1a输出的处理图像数据不经由DMA总线110a地直接向外部输出接口部162a输出。
(流程F85):由此,外部输出接口部162a将从输入输出用模块154a输出的处理图像数据、即图像处理模块153-1a进行图像处理后的处理图像数据向图像处理装置10b所具备的外部输入接口部161b输出(传输)。
(流程F86):由此,外部输入接口部161b接收从外部输出接口部162a输出(传输)的处理图像数据、即图像处理模块153-1a进行图像处理后的处理图像数据,将接收到的处理图像数据不经由DMA总线110b地直接向图像处理部150b所具备的输入输出用模块154b输出(传输)。
(流程F87):接下来,输入输出用模块154b将从外部输入接口部161b输出(传输)的处理图像数据经由连接切换部151b向输出DMA模块155b输出。
(流程F88):接下来,输出DMA模块155b将经由连接切换部151b从连接目的地的输入输出用模块154b输出的处理图像数据通过经由了DMA总线110b的DMA写入(存储)到DRAM70b。
(流程F89):接下来,数字信号处理器200b通过经由了DMA总线110b的DMA读出存储于DRAM70b的处理图像数据。然后,数字信号处理器200b对读出的处理图像数据实施预先决定的DSP图像处理,将实施DSP图像处理后的处理图像数据(DSP处理图像数据)通过经由了DMA总线110b的DMA写入(存储)到DRAM70b。
(流程F90):接下来,图像处理装置10b所具备的图像处理部150b内的输入DMA模块152b通过经由了DMA总线110b的DMA读出存储于DRAM70b的处理图像数据、即数字信号处理器200b进行DSP图像处理后的DSP处理图像数据。然后,输入DMA模块152b将读出的DSP处理图像数据经由连接切换部151b向输入输出用模块154b输出。
(流程F91):接下来,输入输出用模块154b将经由连接切换部151b从连接目的地的输入DMA模块152b输出的DSP处理图像数据不经由DMA总线110b地直接向外部输出接口部162b输出。
(流程F92):由此,外部输出接口部162b将从输入输出用模块154b输出的DSP处理图像数据、即数字信号处理器200b进行DSP图像处理后的DSP处理图像数据向图像处理装置10a所具备的外部输入接口部161a输出(传输)。
(流程F93):由此,外部输入接口部161a接收从外部输出接口部162b输出(传输)的DSP处理图像数据、即数字信号处理器200b进行DSP图像处理后的DSP处理图像数据,将接收到的DSP处理图像数据不经由DMA总线110a地直接向图像处理部150a所具备的输入输出用模块154a输出(传输)。
(流程F94):接下来,输入输出用模块154a将从外部输入接口部161a输出(传输)的DSP处理图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-3a输出。
(流程F95):接下来,图像处理模块153-3a对经由连接切换部151a从连接目的地的输入输出用模块154a输出的DSP处理图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151a向输出DMA模块155a输出。这里,图像处理模块153-3a实施如下的图像处理:生成与从输入输出用模块154a输出的DSP处理图像数据、即数字信号处理器200b进行DSP图像处理后的DSP处理图像数据相应的显示用的图像数据。因此,图像处理模块153-3a将显示用的图像数据经由连接切换部151a向输出DMA模块155a输出。
(流程F96):接下来,输出DMA模块155a将经由连接切换部151a从连接目的地的图像处理模块153-3a输出的处理图像数据(显示用的图像数据)通过经由了DMA总线110a的DMA写入(存储)到DRAM70a。
(流程F97):接下来,显示处理部210a通过经由了DMA总线110a的DMA读出存储于DRAM70a的显示用的图像数据。然后,显示处理部210a对读出的显示用的图像数据实施预先决定的显示处理,生成与显示用的图像数据相应的显示图像数据。之后,显示处理部210a将生成的显示图像数据向视频接口部220a输出。由此,未图示的显示装置显示与经由视频接口部220a从显示处理部210a输出的显示图像数据相应的显示图像。
这样,在摄像装置4中,通过图像处理装置10a所具备的动作检测部170a和输入输出位置决定部180a的结构,来设定用于在由图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b分担地实施的流水线处理中组入由数字信号处理器200进行的DSP图像处理的流水线结构。由此,在摄像装置4中,如第4动作例所示,通过由动作检测部170a和输入输出位置决定部180a的结构设定的流水线结构,图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b实施组入了由数字信号处理器200进行的DSP图像处理的流水线处理。更具体而言,在摄像装置4中,图像处理装置10a对从摄像装置4所具备的未图示的成像器输出的像素信号实施由摄像处理部130a进行的预处理、以及作为流水线处理的一部分的由图像处理部150a所具备的图像处理模块153-1a进行的图像处理。此外,在摄像装置4中,代替图像处理部150b所具备的图像处理模块153-2b而实施由数字信号处理器200b进行的DSP图像处理,来作为流水线处理的一部分。此外,在摄像装置4中,作为流水线处理的一部分,实施由图像处理部150a所具备的图像处理模块153-3a进行的图像处理、以及由显示处理部210a进行的显示处理,将与显示图像数据相应的显示图像显示于未图示的显示装置。
如上所述,摄像装置具备多个图像处理装置10,从而能够构成为由多个图像处理装置10分别具备的图像处理部150分担地实施在摄像装置实施的整体的处理中包含的流水线处理中的一系列图像处理。此外,图像处理装置10构成为能够向由多个图像处理装置10分别具备的图像处理部150分担地实施的流水线处理组入由任意1个图像处理装置10所具备的数字信号处理器200进行的DSP图像处理。此时,通过任意1个图像处理装置10所具备的动作检测部170和输入输出位置决定部180的结构,能够根据摄像装置实施的整体的处理内容而动态地变更(设定)各个图像处理装置10所具备的图像处理部150中的流水线结构。由此,即便认为在1个图像处理装置10中难以确保摄像装置中的实施多个图像处理所需的DMA总线110的总线带宽的情况下,通过由多个图像处理装置10分别具备的构成要素分担流水线处理,也能够确保摄像装置的整体上需要的DMA总线110的总线带宽,能够实施摄像装置中的较多图像处理。
另外,在第4动作例所示的摄像装置4中,说明了具备2个相同结构的图像处理装置10的情况。而且,在第4动作例所示的摄像装置4中,说明了为了将由图像处理装置10b所具备的数字信号处理器200b进行的DSP图像处理组入到流水线处理而将图像处理装置10a及图像处理装置10b呈圆环状(环状)连接的结构。但是,构成摄像装置的图像处理装置10的数量不限于在第4动作例所示的摄像装置4中示出的2个。而且,在具备多个图像处理装置10的摄像装置中,将各个图像处理装置10呈圆环状(环状)连接的结构不限于用于将由数字信号处理器200进行的DSP图像处理或由图像处理装置10的外部的外部图像处理装置进行的外部图像处理组入到流水线处理的结构。即,在具备多个图像处理装置10的摄像装置中将图像处理装置10呈圆环状(环状)连接的结构不限于在由各个图像处理部150进行的流水线处理中实施的图像处理中组入用于具有扩展性的图像处理的结构,也可以作为用于实现摄像装置中的其他功能的结构来应用。例如,也可以在实现在摄像装置中连续地拍摄多个被摄物的静态图像的功能、即所谓的连拍功能时采用将各个图像处理装置10呈圆环状(环状)连接的结构。在该情况下,能够由不同的图像处理装置10对从未图示的成像器按照各个拍摄而输出的1帧量的像素数据实施图像处理,将各个图像处理装置10生成的记录用的图像数据(记录图像数据)聚集(汇集)到与任意1个图像处理装置10对应的DRAM70。即,能够由多个图像处理装置10分担地实施与连续拍摄的各个帧的像素数据相应的记录用的图像数据(记录图像数据)的生成。由此,能够实现摄像装置中的连拍功能的高速化。
另外,在第2动作例所示的摄像装置2、第3动作例所示的摄像装置3及第4动作例所示的摄像装置4中,说明了如下情况:2个图像处理装置10所具备的各个输入输出用模块154通过经由外部输入接口部161及外部输出接口部162直接输入输出图像数据,由2个图像处理装置10分担地实施流水线处理。但是,如上所述,该输入输出用模块154的与图像处理装置10的外部之间直接输入输出图像数据的功能是如下功能:该功能用于将在图像处理部150所具备的任意1个图像处理模块153中都未实施的、由图像处理装置10的外部的外部图像处理装置进行的外部图像处理组入到流水线处理。即,输入输出用模块154的与图像处理装置10的外部之间直接输入输出图像数据的功能是如下功能:该功能用于将与图像处理装置10实施的图像处理不同的由外部图像处理装置进行的外部图像处理组入到流水线处理,从而对图像处理部150中的流水线处理进行扩展。
(第5动作例)
接着,将摄像装置1具备多个图像处理装置10的情况下的各个图像处理装置10的又一动作作为第5动作例,来说明具备外部图像处理装置且对由各个图像处理装置10实施的摄像装置1的处理进行扩展的情况下的数据流。在第5动作例中,考虑了如下结构的摄像装置1:通过将用于实现在各个图像处理装置10的图像处理部150中不具备的图像处理的功能的外部图像处理装置与各个图像处理装置10之间连接,来扩展图像处理部150中的流水线处理。另外,在以下的说明中,为了与图1所示的具备1个图像处理装置10这一结构的摄像装置1、图3所示的摄像装置2、图4所示的摄像装置3及图5所示的摄像装置4区分开来,将上述的第5动作例这一结构的摄像装置1称为“摄像装置5”。
图6是示意性地示出具备多个本发明的实施方式的图像处理装置10并且在外部具备图像处理装置(外部图像处理装置80)这一结构的摄像装置5中的数据流的图。在图6所示的摄像装置5中也与图3所示的摄像装置2、图4所示的摄像装置3及图5所示的摄像装置4同样地,具备2个相同结构的图像处理装置10。另外,图6所示的摄像装置5的结构除了将外部图像处理装置80设置在2个图像处理装置10之间以外,是与图3所示的摄像装置2、图4所示的摄像装置3及图5所示的摄像装置4相同的结构。因此,在图6所示的摄像装置5中,也基于与图3所示的摄像装置2、图4所示的摄像装置3及图5所示的摄像装置4相同的考虑方法,来区分各个构成要素。
另外,外部图像处理装置80用于实现与图像处理装置10a及图像处理装置10b分别具备的图像处理部150所实现的图像处理的功能不同的外部图像处理的功能。外部图像处理装置80例如由FPGA(Field Programmable Gate Array)、LSI(Large ScaleIntegration)或ASIC(Application Specific Integrated Circuit)等实现。
在图6所示的摄像装置5中,通过将图像处理装置10a所具备的外部输出接口部162a与外部图像处理装置80的输入端子连接、并将外部图像处理装置80的输出端子与图像处理装置10b所具备的外部输入接口部161b连接,来实现向流水线处理组入由外部图像处理装置80进行的外部图像处理的结构。而且,在图6所示的摄像装置5中,通过将图像处理装置10a所具备的通信接口部192a与图像处理装置10b所具备的通信接口部191b连接,来实现对流水线结构进行设定的结构,该流水线结构用于向由图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b分担地实施的流水线处理组入由外部图像处理装置80进行的外部图像处理。
在摄像装置5中的流水线结构的设定中也与摄像装置2、摄像装置3及摄像装置4同样地,首先,图像处理装置10a所具备的动作检测部170a在连接了图像处理装置10a与图像处理装置10b的结构中检测各个构成要素的动作。更具体而言,作为图像处理装置10a中的摄像动作,动作检测部170a检测与中等程度的像素数(尺寸)且帧率也不高的未图示的成像器对应设定的成像器接口部120a及摄像处理部130a的动作。此外,作为图像处理装置10b中的显示动作,动作检测部170a检测与显示低分辨率的图像的1个(1通道输出)未图示的显示装置对应设定的显示处理部210b及视频接口部220b的动作。此外,作为图像处理装置10a及图像处理装置10b所具备的图像处理部150中的图像处理的动作,动作检测部170a检测输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155的动作。此时,动作检测部170a也可以将外部图像处理装置80的动作作为图像处理装置10a及图像处理装置10b所具备的图像处理部150中的追加的图像处理的动作来进行检测。另外,动作检测部170a在该阶段与摄像装置2、摄像装置3及摄像装置4同样地未判别输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154、输出DMA模块155及外部图像处理装置80是图像处理装置10a所具备的构成要素、图像处理装置10b所具备的构成要素、还是图像处理装置10a和图像处理装置10b的外部所具备的构成要素。动作检测部170a将检测到的各个构成要素中的动作信息向图像处理装置10a所具备的输入输出位置决定部180a输出(路径C101)。
由此,输入输出位置决定部180a基于从动作检测部170a输出的动作信息,来决定由图像处理部150a、外部图像处理装置80以及图像处理部150b实施流水线处理的流水线结构。这里,从动作检测部170a输出的动作信息表示:摄像装置5所具备的未图示的成像器是中等程度的像素数(尺寸)且帧率也不高的成像器,因此,在图像处理装置10a内的DMA总线110a中不需要较多的总线带宽。此外,从动作检测部170a输出的动作信息表示:摄像装置5所具备的未图示的显示装置是显示低分辨率的图像的1个(1通道输出)显示装置,因此,在图像处理装置10b内的DMA总线110b中不需要较多的总线带宽。此外,从动作检测部170a输出的动作信息表示:组入到流水线处理的由外部图像处理装置80进行的外部图像处理不通过DMA来访问DRAM70,即,在图像处理装置10a内的DMA总线110a及图像处理装置10b内的DMA总线110b中不需要总线带宽。而且,从动作检测部170a输出的动作信息表示:由外部图像处理装置80进行的外部图像处理被组入到流水线处理中的图像处理模块153-2与图像处理模块153-3之间。因此,输入输出位置决定部180a决定如下的图像处理部150a及图像处理部150b中的流水线结构:向在图像处理装置10a所具备的图像处理部150a中实施的由图像处理模块153进行的图像处理与在图像处理装置10b所具备的图像处理部150b中实施的由图像处理模块153进行的图像处理之间组入了由外部图像处理装置80进行的外部图像处理。更具体而言,在图6所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150a中由图像处理模块153-1a及图像处理模块153-2a分别实施图像处理的图像处理部150a中的流水线结构。此外,在图6所示的图像数据流的图中,输入输出位置决定部180a决定出在图像处理部150b中由图像处理模块153-3b实施图像处理的图像处理部150b中的流水线结构。
输入输出位置决定部180a将对图像处理部150a决定出的流水线结构设定到图像处理部150a所具备的连接切换部151a(路径C102)。此外,输入输出位置决定部180a将对图像处理部150b决定出的流水线结构的信息向通信接口部192a输出,经由通信接口部192a及通信接口部191b而设定到图像处理部150b所具备的连接切换部151b(路径C103)。
在图像处理装置10a及图像处理装置10b中,各个构成要素通过由输入输出位置决定部180a设定的流水线结构而实施图像处理。在摄像装置5中也与摄像装置2、摄像装置3及摄像装置4同样地,通过图像处理装置10a及图像处理装置10b所具备的各个构成要素并列地实施各个图像处理,从而顺畅地实施摄像装置5中的整体的图像处理。即,在摄像装置5中也与摄像装置2、摄像装置3及摄像装置4同样地,在相同的时间并列地实施由图像处理装置10a所具备的摄像处理部130a进行的预处理、由图像处理装置10a所具备的图像处理部150、外部图像处理装置80以及图像处理装置10b所具备的图像处理部150实施的流水线处理、以及由图像处理装置10b所具备的显示处理部210b进行的显示处理。但是,在图6所示的图像数据流的说明中也与图3~图5所示的图像数据流的说明同样地,为了容易说明,着眼于1帧的图像数据来说明数据流。在图6所示的图像数据流中,按照如下的流(流程)来实施处理。
(流程F111):首先,图像处理装置10a所具备的成像器接口部120a接收从未图示的成像器输出的像素信号,并向摄像处理部130a输出(传输)。然后,摄像处理部130a对从成像器接口部120a输出的像素数据实施预处理,将包括实施了预处理的各个像素数据在内的图像数据通过经由了DMA总线110a的DMA写入(存储)到DRAM70a。
(流程F112):接下来,图像处理装置10a所具备的图像处理部150a内的输入DMA模块152a通过经由了DMA总线110a的DMA读出存储于DRAM70a的图像数据。然后,输入DMA模块152a将读出的图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-1a输出。
(流程F113):接下来,图像处理模块153-1a对经由连接切换部151a从连接目的地的输入DMA模块152a输出的图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151a向接下来实施图像处理的连接目的地的图像处理模块153-2a输出。
(流程F114):接下来,图像处理模块153-2a对经由连接切换部151a从连接目的地的图像处理模块153-1a输出的处理图像数据实施预先决定的图像处理,将进一步实施图像处理后的处理图像数据经由连接切换部151a向输入输出用模块154a输出。
(流程F115):接下来,输入输出用模块154a将经由连接切换部151a从连接目的地的图像处理模块153-2a输出的处理图像数据不经由DMA总线110a地直接向外部输出接口部162a输出。
(流程F116):由此,外部输出接口部162a将从输入输出用模块154a输出的处理图像数据、即图像处理模块153-2a进行图像处理后的处理图像数据向外部图像处理装置80输出(传输)。
(流程F117):由此,外部图像处理装置80接收从外部输出接口部162a输出(传输)的处理图像数据、即图像处理模块153-2a进行图像处理后的处理图像数据,对接收到的处理图像数据实施预先决定的外部图像处理,将实施外部图像处理后的外部处理图像数据向图像处理装置10b所具备的外部输入接口部161b输出(传输)。
(流程F118):由此,外部输入接口部161b接收从外部图像处理装置80输出(传输)的处理图像数据、即外部图像处理装置80进行外部图像处理后的外部处理图像数据,将接收到的处理图像数据不经由DMA总线110b地直接向图像处理部150b所具备的输入输出用模块154b输出(传输)。
(流程F119):接下来,输入输出用模块154b将从外部输入接口部161b输出(传输)的外部处理图像数据经由连接切换部151b向接下来实施图像处理的连接目的地的图像处理模块153-3b输出。
(流程F120):接下来,图像处理模块153-3b对经由连接切换部151b从连接目的地的输入输出用模块154b输出的外部处理图像数据实施预先决定的图像处理,将实施图像处理后的处理图像数据经由连接切换部151b向输出DMA模块155b输出。这里,图像处理模块153-3b实施如下的图像处理:生成与从输入输出用模块154b输出的外部处理图像数据、即外部图像处理装置80进行外部图像处理后的外部处理图像数据相应的显示用的图像数据。因此,图像处理模块153-3b将显示用的图像数据经由连接切换部151b向输出DMA模块155b输出。
(流程F121):接下来,输出DMA模块155b将经由连接切换部151b从连接目的地的图像处理模块153-3b输出的处理图像数据(显示用的图像数据)通过经由了DMA总线110b的DMA写入(存储)到DRAM70b。
(流程F122):接下来,显示处理部210b通过经由了DMA总线110b的DMA读出存储于DRAM70b的显示用的图像数据。然后,显示处理部210b对读出的显示用的图像数据实施预先决定的显示处理,生成与显示用的图像数据相应的显示图像数据。之后,显示处理部210b将生成的显示图像数据向视频接口部220b输出。由此,未图示的显示装置显示与经由视频接口部220b从显示处理部210b输出的显示图像数据相应的显示图像。
这样,在摄像装置5中,通过图像处理装置10a所具备的动作检测部170a和输入输出位置决定部180a的结构,来设定用于向由图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b分担地实施的流水线处理组入由外部图像处理装置80进行的外部图像处理的流水线结构。由此,在摄像装置5中,如第5动作例所示,通过由动作检测部170a和输入输出位置决定部180a的结构设定的流水线结构,图像处理装置10a所具备的图像处理部150a和图像处理装置10b所具备的图像处理部150b实施组入了由外部图像处理装置80进行的外部图像处理的流水线处理。更具体而言,在摄像装置5中,图像处理装置10a针对从摄像装置5所具备的未图示的成像器输出的像素信号,实施由摄像处理部130a进行的预处理、以及作为流水线处理的一部分的由图像处理部150a所具备的图像处理模块153-1a及图像处理模块153-2a进行的图像处理。此外,在摄像装置5中,实施作为流水线处理的一部分的由外部图像处理装置80进行的外部图像处理。此外,在摄像装置5中,作为流水线处理的一部分,实施由图像处理部150b所具备的图像处理模块153-3b进行的图像处理、以及由显示处理部210b进行的显示处理,将与显示图像数据相应的显示图像显示于未图示的显示装置。
如上所述,摄像装置具备多个图像处理装置10,从而能够构成为由多个图像处理装置10分别具备的图像处理部150分担地实施在摄像装置实施的整体的处理中包含的流水线处理中的一系列图像处理。此外,图像处理装置10能够采用将由外部的外部图像处理装置80进行的外部图像处理组入到由多个图像处理装置10分别具备的图像处理部150分担地实施的流水线处理的结构。此时,通过任意1个图像处理装置10所具备的动作检测部170和输入输出位置决定部180的结构,能够根据摄像装置实施的整体的处理内容而动态地变更(设定)各个图像处理装置10所具备的图像处理部150中的流水线结构。由此,即便在1个图像处理装置10中,在认为难以确保摄像装置中的实施较多图像处理所需的DMA总线110的总线带宽的情况下,通过由多个图像处理装置10分别具备的构成要素分担流水线处理,也能够确保摄像装置的整体上需要的DMA总线110的总线带宽,能够实施摄像装置中的较多的图像处理。
另外,在第5动作例所示的摄像装置5中,说明了具备2个相同结构的图像处理装置10的情况。而且,在第5动作例所示的摄像装置5中,说明了在2个图像处理装置10之间将由外部的外部图像处理装置80进行的外部图像处理组入到流水线处理的结构。但是,构成摄像装置的图像处理装置10的数量不限于在第5动作例所示的摄像装置5中示出的2个。即,摄像装置也可以具备更多的图像处理装置10。而且,在具备多个图像处理装置10的摄像装置中,也可以采用向由各个图像处理部150进行的流水线处理之间组入由外部的外部图像处理装置进行的外部图像处理的结构。由此,能够进一步扩展由摄像装置所具备的各个图像处理装置10所具备的图像处理部150进行的流水线处理。
这里,在具备更多的图像处理装置10的摄像装置中,针对如下结构进行说明:通过组入由外部的外部图像处理装置进行的外部图像处理,进一步扩展由图像处理装置10所具备的图像处理部150进行的流水线处理。图7是示出具备多个本发明的实施方式的图像处理装置10并且进行由外部的图像处理装置(外部图像处理装置)扩展后的图像处理的另一结构的摄像装置5的概要结构的框图。
在图7中,作为图6所示的摄像装置5的变形例而示出具备3个相同结构的图像处理装置10这一结构的摄像装置的一例。另外,在图7所示的摄像装置5的变形例中,为了分开区分3个图像处理装置10,将接收从未图示的成像器输出的像素信号这一侧的图像处理装置10称为“图像处理装置10a”,将使显示图像显示于未图示的显示装置这一侧的图像处理装置10称为“图像处理装置10b”,将在图像处理装置10a与图像处理装置10b之间进行图像处理的图像处理装置10称为“图像处理装置10c”。而且,在图7所示的摄像装置5的变形例中,在向各个图像处理装置10所具备的各个构成要素标注的标号之后标注表示是图像处理装置10a的构成要素的“a”、表示是图像处理装置10b的构成要素的“b”或者表示是图像处理装置10c的构成要素的“c”中的任意1个,由此来区分是图像处理装置10a、图像处理装置10b、或图像处理装置10c中的哪一个构成要素。另外,在以下的说明中,在不分别区分与图像处理装置10a关联的构成要素、与图像处理装置10b关联的构成要素以及与图像处理装置10c关联的构成要素的情况下,不在向各个构成要素标注的标号之后标注“a”、“b”或“c”来表示。
在图7的(a)中,示出在图像处理装置10a与图像处理装置10c之间具备外部图像处理装置81且在图像处理装置10c与图像处理装置10b之间具备外部图像处理装置82这一结构的摄像装置51。在图7的(a)所示的摄像装置51中,将图像处理装置10a所具备的外部输出接口部162a与外部图像处理装置81的输入端子连接,将外部图像处理装置81的输出端子与图像处理装置10c所具备的外部输入接口部161c连接。并且,在图7的(a)所示的摄像装置51中,将图像处理装置10c所具备的外部输出接口部162c与外部图像处理装置82的输入端子连接,将外部图像处理装置82的输出端子与图像处理装置10b所具备的外部输入接口部161b连接。由此,在摄像装置51中,实现了如下结构:向图像处理装置10a与图像处理装置10c之间的流水线处理组入由外部图像处理装置81进行的外部图像处理,向图像处理装置10c与图像处理装置10b之间的流水线处理组入由外部图像处理装置82进行的外部图像处理。
另外,图7的(a)所示的摄像装置51中的各个图像处理装置10的动作能够根据图6所示的摄像装置5中的各个图像处理装置10的动作(第5动作例)、图3~图5所示的摄像装置2~摄像装置4中的各个图像处理装置10的动作(第2~第4动作例)而容易考虑。因此,省略与图7的(a)所示的摄像装置51中的各个图像处理装置10的动作相关的详细说明。
另外,在由FPGA、LSI或ASIC等实现图7的(a)所示的外部图像处理装置81、外部图像处理装置82的情况下,考虑采用将外部图像处理装置81实现的外部图像处理的功能和外部图像处理装置82实现的外部图像处理的功能汇总到1个外部图像处理装置的结构。在该情况下,在汇总到1个的外部图像处理装置中,考虑采用如下结构:具备依照PCI-Express等预先决定的各种传输方式的多个外部输入接口端口、外部输出接口端口。
在图7的(b)中示出如下结构的摄像装置52:具备1个外部图像处理装置83,该1个外部图像处理装置83具备在图像处理装置10a与图像处理装置10c之间由外部图像处理装置81实现的外部图像处理的功能和在图像处理装置10c与图像处理装置10b之间由外部图像处理装置82实现的外部图像处理的功能。在图7的(b)所示的摄像装置52中,将图像处理装置10a所具备的外部输出接口部162a与外部图像处理装置81中的对应的输入端子(端口)连接,将外部图像处理装置81中的对应的输出端子(端口)与图像处理装置10c所具备的外部输入接口部161c连接。并且,在图7的(b)所示的摄像装置52中,将图像处理装置10c所具备的外部输出接口部162c与外部图像处理装置82中的对应的输入端子(端口)连接,将外部图像处理装置82中的对应的输出端子(端口)与图像处理装置10b所具备的外部输入接口部161b连接。由此,在摄像装置52中也与摄像装置51同样地实现了如下的结构:向图像处理装置10a与图像处理装置10c之间的流水线处理组入由外部图像处理装置81进行的外部图像处理,向图像处理装置10c与图像处理装置10b之间的流水线处理组入由外部图像处理装置82进行的外部图像处理。
另外,图7的(b)所示的摄像装置52中的各个图像处理装置10的动作与图7的(a)所示的摄像装置51中的动作同样地,能够根据图6所示的摄像装置5中的各个图像处理装置10的动作(第5动作例)、图3~图5所示的摄像装置2~摄像装置4中的各个图像处理装置10的动作(第2~第4动作例)而容易考虑。因此,省略与图7的(b)所示的摄像装置52中的各个图像处理装置10的动作相关的详细说明。
另外,在图6所示的摄像装置5、图7所示的摄像装置51及摄像装置52中,与图3所示的摄像装置2、图4所示的摄像装置3同样地,说明了将图像处理装置10串联地连接(例如连接成一串)并在2个图像处理装置10之间连接有外部图像处理装置的结构。但是,在具备多个图像处理装置10的摄像装置中,将由外部的外部图像处理装置进行的外部图像处理组入到流水线处理的结构不限于在串联连接的2个图像处理装置10之间连接外部图像处理装置的结构。即,在具备多个图像处理装置10的摄像装置中,关于将由外部的外部图像处理装置进行的外部图像处理组入到流水线处理的结构,即便在如图5所示的摄像装置4那样的将图像处理装置10呈圆环状(环状)连接的情况下,也能在2个图像处理装置10之间连接外部图像处理装置。
根据本实施方式,构成如下的图像处理装置(图像处理装置10):该图像处理装置具备多个处理部(在实施方式中是摄像处理部130、图像处理部150、数字信号处理器200、显示处理部210、存储卡接口部230、高速串行接口部240等),该多个处理部与共通的数据总线(DMA总线110)连接,且对从与DMA总线110连接的数据存储部(DRAM70)经由DMA总线110读出的数据(图像数据)实施预先决定的处理(图像处理),至少1个处理部(图像处理部150)是图像处理部(图像处理部150),该图像处理部具备:对输入的数据(图像数据)实施预先决定的处理(图像处理)的多个处理模块(在实施方式中是图像处理模块153-1~图像处理模块153-3);不经由DMA总线110地与外部之间直接输入输出数据的作为处理模块而动作的输入输出用模块(输入输出用模块154);以及按照所输入的设定(来自输入输出位置决定部180的设定、经由通信接口部191输入的来自图像处理装置10的外部的控制)来切换处理模块(在实施方式中是输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155)彼此的连接从而变更流水线结构的连接切换部(连接切换部151),该图像处理部通过构成流水线的各个处理模块来实施流水线处理,该图像处理装置具备:动作检测部(动作检测部170),其检测各个处理部的动作;输入输出位置决定部(输入输出位置决定部180),其基于动作检测部170检测到的各个处理部的动作的信息(动作信息),来决定图像处理部150中的流水线结构;信息输出部(通信接口部192),其将输入输出位置决定部180决定出的流水线结构的信息向外部(其他的图像处理装置10)输出;以及信息输入部(通信接口部191),其从外部(其他的图像处理装置10)接收流水线结构的信息,连接切换部151按照输入输出位置决定部180决定出的流水线结构的信息、或者通信接口部191接收到的流水线结构的信息,来切换构成流水线的处理模块(在实施方式中是输入DMA模块152、图像处理模块153-1~图像处理模块153-3、输入输出用模块154及输出DMA模块155)彼此的连接。
此外,根据本实施方式,构成如下的图像处理装置10:动作检测部170检测各个处理部的进行的伴有经由DMA总线110对DRAM70的访问的动作,作为各个处理部的动作,输入输出位置决定部180决定用于划分在图像处理部150中实施的流水线处理的流水线结构,以使得各个处理部经由DMA总线110而访问DRAM70时所需的DMA总线110的带宽(总线带宽,DRAM70的总线带宽)的合计成为与DMA总线110连接的DRAM70中的(能够访问的)最大的带宽以内。
此外,根据本实施方式,构成如下的图像处理装置10:输入输出位置决定部180决定向在图像处理部150中构成的流水线内组入输入输出用模块154的位置,以划分在图像处理部150中实施的流水线处理。
此外,根据本实施方式,构成如下的摄像装置(摄像装置1):具备多个图像处理装置10(在实施方式中是图像处理装置10a和图像处理装置10b),图像处理装置10a和图像处理装置10b分别通过将前级的图像处理装置10a所具备的输入输出用模块154a的输出(外部输出接口部162b)与后级的图像处理装置10b所具备的输入输出用模块154b的输入(外部输入接口部161b)连接而连接成一串,图像处理装置10a和图像处理装置10b分别具备的图像处理部150(图像处理部150a和图像处理部150b)内的连接切换部(输入输出用模块154a和输入输出用模块154b)按照任意1个图像处理装置10(在实施方式中是图像处理装置10a)所具备的输入输出位置决定部180(输入输出位置决定部180a)决定出的流水线结构的信息,来切换在图像处理部150a和图像处理部150b中构成的流水线中的处理模块彼此(在实施方式中是输入DMA模块152a、图像处理模块153-1a~图像处理模块153-3a、输入输出用模块154a、输出DMA模块155a彼此及输入DMA模块152b、图像处理模块153-1b~图像处理模块153-3b、输入输出用模块154b、输出DMA模块155b彼此)的连接。
此外,根据本实施方式,构成如下的摄像装置1:任意1个图像处理装置10(图像处理装置10a)所具备的输入输出位置决定部180(输入输出位置决定部180a)基于对应的动作检测部(动作检测部170a)检测到的各个处理部的动作的信息,来决定包括将输入输出用模块154(输入输出用模块154a或输入输出用模块154b)组入到在图像处理部150a和图像处理部150b中分别构成的流水线内的位置在内的流水线结构,以使得由图像处理部150a和图像处理部150b分别分担流水线处理,任意1个图像处理装置10(图像处理装置10a)所具备的信息输出部(通信接口部192a)将输入输出位置决定部180a决定出的流水线结构的信息向其他的图像处理装置10(在实施方式中是图像处理装置10b)所具备的信息输入部(通信接口部191b)输出,图像处理装置10a和图像处理装置10b分别具备的图像处理部150a内的输入输出用模块154a及图像处理部150b内的输入输出用模块154b向输入输出位置决定部180a决定出的或者对应的通信接口部191b接收到的流水线结构的信息所包含的输入输出用模块154a或输入输出用模块154b的位置组入输入输出用模块154a或输入输出用模块154b,来切换在图像处理部150a及图像处理部150b中构成的流水线中的处理模块彼此(在实施方式中是输入DMA模块152a、图像处理模块153-1a~图像处理模块153-3a、输入输出用模块154a、输出DMA模块155a彼此、以及输入DMA模块152b、图像处理模块153-1b~图像处理模块153-3b、输入输出用模块154b、输出DMA模块155b彼此)的连接。
此外,根据本实施方式,构成如下的摄像装置1:任意1个图像处理装置10(图像处理装置10a)所具备的输入输出位置决定部180(输入输出位置决定部180a)决定向在图像处理部150a和图像处理部150b中分别构成的流水线内组入输入输出用模块154a或输入输出用模块154b的位置,以使得在图像处理装置10a和图像处理装置10b中分别实施处理的各个处理部经由对应的数据总线(DMA总线110a或DMA总线110b)而访问数据存储部(DRAM70a或DRAM70b)时所需的DMA总线110a或DMA总线110b的带宽的合计成为与对应的DMA总线110a连接的DRAM70a或者与DMA总线110b连接的DRAM70b中的(能够访问的)最大的带宽以内。
此外,根据本实施方式,构成如下的摄像装置1:将连接成一串的最终级的图像处理装置10(在实施方式中是图像处理装置10b)所具备的输入输出用模块154b的输出(外部输出接口部162b)与第一级的图像处理装置10(在实施方式中是图像处理装置10a)所具备的输入输出用模块154a的输入(外部输入接口部161a)连接,从而将全部的图像处理装置10(图像处理装置10a和图像处理装置10b)呈圆环状地连接,将图像处理装置10a和图像处理装置10b分别处理后的数据(处理图像数据)聚集到与任意1个图像处理装置10(在实施方式中是图像处理装置10a)的数据总线(DMA总线110a)连接的数据存储部(DRAM70a)。
此外,根据本实施方式,构成如下的摄像装置(摄像装置1):具备多个图像处理装置10(在实施方式中是图像处理装置10a和图像处理装置10b),图像处理装置10a和图像处理装置10b分别将前级的图像处理装置10a所具备的输入输出用模块154a的输出(外部输出接口部162b)与后级的图像处理装置10b所具备的输入输出用模块154b的输入(外部输入接口部161b)经由实施其他图像处理的外部图像处理装置(外部图像处理装置80)而连接,图像处理装置10a和图像处理装置10b分别具备的图像处理部150(图像处理部150a和图像处理部150b)内的连接切换部(输入输出用模块154a和输入输出用模块154b)按照任意1个图像处理装置10(在实施方式中是图像处理装置10a)所具备的输入输出位置决定部180(输入输出位置决定部180a)决定出的流水线结构的信息,来切换在图像处理部150a和图像处理部150b中构成的流水线中的处理模块彼此(在实施方式中是输入DMA模块152a、图像处理模块153-1a~图像处理模块153-3a、输入输出用模块154a、输出DMA模块155a彼此、以及输入DMA模块152b、图像处理模块153-1b~图像处理模块153-3b、输入输出用模块154b、输出DMA模块155b彼此)的连接。
如上所述,根据本发明的实施方式,在图像处理装置中实施流水线处理的图像处理部具备用于不经由DMA总线地与图像处理部的外部所具备的构成要素直接连接的输入输出用模块。即,在本发明的实施方式中,为了扩展在图像处理部中实现的图像处理而具备输入输出用模块,该输入输出用模块不经由DMA总线地与实施在图像处理部所具备的任意1个图像处理模块中都未实现的图像处理的图像处理装置直接连接。此外,在本发明的实施方式中,具备连接切换部,该连接切换部用于切换图像处理部所具备的各个处理模块的连接,即,切换在图像处理部中构成的流水线的连接。由此,在本发明的实施方式中,通过向在图像处理部中构成的流水线中组入输入输出用模块来作为图像处理模块,从而能够向图像处理部所具备的各个图像处理模块实施的流水线处理中的一系列图像处理组入图像处理部的外部所具备的构成要素实施的图像处理。
此外,在本发明的实施方式中,具备:动作检测部,其检测图像处理装置所具备的各个构成要素实施图像处理时的动作;以及输入输出位置决定部,其基于动作检测部检测到的各个构成要素中的动作,来决定图像处理部中的流水线结构,将决定出的流水线结构设定到连接切换部。而且,在本发明的实施方式中,输入输出位置决定部决定如下的图像处理部中的流水线结构:能够确保图像处理装置所具备的各个构成要素实施图像处理时所需的DMA总线的总线带宽,即,能够避免特定的DMA总线中的总线带宽的压迫。由此,在本发明的实施方式中,能够避免由图像处理装置所具备的图像处理部所产生的DMA总线的总线带宽的压迫所引起的、图像处理装置所具备的各个构成要素进行图像处理的处理能力(速度)的下降。
此外,在本发明的实施方式中,在由多个图像处理装置构成了摄像装置的情况下,构成由多个各个图像处理装置所具备的图像处理部分担地实施流水线处理中的一系列图像处理的流水线。由此,在本发明的实施方式中,即便在作为摄像装置中的整体处理而实施多个图像处理的情况下,也能够避免由任意1个图像处理装置所具备的图像处理部产生的DMA总线的总线带宽的压迫所引起的图像处理装置所具备的各个构成要素进行图像处理的处理能力(速度)的下降。
另外,在本发明的实施方式中,说明了具备2个或3个图像处理装置的摄像装置。但是,摄像装置所具备的图像处理装置的数量不限于上述的2个或3个。即,也可以构成具备更多的图像处理装置的摄像装置。在该情况下,任意1个图像处理装置10与本发明的实施方式所示的图像处理装置10a同样地决定摄像装置1所具备的各个图像处理装置10所具备的图像处理部150中的流水线结构。然后,决定出流水线结构的图像处理装置10将决定出的流水线结构的信息经由通信接口部192向其他的图像处理装置10输出(传输),其他的图像处理装置10分别按照从决定出流水线结构的图像处理装置10输出的流水线结构的信息,来构成图像处理部150中的流水线。
另外,在本发明的实施方式中,说明了在图像处理装置中构成流水线的情况。但是,关于通过流水线结构实施一系列处理的处理装置,除了图像处理装置之外还考虑各种处理装置。此外,要求分担流水线结构中的一系列处理的系统也除了摄像装置之外还考虑各种系统。因此,能够应用本发明的考虑方法的处理装置和系统不限于本发明的实施方式所示的图像处理装置和摄像装置,只要是搭载有利用通过串联连接多个处理模块而构成的流水线来实施流水线处理的处理装置的系统,则能够同样地应用本发明的考虑方法,能够得到与本发明相同的效果。
以上,对本发明的优选实施方式进行了说明,但本发明不限于这些实施方式及其变形例。在不脱离本发明的主旨的范围内能够进行结构的附加、省略、置换及其他变更。
此外,本发明不通过前述的说明来限定,仅通过附加的权利要求书来限定。
产业利用性
根据上述实施方式,能够确保图像处理装置所具备的各个处理块访问共享的DRAM所需的总线带宽。
标号说明
1、2、3、4、5、51、52:摄像装置;
10、10a、10b、10c:图像处理装置;
110、110a、110b:DMA总线(数据总线);
120、120a、120b:成像器接口部;
130、130a、130b:摄像处理部(处理部);
140、140a、140b:CPU;
150、150a、150b:图像处理部(处理部、图像处理部);
151、151a、151b:连接切换部;
152、152a、152b:输入DMA模块(处理部、图像处理部);
153-1、153-1a、153-1b、153-2、153-2a、153-2b、153-3、153-3a、153-3b:图像处理模块(处理模块);
154、154a、154b:输入输出用模块;
155、155a、155b:输出DMA模块(处理部、图像处理部);
161、161a、161b:外部输入接口部(处理部、图像处理部、输入输出用模块);
162、162a、162b:外部输出接口部(处理部、图像处理部、输入输出用模块);
170、170a、170b:动作检测部;
180、180a、180b:输入输出位置决定部;
191、191a、191b:通信接口部(信息输入部);
192、192a、192b:通信接口部(信息输出部);
200、200a、200b:数字信号处理器(处理部);
210、210a、210b:显示处理部(处理部);
220、220a、220b:视频接口部;
230、230a、230b:存储卡接口部(处理部);
240、240a、240b:高速串行接口部(处理部);
70、70a、70b:DRAM(数据存储部);
80、81、82、83:外部图像处理装置。
Claims (8)
1.一种图像处理装置,具备多个处理部,该多个处理部与共通的数据总线连接,且对从与所述数据总线连接的数据存储部经由所述数据总线读出的数据实施预先决定的处理,其中,
至少1个所述处理部是如下的图像处理部,该图像处理部具备:多个处理模块,它们对输入的数据实施预先决定的处理;作为所述处理模块而进行动作的输入输出用模块,其不经由所述数据总线地与外部之间直接输入输出数据;以及连接切换部,其按照所输入的设定来切换所述处理模块彼此的连接从而变更流水线结构,该图像处理部通过构成所述流水线的各个所述处理模块来实施流水线处理,
该图像处理装置具备:
动作检测部,其对各个所述处理部的动作进行检测;
输入输出位置决定部,其基于所述动作检测部检测到的各个所述处理部的动作的信息,来决定所述图像处理部中的所述流水线结构;
信息输出部,其将所述输入输出位置决定部决定出的所述流水线结构的信息向外部输出;以及
信息输入部,其从外部接收所述流水线结构的信息,
所述连接切换部按照所述输入输出位置决定部决定出的所述流水线结构的信息或者所述信息输入部接收到的所述流水线结构的信息,来切换构成所述流水线的所述处理模块彼此的连接。
2.根据权利要求1所述的图像处理装置,其中,
所述动作检测部检测各个所述处理部进行的伴有经由所述数据总线对所述数据存储部的访问的动作,作为各个所述处理部的动作,
所述输入输出位置决定部决定用于划分在所述图像处理部中实施的流水线处理的所述流水线结构,以使得各个所述处理部经由所述数据总线访问所述数据存储部时需要的所述数据总线的带宽的合计成为与所述数据总线连接的所述数据存储部中的最大的带宽以内。
3.根据权利要求2所述的图像处理装置,其中,
所述输入输出位置决定部决定向在所述图像处理部中构成的所述流水线内组入所述输入输出用模块的位置,以划分在所述图像处理部中实施的流水线处理。
4.一种摄像装置,其中,
该摄像装置具备多个权利要求2所述的图像处理装置,
各个所述图像处理装置通过将前级的所述图像处理装置所具备的所述输入输出用模块的输出与后级的所述图像处理装置所具备的所述输入输出用模块的输入连接而连接成一串,
各个所述图像处理装置所具备的所述图像处理部内的所述连接切换部按照任意1个所述图像处理装置所具备的所述输入输出位置决定部决定出的所述流水线结构的信息,来切换在所述图像处理部中构成的所述流水线中的所述处理模块彼此的连接。
5.根据权利要求4所述的摄像装置,其中,
所述任意1个所述图像处理装置所具备的所述输入输出位置决定部基于对应的所述动作检测部检测到的各个所述处理部的动作的信息,来决定向在各个所述图像处理部中构成的所述流水线内组入所述输入输出用模块的位置,以使得由各个所述图像处理部分担流水线处理,
所述任意1个所述图像处理装置所具备的所述信息输出部将所述输入输出位置决定部决定出的所述流水线结构的信息向其他的所述图像处理装置所具备的所述信息输入部输出,
各个所述图像处理装置所具备的所述图像处理部内的所述连接切换部将所述输入输出用模块组入如下位置,来切换在所述图像处理部中构成的所述流水线中的所述处理模块彼此的连接,其中,该位置是在所述输入输出位置决定部决定出的所述流水线结构的信息或者对应的所述信息输入部接收到的所述流水线结构的信息中包含的所述输入输出用模块的位置。
6.根据权利要求5所述的摄像装置,其中,
所述任意1个所述图像处理装置所具备的所述输入输出位置决定部决定向在各个所述图像处理部中构成的所述流水线内组入所述输入输出用模块的位置,以使得在各个所述图像处理装置中实施处理的各个所述处理部经由对应的所述数据总线而访问所述数据存储部时需要的所述数据总线的带宽的合计成为与对应的所述数据总线连接的所述数据存储部中的最大的带宽以内。
7.根据权利要求6所述的摄像装置,其中,
将连接成所述一串的最终级的所述图像处理装置所具备的所述输入输出用模块的输出与第一级的所述图像处理装置所具备的所述输入输出用模块的输入连接,从而将全部的所述图像处理装置呈圆环状地连接,
将各个所述图像处理装置处理后的数据聚集到与任意1个所述图像处理装置的所述数据总线连接的所述数据存储部。
8.一种摄像装置,其中,
该摄像装置具备多个权利要求2所述的图像处理装置,
各个所述图像处理装置将前级的所述图像处理装置所具备的所述输入输出用模块的输出与后级的所述图像处理装置所具备的所述输入输出用模块的输入经由实施其他图像处理的外部图像处理装置而连接,
各个所述图像处理装置所具备的所述图像处理部内的所述连接切换部按照任意1个所述图像处理装置所具备的所述输入输出位置决定部决定出的所述流水线结构的信息,来切换在所述图像处理部中构成的所述流水线中的所述处理模块彼此的连接。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/026672 WO2019021344A1 (ja) | 2017-07-24 | 2017-07-24 | 画像処理装置および撮像装置 |
JPPCT/JP2017/026672 | 2017-07-24 | ||
PCT/JP2018/025840 WO2019021793A1 (ja) | 2017-07-24 | 2018-07-09 | 画像処理装置および撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110678897A CN110678897A (zh) | 2020-01-10 |
CN110678897B true CN110678897B (zh) | 2022-09-27 |
Family
ID=65040035
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780087647.4A Active CN110366740B (zh) | 2017-07-24 | 2017-07-24 | 图像处理装置和摄像装置 |
CN201880035737.3A Active CN110678897B (zh) | 2017-07-24 | 2018-07-09 | 图像处理装置及摄像装置 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780087647.4A Active CN110366740B (zh) | 2017-07-24 | 2017-07-24 | 图像处理装置和摄像装置 |
Country Status (3)
Country | Link |
---|---|
US (2) | US20200005425A1 (zh) |
CN (2) | CN110366740B (zh) |
WO (2) | WO2019021344A1 (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019021344A1 (ja) * | 2017-07-24 | 2019-01-31 | オリンパス株式会社 | 画像処理装置および撮像装置 |
JP7157330B2 (ja) * | 2018-11-27 | 2022-10-20 | 富士通株式会社 | 監視装置、監視方法および監視プログラム |
JP7374505B2 (ja) * | 2021-03-30 | 2023-11-07 | 株式会社モルフォ | 画像処理装置、画像処理プログラム、及び、画像処理方法 |
CN113568666B (zh) * | 2021-06-07 | 2024-05-24 | 阿里巴巴创新公司 | 图像的处理方法、装置、存储介质和处理器 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101076121A (zh) * | 2006-05-17 | 2007-11-21 | 索尼株式会社 | 流生成装置、成像装置、数据处理装置和流生成方法 |
JP2009087202A (ja) * | 2007-10-02 | 2009-04-23 | Hitachi High-Technologies Corp | 画像処理部及び半導体検査装置 |
CN101655784A (zh) * | 2008-08-21 | 2010-02-24 | 株式会社东芝 | 流水线操作处理器和控制系统 |
JP2010073037A (ja) * | 2008-09-19 | 2010-04-02 | Kyocera Mita Corp | 画像処理装置 |
JP2013196509A (ja) * | 2012-03-21 | 2013-09-30 | Canon Inc | 情報処理装置及びその制御方法 |
JP2014182510A (ja) * | 2013-03-18 | 2014-09-29 | Pfu Ltd | データ処理装置及びクロック供給方法 |
JP2017004386A (ja) * | 2015-06-12 | 2017-01-05 | オリンパス株式会社 | 画像処理装置および画像処理方法 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030007703A1 (en) * | 2001-07-03 | 2003-01-09 | Roylance Eugene A. | Configurable image processing logic for use in image processing devices |
US20050248584A1 (en) * | 2004-05-10 | 2005-11-10 | Koji Takeo | Imaging system and image processing apparatus |
JP2005322049A (ja) * | 2004-05-10 | 2005-11-17 | Fuji Xerox Co Ltd | 画像処理装置およびプログラム |
JP4694264B2 (ja) * | 2005-06-03 | 2011-06-08 | 富士ゼロックス株式会社 | 画像処理装置、方法及びプログラム |
JP2008301090A (ja) | 2007-05-30 | 2008-12-11 | Ricoh Co Ltd | 画像処理装置 |
JP4442644B2 (ja) * | 2007-06-15 | 2010-03-31 | 株式会社デンソー | パイプライン演算装置 |
JP4909839B2 (ja) * | 2007-08-20 | 2012-04-04 | 株式会社リコー | 画像処理装置及び画像処理方法 |
JP5245803B2 (ja) * | 2008-12-18 | 2013-07-24 | 株式会社リコー | 画像処理装置及び画像処理モジュール |
JP5552855B2 (ja) * | 2010-03-19 | 2014-07-16 | 富士ゼロックス株式会社 | 画像処理装置、画像形成システム及び画像処理プログラム |
US8650151B2 (en) * | 2011-01-24 | 2014-02-11 | International Business Machines Corporation | Transactional service pipeline |
JP6046413B2 (ja) * | 2011-08-08 | 2016-12-14 | 三星ディスプレイ株式會社Samsung Display Co.,Ltd. | 表示装置及びその駆動方法 |
US9332239B2 (en) * | 2012-05-31 | 2016-05-03 | Apple Inc. | Systems and methods for RGB image processing |
US8879858B1 (en) * | 2013-10-01 | 2014-11-04 | Gopro, Inc. | Multi-channel bit packing engine |
WO2017149591A1 (ja) * | 2016-02-29 | 2017-09-08 | オリンパス株式会社 | 画像処理装置 |
JP6722278B2 (ja) * | 2016-04-11 | 2020-07-15 | オリンパス株式会社 | 画像処理装置 |
WO2019021344A1 (ja) * | 2017-07-24 | 2019-01-31 | オリンパス株式会社 | 画像処理装置および撮像装置 |
US10509762B2 (en) * | 2018-04-30 | 2019-12-17 | Intel IP Corporation | Data rate-adaptive data transfer between modems and host platforms |
-
2017
- 2017-07-24 WO PCT/JP2017/026672 patent/WO2019021344A1/ja active Application Filing
- 2017-07-24 CN CN201780087647.4A patent/CN110366740B/zh active Active
-
2018
- 2018-07-09 WO PCT/JP2018/025840 patent/WO2019021793A1/ja active Application Filing
- 2018-07-09 CN CN201880035737.3A patent/CN110678897B/zh active Active
-
2019
- 2019-09-12 US US16/568,578 patent/US20200005425A1/en not_active Abandoned
-
2020
- 2020-01-03 US US16/733,404 patent/US11468539B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101076121A (zh) * | 2006-05-17 | 2007-11-21 | 索尼株式会社 | 流生成装置、成像装置、数据处理装置和流生成方法 |
JP2009087202A (ja) * | 2007-10-02 | 2009-04-23 | Hitachi High-Technologies Corp | 画像処理部及び半導体検査装置 |
CN101655784A (zh) * | 2008-08-21 | 2010-02-24 | 株式会社东芝 | 流水线操作处理器和控制系统 |
JP2010073037A (ja) * | 2008-09-19 | 2010-04-02 | Kyocera Mita Corp | 画像処理装置 |
JP2013196509A (ja) * | 2012-03-21 | 2013-09-30 | Canon Inc | 情報処理装置及びその制御方法 |
JP2014182510A (ja) * | 2013-03-18 | 2014-09-29 | Pfu Ltd | データ処理装置及びクロック供給方法 |
JP2017004386A (ja) * | 2015-06-12 | 2017-01-05 | オリンパス株式会社 | 画像処理装置および画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
US20200005425A1 (en) | 2020-01-02 |
US20200143508A1 (en) | 2020-05-07 |
US11468539B2 (en) | 2022-10-11 |
CN110678897A (zh) | 2020-01-10 |
WO2019021344A1 (ja) | 2019-01-31 |
WO2019021793A1 (ja) | 2019-01-31 |
CN110366740A (zh) | 2019-10-22 |
CN110366740B (zh) | 2023-07-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110678897B (zh) | 图像处理装置及摄像装置 | |
US9531970B2 (en) | Imaging systems and methods using square image sensor for flexible image orientation | |
US20140071245A1 (en) | System and method for enhanced stereo imaging | |
US20070046783A1 (en) | Image pickup apparatus and image pickup method | |
JP4189252B2 (ja) | 画像処理装置及びカメラ | |
US20180191940A1 (en) | Image capturing device and control method thereof | |
US9007479B2 (en) | Imaging apparatus and evaluation value generation apparatus | |
US8908060B2 (en) | Imaging apparatus generating evaluation values at a high frame rate and having a live view function of displaying a video smoothly at a low frame rate | |
JP2008219317A (ja) | 撮像装置 | |
JP5996418B2 (ja) | 撮像装置および撮像方法 | |
US7683935B2 (en) | Imaging device | |
US8970766B2 (en) | Imaging device | |
JPWO2017187508A1 (ja) | 表示処理装置および撮像装置 | |
JP3709362B2 (ja) | ディジタルカメラ装置 | |
JP2014078919A (ja) | 撮像装置 | |
JP2004312072A (ja) | 画像処理装置及びカメラ、並びに画像処理方法 | |
US9979919B2 (en) | Solid-state imaging device and imaging system | |
JP2016040883A (ja) | 画像処理装置、画像処理方法、画像処理システム、及びプログラム | |
US9225908B2 (en) | Imaging apparatus | |
US11165956B2 (en) | Imaging apparatus | |
US11451699B2 (en) | Device for correcting and compressing image error data, and method related thereto | |
JP2009038635A (ja) | カメラ及び画像表示方法 | |
JP6764572B2 (ja) | イメージセンサ、および電子機器 | |
WO2020008522A1 (ja) | バス調停装置、バス調停システム、および撮像装置 | |
KR20160046561A (ko) | 영상 관리 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |