CN114830626A - 摄像装置、摄像装置的工作方法、程序及摄像系统 - Google Patents
摄像装置、摄像装置的工作方法、程序及摄像系统 Download PDFInfo
- Publication number
- CN114830626A CN114830626A CN202080086746.2A CN202080086746A CN114830626A CN 114830626 A CN114830626 A CN 114830626A CN 202080086746 A CN202080086746 A CN 202080086746A CN 114830626 A CN114830626 A CN 114830626A
- Authority
- CN
- China
- Prior art keywords
- image
- image data
- processor
- processing
- position information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 237
- 238000000034 method Methods 0.000 title claims description 83
- 238000012545 processing Methods 0.000 claims abstract description 304
- 230000015654 memory Effects 0.000 claims abstract description 118
- 238000006243 chemical reaction Methods 0.000 claims description 56
- 230000008569 process Effects 0.000 claims description 31
- 238000001514 detection method Methods 0.000 claims description 13
- 239000002131 composite material Substances 0.000 claims description 11
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 238000005516 engineering process Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 18
- 238000003860 storage Methods 0.000 description 17
- 230000006870 function Effects 0.000 description 15
- 238000004891 communication Methods 0.000 description 13
- 102220473731 Ras-related protein Rab-5A_F57A_mutation Human genes 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 8
- 238000010801 machine learning Methods 0.000 description 4
- 239000013589 supplement Substances 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000003213 activating effect Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000005520 cutting process Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000002360 preparation method Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 229910052802 copper Inorganic materials 0.000 description 2
- 239000010949 copper Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000011017 operating method Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000003936 working memory Effects 0.000 description 2
- 241000271566 Aves Species 0.000 description 1
- 101100027969 Caenorhabditis elegans old-1 gene Proteins 0.000 description 1
- 241000238631 Hexapoda Species 0.000 description 1
- 241001465754 Metazoa Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
- H04N25/44—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Studio Devices (AREA)
Abstract
摄像装置具备成像元件和第2处理器。成像元件内置有存储器和第1处理器,所述存储器存储通过以第1帧速率拍摄而获得的图像数据,所述第1处理器以独立于第1帧速率的第2帧速率输出图像数据。图像数据从第1处理器输入到第2处理器。第1处理器获取表示图像数据中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息。第2处理器根据位置信息对图像识别区域进行图像识别处理。
Description
技术领域
本发明的技术涉及一种摄像装置、摄像装置的工作方法、程序及摄像系统。
背景技术
日本特开2017-055231号公报中公开了一种图像处理装置,其具备主被摄体确定部和学习部。主被摄体确定部将从拍摄动态图像的摄像部连续输出的图像作为处理对象,确定在图像中拍摄有作为对焦对象的被摄体即主被摄体的主被摄体区域。学习部根据处理对象的图像与在该图像之前作为处理对象的特定的图像即前帧图像的差值,进行识别拍摄进图像中的主被摄体以外的其他被摄体的运动为规定大小以下的特定的区域的学习。
日本特开2017-060155号公报中公开了一种成像元件,其具备像素部、读出部及输出部。在像素部配置有对来自被摄体的光进行光电转换的多个像素。读出部从像素部读出信号。输出部将像素部的整个区域的像素的信号作为由读出部读出的信号中的用于生成图像的信号输出到成像元件的外部,并且将像素部的一部分区域的像素的信号作为用于计算用于具备成像元件的装置的驱动控制的评价值的信号输出到成像元件的外部。
日本特开2018-078609号公报中公开了一种成像元件,其具备多个单位像素、运算处理部及信号输出部。多个单位像素配置成矩阵状,且各自具有将入射的光转换成电荷的第1光电转换部和第2光电转换部。运算处理部对基于由第1光电转换部转换的电荷的A信号和基于由第2光电转换部转换的电荷的B信号实施规定运算处理。信号输出部将由运算处理部实施规定运算处理的信号输出到外部。
日本特开2014-178603号公报中公开了一种摄像装置,其具备摄像构件、关注区域确定构件、控制构件及焦点检测构件。摄像构件具有多个摄像区域,且生成与入射到摄像区域的光像对应的图像信号。关注区域确定构件根据从摄像构件输出的图像信号,确定图像信号所表示的图像的关注区域。控制构件具有:第1控制部,进行控制以使在第1摄像条件下对多个摄像区域中入射了与关注区域对应的光像的摄像区域进行拍摄;及第2控制部,进行控制以使在与第1摄像条件不同的第2摄像条件下对多个摄像区域中入射了与关注区域对应的光像的摄像区域以外的摄像区域进行拍摄。焦点检测构件检测关注区域的焦点调节状态。在摄像装置中,其特征在于,第1控制部进行控制,以使以比第2控制部高的帧速率进行拍摄。
发明内容
本发明的技术所涉及的一个实施方式提供一种与在成像元件内对图像识别区域进行图像识别处理的情况相比,减轻成像元件的处理负荷的摄像装置、摄像装置的工作方法、程序及摄像系统。
用于解决技术课题的手段
本发明的技术所涉及的第1方式是一种摄像装置,其具备:成像元件,内置有存储器和第1处理器,所述存储器存储通过以第1帧速率拍摄而获得的图像数据,所述第1处理器以独立于第1帧速率的第2帧速率输出图像数据;及第2处理器,输入从第1处理器输出的所述图像数据。第1处理器获取表示图像数据中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息。第2处理器根据位置信息对图像识别区域进行图像识别处理。
本发明的技术所涉及的第2方式是根据第1方式所述的摄像装置,其中,位置信息是表示图像数据中的图像识别区域的位置的坐标。
本发明的技术所涉及的第3方式是根据第1方式或第2方式所述的摄像装置,其中,第1处理器根据图像数据的帧之间的差值,从图像数据中检测图像识别区域,并根据检测结果获取位置信息。
本发明的技术所涉及的第4方式是根据第1方式至第3方式中任一个方式所述的摄像装置,其中,第1处理器以第2帧速率输出作为图像数据中的一部分的部分图像数据和位置信息,部分图像数据包含图像识别区域。
本发明的技术所涉及的第5方式是根据第4方式所述的摄像装置,其中,部分图像数据仅包含图像识别区域。
本发明的技术所涉及的第6方式是根据第4方式或第5方式所述的摄像装置,其中,第1处理器以第2帧速率输出对图像数据进行间隔剔除的间隔剔除图像数据、部分图像数据及位置信息。
本发明的技术所涉及的第7方式是根据第1方式至第6方式中任一个方式所述的摄像装置,其中,位置信息是根据第1处理器对以第1间隔剔除率对图像数据进行间隔剔除的第1间隔剔除图像数据进行的图像识别区域的检测结果获得的信息。
本发明的技术所涉及的第8方式是根据第7方式所述的摄像装置,其中,第2处理器在显示器上显示由第1间隔剔除图像数据表示的图像作为显示用动态图像。
本发明的技术所涉及的第9方式是根据第4方式至第6方式中任一个方式所述的摄像装置,其中,第2处理器对以第2间隔剔除率对图像数据或部分图像数据进行间隔剔除的第2间隔剔除图像数据进行图像识别处理。
本发明的技术所涉及的第10方式是根据第9方式所述的摄像装置,其中,对图像数据进行间隔剔除的第1间隔剔除率与第2间隔剔除率不同。
本发明的技术所涉及的第11方式是根据第10方式所述的摄像装置,其中,第2间隔剔除率低于第1间隔剔除率。
本发明的技术所涉及的第12方式是根据第1方式或第2方式所述的摄像装置,其中,第1处理器以与第2帧速率不同的第3帧速率输出作为图像数据中的一部分的部分图像数据和位置信息,由部分图像数据表示的图像包含图像识别区域,第3帧速率根据第2处理器的处理速度来确定。
本发明的技术所涉及的第13方式是根据第1方式或第2方式所述的摄像装置,其中,第1处理器通过合成以第1帧速率获得的多个帧量的图像数据来制作1帧量的合成图像数据,位置信息是根据第1处理器对由合成图像数据表示的图像进行的图像识别区域的检测结果获得的信息。
本发明的技术所涉及的第14方式是根据第1方式至第13方式中任一个方式所述的摄像装置,其中,成像元件是至少将光电转换元件和存储器单芯片化而成的成像元件。
本发明的技术所涉及的第15方式是根据第14方式所述的摄像装置,其中,成像元件是光电转换元件与存储器层叠而成的层叠型成像元件。
本发明的技术所涉及的第16方式是一种摄像装置的工作方法,所述摄像装置具备:成像元件,内置有存储器和第1处理器,所述存储器存储通过以第1帧速率拍摄而获得的图像数据,所述第1处理器以独立于第1帧速率的第2帧速率输出图像数据;及第2处理器,输入从第1处理器输出的图像数据,所述摄像装置的工作方法包括以下步骤:第1处理器获取表示图像数据中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,第2处理器根据位置信息对图像识别区域进行图像识别处理。
本发明的技术所涉及的第17方式是一种程序,其用于使适用于摄像装置的计算机执行处理,所述摄像装置具备:成像元件,内置有存储器和第1处理器,所述存储器存储通过以第1帧速率拍摄而获得的图像数据,所述第1处理器以独立于第1帧速率的第2帧速率输出图像数据;及第2处理器,输入从第1处理器输出的图像数据,所述处理包括以下步骤:第1处理器获取表示图像数据中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,第2处理器根据位置信息对图像识别区域进行图像识别处理。
本发明的技术所涉及的第18方式是一种摄像系统,其包括:多个摄像装置,分别具有拍摄摄像区域的光电转换元件、存储通过由光电转换元件拍摄而获得的图像数据的存储器及输出图像数据的处理器;及主计算机,设置在多个摄像装置各自的后级,从处理器输入图像数据,处理器获取表示由图像数据表示的图像中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,主计算机根据位置信息对图像识别区域进行图像识别处理。
附图说明
图1是表示第1~第4实施方式所涉及的摄像装置的外观的一例的立体图。
图2是表示图1所示的摄像装置的背面侧的外观的一例的后视图。
图3是表示第1~第4实施方式所涉及的摄像装置的结构的一例的框图。
图4是表示第1~第4实施方式所涉及的摄像装置所包含的摄像装置主体的电气系统的硬件结构的一例的框图。
图5是表示第1~第4实施方式所涉及的摄像装置所包含的成像元件的层叠结构的一例的概念图。
图6是表示第1实施方式所涉及的摄像装置所包含的成像元件的电气系统的硬件结构的一例的框图。
图7是表示第1~第4实施方式所涉及的摄像装置中的光电转换元件的像素排列及数字图像数据的处理的一例的概念图。
图8是表示通过第1~第4实施方式所涉及的成像元件所包含的第1间隔剔除电路进行的第1间隔剔除处理的内容的一例的概念图。
图9是用于说明作为用于获取被摄体的位置信息的方法的一例的帧之间差值法的概念图。
图10是表示通过第1实施方式所涉及的成像元件所包含的图像切出电路进行的图像切出处理的内容的一例的概念图。
图11是表示第1~第4实施方式所涉及的后级电路的结构的一例的框图。
图12是表示在第1~第4实施方式中显示在显示器上的即时预览图像的一例的概念图。
图13是表示在第1~第4实施方式中显示在显示器上的重叠图像的一例的概念图。
图14是表示第1实施方式所涉及的第1图像处理流程的一例的流程图。
图15是表示第1实施方式所涉及的第2图像处理流程的一例的流程图。
图16是表示第2实施方式所涉及的摄像装置所包含的成像元件的电气系统的硬件结构的一例的框图。
图17是表示第2实施方式所涉及的部分图像数据的一例的概念图。
图18是表示第3实施方式所涉及的摄像装置所包含的成像元件的电气系统的硬件结构的一例的框图。
图19是用于说明第3实施方式所涉及的成像元件的图像合成处理的概念图。
图20是表示第4实施方式所涉及的摄像装置所包含的成像元件的电气系统的硬件结构的一例的框图。
图21是表示从存储有程序的存储介质将程序安装于后级电路内的计算机中的方式的一例的概念图。
图22是表示第5实施方式所涉及的监控摄像机的外观的一例的立体图。
具体实施方式
以下,按照附图对本发明的技术所涉及的摄像装置的实施方式的一例进行说明。
首先,对在以下说明中使用的术语进行说明。
CPU是指“Central Processing Unit:中央处理器”的简称。GPU是指“GraphicsProcessing Unit:图形处理单元”的简称。RAM是指“Random Ac cess Memory:随机存取存储器”的简称。ROM是指“Read Only Memory:只读存储器”的简称。DRAM是指“DynamicRandom Access Memory:动态随机存取存储器”的简称。SRAM是指“Static Random AccessMemory:静态随机存取存储器”的简称。LSI是指“Large-Scale Integration:大规模集成”的简称。ASIC是指“Application Specific Integrated Circuit:专用集成电路”的简称。PLD是指“Programmable Logic Device:可编程逻辑器件”的简称。FPGA是指“Field-Programmable Gate Array:现场可编程门阵列”的简称。SoC是指“System-on-a-chip:片上系统”的简称。SSD是指“Solid Sta te Drive:固态硬盘”的简称。USB是指“UniversalSerial Bus:通用串行总线”的简称。HDD是指“Hard Disk Drive:硬盘驱动器”的简称。EEPROM是指“Electrically Erasable and Programmable Read Only Memory:电可擦除可编程只读存储器”的简称。CCD是指“Charge Coupled Device:电荷耦合器件”的简称。CMOS是指“Complementary Metal Oxide Semiconductor:互补金属氧化物半导体”的简称。EL是指“Electro-Luminescence:电致发光”的简称。A/D是指“Analog/Digital:模拟/数字”的简称。I/F是指“In terface:接口”的简称。UI是指“User Interface:用户界面”的简称。LVD S是指“Low Voltage Differential Signaling:低压差值信号”的简称。PCI e(注册商标)是指“Peripheral Component Interconnect Express:快速外设组件互连”的简称。SATA是指“Serial Advanced Technology Attachmen t:串行高级技术附件”的简称。SLVS-EC是指“Scalable Low Voltage Signa ling with Embedded Clock:嵌入式时钟可伸缩低压信令”的简称。MIPI(注册商标)是指“Mobile Industry Processor Interface:移动工业处理器接口”的简称。HDMI(注册商标)是指“High-Definition Multimedia Interfa ce:高清多媒体接口”的简称。fps是指“frame per second:每秒帧数”的简称。
在以下说明中,“检测被摄体”是指例如,检测表示被摄体的被摄体图像数据。并且,“识别被摄体”是指例如,识别被摄体图像数据。
[第1实施方式]
作为一例,如图1所示,摄像装置10是镜头可换式且省略了反光镜的数码相机。摄像装置10具备摄像装置主体12和可更换地安装于摄像装置主体12上的可更换镜头14。另外,在此,作为摄像装置10的一例,举出了镜头可换式且省略了反光镜的数码相机,但本发明的技术并不限定于此,摄像装置10可以是镜头固定式等其他种类的数码相机。
在摄像装置主体12上设置有成像元件38。在可更换镜头14安装于摄像装置主体12上的情况下,表示被摄体的被摄体光透过可更换镜头14在成像元件38上成像,由成像元件38生成表示被摄体的图像的图像数据(例如,参考图9及图10)。
在摄像装置主体12上设置有混合式取景器(注册商标)16。在此,混合式取景器16是指例如选择性地使用光学取景器(以下,称为“OVF”)及电子取景器(以下,称为“EVF”)的取景器。另外,OVF是指“optical viewfind er”的简称。并且,EVF是指“electronicviewfinder”的简称。
在摄像装置主体12的前表面上设置有取景器切换杆18。通过使取景器切换杆18沿箭头SW方向转动,从而切换能够用OVF视觉辨认的光学像和能够用EVF视觉辨认的电子图像即即时预览图像。在此,“即时预览图像”是指基于通过由成像元件38拍摄而获得的图像数据的显示用动态图像。即时预览图像通常也被称为实时取景图像。在摄像装置主体12的上表面设置有释放按钮20及转盘23。在设定摄像系统的动作模式及回放系统的动作模式等时操作转盘23,由此在摄像装置10中,选择性地设定摄像模式和回放模式作为动作模式。
释放按钮20作为摄像准备指示部及摄像指示部而发挥功能,并能够检测摄像准备指示状态和摄像指示状态这两个阶段的按压操作。摄像准备指示状态例如是指从待机位置被按下至中间位置(半按位置)的状态,摄像指示状态是指被按下至超过中间位置的最终按下位置(全按位置)的状态。另外,以下,将“从待机位置被按下至半按位置的状态”称为“半按状态”,将“从待机位置被按下至全按位置的状态”称为“全按状态”。
作为一例,如图2所示,在摄像装置主体12的背面上设置有触摸面板显示器24、指示键27及取景器目镜部30。
触摸面板显示器24具备显示器26及触摸面板28(也参考图4)。作为显示器26的一例,可举出有机EL显示器。显示器26也可以不是有机EL显示器,而是液晶显示器等其他种类的显示器。
关于EVF的显示,由于等同于显示器26的显示,因此以下省略说明,在本说明书中,对显示器26的显示能够替换为对EVF的显示。
显示器26显示图像及字符信息等。显示器26用于显示当摄像装置10为摄像模式时通过连续拍摄而获得的即时预览图像。并且,显示器26还用于显示将后述的图像识别处理的结果重叠在即时预览图像上的重叠图像。并且,显示器26也用于显示当被赋予静止图像用拍摄的指示时通过拍摄而获得的静止图像。而且,显示器26也用于显示当摄像装置10为回放模式时的回放图像及菜单画面等。
触摸面板28是透射型触摸面板,与显示器26的显示区域的表面重叠。触摸面板28通过检测基于手指或触控笔等指示体的接触来接受来自用户的指示。
另外,在此,作为触摸面板显示器24的一例,举出了触摸面板28与显示器26的显示区域的表面重叠的外挂型触摸面板显示器,但这仅为一例。例如,作为触摸面板显示器24,也能够适用外嵌型或内嵌型触摸面板显示器。
指示键27接受各种指示。在此,“各种指示”例如是指能够选择各种菜单的菜单画面的显示指示、一个或多个菜单的选择指示、选择内容的确定指示、选择内容的擦除指示、放大、缩小及帧传送等各种指示等。
作为一例,如图3所示,可更换镜头14具有成像透镜40。成像透镜40具备物镜40A、聚焦透镜40B及光圈40C。物镜40A、聚焦透镜40B及光圈40C从被摄体侧(物体侧)到摄像装置主体12侧(像侧),沿着光轴L1,按照物镜40A、聚焦透镜40B及光圈40C的顺序配置。聚焦透镜40B及光圈40C通过受到来自马达等驱动源(省略图示)的动力而进行工作。即,聚焦透镜40B根据所施加的动力沿着光轴L1移动。并且,光圈40C通过根据所施加的动力而进行工作来调节曝光。
摄像装置主体12具备后级电路13、UI系统器件17、机械快门41及成像元件38。后级电路13是位于成像元件38的后级的电路。后级电路13具有控制器15及信号处理电路34。控制器15与UI系统器件17、信号处理电路34及成像元件38连接,控制摄像装置10的整个电气系统。另外,后级电路13是本发明的技术所涉及的“第2处理器”的一例。
成像元件38具备具有受光面42A的光电转换元件42。在本实施方式中,成像元件38是CMOS图像传感器。并且,在此,作为成像元件38而例示出CMO S图像传感器,但本发明的技术并不限定于此,例如即使成像元件38是CCD图像传感器等其他种类的图像传感器,本发明的技术也成立。
机械快门41通过受到来自马达等驱动源(省略图示)的动力而进行工作。在可更换镜头14安装于摄像装置主体12的情况下,表示被摄体的被摄体光透过成像透镜40,经由机械快门41在受光面42A上成像。
UI系统器件17是向用户提供信息或接受来自用户的指示的器件。控制器15从UI系统器件17获取各种信息,并控制UI系统器件17。
成像元件38与控制器15连接,通过在控制器15的控制下拍摄被摄体,生成表示被摄体的图像的图像数据。
成像元件38与信号处理电路34连接。信号处理电路34是LSI,具体而言,是包含ASIC及FPGA的器件。控制器15从信号处理电路34获取各种信息,并控制成像元件38。成像元件38在控制器15的控制下,将由光电转换元件42生成的图像数据输出到信号处理电路34。
信号处理电路34是对图像数据进行处理的电路。具体而言,信号处理电路34对从成像元件38输入的图像数据进行各种信号处理。由信号处理电路34进行的各种信号处理例如包括白平衡调整、清晰度调整、伽马校正、颜色空间转换处理及色差校正等公知的信号处理。
另外,由信号处理电路34进行的各种信号处理也可以由信号处理电路34和成像元件38分散进行。即,也可以设为使成像元件38的处理电路110承担由信号处理电路34进行的各种信号处理中的至少一部分。
另外,在本实施方式中,作为信号处理电路34例示了包含ASIC及FPGA的器件,但本发明的技术并不限定于此。例如,信号处理电路34可以是包含ASIC、FPGA或PLD的器件,也可以是包含FPGA及PLD的器件,也可以是包含ASIC及PLD的器件。
并且,信号处理电路34也可以是包含CPU、储存器(storage)及存储器(memory)的计算机。在此,储存器是指非易失性存储装置。作为非易失性存储装置的一例,可举出闪存,但并不限于此,也可以是EEPROM、HDD和/或SSD等。并且,存储器临时存储各种信息并用作工作存储器。作为存储器的一例,可举出RAM,但并不限于此,也可以是其他种类的存储装置。计算机所包含的CPU可以是单个,也可以是多个。并且,可以使用GPU来代替CPU。并且,信号处理电路34可以通过硬件结构及软件结构的组合来实现。
作为一例,如图4所示,控制器15具备CPU50、储存器51、存储器52、输入I/F57A及输出I/F57B。CPU50、储存器51、存储器52、输入I/F57A及输出I/F57B经由总线100连接。
另外,在图4所示的例子中,为了便于图示,作为总线100图示了1条总线,但也可以是多条总线。总线100可以是串行总线,也可以是包含数据总线、地址总线及控制总线等的并行总线。
储存器51存储各种参数及各种程序。储存器51是非易失性存储装置。在此,作为储存器51的一例,采用了闪存。闪存仅为一例,可以代替闪存或与闪存一起适用EEPROM、HDD和/或SSD等作为储存器51。并且,存储器52临时存储各种信息并用作工作存储器。作为存储器52的一例,可举出RAM,但并不限于此,也可以是其他种类的存储装置。
储存器51中存储有各种程序。CPU50从储存器51读出需要的程序,且在存储器52上执行所读出的程序。CPU50按照在存储器52上执行的程序来控制整个摄像装置10。
输出I/F57B与成像元件38连接。CPU50经由输出I/F57B控制成像元件38。例如,CPU50经由输出I/F57B对成像元件38提供规定进行摄像的定时的摄像定时信号,由此控制由成像元件38进行的摄像定时。成像元件38以根据从CPU50输入的摄像定时信号确定的第1帧速率进行拍摄。作为具体的第1帧速率的一例,可举出240fps,但并不限于此。第1帧速率可以是超过240fps的帧速率(例如,480fps),也可以是小于240fps的帧速率(例如,120fps)。
输入I/F57A与信号处理电路34连接。由信号处理电路34进行各种信号处理的图像数据由信号处理电路34输出到输入I/F57A。输入到输入I/F57A的图像数据存储在存储器52中。
外部I/F104与总线100连接。外部I/F104是由电路构成的通信器件。在此,作为外部I/F104例示了由电路构成的器件,但这仅为一例。外部I/F104也可以是包含ASIC、FPGA和/或PLD的器件。并且,外部I/F104可以通过硬件结构及软件结构的组合来实现。
作为外部I/F104的一例,可举出USB接口。智能器件、个人计算机、服务器、USB存储器、存储卡和/或打印机等外部装置(省略图示)能够与USB接口直接或间接连接。外部I/F104控制摄像装置10与外部装置之间的各种信息的授受。
UI系统器件17具备触摸面板显示器24及接受器件84。显示器26及触摸面板28与总线100连接。因此,CPU50使显示器26显示各种信息,并按照由触摸面板28接受的各种指示进行动作。
接受器件84具备硬键部25。硬键部25是多个硬键,具有释放按钮20(参考图1)、转盘23(参考图1及图2)及指示键27(参考图2)。硬键部25与总线100连接,CPU50获取由硬键部25接受的指示,按照所获取的指示进行动作。
作为一例,如图5所示,在成像元件38中内置有光电转换元件42、处理电路110及存储器112。成像元件38是本发明的技术所涉及的“成像元件”的一例。成像元件38是将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件。因此,光电转换元件42、处理电路110及存储器112被封装在一起。成像元件38通过在光电转换元件42上层叠处理电路110及存储器112而构成。具体而言,光电转换元件42及处理电路110通过铜等具有导电性的凸块(省略图示)彼此电连接,处理电路110及存储器112通过铜等具有导电性的凸块(省略图示)彼此电连接。
光电转换元件42是本发明的技术所涉及的“光电转换元件”的一例。处理电路110是本发明的技术所涉及的“第1处理器”的一例。存储器112是本发明的技术所涉及的“存储器”的一例。成像元件38是本发明的技术所涉及的“层叠型成像元件”的一例。
处理电路110例如是LSI。处理电路110也可以是包含ASIC及FPGA的器件。并且,处理电路110可以是包含ASIC、FPGA或PLD的器件,也可以是包含FPGA及PLD的器件,也可以是包含ASIC及PLD的器件。并且,处理电路110可以通过硬件结构及软件结构的组合来实现。
作为存储器112的一例,在此采用了DRAM。另外,即使存储器112是SRA M等其他种类的存储装置,本发明的技术也成立。
光电转换元件42具有配置成矩阵状的多个光电二极管。作为多个光电二极管的一例,可举出“4896×3265”像素量的光电二极管。
在光电转换元件42所包含的各光电二极管中配置有滤色器。滤色器包含最有助于用于得到亮度信号的与G(绿色)对应的G滤色器、与R(红色)对应的R滤色器及与B(蓝色)对应的B滤色器。
光电转换元件42具有R像素、G像素及B像素。R像素是与配置有R滤色器的光电二极管对应的像素,G像素是与配置有G滤色器的光电二极管对应的像素,B像素是与配置有B滤色器的光电二极管对应的像素。R像素、G像素及B像素在行方向(水平方向)及列方向(垂直方向)上分别具有规定的周期性。在本实施方式中,R像素、G像素及B像素以与X-Trans(注册商标)排列对应的周期性排列(参考图7)。另外,在此,例示了X-Trans排列,但本发明的技术并不限定于此,R像素、G像素及B像素的排列也可以是拜耳排列或蜂窝排列等。
成像元件38具有所谓的电子快门功能。根据从CPU50经由输出I/F57B输出的摄像定时信号使电子快门功能进行工作,由此控制光电转换元件42内的各光电二极管的电荷积蓄时间。电荷积蓄时间是指所谓的快门速度。从各光电二极管读出的电荷作为图像数据输出到后级电路13的信号处理电路34。
在成像元件38中,选择性地进行静止图像用拍摄和即时预览图像用拍摄。静止图像用拍摄通过启动电子快门功能且使机械快门41工作来实现,即时预览图像用拍摄通过不使机械快门41工作而启动电子快门功能来实现。另外,在此,例示了使用机械快门41的摄像,但机械快门41不是实现摄像所必需的,即使没有机械快门41,通过启动电子快门功能,也能够实现即时预览图像用拍摄及静止图像用拍摄。并且,在此,例示出滚动快门方式,但本发明的技术并不限于此,可以适用全局快门方式来代替滚动快门方式。
作为一例,如图6所示,处理电路110具备控制电路119、读出电路115、数字处理电路116、第1间隔剔除电路118、位置信息获取电路120、图像切出电路122及输入输出I/F113。输入输出I/F113包括输入I/F113A和输出I/F113B。控制电路119与存储器112、输入输出I/F113、读出电路115、数字处理电路116、第1间隔剔除电路118、位置信息获取电路120及图像切出电路122连接。
输入I/F113A与后级电路13的输出I/F57B连接。输入I/F113A经由输出I/F57B接受从CPU50输出的摄像定时信号。输入I/F113A将所接受的摄像定时信号传送到控制电路119。
读出电路115在控制电路119的控制下控制光电转换元件42,以第1帧速率从光电转换元件42读出模拟图像数据70。
具体而言,首先,输入I/F113A从后级电路13接受摄像定时信号,将所接受的摄像定时信号传送到控制电路119。接着,控制电路119将所传送的摄像定时信号传送到读出电路115。摄像定时信号包括垂直同步信号及水平同步信号。读出电路115按照从控制电路119传送的垂直同步信号开始从光电转换元件42以帧单位读出模拟图像数据70。并且,读出电路115按照从控制电路119传送的水平同步信号开始以水平行单位的模拟图像数据70的读出。
读出电路115对从光电转换元件42读出的模拟图像数据70进行模拟信号处理。模拟信号处理包括噪声消除处理及模拟增益处理等公知的处理。噪声消除处理是消除由光电转换元件42所包含的像素之间的特性的偏差引起的噪声的处理。模拟增益处理是对模拟图像数据70施加增益的处理。如此进行模拟信号处理的模拟图像数据70通过读出电路115输出到数字处理电路116。
数字处理电路116具备A/D转换器117。A/D转换器117对模拟图像数据70进行A/D转换。数字处理电路116对A/D转换后的图像数据进一步进行去马赛克处理。以下,例如,参考图7对去马赛克处理进行说明。
作为一例,如图7所示,在光电转换元件42中,R像素、G像素及B像素排列成X-Trans(注册商标)排列。通过使电子快门功能进行工作,从光电转换元件42各自的像素输出对应的颜色的电荷信号。即,从光电转换元件42输出的数据是由从各R像素输出的R像素数据、从各G像素输出的G像素数据及从各B像素输出的B像素数据构成的RAW数据。
在去马赛克处理中,使用配置在各像素的周围的其他颜色的像素数据,补充RGB成分中不足的颜色的成分。R像素用配置在周围的G像素的G像素数据和B像素的B像素数据来补充不足的颜色的成分。G像素用配置在周围的B像素的B像素数据和R像素的R像素数据来补充不足的颜色的成分。B像素用配置在周围的R像素的R像素数据和G像素的G像素数据来补充不足的颜色的成分。而且,对去马赛克处理后的图像数据进行数字增益处理。由此,生成各像素具有RGB成分的像素数据的数字图像数据71。如此,通过以第1帧速率拍摄而获得的数字图像数据71存储在存储器112中。
第1间隔剔除电路118(参考图6)进行第1间隔剔除处理。在此,间隔剔除处理是指从图像数据中仅提取特定的列、行或像素的数据而生成间隔剔除图像数据的处理。间隔剔除处理根据通过间隔剔除像素数相对于总像素数的比例(“间隔剔除像素数/总像素数”)求出的间隔剔除率来进行。
控制电路119能够对存储器112进行随机存取,从存储器112读出数字图像数据71,并将其输出到第1间隔剔除电路118。第1间隔剔除电路118对从控制电路119输入的数字图像数据71进行例如以3分之2(以下,称为“2/3”)的第1间隔剔除率对数字图像数据71进行间隔剔除的第1间隔剔除处理。
作为一例,如图8所示,由于第1间隔剔除率为“2/3”,因此第1间隔剔除电路118生成将垂直方向的水平行例如跳过2行而间隔剔除的第1间隔剔除图像数据73。即,第1间隔剔除图像数据73是仅提取数字图像数据71中第“3n-2”行的像素数据的数据。在此,n为正整数。第1间隔剔除电路118将第1间隔剔除图像数据73存储在存储器112中,且将其输出到位置信息获取电路120。在本实施方式中,第1间隔剔除率为“2/3”,但本发明的技术并不限于此。并且,第1间隔剔除电路118也可以跳过多行对水平方向的垂直行进行间隔剔除来代替对数字图像数据71的垂直方向的水平行进行间隔剔除。而且,第1间隔剔除电路118可以以像素单位对数字图像数据71进行间隔剔除。
位置信息获取电路120(参考图6)检测运动物体作为被摄体,检测包含被摄体的区域作为图像识别区域。图像识别区域是指作为使用在后级电路13的图像识别处理部66中进行的机器学习(例如,深度学习)的图像识别处理的处理对象的区域。位置信息获取电路120还进行获取所检测出的图像识别区域的位置信息的位置信息获取处理。位置信息获取电路120使用第1间隔剔除图像数据73进行图像识别区域的检测及位置信息获取处理。
作为一例,如图9所示,在位置信息获取处理中,使用以第1帧速率连续获取的3帧量的第1间隔剔除图像数据73。例如,由第1间隔剔除图像数据73表示的图像作为表示被摄体的被摄体图像,拍摄有从图中右方向向左方向移动的车辆。为了简化说明,将3帧量的第1间隔剔除图像数据73中最新的第1间隔剔除图像数据73称为第1间隔剔除帧73a。将最新的第二旧的第1间隔剔除图像数据73称为第2间隔剔除帧73b。将最旧的第1间隔剔除图像数据73称为第3间隔剔除帧73c。
位置信息获取电路120取连续获取的2帧量的第1间隔剔除图像数据73的差值,并进行二值化。即,位置信息获取电路120通过取第1间隔剔除帧73a与第2间隔剔除帧73b的帧之间的差值,获取二值化差值数据73d。并且,位置信息获取电路120通过取第2间隔剔除帧73b与第3间隔剔除帧73c的帧之间的差值,获取二值化差值数据73e。作为一例,在图9中,有差值的被摄体图像为白色,没有差值的背景图像为黑色,但也可以相反。并且,也可以取差值的绝对值,相对于差值的绝对值以规定值为边界,将大于规定值的部分设为白色,将小的部分设为黑色。
接着,位置信息获取电路120比较通过不同的帧之间运算获得的两个二值化差值数据,由此检测共同部分。在图9的例子中,通过比较作为二值化差值数据的73d及73e,能够获得位于中央的1辆车的共同部分。位置信息获取电路120检测共同部分作为后述的图像识别处理的处理对象的图像识别区域75,获取表示图像识别区域75的位置的位置信息76。如此,位置信息76是根据位置信息获取电路120对以第1间隔剔除率对数字图像数据71进行间隔剔除的第1间隔剔除图像数据73进行的图像识别区域75的检测结果获得的信息。
作为一例,位置信息获取电路120设定包围图像识别区域75的矩形框,获取框的右下坐标(X1,Y1)及左上坐标(X2,Y2)作为位置信息76。位置信息获取电路120将所获取的位置信息76存储在存储器112中,且将其输出到图像切出电路122。另外,在本实施方式中,作为位置信息76的一例,示出了矩形框的右下及左上的坐标,但位置信息76并不限于此。位置信息76例如可以是右上和左下的坐标。并且,代替使用矩形框的对角线上的2个角的坐标,位置信息76也可以包含矩形框的某一个角的坐标、矩形框的水平方向的长度及垂直方向的长度。并且,位置信息获取电路120也可以不设定包围图像识别区域75的矩形框,而以所检测出的图像识别区域75的像素单位获取坐标信息。
图像切出电路122(参考图6)根据数字图像数据71和位置信息76,进行从数字图像数据71中切出部分图像数据72的图像切出处理。控制电路119从存储器112读出数字图像数据71,并将其输出到图像切出电路122。图像切出处理是指从数字图像数据71中仅提取由位置信息76表示的坐标的图像数据,并作为部分图像数据72输出的处理。即,部分图像数据72是数字图像数据71中的一部分。
作为一例,如图10所示,控制电路119从存储器112读出与第2间隔剔除帧73b对应的数字图像数据71,并将其输出到图像切出电路122。图像切出电路122根据从位置信息获取电路120接收的位置信息76的坐标(X1,Y1)及(X2,Y2)切出数字图像数据71,由此生成矩形的部分图像数据72。
所切出的部分图像数据72仅包含图像识别区域75。图像切出电路122将所生成的部分图像数据72存储在存储器112中。另外,在本实施方式中,以部分图像数据72为矩形的情况为例进行了说明,但在所切出的部分图像数据72中不需要是矩形,也可以是圆形或椭圆形等任意的形状。并且,在以所检测出的图像识别区域75的像素单位获取坐标信息的情况下,图像切出电路122也可以以像素单位切出部分图像数据72。
存储器112中存储有数字图像数据71、第1间隔剔除图像数据73、位置信息76及部分图像数据72。控制电路119从存储器112读出第1间隔剔除图像数据73、位置信息76及部分图像数据72,经由输出I/F113B及输入I/F57A以第2帧速率输出到后级电路13。第2帧速率是独立于第1帧速率的帧速率。作为具体的第2帧速率的一例,可举出60fps,但并不限于此,可以是超过60fps的帧速率(例如,120fps),也可以是小于60fps的帧速率(例如,30fp s)。在此,第2帧速率小于第1帧速率,但本发明的技术并不限于此。第2帧速率可以大于第1帧速率,第1帧速率与第2帧速率也可以相等。
在第2帧速率小于第1帧速率的情况下,控制电路119通过以帧单位对以第1帧速率获取的第1间隔剔除图像数据73、位置信息76及部分图像数据72进行间隔剔除,降低帧速率而作为第2帧速率。例如,在第1帧速率为240fp s,且第2帧速率为60fps的情况下,控制电路119从4帧量的第1间隔剔除图像数据73、位置信息76及部分图像数据72中间隔剔除3帧,输出剩余的1帧量的第1间隔剔除图像数据73、位置信息76及部分图像数据72。
另一方面,在第2帧速率大于第1帧速率的情况下,控制电路119例如通过将以第1帧速率获取的1帧量的第1间隔剔除图像数据73、位置信息76及部分图像数据72连续输出多次,提高帧速率而作为第2帧速率。
作为一例,如图11所示,部分图像数据72、第1间隔剔除图像数据73及位置信息76输入到后级电路13并存储在存储器52中。后级电路13的储存器51中存储有程序60和学习完毕模型62。CPU50通过从储存器51在存储器52上执行程序60,作为第2间隔剔除处理部64及图像识别处理部66发挥功能。
第2间隔剔除处理部64对根据位置信息76生成的部分图像数据72进行第2间隔剔除处理。第2间隔剔除处理是指以第2间隔剔除率对部分图像数据72进行间隔剔除而生成第2间隔剔除图像数据74的处理。第2间隔剔除率是与第1间隔剔除率不同的间隔剔除率。在本实施方式中,第2间隔剔除率例如是2分之1(以下,称为“1/2”)。与图8所示的第1间隔剔除处理同样地,第2间隔剔除处理部64生成跳过1行对垂直方向的水平行进行间隔剔除的第2间隔剔除图像数据74,并将其存储在存储器52中。并且,在本实施方式中,第2间隔剔除率为“1/2”,但本发明的技术并不限于此。并且,第2间隔剔除处理部64也可以对水平方向的垂直行进行间隔剔除来代替对部分图像数据72的垂直方向的水平行进行间隔剔除。而且,第2间隔剔除处理部64可以以像素单位对部分图像数据72进行间隔剔除。
图像识别处理部66根据位置信息76对图像识别区域进行图像识别处理。在本实施方式中,图像识别区域是包含由位置信息获取电路120检测出的运动物体图像的区域。在此,运动物体图像是指表示运动被摄体的图像。
图像识别处理部66通过对以第2间隔剔除率对包含图像识别区域的部分图像数据72进行间隔剔除的第2间隔剔除图像数据74实施使用机器学习的图像识别处理来获取图像识别信息78。具体而言,图像识别处理部66通过执行图像识别处理,例如分两个阶段进行由第2间隔剔除图像数据74表示的第2间隔剔除图像所包含的运动物体图像的类别识别。在本发明的技术中,作为第1阶段的类别,可举出运动物体图像,例如,车辆、摩托车、飞机、自行车或船等表示交通工具的图像、或人、动物、鸟、或昆虫等表示生物的图像。
第2阶段的类别是用于进一步对通过第1阶段的类别识别分类为特定的类别的运动物体图像进行分类的子类别。例如,用于进一步识别在第1阶段中识别为属于“车辆”的运动物体图像的子类别包括车辆类型、颜色、制造商或型号等。例如,用于进一步识别在第1阶段中识别为属于“人物”的运动物体图像的子类别包括性别、种族、体型或年龄等。
存储在储存器51中的学习完毕模型62中收纳有通过过去的学习获得的模型,能够进行多个类别中的高精度的识别。而且,每次图像识别处理部66进行图像识别处理时,通过图像识别区域75进行新的学习,学习完毕模型62被更新。另外,在本实施方式中,图像识别处理部66进行了两个阶段的类别识别,但也可以由成像元件38的处理电路110进行第1阶段的类别识别,由图像识别处理部66进行第2阶段的类别识别。通过图像识别处理获得的图像识别信息78存储在存储器52中。
在第2间隔剔除处理中使用的第2间隔剔除率低于在第1间隔剔除处理中使用的第1间隔剔除率。因此,在由位置信息获取电路120进行的位置信息获取处理中,使用以间隔剔除率高的第1间隔剔除率进行间隔剔除的第1间隔剔除图像数据73,在短时间内获取图像识别区域75及位置信息76。另一方面,在由后级电路13的图像识别处理部66进行的图像识别处理中,使用以间隔剔除率低的第2间隔剔除率进行间隔剔除的第2间隔剔除图像数据74,能够获得精度良好的图像识别信息78。
摄像装置10具有在显示器26上显示即时预览图像的即时预览图像显示模式和显示即时预览图像所示的被摄体的图像识别结果的图像识别模式。在摄像装置10为即时预览图像显示模式的情况下,CPU50从存储器52读出第1间隔剔除图像数据73。作为一例,如图12所示,CPU50将由第1间隔剔除图像数据73表示的图像作为即时预览图像77显示在显示器26上。即时预览图像77是本发明的技术所涉及的“显示用动态图像”的一例。
在摄像装置10为图像识别模式的情况下,CPU50从存储器52读出第1间隔剔除图像数据73、位置信息76及图像识别信息78,并将其输出到显示器26。由此,作为一例,如图13所示,在显示器26上显示图像识别信息78重叠在由第1间隔剔除图像数据73表示的即时预览图像77(参考图12)上的重叠图像79。另外,在重叠图像79中,显示图像识别信息78的位置根据位置信息76表示的坐标来确定。
图13是例如对图9所示的图像识别区域75进行了图像识别处理的图。作为图像识别处理结果,图像识别信息78以对话气泡的形式重叠并显示在即时预览图像77上。图像识别处理结果中,首先包含作为第1阶段的类别识别结果的“车辆”,还包含作为第2阶段的类别识别结果的车辆类型、制造商、型号及颜色。另外,在图13的例子中显示了一种图像识别信息78,但在1帧的重叠图像79中显示的图像识别信息78的数量也可以是多个。
接着,参考图14及图15对本第1实施方式所涉及的摄像装置10的作用进行说明。图14示出由成像元件38执行的第1图像处理流程的一例。图15示出由后级电路13执行的第2图像处理流程的一例。为了便于说明,在不需要区分说明模拟图像数据70、数字图像数据71、部分图像数据72、第1间隔剔除图像数据73及第2间隔剔除图像数据74的情况下,简称为“图像数据”。
在图14所示的第1图像处理中,首先,在步骤S10中,控制电路119判定是否由输入I/F113A接受了摄像定时信号。在步骤S10中,在未由输入I/F113A接受摄像定时信号的情况下判定为“否”,第1图像处理再次执行步骤S10。在步骤S10中,在由输入I/F113A接受了摄像定时信号的情况下判定为“是”,第1图像处理转移到步骤S11。
在步骤S11中,进行摄像处理。控制电路119根据摄像定时信号控制读出电路115及数字处理电路116,由此成像元件38根据摄像定时信号以第1帧速率对被摄体进行拍摄,生成数字图像数据71。然后,第1图像处理转移到步骤S12。
在步骤S12中,数字处理电路116将所生成的数字图像数据71存储在存储器112中。然后,第1图像处理转移到步骤S13。
在步骤S13中,控制电路119从存储器112读出数字图像数据71,并将其输出到第1间隔剔除电路118。第1间隔剔除电路118根据第1间隔剔除率执行第1间隔剔除处理,生成第1间隔剔除图像数据73。然后,第1图像处理转移到步骤S14。
在步骤S14中,第1间隔剔除电路118将第1间隔剔除图像数据73存储在存储器112中。第1间隔剔除电路118还将第1间隔剔除图像数据73输出到位置信息获取电路120。然后,第1图像处理转移到步骤S15。
在步骤S15中,控制电路119判定摄像装置10是否为图像识别模式。在步骤S15中,在摄像装置10不是图像识别模式的情况下,即在摄像装置10是即时预览图像显示模式的情况下判定为“否”,第1图像处理转移到步骤S20。在步骤S15中,在摄像装置10是图像识别模式的情况下判定为“是”,第1图像处理转移到步骤S16。
在步骤S16中,位置信息获取电路120进行位置信息获取处理。位置信息获取处理是指获取数字图像数据71中的作为由后级电路13进行的图像识别处理的处理对象的图像识别区域75的位置信息的处理。在位置信息获取处理中,根据第1间隔剔除图像数据73获取图像识别区域75的位置信息76。然后,第1图像处理转移到步骤S17。
在步骤S17中,位置信息获取电路120将所获取的位置信息76存储在存储器112中。位置信息获取电路120还将位置信息76输出到图像切出电路122。然后,第1图像处理转移到步骤S18。
在步骤S18中,控制电路119从存储器112读出数字图像数据71,并将其输出到图像切出电路122。图像切出电路122根据从位置信息获取电路120输入的位置信息76,执行从数字图像数据71切出部分图像数据72的图像切出处理。然后,第1图像处理转移到步骤S19。
在步骤S19中,图像切出电路122将部分图像数据72存储在存储器112中。然后,第1图像处理转移到步骤S20。
在步骤S20中,控制电路119判定是否已到输出存储在存储器112中的数据的输出定时。输出定时设定为独立于第1帧速率的第2帧速率。在未到输出定时的情况下判定为“否”,第1图像处理转移到步骤S10。在步骤S20中,在已到输出定时的情况下判定为“是”,第1图像处理转移到步骤S21。
在步骤S21中,控制电路119读出存储在存储器112中的数据,经由输出I/F113B及输入I/F57A将其输出到后级电路13。在摄像装置10为即时预览图像显示模式的情况下,控制电路119从存储器112读出第1间隔剔除图像数据73,并将其输出到后级电路13。由此,即时预览图像显示在显示器26上。在摄像装置10为图像识别模式的情况下,控制电路119从存储器112读出第1间隔剔除图像数据73、位置信息76及部分图像数据72,并将其输出到后级电路13。由此,在显示器26上显示图像识别信息78重叠在即时预览图像上的重叠图像。然后,第1图像处理转移到步骤S22。
在步骤S22中,控制电路119判定是否满足结束第1图像处理的条件(以下,称为“第1图像处理结束条件”)。作为第1图像处理结束条件的一例,可举出由接受器件84(参考图4)接受结束摄像模式的指示的条件。在步骤S22中,在不满足第1图像处理结束条件的情况下判定为“否”,第1图像处理转移到步骤S10。在步骤S22中,在满足第1图像处理结束条件的情况下判定为“是”,第1图像处理结束。
接着,在图15所示的第2图像处理中,首先,在步骤S30中,CPU50判定是否由输入I/F57A接受了第1间隔剔除图像数据73。在步骤S30中,在未接受第1间隔剔除图像数据73的情况下判定为“否”,第2图像处理再次执行步骤S30。在步骤S30中,在接受了第1间隔剔除图像数据73的情况下判定为“是”,第2图像处理转移到步骤S31。
在步骤S31中,CPU50将第1间隔剔除图像数据73存储在存储器52中。然后,第2图像处理转移到步骤S32。
在步骤S32中,CPU50判定是否由输入I/F57A接受了位置信息76及部分图像数据72。在步骤S32中,在未接受位置信息76及部分图像数据72的情况下判定为“否”,第2图像处理转移到步骤S37。
在步骤S37中,CPU50从存储器52读出第1间隔剔除图像数据73,将由第1间隔剔除图像数据73表示的图像作为即时预览图像77显示在显示器26上。然后,第2图像处理转移到步骤S38。
另一方面,在步骤S32中,在接受了位置信息76及部分图像数据72的情况下判定为“是”,第2图像处理转移到步骤S33。
在步骤S33中,CPU50将位置信息76及部分图像数据72存储在存储器52中。然后,第2图像处理转移到步骤S34。
在步骤S34中,CPU50通过从储存器51读出程序60并在存储器52中执行,从而作为第2间隔剔除处理部64发挥功能。第2间隔剔除处理部64对部分图像数据72进行第2间隔剔除处理。第2间隔剔除处理是指根据第2间隔剔除率对部分图像数据72进行间隔剔除而生成第2间隔剔除图像数据74的处理。第2间隔剔除处理部64将所生成的第2间隔剔除图像数据74存储在存储器52中。然后,第2图像处理转移到步骤S35。
在步骤S35中,CPU50通过从储存器51读出程序60并在存储器52中执行,从而作为图像识别处理部66发挥功能。图像识别处理部66对第2间隔剔除图像数据74实施使用机器学习的图像识别处理,由此进行拍摄进第2间隔剔除图像中的被摄体的类别识别。图像识别处理部66将图像识别处理的图像识别结果作为图像识别信息78存储在存储器52中。然后,第2图像处理转移到步骤S36。
在步骤S36中,CPU50从存储器52读出第1间隔剔除图像数据73、位置信息76及图像识别信息78。CPU50在显示器26上显示在由第1间隔剔除图像数据73表示的即时预览图像77上重叠图像识别信息78的重叠图像79。然后,第2图像处理转移到步骤S38。
在步骤S38中,CPU50判定是否满足结束第2图像处理的条件(以下,称为“第2图像处理结束条件”)。作为第2图像处理结束条件的一例,可举出由接受器件84(参考图4)接受结束摄像模式的指示的条件。在步骤S38中,在不满足第2图像处理结束条件的情况下判定为“否”,第2图像处理转移到步骤S30。在步骤S38中,在满足第2图像处理结束条件的情况下判定为“是”,第2图像处理结束。
另外,在本第1实施方式中,第1间隔剔除电路118以第1间隔剔除率对数字图像数据71进行间隔剔除而生成第1间隔剔除图像数据73,位置信息获取电路120根据第1间隔剔除图像数据73获取位置信息76。并且,第1间隔剔除图像数据73输出到后级电路13,CPU50将由第1间隔剔除图像数据73表示的图像作为即时预览图像77显示在显示器26上,但本发明的技术并不限于此。位置信息获取电路120也可以根据数字图像数据71而不是第1间隔剔除图像数据73来获取位置信息76。并且,CPU50也可以在显示器26上显示由数字图像数据71表示的图像、或由通过后级电路13对数字图像数据71进行间隔剔除的间隔剔除图像表示的图像作为即时预览图像77。在该情况下,由于处理电路110可以不具备第1间隔剔除电路118,因此构成处理电路110的LSI的大小变小,电路设计变得简单。
另外,在本第1实施方式中,第2间隔剔除处理部64以第2间隔剔除率对部分图像数据72进行间隔剔除而生成第2间隔剔除图像数据74,图像识别处理部66对第2间隔剔除图像数据74进行了图像识别处理,但本发明的技术并不限于此。图像识别处理部66也可以对部分图像数据72进行图像识别处理。并且,处理电路110也可以将数字图像数据71和位置信息76输出到后级电路13,图像识别处理部66也可以根据位置信息76对数字图像数据71进行图像识别处理。在该情况下,图像识别处理部66对未实施间隔剔除处理的部分图像数据72或数字图像数据71进行图像识别处理,因此能够获得精度更高的图像识别信息78。
如以上说明,本第1实施方式所涉及的摄像装置10具备成像元件38和后级电路13。成像元件38内置有:存储器52,存储通过以第1帧速率拍摄而获得的数字图像数据71、部分图像数据72、和/或第1间隔剔除图像数据73;及处理电路110,以独立于第1帧速率的第2帧速率输出部分图像数据72和/或第1间隔剔除图像数据73。部分图像数据72和/或第1间隔剔除图像数据73从处理电路110输入到后级电路13。处理电路110获取表示数字图像数据71或第1间隔剔除图像数据73中的作为图像识别处理的处理对象的图像识别区域75的位置的位置信息76。后级电路13根据位置信息76对图像识别区域75进行图像识别处理。由此,与在成像元件38内对图像识别区域75进行图像识别处理的情况相比,减轻成像元件38的处理负荷。另外,部分图像数据72和/或第1间隔剔除图像数据73并非必需从处理电路110直接输入到后级电路13,例如也可以在中间经由信号电平转换电路或处理电路、或进行不同的信号处理的信号处理电路或信号处理处理器。
位置信息76是表示数字图像数据71或第1间隔剔除图像数据73中的图像识别区域75的位置的坐标。由此,与不使用表示数字图像数据71或第1间隔剔除图像数据73中的图像识别区域75的位置的信息的情况相比,能够容易确定数字图像数据71或第1间隔剔除图像数据73中的图像识别区域75的位置。
处理电路110根据第1间隔剔除图像数据73的帧之间的差值,从第1间隔剔除图像数据73中检测图像识别区域75,并根据检测结果获取位置信息76。由此,与不使用第1间隔剔除图像数据73的帧之间的差值来检测图像识别区域75的情况相比,能够容易将运动物体图像检测为图像识别区域75。
部分图像数据72仅包含图像识别区域75。由此,与将数字图像数据71全部输出的情况相比,能够减少从处理电路110输出的数据量。
处理电路110以第2帧速率输出以第1间隔剔除率对数字图像数据71进行间隔剔除的第1间隔剔除图像数据73、部分图像数据72及位置信息76。由此,与不对数字图像数据71进行间隔剔除而输出的情况相比,能够减少从处理电路110输出的数据量。
位置信息76是根据处理电路110对以第1间隔剔除率对数字图像数据71进行间隔剔除的第1间隔剔除图像数据73进行的图像识别区域75的检测结果获得的信息。由此,与从没有间隔剔除的图像能够获得位置信息76的情况相比,减轻用于获得位置信息76的处理的负荷。
后级电路13将由第1间隔剔除图像数据73表示的图像作为即时预览图像77显示在显示器26上。由此,与将没有间隔剔除的图像作为即时预览图像77显示在显示器26上的情况相比,能够以低负荷将即时预览图像77显示在显示器26上。
后级电路13对以第2间隔剔除率对部分图像数据72或数字图像数据71进行间隔剔除的第2间隔剔除图像数据74进行图像识别处理。由此,与对没有间隔剔除的图像进行图像识别处理的情况相比,减轻用于图像识别处理的负荷。
第1间隔剔除率与第2间隔剔除率不同。由此,与第1间隔剔除率与第2间隔剔除率相同的情况相比,能够兼顾位置信息76的容易获取和图像识别处理的高精度化。
第2间隔剔除率低于第1间隔剔除率。由此,与对以第1间隔剔除率进行间隔剔除的图像进行图像识别处理的情况相比,能够高精度地进行图像识别处理。
成像元件38是至少将光电转换元件42和存储器112单芯片化而成的成像元件。由此,与未单芯片化的情况相比,能够有助于摄像装置的小型化。
成像元件38是光电转换元件42与存储器112层叠而成的层叠型成像元件。由此,与未层叠光电转换元件42和存储器112的情况相比,能够提高从光电转换元件42向存储器112的数字图像数据71的传送速度。
[第2实施方式]
在上述第1实施方式中,图像切出电路122通过根据位置信息76切出数字图像数据71来制作部分图像数据72,但本发明的技术并不限于此。
作为一例,如图16所示,在第2实施方式的摄像装置10中,成像元件38的处理电路110具备分割图像选择电路124来代替第1实施方式中的图像切出电路122。以下,对由分割图像选择电路124进行的分割图像选择处理进行说明。另外,摄像装置10的其他结构及处理与第1实施方式的摄像装置10相同,因此标注相同的符号,省略其详细说明。
分割图像选择电路124进行分割图像选择处理。分割图像选择处理是指如下处理:将由第1间隔剔除图像数据73表示的图像预先分割为多个部分而准备多个分割图像,选择包含图像识别区域75的分割图像,生成部分图像数据72。
作为一例,如图17所示,由第1间隔剔除图像数据73表示的图像270被预先分割为由纵4列×横4行构成的16个分割图像274。分割图像选择电路124根据位置信息76,选择包含图像识别区域75的分割图像274。在图17的例子中,分割图像选择电路124选择16个分割图像274中存在于中央下部的6个分割图像274作为部分图像272。分割图像选择电路124从数字图像数据71中提取表示部分图像272的部分,生成部分图像数据72。
如以上说明,本第2实施方式所涉及的摄像装置10具备分割图像选择电路124。分割图像选择电路124根据位置信息76,选择包含图像识别区域75的部分图像数据72。根据第2实施方式,由于不需要图像切出电路122,因此与图像切出处理相比,能够通过简单的处理生成部分图像数据72。
另外,在本第2实施方式中,图像270被预先分割为16个分割图像274,但分割图像270的数量只要是2以上,则能够多于或少于16。
[第3实施方式]
在第3实施方式中,处理电路具备合成电路,该合成电路合成以第1帧速率获得的多个帧量的数字图像数据,制作1帧量的高画质的合成图像数据。
作为一例,如图18所示,在第3实施方式的摄像装置10中,处理电路110具备合成电路126。合成电路126进行合成多个帧量的数字图像数据71并制作1帧量的合成图像数据80的合成处理。合成图像数据80是本发明的技术所涉及的“合成图像数据”的一例。另外,摄像装置10的其他结构及处理与第1实施方式的摄像装置10相同,因此标注相同的符号,省略其详细说明。
作为一例,如图19所示,在成像元件38中,以第1帧速率依次生成数字图像数据71并存储在存储器112中。并且,根据数字图像数据71生成的第1间隔剔除图像数据73、位置信息76及部分图像数据72以第2帧速率从成像元件38输出。例如,在第1帧速率为240fps,且第2帧速率为60fps的情况下,控制电路119读出连续生成的4帧量的数字图像数据71,并将其输出到合成电路126。合成电路126通过合成所输入的4帧量的数字图像数据71,制作1帧量的高画质的合成图像数据80。合成电路126将所生成的合成图像数据80存储在存储器112中,且将其输出到第1间隔剔除电路118及图像切出电路122。
第1间隔剔除电路118通过对所输入的合成图像数据80进行第1间隔剔除处理,生成第1间隔剔除图像数据73。第1间隔剔除处理的细节与第1实施方式相同,因此省略其说明。第1间隔剔除电路118将所制作的第1间隔剔除图像数据73存储在存储器112中,且将其输出到位置信息获取电路120。
位置信息获取电路120对所输入的第1间隔剔除图像数据73进行位置信息获取处理。位置信息获取处理是对由合成图像数据80表示的图像检测图像识别区域75,生成表示所检测出的图像识别区域75的位置的位置信息76的处理。位置信息获取处理的细节与第1实施方式相同,因此省略其说明。位置信息获取电路120将所生成的位置信息76存储在存储器112中,且将其输出到图像切出电路122。位置信息获取电路120使用由噪声比数字图像数据71少且高画质的合成图像数据80制作的第1间隔剔除图像数据73进行位置信息获取处理。因此,与根据第1实施方式的第1间隔剔除图像数据73检测出的位置信息76相比,检测出高精度的位置信息76。
图像切出电路122根据所输入的位置信息76进行切出合成图像数据80的图像切出处理,由此生成部分图像数据72。图像切出电路122使用比数字图像数据71更高画质的合成图像数据80来进行图像切出处理。因此,生成比根据第1实施方式的数字图像数据71生成的部分图像数据72更高画质的部分图像数据72。
而且,高画质的部分图像数据72输出到后级电路13,后级电路13对部分图像数据72进行图像识别处理。因此,能够获得比根据第1实施方式的部分图像数据72的图像识别结果精度高的图像识别结果。
如以上说明,在本第3实施方式所涉及的摄像装置10中,合成电路126通过合成以第1帧速率获得的4帧量的数字图像数据71来制作1帧量的合成图像数据80。位置信息76是根据位置信息获取电路120对由合成图像数据80表示的图像进行的图像识别区域75的检测结果获得的信息。由此,与根据非合成图像数据获得位置信息的情况相比,能够精度良好地获得位置信息。
另外,在本第3实施方式中,合成电路126根据4帧量的数字图像数据71制作了1帧量的合成图像数据80,但本发明的技术并不限于此。用于制作1帧量的合成图像数据的数字图像数据的帧数只要是多个,则可以是任意数量。并且,也可以根据后级电路13的处理速度来确定用于制作1帧量的合成图像数据的数字图像数据的帧数。
[第4实施方式]
在上述各实施方式中,处理电路110以预先确定的第2帧速率将第1间隔剔除图像数据73、位置信息76及部分图像数据72输出到后级电路13,但本发明的技术并不限于此。在本第4实施方式中,处理电路110以根据后级电路13的处理速度确定的第3帧速率将第1间隔剔除图像数据73、位置信息76及部分图像数据72输出到后级电路13。
作为一例,如图20所示,由于第4实施方式的摄像装置具有与第1实施方式的摄像装置10相同的结构,因此标注与第1实施方式相同的符号并省略其说明。在第4实施方式所涉及的摄像装置10中,CPU50经由输入I/F57A及输出I/F113B将通信控制信号输出到处理电路110。通信控制信号是用于指定从处理电路110输出的第1间隔剔除图像数据73、位置信息76及部分图像数据72的帧速率的信号,且根据后级电路13的处理速度来确定。
处理电路110接受通信控制信号,并以第3帧速率输出第1间隔剔除图像数据73、部分图像数据72及位置信息76。第3帧速率是与上述各实施例中说明的第2帧速率不同的帧速率。另外,如上述各实施例中所说明,部分图像数据72是根据表示图像识别区域75的位置的位置信息76从数字图像数据71中切出的数据。即,部分图像数据72是数字图像数据71中的一部分,且包含图像识别区域75。
第3帧速率是根据后级电路13的处理速度来确定的帧速率。作为具体的第3帧速率的一例,可举出30fps,但并不限于此,可以是超过30fps的帧速率(例如,60fps),也可以是小于30fps的帧速率(例如,15fps)。
处理电路110可以以第2帧速率输出第1间隔剔除图像数据73,且可以以第3帧速率输出部分图像数据72及位置信息76。即,第1间隔剔除图像数据73是在即时预览图像的显示中使用的数据,因此以即时预览图像的显示帧速率输出。另一方面,部分图像数据72及位置信息76是在后级电路13中的图像识别处理中使用的数据,因此以与后级电路13的处理速度对应的帧速率输出。
如以上说明,在本第4实施方式所涉及的摄像装置10中,处理电路110以与第2帧速率不同的第3帧速率输出作为数字图像数据71中的一部分的部分图像数据72和位置信息76。由部分图像数据72表示的图像包含图像识别区域75,第3帧速率根据后级电路13的处理速度来确定。由此,以与后级电路13的处理速度对应的帧速率输出部分图像数据72和位置信息76,因此与部分图像数据72和位置信息76始终以第2帧速率输出的情况相比,能够减少部分图像数据72及位置信息76的不必要的输出。
另外,在上述各实施方式中,根据第1间隔剔除图像数据73检测出的图像识别区域75是一个,根据数字图像数据71制作的部分图像数据72是一种,但本发明的技术并不限定于此。也可以检测出两个以上的图像识别区域75,制作出2种以上的部分图像数据72。
在上述各实施方式中,位置信息获取电路120使用帧之间差值法检测了图像识别区域75,但本发明的技术并不限定于此。例如,位置信息获取电路120也可以根据图像数据中的对比度来检测图像识别区域75。并且,位置信息获取电路120例如也可以通过模式匹配来检测图像识别区域75。模式匹配是指预先提供特定的图案作为被摄体的图案,检测在图像数据中是否包含特定的图案的方法。在使用对比度或模式匹配的情况下,被摄体也可以不是运动物体。
并且,在上述各实施方式中,图像识别处理部66使用机器学习进行了图像识别处理,但本发明的技术并不限定于此。图像识别处理部66例如也可以通过模式匹配进行图像识别处理。
并且,在上述实施方式的摄像装置10中,作为成像元件38,采用了将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件。由此,与未将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件相比,摄像装置10的便携性提高。并且,与未将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件相比,能够提高设计的自由度。而且,与未将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件相比,也能够有助于摄像装置10的小型化。
并且,在上述各实施方式的摄像装置10中,作为成像元件38,采用了存储器112层叠于光电转换元件42上的层叠型成像元件。由此,与未层叠光电转换元件42和存储器112的情况相比,能够提高从光电转换元件42向存储器112的图像数据的传送速度。传送速度的提高也有助于整个处理电路中的处理的高速化。并且,与未层叠光电转换元件42和存储器112的情况相比,也能够提高设计的自由度。而且,与未层叠光电转换元件42和存储器112的情况相比,也能够有助于摄像装置10的小型化。
并且,在上述摄像装置中,作为成像元件,例示了将光电转换元件42、处理电路110及存储器112单芯片化而成的成像元件38,但本发明的技术并不限定于此。例如,只要将光电转换元件42、处理电路110及存储器112中的至少光电转换元件42及存储器112单芯片化即可。
并且,在上述各实施方式中,例示了镜头可换式摄像装置10,但本发明的技术并不限定于此。例如,也可以在智能器件上搭载有上述各实施方式中说明的成像元件38及后级电路13。作为智能器件的一例,可举出作为带有摄像功能的电子设备的智能手机或平板终端等。
并且,在上述各实施方式中,举出UI系统器件17组装在摄像装置主体12中的方式例进行了说明,但UI系统器件17所包含的多个构成要件中的至少一部分可以外置在摄像装置主体12上。并且,UI系统器件17所包含的多个构成要件中的至少一部分也可以作为分体与外部I/F104连接来使用。
并且,在上述实施方式中,第1帧速率及第2帧速率可以是固定的帧速率,也可以是可变的帧速率。在可变的帧速率的情况下,例如可以在满足规定条件(例如,由接受器件84接受变更帧速率的指示的条件和/或已到作为变更帧速率的定时而事先确定的定时的条件)的情况下变更帧速率。在可变的帧速率的情况下,帧速率的具体的数值例如可以根据由接受器件84接受的指示来变更,也可以根据后级电路13和/或成像元件38的运转率来变更。
并且,在上述各实施方式中,将程序60存储在储存器51中,且CPU50按照在存储器52上执行的程序60来控制整个摄像装置10,但本发明的技术并不限定于此。作为一例,如图21所示,可以将程序60存储在经由通信网络(省略图示)与摄像装置10连接的其他计算机或服务器装置等储存器300(例如,非易失性存储装置)中,根据摄像装置10的请求来下载程序60,并安装在摄像装置10上。
另外,不需要在储存器300中存储全部程序60,也可以存储程序60的一部分。
在图3所示的例子中,CPU50是单个CPU,但也可以是多个CPU。并且,也可以适用GPU来代替CPU50。
并且,在上述各实施方式中,举出处理电路110由包含ASIC及FPGA的器件来实现的方式例进行了说明,但本发明的技术并不限定于此。例如,也可以通过基于计算机的软件结构来实现处理电路110所包含的多个器件中的至少控制电路119。
作为执行在上述各实施方式中说明的第2图像处理的硬件资源,能够使用以下所示的各种处理器。作为处理器,例如可举出通用的处理器即CPU,如上所述,通过执行软件即程序,作为执行第2图像处理的硬件资源发挥功能。并且,作为处理器,例如可举出作为处理器的专用电路,所述处理器具有FPGA、PLD、或ASIC等为了执行特定的处理而专门设计的电路结构。任何处理器中都内置或连接有存储器,通过任何处理器都使用存储器来执行第2图像处理。
执行第2图像处理的硬件资源可以由各种处理器中的一个构成,也可以由相同种类或不同种类的两个以上的处理器的组合(例如,多个FPGA的组合、或CPU与FPGA的组合)构成。
作为由一个处理器构成的例子,第一,存在如下方式:如以客户端及服务器等计算机为代表,由一个以上的CPU和软件的组合来构成一个处理器,该处理器作为执行第2图像处理的硬件资源发挥功能。第二,存在如下方式:如以SoC等为代表,使用由一个IC芯片来实现包括执行第2图像处理的多个硬件资源的整个系统的功能的处理器。如此,第2图像处理通过使用一个以上上述各种处理器作为硬件资源来实现。
而且,作为这些各种处理器的硬件结构,更具体而言,能够使用将半导体元件等电路元件组合而成的电路。
并且,上述各种处理仅为一例。因此,在不脱离主旨的范围内,当然可以删除不必要的步骤,或者追加新的步骤,或者切换处理顺序。
并且,在图1所示的例子中,例示了摄像装置10,但本发明的技术并不限定于此。即,本发明的技术也能够适用于内置有具有与在上述各实施方式中说明的摄像装置主体12相当的结构及功能的摄像装置的各种电子设备(例如,镜头固定式相机、个人计算机或可穿戴终端装置等),并且即使在这些电子设备中,也能够得到与摄像装置10相同的作用及效果。
并且,在上述各实施方式中,例示了显示器26,但本发明的技术并不限定于此。例如,也可以使用加装在摄像装置上的单独的显示器。
[第5实施方式]
作为第5实施方式,对适用本发明的技术所涉及的摄像装置的摄像系统进行说明。
作为一例,如图22所示,摄像系统500例如用作监控摄像机。摄像系统500具备多个摄像装置502和主计算机504。摄像装置502具有上述第1实施方式至第4实施方式中的任一个实施方式中记载的摄像装置主体12。各摄像装置502具有存储通过拍摄而获得的图像数据的存储器和输出图像数据的处理器。
处理器从图像数据中获取表示图像识别区域的位置的位置信息。图像识别区域是指由主计算机504进行的作为图像识别处理的处理对象的区域。对于图像识别处理已在上述第1实施方式中说明,因此省略其说明。处理器将图像数据和所获取的位置信息输出到主计算机504。
主计算机504从各摄像装置接受图像数据和位置信息。主计算机504根据位置信息对图像数据的图像识别区域进行图像识别处理。
如以上说明,在本第5实施方式所涉及的摄像系统500中,具备多个摄像装置502和主计算机504,所述多个摄像装置502分别具有存储通过拍摄而获得的图像数据的存储器和输出图像数据的处理器,所述主计算机504从处理器输入图像数据。处理器获取表示图像数据中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息。主计算机504根据位置信息对图像识别区域进行图像识别处理。由此,与主计算机504不根据位置信息进行图像识别处理的情况相比,能够减轻用于图像识别处理的处理负荷,且加快处理速度。
在上述各实施方式中,设置在成像元件38上的处理电路110所包含的输入输出I/F113与后级电路13的控制器15所包含的输入I/F57A及输出I/F57B之间按照PCIe的连接标准进行连接,但本发明的技术并不限定于此。作为高速通信标准,也可以采用LVDS、SATA、SLVS-EC或MIPI等其他连接标准来代替PCIe连接标准。并且,设置在成像元件38上的处理电路110所包含的输入输出I/F113与信号处理电路34所包含的输入输出I/F(省略图示)之间也同样地,使用PCIe、LVDS、SATA、SLVS-EC或MIPI等高速通信标准进行连接。
在上述各实施方式中,采用USB接口作为外部I/F104,但本发明的技术并不限定于此。例如,也可以采用HDMI等其他种类的硬件接口、和/或Wi-Fi(注册商标)等无线接口。
在上述各实施方式中,成像元件38与后级电路13之间的通信、及摄像装置502与主计算机504之间的通信均为有线形式的通信。然而,本发明的技术并不限定于此。成像元件38与后级电路13之间的通信、及摄像装置502与主计算机504之间的通信也可以是无线形式的通信。
以上所示的记载内容及图示内容是关于本发明的技术所涉及部分的详细说明,只是本发明的技术的一例。例如,与上述结构、功能、作用及效果有关的说明是与本发明的技术所涉及部分的结构、功能、作用及效果的一例有关的说明。因此,在不脱离本发明的技术的主旨的范围内,当然可以对以上所示的记载内容及图示内容删除不必要的部分,或者追加新的要素,或者进行替换。并且,为了避免复杂化,并且为了容易理解本发明的技术所涉及的部分,在以上所示的记载内容及图示内容中,省略了在能够实施本发明的技术的方面不需要特别说明的与技术常识等有关的说明。
在本说明书中,“A和/或B”与“A及B中的至少一个”的含义相同。即,“A和/或B”是指可以只是A,可以只是B,也可以是A及B的组合。并且,在本说明书中,附加“和/或”来表现3个以上的事项的情况下,也可以适用与“A和/或B”相同的概念。
本说明书中所记载的所有文献、专利申请及技术标准,以与具体且分别记载通过参考而援用各文献、专利申请及技术标准的情况相同程度,通过参考而援用于本说明书中。
Claims (18)
1.一种摄像装置,其具备:
成像元件,内置有存储器和第1处理器,所述存储器存储通过以第1帧速率拍摄而获得的图像数据,所述第1处理器以独立于所述第1帧速率的第2帧速率输出所述图像数据;及
第2处理器,输入从所述第1处理器输出的所述图像数据,
所述第1处理器获取表示所述图像数据中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,
所述第2处理器根据所述位置信息对所述图像识别区域进行所述图像识别处理。
2.根据权利要求1所述的摄像装置,其中,
所述位置信息是表示所述图像数据中的所述图像识别区域的位置的坐标。
3.根据权利要求1或2所述的摄像装置,其中,
所述第1处理器根据所述图像数据的帧之间的差值,从所述图像数据中检测所述图像识别区域,并根据检测结果获取所述位置信息。
4.根据权利要求1至3中任一项所述的摄像装置,其中,
所述第1处理器以所述第2帧速率输出作为所述图像数据中的一部分的部分图像数据和所述位置信息,
所述部分图像数据包含所述图像识别区域。
5.根据权利要求4所述的摄像装置,其中,
所述部分图像数据仅包含所述图像识别区域。
6.根据权利要求4或5所述的摄像装置,其中,
所述第1处理器以所述第2帧速率输出对所述图像数据进行间隔剔除所得的间隔剔除图像数据、所述部分图像数据及所述位置信息。
7.根据权利要求1至6中任一项所述的摄像装置,其中,
所述位置信息是根据所述第1处理器对第1间隔剔除图像数据进行的所述图像识别区域的检测的结果获得的信息,所述第1间隔剔除图像数据是以第1间隔剔除率对所述图像数据进行间隔剔除得到的。
8.根据权利要求7所述的摄像装置,其中,
所述第2处理器在显示器上显示由所述第1间隔剔除图像数据表示的图像作为显示用动态图像。
9.根据权利要求4至6中任一项所述的摄像装置,其中,
所述第2处理器对以第2间隔剔除率对所述图像数据或所述部分图像数据进行间隔剔除所得的第2间隔剔除图像数据进行所述图像识别处理。
10.根据权利要求9所述的摄像装置,其中,
对所述图像数据进行间隔剔除的第1间隔剔除率与所述第2间隔剔除率不同。
11.根据权利要求10所述的摄像装置,其中,
所述第2间隔剔除率低于所述第1间隔剔除率。
12.根据权利要求1或2所述的摄像装置,其中,
所述第1处理器以与所述第2帧速率不同的第3帧速率输出作为所述图像数据中的一部分的部分图像数据和所述位置信息,
由所述部分图像数据表示的图像包含所述图像识别区域,
所述第3帧速率根据所述第2处理器的处理速度来确定。
13.根据权利要求1或2所述的摄像装置,其中,
所述第1处理器通过合成以所述第1帧速率获得的多个帧量的图像数据来制作1帧量的合成图像数据,
所述位置信息是根据所述第1处理器对由所述合成图像数据表示的图像进行的所述图像识别区域的检测的结果获得的信息。
14.根据权利要求1至13中任一项所述的摄像装置,其中,
所述成像元件是至少将光电转换元件和所述存储器单芯片化而成的成像元件。
15.根据权利要求14所述的摄像装置,其中,
所述成像元件是所述光电转换元件与所述存储器层叠而成的层叠型成像元件。
16.一种摄像装置的工作方法,所述摄像装置包含:成像元件,具有以第1帧速率拍摄摄像区域的光电转换元件、存储通过由所述光电转换元件拍摄而获得的图像数据的存储器及以所述第1帧速率以下的第2帧速率输出所述图像数据的第1处理器,且内置有所述第1处理器及所述存储器;及第2处理器,设置在所述成像元件的后级,输入从所述第1处理器输出的所述图像数据,所述摄像装置的工作方法包括以下步骤:
所述第1处理器获取表示由所述图像数据表示的图像中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,
所述第2处理器根据所述位置信息对所述图像识别区域进行所述图像识别处理。
17.一种程序,其用于使适用于摄像装置的计算机执行处理,所述摄像装置包含:成像元件,具有以第1帧速率拍摄摄像区域的光电转换元件、存储通过由所述光电转换元件拍摄而获得的图像数据的存储器及以所述第1帧速率以下的第2帧速率输出所述图像数据的第1处理器,且内置有所述第1处理器及所述存储器;及第2处理器,设置在所述成像元件的后级,输入从所述第1处理器输出的所述图像数据,所述处理包括以下步骤:
所述第1处理器获取表示由所述图像数据表示的图像中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,
所述第2处理器根据所述位置信息对所述图像识别区域进行所述图像识别处理。
18.一种摄像系统,其包括:
多个摄像装置,分别具有拍摄摄像区域的光电转换元件、存储通过由所述光电转换元件拍摄而获得的图像数据的存储器及输出所述图像数据的处理器;及
主计算机,设置在所述多个摄像装置各自的后级,从所述处理器输入所述图像数据,
所述处理器获取表示由所述图像数据表示的图像中的作为图像识别处理的处理对象的图像识别区域的位置的位置信息,
所述主计算机根据所述位置信息对所述图像识别区域进行所述图像识别处理。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019229629 | 2019-12-19 | ||
JP2019-229629 | 2019-12-19 | ||
PCT/JP2020/044751 WO2021124873A1 (ja) | 2019-12-19 | 2020-12-01 | 撮像装置、撮像装置の作動方法、プログラム、及び撮像システム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114830626A true CN114830626A (zh) | 2022-07-29 |
Family
ID=76478699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080086746.2A Pending CN114830626A (zh) | 2019-12-19 | 2020-12-01 | 摄像装置、摄像装置的工作方法、程序及摄像系统 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11991461B2 (zh) |
JP (2) | JP7354290B2 (zh) |
CN (1) | CN114830626A (zh) |
WO (1) | WO2021124873A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7279169B2 (ja) * | 2019-08-14 | 2023-05-22 | 富士フイルム株式会社 | 撮像装置、撮像装置の作動方法、及びプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009040996A1 (ja) * | 2007-09-25 | 2009-04-02 | Panasonic Corporation | 画像処理装置及び画像処理方法 |
CN106791856A (zh) * | 2016-12-28 | 2017-05-31 | 天津天地伟业生产力促进有限公司 | 一种基于自适应感兴趣区域的视频编码方法 |
JP2018107759A (ja) * | 2016-12-28 | 2018-07-05 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法、及び画像処理システム |
US20190332897A1 (en) * | 2018-04-26 | 2019-10-31 | Qualcomm Incorporated | Systems and methods for object detection |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014178603A (ja) | 2013-03-15 | 2014-09-25 | Nikon Corp | 撮像装置 |
JP2015002553A (ja) * | 2013-06-18 | 2015-01-05 | キヤノン株式会社 | 情報処理システムおよびその制御方法 |
JP6314477B2 (ja) * | 2013-12-26 | 2018-04-25 | ソニー株式会社 | 電子デバイス |
JP6320075B2 (ja) * | 2014-02-19 | 2018-05-09 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP6593629B2 (ja) | 2015-09-09 | 2019-10-23 | ソニー株式会社 | 画像処理装置、固体撮像素子、および電子機器 |
RU2679011C1 (ru) | 2015-09-16 | 2019-02-05 | Кэнон Кабусики Кайся | Датчик изображения и устройство захвата изображения |
JP6929027B2 (ja) | 2015-09-16 | 2021-09-01 | キヤノン株式会社 | 撮像素子及び撮像装置 |
JP2018198406A (ja) * | 2017-05-24 | 2018-12-13 | ルネサスエレクトロニクス株式会社 | 監視カメラシステムおよび画像処理装置 |
JP6708620B2 (ja) | 2017-12-15 | 2020-06-10 | キヤノン株式会社 | 撮像素子及び撮像装置 |
US11350046B2 (en) * | 2018-07-31 | 2022-05-31 | Sony Semiconductor Solutions Corporation | Solid-state imaging device and electronic device |
-
2020
- 2020-12-01 WO PCT/JP2020/044751 patent/WO2021124873A1/ja active Application Filing
- 2020-12-01 JP JP2021565439A patent/JP7354290B2/ja active Active
- 2020-12-01 CN CN202080086746.2A patent/CN114830626A/zh active Pending
-
2022
- 2022-06-03 US US17/805,232 patent/US11991461B2/en active Active
-
2023
- 2023-09-12 JP JP2023147517A patent/JP2023169254A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009040996A1 (ja) * | 2007-09-25 | 2009-04-02 | Panasonic Corporation | 画像処理装置及び画像処理方法 |
CN106791856A (zh) * | 2016-12-28 | 2017-05-31 | 天津天地伟业生产力促进有限公司 | 一种基于自适应感兴趣区域的视频编码方法 |
JP2018107759A (ja) * | 2016-12-28 | 2018-07-05 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法、及び画像処理システム |
US20190332897A1 (en) * | 2018-04-26 | 2019-10-31 | Qualcomm Incorporated | Systems and methods for object detection |
Also Published As
Publication number | Publication date |
---|---|
US20220294983A1 (en) | 2022-09-15 |
JP7354290B2 (ja) | 2023-10-02 |
WO2021124873A1 (ja) | 2021-06-24 |
JP2023169254A (ja) | 2023-11-29 |
JPWO2021124873A1 (zh) | 2021-06-24 |
US11991461B2 (en) | 2024-05-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8810664B2 (en) | Imaging apparatus, imaging method and computer program | |
EP2533520B1 (en) | Image sensor having HDR capture capability | |
EP2587407B1 (en) | Vision recognition apparatus and method | |
JP2023169254A (ja) | 撮像素子、撮像素子の作動方法、プログラム、及び撮像システム | |
US20240080410A1 (en) | Imaging apparatus, image data processing method of imaging apparatus, and program | |
US20240031706A1 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
US10681266B2 (en) | Method, apparatus, and system for processing digital images | |
KR20140106221A (ko) | 다수 이미지 센서를 이용한 촬영방법 및 장치 | |
US20230283916A1 (en) | Imaging apparatus, operation method of imaging apparatus, and program | |
CN113287295B (zh) | 摄像元件、摄像装置、摄像元件的工作方法及存储介质 | |
US11689816B2 (en) | Imaging apparatus, operation method of imaging apparatus, and program | |
US11910115B2 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
CN114125319A (zh) | 图像传感器、摄像模组、图像处理方法、装置和电子设备 | |
CN112640430A (zh) | 成像元件、摄像装置、图像数据处理方法及程序 | |
US20220303475A1 (en) | Imaging apparatus, operation method of imaging apparatus, and program | |
US11711595B2 (en) | Imaging apparatus, image data processing method of imaging apparatus, and program | |
CN112640429B (zh) | 成像元件、摄像装置、图像数据处理方法及存储介质 | |
US20220141420A1 (en) | Imaging element, imaging apparatus, operation method of imaging element, and program | |
JP2009205610A (ja) | 画像分類装置、画像分類方法、画像分類プログラム及び記憶媒体 | |
JP2024038222A (ja) | 撮像装置、撮像方法、及びプログラム | |
CN112640429A (zh) | 成像元件、摄像装置、图像数据处理方法及程序 | |
JP2017220821A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |