WO2018037680A1 - 撮像装置、撮像システム、及び、信号処理方法 - Google Patents

撮像装置、撮像システム、及び、信号処理方法 Download PDF

Info

Publication number
WO2018037680A1
WO2018037680A1 PCT/JP2017/021961 JP2017021961W WO2018037680A1 WO 2018037680 A1 WO2018037680 A1 WO 2018037680A1 JP 2017021961 W JP2017021961 W JP 2017021961W WO 2018037680 A1 WO2018037680 A1 WO 2018037680A1
Authority
WO
WIPO (PCT)
Prior art keywords
image data
unit
image
imaging
frame rate
Prior art date
Application number
PCT/JP2017/021961
Other languages
English (en)
French (fr)
Inventor
能勢　敦
博誠 片山
村松　良徳
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Publication of WO2018037680A1 publication Critical patent/WO2018037680A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40—Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors

Definitions

  • the present disclosure relates to an imaging apparatus, an imaging system, and a signal processing method.
  • sensing processing that performs measurement processing on image information, and use information such as the size and position of the center of gravity, the distance to the object, and the amount of movement of the object as sensing information.
  • Sensing information can be obtained by performing a sensing process on an image captured at a predetermined frame rate. In order to confirm whether the sensing process is performed correctly, it is preferable that sensing information and data for image display can be acquired simultaneously.
  • the frame rate at the time of sensing is normally set to a higher value than the frame rate (for example, 30 to 60 fps) when imaging for displaying an image on an image display device or the like is performed. Therefore, the imaging for sensing must have a shorter exposure period, and the image quality of the captured image is degraded due to a decrease in luminance or an increase in noise. For this reason, in the configuration in which captured image data for sensing is used as data for image display, image display data with excellent image quality cannot be obtained.
  • an object of the present disclosure is to provide an imaging apparatus, an imaging system, and a signal processing method that can capture and process images at a first frame rate and a second frame rate.
  • an imaging apparatus includes: A pixel portion in which a plurality of pixels are arranged in a matrix, An exposure control unit for controlling an exposure time of the pixel; An image data generation unit configured to generate first image data output at a first frame rate and second image data output at a second frame rate based on the control of the exposure time; and A first processing unit that executes first image processing on the first image data; and a second processing unit that executes second image processing different from the first image processing on the second image data.
  • Signal processor With The signal processing unit operates the first image processing and the second image processing independently of each other; An imaging device.
  • an imaging system includes: A pixel portion in which a plurality of pixels are arranged in a matrix, An exposure control unit for controlling an exposure time of the pixel; An image data generation unit configured to generate first image data output at a first frame rate and second image data output at a second frame rate based on the control of the exposure time; and Signal processing including a first processing unit that performs first image processing on first image data and a second processing unit that executes second image processing different from the first image processing on second image data And With The signal processing unit operates the first image processing and the second image processing independently of each other; An imaging system.
  • a signal processing method includes: Generating first image data output at a first frame rate and second image data output at a second frame rate from a pixel portion in which a plurality of pixels are arranged in a matrix; and Performing a first image process on the first image data and a second image process different from the first image process on the second image data; Contains Executing the first image processing and the second image processing independently of each other; This is an image processing method.
  • images can be captured and processed at the first frame rate and the second frame rate. Accordingly, it is possible to obtain image display data with excellent image quality while performing sensing at high speed.
  • FIG. 1 is a schematic diagram for describing a configuration of an imaging apparatus and an imaging system according to the first embodiment of the present disclosure.
  • FIG. 2 is a conceptual diagram of the operation of the imaging apparatus and the like according to the first embodiment.
  • FIG. 3 is a conceptual diagram of an operation when the first image data is processed and sensing information is output.
  • FIG. 4 is a conceptual diagram of an operation when the second image data is processed and display image data is output.
  • FIG. 5 is a schematic diagram for explaining a modification of the imaging apparatus or imaging system.
  • FIG. 6 is a schematic diagram for describing a configuration of an imaging apparatus and an imaging system according to the second embodiment of the present disclosure.
  • FIG. 7 is a conceptual diagram of the operation of the imaging apparatus and the like according to the second embodiment.
  • FIG. 8 is a conceptual diagram of an operation when the first image data is processed and sensing information is output.
  • FIG. 9 is a conceptual diagram of an operation when the second image data is processed to output display image data.
  • FIG. 10 is a schematic diagram for describing a configuration of an imaging apparatus and an imaging system according to the third embodiment of the present disclosure.
  • FIG. 11 is a conceptual diagram of an operation when processing the first image data and outputting sensing information.
  • FIG. 12 is a conceptual diagram of an operation when the second image data is processed to output display image data.
  • FIG. 13 is a diagram illustrating an example of a schematic configuration of an endoscopic surgery system.
  • FIG. 14 is a block diagram showing an example of the functional configuration of the camera head and CCU shown in FIG.
  • FIG. 15 is a block diagram illustrating an example of a schematic configuration of the vehicle control system.
  • FIG. 16 is an explanatory diagram illustrating an example of the installation positions of the outside-vehicle information detection unit and the imaging unit.
  • the first frame rate may be set to a value different from the second frame rate.
  • the first frame rate is set to a value higher than the second frame rate;
  • the first image processing is image processing for outputting sensing information;
  • the second image processing is image processing for outputting display image data. It can be configured.
  • the imaging at the first frame rate and the imaging at the second frame rate are performed in a time-sharing manner
  • the selection unit selects a pixel group accessed when generating the first image data and a pixel group accessed when generating the second image data so as not to overlap. It can be configured.
  • the timing controller controls the reading period of the first image data and the shutter period of the second image data not to overlap. It can be configured.
  • the timing control unit controls the readout period of the second image data and the shutter period of the first image data not to overlap. It can be configured.
  • Imaging at the first frame rate and imaging at the second frame rate are performed in parallel,
  • the signal processing unit outputs the sensing information and the display image data independently of each other; It can be configured.
  • the selection unit selects a pixel group to be accessed when generating the first image data and a pixel group to be accessed when generating the second image data are different. It can be configured.
  • the selection unit selects a pixel group to be accessed when generating the first image data and a pixel group to be accessed when generating the second image data so as to alternate. It can be configured.
  • the image data generation unit includes a first image data generation unit that generates the first image data, and a second image data generation unit that generates the second image data. It can be configured.
  • a data packing unit that integrates and outputs the sensing information and the display image data; It can be configured.
  • the image data generation unit includes an A / D conversion unit that converts an analog signal output from the pixel unit into a digital signal. It can be configured.
  • the pixel unit, the image data generation unit, and the signal processing unit may be formed on the same semiconductor substrate.
  • a plurality of semiconductor substrates including at least a first semiconductor substrate and a second semiconductor substrate are laminated, The pixel portion is formed at least on the first semiconductor substrate, At least the signal processing unit is formed on the second semiconductor substrate. It can also be configured.
  • the pixel unit includes a pixel including a photoelectric conversion element and various pixel transistors.
  • a CMOS sensor arranged in a two-dimensional matrix in the row direction and the column direction.
  • a rolling shutter system that starts exposure sequentially for each horizontal line and acquires an imaging signal is used as the shutter system, but is not limited thereto.
  • a so-called global shutter system can be adopted as long as the operation is not hindered.
  • the selection unit, the timing control unit, the exposure control unit, the image data generation unit, and the like can be configured by, for example, a logic circuit or a storage circuit, and these can be configured by using known circuit elements.
  • the A / D conversion unit of the image data generation unit may be arranged for each pixel column, for example. In this configuration, signals output from the pixels are A / D converted in parallel and output as digital signals.
  • the number of bits in A / D conversion is preferably set to a relatively small value for image display applications in the case of sensing applications. For example, 4 bits can be set for sensing applications, and 10 bits can be set for image display applications.
  • the image data generation unit may be configured to include an A / D conversion unit that can dynamically control the number of quantization bits.
  • Sensing information can be obtained by performing known processing such as smoothing, luminance noise reduction, edge extraction, and the like on image data used for sensing, and performing measurement processing based on the processed data. For example, processing such as measuring the size of the white display portion corresponding to the sensing target, the position of the center of gravity, the area, the principal axis angle, and the like from the binarized data may be performed. Furthermore, by comparing data at different times, the amount of movement and distance of the object can be obtained. In addition, what kind of information is output as the sensing information may be appropriately set according to the application.
  • the first embodiment relates to an imaging apparatus, an imaging system, and a signal processing method according to the present disclosure.
  • FIG. 1 is a schematic diagram for describing a configuration of an imaging apparatus and an imaging system according to the first embodiment of the present disclosure. In the following description, it is assumed that the image pickup apparatus is configured. The same applies to other embodiments.
  • a pixel unit 110 in which a plurality of pixels are arranged in a matrix, An exposure control unit 120 for controlling the exposure time of the pixel; An image data generation unit 130 that generates first image data D1 output at a first frame rate and second image data D2 output at a second frame rate based on control of an exposure time; and A first processing unit 161 that executes first image processing on the first image data D1, and a second processing unit 162 that executes second image processing different from the first image processing on the second image data D2.
  • a signal processor 160 It has. Then, the signal processing unit 160 operates the first image processing and the second image processing independently of each other.
  • the image processing method in the first embodiment is: Generating first image data D1 output at a first frame rate and second image data D2 output at a second frame rate from a pixel unit 110 in which a plurality of pixels are arranged in a matrix; and Performing a first image process on the first image data D1 and a second image process different from the first image process on the second image data D2, Contains The first image processing and the second image processing are executed independently of each other. The same applies to other embodiments described later.
  • the imaging device 100 further includes: A selection unit 150 for selecting a pixel group arranged in the row direction, and A timing control unit 140 for controlling the timing of accessing the selected pixel group; It has.
  • the timing control unit 140 controls the timing for accessing the pixel group when generating the first image data D1 and the timing for accessing the pixel group when generating the second image data D2.
  • the image data generation unit 130 includes an A / D conversion unit 131 that converts an analog signal output from the pixel unit 110 into a digital signal.
  • the first image data D1 and the second image data D2 are supplied from the image data generation unit 130 to the signal processing unit 160 as data having a gradation value of a predetermined number of bits.
  • the operation of the entire imaging apparatus 100 is controlled by a control circuit (not shown).
  • the pixel unit 110, the image data generation unit 130, the signal processing unit 160, and the like are formed on the same semiconductor substrate made of, for example, silicon.
  • a plurality of semiconductor substrates including at least a first semiconductor substrate and a second semiconductor substrate are stacked. At least a pixel portion 110 is formed on the first semiconductor substrate, and a signal is transmitted to the second semiconductor substrate.
  • a configuration in which at least the processing unit 160 is formed may be employed.
  • the signal processing unit 160 performs various signal processing on the signal from the image data generation unit 130 to generate sensing information SD and display image data PD.
  • the signal processing may be performed in hardware or may be performed in software.
  • the pixel unit 110 includes pixels 111 having photoelectric conversion units arranged in a matrix. Each pixel 111 is connected to the selection unit 150 via the control line 112 for each row. Each pixel 111 is connected to the image data generation unit 130 via the signal line 113 for each column.
  • the light condensed by an optical system (not shown) is incident on the pixel unit 110.
  • the pixel 111 outputs a pixel signal having a level corresponding to the amount of light received.
  • An image of the subject is formed by the pixel signal.
  • the pixel 111 includes a photoelectric conversion unit including a photodiode, a floating diffusion region to which charges from the photoelectric conversion unit are transferred, a transistor for driving the pixel, and the like.
  • these components can be configured to be formed in a p-type well provided in an n-type semiconductor substrate.
  • the selection unit 150 is configured by a logic circuit such as a shift register or an address decoder, and supplies a scanning signal for accessing the pixel 111 of the pixel unit 110 for each row to the pixel 111 via the control line 112.
  • a plurality of control lines are actually arranged corresponding to one pixel row. For the sake of illustration, FIG. 1 shows one control line 112 for each pixel row.
  • a signal output from the pixel 111 is sent to the image data generation unit 130 via the signal line 113.
  • the image data generation unit 130 performs A / D conversion by the A / D conversion unit 131 based on the signal output from the pixel 111.
  • the image data generation unit 130 can be configured to perform A / D conversion in parallel for each pixel column.
  • the image data generation unit 130 generates the first image data D1 output at the first frame rate and the second image data D2 output at the second frame rate.
  • the first frame rate is set to a value different from the second frame rate. More specifically, the first frame rate is set to a higher value than the second frame rate. For example, the first frame rate is set to 120 fps, and the second frame rate is set to 30 fps.
  • the first processing unit 161 of the signal processing unit 160 performs first image processing for outputting the sensing information SD based on the first image data D1.
  • the second processing unit 162 of the signal processing unit 160 performs second image processing for outputting the display image data PD based on the second image data D2. The same applies to other embodiments described later.
  • imaging at the first frame rate and imaging at the second frame rate are performed in a time-sharing manner, and the selection unit 150 accesses a pixel group when generating the first image data D1. And the pixel group accessed when generating the second image data D2 is selected so as not to overlap.
  • the first image data D1 and the second image data D2 are divided and output in time series.
  • a signal for controlling the exposure time of the pixel 111 is generated by the exposure control unit 120 so as to correspond to different frame rates for sensing and display, and supplied to the timing control unit 140.
  • the selection unit 150 supplies a scanning signal to the control line 112 based on a signal from the timing control unit 140, and sequentially accesses the pixel group in units of rows (line sequential scanning). Note that the selection unit 150 accesses the pixel 111 while shifting the position between sensing and display in order to separate the pixel 111 in the spatial direction.
  • the image data generation unit 130 is set to perform A / D conversion for sensing when the pixel 111 is accessed for sensing, and for image display when the pixel 111 is accessed for display. Are set to perform A / D conversion.
  • FIG. 2 is a conceptual diagram of the operation of the imaging apparatus and the like according to the first embodiment.
  • FIG. 2 shows an example in which the pixel reading for sensing is performed a plurality of times after the pixel reading for display is completed and until the next pixel reading for display is started.
  • a symbol VSHT indicates a period in which shutter setting is possible in display imaging, and basically corresponds to a repetition period of repeated reading of the second image data D2 for display.
  • the shutter start time can be set anywhere within the period indicated by the symbol VSHT, and can be set as appropriate according to the brightness of the subject.
  • the timing is set so that the shutter operation for sensing does not cause noise at the time of readout of the pixel for display.
  • Reference sign SSHT indicates a period in which shutter setting is possible in imaging for sensing, and basically corresponds to a period of repeated reading of the first image data D1 for sensing.
  • the timing control unit 140 illustrated in FIG. 1 performs control so that the reading period of the first image data D1 and the shutter period of the second image data D2 do not overlap. More specifically, the shutter operation for sensing in the first imaging for sensing is not started between the start period (represented by t 1 ) and the end period (represented by t 2 ) of the display readout shown in FIG.
  • the timing is set. That is, in FIG. 2, t 1 ⁇ t 2 ⁇ t 3 .
  • the timing control unit 140 overlaps the readout period of the second image data D2 and the shutter period of the first image data D1. Control may be performed so that it does not occur.
  • a signal obtained from the pixel 111 by reading for sensing is sent to the image data generation unit 130, and the first image data D1 is generated. Further, a signal obtained from the pixel 111 by the readout for display is sent to the image data generation unit 130, and the second image data D2 is generated.
  • FIG. 3 is a conceptual diagram of an operation when the first image data is processed and sensing information is output.
  • the pixel groups in the odd-numbered rows of the pixel unit 110 are line-sequentially scanned. Further, the A / D conversion unit 131 of the image data generation unit 130 is set to perform processing for sensing use by a control circuit (not shown). Then, quantized first image data D1 is generated.
  • the first image data D1 is input to the first processing unit 161 of the signal processing unit 160.
  • the first processing unit 161 performs first image processing that is image processing for outputting the sensing information SD on the first image data D1.
  • first image processing that is image processing for outputting the sensing information SD on the first image data D1.
  • known processing such as smoothing, luminance noise reduction, and edge extraction is performed on the image data, and measurement processing is performed based on the processed data.
  • the output of the sensing information SD is basically performed at the first frame rate.
  • FIG. 4 is a conceptual diagram of an operation when the second image data is processed and display image data is output.
  • the A / D conversion unit 131 of the image data generation unit 130 is set to perform processing for image display use by a control circuit (not shown). Then, quantized second image data D2 is generated.
  • the second image data D2 is input to the second processing unit 162 of the signal processing unit 160.
  • the second processing unit 162 performs second image processing that is image processing for outputting the display image data PD on the second image data D2.
  • known processing such as noise reduction and edge enhancement is performed on the image data, and the processed data is output as display image data PD.
  • the display image data PD is basically output at the second frame rate.
  • the first embodiment has been described above.
  • FIG. 5 is a schematic diagram for explaining a modification of the imaging apparatus or imaging system.
  • a data packing unit 170 that integrates and outputs the sensing information SD and the display image data PD is added.
  • Sensing information SD and display image data PD are input to the data packing unit 170 from the signal processing unit 160.
  • the data packing unit 170 integrates the sensing information SD by writing it in the header part or footer part of the display image data PD, and outputs it as display image data APD to which the sensing information is added.
  • the second embodiment also relates to an imaging apparatus, an imaging system, and a signal processing method according to the present disclosure.
  • imaging at the first frame rate and imaging at the second frame rate were performed in a time-sharing manner.
  • imaging at the first frame rate and imaging at the second frame rate are performed in parallel.
  • the signal processing unit outputs the sensing information and the display image data independently of each other. The above points are different from the first embodiment.
  • FIG. 6 is a schematic diagram for describing a configuration of an imaging apparatus and an imaging system according to the second embodiment of the present disclosure.
  • a pixel unit 210 in which a plurality of pixels are arranged in a matrix, An exposure control unit 220 for controlling the exposure time of the pixels; An image data generation unit 230 that generates the first image data D1 output at the first frame rate and the second image data D2 output at the second frame rate based on the control of the exposure time; and A first processing unit 261 that executes first image processing on the first image data D1, and a second processing unit 262 that executes second image processing different from the first image processing on the second image data D2.
  • a signal processor 260 It has. Then, the signal processing unit 260 operates the first image processing and the second image processing independently of each other.
  • the first image data D1 and the second image data D2 are generated by a common image data generation unit.
  • the image data generation unit 230 includes a first image data generation unit 231 that generates the first image data D1 and a second image data generation unit 232 that generates the second image data D2. And have.
  • the imaging device 200 further includes: A selection unit 250 for selecting a pixel group arranged in the row direction, and A timing control unit 240 for controlling the timing of accessing the selected pixel group; It has.
  • the timing control unit 240 controls the timing for accessing the pixel group when generating the first image data D1 and the timing for accessing the pixel group when generating the second image data D2.
  • control lines 112 are formed corresponding to each pixel row.
  • signal lines 213A and 213B are formed corresponding to each pixel column. The pixels 111 belonging to the odd rows are connected to the signal line 213A, and the pixels 111 belonging to the even rows are connected to the signal line 213B.
  • a signal output from the pixels 111 in the odd rows is sent to the first image data generation unit 231 via the signal line 213A.
  • the first image data generation unit 231 performs A / D conversion for sensing use in an A / D conversion unit (not shown) based on a signal output from the pixels 111 in the odd rows.
  • the first image data generation unit 231 can be configured to perform A / D conversion in parallel for each pixel column.
  • the signal output from the pixels 111 in the even-numbered rows is sent to the second image data generation unit 232 via the signal line 213B.
  • the second image data generation unit 232 performs A / D conversion for image display in an A / D conversion unit (not shown) based on a signal output from the pixels 111 in even rows.
  • the second image data generation unit 232 can be configured to perform A / D conversion in parallel for each pixel column.
  • the first image data D1 from the first image data generation unit 231 is input to the first processing unit 261 of the signal processing unit 260. Further, the second image data D ⁇ b> 2 from the second image data generation unit 232 is input to the first processing unit 262 of the signal processing unit 260.
  • the signal processing unit 260 outputs the sensing information SD and the display image data PD independently of each other.
  • the processing itself performed in the signal processing unit 260 is basically the same as the processing of the signal processing unit 160 described in the first embodiment.
  • the exposure control unit 220, the timing control unit 240, the selection unit 250, and the signal processing unit 260 are basically the same as the configuration described in the first embodiment, although the operation timings are different, and thus the description thereof is omitted. To do.
  • imaging at the first frame rate and imaging at the second frame rate are performed in parallel.
  • the selection unit 250 selects the pixel group accessed when generating the first image data D1 and the pixel group accessed when generating the second image data D2 to be different.
  • the selection unit 250 selects the pixel group accessed when generating the first image data D1 and the pixel group accessed when generating the second image data D2 to alternate.
  • FIG. 7 is a conceptual diagram of the operation of the imaging apparatus and the like according to the second embodiment.
  • FIG. 7 shows an example in which pixel reading for sensing is performed a plurality of times in parallel between the end of reading of pixels for display and the start of reading of pixels for the next display.
  • a symbol VSHT indicates a period in which shutter setting is possible in display imaging, and basically corresponds to a repetition period of repeated reading of the second image data D2 for display.
  • the shutter start time can be set anywhere within the period indicated by the symbol VSHT, and can be set as appropriate according to the brightness of the subject.
  • Reference sign SSHT indicates a period in which shutter setting is possible in imaging for sensing, and basically corresponds to a period of repeated reading of the first image data D1 for sensing.
  • FIG. 8 is a conceptual diagram of an operation when the first image data is processed and sensing information is output.
  • the pixel groups in the odd-numbered rows of the pixel unit 210 are scanned line-sequentially.
  • a signal from the signal line 213A is input to the first image data generation unit 231 to generate quantized first image data D1.
  • the first image data D1 is input to the first processing unit 261 of the signal processing unit 260. Since the operation of the first processing unit 261 is the same as the operation described in the first embodiment, the description thereof is omitted.
  • FIG. 9 is a conceptual diagram of an operation when the second image data is processed to output display image data.
  • the second image data D2 When generating the second image data D2, for example, even-numbered pixel groups of the pixel unit 210 are scanned line-sequentially.
  • the signal from the signal line 213B is input to the second image data generation unit 232, and the quantized second image data D2 is generated.
  • the second image data D2 is input to the second processing unit 262 of the signal processing unit 260. Since the operation of the second processing unit 262 is the same as the operation described in the first embodiment, the description thereof is omitted.
  • sensing information or display data is sequentially output.
  • sensing information and display data are output in parallel. Therefore, it has an advantage that more detailed sensing information can be obtained.
  • it may be configured to include a data packing unit that integrates and outputs the sensing information SD and the display image data PD.
  • the third embodiment also relates to an imaging apparatus, an imaging system, and a signal processing method according to the present disclosure.
  • the configuration of the pixel portion is mainly different from that of the second embodiment.
  • FIG. 10 is a schematic diagram for describing a configuration of an imaging apparatus and an imaging system according to the second embodiment of the present disclosure.
  • a pixel portion 310 in which a plurality of pixels are arranged in a matrix, An exposure control unit 320 for controlling the exposure time of the pixels; An image data generation unit 330 that generates the first image data D1 output at the first frame rate and the second image data D2 output at the second frame rate based on the control of the exposure time; and A first processing unit 361 that executes first image processing on the first image data D1, and a second processing unit 362 that executes second image processing different from the first image processing on the second image data D2.
  • a signal processor 360 having It has. Then, the signal processing unit 360 operates the first image processing and the second image processing independently of each other.
  • Each pixel 311 of the pixel unit 310 is composed of a pair of a pixel 311A and a pixel 311B.
  • the pixel 311A and the pixel 311B are juxtaposed, but they may be arranged so as to overlap, for example.
  • control lines are formed corresponding to each pixel row.
  • the control line 312A is formed corresponding to the pixel 311A in the pixel row
  • the control line 312B is formed corresponding to the pixel 311B in the pixel row. ing.
  • a signal line 313A is formed corresponding to the pixel 311A
  • a signal line 313B is formed corresponding to the pixel 311B.
  • the signal output from the pixel 311A is sent to the first image data generation unit 331 via the signal line 313A.
  • the first image data generation unit 331 performs A / D conversion for sensing use by an A / D conversion unit (not shown) based on a signal output from the pixel 311A.
  • the first image data generation unit 331 can be configured to perform A / D conversion in parallel for each pixel column.
  • the signal output from the pixel 311B is sent to the second image data generation unit 332 via the signal line 313B. Based on the signal output from the pixel 311B, the second image data generation unit 332 performs A / D conversion for image display using an A / D conversion unit (not shown).
  • the second image data generation unit 332 can be configured to perform A / D conversion in parallel for each pixel column.
  • the first image data D1 from the first image data generation unit 331 is input to the first processing unit 361 of the signal processing unit 360.
  • the second image data D2 from the second image data generation unit 332 is input to the first processing unit 362 of the signal processing unit 360.
  • the signal processing unit 360 outputs the sensing information SD and the display image data PD independently of each other.
  • the processing itself performed in the signal processing unit 360 is basically the same as the processing of the signal processing unit 160 described in the first embodiment.
  • the exposure control unit 320, the timing control unit 340, the selection unit 350, and the signal processing unit 360 are basically the same as the configuration described in the first embodiment, although the operation timings are different. To do.
  • imaging at the first frame rate and imaging at the second frame rate are performed in parallel.
  • the conceptual diagram of the operation of the imaging apparatus or the like according to the third embodiment is the same as FIG. 7 referred to in the second embodiment.
  • FIG. 11 is a conceptual diagram of an operation when the first image data is processed and the sensing information is output.
  • the first image data D1 For example, a group of pixels 311A of the pixel unit 310 is scanned in a line sequential manner. A signal from the signal line 313A is input to the first image data generation unit 331, and the quantized first image data D1 is generated.
  • the first image data D1 is input to the first processing unit 361 of the signal processing unit 360. Since the operation of the first processing unit 361 is the same as the operation described in the first embodiment, the description thereof is omitted.
  • FIG. 12 is a conceptual diagram of an operation when the second image data is processed and display image data is output.
  • the second image data D2 For example, a group of pixels 311B of the pixel unit 310 is scanned line-sequentially.
  • the signal from the signal line 313B is input to the second image data generation unit 332, and the quantized second image data D2 is generated.
  • the second image data D2 is input to the second processing unit 362 of the signal processing unit 360. Since the operation of the second processing unit 362 is the same as the operation described in the first embodiment, the description thereof is omitted.
  • the third embodiment has an advantage that image data having a larger number of pixels can be acquired in addition to the advantages of the second embodiment.
  • it may be configured to include a data packing unit that integrates and outputs the sensing information SD and the display image data PD.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure may be applied to an endoscopic surgery system.
  • FIG. 13 is a diagram illustrating an example of a schematic configuration of an endoscopic surgery system 5000 to which the technology according to the present disclosure can be applied.
  • FIG. 13 illustrates a situation where an operator (doctor) 5067 is performing surgery on a patient 5071 on a patient bed 5069 using an endoscopic surgery system 5000.
  • an endoscopic surgery system 5000 includes an endoscope 5001, other surgical tools 5017, a support arm device 5027 that supports the endoscope 5001, and various devices for endoscopic surgery. And a cart 5037 on which is mounted.
  • trocars 5025a to 5025d are punctured into the abdominal wall.
  • the lens barrel 5003 of the endoscope 5001 and other surgical tools 5017 are inserted into the body cavity of the patient 5071 from the trocars 5025a to 5025d.
  • an insufflation tube 5019, an energy treatment tool 5021, and forceps 5023 are inserted into the body cavity of the patient 5071.
  • the energy treatment device 5021 is a treatment device that performs tissue incision and separation, blood vessel sealing, or the like by high-frequency current or ultrasonic vibration.
  • the illustrated surgical tool 5017 is merely an example, and as the surgical tool 5017, for example, various surgical tools generally used in endoscopic surgery such as a lever and a retractor may be used.
  • the image of the surgical site in the body cavity of the patient 5071 captured by the endoscope 5001 is displayed on the display device 5041.
  • the surgeon 5067 performs a treatment such as excision of the affected part, for example, using the energy treatment tool 5021 and the forceps 5023 while viewing the image of the surgical part displayed on the display device 5041 in real time.
  • the pneumoperitoneum tube 5019, the energy treatment tool 5021, and the forceps 5023 are supported by an operator 5067 or an assistant during surgery.
  • the support arm device 5027 includes an arm portion 5031 extending from the base portion 5029.
  • the arm portion 5031 includes joint portions 5033a, 5033b, and 5033c and links 5035a and 5035b, and is driven by control from the arm control device 5045.
  • the endoscope 5001 is supported by the arm unit 5031, and the position and posture thereof are controlled. Thereby, the stable position fixing of the endoscope 5001 can be realized.
  • the endoscope 5001 includes a lens barrel 5003 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 5071, and a camera head 5005 connected to the proximal end of the lens barrel 5003.
  • a lens barrel 5003 in which a region having a predetermined length from the distal end is inserted into the body cavity of the patient 5071, and a camera head 5005 connected to the proximal end of the lens barrel 5003.
  • an endoscope 5001 configured as a so-called rigid mirror having a rigid lens barrel 5003 is illustrated, but the endoscope 5001 is configured as a so-called flexible mirror having a flexible lens barrel 5003. Also good.
  • An opening into which an objective lens is fitted is provided at the tip of the lens barrel 5003.
  • a light source device 5043 is connected to the endoscope 5001, and light generated by the light source device 5043 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 5003. Irradiation is performed toward the observation target in the body cavity of the patient 5071 through the lens.
  • the endoscope 5001 may be a direct endoscope, a perspective mirror, or a side endoscope.
  • An optical system and an image sensor are provided inside the camera head 5005, and reflected light (observation light) from the observation target is condensed on the image sensor by the optical system. Observation light is photoelectrically converted by the imaging element, and an electrical signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
  • the image signal is transmitted to a camera control unit (CCU) 5039 as RAW data.
  • CCU camera control unit
  • the camera head 5005 is equipped with a function of adjusting the magnification and the focal length by appropriately driving the optical system.
  • a plurality of imaging elements may be provided in the camera head 5005 in order to cope with, for example, stereoscopic viewing (3D display).
  • a plurality of relay optical systems are provided inside the lens barrel 5003 in order to guide observation light to each of the plurality of imaging elements.
  • the CCU 5039 is configured by a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and comprehensively controls operations of the endoscope 5001 and the display device 5041. Specifically, the CCU 5039 performs various types of image processing for displaying an image based on the image signal, such as development processing (demosaic processing), for example, on the image signal received from the camera head 5005. The CCU 5039 provides the display device 5041 with the image signal subjected to the image processing. Further, the CCU 5039 transmits a control signal to the camera head 5005 to control the driving thereof.
  • the control signal can include information regarding imaging conditions such as magnification and focal length.
  • the display device 5041 displays an image based on an image signal subjected to image processing by the CCU 5039 under the control of the CCU 5039.
  • the endoscope 5001 is compatible with high-resolution imaging such as 4K (horizontal pixel number 3840 ⁇ vertical pixel number 2160) or 8K (horizontal pixel number 7680 ⁇ vertical pixel number 4320), and / or 3D display
  • the display device 5041 may be a display device capable of high-resolution display and / or 3D display.
  • 4K or 8K high-resolution imaging a more immersive feeling can be obtained by using a display device 5041 having a size of 55 inches or more.
  • a plurality of display devices 5041 having different resolutions and sizes may be provided depending on applications.
  • the light source device 5043 is composed of a light source such as an LED (light emitting diode), for example, and supplies irradiation light to the endoscope 5001 when photographing a surgical site.
  • a light source such as an LED (light emitting diode)
  • the arm control device 5045 is configured by a processor such as a CPU, for example, and operates according to a predetermined program to control driving of the arm portion 5031 of the support arm device 5027 according to a predetermined control method.
  • the input device 5047 is an input interface for the endoscopic surgery system 5000.
  • the user can input various information and instructions to the endoscopic surgery system 5000 via the input device 5047.
  • the user inputs various types of information related to the operation, such as the patient's physical information and information about the surgical technique, via the input device 5047.
  • the user instructs the arm unit 5031 to be driven via the input device 5047 or the instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 5001. Then, an instruction to drive the energy treatment instrument 5021 is input.
  • the type of the input device 5047 is not limited, and the input device 5047 may be various known input devices.
  • the input device 5047 for example, a mouse, a keyboard, a touch panel, a switch, a foot switch 5057, and / or a lever can be applied.
  • the touch panel may be provided on the display surface of the display device 5041.
  • the input device 5047 is a device worn by the user, such as a glasses-type wearable device or an HMD (Head Mounted Display), and various types of input are performed according to the user's gesture and line of sight detected by these devices. Is done.
  • the input device 5047 includes a camera capable of detecting the user's movement, and various inputs are performed according to the user's gesture and line of sight detected from the video captured by the camera.
  • the input device 5047 includes a microphone that can pick up a user's voice, and various inputs are performed by voice through the microphone.
  • the input device 5047 is configured to be able to input various information without contact, so that a user belonging to a clean area (for example, an operator 5067) can operate a device belonging to an unclean area without contact. Is possible.
  • a user belonging to a clean area for example, an operator 5067
  • the user can operate the device without releasing his / her hand from the surgical tool he / she has, the convenience for the user is improved.
  • the treatment instrument control device 5049 controls the drive of the energy treatment instrument 5021 for tissue cauterization, incision, or blood vessel sealing.
  • the pneumoperitoneum device 5051 gas is introduced into the body cavity via the pneumoperitoneum tube 5019.
  • the recorder 5053 is an apparatus capable of recording various types of information related to surgery.
  • the printer 5055 is a device that can print various types of information related to surgery in various formats such as text, images, or graphs.
  • the support arm device 5027 includes a base portion 5029 as a base and an arm portion 5031 extending from the base portion 5029.
  • the arm portion 5031 includes a plurality of joint portions 5033a, 5033b, and 5033c and a plurality of links 5035a and 5035b connected by the joint portion 5033b.
  • FIG. The configuration of the arm portion 5031 is shown in a simplified manner. Actually, the shape, number and arrangement of the joint portions 5033a to 5033c and the links 5035a and 5035b, the direction of the rotation axis of the joint portions 5033a to 5033c, and the like are appropriately set so that the arm portion 5031 has a desired degree of freedom. obtain.
  • the arm portion 5031 can be preferably configured to have 6 degrees of freedom or more. Accordingly, the endoscope 5001 can be freely moved within the movable range of the arm portion 5031. Therefore, the barrel 5003 of the endoscope 5001 can be inserted into the body cavity of the patient 5071 from a desired direction. It becomes possible.
  • the joint portions 5033a to 5033c are provided with actuators, and the joint portions 5033a to 5033c are configured to be rotatable around a predetermined rotation axis by driving the actuators.
  • the arm control device 5045 By controlling the driving of the actuator by the arm control device 5045, the rotation angles of the joint portions 5033a to 5033c are controlled, and the driving of the arm portion 5031 is controlled. Thereby, control of the position and orientation of the endoscope 5001 can be realized.
  • the arm control device 5045 can control the driving of the arm unit 5031 by various known control methods such as force control or position control.
  • the arm control device 5045 appropriately controls the driving of the arm unit 5031 according to the operation input.
  • the position and posture of the endoscope 5001 may be controlled.
  • the endoscope 5001 at the tip of the arm portion 5031 can be moved from an arbitrary position to an arbitrary position, and then fixedly supported at the position after the movement.
  • the arm portion 5031 may be operated by a so-called master slave method.
  • the arm unit 5031 can be remotely operated by the user via the input device 5047 installed at a location away from the operating room.
  • the arm control device 5045 When force control is applied, the arm control device 5045 receives the external force from the user and moves the actuators of the joint portions 5033a to 5033c so that the arm portion 5031 moves smoothly according to the external force. You may perform what is called power assist control to drive. Accordingly, when the user moves the arm unit 5031 while directly touching the arm unit 5031, the arm unit 5031 can be moved with a relatively light force. Therefore, the endoscope 5001 can be moved more intuitively and with a simpler operation, and user convenience can be improved.
  • an endoscope 5001 is supported by a doctor called a scopist.
  • the position of the endoscope 5001 can be more reliably fixed without relying on human hands, so that an image of the surgical site can be stably obtained. It becomes possible to perform the operation smoothly.
  • the arm control device 5045 is not necessarily provided in the cart 5037. Further, the arm control device 5045 is not necessarily a single device. For example, the arm control device 5045 may be provided in each joint portion 5033a to 5033c of the arm portion 5031 of the support arm device 5027, and the plurality of arm control devices 5045 cooperate with each other to drive the arm portion 5031. Control may be realized.
  • the light source device 5043 supplies irradiation light to the endoscope 5001 when photographing a surgical site.
  • the light source device 5043 is composed of a white light source composed of, for example, an LED, a laser light source, or a combination thereof.
  • a white light source is configured by a combination of RGB laser light sources, the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Adjustments can be made.
  • each RGB light source is controlled by irradiating the observation target with laser light from each of the RGB laser light sources in a time-sharing manner and controlling the driving of the image sensor of the camera head 5005 in synchronization with the irradiation timing. It is also possible to take the images that have been taken in time division. According to this method, a color image can be obtained without providing a color filter in the image sensor.
  • the driving of the light source device 5043 may be controlled so as to change the intensity of the output light every predetermined time.
  • the driving of the image sensor of the camera head 5005 is controlled to acquire images in a time-sharing manner, and the images are synthesized, so that high dynamics without so-called blackout and overexposure are obtained. A range image can be generated.
  • the light source device 5043 may be configured to be able to supply light of a predetermined wavelength band corresponding to special light observation.
  • special light observation for example, by utilizing the wavelength dependence of light absorption in body tissue, the surface of the mucous membrane is irradiated by irradiating light in a narrow band compared to irradiation light (ie, white light) during normal observation.
  • narrow band imaging is performed in which a predetermined tissue such as a blood vessel is imaged with high contrast.
  • fluorescence observation may be performed in which an image is obtained by fluorescence generated by irradiating excitation light.
  • the body tissue is irradiated with excitation light to observe fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue.
  • a reagent such as indocyanine green (ICG) is locally administered to the body tissue and applied to the body tissue.
  • ICG indocyanine green
  • the light source device 5043 can be configured to be able to supply narrowband light and / or excitation light corresponding to such special light observation.
  • FIG. 14 is a block diagram showing an example of the functional configuration of the camera head 5005 and the CCU 5039 shown in FIG.
  • the camera head 5005 has a lens unit 5007, an imaging unit 5009, a driving unit 5011, a communication unit 5013, and a camera head control unit 5015 as its functions.
  • the CCU 5039 includes a communication unit 5059, an image processing unit 5061, and a control unit 5063 as its functions.
  • the camera head 5005 and the CCU 5039 are connected to each other via a transmission cable 5065 so that they can communicate with each other.
  • the lens unit 5007 is an optical system provided at a connection portion with the lens barrel 5003. Observation light captured from the tip of the lens barrel 5003 is guided to the camera head 5005 and enters the lens unit 5007.
  • the lens unit 5007 is configured by combining a plurality of lenses including a zoom lens and a focus lens. The optical characteristics of the lens unit 5007 are adjusted so that the observation light is condensed on the light receiving surface of the image sensor of the imaging unit 5009. Further, the zoom lens and the focus lens are configured such that their positions on the optical axis are movable in order to adjust the magnification and focus of the captured image.
  • the imaging unit 5009 is configured by an imaging element, and is disposed in the subsequent stage of the lens unit 5007.
  • the observation light that has passed through the lens unit 5007 is collected on the light receiving surface of the image sensor, and an image signal corresponding to the observation image is generated by photoelectric conversion.
  • the image signal generated by the imaging unit 5009 is provided to the communication unit 5013.
  • CMOS Complementary Metal Oxide Semiconductor
  • the imaging element for example, an element capable of capturing a high-resolution image of 4K or more may be used.
  • the image sensor that configures the image capturing unit 5009 is configured to include a pair of image sensors for acquiring right-eye and left-eye image signals corresponding to 3D display. By performing the 3D display, the operator 5067 can more accurately grasp the depth of the living tissue in the surgical site.
  • the imaging unit 5009 is configured as a multi-plate type, a plurality of lens units 5007 are also provided corresponding to each imaging element.
  • the imaging unit 5009 is not necessarily provided in the camera head 5005.
  • the imaging unit 5009 may be provided inside the lens barrel 5003 immediately after the objective lens.
  • the driving unit 5011 includes an actuator, and moves the zoom lens and the focus lens of the lens unit 5007 by a predetermined distance along the optical axis under the control of the camera head control unit 5015. Thereby, the magnification and focus of the image captured by the imaging unit 5009 can be adjusted as appropriate.
  • the communication unit 5013 is configured by a communication device for transmitting and receiving various types of information to and from the CCU 5039.
  • the communication unit 5013 transmits the image signal obtained from the imaging unit 5009 as RAW data to the CCU 5039 via the transmission cable 5065.
  • the image signal is preferably transmitted by optical communication.
  • the surgeon 5067 performs the surgery while observing the state of the affected area with the captured image, so that a moving image of the surgical site is displayed in real time as much as possible for safer and more reliable surgery. Because it is required.
  • the communication unit 5013 is provided with a photoelectric conversion module that converts an electrical signal into an optical signal.
  • the image signal is converted into an optical signal by the photoelectric conversion module, and then transmitted to the CCU 5039 via the transmission cable 5065.
  • the communication unit 5013 receives a control signal for controlling driving of the camera head 5005 from the CCU 5039.
  • the control signal includes, for example, information for designating the frame rate of the captured image, information for designating the exposure value at the time of imaging, and / or information for designating the magnification and focus of the captured image. Contains information about the condition.
  • the communication unit 5013 provides the received control signal to the camera head control unit 5015.
  • the control signal from the CCU 5039 may also be transmitted by optical communication.
  • the communication unit 5013 is provided with a photoelectric conversion module that converts an optical signal into an electric signal.
  • the control signal is converted into an electric signal by the photoelectric conversion module, and then provided to the camera head control unit 5015.
  • the imaging conditions such as the frame rate, exposure value, magnification, and focus are automatically set by the control unit 5063 of the CCU 5039 based on the acquired image signal. That is, a so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function are mounted on the endoscope 5001.
  • AE Auto Exposure
  • AF Automatic Focus
  • AWB Automatic White Balance
  • the camera head control unit 5015 controls driving of the camera head 5005 based on a control signal from the CCU 5039 received via the communication unit 5013. For example, the camera head control unit 5015 controls driving of the imaging element of the imaging unit 5009 based on information indicating that the frame rate of the captured image is specified and / or information indicating that the exposure at the time of imaging is specified. For example, the camera head control unit 5015 appropriately moves the zoom lens and the focus lens of the lens unit 5007 via the drive unit 5011 based on information indicating that the magnification and focus of the captured image are designated.
  • the camera head control unit 5015 may further have a function of storing information for identifying the lens barrel 5003 and the camera head 5005.
  • the camera head 5005 can be resistant to autoclave sterilization by arranging the lens unit 5007, the imaging unit 5009, and the like in a sealed structure with high airtightness and waterproofness.
  • the communication unit 5059 is configured by a communication device for transmitting and receiving various types of information to and from the camera head 5005.
  • the communication unit 5059 receives an image signal transmitted from the camera head 5005 via the transmission cable 5065.
  • the image signal can be suitably transmitted by optical communication.
  • the communication unit 5059 is provided with a photoelectric conversion module that converts an optical signal into an electric signal.
  • the communication unit 5059 provides the image processing unit 5061 with the image signal converted into the electrical signal.
  • the communication unit 5059 transmits a control signal for controlling the driving of the camera head 5005 to the camera head 5005.
  • the control signal may also be transmitted by optical communication.
  • the image processing unit 5061 performs various types of image processing on the image signal that is RAW data transmitted from the camera head 5005. Examples of the image processing include development processing, high image quality processing (band enhancement processing, super-resolution processing, NR (Noise reduction) processing and / or camera shake correction processing, etc.), and / or enlargement processing (electronic zoom processing). Various known signal processing is included.
  • the image processing unit 5061 performs detection processing on the image signal for performing AE, AF, and AWB.
  • the image processing unit 5061 is configured by a processor such as a CPU or a GPU, and the above-described image processing and detection processing can be performed by the processor operating according to a predetermined program.
  • the image processing unit 5061 is configured by a plurality of GPUs, the image processing unit 5061 appropriately divides information related to the image signal, and performs image processing in parallel by the plurality of GPUs.
  • the control unit 5063 performs various controls relating to imaging of the surgical site by the endoscope 5001 and display of the captured image. For example, the control unit 5063 generates a control signal for controlling driving of the camera head 5005. At this time, when the imaging condition is input by the user, the control unit 5063 generates a control signal based on the input by the user. Alternatively, when the endoscope 5001 is equipped with the AE function, the AF function, and the AWB function, the control unit 5063 determines the optimum exposure value, focal length, and the like according to the detection processing result by the image processing unit 5061. A white balance is appropriately calculated and a control signal is generated.
  • control unit 5063 causes the display device 5041 to display an image of the surgical site based on the image signal subjected to the image processing by the image processing unit 5061.
  • the control unit 5063 recognizes various objects in the surgical unit image using various image recognition techniques. For example, the control unit 5063 detects the shape and color of the edge of the object included in the surgical part image, thereby removing surgical tools such as forceps, specific biological parts, bleeding, mist when using the energy treatment tool 5021, and the like. Can be recognized.
  • the control unit 5063 displays various types of surgery support information on the image of the surgical site using the recognition result. Surgery support information is displayed in a superimposed manner and presented to the operator 5067, so that the surgery can be performed more safely and reliably.
  • the transmission cable 5065 for connecting the camera head 5005 and the CCU 5039 is an electric signal cable corresponding to electric signal communication, an optical fiber corresponding to optical communication, or a composite cable thereof.
  • communication is performed by wire using the transmission cable 5065, but communication between the camera head 5005 and the CCU 5039 may be performed wirelessly.
  • communication between the two is performed wirelessly, there is no need to install the transmission cable 5065 in the operating room, so that the situation where the movement of the medical staff in the operating room is hindered by the transmission cable 5065 can be eliminated.
  • the endoscopic surgery system 5000 to which the technology according to the present disclosure can be applied has been described.
  • the endoscopic surgery system 5000 has been described as an example, but a system to which the technology according to the present disclosure can be applied is not limited to such an example.
  • the technology according to the present disclosure may be applied to a testing flexible endoscope system or a microscope operation system.
  • the technology according to the present disclosure can be suitably applied to imaging of an operation part using an endoscope among the configurations described above. That is, since sensing information can be obtained together with the operation part image, it is possible to perform the operation more safely and reliably.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure may be any type of movement such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, personal mobility, an airplane, a drone, a ship, a robot, a construction machine, and an agricultural machine (tractor).
  • FIG. 15 is a block diagram illustrating a schematic configuration example of a vehicle control system 7000 that is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • the vehicle control system 7000 includes a plurality of electronic control units connected via a communication network 7010.
  • the vehicle control system 7000 includes a drive system control unit 7100, a body system control unit 7200, a battery control unit 7300, a vehicle exterior information detection unit 7400, a vehicle interior information detection unit 7500, and an integrated control unit 7600. .
  • the communication network 7010 for connecting the plurality of control units conforms to an arbitrary standard such as CAN (Controller Area Network), LIN (Local Interconnect Network), LAN (Local Area Network), or FlexRay (registered trademark). It may be an in-vehicle communication network.
  • Each control unit includes a microcomputer that performs arithmetic processing according to various programs, a storage unit that stores programs executed by the microcomputer or parameters used for various calculations, and a drive circuit that drives various devices to be controlled. Is provided.
  • Each control unit includes a network I / F for communicating with other control units via a communication network 7010, and is connected to devices or sensors inside and outside the vehicle by wired communication or wireless communication. A communication I / F for performing communication is provided. In FIG.
  • a microcomputer 7610 As a functional configuration of the integrated control unit 7600, a microcomputer 7610, a general-purpose communication I / F 7620, a dedicated communication I / F 7630, a positioning unit 7640, a beacon receiving unit 7650, an in-vehicle device I / F 7660, an audio image output unit 7670, An in-vehicle network I / F 7680 and a storage unit 7690 are illustrated.
  • other control units include a microcomputer, a communication I / F, a storage unit, and the like.
  • the drive system control unit 7100 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 7100 includes a driving force generator for generating a driving force of a vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism that adjusts and a braking device that generates a braking force of the vehicle.
  • the drive system control unit 7100 may have a function as a control device such as ABS (Antilock Brake System) or ESC (Electronic Stability Control).
  • a vehicle state detection unit 7110 is connected to the drive system control unit 7100.
  • the vehicle state detection unit 7110 includes, for example, a gyro sensor that detects the angular velocity of the rotational movement of the vehicle body, an acceleration sensor that detects the acceleration of the vehicle, an operation amount of an accelerator pedal, an operation amount of a brake pedal, and steering of a steering wheel. At least one of sensors for detecting an angle, an engine speed, a rotational speed of a wheel, or the like is included.
  • the drive system control unit 7100 performs arithmetic processing using a signal input from the vehicle state detection unit 7110, and controls an internal combustion engine, a drive motor, an electric power steering device, a brake device, or the like.
  • the body system control unit 7200 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 7200 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a headlamp, a back lamp, a brake lamp, a blinker, or a fog lamp.
  • the body control unit 7200 can be input with radio waves or various switch signals transmitted from a portable device that substitutes for a key.
  • the body system control unit 7200 receives input of these radio waves or signals, and controls a door lock device, a power window device, a lamp, and the like of the vehicle.
  • the battery control unit 7300 controls the secondary battery 7310 that is a power supply source of the drive motor according to various programs. For example, information such as battery temperature, battery output voltage, or remaining battery capacity is input to the battery control unit 7300 from a battery device including the secondary battery 7310. The battery control unit 7300 performs arithmetic processing using these signals, and controls the temperature adjustment of the secondary battery 7310 or the cooling device provided in the battery device.
  • the outside information detection unit 7400 detects information outside the vehicle on which the vehicle control system 7000 is mounted.
  • the outside information detection unit 7400 is connected to at least one of the imaging unit 7410 and the outside information detection unit 7420.
  • the imaging unit 7410 includes at least one of a ToF (Time Of Flight) camera, a stereo camera, a monocular camera, an infrared camera, and other cameras.
  • the outside information detection unit 7420 detects, for example, current weather or an environmental sensor for detecting weather, or other vehicles, obstacles, pedestrians, etc. around the vehicle equipped with the vehicle control system 7000. At least one of the surrounding information detection sensors.
  • the environmental sensor may be, for example, at least one of a raindrop sensor that detects rainy weather, a fog sensor that detects fog, a sunshine sensor that detects sunlight intensity, and a snow sensor that detects snowfall.
  • the ambient information detection sensor may be at least one of an ultrasonic sensor, a radar device, and a LIDAR (Light Detection and Ranging, Laser Imaging Detection and Ranging) device.
  • the imaging unit 7410 and the outside information detection unit 7420 may be provided as independent sensors or devices, or may be provided as a device in which a plurality of sensors or devices are integrated.
  • FIG. 16 shows an example of installation positions of the imaging unit 7410 and the vehicle outside information detection unit 7420.
  • the imaging units 7910, 7912, 7914, 7916, and 7918 are provided at, for example, at least one of the front nose, the side mirror, the rear bumper, the back door, and the upper part of the windshield in the vehicle interior of the vehicle 7900.
  • An imaging unit 7910 provided in the front nose and an imaging unit 7918 provided in the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 7900.
  • Imaging units 7912 and 7914 provided in the side mirror mainly acquire an image of the side of the vehicle 7900.
  • An imaging unit 7916 provided in the rear bumper or the back door mainly acquires an image behind the vehicle 7900.
  • the imaging unit 7918 provided on the upper part of the windshield in the passenger compartment is mainly used for detecting a preceding vehicle or a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or
  • FIG. 16 shows an example of shooting ranges of the respective imaging units 7910, 7912, 7914, and 7916.
  • the imaging range a indicates the imaging range of the imaging unit 7910 provided in the front nose
  • the imaging ranges b and c indicate the imaging ranges of the imaging units 7912 and 7914 provided in the side mirrors, respectively
  • the imaging range d The imaging range of the imaging part 7916 provided in the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 7910, 7912, 7914, and 7916, an overhead image when the vehicle 7900 is viewed from above is obtained.
  • the vehicle outside information detection units 7920, 7922, 7924, 7926, 7928, and 7930 provided on the front, rear, sides, corners of the vehicle 7900 and the upper part of the windshield in the vehicle interior may be, for example, an ultrasonic sensor or a radar device.
  • the vehicle outside information detection units 7920, 7926, and 7930 provided on the front nose, the rear bumper, the back door, and the windshield in the vehicle interior of the vehicle 7900 may be, for example, LIDAR devices.
  • These outside information detection units 7920 to 7930 are mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, and the like.
  • the vehicle exterior information detection unit 7400 causes the imaging unit 7410 to capture an image outside the vehicle and receives the captured image data. Further, the vehicle exterior information detection unit 7400 receives detection information from the vehicle exterior information detection unit 7420 connected thereto. When the vehicle exterior information detection unit 7420 is an ultrasonic sensor, a radar device, or a LIDAR device, the vehicle exterior information detection unit 7400 transmits ultrasonic waves, electromagnetic waves, or the like, and receives received reflected wave information.
  • the outside information detection unit 7400 may perform an object detection process or a distance detection process such as a person, a car, an obstacle, a sign, or a character on a road surface based on the received information.
  • the vehicle exterior information detection unit 7400 may perform environment recognition processing for recognizing rainfall, fog, road surface conditions, or the like based on the received information.
  • the vehicle outside information detection unit 7400 may calculate a distance to an object outside the vehicle based on the received information.
  • the outside information detection unit 7400 may perform image recognition processing or distance detection processing for recognizing a person, a car, an obstacle, a sign, a character on a road surface, or the like based on the received image data.
  • the vehicle exterior information detection unit 7400 performs processing such as distortion correction or alignment on the received image data, and combines the image data captured by the different imaging units 7410 to generate an overhead image or a panoramic image. Also good.
  • the vehicle exterior information detection unit 7400 may perform viewpoint conversion processing using image data captured by different imaging units 7410.
  • the vehicle interior information detection unit 7500 detects vehicle interior information.
  • a driver state detection unit 7510 that detects the driver's state is connected to the in-vehicle information detection unit 7500.
  • Driver state detection unit 7510 may include a camera that captures an image of the driver, a biosensor that detects biometric information of the driver, a microphone that collects sound in the passenger compartment, and the like.
  • the biometric sensor is provided, for example, on a seat surface or a steering wheel, and detects biometric information of an occupant sitting on the seat or a driver holding the steering wheel.
  • the vehicle interior information detection unit 7500 may calculate the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 7510, and determines whether the driver is asleep. May be.
  • the vehicle interior information detection unit 7500 may perform a process such as a noise canceling process on the collected audio signal.
  • the integrated control unit 7600 controls the overall operation in the vehicle control system 7000 according to various programs.
  • An input unit 7800 is connected to the integrated control unit 7600.
  • the input unit 7800 is realized by a device that can be input by a passenger, such as a touch panel, a button, a microphone, a switch, or a lever.
  • the integrated control unit 7600 may be input with data obtained by recognizing voice input through a microphone.
  • the input unit 7800 may be, for example, a remote control device using infrared rays or other radio waves, or may be an external connection device such as a mobile phone or a PDA (Personal Digital Assistant) that supports the operation of the vehicle control system 7000. May be.
  • the input unit 7800 may be, for example, a camera.
  • the passenger can input information using a gesture.
  • data obtained by detecting the movement of the wearable device worn by the passenger may be input.
  • the input unit 7800 may include, for example, an input control circuit that generates an input signal based on information input by a passenger or the like using the input unit 7800 and outputs the input signal to the integrated control unit 7600.
  • a passenger or the like operates the input unit 7800 to input various data or instruct a processing operation to the vehicle control system 7000.
  • the storage unit 7690 may include a ROM (Read Only Memory) that stores various programs executed by the microcomputer, and a RAM (Random Access Memory) that stores various parameters, calculation results, sensor values, and the like.
  • the storage unit 7690 may be realized by a magnetic storage device such as an HDD (Hard Disc Drive), a semiconductor storage device, an optical storage device, a magneto-optical storage device, or the like.
  • General-purpose communication I / F 7620 is a general-purpose communication I / F that mediates communication with various devices existing in the external environment 7750.
  • General-purpose communication I / F7620 is a cellular communication protocol such as GSM (registered trademark) (Global System of Mobile communications), WiMAX, LTE (Long Term Evolution) or LTE-A (LTE-Advanced), or a wireless LAN (Wi-Fi). (Also referred to as (registered trademark)) and other wireless communication protocols such as Bluetooth (registered trademark) may be implemented.
  • GSM Global System of Mobile communications
  • WiMAX Wireless LAN
  • LTE Long Term Evolution
  • LTE-A Long Term Evolution-A
  • Wi-Fi wireless LAN
  • Bluetooth registered trademark
  • the general-purpose communication I / F 7620 is connected to a device (for example, an application server or a control server) existing on an external network (for example, the Internet, a cloud network, or an operator-specific network) via, for example, a base station or an access point. May be.
  • the general-purpose communication I / F 7620 is a terminal (for example, a driver, a pedestrian or a store terminal, or an MTC (Machine Type Communication) terminal) that exists in the vicinity of the vehicle using, for example, P2P (Peer To Peer) technology. You may connect with.
  • the dedicated communication I / F 7630 is a communication I / F that supports a communication protocol formulated for use in vehicles.
  • the dedicated communication I / F 7630 is a standard protocol such as WAVE (Wireless Access in Vehicle Environment), DSRC (Dedicated Short Range Communications), or cellular communication protocol, which is a combination of the lower layer IEEE 802.11p and the upper layer IEEE 1609. May be implemented.
  • the dedicated communication I / F 7630 typically includes vehicle-to-vehicle communication, vehicle-to-infrastructure communication, vehicle-to-home communication, and vehicle-to-pedestrian communication. ) Perform V2X communication, which is a concept that includes one or more of the communications.
  • the positioning unit 7640 receives, for example, a GNSS signal from a GNSS (Global Navigation Satellite System) satellite (for example, a GPS signal from a GPS (Global Positioning System) satellite), performs positioning, and performs latitude, longitude, and altitude of the vehicle.
  • the position information including is generated.
  • the positioning unit 7640 may specify the current position by exchanging signals with the wireless access point, or may acquire position information from a terminal such as a mobile phone, PHS, or smartphone having a positioning function.
  • the beacon receiving unit 7650 receives, for example, radio waves or electromagnetic waves transmitted from a radio station installed on the road, and acquires information such as the current position, traffic jam, closed road, or required time. Note that the function of the beacon receiving unit 7650 may be included in the dedicated communication I / F 7630 described above.
  • the in-vehicle device I / F 7660 is a communication interface that mediates the connection between the microcomputer 7610 and various in-vehicle devices 7760 present in the vehicle.
  • the in-vehicle device I / F 7660 may establish a wireless connection using a wireless communication protocol such as a wireless LAN, Bluetooth (registered trademark), NFC (Near Field Communication), or WUSB (Wireless USB).
  • the in-vehicle device I / F 7660 is connected to a USB (Universal Serial Bus), HDMI (registered trademark) (High-Definition Multimedia Interface), or MHL (Mobile) via a connection terminal (and a cable if necessary). Wired connection such as High-definition Link) may be established.
  • the in-vehicle device 7760 may include, for example, at least one of a mobile device or a wearable device that a passenger has, or an information device that is carried into or attached to the vehicle.
  • In-vehicle device 7760 may include a navigation device that searches for a route to an arbitrary destination.
  • In-vehicle device I / F 7660 exchanges control signals or data signals with these in-vehicle devices 7760.
  • the in-vehicle network I / F 7680 is an interface that mediates communication between the microcomputer 7610 and the communication network 7010.
  • the in-vehicle network I / F 7680 transmits and receives signals and the like in accordance with a predetermined protocol supported by the communication network 7010.
  • the microcomputer 7610 of the integrated control unit 7600 is connected via at least one of a general-purpose communication I / F 7620, a dedicated communication I / F 7630, a positioning unit 7640, a beacon receiving unit 7650, an in-vehicle device I / F 7660, and an in-vehicle network I / F 7680.
  • the vehicle control system 7000 is controlled according to various programs based on the acquired information. For example, the microcomputer 7610 calculates a control target value of the driving force generation device, the steering mechanism, or the braking device based on the acquired information inside and outside the vehicle, and outputs a control command to the drive system control unit 7100. Also good.
  • the microcomputer 7610 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, following traveling based on inter-vehicle distance, vehicle speed maintaining traveling, vehicle collision warning, or vehicle lane departure warning. You may perform the cooperative control for the purpose. Further, the microcomputer 7610 controls the driving force generator, the steering mechanism, the braking device, or the like based on the acquired information on the surroundings of the vehicle, so that the microcomputer 7610 automatically travels independently of the driver's operation. You may perform the cooperative control for the purpose of driving.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 7610 is information acquired via at least one of the general-purpose communication I / F 7620, the dedicated communication I / F 7630, the positioning unit 7640, the beacon receiving unit 7650, the in-vehicle device I / F 7660, and the in-vehicle network I / F 7680.
  • the three-dimensional distance information between the vehicle and the surrounding structure or an object such as a person may be generated based on the above and local map information including the peripheral information of the current position of the vehicle may be created.
  • the microcomputer 7610 may generate a warning signal by predicting a danger such as a collision of a vehicle, approach of a pedestrian or the like or an approach to a closed road based on the acquired information.
  • the warning signal may be, for example, a signal for generating a warning sound or lighting a warning lamp.
  • the audio image output unit 7670 transmits an output signal of at least one of audio and image to an output device capable of visually or audibly notifying information to a vehicle occupant or the outside of the vehicle.
  • an audio speaker 7710, a display unit 7720, and an instrument panel 7730 are illustrated as output devices.
  • Display unit 7720 may include at least one of an on-board display and a head-up display, for example.
  • the display portion 7720 may have an AR (Augmented Reality) display function.
  • the output device may be other devices such as headphones, wearable devices such as glasses-type displays worn by passengers, projectors, and lamps.
  • the display device can display the results obtained by various processes performed by the microcomputer 7610 or information received from other control units in various formats such as text, images, tables, and graphs. Display visually. Further, when the output device is an audio output device, the audio output device converts an audio signal made up of reproduced audio data or acoustic data into an analog signal and outputs it aurally.
  • At least two control units connected via the communication network 7010 may be integrated as one control unit.
  • each control unit may be configured by a plurality of control units.
  • the vehicle control system 7000 may include another control unit not shown.
  • some or all of the functions of any of the control units may be given to other control units. That is, as long as information is transmitted and received via the communication network 7010, the predetermined arithmetic processing may be performed by any one of the control units.
  • a sensor or device connected to one of the control units may be connected to another control unit, and a plurality of control units may transmit / receive detection information to / from each other via the communication network 7010. .
  • the technology according to the present disclosure can be applied to, for example, the determination by the outside information detection unit among the configurations described above. That is, since sensing information can be obtained together with an image, more detailed information can be obtained.
  • this indication can also take the following structures.
  • a pixel portion in which a plurality of pixels are arranged in a matrix An exposure control unit for controlling an exposure time of the pixel;
  • An image data generation unit configured to generate first image data output at a first frame rate and second image data output at a second frame rate based on the control of the exposure time; and
  • a first processing unit that executes first image processing on the first image data; and a second processing unit that executes second image processing different from the first image processing on the second image data.
  • Signal processor With The signal processing unit operates the first image processing and the second image processing independently of each other; Imaging device.
  • [A2] A selection unit for selecting a pixel group arranged in the row direction; and A timing control unit for controlling timing for accessing the selected pixel group; Further comprising The timing control unit controls a timing of accessing the pixel group when generating the first image data and a timing of accessing the pixel group when generating the second image data;
  • [A3] The first frame rate is set to a value different from the second frame rate.
  • [A4] The first frame rate is set to a value higher than the second frame rate;
  • the first image processing is image processing for outputting sensing information;
  • the second image processing is image processing for outputting display image data.
  • the imaging at the first frame rate and the imaging at the second frame rate are performed in a time-sharing manner,
  • the selection unit selects a pixel group accessed when generating the first image data and a pixel group accessed when generating the second image data so as not to overlap.
  • the timing controller controls the reading period of the first image data and the shutter period of the second image data not to overlap.
  • the timing control unit controls the readout period of the second image data and the shutter period of the first image data not to overlap.
  • Imaging at the first frame rate and imaging at the second frame rate are performed in parallel, The signal processing unit outputs the sensing information and the display image data independently of each other; The imaging device according to [A4] above.
  • the selection unit selects a pixel group to be accessed when generating the first image data and a pixel group to be accessed when generating the second image data are different.
  • the selection unit selects a pixel group to be accessed when generating the first image data and a pixel group to be accessed when generating the second image data so as to alternate.
  • the image data generation unit includes a first image data generation unit that generates the first image data, and a second image data generation unit that generates the second image data.
  • the imaging device according to [A19] or [A10].
  • a data packing unit that integrates and outputs the sensing information and the display image data;
  • the imaging device according to any one of [A4] to [A11].
  • the image data generation unit includes an A / D conversion unit that converts an analog signal output from the pixel unit into a digital signal.
  • the imaging device according to any one of [A1] to [A12].
  • the pixel unit, the image data generation unit, and the signal processing unit are formed on the same semiconductor substrate.
  • a plurality of semiconductor substrates including at least a first semiconductor substrate and a second semiconductor substrate are laminated, The pixel portion is formed at least on the first semiconductor substrate, At least the signal processing unit is formed on the second semiconductor substrate.
  • [B1] A pixel portion in which a plurality of pixels are arranged in a matrix, An exposure control unit for controlling an exposure time of the pixel; An image data generation unit configured to generate first image data output at a first frame rate and second image data output at a second frame rate based on the control of the exposure time; and Signal processing including a first processing unit that performs first image processing on first image data and a second processing unit that executes second image processing different from the first image processing on second image data Part, With The signal processing unit operates the first image processing and the second image processing independently of each other; Imaging system.
  • [B2] A selection unit for selecting a pixel group arranged in the row direction; and A timing control unit for controlling timing for accessing the selected pixel group; Further comprising The timing control unit controls a timing of accessing the pixel group when generating the first image data and a timing of accessing the pixel group when generating the second image data;
  • [B3] The first frame rate is set to a value different from the second frame rate.
  • [B4] The first frame rate is set to a value higher than the second frame rate;
  • the first image processing is image processing for outputting sensing information;
  • the second image processing is image processing for outputting display image data.
  • the imaging at the first frame rate and the imaging at the second frame rate are performed in a time-sharing manner,
  • the selection unit selects a pixel group accessed when generating the first image data and a pixel group accessed when generating the second image data so as not to overlap.
  • the timing controller controls the reading period of the first image data and the shutter period of the second image data not to overlap.
  • the timing control unit controls the readout period of the second image data and the shutter period of the first image data not to overlap.
  • Imaging at the first frame rate and imaging at the second frame rate are performed in parallel, The signal processing unit outputs the sensing information and the display image data independently of each other; The imaging system according to [B4] above.
  • the selection unit selects a pixel group to be accessed when generating the first image data and a pixel group to be accessed when generating the second image data are different.
  • the selection unit selects a pixel group to be accessed when generating the first image data and a pixel group to be accessed when generating the second image data so as to alternate.
  • the image data generation unit includes a first image data generation unit that generates the first image data, and a second image data generation unit that generates the second image data.
  • the imaging system according to [B19] or [B10].
  • [B12] A data packing unit that integrates and outputs the sensing information and the display image data; The imaging system according to any one of [B4] to [B11].
  • the image data generation unit includes a B / D conversion unit that converts an analog signal output from the pixel unit into a digital signal.
  • the imaging system according to any one of [B1] to [B12].
  • the pixel unit, the image data generation unit, and the signal processing unit are formed on the same semiconductor substrate.
  • a plurality of semiconductor substrates including at least a first semiconductor substrate and a second semiconductor substrate are laminated, The pixel portion is formed at least on the first semiconductor substrate, At least the signal processing unit is formed on the second semiconductor substrate.
  • [C1] Generating first image data output at a first frame rate and second image data output at a second frame rate from a pixel portion in which a plurality of pixels are arranged in a matrix; and Performing a first image process on the first image data and a second image process different from the first image process on the second image data; Contains Executing the first image processing and the second image processing independently of each other; Image processing method.
  • the first frame rate is set to a value different from the second frame rate.
  • the first frame rate is set to a value higher than the second frame rate;
  • the first image processing is image processing for outputting sensing information;
  • the second image processing is image processing for outputting display image data.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

撮像装置は、複数の画素が行列状に配置された画素部、前記画素の露光時間を制御する露光制御部、前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、前記第１画像データに対して第１画像処理を実行する第１処理部と前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部を備えており、前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる。

Description

撮像装置、撮像システム、及び、信号処理方法
　本開示は、撮像装置、撮像システム、及び、信号処理方法に関する。
　画像情報に対して計測処理等を施すセンシング処理を行い、物体の大きさや重心位置、物体までの距離、物体の移動量などといった情報をセンシング情報として用いることが提案されている。
　このため、光電変換を行う光検出器と画像検出処理要素とが平面上に配列されてなる画像検出処理装置が提案されている（例えば、特許文献１、特許文献２参照）
特開２００１－１９５５６４号公報 特開２００３－２１８３３８号公報
　センシング情報は、所定のフレームレートで撮像される画像に対してセンシング処理を行うことで得ることができる。センシング処理が正しく行われているかどうかを確認するためには、センシング情報と画像表示用のデータとを同時に取得できることが好ましい。
しかしながら、画像表示装置などに画像を表示するための撮像を行う場合のフレームレート（例えば３０～６０ｆｐｓ）に対して、通常、センシングの際のフレームレートはより高い値に設定される。従って、センシングのための撮像は露光期間も短くならざるを得ず、撮像される画像は、輝度の低下やノイズの増加によって画質が低下する。このため、センシング用の撮像画像データを画像表示用のデータとして流用するといった構成では、画質に優れた画像表示用データを得ることができない。
　そこで、本開示は、第１フレームレートと第２フレームレートとで画像を撮像し処理をすることができる撮像装置、撮像システム、及び、信号処理方法を提供することを目的とする。
　上記の目的を達成するための本開示に係る撮像装置は、
　複数の画素が行列状に配置された画素部、
　前記画素の露光時間を制御する露光制御部、
　前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、
　前記第１画像データに対して第１画像処理を実行する第１処理部と前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部、
を備えており、
　前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる、
撮像装置である。
　上記の目的を達成するための本開示に係る撮像システムは、
　複数の画素が行列状に配置された画素部、
　前記画素の露光時間を制御する露光制御部、
　前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、
　第１画像データに対して第１画像処理を実行する第１処理部と第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部と、
を備えており、
　前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる、
撮像システムである。
　上記の目的を達成するための本開示に係る信号処理方法は、
　複数の画素が行列状に配置された画素部から第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する工程、及び、
　前記第１画像データに対して第１画像処理を実行すると共に前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する工程、
を含んでおり、
　前記第１画像処理と前記第２画像処理とを互いに独立して実行する、
画像処理方法である。
　本開示によれば、第１フレームレートと第２フレームレートとで画像を撮像し処理をすることができる。従って、センシングを高速に行いつつ画質に優れた画像表示用データを得るといったことが可能になる。
　尚、ここに記載された効果に必ずしも限定されるものではなく、本明細書中に記載されたいずれかの効果であってもよい。また、本明細書に記載された効果はあくまで例示であって、これに限定されるものではなく、また付加的な効果があってもよい。
図１は、本開示の第１の実施形態に係る撮像装置や撮像システムの構成を説明するための模式図である。 図２は、第１の実施形態に係る撮像装置等の動作の概念図である。 図３は、第１画像データを処理してセンシング情報を出力する際の動作の概念図である。 図４は、第２画像データを処理して表示用画像データを出力する際の動作の概念図である。 図５は、撮像装置や撮像システムの変形例を説明するための模式図である。 図６は、本開示の第２の実施形態に係る撮像装置や撮像システムの構成を説明するための模式図である。 図７は、第２の実施形態に係る撮像装置等の動作の概念図である。 図８は、第１画像データを処理してセンシング情報を出力する際の動作の概念図である。 図９は、第２画像データを処理して表示用画像データを出力する際の動作の概念図である。 図１０は、本開示の第３の実施形態に係る撮像装置や撮像システムの構成を説明するための模式図である。 図１１は、第１画像データを処理してセンシング情報を出力する際の動作の概念図である。 図１２は、第２画像データを処理して表示用画像データを出力する際の動作の概念図である。 図１３は、内視鏡手術システムの概略的な構成の一例を示す図である。 図１４は、図１３に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。 図１５は、車両制御システムの概略的な構成の一例を示すブロック図である。 図１６は、車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
　以下、図面を参照して、実施形態に基づいて本開示を説明する。本開示は実施形態に限定されるものではなく、実施形態における種々の数値や材料などは例示である。以下の説明において、同一要素または同一機能を有する要素には同一符号を用いることとし、重複する説明は省略する。尚、説明は、以下の順序で行う。
１．本開示に係る、撮像装置、撮像システム、及び、信号処理方法、全般に関する説明
２．第１の実施形態
３．第２の実施形態
４．第３の実施形態
５．第１の応用例
６．第２の応用例
７．本開示の構成
［本開示に係る、撮像装置、撮像システム、及び、信号処理方法、全般に関する説明］
　本開示の撮像装置や撮像システム、及び、本開示の信号処理方法が実行される撮像装置や撮像システム（以下、これらを単に、本開示の撮像装置等と呼ぶ場合がある）にあっては、
　行方向に配列されて成る画素群を選択する選択部、及び、
　前記選択された画素群をアクセスするタイミングを制御するタイミング制御部、
をさらに備えており、
　前記タイミング制御部は、前記第１画像データを生成する際に画素群へアクセスするタイミングと、前記第２画像データを生成する際に画素群へアクセスするタイミングをそれぞれ制御する、
構成とすることができる。
　上述した好ましい構成を含む本開示の撮像装置等において、前記第１フレームレートは、前記第２フレームレートとは異なる値に設定されている構成とすることができる。この場合において、
　前記第１フレームレートは、前記第２フレームレートよりも高い値に設定されており、
　前記第１画像処理は、センシング情報を出力するための画像処理であり、
　前記第２画像処理は、表示用画像データを出力するための画像処理である、
構成とすることができる。
　上述した好ましい構成を含む本開示の撮像装置等にあっては、
　第１フレームレートの撮像と第２フレームレートの撮像とは時分割で行われ、
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と、前記第２画像データを生成する際にアクセスする画素群とが重ならないように選択する、
構成とすることができる。
　この場合において、
　前記タイミング制御部は、前記第１画像データの読み出し期間と前記第２画像データのシャッター期間とが重ならないように制御する、
構成とすることができる。
　また、この場合において、
　前記タイミング制御部は、前記第２画像データの読み出し期間と前記第１画像データのシャッター期間とが重ならないように制御する、
構成とすることができる。
　あるいは又、上述した好ましい構成を含む本開示の撮像装置等にあっては、
　第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われ、
　前記信号処理部は、前記センシング情報と前記表示用画像データとを互いに独立して出力する、
構成とすることができる。
　この場合において、
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが異なるよう選択する、
構成とすることができる。
　この場合において、
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが交互になるように選択する、
構成とすることができる。
　上述した各種の好ましい構成を含む本開示の撮像装置等にあっては、
　前記画像データ生成部は、前記第１画像データを生成する第１画像データ生成部と、前記第２画像データを生成する第２画像データ生成部とを有する、
構成とすることができる。
　上述した各種の好ましい構成を含む本開示の撮像装置等にあっては、
　前記センシング情報と前記表示用画像データとを統合して出力するデータパッキング部をさらに備えている、
構成とすることができる。
　更には、本開示の撮像装置等において、
　前記画像データ生成部は、前記画素部から出力されるアナログ信号をデジタル信号に変換するＡ／Ｄ変換部を有する、
構成とすることができる。
　更には、本開示の撮像装置等において、前記画素部、前記画像データ生成部、前記信号処理部は、同一の半導体基板上に形成されている構成とすることができる。あるいは又、第１半導体基板と第２半導体基板とを少なくとも含む複数の半導体基板が積層されており、
　前記第１半導体基板には、前記画素部が少なくとも形成されており、
　前記第２半導体基板には、前記信号処理部が少なくとも形成されている、
構成とすることもできる。
　上述した各種の好ましい構成を含む本開示の撮像装置等や信号処理方法（以下、これらを単に、本開示と呼ぶ場合がある）において、画素部は、光電変換素子や種々の画素トランジスタを含む画素が、行方向及び列方向に２次元マトリクス状に配列されて成るＣＭＯＳセンサとして構成することができる。以下の説明において、シャッター方式として、水平ライン毎に順次露光を開始し撮像信号を取得するローリングシャッター方式が用いられるとするが、これに限るものではない。動作に支障が生じない限り、所謂グローバルシャッター方式を採用することもできる。
　選択部、タイミング制御部、露光制御部、画像データ生成部などは、例えば、論理回路や記憶回路などから構成することができ、これらは、周知の回路素子を用いて構成することができる。画像データ生成部のＡ／Ｄ変換部は、例えば、画素の列ごとに配置されていてもよい。この構成にあっては、画素から出力される信号は、並列的にＡ／Ｄ変換され、デジタル信号として出力される。
　高速なセンシングを可能にするためには、センシングに用いられる画像データを高いフレームレートで取得する必要がある。一方、センシングに用いられる画像データの階調値は比較的低い値で足りる。従って、Ａ／Ｄ変換におけるビット数は、センシング用途の場合には画像表示用途に対して相対的に小さい値とすることが好ましい。例えば、センシング用途の場合は４ビット、画像表示用途の場合は１０ビット、というように設定することができる。画像データ生成部が共通化されている場合には、量子化のビット数が動的に制御可能なＡ／Ｄ変換部を含むように、画像データ生成部を構成すればよい。
　センシング情報は、センシングに用いられる画像データに対して平滑化、輝度ノイズ低減、エッジ抽出などといった周知の処理を行い、処理後のデータに基づいて計測処理を行うことで得ることができる。例えば、２値化を行ったデータから、センシング対象に対応する白表示部分の大きさ、重心位置、面積、主軸角などを計測するといった処理を行えばよい。更には、時間を異にするデータを比較することによって、物体の移動量や距離などを得ることもできる。尚、センシング情報としてどのような情報を出力するかは、用途に応じて、適宜設定すればよい。
［第１の実施形態］
　第１の実施形態は、本開示に係る、撮像装置、撮像システム、及び、信号処理方法に関する。
　図１は、本開示の第１の実施形態に係る撮像装置や撮像システムの構成を説明するための模式図である。尚、以下の説明にあっては、撮像装置として構成されているとして説明する。他の実施形態についても同様である。
　図１に示すように、撮像装置１００は、
　複数の画素が行列状に配置された画素部１１０、
　画素の露光時間を制御する露光制御部１２０、
　露光時間の制御に基づいて、第１フレームレートで出力される第１画像データＤ１および第２フレームレートで出力される第２画像データＤ２を生成する画像データ生成部１３０、及び、
　第１画像データＤ１に対して第１画像処理を実行する第１処理部１６１と第２画像データＤ２に対して第１画像処理とは異なる第２画像処理を実行する第２処理部１６２とを有する信号処理部１６０、
を備えている。そして、信号処理部１６０は、第１画像処理と第２画像処理とを互いに独立して動作させる。
　第１の実施形態における画像処理方法は、
　複数の画素が行列状に配置された画素部１１０から第１フレームレートで出力される第１画像データＤ１および第２フレームレートで出力される第２画像データＤ２を生成する工程、及び、
　第１画像データＤ１に対して第１画像処理を実行すると共に第２画像データＤ２に対して第１画像処理とは異なる第２画像処理を実行する工程、
を含んでおり、
　第１画像処理と第２画像処理とを互いに独立して実行する。後述する他の実施形態においても同様である。
　撮像装置１００は、更に、
　行方向に配列されて成る画素群を選択する選択部１５０、及び、
　選択された画素群をアクセスするタイミングを制御するタイミング制御部１４０、
を備えている。
　タイミング制御部１４０は、第１画像データＤ１を生成する際に画素群へアクセスするタイミングと、第２画像データＤ２を生成する際に画素群へアクセスするタイミングをそれぞれ制御する。
　画像データ生成部１３０は、画素部１１０から出力されるアナログ信号をデジタル信号に変換するＡ／Ｄ変換部１３１を有する。第１画像データＤ１と第２画像データＤ２は、所定のビット数の階調値を持つデータとして、画像データ生成部１３０から信号処理部１６０に供給される。
　撮像装置１００全体の動作は、図示せぬ制御回路などによって制御される。画素部１１０、画像データ生成部１３０、信号処理部１６０などは、例えばシリコンから成る同一の半導体基板上に形成されている。尚、第１半導体基板と第２半導体基板とを少なくとも含む複数の半導体基板が積層されており、第１半導体基板には、画素部１１０が少なくとも形成されており、第２半導体基板には、信号処理部１６０が少なくとも形成されているといった構成にすることもできる。
　信号処理部１６０は、画像データ生成部１３０からの信号に対して種々の信号処理を施し、センシング情報ＳＤや表示用画像データＰＤを生成する。尚、信号処理はハードウェア的に行う構成であってもよいし、ソフトウェア的に行う構成であってもよい。
　画素部１１０は、光電変換部を有する画素１１１がマトリクス状に配列されて成る。各画素１１１は、行ごとに、制御線１１２を介して選択部１５０に接続される。また、各画素１１１は、列ごとに、信号線１１３を介して画像データ生成部１３０に接続される。
　画素部１１０には、図示せぬ光学系により集光される光が入射する。画素１１１は、受光する光の光量に応じたレベルの画素信号を出力する。画素信号によって、被写体の画像が構成される。
　画素１１１は、フォトダイオードなどから成る光電変換部、光電変換部からの電荷が転送される浮遊拡散領域、及び、画素を駆動するためのトランジスタなどから構成される。例えば、これらの構成要素が、ｎ型の半導体基板に設けられたｐ型ウェル内に形成されている構成とすることができる。
　選択部１５０は、シフトレジスタやアドレスデコーダなどの論理回路によって構成されており、画素部１１０の画素１１１を行ごとにアクセスするための走査信号を、制御線１１２を介して画素１１１に供給する。画素１１１のリセットなどの動作のため、実際には、１つの画素行に対応して、複数の制御線が配される。図示の都合上、図１では画素行毎に１本の制御線１１２を示した。
　画素１１１から出力される信号は、信号線１１３を介して、画像データ生成部１３０に送られる。画像データ生成部１３０は、画素１１１から出力される信号に基づき、Ａ／Ｄ変換部１３１でＡ／Ｄ変換を行う。画像データ生成部１３０は、画素列ごとに並列的にＡ／Ｄ変換を行う構成とすることができる。
　上述したように、画像データ生成部１３０は、第１フレームレートで出力される第１画像データＤ１と、第２フレームレートで出力される第２画像データＤ２を生成する。第１フレームレートは第２フレームレートとは異なる値に設定されている。より具体的には、第１フレームレートは、第２フレームレートよりも高い値に設定されている。例えば、第１フレームレートは１２０ｆｐｓ、第２フレームレートは３０ｆｐｓといった値に設定されている。そして、信号処理部１６０の第１処理部１６１によって、第１画像データＤ１に基づいてセンシング情報ＳＤを出力するための第１画像処理が行われる。また、信号処理部１６０の第２処理部１６２によって、第２画像データＤ２に基づいて表示用画像データＰＤを出力するための第２画像処理が行われる。後述する他の実施形態においても同様である。
　第１の実施形態にあっては、第１フレームレートの撮像と第２フレームレートの撮像とは時分割で行われ、選択部１５０は、第１画像データＤ１を生成する際にアクセスする画素群と、第２画像データＤ２を生成する際にアクセスする画素群とが重ならないように選択する。
　第１の実施形態では、第１画像データＤ１と第２画像データＤ２とは、時系列的に分割されて出力される。センシング用と表示用とで異なるフレームレートに対応するように、露光制御部１２０によって画素１１１の露光時間を制御するための信号が生成され、タイミング制御部１４０に供給される。選択部１５０は、タイミング制御部１４０からの信号に基づいて、制御線１１２に走査信号を供給し、行単位で画素群を順次アクセスする（線順次走査）。尚、選択部１５０は、画素１１１を空間方向に分離するために、センシング用と表示用とで位置をずらして画素１１１をアクセスする。また、画像データ生成部１３０は、センシング用として画素１１１がアクセスされる場合にはセンシング用途のＡ／Ｄ変換を行うように設定され、表示用として画素１１１がアクセスされる場合には画像表示用途のＡ／Ｄ変換を行うように設定される。
　以下、図面を参照して、第１の実施形態の動作について説明する。
　図２は、第１の実施形態に係る撮像装置等の動作の概念図である。
　図２は、表示用の画素読み出しが終了した後、次の表示用の画素読み出しが開始されるまでの間に、複数回センシング用の画素読み出しを行う例を示している。符号ＶＳＨＴは、表示用の撮像におけるシャッター設定が可能な期間を示し、基本的には、表示用の第２画像データＤ２の読み出しの繰り返しの期間に概ね相当する。シャッター開始時期は符号ＶＳＨＴで示す期間の間であればどこでも設定可能であり、被写体の明るさなどに応じて適宜設定することができる。
　図２では、センシング用のシャッター動作が表示用の画素読み出し時のノイズ原因とならないようにタイミングが設定されている。
　符号ＳＳＨＴは、センシング用の撮像におけるシャッター設定が可能な期間を示し、基本的には、センシング用の第１画像データＤ１の読み出しの繰り返しの期間に概ね相当する。図１に示したタイミング制御部１４０は、第１画像データＤ１の読み出し期間と第２画像データＤ２のシャッター期間とが重ならないように制御する。より具体的には、図２に示す表示用読み出しの始期（符号ｔ1で表す）と終期（符号ｔ2）との間に、センシング用の最初の撮像におけるセンシング用のシャッター動作が開始しないようにタイミングが設定されている。即ち、図２において、ｔ1＜ｔ2＜ｔ3である。
　尚、表示用のシャッター動作がセンシング用の画素読み出し時のノイズ原因とならないようにする場合、タイミング制御部１４０は、第２画像データＤ２の読み出し期間と第１画像データＤ１のシャッター期間とが重ならないように制御すればよい。
　センシング用の読み出しによって画素１１１から得られた信号が画像データ生成部１３０に送られて、第１画像データＤ１が生成される。また、表示用の読み出しによって画素１１１から得られた信号が画像データ生成部１３０に送られて、第２画像データＤ２が生成される。
　図３は、第１画像データを処理してセンシング情報を出力する際の動作の概念図である。
　第１画像データＤ１の生成の際には、例えば、画素部１１０の奇数行の画素群が線順次走査される。また、図示せぬ制御回路などによって、画像データ生成部１３０のＡ／Ｄ変換部１３１はセンシング用途の処理を行うように設定される。そして、量子化された第１画像データＤ１が生成される。
　第１画像データＤ１は、信号処理部１６０の第１処理部１６１に入力される。第１処理部１６１は、第１画像データＤ１に対して、センシング情報ＳＤを出力するための画像処理である、第１画像処理を実行する。例えば、画像データに対して平滑化、輝度ノイズ低減、エッジ抽出などといった周知の処理を行い、処理後のデータに基づいて計測処理を行う。センシング情報ＳＤの出力は、基本的には、第１フレームレートで行われる。
　図４は、第２画像データを処理して表示用画像データを出力する際の動作の概念図である。
　第２画像データＤ２の生成の際には、例えば、画素部１１０の偶数行の画素群が線順次走査される。また、図示せぬ制御回路などによって、画像データ生成部１３０のＡ／Ｄ変換部１３１は画像表示用途の処理を行うように設定される。そして、量子化された第２画像データＤ２が生成される。
　第２画像データＤ２は、信号処理部１６０の第２処理部１６２に入力される。第２処理部１６２は、第２画像データＤ２に対して、表示用画像データＰＤを出力するための画像処理である、第２画像処理を実行する。例えば、画像データに対して、ノイズ低減、エッジ強調などといった周知の処理を行い、処理後のデータを表示用画像データＰＤとして出力する。表示用画像データＰＤの出力は、基本的には、第２フレームレートで行われる。
　以上、第１の実施形態について説明した。
　尚、用途によっては、センシング情報と表示用画像データとを統合して出力するといったことも考えられる。このような構成の変形例について説明する。
　図５は、撮像装置や撮像システムの変形例を説明するための模式図である。
　図５に示す撮像装置１００Ａは、図１に示す撮像装置１００に対して、センシング情報ＳＤと表示用画像データＰＤとを統合して出力するデータパッキング部１７０が追加されている点が相違する。
　データパッキング部１７０には、信号処理部１６０からセンシング情報ＳＤと表示用画像データＰＤとが入力される。データパッキング部１７０は、例えば、センシング情報ＳＤを表示用画像データＰＤのヘッダー部やフッター部に書き込むことで統合し、センシング情報が加えられた表示用画像データＡＰＤとして出力する。
［第２の実施形態］
　第２の実施形態も、本開示に係る、撮像装置、撮像システム、及び、信号処理方法に関する。
　第１の実施形態にあっては、第１フレームレートの撮像と第２フレームレートの撮像とは時分割で行われた。これに対し、第２の実施形態にあっては、第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われる。そして、信号処理部は、センシング情報と表示用画像データとを互いに独立して出力する。主に、以上の点が、第１の実施形態に対して相違する。
　図６は、本開示の第２の実施形態に係る撮像装置や撮像システムの構成を説明するための模式図である。
　図６に示すように、撮像装置２００は、
　複数の画素が行列状に配置された画素部２１０、
　画素の露光時間を制御する露光制御部２２０、
　露光時間の制御に基づいて、第１フレームレートで出力される第１画像データＤ１および第２フレームレートで出力される第２画像データＤ２を生成する画像データ生成部２３０、及び、
　第１画像データＤ１に対して第１画像処理を実行する第１処理部２６１と第２画像データＤ２に対して第１画像処理とは異なる第２画像処理を実行する第２処理部２６２とを有する信号処理部２６０、
を備えている。そして、信号処理部２６０は、第１画像処理と第２画像処理とを互いに独立して動作させる。
　第１の実施形態にあっては、第１画像データＤ１と第２画像データＤ２とを共通の画像データ生成部で生成した。これに対し、第２の実施形態において、画像データ生成部２３０は、第１画像データＤ１を生成する第１画像データ生成部２３１と、第２画像データＤ２を生成する第２画像データ生成部２３２とを有する。
　撮像装置２００は、更に、
　行方向に配列されて成る画素群を選択する選択部２５０、及び、
　選択された画素群をアクセスするタイミングを制御するタイミング制御部２４０、
を備えている。
　タイミング制御部２４０は、第１画像データＤ１を生成する際に画素群へアクセスするタイミングと、第２画像データＤ２を生成する際に画素群へアクセスするタイミングをそれぞれ制御する。
　画素部２１０には、第１の実施形態と同様に、各画素行に対応して制御線１１２が形成されている。一方、第１の実施形態とは異なり、各画素列に対応して、信号線２１３Ａ，２１３Ｂが形成されている。そして、奇数行に属する画素１１１は信号線２１３Ａに接続され、偶数行に属する画素１１１は信号線２１３Ｂに接続されている。
　奇数行の画素１１１から出力される信号は、信号線２１３Ａを介して、第１画像データ生成部２３１に送られる。第１画像データ生成部２３１は、奇数行の画素１１１から出力される信号に基づき、図示せぬＡ／Ｄ変換部でセンシング用途のＡ／Ｄ変換を行う。第１画像データ生成部２３１は、画素列ごとに並列的にＡ／Ｄ変換を行う構成とすることができる。
　偶数行の画素１１１から出力される信号は、信号線２１３Ｂを介して、第２画像データ生成部２３２に送られる。第２画像データ生成部２３２は、偶数行の画素１１１から出力される信号に基づき、図示せぬＡ／Ｄ変換部で画像表示用途のＡ／Ｄ変換を行う。第２画像データ生成部２３２は、画素列ごとに並列的にＡ／Ｄ変換を行う構成とすることができる。
　第１画像データ生成部２３１からの第１画像データＤ１は、信号処理部２６０の第１処理部２６１に入力される。また、第２画像データ生成部２３２からの第２画像データＤ２は、信号処理部２６０の第１処理部２６２に入力される。そして、信号処理部２６０は、センシング情報ＳＤと表示用画像データＰＤとを互いに独立して出力する。信号処理部２６０においてされる処理自体は、基本的には、第１の実施形態において説明した信号処理部１６０の処理と同様である。
　露光制御部２２０、タイミング制御部２４０、選択部２５０、信号処理部２６０は、動作タイミングなどが相違するものの、基本的には第１の実施形態で説明した構成と同様であるので、説明を省略する。
　上述したように、第２の実施形態にあっては、第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われる。そして、選択部２５０は、第１画像データＤ１を生成する際にアクセスする画素群と第２画像データＤ２を生成する際にアクセスする画素群とが異なるよう選択する。例えば、選択部２５０は、第１画像データＤ１を生成する際にアクセスする画素群と第２画像データＤ２を生成する際にアクセスする画素群とが交互になるように選択する。
　以下、図面を参照して、第２の実施形態の動作について説明する。
　図７は、第２の実施形態に係る撮像装置等の動作の概念図である。
　図７は、表示用の画素読み出しが終了した後、次の表示用の画素読み出しが開始されるまでの間に、並行して複数回センシング用の画素読み出しを行う例を示している。符号ＶＳＨＴは、表示用の撮像におけるシャッター設定が可能な期間を示し、基本的には、表示用の第２画像データＤ２の読み出しの繰り返しの期間に概ね相当する。シャッター開始時期は符号ＶＳＨＴで示す期間の間であればどこでも設定可能であり、被写体の明るさなどに応じて適宜設定することができる。符号ＳＳＨＴは、センシング用の撮像におけるシャッター設定が可能な期間を示し、基本的には、センシング用の第１画像データＤ１の読み出しの繰り返しの期間に概ね相当する。
　図８は、第１画像データを処理してセンシング情報を出力する際の動作の概念図である。
　第１画像データＤ１の生成の際には、例えば、画素部２１０の奇数行の画素群が線順次走査される。信号線２１３Ａからの信号は、第１画像データ生成部２３１に入力され、量子化された第１画像データＤ１が生成される。
　第１画像データＤ１は、信号処理部２６０の第１処理部２６１に入力される。第１処理部２６１の動作は、第１の実施形態において説明した動作と同様であるので、説明を省略する。
　図９は、第２画像データを処理して表示用画像データを出力する際の動作の概念図である。
　第２画像データＤ２の生成の際には、例えば、画素部２１０の偶数行の画素群が線順次走査される。信号線２１３Ｂからの信号は、第２画像データ生成部２３２に入力され、量子化された第２画像データＤ２が生成される。
　第２画像データＤ２は、信号処理部２６０の第２処理部２６２に入力される。第２処理部２６２の動作は、第１の実施形態において説明した動作と同様であるので、説明を省略する。
　第１の実施形態では、センシング情報と表示用データとは、いずれか一方が逐次出力されるといった構成であった。これに対し、第２の実施形態では、センシング情報と表示用データとは並列して出力される。従って、より詳しいセンシング情報を得られるといった利点を備えている。
　また、上述した図５と同様に、センシング情報ＳＤと表示用画像データＰＤとを統合して出力するデータパッキング部を含むといった構成とすることもできる。
［第３の実施形態］
　第３の実施形態も、本開示に係る、撮像装置、撮像システム、及び、信号処理方法に関する。第２の実施形態に対して、画素部の構成が主に相違する。
　図１０は、本開示の第２の実施形態に係る撮像装置や撮像システムの構成を説明するための模式図である。
　図１０に示すように、撮像装置３００は、
　複数の画素が行列状に配置された画素部３１０、
　画素の露光時間を制御する露光制御部３２０、
　露光時間の制御に基づいて、第１フレームレートで出力される第１画像データＤ１および第２フレームレートで出力される第２画像データＤ２を生成する画像データ生成部３３０、及び、
　第１画像データＤ１に対して第１画像処理を実行する第１処理部３６１と第２画像データＤ２に対して第１画像処理とは異なる第２画像処理を実行する第２処理部３６２とを有する信号処理部３６０、
を備えている。そして、信号処理部３６０は、第１画像処理と第２画像処理とを互いに独立して動作させる。
　画素部３１０の各画素３１１は、それぞれ、画素３１１Ａと画素３１１Ｂの対で構成されている。尚、図では画素３１１Ａと画素３１１Ｂを並置しているが、例えば重なるように配置されていてもよい。
　画素部３１０には、各画素行に対応して制御線が形成されている。但し、第１の実施形態や第２の実施形態とは異なり、画素行のうち画素３１１Ａに対応して制御線３１２Ａが形成され、画素行のうち画素３１１Ｂに対応して制御線３１２Ｂが形成されている。
　また、各画素列には、第２の実施形態と同様に、２本の信号線が形成されている。但し、画素３１１Ａに対応して信号線３１３Ａが形成され、画素３１１Ｂに対応して信号線３１３Ｂが形成されている。
　画素３１１Ａから出力される信号は、信号線３１３Ａを介して、第１画像データ生成部３３１に送られる。第１画像データ生成部３３１は、画素３１１Ａから出力される信号に基づき、図示せぬＡ／Ｄ変換部でセンシング用途のＡ／Ｄ変換を行う。第１画像データ生成部３３１は、画素列ごとに並列的にＡ／Ｄ変換を行う構成とすることができる。
　画素３１１Ｂから出力される信号は、信号線３１３Ｂを介して、第２画像データ生成部３３２に送られる。第２画像データ生成部３３２は、画素３１１Ｂから出力される信号に基づき、図示せぬＡ／Ｄ変換部で画像表示用途のＡ／Ｄ変換を行う。第２画像データ生成部３３２は、画素列ごとに並列的にＡ／Ｄ変換を行う構成とすることができる。
　第１画像データ生成部３３１からの第１画像データＤ１は、信号処理部３６０の第１処理部３６１に入力される。また、第２画像データ生成部３３２からの第２画像データＤ２は、信号処理部３６０の第１処理部３６２に入力される。そして、信号処理部３６０は、センシング情報ＳＤと表示用画像データＰＤとを互いに独立して出力する。信号処理部３６０においてされる処理自体は、基本的には、第１の実施形態において説明した信号処理部１６０の処理と同様である。
　露光制御部３２０、タイミング制御部３４０、選択部３５０、信号処理部３６０は、動作タイミングなどが相違するものの、基本的には第１の実施形態で説明した構成と同様であるので、説明を省略する。
　第２の実施形態と同様に、第３の実施形態においても、第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われる。第３の実施形態に係る撮像装置等の動作の概念図は、第２の実施形態において参照した図７と同様である。
　図１１は、第１画像データを処理してセンシング情報を出力する際の動作の概念図である。
　第１画像データＤ１の生成の際には、例えば、画素部３１０の画素３１１Ａから成る群が線順次走査される。信号線３１３Ａからの信号は、第１画像データ生成部３３１に入力され、量子化された第１画像データＤ１が生成される。
　第１画像データＤ１は、信号処理部３６０の第１処理部３６１に入力される。第１処理部３６１の動作は、第１の実施形態において説明した動作と同様であるので、説明を省略する。
　図１２は、第２画像データを処理して表示用画像データを出力する際の動作の概念図である。
　第２画像データＤ２の生成の際には、例えば、画素部３１０の画素３１１Ｂから成る群が線順次走査される。信号線３１３Ｂからの信号は、第２画像データ生成部３３２に入力され、量子化された第２画像データＤ２が生成される。
　第２画像データＤ２は、信号処理部３６０の第２処理部３６２に入力される。第２処理部３６２の動作は、第１の実施形態において説明した動作と同様であるので、説明を省略する。
　第３の実施形態にあっては、第２の実施形態の利点の他、より画素数の多い画像データを取得することができるといった利点を備えている。
　また、上述した図５と同様に、センシング情報ＳＤと表示用画像データＰＤとを統合して出力するデータパッキング部を含むといった構成とすることもできる。
［第１の応用例］
　本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
　図１３は、本開示に係る技術が適用され得る内視鏡手術システム５０００の概略的な構成の一例を示す図である。図１３では、術者（医師）５０６７が、内視鏡手術システム５０００を用いて、患者ベッド５０６９上の患者５０７１に手術を行っている様子が図示されている。図示するように、内視鏡手術システム５０００は、内視鏡５００１と、その他の術具５０１７と、内視鏡５００１を支持する支持アーム装置５０２７と、内視鏡下手術のための各種の装置が搭載されたカート５０３７と、から構成される。
　内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５０２５ａ～５０２５ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５０２５ａ～５０２５ｄから、内視鏡５００１の鏡筒５００３や、その他の術具５０１７が患者５０７１の体腔内に挿入される。図示する例では、その他の術具５０１７として、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３が、患者５０７１の体腔内に挿入されている。また、エネルギー処置具５０２１は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５０１７はあくまで一例であり、術具５０１７としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
　内視鏡５００１によって撮影された患者５０７１の体腔内の術部の画像が、表示装置５０４１に表示される。術者５０６７は、表示装置５０４１に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５０２１や鉗子５０２３を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５０１９、エネルギー処置具５０２１及び鉗子５０２３は、手術中に、術者５０６７又は助手等によって支持される。
　（支持アーム装置）
　支持アーム装置５０２７は、ベース部５０２９から延伸するアーム部５０３１を備える。図示する例では、アーム部５０３１は、関節部５０３３ａ、５０３３ｂ、５０３３ｃ、及びリンク５０３５ａ、５０３５ｂから構成されており、アーム制御装置５０４５からの制御により駆動される。アーム部５０３１によって内視鏡５００１が支持され、その位置及び姿勢が制御される。これにより、内視鏡５００１の安定的な位置の固定が実現され得る。
　（内視鏡）
　内視鏡５００１は、先端から所定の長さの領域が患者５０７１の体腔内に挿入される鏡筒５００３と、鏡筒５００３の基端に接続されるカメラヘッド５００５と、から構成される。図示する例では、硬性の鏡筒５００３を有するいわゆる硬性鏡として構成される内視鏡５００１を図示しているが、内視鏡５００１は、軟性の鏡筒５００３を有するいわゆる軟性鏡として構成されてもよい。
　鏡筒５００３の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５００１には光源装置５０４３が接続されており、当該光源装置５０４３によって生成された光が、鏡筒５００３の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５０７１の体腔内の観察対象に向かって照射される。なお、内視鏡５００１は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
　カメラヘッド５００５の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera　Control　Unit）５０３９に送信される。なお、カメラヘッド５００５には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
　なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５００５には撮像素子が複数設けられてもよい。この場合、鏡筒５００３の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
　（カートに搭載される各種の装置）
　ＣＣＵ５０３９は、ＣＰＵ（Central　Processing　Unit）やＧＰＵ（Graphics　Processing　Unit）等によって構成され、内視鏡５００１及び表示装置５０４１の動作を統括的に制御する。具体的には、ＣＣＵ５０３９は、カメラヘッド５００５から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５０３９は、当該画像処理を施した画像信号を表示装置５０４１に提供する。また、ＣＣＵ５０３９は、カメラヘッド５００５に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。
　表示装置５０４１は、ＣＣＵ５０３９からの制御により、当該ＣＣＵ５０３９によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５００１が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５０４１としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５０４１として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５０４１が設けられてもよい。
　光源装置５０４３は、例えばＬＥＤ（light　emitting　diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５００１に供給する。
　アーム制御装置５０４５は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５０２７のアーム部５０３１の駆動を制御する。
　入力装置５０４７は、内視鏡手術システム５０００に対する入力インタフェースである。ユーザは、入力装置５０４７を介して、内視鏡手術システム５０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５０４７を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５０４７を介して、アーム部５０３１を駆動させる旨の指示や、内視鏡５００１による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５０２１を駆動させる旨の指示等を入力する。
　入力装置５０４７の種類は限定されず、入力装置５０４７は各種の公知の入力装置であってよい。入力装置５０４７としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５０５７及び／又はレバー等が適用され得る。入力装置５０４７としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５０４１の表示面上に設けられてもよい。
　あるいは、入力装置５０４７は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head　Mounted　Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５０４７は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５０４７は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５０４７が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５０６７）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
　処置具制御装置５０４９は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５０２１の駆動を制御する。気腹装置５０５１は、内視鏡５００１による視野の確保及び術者の作業空間の確保の目的で、患者５０７１の体腔を膨らめるために、気腹チューブ５０１９を介して当該体腔内にガスを送り込む。レコーダ５０５３は、手術に関する各種の情報を記録可能な装置である。プリンタ５０５５は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
　以下、内視鏡手術システム５０００において特に特徴的な構成について、更に詳細に説明する。
　（支持アーム装置）
　支持アーム装置５０２７は、基台であるベース部５０２９と、ベース部５０２９から延伸するアーム部５０３１と、を備える。図示する例では、アーム部５０３１は、複数の関節部５０３３ａ、５０３３ｂ、５０３３ｃと、関節部５０３３ｂによって連結される複数のリンク５０３５ａ、５０３５ｂと、から構成されているが、図１３では、簡単のため、アーム部５０３１の構成を簡略化して図示している。実際には、アーム部５０３１が所望の自由度を有するように、関節部５０３３ａ～５０３３ｃ及びリンク５０３５ａ、５０３５ｂの形状、数及び配置、並びに関節部５０３３ａ～５０３３ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５０３１は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５０３１の可動範囲内において内視鏡５００１を自由に移動させることが可能になるため、所望の方向から内視鏡５００１の鏡筒５００３を患者５０７１の体腔内に挿入することが可能になる。
　関節部５０３３ａ～５０３３ｃにはアクチュエータが設けられており、関節部５０３３ａ～５０３３ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５０４５によって制御されることにより、各関節部５０３３ａ～５０３３ｃの回転角度が制御され、アーム部５０３１の駆動が制御される。これにより、内視鏡５００１の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５０４５は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５０３１の駆動を制御することができる。
　例えば、術者５０６７が、入力装置５０４７（フットスイッチ５０５７を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５０４５によってアーム部５０３１の駆動が適宜制御され、内視鏡５００１の位置及び姿勢が制御されてよい。当該制御により、アーム部５０３１の先端の内視鏡５００１を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５０３１は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５０３１は、手術室から離れた場所に設置される入力装置５０４７を介してユーザによって遠隔操作され得る。
　また、力制御が適用される場合には、アーム制御装置５０４５は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５０３１が移動するように、各関節部５０３３ａ～５０３３ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５０３１に触れながらアーム部５０３１を移動させる際に、比較的軽い力で当該アーム部５０３１を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５００１を移動させることが可能となり、ユーザの利便性を向上させることができる。
　ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５００１が支持されていた。これに対して、支持アーム装置５０２７を用いることにより、人手によらずに内視鏡５００１の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
　なお、アーム制御装置５０４５は必ずしもカート５０３７に設けられなくてもよい。また、アーム制御装置５０４５は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５０４５は、支持アーム装置５０２７のアーム部５０３１の各関節部５０３３ａ～５０３３ｃにそれぞれ設けられてもよく、複数のアーム制御装置５０４５が互いに協働することにより、アーム部５０３１の駆動制御が実現されてもよい。
　（光源装置）
　光源装置５０４３は、内視鏡５００１に術部を撮影する際の照射光を供給する。光源装置５０４３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５０４３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
　また、光源装置５０４３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５００５の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
　また、光源装置５０４３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow　Band　Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５０４３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
　（カメラヘッド及びＣＣＵ）
　図１４を参照して、内視鏡５００１のカメラヘッド５００５及びＣＣＵ５０３９の機能についてより詳細に説明する。図１４は、図１３に示すカメラヘッド５００５及びＣＣＵ５０３９の機能構成の一例を示すブロック図である。
　図１４を参照すると、カメラヘッド５００５は、その機能として、レンズユニット５００７と、撮像部５００９と、駆動部５０１１と、通信部５０１３と、カメラヘッド制御部５０１５と、を有する。また、ＣＣＵ５０３９は、その機能として、通信部５０５９と、画像処理部５０６１と、制御部５０６３と、を有する。カメラヘッド５００５とＣＣＵ５０３９とは、伝送ケーブル５０６５によって双方向に通信可能に接続されている。
　まず、カメラヘッド５００５の機能構成について説明する。レンズユニット５００７は、鏡筒５００３との接続部に設けられる光学系である。鏡筒５００３の先端から取り込まれた観察光は、カメラヘッド５００５まで導光され、当該レンズユニット５００７に入射する。レンズユニット５００７は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５００７は、撮像部５００９の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
　撮像部５００９は撮像素子によって構成され、レンズユニット５００７の後段に配置される。レンズユニット５００７を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５００９によって生成された画像信号は、通信部５０１３に提供される。
　撮像部５００９を構成する撮像素子としては、例えばＣＭＯＳ（Complementary　Metal　Oxide　Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５０６７は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
　また、撮像部５００９を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５０６７は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５００９が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５００７も複数系統設けられる。
　また、撮像部５００９は、必ずしもカメラヘッド５００５に設けられなくてもよい。例えば、撮像部５００９は、鏡筒５００３の内部に、対物レンズの直後に設けられてもよい。
　駆動部５０１１は、アクチュエータによって構成され、カメラヘッド制御部５０１５からの制御により、レンズユニット５００７のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５００９による撮像画像の倍率及び焦点が適宜調整され得る。
　通信部５０１３は、ＣＣＵ５０３９との間で各種の情報を送受信するための通信装置によって構成される。通信部５０１３は、撮像部５００９から得た画像信号をＲＡＷデータとして伝送ケーブル５０６５を介してＣＣＵ５０３９に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５０６７が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５０１３には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５０６５を介してＣＣＵ５０３９に送信される。
　また、通信部５０１３は、ＣＣＵ５０３９から、カメラヘッド５００５の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５０１３は、受信した制御信号をカメラヘッド制御部５０１５に提供する。なお、ＣＣＵ５０３９からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５０１３には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５０１５に提供される。
　なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５０３９の制御部５０６３によって自動的に設定される。つまり、いわゆるＡＥ（Auto　Exposure）機能、ＡＦ（Auto　Focus）機能及びＡＷＢ（Auto　White　Balance）機能が内視鏡５００１に搭載される。
　カメラヘッド制御部５０１５は、通信部５０１３を介して受信したＣＣＵ５０３９からの制御信号に基づいて、カメラヘッド５００５の駆動を制御する。例えば、カメラヘッド制御部５０１５は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５００９の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５０１５は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５０１１を介してレンズユニット５００７のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５０１５は、更に、鏡筒５００３やカメラヘッド５００５を識別するための情報を記憶する機能を備えてもよい。
　なお、レンズユニット５００７や撮像部５００９等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５００５について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
　次に、ＣＣＵ５０３９の機能構成について説明する。通信部５０５９は、カメラヘッド５００５との間で各種の情報を送受信するための通信装置によって構成される。通信部５０５９は、カメラヘッド５００５から、伝送ケーブル５０６５を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５０５９には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５０５９は、電気信号に変換した画像信号を画像処理部５０６１に提供する。
　また、通信部５０５９は、カメラヘッド５００５に対して、カメラヘッド５００５の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
　画像処理部５０６１は、カメラヘッド５００５から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise　reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５０６１は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
　画像処理部５０６１は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５０６１が複数のＧＰＵによって構成される場合には、画像処理部５０６１は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
　制御部５０６３は、内視鏡５００１による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５０６３は、カメラヘッド５００５の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５０６３は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５００１にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５０６３は、画像処理部５０６１による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
　また、制御部５０６３は、画像処理部５０６１によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５０４１に表示させる。この際、制御部５０６３は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５０６３は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５０２１使用時のミスト等を認識することができる。制御部５０６３は、表示装置５０４１に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５０６７に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
　カメラヘッド５００５及びＣＣＵ５０３９を接続する伝送ケーブル５０６５は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
　ここで、図示する例では、伝送ケーブル５０６５を用いて有線で通信が行われていたが、カメラヘッド５００５とＣＣＵ５０３９との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５０６５を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５０６５によって妨げられる事態が解消され得る。
　以上、本開示に係る技術が適用され得る内視鏡手術システム５０００の一例について説明した。なお、ここでは、一例として内視鏡手術システム５０００について説明したが、本開示に係る技術が適用され得るシステムはかかる例に限定されない。例えば、本開示に係る技術は、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
　本開示に係る技術は、以上説明した構成のうち、内視鏡による術部の撮像に好適に適用され得る。即ち、術部画像と共にセンシング情報も得ることができるため、手術をより安全にかつより確実に行うことが可能になる。
［第２の応用例］
　本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械（トラクター）などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
　図１５は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム７０００の概略的な構成例を示すブロック図である。車両制御システム７０００は、通信ネットワーク７０１０を介して接続された複数の電子制御ユニットを備える。図１５に示した例では、車両制御システム７０００は、駆動系制御ユニット７１００、ボディ系制御ユニット７２００、バッテリ制御ユニット７３００、車外情報検出ユニット７４００、車内情報検出ユニット７５００、及び統合制御ユニット７６００を備える。これらの複数の制御ユニットを接続する通信ネットワーク７０１０は、例えば、ＣＡＮ（Controller　Area　Network）、ＬＩＮ（Local　Interconnect　Network）、ＬＡＮ（Local　Area　Network）又はＦｌｅｘＲａｙ（登録商標）等の任意の規格に準拠した車載通信ネットワークであってよい。
　各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク７０１０を介して他の制御ユニットとの間で通信を行うためのネットワークＩ／Ｆを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信Ｉ／Ｆを備える。図１５では、統合制御ユニット７６００の機能構成として、マイクロコンピュータ７６１０、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０、音声画像出力部７６７０、車載ネットワークＩ／Ｆ７６８０及び記憶部７６９０が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信Ｉ／Ｆ及び記憶部等を備える。
　駆動系制御ユニット７１００は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット７１００は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット７１００は、ＡＢＳ（Antilock　Brake　System）又はＥＳＣ（Electronic　Stability　Control）等の制御装置としての機能を有してもよい。
　駆動系制御ユニット７１００には、車両状態検出部７１１０が接続される。車両状態検出部７１１０には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット７１００は、車両状態検出部７１１０から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
　ボディ系制御ユニット７２００は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット７２００は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット７２００には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット７２００は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
　バッテリ制御ユニット７３００は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池７３１０を制御する。例えば、バッテリ制御ユニット７３００には、二次電池７３１０を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット７３００は、これらの信号を用いて演算処理を行い、二次電池７３１０の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
　車外情報検出ユニット７４００は、車両制御システム７０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット７４００には、撮像部７４１０及び車外情報検出部７４２０のうちの少なくとも一方が接続される。撮像部７４１０には、ＴｏＦ（Time　Of　Flight）カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部７４２０には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム７０００を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
　環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びＬＩＤＡＲ（Light　Detection　and　Ranging、Laser　Imaging　Detection　and　Ranging）装置のうちの少なくとも一つであってよい。これらの撮像部７４１０及び車外情報検出部７４２０は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
　ここで、図１６は、撮像部７４１０及び車外情報検出部７４２０の設置位置の例を示す。撮像部７９１０，７９１２，７９１４，７９１６，７９１８は、例えば、車両７９００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部７９１０及び車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として車両７９００の前方の画像を取得する。サイドミラーに備えられる撮像部７９１２，７９１４は、主として車両７９００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部７９１６は、主として車両７９００の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部７９１８は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
　なお、図１６には、それぞれの撮像部７９１０，７９１２，７９１４，７９１６の撮影範囲の一例が示されている。撮像範囲ａは、フロントノーズに設けられた撮像部７９１０の撮像範囲を示し、撮像範囲ｂ，ｃは、それぞれサイドミラーに設けられた撮像部７９１２，７９１４の撮像範囲を示し、撮像範囲ｄは、リアバンパ又はバックドアに設けられた撮像部７９１６の撮像範囲を示す。例えば、撮像部７９１０，７９１２，７９１４，７９１６で撮像された画像データが重ね合わせられることにより、車両７９００を上方から見た俯瞰画像が得られる。
　車両７９００のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２２，７９２４，７９２６，７９２８，７９３０は、例えば超音波センサ又はレーダ装置であってよい。車両７９００のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部７９２０，７９２６，７９３０は、例えばＬＩＤＡＲ装置であってよい。これらの車外情報検出部７９２０～７９３０は、主として先行車両、歩行者又は障害物等の検出に用いられる。
　図１５に戻って説明を続ける。車外情報検出ユニット７４００は、撮像部７４１０に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット７４００は、接続されている車外情報検出部７４２０から検出情報を受信する。車外情報検出部７４２０が超音波センサ、レーダ装置又はＬＩＤＡＲ装置である場合には、車外情報検出ユニット７４００は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット７４００は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット７４００は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
　また、車外情報検出ユニット７４００は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット７４００は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部７４１０により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット７４００は、異なる撮像部７４１０により撮像された画像データを用いて、視点変換処理を行ってもよい。
　車内情報検出ユニット７５００は、車内の情報を検出する。車内情報検出ユニット７５００には、例えば、運転者の状態を検出する運転者状態検出部７５１０が接続される。運転者状態検出部７５１０は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット７５００は、運転者状態検出部７５１０から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット７５００は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
　統合制御ユニット７６００は、各種プログラムにしたがって車両制御システム７０００内の動作全般を制御する。統合制御ユニット７６００には、入力部７８００が接続されている。入力部７８００は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット７６００には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部７８００は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム７０００の操作に対応した携帯電話又はＰＤＡ（Personal　Digital　Assistant）等の外部接続機器であってもよい。入力部７８００は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部７８００は、例えば、上記の入力部７８００を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット７６００に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部７８００を操作することにより、車両制御システム７０００に対して各種のデータを入力したり処理動作を指示したりする。
　記憶部７６９０は、マイクロコンピュータにより実行される各種プログラムを記憶するＲＯＭ（Read　Only　Memory）、及び各種パラメータ、演算結果又はセンサ値等を記憶するＲＡＭ（Random　Access　Memory）を含んでいてもよい。また、記憶部７６９０は、ＨＤＤ（Hard　Disc　Drive）等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
　汎用通信Ｉ／Ｆ７６２０は、外部環境７７５０に存在する様々な機器との間の通信を仲介する汎用的な通信Ｉ／Ｆである。汎用通信Ｉ／Ｆ７６２０は、ＧＳＭ（登録商標）（Global　System　of　Mobile　communications）、ＷｉＭＡＸ、ＬＴＥ（Long　Term　Evolution）若しくはＬＴＥ－Ａ（LTE－Advanced）などのセルラー通信プロトコル、又は無線ＬＡＮ（Ｗｉ－Ｆｉ（登録商標）ともいう）、Ｂｌｕｅｔｏｏｔｈ（登録商標）などのその他の無線通信プロトコルを実装してよい。汎用通信Ｉ／Ｆ７６２０は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク（例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク）上に存在する機器（例えば、アプリケーションサーバ又は制御サーバ）へ接続してもよい。また、汎用通信Ｉ／Ｆ７６２０は、例えばＰ２Ｐ（Peer　To　Peer）技術を用いて、車両の近傍に存在する端末（例えば、運転者、歩行者若しくは店舗の端末、又はＭＴＣ（Machine　Type　Communication）端末）と接続してもよい。
　専用通信Ｉ／Ｆ７６３０は、車両における使用を目的として策定された通信プロトコルをサポートする通信Ｉ／Ｆである。専用通信Ｉ／Ｆ７６３０は、例えば、下位レイヤのＩＥＥＥ８０２．１１ｐと上位レイヤのＩＥＥＥ１６０９との組合せであるＷＡＶＥ（Wireless　Access　in　Vehicle　Environment）、ＤＳＲＣ（Dedicated　Short　Range　Communications）、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信Ｉ／Ｆ７６３０は、典型的には、車車間（Vehicle　to　Vehicle）通信、路車間（Vehicle　to　Infrastructure）通信、車両と家との間（Vehicle　to　Home）の通信及び歩車間（Vehicle　to　Pedestrian）通信のうちの１つ以上を含む概念であるＶ２Ｘ通信を遂行する。
　測位部７６４０は、例えば、ＧＮＳＳ（Global　Navigation　Satellite　System）衛星からのＧＮＳＳ信号（例えば、ＧＰＳ（Global　Positioning　System）衛星からのＧＰＳ信号）を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部７６４０は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、ＰＨＳ若しくはスマートフォンといった端末から位置情報を取得してもよい。
　ビーコン受信部７６５０は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部７６５０の機能は、上述した専用通信Ｉ／Ｆ７６３０に含まれてもよい。
　車内機器Ｉ／Ｆ７６６０は、マイクロコンピュータ７６１０と車内に存在する様々な車内機器７７６０との間の接続を仲介する通信インタフェースである。車内機器Ｉ／Ｆ７６６０は、無線ＬＡＮ、Ｂｌｕｅｔｏｏｔｈ（登録商標）、ＮＦＣ（Near　Field　Communication）又はＷＵＳＢ（Wireless　USB）といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器Ｉ／Ｆ７６６０は、図示しない接続端子（及び、必要であればケーブル）を介して、ＵＳＢ（Universal　Serial　Bus）、ＨＤＭＩ（登録商標）（High-Definition　Multimedia　Interface）、又はＭＨＬ（Mobile　High-definition　Link）等の有線接続を確立してもよい。車内機器７７６０は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも１つを含んでいてもよい。また、車内機器７７６０は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器Ｉ／Ｆ７６６０は、これらの車内機器７７６０との間で、制御信号又はデータ信号を交換する。
　車載ネットワークＩ／Ｆ７６８０は、マイクロコンピュータ７６１０と通信ネットワーク７０１０との間の通信を仲介するインタフェースである。車載ネットワークＩ／Ｆ７６８０は、通信ネットワーク７０１０によりサポートされる所定のプロトコルに則して、信号等を送受信する。
　統合制御ユニット７６００のマイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム７０００を制御する。例えば、マイクロコンピュータ７６１０は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット７１００に対して制御指令を出力してもよい。例えば、マイクロコンピュータ７６１０は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Advanced　Driver　Assistance　System）の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ７６１０は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
　マイクロコンピュータ７６１０は、汎用通信Ｉ／Ｆ７６２０、専用通信Ｉ／Ｆ７６３０、測位部７６４０、ビーコン受信部７６５０、車内機器Ｉ／Ｆ７６６０及び車載ネットワークＩ／Ｆ７６８０のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の３次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ７６１０は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
　音声画像出力部７６７０は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図１５の例では、出力装置として、オーディオスピーカ７７１０、表示部７７２０及びインストルメントパネル７７３０が例示されている。表示部７７２０は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部７７２０は、ＡＲ（Augmented　Reality）表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ７６１０が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
　なお、図１５に示した例において、通信ネットワーク７０１０を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム７０００が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク７０１０を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク７０１０を介して相互に検出情報を送受信してもよい。
　本開示に係る技術は、以上説明した構成のうち、例えば、車外情報検出ユニットによる判定に適用され得る。即ち、画像と共にセンシング情報も得ることができるため、より詳細な情報を得ることが可能になる。
［本開示の構成］
　尚、本開示は、以下のような構成をとることもできる。
［Ａ１］
　複数の画素が行列状に配置された画素部、
　前記画素の露光時間を制御する露光制御部、
　前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、
　前記第１画像データに対して第１画像処理を実行する第１処理部と前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部、
を備えており、
　前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる、
撮像装置。
［Ａ２］
　行方向に配列されて成る画素群を選択する選択部、及び、
　前記選択された画素群をアクセスするタイミングを制御するタイミング制御部、
をさらに備えており、
　前記タイミング制御部は、前記第１画像データを生成する際に画素群へアクセスするタイミングと、前記第２画像データを生成する際に画素群へアクセスするタイミングをそれぞれ制御する、
上記［Ａ１］に記載の撮像装置。
［Ａ３］
　前記第１フレームレートは、前記第２フレームレートとは異なる値に設定されている、
上記［Ａ２］に記載の撮像装置。
［Ａ４］
　前記第１フレームレートは、前記第２フレームレートよりも高い値に設定されており、
　前記第１画像処理は、センシング情報を出力するための画像処理であり、
　前記第２画像処理は、表示用画像データを出力するための画像処理である、
上記［Ａ３］に記載の撮像装置。
［Ａ５］
　第１フレームレートの撮像と第２フレームレートの撮像とは時分割で行われ、
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と、前記第２画像データを生成する際にアクセスする画素群とが重ならないように選択する、
上記［Ａ４］に記載の撮像装置。
［Ａ６］
　前記タイミング制御部は、前記第１画像データの読み出し期間と前記第２画像データのシャッター期間とが重ならないように制御する、
上記［Ａ５］に記載の撮像装置。
［Ａ７］
　前記タイミング制御部は、前記第２画像データの読み出し期間と前記第１画像データのシャッター期間とが重ならないように制御する、
上記［Ａ５］または［Ａ６］に記載の撮像装置。
［Ａ８］
　第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われ、
　前記信号処理部は、前記センシング情報と前記表示用画像データとを互いに独立して出力する、
上記［Ａ４］に記載の撮像装置。
［Ａ９］
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが異なるよう選択する、
上記［Ａ８］に記載の撮像装置。
［Ａ１０］
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが交互になるように選択する、
上記［Ａ９］に記載の撮像装置。
［Ａ１１］
　前記画像データ生成部は、前記第１画像データを生成する第１画像データ生成部と、前記第２画像データを生成する第２画像データ生成部とを有する、
上記［Ａ１９］または［Ａ１０］に記載の撮像装置。
［Ａ１２］
　前記センシング情報と前記表示用画像データとを統合して出力するデータパッキング部をさらに備えている、
上記［Ａ４］ないし［Ａ１１］のいずれかに記載の撮像装置。
［Ａ１３］
　前記画像データ生成部は、前記画素部から出力されるアナログ信号をデジタル信号に変換するＡ／Ｄ変換部を有する、
上記［Ａ１］ないし［Ａ１２］のいずれかに記載の撮像装置。
［Ａ１４］
　前記画素部、前記画像データ生成部、前記信号処理部は、同一の半導体基板上に形成されている、
上記［Ａ１］ないし［Ａ１３］のいずれかに記載の撮像装置。
［Ａ１５］
　第１半導体基板と第２半導体基板とを少なくとも含む複数の半導体基板が積層されており、
　前記第１半導体基板には、前記画素部が少なくとも形成されており、
　前記第２半導体基板には、前記信号処理部が少なくとも形成されている、
上記［Ａ１］ないし［Ａ１３］のいずれかに記載の撮像装置。
［Ｂ１］
　複数の画素が行列状に配置された画素部、
　前記画素の露光時間を制御する露光制御部、
　前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、
　第１画像データに対して第１画像処理を実行する第１処理部と第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部、
を備えており、
　前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる、
撮像システム。
［Ｂ２］
　行方向に配列されて成る画素群を選択する選択部、及び、
　前記選択された画素群をアクセスするタイミングを制御するタイミング制御部、
をさらに備えており、
　前記タイミング制御部は、前記第１画像データを生成する際に画素群へアクセスするタイミングと、前記第２画像データを生成する際に画素群へアクセスするタイミングをそれぞれ制御する、
上記［Ｂ１］に記載の撮像システム。
［Ｂ３］
　前記第１フレームレートは、前記第２フレームレートとは異なる値に設定されている、
上記［Ｂ２］に記載の撮像システム。
［Ｂ４］
　前記第１フレームレートは、前記第２フレームレートよりも高い値に設定されており、
　前記第１画像処理は、センシング情報を出力するための画像処理であり、
　前記第２画像処理は、表示用画像データを出力するための画像処理である、
上記［Ｂ３］に記載の撮像システム。
［Ｂ５］
　第１フレームレートの撮像と第２フレームレートの撮像とは時分割で行われ、
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と、前記第２画像データを生成する際にアクセスする画素群とが重ならないように選択する、
上記［Ｂ４］に記載の撮像システム。
［Ｂ６］
　前記タイミング制御部は、前記第１画像データの読み出し期間と前記第２画像データのシャッター期間とが重ならないように制御する、
上記［Ｂ５］に記載の撮像システム。
［Ｂ７］
　前記タイミング制御部は、前記第２画像データの読み出し期間と前記第１画像データのシャッター期間とが重ならないように制御する、
上記［Ｂ５］または［Ｂ６］に記載の撮像システム。
［Ｂ８］
　第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われ、
　前記信号処理部は、前記センシング情報と前記表示用画像データとを互いに独立して出力する、
上記［Ｂ４］に記載の撮像システム。
［Ｂ９］
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが異なるよう選択する、
上記［Ｂ８］に記載の撮像システム。
［Ｂ１０］
　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが交互になるように選択する、
上記［Ｂ９］に記載の撮像システム。
［Ｂ１１］
　前記画像データ生成部は、前記第１画像データを生成する第１画像データ生成部と、前記第２画像データを生成する第２画像データ生成部とを有する、
上記［Ｂ１９］または［Ｂ１０］に記載の撮像システム。
［Ｂ１２］
　前記センシング情報と前記表示用画像データとを統合して出力するデータパッキング部をさらに備えている、
上記［Ｂ４］ないし［Ｂ１１］のいずれかに記載の撮像システム。
［Ｂ１３］
　前記画像データ生成部は、前記画素部から出力されるアナログ信号をデジタル信号に変換するＢ／Ｄ変換部を有する、
上記［Ｂ１］ないし［Ｂ１２］のいずれかに記載の撮像システム。
［Ｂ１４］
　前記画素部、前記画像データ生成部、前記信号処理部は、同一の半導体基板上に形成されている、
上記［Ｂ１］ないし［Ｂ１３］のいずれかに記載の撮像システム。
［Ｂ１５］
　第１半導体基板と第２半導体基板とを少なくとも含む複数の半導体基板が積層されており、
　前記第１半導体基板には、前記画素部が少なくとも形成されており、
　前記第２半導体基板には、前記信号処理部が少なくとも形成されている、
上記［Ｂ１］ないし［Ｂ１３］のいずれかに記載の撮像システム。
［Ｃ１］
　複数の画素が行列状に配置された画素部から第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する工程、及び、
　前記第１画像データに対して第１画像処理を実行すると共に前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する工程、
を含んでおり、
　前記第１画像処理と前記第２画像処理とを互いに独立して実行する、
画像処理方法。
［Ｃ２］
　前記第１フレームレートは、前記第２フレームレートとは異なる値に設定されている、
上記［Ｃ１］に記載の画像処理方法。
［Ｃ３］
　前記第１フレームレートは、前記第２フレームレートよりも高い値に設定されており、
　前記第１画像処理は、センシング情報を出力するための画像処理であり、
　前記第２画像処理は、表示用画像データを出力するための画像処理である、
上記［Ｃ２］に記載の画像処理方法。
［Ｃ４］
　第１フレームレートの撮像と第２フレームレートの撮像とを時分割で行い、
　前記第１画像データを生成する際にアクセスする画素群と、前記第２画像データを生成する際にアクセスする画素群とが重ならないように選択する、
上記［Ｃ３］に記載の画像処理方法。
［Ｃ５］
　第１フレームレートの撮像と第２フレームレートの撮像とを並行して行い、
　前記センシング情報と前記表示用画像データとを互いに独立して出力する、
上記［Ｃ３］に記載の画像処理方法。
［Ｃ６］
　前記センシング情報と前記表示用画像データとを統合して出力する工程をさらに備えている、
上記［Ｃ３］ないし［Ｃ５］のいずれかに記載の画像処理方法。
１００，２００，３００・・・撮像装置、１１０，２１０，３１０・・・画素部、１１１，３１１，３１１Ａ，３１１Ｂ・・・画素、１１２，３１２Ａ，３１２Ｂ・・・制御線、１１３，２１３Ａ，２１３Ｂ，３１３Ａ，３１３Ｂ・・・信号線、１２０，２２０，３２０・・・露光制御部、１３０，２３０，３３０・・・画像データ生成部、１４０，２４０，３４０・・・タイミング制御部、１３１・・・Ａ／Ｄ変換部、２３１，３３１・・・第１画像データ生成部、２３２，３３２・・・第２画像データ生成部、１６０，２６０，３６０・・・信号処理部、１６１，２６１，３６１・・・第１処理部、１６２，２６２，３６２・・・第２処理部、１７０・・・データパッキング部、Ｄ１・・・第１画像データ、Ｄ２・・・第２画像データ、ＳＤ・・・センシング情報、ＰＤ・・・表示用画像データ、ＡＰＤ・・・センシング情報が加えられた表示用画像データ

Claims (17)

  1. 　複数の画素が行列状に配置された画素部、
    　前記画素の露光時間を制御する露光制御部、
    　前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、
    　前記第１画像データに対して第１画像処理を実行する第１処理部と前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部、
    を備えており、
    　前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる、
    撮像装置。
  2. 　行方向に配列されて成る画素群を選択する選択部、及び、
    　前記選択された画素群をアクセスするタイミングを制御するタイミング制御部、
    をさらに備えており、
    　前記タイミング制御部は、前記第１画像データを生成する際に画素群へアクセスするタイミングと、前記第２画像データを生成する際に画素群へアクセスするタイミングをそれぞれ制御する、
    請求項１に記載の撮像装置。
  3. 　前記第１フレームレートは、前記第２フレームレートとは異なる値に設定されている、
    請求項２に記載の撮像装置。
  4. 　前記第１フレームレートは、前記第２フレームレートよりも高い値に設定されており、
    　前記第１画像処理は、センシング情報を出力するための画像処理であり、
    　前記第２画像処理は、表示用画像データを出力するための画像処理である、
    請求項３に記載の撮像装置。
  5. 　第１フレームレートの撮像と第２フレームレートの撮像とは時分割で行われ、
    　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と、前記第２画像データを生成する際にアクセスする画素群とが重ならないように選択する、
    請求項４に記載の撮像装置。
  6. 　前記タイミング制御部は、前記第１画像データの読み出し期間と前記第２画像データのシャッター期間とが重ならないように制御する、
    請求項５に記載の撮像装置。
  7. 　前記タイミング制御部は、前記第２画像データの読み出し期間と前記第１画像データのシャッター期間とが重ならないように制御する、
    請求項５に記載の撮像装置。
  8. 　第１フレームレートの撮像と第２フレームレートの撮像とは並行して行われ、
    　前記信号処理部は、前記センシング情報と前記表示用画像データとを互いに独立して出力する、
    請求項４に記載の撮像装置。
  9. 　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが異なるよう選択する、
    請求項８に記載の撮像装置。
  10. 　前記選択部は、前記第１画像データを生成する際にアクセスする画素群と前記第２画像データを生成する際にアクセスする画素群とが交互になるように選択する、
    請求項９に記載の撮像装置。
  11. 　前記画像データ生成部は、前記第１画像データを生成する第１画像データ生成部と、前記第２画像データを生成する第２画像データ生成部とを有する、
    請求項９に記載の撮像装置。
  12. 　前記センシング情報と前記表示用画像データとを統合して出力するデータパッキング部をさらに備えている、
    請求項４に記載の撮像装置。
  13. 　前記画像データ生成部は、前記画素部から出力されるアナログ信号をデジタル信号に変換するＡ／Ｄ変換部を有する、
    請求項１に記載の撮像装置。
  14. 　前記画素部、前記画像データ生成部、前記信号処理部は、同一の半導体基板上に形成されている、
    請求項１に記載の撮像装置。
  15. 　第１半導体基板と第２半導体基板とを少なくとも含む複数の半導体基板が積層されており、
    　前記第１半導体基板には、前記画素部が少なくとも形成されており、
    　前記第２半導体基板には、前記信号処理部が少なくとも形成されている、
    請求項１に記載の撮像装置。
  16. 　複数の画素が行列状に配置された画素部、
    　前記画素の露光時間を制御する露光制御部、
    　前記露光時間の制御に基づいて、第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する画像データ生成部、及び、
    　第１画像データに対して第１画像処理を実行する第１処理部と第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する第２処理部とを有する信号処理部、
    を備えており、
    　前記信号処理部は、前記第１画像処理と前記第２画像処理とを互いに独立して動作させる、
    撮像システム。
  17. 　複数の画素が行列状に配置された画素部から第１フレームレートで出力される第１画像データおよび第２フレームレートで出力される第２画像データを生成する工程、及び、
    　前記第１画像データに対して第１画像処理を実行すると共に前記第２画像データに対して前記第１画像処理とは異なる第２画像処理を実行する工程、
    を含んでおり、
    　前記第１画像処理と前記第２画像処理とを互いに独立して実行する、
    画像処理方法。
PCT/JP2017/021961 2016-08-26 2017-06-14 撮像装置、撮像システム、及び、信号処理方法 WO2018037680A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-165545 2016-08-26
JP2016165545A JP2018033072A (ja) 2016-08-26 2016-08-26 撮像装置、撮像システム、及び、信号処理方法

Publications (1)

Publication Number Publication Date
WO2018037680A1 true WO2018037680A1 (ja) 2018-03-01

Family

ID=61245587

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/021961 WO2018037680A1 (ja) 2016-08-26 2017-06-14 撮像装置、撮像システム、及び、信号処理方法

Country Status (2)

Country Link
JP (1) JP2018033072A (ja)
WO (1) WO2018037680A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7278750B2 (ja) * 2018-11-14 2023-05-22 キヤノン株式会社 撮像装置
JP2021010092A (ja) * 2019-06-28 2021-01-28 パナソニックＩｐマネジメント株式会社 画像センサ、画像センサシステム、画像センサの出力方法、及びプログラム
JP2021034786A (ja) 2019-08-20 2021-03-01 ソニーセミコンダクタソリューションズ株式会社 撮像素子、撮像素子の駆動方法、及び、電子機器
JP2023053566A (ja) * 2021-10-01 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 撮像素子、撮像装置及び撮像方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004140479A (ja) * 2002-10-16 2004-05-13 Sony Corp 固体撮像装置、カメラ装置、及びその制御方法
JP2010074243A (ja) * 2008-09-16 2010-04-02 Panasonic Corp 固体撮像装置、撮像装置
JP2015114416A (ja) * 2013-12-10 2015-06-22 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004140479A (ja) * 2002-10-16 2004-05-13 Sony Corp 固体撮像装置、カメラ装置、及びその制御方法
JP2010074243A (ja) * 2008-09-16 2010-04-02 Panasonic Corp 固体撮像装置、撮像装置
JP2015114416A (ja) * 2013-12-10 2015-06-22 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム

Also Published As

Publication number Publication date
JP2018033072A (ja) 2018-03-01

Similar Documents

Publication Publication Date Title
US10834315B2 (en) Image transfer apparatus and moving image generating system for transferring moving image data
WO2018135315A1 (ja) 撮像装置、画像処理方法および画像処理システム
US11372200B2 (en) Imaging device
WO2018020857A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2018003245A1 (ja) 信号処理装置、撮像装置、及び信号処理方法
WO2017221715A1 (ja) 撮像素子及び電子機器
WO2018003305A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2018150768A1 (ja) 測光装置、測光方法、プログラムおよび撮像装置
WO2018016344A1 (ja) 固体撮像装置および電子機器
JP7229988B2 (ja) 測距システム、及び、受光モジュール、並びに、バンドパスフィルタの製造方法
WO2020202965A1 (ja) 撮像レンズおよび撮像装置
US11119633B2 (en) Information processing device and method
WO2018037680A1 (ja) 撮像装置、撮像システム、及び、信号処理方法
US20200382823A1 (en) Display control apparatus, display control method, and video output apparatus
US11156751B2 (en) Imaging optical system, camera module, and electronic device
US11482159B2 (en) Display control device, display control method, and display control program
JP7081609B2 (ja) レンズ装置及び撮像装置
EP3761636B1 (en) Signal processing device, signal processing method, and imaging device
WO2019082686A1 (ja) 撮像装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17843168

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17843168

Country of ref document: EP

Kind code of ref document: A1