WO2021024784A1 - 信号処理装置、信号処理方法、および撮像装置 - Google Patents

信号処理装置、信号処理方法、および撮像装置 Download PDF

Info

Publication number
WO2021024784A1
WO2021024784A1 PCT/JP2020/028156 JP2020028156W WO2021024784A1 WO 2021024784 A1 WO2021024784 A1 WO 2021024784A1 JP 2020028156 W JP2020028156 W JP 2020028156W WO 2021024784 A1 WO2021024784 A1 WO 2021024784A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
signal
processing
image data
processing unit
Prior art date
Application number
PCT/JP2020/028156
Other languages
English (en)
French (fr)
Inventor
真毅 室塚
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to US17/623,712 priority Critical patent/US11924568B2/en
Priority to CN202080045531.6A priority patent/CN114009013A/zh
Priority to DE112020003760.6T priority patent/DE112020003760T5/de
Publication of WO2021024784A1 publication Critical patent/WO2021024784A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/22Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • H04N5/06Generation of synchronising signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof

Definitions

  • the present disclosure relates to a signal processing device that performs signal processing, a signal processing method used in such a signal processing device, and an imaging device including such a signal processing device.
  • Patent Document 1 discloses a technique for detecting a failure of a plurality of paths by using test data in a signal processing apparatus that performs processing in parallel using a plurality of paths.
  • a signal processing device that can perform processing in parallel using a plurality of processing units, it is desired to perform diagnosis during normal operation.
  • the signal processing apparatus includes a plurality of first processing units, a control unit, a first selection unit, a second processing unit, a second selection unit, and a first. It has a comparison section.
  • the plurality of first processing units are provided corresponding to the plurality of first signals, and each performs predetermined processing based on the corresponding first signal among the plurality of first signals. It is configured to be able to generate a second signal.
  • the control unit can select any one of the plurality of first processing units, and is configured to be able to generate a selection control signal according to the selection result.
  • the first selection unit is configured to be able to select the first signal supplied to the selected first processing unit from among the plurality of first signals based on the selection control signal.
  • the second processing unit is configured to be capable of generating a third signal by performing predetermined processing based on the first signal selected by the first selection unit among the plurality of first signals. Will be done.
  • the plurality of second selection units are configured to be able to select a second signal generated by the selected first processing unit among the plurality of second signals based on the selection control signal.
  • the first comparison unit is configured to be able to compare the third signal with the second signal selected by the second selection unit among the plurality of second signals.
  • each of the plurality of first processing units provided corresponding to the plurality of first signals corresponds to the first of the plurality of first signals.
  • a second signal is generated by performing a predetermined process based on the signal of the above, and one of a plurality of first processing units is selected, and a selection control signal according to the selection result is generated. The generation, selection of the first signal supplied to the selected first processing unit among the plurality of first signals based on the selection control signal, and the selection of the second processing unit.
  • a third signal is generated by performing a predetermined process based on the selected first signal among the plurality of first signals, and a plurality of second signals are generated based on the selection control signal.
  • the selection of the second signal generated by the selected first processing unit among the signals, the third signal, and the selected second signal among the plurality of second signals. Includes comparing.
  • the imaging apparatus includes an imaging unit, a plurality of first processing units, a control unit, a first selection unit, a second processing unit, a second selection unit, and the like. It has a first comparison unit.
  • the image pickup unit is configured to be able to generate an image signal including a plurality of first signals by performing an image pickup operation.
  • the plurality of first processing units are provided corresponding to the plurality of first signals, and each performs predetermined processing based on the corresponding first signal among the plurality of first signals. It is configured to be able to generate a second signal.
  • the control unit can select any one of the plurality of first processing units, and is configured to be able to generate a selection control signal according to the selection result.
  • the first selection unit is configured to be able to select the first signal supplied to the selected first processing unit from among the plurality of first signals based on the selection control signal.
  • the second processing unit is configured to be capable of generating a third signal by performing predetermined processing based on the first signal selected by the first selection unit among the plurality of first signals. Will be done.
  • the plurality of second selection units are configured to be able to select a second signal generated by the selected first processing unit among the plurality of second signals based on the selection control signal.
  • the first comparison unit is configured to be able to compare the third signal with the second signal selected by the second selection unit among the plurality of second signals.
  • each of the plurality of first processing units is determined based on the corresponding first signal among the plurality of first signals.
  • a second signal is generated by the processing of. Further, any one of the plurality of first processing units is selected, and a selection control signal corresponding to the selection result is generated. Then, based on this selection control signal, the first signal supplied to the selected first processing unit is selected from the plurality of first signals.
  • a third signal is generated by performing a predetermined process based on the selected first signal among the plurality of first signals. Based on the selection control signal, the second signal generated by the selected first processing unit is selected from the plurality of second signals. Then, the third signal and the selected second signal among the plurality of second signals are compared.
  • FIG. 3 is a timing waveform diagram showing an operation example of the image processing unit and the diagnosis unit shown in FIG.
  • FIG. 3 is another timing waveform diagram showing an operation example of the image processing unit and the diagnosis unit shown in FIG. 3 is another timing waveform diagram showing an operation example of the image processing unit and the diagnosis unit shown in FIG. 3 is another timing waveform diagram showing an operation example of the image processing unit and the diagnosis unit shown in FIG. It is a block diagram which shows a specific example of the image processing unit and the diagnosis unit which concerns on 2nd Embodiment.
  • FIG. 5 is a timing waveform diagram showing an operation example of the image processing unit and the diagnosis unit shown in FIG. It is explanatory drawing which shows an example of the operation state of the image processing unit and the diagnosis unit shown in FIG. It is explanatory drawing which shows the other example of the operation state of the image processing part and the diagnosis part shown in FIG.
  • Timing waveform diagram which shows one operation example of the image processing unit and the diagnosis unit shown in FIG.
  • It is a timing waveform diagram which shows one operation example of the image processing unit and the diagnosis unit shown in FIG.
  • It is explanatory drawing which shows the use example of the image pickup apparatus.
  • FIG. 1 shows an example of a configuration of an image pickup apparatus 1 provided with a signal processing apparatus according to an embodiment. Since the signal processing method and the imaging apparatus according to the embodiment of the present disclosure are embodied by the present embodiment, they will be described together.
  • the imaging device 1 includes an imaging unit 10, a sensor interface 21, a diagnostic unit 22, an image processing unit 30, a diagnostic unit 40, a transmission data generation unit 23, a diagnostic unit 24, a transmission unit 25, and a diagnostic result. It includes a collecting unit 26, a register 27, and a communication unit 28.
  • the image pickup unit 10 is configured to generate image data DTA by performing an image pickup operation.
  • the imaging unit 10 includes a pixel array 11, an AD conversion unit 12, and a diagnostic unit 13.
  • the pixel array 11 has a plurality of pixels P arranged in a matrix.
  • the pixel P is configured to include a photodiode that performs photoelectric conversion, and is configured to generate a pixel voltage according to the amount of light received.
  • FIG. 2 shows a configuration example of the pixel array 11.
  • the plurality of pixels P are arranged with four pixels P arranged in two rows and two columns as a unit (unit U).
  • the unit U has four pixels PR, PGr, PGb, and PB.
  • the pixel PR can receive red light
  • the pixels PGr and PGb can receive green light
  • the pixel PB can receive blue light.
  • the pixel PR is arranged in the upper left
  • the pixel PGr is arranged in the upper right
  • the pixel PGb is arranged in the lower left
  • the pixel PB is arranged in the lower right.
  • the pixels PR, PGr, PGb, and PB are arranged in a so-called Bayer array.
  • the AD conversion unit 12 (FIG. 1) is configured to generate a pixel value, which is a digital value, by performing AD conversion based on the pixel voltage supplied from each pixel P. Then, the AD conversion unit 12 sequentially supplies the generated pixel values to the sensor interface 21 by using the image data DTA in units of the pixel values for one frame.
  • the diagnostic unit 13 is configured to detect a defect in the AD conversion unit 12 by performing diagnostic processing on the AD conversion unit 12. Then, the diagnosis unit 13 notifies the diagnosis result collection unit 26 of the diagnosis data INF1 indicating the diagnosis result of the AD conversion unit 12.
  • the sensor interface 21 is an interface between the image pickup unit 10 and the image processing unit 30, and is configured to supply the image data DTB corresponding to the image data DTA supplied from the image pickup unit 10 to the image processing unit 30.
  • the diagnostic unit 22 is configured to detect a defect in the sensor interface 21 by performing diagnostic processing on the sensor interface 21. Then, the diagnosis unit 22 notifies the diagnosis result collection unit 26 of the diagnosis data INF2 indicating the diagnosis result of the sensor interface 21.
  • the image processing unit 30 is configured to generate image data DTC by performing predetermined image processing based on the image data DTB supplied from the sensor interface 21.
  • the predetermined image processing includes, for example, at least one of a gain adjustment processing, a white balance adjustment processing, a black level adjustment processing, an HDR (High Dynamic Range) composition processing, a noise removal processing, and a pixel defect correction processing.
  • the diagnostic unit 40 is configured to detect a defect in the image processing unit 30 by performing diagnostic processing on the image processing unit 30. Then, the diagnosis unit 40 notifies the diagnosis result collection unit 26 of the diagnosis data INF3 indicating the diagnosis result of the image processing unit 30.
  • FIG. 3 shows a configuration example of the image processing unit 30 and the diagnosis unit 40.
  • the image data DTB supplied to the image processing unit 30 includes four image data DBs (image data DB0 to DB3), and the image data DTC generated by the image processing unit 30 includes four images.
  • Data DC image data DC0 to DC3 is included.
  • FIG. 4 shows an example of image data DB0, DB1, DB2, and DB3.
  • FIG. 5 shows an example of the image data DB0.
  • the image data DB0 includes a plurality of pixel values related to the red pixel PR.
  • the image data DB0 includes line image data DB_R0 including pixel values of a plurality of pixel PRs related to the 0th line L, and a plurality of pixel PRs related to the second line L.
  • Line image data DB_R2 including pixel values of
  • line image data DB_R4 including pixel values of a plurality of pixel PRs related to the fourth line L
  • line image data including pixel values of a plurality of pixel PRs related to the sixth line L.
  • the image data DB 1 includes a plurality of pixel values related to the green pixel PGr.
  • the image data DB1 is line image data DB_Gr0 including pixel values of a plurality of pixels PGr related to the 0th line L, and line image data including pixel values of a plurality of pixels PGr related to the second line L.
  • DB_Gr2 includes line image data DB_Gr4 including pixel values of a plurality of pixel PGr related to the fourth line L, line image data DB_Gr6 including pixel values of a plurality of pixel PGr related to the sixth line L, and so on.
  • the image data DB 2 includes a plurality of pixel values related to the green pixel PGb.
  • the image data DB 2 is line image data DB_Gb1 including pixel values of a plurality of pixel PGb related to the first line L, and line image data including pixel values of a plurality of pixel PGb related to the third line L.
  • DB_Gb3 includes line image data DB_Gb5 including pixel values of a plurality of pixel PGb related to the fifth line L, line image data DB_Gb7 including pixel values of a plurality of pixel PGb related to the seventh line L, and so on.
  • the image data DB 3 includes a plurality of pixel values related to the blue pixel PB.
  • the image data DB 3 is line image data DB_B1 including pixel values of a plurality of pixel PBs related to the first line L, and line image data including pixel values of a plurality of pixel PBs related to the third line L.
  • DB_B3 includes line image data DB_B5 including pixel values of a plurality of pixel PBs related to the fifth line L, line image data DB_B7 including pixel values of a plurality of pixel PBs related to the seventh line L, and so on.
  • the image processing unit 30 has four processing units 31 (processing units 31A, 31B, 31C, 31D).
  • the four processing units 31 have the same circuit configuration as each other, and are configured to perform the same image processing as each other.
  • the processing unit 31A is configured to generate image data DC0 by performing predetermined image processing based on the image data DB0.
  • the processing unit 31B is configured to generate image data DC1 by performing predetermined image processing based on the image data DB1.
  • the processing unit 31C is configured to generate image data DC2 by performing predetermined image processing based on the image data DB2.
  • the processing unit 31D is configured to generate image data DC3 by performing predetermined image processing based on the image data DB3.
  • the image processing unit 30 performs image processing in parallel.
  • the processing units 31A, 31B, 31C, and 31D are also appropriately referred to as channels CH0, CH1, CH2, and CH3.
  • the diagnostic unit 40 has a selector 41, a processing unit 42, a selector 43, a comparison unit 44, and a diagnostic processing unit 45.
  • the selector 41 is configured to select any one of the image data DB0 to DB3 based on the selection control signal SEL and supply the selected image data DB to the processing unit 42.
  • the processing unit 42 has the same circuit configuration as each of the four processing units 31 of the image processing unit 30, and generates an image data DS by performing predetermined image processing based on the image data DB supplied from the selector 41. It is configured to do.
  • the processing unit 42 is also appropriately referred to as channel CH4.
  • the selector 43 is configured to select any one of the image data DC0 to DC3 based on the selection control signal SEL and supply the selected image data DC to the comparison unit 44.
  • the comparison unit 44 is configured to compare the image data DS generated by the processing unit 42 with the image data DC supplied from the selector 43, and supply the comparison result to the diagnostic processing unit 45.
  • the diagnostic processing unit 45 is configured to control the diagnostic processing for the image processing unit 30. Specifically, the diagnostic processing unit 45 generates a selection control signal SEL instructing the image processing unit 30 to select any one of the plurality of processing units 31A to 31D (channels CH0 to CH3). .. For example, the diagnostic processing unit 45 generates a selection control signal SEL so as to sequentially and cyclically select the processing units 31A, 31B, 31C, and 31D. Then, the diagnostic processing unit 45 includes a comparison result of the comparison unit 44 when the processing unit 31A (channel CH0) is selected, a comparison result of the comparison unit 44 when the processing unit 31B (channel CH1) is selected, and a processing unit.
  • SEL selection control signal
  • the processing units 31A to 31D, 42 Diagnose which processing unit of channels CH0 to CH4 has a problem. Then, the diagnosis processing unit 45 notifies the diagnosis result collection unit 26 of the diagnosis data INF3 indicating the diagnosis result of the image processing unit 30.
  • the diagnostic data INF3 includes, for example, data as to whether or not the image processing unit 30 and the diagnostic unit 40 have a problem. Further, the diagnostic data INF3 includes detailed diagnostic data such as which of the processing units 31A to 31D and 42 (channels CH0 to CH4) has a problem.
  • the diagnostic processing unit 45 sequentially selects one of these four processing units 31A to 31D in a time-division manner, and the selector 41 selects the image data DB input to the selected processing unit 31 in the diagnostic unit. It is supplied to the processing unit 42 (channel CH4) of 40.
  • the processing unit 42 generates an image data DS by performing image processing based on the image data DB supplied from the selector 41.
  • the selector 43 supplies the image data DC generated by the selected processing unit 31 to the comparison unit 44.
  • the comparison unit 44 compares the image data DS supplied from the processing unit 42 with the image data DC supplied from the selector 43. If there is no problem in the image processing unit 30 and the diagnosis unit 40, it is expected that these image data match each other. Then, the diagnostic processing unit 45 detects a defect in the image processing unit 30 based on the comparison result in the comparison unit 44.
  • the transmission data generation unit 23 (FIG. 1) is configured to generate transmission data DT having a predetermined transmission format based on the image data DTC. Further, the transmission data generation unit 23 can embed the data supplied from the register 27 in the transmission data DT.
  • the diagnostic unit 24 is configured to detect a defect in the transmission data generation unit 23 by performing diagnostic processing on the transmission data generation unit 23. Then, the diagnosis unit 24 notifies the diagnosis result collection unit 26 of the diagnosis data INF4 indicating the diagnosis result of the transmission data generation unit 23.
  • the transmission unit 25 transmits the transmission data DT supplied from the transmission data generation unit 23 to the host device 100 (not shown) via a high-speed interface such as MIPI (Mobile Industry Processor Interface). It is composed.
  • MIPI Mobile Industry Processor Interface
  • the diagnosis result collection unit 26 collects the diagnosis data INF1 to INF4 supplied from the diagnosis units 13, 22, 40, and 24, and registers the diagnosis data INF indicating detailed diagnosis results according to the diagnosis data INF1 to INF4. It is configured to be stored in. Further, the diagnosis result collecting unit 26 generates an error signal ERR indicating whether or not a problem has occurred in the image pickup apparatus 1 based on the diagnosis data INF1 to INF4, and outputs this error signal ERR.
  • the register 27 is configured to store the diagnostic data INF.
  • the data stored in the register 27 can be read from an external device such as the host device 100 (not shown) via the communication unit 28. Further, the register 27 can supply the diagnostic data INF to the transmission data generation unit 23. In this case, the transmission data generation unit 23 embeds the diagnostic data INF in the transmission data DT.
  • the communication unit 28 is configured to be able to communicate with an external device such as a host device 100 (not shown) via a low-speed interface such as I2C.
  • FIG. 6 shows an example of the transmission format of the transmission data DT.
  • the data from the frame start FS to the frame end FE indicates the image data for one frame.
  • the transmission data generation unit 23 generates transmission data DT for one frame by generating a plurality of packet PCTs based on the image data DTC.
  • the image pickup apparatus 1 transmits image data in the image area A.
  • the image area A includes an effective pixel area A1 and dummy areas A2 and A3.
  • the effective pixel area A1 is an image area corresponding to a region in the pixel array 11 in which so-called effective pixels are arranged.
  • the dummy area A2 is arranged above the effective pixel area A1, and the dummy area A3 is arranged below the effective pixel area A1.
  • the transmission data generation unit 23 can insert the diagnostic data INF into the dummy area A2 or the dummy area A3, for example.
  • one packet PCT includes a header PH, a payload PP, and a footer PF.
  • the payload PP includes one line of image data in the image area A. Therefore, the image pickup apparatus 1 can transmit the image data in the image area A by using the same number of packet PCTs as the number of pixels in the vertical direction in the image area A. In this way, the image pickup apparatus 1 transmits image data for one frame in line units.
  • the processing units 31A to 31D correspond to a specific example of the "plurality of first processing units” in the present disclosure.
  • the image data DB0 to DB3 correspond to a specific example of the "plurality of first signals” in the present disclosure.
  • the image data DC0 to DC3 correspond to a specific example of the "plurality of second signals” in the present disclosure.
  • the diagnostic processing unit 45 corresponds to a specific example of the “control unit” in the present disclosure.
  • the selector 41 corresponds to a specific example of the "first selection unit” in the present disclosure.
  • the processing unit 42 corresponds to a specific example of the "second processing unit” in the present disclosure.
  • the image data DS corresponds to a specific example of the "third signal” in the present disclosure.
  • the selector 43 corresponds to a specific example of the "second selection unit” in the present disclosure.
  • the comparison unit 44 corresponds to a specific example of the “first comparison unit” in the present disclosure.
  • the diagnosis result collecting unit 26 corresponds to a specific example of the “output unit” in the present disclosure.
  • the imaging unit 10 and the sensor interface 21 correspond to a specific example of the “imaging unit” in the present disclosure.
  • the image pickup unit 10 generates image data DTA by performing an image pickup operation. Specifically, each pixel P of the pixel array 11 generates a pixel voltage according to the amount of light received, and the AD conversion unit 12 performs AD conversion based on the pixel voltage supplied from each pixel P. Generates a pixel value that is a digital value.
  • the diagnosis unit 13 performs diagnostic processing on the AD conversion unit 12, and notifies the diagnosis result collection unit 26 of the diagnosis data INF1 indicating the diagnosis result of the AD conversion unit 12.
  • the sensor interface 21 supplies the image data DTB corresponding to the image data DTA supplied from the image pickup unit 10 to the image processing unit 30.
  • the diagnosis unit 22 performs diagnostic processing on the sensor interface 21, and notifies the diagnosis result collection unit 26 of the diagnosis data INF2 indicating the diagnosis result of the sensor interface 21.
  • the image processing unit 30 generates image data DTC by performing predetermined image processing based on the image data DTB supplied from the sensor interface 21.
  • the diagnosis unit 40 performs diagnostic processing on the image processing unit 30, and notifies the diagnosis result collection unit 26 of the diagnostic data INF3 indicating the diagnosis result of the image processing unit 30.
  • the transmission data generation unit 23 generates a transmission data DT having a predetermined transmission format based on the image data DTC.
  • the diagnosis unit 24 performs diagnostic processing on the transmission data generation unit 23, and notifies the diagnosis result collection unit 26 of the diagnosis data INF4 indicating the diagnosis result of the transmission data generation unit 23.
  • the transmission unit 25 transmits the transmission data DT supplied from the transmission data generation unit 23 to the host device 100 (not shown).
  • the diagnosis result collection unit 26 collects the diagnosis data INF1 to INF4 supplied from the diagnosis units 13, 22, 40, and 24, and registers the diagnosis data INF indicating detailed diagnosis results according to the diagnosis data INF1 to INF4. To memorize. Further, the diagnosis result collecting unit 26 generates an error signal ERR indicating whether or not a defect has occurred in the image pickup apparatus 1 based on the diagnosis data INF1 to INF4, and outputs this error signal ERR.
  • Register 27 stores diagnostic data INF.
  • the communication unit 28 communicates with an external device such as the host device 100 (not shown).
  • FIG. 7 shows an operation example of the image processing unit 30 and the diagnosis unit 40 when the image pickup apparatus 1 is not defective
  • FIG. 8 shows the partial W in FIG. 7 in detail.
  • .. 7 (A) shows the waveform of the synchronization signal Vsync
  • (B) to (E) show the image data DB0 to DB3 input to the processing units 31A to 31D of the image processing unit 30, and
  • FIG. 7F shows the diagnosis.
  • the image data DBs input to the processing unit 42 of the unit 40 are shown, (G) to (J) indicate the image data DC0 to DC3 generated by the processing units 31A to 31D, respectively, and (K) is output from the selector 43.
  • the image data DC is shown
  • (L) shows the image data DS generated by the processing unit 42
  • (M) shows the waveform of the error signal ERR output from the image pickup apparatus 1.
  • 8 (A) shows the selection control signal SEL
  • FIGS. 8 (B) to 8 (M) are the same as those of FIGS. 7 (B) to 7 (M).
  • the portion indicated by the thick line indicates the image data supplied to the processing unit 42.
  • the portion shown by the thick line indicates the image data supplied to the comparison unit 44.
  • the error signal ERR is a signal that is low level when there is no defect in the image pickup apparatus 1 and is high level when there is a defect in the image pickup apparatus 1.
  • the error signal ERR is not limited to this, and is, for example, a signal having a high level when there is no problem with the image pickup device 1 and a low level when there is a problem with the image pickup device 1. There may be.
  • four processing units 31A to 31D (channels CH0 to CH3) generate image data DC0 to DC3 by performing image processing based on the image data DB0 to DB3.
  • the diagnostic processing unit 45 sequentially selects one of these four processing units 31A to 31D in a time-division manner, and the selector 41 selects the image data DB input to the selected processing unit 31 in the diagnostic unit. It is supplied to the processing unit 42 (channel CH4) of 40.
  • the processing unit 42 generates an image data DS by performing image processing based on the image data DB supplied from the selector 41.
  • the selector 43 supplies the image data DC generated by the selected processing unit 31 to the comparison unit 44.
  • the comparison unit 44 compares the image data DS supplied from the processing unit 42 with the image data DC supplied from the selector 43. Then, the diagnostic processing unit 45 detects a defect in the image processing unit 30 based on the comparison result in the comparison unit 44. This operation will be described in detail below.
  • the frame period F starts when a pulse is generated in the synchronization signal Vsync at the timing t1 (FIG. 7 (A)).
  • the processing unit 31A channel CH0
  • the processing unit 31A performs image processing based on the image data DB0 (line image data DB_R0, DB_R2, DB_R4, DB_R6, ...)
  • Image data DC0 line image data DC_R0, DC_R2, DC_R4, DC_R6, ...) Is generated (FIGS. 8B and 8G).
  • the processing unit 31B (channel CH1) performs image processing based on the image data DB1 (line image data DB_Gr0, DB_Gr2, DB_Gr4, DB_Gr6, ...) In this frame period F, so that the image data DC1 (line image data DC_Gr0) , DC_Gr2, DC_Gr4, DC_Gr6, (7) (FIGS. 8 (C), 8 (H)).
  • the processing unit 31C (channel CH2) performs image processing based on the image data DB2 (line image data DB_Gb1, DB_Gb3, DB_Gb5, DB_Gb7, ...) In this frame period F, so that the image data DC2 (line image data DC_Gb1) , DC_Gb3, DC_Gb5, DC_Gb7, ...) (FIGS. 8 (D), (I)).
  • the processing unit 31D performs image processing based on the image data DB3 (line image data DB_B1, DB_B3, DB_B5, DB_B7, ...) In this frame period F, so that the image data DC3 (line image data DC_B1) , DC_B3, DC_B5, DC_B7, ...) (FIGS. 8 (E), 8 (J)).
  • the diagnostic unit 40 sequentially performs diagnostic processing on the four processing units 31A to 31D during the period T.
  • the diagnostic processing unit 45 selects the processing unit 31A (channel CH0) and generates a selection control signal SEL according to the selection result (FIG. 8A).
  • the selector 41 selects the image data DB0 related to the channel CH0 based on the selection control signal SEL (FIGS. 7B and 8B).
  • the line image data DB_R0 included in the image data DB0 is supplied to the processing unit 42 (channel CH4) (FIGS. 7 (F) and 8 (F)).
  • the processing unit 42 generates the line image data DC_R0 by performing a predetermined process based on the line image data DB_R0 (FIG. 8 (L)).
  • the line image data DC_R0 is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC0 related to the channel CH0 based on the selection control signal SEL (FIGS. 7 (G) and 8 (G)).
  • the line image data DC_R0 included in the image data DC0 is supplied to the comparison unit 44 (FIGS. 7 (K) and 8 (K)).
  • the comparison unit 44 compares the line image data DC_R0 supplied from the processing unit 42 with the line image data DC_R0 supplied from the selector 43.
  • the line image data DC_R0 coincide with each other (FIGS. 8 (K) and 8 (L)). )). Therefore, the comparison unit 44 determines that the processing unit 31A (channel CH0) and the processing unit 42 (channel CH4) are not defective.
  • the diagnosis result collecting unit 26 maintains the error signal ERR at a low level (FIGS. 7 (M) and 8 (M)).
  • the diagnostic processing unit 45 selects the processing unit 31B (channel CH1) and generates a selection control signal SEL according to the selection result (FIG. 8A).
  • the selector 41 selects the image data DB1 related to the channel CH1 based on the selection control signal SEL (FIGS. 7 (C) and 8 (C)).
  • the line image data DB_Gr2 included in the image data DB1 is supplied to the processing unit 42 (channel CH4) (FIGS. 7 (F) and 8 (F)).
  • the processing unit 42 generates the line image data DC_Gr2 by performing a predetermined process based on the line image data DB_Gr2 (FIG. 8 (L)).
  • the line image data DC_Gr2 is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC1 related to the channel CH1 based on the selection control signal SEL (FIGS. 7 (H) and 8 (H)).
  • the line image data DC_Gr2 included in the image data DC1 is supplied to the comparison unit 44 (FIGS. 7 (K) and 8 (K)).
  • the comparison unit 44 compares the line image data DC_Gr2 supplied from the processing unit 42 with the line image data DC_Gr2 supplied from the selector 43.
  • the line image data DC_Gr2 coincide with each other (FIGS. 8 (K) and 8 (L)). )). Therefore, the comparison unit 44 determines that no problem has occurred in the processing unit 31B (channel CH1) and the processing unit 42 (channel CH4). As a result, the diagnosis result collecting unit 26 maintains the error signal ERR at a low level (FIGS. 7 (M) and 8 (M)).
  • the diagnostic processing unit 45 selects the processing unit 31C (channel CH2) and generates a selection control signal SEL according to the selection result (FIG. 8 (A)).
  • the selector 41 selects the image data DB2 related to the channel CH2 based on the selection control signal SEL (FIGS. 7 (D) and 8 (D)).
  • the line image data DB_Gb5 included in the image data DB 2 is supplied to the processing unit 42 (channel CH4) (FIGS. 7 (F) and 8 (F)).
  • the processing unit 42 generates the line image data DC_Gb5 by performing a predetermined process based on the line image data DB_Gb5 (FIG. 8 (L)).
  • the line image data DC_Gb5 is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC2 related to the channel CH2 based on the selection control signal SEL (FIGS. 7 (I) and 8 (I)).
  • the line image data DC_Gb5 included in the image data DC2 is supplied to the comparison unit 44 (FIGS. 7 (K) and 8 (K)).
  • the comparison unit 44 compares the line image data DC_Gb5 supplied from the processing unit 42 with the line image data DC_Gb5 supplied from the selector 43.
  • these line image data DC_Gb5 match each other (FIGS. 8 (K) and 8 (L)). )). Therefore, the comparison unit 44 determines that the processing unit 31C (channel CH2) and the processing unit 42 (channel CH4) are not defective.
  • the diagnosis result collecting unit 26 maintains the error signal ERR at a low level (FIGS. 7 (M) and 8 (M)).
  • the diagnostic processing unit 45 selects the processing unit 31D (channel CH3) and generates a selection control signal SEL according to the selection result (FIG. 8 (A)).
  • the selector 41 selects the image data DB 3 related to the channel CH 3 based on the selection control signal SEL (FIGS. 7 (E) and 8 (E)).
  • the line image data DB_B7 included in the image data DB 3 is supplied to the processing unit 42 (channel CH4) (FIGS. 7 (F) and 8 (F)).
  • the processing unit 42 generates the line image data DC_B7 by performing a predetermined process based on the line image data DB_B7 (FIG. 8 (L)).
  • the line image data DC_B7 is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC3 related to the channel CH3 based on the selection control signal SEL (FIGS. 7 (J) and 8 (J)).
  • the line image data DC_B7 included in the image data DC3 is supplied to the comparison unit 44 (FIGS. 7 (K) and 8 (K)).
  • the comparison unit 44 compares the line image data DC_B7 supplied from the processing unit 42 with the line image data DC_B7 supplied from the selector 43.
  • the line image data DC_B7 coincide with each other (FIGS. 8 (K) and 8 (L)). )). Therefore, the comparison unit 44 determines that the processing unit 31D (channel CH3) and the processing unit 42 (channel CH4) are not defective.
  • the diagnosis result collecting unit 26 maintains the error signal ERR at a low level (FIGS. 7 (M) and 8 (M)).
  • the diagnostic unit 40 sequentially performs diagnostic processing once for each of the four processing units 31A to 31D in the unit of line image data during the period T. Then, the diagnosis unit 40 repeats this process with the period T as a cycle. As a result, the diagnostic unit 40 repeatedly performs the diagnostic process on the four processing units 31A to 31D by selecting to go around the four processing units 31A to 31D in the frame period F.
  • FIG. 9 shows an operation example of the image processing unit 30 and the diagnosis unit 40 when the processing unit 31B (channel CH1) of the image processing unit 30 has a problem.
  • portion W1 indicates a portion of image data that is different from the desired image data.
  • the processing unit 31B (channel CH1) has a problem. Therefore, after this timing t21, the image data DC1 generated by the processing unit 31B is different from the desired image data (FIG. 9 (H)).
  • the diagnostic unit 40 repeatedly performs diagnostic processing on the four processing units 31A to 31D by selecting to go around the four processing units 31A to 31D. Then, at the timing t22, the diagnostic processing unit 45 selects the processing unit 31B (channel CH1) and generates a selection control signal SEL according to the selection result.
  • the selector 41 selects the image data DB1 related to the channel CH1 based on the selection control signal SEL (FIG. 9C).
  • the line image data included in the image data DB 1 is supplied to the processing unit 42 (channel CH4) (FIG. 9 (F)).
  • the processing unit 42 generates line image data by performing predetermined processing based on the line image data (FIG. 9 (L)). Then, this line image data is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC1 related to the channel CH1 based on the selection control signal SEL (FIG. 9 (H)).
  • the line image data included in the image data DC1 is supplied to the comparison unit 44 (FIG. 9 (K)).
  • the comparison unit 44 compares the line image data (FIG. 9 (L)) supplied from the processing unit 42 with the line image data (FIG. 9 (K)) supplied from the selector 43.
  • the processing unit 31B channel CH1
  • the line image data supplied from the processing unit 42 and the line image data supplied from the selector 43 match each other. do not do.
  • the diagnostic processing unit 45 supplies the diagnostic data INF3 including the comparison result to the diagnostic result collecting unit 26. As a result, the diagnosis result collecting unit 26 changes the error signal ERR from a low level to a high level (FIG. 9 (M)).
  • the diagnostic processing unit 45 continues to perform diagnostic processing on the four processing units 31A to 31D. Then, the diagnostic processing unit 45 performs diagnostic processing once for each of the four processing units 31A to 31D during the period from timing t22 to t23, and based on the result, the processing units 31A to 31D, 42 (channel CH0 to) Diagnose which processing unit of CH4) has a problem.
  • the comparison result shows "mismatch” only when the processing unit 31B (channel CH1) is selected, when the processing unit 31C (channel CH2) is selected, and when the processing unit 31D (channel CH3) is selected. And when the processing unit 31A (channel CH0) is selected, the comparison result shows “match”. Therefore, the diagnostic processing unit 45 diagnoses that the processing unit 31B has a problem. Then, the diagnostic processing unit 45 supplies the diagnostic data INF3 including the diagnostic result to the diagnostic result collecting unit 26.
  • the image processing unit 30 since the processing unit 31B (channel CH1) has a problem, the image processing unit 30 outputs image data different from the desired image data. As a result, the image pickup apparatus 1 transmits image data different from the desired transmission data to the host apparatus 100 (not shown). Further, the diagnosis processing unit 45 notifies the diagnosis result collection unit 26 that a problem has occurred in the processing unit 31B (channel CH1), and the diagnosis result collection unit 26 activates the error signal ERR.
  • FIG. 10 shows an operation example of the image processing unit 30 and the diagnosis unit 40 when a problem occurs in the processing unit 42 (channel CH4) of the diagnosis unit 40.
  • the portion W2 indicates a portion of the image data different from the desired image data.
  • a problem occurs in the processing unit 42 (channel CH4). Therefore, after this timing t26, the image data DS generated by the processing unit 42 is different from the desired image data (FIG. 10 (L)).
  • the diagnostic unit 40 repeatedly performs diagnostic processing on the four processing units 31A to 31D by selecting to go around the four processing units 31A to 31D.
  • the diagnostic processing unit 45 selects the processing unit 31D (channel CH3) and generates a selection control signal SEL according to the selection result.
  • the selector 41 selects the image data DB 3 related to the channel CH 3 based on the selection control signal SEL (FIG. 10 (E)).
  • the line image data included in the image data DB 3 is supplied to the processing unit 42 (channel CH4) (FIG. 10 (F)).
  • the processing unit 42 generates line image data by performing predetermined processing based on the line image data (FIG. 10 (L)). Then, this line image data is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC3 related to the channel CH3 based on the selection control signal SEL (FIG. 10 (J)).
  • the line image data included in the image data DC3 is supplied to the comparison unit 44 (FIG. 10 (K)).
  • the comparison unit 44 compares the line image data (FIG. 10 (L)) supplied from the processing unit 42 with the line image data (FIG. 10 (K)) supplied from the selector 43.
  • the processing unit 42 (channel CH4) of the diagnosis unit 40 since the processing unit 42 (channel CH4) of the diagnosis unit 40 has a problem after the timing t26, the line image data supplied from the processing unit 42 and the line image data supplied from the selector 43 are used. Do not match each other.
  • the diagnostic processing unit 45 supplies the diagnostic data INF3 including the comparison result to the diagnostic result collecting unit 26. As a result, the diagnosis result collecting unit 26 changes the error signal ERR from a low level to a high level (FIG. 10 (M)).
  • the diagnostic processing unit 45 continues to perform diagnostic processing on the four processing units 31A to 31D. Then, the diagnostic processing unit 45 performs diagnostic processing once for each of the four processing units 31A to 31D during the period from timing t26 to t27, and based on the result, the processing units 31A to 31D, 42 (channels CH0 to 42). Diagnose which processing unit of CH4) has a problem. In this example, the comparison result shows "mismatch" regardless of which of the processing units 31A to 31D (channels CH0 to CH3) is selected. Therefore, the diagnostic processing unit 45 diagnoses that the processing unit 42 of the diagnostic unit 40 has a problem. Then, the diagnostic processing unit 45 supplies the diagnostic data INF3 including the diagnostic result to the diagnostic result collecting unit 26.
  • the processing unit 42 (channel CH4) has a problem, but the processing units 31A to 31D (channels CH0 to CH3) have no problem. Therefore, the image processing unit 30 inputs the desired image data. Output. As a result, the image pickup apparatus 1 transmits the desired transmission data to the host apparatus 100 (not shown). Further, the diagnosis processing unit 45 notifies the diagnosis result collection unit 26 that a problem has occurred in the processing unit 42 (channel CH3), and the diagnosis result collection unit 26 activates the error signal ERR.
  • a processing unit 42 having the same circuit configuration as each of the four processing units 31 of the image processing unit 30 is provided, and the diagnostic processing unit 45 is one of the four processing units 31A to 31D.
  • the selector 41 supplies the image data DB input to the selected processing unit 31 to the processing unit 42.
  • the comparison unit 44 compares the image data DC generated by the selected processing unit 31 with the image data DS generated by the processing unit 42, and the diagnosis processing unit 45 bases on the comparison result of the comparison unit 44.
  • the image processing unit 30 is diagnosed.
  • the image pickup apparatus 1 can perform diagnostic processing during the period (so-called runtime) during which the image pickup operation (normal operation) is performed.
  • diagnostic processing is performed using the diagnostic data, for example. May not be able to make a sufficient diagnosis because the time for performing the diagnostic process is limited. Further, it is desired that the diagnostic data have a data pattern with high accuracy for detecting defects, and it is necessary to provide a generation circuit for generating such diagnostic data.
  • the diagnostic processing can be performed in parallel with the normal image processing during the period of performing the imaging operation, it is possible to secure the time for performing the diagnostic processing. Further, the diagnostic processing can be performed using the actual image data obtained by the imaging operation, and it is not necessary to provide a generation circuit for generating diagnostic data. In this way, the image pickup apparatus 1 can secure the time for performing the diagnostic process, and the diagnostic imaging process can be performed using the actual image data. Therefore, the image pickup apparatus 1 can improve the diagnostic accuracy. Can be done.
  • the processing unit 42 having the same circuit configuration as each of the four processing units 31 is provided, the diagnostic processing unit selects one of the four processing units 31, and the selector 41 Is supplied to the processing unit 42 with the image data input to the selected processing unit 31. Then, the comparison unit compares the image data generated by the selected processing unit 31 with the image data generated by the processing unit 42, and the diagnosis processing unit diagnoses the image processing unit based on the comparison result of the comparison unit. I tried to do it. As a result, the image pickup apparatus can perform diagnostic processing during the period during which the image pickup operation (normal operation) is performed.
  • the four processing units 31 are sequentially selected in a time-division manner with the line image data as a unit, but the present invention is not limited to this. Instead of this, for example, four processing units 31 may be sequentially selected in a time-division manner in units of a plurality of line image data, or in units of image data less than one line of image data, 4 One processing unit 31 may be sequentially selected in a time-division manner.
  • the image processing unit 30 is provided with four processing units 31, but the present invention is not limited to this. Instead of this, for example, a plurality of processing units 31 of 3 or less may be provided, or 5 or more processing units 31 may be provided.
  • the diagnostic processing unit 45 is based on the result of performing diagnostic processing once for each of the four processing units 31A to 31D during the period from timing t22 to t23. Therefore, it is attempted to diagnose which of the processing units 31A to 31D and 42 (channels CH0 to CH4) has a problem, but the present invention is not limited to this. For example, after timing t22, the comparison result when the diagnostic processing is performed on the processing unit 31B shows "mismatch", and then the comparison result when the diagnostic processing is performed on the processing unit 31C is "matched". When "" is indicated, it may be diagnosed that a problem has occurred in the processing unit 31B.
  • the diagnostic processing unit 45 performs diagnostic processing once for each of the four processing units 31A to 31D during the period from timing t26 to t27. Based on the above, it is attempted to diagnose which of the processing units 31A to 31D and 42 (channels CH0 to CH4) has a problem, but the present invention is not limited to this. For example, after timing t26, the comparison result when the diagnostic processing is performed on the processing unit 31D shows "mismatch", and then the comparison result when the diagnostic processing is performed on the processing unit 31A is "mismatch". When "" is indicated, it may be diagnosed that a problem has occurred in the processing unit 42.
  • the image pickup apparatus 2 when a defect occurs in any one of the four processing units 31 in the image processing apparatus, the processing unit 42 of the diagnostic unit is used instead of the processing unit 31 in which the defect has occurred. It is configured to perform image processing.
  • the components substantially the same as those of the image pickup apparatus 1 according to the first embodiment are designated by the same reference numerals, and the description thereof will be omitted as appropriate.
  • the image pickup apparatus 2 includes an image processing unit 50 and a diagnosis unit 60.
  • the image processing unit 50 is configured to generate image data DTD by performing predetermined image processing based on the image data DTB supplied from the sensor interface 21.
  • the diagnostic unit 60 is configured to detect a defect in the image processing unit 50 by performing diagnostic processing on the image processing unit 50.
  • FIG. 11 shows a configuration example of the image processing unit 50 and the diagnosis unit 60.
  • the image data DTD generated by the image processing unit 50 includes four image data DDs (image data DD0 to DD3).
  • the image processing unit 50 has a replacement unit 51.
  • the replacement unit 51 replaces one of the four image data DC0 to DC3 generated by the four processing units 31A to 31D with the image data DS generated by the processing unit 42 based on the control signal CTL. It is configured to generate four image data DD0 to DD3.
  • the replacement unit 51 has four selectors 52 (selectors 52A, 52B, 52C, 52D).
  • the selector 52A is configured to select one of the image data DC0 and the image data DS based on the control signal CTLA included in the control signal CTL, and output the selected image data as the image data DD0.
  • the selector 52B is configured to select one of the image data DC1 and the image data DS based on the control signal CTLB included in the control signal CTL, and output the selected image data as the image data DD1.
  • the selector 52C is configured to select one of the image data DC2 and the image data DS based on the control signal CTLC included in the control signal CTL, and output the selected image data as the image data DD2.
  • the selector 52D is configured to select one of the image data DC3 and the image data DS based on the control signal CTLD included in the control signal CTL, and output the selected image data as the image data DD3.
  • the replacement unit 51 generates four image data DD0 to DD3 by selecting the image data DS by any one of the four selectors 52 based on the control signal CTL. There is.
  • the diagnostic unit 60 has a diagnostic processing unit 65.
  • the diagnostic processing unit 65 is configured to control the diagnostic processing for the image processing unit 50.
  • the diagnostic processing unit 65 is any of the plurality of processing units 31A to 31D (channels CH0 to CH3) in the image processing unit 50, similarly to the diagnostic processing unit 45 according to the first embodiment. Generates a selection control signal SEL instructing to select one or the other. Then, the diagnostic processing unit 65 includes a comparison result of the comparison unit 44 when the processing unit 31A (channel CH0) is selected, a comparison result of the comparison unit 44 when the processing unit 31B (channel CH1) is selected, and a processing unit.
  • the processing units 31A to 31D, 42 Diagnose which processing unit of channels CH0 to CH4 has a problem. Then, the diagnosis processing unit 65 notifies the diagnosis result collection unit 26 of the diagnosis data INF3 indicating the diagnosis result of the image processing unit 50. Further, when a defect has occurred in any of the processing units 31A to 31D (channels CH0 to CH3), the diagnostic processing unit 65 uses the image data DC generated by the processing unit 31 in which the defect has occurred. The control signal CTL instructing the replacement with the image data DS generated by the processing unit 42 is generated.
  • the replacement unit 51 corresponds to a specific example of the "replacement unit” in the present disclosure.
  • the image data DD0 to DD3 correspond to a specific example of the "plurality of fourth signals" in the present disclosure.
  • FIG. 12 shows an operation example of the image processing unit 50 and the diagnosis unit 60 when the processing unit 31B (channel CH1) of the image processing unit 50 has a problem.
  • the portion W3 indicates a portion of the image data that is different from the desired image data.
  • the processing unit 31B (channel CH1) has a problem after the timing t33. Therefore, after this timing t33, the image data DC1 generated by the processing unit 31B is different from the desired image data (FIG. 12 (H)).
  • the image processing unit 50 starts to generate the image data DD0 to DD3 based on the image data DB0 to DB3 (FIGS. 12 (B) to (E), G)-(J), (N)-(Q)).
  • FIG. 13 shows the operating state of the image processing unit 50 and the diagnosis unit 60.
  • the thick line shows the path of the image data.
  • the processing unit 31A channel CH0
  • the processing unit 31B channel CH1
  • the selector 52A selects the image data DC0 based on the control signal CTLA
  • this image data DC0 is output as image data DD0.
  • the processing unit 31B channel CH1
  • the selector 52B selects the image data DC1 based on the control signal CTLB, and this image.
  • the data DC1 is output as the image data DD1.
  • the processing unit 31C (channel CH2) generates the image data DC2 by performing image processing based on the image data DB2, and the selector 52C selects the image data DC2 based on the control signal CTLC and selects the image data DC2. Output as image data DD2.
  • the processing unit 31D (channel CH3) generates the image data DC3 by performing image processing based on the image data DB3, and the selector 52D selects the image data DC3 based on the control signal CTLD and selects the image data DC3. It is output as image data DD3.
  • the diagnostic unit 60 repeats the diagnostic process for the four processing units 31A to 31D by selecting to patrol the four processing units 31A to 31D. (FIGS. 12 (B) to (M)).
  • a problem occurs in the processing unit 31B (channel CH1).
  • the image data DC1 generated by the processing unit 31B is different from the desired image data.
  • the diagnostic processing unit 65 selects the processing unit 31B (channel CH1) and generates a selection control signal SEL according to the selection result.
  • the selector 41 selects the image data DB1 related to the channel CH1 based on the selection control signal SEL (FIG. 12 (C)).
  • the line image data included in the image data DB 1 is supplied to the processing unit 42 (channel CH4) (FIG. 12 (F)).
  • the processing unit 42 generates line image data by performing predetermined processing based on the line image data (FIG. 12 (L)). Then, this line image data is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC1 related to the channel CH1 based on the selection control signal SEL (FIG. 12 (H)).
  • the line image data included in the image data DC1 is supplied to the comparison unit 44 (FIG. 12 (K)).
  • the comparison unit 44 compares the line image data (FIG. 12 (L)) supplied from the processing unit 42 with the line image data (FIG. 12 (K)) supplied from the selector 43.
  • the processing unit 31B channel CH1
  • the line image data supplied from the processing unit 42 and the line image data supplied from the selector 43 match each other. do not do.
  • the diagnostic processing unit 65 supplies the diagnostic data INF3 including the comparison result to the diagnostic result collecting unit 26. As a result, the diagnosis result collecting unit 26 changes the error signal ERR from a low level to a high level (FIG. 12 (M)).
  • the diagnostic processing unit 65 performs diagnostic processing once for each of the four processing units 31A to 31D during the period from timing t34 to t35, and based on the result, the processing units 31A to 31D, 42 (channel CH0 to) Diagnose which processing unit of CH4) has a problem.
  • the comparison result shows "mismatch" only when the processing unit 31B (channel CH1) is selected, and when the processing unit 31C (channel CH2) is selected, the processing unit 31D (channel CH3) and the processing unit 31A When (Channel CH0) is selected, the comparison result shows "match". Therefore, the diagnostic processing unit 65 diagnoses that the processing unit 31B has a problem. Then, the diagnostic processing unit 65 supplies the diagnostic data INF3 including the diagnostic result to the diagnostic result collecting unit 26.
  • the diagnostic processing unit 65 selects the processing unit 31B (channel CH1) in which the problem occurs, and generates a selection control signal SEL according to the selection result. Further, the diagnostic processing unit 65 generates a control signal CTL instructing to replace the image data DC generated by the defective processing unit 31B (channel CH1) with the image data DS generated by the processing unit 42.
  • FIG. 14 shows the operating state of the image processing unit 50 and the diagnosis unit 60.
  • the thick line shows the path of the image data.
  • the selector 41 selects the image data DB1 input to the processing unit 31B (channel CH1) based on the selection control signal SEL, and supplies the image data DB1 to the processing unit 42 (channel CH4). ..
  • the processing unit 42 generates image data DS (image data DC1) by performing image processing based on the image data DB1.
  • the selector 52B of the replacement unit 51 selects the image data DS based on the control signal CTL, and outputs the image data DS as the image data DD1.
  • the replacement unit 51 uses the image data DC1 of the four image data DC0 to DC3 generated by the four processing units 31A to 31D as the image data generated by the processing unit 42 based on the control signal CTL.
  • DS image data DC1
  • four image data DD0 to DD3 are generated.
  • the image processing unit 50 outputs desired image data after the timing t35 even if a problem occurs in the processing unit 31B (channel CH1). As a result, the image pickup apparatus 1 transmits the desired transmission data to the host apparatus 100 (not shown). Further, the diagnosis processing unit 65 notifies the diagnosis result collection unit 26 that a problem has occurred in the processing unit 31B (channel CH1), and the diagnosis result collection unit 26 activates the error signal ERR.
  • FIG. 15 shows an operation example of the image processing unit 50 and the diagnosis unit 60 when a problem occurs in the processing unit 42 (channel CH4) of the diagnosis unit 60.
  • the portion W4 indicates a portion of the image data different from the desired image data.
  • the processing unit 42 (channel CH4) has a problem after the timing t36. Therefore, after this timing t36, the image data DS generated by the processing unit 42 is different from the desired image data (FIG. 15 (L)).
  • the diagnostic unit 60 repeatedly performs diagnostic processing on the four processing units 31A to 31D by selecting to go around the four processing units 31A to 31D.
  • the diagnostic processing unit 65 selects the processing unit 31D (channel CH3) and generates a selection control signal SEL according to the selection result.
  • the selector 41 selects the image data DB 3 related to the channel CH 3 based on the selection control signal SEL (FIG. 15 (E)).
  • the line image data included in the image data DB 3 is supplied to the processing unit 42 (channel CH4) (FIG. 15 (F)).
  • the processing unit 42 generates line image data by performing predetermined processing based on the line image data (FIG. 15 (L)). Then, this line image data is supplied to the comparison unit 44.
  • the selector 43 selects the image data DC3 related to the channel CH3 based on the selection control signal SEL (FIG. 15 (J)).
  • the line image data included in the image data DC3 is supplied to the comparison unit 44 (FIG. 15 (K)).
  • the comparison unit 44 compares the line image data (FIG. 15 (L)) supplied from the processing unit 42 with the line image data (FIG. 15 (K)) supplied from the selector 43.
  • the processing unit 42 (channel CH4) of the diagnosis unit 60 since the processing unit 42 (channel CH4) of the diagnosis unit 60 has a problem after the timing t36, the line image data supplied from the processing unit 42 and the line image data supplied from the selector 43 are used. Do not match each other.
  • the diagnostic processing unit 65 supplies the diagnostic data INF3 including the comparison result to the diagnostic result collecting unit 26. As a result, the diagnosis result collecting unit 26 changes the error signal ERR from a low level to a high level (FIG. 15 (M)).
  • the diagnostic processing unit 65 continues to perform diagnostic processing on the four processing units 31A to 31D. Then, the diagnostic processing unit 65 performs diagnostic processing once for each of the four processing units 31A to 31D during the period from timing t36 to t37, and based on the result, the processing units 31A to 31D and 42 (channels CH0 to 42). Diagnose which processing unit of CH4) has a problem. In this example, the comparison result shows "mismatch" regardless of which of the processing units 31A to 31D (channels CH1 to CH4) is selected. Therefore, the diagnostic processing unit 65 diagnoses that the processing unit 42 of the diagnostic unit 60 has a problem. Then, the diagnostic processing unit 65 supplies the diagnostic data INF3 including the diagnostic result to the diagnostic result collecting unit 26.
  • the processing unit 42 (channel CH4) has a problem, but the processing units 31A to 31D (channels CH0 to CH3) have no problem. Therefore, the image processing unit 50 can input desired image data. Output. That is, as shown in FIG. 13, the processing unit 31A (channel CH0) generates the image data DC0 by performing image processing based on the image data DB0, and the selector 52A is the image data based on the control signal CTLA. DC0 is selected, and this image data DC0 is output as image data DD0. The same applies to the processing units 31B to 31D (channels CH0 to CH3) and the selectors 52B to 52D. As a result, the image pickup apparatus 2 transmits the desired transmission data to the host apparatus 100 (not shown). Further, the diagnosis processing unit 65 notifies the diagnosis result collection unit 26 that a problem has occurred in the processing unit 42 (channel CH3), and the diagnosis result collection unit 26 activates the error signal ERR.
  • the replacement unit 51 is provided, and the replacement unit 51 is among the four image data DC0 to DC3 generated by the four processing units 31A to 31D based on the comparison result in the comparison unit 44.
  • One is replaced with the image data DS generated by the processing unit 42.
  • the processing unit 42 supplies the image data to the processing unit 31 in which the defect has occurred.
  • the image data DS is generated based on the DB, and the replacement unit 51 can output the desired image data by replacing the image data DC output from the processing unit 31 in which the problem has occurred with this image data DS. ..
  • the desired image data can be output even when a problem occurs in the processing unit 31, so that a so-called fail operational configuration can be realized.
  • one of the four image data generated by the four processing units 31 is replaced with the image data generated by the processing unit 42 based on the comparison result in the comparison unit. Therefore, it is possible to output desired image data even when a problem occurs.
  • the diagnostic process is performed based on the actual image data obtained by the imaging operation, but the diagnostic process may be further performed based on the test data TS.
  • the imaging device 2A according to this modification will be described in detail below.
  • the image pickup device 2A has an image processing unit 50A and a diagnosis unit 60A, similarly to the image pickup device 2 (FIG. 1) according to the second embodiment.
  • FIG. 16 shows a configuration example of the image processing unit 50A and the diagnosis unit 60A.
  • the image data DTD generated by the image processing unit 50 includes four image data DDs (image data DD0 to DD3).
  • the image processing unit 50A has a replacement unit 51A.
  • the replacement unit 51A is one of the four image data DC0 to DC3 generated by the four processing units 31A to 31D based on the control signal CTL, similarly to the replacement unit 51 according to the second embodiment. Is replaced with the image data DS generated by the processing unit 42, so that four image data DD0 to DD3 are generated. Further, the replacement unit 51A can output the test data TS generated by the test data generation unit 62A (described later) as four image data DD0 to DD3, respectively, during the vertical blanking period, for example.
  • the diagnostic unit 60 has a test data generation unit 62A, a selector 63A, comparison units 67A and 68A, a logical sum circuit 69A, and a diagnostic processing unit 65A.
  • the test data generation unit 62A is configured to generate test data TS having a predetermined signal pattern, for example, during a vertical blanking period, based on an instruction from the diagnostic processing unit 65A.
  • the selector 63A selects and selects one of the image data DS supplied from the processing unit 42 (channel CH4) and the test data TS supplied from the test data generation unit 62A based on the selection control signal SEL2.
  • the data is configured to be supplied to the comparison unit 44 and the replacement unit 51A.
  • the selector 63A selects the image data DS supplied from the processing unit 42 (channel CH4) during the period in which the image data DTB is supplied from the sensor interface 21, and in the vertical blanking period. It is configured to select the test data TS supplied from the test data generation unit 62A.
  • the comparison unit 67A is configured to perform a comparison operation for comparing the image data DD0 and the image data DD2 with each other based on the control signal CTL2, for example, during the vertical blanking period.
  • the comparison unit 68A is configured to perform a comparison operation for comparing the image data DD1 and the image data DD3 with each other based on the control signal CTL2, for example, during the vertical blanking period.
  • the OR circuit 69A is configured to obtain the OR of the comparison results in the comparison units 44, 67A, 68A.
  • the comparison result in the comparison unit 44 is "1" in the case of “mismatch” and "0” in the case of "match”.
  • the OR circuit 69A outputs "0” when all the comparison results in the comparison units 44, 67A, 68A show “match”, and any one of the comparison results in the comparison units 44, 67A, 68A. When one or more indicates "mismatch", "1" is output.
  • the diagnostic processing unit 65A is configured to control the diagnostic processing for the image processing unit 50A.
  • the diagnostic processing unit 65A controls the diagnostic processing for the replacement unit 51A, for example, during the vertical blanking period. Specifically, the diagnostic processing unit 65A controls the operation of the test data generation unit 62A so that the test data generation unit 62A generates the test data TS during the vertical blanking period. Further, the diagnostic processing unit 65A generates a selection control signal SEL2 instructing the test data TS generated by the test data generation unit 62A to be selected during the vertical blanking period. Further, the diagnostic processing unit 65A generates a control signal CTL instructing the replacement unit 51A to output the test data TS as four image data DD0 to DD3, respectively, during the vertical blanking period.
  • the diagnostic processing unit 65A generates a control signal CTL2 instructing the comparison units 67A and 68A to perform the comparison operation during the vertical blanking period. Then, the diagnostic processing unit 65A detects whether or not a defect has occurred in the replacement unit 51A based on the output signal of the OR circuit 69A during the vertical blanking period.
  • test data generation unit 62A corresponds to a specific example of the "signal generation unit” in the present disclosure.
  • the comparison units 67A and 67B correspond to a specific example of the "second comparison unit” in the present disclosure.
  • FIG. 17 shows an operation example of the image processing unit 50A and the diagnosis unit 60A.
  • the image processing unit 50A At the timing t41, the frame period F starts, and at the timings t42 to t43, the image processing unit 50A generates the image data DD0 to DD3 based on the image data DB0 to DB3 (FIGS. 17B to 17E). , (G)-(J), (N)-(Q)).
  • the test data generation unit 62A generates the test data TS, and the selector 63A supplies the test data TS to the replacement unit 51.
  • the replacement unit 51A outputs the test data TS as four image data DD0 to DD3, respectively (FIGS. 17 (N) to (Q)).
  • the comparison unit 67A compares the image data DD0 and the image data DD2 with each other, and the comparison unit 68A compares the image data DD1 and the image data DD3 with each other.
  • the OR circuit 69A outputs "0".
  • the diagnosis result collecting unit 26 maintains the error signal ERR at a low level (FIG. 17 (M)).
  • the diagnostic processing unit 65A diagnoses that the replacement unit 51A has a problem. Then, the diagnostic processing unit 65A supplies the diagnostic data INF3 including the diagnostic result to the diagnostic result collecting unit 26.
  • a test data generation unit 62A and a comparison unit 67A, 68A are provided.
  • the replacement unit 51A generates a test data TS having a predetermined signal pattern generated by the test data generation unit 62A.
  • the image data are output as DD0 to DD3, respectively.
  • the comparison unit 67A compares the image data DD0 and the image data DD2 with each other
  • the comparison unit 68A compares the image data DD1 and the image data DD3 with each other.
  • the image pickup apparatus 2A can detect a defect of the replacement portion 51A.
  • the comparison unit 67A compares the image data DD0 and the image data DD2 with each other, and the comparison unit 68A compares the image data DD1 and the image data DD3 with each other, but the present invention is not limited to this.
  • the comparison unit 67A may compare the image data DD0 and the image data DD1 with each other, and the comparison unit 68A may compare the image data DD2 and the image data DD3 with each other.
  • comparison units 67A and 67B are provided, but the present invention is not limited to this. Instead of this, for example, one comparison unit may be provided, and this comparison unit may compare whether or not the four image data DD0 to DD3 match each other.
  • test data generation unit 62A generated one test data TS, but the present invention is not limited to this.
  • the test data generation unit generates two test data TSs (test data TS1 and TS2) that are different from each other, and the replacement unit 51A outputs the test data TS1 as image data DD0 and DD2, respectively, and tests.
  • Data TS2 may be output as image data DD1 and DD3, respectively.
  • Modification 2-2 Each modification of the first embodiment may be applied to the image pickup apparatus 2 according to the first embodiment.
  • FIG. 18 shows an example of using the imaging devices 1 and 2 according to the above embodiment.
  • the image pickup device 1 described above can be used in various cases for sensing light such as visible light, infrared light, ultraviolet light, and X-ray, as described below.
  • Devices that take images for viewing such as digital cameras and portable devices with camera functions.
  • Devices and user gestures used for traffic such as in-vehicle sensors that photograph the rear, surroundings, and interior of vehicles, surveillance cameras that monitor traveling vehicles and roads, and distance measurement sensors that measure distance between vehicles.
  • Devices and endoscopes used in home appliances such as televisions, refrigerators, and air conditioners, and devices that perform angiography by receiving infrared light in order to take pictures and operate the equipment according to the gesture.
  • Devices used for medical and healthcare surveillance cameras for crime prevention, cameras for person authentication, etc., devices used for security, skin measuring instruments for photographing skin, and scalp Devices used for beauty such as microscopes for taking pictures, action cameras and wearable cameras for sports applications, devices used for sports, cameras for monitoring the condition of fields and crops, etc.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure is realized as a device mounted on a moving body of any kind such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility, an airplane, a drone, a ship, and a robot. You may.
  • FIG. 19 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • the vehicle control system 12000 includes a plurality of electronic control units connected via the communication network 12001.
  • the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside information detection unit 12030, an in-vehicle information detection unit 12040, and an integrated control unit 12050.
  • a microcomputer 12051, an audio image output unit 12052, and an in-vehicle network I / F (interface) 12053 are shown as a functional configuration of the integrated control unit 12050.
  • the drive system control unit 12010 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 12010 provides a driving force generator for generating the driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism for adjusting and a braking device for generating a braking force of a vehicle.
  • the body system control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as headlamps, back lamps, brake lamps, blinkers or fog lamps.
  • the body system control unit 12020 may be input with radio waves transmitted from a portable device that substitutes for the key or signals of various switches.
  • the body system control unit 12020 receives inputs of these radio waves or signals and controls a vehicle door lock device, a power window device, a lamp, and the like.
  • the vehicle outside information detection unit 12030 detects information outside the vehicle equipped with the vehicle control system 12000.
  • the image pickup unit 12031 is connected to the vehicle exterior information detection unit 12030.
  • the vehicle outside information detection unit 12030 causes the image pickup unit 12031 to capture an image of the outside of the vehicle and receives the captured image.
  • the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as a person, a vehicle, an obstacle, a sign, or a character on the road surface based on the received image.
  • the image pickup unit 12031 is an optical sensor that receives light and outputs an electric signal according to the amount of the light received.
  • the imaging unit 12031 can output an electric signal as an image or can output it as distance measurement information. Further, the light received by the imaging unit 12031 may be visible light or invisible light such as infrared light.
  • the in-vehicle information detection unit 12040 detects the in-vehicle information.
  • a driver state detection unit 12041 that detects the driver's state is connected to the in-vehicle information detection unit 12040.
  • the driver state detection unit 12041 includes, for example, a camera that images the driver, and the in-vehicle information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver is dozing.
  • the microcomputer 12051 calculates the control target value of the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and the drive system control unit.
  • a control command can be output to 12010.
  • the microcomputer 12051 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, vehicle lane deviation warning, and the like. It is possible to perform cooperative control for the purpose of.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 12051 controls the driving force generating device, the steering mechanism, the braking device, and the like based on the information around the vehicle acquired by the outside information detection unit 12030 or the inside information detection unit 12040, so that the driver can control the driver. It is possible to perform coordinated control for the purpose of automatic driving that runs autonomously without depending on the operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the vehicle exterior information detection unit 12030.
  • the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the external information detection unit 12030, and performs cooperative control for the purpose of antiglare such as switching the high beam to the low beam. It can be carried out.
  • the audio image output unit 12052 transmits the output signal of at least one of the audio and the image to the output device capable of visually or audibly notifying the passenger or the outside of the vehicle of the information.
  • an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are exemplified as output devices.
  • the display unit 12062 may include, for example, at least one of an onboard display and a heads-up display.
  • FIG. 20 is a diagram showing an example of the installation position of the imaging unit 12031.
  • the vehicle 12100 has imaging units 12101, 12102, 12103, 12104, 12105 as imaging units 12031.
  • the imaging units 12101, 12102, 12103, 12104, 12105 are provided at positions such as the front nose, side mirrors, rear bumpers, back doors, and the upper part of the windshield in the vehicle interior of the vehicle 12100, for example.
  • the imaging unit 12101 provided on the front nose and the imaging unit 12105 provided on the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 12100.
  • the imaging units 12102 and 12103 provided in the side mirrors mainly acquire images of the side of the vehicle 12100.
  • the imaging unit 12104 provided on the rear bumper or the back door mainly acquires an image of the rear of the vehicle 12100.
  • the images in front acquired by the imaging units 12101 and 12105 are mainly used for detecting a preceding vehicle or a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or the like.
  • FIG. 20 shows an example of the photographing range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
  • the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided on the side mirrors, respectively
  • the imaging range 12114 indicates the imaging range of the imaging units 12102 and 12103.
  • the imaging range of the imaging unit 12104 provided on the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 as viewed from above can be obtained.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the image pickup units 12101 to 12104 may be a stereo camera composed of a plurality of image pickup elements, or may be an image pickup element having pixels for phase difference detection.
  • the microcomputer 12051 has a distance to each three-dimensional object within the imaging range 12111 to 12114 based on the distance information obtained from the imaging units 12101 to 12104, and a temporal change of this distance (relative velocity with respect to the vehicle 12100).
  • a predetermined speed for example, 0 km / h or more.
  • the microcomputer 12051 can set an inter-vehicle distance to be secured in front of the preceding vehicle in advance, and can perform automatic braking control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like. In this way, it is possible to perform coordinated control for the purpose of automatic driving or the like in which the vehicle travels autonomously without depending on the operation of the driver.
  • the microcomputer 12051 converts three-dimensional object data related to a three-dimensional object into two-wheeled vehicles, ordinary vehicles, large vehicles, pedestrians, electric poles, and other three-dimensional objects based on the distance information obtained from the imaging units 12101 to 12104. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles that can be seen by the driver of the vehicle 12100 and obstacles that are difficult to see. Then, the microcomputer 12051 determines the collision risk indicating the risk of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, the microcomputer 12051 via the audio speaker 12061 or the display unit 12062. By outputting an alarm to the driver and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be provided.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not a pedestrian is present in the captured image of the imaging units 12101 to 12104.
  • pedestrian recognition includes, for example, a procedure for extracting feature points in an image captured by an imaging unit 12101 to 12104 as an infrared camera, and pattern matching processing for a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian. It is done by the procedure to determine.
  • the audio image output unit 12052 When the microcomputer 12051 determines that a pedestrian is present in the captured images of the imaging units 12101 to 12104 and recognizes the pedestrian, the audio image output unit 12052 outputs a square contour line for emphasizing the recognized pedestrian.
  • the display unit 12062 is controlled so as to superimpose and display. Further, the audio image output unit 12052 may control the display unit 12062 so as to display an icon or the like indicating a pedestrian at a desired position.
  • the above is an example of a vehicle control system to which the technology according to the present disclosure can be applied.
  • the technique according to the present disclosure can be applied to the imaging unit 12031 among the configurations described above.
  • the vehicle control system 12000 can detect a defect of the imaging unit 12031 with high accuracy.
  • the vehicle control system 12000 when a problem occurs in the vehicle collision avoidance or collision mitigation function, the follow-up running function based on the inter-vehicle distance, the vehicle speed maintenance running function, the vehicle collision warning function, the vehicle lane deviation warning function, etc.
  • the defect can be detected and the robustness of the system can be improved.
  • the pixel array 11 is configured by using four pixels PR, PGr, PGb, and PB, but the present invention is not limited to this.
  • a pixel array may be configured by using three pixels (red pixel PR, green pixel PG, and blue pixel PB).
  • this technology can have the following configuration. According to the present technology having the following configuration, diagnosis can be performed during normal operation.
  • a second signal is provided corresponding to a plurality of first signals, and each performs a predetermined process based on the corresponding first signal among the plurality of first signals.
  • a plurality of first processing units capable of generating
  • a control unit capable of selecting any one of the plurality of first processing units and generating a selection control signal according to the selection result, and a control unit.
  • a first selection unit capable of selecting the first signal supplied to the selected first processing unit among the plurality of first signals based on the selection control signal.
  • a second process capable of generating a third signal by performing the predetermined process based on the first signal selected by the first selection unit among the plurality of first signals.
  • a second selection unit capable of selecting the second signal generated by the selected first processing unit among the plurality of second signals based on the selection control signal.
  • a signal processing device including a first comparison unit capable of comparing the third signal with the second signal selected by the second selection unit among the plurality of second signals. .. (2) The signal processing according to (1), wherein the control unit can diagnose the plurality of first processing units and the second processing unit based on the comparison result in the first comparison unit. apparatus. (3) When one of the plurality of first processing units is selected, the control unit shows a mismatch in the comparison results in the first comparison unit, and the control unit other than the one processing unit.
  • the control unit may perform the case where the comparison results in the first comparison unit indicate a discrepancy.
  • the signal processing device according to (1) or (2) above which can be diagnosed as having a problem in the second processing unit.
  • a replacement unit capable of generating a plurality of fourth signals by replacing one of the plurality of second signals with the third signal based on the control signal is further provided.
  • the signal processing device wherein the control unit can generate the control signal based on the result of diagnosis.
  • the replacement unit is provided corresponding to the plurality of the first processing units, and each of the third signal and the plurality of first processing units is based on the control signal.
  • the signal processing apparatus which has a plurality of third selection units capable of selecting one of the second signals output from the corresponding first processing unit. (7) When one of the plurality of first processing units is selected, the control unit shows a mismatch in the comparison results in the first comparison unit, and the control unit other than the one processing unit.
  • the control unit may perform the case where the comparison results in the first comparison unit show disagreement.
  • the signal processing device can generate the control signal instructing the plurality of second signals to be output as the plurality of fourth signals. .. (9)
  • a signal generator capable of generating a fifth signal and Further provided with a second comparison unit capable of performing a comparison operation based on the plurality of fourth signals.
  • Each of the plurality of first processing units can perform the predetermined processing in the first period.
  • the replacement unit can output the fifth signal as two or more signals out of the plurality of fourth signals in a second period outside the period of the first period.
  • the signal processing device according to any one of (5) to (8) above, wherein the second comparison unit can compare the two or more signals with each other.
  • the signal processing device according to any one of (1) to (9) above, further comprising an output unit capable of outputting a signal according to the comparison result in the first comparison unit.
  • the predetermined process includes at least one of a gain adjustment process, a white balance adjustment process, a black level adjustment process, an HDR composition process, a noise removal process, and a pixel defect correction process (1) to (10). ).
  • the signal processing device according to any one of. (12)
  • Each of the plurality of first processing units provided corresponding to the plurality of first signals performs predetermined processing based on the corresponding first signal among the plurality of first signals. To generate a second signal by doing To select any one of the plurality of first processing units and generate a selection control signal according to the selection result.
  • the second processing unit To select the first signal to be supplied to the selected first processing unit from the plurality of first signals based on the selection control signal.
  • the second processing unit generates a third signal by performing the predetermined processing based on the selected first signal among the plurality of first signals.
  • a signal processing method comprising comparing the third signal with a selected second signal from the plurality of second signals.
  • An imaging unit capable of generating an image signal including a plurality of first signals by performing an imaging operation, and an imaging unit.
  • a second signal is generated by being provided corresponding to the plurality of first signals, and each performing a predetermined process based on the corresponding first signal among the plurality of first signals.
  • a control unit capable of selecting any one of the plurality of first processing units and generating a selection control signal according to the selection result, and a control unit.
  • a first selection unit capable of selecting the first signal supplied to the selected first processing unit among the plurality of first signals based on the selection control signal.
  • a second process capable of generating a third signal by performing the predetermined process based on the first signal selected by the first selection unit among the plurality of first signals.
  • Department and
  • a second selection unit capable of selecting the second signal generated by the selected first processing unit among the plurality of second signals based on the selection control signal.
  • An imaging device including a first comparison unit capable of comparing the third signal with the second signal selected by the second selection unit among the plurality of second signals.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

本開示の信号処理装置は、複数の第1の信号に対応して設けられ、それぞれが、複数の第1の信号のうちの対応する第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能な複数の第1の処理部と、選択制御信号を生成可能な制御部と、選択制御信号に基づいて、複数の第1の信号のうちの、選択された第1の処理部に供給される第1の信号を選択可能な第1の選択部と、第1の選択部により選択された第1の信号に基づいて、所定の処理を行うことにより第3の信号を生成可能な第2の処理部と、選択制御信号に基づいて、複数の第2の信号のうちの、選択された第1の処理部により生成された第2の信号を選択可能な第2の選択部と、第3の信号と、複数の第2の信号のうちの、第2の選択部により選択された第2の信号とを比較可能な第1の比較部とを備える。

Description

信号処理装置、信号処理方法、および撮像装置
 本開示は、信号処理を行う信号処理装置、そのような信号処理装置において用いられる信号処理方法、およびそのような信号処理装置を備えた撮像装置に関する。
 信号処理装置では、しばしば、複数の処理部を用いて、並列的に処理が行われる。例えば、特許文献1には、複数のパスを用いて並列的に処理を行う信号処理装置において、テストデータを用いて、複数のパスの故障検出を行う技術が開示されている。
特開2019-4361号公報
 複数の処理部を用いて並列的に処理を行うことができる信号処理装置では、通常動作時に、診断を行うことが望まれている。
 通常動作時に診断を行うことができる信号処理装置、信号処理方法、および撮像装置を提供することが望ましい。
 本開示の一実施の形態における信号処理装置は、複数の第1の処理部と、制御部と、第1の選択部と、第2の処理部と、第2の選択部と、第1の比較部とを備えている。複数の第1の処理部は、複数の第1の信号に対応して設けられ、それぞれが、複数の第1の信号のうちの対応する第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能に構成される。制御部は、複数の第1の処理部のうちのいずれか1つを選択可能であり、その選択結果に応じた選択制御信号を生成可能に構成される。第1の選択部は、選択制御信号に基づいて、複数の第1の信号のうちの、選択された第1の処理部に供給される第1の信号を選択可能に構成される。第2の処理部は、複数の第1の信号のうちの、第1の選択部により選択された第1の信号に基づいて、所定の処理を行うことにより第3の信号を生成可能に構成される。複数の第2の選択部は、選択制御信号に基づいて、複数の第2の信号のうちの、選択された第1の処理部により生成された第2の信号を選択可能に構成される。第1の比較部は、第3の信号と、複数の第2の信号のうちの、第2の選択部により選択された第2の信号とを比較可能に構成される。
 本開示の一実施の形態における信号処理方法は、複数の第1の信号に対応して設けられた複数の第1の処理部のそれぞれが、複数の第1の信号のうちの対応する第1の信号に基づいて所定の処理を行うことにより第2の信号を生成することと、複数の第1の処理部のうちのいずれか1つを選択し、その選択結果に応じた選択制御信号を生成することと、選択制御信号に基づいて、複数の第1の信号のうちの、選択された第1の処理部に供給される第1の信号を選択することと、第2の処理部が、複数の第1の信号のうちの選択された第1の信号に基づいて、所定の処理を行うことにより第3の信号を生成することと、選択制御信号に基づいて、複数の第2の信号のうちの、選択された第1の処理部により生成された第2の信号を選択することと、第3の信号と、複数の第2の信号のうちの選択された第2の信号とを比較することとを含む。
 本開示の一実施の形態における撮像装置は、撮像部と、複数の第1の処理部と、制御部と、第1の選択部と、第2の処理部と、第2の選択部と、第1の比較部とを備えている。撮像部は、撮像動作を行うことにより、複数の第1の信号を含む画像信号を生成可能に構成される。複数の第1の処理部は、複数の第1の信号に対応して設けられ、それぞれが、複数の第1の信号のうちの対応する第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能に構成される。制御部は、複数の第1の処理部のうちのいずれか1つを選択可能であり、その選択結果に応じた選択制御信号を生成可能に構成される。第1の選択部は、選択制御信号に基づいて、複数の第1の信号のうちの、選択された第1の処理部に供給される第1の信号を選択可能に構成される。第2の処理部は、複数の第1の信号のうちの、第1の選択部により選択された第1の信号に基づいて、所定の処理を行うことにより第3の信号を生成可能に構成される。複数の第2の選択部は、選択制御信号に基づいて、複数の第2の信号のうちの、選択された第1の処理部により生成された第2の信号を選択可能に構成される。第1の比較部は、第3の信号と、複数の第2の信号のうちの、第2の選択部により選択された第2の信号とを比較可能に構成される。
 本開示の一実施の形態における信号処理装置、信号処理方法、撮像装置では、複数の第1の処理部のそれぞれにおいて、複数の第1の信号のうちの対応する第1の信号に基づいて所定の処理が行われることにより第2の信号が生成される。また、複数の第1の処理部のうちのいずれか1つが選択され、その選択結果に応じた選択制御信号が生成される。そして、この選択制御信号に基づいて、複数の第1の信号のうちの、選択された第1の処理部に供給される第1の信号が選択される。第2の処理部において、複数の第1の信号のうちの選択された第1の信号に基づいて、所定の処理が行われることにより第3の信号が生成される。選択制御信号に基づいて、複数の第2の信号のうちの、選択された第1の処理部により生成された第2の信号が選択される。そして、第3の信号と、複数の第2の信号のうちの選択された第2の信号とが比較される。
本開示の一実施の形態に係る撮像装置の一構成例を表すブロック図である。 図1に示した画素アレイの一構成例を表す説明図である。 第1の実施の形態に係る画像処理部および診断部の一具体例を表すブロック図である。 図3に示した画像処理部に供給される画像データの一例を表す説明図である。 図3に示した画像処理部に供給される画像データの一例を表す他の説明図である。 図1に示した撮像装置から送信される送信データの伝送フォーマットの一例を表す説明図である。 図3に示した画像処理部および診断部の一動作例を表すタイミング波形図である。 図3に示した画像処理部および診断部の一動作例を表す他のタイミング波形図である。 図3に示した画像処理部および診断部の一動作例を表す他のタイミング波形図である。 図3に示した画像処理部および診断部の一動作例を表す他のタイミング波形図である。 第2の実施の形態に係る画像処理部および診断部の一具体例を表すブロック図である。 図11に示した画像処理部および診断部の一動作例を表すタイミング波形図である。 図11に示した画像処理部および診断部の動作状態の一例を表す説明図である。 図11に示した画像処理部および診断部の動作状態の他の例を表す説明図である。 図11に示した画像処理部および診断部の一動作例を表す他のタイミング波形図である。 第2の実施の形態の変形例に係る画像処理部および診断部の一具体例を表すブロック図である。 図16に示した画像処理部および診断部の一動作例を表すタイミング波形図である。 撮像装置の使用例を表す説明図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
 以下、本開示の実施の形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
2.第2の実施の形態
3.撮像装置の使用例
4.移動体への応用例
<1.第1の実施の形態>
[構成例]
 図1は、一実施の形態に係る信号処理装置を備えた撮像装置1の一構成例を表すものである。なお、本開示の実施の形態に係る信号処理方法および撮像装置は、本実施の形態により具現化されるので、併せて説明する。撮像装置1は、撮像部10と、センサインタフェース21と、診断部22と、画像処理部30と、診断部40と、送信データ生成部23と、診断部24と、送信部25と、診断結果収集部26と、レジスタ27と、通信部28とを備えている。
 撮像部10は、撮像動作を行うことにより、画像データDTAを生成するように構成される。撮像部10は、画素アレイ11と、AD変換部12と、診断部13とを有している。
 画素アレイ11は、マトリクス状に配置された複数の画素Pを有している。画素Pは、光電変換を行うフォトダイオードを含んで構成され、受光量に応じた画素電圧を生成するように構成される。
 図2は、画素アレイ11の一構成例を表すものである。複数の画素Pは、2行2列で配置された4つの画素Pを単位(単位U)として配置されている。単位Uは、4つの画素PR,PGr,PGb,PBを有している。画素PRは赤色の光を受光可能であり、画素PGr,PGbは緑色の光を受光可能であり、画素PBは青色の光を受光可能である。この例では、単位Uにおいて、左上に画素PRが配置され、右上に画素PGrが配置され、左下に画素PGbが配置され、右下に画素PBが配置されている。このように、画素アレイ11では、画素PR,PGr,PGb,PBがいわゆるベイヤー配列で配置されている。
 AD変換部12(図1)は、各画素Pから供給された画素電圧に基づいてAD変換を行うことにより、デジタル値である画素値を生成するように構成される。そして、AD変換部12は、生成した画素値を、1フレーム分の画素値を単位として、画像データDTAを用いてセンサインタフェース21に順次供給するようになっている。
 診断部13は、AD変換部12に対して診断処理を行うことにより、AD変換部12の不具合を検出するように構成される。そして、診断部13は、AD変換部12の診断結果を示す診断データINF1を診断結果収集部26に通知するようになっている。
 センサインタフェース21は、撮像部10と画像処理部30との間のインタフェースであり、撮像部10から供給された画像データDTAに応じた画像データDTBを、画像処理部30に供給するように構成される。
 診断部22は、センサインタフェース21に対して診断処理を行うことにより、センサインタフェース21の不具合を検出するように構成される。そして、診断部22は、センサインタフェース21の診断結果を示す診断データINF2を診断結果収集部26に通知するようになっている。
 画像処理部30は、センサインタフェース21から供給された画像データDTBに基づいて、所定の画像処理を行うことにより、画像データDTCを生成するように構成される。所定の画像処理は、例えば、ゲイン調整処理、ホワイトバランス調整処理、黒レベル調整処理、HDR(High Dynamic Range)合成処理、ノイズ除去処理、画素欠陥補正処理のうちの少なくとも1つを含む。
 診断部40は、画像処理部30に対して診断処理を行うことにより、画像処理部30の不具合を検出するように構成される。そして、診断部40は、画像処理部30の診断結果を示す診断データINF3を診断結果収集部26に通知するようになっている。
 図3は、画像処理部30および診断部40の一構成例を表すものである。画像処理部30に供給される画像データDTBは、画像データDTBは、4つの画像データDB(画像データDB0~DB3)を含んでおり、画像処理部30が生成する画像データDTCは、4つの画像データDC(画像データDC0~DC3)を含んでいる。
 図4は、画像データDB0,DB1,DB2,DB3の一例を表すものである。図5は、画像データDB0の一例を表すものである。
 画像データDB0は、図4に示したように、赤色の画素PRに係る複数の画素値を含んでいる。具体的には、画像データDB0は、図5に示したように、0番目のラインLに係る複数の画素PRの画素値を含むライン画像データDB_R0、2番目のラインLに係る複数の画素PRの画素値を含むライン画像データDB_R2、4番目のラインLに係る複数の画素PRの画素値を含むライン画像データDB_R4、6番目のラインLに係る複数の画素PRの画素値を含むライン画像データDB_R6、…を含んでいる。
 同様に、画像データDB1は、図4に示したように、緑色の画素PGrに係る複数の画素値を含んでいる。具体的には、画像データDB1は、0番目のラインLに係る複数の画素PGrの画素値を含むライン画像データDB_Gr0、2番目のラインLに係る複数の画素PGrの画素値を含むライン画像データDB_Gr2、4番目のラインLに係る複数の画素PGrの画素値を含むライン画像データDB_Gr4、6番目のラインLに係る複数の画素PGrの画素値を含むライン画像データDB_Gr6、…を含んでいる。
 同様に、画像データDB2は、図4に示したように、緑色の画素PGbに係る複数の画素値を含んでいる。具体的には、画像データDB2は、1番目のラインLに係る複数の画素PGbの画素値を含むライン画像データDB_Gb1、3番目のラインLに係る複数の画素PGbの画素値を含むライン画像データDB_Gb3、5番目のラインLに係る複数の画素PGbの画素値を含むライン画像データDB_Gb5、7番目のラインLに係る複数の画素PGbの画素値を含むライン画像データDB_Gb7、…を含んでいる。
 同様に、画像データDB3は、図4に示したように、青色の画素PBに係る複数の画素値を含んでいる。具体的には、画像データDB3は、1番目のラインLに係る複数の画素PBの画素値を含むライン画像データDB_B1、3番目のラインLに係る複数の画素PBの画素値を含むライン画像データDB_B3、5番目のラインLに係る複数の画素PBの画素値を含むライン画像データDB_B5、7番目のラインLに係る複数の画素PBの画素値を含むライン画像データDB_B7、…を含んでいる。
 画像処理部30は、図3に示したように、4つの処理部31(処理部31A,31B,31C,31D)を有している。4つの処理部31は、互いに同じ回路構成を有し、互いに同様の画像処理を行うように構成される。処理部31Aは、画像データDB0に基づいて所定の画像処理を行うことにより画像データDC0を生成するように構成される。処理部31Bは、画像データDB1に基づいて所定の画像処理を行うことにより画像データDC1を生成するように構成される。処理部31Cは、画像データDB2に基づいて所定の画像処理を行うことにより画像データDC2を生成するように構成される。処理部31Dは、画像データDB3に基づいて所定の画像処理を行うことにより画像データDC3を生成するように構成される。この構成により、画像処理部30は、並列的に画像処理を行うようになっている。以下、処理部31A,31B,31C,31Dを、適宜、チャネルCH0,CH1,CH2,CH3とも呼ぶ。
 診断部40は、セレクタ41と、処理部42と、セレクタ43と、比較部44と、診断処理部45とを有している。
 セレクタ41は、選択制御信号SELに基づいて、画像データDB0~DB3のうちのいずれか1つを選択し、選択された画像データDBを処理部42に供給するように構成される。
 処理部42は、画像処理部30の4つの処理部31のそれぞれと同じ回路構成を有し、セレクタ41から供給された画像データDBに基づいて所定の画像処理を行うことにより画像データDSを生成するように構成される。以下、この処理部42を、適宜、チャネルCH4とも呼ぶ。
 セレクタ43は、選択制御信号SELに基づいて、画像データDC0~DC3のうちのいずれか1つを選択し、選択された画像データDCを比較部44に供給するように構成される。
 比較部44は、処理部42により生成された画像データDSと、セレクタ43から供給された画像データDCとを比較し、その比較結果を診断処理部45に供給するように構成される。
 診断処理部45は、画像処理部30に対する診断処理を制御するように構成される。具体的には、診断処理部45は、画像処理部30における複数の処理部31A~31D(チャネルCH0~CH3)のうちのいずれか1つを選択することを指示する選択制御信号SELを生成する。例えば、診断処理部45は、処理部31A,31B,31C,31Dの順に順次、巡回的に選択するように、選択制御信号SELを生成する。そして、診断処理部45は、処理部31A(チャネルCH0)が選択された場合における比較部44の比較結果、処理部31B(チャネルCH1)が選択された場合における比較部44の比較結果、処理部31C(チャネルCH2)が選択された場合における比較部44の比較結果、および処理部31D(チャネルCH3)が選択された場合における比較部44の比較結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているのかを診断する。そして、診断処理部45は、画像処理部30の診断結果を示す診断データINF3を、診断結果収集部26に通知する。診断データINF3は、例えば、画像処理部30および診断部40に不具合が生じているかどうかについてのデータを含む。また、診断データINF3は、処理部31A~31D,42(チャネルCH0~CH4)のうちのどれに不具合が生じているのかなどの詳細な診断データを含む。
 この構成により、画像処理部30では、4つの処理部31A~31D(チャネルCH0~CH3)が、画像データDB0~DB3に基づいて画像処理を行う。診断処理部45は、これらの4つの処理部31A~31Dのうちの1つを時分割的に順次選択し、セレクタ41は、選択された処理部31に入力される画像データDBを、診断部40の処理部42(チャネルCH4)に供給する。この処理部42は、セレクタ41から供給された画像データDBに基づいて画像処理を行うことにより画像データDSを生成する。セレクタ43は、選択された処理部31が生成した画像データDCを、比較部44に供給する。比較部44は、処理部42から供給された画像データDSと、セレクタ43から供給された画像データDCとを比較する。画像処理部30および診断部40に不具合が生じていない場合には、これらの画像データは互いに一致することが期待される。そして、診断処理部45は、比較部44における比較結果に基づいて、画像処理部30における不具合を検出するようになっている。
 送信データ生成部23(図1)は、画像データDTCに基づいて、所定の伝送フォーマットを有する送信データDTを生成するように構成される。また、送信データ生成部23は、レジスタ27から供給されたデータを送信データDTに埋め込むことができるようになっている。
 診断部24は、送信データ生成部23に対して診断処理を行うことにより、送信データ生成部23の不具合を検出するように構成される。そして、診断部24は、送信データ生成部23の診断結果を示す診断データINF4を診断結果収集部26に通知するようになっている。
 送信部25は、送信データ生成部23から供給された送信データDTを、例えばMIPI(Mobile Industry Processor Interface)などの高速インタフェースを介して、ホスト装置100(図示せず)に対して送信するように構成される。
 診断結果収集部26は、診断部13,22,40,24から供給された診断データINF1~INF4を収集するとともに、診断データINF1~INF4に応じた詳細な診断結果を示す診断データINFをレジスタ27に記憶させるように構成される。また、診断結果収集部26は、診断データINF1~INF4に基づいて、撮像装置1に不具合が生じているかどうかを示すエラー信号ERRを生成し、このエラー信号ERRを出力するようになっている。
 レジスタ27は、診断データINFを記憶するように構成される。レジスタ27に記憶されたデータは、通信部28を介して、ホスト装置100(図示せず)などの外部の装置から読み出されることができるようになっている。また、レジスタ27は、この診断データINFを、送信データ生成部23に供給することができるようになっている。この場合には、送信データ生成部23は、この診断データINFを送信データDTに埋め込むようになっている。
 通信部28は、例えばI2Cなどの低速インタフェースを介して、ホスト装置100(図示せず)などの外部の装置と通信を行うことができるように構成される。
 図6は、送信データDTの伝送フォーマットの一例を表すものである。フレームスタートFSからフレームエンドFEまでのデータが、1フレーム分の画像データを示す。送信データ生成部23は、画像データDTCに基づいて、複数のパケットPCTを生成することにより、1フレーム分の送信データDTを生成する。
 撮像装置1は、図6(A)に示したように、画像領域Aにおける画像データを送信する。画像領域Aは、有効画素領域A1と、ダミー領域A2,A3とを含んでいる。有効画素領域A1は、画素アレイ11における、いわゆる有効画素が配置された領域に対応する画像領域である。ダミー領域A2は、有効画素領域A1の上に配置され、ダミー領域A3は、有効画素領域A1の下に配置される。送信データ生成部23は、診断データINFを送信データDTに埋め込む場合には、例えば、ダミー領域A2やダミー領域A3に、この診断データINFを挿入することができる。
 1つのパケットPCTは、図6(B)に示したように、ヘッダPHと、ペイロードPPと、フッタPFとを含む。ペイロードPPは、画像領域Aにおける1ライン分の画像データを含む。よって、撮像装置1は、画像領域Aにおける上下方向の画素数と同数のパケットPCTを用いて、画像領域Aにおける画像データを送信することができる。このように、撮像装置1は、1フレーム分の画像データをライン単位で送信するようになっている。
 ここで、処理部31A~31Dは、本開示における「複数の第1の処理部」の一具体例に対応する。画像データDB0~DB3は、本開示における「複数の第1の信号」の一具体例に対応する。画像データDC0~DC3は、本開示における「複数の第2の信号」の一具体例に対応する。診断処理部45は、本開示における「制御部」の一具体例に対応する。セレクタ41は、本開示における「第1の選択部」の一具体例に対応する。処理部42は、本開示における「第2の処理部」の一具体例に対応する。画像データDSは、本開示における「第3の信号」の一具体例に対応する。セレクタ43は、本開示における「第2の選択部」の一具体例に対応する。比較部44は、本開示における「第1の比較部」の一具体例に対応する。診断結果収集部26は、本開示における「出力部」の一具体例に対応する。撮像部10およびセンサインタフェース21は、本開示における「撮像部」の一具体例に対応する。
[動作および作用]
 続いて、本実施の形態の撮像装置1の動作および作用について説明する。
(全体動作概要)
 まず、図1を参照して、撮像装置1の全体動作概要を説明する。撮像部10は、撮像動作を行うことにより、画像データDTAを生成する。具体的には、画素アレイ11の各画素Pは、受光量に応じた画素電圧を生成し、AD変換部12は、各画素Pから供給された画素電圧に基づいてAD変換を行うことにより、デジタル値である画素値を生成する。診断部13は、AD変換部12に対して診断処理を行い、AD変換部12の診断結果を示す診断データINF1を診断結果収集部26に通知する。センサインタフェース21は、撮像部10から供給された画像データDTAに応じた画像データDTBを、画像処理部30に供給する。診断部22は、センサインタフェース21に対して診断処理を行い、センサインタフェース21の診断結果を示す診断データINF2を診断結果収集部26に通知する。画像処理部30は、センサインタフェース21から供給された画像データDTBに基づいて、所定の画像処理を行うことにより、画像データDTCを生成する。診断部40は、画像処理部30に対して診断処理を行い、画像処理部30の診断結果を示す診断データINF3を診断結果収集部26に通知する。送信データ生成部23は、画像データDTCに基づいて、所定の伝送フォーマットを有する送信データDTを生成する。診断部24は、送信データ生成部23に対して診断処理を行い、送信データ生成部23の診断結果を示す診断データINF4を診断結果収集部26に通知する。送信部25は、送信データ生成部23から供給された送信データDTを、ホスト装置100(図示せず)に対して送信する。診断結果収集部26は、診断部13,22,40,24から供給された診断データINF1~INF4を収集するとともに、診断データINF1~INF4に応じた詳細な診断結果を示す診断データINFをレジスタ27に記憶させる。また、診断結果収集部26は、診断データINF1~INF4に基づいて、撮像装置1に不具合が生じているかどうかを示すエラー信号ERRを生成し、このエラー信号ERRを出力する。レジスタ27は、診断データINFを記憶する。通信部28は、ホスト装置100(図示せず)などの外部の装置と通信を行う。
(詳細動作)
 図7は、撮像装置1に不具合が生じていない場合における、画像処理部30および診断部40の一動作例を表すものであり、図8は、図7における部分Wを詳細に表すものである。図7(A)は同期信号Vsyncの波形を示し、(B)~(E)は画像処理部30の処理部31A~31Dに入力される画像データDB0~DB3をそれぞれ示し、(F)は診断部40の処理部42に入力される画像データDBを示し、(G)~(J)は処理部31A~31Dが生成する画像データDC0~DC3をそれぞれ示し、(K)はセレクタ43から出力される画像データDCを示し、(L)は処理部42が生成する画像データDSを示し、(M)は撮像装置1から出力されるエラー信号ERRの波形を示す。図8(A)は選択制御信号SELを示し、図8(B)~(M)は図7(B)~(M)と同様である。図7(B)~(E)および図8(B)~(E)において、太線で示した部分は、処理部42に供給される画像データを示す。図7(G)~(J)および図8(G)~(J)において、太線で示した部分は、比較部44に供給される画像データを示す。この例では、エラー信号ERRは、撮像装置1に不具合が生じていない場合に低レベルであり、撮像装置1に不具合が生じた場合に高レベルである信号である。なお、エラー信号ERRは、これに限定されるものではなく、例えば、撮像装置1に不具合が生じていない場合に高レベルであり、撮像装置1に不具合が生じた場合に低レベルである信号であってもよい。
 画像処理部30では、4つの処理部31A~31D(チャネルCH0~CH3)が、画像データDB0~DB3に基づいて画像処理を行うことにより、画像データDC0~DC3を生成する。診断処理部45は、これらの4つの処理部31A~31Dのうちの1つを時分割的に順次選択し、セレクタ41は、選択された処理部31に入力される画像データDBを、診断部40の処理部42(チャネルCH4)に供給する。この処理部42は、セレクタ41から供給された画像データDBに基づいて画像処理を行うことにより画像データDSを生成する。セレクタ43は、選択された処理部31が生成した画像データDCを、比較部44に供給する。比較部44は、処理部42から供給された画像データDSと、セレクタ43から供給された画像データDCとを比較する。そして、診断処理部45は、比較部44における比較結果に基づいて、画像処理部30における不具合を検出する。以下に、この動作について、詳細に説明する。
 図7に示したように、タイミングt1において、同期信号Vsyncにパルスが生じることにより、フレーム期間Fが開始する(図7(A))。図8に示したように、処理部31A(チャネルCH0)は、このフレーム期間Fにおいて、画像データDB0(ライン画像データDB_R0,DB_R2,DB_R4,DB_R6,…)に基づいて画像処理を行うことにより、画像データDC0(ライン画像データDC_R0,DC_R2,DC_R4,DC_R6,…)を生成する(図8(B),(G))。処理部31B(チャネルCH1)は、このフレーム期間Fにおいて、画像データDB1(ライン画像データDB_Gr0,DB_Gr2,DB_Gr4,DB_Gr6,…)に基づいて画像処理を行うことにより、画像データDC1(ライン画像データDC_Gr0,DC_Gr2,DC_Gr4,DC_Gr6,…)を生成する(図8(C),(H))。処理部31C(チャネルCH2)は、このフレーム期間Fにおいて、画像データDB2(ライン画像データDB_Gb1,DB_Gb3,DB_Gb5,DB_Gb7,…)に基づいて画像処理を行うことにより、画像データDC2(ライン画像データDC_Gb1,DC_Gb3,DC_Gb5,DC_Gb7,…)を生成する(図8(D),(I))。処理部31D(チャネルCH3)は、このフレーム期間Fにおいて、画像データDB3(ライン画像データDB_B1,DB_B3,DB_B5,DB_B7,…)に基づいて画像処理を行うことにより、画像データDC3(ライン画像データDC_B1,DC_B3,DC_B5,DC_B7,…)を生成する(図8(E),(J))。
 診断部40は、期間Tにおいて、4つの処理部31A~31Dに対して、診断処理を順次行う。
 まず、タイミングt11において、診断処理部45は、処理部31A(チャネルCH0)を選択し、その選択結果に応じた選択制御信号SELを生成する(図8(A))。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH0に係る画像データDB0を選択する(図7(B),8(B))。これにより、この画像データDB0に含まれるライン画像データDB_R0が処理部42(チャネルCH4)に供給される(図7(F)、8(F))。処理部42は、このライン画像データDB_R0に基づいて所定の処理を行うことにより、ライン画像データDC_R0を生成する(図8(L))。そして、このライン画像データDC_R0が比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH0に係る画像データDC0を選択する(図7(G),8(G))。これにより、この画像データDC0に含まれるライン画像データDC_R0が比較部44に供給される(図7(K),8(K))。
 比較部44は、処理部42から供給されたライン画像データDC_R0と、セレクタ43から供給されたライン画像データDC_R0とを比較する。この例では、選択された処理部31A(チャネルCH0)および処理部42(チャネルCH4)には不具合が生じていないので、これらのライン画像データDC_R0は互いに一致する(図8(K),(L))。よって、比較部44は、処理部31A(チャネルCH0)および処理部42(チャネルCH4)には不具合は生じていないと判定する。これにより、診断結果収集部26は、エラー信号ERRを低レベルに維持する(図7(M),8(M))。
 次に、タイミングt12において、診断処理部45は、処理部31B(チャネルCH1)を選択し、その選択結果に応じた選択制御信号SELを生成する(図8(A))。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH1に係る画像データDB1を選択する(図7(C),8(C))。これにより、この画像データDB1に含まれるライン画像データDB_Gr2が処理部42(チャネルCH4)に供給される(図7(F),8(F))。処理部42は、このライン画像データDB_Gr2に基づいて所定の処理を行うことにより、ライン画像データDC_Gr2を生成する(図8(L))。そして、このライン画像データDC_Gr2が比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH1に係る画像データDC1を選択する(図7(H),8(H))。これにより、この画像データDC1に含まれるライン画像データDC_Gr2が比較部44に供給される(図7(K),8(K))。
 比較部44は、処理部42から供給されたライン画像データDC_Gr2と、セレクタ43から供給されたライン画像データDC_Gr2とを比較する。この例では、選択された処理部31B(チャネルCH1)および処理部42(チャネルCH4)には不具合が生じていないので、これらのライン画像データDC_Gr2は互いに一致する(図8(K),(L))。よって、比較部44は、処理部31B(チャネルCH1)および処理部42(チャネルCH4)には不具合は生じていないと判定する。これにより、診断結果収集部26は、エラー信号ERRを低レベルに維持する(図7(M),8(M))。
 次に、タイミングt13において、診断処理部45は、処理部31C(チャネルCH2)を選択し、その選択結果に応じた選択制御信号SELを生成する(図8(A))。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH2に係る画像データDB2を選択する(図7(D),8(D))。これにより、この画像データDB2に含まれるライン画像データDB_Gb5が処理部42(チャネルCH4)に供給される(図7(F),8(F))。処理部42は、このライン画像データDB_Gb5に基づいて所定の処理を行うことにより、ライン画像データDC_Gb5を生成する(図8(L))。そして、このライン画像データDC_Gb5が比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH2に係る画像データDC2を選択する(図7(I),8(I))。これにより、この画像データDC2に含まれるライン画像データDC_Gb5が比較部44に供給される(図7(K),8(K))。
 比較部44は、処理部42から供給されたライン画像データDC_Gb5と、セレクタ43から供給されたライン画像データDC_Gb5とを比較する。この例では、選択された処理部31C(チャネルCH2)および処理部42(チャネルCH4)には不具合が生じていないので、これらのライン画像データDC_Gb5は互いに一致する(図8(K),(L))。よって、比較部44は、処理部31C(チャネルCH2)および処理部42(チャネルCH4)には不具合は生じていないと判定する。これにより、診断結果収集部26は、エラー信号ERRを低レベルに維持する(図7(M),8(M))。
 次に、タイミングt14において、診断処理部45は、処理部31D(チャネルCH3)を選択し、その選択結果に応じた選択制御信号SELを生成する(図8(A))。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH3に係る画像データDB3を選択する(図7(E),8(E))。これにより、この画像データDB3に含まれるライン画像データDB_B7が処理部42(チャネルCH4)に供給される(図7(F),8(F))。処理部42は、このライン画像データDB_B7に基づいて所定の処理を行うことにより、ライン画像データDC_B7を生成する(図8(L))。そして、このライン画像データDC_B7が比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH3に係る画像データDC3を選択する(図7(J),8(J))。これにより、この画像データDC3に含まれるライン画像データDC_B7が比較部44に供給される(図7(K),8(K))。
 比較部44は、処理部42から供給されたライン画像データDC_B7と、セレクタ43から供給されたライン画像データDC_B7とを比較する。この例では、選択された処理部31D(チャネルCH3)および処理部42(チャネルCH4)には不具合が生じていないので、これらのライン画像データDC_B7は互いに一致する(図8(K),(L))。よって、比較部44は、処理部31D(チャネルCH3)および処理部42(チャネルCH4)には不具合は生じていないと判定する。これにより、診断結果収集部26は、エラー信号ERRを低レベルに維持する(図7(M),8(M))。
 このようにして、診断部40は、期間Tにおいて、4つの処理部31A~31Dに対して、ライン画像データを単位として、診断処理を1回ずつ順次行う。そして、診断部40は、期間Tを周期として、この処理を繰り返す。これにより、診断部40は、フレーム期間Fにおいて、4つの処理部31A~31Dを巡回するように選択することにより、4つの処理部31A~31Dに対して、診断処理を繰り返し行う。
 次に、不具合が生じている場合における、画像処理部30および診断部40の動作について、いくつか例を挙げて詳細に説明する。
 図9は、画像処理部30の処理部31B(チャネルCH1)に不具合が生じている場合における、画像処理部30および診断部40の一動作例を表すものである。図9(H)において、部分W1は、所望の画像データとは異なる画像データの部分を示す。この例では、タイミングt21以降において、処理部31B(チャネルCH1)に不具合が生じている。よって、このタイミングt21以降において、この処理部31Bが生成した画像データDC1は、所望の画像データとは異なっている(図9(H))。
 診断部40は、4つの処理部31A~31Dを巡回するように選択することにより、4つの処理部31A~31Dに対して、診断処理を繰り返し行う。そして、タイミングt22において、診断処理部45は、処理部31B(チャネルCH1)を選択し、その選択結果に応じた選択制御信号SELを生成する。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH1に係る画像データDB1を選択する(図9(C))。これにより、この画像データDB1に含まれるライン画像データが処理部42(チャネルCH4)に供給される(図9(F))。処理部42は、このライン画像データに基づいて所定の処理を行うことにより、ライン画像データを生成する(図9(L))。そして、このライン画像データが比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH1に係る画像データDC1を選択する(図9(H))。これにより、この画像データDC1に含まれるライン画像データが比較部44に供給される(図9(K))。
 比較部44は、処理部42から供給されたライン画像データ(図9(L))と、セレクタ43から供給されたライン画像データ(図9(K))とを比較する。この例では、タイミングt21以降において、処理部31B(チャネルCH1)に不具合が生じているので、処理部42から供給されたライン画像データと、セレクタ43から供給されたライン画像データとは、互いに一致しない。診断処理部45は、この比較結果を含む診断データINF3を診断結果収集部26に供給する。これにより、診断結果収集部26は、エラー信号ERRを低レベルから高レベルに変化させる(図9(M))。
 その後、診断処理部45は、4つの処理部31A~31Dに対して、引き続き診断処理を行う。そして、診断処理部45は、タイミングt22~t23の期間において、4つの処理部31A~31Dに対して1回ずつ診断処理を行った結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているかを診断する。この例では、処理部31B(チャネルCH1)を選択した場合にのみ比較結果が“不一致”を示し、処理部31C(チャネルCH2)を選択した場合、処理部31D(チャネルCH3)を選択した場合、および処理部31A(チャネルCH0)を選択した場合において、比較結果が“一致”を示す。よって、診断処理部45は、処理部31Bに不具合が生じていると診断する。そして、診断処理部45は、この診断結果を含む診断データINF3を診断結果収集部26に供給する。
 この例では、処理部31B(チャネルCH1)に不具合が生じているので、画像処理部30は、所望の画像データとは異なる画像データを出力する。これにより、撮像装置1は、所望の送信データとは異なる画像データを、ホスト装置100(図示せず)に対して送信する。また、診断処理部45は、処理部31B(チャネルCH1)に不具合が生じている旨を診断結果収集部26に通知し、診断結果収集部26は、エラー信号ERRをアクティブにする。
 図10は、診断部40の処理部42(チャネルCH4)に不具合が生じている場合における、画像処理部30および診断部40の一動作例を表すものである。図10(L)において、部分W2は、所望の画像データとは異なる画像データの部分を示す。この例では、タイミングt26以降において、処理部42(チャネルCH4)に不具合が生じる。よって、このタイミングt26以降において、この処理部42が生成した画像データDSは、所望の画像データとは異なっている(図10(L))。
 診断部40は、4つの処理部31A~31Dを巡回するように選択することにより、4つの処理部31A~31Dに対して、診断処理を繰り返し行う。タイミングt26において、診断処理部45は、処理部31D(チャネルCH3)を選択し、その選択結果に応じた選択制御信号SELを生成する。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH3に係る画像データDB3を選択する(図10(E))。これにより、この画像データDB3に含まれるライン画像データが処理部42(チャネルCH4)に供給される(図10(F))。処理部42は、このライン画像データに基づいて所定の処理を行うことにより、ライン画像データを生成する(図10(L))。そして、このライン画像データが比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH3に係る画像データDC3を選択する(図10(J))。これにより、この画像データDC3に含まれるライン画像データが比較部44に供給される(図10(K))。
 比較部44は、処理部42から供給されたライン画像データ(図10(L))と、セレクタ43から供給されたライン画像データ(図10(K))とを比較する。この例では、タイミングt26以降において、診断部40の処理部42(チャネルCH4)に不具合が生じているので、処理部42から供給されたライン画像データと、セレクタ43から供給されたライン画像データとは、互いに一致しない。診断処理部45は、この比較結果を含む診断データINF3を診断結果収集部26に供給する。これにより、診断結果収集部26は、エラー信号ERRを低レベルから高レベルに変化させる(図10(M))。
 その後、診断処理部45は、4つの処理部31A~31Dに対して、引き続き診断処理を行う。そして、診断処理部45は、タイミングt26~t27の期間において、4つの処理部31A~31Dに対して1回ずつ診断処理を行った結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているかを診断する。この例では、処理部31A~31D(チャネルCH0~CH3)のうちのいずれを選択した場合にも、比較結果が“不一致”を示す。よって、診断処理部45は、診断部40の処理部42に不具合が生じていると診断する。そして、診断処理部45は、この診断結果を含む診断データINF3を診断結果収集部26に供給する。
 この例では、処理部42(チャネルCH4)に不具合が生じているが、処理部31A~31D(チャネルCH0~CH3)には不具合は生じていないので、画像処理部30は、所望の画像データを出力する。これにより、撮像装置1は、所望の送信データを、ホスト装置100(図示せず)に対して送信する。また、診断処理部45は、処理部42(チャネルCH3)に不具合が生じている旨を診断結果収集部26に通知し、診断結果収集部26は、エラー信号ERRをアクティブにする。
 このように、撮像装置1では、画像処理部30の4つの処理部31のそれぞれと同じ回路構成を有する処理部42を設け、診断処理部45が、4つの処理部31A~31Dのうちの1つを選択し、セレクタ41が、選択された処理部31に入力される画像データDBを処理部42に供給するようにした。そして、比較部44が、選択された処理部31が生成した画像データDCと、処理部42が生成した画像データDSとを比較し、診断処理部45が、比較部44の比較結果に基づいて画像処理部30を診断するようにした。これにより、撮像装置1では、撮像動作(通常動作)を行う期間(いわゆるランタイム)において、診断処理を行うことができる。
 すなわち、例えば、いわゆる垂直ブランキング期間など、撮像装置が撮像動作(通常動作)を行う期間とは異なる期間に診断用の期間を設け、この例えば診断用のデータを用いて診断処理を行う場合には、診断処理を行う時間が限られているため、十分な診断を行うことができないおそれがある。また、診断用のデータは、不具合を検出する精度が高いデータパターンを有することが望まれ、このような診断用のデータを生成する生成回路を設ける必要がある。
 一方、本実施の形態では、撮像動作を行う期間に、通常の画像処理と並行して診断処理を行うことができるので、診断処理を行う時間を確保することができる。また、撮像動作により得られた実際の画像データを用いて診断処理を行うことができ、診断用のデータを生成する生成回路を設ける必要がない。このように、撮像装置1では、診断処理を行う時間を確保することができ、また、実際の画像データを用いて診断処理を行うことができるので、撮像装置1では、診断精度を向上することができる。
[効果]
 以上のように本実施の形態では、4つの処理部31のそれぞれと同じ回路構成を有する処理部42を設け、診断処理部が、4つの処理部31のうちの1つを選択し、セレクタ41が、選択された処理部31に入力される画像データを処理部42に供給するようにした。そして、比較部が、選択された処理部31が生成した画像データと、処理部42が生成した画像データとを比較し、診断処理部が、比較部の比較結果に基づいて画像処理部を診断するようにした。これにより、撮像装置では、撮像動作(通常動作)を行う期間において、診断処理を行うことができる。
[変形例1-1]
 上記実施の形態では、ライン画像データを単位として、4つの処理部31を時分割的に順次選択したが、これに限定されるものではない。これに代えて、例えば、複数のライン画像データを単位として、4つの処理部31を時分割的に順次選択してもよいし、1ライン分の画像データよりも少ない画像データを単位として、4つの処理部31を時分割的に順次選択してもよい。
[変形例1-2]
 上記実施の形態では、画像処理部30に4つの処理部31を設けたが、これに限定されるものではない。これに代えて、例えば、3つ以下の複数の処理部31を設けてもよいし、5つ以上の処理部31を設けてもよい。
[変形例1-3]
 上記の実施の形態では、図9に示したように、診断処理部45は、タイミングt22~t23の期間において、4つの処理部31A~31Dに対して1回ずつ診断処理を行った結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているかを診断するようにしたが、これに限定されるものではない。例えば、タイミングt22以降において、処理部31Bに対して診断処理を行った場合の比較結果が“不一致”を示し、次に、処理部31Cに対して診断処理を行った場合の比較結果が“一致”を示した場合に、処理部31Bに不具合が生じていると診断してもよい。
 同様に、上記実施の形態では、図10に示したように、診断処理部45は、タイミングt26~t27の期間において、4つの処理部31A~31Dに対して1回ずつ診断処理を行った結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているかを診断するようにしたが、これに限定されるものではない。例えば、タイミングt26以降において、処理部31Dに対して診断処理を行った場合の比較結果が“不一致”を示し、次に、処理部31Aに対して診断処理を行った場合の比較結果が“不一致”を示した場合に、処理部42に不具合が生じていると診断してもよい。
[その他の変形例]
 また、これらの変形例のうちの2以上を組み合わせてもよい。
<2.第2の実施の形態>
 次に、第2の実施の形態に係る撮像装置2について説明する。本実施の形態は、画像処理装置において、4つの処理部31のうちのいずれか1つに不具合が生じた場合に、その不具合が生じた処理部31の代わりに診断部の処理部42を用いて、画像処理を行うように構成される。なお、上記第1の実施の形態に係る撮像装置1と実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
 図1に示したように、撮像装置2は、画像処理部50と、診断部60とを備えている。画像処理部50は、センサインタフェース21から供給された画像データDTBに基づいて、所定の画像処理を行うことにより、画像データDTDを生成するように構成される。診断部60は、画像処理部50に対して診断処理を行うことにより、画像処理部50の不具合を検出するように構成される。
 図11は、画像処理部50および診断部60の一構成例を表すものである。画像処理部50が生成する画像データDTDは、4つの画像データDD(画像データDD0~DD3)を含んでいる。
 画像処理部50は、置換部51を有している。置換部51は、制御信号CTLに基づいて、4つの処理部31A~31Dが生成した4つの画像データDC0~DC3のうちの1つを、処理部42が生成した画像データDSに置き換えることにより、4つの画像データDD0~DD3を生成するように構成される。置換部51は、4つのセレクタ52(セレクタ52A,52B,52C,52D)を有している。セレクタ52Aは、制御信号CTLに含まれる制御信号CTLAに基づいて、画像データDC0および画像データDSのうちの一方を選択し、選択した画像データを画像データDD0として出力するように構成される。セレクタ52Bは、制御信号CTLに含まれる制御信号CTLBに基づいて、画像データDC1および画像データDSのうちの一方を選択し、選択した画像データを画像データDD1として出力するように構成される。セレクタ52Cは、制御信号CTLに含まれる制御信号CTLCに基づいて、画像データDC2および画像データDSのうちの一方を選択し、選択した画像データを画像データDD2として出力するように構成される。セレクタ52Dは、制御信号CTLに含まれる制御信号CTLDに基づいて、画像データDC3および画像データDSのうちの一方を選択し、選択した画像データを画像データDD3として出力するように構成される。この構成により、置換部51は、制御信号CTLに基づいて、4つのセレクタ52のうちのいずれか1つが画像データDSを選択することにより、4つの画像データDD0~DD3を生成するようになっている。
 診断部60は、診断処理部65を有している。診断処理部65は、画像処理部50に対する診断処理を制御するように構成される。具体的には、診断処理部65は、上記第1の実施の形態に係る診断処理部45と同様に、画像処理部50における複数の処理部31A~31D(チャネルCH0~CH3)のうちのいずれか1つを選択することを指示する選択制御信号SELを生成する。そして、診断処理部65は、処理部31A(チャネルCH0)が選択された場合における比較部44の比較結果、処理部31B(チャネルCH1)が選択された場合における比較部44の比較結果、処理部31C(チャネルCH2)が選択された場合における比較部44の比較結果、および処理部31D(チャネルCH3)が選択された場合における比較部44の比較結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているのかを診断する。そして、診断処理部65は、画像処理部50の診断結果を示す診断データINF3を、診断結果収集部26に通知する。また、診断処理部65は、処理部31A~31D(チャネルCH0~CH3)のうちのいずれかに不具合が生じている場合には、不具合が生じている処理部31が生成する画像データDCを、処理部42が生成する画像データDSに置き換えることを指示する制御信号CTLを生成するようになっている。
 ここで、置換部51は、本開示における「置換部」の一具体例に対応する。画像データDD0~DD3は、本開示における「複数の第4の信号」の一具体例に対応する。
 図12は、画像処理部50の処理部31B(チャネルCH1)に不具合が生じている場合における、画像処理部50および診断部60の一動作例を表すものである。図12(H)において、部分W3は、所望の画像データとは異なる画像データの部分を示す。この例では、タイミングt33以降において、処理部31B(チャネルCH1)に不具合が生じている。よって、このタイミングt33以降において、この処理部31Bが生成した画像データDC1は、所望の画像データとは異なっている(図12(H))。
 タイミングt31においてフレーム期間Fが開始すると、タイミングt32において、画像処理部50は、画像データDB0~DB3に基づいて、画像データDD0~DD3を生成し始める(図12(B)~(E),(G)~(J),(N)~(Q))。
 図13は、画像処理部50および診断部60の動作状態を表すものである。太線は、画像データの経路を示している。タイミングt32では、処理部31A,31B,31C,31D(チャネルCH0~CH3)に不具合は生じていない。よって、処理部31A(チャネルCH0)は、画像データDB0に基づいて画像処理を行うことにより画像データDC0を生成し、セレクタ52Aは、制御信号CTLAに基づいて画像データDC0を選択し、この画像データDC0を画像データDD0として出力する。同様に、処理部31B(チャネルCH1)は、画像データDB1に基づいて画像処理を行うことにより画像データDC1を生成し、セレクタ52Bは、制御信号CTLBに基づいて画像データDC1を選択し、この画像データDC1を画像データDD1として出力する。処理部31C(チャネルCH2)は、画像データDB2に基づいて画像処理を行うことにより画像データDC2を生成し、セレクタ52Cは、制御信号CTLCに基づいて画像データDC2を選択し、この画像データDC2を画像データDD2として出力する。処理部31D(チャネルCH3)は、画像データDB3に基づいて画像処理を行うことにより画像データDC3を生成し、セレクタ52Dは、制御信号CTLDに基づいて画像データDC3を選択し、この画像データDC3を画像データDD3として出力する。
 診断部60は、上記第1の実施の形態の場合と同様に、4つの処理部31A~31Dを巡回するように選択することにより、4つの処理部31A~31Dに対して、診断処理を繰り返し行う(図12(B)~(M))。この例では、タイミングt33において、処理部31B(チャネルCH1)に不具合が生じる。これにより、このタイミングt33以降において、処理部31Bが生成した画像データDC1は、所望の画像データとは異なる。
 そして、タイミングt34において、診断処理部65は、処理部31B(チャネルCH1)を選択し、その選択結果に応じた選択制御信号SELを生成する。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH1に係る画像データDB1を選択する(図12(C))。これにより、この画像データDB1に含まれるライン画像データが処理部42(チャネルCH4)に供給される(図12(F))。処理部42は、このライン画像データに基づいて所定の処理を行うことにより、ライン画像データを生成する(図12(L))。そして、このライン画像データが比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH1に係る画像データDC1を選択する(図12(H))。これにより、この画像データDC1に含まれるライン画像データが比較部44に供給される(図12(K))。
 比較部44は、処理部42から供給されたライン画像データ(図12(L))と、セレクタ43から供給されたライン画像データ(図12(K))とを比較する。この例では、タイミングt33以降において、処理部31B(チャネルCH1)に不具合が生じているので、処理部42から供給されたライン画像データと、セレクタ43から供給されたライン画像データとは、互いに一致しない。診断処理部65は、この比較結果を含む診断データINF3を診断結果収集部26に供給する。これにより、診断結果収集部26は、エラー信号ERRを低レベルから高レベルに変化させる(図12(M))。
 そして、診断処理部65は、タイミングt34~t35の期間において、4つの処理部31A~31Dに対して1回ずつ診断処理を行った結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているかを診断する。この例では、処理部31B(チャネルCH1)を選択した場合にのみ比較結果が“不一致”を示し、処理部31C(チャネルCH2)を選択した場合、処理部31D(チャネルCH3)、および処理部31A(チャネルCH0)を選択した場合において、比較結果が“一致”を示す。よって、診断処理部65は、処理部31Bに不具合が生じていると診断する。そして、診断処理部65は、この診断結果を含む診断データINF3を診断結果収集部26に供給する。
 そして、診断処理部65は、このタイミングt35以降において、不具合が生じている処理部31B(チャネルCH1)を選択し、その選択結果に応じた選択制御信号SELを生成する。また、診断処理部65は、不具合が生じている処理部31B(チャネルCH1)が生成する画像データDCを、処理部42が生成する画像データDSに置き換えることを指示する制御信号CTLを生成する。
 図14は、画像処理部50および診断部60の動作状態を表すものである。太線は、画像データの経路を示している。タイミングt35以降では、セレクタ41は、選択制御信号SELに基づいて、処理部31B(チャネルCH1)に入力される画像データDB1を選択し、この画像データDB1を処理部42(チャネルCH4)に供給する。処理部42は、この画像データDB1に基づいて画像処理を行うことにより画像データDS(画像データDC1)を生成する。置換部51のセレクタ52Bは、制御信号CTLに基づいて、この画像データDSを選択し、この画像データDSを画像データDD1として出力する。このようにして、置換部51は、制御信号CTLに基づいて、4つの処理部31A~31Dが生成した4つの画像データDC0~DC3のうちの画像データDC1を、処理部42が生成した画像データDS(画像データDC1)に置き換えることにより、4つの画像データDD0~DD3を生成する。
 この例では、画像処理部50は、処理部31B(チャネルCH1)に不具合が生じた場合でも、タイミングt35以降において、所望の画像データを出力する。これにより、撮像装置1は、所望の送信データを、ホスト装置100(図示せず)に対して送信する。また、診断処理部65は、処理部31B(チャネルCH1)に不具合が生じている旨を診断結果収集部26に通知し、診断結果収集部26は、エラー信号ERRをアクティブにする。
 図15は、診断部60の処理部42(チャネルCH4)に不具合が生じている場合における、画像処理部50および診断部60の一動作例を表すものである。図15(L)において、部分W4は、所望の画像データとは異なる画像データの部分を示す。この例では、タイミングt36以降において、処理部42(チャネルCH4)に不具合が生じている。よって、このタイミングt36以降において、この処理部42が生成した画像データDSは、所望の画像データとは異なっている(図15(L))。
 診断部60は、4つの処理部31A~31Dを巡回するように選択することにより、4つの処理部31A~31Dに対して、診断処理を繰り返し行う。タイミングt36において、診断処理部65は、処理部31D(チャネルCH3)を選択し、その選択結果に応じた選択制御信号SELを生成する。セレクタ41は、この選択制御信号SELに基づいて、チャネルCH3に係る画像データDB3を選択する(図15(E))。これにより、この画像データDB3に含まれるライン画像データが処理部42(チャネルCH4)に供給される(図15(F))。処理部42は、このライン画像データに基づいて所定の処理を行うことにより、ライン画像データを生成する(図15(L))。そして、このライン画像データが比較部44に供給される。一方、セレクタ43は、この選択制御信号SELに基づいて、チャネルCH3に係る画像データDC3を選択する(図15(J))。これにより、この画像データDC3に含まれるライン画像データが比較部44に供給される(図15(K))。
 比較部44は、処理部42から供給されたライン画像データ(図15(L))と、セレクタ43から供給されたライン画像データ(図15(K))とを比較する。この例では、タイミングt36以降において、診断部60の処理部42(チャネルCH4)に不具合が生じているので、処理部42から供給されたライン画像データと、セレクタ43から供給されたライン画像データとは、互いに一致しない。診断処理部65は、この比較結果を含む診断データINF3を診断結果収集部26に供給する。これにより、診断結果収集部26は、エラー信号ERRを低レベルから高レベルに変化させる(図15(M))。
 その後、診断処理部65は、4つの処理部31A~31Dに対して、引き続き診断処理を行う。そして、診断処理部65は、タイミングt36~t37の期間において、4つの処理部31A~31Dに対して1回ずつ診断処理を行った結果に基づいて、処理部31A~31D,42(チャネルCH0~CH4)のうちのどの処理部に不具合が生じているかを診断する。この例では、処理部31A~31D(チャネルCH1~CH4)のうちのいずれを選択した場合にも、比較結果が“不一致”を示す。よって、診断処理部65は、診断部60の処理部42に不具合が生じていると診断する。そして、診断処理部65は、この診断結果を含む診断データINF3を診断結果収集部26に供給する。
 この例では、処理部42(チャネルCH4)に不具合が生じているが、処理部31A~31D(チャネルCH0~CH3)には不具合は生じていないので、画像処理部50は、所望の画像データを出力する。すなわち、図13に示したように、処理部31A(チャネルCH0)は、画像データDB0に基づいて画像処理を行うことにより画像データDC0を生成し、セレクタ52Aは、制御信号CTLAに基づいて画像データDC0を選択し、この画像データDC0を画像データDD0として出力する。処理部31B~31D(チャネルCH0~CH3)およびセレクタ52B~52Dについても同様である。これにより、撮像装置2は、所望の送信データを、ホスト装置100(図示せず)に対して送信する。また、診断処理部65は、処理部42(チャネルCH3)に不具合が生じている旨を診断結果収集部26に通知し、診断結果収集部26は、エラー信号ERRをアクティブにする。
 このように、撮像装置2では、置換部51を設け、置換部51が、比較部44における比較結果に基づいて、4つの処理部31A~31Dが生成した4つの画像データDC0~DC3のうちの1つを、処理部42が生成した画像データDSに置き換えるようにした。これにより、撮像装置2では、処理部31A~31D(チャネルCH0~CH3)のうちのいずれかに不具合が生じた場合に、処理部42が、不具合が生じた処理部31に供給される画像データDBに基づいて画像データDSを生成し、置換部51が、不具合が生じた処理部31から出力された画像データDCをこの画像データDSに置き換えることにより、所望の画像データを出力することができる。このように、撮像装置2では、処理部31に不具合が生じた場合にも所望の画像データを出力することができるので、いわゆるFail Operationalな構成を実現することができる。
 以上のように本実施の形態では、比較部における比較結果に基づいて、4つの処理部31が生成した4つの画像データのうちの1つを、処理部42が生成した画像データに置き換えるようにしたので、不具合が生じた場合にも所望の画像データを出力することができる。
[変形例2-1]
 上記実施の形態では、撮像動作により得られた実際の画像データに基づいて診断処理を行うようにしたが、さらにテストデータTSに基づいて診断処理を行うことができるようにしてもよい。以下に、本変形例に係る撮像装置2Aについて、詳細に説明する。撮像装置2Aは、上記第2の実施の形態に係る撮像装置2(図1)と同様に、画像処理部50Aおよび診断部60Aとを有している。
 図16は、画像処理部50Aおよび診断部60Aの一構成例を表すものである。画像処理部50が生成する画像データDTDは、4つの画像データDD(画像データDD0~DD3)を含んでいる。
 画像処理部50Aは、置換部51Aを有している。置換部51Aは、上記第2の実施の形態に係る置換部51と同様に、制御信号CTLに基づいて、4つの処理部31A~31Dが生成した4つの画像データDC0~DC3のうちの1つを、処理部42が生成した画像データDSに置き換えることにより、4つの画像データDD0~DD3を生成するように構成される。また、置換部51Aは、例えば垂直ブランキング期間において、テストデータ生成部62A(後述)が生成したテストデータTSを、4つの画像データDD0~DD3としてそれぞれ出力することができるようになっている。
 診断部60は、テストデータ生成部62Aと、セレクタ63Aと、比較部67A,68Aと、論理和回路69Aと、診断処理部65Aとを有している。
 テストデータ生成部62Aは、診断処理部65Aからの指示に基づいて、例えば垂直ブランキング期間において、所定の信号パターンを有するテストデータTSを生成するように構成される。
 セレクタ63Aは、選択制御信号SEL2に基づいて、処理部42(チャネルCH4)から供給された画像データDSおよびテストデータ生成部62Aから供給されたテストデータTSのうちの一方を選択し、選択されたデータを、比較部44および置換部51Aに供給するように構成される。具体的には、セレクタ63Aは、この例では、センサインタフェース21から画像データDTBが供給された期間において、処理部42(チャネルCH4)から供給された画像データDSを選択し、垂直ブランキング期間においてテストデータ生成部62Aから供給されたテストデータTSを選択するように構成される。
 比較部67Aは、制御信号CTL2に基づいて、例えば垂直ブランキング期間において、画像データDD0および画像データDD2を互いに比較する比較動作を行うように構成される。
 比較部68Aは、制御信号CTL2に基づいて、例えば垂直ブランキング期間において、画像データDD1および画像データDD3を互いに比較する比較動作を行うように構成される。
 論理和回路69Aは、比較部44,67A,68Aにおける比較結果の論理和(OR)を求めるように構成される。ここで、比較部44における比較結果は、“不一致”の場合に“1”であり、“一致”の場合に“0”である。比較部67A,68Aにおける比較結果についても同様である。すなわち、論理和回路69Aは、比較部44,67A,68Aにおける比較結果の全てが“一致”を示す場合に“0”を出力し、比較部44,67A,68Aにおける比較結果のうちのいずれか1つ以上が“不一致”を示す場合に、“1”を出力するようになっている。
 診断処理部65Aは、画像処理部50Aに対する診断処理を制御するように構成される。診断処理部65Aは、例えば垂直ブランキング期間において、置換部51Aに対する診断処理を制御する。具体的には、診断処理部65Aは、垂直ブランキング期間において、テストデータ生成部62AがテストデータTSを生成するように、テストデータ生成部62Aの動作を制御する。また、診断処理部65Aは、垂直ブランキング期間において、テストデータ生成部62Aが生成したテストデータTSを選択することを指示する選択制御信号SEL2を生成する。また、診断処理部65Aは、垂直ブランキング期間において、置換部51AがテストデータTSを4つの画像データDD0~DD3としてそれぞれ出力することを指示する制御信号CTLを生成する。診断処理部65Aは、垂直ブランキング期間において、比較部67A,68Aが比較動作を行うことを指示する制御信号CTL2を生成する。そして、診断処理部65Aは、垂直ブランキング期間において、論理和回路69Aの出力信号に基づいて、置換部51Aに不具合が生じているかどうかを検出するようになっている。
 ここで、テストデータ生成部62Aは、本開示における「信号生成部」の一具体例に対応する。比較部67A,67Bは、本開示における「第2の比較部」の一具体例に対応する。
 図17は、画像処理部50Aおよび診断部60Aの一動作例を表すものである。
 タイミングt41において、フレーム期間Fが開始し、タイミングt42~t43において、画像処理部50Aは、画像データDB0~DB3に基づいて、画像データDD0~DD3を生成する(図17(B)~(E),(G)~(J),(N)~(Q))。
 そして、タイミングt43~t44の期間(垂直ブランキング期間)において、テストデータ生成部62AがテストデータTSを生成し、セレクタ63Aが、このテストデータTSを置換部51に供給する。置換部51Aは、このテストデータTSを、4つの画像データDD0~DD3としてそれぞれ出力する(図17(N)~(Q))。
 タイミングt43~t44の期間において、比較部67Aは、画像データDD0および画像データDD2を互いに比較し、比較部68Aは、画像データDD1および画像データDD3を互いに比較する。置換部51Aに不具合が生じていない場合には、画像データDD0および画像データDD2は互いに同じであることが期待され、画像データDD1および画像データDD3は互いに同じであることが期待される。この場合には、論理和回路69Aは、“0”を出力する。これにより、診断結果収集部26は、エラー信号ERRを低レベルに維持する(図17(M))。
 置換部51Aに不具合が生じている場合には、例えば画像データDD0および画像データDD2が互いに一致せず、あるいは、画像データDD1および画像データDD3が互いに一致しない。この場合には、論理和回路69Aが“1”を出力するので、診断処理部65Aは、置換部51Aに不具合が生じていると診断する。そして、診断処理部65Aは、この診断結果を含む診断データINF3を診断結果収集部26に供給する。
 撮像装置2Aでは、テストデータ生成部62Aおよび比較部67A,68Aを設け、例えば垂直ブランキング期間において、置換部51Aが、テストデータ生成部62Aが生成した、所定の信号パターンを有するテストデータTSを画像データDD0~DD3としてそれぞれ出力するようにした。そして、比較部67Aは、画像データDD0および画像データDD2を互いに比較し、比較部68Aは、画像データDD1および画像データDD3を互いに比較するようにした。これにより、撮像装置2Aでは、置換部51Aの不具合を検出することができる。
 なお、この例では、比較部67Aが画像データDD0および画像データDD2を互いに比較し、比較部68Aが画像データDD1および画像データDD3を互いに比較したが、これに限定されるものではない。これに代えて、例えば、比較部67Aが画像データDD0および画像データDD1を互いに比較し、比較部68Aが画像データDD2および画像データDD3を互いに比較してもよい。
 また、この例では、2つの比較部67A,67Bを設けたが、これに限定されるものではない。これに代えて、例えば、1つの比較部を設け、この比較部が、4つの画像データDD0~DD3が互いに一致するかどうかを比較してもよい。
 また、この例では、テストデータ生成部62Aが1つのテストデータTSを生成したが、これに限定されるものではない。これに代えて、例えば、テストデータ生成部が互いに異なる2つのテストデータTS(テストデータTS1,TS2)を生成し、置換部51Aが、テストデータTS1を画像データDD0,DD2としてそれぞれ出力し、テストデータTS2を画像データDD1,DD3としてそれぞれ出力してもよい。
[変形例2-2]
 上記実施の形態に係る撮像装置2に、上記第1の実施の形態の各変形例を適用してもよい。
[その他の変形例]
 また、これらの変形例のうちの2以上を組み合わせてもよい。
<3.撮像装置の使用例>
 図18は、上記実施の形態に係る撮像装置1,2の使用例を表すものである。上述した撮像装置1は、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、テレビジョンや、冷蔵庫、エアーコンディショナ等の家電に供される装置
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置
<4.移動体への応用例>
 本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図19は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
 車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図19に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
 駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
 ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
 撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
 車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
 マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
 音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図19の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
 図20は、撮像部12031の設置位置の例を示す図である。
 図20では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
 撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図20には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
 撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
 例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
 撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
 以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031に適用され得る。これにより、車両制御システム12000では、撮像部12031の不具合を高い精度で検出することができる。その結果、車両制御システム12000では、車両の衝突回避あるいは衝突緩和機能、車間距離に基づく追従走行機能、車速維持走行機能、車両の衝突警告機能、車両のレーン逸脱警告機能等に不具合が生じた場合でも、その不具合を検出することができ、システムの堅牢性を高めることができる。
 以上、実施の形態および変形例、ならびにそれらの具体的な応用例を挙げて本技術を説明したが、本技術はこれらの実施の形態等には限定されず、種々の変形が可能である。
 例えば、上記の各実施の形態では、4つの画素PR,PGr,PGb,PBを用いて画素アレイ11を構成したが、これに限定されるものではない。これに代えて、例えば3つの画素(赤色の画素PR、緑色の画素PG、および青色の画素PB)を用いて画素アレイを構成してもよい。
 なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
 なお、本技術は以下のような構成とすることができる。以下の構成の本技術によれば、通常動作時に診断を行うことができる。
(1)複数の第1の信号に対応して設けられ、それぞれが、前記複数の第1の信号のうちの対応する前記第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能な複数の第1の処理部と、
 前記複数の第1の処理部のうちのいずれか1つを選択可能であり、その選択結果に応じた選択制御信号を生成可能な制御部と、
 前記選択制御信号に基づいて、前記複数の第1の信号のうちの、選択された前記第1の処理部に供給される前記第1の信号を選択可能な第1の選択部と、
 前記複数の第1の信号のうちの、前記第1の選択部により選択された前記第1の信号に基づいて、前記所定の処理を行うことにより第3の信号を生成可能な第2の処理部と、
 前記選択制御信号に基づいて、複数の前記第2の信号のうちの、選択された前記第1の処理部により生成された前記第2の信号を選択可能な第2の選択部と、
 前記第3の信号と、前記複数の第2の信号のうちの、前記第2の選択部により選択された前記第2の信号とを比較可能な第1の比較部と
 を備えた信号処理装置。
(2)前記制御部は、前記第1の比較部における比較結果に基づいて、前記複数の第1の処理部および前記第2の処理部を診断可能である
 前記(1)に記載の信号処理装置。
(3)前記制御部は、前記複数の第1の処理部のうちの一の処理部が選択されたときに、前記第1の比較部における比較結果が不一致を示し、前記一の処理部以外の複数の前記第1の処理部のうちの1以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が一致を示す場合には、前記一の処理部に不具合が生じていると診断可能である
 前記(2)に記載の信号処理装置。
(4)前記制御部は、前記複数の第1の処理部のうちの2以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が不一致を示す場合には、前記第2の処理部に不具合が生じていると診断可能である
 前記(1)または(2)に記載の信号処理装置。
(5)制御信号に基づいて、前記複数の第2の信号のうちの1つを前記第3の信号に置き換えることにより複数の第4の信号を生成可能な置換部をさらに備え、
 前記制御部は、診断した結果に基づいて、前記制御信号を生成可能である
 前記(2)に記載の信号処理装置。
(6)前記置換部は、前記複数の前記第1の処理部に対応して設けられ、それぞれが、前記制御信号に基づいて、前記第3の信号、および前記複数の第1の処理部のうちの対応する前記第1の処理部から出力された前記第2の信号のうちの一方を選択可能な複数の第3の選択部を有する
 前記(5)に記載の信号処理装置。
(7)前記制御部は、前記複数の第1の処理部のうちの一の処理部が選択されたときに、前記第1の比較部における比較結果が不一致を示し、前記一の処理部以外の複数の前記第1の処理部のうちの1以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が一致を示す場合には、前記複数の第1の処理部のうちの前記一の処理部を選択可能であり、その選択結果に応じた前記選択制御信号を生成可能であり、前記置換部が前記一の処理部により生成された前記第2の信号を前記第3の信号に置き換えることを指示する前記制御信号を生成可能である
 前記(5)または(6)に記載の信号処理装置。
(8)前記制御部は、前記複数の第1の処理部のうちの2以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が不一致を示す場合には、前記置換部が前記複数の第2の信号を前記複数の第4の信号として出力することを指示する前記制御信号を生成可能である
 前記(5)から(7)のいずれかに記載の信号処理装置。
(9)第5の信号を生成可能な信号生成部と、
 前記複数の第4の信号に基づいて比較動作を行うことが可能な第2の比較部と
 をさらに備え、
 前記複数の第1の処理部のそれぞれは、第1の期間において前記所定の処理を行うことが可能であり、
 前記置換部は、前記第1の期間の期間外における第2の期間において、前記第5の信号を、前記複数の第4の信号のうちの2以上の信号として出力することが可能であり、
 前記第2の比較部は、前記2以上の信号を互いに比較可能である
 前記(5)から(8)のいずれかに記載の信号処理装置。
(10)前記第1の比較部における比較結果に応じた信号を出力可能な出力部をさらに備えた
 前記(1)から(9)のいずれかに記載の信号処理装置。
(11)前記所定の処理は、ゲイン調整処理、ホワイトバランス調整処理、黒レベル調整処理、HDR合成処理、ノイズ除去処理、画素欠陥補正処理のうちの少なくとも1つを含む
 前記(1)から(10)のいずれかに記載の信号処理装置。
(12)複数の第1の信号に対応して設けられた複数の第1の処理部のそれぞれが、前記複数の第1の信号のうちの対応する前記第1の信号に基づいて所定の処理を行うことにより第2の信号を生成することと、
 前記複数の第1の処理部のうちのいずれか1つを選択し、その選択結果に応じた選択制御信号を生成することと、
 前記選択制御信号に基づいて、前記複数の第1の信号のうちの、選択された前記第1の処理部に供給される前記第1の信号を選択することと、
 第2の処理部が、前記複数の第1の信号のうちの選択された前記第1の信号に基づいて、前記所定の処理を行うことにより第3の信号を生成することと、
 前記選択制御信号に基づいて、複数の前記第2の信号のうちの、選択された前記第1の処理部により生成された前記第2の信号を選択することと、
 前記第3の信号と、前記複数の第2の信号のうちの選択された前記第2の信号とを比較することと
 を含む信号処理方法。
(13)撮像動作を行うことにより、複数の第1の信号を含む画像信号を生成可能な撮像部と、
 前記複数の第1の信号に対応して設けられ、それぞれが、前記複数の第1の信号のうちの対応する前記第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能な複数の第1の処理部と、
 前記複数の第1の処理部のうちのいずれか1つを選択可能であり、その選択結果に応じた選択制御信号を生成可能な制御部と、
 前記選択制御信号に基づいて、前記複数の第1の信号のうちの、選択された前記第1の処理部に供給される前記第1の信号を選択可能な第1の選択部と、
 前記複数の第1の信号のうちの、前記第1の選択部により選択された前記第1の信号に基づいて、前記所定の処理を行うことにより第3の信号を生成可能な第2の処理部と、
 前記選択制御信号に基づいて、複数の前記第2の信号のうちの、選択された前記第1の処理部により生成された前記第2の信号を選択可能な第2の選択部と、
 前記第3の信号と、前記複数の第2の信号のうちの、前記第2の選択部により選択された前記第2の信号とを比較可能な第1の比較部と
 を備えた撮像装置。
 本出願は、日本国特許庁において2019年8月8日に出願された日本特許出願番号2019-146248号を基礎として優先権を主張するものであり、この出願のすべての内容を参照によって本出願に援用する。
 当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。

Claims (13)

  1.  複数の第1の信号に対応して設けられ、それぞれが、前記複数の第1の信号のうちの対応する前記第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能な複数の第1の処理部と、
     前記複数の第1の処理部のうちのいずれか1つを選択可能であり、その選択結果に応じた選択制御信号を生成可能な制御部と、
     前記選択制御信号に基づいて、前記複数の第1の信号のうちの、選択された前記第1の処理部に供給される前記第1の信号を選択可能な第1の選択部と、
     前記複数の第1の信号のうちの、前記第1の選択部により選択された前記第1の信号に基づいて、前記所定の処理を行うことにより第3の信号を生成可能な第2の処理部と、
     前記選択制御信号に基づいて、複数の前記第2の信号のうちの、選択された前記第1の処理部により生成された前記第2の信号を選択可能な第2の選択部と、
     前記第3の信号と、前記複数の第2の信号のうちの、前記第2の選択部により選択された前記第2の信号とを比較可能な第1の比較部と
     を備えた信号処理装置。
  2.  前記制御部は、前記第1の比較部における比較結果に基づいて、前記複数の第1の処理部および前記第2の処理部を診断可能である
     請求項1に記載の信号処理装置。
  3.  前記制御部は、前記複数の第1の処理部のうちの一の処理部が選択されたときに、前記第1の比較部における比較結果が不一致を示し、前記一の処理部以外の複数の前記第1の処理部のうちの1以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が一致を示す場合には、前記一の処理部に不具合が生じていると診断可能である
     請求項2に記載の信号処理装置。
  4.  前記制御部は、前記複数の第1の処理部のうちの2以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が不一致を示す場合には、前記第2の処理部に不具合が生じていると診断可能である
     請求項2に記載の信号処理装置。
  5.  制御信号に基づいて、前記複数の第2の信号のうちの1つを前記第3の信号に置き換えることにより複数の第4の信号を生成可能な置換部をさらに備え、
     前記制御部は、診断した結果に基づいて、前記制御信号を生成可能である
     請求項2に記載の信号処理装置。
  6.  前記置換部は、前記複数の前記第1の処理部に対応して設けられ、それぞれが、前記制御信号に基づいて、前記第3の信号、および前記複数の第1の処理部のうちの対応する前記第1の処理部から出力された前記第2の信号のうちの一方を選択可能な複数の第3の選択部を有する
     請求項5に記載の信号処理装置。
  7.  前記制御部は、前記複数の第1の処理部のうちの一の処理部が選択されたときに、前記第1の比較部における比較結果が不一致を示し、前記一の処理部以外の複数の前記第1の処理部のうちの1以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が一致を示す場合には、前記複数の第1の処理部のうちの前記一の処理部を選択可能であり、その選択結果に応じた前記選択制御信号を生成可能であり、前記置換部が前記一の処理部により生成された前記第2の信号を前記第3の信号に置き換えることを指示する前記制御信号を生成可能である
     請求項5に記載の信号処理装置。
  8.  前記制御部は、前記複数の第1の処理部のうちの2以上の処理部が順次選択されたときに、前記第1の比較部における比較結果が不一致を示す場合には、前記置換部が前記複数の第2の信号を前記複数の第4の信号として出力することを指示する前記制御信号を生成可能である
     請求項5に記載の信号処理装置。
  9.  第5の信号を生成可能な信号生成部と、
     前記複数の第4の信号に基づいて比較動作を行うことが可能な第2の比較部と
     をさらに備え、
     前記複数の第1の処理部のそれぞれは、第1の期間において前記所定の処理を行うことが可能であり、
     前記置換部は、前記第1の期間の期間外における第2の期間において、前記第5の信号を、前記複数の第4の信号のうちの2以上の信号として出力することが可能であり、
     前記第2の比較部は、前記2以上の信号を互いに比較可能である
     請求項5に記載の信号処理装置。
  10.  前記第1の比較部における比較結果に応じた信号を出力可能な出力部をさらに備えた
     請求項1に記載の信号処理装置。
  11.  前記所定の処理は、ゲイン調整処理、ホワイトバランス調整処理、黒レベル調整処理、HDR合成処理、ノイズ除去処理、画素欠陥補正処理のうちの少なくとも1つを含む
     請求項1に記載の信号処理装置。
  12.  複数の第1の信号に対応して設けられた複数の第1の処理部のそれぞれが、前記複数の第1の信号のうちの対応する前記第1の信号に基づいて所定の処理を行うことにより第2の信号を生成することと、
     前記複数の第1の処理部のうちのいずれか1つを選択し、その選択結果に応じた選択制御信号を生成することと、
     前記選択制御信号に基づいて、前記複数の第1の信号のうちの、選択された前記第1の処理部に供給される前記第1の信号を選択することと、
     第2の処理部が、前記複数の第1の信号のうちの選択された前記第1の信号に基づいて、前記所定の処理を行うことにより第3の信号を生成することと、
     前記選択制御信号に基づいて、複数の前記第2の信号のうちの、選択された前記第1の処理部により生成された前記第2の信号を選択することと、
     前記第3の信号と、前記複数の第2の信号のうちの選択された前記第2の信号とを比較することと
     を含む信号処理方法。
  13.  撮像動作を行うことにより、複数の第1の信号を含む画像信号を生成可能な撮像部と、
     前記複数の第1の信号に対応して設けられ、それぞれが、前記複数の第1の信号のうちの対応する前記第1の信号に基づいて所定の処理を行うことにより第2の信号を生成可能な複数の第1の処理部と、
     前記複数の第1の処理部のうちのいずれか1つを選択可能であり、その選択結果に応じた選択制御信号を生成可能な制御部と、
     前記選択制御信号に基づいて、前記複数の第1の信号のうちの、選択された前記第1の処理部に供給される前記第1の信号を選択可能な第1の選択部と、
     前記複数の第1の信号のうちの、前記第1の選択部により選択された前記第1の信号に基づいて、前記所定の処理を行うことにより第3の信号を生成可能な第2の処理部と、
     前記選択制御信号に基づいて、複数の前記第2の信号のうちの、選択された前記第1の処理部により生成された前記第2の信号を選択可能な第2の選択部と、
     前記第3の信号と、前記複数の第2の信号のうちの、前記第2の選択部により選択された前記第2の信号とを比較可能な第1の比較部と
     を備えた撮像装置。
PCT/JP2020/028156 2019-08-08 2020-07-20 信号処理装置、信号処理方法、および撮像装置 WO2021024784A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US17/623,712 US11924568B2 (en) 2019-08-08 2020-07-20 Signal processing device, signal processing method, and imaging apparatus
CN202080045531.6A CN114009013A (zh) 2019-08-08 2020-07-20 信号处理装置、信号处理方法以及成像装置
DE112020003760.6T DE112020003760T5 (de) 2019-08-08 2020-07-20 Signalverarbeitungsvorrichtung, signalverarbeitungsverfahren und bildgebungseinrichtung

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019146248A JP2021027543A (ja) 2019-08-08 2019-08-08 信号処理装置、信号処理方法、および撮像装置
JP2019-146248 2019-08-08

Publications (1)

Publication Number Publication Date
WO2021024784A1 true WO2021024784A1 (ja) 2021-02-11

Family

ID=74503495

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/028156 WO2021024784A1 (ja) 2019-08-08 2020-07-20 信号処理装置、信号処理方法、および撮像装置

Country Status (5)

Country Link
US (1) US11924568B2 (ja)
JP (1) JP2021027543A (ja)
CN (1) CN114009013A (ja)
DE (1) DE112020003760T5 (ja)
WO (1) WO2021024784A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114009007A (zh) * 2019-06-28 2022-02-01 索尼半导体解决方案公司 发送装置、接收装置和传输系统
JPWO2022244508A1 (ja) * 2021-05-19 2022-11-24

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06233332A (ja) * 1993-02-08 1994-08-19 Nec Corp Ccdカメラ信号処理回路テスト用の信号発生器
JPH09101903A (ja) * 1995-10-05 1997-04-15 Hitachi Ltd 情報処理システム及び多重度制御方法並びに電磁波センサ
JP2005274384A (ja) * 2004-03-25 2005-10-06 Hitachi High-Technologies Corp 画像処理装置およびウエハ外観検査装置
US20150339130A1 (en) * 2013-02-19 2015-11-26 Empire Technology Development Llc Testing and repair of a hardware accelerator image in a programmable logic circuit
JP2019004361A (ja) * 2017-06-16 2019-01-10 ソニーセミコンダクタソリューションズ株式会社 信号処理装置および方法、並びにプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017126811A (ja) * 2016-01-12 2017-07-20 ソニー株式会社 画像データ処理回路および撮像回路
JP2019146071A (ja) * 2018-02-22 2019-08-29 ソニーセミコンダクタソリューションズ株式会社 撮像装置、撮像システム、および撮像方法
JP7260990B2 (ja) * 2018-10-26 2023-04-19 キヤノン株式会社 撮像装置及び撮像システム
JP6641052B2 (ja) 2019-04-25 2020-02-05 マクセル株式会社 放送受信装置及びコンテンツ出力方法
JP2020194361A (ja) 2019-05-28 2020-12-03 パナソニックIpマネジメント株式会社 交通情報生成システム、交通情報生成装置、交通情報生成方法、交通情報生成プログラム、車両感知器および交通情報表示装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06233332A (ja) * 1993-02-08 1994-08-19 Nec Corp Ccdカメラ信号処理回路テスト用の信号発生器
JPH09101903A (ja) * 1995-10-05 1997-04-15 Hitachi Ltd 情報処理システム及び多重度制御方法並びに電磁波センサ
JP2005274384A (ja) * 2004-03-25 2005-10-06 Hitachi High-Technologies Corp 画像処理装置およびウエハ外観検査装置
US20150339130A1 (en) * 2013-02-19 2015-11-26 Empire Technology Development Llc Testing and repair of a hardware accelerator image in a programmable logic circuit
JP2019004361A (ja) * 2017-06-16 2019-01-10 ソニーセミコンダクタソリューションズ株式会社 信号処理装置および方法、並びにプログラム

Also Published As

Publication number Publication date
DE112020003760T5 (de) 2022-05-05
JP2021027543A (ja) 2021-02-22
US11924568B2 (en) 2024-03-05
CN114009013A (zh) 2022-02-01
US20220264041A1 (en) 2022-08-18

Similar Documents

Publication Publication Date Title
JP2021093759A (ja) 撮像装置及び撮像装置の制御方法
JPWO2019123738A1 (ja) センサチップ、電子機器、及び装置
WO2021024784A1 (ja) 信号処理装置、信号処理方法、および撮像装置
WO2017195459A1 (ja) 撮像装置、および撮像方法
WO2018008426A1 (ja) 信号処理装置および方法、並びに撮像装置
WO2019230217A1 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
WO2021060118A1 (ja) 撮像装置
WO2018207666A1 (ja) 撮像素子及びその駆動方法、並びに、電子機器
JPWO2020170565A1 (ja) 信号処理方法および撮像装置
JP2020118569A (ja) 受光装置および測距装置
WO2018105372A1 (ja) 固体撮像装置、駆動方法、および電子機器
WO2019187684A1 (ja) 固体撮像素子、テストシステム、および、固体撮像素子の制御方法
WO2018139187A1 (ja) 固体撮像装置およびその駆動方法、並びに電子機器
WO2020153272A1 (ja) 測定装置、測距装置および測定方法
WO2020149094A1 (ja) 撮像装置、撮像システムおよび故障検出方法
WO2021182190A1 (ja) 撮像装置、撮像システム及び撮像方法
US20210217146A1 (en) Image processing apparatus and image processing method
US20220224830A1 (en) Imaging device and imaging method
WO2018211985A1 (ja) 撮像素子、および撮像素子の制御方法、撮像装置、並びに電子機器
WO2019208204A1 (ja) 撮像装置
US20200014899A1 (en) Imaging device, imaging system, and method of controlling imaging device
WO2022158246A1 (ja) 撮像装置
WO2022219874A1 (ja) 信号処理装置および方法、並びにプログラム
JP2018113615A (ja) 固体撮像素子、駆動方法、および電子機器
US20240078803A1 (en) Information processing apparatus, information processing method, computer program, and sensor apparatus

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20850254

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 20850254

Country of ref document: EP

Kind code of ref document: A1