WO2021029252A1 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
WO2021029252A1
WO2021029252A1 PCT/JP2020/029675 JP2020029675W WO2021029252A1 WO 2021029252 A1 WO2021029252 A1 WO 2021029252A1 JP 2020029675 W JP2020029675 W JP 2020029675W WO 2021029252 A1 WO2021029252 A1 WO 2021029252A1
Authority
WO
WIPO (PCT)
Prior art keywords
clock
imaging
unit
image
data
Prior art date
Application number
PCT/JP2020/029675
Other languages
English (en)
French (fr)
Inventor
恭二 横山
良仁 浴
Original Assignee
ソニーセミコンダクタソリューションズ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ソニーセミコンダクタソリューションズ株式会社 filed Critical ソニーセミコンダクタソリューションズ株式会社
Priority to US17/632,768 priority Critical patent/US20220279134A1/en
Publication of WO2021029252A1 publication Critical patent/WO2021029252A1/ja

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/745—Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination

Definitions

  • the present disclosure relates to an imaging device and an imaging method.
  • the image pickup device generally drives an image pickup device at a timing synchronized with an internal clock having a predetermined fixed frequency to capture an image (see, for example, Patent Document 1).
  • the internal clock of the imaging device is different for each imaging device. Therefore, the imaging device may not be able to capture an image in cooperation with another imaging device.
  • an imaging device and an imaging method capable of capturing an image in cooperation with another imaging device are proposed.
  • an imaging device includes an image pickup unit, a data acquisition unit, a clock generation unit, and a control unit.
  • the image pickup unit captures an image and generates image data.
  • the data acquisition unit acquires clock data related to an operating clock shared with other imaging devices.
  • the clock generation unit generates the operation clock based on the clock data acquired by the data acquisition unit.
  • the control unit controls the operation of the imaging unit based on the operation clock generated by the clock generation unit.
  • the image pickup device according to the present disclosure is provided in a smartphone
  • the image pickup device according to the present disclosure can be any arbitrary such as a digital still camera, a digital video camera, and a PDA (Personal Digital Assistant) with a camera function. Installed in electronic devices.
  • FIG. 1 is a block diagram showing a configuration example of the image pickup apparatus 1 according to the present disclosure.
  • the image pickup apparatus 1 includes an image pickup unit 2, a data acquisition unit 3, a clock generation unit 4, a control unit 5, and an I / F (interface) 6.
  • the image pickup unit 2 includes a plurality of image pickup pixels arranged in two dimensions, and is controlled by the control unit 5 to expose each image pickup pixel to acquire an image.
  • the image pickup unit 2 photoelectrically converts the light from the subject received by each image pickup pixel into a signal charge according to the amount of light received, and analog / digitally converts an analog pixel signal corresponding to the signal charge into a digital pixel signal. Generate image data.
  • the image pickup unit 2 outputs the image data of the captured image from the data output terminal via the I / F 6 to, for example, an external memory or a display device.
  • the data acquisition unit 3 is, for example, a GPS (Global Positioning System) receiver, and receives and acquires clock data related to an operating clock shared with other imaging devices 101 to 103 from GPS satellites 100 by an antenna 10.
  • the clock data includes a global clock GCK shared by a plurality of GPS satellites 100, time data indicating an absolute time, and the like.
  • FIG. 2 is an explanatory diagram showing an arrangement of antennas included in the image pickup apparatus 1 according to the present disclosure.
  • the antenna 10 of the imaging device 1 is arranged around the light receiving region of the imaging unit 2.
  • the imaging device 1 is provided with an opening for taking in external light at a location where the light receiving region of the imaging unit 2 is provided. Therefore, in the imaging device 1, by arranging the antenna 10 around the light receiving region of the imaging unit 2, it is possible to prevent the radio waves transmitted from the GPS satellite 100 from being blocked by the housing of the imaging device 1 or the like. it can.
  • the data acquisition unit 3 can reliably acquire the clock data related to the global clock GCK that is common throughout the world.
  • the data acquisition unit 3 outputs the acquired clock data to the clock generation unit 4.
  • the position where the antenna 10 is provided is not limited to the periphery of the light receiving region of the imaging unit 2 shown in FIG. 2, and can be any position as long as the signal transmitted from the GPS satellite 100 can be received. You can.
  • the clock generation unit 4 includes a PLL (Phase Locked Loop) circuit that generates the operation clock of the image pickup apparatus 1, a compensation circuit that compensates for the generated operation clock, and the like.
  • the clock generation unit 4 generates an operation clock of the image pickup apparatus based on the clock data acquired by the data acquisition unit 3.
  • the clock generation unit 4 compensates for the operation clock to be generated so as to synchronize with the operation clock used by the other imaging devices 101 to 103. As a result, the clock generation unit 4 can generate the same operating clock as the operating clock used by the other imaging devices 101 to 103.
  • the clock generation unit 4 compensates for the operating clock based on the characteristics of each circuit element constituting the imaging device 1, the operating voltage, and the temperature of the imaging device 1 detected by the temperature sensor (not shown).
  • the clock generation unit 4 has a phase between the operating clock of the imaging device 1 caused by individual differences in the circuit elements, changes in the operating speed due to fluctuations in the operating voltage and temperature, and the operating clocks of the other imaging devices 101 to 103. It is possible to eliminate the deviation of.
  • the clock generation unit 4 also compensates for eliminating the difference between the time-advancing speed of the GPS satellite 100 moving at high speed and the time-advancing speed on the ground. As a result, the clock generation unit 4 can generate an operation clock of the image pickup device 1 that is accurately synchronized with the operation clocks of the other image pickup devices 101 to 103. The clock generation unit 4 outputs the generated operation clock and time data indicating the absolute time included in the clock data to the control unit 5.
  • the control unit 5 includes, for example, a microcomputer having a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and various circuits.
  • the control unit 5 may be configured by hardware such as an ASIC (Application Specific Integrated Circuit) or an FPGA (Field Programmable Gate Array).
  • the control unit 5 controls the operation of the imaging unit 2 based on the operation clock generated by the clock generation unit 4 by executing the information processing program stored in the ROM by the CPU using the RAM as a work area. To do.
  • control unit 5 can collaborate to capture an image at a timing completely synchronized with the other imaging devices 101 to 103.
  • the application in which the image pickup device 1 captures an image in cooperation with other image pickup devices 101 to 103 and the like will be described later with reference to FIGS. 4 to 7.
  • the control unit 5 can also control the image pickup unit 2 based on the internal clock (INCK) input from the input terminal.
  • control unit 5 outputs the time data input from the clock generation unit 4 to the I / F 6, and adds the time data when the image was captured to the image data generated by the image pickup unit 2. It is output to the outside of the image pickup apparatus 1. An example of the use of the time data added to the image data will be described later with reference to FIG.
  • the control unit 5 can also externally output the operation clock input from the clock generation unit 4.
  • the image pickup device 1 does not have to include an external port that outputs an operating clock to the outside.
  • the image pickup device 1 cannot acquire clock data from the GPS satellite 100 in an environment such as indoors where radio waves cannot be received. Therefore, the image pickup apparatus 1 includes a detection pixel 21 that detects blinking light. Then, the clock generation unit 4 generates an operation clock based on the blinking light detected by the detection pixel 21.
  • FIG. 3 is an explanatory diagram of a situation in which an operating clock is generated based on the blinking light according to the present disclosure.
  • the image pickup device 1 and the other image pickup device 101 are inside the building 110, for example, they cannot receive radio waves from the GPS satellite 100, so that they cannot acquire clock data. ..
  • the image pickup device 1 and the other image pickup device 101 detect, for example, the flashing light Fs emitted from the flicker light sources 111 and 112 that blink according to the frequency of the commercial power supply CPS supplied from the electric power company PS (FIG. 1). See).
  • the detection pixel 21 of the image pickup device 1 and the other image pickup device 101 outputs information indicating the reception timing of the blinking light Fs to the clock generation unit 4 (see FIG. 1).
  • the clock generation unit 4 of the image pickup device 1 and another image pickup device 101 generates an operation clock based on the blinking cycle of the blinking light Fs detected by the detection pixel 21.
  • the image pickup device 1 can synchronize with the other image pickup device 101 by operating based on the operation clock generated by the clock generation unit 4, and thus cooperates with the other image pickup device 101.
  • the image can be captured.
  • the blinking cycle of the blinking light Fs may be disturbed, for example, when noise is superimposed on the commercial power supply CPS.
  • the frequency of the commercial power supply CPS is determined by the electric power company PS for each region.
  • the clock generation unit 4 compensates for the operating clock based on the current position (region) of the image pickup apparatus 1 and the frequency of the commercial power supply CPS defined in that region. As a result, the clock generation unit 4 can generate an operating clock synchronized with the frequency of the commercial power supply CPS even when noise is superimposed on the commercial power supply CPS.
  • the detection pixel 21 is provided in the imaging region in which the imaging pixels for capturing the image of the imaging unit 2 are arranged. That is, the image pickup apparatus 1 uses a part of the image pickup pixels as the detection pixels 21. As a result, the image pickup apparatus 1 does not need to separately provide the detection pixels 21 for detecting the blinking light Fs, so that the increase in cost can be suppressed.
  • the detection pixels 21 may be provided outside the imaging region in which the imaging pixels for capturing the image of the imaging unit 2 are arranged. In the case of such a configuration, the image pickup apparatus 1 can capture an image using all the imaging pixels in the imaging region, so that a high-quality image can be captured.
  • FIGS. 4 to 7. 4 to 7 are explanatory views of the use of the image pickup apparatus according to the present disclosure.
  • the imaging device 1 uses the same operating clock as the other imaging devices 101 to 103 to simultaneously image the same subject. Then, the image reading timings of the four image pickup devices 1, 101 to 103 are slightly shifted.
  • the image pickup device 1 reads out the uppermost partial image P11 among the partial images P11 to P14 obtained by dividing the captured image into four in the vertical direction, and the other image pickup device 101 reads the uppermost partial image P11, and the other image pickup device 101 reads the partial image P11 in the second row from the top.
  • the second-stage partial image P13 is read from the other imaging device 102, and the lowest-stage partial image P14 is read from the other imaging device 103. Then, for example, the image synthesizer synthesizes the four partial images P11 to P14 to generate the composite image P15.
  • the influence of the rolling shutter can be minimized by capturing N partial images with N imaging devices and generating a composite image.
  • both the captured images P1 and P2 are accurately captured at the same time by the captured images P1 and the time data captured by the imaging device 1 and the captured images P2 and the time data captured by the other imaging device 101. It can be guaranteed that the image is a new one.
  • the captured image P2 captured by another imaging device 101 is illicitly processed to generate the processed image P3, the captured image P1, the processed image P3, and the time data are collated. , It can be proved that one of them has been tampered with.
  • the two image pickup devices 1 when two image pickup devices 1 are mounted on one smartphone, the two image pickup devices 1 simultaneously capture images using a common operation clock, so that both captured images are accurately at the same time. It can be guaranteed that the image is captured in.
  • LiDAR Light Detection And Ringing
  • LiDAR is a device that irradiates the surroundings with a laser beam that emits pulsed light, receives the laser beam reflected by the target, and analyzes the distance to the target and the like.
  • the image pickup device 1 receives a strong laser beam from the LiDAR and cannot image the subject. Occurs.
  • the above problem is solved by operating all the imaging devices 1 and all LiDAR with a common operating clock. For example, as shown in FIG. 6, the first to nth LiDAR intermittently irradiate the laser beam at the same timing using the same operating clock.
  • the first image pickup apparatus receives the laser light by exposing it to the non-irradiation period of the laser light by all the LiDAR by using the same operation clock as the operation clock used by all the LiDAR.
  • the subject can be imaged without doing anything.
  • the second image pickup apparatus can also image the subject without receiving the laser beam by exposing the second image pickup device during the non-irradiation period of the laser beam by all LiDAR.
  • the image pickup apparatus 1 operates based on the operation clock generated based on the blinking cycle of the blinking light Fs detected by the detection pixel 21 shown in FIG. 3, the light emitted from the flicker light sources 111 and 112 is emitted. It can be used, for example, to perform the communication shown in FIG.
  • the information providing company CP requests the electric power company PS to distribute information.
  • the electric power company PS modulates the information requested to be distributed by the information provider CP to the commercial power source, modulates it into a signal synchronized with the frequency of the commercial power source, superimposes it on the commercial power source, and supplies it to the building 110 as a commercial power source CPSD with information.
  • the image pickup apparatus 1 can receive the information provided by the information providing company CP by receiving the blinking light Fsd emitted from the flicker light source 111 and demodulating the modulated information. Further, the other imaging devices 101 to 103 that use the same operating clock as the imaging device 1 can also receive the information provided by the information providing company CP.
  • the image pickup apparatus 1 is directed to another image pickup apparatus 101 that uses the same operation clock as the image pickup apparatus 1, for example, by blinking a flash like a Morse code at a timing synchronized with the operation clock. It is also possible to transmit information to the image pickup apparatus 101.
  • FIG. 8 is a flowchart showing an example of processing executed by the imaging apparatus according to the present disclosure.
  • the imaging device 1 acquires clock data related to the operating clock shared with the other imaging devices 101 to 103 by the data acquisition unit 3 (step S101). After that, the image pickup apparatus 1 generates an operation clock by the clock generation unit 4 based on the clock data (step S102).
  • the image pickup apparatus 1 controls the operation of the image pickup unit 2 based on the operation clock (step S103). Then, the imaging device 1 collaborates with the other imaging devices 101 to 103 to capture an image at the timing synchronized with the other imaging devices 101 to 103 (step S104), and ends the process.
  • the technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure is realized as a device mounted on a moving body of any kind such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, a personal mobility, an airplane, a drone, a ship, and a robot. You may.
  • FIG. 9 is a block diagram showing a schematic configuration example of a vehicle control system, which is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • the vehicle control system 12000 includes a plurality of electronic control units connected via the communication network 12001.
  • the vehicle control system 12000 includes a drive system control unit 12010, a body system control unit 12020, an outside information detection unit 12030, an in-vehicle information detection unit 12040, and an integrated control unit 12050.
  • a microcomputer 12051, an audio image output unit 12052, and an in-vehicle network I / F (interface) 12053 are shown as a functional configuration of the integrated control unit 12050.
  • the drive system control unit 12010 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 12010 provides a driving force generator for generating the driving force of the vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to the wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism for adjusting and a braking device for generating braking force of the vehicle.
  • the body system control unit 12020 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 12020 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as headlamps, back lamps, brake lamps, blinkers or fog lamps.
  • the body system control unit 12020 may be input with radio waves transmitted from a portable device that substitutes for the key or signals of various switches.
  • the body system control unit 12020 receives inputs of these radio waves or signals and controls a vehicle door lock device, a power window device, a lamp, and the like.
  • the vehicle outside information detection unit 12030 detects information outside the vehicle equipped with the vehicle control system 12000.
  • the image pickup unit 12031 is connected to the vehicle exterior information detection unit 12030.
  • the vehicle outside information detection unit 12030 causes the image pickup unit 12031 to capture an image of the outside of the vehicle and receives the captured image.
  • the vehicle exterior information detection unit 12030 may perform object detection processing or distance detection processing such as a person, a vehicle, an obstacle, a sign, or a character on the road surface based on the received image.
  • the image pickup unit 12031 is an optical sensor that receives light and outputs an electric signal according to the amount of the light received.
  • the imaging unit 12031 can output an electric signal as an image or can output it as distance measurement information. Further, the light received by the imaging unit 12031 may be visible light or invisible light such as infrared light.
  • the in-vehicle information detection unit 12040 detects the in-vehicle information.
  • a driver state detection unit 12041 that detects the driver's state is connected to the in-vehicle information detection unit 12040.
  • the driver state detection unit 12041 includes, for example, a camera that images the driver, and the in-vehicle information detection unit 12040 determines the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 12041. It may be calculated, or it may be determined whether the driver is dozing.
  • the microcomputer 12051 calculates the control target value of the driving force generator, the steering mechanism, or the braking device based on the information inside and outside the vehicle acquired by the vehicle exterior information detection unit 12030 or the vehicle interior information detection unit 12040, and the drive system control unit.
  • a control command can be output to 12010.
  • the microcomputer 12051 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, follow-up driving based on inter-vehicle distance, vehicle speed maintenance driving, vehicle collision warning, vehicle lane deviation warning, and the like. It is possible to perform cooperative control for the purpose of.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 12051 controls the driving force generating device, the steering mechanism, the braking device, and the like based on the information around the vehicle acquired by the outside information detection unit 12030 or the inside information detection unit 12040, so that the driver can control the driver. It is possible to perform coordinated control for the purpose of automatic driving that runs autonomously without depending on the operation.
  • the microcomputer 12051 can output a control command to the body system control unit 12020 based on the information outside the vehicle acquired by the vehicle exterior information detection unit 12030.
  • the microcomputer 12051 controls the headlamps according to the position of the preceding vehicle or the oncoming vehicle detected by the external information detection unit 12030, and performs cooperative control for the purpose of antiglare such as switching the high beam to the low beam. It can be carried out.
  • the audio image output unit 12052 transmits the output signal of at least one of the audio and the image to the output device capable of visually or audibly notifying the passenger or the outside of the vehicle of the information.
  • an audio speaker 12061, a display unit 12062, and an instrument panel 12063 are exemplified as output devices.
  • the display unit 12062 may include, for example, at least one of an onboard display and a heads-up display.
  • FIG. 10 is a diagram showing an example of the installation position of the imaging unit 12031.
  • the vehicle 12100 has image pickup units 12101, 12102, 12103, 12104, 12105 as the image pickup unit 12031.
  • the imaging units 12101, 12102, 12103, 12104, 12105 are provided at positions such as the front nose, side mirrors, rear bumpers, back doors, and the upper part of the windshield in the vehicle interior of the vehicle 12100, for example.
  • the imaging unit 12101 provided on the front nose and the imaging unit 12105 provided on the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 12100.
  • the imaging units 12102 and 12103 provided in the side mirrors mainly acquire images of the side of the vehicle 12100.
  • the imaging unit 12104 provided on the rear bumper or the back door mainly acquires an image of the rear of the vehicle 12100.
  • the images in front acquired by the imaging units 12101 and 12105 are mainly used for detecting a preceding vehicle or a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or the like.
  • FIG. 10 shows an example of the photographing range of the imaging units 12101 to 12104.
  • the imaging range 12111 indicates the imaging range of the imaging unit 12101 provided on the front nose
  • the imaging ranges 12112 and 12113 indicate the imaging ranges of the imaging units 12102 and 12103 provided on the side mirrors, respectively
  • the imaging range 12114 indicates the imaging range of the imaging units 12102 and 12103.
  • the imaging range of the imaging unit 12104 provided on the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 12101 to 12104, a bird's-eye view image of the vehicle 12100 as viewed from above can be obtained.
  • At least one of the imaging units 12101 to 12104 may have a function of acquiring distance information.
  • at least one of the image pickup units 12101 to 12104 may be a stereo camera composed of a plurality of image pickup elements, or may be an image pickup element having pixels for phase difference detection.
  • the microcomputer 12051 has a distance to each three-dimensional object within the imaging range 12111 to 12114 based on the distance information obtained from the imaging units 12101 to 12104, and a temporal change of this distance (relative velocity with respect to the vehicle 12100).
  • a predetermined speed for example, 0 km / h or more.
  • the microcomputer 12051 can set an inter-vehicle distance to be secured in front of the preceding vehicle in advance, and can perform automatic braking control (including follow-up stop control), automatic acceleration control (including follow-up start control), and the like. In this way, it is possible to perform coordinated control for the purpose of automatic driving or the like in which the vehicle travels autonomously without depending on the operation of the driver.
  • the microcomputer 12051 converts three-dimensional object data related to a three-dimensional object into two-wheeled vehicles, ordinary vehicles, large vehicles, pedestrians, electric poles, and other three-dimensional objects based on the distance information obtained from the imaging units 12101 to 12104. It can be classified and extracted and used for automatic avoidance of obstacles. For example, the microcomputer 12051 distinguishes obstacles around the vehicle 12100 into obstacles that can be seen by the driver of the vehicle 12100 and obstacles that are difficult to see. Then, the microcomputer 12051 determines the collision risk indicating the risk of collision with each obstacle, and when the collision risk is equal to or higher than the set value and there is a possibility of collision, the microcomputer 12051 via the audio speaker 12061 or the display unit 12062. By outputting an alarm to the driver and performing forced deceleration and avoidance steering via the drive system control unit 12010, driving support for collision avoidance can be provided.
  • At least one of the imaging units 12101 to 12104 may be an infrared camera that detects infrared rays.
  • the microcomputer 12051 can recognize a pedestrian by determining whether or not a pedestrian is present in the captured image of the imaging units 12101 to 12104.
  • pedestrian recognition includes, for example, a procedure for extracting feature points in an image captured by an imaging unit 12101 to 12104 as an infrared camera, and pattern matching processing for a series of feature points indicating the outline of an object to determine whether or not the pedestrian is a pedestrian. It is done by the procedure to determine.
  • the audio image output unit 12052 determines that the recognized pedestrian has a square contour line for emphasis.
  • the display unit 12062 is controlled so as to superimpose and display. Further, the audio image output unit 12052 may control the display unit 12062 so as to display an icon or the like indicating a pedestrian at a desired position.
  • the above is an example of a vehicle control system to which the technology according to the present disclosure can be applied.
  • the technique according to the present disclosure can be applied to, for example, the imaging unit 12031 among the configurations described above.
  • the image pickup apparatus 1 of FIG. 1 can be applied to the image pickup unit 12031.
  • an image at the moment of a traffic accident can be captured by the imaging unit 12031 mounted on a plurality of vehicles traveling around at exactly the same timing. The captured image can be used for accurate verification of a traffic accident.
  • FIG. 11 is a diagram showing an example of a schematic configuration of an endoscopic surgery system to which the technique according to the present disclosure (the present technique) can be applied.
  • FIG. 11 shows a surgeon (doctor) 11131 performing surgery on patient 11132 on patient bed 11133 using the endoscopic surgery system 11000.
  • the endoscopic surgery system 11000 includes an endoscope 11100, other surgical tools 11110 such as an abdominal tube 11111 and an energy treatment tool 11112, and a support arm device 11120 that supports the endoscope 11100.
  • a cart 11200 equipped with various devices for endoscopic surgery.
  • the endoscope 11100 is composed of a lens barrel 11101 in which a region having a predetermined length from the tip is inserted into the body cavity of the patient 11132, and a camera head 11102 connected to the base end of the lens barrel 11101.
  • the endoscope 11100 configured as a so-called rigid mirror having a rigid barrel 11101 is illustrated, but the endoscope 11100 may be configured as a so-called flexible mirror having a flexible barrel. Good.
  • An opening in which an objective lens is fitted is provided at the tip of the lens barrel 11101.
  • a light source device 11203 is connected to the endoscope 11100, and the light generated by the light source device 11203 is guided to the tip of the lens barrel by a light guide extending inside the lens barrel 11101 to be an objective. It is irradiated toward the observation target in the body cavity of the patient 11132 through the lens.
  • the endoscope 11100 may be a direct endoscope, a perspective mirror, or a side endoscope.
  • An optical system and an image sensor are provided inside the camera head 11102, and the reflected light (observation light) from the observation target is focused on the image sensor by the optical system.
  • the observation light is photoelectrically converted by the image sensor, and an electric signal corresponding to the observation light, that is, an image signal corresponding to the observation image is generated.
  • the image signal is transmitted as RAW data to the camera control unit (CCU: Camera Control Unit) 11201.
  • CCU Camera Control Unit
  • the CCU11201 is composed of a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), and the like, and comprehensively controls the operations of the endoscope 11100 and the display device 11202. Further, the CCU 11201 receives an image signal from the camera head 11102, and performs various image processes on the image signal for displaying an image based on the image signal, such as development processing (demosaic processing).
  • a CPU Central Processing Unit
  • GPU Graphics Processing Unit
  • the display device 11202 displays an image based on the image signal processed by the CCU 11201 under the control of the CCU 11201.
  • the light source device 11203 is composed of, for example, a light source such as an LED (Light Emitting Diode), and supplies irradiation light to the endoscope 11100 when photographing an operating part or the like.
  • a light source such as an LED (Light Emitting Diode)
  • LED Light Emitting Diode
  • the input device 11204 is an input interface for the endoscopic surgery system 11000.
  • the user can input various information and input instructions to the endoscopic surgery system 11000 via the input device 11204.
  • the user inputs an instruction to change the imaging conditions (type of irradiation light, magnification, focal length, etc.) by the endoscope 11100.
  • the treatment tool control device 11205 controls the drive of the energy treatment tool 11112 for cauterizing, incising, sealing a blood vessel, or the like of a tissue.
  • the pneumoperitoneum device 11206 uses gas in the pneumoperitoneum tube 11111 to inflate the body cavity of the patient 11132 for the purpose of securing the field of view by the endoscope 11100 and securing the work space of the operator.
  • the recorder 11207 is a device capable of recording various information related to surgery.
  • the printer 11208 is a device capable of printing various information related to surgery in various formats such as texts, images, and graphs.
  • the light source device 11203 that supplies the irradiation light to the endoscope 11100 when photographing the surgical site can be composed of, for example, an LED, a laser light source, or a white light source composed of a combination thereof.
  • a white light source is configured by combining RGB laser light sources, the output intensity and output timing of each color (each wavelength) can be controlled with high accuracy. Therefore, the light source device 11203 adjusts the white balance of the captured image. It can be carried out.
  • the laser light from each of the RGB laser light sources is irradiated to the observation target in a time-divided manner, and the drive of the image sensor of the camera head 11102 is controlled in synchronization with the irradiation timing to support each of RGB. It is also possible to capture the image in a time-divided manner. According to this method, a color image can be obtained without providing a color filter on the image sensor.
  • the drive of the light source device 11203 may be controlled so as to change the intensity of the output light at predetermined time intervals.
  • the drive of the image sensor of the camera head 11102 in synchronization with the timing of the change of the light intensity to acquire an image in time division and synthesizing the image, so-called high dynamic without blackout and overexposure. Range images can be generated.
  • the light source device 11203 may be configured to be able to supply light in a predetermined wavelength band corresponding to special light observation.
  • special light observation for example, by utilizing the wavelength dependence of light absorption in body tissue to irradiate light in a narrow band as compared with the irradiation light (that is, white light) in normal observation, the mucosal surface layer.
  • a so-called narrow band imaging is performed in which a predetermined tissue such as a blood vessel is photographed with high contrast.
  • fluorescence observation in which an image is obtained by fluorescence generated by irradiating with excitation light may be performed.
  • the body tissue is irradiated with excitation light to observe the fluorescence from the body tissue (autofluorescence observation), or a reagent such as indocyanine green (ICG) is locally injected into the body tissue and the body tissue is injected. It is possible to obtain a fluorescence image by irradiating excitation light corresponding to the fluorescence wavelength of the reagent.
  • the light source device 11203 may be configured to be capable of supplying narrow band light and / or excitation light corresponding to such special light observation.
  • FIG. 12 is a block diagram showing an example of the functional configuration of the camera head 11102 and CCU11201 shown in FIG.
  • the camera head 11102 includes a lens unit 11401, an imaging unit 11402, a driving unit 11403, a communication unit 11404, and a camera head control unit 11405.
  • CCU11201 has a communication unit 11411, an image processing unit 11412, and a control unit 11413.
  • the camera head 11102 and CCU11201 are communicatively connected to each other by a transmission cable 11400.
  • the lens unit 11401 is an optical system provided at a connection portion with the lens barrel 11101.
  • the observation light taken in from the tip of the lens barrel 11101 is guided to the camera head 11102 and incident on the lens unit 11401.
  • the lens unit 11401 is configured by combining a plurality of lenses including a zoom lens and a focus lens.
  • the image pickup unit 11402 is composed of an image pickup element.
  • the image sensor constituting the image pickup unit 11402 may be one (so-called single plate type) or a plurality (so-called multi-plate type).
  • each image pickup element may generate an image signal corresponding to each of RGB, and a color image may be obtained by synthesizing them.
  • the image pickup unit 11402 may be configured to have a pair of image pickup elements for acquiring image signals for the right eye and the left eye corresponding to 3D (Dimensional) display, respectively.
  • the 3D display enables the operator 11131 to more accurately grasp the depth of the biological tissue in the surgical site.
  • a plurality of lens units 11401 may be provided corresponding to each image pickup element.
  • the imaging unit 11402 does not necessarily have to be provided on the camera head 11102.
  • the image pickup unit 11402 may be provided inside the lens barrel 11101 immediately after the objective lens.
  • the drive unit 11403 is composed of an actuator, and the zoom lens and the focus lens of the lens unit 11401 are moved by a predetermined distance along the optical axis under the control of the camera head control unit 11405. As a result, the magnification and focus of the image captured by the imaging unit 11402 can be adjusted as appropriate.
  • the communication unit 11404 is composed of a communication device for transmitting and receiving various information to and from the CCU11201.
  • the communication unit 11404 transmits the image signal obtained from the image pickup unit 11402 as RAW data to the CCU 11201 via the transmission cable 11400.
  • the communication unit 11404 receives a control signal for controlling the drive of the camera head 11102 from the CCU 11201 and supplies the control signal to the camera head control unit 11405.
  • the control signal includes, for example, information to specify the frame rate of the captured image, information to specify the exposure value at the time of imaging, and / or information to specify the magnification and focus of the captured image. Contains information about the condition.
  • the imaging conditions such as the frame rate, exposure value, magnification, and focus may be appropriately specified by the user, or may be automatically set by the control unit 11413 of the CCU 11201 based on the acquired image signal. Good. In the latter case, the so-called AE (Auto Exposure) function, AF (Auto Focus) function, and AWB (Auto White Balance) function are mounted on the endoscope 11100.
  • AE Auto Exposure
  • AF Automatic Focus
  • AWB Auto White Balance
  • the camera head control unit 11405 controls the drive of the camera head 11102 based on the control signal from the CCU 11201 received via the communication unit 11404.
  • the communication unit 11411 is composed of a communication device for transmitting and receiving various information to and from the camera head 11102.
  • the communication unit 11411 receives an image signal transmitted from the camera head 11102 via the transmission cable 11400.
  • the communication unit 11411 transmits a control signal for controlling the drive of the camera head 11102 to the camera head 11102.
  • Image signals and control signals can be transmitted by telecommunications, optical communication, or the like.
  • the image processing unit 11412 performs various image processing on the image signal which is the RAW data transmitted from the camera head 11102.
  • the control unit 11413 performs various controls related to the imaging of the surgical site and the like by the endoscope 11100 and the display of the captured image obtained by the imaging of the surgical site and the like. For example, the control unit 11413 generates a control signal for controlling the drive of the camera head 11102.
  • control unit 11413 causes the display device 11202 to display an image captured by the surgical unit or the like based on the image signal processed by the image processing unit 11412.
  • the control unit 11413 may recognize various objects in the captured image by using various image recognition techniques. For example, the control unit 11413 detects the shape and color of the edge of an object included in the captured image to remove surgical tools such as forceps, a specific biological part, bleeding, and mist when using the energy treatment tool 11112. Can be recognized.
  • the control unit 11413 may superimpose and display various surgical support information on the image of the surgical unit by using the recognition result. By superimposing and displaying the operation support information and presenting it to the operator 11131, it is possible to reduce the burden on the operator 11131 and to allow the operator 11131 to proceed with the operation reliably.
  • the transmission cable 11400 that connects the camera head 11102 and CCU11201 is an electric signal cable that supports electrical signal communication, an optical fiber that supports optical communication, or a composite cable thereof.
  • the communication was performed by wire using the transmission cable 11400, but the communication between the camera head 11102 and the CCU11201 may be performed wirelessly.
  • the above is an example of an endoscopic surgery system to which the technology according to the present disclosure can be applied.
  • the technique according to the present disclosure can be applied to the endoscope 11100 and the imaging unit 11402 of the camera head 11102 among the configurations described above.
  • the image pickup apparatus 1 of FIG. 1 can be applied to the image pickup unit 10402.
  • the technique according to the present disclosure to the imaging unit 10402, for example, by imaging the surgical site from different directions by a plurality of imaging units 10402, the operator can perform the imaging in the surgical site at exactly the same timing. It is possible to perform surgery appropriately while observing multiple parts.
  • the technique according to the present disclosure may be applied to other, for example, a microscopic surgery system.
  • the image pickup device 1 includes an image pickup unit 2, a data acquisition unit 3, a clock generation unit 4, and a control unit 5.
  • the image pickup unit 2 captures an image and generates image data.
  • the data acquisition unit 3 acquires clock data related to the operating clock shared with the other imaging devices 101 to 103.
  • the clock generation unit 4 generates an operating clock based on the clock data acquired by the data acquisition unit 3.
  • the control unit 5 controls the operation of the imaging unit 2 based on the operation clock generated by the clock generation unit 4. As a result, the image pickup device 1 can take an image in cooperation with other image pickup devices 101 to 103.
  • the data acquisition unit 3 acquires clock data including the global clock GCK shared by a plurality of GPS satellites 100 from the GPS satellite 100. As a result, the data acquisition unit 3 can acquire clock data related to the global clock GCK that is common throughout the world.
  • the clock generation unit 4 compensates for the operation clock to be generated so as to synchronize with the operation clock used by the other imaging devices 101 to 103. As a result, the clock generation unit 4 can generate the same operating clock as the operating clock used by the other imaging devices 101 to 103.
  • the clock generation unit 4 compensates for the operating clock based on the characteristics, operating voltage, and temperature of the circuit element. As a result, the clock generation unit 4 has a phase between the operating clock of the imaging device 1 caused by individual differences in the circuit elements, changes in the operating speed due to fluctuations in the operating voltage and temperature, and the operating clocks of the other imaging devices 101 to 103. It is possible to eliminate the deviation of.
  • the data acquisition unit 3 acquires clock data including time data indicating the absolute time.
  • the control unit 5 adds the time data to the image data generated by the image pickup unit 2 and outputs the time data to the outside of the image pickup apparatus. Thereby, it is possible to guarantee that the plurality of captured images captured at the same time are images captured at exactly the same time.
  • the image pickup device 1 further includes detection pixels 21 that detect blinking light emitted from flicker light sources 111 and 112 that blink according to the frequency of a commercial power source.
  • the clock generation unit 4 generates an operation clock based on the blinking cycle of the blinking light detected by the detection pixel 21.
  • the image pickup device 1 can take an image in cooperation with other image pickup devices 101 to 103 that generate an operation clock from the blinking light emitted from the flicker light sources 111 and 112.
  • the detection pixel 21 is provided in an imaging region in which imaging pixels for capturing an image are arranged. As a result, the image pickup apparatus 1 does not need to separately provide detection pixels for detecting the blinking light Fs, so that an increase in cost can be suppressed.
  • the detection pixel 21 is provided outside the imaging region in which the imaging pixels for capturing the image are arranged. As a result, the imaging device 1 can capture an image using all the imaging pixels in the imaging region, so that a high-quality image can be captured.
  • the clock generation unit 4 generates an operation clock based on the blinking cycle of the blinking light when the clock data is not acquired by the data acquisition unit 3.
  • the image pickup device 1 generates the same operation clock as the other image pickup devices 101 to 103 that generate the operation clock from the blinking light even when the clock data cannot be acquired from the GPS satellite 100. Can be done.
  • the clock generation unit 4 compensates for the operating clock based on the current position of the image pickup device 1. As a result, the clock generation unit 4 can generate an operating clock synchronized with the frequency of the commercial power supply CPS even when noise is superimposed on the commercial power supply CPS.
  • the present technology can also have the following configurations.
  • An imaging unit that captures an image and generates image data
  • a data acquisition unit that acquires clock data related to the operating clock shared with other imaging devices
  • a clock generation unit that generates the operation clock based on the clock data acquired by the data acquisition unit
  • a control unit that controls the operation of the imaging unit based on the operation clock generated by the clock generation unit.
  • An imaging device having.
  • the data acquisition unit The imaging device according to (1) above, which acquires the clock data including a global clock shared by a plurality of GPS satellites from a GPS (Global Positioning System) satellite.
  • the clock generator The imaging device according to (1) or (2), wherein the operating clock generated is compensated so as to be synchronized with the operating clock used by the other imaging device.
  • the clock generator The imaging apparatus according to any one of (1) to (3), wherein the operating clock is compensated based on the characteristics, operating voltage, and temperature of the circuit element.
  • the data acquisition unit Acquire the clock data including the time data indicating the absolute time, and
  • the control unit The imaging device according to any one of (1) to (4), wherein the time data is added to the image data generated by the imaging unit and output to the outside of the imaging device.
  • a detection pixel that detects the blinking light emitted from a flicker light source that blinks depending on the frequency of the commercial power supply.
  • the detection pixel is The imaging device according to (6) above, which is provided in an imaging region in which imaging pixels for capturing the image are arranged.
  • the detection pixel is The imaging device according to (6) above, which is provided outside the imaging region in which imaging pixels for capturing the image are arranged.
  • the clock generator The imaging device according to any one of (6) to (8), wherein the operation clock is generated based on the blinking cycle of the blinking light when the clock data is not acquired by the data acquisition unit.
  • the clock generator The imaging device according to any one of (6) to (9), which compensates for the operating clock based on the current position of the imaging device.
  • the image pickup device To generate image data by capturing an image with an imaging unit, Acquiring clock data related to the operating clock shared with other imaging devices by the data acquisition unit, and To generate the operating clock by the clock generation unit based on the clock data acquired by the data acquisition unit, The control unit controls the operation of the imaging unit based on the operation clock generated by the clock generation unit. Imaging method including.
  • Imaging device 2 Imaging unit 3 Data acquisition unit 4 Clock generation unit 5
  • Control unit 6 I / F 100 GPS satellites 101-103 Other imaging equipment PS Electric power company CP Information provider

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

本開示に係る撮像装置（１）は、撮像部（２）と、データ取得部（３）と、クロック生成部（４）と、制御部（５）と、を有する。撮像部（２）は、画像を撮像して画像データを生成する。データ取得部（３）は、他の撮像装置と共用される動作クロックに関するクロックデータを取得する。クロック生成部（４）は、データ取得部（３）によって受信されるクロックデータに基づいて動作クロックを生成する。制御部（５）は、クロック生成部（４）によって生成される動作クロックに基づいて撮像部（２）の動作を制御する。

Description

撮像装置および撮像方法
　本開示は、撮像装置および撮像方法に関する。
　撮像装置は、所定の固定周波数である内部クロックに同期したタイミングによって撮像素子を駆動して画像を撮像することが一般的である（例えば、特許文献１参照）。
特開平６－３３４９０８号公報
　しかしながら、撮像装置の内部クロックは、撮像装置毎に異なる。このため、撮像装置は、他の撮像装置と協働して画像を撮像することができないことがある。
　そこで、本開示では、他の撮像装置と協働して画像を撮像することができる撮像装置および撮像方法を提案する。
　本開示によれば、撮像装置が提供される。撮像装置は、撮像部と、データ取得部と、クロック生成部と、制御部と、を有する。撮像部は、画像を撮像して画像データを生成する。データ取得部は、他の撮像装置と共用される動作クロックに関するクロックデータを取得する。クロック生成部は、前記データ取得部によって取得される前記クロックデータに基づいて前記動作クロックを生成する。制御部は、前記クロック生成部によって生成される前記動作クロックに基づいて前記撮像部の動作を制御する。
本開示に係る撮像装置の構成例を示すブロック図である。 本開示に係る撮像装置が備えるアンテナの配置を示す説明図である。 本開示に係る点滅光に基づいて動作クロックを生成する状況の説明図である。 本開示に係る撮像装置の用途の説明図である。 本開示に係る撮像装置の用途の説明図である。 本開示に係る撮像装置の用途の説明図である。 本開示に係る撮像装置の用途の説明図である。 本開示に係る撮像装置が実行する処理の一例を示すフローチャートである。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。 内視鏡手術システムの概略的な構成の一例を示す図である。 カメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。
　以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。以下では、本開示に係る撮像装置がスマートフォンに設けられる場合について説明するが、本開示に係る撮像装置は、デジタルスチルカメラ、デジタルビデオカメラ、カメラ機能付きのＰＤＡ（Personal　Digital　Assistant）等、任意の電子機器に設けられる。
［１．撮像装置の構成］
　図１は、本開示に係る撮像装置１の構成例を示すブロック図である。図１に示すように、撮像装置１は、撮像部２と、データ取得部３と、クロック生成部４と、制御部５と、Ｉ／Ｆ（インターフェース）６とを備える。撮像部２は、２次元に配列される複数の撮像画素を備え、制御部５によって制御されて各撮像画素を露光することにより画像を撮像する。
　撮像部２は、各撮像画素によって受光する被写体からの光を受光量に応じた信号電荷に光電変換し、信号電荷に応じたアナログの画素信号をデジタルの画素信号にアナログ／デジタル変換することによって画像データを生成する。撮像部２は、撮像した画像の画像データをＩ／Ｆ６を介してデータ出力端子から、例えば、外部のメモリや表示装置等へ出力する。
　データ取得部３は、例えば、ＧＰＳ（Global　Positioning　System）受信機であり、他の撮像装置１０１～１０３と共用される動作クロックに関するクロックデータをＧＰＳ衛星１００からアンテナ１０によって受信して取得する。クロックデータは、複数のＧＰＳ衛星１００によって共用されるグローバルクロックＧＣＫや絶対時刻を示す時刻データ等を含む。
　ここで、図２を参照し、アンテナ１０の配置の一例について説明する。図２は、本開示に係る撮像装置１が備えるアンテナの配置を示す説明図である。図２に示すように、撮像装置１のアンテナ１０は、撮像部２の受光領域の周囲に配置される。
　撮像装置１は、撮像部２の受光領域が設けられる箇所に、外光を取り込むための開口が設けられる。このため、撮像装置１では、アンテナ１０を撮像部２の受光領域の周囲に配置することにより、ＧＰＳ衛星１００から送信される電波が撮像装置１の筐体等によって遮られることを防止することができる。
　これにより、データ取得部３は、世界共通のグローバルクロックＧＣＫに関するクロックデータを確実に取得することができる。データ取得部３は、取得したクロックデータをクロック生成部４へ出力する。なお、アンテナ１０が設けられる位置は、図２に示す撮像部２の受光領域の周囲に限定されるものではなく、ＧＰＳ衛星１００から送信される信号を受信可能であれば、任意の位置であってよい。
　図１へ戻り、クロック生成部４は、撮像装置１の動作クロックを生成するＰＬＬ（Phase　Locked　Loop）回路や、生成する動作クロックを補償する補償回路等を含む。クロック生成部４は、データ取得部３によって取得されるクロックデータに基づいて、撮像装置の動作クロックを生成する。
　このとき、クロック生成部４は、他の撮像装置１０１～１０３によって使用される動作クロックと同期するように、生成する動作クロックを補償する。これにより、クロック生成部４は、他の撮像装置１０１～１０３によって使用される動作クロックと同一の動作クロックを生成することができる。
　例えば、クロック生成部４は、撮像装置１を構成する各回路素子の特性、動作電圧、および温度センサ（図示略）によって検知される撮像装置１の温度に基づいて、動作クロックを補償する。
　これにより、クロック生成部４は、回路素子の個体差、動作電圧や温度の変動による動作速度の変化等によって生じる撮像装置１の動作クロックと、他の撮像装置１０１～１０３の動作クロックとの位相のズレを解消することができる。
　また、クロック生成部４は、高速移動中のＧＰＳ衛星１００における時間の進む速度と、地上における時間の進む速度との差を解消する補償も行う。これにより、クロック生成部４は、他の撮像装置１０１～１０３の動作クロックと正確に同期する撮像装置１の動作クロックを生成することができる。クロック生成部４は、生成した動作クロックと、クロックデータに含まれる絶対時刻を示す時刻データとを制御部５へ出力する。
　制御部５は、例えば、ＣＰＵ（Central　Processing　Unit）、ＲＯＭ（Read　Only　Memory）、ＲＡＭ（Random　Access　Memory）等を有するマイクロコンピュータや各種の回路を含む。なお、制御部５は、ＡＳＩＣ（Application　Specific　Integrated　Circuit）やＦＰＧＡ（Field　Programmable　Gate　Array）等のハードウェアで構成されてもよい。
　制御部５は、ＣＰＵがＲＯＭに記憶された情報処理プログラムを、ＲＡＭを作業領域として使用して実行することにより、クロック生成部４によって生成される動作クロックに基づいて撮像部２の動作を制御する。
　これにより、制御部５は、他の撮像装置１０１～１０３と完全に同期したタイミングによって協働して画像を撮像することができる。撮像装置１が他の撮像装置１０１～１０３等と協働して画像を撮像する場合の用途については、図４～図７を参照して後述する。なお、制御部５は、クロック生成部４から動作クロックが入力されない場合、入力端子から入力される内部クロック（ＩＮＣＫ）に基づいて撮像部２の制御を行うこともできる。
　また、制御部５は、クロック生成部４から入力される時刻データをＩ／Ｆ６へ出力して、撮像部２によって生成される画像データに、画像が撮像されたときの時刻データを付加して撮像装置１の外部へ出力させる。画像データに付加される時刻データの用途の一例については、図５を参照して後述する。また、制御部５は、クロック生成部４から入力される動作クロックを外部出力することもできる。なお、撮像装置１は、動作クロックを外部出力する外部ポートを備えていなくてもよい。
　かかる撮像装置１は、例えば、屋内等の電波を受信できない環境においては、ＧＰＳ衛星１００からクロックデータを取得することができない。そこで、撮像装置１は、点滅光を検出する検出画素２１を備える。そして、クロック生成部４は、検出画素２１によって検出される点滅光に基づいて動作クロックを生成する。
　ここで、図３を合わせて参照しながら、点滅光に基づいて動作クロックを生成する状況について説明する。図３は、本開示に係る点滅光に基づいて動作クロックを生成する状況の説明図である。
　図３に示すように、撮像装置１および他の撮像装置１０１は、例えば、建物１１０の内部にある場合、ＧＰＳ衛星１００からの電波を受信することができないため、クロックデータを取得することができない。
　そこで、撮像装置１および他の撮像装置１０１は、例えば、電力会社ＰＳから供給される商用電源ＣＰＳの周波数によって点滅するフリッカ光源１１１，１１２から発せられる点滅光Ｆｓを検出する検出画素２１（図１参照）を備える。
　撮像装置１および他の撮像装置１０１の検出画素２１は、点滅光Ｆｓの受光タイミングを示す情報をクロック生成部４へ出力する（図１参照）。撮像装置１および他の撮像装置１０１のクロック生成部４は、検出画素２１によって検出される点滅光Ｆｓの点滅周期に基づいて動作クロックを生成する。
　これにより、撮像装置１は、クロック生成部４によって生成される動作クロックに基づいて動作することにより、他の撮像装置１０１との同期をとることができるので、他の撮像装置１０１と協働して画像を撮像することができる。
　なお、点滅光Ｆｓの点滅周期は、例えば、商用電源ＣＰＳにノイズが重畳した場合に、乱れることがある。ただし、商用電源ＣＰＳの周波数は、地域毎に電力会社ＰＳによって定められている。
　そこで、クロック生成部４は、撮像装置１の現在位置（地域）に基づいて、その地域で定められている商用電源ＣＰＳの周波数に基づいて、動作クロックを補償する。これにより、クロック生成部４は、商用電源ＣＰＳにノイズが重畳する場合であっても、商用電源ＣＰＳの周波数に同期した動作クロックを生成することができる。
　また、図１に示す例では、検出画素２１は、撮像部２の画像を撮像する撮像画素が配列される撮像領域内に設けられている。つまり、撮像装置１は、撮像画素の一部を検出画素２１として使用する。これにより、撮像装置１は、点滅光Ｆｓの検出用に、別途検出画素２１を設ける必要がないので、コストの増大を抑制することができる。
　なお、検出画素２１は、撮像部２の画像を撮像する撮像画素が配列される撮像領域外に設けられてもよい。かかる構成の場合、撮像装置１は、撮像領域内の全撮像画素を使用して画像を撮像することができるので、高画質な画像を撮像することができる。
［２．撮像装置の用途］
　次に、図４～図７を参照し、本開示に係る撮像装置１の用途について説明する。図４～図７は、本開示に係る撮像装置の用途の説明図である。
　例えば、図４に示すように、撮像装置１は、他の撮像装置１０１～１０３と共通の動作クロックを使用して、同時に同一の被写体を撮像する。そして、４つの撮像装置１，１０１～１０３における画像の読み出しタイミングを少しずつずらす。
　例えば、撮像装置１からは、撮像画像を上下方向に４分割した部分画像Ｐ１１～Ｐ１４のうち、最上段の部分画像Ｐ１１を読み出し、他の撮像装置１０１からは、上から２段目の部分画像Ｐ１２を読み出す。
　また、他の撮像装置１０２からは、下から２段目の部分画像Ｐ１３を読み出し、他の撮像装置１０３からは、最下段の部分画像Ｐ１４を読み出す。そして、例えば、画像合成装置によって、４つの部分画像Ｐ１１～Ｐ１４を合成して合成画像Ｐ１５を生成する。
　これにより、例えば、４つの撮像装置１，１０１～１０３がローリングシャッタ方式であっても、グローバルシャッタ減少による被写体の歪みを抑制し、疑似的にグローバルシャッタ方式で撮像したような画像を撮像することができる。
　また、撮像画像の水平ライン数がＮラインの場合、Ｎ個の撮像装置によってＮ個の部分画像を撮像して合成画像を生成することにより、ローリングシャッタによる影響を最小限に抑えることができる。
　また、図５に示すように、撮像装置１と他の撮像装置１０１とによって、共通の動作クロックを使用して同一の被写体Ｐを同時刻に撮像する場合、撮像装置１および他の撮像装置１０１は、それぞれの撮像画像Ｐ１，Ｐ２に絶対時刻を示す時刻データを付加する。
　これにより、撮像装置１によって撮像された撮像画像Ｐ１および時刻データと、他の撮像装置１０１によって撮像された撮像画像Ｐ２および時刻データとによって、両撮像画像Ｐ１，Ｐ２が正確に同時刻に撮像された画像であることを保証することができる。
　また、例えば、他の撮像装置１０１によって撮像された撮像画像Ｐ２に不正加工が施されて加工画像Ｐ３が生成される場合、撮像画像Ｐ１と、加工画像Ｐ３と、時刻データとを照合することによって、いずれか一方が不正加工されたことを立証することができる。
　また、２つの撮像装置１が１つのスマートフォンに搭載される場合、２つの撮像装置１によって、共通の動作クロックを使用して同時に画像を撮像することにより、相互に両撮像画像が正確に同時刻に撮像された画像であることを保証することができる。
　また、今後、例えば、ＬｉＤＡＲ（Light　Detection　And　Ranging）を搭載した自動運転車両の数が増加することが予想される。ＬｉＤＡＲは、パルス状に発光するレーザ光を周囲に照射し、対象によって反射されるレーザ光を受光して、対象までの距離等を解析する装置である。
　このため、撮像装置１は、撮像装置１の露光タイミングと、ＬｉＤＡＲの発光タイミングとが偶然に一致した場合、ＬｉＤＡＲからの強力なレーザ光を受光してしまい、被写体を撮像することができないという問題が生じる。
　そこで、全ての撮像装置１と、全てのＬｉＤＡＲとを共通の動作クロックによって動作させることにより、上記した問題を解決する。例えば、図６に示すように、第１～第ｎのＬｉＤＡＲは、同一の動作クロックを使用して同一のタイミングで間欠的にレーザ光を照射する。
　一方、例えば、第１の撮像装置は、全てのＬｉＤＡＲが使用する動作クロックと同一の動作クロックを使用することにより、全てのＬｉＤＡＲによるレーザ光の非照射期間に露光することによって、レーザ光を受光することなく、被写体を撮像することができる。また、第２の撮像装置も同様に、全てのＬｉＤＡＲによるレーザ光の非照射期間に露光することによって、レーザ光を受光することなく、被写体を撮像することができる。
　また、撮像装置１は、図３に示した検出画素２１によって検出される点滅光Ｆｓの点滅周期に基づいて生成される動作クロックに基づいて動作する場合、フリッカ光源１１１，１１２から発せられる光を使用して、例えば、図７に示す通信を行うことが可能となる。
　なお、図７に示す構成要素のうち、図３に示す構成要素と同一の構成要素については、図３に示す符号と同一の符号を付することにより、ここでは重複する説明を省略する。図６に示すように、例えば、情報提供会社ＣＰは、電力会社ＰＳに対して情報配信依頼を行う。
　電力会社ＰＳは、商用電源に情報提供会社ＣＰから配信依頼された情報を商用電源の周波数に同期した信号に変調して商用電源に重畳させ、情報付商用電源ＣＰＳＤとして建物１１０に供給する。
　これにより、撮像装置１は、フリッカ光源１１１から発せられる点滅光Ｆｓｄを受光し、変調された情報を復調することによって、情報提供会社ＣＰから提供される情報を受け取ることができる。また、撮像装置１と同一の動作クロックを使用する他の撮像装置１０１～１０３も同様に、情報提供会社ＣＰから提供される情報を受け取ることができる。
　また、撮像装置１は、例えば、撮像装置１と同一の動作クロックを使用する他の撮像装置１０１へ向けて、動作クロックに同期したタイミングでモールス信号のようにフラッシュを点滅させることにより、他の撮像装置１０１へ情報を送信することも可能である。
［３．撮像装置が実行する処理］
　次に、図８を参照し、本開示に係る撮像装置１が実行する処理について説明する。図８は、本開示に係る撮像装置が実行する処理の一例を示すフローチャートである。
　図８に示すように、撮像装置１は、他の撮像装置１０１～１０３と共用される動作クロックに関するクロックデータをデータ取得部３によって取得する（ステップＳ１０１）。その後、撮像装置１は、クロックデータに基づいて動作クロックをクロック生成部４によって生成する（ステップＳ１０２）。
　続いて、撮像装置１は、動作クロックに基づいて撮像部２の動作を制御する（ステップＳ１０３）。そして、撮像装置１は、他の撮像装置１０１～１０３と同期したタイミングによって、他の撮像装置１０１～１０３と協働して画像を撮像し（ステップＳ１０４）、処理を終了する。
［４．移動体への応用例］
　本開示に係る技術（本技術）は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
　図９は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
　車両制御システム１２０００は、通信ネットワーク１２００１を介して接続された複数の電子制御ユニットを備える。図９に示した例では、車両制御システム１２０００は、駆動系制御ユニット１２０１０、ボディ系制御ユニット１２０２０、車外情報検出ユニット１２０３０、車内情報検出ユニット１２０４０、及び統合制御ユニット１２０５０を備える。また、統合制御ユニット１２０５０の機能構成として、マイクロコンピュータ１２０５１、音声画像出力部１２０５２、及び車載ネットワークＩ／Ｆ（ｉｎｔｅｒｆａｃｅ）１２０５３が図示されている。
　駆動系制御ユニット１２０１０は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット１２０１０は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
　ボディ系制御ユニット１２０２０は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット１２０２０は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット１２０２０には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット１２０２０は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
　車外情報検出ユニット１２０３０は、車両制御システム１２０００を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット１２０３０には、撮像部１２０３１が接続される。車外情報検出ユニット１２０３０は、撮像部１２０３１に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット１２０３０は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
　撮像部１２０３１は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部１２０３１は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部１２０３１が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
　車内情報検出ユニット１２０４０は、車内の情報を検出する。車内情報検出ユニット１２０４０には、例えば、運転者の状態を検出する運転者状態検出部１２０４１が接続される。運転者状態検出部１２０４１は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット１２０４０は、運転者状態検出部１２０４１から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
　マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット１２０１０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むＡＤＡＳ（Ａｄｖａｎｃｅｄ　Ｄｒｉｖｅｒ　Ａｓｓｉｓｔａｎｃｅ　Ｓｙｓｔｅｍ）の機能実現を目的とした協調制御を行うことができる。
　また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０又は車内情報検出ユニット１２０４０で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
　また、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で取得される車外の情報に基づいて、ボディ系制御ユニット１２０２０に対して制御指令を出力することができる。例えば、マイクロコンピュータ１２０５１は、車外情報検出ユニット１２０３０で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
　音声画像出力部１２０５２は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図９の例では、出力装置として、オーディオスピーカ１２０６１、表示部１２０６２及びインストルメントパネル１２０６３が例示されている。表示部１２０６２は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
　図１０は、撮像部１２０３１の設置位置の例を示す図である。
　図１０では、車両１２１００は、撮像部１２０３１として、撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５を有する。
　撮像部１２１０１，１２１０２，１２１０３，１２１０４，１２１０５は、例えば、車両１２１００のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部１２１０１及び車室内のフロントガラスの上部に備えられる撮像部１２１０５は、主として車両１２１００の前方の画像を取得する。サイドミラーに備えられる撮像部１２１０２，１２１０３は、主として車両１２１００の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部１２１０４は、主として車両１２１００の後方の画像を取得する。撮像部１２１０１及び１２１０５で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
　なお、図１０には、撮像部１２１０１ないし１２１０４の撮影範囲の一例が示されている。撮像範囲１２１１１は、フロントノーズに設けられた撮像部１２１０１の撮像範囲を示し、撮像範囲１２１１２，１２１１３は、それぞれサイドミラーに設けられた撮像部１２１０２，１２１０３の撮像範囲を示し、撮像範囲１２１１４は、リアバンパ又はバックドアに設けられた撮像部１２１０４の撮像範囲を示す。例えば、撮像部１２１０１ないし１２１０４で撮像された画像データが重ね合わせられることにより、車両１２１００を上方から見た俯瞰画像が得られる。
　撮像部１２１０１ないし１２１０４の少なくとも１つは、距離情報を取得する機能を有していてもよい。例えば、撮像部１２１０１ないし１２１０４の少なくとも１つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
　例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を基に、撮像範囲１２１１１ないし１２１１４内における各立体物までの距離と、この距離の時間的変化（車両１２１００に対する相対速度）を求めることにより、特に車両１２１００の進行路上にある最も近い立体物で、車両１２１００と略同じ方向に所定の速度（例えば、０ｋｍ／ｈ以上）で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ１２０５１は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御（追従停止制御も含む）や自動加速制御（追従発進制御も含む）等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
　例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４から得られた距離情報を元に、立体物に関する立体物データを、２輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ１２０５１は、車両１２１００の周辺の障害物を、車両１２１００のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ１２０５１は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ１２０６１や表示部１２０６２を介してドライバに警報を出力することや、駆動系制御ユニット１２０１０を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
　撮像部１２１０１ないし１２１０４の少なくとも１つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ１２０５１は、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部１２１０１ないし１２１０４の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ１２０５１が、撮像部１２１０１ないし１２１０４の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部１２０５２は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部１２０６２を制御する。また、音声画像出力部１２０５２は、歩行者を示すアイコン等を所望の位置に表示するように表示部１２０６２を制御してもよい。
　以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部１２０３１に適用され得る。例えば、図１の撮像装置１は、撮像部１２０３１に適用することができる。撮像部１２０３１に本開示に係る技術を適用することにより、例えば、交通事故の瞬間の画像を、周囲を走行する複数の車両に搭載された撮像部１２０３１によって完全に同じタイミングで撮像することで、撮像画像を交通事故の正確な検証に利用することができる。
［５．内視鏡手術システムへの応用例］
　また、本開示に係る技術は、内視鏡手術システムに適用されてもよい。
　図１１は、本開示に係る技術（本技術）が適用され得る内視鏡手術システムの概略的な構成の一例を示す図である。
　図１１では、術者（医師）１１１３１が、内視鏡手術システム１１０００を用いて、患者ベッド１１１３３上の患者１１１３２に手術を行っている様子が図示されている。図示するように、内視鏡手術システム１１０００は、内視鏡１１１００と、気腹チューブ１１１１１やエネルギー処置具１１１１２等の、その他の術具１１１１０と、内視鏡１１１００を支持する支持アーム装置１１１２０と、内視鏡下手術のための各種の装置が搭載されたカート１１２００と、から構成される。
　内視鏡１１１００は、先端から所定の長さの領域が患者１１１３２の体腔内に挿入される鏡筒１１１０１と、鏡筒１１１０１の基端に接続されるカメラヘッド１１１０２と、から構成される。図示する例では、硬性の鏡筒１１１０１を有するいわゆる硬性鏡として構成される内視鏡１１１００を図示しているが、内視鏡１１１００は、軟性の鏡筒を有するいわゆる軟性鏡として構成されてもよい。
　鏡筒１１１０１の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡１１１００には光源装置１１２０３が接続されており、当該光源装置１１２０３によって生成された光が、鏡筒１１１０１の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者１１１３２の体腔内の観察対象に向かって照射される。なお、内視鏡１１１００は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
　カメラヘッド１１１０２の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Ｃａｍｅｒａ　Ｃｏｎｔｒｏｌ　Ｕｎｉｔ）１１２０１に送信される。
　ＣＣＵ１１２０１は、ＣＰＵ（Ｃｅｎｔｒａｌ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）やＧＰＵ（Ｇｒａｐｈｉｃｓ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）等によって構成され、内視鏡１１１００及び表示装置１１２０２の動作を統括的に制御する。さらに、ＣＣＵ１１２０１は、カメラヘッド１１１０２から画像信号を受け取り、その画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。
　表示装置１１２０２は、ＣＣＵ１１２０１からの制御により、当該ＣＣＵ１１２０１によって画像処理が施された画像信号に基づく画像を表示する。
　光源装置１１２０３は、例えばＬＥＤ（Ｌｉｇｈｔ　Ｅｍｉｔｔｉｎｇ　Ｄｉｏｄｅ）等の光源から構成され、術部等を撮影する際の照射光を内視鏡１１１００に供給する。
　入力装置１１２０４は、内視鏡手術システム１１０００に対する入力インタフェースである。ユーザは、入力装置１１２０４を介して、内視鏡手術システム１１０００に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、内視鏡１１１００による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示等を入力する。
　処置具制御装置１１２０５は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具１１１１２の駆動を制御する。気腹装置１１２０６は、内視鏡１１１００による視野の確保及び術者の作業空間の確保の目的で、患者１１１３２の体腔を膨らめるために、気腹チューブ１１１１１を介して当該体腔内にガスを送り込む。レコーダ１１２０７は、手術に関する各種の情報を記録可能な装置である。プリンタ１１２０８は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
　なお、内視鏡１１１００に術部を撮影する際の照射光を供給する光源装置１１２０３は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成することができる。ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置１１２０３において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
　また、光源装置１１２０３は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド１１１０２の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
　また、光源装置１１２０３は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Ｎａｒｒｏｗ　Ｂａｎｄ　Ｉｍａｇｉｎｇ）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察すること（自家蛍光観察）、又はインドシアニングリーン（ＩＣＧ）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得ること等を行うことができる。光源装置１１２０３は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
　図１２は、図１１に示すカメラヘッド１１１０２及びＣＣＵ１１２０１の機能構成の一例を示すブロック図である。
　カメラヘッド１１１０２は、レンズユニット１１４０１と、撮像部１１４０２と、駆動部１１４０３と、通信部１１４０４と、カメラヘッド制御部１１４０５と、を有する。ＣＣＵ１１２０１は、通信部１１４１１と、画像処理部１１４１２と、制御部１１４１３と、を有する。カメラヘッド１１１０２とＣＣＵ１１２０１とは、伝送ケーブル１１４００によって互いに通信可能に接続されている。
　レンズユニット１１４０１は、鏡筒１１１０１との接続部に設けられる光学系である。鏡筒１１１０１の先端から取り込まれた観察光は、カメラヘッド１１１０２まで導光され、当該レンズユニット１１４０１に入射する。レンズユニット１１４０１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。
　撮像部１１４０２は、撮像素子で構成される。撮像部１１４０２を構成する撮像素子は、１つ（いわゆる単板式）であってもよいし、複数（いわゆる多板式）であってもよい。撮像部１１４０２が多板式で構成される場合には、例えば各撮像素子によってＲＧＢそれぞれに対応する画像信号が生成され、それらが合成されることによりカラー画像が得られてもよい。あるいは、撮像部１１４０２は、３Ｄ（Ｄｉｍｅｎｓｉｏｎａｌ）表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成されてもよい。３Ｄ表示が行われることにより、術者１１１３１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部１１４０２が多板式で構成される場合には、各撮像素子に対応して、レンズユニット１１４０１も複数系統設けられ得る。
　また、撮像部１１４０２は、必ずしもカメラヘッド１１１０２に設けられなくてもよい。例えば、撮像部１１４０２は、鏡筒１１１０１の内部に、対物レンズの直後に設けられてもよい。
　駆動部１１４０３は、アクチュエータによって構成され、カメラヘッド制御部１１４０５からの制御により、レンズユニット１１４０１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部１１４０２による撮像画像の倍率及び焦点が適宜調整され得る。
　通信部１１４０４は、ＣＣＵ１１２０１との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４０４は、撮像部１１４０２から得た画像信号をＲＡＷデータとして伝送ケーブル１１４００を介してＣＣＵ１１２０１に送信する。
　また、通信部１１４０４は、ＣＣＵ１１２０１から、カメラヘッド１１１０２の駆動を制御するための制御信号を受信し、カメラヘッド制御部１１４０５に供給する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。
　なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、ユーザによって適宜指定されてもよいし、取得された画像信号に基づいてＣＣＵ１１２０１の制御部１１４１３によって自動的に設定されてもよい。後者の場合には、いわゆるＡＥ（Ａｕｔｏ　Ｅｘｐｏｓｕｒｅ）機能、ＡＦ（Ａｕｔｏ　Ｆｏｃｕｓ）機能及びＡＷＢ（Ａｕｔｏ　Ｗｈｉｔｅ　Ｂａｌａｎｃｅ）機能が内視鏡１１１００に搭載されていることになる。
　カメラヘッド制御部１１４０５は、通信部１１４０４を介して受信したＣＣＵ１１２０１からの制御信号に基づいて、カメラヘッド１１１０２の駆動を制御する。
　通信部１１４１１は、カメラヘッド１１１０２との間で各種の情報を送受信するための通信装置によって構成される。通信部１１４１１は、カメラヘッド１１１０２から、伝送ケーブル１１４００を介して送信される画像信号を受信する。
　また、通信部１１４１１は、カメラヘッド１１１０２に対して、カメラヘッド１１１０２の駆動を制御するための制御信号を送信する。画像信号や制御信号は、電気通信や光通信等によって送信することができる。
　画像処理部１１４１２は、カメラヘッド１１１０２から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。
　制御部１１４１３は、内視鏡１１１００による術部等の撮像、及び、術部等の撮像により得られる撮像画像の表示に関する各種の制御を行う。例えば、制御部１１４１３は、カメラヘッド１１１０２の駆動を制御するための制御信号を生成する。
　また、制御部１１４１３は、画像処理部１１４１２によって画像処理が施された画像信号に基づいて、術部等が映った撮像画像を表示装置１１２０２に表示させる。この際、制御部１１４１３は、各種の画像認識技術を用いて撮像画像内における各種の物体を認識してもよい。例えば、制御部１１４１３は、撮像画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具１１１１２の使用時のミスト等を認識することができる。制御部１１４１３は、表示装置１１２０２に撮像画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させてもよい。手術支援情報が重畳表示され、術者１１１３１に提示されることにより、術者１１１３１の負担を軽減することや、術者１１１３１が確実に手術を進めることが可能になる。
　カメラヘッド１１１０２及びＣＣＵ１１２０１を接続する伝送ケーブル１１４００は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
　ここで、図示する例では、伝送ケーブル１１４００を用いて有線で通信が行われていたが、カメラヘッド１１１０２とＣＣＵ１１２０１との間の通信は無線で行われてもよい。
　以上、本開示に係る技術が適用され得る内視鏡手術システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、内視鏡１１１００や、カメラヘッド１１１０２の撮像部１１４０２に適用され得る。例えば、図１の撮像装置１は、撮像部１０４０２に適用することができる。撮像部１０４０２に本開示に係る技術を適用することにより、例えば、複数の撮像部１０４０２によって術部を異なる方向から撮像することで、術者は、完全に同一のタイミングで撮像された術部における複数の部分を観察しながら適切に手術を行うことができる。
　なお、ここでは、一例として内視鏡手術システムについて説明したが、本開示に係る技術は、その他、例えば、顕微鏡手術システム等に適用されてもよい。
［６．効果］
　撮像装置１は、撮像部２と、データ取得部３と、クロック生成部４と、制御部５とを有する。撮像部２は、画像を撮像して画像データを生成する。データ取得部３は、他の撮像装置１０１～１０３と共用される動作クロックに関するクロックデータを取得する。クロック生成部４は、データ取得部３によって取得されるクロックデータに基づいて動作クロックを生成する。制御部５は、クロック生成部４によって生成される動作クロックに基づいて撮像部２の動作を制御する。これにより、撮像装置１は、他の撮像装置１０１～１０３と協働して画像を撮像することができる。
　データ取得部３は、ＧＰＳ衛星１００から複数のＧＰＳ衛星１００によって共用されるグローバルクロックＧＣＫを含むクロックデータを取得する。これにより、データ取得部３は、世界共通のグローバルクロックＧＣＫに関するクロックデータを取得することができる。
　クロック生成部４は、他の撮像装置１０１～１０３によって使用される動作クロックと同期するように、生成する動作クロックを補償する。これにより、クロック生成部４は、他の撮像装置１０１～１０３によって使用される動作クロックと同一の動作クロックを生成することができる。
　クロック生成部４は、回路素子の特性、動作電圧、および温度に基づいて動作クロックを補償する。これにより、クロック生成部４は、回路素子の個体差、動作電圧や温度の変動による動作速度の変化等によって生じる撮像装置１の動作クロックと、他の撮像装置１０１～１０３の動作クロックとの位相のズレを解消することができる。
　データ取得部３は、絶対時刻を示す時刻データ含むクロックデータを取得する。制御部５は、撮像部２によって生成される画像データに、前記時刻データを付加して撮像装置の外部へ出力させる。これにより、同時に撮像された複数の撮像画像が正確に同時刻に撮像された画像であることを保証することができる。
　撮像装置１は、商用電源の周波数によって点滅するフリッカ光源１１１，１１２から発せられる点滅光を検出する検出画素２１、をさらに備える。クロック生成部４は、検出画素２１によって検出される点滅光の点滅周期に基づいて動作クロックを生成する。これにより、撮像装置１は、フリッカ光源１１１，１１２から発せられる点滅光から動作クロックを生成する他の撮像装置１０１～１０３と協働して画像を撮像することができる。
　検出画素２１は、画像を撮像する撮像画素が配列される撮像領域内に設けられる。これにより、撮像装置１は、点滅光Ｆｓの検出用に、別途検出画素を設ける必要がないので、コストの増大を抑制することができる。
　検出画素２１は、画像を撮像する撮像画素が配列される撮像領域外に設けられる。これにより、撮像装置１は、撮像領域内の全撮像画素を使用して画像を撮像することができるので、高画質な画像を撮像することができる。
　クロック生成部４は、データ取得部３によってクロックデータが取得されない場合に、点滅光の点滅周期に基づいて動作クロックを生成する。これにより、撮像装置１は、ＧＰＳ衛星１００からクロックデータを取得することができない場合であっても、点滅光から動作クロックを生成する他の撮像装置１０１～１０３と同一の動作クロックを生成することができる。
　クロック生成部４は、撮像装置１の現在位置に基づいて動作クロックを補償する。これにより、クロック生成部４は、商用電源ＣＰＳにノイズが重畳する場合であっても、商用電源ＣＰＳの周波数に同期した動作クロックを生成することができる。
　なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
　なお、本技術は以下のような構成も取ることができる。
（１）
　画像を撮像して画像データを生成する撮像部と、
　他の撮像装置と共用される動作クロックに関するクロックデータを取得するデータ取得部と、
　前記データ取得部によって取得される前記クロックデータに基づいて前記動作クロックを生成するクロック生成部と、
　前記クロック生成部によって生成される前記動作クロックに基づいて前記撮像部の動作を制御する制御部と、
　を有する撮像装置。
（２）
　前記データ取得部は、
　ＧＰＳ（Global　Positioning　System）衛星から複数のＧＰＳ衛星によって共用されるグローバルクロックを含む前記クロックデータを取得する
　前記（１）に記載の撮像装置。
（３）
　前記クロック生成部は、
　前記他の撮像装置によって使用される動作クロックと同期するように、生成する前記動作クロックを補償する
　前記（１）または（２）に記載の撮像装置。
（４）
　前記クロック生成部は、
　回路素子の特性、動作電圧、および温度に基づいて前記動作クロックを補償する
　前記（１）～（３）のいずれか一つに記載の撮像装置。
（５）
　前記データ取得部は、
　絶対時刻を示す時刻データを含む前記クロックデータを取得し、
　前記制御部は、
　前記撮像部によって生成される前記画像データに、前記時刻データを付加して前記撮像装置の外部へ出力させる
　前記（１）～（４）のいずれか一つに記載の撮像装置。
（６）
　商用電源の周波数によって点滅するフリッカ光源から発せられる点滅光を検出する検出画素、
　をさらに備え、
　前記クロック生成部は、
　前記検出画素によって検出される前記点滅光の点滅周期に基づいて前記動作クロックを生成する
　前記（１）に記載の撮像装置。
（７）
　前記検出画素は、
　前記画像を撮像する撮像画素が配列される撮像領域内に設けられる
　前記（６）に記載の撮像装置。
（８）
　前記検出画素は、
　前記画像を撮像する撮像画素が配列される撮像領域外に設けられる
　前記（６）に記載の撮像装置。
（９）
　前記クロック生成部は、
　前記データ取得部によって前記クロックデータが取得されない場合に、前記点滅光の点滅周期に基づいて前記動作クロックを生成する
　前記（６）～（８）のいずれか一つに記載の撮像装置。
（１０）
　前記クロック生成部は、
　前記撮像装置の現在位置に基づいて前記動作クロックを補償する
　前記（６）～（９）のいずれか一つに記載の撮像装置。
（１１）
　撮像装置が、
　撮像部によって画像を撮像して画像データを生成することと、
　他の撮像装置と共用される動作クロックに関するクロックデータをデータ取得部によって取得することと、
　前記データ取得部によって取得される前記クロックデータに基づいて前記動作クロックをクロック生成部によって生成することと、
　前記クロック生成部によって生成される前記動作クロックに基づいて前記撮像部の動作を制御部によって制御することと、
　を含む撮像方法。
　１　撮像装置
　２　撮像部
　３　データ取得部
　４　クロック生成部
　５　制御部
　６　Ｉ／Ｆ
　１００　ＧＰＳ衛星
　１０１～１０３　他の撮像装置
　ＰＳ　電力会社
　ＣＰ　情報提供会社

Claims (11)

  1. 　画像を撮像して画像データを生成する撮像部と、
    　他の撮像装置と共用される動作クロックに関するクロックデータを取得するデータ取得部と、
    　前記データ取得部によって取得される前記クロックデータに基づいて前記動作クロックを生成するクロック生成部と、
    　前記クロック生成部によって生成される前記動作クロックに基づいて前記撮像部の動作を制御する制御部と、
    　を有する撮像装置。
  2. 　前記データ取得部は、
    　ＧＰＳ（Global　Positioning　System）衛星から複数のＧＰＳ衛星によって共用されるグローバルクロックを含む前記クロックデータを取得する
    　請求項１に記載の撮像装置。
  3. 　前記クロック生成部は、
    　前記他の撮像装置によって使用される動作クロックと同期するように前記動作クロックを補償する
    　請求項１に記載の撮像装置。
  4. 　前記クロック生成部は、
    　回路素子の特性、動作電圧、および温度に基づいて前記動作クロックを補償する
    　請求項１に記載の撮像装置。
  5. 　前記データ取得部は、
    　絶対時刻を示す時刻データを含む前記クロックデータを取得し、
    　前記制御部は、
    　前記撮像部によって生成される前記画像データに、前記時刻データを付加して前記撮像装置の外部へ出力させる
    　請求項１に記載の撮像装置。
  6. 　商用電源の周波数によって点滅するフリッカ光源から発せられる点滅光を検出する検出画素、
    　をさらに備え、
    　前記クロック生成部は、
    　前記検出画素によって検出される前記点滅光の点滅周期に基づいて前記動作クロックを生成する
    　請求項１に記載の撮像装置。
  7. 　前記検出画素は、
    　前記画像を撮像する撮像画素が配列される撮像領域内に設けられる
    　請求項６に記載の撮像装置。
  8. 　前記検出画素は、
    　前記画像を撮像する撮像画素が配列される撮像領域外に設けられる
    　請求項６に記載の撮像装置。
  9. 　前記クロック生成部は、
    　前記データ取得部によって前記クロックデータが取得されない場合に、前記点滅光の点滅周期に基づいて前記動作クロックを生成する
    　請求項６に記載の撮像装置。
  10. 　前記クロック生成部は、
    　前記撮像装置の現在位置に基づいて前記動作クロックを補償する
    　請求項６に記載の撮像装置。
  11. 　撮像装置が、
    　撮像部によって画像を撮像して画像データを生成することと、
    　他の撮像装置と共用される動作クロックに関するクロックデータをデータ取得部によって取得することと、
    　前記データ取得部によって取得される前記クロックデータに基づいて前記動作クロックをクロック生成部によって生成することと、
    　前記クロック生成部によって生成される前記動作クロックに基づいて前記撮像部の動作を制御部によって制御することと、
    　を含む撮像方法。
PCT/JP2020/029675 2019-08-13 2020-08-03 撮像装置および撮像方法 WO2021029252A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/632,768 US20220279134A1 (en) 2019-08-13 2020-08-03 Imaging device and imaging method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019148507A JP2021034743A (ja) 2019-08-13 2019-08-13 撮像装置
JP2019-148507 2019-08-13

Publications (1)

Publication Number Publication Date
WO2021029252A1 true WO2021029252A1 (ja) 2021-02-18

Family

ID=74570674

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/029675 WO2021029252A1 (ja) 2019-08-13 2020-08-03 撮像装置および撮像方法

Country Status (3)

Country Link
US (1) US20220279134A1 (ja)
JP (1) JP2021034743A (ja)
WO (1) WO2021029252A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102018221995A1 (de) * 2018-12-18 2020-06-18 Conti Temic Microelectronic Gmbh Synchronisiertes Kamerasystem mit zwei unterschiedlichen Kameras

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102215345A (zh) * 2010-04-09 2011-10-12 奇高电子股份有限公司 自动侦测去除闪烁的装置与相关方法
JP2013225826A (ja) * 2012-03-19 2013-10-31 Casio Comput Co Ltd 撮像装置、撮像方法及びプログラム
JP2014026050A (ja) * 2012-07-25 2014-02-06 Olympus Corp 撮像装置、画像処理装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4259998B2 (ja) * 2003-12-19 2009-04-30 三洋電機株式会社 フリッカ検出装置及び撮像装置
KR101705220B1 (ko) * 2007-11-15 2017-02-09 엑스트랄리스 테크놀로지 리미티드 입자 검출
WO2019181890A1 (en) * 2018-03-19 2019-09-26 Ricoh Company, Ltd. Information processing apparatus, image capture apparatus, image processing system, and method of processing information

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102215345A (zh) * 2010-04-09 2011-10-12 奇高电子股份有限公司 自动侦测去除闪烁的装置与相关方法
JP2013225826A (ja) * 2012-03-19 2013-10-31 Casio Comput Co Ltd 撮像装置、撮像方法及びプログラム
JP2014026050A (ja) * 2012-07-25 2014-02-06 Olympus Corp 撮像装置、画像処理装置

Also Published As

Publication number Publication date
US20220279134A1 (en) 2022-09-01
JP2021034743A (ja) 2021-03-01

Similar Documents

Publication Publication Date Title
US10866321B2 (en) Imaging device
US11750932B2 (en) Image processing apparatus, image processing method, and electronic apparatus
CN110573922B (zh) 摄像装置和电子设备
JP2018200980A (ja) 撮像装置および固体撮像素子、並びに電子機器
WO2021060120A1 (ja) 撮像装置
TW201903462A (zh) 手振修正裝置及攝像裝置
JPWO2019082539A1 (ja) 制御装置と制御方法およびプログラム
WO2021029252A1 (ja) 撮像装置および撮像方法
WO2021117561A1 (ja) 固体撮像素子、及び電子機器
WO2021241165A1 (ja) 光検出装置
US11838656B2 (en) Imaging device and correction method for reducing image height dependency of a depth
WO2021075116A1 (ja) 固体撮像装置及び電子機器
JPWO2020100697A1 (ja) 固体撮像素子、固体撮像装置及び電子機器
US20240305882A1 (en) Imaging device, imaging method, and program
WO2019082775A1 (ja) 画像処理装置、画像処理方法および撮像装置
JPWO2020075380A1 (ja) 記憶回路および撮像装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20851963

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20851963

Country of ref document: EP

Kind code of ref document: A1