WO2008050806A1 - Imaging device and reproduction control device - Google Patents

Imaging device and reproduction control device Download PDF

Info

Publication number
WO2008050806A1
WO2008050806A1 PCT/JP2007/070745 JP2007070745W WO2008050806A1 WO 2008050806 A1 WO2008050806 A1 WO 2008050806A1 JP 2007070745 W JP2007070745 W JP 2007070745W WO 2008050806 A1 WO2008050806 A1 WO 2008050806A1
Authority
WO
WIPO (PCT)
Prior art keywords
frame rate
imaging
image
mode
moving image
Prior art date
Application number
PCT/JP2007/070745
Other languages
English (en)
French (fr)
Inventor
Haruto Tokuyama
Original Assignee
Sony Corporation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corporation filed Critical Sony Corporation
Priority to JP2008541012A priority Critical patent/JPWO2008050806A1/ja
Priority to CN2007800397298A priority patent/CN101529890B/zh
Priority to EP07830479.7A priority patent/EP2079231B1/en
Priority to KR1020097007784A priority patent/KR101411627B1/ko
Priority to US12/312,111 priority patent/US8154606B2/en
Publication of WO2008050806A1 publication Critical patent/WO2008050806A1/ja
Priority to US13/365,727 priority patent/US9013583B2/en

Links

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F17/00Coin-freed apparatus for hiring articles; Coin-freed facilities or services
    • G07F17/32Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F17/00Coin-freed apparatus for hiring articles; Coin-freed facilities or services
    • G07F17/32Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
    • G07F17/3202Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
    • G07F17/3204Player-machine interfaces
    • G07F17/3211Display means
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F17/00Coin-freed apparatus for hiring articles; Coin-freed facilities or services
    • G07F17/32Coin-freed apparatus for hiring articles; Coin-freed facilities or services for games, toys, sports, or amusements
    • G07F17/3202Hardware aspects of a gaming system, e.g. components, construction, architecture thereof
    • G07F17/3204Player-machine interfaces
    • G07F17/3211Display means
    • G07F17/3213Details of moving display elements, e.g. spinning reels, tumbling members
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/806Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal
    • H04N9/8063Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components with processing of the sound signal using time division multiplex of the PCM audio and PCM video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal

Definitions

  • the present invention relates to an imaging device capable of imaging by switching frame rates and a playback control device capable of reproducing moving image information at a frame rate supported by an external monitor device.
  • Japanese Unexamined Patent Publication No. 63-59074 discloses a high-speed video camera that enables high-speed imaging by changing the shotta speed and frame speed.
  • Japanese Laid-Open Patent Publication No. 20 01-292409 high-quality slow motion recording and normal recording can be switched as a recording / reproducing device that reproduces images obtained in an imaging environment at a high frame rate. It is disclosed that.
  • the imaging device of the present invention includes an imaging unit capable of imaging at a first frame rate and a second frame rate higher than the first frame rate, A detection unit that detects a highlight scene and a control unit that switches a frame rate of the imaging unit in response to detection of the highlight scene by the detection unit.
  • the playback control device provides a frame rate to which the external monitor device corresponds to the playback control device that plays back the moving image information and the attached information of the moving image information from the recording medium. Based on the attached information! /, The judgment means for judging whether the playback mode when playing back the moving picture information is the thinning playback mode or the non-decimation playback mode, and the judgment result of the judgment means And a control means for controlling the reproduction operation of the moving image information accordingly.
  • the frame rate is switched in response to the detection of the highlight scene, for example, from the first frame rate to the second frame rate higher than the first frame rate. It is switched automatically. For this reason, it is possible to save the trouble of performing a frame rate switching operation when capturing a highlight scene.
  • the second frame rate is switched when a highlight scene is detected, power consumption and storage medium capacity can be saved as compared with the case of fixing to the second frame rate.
  • the playback control device of the present invention when moving image information is played based on the frame rate supported by the external monitor device and the attached information to be played back together with the moving image information to be played back. It is determined whether the reproduction mode is the thinning reproduction mode or the non-decimation reproduction mode, and the reproduction operation of moving image information is controlled according to the determination result. For example, if it is determined that the frame rate of the moving image information is higher than the frame rate supported by the external monitor device, it is determined as the thinning playback mode, and the moving image information corresponds to the external monitor device. It is played back at the frame rate. For this reason, the output image according to the corresponding situation, such as whether the display of the playback output destination supports the high-speed frame rate or not. Video information can be output at the frame rate.
  • FIG. 1 is a block diagram showing a configuration of an imaging apparatus according to the present invention.
  • FIG. 2 is a flowchart showing a frame rate switching operation in the imaging apparatus.
  • FIG. 3 is a flowchart showing highlight scene detection processing.
  • FIG. 4 is a diagram for explaining operations during recording and playback of the imaging device (when the external monitor device does not support the high-speed frame rate).
  • FIG. 5 is a diagram for explaining operations during recording and playback of the imaging device (when the external monitor device supports a high-speed frame rate).
  • FIG. 6 is a flowchart showing the switching operation between the high-speed frame rate playback mode and the normal frame rate playback mode.
  • FIG. 7 is an explanatory diagram showing a moving image file structure.
  • FIG. 8 is a diagram for explaining an operation when an image signal having a moving image file structure is reproduced when the external monitor device does not support the high-speed frame rate.
  • FIG. 9 is a diagram for explaining an operation when an image signal having a moving image file structure is reproduced when the external monitor device supports the high-speed frame rate.
  • FIG. 10 is a diagram showing the structure of data recorded on an external recording medium (or internal recording medium).
  • FIG. 11 is a diagram for explaining a reproduction operation when an external monitor device is connected in correspondence with a high-speed frame rate! /, Na! /.
  • FIG.12 Flowchart showing frame rate selection operation by manual operation during playback.
  • FIG. 13 is a flowchart showing an automatic switching operation between a normal frame rate thinning reproduction mode and a normal frame rate non-decimation reproduction mode.
  • FIG. 14 is a flowchart showing an automatic generation operation of frame rate switching information.
  • FIG. 1 is a block diagram showing the configuration of the imaging apparatus of the present invention.
  • the imaging device of the present invention is connected to the imaging device.
  • the first frame rate is set to a standard television frame rate, for example, 60 fps (frame / second) or 50 fps (here, “odd field” or “odd field” in NTSC, PAL, SECAM, etc.
  • One field of “Even field” is described as “1 frame”.
  • the second frame rate is 240 fps (frames / second), which is four times the first frame rate, for example.
  • the first frame rate is called the normal frame rate, and the second frame rate is called the high-speed frame rate.
  • the image pickup apparatus of the present invention includes an imager driving driver 1, an electronic image pickup device (imager) 2, an analog front end (AFE) 3, an image'audio processing ASIC (Application Specific Integrated Circuit) 4, a microphone 5, Analog amplifier 6, speaker 7, memory 8, panel drive driver 9, LCD (Liquid Crystal Display) panel 10, operation unit 11, notch 12, power management IC 13, external recording medium 14, image output terminal 15, internal recording medium 21
  • a programmable RAM (Random Access Memory) 22, an angular velocity sensor 23, a lens driving driver 24, a lens 25, and a system MPU (Micro Processing Unit) 26 are provided.
  • the imager drive driver 1 is a circuit for driving the electronic image sensor 2.
  • the electronic image sensor 2 is an image sensor that can generate an image signal with a high frame rate that can be generated only with an image signal with a normal frame rate.
  • CMOS Complementary Metal Oxide Semiconductor
  • AFE3 includes an analog signal processing circuit, an A / D converter, and the like!
  • the AFE 3 performs signal processing of an analog image signal generated by the electronic image sensor 2, such as noise removal processing and signal level adjustment processing. Furthermore, the image signal after signal processing is converted into a digital image signal.
  • Image / sound processing ASIC4 is an application-specific integration circuit that processes image signals and sound signals.
  • Image, audio processing ASIC4 is a digital image obtained by AFE3, for example. Processing such as color processing and lens correction processing is performed on the image signal. It also performs image signal compression and decompression.
  • the microphone 5 detects sound, converts it into an electrical signal, and outputs it.
  • the analog amplifier 6 is a circuit that amplifies the electric signal output from the microphone 5.
  • the speaker 7 converts the electrical signal amplified by the analog amplifier 6 into sound and outputs it.
  • the memory 8 is a circuit that stores various data.
  • the panel drive driver 9 is a circuit that drives each pixel of the LCD panel 10 based on the image signal processed by the image / sound processing ASIC 4.
  • the operation unit 11 includes various operation switches.
  • the battery 12 generates power to be supplied to each part of the imaging device.
  • the power management IC 13 is a circuit that detects the state of the battery 12 and the load state and manages the power supply of the imaging apparatus.
  • the external recording medium 14 is an external recording medium for storing moving image information, audio information, and the like generated by the imaging apparatus.
  • the image output terminal 15 is an output terminal for supplying the moving image information generated by the imaging device and the moving image information recorded on the external recording medium 14 to the external monitor device 30 so that the image can be monitored. is there.
  • the internal recording medium 21 is a storage device built in the imaging apparatus, and stores moving image information, audio information, and the like generated by the imaging apparatus.
  • the programmable RAM 22 constitutes various logics necessary for this imaging apparatus.
  • the angular velocity sensor 23 is a sensor for realizing a camera shake prevention function in the imaging apparatus, and detects an angular velocity when the imaging apparatus moves.
  • the lens driving driver 24 is a circuit for driving the lens 25 based on the lens driving signal to perform zoom operation and the like.
  • the system MPU 26 is a microprocessing unit that controls each part of the imaging apparatus.
  • the system MPU 26 uses a drive node corresponding to the high-speed frame rate for the imager drive driver 1.
  • the image sensor 2 is driven in high speed mode.
  • the system MPU26 also performs signal processing in the high-speed mode for the AFE3 and the image 'audio processing ASIC4. To generate an image signal with a high frame rate. Furthermore, the system MPU 26 causes the image signal processing ASIC 4 to compress the image signal at the high frame rate.
  • the system MPU26 is obtained by outputting the high-speed frame rate image signal obtained by controlling the operation of each part in this way from the image output terminal 15, or by compressing the high-speed frame rate image signal.
  • the recorded image recording data is recorded on the external recording medium 14 (or the internal recording medium 21).
  • the sound input from the microphone 5 is compressed after being subjected to digital sampling, and is recorded in synchronization with the captured image of the high-speed frame rate. Note that an image signal with a high frame rate may be recorded on the external recording medium 14 (or the internal recording medium 21). In this way, if the high-speed mode is selected as the operation mode, it is possible to output or record a captured image with high time resolution.
  • the operation mode of the image pickup apparatus is set to an operation mode for generating an image signal of a normal frame rate (hereinafter referred to as "normal mode"!)
  • the system MPU 26 uses less power consumption of the image pickup apparatus than the high-speed mode.
  • the frequency of the drive pulse itself is lowered, and the electronic image pickup device 2, AFE3, image'audio processing ASIC4, etc. are driven in the normal mode.
  • the resolution in the time direction is lower than that in the high-speed mode.
  • the frame rate of the image signal is lowered, there are advantages such as less power consumption and less burden on the capacity of the recording medium.
  • the exposure time differs between the high-speed mode and the normal mode. Therefore, by adjusting the gain of the image signal using the image / sound processing ASIC4 etc., the signal level can be made equal even when the exposure time is different. Good.
  • the external monitor device 30 When the external monitor device 30 is capable of supporting a high-speed frame rate, a captured image can be displayed using an image signal output from the image output terminal 15 of the imaging device.
  • the external monitor device 30 does not support the high-speed frame rate, for example, when it is an LCD panel or the like provided in a conventional television device or equipment, the image signal output from the image output terminal 15 of the imaging device When the frame rate is a high frame rate, the captured image cannot be displayed.
  • the imaging device is equipped with a high-speed frame rate imaging function.
  • a slow playback mode is provided to output the high frame rate image signal obtained by performing the image at the normal frame rate. For example, by playing 240 frame images per second (240fps) at a rate of 60 frame images per second (60fps), a slow playback mode that outputs image signals over four times the time is provided. . In this way, it is possible to perform slow playback image display with high time resolution using an image signal at a high frame rate.
  • the captured image can be displayed by providing the slow playback mode. It is also possible to do this. However, if all images are taken at a high frame rate, the power consumption of the imaging device increases as described above, and the operable time of the imaging device is shortened. Also, if the resolution in the high-speed mode is the same as the resolution in the normal mode, the recordable time will be shortened due to the large number of frames per unit time.
  • the imaging apparatus of the present invention detects a highlight scene based on information obtained by the imaging apparatus at the time of imaging, and automatically sets the frame rate of the captured image in response to the detection of the highlight scene. Switch automatically. By switching the frame rate in this way, it is possible to automatically create a slow-motion video effect of a highlight scene while saving the power consumption and the medium capacity while saving the effort required for the frame rate switching operation. .
  • FIG. 2 is a flowchart showing a frame rate switching operation in the imaging apparatus.
  • the system MPU 26 performs highlight scene detection processing (step Sl).
  • the system MPU 26 determines whether or not a highlight scene has been detected (step S2).
  • the system MPU 26 operates at a frame rate of 240 fps with the operation mode as the high speed mode.
  • To generate an image signal step S3).
  • the system MPU 26 determines whether or not the generation of the image signal in the high speed mode has passed a predetermined time (step S4), and generates the image signal in the high speed mode when the predetermined time has not passed.
  • the system MPU 26 generates an image signal by performing an imaging operation at a frame rate of 60 fps with the operation mode as a normal mode (step S5).
  • the highlight scene detection indicates when the amount of movement of the subject exceeds a predetermined value.
  • the system MPU 26 detects the highlight scene using the image signal of the captured image. For example, the difference calculation between frames is performed by the image 'sound processing ASI C4, and the obtained calculation result is supplied to the system MPU26.
  • the system MPU 26 compares the calculation result with a predetermined threshold, and when the calculation result exceeds the threshold, the amount of movement of the subject exceeds the predetermined value and is detected as a highlight scene. When the calculation result does not exceed the threshold value, the amount of movement of the subject exceeds the predetermined amount, and the highlight scene is detected as a thing! /,! /.
  • the calculation result of the interframe difference calculation is a value indicating the amount of movement of the subject.
  • a zoom operation that changes the imaging range for example, when a zoom-in or zoom-out operation is performed
  • the imaging direction for example, when a pan / tilt operation is performed or manually
  • the calculation result of the inter-frame difference calculation may become large even if the subject is not moving.
  • the system MPU 26 improves the accuracy of highlight scene detection by detecting the highlight scene using the zoom operation status and / or the output of the sensor for correcting camera shake (here, the angular velocity sensor 23). be able to.
  • FIG. 3 is a flowchart showing highlight scene detection processing.
  • the highlight scene detection process shown in Fig. 3 uses the zoom operation status of the imaging device and the output of the angular velocity sensor 23 only with the difference calculation result between frames to accurately detect the highlight scene. Is shown.
  • the system MPU 26 determines whether or not the lens driving driver 24 is operating a zoom (ZOOM) (step Sl 1). If the zoom is in operation, the system MPU 26 determines that no highlight scene has been detected (step S15).
  • step SI 1 If zoom is not active in step SI 1, then the system MPU 26 Based on the output of the sensor 23, it is determined whether or not the angular velocity applied to the imaging apparatus is high! /, For example, by comparing with a preset threshold value (step S12). As a result, if the angular velocity detected by the angular velocity sensor 23 is larger than the threshold value, the system MP U26 does not detect the highlight scene (step S15).
  • step S12 determines whether or not the angular velocity is not greater than the threshold.
  • the system MPU 26 determines whether or not the calculation result of the inter-frame difference calculation is small by comparing it with a preset threshold, for example. (Step S13). As a result, if the calculation result is smaller than the threshold value, the system MPU 26 determines that no highlight scene has been detected (step S15).
  • step S14 If the calculation result is not smaller than the threshold value in step S13, it is assumed that the system MPU 26 detects a highlight scene (step S14).
  • the system MPU 26 may detect a highlight scene by using an audio signal from a microphone or the like that uses only an image signal of a captured image. For example, it is assumed that a highlight scene has been detected when the signal level of the audio signal from the microphone exceeds a threshold value, and image signal generation is performed for a predetermined time in the high-speed mode, for example, in a race scene such as athletic meet. It is possible to record a scene as a highlight scene at a high frame rate.
  • FIG. 4 shows operations during recording and reproduction of the imaging apparatus, and shows a case where the external monitor device 30 is lazy corresponding to the high-speed frame rate.
  • FIG. 4 (a) shows a case where the external monitor device 30 connected to the image output terminal 15 corresponds to the high-speed frame rate! /, NA! /, And the highlight scene is detected. ! /, Na! /, When recording and playing. That is, since no or ill scene has not been detected, frames of frame numbers [0, 4, 8, 12...] Generated by the imaging device are recorded at 1/60 second intervals during recording. Also, since the external monitor device 30 does not support high-speed frame rates and the recorded frames are 1/60 second intervals, Frame power of number [0, 4, 8, 12 ...] Played at intervals of seconds.
  • FIG. 4B shows a case where the external monitor device 30 connected to the image output terminal 15 does not support the high-speed frame rate and is recorded when a highlight scene is detected. And the operation during playback. That is, when a highlight scene is detected, the operation mode is set to the high speed mode for a predetermined time. Therefore, at the time of recording, frames of frame numbers [0, 1, 2, 3, 4, 5, 6, 7, 8...] Generated by the imaging device are recorded at intervals of 1/240 seconds. Since the external monitor device 30 does not support the high-speed frame rate, the frame of the recorded frame number [0, 1, 2, 3, 4, 5, 6, 7, 8. Is played at 1/60 second intervals.
  • the imaging apparatus of the present invention is provided with a high frame rate reproduction mode for outputting an image signal at a high frame rate as an application for an external monitor apparatus that supports a high frame rate.
  • a high frame rate reproduction mode when the image signal to be output is an image signal generated in the high speed mode, it is output as it is without changing the frame rate.
  • the image signal to be output is an image signal generated in the normal mode, the frame image is repeatedly output to convert it to an image signal with a high frame rate and output it.
  • a mode for outputting an image signal is referred to as a normal frame rate reproduction mode. That is, in the normal frame rate reproduction mode, when the image signal to be output is an image signal generated in the normal mode, it is output as it is without changing the frame rate. When the image signal to be output is an image signal generated in the high speed mode, the image signal is output at the frame rate of the normal mode.
  • FIG. 5 shows operations during recording and reproduction of the imaging device, and shows a case where the external monitor device 30 records in correspondence with the high-speed frame rate.
  • FIG. 5 (a) shows a case where the external monitor device 30 connected to the image output terminal 15 corresponds to a high-speed frame rate, and a highlight scene is detected! /, Na! /, Shows the operation during recording and playback.
  • the frames of frame numbers [0, 4, 8, 12...] Generated by the imaging device are recorded at 1/60 second intervals during recording.
  • the external monitor device 30 supports high frame rate. Since the frames during playback are 1/240 second intervals, each frame image is output four times during playback (dummy frames are output), so that the number of frames is quadrupled and the frame number [0, 0, [0, 0, 4, 4, 4, 4, 8 ...] frames are played back every 1/240 seconds.
  • FIG. 5 shows the operation at the time of recording and reproduction when a highlight scene is detected, in the case where the external monitor device 30 supports the high-speed frame rate. That is, when the no-light scene is detected, the operation mode is set to the high-speed mode for a predetermined time. Therefore, at the time of recording, frames of frame numbers [0, 1, 2, 3, 4, 5, 6, 7, 8...] Generated by the imaging device are recorded at intervals of 1/240 seconds. Since the external monitor device 30 supports the high-speed frame rate, the recorded frame number [0, 1, 2, 3, 4, 5, 6, 7, 8 ... ] Frames are played back every 1/240 seconds.
  • a mode for outputting an image signal as shown in FIG. 5 is referred to as a high-speed frame rate reproduction mode. That is, in the high-speed frame rate reproduction mode, when the image signal to be output is an image signal generated in the high-speed mode, it is output as it is without changing the frame rate. When the image signal to be output is an image signal generated in the normal mode, the frame is interpolated and converted into an image signal with a high frame rate and output.
  • the image signal force S frame rate generated in the high-speed mode is output without being changed. Therefore, it is possible to display an image with a high temporal resolution for a predetermined time after the highlight scene is detected.
  • the image signal generated in the high-speed mode is output at the normal mode frame rate. Therefore, an image for a predetermined time after the no-light scene is detected can be played back in slow motion.
  • FIG. 6 is a flowchart showing the switching operation between the high-speed frame rate playback mode and the normal frame rate playback mode.
  • the system MPU 26 first determines whether or not the external monitor device 30 that is the output destination of the image signal corresponds to the high-speed frame rate (step S21). This determination is performed based on a signal from the operation unit 11, for example. That is, you The user determines whether or not the external monitor device 30 as the output destination supports the high-speed frame rate, and operates the operation unit 11 based on the determination result.
  • the system MPU 26 determines whether or not a user operation based on the determination result of whether or not the high-speed frame rate is supported based on the signal from the operation unit 11 and the like, and based on this user operation.
  • step S21 it is determined whether the output destination external monitor device 30 supports the high-speed frame rate.
  • step S21 when it is determined in step S21 that the output destination external monitor device 30 is compatible with the high-speed frame rate, the mode shifts to the high-speed frame rate reproduction mode (step S23).
  • step S21 when it is determined in step S21 that the high-speed frame rate is not supported, the normal frame rate reproduction mode is set (step S22).
  • the image signal is generated by switching the frame rate in response to the detection of the highlight scene, the power consumption and the amount of data stored in the storage medium can be reduced. Will be able to. Furthermore, by switching the frame rate of the image signal to be output according to whether or not the external monitor device 30 supports high-speed frame rate, the time resolution is high for a predetermined time after the detection of the no-light scene. The image can be displayed in a single motion.
  • the external monitor device 30 is capable of high-speed correspondence can be determined by an electric setting or a control signal at the time of user setting or cable connection as described above. For example, if the external monitor device supports HDMI (High Definition Multimedia Interface), it may be determined based on the display specifications of the external monitor device obtained via HDMI).
  • HDMI High Definition Multimedia Interface
  • Figure 7 shows a mixture of image signals obtained by performing an imaging operation (normal shooting) in normal mode and image signals obtained by performing an imaging operation (high-speed shooting) in high-speed mode. Shows the video file structure.
  • FIG. 8 shows an operation when the image signal having the moving image file structure shown in FIG. 7 is reproduced when the external monitor device 30 connected to the image output terminal 15 does not support the high-speed frame rate. .
  • the operation mode is automatically set from the normal mode to the high-speed mode. Since the time is switched, the image signal obtained by performing the imaging operation in the normal mode and the image signal obtained by performing the imaging operation in the high-speed mode are recorded together.
  • the external monitor device 30 does not support the high-speed frame rate, when the normal frame rate playback mode is automatically set, the image signal obtained by performing the imaging operation in the normal mode and the high-speed mode is not normal. Sequentially output at the frame rate. Therefore, on the screen of the external monitor device 30, an image captured in the high-speed mode is a slow-motion playback image that is extended four times in time.
  • FIG. 9 shows an operation when the image signal having the moving image file structure shown in FIG. 7 is reproduced when the external monitor device 30 connected to the image output terminal 15 supports the high-speed frame rate. .
  • the operation mode is automatically switched from the normal mode to the high-speed mode for a predetermined time.
  • the image signal obtained by performing the imaging operation in the normal mode and the image signal obtained by performing the imaging operation in the high speed mode are recorded together.
  • the external monitor device 30 supports high-speed frame rate and is automatically set to high-speed frame rate playback mode
  • the image signal obtained by performing the imaging operation in normal mode and high-speed mode is high-speed. Sequentially output at the frame rate. Therefore, the image captured in the high speed mode is displayed on the screen of the external monitor device 30 as an image having a higher time resolution than the image captured in the normal mode.
  • frame interpolation processing is performed, and the previous frame is repeatedly inserted as a dummy frame to be converted into an image signal with a high frame rate and output.
  • the imaging apparatus of the present invention for example, if the zoom operation is not being performed, the magnitude of the angular velocity applied to the imaging apparatus based on the output of the angular velocity sensor 23 is next. Is determined based on a preset threshold value. As a result, when the angular velocity detected by the angular velocity sensor 23 is larger than the threshold value, the imaging operation is performed in the normal mode. If it is determined that the angular velocity is smaller than the threshold value, the image / sound processing ASIC4 performs an inter-frame difference calculation and compares the calculation result with the threshold value. Judgment whether or not to exceed.
  • the imaging operation in the normal mode is performed.
  • a high-speed mode imaging operation is performed for a predetermined time on the assumption that a highlight scene has been detected when the amount of movement of the subject exceeds a predetermined value.
  • the imaging apparatus of the present invention in an imaging device capable of imaging and recording a captured image at a first frame rate and a second frame rate higher than the first frame rate, It is possible to automatically switch the imaging frame rate in highlight scenes that require images with high temporal resolution. As a result, there is an effect that an imaging apparatus capable of realizing a moving image capturing with a small amount of power consumption and a medium capacity without being burdened, a high time resolution in an appropriate place with a load, and the like.
  • the second frame rate at the time of reproduction is used.
  • the captured scene can be played back in slow motion and displayed, and images captured at the second frame rate can be used effectively.
  • images in which the first frame rate and the second frame rate are mixed can be maintained in the time direction. It is possible to output in real time.
  • the playback control device is provided in, for example, an imaging device
  • the block diagram of FIG. 1 is also applied to this playback control device.
  • the playback control device of the present invention is compatible with external monitor devices capable of displaying a high-speed frame rate that will be mixed in the future and high-speed frame rates.
  • the frame rate of the output image is fixed at a higher frame rate than the normal frame rate (60fps!) And at a high frame rate (240fps).
  • the frame rate of the output image depends on the frame rate supported by the external monitor device at the output destination. Make it adjustable. For this reason, the playback control device attaches the image recorded in correspondence with the frame rate supported by the external monitor device 30 that is the output destination of the image and the image recorded at the high-speed frame rate.
  • This playback mode determination and playback operation control are implemented by the system MPU26.
  • an image pickup apparatus equipped with this reproduction control device includes an imager drive driver 1, an electronic image pickup device 2, an analog front end (AFE) 3, and an image 'audio processing ASIC (Application Specific Integrated Circuit) 4, microphone 5, analog amplifier 6, speaker 7, memory 8, panel driver 9, LCD (Liquid Crystal Display) panel 10, operation unit 11, battery 12, power management IC 13, external recording medium 14, image output Terminal 15, internal recording medium 21, programmable RAM (Random Access Memory) 22, angular velocity sensor 23, lens drive dryer 24, lens 25, and system MPU (Micro Processing Unit) 26 are fg.
  • AFE analog front end
  • the imager drive driver 1 is a circuit for driving the electronic image sensor 2.
  • the electronic image pickup device 2 is an image pickup device that can generate an image signal with a high frame rate that can be generated using only an image signal with a standard frame rate.
  • CMOS Complementary Metal Oxide Semiconductor
  • AFE3 includes an analog signal processing circuit, an A / D converter, and the like!
  • the AFE 3 performs signal processing of an analog image signal generated by the electronic image sensor 2, such as noise removal processing and signal level adjustment processing. Furthermore, the image signal after signal processing is converted into a digital image signal.
  • Image / sound processing ASIC 4 is an application-specific integration circuit that processes image signals and sound signals.
  • Image / sound processing The ASIC4 performs processing such as color processing and lens correction processing on the digital image signal obtained by AFE3, for example. It also performs image signal compression and decompression.
  • the microphone 5 detects sound, converts it into an electric signal, and outputs it.
  • the analog amplifier 6 is a circuit that amplifies the electric signal output from the microphone 5.
  • the speaker 7 converts the electrical signal amplified by the analog amplifier 6 into sound and outputs it.
  • Memory 8 stores various data Circuit.
  • the panel drive driver 9 is a circuit that drives each pixel of the LCD panel 10 based on the image signal processed by the image / sound processing ASIC 4.
  • the operation unit 11 includes various operation switches.
  • the battery 12 generates power to be supplied to each part of the imaging device.
  • the power management IC 13 is a circuit that detects the state of the battery 12 and the load state and manages the power supply of the imaging apparatus.
  • the external recording medium 14 is an external recording medium for storing moving image information, audio information, and the like generated by the imaging apparatus.
  • the image output terminal 15 is an output terminal for supplying the moving image information generated by the imaging device and the moving image information recorded on the external recording medium 14 to the external monitor device 30 so that the image can be monitored. is there.
  • the internal recording medium 21 is a storage device built in the imaging apparatus, and stores moving image information, audio information, and the like generated by the imaging apparatus.
  • the programmable RAM 22 constitutes various logics necessary for this imaging apparatus.
  • the angular velocity sensor 23 is a sensor for realizing a camera shake prevention function in the imaging apparatus, and detects an angular velocity when the imaging apparatus moves.
  • the lens driving driver 24 is a circuit for driving the lens 25 based on the lens driving signal to perform zoom operation and the like.
  • the system MPU 26 is a microprocessing unit that controls each unit of the imaging apparatus.
  • the system MPU 26 sends a drive noise corresponding to the high-speed frame rate to the imager drive driver 1 to drive the electronic imaging device 2 in the high-speed mode.
  • the system MPU 26 also causes the AFE 3 and the image'sound processing ASIC 4 to perform signal processing in the high speed mode to generate an image signal with a high frame rate. Furthermore, the system MPU 26 causes the image signal processing ASIC 4 to compress the image signal at the high frame rate.
  • the system MPU26 is obtained by outputting the high-speed frame rate image signal obtained by controlling the operation of each part in this way from the image output terminal 15, or by compressing the high-speed frame rate image signal.
  • the recorded image recording data is recorded on the external recording medium 14 (or the internal recording medium 21). When recording image recording data, input from microphone 5.
  • the voice to be applied is compressed after being subjected to digital sampling, and is recorded in synchronization with a captured image of a high-speed frame rate.
  • the system MPU 26 generates auxiliary information and records the image recording data and the time axis in association with each other on the external recording medium 14 (or the internal recording medium 21).
  • the external recording medium 14 (or the internal recording medium 21) may be subjected to compression processing to record the image signal at a high frame rate.
  • the image recording data recorded on the external recording medium 14 (or the internal recording medium 21) and the image signal of the high frame rate are the moving image information!
  • FIG. 10 shows the structure of data recorded on the external recording medium 14 (or the internal recording medium 21).
  • the accessory information 33 is recorded separately from the image recording data 31 and the audio recording data 32 here.
  • the example shown in FIG. 10 is configured to have attached information in file units, as described above, the recording format of attached information is not limited to this.
  • the attached information 33 includes date, frame rate switching information (flag), and imaging status when a high-speed frame rate image signal used for generating frame rate switching information is generated, for example, zoom operation status,
  • the angular velocity detected by the angular velocity sensor 23 is included. The user can arbitrarily change the frame rate switching information (flag) of the attached information 33 at the time of recording or reproduction.
  • the external monitor device 30 connected to the image output terminal 15 can support the high-speed frame rate, it is possible to display an image based on the moving image information output from the image output terminal 15. It becomes.
  • the external monitor device 30 corresponds to a high-speed frame rate, such as! /, NA! /, For example, an LCD panel provided in a conventional television device or equipment, the video output from the image output terminal 15 If the frame rate of the image information is a high-speed frame rate, the image cannot be displayed based on the moving image information output from the image output terminal 15.
  • a normal frame rate thinning reproduction mode is provided.
  • a normal frame rate decimation playback mode is set, in which 240 frame images (240 fps) per second are thinned out to 60 frame images (60 fps) per second.
  • a normal frame rate non-decimation reproduction mode is provided in which the external monitor device 30 outputs at a corresponding normal frame rate without performing frame decimation of moving image information, which is a high-speed frame rate.
  • FIG. 11 shows a reproduction operation when an external monitor device that does not support such a high-speed frame rate is connected.
  • (A) in FIG. 11 shows the playback operation in the normal frame rate thinning playback mode.
  • the moving picture information to be played back has a high frame rate, and the frame number [0, 1, 2, 3, 4 , 5, 6, 7, 8 «] is said to be 1/240 less.
  • frame thinning is performed and a frame image of frame numbers [0, 4, 8, 12.
  • FIG. 11 (b) shows the playback operation in the normal frame rate non-decimated playback mode.
  • frame decimation is performed.
  • the moving image information is output at the corresponding normal frame rate of the external monitor device 30 without performing the operation. That is, frame images of frame numbers [0, 1, 2, 3, 4, 5, 6, 7, 8...] Are output at 1/60 second intervals.
  • FIG. 12 is a flowchart showing a frame rate selection operation by manual operation during playback depending on whether or not the output destination is an external monitor device that supports a high-speed frame rate.
  • the system MPU 26 determines whether or not the external monitor device 30 that is the output destination supports the high-speed frame rate (step S51).
  • system MPU26 indicates that the output destination is an external monitor device that supports the high-speed frame rate by the user's manual operation
  • system MPU26 controls high-speed frame rate by controlling image's audio processing ASIC4.
  • Output images in non-decimated playback mode step S53.
  • the external recording medium 14 or Outputs the high-speed frame rate (240 fps) moving image information recorded on the internal recording medium 21) without changing the frame rate.
  • the system MPU 26 When the external monitor device does not support the high-speed frame rate, the system MPU 26 further responds to whether the frame rate switching information (flag) set by manual operation is on or off (step S52). When the frame rate switching information is OFF, the normal frame rate thinning playback mode is selected (step S54). In normal frame rate thinning playback mode, when moving image information recorded on the external recording medium 14 (or internal recording medium 21) is played back, the frame is thinned out on the image's audio processing ASIC4, and the high-speed frame rate ( This is a playback mode in which video information of 240fps) is output as video information of normal frame rate (60fps) by the external monitor device.
  • the frame rate switching information flag
  • Normal frame rate non-decimated playback mode refers to high-speed frame rate (240fps) moving image information that is recorded at the normal frame rate when playing back moving image information recorded on the external recording medium 14 (or internal recording medium 21).
  • This mode outputs at (60 fps).
  • this is a playback mode that performs slow playback with high temporal resolution by outputting a 1-second image (240 images) as a slow-motion image for 4 seconds, which is four times the imaging time.
  • the playback control device automatically performs normal frame rate thinning playback mode and normal frame rate non-decimated playback based on frame rate switching information included in the attached information. Switch the mode. Thereby, for example, a desired period of a reproduced image can be automatically displayed as a slow motion image with a high time resolution.
  • the auxiliary information recorded on the external recording medium 14 or the internal recording medium 21 is reproduced to determine the playback mode, and the moving image information related to the auxiliary information used for this determination is Play in the determined playback mode.
  • FIG. 13 is a flowchart showing an operation for automatically switching between the normal frame rate thinning playback mode and the normal frame rate non-thinning playback mode based on the frame switching information included in the auxiliary information 33. .
  • the playback control device indicates an angular velocity indicating a zoom operation and / or an amount of motion of the imaging device when moving image information at a high frame rate included in the auxiliary information 33 is generated by the imaging device. It is also possible to generate frame rate switching information using the information and automatically switch the playback mode based on the generated frame rate switching information.
  • FIG. 14 is a flowchart showing an automatic generation operation of frame rate switching information.
  • the system MPU 26 determines whether or not zooming (ZOOM) is in operation (step S71). If the zoom is in operation, the system MPU 26 assumes that frame rate switching is not instructed, and displays frame rate switching information.
  • ZOOM zooming
  • the system MPU 26 next determines whether or not the angular velocity is large, for example, by comparing with a preset threshold value (step S72). As a result, if the angular velocity is greater than the threshold, the system MPU 26 does not instruct frame rate switching! / (Step S75).
  • step S72 If it is determined in step S72 that the angular velocity is not greater than the threshold value, the system MPU 26 performs the inter-frame difference calculation using the reproduced high frame rate moving image information on the seventh fire, and the calculation result is the threshold value. It is determined whether it is smaller than (step S73). As a result, when the calculation result is smaller than the threshold value, the system MPU 26 does not instruct the frame rate switching (step S75).
  • system MPU 26 turns on frame rate switching information on the assumption that frame rate switching is to be performed (step S73). P74).
  • the frame rate switching information is turned on in pulses to switch to the normal frame rate non-decimated playback mode, and then the normal frame rate non-decimated playback is performed. Play the mode for a predetermined time.
  • the system MPU 26 may generate frame rate switching information using a reproduced audio signal obtained only with the attached information.
  • the frame rate switching instruction is given when the signal level of the audio signal from the microphone becomes higher than a threshold value.
  • the frame rate switching information is generated, when the amount of motion of the subject exceeds a predetermined value, the normal frame rate non-decimation playback mode is selected and the motion of the subject is It is possible to display highlight scenes that increase in volume as slow-motion images with high temporal resolution. Also, even if the amount of movement of the subject increases due to the zoom operation or the change in the imaging direction, the frame rate is not switched in such a case. It is possible to prevent switching to the normal frame rate non-decimation playback mode when the amount of movement is not large.
  • this playback control device is a high-speed that outputs moving image information at a high frame rate without changing the frame rate. Has frame rate non-decimated playback mode. Also, when an external monitor device that does not support high-speed frame rate is used during playback, moving image information of high-speed frame rate is thinned out on the image-sound processing ASIC4, and the video of the frame rate supported by the external monitor device It has a normal frame rate thinning playback mode for playback as image information.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

明 細 書
撮像装置と再生制御装置
技術分野
[0001] 本発明は、フレームレートを切り換えて撮像が可能な撮像装置と、外部モニタ装置 が対応しているフレームレートで動画像情報の再生が可能な再生制御装置に関する 背景技術
[0002] 近年の CCD(Charge Coupled Device)から CMOS(Complementary Metal Oxide Se miconductor)への撮像素子のトレンドの変化や、放送のハイビジョン対応による撮像 素子、撮像システムの高解像度化といった技術により民生用の撮像装置においても 解像度を限定することで高速なフレームレートでの撮像環境が実現されている。
[0003] 例えば日本特開昭 63— 59074号公報では、シャツタ速度やコマ速度を可変するこ とで、高速撮像を可能にした高速ビデオカメラが開示されている。また、 日本特開 20 01— 292409号公報では、高速なフレームレートでの撮像環境において得られた映 像を再生する記録再生装置として、高画質なスローモーション記録と通常記録とを切 り換え可能とすることが開示されてレ、る。
発明の開示
発明が解決しょうとする課題
[0004] ところで、従来の撮像装置にお!/、ては、ユーザが手動でシャツタ速度やコマ速度を 指定することで高速撮像を行うものであり操作が煩雑になり、また、再生時のフレーム レートを切り換える手段が必要になるという課題があった。
[0005] また、従来の記録再生装置におレ、ては、再生出力先のディスプレイが高速フレーム レートに対応しているか否かなどの対応状況に応じた出力画像のフレームレートの調 整、および出力画像を再生出力先のディスプレイで表示する際のフレームレートの調 整ができな!/、とレ、う課題があった。
課題を解決するための手段
[0006] そこで、ハイライトシーン撮像時のフレームレートの切り換えに要する手間を省き、 消費電力および記憶媒体の容量を節約できるものとするため、この発明の撮像装置 では、第 1のフレームレートと第 1のフレームレートよりも高い第 2のフレームレートで撮 像可能な撮像手段と、ハイライトシーンを検出する検出手段と、検出手段によりハイラ イトシーンを検出したことに応じて、撮像手段のフレームレートを切り換える制御手段 とを備えるものである。
[0007] また、再生出力先が高速フレームレートに対応しているか否力、応じて、出力画像の フレームレートの調整および再生出力先で画像を表示する際のフレームレートの調 整が可能となるように、この発明の再生制御装置は、記録媒体から動画像情報と該 動画像情報の付属情報を再生する再生制御装置におレ、て、外部モニタ装置が対応 して!/、るフレームレートと付属情報に基づ!/、て、動画像情報を再生するときの再生モ ードを、間引き再生モードまたは非間引き再生モードのいずれとするか判定する判定 手段と、判定手段の判定結果に応じて動画像情報の再生動作を制御する制御手段 とを備えるものである。
発明の効果
[0008] 本発明の撮像装置によれば、ハイライトシーンの検出に応じてフレームレートの切り 換えが行われて例えば第 1のフレームレートから第 1のフレームレートよりも高い第 2 のフレームレートに自動的に切り換えられる。このため、ハイライトシーン撮像時のフ レームレートの切り換え操作を行う手間を省くことができる。また、ハイライトシーンが 検出されたときに第 2のフレームレートに切り換えられるので、第 2のフレームレートに 固定する場合に比べて、消費電力および記憶媒体の容量を節約できる。
[0009] また、本発明の再生制御装置によれば、外部モニタ装置が対応しているフレームレ ートと再生する動画像情報とともに再生する付属情報に基づいて、動画像情報を再 生するときの再生モードを、間引き再生モードまたは非間引き再生モードのいずれと するか判定して、判定結果に応じて動画像情報の再生動作の制御が行われる。例え ば、外部モニタ装置が対応して!/、るフレームレートよりも動画像情報のフレームレート が高いと判定されたとき、間引き再生モードと判定されて、動画像情報が外部モニタ 装置の対応しているフレームレートで再生される。このため、再生出力先のディスプレ ィが高速フレームレートに対応しているか否かなどの対応状況に応じた出力画像の フレームレートで動画像情報を出力できる。
図面の簡単な説明
[0010] [図 1]本発明の撮像装置の構成を示すブロック図である。
[図 2]撮像装置におけるフレームレート切り換え動作を示すフローチャートである。
[図 3]ハイライトシーンの検出処理を示すフローチャートである。
[図 4]撮像装置の記録時と再生時の動作 (外部モニタ装置が高速フレームレートに対 応していない場合)を説明するための図である。
[図 5]撮像装置の記録時と再生時の動作 (外部モニタ装置が高速フレームレートに対 応している場合)を説明するための図である。
[図 6]高速フレームレート再生モードと通常フレームレート再生モードの切り換え動作 を示すフローチャートである。
[図 7]動画ファイル構造を示す説明図である。
[図 8]外部モニタ装置が高速フレームレートに対応していないとき、動画ファイル構造 の画像信号を再生したときの動作を説明するための図である。
[図 9]外部モニタ装置が高速フレームレートに対応しているとき、動画ファイル構造の 画像信号を再生したときの動作を説明するための図である。
[図 10]外部記録媒体 (あるいは内部記録媒体)に記録されるデータの構成を示す図 である。
[図 11]高速フレームレートに対応して!/、な!/、外部モニタ装置が接続されたときの再生 動作を説明するための図である。
[図 12]再生時のマニュアル操作によるフレームレートの選択動作を示すフローチヤ一 トでめる。
[図 13]通常フレームレート間引き再生モードと通常フレームレート非間引き再生モー ドの自動切り換え動作を示すフローチャートである。
[図 14]フレームレート切換情報の自動生成動作を示すフローチャートである。
発明を実施するための最良の形態
[0011] 次に、本発明の実施の形態について図面を参照して説明する。図 1は、本発明の 撮像装置の構成を示すブロック図である。本発明の撮像装置は、撮像装置に接続し て用いられる外部モニタ装置が、第 1のフレームレートだけでなぐ第 1のフレームレ ートよりも高レ、フレームレートである第 2のフレームレートに対応して!/、る外部モニタ装 置へ移行するまでの過渡期において、第 2のフレームレートに対応した外部モニタ装 置と非対応な外部モニタ装置が混在すること、ならびに撮像動作時の電力および記 録媒体の容量への影響を考慮したものである。なお、以下の説明では、第 1のフレー ムレートを標準テレビジョン方式のフレームレート例えば 60fps (フレーム/秒)または 50fpsとする(なお、ここでは、 NTSC、 PAL、 SECAM等における「奇数フィールド」 や「偶数フィールド」の 1フィールドを「1フレーム」として記載している。)。また、第 2の フレームレートを第 1のフレームレートの例えば 4倍である 240fps (フレーム/秒)とす る。なお、第 1のフレームレートを通常フレームレート、第 2のフレームレートを高速フ レームレートという。
[0012] 本発明の撮像装置は、イメージヤー駆動ドライバ 1、電子撮像素子 (イメージヤー) 2 、アナログフロントエンド(AFE) 3、画像'音声処理 ASIC(Application Specific Integr ated Circuit)4、マイク 5、アナログアンプ 6、スピーカ 7、メモリ 8、パネル駆動ドライバ 9 、 LCD(Liquid Crystal Display)パネル 10、操作部 11、ノ ッテリ 12、電源管理 IC13、 外部記録媒体 14、画像出力端子 15、内部記録媒体 21、プログラマブル RAM(Rand om Access Memory)22、角速度センサ 23、レンズ駆動ドライバ 24、レンズ 25および システム MPU(Micro Processing Unit)26を備えている。
[0013] イメージヤー駆動ドライバ 1は、電子撮像素子 2を駆動するための回路である。電子 撮像素子 2は、通常フレームレートの画像信号だけでなぐ高速フレームレートの画 像信号の生成を行うことができる撮像素子である。電子撮像素子 2としては、例えば C MOS(Complementary Metal Oxide Semiconductor)イメージヤー等が用いられる。
[0014] AFE3は、アナログ信号処理回路や A/Dコンバータ等を備えて!/、る。 AFE3は、 電子撮像素子 2で生成されたアナログの画像信号の信号処理例えばノイズ除去処理 や信号レベル調整処理等を行う。さらに信号処理後の画像信号をディジタルの画像 信号に変換する。
[0015] 画像 ·音声処理 ASIC4は、画像信号および音声信号を処理する特定用途向け集 積回路である。画像.音声処理 ASIC4は、例えば AFE3で得られたディジタルの画 像信号に対して色処理やレンズ補正処理といった処理を行う。また、画像信号の圧 縮処理や伸長処理等も行う。
[0016] マイク 5は、音声を検出し電気信号へ変換し出力する。アナログアンプ 6は、マイク 5 力、ら出力された電気信号を増幅する回路である。スピーカ 7は、アナログアンプ 6にお いて増幅した電気信号を音声に変換して出力する。メモリ 8は、各種データを記憶す る回路である。パネル駆動ドライバ 9は、画像 ·音声処理 ASIC4により処理した画像 信号をもとに LCDパネル 10の各画素を駆動する回路である。操作部 11は各種操作 スィッチを備えている。バッテリ 12は、この撮像装置の各部へ供給される電力を発生 させる。電源管理 IC13は、バッテリ 12の状態と負荷状態を検出し、この撮像装置の 電源を管理する回路である。
[0017] 外部記録媒体 14は、この撮像装置で生成された動画像情報や音声情報等を保存 するための外部記録媒体である。画像出力端子 15は、この撮像装置で生成された 動画像情報や外部記録媒体 14に記録されている動画像情報を外部モニタ装置 30 に供給して画像をモニタできるにょうにするための出力端子である。内部記録媒体 2 1は、この撮像装置に内蔵された記憶装置であり、この撮像装置で生成された動画像 情報や音声情報等を保存する。
[0018] プログラマブル RAM22は、この撮像装置で必要な各種ロジックを構成している。
[0019] 角速度センサ 23は、この撮像装置における手ブレ防止機能を実現するためのセン サであり、撮像装置が動いたときの角速度を検出する。
[0020] レンズ駆動ドライバ 24は、レンズ駆動信号をもとにレンズ 25を駆動してズーム動作 等を fiうための回路である。
[0021] システム MPU26は、この撮像装置の各部を制御するマイクロプロセッシングュニッ トでめる。
[0022] 次に動作について説明する。システム MPU26は、撮像装置の動作モードが高速 フレームレートの画像信号を生成する動作モード(以下「高速モード」という)とされた とき、イメージヤー駆動ドライバ 1に対して高速フレームレートに対応した駆動ノ ルス を送り、電子撮像素子 2を高速モードで駆動する。
[0023] また、システム MPU26は、 AFE3や画像'音声処理 ASIC4も高速モードで信号処 理を行わせて、高速フレームレートの画像信号を生成させる。さらに、システム MPU 26は、高速フレームレートの画像信号の圧縮処理を画像'音声処理 ASIC4で行わ せる。システム MPU26は、このように各部の動作を制御して得られた高速フレームレ ートの画像信号を画像出力端子 15から出力させる処理や、高速フレームレートの画 像信号を圧縮処理して得られた画像記録データを外部記録媒体 14 (あるいは内部 記録媒体 21)に記録する処理を行う。画像記録データを記録する際、マイク 5から入 力される音声は、ディジタルサンプリングが施された後に圧縮されて、高速フレームレ 一トの撮像画像に同期して記録される。なお、外部記録媒体 14 (あるいは内部記録 媒体 21)には、高速フレームレートの画像信号を記録するものとしてもよい。このよう に、動作モードとして高速モードを選択すれば、時間解像度の高い撮像画像を出力 るいは記録すること力 Sできる。
[0024] システム MPU26は、撮像装置の動作モードを通常フレームレートの画像信号を生 成する動作モード(以下「通常モード」と!、う)とするとき、高速モードよりも撮像装置の 消費電力を低下させるため、駆動パルスの周波数そのものを下げて、電子撮像素子 2や AFE3および画像'音声処理 ASIC4等を通常モードで駆動する。
[0025] 通常モードでは時間方向の解像度が高速モードに比べて低下するが、画像信号 のフレームレートが下がるため消費電力、記録媒体の容量への負担が少ないなどの メリットが生じる。なお、高速モードと通常モードでは露光時間が異なることから、画像 •音声処理 ASIC4等にて画像信号のゲイン調整を行うことで、露光時間が異なる場 合でも信号レベルが同等となるようにすればよい。
[0026] 外部モニタ装置 30が高速フレームレートに対応可能である場合、撮像装置の画像 出力端子 15から出力される画像信号を用いて、撮像画像を表示することが可能であ る。しかし、外部モニタ装置 30が高速フレームレートに対応していない場合、例えば 従来のテレビジョン装置や機器に備わった LCDパネル等である場合、撮像装置の画 像出力端子 15から出力される画像信号のフレームレートが高速フレームレートである ときには、撮像画像を表示することはできない。
[0027] したがって、高速フレームレートに対応して!/、な!/、外部モニタ装置に対しては、撮 像装置が備えてレ、る高速フレームレートの撮像機能の用途として、高速モードで撮 像を行うことにより得られた高フレームレートの画像信号を通常フレームレートで出力 するスロー再生モードを設ける。例えば 1秒当たり 240枚のフレーム画像(240fps)を 1秒当たり 60枚のフレーム画像(60fps)の速度で再生することで、 4倍の時間をかけ て画像信号の出力を行うスロー再生モードを設ける。このようにすれば、高速フレー ムレートの画像信号を用いて、時間解像度の高いスロー再生画像表示を行うことが 可能となる。
[0028] このように、高速フレームレートに対応していない外部モニタ装置を用いる場合であ つても、スロー再生モードを設けることで撮像画像を表示することができるので、全て 高フレームレートで撮像を行うことも可能となる。しかし、全て高フレームレートで撮像 を行うものとすると、前述の通り撮像装置の消費電力が大きくなることから撮像装置の 動作可能時間が短くなつてしまう。また、高速モードでの解像度を、通常モードでの 解像度と同じとした場合には、単位時間あたりのフレーム数が多いことから記録可能 時間も短くなつてしまう。
[0029] そこで、本発明の撮像装置は、撮像時に撮像装置で得られる情報をもとにハイライ トシーンを検出して、ハイライトシーンが検出されることに応じて、撮像画像のフレーム レートを自動的に切り換える。このようにフレームレートの切り換えを行うことで、フレー ムレートの切り換え操作に要する手間を省き、消費電力と媒体容量を節約しつつ、ハ イライトシーンのスローモーション映像効果を自動的に作成できるようにする。
[0030] なお、ハイライトシーンの検出およびフレームレート切り換えはシステム MPU26に より実現されている。
[0031] 図 2は、撮像装置におけるフレームレート切り換え動作を示すフローチャートである 。図 2のフローチャートに示すように、システム MPU26は、ハイライトシーンの検出処 理を行う(ステップ Sl)。次に、システム MPU26は、ハイライトシーンが検出されたか 否かを判定し(ステップ S2)、ハイライトシーンが検出されたとき、システム MPU26は 、動作モードを高速モードとして 240fpsのフレームレートで撮像動作を行わせて画 像信号を生成させる(ステップ S3)。その後、システム MPU26は、高速モードでの画 像信号の生成が所定時間経過したか否力、を判別して (ステップ S4)、所定時間が経 過していないときには高速モードでの画像信号の生成を継続し、所定時間が経過し たときはハイライトシーンの検出処理を行う。また、ハイライトシーンが検出されていな いとき、システム MPU26は、動作モードを通常モードとして 60fpsのフレームレート で撮像動作を行わせて画像信号を生成させる(ステップ S 5)。
[0032] 次に、ハイライトシーンの検出処理につ!/、て説明する。ハイライトシーンの検出とは 、被写体の動きの量が所定値を超えたときを示している。システム MPU26は、撮像 画像の画像信号を用いてハイライトシーンの検出を行う。例えば画像'音声処理 ASI C4にてフレーム間差分演算を行い、得られた演算結果をシステム MPU26に供給 する。システム MPU26は、演算結果と予め定められた閾値を比較して、演算結果が 閾値を超えたとき、被写体の動きの量が所定値を超えたものとしてハイライトシーンの 検出とする。また、演算結果が閾値を超えていないとき、被写体の動きの量が所定量 を超えてレ、な!/、ものとしてハイライトシーンは検出されて!/、な!/、とする。
[0033] ところで、撮像装置が固定されており撮像範囲に変化がないとき、フレーム間差分 演算の演算結果は、被写体の動きの量を示す値となる。しかし、撮像範囲を変化させ るズーム動作が行われた場合(例えばズームインやズームアウト動作が行われた場 合)や、撮像方向が変化した場合 (例えばパン'チルト動作が行われた場合や手ブレ が大きい場合など)、被写体が動いていなくともフレーム間差分演算の演算結果は大 きくなつてしまうおそれがある。
[0034] そこで、システム MPU26は、ズーム作動状況および/または手ブレ補正用のセン サ(ここでは角速度センサ 23)出力も用いてハイライトシーンの検出を行えば、ハイラ イトシーンの検出精度を向上させることができる。
[0035] 図 3は、ハイライトシーンの検出処理を示すフローチャートである。この図 3に示すハ イライトシーンの検出処理は、フレーム間の差分演算結果だけでなぐ撮像装置のズ ーム動作状況と角速度センサ 23の出力を用いて、ハイライトシーンの検出を精度よく 行う場合を示している。
[0036] 図 3に示すフローチャートによれば、先ずシステム MPU26は、レンズ駆動ドライバ 2 4がズーム(ZOOM)作動中であるか否か判定する(ステップ Sl l)。そして、ズーム 作動中であれば、システム MPU26はハイライトシーン未検出とする(ステップ S15)。
[0037] ステップ SI 1においてズーム作動中でなければ、次にシステム MPU26は、角速度 センサ 23の出力をもとに、この撮像装置に加えられて!/、る角速度が大き!/、か否かを 例えば予め設定されている閾値と比較して判定する(ステップ S12)。この結果、角速 度センサ 23により検出された角速度の大きさが閾値よりも大きい場合、システム MP U26はハイライトシーン未検出とする(ステップ S15)。
[0038] ステップ S12において角速度が閾値よりも大きくないと判定した場合、 7火にシステム MPU26は、フレーム間差分演算の演算結果が小さいか否かを例えば予め設定され ている閾値と比較して判定する (ステップ S13)。その結果、演算結果が閾値よりも小 さい場合、システム MPU26はハイライトシーン未検出とする(ステップ S15)。
[0039] また、ステップ S 13において演算結果が閾値よりも小さくない場合、システム MPU2 6はハイライトシーンを検出したものとする(ステップ S 14)。
[0040] さらに、システム MPU26は、撮像画像の画像信号だけでなぐマイク等からの音声 信号を用いてハイライトシーンの検出を行うものとしてもよい。例えばマイクからの音 声信号の信号レベルが閾値よりも大きくなつたときハイライトシーンを検出したものとし て、高速モードで画像信号の生成を所定時間行うことにより、例えば運動会等のレー スシーンにおいてスタートシーンをハイライトシーンとして高フレームレートで記録する ことが可能である。
[0041] また、通常の操作釦に合わせて高速フレームレートフラグの設定を行うことにより、 例えば記録開始のレリーズ釦の長押しをトリガとしてフラグをオンすることにより、撮像 動作を継続したまま動作モードを通常モードから高速モードに切り換えることが可能 である。
[0042] 図 4は、撮像装置の記録時と再生時の動作を示しており、外部モニタ装置 30が高 速フレームレートに対応してレヽなレ、場合である。
[0043] 図 4の(a)は、画像出力端子 15に接続された外部モニタ装置 30が高速フレームレ ートに対応して!/、な!/、場合であって、ハイライトシーンが検出されて!/、な!/、ときの記録 時と再生時の動作を示している。つまり、ノ、イライトシーンが検出されていないことから 、記録時には 1/60秒間隔で撮像装置が生成したフレーム番号〔0, 4, 8, 12……〕 のフレームが記録される。また、外部モニタ装置 30が高速フレームレートに対応して おらず、記録されたフレームが 1/60秒間隔であることから、再生時には、フレーム 番号〔0, 4, 8, 12……〕のフレーム力 秒間隔で再生される。
[0044] 図 4の(b)は、画像出力端子 15に接続された外部モニタ装置 30が高速フレームレ ートに対応していない場合であって、ハイライトシーンが検出されたときの記録時と再 生時の動作を示している。つまり、ハイライトシーンが検出されると動作モードが所定 時間だけ高速モードとされる。したがって、記録時には、 1/240秒間隔で撮像装置 が生成したフレーム番号〔0, 1 , 2, 3, 4, 5, 6, 7, 8……〕のフレームが記録される。 そして、再生時のフレームは、外部モニタ装置 30が高速フレームレートに対応してい ないため、記録したフレーム番号〔0, 1 , 2, 3, 4, 5, 6, 7, 8……〕のフレームが 1/ 60秒間隔で再生される。
[0045] また、本発明の撮像装置では、高速フレームレートに対応した外部モニタ装置向け の用途として、高速フレームレートの画像信号を出力する高フレームレート再生モー ドを設ける。この高フレームレート再生モードにおいて、出力する画像信号が高速モ ードで生成された画像信号であるとき、フレームレートを変更することなくそのまま出 力する。また出力する画像信号が通常モードで生成された画像信号であるとき、フレ ーム画像の繰り返し出力を行うことで、高速フレームレートの画像信号に変換して出 力する。
[0046] なお、図 4に示すように画像信号を出力するモードを通常フレームレート再生モード と呼ぶものとする。すなわち、通常フレームレート再生モードでは、出力する画像信 号が通常モードで生成された画像信号であるとき、フレームレートを変更することなく そのまま出力する。また出力する画像信号が高速モードで生成された画像信号であ るとき、この画像信号を通常モードのフレームレートで出力する。
[0047] 図 5は、撮像装置の記録時と再生時の動作を示しており、外部モニタ装置 30が高 速フレームレートに対応してレ、る場合である。
[0048] 図 5の(a)は、画像出力端子 15に接続された外部モニタ装置 30が高速フレームレ ートに対応して!/、る場合であって、ハイライトシーンが検出されて!/、な!/、ときの記録時 と再生時の動作を示している。つまり、ノ、イライトシーンが検出されていないことから、 記録時には 1/60秒間隔で撮像装置が生成したフレーム番号〔0, 4, 8, 12……〕の フレームが記録される。また、外部モニタ装置 30が高速フレームレートに対応してお り、再生時のフレームは 1/240秒間隔であることから、再生時に各フレーム画像を 4 回繰り返し出力(ダミーフレームを出力)することでフレーム数を 4倍として、フレーム 番号〔0, 0, 0, 0, 4, 4, 4, 4, 8……〕のフレームが 1/240秒間隔で再生される。
[0049] 図 5の(b)は、外部モニタ装置 30が高速フレームレートに対応している場合であつ て、ハイライトシーンが検出されたときの記録時と再生時の動作を示している。つまり 、 ノ、イライトシーンが検出されると動作モードが所定時間だけ高速モードとされる。し たがって、記録時には、 1/240秒間隔で撮像装置が生成したフレーム番号〔0, 1 , 2, 3, 4, 5, 6, 7, 8……〕のフレームが記録される。そして、再生時のフレームは、外 部モニタ装置 30が高速フレームレートに対応していることから、記録したフレーム番 号〔0, 1 , 2, 3, 4, 5, 6, 7, 8……〕のフレームが 1/240秒間隔で再生される。
[0050] なお、図 5に示すように画像信号を出力するモードを高速フレームレート再生モード と呼ぶものとする。すなわち、高速フレームレート再生モードでは、出力する画像信 号が高速モードで生成された画像信号であるとき、フレームレートを変更することなく そのまま出力する。また出力する画像信号が通常モードで生成された画像信号であ るとき、フレームの補間を行い高速フレームレートの画像信号に変換して出力する。
[0051] このように、高速フレームレート再生モードでは、高速モードで生成された画像信号 力 Sフレームレートを変更されることなく出力される。したがって、ハイライトシーンが検 出されてから所定時間、時間解像度の高い画像表示を行うことができる。また、通常 フレームレート再生モードでは、高速モードで生成された画像信号が通常モードのフ レームレートで出力される。したがって、ノ、イライトシーンが検出されてから所定時間 分の画像をスローモーションで再生することができる。
[0052] 次に、外部モニタ装置 30が高速フレームレートに対応しているか否かに応じて、高 速フレームレート再生モードと通常フレームレート再生モードの切り換えを行う場合に ついて説明する。
[0053] 図 6は、高速フレームレート再生モードと通常フレームレート再生モードの切り換え 動作を示すフローチャートである。システム MPU26は、先ず画像信号の出力先であ る外部モニタ装置 30が高速フレームレートに対応して!/、るか否かを判定する(ステツ プ S21)。この判定は、例えば操作部 11からの信号に基づいて行う。すなわち、ユー ザは、出力先の外部モニタ装置 30が高速フレームレートに対応しているか否かを判 断して、判断結果に基づいて操作部 11を操作する。システム MPU26は、操作部 11 力、らの信号に基づき、高速フレームレートに対応しているか否かの判断結果に基づ いたユーザ操作が行われたか否かを判別して、このユーザ操作に基づき、出力先の 外部モニタ装置 30が高速フレームレートに対応しているか否かを判定する。この判 定の結果、ステップ S21において出力先の外部モニタ装置 30が高速フレームレート に対応していると判定したときには高速フレームレート再生モードへ移行する(ステツ プ S23)。一方、ステップ S21において高速フレームレートに対応していないと判定し たときには通常フレームレート再生モードとする(ステップ S22)。
[0054] このように、ハイライトシーンを検出したことに応じてフレームレートを切り換えて画像 信号の生成を行うものとすれば、消費電力および記憶媒体へ記憶されるデータ量の 抑制を実現することができるようになる。さらに、外部モニタ装置 30が高速フレームレ ートに対応するか否かに応じて、出力する画像信号のフレームレートを切り換えること で、ノ、イライトシーンが検出されてから所定時間、時間解像度の高い画像表示ゃスロ 一モーション表示を行うことができる。
[0055] なお、外部モニタ装置 30が高速対応可能かどうかは前述したようにユーザ設定もし くはケーブル接続時に電気的もしくは制御信号で判断可能である。例えば外部モニ タ装置が HDMI (High Definition Multimedia Interface)に対応している場合には、 H DMIを介して取得した外部モニタ装置の表示仕様に基づいて判断することが考えら れる)。
[0056] 図 7は、通常モードで撮像動作 (通常撮影)を行って得られた画像信号と、高速モ 一ドで撮像動作 (高速撮影)を行って得られた画像信号が混在して記録された動画 ファイル構造を示している。
[0057] 図 8は、画像出力端子 15に接続された外部モニタ装置 30が高速フレームレートに 対応していないとき、図 7に示す動画ファイル構造の画像信号を再生したときの動作 を示している。
[0058] 通常モードで撮像動作が行われているときに、図 3に示すような処理によってハイラ イトシーンが検出されると、動作モードが通常モードから高速モードに自動的に所定 時間切り換えられることから、通常モードで撮像動作を行って得られた画像信号と、 高速モードで撮像動作を行って得られた画像信号が混在して記録される。また、外 部モニタ装置 30が高速フレームレートに対応していないため、 自動的に通常フレー ムレート再生モードに設定されると、通常モードと高速モードで撮像動作を行って得 られた画像信号が通常フレームレートで順次出力される。したがって、外部モニタ装 置 30の画面上には、高速モードで撮像された画像が時間的に 4倍に引き延ばされた スローモーション再生の画像となる。
[0059] 図 9は、画像出力端子 15に接続された外部モニタ装置 30が高速フレームレートに 対応しているとき、図 7に示す動画ファイル構造の画像信号を再生したときの動作を 示している。
[0060] 通常モードで撮像動作が行われているときに、図 3に示すような処理によってハイラ イトシーンが検出されると、動作モードが通常モードから高速モードに自動的に所定 時間切り換えられることから、通常モードで撮像動作を行って得られた画像信号と、 高速モードで撮像動作を行って得られた画像信号が混在して記録される。また、外 部モニタ装置 30が高速フレームレートに対応しており、自動的に高速フレームレート 再生モードに設定されると、通常モードと高速モードで撮像動作を行って得られた画 像信号が高速フレームレートで順次出力される。したがって、外部モニタ装置 30の画 面上には、高速モードで撮像された画像が通常モードで撮像された画像よりも時間 解像度の高い画像として表示される。また、通常モードで撮像された画像を出力する ときは、フレーム補間処理を行い、前のフレームをダミーフレームとして繰り返し揷入 することで高速フレームレートの画像信号に変換して出力する。
[0061] 以上説明したように、本発明の撮像装置によれば、例えばズーム作動中でなけれ ば、次に角速度センサ 23の出力をもとにこの撮像装置に加えられている角速度の大 きさが大きいか否かを、予め設定されている閾値をもとに判定する。この結果、角速 度センサ 23により検出された角速度が閾値より大きい場合には、通常モードで撮像 動作を行う。また、角速度の大きさが前記閾値より小さいと判定した場合には、次に 画像 ·音声処理 ASIC4にてフレーム間差分演算を行い演算結果と閾値を比較して、 被写体の移動量が所定値を超えるか否力、を判定する。その結果、被写体の移動量 が所定値を超えていないときは通常モードの撮像動作を行う。また、被写体の移動量 が所定値を超えたときハイライトシーンが検出されたものとして、高速モードの撮像動 作を所定時間行う。
[0062] この結果、より確実にハイライトシーンを検出することが可能となり、ハイライトシーン が検出されたときのみ高速フレームレートによる撮像動作が行われるため、消費電力 と記憶媒体の容量が節約され、さらに撮像フレームレートの切り換え操作に要する手 間が不要となる。
[0063] 言い換えると、本発明の撮像装置によれば、第 1のフレームレートと第 1のフレーム レートよりも高い第 2のフレームレートで撮像や撮像画像の記録が可能な撮像機器に おいて、時間解像度の高い画像が必要なハイライトシーンで自動的に撮像フレーム レートを切り換えることが可能になる。この結果、消費電力と媒体の容量に負担をか けることなく少な!/、負荷で適所に時間解像度の高!/、動画撮像を実現できる撮像装置 が得られる効果がある。
[0064] また、外部モニタ装置 30に合わせて再生時のフレームレートを変換することで、外 部モニタ装置 30が第 2のフレームレートに対応していない場合でも、再生時に第 2の フレームレートで撮像されたシーンをスローモーション再生して表示することが可能と なり、第 2のフレームレートで撮像された画像を有効活用できる。また、第 2のフレーム レートに対応している高速表示可能な外部モニタ装置に対しては、第 1のフレームレ 一トと第 2のフレームレートの混在する画像を時間方向に精細さを保ちつつリアルタイ ムに出力することが可能になる。
[0065] 次に、本願発明の再生制御装置につ!/、て説明する。なお、再生制御装置を例えば 撮像装置に設けるものとすると、図 1のブロック図はこの再生制御装置においても適 用される。
[0066] 本願発明の再生制御装置は、今後過渡的に混在する高速フレームレート表示可能 な外部モニタ装置と高速フレームレートに対応して!/、な!/、外部モニタ装置を考慮し、 記録時のフレームレートは通常フレームレート(60fps)よりも高!/、高速フレームレート (240fps)に固定して、再生時には出力先の外部モニタ装置が対応するフレームレ ートに応じて出力画像のフレームレートを調整可能にする。 [0067] このため、再生制御装置は、画像の出力先の外部モニタ装置 30が対応しているフ レームレートと、高速フレームレートで記録された画像に対応して記録された当該画 像の付属情報に基づいて、記録された画像を再生するときの再生モードを、間引き 再生モードまたは非間引き再生モードのいずれとするか判定して、判定結果に応じ て画像の再生動作を制御する。この再生モードの判定や再生動作の制御は、システ ム MPU26により実現されている。
[0068] この再生制御装置を備えた撮像装置は、図 1に示すように、イメージヤー駆動ドライ バ 1、電子撮像素子 2、アナログフロントエンド (AFE) 3、画像'音声処理 ASIC(Appli cation Specific Integrated Circuit)4、マイク 5、アナログアンプ 6、スピーカ 7、メモリ 8、 パネル駆動ドライバ 9、 LCD(Liquid Crystal Display)パネル 10、操作部 11、バッテリ 12、電源管理 IC13、外部記録媒体 14、画像出力端子 15、内部記録媒体 21、プロ グラマブル RAM(Random Access Memory)22、角速度センサ 23、レンズ駆動ドライ ノ 24、レンズ 25およびシステム MPU(Micro Processing Unit)26を fgえてレヽる。
[0069] イメージヤー駆動ドライバ 1は、電子撮像素子 2を駆動するための回路である。電子 撮像素子 2は、標準フレームレートの画像信号だけでなぐ高速フレームレートの画 像信号の生成を行うことができる撮像素子である。電子撮像素子 2としては、例えば C MOS(Complementary Metal Oxide Semiconductor)イメージヤー等が用いられる。
[0070] AFE3は、アナログ信号処理回路や A/Dコンバータ等を備えて!/、る。 AFE3は、 電子撮像素子 2で生成されたアナログの画像信号の信号処理例えばノイズ除去処理 や信号レベル調整処理等を行う。さらに信号処理後の画像信号をディジタルの画像 信号に変換する。
[0071] 画像 ·音声処理 ASIC4は、画像信号および音声信号を処理する特定用途向け集 積回路である。画像.音声処理 ASIC4は、例えば AFE3で得られたディジタルの画 像信号に対して色処理やレンズ補正処理といった処理を行う。また、画像信号の圧 縮処理や伸長処理等も行う。
[0072] マイク 5は、音声を検出し電気信号へ変換し出力する。アナログアンプ 6は、マイク 5 力、ら出力された電気信号を増幅する回路である。スピーカ 7は、アナログアンプ 6にお いて増幅した電気信号を音声に変換して出力する。メモリ 8は、各種データを記憶す る回路である。パネル駆動ドライバ 9は、画像 ·音声処理 ASIC4により処理した画像 信号をもとに LCDパネル 10の各画素を駆動する回路である。操作部 11は各種操作 スィッチを備えている。バッテリ 12は、この撮像装置の各部へ供給される電力を発生 させる。電源管理 IC13は、バッテリ 12の状態と負荷状態を検出し、この撮像装置の 電源を管理する回路である。
[0073] 外部記録媒体 14は、この撮像装置で生成された動画像情報や音声情報等を保存 するための外部記録媒体である。画像出力端子 15は、この撮像装置で生成された 動画像情報や外部記録媒体 14に記録されている動画像情報を外部モニタ装置 30 に供給して画像をモニタできるにょうにするための出力端子である。内部記録媒体 2 1は、この撮像装置に内蔵された記憶装置であり、この撮像装置で生成された動画像 情報や音声情報等を保存する。
[0074] プログラマブル RAM22は、この撮像装置で必要な各種ロジックを構成している。
[0075] 角速度センサ 23は、この撮像装置における手ブレ防止機能を実現するためのセン サであり、撮像装置が動いたときの角速度を検出する。
[0076] レンズ駆動ドライバ 24は、レンズ駆動信号をもとにレンズ 25を駆動してズーム動作 等を fiうための回路である。
[0077] システム MPU26は、この撮像装置の各部を制御するマイクロプロセッシングュニッ トでめる。
[0078] 次に動作について説明する。撮像画像の記録時に、システム MPU26は、イメージ ヤー駆動ドライバ 1に対して高速フレームレートに対応した駆動ノ ルスを送り、電子撮 像素子 2を高速モードで駆動する。
[0079] また、システム MPU26は、 AFE3や画像'音声処理 ASIC4も高速モードで信号処 理を行わせて、高速フレームレートの画像信号を生成させる。さらに、システム MPU 26は、高速フレームレートの画像信号の圧縮処理を画像'音声処理 ASIC4で行わ せる。システム MPU26は、このように各部の動作を制御して得られた高速フレームレ ートの画像信号を画像出力端子 15から出力させる処理や、高速フレームレートの画 像信号を圧縮処理して得られた画像記録データを外部記録媒体 14 (あるいは内部 記録媒体 21)に記録する処理を行う。画像記録データを記録する際、マイク 5から入 力される音声は、ディジタルサンプリングが施された後に圧縮されて、高速フレームレ 一トの撮像画像に同期して記録される。さらに、システム MPU26は、付属情報を生 成して画像記録データと時間軸を関連させて外部記録媒体 14 (あるいは内部記録 媒体 21)に記録する。なお、外部記録媒体 14 (あるいは内部記録媒体 21)には、圧 縮処理されてレ、な!/、高速フレームレートの画像信号を記録するものとしてもょレ、。な お、外部記録媒体 14 (あるいは内部記録媒体 21)に記録された画像記録データや 高速フレームレートの画像信号は、動画像情報と!/、う。
[0080] 図 10は、外部記録媒体 14 (あるいは内部記録媒体 21)に記録されるデータの構成 を示している。図 10に示すように、ここでは画像記録データ 31や音声記録データ 32 とは別個に付属情報 33を記録する。なお、図 10に示す例ではファイル単位で付属 情報を持つように構成したが、前述のように、付属情報の記録形式は、これに限定さ れるものではない。
[0081] 付属情報 33には、 日付やフレームレート切換情報(フラグ)、フレームレート切換情 報を生成するために用いられる高速フレームレートの画像信号を生成したときの撮像 状況、例えばズーム作動状況や角速度センサ 23で検出された角速度等を含めるも のとする。なお、ユーザは、記録時もしくは再生時に任意に付属情報 33のフレームレ ート切換情報 (フラグ)を変更することが可能である。
[0082] ここで、画像出力端子 15に接続された外部モニタ装置 30が高速フレームレートに 対応可能である場合、画像出力端子 15から出力される動画像情報に基づいて画像 表示を行うことが可能となる。しかし、外部モニタ装置 30が高速フレームレートに対応 して!/、な!/、場合、例えば従来のテレビジョン装置や機器に備わった LCDパネル等で ある場合、画像出力端子 15から出力される動画像情報のフレームレートが高速フレ ームレートであると、画像出力端子 15から出力される動画像情報に基づいて画像表 示を行うことができない。
[0083] したがって、高速フレームレートに対応していない外部モニタ装置向けの機能とし て、外部記録媒体 14 (あるいは内部記録媒体 21)に記録されている動画像情報を再 生する場合、再生する動画像情報のフレームレートが高フレームレートであるときは フレーム間引きを行い、外部モニタ装置 30の対応する通常フレームレートに変換し て出力する通常フレームレート間引き再生モードを設ける。例えば 1秒当たり 240枚 のフレーム画像(240fps)を 1秒当たり 60枚のフレーム画像(60fps)に間引きして再 生する通常フレームレート間引き再生モードを設ける。このようにすれば、高速フレー ムレートに対応して!/、な!/、外部モニタ装置を用いる場合であっても、高速フレームレ ートの動画像情報に基づいて再生画像表示を行うことができる。また、高速フレーム レートである動画像情報のフレーム間引きを行うことなく外部モニタ装置 30の対応す る通常フレームレートで出力する通常フレームレート非間引き再生モードを設ける。
[0084] 図 11は、このような高速フレームレートに対応していない外部モニタ装置が接続さ れたときの再生動作を示している。図 11の(a)は、通常フレームレート間引き再生モ ードの再生動作を示しており、再生する動画像情報が高フレームレートであり、フレ ーム番号〔0, 1 , 2, 3, 4, 5, 6, 7, 8……〕の間鬲は 1/240禾少とされている。この動 画像情報を通常フレームレート間引き再生モードで再生するときは、フレーム間引き を行い 1/60秒間隔であるフレーム番号〔0, 4, 8, 12……〕のフレーム画像を出力 する。
[0085] 図 11の(b)は、通常フレームレート非間引き再生モードの再生動作を示しており、 高フレームレートの動画像情報を通常フレームレート非間引き再生モードで再生する ときは、フレーム間引きを行うことなく動画像情報を外部モニタ装置 30の対応する通 常フレームレートで出力する。すなわち、 1/60秒間隔で、フレーム番号〔0, 1 , 2, 3 , 4, 5, 6, 7, 8……〕のフレーム画像を出力する。
[0086] 図 12は、出力先が高速フレームレートに対応した外部モニタ装置であるか否かに 応じて、再生時のマニュアル操作によるフレームレートの選択動作を示すフローチヤ ートである。
[0087] 図 12のフローチャートに示すように、システム MPU26は、出力先の外部モニタ装 置 30が高速フレームレートに対応しているか否かを判別する(ステップ S51)。システ ム MPU26は、ユーザのマニュアル操作によって、出力先が高速フレームレートに対 応した外部モニタ装置であることが示されたとき、システム MPU26は、画像'音声処 理 ASIC4を制御して高速フレームレート非間引き再生モードで画像出力を行う(ステ ップ S53)。高速フレームレート非間引き再生モードでは、外部記録媒体 14 (あるい は内部記録媒体 21)に記録されている高速フレームレート(240fps)の動画像情報 を、フレームレートを変えることなく出力する。
[0088] また、高速フレームレートに非対応の外部モニタ装置である場合、システム MPU2 6は、さらにマニュアル操作により設定されたフレームレート切換情報(フラグ)のオン 、オフに応じて(ステップ S52)、フレームレート切換情報がオフのとき、通常フレーム レート間引き再生モードを選択する(ステップ S54)。通常フレームレート間引き再生 モードは、外部記録媒体 14 (あるいは内部記録媒体 21)に記録されている動画像情 報を再生する際に、画像'音声処理 ASIC4上でフレーム間引きを行い、高速フレー ムレート(240fps)の動画像情報を外部モニタ装置が対応して!/、る通常フレームレー ト(60fps)の動画像情報として出力する再生モードである。また、システム MPU26は 、フレームレート切換情報がオンとなったとき、通常フレームレート非間引き再生モー ドを選択する (ステップ S 55)。通常フレームレート非間引き再生モードとは、外部記 録媒体 14 (あるいは内部記録媒体 21)に記録されている動画像情報を再生する際 に、高速フレームレート(240fps)の動画像情報を通常フレームレート(60fps)で出 力するモードである。例えば 1秒間の画像(240枚)を撮像時間の 4倍である 4秒間か けてスローモーション画像として出力することにより、時間解像度の高いスロー再生を 行う再生モードである。
[0089] さらに、再生制御装置では、マニュアルによるフレームレート切換の他に、付属情報 に含まれているフレームレート切換情報をもとに、自動で通常フレームレート間引き 再生モードと通常フレームレート非間引き再生モードの切り換えを行う。これにより、 自動的に例えば再生画像の所望の期間を時間解像度の高いスローモーション画像 として表示できる。この場合、外部記録媒体 14 (あるいは内部記録媒体 21)に記録さ れてレ、る付属情報を再生して再生モードの判定を行い、この判定に用いた付属情報 に関連する動画像情報を、判定された再生モードで再生する。
[0090] 図 13は、付属情報 33に含まれているフレーム切換情報をもとに通常フレームレート 間引き再生モードと通常フレームレート非間引き再生モードの切り換えを自動的に行 う動作を示すフローチャートである。
[0091] システム MPU26は、画像記録データの再生とともに、この再生される画像記録デ ータに関連した付属情報のフレームレート切換情報がオンとされたか否かを判別して (ステップ S61)、フレームレート切換情報がオンとなったときは通常フレームレート非 間引き再生モード(ステップ S62)とする。その後、システム MPU26は、通常フレーム レート非間引き再生モードでの再生が所定時間経過したか否かを判別して (ステップ S63)、所定時間が経過していないときには通常フレームレート非間引き再生モード での再生を継続し、所定時間が経過したときはステップ S61に戻る。システム MPU2 6は、フレームレート切換情報がオンとなっていないとき通常フレームレート間引き再 生モードとする(ステップ S64)。
[0092] また、再生制御装置では、付属情報 33に含まれた高速フレームレートの動画像情 報を撮像装置で生成したときのズーム動作および/または撮像装置の動きの量を示 す角速度を示す情報を用いてフレームレート切換情報の生成を行い、生成したフレ ームレート切換情報に基づいて再生モードの切換を自動的に行うことも可能である。
[0093] 図 14は、フレームレート切換情報の自動生成動作を示すフローチャートである。
[0094] 図 14のフローチャートに示すように、システム MPU26は、ズーム(ZOOM)作動中 であるか否かを判定する(ステップ S71)。そして、ズーム作動中であれば、システム MPU26はフレームレート切換を指示しないものとして、フレームレート切換情報をォ
Figure imgf000022_0001
[0095] ステップ S71においてズーム作動中でなければ、次にシステム MPU26は、角速度 が大きいか否かを、例えば予め設定されている閾値と比較して判定する(ステップ S7 2)。この結果、角速度が閾値よりも大きい場合、システム MPU26はフレームレート切 換を指示しな!/、ものとする(ステップ S75)。
[0096] ステップ S72において角速度が閾値よりも大きくないと判定した場合、 7火にシステム MPU26は、再生された高フレームレートの動画像情報を用いてフレーム間差分演 算を行い、演算結果が閾値よりも小さいか否かの判定を行う(ステップ S 73)。その結 果、閾値よりも演算結果が小さい場合、システム MPU26はフレームレート切換を指 示しないものとする(ステップ S75)。
[0097] また、ステップ S73において閾値よりも演算結果が小さくない場合、システム MPU2 6はフレームレート切換を行うものとしてフレームレート切換情報をオンとする(ステツ プ S74)。なお、フレームレート切換情報では、フレームレート切換のタイミングを示す ものとして、フレームレート切換情報をパルス状にオンさせて、通常フレームレート非 間引き再生モードへの切り換えを行い、その後通常フレームレート非間引き再生モ ードの再生を所定時間行うようにする。
[0098] さらに、システム MPU26は、付属情報だけでなぐ再生された音声信号を用いてフ レームレート切換情報の生成を行うものとしてもよい。例えばマイクからの音声信号の 信号レベルが閾値よりも大きくなつたときフレームレート切換指示を行うものとする。
[0099] このように、フレームレート切換情報を生成するものとすれば、被写体の動きの量が 所定値を超えたときには、通常フレームレート非間引き再生モードが選択されて、被 写体の動きの量が大きくなるハイライトシーンを時間解像度の高いスローモーション 画像として表示すること力 Sできる。また、ズーム動作が行われたことや撮像方向が変 化したことにおより被写体の動きの量が大きくなつても、このような場合にはフレーム レートの切換が行われないことから、被写体の動きの量が大きくないときに通常フレ ームレート非間引き再生モードに切り換えられてしまうことを防止できる。
[0100] また、音声信号に基づいてフレームレートの切換を行うようにすることで、例えば運 動会等のレースシーンにお!/、てスタートシーンを時間解像度の高!/、スローモーション 画像として表示することも可能となる。
[0101] 以上説明したように、この再生制御装置は、再生時に高速フレームレートに対応す る外部モニタ装置が用いられる場合、高速フレームレートの動画像情報を、フレーム レートを変えることなく出力する高速フレームレート非間引き再生モードを有している 。また、再生時に高速フレームレート非対応の外部モニタ装置が用いられる場合、画 像-音声処理 ASIC4上で高速フレームレートの動画像情報に対して間引きを行い、 外部モニタ装置が対応するフレームレートの動画像情報として再生する通常フレー ムレート間引き再生モードを有している。また、高速フレームレートの動画像情報を外 部モニタ装置が対応するフレームレートで順次出力することで、撮像時よりも長レ、時 間をかけて再生する通常フレームレート非間引き再生モードを有している。この結果 、高速フレームレートに対応している外部モニタ装置を用いるとき、時間解像度の低 下等を招くことなく高速フレームレートの動画像情報の再生を行うことができる。また、 高速フレームレートに対応して!/、な!/、外部モニタ装置を用いるとき、高速フレームレ ートの動画像情報が、外部モニタ装置の対応するフレームレートで出力されて自動 的にハイライトシーンをスローモーション化して表示できるなど、高速フレームレートの 画像ソースを有効活用できる。さらに、高速フレームレートの動画像情報のフレーム 間引きを行って、被写体の動きの速度を変化させてしまうことなく外部モニタ装置で 画像表示を行うことができる。
[0102] また、マニュアルでフレームレート切換の指示を行う場合にはスローモーション再生 を選ぶ手間が発生する力 S、付属情報を利用することで、フレームレート切換を自動的 に行うことが可能となり、例えばノヽイライトシーンを簡単に時間解像度の高いスローモ ーシヨン画像として表示させることが可能である。
産業上の利用可能性
[0103] 動画像の記録や再生を行う場合、画像表示側として高速フレームレートに対応して V、なレ、外部モニタ装置を用いるときに好適である。

Claims

請求の範囲
[1] 第 1のフレームレートと第 1のフレームレートよりも高い第 2のフレームレートで撮像 可能な撮像手段と、
ノ、イライトシーンを検出する検出手段と、
前記検出手段によりハイライトシーンを検出したことに応じて、前記撮像手段のフレ ームレートを切り換える制御手段とを備える
ことを特徴とする撮像装置。
[2] 前記制御手段は、前記検出手段によりハイライトシーンを検出したことに応じて、前 記撮像手段のフレームレートを前記第 1のフレームレートから前記第 2のフレームレー トに切り換える
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
[3] 前記制御手段は、前記撮像手段のフレームレートを前記第 1のフレームレートから 前記第 2のフレームレートに切り換えた後、所定時間経過後に前記フレームレートを 前記第 2のフレームレートから前記第 1のフレームレートに切り換える
ことを特徴とする請求の範囲第 2項に記載の撮像装置。
[4] 前記検出手段は、被写体の動きが所定値を超えたときハイライトシーンが検出され たものとする
ことを特徴とする請求の範囲第 3項に記載の撮像装置。
[5] レンズ駆動手段および/または撮像装置が動いたときの角速度を検出するセンサ 手段を備え、
前記レンズ駆動手段がズーム作動中でな!/、とき、および/または前記センサ手段 で検出された角速度が所定値を超えていないとき、前記検出手段は、フレーム間差 分演算を行い前記被写体の動きを算出する
ことを特徴とする請求の範囲第 4項に記載の撮像装置。
[6] 前記第 1のフレームレートは、標準テレビジョン方式のフレームレートである
ことを特徴とする請求の範囲第 1項に記載の撮像装置。
[7] 記録媒体から動画像情報と該動画像情報の付属情報を再生する再生制御装置に おいて、 外部モニタ装置が対応して!/、るフレームレートと前記付属情報に基づ!/、て、前記動 画像情報を再生するときの再生モードを、間引き再生モードまたは非間引き再生モ ードの!/、ずれとするか判定する判定手段と、
前記判定手段の判定結果に応じて前記動画像情報の再生動作制御を行う制御手 段とを備える
ことを特徴とする再生制御装置。
[8] 前記判定手段は、前記外部モニタ装置が対応しているフレームレートと前記動画 像情報のフレームレートが等しいとき前記非間引き再生モードと判定し、
前記制御手段は、フレーム間引きを行うことなく前記動画像情報を再生させる ことを特徴とする請求の範囲第 7項に再生制御装置。
[9] 前記判定手段は、前記外部モニタ装置が対応しているフレームレートよりも前記動 画像情報のフレームレートが高いとき前記判定を行う
ことを特徴とする請求の範囲第 8項に再生制御装置。
[10] 前記判定手段は、前記外部モニタ装置が対応しているフレームレートよりも前記動 画像情報のフレームレートが高く前記付属情報で切換指示が示されたときに、前記 非間引き再生モードと判定し、
前記制御手段は、フレーム間引きを行うことなく前記外部モニタ装置が対応してい るフレームレートで前記動画像情報を再生させる
ことを特徴とする請求の範囲第 9項に記載の再生制御装置。
[11] 前記制御手段は、前記再生モードが前記非間引き再生モードと判定されてから所 定時間経過後、前記間弓 Iき再生モードとしてフレーム間弓 Iきを行!、前記動画像情報 を前記外部モニタ装置が対応しているフレームレートに変換して再生させる ことを特徴とする請求の範囲第 10項に記載の再生制御装置。
[12] 前記付属情報には、前記動画像情報を撮像装置で生成したときのズーム動作およ び/または前記撮像装置の動きを示す角速度を示す情報が含まれており、 前記判定手段は、前記付属情報に基づきズーム動作が行われていない、および/ または角速度が所定値を超えていないと判別したとき、前記動画像情報を用いてフ レーム間差分演算を行い被写体の動きを算出して、該動きが所定値を超えたとき前 記通常モードと判定する
ことを特徴とする請求の範囲第 11項に記載の再生制御装置。
PCT/JP2007/070745 2006-10-24 2007-10-24 Imaging device and reproduction control device WO2008050806A1 (en)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2008541012A JPWO2008050806A1 (ja) 2006-10-24 2007-10-24 撮像装置と再生制御装置
CN2007800397298A CN101529890B (zh) 2006-10-24 2007-10-24 图像摄取设备和再现控制设备
EP07830479.7A EP2079231B1 (en) 2006-10-24 2007-10-24 Imaging device and reproduction control device
KR1020097007784A KR101411627B1 (ko) 2006-10-24 2007-10-24 촬상장치와 재생제어장치
US12/312,111 US8154606B2 (en) 2006-10-24 2007-10-24 Image pickup apparatus and reproduction control apparatus
US13/365,727 US9013583B2 (en) 2006-10-24 2012-02-03 Image pickup apparatus and reproduction control apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2006288626 2006-10-24
JP2006-288626 2006-10-24

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US12/312,111 A-371-Of-International US8154606B2 (en) 2006-10-24 2007-10-24 Image pickup apparatus and reproduction control apparatus
US13/365,727 Continuation US9013583B2 (en) 2006-10-24 2012-02-03 Image pickup apparatus and reproduction control apparatus

Publications (1)

Publication Number Publication Date
WO2008050806A1 true WO2008050806A1 (en) 2008-05-02

Family

ID=39324600

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2007/070745 WO2008050806A1 (en) 2006-10-24 2007-10-24 Imaging device and reproduction control device

Country Status (7)

Country Link
US (2) US8154606B2 (ja)
EP (1) EP2079231B1 (ja)
JP (2) JPWO2008050806A1 (ja)
KR (1) KR101411627B1 (ja)
CN (1) CN101529890B (ja)
TW (1) TW200828991A (ja)
WO (1) WO2008050806A1 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2459684A (en) * 2008-04-30 2009-11-04 British Broadcasting Corp Television Signal having high frame rate
JP2010050877A (ja) * 2008-08-25 2010-03-04 Nikon Corp 撮像装置、画像再生装置、画像変換装置、画像再生プログラム
CN101835017A (zh) * 2009-03-09 2010-09-15 佳能株式会社 视频重放设备和视频重放方法
JP2010233183A (ja) * 2009-03-30 2010-10-14 Canon Inc 動画保存装置及びその制御方法
JP2011183054A (ja) * 2010-03-10 2011-09-22 Shoichiro Taniguchi 弓を用いて矢を射る動作を解析する装置および方法
JP2012105012A (ja) * 2010-11-09 2012-05-31 Canon Inc 動画再生装置、動画再生方法、コンピュータプログラム、記憶媒体
JP2012151705A (ja) * 2011-01-20 2012-08-09 Casio Comput Co Ltd 動画像処理装置、動画像処理方法及びプログラム
JP2012523788A (ja) * 2009-04-13 2012-10-04 ショースキャン デジタル エルエルシー 動画の撮影及び投影方法及びその装置
US20120327273A1 (en) * 2009-05-20 2012-12-27 Canon Kabushiki Kaisha Imaging apparatus and reproducing apparatus which changes frame rate based on zoom operation
JP2013258609A (ja) * 2012-06-13 2013-12-26 Panasonic Corp 撮像装置
JP2015080035A (ja) * 2013-10-15 2015-04-23 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
WO2016139971A1 (ja) * 2015-03-03 2016-09-09 ソニー株式会社 信号処理装置、信号処理システム、信号処理方法、および、プログラム
CN108322650A (zh) * 2018-02-08 2018-07-24 广东欧珀移动通信有限公司 视频拍摄方法和装置、电子设备、计算机可读存储介质
JP7188382B2 (ja) 2017-04-27 2022-12-13 コニカミノルタ株式会社 光計測装置

Families Citing this family (46)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2008099685A1 (ja) 2007-02-01 2010-05-27 ソニー株式会社 画像再生装置と画像再生方法および撮像装置とその制御方法
JP5057917B2 (ja) * 2007-09-28 2012-10-24 富士通テン株式会社 ドライブレコーダ
JP2010087778A (ja) * 2008-09-30 2010-04-15 Casio Computer Co Ltd 撮像装置、変速撮像方法、及びプログラム
JP5279589B2 (ja) * 2009-04-13 2013-09-04 キヤノン株式会社 映像記録再生装置およびその制御方法
JP2011114801A (ja) * 2009-11-30 2011-06-09 Olympus Imaging Corp 表示装置、撮影装置、及び、表示方法
JP5627383B2 (ja) * 2010-01-06 2014-11-19 キヤノン株式会社 動画再生装置及びその制御方法、プログラム、及び記憶媒体
JP2011250103A (ja) * 2010-05-26 2011-12-08 Canon Inc 再生装置
WO2012140715A1 (ja) * 2011-04-11 2012-10-18 東芝三菱電機産業システム株式会社 データ同期再生装置、データ同期再生方法およびデータ同期制御プログラム
JP5751942B2 (ja) * 2011-06-13 2015-07-22 キヤノン株式会社 再生装置及び再生方法
JP5820055B2 (ja) 2012-03-12 2015-11-24 東芝三菱電機産業システム株式会社 データ同期再生装置、データ同期再生方法およびデータ同期制御プログラム
TWI521965B (zh) * 2012-05-14 2016-02-11 Sony Corp Camera and camera methods, electronic machines and programs
JP5872981B2 (ja) * 2012-08-02 2016-03-01 オリンパス株式会社 撮影機器,動体の撮影方法,撮影プログラム
US9794527B1 (en) * 2012-09-28 2017-10-17 Google Inc. Content capture
US9201487B2 (en) * 2013-03-05 2015-12-01 Intel Corporation Reducing power consumption during graphics rendering
JP5962600B2 (ja) 2013-06-26 2016-08-03 カシオ計算機株式会社 動画生成装置、動画生成方法、及びプログラム
CN104572052B (zh) * 2013-10-21 2019-07-02 腾讯科技(深圳)有限公司 一种应用程序帧率的测量方法及装置
US9300869B2 (en) * 2013-10-24 2016-03-29 Fujitsu Limited Reduction of spatial resolution for temporal resolution
DE102013222795A1 (de) * 2013-11-08 2015-05-13 Sommer-Hugendubel-Pollack-Strauss Gbr (Vertretungsberechtigter Gesellschafter: Till Strauss, 10119 Berlin) Verfahren und Vorrichtung zur Erzeugung einer künstlichen Kopplung zwischen einer Eingangsgröße und einer Ausgangsgröße
JP2015122734A (ja) * 2013-11-25 2015-07-02 パナソニックIpマネジメント株式会社 撮像装置及び撮像方法
DE102014102689A1 (de) 2014-02-28 2015-09-03 Arnold & Richter Cine Technik Gmbh & Co. Betriebs Kg Laufbildkameraanordnung und Verfahren zum Betreiben einer Laufbildkameraanordnung
JP2015186235A (ja) * 2014-03-26 2015-10-22 ソニー株式会社 イメージセンサ、および電子装置
WO2015173967A1 (ja) * 2014-05-16 2015-11-19 セガサミークリエイション株式会社 ゲーム画像生成装置およびプログラム
US20150373293A1 (en) * 2014-06-24 2015-12-24 Sony Corporation Video acquisition with adaptive frame rate
US10129501B2 (en) * 2014-11-27 2018-11-13 Sony Semiconductor Solutions Corporation Image processing device, image processing method, and program
US20160182866A1 (en) * 2014-12-19 2016-06-23 Sony Corporation Selective high frame rate video capturing in imaging sensor subarea
CN104683691B (zh) * 2015-02-02 2017-11-14 上海小蚁科技有限公司 拍摄方法、装置及设备
US20160269674A1 (en) * 2015-03-09 2016-09-15 Microsoft Technology Licensing, Llc Dynamic Video Capture Rate Control
CN104735385B (zh) * 2015-03-31 2018-10-12 小米科技有限责任公司 播放控制方法及装置、电子设备
US10572735B2 (en) * 2015-03-31 2020-02-25 Beijing Shunyuan Kaihua Technology Limited Detect sports video highlights for mobile computing devices
WO2017150237A1 (ja) * 2016-03-03 2017-09-08 ソニー株式会社 表示制御装置、表示制御方法、及び、プログラム
KR20190029606A (ko) * 2016-07-26 2019-03-20 소니 주식회사 촬상 제어 장치 및 촬상 제어 방법, 및 촬상 소자
KR102537210B1 (ko) * 2016-07-29 2023-05-26 삼성전자주식회사 동영상 컨텐츠 제공 방법 및 이를 지원하는 전자 장치
KR102641894B1 (ko) 2017-02-03 2024-02-29 삼성전자주식회사 이미지를 촬영하는 센서 및 그 제어 방법
CN107707860B (zh) * 2017-10-24 2020-04-10 南昌黑鲨科技有限公司 一种视频数据处理方法、处理装置及计算机可读存储介质
CN107707934A (zh) * 2017-10-24 2018-02-16 南昌黑鲨科技有限公司 一种视频数据处理方法、处理装置及计算机可读存储介质
CN107864334A (zh) * 2017-11-09 2018-03-30 睿魔智能科技(东莞)有限公司 一种使用深度学习的智能镜头拍摄方法及系统
CN108184165B (zh) * 2017-12-28 2020-08-07 Oppo广东移动通信有限公司 视频播放方法、电子装置和计算机可读存储介质
RU2716005C2 (ru) * 2018-06-29 2020-03-05 Закрытое акционерное общество "МНИТИ" (ЗАО "МНИТИ") Способ видеосопровождения с улучшенными динамическими характеристиками и устройство для его осуществления
JP6913830B2 (ja) * 2018-08-31 2021-08-04 富士フイルム株式会社 撮像素子、撮像装置、画像データ処理方法、及びプログラム
JP6705534B2 (ja) * 2018-10-19 2020-06-03 ソニー株式会社 センサ装置、信号処理方法
JP7004852B2 (ja) * 2018-12-26 2022-01-21 富士フイルム株式会社 撮像素子、撮像装置、撮像素子の作動方法、及びプログラム
CN113228609B (zh) * 2018-12-27 2023-05-05 富士胶片株式会社 成像元件、摄像装置、摄像方法及计算机可读存储介质
CN110933294B (zh) * 2019-11-04 2022-11-04 深圳传音控股股份有限公司 一种图像处理方法、终端及计算机存储介质
US11425306B2 (en) * 2021-01-22 2022-08-23 Qualcomm Incorporated Zoom in or zoom out with slow-motion video capture
US20220327718A1 (en) * 2021-04-13 2022-10-13 Qualcomm Incorporated Techniques for enhancing slow motion recording
CN116347224B (zh) * 2022-10-31 2023-11-21 荣耀终端有限公司 拍摄帧率控制方法、电子设备、芯片系统及可读存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6359074A (ja) 1986-08-27 1988-03-14 Omron Tateisi Electronics Co 高速ビデオカメラ
JPH11177868A (ja) * 1997-12-16 1999-07-02 Canon Inc 撮像方法及び再生方法とその装置
JP2001292409A (ja) 2000-04-07 2001-10-19 Sony Corp データ記録再生装置及び方法
JP2001358984A (ja) * 2000-06-15 2001-12-26 Mitsubishi Heavy Ind Ltd 動画像処理カメラ
JP2002320198A (ja) * 2001-04-23 2002-10-31 Casio Comput Co Ltd 動画記録装置
JP2004120384A (ja) * 2002-09-26 2004-04-15 Photron Ltd 高速度撮像装置及び撮像速度の変更方法
JP2004187018A (ja) * 2002-12-04 2004-07-02 Casio Comput Co Ltd 動画撮影装置、及び動画撮影方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5239418A (en) * 1989-10-17 1993-08-24 Eastman Kodak Company Single split frame mode for a fast frame recorder
JP3450449B2 (ja) * 1994-07-18 2003-09-22 キヤノン株式会社 撮像装置およびその撮像方法
US5455561A (en) * 1994-08-02 1995-10-03 Brown; Russell R. Automatic security monitor reporter
JPH1115425A (ja) 1997-06-26 1999-01-22 Hitachi Ltd 表示モード切り替え制御ディスプレイ
US7196720B2 (en) * 1998-03-06 2007-03-27 Intel Corporation Method and apparatus for powering on an electronic device with a video camera that detects motion
JP2000059698A (ja) 1998-08-06 2000-02-25 Sony Corp 高速撮像装置
JP2001036848A (ja) 1999-07-15 2001-02-09 Victor Co Of Japan Ltd カムコーダ
JP3697129B2 (ja) * 2000-01-20 2005-09-21 キヤノン株式会社 撮像装置
JP2001352471A (ja) * 2000-06-07 2001-12-21 Toshiba Corp ビデオカメラ装置
KR100564893B1 (ko) * 2000-06-30 2006-03-30 가부시끼가이샤 도시바 프레임정보 기술방법 및 그 장치, 프레임정보 생성방법 및 그 장치, 특수재생방법 및 그 장치, 특수재생 제어정보 생성장치 및 컴퓨터 독출가능한 기록매체
KR100792283B1 (ko) * 2001-08-07 2008-01-07 삼성전자주식회사 이동물체 자동 추적장치 및 방법
JP2003209731A (ja) * 2002-01-09 2003-07-25 Sony Corp 画像信号処理方法及び撮像装置
US6778766B2 (en) * 2002-01-25 2004-08-17 Nikon Corporation Vibration detection device and vibration correcting optical device
US7456875B2 (en) * 2002-03-14 2008-11-25 Sony Corporation Image pickup apparatus and method, signal processing apparatus and method, and wearable signal processing apparatus
US7385626B2 (en) * 2002-10-21 2008-06-10 Sarnoff Corporation Method and system for performing surveillance
JP4222869B2 (ja) * 2002-12-10 2009-02-12 株式会社ソニー・コンピュータエンタテインメント 画像再生装置
JP4208634B2 (ja) * 2003-04-23 2009-01-14 キヤノン株式会社 再生装置
JP3926316B2 (ja) * 2003-10-31 2007-06-06 松下電器産業株式会社 撮像装置
JP4107269B2 (ja) 2004-02-23 2008-06-25 ソニー株式会社 固体撮像装置
JP2006033160A (ja) * 2004-07-13 2006-02-02 Canon Inc 撮像システム
JP2006113264A (ja) * 2004-10-14 2006-04-27 Fujinon Corp 像振れ補正装置
JP4296145B2 (ja) 2004-11-08 2009-07-15 株式会社東芝 再生装置及びその方法
US7817193B2 (en) * 2004-11-25 2010-10-19 Sony Corporation Image pickup apparatus and image pickup method to display or record images picked up at high rate in real time
JP2006265475A (ja) 2005-03-25 2006-10-05 Fuji Photo Film Co Ltd インク組成物
JP2006295350A (ja) * 2005-04-07 2006-10-26 Sony Corp 撮像装置及び撮像結果の処理方法
JP4434151B2 (ja) * 2006-01-23 2010-03-17 富士フイルム株式会社 撮像装置
JP4895016B2 (ja) * 2006-09-28 2012-03-14 三洋電機株式会社 撮像装置
US7948526B2 (en) * 2006-11-14 2011-05-24 Casio Computer Co., Ltd. Imaging apparatus, imaging method and program thereof

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6359074A (ja) 1986-08-27 1988-03-14 Omron Tateisi Electronics Co 高速ビデオカメラ
JPH11177868A (ja) * 1997-12-16 1999-07-02 Canon Inc 撮像方法及び再生方法とその装置
JP2001292409A (ja) 2000-04-07 2001-10-19 Sony Corp データ記録再生装置及び方法
JP2001358984A (ja) * 2000-06-15 2001-12-26 Mitsubishi Heavy Ind Ltd 動画像処理カメラ
JP2002320198A (ja) * 2001-04-23 2002-10-31 Casio Comput Co Ltd 動画記録装置
JP2004120384A (ja) * 2002-09-26 2004-04-15 Photron Ltd 高速度撮像装置及び撮像速度の変更方法
JP2004187018A (ja) * 2002-12-04 2004-07-02 Casio Comput Co Ltd 動画撮影装置、及び動画撮影方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2079231A4

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2459684A (en) * 2008-04-30 2009-11-04 British Broadcasting Corp Television Signal having high frame rate
JP2010050877A (ja) * 2008-08-25 2010-03-04 Nikon Corp 撮像装置、画像再生装置、画像変換装置、画像再生プログラム
CN101835017A (zh) * 2009-03-09 2010-09-15 佳能株式会社 视频重放设备和视频重放方法
JP2010233183A (ja) * 2009-03-30 2010-10-14 Canon Inc 動画保存装置及びその制御方法
JP2012523788A (ja) * 2009-04-13 2012-10-04 ショースキャン デジタル エルエルシー 動画の撮影及び投影方法及びその装置
US9270968B2 (en) 2009-05-20 2016-02-23 Canon Kabushiki Kaisha Imaging apparatus and reproducing apparatus which changes frame rate based on zoom operation
US20120327273A1 (en) * 2009-05-20 2012-12-27 Canon Kabushiki Kaisha Imaging apparatus and reproducing apparatus which changes frame rate based on zoom operation
US8508627B2 (en) * 2009-05-20 2013-08-13 Canon Kabushiki Kaisha Imaging apparatus and reproducing apparatus which changes frame rate based on zoom operation
JP2011183054A (ja) * 2010-03-10 2011-09-22 Shoichiro Taniguchi 弓を用いて矢を射る動作を解析する装置および方法
JP2012105012A (ja) * 2010-11-09 2012-05-31 Canon Inc 動画再生装置、動画再生方法、コンピュータプログラム、記憶媒体
JP2012151705A (ja) * 2011-01-20 2012-08-09 Casio Comput Co Ltd 動画像処理装置、動画像処理方法及びプログラム
JP2013258609A (ja) * 2012-06-13 2013-12-26 Panasonic Corp 撮像装置
JP2015080035A (ja) * 2013-10-15 2015-04-23 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
WO2016139971A1 (ja) * 2015-03-03 2016-09-09 ソニー株式会社 信号処理装置、信号処理システム、信号処理方法、および、プログラム
US10262690B2 (en) 2015-03-03 2019-04-16 Sony Semiconductor Solutions Corporation Signal processing device, signal processing system, signal processing method, and program
JP7188382B2 (ja) 2017-04-27 2022-12-13 コニカミノルタ株式会社 光計測装置
CN108322650A (zh) * 2018-02-08 2018-07-24 广东欧珀移动通信有限公司 视频拍摄方法和装置、电子设备、计算机可读存储介质
CN108322650B (zh) * 2018-02-08 2020-03-27 Oppo广东移动通信有限公司 视频拍摄方法和装置、电子设备、计算机可读存储介质

Also Published As

Publication number Publication date
US20100060752A1 (en) 2010-03-11
JPWO2008050806A1 (ja) 2010-02-25
US9013583B2 (en) 2015-04-21
US8154606B2 (en) 2012-04-10
JP2012050141A (ja) 2012-03-08
CN101529890B (zh) 2011-11-30
EP2079231A4 (en) 2010-04-21
EP2079231B1 (en) 2014-04-30
TW200828991A (en) 2008-07-01
CN101529890A (zh) 2009-09-09
JP5252063B2 (ja) 2013-07-31
KR101411627B1 (ko) 2014-06-25
EP2079231A1 (en) 2009-07-15
US20120133791A1 (en) 2012-05-31
KR20090068333A (ko) 2009-06-26
TWI359612B (ja) 2012-03-01

Similar Documents

Publication Publication Date Title
JP5252063B2 (ja) 撮像装置と再生制御装置
JP4724577B2 (ja) 撮像装置及びその制御方法
JP5036410B2 (ja) 撮像装置及びその制御方法
JP4525561B2 (ja) 撮像装置、画像処理方法、並びにプログラム
KR101222727B1 (ko) 촬상 장치
JP2008109245A (ja) 記録再生装置
US20050163492A1 (en) Picked up image recording system, signal recording device, and signal recording method
TWI420905B (zh) 記錄動態影像之記錄裝置、記錄方法及程式
US20050036055A1 (en) Image pickup apparatus and control method therefor
JP4536173B2 (ja) 画像記録装置及び画像記録方法
JP7110985B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP5024331B2 (ja) ビデオカメラ及び情報送信方法
JP4547877B2 (ja) 撮像装置
JP2015122731A (ja) 動画再生装置及び動画再生方法
JP2001136420A (ja) 撮像装置
KR20050090807A (ko) 촬영모드 및 출력모드에 따라 영상신호의 출력경로 및출력방식을 제어할 수 있는 복합촬영장치 및 그출력제어방법
JP4465655B2 (ja) ビデオカメラ及び情報送信方法
JP3846733B2 (ja) 画像撮影装置
JP2006217214A (ja) 再生装置および撮像装置並びに再生方法
KR20050090806A (ko) 하나의 줌스위치로 다양한 조작명령을 입력할 수 있는복합촬영장치 및 그 동작제어방법
KR20010001263A (ko) 스피커 내장형 비디오 카메라의 볼륨 조절방법
JP2008263429A (ja) ビデオカメラ装置
JP2005303626A (ja) 記録装置及び記録再生装置
KR20000020694A (ko) 디지털 영상 기록/재생 방법 및 그 장치
KR19990038432A (ko) 비디오 영상 입력을 촬영할 수 있는 디지탈 스틸 카메라 및 그 제어 방법

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200780039729.8

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 07830479

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2008541012

Country of ref document: JP

WWE Wipo information: entry into national phase

Ref document number: 1020097007784

Country of ref document: KR

WWE Wipo information: entry into national phase

Ref document number: 12312111

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2007830479

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE