JP2020005097A - Image processing apparatus, imaging apparatus, control method for image processing apparatus, program, and storage medium - Google Patents

Image processing apparatus, imaging apparatus, control method for image processing apparatus, program, and storage medium Download PDF

Info

Publication number
JP2020005097A
JP2020005097A JP2018122195A JP2018122195A JP2020005097A JP 2020005097 A JP2020005097 A JP 2020005097A JP 2018122195 A JP2018122195 A JP 2018122195A JP 2018122195 A JP2018122195 A JP 2018122195A JP 2020005097 A JP2020005097 A JP 2020005097A
Authority
JP
Japan
Prior art keywords
data
memory
imaging
period
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018122195A
Other languages
Japanese (ja)
Other versions
JP7110007B2 (en
Inventor
裕一郎 君島
Yuichiro Kimijima
裕一郎 君島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018122195A priority Critical patent/JP7110007B2/en
Publication of JP2020005097A publication Critical patent/JP2020005097A/en
Application granted granted Critical
Publication of JP7110007B2 publication Critical patent/JP7110007B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

To provide an image processing apparatus that suppresses delay between display and recording on the basis of image data captured by an imaging element, an imaging apparatus, a control method for the image processing apparatus, a program, and a storage medium.SOLUTION: An image processing apparatus includes division means that divides imaging data obtained from an imaging element into first data and second data according to a bit depth, and output means that outputs the first data read from a first memory storing the first data to display control means that displays an image on a display unit, and outputs data obtained by combining the first data read from the first memory the second data read from the second memory storing the second data to recording control means for recording on a recording medium.SELECTED DRAWING: Figure 2

Description

本発明は、撮像素子が撮像した撮像データの表示および記録を行う画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記憶媒体に関する。   The present invention relates to an image processing apparatus, an imaging apparatus, a control method of an image processing apparatus, a program, and a storage medium for displaying and recording image data captured by an image sensor.

近年のデジタルカメラ等の撮像装置は、画素数の増加や静止画の連写コマ速度の高速化、動画フレームレートの向上が著しく、単位時間あたりのデータの処理量は増加している。デジタルカメラ等の撮像装置の内部の画像処理装置は、撮像素子が撮像したデータをDRAM等のメモリに書き込む処理(キャプチャ)を行う。そして、画像処理装置は、メモリに書き込まれたデータを読み出して画像処理を行い、画像処理した画像をメディア等に記録するとともに、現時点でメモリに記憶している画像を、撮像装置の背面液晶ディスプレイに表示する。また、近年のミラーレスカメラ等においては、光学ビューファインダーに代わって、撮像装置は、現時点でメモリに記憶しているデータを電子ビューファインダーで表示している。   2. Description of the Related Art In recent years, imaging devices such as digital cameras have remarkably increased the number of pixels, increased the continuous shooting frame speed of still images, and improved the moving image frame rate, and the data processing amount per unit time has increased. An image processing device inside an imaging device such as a digital camera performs a process (capture) of writing data captured by an imaging device to a memory such as a DRAM. The image processing apparatus reads the data written in the memory, performs image processing, records the image processed image on a medium or the like, and displays the image currently stored in the memory on the rear liquid crystal display of the imaging apparatus. To display. In recent mirrorless cameras and the like, instead of the optical viewfinder, the imaging device displays the data currently stored in the memory at the electronic viewfinder.

例えば、静止画の連写コマ速度が高速になると、撮像素子が撮像データを出力する出力速度は高速になる。撮像データの出力速度が高速になると、上述したキャプチャ時における単位時間あたりのデータの処理量は多くなり、DRAMへのアクセス可能なデータ量(以下、伝送帯域)が、限界に近づく。DRAMの伝送帯域が限界に近づくと、DRAMにキャプチャされたデータを同時に読み出することができなくなり、表示出力ができなくなる。キャプチャされたデータが表示出力できなくなると、ディスプレイ表示がブラックアウトすることがあり、直近のキャプチャ画像の表示が継続表示されることもある。このため、撮影時において、撮影者がフレーミングし続けることに支障をきたしていた。以上のような問題に対し、特許文献1の技術が提案されている。この技術における画像処理装置は、複数フィールドの画像データに対して縮小処理を施して、表示処理用のデータを静止画記録中に生成している。   For example, when the continuous shooting frame speed of a still image becomes higher, the output speed at which the image sensor outputs image data becomes higher. When the output speed of the imaging data increases, the amount of data processing per unit time during the above-described capture increases, and the amount of data accessible to the DRAM (hereinafter, transmission band) approaches the limit. When the transmission band of the DRAM approaches the limit, data captured in the DRAM cannot be read at the same time, and display output cannot be performed. When the captured data cannot be displayed and output, the display may be blacked out, and the display of the latest captured image may be continuously displayed. For this reason, at the time of photographing, it has hindered the photographer from continuing to frame. To solve the above problems, a technique disclosed in Patent Document 1 has been proposed. An image processing apparatus according to this technique performs reduction processing on image data of a plurality of fields to generate data for display processing during recording of a still image.

特開2007−243819号公報JP 2007-243819 A

特許文献1の技術では、撮像手段が出力した画像データをキャプチャすることなく、縮小処理を行い、表示用の画像データを静止画記録中に生成することが可能な構成(オンザフライ処理が可能な構成)となっている。しかしながら、例えば、撮像手段が高速に画像データを出力する場合、縮小処理回路は、撮像手段が出力した撮像データを高速に縮小処理する必要がある。縮小処理回路による処理速度が、撮像手段が撮像データを出力する速度に間に合わない場合、画像データの表示および記録に遅延を生じることになる。   In the technique of Patent Document 1, a configuration capable of performing reduction processing without generating image data output by an imaging unit and generating image data for display during recording of a still image (a configuration capable of performing on-the-fly processing) ). However, for example, when the imaging unit outputs image data at high speed, the reduction processing circuit needs to reduce the imaging data output by the imaging unit at high speed. If the processing speed of the reduction processing circuit is not enough for the speed at which the imaging means outputs the imaging data, a delay occurs in displaying and recording the image data.

本発明の目的は、撮像素子が撮像した画像データに基づく表示と記録との遅延を抑制する画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記憶媒体を提供することにある。   An object of the present invention is to provide an image processing device, an imaging device, a control method of the image processing device, a program, and a storage medium that suppress a delay between display and recording based on image data captured by an image sensor.

上記目的を達成するために、本発明の画像処理装置は、撮像素子から取得した撮像データを、ビット深度に応じて第1データと第2データとに分割する分割手段と、前記第1データを記憶する第1メモリから読み出した前記第1データを、表示部に画像を表示させる表示制御手段に出力し、前記第1メモリから読み出した前記第1データと前記第2データを記憶する第2メモリから読み出した前記第2データとを結合したデータを記録媒体に記録させる記録制御手段に出力する出力手段と、を備えることを特徴とする。   In order to achieve the above object, an image processing apparatus according to the present invention includes: a dividing unit that divides image data acquired from an image sensor into first data and second data in accordance with a bit depth; A second memory for outputting the first data read from the first memory to be stored to display control means for displaying an image on a display unit, and storing the first data and the second data read from the first memory; And output means for outputting to the recording control means for recording on the recording medium data obtained by combining the second data read from the second data.

本発明によれば、撮像した画像データに基づく表示と記録との遅延を抑制することができる。   According to the present invention, it is possible to suppress a delay between display and recording based on captured image data.

撮像装置としてのデジタルカメラの斜視図である。FIG. 2 is a perspective view of a digital camera as an imaging device. 第1実施形態に係る撮像装置の構成を示すブロック図である。FIG. 2 is a block diagram illustrating a configuration of the imaging device according to the first embodiment. 撮像制御部を含む撮像装置の一部を示す図である。FIG. 2 is a diagram illustrating a part of an imaging device including an imaging control unit. 撮像データを分割する方式の一例を示す図である。FIG. 3 is a diagram illustrating an example of a method of dividing imaging data. 第1実施形態の処理の流れの一例を示すフローチャートである。5 is a flowchart illustrating an example of a processing flow according to the first embodiment. 撮像素子の撮像シーケンスを示すタイミングチャートである。6 is a timing chart illustrating an imaging sequence of the imaging device. 第1実施形態を適用した場合における表示データと記録データの制御タイミングを示すタイミングチャートである。6 is a timing chart showing control timings of display data and print data when the first embodiment is applied. 1フレーム期間の間に、記録データの読み出しおよび記録メディアへの書き込みが完了しない場合のタイミングチャートである。4 is a timing chart in a case where reading of recording data and writing to a recording medium are not completed during one frame period. 第2実施形態を適用した場合における表示データと記録データの制御タイミングを示すタイミングチャートである。9 is a timing chart showing control timings of display data and print data when the second embodiment is applied. クロップ出力画像データの例を示す図である。FIG. 4 is a diagram illustrating an example of crop output image data.

以下、本発明の各実施の形態について図面を参照しながら詳細に説明する。しかしながら、以下の各実施の形態に記載されている構成はあくまで例示に過ぎず、本発明の範囲は各実施の形態に記載されている構成によって限定されることはない。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. However, the configurations described in the following embodiments are merely examples, and the scope of the present invention is not limited by the configurations described in the embodiments.

<第1実施形態>
図1は、各実施形態に係る撮像装置(撮像装置200)の一例としてのデジタルカメラ10の斜視図である。デジタルカメラ10には、背面側にLCD等の背面液晶ディスプレイ12が設けられている。背面液晶ディスプレイ12は、以下の表示デバイス210である。本実施形態の撮像装置は、デジタルカメラには限定されない。図2は、本実施形態に係る撮像装置200の構成を示すブロック図である。撮像装置200は、撮像素子201、撮像制御部204、バス205、DRAM206−1〜206−N、記録制御部207、記録メディア208、表示制御部209、表示デバイス210、CPU211および操作ボタン212を有する。
<First embodiment>
FIG. 1 is a perspective view of a digital camera 10 as an example of an imaging device (imaging device 200) according to each embodiment. The digital camera 10 is provided with a rear liquid crystal display 12 such as an LCD on the rear side. The rear liquid crystal display 12 is the following display device 210. The imaging device according to the present embodiment is not limited to a digital camera. FIG. 2 is a block diagram illustrating a configuration of the imaging device 200 according to the present embodiment. The imaging device 200 includes an imaging element 201, an imaging control unit 204, a bus 205, DRAMs 206-1 to 206-N, a recording control unit 207, a recording medium 208, a display control unit 209, a display device 210, a CPU 211, and operation buttons 212. .

撮像素子201は、COMSセンサ等の撮像素子である。撮像制御部204は、撮像素子201が出力した撮像データに対して、センサ起因による画像劣化の補正処理や欠陥画素補正等を行い、所定のフォーマットに変換した画像データを生成する画像処理装置である。撮像制御部204は、生成した画像データをバス205に出力する。撮像制御部204は、CPU211の指示に従い、撮像データの露光から読み出しの同期を制御する撮像制御信号を生成し、撮像制御信号伝送路202を介して、撮像素子201に出力する。撮像素子201は、撮像した撮像データを、撮像伝送路203を介して、撮像制御部204に対して出力する。複数のDRAM206−1〜206−N(Nは2以上の整数)は、バス205を介して、各種データを格納または保持するメモリである。以下、DRAM206−1〜206−Nを、DRAM206と総称することがある。例えば、CPU211や撮像制御部204は、DRAM206に格納されたデータをリードし、DRAM206にデータをライトする。   The image sensor 201 is an image sensor such as a COMS sensor. The imaging control unit 204 is an image processing device that performs a process of correcting image deterioration due to a sensor, a correction of a defective pixel, and the like on the imaging data output by the imaging element 201, and generates image data converted into a predetermined format. . The imaging control unit 204 outputs the generated image data to the bus 205. The imaging control unit 204 generates an imaging control signal for controlling the synchronization from the exposure of the imaging data to the reading in accordance with an instruction from the CPU 211, and outputs the imaging control signal to the imaging element 201 via the imaging control signal transmission path 202. The imaging element 201 outputs the captured image data to the imaging control unit 204 via the imaging transmission path 203. The plurality of DRAMs 206-1 to 206-N (N is an integer of 2 or more) are memories that store or hold various data via the bus 205. Hereinafter, the DRAMs 206-1 to 206-N may be collectively referred to as a DRAM 206. For example, the CPU 211 and the imaging control unit 204 read data stored in the DRAM 206 and write data to the DRAM 206.

記録制御部207は、撮像制御部204が出力したデータに対して、YUV等の画像データに現像する処理や、光学系の補正処理を行い、記録メディア208に応じた記録フォーマットのデータ(記録データ)を生成する記録制御手段である。記録制御部207は、例えば、撮像制御部204から出力された画像データに対して所定の圧縮処理(JPEG圧縮等)を行い、記録メディア208に記録する制御を行う。記録メディア208は、記録制御部207が出力した記録データを最終的に格納する記録媒体であり、例えば、SDカード等が適用される。   The recording control unit 207 performs a process of developing the data output from the imaging control unit 204 into image data such as YUV or a correction process of an optical system, and performs recording processing on data (recording data) of a recording format corresponding to the recording medium 208. ) Is recording control means. The recording control unit 207 performs, for example, control of performing predetermined compression processing (JPEG compression or the like) on the image data output from the imaging control unit 204 and recording the image data on the recording medium 208. The recording medium 208 is a recording medium that finally stores the recording data output by the recording control unit 207, and for example, an SD card or the like is applied.

表示制御部209は、撮像制御部204が出力したデータを、表示デバイス210に応じたフォーマットに現像する処理や、表示デバイス210の出力サイズに合わせるためのリサイズ処理を行う。表示デバイス210は、表示制御部209が出力したデータを、一定の同期タイミングで表示する表示部であり、例えば、上述した背面液晶ディスプレイ12が適用される。CPU211は、撮像制御部204、各DRAM206、記録制御部207および表示制御部209に対して、制御指示を出力する。また、CPU211は、操作ボタン212が押下されたことを検出する。操作ボタン212は、撮像装置200の撮影ボタンである。   The display control unit 209 performs a process of developing the data output by the imaging control unit 204 into a format corresponding to the display device 210 and a resizing process to match the output size of the display device 210. The display device 210 is a display unit that displays the data output by the display control unit 209 at a constant synchronization timing. For example, the above-described rear liquid crystal display 12 is applied. The CPU 211 outputs a control instruction to the imaging control unit 204, each DRAM 206, the recording control unit 207, and the display control unit 209. Further, the CPU 211 detects that the operation button 212 has been pressed. The operation button 212 is a shooting button of the imaging device 200.

図3は、撮像制御部204を含む撮像装置200の一部を示す図である。図3において、撮像制御部204の内部の一部のサブブロック、および当該サブブロックと周辺の各部との関係が示されている。撮像制御部204は、分割部220および出力部221を有する。分割部220は、撮像伝送路203から取得した撮像データを分割する分割手段である。図4は、分割部220が、撮像データを分割する方式の一例を示す図である。図4の例では、撮像素子201から取得した撮像データの中の各画素データのビット深度は12ビットである。各画素データのビット深度は、12ビット以外のビット深度であってもよい。分割部220は、12ビットの画素データを、上位8ビットと下位4ビットとに分割する。分割部220が分割するビット数は、8ビットおよび4ビットには限定されない。分割された上位8ビットのデータ(上位ビットデータ)と下位4ビットのデータ(下位ビットデータ)とは、それぞれ異なるDRAM206に格納される。図3に示されるように、分割部220は、分割した上位ビットデータを、データ経路101−1を介して、バス205に出力する。バス205に出力された上位8ビットのデータは、データ経路101−2を介して、DRAM206−1に格納される。また、分割部220は、分割した下位ビットデータを、データ経路102−1を介して、バス205に出力する。バス205に出力された下位ビットデータは、データ経路102−2を介して、DRAM206−2に格納される。   FIG. 3 is a diagram illustrating a part of the imaging device 200 including the imaging control unit 204. FIG. 3 illustrates a part of sub-blocks inside the imaging control unit 204 and a relationship between the sub-block and each unit in the vicinity. The imaging control unit 204 has a dividing unit 220 and an output unit 221. The division unit 220 is a division unit that divides the imaging data acquired from the imaging transmission path 203. FIG. 4 is a diagram illustrating an example of a method in which the division unit 220 divides imaging data. In the example of FIG. 4, the bit depth of each pixel data in the image data acquired from the image sensor 201 is 12 bits. The bit depth of each pixel data may be a bit depth other than 12 bits. The dividing unit 220 divides the 12-bit pixel data into upper 8 bits and lower 4 bits. The number of bits divided by dividing section 220 is not limited to 8 bits and 4 bits. The divided upper 8 bits data (upper bit data) and lower 4 bits data (lower bit data) are stored in different DRAMs 206 respectively. As illustrated in FIG. 3, the dividing unit 220 outputs the divided upper bit data to the bus 205 via the data path 101-1. The upper 8 bits of data output to the bus 205 are stored in the DRAM 206-1 via the data path 101-2. The dividing unit 220 outputs the divided lower bit data to the bus 205 via the data path 102-1. The lower bit data output to the bus 205 is stored in the DRAM 206-2 via the data path 102-2.

DRAM206−1は、例えば、32ビットのデータ幅を採用した高帯域対応の第1のメモリである。DRAM206−1に、ビット数が多い上位8ビットのデータ(高帯域のビットデータ)が格納される。DRAM206−2は、例えば、16ビットのデータ幅を採用した低帯域対応の第2のメモリである。DRAM206−2に、ビット数が少ない下位4ビットのデータ(低帯域のビットデータ)が格納される。DRAM206−1は、DRAM206−2よりも伝送帯域が広い。従って、分割部220は、各画素データのビット深度に応じて、ビット数の多い上位ビットデータである第1のデータと、上位ビットデータよりビット数が少ない下位ビットデータである第2のデータとに分割する。分割部220は、第1のデータ(上位ビットデータ)を、高帯域のDRAM206−1に格納し、第2のデータ(下位ビットデータ)を、低帯域のDRAM206−2に格納する。   The DRAM 206-1 is, for example, a high-bandwidth first memory that employs a 32-bit data width. The higher-order 8 bits of data having a larger number of bits (high-bandwidth bit data) are stored in the DRAM 206-1. The DRAM 206-2 is, for example, a low-bandwidth second memory that employs a data width of 16 bits. The lower 4-bit data (low-band bit data) having a small number of bits is stored in the DRAM 206-2. The DRAM 206-1 has a wider transmission band than the DRAM 206-2. Therefore, according to the bit depth of each pixel data, the dividing unit 220 determines whether the first data is the upper bit data having a larger number of bits and the second data is the lower bit data having a smaller number of bits than the upper bit data. Divided into Dividing section 220 stores the first data (upper bit data) in high-bandwidth DRAM 206-1 and stores the second data (lower-order bit data) in low-bandwidth DRAM 206-2.

DRAM206−1から読み出されたデータは、データ経路101−3、バス205およびデータ経路101−4を介して、出力部221に入力される。DRAM206−2から読み出されたデータは、データ経路102−3、バス205およびデータ経路102−4を介して、出力部221に入力される。出力部221は、入力されたデータに対して補正処理等を施し、補正処理後のデータを、データ経路105を介してバス205に出力する。図3のデータ経路101−1および102−1は、異なるデータ経路として示したが、例えば、時分割によるデータ伝送の場合は、データ経路101−1および102−1は、1つのデータ経路であってもよい。データ経路101−2および102−2も同様であり、データ経路101−3および102−3も同様である。   The data read from the DRAM 206-1 is input to the output unit 221 via the data path 101-3, the bus 205, and the data path 101-4. The data read from the DRAM 206-2 is input to the output unit 221 via the data path 102-3, the bus 205, and the data path 102-4. The output unit 221 performs a correction process or the like on the input data, and outputs the data after the correction process to the bus 205 via the data path 105. Although the data paths 101-1 and 102-1 in FIG. 3 are shown as different data paths, for example, in the case of time-division data transmission, the data paths 101-1 and 102-1 are one data path. May be. The same applies to the data paths 101-2 and 102-2, and the same applies to the data paths 101-3 and 102-3.

次に、図5のフローチャート、図6および図7のタイミングチャートを用いて、本実施例の処理の流れについて説明する。図6は、撮像素子201の撮像シーケンスを示すタイミングチャートである。図7は、表示データと記録データの制御タイミングを示すタイミングチャートである。撮像制御部204は、連写待機時のライブビューモード(LVモード)で撮像素子201を駆動する(ステップS401)。図6のタイミングチャートでは、LVモードの期間は、T1の期間に相当する。図6のタイミングチャートに示されるように、撮像ステートがLVモードのときに、同期信号が所定間隔で出力され、表示制御部209は、同期信号に応じて、表示デバイス210に画像データを表示する。   Next, the processing flow of this embodiment will be described with reference to the flowchart of FIG. 5 and the timing charts of FIGS. FIG. 6 is a timing chart illustrating an imaging sequence of the imaging element 201. FIG. 7 is a timing chart showing the control timing of the display data and the recording data. The imaging control unit 204 drives the imaging element 201 in the live view mode (LV mode) during standby for continuous shooting (step S401). In the timing chart of FIG. 6, the period of the LV mode corresponds to the period of T1. As shown in the timing chart of FIG. 6, when the imaging state is in the LV mode, a synchronization signal is output at predetermined intervals, and the display control unit 209 displays image data on the display device 210 according to the synchronization signal. .

CPU211は、撮像装置200(カメラ)の撮影スタートの契機となる操作ボタン212が押下されたか否かを判定する(ステップS402)。ステップS402でNOと判定された場合、撮影スタートの指示がないため、ステップS402が繰り返される。ステップS402でYESと判定された場合、撮像制御部204は、撮像制御信号伝送路202を介して、撮像素子201を一旦IDLEモードに遷移させ、静止画撮影モードに遷移させる(ステップS403)。図6のタイミングチャートでは、T1とT2の間の期間がIDLEモードの期間である。CPU211は、IDLEモードの期間の間に、静止画の記録および表示の設定を行う(ステップS404)。そして、撮像制御部204は、撮像制御信号伝送路202を介して、撮像素子201に静止画駆動の同期信号を出力し、撮像素子201を静止画駆動モード(静止画連写モード)に遷移させる(ステップS405)。ステップS405により、静止画駆動での撮像データが、撮像伝送路203を介して、撮像制御部204に入力される。ステップS405以降の動作シーケンスを、図7のタイミングチャートを参照して、説明する。期間T601は、1フレーム期間(所定の周期)における撮像素子201からの撮像データの出力期間を示している。ハッチングが施された期間以外の期間は、Vブランキング期間であり、次のフレームまでの待機時間である。Vブランキング期間では、撮像素子201からの撮像データの入力はない。   The CPU 211 determines whether or not the operation button 212 that triggers the start of shooting of the imaging device 200 (camera) has been pressed (step S402). If NO is determined in step S402, there is no instruction to start shooting, so step S402 is repeated. If YES is determined in step S402, the imaging control unit 204 temporarily transitions the imaging device 201 to the IDLE mode via the imaging control signal transmission path 202 and transitions to the still image capturing mode (step S403). In the timing chart of FIG. 6, the period between T1 and T2 is the period of the IDLE mode. The CPU 211 sets recording and display of a still image during the period of the IDLE mode (step S404). Then, the imaging control unit 204 outputs a synchronization signal for driving a still image to the imaging device 201 via the imaging control signal transmission path 202, and changes the imaging device 201 to a still image driving mode (still image continuous shooting mode). (Step S405). In step S <b> 405, imaging data in still image driving is input to the imaging control unit 204 via the imaging transmission path 203. The operation sequence after step S405 will be described with reference to the timing chart of FIG. A period T601 indicates an output period of image data from the image sensor 201 in one frame period (predetermined cycle). A period other than the hatched period is a V blanking period, which is a standby time until the next frame. During the V blanking period, there is no input of imaging data from the imaging element 201.

期間T602は、分割部220が、撮像素子201が出力した撮像データの各画素データ(12ビット)を分割して生成される上位ビットデータが、高帯域のメモリであるDRAM206−1に格納されるまでの期間を示す。期間T603は、分割部220が、撮像素子201が出力した撮像データの各画素データ(12ビット)を分割して生成される下位ビットデータが、低帯域のメモリであるDRAM206−2に格納されるまでの期間を示す。出力部221は、期間T604において、高帯域のメモリであるDRAM206−1に格納されている上位ビットデータの読み出しを開始する。この際、出力部221は、DRAM206−1に格納されている上位ビットデータを追い越さないように、十分なマージンのオフセット時間経過後、データ経路101−3を介して、読み出しを開始する。   During the period T602, the higher-order bit data generated by the division unit 220 dividing each pixel data (12 bits) of the imaging data output from the imaging element 201 is stored in the DRAM 206-1 which is a high-bandwidth memory. Indicates the period up to. In the period T603, the lower-order bit data generated by the division unit 220 dividing each pixel data (12 bits) of the imaging data output from the imaging element 201 is stored in the DRAM 206-2, which is a low-bandwidth memory. Indicates the period up to. In the period T604, the output unit 221 starts reading upper bit data stored in the DRAM 206-1 which is a high-bandwidth memory. At this time, the output unit 221 starts reading via the data path 101-3 after the elapse of a sufficient margin offset time so as not to overtake the upper bit data stored in the DRAM 206-1.

図7の例では、DRAM206−1および206−2へのデータ格納である書き込み時間に対して、読み出し時間が長くなっている。書き込み時間に対して、読み出し時間が長くなっている理由は、撮像素子201からの撮像データの入力スピードと同等のスピードで、表示や記録を行う必要がないためである。例えば、電子シャッター時の場合、撮像素子201からの撮像データの入力は、ローリングシャッター歪みの軽減処理等が行われることがある。従って、書き込み時間に対して、読み出し時間が長くなっている。   In the example of FIG. 7, the read time is longer than the write time for storing data in the DRAMs 206-1 and 206-2. The reason why the read time is longer than the write time is that there is no need to perform display or recording at a speed equivalent to the speed of inputting image data from the image sensor 201. For example, in the case of an electronic shutter, input of imaging data from the imaging element 201 may be performed by processing such as rolling shutter distortion reduction processing. Therefore, the read time is longer than the write time.

出力部221は、期間T605において、期間T604で読み出されたデータ(DRAM206−1から読み出されたデータ)に、センサ補正等を実施した後、当該データをデータ経路105からバス205に出力する。バス205に出力されたデータは、DRAM206に格納されるとともに、表示制御部209に入力される。表示制御部209は、表示デバイス210に表示するための所定の処理を表示データに施し、当該表示データを、表示デバイス210に出力する。   The output unit 221 performs sensor correction or the like on the data read in the period T604 (data read from the DRAM 206-1) in the period T605, and then outputs the data to the bus 205 from the data path 105. . The data output to the bus 205 is stored in the DRAM 206 and input to the display control unit 209. The display control unit 209 performs a predetermined process for displaying on the display device 210, and outputs the display data to the display device 210.

このとき、表示デバイス210に表示される画像は、撮像素子201から入力された撮像データの1画素のビット深度である12ビットに対して8ビット相当であるが、連写中の構図確認用のフレーミング画像の画質としては十分のビット深度である。CPU211は、表示デバイス210に対する表示データ出力が完了したかを判定する(ステップS406)。表示データ出力が完了したかは、表示制御部209が、CPU211に対して、表示データ出力が完了したことを示す割込みを発生することにより、検知されてもよい。ステップS406の判定でNOの場合、表示データ出力が完了していないため、ステップS406が繰り返される。ステップS406の判定でYESの場合、表示データ出力が完了している。この場合、CPU211は、DRAM206−1から読み出すデータ(記録データ)とDRAM206−2から読み出すデータ(記録データ)とを結合させる設定を行う(ステップS407)。   At this time, the image displayed on the display device 210 is equivalent to 8 bits with respect to 12 bits, which is the bit depth of one pixel of the imaging data input from the imaging element 201, but is used for composition confirmation during continuous shooting. The bit depth is sufficient for the quality of the framing image. The CPU 211 determines whether display data output to the display device 210 has been completed (step S406). Whether the display data output has been completed may be detected by the display control unit 209 generating an interrupt to the CPU 211 indicating that the display data output has been completed. If the determination in step S406 is NO, display data output has not been completed, so step S406 is repeated. If the determination in step S406 is YES, the display data output has been completed. In this case, the CPU 211 performs a setting to combine the data (recording data) read from the DRAM 206-1 with the data (recording data) read from the DRAM 206-2 (step S407).

上記の設定に基づいて、期間T606で、出力部221は、DRAM206−1に既に格納されている上位ビットデータを、データ経路101−3を介して、読み出す。同様に、期間T607で、出力部221は、DRAM206−2に既に格納された下位ビットデータを、データ経路102−3を介して、読み出す。データ経路101−3からのデータは、バス205およびデータ経路101−4を介して、出力部221に入力される。データ経路102−3からのデータは、バス205およびデータ経路102−4を介して、出力部221に入力される。出力部221は、期間T608において、DRAM206−1から入力した上位ビットデータとDRAM206−2から入力した下位ビットデータとを結合して、12ビットのデータ(結合データ)を生成する。   Based on the above setting, in the period T606, the output unit 221 reads the higher-order bit data already stored in the DRAM 206-1 via the data path 101-3. Similarly, in the period T607, the output unit 221 reads the lower bit data already stored in the DRAM 206-2 via the data path 102-3. Data from the data path 101-3 is input to the output unit 221 via the bus 205 and the data path 101-4. Data from the data path 102-3 is input to the output unit 221 via the bus 205 and the data path 102-4. In the period T608, the output unit 221 combines the upper bit data input from the DRAM 206-1 and the lower bit data input from the DRAM 206-2 to generate 12-bit data (combined data).

従って、図7に示されるように、出力部221は、期間T604において上位ビットデータを読み出して、表示制御部209に出力した後に、期間T606および期間T607において、結合したデータを記録制御部207に出力する。これにより、表示デバイス210に画像データ(上位ビットデータにより構成される画像データ)を表示し、記録メディア208に画像データ(結合データにより構成される画像データ)を記録することができる。出力部221は、期間T604および期間T606において、DRAM206−1から上位ビットデータを読み出しているため、1フレーム期間の間における上位ビットデータの読み出し回数は2回である。一方、出力部221は、期間T607において、DRAM−2から下位ビットデータを読み出しているため、1フレーム期間の間における上位ビットの読み出し回数は1回であり、上位ビットデータの読み出し回数より少ない。上位ビットデータは、表示および記録の両方に使用される。下位ビットデータは、表示には使用されず、記録に使用される。従って、1フレーム期間の間における下位ビットデータの読み出し回数は、上位ビットの読み出し回数より少なくなっている。例えば、上位ビットデータが他の用途に用いられる場合、1フレーム期間の間に、上位ビットデータが3回以上の所定回数読み出されてもよい。   Accordingly, as shown in FIG. 7, the output unit 221 reads out the higher-order bit data in the period T604 and outputs it to the display control unit 209, and then combines the combined data with the recording control unit 207 in the periods T606 and T607. Output. As a result, image data (image data composed of higher-order bit data) can be displayed on the display device 210, and image data (image data composed of combined data) can be recorded on the recording medium 208. The output unit 221 reads the higher-order bit data from the DRAM 206-1 in the periods T604 and T606, so that the number of times of reading out the upper-order bit data in one frame period is two. On the other hand, the output unit 221 reads the lower bit data from the DRAM-2 in the period T607, so that the number of times of reading the upper bits during one frame period is one, which is smaller than the number of times of reading the upper bit data. The upper bit data is used for both display and recording. The lower bit data is not used for display, but is used for recording. Therefore, the number of times of reading the lower bit data during one frame period is smaller than the number of times of reading the upper bit. For example, when the upper bit data is used for another purpose, the upper bit data may be read three or more predetermined times during one frame period.

出力部221は、生成した12ビットのデータに対して、表示時の処理と同様に、補正処理等を実施した後、データ経路105に出力する。バス205に出力されたデータ(記録データ)は、DRAM206に格納されるとともに、記録制御部207に出力される。記録制御部207は、記録データに対して、記録メディア208に応じた処理を施し、記録メディア208に出力する。これにより、12ビットの画素データにより構成される画像データが生成される。   The output unit 221 performs a correction process or the like on the generated 12-bit data in the same manner as the display process, and then outputs the data to the data path 105. The data (recording data) output to the bus 205 is stored in the DRAM 206 and output to the recording control unit 207. The recording control unit 207 performs processing according to the recording medium 208 on the recording data, and outputs the data to the recording medium 208. As a result, image data composed of 12-bit pixel data is generated.

CPU211は、記録データの出力が完了したか、つまり記録データの記録メディア208への書き込みが完了したかを判定する(ステップS408)。記録制御部207は、記録データの記録メディア208への書き込み状況を検知しており、書き込み完了を検知すると、CPU211に割込みを発生させる。これにより、CPU211は、ステップS408の判定を行うことができる。ステップS408の判定でNOの場合、記録データの書き込みが完了していないため、ステップS408が繰り返される。ステップS408の判定でYESの場合、記録データの書き込みが完了している。この場合、CPU211は、次の撮影コマの記録を実施するかの判定(連写終了であるかの判定)を行う(ステップS409)。連写終了でない場合、ステップS409の判定はNOとなる。この場合、フローはステップS404に移行する。連写終了である場合、ステップS409の判定はYESとなる。この場合、フローはステップS401に移行し、撮像ステートは、再びLVモード(待機中)に遷移する。図7のタイミングチャートでは、T3の期間に相当する。   The CPU 211 determines whether the output of the recording data has been completed, that is, whether the writing of the recording data to the recording medium 208 has been completed (step S408). The recording control unit 207 detects the writing status of the recording data on the recording medium 208, and when detecting the completion of the writing, causes the CPU 211 to generate an interrupt. Accordingly, the CPU 211 can make the determination in step S408. If the determination in step S408 is NO, the writing of the recording data has not been completed, so step S408 is repeated. If the determination in step S408 is YES, the writing of the recording data has been completed. In this case, the CPU 211 determines whether or not to record the next photographed frame (determines whether or not continuous shooting has been completed) (step S409). If the continuous shooting is not completed, the determination in step S409 is NO. In this case, the flow moves to step S404. If the continuous shooting has ended, the determination in step S409 is YES. In this case, the flow moves to step S401, and the imaging state changes to the LV mode (waiting) again. In the timing chart of FIG. 7, this corresponds to the period of T3.

以上説明したように、本実施形態では、分割部220は、撮像素子201から入力した撮像データの中の画素データのビット深度に応じて、上位ビットと下位ビットとに分割する。ビット数が多い上位ビットデータは、伝送帯域が広い高帯域のDRAM206−1に格納され、ビット数が少ない下位ビットデータは、DRAM206−1よりも伝送帯域が狭い低帯域のDRAM206−2に格納される。そして、出力部221は、高帯域のDRAM206−1に格納されている上位ビットデータを読み出して、表示制御部209に出力する。これにより、表示デバイス210には、上位ビットデータにより構成される画像データが表示される。一方、出力部221は、高帯域のDRAM206−1に格納されている上位ビットデータと低帯域のDRAM206−2に格納されている下位ビットデータとを読み出して、結合する。結合されたデータは、記録制御部207に出力されて、記録制御部207が、結合されたデータを記録メディア208に記録する。   As described above, in the present embodiment, the dividing unit 220 divides the image data into upper bits and lower bits according to the bit depth of the pixel data in the image data input from the image sensor 201. Upper bit data having a larger number of bits is stored in a higher bandwidth DRAM 206-1 having a wider transmission band, and lower bit data having a smaller number of bits is stored in a lower bandwidth DRAM 206-2 having a narrower transmission band than the DRAM 206-1. You. Then, the output unit 221 reads out the higher-order bit data stored in the high-bandwidth DRAM 206-1 and outputs it to the display control unit 209. As a result, the display device 210 displays the image data composed of the upper bit data. On the other hand, the output unit 221 reads and combines the upper bit data stored in the high-bandwidth DRAM 206-1 and the lower-order bit data stored in the low-bandwidth DRAM 206-2. The combined data is output to the recording control unit 207, and the recording control unit 207 records the combined data on the recording medium 208.

表示デバイス210に表示される画像データの各画素データのビット深度は、撮像素子201から入力した撮像データのビットデータを分割した一部のビットデータある。従って、表示デバイス210に表示される画像データの各画素データのビット深度は、記録メディア208に記録される画像データの各画素データのビット深度よりも低い。このため、表示デバイス210に表示される画像データの画質は、記録メディア208に記録される画像データの画質よりも低くなる。しかしながら、連写中の構図確認用のフレーミング画像には、記録メディア208に記録される画像データの画質ほど、高い画質が要求されることはない。このため、分割された一部のビットデータにより構成される画像データであっても、連写中の構図確認用のフレーミング画像としては十分である。   The bit depth of each pixel data of the image data displayed on the display device 210 is a partial bit data obtained by dividing the bit data of the image data input from the image sensor 201. Therefore, the bit depth of each pixel data of the image data displayed on the display device 210 is lower than the bit depth of each pixel data of the image data recorded on the recording medium 208. Therefore, the image quality of the image data displayed on the display device 210 is lower than the image quality of the image data recorded on the recording medium 208. However, the framing image for confirming the composition during continuous shooting is not required to be as high as the image data recorded on the recording medium 208. For this reason, even the image data composed of a part of the divided bit data is sufficient as the framing image for confirming the composition during the continuous shooting.

そして、出力部221は、高帯域のDRAM206−1に格納された上位ビットデータを読み出して、表示制御部209に出力し、表示制御部209は、上位ビットデータにより構成される画像データを表示デバイス210に表示する。撮像素子201から入力した撮像データの画素データの全てのビットではなく、分割された一部の上位ビットデータにより構成される画像データが表示デバイス210に表示される。表示デバイス210に表示される画像データは、上位ビットデータにより構成される画像データである。従って、表示のために読み出される画像データ(上位ビットデータにより構成される画像データ)のデータ量は、上位ビットデータと下位ビットデータとを結合した結合データのデータ量より小さい。このため、画像データの表示と記録とが行われる際に、データ量が大きい結合データが複数回読み出されることがなくなる。従って、撮像素子201が画素数の多い撮像データを高速に出力した場合でも、画像データの表示の高速化を図ることができる。特に、出力部221は、伝送帯域が広い高帯域のDRAM206−1に上位ビットデータを格納し、表示を行う際には、当該DRAM206−1から上位ビットデータを読み出しているため、画像データの表示のさらなる高速化を実現できる。   Then, the output unit 221 reads out the high-order bit data stored in the high-bandwidth DRAM 206-1 and outputs it to the display control unit 209. The display control unit 209 converts the image data composed of the high-order bit data into a display device. Displayed at 210. Instead of all the bits of the pixel data of the image data input from the image sensor 201, the display device 210 displays image data composed of a part of higher-order bit data divided. The image data displayed on the display device 210 is image data composed of higher-order bit data. Therefore, the data amount of the image data (image data composed of the upper bit data) read for display is smaller than the data amount of the combined data obtained by combining the upper bit data and the lower bit data. Therefore, when displaying and recording the image data, the combined data having a large data amount is not read out a plurality of times. Therefore, even when the imaging element 201 outputs imaging data having a large number of pixels at high speed, it is possible to speed up the display of image data. In particular, the output unit 221 stores the high-order bit data in the high-bandwidth DRAM 206-1 having a wide transmission band and, when performing display, reads out the high-order bit data from the DRAM 206-1. Can be further accelerated.

出力部221は、上記の表示制御の後、高帯域のDRAM206−1に格納された上位ビットデータおよび低帯域のDRAM206−2に格納された下位ビットデータを読み出して結合し、結合されたデータを記録制御部207に出力している。上記の表示制御の高速化が図れるため、出力部221が、上位ビットデータおよび下位ビットデータの読み出しを開始するタイミングも早くなる。このため、記録メディア208へのデータの書き込み完了タイミングも早くなる。従って、撮像した画像データに基づく表示と記録との遅延を抑制することができる。   After the display control described above, the output unit 221 reads and combines the upper bit data stored in the high band DRAM 206-1 and the lower bit data stored in the low band DRAM 206-2, and combines the combined data. The data is output to the recording control unit 207. Since the speed of the display control can be increased, the timing at which the output unit 221 starts reading the upper bit data and the lower bit data is also advanced. Therefore, the timing of completing the writing of the data to the recording medium 208 is also advanced. Therefore, it is possible to suppress a delay between display and recording based on captured image data.

ここで、撮像素子201が出力した撮像データに対して、撮像制御部204が所定の処理を施した画像データを生成し、撮像制御部204が、DRAM206に画像データを格納することなく、表示制御部209に出力することが考えられる。この場合、オンザフライで画像データの表示処理が行われる。この場合において、撮像素子201が高速に撮像データを出力すると、オンザフライで画像データを表示処理する回路の動作速度が低速であると、画像データに基づく表示および記録の遅延が大きくなる。一方、オンザフライで画像データを表示処理する速度が高速な回路を用いることにより、上記の遅延を低減できるが、オンザフライで画像データを表示処理する回路は高速に動作する必要がある。これにより、上記回路に高度なハードウェアを適用する必要があり、ハードウェアコストが増大する。第1実施形態では、画像データをオンザフライで処理していないため、ハードウェアコストを低減しつつ、撮像した画像データに基づく表示と記録との遅延を抑制することができる。   Here, the imaging control unit 204 generates image data obtained by performing predetermined processing on the imaging data output by the imaging element 201, and the imaging control unit 204 performs display control without storing the image data in the DRAM 206. Output to the unit 209 is conceivable. In this case, the display processing of the image data is performed on the fly. In this case, when the imaging element 201 outputs the imaging data at high speed, if the operation speed of the circuit that performs the display processing of the image data on the fly is low, the delay of the display and recording based on the image data increases. On the other hand, the above-described delay can be reduced by using a circuit that displays image data on-the-fly at a high speed, but the circuit that displays image data on-the-fly must operate at high speed. As a result, it is necessary to apply advanced hardware to the circuit, and hardware costs increase. In the first embodiment, since image data is not processed on the fly, it is possible to reduce delays between display and recording based on captured image data while reducing hardware costs.

第1実施形態では、第1のメモリおよび第2のメモリとして、DRAMを用いた例を説明したが、第1のメモリおよび第2のメモリとしては、SRAM(スタティックRAM)や、その他の記録媒体が適用されてもよい。また、DRAM206−1に高帯域のDRAMが適用され、DRAM206−2に低帯域のDRAMが適用された例を説明したが、DRAM206−1およびDRAM206−2の伝送帯域は同じであってもよい。ただし、分割部220が分割した上位ビットデータが、高帯域のDRAM206−1に格納されることで、表示制御の高速化をより図ることができる。このため、分割部220が分割した上位ビットデータは、高帯域のDRAM206−1に格納され、下位ビットデータは、低帯域のDRAM206−2に格納されることが好ましい。   In the first embodiment, an example in which a DRAM is used as the first memory and the second memory has been described. However, as the first memory and the second memory, an SRAM (static RAM) or another recording medium may be used. May be applied. Also, an example in which a high-bandwidth DRAM is applied to the DRAM 206-1 and a low-bandwidth DRAM is applied to the DRAM 206-2 has been described, but the transmission bands of the DRAM 206-1 and the DRAM 206-2 may be the same. However, the higher-order bit data divided by the dividing unit 220 is stored in the high-bandwidth DRAM 206-1, so that the speed of display control can be further increased. For this reason, it is preferable that the upper bit data divided by the dividing unit 220 be stored in the high-bandwidth DRAM 206-1 and the lower-order bit data be stored in the low-bandwidth DRAM 206-2.

<第2実施形態>
次に、第2実施形態について説明する。図1〜図4は、第1実施形態と同様であるため、説明を省略する。図8は、1フレーム期間の間に、記録データの読み出しおよび記録メディア208への書き込みが完了しない場合のタイミングチャートである。第2実施形態でも、第1実施形態と同様の制御を行っている。しかし、撮像素子201が出力した撮像データの画素数が多い場合や、撮像データの出力速度が高速である場合等においては、記録データの読み出しおよび記録メディア208への書き込みが1フレーム期間の間に完了しない可能性がある。
<Second embodiment>
Next, a second embodiment will be described. 1 to 4 are the same as those in the first embodiment, and a description thereof will be omitted. FIG. 8 is a timing chart in a case where reading of recording data and writing to the recording medium 208 are not completed during one frame period. In the second embodiment, the same control as in the first embodiment is performed. However, when the number of pixels of the image data output from the image sensor 201 is large, or when the output speed of the image data is high, reading of the recording data and writing to the recording medium 208 are performed during one frame period. Might not complete.

期間T706の上位8ビットのデータの読み出し、および期間T707の下位4ビットのデータの読み出しが、1フレーム期間の間に完了しないと、期間T706および期間T707が、次のフレーム期間に掛かる。この場合、出力部221は、次のフレームの上位ビットデータを、DRAM206−1から読み出すことができない。このため、表示制御部209は、表示の読み出しができないフレームについては、前のフレームを表示デバイス210に表示する制御、またはブラックアウト制御を行う。これにより、期間T704およびT705において、表示デバイス210に画像を表示することができなくなる。   If the reading of the upper 8 bits of data in the period T706 and the reading of the lower 4 bits of the data in the period T707 are not completed during one frame period, the periods T706 and T707 start in the next frame period. In this case, the output unit 221 cannot read the upper bit data of the next frame from the DRAM 206-1. For this reason, the display control unit 209 performs control for displaying the previous frame on the display device 210 or blackout control for a frame from which display cannot be read. This makes it impossible to display an image on the display device 210 in the periods T704 and T705.

図9は、第2実施形態を適用した場合における表示データと記録データの制御タイミングを示すタイミングチャートである。第2実施形態では、出力部221が、1フレーム期間の間(所定周期以下の間)に、記録データの読み出しおよび記録メディア208への書き込みを完了させる。このため、分割部220は、期間T802および期間T803において、期間T801で撮像素子201から入力した撮像データの一部を削除(読み出し対象から削除)するクロップ処理を行う。この場合、分割部220は、許容範囲内で撮像データの上下左右画像をカットするクロップ処理を行う。図10は、クロップ処理された画像データ(撮像素子201の全画角の撮像データによる画像データ)の例を示す。上記許容範囲は、出力部221が、上位ビットデータを表示制御部209に出力する期間T805と、上位ビットデータと下位ビットデータとを結合して記録制御部207に出力する期間T808との和が1フレーム期間の間に収まる範囲である。これにより、撮像データの画角は狭くなるが、キャプチャするデータのデータ量は少なくなる。従って、データ量が削減された上位ビットデータがDRAM1206−1に格納され、同じくデータ量が削減された下位ビットデータがDRAM206−2に格納される。   FIG. 9 is a timing chart showing the control timing of the display data and the recording data when the second embodiment is applied. In the second embodiment, the output unit 221 completes the reading of the recording data and the writing to the recording medium 208 during one frame period (during a predetermined period or less). Therefore, in the periods T802 and T803, the division unit 220 performs a cropping process of deleting a part of the imaging data input from the imaging element 201 in the period T801 (deleting from the reading target). In this case, the dividing unit 220 performs a cropping process of cutting the upper, lower, left, and right images of the imaged data within the allowable range. FIG. 10 illustrates an example of image data that has been cropped (image data based on imaging data of the image sensor 201 at all angles of view). The allowable range is the sum of a period T805 in which the output unit 221 outputs the upper bit data to the display control unit 209 and a period T808 in which the upper bit data and the lower bit data are combined and output to the recording control unit 207. The range falls within one frame period. As a result, the angle of view of the captured data is reduced, but the amount of data to be captured is reduced. Therefore, the upper bit data whose data amount is reduced is stored in the DRAM 1206-1, and the lower bit data whose data amount is also reduced is stored in the DRAM 206-2.

なお、データの削減は、撮像データを上位ビットデータと下位ビットデータとに分割したのちに、期間T805と期間T808との和が1フレーム期間に収まるように、それぞれのデータを削減する処理を実行してもよい。   The data reduction is performed by dividing the imaging data into high-order bit data and low-order bit data, and then executing a process of reducing each data so that the sum of the period T805 and the period T808 falls within one frame period. May be.

撮像データのデータ量が削減されて少なくなることで、その後の表示データを出力する時間および記録データを出力する時間を削減でき、記録データの読み出しおよび記録メディア208への書き込みを、1フレーム期間に収めることが可能となる。これにより、次のフレームの表示に支障をきたすことがなくなる。以上において、分割部220がクロップ処理を行っていたが、撮像素子201が、撮像データの一部を削除して、撮像データのデータサイズを調整し、調整された撮像データを、分割部220に出力してもよい。撮像素子201は、上位ビットデータを表示制御部209に出力する期間T805と、上位ビットデータと下位ビットデータとを結合して記録制御部207に出力する期間T808との和が1フレーム期間の間に収まる範囲にデータサイズを調整する。   By reducing the data amount of the imaging data, the time for outputting the display data and the time for outputting the recording data can be reduced, and the reading of the recording data and the writing to the recording medium 208 can be performed in one frame period. It is possible to fit. Thus, the display of the next frame is not hindered. In the above description, the division unit 220 has performed the cropping process. However, the imaging element 201 deletes a part of the imaging data, adjusts the data size of the imaging data, and sends the adjusted imaging data to the division unit 220. May be output. The image sensor 201 determines that the sum of the period T805 during which the upper bit data is output to the display control unit 209 and the period T808 during which the upper bit data and the lower bit data are combined and output to the recording control unit 207 is one frame period. Adjust the data size to fit in the range.

以上、本発明の好ましい実施の形態について説明したが、本発明は上述した各実施の形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。本発明は、上述の各実施の形態の1以上の機能を実現するプログラムを、ネットワークや記憶媒体を介してシステムや装置に供給し、そのシステム又は装置のコンピュータの1つ以上のプロセッサがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。   Although the preferred embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments, and various modifications and changes can be made within the scope of the gist. The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or an apparatus via a network or a storage medium, and one or more processors of a computer of the system or the apparatus execute the program. The processing can be implemented by reading and executing. Further, the present invention can also be realized by a circuit (for example, an ASIC) that realizes one or more functions.

200 撮像装置
201 撮像素子
204 撮像制御部
206 DRAM
207 記録制御部
208 記録メディア
209 表示制御部
210 表示デバイス
211 CPU
220 分割部
221 出力部
200 imaging device 201 imaging element 204 imaging control unit 206 DRAM
207 Recording control unit 208 Recording medium 209 Display control unit 210 Display device 211 CPU
220 Dividing unit 221 Output unit

Claims (18)

撮像素子から取得した撮像データを、ビット深度に応じて第1データと第2データとに分割する分割手段と、
前記第1データを記憶する第1メモリから読み出した前記第1データを、表示部に画像を表示させる表示制御手段に出力し、前記第1メモリから読み出した前記第1データと前記第2データを記憶する第2メモリから読み出した前記第2データとを結合したデータを記録媒体に記録させる記録制御手段に出力する出力手段と、
を備えることを特徴とする画像処理装置。
Division means for dividing imaging data acquired from the imaging device into first data and second data according to a bit depth;
The first data read from the first memory storing the first data is output to display control means for displaying an image on a display unit, and the first data and the second data read from the first memory are output. Output means for outputting data obtained by combining the second data read from the second memory to be stored to a recording control means for recording the data on a recording medium;
An image processing apparatus comprising:
前記第1メモリは前記第2メモリよりも伝送帯域が大きく、
前記第1データは、前記撮像データの上位ビットに対応するデータであり、前記第2データは、前記撮像データの下位ビットに対応するデータであることを特徴とする請求項1に記載の画像処理装置。
The first memory has a larger transmission band than the second memory,
2. The image processing apparatus according to claim 1, wherein the first data is data corresponding to an upper bit of the imaging data, and the second data is data corresponding to a lower bit of the imaging data. 3. apparatus.
前記上位ビットのビット数は、前記下位ビットのビット数よりも多いことを特徴とする請求項2に記載の画像処理装置。   The image processing apparatus according to claim 2, wherein the number of bits of the upper bits is larger than the number of bits of the lower bits. 前記分割手段は、前記撮像素子から所定の周期ごとに撮像データを取得し、
前記出力手段は、前記所定の周期において、前記第1データを2以上の所定回数で読み出し、前記第2データを前記所定回数よりも少ない回数読み出すことを特徴とする請求項1乃至3のうち何れか1項に記載の画像処理装置。
The dividing means acquires imaging data from the imaging device at predetermined intervals,
4. The apparatus according to claim 1, wherein the output unit reads the first data at a predetermined number of times of two or more in the predetermined period, and reads the second data a number of times smaller than the predetermined number. The image processing apparatus according to claim 1.
前記出力手段が前記第1メモリから読み出した前記第1データを表示部に画像を表示させる表示制御手段に出力する期間と、前記出力手段が前記第1メモリから読み出した前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータを前記記録制御手段に出力する期間との和が前記所定の周期以下になるように、前記出力手段は、前記第1データおよび前記第2データの一部を読み出し対象から削除することを特徴とする請求項4に記載の画像処理装置。   A period during which the output unit outputs the first data read from the first memory to a display control unit that displays an image on a display unit, a period during which the output unit reads the first data from the first memory, and 2. The output unit outputs the first data and the second data so that a sum of a period in which data obtained by combining the second data read from the memory and a period in which the data is output to the recording control unit is equal to or shorter than the predetermined period. The image processing apparatus according to claim 4, wherein a part of the data is deleted from a reading target. 前記分割手段は、前記第1データを前記第1メモリに格納し、かつ、前記第2データを前記第2メモリに格納し、
前記出力手段が前記第1メモリから読み出した前記第1データを表示部に画像を表示させる表示制御手段に出力する期間と、前記出力手段が前記第1メモリから読み出した前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータを前記記録制御手段に出力する期間との和が前記所定の周期以下になるように、前記分割手段は、前記第1データおよび前記第2データの一部を記憶対象から削除することを特徴とする請求項4に記載の画像処理装置。
The dividing means stores the first data in the first memory, and stores the second data in the second memory;
A period during which the output unit outputs the first data read from the first memory to a display control unit that displays an image on a display unit, a period during which the output unit reads the first data from the first memory, and 2. The dividing means is configured to set the first data and the second data so that the sum of a period in which data obtained by combining the second data read from the memory and the period in which the data is output to the recording control unit is equal to or shorter than the predetermined period. 5. The image processing apparatus according to claim 4, wherein a part of the data is deleted from a storage target.
前記表示制御手段による前記表示部への前記画像の表示が完了した後に、前記結合したデータの前記記録媒体への記録を開始させる制御を前記記録制御手段に対して行う、
ことを特徴とする請求項1乃至4のうち何れか1項に記載の画像処理装置。
After the display of the image on the display unit by the display control unit is completed, the recording control unit performs control to start recording the combined data on the recording medium,
The image processing apparatus according to claim 1, wherein:
請求項1乃至請求項7のうち何れか1項に記載の画像処理装置と、
前記撮像素子と、
前記表示制御手段と、
前記表示部と、
前記記録制御手段と、
を備える撮像装置。
An image processing apparatus according to any one of claims 1 to 7,
The imaging device;
The display control means,
The display unit;
The recording control means,
An imaging device comprising:
前記撮像素子は、前記出力手段が前記第1メモリから読み出した前記第1データを表示部に画像を表示させる表示制御手段に出力する期間と、前記出力手段が前記第1メモリから読み出した前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータを前記記録制御手段に出力する期間との和が所定の周期以下になるように、前記撮像データのデータサイズを調整することを特徴とする請求項8に記載の撮像装置。   The image pickup device includes a period in which the output unit outputs the first data read from the first memory to a display control unit that displays an image on a display unit, and a period in which the output unit reads out the first data from the first memory. The data size of the imaging data is adjusted so that the sum of a period in which data obtained by combining one data and the second data read from the second memory and outputting the data to the recording control unit is equal to or less than a predetermined period. The imaging device according to claim 8, wherein: 画像処理装置の制御方法であって、
撮像素子から取得した撮像データを、ビット深度に応じて第1データと第2データとに分割する工程と、
前記第1データを記憶する第1メモリから読み出した前記第1データを、表示部に画像を表示させる表示制御手段に出力し、前記第1メモリから読み出した前記第1データと前記第2データを記憶する第2メモリから読み出した前記第2データとを結合したデータを記録媒体に記録させる記録制御手段に出力する工程と、
を有することを特徴とする画像処理装置の制御方法。
A method for controlling an image processing apparatus, comprising:
Dividing imaging data acquired from the imaging device into first data and second data according to a bit depth;
The first data read from the first memory storing the first data is output to display control means for displaying an image on a display unit, and the first data and the second data read from the first memory are output. Outputting data obtained by combining the second data read from the second memory to be stored to recording control means for recording the data on a recording medium;
A method for controlling an image processing apparatus, comprising:
前記第1メモリは前記第2メモリよりも伝送帯域が大きく、
前記第1データは、前記撮像データの上位ビットに対応するデータであり、前記第2データは、前記撮像データの下位ビットに対応するデータであることを特徴とする請求項10に記載の画像処理装置の制御方法。
The first memory has a larger transmission band than the second memory,
The image processing apparatus according to claim 10, wherein the first data is data corresponding to upper bits of the imaging data, and the second data is data corresponding to lower bits of the imaging data. How to control the device.
前記上位ビットのビット数は、前記下位ビットのビット数よりも多いことを特徴とする請求項11記載の画像処理装置の制御方法。   12. The method according to claim 11, wherein the number of bits of the upper bits is larger than the number of bits of the lower bits. 前記撮像素子から所定の周期ごとに撮像データを取得し、
前記所定の周期において、前記第1データを2以上の所定回数で読み出し、前記第2データを前記所定回数よりも少ない回数読み出すことを特徴とする請求項10乃至12のうち何れか1項に記載の画像処理装置の制御方法。
Acquiring imaging data from the imaging device at predetermined intervals,
13. The method according to claim 10, wherein in the predetermined cycle, the first data is read out at a predetermined number of times equal to or more than two, and the second data is read out less than the predetermined number of times. The method for controlling an image processing apparatus according to the present invention.
前記第1メモリから読み出された前記第1データを表示部に画像の表示にかかる期間と、前記第1メモリから読み出された前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータの記録にかかる期間との和が前記所定の周期以下になるように、前記第1データおよび前記第2データの一部を読み出し対象から削除することを特徴とする請求項13記載の画像処理装置の制御方法。   A period for displaying the first data read from the first memory on an image on a display unit, the first data read from the first memory, and the second data read from the second memory; 14. A method according to claim 13, wherein a part of the first data and the second data is deleted from a reading target so that a sum of a period required for recording data obtained by combining the first data and the second data is equal to or shorter than the predetermined period. The control method of the image processing apparatus described in the above. 前記第1データを前記第1メモリに格納し、かつ、前記第2データを前記第2メモリに格納し、
前記第1メモリから読み出した前記第1データを表示部に画像を表示させる表示制御手段に出力する期間と、前記第1メモリから読み出した前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータを前記記録制御手段に出力する期間との和が前記所定の周期以下になるように、前記第1データおよび前記第2データの一部を記憶対象から削除することを特徴とする請求項13に記載の画像処理装置の制御方法。
Storing the first data in the first memory, and storing the second data in the second memory;
A period in which the first data read from the first memory is output to display control means for displaying an image on a display unit, and a period in which the first data read from the first memory and the second data read from the second memory are read. A part of the first data and the second data is deleted from the storage target so that the sum of a period in which data combined with data is output to the recording control unit is equal to or shorter than the predetermined period. The method for controlling an image processing apparatus according to claim 13, wherein:
前記表示制御手段による前記表示部への前記画像の表示が完了した後に、前記結合したデータの前記記録媒体への記録を開始させる制御を行う、
ことを特徴とする請求項10乃至13のうち何れか1項に記載の画像処理装置の制御方法。
After the display of the image on the display unit by the display control unit is completed, control is performed to start recording the combined data on the recording medium.
14. The control method for an image processing apparatus according to claim 10, wherein:
請求項10乃至16のうち何れか1項に記載の画像処理装置の制御方法をコンピュータに実行させるためのプログラム。   A program for causing a computer to execute the method for controlling an image processing device according to claim 10. 請求項10乃至16のうち何れか1項に記載の画像処理装置の制御方法をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。   A computer-readable storage medium storing a program for causing a computer to execute the control method for an image processing apparatus according to claim 10.
JP2018122195A 2018-06-27 2018-06-27 IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM Active JP7110007B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018122195A JP7110007B2 (en) 2018-06-27 2018-06-27 IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018122195A JP7110007B2 (en) 2018-06-27 2018-06-27 IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM

Publications (2)

Publication Number Publication Date
JP2020005097A true JP2020005097A (en) 2020-01-09
JP7110007B2 JP7110007B2 (en) 2022-08-01

Family

ID=69100605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018122195A Active JP7110007B2 (en) 2018-06-27 2018-06-27 IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM

Country Status (1)

Country Link
JP (1) JP7110007B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157149A (en) * 2004-11-25 2006-06-15 Sony Corp Imaging apparatus and imaging method
JP2007049372A (en) * 2005-08-09 2007-02-22 Sanyo Electric Co Ltd Signal output controller and signal output control method

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006157149A (en) * 2004-11-25 2006-06-15 Sony Corp Imaging apparatus and imaging method
JP2007049372A (en) * 2005-08-09 2007-02-22 Sanyo Electric Co Ltd Signal output controller and signal output control method

Also Published As

Publication number Publication date
JP7110007B2 (en) 2022-08-01

Similar Documents

Publication Publication Date Title
JP5195818B2 (en) Display control device
US20220053126A1 (en) Photographing apparatus, unmanned aerial vehicle, control terminal and method for photographing
JP2016025515A (en) Imaging apparatus, imaging display device, and control method thereof
JP4004346B2 (en) Imaging apparatus and distortion correction method
JP5325655B2 (en) Imaging device
JP2015053644A (en) Imaging device
US7012638B1 (en) Electronic still camera having a charge storage element
JP2009049777A (en) Imaging apparatus and its computer program
JP2017219872A (en) Imaging display device and control method for imaging display device
JP2012120152A (en) Imaging apparatus and control method of the same
JP2018148512A (en) Imaging device, control method of imaging device, and program
US10070064B2 (en) Display control device including display control section that causes display data to be displayed in first and second regions og display, and controlling method of image capturing sensor and display
US8054345B2 (en) Electronic zooming apparatus and digital camera
JP6021594B2 (en) Imaging apparatus and program
US10015362B2 (en) Image capturing apparatus for resizing raw image data and control method thereof
US11356603B2 (en) Image capturing apparatus and control method therefor
JP7110007B2 (en) IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM
JP6728010B2 (en) Imaging device and method for controlling imaging device
JP5718029B2 (en) Imaging device
US11368624B2 (en) Image capturing apparatus and control method thereof
JP2014099714A (en) Image processing apparatus, imaging device, image processing method, and program
JP5582229B2 (en) Camera, display device and image processing device
JP6481701B2 (en) Imaging display device, control method, control device, display device, and imaging device
JP2021019313A (en) Imaging apparatus, control method of the same and program
JP7545238B2 (en) Imaging device and control method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210513

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220720

R151 Written notification of patent or utility model registration

Ref document number: 7110007

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151