JP2020005097A - Image processing apparatus, imaging apparatus, control method for image processing apparatus, program, and storage medium - Google Patents
Image processing apparatus, imaging apparatus, control method for image processing apparatus, program, and storage medium Download PDFInfo
- Publication number
- JP2020005097A JP2020005097A JP2018122195A JP2018122195A JP2020005097A JP 2020005097 A JP2020005097 A JP 2020005097A JP 2018122195 A JP2018122195 A JP 2018122195A JP 2018122195 A JP2018122195 A JP 2018122195A JP 2020005097 A JP2020005097 A JP 2020005097A
- Authority
- JP
- Japan
- Prior art keywords
- data
- memory
- imaging
- period
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Indication In Cameras, And Counting Of Exposures (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、撮像素子が撮像した撮像データの表示および記録を行う画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記憶媒体に関する。 The present invention relates to an image processing apparatus, an imaging apparatus, a control method of an image processing apparatus, a program, and a storage medium for displaying and recording image data captured by an image sensor.
近年のデジタルカメラ等の撮像装置は、画素数の増加や静止画の連写コマ速度の高速化、動画フレームレートの向上が著しく、単位時間あたりのデータの処理量は増加している。デジタルカメラ等の撮像装置の内部の画像処理装置は、撮像素子が撮像したデータをDRAM等のメモリに書き込む処理(キャプチャ)を行う。そして、画像処理装置は、メモリに書き込まれたデータを読み出して画像処理を行い、画像処理した画像をメディア等に記録するとともに、現時点でメモリに記憶している画像を、撮像装置の背面液晶ディスプレイに表示する。また、近年のミラーレスカメラ等においては、光学ビューファインダーに代わって、撮像装置は、現時点でメモリに記憶しているデータを電子ビューファインダーで表示している。 2. Description of the Related Art In recent years, imaging devices such as digital cameras have remarkably increased the number of pixels, increased the continuous shooting frame speed of still images, and improved the moving image frame rate, and the data processing amount per unit time has increased. An image processing device inside an imaging device such as a digital camera performs a process (capture) of writing data captured by an imaging device to a memory such as a DRAM. The image processing apparatus reads the data written in the memory, performs image processing, records the image processed image on a medium or the like, and displays the image currently stored in the memory on the rear liquid crystal display of the imaging apparatus. To display. In recent mirrorless cameras and the like, instead of the optical viewfinder, the imaging device displays the data currently stored in the memory at the electronic viewfinder.
例えば、静止画の連写コマ速度が高速になると、撮像素子が撮像データを出力する出力速度は高速になる。撮像データの出力速度が高速になると、上述したキャプチャ時における単位時間あたりのデータの処理量は多くなり、DRAMへのアクセス可能なデータ量(以下、伝送帯域)が、限界に近づく。DRAMの伝送帯域が限界に近づくと、DRAMにキャプチャされたデータを同時に読み出することができなくなり、表示出力ができなくなる。キャプチャされたデータが表示出力できなくなると、ディスプレイ表示がブラックアウトすることがあり、直近のキャプチャ画像の表示が継続表示されることもある。このため、撮影時において、撮影者がフレーミングし続けることに支障をきたしていた。以上のような問題に対し、特許文献1の技術が提案されている。この技術における画像処理装置は、複数フィールドの画像データに対して縮小処理を施して、表示処理用のデータを静止画記録中に生成している。
For example, when the continuous shooting frame speed of a still image becomes higher, the output speed at which the image sensor outputs image data becomes higher. When the output speed of the imaging data increases, the amount of data processing per unit time during the above-described capture increases, and the amount of data accessible to the DRAM (hereinafter, transmission band) approaches the limit. When the transmission band of the DRAM approaches the limit, data captured in the DRAM cannot be read at the same time, and display output cannot be performed. When the captured data cannot be displayed and output, the display may be blacked out, and the display of the latest captured image may be continuously displayed. For this reason, at the time of photographing, it has hindered the photographer from continuing to frame. To solve the above problems, a technique disclosed in
特許文献1の技術では、撮像手段が出力した画像データをキャプチャすることなく、縮小処理を行い、表示用の画像データを静止画記録中に生成することが可能な構成(オンザフライ処理が可能な構成)となっている。しかしながら、例えば、撮像手段が高速に画像データを出力する場合、縮小処理回路は、撮像手段が出力した撮像データを高速に縮小処理する必要がある。縮小処理回路による処理速度が、撮像手段が撮像データを出力する速度に間に合わない場合、画像データの表示および記録に遅延を生じることになる。
In the technique of
本発明の目的は、撮像素子が撮像した画像データに基づく表示と記録との遅延を抑制する画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記憶媒体を提供することにある。 An object of the present invention is to provide an image processing device, an imaging device, a control method of the image processing device, a program, and a storage medium that suppress a delay between display and recording based on image data captured by an image sensor.
上記目的を達成するために、本発明の画像処理装置は、撮像素子から取得した撮像データを、ビット深度に応じて第1データと第2データとに分割する分割手段と、前記第1データを記憶する第1メモリから読み出した前記第1データを、表示部に画像を表示させる表示制御手段に出力し、前記第1メモリから読み出した前記第1データと前記第2データを記憶する第2メモリから読み出した前記第2データとを結合したデータを記録媒体に記録させる記録制御手段に出力する出力手段と、を備えることを特徴とする。 In order to achieve the above object, an image processing apparatus according to the present invention includes: a dividing unit that divides image data acquired from an image sensor into first data and second data in accordance with a bit depth; A second memory for outputting the first data read from the first memory to be stored to display control means for displaying an image on a display unit, and storing the first data and the second data read from the first memory; And output means for outputting to the recording control means for recording on the recording medium data obtained by combining the second data read from the second data.
本発明によれば、撮像した画像データに基づく表示と記録との遅延を抑制することができる。 According to the present invention, it is possible to suppress a delay between display and recording based on captured image data.
以下、本発明の各実施の形態について図面を参照しながら詳細に説明する。しかしながら、以下の各実施の形態に記載されている構成はあくまで例示に過ぎず、本発明の範囲は各実施の形態に記載されている構成によって限定されることはない。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. However, the configurations described in the following embodiments are merely examples, and the scope of the present invention is not limited by the configurations described in the embodiments.
<第1実施形態>
図1は、各実施形態に係る撮像装置(撮像装置200)の一例としてのデジタルカメラ10の斜視図である。デジタルカメラ10には、背面側にLCD等の背面液晶ディスプレイ12が設けられている。背面液晶ディスプレイ12は、以下の表示デバイス210である。本実施形態の撮像装置は、デジタルカメラには限定されない。図2は、本実施形態に係る撮像装置200の構成を示すブロック図である。撮像装置200は、撮像素子201、撮像制御部204、バス205、DRAM206−1〜206−N、記録制御部207、記録メディア208、表示制御部209、表示デバイス210、CPU211および操作ボタン212を有する。
<First embodiment>
FIG. 1 is a perspective view of a
撮像素子201は、COMSセンサ等の撮像素子である。撮像制御部204は、撮像素子201が出力した撮像データに対して、センサ起因による画像劣化の補正処理や欠陥画素補正等を行い、所定のフォーマットに変換した画像データを生成する画像処理装置である。撮像制御部204は、生成した画像データをバス205に出力する。撮像制御部204は、CPU211の指示に従い、撮像データの露光から読み出しの同期を制御する撮像制御信号を生成し、撮像制御信号伝送路202を介して、撮像素子201に出力する。撮像素子201は、撮像した撮像データを、撮像伝送路203を介して、撮像制御部204に対して出力する。複数のDRAM206−1〜206−N(Nは2以上の整数)は、バス205を介して、各種データを格納または保持するメモリである。以下、DRAM206−1〜206−Nを、DRAM206と総称することがある。例えば、CPU211や撮像制御部204は、DRAM206に格納されたデータをリードし、DRAM206にデータをライトする。
The
記録制御部207は、撮像制御部204が出力したデータに対して、YUV等の画像データに現像する処理や、光学系の補正処理を行い、記録メディア208に応じた記録フォーマットのデータ(記録データ)を生成する記録制御手段である。記録制御部207は、例えば、撮像制御部204から出力された画像データに対して所定の圧縮処理(JPEG圧縮等)を行い、記録メディア208に記録する制御を行う。記録メディア208は、記録制御部207が出力した記録データを最終的に格納する記録媒体であり、例えば、SDカード等が適用される。
The
表示制御部209は、撮像制御部204が出力したデータを、表示デバイス210に応じたフォーマットに現像する処理や、表示デバイス210の出力サイズに合わせるためのリサイズ処理を行う。表示デバイス210は、表示制御部209が出力したデータを、一定の同期タイミングで表示する表示部であり、例えば、上述した背面液晶ディスプレイ12が適用される。CPU211は、撮像制御部204、各DRAM206、記録制御部207および表示制御部209に対して、制御指示を出力する。また、CPU211は、操作ボタン212が押下されたことを検出する。操作ボタン212は、撮像装置200の撮影ボタンである。
The
図3は、撮像制御部204を含む撮像装置200の一部を示す図である。図3において、撮像制御部204の内部の一部のサブブロック、および当該サブブロックと周辺の各部との関係が示されている。撮像制御部204は、分割部220および出力部221を有する。分割部220は、撮像伝送路203から取得した撮像データを分割する分割手段である。図4は、分割部220が、撮像データを分割する方式の一例を示す図である。図4の例では、撮像素子201から取得した撮像データの中の各画素データのビット深度は12ビットである。各画素データのビット深度は、12ビット以外のビット深度であってもよい。分割部220は、12ビットの画素データを、上位8ビットと下位4ビットとに分割する。分割部220が分割するビット数は、8ビットおよび4ビットには限定されない。分割された上位8ビットのデータ(上位ビットデータ)と下位4ビットのデータ(下位ビットデータ)とは、それぞれ異なるDRAM206に格納される。図3に示されるように、分割部220は、分割した上位ビットデータを、データ経路101−1を介して、バス205に出力する。バス205に出力された上位8ビットのデータは、データ経路101−2を介して、DRAM206−1に格納される。また、分割部220は、分割した下位ビットデータを、データ経路102−1を介して、バス205に出力する。バス205に出力された下位ビットデータは、データ経路102−2を介して、DRAM206−2に格納される。
FIG. 3 is a diagram illustrating a part of the
DRAM206−1は、例えば、32ビットのデータ幅を採用した高帯域対応の第1のメモリである。DRAM206−1に、ビット数が多い上位8ビットのデータ(高帯域のビットデータ)が格納される。DRAM206−2は、例えば、16ビットのデータ幅を採用した低帯域対応の第2のメモリである。DRAM206−2に、ビット数が少ない下位4ビットのデータ(低帯域のビットデータ)が格納される。DRAM206−1は、DRAM206−2よりも伝送帯域が広い。従って、分割部220は、各画素データのビット深度に応じて、ビット数の多い上位ビットデータである第1のデータと、上位ビットデータよりビット数が少ない下位ビットデータである第2のデータとに分割する。分割部220は、第1のデータ(上位ビットデータ)を、高帯域のDRAM206−1に格納し、第2のデータ(下位ビットデータ)を、低帯域のDRAM206−2に格納する。
The DRAM 206-1 is, for example, a high-bandwidth first memory that employs a 32-bit data width. The higher-order 8 bits of data having a larger number of bits (high-bandwidth bit data) are stored in the DRAM 206-1. The DRAM 206-2 is, for example, a low-bandwidth second memory that employs a data width of 16 bits. The lower 4-bit data (low-band bit data) having a small number of bits is stored in the DRAM 206-2. The DRAM 206-1 has a wider transmission band than the DRAM 206-2. Therefore, according to the bit depth of each pixel data, the dividing
DRAM206−1から読み出されたデータは、データ経路101−3、バス205およびデータ経路101−4を介して、出力部221に入力される。DRAM206−2から読み出されたデータは、データ経路102−3、バス205およびデータ経路102−4を介して、出力部221に入力される。出力部221は、入力されたデータに対して補正処理等を施し、補正処理後のデータを、データ経路105を介してバス205に出力する。図3のデータ経路101−1および102−1は、異なるデータ経路として示したが、例えば、時分割によるデータ伝送の場合は、データ経路101−1および102−1は、1つのデータ経路であってもよい。データ経路101−2および102−2も同様であり、データ経路101−3および102−3も同様である。
The data read from the DRAM 206-1 is input to the
次に、図5のフローチャート、図6および図7のタイミングチャートを用いて、本実施例の処理の流れについて説明する。図6は、撮像素子201の撮像シーケンスを示すタイミングチャートである。図7は、表示データと記録データの制御タイミングを示すタイミングチャートである。撮像制御部204は、連写待機時のライブビューモード(LVモード)で撮像素子201を駆動する(ステップS401)。図6のタイミングチャートでは、LVモードの期間は、T1の期間に相当する。図6のタイミングチャートに示されるように、撮像ステートがLVモードのときに、同期信号が所定間隔で出力され、表示制御部209は、同期信号に応じて、表示デバイス210に画像データを表示する。
Next, the processing flow of this embodiment will be described with reference to the flowchart of FIG. 5 and the timing charts of FIGS. FIG. 6 is a timing chart illustrating an imaging sequence of the
CPU211は、撮像装置200(カメラ)の撮影スタートの契機となる操作ボタン212が押下されたか否かを判定する(ステップS402)。ステップS402でNOと判定された場合、撮影スタートの指示がないため、ステップS402が繰り返される。ステップS402でYESと判定された場合、撮像制御部204は、撮像制御信号伝送路202を介して、撮像素子201を一旦IDLEモードに遷移させ、静止画撮影モードに遷移させる(ステップS403)。図6のタイミングチャートでは、T1とT2の間の期間がIDLEモードの期間である。CPU211は、IDLEモードの期間の間に、静止画の記録および表示の設定を行う(ステップS404)。そして、撮像制御部204は、撮像制御信号伝送路202を介して、撮像素子201に静止画駆動の同期信号を出力し、撮像素子201を静止画駆動モード(静止画連写モード)に遷移させる(ステップS405)。ステップS405により、静止画駆動での撮像データが、撮像伝送路203を介して、撮像制御部204に入力される。ステップS405以降の動作シーケンスを、図7のタイミングチャートを参照して、説明する。期間T601は、1フレーム期間(所定の周期)における撮像素子201からの撮像データの出力期間を示している。ハッチングが施された期間以外の期間は、Vブランキング期間であり、次のフレームまでの待機時間である。Vブランキング期間では、撮像素子201からの撮像データの入力はない。
The
期間T602は、分割部220が、撮像素子201が出力した撮像データの各画素データ(12ビット)を分割して生成される上位ビットデータが、高帯域のメモリであるDRAM206−1に格納されるまでの期間を示す。期間T603は、分割部220が、撮像素子201が出力した撮像データの各画素データ(12ビット)を分割して生成される下位ビットデータが、低帯域のメモリであるDRAM206−2に格納されるまでの期間を示す。出力部221は、期間T604において、高帯域のメモリであるDRAM206−1に格納されている上位ビットデータの読み出しを開始する。この際、出力部221は、DRAM206−1に格納されている上位ビットデータを追い越さないように、十分なマージンのオフセット時間経過後、データ経路101−3を介して、読み出しを開始する。
During the period T602, the higher-order bit data generated by the
図7の例では、DRAM206−1および206−2へのデータ格納である書き込み時間に対して、読み出し時間が長くなっている。書き込み時間に対して、読み出し時間が長くなっている理由は、撮像素子201からの撮像データの入力スピードと同等のスピードで、表示や記録を行う必要がないためである。例えば、電子シャッター時の場合、撮像素子201からの撮像データの入力は、ローリングシャッター歪みの軽減処理等が行われることがある。従って、書き込み時間に対して、読み出し時間が長くなっている。
In the example of FIG. 7, the read time is longer than the write time for storing data in the DRAMs 206-1 and 206-2. The reason why the read time is longer than the write time is that there is no need to perform display or recording at a speed equivalent to the speed of inputting image data from the
出力部221は、期間T605において、期間T604で読み出されたデータ(DRAM206−1から読み出されたデータ)に、センサ補正等を実施した後、当該データをデータ経路105からバス205に出力する。バス205に出力されたデータは、DRAM206に格納されるとともに、表示制御部209に入力される。表示制御部209は、表示デバイス210に表示するための所定の処理を表示データに施し、当該表示データを、表示デバイス210に出力する。
The
このとき、表示デバイス210に表示される画像は、撮像素子201から入力された撮像データの1画素のビット深度である12ビットに対して8ビット相当であるが、連写中の構図確認用のフレーミング画像の画質としては十分のビット深度である。CPU211は、表示デバイス210に対する表示データ出力が完了したかを判定する(ステップS406)。表示データ出力が完了したかは、表示制御部209が、CPU211に対して、表示データ出力が完了したことを示す割込みを発生することにより、検知されてもよい。ステップS406の判定でNOの場合、表示データ出力が完了していないため、ステップS406が繰り返される。ステップS406の判定でYESの場合、表示データ出力が完了している。この場合、CPU211は、DRAM206−1から読み出すデータ(記録データ)とDRAM206−2から読み出すデータ(記録データ)とを結合させる設定を行う(ステップS407)。
At this time, the image displayed on the
上記の設定に基づいて、期間T606で、出力部221は、DRAM206−1に既に格納されている上位ビットデータを、データ経路101−3を介して、読み出す。同様に、期間T607で、出力部221は、DRAM206−2に既に格納された下位ビットデータを、データ経路102−3を介して、読み出す。データ経路101−3からのデータは、バス205およびデータ経路101−4を介して、出力部221に入力される。データ経路102−3からのデータは、バス205およびデータ経路102−4を介して、出力部221に入力される。出力部221は、期間T608において、DRAM206−1から入力した上位ビットデータとDRAM206−2から入力した下位ビットデータとを結合して、12ビットのデータ(結合データ)を生成する。
Based on the above setting, in the period T606, the
従って、図7に示されるように、出力部221は、期間T604において上位ビットデータを読み出して、表示制御部209に出力した後に、期間T606および期間T607において、結合したデータを記録制御部207に出力する。これにより、表示デバイス210に画像データ(上位ビットデータにより構成される画像データ)を表示し、記録メディア208に画像データ(結合データにより構成される画像データ)を記録することができる。出力部221は、期間T604および期間T606において、DRAM206−1から上位ビットデータを読み出しているため、1フレーム期間の間における上位ビットデータの読み出し回数は2回である。一方、出力部221は、期間T607において、DRAM−2から下位ビットデータを読み出しているため、1フレーム期間の間における上位ビットの読み出し回数は1回であり、上位ビットデータの読み出し回数より少ない。上位ビットデータは、表示および記録の両方に使用される。下位ビットデータは、表示には使用されず、記録に使用される。従って、1フレーム期間の間における下位ビットデータの読み出し回数は、上位ビットの読み出し回数より少なくなっている。例えば、上位ビットデータが他の用途に用いられる場合、1フレーム期間の間に、上位ビットデータが3回以上の所定回数読み出されてもよい。
Accordingly, as shown in FIG. 7, the
出力部221は、生成した12ビットのデータに対して、表示時の処理と同様に、補正処理等を実施した後、データ経路105に出力する。バス205に出力されたデータ(記録データ)は、DRAM206に格納されるとともに、記録制御部207に出力される。記録制御部207は、記録データに対して、記録メディア208に応じた処理を施し、記録メディア208に出力する。これにより、12ビットの画素データにより構成される画像データが生成される。
The
CPU211は、記録データの出力が完了したか、つまり記録データの記録メディア208への書き込みが完了したかを判定する(ステップS408)。記録制御部207は、記録データの記録メディア208への書き込み状況を検知しており、書き込み完了を検知すると、CPU211に割込みを発生させる。これにより、CPU211は、ステップS408の判定を行うことができる。ステップS408の判定でNOの場合、記録データの書き込みが完了していないため、ステップS408が繰り返される。ステップS408の判定でYESの場合、記録データの書き込みが完了している。この場合、CPU211は、次の撮影コマの記録を実施するかの判定(連写終了であるかの判定)を行う(ステップS409)。連写終了でない場合、ステップS409の判定はNOとなる。この場合、フローはステップS404に移行する。連写終了である場合、ステップS409の判定はYESとなる。この場合、フローはステップS401に移行し、撮像ステートは、再びLVモード(待機中)に遷移する。図7のタイミングチャートでは、T3の期間に相当する。
The
以上説明したように、本実施形態では、分割部220は、撮像素子201から入力した撮像データの中の画素データのビット深度に応じて、上位ビットと下位ビットとに分割する。ビット数が多い上位ビットデータは、伝送帯域が広い高帯域のDRAM206−1に格納され、ビット数が少ない下位ビットデータは、DRAM206−1よりも伝送帯域が狭い低帯域のDRAM206−2に格納される。そして、出力部221は、高帯域のDRAM206−1に格納されている上位ビットデータを読み出して、表示制御部209に出力する。これにより、表示デバイス210には、上位ビットデータにより構成される画像データが表示される。一方、出力部221は、高帯域のDRAM206−1に格納されている上位ビットデータと低帯域のDRAM206−2に格納されている下位ビットデータとを読み出して、結合する。結合されたデータは、記録制御部207に出力されて、記録制御部207が、結合されたデータを記録メディア208に記録する。
As described above, in the present embodiment, the dividing
表示デバイス210に表示される画像データの各画素データのビット深度は、撮像素子201から入力した撮像データのビットデータを分割した一部のビットデータある。従って、表示デバイス210に表示される画像データの各画素データのビット深度は、記録メディア208に記録される画像データの各画素データのビット深度よりも低い。このため、表示デバイス210に表示される画像データの画質は、記録メディア208に記録される画像データの画質よりも低くなる。しかしながら、連写中の構図確認用のフレーミング画像には、記録メディア208に記録される画像データの画質ほど、高い画質が要求されることはない。このため、分割された一部のビットデータにより構成される画像データであっても、連写中の構図確認用のフレーミング画像としては十分である。
The bit depth of each pixel data of the image data displayed on the
そして、出力部221は、高帯域のDRAM206−1に格納された上位ビットデータを読み出して、表示制御部209に出力し、表示制御部209は、上位ビットデータにより構成される画像データを表示デバイス210に表示する。撮像素子201から入力した撮像データの画素データの全てのビットではなく、分割された一部の上位ビットデータにより構成される画像データが表示デバイス210に表示される。表示デバイス210に表示される画像データは、上位ビットデータにより構成される画像データである。従って、表示のために読み出される画像データ(上位ビットデータにより構成される画像データ)のデータ量は、上位ビットデータと下位ビットデータとを結合した結合データのデータ量より小さい。このため、画像データの表示と記録とが行われる際に、データ量が大きい結合データが複数回読み出されることがなくなる。従って、撮像素子201が画素数の多い撮像データを高速に出力した場合でも、画像データの表示の高速化を図ることができる。特に、出力部221は、伝送帯域が広い高帯域のDRAM206−1に上位ビットデータを格納し、表示を行う際には、当該DRAM206−1から上位ビットデータを読み出しているため、画像データの表示のさらなる高速化を実現できる。
Then, the
出力部221は、上記の表示制御の後、高帯域のDRAM206−1に格納された上位ビットデータおよび低帯域のDRAM206−2に格納された下位ビットデータを読み出して結合し、結合されたデータを記録制御部207に出力している。上記の表示制御の高速化が図れるため、出力部221が、上位ビットデータおよび下位ビットデータの読み出しを開始するタイミングも早くなる。このため、記録メディア208へのデータの書き込み完了タイミングも早くなる。従って、撮像した画像データに基づく表示と記録との遅延を抑制することができる。
After the display control described above, the
ここで、撮像素子201が出力した撮像データに対して、撮像制御部204が所定の処理を施した画像データを生成し、撮像制御部204が、DRAM206に画像データを格納することなく、表示制御部209に出力することが考えられる。この場合、オンザフライで画像データの表示処理が行われる。この場合において、撮像素子201が高速に撮像データを出力すると、オンザフライで画像データを表示処理する回路の動作速度が低速であると、画像データに基づく表示および記録の遅延が大きくなる。一方、オンザフライで画像データを表示処理する速度が高速な回路を用いることにより、上記の遅延を低減できるが、オンザフライで画像データを表示処理する回路は高速に動作する必要がある。これにより、上記回路に高度なハードウェアを適用する必要があり、ハードウェアコストが増大する。第1実施形態では、画像データをオンザフライで処理していないため、ハードウェアコストを低減しつつ、撮像した画像データに基づく表示と記録との遅延を抑制することができる。
Here, the
第1実施形態では、第1のメモリおよび第2のメモリとして、DRAMを用いた例を説明したが、第1のメモリおよび第2のメモリとしては、SRAM(スタティックRAM)や、その他の記録媒体が適用されてもよい。また、DRAM206−1に高帯域のDRAMが適用され、DRAM206−2に低帯域のDRAMが適用された例を説明したが、DRAM206−1およびDRAM206−2の伝送帯域は同じであってもよい。ただし、分割部220が分割した上位ビットデータが、高帯域のDRAM206−1に格納されることで、表示制御の高速化をより図ることができる。このため、分割部220が分割した上位ビットデータは、高帯域のDRAM206−1に格納され、下位ビットデータは、低帯域のDRAM206−2に格納されることが好ましい。
In the first embodiment, an example in which a DRAM is used as the first memory and the second memory has been described. However, as the first memory and the second memory, an SRAM (static RAM) or another recording medium may be used. May be applied. Also, an example in which a high-bandwidth DRAM is applied to the DRAM 206-1 and a low-bandwidth DRAM is applied to the DRAM 206-2 has been described, but the transmission bands of the DRAM 206-1 and the DRAM 206-2 may be the same. However, the higher-order bit data divided by the dividing
<第2実施形態>
次に、第2実施形態について説明する。図1〜図4は、第1実施形態と同様であるため、説明を省略する。図8は、1フレーム期間の間に、記録データの読み出しおよび記録メディア208への書き込みが完了しない場合のタイミングチャートである。第2実施形態でも、第1実施形態と同様の制御を行っている。しかし、撮像素子201が出力した撮像データの画素数が多い場合や、撮像データの出力速度が高速である場合等においては、記録データの読み出しおよび記録メディア208への書き込みが1フレーム期間の間に完了しない可能性がある。
<Second embodiment>
Next, a second embodiment will be described. 1 to 4 are the same as those in the first embodiment, and a description thereof will be omitted. FIG. 8 is a timing chart in a case where reading of recording data and writing to the recording medium 208 are not completed during one frame period. In the second embodiment, the same control as in the first embodiment is performed. However, when the number of pixels of the image data output from the
期間T706の上位8ビットのデータの読み出し、および期間T707の下位4ビットのデータの読み出しが、1フレーム期間の間に完了しないと、期間T706および期間T707が、次のフレーム期間に掛かる。この場合、出力部221は、次のフレームの上位ビットデータを、DRAM206−1から読み出すことができない。このため、表示制御部209は、表示の読み出しができないフレームについては、前のフレームを表示デバイス210に表示する制御、またはブラックアウト制御を行う。これにより、期間T704およびT705において、表示デバイス210に画像を表示することができなくなる。
If the reading of the upper 8 bits of data in the period T706 and the reading of the lower 4 bits of the data in the period T707 are not completed during one frame period, the periods T706 and T707 start in the next frame period. In this case, the
図9は、第2実施形態を適用した場合における表示データと記録データの制御タイミングを示すタイミングチャートである。第2実施形態では、出力部221が、1フレーム期間の間(所定周期以下の間)に、記録データの読み出しおよび記録メディア208への書き込みを完了させる。このため、分割部220は、期間T802および期間T803において、期間T801で撮像素子201から入力した撮像データの一部を削除(読み出し対象から削除)するクロップ処理を行う。この場合、分割部220は、許容範囲内で撮像データの上下左右画像をカットするクロップ処理を行う。図10は、クロップ処理された画像データ(撮像素子201の全画角の撮像データによる画像データ)の例を示す。上記許容範囲は、出力部221が、上位ビットデータを表示制御部209に出力する期間T805と、上位ビットデータと下位ビットデータとを結合して記録制御部207に出力する期間T808との和が1フレーム期間の間に収まる範囲である。これにより、撮像データの画角は狭くなるが、キャプチャするデータのデータ量は少なくなる。従って、データ量が削減された上位ビットデータがDRAM1206−1に格納され、同じくデータ量が削減された下位ビットデータがDRAM206−2に格納される。
FIG. 9 is a timing chart showing the control timing of the display data and the recording data when the second embodiment is applied. In the second embodiment, the
なお、データの削減は、撮像データを上位ビットデータと下位ビットデータとに分割したのちに、期間T805と期間T808との和が1フレーム期間に収まるように、それぞれのデータを削減する処理を実行してもよい。 The data reduction is performed by dividing the imaging data into high-order bit data and low-order bit data, and then executing a process of reducing each data so that the sum of the period T805 and the period T808 falls within one frame period. May be.
撮像データのデータ量が削減されて少なくなることで、その後の表示データを出力する時間および記録データを出力する時間を削減でき、記録データの読み出しおよび記録メディア208への書き込みを、1フレーム期間に収めることが可能となる。これにより、次のフレームの表示に支障をきたすことがなくなる。以上において、分割部220がクロップ処理を行っていたが、撮像素子201が、撮像データの一部を削除して、撮像データのデータサイズを調整し、調整された撮像データを、分割部220に出力してもよい。撮像素子201は、上位ビットデータを表示制御部209に出力する期間T805と、上位ビットデータと下位ビットデータとを結合して記録制御部207に出力する期間T808との和が1フレーム期間の間に収まる範囲にデータサイズを調整する。
By reducing the data amount of the imaging data, the time for outputting the display data and the time for outputting the recording data can be reduced, and the reading of the recording data and the writing to the recording medium 208 can be performed in one frame period. It is possible to fit. Thus, the display of the next frame is not hindered. In the above description, the
以上、本発明の好ましい実施の形態について説明したが、本発明は上述した各実施の形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。本発明は、上述の各実施の形態の1以上の機能を実現するプログラムを、ネットワークや記憶媒体を介してシステムや装置に供給し、そのシステム又は装置のコンピュータの1つ以上のプロセッサがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。 Although the preferred embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments, and various modifications and changes can be made within the scope of the gist. The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or an apparatus via a network or a storage medium, and one or more processors of a computer of the system or the apparatus execute the program. The processing can be implemented by reading and executing. Further, the present invention can also be realized by a circuit (for example, an ASIC) that realizes one or more functions.
200 撮像装置
201 撮像素子
204 撮像制御部
206 DRAM
207 記録制御部
208 記録メディア
209 表示制御部
210 表示デバイス
211 CPU
220 分割部
221 出力部
200
207 Recording control unit 208 Recording medium 209
220
Claims (18)
前記第1データを記憶する第1メモリから読み出した前記第1データを、表示部に画像を表示させる表示制御手段に出力し、前記第1メモリから読み出した前記第1データと前記第2データを記憶する第2メモリから読み出した前記第2データとを結合したデータを記録媒体に記録させる記録制御手段に出力する出力手段と、
を備えることを特徴とする画像処理装置。 Division means for dividing imaging data acquired from the imaging device into first data and second data according to a bit depth;
The first data read from the first memory storing the first data is output to display control means for displaying an image on a display unit, and the first data and the second data read from the first memory are output. Output means for outputting data obtained by combining the second data read from the second memory to be stored to a recording control means for recording the data on a recording medium;
An image processing apparatus comprising:
前記第1データは、前記撮像データの上位ビットに対応するデータであり、前記第2データは、前記撮像データの下位ビットに対応するデータであることを特徴とする請求項1に記載の画像処理装置。 The first memory has a larger transmission band than the second memory,
2. The image processing apparatus according to claim 1, wherein the first data is data corresponding to an upper bit of the imaging data, and the second data is data corresponding to a lower bit of the imaging data. 3. apparatus.
前記出力手段は、前記所定の周期において、前記第1データを2以上の所定回数で読み出し、前記第2データを前記所定回数よりも少ない回数読み出すことを特徴とする請求項1乃至3のうち何れか1項に記載の画像処理装置。 The dividing means acquires imaging data from the imaging device at predetermined intervals,
4. The apparatus according to claim 1, wherein the output unit reads the first data at a predetermined number of times of two or more in the predetermined period, and reads the second data a number of times smaller than the predetermined number. The image processing apparatus according to claim 1.
前記出力手段が前記第1メモリから読み出した前記第1データを表示部に画像を表示させる表示制御手段に出力する期間と、前記出力手段が前記第1メモリから読み出した前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータを前記記録制御手段に出力する期間との和が前記所定の周期以下になるように、前記分割手段は、前記第1データおよび前記第2データの一部を記憶対象から削除することを特徴とする請求項4に記載の画像処理装置。 The dividing means stores the first data in the first memory, and stores the second data in the second memory;
A period during which the output unit outputs the first data read from the first memory to a display control unit that displays an image on a display unit, a period during which the output unit reads the first data from the first memory, and 2. The dividing means is configured to set the first data and the second data so that the sum of a period in which data obtained by combining the second data read from the memory and the period in which the data is output to the recording control unit is equal to or shorter than the predetermined period. 5. The image processing apparatus according to claim 4, wherein a part of the data is deleted from a storage target.
ことを特徴とする請求項1乃至4のうち何れか1項に記載の画像処理装置。 After the display of the image on the display unit by the display control unit is completed, the recording control unit performs control to start recording the combined data on the recording medium,
The image processing apparatus according to claim 1, wherein:
前記撮像素子と、
前記表示制御手段と、
前記表示部と、
前記記録制御手段と、
を備える撮像装置。 An image processing apparatus according to any one of claims 1 to 7,
The imaging device;
The display control means,
The display unit;
The recording control means,
An imaging device comprising:
撮像素子から取得した撮像データを、ビット深度に応じて第1データと第2データとに分割する工程と、
前記第1データを記憶する第1メモリから読み出した前記第1データを、表示部に画像を表示させる表示制御手段に出力し、前記第1メモリから読み出した前記第1データと前記第2データを記憶する第2メモリから読み出した前記第2データとを結合したデータを記録媒体に記録させる記録制御手段に出力する工程と、
を有することを特徴とする画像処理装置の制御方法。 A method for controlling an image processing apparatus, comprising:
Dividing imaging data acquired from the imaging device into first data and second data according to a bit depth;
The first data read from the first memory storing the first data is output to display control means for displaying an image on a display unit, and the first data and the second data read from the first memory are output. Outputting data obtained by combining the second data read from the second memory to be stored to recording control means for recording the data on a recording medium;
A method for controlling an image processing apparatus, comprising:
前記第1データは、前記撮像データの上位ビットに対応するデータであり、前記第2データは、前記撮像データの下位ビットに対応するデータであることを特徴とする請求項10に記載の画像処理装置の制御方法。 The first memory has a larger transmission band than the second memory,
The image processing apparatus according to claim 10, wherein the first data is data corresponding to upper bits of the imaging data, and the second data is data corresponding to lower bits of the imaging data. How to control the device.
前記所定の周期において、前記第1データを2以上の所定回数で読み出し、前記第2データを前記所定回数よりも少ない回数読み出すことを特徴とする請求項10乃至12のうち何れか1項に記載の画像処理装置の制御方法。 Acquiring imaging data from the imaging device at predetermined intervals,
13. The method according to claim 10, wherein in the predetermined cycle, the first data is read out at a predetermined number of times equal to or more than two, and the second data is read out less than the predetermined number of times. The method for controlling an image processing apparatus according to the present invention.
前記第1メモリから読み出した前記第1データを表示部に画像を表示させる表示制御手段に出力する期間と、前記第1メモリから読み出した前記第1データと前記第2メモリから読み出した前記第2データとを結合したデータを前記記録制御手段に出力する期間との和が前記所定の周期以下になるように、前記第1データおよび前記第2データの一部を記憶対象から削除することを特徴とする請求項13に記載の画像処理装置の制御方法。 Storing the first data in the first memory, and storing the second data in the second memory;
A period in which the first data read from the first memory is output to display control means for displaying an image on a display unit, and a period in which the first data read from the first memory and the second data read from the second memory are read. A part of the first data and the second data is deleted from the storage target so that the sum of a period in which data combined with data is output to the recording control unit is equal to or shorter than the predetermined period. The method for controlling an image processing apparatus according to claim 13, wherein:
ことを特徴とする請求項10乃至13のうち何れか1項に記載の画像処理装置の制御方法。 After the display of the image on the display unit by the display control unit is completed, control is performed to start recording the combined data on the recording medium.
14. The control method for an image processing apparatus according to claim 10, wherein:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018122195A JP7110007B2 (en) | 2018-06-27 | 2018-06-27 | IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018122195A JP7110007B2 (en) | 2018-06-27 | 2018-06-27 | IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020005097A true JP2020005097A (en) | 2020-01-09 |
JP7110007B2 JP7110007B2 (en) | 2022-08-01 |
Family
ID=69100605
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018122195A Active JP7110007B2 (en) | 2018-06-27 | 2018-06-27 | IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7110007B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006157149A (en) * | 2004-11-25 | 2006-06-15 | Sony Corp | Imaging apparatus and imaging method |
JP2007049372A (en) * | 2005-08-09 | 2007-02-22 | Sanyo Electric Co Ltd | Signal output controller and signal output control method |
-
2018
- 2018-06-27 JP JP2018122195A patent/JP7110007B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006157149A (en) * | 2004-11-25 | 2006-06-15 | Sony Corp | Imaging apparatus and imaging method |
JP2007049372A (en) * | 2005-08-09 | 2007-02-22 | Sanyo Electric Co Ltd | Signal output controller and signal output control method |
Also Published As
Publication number | Publication date |
---|---|
JP7110007B2 (en) | 2022-08-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5195818B2 (en) | Display control device | |
US20220053126A1 (en) | Photographing apparatus, unmanned aerial vehicle, control terminal and method for photographing | |
JP2016025515A (en) | Imaging apparatus, imaging display device, and control method thereof | |
JP4004346B2 (en) | Imaging apparatus and distortion correction method | |
JP5325655B2 (en) | Imaging device | |
JP2015053644A (en) | Imaging device | |
US7012638B1 (en) | Electronic still camera having a charge storage element | |
JP2009049777A (en) | Imaging apparatus and its computer program | |
JP2017219872A (en) | Imaging display device and control method for imaging display device | |
JP2012120152A (en) | Imaging apparatus and control method of the same | |
JP2018148512A (en) | Imaging device, control method of imaging device, and program | |
US10070064B2 (en) | Display control device including display control section that causes display data to be displayed in first and second regions og display, and controlling method of image capturing sensor and display | |
US8054345B2 (en) | Electronic zooming apparatus and digital camera | |
JP6021594B2 (en) | Imaging apparatus and program | |
US10015362B2 (en) | Image capturing apparatus for resizing raw image data and control method thereof | |
US11356603B2 (en) | Image capturing apparatus and control method therefor | |
JP7110007B2 (en) | IMAGE PROCESSING DEVICE, IMAGING DEVICE, CONTROL METHOD FOR IMAGE PROCESSING DEVICE, PROGRAM AND STORAGE MEDIUM | |
JP6728010B2 (en) | Imaging device and method for controlling imaging device | |
JP5718029B2 (en) | Imaging device | |
US11368624B2 (en) | Image capturing apparatus and control method thereof | |
JP2014099714A (en) | Image processing apparatus, imaging device, image processing method, and program | |
JP5582229B2 (en) | Camera, display device and image processing device | |
JP6481701B2 (en) | Imaging display device, control method, control device, display device, and imaging device | |
JP2021019313A (en) | Imaging apparatus, control method of the same and program | |
JP7545238B2 (en) | Imaging device and control method thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210513 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220307 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220419 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220607 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220621 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220720 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7110007 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |