JP6091216B2 - Image signal processing apparatus, control method therefor, and imaging apparatus - Google Patents

Image signal processing apparatus, control method therefor, and imaging apparatus Download PDF

Info

Publication number
JP6091216B2
JP6091216B2 JP2013000943A JP2013000943A JP6091216B2 JP 6091216 B2 JP6091216 B2 JP 6091216B2 JP 2013000943 A JP2013000943 A JP 2013000943A JP 2013000943 A JP2013000943 A JP 2013000943A JP 6091216 B2 JP6091216 B2 JP 6091216B2
Authority
JP
Japan
Prior art keywords
signal processing
image signal
image
signal
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013000943A
Other languages
Japanese (ja)
Other versions
JP2014135537A (en
Inventor
田中 康之
康之 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013000943A priority Critical patent/JP6091216B2/en
Publication of JP2014135537A publication Critical patent/JP2014135537A/en
Application granted granted Critical
Publication of JP6091216B2 publication Critical patent/JP6091216B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、入力画像信号を処理して表示装置に表示する場合の表示遅延時間を短縮する技術に関する。   The present invention relates to a technique for reducing a display delay time when an input image signal is processed and displayed on a display device.

デジタルビデオカメラやデジタルカメラ等の撮像装置は、被写体像の確認用に表示装置を備え、液晶や有機EL(エレクトロルミネッセンス)のディスプレイ(パネル)や電子ビューファインダー(EVF)等が使用される。表示画面にはユーザが撮影する被写体像、つまり記録している画像を所定の画質でリアルタイムに表示することができる。近年、記録画像の多画素化や、画質改善処理の多機能化に伴い、信号処理に時間がかかると表示遅延が生じる。表示遅延により、パンニングやチルティング、ズーミング等のカメラ操作時にユーザに違和感を与え、構図やフォーカス状態等の確認が難しくなる場合がある。表示遅延量は撮影フレーム周波数に依存し、フレーム周波数が低い場合に表示遅延量が大きくなる。撮像装置の構成にもよるが、例えば、フレーム周波数24Hz(ヘルツ)の場合は、60Hzの場合よりも表示遅延量が2.5倍大きくなる。   An imaging device such as a digital video camera or a digital camera includes a display device for confirming a subject image, and a liquid crystal display, an organic EL (electroluminescence) display (panel), an electronic viewfinder (EVF), or the like is used. On the display screen, a subject image photographed by the user, that is, a recorded image can be displayed in real time with a predetermined image quality. In recent years, with the increase in the number of pixels of a recorded image and the increase in functionality of image quality improvement processing, display delay occurs when signal processing takes time. Due to the display delay, the user may feel uncomfortable when operating the camera such as panning, tilting, and zooming, and it may be difficult to check the composition, focus state, and the like. The display delay amount depends on the shooting frame frequency, and the display delay amount increases when the frame frequency is low. Although depending on the configuration of the imaging device, for example, when the frame frequency is 24 Hz (Hertz), the display delay amount is 2.5 times larger than when the frame frequency is 60 Hz.

テレビジョン装置においても画質改善処理の多機能化により同様の問題がある。テレビジョン装置にゲーム機器を接続してユーザがゲーム操作を行う場合、テレビジョン装置で画質改善処理を行うと数フレーム時間の表示遅延が生じる。ユーザ操作の遅れが原因でゲーム結果が変わる場合や、ユーザに違和感を与える場合があった。そこで、表示遅延量の低減のために、画質改善処理を簡略化した低遅延用の処理を行う方法や、フレームメモリの記憶処理と読み出し処理を同時に行う制御方法が特許文献1に開示されている。   A television apparatus has the same problem due to the multi-functionality of image quality improvement processing. When a game device is connected to a television apparatus and a user performs a game operation, a display delay of several frame times occurs when image quality improvement processing is performed on the television apparatus. In some cases, the game result may change due to a delay in user operation, or the user may feel uncomfortable. Therefore, in order to reduce the display delay amount, Patent Document 1 discloses a method for performing low-delay processing that simplifies image quality improvement processing, and a control method for performing frame memory storage processing and readout processing simultaneously. .

特許第4691193号公報Japanese Patent No. 4691193

従来の装置では、入力画像信号を処理しつつ、表示用の画像信号を生成して表示部に出力するまでの表示遅延時間を如何にして短縮するかが課題である。従来の技術では撮像装置等への適用において、撮影中の画像を表示装置に表示する場合の表示遅延時間を短縮することが困難である。
本発明は、入力画像信号を処理しつつ、表示用の画像信号を生成して表示部に出力するまでの表示遅延時間を短縮することを目的とする。
A problem with conventional devices is how to reduce the display delay time from the generation of an image signal for display to output to the display unit while processing the input image signal. In the conventional technique, it is difficult to shorten the display delay time when displaying an image being shot on a display device when applied to an imaging device or the like.
It is an object of the present invention to shorten a display delay time until an image signal for display is generated and output to a display unit while an input image signal is processed.

上記課題を解決するために、本発明に係る装置は、第1画像信号を縮小して第2画像信号を生成するサイズ変更処理手段と、前記第1画像信号と前記第2画像信号に対して信号処理を行う信号処理手段と、前記信号処理手段による信号処理が行われた前記第1画像信号を記録メディアに出力する出力手段と、前記信号処理手段による信号処理が行われた前記第2画像信号に対して表示用の信号処理を行う表示用信号処理手段を備える。前記信号処理手段が1フレーム期間を複数の期間に時分割し、1フレーム期間内の異なる期間で前記第1画像信号と前記第2画像信号のそれぞれに対して信号処理を行うことで、前記出力手段が前記第1画像信号を前記記録メディアに出力する前に、前記表示用信号処理手段が前記第1画像信号から生成された前記第2画像信号に対して前記表示用の信号処理を行う。
In order to solve the above problems, the device according to the present invention, the size change processing means for generating a second image signal by reducing the first image signal, to the first image signal and the second image signal Signal processing means for performing signal processing, output means for outputting the first image signal subjected to signal processing by the signal processing means to a recording medium, and the second image subjected to signal processing by the signal processing means comprising a display signal processing hand stage for performing signal processing for display on the signal. The signal processing means time-divides one frame period into a plurality of periods, and performs signal processing on each of the first image signal and the second image signal in different periods within one frame period, so that the output Before the means outputs the first image signal to the recording medium, the display signal processing means performs the display signal processing on the second image signal generated from the first image signal.

本発明によれば、入力画像信号を処理しつつ、表示用の画像信号を生成して表示部に出力するまでの表示遅延時間を短縮することができる。   ADVANTAGE OF THE INVENTION According to this invention, the display delay time until it produces | generates the image signal for a display and it outputs to a display part can be shortened, processing an input image signal.

本発明の実施形態に係る画像信号処理装置の構成例を示す機能ブロック図である。It is a functional block diagram which shows the structural example of the image signal processing apparatus which concerns on embodiment of this invention. 比較例の構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of a comparative example. 本発明の実施形態に係る動作タイミング例を示す図である。It is a figure which shows the example of operation timing which concerns on embodiment of this invention. 比較例の動作タイミング例を示す図である。It is a figure which shows the example of operation timing of a comparative example. 1個のDRAMを共用した場合の構成例を示すブロック図である。It is a block diagram which shows the structural example at the time of sharing one DRAM. 歪曲収差の補正処理を説明する図である。It is a figure explaining the correction process of a distortion aberration. ノイズリダクション処理を説明する図である。It is a figure explaining a noise reduction process. 時分割処理でのノイズリダクション処理を説明する図である。It is a figure explaining the noise reduction process in a time division process.

以下、本発明の実施形態について詳細に説明する。本実施形態では、入力画像信号をフレーム期間ごとに処理する画像信号処理装置を撮像装置に適用した例を示す。記録画像用の信号処理回路の一部分から所定の信号(YCC信号)を抜き出して表示用画像処理回路に出力することにより、表示遅延時間を短縮するブロック構成について、ビデオカメラを例にして説明する。   Hereinafter, embodiments of the present invention will be described in detail. In this embodiment, an example in which an image signal processing apparatus that processes an input image signal for each frame period is applied to an imaging apparatus is shown. A block configuration for shortening the display delay time by extracting a predetermined signal (YCC signal) from a part of the recording image signal processing circuit and outputting it to the display image processing circuit will be described by taking a video camera as an example.

まず、本実施形態に係る信号処理装置の構成例について、図1を参照して説明する。
撮像用のセンサ100は、CCD(電荷結合素子)やCMOS(相補型金属酸化膜半導体)等を用いた撮像素子である。図1では省略するが、撮像光学系を構成するレンズ群を通過する被写体光に対して、入射光量や焦点調節が行われる。センサ100は結像された被写体像を光電変換し、内部でアナログ−デジタル変換を行い、各画素の光量に対応したデジタル画像信号を出力する。撮像素子の各画素には、R(赤)、G(緑)、B(青)の各カラーフィルタが、所定の配列、例えばベイヤー配列やハニカム配列で配置されている。これによりRGB画像信号が得られる。また、高速出力化のために、複数の画素の出力を加算して1つの出力画像を得る画素加算処理を行って、RGB画像信号を出力する場合もある。
First, a configuration example of the signal processing apparatus according to the present embodiment will be described with reference to FIG.
The imaging sensor 100 is an imaging device using a CCD (charge coupled device), a CMOS (complementary metal oxide semiconductor), or the like. Although omitted in FIG. 1, the incident light amount and focus adjustment are performed on the subject light passing through the lens group constituting the imaging optical system. The sensor 100 photoelectrically converts the formed subject image, internally performs analog-digital conversion, and outputs a digital image signal corresponding to the light amount of each pixel. In each pixel of the image sensor, R (red), G (green), and B (blue) color filters are arranged in a predetermined arrangement, for example, a Bayer arrangement or a honeycomb arrangement. Thereby, an RGB image signal is obtained. In addition, in order to increase the output speed, there is a case where an RGB image signal is output by performing a pixel addition process for obtaining an output image by adding outputs of a plurality of pixels.

第1リサイズ処理部101は、センサ100からの入力画像信号(RGB画像信号)を取得して画像縮小処理を行う。縮小するサイズは、第1信号処理部102が処理可能な大きさであり、R(赤)、G(緑)、B(青)の色毎に重心を補正しながら縮小処理が実行される。第1信号処理部102は、RGB画像信号を受信し、RGBのオフセット調整、ゲイン調整、ガンマ補正処理を行う。次に第1信号処理部102は、RGB画像信号から輝度信号(Y)と色差信号(Cb、Cr)へ変換し、YCC画像信号を第1DRAM103に一旦書き込む。   The first resizing processing unit 101 acquires an input image signal (RGB image signal) from the sensor 100 and performs image reduction processing. The size to be reduced is a size that can be processed by the first signal processing unit 102, and the reduction process is executed while correcting the center of gravity for each color of R (red), G (green), and B (blue). The first signal processing unit 102 receives an RGB image signal and performs RGB offset adjustment, gain adjustment, and gamma correction processing. Next, the first signal processing unit 102 converts the RGB image signal into a luminance signal (Y) and a color difference signal (Cb, Cr), and temporarily writes the YCC image signal in the first DRAM 103.

第2信号処理部104は、第1DRAM103からYCC画像信号を読み出す。第2信号処理部104は、YCC画像信号に対して、レンズの歪曲収差の補正処理や、撮像装置の防振処理等を行い、処理後のYCC画像信号を第2DRAM105に書き込む。レンズの歪曲収差の補正は、画像歪の補正処理の一例である。撮像装置の防振処理では手振れ等により生じる像ぶれの補正処理が実行される。第3信号処理部106は、第2DRAM105からYCC画像信号を読み出す。第3信号処理部106は、YCC画像信号に対してノイズリダクション処理等を行い、処理後のYCC画像信号を第3DRAM107に書き込む。その際、第3信号処理部106は、ノイズリダクション機能の実現のために、後述のように、第4DRAM119を併用する。   The second signal processing unit 104 reads the YCC image signal from the first DRAM 103. The second signal processing unit 104 performs lens distortion correction processing, image stabilization processing, and the like on the YCC image signal, and writes the processed YCC image signal to the second DRAM 105. Correction of lens distortion is an example of image distortion correction processing. In the image stabilization processing of the imaging apparatus, correction processing for image blur caused by camera shake or the like is executed. The third signal processing unit 106 reads the YCC image signal from the second DRAM 105. The third signal processing unit 106 performs noise reduction processing or the like on the YCC image signal, and writes the processed YCC image signal in the third DRAM 107. At this time, the third signal processing unit 106 uses the fourth DRAM 119 together as described later in order to realize the noise reduction function.

圧縮伸長部108は、第3DRAM107からYCC画像信号を読み出し、記録フォーマットに合わせて圧縮符号化処理を行う。処理後の信号は記録メディア109に送られて記録される。外部出力部110は、第3DRAM107からYCC画像信号を読み出してフォーマット変換を行う。HDMIやSDI、コンポーネントやコンポジット等の画像信号伝送フォーマットに合わせてフォーマット変換処理が実行される。HDMIは”High-Definition Multimedia Interface”の略号であり、SDIは”Serial Digital Interface”の略号である。フォーマット変換した画像信号は撮像装置外部に出力される。   The compression / decompression unit 108 reads the YCC image signal from the third DRAM 107 and performs compression encoding processing in accordance with the recording format. The processed signal is sent to the recording medium 109 and recorded. The external output unit 110 reads the YCC image signal from the third DRAM 107 and performs format conversion. A format conversion process is executed in accordance with an image signal transmission format such as HDMI, SDI, component or composite. HDMI is an abbreviation for “High-Definition Multimedia Interface”, and SDI is an abbreviation for “Serial Digital Interface”. The format-converted image signal is output outside the imaging apparatus.

第2リサイズ処理部111は、入力画像信号の画サイズを表示用に変更して第5DRAM112に書き込む画サイズ変更処理を行う。本実施形態の第2リサイズ処理部111は、第1信号処理部102が出力するYCC画像に対して、表示パネルの表示サイズまで縮小する処理を行う。縮小の際、画像のエイリアシングを防止するため、画像の水平方向、垂直方向の各々において帯域制限フィルタにより、画像帯域の制御が行われる。その後、バイキュービック法等の補間手法により、画像の縮小処理が行われ、処理結果は第5DRAM112に記憶される。第4信号処理部113は、第5DRAM112からYCC画像信号を読み出す。第4信号処理部113は、例えばレンズの歪曲収差の補正処理や、撮像装置の防振処理等を行う。処理後のYCC画像信号は第6DRAM114に記憶される。第5信号処理部115は、第6DRAM114からYCC画像信号を読み出す。第5信号処理部115はノイズリダクション処理等を行い、処理後のYCC信号を第7DRAM116に書き込む。その際、第5信号処理部115は、ノイズリダクション機能の実現のために、第8DRAM120を併用する。   The second resizing processing unit 111 performs an image size changing process in which the image size of the input image signal is changed for display and written to the fifth DRAM 112. The second resize processing unit 111 of the present embodiment performs a process of reducing the YCC image output from the first signal processing unit 102 to the display size of the display panel. At the time of reduction, in order to prevent image aliasing, the image band is controlled by a band limiting filter in each of the horizontal direction and the vertical direction of the image. Thereafter, image reduction processing is performed by an interpolation method such as a bicubic method, and the processing result is stored in the fifth DRAM 112. The fourth signal processing unit 113 reads the YCC image signal from the fifth DRAM 112. The fourth signal processing unit 113 performs, for example, lens distortion correction processing, image stabilization processing of the imaging device, and the like. The processed YCC image signal is stored in the sixth DRAM 114. The fifth signal processing unit 115 reads the YCC image signal from the sixth DRAM 114. The fifth signal processing unit 115 performs noise reduction processing and the like, and writes the processed YCC signal in the seventh DRAM 116. At that time, the fifth signal processing unit 115 uses the eighth DRAM 120 together in order to realize the noise reduction function.

パネル用信号処理部117は、画サイズが表示用に変更された画像信号に対して、表示用信号処理を行う。パネル用信号処理部117は、第7DRAM116からパネル表示サイズのYCC画像信号を読み出し、表示パネルに合わせた色の調整処理や、解像度調整処理等を行う。パネル出力部118は、表示パネルの受信フォーマットに合わせてフォーマット変換を行う。フォーマット変換した画像信号は表示パネルに送信されて画面上に画像が表示される。   The panel signal processing unit 117 performs display signal processing on the image signal whose image size has been changed for display. The panel signal processing unit 117 reads a YCC image signal having a panel display size from the seventh DRAM 116, and performs color adjustment processing, resolution adjustment processing, and the like in accordance with the display panel. The panel output unit 118 performs format conversion in accordance with the reception format of the display panel. The format-converted image signal is transmitted to the display panel and an image is displayed on the screen.

次に、本実施形態に対する比較例について、図2を参照して説明する。撮像用のセンサ200の出力信号は第1リサイズ処理部201、第1信号処理部202を経て第1DRAM203に記憶される。第1リサイズ処理部201、第1信号処理部202、第2信号処理部204、第3信号処理部206は、図1の第1リサイズ処理部101、第1信号処理部102、第2信号処理部104、第3信号処理部106にそれぞれ相当する。第2DRAM205、第3DRAM207、第4DRAM219は、図1の第2DRAM105、第3DRAM107、第4DRAM119はそれぞれ相当する。第3信号処理部206の出力する画像信号は2つに分岐し、その一方は第3DRAM207に記憶され、他方は第2リサイズ処理部211に出力される。圧縮伸長部208、記録メディア209、外部出力部210は、図1の圧縮伸長部108、記録メディア109、外部出力部110にそれぞれ相当する。   Next, a comparative example for this embodiment will be described with reference to FIG. The output signal of the imaging sensor 200 is stored in the first DRAM 203 through the first resize processing unit 201 and the first signal processing unit 202. The first resizing processing unit 201, the first signal processing unit 202, the second signal processing unit 204, and the third signal processing unit 206 are the first resizing processing unit 101, the first signal processing unit 102, and the second signal processing shown in FIG. Correspond to the unit 104 and the third signal processing unit 106, respectively. The second DRAM 205, the third DRAM 207, and the fourth DRAM 219 correspond to the second DRAM 105, the third DRAM 107, and the fourth DRAM 119 of FIG. 1, respectively. The image signal output from the third signal processing unit 206 branches into two, one of which is stored in the third DRAM 207 and the other is output to the second resize processing unit 211. The compression / decompression unit 208, the recording medium 209, and the external output unit 210 correspond to the compression / decompression unit 108, the recording medium 109, and the external output unit 110 of FIG.

第2リサイズ処理部211は、図1の第2リサイズ処理部111と同じ機能を有する。第2リサイズ処理部211は、圧縮伸長処理以外の全ての記録画像用処理を行った画像に対して画像縮小処理を行い、処理後の画像信号を第5DRAM216に記憶する。パネル用信号処理部217は、第5DRAM216からパネル表示サイズのYCC画像信号を読み出し、表示パネルに合わせた色の調整処理や、解像度調整処理等を行う。パネル出力部218は、表示パネルの受信フォーマットに合わせてフォーマット変換を行う。フォーマット変換した画像信号は表示パネルに送信されて画面上に画像が表示される。   The second resizing processing unit 211 has the same function as the second resizing processing unit 111 in FIG. The second resize processing unit 211 performs an image reduction process on the image that has been subjected to all the recorded image processes other than the compression / decompression process, and stores the processed image signal in the fifth DRAM 216. The panel signal processing unit 217 reads a panel display size YCC image signal from the fifth DRAM 216, and performs color adjustment processing, resolution adjustment processing, and the like according to the display panel. The panel output unit 218 performs format conversion in accordance with the reception format of the display panel. The format-converted image signal is transmitted to the display panel and an image is displayed on the screen.

次に、1個のDRAMをアドレス制御によって共用する、本実施形態の構成について説明する。図1では、説明の便宜上、複数のDRAMを個別に使用するブロック構成とした。実際には、DRAMはASIC(Application Specific Integrated Circuit、特定用途向け集積回路)とはプロセスの性質が異なる集積回路であるので、1つのチップに集積せずに別チップ構成にされることも多い。ASICとは別チップとして使用される、1個のDRAMのアドレス制御によって、図1に示す第1ないし第8DRAMの機能を実現できる。この構成について図5を参照して説明する。なお、図5において図1と同じ機能を持つ構成部には、図1で使用した符号と同じ符号を付することにより、それらの詳細な説明を省略する。   Next, the configuration of this embodiment in which one DRAM is shared by address control will be described. In FIG. 1, for convenience of explanation, a block configuration in which a plurality of DRAMs are individually used is used. Actually, DRAM is an integrated circuit having process characteristics different from those of an ASIC (Application Specific Integrated Circuit), so that it is often configured as a different chip without being integrated into one chip. The functions of the first to eighth DRAMs shown in FIG. 1 can be realized by address control of one DRAM used as a separate chip from the ASIC. This configuration will be described with reference to FIG. In FIG. 5, components having the same functions as those in FIG. 1 are given the same reference numerals as those used in FIG. 1, and detailed descriptions thereof are omitted.

DRAM152はDRAM−I/F(インターフェース)部151に接続されている。DRAM−I/F部151には、DRAM152にアクセスしてデータの読み書きを行う各ブロックが接続されている。図5ではスイッチ部150、第2リサイズ処理部111、信号処理aブロック153、信号処理bブロック154、外部出力部110、圧縮伸長部108、パネル用信号処理部117、制御部130がDRAM−I/F部151に接続されている。DRAM−I/F部151は、各ブロックから受けた書き込み要求や読み出し要求を調停し、予め決められた優先順位に従って許可を与える。許可されたブロックは、DRAM152に対して、書き込みを行う場合には、書き込みたいアドレスとデータを所定の長さ分送信する。また、許可されたブロックは、読み出しを行う場合には、読み出したいアドレスを送信し、DRAM152からDRAM−I/F部151を介して所定長さ分のデータを受信する。優先順位が低く、許可を与えられなかったブロックは、優先順位が高いブロックの読み書きが終了するのを待って、順次、データを送受信することができる。   The DRAM 152 is connected to a DRAM-I / F (interface) unit 151. Each block that accesses the DRAM 152 and reads / writes data is connected to the DRAM-I / F unit 151. In FIG. 5, the switch unit 150, the second resize processing unit 111, the signal processing a block 153, the signal processing b block 154, the external output unit 110, the compression / decompression unit 108, the panel signal processing unit 117, and the control unit 130 are DRAM-I. / F section 151 is connected. The DRAM-I / F unit 151 arbitrates write requests and read requests received from the respective blocks, and gives permission according to a predetermined priority order. The permitted block, when writing to the DRAM 152, transmits an address and data to be written for a predetermined length. Further, in the case of reading, the permitted block transmits an address to be read, and receives data for a predetermined length from the DRAM 152 via the DRAM-I / F unit 151. Blocks that have low priority and have not been granted permission can send and receive data in sequence, waiting for the reading and writing of blocks with high priority to be completed.

第1信号処理部102の出力はスイッチ部150に送られ、ここでは、後述するタイミングに従い、2つの経路に分かれる、第1の経路は、直接DRAM−I/F部151を介してDRAM152にデータを書き込む経路である。また、第2の経路は、第2リサイズ処理部111により、表示パネル140の表示サイズに合わせて画像縮小処理を行ってから、DRAM−I/F部151を介してDRAM152に書き込む経路である。スイッチ部150は制御部130により切り換えられる。   The output of the first signal processing unit 102 is sent to the switch unit 150. Here, the first path is divided into two paths according to the timing described later. The first path is directly transferred to the DRAM 152 via the DRAM-I / F unit 151. Is the path to write. The second path is a path for performing image reduction processing in accordance with the display size of the display panel 140 by the second resizing processing unit 111 and then writing to the DRAM 152 via the DRAM-I / F unit 151. The switch unit 150 is switched by the control unit 130.

信号処理aブロック153は、図1に示した第2信号処理部104と第4信号処理部113を、時分割で兼用する信号処理ブロックである。このブロックは、例えばレンズの歪曲収差の補正処理や、撮像装置の防振処理等を行う。本ブロックはDRAM−I/F部151と共通の高速クロック信号(例えば166MHz)で動作し、処理する画素数に応じて処理時間が変化する。以下、レンズの歪曲収差の補正処理について、図6を参照して簡単に説明する。図6(A)は画像歪の無い画像の座標を例示し、図6(B)は画像歪を含んだ画像の座標を例示する。
画像歪の無い真の画像座標を(xu,yu)とし、画像歪を含んだ画像座標を(xd,yd)とする。レンズの放射方向の歪みは、下式で表わされる。
The signal processing a block 153 is a signal processing block that combines the second signal processing unit 104 and the fourth signal processing unit 113 shown in FIG. 1 in time division. This block performs, for example, lens distortion correction processing, image stabilization processing of the imaging apparatus, and the like. This block operates with a high-speed clock signal (for example, 166 MHz) common to the DRAM-I / F unit 151, and the processing time varies depending on the number of pixels to be processed. Hereinafter, the lens distortion correction process will be briefly described with reference to FIG. FIG. 6A illustrates the coordinates of an image without image distortion, and FIG. 6B illustrates the coordinates of an image including image distortion.
Let true image coordinates without image distortion be (xu, yu), and image coordinates including image distortion be (xd, yd). The distortion in the radial direction of the lens is expressed by the following equation.

[数式1]
xd=(1+k1×r^2+k2×r^4+k3×r^6)×xu
yd=(1+k1×r^2+k2×r^4+k3×r^6)×yu
r^2=xu^2+yu^2 … (1)
ここで、k1、k2、k3は歪み係数であり、レンズとズーム値から定まる。(1)式に示すrは画像中心からの距離である。「^」はべき乗を表わす。
[Formula 1]
xd = (1 + k1 * r ^ 2 + k2 * r ^ 4 + k3 * r ^ 6) * xu
yd = (1 + k1 * r ^ 2 + k2 * r ^ 4 + k3 * r ^ 6) * yu
r ^ 2 = xu ^ 2 + yu ^ 2 (1)
Here, k1, k2, and k3 are distortion coefficients, which are determined from the lens and the zoom value. In the equation (1), r is a distance from the image center. “^” Represents a power.

図6(A)に示す画像歪の無い点601、602、603、604、605はそれぞれ、図6(B)に示す画像歪を含む点611、612、613、614、615に対応している。例えば点601の座標での画素データを求める場合、上式で計算した点611の座標位置での画像データがDRAM152から読み出される。同様に点602の座標での画像データとして、点612の座標位置での画像データが読み出される。こうしてDRAM152から計算結果に該当する座標位置での画像データを順次に読み出していくことで、レンズ歪曲収差を補正した画像が得られる。レンズの歪曲収差の補正処理では、(xu,yu)で示す画像座標の数だけ処理すれば求まるので、処理時間は、処理する画素数にほぼ比例する。また、画像歪について樽型になる場合、図6(B)に示す画像領域は、図6(A)の画像領域よりも若干大きい。このため、やや大きい画像記憶領域を用意する必要がある。
撮像装置に係る防振処理の場合には、図示しない角速度センサや画像認識処理部等により、装置の手振れ量を算出する処理が実行される。撮像画像については、手振れ量に応じた位置に従って、撮影画像領域から所定の範囲を切り出す際の抽出位置を変更する処理が行われ、像ぶれ補正が行われる。この場合、処理時間は、抽出によって生成する画像の画素数にほぼ比例する。
The points 601, 602, 603, 604, and 605 having no image distortion shown in FIG. 6A correspond to the points 611, 612, 613, 614, and 615 including the image distortion shown in FIG. . For example, when obtaining pixel data at the coordinates of the point 601, the image data at the coordinate position of the point 611 calculated by the above equation is read from the DRAM 152. Similarly, image data at the coordinate position of point 612 is read out as image data at the coordinates of point 602. In this way, by sequentially reading out image data at the coordinate position corresponding to the calculation result from the DRAM 152, an image in which the lens distortion is corrected is obtained. In the lens distortion correction process, since the number of image coordinates indicated by (xu, yu) is obtained, the processing time is substantially proportional to the number of pixels to be processed. When the image distortion is barrel-shaped, the image area shown in FIG. 6B is slightly larger than the image area shown in FIG. For this reason, it is necessary to prepare a slightly larger image storage area.
In the case of the image stabilization process related to the imaging apparatus, a process for calculating the camera shake amount of the apparatus is executed by an angular velocity sensor, an image recognition processing unit, or the like (not shown). The captured image is subjected to a process of changing the extraction position when a predetermined range is cut out from the captured image area in accordance with the position according to the amount of camera shake, and image blur correction is performed. In this case, the processing time is substantially proportional to the number of pixels of the image generated by extraction.

図5に戻って説明を続ける。信号処理bブロック154は、図1の第3信号処理部106と第5信号処理部115を、時分割で兼用する信号処理ブロックである。このブロックでは、例えばノイズリダクション処理を行う。本ブロックもDRAM−I/F部151と共通の高速クロック信号で動作し、処理する画素数に応じて処理時間が変化する。図7を参照してノイズ低減処理を説明する。図7には具体例として、フレーム巡回型ノイズリダクション回路を示す。   Returning to FIG. The signal processing b block 154 is a signal processing block that combines the third signal processing unit 106 and the fifth signal processing unit 115 of FIG. 1 in time division. In this block, for example, noise reduction processing is performed. This block also operates with a high-speed clock signal common to the DRAM-I / F unit 151, and the processing time varies depending on the number of pixels to be processed. The noise reduction process will be described with reference to FIG. FIG. 7 shows a frame cyclic noise reduction circuit as a specific example.

入力端子701から入力されたフレーム画像信号は、第1減算部702と第2減算部703にそれぞれ送られる。第1減算部702のもう一方の端子には、フレームメモリ705から、1フレーム前の同じ位置での画素データが送られてくる。第1減算部702の減算結果は、ノイズ検出及び動き判定部704に送られる。ノイズ検出及び動き判定部704に入力される差分データは、画像に動きが無ければ、ゼロとなる。画像の動きが無い部分で残った残差は、センサ100等で発生したノイズであり、ノイズ検出及び動き判定部704は当該ノイズ成分を第2減算部703に出力する。第2減算部703は、入力端子701から入力されたフレーム画像信号に対して、ノイズ成分を除去し、出力端子706を通じて画像信号を出力するとともに、フレームメモリ705にも出力する。フレームメモリ705は画像信号を記憶し、これは次のフレームで用いられる。ノイズ検出及び動き判定部704に加えられた残差が大きい場合には、画像に動きがあるため、ノイズ検出及び動き判定部704は出力を0に設定する。よって、入力端子701から入力された画像がそのまま出力されるとともに、フレームメモリ705に記憶される。図7の構成例は巡回型であるため、FIFO(First In First Out)として使うフレームメモリが必要であり、処理時間は、処理する画素数にほぼ比例する。   The frame image signal input from the input terminal 701 is sent to the first subtraction unit 702 and the second subtraction unit 703, respectively. Pixel data at the same position one frame before is sent from the frame memory 705 to the other terminal of the first subtracting unit 702. The subtraction result of the first subtraction unit 702 is sent to the noise detection and motion determination unit 704. The difference data input to the noise detection and motion determination unit 704 is zero if there is no motion in the image. The residual remaining in the portion where there is no motion of the image is noise generated by the sensor 100 or the like, and the noise detection and motion determination unit 704 outputs the noise component to the second subtraction unit 703. The second subtracting unit 703 removes a noise component from the frame image signal input from the input terminal 701 and outputs the image signal through the output terminal 706 and also outputs it to the frame memory 705. Frame memory 705 stores the image signal, which is used in the next frame. When the residual added to the noise detection and motion determination unit 704 is large, the image has a motion, so the noise detection and motion determination unit 704 sets the output to 0. Therefore, the image input from the input terminal 701 is output as it is and stored in the frame memory 705. Since the configuration example of FIG. 7 is a cyclic type, a frame memory used as a FIFO (First In First Out) is required, and the processing time is almost proportional to the number of pixels to be processed.

図5の制御部130は、入力画像信号の同期タイミングと表示用の画像信号の同期タイミングを制御する同期制御部を備える。センサ100の駆動周期と表示パネル140の駆動周期の制御と、遅延時間の制御とが、センサ100と表示パネル140について各々行われる。具体的には、センサ100と表示パネル140の同期信号の遅延量を計測する計測部と、センサ100の駆動周期を基準として、表示パネル140の駆動周期の同期信号に係る遅延量が所定の範囲内に収まるように調節する同期制御部が設けられる。また、各回路部を制御するために、CPU(中央演算処理装置)等の既知の制御ブロックが設けられる。この制御ブロックは、第1ないし第5信号処理部や、パネル用信号処理部117の設定調整等を行う。   The control unit 130 of FIG. 5 includes a synchronization control unit that controls the synchronization timing of the input image signal and the synchronization timing of the display image signal. Control of the driving cycle of the sensor 100, the driving cycle of the display panel 140, and control of the delay time are performed for the sensor 100 and the display panel 140, respectively. Specifically, the delay amount related to the synchronization signal of the drive cycle of the display panel 140 is within a predetermined range with the measurement unit that measures the delay amount of the synchronization signal of the sensor 100 and the display panel 140 as a reference. A synchronization control unit is provided that adjusts to fit within. In addition, a known control block such as a CPU (Central Processing Unit) is provided to control each circuit unit. This control block performs setting adjustment of the first to fifth signal processing units and the panel signal processing unit 117.

次に、本実施形態に係る画像信号処理装置の動作について、図3の動作タイミング例を参照して説明する。
本実施形態では、センサ100の駆動周期に対する周波数と、表示パネル140の駆動周期に対応する周波数が等しく24Hzで同期している場合を想定する。同期タイミングについては、図3に示すとおり、センサ同期に比べてパネル同期が遅れたタイミングで同期している。また、センサ100の画素数を8847360ピクセル(水平方向4096ピクセル×垂直方向2160ライン)とし、表示パネル140の画素数を518400ピクセル(水平方向960ピクセル×垂直方向540ライン)とする。信号処理aブロックと信号処理bブロックは、30Hzのプログレッシブの画像を処理できる能力がある。本実施形態では、24Hzの周波数でセンサ100を駆動しているので、各フレーム(1/24秒)に、8847360ピクセルで、1/24−1/30=1/120秒分の処理能力に余裕がある。図3のステップ310ないし320は処理の各過程を表している。
Next, the operation of the image signal processing apparatus according to the present embodiment will be described with reference to the operation timing example of FIG.
In the present embodiment, it is assumed that the frequency corresponding to the driving cycle of the sensor 100 and the frequency corresponding to the driving cycle of the display panel 140 are equally synchronized at 24 Hz. As shown in FIG. 3, the synchronization timing is synchronized at a timing when the panel synchronization is delayed compared to the sensor synchronization. The number of pixels of the sensor 100 is 8847360 pixels (horizontal direction 4096 pixels × vertical direction 2160 lines), and the number of pixels of the display panel 140 is 518400 pixels (horizontal direction 960 pixels × vertical direction 540 lines). The signal processing a block and the signal processing b block are capable of processing a 30 Hz progressive image. In the present embodiment, since the sensor 100 is driven at a frequency of 24 Hz, each frame (1/24 seconds) has 8847360 pixels and has a processing capacity of 1 / 24-1 / 30 = 1/120 seconds. There is. Steps 310 to 320 in FIG. 3 represent each process.

まず、ステップ(以下、「S」と記す)310において、センサ100はRGB画像信号(水平方向4096ピクセル×垂直方向2160ライン)を出力する。S311において、第1リサイズ処理部101は、センサ100が出力したRGB画像信号を、第1信号処理部102が処理可能な大きさ(水平方向2048ピクセル×垂直方向1080ライン)に縮小する。S312において、第1信号処理部102は、RGB画像信号を輝度信号(Y)と色差信号(Cb、Cr)に変換する。変換したYCC画像信号は、第1DRAM103に記憶されるとともに、第2リサイズ処理部111に送信される。
S313において、S312で第1DRAM103に記憶したYCC画像信号が、S312の処理開始時点から1フレーム期間および1/120秒の時間経過後に読み出され、第2信号処理部104が処理を行う。第2信号処理部104は、レンズの歪曲収差の補正処理や、撮像装置の防振処理等を行い、処理後の画像信号を第2DRAM105に書き込む。ここで、1/120秒分の遅延時間で処理を遅らせる理由は、後述する第4信号処理部113の処理を行うためである(S317参照)。
First, in step (hereinafter referred to as “S”) 310, the sensor 100 outputs an RGB image signal (horizontal 4096 pixels × vertical 2160 lines). In S <b> 311, the first resize processing unit 101 reduces the RGB image signal output from the sensor 100 to a size that can be processed by the first signal processing unit 102 (horizontal 2048 pixels × vertical 1080 lines). In S312, the first signal processing unit 102 converts the RGB image signal into a luminance signal (Y) and a color difference signal (Cb, Cr). The converted YCC image signal is stored in the first DRAM 103 and transmitted to the second resize processing unit 111.
In S313, the YCC image signal stored in the first DRAM 103 in S312 is read after a lapse of one frame period and 1/120 second from the processing start time in S312 and the second signal processing unit 104 performs processing. The second signal processing unit 104 performs lens distortion correction processing, image stabilization processing of the imaging device, and the like, and writes the processed image signal into the second DRAM 105. Here, the reason why the processing is delayed by a delay time of 1/120 second is to perform processing of the fourth signal processing unit 113 described later (see S317).

S314において、S313で第2DRAM105に記憶したYCC画像信号が、S313の処理開始時点から1フレーム期間の時間経過後に読み出され、第3信号処理部106が処理を行う。第3信号処理部106は、フレーム期間内の第1の期間にてノイズリダクション処理を行い、処理後の画像信号(第1画像信号)を第3DRAM107に書き込む。ここで、処理開始時点から約1/120秒の時間が経過した時点で、第3信号処理部106は処理を一時的に中断し、後述する第5信号処理部115の処理を優先させる。フレーム期間内の第2の期間では、第5信号処理部115が処理を行い、処理後の画像信号(第2画像信号)を第7DRAM116に書き込む。第5信号処理部115の処理が終了した後、第3信号処理部106は処理を継続する。この時分割処理の様子を、図8を参照して説明する。   In S314, the YCC image signal stored in the second DRAM 105 in S313 is read after a lapse of one frame period from the processing start time in S313, and the third signal processing unit 106 performs processing. The third signal processing unit 106 performs noise reduction processing in the first period within the frame period, and writes the processed image signal (first image signal) in the third DRAM 107. Here, when the time of about 1/120 second has elapsed from the start of the process, the third signal processing unit 106 temporarily stops the process, and gives priority to the process of the fifth signal processing unit 115 described later. In the second period within the frame period, the fifth signal processing unit 115 performs processing, and writes the processed image signal (second image signal) in the seventh DRAM 116. After the processing of the fifth signal processing unit 115 ends, the third signal processing unit 106 continues the processing. The state of this time division processing will be described with reference to FIG.

図8にて点線枠内に示す構成は、フレームメモリ705を除いて図7と同様の機能を有する。同じ機能の部位には図7で使用した同じ符号を付すことで説明を省略する。入力端子701には、選択スイッチ部710を介して第2DRAM105または第6DRAM114からの画像信号が入力される。また、入力端子714には、選択スイッチ部711を介して第4DRAM119または第8DRAM120からの画像信号が入力される。出力端子706は選択スイッチ部712を介して第3DRAM107または第7DRAM116に接続される。また、出力端子715は選択スイッチ部713を介して第4DRAM119または第8DRAM120に接続される。選択スイッチ部710ないし713の各接点に示す「L」は本線系(外部出力および記録信号処理系)のライン選択を表し、「P」はパネル処理系(表示パネル信号処理系)のライン選択を表わす。   The configuration shown in the dotted line frame in FIG. 8 has the same function as in FIG. 7 except for the frame memory 705. Parts having the same function are denoted by the same reference numerals used in FIG. An image signal from the second DRAM 105 or the sixth DRAM 114 is input to the input terminal 701 through the selection switch unit 710. An image signal from the fourth DRAM 119 or the eighth DRAM 120 is input to the input terminal 714 through the selection switch unit 711. The output terminal 706 is connected to the third DRAM 107 or the seventh DRAM 116 via the selection switch unit 712. The output terminal 715 is connected to the fourth DRAM 119 or the eighth DRAM 120 via the selection switch unit 713. “L” shown at each contact of the selection switch units 710 to 713 represents line selection of the main line system (external output and recording signal processing system), and “P” represents line selection of the panel processing system (display panel signal processing system). Represent.

ノイズリダクション処理にて、第3信号処理部106が行う本線系の処理の場合、選択スイッチ部710ないし713はL側に切り換る。ノイズリダクション処理後の出力信号は選択スイッチ部712を通じて第3DRAM107に書き込まれる。そして、処理の開始時点から1/120秒の時間が経過した時点で本線系の処理は一旦中断され、選択スイッチ部710ないし713がP側に切り換わり、パネル処理系のノイズリダクション処理が開始する。この切り換え制御は、例えば図示しないCPUの割り込みルーチンにより行われるが、タイマー切り換えでも構わない。パネル処理系の処理する画素数は少ないので、1/120秒以内に処理が終了する。再び、選択スイッチ部710ないし713はL側に切り換わり、前記した本線系の処理を中断したところから処理が続行する。尚、実際には、選択スイッチ部710ないし713による選択制御やDRAM内のアドレス制御については、図示しないCPUがDRAMにアクセスする際のアドレスを変更することにより実現できる。   In the noise reduction processing, in the case of main line processing performed by the third signal processing unit 106, the selection switch units 710 to 713 are switched to the L side. The output signal after the noise reduction process is written into the third DRAM 107 through the selection switch unit 712. When the time of 1/120 second has elapsed from the start of the processing, the main line processing is temporarily interrupted, the selection switches 710 to 713 are switched to the P side, and the noise reduction processing of the panel processing system is started. . This switching control is performed by, for example, an interrupt routine of a CPU (not shown), but timer switching may be performed. Since the number of pixels processed by the panel processing system is small, the processing is completed within 1/120 second. Again, the selection switch units 710 to 713 are switched to the L side, and the processing continues from the point where the main line processing is interrupted. Actually, selection control by the selection switch units 710 to 713 and address control in the DRAM can be realized by changing an address when a CPU (not shown) accesses the DRAM.

図3に戻って説明を続ける。S315において、S314で第3DRAM107に記憶されたYCC画像信号(第1画像信号)が、S314の処理開始時点から1フレーム期間の時間経過後に読み出され、外部出力部110が処理を行う。外部出力部110は、所定の画像信号伝送フォーマットに合わせてフォーマット変換を行い、変換した画像信号を撮像装置の外部に出力する。記録処理の場合には、圧縮伸長部108が第3DRAM107からYCC画像信号を読み出して処理し、記録メディア109に画像信号を記録する。   Returning to FIG. 3, the description will be continued. In S315, the YCC image signal (first image signal) stored in the third DRAM 107 in S314 is read after a lapse of one frame period from the processing start time in S314, and the external output unit 110 performs processing. The external output unit 110 performs format conversion according to a predetermined image signal transmission format, and outputs the converted image signal to the outside of the imaging apparatus. In the case of recording processing, the compression / decompression unit 108 reads and processes the YCC image signal from the third DRAM 107 and records the image signal on the recording medium 109.

S312の後、S316で第2リサイズ処理部111は画像縮小処理を行い、表示パネル140の表示サイズ(水平方向960ピクセル×垂直方向540ライン)まで画像を縮小する(水平方向:15/32、垂直方向:1/2)。S317において、信号処理aブロック153(図5参照)を優先して使うことで、レンズの歪曲収差の補正処理や、撮像装置の防振処理等が実行される。S318において、信号処理bブロック154(図5参照)を優先して使うことでノイズリダクション処理が実行される。処理後のYCC画像信号(第2画像信号)は第7DRAM116に記憶される。S319にてパネル用信号処理部117は、S318で第7DRAM116に記憶した画像信号を読み出して、表示パネル140の受信フォーマットに合わせてフォーマット変換を行う。フォーマット変換した画像信号は、S320でパネル出力部118が表示パネル140に送信し、表示パネル140の画面上に画像が表示される。
本実施形態の場合、S310からS320の開始時点まで1フレーム期間強(DL参照)の時間で処理が行われる。
After S312, in S316, the second resizing processing unit 111 performs image reduction processing to reduce the image to the display size of the display panel 140 (horizontal direction 960 pixels × vertical direction 540 lines) (horizontal direction: 15/32, vertical). Direction: 1/2). In S317, the signal processing a block 153 (see FIG. 5) is preferentially used, so that lens distortion correction processing, image stabilization processing of the imaging apparatus, and the like are executed. In S318, the noise reduction process is executed by preferentially using the signal processing b block 154 (see FIG. 5). The processed YCC image signal (second image signal) is stored in the seventh DRAM 116. In S319, the panel signal processing unit 117 reads the image signal stored in the seventh DRAM 116 in S318, and performs format conversion in accordance with the reception format of the display panel 140. The panel output unit 118 transmits the format-converted image signal to the display panel 140 in S320, and an image is displayed on the screen of the display panel 140.
In the case of the present embodiment, the process is performed in a time of just over one frame period (see DL) from S310 to the start time of S320.

次に、図2に例示した比較例の動作について、図4の動作タイミング例を参照して説明する。S410ないしS420に処理の各過程を示す。S410でセンサ200の信号読み出しが行われ、S411で第1リサイズ処理部201の処理、S412で第1信号処理部202の処理が行われる。S413ではS412の処理開始時点から1フレーム期間の時間経過後に第2信号処理部204の処理が行われる。さらに1フレーム期間の時間経過後に、S414で第3信号処理部206の処理が行われる。さらに1フレーム期間の時間経過後に、S415で外部出力部210の処理が行われる。S416で第2リサイズ処理部211の処理が行われる。S419でのパネル用信号処理部217の処理と、S420でのパネル出力部218の処理が同時期に実行される。   Next, the operation of the comparative example illustrated in FIG. 2 will be described with reference to the operation timing example of FIG. Each process of processing is shown in S410 to S420. In S410, the signal of the sensor 200 is read, in S411, the first resize processing unit 201 is processed, and in S412, the first signal processing unit 202 is processed. In S413, the processing of the second signal processing unit 204 is performed after the elapse of one frame period from the processing start time of S412. Further, after the elapse of one frame period, the process of the third signal processing unit 206 is performed in S414. Further, after the elapse of one frame period, the process of the external output unit 210 is performed in S415. In S416, the second resizing processing unit 211 performs processing. The processing of the panel signal processing unit 217 in S419 and the processing of the panel output unit 218 in S420 are executed at the same time.

図2に示す比較例の場合、第2リサイズ処理部211は第3信号処理部206から画像信号を受信して画像縮小処理を行い(図4のS416参照)、処理後の画像信号を第5DRAM216に記憶する。このため、図4のS415の処理と同時期に、S420のパネル出力処理の期間があり、S410から3フレーム期間(DL参照)に相当する表示遅延時間が発生している。これは、フレーム周波数24Hzの場合、約125ミリ秒の表示遅延時間である。   In the case of the comparative example shown in FIG. 2, the second resize processing unit 211 receives the image signal from the third signal processing unit 206 and performs image reduction processing (see S416 in FIG. 4). To remember. Therefore, there is a panel output process period of S420 at the same time as the process of S415 in FIG. 4, and a display delay time corresponding to 3 frame periods (refer to DL) has occurred since S410. This is a display delay time of about 125 milliseconds when the frame frequency is 24 Hz.

以上のように、本実施形態によれば、信号処理部の時分割処理によって表示用画像信号の処理を優先させることで、撮影中の画像を表示装置に表示する場合の表示遅延時間を短縮できる。図3のS310からS320まで1フレーム期間強の表示遅延時間であり、図4に示す比較例の3フレーム期間の表示遅延時間に比べて大幅に短縮される。撮影している画像を表示装置に表示する場合の表示遅延時間を短縮することで、表示遅延によるユーザの違和感を解消できる。
また、画像信号の記録処理や出力処理を行う際、信号処理aブロック153および信号処理bブロック154は1/30秒で画像信号を処理する能力を有する。表示用画像信号のフレーム周波数に対応する1/24秒の期間内で1/120秒の隙間ができる。隣接するフレームの画像信号をそれぞれ処理する期間の隙間において、表示用の画像信号に係る第4信号処理部113の処理を優先させることにより、処理効率が高まる。
なお、本実施形態では、撮像用センサの駆動周期と表示パネルの駆動周期を同一にしているので制御が容易になるが、各駆動周期が相違しても構わない。
As described above, according to the present embodiment, by giving priority to the processing of the display image signal by the time division processing of the signal processing unit, it is possible to shorten the display delay time when displaying the image being shot on the display device. . The display delay time is slightly longer than one frame period from S310 to S320 in FIG. 3, which is significantly shorter than the display delay time in the three frame period of the comparative example shown in FIG. By reducing the display delay time when displaying the captured image on the display device, it is possible to eliminate the user's uncomfortable feeling due to the display delay.
Further, when performing image signal recording processing and output processing, the signal processing a block 153 and the signal processing b block 154 have the ability to process the image signal in 1/30 second. A gap of 1/120 second is formed within a 1/24 second period corresponding to the frame frequency of the display image signal. By giving priority to the processing of the fourth signal processing unit 113 related to the image signal for display in the gap between the periods for processing the image signals of adjacent frames, the processing efficiency is increased.
In this embodiment, since the drive cycle of the imaging sensor and the drive cycle of the display panel are the same, control is facilitated, but each drive cycle may be different.

100 センサ(撮像手段)
106 第3信号処理部
110 外部出力部
111 第2リサイズ処理部
115 第5信号処理部
117 パネル用信号処理部
118 パネル出力部
140 表示パネル
152 DRAM
100 sensor (imaging means)
106 third signal processing unit 110 external output unit 111 second resize processing unit 115 fifth signal processing unit 117 signal processing unit for panel 118 panel output unit 140 display panel 152 DRAM

Claims (7)

第1画像信号を縮小して第2画像信号を生成するサイズ変更処理手段と、
前記第1画像信号と前記第2画像信号に対して信号処理を行う信号処理手段と、
前記信号処理手段による信号処理が行われた前記第1画像信号を記録メディアに出力する出力手段と、
前記信号処理手段による信号処理が行われた前記第2画像信号に対して表示用の信号処理を行う表示用信号処理手段を備え、
前記信号処理手段が1フレーム期間を複数の期間に時分割し、1フレーム期間内の異なる期間で前記第1画像信号と前記第2画像信号のそれぞれに対して信号処理を行うことで、前記出力手段が前記第1画像信号を前記記録メディアに出力する前に、前記表示用信号処理手段が前記第1画像信号から生成された前記第2画像信号に対して前記表示用の信号処理を行うことを特徴とする画像信号処理装置。
Resizing processing means for generating a second image signal by reducing the first image signal;
Signal processing means for performing signal processing on the first image signal and the second image signal;
Output means for outputting the first image signal subjected to signal processing by the signal processing means to a recording medium;
Includes a display signal processing hand stage for performing signal processing for display to the second image signal which the signal processing has been performed by the signal processing means,
The signal processing means time-divides one frame period into a plurality of periods, and performs signal processing on each of the first image signal and the second image signal in different periods within one frame period, so that the output The display signal processing means performs the display signal processing on the second image signal generated from the first image signal before the means outputs the first image signal to the recording medium. An image signal processing apparatus.
前記信号処理手段は、1フレーム期間において、先に前記第2画像信号に対する信号処理を行ってから、前記第1画像信号に対する信号処理を行うことを特徴とする請求項1に記載の画像信号処理装置。2. The image signal processing according to claim 1, wherein the signal processing means performs signal processing on the first image signal after first performing signal processing on the second image signal in one frame period. apparatus. 前記信号処理手段は、前記第1画像信号に対する信号処理を中断して、前記第2画像信号に対する信号処理を行うことを特徴とする請求項1に記載の画像信号処理装置。The image signal processing apparatus according to claim 1, wherein the signal processing unit interrupts signal processing on the first image signal and performs signal processing on the second image signal. 前記信号処理手段による信号処理が行われた前記第1画像信号と、前記信号処理手段による信号処理が行われた前記第2画像信号を記憶する記憶手段を有し、Storage means for storing the first image signal subjected to signal processing by the signal processing means and the second image signal subjected to signal processing by the signal processing means;
前記出力手段は前記記憶手段から前記第1画像信号を読み出して前記記録メディアに出力し、The output means reads the first image signal from the storage means and outputs it to the recording medium,
前記表示用信号処理手段は前記記憶手段から前記第2画像信号を読み出して前記表示用の信号処理を行うことを特徴とする請求項1乃至3のいずれか1項に記載の画像信号処理装置。4. The image signal processing apparatus according to claim 1, wherein the display signal processing unit reads the second image signal from the storage unit and performs the display signal processing. 5.
前記信号処理手段は、ノイズリダクション処理、画像歪の補正処理、および像ぶれの補正処理のうちの1つ以上の処理を行うことを特徴とする請求項1乃至4のいずれか1項に記載の画像信号処理装置。 Said signal processing means, noise reduction processing, the image distortion correction process, and image blur of claims 1 to 4, characterized in that one or more processing among the correction process according to any one of Image signal processing device. 撮像手段と、
前記撮像手段で生成された第1画像信号を縮小して第2画像信号を生成するサイズ変更処理手段と、
前記第1画像信号と前記第2画像信号に対して信号処理を行う信号処理手段と、
前記信号処理手段による信号処理が行われた前記第1画像信号を記録メディアに出力する出力手段と、
前記信号処理手段による信号処理が行われた前記第2画像信号に対して表示用の信号処理を行う表示用信号処理手段を備え、
前記信号処理手段が1フレーム期間を複数の期間に時分割し、1フレーム期間内の異なる期間で前記第1画像信号と前記第2画像信号のそれぞれに対して信号処理を行うことで、前記出力手段が前記第1画像信号を前記記録メディアに出力する前に、前記表示用信号処理手段が前記第1画像信号から生成された前記第2画像信号に対して前記表示用の信号処理を行うことを特徴とする撮像装置。
Imaging means;
Resizing processing means for reducing the first image signal generated by the imaging means to generate a second image signal ;
Signal processing means for performing signal processing on the first image signal and the second image signal;
Output means for outputting the first image signal subjected to signal processing by the signal processing means to a recording medium;
Includes a display signal processing hand stage for performing signal processing for display to the second image signal which the signal processing has been performed by the signal processing means,
The signal processing means time-divides one frame period into a plurality of periods, and performs signal processing on each of the first image signal and the second image signal in different periods within one frame period, so that the output The display signal processing means performs the display signal processing on the second image signal generated from the first image signal before the means outputs the first image signal to the recording medium. An imaging apparatus characterized by the above.
第1画像信号を縮小して第2画像信号を生成するサイズ変更ステップと、
前記第1画像信号と前記第2画像信号に対して信号処理を行う信号処理ステップと、
前記信号処理ステップにおいて信号処理が行われた前記第1画像信号を記録メディアに出力する出力ステップと、
前記信号処理ステップにおいて信号処理が行われた前記第2画像信号に対して表示用の信号処理を行う表示用信号処理ステップを有し、
前記信号処理ステップにおいて、1フレーム期間を複数の期間に時分割し、1フレーム期間内の異なる期間で前記第1画像信号と前記第2画像信号のそれぞれに対して信号処理を行うことで、前記第1画像信号を前記記録メディアに出力する前に、前記第1画像信号から生成された前記第2画像信号に対して前記表示用の信号処理を行うことを特徴とする画像信号処理装置の制御方法。
A resizing step of reducing the first image signal to generate a second image signal ;
A signal processing step of performing signal processing on the first image signal and the second image signal;
An output step of outputting the first image signal that has undergone signal processing in the signal processing step to a recording medium;
A display signal processing steps for performing signal processing for display to the second image signal which the signal processing is performed in the signal processing step,
In the signal processing step, one frame period is time-divided into a plurality of periods, and signal processing is performed on each of the first image signal and the second image signal in different periods within one frame period, Control of the image signal processing apparatus, wherein the signal processing for display is performed on the second image signal generated from the first image signal before the first image signal is output to the recording medium. Method.
JP2013000943A 2013-01-08 2013-01-08 Image signal processing apparatus, control method therefor, and imaging apparatus Expired - Fee Related JP6091216B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013000943A JP6091216B2 (en) 2013-01-08 2013-01-08 Image signal processing apparatus, control method therefor, and imaging apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013000943A JP6091216B2 (en) 2013-01-08 2013-01-08 Image signal processing apparatus, control method therefor, and imaging apparatus

Publications (2)

Publication Number Publication Date
JP2014135537A JP2014135537A (en) 2014-07-24
JP6091216B2 true JP6091216B2 (en) 2017-03-08

Family

ID=51413550

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013000943A Expired - Fee Related JP6091216B2 (en) 2013-01-08 2013-01-08 Image signal processing apparatus, control method therefor, and imaging apparatus

Country Status (1)

Country Link
JP (1) JP6091216B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102647268B1 (en) * 2016-09-16 2024-03-12 소니 세미컨덕터 솔루션즈 가부시키가이샤 Image pickup device and electronic apparatus

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009065320A (en) * 2007-09-05 2009-03-26 Casio Comput Co Ltd Imaging device

Also Published As

Publication number Publication date
JP2014135537A (en) 2014-07-24

Similar Documents

Publication Publication Date Title
JP5195818B2 (en) Display control device
US9699384B2 (en) Image signal processing apparatus and a control method thereof, and an image pickup apparatus and a control method thereof
JP5029725B2 (en) Imaging device
JP2011249963A (en) Imaging device
US9363440B2 (en) Imaging device and imaging method that sets a phase difference between first and second synchronization signals
US9007479B2 (en) Imaging apparatus and evaluation value generation apparatus
US20240080410A1 (en) Imaging apparatus, image data processing method of imaging apparatus, and program
KR20100007628A (en) Image sensor interface apparatus and digital photographing apparatus comprising the same
US8970766B2 (en) Imaging device
US8908060B2 (en) Imaging apparatus generating evaluation values at a high frame rate and having a live view function of displaying a video smoothly at a low frame rate
JP5748513B2 (en) Imaging device
JP6091216B2 (en) Image signal processing apparatus, control method therefor, and imaging apparatus
JP6955308B2 (en) Image sensor, image pickup device, image pickup method and program
JP5582229B2 (en) Camera, display device and image processing device
JP5158165B2 (en) Imaging device, display timing control circuit
JP2020031336A (en) Imaging apparatus
JP6087631B2 (en) Image signal processing apparatus, control method therefor, and imaging apparatus
JP2014154999A (en) Signal processing device, control method therefor, and control program
JP7334880B2 (en) METHOD, APPARATUS, PROGRAM, AND RECORDING MEDIUM FOR PROCESSING IMAGE DATA
JP2008066910A (en) Image processor, image processing method and program
JP6207173B2 (en) Signal processing apparatus, control method thereof, and control program
WO2020044764A1 (en) Imaging element, imaging device, image data processing method, and program
JP2004165876A (en) Image processing apparatus, digital camera, and compound eye system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151222

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170207

R151 Written notification of patent or utility model registration

Ref document number: 6091216

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees