JP2000217032A - Picture signal processor and its method - Google Patents

Picture signal processor and its method

Info

Publication number
JP2000217032A
JP2000217032A JP11013063A JP1306399A JP2000217032A JP 2000217032 A JP2000217032 A JP 2000217032A JP 11013063 A JP11013063 A JP 11013063A JP 1306399 A JP1306399 A JP 1306399A JP 2000217032 A JP2000217032 A JP 2000217032A
Authority
JP
Japan
Prior art keywords
image
images
image signal
signal processing
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP11013063A
Other languages
Japanese (ja)
Inventor
Noriyuki Yamashita
紀之 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP11013063A priority Critical patent/JP2000217032A/en
Publication of JP2000217032A publication Critical patent/JP2000217032A/en
Pending legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

PROBLEM TO BE SOLVED: To obtain a still picture with excellent S/N and resolution by adopting a longer photographing time for a still object. SOLUTION: An image of an object made incident via a lens group 1 is fed to a CCD imaging device 2. An electronic shutter of the CCD imaging device 2 is driven and n-sets of picture signals set by a film number setting key 10 are captured for each frame. An image processing circuit 3 applies alignment, modification and summing to the captured n-sets of the picture signals in real time. The summed picture signal is divided into 1/n and outputted via a high frequency emphasis filter. A compression circuit 5 compresses the signal, from which the compressed picture signal with sub data added thereto is fed to a recording medium 6. An expansion circuit 7 applies expansion processing to the read compressed picture signal. The expanded picture signal is fed to a display circuit 8 from the expansion circuit 7.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】この発明は、複数の画像信号
から1枚の静止画を生成することができる画像信号処理
装置および方法に関する。
[0001] 1. Field of the Invention [0002] The present invention relates to an image signal processing apparatus and method capable of generating one still image from a plurality of image signals.

【0002】[0002]

【従来の技術】現在、静止画モードを有するカメラ一体
型ディジタルVTRおよびディジタルスチルカメラ(以
下、これらを総称してディジタルカメラと略する)を用
いて静止画の撮影を行う場合、動いている被写体の一瞬
をフリーズして撮影し、記録するようにできている。
2. Description of the Related Art At present, when a still image is photographed using a camera-integrated digital VTR and a digital still camera having a still image mode (hereinafter, these are collectively referred to as a digital camera), a moving subject It freezes and shoots the moment, and records it.

【0003】[0003]

【発明が解決しようとする課題】しかしながら、動画の
被写体を撮影するときと同様に、静止した被写体を撮影
するときにもほんの一瞬の光しか利用していない。その
ため、ディジタルカメラで撮影された静止画は、S/N
も解像度も不十分であった。
However, as in the case of shooting a moving object, only a momentary light is used when shooting a still object. Therefore, a still image captured by a digital camera is S / N
And the resolution was inadequate.

【0004】したがって、この発明の目的は、静止した
被写体の撮影時間を長くすることによって、S/Nも解
像度もより良い静止画にすることができる画像信号処理
装置および方法を提供することにある。
Accordingly, an object of the present invention is to provide an image signal processing apparatus and method capable of producing a still image having better S / N and resolution by extending the photographing time of a still subject. .

【0005】[0005]

【課題を解決するための手段】請求項1に記載の発明
は、予め設定されたn枚の画像を順次撮像する撮像素子
と、n枚の画像中、時間的に隣り合う2枚の画像を1/
m画素の精度で位置ずれを検出する手段と、検出した位
置ずれを補正する手段と、位置ずれを補正したn枚の画
像を加算し、平均化する手段とからなることを特徴とす
る画像信号処理装置である。
According to a first aspect of the present invention, there is provided an image pickup device for sequentially picking up a predetermined number of n images, and an image pickup device for detecting two images temporally adjacent to each other among the n images. 1 /
An image signal comprising: means for detecting a positional shift with accuracy of m pixels; means for correcting the detected positional shift; and means for adding and averaging the n images corrected for the positional shift. Processing device.

【0006】請求項3に記載の発明は、予め設定された
n枚の画像を順次撮像する撮像素子と、n枚の画像をそ
れぞれ記録する記録媒体と、記録媒体から読み出したn
枚の画像中、時間的に隣り合う2枚の画像を1/m画素
の精度で位置ずれを検出する手段と、検出した位置ずれ
を補正する手段と、位置ずれを補正したn枚の画像を加
算し、平均化する手段とからなることを特徴とする画像
信号処理装置である。
According to a third aspect of the present invention, there is provided an image pickup device for sequentially picking up a predetermined number of n images, a recording medium for recording each of the n images, and an n image read from the recording medium.
A means for detecting a positional shift between two images temporally adjacent to each other with a precision of 1 / m pixel, a means for correcting the detected positional shift, and an image for correcting the positional shift of n images. And an averaging means.

【0007】請求項13に記載の発明は、予め設定され
たn枚の画像を撮像素子で順次撮像し、n枚の画像中、
時間的に隣り合う2枚の画像を1/m画素の精度で位置
ずれを検出し、検出した位置ずれを補正し、位置ずれを
補正したn枚の画像を加算し、平均化するようにしたこ
とを特徴とする画像信号処理方法である。
According to a thirteenth aspect of the present invention, a predetermined number of images are sequentially picked up by an image sensor, and the n images are
A positional shift between two temporally adjacent images is detected with an accuracy of 1 / m pixel, the detected positional shift is corrected, and the n images corrected for the positional shift are added and averaged. An image signal processing method characterized in that:

【0008】請求項14に記載の発明は、予め設定され
たn枚の画像を撮像素子で順次撮像し、n枚の画像をそ
れぞれ記録し、記録媒体から読み出したn枚の画像中、
時間的に隣り合う2枚の画像を1/m画素の精度で位置
ずれを検出し、検出した位置ずれを補正し、位置ずれを
補正したn枚の画像を加算し、平均化するようにしたこ
とを特徴とする画像信号処理方法である。
According to a fourteenth aspect of the present invention, a predetermined number of images are sequentially picked up by an image sensor, and the n images are respectively recorded, and among the n images read from the recording medium,
A positional shift between two temporally adjacent images is detected with an accuracy of 1 / m pixel, the detected positional shift is corrected, and the n images corrected for the positional shift are added and averaged. An image signal processing method characterized in that:

【0009】撮影された画像信号P1と、その次のフレ
ームで撮影された画像信号P2とを1/m画素の精度で
位置合わせするために、m倍に拡大し、位置検出回路に
よって、画像信号P1に対して画像信号P2の位置が検
出される。その検出結果から画素ずらし補間、画像変
形、さらにn枚の画像信号の画素単位の位置合わせが行
われる。n枚の画像信号が合成された後、平均化のため
nで割られた後、さらに高域強調フィルタが施される。
これらの画像処理がリアルタイムで施される。
In order to align the photographed image signal P1 and the image signal P2 photographed in the next frame with an accuracy of 1 / m pixel, the image signal P1 is enlarged by m times, and the position of the image signal P1 is adjusted by a position detecting circuit. The position of the image signal P2 is detected with respect to P1. Based on the detection result, pixel shift interpolation, image deformation, and positioning of n image signals in pixel units are performed. After the n pieces of image signals are combined, divided by n for averaging, a high-frequency emphasis filter is further applied.
These image processes are performed in real time.

【0010】[0010]

【発明の実施の形態】以下、この発明の実施形態につい
て図面を参照して説明する。図1は、この発明が適用さ
れた第1の実施形態の全体的構成を示す。1で示すレン
ズ群を介して入射された被写体の像がCCD撮像素子2
へ供給される。レンズ群1は、シスコン(システムコン
トローラ)9によって、ズーム制御およびフォーカス制
御が行われる。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 shows an overall configuration of a first embodiment to which the present invention is applied. The image of the subject incident through the lens group indicated by 1 is a CCD image sensor 2
Supplied to The lens group 1 is subjected to zoom control and focus control by a system controller (system controller) 9.

【0011】CCD撮像素子2では、被写体からの入射
光が電荷として蓄積される。CCD撮像素子2は、シス
コン9によって、電子シャッタのオン/オフが制御され
る。これによって、CCD撮像素子2の電子シャッタが
駆動され、供給された被写体の像が取り込まれる。取り
込まれた被写体の像は、A/D変換器(図示せず)によ
りディジタル化され、ディジタル撮像信号(以下、画像
信号と称する)として、画像処理回路3へ供給される。
画像処理回路3へ供給された画像信号は、一旦画像メモ
リ4に記憶される。
In the CCD image pickup device 2, incident light from a subject is accumulated as electric charges. On / off of the electronic shutter of the CCD image pickup device 2 is controlled by the system controller 9. Thus, the electronic shutter of the CCD imaging device 2 is driven, and the supplied image of the subject is captured. The captured image of the subject is digitized by an A / D converter (not shown) and supplied to the image processing circuit 3 as a digital image signal (hereinafter, referred to as an image signal).
The image signal supplied to the image processing circuit 3 is temporarily stored in the image memory 4.

【0012】画像メモリ4は、少なくとも枚数設定キー
10によって、撮影する枚数が設定されるフィールドま
たはフレームの画像信号を記憶する容量を有する。画像
処理回路3では、後述するように、画像メモリ4に記憶
された複数の画像信号の合成処理がリアルタイムで順次
行われる。この画像処理回路3は、シスコン9によって
制御される。画像処理回路3で合成された合成画像信号
は、圧縮回路5へ供給される。圧縮回路5へ供給された
合成画像信号は、一旦画像メモリ4へ供給される。
The image memory 4 has a capacity for storing an image signal of a field or frame in which the number of images to be taken is set by at least the number setting key 10. In the image processing circuit 3, as described later, a synthesis process of a plurality of image signals stored in the image memory 4 is sequentially performed in real time. The image processing circuit 3 is controlled by the system controller 9. The synthesized image signal synthesized by the image processing circuit 3 is supplied to the compression circuit 5. The composite image signal supplied to the compression circuit 5 is supplied to the image memory 4 once.

【0013】画像メモリ4に記憶された合成画像信号
は、圧縮回路5によって圧縮処理が施される。一例とし
て、静止画として記憶された合成画像信号に対してJP
EG(Joint Photographic Experts Group)が施され
る。生成された圧縮画像信号に対して、シスコン9から
供給されるサブデータが付加される。このサブデータ
は、例えば日付、時刻、フォーカス状態、シャッタ速
度、絞りの状態、総枚数、何枚目、光軸の方向、・・・
等の画像信号が撮影されたときの情報である。
The composite image signal stored in the image memory 4 is subjected to compression processing by a compression circuit 5. As an example, the combined image signal stored as a still image is JP
EG (Joint Photographic Experts Group) is administered. Sub data supplied from the system controller 9 is added to the generated compressed image signal. The sub data includes, for example, date, time, focus state, shutter speed, aperture state, total number, number of sheets, direction of optical axis,.
And the like when the image signal is captured.

【0014】サブデータが付加された圧縮画像信号は、
記録媒体6に供給される。記録媒体6に供給された圧縮
画像信号とサブデータは、シスコン9の制御に従って記
録される。この記録媒体6の一例として、磁気テープ、
磁気ディスク、光磁気ディスクまたは半導体メモリなど
の中から適宜選択された記録媒体が用いられる。
The compressed image signal to which the sub data is added is
The recording medium 6 is supplied. The compressed image signal and the sub data supplied to the recording medium 6 are recorded under the control of the system controller 9. As an example of the recording medium 6, a magnetic tape,
A recording medium appropriately selected from a magnetic disk, a magneto-optical disk, a semiconductor memory, and the like is used.

【0015】操作キー系からの指定に応じたシスコン9
の制御によって、記録媒体6から圧縮画像信号が読み出
される。読み出された圧縮画像信号は、伸張回路7を介
して一旦画像メモリ4へ記憶され、伸張回路7によっ
て、伸張処理が施される。すなわち、この伸張回路7で
は、JPEGの復号がなされる。さらに、圧縮画像信号
から分離されたサブデータがシスコン9へ供給される。
供給されたサブデータから日付、時刻、フォーカス状
態、シャッタ速度、絞りの状態、総枚数、何枚目、光軸
の方向、・・・等の情報が読み取られる。伸張された画
像信号は、伸張回路7から表示回路8へ供給される。
System controller 9 according to designation from operation key system
, The compressed image signal is read from the recording medium 6. The read compressed image signal is temporarily stored in the image memory 4 via the decompression circuit 7, and is subjected to decompression processing by the decompression circuit 7. That is, the decompression circuit 7 performs JPEG decoding. Further, the sub data separated from the compressed image signal is supplied to the system controller 9.
Information such as date, time, focus state, shutter speed, aperture state, total number of sheets, number of sheets, direction of optical axis,... Is read from the supplied sub-data. The expanded image signal is supplied from the expansion circuit 7 to the display circuit 8.

【0016】上述した画像メモリ4は、複数の画像信号
に対して画像処理を施す場合、合成画像信号に対して圧
縮を施す場合、および圧縮画像信号を伸張する場合に用
いられる。このとき、画像処理が施される領域と、圧縮
が施される領域と、伸張が施される領域とをアドレスに
よって分けるようにしても良いし、記憶された信号に画
像処理用のフラグ、圧縮用のフラグまたは伸張用のフラ
グを付けるようにしても良い。また、画像処理用のメモ
リ、圧縮用のメモリおよび伸張用のメモリを別々に設け
るようにしても良い。
The above-mentioned image memory 4 is used when performing image processing on a plurality of image signals, when performing compression on a composite image signal, and when expanding a compressed image signal. At this time, the area where the image processing is performed, the area where the compression is performed, and the area where the expansion is performed may be divided according to the address, or a flag for image processing, a compression A flag for expansion or a flag for expansion may be added. Further, a memory for image processing, a memory for compression, and a memory for decompression may be separately provided.

【0017】ここで、上述した画像処理回路3を図2を
用いて説明する。CCD撮像素子2から供給される画像
信号は、入力端子11から入力される。入力された画像
信号は、入力画像メモリ12へ供給される。入力画像メ
モリ12には、撮影されたばかりの現画像信号が記憶さ
れる。そして、バッファメモリ13には、1フレーム前
の画像信号が記憶される。一例として、入力画像メモリ
12およびバッファメモリ13は、8ビットのVGA
(Video Graphics Array)規格の容量である。
Here, the above-described image processing circuit 3 will be described with reference to FIG. An image signal supplied from the CCD image sensor 2 is input from an input terminal 11. The input image signal is supplied to the input image memory 12. The input image memory 12 stores the current image signal that has just been shot. Then, the buffer memory 13 stores the image signal of the previous frame. As an example, the input image memory 12 and the buffer memory 13 are an 8-bit VGA
(Video Graphics Array) standard capacity.

【0018】位置検出回路14では、1フレーム前の画
像信号に対して現画像信号はどのような位置にあるか、
さらにどのような幾何学的な変形を受けているかが調べ
られる。この位置検出回路14は、拡大補間回路15、
17、ブロック毎の位置検出回路16および処理演算回
路18から構成される。現画像信号は、拡大補間回路1
5へ供給され、2倍〜8倍に拡大される。1フレーム前
の画像信号は、拡大補間回路17へ供給され、2倍〜8
倍に拡大される。拡大された現画像信号および1フレー
ム前の画像信号は、ブロック毎の位置検出回路16へ供
給される。このとき、小さいブロック毎に処理を行うの
で、拡大補間回路17は、ブロックサイズだけあれば良
く、拡大補間回路15は、サーチ範囲を必要とするため
拡大補間回路17より広いサイズが必要である。
The position detection circuit 14 determines the position of the current image signal with respect to the image signal of one frame before,
Further, it is examined what kind of geometric deformation has been caused. This position detection circuit 14 includes an enlargement interpolation circuit 15,
17, a position detection circuit 16 for each block and a processing operation circuit 18. The current image signal is input to the enlargement interpolation circuit 1
5 and is magnified 2 to 8 times. The image signal of one frame before is supplied to the enlargement interpolation circuit 17, and is multiplied by 2 to 8
It is enlarged twice. The enlarged current image signal and the image signal one frame before are supplied to the position detection circuit 16 for each block. At this time, since the processing is performed for each small block, the enlargement interpolation circuit 17 only needs to have a block size, and the enlargement interpolation circuit 15 needs a search range and thus needs a wider size than the enlargement interpolation circuit 17.

【0019】ブロック毎の位置検出回路16では、1画
素の1/2〜1/8の精度でブロック毎の位置が検出さ
れる。このとき、あるブロック内の画像が平坦な場合、
位置検出が不可能である。よって、ブロックのバリアン
スVaを計算し、バリアンスが小さいときには、そのブ
ロックを位置検出に使用しないようにする。バリアンス
Vaの計算は、 Va=Σ(yi 2 )/K−(Σ(yi /K))2 但し、yi :輝度値、K:ブロック内の画素数とする。
The position detection circuit 16 for each block detects the position of each block with an accuracy of 1/2 to 1/8 of one pixel. At this time, if the image in a certain block is flat,
Position detection is not possible. Therefore, the variance Va of a block is calculated, and when the variance is small, the block is not used for position detection. The variance Va is calculated as follows: Va = Σ (yi 2 ) / K − (− (yi / K)) 2 where yi is the luminance value and K is the number of pixels in the block.

【0020】処理演算回路18では、ブロック番号をi
とし、ブロック毎に縦横の平行移動成分が求められる。
求められた縦方向の平行移動成分をy〔i〕とし、横方
向の平行移動成分をx〔i〕とする。多くのブロックに
ついて、x〔i〕およびy〔i〕からそれぞれ同じ値を
得た場合、画面全体が平行移動したものと見做され、画
像の変形は行わない。もし、画像信号の左のy〔i〕に
対して同じ画像信号の右のy〔i〕が大きい場合、画像
信号は右上がりに傾斜していることが分かる。もし、画
像信号の左のx〔i〕に対して同じ画像信号の右のx
〔i〕が大きい場合、画像信号は左右に伸びていること
が分かる。
In the processing operation circuit 18, the block number is set to i
The horizontal and vertical translation components are obtained for each block.
The obtained vertical translation component is y [i], and the horizontal translation component is x [i]. If the same value is obtained from x [i] and y [i] for many blocks, it is considered that the entire screen has been translated and the image is not deformed. If y [i] on the right side of the same image signal is larger than y [i] on the left side of the image signal, it can be understood that the image signal is inclined upward to the right. If x [i] on the left of the image signal is x on the right of the same image signal
When [i] is large, it can be seen that the image signal extends right and left.

【0021】このようにして、少なくとも画像信号内の
できるだけ離れた4点の平行移動成分から回転、伸縮お
よび台形歪みなどの種々の変形係数を検出することがで
きる。この処理演算回路18で検出された位置データ
は、1画素を超える整数成分と、1画素未満の小数成分
とを持っている。検出された位置データの整数成分は、
出力画像メモリ23へ供給され、小数成分は、画素ずら
し補間回路20へ供給される。また、処理演算回路18
で検出された画像変形係数は、画像変形回路21へ供給
される。
In this manner, various deformation coefficients such as rotation, expansion and contraction, and trapezoidal distortion can be detected from at least four parallel movement components in the image signal as far apart as possible. The position data detected by the processing operation circuit 18 has an integer component exceeding one pixel and a decimal component less than one pixel. The integer component of the detected position data is
The decimal component is supplied to the output image memory 23, and the decimal component is supplied to the pixel shift interpolation circuit 20. The processing operation circuit 18
Is supplied to the image transformation circuit 21.

【0022】画素ずらし補間回路20では、供給された
小数成分に応じてバッファメモリ13から供給された画
像信号に対して画素ずらし補間が施される。例えば、位
置検出回路14で3.7画素分水平方向にずれていると
判断された場合、この画素ずらし補間回路20には、位
置検出回路14から小数成分の0.7が供給される。そ
こで、画素ずらし補間回路20では、加重平均によっ
て、画素Aから画素Bの方向へ0.7画素ずれた位置に
画素Cが生成される。この一例では、 A×(1−0.7)+B×0.7=C から画素Cが生成される。このようにして、供給された
画像信号に対して0.7画素ずらしが施され、0.7画
素ずらされた画像信号が新たに生成される。新たに生成
された画像信号は、画素ずらし補間回路20から画像変
形回路21へ供給される。
The pixel shift interpolation circuit 20 performs pixel shift interpolation on the image signal supplied from the buffer memory 13 according to the supplied decimal component. For example, if the position detection circuit 14 determines that the pixel is shifted by 3.7 pixels in the horizontal direction, the pixel shift interpolation circuit 20 is supplied with 0.7 as a decimal component from the position detection circuit 14. Therefore, the pixel shift interpolation circuit 20 generates the pixel C at a position shifted by 0.7 pixels from the pixel A to the pixel B by the weighted average. In this example, the pixel C is generated from A × (1−0.7) + B × 0.7 = C. In this way, the supplied image signal is shifted by 0.7 pixels, and an image signal shifted by 0.7 pixels is newly generated. The newly generated image signal is supplied from the pixel shift interpolation circuit 20 to the image transformation circuit 21.

【0023】画像変形回路21では、供給された画像変
形係数に応じて、画素ずらし補間が施された画像信号に
対して画像変形、例えば回転、伸縮および台形歪みなど
が施される。画像変形が施された画像信号は、画像変形
回路21から加算回路22へ供給される。
The image transformation circuit 21 performs image transformation such as rotation, expansion and contraction, and trapezoidal distortion on the image signal subjected to the pixel shift interpolation in accordance with the supplied image transformation coefficient. The image signal subjected to the image transformation is supplied from the image transformation circuit 21 to the addition circuit 22.

【0024】加算回路22では、出力画像メモリ23か
らの画像信号と、画像変形回路21からの画像信号との
加算が行われる。加算された画像信号は、出力画像メモ
リ23に供給される。
The addition circuit 22 adds the image signal from the output image memory 23 and the image signal from the image transformation circuit 21. The added image signal is supplied to the output image memory 23.

【0025】出力画像メモリ23では、位置検出回路1
4から供給される整数成分のずれを補正するように、画
像信号が書き込まれる。例えば、位置検出回路14で
3.7画素分水平方向にずれていると判断された場合、
この出力画像メモリ23には、位置検出回路14から整
数成分の3が供給される。その整数成分の3のずれを補
正するように、出力画像メモリ23では、画素Aから画
素Bの方向へ3画素ずれた位置となるように、画像信号
が書き込まれる。すなわち、画素ずらし補間回路20で
0.7画素ずらされ、この出力画像メモリ23で3画素
ずらされる。これによって、水平方向に3.7画素ずれ
ている次のフレームの画像信号と、記憶している画像信
号との位置合わせが行われる。位置合わせが行われた記
憶している画像信号と、次のフレームの画像信号とは、
上述したように加算回路22で加算される。
In the output image memory 23, the position detecting circuit 1
The image signal is written so as to correct the deviation of the integer component supplied from the step S4. For example, if the position detection circuit 14 determines that the pixel is horizontally shifted by 3.7 pixels,
The output image memory 23 is supplied with the integer component 3 from the position detection circuit 14. In the output image memory 23, an image signal is written so as to be shifted from the pixel A to the pixel B by 3 pixels so as to correct the shift of 3 of the integer component. That is, the pixel is shifted by 0.7 pixels in the pixel shift interpolation circuit 20, and is shifted by 3 pixels in the output image memory 23. As a result, the image signal of the next frame which is shifted by 3.7 pixels in the horizontal direction is aligned with the stored image signal. The stored image signal having undergone the alignment and the image signal of the next frame are:
The addition is performed by the addition circuit 22 as described above.

【0026】この一例では、2秒で60枚の画像信号の
加算が可能であり、加算される枚数が64枚以下の場
合、出力画像メモリ23は、14ビットのVGA規格に
合った容量である。加算された画像信号は、出力画像メ
モリ23から加算回路22および除算回路24へ供給さ
れる。
In this example, 60 image signals can be added in 2 seconds, and when the number of added images is 64 or less, the output image memory 23 has a capacity conforming to the 14-bit VGA standard. . The added image signal is supplied from the output image memory 23 to the addition circuit 22 and the division circuit 24.

【0027】除算回路24では、n枚加算された画像信
号をnで割り、画像信号が平均化される。平均化された
画像信号は、除算回路24から高域強調フィルタ25へ
供給される。高域強調フィルタ25では、供給された画
像信号がより鮮明な画像信号に仕上げられ、S/Nの良
い静止画が得られる。一例として、高域強調フィルタ2
5は、HBF(ハイブーストフィルタ)から構成され
る。鮮明に仕上げられた画像信号は、出力端子26を介
して圧縮回路5へ供給される。
In the dividing circuit 24, the image signals obtained by adding n images are divided by n, and the image signals are averaged. The averaged image signal is supplied from the division circuit 24 to the high-frequency emphasis filter 25. In the high-frequency emphasis filter 25, the supplied image signal is finished into a clearer image signal, and a still image with a good S / N is obtained. As an example, a high-frequency emphasis filter 2
5 is composed of an HBF (High Boost Filter). The sharply finished image signal is supplied to the compression circuit 5 via the output terminal 26.

【0028】このように、位置合わせを行う画像信号
は、静止画であり互いに相関を有する。また、複数の画
像信号のノイズは、ランダムであって相関がない。従っ
て、複数の画像信号を加算し、平均化することによっ
て、ノイズがキャンセルされるので、S/Nが向上す
る。画素ずらし補間を行うときに、さらに複数の画像信
号を合成するときに、元の画像信号の画素と異なる位置
の画素の情報を持つので、解像度が向上する。
As described above, the image signals to be aligned are still images and have a correlation with each other. Further, noises of a plurality of image signals are random and have no correlation. Therefore, noise is canceled by adding and averaging a plurality of image signals, so that S / N is improved. When performing pixel-shift interpolation and further synthesizing a plurality of image signals, the information of a pixel at a position different from the pixel of the original image signal is stored, so that the resolution is improved.

【0029】上述した入力画像メモリ12およびバッフ
ァメモリ13の画像サイズは、どちらも入力画像の1枚
分+αとしても良い。例えば、α=0.2の場合、水平
画素が764となり、垂直画素が576となる。入力画
像メモリ12およびバッファメモリ13の画像信号のビ
ット数は、どちらも入力画像と同じで良い。例えば、8
ビット×3色で良い。
The image sizes of the input image memory 12 and the buffer memory 13 may be set to one input image + α. For example, when α = 0.2, the number of horizontal pixels is 764 and the number of vertical pixels is 576. The number of bits of the image signals in the input image memory 12 and the buffer memory 13 may be the same as that of the input image. For example, 8
Bit x 3 colors is sufficient.

【0030】また、出力画像メモリ23の画像サイズ
は、入力画像の1枚分としても良い。出力画像メモリ2
3の画像信号のビット数は、加算する画像信号の枚数に
依存し、枚数が2倍になる毎に1ビット増加する。例え
ば、加算する画像信号の枚数が16枚なら12ビット×
3色となり、64枚なら14ビット×3色となるので、
16ビット×3色のビット数があれば、256枚の画像
信号を加算することができる。加算する画像信号の枚数
は、除算の都合から2のべき乗が良い。
The image size of the output image memory 23 may be one input image. Output image memory 2
The number of bits of the image signal of No. 3 depends on the number of image signals to be added, and increases by one bit every time the number of images is doubled. For example, if the number of image signals to be added is 16, 12 bits ×
It becomes 3 colors, and if it is 64 sheets, it will be 14 bits × 3 colors, so
If there are 16 bits × 3 color bits, 256 image signals can be added. The number of image signals to be added is preferably a power of 2 for convenience of division.

【0031】ここで、タイミングチャートを図3に示
す。図3Aに示すように、シャッタが押されると、図3
Bに示すように、CCD撮像素子2から静止画となる画
像信号が毎フレーム連続的に出力される。図3Cに示す
ように、出力された画像信号P1は、入力画像メモリ1
2に記憶される。そして、図3Dに示すように、次のフ
レームで画像信号P1は、バッファメモリ13に記憶さ
れる。
Here, a timing chart is shown in FIG. When the shutter is pressed, as shown in FIG.
As shown in B, an image signal that becomes a still image is continuously output from the CCD image pickup device 2 for each frame. As shown in FIG. 3C, the output image signal P1 is stored in the input image memory 1
2 is stored. Then, as shown in FIG. 3D, the image signal P1 is stored in the buffer memory 13 in the next frame.

【0032】そして、入力画像メモリ12に画像信号P
2が記憶され、バッファメモリ13に画像信号P1が記
憶されているときに、位置検出回路14では、画像信号
P2に対して画像信号P1の位置が検出される。図3E
に示すように、位置検出の検出結果は、整数成分、小数
成分および画像変形係数からなり、上述したように整数
成分は出力画像メモリ23へ供給され、小数成分は画素
ずらし補間回路20へ供給され、画像変形係数は画像変
形回路21へ供給される。
Then, the image signal P is stored in the input image memory 12.
2 is stored, and when the image signal P1 is stored in the buffer memory 13, the position detection circuit 14 detects the position of the image signal P1 with respect to the image signal P2. FIG. 3E
As shown in the figure, the detection result of the position detection includes an integer component, a decimal component, and an image deformation coefficient. As described above, the integer component is supplied to the output image memory 23, and the decimal component is supplied to the pixel shift interpolation circuit 20. , And the image transformation coefficient are supplied to the image transformation circuit 21.

【0033】図3Fに示すように、その検出結果に基づ
いて、画素ずらし補間回路20および画像変形回路21
において、画像信号に処理が施される。そして、図3G
に示すように、出力画像メモリ23に、処理が施された
画像が記憶される。このとき、上述したように位置検出
の検出結果の整数成分に基づいて出力画像メモリ23へ
の画像信号の書き込みを制御することによって、位置合
わせが行われ、複数の画像信号が合成される。
As shown in FIG. 3F, based on the detection result, the pixel shift interpolation circuit 20 and the image transformation circuit 21
In, the image signal is processed. And FIG. 3G
As shown in (1), the processed image is stored in the output image memory 23. At this time, by controlling the writing of the image signal to the output image memory 23 based on the integer component of the detection result of the position detection as described above, the positioning is performed, and a plurality of image signals are synthesized.

【0034】このように、予め指定した枚数、この一例
では、4枚の画像信号の合成が終了した後、図3Hに示
すように、合成画像信号が除算回路24および高域強調
フィルタ25へ供給され、処理が施される。
As described above, after the synthesis of the predetermined number of image signals, in this example, four image signals, is completed, the synthesized image signal is supplied to the division circuit 24 and the high-frequency emphasis filter 25 as shown in FIG. 3H. And processing is performed.

【0035】ここで、この発明が適用された第2の実施
形態の全体的構成を図4に示す。この第2の実施形態
は、画像処理をソフトウェアで行う一例である。上述し
た第1の実施形態と同様のブロックには、同じ符号を付
し、その説明を省略する。スイッチ回路31では、シス
コン9に含まれる画像処理回路34から出力される合成
画像信号と、CCD撮像素子2からの画像信号とから何
れか1つが選択される。スイッチ回路31で選択された
合成画像信号または画像信号は、圧縮回路5およびスイ
ッチ回路32へ供給される。
FIG. 4 shows the overall configuration of the second embodiment to which the present invention is applied. The second embodiment is an example in which image processing is performed by software. The same blocks as those in the first embodiment described above are denoted by the same reference numerals, and description thereof will be omitted. The switch circuit 31 selects one of a composite image signal output from the image processing circuit 34 included in the system controller 9 and an image signal from the CCD image sensor 2. The composite image signal or image signal selected by the switch circuit 31 is supplied to the compression circuit 5 and the switch circuit 32.

【0036】スイッチ回路32では、伸張回路7で再生
される合成画像信号または画像信号と、スイッチ回路3
1を介して供給される合成画像信号または画像信号とか
ら何れか1つが選択される。選択された合成画像信号ま
たは画像信号は、出力端子33を介して外部のモニタに
出力されると共に、表示回路8に供給される。
In the switch circuit 32, the composite image signal or image signal reproduced by the decompression circuit 7 and the switch circuit 3
1 is selected from the composite image signal or the image signal supplied via the control unit 1. The selected synthesized image signal or image signal is output to an external monitor via the output terminal 33 and is also supplied to the display circuit 8.

【0037】また、伸張回路7から出力される複数の画
像信号は、画像処理部34およびデータ変換回路35へ
供給される。画像処理部34では、上述した画像処理回
路3と同じような画像処理がソフトウェアにて施され
る。データ変換回路35では、出力端子36を介して外
部のパソコン(パーソナルコンピュータ)へ出力して、
パソコンで受け取れるように画像信号が変換される。
A plurality of image signals output from the expansion circuit 7 are supplied to an image processing unit 34 and a data conversion circuit 35. In the image processing unit 34, image processing similar to that of the image processing circuit 3 described above is performed by software. The data conversion circuit 35 outputs the data to an external personal computer (personal computer) via an output terminal 36,
The image signal is converted so that it can be received by a personal computer.

【0038】このように、n枚の画像信号が撮影と同時
に全て記録媒体6に記録される。シスコン9で画像処理
を行う場合、上述した図2の画像処理回路のブロック図
に示すハードウェアの場合と同様の処理を行い、処理が
終了した画像信号が再び記録媒体6の別の領域に記録さ
れる。外部のパソコンで画像処理を行う場合、全ての画
像信号をパソコンに転送し、ハードウェアの場合と同様
の処理を行い、その結果がパソコンのハードディスクな
どに記録される。
As described above, all the n image signals are recorded on the recording medium 6 simultaneously with the photographing. When image processing is performed by the system controller 9, processing similar to that of the hardware shown in the block diagram of the image processing circuit in FIG. 2 described above is performed, and the processed image signal is recorded again in another area of the recording medium 6. Is done. When image processing is performed by an external personal computer, all image signals are transferred to the personal computer, and the same processing as in the case of hardware is performed, and the result is recorded on a hard disk of the personal computer.

【0039】上述した複数の画像信号毎に光軸の方向を
変える制御の一例を説明する。第1の方法は、ディジタ
ルカメラを手持ちすることによって、手振れに応じて光
軸の方向を変える手法である。このとき、レンズ群1に
光軸の方向を制御できる光軸可変素子が含まれている場
合、その制御は何等必要としない。第2の方法は、撮影
するn枚の画像信号のそれぞれの光軸の方向を異なる角
度となるように、レンズ群1に含まれる光軸可変素子を
制御する手法である。第3の方法は、レンズ群1に含ま
れる光軸可変素子を用いて、手振れ補正のみの制御を行
い、その誤差を画素ずらしとすることによって、光軸の
方向を変えたときと同じ効果を得ることができる手法で
ある。第4の方法は、手振れ補正の制御と、撮影するn
枚の画像信号の光軸の方向を異なる角度となるように光
軸可変素子を制御する手法である。この4つの方法の中
の1つが適宜選択され、複数の画像信号が撮影される。
An example of control for changing the direction of the optical axis for each of the plurality of image signals will be described. A first method is to change the direction of the optical axis in response to camera shake by holding a digital camera. At this time, if the lens group 1 includes an optical axis variable element that can control the direction of the optical axis, no control is required. The second method is a method of controlling the optical axis variable element included in the lens group 1 so that the directions of the optical axes of the n image signals to be photographed are at different angles. The third method uses the optical axis variable element included in the lens group 1 to control only camera shake correction, and shifts the error to a pixel, thereby achieving the same effect as changing the direction of the optical axis. It is a technique that can be obtained. The fourth method is to control camera shake correction and to perform shooting n
This is a technique for controlling the optical axis variable element so that the directions of the optical axes of the image signals of the sheets become different angles. One of the four methods is appropriately selected, and a plurality of image signals are captured.

【0040】ここで、図5を用いて手振れ補正を説明す
る。角速度センサ41Xおよび41Yで検出された検出
結果がシスコン9に含まれる手振れ補正部42へ供給さ
れる。手振れ補正部42では、供給された検出結果に基
づいてレンズ群1に含まれる光軸可変素子を駆動させ
る。すなわち、ディジタルカメラの動く方向と逆の方向
に光軸を変化させることによって、手振れ補正が行われ
る。
Here, the camera shake correction will be described with reference to FIG. The detection results detected by the angular velocity sensors 41X and 41Y are supplied to a camera shake correction unit 42 included in the system controller 9. The camera shake correction unit 42 drives the optical axis variable element included in the lens group 1 based on the supplied detection result. That is, camera shake correction is performed by changing the optical axis in the direction opposite to the direction in which the digital camera moves.

【0041】三脚などでディジタルカメラが支えられて
いる場合には、光軸の方向がぶれることはないが、手持
ちでディジタルカメラを支えている場合には、手振れが
起こるときがある。この手振れを抑えるために、上述し
たようにレンズ群1に光軸の方向を変化させることがで
きる光軸可変素子を含むようにしても良い。
When the digital camera is supported by a tripod or the like, the direction of the optical axis does not change. However, when the digital camera is supported by hand, camera shake may occur. In order to suppress this camera shake, as described above, the lens group 1 may include an optical axis variable element that can change the direction of the optical axis.

【0042】この光軸変化素子の第1の例を図6に示
す。この図6は、複数のレンズからなるレンズ群1の中
に光軸可変素子となるシフトレンズを設けた一例であ
る。通常、シフトレンズは、図6中に点線で示す位置P
1に配置される。位置A1の被写体は、位置P1のシフ
トレンズを介してCCD撮像素子2上の位置A1’に投
射される。被写体がCCD撮像素子2上の位置A1’に
投射されているときに、例えばディジタルカメラが下を
向いたとき、被写体はCCD撮像素子2上の位置A2’
に投射される。すなわち、ディジタルカメラから見た場
合、被写体が位置A1から位置A2に移動したようにな
る。このようなとき、ディジタルカメラの移動を角速度
センサによって検出し、検出された移動量に応じてシフ
トレンズを実線で示す位置P2へ移動させる。シフトレ
ンズを位置P2へ移動させることによって、ディジタル
カメラが下を向く前と同じ位置A1’に位置A2の被写
体が投射される。このシフトレンズを用いて手振れ補正
を行うことができる。
FIG. 6 shows a first example of this optical axis changing element. FIG. 6 is an example in which a shift lens serving as an optical axis variable element is provided in a lens group 1 including a plurality of lenses. Normally, the shift lens is located at a position P indicated by a dotted line in FIG.
1 The subject at the position A1 is projected onto the position A1 ′ on the CCD 2 via the shift lens at the position P1. When the subject is being projected onto the position A1 ′ on the CCD image sensor 2, for example, when the digital camera is facing downward, the subject is moved onto the position A2 ′ on the CCD image sensor 2.
Is projected to That is, when viewed from the digital camera, the subject moves from the position A1 to the position A2. In such a case, the movement of the digital camera is detected by the angular velocity sensor, and the shift lens is moved to the position P2 indicated by the solid line according to the detected movement amount. By moving the shift lens to the position P2, the subject at the position A2 is projected at the same position A1 'as before the digital camera turned downward. Camera shake correction can be performed using this shift lens.

【0043】さらに、光軸可変素子の第2の例として、
アクティブプリズムの概略図を図7に示し、簡単に説明
する。このアクティブプリズムは、前面ガラス51と後
面ガラス52の間を蛇腹53でつないだものである。こ
の2枚のガラスの間に高屈折率nの液体54が封入され
ている。2枚のガラスには、それぞれ縦と横に、回転軸
を設け、自由に動作するようにしたものである。このア
クティブプリズムを光軸可変素子として使用することに
よって、光軸が縦と横に曲げられる。
Further, as a second example of the optical axis variable element,
A schematic diagram of the active prism is shown in FIG. 7 and will be described briefly. In this active prism, a front glass 51 and a rear glass 52 are connected by bellows 53. A liquid 54 having a high refractive index n is sealed between the two glasses. Each of the two glasses is provided with a rotation axis vertically and horizontally so that the glass can freely operate. By using this active prism as an optical axis variable element, the optical axis can be bent vertically and horizontally.

【0044】このときの液体54は、 (1) 前面ガラス51および後面ガラス52と屈折率nが
近い物質 (2) カメラの動作温度範囲で凍結などの異常が生じない
物質 (3) 万一破損し、液体54が流出しても人体には無害な
物質 この3つの条件を満たす必要がある。
The liquid 54 at this time is (1) a substance having a refractive index n close to that of the front glass 51 and the rear glass 52 (2) a substance which does not cause abnormalities such as freezing in the operating temperature range of the camera (3) Even if the liquid 54 flows out, the substance is harmless to the human body.

【0045】このアクティブプリズムの動作を簡単に説
明する。前面ガラス51は、例えば水平の軸で保持さ
れ、後面ガラス52は、例えば垂直の軸で保持され、そ
れぞれ軸のまわりを独立に回転できる。その回転軸に
は、可動コイルが取り付けられる。コイルに流れる電流
によって回転角(頂角)が決められる。例えば、手振れ
によって、カメラが上を向いたとき、図7Aに示すアク
ティブプリズムの状態から図7Bに示すアクティブプリ
ズムの状態へ変化する。
The operation of the active prism will be briefly described. The front glass 51 is held, for example, on a horizontal axis, and the rear glass 52 is held, for example, on a vertical axis, and can rotate independently around each axis. A movable coil is attached to the rotating shaft. The rotation angle (vertical angle) is determined by the current flowing through the coil. For example, when the camera is turned upward due to camera shake, the state of the active prism shown in FIG. 7A changes to the state of the active prism shown in FIG. 7B.

【0046】具体的には、図7Aに示すように、2枚の
ガラス板が平行なときには、アクティブプリズムに入射
した光線は直進する。ここで、手振れが発生し、2枚の
ガラス板が平行位置からある角度だけ回転したとする
と、アクティブプリズム内部の屈折率nにより、入射し
た光線が出射するときには、図7Bに示すように、屈折
する。
Specifically, as shown in FIG. 7A, when the two glass plates are parallel, the light beam incident on the active prism goes straight. Here, if camera shake occurs and the two glass plates are rotated by a certain angle from the parallel position, the refraction index n inside the active prism causes a refraction as shown in FIG. I do.

【0047】また、光軸可変素子の第3の例を図8に示
す。この図8に示す光軸可変素子の第3の例は、アクテ
ィブミラーであり、レンズ群1に含まれず、レンズ群1
の前に配置される。図8Aは、この2軸アクティブミラ
ーを正面から見た概略図であり、図8Bは、図8A中の
A−A’の断面図であり、図8Cは、可動フレームに設
けられる磁気回路の概略図であり、図8Dは、軸に設け
られた磁気センサの概略図である。
FIG. 8 shows a third example of the variable optical axis element. The third example of the optical axis variable element shown in FIG. 8 is an active mirror, which is not included in the lens group 1 and is not included in the lens group 1.
Placed before the 8A is a schematic view of the two-axis active mirror as viewed from the front, FIG. 8B is a cross-sectional view of AA ′ in FIG. 8A, and FIG. 8C is a schematic view of a magnetic circuit provided on the movable frame. FIG. 8D is a schematic view of a magnetic sensor provided on a shaft.

【0048】図8Aに示すように、楕円形のミラー81
の長径に沿って軸82が設けられる。軸82は、可動フ
レーム83と結合され、その可動フレーム83の一面に
は、ミラー81が取り付けられる。ミラー81の短径に
沿ってミラー81の外側にコイル84が固定される。軸
82は、可動フレーム85の軸受け86に支えられる。
As shown in FIG. 8A, an elliptical mirror 81 is provided.
A shaft 82 is provided along the major axis of the shaft. The shaft 82 is connected to a movable frame 83, and a mirror 81 is mounted on one surface of the movable frame 83. A coil 84 is fixed to the outside of the mirror 81 along the minor axis of the mirror 81. The shaft 82 is supported by a bearing 86 of the movable frame 85.

【0049】図8Bに示すように、コイル84の中心
は、ミラー81の表示面の延長上にある。このようにす
ることによって、ミラー81が軸87を中心に回転した
ときに、回転の中心とミラー81の反射面とのギャップ
が最も小さいギャップで済む。コイル84の輪の中に軟
鉄の円柱89が設けられ、コイル84の外側にマグネッ
ト90が固定される。マグネット90と円柱89がヨー
ク91で接続され、磁気回路92が構成される。この円
柱89の代わりに角柱を用いても良い。
As shown in FIG. 8B, the center of the coil 84 is on the extension of the display surface of the mirror 81. By doing so, when the mirror 81 rotates about the axis 87, the gap between the center of rotation and the reflection surface of the mirror 81 is the smallest gap. A soft iron column 89 is provided in the loop of the coil 84, and a magnet 90 is fixed outside the coil 84. The magnet 90 and the column 89 are connected by a yoke 91 to form a magnetic circuit 92. A prism may be used instead of the cylinder 89.

【0050】図8Cに示すように、軸受け86付近の可
動フレーム85にコイル93が固定される。このコイル
93が磁気回路94のギャップに入る。磁気回路94
は、スピーカと同様のもので良い。コイル93および磁
気回路94は、ミラー81が軸87を中心に回転したと
きに、円弧状の運動をするだけなので、コイル93およ
び磁気回路94のギャップを狭くすることが可能であ
る。すなわち、ミラー81が軸82を中心に回転しても
コイル93および磁気回路94が干渉するなどの影響は
ない。
As shown in FIG. 8C, the coil 93 is fixed to the movable frame 85 near the bearing 86. This coil 93 enters the gap of the magnetic circuit 94. Magnetic circuit 94
May be the same as a speaker. Since the coil 93 and the magnetic circuit 94 move only in an arc when the mirror 81 rotates about the axis 87, the gap between the coil 93 and the magnetic circuit 94 can be narrowed. That is, even if the mirror 81 rotates about the axis 82, there is no influence such as interference between the coil 93 and the magnetic circuit 94.

【0051】図8Dに示すように、軸82の周りに円弧
状の強磁性体に細かいSNのパターンを着磁した磁気ス
トライプ95が固定される。磁気ストライプ95の外側
にMRセンサなどの磁気センサ96が可動フレーム85
上に近接して設けられ、これを角度センサとする。図示
しないが、軸87にも、磁気ストライプ95と同様のも
のが設けられ、さらに固定フレーム97にも、磁気セン
サ96と同様のものが設けられる。
As shown in FIG. 8D, a magnetic stripe 95 in which a fine SN pattern is magnetized on an arc-shaped ferromagnetic material around an axis 82 is fixed. A magnetic sensor 96 such as an MR sensor is mounted on the movable frame 85 outside the magnetic stripe 95.
It is provided close to the upper part, and this is an angle sensor. Although not shown, the shaft 87 is provided with the same one as the magnetic stripe 95, and the fixed frame 97 is also provided with the same one as the magnetic sensor 96.

【0052】このように、磁気回路92および94から
なるアナログの角度センサと、磁気ストライプ95およ
び磁気センサ96からなるディジタルの角度センサとを
用いることによって、より光軸の方向が安定する。ま
た、重いマグネットが可動部に設けられていないので、
高速動作が可能となる。
As described above, by using the analog angle sensor including the magnetic circuits 92 and 94 and the digital angle sensor including the magnetic stripe 95 and the magnetic sensor 96, the direction of the optical axis is further stabilized. Also, since no heavy magnet is provided on the movable part,
High-speed operation becomes possible.

【0053】このような、光軸可変素子を使用すること
によって、三脚を用いても画素と画素との間を埋めるよ
うに、複数の画像信号を撮影する毎に光軸の方向を変化
させる。そして、撮影された複数の画像信号の画素の位
置を完全に合わせて、合成することによって、高解像度
の画像信号を生成することができる。
By using such an optical axis variable element, the direction of the optical axis is changed every time a plurality of image signals are photographed so as to fill the space between pixels even when a tripod is used. Then, a high-resolution image signal can be generated by perfectly aligning and combining the positions of the pixels of the plurality of captured image signals.

【0054】[0054]

【発明の効果】この発明に依れば、予め設定された枚数
だけ同じ被写体を撮影し、撮影された複数の画像信号を
加算した後、平均することにより、S/Nが飛躍的に向
上する。また、予め設定された枚数毎に光軸の方向を少
しずつ変化させ、同じ被写体を撮影し、撮影された複数
の画像信号を加算した後、平均することにより、画素と
画素との間を埋めるように合成する画素ずらしの効果が
得られ、解像度が向上する。
According to the present invention, the same subject is photographed by a predetermined number of images, a plurality of photographed image signals are added and averaged, so that the S / N is dramatically improved. . In addition, the direction of the optical axis is changed little by little for each predetermined number of images, the same subject is photographed, a plurality of photographed image signals are added, and the signals are averaged to fill the space between pixels. As described above, the effect of shifting the pixels is obtained, and the resolution is improved.

【図面の簡単な説明】[Brief description of the drawings]

【図1】この発明が適用されるカメラ一体型ディジタル
VTRの第1の実施形態を示すブロック図である。
FIG. 1 is a block diagram showing a first embodiment of a camera-integrated digital VTR to which the present invention is applied.

【図2】この発明が適用される画像処理回路の一例のブ
ロック図である。
FIG. 2 is a block diagram illustrating an example of an image processing circuit to which the present invention is applied;

【図3】この発明を説明するためのタイミングチャート
である。
FIG. 3 is a timing chart for explaining the present invention.

【図4】この発明が適用されるカメラ一体型ディジタル
VTRの第2の実施形態を示すブロック図である。
FIG. 4 is a block diagram showing a second embodiment of a camera-integrated digital VTR to which the present invention is applied.

【図5】手振れ補正を説明するための概略図である。FIG. 5 is a schematic diagram for explaining camera shake correction.

【図6】この発明に適用される光軸可変素子の第1の例
を説明するための略線図である。
FIG. 6 is a schematic diagram for explaining a first example of an optical axis variable element applied to the present invention.

【図7】この発明に適用される光軸可変素子の第2の例
を説明するための略線図である。
FIG. 7 is a schematic diagram for explaining a second example of the optical axis variable element applied to the present invention.

【図8】この発明に適用される光軸可変素子の第3の例
を説明するための略線図である。
FIG. 8 is a schematic diagram for explaining a third example of the optical axis variable element applied to the present invention.

【符号の説明】[Explanation of symbols]

1・・・レンズ群、2・・・CCD撮像素子、3・・・
画像処理回路、4・・・画像メモリ、5・・・圧縮回
路、6・・・記録媒体、7・・・伸張回路、8・・・表
示回路、9・・・シスコン、10・・・枚数設定キー
DESCRIPTION OF SYMBOLS 1 ... Lens group, 2 ... CCD image sensor, 3 ...
Image processing circuit, 4 image memory, 5 compression circuit, 6 recording medium, 7 expansion circuit, 8 display circuit, 9 system controller, 10 sheets Setting key

─────────────────────────────────────────────────────
────────────────────────────────────────────────── ───

【手続補正書】[Procedure amendment]

【提出日】平成11年4月1日(1999.4.1)[Submission date] April 1, 1999 (1999.4.1)

【手続補正1】[Procedure amendment 1]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】特許請求の範囲[Correction target item name] Claims

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【特許請求の範囲】[Claims]

【手続補正2】[Procedure amendment 2]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0005[Correction target item name] 0005

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0005】[0005]

【課題を解決するための手段】請求項1に記載の発明
は、予め設定されたn枚の画像を順次撮像する撮像素子
と、n枚の画像中、時間的に隣り合う2枚の画像または
1枚目に対するその他の画像を1/m画素の精度で位置
ずれを検出する手段と、検出した位置ずれを補正する手
段と、位置ずれを補正したn枚の画像を加算し、平均化
する手段とからなることを特徴とする画像信号処理装置
である。
According to a first aspect of the present invention, there is provided an image pickup device for sequentially picking up a predetermined number of n images, and two images or two images temporally adjacent to each other in the n images.
Means for detecting misregistration of other images for the first sheet with an accuracy of 1 / m pixel, means for correcting the detected misalignment, and means for adding and averaging the n images corrected for misalignment An image signal processing device comprising:

【手続補正3】[Procedure amendment 3]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0006[Correction target item name] 0006

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0006】請求項3に記載の発明は、予め設定された
n枚の画像を順次撮像する撮像素子と、n枚の画像をそ
れぞれ記録する記録媒体と、記録媒体から読み出したn
枚の画像中、時間的に隣り合う2枚の画像または1枚目
に対するその他の画像を1/m画素の精度で位置ずれを
検出する手段と、検出した位置ずれを補正する手段と、
位置ずれを補正したn枚の画像を加算し、平均化する手
段とからなることを特徴とする画像信号処理装置であ
る。
According to a third aspect of the present invention, there is provided an image pickup device for sequentially picking up a predetermined number of n images, a recording medium for recording each of the n images, and an n image read from the recording medium.
Of two images, two images or the first image that are temporally adjacent
Means for detecting misregistration of other images with respect to 1 / m pixel accuracy, means for correcting the detected misregistration,
An image signal processing device comprising: means for adding and averaging n images whose position has been corrected.

【手続補正4】[Procedure amendment 4]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0007[Correction target item name] 0007

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0007】請求項13に記載の発明は、予め設定され
たn枚の画像を撮像素子で順次撮像し、n枚の画像中、
時間的に隣り合う2枚の画像または1枚目に対するその
他の画像を1/m画素の精度で位置ずれを検出し、検出
した位置ずれを補正し、位置ずれを補正したn枚の画像
を加算し、平均化するようにしたことを特徴とする画像
信号処理方法である。
According to a thirteenth aspect of the present invention, a predetermined number of images are sequentially picked up by an image sensor, and the n images are
Two images that are temporally adjacent to each other or the first image
An image characterized in that a misregistration of another image is detected with an accuracy of 1 / m pixel, the detected misregistration is corrected, and the n images corrected for the misregistration are added and averaged. This is a signal processing method.

【手続補正5】[Procedure amendment 5]

【補正対象書類名】明細書[Document name to be amended] Statement

【補正対象項目名】0008[Correction target item name] 0008

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【0008】請求項14に記載の発明は、予め設定され
たn枚の画像を撮像素子で順次撮像し、n枚の画像をそ
れぞれ記録し、記録媒体から読み出したn枚の画像中、
時間的に隣り合う2枚の画像または1枚目に対するその
他の画像を1/m画素の精度で位置ずれを検出し、検出
した位置ずれを補正し、位置ずれを補正したn枚の画像
を加算し、平均化するようにしたことを特徴とする画像
信号処理方法である。
According to a fourteenth aspect of the present invention, a predetermined number of images are sequentially picked up by an image sensor, and the n images are respectively recorded, and among the n images read from the recording medium,
Two images that are temporally adjacent to each other or the first image
An image characterized in that a misregistration of another image is detected with an accuracy of 1 / m pixel, the detected misregistration is corrected, and the n images corrected for the misregistration are added and averaged. This is a signal processing method.

【手続補正6】[Procedure amendment 6]

【補正対象書類名】図面[Document name to be amended] Drawing

【補正対象項目名】図8[Correction target item name] Fig. 8

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【図8】 FIG. 8

Claims (14)

【特許請求の範囲】[Claims] 【請求項1】 予め設定されたn枚の画像を順次撮像す
る撮像素子と、 上記n枚の画像中、時間的に隣り合う2枚の画像を1/
m画素の精度で位置ずれを検出する手段と、 検出した上記位置ずれを補正する手段と、 上記位置ずれを補正したn枚の画像を加算し、平均化す
る手段とからなることを特徴とする画像信号処理装置。
1. An image pickup device for sequentially picking up a predetermined number of n images, and:
means for detecting a position shift with accuracy of m pixels, means for correcting the detected position shift, and means for adding and averaging the n images corrected for the position shift. Image signal processing device.
【請求項2】 請求項1において、 さらに、平均化された上記画像を圧縮する圧縮手段と、 圧縮された上記画像を記録する記録媒体と、 上記記録媒体から読み出した上記画像を伸張する伸張手
段とを有することを特徴とする画像信号処理装置。
2. The apparatus according to claim 1, further comprising: a compression unit for compressing the averaged image; a recording medium for recording the compressed image; and a decompression unit for expanding the image read from the recording medium. An image signal processing device comprising:
【請求項3】 予め設定されたn枚の画像を順次撮像す
る撮像素子と、 上記n枚の画像をそれぞれ記録する記録媒体と、 上記記録媒体から読み出した上記n枚の画像中、時間的
に隣り合う2枚の画像を1/m画素の精度で位置ずれを
検出する手段と、 検出した上記位置ずれを補正する手段と、 上記位置ずれを補正したn枚の画像を加算し、平均化す
る手段とからなることを特徴とする画像信号処理装置。
3. An imaging device for sequentially capturing n images set in advance, a recording medium for recording each of the n images, and a temporally different one of the n images read from the recording medium. A means for detecting a positional shift between two adjacent images with an accuracy of 1 / m pixel; a means for correcting the detected positional shift; and the n images corrected for the positional shift are added and averaged. And an image signal processing device.
【請求項4】 請求項3において、 さらに、順次撮像された上記n枚の画像をそれぞれ圧縮
する圧縮手段と、 上記記録媒体から読み出した上記n枚の画像をそれぞれ
伸張する伸張手段とを有することを特徴とする画像信号
処理装置。
4. The apparatus according to claim 3, further comprising: compression means for compressing the n images sequentially captured, and expansion means for expanding the n images read from the recording medium. An image signal processing device characterized by the above-mentioned.
【請求項5】 請求項1または3において、 上記位置ずれを検出する手段は、 第1の画像と、上記第1の画像に時間的に隣り合う第2
の画像とをそれぞれm倍に拡大し、 m倍に拡大された上記第1の画像に対して上記第2の画
像の位置を検出するようにしたことを特徴とする画像信
号処理装置。
5. The apparatus according to claim 1, wherein the means for detecting the position shift comprises: a first image; and a second image temporally adjacent to the first image.
An image signal processing apparatus characterized in that each of the first and second images is magnified m times, and the position of the second image is detected with respect to the first image magnified m times.
【請求項6】 請求項5において、 上記位置ずれを補正する手段は、 上記位置ずれの検出結果の小数成分に基づいて上記第1
の画像に対して画素ずらし補間を行い、 上記位置ずれの検出結果の画像変形係数に基づいて上記
第1の画像に対して画像変形を行い、 上記位置ずれの検出結果の整数成分に基づいて上記第1
の画像に対して位置合わせを行うようにしたことを特徴
とする画像信号処理装置。
6. The apparatus according to claim 5, wherein the means for correcting the position shift is based on a decimal component of the detection result of the position shift.
Performing pixel shift interpolation on the image of the above, performing image deformation on the first image based on the image deformation coefficient of the detection result of the position shift, and performing the image deformation on the basis of the integer component of the result of the position shift detection First
An image signal processing apparatus, wherein registration is performed on an image.
【請求項7】 請求項1または3において、 さらに、光軸の方向を変化させる光軸可変手段を有し、 予め決めた角度で、上記光軸の方向をn個の方向に向け
ながら、上記n枚の画像を撮影するようにしたことを特
徴とする画像信号処理装置。
7. The method according to claim 1, further comprising an optical axis changing unit that changes a direction of the optical axis, wherein the direction of the optical axis is directed to n directions at a predetermined angle. An image signal processing apparatus characterized by taking n images.
【請求項8】 請求項7において、 上記光軸可変手段を用いて手振れ補正を行うようにした
ことを特徴とする画像信号処理装置。
8. The image signal processing apparatus according to claim 7, wherein the camera shake is corrected using the optical axis changing unit.
【請求項9】 請求項7において、 手振れ補正を行わず、手振れの成分を加味しながら上記
n枚の画像を撮影するようにしたことを特徴とする画像
信号処理装置。
9. An image signal processing apparatus according to claim 7, wherein said n images are photographed while performing a camera shake correction without adding a camera shake component.
【請求項10】 請求項1または3において、 上記n枚の画像を外部の画像処理装置へ転送する転送手
段を有することを特徴とする画像信号処理装置。
10. The image signal processing apparatus according to claim 1, further comprising a transfer unit configured to transfer the n images to an external image processing apparatus.
【請求項11】 請求項2または3において、 上記n枚の画像および加算された上記画像を上記記録媒
体に記録するようにしたことを特徴とする画像信号処理
装置。
11. The image signal processing device according to claim 2, wherein the n images and the added image are recorded on the recording medium.
【請求項12】 請求項2または3において、 リアルタイムで加算された上記画像を生成し、生成され
た上記画像のみを上記記録媒体に記録するようにしたこ
とを特徴とする画像信号処理装置。
12. The image signal processing device according to claim 2, wherein the image added in real time is generated, and only the generated image is recorded on the recording medium.
【請求項13】 予め設定されたn枚の画像を撮像素子
で順次撮像し、 上記n枚の画像中、時間的に隣り合う2枚の画像を1/
m画素の精度で位置ずれを検出し、 検出した上記位置ずれを補正し、 上記位置ずれを補正したn枚の画像を加算し、平均化す
るようにしたことを特徴とする画像信号処理方法。
13. An image pickup device sequentially picks up a predetermined number of n images with an image sensor, and sets two temporally adjacent images of the n images to 1 /
An image signal processing method, comprising detecting a position shift with an accuracy of m pixels, correcting the detected position shift, adding and averaging the n images corrected for the position shift.
【請求項14】 予め設定されたn枚の画像を撮像素子
で順次撮像し、 上記n枚の画像をそれぞれ記録し、 上記記録媒体から読み出した上記n枚の画像中、時間的
に隣り合う2枚の画像を1/m画素の精度で位置ずれを
検出し、 検出した上記位置ずれを補正し、 上記位置ずれを補正したn枚の画像を加算し、平均化す
るようにしたことを特徴とする画像信号処理方法。
14. An image pickup device sequentially picks up a predetermined number of n images with an image sensor, records the n images, and reads two images temporally adjacent to each other in the n images read from the recording medium. The method is characterized in that the position shifts of the images are detected with an accuracy of 1 / m pixel, the detected position shifts are corrected, and the n images corrected for the position shifts are added and averaged. Image signal processing method.
JP11013063A 1999-01-21 1999-01-21 Picture signal processor and its method Pending JP2000217032A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11013063A JP2000217032A (en) 1999-01-21 1999-01-21 Picture signal processor and its method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11013063A JP2000217032A (en) 1999-01-21 1999-01-21 Picture signal processor and its method

Publications (1)

Publication Number Publication Date
JP2000217032A true JP2000217032A (en) 2000-08-04

Family

ID=11822692

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11013063A Pending JP2000217032A (en) 1999-01-21 1999-01-21 Picture signal processor and its method

Country Status (1)

Country Link
JP (1) JP2000217032A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004114677A1 (en) * 2003-06-23 2004-12-29 Sony Corporation Image processing method and device, and program
JP2007133810A (en) * 2005-11-14 2007-05-31 Nikon Corp Image processor
US7956897B2 (en) 2006-08-31 2011-06-07 Sanyo Electric Co., Ltd. Image combining device and imaging apparatus
US8169537B2 (en) 2004-11-25 2012-05-01 Sony Corporation Control method, control apparatus and control program for photographing apparatus
JP2020202555A (en) * 2019-06-07 2020-12-17 パナソニックIpマネジメント株式会社 Imaging apparatus

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004114677A1 (en) * 2003-06-23 2004-12-29 Sony Corporation Image processing method and device, and program
US7486318B2 (en) 2003-06-23 2009-02-03 Sony Corporation Method, apparatus, and program for processing an image
KR101032233B1 (en) 2003-06-23 2011-05-02 소니 주식회사 Image processing method and device, and program
US8085313B2 (en) 2003-06-23 2011-12-27 Sony Corporation Method, apparatus, and program for processing an image
US8692901B2 (en) 2003-06-23 2014-04-08 Sony Corporation Method, apparatus, and program for processing an image
US8169537B2 (en) 2004-11-25 2012-05-01 Sony Corporation Control method, control apparatus and control program for photographing apparatus
JP2007133810A (en) * 2005-11-14 2007-05-31 Nikon Corp Image processor
US7956897B2 (en) 2006-08-31 2011-06-07 Sanyo Electric Co., Ltd. Image combining device and imaging apparatus
JP2020202555A (en) * 2019-06-07 2020-12-17 パナソニックIpマネジメント株式会社 Imaging apparatus
JP7008243B2 (en) 2019-06-07 2022-01-25 パナソニックIpマネジメント株式会社 Imaging device

Similar Documents

Publication Publication Date Title
JP2004336106A (en) Image processing apparatus, image processing method, and imaging apparatus
JPH09200608A (en) Circuit for stabilizing camera-shake
US20090040317A1 (en) Camera module having image sensor
JP2000101895A (en) Image signal photographing device and its method
JPH1188754A (en) Image signal pickup and recording device/method
JP2000244797A (en) Device and method for processing image signal
JP2007110636A (en) Camera apparatus
US6876387B1 (en) Digital zoom-out processing apparatus
JP3503655B2 (en) Image synthesis device
JP2000217032A (en) Picture signal processor and its method
JP4164928B2 (en) Image signal processing device
JP4123623B2 (en) Image signal processing apparatus and method
JP2007049266A (en) Picture imaging apparatus
JPH11146260A (en) Device and method for correcting oscillation and computer readable storage medium
JP4001233B2 (en) Panorama shooting method and image processing apparatus and image pickup apparatus capable of using the method
JPH07283999A (en) Image synthesizer and image photographing device
JP2000187165A (en) Microscope device
JP2001111879A (en) Iimage pickup device
JP2005027046A (en) Image processor and image processing method
JPH1146317A (en) Video camera
JPH0846856A (en) Hand shake correcting device
JP2003244514A (en) Object tracking device
JP4325108B2 (en) Captured image composition apparatus and method
JPH11122521A (en) Digital image pickup device and image pickup method
JP4135046B2 (en) Image signal imaging apparatus and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080715

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081007

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090224