JP2005339085A - Blur image correction device, blur image correction method, and computer program - Google Patents

Blur image correction device, blur image correction method, and computer program Download PDF

Info

Publication number
JP2005339085A
JP2005339085A JP2004155519A JP2004155519A JP2005339085A JP 2005339085 A JP2005339085 A JP 2005339085A JP 2004155519 A JP2004155519 A JP 2004155519A JP 2004155519 A JP2004155519 A JP 2004155519A JP 2005339085 A JP2005339085 A JP 2005339085A
Authority
JP
Japan
Prior art keywords
camera shake
image
correction
degree
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004155519A
Other languages
Japanese (ja)
Inventor
Shingo Yudasaka
新吾 湯田坂
Shoichi Nakajo
祥一 中條
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2004155519A priority Critical patent/JP2005339085A/en
Publication of JP2005339085A publication Critical patent/JP2005339085A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Adjustment Of Camera Lenses (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To allow an operator to precisely designate the direction and the degree of a blur by an easy operation for correcting the blur with high precision. <P>SOLUTION: In a blur correction window WD3, an image before correction and an image after correction by a blur correction routine are indicated. A graphic tool TL is superimposed onto the image before correction to be displayed. The graphic tool TL is operated through a mouse for allowing input of the direction and the degree of the blur. An original image has a display magnification higher than that of the image after correction and expanded to be displayed. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は、撮影装置で撮影して得られた撮影画像の手ブレを補正する技術に関する。   The present invention relates to a technique for correcting camera shake of a photographed image obtained by photographing with a photographing device.

デジタルカメラ(デジタルスチールカメラ)等で被写体を撮影する際、露光中のカメラの動き、いわゆる手ぶれによるボケが撮影画像に生じる。手ぶれによる画像の劣化を避けるため、従来から様々な技術が開発されてきた。   When a subject is photographed with a digital camera (digital still camera) or the like, motion of the camera during exposure, that is, blur due to camera shake occurs in the photographed image. Various techniques have been developed in the past to avoid image degradation due to camera shake.

例えば、手ぶれの動きを検知するための加速度センサ等をカメラに装備しておき、同センサの検出信号を画像の動きに換算し、その画像の動きを補償する方向にカメラの光学系(プリズム、レンズ、あるいは撮像素子)を機械的に移動させる技術が知られている。   For example, the camera is equipped with an acceleration sensor or the like for detecting the movement of camera shake, the detection signal of the sensor is converted into an image movement, and the camera optical system (prism, A technique for mechanically moving a lens or an imaging device) is known.

一方、加速度センサ等を利用しないで、画像からソフト的に手ぶれを補正する技術も提案されている(例えば、下記の特許文献1)。   On the other hand, a technique for correcting camera shake from an image without using an acceleration sensor or the like has also been proposed (for example, Patent Document 1 below).

特開2000−298300号公報JP 2000-298300 A

しかしながら、上述した画像からソフト的に手ぶれを補正する技術では、精度よく手ブレを補正することができないという問題があった。というのも画像からでは、手ブレの方向と程度を正確に検出することが難しく、画像によっては高精度に手ブレを補正することができなかった。   However, the technique for correcting camera shake from the above-described image has a problem that it is impossible to correct camera shake with high accuracy. This is because it is difficult to accurately detect the direction and degree of camera shake from the image, and depending on the image, the camera shake cannot be corrected with high accuracy.

本発明の解決しようとする課題は、手ブレの方向と程度を、正確にしかも簡単な操作によって操作者が指定可能とすることで、手ブレを高精度に補正可能とすることにある。   The problem to be solved by the present invention is to make it possible to correct camera shake with high accuracy by allowing an operator to specify the direction and degree of camera shake by an accurate and simple operation.

前述した課題の少なくとも一部を解決するための手段として、以下に示す構成をとった。   As means for solving at least a part of the problems described above, the following configuration is adopted.

本発明の手ブレ画像補正装置は、
撮影装置で撮影して得られた撮影画像の手ブレを補正する手ブレ画像補正装置であって、
前記手ブレの方向と程度の入力を受けて、該入力に基づいて前記撮影画像の手ブレの補正を実行する手ブレ補正手段と、
前記撮影画像の全体もしくは一部についての前記手ブレ補正手段による補正前画像と補正後画像を表わすウィンドウを表示装置に表示させるとともに、前記ウィンドウに対する操作者からの入力装置を用いた操作指令を受け付けるインターフェース手段と
を備えるとともに、
前記インターフェース手段は、
前記補正前画像を、前記補正後画像と比べて表示倍率を高くして表示させる補正前画像拡大表示手段と、
前記補正前画像拡大表示手段により表示された補正前画像に重畳させて所定のグラフィックスの部品を表示させるとともに、該部品に対する操作者からの入力装置を用いた操作指令に基づいて、前記撮影画像の手ブレの方向と程度を前記手ブレ補正手段への入力用として入力する手ブレ方向・程度入力手段と
を備えることを特徴としている。
The camera shake correction device of the present invention is
A camera shake correction device that corrects camera shake in a photographed image obtained by photographing with a photographing device,
A camera shake correction unit that receives an input of the direction and degree of the camera shake, and performs camera shake correction of the captured image based on the input;
A window representing the pre-correction image and the post-correction image by the camera shake correction means for the whole or a part of the photographed image is displayed on the display device, and an operation command using the input device from the operator for the window is accepted. Interface means, and
The interface means includes
A pre-correction image enlargement display means for displaying the pre-correction image at a higher display magnification than the post-correction image;
The captured image is displayed based on an operation command using an input device from an operator for the component while superimposing it on the uncorrected image displayed by the uncorrected image enlargement display means and displaying a predetermined graphics component. And a camera shake direction / degree input means for inputting the direction and the degree of camera shake for input to the camera shake correction means.

上記構成の手ブレ画像補正装置によれば、表示装置に表示されるウィンドウに、手ブレ補正手段による補正前画像と補正後画像が表わされることから、操作者は、両画像を比較することで、手ブレ補正手段により手ブレがうまく補正されたか否かを容易に判定することができる。しかも、手ブレ方向・程度入力手段により、補正前画像に重畳させて表示されたグラフィックスの部品が操作されることで、手ブレの方向と程度の入力が操作者によりなされ、この入力に基づいて手ブレ補正手段による手ブレの補正がなされることから、操作者の視認により入力された手ブレの方向と程度に従う手ブレの補正を行なうことができる。また、補正前画像は、補正後画像と比べて表示倍率が高くなっていることから、操作者は、前記グラフィックスの部品を操作するに際して、手ブレの視認を容易に行なうことができる。   According to the camera shake image correction apparatus having the above-described configuration, the image before correction and the image after correction by the camera shake correction unit are displayed in the window displayed on the display device. Therefore, the operator can compare both images. It is possible to easily determine whether or not the camera shake has been successfully corrected by the camera shake correcting means. In addition, by operating the graphics component displayed superimposed on the pre-correction image by the camera shake direction / degree input means, the operator inputs the direction and degree of the camera shake. Since the camera shake is corrected by the camera shake correcting means, the camera shake can be corrected according to the direction and degree of the camera shake input by the visual recognition of the operator. Further, since the display magnification of the pre-correction image is higher than that of the post-correction image, the operator can easily visually recognize the camera shake when operating the graphics component.

したがって、操作者の操作により正確に入力された手ブレの方向と程度に従う手ブレ補正を行なうことができることから、画像の手ブレを高精度に補正することができる。しかも、操作者にとっては、上述したように手ブレの視認が容易であることから、入力の際の操作性にも優れている。   Accordingly, it is possible to perform camera shake correction in accordance with the direction and degree of camera shake accurately input by the operator's operation, so that image shake can be corrected with high accuracy. Moreover, since it is easy for the operator to visually recognize the camera shake as described above, the operability at the time of input is excellent.

前記所定のグラフィックスの部品は、始点、終点および両者を結ぶ直線の3部品により構成してもよい。   The predetermined graphics component may be composed of three components: a start point, an end point, and a straight line connecting both.

この構成によれば、撮影画像の手ブレの方向と程度を、シンプルな形状のグラフィックスの部品により表わすことがことができることから、構成が容易で、しかも操作者による操作が容易である。   According to this configuration, the direction and degree of camera shake in the captured image can be represented by graphics components having a simple shape, so that the configuration is easy and the operation by the operator is easy.

前記構成の手ブレ画像補正装置において、前記撮影画像に基づいて、前記手ブレの方向と程度を検出する手ブレ方向・程度検出手段を備え、前記インターフェース手段は、前記ウィンドウの初期表示時に、前記手ブレ方向・程度検出手段により検出された前記手ブレの方向と程度に基づいて前記手ブレ補正手段により補正された前記補正後画像を表示させる手段を備える構成とすることができる。   In the camera shake image correction apparatus having the above-described configuration, it includes a camera shake direction / degree detection unit that detects the direction and degree of the camera shake based on the captured image, and the interface unit is configured to display the window at the initial display time. The image processing apparatus may include a unit that displays the corrected image corrected by the camera shake correction unit based on the direction and level of the camera shake detected by the camera shake direction / level detection unit.

この構成によれば、手ブレ方向・程度検出手段により、撮影画像から自動的に検出された手ブレの方向と程度に基づいて、手ブレ補正手段による手ブレの補正を行なって、ウィンドウの初期表示時には、その補正後画像を表示させることができる。このために、ウィンドウの初期表示直後においては、自動補正された補正画像を表示させることができる。   According to this structure, the camera shake direction / degree detection means corrects camera shake by the camera shake correction means based on the direction and degree of camera shake automatically detected from the photographed image, and the initial position of the window. At the time of display, the corrected image can be displayed. For this reason, immediately after the initial display of the window, an automatically corrected image can be displayed.

前記ウィンドウの初期表示直後に、自動補正された補正画像を表示させる構成の手ブレ画像補正装置において、前記手ブレ方向・程度入力手段は、前記ウィンドウの初期表示時に、前記所定のグラフィックスの部品の表示を、前記手ブレ方向・程度検出手段により検出された前記手ブレの方向と程度に基づいて定める手段を備える構成とすることができる。   In the camera shake image correction apparatus configured to display the corrected image automatically corrected immediately after the initial display of the window, the camera shake direction / degree input means is configured to display the predetermined graphics component during the initial display of the window. The display may be configured to include means for determining the display based on the direction and degree of the camera shake detected by the camera shake direction / degree detection means.

この構成によれば、操作者は、手ブレ方向・程度検出手段により、撮影画像から自動的に検出された手ブレの方向と程度を、初期表示から知ることができ、操作者は、この初期表示を基に、前記グラフィックスの部品の操作を行なうことができる。このため、より一層、操作性に優れている。   According to this configuration, the operator can know the direction and degree of camera shake automatically detected from the photographed image from the initial display by the camera shake direction / degree detection means. Based on the display, the graphics components can be operated. For this reason, it is further excellent in operability.

前記補正前画像拡大表示手段は、前記手ブレ方向・程度検出手段により検出された前記手ブレの程度が小さいほど、前記表示倍率を高くする構成とすることができる。   The pre-correction image enlargement display means may be configured to increase the display magnification as the degree of camera shake detected by the camera shake direction / degree detection means is smaller.

この構成によれば、手ブレの程度が小さい場合に、補正前画像が高い表示倍率で表示されることから、操作者は、補正前画像から手ブレを視認することがより一層、容易であり、また、補正前画像に対するグラフィックスの部品を用いた手ブレの方向と程度の入力をより一層、容易に行なうことができる。   According to this configuration, when the degree of camera shake is small, the pre-correction image is displayed at a high display magnification. Therefore, it is much easier for the operator to visually recognize the camera shake from the pre-correction image. In addition, it is possible to more easily input the direction and degree of camera shake using graphics components for the pre-correction image.

前記手ブレ方向・程度検出手段は、前記撮影画像の画素毎に手ブレの方向と程度を検出する各画素手ブレ検出手段と、前記各画素手ブレ検出手段により検出された手ブレの程度が最も大きいエッジ部を検出するエッジ検出手段と、前記エッジ検出手段により検出された前記エッジ部の手ブレの方向と程度を、前記撮影画像全体の手ブレの方向と程度に定める手ブレ決定手段とを備える構成とすることができる。   The camera shake direction / degree detection means includes a pixel shake detection means for detecting the direction and degree of camera shake for each pixel of the photographed image, and a degree of camera shake detected by the pixel shake detection means. Edge detection means for detecting the largest edge portion, and camera shake determination means for determining the direction and degree of camera shake of the edge portion detected by the edge detection means to be the direction and degree of camera shake of the entire captured image; It can be set as the structure provided with.

この構成によれば、撮影画像において最も手ブレの程度が大きいエッジ部における手ブレの方向と程度に基づいて、手ブレの補正が行なわれる。このために、撮影画像の自動的な手ブレ補正の精度を高めることができる。   According to this configuration, camera shake correction is performed based on the direction and degree of camera shake at the edge portion where the degree of camera shake is greatest in the captured image. For this reason, it is possible to improve the accuracy of automatic camera shake correction of a captured image.

上記構成の画像補正装置において、前記補正前画像拡大表示手段は、前記エッジ検出手段により検出されたエッジ部を少なくとも含む領域を拡大表示させる構成とすることができる。   In the image correction apparatus having the above-described configuration, the pre-correction image enlargement display unit may be configured to enlarge and display a region including at least the edge portion detected by the edge detection unit.

この構成によれば、操作者による補正前画像に対するグラフィックスの部品を用いた操作が容易である。   According to this configuration, it is easy for the operator to perform operations using graphics components on the pre-correction image.

さらに、前記手ブレ方向・程度入力手段は、前記補正前画像拡大表示手段により表示された前記エッジ部に、前記所定のグラフィックスの部品を表示させた構成とすることができる。   Further, the camera shake direction / degree input means may be configured to display the predetermined graphics component on the edge portion displayed by the pre-correction image enlargement display means.

この構成によれば、その最も手ブレの程度が大きいエッジ部上に、前記所定のグラフィックスの部品を表示させることができることから、操作者による補正前画像に対するグラフィックスの部品を用いた操作がより一層、容易である。   According to this configuration, since the predetermined graphics component can be displayed on the edge portion where the degree of camera shake is the largest, an operation using the graphics component for the pre-correction image by the operator can be performed. Even easier.

前記構成の手ブレ画像補正装置において、前記手ブレ補正手段は、入力された前記手ブレの方向と程度に基づいて、動作ぼかしを掛けるモーションブラーフィルタを設定するフィルタ設定手段と、該設定されたモーションブラーフィルタを用いて、前記撮影画像に対して演算処理を行なうフィルタ演算手段と、前記撮影画像と前記フィルタ演算手段により得られた画像との差分を演算する画像差分演算手段と、前記撮影画像に対して前記差分を合成することにより、前記撮影画像に対して前記手ブレの方向と反対側にぶれた画像を前記補正後画像として生成する画像合成手段とを備える構成とすることができる。   In the camera shake image correcting apparatus having the above-described configuration, the camera shake correcting means includes a filter setting means for setting a motion blur filter for applying motion blur based on the input direction and degree of the camera shake, and the set Filter calculation means for performing arithmetic processing on the captured image using a motion blur filter, image difference calculation means for calculating a difference between the captured image and an image obtained by the filter calculation means, and the captured image By combining the difference with respect to the image, it is possible to provide an image synthesizing unit that generates, as the corrected image, an image that is blurred in the direction opposite to the camera shake direction with respect to the captured image.

この構成によれば、手ブレ補正手段により、入力された前記手ブレの方向と程度に基づいて手ブレを、より一層、高精度に補正することができる。   According to this configuration, the camera shake correction unit can correct the camera shake with higher accuracy based on the input direction and degree of the camera shake.

本発明の手ブレ画像補正方法は、
撮影装置で撮影して得られた撮影画像の手ブレを補正する手ブレ画像補正方法であって、
(a)前記手ブレの方向と程度の入力を受けて、該入力に基づいて前記撮影画像の手ブレの補正を実行する行程と、
(b)前記撮影画像の全体もしくは一部についての前記行程(a)による補正前画像と補正後画像を表わすウィンドウを表示装置に表示させるとともに、前記ウィンドウに対する操作者からの入力装置を用いた操作指令を受け付ける行程と
を備えるとともに、
前記行程(b)は、
(b−1)前記補正前画像を、前記補正後画像と比べて表示倍率を高くして表示させる行程と、
(b−2)前記行程(b−1)により表示された補正前画像に重畳させて所定のグラフィックスの部品を表示させるとともに、該部品に対する操作者からの入力装置を用いた操作指令に基づいて、前記撮影画像の手ブレの方向と程度を前記行程(a)への入力用として入力する行程と
を備えることを特徴としている。
The image stabilization method of the present invention is
A camera shake image correction method for correcting camera shake of a photographed image obtained by photographing with a photographing device,
(A) a process of receiving an input of the direction and degree of the camera shake, and performing a camera shake correction of the captured image based on the input;
(B) A window representing the pre-correction image and the post-correction image in the step (a) for all or a part of the photographed image is displayed on the display device, and an operation for the window using an input device from the operator And a process for receiving a command,
The step (b) is:
(B-1) a step of displaying the uncorrected image at a display magnification higher than that of the corrected image;
(B-2) A predetermined graphics component is displayed by being superimposed on the pre-correction image displayed in the step (b-1), and based on an operation command using an input device from the operator for the component. And a step of inputting the direction and degree of camera shake of the photographed image for input to the step (a).

本発明のコンピュータプログラムは、
撮影装置で撮影して得られた撮影画像の手ブレを補正するためのコンピュータプログラムにおいて、
(a)前記手ブレの方向と程度の入力を受けて、該入力に基づいて前記撮影画像の手ブレの補正を実行する機能と、
(b)前記撮影画像の全体もしくは一部についての前記機能(a)による補正前画像と補正後画像を表わすウィンドウを表示装置に表示させるとともに、前記ウィンドウに対する操作者からの入力装置を用いた操作指令を受け付ける機能と
をコンピュータに実現させるとともに、
前記機能(b)は、
(b−1)前記補正前画像を、前記補正後画像と比べて表示倍率を高くして表示させる機能と、
(b−2)前記機能(b−1)により表示された補正前画像に重畳させて所定のグラフィックスの部品を表示させるとともに、該部品に対する操作者からの入力装置を用いた操作指令に基づいて、前記撮影画像の手ブレの方向と程度を前記機能(a)への入力用として入力する機能と
を備えることを特徴としている。
The computer program of the present invention is:
In a computer program for correcting camera shake of a photographed image obtained by photographing with a photographing device,
(A) a function of receiving an input of the direction and degree of the camera shake and executing a camera shake correction of the captured image based on the input;
(B) A window representing the pre-correction image and the post-correction image by the function (a) for the whole or a part of the photographed image is displayed on the display device, and the operation using the input device from the operator for the window In addition to realizing the function to accept commands in a computer,
The function (b) is
(B-1) a function of displaying the pre-correction image at a higher display magnification than the post-correction image;
(B-2) A predetermined graphics component is displayed superimposed on the pre-correction image displayed by the function (b-1), and based on an operation command using an input device from the operator for the component. And a function of inputting the direction and degree of camera shake of the photographed image for input to the function (a).

本発明の手ブレ画像補正方法およびコンピュータプログラムによっても、本発明の手ブレ画像補正装置と同様に、操作者の操作により正確に手ブレの方向と程度を入力して、高精度の手ブレ補正を行なうことができ、しかも、その入力の操作性にも優れているという効果を奏する。   According to the camera shake image correction method and computer program of the present invention, as in the camera shake image correction apparatus of the present invention, the direction and degree of camera shake are accurately input by the operation of the operator, and high-precision camera shake correction is performed. In addition, there is an effect that the input operability is also excellent.

本発明の記録媒体は、本発明のコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体を特徴としている。この記録媒体は、この発明の各コンピュータプログラムと同様な作用・効果を有している。   The recording medium of the present invention is characterized by a computer-readable recording medium that records the computer program of the present invention. This recording medium has the same operation and effect as each computer program of the present invention.

本発明は、以下のような他の態様も含んでいる。その第1の態様は、この発明のコンピュータプログラムを通信経路を介して供給するプログラム供給装置としての態様である。この第1の態様では、コンピュータプログラムをコンピュータネットワーク上のサーバなどに置き、通信経路を介して、必要なプログラムをコンピュータにダウンロードし、これを実行することで、上記の方法や装置を実現することができる。   The present invention includes other aspects as follows. The 1st aspect is an aspect as a program supply apparatus which supplies the computer program of this invention via a communication path. In this first aspect, the above-described method and apparatus are realized by placing a computer program on a server or the like on a computer network, downloading a necessary program to a computer via a communication path, and executing the program. Can do.

本発明を実施するための最良の形態を実施例に基づき説明する。この実施例を、次の順序に従って説明する。
A.装置の構成:
B.コンピュータ処理:
B−1.処理の全体:
B−2.手ブレ補正処理:
B−2−1.自動補正:
B−2−2.手動補正:
C.作用・効果:
D.他の実施形態:
The best mode for carrying out the present invention will be described based on examples. This embodiment will be described in the following order.
A. Device configuration:
B. Computer processing:
B-1. Overall processing:
B-2. Image stabilization processing:
B-2-1. Automatic correction:
B-2-2. Manual correction:
C. Action / Effect:
D. Other embodiments:

A.装置の構成:
図1は、本発明の一実施例を適用するコンピュータシステムの概略構成を示す説明図である。この実施例のコンピュータシステムは、本発明の手ブレ画像補正装置を構成するパーソナルコンピュータ10を中心に備え、その周辺装置として、ディスプレイ20とキーボード22とマウス24を備える。さらに、パーソナルコンピュータ10には、デジタルカメラ26とCDドライブ28とプリンタ29が接続されている。キーボード22とマウス24は、本発明でいう操作者からの操作を受け付ける入力装置に該当する。ディスプレイ20は、本発明でいう表示装置である。マウス24は、トラックボール、トラックパッド、タブレット等の他のポインティングデバイスに換えることができる。
A. Device configuration:
FIG. 1 is an explanatory diagram showing a schematic configuration of a computer system to which an embodiment of the present invention is applied. The computer system of this embodiment mainly includes a personal computer 10 constituting the camera shake image correction apparatus of the present invention, and includes a display 20, a keyboard 22, and a mouse 24 as peripheral devices. Furthermore, a digital camera 26, a CD drive 28, and a printer 29 are connected to the personal computer 10. The keyboard 22 and the mouse 24 correspond to an input device that receives an operation from an operator in the present invention. The display 20 is a display device according to the present invention. The mouse 24 can be replaced with other pointing devices such as a trackball, a trackpad, and a tablet.

パーソナルコンピュータ10は、中央演算処理装置としてのCPU11を中心にバス12により相互に接続されたメモリ13、表示画像メモリ14、ハードディスクドライブ15、入力制御ユニット16、表示制御ユニット17、出力制御ユニット18等を備える。メモリ13は、各種データ等を記憶するもので、CPU11の作業領域となる。表示画像メモリ14は、ディスプレイ20に表示する画像の画像データを一旦記憶するメモリである。   The personal computer 10 includes a memory 13, a display image memory 14, a hard disk drive 15, an input control unit 16, a display control unit 17, an output control unit 18, and the like that are mutually connected by a bus 12 around a CPU 11 as a central processing unit. Is provided. The memory 13 stores various data and becomes a work area of the CPU 11. The display image memory 14 is a memory that temporarily stores image data of an image to be displayed on the display 20.

ハードディスクドライブ15は、手ブレ画像補正装置のソフトウェアとしてのコンピュータプログラムPrを記憶する。また、ハードディスクドライブ15には、画像データDpが1または複数記憶されている。画像データDpは、デジタルカメラ26によって撮影した撮影画像の画像データであり、ハードディスクドライブ15の所定の領域(例えば、ホルダ)に格納されている。撮影画像は、カラー画像である。   The hard disk drive 15 stores a computer program Pr as software for the camera shake correction device. The hard disk drive 15 stores one or more image data Dp. The image data Dp is image data of a captured image taken by the digital camera 26 and is stored in a predetermined area (for example, a holder) of the hard disk drive 15. The captured image is a color image.

入力制御ユニット16は、キーボード22やマウス24から入力操作を取り込み、デジタルカメラ26から画像データを取り込み、CDドライブ28からデータを取り込む制御ユニットである。表示制御ユニット17は、ディスプレイ20への信号出力を制御する制御ユニットである。出力制御ユニット18は、プリンタ29への印刷を制御する制御ユニットである。   The input control unit 16 is a control unit that captures input operations from the keyboard 22 and the mouse 24, captures image data from the digital camera 26, and captures data from the CD drive 28. The display control unit 17 is a control unit that controls signal output to the display 20. The output control unit 18 is a control unit that controls printing on the printer 29.

コンピュータプログラムPrは、もともとは、記録媒体としてのCD−ROM(図示せず)に記憶されている。そのCD−ROMをCDドライブ28にセットして、所定のインストールプログラムを起動することで、コンピュータプログラムPrをCD−ROMから読み出してハードディスクドライブ15にインストールすることができる。このコンピュータプログラムPrをCPU11が実行することにより、本発明の手ブレ画像補正装置の各種構成要件は実現される。   The computer program Pr is originally stored in a CD-ROM (not shown) as a recording medium. The computer program Pr can be read from the CD-ROM and installed in the hard disk drive 15 by setting the CD-ROM in the CD drive 28 and starting a predetermined installation program. When the CPU 11 executes this computer program Pr, various constituent requirements of the camera shake image correction apparatus of the present invention are realized.

図1では、各種構成要件が、CPU11の内部で実現される機能のブロックによって示されている。すなわち、CPU11は、手ブレ補正部30、インターフェース部32を機能として備える。インターフェース部32は、補正前画像拡大表示部32aおよび手ブレ方向・程度入力部32bを備える。このコンピュータプログラムPrは、実際は、デジタルカメラ26で撮影した撮影画像を修整するフォトレタッチ用のアプリケーションプログラムであり、その中の一部のモジュールによって、上述した各部30、32の機能をパーソナルコンピュータ10に実現させる。   In FIG. 1, various constituent requirements are indicated by functional blocks implemented in the CPU 11. That is, the CPU 11 includes a camera shake correction unit 30 and an interface unit 32 as functions. The interface unit 32 includes a pre-correction image enlargement display unit 32a and a camera shake direction / degree input unit 32b. This computer program Pr is actually an application program for photo retouching that modifies a photographed image photographed by the digital camera 26, and the functions of the units 30 and 32 described above are given to the personal computer 10 by some of the modules therein. make it happen.

なお、コンピュータプログラムPrは、CD−ROMに替えて、フレキシブルディスク、光磁気ディスク、ICカード等の他の携帯型記録媒体(可搬型記録媒体)に格納された構成として、これらから提供されたものとすることができる。また、このコンピュータプログラムPrは、外部のネットワークに接続される特定のサーバから、ネットワークを介して提供されたものとすることもできる。上記ネットワークとしては、インターネットであってもよく、特定のホームページからダウンロードして得たコンピュータプログラムであってもよい。あるいは、電子メールの添付ファイルの形態で供給されたコンピュータプログラムであってもよい。   The computer program Pr is provided as a configuration stored in another portable recording medium (portable recording medium) such as a flexible disk, a magneto-optical disk, and an IC card in place of the CD-ROM. It can be. Further, the computer program Pr can be provided via a network from a specific server connected to an external network. The network may be the Internet or a computer program obtained by downloading from a specific homepage. Alternatively, it may be a computer program supplied in the form of an email attachment.

B.コンピュータ処理:
B−1.処理の全体:
このコンピュータプログラムPrを起動すると、まず、ディスプレイ20にアプリケーションウィンドウが表示される。このアプリケーションウィンドウは、グラフィカル・ユーザ・インタフェース(GUI)を構成している。
B. Computer processing:
B-1. Overall processing:
When the computer program Pr is started, an application window is first displayed on the display 20. This application window constitutes a graphical user interface (GUI).

図2は、アプリケーションウィンドウWDの一例を示す説明図である。図示するように、アプリケーションウィンドウWDの左側の処理メニュー欄MNには、[入力]、[修整]、[印刷]、[出力]の4種類のボタンBT1,BT2,BT3,BT4が、下方に向かって順に並んでおり、操作者は、これらボタンBT1〜BT4を順にマウス24によりクリックしていくことで、CRTディスプレイ12の画面上で、デジタルカメラ26で撮影した撮影画像を取り込み、修整して、出力する作業を進めていくことができる。   FIG. 2 is an explanatory diagram showing an example of the application window WD. As shown in the figure, in the process menu column MN on the left side of the application window WD, four types of buttons BT1, BT2, BT3, and BT4 of [Input], [Modify], [Print], and [Output] are directed downward. The operator clicks these buttons BT1 to BT4 with the mouse 24 in order, and captures and modifies the captured image captured by the digital camera 26 on the screen of the CRT display 12, You can proceed with output.

操作者は、まず、[入力]のボタンBT1をクリックすることで、ハードディスクドライブ15から画像データDpを取り込む処理を行なう。なお、ここでは、ハードディスクドライブ15に換えて、デジタルカメラ26から直接画像データを取り込む構成や、DVD等の他の記憶媒体から画像データを取り込む構成に換えることができる。この取り込んだ画像データDpは、アプリケーションウィンドウWDの作業フィールドFDWに表示される。   First, the operator clicks the [Input] button BT1 to perform processing for capturing the image data Dp from the hard disk drive 15. Here, instead of the hard disk drive 15, it is possible to change to a configuration for capturing image data directly from the digital camera 26 or a configuration for capturing image data from another storage medium such as a DVD. The captured image data Dp is displayed in the work field FDW of the application window WD.

その後、操作者は、[修整]のボタンBT2をクリックすることで、上記取り込んだ画像データDpの修整を行なう。図2は、[修整]のボタンBT2がクリックされたときのものである。図示するように、アプリケーションウィンドウWDのメニューバーMBには、[ファイル]、[コースメニュー]、[編集]、[表示]、[修整]、[修復・加工]等のボタンが設けられている。[修整]のボタンをクリックすることにより、画像データDpに対して、回転やトリミングを行なったり、明度や彩度などの色補正を行なうことができる。図中には、[修復・加工]のボタンをクリックしたときに開くプルダウンメニューDMが示されている。操作者は、[修復・加工]のボタンをクリックし、プルダウンメニューDMから所望の選択肢をクリックすることにより、画像データDpに対して、「手ブレ補正」や「ピンボケ補正」等を行なうこともできる。   Thereafter, the operator clicks the [Modify] button BT2 to modify the captured image data Dp. FIG. 2 shows the case where the [Modify] button BT2 is clicked. As shown in the figure, the menu bar MB of the application window WD is provided with buttons such as [File], [Course menu], [Edit], [Display], [Modify], [Repair / Process]. By clicking the [Modify] button, the image data Dp can be rotated or trimmed, and color correction such as brightness and saturation can be performed. In the figure, a pull-down menu DM that opens when the [Repair / Process] button is clicked is shown. The operator can perform “camera shake correction”, “blur correction”, etc. on the image data Dp by clicking the “Repair / Processing” button and clicking a desired option from the pull-down menu DM. it can.

B−2.手ブレ補正処理:
B−2−1.自動補正:
上記「手ブレ補正」が、本発明に関わるものである。プルダウンメニューDMの[手ブレ補正]の選択肢がクリックされたときに実行される手ブレ補正処理について、以下、詳細に説明する。
B-2. Image stabilization processing:
B-2-1. Automatic correction:
The above “camera shake correction” relates to the present invention. The camera shake correction process that is executed when the “camera shake correction” option in the pull-down menu DM is clicked will be described in detail below.

図3は、CPU11により実行される手ブレ補正処理を示すフローチャートである。プルダウンメニューDMの[手ブレ補正]の選択肢がクリックされて、処理が開始されると、CPU11は、まず、[注目領域の指定]ウィンドウWD1を、ディスプレイ20に表示する処理を行なう(ステップS100)。   FIG. 3 is a flowchart showing camera shake correction processing executed by the CPU 11. When the processing is started by clicking the [Camera shake correction] option in the pull-down menu DM, the CPU 11 first performs processing for displaying the [Specify region of interest] window WD1 on the display 20 (step S100). .

図4は、[注目領域の指定]ウィンドウWD1の一例を示す説明図である。図示するように、[注目領域の指定]ウィンドウWD1には、画像表示フィールドFD1と、[領域指定]ボタンBT11と、[拡大]ボタンBT12と、[縮小]ボタンBT13が設けられている。   FIG. 4 is an explanatory diagram showing an example of the [Specify Region of Interest] window WD1. As shown in the figure, the “designation of attention area” window WD1 is provided with an image display field FD1, an “designation of area” button BT11, an “enlargement” button BT12, and a “reduction” button BT13.

画像表示フィールドFD1には、アプリケーションウィンドウWDの作業フィールドFDWに表示された画像データDpが表示される。表示の開始時には、表示倍率が調整され、画像データDpの画像全体が表示される。   In the image display field FD1, the image data Dp displayed in the work field FDW of the application window WD is displayed. At the start of display, the display magnification is adjusted and the entire image of the image data Dp is displayed.

「拡大」ボタンBT12は、画像表示フィールドFD1に表示された画像を拡大するためのスイッチである。「拡大」ボタンがクリックされると、「表示拡大モード」になり、画像上にマウスカーソルを移動するとマウスカーソルの形状が変化し、この状態でクリックを行なうことで、画像を10%単位で拡大することができる。同時にクリックした位置が画像表示フィールドFD1の中心に設定される。   The “enlarge” button BT12 is a switch for enlarging the image displayed in the image display field FD1. When the “enlarge” button is clicked, “display enlargement mode” is entered, and when the mouse cursor is moved over the image, the shape of the mouse cursor changes. By clicking in this state, the image is enlarged in units of 10%. can do. The position clicked at the same time is set at the center of the image display field FD1.

「縮小」ボタンBT13は、画像表示フィールドFD1に表示された画像を縮小するためのスイッチである。「縮小」ボタンがクリックされると、「表示縮小モード」になり、画像上にマウスカーソルを移動するとマウスカーソルの形状が変化し、この状態でクリックを行なうことで、画像を10%単位で縮小することができる。同時にクリックした位置が画像表示フィールドFD1の中心に設定される。   The “reduction” button BT13 is a switch for reducing the image displayed in the image display field FD1. When the “Reduce” button is clicked, “Display reduction mode” is entered. When the mouse cursor is moved over the image, the shape of the mouse cursor changes. By clicking in this state, the image is reduced by 10%. can do. The position clicked at the same time is set at the center of the image display field FD1.

図4に示した例では、「縮小」ボタンBT13をクリックして上記のように操作がなされた結果、画像データDpは所望の倍率に縮小され、撮影画像に写ったピアノの角部辺りが、画像表示フィールドFD1の中心に位置するように表示されている。   In the example shown in FIG. 4, as a result of clicking the “reduction” button BT13 and performing the operation as described above, the image data Dp is reduced to a desired magnification, and the corners of the piano in the photographed image are The image is displayed so as to be positioned at the center of the image display field FD1.

[領域指定]ボタンBT11は、画像表示フィールドFD1に表示された撮影画像に対して注目する領域(以下、「注目領域」と呼ぶ)を指定するためのスイッチである。[領域指定]ボタンBT11がクリックされると、「領域指定モード」になり、撮影画像上をドラッグして始点と終点を結んだ直線を対角線とする矩形で注目領域を指定することができる。   [Region designation] button BT11 is a switch for designating a region of interest (hereinafter referred to as “region of interest”) with respect to the captured image displayed in image display field FD1. When the “Region Designation” button BT11 is clicked, the “Region Designation Mode” is entered, and the region of interest can be designated by a rectangle whose diagonal line is a straight line connecting the start point and the end point by dragging on the photographed image.

図5は、注目領域SAの指定がなされた後の[注目領域の指定]ウィンドウWD1の一例を示す説明図である。図示するように、画像表示フィールドFD1に表示された画像に対して、矩形の線分によって注目領域SAが指定される。操作者は、[領域指定]ボタンBT11をクリックした後、ドラッグの操作により、画像表示フィールドFD1に表示された撮影画像上に所望の領域を指定することができる。図示の例では、撮影画像に写ったピアノの角部を中心として、注目領域SAが指定されている。ピアノの角部のように周囲との濃度値(階調値)の差が大きい領域の境界、すなわちエッジ部分は、手ブレが顕著に現われることから、手ブレの検出が容易であるためである。この注目領域SAを指定する処理が図3のステップS110である。   FIG. 5 is an explanatory diagram showing an example of the [Specify Region of Interest] window WD1 after the attention region SA has been designated. As shown in the drawing, the attention area SA is designated by a rectangular line segment with respect to the image displayed in the image display field FD1. The operator can specify a desired region on the photographed image displayed in the image display field FD1 by clicking the [Region Designation] button BT11 and then performing a drag operation. In the example shown in the drawing, the attention area SA is designated around the corner of the piano shown in the photographed image. This is because camera shake is easily detected at the boundary of an area having a large difference in density value (tone value) from the surroundings, such as a corner of a piano, that is, an edge portion, so that it is easy to detect camera shake. . The process of designating this attention area SA is step S110 in FIG.

その後、[注目領域の指定]ウィンドウWD1において、[OK]ボタンBT14がクリックされると、[注目領域の指定]ウィンドウWD1は閉じられ、CPU11は、図3に示すように、続くステップS120に処理を進める。ステップS120では、ステップS110で指定された注目領域SAで囲まれた領域のデータを、注目画像データGSとして抽出する。なお、注目領域SAの指定が操作者によりなされない状態で、[OK]ボタンBT14がクリックされた場合には、画像データDp全体を注目画像データGSとする。   Thereafter, when the [OK] button BT14 is clicked in the [Specify Region of Interest] window WD1, the [Specify Region of Interest] window WD1 is closed, and the CPU 11 proceeds to the subsequent step S120 as shown in FIG. To proceed. In step S120, the data of the area surrounded by the attention area SA designated in step S110 is extracted as the attention image data GS. When the [OK] button BT14 is clicked in a state where the attention area SA is not designated by the operator, the entire image data Dp is set as the attention image data GS.

その後、CPU11は、注目画像データGSで示される注目画像についての手ブレの方向θ1と程度m1を検出する手ブレ方向・程度検出ルーチンを実行する(ステップS130)。   Thereafter, the CPU 11 executes a camera shake direction / degree detection routine for detecting the direction θ1 and the degree m1 of the camera shake for the target image indicated by the target image data GS (step S130).

図6は、手ブレ方向・程度検出ルーチンの詳細を示すフローチャートである。図示するように、このルーチンに処理が移行すると、CPU11は、まず、初期設定として、変数m1と変数θ1にそれぞれ値0をセットする(ステップS131)。次いで、CPU11は、ステップS120で抽出した注目画像データGSを構成する画素を1つ注目画素として選択する処理を行なう(ステップS132)。次いで、CPU11は、その注目画素を中心とする縦方向に3画素、横方向に3画素の3×3の領域に対して、水平方向ソーベル(Sobel)フィルタを用いたフィルタ演算処理を実行する(ステップS133)。   FIG. 6 is a flowchart showing details of the camera shake direction / degree detection routine. As shown in the figure, when the processing shifts to this routine, the CPU 11 first sets a value 0 to each of the variable m1 and the variable θ1 as an initial setting (step S131). Next, the CPU 11 performs a process of selecting one pixel constituting the target image data GS extracted in step S120 as one target pixel (step S132). Next, the CPU 11 performs a filter calculation process using a horizontal Sobel filter on a 3 × 3 region of 3 pixels in the vertical direction and 3 pixels in the horizontal direction centering on the target pixel ( Step S133).

図7は、水平方向ソーベルフィルタを示す説明図である。水平方向ソーベルフィルタは、縦方向に3画素、横方向に3画素の3×3のフィルタであり、図示のごとく、各ピクセルの重み係数が定められている。   FIG. 7 is an explanatory diagram illustrating a horizontal Sobel filter. The horizontal Sobel filter is a 3 × 3 filter having 3 pixels in the vertical direction and 3 pixels in the horizontal direction, and a weighting coefficient for each pixel is determined as shown in the figure.

ステップS133では、詳細には、注目画素を中心とする3×3の領域に対して、水平方向ソーベルフィルタに示される係数をそれぞれ乗算し、結果を合計するといったフィルタ演算処理を実行する。この合計値をThとする。   Specifically, in step S133, a filter calculation process is performed such that the 3 × 3 region centered on the pixel of interest is multiplied by the coefficients indicated by the horizontal Sobel filter and the results are summed. This total value is Th.

図6に戻り、ステップS133の実行後、CPU11は、ステップS131で選択された注目画素を中心とする縦方向に3画素、横方向に3画素の3×3の領域に対して、垂直方向ソーベル(Sobel)フィルタを用いたフィルタ演算処理を実行する(ステップS134)。   Returning to FIG. 6, after execution of step S133, the CPU 11 performs vertical sobel for a 3 × 3 region of 3 pixels in the vertical direction and 3 pixels in the horizontal direction around the target pixel selected in step S131. A filter calculation process using a (Sobel) filter is executed (step S134).

図8は、垂直方向ソーベルフィルタを示す説明図である。垂直方向ソーベルフィルタは、縦方向に3画素、横方向に3画素の3×3のフィルタであり、図示のごとく、各ピクセルの重み係数が定められている。   FIG. 8 is an explanatory view showing a vertical Sobel filter. The vertical Sobel filter is a 3 × 3 filter having 3 pixels in the vertical direction and 3 pixels in the horizontal direction, and a weighting coefficient for each pixel is determined as shown in the figure.

ステップS134では、詳細には、注目画素を中心とする3×3の領域に対して、垂直方向ソーベルフィルタに示される係数をそれぞれ乗算し、結果を合計するといったフィルタ演算処理を実行する。この合計値をTvとする。   In step S134, in detail, a filter calculation process is performed such that the 3 × 3 region centered on the target pixel is multiplied by the coefficient indicated by the vertical Sobel filter, and the results are summed. Let this total value be Tv.

ステップS134の実行後、CPU11は、ステップS133とステップS134のフィルタ演算処理により求められた合計値Th、Tvから、注目画素におけるエッジの方向θと程度mを算出する処理を行なう(ステップS135)。図9は、合計値Th、Tvとエッジの方向θ、程度mとの関係を示す説明図である。図示するように、ベクトル演算することで、合計値Th、Tvの和であるベクトルαが求まり、このベクトルαの方向θと長さmを、注目画素におけるエッジの方向θと程度mとする。   After execution of step S134, the CPU 11 performs processing for calculating the edge direction θ and the degree m of the target pixel from the total values Th and Tv obtained by the filter calculation processing of step S133 and step S134 (step S135). FIG. 9 is an explanatory diagram showing the relationship between the total values Th and Tv and the edge direction θ and the degree m. As shown in the figure, a vector α, which is the sum of the total values Th and Tv, is obtained by vector calculation, and the direction θ and the length m of the vector α are set to the edge direction θ and the degree m of the target pixel.

図6に戻り、ステップS135の実行後、CPU11は、ステップS135で求めた程度mが、変数m1より大きいか否かを判別する(ステップS136)。ここで、大きいと判別された場合には、変数m1に程度mを代入するとともに、変数θ1にステップS135で求めたエッジの方向θを代入する(ステップS137)。すなわち、程度mが、これまでの値より大きくなったときに、その程度mと方向θを、m1、θ1に記憶する処理を行なう。ステップS137の実行後、CPU11は、ステップS138に処理を進める。一方、ステップS136で、程度mが、変数m1以下であると判別された場合には、CPU11は、ステップS137を実行することなく、ステップS138に処理を進める。   Returning to FIG. 6, after executing step S135, the CPU 11 determines whether or not the degree m obtained in step S135 is larger than the variable m1 (step S136). If it is determined that the value is large, the degree m is substituted for the variable m1, and the edge direction θ obtained in step S135 is substituted for the variable θ1 (step S137). That is, when the degree m becomes larger than the previous value, the degree m and the direction θ are stored in m1 and θ1. After executing step S137, the CPU 11 advances the process to step S138. On the other hand, if it is determined in step S136 that the degree m is equal to or less than the variable m1, the CPU 11 proceeds to step S138 without executing step S137.

ステップS138では、CPU11は、注目画像データGSの全画素についてステップS132ないしS137の処理が終了したか否かを判定し、終了していなければ、ステップS132で画素を次の画素に移行して、ステップS133ないしS137の処理を繰り返す。一方、ステップS138で全画素についての処理が終了したと判定された場合には、「リターン」に抜けて、このルーチンの処理を一旦終了する。   In step S138, the CPU 11 determines whether or not the processing in steps S132 to S137 has been completed for all the pixels of the target image data GS. If not, the CPU 11 moves the pixel to the next pixel in step S132. Steps S133 through S137 are repeated. On the other hand, if it is determined in step S138 that the processing for all the pixels has been completed, the process returns to “RETURN” and the processing of this routine is temporarily ended.

上記のように構成された手ブレ方向・程度検出ルーチンによれば、注目画像データGSの中で、エッジの程度が最大となる画素におけるエッジの方向θ1と程度m1が得られる。   According to the camera shake direction / degree detection routine configured as described above, the edge direction θ1 and the degree m1 of the pixel having the maximum edge degree are obtained in the target image data GS.

図3に戻って、手ブレ方向・程度検出ルーチンを抜けると、CPU11は、ステップS140に処理を進める。ステップS140では、CPU11は、ステップS120で抽出した注目画像データGSについての手ブレ補正ルーチンを実行する。   Returning to FIG. 3, when the camera shake direction / degree detection routine is exited, the CPU 11 advances the process to step S <b> 140. In step S140, the CPU 11 executes a camera shake correction routine for the target image data GS extracted in step S120.

図10は、注目画像データGSについての手ブレ補正ルーチンの詳細を示すフローチャートである。図示するように、このルーチンに処理が移行すると、CPU11は、まず、手ブレ方向・程度検出ルーチンで算出されたエッジの方向θ1と程度m1に基づいて、モーションブラー(Motion Blur)フィルタを算出する処理を行なう(ステップS141)。モーションブラーフィルタは、画像に対し「動作ぼかし」をかけるフィルタであり、動作の方向とぼかしの程度の入力に応じてフィルタの係数が定まる。すなわち、動作の方向θおよび程度mと、モーションブラーフィルタF1とは、次式(1)の関係が成り立つ。   FIG. 10 is a flowchart showing details of a camera shake correction routine for the target image data GS. As shown in the figure, when the processing shifts to this routine, the CPU 11 first calculates a motion blur filter based on the edge direction θ1 and the degree m1 calculated in the camera shake direction / degree detection routine. Processing is performed (step S141). The motion blur filter is a filter that applies “motion blur” to an image, and the coefficient of the filter is determined according to the input of the direction of motion and the degree of blur. That is, the relationship of the following equation (1) is established between the motion direction θ and the degree m and the motion blur filter F1.

F1=F(θ,m) ...(1)
ここで、Fは、モーションブラーフィルタを求める際の関数である。
F1 = F (θ, m) (1)
Here, F is a function for obtaining a motion blur filter.

そこで、ステップS141では、「動作の方向θ」を、手ブレ方向・程度検出ルーチンで算出されたエッジの方向θ1とし、「動作の程度m」を、手ブレ方向・程度検出ルーチンで算出されたエッジの程度m1として、上記式(1)の関係から、モーションブラーフィルタF1を算出する。   Therefore, in step S141, the “motion direction θ” is set to the edge direction θ1 calculated in the camera shake direction / degree detection routine, and the “motion degree m” is calculated in the camera shake direction / degree detection routine. As the edge degree m1, the motion blur filter F1 is calculated from the relationship of the above formula (1).

図11は、モーションブラーフィルタの一例を示す説明図である。モーションブラーフィルタF1は、縦方向に3画素、横方向に3画素の3×3のフィルタであり、図示のごとく、各ピクセルの重み係数が定められている。   FIG. 11 is an explanatory diagram illustrating an example of a motion blur filter. The motion blur filter F1 is a 3 × 3 filter having three pixels in the vertical direction and three pixels in the horizontal direction, and a weighting coefficient for each pixel is determined as illustrated.

図10に戻り、ステップS141の実行後、CPU11は、その注目画像データGSに対して、モーションブラーフィルタF1を用いたフィルタ演算処理を実行する(ステップS142)。詳細には、手ブレ方向・程度検出ルーチンと同様に、注目画像データGSから注目画素を選択して、その注目画素を中心とする縦方向に3画素、横方向に3画素の3×3の領域を抽出して、この3×3の領域に対して、フィルタ、ここでは、モーションブラーフィルタF1を用いたフィルタ演算処理を実行していく、このフィルタ演算処理によって求められた値に注目画素の階調値を変換する。この一連の処理を注目画素を順次切り換えて、注目画像データGSの全画素について行なう。こうして得られた新たな画像データをぼかし画像データGS*とする。   Returning to FIG. 10, after execution of step S141, the CPU 11 executes filter calculation processing using the motion blur filter F1 on the target image data GS (step S142). More specifically, as in the camera shake direction / degree detection routine, a target pixel is selected from the target image data GS, and the 3 × 3 pixel having three pixels in the vertical direction and three pixels in the horizontal direction around the target pixel. An area is extracted, and a filter calculation process using a filter, here, a motion blur filter F1 is performed on the 3 × 3 area. Convert tone values. This series of processing is performed for all the pixels of the target image data GS by sequentially switching the target pixel. The new image data obtained in this way is referred to as blurred image data GS *.

続いて、CPU11は、ステップS120で抽出した注目画像データGSからステップS142で求められたぼかし画像データGS*を引くことによって、両者の差分DSを演算する(ステップS143)。詳細には、注目画像データGSとぼかし画像データGS*とを、画素毎にRGB毎の階調値の引き算を行なうことで、両画像データGS、GS*の差分DSの演算を行なう。   Subsequently, the CPU 11 calculates the difference DS between the two by subtracting the blurred image data GS * obtained in step S142 from the target image data GS extracted in step S120 (step S143). Specifically, the difference DS between the image data GS and GS * is calculated by subtracting the gradation value for each RGB of the target image data GS and the blurred image data GS * for each pixel.

その後、CPU11は、ステップS143で算出された差分DSを、ステップS120で抽出した注目画像データGSに加えて、新たな画像データを生成する(ステップS144)。詳細には、注目画像データGSと差分DSとを、画素毎にRGB毎の階調値の足し算を行なうことで、両データGS、DSを合成する演算を行なう。   Thereafter, the CPU 11 adds the difference DS calculated in step S143 to the target image data GS extracted in step S120 to generate new image data (step S144). More specifically, the image data GS and the difference DS are added to the gradation value for each RGB for each pixel, thereby performing an operation for synthesizing the data GS and DS.

図12は、注目画像データGSについての手ブレ補正ルーチンに従う処理内容を概念的に示す説明図である。図中において、ハッチングの部分が、注目画像GSにおける所定の部位であり、ここでは、ピアノの角部を模式化したものである。この部位の画像部分には、手ブレによるぼけた部分を含んでいる。この手ブレの方向θ1と程度m1は、手ブレ方向・程度検出ルーチンにより自動的に検出されているが、図中のベクトルVは、この手ブレの方向θ1と程度m1を示すものである。ステップS141、S142によれば、ベクトルVの方向θ1、長さm1でもって動作ぼかしがなされることから、ピアノの角部の下側境界線は、図中、1点鎖線の位置に移動し、この1点鎖線を境界とするぼかし画像GS*が生成される。   FIG. 12 is an explanatory diagram conceptually showing the processing content according to the camera shake correction routine for the target image data GS. In the figure, the hatched portion is a predetermined portion in the target image GS, and here, the corner portion of the piano is schematically shown. The image part of this part includes a blurred part due to camera shake. The camera shake direction θ1 and the degree m1 are automatically detected by the camera shake direction / degree detection routine, and the vector V in the drawing indicates the camera shake direction θ1 and the degree m1. According to steps S141 and S142, motion blurring is performed with the direction θ1 and the length m1 of the vector V. Therefore, the lower boundary line of the corner of the piano moves to the position of the one-dot chain line in the figure. A blurred image GS * having this one-dot chain line as a boundary is generated.

ステップS143によれば、注目画像GSからぼかし画像GS*を引くことで両画像の差分DSが、図示するように求まり、ステップS144では、この差分DSを注目画像GSに足し込むことで(ベクトルVの方向を正の方向とすると、差分DSは負の値をとることから)、注目画像GSから手ブレにより動作ぼかしされた分だけ取り除くことができる。この結果、図中2点鎖線に示すように、手ブレがない新たな画像データTGSを生成することができる。こうして得られた画像データTGSは、高精度に手ブレが補正されている。以下、この画像データTGSを「補正後注目画像データ」と呼ぶ。   According to step S143, by subtracting the blurred image GS * from the target image GS, the difference DS between the two images is obtained as shown in the figure. In step S144, the difference DS is added to the target image GS (vector V Since the difference DS takes a negative value when the direction of is a positive direction), it is possible to remove from the target image GS the amount of motion blur due to camera shake. As a result, as shown by the two-dot chain line in the figure, new image data TGS without camera shake can be generated. In the image data TGS obtained in this way, camera shake is corrected with high accuracy. Hereinafter, the image data TGS is referred to as “corrected noticed image data”.

図10に戻り、ステップS144の実行後、「リターン」に抜けて、このルーチンの処理を一旦終了する。   Returning to FIG. 10, after executing step S <b> 144, the process returns to “RETURN”, and the process of this routine is temporarily terminated.

図3に戻って、注目画像データGSについての手ブレ補正ルーチンを抜けると、CPU11は、ステップS150に処理を進める。ステップS150では、CPU11は、[手ブレ補正]ウィンドウWD2を表示する処理を行なう。   Returning to FIG. 3, when the camera shake correction routine for the target image data GS is exited, the CPU 11 advances the process to step S150. In step S150, the CPU 11 performs processing for displaying the [Image Stabilization] window WD2.

図13は、[手ブレ補正]ウィンドウWD2の一例を示す説明図である。図示するように、[手ブレ補正]ウィンドウWD2には、[元画像]表示フィールドFD11と、[補正後]表示フィールドFD12とが設けられている。[補正後]表示フィールドFD12の上部には、[ウィンドウに合わせて表示]ボタンBT21、[100%表示]ボタンBT22、[10%縮小表示]ボタンBT23、[10%拡大表示]ボタンBT24が設けられている。下方には、[OK]ボタンBT25と[手動補正]ボタンBT26が設けられている。   FIG. 13 is an explanatory diagram showing an example of the [Image Stabilization] window WD2. As shown in the figure, the [Image Stabilization] window WD2 is provided with an [Original Image] display field FD11 and a [After Correction] display field FD12. In the upper part of the [After Correction] display field FD12, a [Display in accordance with window] button BT21, a [100% display] button BT22, a [10% reduction display] button BT23, and a [10% enlargement display] button BT24 are provided. ing. Below, an [OK] button BT25 and a [Manual correction] button BT26 are provided.

[元画像]表示フィールドFD11には、ステップS120で抽出した注目画像データGSが表示される。[補正後]表示フィールドFD12には、注目画像データGSについての手ブレ補正ルーチンで得られた補正後注目画像データTGSが表示される。両画像データGS、TGSは、注目画像のサイズと両表示フィールドFD11、FD12のサイズから自動計算された同じ位置および表示倍率で表示されており、操作者による比較が容易なように構成されている。   In the [original image] display field FD11, the attention image data GS extracted in step S120 is displayed. In the [after correction] display field FD12, the corrected attention image data TGS obtained by the camera shake correction routine for the attention image data GS is displayed. Both image data GS and TGS are displayed at the same position and display magnification automatically calculated from the size of the image of interest and the sizes of both display fields FD11 and FD12, and are configured to be easily compared by the operator. .

[ウィンドウに合わせて表示]ボタンBT21がクリックされると、[元画像]・[補正後]表示フィールドFD11、FD12内に画像全体が表示されるように表示倍率が計算され、その表示倍率で両表示フィールドFD11、FD12の画像が表示される。[100%表示]ボタンBT22がクリックされると、両画像ともに、ディスプレイ20の1 画素と画像データの1 画素が1:1 になるように表示される。[10%縮小表示]ボタンBT23がクリックされると、両画像の現在の表示倍率を10%縮小して表示される。[10%拡大表示]ボタンBT24がクリックされると、両画像の現在の表示倍率を10%拡大して表示される。   When the [Fit to window] button BT21 is clicked, the display magnification is calculated so that the entire image is displayed in the [original image] / [after correction] display fields FD11 and FD12. Images in the display fields FD11 and FD12 are displayed. When the [100% display] button BT22 is clicked, both images are displayed such that one pixel of the display 20 and one pixel of the image data are 1: 1. When the [10% reduction display] button BT23 is clicked, the current display magnification of both images is reduced by 10% and displayed. When the “10% enlarged display” button BT24 is clicked, the current display magnification of both images is enlarged by 10% and displayed.

[OK]ボタンBT25は、[補正後]表示フィールドFD12に表示された補正後画像が良好だと操作者によって判断されたときに、操作者からのクリックを受け付けるものである。一方、[手動補正]ボタンBT26は、補正後画像が不可であると操作者によって判断されたときに、操作者からのクリックを受け付けるもので、この[手動補正]ボタンBT26がクリックされたときには、操作者による手動にて手ブレ補正を行なうことが可能となる。   [OK] button BT25 accepts a click from the operator when the operator determines that the corrected image displayed in [After correction] display field FD12 is good. On the other hand, the [Manual correction] button BT26 accepts a click from the operator when the operator determines that the corrected image is not possible. When the [Manual correction] button BT26 is clicked, Camera shake correction can be performed manually by an operator.

図3に戻って、ステップS150で、上述した構成の[手ブレ補正]ウィンドウWD2が表示されると、CPU11は、ステップS160に処理を進めて、操作者による操作指令は、上記[OK]ボタンBT25と[手動補正]ボタンBT26のいずれをクリックするものであるかを判別する処理を行なう。ここで、[OK]ボタンBT25がクリックされたと判定された場合には、手ブレ補正の対象である画像データDpに対して手ブレ補正処理を実行する(ステップS170)。   Returning to FIG. 3, when the [Image Stabilization] window WD2 having the above-described configuration is displayed in Step S150, the CPU 11 advances the process to Step S160, and the operation command from the operator is displayed by the [OK] button. Processing is performed to determine which of BT25 and [Manual Correction] button BT26 is to be clicked. If it is determined that the [OK] button BT25 is clicked, camera shake correction processing is executed on the image data Dp that is the subject of camera shake correction (step S170).

ステップS170の手ブレ補正処理は、詳細には、ステップS130の手ブレ方向・程度検出ルーチンで検出された手ブレの方向θ1と程度m1を、手ブレ補正を施す画像データDp全体の手ブレの方向として、この手ブレの方向θ1と程度m1を用いて補正を行なうものである。すなわち、図10に示した「注目画像データGSについての手ブレ補正ルーチン」において、処理対象を注目画像データGSに換えて画像データDpとした手ブレ補正処理を行なう。こうして得られた新たな画像データは、手ブレが補正された補正後画像データとして出力される。ステップS170の実行後、「リターン」に抜けて「手ブレ補正処理」は終了する。   Specifically, the camera shake correction process in step S170 is based on the camera shake direction θ1 and the degree m1 detected in the camera shake direction / degree detection routine in step S130. The direction is corrected using the direction θ1 of the camera shake and the degree m1. That is, in the “camera shake correction routine for the target image data GS” shown in FIG. 10, the camera shake correction process is performed in which the processing target is the image data Dp instead of the target image data GS. The new image data obtained in this way is output as corrected image data in which camera shake is corrected. After the execution of step S170, the process returns to “return” and “camera shake correction processing” ends.

一方、ステップS160で、[手動補正]ボタンBT26がクリックされたと判定された場合には、CPU11は、手動補正ルーチンを実行して(ステップS180)、その後、「リターン」に抜けて「手ブレ補正処理」を終了する。   On the other hand, if it is determined in step S160 that the [manual correction] button BT26 is clicked, the CPU 11 executes a manual correction routine (step S180), and then returns to “return” to “camera shake correction”. The process is terminated.

B−2−2.手動補正:
図14は、手動補正ルーチンの詳細を示すフローチャートである。図示するように、このルーチンに処理が移行すると、CPU11は、まず、ステップS181ないしS184の処理により、[手動補正]ウィンドウWD3を表示する処理を行なう。
B-2-2. Manual correction:
FIG. 14 is a flowchart showing details of the manual correction routine. As shown in the figure, when the process shifts to this routine, the CPU 11 first performs a process of displaying the [Manual Correction] window WD3 by the processes of Steps S181 to S184.

図15は、[手動補正]ウィンドウWD3の一例を示す説明図である。図示するように、[手動補正]ウィンドウWD3には、[元画像]表示フィールドFD21と、[補正後]表示フィールドFD22とが設けられている。両表示フィールドFD21、FD22のそれぞれの上部には、[100%表示]ボタンBT31、BT41と、[10%縮小表示]ボタンBT32、BT42と、[10%拡大表示]ボタンBT33、BT43とが設けられている。下方には、[OK]ボタンBT45が設けられている。また、[角度]エディットボックスBX1と、[長さ]エディットボックスBX2が設けられている。   FIG. 15 is an explanatory diagram showing an example of the [Manual Correction] window WD3. As shown in the figure, the [Manual correction] window WD3 is provided with an [Original image] display field FD21 and an [After correction] display field FD22. [100% display] buttons BT31 and BT41, [10% reduction display] buttons BT32 and BT42, and [10% enlargement display] buttons BT33 and BT43 are provided above the display fields FD21 and FD22, respectively. ing. An [OK] button BT45 is provided below. [Angle] edit box BX1 and [Length] edit box BX2 are provided.

[元画像]表示フィールドFD21には、ステップS120で抽出した注目画像データGSが表示される。[補正後]表示フィールドFD22には、注目画像データGSについての手ブレ補正ルーチンで得られた補正後注目画像データTGSが表示される。両表示フィールドFD21、FD22に表示される画像データGS、TGSは、前述した[手ブレ補正]ウィンドウWD2(図13)と同じものであるが、表示倍率が[手ブレ補正]ウィンドウWD2とは相違する。   In the [original image] display field FD21, the attention image data GS extracted in step S120 is displayed. In the [after correction] display field FD22, the corrected target image data TGS obtained by the camera shake correction routine for the target image data GS is displayed. The image data GS and TGS displayed in both display fields FD21 and FD22 are the same as those in the above-described [Image Stabilization] window WD2 (FIG. 13), but the display magnification is different from that in the [Image Stabilization] window WD2. To do.

[手動補正]ウィンドウWD3では、初期表示時は、[元画像]表示フィールドFD21に表示される注目画像データGS(元画像)は、[補正後]表示フィールドFD22に表示される補正後注目画像データTGS(補正後画像)と比べて表示倍率が高くなっている。この表示倍率は、ステップS130の手ブレ方向・程度検出ルーチンにより検出された手ブレの程度m1に基づいて定められている。   In the [Manual Correction] window WD3, during initial display, the target image data GS (original image) displayed in the [Original Image] display field FD21 is the corrected target image data displayed in the [After Correction] display field FD22. The display magnification is higher than TGS (corrected image). This display magnification is determined based on the hand movement degree m1 detected by the hand movement direction / degree detection routine in step S130.

図16は、手ブレの程度m1と表示倍率Rとの関係を示すグラフである。図示するように、手ブレの程度m1が小さいほど、表示倍率Rは高くなっている。   FIG. 16 is a graph showing the relationship between the degree m1 of camera shake and the display magnification R. As shown in the figure, the smaller the degree of camera shake m1, the higher the display magnification R.

図14のステップS181では、CPU11は、[元画像]表示フィールドFD21と[補正後]表示フィールドFD22とに画像が表示されていない状態の[手動補正]ウィンドウWD3のベースとなる画像を表示する。その後、CPU11は、ステップS182で、手ブレ方向・程度検出ルーチンにより検出された手ブレの程度m1と、注目画像のサイズと、[元画像]表示フィールドFD21のサイズに基づいて表示倍率Rを求めて、その表示倍率Rでもって、注目画像データGSを[元画像]表示フィールドFD21に表示する。手ブレの程度m1と表示倍率Rの関係は、前述したように、手ブレの程度m1が小さいほど、表示倍率Rは高くなっている。なお、表示位置については、注目画像データGSの中心が[元画像]表示フィールドFD21の中央に位置するようになされており、上記表示倍率Rでもって表示しきれない外側部分は当然表示されない。   In step S181 in FIG. 14, the CPU 11 displays an image serving as a base of the [Manual Correction] window WD3 in a state where no image is displayed in the [Original Image] display field FD21 and the [After Correction] display field FD22. Thereafter, in step S182, the CPU 11 obtains the display magnification R based on the camera shake degree m1 detected by the camera shake direction / degree detection routine, the size of the target image, and the size of the [original image] display field FD21. Thus, the attention image data GS is displayed in the [original image] display field FD21 with the display magnification R. As described above, the relationship between the camera shake level m1 and the display magnification R is such that the smaller the camera shake level m1 is, the higher the display magnification R is. As for the display position, the center of the target image data GS is positioned at the center of the [original image] display field FD21, and the outside portion that cannot be displayed with the display magnification R is naturally not displayed.

なお、表示位置については、上記の構成に換えて、手ブレ方向・程度検出ルーチンにより検出されたエッジの方向θ1と程度m1を持つエッジの程度が最大となる画素(エッジ部)を、[元画像]表示フィールドFD21の中央に位置するように構成することができる。また、この構成に換えて、エッジの方向θ1と程度m1を持つエッジの程度が最大となる画素を、[元画像]表示フィールドFD21のいずれかの位置に位置するように構成することもできる。   As for the display position, instead of the above configuration, the pixel (edge portion) having the maximum edge degree having the edge direction θ1 and the degree m1 detected by the camera shake direction / degree detection routine is set to [original The image] display field FD21 can be arranged in the center. Further, instead of this configuration, the pixel having the maximum edge degree having the edge direction θ1 and the degree m1 may be arranged at any position in the [original image] display field FD21.

ステップS182の実行後、CPU11は、注目画像データGSについての手ブレ補正ルーチンで得られた補正後注目画像データTGSを、[補正後]表示フィールドFD22に表示する(ステップS183)。この表示における表示倍率については、注目画像のサイズと、[補正後]表示フィールドFD22のサイズに基づいて定められており、前述したように、初期表示時は、[元画像]表示フィールドFD21に表示される元画像より表示倍率は低くなっている。   After execution of step S182, the CPU 11 displays the corrected target image data TGS obtained by the camera shake correction routine for the target image data GS in the [after correction] display field FD22 (step S183). The display magnification in this display is determined based on the size of the image of interest and the size of the [after correction] display field FD22. As described above, the display magnification is displayed in the [original image] display field FD21. The display magnification is lower than the original image to be displayed.

なお、[元画像]表示フィールドFD21に表示された画像についての表示倍率は、初期表示の状態から、[元画像]表示フィールドFD21の上方に配置された[100%表示]ボタンBT31、[10%縮小表示]ボタンBT32、[10%拡大表示]ボタンBT33を操作することにより自由に変更することができる。[100%表示]ボタンBT31がクリックされると、元画像は、ディスプレイ20の1 画素と画像データの1 画素が1:1 になるように表示され、[10%縮小表示]ボタンBT32がクリックされると、元画像の現在の表示倍率を10%縮小して表示され、[10%拡大表示]ボタンBT33がクリックされると、元画像の現在の表示倍率を10%拡大して表示される。   The display magnification of the image displayed in the [original image] display field FD21 is changed from the initial display state to [100% display] buttons BT31 and [10%] arranged above the [original image] display field FD21. It can be freely changed by operating the reduced display button BT32 and the 10% enlarged display button BT33. When the [100% display] button BT31 is clicked, the original image is displayed so that one pixel of the display 20 and one pixel of the image data are 1: 1, and the [10% reduction display] button BT32 is clicked. Then, the current display magnification of the original image is reduced by 10%, and when the [10% enlargement display] button BT33 is clicked, the current display magnification of the original image is enlarged by 10% and displayed.

表示位置については、[元画像]表示フィールドFD21の右側と下側に設けられたスライダーバSB1,SB2を操作して画像をスクロールさせることで変更することができる。   The display position can be changed by operating the slider bars SB1 and SB2 provided on the right side and the lower side of the [original image] display field FD21 to scroll the image.

一方、[補正後]表示フィールドFD22に表示された画像についての表示倍率も、初期表示の状態から、[補正後]表示フィールドFD22の上方に配置された[100%表示]ボタンBT41、[10%縮小表示]ボタンBT42、[10%拡大表示]ボタンBT43を操作することにより自由に変更することができる。[100%表示]ボタンBT41がクリックされると、補正後画像は、ディスプレイ20の1 画素と画像データの1 画素が1:1 になるように表示され、[10%縮小表示]ボタンBT32がクリックされると、補正後画像の現在の表示倍率を10%縮小して表示され、[10%拡大表示]ボタンBT33がクリックされると、補正後画像の現在の表示倍率を10%拡大して表示される。   On the other hand, the display magnification of the image displayed in the [after correction] display field FD22 is also changed from the initial display state to [100% display] buttons BT41 and [10%] arranged above the [after correction] display field FD22. It can be freely changed by operating the “reduced display” button BT42 and the “10% enlarged display” button BT43. When the [100% display] button BT41 is clicked, the corrected image is displayed so that one pixel of the display 20 and one pixel of the image data are 1: 1, and the [10% reduction display] button BT32 is clicked. Then, the current display magnification of the corrected image is reduced by 10%, and when the [10% enlargement display] button BT33 is clicked, the current display magnification of the corrected image is enlarged by 10% and displayed. Is done.

表示位置については、[補正後]表示フィールドFD22の右側と下側に設けられたスライダーバSB3,SB4を操作して画像をスクロールさせることで変更することができる。   The display position can be changed by scrolling the image by operating the slider bars SB3 and SB4 provided on the right side and the lower side of the [after correction] display field FD22.

図14に戻り、ステップS183の実行後、CPU11は、[元画像]表示フィールドFD21に表示された元画像に重畳させてグラフィックスツールTLを表示させる処理を行なう(ステップS184)。   Returning to FIG. 14, after executing step S183, the CPU 11 performs a process of superimposing the original image displayed in the [original image] display field FD21 to display the graphics tool TL (step S184).

図17は、グラフィックスツールTLの周辺を拡大した説明図である。図示するように、グラフィックスツールTLは、始点を示す十字形のマークMK1と、終点を示す十字形のマークMK2と、両者を結ぶ直線LNの3部品により構成されている。このグラフィックスツールTLは、[手動補正]ウィンドウWD3の初期表示時には、手ブレ方向・程度検出ルーチンにより検出された手ブレの方向θ1と程度m1に従って方向と長さが定まっている。詳細には、注目画像データGSの中心(すなわち、[元画像]表示フィールドFD21の中央)に、始点のマークMK1を表示し、そのマークMK1に対して、上記方向θ1に対応する角度と、程度m1に対応する距離から定まる位置に、終点のマークMK2を表示し、マークMK1の位置とマークMK2の位置を結ぶ直線LNを表示する。   FIG. 17 is an explanatory diagram enlarging the periphery of the graphics tool TL. As shown in the figure, the graphics tool TL is composed of three parts: a cross-shaped mark MK1 indicating the start point, a cross-shaped mark MK2 indicating the end point, and a straight line LN connecting the two. When the [Manual Correction] window WD3 is initially displayed, the graphics tool TL has a direction and a length determined according to the direction θ1 and the degree m1 of the camera shake detected by the camera shake direction / degree detection routine. Specifically, the start point mark MK1 is displayed at the center of the target image data GS (that is, the center of the [original image] display field FD21), and the angle and degree corresponding to the direction θ1 with respect to the mark MK1. An end point mark MK2 is displayed at a position determined from a distance corresponding to m1, and a straight line LN connecting the position of the mark MK1 and the position of the mark MK2 is displayed.

なお、初期表示時の始点のマークMK1の表示は、注目画像データGSの中心に換えて、他の位置にすることもできる。例えば、手ブレ方向・程度検出ルーチンにより検出されたエッジの方向θ1と程度m1を持つエッジの程度が最大となる画素を、[元画像]表示フィールドFD21に表示する前述した構成においては、この画素の位置に、初期表示時の始点のマークMK1を表示する構成とすることができる。   Note that the display of the start point mark MK1 at the time of initial display can be changed to another position instead of the center of the target image data GS. For example, in the above-described configuration in which the pixel having the maximum edge direction having the edge direction θ1 and the degree m1 detected by the camera shake direction / degree detection routine is displayed in the [original image] display field FD21, this pixel The mark MK1 of the starting point at the time of initial display can be displayed at the position.

このグラフィックスツールTLは、操作者のマウス24の操作を受けて、方向や長さや位置が変更可能となっている。詳細には、始点のマークMK1または終点のマークM2上に、マウスカーソルを移動すると、マウスカーソルの形状は所定の形状(例えば、「←→」といった形状)に変化し、この状態でドラッグすることにより始点のマークMK1または終点のマークM2の位置を変更することができる。また、直線LN上にマウスカーソルを移動すると、マウスカーソルの形状が所定の形状(例えば、十字の形状)に変化し、この状態でドラッグすることにより始点と終点の位置関係を保ったまま、グラフィックスツールTL全体を移動することができる。   The graphics tool TL can be changed in direction, length, and position in response to an operation of the mouse 24 by the operator. Specifically, when the mouse cursor is moved on the start point mark MK1 or the end point mark M2, the shape of the mouse cursor changes to a predetermined shape (for example, a shape such as “← →”), and dragging in this state is performed. Thus, the position of the start point mark MK1 or the end point mark M2 can be changed. When the mouse cursor is moved on the straight line LN, the shape of the mouse cursor changes to a predetermined shape (for example, a cross shape). By dragging in this state, the graphic relationship is maintained while maintaining the positional relationship between the start point and the end point. The entire stool TL can be moved.

操作者は、上述したようにグラフィックスツールTLを操作することにより、元画像上の実際の「ブレ」と比較しながら、グラフィックスツールTLの方向と長さを変更するといったことを行なう。図14のステップS185では、このグラフィックスツールTLに対する操作を受け付ける処理を行なっている。その後、CPU11は、グラフィックスツールTLの方向と長さを、操作者により手動入力された手ブレの方向θ2と程度m2として求める処理を行なう(ステップS186)。   By operating the graphics tool TL as described above, the operator changes the direction and length of the graphics tool TL while comparing with the actual “blur” on the original image. In step S185 in FIG. 14, a process of accepting an operation on the graphics tool TL is performed. Thereafter, the CPU 11 performs processing for obtaining the direction and length of the graphics tool TL as the direction θ2 and the degree m2 of the hand-shake manually input by the operator (step S186).

図18は、グラフィックスツールTLによって指定される手ブレの方向θ2と程度m2を示す説明図である。図示するように、手ブレの方向θ2は、始点のマークMK1から右向き水平方向を基準線として、基準線から右回り(時計回り)での角度で示され、手ブレの程度m2は、始点のマークMK1と終点のマークMK2との間の距離、即ち、直線LNの長さで示される。なお、上記手ブレの方向θ2を定める際の基準線および回りの方向については一例であり、これに換えて、他の方向を基準線とし、また、左回り(反時計回り)で、方向θ2を定める構成とすることもできる。   FIG. 18 is an explanatory diagram showing the direction θ2 and the degree m2 of camera shake specified by the graphics tool TL. As shown in the figure, the direction θ2 of camera shake is indicated by a clockwise angle from the reference line with the horizontal direction facing right from the start point mark MK1 as a reference line. This is indicated by the distance between the mark MK1 and the end point mark MK2, that is, the length of the straight line LN. It should be noted that the reference line and the direction in which the camera shake direction θ2 is determined are merely examples. Instead, the other direction is the reference line, and the direction θ2 is counterclockwise (counterclockwise). It can also be set as the structure which determines.

なお、操作者は、上述したように、グラフィックスツールTLを操作することによって、手ブレの方向θ2と程度m2を指定することができるが、この実施例では、さらに、[手動補正]ウィンドウWD3に設けられた[角度]エディットボックスBX1と[長さ]エディットボックスBX2によっても、手ブレの方向θ2と程度m2を指定可能である。   As described above, the operator can specify the direction θ2 and the degree m2 of the camera shake by operating the graphics tool TL. However, in this embodiment, the operator further designates the [Manual Correction] window WD3. The direction [theta] 2 and the degree m2 of camera shake can also be specified by the provided [angle] edit box BX1 and [length] edit box BX2.

図14に戻り、ステップS186の実行後、CPU11は、ステップS186で求めた手ブレの方向θ2と程度m2を用いた「注目画像データGSについての手ブレ補正ルーチン」を実行する(ステップS187)。注目画像データGSについての手ブレ補正ルーチンは、前述した図10に示したものであるが、ここでは、ステップS141で算出するモーションブラーフィルタを、ステップS186で求めた手ブレの方向θ2と程度m2に基づくものとした。すなわち、モーションブラーフィルタF2を、次式(2)に従って算出する。   Returning to FIG. 14, after the execution of step S186, the CPU 11 executes the “camera shake correction routine for the target image data GS” using the camera shake direction θ2 and the degree m2 obtained in step S186 (step S187). The camera shake correction routine for the target image data GS is the one shown in FIG. 10 described above. Here, the motion blur filter calculated in step S141 is about m2 and the direction θ2 of the camera shake obtained in step S186. Based on. That is, the motion blur filter F2 is calculated according to the following equation (2).

F2=F(θ2,m2) ...(2)
ここで、Fは、モーションブラーフィルタを求める際の関数である。
F2 = F (θ2, m2) (2)
Here, F is a function for obtaining a motion blur filter.

その後、このモーションブラーフィルタF2を用いてフィルタ演算してぼかし画像データGS*を求めて、注目画像データGSとぼかし画像データGS*の差分DSを求めて、この差分DSに注目画像データGSを足し混むことで、手ブレ補正がなされた補正後注目画像データTGSを生成する。   Thereafter, filter operation is performed using the motion blur filter F2 to obtain the blurred image data GS *, the difference DS between the noticed image data GS and the blurred image data GS * is obtained, and the noticed image data GS is added to the difference DS. As a result, the corrected attention image data TGS that has undergone camera shake correction is generated.

こうしてステップS187の処理が終了すると、CPU11は、ステップS187で求めた補正後注目画像データTGSでもって、[補正後]表示フィールドFD22の表示を変更する(ステップS188)。   When the processing in step S187 is thus completed, the CPU 11 changes the display of the [after correction] display field FD22 by using the corrected target image data TGS obtained in step S187 (step S188).

その後、CPU11は、[手動補正]ウィンドウWD3の[OK]ボタンBT45がクリックされたか否かを判別する(ステップS189)。[OK]ボタンBT45は、[補正後]表示フィールドFD22に表示された補正後画像が良好だと操作者によって判断されたときに、操作者によりクリックされるものであることから、[OK]ボタンBT45がクリックされていないと判別された場合には、手ブレ補正処理をやり直すべく、ステップS185に処理を戻して、ステップS185ないしS188のグラフィックツールTLを用いて手ブレの方向θ2と程度m2を変更する処理を再度行なう。   Thereafter, the CPU 11 determines whether or not the [OK] button BT45 of the [Manual Correction] window WD3 is clicked (Step S189). The [OK] button BT45 is clicked by the operator when it is determined by the operator that the corrected image displayed in the [After Correction] display field FD22 is good. If it is determined that BT45 has not been clicked, the process returns to step S185 to redo the camera shake correction process, and the camera shake direction θ2 and the degree m2 are set using the graphic tool TL of steps S185 to S188. Repeat the change process.

一方、ステップS189で、[OK]ボタンBT45がクリックされたと判別された場合には、[補正後]表示フィールドFD22に表示された補正後画像は良好であるとして、ステップS190に処理を進めて、手ブレ補正の対象である画像データDpに対して手ブレ補正処理を実行する。   On the other hand, if it is determined in step S189 that the [OK] button BT45 has been clicked, the corrected image displayed in the [after correction] display field FD22 is determined to be good, and the process proceeds to step S190. A camera shake correction process is performed on the image data Dp that is the object of camera shake correction.

ステップS190の手ブレ補正処理は、詳細には、ステップS186で算出された手ブレの方向θ2と程度m2を、手ブレ補正を施す画像データDp全体の手ブレの方向として、この手ブレの方向θ2と程度m2を用いて補正を行なうものである。すなわち、図10に示した「注目画像データGSについての手ブレ補正ルーチン」において、モーションブラーフィルタF2を、上記手ブレの方向θ2と程度m2に基づいて求めるとともに、処理対象を注目画像データGSに換えて画像データDpとした手ブレ補正処理を行なう。こうして得られた新たな画像データは、手ブレが補正された補正後画像データとして出力される。ステップS190の実行後、「リターン」に抜けてこのルーチンは一旦終了する。   More specifically, in the camera shake correction process in step S190, the camera shake direction θ2 and the degree m2 calculated in step S186 are set as the camera shake direction of the entire image data Dp to be subjected to camera shake correction. Correction is performed using θ2 and about m2. That is, in the “camera shake correction routine for the target image data GS” shown in FIG. 10, the motion blur filter F2 is obtained based on the direction θ2 and the degree m2 of the camera shake, and the processing target is set as the target image data GS. Instead, camera shake correction processing using the image data Dp is performed. The new image data obtained in this way is output as corrected image data in which camera shake is corrected. After execution of step S190, the process returns to “RETURN” and the routine is temporarily terminated.

以上のように構成された手動補正ルーチンと、この手動補正ルーチンを実行するCPU11により、インターフェース部32(図1)は構成されている。手ブレ補正部30は、CPU11と、ステップS187等で呼び出される手ブレ補正ルーチン等により構成される。インターフェース部32に備えられる補正前画像拡大表示部32aは、ステップS182に対応し、手ブレ方向・程度入力手段は、ステップS184ないしステップS186が対応する。   The interface unit 32 (FIG. 1) is configured by the manual correction routine configured as described above and the CPU 11 that executes the manual correction routine. The camera shake correction unit 30 includes a CPU 11 and a camera shake correction routine that is called in step S187 and the like. The pre-correction image enlargement display unit 32a provided in the interface unit 32 corresponds to step S182, and the camera shake direction / degree input unit corresponds to steps S184 to S186.

C.作用・効果:
以上のように構成されたこの実施例のコンピュータシステムによれば、ディスプレイ20に表示される[手動補正]ウィンドウWD3に、手ブレ補正ルーチンによる補正前画像と補正後画像が表わされることから、操作者は、両画像を比較することで、手ブレ補正ルーチンにより手ブレがうまく補正されたか否かを容易に判定することができる。しかも、元画像(補正前画像)に重畳させて表示されたグラフィックスツールTLが操作されることで、手ブレの方向と程度の入力が操作者によりなされ、この入力に基づいて手ブレ補正ルーチンにより手ブレの補正がなされることから、操作者の視認により入力された手ブレの方向と程度に従う手ブレの補正を行なうことができる。また、元画像は、補正後画像と比べて表示倍率が高くなっていることから、操作者は、グラフィックスツールTLを操作するに際して、手ブレの視認を容易に行なうことができる。
C. Action / Effect:
According to the computer system of this embodiment configured as described above, an image before correction and an image after correction by the camera shake correction routine are displayed in the [Manual correction] window WD3 displayed on the display 20. By comparing the two images, the person can easily determine whether or not the camera shake has been successfully corrected by the camera shake correction routine. In addition, by operating the graphics tool TL displayed superimposed on the original image (pre-correction image), the operator inputs the direction and degree of camera shake, and based on this input, the camera shake correction routine Since the camera shake is corrected, the camera shake can be corrected according to the direction and degree of the camera shake inputted by the visual recognition of the operator. Further, since the display magnification of the original image is higher than that of the corrected image, the operator can easily see the camera shake when operating the graphics tool TL.

したがって、操作者の操作により正確に入力された手ブレの方向と程度に従う手ブレ補正を行なうことができることから、画像の手ブレを高精度に補正することができる。しかも、操作者にとっては、上述したように手ブレの視認が容易であることから、入力の際の操作性にも優れている。   Accordingly, it is possible to perform camera shake correction in accordance with the direction and degree of camera shake accurately input by the operator's operation, so that image shake can be corrected with high accuracy. Moreover, since it is easy for the operator to visually recognize the camera shake as described above, the operability at the time of input is excellent.

この実施例では、グラフィックスツールTLは、始点のマークMK1と、終点のマークMK2と、両者を結ぶ直線LNとの3部品により構成されている。このために、撮影画像の手ブレの方向と程度を、シンプルな形状のグラフィックスの部品により表わすことがことができることから、構成が容易で、しかも操作者による操作が容易である。   In this embodiment, the graphics tool TL is composed of three parts: a start point mark MK1, an end point mark MK2, and a straight line LN connecting the two. For this reason, since the direction and degree of camera shake in the captured image can be represented by graphics parts having a simple shape, the configuration is easy and the operation by the operator is easy.

この実施例では、手ブレ方向・程度検出ルーチンにより自動的に検出された手ブレの方向θ1と程度m1に基づいて、手ブレ補正ルーチンによる手ブレの補正を行なって、[手動補正]ウィンドウWD3の初期表示時には、その補正後画像を表示させるように構成されている。このために、[手動補正]ウィンドウWD3の初期表示直後においては、自動補正された補正画像を表示させることができる。   In this embodiment, camera shake correction is performed by the camera shake correction routine based on the camera shake direction θ1 and degree m1 automatically detected by the camera shake direction / degree detection routine, and the [Manual Correction] window WD3 is used. In the initial display, the corrected image is displayed. For this reason, immediately after the initial display of the [Manual Correction] window WD3, a corrected image that has been automatically corrected can be displayed.

さらに、[手動補正]ウィンドウWD3の初期表示時には、グラフィックスツールTLの表示は、手ブレ方向・程度検出ルーチンにより自動的に検出された手ブレの方向θ1と程度m1に基づいて定められる構成となっている。このために、操作者は、この初期表示を基に、グラフィックスツールTLの操作を行なうことができる。したがって、手ブレの方向、程度を入力する際の操作性に、より一層優れている。   Further, at the initial display of the [Manual Correction] window WD3, the display of the graphics tool TL is determined based on the hand shake direction θ1 and degree m1 automatically detected by the hand shake direction / degree detection routine. ing. Therefore, the operator can operate the graphics tool TL based on this initial display. Therefore, the operability when inputting the direction and degree of camera shake is further improved.

この実施例は、[手動補正]ウィンドウWD3に表示される元画像は、手ブレ方向・程度検出ルーチンにより自動的に検出された手ブレの程度m1が小さいほど、表示倍率を高くする構成となっている。このために、手ブレの程度が小さい場合に、補正前画像が高い表示倍率で表示されることから、操作者は、元画像から手ブレを視認することがより一層、容易であり、また、補正前画像に対するグラフィックスツールTLを用いた手ブレの方向と程度の入力をより一層、容易に行なうことができる。   In this embodiment, the original image displayed in the [Manual Correction] window WD3 is configured to increase the display magnification as the degree m1 of the camera shake automatically detected by the camera shake direction / degree detection routine is smaller. ing. For this reason, when the degree of camera shake is small, the pre-correction image is displayed at a high display magnification, so that the operator can more easily visually recognize camera shake from the original image, and It is possible to more easily input the direction and degree of camera shake using the graphics tool TL for the pre-correction image.

この実施例では、手ブレ方向・程度検出ルーチンにより、注目画像データGSの中で、エッジの程度が最大となる画素におけるエッジの方向θ1と程度m1が得られるように構成されている。このために、撮影画像において最も手ブレの程度が大きいエッジ部における手ブレの方向と程度に基づいて、手ブレの補正が行なわれる。したがって、撮影画像の自動的な手ブレ補正の精度を高めることができる。   In this embodiment, the camera shake direction / degree detection routine is configured to obtain the edge direction θ1 and the degree m1 of the pixel having the maximum edge degree in the target image data GS. For this reason, camera shake correction is performed based on the direction and degree of camera shake at the edge portion where the degree of camera shake is the largest in the captured image. Therefore, it is possible to improve the accuracy of automatic camera shake correction of the captured image.

D.他の実施形態:
なお、この発明は上記の実施例や変形例に限られるものではなく、本発明の要旨を逸脱しない範囲において種々なる態様にて実施することが可能であり、例えば次のような変形も可能である。
D. Other embodiments:
The present invention is not limited to the above-described embodiments and modifications, and can be carried out in various modes without departing from the gist of the present invention. For example, the following modifications are possible. is there.

(1)前記実施例では、[手ブレ補正]ウィンドウWD2、[手動補正]ウィンドウWD3で表示する元画像は、画像データDpからトリミングした注目画像データGSとしていたが、これに換えてトリミングを行なうことなく、画像データDpをそのまま表示する構成としてもよい。 (1) In the above embodiment, the original image displayed in the [Image Stabilization] window WD2 and the [Manual Correction] window WD3 is the attention image data GS trimmed from the image data Dp. Alternatively, the image data Dp may be displayed as it is.

(2)前記実施例では、手ブレの方向と程度を入力するためのグラフィックスツールTLは、始点のマークMK1と、終点のマークMK2と、両者を結ぶ直線LNとの3部品により構成されていたが、これに換えて、矢印等の他の形状とすることもできる。要は、方向と長さを入力可能なツールであればどのような形状とすることもできる。 (2) In the above-described embodiment, the graphics tool TL for inputting the direction and degree of camera shake is composed of three parts: a start point mark MK1, an end point mark MK2, and a straight line LN connecting the two. However, other shapes such as an arrow may be used instead. In short, any shape can be used as long as the tool can input the direction and length.

(3)前期実施例の手ブレ方向・程度検出ルーチンでは、ソーベルフィルタを用いて、手ブレの方向と程度を検出していたが、この方法に限る必要もなく、他の方法で、手ブレの方向と程度を検出するように構成してもよい。 (3) In the camera shake direction / degree detection routine of the previous embodiment, the direction and degree of camera shake are detected using a Sobel filter. However, the present invention is not limited to this method. You may comprise so that the direction and grade of a blur may be detected.

(4)前記実施例では、手ブレ補正を行なう手ブレ補正ルーチンを、モーションブラーフィルタを用いてフィルタリングすることにより動作ぼかしを行なって、手ブレ補正を行なう構成であったが、この方法に限る必要もなく、要は、手ブレの方向と程度の入力を受けて、該入力に基づいて撮影画像の手ブレの補正を実行するものであればどのような構成とすることもできる。 (4) In the above-described embodiment, the camera shake correction routine for performing the camera shake correction is configured to perform the camera shake correction by performing the motion blur by filtering using the motion blur filter. In short, any configuration may be used as long as it receives an input of the direction and degree of camera shake and corrects camera shake based on the input.

(5)前記実施例では、手ブレを補正する対象としての画像データDpは、デジタルカメラ26により撮影したものとしたが、これに替えて、カラースキャナ等を用いて獲得した銀塩写真の画像データであってもよい。要は、なんらかの撮影装置(例えば、静止画の撮影機能を持ったビデオカメラ)で撮影して得られた撮影画像を獲得する構成であれば、どのような構成であってもよい。例えば、HDD15等の記憶装置に予め用意したものに換えて、ネットワークを介して外部から取り込んだものであってもよい。また、必ずしもカラーの画像データである必要もなく、白黒の画像データに適用することもできる。 (5) In the above embodiment, the image data Dp as a target for correcting camera shake was taken by the digital camera 26. It may be data. In short, any configuration may be used as long as a captured image obtained by capturing with some imaging device (for example, a video camera having a still image capturing function) is acquired. For example, instead of a device prepared in advance in a storage device such as the HDD 15, a device imported from the outside via a network may be used. Further, it is not always necessary to use color image data, and can be applied to monochrome image data.

本発明の一実施例を適用するコンピュータシステムのハードウェアの概略構成を示す説明図である。It is explanatory drawing which shows schematic structure of the hardware of the computer system to which one Example of this invention is applied. アプリケーションウィンドウWDの一例を示す説明図である。It is explanatory drawing which shows an example of application window WD. CPU11により実行される手ブレ補正処理を示すフローチャートである。It is a flowchart which shows the camera-shake correction process performed by CPU11. [注目領域の指定]ウィンドウWD1の一例を示す説明図である。It is explanatory drawing which shows an example of the [designation of attention area] window WD1. 注目領域SAの指定がなされた後の[注目領域の指定]ウィンドウWD1の一例を示す説明図である。It is explanatory drawing which shows an example of the [designation of attention area] window WD1 after designation of attention area SA. 手ブレ方向・程度検出ルーチンの詳細を示すフローチャートである。10 is a flowchart showing details of a camera shake direction / degree detection routine. 水平方向ソーベルフィルタを示す説明図である。It is explanatory drawing which shows a horizontal direction Sobel filter. 垂直方向ソーベルフィルタを示す説明図である。It is explanatory drawing which shows a vertical direction Sobel filter. 合計値Th、Tvとエッジの方向θ、程度mとの関係を示す説明図である。It is explanatory drawing which shows the relationship between total value Th and Tv, edge direction (theta), and degree m. 注目画像データGSについての手ブレ補正ルーチンの詳細を示すフローチャートである。It is a flowchart which shows the detail of the camera-shake correction routine about attention image data GS. モーションブラーフィルタF1の一例を示す説明図である。It is explanatory drawing which shows an example of the motion blur filter F1. 注目画像データGSについての手ブレ補正ルーチンに従う処理内容を概念的に示す説明図である。It is explanatory drawing which shows notionally the processing content according to the camera-shake correction routine about attention image data GS. [手ブレ補正]ウィンドウWD2の一例を示す説明図である。It is explanatory drawing which shows an example of the [camera shake correction] window WD2. 手動補正ルーチンの詳細を示すフローチャートである。It is a flowchart which shows the detail of a manual correction routine. [手動補正]ウィンドウWD3の一例を示す説明図である。It is explanatory drawing which shows an example of the [manual correction] window WD3. 手ブレの程度m1と表示倍率Rとの関係を示すグラフである。It is a graph which shows the relationship between the extent m1 of camera shake, and the display magnification R. グラフィックスツールTLの周辺を拡大した説明図である。It is explanatory drawing which expanded the periphery of graphics tool TL. グラフィックスツールTLによって指定される手ブレの方向θ2と程度m2を示す説明図である。It is explanatory drawing which shows direction (theta) 2 and the degree m2 of camera shake designated by graphics tool TL.

符号の説明Explanation of symbols

10...パーソナルコンピュータ
11...CPU
12...バス
13...メモリ
14...表示画像メモリ
15...ハードディスクドライブ
16...入力制御ユニット
17...表示制御ユニット
18...出力制御ユニット
20...ディスプレイ
22...キーボード
24...マウス
26...デジタルカメラ
28...CDドライブ
29...プリンタ
30...手ブレ補正部
32...インターフェース部
32a...補正前画像拡大表示部
32b...手ブレ方向・程度入力部
Pr...コンピュータプログラム
F1、F2...モーションブラーフィルタ
WD...アプリケーションウィンドウ
FD1...画像表示フィールド
FDW...作業フィールド
SA...注目領域
GS...注目画像データ
TGS...補正後注目画像データ
WD1...[注目領域の指定]ウィンドウ
WD2...[手ブレ補正]ウィンドウ
FD11...[元画像]表示フィールド
FD12...[補正後]表示フィールド
BT26...[手動補正]ボタン
WD3...[手動補正]ウィンドウ
FD21...[元画像]表示フィールド
FD22...[補正後]表示フィールド
TL...グラフィックスツール
MK1...マーク
MK2...マーク
LN...直線
θ1、θ2...手ブレの方向
m1、m2...手ブレの程度
10 ... Personal computer 11 ... CPU
12 ... Bus 13 ... Memory 14 ... Display image memory 15 ... Hard disk drive 16 ... Input control unit 17 ... Display control unit 18 ... Output control unit 20 ... Display 22 ... Keyboard 24 ... Mouse 26 ... Digital Camera 28 ... CD Drive 29 ... Printer 30 ... Image Stabilizer 32 ... Interface 32a ... Enlarged Display before Correction 32b ... Shake direction / degree input part Pr ... Computer program F1, F2 ... Motion blur filter WD ... Application window FD1 ... Image display field FDW ... Work field SA ... Attention Area GS ... attention image data TGS ... corrected attention image data WD1 ... [Specify attention area] window WD2 ... [Image stabilization] window FD11 ... [original image] display field FD1 2. [After correction] display field BT26 ... [Manual correction] button WD3 ... [Manual correction] window FD21 ... [Original image] display field FD22 ... [After correction] display field TL. ..Graphics tool MK1 ... mark MK2 ... mark LN ... straight line θ1, θ2 ... direction of camera shake m1, m2 ... degree of camera shake

Claims (18)

撮影装置で撮影して得られた撮影画像の手ブレを補正する手ブレ画像補正装置であって、
前記手ブレの方向と程度の入力を受けて、該入力に基づいて前記撮影画像の手ブレの補正を実行する手ブレ補正手段と、
前記撮影画像の全体もしくは一部についての前記手ブレ補正手段による補正前画像と補正後画像を表わすウィンドウを表示装置に表示させるとともに、前記ウィンドウに対する操作者からの入力装置を用いた操作指令を受け付けるインターフェース手段と
を備えるとともに、
前記インターフェース手段は、
前記補正前画像を、前記補正後画像と比べて表示倍率を高くして表示させる補正前画像拡大表示手段と、
前記補正前画像拡大表示手段により表示された補正前画像に重畳させて所定のグラフィックスの部品を表示させるとともに、該部品に対する操作者からの入力装置を用いた操作指令に基づいて、前記撮影画像の手ブレの方向と程度を前記手ブレ補正手段への入力用として入力する手ブレ方向・程度入力手段と
を備える手ブレ画像補正装置。
A camera shake correction device that corrects camera shake in a photographed image obtained by photographing with a photographing device,
A camera shake correction unit that receives an input of the direction and degree of the camera shake, and performs camera shake correction of the captured image based on the input;
A window representing the pre-correction image and the post-correction image by the camera shake correction means for the whole or a part of the photographed image is displayed on the display device, and an operation command using the input device from the operator for the window is accepted. Interface means, and
The interface means includes
A pre-correction image enlargement display means for displaying the pre-correction image at a higher display magnification than the post-correction image;
The captured image is displayed based on an operation command using an input device from an operator for the component while superimposing it on the uncorrected image displayed by the uncorrected image enlargement display means and displaying a predetermined graphics component. A camera shake image correction apparatus comprising: a camera shake direction / degree input means for inputting the direction and the degree of camera shake for input to the camera shake correction means.
請求項1に記載の手ブレ画像補正装置であって、
前記所定のグラフィックスの部品を、始点、終点および両者を結ぶ直線の3部品により構成した手ブレ画像補正装置。
The camera shake image correction apparatus according to claim 1,
A camera shake image correction apparatus in which the predetermined graphics component is constituted by three components: a start point, an end point, and a straight line connecting both.
請求項1または2に記載の手ブレ画像補正装置であって、
前記撮影画像に基づいて、前記手ブレの方向と程度を検出する手ブレ方向・程度検出手段を備え、
前記インターフェース手段は、
前記ウィンドウの初期表示時に、前記手ブレ方向・程度検出手段により検出された前記手ブレの方向と程度に基づいて前記手ブレ補正手段により補正された前記補正後画像を表示させる手段を備える手ブレ画像補正装置。
The camera shake image correction device according to claim 1 or 2,
A camera shake direction / degree detection means for detecting the direction and degree of the camera shake based on the captured image;
The interface means includes
A camera shake unit provided with means for displaying the corrected image corrected by the camera shake correction unit based on the direction and level of the camera shake detected by the camera shake direction / level detection unit during the initial display of the window; Image correction device.
請求項3に記載の手ブレ画像補正装置であって、
前記手ブレ方向・程度入力手段は、
前記ウィンドウの初期表示時に、前記所定のグラフィックスの部品の表示を、前記手ブレ方向・程度検出手段により検出された前記手ブレの方向と程度に基づいて定める手段を備える手ブレ画像補正装置。
The camera shake image correction apparatus according to claim 3,
The hand shake direction / degree input means is:
A camera shake correction apparatus comprising: means for determining the display of the predetermined graphics component based on the direction and degree of the camera shake detected by the camera shake direction / degree detection means at the time of initial display of the window.
請求項3または4に記載の手ブレ画像補正装置であって、
前記補正前画像拡大表示手段は、
前記手ブレ方向・程度検出手段により検出された前記手ブレの程度が小さいほど、前記表示倍率を高くする構成である手ブレ画像補正装置。
The camera shake image correction apparatus according to claim 3 or 4,
The pre-correction image enlargement display means includes
A camera shake image correction apparatus configured to increase the display magnification as the degree of camera shake detected by the camera shake direction / degree detection unit is smaller.
請求項3ないし5のいずれかに記載の手ブレ画像補正装置であって、
前記手ブレ方向・程度検出手段は、
前記撮影画像の画素毎に手ブレの方向と程度を検出する各画素手ブレ検出手段と、
前記各画素手ブレ検出手段により検出された手ブレの程度が最も大きいエッジ部を検出するエッジ検出手段と、
前記エッジ検出手段により検出された前記エッジ部の手ブレの方向と程度を、前記撮影画像全体の手ブレの方向と程度に定める手ブレ決定手段と
を備える手ブレ画像補正装置。
The camera shake image correction apparatus according to any one of claims 3 to 5,
The hand shake direction / degree detection means is:
Each pixel camera shake detection means for detecting the direction and degree of camera shake for each pixel of the captured image;
Edge detecting means for detecting an edge portion having the largest degree of camera shake detected by each pixel camera shake detecting means;
A camera shake image correction apparatus comprising: a camera shake determination unit that determines a direction and a degree of camera shake of the edge portion detected by the edge detection unit as a direction and a level of camera shake of the entire captured image.
請求項6に記載の手ブレ画像補正装置であって、
前記補正前画像拡大表示手段は、
前記エッジ検出手段により検出されたエッジ部を少なくとも含む領域を拡大表示させる構成である手ブレ画像補正装置。
The camera shake image correction apparatus according to claim 6,
The pre-correction image enlargement display means includes
A camera shake image correction apparatus configured to enlarge and display a region including at least an edge portion detected by the edge detection means.
請求項7に記載の手ブレ画像補正装置であって、
前記手ブレ方向・程度入力手段は、
前記補正前画像拡大表示手段により表示された前記エッジ部に、前記所定のグラフィックスの部品を表示させた構成である手ブレ画像補正装置。
The camera shake image correction apparatus according to claim 7,
The hand shake direction / degree input means is:
A camera shake image correction apparatus configured to display the predetermined graphics component on the edge portion displayed by the pre-correction image enlargement display unit.
請求項1ないし8のいずれかに記載の手ブレ画像補正装置であって、
前記手ブレ補正手段は、
入力された前記手ブレの方向と程度に基づいて、動作ぼかしを掛けるモーションブラーフィルタを設定するフィルタ設定手段と、
該設定されたモーションブラーフィルタを用いて、前記撮影画像に対して演算処理を行なうフィルタ演算手段と、
前記撮影画像と前記フィルタ演算手段により得られた画像との差分を演算する画像差分演算手段と、
前記撮影画像に対して前記差分を合成することにより、前記撮影画像に対して前記手ブレの方向と反対側にぶれた画像を前記補正後画像として生成する画像合成手段と
を備える手ブレ画像補正装置。
The camera shake image correction apparatus according to any one of claims 1 to 8,
The camera shake correction means includes:
Filter setting means for setting a motion blur filter for applying motion blur based on the input direction and degree of hand shake;
Using the set motion blur filter, filter arithmetic means for performing arithmetic processing on the captured image;
Image difference calculation means for calculating a difference between the captured image and the image obtained by the filter calculation means;
A camera shake image correction comprising: an image composition unit configured to generate, as the post-correction image, an image that is blurred in the direction opposite to the camera shake direction with respect to the captured image by combining the difference with the captured image. apparatus.
撮影装置で撮影して得られた撮影画像の手ブレを補正する手ブレ画像補正方法であって、
(a)前記手ブレの方向と程度の入力を受けて、該入力に基づいて前記撮影画像の手ブレの補正を実行する行程と、
(b)前記撮影画像の全体もしくは一部についての前記行程(a)による補正前画像と補正後画像を表わすウィンドウを表示装置に表示させるとともに、前記ウィンドウに対する操作者からの入力装置を用いた操作指令を受け付ける行程と
を備えるとともに、
前記行程(b)は、
(b−1)前記補正前画像を、前記補正後画像と比べて表示倍率を高くして表示させる行程と、
(b−2)前記行程(b−1)により表示された補正前画像に重畳させて所定のグラフィックスの部品を表示させるとともに、該部品に対する操作者からの入力装置を用いた操作指令に基づいて、前記撮影画像の手ブレの方向と程度を前記行程(a)への入力用として入力する行程と
を備える手ブレ画像補正方法。
A camera shake image correction method for correcting camera shake of a photographed image obtained by photographing with a photographing device,
(A) a process of receiving an input of the direction and degree of the camera shake, and performing a camera shake correction of the captured image based on the input;
(B) A window representing the pre-correction image and the post-correction image in the step (a) for all or a part of the photographed image is displayed on the display device, and an operation for the window using an input device from the operator And a process for receiving a command,
The step (b) is:
(B-1) a step of displaying the uncorrected image at a display magnification higher than that of the corrected image;
(B-2) A predetermined graphics component is displayed by being superimposed on the pre-correction image displayed in the step (b-1), and based on an operation command using an input device from the operator for the component. And a step of inputting a direction and a degree of camera shake of the photographed image for input to the step (a).
撮影装置で撮影して得られた撮影画像の手ブレを補正するためのコンピュータプログラムにおいて、
(a)前記手ブレの方向と程度の入力を受けて、該入力に基づいて前記撮影画像の手ブレの補正を実行する機能と、
(b)前記撮影画像の全体もしくは一部についての前記機能(a)による補正前画像と補正後画像を表わすウィンドウを表示装置に表示させるとともに、前記ウィンドウに対する操作者からの入力装置を用いた操作指令を受け付ける機能と
をコンピュータに実現させるとともに、
前記機能(b)は、
(b−1)前記補正前画像を、前記補正後画像と比べて表示倍率を高くして表示させる機能と、
(b−2)前記機能(b−1)により表示された補正前画像に重畳させて所定のグラフィックスの部品を表示させるとともに、該部品に対する操作者からの入力装置を用いた操作指令に基づいて、前記撮影画像の手ブレの方向と程度を前記機能(a)への入力用として入力する機能と
を備えることを特徴とするコンピュータプログラム。
In a computer program for correcting camera shake of a photographed image obtained by photographing with a photographing device,
(A) a function of receiving an input of the direction and degree of the camera shake and executing a camera shake correction of the captured image based on the input;
(B) A window representing the pre-correction image and the post-correction image by the function (a) for the whole or a part of the photographed image is displayed on the display device, and the operation using the input device from the operator for the window In addition to realizing a function to accept commands on a computer,
The function (b) is
(B-1) a function of displaying the pre-correction image at a higher display magnification than the post-correction image;
(B-2) Superimposed on the pre-correction image displayed by the function (b-1) to display a predetermined graphics component and based on an operation command using an input device from the operator for the component And a function for inputting the direction and degree of camera shake of the photographed image for input to the function (a).
請求項11に記載のコンピュータプログラムであって、
前記所定のグラフィックスの部品を、始点、終点および両者を結ぶ直線の3部品により構成したコンピュータプログラム。
A computer program according to claim 11,
A computer program in which the predetermined graphics part is composed of a start point, an end point, and a straight line connecting the two.
請求項11または12に記載のコンピュータプログラムであって、
(c)記撮影画像に基づいて、前記手ブレの方向と程度を検出する機能を備え、
前記機能(b)は、
前記ウィンドウの初期表示時に、前記手ブレ方向・程度検出手段により検出された前記手ブレの方向と程度に基づいて前記機能(a)により補正された前記補正後画像を表示させる機能を備えるコンピュータプログラム。
A computer program according to claim 11 or 12,
(C) a function of detecting the direction and degree of the camera shake based on the recorded image;
The function (b) is
A computer program having a function of displaying the corrected image corrected by the function (a) based on the direction and degree of the camera shake detected by the camera shake direction / degree detection means at the time of initial display of the window .
請求項13に記載のコンピュータプログラムであって、
前記機能(b−2)は、
前記ウィンドウの初期表示時に、前記所定のグラフィックスの部品の表示を、前記機能(c)により検出された前記手ブレの方向と程度に基づいて定める機能を備えるコンピュータプログラム。
A computer program according to claim 13,
The function (b-2) is
A computer program having a function of determining display of the predetermined graphics component based on the direction and degree of the camera shake detected by the function (c) at the time of initial display of the window.
請求項13または14に記載のコンピュータプログラムであって、
前記機能(b−1)は、
前記機能(c)により検出された前記手ブレの程度が小さいほど、前記表示倍率を高くする構成であるコンピュータプログラム。
A computer program according to claim 13 or 14,
The function (b-1) is
A computer program configured to increase the display magnification as the degree of camera shake detected by the function (c) is smaller.
請求項13ないし15のいずれかに記載のコンピュータプログラムであって、
前記機能(c)は、
(c−1)前記撮影画像の画素毎に手ブレの方向と程度を検出する機能と、
(c−2)前記機能(c−1)により検出された手ブレの程度が最も大きいエッジ部を検出する機能と、
(c−3)前記機能(c−2)により検出された前記エッジ部の手ブレの方向と程度を、前記撮影画像全体の手ブレの方向と程度に定める機能と
を備えるコンピュータプログラム。
A computer program according to any one of claims 13 to 15,
The function (c) is:
(C-1) a function of detecting the direction and degree of camera shake for each pixel of the captured image;
(C-2) a function of detecting an edge portion having the largest degree of camera shake detected by the function (c-1);
(C-3) A computer program comprising: a function for determining the direction and degree of camera shake of the edge portion detected by the function (c-2) as the direction and degree of camera shake of the entire photographed image.
請求項11ないし16のいずれかに記載のコンピュータプログラムであって、
前記機能(a)は、
(a−1)入力された前記手ブレの方向と程度に基づいて、動作ぼかしを掛けるモーションブラーフィルタを設定する機能と、
(a−2)該設定されたモーションブラーフィルタを用いて、前記撮影画像に対して演算処理を行なう機能と、
(a−3)前記撮影画像と前記機能(a−2)により得られた画像との差分を演算する機能と、
(a−4)前記撮影画像に対して前記差分を合成することにより、前記撮影画像に対して前記手ブレの方向と反対側にぶれた画像を前記補正後画像として生成する機能と
を備えるコンピュータプログラム。
A computer program according to any one of claims 11 to 16,
The function (a) is:
(A-1) a function of setting a motion blur filter for applying motion blur based on the input direction and degree of hand shake;
(A-2) a function of performing arithmetic processing on the captured image using the set motion blur filter;
(A-3) a function for calculating a difference between the captured image and the image obtained by the function (a-2);
(A-4) A computer having a function of generating, as the corrected image, an image that is blurred on the opposite side of the direction of camera shake with respect to the captured image by combining the difference with the captured image. program.
請求項11ないし請求項17のいずれかに記載のコンピュータプログラムを記録したコンピュータ読み取り可能な記録媒体。   The computer-readable recording medium which recorded the computer program in any one of Claim 11 thru | or 17.
JP2004155519A 2004-05-26 2004-05-26 Blur image correction device, blur image correction method, and computer program Pending JP2005339085A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004155519A JP2005339085A (en) 2004-05-26 2004-05-26 Blur image correction device, blur image correction method, and computer program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004155519A JP2005339085A (en) 2004-05-26 2004-05-26 Blur image correction device, blur image correction method, and computer program

Publications (1)

Publication Number Publication Date
JP2005339085A true JP2005339085A (en) 2005-12-08

Family

ID=35492603

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004155519A Pending JP2005339085A (en) 2004-05-26 2004-05-26 Blur image correction device, blur image correction method, and computer program

Country Status (1)

Country Link
JP (1) JP2005339085A (en)

Similar Documents

Publication Publication Date Title
JP5044041B2 (en) Image quality inspection based on thumbnails
EP2403235B1 (en) Image correction device and image correction method
JP5241410B2 (en) Image processing apparatus, image processing method, and computer program
JP7546369B2 (en) Image processing device and image processing method
JP2021163190A (en) Information processing apparatus, information processing method and program
JP2008198082A (en) Image processing method, image processing apparatus, and digital camera
US10586099B2 (en) Information processing apparatus for tracking processing
US9357125B2 (en) Method and apparatus of displaying portrait on display
JP3812770B2 (en) Camera shake parameter detection method and information recording medium
JP7118729B2 (en) Information processing device, information processing method and program
JP5095263B2 (en) Image evaluation apparatus and image evaluation program
JP2006071691A (en) Camera-shake image correcting device, camera-shake image correcting method and computer program
JP2006155063A (en) Image correction device, image correction method, and computer program
JP4709762B2 (en) Image processing apparatus and method
JP4710694B2 (en) Trimming apparatus and method, and computer program
JP4725059B2 (en) Camera shake image correction apparatus, camera shake image correction method, and computer program
JP2005339085A (en) Blur image correction device, blur image correction method, and computer program
JP2006119730A (en) Image stitching
JP2005338323A (en) Image blur correcting device, image blur correcting method, and computer program
JPH10108003A (en) Image compositing device and image compositing method
JP4784175B2 (en) Backlight image determination and dark area correction
JPH1083442A (en) Picture synthesis method
JP2010157792A (en) Photographed object tracing device
JP2005217721A (en) Apparatus and method for generating still picture
JP2007194784A (en) Pixel position acquisition method, image processing apparatus, program for making computer implement pixel position acquisition method, and computer-readable recording medium with the program recorded thereon