JP2010050730A - Imaging apparatus and defect correction apparatus - Google Patents

Imaging apparatus and defect correction apparatus Download PDF

Info

Publication number
JP2010050730A
JP2010050730A JP2008213073A JP2008213073A JP2010050730A JP 2010050730 A JP2010050730 A JP 2010050730A JP 2008213073 A JP2008213073 A JP 2008213073A JP 2008213073 A JP2008213073 A JP 2008213073A JP 2010050730 A JP2010050730 A JP 2010050730A
Authority
JP
Japan
Prior art keywords
defect
information
image
area
importance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008213073A
Other languages
Japanese (ja)
Other versions
JP5245642B2 (en
Inventor
Kunio Yamazaki
邦夫 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2008213073A priority Critical patent/JP5245642B2/en
Publication of JP2010050730A publication Critical patent/JP2010050730A/en
Application granted granted Critical
Publication of JP5245642B2 publication Critical patent/JP5245642B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To shorten time required for correcting a defect occurring in an image. <P>SOLUTION: An imaging apparatus includes: an imaging device which converts light into signal charges; a storage means for storing information indicating the defect of the imaging device as defect information; a division means for dividing the image to be generated based on the signal charges from the imaging device into a plurality of areas; an information acquisition means for acquiring information in the image in the areas divided by the division means as area information; and a defect correction means for specifying an area where a defective pixel is generated among the plurality of areas based on the defect information, and correcting an output signal from the defective pixel based on the area information obtained from the specified area. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、撮像装置及び欠陥補正装置に関する。   The present invention relates to an imaging apparatus and a defect correction apparatus.

CCD(Charge Coupled Device)やCMOS(Complementary Metal−Oxide Semiconductor)などの撮像素子を用いて静止画像や動画像を取得するデジタルカメラが普及している。近年、半導体プロセスの進歩により微細加工が可能となり、高画素の画像を取得することができるデジタルカメラが提供されている。   2. Description of the Related Art Digital cameras that acquire still images and moving images by using an image sensor such as a CCD (Charge Coupled Device) and a CMOS (Complementary Metal-Oxide Semiconductor) are widely used. 2. Description of the Related Art In recent years, digital cameras that can perform fine processing and acquire high-pixel images have been provided due to advances in semiconductor processes.

デジタルカメラにより取得される画像では、上述した撮像素子における半導体の局所的な欠陥により、規格外の出力値しか得られない画素、出力が全く得られない画素、或いは出力値が常に飽和した画素などの欠陥画素が生じてしまうことがある。そこで、画像内に生じる欠陥に対して補正(以下、欠陥補正)を行う技術が提案されている。なお、ここでは、異常な信号を出力する画素を「欠陥画素」と称する場合と、画像化したときにその画素からの信号により、画像内に生じた表示上の欠陥を「欠陥画素」と称する場合がある。
特開2006−174497号公報
In an image acquired by a digital camera, due to a local defect of the semiconductor in the image sensor described above, a pixel that can only obtain an output value that is out of specification, a pixel that does not obtain any output, or a pixel whose output value is always saturated, etc. Defective pixels may occur. In view of this, a technique for correcting a defect occurring in an image (hereinafter, defect correction) has been proposed. Here, a pixel that outputs an abnormal signal is referred to as a “defective pixel”, and a display defect that occurs in an image due to a signal from the pixel when imaged is referred to as a “defective pixel”. There is a case.
JP 2006-174497 A

しかしながら、このような欠陥補正は、画像内の被写体の位置と欠陥画素との相対位置や撮影時に設定されるシーンモードなどに関係なく、一様な欠陥補正が行われるのが一般的であることから、高画素となる画像に対して欠陥補正を実行したときには欠陥補正の負荷が大きく、また、欠陥補正に時間を要してしまうという問題がある。   However, such defect correction is generally performed uniformly regardless of the relative position between the subject in the image and the defective pixel, the scene mode set at the time of shooting, etc. Therefore, when defect correction is performed on an image with a high pixel, there is a problem that the load of defect correction is large and time is required for defect correction.

本発明は、上述した課題を解決するために発明されたものであり、欠陥補正に要する時間を短縮できるようにした撮像装置及び欠陥補正装置を提供することを目的とする。   The present invention has been invented in order to solve the above-described problems, and an object thereof is to provide an imaging apparatus and a defect correction apparatus capable of shortening the time required for defect correction.

第1の発明の撮像装置は、光を信号電荷に変換する撮像素子と、前記撮像素子の欠陥画素を示す情報を欠陥情報として記憶する記憶手段と、前記撮像素子からの前記信号電荷に基づいて生成される画像を複数の領域に分割する分割手段と、前記分割手段により分割された領域における前記画像内の情報を領域情報として取得する情報取得手段と、前記複数の領域のうち欠陥が発生する領域を前記欠陥情報に基づいて特定するとともに、前記特定された領域から得られた前記領域情報に基づいて前記欠陥画素からの出力信号を補正する欠陥補正手段と、を備えたことを特徴とする。   An image pickup apparatus according to a first aspect of the present invention is based on an image pickup element that converts light into a signal charge, storage means that stores information indicating a defective pixel of the image pickup element as defect information, and the signal charge from the image pickup element. A dividing unit that divides a generated image into a plurality of regions, an information acquisition unit that acquires information in the image in the region divided by the dividing unit as region information, and a defect occurs in the plurality of regions. And a defect correcting means for specifying an area based on the defect information and correcting an output signal from the defective pixel based on the area information obtained from the specified area. .

第2の発明は、第1の発明において、前記領域情報は、前記領域における前記画像内の焦点状態を示す情報、又は前記領域における前記画像内の輝度変化量を示す情報の少なくともいずれか一方からなることを特徴とする。   In a second aspect based on the first aspect, the area information is based on at least one of information indicating a focus state in the image in the area and information indicating a luminance change amount in the image in the area. It is characterized by becoming.

第3の発明は、第1又は第2の発明において、前記領域に発生する前記欠陥に対する補正の重要度を、少なくとも該領域から取得される前記領域情報に基づいて決定する重要度決定手段を、さらに備え、前記欠陥補正手段は、前記重要度決定手段により決定された前記補正の重要度に合わせた補正内容を用いて、前記欠陥画素からの出力信号を補正することを特徴とする。   According to a third invention, in the first or second invention, importance determination means for determining the importance of correction for the defect occurring in the region based on at least the region information acquired from the region, In addition, the defect correction means corrects an output signal from the defective pixel using a correction content that matches the importance of the correction determined by the importance determination means.

第4の発明は、第1から第3の発明のいずれかにおいて、前記欠陥情報は、前記撮像素子における欠陥画素の位置を示す位置情報からなることを特徴とする。   According to a fourth invention, in any one of the first to third inventions, the defect information includes position information indicating a position of a defective pixel in the imaging element.

第5の発明は、第1から第3の発明のいずれかにおいて、前記欠陥情報は、前記位置情報の他に、前記欠陥の度合いを示す情報、前記欠陥の大きさを示す情報、或いは前記欠陥が発生する部位の重要度を示す情報の少なくとも1つの情報からなることを特徴とする。   In a fifth aspect based on any one of the first to third aspects, the defect information includes, in addition to the position information, information indicating the degree of the defect, information indicating the size of the defect, or the defect. It is characterized by comprising at least one piece of information indicating the importance of the part where the occurrence occurs.

第6の発明の欠陥補正装置は、光を信号電荷に変換する撮像素子からの信号電荷に基づいて生成される画像を複数の領域に分割する分割手段と、前記分割手段により分割された領域における前記画像内の情報を領域情報として取得する情報取得手段と、前記複数の領域のうち欠陥が発生する領域を前記撮像素子の欠陥を示す情報に基づいて特定するとともに、少なくとも前記特定された領域から得られた前記領域情報に基づいて前記欠陥画素からの出力信号を補正する欠陥補正手段と、を備えたことを特徴とする。   According to a sixth aspect of the present invention, there is provided a defect correction apparatus that divides an image generated based on a signal charge from an image sensor that converts light into a signal charge into a plurality of regions, and a region divided by the dividing unit. Information acquisition means for acquiring information in the image as region information; and a region where a defect occurs among the plurality of regions is specified based on information indicating a defect of the image sensor, and at least from the specified region And defect correcting means for correcting an output signal from the defective pixel based on the obtained area information.

本発明によれば、欠陥補正に要する処理時間を短縮することができる。   According to the present invention, the processing time required for defect correction can be shortened.

図1は、本発明を実施したデジタルカメラの構成を示す図である。このデジタルカメラ10は、CPU11、ROM12、RAM13などを備えている。なお、CPU11は、ROM12に記憶された制御プログラム14を実行することで、デジタルカメラ10の各部を統括的に制御する。ROM12には、制御プログラム14の他に、後述する欠陥情報51などのデータが記憶される。また、RAM13には、デジタルカメラ10の制御時に発生する演算子などが一時記憶される。   FIG. 1 is a diagram showing a configuration of a digital camera embodying the present invention. The digital camera 10 includes a CPU 11, a ROM 12, a RAM 13, and the like. The CPU 11 executes the control program 14 stored in the ROM 12 to comprehensively control each unit of the digital camera 10. In addition to the control program 14, the ROM 12 stores data such as defect information 51 described later. The RAM 13 temporarily stores an operator generated when the digital camera 10 is controlled.

撮像光学系15は、撮影レンズ、ズームレンズやフォーカスレンズなどを含む複数のレンズから構成される。撮像素子16は、例えばCCDやCMOSなどが用いられる。撮像素子16は、撮像光学系15を透過した光束を信号電荷に変換(光電変換)することで画像信号を取得する。以下では、撮像素子16としてCCDを用いた場合について説明する。   The imaging optical system 15 includes a plurality of lenses including a photographing lens, a zoom lens, a focus lens, and the like. For example, a CCD or a CMOS is used as the image sensor 16. The image sensor 16 acquires an image signal by converting the light beam transmitted through the imaging optical system 15 into a signal charge (photoelectric conversion). Below, the case where CCD is used as the image pick-up element 16 is demonstrated.

図2に示すように、撮像素子16は、例えばフォトダイオードからなる光電変換部21が半導体基板22の上面にマトリックス状に配列される。この半導体基板22には、光電変換部21の他に、不図示のトランジスタ、ゲート部、垂直転送部、水平転送部及び出力アンプなどが設けられる。   As shown in FIG. 2, in the imaging device 16, photoelectric conversion units 21 made of, for example, photodiodes are arranged in a matrix on the upper surface of a semiconductor substrate 22. In addition to the photoelectric conversion unit 21, the semiconductor substrate 22 includes a transistor, a gate unit, a vertical transfer unit, a horizontal transfer unit, an output amplifier, and the like (not shown).

光電変換部21が配列された半導体基板22の上面には、遮光膜層23が形成される他、カラーフィルタ層24およびマイクロレンズ層25が形成される。カラーフィルタ層24は、赤色(R)、緑色(G)、青色(B)のカラーフィルタが公知のベイヤー配列にしたがって配列される。このカラーフィルタ層24を透過する光は、赤色(R)、緑色(G)、青色(B)の各色光に色分解された後、各光電変換部21に照射される。これにより、各光電変換部21は色分解された各色光のいずれかの光に基づいた信号電荷を蓄積する。蓄積された信号電荷は垂直転送部により水平転送部に転送された後、水平転送部により出力アンプに転送される。出力アンプは転送された信号電荷を電圧(電気信号)に変換して出力する。なお、信号電荷の蓄積量は、光の輝度値に比例することから、撮像素子16から出力される電圧値は、輝度値を示す。   On the upper surface of the semiconductor substrate 22 on which the photoelectric conversion portions 21 are arranged, a light shielding film layer 23 is formed, and a color filter layer 24 and a microlens layer 25 are formed. In the color filter layer 24, red (R), green (G), and blue (B) color filters are arranged according to a known Bayer array. The light transmitted through the color filter layer 24 is color-separated into red (R), green (G), and blue (B) color lights, and then irradiated to the photoelectric conversion units 21. Accordingly, each photoelectric conversion unit 21 accumulates signal charges based on any one of the color-separated color lights. The accumulated signal charges are transferred to the horizontal transfer unit by the vertical transfer unit, and then transferred to the output amplifier by the horizontal transfer unit. The output amplifier converts the transferred signal charge into a voltage (electric signal) and outputs it. In addition, since the accumulation amount of the signal charge is proportional to the luminance value of light, the voltage value output from the imaging element 16 indicates the luminance value.

図2に示す撮像素子16の断面図において図示は省略したが、撮像素子16の受光面には、撮影時の被写体に対する焦点状態を検出する焦点検出部31が複数設けられている。この焦点検出部31は、撮影により取得された画像を分割することで得られる複数の領域のそれぞれの領域に対応するように撮影素子16に設けられる。   Although not shown in the cross-sectional view of the image sensor 16 shown in FIG. 2, a plurality of focus detectors 31 are provided on the light receiving surface of the image sensor 16 to detect the focus state with respect to the subject at the time of shooting. The focus detection unit 31 is provided in the imaging element 16 so as to correspond to each of a plurality of areas obtained by dividing an image acquired by imaging.

図1に戻って、撮像素子16から出力される電気信号は、A/D変換器35に出力される。A/D変換器35は、撮像素子16から出力される電気信号をA/D変換する。このA/D変換器35によるA/D変換によって電気信号がデジタル化される。このデジタル化された電気信号は1コマ毎にまとめられてバッファメモリ36に記録される。これにより、画像データが生成される。上述したように、撮像素子16から出力される画像信号はカラーフィルタ層24を介して得られる画像信号であることから、取得される画像データは、RAW画像データとなる。なお、符号37はバスであり、このバス37を介してデジタルカメラ10の各部が電気的に接続される。   Returning to FIG. 1, the electrical signal output from the image sensor 16 is output to the A / D converter 35. The A / D converter 35 A / D converts the electrical signal output from the image sensor 16. The electric signal is digitized by A / D conversion by the A / D converter 35. The digitized electrical signals are collected for each frame and recorded in the buffer memory 36. Thereby, image data is generated. As described above, since the image signal output from the image sensor 16 is an image signal obtained via the color filter layer 24, the acquired image data is RAW image data. Reference numeral 37 denotes a bus, and each part of the digital camera 10 is electrically connected via the bus 37.

欠陥補正部41は、画像内に生じる画素の欠陥を補正する。撮像素子16が正常であることが理想的であるが、実際には、画素内に配置されるトランジスタ、光電変換部21、配線などに異常の生じた画素が僅かであるが発生する。この欠陥画素からの出力信号により、画像内に欠陥が生じる。この欠陥補正部41は、得られた画像に対して欠陥補正を実行する。   The defect correction unit 41 corrects pixel defects that occur in the image. Although it is ideal that the image sensor 16 is normal, in reality, a small number of pixels in which abnormality occurs in the transistors, photoelectric conversion units 21, wirings, and the like disposed in the pixels occur. The output signal from the defective pixel causes a defect in the image. The defect correction unit 41 performs defect correction on the obtained image.

この欠陥補正部41は、画像分割部45、情報取得部46、重要度決定部47の機能を備えている。画像分割部45は、撮影により得られた画像を、その縦横をそれぞれ4分割した計16個の領域に分割する。なお、画像の分割数は、これに限定する必要はなく、適宜設定して良い。これら分割される複数の領域のそれぞれは、複数の画素からなる領域である。   The defect correcting unit 41 has functions of an image dividing unit 45, an information acquiring unit 46, and an importance determining unit 47. The image dividing unit 45 divides an image obtained by photographing into a total of 16 areas, each of which is divided into 4 parts in length and width. Note that the number of image divisions need not be limited to this, and may be set as appropriate. Each of the plurality of divided areas is an area composed of a plurality of pixels.

情報取得部46は、分割された複数の領域における画像内の情報(以下、領域情報と称する)を取得する。この領域情報としては、上述した焦点検出部31から得られる焦点評価値、又はそれぞれの領域における輝度変化量(以下、エッジ量と称する)の少なくとも一方が挙げられる。なお、本実施形態では、領域情報として焦点評価値とエッジ量との両方を取得する場合について説明する。   The information acquisition unit 46 acquires information in an image (hereinafter referred to as region information) in a plurality of divided regions. The area information includes at least one of a focus evaluation value obtained from the focus detection unit 31 described above or a luminance change amount (hereinafter referred to as an edge amount) in each area. In the present embodiment, a case will be described in which both the focus evaluation value and the edge amount are acquired as region information.

焦点評価値は、上述した焦点検出部31から出力される検出値に基づいて求められる。上述したように、焦点検出部31は、分割される複数の領域のそれぞれに対応するように撮像素子16内に配置される。情報取得部46は、焦点検出部31からの検出値を用いて焦点評価値を求める。なお、分割される領域内に焦点検出部31が複数ある場合には、それら検出値から求められる焦点評価値の平均値を用いることも可能である。   The focus evaluation value is obtained based on the detection value output from the focus detection unit 31 described above. As described above, the focus detection unit 31 is disposed in the imaging element 16 so as to correspond to each of the plurality of divided areas. The information acquisition unit 46 obtains a focus evaluation value using the detection value from the focus detection unit 31. In addition, when there are a plurality of focus detection units 31 in the divided area, it is possible to use an average value of focus evaluation values obtained from the detection values.

エッジ量は、上述した複数の領域のそれぞれに対してエッジ検出処理を行うことで求められる。ここで、エッジ検出処理としては、例えばラプラシアンフィルタなど、エッジ検出用のフィルタを用いた処理が挙げられる。情報取得部46は、複数の領域のそれぞれに対してエッジ検出処理を施すことで、各領域におけるエッジ量を求める。   The edge amount is obtained by performing an edge detection process on each of the plurality of regions described above. Here, as the edge detection process, for example, a process using a filter for edge detection such as a Laplacian filter can be cited. The information acquisition unit 46 performs edge detection processing on each of the plurality of regions, thereby obtaining the edge amount in each region.

重要度決定部47は、欠陥画素に対する欠陥補正の重要度を決定する。ROM12には、撮像素子16の欠陥に関する情報(以下、欠陥情報と称する)51が記憶されている。重要度決定部47は、ROM12に記憶された欠陥情報51を読み出して、画像を分割することで得られる複数の領域のうち、欠陥画素が生じる領域を特定する。欠陥画素が生じる領域を特定した後、重要度決定部47は、特定した領域の領域情報を参照して、欠陥補正の重要度を決定する。欠陥情報51としては、撮像素子16の欠陥の位置を示す情報が挙げられる。上述したように、画素の欠陥としては、光電変換部21、トランジスタ、配線等の異常が挙げられるので、撮像素子16の欠陥の位置としては、上述した欠陥画素の位置(アドレス)が挙げられる。   The importance determination unit 47 determines the importance of defect correction for a defective pixel. The ROM 12 stores information (hereinafter referred to as defect information) 51 regarding defects of the image sensor 16. The importance level determination unit 47 reads out the defect information 51 stored in the ROM 12 and specifies an area where a defective pixel is generated among a plurality of areas obtained by dividing the image. After specifying the area where the defective pixel is generated, the importance level determination unit 47 refers to the area information of the specified area and determines the importance level of the defect correction. The defect information 51 includes information indicating the position of the defect of the image sensor 16. As described above, pixel defects include abnormalities in the photoelectric conversion unit 21, transistors, wirings, and the like. Therefore, the defect pixel position includes the position (address) of the defective pixel described above.

画像処理部55は、欠陥補正部41による欠陥補正が施された画像データに対して、ベイヤー補間、輪郭補償、ガンマ補正、ホワイトバランス調整などの画像処理を施す。これら画像処理は周知であることから、ここではその詳細を省略する。また、画像処理部55は、画像処理された画像データから、サムネイル画像データや例えばJPEG方式などの圧縮形式による圧縮画像データを生成する。   The image processing unit 55 performs image processing such as Bayer interpolation, contour compensation, gamma correction, and white balance adjustment on the image data that has been subjected to defect correction by the defect correction unit 41. Since these image processes are well known, the details thereof are omitted here. Further, the image processing unit 55 generates thumbnail image data or compressed image data in a compression format such as the JPEG method from the image processed image data.

LCD56は、撮影により得られた画像や、非撮影時に撮像素子16により取り込まれるスルー画像などを表示する。また、この他に、LCD56は、デジタルカメラ10における撮影条件などの設定を行う際のメニュー画像を表示する。このLCD56は、表示制御部57により制御される。操作部58は、レリーズボタンや十字キー等から構成される。   The LCD 56 displays an image obtained by photographing, a through image captured by the image sensor 16 when not photographing, and the like. In addition to this, the LCD 56 displays a menu image for setting the shooting conditions and the like in the digital camera 10. The LCD 56 is controlled by a display control unit 57. The operation unit 58 includes a release button, a cross key, and the like.

このデジタルカメラ10には、メモリカードなどの記憶媒体59が着脱自在となっている。記憶媒体59がデジタルカメラ10に装着されると、これらがメディアコントローラ60を介して電気的に接続される。この接続により、CPU11は、取得される画像データを記憶媒体59に記録する処理や、記憶媒体59に記憶された画像データを読み出す処理を行うことが可能となる。なお、取得される画像データを記憶媒体59に記録する場合には、CPU11は、上述したサムネイル画像データ、圧縮画像データの他に、撮影条件やデジタルカメラの種類などの情報をまとめた画像ファイルを生成した後、メディアコントローラ60を介して記憶媒体59に記録する。   A storage medium 59 such as a memory card is detachable from the digital camera 10. When the storage medium 59 is attached to the digital camera 10, they are electrically connected via the media controller 60. With this connection, the CPU 11 can perform a process of recording the acquired image data in the storage medium 59 and a process of reading out the image data stored in the storage medium 59. When recording the acquired image data in the storage medium 59, the CPU 11 stores an image file in which information such as the shooting conditions and the type of the digital camera is collected in addition to the above-described thumbnail image data and compressed image data. After the generation, it is recorded in the storage medium 59 via the media controller 60.

次に、欠陥補正処理の流れについて、図3のフローチャートに基づいて説明する。   Next, the flow of defect correction processing will be described based on the flowchart of FIG.

ステップS101:画像を取得する処理である。このステップS101の処理を実行することにより画像が取得され、また、撮像素子16に設けられた焦点検出部31のそれぞれから焦点状態を検出するための検出値が取得される。   Step S101: Processing for acquiring an image. An image is acquired by executing the processing of step S101, and a detection value for detecting the focus state is acquired from each of the focus detection units 31 provided in the image sensor 16.

ステップS102:欠陥情報が有るか否かを判定する処理である。CPU11は、ROM12を参照する。上述したように、欠陥情報51は、撮像素子16の欠陥を示す情報であることから、欠陥画素を有する撮像素子16がデジタルカメラ10に組み込まれていれば、製造時に欠陥情報51がROM12に記憶される。この場合、ステップS102の判定処理がYesとなり、ステップS103に進む。一方、欠陥が生じていない、つまり正常な撮像素子16がデジタルカメラ10に組み込まれていれば、欠陥情報51はROM12には記憶されていない。この場合には、ステップS102の判定はNoとなり、欠陥補正が終了する。   Step S102: This is a process for determining whether there is defect information. The CPU 11 refers to the ROM 12. As described above, since the defect information 51 is information indicating a defect of the image sensor 16, if the image sensor 16 having a defective pixel is incorporated in the digital camera 10, the defect information 51 is stored in the ROM 12 at the time of manufacture. Is done. In this case, the determination process in step S102 is Yes, and the process proceeds to step S103. On the other hand, if no defect has occurred, that is, if the normal image sensor 16 is incorporated in the digital camera 10, the defect information 51 is not stored in the ROM 12. In this case, the determination in step S102 is No, and the defect correction ends.

ステップS103:取得された画像を複数の領域に分割する処理である。欠陥補正部41は、得られた画像の縦横をそれぞれ4分割した計16個の領域に分割する。   Step S103: a process of dividing the acquired image into a plurality of regions. The defect correction unit 41 divides the obtained image into a total of 16 regions, each divided into 4 parts.

ステップS104:分割された複数の領域毎の焦点評価値を取得する処理である。上述したように、ステップS101の処理が実行されたときに、撮像素子16に設けられた焦点検出部31のそれぞれから検出値が取得されているので、欠陥補正部41は、取得された検出値を用いて、分割された複数の領域のそれぞれにおける焦点評価値を求める。なお、求めた焦点評価値は、対象となる領域とそれぞれ対応付けられてRAM13に記憶される。   Step S104: This is a process of acquiring a focus evaluation value for each of the plurality of divided areas. As described above, since the detection value is acquired from each of the focus detection units 31 provided in the image sensor 16 when the process of step S101 is performed, the defect correction unit 41 acquires the detected value. Is used to obtain a focus evaluation value in each of the plurality of divided areas. The obtained focus evaluation values are stored in the RAM 13 in association with the target areas.

ステップS105:分割された複数の領域毎のエッジ量を取得する処理である。欠陥補正部41は、分割された複数の領域毎にエッジ検出処理を行うことで、各領域のエッジ量を求める。なお、求めたエッジ量は、対象となる領域とそれぞれ対応付けられてRAM13に記憶される。   Step S105: This is a process of acquiring the edge amount for each of the plurality of divided areas. The defect correction unit 41 obtains the edge amount of each region by performing edge detection processing for each of the plurality of divided regions. The obtained edge amount is stored in the RAM 13 in association with the target area.

ステップS106:画像内に欠陥が発生する領域を特定する処理である。ROM12には、予め欠陥情報51が記憶されている。欠陥補正部41は、ROM12から欠陥情報51を読み出す。欠陥情報51は、撮像素子16の欠陥を示す情報である。欠陥補正部41は、この欠陥情報51を用いることで、複数の領域から画像内に欠陥が発生する領域を特定することが可能となる。   Step S106: This is a process for identifying a region where a defect occurs in the image. The ROM 12 stores defect information 51 in advance. The defect correction unit 41 reads the defect information 51 from the ROM 12. The defect information 51 is information indicating a defect of the image sensor 16. By using the defect information 51, the defect correction unit 41 can specify a region where a defect occurs in the image from a plurality of regions.

ステップS107:焦点評価値、エッジ量に基づいて特定された領域における欠陥補正の重要度を決定する処理である。このステップS107の処理を行うことで、画像を分割することで得られる複数の領域のうち、欠陥の生じる領域に対する欠陥補正の重要度が決定される。例えば、重要度が高い領域には重要度を示すフラグ「1」が付される。さらに、重要度が中となる領域には重要度を示すフラグ「2」が、重要度が低い領域には重要度を示すフラグ「3」がそれぞれ付される。なお、このステップS107の処理も、欠陥補正部41にて実行される。このステップS107の処理についての詳細は後述する。   Step S107: This is a process for determining the importance of defect correction in the area specified based on the focus evaluation value and the edge amount. By performing the process of step S107, the importance of defect correction is determined for a region where a defect occurs among a plurality of regions obtained by dividing an image. For example, a flag “1” indicating an importance level is attached to a region having a high importance level. Further, a flag “2” indicating importance is attached to a region having a medium importance, and a flag “3” indicating importance is attached to a region having a low importance. Note that the processing in step S107 is also executed by the defect correction unit 41. Details of the processing in step S107 will be described later.

ステップS108:重要度に合わせた欠陥補正を行う処理である。ステップS107において、画像内に欠陥が生じる領域に対して欠陥補正の重要度が決定されることから、この欠陥補正の重要度に合わせた欠陥補正が欠陥画素からの出力信号に対して実行される。ROM12には、予め異なる複数の欠陥補正プログラム(不図示)が記憶されており、これら欠陥補正プログラムのうち、欠陥補正の重要度に合わせた欠陥補正プログラムを選択した上で、欠陥補正を実行する。   Step S108: This is a process for performing defect correction according to importance. In step S107, since the importance of defect correction is determined for a region where a defect occurs in the image, defect correction in accordance with the importance of defect correction is performed on the output signal from the defective pixel. . A plurality of different defect correction programs (not shown) are stored in advance in the ROM 12, and defect correction is executed after selecting a defect correction program according to the importance of defect correction from among these defect correction programs. .

以下、ステップS107の処理内容について図4のフローチャートを用いて説明する。   Hereinafter, the processing content of step S107 is demonstrated using the flowchart of FIG.

ステップS201:画像内に欠陥が発生する領域の焦点評価値が閾値よりも大きいか否かを判定する処理である。欠陥補正部41は、画像内に欠陥が発生する領域に対応する焦点評価値をRAM13から読み出し、この焦点評価値と予め設定された閾値とを比較する。なお、この閾値は、予め実験や評価を行うことで得られる値である。欠陥が発生する領域の焦点評価値が閾値よりも大きいと判定された場合(ステップS201の処理がYesとなる場合)には、ステップS202に進む。一方、欠陥が発生する領域の焦点評価値が閾値よりも小さいと判定された場合(ステップS201の処理がNoとなる場合)には、ステップS205に進む。   Step S201: This is a process for determining whether or not the focus evaluation value of an area where a defect occurs in an image is larger than a threshold value. The defect correction unit 41 reads a focus evaluation value corresponding to a region where a defect occurs in the image from the RAM 13, and compares this focus evaluation value with a preset threshold value. This threshold value is a value obtained by conducting experiments and evaluations in advance. When it is determined that the focus evaluation value of the area where the defect occurs is larger than the threshold value (when the process of step S201 is Yes), the process proceeds to step S202. On the other hand, when it is determined that the focus evaluation value of the area where the defect occurs is smaller than the threshold value (when the process of step S201 is No), the process proceeds to step S205.

ステップS202:欠陥が発生する領域のエッジ量が閾値よりも大きいか否かを判定する処理である。欠陥補正部41は、欠陥画素が発生する.領域に対応するエッジ量をRAM13から読み出し、この焦点評価値と予め設定された閾値とを比較する。なお、この閾値は、予め実験や評価を行うことで得られる値である。欠陥が発生する領域のエッジ量が閾値よりも大きいと判定された場合(ステップS202の処理がYesとなる場合)には、ステップS203に進む。一方、欠陥が発生する領域のエッジ量が閾値よりも小さいと判定された場合(ステップS202の処理がNoとなる場合)には、ステップS211に進む。   Step S202: This is a process for determining whether or not the edge amount of the area where the defect occurs is larger than the threshold value. The defect correction unit 41 generates defective pixels. The edge amount corresponding to the region is read from the RAM 13, and this focus evaluation value is compared with a preset threshold value. This threshold value is a value obtained by conducting experiments and evaluations in advance. When it is determined that the edge amount of the area where the defect occurs is larger than the threshold (when the process of step S202 is Yes), the process proceeds to step S203. On the other hand, when it is determined that the edge amount of the area where the defect occurs is smaller than the threshold value (when the process of step S202 is No), the process proceeds to step S211.

ステップS203:欠陥補正における重要度としてフラグ「1」を設定する処理である。このステップS203の処理が実行される領域は、焦点が合い、また、主要被写体が写り込む領域である。このような領域においては、欠陥補正の重要度は高くなるので、このような領域に対しては重要度を示すフラグとして「1」が設定される。フラグ「1」が設定された領域に欠陥画素が生じている場合、欠陥補正の処理内容としては、得られる画像データがRAW画像データとなることから、欠陥画素の周縁に配列される同一色の画素の画素値(画素からの出力信号であり、この場合、輝度値)の差を用いて方向判定を行い、方向判定の結果に基づいて欠陥画素の画素値を補間するなどの処理内容が挙げられる。   Step S203: This is a process for setting the flag “1” as the importance in defect correction. The area where the process of step S203 is executed is an area where the main subject is in focus. In such an area, since the importance of defect correction becomes high, “1” is set as a flag indicating the importance for such an area. When a defective pixel is generated in the area where the flag “1” is set, the defect correction processing content is that the obtained image data is RAW image data, and therefore the same color arranged at the periphery of the defective pixel. Processing contents such as performing a direction determination using a difference between pixel values of pixels (in this case, an output signal from the pixel, and a luminance value in this case), and interpolating the pixel values of defective pixels based on the result of the direction determination. It is done.

一方、ステップS202の処理でNoとなる場合には、ステップS204に進む。   On the other hand, when the result of step S202 is No, the process proceeds to step S204.

ステップS204:欠陥補正における重要度としてフラグ「2」を設定する処理である。このステップS204の処理が実行される領域は、焦点が合っているが、主要被写体が写り込まない領域である。このような領域に対しては、欠陥補正の重要度としてフラグ「2」が設定される。フラグ「2」に設定された領域に欠陥画素が生じている場合、欠陥画素に対する欠陥補正の処理内容としては、例えば欠陥画素に隣接する同一色の画素の画素値の平均を欠陥画素の画素値とする処理内容が挙げられる。   Step S204: This is a process of setting the flag “2” as the importance in defect correction. The area where the process of step S204 is executed is an area where the main subject is not captured although it is in focus. For such an area, the flag “2” is set as the importance of defect correction. When a defective pixel is generated in the area set to the flag “2”, the defect correction processing content for the defective pixel is, for example, an average of pixel values of pixels of the same color adjacent to the defective pixel. The processing content is as follows.

さらに、ステップS201の処理でNoとなる場合にはステップS205に進む。   Further, if the result of step S201 is No, the process proceeds to step S205.

ステップS205:欠陥補正における重要度としてフラグ「3」を設定する処理である。このステップS205の処理が実行される領域は、焦点が合っておらず、また主要被写体が写り込んでいない領域である。このような領域においては欠陥補正の重要度は低いことから、欠陥補正の重要度としてフラグ「3」が設定される。フラグ「3」に設定された領域に欠陥画素が生じている場合、欠陥画素に対する欠陥補正の処理内容としては、例えば欠陥画素に隣接する同一色の画素のいずれかの画素値を欠陥画素の画素値とする処理内容が挙げられる。   Step S205: This is a process of setting the flag “3” as the importance in defect correction. The area where the process of step S205 is executed is an area where the focus is not in focus and the main subject is not reflected. In such an area, since the importance of defect correction is low, the flag “3” is set as the importance of defect correction. When a defective pixel is generated in the region set to the flag “3”, the defect correction processing content for the defective pixel is, for example, any pixel value of a pixel of the same color adjacent to the defective pixel. Examples of processing contents are values.

以下、山を背景として人物を撮影した画像の場合について説明する。図5(a)に示すように、撮影により取得された画像PIにおいては、欠陥画素による画像の欠陥DP1、DP2、DP3が発生する。図5(b)に示すように、例えば縦横にそれぞれ4分割して画像PIを計16個の領域a1〜a16に分割した場合、欠陥DP1、DP2、DP3が発生する領域a6、a9、a12がそれぞれ特定される。例えば欠陥DP1は、被写体の顔に該当する画素であることから、欠陥DP1が発生する領域a6は焦点評価値、エッジ量も高くなる。この領域a6に対する欠陥補正の重要度としてはフラグ「1」が設定される。 Hereinafter, a case of an image obtained by photographing a person with a mountain as a background will be described. As shown in FIG. 5A, in the image PI acquired by photographing, image defects DP1, DP2, and DP3 due to defective pixels occur. As shown in FIG. 5B, when the image PI is divided into a total of 16 areas a 1 to a 16 by dividing the image PI into 4 parts vertically and horizontally, for example, areas a 6 and a in which defects DP 1, DP 2 and DP 3 are generated. 9, a 12 is identified, respectively. For example defect DP1, since a pixel corresponding to the face of the subject, the region a 6 defects DP1 is generated focus evaluation value, the edge amount becomes high. The flag “1” is set as the importance of defect correction for the area a 6 .

一方、欠陥DP2が発生する領域a9や、欠陥DP3が発生する領域a12は、背景に該当する領域であることから、これら領域a9、a12に対する欠陥補正の重要度は被写体となる領域に比べて低くなる。これら領域に対してはフラグ「2」が設定される。なお、欠陥DP1、DP2、DP3が発生する他に、例えば領域a10、a14に欠陥が発生している場合、これら領域a10、a14は被写体の体の部分に該当することから、これら領域a10、a14に対する欠陥補正の重要度としてフラグ「2」が設定され、背景に該当する領域a9、a12に対する欠陥補正の重要度として「3」が設定される。 On the other hand, since the area a 9 where the defect DP2 occurs and the area a 12 where the defect DP3 occurs are areas corresponding to the background, the importance of defect correction with respect to these areas a 9 and a 12 is a subject area. Lower than A flag “2” is set for these areas. Incidentally, in addition to defect DP1, DP2, DP3 is generated, for example, if the defective area a 10, a 14 occurs, these regions a 10, a 14 from that corresponding to the part of the body of the subject, these The flag “2” is set as the importance of defect correction for the areas a 10 and a 14 , and “3” is set as the importance of defect correction for the areas a 9 and a 12 corresponding to the background.

例えば重要度としてフラグ「1」が設定された領域に対しては、緻密な欠陥補正が施される。一方、重要度としてフラグ「2」や「3」が設定される領域に対しては、フラグ「1」が設定された領域に対する欠陥補正よりも簡易な欠陥補正が施される。つまり、欠陥補正における重要度に合わせた欠陥補正が、該当する領域に対して実行される。これにより、一様な欠陥補正を行わなくとも、画像内の情報に基づいた欠陥補正を適切に実行することができる。また、欠陥画素に対する補正を一様の処理で行わなくなることから、欠陥補正にかかる時間を短縮することができる。   For example, a fine defect correction is performed on an area in which the flag “1” is set as the importance. On the other hand, a defect correction that is simpler than the defect correction for the area for which the flag “1” is set is applied to the area for which the flag “2” or “3” is set as the importance. That is, defect correction in accordance with the importance in defect correction is executed for the corresponding area. Thus, defect correction based on information in the image can be appropriately executed without performing uniform defect correction. In addition, since the correction for the defective pixel is not performed by uniform processing, the time required for the defect correction can be shortened.

なお、本実施形態では、欠陥情報51として、撮像素子16の欠陥画素の位置を示す情報を挙げて説明しているが、撮像素子16の欠陥画素の位置を示す情報に加えて、撮像素子16の欠陥の度合いを示す情報、撮像素子16の欠陥の大きさを示す情報、或いは欠陥が発生する部位の重要度を示す情報の少なくとも何れかの情報を欠陥情報とすることもできる。欠陥情報が、欠陥となる光電変換部21の位置を示す情報の他に、上述した情報のいずれかとからなる場合には、重要度決定部47は、領域情報と欠陥情報とを用いて、欠陥画素に対する欠陥補正の重要度を決定する。   In the present embodiment, the defect information 51 is described using information indicating the position of the defective pixel of the image sensor 16, but in addition to the information indicating the position of the defective pixel of the image sensor 16, the image sensor 16. At least one of information indicating the degree of defect, information indicating the size of the defect of the image sensor 16, and information indicating the importance of the part where the defect occurs may be used as defect information. When the defect information includes any one of the above-described information in addition to the information indicating the position of the photoelectric conversion unit 21 that is a defect, the importance determination unit 47 uses the region information and the defect information to detect the defect. Determine the importance of defect correction for a pixel.

撮像素子16の欠陥の度合いを示す情報は、以下の情報が挙げられる。撮像素子16の欠陥画素は、例えば出力値が全く得られない、出力値が常に飽和している、或いは出力が得られるが出力レベルが正常な出力レベルとは異なるなどの症状をきたす。撮像素子16の欠陥の度合いを示す情報は、これら欠陥の種類や欠陥の程度を示す情報となる。   The information indicating the degree of defect of the image sensor 16 includes the following information. For example, defective pixels of the image sensor 16 have symptoms such as no output value is obtained, the output value is always saturated, or an output is obtained but the output level is different from the normal output level. Information indicating the degree of defect of the image sensor 16 is information indicating the type of defect and the degree of defect.

また、撮像素子16の欠陥の大きさを示す情報としては、以下の情報が挙げられる。上述したように、撮像素子16の欠陥画素としては、光電変換部21やトランジスタ等の異常からなる。また、これら欠陥は、単一の部位で発生するとは限らず、隣接する複数の部位が所定領域内に集中して発生する場合もある。撮像素子16の欠陥の大きさを示す情報は、欠陥画素の数や密度を示す情報となる。   Moreover, the following information is mentioned as information which shows the magnitude | size of the defect of the image pick-up element 16. FIG. As described above, the defective pixel of the image sensor 16 is an abnormality of the photoelectric conversion unit 21 or the transistor. In addition, these defects do not always occur in a single part, and a plurality of adjacent parts may be concentrated in a predetermined region. Information indicating the size of the defect of the image sensor 16 is information indicating the number and density of defective pixels.

また、欠陥が発生する部位の重要度を示す情報としては、例えば撮像素子16の受光面を複数の領域に分割したときに、分割される領域のそれぞれに対する重要度を示す情報が挙げられる。   The information indicating the importance level of the part where the defect occurs includes information indicating the importance level for each of the divided areas when the light receiving surface of the image sensor 16 is divided into a plurality of areas.

主要被写体の位置を撮影範囲の中央に合わせた上で撮影することが一般的である。図6に示すように、例えば撮像素子16の受光面16aを仮想的に分割することで得られる複数の領域f1〜f16のうち、中央の領域f6,f7,f10,f11の重要度を「1」に設定し、周縁の領域f1,f2,f3,f4,f5,f8,f9,f12,f13,f14,f15,f16の重要度を「2」にする。なお、この受光面を仮想的に分割することで得られる領域の数は、上記に限定する必要はない。また、それぞれの領域に対する重要度も上記に限定される必要はなく、例えば撮影モードに合わせて重要度を変更するなどしてよい。 In general, shooting is performed after the position of the main subject is set to the center of the shooting range. As shown in FIG. 6, for example, among the plurality of regions f 1 to f 16 obtained by virtually dividing the light receiving surface 16 a of the image sensor 16, the central regions f 6 , f 7 , f 10 , and f 11 are used. Is set to “1”, and the peripheral areas f 1 , f 2 , f 3 , f 4 , f 5 , f 8 , f 9 , f 12 , f 13 , f 14 , f 15 , f 16 Set importance to "2". Note that the number of regions obtained by virtually dividing the light receiving surface need not be limited to the above. Also, the importance level for each area need not be limited to the above. For example, the importance level may be changed in accordance with the shooting mode.

欠陥が発生する部位に対する撮像素子16の重要度が欠陥情報に含まれる場合には、画像内の各領域に対する欠陥補正の重要度は、次のようにして決定される。例えば中心に被写体が位置する画像の場合、画像内の中央の領域から得られるエッジ量や焦点評価値は高くなる。また、撮像素子16の受光面16a上における中央の領域f6,f7,f10,f11に対する欠陥の重要度も高いことから、画像の中央の領域に発生する欠陥画素に対しては欠陥補正の重要度は高くなる。一方、画像内の周縁の領域から得られるエッジ量や焦点評価値は低くなり、撮像素子16の受光面16a上における周縁の領域f1,f2,f3,f4,f5,f8,f9,f12,f13,f14,f15,f16における欠陥の重要度は低いことから、画像の周縁の領域に発生する欠陥に対しては欠陥補正の重要度は低くなる。 When the importance of the image sensor 16 with respect to a site where a defect occurs is included in the defect information, the importance of defect correction for each region in the image is determined as follows. For example, in the case of an image in which the subject is located at the center, the edge amount and the focus evaluation value obtained from the center region in the image are high. In addition, since the importance of defects with respect to the central regions f 6 , f 7 , f 10 , and f 11 on the light receiving surface 16a of the image sensor 16 is high, defects are generated for defective pixels that occur in the central region of the image. The importance of correction increases. On the other hand, the edge amount and focus evaluation value obtained from the peripheral area in the image are low, and the peripheral areas f 1 , f 2 , f 3 , f 4 , f 5 , f 8 on the light receiving surface 16a of the image sensor 16 are reduced. , F 9 , f 12 , f 13 , f 14 , f 15 , f 16 are low in importance, so that the importance of defect correction is low for defects generated in the peripheral area of the image.

しかしながら、画像における被写体の位置は、必ずしも画像の中心に位置しないのが現状である。このような場合には、撮像素子16の受光面を分割した複数の領域に対する重要度と、各領域における焦点評価値及びエッジ量からなる領域情報との両方を考慮して、最終的な欠陥補正の重要度を決定すればよい。この場合、焦点評価値及びエッジ量からなる領域情報を欠陥情報よりも優先して、欠陥補正の重要度を決定すればよい。   However, at present, the position of the subject in the image is not necessarily located at the center of the image. In such a case, the final defect correction is performed in consideration of both the importance of the plurality of regions obtained by dividing the light receiving surface of the image sensor 16 and the region information including the focus evaluation value and the edge amount in each region. What is necessary is just to determine the importance of. In this case, the importance of defect correction may be determined by giving priority to the area information including the focus evaluation value and the edge amount over the defect information.

本実施形態では、欠陥補正部41を、CPU11や画像処理部55とは別に設けているが、これに限定する必要はなく、CPU11や画像処理部55に、本実施形態の欠陥補正部41の機能を設けることも可能である。   In the present embodiment, the defect correction unit 41 is provided separately from the CPU 11 and the image processing unit 55, but the present invention is not limited to this, and the CPU 11 and the image processing unit 55 include the defect correction unit 41 of the present embodiment. It is also possible to provide a function.

本実施形態では、撮像素子16に焦点検出部31を設けた実施形態としているが、これに限定される必要はなく、例えば焦点検出用センサを撮像素子とは別個に設けることも可能である。この場合、例えば撮像光学系の光軸上にハーフミラーを設け、焦点検出用センサによってハーフミラーにて反射される光を受光すればよい。これによれば、撮像素子に焦点検出部を設けなくとも、焦点検出用センサからの出力値を利用することで、焦点評価値を求めることが可能となる。   In the present embodiment, the focus detection unit 31 is provided in the image sensor 16. However, the present invention is not limited to this. For example, a focus detection sensor may be provided separately from the image sensor. In this case, for example, a half mirror may be provided on the optical axis of the imaging optical system, and light reflected by the half mirror may be received by the focus detection sensor. According to this, it is possible to obtain the focus evaluation value by using the output value from the focus detection sensor without providing the focus detection unit in the image sensor.

本実施形態では、半導体プロセスにより製造される撮像素子16の欠陥を示す欠陥情報51を予めROM12に記憶させていたが、これに限定する必要はなく、例えばユーザが撮影を行うことで取得される画像から欠陥画素の位置や欠陥の度合いを検出し、検出された欠陥画素の情報を、欠陥情報としてRAM13に記憶させることも可能である。一般に、撮像素子16の欠陥画素は、製造中や、撮像素子16の耐用年数を超えた場合に発生する場合が多いことから、ユーザがデジタルカメラ10を使用している過程で撮像素子16に欠陥が発生することは希である。しかしながら、ユーザが撮影を行うことで取得される画像から検出される欠陥画素の情報を欠陥情報として記憶できれば、デジタルカメラ内で撮像素子の耐用年数が超えているか否かを判断でき、その旨を表示できれば、ユーザに認識させることも可能である。なお、このような場合、欠陥画素が新たに発生したときには、RAM13に記憶される欠陥情報を更新すればよい。   In the present embodiment, the defect information 51 indicating the defect of the image sensor 16 manufactured by the semiconductor process is stored in the ROM 12 in advance. However, the present invention is not limited to this, and is acquired by, for example, photographing by the user. It is also possible to detect the position of the defective pixel and the degree of the defect from the image, and store the information of the detected defective pixel in the RAM 13 as defect information. In general, defective pixels of the image sensor 16 often occur during manufacturing or when the lifetime of the image sensor 16 is exceeded, so that the image sensor 16 is defective during the process of using the digital camera 10 by the user. It is rare to occur. However, if information on defective pixels detected from an image acquired by shooting by a user can be stored as defect information, it can be determined whether or not the useful life of the image sensor has been exceeded in the digital camera. If it can be displayed, the user can also recognize it. In such a case, when a defective pixel is newly generated, the defect information stored in the RAM 13 may be updated.

本実施形態では、欠陥補正の重要度に合わせて、欠陥補正における補正内容を変更しているが、これに限定する必要はなく、例えば同一の欠陥補正処理を用い、欠陥補正時に使用する画素数や画素の範囲等を欠陥補正の重要度に合わせて変更することも可能である。   In the present embodiment, the correction content in the defect correction is changed according to the importance of the defect correction. However, the present invention is not limited to this. For example, the same defect correction processing is used, and the number of pixels used at the time of defect correction It is also possible to change the pixel range and the like according to the importance of defect correction.

本実施形態では、欠陥情報と領域情報とに基づいて、画像内の欠陥に対する欠陥補正を実行しているが、この他に、撮影を行う際に設定される撮影モードを考慮して欠陥補正を実行することも可能である。一般に、デジタルカメラには、風景撮影モードや、夜間撮影モードなど、複数の撮影モードの何れかを設定することが可能であり、設定された撮影モードに関係なく、欠陥情報と領域情報とに基づいて、画像内の欠陥に対する欠陥補正を行う場合には、欠陥補正が適切に実行されない場合もある。このため、欠陥情報や領域情報の他に、撮影時に設定される撮影モードを欠陥補正を実行する際に考慮することで、適切な欠陥補正を実行することが可能となる。   In this embodiment, defect correction for defects in an image is executed based on defect information and area information. In addition to this, defect correction is performed in consideration of a shooting mode set when shooting is performed. It is also possible to execute. In general, a digital camera can be set to one of a plurality of shooting modes such as a landscape shooting mode and a night shooting mode, and is based on defect information and area information regardless of the set shooting mode. Thus, when performing defect correction for defects in an image, defect correction may not be performed properly. For this reason, in addition to defect information and area information, it is possible to perform appropriate defect correction by taking into account the shooting mode set at the time of shooting when performing defect correction.

本実施形態では、デジタルカメラを取り上げて説明しているが、本発明は、デジタルカメラの他に、本実施形態の欠陥補正部41の機能を備えた欠陥補正装置や画像処理装置などに適用することも可能である。図7は、欠陥補正装置の一例を示す図である。この欠陥補正装置71は、本実施形態のデジタルカメラにおける欠陥補正部の機能を有している。つまり、画像が入力されると、この入力された画像(以下、入力画像)PIに対して、画像分割(図中符号75)、情報取得(図中符号76)、領域特定(図中符号77)、重要度決定(図中符号78)、及び欠陥補正(図中符号79)の各処理が実行され、欠陥補正された画像(出力画像PI’)が出力される。なお、上述した画像分割は本実施形態のステップS102、情報取得は本実施形態のステップS103及びステップS104にそれぞれ対応する。また、領域特定は本実施形態のステップS105、重要度決定は本実施形態のステップS106、欠陥補正は本実施形態のステップS107にそれぞれ対応する。なお、これら処理については、その詳細は省略する。この場合も、本実施形態と同様に欠陥情報80が必要となるが、この欠陥情報80は、予め欠陥補正装置71に保持させる形態であっても、画像PIを入力する際に欠陥補正装置71に入力させる形態であっても良い。   In the present embodiment, a digital camera has been described. However, the present invention is applied to a defect correction apparatus and an image processing apparatus having the function of the defect correction unit 41 of the present embodiment in addition to the digital camera. It is also possible. FIG. 7 is a diagram illustrating an example of a defect correction apparatus. The defect correction apparatus 71 has a function of a defect correction unit in the digital camera of this embodiment. That is, when an image is input, image division (reference numeral 75 in the figure), information acquisition (reference numeral 76 in the figure), region specification (reference numeral 77 in the figure) are performed on the input image (hereinafter, input image) PI. ), Determination of importance (reference numeral 78 in the figure), and defect correction (reference numeral 79 in the figure) are executed, and an image (output image PI ′) after defect correction is output. Note that the above-described image division corresponds to step S102 of this embodiment, and information acquisition corresponds to step S103 and step S104 of this embodiment, respectively. Further, region specification corresponds to step S105 of this embodiment, importance determination corresponds to step S106 of this embodiment, and defect correction corresponds to step S107 of this embodiment. Details of these processes are omitted. In this case as well, defect information 80 is required as in the present embodiment. Even when the defect information 80 is stored in the defect correction device 71 in advance, the defect correction device 71 is input when the image PI is input. It may be in the form of being input to.

デジタルカメラの構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of a digital camera. 撮像素子の断面図である。It is sectional drawing of an image pick-up element. 欠陥補正時の処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the process at the time of defect correction | amendment. 欠陥補正の重要度を決定する処理の流れを示すフローチャートである。It is a flowchart which shows the flow of the process which determines the importance of defect correction. 図5(a)は撮影時に得られた画像の一例を示す図、図5(b)は、画像を分割したときの欠陥画素が含まれる領域を示す図である。FIG. 5A is a diagram illustrating an example of an image obtained at the time of shooting, and FIG. 5B is a diagram illustrating a region including a defective pixel when the image is divided. 欠陥情報として、欠陥となる光電変換部に対する欠陥補正の重要度を示す図である。It is a figure which shows the importance of the defect correction | amendment with respect to the photoelectric conversion part used as a defect as defect information. 欠陥補正装置の構成の一例を示す図である。It is a figure which shows an example of a structure of a defect correction apparatus.

符号の説明Explanation of symbols

10…デジタルカメラ、16…撮像素子、21…光電変換部、31…焦点検出部、41…欠陥補正部、45…画像分割部、46…情報取得部、47…重要度決定部、51…欠陥情報、71…欠陥補正装置   DESCRIPTION OF SYMBOLS 10 ... Digital camera, 16 ... Image sensor, 21 ... Photoelectric conversion part, 31 ... Focus detection part, 41 ... Defect correction part, 45 ... Image division part, 46 ... Information acquisition part, 47 ... Importance determination part, 51 ... Defect Information 71 ... Defect correction device

Claims (6)

光を信号電荷に変換する撮像素子と、
前記撮像素子の欠陥を示す情報を欠陥情報として記憶する記憶手段と、
前記撮像素子からの前記信号電荷に基づいて生成される画像を複数の領域に分割する分割手段と、
前記分割手段により分割された領域における前記画像内の情報を領域情報として取得する情報取得手段と、
前記複数の領域のうち欠陥画素が発生する領域を前記欠陥情報に基づいて特定するとともに、前記特定された領域から得られた前記領域情報に基づいて前記欠陥画素からの出力信号を補正する欠陥補正手段と、
を備えたことを特徴とする撮像装置。
An image sensor that converts light into signal charge;
Storage means for storing information indicating defects of the image sensor as defect information;
A dividing unit that divides an image generated based on the signal charges from the image sensor into a plurality of regions;
Information acquisition means for acquiring information in the image in the area divided by the dividing means as area information;
A defect correction that specifies a region where a defective pixel occurs among the plurality of regions based on the defect information and corrects an output signal from the defective pixel based on the region information obtained from the specified region. Means,
An imaging apparatus comprising:
請求項1に記載の撮像装置において、
前記領域情報は、前記領域における前記画像内の焦点状態を示す情報、又は前記領域における前記画像内の輝度変化量を示す情報の少なくともいずれか一方からなることを特徴とする撮像装置。
The imaging device according to claim 1,
The imaging apparatus according to claim 1, wherein the area information includes at least one of information indicating a focus state in the image in the area and information indicating a luminance change amount in the image in the area.
請求項1又は2に記載の撮像装置において、
前記領域に発生する前記欠陥に対する補正の重要度を、少なくとも該領域から取得される前記領域情報に基づいて決定する重要度決定手段を、さらに備え、
前記欠陥補正手段は、前記重要度決定手段により決定された前記補正の重要度に合わせた補正内容を用いて、前記欠陥画素からの出力信号を補正することを特徴とする撮像装置。
The imaging device according to claim 1 or 2,
Importance determination means for determining importance of correction for the defect occurring in the region based on at least the region information acquired from the region, further comprising:
The imaging apparatus according to claim 1, wherein the defect correcting unit corrects an output signal from the defective pixel using a correction content according to the importance of the correction determined by the importance determining unit.
請求項1から請求項3のいずれか1項に記載の撮像装置において、
前記欠陥情報は、前記撮像素子における欠陥の位置を示す位置情報からなることを特徴とする撮像装置。
In the imaging device according to any one of claims 1 to 3,
The image pickup apparatus, wherein the defect information includes position information indicating a position of a defect in the image pickup device.
請求項4に記載の撮像装置において、
前記欠陥情報は、前記位置情報の他に、前記欠陥の度合いを示す情報、前記欠陥の大きさを示す情報、或いは前記欠陥が発生する部位の重要度を示す情報の少なくとも1つの情報からなることを特徴とする撮像装置。
The imaging apparatus according to claim 4,
In addition to the position information, the defect information includes at least one piece of information indicating the degree of the defect, information indicating the size of the defect, or information indicating the importance of the part where the defect occurs. An imaging apparatus characterized by the above.
光を信号電荷に変換する撮像素子からの信号電荷に基づいて生成される画像を複数の領域に分割する分割手段と、
前記分割手段により分割された領域のそれぞれにおける前記画像内の情報を領域情報として取得する情報取得手段と、
前記複数の領域のうち欠陥素が発生する領域を前記撮像素子の欠陥を示す情報に基づいて特定するとともに、少なくとも前記特定された領域から得られた前記領域情報に基づいて前記欠陥画素からの出力信号を補正する欠陥補正手段と、
を備えたことを特徴とする欠陥補正装置。
A dividing unit that divides an image generated based on a signal charge from an image sensor that converts light into a signal charge into a plurality of regions;
Information acquisition means for acquiring information in the image in each of the areas divided by the dividing means as area information;
An area in which a defect element is generated among the plurality of areas is specified based on information indicating a defect of the imaging element, and output from the defective pixel based on at least the area information obtained from the specified area Defect correcting means for correcting the signal;
A defect correction apparatus comprising:
JP2008213073A 2008-08-21 2008-08-21 Imaging apparatus and defect correction apparatus Active JP5245642B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008213073A JP5245642B2 (en) 2008-08-21 2008-08-21 Imaging apparatus and defect correction apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008213073A JP5245642B2 (en) 2008-08-21 2008-08-21 Imaging apparatus and defect correction apparatus

Publications (2)

Publication Number Publication Date
JP2010050730A true JP2010050730A (en) 2010-03-04
JP5245642B2 JP5245642B2 (en) 2013-07-24

Family

ID=42067458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008213073A Active JP5245642B2 (en) 2008-08-21 2008-08-21 Imaging apparatus and defect correction apparatus

Country Status (1)

Country Link
JP (1) JP5245642B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013075083A (en) * 2011-09-30 2013-04-25 Fujifilm Corp Radiography apparatus
JP2013162173A (en) * 2012-02-01 2013-08-19 Nikon Corp Imaging apparatus and program
JP2014165854A (en) * 2013-02-27 2014-09-08 Nikon Corp Image processing device, imaging device, image processing method, and image processing program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000115644A (en) * 1998-10-05 2000-04-21 Sony Corp Solid-state image pickup device
JP2004023683A (en) * 2002-06-20 2004-01-22 Fuji Photo Film Co Ltd Defect correction apparatus and method for solid-state imaging device
JP2007235891A (en) * 2006-03-03 2007-09-13 Canon Inc Apparatus and method for correcting defect

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000115644A (en) * 1998-10-05 2000-04-21 Sony Corp Solid-state image pickup device
JP2004023683A (en) * 2002-06-20 2004-01-22 Fuji Photo Film Co Ltd Defect correction apparatus and method for solid-state imaging device
JP2007235891A (en) * 2006-03-03 2007-09-13 Canon Inc Apparatus and method for correcting defect

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013075083A (en) * 2011-09-30 2013-04-25 Fujifilm Corp Radiography apparatus
JP2013162173A (en) * 2012-02-01 2013-08-19 Nikon Corp Imaging apparatus and program
JP2014165854A (en) * 2013-02-27 2014-09-08 Nikon Corp Image processing device, imaging device, image processing method, and image processing program

Also Published As

Publication number Publication date
JP5245642B2 (en) 2013-07-24

Similar Documents

Publication Publication Date Title
JP6271926B2 (en) Imaging device, control method thereof, and program
US8970742B2 (en) Image processing apparatus and method capable of performing correction process speedily and easily
JP5541718B2 (en) Imaging device and defective pixel detection method thereof
JP2007189544A (en) Imaging apparatus
JP6300529B2 (en) Imaging apparatus, control method therefor, program, and storage medium
JP6351271B2 (en) Image composition apparatus, image composition method, and program
US9307168B2 (en) Image capture apparatus and method for controlling image capture apparatus in which defective pixels are indicated
JP5245642B2 (en) Imaging apparatus and defect correction apparatus
US10475162B2 (en) Image processing device, method, and storage medium for gamma correction based on illuminance
JP4993670B2 (en) Imaging apparatus and control method thereof
US10623674B2 (en) Image processing device, image processing method and computer readable recording medium
JP2010141661A (en) Image processing device
JP2009055415A (en) Camera
JP5299159B2 (en) Imaging apparatus and program
JP5387341B2 (en) Imaging device
JP3767188B2 (en) Electronic camera and signal correction method
JP4514138B2 (en) Method for driving solid-state imaging device and digital camera
JP2013074368A (en) Imaging apparatus and imaging method
JP6218408B2 (en) Image processing apparatus, image processing method, and program
JP2013239772A (en) Image processing device and control method thereof
JP6149615B2 (en) Imaging device
JP2009302653A (en) Image pickup device
US20200314349A1 (en) Image processing device, image processing method, and program
JP2015061137A (en) Imaging apparatus, control method of the same, and program
JP2013115547A (en) Imaging apparatus and control method of the same

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130312

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130325

R150 Certificate of patent or registration of utility model

Ref document number: 5245642

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160419

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250