JP2006155518A - Geometric correction method and device - Google Patents
Geometric correction method and device Download PDFInfo
- Publication number
- JP2006155518A JP2006155518A JP2004348913A JP2004348913A JP2006155518A JP 2006155518 A JP2006155518 A JP 2006155518A JP 2004348913 A JP2004348913 A JP 2004348913A JP 2004348913 A JP2004348913 A JP 2004348913A JP 2006155518 A JP2006155518 A JP 2006155518A
- Authority
- JP
- Japan
- Prior art keywords
- pixel data
- pixel
- error
- correspond
- determined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 71
- 238000003384 imaging method Methods 0.000 claims abstract description 45
- 230000008707 rearrangement Effects 0.000 claims description 13
- 230000000295 complement effect Effects 0.000 claims description 4
- 230000008569 process Effects 0.000 abstract description 36
- 230000007547 defect Effects 0.000 description 23
- 230000009466 transformation Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 3
- 230000015654 memory Effects 0.000 description 3
- 238000003705 background correction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 210000003127 knee Anatomy 0.000 description 2
- 230000009897 systematic effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
Images
Abstract
Description
本発明は、撮像手段により取得された画素データを幾何補正する幾何補正方法および装置に関する。 The present invention relates to a geometric correction method and apparatus for geometrically correcting pixel data acquired by an imaging means.
従来、カメラ等の撮像手段により取得された画素データを幾何補正する幾何補正方法は公知となっている。例えば、特許文献1および特許文献2に記載の如くである。
ここで、「撮像手段」とは、画素データを取得する手段であり、具体的にはCCDカメラやCMOSカメラが挙げられる。
また、「画素データ」は、撮像手段が具備する個々の固体撮像素子(画素)により取得された情報であり、通常は、白黒画像を撮像する撮像手段における輝度値、またはカラー画像を撮像する撮像手段におけるRGBそれぞれの輝度値、を指す。
また、「幾何補正」は、一般的にはカメラ等の撮像手段により撮像された画素データの集合体たる画像が内包する幾何学的な歪みを補正する画像処理を指す。
画像が内包する幾何学的な歪みは、(1)撮像手段に起因する内部歪み、(2)撮像手段を保持する部分であるプラットフォームや撮像の対象物に起因する外部歪み、を含む。上記内部歪みの代表例としては、撮像手段たるカメラ等に具備されるレンズの歪みが挙げられる。
Conventionally, a geometric correction method for geometrically correcting pixel data acquired by an imaging means such as a camera has been known. For example, it is as described in
Here, the “imaging means” is means for acquiring pixel data, and specifically includes a CCD camera and a CMOS camera.
In addition, “pixel data” is information acquired by individual solid-state image sensors (pixels) included in the imaging unit, and is usually a luminance value in an imaging unit that captures a black and white image, or an imaging that captures a color image. The luminance value of each RGB in a means is pointed out.
In addition, “geometric correction” generally refers to image processing for correcting geometric distortion included in an image that is a collection of pixel data captured by an imaging unit such as a camera.
The geometric distortion included in the image includes (1) internal distortion caused by the imaging means, and (2) external distortion caused by the platform that is the part holding the imaging means and the imaging target. A typical example of the internal distortion is distortion of a lens provided in a camera or the like that is an imaging unit.
幾何補正は、一般的には、入力された画素データの重み付けにより出力画像を得る再配列処理を具備する。
再配列処理においては、より詳細には、入力された画素データの集合体たる入力画像の歪みを補正すべく該画素データのアドレスを補正し、該アドレスが補正された画素データに基づいて、アドレスが整数値となる位置、すなわち格子点の画素データの輝度値を重み付けにより決定する。
ここで、入力画像の歪みを補正する方法の具体例としては、高次多項式変換に代表される非系統的補正等が挙げられる。
また、重み付けを行う方法の具体例としては、(1)格子点の画素データの輝度値を、格子点近傍の4点の幾何変換が施された画素データのうち、最もEuclid距離が短い位置の画素データの輝度値で置換する最近隣法、(2)格子点近傍に位置する4点の幾何変換が施された画素データから比例計算により格子点の画素データの輝度値を決定する4近傍バイリニア法、格子点近傍の16点の幾何変換が施された画素データから、畳み込みにより格子点の画素データの輝度値を決定する三次畳み込み法、等が挙げられる。
4近傍バイリニア法の実施例としては、特許文献3に記載の方法が挙げられる。
The geometric correction generally includes a rearrangement process for obtaining an output image by weighting input pixel data.
In the rearrangement processing, more specifically, the address of the pixel data is corrected to correct distortion of the input image that is a set of input pixel data, and the address is corrected based on the pixel data whose address is corrected. The position at which becomes an integer value, that is, the luminance value of the pixel data of the grid point is determined by weighting.
Here, a specific example of the method for correcting the distortion of the input image includes non-systematic correction represented by high-order polynomial transformation.
As a specific example of the weighting method, (1) the luminance value of the pixel data of the grid point is set to the position where the Euclid distance is the shortest among the pixel data subjected to the four-point geometric transformation in the vicinity of the grid point. Nearest neighbor method for replacement with the luminance value of pixel data, (2) 4-neighbor bilinear for determining the luminance value of pixel data of grid points by proportional calculation from pixel data subjected to geometric transformation of 4 points located in the vicinity of the grid points And a cubic convolution method in which the luminance value of the pixel data at the lattice points is determined by convolution from the pixel data that has undergone 16-point geometric transformation in the vicinity of the lattice points.
Examples of the 4-neighbor bilinear method include the method described in
幾何補正は、リアルタイム性、すなわち、撮像手段により撮像された画像に基づいて瞬時に種々の判断を行うことを可能とするために、画素データを幾何補正し、当該幾何補正した画素データを出力するまでに要する時間を短縮すること、が求められる場合がある。
上記リアルタイム性が要求される幾何補正の一例としては、自動車等に設けられた撮像手段により取得された画素データに基づいて走行車線や路上の障害物を認識し、該認識結果に基づいて自動車の自動運転や運転支援を行う場合が考えられる。
Geometric correction is real-time, that is, pixel data is subjected to geometric correction and the pixel data subjected to geometric correction is output in order to be able to make various determinations instantaneously based on the image captured by the imaging means. In some cases, it is required to reduce the time required for the process.
As an example of the geometric correction that requires real-time characteristics, an obstacle on a driving lane or a road is recognized based on pixel data acquired by an imaging unit provided in an automobile or the like, and an automobile is detected based on the recognition result. There are cases where automatic driving and driving assistance are performed.
撮像手段の具体例であるCCDカメラやCMOSカメラは、具体的には、固体撮像素子(画素)が取得したアナログ信号にノイズ成分の除去、利得制御、ニー補正、プリガンマ補正等の種々の処理を施すアナログ信号処理部と、該アナログ信号処理部により補正が施されたアナログ信号をデジタル信号に変換するアナログ/デジタル変換回路と、該変換されたデジタル信号にガンマ補正、白/黒レベルバランス処理、シェーディング補正、画素欠陥補正等の種々の処理を施すデジタル信号処理部と、を具備している。
上記デジタル信号処理部にて施される処理のうち、画素欠陥補正は、画素欠陥に対応する画素の画素データ、より厳密には当該画素データの輝度値を補正する処理である。
「画素欠陥」は、CCDカメラやCMOSカメラの固体撮像素子に起因する画素単位の表示欠陥を指し、画素欠陥の例としては白欠陥、黒欠陥等が挙げられる。
画素欠陥補正の具体例としては、画素欠陥に対応する画素に隣接する複数の画素に係る画素データに基づいて画素欠陥に対応する画素の画素データの輝度値を決定する方法が挙げられる。例えば、特許文献4に記載の如くである。
Specifically, a CCD camera or a CMOS camera, which is a specific example of the image pickup means, performs various processes such as noise component removal, gain control, knee correction, and pre-gamma correction on an analog signal acquired by a solid-state image pickup device (pixel). An analog signal processing unit to perform, an analog / digital conversion circuit that converts the analog signal corrected by the analog signal processing unit into a digital signal, gamma correction, white / black level balance processing to the converted digital signal, And a digital signal processing unit that performs various processes such as shading correction and pixel defect correction.
Among the processes performed by the digital signal processing unit, the pixel defect correction is a process for correcting pixel data of a pixel corresponding to the pixel defect, more strictly, a luminance value of the pixel data.
“Pixel defect” refers to a display defect in pixel units caused by a solid-state imaging device of a CCD camera or a CMOS camera. Examples of the pixel defect include a white defect and a black defect.
As a specific example of the pixel defect correction, there is a method of determining the luminance value of the pixel data of the pixel corresponding to the pixel defect based on the pixel data related to a plurality of pixels adjacent to the pixel corresponding to the pixel defect. For example, as described in
このような画素欠陥補正は、画素データの集合体たる画像を表示画面等に表示する際の美観という点では必要不可欠なものである。
しかし、上述の如く撮像手段にて画素欠陥補正を行った後の画素データを幾何補正し、当該幾何補正後の画素データの集合体たる出力画像に基づいて種々の判断を行うことは、以下の点において問題がある。
すなわち、従来の撮像手段にて画素欠陥補正が施された後の画素データは、実際に画素欠陥補正された画素データを特定することが不可能な状態で出力される。そのため、幾何補正後の画素データのうち、いずれの画素データが画素欠陥補正されたかを特定しないまま、当該画素データに基づいて種々の判断を行うことは、場合によっては不適切である。
上記不適切な判断の一例としては、自動車等に設けられた撮像手段により取得された画素データの集合体たる画像に基づいて走行車線や路上の障害物を認識し、該認識結果に基づいて自動車の自動運転や運転支援を行う場合が挙げられる。これは、実際には存在しない物体が存在する、または、実際には存在する物体を存在しないと判断するおそれがあるからである。
However, it is possible to geometrically correct the pixel data after the pixel defect correction by the imaging unit as described above and perform various determinations based on the output image that is an aggregate of the pixel data after the geometric correction. There is a problem in terms.
That is, the pixel data after the pixel defect correction is performed by the conventional imaging means is output in a state in which it is impossible to specify the pixel data actually corrected for the pixel defect. For this reason, it is inappropriate in some cases to make various determinations based on the pixel data without specifying which pixel data of the pixel data after geometric correction has been corrected for pixel defects.
As an example of the inappropriate determination, an obstacle on a driving lane or a road is recognized based on an image that is a collection of pixel data acquired by an imaging unit provided in the automobile, and the automobile is based on the recognition result. There are cases where automatic driving and driving assistance are performed. This is because there is a possibility that an object that does not actually exist exists, or that an object that actually exists does not exist.
従って、幾何補正後の画素データのうち、いずれの画素データが画素欠陥補正されたかを特定しないまま、当該画素データの集合体たる画像に基づいて種々の判断を行うことが不適切な場合には、(A)幾何補正後の画素データの信頼性、すなわち、幾何補正後の画素データのうち、画素欠陥に係る画素データが他の画素データと区別可能な状態であること、または、(B)幾何補正後の画素データが、幾何補正後に行われる種々の判断の性質上適切と考えられる補正処理が予め施されたものであること、が求められる。 Therefore, when it is inappropriate to make various determinations based on an image as an aggregate of pixel data without specifying which pixel data has been corrected for pixel defects among the pixel data after geometric correction. (A) Reliability of pixel data after geometric correction, that is, pixel data related to a pixel defect among pixel data after geometric correction, or (B) It is required that the pixel data after geometric correction is previously subjected to correction processing that is considered appropriate due to the nature of various judgments made after geometric correction.
本発明は以上の如き状況に鑑み、画素データの信頼性とリアルタイム性とを両立した幾何補正方法を提供するものである。 In view of the circumstances as described above, the present invention provides a geometric correction method that achieves both the reliability of pixel data and real-time performance.
本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。 The problem to be solved by the present invention is as described above. Next, means for solving the problem will be described.
即ち、請求項1においては、
撮像手段により取得され、対応するエラー情報を具備する画素データを幾何補正する幾何補正方法であって、
入力された画素データに対応するエラー情報に基づいて当該画素データがエラー画素に対応するか否かを判定し、エラー画素に対応すると判定された画素データを、出力画像としたときに該画素データの周辺にあり、かつ、エラー画素に対応しないと判定された別の画素データに置換して出力するエラー補完処理と、
入力された画素データの重み付けにより出力画像を得る再配列処理と、
を具備するものである。
That is, in
A geometric correction method for geometrically correcting pixel data obtained by an imaging means and having corresponding error information,
Based on the error information corresponding to the input pixel data, it is determined whether or not the pixel data corresponds to the error pixel. When the pixel data determined to correspond to the error pixel is used as an output image, the pixel data Error complement processing that is output in place of another pixel data that is determined to be incompatible with the error pixel,
Rearrangement processing to obtain an output image by weighting the input pixel data;
It comprises.
請求項2においては、
前記エラー画素に対応しないと判定された別の画素データは、
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向と略直交する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置するものである。
In
Another pixel data determined not to correspond to the error pixel is:
With respect to pixel data determined to correspond to an error pixel, the imaging means is located in a direction substantially orthogonal to the scanning direction for acquiring pixel data,
In addition, it is located at four neighboring positions including pixel data determined to correspond to the error pixel.
請求項3においては、
前記エラー画素に対応しないと判定された別の画素データは、
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向に略一致する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置するものである。
In
Another pixel data determined not to correspond to the error pixel is:
With respect to the pixel data determined to correspond to the error pixel, the imaging means is located in a direction substantially coinciding with the scanning direction for acquiring the pixel data,
In addition, it is located at four neighboring positions including pixel data determined to correspond to the error pixel.
請求項4においては、
撮像手段により取得され、対応するエラー情報を具備する画素データを幾何補正する幾何補正を行う装置であって、
入力された画素データに対応するエラー情報に基づいて当該画素データがエラー画素に対応するか否かを判定し、エラー画素に対応すると判定された画素データを、出力画像としたときに該画素データの周辺にあり、かつ、エラー画素に対応しないと判定された別の画素データに置換して出力するエラー補完処理部と、
入力された画素データの重み付けにより出力画像を得る再配列処理部と、
を具備するものである。
In
An apparatus for performing geometric correction for geometric correction of pixel data obtained by an imaging unit and having corresponding error information,
Based on the error information corresponding to the input pixel data, it is determined whether or not the pixel data corresponds to the error pixel. When the pixel data determined to correspond to the error pixel is used as an output image, the pixel data An error complementing processing unit that outputs a pixel data that is replaced with another pixel data that is determined not to correspond to the error pixel,
A rearrangement processing unit for obtaining an output image by weighting input pixel data;
It comprises.
請求項5においては、
前記エラー画素に対応しないと判定された別の画素データは、
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向と略直交する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置するものである。
In claim 5,
Another pixel data determined not to correspond to the error pixel is:
With respect to pixel data determined to correspond to an error pixel, the imaging means is located in a direction substantially orthogonal to the scanning direction for acquiring pixel data,
In addition, it is located at four neighboring positions including pixel data determined to correspond to the error pixel.
請求項6においては、
前記エラー画素に対応しないと判定された別の画素データは、
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向に略一致する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置するものである。
In claim 6,
Another pixel data determined not to correspond to the error pixel is:
With respect to the pixel data determined to correspond to the error pixel, the imaging means is located in a direction substantially coinciding with the scanning direction for acquiring the pixel data,
In addition, it is located at four neighboring positions including pixel data determined to correspond to the error pixel.
本発明の効果として、以下に示すような効果を奏する。 As effects of the present invention, the following effects can be obtained.
請求項1においては、画素データの信頼性とリアルタイム性とを両立することが可能である。
In
請求項2においては、幾何補正後の画素データの輝度値を撮像手段の走査方向で微分して、当該走査方向に略直交する物体の側面の境界線を識別する処理を行う場合に、該物体の側面の境界線を精度良く識別することが可能であり、特に補正後の画素データの信頼性が向上する。
In
請求項3においては、幾何補正後の画素データの輝度値を撮像手段の走査方向に直交する方向で微分して、当該走査方向に略一致する物体の側面の境界線を識別する処理を行う場合に、該物体の側面の境界線を精度良く識別することが可能であり、特に補正後の画素データの信頼性が向上する。 According to a third aspect of the present invention, the luminance value of the pixel data after geometric correction is differentiated in a direction orthogonal to the scanning direction of the image pickup means, and a process of identifying the boundary line of the side surface of the object that substantially matches the scanning direction is performed. In addition, it is possible to accurately identify the boundary line on the side surface of the object, and in particular, the reliability of the corrected pixel data is improved.
請求項4においては、画素データの信頼性とリアルタイム性とを両立することが可能である。
In
請求項5においては、幾何補正後の画素データの輝度値を撮像手段の走査方向で微分して、当該走査方向に略直交する物体の側面の境界線を識別する処理を行う場合に、該物体の側面の境界線を精度良く識別することが可能であり、特に補正後の画素データの信頼性が向上する。 According to claim 5, when the luminance value of the pixel data after geometric correction is differentiated in the scanning direction of the image pickup means and the boundary line of the side surface of the object substantially orthogonal to the scanning direction is identified, It is possible to accurately identify the boundary line of the side surface of the pixel, and particularly the reliability of the pixel data after correction is improved.
請求項6においては、幾何補正後の画素データの輝度値を撮像手段の走査方向に直交する方向で微分して、当該走査方向に略一致する物体の側面の境界線を識別する処理を行う場合に、該物体の側面の境界線を精度良く識別することが可能であり、特に補正後の画素データの信頼性が向上する。 According to another aspect of the invention, the luminance value of the pixel data after geometric correction is differentiated in a direction orthogonal to the scanning direction of the image pickup means, and the process of identifying the boundary line of the side surface of the object that substantially matches the scanning direction is performed. In addition, it is possible to accurately identify the boundary line on the side surface of the object, and in particular, the reliability of the corrected pixel data is improved.
以下では、図1および図2を用いて本発明の幾何補正方法の実施例について説明する。 Below, the Example of the geometric correction method of this invention is described using FIG. 1 and FIG.
以下では、図1および図2を用いて画素データ取得処理10について説明する。
画素データ取得処理10はCCDカメラやCMOSカメラ等の撮像手段により画素データを取得し、該画素データを出力する処理である。
本実施例の画素データ取得処理10は、固体撮像素子(画素)が取得したアナログ信号にノイズ成分の除去、利得制御、ニー補正、プリガンマ補正等の種々の処理を施し、更に当該アナログ信号をデジタル信号に変換し、更に当該デジタル信号にガンマ補正、白/黒レベルバランス処理、シェーディング補正、等の種々の処理を施すといった種々の処理を行っても良いが、該画素データには画素欠陥補正を施さないことが求められる。
そして、当該画素データに画素欠陥補正を施さない代わりに、当該画素データに対応するエラー情報を出力する。すなわち、本実施例の画素データは、それぞれ対応するエラー情報を具備している。
「エラー情報」は、個々の画素データの信頼性に関する情報であり、本実施例の場合、画素欠陥の発生の有無、すなわち、個々の画素データに対応する画素に画素欠陥が発生しているか否か、を示す情報が含まれる。
以下、画素欠陥その他のエラーに係る画素を「エラー画素」という。
Below, the pixel
The pixel
The pixel
Then, instead of not performing pixel defect correction on the pixel data, error information corresponding to the pixel data is output. In other words, the pixel data of this embodiment includes corresponding error information.
“Error information” is information relating to the reliability of individual pixel data. In the present embodiment, whether or not pixel defects have occurred, that is, whether or not pixel defects have occurred in pixels corresponding to individual pixel data. Is included.
Hereinafter, pixels related to pixel defects and other errors are referred to as “error pixels”.
図2の(a)に示す如く、画素データ取得処理10において取得された個々の画素データは、それぞれ固有の輝度値を持つ。
なお、図2では個々の画素データのアドレスを説明の便宜上x座標およびy座標で表現しているが、本実施例の場合、画素データが撮像手段により取得された順序が当該画素データのアドレスを表す。
As shown in FIG. 2A, each piece of pixel data acquired in the pixel
In FIG. 2, the address of each pixel data is expressed by the x-coordinate and the y-coordinate for convenience of explanation. However, in this embodiment, the order in which the pixel data is acquired by the image pickup means is the address of the pixel data. To express.
図2の(a)に示す如く、画素データ取得処理10において取得された画素データのうち、近接する4つの画素データA1・A2・A3・A4に着目して説明する。
なお、画素データA1のx座標をx1、y座標をy1、輝度値をz1として、以後必要に応じて画素データA1(x1,y1,z1)と表記する。同様に、以後必要に応じて画素データA2(x2,y2,z2)、画素データA3(x3,y3,z3)、画素データA4(x4,y4,z4)と表記する。
画素データ取得処理10において取得された画素データである画素データA1・A2・A3・A4のx座標およびy座標はいずれも整数で表され、x1=x3、x2=x4=x1+1、y1=y2、y3=y4=y1+1の関係が成立する。
ここで、4つの画素データA1・A2・A3・A4のうち、画素データA2がエラー画素に対応する画素データであるものとする。
As shown in FIG. 2A, the description will be made by paying attention to four adjacent pixel data A1, A2, A3, and A4 among the pixel data acquired in the pixel
In addition, the x coordinate of the pixel data A1 is x1, the y coordinate is y1, and the luminance value is z1, and is hereinafter referred to as pixel data A1 (x1, y1, z1) as necessary. Similarly, pixel data A2 (x2, y2, z2), pixel data A3 (x3, y3, z3), and pixel data A4 (x4, y4, z4) will be hereinafter described as necessary.
The x-coordinate and y-coordinate of the pixel data A1, A2, A3, and A4 that are the pixel data acquired in the pixel
Here, it is assumed that the pixel data A2 is pixel data corresponding to an error pixel among the four pieces of pixel data A1, A2, A3, and A4.
以下では、図1および図2を用いてエラー補完処理100について説明する。
エラー補完処理100は、入力された画素データ、すなわち、画素データ取得処理10が施された後の画素データ、に対応するエラー情報に基づいて当該画素データがエラー画素に対応するか否かを判定し、エラー画素に対応すると判定された画素データを、出力画像としたときに該画素データの周辺にあり、かつエラー画素に対応しないと判定された別の画素データに置換して出力する処理である。
Hereinafter, the
The
図2の(b)に示す如く、エラー補完処理100においては、画素データA1・A2・A3・A4が、それぞれ画素データB1・B2・B3・B4に変換される。
このとき、画素データB1・B2・B3・B4のアドレスは、それぞれ画素データA1・A2・A3・A4のアドレスと同じであるが、輝度値については、画素データA1・A2・A3・A4に対応するエラー情報に基づいて変更するか否かが決定される。
As shown in FIG. 2B, in the
At this time, the addresses of the pixel data B1, B2, B3, and B4 are the same as the addresses of the pixel data A1, A2, A3, and A4, respectively, but the luminance values correspond to the pixel data A1, A2, A3, and A4. It is determined whether or not to change based on the error information.
すなわち、エラー補完処理100においては、画素データA1・A2・A3・A4のうち、画素データA1・A3・A4についてはエラー画素に対応しないと判定されるため、画素データB1・B3・B4の輝度値を、それぞれ画素データA1・A3・A4の輝度値と同じとする。
また、エラー補完処理100においては、画素データA2についてはエラー画素に対応すると判定されるため、画素データB2の輝度値(z2)を、画素データA2に対して、撮像手段が画素データA1・A2・A3・A4を取得するための走査方向(通常は水平方向)と略直交する方向に位置し、かつ、画素データA2を含む4近傍位置に位置する画素データ、すなわち画素データA4の輝度値(z4)に置換する。
That is, in the
Further, in the
結果として、図2の(b)に示す如く、エラー補完処理100においては、画素データA1(x1,y1,z1)は画素データB1(x1,y1,z1)に、画素データA2(x2,y2,z2)は画素データB2(x2,y2,z4)に、画素データA3(x3,y3,z3)は画素データB3(x3,y3,z3)に、画素データA4(x4,y4,z4)は画素データB4(x4,y4,z4)に、それぞれ変換されることとなる。
As a result, as shown in FIG. 2B, in the
図3は、エラー補完処理100を行う回路の実施例であるエラー補完回路1000を示す模式図である。
エラー補完回路1000は四つのFIFOメモリ1001・1002・1003・1004と、四つのマルチプレクサ1011・1012・1013・1014とを具備する。
エラー補完回路1000は撮像手段1200から入力される画素データA1・A2・A3・A4をそれぞれFIFOメモリ1001・1002・1003・1004に格納し、その後出力する。
このとき、FIFOメモリ1001・1002・1003・1004から出力された画素データA1・A2・A3・A4は、マルチプレクサ1011・1012・1013・1014に以下の如く入力される。
すなわち、マルチプレクサ1011には画素データA1・A3が入力され、マルチプレクサ1012には画素データA2・A4が入力され、マルチプレクサ1013には画素データA1・A3が入力され、マルチプレクサ1014には画素データA2・A4が入力される。
また、撮像手段1200から出力された画素データA1・A2・A3・A4に対応するエラー情報も、それぞれマルチプレクサ1011・1012・1013・1014に入力される。
FIG. 3 is a schematic diagram showing an
The
The
At this time, the pixel data A1, A2, A3, and A4 output from the
That is,
Error information corresponding to the pixel data A1, A2, A3, and A4 output from the
マルチプレクサ1011は、画素データA1に対応するエラー情報に基づいて、画素データA1がエラー画素に対応しないと判定し、画素データA1の輝度値を採用して画素データB1を出力する。
マルチプレクサ1012は、画素データA2に対応するエラー情報に基づいて、画素データA2がエラー画素に対応すると判定し、画素データA4の輝度値を採用して画素データB2を出力する。
マルチプレクサ1013は、画素データA3に対応するエラー情報に基づいて、画素データA3がエラー画素に対応しないと判定し、画素データA3の輝度値を採用して画素データB3を出力する。
マルチプレクサ1014は、画素データA4に対応するエラー情報に基づいて、画素データA4がエラー画素に対応しないと判定し、画素データA4の輝度値を採用して画素データB4を出力する。
The
The
The
The
また、図3では、撮像手段1200とエラー補完回路1000との間にカウンタを有するエラー検出回路1100が設けられている。
エラー検出回路1100は、撮像手段1200から出力される画素データのカウントする画素カウンタ1101と、撮像手段1200に内蔵されたカウンタ回路(不図示)のカウントと画素カウンタ1101のカウントとを比較し、両者が一致しない場合には当該画素データがエラー画素に対応する旨のエラー情報を出力する画素カウンタ比較回路1102と、を具備する。
このように構成することにより、撮像手段1200とエラー補完回路1000との間で通信エラーが生じた場合にも、通信エラーに係る画素データの輝度値をエラー補完回路1000にてエラー画素に対応しない画素データの輝度値に置換することが可能である。
In FIG. 3, an
The
With this configuration, even when a communication error occurs between the
以下では、図1および図2を用いて再配列処理31について説明する。
再配列処理31は、入力された画素データの重み付けにより出力画像を得る処理である。
より詳細には、再配列処理31は、入力された画素データの集合体たる入力画像の歪みを補正すべく該画素データのアドレスを補正し、該アドレスが補正された画素データに基づいて、アドレスが整数値となる位置、すなわち格子点の画素データの輝度値を重み付けにより決定する。
Below, the
The
More specifically, the
本実施例では、上記入力画像の歪みを補正する方法として、撮像手段たるカメラ等のレンズに固有の高次多項式に基づいた非系統的補正を行う。
また、本実施例では、上記重み付けの方法として、4近傍バイリニア法を採用している。「4近傍バイリニア法」は、格子点近傍に位置する4点の幾何変換が施された画素データから比例計算により格子点の画素データの輝度値を決定する方法である。
ここで、4点の幾何変換が施された画素データの位置を「4近傍位置」とする。4近傍位置は、入力された画素データにおいて、格子点のアドレスに対するユークリッド距離が一番近い画素データから4番目に近い画素データまでのアドレスを指す。
In this embodiment, as a method of correcting the distortion of the input image, non-systematic correction based on a high-order polynomial specific to a lens such as a camera as an imaging unit is performed.
In this embodiment, the 4-neighbor bilinear method is adopted as the weighting method. The “4-neighbor bilinear method” is a method for determining the luminance value of pixel data at grid points from the pixel data subjected to geometric transformation of four points located in the vicinity of the grid points by proportional calculation.
Here, the position of the pixel data subjected to the four-point geometric transformation is defined as “four neighboring positions”. The 4-neighbor position indicates an address from pixel data having the closest Euclidean distance to the address of the grid point to pixel data having the fourth closest position in the input pixel data.
図2の(c)に示す如く、再配列処理31では、エラー補完処理100が施された画素データB1・B2・B3・B4が、それぞれ画素データC1・C2・C3・C4に変換され、さらに、アドレスが整数値となる位置、すなわち格子点の画素データD(X,Y,Z)を、該格子点の4近傍位置に位置する画素データC1・C2・C3・C4に基づいて決定する。
As shown in FIG. 2C, in the
結果として、図2の(c)に示す如く、再配列処理31においては、画素データB1(x1,y1,z1)は画素データC1(X1,Y1,z1)に、画素データB2(x2,y2,z4)は画素データC2(X2,Y2,z4)に、画素データB3(x3,y3,z3)は画素データC3(X3,Y3,z3)に、画素データB4(x4,y4,z4)は画素データC4(X4,Y4,z4)に変換され、さらに、画素データC1・C2・C3・C4に基づいて画素データD(X,Y,Z)が決定される。
As a result, as shown in FIG. 2C, in the
なお、画素データDのアドレスのx座標(X)は、画素データC1・C2・C3・C4のアドレスのx座標(X1・X2・X3・X4)の最小値から最大値までの範囲にある整数である。
また、画素データDのアドレスのy座標(Y)は、画素データC1・C2・C3・C4のアドレスのy座標(Y1・Y2・Y3・Y4)の最小値から最大値までの範囲にある整数である。
さらに、画素データDのアドレスの輝度値Zと、画素データC1・C2・C3・C4の輝度値z1・z2・z3・z4との間には、以下の関係が成立する。
(R1+R2+R3+R4)/Z=R1/z1+R2/z2+R3/z3+R4/z4
ここで、R1、R2、R3、R4は、それぞれ画素データDと画素データC1・C2・C3・C4との間のユークリッド距離を指す。
The x coordinate (X) of the address of the pixel data D is an integer in the range from the minimum value to the maximum value of the x coordinate (X1, X2, X3, and X4) of the address of the pixel data C1, C2, C3, and C4. It is.
The y coordinate (Y) of the address of the pixel data D is an integer in the range from the minimum value to the maximum value of the y coordinate (Y1, Y2, Y3, Y4) of the address of the pixel data C1, C2, C3, C4. It is.
Further, the following relationship is established between the luminance value Z of the address of the pixel data D and the luminance values z1, z2, z3, and z4 of the pixel data C1, C2, C3, and C4.
(R1 + R2 + R3 + R4) / Z = R1 / z1 + R2 / z2 + R3 / z3 + R4 / z4
Here, R1, R2, R3, and R4 indicate Euclidean distances between the pixel data D and the pixel data C1, C2, C3, and C4, respectively.
以下では、図1を用いてその他画像処理40について説明する。
その他画像処理40は、幾何補正後の画素データを用いて種々の画像処理または判断等を行う処理を指す。
その他画像処理40の一例としては、自動車に設けられた撮像手段により取得された画素データに幾何補正を施し、該幾何補正を施した後の画素データに基づいて自動車の進行方向に存在する他の自動車等の障害物を認識すること、が挙げられる。
Hereinafter, the
The
As another example of the
以上の如く、本発明の幾何補正方法の実施例は、
撮像手段により取得され、対応するエラー情報を具備する画素データを幾何補正する幾何補正方法であって、
入力された画素データに対応するエラー情報に基づいて当該画素データがエラー画素に対応するか否かを判定し、エラー画素に対応すると判定された画素データを、出力画像としたときに該画素データの周辺にあり、かつ、エラー画素に対応しないと判定された別の画素データに置換して出力するエラー補完処理100と、
入力された画素データの重み付けにより出力画像を得る再配列処理31と、
を具備するものである。
As described above, the embodiment of the geometric correction method of the present invention is
A geometric correction method for geometrically correcting pixel data obtained by an imaging means and having corresponding error information,
Based on the error information corresponding to the input pixel data, it is determined whether or not the pixel data corresponds to the error pixel. When the pixel data determined to correspond to the error pixel is used as an output image, the pixel data
A
It comprises.
このように構成することは、以下の如き利点を有する。
すなわち、当該幾何補正方法により幾何補正された画素データは、当該幾何補正方法に供された時点においてエラー画素に対応する画素データ(より厳密には、該画素データの輝度値)を、出力画像としたときに該画素データの周辺にあり、かつエラー画素に対応しないと判定された別の画素データ(より厳密には、該画素データの輝度値)に置換するため、幾何補正後に行われる種々の判断の性質上適切な補正処理が予め施されたものとなっている。従って、幾何補正後の画素データの信頼性が高い。
また、エラー画素に対応する画素データを、出力画像としたときに該画素データの周辺にあり、かつエラー画素に対応しないと判定された別の画素データに置換するのは容易であり、高速処理が可能である。従って、当該幾何補正のリアルタイム性が確保される。
結果として、当該幾何補正方法は、画素データの信頼性とリアルタイム性とを両立することが可能である。
Such a configuration has the following advantages.
That is, the pixel data that has been subjected to geometric correction by the geometric correction method includes pixel data corresponding to an error pixel (more strictly speaking, the luminance value of the pixel data) at the time when the geometric correction method is used as an output image. In order to replace the pixel data with another pixel data (more precisely, the luminance value of the pixel data) that is determined to be around the pixel data and does not correspond to the error pixel, Correction processing appropriate for the nature of the judgment is performed in advance. Therefore, the reliability of the pixel data after geometric correction is high.
In addition, it is easy to replace pixel data corresponding to an error pixel with another pixel data that is in the vicinity of the pixel data when it is used as an output image and is determined not to correspond to an error pixel. Is possible. Therefore, the real-time property of the geometric correction is ensured.
As a result, the geometric correction method can achieve both the reliability of pixel data and the real-time property.
また、本発明の幾何補正方法の実施例において、エラー画素に対応しないと判定された別の画素データは、
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向と略直交する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置するものである。
In the embodiment of the geometric correction method of the present invention, another pixel data determined not to correspond to the error pixel is:
With respect to pixel data determined to correspond to an error pixel, the imaging means is located in a direction substantially orthogonal to the scanning direction for acquiring pixel data,
In addition, it is located at four neighboring positions including pixel data determined to correspond to the error pixel.
このように構成することにより、幾何補正後の画素データ(より厳密には、該画素データの輝度値)を撮像手段の走査方向で微分して、当該走査方向に略直交する物体の側面の境界線を識別する処理を行う場合に、該物体の側面の境界線を精度良く識別することが可能であり、特に補正後の画素データの信頼性が向上する。 With this configuration, the pixel data after geometric correction (more precisely, the luminance value of the pixel data) is differentiated in the scanning direction of the imaging unit, and the boundary of the side surface of the object that is substantially orthogonal to the scanning direction. When the process of identifying a line is performed, it is possible to accurately identify the boundary line on the side surface of the object, and in particular, the reliability of the pixel data after correction is improved.
なお、別実施例として、エラー画素に対応しないと判定された別の画素データは、
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向に略一致する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置する構成とすることも可能である。
As another example, another pixel data determined not to correspond to an error pixel is
With respect to the pixel data determined to correspond to the error pixel, the imaging means is located in a direction substantially coinciding with the scanning direction for acquiring the pixel data,
In addition, it is also possible to adopt a configuration located at four neighboring positions including pixel data determined to correspond to the error pixel.
このように構成することにより、幾何補正後の画素データ(より厳密には、該画素データの輝度値)を撮像手段の走査方向に直交する方向で微分して、当該走査方向に略一致する物体の側面の境界線を識別する処理を行う場合に、該物体の側面の境界線を精度良く識別することが可能であり、特に補正後の画素データの信頼性が向上する。 With this configuration, an object that is substantially coincident with the scanning direction by differentiating the pixel data after geometric correction (more precisely, the luminance value of the pixel data) in a direction orthogonal to the scanning direction of the imaging means. When performing the process of identifying the boundary line of the side surface of the object, it is possible to identify the boundary line of the side surface of the object with high accuracy, and in particular, the reliability of the corrected pixel data is improved.
31 再配列処理
100 エラー補完処理
31
Claims (6)
入力された画素データに対応するエラー情報に基づいて当該画素データがエラー画素に対応するか否かを判定し、エラー画素に対応すると判定された画素データを、出力画像としたときに該画素データの周辺にあり、かつ、エラー画素に対応しないと判定された別の画素データに置換して出力するエラー補完処理と、
入力された画素データの重み付けにより出力画像を得る再配列処理と、
を具備することを特徴とする幾何補正方法。 A geometric correction method for geometrically correcting pixel data obtained by an imaging means and having corresponding error information,
Based on the error information corresponding to the input pixel data, it is determined whether or not the pixel data corresponds to the error pixel. When the pixel data determined to correspond to the error pixel is used as an output image, the pixel data Error complement processing that is output in place of another pixel data that is determined to be incompatible with the error pixel,
Rearrangement processing to obtain an output image by weighting the input pixel data;
A geometric correction method comprising:
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向と略直交する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置することを特徴とする請求項1に記載の幾何補正方法。 Another pixel data determined not to correspond to the error pixel is:
With respect to pixel data determined to correspond to an error pixel, the imaging means is located in a direction substantially orthogonal to the scanning direction for acquiring pixel data,
The geometric correction method according to claim 1, wherein the geometric correction method is located at four neighboring positions including pixel data determined to correspond to an error pixel.
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向に略一致する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置することを特徴とする請求項1に記載の幾何補正方法。 Another pixel data determined not to correspond to the error pixel is:
With respect to the pixel data determined to correspond to the error pixel, the imaging means is located in a direction substantially coinciding with the scanning direction for acquiring the pixel data,
The geometric correction method according to claim 1, wherein the geometric correction method is located at four neighboring positions including pixel data determined to correspond to an error pixel.
入力された画素データに対応するエラー情報に基づいて当該画素データがエラー画素に対応するか否かを判定し、エラー画素に対応すると判定された画素データを、出力画像としたときに該画素データの周辺にあり、かつ、エラー画素に対応しないと判定された別の画素データに置換して出力するエラー補完処理部と、
入力された画素データの重み付けにより出力画像を得る再配列処理部と、
を具備することを特徴とする装置。 An apparatus for performing geometric correction for geometric correction of pixel data obtained by an imaging unit and having corresponding error information,
Based on the error information corresponding to the input pixel data, it is determined whether or not the pixel data corresponds to the error pixel. When the pixel data determined to correspond to the error pixel is used as an output image, the pixel data An error complementing processing unit that outputs a pixel data that is replaced with another pixel data that is determined not to correspond to the error pixel,
A rearrangement processing unit for obtaining an output image by weighting input pixel data;
The apparatus characterized by comprising.
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向と略直交する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置することを特徴とする請求項4に記載の装置。 Another pixel data determined not to correspond to the error pixel is:
With respect to pixel data determined to correspond to an error pixel, the imaging means is located in a direction substantially orthogonal to the scanning direction for acquiring pixel data,
The apparatus according to claim 4, wherein the apparatus is located at four neighboring positions including pixel data determined to correspond to an error pixel.
エラー画素に対応すると判定された画素データに対して、前記撮像手段が画素データを取得するための走査方向に略一致する方向に位置し、
かつ、エラー画素に対応すると判定された画素データを含む4近傍位置に位置することを特徴とする請求項4に記載の装置。 Another pixel data determined not to correspond to the error pixel is:
With respect to the pixel data determined to correspond to the error pixel, the imaging means is located in a direction that substantially matches the scanning direction for acquiring the pixel data,
The apparatus according to claim 4, wherein the apparatus is located at four neighboring positions including pixel data determined to correspond to an error pixel.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004348913A JP2006155518A (en) | 2004-12-01 | 2004-12-01 | Geometric correction method and device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004348913A JP2006155518A (en) | 2004-12-01 | 2004-12-01 | Geometric correction method and device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006155518A true JP2006155518A (en) | 2006-06-15 |
Family
ID=36633697
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004348913A Pending JP2006155518A (en) | 2004-12-01 | 2004-12-01 | Geometric correction method and device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006155518A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008289008A (en) * | 2007-05-18 | 2008-11-27 | Toyota Motor Corp | Geometrical converter of image data, display device |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09247540A (en) * | 1996-03-01 | 1997-09-19 | Olympus Optical Co Ltd | Picture element defect correcting device |
JP2000003437A (en) * | 1998-06-16 | 2000-01-07 | Fuji Photo Film Co Ltd | Aberration correcting method, electronic still camera and image processing system |
JP2000244823A (en) * | 1999-02-24 | 2000-09-08 | Fuji Photo Film Co Ltd | Device for concealing defective pixel of imaging device |
JP2000287134A (en) * | 1999-03-30 | 2000-10-13 | Fuji Film Microdevices Co Ltd | Image processor and image processing method |
JP2002016842A (en) * | 2000-06-30 | 2002-01-18 | Mitsubishi Electric Corp | Defect-pixel sensing device and recording medium with recorded defect-pixel sensing program |
JP2002094931A (en) * | 2000-09-14 | 2002-03-29 | Sharp Corp | Image processing unit |
JP2002526993A (en) * | 1998-09-30 | 2002-08-20 | インフィネオン テクノロジース アクチエンゲゼルシャフト | Method and apparatus for correcting defective pixels of an image sensor |
JP2003101737A (en) * | 2001-03-05 | 2003-04-04 | Ricoh Co Ltd | Image-processing apparatus and image-reading apparatus |
JP2004032803A (en) * | 1998-08-31 | 2004-01-29 | Hitachi Software Eng Co Ltd | Image synthesizing apparatus |
JP2004064512A (en) * | 2002-07-30 | 2004-02-26 | Sony Corp | Method and device for detecting defective pixel, and image pickup device |
JP2004128546A (en) * | 2002-09-30 | 2004-04-22 | Fuji Photo Film Co Ltd | Image display method and apparatus |
-
2004
- 2004-12-01 JP JP2004348913A patent/JP2006155518A/en active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09247540A (en) * | 1996-03-01 | 1997-09-19 | Olympus Optical Co Ltd | Picture element defect correcting device |
JP2000003437A (en) * | 1998-06-16 | 2000-01-07 | Fuji Photo Film Co Ltd | Aberration correcting method, electronic still camera and image processing system |
JP2004032803A (en) * | 1998-08-31 | 2004-01-29 | Hitachi Software Eng Co Ltd | Image synthesizing apparatus |
JP2002526993A (en) * | 1998-09-30 | 2002-08-20 | インフィネオン テクノロジース アクチエンゲゼルシャフト | Method and apparatus for correcting defective pixels of an image sensor |
JP2000244823A (en) * | 1999-02-24 | 2000-09-08 | Fuji Photo Film Co Ltd | Device for concealing defective pixel of imaging device |
JP2000287134A (en) * | 1999-03-30 | 2000-10-13 | Fuji Film Microdevices Co Ltd | Image processor and image processing method |
JP2002016842A (en) * | 2000-06-30 | 2002-01-18 | Mitsubishi Electric Corp | Defect-pixel sensing device and recording medium with recorded defect-pixel sensing program |
JP2002094931A (en) * | 2000-09-14 | 2002-03-29 | Sharp Corp | Image processing unit |
JP2003101737A (en) * | 2001-03-05 | 2003-04-04 | Ricoh Co Ltd | Image-processing apparatus and image-reading apparatus |
JP2004064512A (en) * | 2002-07-30 | 2004-02-26 | Sony Corp | Method and device for detecting defective pixel, and image pickup device |
JP2004128546A (en) * | 2002-09-30 | 2004-04-22 | Fuji Photo Film Co Ltd | Image display method and apparatus |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008289008A (en) * | 2007-05-18 | 2008-11-27 | Toyota Motor Corp | Geometrical converter of image data, display device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4054184B2 (en) | Defective pixel correction device | |
US8682068B2 (en) | Image processing apparatus, image processing method, and program | |
JP5631325B2 (en) | Defect detection method for imaging apparatus and imaging apparatus | |
JP4388909B2 (en) | Pixel defect correction device | |
US8253828B2 (en) | Image capture device including edge direction determination unit, and image processing method for the same | |
JP5060535B2 (en) | Image processing device | |
JP4985403B2 (en) | Image processing system and image processing program | |
US20090207271A1 (en) | Image Processor Correcting Color Misregistration, Image Processing Program, Image Processing Method, and Electronic Camera | |
US20130021497A1 (en) | Image pickup apparatus and dark current correction method therefor | |
JP5169994B2 (en) | Image processing apparatus, imaging apparatus, and image processing method | |
JP2010081511A (en) | Imaging device, method of changing set value, and program | |
US9092845B2 (en) | Image processing device with defect correcting circuit and image processing method | |
JP2010199712A (en) | Method and apparatus of supporting calibration of in-vehicle camera device, and in-vehicle camera device | |
JP2010021858A (en) | Pixel defect correction device | |
JP4331120B2 (en) | Defective pixel detection method | |
JP5309940B2 (en) | Image processing apparatus and imaging apparatus | |
JP2010258620A (en) | Image processor, image processing method, and program | |
JP2010068329A (en) | Imaging apparatus | |
JP2006166194A (en) | Pixel defect detection circuit and pixel defect detection method | |
JP2006155518A (en) | Geometric correction method and device | |
JP2010056817A (en) | Imaging apparatus | |
JP2011114473A (en) | Pixel defect correction device | |
JP4397869B2 (en) | Smear correction method and smear correction circuit | |
JP2008148115A (en) | Image defect correction system of imaging device using direction detection | |
JP2006148748A (en) | Pixel defect correcting device and pixel defect correcting method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070515 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20091215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100204 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100323 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20100803 |