JP4809190B2 - Signal processing apparatus and change information generation method - Google Patents
Signal processing apparatus and change information generation method Download PDFInfo
- Publication number
- JP4809190B2 JP4809190B2 JP2006299484A JP2006299484A JP4809190B2 JP 4809190 B2 JP4809190 B2 JP 4809190B2 JP 2006299484 A JP2006299484 A JP 2006299484A JP 2006299484 A JP2006299484 A JP 2006299484A JP 4809190 B2 JP4809190 B2 JP 4809190B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- change
- change information
- information
- original
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000008859 change Effects 0.000 title claims description 232
- 238000012545 processing Methods 0.000 title claims description 113
- 238000000034 method Methods 0.000 title claims description 53
- 238000012546 transfer Methods 0.000 claims description 47
- 238000001514 detection method Methods 0.000 claims description 32
- 230000008569 process Effects 0.000 claims description 30
- 230000003287 optical effect Effects 0.000 claims description 12
- 238000005259 measurement Methods 0.000 claims description 7
- 230000010354 integration Effects 0.000 claims 1
- 230000003068 static effect Effects 0.000 description 18
- 230000004044 response Effects 0.000 description 14
- 238000003672 processing method Methods 0.000 description 12
- 230000006866 deterioration Effects 0.000 description 9
- 230000014509 gene expression Effects 0.000 description 6
- 230000004075 alteration Effects 0.000 description 4
- 239000002131 composite material Substances 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000007480 spreading Effects 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Description
本発明は、信号処理装置および変化情報の生成方法に関する。 The present invention relates to a signal processing apparatus and a change information generation method.
従来より、信号の計測、観測、記録の過程において、信号処理システムの応答特性またはノイズの影響によって、理想信号である真の入力信号を正確に観測および/または記録をすることができない場合が多い。そのため、観測および/または記録された出力信号から入力信号を得ようとするとき、信号処理システムの応答特性等を利用して、出力信号を逆変換等して入力信号へ復元するなどの手法が用いられている。 Conventionally, in the process of signal measurement, observation, and recording, it is often impossible to accurately observe and / or record a true input signal, which is an ideal signal, due to the response characteristics of a signal processing system or the influence of noise. . For this reason, when an input signal is to be obtained from an observed and / or recorded output signal, there is a technique such as using the response characteristics of the signal processing system to reverse-convert the output signal into an input signal. It is used.
信号復元アルゴリズムとしては、ウィーナフィルタ、一般逆フィルタ、反復法などが古くから知られている。それらは、信号処理システムの応答特性等による劣化を伝達関数で表し、信号処理システムを通して得られる観測信号である出力信号から伝達関数を用いて劣化の無い入力信号に復元するアルゴリズムである(非特許文献1)。 As a signal restoration algorithm, a Wiener filter, a general inverse filter, an iterative method and the like have been known for a long time. These are algorithms that express the degradation due to the response characteristics of the signal processing system as a transfer function, and restore the input signal without degradation using the transfer function from the output signal, which is an observation signal obtained through the signal processing system (non-patent) Reference 1).
取り扱う信号が画像信号の場合、ぶれ画像の復元が最もわかり易い例題となる。たとえば理想信号である入力画像はぶれの無い画像となる。そして撮影時のぶれは、画像を劣化させる信号処理システムの応答特性となる。すると、出力信号として劣化(変化)信号であるぶれ画像が得られる。撮影時のぶれ情報および上述の信号復元アルゴリズムを用いると、ぶれ画像は、ぶれの無い画像へと復元する(非特許文献2)。たとえば特許文献1は、ぶれ情報を検出した後、伝達関数を求めてぶれ画像の復元を行なう技術を提案している。
When the signal to be handled is an image signal, restoration of a blurred image is the easiest example. For example, an input image that is an ideal signal is an image without blurring. The blur at the time of photographing becomes a response characteristic of the signal processing system that deteriorates the image. Then, a blurred image that is a deterioration (change) signal is obtained as an output signal. When the blur information at the time of shooting and the above-described signal restoration algorithm are used, the blurred image is restored to an image without blur (Non-Patent Document 2). For example,
信号復元を行なおうとした場合、重要なことは、出力信号と信号処理システムの応答特性等の関係が正確に取得されることである。非特許文献1および2では、信号処理システムの応答特性である劣化関数が正確であることを前提として、劣化信号または劣化画像から劣化の無い理想信号へ復元する手法を解説している。
When attempting to perform signal restoration, it is important that the relationship between the output signal and the response characteristics of the signal processing system is accurately acquired.
しかしながら、出力信号と信号処理システムの応答特性等の関係を、正確に取得することは難しく、必ず誤差またはノイズが含まれる。よって、特許文献1記載の手ぶれ画像復元技術を採用しても、ぶれ情報の検出精度が低い場合、または撮影画像にノイズがある場合等は、ぶれ情報の検出誤差またはノイズの影響を受けるため、良好な復元結果を得ることができない。ここで、ぶれ情報の検出精度が低い場合とは、たとえば手ぶれを検出する角速度センサ等の検出精度が低い場合である。また、撮影画像にノイズがある場合とは、たとえば撮影されたぶれ画像にホワイトノイズが入る場合である。
However, it is difficult to accurately obtain the relationship between the output signal and the response characteristics of the signal processing system, and errors or noise are always included. Therefore, even if the camera shake image restoration technique described in
そこで、本発明の課題は、画像等の信号が変化する要因となる変化情報を利用して信号を復元する際に、その復元結果を向上させることである。 Therefore, an object of the present invention is to improve a restoration result when restoring a signal using change information that causes a change in a signal such as an image.
上記課題を解決するため、本発明の信号処理装置は、信号の計測、観測、および/または記録の過程で、変化した観測信号である出力信号から、変化する前の信号もしくは本来取得されるべきであった理想信号、またはその近似信号(以下、入力信号という)への復元を行なう処理部を有し、処理部は、1種または複数種の既知の変化関数を用いて、出力信号をさらに1回または複数回変化させた複数回変化信号に加工し、既知の変化関数および、入力信号から出力信号へと変化する要因となる元変化情報から得られる、加工済み元変化情報を利用して復元を行う。 In order to solve the above-described problems, the signal processing apparatus of the present invention should be acquired from the output signal, which is a changed observation signal, in the process of signal measurement, observation, and / or recording, or the signal before change or originally acquired. And a processing unit that restores the ideal signal or its approximate signal (hereinafter referred to as an input signal). The processing unit further outputs the output signal using one or more types of known change functions. Processed into multiple change signals that have been changed once or multiple times, using processed change information obtained from known change functions and original change information that causes changes from input signals to output signals Perform restoration.
この発明によれば、得られた加工済み元変化情報は、誤差またはノイズの影響が軽減されている。よって、加工済み元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。 According to the present invention, the effect of error or noise is reduced in the obtained processed original change information. Therefore, when a signal such as an image is restored using the processed original change information, the restoration result can be improved.
他の発明に係る信号処理装置は、上述した発明に加え、加工済み元変化情報は、元変化情報から算出された伝達関数と、既知の変化関数とを重畳積分して得られる総合変化関数であることとしている。この構成によって、加工済み元変化情報の一種である総合変化関数を設定することができる。 In addition to the above-described invention, the signal processing apparatus according to another invention is a total change function obtained by superimposing a transfer function calculated from the original change information and a known change function. It is supposed to be. With this configuration, it is possible to set a comprehensive change function that is a kind of processed original change information.
他の発明に係る信号処理装置は、上述した発明に加え、信号処理装置は、外乱を検出する検出部を有し、加工済み元変化情報は、検出部で検出された外乱に起因する誤差またはノイズの影響、および/または信号処理装置に生来的に存するものに起因して生ずる誤差またはノイズの影響を軽減するためのものとしている。この構成によって、信号処理装置が行う信号の計測、観測、記録の過程における動的な変化情報、および/または信号処理装置に生来的に存するものに起因して生ずる静的な変化情報、の影響を軽減することができる。 In addition to the above-described invention, the signal processing device according to another invention includes a detection unit that detects a disturbance, and the processed original change information includes an error caused by the disturbance detected by the detection unit, or It is intended to mitigate the effects of noise and / or errors or noise caused by what is inherent in the signal processing apparatus. With this configuration, the influence of dynamic change information in the process of signal measurement, observation, and recording performed by the signal processing device, and / or static change information caused by something inherent in the signal processing device. Can be reduced.
他の発明に係る信号処理装置は、上述した発明に加え、処理部は、既知の変化関数として、元変化情報に基づく変化関数を用いる。この構成によって、元変化情報の誤差の影響を主に軽減することができる。 In a signal processing device according to another invention, in addition to the above-described invention, the processing unit uses a change function based on the original change information as a known change function. With this configuration, the influence of the error of the original change information can be mainly reduced.
他の発明に係る信号処理装置は、上述した発明に加え、処理部は、復元処理対象となる信号に対して逆変換処理または逆畳み込み演算処理を行う。この構成によって、たとえば、伝達関数の逆変換を行うことによる信号の復元といった、ウィナフィルタ、一般逆フィルタまたは反復法等の既存の成熟した技術によって、安定した信号の復元を行うことができる。 In a signal processing device according to another invention, in addition to the above-described invention, the processing unit performs an inverse transformation process or a deconvolution operation process on a signal to be restored. With this configuration, for example, stable signal restoration can be performed by an existing mature technique such as a Wiener filter, a general inverse filter, or an iterative method, such as signal restoration by performing inverse transformation of a transfer function.
他の発明に係る信号処理装置は、上述した発明に加え、信号を画像としている。これによって、カメラの手ぶれによる画像変化が生じても、劣化等の変化が生じた出力画像から、劣化等の変化の無い入力画像へ復元を行うことができる。 In addition to the above-described invention, a signal processing apparatus according to another invention uses a signal as an image. As a result, even if an image change due to camera shake occurs, it is possible to restore from an output image in which a change such as deterioration has occurred to an input image in which there is no change such as deterioration.
他の発明に係る信号処理装置は、上述した発明に加え、元変化情報は、画像のぶれ情報、画像の焦点情報、光学情報のいずれか1つ以上を含んでいる。これによって、元変化情報をぶれ情報とした場合、ぶれ画像の復元を行なう際、ぶれ情報の誤差またはノイズの影響を軽減することができる。また元変化情報を画像の焦点情報とした場合、ピンボケ画像の復元を行なう際、画像の焦点情報の誤差またはノイズの影響を軽減することができる。さらに元変化情報を光学情報とした場合、たとえば、光学収差による変化画像の復元を行なう際、光学情報の誤差またはノイズの影響を軽減することができる。また、これらの情報のいずれか2つ以上を元変化情報に含ませることで、たとえば、ぶれとピンボケがある変化画像を復元する際、ぶれ情報および画像の焦点情報の誤差またはノイズの影響を軽減することができる。 In a signal processing device according to another invention, in addition to the above-described invention, the original change information includes one or more of image blur information, image focus information, and optical information. Accordingly, when the original change information is the blur information, it is possible to reduce the influence of the blur information error or noise when restoring the blurred image. Further, when the original change information is the focus information of the image, it is possible to reduce the influence of the error or noise of the focus information of the image when restoring the out-of-focus image. Further, when the original change information is optical information, for example, when restoring a changed image due to optical aberration, it is possible to reduce the influence of errors or noise in the optical information. In addition, by including any two or more of these pieces of information in the original change information, for example, when restoring a change image with blurring and blurring, the influence of error or noise in blur information and image focus information is reduced. can do.
上記課題を解決するため、本発明の変化情報の生成方法は、所定の信号から変化した変化信号へと移行する際に得られる、変化する要因となる元変化情報に対し、1種または複数種の既知のデータを利用している。 In order to solve the above-described problem, the change information generation method of the present invention provides one or more types of original change information that is a factor of change obtained when shifting from a predetermined signal to a changed signal. Using known data.
この発明によれば、生成された元変化情報は、誤差またはノイズの影響が軽減されている。よって、生成された元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。 According to the present invention, the generated original change information is less affected by errors or noise. Therefore, when a signal such as an image is restored using the generated original change information, the restoration result can be improved.
上記課題を解決するため、本発明の変化情報の生成方法は、所定の信号から変化した変化信号へと移行する際に得られる、変化する要因となる元変化情報に対し、1種または複数種の既知のデータを重畳積分し、加え、またはかけ合せている。 In order to solve the above-described problem, the change information generation method of the present invention provides one or more types of original change information that is a factor of change obtained when shifting from a predetermined signal to a changed signal. Are integrated, added, or multiplied.
この発明によれば、生成された元変化情報は、未知量の誤差またはノイズを含む元変化情報と、変化情報としての誤差またはノイズを全く含まないものと扱うことのできる既知のデータとが、その構成要素となる。そうすることで、元変化情報が含有する誤差またはノイズを小さくする、またはその誤差またはノイズの偏在を緩和して、大きな誤差またはノイズの影響力を弱めることができることから、生成された元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。 According to the present invention, the generated original change information includes original change information including an unknown amount of error or noise, and known data that can be treated as including no error or noise as change information. That component. By doing so, the error or noise contained in the original change information can be reduced, or the influence of the large error or noise can be reduced by reducing the uneven distribution of the error or noise. When a signal such as an image is restored using this, the restoration result can be improved.
上記課題を解決するため、本発明の他の変化情報の生成方法は、所定の信号から変化した変化信号へと移行する際に得られる、変化する要因となる元変化情報と、1種または複数種の既知のデータと、その既知のデータを利用して変化信号をさらに変化させて得られる複数回変化信号とを生成し、元変化情報と既知のデータとを重畳積分し、得られた重畳積分値を複数回変化信号から所定の信号へと復元するための加工済み元変化情報としている。 In order to solve the above-described problem, another change information generation method of the present invention includes original change information, which is a factor of change, and one or more types obtained when shifting from a predetermined signal to a changed signal. Generate known change data and multiple change signals obtained by further changing the change signal using the known data, and superimposing and integrating the original change information and the known data The integrated value is processed original change information for restoring the change signal from the change signal to a predetermined signal a plurality of times.
この発明によれば、生成された加工済み元変化情報は、未知量の誤差またはノイズを含む元変化情報と、変化情報としての誤差またはノイズを全く含まない既知のデータとが、その構成要素となる。そうすることで、元変化情報が含有する誤差またはノイズを小さくする、またはその誤差またはノイズの偏在を緩和して、大きな誤差またはノイズの影響力を弱めることができる。また、既知のデータを利用して変化信号をさらに変化させて複数回変化信号とすることで、変化信号に含まれるノイズの偏在を緩和することができる。そのため、生成された複数回変化信号と生成された加工済み元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。 According to this invention, the generated processed original change information includes original change information including an unknown amount of error or noise, and known data including no error or noise as change information, and its constituent elements Become. By doing so, the error or noise contained in the original change information can be reduced, or the uneven distribution of the error or noise can be reduced, and the influence of the large error or noise can be reduced. Further, by using the known data to further change the change signal to make the change signal a plurality of times, the uneven distribution of noise included in the change signal can be reduced. Therefore, when a signal such as an image is restored using the generated multiple-time change signal and the generated processed original change information, the restoration result can be improved.
本発明では、画像等の信号が変化する要因となる変化情報を利用して信号を復元する際に、その復元結果を向上させることができる。 In the present invention, when a signal is restored using change information that causes a signal such as an image to change, the restoration result can be improved.
以下、本発明の実施の形態に係る変化情報の生成方法を採用した、本発明の実施の形態に係る信号処理装置を、図を参照しながら説明する。なお、この信号処理装置は、民生用カメラとしているが、監視用カメラ、テレビ用カメラ、ビデオカメラ、内視鏡カメラ、等他の用途のカメラとしたり、望遠鏡、顕微鏡、更にはNMR撮影等の画像診断装置等、カメラ以外の機器、たとえば信号を計測する装置にも適用できる。 Hereinafter, a signal processing apparatus according to an embodiment of the present invention that employs a change information generation method according to an embodiment of the present invention will be described with reference to the drawings. Although this signal processing device is a consumer camera, it may be a camera for other uses such as a surveillance camera, a television camera, a video camera, an endoscopic camera, a telescope, a microscope, and further an NMR photographing. The present invention can also be applied to devices other than cameras, such as diagnostic imaging devices, such as devices that measure signals.
図1には信号処理装置1の構成の概要を示している。信号処理装置1は、人物または風景等の画像を撮影する撮影部2と、その撮影部2を駆動する制御系部3と、後述する変化関数の加工処理および撮影部2で撮影された画像信号の処理を行なう処理部4と、更に、処理部4で処理された画像信号または必要に応じて変化情報を記録する記録部5と、撮影時の画像変化の変化情報となる動的変化情報を検出する検出部6と、静的変化情報を保存する静的変化情報保存部7を有する。なお、信号処理装置1が画像信号以外のものを対象として適用される場合、撮影部2は、音声信号等の種々の入力信号を受信する受信部2となる(以下では、適宜、撮影部2と受信部2とを使い分けることとする。)。
FIG. 1 shows an outline of the configuration of the
撮影部2は、撮影光学系または光学系を通過した光を電気信号に変換するCCDまたはC−MOS等の撮像素子と、撮像素子で変換された電気信号を画像信号に変換する回路部などを備える部分である。制御系部3は、撮影部2、処理部4、記録部5、検出部6、および静的変化情報保存部7など、信号処理装置1の各部を制御するものである。
The photographing
処理部4は、画像処理プロセッサで構成されており、ASIC(Application Specific Integrated Circuit)のようなハードウェアで構成されている。あるいは、ASICのようなハードウェアとして構成されるのではなく、ソフトウェアで処理する構成としても良い。処理部4は撮影部2で撮影した画像データを処理する。この処理の際に、動的変化情報および静的変化情報から信号(画像)復元処理のための総合変化関数を算出し、その総合変化関数を利用して劣化(変化)画像の復元処理を行なう。また処理部4は、検出する手ぶれ等の振動検出のためのサンプリング周波数を発生させていると共にそのサンプリング周波数を検出部6に供給している。さらに処理部4は、振動検出の開始と終了を制御している。なお、信号処理装置1が画像処理装置以外のものとして適用される場合、受信部2の受信感度を入力信号の大きさ等によって変えることができる。
The processing unit 4 is configured by an image processing processor, and is configured by hardware such as an ASIC (Application Specific Integrated Circuit). Or it is good also as a structure processed not by hardware like ASIC but by software. The processing unit 4 processes the image data photographed by the photographing
記録部5は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段、またはDVD等の光記録手段等を採用しても良い。記録部5には必要なデータ、たとえば、変化後のまだ復元処理されていない画像信号、処理された画像信号、変化情報等が保存され、記録される。
The
検出部6は、計測、観測、記録の過程で生じる動的な変化情報を検出するものである。たとえば、図2に示すように、信号処理装置1の光軸であるZ軸に対して垂直方向となるX軸、Y軸の回りの速度を検出するものである。撮影時に手ぶれがある場合、撮影された画像はぶれた画像となる。このような手ぶれは、X方向、Y方向、Z方向の各方向への移動、Z軸回りの回動も生ずるが、各変動によって最も大きな影響を受けるのは、Y軸回りの回転とX軸回りの回転である。これら2つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図2のX軸回りとY軸回りのぶれの検出のために、PITCH(上下(Y)方向の動き)検出用センサ、YAW(左右(X)方向の動き)検出用センサ、およびROLL(左右(X)方向への傾き)検出センサの3つを用いている。しかし、より完全を期すためZ軸回りの角速度センサをさらに付加したり、X方向またはY方向への移動を検出するセンサを、さらに付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。なお、信号処理装置1が画像信号以外のものを対象として適用され、受信特性または信号処理システムの応答特性などが、たとえば温度または湿度に影響を受ける場合には、検出部6には温度計または湿度計を含ませることができる。
The
静的変化情報保存部7は、静的な変化情報を保存している。この静的な変化情報は、たとえば、光学系の収差などによる点像関数等の、信号処理装置1に生来的に存するものに起因するものである。信号処理装置1が画像信号以外の信号を対象として適用される場合は、信号処理システム全体のインパルス応答など、あらかじめわかっている応答特性を静的変化情報保存部7に保存することができる。さらに、検出部6で検出される温度、湿度等が受信部2の受信特性またはシステム全体の特性を変化させることもあるので、温度特性または湿度特性等を静的な変化情報として用いることができる。
The static change
次に、以上のように構成された本実施の形態に係る信号処理装置1の処理部4における、変化信号から復元用データを作成する方法の概要を説明する。図3は、入力信号in、観測系の伝達関数g、ノイズn、および観測される出力信号outの関係を示す。入力信号inは、観測系の受信部(撮影部2)で受信されて出力信号outとして出力されている。受信から出力の間に劣化(変化)等が生じなければ出力信号outは入力信号inと完全に等しくなる。しかし、実際には入力信号の変動に対する追随遅れ等によって、必ず出力信号outに変化が生じる。このような劣化(変化)を信号処理システムの伝達関数gとする。またその変化に加えて、さらにノイズn等も入り込む。すなわち出力信号outは入力信号inと伝達関数gの畳み込みに、ノイズnが加わったものとなっている(式(1))。
out = in*g+n・・・・・(1)
*は畳み込み演算を表す。以下同じ。
Next, an outline of a method for creating restoration data from a change signal in the processing unit 4 of the
out = in * g + n (1)
* Represents a convolution operation. same as below.
本実施の形態において、入力信号inは、本来取得されるべきであった理想画像に相当する。また、出力信号outは、信号の計測、観測、および/または記録の過程で変化した観測信号(撮影画像)に相当する。伝達関数gは、元変化情報に対応する。ここで、伝達関数gは何らかの方法で取得されていなければ、出力信号outから入力信号inあるいはその近似信号を得ることはできない。そこで、光学系の収差などによる点像関数のように、元変化情報(伝達関数g)のうち、予め判明している静的変化関数gsについては、上述の静的変化情報保存部7から取得する。また、元変化情報のうち、入力信号inの取得時の外乱による動的変化関数gdについては、検出部6で外乱を検出して処理部4で算出して取得する。動的変化関数gdは、たとえば検出部6が有する角速度センサによって、手ぶれが軌跡のデータとして検出され、その軌跡のデータに基づき処理部4で算出して取得される。このとき、観測系全体の伝達関数gは、静的変化関数gsと動的変化関数gdの畳み込みとなる(式(2))。ただし信号処理装置1は、ぶれによる画像変化のみを問題とする場合、光学収差等の静的変化情報は考慮せず、(3)式のように動的変化関数gdのみを考慮して伝達関数gを求めることができる。以下、(3)式によって得られる伝達関数を、gと表すこととする。
g=gs*gd・・・・・(2)
g=gd・・・・・・・・(3)
In the present embodiment, the input signal in corresponds to an ideal image that should have been originally acquired. The output signal out corresponds to an observation signal (photographed image) that has changed in the process of signal measurement, observation, and / or recording. The transfer function g corresponds to the original change information. Here, unless the transfer function g is acquired by any method, the input signal in or its approximate signal cannot be obtained from the output signal out. Therefore, the static change function gs that has been known in advance among the original change information (transfer function g), such as a point spread function due to aberrations of the optical system, is obtained from the static change
g = gs * gd (2)
g = gd (3)
ここで、上述のように検出部6における外乱の検出の際には、通常誤差が生じ、またノイズが検出結果に含まれる。よって、伝達関数gは、本来の伝達関数からの誤差、またはノイズを含むこととなる。この誤差またはノイズの影響が小さければ小さいほど、復元処理の結果が向上する。以下に、その誤差またはノイズの影響を軽減する方法を述べる。
Here, as described above, when a disturbance is detected by the
<第1の処理方法>
処理部4において、既知の変化関数の一種である元変化情報による伝達関数gをそのまま使う場合の復元用データの作成方法を図1、図3および図4を用いて説明する。この例では、伝達関数gを第1変化関数g_1として扱う。入力信号inは撮影部2で撮影される。撮影された画像信号は、出力信号outとして処理部4へ送られる。元変化情報は撮影の際のぶれ情報とし、検出部6で角速度センサを用いて手ぶれを撮影時のぶれの軌跡の情報として検出し、伝達関数g、すなわち第1変化関数g_1を算出し処理部4へ送る。
<First processing method>
A method of creating restoration data when the processing unit 4 uses the transfer function g based on the original change information which is a kind of known change function as it is will be described with reference to FIGS. 1, 3 and 4. FIG. In this example, the transfer function g is treated as the first change function g_1. The input signal in is photographed by the photographing
復元用データ作成シーケンスでは、次の処理を行なう。出力信号outを既知の変化関数で変化させるための第1変化関数g_1を算出する(ステップS101)。ここで第1変化関数g_1として、伝達関数gを採用する。次に、出力信号outを第1変化関数g_1で、さらに変化させて1回変化信号を得る。そのため、出力信号outと第1変化関数g_1との畳み込み演算(式(4))を行い、1回変化信号out_1を算出する(ステップS102)。
out_1=out*g_1・・・・・(4)
In the restoration data creation sequence, the following processing is performed. A first change function g_1 for changing the output signal out with a known change function is calculated (step S101). Here, the transfer function g is employed as the first change function g_1. Next, the output signal out is further changed by the first change function g_1 to obtain a change signal once. Therefore, a convolution operation (equation (4)) between the output signal out and the first change function g_1 is performed to calculate a change signal out_1 once (step S102).
out_1 = out * g_1 (4)
次に元変化情報である伝達関数gと1回変化情報である第1変化関数g_1との畳み込み演算(式(5))を行い、加工済み元変化情報の一種である総合伝達関数g_allを算出する(ステップS103)。得られた1回変化信号out_1を復元処理対象となる信号とし、総合伝達関数g_allを用いて復元処理を行なう(ステップS104)。
g_all=g*g_1・・・・・(5)
Next, a convolution operation (formula (5)) is performed on the transfer function g, which is the original change information, and the first change function g_1, which is the one-time change information, and an overall transfer function g_all, which is a type of processed original change information, is calculated. (Step S103). The obtained once-change signal out_1 is used as a signal to be restored, and the restoration process is performed using the total transfer function g_all (step S104).
g_all = g * g_1 (5)
これを図5を用いて更に説明する。図5(A)のように入力信号inから1回変化信号out_1が得られる。そして復元処理では、図5(B)のような入出力関係があるとして復元処理を行なう。すなわち上述の式(1)、(4)および(5)から、以下の式(6)が導かれる。
out_1=out*g_1=(in*g+n)*g_1=in*g_all+n*g_1・・・・・(6)
This will be further described with reference to FIG. As shown in FIG. 5A, the change signal out_1 is obtained once from the input signal in. In the restoration process, the restoration process is performed assuming that there is an input / output relationship as shown in FIG. That is, the following expression (6) is derived from the above expressions (1), (4), and (5).
out_1 = out * g_1 = (in * g + n) * g_1 = in * g_all + n * g_1 (6)
ここで、伝達関数であるgと総合伝達関数g_allを比較する。伝達関数gは検出部6での検出誤差を含んでいるため、未知の正しい伝達関数と、得られた伝達関数gの間には誤差が存在する。その誤差をδとし、伝達関数gに含まれる誤差δの割合をeとする。eは、式(7)によって導かれる。1回変化信号out_1は、出力信号outを、既知、すなわち得られた伝達関数gである第1変化関数g_1で変化させたものである。この変化がなされる際には誤差は存在しない。よって、総合伝達関数g_allに含まれる誤差はδのままである。総合伝達関数g_allに含まれる誤差の割合をe_allとすれば、式(8)が成立する。すると、e_allが含有する誤差δの割合は、eのそれに比べて小さくなる。したがって、出力信号outを更に変化させた信号out_1と、総合伝達関数g_allの間の精度は向上している。したがって、総合伝達関数g_allを用いて復元処理を行うことで元変化情報の誤差の影響を軽減することができる。
e=|δ|/|g|・・・・・(7)
e_all=|δ|/|g_all|=|δ|/|g*g_1|・・・・・(8)
Here, the transfer function g and the total transfer function g_all are compared. Since the transfer function g includes a detection error in the
e = | δ | / | g | (7)
e_all = | δ | / | g_all | = | δ | / | g * g_1 | (8)
また、式(1)と式(6)のノイズ成分について比較すると、1回変化信号out_1のノイズ成分n*g_1はnが変化し、拡散することになるため、出力信号outに含まれるノイズnの割合に比べ、1回変化信号out_1に含まれるノイズの割合は低くなっている。したがって、復元処理におけるノイズ成分の影響を低減することができる。よって、これを用いて復元処理を行うことで元変化情報の誤差またはノイズの影響を軽減することができるため、復元結果を向上させることができる。出力信号outの変化は、動的変化情報であるぶれを対象としたが、静的変化情報である、信号処理システム全体のインパルス応答、または、動的変化情報と静的変化情報の両方から伝達関数gを得ても良い。 Further, when comparing the noise components of Expression (1) and Expression (6), since the noise component n * g_1 of the once-change signal out_1 changes and diffuses, the noise n included in the output signal out The ratio of noise included in the once-change signal out_1 is lower than the ratio of. Therefore, the influence of noise components in the restoration process can be reduced. Therefore, by performing restoration processing using this, it is possible to reduce the influence of the error or noise of the original change information, so that the restoration result can be improved. The change of the output signal out is targeted for the shake that is the dynamic change information, but is transmitted from the impulse response of the entire signal processing system, which is the static change information, or both the dynamic change information and the static change information The function g may be obtained.
<第2の処理方法>
第1の実施の形態では、第1変化関数g_1として、既知の変化関数である元変化情報に基づく伝達関数gをそのまま使用した。しかし、元変化情報による伝達関数gを加工または利用したものを使用しても良い。その場合の処理を図4を用いて説明する。たとえば、元変化情報をぶれとした場合、ぶれは軌跡と重みで表現される。そこで、検出した軌跡と重みのうち、ぶれの軌跡をそのまま使い、重みを変えて重みが一定となるぶれとして第1変化関数g_1を算出し(ステップS101)、それを用いて1回変化信号out_1を算出し(ステップS102)、総合伝達関数g_allの算出を行い(ステップS103)、1回変化信号out_1を復元処理対象となる信号とし、逆変換処理等の復元処理(ステップS104)を行なっても良い。元変化情報として、信号処理システム全体のインパルス応答を対象とする場合は、第1変化関数g_1をインパルス応答の長さを変えずに一定出力となる応答特性としても良い。このような処理は、前記重みを一定としたことと同等である。
<Second processing method>
In the first embodiment, the transfer function g based on the original change information, which is a known change function, is used as it is as the first change function g_1. However, a transfer function g based on the original change information may be processed or used. Processing in that case will be described with reference to FIG. For example, when the original change information is shaken, the shake is expressed by a trajectory and a weight. Therefore, among the detected trajectories and weights, the blur trajectory is used as it is, and the first change function g_1 is calculated as a shake in which the weight becomes constant by changing the weight (step S101), and using the first change function out_1 (Step S102), the total transfer function g_all is calculated (step S103), and the once-change signal out_1 is set as a signal to be restored, and restoration processing such as inverse transformation processing (step S104) is performed. good. When the impulse response of the entire signal processing system is targeted as the original change information, the first change function g_1 may be a response characteristic that provides a constant output without changing the length of the impulse response. Such processing is equivalent to making the weights constant.
その他、検出部6においてぶれを検出した場合、検出したぶれの振動をフーリエ変換等して周波数分解し、予め検出部6の検出精度が低いと判明している周波数帯域がある場合、検出したぶれの振動のうち、その帯域の振動を利用して第1変化関数g_1を作成することで、検出誤差の大きい部分について効果的に誤差要因の影響を軽減することができる。たとえば、ぶれ検出センサのオフセット電圧が不安定な場合、それが信号処理システムの伝達関数の誤差要因となるが、検出したぶれの振動を周波数分解し、その直流成分から第1変化関数g_1を算出することで、オフセット電圧の不安定による誤差要因の影響を軽減することができる。
In addition, when a shake is detected in the
<第3の処理方法>
出力信号outにノイズがあり、そのノイズが復元結果に大きく影響を及ぼす場合は、第1変化関数として信号処理システムの伝達関数gとは関係無く、ノイズを周囲へ分散させる作用を持つ伝達関数とするのが好ましい。画像信号の場合、たとえば図6(A)に網掛け部として示す特定の画素のデータを、隣接する8つの周辺の画素に広げる(図6(B))、または、4つの斜め方向に隣接する周辺の画素に広げる(図6(C))、さらに4つの縦横方向に隣接する周辺の画素に広げる(図6(D))という作用のいずれかを持つ伝達関数を第1変化関数g_1とする。この方法では、画像の撮影時等にノイズがあり、そのノイズが特定の画素に偏在している場合に、そのノイズに起因する誤差の偏在を緩和することによって、その誤差またはノイズの影響を軽減することができる。
<Third processing method>
When there is noise in the output signal out and the noise greatly affects the restoration result, the first change function is independent of the transfer function g of the signal processing system. It is preferable to do this. In the case of an image signal, for example, data of a specific pixel shown as a shaded portion in FIG. 6A is spread to eight adjacent peripheral pixels (FIG. 6B), or adjacent in four diagonal directions. A transfer function having one of the functions of spreading to peripheral pixels (FIG. 6C) and further spreading to peripheral pixels adjacent in four vertical and horizontal directions (FIG. 6D) is defined as a first change function g_1. . In this method, when there is noise when shooting an image and the noise is unevenly distributed to a specific pixel, the influence of the error or noise is reduced by reducing the uneven distribution of the error due to the noise. can do.
<第4の処理方法>
元変化情報に誤差があるため、それから得られた伝達関数gに誤差があり、また、出力信号outにノイズがある場合において、その誤差とノイズの両方の影響を軽減させる処理の例を図7を用いて説明する。まず、元変化関数となる伝達関数gの誤差の影響を軽減させるための第1変化関数g_1を算出し(ステップS201)、これを用いて1回変化信号out_1を算出する(ステップS202)。ここまでは、第1の実施の形態または第2の実施の形態と同じである。つまり、式(1)または式(6)を計算する。
<Fourth processing method>
Since there is an error in the original change information, there is an error in the transfer function g obtained therefrom, and when there is noise in the output signal out, an example of processing for reducing the influence of both the error and the noise is shown in FIG. Will be described. First, the first change function g_1 for reducing the influence of the error of the transfer function g serving as the original change function is calculated (step S201), and the change signal out_1 is calculated once using the first change function g_1 (step S202). Up to this point, it is the same as the first embodiment or the second embodiment. That is, formula (1) or formula (6) is calculated.
次に、ノイズの影響を軽減させるための第2変化関数g_2を算出する(ステップS203)。この第2変化関数g_2は、たとえば、第3の実施の形態の伝達関数である。次に、1回変化信号out_1を第2変化関数g_2で変化させ、2回変化信号out_2を算出する(ステップS204)。ここでは、式(9)を計算する。
out_2=out_1*g_2・・・・・(9)
Next, a second change function g_2 for reducing the influence of noise is calculated (step S203). This second change function g_2 is, for example, the transfer function of the third embodiment. Next, the twice-change signal out_2 is calculated by changing the once-change signal out_1 with the second change function g_2 (step S204). Here, Equation (9) is calculated.
out_2 = out_1 * g_2 (9)
次に、元変化関数gと第1変化関数g_1と第2変化関数g_2の畳み込みを行い、総合変化関数g_allを算出する(ステップS205)。ここでは、式(10)を計算する。
g_all=g*g_1*g_2・・・・・(10)
Next, the original change function g, the first change function g_1, and the second change function g_2 are convolved to calculate the total change function g_all (step S205). Here, Equation (10) is calculated.
g_all = g * g_1 * g_2 (10)
得られた2回変化信号out_2を復元処理対象となる信号とし、総合変化関数g_allを用いて復元処理を行なう(ステップS206)。ここで、2回変化信号の算出は、第1変化関数g_1と第2変化関数g_2の畳み込みを行なって得た複合変化関数g_12を用いても良い。その様子を図8に示す。 The obtained twice-change signal out_2 is used as a signal to be restored, and the restoration process is performed using the overall change function g_all (step S206). Here, the two-time change signal may be calculated using a composite change function g_12 obtained by convolving the first change function g_1 and the second change function g_2. This is shown in FIG.
まず、第1変化関数g_1、および第2変化関数g_2を算出する(ステップS301,S302)。次に、式(11)を計算することで、複合変化関数g_12を算出する(ステップS303)。出力信号outを複合変化関数g_12で変化させ、2回変化信号out_2を算出する(ステップS304)。ここでは、式(12)を計算する。次に、元変化関数gと複合変化関数g_12の畳み込みを行い、総合変化関数g_allを算出する(ステップS305)。ここでは、式(13)を計算する。得られた2回変化信号out_2と総合変化関数g_allを用いて逆変換等による復元処理を行なう(ステップS306)。
g_12=g1*g2・・・・・・・・・(11)
out_2=out*g_12・・・・・(12)
g_all=g*g_12・・・・・・・・(13)
First, the first change function g_1 and the second change function g_2 are calculated (steps S301 and S302). Next, the composite change function g_12 is calculated by calculating Expression (11) (step S303). The output signal out is changed by the composite change function g_12, and the twice-change signal out_2 is calculated (step S304). Here, the equation (12) is calculated. Next, the original change function g and the composite change function g_12 are convolved to calculate the total change function g_all (step S305). Here, Equation (13) is calculated. Using the obtained twice-change signal out_2 and the total change function g_all, a restoration process by inverse transformation or the like is performed (step S306).
g — 12 = g1 * g2 (11)
out_2 = out * g_12 (12)
g_all = g * g_12 (13)
以上、本実施の形態における信号処理装置1について説明したが、本発明の要旨を逸脱しない限り種々変更実施可能である。たとえば処理部4としては、図9に示す、以下に述べる方法を復元の際に利用しても良い。まず任意の信号データI0を用意する(ステップS401)。任意の信号データI0に元変化情報Gを重畳積分し(ステップS402)、その後さらに既知の変化関数となる既知のデータs1を重畳積分して比較用データI0’’を生成する(ステップS403)。その後出力信号Img’と既知データs1とを重畳積分させた変化済み出力信号のデータ「Img’*s1」と、比較用のデータI0’’とを比較する(ステップS404)。そして、得られた差分のデータδ’を元変化情報Gと既知データs1とを重畳積分させた加工済み元変化情報を利用して任意の信号データI0、または任意の信号データI0と元変化情報Gとの重畳積分値I0’のいずれか一方(図9では任意の信号データI0)に配分することで、復元データI0+nを生成する(ステップS406)。ここで、「k」は、加工済み変化情報に基づく配分比である。この復元データI0+nを、任意の信号データI0または重畳積分値I0’の代わりに使用して比較用データI0’’を再度生成して、比較等の処理に供するといった一連の処理を、差分のデータδ’の絶対値が所定値未満となるまで(ステップS405)繰り返す繰り返し処理を行う。この処理によって最終的に得た復元データI0+nは、理想画像(入力信号in)である入力信号Imgと推定することができる。このような繰り返し処理によっても復元結果を向上させることができる。
The
本実施の形態では、静的変化情報について考慮した処理を行っていない。しかし、信号処理装置1に生来的に存するものに起因して生ずる誤差またはノイズの影響が予めわかっている場合には、その誤差またはノイズを考慮し、上述の(2)式によって得られる伝達関数をgとして信号の復元処理を行うことができる。信号処理装置1に生来的に存するものに起因して生ずる誤差またはノイズは、たとえば、動的元変化情報を検出するジャイロ等の取り付け角度に誤差がある場合の検出誤差、または、ぶれを検出するセンサにジャイロを用いている場合に、そのジャイロの基準電圧(オフセット電圧)が設定値よりもずれている場合の誤差等である。
In the present embodiment, processing that considers static change information is not performed. However, when the influence of an error or noise caused by what is inherently present in the
本実施の形態では、既知のデータとして元変化情報g,Gを用いている。しかし、信号を変化させる既知のデータとして、出力信号取得前に用意できるものを用いることができることは言うまでもない。 In the present embodiment, the original change information g and G are used as known data. However, it goes without saying that data that can be prepared before obtaining the output signal can be used as known data for changing the signal.
本実施の形態における、加工済み元変化情報は、元変化情報g,Gと画像を変化させる既知のデータとを重畳積分したものであるが、その元変化情報g,Gと既知のデータとを加え、またはかけ合わせることで、加工済み元変化情報を生成しても良い。 In the present embodiment, the processed original change information is obtained by superimposing original change information g, G and known data for changing an image, and the original change information g, G and the known data are combined. In addition, or by multiplying, processed source change information may be generated.
また、元変化情報、加工済み元変化情報および総合変化関数等に用いられる語である「変化」には、劣化のみではなく、劣化とは逆に、信号(画像)を良くする情報を含むものとする。 In addition, “change”, which is a word used for original change information, processed original change information, and comprehensive change function, includes not only deterioration but also information that improves a signal (image) contrary to deterioration. .
上述の実施の形態では、復元対象を画像データとしている。しかし、これらの復元処理の考え方および手法は、あらゆるデータの復元処理に適用できる。たとえば、デジタルの音声データの復元等への適用が可能である。 In the above-described embodiment, the restoration target is image data. However, these restore processing concepts and techniques can be applied to any data restore process. For example, it can be applied to restoration of digital audio data.
1 信号処理装置
2 撮影部(受信部)
3 制御系部
4 処理部
5 記録部
6 検出部
7 静的変化情報保存部
in 入力信号
out 出力信号
g 伝達関数(元変化情報、既知の変化関数)
g_1 第1変化関数(既知の変化関数)
g_2 第2変化関数(既知の変化関数)
out_1 1回変化信号(複数回変化信号)
out_2 2回変化信号(複数回変化信号)
g_all 加工済み元変化情報(総合伝達関数)
DESCRIPTION OF
3 Control system unit 4
g_1 first change function (known change function)
g_2 Second change function (known change function)
out_1 Single change signal (Multiple change signal)
out_2 Twice change signal (multiple change signal)
g_all Processed original change information (total transfer function)
Claims (10)
上記処理部は、1種または複数種の既知の変化関数を用いて、上記出力信号をさらに1回または複数回変化させた複数回変化信号に加工し、上記既知の変化関数および、上記入力信号から上記出力信号へと変化する要因となる元変化情報から得られる、加工済み元変化情報を利用して復元を行うことを特徴とする信号処理装置。 From the output signal, which is an observation signal that has changed in the process of signal measurement, observation, and / or recording, the signal before the change or the ideal signal that should have been originally acquired, or its approximate signal (hereinafter referred to as the input signal) In a signal processing apparatus having a processing unit for performing restoration to
The processing unit uses one or more types of known change functions to process the output signal into a multiple change signal that is changed once or multiple times, and the known change function and the input signal A signal processing apparatus that performs restoration using processed original change information obtained from original change information that causes a change from the output signal to the output signal.
前記加工済み元変化情報は、上記検出部で検出された上記外乱に起因する前記誤差またはノイズの影響、および/または前記信号処理装置に生来的に存するものに起因して生ずる前記誤差またはノイズの影響を軽減するためのものであることを特徴とする請求項1記載の信号処理装置。 The signal processing device has a detection unit for detecting disturbance,
The processed original change information is the influence of the error or noise caused by the disturbance detected by the detection unit and / or the error or noise generated due to the inherent presence in the signal processing device. 2. The signal processing apparatus according to claim 1, wherein the signal processing apparatus is for reducing an influence.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006299484A JP4809190B2 (en) | 2006-11-02 | 2006-11-02 | Signal processing apparatus and change information generation method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006299484A JP4809190B2 (en) | 2006-11-02 | 2006-11-02 | Signal processing apparatus and change information generation method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008118399A JP2008118399A (en) | 2008-05-22 |
JP4809190B2 true JP4809190B2 (en) | 2011-11-09 |
Family
ID=39503974
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006299484A Expired - Fee Related JP4809190B2 (en) | 2006-11-02 | 2006-11-02 | Signal processing apparatus and change information generation method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4809190B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4965179B2 (en) * | 2006-07-27 | 2012-07-04 | イーストマン コダック カンパニー | Image processing device |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004186901A (en) * | 2002-12-02 | 2004-07-02 | Sony Corp | Image pickup device and method, program and recording medium |
-
2006
- 2006-11-02 JP JP2006299484A patent/JP4809190B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2008118399A (en) | 2008-05-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101274061B1 (en) | Image processing apparatus and image processing method | |
JP4518197B2 (en) | Imaging apparatus, image blur correction method, and program | |
JP5007241B2 (en) | Image processing device | |
JP2007114466A (en) | Photographing device incorporating camera shake correcting function | |
JP3895357B2 (en) | Signal processing device | |
US7903897B2 (en) | Image processing apparatus | |
JP4885150B2 (en) | Image processing device | |
JP2008021271A (en) | Image processing apparatus, image restoration method, and program | |
JP4809190B2 (en) | Signal processing apparatus and change information generation method | |
JP4753856B2 (en) | Motion detection apparatus and method, and imaging apparatus | |
JP4926450B2 (en) | Image processing device | |
JP2010177919A (en) | Image recording apparatus and manufacturing apparatus of the same | |
JP5133070B2 (en) | Signal processing device | |
JP4602860B2 (en) | Image processing device | |
JP4606976B2 (en) | Image processing device | |
JP5247169B2 (en) | Image processing apparatus, image processing method, and image processing program | |
JP4718618B2 (en) | Signal processing device | |
WO2011033675A1 (en) | Image processing apparatus and image display apparatus | |
JP4763419B2 (en) | Image processing device | |
JP4629537B2 (en) | Image processing device | |
JP4449777B2 (en) | Imaging apparatus, image processing apparatus and method, recording medium, and program | |
JP2007034995A (en) | Image processing apparatus | |
JP5007234B2 (en) | Image processing device | |
JP2007116332A (en) | Image processing apparatus | |
JP2007081905A (en) | Image processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20091022 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110222 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110726 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110818 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140826 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4809190 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |