JP2008118399A - Signal processor and method for generating change information - Google Patents

Signal processor and method for generating change information Download PDF

Info

Publication number
JP2008118399A
JP2008118399A JP2006299484A JP2006299484A JP2008118399A JP 2008118399 A JP2008118399 A JP 2008118399A JP 2006299484 A JP2006299484 A JP 2006299484A JP 2006299484 A JP2006299484 A JP 2006299484A JP 2008118399 A JP2008118399 A JP 2008118399A
Authority
JP
Japan
Prior art keywords
signal
change
change information
information
original
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006299484A
Other languages
Japanese (ja)
Other versions
JP4809190B2 (en
Inventor
Fuminori Takahashi
史紀 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nitto Optical Co Ltd
Original Assignee
Nitto Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nitto Optical Co Ltd filed Critical Nitto Optical Co Ltd
Priority to JP2006299484A priority Critical patent/JP4809190B2/en
Publication of JP2008118399A publication Critical patent/JP2008118399A/en
Application granted granted Critical
Publication of JP4809190B2 publication Critical patent/JP4809190B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To improve a restoration result of a signal during restoring the signal by using change information to be an element to make a signal of an image or the like change. <P>SOLUTION: This signal processor has a processing part 4 which restores an output signal being an observation signal that has changed during signal measuring, observation and/or recording process into an unchanged signal, ideal signal that should have been originally acquired or its approximate signal (input signal). The processing part 4 uses one kind or a plurality of kinds of known change functions to process the output signal into a change signal of a plurality of times obtained by being further changed a time or a plurality of times, and performs restoration by using the known change functions and processed source change information which is obtained from source change information to be an element to change the input signal to an output signal and reduces the influence of an error or noise included in the source change information. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、信号処理装置および変化情報の生成方法に関する。   The present invention relates to a signal processing apparatus and a change information generation method.

従来より、信号の計測、観測、記録の過程において、信号処理システムの応答特性またはノイズの影響によって、理想信号である真の入力信号を正確に観測および/または記録をすることができない場合が多い。そのため、観測および/または記録された出力信号から入力信号を得ようとするとき、信号処理システムの応答特性等を利用して、出力信号を逆変換等して入力信号へ復元するなどの手法が用いられている。   Conventionally, in the process of signal measurement, observation, and recording, it is often impossible to accurately observe and / or record a true input signal, which is an ideal signal, due to the response characteristics of a signal processing system or the influence of noise. . For this reason, when an input signal is to be obtained from an observed and / or recorded output signal, there is a technique such as using the response characteristics of the signal processing system to reverse-convert the output signal into an input signal. It is used.

信号復元アルゴリズムとしては、ウィーナフィルタ、一般逆フィルタ、反復法などが古くから知られている。それらは、信号処理システムの応答特性等による劣化を伝達関数で表し、信号処理システムを通して得られる観測信号である出力信号から伝達関数を用いて劣化の無い入力信号に復元するアルゴリズムである(非特許文献1)。   As a signal restoration algorithm, a Wiener filter, a general inverse filter, an iterative method, and the like have been known for a long time. These are algorithms that express the degradation due to the response characteristics of the signal processing system as a transfer function, and restore the input signal without degradation using the transfer function from the output signal, which is an observation signal obtained through the signal processing system (non-patent) Reference 1).

取り扱う信号が画像信号の場合、ぶれ画像の復元が最もわかり易い例題となる。たとえば理想信号である入力画像はぶれの無い画像となる。そして撮影時のぶれは、画像を劣化させる信号処理システムの応答特性となる。すると、出力信号として劣化(変化)信号であるぶれ画像が得られる。撮影時のぶれ情報および上述の信号復元アルゴリズムを用いると、ぶれ画像は、ぶれの無い画像へと復元する(非特許文献2)。たとえば特許文献1は、ぶれ情報を検出した後、伝達関数を求めてぶれ画像の復元を行なう技術を提案している。   When the signal to be handled is an image signal, restoration of a blurred image is the easiest example. For example, an input image that is an ideal signal is an image without blurring. The blur at the time of photographing becomes a response characteristic of the signal processing system that deteriorates the image. Then, a blurred image that is a deterioration (change) signal is obtained as an output signal. When the blur information at the time of shooting and the above-described signal restoration algorithm are used, the blurred image is restored to an image without blur (Non-Patent Document 2). For example, Patent Document 1 proposes a technique for restoring a blurred image by obtaining a transfer function after detecting blur information.

南茂夫監修、河田聡編著、「科学計測のためのデータ処理入門」、CQ出版社、2002年1月10日発行Supervised by Shigeo Minami, edited by Atsushi Kawada, "Introduction to data processing for scientific measurement", CQ Publisher, published on January 10, 2002 高木幹夫・下田陽久監修、「新編画像解析ハンドブック」、東京大学出版会、2004年9月9日発行Supervised by Mikio Takagi and Yoshihisa Shimoda, “New Image Analysis Handbook”, published by the University of Tokyo Press, September 9, 2004 特開平11−24122号公報Japanese Patent Laid-Open No. 11-24122

信号復元を行なおうとした場合、重要なことは、出力信号と信号処理システムの応答特性等の関係が正確に取得されることである。非特許文献1および2では、信号処理システムの応答特性である劣化関数が正確であることを前提として、劣化信号または劣化画像から劣化の無い理想信号へ復元する手法を解説している。   When attempting to perform signal restoration, it is important that the relationship between the output signal and the response characteristics of the signal processing system is accurately acquired. Non-Patent Documents 1 and 2 describe a technique for restoring a deteriorated signal or a deteriorated image to an ideal signal without deterioration on the assumption that the deterioration function that is the response characteristic of the signal processing system is accurate.

しかしながら、出力信号と信号処理システムの応答特性等の関係を、正確に取得することは難しく、必ず誤差またはノイズが含まれる。よって、特許文献1記載の手ぶれ画像復元技術を採用しても、ぶれ情報の検出精度が低い場合、または撮影画像にノイズがある場合等は、ぶれ情報の検出誤差またはノイズの影響を受けるため、良好な復元結果を得ることができない。ここで、ぶれ情報の検出精度が低い場合とは、たとえば手ぶれを検出する角速度センサ等の検出精度が低い場合である。また、撮影画像にノイズがある場合とは、たとえば撮影されたぶれ画像にホワイトノイズが入る場合である。   However, it is difficult to accurately obtain the relationship between the output signal and the response characteristics of the signal processing system, and errors or noise are always included. Therefore, even if the camera shake image restoration technique described in Patent Document 1 is adopted, if the detection accuracy of the shake information is low, or if there is noise in the captured image, etc., it is affected by the shake information detection error or noise. A good restoration result cannot be obtained. Here, the case where the detection accuracy of the shake information is low is a case where the detection accuracy of an angular velocity sensor or the like that detects camera shake is low. Moreover, the case where there is noise in the photographed image is, for example, a case where white noise enters the photographed blurred image.

そこで、本発明の課題は、画像等の信号が変化する要因となる変化情報を利用して信号を復元する際に、その復元結果を向上させることである。   Therefore, an object of the present invention is to improve a restoration result when restoring a signal using change information that causes a change in a signal such as an image.

上記課題を解決するため、本発明の信号処理装置は、信号の計測、観測、および/または記録の過程で、変化した観測信号である出力信号から、変化する前の信号もしくは本来取得されるべきであった理想信号、またはその近似信号(以下、入力信号という)への復元を行なう処理部を有し、処理部は、1種または複数種の既知の変化関数を用いて、出力信号をさらに1回または複数回変化させた複数回変化信号に加工し、既知の変化関数および、入力信号から出力信号へと変化する要因となる元変化情報から得られる、加工済み元変化情報を利用して復元を行う。   In order to solve the above-described problems, the signal processing apparatus of the present invention should be acquired from the output signal, which is a changed observation signal, in the process of signal measurement, observation, and / or recording, or the signal before change or originally acquired. And a processing unit that restores the ideal signal or its approximate signal (hereinafter referred to as an input signal). The processing unit further outputs the output signal using one or more types of known change functions. Processed into multiple change signals that have been changed once or multiple times, using processed change information obtained from known change functions and original change information that causes changes from input signals to output signals Perform restoration.

この発明によれば、得られた加工済み元変化情報は、誤差またはノイズの影響が軽減されている。よって、加工済み元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。   According to the present invention, the effect of error or noise is reduced in the obtained processed original change information. Therefore, when a signal such as an image is restored using the processed original change information, the restoration result can be improved.

他の発明に係る信号処理装置は、上述した発明に加え、加工済み元変化情報は、元変化情報から算出された伝達関数と、既知の変化関数とを重畳積分して得られる総合変化関数であることとしている。この構成によって、加工済み元変化情報の一種である総合変化関数を設定することができる。   In addition to the above-described invention, the signal processing apparatus according to another invention is a total change function obtained by superimposing a transfer function calculated from the original change information and a known change function. It is supposed to be. With this configuration, it is possible to set a comprehensive change function that is a kind of processed original change information.

他の発明に係る信号処理装置は、上述した発明に加え、信号処理装置は、外乱を検出する検出部を有し、加工済み元変化情報は、検出部で検出された外乱に起因する誤差またはノイズの影響、および/または信号処理装置に生来的に存するものに起因して生ずる誤差またはノイズの影響を軽減するためのものとしている。この構成によって、信号処理装置が行う信号の計測、観測、記録の過程における動的な変化情報、および/または信号処理装置に生来的に存するものに起因して生ずる静的な変化情報、の影響を軽減することができる。   In addition to the above-described invention, the signal processing device according to another invention includes a detection unit that detects a disturbance, and the processed original change information includes an error caused by the disturbance detected by the detection unit, or It is intended to mitigate the effects of noise and / or errors or noise caused by what is inherent in the signal processing apparatus. With this configuration, the influence of dynamic change information in the process of signal measurement, observation, and recording performed by the signal processing device, and / or static change information caused by something inherent in the signal processing device. Can be reduced.

他の発明に係る信号処理装置は、上述した発明に加え、処理部は、既知の変化関数として、元変化情報に基づく変化関数を用いる。この構成によって、元変化情報の誤差の影響を主に軽減することができる。   In a signal processing device according to another invention, in addition to the above-described invention, the processing unit uses a change function based on the original change information as a known change function. With this configuration, the influence of the error of the original change information can be mainly reduced.

他の発明に係る信号処理装置は、上述した発明に加え、処理部は、復元処理対象となる信号に対して逆変換処理または逆畳み込み演算処理を行う。この構成によって、たとえば、伝達関数の逆変換を行うことによる信号の復元といった、ウィナフィルタ、一般逆フィルタまたは反復法等の既存の成熟した技術によって、安定した信号の復元を行うことができる。   In a signal processing device according to another invention, in addition to the above-described invention, the processing unit performs an inverse transformation process or a deconvolution operation process on a signal to be restored. With this configuration, for example, stable signal restoration can be performed by an existing mature technique such as a Wiener filter, a general inverse filter, or an iterative method, such as signal restoration by performing inverse transformation of a transfer function.

他の発明に係る信号処理装置は、上述した発明に加え、信号を画像としている。これによって、カメラの手ぶれによる画像変化が生じても、劣化等の変化が生じた出力画像から、劣化等の変化の無い入力画像へ復元を行うことができる。   In addition to the above-described invention, a signal processing apparatus according to another invention uses a signal as an image. As a result, even if an image change due to camera shake occurs, it is possible to restore from an output image in which a change such as deterioration has occurred to an input image in which there is no change such as deterioration.

他の発明に係る信号処理装置は、上述した発明に加え、元変化情報は、画像のぶれ情報、画像の焦点情報、光学情報のいずれか1つ以上を含んでいる。これによって、元変化情報をぶれ情報とした場合、ぶれ画像の復元を行なう際、ぶれ情報の誤差またはノイズの影響を軽減することができる。また元変化情報を画像の焦点情報とした場合、ピンボケ画像の復元を行なう際、画像の焦点情報の誤差またはノイズの影響を軽減することができる。さらに元変化情報を光学情報とした場合、たとえば、光学収差による変化画像の復元を行なう際、光学情報の誤差またはノイズの影響を軽減することができる。また、これらの情報のいずれか2つ以上を元変化情報に含ませることで、たとえば、ぶれとピンボケがある変化画像を復元する際、ぶれ情報および画像の焦点情報の誤差またはノイズの影響を軽減することができる。   In a signal processing device according to another invention, in addition to the above-described invention, the original change information includes one or more of image blur information, image focus information, and optical information. Accordingly, when the original change information is the blur information, it is possible to reduce the influence of the blur information error or noise when restoring the blurred image. Further, when the original change information is the focus information of the image, it is possible to reduce the influence of the error or noise of the focus information of the image when restoring the out-of-focus image. Further, when the original change information is optical information, for example, when restoring a changed image due to optical aberration, it is possible to reduce the influence of errors or noise in the optical information. In addition, by including any two or more of these pieces of information in the original change information, for example, when restoring a change image with blurring and blurring, the influence of error or noise in blur information and image focus information is reduced. can do.

上記課題を解決するため、本発明の変化情報の生成方法は、所定の信号から変化した変化信号へと移行する際に得られる、変化する要因となる元変化情報に対し、1種または複数種の既知のデータを利用している。   In order to solve the above-described problem, the change information generation method of the present invention provides one or more types of original change information that is a factor of change obtained when shifting from a predetermined signal to a changed signal. Using known data.

この発明によれば、生成された元変化情報は、誤差またはノイズの影響が軽減されている。よって、生成された元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。   According to the present invention, the generated original change information is less affected by errors or noise. Therefore, when a signal such as an image is restored using the generated original change information, the restoration result can be improved.

上記課題を解決するため、本発明の変化情報の生成方法は、所定の信号から変化した変化信号へと移行する際に得られる、変化する要因となる元変化情報に対し、1種または複数種の既知のデータを重畳積分し、加え、またはかけ合せている。   In order to solve the above-described problem, the change information generation method of the present invention provides one or more types of original change information that is a factor of change obtained when shifting from a predetermined signal to a changed signal. Are integrated, added, or multiplied.

この発明によれば、生成された元変化情報は、未知量の誤差またはノイズを含む元変化情報と、変化情報としての誤差またはノイズを全く含まないものと扱うことのできる既知のデータとが、その構成要素となる。そうすることで、元変化情報が含有する誤差またはノイズを小さくする、またはその誤差またはノイズの偏在を緩和して、大きな誤差またはノイズの影響力を弱めることができることから、生成された元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。   According to the present invention, the generated original change information includes original change information including an unknown amount of error or noise, and known data that can be treated as including no error or noise as change information. That component. By doing so, the error or noise contained in the original change information can be reduced, or the influence of the large error or noise can be reduced by reducing the uneven distribution of the error or noise. When a signal such as an image is restored using this, the restoration result can be improved.

上記課題を解決するため、本発明の他の変化情報の生成方法は、所定の信号から変化した変化信号へと移行する際に得られる、変化する要因となる元変化情報と、1種または複数種の既知のデータと、その既知のデータを利用して変化信号をさらに変化させて得られる複数回変化信号とを生成し、元変化情報と既知のデータとを重畳積分し、得られた重畳積分値を複数回変化信号から所定の信号へと復元するための加工済み元変化情報としている。   In order to solve the above-described problem, another change information generation method of the present invention includes original change information, which is a factor of change, and one or more types obtained when shifting from a predetermined signal to a changed signal. Generate known change data and multiple change signals obtained by further changing the change signal using the known data, and superimposing and integrating the original change information and the known data The integrated value is processed original change information for restoring the change signal from the change signal to a predetermined signal a plurality of times.

この発明によれば、生成された加工済み元変化情報は、未知量の誤差またはノイズを含む元変化情報と、変化情報としての誤差またはノイズを全く含まない既知のデータとが、その構成要素となる。そうすることで、元変化情報が含有する誤差またはノイズを小さくする、またはその誤差またはノイズの偏在を緩和して、大きな誤差またはノイズの影響力を弱めることができる。また、既知のデータを利用して変化信号をさらに変化させて複数回変化信号とすることで、変化信号に含まれるノイズの偏在を緩和することができる。そのため、生成された複数回変化信号と生成された加工済み元変化情報を利用して画像等の信号を復元する場合に、その復元結果を向上させることができる。   According to this invention, the generated processed original change information includes original change information including an unknown amount of error or noise, and known data including no error or noise as change information, and its constituent elements Become. By doing so, the error or noise contained in the original change information can be reduced, or the uneven distribution of the error or noise can be reduced, and the influence of the large error or noise can be reduced. Further, by using the known data to further change the change signal to make the change signal a plurality of times, the uneven distribution of noise included in the change signal can be reduced. Therefore, when a signal such as an image is restored using the generated multiple-time change signal and the generated processed original change information, the restoration result can be improved.

本発明では、画像等の信号が変化する要因となる変化情報を利用して信号を復元する際に、その復元結果を向上させることができる。   In the present invention, when a signal is restored using change information that causes a signal such as an image to change, the restoration result can be improved.

以下、本発明の実施の形態に係る変化情報の生成方法を採用した、本発明の実施の形態に係る信号処理装置を、図を参照しながら説明する。なお、この信号処理装置は、民生用カメラとしているが、監視用カメラ、テレビ用カメラ、ビデオカメラ、内視鏡カメラ、等他の用途のカメラとしたり、望遠鏡、顕微鏡、更にはNMR撮影等の画像診断装置等、カメラ以外の機器、たとえば信号を計測する装置にも適用できる。   Hereinafter, a signal processing apparatus according to an embodiment of the present invention that employs a change information generation method according to an embodiment of the present invention will be described with reference to the drawings. Although this signal processing device is a consumer camera, it may be a camera for other uses such as a surveillance camera, a television camera, a video camera, an endoscopic camera, a telescope, a microscope, and further an NMR photographing. The present invention can also be applied to devices other than cameras, such as diagnostic imaging devices, such as devices that measure signals.

図1には信号処理装置1の構成の概要を示している。信号処理装置1は、人物または風景等の画像を撮影する撮影部2と、その撮影部2を駆動する制御系部3と、後述する変化関数の加工処理および撮影部2で撮影された画像信号の処理を行なう処理部4と、更に、処理部4で処理された画像信号または必要に応じて変化情報を記録する記録部5と、撮影時の画像変化の変化情報となる動的変化情報を検出する検出部6と、静的変化情報を保存する静的変化情報保存部7を有する。なお、信号処理装置1が画像信号以外のものを対象として適用される場合、撮影部2は、音声信号等の種々の入力信号を受信する受信部2となる(以下では、適宜、撮影部2と受信部2とを使い分けることとする。)。   FIG. 1 shows an outline of the configuration of the signal processing apparatus 1. The signal processing apparatus 1 includes an image capturing unit 2 that captures an image of a person or a landscape, a control system unit 3 that drives the image capturing unit 2, an image signal that is captured by the change function processing described later and the image capturing unit 2. A processing unit 4 that performs the above processing, a recording unit 5 that records the image signal processed by the processing unit 4 or change information as necessary, and dynamic change information that becomes change information of an image change at the time of shooting. It has the detection part 6 to detect, and the static change information storage part 7 which preserve | saves static change information. When the signal processing device 1 is applied to a signal other than an image signal, the photographing unit 2 becomes a receiving unit 2 that receives various input signals such as an audio signal (hereinafter, the photographing unit 2 is appropriately used). And the receiving unit 2 are used properly).

撮影部2は、撮影光学系または光学系を通過した光を電気信号に変換するCCDまたはC−MOS等の撮像素子と、撮像素子で変換された電気信号を画像信号に変換する回路部などを備える部分である。制御系部3は、撮影部2、処理部4、記録部5、検出部6、および静的変化情報保存部7など、信号処理装置1の各部を制御するものである。   The photographing unit 2 includes a photographing optical system or an image sensor such as a CCD or C-MOS that converts light passing through the optical system into an electric signal, a circuit unit that converts the electric signal converted by the image sensor into an image signal, and the like. It is a part to prepare. The control system unit 3 controls each unit of the signal processing device 1 such as the imaging unit 2, the processing unit 4, the recording unit 5, the detection unit 6, and the static change information storage unit 7.

処理部4は、画像処理プロセッサで構成されており、ASIC(Application Specific Integrated Circuit)のようなハードウェアで構成されている。あるいは、ASICのようなハードウェアとして構成されるのではなく、ソフトウェアで処理する構成としても良い。処理部4は撮影部2で撮影した画像データを処理する。この処理の際に、動的変化情報および静的変化情報から信号(画像)復元処理のための総合変化関数を算出し、その総合変化関数を利用して劣化(変化)画像の復元処理を行なう。また処理部4は、検出する手ぶれ等の振動検出のためのサンプリング周波数を発生させていると共にそのサンプリング周波数を検出部6に供給している。さらに処理部4は、振動検出の開始と終了を制御している。なお、信号処理装置1が画像処理装置以外のものとして適用される場合、受信部2の受信感度を入力信号の大きさ等によって変えることができる。   The processing unit 4 is configured by an image processing processor, and is configured by hardware such as an ASIC (Application Specific Integrated Circuit). Or it is good also as a structure processed not by hardware like ASIC but by software. The processing unit 4 processes the image data photographed by the photographing unit 2. During this process, a total change function for signal (image) restoration processing is calculated from the dynamic change information and static change information, and a degraded (change) image is restored using the total change function. . Further, the processing unit 4 generates a sampling frequency for detecting vibrations such as camera shake to be detected and supplies the sampling frequency to the detection unit 6. Further, the processing unit 4 controls the start and end of vibration detection. When the signal processing device 1 is applied as a device other than the image processing device, the reception sensitivity of the receiving unit 2 can be changed according to the magnitude of the input signal or the like.

記録部5は、半導体メモリで構成されているが、ハードディスクドライブ等の磁気記録手段、またはDVD等の光記録手段等を採用しても良い。記録部5には必要なデータ、たとえば、変化後のまだ復元処理されていない画像信号、処理された画像信号、変化情報等が保存され、記録される。   The recording unit 5 is composed of a semiconductor memory, but a magnetic recording unit such as a hard disk drive or an optical recording unit such as a DVD may be employed. The recording unit 5 stores and records necessary data, for example, image signals that have not been restored yet, processed image signals, change information, and the like.

検出部6は、計測、観測、記録の過程で生じる動的な変化情報を検出するものである。たとえば、図2に示すように、信号処理装置1の光軸であるZ軸に対して垂直方向となるX軸、Y軸の回りの速度を検出するものである。撮影時に手ぶれがある場合、撮影された画像はぶれた画像となる。このような手ぶれは、X方向、Y方向、Z方向の各方向への移動、Z軸回りの回動も生ずるが、各変動によって最も大きな影響を受けるのは、Y軸回りの回転とX軸回りの回転である。これら2つの変動は、ほんのわずかに変動しただけで、その撮影された画像は大きくぼける。このため、この実施の形態では、図2のX軸回りとY軸回りのぶれの検出のために、PITCH(上下(Y)方向の動き)検出用センサ、YAW(左右(X)方向の動き)検出用センサ、およびROLL(左右(X)方向への傾き)検出センサの3つを用いている。しかし、より完全を期すためZ軸回りの角速度センサをさらに付加したり、X方向またはY方向への移動を検出するセンサを、さらに付加しても良い。また、使用するセンサとしては、角速度センサではなく、角加速度センサとしても良い。なお、信号処理装置1が画像信号以外のものを対象として適用され、受信特性または信号処理システムの応答特性などが、たとえば温度または湿度に影響を受ける場合には、検出部6には温度計または湿度計を含ませることができる。   The detection unit 6 detects dynamic change information generated in the process of measurement, observation, and recording. For example, as shown in FIG. 2, the speeds around the X axis and Y axis that are perpendicular to the Z axis, which is the optical axis of the signal processing device 1, are detected. If there is a camera shake at the time of shooting, the shot image becomes a blurred image. Such camera shake also causes movement in each direction in the X, Y, and Z directions and rotation around the Z axis. However, the most affected by each variation is the rotation around the Y axis and the X axis. Rotation around. These two variations are only slightly varied, and the captured image is greatly blurred. For this reason, in this embodiment, a PITCH (motion in the vertical (Y) direction) detection sensor and YAW (motion in the left and right (X) direction) are used to detect blurring around the X axis and the Y axis in FIG. 3) a detection sensor and a ROLL (tilt in the left-right (X) direction) detection sensor. However, for the sake of completeness, an angular velocity sensor around the Z axis may be further added, or a sensor for detecting movement in the X direction or the Y direction may be further added. The sensor used may be an angular acceleration sensor instead of an angular velocity sensor. When the signal processing apparatus 1 is applied to a signal other than an image signal and the reception characteristic or the response characteristic of the signal processing system is affected by, for example, temperature or humidity, the detection unit 6 includes a thermometer or A hygrometer can be included.

静的変化情報保存部7は、静的な変化情報を保存している。この静的な変化情報は、たとえば、光学系の収差などによる点像関数等の、信号処理装置1に生来的に存するものに起因するものである。信号処理装置1が画像信号以外の信号を対象として適用される場合は、信号処理システム全体のインパルス応答など、あらかじめわかっている応答特性を静的変化情報保存部7に保存することができる。さらに、検出部6で検出される温度、湿度等が受信部2の受信特性またはシステム全体の特性を変化させることもあるので、温度特性または湿度特性等を静的な変化情報として用いることができる。   The static change information storage unit 7 stores static change information. This static change information is caused by information inherent in the signal processing apparatus 1 such as a point spread function due to aberration of the optical system, for example. When the signal processing apparatus 1 is applied to a signal other than an image signal, response characteristics that are known in advance, such as an impulse response of the entire signal processing system, can be stored in the static change information storage unit 7. Furthermore, since the temperature, humidity, etc. detected by the detection unit 6 may change the reception characteristics of the reception unit 2 or the characteristics of the entire system, the temperature characteristics, humidity characteristics, etc. can be used as static change information. .

次に、以上のように構成された本実施の形態に係る信号処理装置1の処理部4における、変化信号から復元用データを作成する方法の概要を説明する。図3は、入力信号in、観測系の伝達関数g、ノイズn、および観測される出力信号outの関係を示す。入力信号inは、観測系の受信部(撮影部2)で受信されて出力信号outとして出力されている。受信から出力の間に劣化(変化)等が生じなければ出力信号outは入力信号inと完全に等しくなる。しかし、実際には入力信号の変動に対する追随遅れ等によって、必ず出力信号outに変化が生じる。このような劣化(変化)を信号処理システムの伝達関数gとする。またその変化に加えて、さらにノイズn等も入り込む。すなわち出力信号outは入力信号inと伝達関数gの畳み込みに、ノイズnが加わったものとなっている(式(1))。
out = in*g+n・・・・・(1)
*は畳み込み演算を表す。以下同じ。
Next, an outline of a method for creating restoration data from a change signal in the processing unit 4 of the signal processing apparatus 1 according to the present embodiment configured as described above will be described. FIG. 3 shows the relationship between the input signal in, the observation system transfer function g, the noise n, and the observed output signal out. The input signal in is received by the receiving unit (imaging unit 2) of the observation system and output as the output signal out. If no deterioration (change) or the like occurs between reception and output, the output signal out is completely equal to the input signal in. However, in practice, the output signal out always changes due to a delay in tracking the input signal. Such deterioration (change) is defined as a transfer function g of the signal processing system. In addition to the change, noise n and the like further enter. That is, the output signal out is obtained by adding noise n to the convolution of the input signal in and the transfer function g (Equation (1)).
out = in * g + n (1)
* Represents a convolution operation. same as below.

本実施の形態において、入力信号inは、本来取得されるべきであった理想画像に相当する。また、出力信号outは、信号の計測、観測、および/または記録の過程で変化した観測信号(撮影画像)に相当する。伝達関数gは、元変化情報に対応する。ここで、伝達関数gは何らかの方法で取得されていなければ、出力信号outから入力信号inあるいはその近似信号を得ることはできない。そこで、光学系の収差などによる点像関数のように、元変化情報(伝達関数g)のうち、予め判明している静的変化関数gsについては、上述の静的変化情報保存部7から取得する。また、元変化情報のうち、入力信号inの取得時の外乱による動的変化関数gdについては、検出部6で外乱を検出して処理部4で算出して取得する。動的変化関数gdは、たとえば検出部6が有する角速度センサによって、手ぶれが軌跡のデータとして検出され、その軌跡のデータに基づき処理部4で算出して取得される。このとき、観測系全体の伝達関数gは、静的変化関数gsと動的変化関数gdの畳み込みとなる(式(2))。ただし信号処理装置1は、ぶれによる画像変化のみを問題とする場合、光学収差等の静的変化情報は考慮せず、(3)式のように動的変化関数gdのみを考慮して伝達関数gを求めることができる。以下、(3)式によって得られる伝達関数を、gと表すこととする。
g=gs*gd・・・・・(2)
g=gd・・・・・・・・(3)
In the present embodiment, the input signal in corresponds to an ideal image that should have been originally acquired. The output signal out corresponds to an observation signal (photographed image) that has changed in the process of signal measurement, observation, and / or recording. The transfer function g corresponds to the original change information. Here, unless the transfer function g is acquired by any method, the input signal in or its approximate signal cannot be obtained from the output signal out. Therefore, the static change function gs that has been known in advance among the original change information (transfer function g), such as a point spread function due to aberrations of the optical system, is obtained from the static change information storage unit 7 described above. To do. Among the original change information, the dynamic change function gd due to disturbance at the time of acquisition of the input signal in is detected by the detection unit 6 and calculated and acquired by the processing unit 4. The dynamic change function gd is acquired by, for example, detecting camera shake as trajectory data by an angular velocity sensor included in the detection unit 6 and calculating the processing unit 4 based on the trajectory data. At this time, the transfer function g of the entire observation system is a convolution of the static change function gs and the dynamic change function gd (formula (2)). However, the signal processing apparatus 1 does not consider static change information such as optical aberration when only the image change due to the shake is a problem, but considers only the dynamic change function gd as shown in the equation (3). g can be obtained. Hereinafter, the transfer function obtained by the equation (3) is represented as g.
g = gs * gd (2)
g = gd (3)

ここで、上述のように検出部6における外乱の検出の際には、通常誤差が生じ、またノイズが検出結果に含まれる。よって、伝達関数gは、本来の伝達関数からの誤差、またはノイズを含むこととなる。この誤差またはノイズの影響が小さければ小さいほど、復元処理の結果が向上する。以下に、その誤差またはノイズの影響を軽減する方法を述べる。   Here, as described above, when a disturbance is detected by the detection unit 6, a normal error occurs and noise is included in the detection result. Therefore, the transfer function g includes an error from the original transfer function or noise. The smaller the influence of this error or noise, the better the result of the restoration process. A method for reducing the influence of the error or noise will be described below.

<第1の処理方法>
処理部4において、既知の変化関数の一種である元変化情報による伝達関数gをそのまま使う場合の復元用データの作成方法を図1、図3および図4を用いて説明する。この例では、伝達関数gを第1変化関数g_1として扱う。入力信号inは撮影部2で撮影される。撮影された画像信号は、出力信号outとして処理部4へ送られる。元変化情報は撮影の際のぶれ情報とし、検出部6で角速度センサを用いて手ぶれを撮影時のぶれの軌跡の情報として検出し、伝達関数g、すなわち第1変化関数g_1を算出し処理部4へ送る。
<First processing method>
A method of creating restoration data when the processing unit 4 uses the transfer function g based on the original change information which is a kind of known change function as it is will be described with reference to FIGS. 1, 3 and 4. FIG. In this example, the transfer function g is treated as the first change function g_1. The input signal in is photographed by the photographing unit 2. The captured image signal is sent to the processing unit 4 as an output signal out. The original change information is the shake information at the time of shooting, and the detection unit 6 detects the camera shake as the information of the shake locus at the time of shooting using the angular velocity sensor, calculates the transfer function g, that is, the first change function g_1, and the processing unit. Send to 4.

復元用データ作成シーケンスでは、次の処理を行なう。出力信号outを既知の変化関数で変化させるための第1変化関数g_1を算出する(ステップS101)。ここで第1変化関数g_1として、伝達関数gを採用する。次に、出力信号outを第1変化関数g_1で、さらに変化させて1回変化信号を得る。そのため、出力信号outと第1変化関数g_1との畳み込み演算(式(4))を行い、1回変化信号out_1を算出する(ステップS102)。
out_1=out*g_1・・・・・(4)
In the restoration data creation sequence, the following processing is performed. A first change function g_1 for changing the output signal out with a known change function is calculated (step S101). Here, the transfer function g is employed as the first change function g_1. Next, the output signal out is further changed by the first change function g_1 to obtain a change signal once. Therefore, a convolution operation (equation (4)) between the output signal out and the first change function g_1 is performed to calculate a change signal out_1 once (step S102).
out_1 = out * g_1 (4)

次に元変化情報である伝達関数gと1回変化情報である第1変化関数g_1との畳み込み演算(式(5))を行い、加工済み元変化情報の一種である総合伝達関数g_allを算出する(ステップS103)。得られた1回変化信号out_1を復元処理対象となる信号とし、総合伝達関数g_allを用いて復元処理を行なう(ステップS104)。
g_all=g*g_1・・・・・(5)
Next, a convolution operation (formula (5)) is performed on the transfer function g, which is the original change information, and the first change function g_1, which is the one-time change information, to calculate the total transfer function g_all, which is a kind of processed original change information. (Step S103). The obtained once-change signal out_1 is used as a signal to be restored, and the restoration process is performed using the total transfer function g_all (step S104).
g_all = g * g_1 (5)

これを図5を用いて更に説明する。図5(A)のように入力信号inから1回変化信号out_1が得られる。そして復元処理では、図5(B)のような入出力関係があるとして復元処理を行なう。すなわち上述の式(1)、(4)および(5)から、以下の式(6)が導かれる。
out_1=out*g_1=(in*g+n)*g_1=in*g_all+n*g_1・・・・・(6)
This will be further described with reference to FIG. As shown in FIG. 5A, the change signal out_1 is obtained once from the input signal in. In the restoration process, the restoration process is performed assuming that there is an input / output relationship as shown in FIG. That is, the following expression (6) is derived from the above expressions (1), (4), and (5).
out_1 = out * g_1 = (in * g + n) * g_1 = in * g_all + n * g_1 (6)

ここで、伝達関数であるgと総合伝達関数g_allを比較する。伝達関数gは検出部6での検出誤差を含んでいるため、未知の正しい伝達関数と、得られた伝達関数gの間には誤差が存在する。その誤差をδとし、伝達関数gに含まれる誤差δの割合をeとする。eは、式(7)によって導かれる。1回変化信号out_1は、出力信号outを、既知、すなわち得られた伝達関数gである第1変化関数g_1で変化させたものである。この変化がなされる際には誤差は存在しない。よって、総合伝達関数g_allに含まれる誤差はδのままである。総合伝達関数g_allに含まれる誤差の割合をe_allとすれば、式(8)が成立する。すると、e_allが含有する誤差δの割合は、eのそれに比べて小さくなる。したがって、出力信号outを更に変化させた信号out_1と、総合伝達関数g_allの間の精度は向上している。したがって、総合伝達関数g_allを用いて復元処理を行うことで元変化情報の誤差の影響を軽減することができる。
e=|δ|/|g|・・・・・(7)
e_all=|δ|/|g_all|=|δ|/|g*g_1|・・・・・(8)
Here, the transfer function g and the total transfer function g_all are compared. Since the transfer function g includes a detection error in the detection unit 6, there is an error between the unknown correct transfer function and the obtained transfer function g. The error is δ, and the ratio of the error δ included in the transfer function g is e. e is derived from equation (7). The one-time change signal out_1 is obtained by changing the output signal out with a first change function g_1 which is a known transfer function g. There is no error when this change is made. Therefore, the error included in the total transfer function g_all remains δ. If the ratio of errors included in the total transfer function g_all is e_all, Expression (8) is established. Then, the ratio of the error δ contained in e_all becomes smaller than that of e. Therefore, the accuracy between the signal out_1 obtained by further changing the output signal out and the total transfer function g_all is improved. Therefore, the influence of the error of the original change information can be reduced by performing the restoration process using the total transfer function g_all.
e = | δ | / | g | (7)
e_all = | δ | / | g_all | = | δ | / | g * g_1 | (8)

また、式(1)と式(6)のノイズ成分について比較すると、1回変化信号out_1のノイズ成分n*g_1はnが変化し、拡散することになるため、出力信号outに含まれるノイズnの割合に比べ、1回変化信号out_1に含まれるノイズの割合は低くなっている。したがって、復元処理におけるノイズ成分の影響を低減することができる。よって、これを用いて復元処理を行うことで元変化情報の誤差またはノイズの影響を軽減することができるため、復元結果を向上させることができる。出力信号outの変化は、動的変化情報であるぶれを対象としたが、静的変化情報である、信号処理システム全体のインパルス応答、または、動的変化情報と静的変化情報の両方から伝達関数gを得ても良い。   Further, when comparing the noise components of Expression (1) and Expression (6), since the noise component n * g_1 of the once-change signal out_1 changes and diffuses, the noise n included in the output signal out The ratio of noise included in the once-change signal out_1 is lower than the ratio of. Therefore, the influence of noise components in the restoration process can be reduced. Therefore, by performing restoration processing using this, it is possible to reduce the influence of the error or noise of the original change information, so that the restoration result can be improved. The change of the output signal out is targeted for the shake that is the dynamic change information, but is transmitted from the impulse response of the entire signal processing system, which is the static change information, or both the dynamic change information and the static change information The function g may be obtained.

<第2の処理方法>
第1の実施の形態では、第1変化関数g_1として、既知の変化関数である元変化情報に基づく伝達関数gをそのまま使用した。しかし、元変化情報による伝達関数gを加工または利用したものを使用しても良い。その場合の処理を図4を用いて説明する。たとえば、元変化情報をぶれとした場合、ぶれは軌跡と重みで表現される。そこで、検出した軌跡と重みのうち、ぶれの軌跡をそのまま使い、重みを変えて重みが一定となるぶれとして第1変化関数g_1を算出し(ステップS101)、それを用いて1回変化信号out_1を算出し(ステップS102)、総合伝達関数g_allの算出を行い(ステップS103)、1回変化信号out_1を復元処理対象となる信号とし、逆変換処理等の復元処理(ステップS104)を行なっても良い。元変化情報として、信号処理システム全体のインパルス応答を対象とする場合は、第1変化関数g_1をインパルス応答の長さを変えずに一定出力となる応答特性としても良い。このような処理は、前記重みを一定としたことと同等である。
<Second processing method>
In the first embodiment, the transfer function g based on the original change information, which is a known change function, is used as it is as the first change function g_1. However, a transfer function g based on the original change information may be processed or used. Processing in that case will be described with reference to FIG. For example, when the original change information is shaken, the shake is expressed by a trajectory and a weight. Therefore, among the detected trajectories and weights, the blur trajectory is used as it is, and the first change function g_1 is calculated as a shake in which the weight is changed by changing the weight (step S101), and using the first change function out_1 (Step S102), the total transfer function g_all is calculated (step S103), and the once-change signal out_1 is set as a signal to be restored, and restoration processing such as inverse transformation processing (step S104) is performed. good. When the impulse response of the entire signal processing system is targeted as the original change information, the first change function g_1 may be a response characteristic that provides a constant output without changing the length of the impulse response. Such processing is equivalent to making the weights constant.

その他、検出部6においてぶれを検出した場合、検出したぶれの振動をフーリエ変換等して周波数分解し、予め検出部6の検出精度が低いと判明している周波数帯域がある場合、検出したぶれの振動のうち、その帯域の振動を利用して第1変化関数g_1を作成することで、検出誤差の大きい部分について効果的に誤差要因の影響を軽減することができる。たとえば、ぶれ検出センサのオフセット電圧が不安定な場合、それが信号処理システムの伝達関数の誤差要因となるが、検出したぶれの振動を周波数分解し、その直流成分から第1変化関数g_1を算出することで、オフセット電圧の不安定による誤差要因の影響を軽減することができる。   In addition, when a shake is detected in the detection unit 6, the vibration of the detected shake is subjected to frequency decomposition by Fourier transform or the like, and if there is a frequency band in which the detection accuracy of the detection unit 6 is previously known to be low, the detected shake By creating the first change function g_1 using the vibration in the band, the influence of the error factor can be effectively reduced for the portion where the detection error is large. For example, when the offset voltage of the shake detection sensor is unstable, it causes an error in the transfer function of the signal processing system. However, the vibration of the detected shake is frequency-resolved and the first change function g_1 is calculated from the DC component. By doing so, it is possible to reduce the influence of error factors due to instability of the offset voltage.

<第3の処理方法>
出力信号outにノイズがあり、そのノイズが復元結果に大きく影響を及ぼす場合は、第1変化関数として信号処理システムの伝達関数gとは関係無く、ノイズを周囲へ分散させる作用を持つ伝達関数とするのが好ましい。画像信号の場合、たとえば図6(A)に網掛け部として示す特定の画素のデータを、隣接する8つの周辺の画素に広げる(図6(B))、または、4つの斜め方向に隣接する周辺の画素に広げる(図6(C))、さらに4つの縦横方向に隣接する周辺の画素に広げる(図6(D))という作用のいずれかを持つ伝達関数を第1変化関数g_1とする。この方法では、画像の撮影時等にノイズがあり、そのノイズが特定の画素に偏在している場合に、そのノイズに起因する誤差の偏在を緩和することによって、その誤差またはノイズの影響を軽減することができる。
<Third processing method>
When there is noise in the output signal out and the noise greatly affects the restoration result, the first change function is independent of the transfer function g of the signal processing system. It is preferable to do this. In the case of an image signal, for example, data of a specific pixel shown as a shaded portion in FIG. 6A is spread to eight adjacent peripheral pixels (FIG. 6B), or adjacent in four diagonal directions. A transfer function having one of the functions of spreading to peripheral pixels (FIG. 6C) and further spreading to peripheral pixels adjacent in four vertical and horizontal directions (FIG. 6D) is defined as a first change function g_1. . In this method, when there is noise when shooting an image and the noise is unevenly distributed to a specific pixel, the influence of the error or noise is reduced by reducing the uneven distribution of the error due to the noise. can do.

<第4の処理方法>
元変化情報に誤差があるため、それから得られた伝達関数gに誤差があり、また、出力信号outにノイズがある場合において、その誤差とノイズの両方の影響を軽減させる処理の例を図7を用いて説明する。まず、元変化関数となる伝達関数gの誤差の影響を軽減させるための第1変化関数g_1を算出し(ステップS201)、これを用いて1回変化信号out_1を算出する(ステップS202)。ここまでは、第1の実施の形態または第2の実施の形態と同じである。つまり、式(1)または式(6)を計算する。
<Fourth processing method>
Since there is an error in the original change information, there is an error in the transfer function g obtained therefrom, and when there is noise in the output signal out, an example of processing for reducing the influence of both the error and the noise is shown in FIG. Will be described. First, the first change function g_1 for reducing the influence of the error of the transfer function g serving as the original change function is calculated (step S201), and the change signal out_1 is calculated once using the first change function g_1 (step S202). Up to this point, it is the same as the first embodiment or the second embodiment. That is, formula (1) or formula (6) is calculated.

次に、ノイズの影響を軽減させるための第2変化関数g_2を算出する(ステップS203)。この第2変化関数g_2は、たとえば、第3の実施の形態の伝達関数である。次に、1回変化信号out_1を第2変化関数g_2で変化させ、2回変化信号out_2を算出する(ステップS204)。ここでは、式(9)を計算する。
out_2=out_1*g_2・・・・・(9)
Next, a second change function g_2 for reducing the influence of noise is calculated (step S203). This second change function g_2 is, for example, the transfer function of the third embodiment. Next, the twice-change signal out_2 is calculated by changing the once-change signal out_1 with the second change function g_2 (step S204). Here, Equation (9) is calculated.
out_2 = out_1 * g_2 (9)

次に、元変化関数gと第1変化関数g_1と第2変化関数g_2の畳み込みを行い、総合変化関数g_allを算出する(ステップS205)。ここでは、式(10)を計算する。
g_all=g*g_1*g_2・・・・・(10)
Next, the original change function g, the first change function g_1, and the second change function g_2 are convolved to calculate the total change function g_all (step S205). Here, Equation (10) is calculated.
g_all = g * g_1 * g_2 (10)

得られた2回変化信号out_2を復元処理対象となる信号とし、総合変化関数g_allを用いて復元処理を行なう(ステップS206)。ここで、2回変化信号の算出は、第1変化関数g_1と第2変化関数g_2の畳み込みを行なって得た複合変化関数g_12を用いても良い。その様子を図8に示す。   The obtained twice-change signal out_2 is used as a signal to be restored, and the restoration process is performed using the overall change function g_all (step S206). Here, the two-time change signal may be calculated using a composite change function g_12 obtained by convolving the first change function g_1 and the second change function g_2. This is shown in FIG.

まず、第1変化関数g_1、および第2変化関数g_2を算出する(ステップS301,S302)。次に、式(11)を計算することで、複合変化関数g_12を算出する(ステップS303)。出力信号outを複合変化関数g_12で変化させ、2回変化信号out_2を算出する(ステップS304)。ここでは、式(12)を計算する。次に、元変化関数gと複合変化関数g_12の畳み込みを行い、総合変化関数g_allを算出する(ステップS305)。ここでは、式(13)を計算する。得られた2回変化信号out_2と総合変化関数g_allを用いて逆変換等による復元処理を行なう(ステップS306)。
g_12=g1*g2・・・・・・・・・(11)
out_2=out*g_12・・・・・(12)
g_all=g*g_12・・・・・・・・(13)
First, the first change function g_1 and the second change function g_2 are calculated (steps S301 and S302). Next, the composite change function g_12 is calculated by calculating Expression (11) (step S303). The output signal out is changed by the composite change function g_12, and the twice-change signal out_2 is calculated (step S304). Here, the equation (12) is calculated. Next, the original change function g and the composite change function g_12 are convolved to calculate the total change function g_all (step S305). Here, Equation (13) is calculated. Using the obtained twice-change signal out_2 and the total change function g_all, a restoration process by inverse transformation or the like is performed (step S306).
g — 12 = g1 * g2 (11)
out_2 = out * g_12 (12)
g_all = g * g_12 (13)

以上、本実施の形態における信号処理装置1について説明したが、本発明の要旨を逸脱しない限り種々変更実施可能である。たとえば処理部4としては、図9に示す、以下に述べる方法を復元の際に利用しても良い。まず任意の信号データIを用意する(ステップS401)。任意の信号データIに元変化情報Gを重畳積分し(ステップS402)、その後さらに既知の変化関数となる既知のデータs1を重畳積分して比較用データI’’を生成する(ステップS403)。その後出力信号Img’と既知データs1とを重畳積分させた変化済み出力信号のデータ「Img’*s1」と、比較用のデータI’’とを比較する(ステップS404)。そして、得られた差分のデータδ’を元変化情報Gと既知データs1とを重畳積分させた加工済み元変化情報を利用して任意の信号データI、または任意の信号データIと元変化情報Gとの重畳積分値I’のいずれか一方(図9では任意の信号データI)に配分することで、復元データI0+nを生成する(ステップS406)。ここで、「k」は、加工済み変化情報に基づく配分比である。この復元データI0+nを、任意の信号データIまたは重畳積分値I’の代わりに使用して比較用データI’’を再度生成して、比較等の処理に供するといった一連の処理を、差分のデータδ’の絶対値が所定値未満となるまで(ステップS405)繰り返す繰り返し処理を行う。この処理によって最終的に得た復元データI0+nは、理想画像(入力信号in)である入力信号Imgと推定することができる。このような繰り返し処理によっても復元結果を向上させることができる。 The signal processing apparatus 1 according to the present embodiment has been described above, but various modifications can be made without departing from the gist of the present invention. For example, as the processing unit 4, the following method shown in FIG. First prepared arbitrary signal data I 0 (step S401). The original change information G is superimposed and integrated on the arbitrary signal data I 0 (step S402), and then the known data s1 that is a known change function is further superimposed and integrated to generate comparison data I 0 ″ (step S403). ). Thereafter, the changed output signal data “Img ′ * s1” obtained by superimposing the output signal Img ′ and the known data s1 is compared with the comparison data I 0 ″ (step S404). Then, using the processed original change information obtained by superimposing the original change information G and the known data s1 on the obtained difference data δ ′, the arbitrary signal data I 0 , or the arbitrary signal data I 0 and the original By distributing to either one of the superimposed integral values I 0 ′ with the change information G (arbitrary signal data I 0 in FIG. 9), the restored data I 0 + n is generated (step S406). Here, “k” is a distribution ratio based on the processed change information. The restored data I 0 + n is used in place of the arbitrary signal data I 0 or the superimposed integral value I 0 ′ to generate again the comparison data I 0 ″ and perform a series of processing such as comparison processing. Then, iterative processing is repeated until the absolute value of the difference data δ ′ becomes less than a predetermined value (step S405). The restored data I 0 + n finally obtained by this processing can be estimated as the input signal Img which is an ideal image (input signal in). The restoration result can also be improved by such repeated processing.

本実施の形態では、静的変化情報について考慮した処理を行っていない。しかし、信号処理装置1に生来的に存するものに起因して生ずる誤差またはノイズの影響が予めわかっている場合には、その誤差またはノイズを考慮し、上述の(2)式によって得られる伝達関数をgとして信号の復元処理を行うことができる。信号処理装置1に生来的に存するものに起因して生ずる誤差またはノイズは、たとえば、動的元変化情報を検出するジャイロ等の取り付け角度に誤差がある場合の検出誤差、または、ぶれを検出するセンサにジャイロを用いている場合に、そのジャイロの基準電圧(オフセット電圧)が設定値よりもずれている場合の誤差等である。   In the present embodiment, processing that considers static change information is not performed. However, when the influence of an error or noise caused by what is inherently present in the signal processing apparatus 1 is known in advance, the transfer function obtained by the above equation (2) is taken into account that error or noise. It is possible to perform signal restoration processing with g as a symbol. For example, an error or noise generated due to the inherent presence in the signal processing device 1 detects a detection error or a shake when there is an error in the mounting angle of a gyro or the like that detects dynamic source change information. This is an error or the like when the gyro reference voltage (offset voltage) deviates from a set value when a gyro is used for the sensor.

本実施の形態では、既知のデータとして元変化情報g,Gを用いている。しかし、信号を変化させる既知のデータとして、出力信号取得前に用意できるものを用いることができることは言うまでもない。   In the present embodiment, the original change information g and G are used as known data. However, it goes without saying that data that can be prepared before obtaining the output signal can be used as known data for changing the signal.

本実施の形態における、加工済み元変化情報は、元変化情報g,Gと画像を変化させる既知のデータとを重畳積分したものであるが、その元変化情報g,Gと既知のデータとを加え、またはかけ合わせることで、加工済み元変化情報を生成しても良い。   In the present embodiment, the processed original change information is obtained by superimposing original change information g, G and known data for changing an image, and the original change information g, G and the known data are combined. In addition, or by multiplying, processed source change information may be generated.

また、元変化情報、加工済み元変化情報および総合変化関数等に用いられる語である「変化」には、劣化のみではなく、劣化とは逆に、信号(画像)を良くする情報を含むものとする。   In addition, “change”, which is a word used for original change information, processed original change information, and comprehensive change function, includes not only deterioration but also information that improves a signal (image) contrary to deterioration. .

上述の実施の形態では、復元対象を画像データとしている。しかし、これらの復元処理の考え方および手法は、あらゆるデータの復元処理に適用できる。たとえば、デジタルの音声データの復元等への適用が可能である。   In the above-described embodiment, the restoration target is image data. However, these restore processing concepts and techniques can be applied to any data restore process. For example, it can be applied to restoration of digital audio data.

本発明の実施の形態に係る信号処理装置の主要構成を示すブロック図である。It is a block diagram which shows the main structures of the signal processing apparatus which concerns on embodiment of this invention. 図1に示す信号処理装置の概要を示す外観斜視図で、角速度センサの配置位置を説明するための図である。It is an external appearance perspective view which shows the outline | summary of the signal processing apparatus shown in FIG. 1, and is a figure for demonstrating the arrangement position of an angular velocity sensor. 図1に示す信号処理装置の処理部で行う処理方法の概要を示す図で、入力信号、観測系の伝達関数、ノイズ、および観測される出力信号の関係を示す図である。It is a figure which shows the outline | summary of the processing method performed in the process part of the signal processing apparatus shown in FIG. 1, and is a figure which shows the relationship between an input signal, the transfer function of an observation system, noise, and the output signal observed. 本発明の実施の形態に係る信号処理装置で実施される第1または第2の処理方法となる復元用データ作成シーケンスを説明するための処理フロー図である。It is a processing flowchart for demonstrating the data creation sequence for a restoration used as the 1st or 2nd processing method implemented with the signal processing apparatus which concerns on embodiment of this invention. 本発明の実施の形態に係る信号処理装置の処理部が行う第1の処理方法の詳細を説明する図で、(A)は入力信号から1回変化信号が得られる過程を示す図で、(B)は、復元処理の際の考え方を示す図である。It is a figure explaining the detail of the 1st processing method which the process part of the signal processing apparatus which concerns on embodiment of this invention performs, (A) is a figure which shows the process in which a change signal is obtained once from an input signal. B) is a diagram illustrating the concept of the restoration process. 本発明の実施の形態に係る信号処理装置の処理部が行う第3の処理方法を説明するための図で、特定の画素に偏在しているノイズを周囲の画素に広げることで、ノイズの影響を軽減する様子を表す図である。It is a figure for demonstrating the 3rd processing method which the process part of the signal processing apparatus which concerns on embodiment of this invention performs, and it is the influence of noise by spreading the noise unevenly distributed in a specific pixel to a surrounding pixel. It is a figure showing a mode that it reduces. 本発明の実施の形態に係る信号処理装置の処理部が行う第4の処理方法となる復元用データ作成シーケンスを説明するための処理フロー図である。It is a processing flowchart for demonstrating the restoration data creation sequence used as the 4th processing method which the process part of the signal processing apparatus which concerns on embodiment of this invention performs. 本発明の実施の形態に係る信号処理装置の処理部が行う第4の処理方法の変形例となる、復元用データ作成シーケンスを説明するための処理フロー図である。It is a processing flow figure for explaining the data creation sequence for restoration used as the modification of the 4th processing method which the processing part of the signal processor concerning an embodiment of the invention performs. 本発明の実施の形態に係る信号処理装置の処理部で行う処理方法の他の例となる、画像復元処理方法(反復処理)に係る処理ルーチンを説明するための処理フロー図である。It is a processing flowchart for demonstrating the processing routine which concerns on the image restoration processing method (iteration process) which is another example of the processing method performed by the process part of the signal processing apparatus which concerns on embodiment of this invention.

符号の説明Explanation of symbols

1 信号処理装置
2 撮影部(受信部)
3 制御系部
4 処理部
5 記録部
6 検出部
7 静的変化情報保存部
in 入力信号
out 出力信号
g 伝達関数(元変化情報、既知の変化関数)
g_1 第1変化関数(既知の変化関数)
g_2 第2変化関数(既知の変化関数)
out_1 1回変化信号(複数回変化信号)
out_2 2回変化信号(複数回変化信号)
g_all 加工済み元変化情報(総合伝達関数)
DESCRIPTION OF SYMBOLS 1 Signal processing apparatus 2 Imaging | photography part (reception part)
3 Control system unit 4 Processing unit 5 Recording unit 6 Detection unit 7 Static change information storage unit in input signal out output signal g transfer function (original change information, known change function)
g_1 first change function (known change function)
g_2 Second change function (known change function)
out_1 Single change signal (Multiple change signal)
out_2 Twice change signal (multiple change signal)
g_all Processed original change information (total transfer function)

Claims (10)

信号の計測、観測、および/または記録の過程で変化した観測信号である出力信号から、上記変化する前の信号もしくは本来取得されるべきであった理想信号、またはその近似信号(以下、入力信号という)への復元を行なう処理部を有する信号処理装置において、
上記処理部は、1種または複数種の既知の変化関数を用いて、上記出力信号をさらに1回または複数回変化させた複数回変化信号に加工し、上記既知の変化関数および、上記入力信号から上記出力信号へと変化する要因となる元変化情報から得られる、加工済み元変化情報を利用して復元を行うことを特徴とする信号処理装置。
From the output signal, which is an observation signal that has changed in the process of signal measurement, observation, and / or recording, the signal before the change or the ideal signal that should have been originally acquired, or its approximate signal (hereinafter referred to as the input signal) In a signal processing apparatus having a processing unit for performing restoration to
The processing unit uses one or more types of known change functions to process the output signal into a multiple change signal that is changed once or multiple times, and the known change function and the input signal A signal processing apparatus that performs restoration using processed original change information obtained from original change information that causes a change from the output signal to the output signal.
前記加工済み元変化情報は、前記元変化情報から算出された伝達関数と、前記既知の変化関数とを重畳積分して得られる総合変化関数であることを特徴とする請求項1記載の信号処理装置。   The signal processing according to claim 1, wherein the processed original change information is a comprehensive change function obtained by superimposing a transfer function calculated from the original change information and the known change function. apparatus. 前記信号処理装置は、外乱を検出する検出部を有し、
前記加工済み元変化情報は、上記検出部で検出された上記外乱に起因する前記誤差またはノイズの影響、および/または前記信号処理装置に生来的に存するものに起因して生ずる前記誤差またはノイズの影響を軽減するためのものであることを特徴とする請求項1記載の信号処理装置。
The signal processing device has a detection unit for detecting disturbance,
The processed original change information is the influence of the error or noise caused by the disturbance detected by the detection unit and / or the error or noise generated due to the inherent presence in the signal processing device. 2. The signal processing apparatus according to claim 1, wherein the signal processing apparatus is for reducing an influence.
前記処理部は、前記既知の変化関数として、前記元変化情報に基づく変化関数を用いることを特徴とする請求項1または2記載の信号処理装置。   The signal processing apparatus according to claim 1, wherein the processing unit uses a change function based on the original change information as the known change function. 前記処理部は、復元処理対象となる信号に対して逆変換処理または逆畳み込み演算処理を行うことを特徴とする請求項1記載の信号処理装置。   The signal processing apparatus according to claim 1, wherein the processing unit performs an inverse transform process or a deconvolution operation process on a signal to be restored. 前記信号を画像としたことを特徴とする請求項1から5のいずれか1項に記載の信号処理装置。   The signal processing apparatus according to claim 1, wherein the signal is an image. 前記元変化情報は、画像のぶれ情報、画像の焦点情報、光学情報のいずれか1つ以上を含むことを特徴とする請求項6記載の信号処理装置。   The signal processing apparatus according to claim 6, wherein the original change information includes at least one of image blur information, image focus information, and optical information. 所定の信号から変化した変化信号へと移行する際に得られる、上記変化する要因となる元変化情報に対し、1種または複数種の既知のデータを利用することを特徴とする変化情報の生成方法。   Generation of change information characterized by using one or a plurality of types of known data for the original change information that causes the change, which is obtained when a change signal is changed from a predetermined signal Method. 所定の信号から変化した変化信号へと移行する際に得られる、上記変化する要因となる元変化情報に対し、1種または複数種の既知のデータを重畳積分し、加え、またはかけ合せることを特徴とする変化情報の生成方法。   To superimpose, add, or multiply one or more types of known data to the original change information that causes the change, obtained when shifting from a predetermined signal to a change signal that has changed. A method of generating characteristic change information. 所定の信号から変化した変化信号へと移行する際に得られる、上記変化する要因となる元変化情報と、1種または複数種の既知のデータと、その既知のデータを利用して上記変化信号をさらに変化させて得られる複数回変化信号とを生成し、上記元変化情報と上記既知のデータとを重畳積分し、得られた重畳積分値を上記複数回変化信号から上記所定の信号へと復元するための加工済み元変化情報とすることを特徴とする変化情報の生成方法。   The original change information that causes the change, the one or more kinds of known data, and the change signal using the known data, which are obtained when shifting from a predetermined signal to a changed signal Is generated by further changing the signal, and the original change information and the known data are superimposed and integrated, and the obtained superimposed integration value is changed from the multiple-time change signal to the predetermined signal. A method of generating change information, characterized by using processed original change information for restoration.
JP2006299484A 2006-11-02 2006-11-02 Signal processing apparatus and change information generation method Expired - Fee Related JP4809190B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006299484A JP4809190B2 (en) 2006-11-02 2006-11-02 Signal processing apparatus and change information generation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006299484A JP4809190B2 (en) 2006-11-02 2006-11-02 Signal processing apparatus and change information generation method

Publications (2)

Publication Number Publication Date
JP2008118399A true JP2008118399A (en) 2008-05-22
JP4809190B2 JP4809190B2 (en) 2011-11-09

Family

ID=39503974

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006299484A Expired - Fee Related JP4809190B2 (en) 2006-11-02 2006-11-02 Signal processing apparatus and change information generation method

Country Status (1)

Country Link
JP (1) JP4809190B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008032883A (en) * 2006-07-27 2008-02-14 Eastman Kodak Co Image processor

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004186901A (en) * 2002-12-02 2004-07-02 Sony Corp Image pickup device and method, program and recording medium

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004186901A (en) * 2002-12-02 2004-07-02 Sony Corp Image pickup device and method, program and recording medium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008032883A (en) * 2006-07-27 2008-02-14 Eastman Kodak Co Image processor

Also Published As

Publication number Publication date
JP4809190B2 (en) 2011-11-09

Similar Documents

Publication Publication Date Title
KR101274061B1 (en) Image processing apparatus and image processing method
JP4518197B2 (en) Imaging apparatus, image blur correction method, and program
JP2011029735A (en) Image processor, imaging device, and image processing method
WO2004066619A1 (en) Image processing device and method, recording medium, and program
JP2007114466A (en) Photographing device incorporating camera shake correcting function
US20180352154A1 (en) Image processing method, electronic device, and non-transitory computer readable storage medium
US7903897B2 (en) Image processing apparatus
JP4885150B2 (en) Image processing device
JP2008021271A (en) Image processing apparatus, image restoration method, and program
JP4809190B2 (en) Signal processing apparatus and change information generation method
JP2010177919A (en) Image recording apparatus and manufacturing apparatus of the same
JP5133070B2 (en) Signal processing device
JP4602860B2 (en) Image processing device
JP2007129354A (en) Image processing apparatus
JP4606976B2 (en) Image processing device
JP2012085205A (en) Image processing apparatus, imaging device, image processing method, and image processing program
JP5247169B2 (en) Image processing apparatus, image processing method, and image processing program
JP4598623B2 (en) Image processing device
WO2011033675A1 (en) Image processing apparatus and image display apparatus
JP4718618B2 (en) Signal processing device
JP4763419B2 (en) Image processing device
JP4629537B2 (en) Image processing device
JP4449777B2 (en) Imaging apparatus, image processing apparatus and method, recording medium, and program
JP5007234B2 (en) Image processing device
JP2007116332A (en) Image processing apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091022

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110726

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110818

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140826

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4809190

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees