JPH05502990A - 像記録における動きの影響を最小化する方法とそのための装置 - Google Patents

像記録における動きの影響を最小化する方法とそのための装置

Info

Publication number
JPH05502990A
JPH05502990A JP3512693A JP51269391A JPH05502990A JP H05502990 A JPH05502990 A JP H05502990A JP 3512693 A JP3512693 A JP 3512693A JP 51269391 A JP51269391 A JP 51269391A JP H05502990 A JPH05502990 A JP H05502990A
Authority
JP
Japan
Prior art keywords
image
pixel
motion
recording medium
smoothing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP3512693A
Other languages
English (en)
Inventor
バックラー アンドリュウ ジョン
フォーゲル サージ ヴァレンチノビッチ
Original Assignee
イーストマン コダック カンパニー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by イーストマン コダック カンパニー filed Critical イーストマン コダック カンパニー
Publication of JPH05502990A publication Critical patent/JPH05502990A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/097Digital circuits for control of both exposure time and aperture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/269Analysis of motion using gradient-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2217/00Details of cameras or camera bodies; Accessories therefor
    • G03B2217/005Blur detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるため要約のデータは記録されません。

Description

【発明の詳細な説明】 像記録における動きの影響を 最小化する方法とそのための装置 技術分野 二の発明は、動きの検出、特に像の記録において動きの影響を最小にするために 、検出された動きを利用することに関する。
背景技術 一般消費者の写真の15−20%は「検知できる程度の像のぼけの問題」を抱え ており、カメラの揺れと被写体の動きがその原因のかなりを占めていると思われ る。
様々なツヤツタスピードと各スピードにおける最大許容動きとの間を、次のよう に関係つけることができよう。すなわち、高性能カメラでは、仕上げられたプリ /トに「検知できる」限度以内かこの限度に等しい動きをンヤ・ツタ−が開いて いる量検出し、それによって、ンヤノタースピードを、常に選択する。
一つの方法は、ンヤソターを開いておき、どの程度の量の動きて、「検知できる 」かまたは「検知できない」かて、得られる写真の品質低下の発生を決定する二 とである。このような動きの決定は、特定のカメラと特定の使用者についてはイ ]tよりれでいる。0.001”の「等価線形スミア」は検知できる程度である が、fl、o02”の「等価線形スミア」は非検知とされている。
カメラの考えられる動きには、並進及び回転成分を含めて6種類の自由度がある 。「縦比れ」と「横搗れ」という回転成分は、レンズの拡大にともない、フィル ムの平面における動きの大部分を占めていることが、実験的に確認されている。
さらに、これらの成分は、それら自体フィルム平面に対する2つの直交軸に沿う vAlt5変位として概ね現われる。従って、「同値線形スミア」は、実際の動 き、すなわちカメラの物理的寸法、及びレンズの塩点距離を考慮して推定される 。
カメラ技術においては、動いている物体からの像を、カメラあるいは像の動きの 量と方向を決定するために、計数的に比較する。このような決定は、カメラの動 きの量を抑制、あるいは被写体の動きの測定に使用される情報を得るのに特に9 効である。例えばフィルムに像が検索されると、像はデジタル1し式に変換され 、9効と選択された画像処理方法により処理される。静止あるいは動いている被 写体からIr7た像のふれを最小、あるいは除失するために、丁?lfちカメラ の像を′ム定させることが重飲である。いずれにしろ、カメラの11に形成され たf象をデンタルに比較して、像の動きの量と方向を決定することがl+J能で ある。このような検出は、カメラの取扱ばかりでなく像の動きを測定するための 情報を得る点て特に重要である。
従来のノj法は、問題(大部分の手持ち静1トカメラあるいは大衆、カムコーダ ーにあるような問題)を無視しているか、高頻度の動き(専門家用のビデオカメ ラにあるような動き)を抑制するのに機械的な装置を使用しているかのいずれか である。機械的装置は、被写体のあらゆる種類の動きなどの他の動き変数をnj 定不Ill能であるばかりでなく、特に重いという欠点かある。しかし、被写体 の動き、カメラの動き、または両方の動きの組合せにより、像の品質低下が発生 するのである。経時変化する像のデジタル処理は、機械的抑制法よりも相対的動 きを/PI疋するのにより柔軟性かあり、大きな動きに対して補正あるいは調整 かできる。
デジタル処理を行なう先行技術では、通常、様々な方法で動きを検出し測定して いる。一つは、同一の像領域自体の対比(例えば、1以上のセンサー走査線)を 事後に行なう二とである。[変化の程度Jを知ることはできるか、原因に関する 4司察はされない。
二の分野の関連特許としては、アメリカ特許4,673.276号、「カメラの ふれ検出装置」吉田、他かある。この特許では、第1の時点と第2の時点におい てCCDCDイノ−ッサからの出力信号により対比を行なっている。これらの1 、J号は、しきい値と比較され、はけか許容レベルを越えているか否か判定し、 越えている場合には許容不可能なほやけか発生していること及び、像をさらに写 すようにと表示する。
関連のあるもう一つの特許は、アメリカ特許第4.492.452号、「カメラ ための写真はけ警報装置」、銘木、他である。この特許には、二つの異なった時 点毎に、像の複数点の絶対光度(明るさうを測定する装置が開示されている。
各点における二つの数値を比較し、判定表を用いて、差がしきい値を越えるとぼ け状態を示す警報信号か出される。
明暗度を基礎とする方法は、発光体の差異の影響を受け品い。すなわち、様々t よ発光状懸の下では出力端は明暗度の変動に対して、通常安定していないからで ある。さらに、ンヤノター・スピードを遅くする以外の他の方法で動きを補償せ ねばならない場合には、動きの「方向」を知らせることができない。
代案として、「グレー・レベル整合」が行なわれ、「コーナー」や「エツジ・レ ノツ(edge−1eLs ) Jにおける青白の所定の光度パターンを見つけ たり、他の満足のいく特性を見つけ出している。これらは2つのフレーム内で行 なわれ、変位か測定される。このような方法の2つの異なった例については、デ ィー・ティ・ロートンの「平行変位ンークエンスの処理」、コンピュータ・ヴイ ノヨン、グラフィックス及び画像処理、1983.22.116−144、及び ハンス・ヘルムート・ナゲル、「画像ンークエンスにおける第2級明暗度変化に 起因する変位ベクトルJ、1983.21.85−117に示されている。被写 体の動きに関、Q功<ある場合には、この方法では、青白に「エツジ」を見つけ 出し、エツジのフレーム間での動きを追いかける。これは最高級の技術であり、 他の方法が明暗度に基つく作業のみであるとすれば、他の方法では要求されない 程度の分割強さと、記号表示が必要であるという点て最も複雑である。さらに、 これらの方法の多くは、光学フロー・フィールドがすてに計算されており、手に 入れ易いと仮定しているか、この仮定は殆ど不可能に近い。
上述の方法はすべてかなり様々な問題を抱えている。一つは、「一致の問題」で あり、これは二つ以上の像間に共通の特徴を見つけだす能力である。もう一つは 、1象に持釘の特性を見つけだすか、または広範に使用可能なバッチのサイズと 位置を決定するための計算の難しさである。さらに、これらの方法は遠近法に係 わる難しさも持っている(すなわち、被写体と観察者間の相対的変位または動き によりもたらされる遠近画法における次元上の誤差である)。明暗度を基礎とす る他の方法は、発光体の変化の影響を受け易い。すべての方法は、ある分量の処 理を連続的に行なわねばならないという問題がある。何故ならば、特性を並列的 に見つけ出すことは可能であっても、数と性質は像に左右されるため、見つけ出 された個々の特徴を通常連続的に処理せねばならない。
時空的勾配魔法(spatio−temporal gradienL app roach )ては、像の明暗度関数の部分空間時間微分を計算し、これらの数 値に基づいて「光学フロー・フィールド」をAPI定する、すなわち、3象位置 における特Hの運動ベクトルの列をAPI定する。このような方法には、以下の ような3つの重要な問題がある。第1に、像位置における運動ベクトルの決定は 数学的に難しい。いわゆる「アパーチャ」の問題であり、他の仮定または手がか りかない場合には、像の変化度に直交する速度成分を決定する難しさである。こ れ自体では、合意に達する形の解決方法はまた無い。2番目の主要な問題は、第 1の問題により悪化されるものであるが、像位置における動きベクトルの計算は 、現在及び予想されるカメラ装置の能力では、処理できない難しさかある。第3 の問題は、閉塞境界域(occlusion boundaries)の存在( 導関数か存在しない領域)に起因する空間導関数を正確に計算することの難しさ である。
合理的な方法で、カメラと被写体間の相に・I運動を効果的に1lPI定し、動 き状態をhli+卜する二とかでき、さらに、回復段階で少なくともこのような 動き状態を補正要素として使用することかできるとすれば、便利であろう。しか しながら、先ず測定した動きにより、シャッター速度に影響を与える必要かあり 、動きが検出される時には高速度か好ましいが、他の場合には低速にする必要が ある。
発明のi要 3画素位置に特有の運動ベクトルの測定は、本発明では必要ではない。最も筒中 なレベルでは、硯野内の各位置における空間または時間微分に関して、全視野の 単一速度ベクトルを直接最小2乗適合させることによって、カメラの動きが決定 される。
本発明では、像全体に分布される像点か、時間のみならず2つの空間次元におけ る部分導関数の計算に使用されている。これらの部分導関数は、全導関数を強制 的に零とするように合算される。そしてこれにより、一時的変化の全体の量のみ ならず、被写体とカメラ間の正味の平行変位の相対方向と速度が得られる。本発 明の好ましい実施t=tiによれば、カメラ操作の記録段階において次の手順に より運動の影響を最小にすることが可能である、すなわちa、対応する画素位置 における像の明暗度を個々に表わす複数の画素値として電気的に少なくとも2つ の連続する像を捉える、b、数値化された像を形成するために前記画素値を数値 化する、C1数値化された像の画素値を平滑化する、d、青白の2つの空間成分 と1つの時間成分を計算することにより各画素位置における明暗度の変化を決定 する、 e、lI内の変化成分を計算を利用して動きの程度度その正味の方向に対応する 動きの媒介変数を計算する、と f、計算された媒介変数を用いて像の記録媒体への記録を制御することを特徴と する。
上記の方法を用いて本発明を実施するためのカメラを提供することが目的の−っ である。カメラは検出された動き信号に応して、動きの記録が効果的に最小にな るように反対の動きを記録媒体に提供する。すなわち、本装置は、対応する画素 位置における像の明暗度を各々が示す複数の画素値として電気的に、少なくとも 2つの連続する像を検索するためのセンサを有している。さらに、A/Dコンバ ータは画素値をデジタル化し、デジタル化された像を形成する。平滑化器は画素 値を平滑化し、決定手段は像の2つの空間微分成分と1つの時間微分成分を計算 して各画素位置の明暗度の変化を決定する。計算装置は、青白の変化の成分の4 算を利用して、動きの度合いとその正味の方向に対応する動きパラメータを計算 する。使用装置は計算された動きパラメータを用いて、記録媒体上への像の記録 を制御する。
上記のことから、本発明の主要な目的の一つは手持ちカメラの動きを決定し、検 索された像への影響を最小にするために改善された方法とその装置を提供する二 とであることがわかろう。
本発明の他の目的は、カメラに関して、写された被写体の動きを決定するための 方法と、その装置を提供することである。
本発明のさらなる目的は、ぼけを最小にするために、カメラと画像化される被写 体間の検出された相対的な動きに応して、フィルムまたはイメージセンサの動き を調整する装置を提供することである。
動きて品質の低下した陰画(negaHves )を最小にするための方法及び 、その装置を提供することが、本発明の他の目的である。
さらに、像の回復に使用される動きパラメータを記録することか、本発明の[1 的である。
本発明の上述の目的及び他の目的は、以下の説明と図面を参照することによりさ らに明らかになろう。図中、同一の番号は同一の部分を表わす。
図面の簡単な説明 第1図は、本発明を実施するためのカメラのブロック図である。第2図は、第1 図のブロックの一つを構成する機能サブ・ブロックを示す。第3図は、本発明を カメラに適用した他の実施例を示す。第4図は、第3図のブロックの一つを構成 する機能サブ・ブロックを示す。第5図は、好ましい0シツク・ブ0ツク図形式 を用いて、第1と第3図に示された3つのブロックの詳細を示す。第6図は、異 なる時・ハでの2つの像に対する画素値の関係を示す斜視図である。第7図は、 画X飛び越しと平滑化によりデータを少なくする方法を示す分解図である。
発明を実施するための最良の形聾 第1図に示すように、本発明の装置は、イメージセンサ16とレンス装置14に より像が合憤されるフィルム・パック32を有するカメラ10からなる。好まし い1象記録媒体としてフィルム・パック32か示されているが、CCDイメージ セフすI1乏の他の媒体を使用可能であることは明らかである。センサ16から の電気信号は、A/Dコンバータ18へ入ツノされる。コンバータ18は出力と してデフタル化された像をIとラベルして送出する。信号■は境界平滑化ブロッ ク2r]に人力され、人力信号Iは後述する出力信号■1の供給方法により、平 滑化される。Sl・心化された信号は、係数計算ブロック22と、遅延回路24 の人ツノに送られる。fi延回路24は出力■。を供給する。係数計算ブロック 22は遅延信号またはjl−遅延信号を受信し、包括的にfと名付けられた3つ の信号を供給する。
これらの信号は、計算された運動係数と等しく、2個の空間と1個の時間部分微 分u、v、tに対応する。変位・時間変化計算ブロック26によって作られる信 号が、信号u、v、tである。これら3つの信号は入力として、露光変数決定ボ ックス28へ送られる。第2図には、ブロック28を構成する機能ブロックが詳 細に示されている。機能ブロックには番号40.42.44が付与されている。
二こでは詳細には説明しないが、人ノJu、v、tは、それぞれXとy方向と時 間領域における像全体の動きを表わしている。さらに、発光度信号りとASA信 号か、ボックス28に人力される。発光度信号は発光度検出器30がら得られ、 ASA信号はフィルム・パック32内のフィルムからの信号である。露光変数決 定ボックス28は、ンヤノター・スピードSに到着する人力信号のすべてと、口 径値へ制御信号を使用する。信号SとAはシャッター制御器34によって、カメ ラのンヤ、ター・スピードとカメラのアパーチャ36の開きの制御のために使わ れる。ブロック28は、最大関数決定ブ0ツク40、運動関数の光レベル調整ブ 0ツク42と、シャッターまたはアパーチャ優先露光変数決定機能ブロック44 より構成されている。最大関数決定ブロック40は、3つの信号u、v、tを受 信し、最大値信号mの供給を決定する。最大値信号mは、ブロック42の発光度 検出器30により調整信号L°を供給するために、発生した信号りの値と比較さ れる。信号L゛ はL−m (動きに関して補償された光レベル)と等しい。A SA信号と共に信号L゛はシャッターまたはアパーチャ優先露光変数決定ブロッ ク44により使用され、適切なンヤノターまたはアパーチャ制御信号SとAをそ れぞれ供給する。
本発明の他の実施例が第3図に示されている。この実施例では、カメラと被写体 間の相対的動きに反する方向に、フィルム・パック32を駆動するための信号U とVか使用されている。この反対方向への動きが、記録された像のはけを効果的 に解消するか、最小にする。第3図の実施例は第1図の実施例と同様であるか、 ト記の点て異なっている。すなわち、第3図の露光変数決定ブロック5oは信号 Uと■を受信せず、信号UはX軸に沿ってフィルムパック32を駆動するために 、そして信号VはフィルムをX軸に直行する方向に動かすために使用される。
第4図には、ブロック50を構成する機能ブロック42と44が示されている。
これらのブロックの動作は、第2図の同符号のブロックの動作と同しである。
本発明の他の態様においては、信号u、v、tをカメラに設けられているRAM 等のメモリに記録することも可能である。カメラ及び/または記録媒体と共に、 取り外し6■能なRAMのチップは、後で回復アクセスに使用することもてき、 リモート処理機械に導入することができる。
先に述へたように、本発明に適用されるアルゴリズムは、時空的勾配方法に基つ いている。異なった時点て測定される明暗度の変化は、空間における動きに起因 するという仮定のちとに、このアルゴリズムは運用される。これは、いまユニで 関連のある短時間に関しては、概ね正しい。「光学フロー・フィールド」を計算 すると、各像位置におけるベクトルは、2つの連続像フレーム間の位置の変位を 示す。これは、全微分を零に設定することによりなされる。すなわち、なお、I (i、j)は像の明暗度関数である。
x、dx/dtに沿う動き(速度)による簡略化した変位を、Uと定義し、y。
dy/dtに沿う速度を■と定義する。
311&位置において独立したベクトルを計算すると(全体の光学フロー・フィ ールドを計算するために)、2つの未知数(Uと■)が一つの方程式にあるため に問題か難しいことがわかる。
このアルゴリズムは、全体の光学フロー・フィールドをもたらすことを除いて、 ここで終わってしまうが、代わりにフィールドに対する一個のベクトル(時間的 導関数のみを感知するスカラ信号を加算する)を計算する。この方法では、当面 する問題に対する帰結がないことを認識して、空間勾配に直交する速度成分を過 小Kf価するという可能性を受け入れることにより、アパーチャの問題(前述) を回避できる。単一のベクトルを計算することにより、全体の光学フロー・フィ ールドを11算するための必要条件をかなり少なくする。さらに、像の明暗度関 数を微分関数で平滑化することにより、像の明暗度関数の非線形特性(これは閉 塞境界域に導関数が存在しないために生ずる)が緩和される(選択される関数は ガウス関数である)。
平滑化後、u、l!:vとを推定される部分微分に最小2乗適合させることによ り、満足な結果が得られる。次の記数法が導入される。
ここで、I’ (i、Dは平滑化された像の明暗度関数であり、 ()は勾配演 算とを用いて、誤差を二乗すると、 Uに関して部分微分をとると、 Vに関して同様にすると、 2の係数を無視して、観測値、すなわち画素位置、を算出し、合計を零にして、 再配列すると、 ΣΣ(f;す2u+ΣΣts’t↓)υ=−ΣΣfxjL’】二Σf4j f: j u+ΣΣコ(f;す2υ=−Σ]二f:j f:)2つの未知数がある2つ の1次方程式を用いる方法では、動きの測定に合致する解答が得られる。合成信 号の演算は、便宜上次のようになる。
像フレームから実際に測定される明暗度値に、所望の出力運動パラメータを関係 つける一連の式か、上記の微分から得られた。
第5図に示されるように、回路を構成するチップ上の平行化の度合を最大にする ように構成された導入処理の段階として、このアルゴリズムは実施される。これ らには、ガウス平滑化関数との2つの1次元像の相関変換、すなわち、像の部分 空間微分の[算と、時間微分の概算が含まれる。像フレームからの測定値を複数 のI& jM置で合算すると、方程式系の係数か得られる。これらの係数に基づ いて、導入(pipcline)処理の後段で方程式系に解答か得られる。この 方法の運用に関してさらに考慮すべきことは、人力データ数を減少するための直 接の試みである「画素1をび越しくpixel skiplling) Jとい う概念であり、ハードウェアの復雑さを減らずための手段として使用される。画 素飛び越しついては、第8図に関連して詳しく述へる。
以[・のステップは、第5図に示した回路のハードウェア機能に対応するもので あり、前に数学的に説明したことを実施するように構成されており、データは前 述のものと同しである。
1、複合「シフト・アント・アントj (SAS)ステージを用いて、デノタル 化されたセ/す信号1 <l、J)は−次元(読み出される線)に沿って平滑化 される、その結果、所定の画素値が左右の隣接値を用いて変換される。その距離 に基づく範囲へ、ガウンアン・マスクに対応する重みにより、各隣接値をおよそ 乗算するのと同じ効果を得るために、各隣接値は置換される。マスクの有限範囲 へ、重みを2の累乗に無理に抑制することによる精度の限界があるために、各種 はほんの概算値である。これらの置換された値は合算され、合成的な画素の後の 値となる。これはSA3回路50によって行なわれる。マスク“RCG″はSA S 50に(及び5AS52)に送られる。すなわち、特定のガウス・マスク乗 数が採用されていることを示しているが、所定の実施内でハードウェアされてい るはずである。
「画素飛び越しファクタ」をここに適用でき、この計算はn番目の画素毎に行な われるのみである。nは「画素飛び越しファクタ」である。このステージの出力 は直接ステージ2に与えられる。
2 平滑化の第2ステージは、SA5回路52を用いて行なわれる。平滑化のこ のステージは、第1のステージの方向に直交する方向に沿って行なわれる。画素 飛び越しのみならずガウンアン・マスクの範囲が有限であることがここでも適用 される。しかしながら、ここでの出力は、次のステージ、すなわち係数計算ブロ ック22に、直接またはワン・ビート遅延回路24て緩衝され遅延された状態て 使用てきるのである。
3 次に、3つの部分微分を計算する。これらは、Xとyに関する空間微分と時 間微分である。画素自体と8つの隣接値の2つを用いて、対称的で有限な誤差に より概算される。先行ステージで実行された画素飛び越して残ったすべての画素 位置において行なわれる。現在のフレームからの画素は、第6図に示されるよう に部分的に緩衝された前の値と共に使用される。微分の計算が完了すると、前回 の値は今回の値に取り替えられる。この点では、 (i、’j’、 、i、j′ 、とtp”’か計算されている。ここで、i’ j’ は画素飛び越しファクタ アーによって減少された次元を表わしている。
4、減少された画素位置の各々において、以下が計算される。
(f′xす゛> 、 ti゛;゛べ′1′。
5 総3F@得るために、減少されたeiJ素の総和の計算が、前ステージで計 算された量の各自に対してなされる。ここで、τ信号か完成される。
6 スカラ量を用いて、以下を計算する。
denom = d> −d2 を計算する。
8、v−num/denom。
9、Lll = V(fx、f3/1. を計算、本発明の重要な特徴は、平滑 化と画素飛び越しの組合せによって、連続ステージの人力データを、ステージに よって減らすことができることである。第7図を参照すると、各ステージの平滑 化に付随して減少が行なわれ、後続のステージでは最小のアレイのサイズでの操 作のみが必要であり、全人力像の明暗度データと同し効果を得ることかできる。
まず、センサ領域の中央にある窓からの画素のみを使用する。次に、各ステージ の平滑化に付随して、連続して2回画素飛び越しijなう。平滑化により、平滑 化された「範囲」だけ「突出する」。水平に平滑化する(rsENsORJから rTEMPJに)ので、これは垂直に表示される、そして垂直に平滑化する場合 (rTEMPJから−rFRAMEJに)には、水平に表示される。
ハードウェアの複雑さを包括する、例えばチップ・エリアとして、計算すること は可能である。チップ・エリアは、アルゴリズムの実行に用いたステージから得 られる式と、各ステージで処理されるデータ・ポイント数に比例する。この複雑 さをもたらす3つの要因の効果に注目すると、以下のことがわかる。
1 ウィンド側Sは、個々の像位置で作用する各ステージの演算、あるいはこれ らの直接微分において、その2乗となる。
2、画素飛び越しファクタnは、分割により飛び越しが行なわれるステージにお ける演算数を減らす。
3 ガウンアン・マスクeの範囲は、隣接値の演算が必要であるため、使用され るステージにおいてファクタとしてそれ自体によって演算数を増加させる。
4、個々の像位置からの結果を総計した後、これらのスカラ演算の固定数を計算 するための付加定数を使用可能である。
現在のアルゴリズムと、いくつかのステージを結合すると、なお、e ガウンア ンの範囲、S、ウィンド側、n 画素飛び越しファクタである。
第1項は、第1ステージの複雑さを定義しており、ウィンド側の平方により乗算 され、画素飛び越しファクタによって分割されるガウシアンマスクの範囲である 。第2項は、第2ステージを表わし、両次光に対して画素飛び越しが実行されて いることを除いては、第1のステージの複雑さと同様である。第3項は、ステー ジ3〜5を表わし、ここてはエリア演算であるが、有効な隣接値演算を使用して いない。最後の定数項は、ステージ6〜11を表わし、これはスカラ演算である 。明らかに、関係は近似である、何故ならば全ての演算を均一に扱っているから である。しかし、比較のためのエリアの複雑さを十分に測定することはできる。
表1は、上記の式を用いて計算したエリアの復雑さを示している。ここでは、各 ファクタについて3つのレベルがあり、計算された最小値で分割されている(そ の結果、表中、最低の複雑さは“1“、その他すべては乗法因子とみなされる) 。
各種数値に対してファクタを設定するという意味の深い結果と、チップ回路のエ リアの複雑さに関して、これらが互いに如何に関係し合うかが分かる。以下の実 験から判明した事項と一緒に考えると、詳細な設計構想に完全に関係があること が分かる。
・ウィンドの寸法は精度には殆ど関係無い。寸法を小さくすることは、ハードウ ェアの複雑さを減らすという点ては注目に値する。
・ウィンドが小さくなるに連れて、像の細部に対する感度がよくなる。すなわち 、大きなウィンドよりも、小さなウィンドを使用する方が、測定値が変動する。
しかし、120x120より大きなウィンドを用いてもたいして意味はないよう である。
・一般に、動きの精度は、平行な動き(「大きさ」)と直交(「垂直」)動きが 中位の領域にあるとき、最も正確である。さらに、「大きさ」と「垂直」との間 に不均衡がある場合には、精度は低下する。これは、動きの2つの成分がおよそ 等しいときに、精度か最良であることを意味している(現実的な動きのモデルと 一緒になって、画素のサイズとフレーム率の大きさを制御可能であり、アルゴリ ズムの範囲を定義できる)。
・動きが極度の場合には、精度が減少し、そのような場合には像の細部に対して 感度がより大きくなるということか分かってきた。しかし、像の細部に対する感 度は、動きの方向にはあまり左右されない(すなわち、「大きさ」と「垂直」か 同しであるときに精度が最良であったように)。
・ガウンアンマスクの範囲を増やすと、動きの検出された領域に対して、精度が およそ6あるいは7の範囲に改善される。さらにマスクを増やすと、精度が実際 に悪化した。これは所望の領域に関して過度のはけが発生するせいであると古、 われた。
・動きの量に関係なく、マスクが大きくなると、像の細部に対するアルゴリズム の感度が減少する。
・画素飛び越しは、低い大きさく low magni tudes)ときは精 度を4または5に改善するが、精度をより高くする場合には、高い大きさくhi gh magnitudes )方がよい。
・マスクの範囲に関しては、像の細部に対する感度が測定される場合、画素飛び 越しファクタ及び変位の大きさとの間には、有意義な関係はないようである。
付表Aは、本発明の方法を実施するために用いたコード表である。以上、本発明 の好ましい実施例につき説明したが、本発明の主旨から逸脱することなく、種々 の変更か可能であることは言うまでもない。そのような変更は、請求の範囲に網 羅されているものとする。
マでシマ 要約書 本発明の方法と装置において、隣接する画素位置の発光度における変化量に沿っ て四六時中、それぞれの像画素位置において連続する像間の発光度の変化量を検 知することによって、動きか検出される。これらの変化量はその時の個々の像変 化量の方向と同様に全像の変位量を算出するのに使用される。信号から算出され 表現される全変位量によって、信号は実際の時に、カメラのンヤンター速度、ア パーチャの開き、及び/または記録(9におけるほけを最小化するために動きの トラックの方向にフィルムを動かすことを制御するのに使用することもてきる。
これらの同し信号は、例えば回復プロセスに後に使用するために記憶させること もてきる。
国a!1審輻牛

Claims (27)

    【特許請求の範囲】
  1. 1.記録媒体上に光学像を記録する際の動きの影響を最小にする方法であって、 a.対応する画素位置における像の明暗度を個々に表わす複数の画素値として電 気的に少なくとも2つの連続する像を捉える、b.数値化された像を形成するた めに前記画素値を数値化する、c.数値化された像の画素値を平滑化する、d. 像内の2つの空間成分と1つの時間成分を計算することにより各画素位置におけ る明暗度の変化を決定する、 e.像内の変化成分を計算を利用して動きの程度度その正味の方向に対応する動 きのパラメータを計算する、と f.計算されたパラメータを用いて像の記録媒体への記録を制御することを特徴 とする。
  2. 2.前記ステップcには、さらに前記画素位置の各々において平滑化された値を 得るために隣接値の画素値に対してガウシアン乗数を用いて各画素位置を平滑化 することが含まれることを特徴とする請求項1に記載の方法。
  3. 3.前記ステップcには、さらに中間結果を得るために、像の第1次元に沿って ガウシアン乗数を使用し、前記画素値の各々において平滑化された値を得るため に像の直交次元に沿ってガウシアン乗数を用いることが含まれることを特徴とす る請求項2に記載の方法。
  4. 4.前記ステップcには、平滑化行程で所定数の画素を飛び越すことが含まれる ことを特徴とする請求項1記載の方法。
  5. 5.前記ステップcには、対称誤差計算に有限数の隣接値画素値を使用すること を特徴とする請求項1に記載の方法。
  6. 6.前記ステップeの動きパラメータは、全微分を強制的に零にして計算される ことを特徴とする請求項1に記載の方法。
  7. 7.前記ステップeの動きパラメータは、最小2乗適合によって計算されること を特徴とする請求項6に記載の方法。
  8. 8.前記ステップeの動きパラメータは、記録媒体の光学像に対する露光時間に 影響を与えるために使用されることを特徴とする請求項1に記載の方法。
  9. 9.記録媒体は、前記計算されたパラメータに基づいて動かされることを特徴と する請求項1に記載の方法。
  10. 10.前記ステップeの動きパラメータは、将来使用するために記憶されること を特徴とする請求項1に記載の方法。
  11. 11.記録媒体を有するカメラと、 像を受信し、また一部の受信された像を対応する画素値にそれぞれ像の明暗度を 表わす複数の画素値として電気信号に変換するセンサ手段と、を用いる記録媒体 への像記録における動きの影響を最小化する方法であって、以下のステップを含 む。 a.複数の連結した画素位置における明暗度の値を変位時間に検知するステップ と、 b.前記aステップによって検知された複数の明暗度の値を、デジタル化された 画素値にするために、それぞれデジタル化するステップと、c.前記bステップ のデジタル化された画素値を平滑化するステップと、d.前記cステップの平滑 化されたデジタル画素値を用いて、像内における2つの空間微分成分と1つの時 間微分成分を算出することにより、それぞれの画素位置における明暗度の変化量 を決定するステップと、e.像内における変化量成分を用いることによって、動 きの度合い及びその動きの方向に対応する動きパラメータを算出するステップと 、f.前記動きパラメータを用いて前記記録媒体への前記像記録を制御するステ ップ。
  12. 12.請求の範囲11の方法であって、前記画素位置の夫々に平滑化された値を 得るために、隣接画素値においてガウシアン乗数マスクを用いて、それぞれの画 素位置を平滑化するステップを含む。
  13. 13.請求の範囲12の方法であって、前記cステップは、さらに以下のステッ プを含む。 前記ガウシアン乗数マスクを前記像の第1の次元に沿って用いることによって中 間結果を得るステップと、 前記ガウシアン乗数マスクを前記像の直交次元に沿って用いることによって、そ れぞれの画素位置における画素値を平滑化するステップ。
  14. 14.請求の範囲11の方法であって、前記cステップは、さらに前記平滑化プ ロセスにおいて所定の画素位置を飛び越すステップを含む。
  15. 15.請求の範囲11の方法であって、前記dステップは、さらに対象な微分演 算において、ある有限数の隣接画素値を用いるステップを含む。
  16. 16.請求の範囲11の方法であって、前記eステップの動きパラメータは全微 分をゼロに設定することによって、算出される。
  17. 17.請求の範囲11の方法であって、前記eステップの動きパラメータは最小 2乗法によって算出される。
  18. 18.請求の範囲11の方法であって、前記eステップの動きパラメータは前記 光学像への前記記録媒体の露光時間を制御するために使用される。
  19. 19.請求の範囲11の方法であって、前記記録媒体は前記算出されたパラメー タに応じて変位される。
  20. 20.請求の範囲11の方法であって、前記eステップの動きパラメータは将来 使用するために記憶される。
  21. 21.記録媒体への光学像記録における動きの影響を最小化する装置であって、 以下の手段を含む。 a.対応する画素位置における前記像の明暗度を示す電気的な画素置で表現され た少なくとも2つの連続する像を検索する手段と、b.前記画素値をデジタル化 する手段と、c.前記デジタル化された画素値を平滑化する手段と、d.前記像 の2つの空間微分成分と1つの時間微分成分を算出することによって、それぞれ の画素位置における明暗度の変化量を決定する手段と、e.前記像の変化量成分 を算出することによって、動きの度合い及び正味の動き方向に対応する動きパラ メータを算出するステップと、f.前記動きパラメータを用いて前記記録媒体へ の前記像記録を制御する手段。
  22. 22.記録媒体への像記録における動きの影響を最小化する装置であって、以下 の手段を含む。 a.画素位置からなる複数の領域における明暗度の値を変位時に検知する手段と 、 b.デジタル化された画素値を得るため、前記検知手段からの複数の明暗度の値 のそれぞれをデジタル化するデジタル手段と、c.前記デジタル化された画素値 を平滑化するための前記デジタル手段からの出力を受信する平滑化手段と、 d.前記平滑化手段からの平滑化されたデジタル画素値を用いて、像内における 2つの空間微分成分と1つの時間微分成分を算出することにより、それぞれの画 素位置における明暗度の変化量を決定する手段と、e.像内における変化量成分 を用いることによって、動きの度合い及びその動きの方向に対応する動きパラメ ータを算出する手段と、f.前記動きパラメータを用いて前記記録媒体への前記 像記録を制御するための使用手段。
  23. 23.請求の範囲22の装置であって、以下の手段を含む。 前記平滑化手段からの出力を受信し、前記平滑化された画素値の遅延させる遅延 手段と、 前記平滑化された画素値を遅延または非遅延された入力として受信し、前記算出 された動きパラメータ手段に変位信号を出力として供給する係数算出手段。
  24. 24.請求の範囲22の装置であって、原像の明暗度に対応するレベルと記録媒 体のASA値とを有する信号に沿って、前記動きパラメータを算出する手段から 動きの変位信号を入力として受信して露光パラメータを決定し、前記使用手段に 補正された動きパラメータを供給する補正手段を含む。
  25. 25.請求の範囲22の装置であって、前記使用手段内に、シャッター手段と原 像を記録媒体に記録することを制御する前期供給された動きパラメータ補正の夫 々応答するアパーチャ手段を含む。
  26. 26.請求の範囲22の装置であって、検出された動きを補正するために、前記 変位信号に応じて少なくとも1つの軸の沿って動きを供給する前記記録媒体に連 結する手段を含む。
  27. 27.請求の範囲23の装置であって、検出された動きを補正するために、前記 変位信号に応じて少なくとも1つの軸の沿って動きを供給する前記記録媒体に連 結する手段を含む。
JP3512693A 1990-07-19 1991-07-17 像記録における動きの影響を最小化する方法とそのための装置 Pending JPH05502990A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US07/554,768 US5030984A (en) 1990-07-19 1990-07-19 Method and associated apparatus for minimizing the effects of motion in the recording of an image
US554,768 1990-07-19

Publications (1)

Publication Number Publication Date
JPH05502990A true JPH05502990A (ja) 1993-05-20

Family

ID=24214643

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3512693A Pending JPH05502990A (ja) 1990-07-19 1991-07-17 像記録における動きの影響を最小化する方法とそのための装置

Country Status (4)

Country Link
US (1) US5030984A (ja)
EP (1) EP0493565A1 (ja)
JP (1) JPH05502990A (ja)
WO (1) WO1992001996A1 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2692053B2 (ja) * 1990-04-27 1997-12-17 キヤノン株式会社 像ブレ防止装置及び該装置に適用される装置
US5257209A (en) * 1990-06-26 1993-10-26 Texas Instruments Incorporated Optical flow computation for moving sensors
JP2860702B2 (ja) * 1990-10-16 1999-02-24 シャープ株式会社 動きベクトル検出装置
JP2600504B2 (ja) * 1991-01-25 1997-04-16 日本ビクター株式会社 動きベクトル検出回路
KR940003934B1 (ko) * 1991-02-01 1994-05-09 삼성전자 주식회사 비데오 카메라의 자동셔터스피드 제어회로
GB2259423A (en) * 1991-09-09 1993-03-10 British Broadcasting Corp Automatic control of television camera iris
GB2262853B (en) * 1991-12-20 1995-07-19 Sony Broadcast & Communication Digital video signal processing
US5991459A (en) * 1992-01-22 1999-11-23 Eastman Kodak Company Method of modifying a time-varying image sequence by estimation of velocity vector fields
US5598488A (en) * 1993-09-13 1997-01-28 Massachusetts Institute Of Technology Object movement estimator using one-dimensional optical flow
US5764871A (en) * 1993-10-21 1998-06-09 Eastman Kodak Company Method and apparatus for constructing intermediate images for a depth image from stereo images using velocity vector fields
JP3444005B2 (ja) * 1995-02-24 2003-09-08 ミノルタ株式会社 撮像装置
JPH09307857A (ja) * 1996-05-17 1997-11-28 Sony Corp 画像信号処理装置及び画像信号処理方法
WO1998034400A1 (en) * 1997-01-31 1998-08-06 Sharp Kabushiki Kaisha Scene-motion based dynamic shutter speed adjustment system and method
US6008865A (en) * 1997-02-14 1999-12-28 Eastman Kodak Company Segmentation-based method for motion-compensated frame interpolation
GB2449219B (en) * 1997-06-06 2009-04-08 Matra Bae Dynamics Apparatus for the evaluation of polynomials
KR100242014B1 (ko) * 1997-06-20 2000-02-01 윤종용 디지털 스틸 카메라의 셔터 속도 제어 장치 및 방법
JP3939889B2 (ja) * 2000-02-01 2007-07-04 ペンタックス株式会社 像振れ防止デジタルカメラ
US6441848B1 (en) 2000-05-19 2002-08-27 Damon L. Tull Preventing blur caused by motion of the subject in a digital image
US20020180876A1 (en) * 2001-06-01 2002-12-05 Sobol Robert E. Intelligent motion blur minimization
KR100919340B1 (ko) * 2001-09-07 2009-09-25 인터그래프 소프트웨어 테크놀로지스 캄파니 비디오 이미지의 역다중화 방법, 장치 및 컴퓨터 프로그램제품
KR100415313B1 (ko) * 2001-12-24 2004-01-16 한국전자통신연구원 동영상에서 상관 정합과 시스템 모델을 이용한 광류와카메라 움직임 산출 장치
US7271830B2 (en) * 2002-02-11 2007-09-18 Hewlett-Packard Development Company, L.P. Motion detection in an image capturing device
JP4392583B2 (ja) * 2003-06-27 2010-01-06 ソニー株式会社 信号処理装置および信号処理方法、並びにプログラムおよび記録媒体
US7162151B2 (en) * 2003-08-08 2007-01-09 Olympus Corporation Camera
US20050280892A1 (en) * 2004-05-28 2005-12-22 Nobuyuki Nagasawa Examination method and examination apparatus
US20050285947A1 (en) * 2004-06-21 2005-12-29 Grindstaff Gene A Real-time stabilization
JP3922278B2 (ja) * 2004-09-10 2007-05-30 コニカミノルタフォトイメージング株式会社 振れ補正機構付きカメラ
DE102004045430A1 (de) * 2004-09-18 2006-05-18 Deutsche Telekom Ag Vorrichtung zur Bildstabilisierung
US7082378B2 (en) * 2004-11-18 2006-07-25 Hewlett-Packard Development Company, L.P. Displacement sensing by comparing matrices of pointwise measurements
JP4967228B2 (ja) * 2004-11-29 2012-07-04 ソニー株式会社 コンテンツ通信システム、通信装置および方法、並びにプログラム
US20100013940A1 (en) * 2005-06-21 2010-01-21 Nittoh Kogaku K.K. Image processing apparatus
US20070070177A1 (en) * 2005-07-01 2007-03-29 Christensen Dennis G Visual and aural perspective management for enhanced interactive video telepresence
US7509038B2 (en) * 2005-09-29 2009-03-24 Seiko Epson Corporation Determining maximum exposure time to limit motion blur during image capture
US8289404B2 (en) * 2006-07-20 2012-10-16 Panasonic Corporation Imaging capture device with blur compensation
DE102006034205B4 (de) * 2006-07-25 2012-03-01 Carl Mahr Holding Gmbh Dynamische Bildaufnahme mit bildgebenden Sensoren
US20080231714A1 (en) * 2007-03-22 2008-09-25 Texas Instruments Incorporated System and method for capturing images
US8494297B2 (en) * 2007-04-05 2013-07-23 Adobe Systems Incorporated Automatic detection and mapping of symmetries in an image
JP5493942B2 (ja) * 2009-12-15 2014-05-14 ソニー株式会社 撮像装置と撮像方法
US9813601B2 (en) 2014-05-06 2017-11-07 Urugus S.A. Imaging device for scenes in apparent motion

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3399307A (en) * 1965-05-20 1968-08-27 Bell & Howell Co Motion sensing exposure system for optical instruments
DE2738804C2 (de) * 1977-08-29 1983-10-20 Canon Inc., Tokyo Einrichtung zum Erkennen der Relativbewegung zwischen einem Objekt und dieser Vorrichtung
US4764781A (en) * 1987-02-26 1988-08-16 Grumman Aerospace Corporation Universal translational and rotational film drive mechanism
JP2863188B2 (ja) * 1989-03-22 1999-03-03 松下電器産業株式会社 撮像装置

Also Published As

Publication number Publication date
WO1992001996A1 (en) 1992-02-06
US5030984A (en) 1991-07-09
EP0493565A1 (en) 1992-07-08

Similar Documents

Publication Publication Date Title
JPH05502990A (ja) 像記録における動きの影響を最小化する方法とそのための装置
US7495699B2 (en) Imaging method and system
US7260270B2 (en) Image creating device and image creating method
US7856174B2 (en) Apparatus and method for image pickup
US9305375B2 (en) High-quality post-rendering depth blur
CN1332556C (zh) 修正抖动的图像处理装置和图像处理方法
US9325918B2 (en) Image processing apparatus, imaging apparatus, solid-state imaging device, image processing method and program
CN1675919B (zh) 摄像系统及图像处理方法
US20060119710A1 (en) Systems and methods for de-blurring motion blurred images
US20090040364A1 (en) Adaptive Exposure Control
WO2018221224A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
Várkonyi-Kóczy et al. Gradient-based synthesized multiple exposure time color HDR image
CN109883391B (zh) 基于微透镜阵列数字成像的单目测距方法
TWI469085B (zh) 影像處理裝置、影像處理方法及電腦可讀取記憶媒體
CN114584700B (zh) 对焦标记方法、标记装置以及电子设备
JP2006180268A (ja) 画像処理装置、画像処理方法、プログラム、及び記録媒体
JP2019168862A (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および、記録媒体
KR20120013767A (ko) 영상 처리 장치
JP6989819B2 (ja) データ補正装置、データ補正方法、および、データ補正プログラム
JP6921606B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2001157214A (ja) 撮像システム
JP5228929B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP2021093694A (ja) 情報処理装置およびその制御方法
JP7346021B2 (ja) 画像処理装置、画像処理方法、撮像装置、プログラムおよび記録媒体
JP4580307B2 (ja) 検出画像領域決定装置および対象画像の特徴量算出装置ならびにそれらの制御方法およびそれらの制御プログラム