JPH10162120A - 動画像処理方法ならびに動画像処理装置 - Google Patents

動画像処理方法ならびに動画像処理装置

Info

Publication number
JPH10162120A
JPH10162120A JP8321753A JP32175396A JPH10162120A JP H10162120 A JPH10162120 A JP H10162120A JP 8321753 A JP8321753 A JP 8321753A JP 32175396 A JP32175396 A JP 32175396A JP H10162120 A JPH10162120 A JP H10162120A
Authority
JP
Japan
Prior art keywords
data
dimensional
output
input
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP8321753A
Other languages
English (en)
Inventor
Kunihiko Hara
邦彦 原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP8321753A priority Critical patent/JPH10162120A/ja
Publication of JPH10162120A publication Critical patent/JPH10162120A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Complex Calculations (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

(57)【要約】 【課題】 演算量が非常に多く、高い演算速度が要求さ
れ、低コスト化、小型化が困難であるという課題があっ
た。 【解決手段】 時刻tを一定の時間間隔ずつ進めなが
ら、その時刻tにおける2次元入力データを入力し、カ
ーネルAと2次元出力データとの畳み込み積分、および
カーネルBと2次元入力データとの畳み込み積分をそれ
ぞれ行なって、それらを加算することによって2次元状
態データを算出し、得られた2次元状態データに所定の
変換を施して2次元出力データの更新を行ない、時刻t
が処理終了時刻となるまで、この更新された2次元出力
データを用いた2次元状態データの計算以降の処理を繰
り返して実行するようにしたものである。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、動画像に対する
エッジ検出、平滑化、多値化などを実行する動画像処理
方法ならびに動画像処理装置に関するものであり、特
に、処理画像が最終的に人間の目に対して出力される表
示において有効な画像処理に関するものである。
【0002】
【従来の技術】図14はたとえば、論文「セルラー ニ
ューラル ネットワーク;理論(Cellular N
eural Networks;Theory)」およ
び「セルラー ニューラル ネットワーク;応用(Ce
llular NeuralNetworks;App
lications)」,(エル・オー・チァー、エル
・ヤン(L.0.Chua,L.Yang),アイ・イ
ー・イー・イー トランザクションズ オン サーキッ
ツ アンド システムズ(IEEE Transact
ions on Circuits and Syst
ems),Vol.35,No.10,October
1988,pp.1257〜1272およびpp.1
273〜1290)に示された、従来の画像処理方法を
デジタル演算で実行する場合の動作の手順を示すフロー
チャートである。
【0003】図において、ST1は2次元入力データU
(i,j)を入力するデータ入力のステップであり、S
T2は2次元出力データY(i,j)の初期値を設定す
る初期設定のステップである。ST3は2次元状態デー
タX(i,j)を計算する状態データ演算のステップで
あり、ST4は2次元出力データY(i,j)を計算す
る出力データ演算のステップである。ST5は演算が収
束したか否かを判定する収束判定のステップであり、S
T6は算出した2次元出力データY(i,j)を出力す
るデータ出力のステップである。
【0004】次に動作について説明する。まずステップ
ST1において、2次元データ上の各ポイント(i,
j)のすべてに対して、2次元入力データU(i,j)
を入力する。次にステップST2に進んで、すべてのポ
イント(i,j)に対して2次元出力データY(i,
j)の初期値(たとえば0)を設定する。その後ステッ
プST3において、すべてのポイント(i,j)に対し
て、2次元入力データU(i,j)とその時の2次元出
力データY(i,j)より、次に示す式(1)を用いて
2次元状態データX(i,j)を計算する。
【0005】 X(i,j)=A**Y(i,j)+B**U(i,j) ・・・ (1)
【0006】なお、上記式(1)における**は畳み込み
積分を表す。また、A,Bは次の式(2)で示すような
3×3のカーネルである。
【0007】
【数1】
【0008】次にステップST4において、ステップS
T3で算出された2次元状態データX(i,j)より新
たな2次元出力データY(i,j)を、次の式(3)を
用いて、すべてのポイント(i,j)に対して計算す
る。なお、この式(3)におけるθは図13に示した入
出力特性に基づく非線形処理である。
【0009】 Y(i,j)=θ(X(i,j)) ・・・ (3)
【0010】次にステップST5に進んで、この新たに
算出された2次元出力データY(i,j)について前回
の値からの変化を検出し、それが十分に小さな値となっ
たか否か、すなわち演算が収束したか否かについての判
定を行なう。収束していなければステップST3に戻
り、このステップST3とST4の処理を繰り返し実行
する。一方、収束している場合にはステップST6に移
り、すべてのポイント(i,j)に対して、ステップS
T4で算出された2次元出力データY(i,j)を出力
する。
【0011】図15に入力画像と演算が収束した後の出
力画像を示す。同図(a)に示した入力画像のエッジ部
が検出された画像が、同図(b)に示す出力画像として
得られていることがわかる。なお、ここではエッジ検出
の場合を例示したが、カーネルA,Bを変えるだけで、
平滑化、コーナー検出などさまざまな画像処理が実現で
きる。
【0012】また、論文「離散時間型CNNによる動画
像の多値表現」(池上宗光、田中衛1996年電子情報
通信学会春季総合大会D−313)には、従来の動画像
処理方法が記載されている。この場合、入力は動画像U
(i,j)[t]、各画素データの精度は8ビットであ
る。各フレームにおいて図14に示したフローチャート
の処理を実行することにより、8ビット(256値)の
2次元入力データU(i,j)[t]を4値で疑似表現
した2次元出力データY(i,j)が得られる(いわゆ
る中間調処理)。この各フレームに対する処理を処理終
了時刻まで繰り返せば、動画像に対する中間調処理が実
行できる。
【0013】ここで、たとえば画像サイズを2000×
2000、カーネルサイズを3×3とし、1枚の入力画
像に対する収束までの回数を10回とすると、各演算は
乗算と加算とから成っているので、演算量Iは次の式
(4)で与えられる。
【0014】 I=2000×2000×3×3×2×10=720×106 ・・・ (4)
【0015】そのため、フレームレート30Hzの動画
像に適用しようとすると、その演算速度を21GOPS
(=Giga Operations Per Sec
ond)という非常に高速なものにする必要がある。
【0016】
【発明が解決しようとする課題】従来の動画像処理方法
は以上のように構成されているので、演算量が膨大なも
のとなり、演算速度を非常に高速化することが必要とな
るため、低コスト化・小型化が必要な動画像処理装置に
この従来の動画像処理方法を適用することは困難である
という課題があった。
【0017】この発明は上記のような課題を解決するた
めになされたもので、演算量を削減し、低コスト化・小
型化が可能な動画像処理方法と、それを適用した動画像
処理装置を得ることを目的とする。
【0018】
【課題を解決するための手段】請求項1記載の発明に係
る動画像処理方法は、時刻tを一定の時間間隔ずつ進め
ながら、その時刻tにおける2次元入力データを入力
し、カーネルAと2次元出力データ、およびカーネルB
と2次元入力データの畳み込み積分をそれぞれ行なって
2次元状態データを計算し、得られた2次元状態データ
に所定の変換を施したもので2次元出力データの更新を
行ない、時刻tが処理終了時刻となるまで、この更新さ
れた2次元出力データを用いて前記2次元入力データの
入力以降の処理を繰り返すようにしたものである。
【0019】請求項2記載の発明に係る動画像処理方法
は、カーネルAと2次元出力データY(i,j)、およ
びカーネルBと2次元入力データU(i,j)[t]の
畳み込み積分をそれぞれ行なって2次元状態データX
(i,j)を計算する処理と、得られた2次元状態デー
タX(i,j)に所定の変換を施したもので2次元出力
データを更新する処理とを、2次元データのすべてのポ
イント(i,j)に対して実行するようにしたものであ
る。
【0020】請求項3記載の発明に係る動画像処理方法
は、時刻tにおける演算回数が指定回数だけ実行されて
いない場合に、処理を状態データ演算のステップに戻し
て以降の処理を繰り返し実行するようにしたものであ
る。
【0021】請求項4記載の発明に係る動画像処理方法
は、時刻tにおける1回目の演算においてのみ、カーネ
ルBと2次元入力データU(i,j)、およびカーネル
Aとその時の2次元出力データY(i,j)の畳み込み
積分をそれぞれ行なって、すべてのポイント(i,j)
に対する2次元状態データX(i,j)を演算し、その
際に求めた畳み込み積分の結果B**U(i,j)[t]
を保持データBU(i,j)としてすべてのポイント
(i,j)について記憶しておき、2回目以降の演算に
おいてはカーネルBと2次元入力データU(i,j)の
畳み込み積分は行なわずに、記憶しておいた保持データ
BU(i,j)を用いて2次元状態データX(i,j)
を簡略的に算出するようにしたものである。
【0022】請求項5記載の発明に係る動画像処理方法
は、2次元データ上にポイント(I,J)を設定し、そ
のポイント(I,J)を更新しながらポイント(I,
J)近傍における、カーネルAと2次元出力データY
(i,j)、およびカーネルBと2次元入力データU
(i,j)[t]の畳み込み積分をそれぞれ行なって2
次元状態データX(I,J)を計算する処理と、得られ
た2次元状態データX(I,J)に所定の変換を施した
もので2次元出力データを更新する処理とを実行するよ
うにしたものである。
【0023】請求項6記載の発明に係る動画像処理方法
は、時刻tにおける演算回数が指定回数だけ実行されて
いない場合に、処理をポイント設定のステップに戻して
以降の処理を繰り返し実行するようにしたものである。
【0024】請求項7記載の発明に係る動画像処理方法
は、時刻tにおける1回目の演算においてのみ、カーネ
ルBと2次元入力データU(I,J)、およびカーネル
Aとその時の2次元出力データY(I,J)の畳み込み
積分をそれぞれ行なって、ポイント(I,J)近傍の2
次元状態データX(I,J)を演算し、その際に求めた
畳み込み積分の結果B**U(I,J)[t]を保持デー
タBU(I,J)として記憶しておき、2回目以降の演
算においてはカーネルBと2次元入力データU(I,
J)の畳み込み積分は行なわずに、記憶しておいた保持
データBU(I,J)を用いて、ポイント(I,J)近
傍の2次元状態データX(I,J)を簡略的に算出する
ようにしたものである。
【0025】請求項8記載の発明に係る動画像処理方法
は、入力される全体画像より部分領域を選択して、当該
部分領域内のすべてのポイント(i,j)に対して、カ
ーネルAと2次元出力データY(i,j)、およびカー
ネルBと2次元入力データU(i,j)[t]の畳み込
み積分をそれぞれ行なって2次元状態データX(i,
j)を計算し、得られた2次元状態データに所定の変換
を施してそれで当該部分領域内のすべてのポイント
(i,j)の2次元出力データY(i,j)の更新を行
ない、その結果が収束するまでこの演算を繰り返し実行
するようにしたものである。
【0026】請求項9記載の発明に係る動画像処理装置
は、2次元入力データU(i,j)を複数行分記憶する
第1のメモリ回路、2次元出力データY(i,j)を複
数行分記憶する第2のメモリ回路、2次元出力データY
(i,j)の全体を記憶し、それを複数のデータを1つ
の単位として第2のメモリ回路に供給する第3のメモリ
回路、2次元入力データU(i,j)とカーネルとの畳
み込み積分を行なう第1の演算回路、および2次元出力
データY(i,j)とカーネルとの畳み込み積分結果
と、前記第1の演算回路からの積分結果とを加算して2
次元状態データX(i,j)を求め、それに非線形処理
を施して2次元出力データY(i,j)を計算し、外部
に出力するとともに、当該2次元出力データY(i,
j)を複数のデータを1つの単位として第3のメモリ回
路に転送して一時記憶させる第2の演算回路を備えたも
のである。
【0027】請求項10記載の発明に係る動画像処理装
置は、入出力端子と、第1および第2の演算回路を1つ
ずつ備えて、1行分ずつ入力される2次元入力データU
(i,j)を1行毎に処理して、得られた2次元出力デ
ータY(i,j)を外部に出力するようにしたものであ
る。
【0028】請求項11記載の発明に係る動画像処理装
置は、入出力端子と、第1および第2の演算回路をn個
ずつ備えて、入力される2次元入力データU(i,j)
をn行単位で並列に処理し、得られた2次元出力データ
Y(i,j)を外部に出力するようにしたものである。
【0029】
【発明の実施の形態】以下、この発明の実施の一形態を
説明する。 実施の形態1.図1はこの発明の実施の形態1による動
画像処理方法の動作の手順を示すフローチャートであ
る。図において、ST11は2次元出力データY(i,
j)の初期値を、2次元データのすべてのポイント
(i,j)に対して設定する初期設定のステップであ
る。ST12は時刻tを一定の時間間隔Δtずつ進める
時刻更新のステップであり、ST13はすべてのポイン
ト(i,j)に対して、時刻tにおける2次元入力デー
タU(i,j)[t]を入力するデータ入力のステップ
である。ST14はすべてのポイント(i,j)に対し
て、時刻tにおける2次元状態データX(i,j)を計
算する状態データ演算のステップであり、ST15はす
べてのポイント(i,j)に対して、2次元出力データ
Y(i,j)を計算し、更新する出力データ演算のステ
ップである。ST16は算出した2次元出力データY
(i,j)を、すべてのポイント(i,j)に対して出
力するデータ出力のステップであり、ST17は時刻t
が処理終了時刻に達したか否かを判定する時刻判定のス
テップである。
【0030】次に動作について説明する。ステップST
11において、まず画像上のすべてのポイント(i,
j)に対して、2次元出力データY(i,j)の初期値
(たとえば0)が設定される。次にステップST12に
進んで、時刻tを一定の時間間隔Δt(たとえば入力画
像のフレームレートが30Hzの場合には33ms)だ
け進め、ステップST13で、当該時刻tにおける2次
元入力データU(i,j)[t]を、すべてのポイント
(i,j)について入力する。次にステップST14に
おいて、その時の2次元出力データY(i,j)(この
場合には、最初の演算処理であるため、ステップST1
1で初期設定された初期値(たとえば0))と、このス
テップST13で時刻tに入力された2次元入力データ
U(i,j)[t]より、すべてのポイント(i,j)
に対する2次元状態データX(i,j)を、次の式
(5)を用いて計算する。すなわち、すべてのポイント
(i,j)毎に、前述の式(2)に示したカーネルAと
その時の2次元出力データY(i,j)との畳み込み積
分、およびカーネルBと時刻tにおける2次元入力デー
タU(i,j)[t]との畳み込み積分をそれぞれ行な
って、その結果を各ポイント(i,j)毎に加算するこ
とによって、それぞれのポイント(i,j)の2次元状
態データX(i,j)を計算する。
【0031】 X(i,j)=A**Y(i,j)+B**U(i,j)[t] ・・・ (5)
【0032】次にステップST15に進んで、すべての
ポイント(i,j)に対して、ステップST14で算出
された2次元状態データX(i,j)に対して、図14
に示した従来のステップST4と同様の式(3)を用い
た所定の変換を施し、新たな2次元出力データY(i,
j)を計算して、それまでの2次元出力データY(i,
j)をその値によって更新する。なお、この式(3)に
おけるθは図13に示した入出力特性に基づく非線形処
理であり、図13の例によれば、この入出力特性は、2
次元状態データX(i,j)の所定の範囲で2次元出力
データY(i,j)が線形に変化し、それ以上およびそ
れ以下の範囲では飽和して一定値となっている。
【0033】次にステップST16において、すべての
ポイント(i,j)に対して、ステップST15で算出
された2次元出力データY(i,j)の出力を行なう。
その後ステップST17に進み、時刻tが処理終了時刻
に到達したか否かを判定して、到達していれば一連の処
理を終了し、未到達の場合にはステップST12に戻っ
て、ステップST12からST16までの処理を繰り返
し実行する。
【0034】ここで、入力画像が時刻t=Tに変化し、
その後は変化しない場合について考える。t>Tでは2
次元入力データはU(i,j)[T]である。t=Tで
は式(5)に示す演算を1回だけ実行した画像の2次元
出力データY(i,j)が出力される。従来例に示した
ように、出力画像は十分に演算を繰り返して収束した画
像が望ましいので、このときの画質は高くないことにな
る。次にt=T+Δtでは、2回演算を実行した結果が
2次元出力データY(i,j)として出力される。同様
に、t=T+(n−1)Δtでは、n回繰り返した結果
が2次元出力データY(i,j)として出力される。す
なわち変化が生じてすぐは画質が高くないが、一定フレ
ーム時間後には高画質の画像が出力されることになる。
一方、入力画像に変化がない状態が続く場合において
は、演算結果である出力画像は各フレームとも同じであ
り、かつその入力画像に対する収束画像で高画質であ
る。
【0035】このような出力画像を動画像表示装置で表
示し、その画質を人間が判断する場合を考えると、一般
に人間の目は動画における画質はあまり気にならない。
すなわち、図1に示したこの実施の形態1による画像処
理方法によれば、より少ない演算量で人間の目に対して
十分な動画像の処理が実現できることになる。
【0036】実施の形態2.上記実施の形態1では、各
フレームにおける演算を1回だけ実行する場合について
示したが、各フレームの演算を指定された回数だけ実行
するようにしてもよい。図2はそのようなこの発明の実
施の形態2による動画像処理方法の動作の手順を示すフ
ローチャートである。図において、ST11は初期設定
のステップ、ST12は時刻更新のステップ、ST13
はデータ入力のステップ、ST14は状態データ演算の
ステップ、ST15は出力データ演算のステップ、ST
16はデータ出力のステップ、ST17は時刻判定のス
テップであり、これらは図1に同一の符号を付した実施
の形態1における各ステップと同様のステップである。
また、ST18は時刻tにおいてステップST14とス
テップST15とが指定回数だけ実行されたか否かを判
定して、指定回数だけ実行されていない場合には処理を
ステップST14に戻し、指定回数だけ実行されるとス
テップST16に処理を進める繰り返し完了判定のステ
ップである。実施の形態2はステップST15とステッ
プST16の間にこのステップST18が付加されてい
る点で、上記実施の形態1とは異なっている。
【0037】次に動作について説明する。まずステップ
ST11ですべてのポイント(i,j)に対して2次元
出力データY(i,j)の初期値(たとえば0)を設定
し、ステップST12で時刻tを一定の時間間隔Δtだ
け進めて、ステップST13にてその時刻tにおける各
ポイント(i,j)の2次元入力データU(i,j)
[t]を入力する。次にステップST14において、す
べてのポイント(i,j)に対して式(5)の計算を行
なって2次元状態データX(i,j)を求め、さらにス
テップST15で、すべてのポイント(i,j)に対し
て式(3)の計算を行なって、2次元出力データY
(i,j)を求め、その値でこれまでの2次元出力デー
タを更新する。なお、ここまでの動作は図1に示した実
施の形態1の場合と同様である。
【0038】その後ステップST18に進んで、上記ス
テップST14とステップST15による演算が、当該
時刻tにおいて指定された回数だけ実行されたか否かを
判定する。その結果、指定回数だけ実行されていない場
合には処理をステップST14に戻して、ステップST
14,ST15による演算を繰り返す。一方、指定回数
だけ実行されると、処理をステップST16に移行させ
て、以下、実施の形態1の場合と同様に処理を進める。
すなわち、ステップST16ではすべてのポイント
(i,j)に対して算出された2次元出力データY
(i,j)の出力を行ない、ステップST17では処理
終了時刻に到達したか否かを判断して、未到達の場合に
は処理をステップST12に戻す。
【0039】このように、この実施の形態2によれば、
各フレームで指定された回数だけ演算を行なっているた
め、実施の形態1の場合と比べて各フレームでの演算量
は増えるが、入力画像が変化したときに高画質な状態に
収束するまでの時間を短縮することができる効果があ
る。
【0040】実施の形態3.上記実施の形態2では、各
フレームにおける演算の繰り返しに際して、2回目以降
においてもカーネルBと2次元入力データU(i,j)
[t]との畳み込み積分の計算を行なう場合について示
したが、2回目以降の演算においては当該畳み込み積分
の計算を省略することも可能である。図3はそのような
この発明の実施の形態3による動画像処理方法の動作の
手順を示すフローチャートであり、実施の形態2の各ス
テップに相当するステップには図2と同一の符号を付し
てその説明を省略する。
【0041】図において、ST19は実行する演算が当
該時刻tにおける1回目の演算であるか否かを判定する
演算回数判定のステップである。ST20はこのステッ
プST19において1回目の演算であると判定された場
合に、ステップST14で2次元状態データX(i,
j)を演算する際に求めたB**U(i,j)[t]を、
保持データBU(i,j)として記憶しておくデータ記
憶のステップである。ST21はステップST19で1
回目の演算ではないと判定された場合に、畳み込み積分
の結果A**Y(i,j)に保持データBU(i,j)を
加算して2次元状態データX(i,j)を簡略的に算出
する簡略演算のステップである。実施の形態3は実施の
形態2におけるステップST14が、これらステップS
T19〜ST21とステップST14によって置き換え
られている点で、実施の形態2とは異なっている。
【0042】次に動作について説明する。ステップST
11で2次元出力データY(i,j)を初期化し、ステ
ップST12で時刻tをΔtだけ進めた後、ステップS
T13で2次元入力データU(i,j)[t]を入力す
る。その後、ステップST19において、これから実行
する演算が当該時刻tにおける1回目の演算か否かを判
定する。その結果、1回目であった場合にはステップS
T14に進んで、すべてのポイント(i,j)に対して
式(5)による2次元状態データX(i,j)の演算を
行なう。次にステップST20において、すべてのポイ
ント(i,j)について、上記ステップST14で式
(5)による2次元状態データX(i,j)を演算する
際に求めたカーネルBと2次元入力データU(i,j)
[t]との畳み込み積分の結果B**U(i,j)[t]
を、保持データBU(i,j)として記憶してステップ
ST15に進む。
【0043】一方、ステップST19において2回目以
降の演算であると判定された場合にはステップST21
に分岐する。ステップST21ではすべてのポイント
(i,j)に対して、次に示す式(6)により、カーネ
ルAとその時の2次元出力データY(i,j)との畳み
込み積分の結果A**Y(i,j)に、ステップST20
で記憶しておいた保持データBU(i,j)を加算する
ことによって、2次元状態データX(i,j)を簡略的
に計算した後、ステップST15に進む。
【0044】 X(i,j)=A**Y(i,j)+BU(i,j) ・・・ (6)
【0045】以下、実施の形態2の場合と同様に、ステ
ップST15で式(3)による2次元出力データY
(i,j)の演算、更新を、すべてのポイント(i,
j)について行ない、ステップST18で当該時刻tに
おける演算回数が指定値に達するまで処理をステップS
T19に戻して演算処理を繰り返す。演算回数が指定値
に達するとステップST16に進んで、すべてのポイン
ト(i,j)に対する2次元出力データY(i,j)の
出力を行ない、ステップST17にて処理終了時刻にな
ったことが検出されるまで、処理をステップST12に
戻して、この一連の処理を繰り返す。
【0046】このように、この実施の形態3では、各フ
レームにおける演算処理の繰り返しにおいて、2回目以
降は畳み込み積分B**U(i,j)の計算を省略するこ
とができるので、各フレーム当たりの演算量を実施の形
態2の場合よりも削減できる効果がある。
【0047】実施の形態4.上記実施の形態1から実施
の形態3において、各時刻tにおける演算においては常
にt=Δtのときの2次元出力データY(i,j)を使
用する場合について説明したが、すでに時刻tにおける
演算が完了している2次元出力データY(i,j)にお
いては、その新しい値を使用するようにしてもよい。図
4はそのようなこの発明の実施の形態4による動画像処
理方法の動作の手順を示すフローチャートであり、実施
の形態1の各ステップに相当するステップには図1と同
一の符号を付してその説明を省略する。
【0048】図において、ST22は2次元データ上の
ポイント(I,J)を設定するポイント設定のステップ
であり、ST23はこのステップST22で設定された
ポイント(I,J)近傍において、時刻tにおける2次
元状態データX(I,J)を計算する状態データ演算の
ステップである。ST24はこのステップST23にて
算出された2次元状態データX(I,J)より2次元出
力データY(I,J)を計算し、更新する出力データ演
算のステップであり、ST25はポイント(I,J)を
更新して、これらステップST23およびステップST
24の処理を実行すべきか否かを判定し、実行すべきで
ない場合には処理をステップST16に進め、実行すべ
きであれば処理をステップST22に戻すポイント更新
判定のステップである。
【0049】次に動作について説明する。まずステップ
ST11において、すべてのポイント(i,j)に対し
て2次元出力データY(i,j)を初期化する。次いで
ステップST12において、時刻tを一定時間間隔Δt
だけ進めた後、ステップST13において、すべてのポ
イント(i,j)に対して2次元入力データU(i,
j)[t]を入力する。そしてステップST22に移行
し、2次元データ上のポイント(I,J)の設定を行な
う。次にステップST23において、その時の2次元出
力データY(i,j)(最初の演算では、ステップST
11で初期設定された初期値)と、ステップST13で
時刻tに入力された2次元入力データU(i,j)
[t]より、すべての設定されたポイント(I,J)に
対する2次元状態データX(I,J)を、次の式(7)
を用いて計算する。すなわち、前述の式(2)に示した
カーネルAとその時のポイント(I,J)についての2
次元出力データY(I,J)との畳み込み積分、および
カーネルBと時刻tにおけるポイント(I,J)につい
ての2次元入力データU(I,J)[t]との畳み込み
積分をそれぞれ行なって、その結果を加算することによ
って、当該ポイント(I,J)についての2次元状態デ
ータX(I,J)を計算する。
【0050】 X(I,J)=A**Y(I,J)+B**U(I,J)[t] ・・・ (7)
【0051】次にステップST24に進んで、このステ
ップST23で算出された2次元状態データX(I,
J)に対して次に示す式(8)を用いた所定の変換を施
し、当該ポイント(I,J)についての新たな2次元出
力データY(I,J)を計算して、それまでの2次元出
力データY(I,J)を更新する。なお、この式(8)
におけるθも、たとえば図13に示した入出力特性に基
づく非線形処理である。
【0052】 Y(I,J)=θ(X(I,J)) ・・・ (8)
【0053】次にステップST25において、ポイント
(I,J)を更新してステップST23とステップST
24による演算を実行すべきか否かを判定する。判定の
結果、演算を実行する必要がある場合には、処理をステ
ップST22に戻してステップST22からステップS
T24までの処理を繰り返す。一方、演算の実行が不必
要な場合にはステップST16に進んで、すべてのポイ
ント(i,j)に対して2次元出力データY(i,j)
を出力する。次にステップST17において、処理終了
時刻に到達したか判断し、未到達であれば処理をステッ
プST12に戻して一連の処理を繰り返す。
【0054】このように、この実施の形態4によれば、
実施の形態1から実施の形態3においては、各時刻tに
おける演算において、常にt−Δtのときの2次元出力
データY(i,j)が使用されているのに対して、すで
に時刻tにおける演算が完了している2次元出力データ
Y(i,j)については、その新しい値が使用されるこ
とになるため、入力画像が変化した場合の演算の収束を
より速めることができる効果がある。
【0055】実施の形態5.上記実施の形態4では、各
フレームにおける演算を1回だけ実行する場合について
示したが、各フレームの演算を指定された回数だけ実行
するようにしてもよい。図5はそのようなこの発明の実
施の形態5による動画像処理方法の動作の手順を示すフ
ローチャートであり、実施の形態4のステップに相当す
る部分には図4と同一符号を付してその説明を省略す
る。図において、ST18は時刻tにおいてステップS
T22〜ステップST25の処理が指定回数だけ実行さ
れたか否かを判定して、指定回数だけ実行されていない
場合には処理をステップST22に戻し、指定回数だけ
実行されるとステップST16に処理を進める繰り返し
完了判定のステップである。実施の形態5はステップS
T25とステップST16の間にこのステップST18
が付加されている点で、上記実施の形態4とは異なって
いる。
【0056】次に動作について説明する。まずステップ
ST11にてすべてのポイント(i,j)に対して2次
元出力データY(i,j)を初期化する。次いでステッ
プST12で時刻tを一定の時間間隔Δtだけ進めた
後、ステップST13にてすべてのポイント(i,j)
に対して2次元入力データU(i,j)[t]を入力す
る。そしてステップST22においてポイント(I,
J)の設定を行ない、ステップST23にて当該ポイン
ト(I,J)に対して式(7)の計算を行なって2次元
状態データX(I,J)を求める。次にステップST2
4において、ポイント(I,J)に対して式(8)の計
算を行なって、2次元出力データY(I,J)を更新
し、さらにステップST25で、ポイント(I,J)を
更新してステップST23、ステップST24の処理を
行なうべきか否か判定する。その結果、処理を行なう必
要がある場合には、処理をステップST22に戻してそ
れらの処理を繰り返す。なお、ここまでの動作は図4に
示した実施の形態4の場合と同様である。
【0057】一方、処理が不必要な場合にはステップS
T18に進んで、上記ステップST23とステップST
24とによる演算が、当該時刻tにおいて指定された回
数だけ実行されたか否かを判定する。その結果、指定回
数だけ実行されていない場合には処理をステップST2
2に戻して、ステップST22〜ST25による処理を
繰り返す。一方、指定回数だけ実行されると、処理をス
テップST16に移行させて、以下、実施の形態4の場
合と同様に処理を進める。すなわち、ステップST16
ではすべてのポイント(i,j)に対して算出された2
次元出力データY(i,j)の出力を行ない、ステップ
ST17では処理終了時刻に到達したか否かを判断し
て、未到達の場合には処理をステップST12に戻す。
【0058】このように、この実施の形態5によれば、
各フレームで指定された回数だけ演算を行なっているた
め、実施の形態4の場合と比べて各フレームでの演算量
は増えるが、入力画像が変化したときに高画質な状態に
収束するまでの時間を短縮することができる効果があ
る。
【0059】実施の形態6.上記実施の形態5では、各
フレームにおける演算の繰り返しに際して、2回目以降
においてもカーネルBと2次元入力データU(I,J)
[t]との畳み込み積分の計算を行なう場合について示
したが、2回目以降の演算においては当該畳み込み積分
の計算を省略することも可能である。図6はそのような
この発明の実施の形態6による動画像処理方法の動作の
手順を示すフローチャートであり、実施の形態5の各ス
テップに相当するステップには図5と同一の符号を付し
てその説明を省略する。
【0060】図において、ST26は実行する演算が当
該時刻tにおける1回目の演算であるか否かを判定する
演算回数判定のステップである。ST27はこのステッ
プST26において1回目の演算であると判定された場
合に、ステップST23で2次元状態データX(I,
J)を演算する際に求めたB**U(I,J)[t]を、
保持データBU(I,J)として記憶しておくデータ記
憶のステップである。ST28はステップST26で1
回目の演算ではないと判定された場合に、畳み込み積分
の結果A**Y(I,J)に保持データBU(I,J)を
加算して2次元状態データX(I,J)を簡略的に算出
する簡略演算のステップである。実施の形態6は実施の
形態5におけるステップST23が、これらステップS
T26〜ST28とステップST23によって置き換え
られている点で、実施の形態5とは異なっている。
【0061】次に動作について説明する。ステップST
11にて2次元出力データY(i,j)を初期化し、ス
テップST12で時刻tをΔtだけ進める。次にステッ
プST13にて2次元入力データU(i,j)[t]を
入力し、ステップST22でポイント(I,J)の設定
を行なう。その後、ステップST26において、これか
ら実行する演算が当該時刻tにおける1回目の演算か否
かを判定する。その結果、1回目であった場合にはステ
ップST23に進んで、ポイント(I,J)について式
(7)による2次元状態データX(I,J)の演算を行
なう。次にステップST27において、そのポイント
(I,J)について、上記ステップST23で式(7)
による2次元状態データX(I,J)を演算する際に求
めた、カーネルBと2次元入力データU(I,J)
[t]との畳み込み積分の結果B**U(I,J)[t]
を、保持データBU(I,J)として記憶してステップ
ST24に進む。
【0062】一方、ステップST26において2回目以
降の演算であると判定された場合にはステップST28
に分岐する。ステップST28ではポイント(I,J)
に対して、次に示す式(9)により、カーネルAとその
時の2次元出力データY(I,J)との畳み込み積分の
結果A**Y(I,J)に、ステップST27で記憶して
おいた保持データBU(I,J)を加算することによっ
て、2次元状態データX(I,J)を簡略的に計算した
後、ステップST24に進む。
【0063】 X(I,J)=A**Y(I,J)+BU(I,J) ・・・ (9)
【0064】以下、実施の形態5の場合と同様に、ステ
ップST24で式(8)による2次元出力データY
(I,J)の演算を行ない、ステップST18で当該時
刻tにおける演算回数が指定値に達するまで処理をステ
ップST22に戻して演算処理を繰り返す。演算回数が
指定値に達するとステップST16に進んで、すべての
ポイント(i,j)に対する2次元出力データY(i,
j)の出力を行ない、ステップST17にて処理終了時
刻になったことが検出されるまで、処理をステップST
12に戻して、この一連の処理を繰り返す。
【0065】このように、この実施の形態6では、各フ
レームにおける演算処理の繰り返しにおいて、2回目以
降は畳み込み積分B**U(I,J)の計算を省略するこ
とができるので、各フレーム当たりの演算量を実施の形
態5の場合よりも削減できる効果がある。
【0066】実施の形態7.図7はこの発明の実施の形
態7による動画像処理方法の動作の手順を示すフローチ
ャートである。図において、ST11は初期設定のステ
ップ、ST12は時刻更新のステップ、ST13はデー
タ入力のステップ、ST16はデータ出力のステップ、
ST17は時刻判定のステップであり、これらは図1に
同一符号を付した示した実施の形態1の各ステップと同
等のものである。また、ST29は全体画像の一部を構
成する部分画像を表す領域の領域パラメータnの初期値
を設定する領域パラメータ初期設定のステップ、ST3
0はその領域パラメータnの値を更新して部分領域の選
択を行なう領域パラメータ更新のステップであり、これ
らは部分領域を選択して設定する領域設定のステップと
なっている。ST31はステップST30で選ばれた部
分領域の2次元状態データX(i,j)を計算する状態
データ演算のステップであり、ST32は2次元出力デ
ータのうちのステップST30で選ばれた部分領域の2
次元出力データY(i,j)を算出して更新する出力デ
ータ演算のステップである。ST33は時刻tにおける
演算が収束したか否かを判定する収束判定のステップで
ある。
【0067】次に動作について説明する。まずステップ
ST11において、2次元出力データY(i,j)の初
期値(たとえば0)の設定をすべてのポイント(i,
j)に対して行ない、次いでステップST29におい
て、領域パラメータnの初期値を−1に設定する。次に
ステップST12において時刻tを一定の時間間隔Δt
だけ進めた後、すべてのポイント(i,j)について、
2次元入力データU(i,j)[t]の入力をステップ
ST13において行なう。次にステップST30におい
て、領域パラメータnの値を1だけ大きくする。
【0068】ここで、図8は当該動画像処理方法におけ
る部分画像の分割を示す説明図である。その後、処理は
ステップST13からステップST31に進み、この図
8に示された8個の部分画像のうちの部分領域(n m
od 8)に対して、前述の式(5)に従って、カーネ
ルAと2次元出力データY(i,j)との畳み込み積
分、およびカーネルBと2次元入力データU(i,j)
[t]との畳み込み積分をそれぞれ計算し、それらの結
果を各ポイント(i,j)毎に加算することによって、
2次元状態データX(i,j)を算出する。なお、この
場合においても、カーネルAおよびBは前述の式(2)
に示した3×3のカーネルである。次にステップST3
2において、このステップST31で算出された部分領
域(n mod 8)の2次元状態データX(i,j)
の各データに対して、前述の式(3)に示した所定の変
換を施すことによって、当該部分領域内のすべてのポイ
ント(i,j)についての2次元出力データY(i,
j)を計算し、それをそれまでの2次元出力データY
(i,j)に代入してその更新を行なう。なお、この場
合も、上記式(3)におけるθは図13に示した非線形
処理である。
【0069】その後ステップST33に進み、ステップ
ST32において算出された部分領域(n mod
8)の2次元出力データY(i,j)の前回の値からの
変化が十分小さいか否か、すなわち演算が収束したか否
かについての判定を行なう。その結果、収束していない
場合には処理をステップST31に戻して、演算が収束
するまでステップST31とステップST32の処理を
再実行する。なお、部分領域(n mod 8)の2次
元出力データY(i,j)が収束するとステップST1
6に進んで、すべてのポイント(i,j)に対して2次
元出力データY(i,j)の出力を行なう。その後ステ
ップST17において、時刻tが処理終了時刻に到達し
たか否かについての判定を行ない、到達していれば一連
の処理を終了する。一方、到達していない場合にはステ
ップST12に戻って、処理終了時刻に到達するまで、
ステップST12からステップST16までの処理を繰
り返して実行する。
【0070】ここで、入力画像が時刻t=Tに変化し、
その後は変化しない場合について考える。その場合、8
フレームの間にすべての部分領域は1度ずつ処理され
る。すなわち時刻t=T+7△tのときに、高画質の収
束画像が得られる。一方、入力画像に変化がない状態が
続く場合には、各部分領域の収束値が演算の初期値とし
て与えられるので、演算により各領域の出力画像は変化
しない。すなわち所望の高画質画像が連続して出力され
る。
【0071】このように、この実施の形態7によれば、
複数フレームの期間で画像全体が収束するようにしたの
で、各フレームで扱う画素数は従来の動画像処理方法に
比べて8分の1になり、したがって、各フレームにおけ
る演算量も8分の1に削減できる効果がある。
【0072】実施の形態8.図9はこの発明の実施の形
態8による動画像処理装置の構成を示すブロック図であ
る。図において、1は当該動画像処理装置の入力端子で
あり、2は当該動画像処理装置の出力端子である。3は
入力端子1から入力される2次元入力データU(i,
j)の複数行のデータが記憶できる第1のメモリ回路、
4は出力端子2から出力される2次元出力データY
(i,j)の複数行のデータが記憶できる第2のメモリ
回路であり、5は出力端子2から出力される2次元出力
データY(i,j)の全体が記憶できる第3のメモリ回
路である。6は第1のメモリ回路3からb個ずつ供給さ
れる2次元入力データU(i,j)と、それ自身があら
かじめ内部に記憶しているサイズb×bのカーネルとの
畳み込み積分を計算する第1の演算回路であり、7は第
2のメモリ回路4からa個ずつ供給される2次元出力デ
ータY(i,j)と、それ自身が内部にあらかじめ記憶
しているサイズa×aのカーネルとの畳み込み積分を行
なうとともに、その積分結果に第1の演算回路6から供
給される積分結果を加算して2次元状態データX(i,
j)を計算した後、当該2次元状態データX(i,j)
に非線形処理を施すことによって2次元出力データY
(i,j)を算出する第2の演算回路である。
【0073】なお、第2の演算回路7で計算された2次
元出力データY(i,j)は出力端子2より外部に出力
されるとともに、第3のメモリ回路5に転送されてそこ
に一時記憶された後、第2のメモリ回路4に供給され
る。また、第2の演算回路7から第3のメモリ回路5へ
のデータの転送、ならびに第3のメモリ回路5から第2
のメモリ回路4へのデータの転送は、2次元出力データ
Y(i,j)の複数のデータを1つの単位として行われ
るものである。
【0074】また、図10は第1のメモリ回路3ならび
に第2のメモリ回路4の内部構成を示すブロック図であ
る。図において、11は入力されたデータを順番に蓄積
して最初に入力されたデータから順番に出力してゆくフ
ァーストイン・ファーストアウト形メモリ(以下、FI
FOという)による第1のメモリセルであり、12は同
じくFIFOによる第2のメモリセル、13は同じくF
IFOによる第3のメモリセルである。14は入力デー
タを第1のメモリセル11に入力する当該メモリ回路の
メモリ入力端子であり、15は第1のメモリセル11の
内容を出力する当該メモリ回路の第1のメモリ出力端
子、16は第2のメモリセル12の内容を出力する当該
メモリ回路の第2のメモリ出力端子、17は第3のメモ
リセル13の内容を出力する当該メモリ回路の第3のメ
モリ出力端子である。なお、第1〜第3のメモリセル1
1〜13の長さは画像の横幅に等しく設定されている。
【0075】次に図9に示した各ブロックの動作につい
て説明する。まず、ラスタースキャンによる2次元入力
データU(i,j)[t]の各画素データが入力端子1
に供給される。第1のメモリ回路3はその2次元入力デ
ータU(i,j)[t]に対して、U(i,j)
[t]、U(i,j+1)[t]、U(i,j+2)
[t]を、それぞれ第1〜第3のメモリ出力端子15〜
17から出力する。第1の演算回路6はそれ自身があら
かじめ記憶している、前述の式(2)で示すカーネルB
と、第1のメモリ回路3から順次供給される2次元入力
データU(i,j)[t]との畳み込み積分を計算し、
その積分結果B**U(i,j)[t]を第2の演算回路
7に出力する。
【0076】また、第2のメモリ回路4は第3のメモリ
回路5から転送されてくる2次元出力データY(i,
j)に対して、Y(i,j)、Y(i,j+1)、Y
(i,j+2)をそれぞれ第1〜第3のメモリ出力端子
15〜17から出力する。第2の演算回路7はそれ自身
があらかじめ記憶している式(2)に示したカーネルA
と、第2のメモリ回路4から順次供給される2次元出力
データY(i,j)との畳み込み積分の結果A**
(i,j)、ならびに第1の演算回路6から供給される
前述の畳み込み積分の結果B**U(i,j)[t]の値
を用いて、2次元状態データX(i,j)を前述の式
(5)を用いて計算する。第2の演算回路7は次に、式
(3)を用いた非線形処理により、その2次元状態デー
タX(i,j)から2次元出力データY(i,j)を計
算して出力端子2より外部に出力するとともに、第3の
メモリ回路5にもそれを出力する。
【0077】第3のメモリ回路5は、この第2の演算回
路7から出力される2次元出力データY(i,j)の1
フレーム分を記憶するとともに、次フレームの演算時に
それを順次第2のメモリ回路4に供給する。ただし、第
2の演算回路7から第3のメモリ回路5へのデータ転
送、ならびに第3のメモリ回路5から第2のメモリ回路
4へのデータ転送は、2次元出力データY(i,j)の
複数のデータを1つの単位として行なう。
【0078】以上の各ブロックの動作を組み合わせるこ
とにより、図1のフローチャートに示した動画像処理が
実現できる。すなわち入力端子1から各フレームの入力
画像を順次入力すると、出力端子2からエッジ検出され
た各フレームの出力画像が順次出力される。この動作は
装置全体を停止しない限り継続する。
【0079】このように、この実施の形態8によれば、
比較的汎用性が高い部品の組み合わせで動画像処理装置
を実現することができ、また、第3のメモリ回路5への
2次元出力データY(i,j)の入出力を、複数のデー
タを1つの単位として行なっているため、転送レートを
比較的低くすることが可能となり、低速の入出力レート
にしか対応できないが安価である大容量のメモリ(たと
えばダイナミックRAMなど)を第3のメモリ回路5と
して利用できるなどの効果がある。
【0080】実施の形態9.上記実施の形態8では、画
像の処理を1行毎に行なうものについて示したが、複数
行単位で画像の処理を並列に行なうようにしてもよい。
図11はそのようなこの発明の実施の形態9による動画
像処理装置の、2行単位で並列処理を行なう場合の構成
を示すブロック図である。図において、1a,1bは入
力端子、2a,2bは出力端子、3は第1のメモリ回
路、4は第2のメモリ回路、5は第3のメモリ回路、6
a,6bは第1の演算回路、7a,7bは第2の演算回
路であり、これらは図9に示した実施の形態8のそれら
に相当するものである。なお、この実施の形態9は、第
1の演算回路と第2の演算回路とを2つずつ備えている
点で、上記実施の形態8とは異なっている。
【0081】また、図12は第1のメモリ回路3ならび
に第2のメモリ回路4の内部構成を示すブロック図であ
る。図において、21はFIFOによる第1のメモリセ
ルであり、22は同じく第2のメモリセル、23は同じ
く第3のメモリセル、24は同じく第4のメモリセルで
ある。25は第1のメモリセル21への入力が行なわれ
る当該メモリ回路の第1のメモリ入力端子であり、26
は第2のメモリセル22への入力が行なわれる当該メモ
リ回路の第2のメモリ入力端子である。27は第1のメ
モリセル21の内容が出力される当該メモリ回路の第1
のメモリ出力端子であり、28は第2のメモリセル22
の内容が出力される当該メモリ回路の第2のメモリ出力
端子、29は第3のメモリセル23の内容が出力される
当該メモリ回路の第3のメモリ出力端子、30は第4の
メモリセル24の内容が出力される当該メモリ回路の第
4のメモリ出力端子である。この実施の形態9における
第1のメモリ回路3および第2のメモリ回路4は、2つ
のメモリ入力端子と4つのメモリ出力端子を有し、4つ
のメモリセルにて構成されている点で、実施の形態8の
それとは異なっている。なお、第1〜第4のメモリセル
21〜24の長さは画像の横幅に等しく設定されてい
る。
【0082】次に図11中の各ブロックの動作について
説明する。まず、ラスタースキャンによる2次元入力デ
ータU(i,j)[t]の奇数行の画素データが入力端
子1aに、偶数行の画素データが入力端子1bにそれぞ
れ供給される。第1のメモリ回路3はその2次元入力デ
ータU(i,j)[t]およびU(i,j+1)[t]
に対して、U(i,j)[t]、U(i,j+1)
[t]、U(i,j+2)[t]、U(i,j+3)
[t]をそれぞれ各メモリ出力端子27〜30から出力
する。第1の演算回路6aはそれ自身があらかじめ記憶
している式(2)で示すカーネルBと、第1のメモリ回
路3から順次供給される2次元入力データの奇数行との
畳み込み積分を行ない、積分結果B**U(i,j)
[t]の奇数行分を求めて第2の演算回路7aに出力す
る。第1の演算回路6bも同様にして、畳み込み積分結
果B**U(i,j)[t]の偶数行分を求めて第2の演
算回路7bに出力する。
【0083】また、第2のメモリ回路4は入力される2
次元出力データY(i,j)に対して、Y(i,j)、
Y(i,j+1)、Y(i,j+2)、Y(i,j+
3)をそれぞれ第1〜第4のメモリ出力端子27〜30
から出力する。第2の演算回路7aはそれ自身があらか
じめ記憶している式(2)に示すカーネルAと、第2の
メモリ回路4から順次供給される2次元出力データY
(i,j)の奇数行との畳み込み積分の結果A**
(i,j)、ならびに第1の演算回路6aから供給され
る前述の畳み込み積分の結果B**U(i,j)[t]の
奇数行の値を用いて、2次元状態データX(i,j)の
奇数行分を前述の式(5)を用いて計算する。第2の演
算回路7aは次に、式(3)を用いた非線形処理によ
り、その奇数行の2次元状態データX(i,j)から2
次元出力データY(i,j)の奇数行分を計算して出力
端子2aより外部に出力するとともに、第3のメモリ回
路5にもそれを出力する。第2の演算回路7bも同様に
して、2次元出力データY(i,j)の偶数行分を計算
して出力端子2aより外部に出力するとともに、第3の
メモリ回路5にもそれを出力する。
【0084】第3のメモリ回路5は、この第2の演算回
路7aおよび7bから出力される2次元出力データY
(i,j)の1フレーム分を記憶するとともに、次フレ
ームの演算時にそれらを順次第2のメモリ回路4に供給
する。ただし、第2の演算回路7a、7bから第3のメ
モリ回路5へのデータ転送、ならびに第3のメモリ回路
5から第2のメモリ回路4へのデータ転送は、2次元出
力データY(i,j)の複数のデータを1つの単位とし
て行なう。
【0085】以上の各ブロックの動作を組み合わせるこ
とにより、図1のフローチャートに示した動画像処理が
実現できる。ただし、実施の形態8では画像の1行毎に
処理を行なう構成であったが、この実施の形態9では2
行単位で並列に画像の処理が行われる。したがって、そ
の演算速度は実施の形態8に比べて2倍となる。
【0086】なお、上記説明では、画像の処理を2行単
位で並列に行なう場合について示したが、畳み込み積分
を行なう第1および第2の演算回路の数、ならびに第1
のメモリ回路と第2のメモリ回路のFIFOによるメモ
リセルの数を増やしてやれば、並列度を増加させること
ができる。すなわち、この実施の形態9による動画像処
理装置は、演算速度がより大きい装置に容易に拡張する
ことができるという利点がある。
【0087】
【発明の効果】以上のように、請求項1記載の発明によ
れば、時刻tを一定の時間間隔ずつ進めながらその時刻
tにおける2次元入力データを入力し、カーネルAと2
次元出力データ、およびカーネルBと2次元入力データ
の各畳み込み積分によって得られた2次元状態データ
に、所定の変換を施して2次元出力データの更新を行な
い、この更新された2次元出力データを用いた2次元入
力データの入力以降の処理を繰り返すように構成したの
で、画像全体の収束については複数のフレーム期間内に
行われるようになり、その結果、各フレームにおける繰
り返し演算の回数を少ない回数に制限することが可能と
なって、演算量を大幅に削減でき、これを用いた画像処
理装置の低コスト化、小型化に有効である効果がある。
【0088】請求項2記載の発明によれば、2次元状態
データX(i,j)を計算する処理と、2次元出力デー
タを更新する処理とを、2次元データのすべてのポイン
ト(i,j)に対して実行するように構成したので、入
力画像が時刻t=Tに変化してその後は変化しない場合
には、最初の演算で得られた出力画像の画質は高くない
が、一定の時間間隔Δt毎に実行される演算で得られる
出力画像の画質は順次高くなり、一定フレーム時間後に
は高画質の画像が出力されることになり、また、入力画
像に変化がない状態が続く場合においては、演算結果で
ある出力画像は各フレームとも同じであり、かつその入
力画像に対する収束画像であって高画質であるため、こ
のような出力画像を動画像表示装置で表示し、その画質
を人間が判断することを考えた場合、一般に人間の目は
動画における画質はあまり気にならず、より少ない演算
量で人間の目に対して十分な動画像の処理が実現できる
動画像処理方法が得られる効果がある。
【0089】請求項3記載の発明によれば、時刻tにお
ける演算回数が指定回数だけ実行されていない場合に、
処理を状態データ演算のステップに戻して以降の処理を
繰り返し実行するように構成したので、各フレームにお
いて指定された回数だけ演算が行なわれ、請求項2記載
の発明に比べて各フレームでの演算量は増えるが、入力
画像が変化したときに高画質な状態に収束するまでの時
間を短縮することができる効果がある。
【0090】請求項4記載の発明によれば、時刻tにお
ける1回目の演算においてのみ、すべてのポイント
(i,j)に対する2次元状態データX(i,j)の演
算を行ない、そのとき求めた畳み込み積分の結果B**
(i,j)[t]を、保持データBU(i,j)として
すべてのポイント(i,j)について記憶しておき、2
回目以降の演算においては、それを用いて2次元状態デ
ータX(i,j)の演算を行なうように構成したので、
各フレームにおける演算処理の繰り返しにおいて、2回
目以降は畳み込み積分B**U(i,j)の計算を省略す
ることができるようになるため、各フレーム当たりの演
算量をさらに削減することができる効果がある。
【0091】請求項5記載の発明によれば、2次元デー
タ上にポイント(I,J)を設定し、そのポイント
(I,J)を更新しながらポイント(I,J)近傍にお
ける2次元状態データX(i,j)を計算する処理と、
2次元出力データを更新する処理とを実行するように構
成したので、各時刻tにおける演算において、常にt−
Δtのときの2次元出力データY(i,j)を使用する
ことなく、すでに時刻tにおける演算が完了している2
次元出力データY(i,j)については、その新しい値
を使用することになるため、入力画像が変化した場合の
演算の収束より高速化することができる効果がある。
【0092】請求項6記載の発明によれば、時刻tにお
ける演算回数が指定回数だけ実行されていない場合に、
処理をポイント設定のステップに戻して、以降の処理を
繰り返し実行するように構成したので、各フレームにお
いて指定された回数だけ演算が行なわれ、請求項5記載
の発明に比べて各フレームでの演算量は増えるが、入力
画像が変化したときに高画質な状態に収束するまでの時
間を短縮することができる効果がある。
【0093】請求項7記載の発明によれば、時刻tにお
ける1回目の演算においてのみ、ポイント(I,J)近
傍の2次元状態データX(I,J)を演算し、そのとき
求めた畳み込み積分結果B**U(I,J)[t]を保持
データBU(i,j)として記憶しておき、2回目以降
の演算においては、それを用いてポイント(I,J)近
傍の2次元状態データX(I,J)の演算を行なうよう
に構成したので、各フレームにおける演算処理の繰り返
しにおいて、2回目以降は畳み込み積分B**U(I,
J)の計算を省略することができるようになるため、各
フレーム当たりの演算量をさらに削減することができる
効果がある。
【0094】請求項8記載の発明によれば、入力される
全体画像より選択した部分領域内のすべてのポイント
(i,j)に対して、2次元状態データX(i,j)の
計算を行なって得られた2次元状態データに所定の変換
を施し、それで当該部分領域内のすべてのポイント
(i,j)の2次元出力データY(i,j)を更新し、
その結果が収束するまでこの演算を繰り返し実行するよ
うに構成したので、複数フレームの期間で画像全体が収
束するようになり、全体画像をn個の部分領域に分割し
た場合には、各フレームで扱う画素数は従来の動画像処
理方法に比べてn分の1になり、したがって、各フレー
ムにおける演算量もn分の1に削減することができる効
果がある。
【0095】請求項9記載の発明によれば、2次元入力
データU(i,j)を複数行分記憶する第1のメモリ回
路、2次元出力データY(i,j)を複数行分記憶する
第2のメモリ回路、2次元出力データY(i,j)の全
体を記憶する第3のメモリ回路、2次元入力データU
(i,j)とカーネルとの畳み込み積分を行なう第1の
演算回路、2次元出力データY(i,j)とカーネルと
の畳み込み積分結果と第1の演算回路からの積分結果と
を加算して2次元状態データX(i,j)を算出し、そ
れに非線形処理を施して得られた2次元出力データY
(i,j)を外部に出力するとともに、その2次元出力
データY(i,j)を第3のメモリ回路に転送して一時
記憶させる第2の演算回路を備え、2次元出力データY
(i,j)の第2の演算回路から第3のメモリ回路への
転送、ならびに第3のメモリ回路から第2のメモリ回路
への転送を複数のデータを単位として行なうように構成
したので、比較的汎用性が高い部品の組み合わせで動画
像処理装置を実現することができ、また、2次元出力デ
ータY(i,j)の入出力を複数のデータを1つの単位
として行なっているので、転送レートを比較的低くする
ことが可能となるため、たとえばダイナミックRAMの
ような、安価ではあるが低速の入出力レートにしか対応
できない大容量メモリを、第3のメモリ回路として利用
することが可能になる効果がある。
【0096】請求項10記載の発明によれば、それぞれ
1つずつ備えられた第1および第2の演算回路によっ
て、1行分ずつ入力される2次元入力データU(i,
j)を1行毎に処理し、得られた2次元出力データY
(i,j)を外部に出力するように構成したので、比較
的汎用性が高い部品の組み合わせによるシンプルな構成
の動画像処理装置を実現することができる効果がある。
【0097】請求項11記載の発明によれば、それぞれ
n個ずつ備えられた第1および第2の演算回路によっ
て、入力される2次元入力データU(i,j)をn行単
位で並列に処理し、得られた2次元出力データY(i,
j)を外部に出力するように構成したので、入力された
画像を1行毎に処理する場合に比べて、その演算速度を
n倍とすることができる効果がある。
【図面の簡単な説明】
【図1】 この発明の実施の形態1における動画像処理
方法の動作の手順を示すフローチャートである。
【図2】 この発明の実施の形態2における動画像処理
方法の動作の手順を示すフローチャートである。
【図3】 この発明の実施の形態3における動画像処理
方法の動作の手順を示すフローチャートである。
【図4】 この発明の実施の形態4における動画像処理
方法の動作の手順を示すフローチャートである。
【図5】 この発明の実施の形態5における動画像処理
方法の動作の手順を示すフローチャートである。
【図6】 この発明の実施の形態6における動画像処理
方法の動作の手順を示すフローチャートである。
【図7】 この発明の実施の形態7における動画像処理
方法の動作の手順を示すフローチャートである。
【図8】 この発明の実施の形態7における部分画像の
分割を示す説明図である。
【図9】 この発明の実施の形態8における動画像処理
装置の構成を示すブロック図である。
【図10】 この発明の実施の形態8における第1のメ
モリ回路および第2のメモリ回路の内部構成を示すブロ
ック図である。
【図11】 この発明の実施の形態9における動画像処
理装置の構成を示すブロック図である。
【図12】 この発明の実施の形態9における第1のメ
モリ回路および第2のメモリ回路の内部構成を示すブロ
ック図である。
【図13】 非線形処理における入出力特性を示す説明
図である。
【図14】 従来の画像処理方法における動作の手順を
示すフローチャートである。
【図15】 従来の画像処理方法の実行例を示す説明図
である。
【符号の説明】
ST11 初期設定のステップ、ST12 時刻更新の
ステップ、ST13データ入力のステップ、ST14,
ST23,ST31 状態データ演算のステップ、ST
15,ST24,ST32 出力データ演算のステッ
プ、ST16データ出力のステップ、ST18 繰り返
し完了判定のステップ、ST19,ST26 演算回数
判定のステップ、ST20,ST27 データ記憶のス
テップ、ST21,ST28 簡略演算のステップ、S
T22 ポイント設定のステップ、ST25 ポイント
更新判定のステップ、ST29 領域パラメータ初期設
定のステップ(領域設定のステップ)、ST30 領域
パラメータ更新のステップ(領域設定のステップ)、S
T33 収束判定のステップ、1,1a,1b入力端
子、2,2a,2b 出力端子、3 第1のメモリ回
路、4 第2のメモリ回路、5 第3のメモリ回路、
6,6a,6b 第1の演算回路、7,7a,7b 第
2の演算回路。

Claims (11)

    【特許請求の範囲】
  1. 【請求項1】 動画像を処理して、動画像に対するエッ
    ジ検出、平滑化、多値化などを実行する動画像処理方法
    において、 2次元出力データの初期設定を行ない、 時刻tを一定の時間間隔ずつ進めて、その時刻tにおけ
    る2次元入力データを入力し、 カーネルAと前記2次元出力データとの畳み込み積分、
    およびカーネルBと前記2次元入力データとの畳み込み
    積分をそれぞれ行ない、その結果を加算することによっ
    て2次元状態データを計算し、 この2次元状態データに対して所定の変換を施し、その
    変換結果で前記2次元出力データを更新してその2次元
    出力データを出力するとともに、この更新された2次元
    出力データを用いて、前記2次元入力データの入力以降
    の処理を繰り返すことを特徴とする動画像処理方法。
  2. 【請求項2】 2次元出力データY(i,j)の初期値
    を、2次元データのすべてのポイント(i,j)に対し
    て設定する初期設定のステップと、 時刻tを一定の時間間隔Δtずつ進める時刻更新のステ
    ップと、 前記時刻tにおける2次元入力データU(i,j)
    [t]を、すべてのポイント(i,j)に対して入力す
    るデータ入力のステップと、 カーネルAと前記2次元出力データY(i,j)との畳
    み込み積分、およびカーネルBと前記2次元入力データ
    U(i,j)[t]との畳み込み積分をそれぞれ行な
    い、その結果を各ポイント(i,j)毎に加算すること
    により、すべてのポイント(i,j)について2次元状
    態データX(i,j)を計算する状態データ演算のステ
    ップと、 前記2次元状態データX(i,j)の各データに対して
    所定の変換を施し、その変換結果ですべてのポイント
    (i,j)の2次元出力データY(i,j)を更新する
    出力データ演算のステップと、 更新された前記2次元出力データY(i,j)をすべて
    のポイント(i,j)について出力するデータ出力のス
    テップと、 処理を前記時刻更新のステップに戻る繰り返し制御のス
    テップからなる動画像処理方法。
  3. 【請求項3】 時刻tにおいて状態データ演算のステッ
    プと出力データ演算のステップとが指定回数だけ実行さ
    れたか否かを判定し、指定回数だけ実行されていない場
    合には、処理を前記状態データ演算のステップに戻す繰
    り返し完了判定のステップを付加したことを特徴とする
    請求項2記載の動画像処理方法。
  4. 【請求項4】 実行する演算が当該時刻tにおける1回
    目の演算であるか否かを判定する演算回数判定のステッ
    プと、 前記演算回数判定のステップにおいて、1回目の演算で
    あると判定された場合に、状態データ演算のステップが
    すべてのポイント(i,j)に対して2次元状態データ
    X(i,j)を演算する際に求めたカーネルBと2次元
    入力データU(i,j)との畳み込み積分の結果B**
    (i,j)[t]を、保持データBU(i,j)として
    すべてのポイント(i,j)について記憶しておくデー
    タ記憶のステップと、 前記演算回数判定のステップにおいて、1回目の演算で
    はないと判定された場合に、カーネルAとその時の2次
    元出力データY(i,j)との畳み込み積分の結果A**
    Y(i,j)に、前記データ記憶のステップで記憶して
    おいた保持データBU(i,j)を加算することによ
    り、2次元状態データX(i,j)を算出する簡略演算
    のステップとを付加したことを特徴とする請求項3記載
    の動画像処理方法。
  5. 【請求項5】 2次元出力データY(i,j)の初期値
    を、2次元データのすべてのポイント(i,j)に対し
    て設定する初期設定のステップと、 時刻tを一定の時間間隔Δtずつ進める時刻更新のステ
    ップと、 前記時刻tにおける2次元入力データU(i,j)
    [t]を、すべてのポイント(i,j)に対して入力す
    るデータ入力のステップと、 2次元データ上のポイント(I,J)の設定を行なうポ
    イント設定のステップと、 前記ポイント(I,J)近傍における、カーネルAと前
    記2次元出力データY(i,j)との畳み込み積分、お
    よびカーネルBと前記2次元入力データU(i,j)
    [t]との畳み込み積分をそれぞれ行ない、その結果を
    加算することにより状態データX(I,J)を計算する
    状態データ演算のステップと、 前記2次元状態データX(I,J)に対して所定の変換
    を施し、その変換結果でポイント(I,J)における出
    力データY(I,J)を更新する出力データ演算のステ
    ップと、 前記状態データ演算のステップと出力データ演算のステ
    ップとが、所定のポイント(I,J)のすべてに対して
    実行されたか否かを判定し、実行されていない場合には
    処理を前記ポイント設定のステップに戻すポイント更新
    判定のステップと、 前記状態データ演算のステップと出力データ演算のステ
    ップとを所定のポイント(I,J)のすべてに対して実
    行することによって得られた2次元出力データY(i,
    j)を、すべてのポイント(i,j)について出力する
    データ出力のステップと、 処理を前記時刻更新のステップに戻る繰り返し制御のス
    テップからなる動画像処理方法。
  6. 【請求項6】 時刻tにおいてポイント設定のステップ
    からポイント更新判定のステップまでの処理が指定回数
    だけ実行されたか否かを判定し、指定回数だけ実行され
    ていない場合には、処理を前記ポイント設定のステップ
    に戻す繰り返し完了判定のステップを付加したことを特
    徴とする請求項5記載の動画像処理方法。
  7. 【請求項7】 実行する演算が当該時刻tにおける1回
    目の演算であるか否かを判定する演算回数判定のステッ
    プと、 前記演算回数判定のステップにおいて、1回目の演算で
    あると判定された場合に、状態データ演算のステップが
    ポイント(I,J)近傍の畳み込み積分を行なって2次
    元状態データX(I,J)を演算する際に求めた、カー
    ネルBと2次元入力データU(I,J)との畳み込み積
    分の結果B**U(I,J)[t]を、保持データBU
    (I,J)として記憶しておくデータ記憶のステップ
    と、 前記演算回数判定のステップにおいて、1回目の演算で
    はないと判定された場合に、カーネルAとその時の2次
    元出力データY(i,j)とのポイント(I,J)近傍
    の畳み込み積分の結果A**Y(I,J)に、前記データ
    記憶のステップで記憶しておいた保持データBU(I,
    J)を加算することにより、2次元状態データX(I,
    J)を算出する簡略演算のステップとを付加したことを
    特徴とする請求項6記載の動画像処理方法。
  8. 【請求項8】 2次元出力データY(i,j)の初期値
    を、2次元データのすべてのポイント(i,j)に対し
    て設定する初期設定のステップと、 時刻tを一定の時間間隔Δtずつ進める時刻更新のステ
    ップと、 前記時刻tにおける2次元入力データU(i,j)
    [t]を、すべてのポイント(i,j)に対して入力す
    るデータ入力のステップと、 前記2次元入力データU(i,j)[t]によって入力
    される全体画像の部分領域を選択する領域設定のステッ
    プと、 前記領域設定のステップで選ばれた部分領域のすべての
    ポイント(i,j)に対して、カーネルAと前記2次元
    出力データY(i,j)との畳み込み積分、およびカー
    ネルBと前記2次元入力データU(i,j)[t]との
    畳み込み積分をそれぞれ行ない、その結果を各ポイント
    (i,j)毎に加算することにより、前記選ばれた部分
    領域内のすべてのポイント(i,j)について2次元状
    態データX(i,j)を計算する状態データ演算のステ
    ップと、 前記2次元状態データX(i,j)の各データに対して
    所定の変換を施し、その変換結果で前記選ばれた部分領
    域内のすべてのポイント(i,j)の2次元出力データ
    Y(i,j)を更新する出力データ演算のステップと、 前記時刻tにおける演算が収束したか否かを判定して、
    収束していない場合には、処理を前記状態データ演算の
    ステップに戻す収束判定のステップと、 部分的に更新することにより算出された前記2次元出力
    データY(i,j)をすべてのポイント(i,j)につ
    いて出力するデータ出力のステップと、 処理を前記時刻更新のステップに戻る繰り返し制御のス
    テップからなる動画像処理方法。
  9. 【請求項9】 動画像を処理して、動画像に対するエッ
    ジ検出、平滑化、多値化などを実行する動画像処理装置
    において、 当該動画像処理装置の入力端子から入力される2次元入
    力データU(i,j)の複数行分のデータを記憶する第
    1のメモリ回路と、 当該動画像処理装置の出力端子から出力される2次元出
    力データY(i,j)の複数行分のデータを記憶する第
    2のメモリ回路と、 前記出力端子から出力される2次元出力データY(i,
    j)の全体を記憶する第3のメモリ回路と、 前記第1のメモリ回路からb個ずつ供給される2次元入
    力データU(i,j)と、それ自身があらかじめ内部に
    記憶しているサイズb×bのカーネルとの畳み込み積分
    を計算する第1の演算回路と、 前記第2のメモリ回路からa個ずつ供給される2次元出
    力データY(i,j)と、それ自身があらかじめ内部に
    記憶しているサイズa×aのカーネルと積分の畳み込み
    積分を行なうとともに、その積分結果に前記第1の演算
    回路から供給される積分結果を加算して2次元状態デー
    タX(i,j)を計算した後、その2次元状態データX
    (i,j)を非線形処理することによって2次元出力デ
    ータY(i,j)を計算する第2の演算回路を備え、 前記第2の演算回路で計算された2次元出力データY
    (i,j)を、前記出力端子より外部に出力するととも
    に、前記第3のメモリ回路に転送して一時記憶した後、
    前記第2のメモリ回路に供給し、 前記第2の演算回路から第3のメモリ回路へのデータの
    転送、ならびに前記第3のメモリ回路から第2のメモリ
    回路へのデータの転送を、前記2次元出力データY
    (i,j)の複数のデータを1つの単位として行うこと
    を特徴とする動画像処理装置。
  10. 【請求項10】 入力端子と出力端子、および第1の演
    算回路と第2の演算回路をそれぞれ1つずつ備え、 前記入力端子から1行分ずつ入力される2次元入力デー
    タU(i,j)を、前記第1の演算回路および第2の演
    算回路によって1行毎に処理し、 得られた2次元出力データY(i,j)を前記出力端子
    より外部に出力することを特徴とする請求項9記載の動
    画像処理装置。
  11. 【請求項11】 入力端子と出力端子、および第1の演
    算回路と第2の演算回路をそれぞれn個ずつ備え、 前記各入力端子のそれぞれから1行分ずつ入力される2
    次元入力データU(i,j)を、前記各第1の演算回路
    と各第2の演算回路とによってn行単位で並列に処理
    し、 得られた2次元出力データY(i,j)を前記各出力端
    子より外部に出力することを特徴とする請求項9記載の
    動画像処理装置。
JP8321753A 1996-12-02 1996-12-02 動画像処理方法ならびに動画像処理装置 Pending JPH10162120A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP8321753A JPH10162120A (ja) 1996-12-02 1996-12-02 動画像処理方法ならびに動画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP8321753A JPH10162120A (ja) 1996-12-02 1996-12-02 動画像処理方法ならびに動画像処理装置

Publications (1)

Publication Number Publication Date
JPH10162120A true JPH10162120A (ja) 1998-06-19

Family

ID=18136069

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8321753A Pending JPH10162120A (ja) 1996-12-02 1996-12-02 動画像処理方法ならびに動画像処理装置

Country Status (1)

Country Link
JP (1) JPH10162120A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008153196A1 (en) * 2007-06-13 2008-12-18 Canon Kabushiki Kaisha Calculation processing apparatus and control method thereof
WO2008153194A1 (en) * 2007-06-15 2008-12-18 Canon Kabushiki Kaisha Calculation processing apparatus and method
WO2010064728A1 (en) * 2008-12-04 2010-06-10 Canon Kabushiki Kaisha Convolution operation circuit and object recognition apparatus

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008153196A1 (en) * 2007-06-13 2008-12-18 Canon Kabushiki Kaisha Calculation processing apparatus and control method thereof
US7978905B2 (en) 2007-06-13 2011-07-12 Canon Kabushiki Kaisha Calculation processing apparatus and control method thereof
US8385631B2 (en) 2007-06-13 2013-02-26 Canon Kabushiki Kaisha Calculation processing apparatus and control method thereof
WO2008153194A1 (en) * 2007-06-15 2008-12-18 Canon Kabushiki Kaisha Calculation processing apparatus and method
US7937346B2 (en) 2007-06-15 2011-05-03 Canon Kabushiki Kaisha Calculation processing apparatus and method
WO2010064728A1 (en) * 2008-12-04 2010-06-10 Canon Kabushiki Kaisha Convolution operation circuit and object recognition apparatus
JP2010134697A (ja) * 2008-12-04 2010-06-17 Canon Inc コンボリューション演算回路、階層的コンボリューション演算回路及び物体認識装置
US8832004B2 (en) 2008-12-04 2014-09-09 Canon Kabushiki Kaisha Convolution operation circuit and object recognition apparatus

Similar Documents

Publication Publication Date Title
EP0775972B1 (en) Digital image processor comprising a neural network
JP2018147182A (ja) 演算処理装置およびその制御方法
JPH0698159A (ja) 2値化方法及び装置
US6289133B1 (en) Image processing method and apparatus
CN112991142B (zh) 图像数据的矩阵运算方法、装置、设备及存储介质
US11580621B2 (en) AI frame engine for mobile edge
CN112700516B (zh) 基于深度学习的视频渲染方法和装置
JP4517409B2 (ja) データ処理装置およびデータ処理方法
JPH10162120A (ja) 動画像処理方法ならびに動画像処理装置
JPS61136177A (ja) 像データを計算する為に使う装置
US5257324A (en) Zero-time-delay video processor circuit
CN115760600B (zh) 一种图像处理方法、装置及电子设备和存储介质
JP2008229226A (ja) 画像処理装置
JP7007000B1 (ja) 画像処理装置および画像処理方法
JPH0918698A (ja) 画像処理装置および画像処理方法
JP3041901B2 (ja) 線走査をストライプによる垂直鋸歯状波走査に変換する装置
JP5181345B2 (ja) 画像処理装置及び画像処理方法
JP3612257B2 (ja) 画像データ編集装置
CN114205533B (zh) 视频帧校正方法、电子设备和计算机可读存储介质
JPS6375881A (ja) 網点画像スクリ−ン線数変換装置
JP3338484B2 (ja) アウトラインフォント変形装置
JPH11185033A (ja) 画像処理方法及び装置
JPH05292393A (ja) 動画編集処理方式
JPH01288448A (ja) 中間調補正方法
CN116055736A (zh) 图像下采样方法和装置、电子设备和存储介质