JPH06295293A - ニューラルネットワーク映像プロセッサ - Google Patents

Abstract

(57)【要約】 【構成】 ビデオカメラ用の信号処理装置は、一つのニ
ューラルネットワークだけ用い、多数の非線形信号処理
関数を実行する。一例では、ニューラルネットワークは
ガンマ補正及びコントラスト圧縮を実行する。ニューラ
ルネットワークは、ある関数を、次に２つの関数の組合
せを、次には３つの関数の組合せを、というようにバッ
クプロパゲーションを用いてエミュレートするようにト
レーニングされる。プログラムされたニューラルネット
ワークは、ビデオカメラにおいてパイプライン処理用の
複数の信号プロセッサの代わりをする。 【効果】 ニューラルネットワークを使用することによ
り、汎用の部品を使うことが可能であり、また信号処理
の際の遅延を少なくすることができるようになる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、一度の操作で複数の信
号処理関数を行うための映像信号処理のための装置及び
その方法、特に上記の関数を行うためにニューラルネッ
トワークを使用する装置に関する。

【０００２】

【従来の技術】多くの信号処理システムでは、関数はデ
ータに順次与えられる。すなわち、入力データに一つの
関数が与えられると、その関数が生成する出力値は、次
の関数には入力値として与えられる。このタイプの処理
方法は、通常パイプライン処理と呼ばれる。

【０００３】パイプライン処理を用いたシステムの一例
として、ビデオカメラがある。このようなビデオカメラ
の一つが、K.A.Parulskiらによる論文「A Digital Colo
rCCD Imaging System Using Custom VLSI Circuits」 I
EEE Transactions on Co-nsumer Electronics, Vol.35,
No.3, pp.382-389, August, 1989、に記載されてい
る。

【０００４】上記論文に記載されているカメラは、連続
した映像を表すサンプルを収集するＣＣＤセンサーを用
いている。その後、このサンプルはデジタル化され、カ
ラーフィルタアレイ（ＣＦＡ）信号プロセッサ、及び
赤、緑、青ＲＧＢ信号ポストプロセッサによって処理さ
れる。ＣＦＡ処理装置は、ＣＣＤデバイスから与えられ
た単一画像のサンプルから、赤（Ｒ）、緑（Ｇ）及び青
（Ｂ）の一揃いのサンプルを生成する。さらに、ＣＦＡ
プロセッサは、ＲＧＢ信号にカラーバランスの修正を行
う。ＲＧＢポストプロセッサは、黒レベル調整、ガンマ
補正、及び開口補正を行う。

【０００５】参考論文に記載されているように、上記処
理関数を実現するために使用される回路は、二つのＶＬ
ＳＩ集積回路に装備される。このような集積回路は、費
用のかかる開発サイクルを行わなければ作成できない、
特殊目的回路が比較的多く集積されたものとなる。

【０００６】比較的多数の特殊目的回路が必要なだけで
なく、例えば、参考論文に示されているシステムでは、
信号処理操作のパイプラインを設けることによって、処
理経路で遅延が起きる。例えば、観測された画面からの
音声情報が映像情報と並行して処理されているときに
は、並行信号処理経路はシステムに存在し得る。映像情
報のパイプライン処理がもたらす遅延は、音声信号処理
回路で補償されるのが望ましい。

【０００７】参照したビデオカメラ処理回路でおこる遅
延は比較的小さいが、その他の映像信号プロセッサは処
理回路において一つもしくはそれ以上のフレーム遅延素
子を用い得る。この素子によって、より実質的な遅延が
起こることとなり、補償はますます困難になる。

【０００８】さらに、参考論文に記載されているような
システムでは、システムの複雑さに反映されるように、
設計の精密さと費用とはもともと相容れないものであ
る。ビデオカメラで行われる処理ステップの多くは、厳
密には所望の処理ステップとは一致しないが、比較的単
純な数学的関数としてモデルにされている。これらの関
数モデルは、より厳密なモデルに従って所望の処理ステ
ップを実行することが、あるいは一つのモデルとして多
数の独立関数を実行することが、費用効率が高くないと
いう理由だけで使用されている。

【０００９】

【発明が解決しようとする課題】上記の従来の方法で
は、パイプライン処理を実現するために、特殊目的回路
を多く含んだ集積回路が必要となる。従ってパイプライ
ン処理を行う集積回路を作るには多くの開発期間と開発
費用がかかる。

【００１０】またパイプライン処理によって、映像信号
を処理するときには、それぞれの関数回路において遅延
が生じるため、あるいは複数のフレーム遅延素子を用い
るために全体としては遅延が大きくなり補償が困難にな
る。

【００１１】本発明はこのような現状に鑑みてなされた
ものであり、独立した信号処理関数のグループを、一つ
の統合された関数として実現させるためにニューラルネ
ットワークを使用することにより、汎用の部品を使うこ
とを可能にし、その結果、集積回路を開発する期間と費
用とを削減し、信号処理の遅延を短縮する装置及び方法
を供給することが本発明の目的である。

【００１２】

【課題を解決するための手段】本発明の一つの局面によ
れば、信号処理システムは、複数のプログラム可能な重
み付け係数と、制御信号が各々直接に複数の信号処理関
数と関連づけられていて、複数の入力信号及び複数の制
御信号を受け取る複数の入力端子と、複数の出力信号を
供給するための複数の出力端子とをもつニューラルネッ
トワークと、各々が入力ベクトル、制御ベクトル及び出
力ベクトルを含み、該出力ベクトルが第１及び第２の信
号処理関数の該入力ベクトルに対する所望の反応を表
す、複数のテストパターンを生成する手段と、該複数の
プログラム可能な各々の重み付け係数に対応する複数の
値を生成するシミュレーション手段であって、該複数の
テストパターンの入力ベクトル、制御の各ベクトルに対
するニューラルネットワークの反応をシミュレートする
手段と、該重み付け係数に特定されたシミュレートされ
た各々の値を変化させ、シミュレートされた反応をテス
トパターンの出力ベクトルと一致させる手段とを有する
シミュレーション手段と、該ニューラルネットワークに
シミュレートされた重み付け係数の値を与え、ニューラ
ルネットワークが第１及び第２の非線形信号処理関数を
エミュレートできるようにする手段を備え、そのことに
より上記目的が達成される。

【００１３】本発明の他の局面によれば、信号処理シス
テムは、少なくとも第１及び第２の非線形信号処理関数
に従って複数の入力信号を処理し、それにより複数の出
力信号を生成する信号処理システムであって、該システ
ムが、複数のプログラム可能な重み付け係数と、複数の
入力信号及び複数の制御信号を受け取る複数の入力端子
と、複数の出力信号を供給するための複数の出力端子と
を有するニューラルネットワークと、各々がそれぞれ異
なる重み付け係数に対応する、複数の値を生成するシミ
ュレーション手段であり、該シミュレーション手段が、
複数のテストパターンに対するニューラルネットワーク
の反応をシミュレートし、各々のパターンが入力ベクト
ル、制御ベクトル及び出力ベクトルを含んでいる手段
と、該重み付け係数に特定された、シミュレートされた
各々の値を変化させ、シミュレートされた反応をテスト
パターンの出力ベクトルと一致させる手段とを含むシミ
ュレーション手段と、第１の複数のテストパターンを生
成し、各々が前記第１の非線形関数に対して入力ベクト
ル、制御ベクトル、及び所望の出力ベクトルを含み、該
シミュレーション手段にテストパターンを与え、複数の
重み付け係数に対して初期値を生成する手段と、該第１
及び第２の非線形信号処理関数の組合せを表す第２の複
数のテストパターンを生成し、第２の複数のテストパタ
ーンにおける各パターンが入力ベクトル、制御ベクト
ル、及び所望の出力ベクトルを含み、該シミュレーショ
ン手段に第２の組のテストパターンを与え、それによっ
て該複数の重み付け係数に対する最終値を生成する手段
と、該重み付け係数の最終値をニューラルネットワーク
に与え、ニューラルネットワークが該第１及び第２の非
線形信号処理関数に従って入力信号を処理することがで
きるようにする手段とを備え、そのことにより上記目的
が達成される。

【００１４】前記システムは、前記シミュレーション手
段が、前記テストパターンの各入力ベクトル及び制御ベ
クトルに対するニューラルネットワークの反応をシミュ
レートし、シミュレートされた出力値のベクトルを生成
するシミュレータと、複数の費用関数値を算出する手段
であって、ここで各費用関数値は該シミュレートされた
出力値から選択された出力値の数学的関数を表し、かつ
各費用関数値は所望の出力ベクトルからの所望の出力値
に対応する手段と、該費用関数に反応し、各出力ベクト
ルでの各々の値とシミュレートされた出力値ベクトルで
の値との差を最小限にするように各プログラム可能な重
み付け係数を修正する、バックプロパゲーション手段
と、ニューラルネットワークが信号処理関数を許容可能
な誤差でエミュレートできる値に、重み付け係数が収束
するときを決定する手段とを備えていてもよい。

【００１５】前記システムは、前記各費用関数値が、ニ
ューラルネットワークのすべてのシミュレートされた出
力値の関数であってもよい。

【００１６】前記システムは、少なくとも第１及び第２
のカラー信号値を、シミュレートされた出力ベクトルと
所望の出力ベクトルとにおいて各々第１及び第２の出力
値として生成するカラー映像信号処理システムであっ
て、該費用関数がシミュレートされた第１と第２の出力
値との比と所望の第１と第２の出力値の比との差の関数
であってもよい。

【００１７】前記システムは、少なくとも第１及び第２
のカラー信号値を各々第１及び第２のシミュレートされ
た出力値と所望の出力値として生成するカラー映像信号
処理システムであって、該費用関数が、第１及び第２の
シミュレートされた出力値と、シミュレートされた出力
値によって生成される第１輝度値と対応する所望の出力
値によって生成される第２輝度値との差を表す、第１及
び第２のシミュレートされた出力値との組合せの関数で
あってもよい。

【００１８】本発明の他の局面によれば、複数のプログ
ラム可能な重み付け係数を有するニューラルネットワー
クを備えるシステムにおいて、少なくとも第１及び第２
の非線形信号処理関数に従って複数の入力信号を処理
し、それによって複数の出力信号を生成する方法であっ
て、該方法が、前記第１の非線形信号処理関数を表す第
１の複数のテストパターンを生成し、該第１の非線形関
数に対して該第１の複数のテストパターンにおける各パ
ターンが入力ベクトル、制御ベクトル及び出力ベクトル
を有するステップと、該第１の複数のテストパターンに
対するニューラルネットワークの反応をシミュレート
し、第１の複数のテストパターンに含まれる出力ベクト
ルにニューラルネットワークのシミュレートされた反応
が一致するように、ニューラルネットワークの重み付け
係数を修正し、重み付け係数に対して複数の初期値を生
成するステップと、該第１及び第２の非線形信号処理関
数の組合せを表す第２の複数のテストパターンを生成
し、該第２の複数のテストパターンの各パターンが入力
ベクトル、制御ベクトル、及び出力ベクトルを有するス
テップと、第２の複数のテストパターンに対するニュー
ラルネットワークの反応をシミュレートし、第２の複数
のテストパターンに含まれた出力ベクトルにニューラル
ネットワークのシミュレートされた反応が一致するよう
にニューラルネットワークの重み付け係数を修正し、重
み付け係数に対する複数の最終値を生成するステップ
と、ニューラルネットワークに重み付け係数の最終値を
与えるステップと、ニューラルネットワークを用いて入
力信号を処理し、出力信号を生成するステップを有する
方法であって、それにより上記目的が達成される。

【００１９】本発明の他の局面によれば、映像信号処理
システムは、複数の入力映像情報信号を与える手段と、
該第１の非線形信号処理関数がガンマ補正で、該第２の
非線形信号処理関数がコントラスト圧縮であるとき、第
１及び第２の非線形信号処理関数に従って該複数の入力
映像情報信号を処理する手段とを備える処理手段であっ
て、該第１及び第２の非線形信号処理関数が、各々がプ
ログラム可能な重み付け係数を有する複数のプロセッサ
を備えたニューラルネットワークと、各入力値と出力値
とを有する複数のテストパターンを生成する手段であっ
て、各テストパターンの該出力値が第１及び第２の非線
形信号処理関数を用いて各入力値を処理した結果を表す
手段であって、該複数のテストパターンを生成する手段
がさらに、第１の非線形処理関数のみを用いて入力値を
処理した結果を表す第１の組のテストパターンを生成
し、かつ、第１の非線形処理関数と併せて第２の非線形
処理関数を用いて入力値を処理した結果を表す第２の組
のテストパターンを生成する手段とを備えている該複数
のテストパターンを生成する手段と、該複数のテストパ
ターンを用いてニューラルネットワークを訓練し、第１
及び第２の非線形処理関数をニューラルネットワークが
エミュレートできるようにする各重み付け係数に対して
複数の値を生成する手段であって、ニューラルネットワ
ークを訓練する手段が、第１の組のテストパターンを用
いてニューラルネットワークを訓練し、第１の組のテス
トパターンを用いたニューラルネットワークの訓練後、
第２の組のテストパターンを用いてニューラルネットワ
ークを訓練する手段を有する手段とを備えており、その
ことにより上記目的が達成される。

【００２０】前記システムは、カラー補正関数をガンマ
補正関数とコントラスト圧縮関数との組合せで用いて前
記入力値を処理した結果を表す第３の一組のテストパタ
ーンを生成する手段と、該ニューラルネットワークが第
２の組のテストパターンを用いて訓練され、カラー補
正、コントラスト圧縮及びガンマ補正の各関数の組合せ
をエミュレートする複数の重み付け係数に対して一組の
値を生成した後、第３の組のテストパターンを用いてニ
ューラルネットワークをトレーニングする手段とをさら
に有していてもよい。

【００２１】前記システムは、開口補正関数及びガンマ
補正関数とコントラスト圧縮関数とカラー補正関数との
組合せを用いて前記入力値を処理した結果を表す第４の
組のテストパターンを生成する手段と、該ニューラルネ
ットワークが第３の組のテストパターンを用いて訓練さ
れ、開口補正、カラー補正、コントラスト圧縮及びガン
マ補正の各関数の組合せをエミュレートする複数の重み
付け係数に対して一組の値を生成した後、第４の組のテ
ストパターンを用いてニューラルネットワークをトレー
ニングする手段とをさらに有していてもよい。

【００２２】本発明の他の局面によれば、信号処理シス
テムは、複数のプログラム可能な重み付け係数を有する
ニューラルネットワークと、ニューラルネットワークの
入力端子が赤、緑及び青の各カラー信号を表す信号を受
け取るために結合されていて、複数の入力信号及び複数
の制御信号を受け取る複数の入力端子と、複数の出力信
号を与えるための複数の出力端子と、各々が入力ベクト
ル、制御ベクトル及び出力ベクトルを含み、該出力ベク
トルが第１及び第２の信号処理関数の該入力ベクトルに
対する所望の反応を表す、複数のテストパターンを生成
し、該第１及び第２の信号処理関数がガンマ補正及びコ
ントラスト圧縮である手段と、該複数のプログラム可能
な各々の重み付け係数に対応する複数の値を生成するシ
ミュレーション手段を備える信号処理システムであっ
て、該シミュレーション手段が、該複数のテストパター
ンの入力ベクトル、制御ベクトルの各ベクトルに対する
ニューラルネットワークの反応をシミュレートする手段
と、重み付け係数に特定された、シミュレートされた各
々の値を変化させ、シミュレートされた反応をテストパ
ターンの出力ベクトルと一致させる手段と、該ニューラ
ルネットワークにシミュレートされた該重み付け係数の
値を実際の重み付け係数として与え、ニューラルネット
ワークが第１及び第２の非線形信号処理関数をエミュレ
ートできるようにする手段を備え、それにより上記目的
が達成される。

【００２３】本発明の他の局面によれば、信号処理シス
テムは、カラービデオカメラで、複数のプログラム可能
な重み付け係数を有するニューラルネットワークと、ニ
ューラルネットワークの入力端子が赤、緑及び青のカラ
ー信号を表す信号を受け取るために結合されている、複
数の入力信号及び複数の制御信号を受け取る複数の入力
端子と、複数の出力信号を与えるための複数の出力端子
と、各々が入力ベクトル、制御ベクトル及び出力ベクト
ルを含み、該出力ベクトルが第１及び第２の信号処理関
数の該入力ベクトルに対する所望の反応を表す、複数の
テストパターンを生成し、該第１及び第２の信号処理関
数がガンマ補正、コントラスト圧縮、カラーバランス、
及び開口補正から構成されるグループから選択される手
段と、該複数のプログラム可能な各々の重み付け係数に
対応する複数の値を生成するシミュレーション手段を備
える信号処理システムであって、該シミュレーション手
段が、該複数のテストパターンの入力ベクトル、制御ベ
クトルの各ベクトルに対するニューラルネットワークの
反応をシミュレートする手段と、重み付け係数に特定さ
れた、シミュレートされた各々の値を変化させ、シミュ
レートされた反応をテストパターンの出力ベクトルと一
致させる手段と、該ニューラルネットワークにシミュレ
ートされた該重み付け係数の値を与え、ニューラルネッ
トワークが第１及び第２の非線形信号処理関数をエミュ
レートできるようにする手段を備え、それにより上記目
的が達成される。

【００２４】本発明の他の局面によれば、信号処理シス
テムは、複数の入力信号を受け取る複数の入力端子と、
複数の出力信号を供給する複数の出力端子と、複数のプ
ログラム可能な重み付け係数を受け取り、かつ、該プロ
グラム可能な重み付け係数が複数のパラメータ入力の一
つが変化するごとに生成される受け取り手段と、を有す
る、複数の非線形信号処理関数をエミュレートするニュ
ーラルネットワークと、各組が複数のパラメータ入力に
対する値の各々異なる組に対応している、所定のプログ
ラム可能な重み付け係数の複数の組を記憶する手段と、
対応する重み付け係数の組が存在しないパラメータ設定
の各組に対する、一組の重み付け係数をオンラインで決
定し、かつ、該決定された重み付け係数が、記憶されて
いる重み付け係数の組の、少なくとも一つであるオンラ
イントレーニング手段と、該ニューラルネットワークが
複数の非線形信号処理関数をエミュレートできるよう
に、受け取り手段に決定された重み係数を与える、プロ
グラム可能な手段と、を備える複数のパラメータ入力を
有し、それにより上記目的が達成される。

【００２５】本発明の他の局面によれば、信号処理シス
テムは、複数の入力信号を受け取る複数の入力端子と、
複数の出力信号を供給する複数の出力端子と、複数のプ
ログラム可能な重み付け係数を受け取り、かつ、該プロ
グラム可能な重み付け係数が複数のパラメータ入力の一
つで著しい変化がおこるごとに変化する受け取り手段と
を有する、複数の非線形信号処理関数をエミュレートす
るニューラルネットワークと、各組が複数のパラメータ
入力に対する各々異なる値の組に対応していて、所定の
プログラム可能な重み付け係数の複数の組を記憶する手
段と、対応する重み付け係数の組が存在しない、新しい
パラメータ設定の一組に対する一組の重み付け係数をオ
ンラインで決定し、かつ、該決定された重み付け係数
が、記憶されている重み付け係数の組の少なくとも一つ
の関数であるオンライントレーニング手段とを備える信
号処理システムであって、該オンライントレーニング手
段が、記憶されている重み付け係数の組の中のどれがト
レーニング中に初期値として使用されるべきかを決定す
る手段と、パラメータ設定の新しい組に対する重み係数
を決定するために、ニューラルネットワークを初期値の
関数としてトレーニングする手段と、該ニューラルネッ
トワークが該複数の非線形信号処理関数をエミュレート
できるように、受け取り手段に決定された重み係数を与
えるプログラム可能な手段と、を備える複数のパラメー
タ入力を有し、それにより上記目的が達成される。

【００２６】前記信号処理システムは、ニューラルネッ
トワークが、複数の映像信号処理関数をエミュレート
し、ニューラルネットワークの入力端子が、赤、緑及び
青のカラー信号を表す信号を受け取るために結合されて
いてもよい。

【００２７】前記信号処理システムは、信号処理システ
ムが、カラービデオカメラの中にあり、ニューラルネッ
トワークの入力端子が、赤、緑及び青のカラー信号を表
す信号を受け取るために結合されて、複数の信号処理関
数が、ガンマ補正、コントラスト圧縮、ハイパスフィル
タリング、カラーバランス及び開口補正から成るグルー
プから選択されてもよい。

【００２８】前記システムは、トレーニング手段が、テ
ストパターンの各入力ベクトルに対するニューラルネッ
トワークの応答をシミュレートし、シミュレートされた
出力値のベクトルを生成するシミュレータ手段と、各費
用関数値がシミュレートされた出力値から選択されたも
のの数学的関数を表し、かつ、所望の出力ベクトルから
の所望の出力値に対応している、複数の費用関数値を計
算する手段と、費用関数値を最小にするために各プログ
ラム可能な重み関数を修正する、費用関数値に応答する
バックプロパゲーション手段と、ニューラルネットワー
クが許容可能な誤差を伴う信号処理関数をエミュレート
できる値に、重み係数が収束するときを決定する手段
と、を備えていてもよい。

【００２９】前記システムは、各費用関数値がニューラ
ルネットワークのシミュレートされたすべての出力値の
関数であってもよい。

【００３０】前記システムが、少なくとも第１及び第２
のカラー信号値を、シミュレートされた出力ベクトルと
所望の出力ベクトルとにおいて各々第１及び第２の出力
値として生成するカラー映像信号処理システムであっ
て、該費用関数が、シミュレートされた第１及び第２の
出力信号との比と所望の第１及び第２の出力値の比との
差の関数であってもよい。

【００３１】前記システムは、少なくとも第１及び第２
のカラー信号値を、各々第１及び第２のシミュレートさ
れた出力値と所望の出力値として生成するカラー映像信
号処理システムであって、該費用関数が、シミュレート
された出力値によって生成される第１の輝度と対応する
所望の出力値によって生成される第２の輝度との差を表
す、シミュレートされた第１及び第２の出力信号と所望
の第１及び第２の出力値の組合せの関数であってもよ
い。

【００３２】本発明の他の局面によれば、複数のプログ
ラム可能な重み付け係数を有するニューラルネットワー
クを備えるシステムにおいて、複数の非線形信号処理関
数に従って複数の入力信号を処理し、それによって複数
の出力信号を生成する方法であって、該方法が、パラメ
ータ入力設定の複数の所定の組に対応する重み付け係数
の複数の組をオフラインで計算するステップと、ニュー
ラルネットワークのオンライン動作の間に使用する重み
付け係数の複数の組を記憶するステップと、事前に計算
された重み付け係数の記憶された組の少なくとも一つの
関数としてパラメータ設定の所定の組の一つとは等価で
はないパラメータ入力設定の各組に対して、ニューラル
ネットワークをオンラインでトレーニングするステップ
と、ニューラルネットワークを使用して入力信号を処理
し、出力信号を生成するステップとを有し、それにより
上記目的が達成される。

【００３３】前記方法は、前記ニューラルネットワーク
をトレーニングするステップが、ニューラルネットワー
クに対する初期値を、事前に計算された重み付け係数の
少なくとも一つの組の関数として設定するステップと、
複合非線形信号処理関数を表す複数のテストパターンを
生成し、かつ、該複数のテストパターン中の各パターン
が入力ベクトル及び出力ベクトルを含むステップと、第
１の複数のテストパターンに対するニューラルネットワ
ークの応答をシミュレートし、ニューラルネットワーク
のシミュレートされた応答を、第１の複数のテストパタ
ーンに含まれる出力ベクトルに一致させるようにニュー
ラルネットワークの初期重み付け係数を修正することに
よって、重み付け係数に対する複数の新しい値を生成す
るステップと、重み付け係数に対する新しい値が、ニュ
ーラルネットワークの応答をシミュレートされた応答の
許容できる所定の限界内になるまで、必要に応じてシミ
ュレーションのステップを繰り返すステップと、重み付
け係数の最終的な新しい値をニューラルネットワークに
与えるステップと、をさらに含んでいてもよい。

【００３４】前記方法は、シミュレートするステップが
実際にニューラルネットワークを用いて行われてもよ
い。

【００３５】

【作用】ニューラルネットワークは、処理される信号を
受け取る複数の入力プロセッサを備える。ネットワーク
はさらに、一つ以上の隠れプロセッサの層、及び出力プ
ロセッサの層を備えている。出力プロセッサは処理され
た出力信号を与える。

【００３６】ニューラルネットワークは処理関数グルー
プ中の第１関数を実行するように訓練され、その後第１
関数と組み合わされる予定のグループの中で、各々の関
数に対して再訓練される。

【００３７】重み付け関数の複数の組はニューラルネッ
トワークに対して規定され、各々異なる入力値に対応す
る各組は、制御パラメータに対して変動する。

【００３８】重み付け関数の複数の組はニューラルネッ
トワークに対して規定され、各組は各々異なる制御パラ
メータの規定された組に対応する。

【００３９】パラメータの規定された組の間にある制御
パラメータに対する重み付け関数が、規定されたパラメ
ータの組に基づくオンライントレーニングアルゴリズム
を使用して決定される。

【００４０】

【実施例】図１は、代表的なパイプライン信号処理シス
テムを示している。このシステムでは、３つの入力信号
Ｖ１、Ｖ２及びＶ３は、プロセッサ１１０、１１２及び
１１４によって逐次処理され、３つの出力信号Ｖ１’、
Ｖ２’及びＶ３’を生成する。この例では、プロセッサ
１１０、１１２及び１１４は、パラメータＰ１、Ｐ２及
びＰ３によって各々制御される。図１に示されるシステ
ムでは、各プロセッサ１１０、１１２及び１１４は独立
である。各プロセッサは入力データ値で明確に定義付け
られた操作を行い、出力値を生成する。

【００４１】主題発明の基礎を成す着想の一つとして、
図１に示されるようなシステムを、図２に示されるシス
テムのように等価な役割をする他のシステムに替えるこ
とがあげられる。図２では、ニューラルネットワーク２
１０は結合し、データ信号入力Ｖ１、Ｖ２、及びＶ３及
びパラメータ入力信号Ｐ１、Ｐ２及びＰ３を入力として
受け取る。また、ニューラルネットワーク２１０は図１
のように出力信号Ｖ１’、Ｖ２’及びＶ３’を生成す
る。

【００４２】図２に示されるシステムは、図１に示され
るシステムと比べると多くの利点を有している。まず、
３つのプロセッサはいずれも、一組のハードウェアを使
用するだけで、実行される。これによって、様々なシス
テムの相対的な複雑さに応じて開発時間、及び設計時間
が短縮され、また、コストも削減し得る。第二に、プロ
ッセッサ１１０、１１２、及び１１４のどれか一つが故
障すると、図１に示すシステムではシステム全体が動作
不能になり得るのに対し、図２に示すシステムでは既定
の入力値の組に対して、大半の出力値は不変であり得
る。第三に、プロセッサ１１０、１１２及び１１４によ
って行われる各々の処理がかなり主観的になっていると
きに、あるいは従来の単一処理技術によって不完全にモ
デル化されたときに、ニューラルネットワークで処理を
行うことには利点が有り得る。なぜなら、ニューラルネ
ットワークでは、抽象化の高レベルで関数を実行するこ
とができるからである。すなわち、過度に単純化された
数学的モデルに限定されないのである。

【００４３】以下の材料では、映像信号処理システムは
ビデオカメラに関して記述される。しかし、上記の発明
は映像信号処理において、より一般的な用途があると考
えられる。また、本発明は処理ステップが順次行われ、
実際行われるステップが客観的ではなく主観的な非映像
信号処理でも、一般的な用途を有すると考えられる。図
３はデジタルビデオカメラシステムの一例を示すブロッ
ク図である。この図では、画面からの光はそれぞれ独立
した赤、緑、及び青の電荷結合素子（ＣＣＤ）イメージ
ャ（imager、撮像器）３１０上に集光される。画面の映
像はＣＣＤイメージャ上に集められるので、ＣＣＤイメ
ージャ３１０は、各々画面の三原色である赤、緑、青を
表すアナログサンプルデータ信号を生成する。生成され
た信号は、単純なデータアナログ信号をデジタルサンプ
ルデータ信号に変換する、アナログ−デジタル変換器
（ＡＤＣ）３１２に与えられる。

【００４４】ＡＤＣ３１２が生成したデジタル信号は、
映像入力回路３１４に与えられる。本例の回路では、映
像入力回路はラッチであり、ＡＤＣ３１２から与えられ
るデジタル値をカメラ信号処理を行う他の回路にシンク
ロさせるために使用される。アナログ−デジタル変換を
経た直後の信号処理ステップは、固定パターン補正ステ
ップであり、プロセッサ３１６が行う。このステップ
は、例えばＣＣＤイメージャ３１０によって与えられる
暗電流（すなわち、光が無い状態でＣＣＤによって生成
された電荷の値）に対応する映像を保存し、この暗電流
映像を、映像入力回路３１４が与える映像信号から取り
去る。

【００４５】固定パターン補正回路３１６が生成した出
力信号は、カラーバランスプロセッサ３１８に与えられ
る。プロセッサ３１８は、赤、緑、青の各々の信号に合
わせて相対的な増幅定数を調整し、カメラの視界中で最
も明るい物体を再生画像で白くする。

【００４６】カラーバランス較正は、初期のカメラのセ
ットアップの間は通常一度しか行われない。しかしなが
ら、この較正ステップで作られた増幅定数あるいは利得
定数は、通常の画像操作の他の部分においても、パター
ン補正回路３１６が提供する赤、緑、青の信号に与えら
れる。

【００４７】カラーバランスプロセッサ３１８が与える
出力信号は、組になった開口フィルタ３２４及びガンマ
補正プロセッサ３２０に、並行に与えられる。ガンマ補
正プロセッサ３２０は関数Γ（ｘ）をサンプル値ｘに与
える。この関数は次の方程式（１）に示される。

【００４８】

【数１】

【００４９】ガンマ補正プロセッサ３２０によって生成
された出力値は、コントラスト圧縮器３２２に与えられ
る。コントラスト圧縮器３２２は関数ＣＣ（ｘ）を適用
する。ここでｘは、方程式（２）に示されるように、個
々のＲ，Ｇ及びＢの各信号を表す。

【００５０】

【数２】

【００５１】開口フィルタ３２４はＲ、Ｇ、Ｂ信号の組
合せから高周波成分を抽出して、それを増幅し、この増
幅された高周波成分をコントラスト圧縮回路３２２が与
える赤、緑、及び青の各信号に与える。開口補正信号
は、加算器３２６、３２８及び３３０によって、各々
赤、緑、青信号に加算される。加算された信号は、デジ
タル−アナログ変換器（ＤＡＣ）３３２によって、アナ
ログ信号に変換される。

【００５２】映像入力回路３１４、固定パターン補正回
路３１６、カラーバランスプロセッサ３１８、ガンマ補
正プロセッサ３２０、コントラスト圧縮プロセッサ３２
２、及び開口フィルタ３２４は、処理制御プログラミン
グ回路３３４によって制御される。この回路３３４は制
御盤３３６から情報を受け取り、状態情報を制御盤３３
６に与える。回路３３４はプロセッサ制御を行い、プロ
グラミングをする他にも、ＣＣＤイメージャ３１０、Ａ
ＤＣ３１２、及びＤＡＣ３３２にクロック信号、及びそ
の他のタイミング信号を生成する。

【００５３】図４は、本発明の一実施例を含むビデオカ
メラの一例を示すブロック図である。このカメラは図３
に示すカメラと同じであるが、ガンマ補正プロセッサ３
２０及びコントラスト圧縮プロセッサ３２２が、ニュー
ラルネットワーク４１０一つに置き替えられている点が
異なっている。

【００５４】図５は、別のビデオカメラの構成を示して
いる。これは、図３に示すカメラと同じではあるが、ニ
ューラルネットワーク４２０によってカラーバランスプ
ロセッサ３１８、ガンマ補正プロセッサ３２０、コント
ラスト圧縮プロセッサ３２２、開口フィルタ３２４及び
加算器３２６、３２８及び３３０が置き替えられている
点が異なっている。

【００５５】さしあたって、ニューラルネットワーク４
１０及び４２０の複雑さは無視する。図４及び５に示さ
れている回路は図３に示されている回路よりも単純であ
るが、これは、図４及び５に示されている回路に含まれ
ている要素が少ないためである。さらに、以下に述べる
ように図４及び５に示されている回路から許容できる信
号処理を行うために必要な技術的努力は、図３に示され
ている回路から同じレベルの性能を実現するために必要
な技術的努力よりも、かなり小さくてすむ。

【００５６】ニューラルネットワークの複雑さを考慮に
入れたとしても、図４及び５に示される回路は図３に示
される回路よりもコストがかからない。なぜなら、ニュ
ーラルネットワーク４１０及び４２０、あるいはネット
ワークを形成する処理要素を特別に製造する必要はな
く、したがって汎用品を大量に使うことで割安となる利
点が生じる。さらに、ニューラルネットワークは、多数
の同一処理要素を使用するように構成され得る。

【００５７】説明を簡単にするために、図４に示される
発明の実施例のみを以下に述べる。しかし、当業者が図
５で示される回路を用いることができるように、本実施
例は詳しい解説をつけて記述される。

【００５８】図４では、ガンマ補正、及びコントラスト
圧縮関数は組み合わされ、それらをニューラルネットワ
ーク４１０が行う。結合したこの二つの関数は、きわめ
て非線形である。方程式（１）によって規定されるガン
マ補正関数、及び方程式（２）によって規定されるコン
トラスト圧縮関数は、方程式（３）、（４）及び（５）
に示されるように組み合わされ、入力カラー信号ｒ、ｇ
及びｂ、及び制御パラメータγ及びｃｏｎｔからｒ’、
ｇ’及びｂ’の各々の信号を生成する。

【００５９】

【数３】

【００６０】

【数４】

【００６１】

【数５】

【００６２】上記の方程式において、信号ｒ’、ｇ’及
びｂ’はガンマ補正、及びコントラスト圧縮を各々の入
力信号ｒ、ｇ、及びｂに行うことにより得られる。この
結合した処理は、非常に非線形である。なぜなら、この
処理は多数の指数及び最大値を必然的に伴うからであ
る。さらに、対応する入力カラー信号が同一であって
も、他の入力信号の一つでも変化すれば、その出力カラ
ー信号は変化してしまう。さらに、方程式をアナログ回
路、あるいはデジタル回路で実行することは容易でな
い。方程式（３）、（４）及び（５）は複雑すぎるの
で、従来のアナログ信号処理回路の使用によっては効果
的に実行することができないからである。プログラムさ
れたデジタルプロセッサを使用した方が容易に方程式を
実行することができるが、行われた操作が複雑なので信
号処理遅延が大きすぎたり、あるいは非常に複雑なプロ
セッサが必要になる。最後に、大規模なルックアップテ
ーブル（ＬＵＴ）として関数を導入すると、８ビット入
力値の場合でもＬＵＴを保持する必要のある記憶量は非
常に大きくなり（２の（８×５）乗＝２⁴⁰であり、これ
は１.０×１０¹²よりも大きい）、そのようなデバイス
は非実用的である。

【００６３】図６は、ニューラルネットワーク４１０と
しての使用に適したニューラルネットワークのブロック
図である。このネットワークは３層のプロセッサ、すな
わち入力プロセッサ５１０ａから５１０ｅ、隠れプロセ
ッサ５１２ａから５１２ｏ、及び出力プロセッサ５１４
ａから５１４ｃを備える。各入力プロセッサ、例えば５
１０ａは、すべての入力信号、カラー信号Ｒ、Ｇ、Ｂ及
び制御信号γ及びｃｏｎｔを受け取る。各入力プロセッ
サはその出力信号をすべての隠れプロセッサ５１２ａか
ら５１２ｏに順次与える。各隠れプロセッサ、例えば５
１２ａは３つの出力信号を生成し、その一つは出力プロ
セッサ５１４ａに与えられ、もう一つは出力プロセッサ
５１４ｂに、最後の一つは出力プロセッサ５１４ｃに与
えられる。出力プロセッサ５１４ａ、５１４ｂ、５１４
ｃは各々処理されたカラー信号ｒ’、ｇ’、ｂ’を生成
する。

【００６４】開口補正関数は空間フィルタ操作であるの
で、ニューラルネットワーク４２０は画像サンプルを多
数ライン格納できる回路を備えることが望ましい。それ
によって、処理中のサンプルの上下に表示されたサンプ
ルだけではなく、処理中のサンプルの横に表示されるサ
ンプルも、入力値としてニューラルネットワークに与え
られる。従って、ニューラルネットワーク４２０はニュ
ーラルネットワーク４１０よりも多くの入力端子を有し
得る。さらに、ネットワーク４２０によってエミュレー
トされた多数の関数は、ネットワーク４１０によってエ
ミュレートされた関数よりも複雑さを増し、それによっ
て、ネットワーク４２０ではネットワーク４１０で使用
されるよりも多くの入力プロセッサ及び隠れプロセッサ
を使用することが望ましくなる。また、隠れプロセッサ
として一層だけ使用する代わりに、多数の隠れ層を使用
し、ネットワークを拡張することも望ましい。

【００６５】再び図６を参照すると、ネットワークの各
プロセッサは入力ポートに与えられる連続する値の連続
した重み付けされた量を算出し、シグモイド伝達関数に
よって重み付けされた量を変換し、出力値を生成する。
入力及び隠れプロセッサに対しては、この出力値は次の
段階ですべてのプロセッサに与えられる。出力プロセッ
サについては、これらの出力値は信号ｒ’、ｇ’または
ｂ’である。

【００６６】図７は、入力プロセッサの一つ、例えばプ
ロセッサ５１０ａとしての使用に適した回路のブロック
図である。図７では、３つのカラー信号ｒ、ｇ、ｂのサ
ンプル、及び制御信号γ及びｃｏｎｔのサンプルが、各
重み付け回路６１０ａ、６１０ｂ、６１０ｃ、６１０
ｄ、及び６１０ｅに与えられる。これらの回路によって
与えられた各重み付け係数は、Ｗ_Ii0、Ｗ_Ii1、Ｗ_Ii2、Ｗ
_Ii3、及びＷ_Ii4である。ここで、添え字Ｉは入力プロセ
ッサからの重み付け係数であることを指示し、添え字ｉ
は特定の入力プロセッサを示している。重み付け係数
は、プログラミングバスＰＭを介してプログラム可能で
ある。本発明の実施例では、各回路６１０ａから６１０
ｅは、プログラム可能な重み付け係数が乗数入力ポート
に与えられ、各入力信号（ｒ、ｇ、ｂ、γあるいはｃｏ
ｎｔ）が被乗数入力ポートに与えられる専用の乗算回路
になり得る。

【００６７】あるいは、回路６１０ａから６１０ｅは、
重み付け係数によって乗算を実行する一組の値と共にそ
れぞれプログラムされる各記憶装置（図示せず）として
実現できる。例えば、カラー信号が８ビット信号の場
合、各記憶装置６１０ａから６１０ｅは、入力信号（ア
ドレス入力ポートに与えられる）をプログラムされた重
み付け係数によって乗算することから得られる、取り得
る結果の各々を表す２５６の値を保持する。

【００６８】各重み付け回路６１０ａから６１０ｅによ
って与えられた、重み付けされた出力サンプルは、加算
回路６１２に与えられる。本発明のデジタル回路での実
施例では、加算回路６１２は加算器のツリーとして用い
られ得る。

【００６９】加算回路６１２によって与えられる出力サ
ンプルは、非線形伝達関数を実現した回路６１４に与え
られる。本発明の実施例では、回路６１４は、出力値に
アドレスとして与えられた入力値を、伝達関数によって
修正された結果、入力値とほぼ同じ値をとる出力値に変
換するようにプログラムされた、読み取り専用記憶装置
（ＲＯＭ）である。本発明の実施例では、回路６１４に
よって実現される伝達関数は、方程式（６）に示される
形状を有するシグモイド関数ｇβ（ｘ）である。

【００７０】

【数６】

【００７１】発明の本実施例では、関数ｇβ（ｘ）は値
１を有するβと共に用いられる。以下の例では、この関
数はただ単にｇ（ｘ）として参照される。

【００７２】非線形関数６１４の出力信号は、図６に示
される各隠れプロセッサ５１２ａから５１２ｏに適用す
るために出力信号と同じものを１５個生成する、ライン
ドライバ回路６１６に与えられる。

【００７３】図８は、図６に示されるプロセッサの重み
付け回路をアナログ的に実現した一例である。この図に
示されるように、入力電位Ｖ₁ ⁺、Ｖ₂ ⁺...Ｖ_N ⁺、及びＶ₁
^-、Ｖ₂ ^-...Ｖ_N ^-は、各抵抗回路網（Ｒ₁ ⁺からＲ_N ⁺及びＲ
₁ ^ーからＲ_N ^ー）で総和をとられ、各加算増幅器６５０及び
６５２に与えられる。各入力信号に与えられる重み付け
係数は、適切なフィードバック抵抗器（Ｒ_f ⁺及びＲ_f ^ー）
の、入力抵抗器に対する比である。図８に示される回路
によって生成される出力信号Ｖ_outは、方程式（７）に
よって表され得る。

【００７４】

【数７】

【００７５】ここで、Ｖ_i ⁺はポジティブウエイトＲ_i ⁺を
受け取る入力信号を、Ｖ_i ^ーはネガティブウエイトＲ_i ^ーを
受け取る入力信号を、ｇ_oは二つのダイオード６５４及
び６５６によって実現される非線形関数を表す。

【００７６】隠れプロセッサの一例を図９に示す。この
回路は図７に示す回路と同じであるが、各重み付け回路
７１０ａから７１０ｅが、図６に示す入力プロセッサ５
１０ａから５１０ｅのうちの一つから入力信号を受け取
る点のみが異なっている。各重み付け回路７１０ａから
７１０ｅによって保持されている重み付け係数Ｗ_Hi0か
らＷ_Hi4は、プログラミングバスＰＭを介して各々独立
にプログラム可能である。この重み付け係数に関して
は、添え字Ｈは隠れプロセッサ素子を指示し、添え字ｉ
は特定の隠れプロセッサを示す。

【００７７】さらに、図９に示される回路は、隠れプロ
セッサのラインドライバ７１６は出力信号と同じものを
３つだけ生成する点で、図７に示す回路とは異なってい
る。この３つの出力信号は、図６に示される各々異なっ
た出力プロセッサ５１４ａ、５１４ｂ及び５１４ｃに与
えられる。

【００７８】図１０は、プロセッサ５１４ａ、５１４ｂ
及び５１４ｃのうちの一つとして使用するのに適した、
出力プロセッサのブロック図である。図に示されるよう
に、出力プロセッサは、入力プロセッサ及び隠れプロセ
ッサと同様の構造を有する。しかし、出力プロセッサは
１５の入力信号を有する。従って、出力プロセッサは１
５の重み付け回路８１０ａから８１０ｏを有することに
なる。各重み付け回路８１０ａから８１０ｏによって用
いられる重み付け係数Ｗ_oi0 からＷ_oi14は、プログラミ
ングバスＰＭを介して各々独立にプログラム可能であ
る。この重み付け係数については、添え字Ｏは出力プロ
セッサ係数であることを表し、添え字ｉは特定の隠れプ
ロセッサであることを表す。重み付け回路８１０ａから
８１０ｏが与える、重み付けされた出力値は加算回路８
１２で総和をとられる。

【００７９】加算回路８１２の出力信号は、各々図７及
び図９に示される非線形ＲＯＭ６１４及び７１４と同じ
になり得る、非線形ＲＯＭ８１４に与えられる。非線形
ＲＯＭ８１４によって与えられる出力信号は、出力プロ
セッサ５１４ａ、５１４ｂ、あるいは５１４ｃと結合さ
れる回路を駆動するのに十分な力を備えた出力信号を生
成する、ラインドライバ８１６に与えられる。

【００８０】図４を参照すると、ニューラルネットワー
ク４１０は、入力プロセッサ、隠れプロセッサ、出力プ
ロセッサのそれぞれで重み付け係数の値をプログラムす
ることによって、ガンマ補正及びコントラスト圧縮アル
ゴリズムの伝達関数を実行するためにプログラムされ
る。これらの重み付け係数は、既知の一組の入力・出力
信号の組合せに基づき、学習アルゴリズムを使用してプ
ログラムされる。このアルゴリズムは、方程式（３）、
（４）及び（５）により規定される、ガンマ補正とコン
トラスト圧縮との合成伝達関数の許容し得る近似値を生
成する、重み付け係数の値を決定する。これらの重み付
け値を更新する方法の一つで、一般に誤差のバックプロ
パゲーションと呼ばれる方法を以下に記載する。

【００８１】図１１及び図１２は、本発明の実施例で使
用される重み付け値の更新方法を示すフローチャートで
ある。この本発明の実施例において、このアルゴリズム
は、ニューラルネットワーク４１０をシミュレーション
する汎用コンピュータに使用される。

【００８２】本方法の第一のステップでは、つまり図１
１のステップ９１０では、入力プロセッサ、隠れプロセ
ッサ、出力プロセッサの各プロセッサの各重み付け値は
初期値に設定される。理想的にはこれら初期値は別々の
重み付け回路に与えられる比較的小さいランダム値であ
る。これら初期値は、所望の関数を実現する重み付け値
の最もよい組を探すための出発点を表す。

【００８３】処理の次のステップ、つまりステップ９１
２では、関数Ｆ₁のための一組のトレーニングパターン
を生成する。本発明の一実施例では、関数Ｆ₁は、例え
ば、図３のガンマ補正プロセッサ３２０によって実現さ
れ得る方程式（１）のガンマ補正関数になり得る。

【００８４】テストパターンを生成するためには、プロ
グラムはランダム入力値ｒ、ｇ、ｂ及びγの多数の組を
生成し、これらの値をガンマ方程式（１）に与え、ガン
マ補正されたｒ、ｇ、ｂカラー信号を表す対応する出力
値を得る。各入力値の組、及び対応する出力値は、関数
Ｆ₁のためのトレーニングパターンを一つ形成する。異
なったパターンが十分な数だけ生成されれば、制御はス
テップ９１２からステップ９１４に移る。このステップ
９１４では、システムは生成されたパターンを使用して
トレーニングされる。下記の通りに、発明の本実施例で
は、ニューラルネットワークは、シミュレートされたネ
ットワークにパターンを繰り返し与えることによって、
トレーニングパターンを生成するために使用された伝達
関数を実現できるトレーニングされる。ステップ９１４
は、トレーニングパターンの応用を一つだけ示してい
る。

【００８５】ステップ９１４によって行われる処理は、
図１２にさらに詳しく示される。ステップ１０１０で処
理が始まると、制御は、パターンが選択されそのパター
ンがシステム入力に与えられる、ステップ１０１２に移
動する。この時、ニューラルネットワークは、重み付け
係数のための値を決定するコンピュータでシミュレート
されるので、システム入力はシミュレートされたニュー
ラルネットワークの、実際にシミュレートされた入力端
子となる。シミュレートされた入力端子に既定の時点で
与えられた値は、図１１に示されるステップ９１２で生
成されたテストパターンから、ｒ、ｇ、ｂ及びγに対し
て無作為に決定された値である。

【００８６】ステップ１０１２でテスト入力値が与えら
れると、入力値はステップ１０１４で、シミュレートさ
れたニューラルネットワークを介してシミュレートされ
た出力端子に伝播される。このステップでは、シミュレ
ートされたニューラルネットワークは、その時点で指定
されている重み付け係数をすべて用いて入力信号値を処
理し、対応する出力信号値を生成する。

【００８７】ステップ１０１６では、これらの伝播され
た出力値は、対応するテストパターンからの出力値と比
較される。各々の比較から、ニューラルネットワークで
生成される出力値と、与えられた入力値に対して事前に
算出された出力値との差を表す誤差値が生成される。誤
差値、あるいは「費用関数」が数多くの方法で算出され
得る。その一つとして、実際の出力信号と所望の出力信
号との絶対的な差を計算する方法がある。この方法を用
いると、図６のプロセッサ５１４ａの出力ポートでの費
用関数は、実際の赤信号値ｒ_aと所望の赤信号値ｒ_dとの
算術差（すなわち、ｒ_a−ｒ_d）になる。

【００８８】可能な費用関数は、映像信号処理に重要な
信号差、例えば実際のカラーレシオ（color ratio）と
所望のカラーレシオとの差、あるいは、実際の輝度と所
望の輝度との差、及び実際の色差と所望の色差との差を
示す。この意味で、図６の各出力プロセッサ５１４ａか
ら５１４ｃに対して、ステップ１０１６はすべての実際
の出力値（ｒ_a、ｇ_a及びｂ_a）及びすべての所望の出力
値（ｒ_d、ｇ_d及びｂ_d）の費用関数値ＣＦを算出する。
再びプロセッサ５１４ａに対して、このような費用関数
の一つが、方程式（８）に示される。

【００８９】

【数８】

【００９０】ステップ１０１８では、これらの費用関数
値はそれぞれ、シミュレートされたシステム出力端子か
らニューラルネットワークを通して、シミュレートされ
たシステム入力端子へと後方に伝播する。この誤差伝播
は、方程式（９）に示される。

【００９１】

【数９】 δ_i＝ｇ’（ｘ_i）ＣＦ（Ｏ_ia，Ｏ_id）
（９） ここで、δ_iは非線形関数の勾配によって乗算されたｉ
番目の出力端子における誤差（すなわち、ｉ番目の出力
プロセッサによって生成される出力値における誤差）、
ＣＦはテストパターンからの所望の出力値Ｏ_id、及びシ
ミュレートされたニューラルネットワークによって生成
される実際の出力値Ｏ_iaから算出される適切な費用関数
値である（例えば、ＣＦは方程式（８）つまり[Ｏ_iaー
Ｏ_id]で算出される）。方程式（９）では、ｘ_iはｉ番目
の出力プロセッサに与えられる重み付けされた入力値の
合計であり、ｇ’（ｘ）は方程式（１０）に示されるｇ
（ｘ）の第一導関数である。

【００９２】

【数１０】 ｇ’（ｘ）＝２ｇ（ｘ）[１ーｇ（ｘ）]
（１０） ステップ１０２０では、各重み付け係数に対する誤差値
は、バックプロパゲーションによって出力段階、隠れ段
階、入力段階の各段階で、各プロセッサに対して算出さ
れる。この計算は、方程式（１１）によって表される。

【００９３】

【数１１】

【００９４】ここで、添え字ｋは特定のプロセッサレベ
ル（すなわち、入力、隠れ、あるいは出力）を示し、添
え字ｋ−１は前の特定のレベルを示し、添え字ｉはその
レベルの特定のプロセッサを示し、添え字ｊはｉ番目の
プロセッサの特定の入力端子を示す。

【００９５】ステップ１０２２では、方程式（１２）に
従って決定される、補正項ΔＷ_kijによって、重み付け
係数Ｗ_kijは更新される。

【００９６】

【数１２】

【００９７】ここで、ηは重み付け係数の値が変化可能
な率を決定する補正係数、Ｖ_k、iはレベルｋでのｊ番目
のプロセッサによって生成される出力値である。重み付
け係数が更新されると、このパターンのこの場合の処理
は完了したことになる。

【００９８】ステップ１０２４では、シミュレーション
システムはこのステップで与えるパターンがそれ以上あ
るかを決定する。そのようなパターンがある場合には、
制御がステップ１０１２へと移り、次の入力パターンを
選択し、その入力値をシミュレートされたシステム入力
へ与える。そうでなければ、つまり与えられるパターン
がない場合には、制御はステップ１０２６へと移り、そ
こで図１２に示される処理によって生成される重み付け
係数は、ニューラルネットワークに対する新しい重み付
け係数として決定される。

【００９９】図１１に戻って、ステップ９１４の後のス
テップ９１６は、先の数組の重み付け係数を使用したこ
とで生じた出力誤差の履歴を検査する。本発明の本実施
例では、最新の選択されたパターンを用いて生成された
重み付け係数の各組を用いてプログラムされた、シミュ
レータを駆動すること、及びシミュレートされたニュー
ラルネットワークによって生成された出力値と、生成さ
れたトレーニングパターンに含まれる各所望の出力値と
を比較することによって検査が成される。

【０１００】次に、誤差が許容誤差の範囲内であるかを
決定するために、ステップ９１８が呼び出される。も
し、誤差が許容できない場合、ステップ９２０で決定さ
れるように、重み付け係数の値は発散し得る。重み付け
係数が発散した場合、方程式（１１）での補正項ηの大
きさを減ずるために、ステップ９２２が呼び出される。
前述のように、この項の値を減じることによって、フィ
ードバックシステムのゲインは減じられ、重み付け係数
の値はそれまでよりゆっくりと変化することになる。

【０１０１】ステップ９２０で重み付け係数値が発散し
ないことが決定されると、ステップ９２４は重み付け係
数が収束する速度が遅すぎるかどうかを決定するために
実行される。ステップ９２４で収束する速度が遅すぎる
と決定されると、パターンを再び作るステップ９２６が
呼び出される。ステップ９２４で重み付け係数が収束す
る速度が遅すぎないと決定されれば、シミュレートされ
たニューラルネットワークによって使用される新しい重
み付け係数を記憶し、前の誤差値から係数を生成するた
めに使用された誤差値を記憶する、ステップ９２８が呼
び出される。記憶された誤差値は、上記のようにステッ
プ９１６によって使用される。ステップ９２８の後、制
御はステップ９１４に戻る。

【０１０２】ステップ９１８でこの時点でのテストパタ
ーンの一組に対する誤差値が許容できると決定される
と、ニューラルネットワークによってシミュレートされ
る関数がそれ以上あるかを決定するために、ステップ９
３０が呼び出される。そのような関数がある場合、次の
関数の組合せのためにトレーニングパターンを生成す
る、ステップ９３４が実行される。図４に示される本発
明の実施例では、ガンマ補正及びコントラスト圧縮の二
つの関数のみがニューラルネットワークを用いて処理さ
れる。この場合、ステップ９３４はＦ₁（ガンマ補正）
及びＦ₂（コントラスト圧縮）の組合せに対してトレー
ニングパターンを生成する。本発明の実施例では、これ
らの出力関数の組合せは方程式（３）、（４）及び
（５）によって示される。

【０１０３】図５に示される本発明の実施例では、ニュ
ーラルネットワーク４２０はガンマ補正及びコントラス
ト圧縮に加えて、カラーバランス及び開口補正を導入す
るために使用される。本発明の第二の実施例では、ステ
ップ９３４は一度目にはコントラスト圧縮関数とガンマ
補正関数を組み合わせ、二度目にはカラーバランス関数
と、ガンマ補正とコントラスト圧縮との合成関数と、を
組み合わせ、三度目には開口補正関数と、ガンマ補正、
コントラスト圧縮及びカラーバランスの合成関数と、を
組み合わせるために呼び出される。さらに、図５に示す
実施例で、測色補正及び局所ヒストグラムイコライゼー
ション（local histogram equalization）などの付加処
理を行うことができることは、十分明らかである。

【０１０４】ニューラルネットワークは、カメラが変わ
ると変化するが、ある特定のカメラでは不変であるよう
な処理を施すために使用し得る。そのような処理のうち
の一つは、レンズ系、あるいはイメージャ自体での収差
に対するイメージャの出力信号を補正するための処理で
あり得る。イメージャ及びレンズシステムが取り付けら
れると、この収差は変化しない。従って、この関数に対
してニューラルネットワークには制御入力信号は必要な
くなる。この種類の収差を補正する関数は、ニューラル
ネットワークで実行される一連の関数の中でも、一番初
めに行われ得る。

【０１０５】図１１に戻ると、ステップ９３４の各呼び
出しは、ニューラルネットワーク中の各プロセッサに対
する重み付け係数が前の関数あるいは合成された関数に
対して生成されたパターンを用いて更新される、ステッ
プ９１４から９２８に示される処理に先行して行われ
る。

【０１０６】ステップ９３０が実行されると、それ以上
の関数がシミュレートされる必要がないという決定がな
され、最終の重み付け関数が記憶されているステップ９
３２が実行される。

【０１０７】もう一度図４を参照すると、最後の重み付
け係数が外部コンピュータに記憶されると、その重み付
け係数はニューラルネットワーク４１０に与えられ、図
４に示されるカメラ回路は動作可能な状態になる。図１
３は、制御パラメータγ及びｃｏｎｔの一組の値に対し
て、ニューラルネットワーク４２０が生成する計算され
た赤、緑、青の各信号（ｒ、ｇ、ｂ）と出力値（ｒ’、
ｇ’、ｂ’）との対応を表す、入力値に対する出力値の
グラフである。この図からわかるように、ニューラルネ
ットワーク信号と所望の信号値との差が異なる関数値が
存在する。なぜならこれらの関数（すなわち、ガンマ補
正関数及びコントラスト圧縮関数）は、きわめて主観的
であり、モデルは推定値であることは周知である（特
に、ガンマ補正の場合）。しかし、計算された関数値と
ニューラルネットワークが生成した値との差によって、
再生された映像の質が大きく低下することはない。

【０１０８】ニューラルネットワークは、可能な入力値
をすべて表す一組の係数値を受け取るように示された
が、様々なプロセッサ（すなわち、γ及びｃｏｎｔ）の
制御パラメータに対して既定された一組の範囲ごとに一
つずつ、複数の係数値を生成することが望ましい。この
他の実施例では、図４に示されるようにパラメータの一
つが制御盤３３６を介して調整されると、ニューラルネ
ットワーク４１０に使用される予定の重み付け値は、バ
スＰＭを介してネットワークにダウンロードされる。こ
の他の実施例では、制御パラメータの一つが、予め定め
られた値の範囲に存在する異なる値になったときだけこ
れらの重み付け値が変化する。このとき制御パラメータ
値のそれぞれの範囲は、重み付け係数の個々のセットと
関連づけられる。

【０１０９】前述のように、発明の主旨の基本的な概念
の１つは、図１に示されるようなシステムの代わりに、
他の等価なシステムを用いることである。そのシステム
は、他の実施態様では、図１４に示される。図１４で
は、ニューラルネットワーク１２１０は連結されて、デ
ータ信号入力Ｖ１、Ｖ２およびＶ３を受け取る。しか
し、第１の実施態様と違って、ニューラルネットワーク
１２１０は、入力としてのパラメータ信号Ｐ１、Ｐ２お
よびＰ３を、入力として受け取らない。パラメータＰ
１、Ｐ２およびＰ３は、トレーニングユニット１２１４
に入力され、そのトレーニングユニット１２１４は、入
力に対する所望の出力ベクトルによって、ニューラルネ
ットワーク１２１０をトレーニングするときに、パラメ
ータ入力を考慮する。

【０１１０】パラメータ入力は、ネットワークに対する
重み付け係数に、非間接的に影響を及ぼすが、ニューラ
ルネットワークが静的であるよりもむしろ動的であるこ
とを示すために、それらのパラメータは、ニューラルネ
ットワーク１２１０に対する入力として含まれていな
い。即ち、新たなパラメータを設定するごとに、ニュー
ラルネットワークは、重み付け係数の新たな組によって
更新される。以下で記載されるように、パラメータの設
定自体は、初期値およびオンライントレーニングに用い
られる所望の出力ベクトルに影響を与える。ニューラル
ネットワーク１２１０は、図１のような出力信号Ｖ
１’、Ｖ２’およびＶ３’を生成する。

【０１１１】図１４に示されるシステムは、第１の実施
態様と同じ利点の多くを有する。付加的な利点として
は、本発明の他の実施態様では、制御パラメータが入力
として用いられないために、より小さなニューラルネッ
トワークが使えるということがある。

【０１１２】図１５は、一例としてのデジタルビデオカ
メラのブロック図である。そのデジタルビデオカメラ
は、図３を参照にして記載されたカメラシステムと本質
的に同一である。

【０１１３】図１５に示される信号上で行われる各処理
は、例えば、以下に示される伝達関数を有する。

【０１１４】カラーバランス

【０１１５】

【数１３】 ｃｂ（ｘ）＝ｘ・ｘｇａｉｎ
（１３）ハイパスフィルタ

【０１１６】

【数１４】

【０１１７】ガンマ補正

【０１１８】

【数１５】

【０１１９】コントラスト圧縮

【０１２０】

【数１６】

【０１２１】開口補正

【０１２２】

【数１７】 Ａ（ｘ，ａｐ（ｘ，ｇ））＝ｘ＋ａｐｇａ
ｉｎ・ａｐ（ｘ，ｇ）（１７） 式（１３）から（１７）に対して、Ｍは、画素に対する
可能な最大の値である正規化係数であり、ｍａｘ（ｒ，
ｇ，ｂ）は、特定の［ｒ，ｇ，ｂ］ベクトルの最大値で
あり、ベクトルｇは、ｇおよびその隣接ベクトル、即
ち、上、下、左、右であり、ｘは、ｒ、ｇまたはｂであ
ることに留意しなければならない。プロセス全体は、以
下の変換または再配置によって示され得る。

【０１２３】

【数１８】

【０１２４】ビデオ入力回路１３１４、固定パターン補
正回路１３１６、カラーバランスプロセッサ１３１８、
ガンマ補正プロセッサ１３２０およびコントラスト圧縮
プロッセサ１３２２は、プロセッサ制御・プログラミン
グ回路１３３４によって制御される。この回路は、制御
盤１３３６から情報を受取り、その制御盤１３３６へ状
態情報を与える。信号処理システムの制御に加えて、制
御およびプログラミング回路１３３４は、更に、ＣＣＤ
イメージャ１３１０、ＡＤコンバータ１３１２およびＤ
Ａコンバータ１３３２に対して、クロック信号および他
のタイミング信号を生成する。

【０１２５】図１６は、ビデオカメラの構成を示す。そ
の構成は、ニューラルネットワーク１４２０およびオン
ライントレーニングユニット１４２４（以下で詳細に示
す）が、カラーバランスプロセッサ１３１８、ガンマ補
正プロセッサ１３２０、コントラスト圧縮プロセッサ１
３２２、ハイパスフィルタ１３１９および開口補正ユニ
ット１３２４にとって代わることを除き、図１５に示さ
れるビデオカメラの構成と同じである。図示されるよう
に、オンライントレーニングユニット１４２４は、パラ
メータ入力を受取り、ニューラルネットワーク１４２０
に対する適切な重み付け係数を生成する。パラメータ入
力が変化する際に、トレーニングユニット１４２４は、
記憶されたテストベクトルを用いて、シミュレーション
を行う。そのシミュレーションの結果は、ニューラルネ
ットワーク１４２０に対するプログラム可能な重み付け
係数を決定し、更新するのに用いられる。

【０１２６】図１７は、本発明のオンライントレーニン
グユニット１４２５の他の実施態様を示す。この実施態
様では、オンライントレーニングユニット１４２５は、
ニューラルネットワーク１４２０の入力および出力の両
者に接続しており、その結果、入力ベクトルを利用し、
出力ベクトルを導き出し、それらのベクトルをシミュレ
ートされたテスト結果と比較することができる。比較の
結果を、トレーニングユニット１４２５によって用い、
ニューラルネットワーク１４２０のプログラム可能な重
み付け係数を更新する。ニューラルネットワーク１４２
０を、それ自体のオンライントレーニングに対して実際
に用いる利点は、例えば、トレーニングユニット１４２
４によって用いられる一般的な用途のプロセッサと比べ
て迅速であるということである。

【０１２７】トレーニングユニット１４２５とニューラ
ルネットワーク１４２０の入力および出力信号線との相
互接続を、例えば、マルチプレクサまたはハイインピー
ダンスドライバによって実現することは、当業者であれ
ば理解できる。

【０１２８】さしあたってニューラルネットワーク１４
２０の複雑な構成を考慮に入れない場合、図１６の回路
は、構成要素がより少ないので、図１５の回路よりも単
純である。更に、以下に記載されるように、図１６に示
される回路から許容可能な信号処理を作り出すのに必要
な技術的努力は、図１５に示される回路から、同じレベ
ルの性能を生み出すのに必要な技術的努力よりもかなり
少なくてすむ。

【０１２９】たとえニューラルネットワークの複雑さが
考慮されても、図１６に示される回路は、図１５に示さ
れる回路よりもコストが少なくてすむ。なぜなら、ニュ
ーラルネットワーク１４２０およびトレーニングユニッ
ト１４２４、またはネットワークを構成する処理要素
は、特別に製造しない、一般的な使用目的のための部品
であり、それゆえ、多くの部品を使うことでコストが割
安になる。更に、ニューラルネットワークは、同一の処
理要素を複数使用するように構成されることもある。

【０１３０】図１６では、カラーバランス、ハイパスフ
ィルタ、開口補正、ガンマ補正およびコントラスト圧縮
関数は、ニューラルネットワーク１４２０によって結び
付けられて機能する。これらの関数の組合せは、非常に
非線形的である。複数のこれらの関数は結び付けられ
て、入力カラー信号ｒ、ｇおよびｂから、各々の信号
ｒ’、ｇ’およびｂ’を生成する。

【０１３１】式（１３）から（１７）または合成式（１
８）において、信号ｒ’、ｇ’およびｂ’は、各ｒ、ｇ
およびｂ入力信号上で、上記の関数を実行した結果であ
る。この連結したプロセスは、多数の指数と最大値を含
むため、非常に非線形である。更に、出力カラー信号の
１つは、その対応する入力カラー信号が同一であって
も、他の入力カラー信号の１つが変化すれば、変化する
ことがある。

【０１３２】更に、上記の式は、アナログ回路またはデ
ジタル回路のいずれかにおいて容易に実現できない。式
（１８）が、各関数を生成する回路の組合せによって実
行されても、このような実行は、回路の柔軟性を厳密に
限定し、その回路を開発するための多大な努力を要求す
る。最終的に、その関数が、大きなルックアップテーブ
ル（ＬＵＴ）として実行されるなら、８ビット入力値に
対してもＬＵＴを保持するために必要なメモリの量は、
実現不可能になってしまう（２の（８×７）乗＝２の５
６乗、つまり７．２×１０¹⁶）。

【０１３３】図１８及び図１９は、ネットワーク１４２
０として使用するのに適したニューラルネットワークの
ノード図である。図１９は、図１８に示されるネットワ
ークをハードウェアで実現する例を示す機能ブロック図
である。

【０１３４】図１８が示すように、ネットワーク１４２
０は、３層のノード、入力ノード１５１０ａから１５１
０ｃ、隠れノード１５１２ａから１５１２ｃ、及び出力
ノード１５１４ａから１５１４ｃを有する。各入力ノー
ド、例えば入力ノード１５１０ａは、全ての入力信号つ
まり、色信号ｒ、ｇ、ｂ、及び上、下、左、右の各画素
についての緑の色信号を受け取る。ここでもネットワー
ク１４２０はパラメータ入力を有しない。つまりパラメ
ータは、後に詳しく説明される学習のときに、ネットワ
ークに効果的に「トレーニング」される。入力としての
パラメータを含まないことにより、所定の精度に必要な
ノードの数を減らすことが出来るという長所が得られる
が、新しいパラメータのセットに対するオンライントレ
ーニングがいくらか必要になるという欠点もある。

【０１３５】各入力プロセッサはその入力信号を隠れプ
ロセッサ１５１２ａから１５１２ｃの全てに順番に与え
る。各々の隠れプロセッサ、例えば１５１２ａは、３つ
の出力信号を生成し、その一つは出力ノード１５１４ａ
に、他の一つは１５１４ｂに、最後の一つは１５１４ｃ
に与えられる。出力ノード１５１４ａ、１５１４ｂ及び
１５１４ｃは、各々の処理された色信号、ｒ’、ｇ’、
ｂ’を生成する。

【０１３６】開口補正関数が空間フィルタリング演算で
あるため、処理中の一つのサンプルを包囲（上、下、
左、右）する多元サンプルが入力値としてニューラルネ
ットワーク１４２０に与えられるように、ニューラルネ
ットワーク１４２０はビデオサンプルの多元ラインを記
憶する回路を有することが望ましい。信号処理システム
に与えられる遅延サンプル及び拡張サンプルにニューラ
ルネットワークがアクセスできさえすれば、この回路
は、必ずしもニューラルネットワーク１４２０内に存在
する必要はないことに注意すべきである。

【０１３７】再び図１８を参照する。ネットワーク内の
各モードは、入力ポートに与えられる連続した値の順次
重み付け加算を行い、シグモイド伝達関数（図１９にＮ
Ｌとして図示）によって重み付け加算値を変換し、その
出力値を生成する。入力および隠れプロセッサについて
は、これらの出力値は、次の段階のプロセッサ全てに与
えられる。出力プロセッサに関しては、これらの出力値
は信号ｒ’、ｇ’、もしくはｂ’である。

【０１３８】図１９は、図１８のネットワークの実行ハ
ードウェアを例示する機能ブロック図である。ここでは
図１８の入力ノードによって行われる処理は、例えばＴ
ＲＷＴＤＣ２２４６などの３対の４×１ドット積ユニッ
トを使用して実行される。４×１ドット積ユニットのそ
れぞれの対が、７つの入力全てを受け取ることに注意さ
れたい。各対について個別の４×１ユニットの出力が加
算され、その結果、シグモイド非線形（ＮＬ）変換され
る。シグモイド非線形変換は、メモリを使って実行する
ことができる。

【０１３９】各ＮＬ回路の出力信号は、（ネットワーク
１５０８の隠れノードを示す）重み付けされた積の総和
を求め、その結果をＮＬ回路の第二の組に出力する３×
３マトリックスベクトル乗算器に与えられる。本実施例
では、３×３マトリックスベクトル乗算は、ＴＲＷ Ｔ
ＭＣ２２５０を用いて行われる。

【０１４０】最後に、ＮＬ回路の第二の組からの出力信
号は、（ネットワーク１５０８の出力ノードを示す）第
二の重み付けされた積の総和を求め、結果をＮＬ回路の
第三の組に出力する第二の３×３マトリックスベクトル
乗算器に与えられる。ＮＬ回路の最終の組が非線形シグ
モイド処理を行った後、信号ｒ’、ｇ’、ｂ’が出力さ
れる。

【０１４１】図２０は、図１９に示す実施例とは関係な
く、入力ノードの内の一つとして使用するのに適した回
路の機能ブロック図である。この図２０では、３つの色
信号（ｒ、ｇ、ｂ）のサンプルと、上下左右の画素に対
する緑の色信号のサンプルとが各重み付け回路１６１０
ａ、１６１０ｂ、１６１０ｃ、１６１０ｄ、１６１０
ｅ、１６１０ｆ及び１６１０ｇに与えられる。これら回
路によって与えられる重み付け係数は、それぞれ
Ｗ_Ii0、Ｗ_Ii1、Ｗ_Ii2、Ｗ_Ii3、Ｗ_Ii4、Ｗ_Ii5、およびＷ
_Ii6であり、ここでは添え字Ｉは入力プロセッサからの
重み付け係数であることを示し、添え字ｉは特定の入力
プロセッサを示している。これらの重み付け係数は、プ
ログラミングバスＰＭを通じてプログラム可能である。
本発明の実施例では、各回路１６１０ａから１６１０ｇ
は、プログラム可能な重み付け係数が乗算器入力ポート
に与えられ、各入力信号（ｒ、ｇ、ｂ、ｇａ、ｇｂ、ｇ
ｒもしくはｇｌ）が被乗数入力ポートに与えられる専用
の乗算回路であってもよい。

【０１４２】各重み付け回路１６１０ａから１６１０ｇ
によって与えられた、重み付けされた出力サンプルは加
算回路１６１２に与えられる。本発明のデジタル回路で
の実施例では、加算回路１６１２は加算器のツリーとし
て実現されてもよい。

【０１４３】加算回路１６１２によって与えられる出力
サンプルは、非線形伝達関数を実現する回路１６１４に
与えられる。本発明の実施例では、回路１６１４は、ア
ドレスとして与えられた入力値を、伝達関数によって変
更された入力値とほぼ等しい出力値に変換するようにプ
ログラムされた、読出し専用メモリ（ＲＯＭ）である。
本発明の実施例では、回路１６１４によって実現される
伝達関数は、方程式（１９）に示される形のシグモイド
関数ｇβ（ｘ）である。

【０１４４】

【数１９】

【０１４５】本発明の実施例では、関数ｇβ（ｘ）は値
１を有するβと共に用いられる。以下の例では、この関
数はただ単にｇ（ｘ）として参照される。

【０１４６】非線形回路１６１４からの出力信号は、図
１８に示される各隠れノード１５１２ａから１５１２ｃ
に与えるための出力信号と同じ信号を３個生成する、ラ
インドライバ回路１６１６に与えられる。非線形回路１
６１４の出力は、ノードから出力される前に、あるいは
次のノードに対する入力として入力された後に、同じ信
号を３個生成する。

【０１４７】図２１に隠れプロセッサの一例が示され
る。この回路は図２０に示される回路と同じであるが、
各重み付け回路１７１０ａから１７１０ｃは図１８に示
される入力ノード１５１０ａから１５１０ｃの各々異な
る入力信号を受け取る点が異なっている。各々の重み付
け回路１７１０ａから１７１０ｃに保持される各重み付
け回路ＷＨ_i0からＷＨ_i2 は、プログラミングバスＰＭ
を介して各々独立にプログラム可能である。これらの重
み付け係数については、添え字Ｈは隠れプロセッサ係数
であることを表し、添え字ｉは特定の隠れプロセッサを
表している。

【０１４８】さらに、図２１に示される回路は図２０に
示される回路と、隠れプロセッサのラインドライバ１７
１６が出力信号と同じものを３つ生成する点で同じであ
る。これらの３つの出力信号は、図１８に示される各々
異なる出力プロセッサ１５１４ａ、１５１４ｂ及び１５
１４ｃに与えられる。

【０１４９】図２２は、プロセッサ１５１４ａ、１５１
４ｂ及び１５１４ｃの一つとして使用するのに適した出
力プロセッサのブロック図である。図示されるように、
出力プロセッサは、入力プロセッサ及び隠れプロセッサ
と類似した構造を有する。出力プロセッサは３つの入力
信号を有し、ゆえに３つの重み付け回路１８１０ａから
１８１０ｃを有する。重み付け回路１８１０ａから１８
１０ｃによって実現された各重み付け係数ＷＯ_i0 から
ＷＯ_i2 は、プログラミングバスＰＭを介して各々独立
にプログラム可能である。これらの重み付け係数につい
ては、添え字Ｏは出力プロセッサ係数であることを表
し、添え字ｉは特定の出力プロセッサであることを表
す。重み付け回路１８１０ａから１８１０ｃによって与
えられる重み付けされた出力値は、加算回路１８１２で
総和をとられる。

【０１５０】加算回路１８１２の出力信号は、各々図２
０及び２１に示される非線形ＲＯＭ１６１４及び１７１
４と同じであり得る非線形ＲＯＭ１８１４に与えられ
る。非線形ＲＯＭ１８１４によって与えられる出力信号
は、出力プロセッサ１５１４ａ、１５１４ｂ、あるいは
１５１４ｃと結合される回路を駆動するのに十分な力を
備えた出力信号を生成する、ラインドライバ１８１６に
与えられる。

【０１５１】再び図１６を参照すると、ニューラルネッ
トワーク１４２０は、入力プロセッサ、隠れプロセッ
サ、出力プロセッサのそれぞれで重み付け係数の値をプ
ログラムすることによって、カラーバランス、ハイパス
フィルタ、開口補正、ガンマ補正及びコントラスト圧縮
アルゴリズムの伝達関数を実行するためにプログラムさ
れる。これらの重み付け係数は、既知の一組の入力信
号、出力信号の組合せに基づき、学習アルゴリズムを使
用してプログラムされる。トレーニングユニット１４２
４で実行されるこのアルゴリズムは、方程式（１８）に
よって規定されるように、組み合わせられた関数の許容
し得る近似値を生成する、重み付け係数の値を決定す
る。これらの重み付け値を決定する方法の一つで、一般
に誤差のバックプロパゲーションと呼ばれる方法を以下
に記載する。

【０１５２】図１８に示されるニューラルネットワーク
は、例えば第１の実施例のニューラルネットワークと比
較すると、大きさが小さくなっていることが注目され
る。入力ベクトルの中にパラメータ設定を含まないこと
によって、大きさを小さくすることができた。しかし、
入力ベクトルの中にパラメータ設定を含まないというこ
とは、ニューラルネットワーク１４２０は新しいパラメ
ータ設定毎にトレーニングされ直されなければならない
ことを意味し、オンライングトレーニングが必要とな
る。

【０１５３】本発明のもう一つの実施例の重要な特徴
は、オフライントレーニングとオンライントレーニング
との組み合わせであるネットワークトレーニング技術に
示される。オフライントレーニングは、オンライントレ
ーニングに必要な時間を削減するように設計され、例え
ば、本実施例では１秒にすぎない。

【０１５４】これをよりよく行うために、オンライント
レーニングが始まる前に、よい初期重み値を得ることが
重要である。実施例では、パラメータベクトルの所定の
組に対してニューラルネットワークをオフラインでトレ
ーニングし、得られた重み付け係数の組を記憶すること
によって、実現される。その後、撮像プロセッサのオン
ライン動作の間、いくつかの所望のパラメータ設定に対
して、適切な初期重み付けベクトルが使用される。実施
例では、適切な初期重みベクトルは、所望のパラメータ
ベクトルと記憶されサンプルされたパラメータベクトル
とを比較する距離によって決定され、「最も近い」パラ
メータ設定である、記憶されサンプルされたパラメータ
ベクトルが用いられている。明らかに、オンラインパラ
メータ設定が記憶されサンプルされたパラメータベクト
ルの中の一つと同じであれば、オンライントレーニング
を行う必要はない。なぜなら、このパラメータ設定に適
する重み付け係数はすでに記憶装置中に記憶されている
からである。

【０１５５】最も近い記憶されたパラメータ設定を決定
するのに適した距離の一例であり、Ｐ_s ^* は、

【０１５６】

【数２０】

【０１５７】ここで、Ｐ_d （Ｐ_d1 、Ｐ_d2 、Ｐ_d3 ...Ｐ
_dn ）は所望のパラメータベクトル、Ｐ_s ＝（Ｐ_si）
は、ｎが制御パラメータの数、ｋが所定のパラメータベ
クトルであるとき_{s= 1...k} 及び_i=1...n である、記憶
されたパラメータベクトルである。Ｄ（Ｐ_d 、Ｐ_s）は
_s=1...k に対して計算され、ｓは最小のＤ（Ｐ_d 、
Ｐ_s）にＰ_s ^*を生じさせる。または、

【０１５８】

【数２１】

【０１５９】Ｐ_s ^*と関連する所定の重みは、オンライン
トレーニングに対する初期重みとして使用される。

【０１６０】パラメータ設定におけるオンライン変化が
記憶されサンプルされたパラメータ設定と同じでないと
きでも、記憶された重み付け係数の一組は特定のパラメ
ータ設定に適し得る。重み付け係数の組がパラメータベ
クトルの特定の次元内の値の範囲に適しているかどうか
の決定は、つまり、オンライントレーニングが不必要に
なり、オフラインで計算され、または融通性のある距離
にプログラムされる。オフライン・オンライントレーニ
ング戦略に一例として、図２３のパラメータベクトル設
定を（ｒｇａｉｎ＝１、ｇｇａｉｎ＝１、ｂｇａｉｎ＝
１、Ｃ＝０．４、ガンマ＝１、ａｐｇａｉｎ＝２）とす
る。小さいランダム初期重みから始まり、オフライント
レーニングが進むと、例えば、図２３に示す誤差を生じ
る。このトレーニング後、これらの重みは記憶され、上
記のパラメータベクトル設定と関連付けられる。

【０１６１】カメラプロセッサの動作間に、これに近い
パラメータ設定が所望であると仮定する（例えば、ａｐ
ｇａｉｎ＝３であり、他のすべての値が同じである）。
ニューラルネットワーク１４２０は、新しい設定に対し
てトレーニングされるが、用いられた初期重み値は図２
３のパラメータ設定に対して計算された初期重み値とな
る。トレーニングが進むと図２４の誤差を生じる。図２
４からわかるように初期誤差は小さく、トレーニングは
許容できる誤差に達するまで５００回しかかからない
が、図２３では２０００回かかっても許容できるところ
まで達しない。

【０１６２】重み付け値を計算する技術は、以下詳細に
記述するように、一つの関数に対してネットワークを初
めに「トレーニングする」ことである。次に、これらの
値を使って、第１の関数及び第２の関数から構成される
合成関数に対してニューラルネットワークをトレーニン
グする。このプロセスは、それぞれの関数がニューラル
ネットワークで記述されるようになるまで続けられる。

【０１６３】上記の処理手順によって、他の方法によれ
ば最終の合成関数から直接トレーニングすることが難し
すぎてできない、複雑なニューラルネットワークのトレ
ーニングも容易になる。本発明の実施例では、ニューラ
ルネットワークはこの処理方法を用いてオフライントレ
ーニングされることができる。また、ニューラルネット
ワークの大きさ及び複雑さを小さくしたため、上記の方
程式（６）のように最終の合成関数から直接トレーニン
グすることができる。

【０１６４】図１１及び図１２のフローチャートとそれ
に関連する説明は、オンライントレーニングで使用され
るために記憶されるパラメータ設定の多数の組に対して
オフラインで重み付け値を決定する、一般的な方法を示
している。本発明の実施例では、このアルゴリズムは汎
用コンピュータを用いて「オフライン」で実現される。

【０１６５】オフライン処理は、オンライントレーニン
グプロセス前に、ニューラルネットワークを初期化する
ために使用される初期重み付け係数が決定し保存するも
のである。このオフライン処理は、トレーニング用に選
択される新しいパラメータセッティングのそれぞれに対
して行われる。実施態様において、パラメータ空間の代
表的なサンプリングは、結果として得られる重み付け値
がオンライントレーニングに対する初期値として使用さ
れるように行われる。

【０１６６】上記のように、図１１および図１２を詳細
に説明したが、他の実施態様では、プログラムは、テス
トパターンを生成するために、ガンマパラメータセッテ
ィングを選択し、次に例えば、ｒ、ｇ、ｂ、ｇａ、ｇ
ｂ、ｇｒおよびｇｌの複数セットのランダム入力値を生
成し、これらの値をガンマの式（３）に与え、ガンマ補
正されたｒ、ｇおよびｂカラー信号を示す対応の出力値
を得る。入力値およびそれに対応する出力値の各セット
は、選択されたγセッティングを有する関数Ｆ₁に対す
る１つのトレーニングパターンを形成する。十分な数の
異なるパターンが生成されると、制御は、ステップ９１
２からステップ９１４へと移行し、ステップ９１４で
は、システムは、生成されたパターンを用いてトレーニ
ングされる。ニューラルネットワクは、シミュレートさ
れたネットワークにパターンを繰り返し与えることによ
って、トレーニングパターンを生成するために使用され
た伝達関数を実現できるようにトレーニングされる。ス
テップ９１４は、トレーニングパターンの１つの応用を
示すだけである。

【０１６７】従って、ステップ９３０が実行され、関数
がこれ以上シミュレートされる必要はないと決定される
ならば、ステップ９３２が実行される。ステップ９３２
では、特定のパラメータセッティングの最終重み付け係
数が保存される。次に、プロセス全体は、各セットのパ
ラメータセッティングに対して繰り返され、サンプリン
グされたパラメータセッティングのそれぞれに対して１
セットの重み付け係数が保存されることになる。

【０１６８】再び図１６を参照すると、最終セットの重
み付け係数が保存されると、図１６に示されるカメラ回
路は、動作準備状態となる。

【０１６９】本発明の実施態様では、関数を次から次へ
とトレーニングする時間の関係上、ニューラルネットワ
ークのオンライントレーニングは、図１１および図１２
を参照しながら説明したものをわずかに変化させて使用
する。オンライントレーニングでは、関数によってニュ
ーラルネットワーク関数をトレーニングするのではな
く、最終的な合成関数が使用される。

【０１７０】図２８は、図１１と同様に、本発明の実施
態様で使用されるオンライントレーニング技術を例示す
るフローチャートを示す。ステップ２１０８では、距離
は、オフライン処理されたパラメータセッティングの内
のどのセッティングがオンラインパラメータセッティン
グに最も近いかを決定するために使用される。次に、ス
テップ２１１０では、最も近いオフラインパラメータセ
ッティングの重み付け係数が、オンライントレーニング
の初期重み付けとして使用される。

【０１７１】ステップ２１１２のトレーニングパターン
は、式（１８）から直接計算され、入力に対する所望の
出力ベクタを生成する。そうすることによって［ｒ、
ｇ、ｂ］入力空間は、各次元が５ポイントで線形にサン
プリングされる。各［ ｒ、ｇ、ｂ］ベクトルについ
て、緑色近傍（green neighbors)は、中央の緑色画素を
平均とし、０．１×Ｍ（ここで、Ｍは、式１５および式
１６に示されるものと同様である）を標準偏差として、
ガウス分布を用いることによってランダムに引き出され
る。次に、出力ベクトルは、画素入力ベクトル、パラメ
ータ入力ベクトルおよび式（１８）を用いて生成され
る。この手順では、合計で１２５のトレーニング用ベク
トルが生成される。

【０１７２】フローチャートのその他の説明は、図１１
で上述したものと同様である。本発明の実施態様では、
このアルゴリズムは、ビデオカメラの汎用プロセッサ、
例えば、図１６に示されるトレーニングユニット１４２
４を用いて「オンライン」で実施される。

【０１７３】図１７に示される他の実施態様では、トレ
ーニングアルゴリズムは、より迅速で、より簡単であろ
う。なぜなら、実際のニューラルネットワーク１４２０
は、オンライントレーニングプロセス中に結果を「シミ
ュレート」するために使用されるためである。しかし、
上記のように、トレーニングユニット１４２５は、適切
な重み付け係数を決定する残りの関数を実施するために
も使用される。

【０１７４】最終的な合成関数を直接使用することによ
って重み付け値を計算するための上記の手順は、小規模
で比較的簡単なニューラルネットワークには望ましい。
しかし、本発明のニューラルネットワークがさらに相関
関係（すなわち、ビデオカラの他の処理ユニット）を含
むか、または医療撮像または空間撮像などの異なる応用
においてより複雑になるならば、上記のより一般的に適
用可能なトレーニング手続きが使用されなければならな
い。

【０１７５】図２５から図２７は、従来の処理と本発明
の実施態様のニューラル処理との基本的な比較結果を示
す。カラーテスト画像を、ランダムに選択した。種々の
パラメータセッティングを選択し、テスト画像をニュー
ラルプロセッサと従来のプロセッサとの両方でシミュレ
ートした。ＬＤプロットを、単一行の画像をプロットす
ることによって生成した。その比較を図２５および図２
６に示す。図２５において、パラメータベクトルは、
［ｒｇａｉｎ＝１、ｇｇａｉｎ＝１、ｂｇａｉｎ＝１、
ガンマ＝１、コントラスト＝０．４、ａｐｇａｉｎ＝
０］であり、図２６において、パラメータベクトルは、
［ｒｇａｉｎ＝１、ｇｇａｉｎ＝１、ｂｇａｉｎ＝１、
ガンマ＝０．５、コントラスト＝１．０、ａｐｇａｉｎ
＝１．０］であった。

【０１７６】ニューラル方法のプログラム可能性の例と
して、コントラスト圧縮変換関数の変更を考慮する。新
しい変換は、飽和度および輝度を同等に増加させる（式
（４）の関数）のではなく、（色合いを維持しながら）
飽和度を輝度の２倍に増加させる。この変換の変更に
は、ニューラルネットワーク構成の変更は必要ではない
が、定義では、従来のアナログまたはデジタル信号処理
システムは更新される必要がある。テスト画像を、この
新形態のコントラスト圧縮を用いて処理し、その結果を
図２７に示す。図２７では、パラメータベクトルは、
［ｒｇａｉｎ＝１、ｇｇａｉｎ＝１、ｂｇａｉｎ＝１、
ガンマ＝１、コントラスト＝０．４、ａｐｇａｉｎ＝
１］であった。

【０１７７】図２７は、新しいコントラスト圧縮スキー
ムにおいて、前記の定義と実質的に同様の誤差が生じて
いることに留意されたい。これは、実質的に、ニューラ
ルネットワークの強みである。所望の変換が変わって
も、ネットワークの構成は同じで、重み付けが変わるだ
けでよい。

【０１７８】本発明を実施例に基づいて示したが、従属
クレームの意図及び目的内で、上記に概要したように実
行し得ると考えられる。

【０１７９】

【発明の効果】本発明のニューラルネットワーク映像処
理装置は、独立した信号処理関数のグループを、一つの
統合された関数として動作させるためにニューラルネッ
トワークを使用することにより、汎用の部品を使うこと
が可能である。その結果、集積回路を開発する期間と費
用とを削減することができ、また信号処理の際の遅延を
少なくすることができるようになる。

【図面の簡単な説明】

【図１】パイプライン処理システムの一例を示すブロッ
ク図である（従来技術）。

【図２】図１に示されるパイプライン処理システムがニ
ューラルネットワークを用いて実施される方法を示した
ブロック図である。

【図３】ビデオカメラで使用される映像信号処理システ
ムの一例を示すブロック図である（従来技術）。

【図４】本発明の一実施例を含むビデオカメラ信号処理
システムのブロック図である。

【図５】本発明のより一般的なもう一つの実施例を含む
ビデオカメラ信号処理システムのブロック図である。

【図６】図４で示したビデオカメラシステムでの使用に
適したニューラルネットワークのブロック図である。

【図７】図６で示したニューラルネットワークでの使用
に適した入力層プロセッサのブロック図である。

【図８】図６で示したニューラルネットワークの入力
層、隠れ層、あるいは出力層の各プロセッサのうちのい
ずれか一つとして使用され得るアナログプロセッサの一
例を示す概略図。

【図９】図６で示したニューラルネットワークでの使用
に適した隠れ層プロセッサのブロック図である。

【図１０】図６で示したニューラルネットワークでの使
用に適した出力層プロセッサのブロック図である。

【図１１】図４及び５で示したニューラルネットワーク
のプログラミングを説明するために有効なフローチャー
トである。

【図１２】図１１に示したフローチャートのステップの
一つに示されるように、生成されたパターンを使用して
ニューラルネットワークがトレーニングされる方法を説
明するために有効なフローチャートである。

【図１３】理想的なシステムと比較した図５に示される
システムの性能を示す、入力値に対する出力値のグラフ
である。

【図１４】図１に示されるパイプライン処理システムが
ニューラルネットワークを用いて実施される方法を示し
たブロック図である。

【図１５】ビデオカメラで使用される映像信号処理シス
テムの一例を示すブロック図である（従来技術）。

【図１６】トレーニングユニットを有する本発明の第１
の実施例を含むビデオカメラ信号処理システムのブロッ
ク図である。

【図１７】変更されたトレーニングユニットを有する本
発明の第２の実施例を含むビデオカメラ信号処理システ
ムのブロック図である。

【図１８】本発明での使用に適したニューラルネットワ
ークのノードの図である。

【図１９】図１８で示したハードウエアの実施の一例を
示す機能ブロック図である。

【図２０】図１８で示したニューラルネットワークでの
使用に適した入力層ノードの一例のブロック図である。

【図２１】図１８で示したニューラルネットワークでの
使用に適した隠れ層ノードのブロック図である。

【図２２】図１８で示したニューラルネットワークでの
使用に適した出力層ノードのブロック図である。

【図２３】オフラインネットワーク処理、及びオンライ
ンネットワーク処理を示すグラフである。

【図２４】オフラインネットワーク処理、及びオンライ
ンネットワーク処理を示すグラフである。

【図２５】従来の処理によって得られた結果と比較した
本実施例のニューラルネットワークによって得られた結
果を比較したグラフである。

【図２６】従来の処理によって得られた結果と比較した
本実施例のニューラルネットワークによって得られた結
果を比較したグラフである。

【図２７】従来の処理によって得られた結果と比較した
本実施例のニューラルネットワークによって得られた結
果を比較したグラフである。

【図２８】実施例によって用いられた適切なオンライン
トレーニング技術を示すフローチャートである。

【符号の説明】

１１０、１１２、１１４ プロセッサ ２１０ ニューラルネットワーク ３１０ 電荷結合素子（ＣＣＤ）イメージャ ３１２ アナログーデジタル変換器（ＡＤＣ） ３１４ 映像入力回路 ３１６ 固定パターン補正回路 ３１８ カラーバランスプロセッサ ３２０ ガンマ補正プロセッサ ３２２ コントラスト圧縮器 ３２４ 開口フィルタ ３２６、３２８、３３０ 加算器 ３３２ デジタル−アナログ変換器（ＤＡＣ） ３３４ 処理制御プログラミング回路 ３３６ 制御盤 ４１０、４２０ ニューラルネットワーク ５１０ａ、５１０ｂ、５１０ｃ、５１０ｄ、５１０ｅ
入力プロセッサ ５１２ａ、５１２ｂ、５１２ｃ、５１２ｄ、５１２ｅ、
５１２ｆ、５１２ｇ、５１２ｈ、５１２ｉ、５１２ｊ、
５１２ｋ、５１２ｌ、５１２ｍ、５１２ｎ、５１２ｏ
隠れプロセッサ ５１４ａ、５１４ｂ、５１４ｃ 出力プロセッサ ６１０ａ、６１０ｂ、６１０ｃ、６１０ｄ、６１０ｅ
重み付け回路 ６１２ 加算回路 ６１４ 回路 ６１６ ラインドライバ回路 ６５０、６５２ 加算増幅器 ６５４、６５６ ダイオード ７１０ａ、７１０ｂ、７１０ｃ、７１０ｄ、７１０ｅ
重み付け回路 ７１６ ラインドライバ ８１０ａ、８１０ｂ、８１０ｃ、８１０ｄ、８１０ｅ
重み付け回路 ８１２ 加算回路 ６１４、７１４、８１４ 非線形ＲＯＭ ８１６ ラインドライバ １２１０ ニューラルネットワーク １２１４ トレーニングユニット １３１０ 電荷結合素子（ＣＣＤ）イメージャ １３１２ アナログ―デジタル変換器（ＡＤＣ） １３１４ 映像入力回路 １３１６ 固定パターン補正回路 １３１８ カラーバランスプロセッサ １３２０ ガンマ補正プロセッサ １３２２ コントラスト圧縮プロセッサ １３３２ デジタル―アナログ変換器（ＤＡＣ） １３３４ プロセス制御プログラミング回路 １４２０ ニューラルネットワーク １４２４、１４２５ オンライントレーニングユニット １５０８ ニューラルネットワーク １５１０ａ、１５１０ｂ、１５１０ｃ 入力ノード １５１２ａ、１５１２ｂ、１５１２ｃ 隠れノード １５１４ａ、１５１４ｂ、１５１４ｃ 出力ノード １６１０ａ、１６１０ｂ、１６１０ｃ、１６１０ｄ、１
６１０ｅ、１６１０ｆ、１６１０ｇ 重み付け回路 １６１２ 加算回路 １６１４ 非線形ＲＯＭ １６１６ ラインドライバ回路 １７１０ａ、１７１０ｂ、１７１０ｃ 重み付け回路 １７１４ 非線形ＲＯＭ １８１０ａ、１８１０ｂ、１８１０ｃ 重み付け回路 １８１２ 加算回路 １８１４ 非線形ＲＯＭ １８１６ ラインドライバ

Claims (23)

【特許請求の範囲】
1. 【請求項１】 複数のプログラム可能な重み付け係数
   と、制御信号が各々直接に複数の信号処理関数と関連づ
   けられていて、複数の入力信号及び複数の制御信号を受
   け取る複数の入力端子と、複数の出力信号を供給するた
   めの複数の出力端子とをもつニューラルネットワーク
   と、 各々が入力ベクトル、制御ベクトル及び出力ベクトルを
   含み、該出力ベクトルが第１及び第２の信号処理関数の
   該入力ベクトルに対する所望の反応を表す、複数のテス
   トパターンを生成する手段と、 該複数のプログラム可能な各々の重み付け係数に対応す
   る複数の値を生成するシミュレーション手段であって、 該複数のテストパターンの入力ベクトル、制御の各ベク
   トルに対するニューラルネットワークの反応をシミュレ
   ートする手段と、 該重み付け係数に特定されたシミュレートされた各々の
   値を変化させ、シミュレートされた反応をテストパター
   ンの出力ベクトルと一致させる手段とを有するシミュレ
   ーション手段と、 該ニューラルネットワークにシミュレートされた重み付
   け係数の値を与え、ニューラルネットワークが第１及び
   第２の非線形信号処理関数をエミュレートできるように
   する手段、を備える信号処理システム。
2. 【請求項２】 少なくとも第１及び第２の非線形信号処
   理関数に従って複数の入力信号を処理し、それにより複
   数の出力信号を生成する信号処理システムであって、該
   システムが、 複数のプログラム可能な重み付け係数と、複数の入力信
   号及び複数の制御信号を受け取る複数の入力端子と、複
   数の出力信号を供給するための複数の出力端子とを有す
   るニューラルネットワークと、 各々がそれぞれ異なる重み付け係数に対応する、複数の
   値を生成するシミュレーション手段であり、該シミュレ
   ーション手段が、 複数のテストパターンに対するニューラルネットワーク
   の反応をシミュレートし、各々のパターンが入力ベクト
   ル、制御ベクトル及び出力ベクトルを含んでいる手段
   と、 該重み付け係数に特定された、シミュレートされた各々
   の値を変化させ、シミュレートされた反応をテストパタ
   ーンの出力ベクトルと一致させる手段とを含むシミュレ
   ーション手段と、 第１の複数のテストパターンを生成し、各々が前記第１
   の非線形関数に対して入力ベクトル、制御ベクトル、及
   び所望の出力ベクトルを含み、該シミュレーション手段
   にテストパターンを与え、複数の重み付け係数に対して
   初期値を生成する手段と、 該第１及び第２の非線形信号処理関数の組合せを表す第
   ２の複数のテストパターンを生成し、第２の複数のテス
   トパターンにおける各パターンが入力ベクトル、制御ベ
   クトル、及び所望の出力ベクトルを含み、該シミュレー
   ション手段に第２の組のテストパターンを与え、それに
   よって該複数の重み付け係数に対する最終値を生成する
   手段と、 該重み付け係数の最終値をニューラルネットワークに与
   え、ニューラルネットワークが該第１及び第２の非線形
   信号処理関数に従って入力信号を処理することができる
   ようにする手段とを備える信号処理システム。
3. 【請求項３】 前記シミュレーション手段が、 前記テストパターンの各入力ベクトル及び制御ベクトル
   に対するニューラルネットワークの反応をシミュレート
   し、シミュレートされた出力値のベクトルを生成するシ
   ミュレータと、 複数の費用関数値を算出する手段であって、ここで各費
   用関数値は該シミュレートされた出力値から選択された
   出力値の数学的関数を表し、かつ各費用関数値は所望の
   出力ベクトルからの所望の出力値に対応する手段と、 該費用関数に反応し、各出力ベクトルでの各々の値とシ
   ミュレートされた出力値ベクトルでの値との差を最小限
   にするように各プログラム可能な重み付け係数を修正す
   る、バックプロパゲーション手段と、 ニューラルネットワークが信号処理関数を許容可能な誤
   差でエミュレートできる値に、重み付け係数が収束する
   ときを決定する手段とを備えた、請求項２に記載のシス
   テム。
4. 【請求項４】 前記各費用関数値が、ニューラルネット
   ワークのすべてのシミュレートされた出力値の関数であ
   る、請求項３に記載のシステム。
5. 【請求項５】 前記システムが少なくとも第１及び第２
   のカラー信号値を、シミュレートされた出力ベクトルと
   所望の出力ベクトルとにおいて各々第１及び第２の出力
   値として生成するカラー映像信号処理システムであっ
   て、該費用関数がシミュレートされた第１と第２の出力
   値との比と所望の第１と第２の出力値の比との差の関数
   である、請求項３に記載のシステム。
6. 【請求項６】 前記システムが少なくとも第１及び第２
   のカラー信号値を各々第１及び第２のシミュレートされ
   た出力値と所望の出力値として生成するカラー映像信号
   処理システムであって、該費用関数が、第１及び第２の
   シミュレートされた出力値と、シミュレートされた出力
   値によって生成される第１輝度値と対応する所望の出力
   値によって生成される第２輝度値との差を表す、第１及
   び第２のシミュレートされた出力値との組合せの関数で
   ある、請求項３に記載のシステム。
7. 【請求項７】 複数のプログラム可能な重み付け係数を
   有するニューラルネットワークを備えるシステムにおい
   て、少なくとも第１及び第２の非線形信号処理関数に従
   って複数の入力信号を処理し、それによって複数の出力
   信号を生成する方法であって、該方法が、 前記第１の非線形信号処理関数を表す第１の複数のテス
   トパターンを生成し、該第１の非線形関数に対して該第
   １の複数のテストパターンにおける各パターンが入力ベ
   クトル、制御ベクトル及び出力ベクトルを有するステッ
   プと、 該第１の複数のテストパターンに対するニューラルネッ
   トワークの反応をシミュレートし、第１の複数のテスト
   パターンに含まれる出力ベクトルにニューラルネットワ
   ークのシミュレートされた反応が一致するように、ニュ
   ーラルネットワークの重み付け係数を修正し、重み付け
   係数に対して複数の初期値を生成するステップと、 該第１及び第２の非線形信号処理関数の組合せを表す第
   ２の複数のテストパターンを生成し、該第２の複数のテ
   ストパターンの各パターンが入力ベクトル、制御ベクト
   ル、及び出力ベクトルを有するステップと、 第２の複数のテストパターンに対するニューラルネット
   ワークの反応をシミュレートし、第２の複数のテストパ
   ターンに含まれた出力ベクトルにニューラルネットワー
   クのシミュレートされた反応が一致するようにニューラ
   ルネットワークの重み付け係数を修正し、重み付け係数
   に対する複数の最終値を生成するステップと、 ニューラルネットワークに重み付け係数の最終値を与え
   るステップと、 ニューラルネットワークを用いて入力信号を処理し、出
   力信号を生成するステップを有する方法。
8. 【請求項８】 複数の入力映像情報信号を与える手段
   と、 該第１の非線形信号処理関数がガンマ補正で、該第２の
   非線形信号処理関数がコントラスト圧縮であるとき、第
   １及び第２の非線形信号処理関数に従って該複数の入力
   映像情報信号を処理する手段とを備える処理手段であっ
   て、該第１及び第２の非線形信号処理関数が、 各々がプログラム可能な重み付け係数を有する複数のプ
   ロセッサを備えたニューラルネットワークと、 各入力値と出力値とを有する複数のテストパターンを生
   成する手段であって、各テストパターンの該出力値が第
   １及び第２の非線形信号処理関数を用いて各入力値を処
   理した結果を表す手段であって、該複数のテストパター
   ンを生成する手段がさらに、第１の非線形処理関数のみ
   を用いて入力値を処理した結果を表す第１の組のテスト
   パターンを生成し、かつ、 第１の非線形処理関数と併せて第２の非線形処理関数を
   用いて入力値を処理した結果を表す第２の組のテストパ
   ターンを生成する手段とを備えている該複数のテストパ
   ターンを生成する手段と、 該複数のテストパターンを用いてニューラルネットワー
   クを訓練し、第１及び第２の非線形処理関数をニューラ
   ルネットワークがエミュレートできるようにする各重み
   付け係数に対して複数の値を生成する手段であって、ニ
   ューラルネットワークを訓練する手段が、第１の組のテ
   ストパターンを用いてニューラルネットワークを訓練
   し、第１の組のテストパターンを用いたニューラルネッ
   トワークの訓練後、第２の組のテストパターンを用いて
   ニューラルネットワークを訓練する手段を有する手段と
   を備えた映像信号処理システム。
9. 【請求項９】 カラー補正関数をガンマ補正関数とコン
   トラスト圧縮関数との組合せで用いて前記入力値を処理
   した結果を表す第３の一組のテストパターンを生成する
   手段と、 該ニューラルネットワークが第２の組のテストパターン
   を用いて訓練され、カラー補正、コントラスト圧縮及び
   ガンマ補正の各関数の組合せをエミュレートする複数の
   重み付け係数に対して一組の値を生成した後、第３の組
   のテストパターンを用いてニューラルネットワークをト
   レーニングする手段とをさらに有する、請求項８に記載
   のシステム。
10. 【請求項１０】 開口補正関数及びガンマ補正関数とコ
    ントラスト圧縮関数とカラー補正関数との組合せを用い
    て前記入力値を処理した結果を表す第４の組のテストパ
    ターンを生成する手段と、 該ニューラルネットワークが第３の組のテストパターン
    を用いて訓練され、開口補正、カラー補正、コントラス
    ト圧縮及びガンマ補正の各関数の組合せをエミュレート
    する複数の重み付け係数に対して一組の値を生成した
    後、第４の組のテストパターンを用いてニューラルネッ
    トワークをトレーニングする手段とをさらに有する、請
    求項９に記載のシステム。
11. 【請求項１１】 複数のプログラム可能な重み付け係数
    を有するニューラルネットワークと、ニューラルネット
    ワークの入力端子が赤、緑及び青の各カラー信号を表す
    信号を受け取るために結合されていて、複数の入力信号
    及び複数の制御信号を受け取る複数の入力端子と、複数
    の出力信号を与えるための複数の出力端子と、 各々が入力ベクトル、制御ベクトル及び出力ベクトルを
    含み、該出力ベクトルが第１及び第２の信号処理関数の
    該入力ベクトルに対する所望の反応を表す、複数のテス
    トパターンを生成し、該第１及び第２の信号処理関数が
    ガンマ補正及びコントラスト圧縮である手段と、 該複数のプログラム可能な各々の重み付け係数に対応す
    る複数の値を生成するシミュレーション手段を備える信
    号処理システムであって、該シミュレーション手段が、 該複数のテストパターンの入力ベクトル、制御ベクトル
    の各ベクトルに対するニューラルネットワークの反応を
    シミュレートする手段と、 重み付け係数に特定された、シミュレートされた各々の
    値を変化させ、シミュレートされた反応をテストパター
    ンの出力ベクトルと一致させる手段と、 該ニューラルネットワークにシミュレートされた該重み
    付け係数の値を実際の重み付け係数として与え、ニュー
    ラルネットワークが第１及び第２の非線形信号処理関数
    をエミュレートできるようにする手段を備える信号処理
    システム。
12. 【請求項１２】 カラービデオカメラで、 複数のプログラム可能な重み付け係数を有するニューラ
    ルネットワークと、ニューラルネットワークの入力端子
    が赤、緑及び青のカラー信号を表す信号を受け取るため
    に結合されている、複数の入力信号及び複数の制御信号
    を受け取る複数の入力端子と、複数の出力信号を与える
    ための複数の出力端子と、 各々が入力ベクトル、制御ベクトル及び出力ベクトルを
    含み、該出力ベクトルが第１及び第２の信号処理関数の
    該入力ベクトルに対する所望の反応を表す、複数のテス
    トパターンを生成し、該第１及び第２の信号処理関数が
    ガンマ補正、コントラスト圧縮、カラーバランス、及び
    開口補正から構成されるグループから選択される手段
    と、 該複数のプログラム可能な各々の重み付け係数に対応す
    る複数の値を生成するシミュレーション手段を備える信
    号処理システムであって、該シミュレーション手段が、 該複数のテストパターンの入力ベクトル、制御ベクトル
    の各ベクトルに対するニューラルネットワークの反応を
    シミュレートする手段と、 重み付け係数に特定された、シミュレートされた各々の
    値を変化させ、シミュレートされた反応をテストパター
    ンの出力ベクトルと一致させる手段と、 該ニューラルネットワークにシミュレートされた該重み
    付け係数の値を与え、ニューラルネットワークが第１及
    び第２の非線形信号処理関数をエミュレートできるよう
    にする手段を備える信号処理システム。
13. 【請求項１３】 複数の入力信号を受け取る複数の入力
    端子と、複数の出力信号を供給する複数の出力端子と、
    複数のプログラム可能な重み付け係数を受け取り、か
    つ、該プログラム可能な重み付け係数が複数のパラメー
    タ入力の一つが変化するごとに生成される受け取り手段
    と、を有する、複数の非線形信号処理関数をエミュレー
    トするニューラルネットワークと、 各組が複数のパラメータ入力に対する値の各々異なる組
    に対応している、所定のプログラム可能な重み付け係数
    の複数の組を記憶する手段と、 対応する重み付け係数の組が存在しないパラメータ設定
    の各組に対する、一組の重み付け係数をオンラインで決
    定し、かつ、該決定された重み付け係数が、記憶されて
    いる重み付け係数の組の、少なくとも一つであるオンラ
    イントレーニング手段と、 該ニューラルネットワークが複数の非線形信号処理関数
    をエミュレートできるように、受け取り手段に決定され
    た重み係数を与える、プログラム可能な手段と、を備え
    る複数のパラメータ入力を有する信号処理システム。
14. 【請求項１４】 複数の入力信号を受け取る複数の入力
    端子と、複数の出力信号を供給する複数の出力端子と、
    複数のプログラム可能な重み付け係数を受け取り、か
    つ、該プログラム可能な重み付け係数が複数のパラメー
    タ入力の一つで著しい変化がおこるごとに変化する受け
    取り手段とを有する、複数の非線形信号処理関数をエミ
    ュレートするニューラルネットワークと、 各組が複数のパラメータ入力に対する各々異なる値の組
    に対応していて、所定のプログラム可能な重み付け係数
    の複数の組を記憶する手段と、 対応する重み付け係数の組が存在しない、新しいパラメ
    ータ設定の一組に対する一組の重み付け係数をオンライ
    ンで決定し、かつ、該決定された重み付け係数が、記憶
    されている重み付け係数の組の少なくとも一つの関数で
    あるオンライントレーニング手段とを備える信号処理シ
    ステムであって、該オンライントレーニング手段が、 記憶されている重み付け係数の組の中のどれがトレーニ
    ング中に初期値として使用されるべきかを決定する手段
    と、 パラメータ設定の新しい組に対する重み係数を決定する
    ために、ニューラルネットワークを初期値の関数として
    トレーニングする手段と、 該ニューラルネットワークが該複数の非線形信号処理関
    数をエミュレートできるように、受け取り手段に決定さ
    れた重み係数を与えるプログラム可能な手段と、を備え
    る複数のパラメータ入力を有する信号処理システム。
15. 【請求項１５】 ニューラルネットワークが複数の映像
    信号処理関数をエミュレートし、 ニューラルネットワークの入力端子が、赤、緑及び青の
    カラー信号を表す信号を受け取るために結合されてい
    る、請求項１３に記載の信号処理システム。
16. 【請求項１６】 信号処理システムがカラービデオカメ
    ラの中にあり、 ニューラルネットワークの入力端子が、赤、緑及び青の
    カラー信号を表す信号を受け取るために結合されて、 複数の信号処理関数が、ガンマ補正、コントラスト圧
    縮、ハイパスフィルタリング、カラーバランス及び開口
    補正から成るグループから選択される、請求項１３に記
    載の信号処理システム。
17. 【請求項１７】 トレーニング手段が、 テストパターンの各入力ベクトルに対するニューラルネ
    ットワークの応答をシミュレートし、シミュレートされ
    た出力値のベクトルを生成するシミュレータ手段と、 各費用関数値がシミュレートされた出力値から選択され
    たものの数学的関数を表し、かつ、所望の出力ベクトル
    からの所望の出力値に対応している、複数の費用関数値
    を計算する手段と、 費用関数値を最小にするために各プログラム可能な重み
    関数を修正する、費用関数値に応答するバックプロパゲ
    ーション手段と、 ニューラルネットワークが許容可能な誤差を伴う信号処
    理関数をエミュレートできる値に、重み係数が収束する
    ときを決定する手段と、を備える請求項１４に記載のシ
    ステム。
18. 【請求項１８】 各費用関数値がニューラルネットワー
    クのシミュレートされたすべての出力値の関数である、
    請求項１７に記載のシステム。
19. 【請求項１９】 前記システムが少なくとも第１及び第
    ２のカラー信号値を、シミュレートされた出力ベクトル
    と所望の出力ベクトルとにおいて各々第１及び第２の出
    力値として生成するカラー映像信号処理システムであっ
    て、該費用関数がシミュレートされた第１及び第２の出
    力信号との比と所望の第１及び第２の出力値の比との差
    の関数である、請求項１７に記載のシステム。
20. 【請求項２０】 前記システムが少なくとも第１及び第
    ２のカラー信号値を、各々第１及び第２のシミュレート
    された出力値と所望の出力値として生成するカラー映像
    信号処理システムであって、該費用関数が、シミュレー
    トされた出力値によって生成される第１の輝度と対応す
    る所望の出力値によって生成される第２の輝度との差を
    表す、シミュレートされた第１及び第２の出力信号と所
    望の第１及び第２の出力値の組合せの関数である、請求
    項１７に記載のシステム。
21. 【請求項２１】 複数のプログラム可能な重み付け係数
    を有するニューラルネットワークを備えるシステムにお
    いて、複数の非線形信号処理関数に従って複数の入力信
    号を処理し、それによって複数の出力信号を生成する方
    法であって、該方法が、 パラメータ入力設定の複数の所定の組に対応する重み付
    け係数の複数の組をオフラインで計算するステップと、 ニューラルネットワークのオンライン動作の間に使用す
    る重み付け係数の複数の組を記憶するステップと、 事前に計算された重み付け係数の記憶された組の少なく
    とも一つの関数としてパラメータ設定の所定の組の一つ
    とは等価ではないパラメータ入力設定の各組に対して、
    ニューラルネットワークをオンラインでトレーニングす
    るステップと、 ニューラルネットワークを使用して入力信号を処理し、
    出力信号を生成するステップと、を有する方法。
22. 【請求項２２】 前記ニューラルネットワークをトレー
    ニングするステップが、 ニューラルネットワークに対する初期値を、事前に計算
    された重み付け係数の少なくとも一つの組の関数として
    設定するステップと、 複合非線形信号処理関数を表す複数のテストパターンを
    生成し、かつ、該複数のテストパターン中の各パターン
    が入力ベクトル及び出力ベクトルを含むステップと、 第１の複数のテストパターンに対するニューラルネット
    ワークの応答をシミュレートし、ニューラルネットワー
    クのシミュレートされた応答を、第１の複数のテストパ
    ターンに含まれる出力ベクトルに一致させるようにニュ
    ーラルネットワークの初期重み付け係数を修正すること
    によって、重み付け係数に対する複数の新しい値を生成
    するステップと、 重み付け係数に対する新しい値が、ニューラルネットワ
    ークの応答をシミュレートされた応答の許容できる所定
    の限界内になるまで、必要に応じてシミュレーションの
    ステップを繰り返すステップと、 重み付け係数の最終的な新しい値をニューラルネットワ
    ークに与えるステップと、をさらに含む請求項２１に記
    載の方法。
23. 【請求項２３】 シミュレートするステップが実際にニ
    ューラルネットワークを用いて行われる、請求項２２に
    記載の方法。