JP2001195564A - 画像検出処理装置 - Google Patents
画像検出処理装置Info
- Publication number
- JP2001195564A JP2001195564A JP2000010180A JP2000010180A JP2001195564A JP 2001195564 A JP2001195564 A JP 2001195564A JP 2000010180 A JP2000010180 A JP 2000010180A JP 2000010180 A JP2000010180 A JP 2000010180A JP 2001195564 A JP2001195564 A JP 2001195564A
- Authority
- JP
- Japan
- Prior art keywords
- image detection
- detection processing
- signal
- image
- adder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Image Input (AREA)
Abstract
理速度の向上させる。 【解決手段】 画像検出処理装置は、それぞれ光電変換
部5の出力をディジタル信号に変換し、デジタル信号を
入力可能とした加算回路15を備え、平面状に配列され
た複数の画像検出処理要素1−1乃至1−64を行列配
置し、行毎に加算回路15を接続して累積加算器を構成
し、直列に接続された直列型加算器2−1乃至2−8の
それぞれ行毎の累積加算器の最終段の出力を入力して累
積加算可能としてあり、行デコーダ3、列デコーダ4に
より、上記デジタル信号を選択的に累積加算器に入力
し、複数の画像検出処理要素の光電変換部5によって検
出される画像の処理データを直列型加算器2−8から出
力する。これにより、重心計算等の画像処理に必要な処
理データをデータ転送時に生成可能とし、高速処理を可
能とする。
Description
置、情報入力装置に用いる画像検出処理装置に関し、さ
らに詳しくは、移動する対象物体の画像処理を高速処理
するのに適した画像検出処理装置である。
入力装置に用いる画像処理装置は、ビデオカメラ等に用
いられるCCD受光センサと外部の処理プロセッサなど
を組み合わせてその機能を実現していた。CCD受光セ
ンサにより得られた画像データを別設の記憶装置に転送
して格納し、別説の処理プロセッサを介して対象物体
(ターゲット)の重心計算等の画像処理を行っていた。
ット学会誌13巻3号(1995年4月)333頁乃至
338頁に示されているように、ワンチップに受光セン
サと並列信号処理回路とを一体化させ、エッジ抽出、細
線化等の信号処理をセンサ側で行い、その結果を順次出
力するという構成が提案されていた。
受光センサからの信号転送スピードが制限されたり(1
/60秒以上)、外部の処理プロセッサなどが大規模に
なったりするという課題があった。
の高い並列系列処理のアーキテクチャを採用すること
で、多用な画像処理が可能である反面、限られたチップ
面積上に多くの画素を配列するのが困難であった。ま
た、センサから出力される画像データの転送に思いのほ
か時間がかかるという課題があった。
出処理装置では、光電変換を行う光検出器と上記光検出
器からの信号をディジタル信号に変換する変換器と上記
デジタル信号を入力可能とした加算器とからなる画像検
出処理要素の複数個が平面状に配列されてなる画像検出
処理装置とし、上記画像検出処理要素の上記加算器を順
次接続して累積加算器を構成し、制御回路により、上記
複数の画像検出処理要素の上記デジタル信号を選択的に
上記累積加算器に入力し、上記画像検出処理要素の上記
光検出器によって検出される画像データに基づき上記累
積加算器から処理データを出力する。これにより、画像
検出処理装置において、重心計算等の画像処理に必要な
処理データをデータ転送時に生成可能とし、高速処理を
可能とする。
は、光電変換を行う光検出器と上記光検出器からの信号
をデジタル信号に変換する変換器と上記デジタル信号を
入力可能とした加算器とからなる画像検出処理要素の複
数個が平面上に配列されてなる画像検出処理装置であっ
て、上記複数の画像検出処理要素の上記加算器を順次接
続してなる累積加算器と、上記複数の画像検出処理要素
の上記デジタル信号を選択的に上記累積加算器に入力せ
しめる制御回路と、上記光検出器によって検出される画
像データに基づき上記累積加算器から出力される処理デ
ータが供給される出力部とを更に備えている。
平面上に行列配列される。そして上記複数の画像検出処
理要素の第1の加算器を行毎に直列に接続してなる第1
の累積加算器と、上記各行の上記第1の累積加算器の最
終段の出力を入力とした上記各行に対応した第2の加算
器を直列に接続してなり上記第1の累積加算器の最終段
の出力を累積加算する第2の累積加算器と、上記複数の
画像検出処理要素の上記デジタル信号を選択的に上記第
1の累積加算器に入力せしめる制御回路と、上記光検出
器によって検出される画像データに基づき上記累積加算
器から出力される処理データが供給される出力部とが更
に備えられている。
処理要素の上記デジタル信号の全てを上記第1の累積加
算器に入力せしめ、上記第2の累積加算器から出力され
る処理データを、上記画像検出処理要素群に結像される
結像画像の0次モーメントとする画像検出処理装置を構
成することも好ましい。
素の上記デジタル信号から選択される幾つかを上記第1
の累積加算器に入力せしめ、上記第2の累積加算器から
出力される処理データを、上記画像検出処理要素群に結
像される結像画像のN(Nは1以上の整数)次モーメン
トを求めるための部分和とすることも好ましい。
従い作動させて上記デジタル信号を発生しさせ、上記第
1及び第2の累積加算器を上記第1のクロック信号とは
異なる第2のクロック信号に従い動作させ、上記第2の
累積加算器から上記処理データをその下位桁から順次出
力することも好ましい。
からの出力と当該特定の画像検出処理要素の隣接する複
数の画像検出処理要素からのデジタル信号とに基づい
て、当該特定の画像検出処理要素から出力されるデジタ
ル信号を生成させるようにしてあることも好ましい。
いることも好ましい。
明する。図1は本発明による画像検出処理装置の一例を
説明するための説明図である。本例の画像検出処理装置
は例えば、ロボットの視覚センサや自動車の衝突防止セ
ンサ、半導体検査装置等において、検出される画像か
ら、動作対象物体、前方車両、半導体基板上の特定パタ
ーン等のターゲットの画像を抽出し、その位置情報、軌
跡情報等を得る処理に用いるものであり、画像データを
転送とともに、例えばターゲット画像の重心位置特定に
用いられる0次モーメント、1次モーメントの算出に必
要な処理デ−タに加工して出力するものである。外部の
処理プロセッサは当該前加工された処理データを用いて
位置情報、軌跡情報等を得るため、全体として処理速度
の向上が可能となる。
出処理要素で、8×8個のアレイ構造として平面的に配
置してある。各画像検出処理要素は、後述するように、
光検出器と光検出器からの信号をデジタル信号に変換す
る変換部とを備えている。
接する4個の画像検出処理要素要素に対して上記デジタ
ル信号をターゲット画像信号として出力する。例えば、
画像検出処理要素1−11は画像検出処理要素1−3、
1−10、1−12、1−19に対して、ターゲット画
像信号を出力する。また、画像検出処理要素では、その
4個の画像検出処理要素からのターゲット画像信号とそ
れ自身のターゲット画像信号とに基づいてターゲットを
背景から抽出するためのウィンド画像信号を生成する。
詳しくは後述するが、ウィンドウ画像に含まれる画像が
新たなターゲット画像とし、ターゲットを背景から抽出
するのである。また、各画像検出処理要素は後述する第
1の加算器を含み、各画像検出処理要素の第1の加算器
はその右隣の画像検出処理要素の第1の加算器と接続さ
れ、例えば、画像検出処理要素1−11の第1の加算器
の出力は画像検出処理要素1−12の第1の加算器に入
力される。このように行毎の画像検出処理要素の要素の
第1の加算器は順次接続されて第1の累積加算器を構成
している。
としてCLOCK1、CLOCK2、LOAD、SEL
の各信号が入力される。クロック信号CLOCK1、信
号LOADは初期画像設定用の信号である。例えば、ク
ロック信号CLOCK1は周波数20MHz〜100MHz程度の
クロック信号である。クロック信号CLOCK2、信号
SELは画像演算用の信号であり、例えば、クロック信
号CLOCK2は周波数1MHz〜10MHz程度のクロック信
号である。この画像検出処理要素の構成の詳細について
は図2に示してあり、追って説明する。
列型加算器で、画像検出処理要素の行ごとに配置され、
対応する画像検出処理要素からの出力を一方の入力に受
ける。また、各直列型加算器の出力は順次隣接する直列
型加算器の他方の入力に接続されて第2の累積加算回路
を構成する。本例では、画像検出処理要素1−1〜1−
8に対して直列型加算器2−1が対応し、画像検出処理
要素1−8の出力が直列型加算器2−1の一方の入力に
接続される。直列型加算器2−1の出力は、直列型加算
器2−2の他方の入力に接続される。直列型加算器2−
8の出力が全体の出力信号となっており、光検出器によ
って検出される画像データに基づく処理データが供給さ
れる出力部を構成する。それぞれの直列型加算器の構成
の詳細については図3に示してあり、追って説明する。
ないが4本の行選択信号により、Y0〜Y7までの出力
信号を制御する。図4に入力信号の組合せ例を示す。4
は列デコーダ回路で、本実施例では、図示しないが4本
の列選択信号により、X0〜X7までの出力信号を制御
するものであり、選択信号の設定は行デコーダ3と同様
である。これら行デコーダ3、列デコーダ4は画像検出
処理要素のターゲット画像信号を選択的に第1の累積加
算器に入力せしめる制御回路を構成する。本例では画像
検出処理要素の選択は、図示しない外部のホストから行
デコーダ3、列デコーダ4に選択パターンをダウンロー
ドすることによって行うこととするが、これに限るもの
ではない。例えば、画像検出処理要素と共にROMを1
チップに集積化し、ROMに目的の画像演算に応じた選
択パターンを記憶させて画像検出処理要素の選択に用い
ても良いし、外部からの制御信号に応答して選択パター
ンを発生させるデコーダを設けても良い。
いて図2を参照しながら説明する。5は光検出器として
の光電変換部であり、フォトダイオードからなり、入射
した光の強さに応じた信号を出力する。6は2値化回路
であり、コンパレータからなり、光電変換部5からの信
号を2値化する。本例では、光電変換部5に入力した光
量に応じて、所定のしきい値より明るいときに“H”の
信号を出力し、暗いときに“L”の信号を出力するもの
とする。本例では2値データを出力することとするが、
本発明はこれに限るものではなく、諧調を持たせた多値
データを処理させるようにしても良い。その場合、第1
の加算器には全加算器を用いる。7は論理積(AND)
回路であり、2値化回路6からの信号と後述する5入力
論理和(OR)回路12からの信号が共に“H”であっ
たとき、“H”の信号を出力する。8はマルチプレクサ
であり、本例では、図1の信号LOADが“H”のと
き、論理積回路7からの信号を出力し、“L”のとき、
後述の論理積回路11からの信号を出力する。9はフリ
ップフロップ回路でマルチプレクサ8の信号を図1のク
ロック信号CLOCK1により取り込んで出力する。2
値化回路6、論理積回路7、マルチプレクサ8、フリッ
プフロップ回路9、5入力論理回路12から変換器が構
成される。
プ回路9の出力と後述する論理積回路11の出力が共に
“H”であったときに“H”の信号を出力する。11は
論理積回路であり、行デコーダ3の出力と列デコーダ4
の出力が共に“H”であったとき、“H”の信号を出力
する。例えば、画像検出処理要素1−11では、行デコ
ーダ3の出力Y1と列デコーダ4の出力X2がともに
“H”であった場合に“H”の信号を出力する。12は
5入力論理和回路で、自身のフリップフロップ回路9の
出力および上下左右隣の画像検出処理要素の各フリップ
フロップ回路9の出力から論理和を出力する。例えば、
画像検出処理要素1−11では、画像検出処理要素1−
3、1−10、1−12、1−19内の各フリップフロ
ップ回路9の出力と画像検出処理要素1−11自身のフ
リップフロップ回路9の出力が入力となり、どれかひと
つ以上が“H”のときに出力が“H”となる。
は、図1の信号SELが“H”のとき、論理積回路10
からの信号を出力し、“L”のときに後述するフリップ
フロップ回路14の信号を出力する。14はフリップフ
ロップ回路であり、後述する加算回路15のCARRY
信号を図1のクロック信号CLOCK2により取り込ん
で出力する。15は半加算器からなる加算回路で、マル
チプレクサ13の出力と隣接する画像検出処理要素の半
加算回路のSUM信号との算術和を算出し、SUM信号
とCARRY信号を出力する。例えば、画像検出処理要
素1−11では、マルチプレクサ13の出力と画像検出
処理要素1−10における加算回路15のSUM信号と
が、共に“L”であればSUM信号及びCARRY信号
がともに“L”となり、一方が“L”で他方が“H”で
あればSUM信号が“H”、CARRY信号が“L”と
なり、共に“H”であればSUM信号が“L”、CAR
RY信号が“H”となる。論理積回路10、11、マル
チプレクサ13、フリップフロップ14、加算回路15
から第1の加算器が構成される。
3を参照しながら説明する。16は全加算器からなる加
算回路で、上記画像検出処理要素のSUM信号と後述す
るフリップフロップ回路17と前段の加算回路16のS
UM信号との算術加算演算を行い、SUM信号とCAR
RY信号とを出力する。例えば、直列型加算器2−2の
場合、画像検出処理要素1−16の出力と直列型加算器
2−1の出力とフリップフロップ回路17の出力とを入
力とし、SUM信号は2−3の直列型加算器に出力さ
れ、CARRY信号はフリップフロップ回路17に出力
される。加算回路16は3つの入力の状態が、すべて
“L”のときにはSUM信号及びCARRY信号がとも
に“L”となり、何れか一つだけ“H”のときにはSU
M信号が“H”、CARRY信号が“L”となり、二つ
が“H”のときにはSUM信号が“L”、CARRY信
号が“H”となり、全てが“H”のときにはSUM信号
及びCARRY信号がともに“H”となる。17はフリ
ップフロップ回路であり、加算回路16のCARRY信
号を上述のクロック信号CLOCK2により取り込んで
出力する。
め、行デコーダ3、列デコーダ4をすべて非選択となる
ように設定し、信号SELでマルチプレクサ13から画
素選択信号が出力されるように設定する。この状態でク
ロック信号CLOCK2が1クロック以上入力されると
各画像検出処理要素内のラッチ回路14はクリアされ
る。また、この状態を維持したまま更にクロック信号C
LOCK2を6クロック以上入力すると、各直列加算器
内のラッチ回路17も同様にクリアされる。
ィンドウ画像信号は背景からターゲットの画像を分離す
るためのものである。信号LOADでマルチプレクサ8
から画素選択信号が出力されるように設定し、行デコー
ダ3、列デコーダ4の設定することでウインドウ画像の
初期設定を行う。行デコーダ3、列デコーダ4がそれぞ
れすべての出力が選択されるように設定すると、ウイン
ドウ画像の初期値は画面全体となる。
像光学系を用いて対象物体の像を、平面状に配列された
画像検出処理要素上に結像させる。結像光学系は、デジ
タルスチルカメラ等に用いられているようなレンズ光学
系のもので良い。それぞれの画像検出処理要素では、ま
ず、光電変換部5において、対象物体の明暗の情報を、
結像された画像の光量に応じたアナログ信号に変換す
る。このアナログ信号は2値化回路6によって、“L”
あるいは“H”の値を持つ2値画像信号に変換される。
記のウインドウ画像信号との論理積演算をおこないター
ゲット画像信号に変換される。ターゲット画像信号はマ
ルチプレクサ8を介してフリップフロップ9に出力さ
れ、クロック信号CLOCK1のタイミングで取り込ま
れる。フリップフロップ9に取り込まれたターゲット画
像信号は次のクロック信号CLOCK1のタイミングで
のウインドウ信号を生成するために5入力論理和回路1
2に入力される。
出処理要素内の5入力論理和回路12に出力されるとと
もに隣接する4個の画像検出処理要素内の5入力論理和
回路12にも出力されており、5入力論理和回路12か
らウインドウ画像信号が出力される。この様子を図5に
示す。図5において(a)はウインドウ画像を生成する
元となる2値化画像であり、各セルは図1に示した画像
検出処理要素1−1〜1−64に対応している。(b)
は(a)から生成されたウインドウ画像であり、各画像
要素内において5入力論理和回路12に4個のフリップ
フロップ9の出力により、元となる2値化画像に対して
上下左右に広がったものとなる。このウインドウ画像
(b)と、次のフレームにおいて変換された画像信号つ
まり次のフレームでの2値化画像(a)との間で論理積
演算をおこなったものがターゲット画像となる。すなわ
ち、フレーム毎にターゲット画像信号の移動に追従して
ウィンド画像が若干の広がりをもって形成され、これに
含まれる画像が新たなターゲット画像信号として得られ
る。この時、次のフレームとの間隔が十分短い場合、タ
ーゲットの移動距離は十分短く、本実施例のように簡便
な回路によってもターゲットトラッキングの動作が実現
できる。
ず、ターゲット画像を構成する画素の総数は、ターゲッ
ト画像の面積(0次モーメント)と見なすことができ、
このような0次モーメントを求める動作について説明す
る。それぞれの画像検出処理要素内の論理積回路10以
降の部分と直列加算器の部分とをまとめて、64入力加
算器アレイとしての動作を説明する。フリップフロップ
9から出力されるターゲット画像信号は、論理積回路1
0で、画素選択信号が“H”のときのみ13のマルチプ
レクサ13に入力される。ここでは、全ての画像演算回
路1−1〜1−64が選択されている場合について説明
する。図6において(a)はターゲット画像の状態を表
わす。ここでは、“H”の画素の総数が8となってい
る。
回路10の出力がマルチプレクサ13により選択される
ようにする。これにより、各画像検出処理要素の半加算
器15にはターゲット画像に応じた“H”もしくは
“L”の信号が入力される。図6においてターゲット画
像(a)に対応する各画像検出処理要素の加算器と直列
形加算器の状態を(b)に示す。図6の(b)におい
て、CARRY、SUMはそれぞれ各加算器のCARR
Y信号、SUM信号を示してある。画像検出処理要素1
−20に入力される論理積回路10の出力が“H”とな
っており、その加算回路15のSUM信号“H”は後段
の画像検出処理要素1−21〜画像検出処理要素1−2
4迄順次出力され、これらの加算回路15のSUM信号
を“H”としている。
検出処理要素1−24からのSUM信号“H”と前段の
直列型加算器2−2の加算回路16のSUM信号“L”
とを加算し、SUM信号を“H”、CARRY信号を
“L”としている。また、画像検出処理要素1−27、
1−28、1−29の論理積回路10の出力は何れも
“H”となっており、画像検出処理要素1−28の加算
回路15ではその論理積回路10の出力“H”と前段の
画像検出処理要素1−27のSUM信号“H”とを加算
してSUM信号を“L”、CARRY信号を“H”とし
ている。画像検出処理要素1−29の加算回路15のS
UM信号“H”により後段の画像検出処理要素1−30
〜画像検出処理要素1−32迄順次出力され、これらの
加算回路15のSUM信号を“H”としている。
像検出処理要素1−32からのSUM信号“H”と前段
の直列型加算器2−3の加算回路16のSUM信号
“H”とを加算し、SUM信号を“L”CARRY信号
を“H”としている。また、画像検出処理要素1−3
5、1−36、1−37の論理積回路10の出力は何れ
も“H”となっており、画像検出処理要素1−36の加
算回路15ではその論理積回路10の出力“H”と前段
の画像検出処理要素1−35のSUM信号“H”とを加
算してSUM信号を“L”、CARRY信号を“H”と
している。画像検出処理要素1−37の加算回路15の
SUM信号“H”により後段の画像検出処理要素1−3
0〜画像検出処理要素1−32迄順次出力され、これら
の加算回路15のSUM信号を“H”としている。
像検出処理要素1−40からのSUM信号“H”と前段
の直列型加算器2−4の加算回路16のSUM信号
“L”とを加算し、SUM信号を“H”CARRY信号
を“L”としている。また、画像検出処理要素1−44
の加算回路15ではその論理積回路10の出力“H”と
前段の画像検出処理要素1−43のSUM信号“L”を
加算してSUM信号を“H”、CARRY信号を“L”
としている。
算回路15のSUM信号“H”は後段の画像検出処理要
素1−45〜画像検出処理要素1−48迄順次出力され
ている。これを受ける直列型加算器2−6では画像検出
処理要素1−48からのSUM信号“H”と前段の直列
型加算器2−5の加算回路16のSUM信号“H”とを
加算し、SUM信号を“L”CARRY信号を“H”と
している。直列型加算器2−6の加算回路16のSUM
信号“L”は、後段の直列型加算器2−7、2−8に順
次出力される。このとき、直列型加算器2−8の出力か
らは、ターゲット画像を構成する画素の総数を2進数で
表現した場合の最下位桁の値が出力されており、ターゲ
ット画像(a)に対しては、0に対応する“L”レベル
の信号が出力される。
入力されるとフリップフロップ回路14にCARRY信
号が取り込まれる。信号SELを“L”にして、半加算
器15に、論理積回路10の出力に代わりフリップフロ
ップ回路14に格納されたCARRY信号が入力され
る。この場合の各画像検出処理要素と直列型加算器の状
態を(c)に示す。(b)に示したように画像検出処理
要素1−28、1−36においてフリップフロップ14
に格納されたCARRY信号は“H”であり、画像検出
処理要素1−29〜1−32、1−37〜1−40の加
算回路15はSUM信号“H”、CARRY信号“L”
としている。
段のSUM信号“L”、画像検出処理要素1−32から
のSUM信号“H”、フリップフロップ回路17に格納
されたCARRY信号“H”を加算して、SUM信号を
“L”、CARRY信号を“H”とする。直列型加算器
2−5の加算回路16では前段のSUM信号“L”、画
像検出処理要素1−40からのSUM信号“H”、フリ
ップフロップ回路17に格納されたCARRY信号
“L”を加算して、SUM信号を“H”、CARRY信
号を“L”とする。直列型加算器2−6の加算回路16
では前段のSUM信号“H”、画像検出処理要素1−4
8からのSUM信号“L”、フリップフロップ回路17
に格納されたCARRY信号“H”を加算して、SUM
信号を“L”、CARRY信号を“H”とする。直列型
加算器2−7、2−8の加算回路16ではSUM信号
“L”、CARRY信号“L”とする。このとき、直列
型加算器2−8の出力からは、ターゲット画像を構成す
る画素の総数を2進数で表現した場合の最下位+1桁目
の値が出力される。ターゲット画像(a)に対しては、
0に対応する“L”レベルの信号が出力される。
入力される毎に各画像検出処理要素と直列型加算器の状
態は順次(d)、(e)に示すようになる。クロック信
号CLOCK2が3クロック入力された状態(e)にお
いて、直列型加算器2−8の出力から“H”が出力さ
れ、ターゲット画像を構成する画素の総数を2進数で表
現した場合の最下位+3桁目の値が出力され、SEL信
号“H”の入力後に直列型加算器2−8から得られた値
は“1000”となり、ターゲット画像(a)を構成す
る画素の総数8に相当する2進数値が得られる。この後
クロック信号CLOCK2が入力されても、何れのフリ
ップフロップ回路にもCARRY信号は格納されておら
ず、直列型加算器2−8の出力からは“L”が出力され
る。
入力される毎にターゲット画像を構成する画素の総数が
下位桁から順次出力される。本例ではSEL信号の入力
後、クロック信号CLOCK2を7クロック入力するこ
とでターゲット画像(a)を構成する画素の総数を7桁
の2進数値で得ることができる。本例では少ないクロッ
ク数にてターゲット画像を構成する画素の総数、すなわ
ち、ターゲット画像の面積(0次モーメント)を求める
ことができる。従来では画素の状態をクロック毎に1つ
ずつ読み出した後、ターゲット画像の面積を求めてお
り、画素数64とすれば64クロック以上を要していた
が、本例では7クロックで済む。
ついて説明する。1次モーメントを求める場合は、行デ
コーダ3及び列デコーダ4にて適当な画素を選択して、
数種の部分和を求め、外部にてその部分和の総和を計算
する。この様子を図7に示す。図7において、(a)は
対象となる画像である。(b)、(c)は列デコーダの
選択パターン例とそれに対応する部分和の値である。こ
こでは、画像検出処理要素アレイの縦方向をY軸とし、
座標位置を上から0、1、・・、7、横方向をX軸と
し、座標位置を左から右へ0、1、・・、7とする。X
軸、Y軸の1次モーメントはそれぞれ軸方向の総和に荷
重値として座標位置の値を乗じたものの総和で表わされ
る。例えば、Y軸方向の1次モーメントを求めるには、
まず、行デコーダ3の設定において一番下の列のみ選択
されるようにして、上述の方法によりターゲット画像を
構成する画素の総和を求める。図示しない外部処理プロ
セッサ(または本例画像検出処理装置とともに集積化さ
れた処理プロセッサ)により、この列のY座標は7なの
で、得られた値に7を乗じる。次に下から二番目の列の
み選択されるようにして、総和を求める。得られた値に
荷重値として6を乗じて、先に求めた値に加算する。同
様にして、順次、荷重値の係数を乗じて各列ごとの部分
和を加算することで、1次モーメントの値が得られる。
1、6=4+2、5=4+1、4=4、3=2+1、2
=2、1=1のように分離できることから、行デコーダ
3の設定を(c)に示すように、Y軸の座標位置7、
5、3、1に対応する列をまとめて指定してこれらに含
まれるターゲット画像を構成する画素の総和を求めて荷
重値1を乗じ、次にY軸の座標位置7、6、3、2に対
応する行をまとめて指定して総和を求めて荷重値2を乗
じ、次にY軸の座標位置7、6、5、4に対応する行を
まとめて指定して総和を求めて荷重値4を乗じるように
しても1次モーメントを求めることが可能である。この
ようにすれば、3回の部分和計算で1次モーメント計算
が可能になるので、更に少ない計算時間で1次モーメン
トを求めることができる。
に列デコーダ4の設定を制御することで容易に計算する
ことができる。また、より高次のモーメントについても
各デコーダの設定および荷重値の係数を適当に選択する
ことで容易に実現できる。また、得られた1次モーメン
トを面積(0次モーメント)で割ることで、容易に重心
の座標を求めることができる。
て、重心計算等の画像処理に必要な処理データをデータ
転送時に生成可能となり、外部処理プロセッサと共同で
行われる画像処理の高速化が可能となる。また、フレー
ム間隔の制限を受けず演算子処理が行え、この点も高速
処理に適している。ひいては、ロボットの視覚センサ、
自動車の衝突防止センサ等に用いた場合、装置全体の処
理速度の向上が可能となる。例えば図8に示すような物
体81を掴む動作を行うアームロボットの視覚センサ8
2に本例の画像検出処理装置に組み込んだ場合、物体8
1、アーム83双方を画像として取り込み、その画像デ
ータに基づく処理データ84を上述の動作で処理プロセ
ッサ85に出力し、処理プロセッサ85において、物体
81、アーム83の重心位置、軌跡等を画像処理により
得て、その結果をアーム83の制御86及び視覚センサ
82のターゲットトラッキング制御87にフィードバッ
クさせることも高速処理可能となる。また、視覚センサ
からの情報のみによっても十分高速な制御が可能とな
り、必要な各種センサ数を削減でき、装置規模の縮小も
可能となる。
オカメラ等と同様なアナログのビデオ信号を出力する回
路を同時に構成することも容易である。
(2階調のデータ)を用いることとししたが、本発明は
これに限るものではなく、画像検出処理要素内の第1の
加算器として全加算器を用いることにより、画像データ
を多諧調とした場合にも適応できる。その場合、各画像
検出処理要素の回路規模が大きくなるものの、画像デー
タが階調を持っている場合に、その階調によって荷重値
演算できるという利点がある。第1の加算器に全加算器
を用いた場合の構成の変更点については後述する。
場合には、画像データとして2値データを用いた場合に
特徴量の演算をより高速にできる。例えば、図9に示す
ような構成により実現できる。同図に示す画像検出処理
要素では、加算回路15に代わり全加算器からなる加算
回路18を設け、マルチプレクサ13に代わり論理積回
路19を設けてある。この他の構成は図2に示す画像検
出処理要素示と同様のものである。加算回路18は論理
積回路19を介して画像検出処理要素内のターゲット画
像信号を受ける。このターゲット画像信号の入力は上記
のものと同様SEL信号で制御される。また、加算回路
18はフリップフロップ回路14からの出力と前段の画
像検出処理要素の加算回路18からの出力とを受けてお
り、動作的には図3に示した直列加算器と同様のもので
ある。このような構成により、1次モーメントを計算す
る際に、行デコーダあるいは列デコーダを順次選択する
ことで、n×n画素の場合、3n−1クロックの演算で
1次モーメントを算出することができる。例えば8×8
画素の構成の場合、8クロックで1次モーメントを選出
できる。
にまとめておく。
(N=2n)個であるとする。画像データの諧調はM=
2mであるとする。X軸上の座標位置x、Y軸上の座標
位置yにある画像検出処理要素の画像データをI(x,
y)とする。実行時間は画像検出処理要素でのクロック
数(本例におけるクロック信号CLOCK2)で示す。
画像I(x,y)に対する一般モーメント量mijは次
の式で定義される。
ク数はlog2(出力の最大値)となり、log2(N
2(M−1))≒(2n+m)である。本例では階調が
2であり、画像検出処理要素の数が64であるから、上
述したように7クロックとなる。
れる。m10は行方向の1次モーメントであり、m01
は列方向の1次モーメントである。
ため各行、各列毎の荷重値(x,y)は外部処理プロセ
ッサで乗ずる。画像検出処理要素にこの乗算機能を持た
せた場合、xI(x,y)およびyI(x,y)を各画
像検出処理要素内部で計算し、それに対して総和を計算
すればよいので演算に必要なクロック数は、log
2(N2(N−1)(M−1)/2)≒(3n+m)で
ある。
能を持たせることは回路規模の制限から難しい。これに
対して本例では選択パターンと画像検出処理要素内のデ
ータとの論理積を取って総和演算をする機能(すなわ
ち、各画像検出処理要素を選択する機能)と、荷重値を
ビットプレーンに展開する(2進数で展開する)ことと
により、1次以上のモーメント量の計算速度の向上を図
ることができる。xの2進数表現をx
nxn−1....x1とする。
ーンと各画像検出処理要素内のデータとの論理積を取る
とこにより得られるものであり、図7の(c)に示す選
択パターンは行と列の違いこそあるが左からk=1、
2、3に対応している。skを得るのに必要なクロック
数はlog2(N2(M−1)/2)≒(2n+m−
1)である。したがってm10は、skをK=1からn
まで繰り返し、外部処理プロセッサでそれらをビットシ
フトしながら足し合わせることで計算され、それを得る
のに必要なクロック数はn(2n+m−1)となる。
(以下、バイナリと言う)である場合に限り、画像デー
タの方を選択パターンとみなし、列、行デコーダを順次
選択してビットシリアルに総和演算することにより1次
モーメント得られる。これに必要なクロック数は、lo
g2(N2(N−1)/2)≒(3n−1)である。こ
の演算には図9に示したように第1の加算器として全加
算器を用いる必要がある。1次モーメントm01も同様
にして求められる。
のように表される。
合、x2I(x,y)およびy2I(x,y)を各画像
検出処理要素内部で計算し、それに対して総和を計算す
ればよいので演算に必要なクロック数は、log2(N
2(N−1)(N−1)(M−1)/6)≒(4n+m
−1)である。本例のように乗算機能を持たせないもの
ではx2、y2についてもビットプレーンに展開した選
択パターンを用いれば、演算に必要なクロック数は、2
nlog2(N2(M−1))≒2n(2n+m)であ
る。画像データがバイナリの場合、演算に必要なクロッ
ク数は、log 2N2(N−1)(2N−1)/6≒
(4n−1)である。
うに表される。
合、演算に必要なクロック数は、log2(N2(N−
1)2(M−1)/4)≒(4n+m−2)である。本
例のように乗算機能を持たせないものでも、上述したよ
うに選択パターンによってs klはlog2(N2(M
−1))≒(2n+m)クロックで得られる。m
11は、sklの計算をn2回繰り返し、外部処理プロ
セッサでそれらをビットシフトさせながら足し合わせる
ことで計算できる。この場合、演算に必要なクロック数
は、n2(2n+m)以下となる。画像データがバイナ
リの場合、skはlog2(N2(M−1)/2)≒
(3n−1)クロックで得られ、これをn回繰り返すこ
とにより、m11はn(3n−1)クロックで得られ
る。
実行時間の関係は下記の表に示すとおりである。
合を示し、(B)に本例のように画像検出処理要素が乗
算機能を持たない場合を示す。ここで、外部処理プロセ
ッサでの実行時間は含まない。また、最短のクロック周
期は加算器の遅延時間に依存するので、加算器ひとつあ
たりの遅延時間を1nsとして、全体で2Nns(N
は、画像検出処理要素の行列数とする。)をクロック周
期とし、実行時間を算出した。本例によれば、画像検出
処理要素に乗算機能を持つものに対して実行時間の差を
1桁程度に抑えることが可能である。
なく、次の式に示される任意の特徴量を高速に演算する
ことが可能である。
いて、重心計算等の画像処理に必要な処理データをデー
タ転送時に生成可能となり、高速処理が可能となる。
行毎に加算器を直列に接続し、第1の累積加算器を構成
し、行毎の第1の累積加算器最終段の出力を累積加算す
る第2の累積加算器を設けて、制御回路により、上記第
デジタル信号を選択的に上記第1の累積加算器に入力せ
しめることにより、上記画像の0次モーメント、上記画
像のN(Nは1以上の整数)次モーメントをもとめるた
めの部分和等所望の処理データを高速で出力することが
可能となる。
のクロックで行うので、画像取り込みによる速度の制限
を受けずに処理データの生成が可能となる。
出処理要素からのデジタル信号と上記光検出器からの出
力とに基づいて当該画像検出処理要素のデジタル信号を
生成するため、背景からターゲットの分離処理等の簡単
な処理を画像検出処理装置側で行うことが可能となる。
めの説明図。
るための説明図。
めの説明図。
の説明図。
構成を説明する説明図。
るための説明図。
器) 14 フリップフロップ回路 15 加算回路(第1の加算器、第1の累積加算器) 16 加算回路(第2の加算器、第2の累積加算器)
Claims (7)
- 【請求項1】 光電変換を行う光検出器と上記光検出器
からの信号をデジタル信号に変換する変換器と上記デジ
タル信号を入力可能とした加算器とからなる画像検出処
理要素の複数個が平面上に配列されてなる画像検出処理
装置であって、 上記複数の画像検出処理要素の上記加算器を順次接続し
てなる累積加算器と、 上記複数の画像検出処理要素の上記デジタル信号を選択
的に上記累積加算器に入力せしめる制御回路と、 上記光検出器によって検出される画像データに基づき上
記累積加算器から出力される処理データが供給される出
力部とを更に備えていることを特徴とする画像検出処理
装置。 - 【請求項2】 光電変換を行う光検出器と上記光検出器
からの信号をディジタル信号に変換する変換器と上記デ
ジタル信号を入力可能とした第1の加算器とからなる画
像検出処理要素の複数個が平面上に行列配列されてなる
画像検出処理装置であって、 上記複数の画像検出処理要素の上記第1の加算器を行毎
に直列に接続してなる第1の累積加算器と、 上記各行の上記第1の累積加算器の最終段の出力を入力
とした上記各行に対応した第2の加算器を直列に接続し
てなり、上記第1の累積加算器の最終段の出力を累積加
算する第2の累積加算器と、 上記複数の画像検出処理要素の上記デジタル信号を選択
的に上記第1の累積加算器に入力せしめる制御回路と、 上記光検出器によって検出される画像データに基づき上
記累積加算器から出力される処理データが供給される出
力部とを更に備えていることを特徴とする画像検出処理
装置。 - 【請求項3】 上記制御回路によって上記画像検出処理
要素の上記デジタル信号の全てを上記第1の累積加算器
に入力せしめ、上記第2の累積加算器から出力される処
理データを、上記画像検出処理要素群に結像される結像
画像の0次モーメントとすることを特徴とする請求項2
に記載の画像検出処理装置。 - 【請求項4】 上記制御回路によって上記画像検出処理
要素の上記デジタル信号から選択される幾つかを上記第
1の累積加算器に入力せしめ、上記第2の累積加算器か
ら出力される処理データを、上記画像検出処理要素群に
結像される結像画像のN(Nは1以上の整数)次モーメ
ントを求めるための部分和とすることを特徴とする請求
項2に記載の画像検出処理装置。 - 【請求項5】 上記変換器を第1のクロック信号に従い
作動させて上記デジタル信号を発生しさせ、上記第1及
び第2の累積加算器を上記第1のクロック信号とは異な
る第2のクロック信号に従い動作させ、上記第2の累積
加算器から上記処理データをその下位桁から順次出力す
ることを特徴とする請求項2に記載の画像検出処理装
置。 - 【請求項6】 特定の画像検出処理要素の光検出器から
の出力と当該特定の画像検出処理要素の隣接する複数の
画像検出処理要素からのデジタル信号とに基づいて、当
該特定の画像検出処理要素から出力されるデジタル信号
を生成させるようにしてあることを特徴とする請求項2
に記載の画像検出処理装置。 - 【請求項7】 全ての要素が1チップに形成されている
ことを特徴とする請求項1乃至6のいづれかに記載の画
像検出処理装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000010180A JP4523104B2 (ja) | 2000-01-14 | 2000-01-14 | 画像検出処理装置 |
US09/760,331 US7046821B2 (en) | 2000-01-14 | 2001-01-13 | Image detection processor |
DE10101571A DE10101571B4 (de) | 2000-01-14 | 2001-01-15 | Bilddetektorprozessor |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000010180A JP4523104B2 (ja) | 2000-01-14 | 2000-01-14 | 画像検出処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001195564A true JP2001195564A (ja) | 2001-07-19 |
JP4523104B2 JP4523104B2 (ja) | 2010-08-11 |
Family
ID=18538221
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000010180A Expired - Lifetime JP4523104B2 (ja) | 2000-01-14 | 2000-01-14 | 画像検出処理装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US7046821B2 (ja) |
JP (1) | JP4523104B2 (ja) |
DE (1) | DE10101571B4 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005078348A (ja) * | 2003-08-29 | 2005-03-24 | Idaku Ishii | 画像検出処理装置 |
JP2006293419A (ja) * | 2005-04-05 | 2006-10-26 | Univ Of Tokyo | 画像モーメントセンサ、画像モーメント計測装置、画像モーメントセンサの演算方法及び画像モーメント計測方法 |
JP2006313543A (ja) * | 2005-05-02 | 2006-11-16 | Pixart Imaging Inc | 全画像を記録しなくても複数のオブジェクトを認識できる画像認識方法 |
JP2009265701A (ja) * | 2008-04-21 | 2009-11-12 | Canon Inc | 情報処理装置及び情報処理方法 |
JP2009540416A (ja) * | 2006-06-08 | 2009-11-19 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | パターン認識およびsimdプロセッサ |
WO2018105247A1 (ja) * | 2016-12-07 | 2018-06-14 | ソニーセミコンダクタソリューションズ株式会社 | 検知システム |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030122966A1 (en) * | 2001-12-06 | 2003-07-03 | Digeo, Inc. | System and method for meta data distribution to customize media content playback |
JP2004362460A (ja) * | 2003-06-06 | 2004-12-24 | Nippon Precision Circuits Inc | 画像検出処理装置 |
JP6149369B2 (ja) * | 2012-09-27 | 2017-06-21 | 株式会社ニコン | 撮像素子 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0757075A (ja) * | 1993-08-13 | 1995-03-03 | Nippon Steel Corp | パターン処理用1チップ並列処理装置のプロセッサ要素 |
JPH08263628A (ja) * | 1995-03-22 | 1996-10-11 | Hitachi Ltd | 画像処理プロセッサおよびそれを用いた画像処理システム |
JPH10145680A (ja) * | 1996-11-08 | 1998-05-29 | Hamamatsu Photonics Kk | 高速視覚センサ装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2386832A1 (fr) * | 1977-04-05 | 1978-11-03 | Commissariat Energie Atomique | Procede de correction automatique de mise au point d'un microscope et un dispositif mettant en oeuvre ledit procede |
DE2801393A1 (de) * | 1978-01-13 | 1979-07-19 | Agfa Gevaert Ag | Fokussiervorrichtung |
US5450146A (en) * | 1989-05-24 | 1995-09-12 | Digital Theater Systems, L.P. | High fidelity reproduction device for cinema sound |
GB8923654D0 (en) * | 1989-10-20 | 1989-12-06 | Walker Digital Audio Video Sys | Film weave correction |
JP2808747B2 (ja) * | 1989-11-15 | 1998-10-08 | ソニー株式会社 | トラックジャンプ制御回路 |
US5347590A (en) * | 1991-06-10 | 1994-09-13 | General Electric Company | Spatial filter for an image processing system |
US5900863A (en) * | 1995-03-16 | 1999-05-04 | Kabushiki Kaisha Toshiba | Method and apparatus for controlling computer without touching input device |
JPH1048338A (ja) * | 1996-05-20 | 1998-02-20 | Olympus Optical Co Ltd | 距離測定装置 |
-
2000
- 2000-01-14 JP JP2000010180A patent/JP4523104B2/ja not_active Expired - Lifetime
-
2001
- 2001-01-13 US US09/760,331 patent/US7046821B2/en not_active Expired - Lifetime
- 2001-01-15 DE DE10101571A patent/DE10101571B4/de not_active Expired - Lifetime
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0757075A (ja) * | 1993-08-13 | 1995-03-03 | Nippon Steel Corp | パターン処理用1チップ並列処理装置のプロセッサ要素 |
JPH08263628A (ja) * | 1995-03-22 | 1996-10-11 | Hitachi Ltd | 画像処理プロセッサおよびそれを用いた画像処理システム |
JPH10145680A (ja) * | 1996-11-08 | 1998-05-29 | Hamamatsu Photonics Kk | 高速視覚センサ装置 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005078348A (ja) * | 2003-08-29 | 2005-03-24 | Idaku Ishii | 画像検出処理装置 |
JP4540319B2 (ja) * | 2003-08-29 | 2010-09-08 | 抱 石井 | 画像検出処理装置 |
JP2006293419A (ja) * | 2005-04-05 | 2006-10-26 | Univ Of Tokyo | 画像モーメントセンサ、画像モーメント計測装置、画像モーメントセンサの演算方法及び画像モーメント計測方法 |
JP4565122B2 (ja) * | 2005-04-05 | 2010-10-20 | 国立大学法人 東京大学 | 画像モーメントセンサ、画像モーメント計測装置、画像モーメントセンサの演算方法及び画像モーメント計測方法 |
JP2006313543A (ja) * | 2005-05-02 | 2006-11-16 | Pixart Imaging Inc | 全画像を記録しなくても複数のオブジェクトを認識できる画像認識方法 |
JP2009540416A (ja) * | 2006-06-08 | 2009-11-19 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | パターン認識およびsimdプロセッサ |
JP2009265701A (ja) * | 2008-04-21 | 2009-11-12 | Canon Inc | 情報処理装置及び情報処理方法 |
WO2018105247A1 (ja) * | 2016-12-07 | 2018-06-14 | ソニーセミコンダクタソリューションズ株式会社 | 検知システム |
US11418705B2 (en) | 2016-12-07 | 2022-08-16 | Sony Semiconductor Solutions Corporation | Detection system |
Also Published As
Publication number | Publication date |
---|---|
DE10101571B4 (de) | 2008-02-21 |
US7046821B2 (en) | 2006-05-16 |
DE10101571A1 (de) | 2001-08-02 |
US20010030690A1 (en) | 2001-10-18 |
JP4523104B2 (ja) | 2010-08-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1164544B1 (en) | High-speed vision sensor | |
US4574357A (en) | Real time character thinning system | |
JP4592243B2 (ja) | 高速画像処理カメラシステム | |
JPH0221025B2 (ja) | ||
CN101019413A (zh) | 成像器中的双面板像素读出 | |
US6608296B1 (en) | High-speed vision sensor having a parallel processing system | |
EP0227406A2 (en) | Image signal processor | |
JP2001195564A (ja) | 画像検出処理装置 | |
CN1574889A (zh) | 图像信号处理装置 | |
US7176432B2 (en) | Image detection processor and image detection processing method | |
US7522190B2 (en) | Image detection processing device for calculating the moments of image data | |
EP0547881B1 (en) | Method and apparatus for implementing two-dimensional digital filters | |
US6005985A (en) | Post-processing system for optical correlators | |
JP4302212B2 (ja) | 高速視覚センサ装置 | |
JPH058963B2 (ja) | ||
EP0352309B1 (en) | Method and apparatus for sampling lattice pattern generation and processing | |
Bernard et al. | Output methods for an associative operation of programmable artificial retinas | |
JP3063581B2 (ja) | 画像処理方法およびその装置 | |
JP2004362378A (ja) | 画像検出処理装置 | |
JP2004362462A (ja) | 画像検出処理装置 | |
WO1988008168A2 (en) | Interconnect verification using serial neighborhood processors | |
JP2709112B2 (ja) | 画像処理機能を備えた薄膜型ラインセンサ | |
JPH06274617A (ja) | メディアンフィルタ処理方法 | |
JPS6319911B2 (ja) | ||
WO2020237114A1 (en) | Hardware accelerator for integral image computation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070109 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091222 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100331 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100525 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100527 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4523104 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130604 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130604 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |