JP4130915B2 - グラフィカルオブジェクトの境界情報の処理 - Google Patents
グラフィカルオブジェクトの境界情報の処理 Download PDFInfo
- Publication number
- JP4130915B2 JP4130915B2 JP2003560853A JP2003560853A JP4130915B2 JP 4130915 B2 JP4130915 B2 JP 4130915B2 JP 2003560853 A JP2003560853 A JP 2003560853A JP 2003560853 A JP2003560853 A JP 2003560853A JP 4130915 B2 JP4130915 B2 JP 4130915B2
- Authority
- JP
- Japan
- Prior art keywords
- vertices
- edge
- boundary
- code
- contour
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/20—Contour coding, e.g. using detection of edges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Description
本発明は、包括的には、コンピュータグラフィックスに関し、より詳細には、グラフィカルオブジェクトの境界情報を処理するシステムおよび方法に関する。
さまざまな画像処理技法を可能にするために、いくつかのマルチメディアアプリケーションによって、形状符号化が利用されている。
例えば、デジタル写真エディタアプリケーションによって、形状符号化が利用されている。
形状が符号化または画定された後、デジタル写真エディタアプリケーションによって、ユーザは、符号化された形状内部のグラフィカル情報のみを変更することが可能になる。
例えば、形状内部のグラフィカル情報を、新たな背景上に「切り取りおよび貼り付け(cut-and-pasted)」することができる。
例えば、領域ベースの手法が開発されている。
領域ベースの方式は、オブジェクト領域を表す1および背景領域を表す0を有する2値画像であるサポートマップによってオブジェクトを符号化する。
このように、形状符号化は、2値画像符号化問題に変換される。
例示の領域ベースのアルゴリズムは、ジョイントバイナリ画像グループ(JBIG)、JBIG2、およびムービングピクチャエキスパートグループ−4(MPEG−4)によって開発されたアルゴリズムを含む。
例えば、ユーザは、グラフィカル画像におけるオブジェクトの境界の各ピクセルを手動で選択することができる。
選択された各ピクセルの座標は、境界を画定するために記憶することができる。
さらに、記憶された座標によって画定された境界に近似するために、チェーン符号化、ポリゴン近似、高次の曲線当てはめ(スプライン)近似、ポリゴン近似とスプライン近似の組み合わせなど、さまざまな方式が使用されてきた。
これらの近似アルゴリズムは、境界を表すのに必要なデータ量をさまざまな度合いで削減する。
したがって、既知の形状符号化アルゴリズムは、基となるグラフィカル画像とは別にかなりのデータ量を必要とする。
一実施の形態では、本発明は、グラフィカルオブジェクトの境界情報を処理する方法を対象とする。
この方法は、少なくとも境界情報によって画定されるグラフィカルオブジェクトを含むグラフィカル画像を受け取ること、境界情報から複数の頂点を決定すること、および少なくとも複数の頂点、グラフィカル画像、およびグラフィカル画像を解析することにより1組の頂点間の輪郭を検出するように働く所定の関数を利用して、近似された境界を作成することを含むことができる。
本発明の実施の形態は、グラフィカル画像においてオブジェクトの境界を画定する符号化情報に関係している。
これらの実施の形態では、境界はすでに画定されているものと仮定される。
例えば、ユーザが、グラフィカル画像から点を選択して境界を画定することができる。
境界は、例えば、グラフィカル画像からの1組のピクセルによって表すことができる。
このシステム100は、画像符号化101および形状符号化102を行う。
形状符号化102は、形状依存符号化(shape dependent coding)を行う。
具体的には、形状符号化102は、形状符号化102に関連付けられたデータで表される基となる画像を参照することにより、オブジェクトの形状または境界を画定する。
オブジェクトの境界は、基となるグラフィカル画像と高い相関性を有する。
この高度な相関性のため、形状符号化102は、境界を表すのに必要なデータ量を削減することができる。
形状符号化102は、境界のノード点要素の座標を直接符号化することによらずに、境界を表すのに必要なデータ量を削減する。
正確に言えば、形状符号化102は、原画像からの点要素を検出するメカニズムまたは機能によって境界を符号化する。
特に、テクスチャ画像とその画像の境界との間の相関は、数学的に閉じた形の解で表すのが非常に難しい。
本発明の実施の形態は、後に詳述するように、基となるグラフィカル画像から境界を漸進的に検出する「ラバーバンド関数(Rubberband function)」を使用する。
受信システムにおいて、画像は、まず復号される(104)。
次いで、それぞれのオブジェクトの境界が、復元された画像データを利用して復号される(105)。
具体的には、各境界を画定するデータは、1組の頂点を含む。
各頂点は、境界上の単一の点を表す。
一方、この1組の頂点は、境界上の点の比較的小さな部分集合を表す。
ラバーバンド関数は、復元された画像データを解析することによって頂点間の残りの点を検出し、境界の「欠けている点を満たす」。
さらに、後に詳述するように、各頂点に関連付けられたパラメータが、ラバーバンド関数を効率的に作動させ、かつ、基となるグラフィカル画像の解析を適切に拡大縮小するように、この関数のオペレーションを制限する。
この処理は、適切なマルチメディアアプリケーションを介したユーザによる画像処理を含むことができる。
このシステム200は、グラフィカル情報をユーザに提示する表示装置201を含む。
システム200は、ソフトウェア命令を実行する中央処理装置(CPU)202をさらに含む。
CPU202は、任意の汎用CPUとすることができ、CPU202が、本明細書で説明するような本発明のオペレーションをサポートする限り、本発明は、CPU202のアーキテクチャによって限定されるものではない。
このRAM203は、SRAM、DRAM、SDRAMなどとすることができる。
コンピュータシステム200は、ROM207を含む。
このROM207は、PROM,EPROM、EEPROMなどとすることができる。
RAM203およびROM207は、当該技術分野において既知なように、ユーザデータおよびシステムデータならびにプログラムを保持する。
実行可能命令またはコードは、可読媒体(例えば、ハードドライブ媒体、光媒体、PROM、EPROM、EEPROM、テープ媒体、カートリッジ媒体など)から得ることもできるし、通信媒体(例えば、インターネット)からデータ信号を介して伝達することもできる。
実際には、可読媒体には、情報の記憶または転送を行うことができるあらゆる媒体が含まれ得る。
これらの実行可能命令またはコードは、RAM203にロードして、CPU202によって実行することができる。
CPU202は、実行可能命令の制御の下、本発明の実施の形態に従って、グラフィカル画像204および境界定義205を処理し、符号化境界206を生成することができる。
この通信アダプタ210は、コンピュータシステム200をネットワーク211に接続するようになっている。
ネットワーク211は、電話ネットワーク、ローカルエリアネットワーク(LAN)および/またはワイドエリアネットワーク(WAN)、イーサネット(登録商標)ワーク、ならびに/またはインターネットワークの1つまたは複数のものとすることができる。
コンピュータシステム200は、符号化境界206を別のシステムへ通信して、この別のシステムが、本発明の実施の形態に従って、伝達された情報から境界を復元することを可能にすることができる。
この図3は、グラフィカル画像300を示している。
グラフィカル画像300は、境界301を含む。
境界301は、比較的大きな1組のピクセルとして表される。
後に詳述するように、本発明の実施の形態は、1組の頂点(図3に示すようなv0、v1、v2、およびv3)を選択する。
各頂点は、2つのパラメータ(wi,si)に関連付けられている。
パラメータ「wi」は、ラバーバンド関数の幅を表し、パラメータ「si」は、ラバーバンド関数の縮尺を表す。
ラバーバンド関数は、2つのパラメータを利用して、基となるグラフィカル画像の解析に基づき、隣接する頂点間の経路を定義する。
ラバーバンド関数が、基となるグラフィカル画像を解析するので、大幅な符号化の改善が達成される。
具体的には、基となるグラフィカル画像の解析によって、基となるグラフィカル画像と境界定義との間の相関の除去が可能になる。
ラバーバンド関数は、グラフィカル画像において選択されたまたは特定された点間の境界を漸進的に検出する関数である。
ラバーバンド関数を先に実施したものは、Huitao LuoおよびAlexandros Eleftheriadis著のDesigning an Interactive Tool for Video Object Segmentation and Annotation, ACM Multimedia 1999に詳細に説明されている。
この文献は、参照により本明細書に援用される。
本発明の実施の形態は、ラバーバンド関数のこの先に実施したものの機能の多くを利用する。
加えて、本発明の実施の形態は、縮尺パラメータsiの使用など、本発明の特徴を追加して利用することもできる。
検出プロセスは、2つの頂点(v1およびv2)を特定することにより行われる。
さらに、2つのパラメータを利用して、ラバーバンド関数のエッジ検出オペレーションが定義される。
最初に、パラメータ「w」を空間制約として利用し、検出プロセスに関連付けられた探索区域が限定される。
パラメータ「w」は、エッジ検出が実行される長方形402の幅を画定する。
次に、パラメータ「s」(図示せず)を利用して、後に詳述するように、勾配関数の縮尺が定義される。
ここで、b'iは、検出された輪郭のi番目のピクセルであり、b'0=v1であり、b'n=v2である。
輪郭(B')は、基となるグラフィカル画像の勾配によって生成された重みに基づいて頂点(v1およびv2)間の最短経路を計算することにより検出される。
このグラフは、各ピクセルが頂点であり、かつ、各頂点が(図5の頂点501によって示されるように)その8つの近傍ピクセルにリンクする8つのエッジのみを有するグラフである。
ラバーバンド関数の基本手順は、2つのステップ、すなわち以下のようなローカル特徴計算ステップおよびグラフ探索ステップを含む。
この画像勾配の計算は、ローカル画像の所与の点における変化(例えば、グレースケール値または赤/緑/青(RGB)値の変化)の相対的な量を決定する。
さらに、画像勾配は、ローカルな近傍上の変化に基づいて決定することができる。
画像勾配の目的は、より大きな勾配に関連付けられた経路がより小さな距離または重みに関連付けられるように、最短経路解析を重み付けすることである。
この目的のため、スケーラブルカーネルを有するラプラシアン(Laplacian with scalable kernels)、ガウシアンのラプラシアン(LoG(Laplacian of Gaussian))演算子などの複数の異なる演算子を使用することができる。
図5にエッジ502として示すような各グラフエッジe(p,q)に対して、好ましくは、重みまたはローカル距離dist(p,q)を次のように定義することができる。
dist(p,q)=1/(勾配(q)+c)、
ここで、cは小さな定数である。
このグラフにおいて、ラバーバンド関数は、2つの頂点v1、v2を2つの基準点として使用する。
エッジ検出問題、すなわち、v1からv2へのオブジェクトの輪郭を検出することは、次に、最短経路探索解析として処理される。
具体的には、輪郭は、v1から開始してv2で終了する最短距離経路を特定することによって検出される。
この解析は、ダイクストラのアルゴリズム(例えば、T. H. Cormen、C. E. Leiserson、およびR. L. Rivest著のIntroduction to Algorithms, chapter 25.2, MIT Press, 1990を参照。
これによって、この文献の開示は、参照により本明細書に援用される)または例として後に詳述する制御されたフラッディングアルゴリズムを使用することによって行うことができる。
パラメータ「si」は、画像勾配が計算される縮尺または近傍を決定する。
一般的に言えば、大きな縮尺ほど、画像のテクスチャノイズを除去する一方、縮尺が小さいほど、空間局在性(spatial localization)の改善を提供する。
さらに、wおよびsは、レートと歪みとのトレードオフを表すように選択することができる。
実施の形態では、wiは、3つの値{1,15,31}から選択され、siは、4つの値{1,2,4,6}から選択される(共にピクセルにおいて)。
したがって、(これらの値に限定される)wiおよびsiは共に、本発明の実施の形態に従って符号化されるわずか2ビットのデータによって表すことができる。
好ましいコードワード設計に関するさらに詳細な内容は、後に詳述する。
このプロセスフローチャート600は、本発明の実施の形態による比較的高いレベルの境界情報処理を説明するものである。
ステップ602において、グラフィカル画像におけるオブジェクトの境界定義が受け取られる。
例えば、ユーザは、境界の各点または各ピクセルを指定することができる。
探索可能頂点集合は、最終的な境界符号化データ構造体の頂点として利用できる境界定義の許容可能な点を定義する。
探索可能頂点集合は、境界符号化アルゴリズムの複雑度を削減するために、境界定義ほど多くの点またはピクセルを含まないことが好ましい。
後に詳述するように、さまざまな判断基準を使用して、境界定義から点を選択し、探索可能頂点集合を形成することができる。
探索可能頂点集合における頂点対の解析は、アルゴリズムの複雑度を削減するために、選択された対に限定されることが好ましい。
歪み解析用の頂点対の選択の判断基準は、後に詳述する。
このため、複数のメトリックが適用可能である。
好ましい実施態様では、面積差メトリック(area difference metric)が使用される。
この場合、ステップ604における判断は、選択された各頂点対に対してラバーバンド関数によって検出された輪郭と、その頂点対間の境界定義の1組の点との間の閉区域が、歪み判断基準(Dmax)より小さいかどうかを評価する。
例えば、v20およびv35が、探索可能頂点集合の頂点であると仮定する。
さらに、v20=b57であり、v36=b72である(すなわち、v20は、境界定義のb57に対応し、v36は、境界定義のb72に対応する)と仮定する。
v20およびv35が、歪み判断基準(Dmax)を満たす場合には、これは、ラバーバンド関数の処理を介して点b57から点b72によって画定される境界情報の各エッジを近似するために(それらの各パラメータw、sを有する)v20およびv35を利用できることを意味する。
あるいは、歪み判断基準に従って頂点対を分離する代わりに、歪み判断基準を満たさない頂点対に無限大の距離または重みを割り当てて、最短経路解析からそれらを考慮しないようにすることができる(以下のステップ606を参照)。
上述したように、歪み判断基準を満たす各頂点対を利用して、各頂点対に関連付けられた各エッジを近似することができる。
最短経路は、最小の頂点数で境界全体をトラバースする経路である。
この最短経路の頂点は、集合Vfとして指定される。
ステップ608において、各パラメータwおよびsが、差分符号化されたVfの頂点に関連付けられて、本発明の実施の形態による符号化境界データ構造体を形成する。
ステップ609において、プロセスフローは終了する。
biを境界のi番目のピクセルとすると、集合B={b0,b1,b2,b3,…bn}は境界定義である。
l>kとなるBの2つの点(bkおよびbl)を与えると、エッジは、点bkから点bl(bkおよびblを含む)として画定される。
上述したように、エッジによって囲まれた領域の面積サイズを使用することができ、検出境界を選択されたメトリックとして使用して、歪みを評価することができる。
読み手の便宜のため、図7は、エッジ703とラバーバンド関数が検出した境界702(これらの双方は点bkおよびblを含む)とによって画定された区域701を図的に示している。
しかしながら、本発明の実施の形態に従って他の適切なメトリックを利用できることも理解されよう。
ここで、viはi番目の頂点であり、NVはVfの頂点の総数であり、eiはEのi番目のエッジである。
この表現において、各エッジei=e(vi,vi+1)は、以下の4つ組に関連付けられる。
(fi,pi,vi,vi+1),(i=0,1,…,NV−2)
ここで、fiは関数であり、所定の関数集合F={f(0),f(1),…}の1つであ
る。
(pi,vi,vi+1)は、関数fiによって使用されて境界Bi'={b0 (i)
,b1 (i),…,bl (i)}を生成するパラメータである。
piは、一般に、頂点パラメータviおよびvi+1に加えてfiによって使用されるパラメータを示すことに留意されたい。
Bi'は、境界Bの部分表現とみなされる。
境界
この境界B'は、元の境界Bの近似表現とみなされる。
r(fi,pi,vi,vi+1)が、エッジe(vi,vi+1)を符号化するのに使用されるレート(例えば、ビットレート)を示すものとする。
この場合、境界全体の符号化レートは、
したがって、最適化は次のように定式化される。
加えて、形状差関数diff(B,B')は、BとB'との間の符号化歪みを評価する。
この関数は、2つの方法でエッジ歪みd(bk,bl)に関連付けることができる。
第1の方法は、以下の最大演算子である。
総和演算子は、幾分、概念的にはより複雑ではあるが、総和演算子は、本発明の別の実施の形態に従って実施するのに比較的直接的なものである(例えば、G. H. SchusterおよびA. K. Katsaggelos著「An Optimal Polygonal Boundary Encoding Scheme in the Rate Distortion Sense」IEEE Trans. Image Processing, vol.7, no.1, 1998を参照。
これによって、この文献の開示は、参照により本明細書に援用される)。
グラフのモデル化の基本原理は、符号化レートおよび各エッジの歪みの双方をローカルに決定できるということである。
上述したように、wiを3つの値{1,15,31}から選択し、siを4つの値{1,2,4,6}から選択することによって、許容可能パラメータ集合Pが限定されることが好ましい。
Bから2つの任意の頂点bk、blを与えると、bkからblへのエッジを符号化する
のに必要なレートは、次のように決定される。
r(e(bk,bl))=r(f*,p*,bk,bl)
ここで、(f*,p*)は、以下の式によって決定される。
したがって、その結果として、この関数およびパラメータの探索は、頂点探索から分離することができる。
さらに、所与のエッジe(bk,bl)の重みは、頂点bkおよびblによって一意に決定することができる。
したがって、所与のエッジの重み(w(bk,bl))を以下のように定義することができる。
d*(bk,bl)<Dmaxの場合には、w(bk,bl)=r(bk,bl)、それ以外の場合には、∞
ここで、d*(bk,bl)=d(f*,p*,bk,bl)であり、上記で説明したように定義されるf*、p*を有する。
重み定義により、重み付けされた有向グラフGは、頂点集合V=Bおよびエッジ集合E={(bk,bl),∀k≠l}で定義される。
次に、上記で定義した最適化問題は、次のように、グラフGにおける最短経路問題として定式化することができる。
まず、最初の頂点v0=b0がすでに決定されていると仮定し、最適解Vfの最初のi個の頂点{v0,…,vi}および各エッジ{e(v0,v1),…,e(vi―1,vi)}を符号化するのに使用されるレートをRiとして表記するものと仮定する。
したがって、この問題は、n=1,2,…,NB−1についてv0=boからvi=bnへの最短経路を見つけ出すことにより漸進的に解くことができる。
閉じた境界Bの場合、
また、
グローバルな最小値を見つけ出すために、Vの最初の頂点v0を、Bのあらゆる頂点位置にわたって移動させて、対応する
しかしながら、最短経路探索に基づくそのままの形の解は、容易に分かるほどの複雑度を有する。
その理由は、最短経路探索の各ラウンドは、θ(|V|2+|E|)の複雑度を有する一方、最初の頂点v0をあらゆる可能なものに変更することは、この複雑度をθ(|V|3+|E|・|V|)にさらに増大させるからである。
したがって、以下の制約および発見的方法を利用して、複雑度を削減することが好ましい。
説明を簡単にするために、v0=b0となるようにBのラベルを付け替えるものとする。
この発見的方法は、符号化品質にほとんど影響を与えることなく、最短経路探索の複雑度をθ(|V|2+|E|)に削減する。
これにより、Gは、重み付けされた非循環有向グラフになり、探索の複雑度は、θ(|V|+|E|)にさらに削減される。
ここで、Lsは、発見的方法によって決定される定数である。
この要求により、|E|=Ls・|V|となり、複雑度はθ(Ls・|V|)となる。
第1に、頂点集合
bi (s)=bk,bk∈Bが決定されたものと仮定すると、bi+1 (s)=blは、0<(l−k)<nsかつd*(bk,bl)<Dmaxを条件としてlを最大にするbi∈Bを探すことによって決定される。
ここで、d*()は、上記で定義した歪み関数であり、nsは、発見的方法によって設定された定数である。
第2に、別の頂点集合
次いで、Gの最終的なまたは探索可能な頂点集合が、V=B(s)∪B(c)として定義される。
一般的に言えば、Vが、nによってサブサンプリングされると、複雑度は、θ(Ls・|V|/n2)になる。
本発明の実施の形態によれば、符号化要素は、好ましくは、符号化の4つ組(ri,ci,wi,si)によって表すことができる。
ここで、(ri,ci)は、頂点viの行および列の座標であり、wiおよびsiは、それぞれ、エッジe(vi,vi+1)に対応するラバーバンドの幅および縮尺である。
付加的な冗長を除去するために、頂点座標は、(dri,dci,wi,si)の形に差分符号化されることが好ましい。
ここで、dri=ri−ri−1,dci=ci−ci−1である。
さらに、表2は、本発明の実施の形態に従って、符号化された形状データをバイナリファイルに保存する(または、ネットワークを介してそれらのデータをストリーミングする)のに使用される例示のビットストリーム構文を示している。
本発明の実施の形態では、整数xをビット長lで符号化することは、xを2(l−1)で加えてxを[0,2l)にマッピングすることにより実施される一方、符号なし整数をビット長lで符号化することは、その最も左のlビットを保存することを伴う。
表2では、差分座標(dr,dc)の符号化に使用されるビット長lは、頂点集合V全体にわたってそれらの絶対極大値を見つけ出すことによって決定される。
また、表2に記載したビットストリーム構文は、1つのオブジェクト(境界)のみを記載しているが、これを複数のオブジェクトのフォーマットに拡張することは簡単であることに留意することも適当である。
具体的には、本発明の実施の形態によって、情報量を大幅に削減して境界を符号化することが可能になる。
具体的には、最小限の頂点数を選択して境界を表すことができる。
本発明の実施の形態は、この最小限の頂点数および基となる画像から境界を復元するので、この最小限の頂点数は、境界を記述するのに十分である。
したがって、本発明の実施の形態は、境界データと基となる画像データとの相関を除去するように働き、したがって、所望の符号化効率を達成する。
本発明の実施の形態によって、閉じた形の数学的表現を必要とせずに、境界データと基となる画像データとの相関を除去することがさらに可能になる。
その上、本発明の実施の形態は、探索可能頂点集合を生成すること、および、可能なエッジ集合を限定することによって符号化プロセスの複雑度をさらに削減し、それによって、ユーザ指向アプリケーションに適切な処理効率を達成する。
図8は、本発明の実施の形態に従って、ラバーバンド関数およびユーザとの対話を利用して境界定義を作成することを示す例示のフローチャート800を示している。
ステップ801において、入力画像が受け取られる。
この入力画像は、任意の個数の適切なグラフィカルフォーマットの1つとすることができる。
ステップ802において、入力画像(グレースケール表現またはカラー表現のいずれか)が、まず、スケーラブルエッジ検出器によって処理される。
複数の縮尺で勾配を計算することが有利である。
具体的には、ユーザは、グラフィカル画像の各オブジェクトの境界上で複数の頂点を選択する。
ステップ803において、ユーザが、例えばマウス周辺機器でユーザインタフェースを操作するに従って、対応する輪郭が、利用可能なローカル勾配情報に基づいて自動的に表示される。
上述したように、ラバーバンド関数は、2つの基準点間または2つの頂点間の輪郭を検出する。
さらに、ラバーバンド関数は、その探索解析を、2つの基準点および幅パラメータによって画定された長方形の区域に限定する。
このユーザインタフェースによって、ユーザは、基準点および幅パラメータを選択することが可能になる。
その上、縮尺パラメータは、後に詳述するように、ユーザとの対話から自動的に決定される。
検出された輪郭が、ユーザ入力によって定義された境界セグメントと一致すると、制御点(各頂点対)は、ユーザからの適切な入力(例えば、1つまたはいくつかのマウスクリック)によって固定することができる。
この対話プロセスは、閉じた境界が画定されるまで繰り返される。
ステップ805において、ユーザが選択したオブジェクトを定義するために、オブジェクト記述データ構造体(例えば、境界定義、サポートマップなど)が作成される。
ステップ806において、グラフィカル情報(すなわち、入力画像およびオブジェクト記述データ構造体)を適切なフォーマットに変換することができる。
この適切なフォーマットには、画像交換フォーマット(GIF)、MPEG−4、ポータブルネットワークグラフィックス(PNG)などが含まれるが、これらに限定されるものではない。
この制御されたフラッディングアルゴリズムは、近傍のノイズの存在に対してより強固であるので、ダイクストラの探索アルゴリズムを上回る改良アルゴリズムである。
その上、ラバーバンド関数の他の実施態様を説明した初期の刊行物(例えば、Designing an Interactive Tool for Video Object Segmentation and Annotation, ACM Multimedia 1999)には、適応型閾値が開示されていないことが理解されよう。
制御されたフラッディングアルゴリズムでは、適応型閾値Tを使用して、グラフ探索プロセスが制御される。
あらゆるピクセル対の元のローカル距離がTよりも大きい場合には、その距離は無限大に設定される。
このように、グラフ探索が、これらの点に到達することが防止される。
後に詳述するように、このワークにおけるこのローカル距離の定義により、この閾値処理尺度は、グラフ探索が弱い勾配を有する領域に到達することを防止することと等価となる。
このように、強い近傍のエッジは、強いエッジによって2つの制御点に接続されないと、実際の輪郭の検出からこの探索アルゴリズムを逸らす確率が低くなる。
図9Aには、近傍のパターンを示す。
ユーザは、輪郭Bを所望の結果として、2つの制御点fおよびeを選択している。
しかしながら、別の輪郭Aが近傍に存在し、Aはより強い勾配を有するので、図9Bによって示すように、グローバルな最小値が得られると、グラフの探索結果は、輪郭Aに引き付けられる。
これは、ダイクストラのアルゴリズムが使用される場合に頻繁に発生する一般的な問題である。
しかしながら、制御されたフラッディングアルゴリズムが適用されると、制御点fおよびeから輪郭A上の点への探索経路が、閾値Tによって防止されるので、グラフ探索は、輪郭Aに到達することができない。
成功した探索結果を図9Cに示す。
データ構造体Lは、探索プロセスをガイドするのに使用されるアクティブリストである。
以下の4つの関数が、L用に定義されている。
1.push(L,p,d)(プッシュ)は、ピクセルpおよびその(開始点からの)累積経路距離d=C(p)をリストに保存するのに使用される。
2.pop(L,p)(ポップ)は、累積経路が現リストにおいて最小であるピクセルpを取り出すのに使用される。
3.num(L)は、リストに保存されたピクセルの個数を返すのに使用される。
4.remove(L,p)(削除)は、ピクセルpがリストに存在する場合に、リストからピクセルpを削除するのに使用される。
データ構造体Lの例示の実施態様は、ピクセルの累積経路距離dに関して記憶されたリストである。
挿入/取り出し性能を改善するために、当該技術分野において既知の「バケット」構造体など、他のソート構造体を利用することもできる。
N(p)は、ピクセルpの8接続近傍集合を示す。
さらに、ptr(p)を、ピクセルpの最適な経路ポインタとする。
すなわち、ptr(p)が、最適な経路上のその前のピクセルを指すものとする。
この場合、制御されたフラッディングアルゴリズムは、図10の擬似コードで表現することができる。
ステップ1005〜1027は、探索解析を行う。
これらのステップのうち、ステップ1006〜1024は、(現閾値Tによって制約される)制約された探索関数である。
ステップ1010〜1012は、閾値比較を行い、閾値によって成長が制限されると、変数「flag_threshold(フラグ閾値)」が設定される。
ステップ1021〜1023では、「flag_threshold」が設定されていると、現在のピクセルが、バックアップアクティブリスト(L2)にプッシュされる。
このオペレーションの目的は、今後のプロセスの可能な開始ピクセルとしてこのピクセルを保存することである。
現アクティブリスト(L1)のすべてのピクセルが処理される(すなわち、グラフが、現閾値が許容するのと同程度に成長する)と、閾値が、ステップ1025においてδTだけ増加され、バックアップアクティブリスト(L2)が、現アクティブリスト(L1)に移動され、他方の基準点e(終了点)に到達するまで、プロセス全体が繰り返される。
概念的には、この関数は、ピクセルp、qにおけるエッジの勾配の大きさおよび向きに関係付けられるべきである。
しかしながら、ユーザの主観的なエッジの理解が、画像のグレースケールまたはRGB成分における信号の不連続と異なることがある。
テクスチャ性の高い領域は、「均一」とみなすことができ、そのテクスチャに関連付けられた強い勾配は、ユーザの視点からは「エッジ」として見えない。
その理由は、観察の異なる縮尺に応じて、「均一性」の定義が変化するからである。
ユーザの予想と一致するセグメント化の結果を生成するには、適当な縮尺を選択することが有利である。
ユーザは、(関係する境界セグメントがラバーバンドの内部に位置することを確認するために)このラバーバンド長方形のサイズおよび位置を制御するので、自身がオブジェクトを観察する縮尺を暗に指定することも行う。
したがって、この近傍区域内の画像の特徴解析により、意図した縮尺を決定することが容易になる。
したがって、MDL(最小記述長(minimal description length))原理に基づくアルゴリズムが、自動的な縮尺の選択を行う。
この領域ベースエッジ検出器は、異なる近傍のサイズに基づいてエッジ強度を計算するスケーラブル演算子である。
領域ベースエッジ検出器は、ラプラシアンやガウシアンのラプラシアン(LoG)などの従来のスケーラブル演算子よりも大きな空間局在性を実証する。
なお、領域ベースエッジ検出器が好ましいが、従来のスケーラブル演算子も、自動的な縮尺の選択に関連して本発明の実施の形態に従い利用することができる。
図11に示すように、ピクセルpについて、そのエッジの勾配は、3つの領域R=R1+R2、R1、およびR2にわたって解析される。
領域均一性関数(region homogeneity function)H(・)が定義され、勾配の大きさが、mag=1/2[H(R1)+H(R2)]−H(R)として定義される。
異なる角度を利用して勾配を検出するために、領域テンプレートをR(θ)、R1(θ)、およびR2(θ)に回転させることができる。
次いで、最終的な勾配(大きさおよび向き)が、次のように定義される。
本発明の実施の形態では、Rは、円盤であり、R1およびR2は、それぞれ、各ピクセルを中心とする半円盤である。
向きは、範囲[0,π)から一様にサブサンプリングされた4つの角度にわたって計算される。
円盤の半径は、エッジ検出器の倍率sを表すのに使用される。
倍率sを含めることにより、前述の大きさおよび向きの方程式は、次のように表現することができる。
本発明の実施の形態によれば、標準偏差尺度が利用される。
ただし、任意の個数の他の適切な尺度を利用することもできる。
この標準偏差尺度は、次のように表現することができる。
この勾配は、まず、以下によって線形にマッピングされ、その大きさが[0,1]の範囲にされる。
次いで、2つの近傍ピクセル対pとqとの間のローカル距離が、次のように定義される。
Dist(p,q)=Distmag(p,q)+Distori(p,q)
ここで、Distmag(p,q)は、次のように定義される。
次に、残りの事項は、適切な縮尺sを選択してアルゴリズムを実行することである。
このエッジ指向型アルゴリズムは、局所化された解であるので、MDL原理を使用することにより、グローバルな尺度を組み合わせて、局所化されたバイアスが最終的な結果においてバランスされる。
MDL原理によれば、データの符号化長およびモデル化パラメータの符号化長の合計を最小にすることによって、最適なデータモデル化方法が複数のモデルから選択される。
入力データは、この近傍のピクセル色である一方、モデル化パラメータは、(1)セグメント化輪郭c(s)、(2)領域R1およびR2のそれぞれのピクセル色の統計的分布を記述するモデル化データを含む。
各領域の各ピクセル色成分が、空間的に独立し、同一のガウス分布を共有すると仮定すると、MDL方程式は、以下の閉じた形に変換される。
DL=N1・logσ1+N2・logσ2+DL(c(s))+定数
ここで、σ1およびσ2は、それぞれ、領域R1およびR2のピクセル色の標準偏差であり、DL(c(s))は、輪郭c(s)の符号化長である。
最初の2つの項は、グローバルな均一性尺度である一方、最後の項は、境界の滑らかさの尺度である。
オペレーション中、本発明の実施の形態は、4つの縮尺1、2、4、6(ピクセル)で候補となるセグメント化輪郭を計算することが好ましい。
可能な縮尺パラメータは、複雑度と性能とのトレードオフとして、特定の部分集合に限定される。
MDL方程式は、候補となる各セグメント化輪郭に適用される。
最終的なセグメント化の結果(選択された縮尺に関連付けられた結果)は、MDL方程式を最小にする候補である。
ステップ1201において、グラフィカル画像の2つの頂点が(例えば、ユーザによって)特定される。
ステップ1202において、複数の輪郭が、2つの頂点間で検出される。
各輪郭は、異なる縮尺パラメータに関連付けられている。
ステップ1203において、(例えば、輪郭によって画定される領域間の分散を最小化することにより)MDL方程式を最小にする縮尺パラメータが、最適な縮尺パラメータとして選択される。
具体的には、本発明の実施の形態は、自動的な縮尺の選択を使用することによって、主観的なユーザの予想とより多く一致することを達成する。
具体的には、2つの基準点間でラバーバンド関数を初期化する際に、ユーザによって画定された長方形区域内で、縮尺が解析される。
したがって、自動的な縮尺の選択は、ユーザの主観的な境界の知覚に関連して行われる。
特に、開示した自動的な縮尺の選択は、テクスチャ画像に関連した輪郭を検出する際に優れた性能を示す。
さらに、本発明の実施の形態は、適応型閾値探索判断基準を使用して、より高い空間的精度を達成することによって、強い近傍エッジによる異常な結果を生成する可能性が低い。
102・・・形状符号化、
103・・・ネットワーク、
104・・・画像復号、
105・・・形状復号、
201・・・表示装置、
204・・・グラフィカル画像、
205・・・境界定義、
206・・・符号化境界、
208・・・媒体ドライブ、
209・・・境界符号化アルゴリズム、
210・・・通信アダプタ、
211・・・ネットワーク、
Claims (8)
- グラフィカルオブジェクトの境界情報を処理するコンピュータシステムであって、
少なくとも前記境界情報(205)によって画定される前記グラフィカルオブジェクトを含むグラフィカル画像(204)を受け取るコードと、
前記グラフィカル画像の1対の点(v1、v2)、エッジ検出に関連付けられた前記グラフィカル画像の探索区域における空間制約パラメータである第1のエッジ検出パラメータ、および、前記空間制約パラメータによって画定される領域で、前記グラフィカルオブジェクトに適用される勾配関数を定義する縮尺パラメータである第2のエッジ検出パラメータを使用し、前記1対の点(v1、v2)の間の輪郭(401)を検出するラバーバンド関数(Rubberband function)のコードであって、前記輪郭(401)は、前記勾配関数によって生成され、前記縮尺パラメータによって画定される領域にわたって計算される勾配に基づいて、前記1対の点(v1、v2)間の最短経路を計算することによって検出されるコードと、
前記グラフィカル画像から前記グラフィカルオブジェクトの境界を漸進的に検出する前記ラバーバンド関数を使用して、前記境界情報から複数の頂点を決定するコードであって、前記検出するコードによって検出された、前記複数の頂点のうちの隣接する頂点間の各輪郭が、歪み判断基準内で前記境界情報の各エッジを近似するコードと
を有し、
前記受け取るコード、前記検出するコードおよび前記決定するコードは、前記コンピュータのRAM(203)にロードされ、前記コンピュータのCPU(202)によって実行されるシステム。 - 少なくともグラフィカル画像(204)、前記複数の頂点、および、前記検出するコードを利用して、近似された境界を作成するコード
をさらに備える請求項1に記載のシステム。 - 前記決定するコードは、エッジに関連付けられた頂点対を解析し、
前記エッジは、重み付けされた非循環グラフであるエッジ集合のうち2点をつなぐ線として画定され、
前記線の長さは、発見的方法によって決定される定数よりも短い
請求項1に記載のシステム。 - 前記決定するコードは、重み付けされた非循環グラフであるエッジ集合のエッジに関連付けられた頂点対を解析する
請求項1に記載のシステム。 - 前記複数の頂点を決定するコードは、探索可能な頂点の集合からの頂点を解析し、
前記探索可能な頂点の集合は、
(a)所定の閾値よりも大きな曲率に関連付けられた頂点、および、
(b)次の制約条件
(i)隣接する頂点間の最大距離が、発見的方法によって設定された定数よりも小さいこと、および、
(ii)前記検出するコードによって検出された隣接する頂点間の各輪郭が、歪み判断基準内で前記境界情報の各エッジを近似すること
を条件として、
前記隣接する頂点間の最大距離により再帰的に計算された頂点
を含む
請求項1に記載のシステム。 - コンピュータのCPU(202)が、前記コンピュータのRAM(203)にロードされたコードを実行し、グラフィカルオブジェクトの境界情報を処理する方法であって、
少なくとも前記境界情報によって画定される前記グラフィカルオブジェクトを含むグラフィカル画像を受け取ること(601)と、
ラバーバンド関数を使用して、前記グラフィカル画像の1対の点(v1、v2)の間の輪郭(401)を検出することであって、前記ラバーバンド関数は、前記1対の点(v1、v2)、エッジ検出に関連付けられた前記グラフィカル画像の探索区域における空間制約パラメータである第1のエッジ検出パラメータ、および、前記空間制約パラメータによって画定される領域で、前記グラフィカルオブジェクトに適用される勾配関数を定義する縮尺パラメータである第2のエッジ検出パラメータを使用し、前記輪郭(401)は、前記勾配関数によって生成され、前記縮尺パラメータによって画定される領域にわたって計算される勾配に基づいて、前記1対の点(v1、v2)間の最短経路を計算することによって検出されることと、
前記グラフィカル画像から前記グラフィカルオブジェクトの境界を漸進的に検出する前記ラバーバンド関数を使用して、前記境界情報から複数の頂点を決定すること(605)であって、該複数の頂点のうちの隣接する頂点が、歪み判断基準内で前記境界情報の各エッジを近似する各輪郭に関連付けられ、前記各輪郭が検出されることと、
少なくとも前記複数の頂点をデータ構造体で符号化し、前記データ構造体が前記境界情報を表すこと(607)と
を含むグラフィカルオブジェクトの境界情報を処理する方法。 - 前記決定することは、エッジに関連付けられた頂点対を解析し、
前記エッジは、重み付けされた非循環グラフであるエッジ集合のうち2点をつなぐ線として画定され、
前記線の長さは、発見的方法によって決定される定数よりも短い
請求項6に記載の方法。 - 前記決定することは、探索可能な頂点の集合から頂点を選択し、
前記探索可能な頂点の集合は、
(a)所定の閾値よりも大きな曲率に関連付けられた頂点、および、
(b)次の制約条件
(i)隣接する頂点間の最大距離が、発見的方法によって設定された定数よりも小さいこと、および
(ii)隣接する頂点間の各輪郭が、歪み判断基準内で前記境界情報の各エッジを近似することを条件として、前記隣接する頂点間の最大距離により再帰的に計算される頂点を含む
請求項6に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US10/046,797 US7388988B2 (en) | 2002-01-14 | 2002-01-14 | Systems and methods for processing boundary information of a graphical object |
PCT/US2003/000712 WO2003060829A1 (en) | 2002-01-14 | 2003-01-09 | Processing boundary information of a graphical object |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006501530A JP2006501530A (ja) | 2006-01-12 |
JP4130915B2 true JP4130915B2 (ja) | 2008-08-13 |
Family
ID=21945443
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003560853A Expired - Fee Related JP4130915B2 (ja) | 2002-01-14 | 2003-01-09 | グラフィカルオブジェクトの境界情報の処理 |
Country Status (6)
Country | Link |
---|---|
US (1) | US7388988B2 (ja) |
EP (1) | EP1466299A1 (ja) |
JP (1) | JP4130915B2 (ja) |
AU (1) | AU2003202277A1 (ja) |
TW (1) | TW200301874A (ja) |
WO (1) | WO2003060829A1 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7187800B2 (en) * | 2002-08-02 | 2007-03-06 | Computerized Medical Systems, Inc. | Method and apparatus for image segmentation using Jensen-Shannon divergence and Jensen-Renyi divergence |
US7139892B2 (en) * | 2003-05-02 | 2006-11-21 | Microsoft Corporation | Implementation of memory access control using optimizations |
US7567714B2 (en) * | 2004-07-07 | 2009-07-28 | The United States Of America As Represented By The Secretary Of The Navy | System, method and apparatus for clustering features |
US8116581B2 (en) * | 2007-06-28 | 2012-02-14 | Microsoft Corporation | Efficient image representation by edges and low-resolution signal |
TWI383336B (zh) * | 2008-11-14 | 2013-01-21 | Delta Electronics Inc | 多邊形快速填色方法 |
US10789495B2 (en) | 2016-12-21 | 2020-09-29 | Volkswagen Ag | System and method for 1D root association providing sparsity guarantee in image data |
US10922824B1 (en) * | 2019-08-13 | 2021-02-16 | Volkswagen Ag | Object tracking using contour filters and scalers |
CN114255241B (zh) * | 2021-11-16 | 2023-10-20 | 鹏城实验室 | 用于路径规划的区域分割方法、装置、设备及存储介质 |
CN114723911B (zh) * | 2022-06-09 | 2022-10-11 | 自然资源部第二海洋研究所 | 基于d-p算法和最优路径的海底地理实体边界自动识别方法 |
CN117073534B (zh) * | 2023-10-16 | 2024-04-02 | 宁德时代新能源科技股份有限公司 | 涂胶检测方法及极片涂胶系统 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2590702B1 (fr) * | 1985-11-26 | 1990-07-27 | Thomson Csf | Procede de pontage entre elements de contours dans une image |
JP2856229B2 (ja) * | 1991-09-18 | 1999-02-10 | 財団法人ニューメディア開発協会 | 画像切り出し箇所検出方法 |
KR0171151B1 (ko) * | 1995-03-20 | 1999-03-20 | 배순훈 | 곡률 계산 기법을 이용한 이미지 윤곽 근사화 장치 |
KR100209419B1 (ko) * | 1996-07-09 | 1999-07-15 | 전주범 | 영상신호로 표현된 객체의 윤곽선 부호화 방법 |
US5974175A (en) * | 1997-01-22 | 1999-10-26 | Fujitsu Limited | Image processing apparatus and method for detecting a contour of an object from images of a motion picture and extracting the object therefrom |
FR2776798A1 (fr) * | 1998-03-24 | 1999-10-01 | Philips Electronics Nv | Procede de traitement d'images incluant des etapes de segmentation d'une image multidimensionnelle et appareil d'imagerie medicale utilisant ce procede |
WO1999052068A1 (en) * | 1998-04-03 | 1999-10-14 | Koninklijke Philips Electronics N.V. | Image processing method and system involving contour detection steps |
-
2002
- 2002-01-14 US US10/046,797 patent/US7388988B2/en not_active Expired - Fee Related
- 2002-11-18 TW TW091133643A patent/TW200301874A/zh unknown
-
2003
- 2003-01-09 JP JP2003560853A patent/JP4130915B2/ja not_active Expired - Fee Related
- 2003-01-09 EP EP03701294A patent/EP1466299A1/en not_active Withdrawn
- 2003-01-09 WO PCT/US2003/000712 patent/WO2003060829A1/en active Search and Examination
- 2003-01-09 AU AU2003202277A patent/AU2003202277A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
AU2003202277A1 (en) | 2003-07-30 |
WO2003060829A1 (en) | 2003-07-24 |
TW200301874A (en) | 2003-07-16 |
EP1466299A1 (en) | 2004-10-13 |
US20030132947A1 (en) | 2003-07-17 |
US7388988B2 (en) | 2008-06-17 |
JP2006501530A (ja) | 2006-01-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111047516B (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
Chang et al. | Simultaneous motion estimation and segmentation | |
US6711278B1 (en) | Tracking semantic objects in vector image sequences | |
US8818082B2 (en) | Classifying blur state of digital image pixels | |
US8290253B1 (en) | Method and apparatus for applying Gaussian Mixture Models to local image patches using an adaptive color lookup table | |
US7046850B2 (en) | Image matching | |
EP0853293B1 (en) | Subject image extraction method and apparatus | |
Jiang et al. | Matching by linear programming and successive convexification | |
US8913830B2 (en) | Multilevel image segmentation | |
US7536050B2 (en) | Using graph cuts for editing photographs | |
US8224110B2 (en) | Image processing apparatus and image processing method | |
KR101183391B1 (ko) | 메트릭 임베딩에 의한 이미지 비교 | |
JP2001034771A (ja) | イメージオブジェクトの所望の輪郭をモデリングするための方法および装置、ならびにフレームのシーケンス内でイメージオブジェクトを追跡し、かつイメージオブジェクトの所望の輪郭をモデリングするための方法 | |
US20030053705A1 (en) | Image processing apparatus and method | |
KR20220137937A (ko) | 투영 기반 메시 압축 | |
Saito et al. | Application of genetic algorithms to stereo matching of images | |
US9153203B2 (en) | Temporally consistent superpixels | |
US20230051960A1 (en) | Coding scheme for video data using down-sampling/up-sampling and non-linear filter for depth map | |
JP4130915B2 (ja) | グラフィカルオブジェクトの境界情報の処理 | |
CN111614996B (zh) | 一种视频修复方法和系统 | |
CN116645592A (zh) | 一种基于图像处理的裂缝检测方法和存储介质 | |
CN114742864A (zh) | 皮带跑偏检测方法及装置 | |
CN114494786A (zh) | 一种基于多层协调卷积神经网络的细粒度图像分类方法 | |
US20230316697A1 (en) | Association method, association system, and non-transitory computer-readable storage medium | |
Wang | Image matting with transductive inference |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070223 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20070327 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20070403 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070823 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071018 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20080116 |
|
A602 | Written permission of extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A602 Effective date: 20080123 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080410 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080502 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20080410 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080526 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110530 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110530 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120530 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R360 | Written notification for declining of transfer of rights |
Free format text: JAPANESE INTERMEDIATE CODE: R360 |
|
R371 | Transfer withdrawn |
Free format text: JAPANESE INTERMEDIATE CODE: R371 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130530 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |