JP3726413B2 - 画像処理装置及び記録媒体 - Google Patents

画像処理装置及び記録媒体 Download PDF

Info

Publication number
JP3726413B2
JP3726413B2 JP08310297A JP8310297A JP3726413B2 JP 3726413 B2 JP3726413 B2 JP 3726413B2 JP 08310297 A JP08310297 A JP 08310297A JP 8310297 A JP8310297 A JP 8310297A JP 3726413 B2 JP3726413 B2 JP 3726413B2
Authority
JP
Japan
Prior art keywords
color
counting
group
appearance frequency
characteristic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP08310297A
Other languages
English (en)
Other versions
JPH10143670A (ja
Inventor
寿美代 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Business Technologies Inc
Original Assignee
Konica Minolta Business Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Business Technologies Inc filed Critical Konica Minolta Business Technologies Inc
Priority to JP08310297A priority Critical patent/JP3726413B2/ja
Priority to US08/927,021 priority patent/US5995087A/en
Publication of JPH10143670A publication Critical patent/JPH10143670A/ja
Application granted granted Critical
Publication of JP3726413B2 publication Critical patent/JP3726413B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/64Systems for the transmission or the storage of the colour picture signal; Details therefor, e.g. coding or decoding means therefor
    • H04N1/644Systems for the transmission or the storage of the colour picture signal; Details therefor, e.g. coding or decoding means therefor using a reduced set of representative colours, e.g. each representing a particular range in a colour space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0489Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using dedicated keyboard keys or combinations thereof
    • G06F3/04897Special input arrangements or commands for improving display capability
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理装置及び記録媒体に関する。
【0002】
【従来の技術】
従来より、大量の画像データを保存、管理する画像データベースシステムが提供されている。かかる画像データベースシステムでは、各画像データに検索キーを付加しておき、この検索キーを用いて所望の画像データを検索できるようになっている。このような検索キーとしては、画像の特徴を示す言葉(キーワード)や図形などのほかに、画像の特徴を示す色味が用いられる。尚、ここで色味とは、例えば、色相、明度、彩度(HLS空間)により特定される1つ1つの色のことである。
従来、このように検索キーとして使用する目的で、個々の画像からその特徴を示す色味(特徴色)を抽出する作業は、人がその目に頼って手作業で行っていた。このため、画像データベースのように、大量の画像データを扱う場合には、この色味の抽出作業は大きな負担となっていた。また、作業者の主観に左右されるため、色味の抽出基準にばらつきがあり、これを検索キーとして用いた場合、正確な検出結果が得られないおそれがあった。
このような問題を解決するため、画像から自動的に特徴色を抽出する技術が提案されている。例えば、特開平5−274372号公報には、画像を表現するすべての色を幾つかの種類に分類し、この分類された色毎に、その出現頻度に基づいて全画像に対する偏りを算出し、その偏りの大きいもの又は小さいものを特徴色として抽出する技術が開示されている。
【0003】
【発明が解決しようとする課題】
しかし、上記公報に記載の技術では、画像を表現するすべての色を幾つかの種類に分類し、この分類された色の中からその出現頻度に基づいて特徴色が抽出されるため、分類の数が少ない場合には、抽出される特徴色の種類が少なくなるという問題点があった。一方、これを解決するために、分類の数を多くすると、1つの画像について複数の特徴色を抽出した場合に、画像の中で大きな面積を占める色の類似色ばかりが抽出されるという問題点があった。
【0004】
本発明の目的は、多くの種類の色の中から特徴色を抽出でき、かつ、1つの画像について複数の特徴色を抽出する場合であっても類似色ばかりが抽出されることのない、色味自動抽出を行う画像処理装置、及び、このような色味自動抽出のためのプログラムを記録した記録媒体を提供することである。
【0005】
【課題を解決するための手段】
本発明に係る第1の画像処理装置は、複数の色味よりなる色味テーブルと、前記色味テーブルの色味をある基準をもって分類した複数の色味グループよりなる色味グループテーブルと、処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段と、検出された色味の出現頻度を前記色味毎に計数する第1の計数手段と、検出された色味の出現頻度を前記色味グループ毎に計数する第2の計数手段と、第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段と、前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された色味が、黒色又は黒色に近い色である場合、当該色味を特徴色から排除する再判定手段とを備える。
本発明に係る第2の画像処理装置は、複数の色味よりなる色味テーブルと、前記色味テーブルの色味をある基準をもって分類した複数の色味グループよりなる色味グループテーブルと、前記色味グループとは異なる基準により前記色味テーブルの色味を分類した複数の色味グループよりなる第2の色味グループテーブルと、処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段と、検出された色味の出現頻度を前記色味毎に計数する第1の計数手段と、検出された色味の出現頻度を前記色味グループ毎に計数する第2の計数手段と、第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段と、前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された2つの色味が第2の色味グループテーブルにおいて同じ色味グループに属している場合、前記第1の計数手段により計数された出現頻度の低い方の色味を特徴色から排除する再判定手段とを備える。
また、本発明に係るコンピュータ読み取り可能な第1の記録媒体は、コンピュータを、処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段、検出手段により検出された色味の出現頻度を色味単位で計数する第1の計数手段、検出手段により検出された色味の出現頻度を、前記色味をある基準をもって分類した複数の色味グループ単位で計数する第2の計数手段、第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段、及び、前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された色味が黒色または黒色に近い色である場合、当該色味を特徴色から排除する再判定手段として機能させるプログラムを記録する。
また、本発明に係るコンピュータ読み取り可能な第2の記録媒体は、コンピュータを、処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段、検出手段により検出された色味の出現頻度を色味単位で計数する第1の計数手段、検出手段により検出された色味の出現頻度を、前記色味をある基準をもって分類した複数の色味グループ単位で計数する第2の計数手段、第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段、及び、前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された2つの色味が、前記色味グループとは異なる基準により前記色味を分類した第2の複数の色味グループにおいて同じ色味グループに属している場合、前記第1の計数手段により計数された出現頻度の低い方の色味を特徴色から排除する再判定手段として機能させるプログラムを記録する。
【0006】
【発明の実施の形態】
以下、添付の図面を用いて、本発明の実施形態について説明する。
図1は、本発明の画像処理装置として機能する情報処理装置(以下システムという)の構成の概略を示す図である。本システムは、グラフィカル・ユーザ・インターフェース(以下、GUIという)を採用する画像データのデータベース管理システムを構成する。本システムは、中央演算処理装置(以下、CPUという)を備え、システム全体を制御する制御装置1(コンピュータ)を中心として構成される。ディスプレイ2は、画像あるいは文字などを表示すると共に、操作のための各種画面の表示を行う。キーボード3及びマウス4は、各種入力、指示操作等を行う。フロッピーディスクドライブ5bは、データを記憶及び保管する媒体であるフロッピーディスク5aへのデータの書き込み及び読み出しを行う。ハードディスク装置6は、入力される画像データとこれに付加される検索キーの情報を記憶及び保管する。プリンタ7は、画像データに基づいて画像を用紙等に出力する。スキャナ8は、原稿から画像データを読み取り、読み取った画像データを制御装置1へと出力する。CD−ROMドライブ9bは、多量の画像データが格納されたCD−ROM9aから画像データを読み込む。スキャナ8、CD−ROMドライブ9bにより読み取られた画像データは、ハードディスク装置6に入力される。また、スピーカ10は、音声出力を行い、マイクロフォン11は、音声入力を行う。これらの装置は、それぞれ接続ケーブルを介して制御装置1と接続されている。また、図に示す矢印は本システムにおけるデータの流れを示す。なお、これらの装置は、制御装置1に内蔵され一体に形成されても良い。
図2は、ハードディスク装置6のデータ構造の概略を示す図である。図示するように、ハードディスク装置6内部には、登録された画像データG1,G2,…のデータを格納する画像データの格納領域60、これらの各画像データに付加された検索キーとしての色味g1-1,g1-2,g2-1,g2-2,…の色相、明度、彩度の値、又は、これらの値を特定するデータを格納する色味データ格納領域61、及び、キーワードや形状等のその他の検索キーのデータを格納するデータ格納領域62とが設けられている。
【0007】
図3は、制御装置1を中心としたブロック図である。制御装置1は、例えばインテル社製の品番i80486DX等のCPU201を中心として構成され、CPU201に接続されるデータバス220を介して、本発明にかかる色味自動抽出処理等のプログラムを記憶するROM203、各種テーブル(後に説明する色味テーブル及び色味グループテーブル)及びデータを記憶するRAM204、画像あるいは文字などの表示をディスプレイ2に行う表示制御回路205、キーボードからの入力を転送制御するキーボード制御回路206、マウス4からの入力を転送制御するマウス制御回路207、フロッピーディスクドライブ5bを制御するフロッピーディスクドライブ制御回路208、ハードディスク装置6を制御するハードディスク制御回路209、プリンタ7への出力を制御するプリンタ制御回路210、スキャナ8を制御するスキャナ制御回路211、CD−ROMドライブ9bを制御するCD−ROMドライブ制御回路212、スピーカへの音声出力を制御するスピーカ制御部213、及び、マイクロフォン11を制御するマイクロフォン制御回路214がそれぞれ接続される。また、CPU201には、本システムを動作させるのに必要な基準クロックを発生するためのクロック202が接続され、さらにデータバス220を介して各種拡張ボードを接続するための拡張スロット215が接続される。なお、拡張スロット215にSCSIボードを接続し、このSCSIボードを介してフロッピーディスクドライブ5b、ハードディスク装置6、スキャナ8、CD−ROMドライブ9b等を接続しても良い。
上記システムにおいて、データを記録する媒体としてフロッピーディスク5a及びハードディスク装置6を使用するが、光磁気ディスク等の他の記録媒体を用いても良い。また、画像データの入力装置として、スキャナ8及びCD−ROMドライブ9bを用いるが、スチルビデオカメラやディジタルカメラ等の他の入力装置を用いても良い。また、出力装置としてはプリンタ7を用いるが、これはディジタル複写機等の他の出力装置を用いても良い。
尚、本システムでは、外部入力装置からハードディスク装置6に入力され、記憶された画像データを管理するようにしているが、CD−ROM9aに記憶されている画像データを直接管理するようにすることも考えられる。この場合、CD−ROM9aに記憶されている画像データを示すインデックスデータに対して検索キーを付加してハードディスク装置6に記憶する(このインデックスデータと検索キーのセットをレコードと呼ぶ)。画像データの検索時には、設定された検索キーに基づいて、まずレコードを検索結果として抽出し、しかる後、抽出されたレコードのインデックスデータに基づいてCD−ROM9aから画像データ本体を読み出すようにすればよい。
【0008】
以下、本システムにおいて実行される各処理について説明する。
図6は、制御装置1の備えるCPU201の実行する制御処理のメインルーチンのフローチャートである。ROM203に格納するプログラムの起動に伴い、処理に必要な変数等の初期化を行い、ディスプレイ2に所定の初期画面(図示せず)を表示する(ステップS1)。次にキーボード3又はマウス4の操作によりメニュー選択がなされたか否かを判定し(ステップS2)、選択されていれば、その選択されたメニューの内容に応じて、色味テーブル設定処理(ステップS3)、色味グループテーブル設定処理(ステップS4)、画像データ入力処理(ステップS5)、画像データ検索処理(ステップS6)、その他のメニュー処理(ステップS7)の何れかを実行する。何も選択されていない場合には、何の処理も行わずにステップS8に進む。メニュー選択により実行される処理以外のその他の処理を行った後に(ステップS8)、ステップS2に戻る。ステップS3〜S6の処理については後に説明する。その他のメニュー処理(ステップS7)、及び、その他の処理(ステップS8)については、従来の情報処理装置での処理と基本的に同様であり、また本発明には直接関係しないため、ここでの説明は省略する。
【0009】
図7は、色味テーブル設定処理(図6、ステップS3)のフローチャートである。ここでは、利用者の所望する色味を備える色味テーブルを用意することを目的として、デフォルトの色味テーブルに対して、色味の追加、変更、及び削除を行う。尚、ここで、色味テーブルとは、色相、明度、彩度(HLS空間)により特定される1つ1つの色である色味の集合であり、システム内に1つ存在する。色味テーブルの一例を図4に示す。本システムでは、この色味テーブルに属する色味の中から画像の特徴色としての色味が抽出される。
まず、ディスプレイ2上に色味テーブルに登録されている全ての色味を一覧表示する(ステップS31)。キーボード3又はマウス4の操作によりメニュー選択が行われたか否かを判定し(ステップS32)、選択されていれば、選択されたメニューの内容に応じて、色味の追加(ステップS33,S34)、変更(ステップS35,S36)、削除(ステップS37,S38)を実行する。色味の追加が選択されている場合、まず、色相H、明度V、彩度Cを指定し、色味を作成する(ステップS33)。作成した色味を色味テーブルに追加する(ステップS34)。色味の変更が選択されている場合、色味テーブルから変更する色味を選択する(ステップS35)。選択した色味の色相H、明度V、彩度Cを変更して、登録する(ステップS36)。この色味の変更に伴い、ハードディスク装置6に記憶されている各画像データに付加されている対応する色味及び後述する色味グループテーブル内の対応する色味も同時に変更される。色味の削除が選択されている場合、色味テーブルから削除する色味を選択する(ステップS37)。選択された色味をテーブルから削除する(ステップS38)。この色味の削除に伴い、ハードディスク装置6に記憶されている各画像データに付加されている対応する色味、及び、後述する色味グループテーブル内の対応する色味も同時に削除される。ステップS34,S36,S38の何れかの実行後、又は、何もメニュー選択されていない場合、メインルーチン(図6)へリターンする。
上記ステップS31において、ディスプレイ2上への色味テーブルの表示方法には、図4に示すように(a)〜(l)の12の等色相面の全てを一覧表示する他に、ディスプレイ2上に図8の(a)に示す色相環を表示し、この色相環において区分される12色の内の1色が選択された場合に、(b)に示すように、選択された色相の明度−彩度の2軸で表現する色味テーブルを表示しても良い。また、図9に示すように、ディスプレイ2上にRGB値を軸として色味テーブルを表示しても良い。なお、図9では、青色(B)を固定して赤色(R)−緑色(G)の2軸で色味テーブルを表現しているが、固定する色を赤色や緑色に変えて、2軸の組み合わせを青色−緑色、青色−赤色に変更しても良い。また、図10に示すように、1枚の大きな配置テーブルを用意し、図4の色味テーブルに基づいて、利用者が自由に色味を配置した色味テーブルを表示しても良い。また、場合によっては、色味テーブルを複数用意しても良い。
上記ステップS33及びS36における色味の作成及び変更には、色相H、明度V、彩度Cを直接指定するかわりに、色のRGB値を指定しても良い。
また、上記ステップS34における色味テーブルに色味を追加する場合、使用する色味テーブルに応じて、追加した色味の色相、明度、彩度、又は、RGB値に基づいて、特定される空間に自動的に配置しても良いし、ディスプレイ2上に表示される色味テーブル上の利用者が指定した位置に任意に配置しても良い。
なお、この色味テーブル設定処理(ステップS3)を行わずに、デフォルトの色味テーブルをそのまま使用しても良い。
【0010】
図11は、色味グループテーブル設定処理(図6、ステップS4)のフローチャートを示す。尚、ここで、色味グループテーブルとは、前記の色味テーブルに属する色味をある基準をもって分類した複数の色味グループの集合であり、システム内に1つ又は複数存在する。色味グループテーブルの一例を図5に示す。図5において、実線300で囲まれた領域は、1つの色味グループを示す。例えば、赤(Red)、オレンジ(Orange)、黄(Yellow)、緑(Green)、青(Blue)などの各色(色相)を、明度を基準として分類した色味グループテーブルでは、各色味は明るい赤(LightRed)や暗い赤(DarkRed)等の色味グループに分類される。各色(色相)を彩度を基準として分類した色味グループテーブルでは、各色味は鮮やかな赤(VividRed)や灰色がかった赤(GryishRed)等の色味グループに分類される。
キーボード3又はマウス4の操作によりメニュー選択が行われたか否かを判定し(ステップS41)、選択されていれば、色味グループテーブルの新規作成処理(ステップS42)、同変更処理(ステップS43)、同削除処理(ステップS44〜S46)を行う。色味グループテーブルの新規作成処理(ステップS42)及び変更処理(ステップS43)については後に説明する。色味グループテーブルの削除を行う場合、まず、図12に示すように、設定されている色味グループテーブルリストをディスプレイ2上に表示する(ステップS44)。キーボード3又はマウス4により表示された色味グループテーブルリストから削除する色味グループテーブルを選択する(ステップS45)。選択した色味グループテーブルを削除する(ステップS46)。ステップS42,S43,S46の何れかの実行後、又は、何のメニューも選択されていない場合、色味グループテーブルリストを表示し、利用者に後述する色味自動抽出処理で使用する色味グループテーブルを選択させた後に(ステップS47)、メインルーチン(図6)へリターンする。ステップS47で選択される色味グループテーブルの数は、色味自動抽出処理の方法によって異なる。本システムでは、後述するように、特徴色判定用及び再判定用の2つの色味グループテーブルを選択するようにしている。
なお、この色味グループテーブル設定処理(ステップS4)を実行せずに予め用意したデフォルトの色味グループテーブルのみを使用してもよい。
【0011】
図13は、色味グループテーブル新規作成処理(図10、ステップS42)のフローチャートである。まず、ディスプレイ2上に色味テーブルを表示する(ステップS421)、色味テーブルに表示される色味を分類して、複数の色味グループを作成する(ステップS422)。作成した色味グループの内、グループ登録する色味グループを選び出す(ステップS423)。色味グループテーブルに名前を付ける(ステップS424)。作成した色味グループテーブルを色味グループテーブルリストに追加する(ステップS425)。この後、図11に示すフローへリターンする。
上記ステップS422における色味の分類方法には、色味テーブルの色味を1つ1つ選択する方法、及び、色味テーブル内で隣接する色味を領域指定して分割する方法がある。図14は、色味テーブルの色味を1つ1つ選択して、色味グループを設定する場合の例を示す図である。実線で囲む領域301が1つの色味グループを示す。例えば、(a)に示すように、ディスプレイ2上に表示される色味テーブルから色味を1つずつ、例えばマウス4により選択し、ドラッグ&ドロップにより色味グループテーブルの各色味グループに属する色味を設定する。また、図15は、色味テーブル内で隣接する色味を領域指定して分割する場合の例を示す図である。領域の指定は、例えばマウス4を操作して行う。本図の場合、マウス4により選択した領域302を1つの色味グループとして設定する。また、指定する領域は、矩形だけでなく楕円や、自由曲線により囲んで指定してもい。例えば、図4に示すように、色味テーブルが色相、明度、彩度で配置されている場合には、色味テーブルの各色味を多角形で囲んで色味グループを設定する。
【0012】
図16は、色味グループテーブル変更処理(図11、ステップS43)のフローチャートである。ここでは、色味グループテーブルの色味グループの変更又は修正を行う。まず、色味グループテーブルのリストを、ディスプレイ2上に、図12に示すように表示する(ステップS431)。表示した色味グループテーブルリストから変更したい色味グループテーブルを、利用者が選択する(ステップS432)。選択した色味グループテーブル及び色味テーブルをディスプレイ2上に表示する(ステップS433)。利用者は、色味グループテーブルの色味グループを修正するか、あるいは、色味テーブルから新しい色味グループを作成する(ステップS434)。利用者は、グループ登録したい色味グループだけを選び出す(ステップS435)。選択した色味グループテーブルをステップS435で選ばれた色味グループに変更した後に(ステップS436)、図11に示すフローへリターンする。本システムでは、色味テーブルに属するすべての色味を、色味グループテーブル内のいずれかの色味グループに分類する(言い換えれば、各色味グループテーブルは、それぞれが色味テーブルに属するすべての色味を有する)ようにしているが、色味テーブルのすべての色味を有しない色味グループテーブルがあってもよい。
【0013】
図17は、画像データ入力(図6、ステップS5)のフローチャートである。ここでは、ハードディスク装置6に新規に書き込まれる画像データ又は既にハードディスク装置6に格納されている画像データから、これらの画像の特徴色、すなわち、画像の特徴を示す色としての色味を自動抽出する処理、及び、この自動抽出された色味又はオペレータが手作業で選んだ色味を検索キーとして前記画像データに付加する処理を実行する。まず、画像データの新規入力か否かを判別する(ステップS51)。ここで、新規入力の場合には画像データを取り込み(ステップS52)、新規入力でない場合にはハードディスク装置6内の画像データを選択する(ステップS53)。新規入力又は選択された画像データからその特徴色としての色味を自動的に抽出する色味自動抽出処理を実行する(ステップS54)。次に、色味自動抽出処理において特徴色として抽出された色味を検索キーとして画像データに付加するかどうかをオペレータに選択させる(ステップS55)。付加する場合には(ステップS55でYES)、抽出した色味を、検索キーとして画像データに付加する(ステップS56)。一方、自動抽出した色味を画像データに付加しない場合には(ステップS55でNO)、色味をマニュアルで設定するものと判断してディスプレイ2上に色味テーブルを表示する(ステップS57)。表示された色味テーブルからオペレータにより選択された色味を、検索キーとして画像データに付加する(ステップS58)。その他の情報を画像データに付加した後に(ステップS59)、メインルーチン(図6)へリターンする。
上記ステップS55における、自動抽出した色味を画像データに付加する/しないの選択は、色味自動抽出処理が終了するまでの所定のタイミングにおいて、例えば、ディスプレイ2上に所定の選択画面を表示して行う。なお、ステップS54において自動抽出した色味を、利用者の選択によらず、必ず画像データに付加するようにしても良い。
なお、上記ステップS56及びS58において、色味を画像データの検索キーとして付加するとは、図2に示すように、処理対象の画像データについて特定されるハードディスク装置6内の色味データ格納領域61に、付加する色味の色相、明度、彩度の値、又は、これらの値を特定するデータを書き込み、これらの色味を検索キーとして使用できる状態にすることをいう。
【0014】
図18は、色味自動抽出処理(図17、ステップS54)のフローチャートである。まず、色味テーブルの色味の1つ1つに計数手段としてのカウンタを用意し、リセットしておく(ステップS541)。更に、前記の色味グループテーブル設定処理のステップS47で特徴色判定用として選ばれた色味グループテーブルの色味グループ毎に計数手段としてのカウンタを用意し、リセットしておく(ステップS542)。画像をN個(本システムでは一辺につき25個)の小区画に分割する(ステップS543)。次に、各小区画の代表色を抽出する処理を小区画毎に繰り返し実行する(ステップS544〜S547)。すなわち、変数Iを1にセットする(ステップS544)。変数Iの値がN+1に満たない場合(ステップS545でYES)、I番目の小区画について、その代表色を抽出し、前記のカウンタでカウントする小区画単位の色味抽出処理を実行する(ステップS546)。変数Iに1を加算した後に(ステップS547)、ステップS545に戻る。変数Iの値がN+1以上の値となった場合、つまり全ての小区画についての処理が終了した場合には(ステップS545でNO)、画像特徴色判定処理を実行した後に(ステップS548)、図17に示すフローにリターンする。なお、小区画単位の色味抽出処理(ステップS546)及び画像特徴色判定処理(ステップS548)については、後に詳しく説明する。
なお、ステップS543における画像の分割方法には、画像の分割数を固定して等分割する方法、小区画の大きさを固定して分割する方法、及び、画像の大きさを考慮してこれら2つの方法を組み合わせて画像を分割する方法等が挙げられる。また、画像を分割せずに画素毎に色味を抽出するようにしてもよい。
【0015】
図19は、小区画単位の色味抽出処理(図18、ステップS546)のフローチャートである。小区画内で一番多い色と同じ色味又はその色に一番近い色味を色味テーブルから選び出し、これをその区画の代表色とする(ステップS5461)。代表色として選んだ色味のカウンタ(ステップS541を参照)を1つ増やして画像全体の中での出現頻度を計数する(ステップS5462)。さらに、代表色として選んだ色味を含む色味グループのカウンタ(ステップS542を参照)を1つ増やして画像全体の中での出現頻度を計数する(ステップS5463)。この後、図18に示すフローへリターンする。
【0016】
図20は、画像特徴色判定処理(図18、ステップS548)のフローチャートである。検索キーの数として要求される数と、後の再判定処理(ステップS5486)で特徴色から外される色の数とを勘案してオペレータが定める所定数の特徴色が得られるまでの間(ステップS5481でNO)、ステップS5482〜S5485の処理を繰り返し実行し、小区画単位の色味抽出処理(ステップS546)において検出した各色味と色味グループについてのカウント値(出現頻度)に基づいて画像の特徴色を選び出す。
まず、色味グループテーブルから一番カウント数の多い色味グループを選ぶ(ステップS5482)。次に、選ばれた色味グループの中に含まれる色味から一番カウント数の多い色味を選ぶ(ステップS5483)。選ばれた色味を画像の特徴色とする(ステップS5484)。特徴色とした色味を含む色味グループのカウンタをリセットし、次の評価で選ばれないようにする(ステップS5485)。これにより、出現頻度の高い色味グループから順に、各グループについて1つずつの色味が特徴色として抽出される。言い換えれば、各類似色の集合(色味グループ)から1つずつの特徴色が抽出されるため、画像の中で大きな面積を占める色の類似色ばかりが特徴色として抽出されることがない。上記所定数の特徴色が得られた場合(ステップS5481でYES)、特徴色の再判定処理を実行する(ステップS5486)。この再判定処理の詳細については、後に説明する。この再判定処理の後、図18に示すフローへリターンする。
なお、ステップS5482〜S5485の処理は、他の方法、例えば、各色味グループから2以上の数の色味を特徴色として抽出するようにしてもよい。また、ステップS5486における特徴色の再判定処理を省略して、ステップS5481〜S5485で抽出された色味をそのまま特徴色としても良い。逆に、ステップS5486において特徴色の再判定処理を実行することを前提として、一番カウント数の多い色味グループに属する色味を全て特徴色としても良い。
【0017】
図21は、特徴色の再判定処理(ステップS5486)のフローチャートである。再判定処理は、前記の特徴色判定処理により抽出された色味の中から特徴色とすべきでない色味を外すための処理である。
抽出された全ての特徴色についての再判定処理が終了するまでの間(ステップS54861でNO)、ステップS54862〜S54868を繰り返し実行する。まず、抽出された特徴色から、検索キーとして不適当な色を排除する。即ち、特徴色が黒又は黒に近い色である場合であって(ステップS54862でYES)、かつ、カラーである場合(ステップS54863でYES)、この特徴色は画像中の陰影部分であると判断して、特徴色から排除する(ステップS54864)。なお、黒に近いか否かの判断は明度を基準として行う。この評価で特徴色から外されなければ(ステップS54862でNO、又は、ステップS54862でYES,S54863でNOの場合)、できるだけ非類似な特徴色を選び出すために、前述の特徴色判定において使用した色味グループテーブルとは別の色味グループテーブルを用いて特徴色を再判定する。図11の色味グループテーブル設定処理のステップS47で再判定用として選択された色味グループテーブルにおいて、判定中の特徴色が含まれる色味グループを選び出す(ステップS54865)。次に、再判定用の色味グループテーブルにおいて、判定中の特徴色以外の特徴色が含まれている色味グループを選び出す(ステップS54866)。判定中の特徴色が含まれている色味グループに他の特徴色が含まれる場合には(ステップS54867でYES)、色味単位のカウント値の少ない方の色味を特徴色から外す(ステップS54868)。全ての特徴色についての判定処理が終了した場合には(ステップS54861でYES)、残った特徴色を最終的な画像の特徴色とした後に(ステップS54869)、図20に示すフローへリターンする。
なお、黒又は黒に近い色を陰影であるとみなして特徴色から外す処理(ステップS54862〜S54864)は、省略してもよい。また、黒に近い色には、暗い灰色が挙げられる。その他に、有彩色の中の暗い色等を黒に近い色に含めてもよい。
【0018】
図22は、画像データ検索処理(図6、ステップS6)のフローチャートである。ここでは、検索キーを用いて、画像データベースより所望する画像データを検索する処理を実行する。
まず、キーボード3又はマウス4により何らかのメニューが選択されたか否かを判定する(ステップS61)。色味検索についてのメニューが選択された場合には、色味を検索キーとして指定して検索を行う色味検索処理を実行する(ステップS62)。その他の検索処理が選択された場合には、キーワードや図形等を検索キーとして指定して検索を行うその他の検索処理を実行する(ステップS63)。上記何れかの処理によって検索された画像データをディスプレイ2上に表示した後に(ステップS64)、メインルーチン(図6)にリターンする。尚、その他の検索処理については、本発明に直接関係しないため説明を省略する。
【0019】
図23は、色味検索処理(図22、ステップS62)のフローチャートである。まず、キーボード3又はマウス4により何らかのメニューが選択されたか否かを判定する(ステップS621)。選択されたメニューの種類に応じて、色味テーブルから検索キーを選択する処理(ステップS622)、又は、色味グループテーブルから検索キーを選択する処理(ステップS623)の何れかの処理を実行する。これらの処理により設定された検索キーを用いて画像データを画像データベースより検索した後に(ステップS624)、図22に示すフローへリターンする。なお、色味テーブルからの検索キー設定処理(ステップS622)と色味グループテーブルからの検索キー設定処理(ステップS623)は、それぞれ色味テーブル又は色味グループテーブルから検索キーとして設定したい色味を選び出す処理であり、その詳細については以下に詳しく説明する。
【0020】
図24は、色味テーブルからの検索キー設定処理(図23、ステップS622)のフローチャートである。まず、ディスプレイ2上に色味テーブルを表示する(ステップS6221)。キーボード3又はマウス4の操作による色味の選択を受け付ける(ステップS6222)。選択された色味を検索キーとして設定した後に(ステップS6223)、図23に示すフローへリターンする。尚、ステップS6222で複数の色味が検索キーとして選択された場合に、ステップS6223において、これらの色味をAND条件で設定するか、OR条件で設定するかを指定できるようにしてもよい。
【0021】
図25は、色味グループテーブルからの検索キー設定処理(図23、ステップS623)のフローチャートである。ディスプレイ2上に、図12に示す色味グループテーブルリストを表示する(ステップS6231)。表示した色味グループテーブルリストから色味グループテーブルが選択された場合には(ステップS6232でYES)、選択した色味グループテーブルから検索キーとしたい色味グループを選択させる(ステップS6233)。選択された色味グループに含まれる色味を全て検索キーとして設定する(ステップS6234)。色味グループテーブルリストから何のグループも選択されない場合には(ステップS6232でNO)、図23に示すフローへリターンする。尚、ステップS6233で複数の色味グループが選択された場合に、ステップS6234において、これら色味グループをAND条件で設定するか、OR条件で設定するかを指定できるようにしてもよい。ただし、この場合でも、各色味グループの中の色味は常にすべてOR条件に設定される。
以上、説明したように、本実施形態のシステムによれば、画像の特徴色の自動抽出において、多数の色味を複数の色味グループに分類し、この色味グループ毎の出現頻度に応じて各グループから1つずつの色味を特徴色として抽出するため、多くの種類の色味の中から特徴色を抽出でき、かつ、1つの画像について複数の特徴色を抽出した場合でも類似色ばかりが抽出されることがない。
尚、本発明は、色味毎の出現頻度と色味グループ毎の出現頻度とに基づいて特徴色を抽出することを特徴とする。このため、色味グループの分類基準及び特徴色抽出の際の法則を種々に変更することで、利用者の多彩な要求に応えることが可能である。例えば、画像の中に占める面積は少ないが目立つ色を特徴色の中に加えたいときには、彩度を基準として分類した色味グループテーブルを用い、彩度の高い色味グループであって出現頻度の低い色味グループから特徴色を抽出するようにすればよい。
本システムでは、以上説明した画像からその特徴色としての色味を自動的に抽出する処理を行うプログラムをROM203に記憶する。しかし、本プログラムの一部又は全部をフロッピーディスク5aやハードディスク装置6等のデータ記録媒体に保管しておき、必要に応じてこれらデータ記録媒体よりプログラムをRAM204に読み込ませ、これを実行させても良い。プログラムの実行時において、画像から特徴色を抽出する際に用いる色味テーブル及び色味グループテーブルは、フロッピーディスク5a等のデータ記録媒体には記憶せずにROM203に直接保持しても良い。
【0022】
【発明の効果】
本発明の画像処理装置によれば、画像からその特徴色を自動的に抽出する際、多くの種類の色の中から特徴色を抽出でき、かつ、画像中で大きな面積を占める色の類似色ばかりが特徴色として抽出されることがない。
尚、本発明の記録媒体上に記録されたプログラムをコンピュータで実行することによっても、上記の画像処理装置と同様の効果が奏される。
【図面の簡単な説明】
【図1】 本発明の画像処理装置として機能する情報処理装置の構成の概略を示す図である。
【図2】 ハードディスク装置のデータ構造の概略図である。
【図3】 制御装置を中心とするブロック図である。
【図4】 色味テーブルの一例を示す図である。
【図5】 色味グループテーブルの一例を示す図である。
【図6】 制御装置の備えるCPUの実行する制御処理のメインルーチンのフローチャートである。
【図7】 色味テーブル設定処理のフローチャートである。
【図8】 (a)及び(b)は、ディスプレイ上への色味テーブルの表示方法の一例を説明するための図である。
【図9】 ディスプレイ上への色味テーブルの表示方法の一例を示す図である。
【図10】 ディスプレイ上への色味テーブルの表示方法の一例を示す図である。
【図11】 色味グループテーブル設定処理のフローチャートである。
【図12】 ディスプレイ上に表示される色味グループテーブルリストを示す図である。
【図13】 色味グループテーブル新規作成処理のフローチャートである。
【図14】 色味グループテーブルの各色味グループに属する色味を、1つずつ設定する一例を示す図である。
【図15】 色味テーブル内の複数の色味を領域指定して色味グループを設定する一例を示す図である。
【図16】 色味グループテーブル変更処理のフローチャートである。
【図17】 画像データ入力処理のフローチャートである。
【図18】 色味自動抽出処理のフローチャートである。
【図19】 小区画単位の色味抽出処理のフローチャートである。
【図20】 画像特徴色判定処理のフローチャートである。
【図21】 特徴色の再判定処理のフローチャートである。
【図22】 画像データ検索処理のフローチャートである。
【図23】 色味検索処理のフローチャートである。
【図24】 色味テーブルからの検索キー設定処理のフローチャートである。
【図25】 色味グループテーブルからの検索キー設定処理のフローチャートである。
【符号の説明】
1…制御装置
2…ディスプレイ
3…キーボード
4…マウス
5a…フロッピーディスク
5b…フロッピーディスクドライブ
6…ハードディスク
7…プリンタ
8…スキャナ
9a…CD−ROM
9b…CD−ROMドライブ
10…スピーカ
11…マイクロフォン
201…CPU
202…データバス
203…ROM
204…RAM

Claims (4)

  1. 複数の色味よりなる色味テーブルと、
    前記色味テーブルの色味をある基準をもって分類した複数の色味グループよりなる色味グループテーブルと、
    処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段と、
    検出された色味の出現頻度を前記色味毎に計数する第1の計数手段と、
    検出された色味の出現頻度を前記色味グループ毎に計数する第2の計数手段と、
    第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段と、
    前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された色味が、黒色又は黒色に近い色である場合、当該色味を特徴色から排除する再判定手段とを備えることを特徴とする画像処理装置。
  2. 複数の色味よりなる色味テーブルと、
    前記色味テーブルの色味をある基準をもって分類した複数の色味グループよりなる色味グループテーブルと、
    前記色味グループとは異なる基準により前記色味テーブルの色味を分類した複数の色味グループよりなる第2の色味グループテーブルと、
    処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段と、
    検出された色味の出現頻度を前記色味毎に計数する第1の計数手段と、
    検出された色味の出現頻度を前記色味グループ毎に計数する第2の計数手段と、
    第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段と、
    前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された2つの色味が第2の色味グループテーブルにおいて同じ色味グループに属している場合、前記第1の計数手段により計数された出現頻度の低い方の色味を特徴色から排除する再判定手段と
    を備えることを特徴とする画像処理装置。
  3. コンピュータを、
    処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段、
    検出手段により検出された色味の出現頻度を色味単位で計数する第1の計数手段、
    検出手段により検出された色味の出現頻度を、前記色味をある基準をもって分類した複数の色味グループ単位で計数する第2の計数手段、
    第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段、及び、
    前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された色味が黒色または黒色に近い色である場合、当該色味を特徴色から排除する再判定手段として機能させるプログラムを記録したコンピュータ読み取り可能な記録媒体。
  4. コンピュータを、
    処理対象画像の画像データから当該画像に含まれる色味を検出する検出手段、
    検出手段により検出された色味の出現頻度を色味単位で計数する第1の計数手段、
    検出手段により検出された色味の出現頻度を、前記色味をある基準をもって分類した複数の色味グループ単位で計数する第2の計数手段、
    第1及び第2の計数手段の計数結果に基づいて、出現頻度の高い色味グループから順次、当該色味グループに属する色味の中で最も出現頻度の高かった色味を、前記処理対象画像の特徴色として抽出する特徴色抽出手段、及び、
    前記特徴色抽出手段により抽出された色味について、これを特徴色とするべきかどうかを再判定する再判定手段であって、前記特徴色抽出手段により抽出された2つの色味が、前記色味グループとは異なる基準により前記色味を分類した第2の複数の色味グループにおいて同じ色味グループに属している場合、前記第1の計数手段により計数された出現頻度の低い方の色味を特徴色から排除する再判定手段として機能させるプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP08310297A 1996-09-11 1997-04-01 画像処理装置及び記録媒体 Expired - Fee Related JP3726413B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP08310297A JP3726413B2 (ja) 1996-09-11 1997-04-01 画像処理装置及び記録媒体
US08/927,021 US5995087A (en) 1996-09-11 1997-09-10 Apparatus for automatically deciding characteristic colors of an image

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP8-240369 1996-09-11
JP24036996 1996-09-11
JP08310297A JP3726413B2 (ja) 1996-09-11 1997-04-01 画像処理装置及び記録媒体

Publications (2)

Publication Number Publication Date
JPH10143670A JPH10143670A (ja) 1998-05-29
JP3726413B2 true JP3726413B2 (ja) 2005-12-14

Family

ID=26424169

Family Applications (1)

Application Number Title Priority Date Filing Date
JP08310297A Expired - Fee Related JP3726413B2 (ja) 1996-09-11 1997-04-01 画像処理装置及び記録媒体

Country Status (2)

Country Link
US (1) US5995087A (ja)
JP (1) JP3726413B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3812185B2 (ja) * 1998-12-01 2006-08-23 株式会社日立製作所 欠陥分類方法およびその装置
GB2408662B (en) * 2000-10-03 2005-07-27 Colour Comm Ltd Colour system
JP2008165303A (ja) * 2006-12-27 2008-07-17 Fujifilm Corp コンテンツ登録装置、及びコンテンツ登録方法、及びコンテンツ登録プログラム
JP5756671B2 (ja) * 2011-04-21 2015-07-29 シャープ株式会社 操作装置、及びそれを備える画像処理装置
JP6006177B2 (ja) * 2013-06-10 2016-10-12 株式会社中川ケミカル 色関連情報探索支援方法、色関連情報探索支援システム
US20150356944A1 (en) * 2014-06-09 2015-12-10 Optoma Corporation Method for controlling scene and electronic apparatus using the same
JP6346975B2 (ja) * 2017-05-16 2018-06-20 株式会社中川ケミカル 色関連情報探索支援プログラムおよび色関連情報探索支援装置
KR102331342B1 (ko) * 2020-01-09 2021-11-24 신상현 어플리케이션의 오브젝트 색상을 커스터마이징 하는 방법 및 장치

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4689669A (en) * 1984-11-27 1987-08-25 Sony Corporation Color graphics data processing apparatus
JPS61292780A (ja) * 1985-06-20 1986-12-23 Fujitsu Ltd カラ−画像の色階調変換装置
US5761655A (en) * 1990-06-06 1998-06-02 Alphatronix, Inc. Image file storage and retrieval system
JPH05274372A (ja) * 1992-03-25 1993-10-22 Mitsubishi Electric Corp 画像の特徴色自動付加装置
JPH0816789A (ja) * 1994-07-05 1996-01-19 Kajima Corp 景観の色彩判定方法

Also Published As

Publication number Publication date
US5995087A (en) 1999-11-30
JPH10143670A (ja) 1998-05-29

Similar Documents

Publication Publication Date Title
JP3747589B2 (ja) 画像特徴量比較装置および画像特徴量比較プログラムを記録した記録媒体
US7602968B2 (en) Overlaid graphical user interface and method for image processing
JP4120724B2 (ja) 画像データ管理装置、画像データ管理方法および画像データ管理プログラムを記録した媒体
JP3895492B2 (ja) 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
US6522329B1 (en) Image processing device and method for producing animated image data
US6140997A (en) Color feature extracting apparatus and method therefor capable of easily transforming a RGB color space into a color space close to human sense
KR100667663B1 (ko) 화상 처리 장치, 화상 처리 방법 및 그 프로그램을 기록한 컴퓨터 판독 가능한 기록매체
JP4329475B2 (ja) 装飾画像の選択
US20080232686A1 (en) Representative color extracting method and apparatus
EP0536894B1 (en) Image processing system and method providing improved automatic object selection
US4956704A (en) Image processing apparatus and methods for making a creative image from an original image
JP3726413B2 (ja) 画像処理装置及び記録媒体
EP0583055A2 (en) Image enhancement
US20050200923A1 (en) Image generation for editing and generating images by processing graphic data forming images
JP4966912B2 (ja) 線画処理装置、線画処理方法およびプログラム
JP3360948B2 (ja) 文書処理装置及び文書処理方法
JP2936599B2 (ja) カラー画像処理装置
JP3619685B2 (ja) 情報処理装置、情報処理方法、及び、記録媒体
JPH11238077A (ja) 画像検索装置及び方法並びに画像検索プログラムを記録する記録媒体
JPH07203230A (ja) カラー画像形成装置
JP4725683B2 (ja) 画像データ管理装置および画像データ管理プログラム
JP4586932B2 (ja) 画像データ管理装置、画像データ管理方法および画像データ管理プログラムを記録した媒体
EP1045343B1 (en) Rendering system
JP2008118671A (ja) 画像データ管理装置、画像データ管理方法および画像データ管理プログラム
JP2987169B2 (ja) 切抜きマスク作成方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050418

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050426

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20050527

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050622

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050622

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20050622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050919

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091007

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091007

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101007

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111007

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111007

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121007

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121007

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131007

Year of fee payment: 8

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees