JP2006012028A - 画像合成システムおよび画像合成プログラム、並びに画像合成方法 - Google Patents
画像合成システムおよび画像合成プログラム、並びに画像合成方法 Download PDFInfo
- Publication number
- JP2006012028A JP2006012028A JP2004191364A JP2004191364A JP2006012028A JP 2006012028 A JP2006012028 A JP 2006012028A JP 2004191364 A JP2004191364 A JP 2004191364A JP 2004191364 A JP2004191364 A JP 2004191364A JP 2006012028 A JP2006012028 A JP 2006012028A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image processing
- synthesis
- rule
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Preparing Plates And Mask In Photomechanical Process (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 画像処理装置100は、画像の加工ルールを目的情報と対応付けて登録した加工ルール登録DB18と、画像の合成ルールを登録した合成ルール登録DB22とを備える。合成結果の用途、方針、その他の目的に関する目的情報がユーザから入力されると、合成ルール登録DB22のなかから合成ルールを選択するとともに、入力した目的情報に基づいて加工ルール登録DB18のなかから加工ルールを選択する。そして、選択した加工ルールに基づいて合成元画像を加工して複数の加工画像を生成し、選択した合成ルールに基づいて複数の加工画像を合成する。
【選択図】 図1
Description
特許文献1記載の発明は、あらかじめセットされた原稿を読み取り画像データを生成する画像読取部と、画像読取部によって生成した画像データのうち、任意の1ページをテンプレート画像として記憶し、他のページの画像データと合成する画像合成部と、画像合成部によって合成した画像データを出力する画像出力部とで構成されている。
また、従来例3にあっては、ユーザが与えたキーワードに基づいて画像処理を行うようになっているので、デザイン知識を有しないユーザであってもある程度見栄えのよいデザインを実現することができる。しかしながら、キーワードによる画像処理は、あくまで単一の画像について行われるものであり、複数の画像を合成してデザインドキュメントを作成する場合には、やはり高度なデザイン知識が要求される。したがって、デザインドキュメントを作成する場合、デザイン知識を有しないユーザでは、その用途や利用目的等に適したデザインを実現することができないばかりか、見栄えのよいデザインを実現することすら困難であるという問題があった。
画像を処理して合成する画像合成システムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得手段と、
合成元となる合成元画像を取得する合成元画像取得手段と、
画像を処理するルールを規定した画像処理ルールを前記目的情報と対応付けて記憶する画像処理ルール記憶手段と、
前記目的情報取得手段で取得した目的情報に基づいて、前記画像処理ルール記憶手段のなかから前記画像処理ルールを選択する画像処理ルール選択手段と、
前記画像処理ルール選択手段で選択した画像処理ルールに基づいて、前記合成元画像取得手段で取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理手段と、
前記合成元画像処理手段で生成した複数の処理画像を合成する処理画像合成手段とを備えることを特徴とする。
前記画像処理ルールは、与えられたパラメータに基づいて画像を処理するルールを規定したものであり、
前記合成元画像処理手段は、前記画像処理ルール選択手段で選択した画像処理ルールおよび異なる複数のパラメータに基づいて、前記合成元画像を処理して複数種の処理画像を生成するようになっていることを特徴とする。
これにより、異なる複数のパラメータを画像処理ルールに与えるだけで複数種の処理画像を生成することができるので、複数種の処理画像を比較的容易に生成することができるという効果が得られる。
さらに、画像の合成ルールを記憶する合成ルール記憶手段と、
前記合成ルール記憶手段のなかから前記合成ルールを選択する合成ルール選択手段とを備え、
前記処理画像合成手段は、前記合成ルール選択手段で選択した合成ルールに基づいて、前記複数の処理画像を合成するようになっていることを特徴とする。
これにより、デザイン知識に基づく合成ルールにより複数の処理画像が合成されるので、デザイン知識を有しないユーザであっても、さらに見栄えのよいデザインを実現することができるという効果が得られる。
さらに、前記合成元画像取得手段で取得した合成元画像から特定の処理領域を処理元画像として抽出する処理元画像抽出手段を備え、
前記合成元画像処理手段は、前記画像処理ルール選択手段で選択した画像処理ルールに基づいて、前記処理元画像抽出手段で抽出した処理元画像を処理して複数の処理画像を生成するようになっていることを特徴とする。
これにより、特定の領域をクローズアップした合成結果を得ることができるという効果が得られる。
前記特定の処理領域は、人物が映っている人物領域であることを特徴とする。
このような構成であれば、処理元画像抽出手段により、取得された合成元画像から人物領域が処理元画像として抽出される。
これにより、人物領域をクローズアップした合成結果を得ることができるという効果が得られる。
前記画像処理ルール記憶手段は、前記画像処理ルールを前記目的情報および重要度と対応付けて記憶するようになっており、
前記画像処理ルール選択手段は、前記目的情報取得手段で取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に前記画像処理ルール記憶手段のなかから選択するようになっていることを特徴とする。
これにより、画像処理ルールに対して適切な重要度を設定すれば、その重要度に応じた画像処理ルールが選択されるので、さらに見栄えのよいデザインを実現することができるという効果が得られる。
画像を処理して合成する画像合成システムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得手段と、
合成元となる合成元画像を取得する合成元画像取得手段と、
画像を処理するルールを規定した画像処理ルールを前記目的情報および重要度と対応付けて記憶する画像処理ルール記憶手段と、
前記目的情報取得手段で取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に前記画像処理ルール記憶手段のなかから選択する画像処理ルール選択手段と、
前記画像処理ルール選択手段で選択した画像処理ルールに基づいて、前記合成元画像取得手段で取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理手段と、
前記合成元画像処理手段で生成した複数の処理画像を合成する処理画像合成手段と、
前記処理画像合成手段で合成した合成画像を提示する合成画像提示手段と、
前記合成画像提示手段で提示した合成画像に対する評価結果を入力する評価結果入力手段と、
前記評価結果入力手段で入力した評価結果に基づいて前記画像処理ルール記憶手段の重要度を更新する重要度更新手段とを備えることを特徴とする。
これにより、デザイン知識に基づく画像処理ルールにより合成元画像が処理されるので、従来に比して、デザイン知識を有しないユーザであっても、比較的見栄えのよいデザインを実現することができるという効果が得られる。また、合成結果の用途、方針、その他の目的に対応する画像処理ルールにより合成元画像が処理されるので、従来に比して、デザイン知識を有しないユーザであっても、合成結果の用途、方針、その他の目的に比較的適したデザインを実現することができるという効果も得られる。さらに、合成画像に対する評価結果に基づいて重要度が更新されるので、更新を重ねるに連れて、さらに見栄えのよいデザインを実現することができるという効果も得られる。
前記合成画像提示手段は、異なる複数の前記画像処理ルールに基づいてそれぞれ合成された合成画像を提示するようになっており、
前記評価結果入力手段は、前記合成画像提示手段で提示した複数の合成画像のなかからいずれかの選択を入力するようになっており、
前記重要度更新手段は、前記評価結果入力手段で選択された合成画像に使用された画像処理ルールに対応する重要度を更新するようになっていることを特徴とする。
画像を処理して合成する画像合成プログラムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
前記目的情報取得ステップで取得した目的情報に基づいて、画像を処理するルールを規定した画像処理ルールを前記目的情報と対応付けて記憶した画像処理ルール記憶手段のなかから前記画像処理ルールを選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップとをコンピュータに実行させるためのプログラムであることを特徴とする。
ここで、合成元画像処理ステップは、画像処理ルールに基づいて合成元画像を処理して複数の処理画像を生成すればどのような形態であってもよく、例えば、取得された合成元画像が1つである場合は、その合成元画像を複数複製し、それら合成元画像をそれぞれ処理して複数の処理画像を生成してもよいし、取得された合成元画像が複数である場合は、それら合成元画像をそれぞれ処理して複数の処理画像を生成してもよい。また、後者の場合、合成元画像の枚数をn(nは2以上の整数)、処理画像の枚数をm(mは2以上の整数)としたとき、例えば、n<mの場合は、n=mとなるように、いずれかの合成元画像を複数複製し、n>mの場合は、n=mとなるように、いずれかの合成元画像を破棄するか、いずれかの合成元画像同士を合成して1つに統合することができる。以下、発明15の画像合成プログラム、並びに発明17および23の画像合成方法において同じである。
前記画像処理ルールは、与えられたパラメータに基づいて画像を処理するルールを規定したものであり、
前記合成元画像処理ステップは、前記画像処理ルール選択ステップで選択した画像処理ルールおよび異なる複数のパラメータに基づいて、前記合成元画像を処理して複数種の処理画像を生成することを特徴とする。
さらに、画像の合成ルールを記憶した合成ルール記憶手段のなかから前記合成ルールを選択する合成ルール選択ステップをコンピュータに実行させるためのプログラムを含み、
前記処理画像合成ステップは、前記合成ルール選択ステップで選択した合成ルールに基づいて、前記複数の処理画像を合成することを特徴とする。
さらに、前記合成元画像取得ステップで取得した合成元画像から特定の処理領域を処理元画像として抽出する処理元画像抽出ステップをコンピュータに実行させるためのプログラムを含み、
前記合成元画像処理ステップは、前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記処理元画像抽出ステップで抽出した処理元画像を処理して複数の処理画像を生成することを特徴とする。
前記特定の処理領域は、人物が映っている人物領域であることを特徴とする。
このような構成であれば、コンピュータによってプログラムが読み取られ、読み取られたプログラムに従ってコンピュータが処理を実行すると、発明5の画像合成システムと同等の作用および効果が得られる。
前記画像処理ルール記憶手段は、前記画像処理ルールを前記目的情報および重要度と対応付けて記憶し、
前記画像処理ルール選択ステップは、前記目的情報取得ステップで取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に前記画像処理ルール記憶手段のなかから選択することを特徴とする。
画像を処理して合成する画像合成プログラムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
画像を処理するルールを規定した画像処理ルールを前記目的情報および重要度と対応付けて記憶した画像処理ルール記憶手段のなかから、前記目的情報取得ステップで取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップと、
前記処理画像合成ステップで合成した合成画像を提示する合成画像提示ステップと、
前記合成画像提示ステップで提示した合成画像に対する評価結果を入力する評価結果入力ステップと、
前記評価結果入力ステップで入力した評価結果に基づいて前記画像処理ルール記憶手段の重要度を更新する重要度更新ステップとをコンピュータに実行させるためのプログラムであることを特徴とする。
前記合成画像提示ステップは、異なる複数の前記画像処理ルールに基づいてそれぞれ合成された合成画像を提示し、
前記評価結果入力ステップは、前記合成画像提示ステップで提示した複数の合成画像のなかからいずれかの選択を入力し、
前記重要度更新ステップは、前記評価結果入力ステップで選択された合成画像に使用された画像処理ルールに対応する重要度を更新することを特徴とする。
画像を処理して合成する画像合成方法であって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
前記目的情報取得ステップで取得した目的情報に基づいて、画像を処理するルールを規定した画像処理ルールを前記目的情報と対応付けて記憶した画像処理ルール記憶手段のなかから前記画像処理ルールを選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップとを含むことを特徴とする。
これにより、発明1の画像合成システムと同等の効果が得られる。
前記画像処理ルールは、与えられたパラメータに基づいて画像を処理するルールを規定したものであり、
前記合成元画像処理ステップは、前記画像処理ルール選択ステップで選択した画像処理ルールおよび異なる複数のパラメータに基づいて、前記合成元画像を処理して複数種の処理画像を生成することを特徴とする。
これにより、発明2の画像合成システムと同等の効果が得られる。
さらに、画像の合成ルールを記憶した合成ルール記憶手段のなかから前記合成ルールを選択する合成ルール選択ステップを含み、
前記処理画像合成ステップは、前記合成ルール選択ステップで選択した合成ルールに基づいて、前記複数の処理画像を合成することを特徴とする。
これにより、発明3の画像合成システムと同等の効果が得られる。
さらに、前記合成元画像取得ステップで取得した合成元画像から特定の処理領域を処理元画像として抽出する処理元画像抽出ステップを含み、
前記合成元画像処理ステップは、前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記処理元画像抽出ステップで抽出した処理元画像を処理して複数の処理画像を生成することを特徴とする。
これにより、発明4の画像合成システムと同等の効果が得られる。
前記特定の処理領域は、人物が映っている人物領域であることを特徴とする。
これにより、発明5の画像合成システムと同等の効果が得られる。
前記画像処理ルール記憶手段は、前記画像処理ルールを前記目的情報および重要度と対応付けて記憶し、
前記画像処理ルール選択ステップは、前記目的情報取得ステップで取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に前記画像処理ルール記憶手段のなかから選択することを特徴とする。
これにより、発明6の画像合成システムと同等の効果が得られる。
画像を処理して合成する画像合成方法であって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
画像を処理するルールを規定した画像処理ルールを前記目的情報および重要度と対応付けて記憶した画像処理ルール記憶手段のなかから、前記目的情報取得ステップで取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップと、
前記処理画像合成ステップで合成した合成画像を提示する合成画像提示ステップと、
前記合成画像提示ステップで提示した合成画像に対する評価結果を入力する評価結果入力ステップと、
前記評価結果入力ステップで入力した評価結果に基づいて前記画像処理ルール記憶手段の重要度を更新する重要度更新ステップとを含むことを特徴とする。
これにより、発明7の画像合成システムと同等の効果が得られる。
前記合成画像提示ステップは、異なる複数の前記画像処理ルールに基づいてそれぞれ合成された合成画像を提示し、
前記評価結果入力ステップは、前記合成画像提示ステップで提示した複数の合成画像のなかからいずれかの選択を入力し、
前記重要度更新ステップは、前記評価結果入力ステップで選択された合成画像に使用された画像処理ルールに対応する重要度を更新することを特徴とする。
これにより、発明8の画像合成システムと同等の効果が得られる。
まず、本発明を適用する画像処理装置100の機能概要を図1を参照しながら説明する。
画像処理装置100は、図1に示すように、複数の画像をデータとして登録した画像登録データベース(以下、データベースのことを単にDBと略記する。)10と、合成元となる合成元画像を画像登録DB10から取得する画像取得部12と、画像取得部12で取得した合成元画像から人物領域を加工元画像として抽出する人物領域抽出部14とを有して構成されている。
画像加工部26は、合成ルール選択部24で選択した合成ルールにより規定される合成必要枚数だけ加工元画像を複製し、加工ルール選択部20で選択した加工ルールおよび異なる複数のパラメータに基づいて、複製したそれら加工元画像をそれぞれ加工して複数の加工画像を生成する。
次に、画像処理装置100の構成を図2ないし図8を参照しながら説明する。
図2は、画像処理装置100のハードウェア構成を示すブロック図である。
画像処理装置100は、図2に示すように、制御プログラムに基づいて演算およびシステム全体を制御するCPU50と、所定領域にあらかじめCPU50の制御プログラム等を格納しているROM52と、ROM52等から読み出したデータやCPU50の演算過程で必要な演算結果を格納するためのRAM54と、外部装置に対してデータの入出力を媒介するI/F58とで構成されており、これらは、データを転送するための信号線であるバス59で相互にかつデータ授受可能に接続されている。
次に、加工ルール登録DB18のデータ構造を図3ないし図5を参照しながら詳細に説明する。
図3は、加工ルール登録テーブル400のデータ構造を示す図である。
加工ルール登録テーブル400には、図3に示すように、各加工ルールごとに1つのレコードが登録されている。各レコードは、加工ルールに対して一意に割り当てられる加工ルールIDを登録したフィールド402と、加工ルールである画像処理関数を登録したフィールド404と、加工ルールの概要説明を登録したフィールド406とを含んで構成されている。
図4は、パラメータ登録テーブル420のデータ構造を示す図である。
パラメータ登録テーブル420には、図4に示すように、各パラメータごとに1つのレコードが登録されている。各レコードは、パラメータに対して一意に割り当てられるパラメータIDを登録したフィールド422と、加工ルールIDを登録したフィールド424と、パラメータを登録したフィールド426とを含んで構成されている。
図5は、組合設定登録テーブル440のデータ構造を示す図である。
組合設定登録テーブル440には、図5に示すように、加工ルールの各組み合わせ設定ごとに1つのレコードが登録されている。各レコードは、複数の加工ルールIDを組み合わせ設定として登録したフィールド442と、目的情報を登録したフィールド444とを含んで構成されている。フィールド444は、さらに、合成結果を提供する対象者(ターゲット)を登録したフィールド446と、合成結果の用途または利用目的を登録したフィールド448と、合成結果の使用箇所を登録したフィールド450とを含んで構成されている。
合成ルール登録DB22は、合成ルールを登録した合成ルール登録テーブル460を格納している。
図6は、合成ルール登録テーブル460のデータ構造を示す図である。
図7は、テンプレート480の概略的な構成を示す図である。
テンプレート480は、例えば、図7に示すように、画像格納枠484,486の一部を重ね合わせてレイアウト領域482の右上に配置し、画像格納枠488,490の一部を重ね合わせてレイアウト領域482の左下に配置したレイアウトを規定している。画像格納枠484,486の重複部分では、画像格納枠484が前面に位置し、画像格納枠488,490の重複部分では、画像格納枠488が前面に位置している。
次に、CPU50で実行される処理を図8を参照しながら説明する。
CPU50は、マイクロプロセッシングユニット等からなり、ROM52の所定領域に格納されている所定のプログラムを起動させ、そのプログラムに従って、図8のフローチャートに示す画像合成処理を実行するようになっている。
画像合成処理は、合成元画像を加工して合成する処理であって、CPU50において実行されると、図8に示すように、まず、ステップS102に移行するようになっている。
ステップS102では、目的情報の一覧を表示装置62に表示してそのなかからいずれかを選択すべきことをユーザに促し、目的情報を入力装置60から入力し、ステップS104に移行して、画像登録DB10から合成元画像を取得し、ステップS106に移行する。
ステップS124では、選択合成ルールにより規定される背景画像を画像登録DB10から読み出し、ステップS126に移行して、読み出したテンプレートに従って、読み出した画像を背景画像として割り当て、ステップS128に移行して、読み出したテンプレートに従って、生成した複数の加工画像を合成して合成画像を生成し、ステップS130に移行して、生成した合成画像を表示装置62に表示し、一連の処理を終了して元の処理に復帰させる。
一方、ステップS118で、選択合成ルールにより規定される合成必要枚数に相当する回数だけ、ステップS114,S116の処理を繰り返していないと判定したとき(No)は、ステップS114に移行する。
画像処理装置100では、ステップS102を経て、目的情報の一覧が表示されてそのなかからいずれかを選択すべきことがユーザに促される。ここで、ユーザは、ターゲットとして「一般向け」を、用途または利用目的として「カタログ」を、使用箇所として「付加画像」を選択したとする。
次いで、ステップS104を経て、画像登録DB10から合成元画像が取得される。例えば、図9に示すように、左半分の領域に人物が映った画像500が取得されたとする。
図10は、加工元画像502を示す図である。
次いで、ステップS106を経て、取得された合成元画像500から人物領域が加工元画像として抽出される。合成元画像500では、左半分の領域に人物が映っているので、図10に示すように、左半分の領域が加工元画像502として抽出される。
次いで、入力された目的情報が「一般向け」、「カタログ」および「付加画像」であるので、ステップS110を経て、図5の組み合わせ設定のうちこれに該当するものとして組み合わせ設定「加工1&加工2」が組合設定登録テーブル440から読み出される。そして、ステップS112を経て、読み出された組み合わせ設定に基づいて、加工ルール1,2が加工ルール登録テーブル400から読み出される。また、選択合成ルール1には合成必要枚数として「4」が規定されているので、ステップS113を経て、加工元画像502が4枚複製される。
次いで、ステップS114,S116を繰り返し経て、読み出された組み合わせ設定に基づいて、加工ルール1,2に与えるパラメータがパラメータ登録テーブル420から読み出され、読み出された加工ルール1,2および読み出されたパラメータに基づいて、複製された複数の加工元画像502がそれぞれ加工されて加工画像が生成される。この場合、加工元画像502が4枚であるので、加工ルール1,2により4枚の加工元画像502がそれぞれ加工される。
また、加工ルール1およびパラメータ3、並びに加工ルール2およびパラメータ6に基づいて3枚目の加工元画像が加工されて加工画像510が生成される。これにより、時計回りに90°回転した後、右下から左上に向けて白色からグレーに変化するようにグラデーションが施される。
図12は、合成画像514を示す図である。
これにより、デザイン知識に基づく加工ルールにより合成元画像が加工されるので、従来に比して、デザイン知識を有しないユーザであっても、比較的見栄えのよいデザインを実現することができる。また、合成結果の用途、方針、その他の目的に対応する加工ルールにより合成元画像が加工されるので、従来に比して、デザイン知識を有しないユーザであっても、合成結果の用途、方針、その他の目的に比較的適したデザインを実現することができる。
これにより、異なる複数のパラメータを加工ルールに与えるだけで複数種の加工画像を生成することができるので、複数種の加工画像を比較的容易に生成することができる。
さらに、本実施の形態では、合成ルール登録DB22のなかから合成ルールを選択し、選択した合成ルールに基づいて複数の加工画像を合成するようになっている。
さらに、本実施の形態では、合成元画像から人物領域を加工元画像として抽出し、選択加工ルールに基づいて加工元画像を加工して複数の加工画像を生成するようになっている。
上記第1の実施の形態において、加工ルール登録DB18は、発明1、9または17の画像処理ルール記憶手段に対応し、合成ルール登録DB22は、発明3、11または19の合成ルール記憶手段に対応し、目的情報入力部16、入力装置60およびステップS102は、発明1の目的情報取得手段に対応している。また、ステップS102は、発明9または17の目的情報取得ステップに対応し、画像取得部12およびステップS104は、発明1または4の合成元画像取得手段に対応し、ステップS104は、発明9、12、17または20の合成元画像取得ステップに対応している。
本実施の形態は、本発明に係る画像合成システムおよび画像合成プログラム、並びに画像合成方法を、合成元画像を加工して合成する場合について適用したものであり、上記第1の実施の形態と異なるのは、表示した合成画像に対するユーザの評価結果を入力し、入力した評価結果をフィードバックして加工ルールおよびパラメータの選択に反映する点にある。なお、以下、上記第1の実施の形態と異なる部分についてのみ説明し、上記第1の実施の形態と重複する部分については同一の符号を付して説明を省略する。
図13は、画像処理装置100の機能概要を示す機能ブロック図である。
画像処理装置100は、図13に示すように、画像登録DB10、画像取得部12、人物領域抽出部14、目的情報入力部16、合成ルール登録DB22、合成ルール選択部24、画像加工部26および画像合成部28を有して構成されている。
画像処理装置100は、さらに、ユーザに提示する合成画像の枚数(以下、提示枚数という。)を入力する提示枚数入力部34と、画像合成部28で生成した合成画像を表示する画像表示部36とを有して構成されている。
画像処理装置100は、さらに、画像表示部36で表示した合成画像に対する評価結果を入力する評価結果入力部38と、評価結果入力部38で入力した評価結果に基づいて加工ルール登録DB30の重要度を更新する重要度更新部40とを有して構成されている。
重要度更新部40は、評価結果入力部38で選択された合成画像に使用された加工ルールに対応する重要度を更新する。
次に、パラメータ登録テーブル420のデータ構造を図14を参照しながら説明する。
パラメータ登録テーブル420には、図14に示すように、各パラメータごとに1つのレコードが登録されている。各レコードは、フィールド422〜426と、重要度を登録したフィールド428とを含んで構成されている。重要度は、合成画像に対するユーザの評価結果に基づいて更新される。
次に、組合設定登録テーブル440のデータ構造を図15を参照しながら説明する。
図15は、組合設定登録テーブル440のデータ構造を示す図である。
図15の例では、第1段目のレコードには、組み合わせ設定として「加工1&加工2」が、重要度として「0.3」がそれぞれ登録されている。これは、組み合わせ設定「加工1&加工2」の重要度が現在「0.3」であることを示している。
CPU50は、ROM52の所定領域に格納されている所定のプログラムを起動させ、図8のフローチャートに示す画像合成処理に代えて、図16および図17の画像合成処理および重要度更新処理をそれぞれ時分割で実行するようになっている。
初めに、画像合成処理を図16を参照しながら説明する。
画像合成処理は、合成元画像を加工して合成する処理であって、CPU50において実行されると、図16に示すように、まず、ステップS200に移行するようになっている。
ステップS200では、提示枚数を入力装置60から入力し、ステップS202に移行して、目的情報の一覧を表示装置62に表示してそのなかからいずれかを選択すべきことをユーザに促し、目的情報を入力装置60から入力し、ステップS204に移行する。
ステップS210では、入力した目的情報に対応する組み合わせ設定を組合設定登録テーブル440から読み出す。このとき、入力した目的情報に対応する組み合わせ設定が複数存在するときは、それらの組み合わせ設定のうち、既に選択されたものを除き、重要度が最も大きい組み合わせ設定を組合設定登録テーブル440から読み出す。
ステップS214では、読み出した組み合わせ設定に含まれる加工ルールIDに対応するパラメータをパラメータ登録テーブル420から読み出す。このとき、加工ルールIDに対応するパラメータが複数存在するときは、それらのパラメータのうち、既に選択されたものを除き、重要度が大きいものから順に必要なパラメータをパラメータ登録テーブル420から読み出す。
ステップS224では、選択合成ルールにより規定される背景画像を画像登録DB10から読み出し、ステップS226に移行して、読み出したテンプレートに従って、読み出した画像を背景画像として割り当て、ステップS228に移行して、読み出したテンプレートに従って、生成した複数の加工画像を合成して合成画像を生成し、ステップS230に移行して、生成した合成画像を表示装置62に表示し、ステップS232に移行する。
一方、ステップS232で、入力した提示枚数に相当する回数だけ、ステップS208〜S230の処理を繰り返していないと判定したとき(No)は、ステップS208に移行する。
一方、ステップS218で、選択合成ルールにより規定される合成必要枚数に相当する回数だけ、ステップS214,S216の処理を繰り返していないと判定したとき(No)は、ステップS214に移行する。
図17は、重要度更新処理を示すフローチャートである。
重要度更新処理は、合成画像に対するユーザの評価結果に基づいて、パラメータ登録テーブル420および組合設定登録テーブル440の重要度を更新する処理であって、CPU50において実行されると、図17に示すように、まず、ステップS300に移行するようになっている。
ステップS302では、選択された合成画像に使用された組み合わせ設定を特定し、ステップS304に移行して、組合設定登録テーブル440において、特定された組み合わせ設定に対応する重要度を更新する。特定された組み合わせ設定に対応する重要度をP(X)、組合設定登録テーブル440の重要度のうちP(X)以外のものをP(Yn)、組合設定登録テーブル440のレコード数をN、重み付け係数をαとすると、更新後の重要度P(X)’およびP(Yn)’は、下式(1),(2)により算出することができる。
P’(X)=α×P(X) …(1)
P’(Yn)=P(Yn)−(P(X)’−P(X))/(N−1) …(2)
次いで、ステップS306に移行して、選択された合成画像に使用されたパラメータを特定し、ステップS308に移行して、パラメータ登録テーブル420において、特定されたパラメータに対応する重要度を更新する。特定されたパラメータに対応する重要度をP(X)、パラメータ登録テーブル420の重要度のうちP(X)以外のものをP(Yn)、パラメータ登録テーブル420のレコード数をN、重み付け係数をαとすると、更新後の重要度P(X)’およびP(Yn)’は、上式(1),(2)により算出することができる。
次に、本実施の形態の動作を図18および図19を参照しながら説明する。
まず、ユーザは、画像処理装置100において提示枚数および目的情報を入力する。
画像処理装置100では、提示枚数および目的情報が入力されると、ステップS204〜S208を経て、画像登録DB10から合成元画像が取得され、取得された合成元画像から人物領域が加工元画像として抽出され、合成ルール登録テーブル460のなかから合成ルールが選択される。
図18は、合成画像516,518を示す図である。
画像処理装置100では、ステップS300を経て、表示された合成画像のなかからいずれか1つを選択すべきことがユーザに促される。ここで、ユーザは、自己のイメージするデザインに適合した合成画像を選択する。
画像処理装置100では、合成画像が選択されると、ステップS302,S304を経て、選択された合成画像に使用された組み合わせ設定が特定され、組合設定登録テーブル440において、特定された組み合わせ設定に対応する重要度が更新される。例えば、図19(a)に示すように、組合設定登録テーブル440に4つのレコードが登録され、各レコードの重要度がそれぞれ「0.3」、「0.25」、「0.25」および「0.2」であるとする。そして、選択された合成画像に使用された組み合わせ設定が「加工1&加工2」であるとすると、更新後の重要度P’(1)〜P’(4)は、重み付け係数αを「1.5」とした場合、下式(3)〜(6)により算出される。
P’(1)=1.5×0.3=0.45 …(3)
P’(2)=0.25−(0.45−0.3)/3=0.2 …(4)
P’(3)=0.25−(0.45−0.3)/3=0.2 …(5)
P’(4)=0.2−(0.45−0.3)/3=0.15 …(6)
したがって、組合設定登録テーブル440の重要度は、図19(b)に示すように、「0.45」、「0.2」、「0.2」および「0.15」に更新される。
このようにして、本実施の形態では、合成結果の用途、方針、その他の目的に関する目的情報を入力し、入力した目的情報に対応する加工ルールのうち重要度が大きいものほど優先的に加工ルール登録DB30のなかから選択し、選択加工ルールに基づいて合成元画像を加工して複数の加工画像を生成し、生成した複数の加工画像を合成し、合成した合成画像を表示し、表示した合成画像に対する評価結果を入力し、入力した評価結果に基づいて加工ルール登録DB30の重要度を更新するようになっている。
これにより、ユーザは、表示された複数の合成画像のなかからいずれか1つを選択するだけでよいので、合成画像に対する評価を比較的容易に行うことができる。また、選択された合成画像に使用された加工ルールおよびパラメータに対応する重要度が更新されるので、更新を重ねるに連れて、選択された合成画像と同じようなデザインの合成画像が生成されやすくなる。
また、上記第2の実施の形態においては、表示した複数の合成画像のなかからいずれか1つを選択するように構成したが、これに限らず、複数の合成画像を選択するように構成することもできる。この場合、1番初めに選択された合成画像については、これに使用された組み合わせ設定およびパラメータに対応する重要度を算出する際の重み付け係数αを大きくし、2番目、3番目の合成画像については、重み付け係数αを徐々に小さくするように構成してもよい。さらに、単に合成画像を選択するだけでなく、合成画像を選択する際に100点満点中何点かを併せて入力し、入力した点数に応じて重み付け係数αを変更するように構成してもよい。
図21は、組合設定登録テーブル440のデータ構造を示す図である。
この場合、組合設定登録テーブル440には、図21に示すように、合成元画像の分類属性が風景画像であるときの重要度を登録したフィールド455と、合成元画像の分類属性が動物画像であるときの重要度を登録したフィールド456と、合成元画像の分類属性が人物画像であるときの重要度を登録したフィールド457とが追加される。
ステップS210では、入力した目的情報に対応する組み合わせ設定を組合設定登録テーブル440から読み出す。このとき、入力した目的情報に対応する組み合わせ設定が複数存在するときは、合成元画像の分類属性を判定し、それらの組み合わせ設定のうち、既に選択されたものを除き、判定した分類属性に対応する重要度が最も大きい組み合わせ設定を組合設定登録テーブル440から読み出す。
また、上記第2の実施の形態においては、入力した目的情報に対応する組み合わせ設定が複数存在するときは、重要度の高い組み合わせ設定を組合設定登録テーブル440から読み出すように構成したが、さらに、同一の重要度となる組み合わせ設定が複数存在するときは、それら組み合わせ設定のうちいずれか1つをランダムまたは所定の優先順位(例えば、組合設定登録テーブル440に登録されている順)で組合設定登録テーブル440から読み出すように構成することもできる。
また、上記第1および第2の実施の形態においては、合成元画像から抽出した人物領域を加工するように構成したが、これに限らず、例えば、合成元画像を人の顔領域と動物領域の2つの領域に区分し、それぞれの部分領域に対して別々の加工を行ってから合成するように構成することもできる。
また、上記第1および第2の実施の形態においては、画像登録DB10、加工ルール登録DB18,30および合成ルール登録DB22を画像処理装置100の外部装置として設けたが、これに限らず、画像登録DB10、加工ルール登録DB18,30または合成ルール登録DB22をネットワーク上の任意の端末に設け、画像処理装置100とそれら端末とをネットワークで接続し、画像処理装置100がそれら端末のDB10,18,22,30を利用するように構成することもできる。
Claims (12)
- 画像を処理して合成する画像合成システムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得手段と、
合成元となる合成元画像を取得する合成元画像取得手段と、
画像を処理するルールを規定した画像処理ルールを前記目的情報と対応付けて記憶する画像処理ルール記憶手段と、
前記目的情報取得手段で取得した目的情報に基づいて、前記画像処理ルール記憶手段のなかから前記画像処理ルールを選択する画像処理ルール選択手段と、
前記画像処理ルール選択手段で選択した画像処理ルールに基づいて、前記合成元画像取得手段で取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理手段と、
前記合成元画像処理手段で生成した複数の処理画像を合成する処理画像合成手段とを備えることを特徴とする画像合成システム。 - 請求項1において、
前記画像処理ルールは、与えられたパラメータに基づいて画像を処理するルールを規定したものであり、
前記合成元画像処理手段は、前記画像処理ルール選択手段で選択した画像処理ルールおよび異なる複数のパラメータに基づいて、前記合成元画像を処理して複数種の処理画像を生成するようになっていることを特徴とする画像合成システム。 - 請求項1および2のいずれか1項において、
さらに、画像の合成ルールを記憶する合成ルール記憶手段と、
前記合成ルール記憶手段のなかから前記合成ルールを選択する合成ルール選択手段とを備え、
前記処理画像合成手段は、前記合成ルール選択手段で選択した合成ルールに基づいて、前記複数の処理画像を合成するようになっていることを特徴とする画像合成システム。 - 請求項1ないし3のいずれか1項において、
さらに、前記合成元画像取得手段で取得した合成元画像から特定の処理領域を処理元画像として抽出する処理元画像抽出手段を備え、
前記合成元画像処理手段は、前記画像処理ルール選択手段で選択した画像処理ルールに基づいて、前記処理元画像抽出手段で抽出した処理元画像を処理して複数の処理画像を生成するようになっていることを特徴とする画像合成システム。 - 請求項4において、
前記特定の処理領域は、人物が映っている人物領域であることを特徴とする画像合成システム。 - 請求項1ないし5のいずれか1項において、
前記画像処理ルール記憶手段は、前記画像処理ルールを前記目的情報および重要度と対応付けて記憶するようになっており、
前記画像処理ルール選択手段は、前記目的情報取得手段で取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に前記画像処理ルール記憶手段のなかから選択するようになっていることを特徴とする画像合成システム。 - 画像を処理して合成する画像合成システムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得手段と、
合成元となる合成元画像を取得する合成元画像取得手段と、
画像を処理するルールを規定した画像処理ルールを前記目的情報および重要度と対応付けて記憶する画像処理ルール記憶手段と、
前記目的情報取得手段で取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に前記画像処理ルール記憶手段のなかから選択する画像処理ルール選択手段と、
前記画像処理ルール選択手段で選択した画像処理ルールに基づいて、前記合成元画像取得手段で取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理手段と、
前記合成元画像処理手段で生成した複数の処理画像を合成する処理画像合成手段と、
前記処理画像合成手段で合成した合成画像を提示する合成画像提示手段と、
前記合成画像提示手段で提示した合成画像に対する評価結果を入力する評価結果入力手段と、
前記評価結果入力手段で入力した評価結果に基づいて前記画像処理ルール記憶手段の重要度を更新する重要度更新手段とを備えることを特徴とする画像合成システム。 - 請求項7において、
前記合成画像提示手段は、異なる複数の前記画像処理ルールに基づいてそれぞれ合成された合成画像を提示するようになっており、
前記評価結果入力手段は、前記合成画像提示手段で提示した複数の合成画像のなかからいずれかの選択を入力するようになっており、
前記重要度更新手段は、前記評価結果入力手段で選択された合成画像に使用された画像処理ルールに対応する重要度を更新するようになっていることを特徴とする画像合成システム。 - 画像を処理して合成する画像合成プログラムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
前記目的情報取得ステップで取得した目的情報に基づいて、画像を処理するルールを規定した画像処理ルールを前記目的情報と対応付けて記憶した画像処理ルール記憶手段のなかから前記画像処理ルールを選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップとをコンピュータに実行させるためのプログラムであることを特徴とする画像合成プログラム。 - 画像を処理して合成する画像合成プログラムであって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
画像を処理するルールを規定した画像処理ルールを前記目的情報および重要度と対応付けて記憶した画像処理ルール記憶手段のなかから、前記目的情報取得ステップで取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップと、
前記処理画像合成ステップで合成した合成画像を提示する合成画像提示ステップと、
前記合成画像提示ステップで提示した合成画像に対する評価結果を入力する評価結果入力ステップと、
前記評価結果入力ステップで入力した評価結果に基づいて前記画像処理ルール記憶手段の重要度を更新する重要度更新ステップとをコンピュータに実行させるためのプログラムであることを特徴とする画像合成プログラム。 - 画像を処理して合成する画像合成方法であって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
前記目的情報取得ステップで取得した目的情報に基づいて、画像を処理するルールを規定した画像処理ルールを前記目的情報と対応付けて記憶した画像処理ルール記憶手段のなかから前記画像処理ルールを選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップとを含むことを特徴とする画像合成方法。 - 画像を処理して合成する画像合成方法であって、
合成結果の用途、方針、その他の目的に関する目的情報を取得する目的情報取得ステップと、
合成元となる合成元画像を取得する合成元画像取得ステップと、
画像を処理するルールを規定した画像処理ルールを前記目的情報および重要度と対応付けて記憶した画像処理ルール記憶手段のなかから、前記目的情報取得ステップで取得した目的情報に対応する画像処理ルールのうち前記重要度が大きいものほど優先的に選択する画像処理ルール選択ステップと、
前記画像処理ルール選択ステップで選択した画像処理ルールに基づいて、前記合成元画像取得ステップで取得した合成元画像を処理して複数の処理画像を生成する合成元画像処理ステップと、
前記合成元画像処理ステップで生成した複数の処理画像を合成する処理画像合成ステップと、
前記処理画像合成ステップで合成した合成画像を提示する合成画像提示ステップと、
前記合成画像提示ステップで提示した合成画像に対する評価結果を入力する評価結果入力ステップと、
前記評価結果入力ステップで入力した評価結果に基づいて前記画像処理ルール記憶手段の重要度を更新する重要度更新ステップとを含むことを特徴とする画像合成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004191364A JP4415378B2 (ja) | 2004-06-29 | 2004-06-29 | 画像合成システムおよび画像合成プログラム、並びに画像合成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004191364A JP4415378B2 (ja) | 2004-06-29 | 2004-06-29 | 画像合成システムおよび画像合成プログラム、並びに画像合成方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009231211A Division JP4525843B2 (ja) | 2009-10-05 | 2009-10-05 | 画像合成システムおよび画像合成プログラム、並びに画像合成方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2006012028A true JP2006012028A (ja) | 2006-01-12 |
JP4415378B2 JP4415378B2 (ja) | 2010-02-17 |
Family
ID=35779198
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004191364A Expired - Fee Related JP4415378B2 (ja) | 2004-06-29 | 2004-06-29 | 画像合成システムおよび画像合成プログラム、並びに画像合成方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4415378B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007264965A (ja) * | 2006-03-28 | 2007-10-11 | Seiko Epson Corp | ディジタルコンテンツ作成システムおよびディジタルコンテンツ作成プログラム、並びにディジタルコンテンツ作成方法 |
JP2008134696A (ja) * | 2006-11-27 | 2008-06-12 | Fuji Xerox Co Ltd | 情報処理システムおよび情報処理プログラム |
JP2018018137A (ja) * | 2016-07-25 | 2018-02-01 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、プログラムおよび記録媒体 |
-
2004
- 2004-06-29 JP JP2004191364A patent/JP4415378B2/ja not_active Expired - Fee Related
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007264965A (ja) * | 2006-03-28 | 2007-10-11 | Seiko Epson Corp | ディジタルコンテンツ作成システムおよびディジタルコンテンツ作成プログラム、並びにディジタルコンテンツ作成方法 |
JP2008134696A (ja) * | 2006-11-27 | 2008-06-12 | Fuji Xerox Co Ltd | 情報処理システムおよび情報処理プログラム |
JP2018018137A (ja) * | 2016-07-25 | 2018-02-01 | 富士フイルム株式会社 | 画像処理装置、画像処理方法、プログラムおよび記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP4415378B2 (ja) | 2010-02-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hughes et al. | Generative adversarial networks–enabled human–artificial intelligence collaborative applications for creative and design industries: A systematic review of current approaches and trends | |
US10867416B2 (en) | Harmonizing composite images using deep learning | |
US10049308B1 (en) | Synthesizing training data | |
US8380005B1 (en) | System and method for image composition using non-destructive editing model and fast gradient solver | |
US20200242822A1 (en) | Digital Media Environment for Style-Aware Patching in a Digital Image | |
CN108537859A (zh) | 使用深度学习的图像蒙板 | |
CN110009721A (zh) | 生成由曲线表示的图像的三角网格 | |
CN110119688A (zh) | 一种利用视觉注意力协同网络的图像情感分类方法 | |
JP2006048633A (ja) | 画像検索システム、画像検索プログラムおよび記憶媒体、並びに画像検索方法 | |
US10909423B2 (en) | Generating training data for machine learning classifier | |
US20150379906A1 (en) | Systems and methods for rule-based animated content optimization | |
CN111352623B (zh) | 页面生成方法及装置 | |
CN103718146A (zh) | 信息处理装置和信息处理方法 | |
JP4415378B2 (ja) | 画像合成システムおよび画像合成プログラム、並びに画像合成方法 | |
Weber Reuschel et al. | Data-driven expansion of dense regions–A cartographic approach in literary geography | |
JP4525843B2 (ja) | 画像合成システムおよび画像合成プログラム、並びに画像合成方法 | |
US20230296398A1 (en) | Transforming and navigating historical map images | |
Mueller et al. | Can computers master the art of communication?: A focus on visual analytics | |
Jahanian | Quantifying aesthetics of visual design applied to automatic design | |
Gibin et al. | Collaborative mapping of London using google maps: the LondonProfiler | |
US20240264716A1 (en) | Artificial reality family history experience | |
Zhai | Research and Implementation of Colour Optimal Matching Model for Art Design Based on Bayesian Decision‐Making | |
JP5775241B1 (ja) | 情報処理システム、情報処理方法、および情報処理プログラム | |
US12086914B2 (en) | Graphical user interface for presenting geographic boundary estimation | |
US20230419575A1 (en) | Information processing apparatus, control method therefor, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060915 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070403 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090902 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090908 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091005 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091102 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091115 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4415378 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121204 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131204 Year of fee payment: 4 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |