JP3729222B2 - Image design support device - Google Patents

Image design support device Download PDF

Info

Publication number
JP3729222B2
JP3729222B2 JP35561196A JP35561196A JP3729222B2 JP 3729222 B2 JP3729222 B2 JP 3729222B2 JP 35561196 A JP35561196 A JP 35561196A JP 35561196 A JP35561196 A JP 35561196A JP 3729222 B2 JP3729222 B2 JP 3729222B2
Authority
JP
Japan
Prior art keywords
image
impression
visual feature
group
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP35561196A
Other languages
Japanese (ja)
Other versions
JPH10188023A (en
Inventor
健 吉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP35561196A priority Critical patent/JP3729222B2/en
Publication of JPH10188023A publication Critical patent/JPH10188023A/en
Application granted granted Critical
Publication of JP3729222B2 publication Critical patent/JP3729222B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、パンフレットなどのドキュメントに必要な画像をデザインすることを支援する装置、特に画像デザイナーが画像データベースを利用して複数の画像から概念を形成し、仕様を決定する概念設計を効果的に支援し、デザインした画像の評価をすることを効果的に支援する装置に関する。
【0002】
【従来の技術】
DTP(デスクトップパブリッシング)の普及は目覚しく、小さなオフィスや個人でも利用できるようになって、パンフレット、カタログ、雑誌などもDTPで作成されるようになってきたが、これらのドキュメントでは、読み手に効果的に意図を伝えるために、画像のデザインが重要である。
【0003】
また、最近は、デジタルカメラなどで撮影した画像を簡単にコンピュータ上に入力し、Photoshopなどの画像編集ソフトを利用してトリミングやトーン補正などを行ったり、Illustratorなどを利用してイラストを作成することによって、ソフトウェア上で簡単に画像デザインが行えるようになってきた。
【0004】
しかし、一般の画像作成者にとっては、選択可能な処理が多数あるため、それぞれの処理の効果を十分理解できず、各種技法を効果的に利用できないという問題がある。すなわち、一般の画像作成者は、自分がデザインし、撮影し、収集した画像が読み手にどのような印象を与えるかを十分理解できないため、ソフトウェア上で行った処理によって自分の意図があいまいになったり、作成した画像が結果的に文字部分と反対の印象を与えてしまう場合が往々にして生じる。
【0005】
そのため、特開平5−250452号には、マテリアルライブラリファイルやテクスチャーライブラリファイルを用意して、画像の色、透明度、反射特性などの数値データを変更したり、テクスチャーの柄を変更して質感を変えたりすることが示されている。
【0006】
また、特開平8−30674号には、複数のイメージ画像データを蓄積した画像データベースと、それぞれの画像に対する属性データを蓄積したデザインファイルとを備え、それぞれの画像を、あらかじめ指定された「モダン」「トラディショナル」などで表される印象と、画像のモチーフなどのキーワードとによって分類し、その印象またはキーワードの類似性から2〜4個の画像を同時に提示させて、好みの画像を選択しながらデザイン仕様を決定できるようにしたものが示されている。
【0007】
そのほか、特開平4―266165号には、固有の製品に対する専門家知識のデータベースを用意して、画像作成者が希望イメージを形容詞としての評価用語で入力すると、その評価用語に一番近いデザイン要素を推論して画面上に表示することや、画像作成者が推論結果を希望イメージと違うと感じて修正評価用語を入力すると、その修正評価用語との関係が強いデザイン要素だけを推論して抽出し、その部分だけを修正可能にすることが示されている。
【0008】
【発明が解決しようとする課題】
画像をデザインする場合、デザイナは自分のイメージを確立するために画像を検索して、自分のイメージに近い画像を選択・収集したり、逆に反対のイメージを有する画像を選択・収集することがある。すなわち、このプロセスではデザイナは、画像を選択・収集することによって、意図を表現するために自分の感性を画像上にどう表現するか、検討している。
【0009】
そして、画像上に感性を表現する手法としては、モチーフとなる画像オブジェクトで表現するほか、画像全体の色調や構図、面や線などの構成要素の特徴(明るさのバランス、線の方向性、色の対比など)を利用するなど、様々なものがある。
【0010】
しかしながら、上記の特開平5−250452号、特開平8−30674号または特開平4―266165号に示された方法ないし装置では、画像モチーフとなる具象面に関して、テクスチャーなどの画像特徴やそれに対応する感性を言葉として表現し、画像オブジェクトに対して処理を施すことは可能であるが、画像全体の色調や構図または構成要素の特徴を利用して画像をデザインすることはできない。
【0011】
そのため、デザイン知識を持たない一般の画像デザイナが画像をデザインする場合には、画像全体の色調や構図につき適切な表現をとれず、部分的に質感やテクスチャーを変化させても意図を効果的に伝える印象を持つように画像全体をデザインできずに、ドキュメント中で画像が意味を持たなくなったり、ドキュメント全体の意図が不明確となってしまう。
【0012】
そこで、この発明は、ドキュメントに必要な画像をデザインすることを支援する装置において、一般の画像デザイナが意図を効果的に伝える印象を持つように画像全体をデザインすることができるようにしたものである。
【0018】
【課題を解決するための手段】
第1の発明の画像デザイン支援装置は
電子的な画像を蓄積した画像データベースと、
感性用語辞書と、
感性用語と視覚特徴ベクトルの関係を知識表現した専門家知識を蓄積した専門家知識データベースと、
画像デザイナがデザインしようとする画像の印象と一致する感性用語を入力する感性用語入力手段と、
その入力感性用語と上記感性用語辞書から、その入力感性用語に対する同義語を抽出する同義語抽出手段と、
その抽出された同義語と上記専門家知識データベースから、同義語についての視覚特徴ベクトル条件を抽出する専門家知識抽出手段と、
その抽出された、同義語についての視覚特徴ベクトル条件が適応可能な画像を、類似印象画像群に属する画像として、上記画像データベースから選択する画像検索手段と、
その類似印象画像群に属する画像を、それぞれ複数の領域に分割する画像分割手段と、
上記複数の領域のそれぞれについて物理的な特徴量を算出して、上記類似印象画像群に属する画像の視覚特徴ベクトルを計算する画像解析手段と、
上記類似印象画像群を、その視覚特徴ベクトルの属性によってコラージュとして、上記抽出された同義語とともに、表示するコラージュ作成手段と、
上記類似印象画像群に属する画像の視覚特徴ベクトルの属性と値を、上記抽出された、同義語についての視覚特徴ベクトル条件が記述されている専門家知識とともに、表示手段に提示する解析結果提示手段と、
を備えることを特徴とする
【0019】
第2の発明の画像デザイン支援装置は
電子的な画像を蓄積した画像データベースと、
感性用語辞書と、
感性用語と視覚特徴ベクトルの関係を知識表現した専門家知識を蓄積した専門家知識データベースと、
画像デザイナがデザインしようとする画像の印象と一致する感性用語を入力する感性用語入力手段と、
その入力感性用語と上記感性用語辞書から、その入力感性用語に対する同義語および反対語を抽出する同義語反対語抽出手段と、
その抽出された同義語および反対語と上記専門家知識データベースから、それぞれ同義語および反対語についての視覚特徴ベクトル条件を抽出する専門家知識抽出手段と、
その抽出された、それぞれ同義語および反対語についての視覚特徴ベクトル条件が適応可能な画像を、それぞれ類似印象画像群および対比印象画像群に属する画像として、上記画像データベースから選択する画像検索手段と、
その類似印象画像群および対比印象画像群に属する画像を、それぞれ複数の領域に分割する画像分割手段と、
上記複数の領域のそれぞれについて物理的な特徴量を算出して、上記類似印象画像群および対比印象画像群に属する画像の視覚特徴ベクトルを計算する画像解析手段と、
上記類似印象画像群および対比印象画像群を、それぞれの視覚特徴ベクトルの属性によってコラージュとして、上記抽出された同義語および反対語とともに、表示するコラージュ作成手段と、
上記類似印象画像群および対比印象画像群に属する画像の視覚特徴ベクトルの属性と値を、上記抽出された、同義語および反対語についての視覚特徴ベクトル条件が記述されている専門家知識とともに、表示手段に提示する解析結果提示手段と、
を備えることを特徴とする
【0025】
【作用】
上記の構成の第1または第2の発明の画像デザイン支援装置においては、画像デザイナがデザインしようとする画像の印象を言葉で入力することによって、その入力された言葉に対する同義語、または同義語および反対語が、感性用語辞書から抽出され、それに対応する類似印象画像群、または類似印象画像群および対比印象画像群が、画像データベースから選択され、その選択された類似印象画像群、または類似印象画像群および対比印象画像群が、コラージュとして、抽出された同義語、または同義語および反対語とともに、表示される。
【0026】
したがって、美術的センスの乏しい画像デザイナでも簡単に、画像をデザインする際の指針が得られる。また、デザイナが表示されたコラージュを検討することによって、自分の感性と専門家の感性との差を把握することができ、プロのデザイナでも自分のオリジナリティの確認が可能となる。
【0027】
【発明の実施の形態】
〔実施例1〕
図1は、この発明の画像デザイン支援装置の第1の例のシステム構成を示し、その画像デザイン支援装置は、入力部10、表示部20、画像解析部30、コラージュ画像作成部40および画像データベース50によって構成される。
【0028】
入力部10は、画像デザイナが画像データベース50から、自分がデザインしようとする画像と類似した印象を有する画像、または自分がデザインしようとする画像と反対の印象を有する画像を、選択・収集するための装置で、キーボード、マウスまたはタッチパネルなどの入力手段と、CRTディスプレイなどの表示手段によって構成される。
【0029】
表示部20は、文字や図形、またはメッセージなどを表示するための装置で、CRTディスプレイなどの表示手段、またはプリンタなどの印字手段によって構成される。
【0030】
画像解析部30は、デザイナが選択・収集した画像の属性を解析して、画像の視覚的特徴を計算するものであり、コラージュ画像作成部40は、その視覚的特徴からコラージュの要素となる画像の位置関係を計算して記憶するものである。
【0031】
画像データベース50は、電子的な各種の画像を蓄積したデータベースで、素材を撮影して得られた画像や過去にデザインした画像などが蓄積される。画像データベース50に蓄積される画像は、CIE・LやRGBなどの色空間で表現されたフルカラー画像とする。
【0032】
図4は、この実施例1の画像デザイン支援装置の、より具体的な構成例を示し、図中の矢印は処理の流れを示す。
【0033】
まず、画像デザイナは、画像入力手段11によって、画像データベース50に蓄積された画像を入力部10の表示手段に表示させて、自分がデザインしようとする画像と類似した印象を有する画像を選択・収集する。以下では、その選択・収集された、デザイナがデザインしようとする画像と類似した印象を有する複数の画像を、類似印象画像群と称する。図8(A)の画像番号A1〜A7で示す画像群は、その類似印象画像群の一例である。
【0034】
この類似印象画像群に属する画像は、画像分割手段31で、K平均アルゴリズムなどによって、それぞれ複数の領域に分割され、その複数の領域のそれぞれについて物理的な特徴量が算出されて、画像特徴テーブルに記憶される。算出・記憶される画像特徴量は、領域ごとの平均明度、平均彩度、平均色度、領域の重心、画素数、その領域に隣接する領域である。ただし、ここでの隣接領域は、ある指定方向から時計回り方向に隣接する領域をベクトルとして表現したものである。
【0035】
次に、画像解析手段33で、画像特徴テーブルから画像の視覚的な特徴量が算出されて、視覚特徴ベクトルに記憶される。算出・記憶される視覚特徴量は、明度平均、明るさのまとまり、明暗の対比、明暗のバランス、色度平均、色のまとまり、寒色暖色の対比、寒色暖色のバランス、彩度平均、彩度のまとまりである。視覚特徴ベクトルの各属性は、以下のように記号および内容を定義し、以下のように計算する。
【0036】
N:全領域数、Nn:領域nに含まれる画素数、
Vn,Hn,Cn(0≦Vn,Hn,Cn<1):領域nの明度平均、色度平均、彩度平均、
x:画像の縦方向における画素数の1/2、y:画像の横方向における画素数の1/2、
(Xn,Yn):画像中心を原点とする領域nの重心座標を、それぞれ上記x,yで除して、その商から1を引いたもの。なお、Σは、1からnまでについての総和を示す。
【0037】
まず、明度平均、明るさのまとまり、明暗の対比、および明暗のバランスを定義する。
【0038】
明度平均Lp=ΣVn×Nn/N …(1)
明るさのまとまりLt
=1−(Σ{(Vn−Lp)×Nn}/N)1/2 …(2)
暗さ強さLh=Σ(f(Vn)×Vn×Nn) …(3)
暗さ中心(Xh,Yh)
=(Σ(f(Vn)×Nn×Xn)/Σ(f(Vn)×Nn),
Σ(f(Vn)×Nn×Yn)/Σ(f(Vn)×Nn))…(4)

Figure 0003729222
明るさ強さLl=Σ(g(Vn)×Nn) …(6)
明るさ中心(Xl,Yl)
=(Σ(g(Vn)×Nn×Xn)/Σ(g(Vn)×Nn),
Σ(g(Vn)×Nn×Yn)/Σ(g(Vn)×Nn))…(7)
Figure 0003729222
明るさ中心と暗さ中心の距離Dlh
=((Xl−Xh)+(Yl−Yh)1/2 …(9)
暗さ中心から明るさ中心の方向θlh
=π/2−tan−1((Yl−Yh)/(Xl−Xh)) …(10)
明暗の対比Lco=(Ll−Lh)/N …(11)
明暗のバランスLb
=k1×Dlh+(1−k1)/π×2×θlh …(12)
暗さ中心から明るさ中心へのベクトルが画像上で下から上に向き、ベクトル距離が大きいほど、バランスがよいと判断できる。そのため、明暗のバランスを(12)式で定義した。なお、k1は0から1までの間の適当な定数とする。
【0039】
次に、色度平均、色のまとまり、寒色暖色の対比、および寒色暖色のバランスを定義する。
【0040】
色度平均Hp=ΣHn×Nn/N …(13)
色のまとまりHt
=1−(Σ{(Hn−Hp)×Nn}/N)1/2 …(14)
寒色強さHc=Σ(f(Hn)×Nn) …(15)
寒色中心(Xc,Yc)
=(Σ(f(Hn)×Nn×Xn)/Σ(f(Hn)×Nn),
Σ(f(Hn)×Nn×Yn)/Σ(f(Vn)×Nn))…(16)
暖色強さHw=Σ(g(Hn)×Nn) …(17)
暖色中心(Xw,Yw)
=(Σ(g(Hn)×Nn×Xn)/Σ(g(Hn)×Nn),
Σ(g(Hn)×Nn×Yn)/Σ(g(Vn)×Nn))…(18)
寒色中心と暖色中心の距離Dwc
=((Xw−Xc)+(Yw−Yc)1/2 …(19)
寒色中心から暖色中心の方向θwc
=π/2−tan−1((Yw−Yc)/(Xw−Xc)) …(20)
寒色暖色の対比Hco=(Hw−Hc)/N …(21)
寒色暖色のバランスHb
=k2×Dwc+(1−k2)/π×2×θwc …(22)
寒色中心から暖色中心へのベクトルが画像上で下から上に向き、ベクトル距離が大きいほど、バランスがよいと判断できる。そのため、寒色暖色のバランスを(22)式で定義した。なお、k2は0から1までの間の適当な定数とする。
【0041】
最後に、彩度平均、および彩度のまとまりを、
彩度平均Cp=ΣCn×Nn/N …(23)
彩度のまとまりCt
=1−(Σ{(Cn−Cp)×Nn}/N)1/2 …(24)
と定義する。
【0042】
これらの視覚特徴量をベクトル化したものが、視覚特徴ベクトルとなる。図8(A)に示した類似印象画像群の視覚特徴ベクトルを表で示すと、図9(A)に示すようになる。
【0043】
図4に示した実施例1では、次に、コラージュ作成手段41で、類似印象画像群の視覚特徴ベクトルを比較して、分散の少ない順に視覚的特徴をリストアップする。そして、分散の少ない視覚的特徴を2つ選択し、類似印象画像群のそれぞれの画像を、2次元のグラフとして表示部20に出力する。すなわち、表示部20において、図10に示すように、選択した2つの視覚的特徴をXY座標軸として、類似印象画像群のそれぞれの画像を、XY平面上に配置・表示する。
【0044】
この場合、必要に応じて、座標軸上に目盛りを付してデザイナに類似関係を理解しやすくしたり、画像が重なった場合に表示画面を拡大表示するようにしてもよい。
【0045】
さらに、解析結果提示手段43で、類似印象画像群のコラージュ解析結果として、類似印象画像群の視覚特徴量の平均値と分散を、テーブルとして表示部20に出力する。図9(B)は、図8(A)に示した類似印象画像群のコラージュ解析結果の表示例を示す。ただし、分かりやすくするために、それぞれの視覚特徴量を%で表示した場合である。
【0046】
上記の例は、類似印象画像群のコラージュを2次元のグラフとして表示する場合であるが、分散の少ない3つの視覚的特徴を選択して、3次元のグラフとして表示し、または表示後にデザイナが選択した1〜3個の視覚的特徴によって新たに1〜3次元の座標軸を作成して、その座標軸上に画像を配置・表示するようにしてもよい。
【0047】
また、コラージュ表示後、再びデザイナが、デザインしようとする画像と類似した印象を有する画像を、画像データベース50から選択・収集することによって、その選択・収集された類似印象画像群につき、画像分割、画像解析、コラージュ作成および解析結果提示のプロセスが繰り返されるようにしてもよい。
【0048】
上述した実施例1によれば、画像デザイナがデザインしようとする画像と類似した印象を有する画像群が、コラージュというグラフィックにより表示部20に表示されるとともに、その画像群に属する画像の視覚的特徴が、解析結果表により数値として表示部20に提示されるので、デザイン知識を持たない一般の画像デザイナに対して、画像をデザインする際の明確かつ詳細な指針が与えられる。したがって、一般の画像デザイナが意図を効果的に伝える印象を持つように画像全体をデザインすることができる。
【0049】
〔実施例2〕
この発明の画像デザイン支援装置の第2の例は、システム構成としては、図1に示すように実施例1と同じであり、処理の流れも、図4に示すように実施例1と同じである。
【0050】
ただし、実施例2では、まず、画像デザイナは、画像入力手段11によって、画像データベース50に蓄積された画像を入力部10の表示手段に表示させて、自分がデザインしようとする画像と類似した印象を有する画像、および自分がデザインしようとする画像と反対の印象を有する画像を選択・収集する。
【0051】
以下では、その選択・収集された、デザイナがデザインしようとする画像と類似した印象を有する複数の画像を、上記のように類似印象画像群と称するとともに、デザイナがデザインしようとする画像と反対の印象を有する複数の画像を、対比印象画像群と称する。図8(A)の画像番号A1〜A7で示す画像群は、その類似印象画像群の一例であり、同図(B)の画像番号B1〜B4で示す画像群は、その対比印象画像群の一例である。
【0052】
この類似印象画像群および対比印象画像群に属する画像は、画像分割手段31で、K平均アルゴリズムなどによって、それぞれ複数の領域に分割され、その複数の領域のそれぞれについて物理的な特徴量が算出されて、類似印象画像群と対比印象画像群のいずれに属するかの情報とともに、画像特徴テーブルに記憶される。算出・記憶される画像特徴量は、実施例1と同じである。
【0053】
次に、画像解析手段33で、画像特徴テーブルから画像の視覚的な特徴量が算出されて、類似印象画像群と対比印象画像群のいずれに属するかの情報とともに、視覚特徴ベクトルに記憶される。算出・記憶される視覚特徴量は、実施例1と同じである。
【0054】
図11(A)および(B)は、それぞれ図8(A)に示した類似印象画像群および同図(B)に示した対比印象画像群の視覚特徴ベクトルを表で示したものである。
【0055】
次に、コラージュ作成手段41で、類似印象画像群と対比印象画像群の視覚特徴ベクトルを比較して、類似印象画像群と対比印象画像群の視覚特徴量の平均値の差が大きい順に視覚的特徴をリストアップする。そして、平均値の差が大きい視覚的特徴を2つ選択し、類似印象画像群および対比印象画像群のそれぞれの画像を、2次元のグラフとして表示部20に出力する。すなわち、表示部20において、図13に示すように、選択した2つの視覚的特徴をXY座標軸として、類似印象画像群および対比印象画像群のそれぞれの画像を、XY平面上に配置・表示する。
【0056】
この場合、必要に応じて、座標軸上に目盛りを付してデザイナに類似関係を理解しやすくしたり、画像が重なった場合に類似印象画像群または対比印象画像群のみをクローズアップするために部分的に表示画面を拡大表示するようにしてもよい。
【0057】
さらに、解析結果提示手段43で、類似印象画像群および対比印象画像群のコラージュ解析結果として、類似印象画像群および対比印象画像群の視覚特徴量の平均値と分散を、テーブルとして表示部20に出力する。図12(A)および(B)は、図8(A)に示した類似印象画像群および同図(B)に示した対比印象画像群のコラージュ解析結果の表示例を示し、図14は、視覚特徴量の平均値と分散の表示例を示す。
【0058】
上記の例は、類似印象画像群および対比印象画像群のコラージュを2次元のグラフとして表示する場合であるが、平均値の差が大きい3つの視覚的特徴を選択して、3次元のグラフとして表示し、または表示後にデザイナが選択した1〜3個の視覚的特徴によって新たに1〜3次元の座標軸を作成して、その座標軸上に画像を配置・表示するようにしてもよい。
【0059】
また、コラージュ表示後、再びデザイナが、デザインしようとする画像と類似した印象を有する画像、およびデザインしようとする画像と反対の印象を有する画像を、画像データベース50から選択・収集することによって、その選択・収集された類似印象画像群および対比印象画像群につき、画像分割、画像解析、コラージュ作成および解析結果提示のプロセスが繰り返されるようにしてもよい。
【0060】
上述した実施例2によれば、実施例1の類似印象画像群に加えて、画像デザイナがデザインしようとする画像と反対の印象を有する画像群が、コラージュというグラフィックにより表示部20に表示されるとともに、その画像群に属する画像の視覚的特徴が、解析結果表により数値として表示部20に提示されるので、デザイン知識を持たない一般の画像デザイナに対して、画像をデザインする際のより明確かつ詳細な指針が与えられる。
【0061】
〔実施例3〕
この発明の画像デザイン支援装置の第3の例は、システム構成としては、図1に示すように実施例1,2と同じであり、より具体的な構成ないし処理の流れは、図5に示すようにされる。
【0062】
すなわち、実施例3では、まず、画像デザイナが画像入力手段11によって、実施例1と同様に上記のような類似印象画像群、または実施例2と同様に上記のような類似印象画像群および対比印象画像群を選択・収集することにより、画像分割手段31、画像解析手段33およびコラージュ作成手段41での処理によって、実施例1と同様に類似印象画像群のコラージュ、または実施例2と同様に類似印象画像群および対比印象画像群のコラージュが作成され、表示部20に表示される。
【0063】
次に、画像デザイナは、自分がデザインした画像を、デザイン画像入力手段13によって、スキャナやDTPソフトウェアを利用して入力する。デザイナによってデザインされた画像は、CIE・LやRGBなどの色空間で表現されたフルカラー画像とする。図15にデザイン画像の例を示す。
【0064】
入力されたデザイン画像は、類似印象画像群、または類似印象画像群および対比印象画像群のそれぞれの画像と同様に、画像分割手段31で画像分割され、画像解析手段33で画像解析されて、デザイン画像の視覚特徴ベクトルが求められる。そして、類似印象画像群、または類似印象画像群および対比印象画像群のコラージュが表示されているグラフ上にデザイン画像が表示される。図17に、その例を示す。
【0065】
さらに、解析結果提示手段43によって、デザイン画像の視覚特徴ベクトルが、コラージュを構成する各画像の視覚特徴ベクトルとともに、テーブルとして表示部20に表示される。図16に、その表示例を示す。
【0066】
したがって、画像デザイナは、コラージュとの比較結果をもとに、デザイン画像を修正し、同じプロセスをたどることによって、最終的に満足の行く画像をデザインすることができる。
【0067】
なお、類似印象画像群の選択、対比印象画像群の選択、およびデザイン画像のデザインと入力の、順序は問わない。
【0068】
上述した実施例3によれば、類似印象画像群、または類似印象画像群および対比印象画像群に加えて、画像デザイナがデザインした画像が、グラフィックにより表示部20に表示されるとともに、そのデザイン画像の視覚的特徴が、類似印象画像群、または類似印象画像群および対比印象画像群に属する画像の視覚的特徴とともに、解析結果表により数値として表示部20に提示されるので、画像デザイナは、自分がデザインした画像を容易かつ正確に評価することができるとともに、修正点を簡単かつ確実に見つけ出すことができる。
【0069】
〔実施例4〕
図2は、この発明の画像デザイン支援装置の第4の例のシステム構成を示し、図1に示した実施例1,2,3のそれに対して専門家知識データベース60を付加したものである。
【0070】
専門家知識データベース60は、専門家が持つ画像に対する印象と画像の視覚的特徴との関係を、プロダクションルール、決定木、フレームなどの何らかの知識表現形式で表して、格納したものである。具体的には、画像の視覚的特徴を視覚特徴ベクトルの属性の数値で示し、画像の印象を「みずみずしい」などの感性用語で表す。プロダクションルールで表現された専門家知識の例を、図18に示す。図中のm,s,wは、0から1までの間の適当な数値である。
【0071】
図6は、この実施例4の画像デザイン支援装置の、より具体的な構成例を示し、図中の矢印は処理の流れを示す。
【0072】
実施例4では、まず、画像デザイナが画像入力手段11によって、実施例2と同様に上記のような類似印象画像群および対比印象画像群を選択・収集することにより、画像分割手段31、画像解析手段33、コラージュ作成手段41および解析結果提示手段43での処理によって、実施例2と同様に類似印象画像群および対比印象画像群のコラージュが作成され、コラージュ解析結果表が作成される。
【0073】
次に、専門家感性同定手段61で、専門家知識データベース60から、類似印象画像群のうちの指定割合以上の画像に発火可能な知識が検索されて、その発火した知識に記述されている感性用語が同定されるとともに、対比印象画像群のうちの指定割合以上の画像に発火可能な知識が検索されて、その発火した知識に記述されている感性用語が同定される。
【0074】
そして、類似印象画像群および対比印象画像群のコラージュ、およびその解析結果表とともに、その同定された感性用語、および発火した知識が、表示部20に表示される。この場合、表示部20において、同定された感性用語、および発火した知識が、コラージュが表示されるXY平面上に表示されるようにしてもよいし、表として別途表示されるようにしてもよい。
【0075】
コラージュ、同定された感性用語、および発火した知識の表示例を、図19に示す。解析結果表は、図12に示したものと同じである。
【0076】
上述した実施例4によれば、類似印象画像群および対比印象画像群のコラージュの印象が言葉として表現される。したがって、画像デザイナは、自分がデザインしようとする画像、またはデザインした画像が、受け手にどのような印象を与えるかを簡単かつ確実に判断することができる。
【0077】
〔実施例5〕
図3は、この発明の画像デザイン支援装置の第5の例のシステム構成を示し、図2に示した実施例4のそれに対して感性用語辞書70を付加したものである。
【0078】
感性用語辞書70は、同義語および反対語が蓄積されたもので、その同義語および反対語は、例えば((柔らかい、柔和な、ソフトな)(固い、ハードな))などのような2項リストとして表現される。(柔らかい、柔和な、ソフトな)、(固い、ハードな)という、それぞれのリスト内の感性用語は同義語として処理され、「固い」と「ソフトな」など、同じリストに属しない感性用語は反対語として処理される。
【0079】
図7は、この実施例5の画像デザイン支援装置の、より具体的な構成例を示し、図中の矢印は処理の流れを示す。
【0080】
実施例5では、まず、画像デザイナは、感性用語入力手段15によって、自分がデザインしようとする画像の印象と一致する感性用語を入力する。デザイナにより感性用語が入力されると、同義語反対語抽出手段35で、感性用語辞書70から、デザイナにより入力された感性用語に対する同義語および反対語が検索・抽出される。
【0081】
次に、専門家知識抽出手段37で、専門家知識データベース60から、その抽出された同義語および反対語が記述されている知識が検索・抽出され、その発火した知識に記述されている視覚特徴ベクトル条件が同定される。
【0082】
次に、画像検索手段39で、画像データベース50から、その同定された、それぞれ同義語および反対語についての視覚特徴ベクトル条件が適応可能な画像が、それぞれ類似印象画像群および対比印象画像群に属する画像として、すべて検索・抽出される。
【0083】
そして、画像分割手段31、画像解析手段33およびコラージュ作成手段41での処理によって、実施例2と同様に、類似印象画像群および対比印象画像群のコラージュが作成され、表示部20に表示される。
【0084】
さらに、解析結果提示手段43によって、デザイナにより入力された感性用語、これに対する同義語および反対語、発火した知識の発火ルール群、類似印象画像群および対比印象画像群のコラージュ解析結果表が、表示部20に表示される。
【0085】
コラージュ、入力感性用語、同義語・反対語、および発火ルール群の表示例を、図20に示す。解析結果表は、図12に示したものと同じである。
【0086】
上述した実施例5によれば、画像デザイナがデザインしようとする画像の印象を言葉で入力することによって、美術的センスの乏しい画像デザイナでも簡単に、画像をデザインする際の指針が得られる。また、デザイナが表示されたコラージュを検討することによって、自分の感性と専門家の感性との差を把握することができ、プロのデザイナでも自分のオリジナリティの確認が可能となる。
【0087】
〔他の実施例〕
実施例1〜5で画像データベース50を画像の種類ごとにネットワーク上に分散させ、または実施例4,5で専門家知識データベース60を専門家知識の種類ごとにネットワーク上に分散させることによって、複数の画像デザイン支援装置で画像データベース50または専門家知識データベース60を共有できるようにしてもよい。
【0088】
【発明の効果】
この発明によれば、美術的センスの乏しい画像デザイナでも簡単に、画像をデザインする際の指針が得られる。また、デザイナが表示されたコラージュを検討することによって、自分の感性と専門家の感性との差を把握することができ、プロのデザイナでも自分のオリジナリティの確認が可能となる。
【図面の簡単な説明】
【図1】実施例1,2,3の画像デザイン支援装置のシステム構成を示す図である。
【図2】実施例4の画像デザイン支援装置のシステム構成を示す図である。
【図3】実施例5の画像デザイン支援装置のシステム構成を示す図である。
【図4】実施例1,2の画像デザイン支援装置のより具体的な構成例を示す図である。
【図5】実施例3の画像デザイン支援装置のより具体的な構成例を示す図である。
【図6】実施例4の画像デザイン支援装置のより具体的な構成例を示す図である。
【図7】実施例5の画像デザイン支援装置のより具体的な構成例を示す図である。
【図8】類似印象画像群および対比印象画像群の例を示す図である。
【図9】実施例1における類似印象画像群の視覚特徴ベクトルおよびコラージュ解析結果の例を示す図である。
【図10】実施例1におけるコラージュ表示例を示す図である。
【図11】実施例2における類似印象画像群および対比印象画像群の視覚特徴ベクトルの例を示す図である。
【図12】実施例2におけるコラージュ解析結果の例を示す図である。
【図13】実施例2におけるコラージュ表示例を示す図である。
【図14】実施例2におけるコラージュ解析結果の例を示す図である。
【図15】デザイン画像の例を示す図である。
【図16】実施例3におけるコラージュ解析結果の例を示す図である。
【図17】実施例3におけるコラージュおよびデザイン画像の表示例を示す図である。
【図18】専門家知識の例を示す図である。
【図19】実施例4におけるコラージュ、感性用語および発火知識の表示例を示す図である。
【図20】実施例5におけるコラージュ、入力感性用語、同義語・反対語および発火知識の表示例を示す図である。
【符号の説明】
10 入力部
11 画像入力手段
13 デザイン画像入力手段
15 感性用語入力手段
20 表示部
30 画像解析部
31 画像分割手段
33 画像解析手段
35 同義語反対語抽出手段
37 専門家知識抽出手段
39 画像検索手段
40 コラージュ画像作成部
41 コラージュ作成手段
43 解析結果提示手段
50 画像データベース
60 専門家知識データベース
61 専門家感性同定手段
70 感性用語辞書[0001]
BACKGROUND OF THE INVENTION
The present invention is an apparatus that supports the design of images necessary for documents such as pamphlets, and in particular, an image designer effectively uses a database to form a concept from a plurality of images and determines a specification effectively. The present invention relates to an apparatus that effectively supports and evaluates a designed image.
[0002]
[Prior art]
DTP (desktop publishing) has become so popular that it can be used by small offices and individuals, and brochures, catalogs, magazines, etc. have been created by DTP, but these documents are effective for readers. In order to convey the intention, the design of the image is important.
[0003]
In addition, recently, an image taken with a digital camera or the like is easily input on a computer, and image editing software such as Photoshop is used to perform trimming or tone correction, or an illustration is created using Illustrator or the like. This makes it easy to design images on software.
[0004]
However, since there are many processes that can be selected for a general image creator, there is a problem that the effects of each process cannot be fully understood, and various techniques cannot be used effectively. In other words, general image creators do not fully understand how the images they have designed, photographed, and collected will give the reader an impression, and their intentions are ambiguous by the processing performed on the software. Or the created image often gives the opposite impression of the character part.
[0005]
Therefore, Japanese Patent Laid-Open No. 5-250452 prepares a material library file and a texture library file to change numerical data such as image color, transparency, reflection characteristics, etc., or change the texture pattern to change the texture. It has been shown that.
[0006]
Japanese Patent Laid-Open No. 8-30674 includes an image database storing a plurality of image data and a design file storing attribute data for each image. Each image is designated as “modern” designated in advance. Classify by “traditional” impressions and keywords such as image motifs and design 2 to 4 images at the same time based on the impression or similarity of keywords and select the desired image It shows what can be determined.
[0007]
In addition, in Japanese Patent Laid-Open No. 4-266165, when a database of expert knowledge about a unique product is prepared and the image creator inputs a desired image as an adjective evaluation term, the design element closest to the evaluation term Inferring and displaying on the screen, or if the image creator feels that the inference result is different from the desired image and enters a modified evaluation term, only design elements that have a strong relationship with the modified evaluation term are inferred and extracted It is shown that only that part can be modified.
[0008]
[Problems to be solved by the invention]
When designing an image, designers can search for images to establish their own images, select and collect images that are close to their own images, or conversely select and collect images that have the opposite image. is there. That is, in this process, the designer considers how to express his sensibility on the image in order to express the intention by selecting and collecting the image.
[0009]
And, as a technique to express sensibility on the image, in addition to expressing it as a motif image object, the color and composition of the entire image, features of components such as faces and lines (brightness balance, line direction, There are various things such as using color contrast.
[0010]
However, in the method or apparatus disclosed in Japanese Patent Laid-Open No. 5-250452, Japanese Patent Laid-Open No. 8-30674, or Japanese Patent Laid-Open No. 4-266165, image features such as texture and the like corresponding to the concrete surface serving as an image motif. Although it is possible to express sensibility as words and process an image object, it is not possible to design an image using the color tone, composition, or characteristics of components of the entire image.
[0011]
Therefore, when a general image designer who does not have design knowledge designs an image, it is not possible to properly express the color tone and composition of the entire image, and even if the texture and texture are partially changed, the intention can be effectively The entire image cannot be designed to convey the impression, and the image becomes meaningless in the document, or the intention of the entire document becomes unclear.
[0012]
Therefore, the present invention is a device that supports the design of an image necessary for a document, so that a general image designer can design the entire image so as to effectively convey the intention. is there.
[0018]
[Means for Solving the Problems]
The image design support device of the first invention is ,
An image database that stores electronic images;
Kansei term dictionary,
Expert knowledge database that accumulates expert knowledge that expresses the relationship between Kansei terms and visual feature vectors,
A sensitivity term input means for inputting a sensitivity term that matches the impression of the image that the image designer intends to design;
Synonym extracting means for extracting a synonym for the input sensitivity term from the input sensitivity term and the sensitivity term dictionary;
Expert knowledge extraction means for extracting visual feature vector conditions for the synonyms from the extracted synonyms and the expert knowledge database,
Image search means for selecting the extracted image to which the visual feature vector condition for the synonym can be applied as an image belonging to the similar impression image group from the image database;
Image dividing means for dividing the images belonging to the group of similar impression images into a plurality of regions,
Image analysis means for calculating a physical feature amount for each of the plurality of regions and calculating a visual feature vector of an image belonging to the similar impression image group;
Collage creation means for displaying the similar impression image group as a collage according to the attribute of the visual feature vector, together with the extracted synonyms,
Analysis result presentation means for presenting on the display means the attributes and values of the visual feature vectors of the images belonging to the group of similar impression images together with expert knowledge describing the extracted visual feature vector conditions for the synonyms. When,
Characterized by comprising .
[0019]
The image design support device of the second invention is ,
An image database that stores electronic images;
Kansei term dictionary,
Expert knowledge database that accumulates expert knowledge that expresses the relationship between Kansei terms and visual feature vectors,
A sensitivity term input means for inputting a sensitivity term that matches the impression of the image that the image designer intends to design;
Synonym antonym extraction means for extracting synonyms and antonyms for the input sensitivity terms from the input sensitivity terms and the sensitivity term dictionary;
Expert knowledge extracting means for extracting visual feature vector conditions for the synonyms and the antonyms from the extracted synonyms and antonyms and the expert knowledge database;
Image search means for selecting, from the image database, images extracted as images belonging to the similar impression image group and the contrast impression image group, respectively, to which the visual feature vector condition for the synonym and the antonym can be applied;
Image dividing means for dividing the images belonging to the similar impression image group and the contrast impression image group into a plurality of regions,
Image analysis means for calculating a physical feature amount for each of the plurality of regions and calculating visual feature vectors of images belonging to the similar impression image group and the contrast impression image group;
Collage creating means for displaying the similar impression image group and the contrast impression image group together with the extracted synonyms and antonyms as collages according to the attributes of the respective visual feature vectors;
The attributes and values of the visual feature vectors of the images belonging to the similar impression image group and the contrast impression image group are displayed together with the expert knowledge describing the extracted visual feature vector conditions for synonyms and antonyms. An analysis result presentation means to be presented to the means;
Characterized by comprising .
[0025]
[Action]
1st or 2nd of said structure In the image design support apparatus according to the invention, by inputting the impression of the image to be designed by the image designer in words, the synonyms for the input words, or synonyms and antonyms are extracted from the sensitivity term dictionary. A corresponding similar impression image group, or a similar impression image group and a contrast impression image group are selected from the image database, and the selected similar impression image group, or the similar impression image group and the contrast impression image group are collages. Are displayed together with the extracted synonyms or synonyms and antonyms.
[0026]
Therefore, a guideline for designing an image can be easily obtained even by an image designer with poor artistic sense. Also, by examining the collage on which the designer is displayed, it is possible to grasp the difference between one's own sensibility and the sensitivity of the expert, and even a professional designer can check his originality.
[0027]
DETAILED DESCRIPTION OF THE INVENTION
[Example 1]
FIG. 1 shows a system configuration of a first example of an image design support apparatus according to the present invention. The image design support apparatus includes an input unit 10, a display unit 20, an image analysis unit 30, a collage image creation unit 40, and an image database. 50.
[0028]
The input unit 10 allows the image designer to select and collect from the image database 50 images having an impression similar to that of the image he / she intends to design or images having an impression opposite to that he / she intends to design. In this apparatus, it is constituted by input means such as a keyboard, mouse or touch panel and display means such as a CRT display.
[0029]
The display unit 20 is a device for displaying characters, figures, messages, and the like, and includes a display unit such as a CRT display or a printing unit such as a printer.
[0030]
The image analysis unit 30 analyzes the attributes of the images selected and collected by the designer, and calculates the visual characteristics of the images. The collage image creation unit 40 uses the visual characteristics to generate images that are elements of the collage. Is calculated and stored.
[0031]
The image database 50 is a database in which various electronic images are accumulated, and images obtained by photographing materials and images designed in the past are accumulated. Images stored in the image database 50 are CIE · L * a * b * And a full color image expressed in a color space such as RGB.
[0032]
FIG. 4 shows a more specific configuration example of the image design support apparatus according to the first embodiment, and arrows in the figure indicate the flow of processing.
[0033]
First, the image designer causes the image input unit 11 to display the image stored in the image database 50 on the display unit of the input unit 10 and selects / collects images having an impression similar to the image he / she intends to design. To do. Hereinafter, a plurality of images that are selected and collected and have an impression similar to an image that the designer intends to design are referred to as a similar impression image group. The image group indicated by image numbers A1 to A7 in FIG. 8A is an example of the similar impression image group.
[0034]
Images belonging to this group of similar impression images are divided into a plurality of regions by the image dividing means 31 by a K-average algorithm or the like, and physical feature amounts are calculated for each of the plurality of regions, and an image feature table is obtained. Is remembered. The image feature amount calculated / stored is the average brightness, average saturation, average chromaticity, the center of gravity of the region, the number of pixels, and the region adjacent to the region. However, the adjacent area here represents an area adjacent in the clockwise direction from a specified direction as a vector.
[0035]
Next, the image analysis means 33 calculates the visual feature amount of the image from the image feature table and stores it in the visual feature vector. Visual features calculated and stored are brightness average, brightness group, contrast of light and darkness, light / dark balance, chromaticity average, color group, cold / warm color contrast, cold / warm color balance, saturation average, saturation It is a unity. Each attribute of the visual feature vector defines a symbol and content as follows, and is calculated as follows.
[0036]
N: total number of regions, Nn: number of pixels included in region n,
Vn, Hn, Cn (0 ≦ Vn, Hn, Cn <1): brightness average, chromaticity average, saturation average of region n,
x: 1/2 of the number of pixels in the vertical direction of the image, y: 1/2 of the number of pixels in the horizontal direction of the image,
(Xn, Yn): The center-of-gravity coordinates of the region n with the image center as the origin are divided by the above x and y, respectively, and 1 is subtracted from the quotient. Note that Σ represents the sum of 1 to n.
[0037]
First, the brightness average, the brightness group, the contrast of light and dark, and the balance of light and dark are defined.
[0038]
Lightness average Lp = ΣVn × Nn / N (1)
Brightness mass Lt
= 1− (Σ {(Vn−Lp) 2 × Nn} / N) 1/2 ... (2)
Darkness intensity Lh = Σ (f (Vn) × Vn × Nn) (3)
Center of darkness (Xh, Yh)
= (Σ (f (Vn) × Nn × Xn) / Σ (f (Vn) × Nn),
Σ (f (Vn) × Nn × Yn) / Σ (f (Vn) × Nn)) (4)
Figure 0003729222
Brightness intensity Ll = Σ (g (Vn) × Nn) (6)
Brightness center (Xl, Yl)
= (Σ (g (Vn) × Nn × Xn) / Σ (g (Vn) × Nn),
Σ (g (Vn) × Nn × Yn) / Σ (g (Vn) × Nn)) (7)
Figure 0003729222
Distance between brightness center and dark center Dlh
= ((X1-Xh) 2 + (Y1-Yh) 2 ) 1/2 ... (9)
Direction from the center of darkness to the center of brightness θlh
= Π / 2-tan -1 ((Y1-Yh) / (X1-Xh)) (10)
Light / dark contrast Lco = (Ll−Lh) / N (11)
Light / dark balance Lb
= K1 * Dlh + (1-k1) / [pi] * 2 * [theta] lh (12)
It can be determined that the better the balance is, the more the vector from the dark center to the bright center is directed from the bottom to the top on the image and the vector distance is large. Therefore, the balance between light and dark was defined by equation (12). Note that k1 is an appropriate constant between 0 and 1.
[0039]
Next, the chromaticity average, color grouping, cold warm color contrast, and cold warm color balance are defined.
[0040]
Chromaticity average Hp = ΣHn × Nn / N (13)
Color group Ht
= 1− (Σ {(Hn−Hp) 2 × Nn} / N) 1/2 …(14)
Cold color intensity Hc = Σ (f (Hn) × Nn) (15)
Cold color center (Xc, Yc)
= (Σ (f (Hn) × Nn × Xn) / Σ (f (Hn) × Nn),
Σ (f (Hn) × Nn × Yn) / Σ (f (Vn) × Nn)) (16)
Warm color strength Hw = Σ (g (Hn) × Nn) (17)
Warm color center (Xw, Yw)
= (Σ (g (Hn) × Nn × Xn) / Σ (g (Hn) × Nn),
Σ (g (Hn) × Nn × Yn) / Σ (g (Vn) × Nn)) (18)
Distance Dwc between cold color center and warm color center
= ((Xw−Xc) 2 + (Yw-Yc) 2 ) 1/2 … (19)
Direction from the cold color center to the warm color center θwc
= Π / 2-tan -1 ((Yw−Yc) / (Xw−Xc)) (20)
Comparison of cold and warm colors Hco = (Hw−Hc) / N (21)
Cold and warm color balance Hb
= K2 * Dwc + (1-k2) / [pi] * 2 * [theta] wc (22)
The vector from the cold color center to the warm color center is directed from the bottom to the top on the image, and the greater the vector distance, the better the balance. Therefore, the balance of cold and warm colors is defined by equation (22). Note that k2 is an appropriate constant between 0 and 1.
[0041]
Finally, the saturation average and the saturation unit
Saturation average Cp = ΣCn × Nn / N (23)
Ct of saturation Ct
= 1− (Σ {(Cn−Cp) 2 × Nn} / N) 1/2 …(twenty four)
It is defined as
[0042]
A vector obtained by vectorizing these visual feature amounts is a visual feature vector. The visual feature vectors of the similar impression image group shown in FIG. 8A are shown in a table as shown in FIG.
[0043]
In the first embodiment shown in FIG. 4, the collage creation unit 41 compares the visual feature vectors of the similar impression image groups, and lists the visual features in order of decreasing variance. Then, two visual features with less variance are selected, and each image of the similar impression image group is output to the display unit 20 as a two-dimensional graph. In other words, as shown in FIG. 10, the display unit 20 arranges and displays each image of the similar impression image group on the XY plane with the two selected visual features as the XY coordinate axes.
[0044]
In this case, if necessary, a scale may be added on the coordinate axis so that the designer can easily understand the similar relationship, or the display screen can be enlarged when images overlap.
[0045]
Further, the analysis result presentation unit 43 outputs the average value and variance of the visual feature values of the similar impression image group as a table to the display unit 20 as a collage analysis result of the similar impression image group. FIG. 9B shows a display example of the collage analysis result of the similar impression image group shown in FIG. However, in order to make it easy to understand, each visual feature amount is displayed in%.
[0046]
The above example is a case where a collage of similar impression images is displayed as a two-dimensional graph, but three visual features with low dispersion are selected and displayed as a three-dimensional graph, or the designer can A new one to three-dimensional coordinate axis may be created based on the selected one to three visual features, and an image may be arranged and displayed on the coordinate axis.
[0047]
In addition, after the collage display, the designer again selects and collects images having an impression similar to the image to be designed from the image database 50, thereby dividing the selected impression image group selected and collected, The processes of image analysis, collage creation, and analysis result presentation may be repeated.
[0048]
According to the first embodiment described above, an image group having an impression similar to an image to be designed by the image designer is displayed on the display unit 20 by a graphic called collage, and the visual features of the images belonging to the image group are displayed. However, since it is presented as a numerical value in the analysis result table on the display unit 20, a clear and detailed guideline for designing an image is given to a general image designer who does not have design knowledge. Therefore, the entire image can be designed so that a general image designer has an impression that the intention is effectively transmitted.
[0049]
[Example 2]
The second example of the image design support apparatus of the present invention has the same system configuration as that of the first embodiment as shown in FIG. 1, and the process flow is the same as that of the first embodiment as shown in FIG. is there.
[0050]
However, in the second embodiment, first, the image designer causes the image input unit 11 to display the image stored in the image database 50 on the display unit of the input unit 10 and has an impression similar to the image he / she intends to design. And images having an impression opposite to that of the image to be designed.
[0051]
In the following, a plurality of images that are selected and collected and have an impression similar to the image that the designer intends to design are referred to as a similar impression image group as described above, and are opposite to the images that the designer intends to design. A plurality of images having an impression is referred to as a contrast impression image group. The image group indicated by image numbers A1 to A7 in FIG. 8A is an example of the similar impression image group, and the image group indicated by image numbers B1 to B4 in FIG. 8B is the comparison impression image group. It is an example.
[0052]
The images belonging to the similar impression image group and the contrast impression image group are each divided into a plurality of regions by the image dividing means 31 by a K-average algorithm or the like, and physical feature amounts are calculated for each of the plurality of regions. Thus, it is stored in the image feature table together with information regarding which of the similar impression image group and the contrast impression image group belongs. The calculated and stored image feature amounts are the same as those in the first embodiment.
[0053]
Next, the image analysis means 33 calculates the visual feature amount of the image from the image feature table, and stores it in the visual feature vector together with information on whether it belongs to the similar impression image group or the contrast impression image group. . The visual feature amount calculated and stored is the same as in the first embodiment.
[0054]
11A and 11B are tables showing visual feature vectors of the similar impression image group shown in FIG. 8A and the contrast impression image group shown in FIG.
[0055]
Next, the collage creation means 41 compares the visual feature vectors of the similar impression image group and the contrast impression image group, and visually compares them in descending order of the average value of the visual feature values of the similar impression image group and the contrast impression image group. List features. Then, two visual features having a large difference in average value are selected, and the images of the similar impression image group and the contrast impression image group are output to the display unit 20 as a two-dimensional graph. That is, as shown in FIG. 13, the display unit 20 arranges and displays the images of the similar impression image group and the contrast impression image group on the XY plane with the two selected visual features as the XY coordinate axes.
[0056]
In this case, if necessary, a scale is added on the coordinate axis to make it easier for the designer to understand the similar relationship, or to close up only the similar impression image group or the contrast impression image group when the images overlap. Alternatively, the display screen may be enlarged and displayed.
[0057]
Further, the analysis result presentation means 43 displays the average value and variance of the visual feature values of the similar impression image group and the contrast impression image group as a table on the display unit 20 as a collage analysis result of the similar impression image group and the contrast impression image group. Output. 12A and 12B show display examples of collage analysis results of the similar impression image group shown in FIG. 8A and the contrast impression image group shown in FIG. A display example of the average value and variance of visual feature values is shown.
[0058]
The above example is a case in which a collage of similar impression image groups and contrast impression image groups is displayed as a two-dimensional graph. Three visual features having a large average value difference are selected as a three-dimensional graph. Alternatively, a 1 to 3 dimensional coordinate axis may be newly created based on 1 to 3 visual features selected by the designer after display, or an image may be arranged and displayed on the coordinate axis.
[0059]
After the collage is displayed, the designer again selects and collects from the image database 50 images having an impression similar to the image to be designed, and images having an impression opposite to the image to be designed. The process of image division, image analysis, collage creation, and analysis result presentation may be repeated for the selected and collected similar impression image group and contrast impression image group.
[0060]
According to the second embodiment described above, in addition to the similar impression image group of the first embodiment, an image group having an impression opposite to the image that the image designer intends to design is displayed on the display unit 20 by a graphic called collage. At the same time, the visual features of the images belonging to the image group are presented as numerical values in the analysis result table on the display unit 20, so that it is clearer when designing an image for a general image designer who does not have design knowledge. And detailed guidance is given.
[0061]
Example 3
The third example of the image design support apparatus of the present invention has the same system configuration as that of the first and second embodiments as shown in FIG. 1, and a more specific configuration or processing flow is shown in FIG. To be done.
[0062]
That is, in the third embodiment, first, the image designer uses the image input unit 11 to perform the similar impression image group as described above as in the first embodiment or the similar impression image group as described above and the comparison as in the second embodiment. By selecting / collecting the impression image group, the image division means 31, the image analysis means 33, and the collage creation means 41 process the same impression image group collage as in the first embodiment, or similar to the second embodiment. A collage of similar impression image groups and contrast impression image groups is created and displayed on the display unit 20.
[0063]
Next, the image designer inputs an image designed by the image designer using the design image input means 13 using a scanner or DTP software. The image designed by the designer is CIE L * a * b * And a full color image expressed in a color space such as RGB. FIG. 15 shows an example of a design image.
[0064]
The input design image is image-divided by the image dividing means 31 and image-analyzed by the image analyzing means 33 in the same manner as the similar impression image group, or each image of the similar impression image group and the contrast impression image group. A visual feature vector of the image is determined. Then, the design image is displayed on the graph displaying the similar impression image group or the collage of the similar impression image group and the contrast impression image group. An example is shown in FIG.
[0065]
Furthermore, the visual feature vector of the design image is displayed on the display unit 20 as a table by the analysis result presentation unit 43 together with the visual feature vector of each image constituting the collage. FIG. 16 shows a display example thereof.
[0066]
Therefore, the image designer can finally design a satisfactory image by correcting the design image based on the comparison result with the collage and following the same process.
[0067]
The order of selecting the similar impression image group, selecting the contrast impression image group, and designing and inputting the design image does not matter.
[0068]
According to the third embodiment described above, in addition to the similar impression image group, or the similar impression image group and the contrast impression image group, an image designed by the image designer is displayed on the display unit 20 as a graphic, and the design image is displayed. Are displayed on the display unit 20 as numerical values by the analysis result table together with the visual features of the images belonging to the similar impression image group or the similar impression image group and the contrast impression image group, so that the image designer can It is possible to easily and accurately evaluate the image designed by, and to find a correction point easily and reliably.
[0069]
Example 4
FIG. 2 shows a system configuration of a fourth example of the image design support apparatus of the present invention, in which an expert knowledge database 60 is added to that of the first, second, and third embodiments shown in FIG.
[0070]
The expert knowledge database 60 stores the relationship between the image of the expert and the visual characteristics of the image in a form of some knowledge expression such as a production rule, a decision tree, or a frame. Specifically, the visual feature of the image is represented by a numerical value of the attribute of the visual feature vector, and the impression of the image is represented by a sensitivity term such as “fresh”. An example of expert knowledge expressed by the production rules is shown in FIG. M, s, and w in the figure are appropriate numerical values between 0 and 1.
[0071]
FIG. 6 shows a more specific configuration example of the image design support apparatus according to the fourth embodiment, and arrows in the figure indicate the flow of processing.
[0072]
In the fourth embodiment, first, the image designer selects and collects the similar impression image group and the contrast impression image group as described above in the same manner as in the second embodiment by the image input unit 11, so that the image dividing unit 31 and the image analysis are performed. By the processing in the means 33, the collage creation means 41 and the analysis result presentation means 43, a collage of similar impression image groups and contrast impression image groups is created as in the second embodiment, and a collage analysis result table is created.
[0073]
Next, the expert sensibility identification means 61 searches the expert knowledge database 60 for knowledge that can be ignited in images of a specified ratio or more in the similar impression image group, and the sensibility described in the ignited knowledge. A term is identified, and knowledge that can be ignited is searched for images of a specified ratio or more in the group of contrast impression images, and a sensitivity term described in the ignited knowledge is identified.
[0074]
Then, together with the collage of the similar impression image group and the contrast impression image group, and the analysis result table thereof, the identified sensitivity terms and the ignited knowledge are displayed on the display unit 20. In this case, on the display unit 20, the identified sensitivity terms and the ignited knowledge may be displayed on the XY plane on which the collage is displayed, or may be separately displayed as a table. .
[0075]
FIG. 19 shows a display example of a collage, identified emotional terms, and ignited knowledge. The analysis result table is the same as that shown in FIG.
[0076]
According to the above-described fourth embodiment, the collage impression of the similar impression image group and the contrast impression image group is expressed as words. Therefore, the image designer can easily and reliably determine what image the user intends to design or what image the designed image gives to the recipient.
[0077]
Example 5
FIG. 3 shows a system configuration of a fifth example of the image design support apparatus of the present invention, in which a sensitivity term dictionary 70 is added to that of the fourth embodiment shown in FIG.
[0078]
The sensitivity term dictionary 70 is a collection of synonyms and antonyms, and the synonyms and antonyms are, for example, two terms such as ((soft, soft, soft) (hard, hard)). Expressed as a list. Sensitivity terms in each list (soft, meek, soft) and (hard, hard) are treated as synonyms, and sensitivity terms that do not belong to the same list, such as “hard” and “soft” Treated as an antonym.
[0079]
FIG. 7 shows a more specific configuration example of the image design support apparatus according to the fifth embodiment, and arrows in the figure show the flow of processing.
[0080]
In the fifth embodiment, the image designer first inputs a sensitivity term that matches the impression of the image he / she wants to design by the sensitivity term input means 15. When sensitivity terms are input by the designer, synonym antonym extraction means 35 searches and extracts synonyms and antonyms for the sensitivity terms input by the designer from sensitivity term dictionary 70.
[0081]
Next, the expert knowledge extraction means 37 retrieves and extracts the knowledge in which the extracted synonyms and antonyms are described from the expert knowledge database 60, and the visual features described in the ignited knowledge. Vector conditions are identified.
[0082]
Next, images identified by the image search means 39 from the image database 50 to which the visual feature vector conditions for the respective synonyms and antonyms can be applied belong to the similar impression image group and the contrast impression image group, respectively. All images are searched and extracted.
[0083]
Then, a collage of similar impression image groups and contrast impression image groups is created and displayed on the display unit 20 in the same manner as in the second embodiment by processing in the image dividing unit 31, the image analyzing unit 33, and the collage creating unit 41. .
[0084]
Further, the analysis result presenting means 43 displays a collage analysis result table of sensitivity terms input by the designer, synonyms and antonyms thereof, firing rules for ignited knowledge, similar impression images, and contrast impression images. Displayed on the unit 20.
[0085]
FIG. 20 shows a display example of a collage, input sensitivity terms, synonyms and antonyms, and firing rule groups. The analysis result table is the same as that shown in FIG.
[0086]
According to the fifth embodiment described above, by inputting the impression of an image that the image designer intends to design in words, even an image designer with poor artistic sense can easily obtain a guideline for designing an image. Also, by examining the collage on which the designer is displayed, it is possible to grasp the difference between one's own sensibility and the sensitivity of the expert, and even a professional designer can check his originality.
[0087]
[Other Examples]
In the first to fifth embodiments, the image database 50 is distributed on the network for each type of image, or the expert knowledge database 60 is distributed on the network for each type of expert knowledge in the fourth and fifth embodiments. The image database 50 or the expert knowledge database 60 may be shared by the image design support apparatus.
[0088]
【The invention's effect】
This invention According to the above, even an image designer having a poor artistic sense can easily obtain a guideline for designing an image. Also, by examining the collage on which the designer is displayed, it is possible to grasp the difference between one's own sensibility and the sensitivity of the expert, and even a professional designer can check his originality.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating a system configuration of image design support apparatuses according to first, second, and third embodiments.
FIG. 2 is a diagram illustrating a system configuration of an image design support apparatus according to a fourth embodiment.
FIG. 3 is a diagram illustrating a system configuration of an image design support apparatus according to a fifth embodiment.
FIG. 4 is a diagram illustrating a more specific configuration example of the image design support apparatus according to the first and second embodiments.
FIG. 5 is a diagram illustrating a more specific configuration example of an image design support apparatus according to a third embodiment.
FIG. 6 is a diagram illustrating a more specific configuration example of an image design support apparatus according to a fourth embodiment.
FIG. 7 is a diagram illustrating a more specific configuration example of an image design support apparatus according to a fifth embodiment.
FIG. 8 is a diagram illustrating an example of a similar impression image group and a contrast impression image group.
FIG. 9 is a diagram illustrating an example of visual feature vectors and collage analysis results of a similar impression image group according to the first embodiment.
10 is a diagram illustrating a collage display example according to the first embodiment. FIG.
FIG. 11 is a diagram illustrating an example of visual feature vectors of a similar impression image group and a contrast impression image group according to the second embodiment.
12 is a diagram showing an example of a collage analysis result in Example 2. FIG.
FIG. 13 is a diagram illustrating a collage display example according to the second embodiment.
FIG. 14 is a diagram illustrating an example of a collage analysis result in the second embodiment.
FIG. 15 is a diagram illustrating an example of a design image.
FIG. 16 is a diagram illustrating an example of a collage analysis result in the third embodiment.
FIG. 17 is a diagram illustrating a display example of a collage and a design image in the third embodiment.
FIG. 18 is a diagram illustrating an example of expert knowledge.
FIG. 19 is a diagram illustrating a display example of collage, sensitivity terms, and ignition knowledge in the fourth embodiment.
FIG. 20 is a diagram illustrating a display example of a collage, input sensitivity terms, synonyms / opposites and ignition knowledge in the fifth embodiment.
[Explanation of symbols]
10 Input section
11 Image input means
13 Design image input means
15 Kansei term input means
20 Display section
30 Image analysis unit
31 Image segmentation means
33 Image analysis means
35 Synonym antonym extraction means
37 Expert knowledge extraction means
39 Image search means
40 Collage image creation section
41 Collage creation means
43 Analysis result presentation means
50 image database
60 Expert knowledge database
61 Expert sensitivity identification means
70 Kansei term dictionary

Claims (2)

電子的な画像を蓄積した画像データベースと、
感性用語辞書と、
感性用語と視覚特徴ベクトルの関係を知識表現した専門家知識を蓄積した専門家知識データベースと、
画像デザイナがデザインしようとする画像の印象と一致する感性用語を入力する感性用語入力手段と、
その入力感性用語と上記感性用語辞書から、その入力感性用語に対する同義語を抽出する同義語抽出手段と、
その抽出された同義語と上記専門家知識データベースから、同義語についての視覚特徴ベクトル条件を抽出する専門家知識抽出手段と、
その抽出された、同義語についての視覚特徴ベクトル条件が適応可能な画像を、類似印象画像群に属する画像として、上記画像データベースから選択する画像検索手段と、
その類似印象画像群に属する画像を、それぞれ複数の領域に分割する画像分割手段と、
上記複数の領域のそれぞれについて物理的な特徴量を算出して、上記類似印象画像群に属する画像の視覚特徴ベクトルを計算する画像解析手段と、
上記類似印象画像群を、その視覚特徴ベクトルの属性によってコラージュとして、上記抽出された同義語とともに、表示するコラージュ作成手段と、
上記類似印象画像群に属する画像の視覚特徴ベクトルの属性と値を、上記抽出された、同義語についての視覚特徴ベクトル条件が記述されている専門家知識とともに、表示手段に提示する解析結果提示手段と、
を備えることを特徴とする画像デザイン支援装置。
An image database that stores electronic images;
Kansei term dictionary,
Expert knowledge database that accumulates expert knowledge that expresses the relationship between Kansei terms and visual feature vectors,
A sensitivity term input means for inputting a sensitivity term that matches the impression of the image that the image designer intends to design;
Synonym extracting means for extracting a synonym for the input sensitivity term from the input sensitivity term and the sensitivity term dictionary;
Expert knowledge extraction means for extracting visual feature vector conditions for the synonyms from the extracted synonyms and the expert knowledge database,
Image search means for selecting the extracted image to which the visual feature vector condition for the synonym can be applied as an image belonging to the similar impression image group from the image database;
Image dividing means for dividing the images belonging to the group of similar impression images into a plurality of regions,
Image analysis means for calculating a physical feature amount for each of the plurality of regions and calculating a visual feature vector of an image belonging to the similar impression image group;
Collage creation means for displaying the similar impression image group as a collage according to the attribute of the visual feature vector, together with the extracted synonyms,
Analysis result presentation means for presenting on the display means the attributes and values of the visual feature vectors of the images belonging to the group of similar impression images together with expert knowledge describing the extracted visual feature vector conditions for the synonyms. When,
An image design support apparatus comprising:
電子的な画像を蓄積した画像データベースと、
感性用語辞書と、
感性用語と視覚特徴ベクトルの関係を知識表現した専門家知識を蓄積した専門家知識データベースと、
画像デザイナがデザインしようとする画像の印象と一致する感性用語を入力する感性用語入力手段と、
その入力感性用語と上記感性用語辞書から、その入力感性用語に対する同義語および反対語を抽出する同義語反対語抽出手段と、
その抽出された同義語および反対語と上記専門家知識データベースから、それぞれ同義語および反対語についての視覚特徴ベクトル条件を抽出する専門家知識抽出手段と、
その抽出された、それぞれ同義語および反対語についての視覚特徴ベクトル条件が適応可能な画像を、それぞれ類似印象画像群および対比印象画像群に属する画像として、上記画像データベースから選択する画像検索手段と、
その類似印象画像群および対比印象画像群に属する画像を、それぞれ複数の領域に分割する画像分割手段と、
上記複数の領域のそれぞれについて物理的な特徴量を算出して、上記類似印象画像群および対比印象画像群に属する画像の視覚特徴ベクトルを計算する画像解析手段と、
上記類似印象画像群および対比印象画像群を、それぞれの視覚特徴ベクトルの属性によってコラージュとして、上記抽出された同義語および反対語とともに、表示するコラージュ作成手段と、
上記類似印象画像群および対比印象画像群に属する画像の視覚特徴ベクトルの属性と値を、上記抽出された、同義語および反対語についての視覚特徴ベクトル条件が記述されている専門家知識とともに、表示手段に提示する解析結果提示手段と、
を備えることを特徴とする画像デザイン支援装置。
An image database that stores electronic images;
Kansei term dictionary,
Expert knowledge database that accumulates expert knowledge that expresses the relationship between Kansei terms and visual feature vectors,
A sensitivity term input means for inputting a sensitivity term that matches the impression of the image that the image designer intends to design;
Synonym antonym extraction means for extracting synonyms and antonyms for the input sensitivity terms from the input sensitivity terms and the sensitivity term dictionary;
Expert knowledge extracting means for extracting visual feature vector conditions for the synonyms and the antonyms from the extracted synonyms and antonyms and the expert knowledge database;
Image search means for selecting, from the image database, images extracted as images belonging to the similar impression image group and the contrast impression image group, respectively, to which the visual feature vector condition for the synonym and the antonym can be applied;
Image dividing means for dividing the images belonging to the similar impression image group and the contrast impression image group into a plurality of regions,
Image analysis means for calculating a physical feature amount for each of the plurality of regions and calculating visual feature vectors of images belonging to the similar impression image group and the contrast impression image group;
Collage creating means for displaying the similar impression image group and the contrast impression image group together with the extracted synonyms and antonyms as collages according to the attributes of the respective visual feature vectors;
The attributes and values of the visual feature vectors of the images belonging to the similar impression image group and the contrast impression image group are displayed together with the expert knowledge describing the extracted visual feature vector conditions for synonyms and antonyms. An analysis result presentation means to be presented to the means;
An image design support apparatus comprising:
JP35561196A 1996-12-24 1996-12-24 Image design support device Expired - Fee Related JP3729222B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP35561196A JP3729222B2 (en) 1996-12-24 1996-12-24 Image design support device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP35561196A JP3729222B2 (en) 1996-12-24 1996-12-24 Image design support device

Publications (2)

Publication Number Publication Date
JPH10188023A JPH10188023A (en) 1998-07-21
JP3729222B2 true JP3729222B2 (en) 2005-12-21

Family

ID=18444875

Family Applications (1)

Application Number Title Priority Date Filing Date
JP35561196A Expired - Fee Related JP3729222B2 (en) 1996-12-24 1996-12-24 Image design support device

Country Status (1)

Country Link
JP (1) JP3729222B2 (en)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6137498A (en) * 1997-01-02 2000-10-24 Runaway Technology, Inc. Digital composition of a mosaic image
US6493705B1 (en) 1998-09-30 2002-12-10 Canon Kabushiki Kaisha Information search apparatus and method, and computer readable memory
JP3779935B2 (en) * 2002-04-23 2006-05-31 株式会社ジャストシステム Document search apparatus, document search method, and program causing computer to execute the method
JP3562516B2 (en) * 2002-06-27 2004-09-08 富士ゼロックス株式会社 Image impression evaluation device, image impression evaluation method, and image impression evaluation program
JP4111198B2 (en) 2004-06-29 2008-07-02 セイコーエプソン株式会社 Image search system, image search program and storage medium, and image search method
KR100633144B1 (en) 2004-11-09 2006-10-11 삼성전자주식회사 Method for managing color and apparatus thereof
JP4940734B2 (en) * 2006-04-04 2012-05-30 富士ゼロックス株式会社 Design production support device and design production support program
JP4992295B2 (en) * 2006-05-24 2012-08-08 富士通モバイルコミュニケーションズ株式会社 Information processing device
JP4521008B2 (en) * 2007-03-19 2010-08-11 株式会社日立製作所 Image search system
JP2010250636A (en) * 2009-04-17 2010-11-04 Seiko Epson Corp Image retrieval terminal device and image retrieval request method
WO2013014849A1 (en) * 2011-07-26 2013-01-31 日本電気株式会社 Screen inspection device, screen inspection method and program
WO2015016219A1 (en) * 2013-07-31 2015-02-05 富士フイルム株式会社 Image search device, image search method, program, and recording medium
JP6193152B2 (en) * 2014-02-28 2017-09-06 富士フイルム株式会社 Product search device, system, method and program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2624969B2 (en) * 1987-09-16 1997-06-25 マツダ株式会社 Image retrieval device
JPH0765169A (en) * 1993-08-30 1995-03-10 Nippon Telegr & Teleph Corp <Ntt> Image retrieving method
JPH08212258A (en) * 1995-02-01 1996-08-20 Hitachi Ltd Product generation support system
JPH08249353A (en) * 1995-03-15 1996-09-27 Omron Corp Method and device for image retrieval
JP3249902B2 (en) * 1995-05-30 2002-01-28 ミノルタ株式会社 Image data retrieval device

Also Published As

Publication number Publication date
JPH10188023A (en) 1998-07-21

Similar Documents

Publication Publication Date Title
JP3063073B2 (en) Image analysis expression adding device
JP3729222B2 (en) Image design support device
Ives Graphical user interfaces for business information systems
US6578023B1 (en) Data processing methods and apparatus for supporting analysis/judgement
US7272785B2 (en) Data editing for improving readability of a display
Jacobson et al. Color as a determined communication
US20190304008A1 (en) Color palette guided shopping
JP5434582B2 (en) Image processing apparatus and image processing program
JP4168793B2 (en) Layout evaluation system, layout evaluation program, and layout evaluation method
JP4127140B2 (en) Document processing apparatus, document processing program, and document processing apparatus control method
CN112597695B (en) Computer aided design method and system based on perceptual feature clustering
US20070233618A1 (en) Computer readable recording medium having design creation supporting program stored thereon, design creation supporting apparatus and computer data signal for supporting design creation
JP4141986B2 (en) Gaze guidance information display device and gaze guidance information display program
JP3365407B2 (en) Data processing apparatus and method
JP3417941B1 (en) An apparatus for analyzing qualitative information on an evaluation target that can be specified by image data
US20230419575A1 (en) Information processing apparatus, control method therefor, and storage medium
US20240020075A1 (en) Information processing apparatus, control method therefor, and storage medium
EP4375938A1 (en) Design revision apparatus, program, and design revision method
JP2003256467A (en) Device, program and method for selecting image
JPH1049529A (en) Document preparing device
JP4882523B2 (en) Document impression evaluation apparatus and document impression evaluation program
Inohara et al. Retrieval method of textile pictures database using a complexity scale
JP2000011197A (en) Method for preparing document and device therefor and medium
JP4775120B2 (en) Document impression evaluation apparatus and document impression evaluation program
Ivanova et al. Semantic and abstraction content of art images

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050622

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050914

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050927

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091014

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101014

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101014

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111014

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121014

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121014

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131014

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees