JP4126938B2 - 画像処理装置および画像出力装置 - Google Patents

画像処理装置および画像出力装置 Download PDF

Info

Publication number
JP4126938B2
JP4126938B2 JP2002081065A JP2002081065A JP4126938B2 JP 4126938 B2 JP4126938 B2 JP 4126938B2 JP 2002081065 A JP2002081065 A JP 2002081065A JP 2002081065 A JP2002081065 A JP 2002081065A JP 4126938 B2 JP4126938 B2 JP 4126938B2
Authority
JP
Japan
Prior art keywords
correction
amount
image data
reference amount
correction reference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002081065A
Other languages
English (en)
Other versions
JP2003281533A (ja
Inventor
清昭 村井
正紀 石田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2002081065A priority Critical patent/JP4126938B2/ja
Priority to US10/385,747 priority patent/US7215822B2/en
Priority to EP03251549A priority patent/EP1347634A3/en
Priority to TW092105944A priority patent/TWI223548B/zh
Priority to CNB031074545A priority patent/CN1221124C/zh
Priority to KR1020030017959A priority patent/KR100685568B1/ko
Publication of JP2003281533A publication Critical patent/JP2003281533A/ja
Application granted granted Critical
Publication of JP4126938B2 publication Critical patent/JP4126938B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • G06T5/75Unsharp masking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/409Edge or detail enhancement; Noise or error suppression
    • H04N1/4092Edge or detail enhancement

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像処理装置に関し、特に携帯電話や携帯型端末装置などの表示領域の比較的小さい装置上に画像を表示する際に好適なシャープネス処理方法に関連する。
【0002】
【背景技術】
画像表示装置などにおいては、表示される画像に対して、画像の輪郭などを尖鋭化して画像を見やすくする、いわゆるシャープネス処理を施すことが行われる。シャープネス処理により、多少ぼけた元画像を鮮明に表示することができる。また、携帯電話や携帯型端末装置など、比較的表示領域が小さい装置においては、シャープネス処理を多少強めに施すことにより、表示画像の輪郭などが明瞭になり、見やすくなることが知られている。
【0003】
【発明が解決しようとする課題】
しかし、シャープネス処理を強く施し過ぎると表示画像が却って不自然となる場合もある。例えば、人間の顔の画像を表示する場合、シャープネス処理の程度が強すぎると、顔と黒い髪の毛との境界付近において、シャープネス処理により顔の画像データが白くなりすぎてしまうことがある(このような現象を「白抜け」とも呼ぶ。)。その一方で、シャープネス処理の程度を抑えすぎると、画像によっては尖鋭度が不足し、ぼやけた画像となってしまう。
【0004】
本発明は、以上の点に鑑みてなされたものであり、シャープネス処理を適度に施すことにより、自然に画像の尖鋭度を向上させることを課題とする。
【0005】
【課題を解決するための手段】
本発明の画像処理装置は、元画像データのレベル変化の程度を検出し、検出したレベル変化の程度に基づいて、シャープネス処理による補正の基準量を示す補正基準量データを生成する補正基準量決定手段と、前記補正基準量データに基づき、予め決められた補正量決定パターンに従って補正量を演算する補正量演算手段と、前記補正量に応じて前記元画像データに対してシャープネス処理を施して補正画像データを生成するシャープネス処理手段と、を備え、前記補正量決定パターンは、前記補正基準量の大きさに応じて前記補正量が変化する特性を有する。
【0006】
上記の画像処理装置は、元画像データの入力を受け、シャープネス処理を施して補正画像データを出力する。元画像データからは、そのレベル変化の程度が検出される。元画像データがカラー画像データである場合には輝度レベルの変化が検出され、元画像データがRGB各色の別個の画像データである場合は、各色の画像データのレベル変化が検出される。そして、検出されたレベル変化の程度に基づいて、シャープネス補正の程度を決定する基準となる補正基準量データが生成される。
【0007】
一方、シャープネス補正を行う補正量と、補正基準量との関係は予め決められた補正量特性パターンにより規定されている。補正量演算手段は、補正量特性パターンに従って適切な補正量を演算し、シャープネス処理手段がその補正量に従って元画像データに対してシャープネス処理を施す。ここで、補正量決定パターンは、補正基準量の大きさに応じて補正量が変化する特性を有する。よって、元画像データのレベル変化に応じて、必要な補正量だけシャープネス補正が行われることになり、適切に元画像データの先鋭化を行うことができる。
【0008】
上記の画像処理装置の一態様では、前記補正量決定パターンは、前記補正基準量が正の値である場合の前記補正量の変化割合と、前記補正基準量が負の値である場合の前記補正量の変化割合とが異なる特性を有するものとすることができる。また、上記画像処理装置の他の一態様では、前記補正量決定パターンは、前記元画像データの白色成分が増加するように前記補正基準量が変化する場合の前記補正量の変化割合が、前記元画像データの黒色成分が増加するように前記補正基準量が変化する場合の前記補正量の変化割合よりも小さくなる特性を有するものとしてもよい。これらの態様によれば、元画像データが白色又は黒色レベル方向において非対称な特性を有する場合などにおいても、適切な程度にシャープネス補正を行うことができる。
【0009】
上記の画像処理装置のさらに他の一態様では、前記補正量決定パターンは、前記補正基準量の絶対値が第1の所定値以上である場合の前記補正値の変化割合が、前記補正基準量の絶対値が第1の所定値以下である場合の前記補正量の変化割合より小さくなる特性を有するものとしてもよい。この態様によれば、元画像データがあるレベル以上になる部分にさらにシャープネス処理が施された結果、画像データ中の輪郭部分やレベル変化の急峻な部分が不自然に強調されることを防止することができる。
【0010】
上記の画像処理装置のさらに他の一態様では、前記補正量決定パターンは、前記補正基準量が、極性が負である第2の所定値から極性が正である第3の所定値の範囲内にある場合に、前記補正量を零とすることができる。また、上記の画像処理装置のさらに他の一態様では、前記補正基準量が、極性が負である第2の所定値から極性が正である第3の所定値の範囲内にある場合に、前記元画像データに対してスムージング処理を行う手段をさらに備えることができる。画像データのレベル変化がある程度小さい部分においては、そのレベル変化は画像自体の変化である場合の他に、画像データ上にのったノイズによるものである場合が多く、そのようなノイズ部分に対してもシャープネス処理を施すとノイズが強調された画像となってしまう。そこで、ある程度小さなレベル変化に対応する部分はノイズであるとみなし、シャープネス処理を行わないこととしてノイズ成分の強調を防止することができる。また、そのようなレベル変化の小さい部分をノイズ部分であるとみなしてスムージング処理を行うことにより、表示画像上のノイズの影響をさらに抑制することができる。
【0011】
上記の画像処理装置では、前記元画像データをSoとし、前記補正基準量データをSrとし、前記補正画像データをScとすると、前記補正量はF(Sr)で表される前記補正基準量データの関数であり、前記補正画像データScは、Sc=So+F(Sr)で表すことができる。こうして元画像データのレベル変化に応じて、適切な補正量だけシャープネス補正が行われることになり、適切な程度に元画像データの先鋭化を行うことができる。
【0012】
上記の画像処理装置では、前記補正量決定パターンは、特定の第1の補正基準量(P)に対する前記補正量F(P)と、前記第1の補正基準量Pと絶対値が等しく極性が異なる第2の補正基準量(−P)に対する前記補正量F(−P)との関係が、前記補正基準量Pが十分大きいときに、|F(P)|<|F(−P)|となる特性を有することができる。これにより、元画像データが白色又は黒色レベル方向において非対称な特性を有する場合などにおいても、適切な程度にシャープネス補正を行うことができる。
【0013】
上記の画像処理装置の一態様では、前記補正基準量データは、前記元画像データのラプラシアンとしてもよい。また、他の態様では、前記補正基準量データは、前記元画像データを所定のアンシャープフィルタによりフィルタリングして得られるアンシャープデータを、前記元画像データから減算して得られる差信号データとしてもよい。
【0014】
また、本発明の画像出力装置は、上記の画像処理装置と、前記画像データを出力する際の画像サイズを判定する画像サイズ判定手段と、前記画像サイズ判定手段により判定された画像サイズが、所定の画像サイズより小さい場合に、前記画像処理装置により前記元画像データに対してシャープネス処理を実行する制御手段と、前記元画像データ又は前記シャープネス処理により得られた補正画像データを出力する出力手段と、を備える。
【0015】
上記の画像出力装置によれば、画像データを出力する画像サイズが判定され、出力画像サイズが大きい場合には本発明によるシャープネス処理を行わない。一方、出力画像サイズが小さい場合には、本発明によるシャープネス処理を行うことにより、適度なシャープネス補正が行われ、小さな出力画像においても先鋭化が施された明瞭な画像を得ることができる。
【0016】
【発明の実施の形態】
以下、図面を参照して本発明の好適な実施の形態について説明する。
【0017】
[装置構成]
図1に、本発明の実施形態にかかる画像処理装置の主要部の概略構成を示す。図1に示すように、本発明の画像処理装置10は、シャープネス処理部11と、ドライバ12と、表示部(又はプリント部)13とを備える。本発明の画像処理装置10は、好適には携帯電話や携帯型端末装置などの、比較的小型の表示部を備える端末装置に適用される。また、本発明の画像処理装置10は、カラープリンタなどに適用することも可能であり、その場合にはプリント部13を備えることになる。
【0018】
シャープネス処理部11には、元画像データSoが入力される。画像処理装置10が携帯電話などの場合には、元画像データSoは通信路を介して携帯電話により受信された画像データとなる。また、画像処理装置10がプリンタの場合には、元画像データSoはパーソナルコンピュータなどからプリンタに供給される画像データとなる。
【0019】
シャープネス処理部11は、入力された元画像データSoに対してシャープネス処理を施して補正画像データScを生成し、補正画像データScをドライバ12へ供給する。ドライバ12は、補正画像データScに従って表示部(又はプリント部)13を駆動する。これにより、画像が表示され、又はプリントされる。
【0020】
図2にシャープネス処理部11の構成を示す。図2に示すように、シャープネス処理部11は、補正基準量決定手段15と、補正量演算手段16と、シャープネス処理手段17とを備える。シャープネス処理部11に入力された元画像データSoは、補正基準量決定手段15とシャープネス処理手段17に供給される。
【0021】
補正基準量決定手段15は、元画像データSoを利用して、補正基準量を決定する。ここで、補正基準量とは、元画像データSoに対して施すべきシャープネス処理の程度を示す量であり、具体的には後述のラプラシアン信号及び差信号を含む概念である。補正基準量演算手段15は、元画像データSoに基づいて補正基準量信号Srを生成し、これを補正量演算手段16に供給する。
【0022】
補正量演算手段16は、補正基準量信号Srにより示される補正基準量に基づいて、シャープネス処理による補正量を算出し、補正量信号Saをシャープネス処理手段17に供給する。補正量は、シャープネス処理の対象となる画像データのレベルをシャープネス処理により変化させる量に対応する。即ち、補正量の絶対値が大きい場合は、シャープネス処理により画像データのレベルが大きく変化し、画像の尖鋭度が大きく増加する。一方、補正量の絶対値が小さい場合は、シャープネス処理による画像データのレベル変化は小さく、画像の尖鋭度はそれほど大きくは増加しない。また、補正量の正負は、シャープネス処理により画像データを白色側と黒色側のいずれに変化させるかを示す。
【0023】
シャープネス処理手段17は、補正量演算手段16から供給される補正量信号Saが示す補正量に従って元画像データSoのレベルを変化させ、シャープネス処理後の画像データである補正画像データScを生成する。シャープネス処理手段17は、生成した補正画像データScを図1に示すドライバ12へ供給する。
【0024】
[補正基準量]
次に、補正基準量について詳しく説明する。補正基準量とは、シャープネス処理を施す程度を決定するための基準となる量であり、補正基準量信号Srはこの基準量を示す信号である。具体的には、補正基準量信号Srとしては、▲1▼元画像データSoのラプラシアン信号、又は、▲2▼元画像データSoから生成した差信号のいずれかを使用することができる。
【0025】
まず、補正基準量信号としてラプラシアン信号を使用する場合について説明する。図3(a)は、補正基準量信号としてラプラシアン信号を使用した場合の、元画像データSo、補正基準量信号Sr、補正量信号Sa及び補正画像データScの波形例を示す。なお、図3(a)において各波形の縦軸方向は元画像データの輝度を示し、図中の上方向を白、下方向を黒とする。また、各波形の横軸方向は時間を示す。
【0026】
ラプラシアン信号は、元画像データSoに対してラプラシアンフィルタによるフィルタリングを適用することにより得られる。ラプラシアンフィルタは、画像の空間フィルタリングに使用される微分フィルタの一種であり、数学的には2次微分操作に相当する処理を行うフィルタである。ラプラシアンフィルタの係数例を図3(b)及び図3(c)に示す。ラプラシアンフィルタは、画像中の濃度が急激に変化する輪郭部や高周波成分を強調する機能を有する。図3(a)に示すように、ラプラシアン信号は、元画像データSoのレベルが増加を始める部分と、増加が修了して一定レベルになる部分において波形に凹凸を有している。元画像データSoの波形が下側に凸である部分ではラプラシアン信号は負となり、元画像データSoの波形が上に凸である部分ではラプラシアン信号は正となる。このラプラシアン信号を補正基準量信号として、シャープネス処理を施す程度を決定することができる。
【0027】
次に、差信号について説明する。図4は、補正基準量信号として差信号を使用した場合の、元画像データSo、アンシャープデータSu、補正基準量信号Sr、補正量信号Sa及び補正画像データScの波形例を示す。なお、図4において各波形の縦軸方向は元画像データの輝度を示し、図中の上方向を白、下方向を黒とする。また、各波形の横軸方向は時間を示す。差信号は、元画像データSoからアンシャープデータSuを減算することにより得られ、ラプラシアン信号と同様に画像中の輪郭部分や高周波部分を示す信号である。アンシャープデータSuは、元画像データSoの所定範囲に対して平均化フィルタを適用することにより生成される。
【0028】
即ち、図4に示すように、元画像データSoを局所平均化することによりアンシャープデータSuが得られ、これを元画像データSoから減算することにより差信号Srが得られる。よって、Sr=So−Suとなる。
【0029】
なお、ラプラシアン信号と差信号はいずれも画像中の輪郭部分や高周波部分を示す信号であり、本発明ではどちらも補正基準量信号として使用することができる。但し、アンシャープ信号の生成方法によって、ラプラシアン信号と差信号とは必ずしも一致しない。
【0030】
[補正量の決定方法]
次に、補正基準量に基づいて補正量を決定する方法について説明する。補正量は、シャープネス処理により元画像データに対して与えられるレベル変化を示す量である。一般的には、シャープネス処理により得られる補正画像データは、元画像データに対して、補正基準量の定数倍に対応する補正量を加算することにより生成される。よって、
Figure 0004126938
となる。即ち、補正量は、補正基準量の定数α倍である。
【0031】
これに対し、本発明によるシャープネス処理では、補正量を単純に補正基準量Srの定数倍とするのではなく、補正基準量に応じて変化させることとした。言い換えれば、
補正量=F(Sr)として補正量を補正基準量の関数として定義し、補正量を補正基準量Srに応じて変化させることとした。即ち、
Figure 0004126938
となる。これにより、画像中のある部分においてシャープネス補正が強く施されすぎて画像自体が不自然となることを防止しつつ、必要な部分には適度なシャープネス補正を行うことができる。
【0032】
以下、補正基準量Srに基づいて補正量を決定する具体的な方法を、図5乃至9に例示する補正量決定パターンを参照して説明する。図5乃至9の各補正量決定パターンにおいて、横軸は補正基準量Srを示し、縦軸はシャープネス処理による補正量を示す。即ち、図5乃至9は、それぞれ、補正基準量の変化に対してシャープネス処理による補正量がどのように変化するかを示すグラフである。
【0033】
なお、実際に補正基準量に基づいて補正量を決定する方法としては、図5乃至9に例示するような補正量決定パターンを予めルックアップテーブルなどに記憶しておき、それを参照して補正量を求める方法がある。また、その代わりに、補正量決定パターンを規定した関数を予め用意し、その関数を使用して補正基準量から補正量を算出する方法もある。現実にどちらを採用するかは、本発明を適用する装置の要求する処理速度、処理精度などに応じて決定されることになる。
【0034】
図5(a)は本発明による補正量の決定方法の理解を容易にするために挙げた比較例であり、シャープネス補正量が補正基準量に比例する場合、つまり前述のように、補正基準量の定数倍を元画像データに加算してシャープネス処理を行う方法を示している。よって、図5(a)におけるグラフの傾きは前述の定数αに相当する。
【0035】
図5(b)に、本発明による補正量決定パターンの例1aを示す。例1aでは、基本的に補正量は補正基準量に比例する。しかし、補正基準量が所定値aより大きい、又は、所定値−aより小さい場合には、補正基準量が−a〜+aの範囲内のときに比べて補正量の増加割合を小さくしている。補正基準量の絶対値が大きいということは、その部分は画像のレベルが白色又は黒色側に急激に変化していることを示している。よって、そのような画像レベルが急激に変化する領域においては、補正基準量の増加に伴う補正量の増加割合を幾分抑制する。即ち、輝度の変化の大きい領域ではシャープネス処理による補正量を抑えることとして、シャープネス処理による過度な強調により画像が不自然となることを防止する。これによれば、前述のように、顔の画像の輪郭部がシャープネス処理の過度な強調により白く抜けて表示されることを防止できる。
【0036】
図5(c)に示す例1bは例1aの変形であり、補正基準量の絶対値が所定値b未満である場合には補正量をゼロとする、即ちシャープネス補正を行わないこととする方法である。補正基準量は画像データのレベルの急激な変化を示しており、補正基準量が大きい領域では画像データのレベルが大きく変化していることになる。一方、補正基準量が小さい領域では画像データのレベルはそれほど大きく変化しているわけではない。つまり、補正基準量の比較的小さな変化は、画像自体の内容によるレベルの変化ではなく、画像データに加わったノイズに対応するものである場合が多い。このような観点から、補正基準量の絶対値が所定値b未満である場合には、その程度の補正基準量の変化はノイズによるものであるとみなし、シャープネス処理を行わないこととする。画像中のノイズが大きい領域にシャープネスをかけると、そのノイズを強調、増大させてしまって画像がみにくくなる傾向があるので、例1bのように所定値b以下の補正基準量の変化をノイズと見なしてシャープネス処理の対象から除外することは、ノイズの比較的多い画像を見やすく表示するために有効である。
【0037】
図5(c)に示す例1cは基本的に例1bと同様の考え方に基づき、補正基準量の絶対値が所定値c未満である領域ではシャープネス処理を行わない。但し、例1cでは、補正基準量がシャープネス処理を行わない領域からシャープネス処理を行う領域に入るにつれて(即ち、補正基準量が所定値c未満から増加して所定値cを超えるのに応じて)、補正量をゼロから少しずつ増加させている。これにより、補正基準量の絶対値が所定値cに近い領域でシャープネス処理の適用、不適用が急激に変わることにより画像が不自然になることを防止することができる。
【0038】
図6に示す例2a及び例2bは、いずれも補正基準量に対して補正量が比例する関係にあるが、補正基準量が正である領域と負である領域とで補正量の増加割合を異ならせている点に特徴を有する。
【0039】
なお、補正基準量は、対象となる画素と、その画素の周辺の画素の相対的なレベル差により決まるものであり、対象となる画素自体のレベルとは無関係な量である。補正基準量が正の場合は画素データが上に凸、つまり、その画素が周辺画素に比べて白側に寄っていることを示している。また、補正基準量が負の場合は画素データが下に凸、つまり、その画素が周辺画素に比べて黒側に寄っていることを示している。シャープネス処理では一般的に、補正基準量が正の場合はシャープネス補正量も正側、即ち白側に補正し、補正基準量が負の場合はシャープネス補正量も負側、即ち黒側に補正する。但し、補正基準量が小さい場合にはシャープネス補正をしない場合もある。即ち、補正基準量が正でも白側に補正せず、補正基準量が負でも黒側に補正しない場合もある。
【0040】
例2aでは、補正基準量が正である領域(即ち画像データが上に凸、つまり該当画素が周辺画素に比べ白側に寄っており、補正方向としては白方向に補正される領域)の方が、補正基準量が負である領域(即ち画像データが下に凸、つまり該当画素が周辺画素に比べ黒側に寄っており、補正方向としては黒方向に補正される領域)より補正量の増加割合を抑えている。この例は、特に前述の人間の顔の一部が白く抜けるという現象を防止するために有効である。人間の肌色の輝度レベルは白色よりにあるので、画像データの白色よりの輝度領域で急激な輝度の変化がある表示画像上の場所では、シャープネスによる強調の程度を抑え気味にして、肌色領域が白く抜けてしまう不具合を効果的に防止することができる。
【0041】
一方、例2bでは、補正基準量が負である領域の方が、補正基準量が正である領域より補正量の増加割合を抑えている。これは、肌色部分が白く抜けることを防止する発想とは逆であるが、画像データのソース及び/又は画像データの処理方法などに依存して、シャープネス処理の対象となる元画像データが黒色よりの輝度レベルにおいてノイズを含みやすい独特の特性を有するなどの場合に、そのようなノイズを抑制するために有効となる。
【0042】
図7に示す例3a及び例3bは、いずれも補正基準量が所定値dを超える場合に補正量の増加割合を抑える方法であり、これも前述の肌色部分の白抜けという不具合を防止するために有効である。なお、例3aでは、補正基準量が所定値d以下であれば、補正基準量が負でも、補正基準量に対して同じ増加割合で補正量が決定される。これに対し、例3bでは、補正基準量が所定値eより小さい場合にも補正基準量に対する補正量の増加割合を抑えている。
【0043】
図8に示す例4a〜例4dは、いずれも補正基準量が正である領域の補正量の増加割合を、補正基準量が負である領域よりも小さく設定している。これにより、前述のように肌色の白抜けを防止している。また、いずれも場合も補正基準量の絶対値が所定値f未満である場合には補正量をゼロとしてシャープネス処理を行わないこととし、ノイズの強調を防止している。例4aでは、補正基準量の絶対値が所定値fとなる領域で不連続に補正量が決定される。即ち、補正基準量の絶対値がfに至るまではシャープネス処理は行わないが、補正基準量の絶対値がfになると所定の補正量でシャープネス処理が行われることになる。これに対して、例4b及び例4cでは、補正基準量の絶対値がfになると、その後補正量がゼロから徐々に増加していき、シャープネス処理による画像の強調が徐々に行われることになる。なお、例4bでは補正基準量の絶対値がfになった後、補正量が最初は曲線的に、その後直線的に増加するのに対し、例4c及び例4dでは補正基準量の絶対値がfになった後、補正量が最初から直線的に増加する。なお、例4cは補正量が傾きの異なる2つの直線に沿って増加する例であり、例4dは1つ傾きの直線に沿って増加する例である。
【0044】
図9(a)に示す例5では、補正基準量の絶対値が小さい場合にはシャープネス処理を行わないこととし、かつ、補正基準量が正方向(白色方向に凸の度合い)及び負方向(黒色方向に凸の度合い)に増加した場合に、シャープネス処理を開始する値を異ならせている。即ち、補正基準量が正方向に増加する場合は、補正基準量が所定値gになるまでシャープネス処理を行わないのに対し、補正基準量が負方向に増加する場合は、所定値−h(h<g)でシャープネス処理を開始する。また、補正基準量が所定値jより大きい場合は、補正量は一定値L1とし、補正基準量が所定値−kより小さい場合は、補正量は一定値L2とする。即ち、補正基準量が所定値を超えた場合は、補正量を一定値に維持して、シャープネス処理による過度の強調を防止する。また、その場合にも、補正基準量が白色方向に増加する場合には、黒色方向に増加する場合よりも小さい値(L1)に補正量を維持して、肌色部分の白抜けを防止している。
【0045】
図9(b)に示す例6では、補正基準量に対して、補正量が段階的に設定されている。この方法によれば、補正基準量に基づく補正量の決定をルックアップテーブルを用いて行う場合には、ルックアップテーブル内に記憶すべきデータ量を低減することができるし、補正基準量に基づく補正量の決定を所定の関数を利用した演算により行う場合には、演算に要する処理負担及び処理時間を軽減することができるという利点を有する。
【0046】
また、図9(c)に示すように、シャープネス処理の対象となる画像データの特性に応じて、補正基準量に対する補正量の変化を、予め設計された曲線により規定し、なめらかに補正値を制御することもできる。
【0047】
[シャープネス処理]
次に、本発明によるシャープネス処理の流れについて説明する。図10は、本発明のシャープネス処理のフローチャートである。なお、以下の説明では、本発明のシャープネス処理を実行する画像処理装置を携帯電話に適用した場合について説明する。
【0048】
まず、携帯電話は表示すべき元画像データSoを受信し、図1に示すシャープネス処理部11へ供給する(ステップS1)。
【0049】
シャープネス処理部11内では、供給された元画像データSoを図示しない作業メモリなどに一時的に展開し、その元画像データSoを使用して補正基準量決定手段15が補正基準量を決定し、補正基準量信号Srを生成する(ステップS2)。この補正基準量信号Srは、前述のように図3(a)に示すラプラシアン信号である場合と、図4に示す差信号である場合とがある。ラプラシアン信号である場合は、補正基準量決定手段15は、作業メモリなどに展開された元画像データSoに対して例えば図3(b)又は(c)に示すようなラプラシアンフィルタを用いてフィルタリングを行い、ラプラシアン信号を生成して補正基準量信号Srとする。一方、補正基準量信号Srが差信号である場合は、補正基準量決定手段15は所定のアンシャープフィルタを使用して図4に示すアンシャープデータを生成し、元画像データSoからアンシャープデータを減算して差信号を生成して補正基準量信号Srとする。
【0050】
次に、こうして得られた補正基準量信号Srを利用して、図2に示す補正量演算手段16が補正量を演算し、補正量信号Saを生成する(ステップS3)。補正量の演算は、図5乃至図9に示した補正量決定パターンのいずれかを使用して行われる。補正量決定パターンは前述のように、予めルックアップテーブルの形態で用意され、又は関数として定義されている。補正量演算手段16は、補正基準量信号Srに含まれる各補正基準量毎に、ルックアップテーブルを参照し、又は関数に従って演算を行うことにより補正量を算出して補正量信号Saを生成する。そして、補正量演算手段16は得られた補正量信号Saをシャープネス処理手段17へ供給する。
【0051】
シャープネス処理手段17は、元画像データSoに対して、補正量信号Saに基づいてシャープネス処理を行い、補正画像データScを生成する(ステップS4)。具体的には、図3(a)及び図4に示すように、補正量信号Saを元画像データSoに加算することにより補正画像データScを生成する。そして、生成した補正画像データScをドライバ12に出力する。
【0052】
ドライバ12は、受信した補正画像データScを表示部13に表示する(ステップS5)。こうして、本発明によるシャープネス処理が行われ、シャープネス処理により補正された補正画像データScが表示部13に表示される。
【0053】
[変形例]
上記の説明では、画像データを色成分を含むカラー画像データとしているが、本発明のシャープネス処理を適用する画像表示装置などが画像データをRGB毎の画像データとして処理し、表示する場合には、上記のシャープネス処理をRGB各色の画像データごとに個別に適用することができる。
【0054】
その場合には、シャープネス処理部11内の補正基準量決定手段は、RGB各色の画像データからまず輝度データを算出し、その輝度データを利用して補正基準量、即ち、ラプラシアン信号又は差信号を生成すればよい。その場合、シャープネス処理による補正前のRGB各色の元画像データをそれぞれR、G、Bとし、元画像データから算出した輝度データYに基づいて算出された補正基準量をYrとすると、補正後のRGB各色の画像データRc、Gc、Bcは、
Rc=R+F(Yr)
Gc=G+F(Yr)
Bc=B+F(Yr)
と表すことができる。
【0055】
なお、本発明のシャープネス処理を適用する画像表示装置などのハードウェア能力に制限があり、又は、高速処理が要求されるなどの理由により、上記のようにRGB各色の画像データから輝度データを算出することが望ましくない場合には、輝度データの代わりにG(緑色)データのみを使用することができる。即ち、Gデータに基づいて、補正基準量決定手段15がラプラシアン信号又は差信号を生成して補正基準量とすることができる。この理由は、画像データをRGB各色の画像データとした場合、一般的にG(緑色)が最も感度が高く、かつ、ノイズが少ないと言われているためである。よって、Gデータを利用して補正基準量を求めることとすれば、本来の輪郭とノイズとの区別が比較的つけやすく、BやGなどの輪郭とノイズとの区別がつけにくい色画像データにおいても先鋭化が行いやすいという利点がある。また、上述のようにRGB各色の画像データから輝度データを算出する必要がないので、当然処理負担が軽くなり、処理を高速化できるという利点がある。
【0056】
そのように、Gデータを使用して補正基準量を求める場合、補正後のRGB各色の画像データRc、Gc、Bcは、Gデータに基づいて生成された補正基準量をGrとすると、
Rc=R+F(Gr)
Gc=G+F(Gr)
Bc=B+F(Gr)
と表すことができる。
【0057】
[応用例]
次に、本発明のシャープネス処理の応用例を説明する。まず、図11(a)を参照して第1の応用例を説明する。
【0058】
図11(a)は本発明のシャープネス処理を、ネットワークを通じた画像データの送信に応用した例である。画像送信者であるサーバはネットワークを介してある画像データを受信者Aと受信者Bへ送信する。受信者Aは画像表示装置として携帯電話を使用し、受信者Bは画像表示装置としてパーソナルコンピュータ(PC)を使用している。ここで、サーバは、各受信者A及びBが使用している画像表示装置が何であるか(携帯電話であるかPCであるか)を、通信信号中に含まれるデータにより把握している。即ち、サーバは受信者Aとの通信中に、受信者Aが使用している装置が携帯電話であることを示す機器種別情報を携帯電話から受信しているし、受信者Bとの通信中には、受信者Bが使用している装置がPCであることを示す機器種別情報をPCから受信している。
【0059】
サーバは、受信者Aから特定の画像データの送信要求を受け取ると、その画像データに対して要求された画像データを送信する。その際、携帯電話の表示領域は一般的に小さいので、送信すべき画像データに対して、本発明によるシャープネス処理を施してから送信する。受信者Aの携帯電話は、サーバから受信した画像データをそのまま携帯電話の表示部上に表示するので、表示領域が比較的小さい携帯電話の表示部上でもシャープネス処理により画像が効果的に先鋭化された画像が表示される。
【0060】
サーバは、受信者Bから特定の画像データの送信要求を受け取ると、その画像データに対して要求された画像データを送信する。その際、PCの表示領域は一般的に比較的大きいので、送信すべき画像データに対して、本発明によるシャープネス処理を施さずに送信する。受信者BのPCは、サーバから受信した画像データをそのまま携帯電話の表示部上に表示するので、表示領域が比較的大きい携帯電話の表示部上には適度なシャープネス処理がなされた画像が表示される。
【0061】
なお、携帯電話及びPCからサーバが受信できる機器種別情報に、携帯電話やPCなどの画像表示領域の大きさを示す情報が含まれる場合には、サーバ装置は、その画像表示領域の大きさに応じて、送信すべき画像データに本発明のシャープネス処理を適用するか否かを決定することができる。
【0062】
次に、図11(b)を参照して第2の応用例を説明する。第2の応用例は、本発明のシャープネス処理をカラープリンタによる画像のプリント出力に応用したものである。プリンタは外部のPCなどからプリント指示及びプリントデータの供給を受ける。プリント指示には、プリントすべき画像データの大きさを示すプリントサイズ情報が含まれている。よって、プリンタはプリントサイズ情報を参照し、所定のプリントサイズよりも大きいプリントを行う場合には本発明によるシャープネス処理を行わずにプリントデータをプリントする。一方、プリント指示に含まれるプリントサイズ情報が所定のプリントサイズよりも小さいプリントサイズを指定している場合には、本発明によるシャープネス処理を適用した後のプリントデータをプリントする。これにより、プリントデータのサイズが小さい場合には、本発明のシャープネス処理により先鋭化を行った画像データがプリントされるので、プリントサイズが小さい場合でも明瞭な画像をプリントすることができる。
【図面の簡単な説明】
【図1】本発明によるシャープネス処理を行う画像処理装置の主要部の概略構成を示す
【図2】図1に示すシャープネス処理部の構成を示す
【図3】補正基準量信号としてラプラシアン信号を使用する場合の各信号の例、及び、ラプラシアンフィルタフィルタの係数例を示す。
【図4】補正基準量信号として差信号を使用する場合の各信号の例を示す。
【図5】本発明のシャープネス処理により使用する補正量決定パターンの例を示す。
【図6】本発明のシャープネス処理により使用する補正量決定パターンの他の例を示す。
【図7】本発明のシャープネス処理により使用する補正量決定パターンのさらに他の例を示す。
【図8】本発明のシャープネス処理により使用する補正量決定パターンのさらに他の例を示す。
【図9】本発明のシャープネス処理により使用する補正量決定パターンのさらに他の例を示す。
【図10】本発明のシャープネス処理のフローチャートである。
【図11】本発明のシャープネス処理の応用例を示す。
【符号の説明】
10 画像処理装置
11 シャープネス処理部
12 ドライバ
13 表示部(プリント部)
15 補正基準量決定手段
16 補正量演算手段
17 シャープネス処理手段

Claims (8)

  1. 元画像データのレベル変化を検出し、検出した前記レベル変化に基づいて、シャープネス処理による補正の基準量を示す補正基準量信号を生成する補正基準量決定手段と、
    前記補正基準量信号に基づき、予め決められた補正量決定パターンに従って補正量を演算する補正量演算手段と、前記補正量に応じて前記元画像データに対してシャープネス処理を施して補正画像データを生成するシャープネス処理手段と、を備え、前記補正量決定パターンは、前記元画像データの白色成分が増加するように前記補正基準量が変化する場合の前記補正量の変化割合が、前記元画像データの黒色成分が増加するように前記補正基準量が変化する場合の前記補正量の変化割合よりも小さくなる特性を有し、前記元画像データをSoとし、前記補正基準量データをSrとし、前記補正画像データをScとすると、前記補正量はF(Sr)で表される前記補正基準量信号の関数であり、前記補正画像データScは、Sc=So+F(Sr)で表されることを特徴とする画像処理装置。
  2. 前記補正量決定パターンは、前記補正基準量の絶対値が第1の所定値以上である場合の前記補正値の変化割合が、前記補正基準量の絶対値が第1の所定値以下である場合の前記補正量の変化割合より小さくなる特性を有することを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正量決定パターンは、前記補正基準量が、極性が負である第2の所定値から極性が正である第3の所定値の範囲内にある場合に、前記補正量を零とすることを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記補正基準量が、極性が負である第2の所定値から極性が正である第3の所定値の範囲内にある場合に、前記元画像データに対してスムージング処理を行う手段をさらに備えることを特徴とする請求項に記載の画像処理装置。
  5. 前記補正量決定パターンは、特定の第1の補正基準量(P)に対する前記補正量F(P)と、前記第1の補正基準量Pと絶対値が等しく極性が異なる第2の補正基準量(−P)に対する前記補正量F(−P)との関係が、前記補正基準量Pが十分大きいときに、
    |F(P)| < |F(−P)|
    となる特性を有することを特徴とする請求項1乃至4のいずれか一項に記載の画像処理装置。
  6. 前記補正基準量信号は、前記元画像データのラプラシアンであることを特徴とする請求項1乃至のいずれか一項に記載の画像処理装置。
  7. 前記補正基準量信号は、前記元画像データを所定のアンシャープフィルタによりフィルタリングして得られるアンシャープデータを、前記元画像データから減算して得られる差信号データであることを特徴とする請求項1乃至のいずれか一項に記載の画像処理装置。
  8. 請求項1乃至のいずれか一項に記載の画像処理装置と、前記画像データを出力する際の画像サイズを判定する画像サイズ判定手段と、前記画像サイズ判定手段により判定された画像サイズが、所定の画像サイズより小さい場合に、前記画像処理装置により前記元画像データに対してシャープネス処理を実行する制御手段と、前記元画像データ又は前記シャープネス処理により得られた補正画像データを出力する出力手段と、を備えることを特徴とする画像出力装置。
JP2002081065A 2002-03-22 2002-03-22 画像処理装置および画像出力装置 Expired - Lifetime JP4126938B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2002081065A JP4126938B2 (ja) 2002-03-22 2002-03-22 画像処理装置および画像出力装置
US10/385,747 US7215822B2 (en) 2002-03-22 2003-03-12 Image processing device and image outputting device
EP03251549A EP1347634A3 (en) 2002-03-22 2003-03-13 Image sharpness processing device
TW092105944A TWI223548B (en) 2002-03-22 2003-03-18 Image processing device and image output device
CNB031074545A CN1221124C (zh) 2002-03-22 2003-03-21 图象处理装置及图象输出装置
KR1020030017959A KR100685568B1 (ko) 2002-03-22 2003-03-22 화상 처리 장치 및 화상 출력 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002081065A JP4126938B2 (ja) 2002-03-22 2002-03-22 画像処理装置および画像出力装置

Publications (2)

Publication Number Publication Date
JP2003281533A JP2003281533A (ja) 2003-10-03
JP4126938B2 true JP4126938B2 (ja) 2008-07-30

Family

ID=27785365

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002081065A Expired - Lifetime JP4126938B2 (ja) 2002-03-22 2002-03-22 画像処理装置および画像出力装置

Country Status (6)

Country Link
US (1) US7215822B2 (ja)
EP (1) EP1347634A3 (ja)
JP (1) JP4126938B2 (ja)
KR (1) KR100685568B1 (ja)
CN (1) CN1221124C (ja)
TW (1) TWI223548B (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100617661B1 (ko) * 2004-01-02 2006-08-28 엘지전자 주식회사 영상 처리 장치 및 그 방법
JP4127537B2 (ja) * 2004-02-04 2008-07-30 富士フイルム株式会社 画像処理方法および装置並びにプログラム
JP4387220B2 (ja) * 2004-02-24 2009-12-16 株式会社日立製作所 映像表示方法及びその装置
JP4549723B2 (ja) * 2004-04-19 2010-09-22 株式会社メガチップス 画像信号強調装置
CN101685535B (zh) * 2004-06-09 2011-09-28 松下电器产业株式会社 图象处理方法
CN100414961C (zh) * 2005-02-23 2008-08-27 友达光电股份有限公司 影像处理方法
CA2835047C (fr) 2005-03-07 2017-04-18 Dxo Labs Procede pour commander une action, notamment une modification de nettete, a partir d'une image numerique en couleurs
US7567251B2 (en) * 2006-01-10 2009-07-28 Sony Corporation Techniques for creating facial animation using a face mesh
KR100816187B1 (ko) 2006-11-21 2008-03-21 삼성에스디아이 주식회사 플라즈마 디스플레이 장치 및 그것의 영상 처리 방법
CN101316320B (zh) * 2007-05-28 2010-06-23 联詠科技股份有限公司 用于图像处理系统的图像处理方法及其相关图像处理装置
TW200939154A (en) * 2008-03-14 2009-09-16 Holtek Semiconductor Inc An edge extraction and enhancement
JP4764938B2 (ja) * 2009-04-07 2011-09-07 シャープ株式会社 画像処理装置、画像形成装置、画像処理装置の制御方法、プログラム、記録媒体
JP2018061187A (ja) * 2016-10-07 2018-04-12 キヤノン株式会社 画像処理装置及び画像処理方法
KR102342940B1 (ko) * 2021-06-23 2021-12-27 주식회사 포바이포 선예도 개선을 위한 심층 기울기 사전정보기반 l0 스무딩 방법

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6195669A (ja) 1984-10-16 1986-05-14 Dainippon Screen Mfg Co Ltd 画像処理方法
JP2510687B2 (ja) * 1987-08-13 1996-06-26 日本電信電話株式会社 高速欠陥検出方法および装置
JP2575476B2 (ja) 1988-10-20 1997-01-22 富士写真フイルム株式会社 画像信号処理方法およびその装置
US5267031A (en) * 1988-11-14 1993-11-30 Canon Kabushiki Kaisha Color image processing apparatus
JP2620368B2 (ja) 1989-04-18 1997-06-11 富士写真フイルム株式会社 画像信号処理方法およびその装置
DE3919817C2 (de) 1989-06-16 1996-03-28 Broadcast Television Syst Schaltungsanordnung zur digitalen Aperturkorrektur eines Videosignals
US5146319A (en) 1989-07-13 1992-09-08 Zenith Electronics Corporation Digital luminance signal transient improver and peaker
JPH0662230A (ja) 1992-08-10 1994-03-04 Ricoh Co Ltd 画像形成装置
JPH0696201A (ja) 1992-09-09 1994-04-08 Fuji Photo Film Co Ltd 画像処理装置
US5493322A (en) * 1993-04-01 1996-02-20 Eastman Kodak Company Electrophotographic image forming apparatus with non-uniformity correction of recording elements
JPH089135A (ja) 1994-06-14 1996-01-12 Minolta Co Ltd プリンタ
US5612903A (en) * 1995-02-01 1997-03-18 Miller; Bertram W. Process for obtaining balanced color prints
US5767983A (en) * 1995-03-24 1998-06-16 Fuji Photo Film Co., Ltd. Color copying apparatus for determining exposure amount from image data of an original image and a reference image
JP3494764B2 (ja) * 1995-08-09 2004-02-09 富士写真フイルム株式会社 画像データの補間演算方法および装置
JPH09172547A (ja) * 1995-10-19 1997-06-30 Ricoh Co Ltd カラー画像形成装置
JPH1028225A (ja) 1996-07-12 1998-01-27 Ricoh Co Ltd Mtf補正装置
JP3779400B2 (ja) * 1996-11-28 2006-05-24 株式会社東芝 画像処理方法
US6633330B1 (en) * 1996-12-24 2003-10-14 Mitsubishi Denki Kabushiki Kaisha Color characteristic measuring apparatus and method, and storage medium of image pickup data
JPH10285610A (ja) * 1997-04-01 1998-10-23 Sony Corp 色補正装置および色補正制御装置
US6172718B1 (en) 1998-04-17 2001-01-09 S3 Incorporated Adaptive dynamic aperture correction
US6646655B1 (en) * 1999-03-09 2003-11-11 Webex Communications, Inc. Extracting a time-sequence of slides from video
JP3661584B2 (ja) * 2000-01-28 2005-06-15 セイコーエプソン株式会社 電気光学装置、画像処理回路、画像データ補正方法、および、電子機器
JP2001224040A (ja) * 2000-02-08 2001-08-17 Oki Electric Ind Co Ltd 輝度及び色差分離回路
JP3363872B2 (ja) * 2000-06-23 2003-01-08 株式会社東京機械製作所 切断見当及び印刷見当自動調整機能を有する同期制御装置

Also Published As

Publication number Publication date
CN1221124C (zh) 2005-09-28
EP1347634A2 (en) 2003-09-24
KR20030076452A (ko) 2003-09-26
TWI223548B (en) 2004-11-01
KR100685568B1 (ko) 2007-02-22
US7215822B2 (en) 2007-05-08
CN1447585A (zh) 2003-10-08
TW200307452A (en) 2003-12-01
JP2003281533A (ja) 2003-10-03
US20030179946A1 (en) 2003-09-25
EP1347634A3 (en) 2005-01-19

Similar Documents

Publication Publication Date Title
JP4126938B2 (ja) 画像処理装置および画像出力装置
JP2005506724A (ja) デジタル画像の外観向上および圧縮性改善方法およびシステム
JP2005269639A (ja) カラー画像−グレースケール画像変換方法及びシステム、グレースケール画像、カラー−グレースケール変換改善方法、及び、エッジ強調方法
JP4099936B2 (ja) 画像処理装置、画像処理方法および画像処理プログラムが格納された記録媒体
JP2007310887A (ja) 画像データの自動マッピング方法及び画像処理デバイス
JP2007310886A (ja) 画像データの自動マッピング方法及び画像処理デバイス
JP4262151B2 (ja) 画像処理方法および画像処理装置およびコンピュータプログラムおよび記憶媒体
JP2006523343A (ja) ディジタル画像の選択的エンハンスメント
JP3545979B2 (ja) 輪郭補正装置
JP2005341249A (ja) 画像処理装置
JP2006343863A (ja) 画像処理装置及びその方法
JP2008011286A (ja) 画像処理プログラムおよび画像処理装置
JP2003281534A (ja) 画像処理装置および画像出力装置
JP4138345B2 (ja) 画像処理装置および画像出力装置
JP2009010636A (ja) 適応ヒストグラム等化方法及び適応ヒストグラム等化装置
JP2017037622A (ja) 画像処理装置及びプログラム
TW200416620A (en) Variable contrast mapping of digital images
JPH10340332A (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体
JP4375223B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2000285232A5 (ja)
JP2009081631A (ja) 画像処理装置、方法、および、プログラム
JP2003115998A (ja) 画像処理装置、画像処理方法、画像処理制御プログラムを記録した媒体
JP2729278B2 (ja) 画像の2値化表現方法
JP2023063871A (ja) 画像形成装置およびその制御方法
JP4239254B2 (ja) 画像処理装置および画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041126

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20070402

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080422

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080505

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4126938

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130523

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140523

Year of fee payment: 6

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term