JP2000151990A - 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録した媒体 - Google Patents
画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録した媒体Info
- Publication number
- JP2000151990A JP2000151990A JP10316456A JP31645698A JP2000151990A JP 2000151990 A JP2000151990 A JP 2000151990A JP 10316456 A JP10316456 A JP 10316456A JP 31645698 A JP31645698 A JP 31645698A JP 2000151990 A JP2000151990 A JP 2000151990A
- Authority
- JP
- Japan
- Prior art keywords
- interpolation
- image data
- color tone
- pixel
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 213
- 239000011159 matrix material Substances 0.000 claims abstract description 12
- 230000008569 process Effects 0.000 claims description 109
- 238000010586 diagram Methods 0.000 description 18
- 230000008859 change Effects 0.000 description 10
- 235000012736 patent blue V Nutrition 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 238000012888 cubic function Methods 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 238000009499 grossing Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 239000000976 ink Substances 0.000 description 3
- 238000012886 linear function Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 101100280298 Homo sapiens FAM162A gene Proteins 0.000 description 1
- 101100402621 Homo sapiens MSANTD4 gene Proteins 0.000 description 1
- 102100031642 Myb/SANT-like DNA-binding domain-containing protein 4 Human genes 0.000 description 1
- 102100023788 Protein FAM162A Human genes 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000007788 roughening Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
り、画像によっては好ましい場合もあるし好ましくない
場合も生じてしまう。 【解決手段】 カラーの自然画像をドットマトリクス状
の画素で表現した画像データを補間する際に、画素を補
間生成するために参照する領域である注目ブロックにつ
いて色度の代表値を取得し(ステップ110)、当該色
度から肌色領域や空色領域であると判断すると(ステッ
プ115,120)、バイリニア法で画素補間する(ス
テップ130)ので滑らかに拡大されるし、そうでない
色調の領域についてはMキュービック法で画素補間する
(ステップ125)のでシャープに拡大されることにな
り、画像全体としてはシャープさを維持しつつ人の肌や
青空の部分がざらついたりすることを防止できる。
Description
法、画像データ補間装置および画像データ補間プログラ
ムを記録した媒体に関する。
画像をドットマトリクス状の画素で表現し、各画素を階
調値で表している。例えば、コンピュータの画面で水平
方向に640ドット、垂直方向に480ドットの画素で
写真やコンピュータグラフィックスを表示することが多
い。
しく、そのドット密度は720dpiというように極め
て高精度となっている。すると、640×480ドット
の画像をドット単位で対応させて印刷させようとすると
極めて小さくなってしまう。この場合、階調値も異なる
上、解像度の意味合い自体が異なるのであるから、ドッ
ト間を補間して印刷用のデータに変換しなければならな
い。従来、このような場合にドットを補間する手法とし
て、最近隣内挿法(ニアリストネイバ補間:以下、ニア
リスト法と呼ぶ)や、3次たたみ込み内挿法(キュービ
ックコンボリューション補間:以下、キュービック法と
呼ぶ)などの手法が知られている。また、特開平6−2
25140号公報にはドットを補間したときの縁部のス
ムージングを行うにあたり、予め縁部がスムーズとなる
ような拡大形態となるようにドットパターンを用意して
おく技術が開示されている。
にはシャープな方が好まれる。特に、画素補間すること
によってシャープさが劣化してしまうのは好ましくな
い。従って、基本的にはシャープにする処理を実行して
いる。しかしながら、必ずしも全てがシャープであれば
よいわけではなく、シャープにする修整をかけることに
よってざらついた感じが現れてしまい、好ましくない。
上述した従来の手法においては、それぞれにシャープさ
への影響度が異なり、ある画像データに対して補間処理
を実行することにより、一律に特定のシャープさを調整
することになる。従って、画像によっては好ましい場合
もあるし好ましくない場合も生じてしまい、これを避け
るには操作する側で補間処理を選択する必要があるとい
う課題があった。また、補間処理を選択したとしても画
像の部分部分によって望ましいシャープさが異なるた
め、結局は妥協しなければならなかった。
もので、画像の種類や被写体にかかわらずシャープさを
良好にして補間することが可能な画像データ補間方法、
画像データ補間装置および画像データ補間プログラムを
記録した媒体の提供を目的とする。
め、請求項1にかかる発明は、カラーの自然画像をドッ
トマトリクス状の画素で表現した画像データを取得する
画像データ取得工程と、シャープさに影響を与える複数
の補間処理を前提として色調によって適度なシャープさ
となるような色調と補間処理とを対応づけるとともに、
補間される画素の色調に基づいてこの対応関係から選択
される所定の補間処理を実行する色調対応画素補間工程
と、補間された画像データを出力する画像データ出力工
程とを実行する構成としてある。
明においては、画像データ取得工程にてカラーの自然画
像をドットマトリクス状の画素で表現した画像データを
取得する。カラーの自然画の場合、様々な被写体が想定
され、被写体によってはシャープであることが好ましい
場合と、シャープでない方が好ましい場合とがある。こ
れらの場合において、ある色調をして固有の被写体を代
表させることも可能であり、例えば、肌色であれば人の
肌が被写体であるとみなすことも不可能ではない。そし
て、人の肌が被写体であるときにはシャープにしすぎる
と肌がざらついた感じに見えて好ましくない。従って、
肌色であれば被写体が人の肌であると見なしてシャープ
さを強調しないような処理を実行することによって好ま
しい画像を得られる。
間を実行するにあたり、シャープさに影響を与える複数
の補間処理を前提として色調によって適度なシャープさ
となるような色調と補間処理とを対応づけるとともに、
補間される画素の色調に基づいてこの対応関係から選択
される所定の補間処理を実行している。そして、画像デ
ータ出力工程でこのようにして補間された画像データを
出力する。すなわち、補間される画素の色調に基づいて
所定の補間処理を選択して実行すると、その色調に対応
したシャープさとなるように画素が補間される。
を対応づける手法は各種のものを採用可能である。その
一例として、請求項2にかかる発明は、請求項1に記載
の画像データ補間方法において、上記色調対応画素補間
工程では、シャープさに影響を与える複数の補間処理を
前提として色調によって適度なシャープさとなるような
色調と補間処理との対応関係を取得する補間処理選択基
準取得工程と、補間される画素の色調に基づいて上記補
間処理選択基準取得工程にて対応する補間処理を取得し
て実行する画素補間工程とを実行する構成としてある。
明においては、画素を補間する際、シャープさに影響を
与える複数の補間処理を前提として色調によって適度な
シャープさとなるような色調と補間処理との対応関係を
補間処理選択基準取得工程にて取得し、画素補間工程で
は補間される画素の色調に基づいてこの補間処理選択基
準取得工程にて対応する補間処理を取得し、実行する。
すなわち、予め対応関係を定めておき、補間される画素
に基づいてその対応関係から補間処理を選択する。例え
ば、複数の補間処理を用意しておき、画素の色調によっ
ていずれかの補間処理を実行する。シャープにしたい場
合はキュービック法の補間処理を選択し、シャープにし
たくない色調の場合には後述するようなバイリニア法の
補間処理を選択するといった具合にすればよい。
に限定されるものではなく、複数の補間処理を重ねて実
行することも可能であり、その一例として、請求項3に
かかる発明は、請求項1に記載の画像データ補間方法に
おいて、上記色調対応画素補間工程では、シャープさに
影響を与える複数の補間処理を重ねて実行するとともに
各処理で負担する補間倍率を調整して所望のシャープさ
とする構成としてある。
明においては、シャープさに影響を与える複数の補間処
理を重ねて実行することとし、さらに、各処理で負担す
る補間倍率を調整して所望のシャープさとしている。例
えば、シャープさの強調度が大きい第一の補間処理と、
シャープさの強調度が小さい第二の補間処理とを実行し
て、最終的に6倍の補間処理を実現しようとするとき、
第一の補間処理で2倍の補間処理を実行しつつ第二の補
間処理で3倍の補間処理を実行するのと、第一の補間処
理で3倍の補間処理を実行しつつ第二の補間処理で2倍
の補間処理を実行するのとでは最終的なシャープさには
差が出てくる。従って、かかる負担割合の相違によって
所定の色調に対して最適なシャープさとなるように調整
する。
理としてキュービック法を採用し、第二の補間処理とし
てバイリニア法を利用するというようにして実現可能で
ある。また、一つの補間処理であっても、パラメータの
与え方などによってシャープさに影響を及ぼすようにす
ることも可能であり、その一例として、請求項4にかか
る発明は、請求項1〜請求項3のいずれかに記載の画像
データ補間方法において、上記色調対応画素補間工程で
は、パラメータによってシャープさに対する影響度が異
なる補間処理を実行するとともにこのパラメータを調整
して所望のシャープさとなるように構成してある。
明においては、上記色調対応画素補間工程で実行する補
間処理がパラメータによってシャープさに対する影響度
が異なるものであるから、このパラメータを調整するこ
とにより、シャープさは所望のものとなる。すなわち、
シャープにしたい色調の場合にはシャープにするパラメ
ータを与え、シャープにしたくない色調の場合にはあえ
てぼけやすくして滑らかになるようなパラメータを与え
る。
うな結果を得ることになるのかは適宜設定することが可
能であり、その一例として、請求項5にかかる発明は、
請求項1〜請求項4のいずれかに記載の画像データ補間
方法において、上記色調対応画素補間工程では、ざらつ
いた感じが好まれない色領域に対して画像を滑らかな感
じにする補間処理を実行する構成としてある。また、請
求項6にかかる発明は、請求項5に記載の画像データ補
間方法において、上記色調対応画素補間工程では、肌色
の色領域の画像を滑らかな感じにする構成としてある。
5または請求項6のいずれかに記載の画像データ補間方
法において、上記色調対応画素補間工程では、青空の色
領域の画像を滑らかな感じにする構成としてある。上述
したように肌色の部分は人体であることが多く、画像を
見るものも自ずからその部分に注目する。従って、シャ
ープすぎるとざらついた感じが明らかになり、目障りに
なるが、肌色の色調であれば滑らかな感じとなるような
補間処理を実行するので、人体部分でざらつきが生じる
ことが無くなる。
きな面積を占めていることも多いが、このような青空の
部分もざらつきが目立ちやすい対象であり、また、少々
シャープでないことは何ら支障もない。従って、青空の
色領域であれば画像を滑らかな感じにする。ところで、
新たに補間される画素の色調に基づいて補間処理を選択
するといっても補間される画素の色調を決定するのは既
存の画素であり、既存の画素の色調を基準としてもよい
ことは当然である。その場合の手法の一例として、請求
項8にかかる発明は、請求項1〜請求項7のいずれかに
記載の画像データ補間方法において、上記色調対応画素
補間工程では、補間画素を生成するに必要な領域画素の
平均的な色調に基づいて補間処理を判断する構成してあ
る。
明においては、補間画素を生成するに必要な領域があ
り、この領域内の画素の色調が補間画素を生成すること
になるのであるから、当該領域画素の平均的な色調に基
づいて補間処理を判断する。ここでいう平均的な色調は
必ずしも平均値だけに限定されるものではなく、メジア
ンであっても良いし、画素の位置に依存する影響度合い
に基づいて重み付けした値を採用することもできる。
であるとすると、必ずしも厳密に領域画素を判断する必
要はない。そのような意味で、請求項9にかかる発明
は、請求項1〜請求項7のいずれかに記載の画像データ
補間方法において、上記色調対応画素補間工程では、注
目画素を決めて画像データを走査しながら補間処理を実
行するとともに、その注目画素の色調に基づいて補間処
理を判断する構成としてある。
明においては、一つの注目画素を決めて画像データ中を
順次移動させることにより全体を走査していく。このよ
うな注目画素である一画素の色調に基づいて補間処理を
判断することにより、平均値を求めるなどの別個の処理
の必要性がなくなる。ところで、色調と補間処理との対
応は必ずしも固定的なものではなく、色調に基づいてシ
ャープさを適宜調整するものであっても良い。例えば、
ある色調の領域についてその内外だけの判断で補間処理
を切り換えるだけでなく、境界部分では順次シャープさ
を増減させていくようにしても良い。
って追加したり削除するということも当然に可能であ
り、請求項10にかかる発明は、請求項1〜請求項9の
いずれかに記載の画像データ補間方法において、上記色
調対応画素補間工程では、色領域と実行する補間処理と
の対応付けを指定可能とした構成としてある。このよう
な指定はコンピュータのプログラムであれば個別の指定
操作用プログラムであっても良いし、プリンタドライバ
などでの設定の一操作というようにして具体化すること
も可能である。
取得工程や画像データ出力工程は、画像データをアクセ
スする上で必然的に行われるものであるが、必ずしも外
部機器との間でのアクセスに限られるものではなく、全
体として一連の処理を実現する中で本発明が一部として
適用される場合もあり、このような場合に前後の工程と
の間で画像データを受け渡す処理として実現されること
も当然に含まれる。また、一連の処理がまとまって行わ
れる場合に限らず、いくつかの処理が並列して処理され
る場合においても実質的な意味で色調に基づいて補間処
理が選択されているのであれば本発明が適用されている
ものといえる。
いて所定の補間処理を選択して実行すると、その色調に
対応したシャープさとなるように画素が補間されるよう
にする手法は実体のある装置において実現され、その意
味で本発明を実体のある装置としても適用可能であるこ
とは容易に理解できる。このため、請求項11にかかる
発明は、カラーの自然画像をドットマトリクス状の画素
で表現した画像データを取得する画像データ取得手段
と、シャープさに影響を与える複数の補間処理を前提と
して色調によって適度なシャープさとなるような色調と
補間処理との対応関係を取得する補間処理選択基準取得
手段と、補間される画素の色調に基づいて上記補間処理
選択基準取得工程にて対応する補間処理を取得して実行
する画素補間手段と補間された画像データを出力する画
像データ出力手段とを具備する構成としてある。
あることに相違はない。このような画像データ補間装置
は単独で実施される場合もあるし、ある機器に組み込ま
れた状態で他の方法とともに実施されることもあるな
ど、発明の思想としてはこれに限らず、各種の態様を含
むものである。従って、ソフトウェアであったりハード
ウェアであったりするなど、適宜、変更可能である。発
明の思想の具現化例として画像データ補間方法を実施す
るソフトウェアとなる場合には、かかるソフトウェアを
記録した記録媒体上においても当然に存在し、利用され
るといわざるをえない。
は、カラーの自然画像をドットマトリクス状の画素で表
現した画像データに基づいてコンピュータにて画素補間
する画像データ補間プログラムを記録した媒体であっ
て、上記画像データを取得する画像データ取得ステップ
と、シャープさに影響を与える複数の補間処理を前提と
して色調によって適度なシャープさとなるような色調と
補間処理とを対応づけるとともに、補間される画素の色
調に基づいてこの対応関係から選択される所定の補間処
理を実行する色調対応画素補間ステップと、補間された
画像データを出力する画像データ出力ステップとを具備
する構成としてある。
あってもよいし光磁気記録媒体であってもよいし、今後
開発されるいかなる記録媒体においても全く同様に考え
ることができる。また、一次複製品、二次複製品などの
複製段階については全く問う余地無く同等である。その
他、供給方法として通信回線を利用して行なう場合でも
本発明が利用されていることにはかわりない。さらに、
一部がソフトウェアであって、一部がハードウェアで実
現されている場合においても発明の思想において全く異
なるものではなく、一部を記録媒体上に記憶しておいて
必要に応じて適宜読み込まれるような形態のものとして
あってもよい。
照して補間処理を選択することにより画像全体としては
シャープにしつつも部分に応じて適度にシャープさを調
整し、良好な画像を得ることが可能な画像データ補間方
法を提供することができる。また、請求項2にかかる発
明によれば、予め対応づけられた補間処理を取得する具
体的な手法を提供することができる。さらに、請求項3
にかかる発明によれば、複数の補間処理を重ねて実行す
るような場合に、その負担割合を変えるだけで調整でき
るようになる。
パラメータで調整可能な補間処理を実行している場合に
そのパラメータを変更するだけで画質を向上させること
ができる。さらに、請求項5にかかる発明によれば、一
般的な意味でざらつきのない画像を提供することがで
き、請求項6にかかる発明によれば、それが肌色部分に
おいて改善され、請求項7にかかる発明によれば、青空
の部分において改善される。
補間画素を生成する領域画素に基づいて選択するため、
正確な判定が可能となる。さらに、請求項9にかかる発
明によれば、注目画素という一画素に基づいて選択する
ため、判断の処理が簡易になる。さらに、請求項10に
かかる発明によれば、対応関係を設定できるため、ユー
ザーが最も満足のいく画質とすることができる。
方法をフローチャートにより示しており、図2はこの画
像データ補間方法を実行するコンピュータシステム10
をブロック図により示している。
デバイスとして、スキャナ11aとデジタルスチルカメ
ラ11bとビデオカメラ11cとを備えており、コンピ
ュータ本体12に接続されている。それぞれの入力デバ
イスは画像をドットマトリクス状の画素で表現した画像
データを生成してコンピュータ本体12に出力可能とな
っており、ここで同画像データはRGBの三原色におい
てそれぞれ256階調表示することにより、約1670
万色を表現可能となっている。
装置としてのフロッピーディスクドライブ13aとハー
ドディスク13bとCD−ROMドライブ13cとが接
続されており、ハードディスク13bにはシステム関連
の主要プログラムが記録されており、フロッピーディス
クやCD−ROMなどから適宜必要なプログラムなどを
読み込み可能となっている。また、コンピュータ本体1
2を外部のネットワークなどに接続するための通信デバ
イスとしてモデム14aが接続されており、外部のネッ
トワークに同公衆通信回線を介して接続し、ソフトウェ
アやデータをダウンロードして導入可能となっている。
この例ではモデム14aにて電話回線を介して外部にア
クセスするようにしているが、LANアダプタを介して
ネットワークに対してアクセスする構成とすることも可
能である。この他、コンピュータ本体12の操作用にキ
ーボード15aやマウス15bも接続されている。
プレイ17aとカラープリンタ17bとを備えている。
ディスプレイ17aについては水平方向に800画素と
垂直方向に600画素の表示エリアを備えており、各画
素毎に上述した1670万色の表示が可能となってい
る。むろん、この解像度は一例に過ぎず、640×48
0画素であったり、1024×768画素であるなど、
適宜、変更可能である。
ットプリンタであり、CMYKの四色の色インクを用い
て記録媒体たる印刷用紙上にドットを付して画像を印刷
可能となっている。画像密度は360×360DPIや
720×720DPIといった高密度印刷が可能となっ
ているが、諧調表限については色インクを付すか否かと
いった2階調表現となっている。一方、このような画像
入力デバイスを使用して画像を入力しつつ、画像出力デ
バイスに表示あるいは出力するため、コンピュータ本体
12内では所定のプログラムが実行されることになる。
そのうち、基本プログラムとして稼働しているのはオペ
レーティングシステム(OS)12aであり、このオペ
レーティングシステム12aにはディスプレイ17aで
の表示を行わせるディスプレイドライバ(DSP DR
V)12bとカラープリンタ17bに印刷出力を行わせ
るプリンタドライバ(PRT DRV)12cが組み込
まれている。これらのドライバ12b,12cの類はデ
ィスプレイ17aやカラープリンタ17bの機種に依存
しており、それぞれの機種に応じてオペレーティングシ
ステム12aに対して追加変更可能である。また、機種
に依存して標準処理以上の付加機能を実現することもで
きるようになっている。すなわち、オペレーティングシ
ステム12aという標準システム上で共通化した処理体
系を維持しつつ、許容される範囲内での各種の追加的処
理を実現できる。
ングシステム12a上でアプリケーション12dが実行
される。アプリケーション12dの処理内容は様々であ
り、操作デバイスとしてのキーボード15aやマウス1
5bの操作を監視し、操作された場合には各種の外部機
器を適切に制御して対応する演算処理などを実行し、さ
らには、処理結果をディスプレイ17aに表示したり、
カラープリンタ17bに出力したりすることになる。
像入力デバイスであるスキャナ11aなどで画像データ
を取得し、アプリケーション12dによる所定の画像処
理を実行した後、画像出力デバイスとしてのディスプレ
イ17aやカラープリンタ17bに表示出力することが
可能である。この場合、単に画素同士の対応に着目する
と、カラープリンタ17bにおける画素密度とスキャナ
11aの画素密度が一致する場合にはスキャンした元画
像の大きさと印刷される画像の大きさとが一致するが、
両者にずれがあれば画像の大きさが異なることになる。
スキャナ11aの場合はカラープリンタ17bの画素密
度と近似するものも多いが、高画質化のために画素密度
の向上が図られているカラープリンタ17bの画素密度
の方が一般的な画像入力デバイスにおける画素密度より
も高密度であることが多い。特に、ディスプレイ17a
の表示密度と比較すると各段に高密度であり、ディスプ
レイ17a上での表示を画素単位で一致させて印刷させ
るとなると極めて小さな画像になりかねない。
aで基準となる画素密度を決定しつつ実際のデバイスご
との画素密度の相違を解消するために解像度変換が実施
される。例えば、ディスプレイ17aの解像度が72D
PIであるとするときに、オペレーティングシステム1
2aで360DPIを基準とするならば、ディスプレイ
ドライバ12bが両者の間の解像度変換を実施する。ま
た、同様の状況でカラープリンタ17bの解像度が72
0DPIであればプリンタドライバ12cが解像度変換
を実施する。
数を増やす処理にあたるので補間処理に該当し、これら
のディスプレイドライバ12bやプリンタドライバ12
cがその機能の一つとして補間処理を実施する。ここに
おいて、ディスプレイドライバ12bやプリンタドライ
バ12cは上述した色調対応画素補間工程A2を実現す
る主体となるものであり、その入出力過程は画像データ
取得工程A1や画像データ出力工程A3を実現し、以下
に詳述するように色調に応じて解像度変換の手法を適宜
変更して画質の向上を図るようにしている。なお、かか
るディスプレイドライバ12bやプリンタドライバ12
cは、ハードディスク13bに記憶されており、起動時
にコンピュータ本体12にて読み込まれて稼働する。ま
た、導入時にはCD−ROMであるとかフロッピーディ
スクなどの媒体に記録されてインストールされる。従っ
て、これらの媒体は画像データ補間プログラムを記録し
た媒体を構成する。
置をコンピュータシステム10として実現しているが、
必ずしもかかるコンピュータシステムを必要とするわけ
ではなく、同様の画像データに対して補間処理が必要な
システムであればよい。例えば、図3に示すようにデジ
タルスチルカメラ11b1内に補間処理する画像データ
補間装置を組み込み、補間処理した画像データを用いて
ディスプレイ17a1に表示させたりカラープリンタ1
7b1に印字させるようなシステムであっても良い。ま
た、図4に示すように、コンピュータシステムを介する
ことなく画像データを入力して印刷するカラープリンタ
17b2においては、スキャナ11a2やデジタルスチ
ルカメラ11b2あるいはモデム14a2等を介して入
力される画像データについて自動的に解像度変換を行っ
て印刷処理するように構成することも可能である。
ミリ装置18aや図6に示すようなカラーコピー装置1
8bといった画像データを扱う各種の装置においても当
然に適用可能である。図1に示すフローチャートはあく
までも大概念での手順であり、実際のプログラムにおい
ては必ずしもこのように明確に分離されている必要はな
い。図7は、上述したプリンタドライバ12cが実行す
る解像度変換に関連するソフトウェアフローを示してい
る。なお、ディスプレイドライバ12bにおいても同様
に実行可能であるが、処理速度を優先させるなどの場合
にはディスプレイドライバ12bにおいて実行する必要
がない場合もある。
る。アプリケーション12dにてスキャナ11aから画
像を読み込み、所定の画像処理を行った後で印刷処理す
ると、所定の解像度の印刷データがオペレーティングシ
ステム12aを介してプリンタドライバ12cに引き渡
されるため、この引渡の段階が該当する。むろん、スキ
ャナ11aにて画像を読み込むものであってもよく、い
ずれにしても当該処理が元画像データ取得工程A1に該
当する。
像を走査し、その過程で画素補間処理を実行する。その
意味で、ステップ105では注目ブロックの初期位置を
設定する。そして、ステップ110以下では、図8に示
すように画像の水平方向(width方向)に主走査し
ながら順次走査ラインを垂直方向(height方向)
に移動させて副走査を実行していくことになる。画素補
間処理はある一定の範囲の画素に基づいて画素を補間し
ていくことになるため、本実施形態においては図9に示
すような4×4画素の領域を1ブロックとし、一画素単
位でこのブロックを移動させていく。この際の処理の対
象ブロックを注目ブロックと呼んでいる。
象として処理を進行させていく上で、まず、当該注目ブ
ロックに基づいて補間生成されていく画素の色度と輝度
を計算する。輝度Yは、 Y=3.0R+0.59G+0.11B として計算され、色度は、 r=R/(R+G+B) b=B/(R+G+B) として表される。ここで、注目領域は16画素から構成
されており、この場合の上記計算は、全画素についての
平均値を求めるようにしてもよいし、内周側の4画素に
ついての平均値を求めるようにしても良いし、さらには
内周側の4画素における特定の一画素について求めるよ
うにしても良い。複数画素から平均値を求める手法は補
間されて生成される画素の目安として妥当であるが、平
均値を求める分だけの演算が増えることになる。これに
対して、一画素を代表させたとしても補間される画素が
大きくずれることは起こりにくいことを考えれば演算量
を低減させるメリットがある。なお、複数画素から代表
値を求める際には平均値に限られるものではなく、メジ
アンを代表値とするなど各種の演算手法を採用して構わ
ない。
プリング結果を示している。すなわち、左側の三つのデ
ータは肌を構成する画素の(R,G,B)の値であり、
その右方に(R+G+B)の合計(sum_rgb)を
示し、その右方に上記計算に基づく色度r,bと輝度Y
とを示している。また、図11は各画素についてrb空
間にプロットした場合のグラフを示している。同図に示
すように、RGBデータとしては統一性を見出しにくい
ようでも、色度としてグラフにプロットしてみると規則
性があることが見出される。すなわち、人の肌であれば
暗く写っているときも明るく写っているときもあり得る
が、それにもかかわらず、図11に示すように直線状に
分布しているのである。同図に示す直線状の分布は、 Y>128 0.33<r<0.51 |0.74r+b−0.57|<0.1 なる関係式が成立しているといえるから、上記のような
注目ブロックの代表値についてこの関係式に当てはめて
成立すれば当該注目ブロックは肌色領域に属するものと
いえる。この判定がステップ115の肌色領域か否かの
判断に相当する。
データのサンプリング結果を示しており、この場合は肌
色の場合よりも変動幅が大きいことを考慮すると、 Y>128 0.17<r<0.30 |1.11r+b−0.70|<0.2 なる関係式が成立しているといえる。従って、ステップ
115にて肌色領域でないと判断された場合にはステッ
プ120にてこの関係式が成立しているか否かを判断す
る。
肌色や空色の領域であるか否かが分かるが、これらは補
間結果があまりシャープでない方が好まれる画像の一例
である。例えば、人の顔が大きく写っているときには画
像がシャープになることによってざらつき感が生じるこ
とになり、好ましくない。また、青空についても多少の
色の変化があるにしてもその変化をシャープにしてとげ
とげしく見せるよりも、却ってぼけてしまうくらいの方
が好ましい。このような好みの要素に鑑みて、ステップ
115とステップ120の分岐処理を経て一般的には画
像をシャープにする補間処理を実行しつつ、肌色や空色
の場合に限って画像をわずかにぼけた感じにする補間処
理を実行することにしている。
し、後者の補間処理はバイリニア法を採用している。こ
こで、これらの補間処理について説明する。補間処理の
うちで最もシンプルなものはニアリスト法の補間処理で
あり、図14に示すように周囲の四つの格子点Pij,
Pi+1j,Pij+1,Pi+1j+1と内挿したい
点Puvとの距離を求め、もっとも近い格子点のデータ
をそのまま移行させる。これを一般式で表すと、 Puv=Pij となる。ここで、i=[u+0.5]、j=[v+0.
5]である。なお、[]はガウス記号で整数部分を取る
ことを示している。
そのまま保持される特徴を有するため、拡大すればジャ
ギーが目立つもののエッジはエッジとして保持される。
一方、写真のような自然画に適する一方で演算処理量が
大きい補間処理が、キュービック法の補間処理である。
キュービック法は図15に示すように、内挿したい点P
uvを取り囲む四つの格子点のみならず、その一周り外
周の格子点を含む計16の格子点のデータを利用する。
3次たたみ込み関数を用いた一般式は次式のようにな
る。
他方の格子点へと近づくにつれて徐々に変化していき、
その変化具合がいわゆる3次関数的になるという特徴を
有している。キュービック法によれば3次関数的に表せ
る以上、そのカーブの形状を調整することによって補間
結果の品質を左右することができる。その調整の一例と
して、
ク法とにおける補間関数f(t)を示している。同図に
おいて、横軸に位置を示し、縦軸に補間関数を示してい
る。t=0、t=1、t=2の位置に格子点が存在し、
内挿点はt=0〜1の位置となる。キュービック法とM
キュービック法とを比較すると、Mキュービック法の方
が3次関数的なカーブがわずかに急峻となり、画像全体
のイメージがよりシャープとなる。
間手法を説明すると、図16に示すように、一方の格子
点から他方の格子点へと近づくにつれて徐々に変化して
いく点でキュービック法と共通するが、その変化が両側
の格子点のデータだけに依存する一次関数的となってい
る。すなわち、図14に示すように内挿したい点Puv
を取り囲む四つの格子点Pij,Pi+1j,Pij+
1,Pi+1j+1で区画される領域を当該内挿点Pu
vで四つの区画に分割し、その面積比で対角位置のデー
タに重み付けする。これを式で表すと、 P={(i+1)−u}{(j+1)−v}Pij+
{(i+1)−u}{v−j}Pij+1+{u−i
}{(j+1)−v}Pi+1j+{u−i
}{v−j}Pi+1j+1 となる。なお、i=[u]、j=[v]である。
変化状況が3次関数的であるか1次関数的であるかが異
なり、画像としてみたときの差異は大きい。バイリニア
法の場合、隣接する二点間(t=0〜1)で直線的に変
化するだけであるので境界をスムージングすることにな
り、画面の印象はぼやけてしまう。すなわち、角部のス
ムージングと異なり、境界がスムージングされると、コ
ンピュータグラフィックスでは、本来あるべき輪郭がな
くなってしまうし、写真においてはピントが甘くなって
しまう。
に画像をシャープにさせたい領域においてステップ12
5にてMキュービック法を採用した画素補間を実行する
とともに、ざらつきを生じさせたくない領域においてス
テップ130にてバイリニア法を採用した画素補間を実
行することにより、領域ごとにシャープさを変化させて
好ましい画像を生じさせることになる。一つの注目ブロ
ック内で生成すべき画素を補間したら、ステップ135
にて全ブロックを終了したか判断し、終了していなけれ
ばステップ140にて注目ブロックを次のブロックへ移
動させるし、終了していればステップ145にて修整が
完了した画像データを出力する。むろん、この出力は単
にデータを所定のエリアに保存した状態で次の工程に受
け渡すというだけのものであっても構わない。
は、画像の色調に応じて適度なシャープさとなる補間処
理を実行しているが、その前提としてステップ115と
ステップ120とで肌色の色調と空色の色調についてバ
イリニア法の補間処理を実行するように対応づけられて
いるし、他の色調についてはステップ125にてMキュ
ービック法の補間処理を実行するように対応づけられて
いる。そして、この対応付けによってステップ125と
ステップ130とで対応すべき所定の補間処理を実行す
るので、かかる対応付け及び補間処理の実行が色調対応
画素補間工程A2を構成しているといえる。
理の選択に直結しているが、その実現手法はソフトウェ
アの変更によって簡単に可能となる。例えば、ステップ
115やステップ120で色調を判断することによって
対応関係のある補間処理を特定し、次のステップで特定
結果を参照して対応する補間処理を実行するという処理
を行うことにしても結果は変わらない。一方、同じ3次
関数による補間処理であってもキュービック法とMキュ
ービック法とでシャープさが異なるのは図16からも明
らかである。すなわち、3次たたみ込み内挿法の画素補
間であればパラメータの与え方によって補間曲線の特徴
を適宜変更できるから、図17に示すようにしてS字カ
ーブの形状を変化させてやればシャープにしたり滑らか
にしたりということを設定できる。
て補間処理結果を制御する手法を示しており、ステップ
215にて肌色の領域であると判断されると、ステップ
223で肌色用のパラメータを、ステップ220にて空
色の領域であると判断されるとステップ222で空色用
のパラメータをセットすることとし、これら以外の時に
ステップ225にてデフォルトのパラメータをセットす
る。すなわち、ステップ225ではMキュービック法を
実行するパラメータをセットし、ステップ222とステ
ップ223ではキュービック法を実行するパラメータを
セットした上、ステップ226ではパラメータに応じた
3次たたみ込み内挿法で画素補間を実行している。
は空色領域であるか否かというように場合分けして補間
処理を区別しているが、パラメータによってシャープさ
を徐々に変化させられるという場合には、肌色領域から
の離れ具合いや空色領域からの離れ具合によってシャー
プさを増減させるということも可能である。また、シャ
ープさを徐々に変化させうる手法は一つの補間処理に対
してパラメータを与えるというものだけではなく、それ
ぞれシャープさの異なる複数の補間処理を重ねて実行す
る場合に、それぞれの補間倍率の負担を変化させること
も可能である。図19はこれを具体的に示しており、左
方に元画像P1を示し、右方に最終的な拡大画像P2を
示している。この場合の拡大率を(P2/P1)で表す
ものとし、補間処理はシャープさの異なる二つの補間処
理を実行するものとする。この場合に第1段階の補間処
理について拡大率α1,α2とするとともに、第2段階
の補間処理について拡大率β1,β2とすると、 P2/P1=α1×β1=α2×β2 なる関係を維持してα1,α2,β1,β2の組み合わ
せを適宜変化させることができる。むろん、この補間倍
率の負担割合の変化は画像におけるシャープさとなって
影響を与えるから、肌色領域や空色領域の場合に滑らか
になる補間処理の負担割合が大きくなるようにするし、
そうでない色調の領域についてはシャープになる補間処
理の負担割合が大きくなるようにすればよい。
323では、このような観点から第1段階の補間処理で
あるMキュービック法の補間倍率と第2段階の補間処理
であるバイリニア法の補間倍率とを決定しておき、その
決定結果を参照してステップ327ではMキュービック
法で第一段階の補間処理を実行し、ステップ328では
バイリニア法で残りの第二段階の補間処理を実行する。
このようにして最終的な補間倍率は一定としつつも、そ
の過程の負担割合を変化させることによって画質の調整
を図ることができる。
については必ず滑らかにさせるような指示を与えている
が、空色の部分はあるが青空ではなく特定の物の色であ
る場合も考えられるし、肌色ではあるが人の肌ではなく
特定の他の物の色である場合も考えられる。そして、こ
の場合には必ず滑らかにする補間処理を実行してしまう
というのでは融通性に欠けるともいえる。従って、図7
に示すステップ107にて、図21に示すような設定画
面を利用して、ユーザーに対応関係を選択させるように
しても良い。この設定画面では、マウス15bを操作し
て肌色のざらつきを防止するか否かを選択したり、空色
のざらつきを防止するか否かを選択する。そして、図2
2に示すようにステップ115にて肌色領域であるか判
断する前にステップ114にて上記オプションが選択さ
れているか否かを参照し、肌色のざらつきを防止するよ
うに選択しているときにステップ115の判断を実行す
る。また、同様にしてステップ120にて空色領域であ
るか判断する前にステップ117にて上記オプションが
選択されているか否かを参照し、空色のざらつきを防止
するように選択しているときにステップ120の判断を
実行する。
ざらつき防止を選択できるようにしておくことも可能で
あるし、また、滑らかさやシャープさの程度を選択でき
るようにしても良い。このように、カラーの自然画像を
ドットマトリクス状の画素で表現した画像データを補間
する際に、画素を補間生成するために参照する領域であ
る注目ブロックについて色度の代表値を取得し(ステッ
プ110)、当該色度から肌色領域や空色領域であると
判断すると(ステップ115,120)、バイリニア法
で画素補間する(ステップ130)ので滑らかに拡大さ
れるし、そうでない色調の領域についてはMキュービッ
ク法で画素補間する(ステップ125)のでシャープに
拡大されることになり、画像全体としてはシャープさを
維持しつつ人の肌や青空の部分がざらついたりすること
を防止できる。
法の概略フローチャートである。
間装置としてのコンピュータシステムのブロック図であ
る。
す概略ブロック図である。
す概略ブロック図である。
す概略ブロック図である。
す概略ブロック図である。
間方法のフローチャートである。
せていく状況を示す図である。
図である。
図である。
である。
る。
である。
示す図である。
プさを調整するフローチャートである。
割合を変えてシャープさを調整する手法を示す図であ
る。
整するフローチャートである。
である。
ローチャートの一部である。
Claims (12)
- 【請求項1】 カラーの自然画像をドットマトリクス状
の画素で表現した画像データを取得する画像データ取得
工程と、 シャープさに影響を与える複数の補間処理を前提として
色調によって適度なシャープさとなるような色調と補間
処理とを対応づけるとともに、補間される画素の色調に
基づいてこの対応関係から選択される所定の補間処理を
実行する色調対応画素補間工程と、 補間された画像データを出力する画像データ出力工程と
を実行することを特徴とする画像データ補間方法。 - 【請求項2】 上記請求項1に記載の画像データ補間方
法において、上記色調対応画素補間工程では、 シャープさに影響を与える複数の補間処理を前提として
色調によって適度なシャープさとなるような色調と補間
処理との対応関係を取得する補間処理選択基準取得工程
と、 補間される画素の色調に基づいて上記補間処理選択基準
取得工程にて対応する補間処理を取得して実行する画素
補間工程とを実行することを特徴とする画像データ補間
方法。 - 【請求項3】 上記請求項1または請求項2のいずれか
に記載の画像データ補間方法において、上記色調対応画
素補間工程では、シャープさに影響を与える複数の補間
処理を重ねて実行するとともに各処理で負担する補間倍
率を調整して所望のシャープさとすることを特徴とする
画像データ補間方法。 - 【請求項4】 上記請求項1〜請求項3のいずれかに記
載の画像データ補間方法において、上記色調対応画素補
間工程では、パラメータによってシャープさに対する影
響度が異なる補間処理を実行するとともにこのパラメー
タを調整して所望のシャープさとなるようにすることを
特徴とする画像データ補間方法。 - 【請求項5】 上記請求項1〜請求項4のいずれかに記
載の画像データ補間方法において、上記色調対応画素補
間工程では、ざらついた感じが好まれない色領域に対し
て画像を滑らかな感じにする補間処理を実行することを
特徴とする画像データ補間方法。 - 【請求項6】 上記請求項5に記載の画像データ補間方
法において、上記色調対応画素補間工程では、肌色の色
領域の画像を滑らかな感じにすることを特徴とする画像
データ補間方法。 - 【請求項7】 上記請求項5または請求項6のいずれか
に記載の画像データ補間方法において、上記色調対応画
素補間工程では、青空の色領域の画像を滑らかな感じに
することを特徴とする画像データ補間方法。 - 【請求項8】 上記請求項1〜請求項7のいずれかに記
載の画像データ補間方法において、上記色調対応画素補
間工程では、補間画素を生成するに必要な領域画素の平
均的な色調に基づいて補間処理を判断することを特徴と
する画像データ補間方法。 - 【請求項9】 上記請求項1〜請求項7のいずれかに記
載の画像データ補間方法において、上記色調対応画素補
間工程では、注目画素を決めて画像データを走査しなが
ら補間処理を実行するとともに、その注目画素の色調に
基づいて補間処理を判断することを特徴とする画像デー
タ補間方法。 - 【請求項10】 上記請求項1〜請求項9のいずれかに
記載の画像データ補間方法において、上記色調対応画素
補間工程では、色領域と実行する補間処理との対応付け
を指定可能としていることを特徴とする画像データ補間
方法。 - 【請求項11】 カラーの自然画像をドットマトリクス
状の画素で表現した画像データを取得する画像データ取
得手段と、 シャープさに影響を与える複数の補間処理を前提として
色調によって適度なシャープさとなるような色調と補間
処理との対応関係を取得する補間処理選択基準取得手段
と、 補間される画素の色調に基づいて上記補間処理選択基準
取得工程にて対応する補間処理を取得して実行する画素
補間手段と補間された画像データを出力する画像データ
出力手段とを具備することを特徴とする画像データ補間
装置。 - 【請求項12】 カラーの自然画像をドットマトリクス
状の画素で表現した画像データに基づいてコンピュータ
にて画素補間する画像データ補間プログラムを記録した
媒体であって、 上記画像データを取得する画像データ取得ステップと、 シャープさに影響を与える複数の補間処理を前提として
色調によって適度なシャープさとなるような色調と補間
処理とを対応づけるとともに、補間される画素の色調に
基づいてこの対応関係から選択される所定の補間処理を
実行する色調対応画素補間ステップと、 補間された画像データを出力する画像データ出力ステッ
プとを具備することを特徴とする画像データ補間プログ
ラムを記録した媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31645698A JP4081628B2 (ja) | 1998-11-06 | 1998-11-06 | 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP31645698A JP4081628B2 (ja) | 1998-11-06 | 1998-11-06 | 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007230677A Division JP2008017526A (ja) | 2007-09-05 | 2007-09-05 | 画像データの補間 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2000151990A true JP2000151990A (ja) | 2000-05-30 |
JP2000151990A5 JP2000151990A5 (ja) | 2005-12-22 |
JP4081628B2 JP4081628B2 (ja) | 2008-04-30 |
Family
ID=18077304
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP31645698A Expired - Fee Related JP4081628B2 (ja) | 1998-11-06 | 1998-11-06 | 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録したコンピュータ読み取り可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4081628B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2138975A2 (en) | 2008-06-27 | 2009-12-30 | Fujitsu Limited | Apparatus, method and computer-readable recording medium for pixel interpolation |
-
1998
- 1998-11-06 JP JP31645698A patent/JP4081628B2/ja not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2138975A2 (en) | 2008-06-27 | 2009-12-30 | Fujitsu Limited | Apparatus, method and computer-readable recording medium for pixel interpolation |
US8175417B2 (en) | 2008-06-27 | 2012-05-08 | Fujitsu Limited | Apparatus, method, and computer-readable recording medium for pixel interpolation |
Also Published As
Publication number | Publication date |
---|---|
JP4081628B2 (ja) | 2008-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4120724B2 (ja) | 画像データ管理装置、画像データ管理方法および画像データ管理プログラムを記録した媒体 | |
US6075926A (en) | Computerized method for improving data resolution | |
JP4924264B2 (ja) | 画像処理装置、画像処理方法、および、コンピュータプログラム | |
JP4421761B2 (ja) | 画像処理方法および装置並びに記録媒体 | |
JP4368513B2 (ja) | 画像処理方法および装置並びに記録媒体 | |
JP2001298631A (ja) | 画像処理制御プログラムを記録した記録媒体、画像処理方法および画像処理装置 | |
JP2000115539A (ja) | 画像処理方法、画像処理装置及び記録媒体 | |
JP4328926B2 (ja) | 画像データ補間方法、画像データ補間装置および画素補間プログラムを記録した媒体 | |
JP2003264699A (ja) | レンダリングデジタル画像の色、輝度及び階調スケールの調整方法 | |
JP2000215306A (ja) | 画像修整プログラムを記録した媒体、画像修整装置および画像修整方法 | |
JP4877074B2 (ja) | 画像処理装置、画像処理方法、および、コンピュータプログラム | |
JP2001169098A (ja) | 出力用画像データ修整プログラムを記録した媒体、出力用画像データ修整方法、出力用画像データ修整装置、画像データ縮小プログラムを記録した媒体、画像データ縮小方法、画像データ縮小装置、画像データ修整プログラムを記録した媒体、画像データ修整方法および画像データ修整装置 | |
JP4081628B2 (ja) | 画像データ補間方法、画像データ補間装置および画像データ補間プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP4019239B2 (ja) | 画像鮮鋭化方法および画像鮮鋭化装置 | |
JP2000285232A5 (ja) | ||
JP4661754B2 (ja) | 画像処理装置および画像処理プログラム | |
JP2000188689A (ja) | 画像処理方法及び画像処理システム | |
JP4345027B2 (ja) | 画像処理プログラムおよび画像処理装置 | |
JP4433040B2 (ja) | 画像データ管理装置、画像データ管理方法および画像データ管理プログラム | |
JP2002015314A (ja) | 画像出力方法および装置並びに記録媒体 | |
JP2008017526A (ja) | 画像データの補間 | |
JP3201338B2 (ja) | 画像データ補間装置、画像データ補間方法および画像データ補間プログラムを記録した媒体 | |
JP4725683B2 (ja) | 画像データ管理装置および画像データ管理プログラム | |
JP2008059307A (ja) | 画像処理装置および画像処理プログラム | |
JP2004164276A (ja) | 赤目修正装置、赤目修正方法および赤目修正プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051102 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051102 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070706 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070711 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070905 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071024 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080129 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110222 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110222 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120222 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130222 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130222 Year of fee payment: 5 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |