JP4407150B2 - 携帯端末機器及びネットワークシステム並びに画像処理方法 - Google Patents
携帯端末機器及びネットワークシステム並びに画像処理方法 Download PDFInfo
- Publication number
- JP4407150B2 JP4407150B2 JP2003121725A JP2003121725A JP4407150B2 JP 4407150 B2 JP4407150 B2 JP 4407150B2 JP 2003121725 A JP2003121725 A JP 2003121725A JP 2003121725 A JP2003121725 A JP 2003121725A JP 4407150 B2 JP4407150 B2 JP 4407150B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- processing
- image processing
- pseudo
- terminal device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Circuits (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
- Mobile Radio Communication Systems (AREA)
- Image Processing (AREA)
Description
【発明の属する技術分野】
本発明は携帯端末機器及びネットワークシステム並びに画像処理方法に係り、特にカメラ付き携帯電話などに適用される簡易な処理を用いて表現する画像処理技術に関する。
【0002】
【従来の技術】
カメラ付き携帯電話やカメラ付きPDAなどの撮像機能を備えたモバイル機器が普及し、わざわざカメラを持ち歩かなくても気軽に写真撮影を楽しむことができるようになった。撮影された画像はその場で見て楽しむだけでなく、電子メールに添付して友人等に配信することもできる。また、携帯電話を対象としたWebコンテンツサービスには、撮影した画像にその背景を変化させるような画像処理を施して楽しむものがある。
【0003】
また、カメラ付き携帯電話には、撮像機能だけでなく画像処理機能を備えているものもあり、該画像処理機能はフレーム画像に画像を貼り付けるなどの簡易な処理を行うことができる。
【0004】
特許文献1に開示されたデジタルフォトサービスシステムは、ウエブサイトと画像処理技術とを有効活用し、まず、該サービスに登録されているユーザは写真画像をウエブサイト管理サーバにアップロードする。また、ユーザは通信機器を介して専用ウエブページにアクセスし、該ウエブページ内で利用コンテンツを選択すると、選択されたコンテンツによる画像処理がサーバにアップロードした写真画像へ施されるシステムが提案されている。
【0005】
【特許文献1】
特開2002−189723号公報
【0006】
【発明が解決しようとする課題】
しかしながら、カメラ付き携帯電話やカメラ付きPDAなどのモバイル機器はデジタルカメラなどカメラ機能を主として構成された機器に比べて画像を取り扱う能力などの処理能力に制限があり、パソコンやデジタルカメラのような画像処理を行うことは難しい。また、サーバやパソコンに撮影された画像を取り込んで高度な画像処理を行うことは可能であるが、パソコンなどの画像処理を行う機器にデータを取り込むための工程が必要になり、また、画像処理を施した結果画像をモバイル機器側ではすぐに見ることができないという欠点がある。
【0007】
また、カメラ付き携帯電話に備えられた画像処理機能は画像を重ね合わせるような簡易な機能に限定され、ユーザが満足できる処理結果を得られるものとは限らない。
【0008】
本発明はこのような事情を鑑みてなされたもので、処理能力に制限がある機器に好適な携帯端末機器及びネットワークシステム並びに画像処理方法を提供することを目的とする。
【0009】
【課題を解決するための手段】
上記目的を達成するために本発明に係る携帯端末機器は、画像を取得する画像取得手段と、前記画像取得手段によって取得された画像データに対する、携帯端末機器の処理能力では実用的な時間内に加工処理できない、画像処理の内容を設定する設定手段と、前記画像取得手段によって取得された画像データに、前記設定手段によって設定された画像処理と処理の内容が異なる複数の処理を組み合わせた処理を施して、前記設定手段によって設定された画像処理の効果が疑似的に表現された擬似結果画像を生成する疑似画像生成手段と、前記疑似画像生成手段によって生成された疑似結果画像を表示する表示手段と、ネットワークに接続されたサーバと相互にデータ通信を行う通信手段と、前記通信手段を介して、前記設定手段により設定された画像処理の内容に従った画像処理を前記サーバへ依頼し、前記設定手段により設定された画像処理の対象画像データと前記設定手段によって設定された画像処理の内容を含んだ設定情報とを前記サーバに送出する制御を行う画像処理制御手段と、を備えたことを特徴としている。
【0010】
本発明によれば、簡易な処理を用いて行う画像処理を携帯端末機器に適用すると、該携帯端末機器上のローカルな処理で画像処理効果を実現できる。また、ネットワークに接続されたサーバと相互にデータ通信を行うための通信手段を備え、設定手段によって設定された画像処理の内容に基づいた画像処理を画像処理制御手段を介して該サーバへ依頼するよう構成したので、サーバを介さないローカルな処理で疑似的に表現された画像処理効果を得られると、その効果を確認してから加工品質の高い処理をサーバに依頼することができる。また、サーバとの通信による経済的、時間的ロスを短縮できる。
【0011】
画像は、撮像手段によって得られた写真画像や電子描画装置などによって描かれたイラストの他に、手書きのイラスト、絵などでもよい。
【0012】
また、本発明の一態様に係る携帯端末機器は、前記擬似画像生成手段は、画像を立体的に変形させる立体化処理を行う立体化処理手段と、画像の周縁部をぼかすぼかし処理を行うぼかし処理手段と、を備え、前記立体化処理手段による立体化処理と前記ぼかし処理手段によるぼかし処理とを組み合わせた処理を入力画像に施すことにより、前記入力画像の一部を強調する効果を得ることを特徴としている。
【0013】
本発明によれば、立体化処理とぼかし処理とを組み合わせて、画像の一部が強調された画像を生成することができ、処理能力に制限がある機器であっても、簡易な処理を用いて画像処理を行うことができる。また、光学的な作用を電気的な画像処理によって実現することができる。
【0014】
本発明の一態様によれば、前記立体化処理は、球面格子上に画像を貼り付ける処理であり、前記ぼかし処理は、画像の略中央部に透過部を有し、前記透過部から周縁部に向かって被処理画像の情報を減衰させる処理であることを特徴としている。
【0015】
立体化処理における球面格子は形状が歪んでいてもよいし、球面の中心が画像の中心部からずれていてもよい。
【0016】
立体化処理手段とぼかし処理手段とは関連して処理を行うとよい。例えば、立体化処理によって立体化される部分と、ぼかし処理による透過部とがほぼ一致していることが好ましい。
【0017】
本発明の他の態様によれば、前記立体化処理と前記ぼかし処理とを組み合わせた処理によって、画像略中央部が拡大された疑似接写画像を得ることを特徴としている。
【0018】
疑似接写画像は、例えば、接写撮影された写真をイメージさせる画像、拡大レンズを通して物体を見たときの画像と同じような印象を与える画像などがあり、画像の一部が強調される効果を得られるような画像であればよい。
【0019】
また、本発明の他の態様に係る携帯端末機器は、前記画像取得手段は、被写体像を撮像する撮像手段を含み、前記設定手段は、前記撮像手段により撮像された画像の画像データに対する画像処理の内容を設定し、前記擬似画像生成手段は、前記撮像手段により撮像された画像の画像データから擬似画像を生成することを特徴としている。また、本発明のさらに他の態様に係る携帯端末機器は、前記表示手段の能力に合わせて前記擬似結果画像を調整して前記表示手段に表示させるように前記表示手段を制御する手段を備えたことを特徴としている。さらに、本発明の他の態様に係る携帯端末機器は、使用する携帯端末の機種を設定する手段と、前記機種設定手段により設定された機種が具備する表示手段の能力に合わせて前記擬似結果画像を調整して前記表示手段に表示させるように前記表示手段を制御する手段と、を備えたことを特徴としている。
【0020】
画像取得手段によって画像を取得する態様には、メモリカードなどの記録媒体を介してデータを取得する態様や、該画像処理装置に撮像手段を備え、該撮像手段からデータを取得する態様を含んでいる。
【0021】
本発明によれば、簡易な処理を用いて行う画像処理を携帯端末機器に適用すると、該携帯端末機器上のローカルな処理で画像処理効果を実現できる。
【0022】
表示手段は該画像処理装置と一体型に構成してもよいし、該画像処理装置とは分離されケーブル等で接続するよう構成されてもよい。
【0023】
また、本発明に係るネットワークシステムは、サーバと、携帯端末機器及び前記サーバが接続されるネットワークと、を含み、前記携帯端末機器は、画像を取得する画像取得手段と、前記画像取得手段によって取得された画像データに対する、携帯端末機器の処理能力では実用的な時間内に加工処理できない、画像処理の内容を設定する設定手段と、前記画像取得手段によって取得された画像データに、前記設定手段によって設定された画像処理と異なる複数の処理を組み合わせた処理を施して、前記設定手段によって設定された画像処理の効果が疑似的に表現された擬似結果画像を生成する疑似画像生成手段と、前記疑似画像生成手段によって生成された疑似結果画像を表示する表示手段と、前記ネットワークを介して前記サーバと相互にデータ通信を行う通信手段と、前記通信手段を介して、前記設定手段により設定された画像処理の内容に従った画像処理を前記サーバへ依頼し、前記設定手段により設定された画像処理の対象画像データと前記設定手段によって設定された画像処理の内容を含んだ設定情報とを前記サーバに送出する制御を行う画像処理制御手段と、を具備することを特徴としている。また、前記サーバは、前記ネットワークを介して前記端末機器から送出された画像に対して、画像全体に茶色味かかった処理を施すセピア処理、人物の顔の中で白色を強調する処理を施す美白処理、被写体を接写撮影したように見せる処理を施す接写処理、被写体を望遠撮影したように見せる処理を施す望遠処理のうち少なくともいずれかの処理を施す画像処理手段を備える態様も好ましい。また、前記サーバは、前記ネットワークに接続される携帯端末機器に対して、前記画像処理手段による画像処理の結果を擬似的に表現し、当該携帯端末の表示手段に表示させる擬似画像を生成するプログラムを提供する手段を備える態様も好ましい。さらに、前記ネットワークを介して前記サーバにより画像処理が施された後の画像を取得し、前記取得した画像をプリントするプリント装置を含む態様も好ましい。前記携帯端末機器は、前記サーバにより画像処理が施された画像を出力する形態を設定する手段を備える態様も好ましい。
【0024】
また、本発明に係る画像処理方法は、ネットワークを介してサーバとデータ通信が可能な携帯端末機器により画像を取得する画像取得工程と、前記画像取得工程によって取得された画像データに対する、携帯端末機器の処理能力では実用的な時間内に加工処理できない、画像処理の内容を前記携帯端末機器から設定する設定工程と、前記画像取得工程によって取得された画像データに、前記設定工程によって設定された画像処理と異なる複数の処理を組み合わせた処理を施して、前記設定工程によって設定された画像処理の効果が疑似的に表現された擬似結果画像を前記携帯端末機器により生成する疑似画像生成工程と、前記疑似画像生成工程によって生成された疑似結果画像を前記携帯端末機器の表示手段に表示する表示工程と、前記携帯端末機器は前記ネットワークを介して前記サーバと相互にデータ通信を行い、前記設定工程により設定された画像処理の内容に従った画像処理を前記携帯端末機器から前記サーバへ依頼する工程と、前記設定工程により設定された画像処理の対象画像データと、前記設定工程によって設定された画像処理の内容を含んだ設定情報と、を前記携帯端末機器から前記サーバに送出する工程と、を含むことを特徴としている。
【0025】
該サーバには画像処理結果画像を該画像処理装置に提供する提供手段を備え、ユーザの要求に合わせて結果画像を提供するよう構成するとよい。
【0026】
ネットワークには、インターネット、LAN等を含んだ、複数の機器間で情報通信が行えるように接続することを示している。ネットワークの通信形態には有線、無線および赤外線などがあり、通信プロトコルにはTCP/IPやUDP/IPなどがある。なお、他のネットワーク形態や他の通信プロトコルを適用してもよい。
【0027】
サーバは単一のコンピュータで構成されていてもよいし、複数のコンピュータで構成されていてもよい。また、ネットワークサーバやウエブサイト管理サーバなどの一部として構成されていてもよい。
【0028】
【発明の実施の形態】
以下、添付図面に従って本発明の好ましい実施の形態について説明する。
【0029】
図1は、本発明の実施形態に係るカメラ付き携帯電話(以下携帯電話機)に搭載された疑似画像生成機能を説明する図である。
【0030】
該疑似画像生成機能は、フィルタ処理を複数重ねあわせたり、簡単な画像処理とフィルタを併用したりして、サーバやパソコンで行われる画像処理を施された高品質な画像を疑似的に生成する機能であり、画像処理などの処理能力に制限がある機器に有効な機能である。なお、該疑似画像生成機能は携帯電話機に搭載されたアプリケーションソフトウエアを介して実現される。
【0031】
図1には「疑似接写画像」を生成する態様を例示している。
【0032】
対象画像データ1は花を撮影した画像であり、対象画像データ1には画像処理部2によって所定の画像処理が施され、結果画像4を得ることができる。画像処理部2による画像処理はその処理内容によって様々な態様があり、「疑似接写処理」では3次元(3D)フィルタ6とぼかしフィルタ8が適用される。
【0033】
3Dフィルタ6は、画像を立体的に見せる効果を得ることができ、例えば、球面状格子に沿って画像を貼り付ける処理が施され、画像の略中央部が盛り上がり、略中央部から周囲部にかけてだんだんと落ち込むような3D処理画像9を得ることができる。
【0034】
ぼかしフィルタ8は、GIF画像であり、略中央部に透過色(白色で表現された部分)を用い、周囲部に白色(黒色で表現された部分)を用いることで、被写体の略中央部を明るく外側を暗くして、周囲部をぼかした画像を表現することができる。
【0035】
上述した画像処理部2によって画像処理を施された結果画像4は、画像の略中央部が強調され、ちょうど画像1の花を接写撮影したような印象を与え、遠近感のある画像となる。
【0036】
上述した「疑似接写処理」は疑似画像生成機能の一機能であり、該疑似画像生成機能では3Dフィルタ6や、ぼかしフィルタ8以外の画像処理やフィルタを用いて、様々な疑似的画像処理を表現することが可能である。なお、本実施形態では2つの処理を組み合わせて疑似画像を生成する態様を開示したが、疑似画像を生成する態様は3種類以上の処理を組み合わせてもよいし、2つ以上の機能を有する1つのフィルタ処理を用いてもよい。
【0037】
3Dフィルタ6では略中央部が盛り上がっている画像を例示したが、盛り上がっている部分は略中央部以外の領域でもよい。また3Dフィルタ6の球面状格子は、球の中心がずれていたり、形状が歪んでいたりしてもよく、これに合わせてぼかしフィルタ8の透過部分を中心からずらしたり、形状を歪めたりすればよい。ただし、携帯電話機に搭載できるような単純なフィルタであることが好ましい。
【0038】
携帯電話などのモバイル機器は機種ごとにディスプレイの表示能力が異なるので、ディスプレイの能力に合わせて画像処理やフィルタを調整できるように構成することが好ましい。また、使用機器(機種)を設定し、使用機器に合わせて画像を生成するように構成するとよい。
【0039】
図2は、本発明の実施形態に係るカメラ付き携帯電話の一例を示す外観図である。この携帯電話機10は、携帯電話用の各種アプリケーションソフトウエアを実行可能な携帯電話機(例えば、株式会社NTT DoCoMoが提供する iアプリ(商品名)に対応した機種)であり、通常の電話機能及び電子メール機能の他に、静止画や動画の撮影機能を備えている。なお、本実施形態ではiアプリを例示するが、本発明の適用範囲はこれに限定されない。
【0040】
携帯電話機10には、カメラ部12、アンテナ14、ディスプレイ16、受話口17、送話口18及び操作部20が設けられている。操作部20には、ダイヤルボタン21、通話ボタン22、通話切兼用電源ボタン23、十字ボタン24、実行ボタン25その他の各種の操作手段が含まれる。操作部20は、プッシュ式のスイッチ部材に限定されず、ダイヤル部材、レバースイッチなどの構成も可能であり、また、ディスプレイ16に表示されるメニュー画面から所望の項目を選択するようなユーザインターフェースもあり得る。
【0041】
符号27は動画再生時の音声等を出力するためのスピーカである。なお、図2には明示されていないが、この携帯電話機10には動画撮影時の音声を取り込むためのマイク(図3の符号28として記載)が設けられている。
【0042】
図2に示したように、カメラ部12は、携帯電話機10の筐体29に対して回動自在に取り付けられている。カメラ部12を回すことで撮影方向を自由に変更することができ、ディスプレイ16の背面側にカメラを向けたり、図示のようにディスプレイ16の表示面側にカメラを向けたりすることができる。なお、回転機能付きのカメラ部12に代えて、所定の位置に固設されたカメラ部を搭載する態様も可能であり、また、複数のカメラ部を搭載する態様も可能である。
【0043】
図3は、携帯電話機10の構成を示すブロック図である。
【0044】
携帯電話機10は、中央演算処理装置(CPU)30とメモリ32を備えるとともに、音声処理部34、送受信回路36、受話口17のスピーカ37、送話口18のマイク38といった通常の電話機能を実現するために必要な構成要素を備えている。
【0045】
CPU30は、所定のプログラムに従って携帯電話機10全体の動作を制御する制御部として機能するとともに、各種演算を行う演算装置として機能する。すなわち、CPU30は、操作部20から入力される指令信号に基づいて携帯電話機10内の各回路を制御し、通信制御、撮影動作制御、画像処理制御、ディスプレイ16の表示制御、メモリ32の読み書き制御及び容量管理(空き容量の検出を含む)などを行う。
【0046】
CPU30はバス39を介してメモリ32と接続されている。メモリ32は、CPU30が実行するプログラム及び制御に必要な各種データなどが格納される不揮発性メモリ(ROM)領域と、プログラムの展開領域及びCPU30の演算作業用領域として利用される揮発性メモリ(RAM)領域とを含むブロックである。ROM領域は、電話帳や通話履歴のデータ記憶領域として利用されるとともに、音声や画像の保存領域として利用される。また、RAM領域は、画像データの一時記憶領域としても利用される。
【0047】
音声処理部34は、CPU30と連携して音声信号を処理又は変換する手段であり、送受信回路36から受入したデータの復号化処理及び送受信回路36を通じて送信するデータの符号化処理を行うとともに、スピーカ27、37への出力信号生成処理、マイク28、38からの入力音声信号の符号化処理などを行う。
【0048】
通話モード(電話機能を使用するモード)において、通信相手との通信接続が確立されると、マイク28から入力される音声は電気信号に変換され、音声処理部34に送られる。音声処理部34はマイク38から入力された音声信号をデジタル信号に変換(A/D変換)した後、所要の信号処理を行い、所定形式の音声データに変換する。音声処理部34で処理された音声データ(送信用のデータ)は、バス39を介して送受信回路36に送られ、所定の送信用信号形式に変換された後、アンテナ14から送信される。
【0049】
また、アンテナ14によって受波された信号は、送受信回路36において復調され、音声処理部34に送られる。音声処理部34は、送受信回路36から受入した音声信号を所定形式の音声データに変換する。音声処理部34で生成された音声データ(受信データ)は、アナログ音声信号に変換(D/A変換)された後、スピーカ37に送られる。こうして、通話相手の音声がスピーカ37から可聴出力される。もちろん、携帯電話機10は、音声データのみならず、電子メール機能やインターネットのブラウザ機能などを利用して画像データ、文書データ、プログラムデータなど種々のデータを送受信することが可能である。
【0050】
更に、携帯電話機10は、撮影レンズ40とCCDイメージセンサ(以下、CCDという。)42を有し、CCD42から得られる画像信号を処理するためのアナログ処理部44、A/D変換器45、画像処理部46、圧縮伸張部47を備えている。なお、本例では撮像素子としてCCDを用いるが、CCD型に限らず、CMOS型など他の方式によるデバイスを用いてもよい。
【0051】
撮影レンズ40を通過した光はCCD42の受光面の上に焦点を結ぶ。CCD42の受光面には多数のフォトセンサ(受光素子)が平面的に配列され、各フォトセンサに対応して赤(R)、緑(G)、青(B)の原色カラーフィルタが所定の配列構造で配置されている。RGBカラーフィルタに代えて、CMY等のカラーフィルタを用いることもできる。
【0052】
CCD42の受光面に結像された被写体像は、各フォトセンサによって入射光量に応じた量の信号電荷に変換される。CCD42は、シャッタゲートパルスのタイミングによって各フォトセンサの電荷蓄積時間(シャッタスピード)を制御する電子シャッタ機能を有している。
【0053】
CCD42の各フォトセンサに蓄積された信号電荷は、CPU30の指令に従いタイミングジェネレータ(TG)48から与えられるパルス(水平駆動パルスφH,垂直駆動パルスφV,オーバーフロードレインパルス)に基づいて信号電荷に応じた電圧信号(画像信号)として順次読み出される。CCD42から出力された画像信号は、アナログ処理部44に送られ、相関二重サンプリング(CDS)処理やゲイン調整などの所要の処理が施された後、A/D変換器45によってデジタル信号に変換される。デジタル化された画像データは画像処理部46に送られる。
【0054】
画像処理部46は、同時化回路(単板CCDのカラーフィルタ配列に伴う色信号の空間的なズレを補間して各点の色を計算する処理回路)、輝度・色差信号生成回路、ガンマ補正回路、輪郭補正回路、ホワイトバランス補正回路等を含むデジタル画像信号処理手段であり、CPU30からのコマンドに従ってメモリ32を活用しながら画像信号を処理する。
【0055】
画像処理部46において、ホワイトバランス調整処理、ガンマ変換処理、輝度信号(Y信号)及び色差信号(Cr,Cb 信号)への変換処理(YC処理)など、所定の処理が施されて生成された画像データはメモリ32に一時的に記憶される。ここで、撮影中の映像をディスプレイ16に表示させる場合には、このメモリ32の内容を読み出して表示回路50に送り、表示回路50において表示用の信号形式に変換した後、ディスプレイ16に供給する。これにより、ディスプレイ16にはCCD42が捉えているリアルタイム映像(スルー画)が表示され、撮影者はディスプレイ16に映し出される映像によって撮影画角(構図)を確認できる。なお、図1に示した画像処理部2には、CPU30および画像処理部46がふくまれている。
【0056】
操作部20の撮影ボタン(例えば、実行ボタン25で兼用)が押されると、CPU30はこれを検知して、記録用の撮影動作を実行する。取り込まれた記録用の画像データは、画像処理部46において輝度・色差信号変換処理(YC処理)その他の所定の信号処理を経た後、圧縮伸張部47に送られ、ここで所定の圧縮フォーマット(例えば、JPEG形式) に従って圧縮される。圧縮された画像データは、メモリ32の画像保存領域に格納される。
【0057】
動画撮影モードが選択されている場合には、撮影ボタンの押下によって録画動作がスタートし、その後もう一度撮影ボタンを押下すると動画記録作が停止する。なお、撮影ボタンの押下継続中に録画動作を行い、押下解除により録画を停止するようにしてもよい。
【0058】
動画撮影時の音声は、マイク28によって検出され、その検出信号(音声信号)は、音声処理部34において所定の信号形式に変換される。この音声データは、画像データとともに圧縮伸張部47において所定の圧縮フォーマット(例えば、MP4形式)に従って、圧縮処理された後メモリ32に記録される。
【0059】
図4は、図1に示した疑似画像生成機能の制御の流れを示したフローチャートである。
【0060】
ユーザは、携帯電話機10の撮像機能により画像データを取得し、この画像データに所望の画像処理施した結果画像を確認する場合に、該疑似画像生成機能の処理を開始する(ステップS10)。
【0061】
まず、該携帯電話機10の操作部20を操作して、疑似画像生成プログラムを起動する(ステップS12)。該プログラムが起動すると、画像を選択する画面がディスプレイ16に表示される(ステップS14)。この画像選択画面から対象画像データを選択すると、画像処理内容を設定する画面に切り換わり、この画面上で画像処理内容を設定する(ステップS16)。
【0062】
画像処理内容には、「セピア処理」、「美白処理」、「接写処理」、「望遠処理」などがあり、これらの中から所望の画像処理を選択する。画像処理内容には前述した4種類以外の処理を準備してもよい。また、これらの中から少なくとも1種類の処理内容を選択できるよう構成すればよい。
【0063】
対象画像と処理内容とを設定し、実行操作を行うと、該プログラムの制御に従って疑似画像が生成される(ステップS18)。該疑似画像が生成されると、ディスプレイ16には生成された疑似画像が表示される(ステップS20)。
【0064】
該疑似画像がディスプレイ16に表示されると、該疑似画像を携帯電話機10の記録手段に記録するか否かを選択することができる(ステップS22)。記録しないが選択されると(NO判定)、ディスプレイ16にはプログラムの終了画面が表示され、該プログラムを終了するか否かを選択する(ステップS26)。
【0065】
プログラム終了が選択されない場合には(NO判定)、ステップS14およびステップS16で設定された設定が解除され(ステップS28)、次の画像を処理する制御に進み(ステップS30)、ステップS14にて対象画像が選択される。
【0066】
また、ステップS26においてプログラム終了が選択されると(YES判定)、該プログラムの終了処理が実行され(ステップS32)、処理開始に戻る(ステップS34)。
【0067】
一方、ステップS22において、該疑似画像を記録するが選択されると(YES判定)、該疑似画像は携帯電話機10の記録手段に記録され(ステップS24)、ステップS26に進む。
【0068】
携帯電話機10には、該疑似画像を記録する記録手段としてメモリカードなどのリムーバブルディスクを備えるとよい。
【0069】
上記の如く構成された携帯電話機10では、画像処理内容の結果を疑似的に表現した疑似画像が生成され、該疑似画像を用いて画像処理内容の結果を見ることができる。疑似画像生成の一例を挙げると、3D処理とぼかし処理とを組み合わせて疑似接写画像を生成することができる。
【0070】
また、携帯電話機10には他の機能を提供するアプリケーションソフトウエアを備えてもよく、これらのアプリケーションは、携帯電話機10にプリインストールされていていてもよいし、メモリカードなどの記録媒体によって配布されてもよい。ネットワーク上の所定のサービスサイトからダウンロードできるように構成されてもよい。
【0071】
本実施形態ではカメラ付き携帯電話を例示したが、本発明の適用範囲はカメラ付き携帯電話に限定されず、カメラ機能を持たない携帯電話機、PDAなどにも適用可能である。
【0072】
次に、携帯電話機10に備えられたネットワーク接続機能を用いて、携帯電話機10で設定した画像処理の内容を画像処理サーバ102に依頼し、画像処理サーバ102において該設定内容に従って画像処理を実行する画像処理システムについて説明する。
【0073】
図5は、本発明の実施形態に係る携帯電話機10を用いた画像処理システムの構成図である。
【0074】
本画像処理システムは携帯電話機10を用いて撮影した画像に施す画像処理の内容を携帯電話機10で設定し、該画像と該画像処理内容の設定とを、ネットワーク100を介して画像処理サーバ102に送出し、画像処理サーバ102において携帯電話機10で設定された画像処理を施し、処理後の画像データを携帯電話機10に提供するサービスを行う。
【0075】
また、本画像処理システムでは、ユーザが画像処理後の画像のプリントを所望する場合には、ネットワーク100に接続されたセルフ式プリント装置104によって、画像処理後の画像をプリントするサービスが提供される。
【0076】
また、図5には図示しないが、複数の電子機器がそれぞれに備えた通信端末を介してネットワーク100に接続されている。前記電子機器にはノートPC、PDAなどのモバイル機器の他にサーバやディスクトップPCなどが含まれる。
【0077】
画像処理サーバ102は、携帯電話機10や他の電子機器から送出される画像データにユーザが所望する画像処理を施す画像処理部106および画像処理後の画像データを記録するデータ記録部108を有している。
【0078】
また、ネットワーク100に接続されるWebサーバ110は、Web上で行われる情報配信や各種サービス(コンテンツ)の提供を管理し、また、電子メールサーバとしても機能する。
【0079】
図6は、画像処理サーバ102の構成を示すブロック図である。
【0080】
画像処理サーバ102は制御部120によって統括制御されている。画像処理サーバ102は、カメラ付き携帯電話などで撮影された画像を、通信部122を介して取得し、画像処理部106において、通信部122を介して取得した画像に「セピア処理」、「美白処理」、「接写処理」、「望遠処理」などのカメラ付き携帯電話では実現できない加工品質が高い画像処理を施すことができる。また、画像処理を施した画像を、データ記録部108に記録することや、通信部122を介して外部に送出することができる。
【0081】
画像処理部106において画像処理を行うプログラムはプログラム記録部124に格納されており、制御部120によって適宜読み出され実行される。また、画像処理サーバ102はメモリ126を備え、メモリ126はプログラム実行時の作業領域や画像データの一時記憶領域として機能する。また、プログラム記録部124には、画像処理を実行するプログラムだけでなく、他の機能を実現するプログラムを格納することができる。
【0082】
画像処理サーバ102は、Webサーバ110がネットワーク100を介して提供する画像処理サービスのコンテンツサーバとして機能し、コンテンツに関係する処理は、画像処理サーバ102内ではコンテンツ管理部132によって管理されている。
【0083】
図7は、上述した画像処理システムをWeb上に提供する画像処理コンテンツサービスの流れを示したフローチャートである。なお、Webサーバ110によって行われるWeb上の処理は省略する。
【0084】
携帯電話機10には、既に携帯電話機10のカメラ機能を用いて撮影された画像データが生成されている。携帯電話機10に備えられたブラウザ機能を起動し(ステップS104)、画像処理サーバ102が提供する画像処理サービスページにアクセスすると(ステップS106)、画像処理サーバ102は、該画像処理サービスのフロントページを表示させる(ステップS108)。携帯電話機10では、フロントページが表示され、該フロントページの画像処理サービスのリンクを選択すると、画像処理メニューページが表示され、該画像データに施すことができる画像処理を選択できる。
【0085】
また、フロントページでは、画像処理の結果画像を疑似的に表現し、携帯電話機10のディスプレイ16に表示させる疑似画像生成アプリケーションをダウンロードすることができる。
【0086】
フロントページでは該画像処理サービスで必要となるプログラム(プラグイン、アプリケーション等)をダウンロードできるように、各プログラムのダウンロードサイトのリンクを備える構成とすることが好ましい。
【0087】
有料サービスでは、画像処理メニューページを表示する前にログオン画面を表示し、ユーザ名とパスワードによるユーザ認証を行うように構成される。また、該ログオン画面において、携帯電話機10を使用するユーザが該画像処理サービスの登録ユーザであるか確認し、登録ユーザでない場合にはユーザ登録メニューを表示して、ユーザ登録を促すように構成するとよい。
【0088】
図8は、携帯電話機10のディスプレイ16に表示された画像処理選択メニュー200を示している。この画像処理メニューから、「セピア処理」、「美白処理」、「接写処理」、「望遠処理」の何れか1つを選択することができる。
【0089】
画像処理選択メニュー200上で所望の画像処理にカーソルを合わせて選択を決定する。図8では「接写」を選択した画面202を示している。
【0090】
セピア処理は画像全体に茶色味かかった処理が施され、撮影されてから長時間経過した写真のような画像を得る処理である。また、美白処理は人物の顔のなかで白を強調させ、人物の顔を美しく見せる処理を行う。接写処理は被写体を接写撮影したように見せる処理を行い、接写処理では花や虫などが被写体として選ばれることが多い。望遠処理は被写体を望遠撮影したように見せる処理を行い、望遠処理では風景や人物、建築物などが被写体として選ばれることが多い。
【0091】
本実施形態では、「セピア処理」、「美白処理」、「接写処理」、「望遠処理」を画像処理として例示したが、画像処理の態様はこれらに限定されず、他の画像処理を提供してもよい。なお、上述した「セピア処理」、「美白処理」、「接写処理」、「望遠処理」はレンズ付きフイルムで実現されている画像処理に対応した処理である。
【0092】
携帯電話機10を使用するユーザによって画像処理選択メニュー200から所望の画像処理内容が選択されると(図7のステップS110)選択された画像処理内容の結果を確認するか否かが選択される(ステップS111)。
【0093】
結果を確認しない場合には(NO判定)、ステップS115に進み、選択された画像処理を画像処理サーバ102に依頼するか否かが選択され、依頼しない(NO判定)が選択されると、ステップS130に進み、ブラウザを終了するか否かが選択される。ステップS130においてブラウザを終了しないが選択されると(NO判定)、ステップS106に戻り、ブラウザ終了を選択すると(YES判定)、ブラウザは終了され(ステップS132)、開始に戻る(ステップS134)。
【0094】
一方、ステップS115において選択された画像処理内容をサーバに送出するが選択されると、画像処理サーバ102では決定された画像処理のプログラムが起動される(ステップS116)。
【0095】
次に、画像処理サーバ102は画像指定ページを表示させ(ステップS117)、携帯電話機10のディスプレイ16には該画像指定ページが表示される。携帯電話機10を使用するユーザは画像処理を所望する画像を指定し、該画像データを画像処理サーバ102にアップロードする(ステップS118)。
【0096】
画像を指定する画面は、携帯電話機10の撮影機能を用いて撮影された画像データが保管される記憶領域(図3のメモリ32等)を参照し、この記憶領域にある画像形式のデータが表示され、表示された画像形式のデータから所望の画像を選択できる。画像を指定する画面はメモリカードなど他のデータ記録領域にある画像データを選択できるように構成するとよい。
【0097】
画像処理サーバ102では、携帯電話機10からアップロードされた画像処理の対象画像を取得すると、既に起動されている画像処理プログラムに従って画像の処理が行われる(ステップS120)。
【0098】
ステップS120において画像処理が終了すると、画像処理済み画像を出力する処理を実行する(ステップS122)。ステップS122では、携帯電話機10のユーザは所望する画像出力の態様を選択し(ステップS126)、これに合わせて、画像処理サーバ102は画像処理済み画像を出力する。
【0099】
画像処理サーバ102では、ステップS124おいて画像出力処理が終了すると、開始に戻る(ステップS128)。
【0100】
携帯電話機10は、ステップS126において画像出力選択が終了すると、ステップS130に進む。
【0101】
また、ステップS111において結果を確認する場合には(YES判定)、携帯電話機10に搭載されている疑似画像生成アプリケーションが起動され(ステップS112)、選択された画像処理内容を疑似的に表現した結果画像がディスプレイ16に表示される(ステップS113)。結果画像がディスプレイ16に表示されると、該疑似画像生成アプリケーションは終了され(ステップS114)、ステップS115に進む。
【0102】
図7のステップS124に示した画像出力には、プリント店やセルフプリントマシンによる高画質プリントを行う態様や、画像形式に圧縮して携帯電話機10に提供する態様、画像処理サーバ102から指定された配信先に電子メールで配信する態様があり、ユーザはこの中から所望の態様を選択することができる。
【0103】
また、上述した結果画像を出力する態様に合わせて課金システムが定められている。プリントを行う態様では、プリント画像と引き換えに代金を支払う態様や、クレジットカード決済を含んだ電子決済を行う態様が含まれており、また、画像形式に圧縮して携帯電話機10に提供する態様では、サービス使用料に画像データ提供料金を合わせた金額を月額使用料として決済する態様があり、電子メールにて配信する態様では、電子メール使用料と合わせて課金する態様が含まれている。
【0104】
上記の如く構成された画像処理システムでは、携帯電話機10から画像処理サーバ102に画像処理を依頼する前に、携帯電話機10に搭載された疑似画像生成アプリケーションを用いて画像処理結果画像を疑似的に生成することができる。携帯電話機10上のローカルなフィルタ処理で画像処理効果を実現でき、ユーザはこの疑似的な結果画像を見て画像処理の内容を判断でき、所望の画像処理像が得られる場合には画像処理サーバに画像処理を依頼すればよい。特に、有料サービスの提供を受ける際には、課金される前に結果を確認できるので、無駄な料金がかからずに大変便利である。また、カメラ付き携帯電話上でサーバを介さないローカルなフィルタリングによる効果により、撮影した画像に対するさまざまな表現を提供できる。
【0105】
【発明の効果】
本発明によれば、立体化処理とぼかし処理とを組み合わせて画像の一部を強調した画像を生成することができ、処理能力に制限がある機器であっても、簡易な処理を用いて画像処理を行うことができる。また、画像の略中央部が拡大された疑似接写画像を生成することができ、光学的な作用を電気的な画像処理によって実現することができる。
【0106】
本発明を携帯電話などの携帯端末機器に適用すると便利であり、特に、本発明をカメラ付き携帯電話に適用すると、サーバなどを介すことなくローカルな処理で画像処理効果を実現でき、サーバとの通信による経済的、時間的ロスを短縮できる。
【図面の簡単な説明】
【図1】本発明の実施形態に係るカメラ付き携帯電話機に搭載された疑似画像生成機能を説明する図
【図2】本発明の実施形態に係るカメラ付き携帯電話機の外観図
【図3】本発明の実施形態に係るカメラ付き携帯電話機のブロック図
【図4】画像処理システムの制御の流れを示すフローチャート
【図5】本発明の実施形態に係る携帯電話機を用いた画像処理システムの構成図
【図6】図5に示した画像処理システムにおける画像処理サーバのブロック図
【図7】図5に示した画像処理サービスの制御の流れを示すフローチャート
【図8】図5に示した画像処理サービスの画像処理選択画面
【符号の説明】
2,46…画像処理部、6…3次元フィルタ、8…ぼかしフィルタ、10…カメラ付き携帯電話機、16…ディスプレイ、20…操作部、30…CPU、32…メモリ、42…CCD、102…画像処理サーバ、106…画像処理部
Claims (14)
- 画像を取得する画像取得手段と、
前記画像取得手段によって取得された画像データに対する、携帯端末機器の処理能力では実用的な時間内に加工処理できない、画像処理の内容を設定する設定手段と、
前記画像取得手段によって取得された画像データに、前記設定手段によって設定された画像処理と処理の内容が異なる複数の処理を組み合わせた処理を施して、前記設定手段によって設定された画像処理の効果が疑似的に表現された擬似結果画像を生成する疑似画像生成手段と、
前記疑似画像生成手段によって生成された疑似結果画像を表示する表示手段と、
ネットワークに接続されたサーバと相互にデータ通信を行う通信手段と、
前記通信手段を介して、前記設定手段により設定された画像処理の内容に従った画像処理を前記サーバへ依頼し、前記設定手段により設定された画像処理の対象画像データと前記設定手段によって設定された画像処理の内容を含んだ設定情報とを前記サーバに送出する制御を行う画像処理制御手段と、
を備えたことを特徴とする携帯端末機器。 - 前記擬似画像生成手段は、画像を立体的に変形させる立体化処理を行う立体化処理手段と、
画像の周縁部をぼかすぼかし処理を行うぼかし処理手段と、
を備え、
前記立体化処理手段による立体化処理と前記ぼかし処理手段によるぼかし処理とを組み合わせた処理を入力画像に施すことにより、前記入力画像の一部を強調する効果を得ることを特徴とする請求項1記載の携帯端末機器。 - 前記立体化処理は、球面格子上に画像を貼り付ける処理であり、前記ぼかし処理は、画像の略中央部に透過部を有し、前記透過部から周縁部に向かって被処理画像の情報を減衰させる処理であることを特徴とする請求項2記載の携帯端末機器。
- 前記立体化処理と前記ぼかし処理とを組み合わせた処理によって、画像略中央部が拡大された疑似接写画像を得ることを特徴とする請求項2又は3記載の携帯端末機器。
- 前記画像取得手段は、被写体像を撮像する撮像手段を含み、
前記設定手段は、前記撮像手段により撮像された画像の画像データに対する画像処理の内容を設定し、
前記擬似画像生成手段は、前記撮像手段により撮像された画像の画像データから擬似画像を生成することを特徴とする請求項1乃至4のいずれかに記載の携帯端末機器。 - 前記表示手段の能力に合わせて前記擬似結果画像を調整して前記表示手段に表示させるように前記表示手段を制御する手段を備えたことを特徴とする請求項1乃至5のいずれかに記載の携帯端末機器。
- 使用する携帯端末の機種を設定する手段と、
前記機種設定手段により設定された機種が具備する表示手段の能力に合わせて前記擬似結果画像を調整して前記表示手段に表示させるように前記表示手段を制御する手段と、
を備えたことを特徴とする請求項1乃至5のいずれかに記載の携帯端末機器。 - サーバと、
携帯端末機器及び前記サーバが接続されるネットワークと、
を含み、
前記携帯端末機器は、画像を取得する画像取得手段と、
前記画像取得手段によって取得された画像データに対する、携帯端末機器の処理能力では実用的な時間内に加工処理できない、画像処理の内容を設定する設定手段と、
前記画像取得手段によって取得された画像データに、前記設定手段によって設定された画像処理と異なる複数の処理を組み合わせた処理を施して、前記設定手段によって設定された画像処理の効果が疑似的に表現された擬似結果画像を生成する疑似画像生成手段と、
前記疑似画像生成手段によって生成された疑似結果画像を表示する表示手段と、
前記ネットワークを介して前記サーバと相互にデータ通信を行う通信手段と、
前記通信手段を介して、前記設定手段により設定された画像処理の内容に従った画像処理を前記サーバへ依頼し、前記設定手段により設定された画像処理の対象画像データと前記設定手段によって設定された画像処理の内容を含んだ設定情報とを前記サーバに送出する制御を行う画像処理制御手段と、
を具備することを特徴とするネットワークシステム。 - 前記サーバは、前記ネットワークを介して前記端末機器から送出された画像に対して、画像全体に茶色味かかった処理を施すセピア処理、人物の顔の中で白色を強調する処理を施す美白処理、被写体を接写撮影したように見せる処理を施す接写処理、被写体を望遠撮影したように見せる処理を施す望遠処理のうち少なくともいずれかの処理を施す画像処理手段を備えたことを特徴とする請求項8記載のネットワークシステム。
- 前記サーバは、前記ネットワークに接続される携帯端末機器に対して、前記画像処理手段による画像処理の結果を擬似的に表現し、当該携帯端末の表示手段に表示させる擬似画像を生成するプログラムを提供する手段を備えたことを特徴とする請求項9記載のネットワークシステム。
- 前記ネットワークを介して前記サーバにより画像処理が施された後の画像を取得し、前記取得した画像をプリントするプリント装置を含むことを特徴とする請求項8乃至10のいずれかに記載のネットワークシステム。
- 前記携帯端末機器は、前記サーバにより画像処理が施された画像を出力する形態を設定する手段を備えたことを特徴とする請求項8乃至11のいずれかに記載のネットワークシステム。
- 前記携帯端末機器は、請求項1乃至7のいずれかに記載の携帯端末機器を含むことを特徴とする請求項8乃至12のいずれかに記載のネットワークシステム。
- ネットワークを介してサーバとデータ通信が可能な携帯端末機器により画像を取得する画像取得工程と、
前記画像取得工程によって取得された画像データに対する、携帯端末機器の処理能力では実用的な時間内に加工処理できない、画像処理の内容を前記携帯端末機器から設定する設定工程と、
前記画像取得工程によって取得された画像データに、前記設定工程によって設定された画像処理と異なる複数の処理を組み合わせた処理を施して、前記設定工程によって設定された画像処理の効果が疑似的に表現された擬似結果画像を前記携帯端末機器により生成する疑似画像生成工程と、
前記疑似画像生成工程によって生成された疑似結果画像を前記携帯端末機器の表示手段に表示する表示工程と、
前記携帯端末機器は前記ネットワークを介して前記サーバと相互にデータ通信を行い、前記設定工程により設定された画像処理の内容に従った画像処理を前記携帯端末機器から前記サーバへ依頼する工程と、
前記設定工程により設定された画像処理の対象画像データと、前記設定工程によって設定された画像処理の内容を含んだ設定情報と、を前記携帯端末機器から前記サーバに送出する工程と、
を含むことを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003121725A JP4407150B2 (ja) | 2003-04-25 | 2003-04-25 | 携帯端末機器及びネットワークシステム並びに画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003121725A JP4407150B2 (ja) | 2003-04-25 | 2003-04-25 | 携帯端末機器及びネットワークシステム並びに画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004326534A JP2004326534A (ja) | 2004-11-18 |
JP4407150B2 true JP4407150B2 (ja) | 2010-02-03 |
Family
ID=33500197
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003121725A Expired - Fee Related JP4407150B2 (ja) | 2003-04-25 | 2003-04-25 | 携帯端末機器及びネットワークシステム並びに画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4407150B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007206405A (ja) * | 2006-02-02 | 2007-08-16 | Fujifilm Corp | 撮影装置用補助光照射装置 |
US9008464B2 (en) * | 2009-06-16 | 2015-04-14 | University-Industry Cooperation Group Of Kyung Hee University | Media data customization |
US9591347B2 (en) * | 2012-10-31 | 2017-03-07 | Google Inc. | Displaying simulated media content item enhancements on mobile devices |
JP6438218B2 (ja) * | 2014-06-13 | 2018-12-12 | キヤノン株式会社 | 装置、方法、及びプログラム |
JP6376194B2 (ja) * | 2016-09-15 | 2018-08-22 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
-
2003
- 2003-04-25 JP JP2003121725A patent/JP4407150B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2004326534A (ja) | 2004-11-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3397163B2 (ja) | 携帯電話 | |
JP5937767B2 (ja) | 撮像装置及び撮像方法 | |
JP5923670B2 (ja) | 撮像装置及び撮像方法 | |
US7728886B2 (en) | Image recording apparatus and method | |
JP2016534610A (ja) | 複数のカメラモジュールを備える写真撮影装置 | |
US20050024517A1 (en) | Digital camera image template guide apparatus and method thereof | |
JP4236986B2 (ja) | 撮影装置および方法並びにプログラム | |
WO2014050699A1 (ja) | 画像処理装置及び方法並びに撮像装置 | |
JP4309280B2 (ja) | ビューファインダとしてストリーミングビデオを使用する遠隔高解像度写真撮影およびビデオ記録方法 | |
JP4407150B2 (ja) | 携帯端末機器及びネットワークシステム並びに画像処理方法 | |
JP4247666B2 (ja) | 画像処理方法及び画像処理システム | |
JP2016534609A (ja) | 携帯電話タイプの装置に接続することが可能な低照明で写真を撮るための装置 | |
JP2004342003A (ja) | 画像処理方法及び装置並びに画像処理システム | |
KR100642688B1 (ko) | 이동통신단말기에서 화상의 일부를 편집하기 위한 장치 및 방법 | |
JP2001320454A (ja) | カメラ付き携帯電話機 | |
JP2004326423A (ja) | 画像処理方法、システムおよび画像処理サーバ並びに端末機器 | |
WO2014097792A1 (ja) | 撮像装置、信号処理方法、信号処理プログラム | |
JP2004040601A (ja) | デジタルカメラ | |
JP2010177898A (ja) | 携帯端末および携帯端末の制御方法 | |
JP4507188B2 (ja) | 撮像装置、撮像方法および撮像プログラム | |
JP3957156B2 (ja) | 画像補正方法および装置並びにプログラム | |
JP4916815B2 (ja) | 撮影支援システム及び撮影装置 | |
KR101080455B1 (ko) | 휴대단말기의 영상 보정 방법 및 장치 | |
JP5672330B2 (ja) | 撮像装置、撮像装置制御プログラム及び撮像制御方法 | |
JP2010124308A (ja) | 無線機能付きカメラ及びサービス提供システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060227 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20061212 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090205 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090417 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090520 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090717 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090812 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091020 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091102 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121120 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131120 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |