JP5371501B2 - 画像処理装置、画像処理方法、および、画像処理プログラム - Google Patents

画像処理装置、画像処理方法、および、画像処理プログラム Download PDF

Info

Publication number
JP5371501B2
JP5371501B2 JP2009064549A JP2009064549A JP5371501B2 JP 5371501 B2 JP5371501 B2 JP 5371501B2 JP 2009064549 A JP2009064549 A JP 2009064549A JP 2009064549 A JP2009064549 A JP 2009064549A JP 5371501 B2 JP5371501 B2 JP 5371501B2
Authority
JP
Japan
Prior art keywords
special effect
image data
processing
image
normal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009064549A
Other languages
English (en)
Other versions
JP2010219905A (ja
Inventor
哲也 豊田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2009064549A priority Critical patent/JP5371501B2/ja
Priority to US12/716,886 priority patent/US8605171B2/en
Priority to CN2010101354683A priority patent/CN101841651B/zh
Publication of JP2010219905A publication Critical patent/JP2010219905A/ja
Priority to US14/098,681 priority patent/US8804010B2/en
Application granted granted Critical
Publication of JP5371501B2 publication Critical patent/JP5371501B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/74Circuits for processing colour signals for obtaining special effects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Facsimiles In General (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、画像データに対して複数の特殊効果処理を施すことにより、複数の特殊効果画像データを生成して表示する技術に関する。
近年、デジタルカメラで得られる画像データに対して、ソフトフォーカスや銀塩フィルム調などの特殊効果処理を施す技術が知られている。また、ライブビュー画像データに対して特殊効果処理を施して、背面液晶等に表示することによって、撮影前にユーザが特殊効果を確認できるようにした技術も知られている。引用文献1では、複数の特殊効果処理を施したライブビュー画像をモニタにマルチ画面表示させることによって、ユーザが様々な特殊効果処理を一度に確認できるようにしている。
特開2008−211843号公報
しかしながら、引用文献1に記載の技術のように、複数の特殊効果処理を施したライブビュー画像をモニタに一度に表示すると、表示されるそれぞれの画像が小さくなって、特殊効果を確認しづらくなるという問題があった。
本発明は、画像データに施す複数の特殊効果処理の効果を容易に確認することができる技術を提供することを目的とする。
本発明による画像処理装置、画像処理方法、および、画像処理プログラムは、画像データに対して複数の特殊効果処理を施して、それぞれの特殊効果処理に対応した複数の特殊効果画像データを生成し、複数の特殊効果画像データを時系列的に自動切り替えして、モニタに表示させる。また、画像データに対して、特殊効果処理を施さない通常処理を行って通常画像データも生成し、自動切り替えを行う際には、次の特殊効果画像データに切り替える前に、通常画像データを特殊効果画像データが表示される時間よりも短い所定時間表示させることを特徴とする。
本発明によれば、複数の特殊効果処理が施された複数の特殊効果画像データを時系列的に自動切り替えして表示するので、複数の特殊効果を容易に確認することができる。
一実施形態に係る画像処理装置を含むデジタルカメラの構成を示すブロック図である。 画像処理回路の詳細な構成を示すブロック図である。 階調変換部で階調変換処理を行う際の階調変換特性の一例を示す図である。 Y信号の階調変換処理を行う際の階調変換特性の一例を示す図である。 C信号の階調変換処理を行う際の階調変換特性の一例を示す図である。 本実施の形態における画像処理装置によって行われる様々な特殊効果処理の処理時間を説明するための図である。 パターン(1)において、特殊効果処理の切り替えにおいて、合成画像を生成する際の合成係数を示す図である。 パターン(3)において、特殊効果処理の切り替え時に合成画像を生成する際の合成係数を示す図である。 パターン(1)において、特殊効果処理4から特殊効果処理2への切り替えを行う際のタイミングチャートを示している。 パターン(2)において、特殊効果処理1から特殊効果処理5への切り替えを行う際のタイミングチャートを示している。 パターン(3)において、特殊効果処理を施さない通常処理から特殊効果処理3への切り替えを行う際のタイミングチャートを示している。 一実施の形態における画像処理装置によって行われる処理内容を示すフローチャートである。
図1は、一実施の形態に係る画像処理装置を含むデジタルカメラの構成を示すブロック図である。このデジタルカメラは、撮像部1と、A/D変換部2と、マイクロコンピュータ3(以下、マイコン3と呼ぶ)と、RAM4と、ROM5と、画像処理回路6と、操作部7と、背面液晶モニタ8と、メモリインターフェース9(以下、I/F9と呼ぶ)と、記録媒体10とを備える。
撮像部1は、各画素を構成するフォトダイオードの前面に、複数のカラーフィルタが配置された単板式カラー撮像素子(以下、単に撮像素子と呼ぶ)、撮影光学系、および、これらの駆動部等から構成されている。カラーフィルタは、例えば、ベイヤー配列にて配列される。ベイヤー配列は、水平方向にR画素とG(Gr)画素が交互に配置されたラインと、G(Gb)画素とB画素が交互に配置されたラインとを有し、さらにその2つのラインを垂直方向にも交互に配置することで構成されている。撮像素子は、図示しないレンズにより集光された光を、画素を構成するフォトダイオードで受光して光電変換することで、光の量を電荷量としてA/D変換部2へ出力する。なお、撮像素子は、CMOS方式のものでもCCD方式のものでも良い。また、カラーフィルタは、ベイヤー配列以外の配列で構成されていてもよいし、R,G、B以外の色で構成されていてもよい。
A/D変換部2は、撮像部1から出力された電気信号をデジタル画像信号(以後、画像データという)に変換する。
マイコン3は、デジタルカメラの全体的な制御を行う制御部である。例えば、マイコン3は、撮像部1内部の撮影光学系の焦点制御や撮像素子の露出制御、画像データを記録媒体10に記録する際の記録制御、画像データを背面液晶モニタ8に表示する際の表示制御等を行う。また、マイコン3は、画像データに対して、様々な特殊効果を施す処理を行う。
RAM4は、A/D変換部2において得られた画像データや、後述する画像処理回路6で処理された画像データ等の各種データが一時的に記憶される記憶部である。ROM5には、デジタルカメラの動作に必要な各種パラメータや、特殊効果処理に用いるパラメータ、および、マイコン3にて実行する各種プログラムが記憶されている。マイコン3は、ROM5に記憶されているプログラムに従い、またROM5から各種シーケンスに必要なパラメータを読み込み、各処理を実行する。
画像処理回路6は、RAM4から読み出した画像データに対して様々な画像処理を施す。画像処理回路6で行う画像処理の詳細については後述する。画像処理回路6で画像処理が施された画像データは、I/F9を介して、記録媒体10に記録される。記録媒体10は、例えばデジタルカメラ本体に着脱可能なメモリカードからなる記録媒体であるが、これに限定されるものではない。
操作部7は、電源ボタン、レリーズボタン、各種入力キー等の操作部材である。ユーザによって、操作部7の何れかの操作部材が操作されることにより、マイコン3は、ユーザの操作に応じた各種シーケンスを実行する。電源ボタンは、当該デジタルカメラの電源のオン/オフ指示を行うための操作部材である。電源ボタンが押されたときに、マイコン3は、当該デジタルカメラの電源をオン又はオフする。レリーズボタンは、ファーストレリーズスイッチとセカンドレリーズスイッチの2段スイッチを有して構成されている。レリーズボタンが半押しされて、ファーストレリーズスイッチがオンされた場合に、マイコン3は、AE処理やAF処理等の撮影準備シーケンスを行う。また、レリーズボタンが全押しされて、セカンドレリーズスイッチがオンされた場合に、マイコン3は、撮影シーケンスを実行して撮影を行う。
バス11は、デジタルカメラ内部で発生した各種データをデジタルカメラ内の各部に転送するための転送路である。バス11は、撮像部1と、A/D変換部2と、マイコン3と、RAM4と、ROM5と、画像処理回路6と、操作部7と、背面液晶モニタ8と、I/F9に接続されている。
図2は、画像処理回路6の詳細な構成を示すブロック図である。画像処理回路6は、ノイズ低減部(図では、NR部)21と、ホワイトバランス補正部(図では、WB部)22と、同時化処理部23と、色変換部24と、階調変換部25と、YC変換部26と、エッジ抽出部27と、エッジ強調部28と、Y階調変換部29と、C階調変換部30と、リサイズ部31と、JPEG圧縮部32と、JPEG伸長部33と、合成部34と、加算部35とを備える。
ノイズ低減部21は、A/D変換部2で変換されて、RAM4に記憶されている画像データに対して、ノイズを低減する処理を行う。このノイズ低減処理は、例えば、撮像素子の画素欠陥を補正する処理、および、撮像時に発生するランダムノイズを低減する処理である。ただし、撮像素子の画素欠陥を補正する処理、および、撮像時に発生するランダムノイズを低減する処理のうちの少なくとも一方の処理を行うようにしてもよいし、他のノイズ低減処理を行うようにしてもよい。
ホワイトバランス補正部22は、ノイズ低減後の画像データのホワイトバランスを補正する処理を行う。
同時化処理部23は、ベイヤー配列による画像データから、1画素あたりR、G、Bの情報からなる画像データへ同時化する処理を行う。同時化された画像データは、色変換部24で所定の色変換処理が行われた後、階調変換部25で階調変換処理が行われる。ここでは、背面液晶モニタ8のガンマ特性を考慮して、暗部を伸長し、明部を圧縮するような階調変換処理が行われる。図3は、階調変換部25で階調変換処理を行う際の階調変換特性の一例を示す図である。ROM5には、図3に示すような階調変換特性の階調変換テーブルが格納されており、階調変換部25は、ROM5からこの階調変換テーブルを読み出して、階調変換処理を行う。
YC変換部26は、階調変換処理後の画像データを、Y(輝度)信号とC(色)信号とに変換する。変換されたY信号は加算部35へ出力され、C信号はC階調変換部30へ出力される。
エッジ抽出部27は、ノイズ低減部21でノイズ低減処理が行われた画像データから、エッジを抽出する処理を行う。エッジ強調部28は、エッジ抽出部27で抽出されたエッジのデータに所定のゲインを乗じるエッジ強調処理を行う。
加算部35は、YC変換部26から出力されるY信号に対して、エッジ強調部28から入力されるエッジデータを加算する。加算部35から出力されるY信号は、Y階調変換部29で階調変換処理が行われる。図4は、Y信号の階調変換処理を行う際の階調変換特性の一例を示す図である。この階調変換特性は、画像データのコントラストを強調する特性、すなわち、暗部および明部を圧縮して、中間調を伸長するような特性となっている。ROM5には、図4に示すような階調変換特性の階調変換テーブルが格納されており、Y階調変換部29は、ROM5からこの階調変換テーブルを読み出して、階調変換処理を行う。
C階調変換部30は、C信号に対して階調変換処理を行う。図5は、C信号の階調変換処理を行う際の階調変換特性の一例を示す図である。ROM5には、図5に示すような階調変換特性の階調変換テーブルが格納されており、C階調変換部30は、ROM5からこの階調変換テーブルを読み出して、階調変換処理を行う。
リサイズ部31は、階調変換処理後のY信号およびC信号を、記録時の画像サイズに合わせてリサイズする。JPEG圧縮部32は、リサイズされたY信号およびC信号に対してJPEG圧縮を行う。JPEG圧縮後のデータは、I/F9を介して記録媒体10に記録される。JPEG伸長部33は、記録媒体10に記録されているJPEG圧縮データを読み出して、圧縮前の状態に戻す伸長処理を行う。
合成部34は、RAM4に格納されている少なくとも2つの画像データを合成する処理を行う。この画像データは、後述する特殊効果処理を施す前の画像データだけでなく、特殊効果処理が施された画像データも含まれる。
図6は、本実施の形態における画像処理装置によって行われる様々な特殊効果処理の処理時間を説明するための図である。様々な特殊効果処理としては、例えば、画像を適度にぼかすソフトフォーカス処理、ライティングをしたような仕上がりにするライトトーン処理、画像の周辺光量を落としたトイフォト処理、色をカラフルで印象的に強調するポップアート処理、粗い粒子でハイコントラストなモノクロ写真を再現するラフモノクローム処理等がある。ここでは、5つの特殊効果処理が行われるものとして説明する。
特殊効果処理では、まず、画像処理回路6によるハードウェア処理を行い、ハードウェア処理ではできない処理を、マイコン3によるソフトウェア処理で行う。図6において、「H」は、画像処理回路6で行われるハードウェア処理であり、「S」は、マイコン3で行われるソフトウェア処理である。ハードウェア処理は、いわゆるパイプライン処理であるため、処理内容によって処理パラメータが変わるだけで、処理時間は変わらない。一方、ソフトウェア処理は、処理内容によって、処理時間が異なる。図6に示す例では、ハードウェア処理のみを行う特殊効果処理1の処理時間が最も短く、ソフトウェア処理の時間が長い特殊効果処理5の処理時間が最も長い。
本実施の形態における画像処理装置では、複数の特殊効果処理を施したライブビュー画像(スルー画像とも呼ばれる)を背面液晶モニタ8に表示する。特に、図6で説明した特殊効果処理1から特殊効果処理5の5つの特殊効果処理を行い、特殊効果処理を施したライブビュー画像を順に背面液晶モニタ8に表示する。特殊効果処理を施す順番としては、以下の(1)〜(3)の3つのパターンがある。
(1)特殊効果処理1→特殊効果処理4→特殊効果処理2→特殊効果処理3→特殊効果処理1→特殊効果処理5
(2)特殊効果処理1→特殊効果処理5→特殊効果処理1→特殊効果処理4→特殊効果処理1→特殊効果処理3→特殊効果処理1→特殊効果処理2
(3)特殊効果処理無し→特殊効果処理1→特殊効果処理無し→特殊効果処理2→特殊効果処理無し→特殊効果処理3→特殊効果処理無し→特殊効果処理4→特殊効果処理無し→特殊効果処理5
上述した(1)〜(3)のパターンでは、処理時間の長い特殊効果処理同士、例えば、特殊効果処理4と特殊効果処理5や、特殊効果処理3と特殊効果処理5は連続しないようにしている。例えば、(2)のパターンでは、特殊効果処理2〜特殊効果処理5を施した画像を表示する際に、最も処理時間の短い特殊効果処理1を施した画像を間に表示するようにしている。また、(3)のパターンでは、特殊効果処理1〜特殊効果処理5を施した画像を表示する際に、特殊効果処理を施していない通常処理の画像を間に表示するようにしている。これは、後述するように、処理時間の長い特殊効果処理を連続して行うと、特殊効果を施したライブビュー画像を表示するまでに時間がかかるからである。
本実施の形態では、特殊効果処理が施された特殊効果画像データ(ライブビュー画像)を表示している状態から、次の特殊効果処理が施された特殊効果画像データ(ライブビュー画像)を表示させる前に、特殊効果処理が施された画像データと次の特殊効果処理が施された画像データとを合成した画像を背面液晶モニタ8に表示させる。例えば、特殊効果処理1から特殊効果処理4へ切り替える際に、特殊効果処理1が施された特殊効果画像データと特殊効果処理4が施された特殊効果画像データとを合成した画像を、特殊効果処理4が施された特殊効果画像データを表示する前に表示する。これにより、特殊効果処理1が施された状態から、徐々に、特殊効果処理4が施された状態へと移行させる。
図7は、上記(1)のパターンにおいて、特殊効果処理の切り替えにおいて、合成画像を生成する際の合成係数を示す図である。特殊効果処理1を施した画像データを表示している状態では、特殊効果処理1の合成係数は1.0である。特殊効果処理1から特殊効果処理4へ切り替える際には、特殊効果処理1の合成係数を1.0から0.0まで徐々に低減するとともに、特殊効果処理4の合成係数を0.0から1.0まで徐々に増大させる。特殊効果処理1の合成係数が0.0になると同時に、特殊効果処理4の合成係数が1.0になって、特殊効果処理1から特殊効果処理4への切り替えが完了する。特殊効果処理1および特殊効果処理4の合成係数がそれぞれ0.0より大きく1.0より小さい場合、それぞれの特殊効果処理を施した画像をそれぞれの合成係数に応じて合成した画像が表示される。従って、合成画像は、最初は特殊効果処理1の影響が大きく、その後、特殊効果処理1の影響が徐々に小さくなるとともに、特殊効果処理4の影響が徐々に大きくなっていく。
図8は、上記(3)のパターンにおいて、特殊効果処理の切り替え時に合成画像を生成する際の合成係数を示す図である。特殊効果処理を施していない通常処理の画像データを表示している状態では、通常処理の合成画像は1.0である。通常処理から特殊効果処理1へ切り替える際には、通常処理の合成係数を1.0から0.0まで徐々に低減するとともに、特殊効果処理1の合成係数を0.0から1.0まで徐々に増大させる。通常処理の合成係数が0.0になると同時に、特殊効果処理1の合成係数が1.0になって、通常処理から特殊効果処理1への切り替えが完了する。
ここで、特殊効果処理の合成係数を1.0としている期間Tsを、通常処理の合成係数を1.0としている期間Tnと比べて長くする。特殊効果処理を連続して表示するパターン(1)やパターン(2)に比べて、通常処理時の画像データを表示してから特殊効果処理を施した画像データを表示する場合、特殊効果処理の効果がより把握しやすくなる。通常処理による画像データの表示期間Tnを、特殊効果処理を施した画像データの表示期間Tsより短くすることにより、ユーザは、特殊効果処理の効果をより把握しやすくなる。
図9は、パターン(1)において、特殊効果処理4から特殊効果処理2への切り替えを行う際のタイミングチャートを示している。撮像クロック(図では、撮像CLKと表記)に同期して、A/D変換後の画像データが読み出される(図では、データリードと表記)。撮像クロックは、例えば、1/60(秒)周期である。
画像データの読み出し処理(R1)が完了すると、読み出した画像データに対して、まず、特殊効果処理4が施される。特殊効果処理4では、最初にハードウェア処理(H1)が施され、続いて、ソフトウェア処理(S1)が施される。特殊効果処理4のソフトウェア処理(S1)が開始されると同時に、特殊効果処理2のハードウェア処理(H1)が開始される。そして、特殊効果処理4のソフトウェア処理(S1)が完了すると、特殊効果処理2のソフトウェア処理(S1)が開始される。
続いて、特殊効果処理4が施された画像データと、特殊効果処理2が施された画像データを合成する処理(C1)が行われる。この合成処理は、図7を用いて説明した処理である。
合成処理(C1)が完了すると、合成画像を背面液晶モニタ8に表示する(D1)。以後、撮像クロックに同期して、画像データの読み出しから画像表示までの処理が繰り返し行われる。
図10は、パターン(2)において、特殊効果処理1から特殊効果処理5への切り替えを行う際のタイミングチャートを示している。なお、特殊効果処理5から特殊効果処理1への切り替えを行う際のタイミングチャートも、図10に示すものと同じである。撮像クロックに同期して、A/D変換後の画像データを読み出す(R1)と、読み出した画像データに対して、まず、特殊効果処理5が施される。特殊効果処理5では、最初にハードウェア処理(H1)が施され、続いて、ソフトウェア処理(S1)が施される。特殊効果処理5のソフトウェア処理(S1)が開始されると同時に、特殊効果処理1のハードウェア処理(H1)が開始される。
特殊効果処理5を先に行うことにより、特殊効果処理5のソフトウェア処理時に、特殊効果処理1を同時に行うことができるため、特殊効果処理5に要する時間内に、特殊効果処理1および特殊効果処理5の両方の処理を行うことができる。逆に、特殊効果処理5より先に特殊効果処理1を行うと、特殊効果処理1が完了してから、特殊効果処理5を開始することになるため、処理時間が長くなってしまう。
特殊効果処理5が完了すると、特殊効果処理1が施された画像データと、特殊効果処理5が施された画像データを合成する処理(C1)が行われ、合成処理後の画像を背面液晶モニタ8に表示する(D1)。以後、撮像クロックに同期して、画像データの読み出しから画像表示までの処理が繰り返し行われる。
図11は、パターン(3)において、特殊効果処理を施さない通常処理から特殊効果処理3への切り替えを行う際のタイミングチャートを示している。なお、特殊効果処理3から通常処理への切り替えを行う際のタイミングチャートも、図11に示すものと同じである。撮像クロックに同期して、A/D変換後の画像データを読み出す(R1)と、読み出した画像データに対して、まず、特殊効果処理3が施される。特殊効果処理3では、最初にハードウェア処理(H1)が施され、続いて、ソフトウェア処理(S1)が施される。特殊効果処理3のソフトウェア処理(S1)が開始されると同時に、通常処理のハードウェア処理(H1)が開始される。
通常処理より特殊効果処理3を先に行うことにより、特殊効果処理3のソフトウェア処理時に、通常処理を同時に行うことができるため、特殊効果処理3に要する時間内に、通常処理および特殊効果処理3の両方の処理を行うことができる。逆に、特殊効果処理3より先に通常処理を行うと、通常処理が完了してから、特殊効果処理3を開始することになるため、処理時間が長くなってしまう。
特殊効果処理3が完了すると、通常処理が施された画像データと、特殊効果処理3が施された画像データを合成する処理(C1)が行われ、合成処理後の画像を背面液晶モニタ8に表示する(D1)。以後、撮像クロックに同期して、画像データの読み出しから画像表示までの処理が繰り返し行われる。
図9〜図11を用いて説明したように、上記パターン(1)〜(3)では、1撮像クロック内に、画像データの読み出しから、背面液晶モニタ8への画像表示までが完了するように、画像データに施す処理の順序が決められている。例えば、特殊効果処理4および特殊効果処理5のように、処理時間の長い特殊効果処理を連続して行うと、1撮像クロック内に、画像データの読み出しから、背面液晶モニタ8への画像表示までを完了させることができないため、順序的に連続しないようにする。
図12は、一実施の形態における画像処理装置によって行われる処理内容を示すフローチャートである。ライブビュー機能がオンされると、ステップS10の処理を開始する。なお、特殊効果処理を施す順番のパターンは、上記(1)〜(3)のパターンのうち、いずれか一つのパターンを予め設定しておいてもよいし、ユーザが上記(1)〜(3)のパターンの中から所望のパターンを選択できるようにしておいてもよい。
ステップS10では、ライブビュー撮像処理を行う。ライブビュー撮像処理では、撮像素子の画素を間引いてデータを読み出す。
ステップS20では、ファーストレリーズスイッチがオンされたか否かを判定する。ユーザによって、ファーストレリーズスイッチが押されたと判定するとステップS40に進み、ファーストレリーズスイッチがオンされていないと判定すると、ステップS30に進む。
ステップS30では、周知の露出制御および焦点制御を実行する。
ステップS40では、特殊効果処理に用いるパラメータを設定する。ROM5には、特殊効果処理1〜特殊効果処理5に用いるパラメータがそれぞれ格納されており、処理を行う特殊効果処理に応じたパラメータをROM5から読み出して設定する。例えば、パターン(1)の場合、図7に示すように、時間の経過とともに、特殊効果処理1から順に特殊効果処理が行われる。従って、処理開始からの経過時間に応じた特殊効果処理のパラメータをROM5から読み出して設定する。
ステップS50では、合成部34で合成処理を行う際に用いる合成係数を設定する。この合成係数は、図7および図8を用いて説明したように、時間と共に変化する係数である。ROM5には、処理開始からの経過時間と各特殊効果処理の合成係数との関係を示すデータが格納されており、処理開始からの経過時間に応じて、各特殊効果処理の合成係数を読み出して設定する。
ステップS60では、図9〜図11を用いて説明した方法により、ステップS40で設定したパラメータを用いて特殊効果処理を行い、特殊効果処理を施した画像データに対して、ステップS50で設定した合成係数を用いて、合成処理を行う。合成処理には、合成係数がそれぞれ、0.0、1.0で合成する処理も含まれる。
ステップS70では、合成処理後の画像データをRAM4に格納する。ステップS80では、RAM4に格納した画像データを背面液晶モニタ8に表示させることによって、背面液晶モニタ8の表示の更新を行う。これにより、特殊効果処理が施されたライブビュー画像が表示される。
ステップS90では、セカンドレリーズスイッチがオンされたか否かを判定する。セカンドレリーズスイッチがオンされていないと判定するとステップS10に戻り、ステップS80までの処理が再度行われる。すなわち、セカンドレリーズスイッチがオンされるまでは、特殊効果処理が施されたライブビュー画像の表示が継続して行われる。一方、ユーザによってセカンドレリーズスイッチがオンされたと判定すると、ステップS100に進む。
ステップS100では、撮像後の画像データに施す特殊効果の種類を判断する。特殊効果の種類の判断方法を以下で説明する。
ユーザは、背面液晶モニタ8に次々と表示される様々な特殊効果処理が施された画像の中から、所望の特殊効果処理が施された画像が表示されると、その表示の間に、セカンドレリーズスイッチを押す。例えば、特殊効果処理4が施された画像データが背面液晶モニタ8に表示されている間にユーザによってセカンドレリーズスイッチが押されると、撮像後の画像データに施す特殊効果の種類は、特殊効果処理4であると判断する。また、2つの画像データの合成画像が表示されている間にセカンドレリーズスイッチが押されると、撮像後の画像データに施す特殊効果の種類は、それら2つの特殊効果処理であると判断する。
ステップS110では、静止画撮像処理を行う。ステップS10のライブビュー撮像処理では、撮像素子の画素を間引いてデータを読み出したが、ここでは、全画素から得られるデータを読み出す。
ステップS120では、ステップS100で判断された特殊効果処理に応じたパラメータを設定する。上述したように、ROM5には、特殊効果処理1〜特殊効果処理5に用いるパラメータがそれぞれ格納されており、ステップS100で判断された特殊効果処理に応じたパラメータをROM5から読み出して設定する。ステップS100で判断された特殊効果処理が2つある場合には、2つの特殊効果処理に応じたパラメータをそれぞれROM5から読み出して設定する。
ステップS130では、合成部34で合成処理を行う際に用いる合成係数を設定する。ステップS100で判断された特殊効果処理が1つの場合には、合成係数を1.0とする。一方、ステップS100で判断された特殊効果処理が2つの場合には、ユーザによってセカンドレリーズスイッチが押された際の合成係数を設定する。例えば、特殊効果処理1の合成係数が0.7、特殊効果処理4の合成係数が0.3の合成画像が背面液晶モニタ8に表示されている時にセカンドレリーズスイッチが押された場合には、特殊効果処理1の合成係数を0.7、特殊効果処理4の合成係数を0.3に設定する。
ステップS140では、ステップS120で設定したパラメータを用いて特殊効果処理を行い、特殊効果処理を施した画像データに対して、ステップS130で設定した合成係数を用いて、合成処理を行う。ステップS100で判断された特殊効果処理が1つの場合には、合成対象の画像データ(合成係数は1.0)が1つであるため、実際には合成処理は行われない。
ステップS150では、JPEG圧縮部32において、ステップS140の処理が完了した画像データに対して、JPEG圧縮を行う。ステップS160では、JPEG圧縮された画像データをRAM4に格納する。
ステップS170では、画像の記録モードや露出条件などの撮影情報をフィルヘッダ情報として作成し、ステップS180では、作成されたファイルヘッダ情報を、JPEG圧縮されてRAM4に一時的に格納された画像データに付加して、I/F9を介して記録媒体10に記録する。
以上、一実施の形態における画像処理装置によれば、ライブビュー画像データに対して複数の特殊効果処理を施して、それぞれの特殊効果処理に対応した複数の特殊効果画像データを生成し、生成した複数の特殊効果画像データを時系列的に自動切り替えして、背面液晶モニタ8に表示させる。これにより、複数の特殊効果画像データを縮小せずに、背面液晶モニタ8に表示させることができるので、ユーザは、複数の特殊効果処理を確実かつ容易に確認することができる。
上記(3)のパターンで表示の切り替えを行う場合、次の特殊効果画像データに切り替える前に、特殊効果処理を施していない通常画像データを所定時間表示させるので、特殊効果画像データを連続して表示させる場合に比べて、特殊効果を確認しやすくなる。特に、通常画像データの表示時間を、特殊効果画像データの表示時間に比べて短くするので、ユーザは、特殊効果をより確実に確認することができる。
また、背面液晶モニタ8の表示を、通常画像データから特殊効果画像データに切り替える際に、特殊効果画像データおよび通常画像データを加重合成した合成画像データを表示させてから、特殊効果画像データを表示させるので、ユーザは、特殊効果をより確実に確認することができる。
上述した一実施の形態における画像処理装置によれば、複数の特殊効果処理に要する時間が所定の範囲内になるように、複数の特殊効果処理を行う順序を決定するので、特殊効果処理に多大な時間がかかって、特殊効果処理を施した特殊効果画像データの表示時間が遅くなるのを防ぐことができる。
なお、上述した一実施の形態の説明では、画像処理装置が行う処理としてハードウェアによる処理を前提としていたが、このような構成に限定される必要はない。例えば、別途ソフトウェアにて処理する構成も可能である。この場合、画像処理装置は、CPU、RAM等の主記憶装置、上記処理の全て或いは一部を実現させるためのプログラムが記憶されたコンピュータ読み取り可能な記憶媒体を備えている。ここでは、このプログラムを画像処理プログラムと呼ぶ。そして、CPUが上記記憶媒体に記憶されている画像処理プログラムを読み出して、情報の加工・演算処理を実行することにより、上述の画像処理装置と同様の処理を実現させる。
ここで、コンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM、半導体メモリ等をいう。また、この画像処理プログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該画像処理プログラムを実行するようにしても良い。
本発明は、上述した一実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。例えば、図12に示すフローチャートの説明では、2つの画像データの合成画像が背面液晶モニタ8に表示されている間にセカンドレリーズスイッチが押されると、撮像後の画像データに施す特殊効果の種類は、それら2つの特殊効果処理であると判断した。しかしい、セカンドレリーズスイッチが押された時の合成係数が大きい方の特殊効果処理のみを撮像後の画像データに施すようにしてもよい。この場合、合成係数が共に0.5の時に、セカンドレリーズスイッチが押された場合には、既に表示されていた方の特殊効果処理が選択されたと判断することができる。例えば、特殊処理効果1から特殊処理効果4への切り替え途中であって、合成係数が共に0.5の時にセカンドレリーズスイッチが押された場合には、撮像後の画像データに施す特殊効果の種類は、特殊効果処理1であると判断する。
上述した実施の形態では、画像処理装置をデジタルカメラに適用した例を挙げて説明した。しかし、既に撮像された画像データを記憶装置に格納しておき、画像処理装置としてのコンピュータが記憶装置から画像データを読み込んで、複数の特殊効果処理を施し、複数の特殊効果画像データを時系列的に自動切り替えして、モニタに表示させるようにしてもよい。
背面液晶モニタ8に時系列的に表示するために、画像データに施す特殊効果処理は、デジタルカメラが備えている全ての種類の特殊効果処理であってもよいし、ユーザが指定した種類の特殊効果処理であってもよい。
特殊効果処理を施す順番は、上記(1)〜(3)のパターンに限定されることはない。ただし、複数の特殊効果処理に要する時間が所定の範囲内になるように、複数の特殊効果処理を行う順序を決定することが好ましい。
1…撮像部
2…A/D変換部
3…マイコン
4…RAM
5…ROM
6…画像処理回路
7…操作部
8…背面液晶モニタ
9…I/F
10…記録媒体
21…ノイズ低減部
22…ホワイトバランス補正部
23…同時化処理部
24…色変換部
25…階調変換部
26…YC変換部
27…エッジ抽出部
28…エッジ強調部
29…Y階調変換部
30…C階調変換部
31…リサイズ部
32…JPEG圧縮部
33…JPEG伸長部
34…合成部
35…加算部

Claims (11)

  1. 画像データに対して特殊効果処理を施すことにより得られるライブビュー画像をモニタに表示する画像処理装置であって、
    画像データに対して複数の異なる特殊効果処理を施して、それぞれの特殊効果処理に対応した複数の異なる特殊効果画像データを生成する画像処理部と、
    前記複数の異なる特殊効果画像データを時系列的に自動切り替えして、前記モニタに表示させる制御部と、
    を備え、
    前記画像処理部は、画像データに対して、前記特殊効果処理と前記特殊効果処理を施さない通常処理とを行って、それぞれ特殊効果画像データと通常画像データを生成するものであって、
    前記制御部は、前記自動切り替えを行う際には、次の特殊効果画像データに切り替える前に、前記通常画像データを所定時間表示させ
    前記所定時間は、前記特殊効果画像データが表示される時間よりも短いことを特徴とする画像処理装置。
  2. 前記特殊効果画像データおよび前記通常画像データを加重合成して、合成画像データを生成する合成部をさらに備え、
    前記制御部は、前記モニタの表示を、前記通常画像データから前記特殊効果画像データに切り替える際に、前記合成画像データを表示させてから、前記特殊効果画像データを表示させることを特徴とする請求項1に記載の画像処理装置。
  3. 前記特殊効果画像データおよび前記通常画像データを加重合成して、合成画像データを生成する合成部をさらに備え、
    前記制御部は、前記モニタの表示を、前記特殊効果画像データから前記通常画像データに切り替える際に、前記合成画像データを表示させてから、前記通常画像データを表示させることを特徴とする請求項1に記載の画像処理装置。
  4. 前記合成画像データが前記モニタに表示されているときにユーザから指示が出されたタイミングの合成比率に基づいて、撮像画像に施す特殊効果処理を決定する特殊効果処理決定部をさらに備えることを特徴とする請求項または請求項に記載の画像処理装置。
  5. 前記画像処理部は、画像データに対して、2種類以上の特殊効果処理を行って、2種類以上の特殊効果画像データを生成するものであって、
    前記2種類以上の特殊効果画像データを加重合成して、合成画像データを生成する合成部をさらに備え、
    前記制御部は、前記モニタの表示を、前記2種類以上の特殊効果画像データで切り替える際に、前記合成画像データを表示させることを特徴とする請求項1に記載の画像処理装置。
  6. 前記合成画像データが前記モニタに表示されているときにユーザから指示が出されたタイミングの合成比率に基づいて、撮像画像に施す特殊効果処理を決定する特殊効果処理決定部をさらに備えることを特徴とする請求項に記載の画像処理装置。
  7. 前記制御部は、前記画像処理部で行われる複数の特殊効果処理に要する時間が所定の範囲内になるように、前記複数の特殊効果処理を行う順序を決定することを特徴とする請求項または請求項に記載の画像処理装置。
  8. 前記特殊効果処理決定部は、前記合成画像データが前記モニタに表示されているときに、レリーズスイッチが押されたタイミングを、前記ユーザから指示が出されたタイミングと判断することを特徴とする請求項または請求項に記載の画像処理装置。
  9. 被写体を撮像して画像データを得る撮像部と、
    画像データを表示する表示部と、
    前記撮像された画像データに対して複数の異なる特殊効果処理を施して、それぞれの特殊効果処理に対応した複数の異なる特殊効果画像データを生成する画像処理部と、
    前記複数の異なる特殊効果画像データを時系列的に自動切り替えして、前記表示部に表示させる制御部と、
    を備え、
    前記画像処理部は、画像データに対して、前記特殊効果処理と前記特殊効果処理を施さない通常処理とを行って、それぞれ特殊効果画像データと通常画像データを生成するものであって、
    前記制御部は、前記自動切り替えを行う際には、次の特殊効果画像データに切り替える前に、前記通常画像データを所定時間表示させ
    前記所定時間は、前記特殊効果画像データが表示される時間よりも短いことを特徴とする撮像装置。
  10. 画像データに対して特殊効果処理を施すことにより得られるライブビュー画像をモニタに表示する画像処理方法であって、
    画像データに対して複数の異なる特殊効果処理を施して、それぞれの特殊効果処理に対応した複数の異なる特殊効果画像データを生成するステップと、
    画像データに対して前記特殊効果処理を施さない通常処理を行って、通常画像データを生成するステップと、
    前記複数の異なる特殊効果画像データを時系列的に自動切り替えして、前記モニタに表示させるステップと、
    を備え、
    前記複数の特殊効果画像データを時系列的に自動切り替えして前記モニタに表示させるステップでは、次の特殊効果画像データに切り替える前に、前記通常画像データを所定時間表示させ
    前記所定時間は、前記特殊効果画像データが表示される時間よりも短いことを特徴とする画像処理方法。
  11. 画像データに対して特殊効果処理を施すことにより得られるライブビュー画像をモニタに表示するための画像処理プログラムであって、
    画像データに対して複数の異なる特殊効果処理を施して、それぞれの特殊効果処理に対応した複数の異なる特殊効果画像データを生成するステップと、
    画像データに対して前記特殊効果処理を施さない通常処理を行って、通常画像データを生成するステップと、
    前記複数の異なる特殊効果画像データを時系列的に自動切り替えして、前記モニタに表示させるステップと、
    をコンピュータに実行させるものであって、
    前記複数の特殊効果画像データを時系列的に自動切り替えして前記モニタに表示させるステップでは、次の特殊効果画像データに切り替える前に、前記通常画像データを所定時間表示させ
    前記所定時間は、前記特殊効果画像データが表示される時間よりも短いことを特徴とする画像処理プログラム
JP2009064549A 2009-03-17 2009-03-17 画像処理装置、画像処理方法、および、画像処理プログラム Expired - Fee Related JP5371501B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009064549A JP5371501B2 (ja) 2009-03-17 2009-03-17 画像処理装置、画像処理方法、および、画像処理プログラム
US12/716,886 US8605171B2 (en) 2009-03-17 2010-03-03 Image processing apparatus, imaging apparatus, image processing method and storage medium storing image processing program
CN2010101354683A CN101841651B (zh) 2009-03-17 2010-03-17 图像处理装置、摄像装置以及图像处理方法
US14/098,681 US8804010B2 (en) 2009-03-17 2013-12-06 Image processing apparatus, imaging apparatus, image processing method and storage medium storing image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009064549A JP5371501B2 (ja) 2009-03-17 2009-03-17 画像処理装置、画像処理方法、および、画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2010219905A JP2010219905A (ja) 2010-09-30
JP5371501B2 true JP5371501B2 (ja) 2013-12-18

Family

ID=42737232

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009064549A Expired - Fee Related JP5371501B2 (ja) 2009-03-17 2009-03-17 画像処理装置、画像処理方法、および、画像処理プログラム

Country Status (3)

Country Link
US (2) US8605171B2 (ja)
JP (1) JP5371501B2 (ja)
CN (1) CN101841651B (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI438715B (zh) 2010-09-02 2014-05-21 Htc Corp 手持式裝置之影像處理方法及系統,及其電腦程式產品
JP5263630B2 (ja) * 2010-11-24 2013-08-14 カシオ計算機株式会社 画調変換装置およびプログラム
JP5750692B2 (ja) * 2011-02-03 2015-07-22 オリンパス株式会社 撮像装置、撮像プログラムおよび撮像方法
US20140038628A1 (en) * 2011-04-15 2014-02-06 Nokia Simens Networks Oy Apparatus and Method for Communication
KR20120119794A (ko) * 2011-04-22 2012-10-31 삼성전자주식회사 특수 효과들을 사용한 촬영 방법 및 장치
JP5878063B2 (ja) * 2012-03-29 2016-03-08 オリンパス株式会社 撮像装置、撮像方法および撮像プログラム
US9019400B2 (en) 2011-05-31 2015-04-28 Olympus Imaging Corp. Imaging apparatus, imaging method and computer-readable storage medium
JP5806513B2 (ja) * 2011-05-31 2015-11-10 オリンパス株式会社 撮像装置、撮像方法および撮像プログラム
JP5806512B2 (ja) * 2011-05-31 2015-11-10 オリンパス株式会社 撮像装置、撮像方法および撮像プログラム
US8957982B2 (en) * 2011-10-04 2015-02-17 Olympus Imaging Corp. Imaging device and imaging method
JP5931393B2 (ja) * 2011-10-04 2016-06-08 オリンパス株式会社 撮像装置
JP5872834B2 (ja) 2011-10-06 2016-03-01 オリンパス株式会社 撮像装置、撮像方法および撮像プログラム
JP5911253B2 (ja) * 2011-10-06 2016-04-27 オリンパス株式会社 撮像装置
JP5836138B2 (ja) * 2012-01-17 2015-12-24 オリンパス株式会社 撮像装置、画像処理方法およびプログラム
US9148582B2 (en) * 2012-06-29 2015-09-29 Intel Corporation Method and system for perfect shot imaging from multiple images
KR101889932B1 (ko) * 2012-07-25 2018-09-28 삼성전자주식회사 촬영 장치 및 이에 적용되는 촬영 방법
JP2014057169A (ja) * 2012-09-11 2014-03-27 Olympus Imaging Corp 画像生成装置、それを備えた撮像装置、画像生成方法及び画像生成プログラム
JP6084029B2 (ja) * 2012-12-27 2017-02-22 キヤノン株式会社 撮像装置及びその制御方法及びプログラム及びその記憶媒体
JP6083288B2 (ja) * 2013-03-27 2017-02-22 日本電気株式会社 映像効果装置及び映像効果処理方法
JP6218865B2 (ja) * 2016-01-27 2017-10-25 オリンパス株式会社 撮像装置および撮像方法
CN108833781B (zh) * 2018-06-15 2021-03-26 Oppo广东移动通信有限公司 图像预览方法、装置、终端及计算机可读存储介质
CN109254775A (zh) * 2018-08-30 2019-01-22 广州酷狗计算机科技有限公司 基于人脸的图像处理方法、终端及存储介质
CN112804578A (zh) * 2021-01-28 2021-05-14 广州虎牙科技有限公司 氛围特效生成方法、装置、电子设备和存储介质
CN112884909B (zh) * 2021-02-23 2024-09-13 浙江商汤科技开发有限公司 Ar特效的显示方法、装置、计算机设备及存储介质

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6118480A (en) * 1997-05-05 2000-09-12 Flashpoint Technology, Inc. Method and apparatus for integrating a digital camera user interface across multiple operating modes
JP4155419B2 (ja) * 1997-10-14 2008-09-24 カシオ計算機株式会社 カメラ装置および撮像方法
JP4179456B2 (ja) * 2003-01-21 2008-11-12 株式会社バンダイ デジタルカメラ、及びそれに用いられるプログラム
KR100575924B1 (ko) 2003-12-27 2006-05-02 삼성전자주식회사 카메라를 구비하는 장치의 영상 촬영 방법
JP2005318347A (ja) * 2004-04-30 2005-11-10 Casio Comput Co Ltd 撮像装置、画像記録方法及び画像記録プログラム
JP4532994B2 (ja) 2004-05-31 2010-08-25 キヤノン株式会社 映像処理装置及び方法
JP2008211843A (ja) 2008-05-19 2008-09-11 Casio Comput Co Ltd 撮像装置及び撮像制御プログラム

Also Published As

Publication number Publication date
US8605171B2 (en) 2013-12-10
US20140092308A1 (en) 2014-04-03
CN101841651A (zh) 2010-09-22
US8804010B2 (en) 2014-08-12
JP2010219905A (ja) 2010-09-30
US20100238324A1 (en) 2010-09-23
CN101841651B (zh) 2013-01-16

Similar Documents

Publication Publication Date Title
JP5371501B2 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP5439197B2 (ja) 撮像装置、撮像方法、および、撮像プログラム
KR100819804B1 (ko) 촬상 장치
JP2008078837A (ja) 撮像装置、画像表示制御プログラム及び画像表示制御方法
JP6304293B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2010062836A (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP5185085B2 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP6929711B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム
JP5820720B2 (ja) 撮像装置
JP5530304B2 (ja) 撮像装置および撮影画像表示方法
JP2010283504A (ja) 撮像装置、撮像方法、および、撮像プログラム
JP7004851B2 (ja) 撮像装置、撮像装置の画像データ処理方法、及びプログラム
JP2018056652A (ja) 撮像装置及び撮像装置の制御方法
JP2010245810A (ja) 撮像装置
JP5094686B2 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP2002330322A (ja) 電子カメラ
JP5191941B2 (ja) 撮像装置、画像処理装置、画像処理方法、および、画像処理プログラム
JP2010245686A (ja) 撮像装置、画像処理方法、および、画像処理プログラム
JP5916984B2 (ja) 画像処理装置、画像処理方法及びプログラム
JPH10224690A (ja) 情報処理装置および記録媒体
JP5121636B2 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
JP2003244714A (ja) 画像処理装置及びデジタルスチルカメラ
JP2010258757A (ja) 動画記録装置、撮像装置、動画記録方法、動画記録プログラム
JP5555076B2 (ja) 撮像装置、画像処理装置及び画像処理方法
JP2013135322A (ja) 画像処理装置、それを備えた撮像装置、画像処理方法、及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130214

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130719

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130823

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130917

R151 Written notification of patent or utility model registration

Ref document number: 5371501

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees