JP2009017233A - 映像信号処理装置、映像信号処理方法、および映像信号処理プログラム - Google Patents

映像信号処理装置、映像信号処理方法、および映像信号処理プログラム Download PDF

Info

Publication number
JP2009017233A
JP2009017233A JP2007176650A JP2007176650A JP2009017233A JP 2009017233 A JP2009017233 A JP 2009017233A JP 2007176650 A JP2007176650 A JP 2007176650A JP 2007176650 A JP2007176650 A JP 2007176650A JP 2009017233 A JP2009017233 A JP 2009017233A
Authority
JP
Japan
Prior art keywords
noise reduction
compression
image
video signal
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007176650A
Other languages
English (en)
Inventor
Kazunori Hayashi
和慶 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2007176650A priority Critical patent/JP2009017233A/ja
Priority to US12/214,812 priority patent/US20090021645A1/en
Priority to TW97124719A priority patent/TWI390959B/zh
Priority to CN2008101275896A priority patent/CN101340586B/zh
Publication of JP2009017233A publication Critical patent/JP2009017233A/ja
Pending legal-status Critical Current

Links

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration by the use of local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20182Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance

Abstract

【課題】本発明は、データ伝送量に応じてノイズ削減量を調整し、低ビットレート時での画像の視認性悪化を抑制するようにする。
【解決手段】本発明は、ユーザによって入力された設定コマンドによりCPU16のパラメータ設定部18によって信号処理部に対してノイズ削減量が設定され、画像圧縮部14に対して圧縮率が設定され、ノイズ削減処理部15に対してノイズ削減量が設定される。画像入力部11から入力された画像は信号処理部12においてデジタルの画像データに変換され、設定されたノイズ削減量に従ってノイズ削減処理が施された後Codec13に供給される。Codec13の画像圧縮部14は、ノイズ削減処理部15で設定されたノイズ削減量でノイズ削減処理が施された画像に対して設定された圧縮率で画像圧縮処理を行い、その画像データはネットワーク処理部17を介してネットワークに送出される。
【選択図】図3

Description

本発明は、映像信号処理装置、映像信号処理方法、および映像信号処理プログラムに関し、例えば入力された映像データに対してノイズ削減処理および伝送データ量削減処理を行う監視カメラシステムに適用して好適なものである。
従来、監視カメラシステムは、ビデオテープレコーダ等の映像記録装置と信号線で接続し、カメラで撮像した映像信号を信号線を介して映像記録装置に供給し、記録させるいわゆるアナログカメラシステムが用いられてきたが、近年、インターネットの普及により、ネットワークを介してカメラが設置された場所から遠隔地に設置されたコンピュータにカメラによって撮影された映像データを伝送し、コンピュータに接続されたハードディスク装置(ストレージ)等の映像記録装置に記録するいわゆるIP(Internet Protocol)カメラシステムが使用されるようになってきている。
このIPカメラシステムのように、IP化することによって、カメラによって撮影された映像を遠隔地から監視することが可能となったり、大規模なシステムの構築が可能となっている。
IPネットワークを介して映像データを電送するIP伝送時の圧縮方式(Codec、コーデック)は、監視カメラ以外でも一般的に用いられているJPEG圧縮方式、MPEG方式が主流である。JPEG(Joint Photographic Experts Group)圧縮方式は、静止画像の圧縮方式であるためフレームレートが低い場合でも有効な方式であり、MPEG(Moving Picture Experts Group)方式は動画像のための圧縮方式であってJPEGなどの静止画像の圧縮方式よりも高圧縮にすることができる。
図1は、従来の監視カメラシステム(IP出力方式)の例を示すブロック図である。監視カメラ1は、被写体から反射された光を集光するレンズ2と、レンズ2によって集光された光によって形成された画像を検出するCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)センサ3と、信号処理を行う信号処理部4と、信号処理部4によって信号処理された画像データに対して圧縮処理を施す圧縮装置(Codec)5と、Codec5に対して圧縮率を設定するとともに、圧縮された圧縮データを受け取り、ネットワークを介して送出する制御を行うCPU6等から構成されている。
CCDまたはCMOSセンサ3で撮像された映像に対応する映像信号は、信号処理部4に供給され、信号処理部4においてデジタルの画像データに変換される。この画像データはCodec5に供給され、Codec5において圧縮された結果として得られた圧縮データは、CPU6に供給される。
CPU6は、Codec5より供給された圧縮データに対して、ネットワークに伝送できるよう、データ変換などの処理を行う。このとき、ユーザ等によって指定された伝送容量(データサイズ)になるようにCodec5に対して圧縮率を示すパラメータを供給し、設定する。Codec5は、CPU6から供給された圧縮率を示すパラメータを受け、量子化ステップの設定変更を行う。その後、Codec5は、設定された量子化ステップに基づいて圧縮処理を行うことになる。
ここで図2を参照して、図1の圧縮装置(Codec)5について詳細に説明する。図2は、JPEG圧縮方式で入力画像を圧縮するCodec5の基本機能ブロック図を示している。同図において、入力画像(通常はYUV色空間、4:1:1などのフォーマット)は、DCT51において、8×8画素毎にDCT(逆コサイン変換)で周波数領域に変換され、量子化器52に供給される。
次に、量子化器52において、DCT51によって変換された周波数領域の情報(係数)に対して、あらかじめ設定された量子化テーブル53にしたがって、その係数が削減される。そして、量子化器52から出力される量子化値は、エントロピー符号化器54においてハフマン符号によるエントロピー符号化が行われ、圧縮画像データとして出力される。
圧縮率を制御するときは、DCT51の出力係数を、設定した圧縮率に応じたステップサイズで圧縮する。入力画像の周波数成分が幅広い場合、出力係数が広い範囲にわたるため、ステップサイズを小さくしないと画質劣化が生じる。
例えば、入力画像の周波数成分の範囲が広くない場合は、DCT係数もその周波数成分に応じてその範囲が狭くなるので、ステップサイズを細かく設定しても(圧縮率を下げても)、圧縮後のデータ量が少なくなる。これはもともとDCT係数の範囲が狭いことに起因する。即ち、ステップサイズを小さくするとデータ量が増してしまうが、入力画像の周波数成分の範囲が広い場合は、ステップサイズを小さくしないと画質が劣化してしまうことになる。
入力画像の周波数成分の範囲が広いということは、即ち入力画像に細かい様々な模様が含まれるということであり、逆に画像が単色あるいは緩やかな変化しかない場合には周波数成分の範囲は狭いということになる。また、入力画像にノイズ成分が多く含まれる場合は、画像に細かい模様が含まれる場合と同様に、広い範囲の周波数成分を持つことになる。
なお、これまでの説明ではJPEG方式について説明してきたが、MPEG方式であってもIピクチャはJPEG方式と同様にDCTを用いて圧縮しているため、同様の傾向がある。
また、映像信号に含まれるノイズ成分を適応的に削減する映像信号処理装置としては、入力された映像信号に含まれるノイズ量を認識し、認識したノイズ量に応じて、映像信号中に含まれるノイズ成分を適応的に抑圧し、ノイズ成分が抑圧された後の映像信号に対して圧縮符号化処理を施すことにより高品質の再生映像を得ることができるようになされたものがある(例えば、特許文献1参照)。
特開2005-20193公報
ところでかかる構成の監視カメラシステム1(図1、図2)においては、システムの規模の増大とともに、伝送容量(帯域)が増大し、記録(ストレージ)容量も増大することが大きな課題となっている。伝送容量および記録容量を削減するためには、より高圧縮にする方法、フレームレートを下げる方法、画像サイズを縮小する方法等が考えられる。高圧縮にする方法では、画像の先鋭度が落ちたりブロックノイズや偽色が発生して視認性が悪化するなどの問題が生じるため、極端に高圧縮にすることはできない。特に夜間の撮影画像に見られるように、ノイズ成分が重畳されている画像では、高圧縮にすればするほど、そのノイズ成分によって画質が劣化する。
フレームレートを下げる方法は、例えば通常30フレーム/秒で撮影、伝送されるものを、15フレーム/秒、またはそれ以下に削減するというもので、監視対象物に依存するが、人の動きなどの判別に悪影響を与えない範囲で低フレームレートに減らすことが可能である。
画像の解像度を削減する手法では、画像上で小さく写る物体や細かい模様等の視認性が悪化するが、これも監視対象物に依存して、それらの判別に悪影響を与えない範囲でデータ量削減のために用いることができる。
これらのデータ量削減の手法は、単独で用いるものではなく、必要な削減量に達するまで複数の手法を組み合わせて使うことが多く、しかも同一画質であればできるだけ高圧縮かつデータ量が少ない手法が好まれる。
さらに、MPEG方式の場合、Bピクチャ、Pピクチャでは前後のフレーム間の差分を量子化しているため、あるフレームの画像にノイズが重畳されているとき、そのノイズは画像の模様に相関が無いため、フレーム間の差分量が増えてしまい、ノイズが少ない状態と比較して、同等の画質を得るためにはデータ量が増大するという問題が生じる。
また、すでに述べたように、Codec以外のフレームレート削減、画像解像度削減によるデータ圧縮は併用されることがあるが、これらどのデータ削減方法も、実際の監視カメラシステムの構成、監視対象物、必要とする精度等によって決まるものであり、監視カメラシステムとしては、これらのデータ削減のためのパラメータは画一的に決めることができないため、これらデータ削減のためのパラメータをユーザや設置者が変更できるように構成しておく必要がある。しかしながら、従来、これらデータ削減のためのパラメータを監視対象物の視認性の劣化を抑制しつつ変更することはできないという問題があった。
また、特許文献1の発明では、入力された映像信号に含まれるノイズ量に応じて、映像信号中に含まれるノイズ成分を適応的に抑圧し、圧縮符号化処理を施すことにより、高品質の再生映像を得る技術が開示されているが、データ量を削減しつつ視認性の劣化を抑制することはできないという問題があった。
本発明は以上の点を考慮してなされたもので、データ量の削減を実現しつつ視認性劣化を少なくすることができる監視カメラシステムを提案しようとするものである。
かかる課題を解決するため本発明においては、映像に対して圧縮処理を施す圧縮処理手段と、映像データのネットワーク上へのデータ伝送量に応じて、映像データに対して所定のノイズ削減量のノイズ削減処理を施すことにより、データ伝送量に応じたノイズ削減処理を行うことができ、低ビットレート時での映像の視認性の悪化を抑制することができる。
本発明によれば、ネットワーク上に送出する映像データのデータ伝送量に拘わらず、映像の画質劣化による視認性の悪化を抑制することができる映像信号処理装置、映像信号処理方法、および映像信号処理プログラムを実現することができる。
以下、図面について、本発明の一実施の形態を詳述する。
(1)監視カメラシステムの全体構成
図3に示すように、本実施の形態における監視カメラシステム10においては、図示しないレンズやCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)センサ等からなる画像入力部11は、信号処理部12に接続されている。信号処理部12は、Codec13に接続され、Codec13は、CPU16に接続されている。
画像入力部11は、図1のレンズ2とCCDまたはCMOSセンサ3に対応し、撮像した画像に対応する画像データを信号処理部12に供給するようになされている。信号処理部12は、図1の信号処理部4に対応し、画像入力部11より供給された画像データをデジタルの画像データに変換し出力するようになされている。
Codec13は、後述する画像圧縮部14とノイズ削減処理部15とからなり、DSP(Digital Signal Processor)等により構成されている。画像圧縮部14は、信号処理部12から供給された画像データに対してDCT(Discrete Cosine Transform)により圧縮処理を行うようになされている。ノイズ削減処理部15は、信号処理部12から供給された画像データに含まれるノイズを削減する処理を行うようになされている。画像圧縮部14においては、図1のCodec5の場合と同様に、図2を参照して上述したJPEG圧縮処理の他に、MPEG方式による圧縮処理も行われる。
CPU16は、図1のCPU6に相当し、ネットワーク処理部17とパラメータ設定部18とを含み、ネットワーク処理部17は、画像圧縮部14より供給された圧縮後の画像データをネットワーク上に送出するためのデータ形式に変換するようになされている。パラメータ設定部18は、画像圧縮部14に対しては、圧縮率を指定するためのパラメータ(設定値)を供給し、ノイズ削減処理部15に対しては、ノイズ削減量を指示するためのパラメータ(設定値)を供給し、信号処理部12に対してもノイズ削減量を指示するためのパラメータ(設定値)を供給するようになされている。
このように、本実施の形態では、画像データの流れは図1の従来例と変わらないが、CPU16から信号処理部12、画像圧縮部14、およびノイズ削減処理部15に対して、パラメータを用いてノイズ削減量の指示を行うことができるようになっている点が異なっている。
このパラメータを用いてノイズ削減量の指示を行う処理を追加することにより、指定された伝送容量(1フレームでのデータ量、およびフレームレート)に応じたノイズ削減が信号処理部12およびノイズ削減処理部15において実現可能となる。
図4は、信号処理部12において、パラメータを用いて指示されたノイズ削減量に基づいてノイズ削減処理が行われる手順を示している。画像入力部11から入力された画像データは、信号処理部12において、ノイズ削減処理が実行された後、Codec13に供給される。
ノイズ削減量を可変にする方法としては、例えばn×n(nは任意の自然数、×は乗算を示す)の平滑化処理においてnを指定する方法がある。この平滑化処理は、注目する画素と近傍の画素からなるn画素×n画素の各画素値の平均値を、注目画素の画素値に置き換えるものであって、簡単な処理でよく使われる。
図5は、3×3の平滑化処理の例を示している。注目する画素P(ノイズ成分を含む)の画素値を、その画素Pとその周辺の隣接する各画素a,b,c,d,e,f,g,hの画素値の平均値とする。例えば、ノイズPの画素値(輝度)が225、その周辺の画素の画素値が全て0であるとすると、ノイズPの画素値は25(=(225+0+0+0+0+0+0+0+0)÷9)となる。
このnの値を、例えば最高データ伝送量では、1と設定し、データ量の削減に応じて2、3、・・・、と増やしていけば、そのnの値が大きくなるにつれ、高周波成分が徐々に削減され、その結果として量子化後のデータのデータ量が減ることになる。もともと量子化後のデータのデータ量が少なければ、そのデータを圧縮してもその圧縮による劣化が少なくなるので、高周波ノイズによる高圧縮時の劣化を抑えることができる。
フレームレートを削減する場合は、図6に示すように、Codec13内またはCodec13外に図示しない画像メモリを持たせ、さらにその画像メモリに蓄積された各フレームの画像データを、削減したフレーム数に応じて使うことによって、ノイズ削減処理部15が、間引き対象となっていないフレームの画像データから、そのフレームレートに最適な方法でノイズ削減処理を行うことが可能である。
例えば、ノイズ削減処理の1つの方法としてメディアンフィルタを用いることができる。メディアンフィルタは中央値フィルタとも呼ばれ、N(Nは自然数)個のデータ列をソート(並べ替え)して、その中央の値を採用するもので、突発的なノイズ削減にきわめて有効である。
そこで、フレームレートが最高の状態ではNを値1に設定し、フレームレートを1/2,1/3にする場合は、N=3、フレームレートを1/4,1/5にする場合は、N=5等に設定する。このようにすることによって、従来は低フレームレート時には、単に画像を間引いて出力していたものが、その前後の複数フレームを用いてノイズ削減することによって突発的なノイズが削減され、単に間引くよりも低ビットレートで伝送できたり、同じビットレートであれば高画質に伝送することできる。
特に、MPEG圧縮では時間軸方向の差分を用いて高圧縮にしているため、時間軸方向のノイズ削減には大きな効果がある。
図7は、時間軸上の複数のフレームに基づいてノイズ削減処理を行う手順を示している。この例では、N=3としている。例えば、フレームnの所定の画素Pがノイズ成分を含んでいる場合、時間軸上、フレームnの1つ前のフレーム(n−1)の同一位置にある画素aの画素値と、フレームnの1つ後のフレーム(n+1)の同一位置にある画素bの画素値を並べ替えてその中央の画素値を画素Pの画素値とすることにより、ノイズ成分を削減することができる。例えば、画素Pの画素値が255、画素aの画素値が0、画素bの画素値が0の場合、画素Pの画素値は値0となる。このようにして時間軸上の複数のフレームを用いてノイズ成分を削除することができる。フレームnに隣接するフレームは、画像メモリに蓄積されているので、画像メモリから必要なフレームの画像データを読み出すことができる。
これらノイズ削減処理を行うためには、新たなハードウェアが必要となる。しかしながら高画質で伝送する場合には、その処理を行わないこともある。即ち、高圧縮にすればするほどノイズ削減処理が必要になる。一方でフレームレートを下げたり、画像の解像度を下げてデータ量の削減を行うときには、高画質なデータを伝送するときと比較してデータ圧縮処理(画像圧縮部14によって行われる)の処理量は減る。
従来、画像圧縮部14の処理は専用回路で実現されることが多かったが、近年、CPUの性能が向上してくるにつれ、汎用CPUやプログラマブルDSPを用いて圧縮アルゴリズムを実装する例が増えている。
本実施の形態でもCodec13はDSPで構成されるものとしている。そこで、上述のように、Codec13のノイズ削減処理部15によって行われるノイズ削減処理に必要な演算量と、Codec13の画像圧縮部14の画像圧縮処理に必要な演算量は、それぞれ圧縮率に応じて、比例・反比例することから、汎用CPU/DSPを用いればそれらを時間軸上で直列に処理することにより、追加のハードウェアを必要とすることなく、データ削減量に応じたノイズ削減処理を行うことが可能である。
図8は、全フレームについて圧縮処理を実行する場合の処理手順を示している。フレームnから各フレーム毎に順次圧縮処理が実行されている。図9は、フレームレートを1/3に削減する場合の処理手順を示している。フレームn、フレーム(n+3)、フレーム(n+6)、・・・に対して順次圧縮処理が施されている。
図10は、フレームレートを1/3に削減してデータ量を削減するとともに、圧縮処理を行わない時間を利用して、間引きされないフレームに対してノイズ削減処理を実行する場合の処理手順を示している。この例では、フレームnに対する圧縮処理が画像圧縮部14において実行され、次に、フレーム(n+3)に対する圧縮処理が実行されるまでの間に、フレーム(n+3)に対して、ノイズ削減処理部15によってノイズ削減処理が実行されるようになされている。
ここで実行されるノイズ削減処理は、Codec13のノイズ削減処理部15において実行される時間軸上の複数のフレームに基づいて行われるものである。時間軸上の複数のフレームに基づいてノイズ削減処理が実行される場合、圧縮処理が実行されるフレームの前後の数フレームが画像メモリに蓄積されている必要がある。
図10に示した例では、フレーム(n+3)に対して圧縮処理が実行される時点で、フレーム(n+1)乃至フレーム(n+5)の各フレームが画像メモリに蓄積されている必要がある。従って、圧縮処理部14における圧縮処理は、画像メモリに蓄積されたフレームに基づいて実行されることになる。
以上のような機能および構成によって、データ削減に応じた最適なノイズ削減処理を、回路規模の増大を防ぎつつ実現することが可能となる。その結果として、IPを利用した監視カメラシステムの課題である増大する記録容量、および伝送容量を削減し、視認性を向上することができる。
さらに、データ圧縮の手法が高度化するに従い、完全なハードウェア処理で圧縮装置を構成することなく、CPUやDSPを用いて圧縮アルゴリズムを実行する、あるいは圧縮アルゴリズムの一部の処理をCPUで処理する場合が増えている。本実施の形態では、このようなハードウェア構成のときに、ノイズ削減処理をこのCPU/DSPで適応的に処理することにより、ハードウェア規模の増大を防ぎつつ、データ量削減を実現することが可能である。
従来はフレームレートや伝送サイズに関わらず、同じノイズ削減処理を行っていたため、または最も高画質な状態にあわせたノイズ削減処理を行っていたため、低画質時のノイズ削減には有効でなかった。それが解消され、伝送量に応じた最適なノイズ削減処理が可能となり、その結果として、視認性の向上、伝送容量・記憶容量の削減になる
図11は、パラメータ設定部18において圧縮率およびノイズ削減量が設定される手順を示すフローチャートである。ステップS1において、ユーザにより図示しない操作部が操作され、圧縮率を設定するユーザコマンドが入力されたか否かが判定される。その結果、圧縮率を設定するユーザコマンドが入力されていないと判定された場合、ステップS1の処理が繰り返し実行され、コマンド待ちの状態となる。一方、圧縮率を設定するユーザコマンドが入力されたと判定された場合、ステップS2に進む。
ステップS2においては、設定された圧縮率に基づいて信号処理部12に対するノイズ削減量の設定が行われる。次に、ステップS3において、Codec13の画像圧縮部14への圧縮率の設定が行われる。次に、ステップS4において、設定された圧縮率に基づいてCodec13のノイズ削減処理部15への時間軸方向のノイズ削減量の設定が行われる。圧縮率に基づくノイズ削減量の設定は、パラメータ設定部18により所定の方法で決定されるが、予め圧縮率に応じたノイズ削減量を対応付けたテーブルを図示しないメモリに記憶させておくこともできる。その後、ステップS1に戻り、ステップS1以降の処理が繰り返し実行される。このようにして、圧縮率およびノイズ削減量の設定が行われる。
次に、圧縮率に基づくノイズ削減量の設定方法について説明する。圧縮率に基づくノイズ削減量の設定は、たとえば二次元ガウシアンフィルタを用いたノイズ削減の場合は、二次元のガウス関数が次式(1)
であることから、圧縮率に応じてσの値を大きな値に設定することにより、よりノイズの削減量をおおきくすることができる。
なお、ガウシアンフィルタは下記の式(2)によって計算できる。
ただし、
これらの式(1)乃至式(3)から、例として圧縮率Rateが指定された場合、下記の式(4)
で表されるように、σをRateの関数とすることにより、ノイズ削減量を決定することができる。この関数はコーデックの特性によって決めることができる。下記のように、あらかじめ圧縮率Rate毎に計算したσの値をテーブルに設定しておき、実行時は、テーブルに設定された値を参照することにより、圧縮率Rateに応じたσの値を決定することもできる。
図12は、信号処理部12における処理手順を示すフローチャートである。ステップS11において、画像入力部11から画像信号が供給されたか否かが判定される。その結果、画像入力部11から画像信号が供給されていないと判定された場合、ステップS11の処理が繰り返し実行され、画像取得待ちの状態となる。一方、画像入力部11から画像信号が供給されたと判定された場合、ステップS12に進む。
ステップS12においては、信号処理が実行され、画像入力部11から供給された画像信号がデジタルの画像データに変換される。次に、ステップS13において、先に設定された条件(ノイズ削減量)に基づいて、画像入力部11から供給された画像信号に対応する画像データに対してノイズ削減処理が実行される。次に、ステップS14において、ノイズ削減処理が施され、ノイズ削減された画像データが出力され、Codec13に供給される。
図13は、Codec13における画像圧縮の処理手順を示すフローチャートである。ステップS21において、信号処理部12から画像データが供給されたか否かが判定される。その結果、画像データが供給されていないと判定された場合、ステップS21の処理が繰り返し実行され、画像データの入力待ちの状態となる。一方、信号処理部12から画像データが供給されたと判定された場合、ステップS22に進む。
ステップS22においては、フレーム毎に圧縮処理を行うのか否かが判定される。即ち、ノイズ削減処理を行わずに画像データを各フレーム毎に圧縮するのか否かが判定される。この判定は、図11においてユーザコマンドによって指定された圧縮率およびノイズ削減量に基づいて判定される。
その結果、画像データの各フレーム毎に圧縮すると判定された場合、ステップS23に進み、画像圧縮部14によってノイズ削減することなく、画像圧縮処理が実行される。その後、ステップS24において、画像データが出力され、CPU16に供給される。
一方、ステップS22において、フレーム毎に圧縮処理を行わないと判定された場合、ステップS25に進み、信号処理部12から供給された画像データが圧縮すべきフレームの画像データであるか否かが判定される。即ち、間引き対象となっていないフレームの画像データであるか否かが判定される。その結果、間引き対象となっているフレームの画像データであると判定された場合、ステップS28に進み、画像メモリに供給され蓄積される。
一方、圧縮すべきフレームの画像データ(間引き対象となっていないフレームの画像データ)であると判定された場合、ステップS26に進み、ノイズ削減処理部15によってノイズ削減処理が行われた後のフレームの画像データが画像圧縮部14によって圧縮される。その後、ステップS27において、ノイズ削減処理および画像圧縮処理が施されたフレームの画像データが出力されCPU16に供給される。
ステップS24、またはステップs27、またはステップS28の処理が終了すると、ステップS21に戻り、ステップS21以降の処理が繰り返し実行される。このようにして、Codec13において、ノイズ削減処理および画像圧縮処理が実行される。
図14は、CPU16においてノイズ削減処理および画像圧縮処理が実行された画像データがネットワーク処理部17によってネットワークに送出される手順を示すフローチャートである。ステップS31において、ネットワークに送出すべき画像データが用意できたか否かが判定される。その結果、ネットワークに送出すべき画像データが用意されていないと判定された場合、ステップS31の処理が繰り返し実行される。
一方、ネットワークに送出すべき画像データが用意されたと判定された場合、ステップS32に進み、所定のネットワーク処理が実行される。その後、ステップS33に進み、画像データがネットワークに送出される。
図15は、Codec13のノイズ削減処理部15におけるノイズ削減処理を示すフローチャートである。ステップS41において、指定されたフレーム数の画像データが画像メモリに蓄積されたか否かが判定される。例えば、フレーム数をNとすると、フレームレートを1/2,1/3にする場合は、N=3、フレームレートを1/4,1/5にする場合は、N=5等に設定されるので、このNの値が指定されたフレーム数に対応する。
ステップS41において、指定フレーム数の画像データが画像メモリに蓄積されていないと判定された場合、ステップS41の処理が繰り返し実行される。一方、指定フレーム数の画像データが画像メモリに蓄積されたと判定された場合、ステップS42に進む。
ステップS42においては、設定に従った条件(例えば、ノイズ削減量)に基づいて、画像メモリに記憶されている時間軸上の複数フレームに基づいてノイズ削減処理が実行される。
次に、ステップS43において、ノイズ削減処理が実行されてノイズが削減された画像データが出力され、CPU16に供給される。
(2)動作および効果
以上の構成において、信号処理部12は、画像入力部11より供給された画像信号をデジタルの画像データに変換するとともに、ユーザからのコマンドに従ってパラメータ設定部18によって設定された圧縮率やノイズ削減量を示す設定値によって指定されたノイズ削減量に従って平滑化処理等の手法により画像データに対してノイズ削減処理を施し、Codec13に供給する。
Codec13の画像圧縮部14は、信号処理部12から供給された画像データをパラメータ設定部18によって設定された圧縮率に基づいてDCT等の手法で圧縮対象となるフレームの画像データに対して圧縮処理を施す。即ち、フレームレートの削減によって間引き等が行われる場合、間引きが行われるフレームの画像データは画像メモリに蓄積され、圧縮対象となるフレームの画像データに対して圧縮処理が施される。圧縮処理が施されたフレームの画像データは、CPU16に供給される。
Codec13のノイズ削減処理部15においては、時間軸上の複数のフレームの画像データに基づいて、圧縮対象となるフレームの画像データに対してノイズ削減処理が施される。そのため、画像メモリには、フレームレートの削減によって圧縮対象とはならない間引きの対象となったフレームの画像データが蓄積されており、ノイズ削減処理部15は適宜ノイズ削減処理に必要とされるフレームの画像データを画像メモリから読み出す。
Codec13の画像圧縮部14は、ノイズ削減処理部15によってノイズ削減処理が実行された後の画像データに対して圧縮処理を施す。従って、圧縮処理が実行されるタイミングは、ノイズ削減処理が実行された後になる。時間軸上の複数のフレームに基づいてノイズ削減処理が実行される場合には、時間軸上の必要な複数のフレームを一旦画像メモリに蓄積し、間引き対象となっていない圧縮処理対象となるフレームの画像データに対してノイズ削減処理が実行された後、圧縮処理が実行されることになる。
ノイズ削減処理および圧縮処理が施された画像データは、CPU16に供給され、ネットワーク処理部17においてネットワーク上に送出するためのデータ変換処理が施された後、ネットワーク上に送出される。
以上の構成によれば、ユーザが圧縮率およびノイズ削減量の少なくともいずれかをコマンドを介して指定することができるので、画像データの伝送量に応じた最適なノイズ削減を行うことができる。例えば、ユーザが圧縮率を指定すると、その圧縮率に応じて、パラメータ設定部18がデータ削減量を所定の方法で決定し、信号処理部12およびノイズ削減処理部15に対して設定することができる。
例えば、フレームレートに応じてノイズ削減量を調整することができる。具体的には、フレームレートを削減するのに伴ってノイズ削減量を増大させることにより、画質の低下を抑制することができる。また、伝送データ量に応じてノイズ削減量を調整することができる。具体的には、伝送データ量を削減するのに伴ってノイズ削減量を増大させることにより、画質の低下を抑制することができる。
(3)他の実施の形態
なお上述の実施の形態においては、信号処理部12において平滑化処理によってノイズ削減を行うようにした場合について述べたが、本発明はこれに限らず、同一フレーム内で、その他の手法でノイズ削減処理を行うようにしても良い。
また上述の実施の形態においては、ノイズ削減処理部15において、時間軸上の複数フレームの画像データに基づいてノイズ削減処理を行うようにした場合について述べたが、本発明はこれに限らず、時間軸上の複数フレームの画像データに基づいて、その他の手法でノイズ削減処理を行うようにしても良い。
本発明の映像信号処理装置、映像信号処理方法、および映像信号処理プログラムは、例えば、監視カメラシステムだけでなく、ネットワークに接続された様々なカメラシステムに適用することができる。
従来の監視カメラシステムの構成例を示すブロック図である。 従来の監視カメラシステムのCodecにおけるJPEG圧縮処理手順を示す基本ブロック図である。 本実施の形態における監視カメラシステムの一実施の形態の構成例を示すブロック図である。 信号処理部において実行されるノイズ削減処理の手順を示す図である。 3×3の平滑化処理の例を示す図である。 時間軸を含むノイズ削減処理の手順を示す図である。 時間軸上の複数のフレームに基づいてノイズ削減処理を行う手順を示す図である。 全フレームについて圧縮処理を実行する場合の処理手順を示す図である。 フレームレートを1/3に削減する場合の処理手順を示す図である。 フレームレートを1/3に削減してデータ量を削減するとともに、圧縮処理を行わない時間を利用して、間引きされないフレームに対してノイズ削減処理を実行する場合の処理手順を示す図である。 パラメータ設定部の処理手順を示すフローチャートである。 信号処理部の処理手順を示すフローチャートである。 画像圧縮部の処理手順を示すフローチャートである。 ネットワーク処理部の処理手順を示すフローチャートである。 ノイズ削減処理部の処理手順を示すフローチャートである。
符号の説明
1……監視カメラシステム、2……レンズ、3……CCDまたはCMOS、4……信号処理部、5……Codec、6……CPU、10……監視カメラシステム、11……画像入力部、12……信号処理部、13……Codec、14……画像圧縮部、15……ノイズ削減処理部、16……CPU、17……ネットワーク処理部、18……パラメータ設定部。

Claims (9)

  1. 入力された映像に対して圧縮処理を施し、圧縮後の映像データをネットワーク上に送出する映像信号処理装置であって、
    上記映像に対して圧縮処理を施す圧縮処理手段と、
    上記映像データの上記ネットワーク上へのデータ伝送量に応じて、上記映像データに対して所定のノイズ削減量のノイズ削減処理を施すノイズ削減処理手段と
    を具えることを特徴とする映像信号処理装置。
  2. 上記ノイズ削減処理手段は、上記映像データのデータ伝送量の削減がフレームレートの削減によって実現されるとき、削減されるフレーム数に応じた時間軸方向の所定数のフレームに基づいてノイズ削減処理を実行する
    ことを特徴とする請求項1に記載の映像信号処理装置。
  3. 前記圧縮処理手段と前記ノイズ削減処理手段とは1つの演算装置によって構成され、前記ノイズ削減処理手段によるノイズ削減処理は、前記圧縮処理手段による圧縮処理が行われていない期間に実行される
    ことを特徴とする請求項1に記載の映像信号処理装置。
  4. 入力された映像に対して圧縮処理を施し、圧縮後の映像データをネットワーク上に送出する映像信号処理方法であって、
    上記映像に対して圧縮処理を施す圧縮処理ステップと、
    上記映像データの上記ネットワーク上へのデータ伝送量に応じて、上記映像データに対して所定のノイズ削減量のノイズ削減処理を施すノイズ削減処理ステップと
    を具えることを特徴とする映像信号処理方法。
  5. 上記ノイズ削減処理ステップにおいては、上記映像データのデータ伝送量の削減がフレームレートの削減によって実現されるとき、削減されるフレーム数に応じた時間軸方向の所定数のフレームに基づいてノイズ削減処理を実行する
    ことを特徴とする請求項4に記載の映像信号処理方法。
  6. 前記圧縮処理ステップと前記ノイズ削減処理ステップとは1つの演算装置によって実行され、前記ノイズ削減処理ステップにおけるノイズ削減処理は、前記圧縮処理ステップにおける圧縮処理が行われていない期間に実行される
    ことを特徴とする請求項4に記載の映像信号処理方法。
  7. 入力された映像に対して圧縮処理を施し、圧縮後の映像データをネットワーク上に送出する映像信号処理装置を制御する映像信号処理プログラムであって、
    上記映像に対して圧縮処理を施す圧縮処理ステップと、
    上記映像データの上記ネットワーク上へのデータ伝送量に応じて、上記映像データに対して所定のノイズ削減量のノイズ削減処理を施すノイズ削減処理ステップと
    を上記映像信号処理装置に実行させることを特徴とする映像信号処理プログラム。
  8. 上記ノイズ削減処理ステップにおいては、上記映像データのデータ伝送量の削減がフレームレートの削減によって実現されるとき、削減されるフレーム数に応じた時間軸方向の所定数のフレームに基づいてノイズ削減処理を実行する
    ことを特徴とする請求項7に記載の映像信号処理プログラム。
  9. 前記圧縮処理ステップと前記ノイズ削減処理ステップとは1つの演算装置によって実行され、前記ノイズ削減処理ステップにおけるノイズ削減処理は、前記圧縮処理ステップにおける圧縮処理が行われていない期間に実行される
    ことを特徴とする請求項7に記載の映像信号処理プログラム。
JP2007176650A 2007-07-04 2007-07-04 映像信号処理装置、映像信号処理方法、および映像信号処理プログラム Pending JP2009017233A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007176650A JP2009017233A (ja) 2007-07-04 2007-07-04 映像信号処理装置、映像信号処理方法、および映像信号処理プログラム
US12/214,812 US20090021645A1 (en) 2007-07-04 2008-06-23 Video signal processing device, video signal processing method and video signal processing program
TW97124719A TWI390959B (zh) 2007-07-04 2008-07-01 視頻訊號處理裝置,視頻訊號處理方法及視頻訊號處理程式
CN2008101275896A CN101340586B (zh) 2007-07-04 2008-07-04 视频信号处理设备、方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007176650A JP2009017233A (ja) 2007-07-04 2007-07-04 映像信号処理装置、映像信号処理方法、および映像信号処理プログラム

Publications (1)

Publication Number Publication Date
JP2009017233A true JP2009017233A (ja) 2009-01-22

Family

ID=40214517

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007176650A Pending JP2009017233A (ja) 2007-07-04 2007-07-04 映像信号処理装置、映像信号処理方法、および映像信号処理プログラム

Country Status (4)

Country Link
US (1) US20090021645A1 (ja)
JP (1) JP2009017233A (ja)
CN (1) CN101340586B (ja)
TW (1) TWI390959B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015154467A (ja) * 2014-02-19 2015-08-24 キヤノン株式会社 撮像装置、及び撮像システム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090316794A1 (en) * 2008-06-20 2009-12-24 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
JP6203515B2 (ja) * 2013-03-29 2017-09-27 株式会社メガチップス 画像処理装置
US10421764B2 (en) 2015-04-24 2019-09-24 H. Lee Moffitt Cancer Center And Research Institute, Inc. Mutant KRas inhibitors

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133295A (ja) * 1992-10-20 1994-05-13 Sony Corp データ圧縮装置
JPH09172637A (ja) * 1995-12-20 1997-06-30 Fujitsu General Ltd 画像圧縮処理装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0771308B2 (ja) * 1989-08-30 1995-07-31 パイオニア株式会社 記録媒体演奏装置におけるノイズ低減回路
JPH06165027A (ja) * 1992-11-25 1994-06-10 Nikon Corp スチルカメラ
US5499057A (en) * 1993-08-27 1996-03-12 Sony Corporation Apparatus for producing a noise-reducded image signal from an input image signal
US6005638A (en) * 1996-03-04 1999-12-21 Axcess, Inc. Frame averaging for use in processing video data
JP3622620B2 (ja) * 2000-02-18 2005-02-23 富士写真フイルム株式会社 画像情報取得方法、画像情報送信装置及び画像情報送信システム
US6938176B1 (en) * 2001-10-05 2005-08-30 Nvidia Corporation Method and apparatus for power management of graphics processors and subsystems that allow the subsystems to respond to accesses when subsystems are idle
JP2004021495A (ja) * 2002-06-14 2004-01-22 Mitsubishi Electric Corp 監視システムおよび監視方法
TW200405187A (en) * 2002-09-11 2004-04-01 Matsushita Electric Ind Co Ltd Service providing method
US7558323B2 (en) * 2002-11-27 2009-07-07 Hitachi Kokusai Electric Inc. Video data transmission method for changing transmission data amounts in accordance with a transmission speed and a transmission system therefor
JP4280614B2 (ja) * 2003-12-09 2009-06-17 Okiセミコンダクタ株式会社 ノイズ低減回路及び方法
US20060140268A1 (en) * 2004-12-29 2006-06-29 Samsung Electronics Co., Ltd. Method and apparatus for reduction of compression noise in compressed video images
JP4470901B2 (ja) * 2006-03-31 2010-06-02 ソニー株式会社 撮像装置、高周波成分検出回路、高周波成分検出方法及びコンピュータプログラム
JP2008035439A (ja) * 2006-07-31 2008-02-14 Fujitsu Ltd ノイズ除去装置、ノイズ除去制御方法およびノイズ除去制御プログラム
JP4211838B2 (ja) * 2006-11-09 2009-01-21 ソニー株式会社 撮像装置および画像処理方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06133295A (ja) * 1992-10-20 1994-05-13 Sony Corp データ圧縮装置
JPH09172637A (ja) * 1995-12-20 1997-06-30 Fujitsu General Ltd 画像圧縮処理装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015154467A (ja) * 2014-02-19 2015-08-24 キヤノン株式会社 撮像装置、及び撮像システム

Also Published As

Publication number Publication date
CN101340586B (zh) 2013-02-13
CN101340586A (zh) 2009-01-07
US20090021645A1 (en) 2009-01-22
TWI390959B (zh) 2013-03-21
TW200915846A (en) 2009-04-01

Similar Documents

Publication Publication Date Title
US8665943B2 (en) Encoding device, encoding method, encoding program, decoding device, decoding method, and decoding program
JP4211838B2 (ja) 撮像装置および画像処理方法
US20080123971A1 (en) Image processing apparatus
JP2004128583A (ja) 撮像装置、画像処理方法、プログラム及び記録媒体
JPH03267877A (ja) 画像符号化装置及びその方法
WO2009139123A1 (ja) 画像処理装置およびそれを搭載した撮像装置
JP2006197557A (ja) 画像符号化装置、画像符号化方法及びそのプログラム
JP3703299B2 (ja) ピクチャ中央の画質を最適化するためのビデオ符号化方法、システムおよびコンピュータ・プログラム製品
JP3789836B2 (ja) 画像符号化装置および方法
JP2004166224A (ja) 画像生成装置及びその方法
JP2009017233A (ja) 映像信号処理装置、映像信号処理方法、および映像信号処理プログラム
JP5092536B2 (ja) 画像処理装置及びそのプログラム
JP5130245B2 (ja) 撮影解像度予測型動画像符号化装置および復号装置
KR100681252B1 (ko) 트랜스코딩을 위해 출력 매크로블록 모드와 출력움직임벡터를 추정하는 방법 및 이를 이용한 트랜스코더
US11082698B2 (en) Image capturing apparatus having a function for encoding raw image control method therof, and non-transitory computer-readable storage medium
JP2007028598A (ja) 圧縮符号化装置及び圧縮符号化方法
JP5943733B2 (ja) 画像符号化装置およびその制御方法ならびにプログラム
US20230133895A1 (en) Image encoding apparatus and method for controlling the same and non-transitory computer-readable storage medium
JP2006074114A (ja) 画像処理装置及び撮像装置
JP2006246351A (ja) 画像符号化装置および画像復号化装置
JP2917988B1 (ja) 動画像符号化装置のプレフィルタ
JP2002252759A (ja) 画像量子化方法と装置、およびそれらを利用可能な画像符号化装置
JP2023070055A (ja) 画像符号化装置及びその制御方法及びプログラム
JP6812214B2 (ja) 画像符号化装置、画像符号化方法、及びプログラム
JP2019068385A (ja) 符号化装置、その制御方法、および制御プログラム、並びに撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100310

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100310

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110719