JP2012095020A - 画像信号処理装置、画像信号処理方法およびプログラム - Google Patents

画像信号処理装置、画像信号処理方法およびプログラム Download PDF

Info

Publication number
JP2012095020A
JP2012095020A JP2010239523A JP2010239523A JP2012095020A JP 2012095020 A JP2012095020 A JP 2012095020A JP 2010239523 A JP2010239523 A JP 2010239523A JP 2010239523 A JP2010239523 A JP 2010239523A JP 2012095020 A JP2012095020 A JP 2012095020A
Authority
JP
Japan
Prior art keywords
data
color
luminance
address
luminance data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010239523A
Other languages
English (en)
Other versions
JP5503497B2 (ja
Inventor
Taro Hizume
太郎 樋爪
Toshiyuki Sano
俊幸 佐野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2010239523A priority Critical patent/JP5503497B2/ja
Priority to PCT/JP2011/005954 priority patent/WO2012056684A1/ja
Priority to CN201180003577.2A priority patent/CN103154999B/zh
Priority to US13/392,763 priority patent/US8682069B2/en
Publication of JP2012095020A publication Critical patent/JP2012095020A/ja
Application granted granted Critical
Publication of JP5503497B2 publication Critical patent/JP5503497B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • G06T3/047Fisheye or wide-angle transformations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

【課題】補色フィールド色差順次信号画像を適切に歪曲収差補正できる画像処理装置を提供する。
【解決手段】画像信号処理装置1は、フィールド色差順次補色形式の画像データを格納するフレームメモリ12と、予め与えられた歪曲情報に基づいて補正座標点のアドレスを生成するアドレス生成部24と、補正座標点の色データをその上下にある同色系列の画素の色データを補間して生成する色データ生成部28と、補正座標点の第1の輝度データをその上下にある同色系列の画素の輝度データを補間して生成する色データ対応輝度データ生成部34と、補正座標点の第2の輝度データを、その上下にある画素の輝度データを補間して生成する輝度ベースデータ生成部36と、生成された色データ、第1の輝度データ、第2の輝度データに基づいて補正座標点の補色データを生成する補色データ生成部38とを備える。
【選択図】図1

Description

本発明は、画像信号処理を行う装置に関し、特に単板カラー補色フィールド色差順次方式撮像素子から得られる画像データの歪曲収差補正を行う画像信号処理装置に関する。
監視カメラは、高画質/低コスト化が進められ、様々なシーンで使用されるようになってきている。監視カメラは、例えば、銀行、コンビニエンスストア、パチンコといった屋内や、駅や道路や河川/ダム監視いった屋外で使用される。監視カメラの応用分野は、これからも拡大していくと考えられる。
監視カメラは、低コスト化が進んできている。しかし、無数に設置するというわけにはいかない。費用対効果や要求画質等を勘案し、限られた台数のカメラによって、できるだけ広い監視領域をカバーすることが求められる。パン・チルト台座を使わない場合、広視野角レンズを使うことになるだろう。
一般に視野角の広いレンズは、画像が樽型に歪曲する。歪曲した画像は、人間の目で実際に見る風景とは大きく異なる。歪曲した画像では、例えば直線が直線に映らなかったり、物体の大きさが画面中央と画面端で異なったりする。このため、歪曲した画像は、違和感が大きく、カメラ画像の監視者の疲労度合いに影響する。歪曲収差は補正されることが望ましい。
高額なレンズでは、高屈折率、非球面、多数群/枚レンズを駆使して歪曲等の収差を補正する。しかし、監視用途で高額なレンズを使用することは、コスト面で難しい。そこで、信号処理による歪曲収差補正処理が必要となる。
従来の歪曲収差補正を行う画像信号処理装置としては、例えば、特許文献1に示す装置が知られている。図12は、同公報に示されている画像信号処理装置のブロック図である。この画像信号処理装置は、カラー画像の画素位置から、変形処理が施された場合のカラー画像の画素位置に対応する色モザイク画像上の対応するサンプリング座標を算出する座標変換部102と、色モザイク画像を分解した複数の色プレーン毎にサンプリング座標における画素値を補間生成するサンプリング部104と、各色プレーンの補間値を合成することによりカラー画像を生成する色生成部106とを有する。この画像信号処理装置は、変形処理の施されたカラー画像の各画素値を、サンプリング座標の画素値として色モザイク画像から補間演算により求める。これにより、色モザイク画像からカラー画像を生成する色補間処理と当該カラー画像の変形処理とを一度の補間演算によって実現することができるようにしている。
特開2009−005232号公報
上記した画像信号処理装置では、補色配列のカラーフィルタアレイを用いてもよいとしている。しかし、補色フィールド色差順次データを処理対象とする場合、色プレーン毎に線形補間による座標変換を行うと、解像度が大きく劣化する。特に、輝度データ生成以前に水平方向の補間によって、水平解像度が劣化しやすい。
垂直方向に関しては、インターレースデータを色フィルタプレーン毎に処理することになる。すなわち、飛び越し走査データ毎に、線形補間することになるので、垂直方向の周波数成分の折り返しが発生しやすく、画像が劣化することになる。
本発明は、上記背景に鑑み、補色フィールド色差順次信号画像を適切に歪曲収差補正できる画像処理装置を提供することを目的とする。
本発明の画像信号処理装置は、フィールド色差順次補色形式の画像データを格納するフレームメモリと、予め与えられた歪曲情報に基づいて、表示すべき画面内の各画素の位置に対応する前記フレームメモリ上における各位置を示すアドレスを生成するアドレス生成部と、前記アドレスによって特定される点の色データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の色データを補間して生成する色データ生成部と、前記アドレスによって特定される点の第1の輝度データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の輝度データを補間して生成する色データ対応輝度データ生成部と、前記アドレスによって特定される点の第2の輝度データを、その上下にある所定数のラインに含まれる同列の画素の輝度データを補間して生成する輝度ベースデータ生成部と、前記アドレスによって特定される点の補色データを、前記色データと前記第1の輝度データと前記第2の輝度データとに基づいて生成する補色データ生成部とを備える。
この構成により、補色フィールド色差順次信号画像の垂直方向の歪曲収差補正を行うとき、空間位相が遠い色データ及び色データに対応する第1の輝度データと空間位相が近い第2の輝度データとに基づいて補色データを生成することにより、良好な画質の補色フィールド色差順次カラー画像信号を得ることができる。
本発明の画像信号処理装置は、前記補色データ生成部にて生成された補色データに基づいて、輝度色信号を生成する輝度色信号生成部と、前記輝度色信号生成部にて生成された輝度色信号の水平方向における歪曲収差を補正する補正処理部とを備えてもよい。
この構成により、水平方向の歪曲収差補正処理については、フレームメモリを用いない構成とすることができる。
本発明の画像信号処理方法は、フレームメモリにフィールド色差順次補色形式の画像データを格納するステップと、予め与えられた歪曲情報に基づいて、表示すべき画面内の各画素の位置に対応する前記フレームメモリ上における各位置を示すアドレスを生成するステップと、前記アドレスによって特定される点の色データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の色データを補間して生成するステップと、前記アドレスによって特定される点の第1の輝度データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の輝度データを補間して生成するステップと、前記アドレスによって特定される点の第2の輝度データを、その上下にある所定数のラインに含まれる同列の画素の輝度データを補間して生成するステップと、前記アドレスによって特定される点の補色データを、前記色データと前記第1の輝度データと前記第2の輝度データとに基づいて生成するステップとを備える。また、本発明のプログラムは、上記画像信号処理方法の各ステップをコンピュータに実行させる。
本発明によれば、補色フィールド色差順次信号画像を、垂直方向について歪曲収差補正するとき、空間位相が遠い色データ及び色データに対応する第1の輝度データと空間位相が近い第2の輝度データとに基づいて補色データを生成することにより、良好な画質の補色フィールド色差順次カラー画像信号を得ることができるというすぐれた効果を有する。
本発明の実施の形態における画像信号処理装置を示すブロック図 本発明の実施の形態の画像信号処理装置をもつカメラ信号処理を示す図 (a)補色フィールド色差順次データ列の例を示す図、(b)インターレース走査のAフィールドの例を示す図、(c)インターレース走査のBフィールドの例を示す図 補色フィールド色差順次データ列と補正座標点を示す図 フィールドの違いによる垂直光学中心位置を示す図 補色フィールド色差順次データ列と補正座標点(詳細)を示す図 (a)補正前の画像を示す図、(b)理想的な歪曲収差補正画像を示す図、(c)インターレースデータの色プレーン毎補間による画質劣化を示す図 補間処理概要を示す図 (a)輝度データ生成時に色データが劣化していない例を示す図、(b)輝度データ生成時に色データが劣化した例を示す図 (a)輝度データ生成フィルタと輝度色信号処理後画像を示す図、(b)輝度データ生成フィルタと輝度色信号処理後画像を示す図、(c)輝度データ生成フィルタと輝度色信号処理後画像を示す図 (a)輝度データ垂直補間フィルタと輝度色信号処理後画像を示す図、(b)輝度データ垂直補間フィルタと輝度色信号処理後画像を示す図、(c)輝度データ垂直補間フィルタと輝度色信号処理後画像を示す図、(d)輝度データ垂直補間フィルタと輝度色信号処理後画像を示す図 従来の画像信号処理装置の例を示す図
以下、本発明の実施の形態の画像信号処理装置について、図面を用いて説明する。
図1は、本発明の実施の形態の画像信号処理装置1を示す図である。画像信号処理装置1は、画像信号を格納するフレームメモリ12と、フレームメモリ12に格納する画像信号の前処理を行う前段処理部10と、フレームメモリ12に格納された画像信号に対して巡回型ノイズ抑圧を行う巡回型ノイズ抑圧部14と、フレームメモリ12に格納された画像信号の垂直方向における歪曲収差を補正する第1の歪曲収差補正処理部(以下、「第1補正処理部」という)16と、補正処理された画像信号から輝度色信号を生成する輝度色信号生成部18と、輝度色信号の水平方向における歪曲収差を補正する第2の歪曲収差補正処理部(以下、「第2補正処理部」という)20と、補正処理された輝度色信号に対して後処理を行う後段処理部22とを有している。
第1補正処理部16は、予め与えられた歪曲情報に基づいて、表示すべき画面内の各画素の位置に対応するフレームメモリ上における各位置を示すアドレスを生成するアドレス生成部24を有している。このアドレスによって特定される点の補色データに基づいて画面表示を行うことにより垂直方向の歪曲収差が補正されるので、以下、このアドレスによって特定される点を「補正座標点」と呼ぶ。
画像信号処理装置1は、歪曲量の情報を有している。歪曲量は、理想像高に対する実際の像高を曲線や折れ線で与えることできる。視野角90度以下での歪曲収差であれば、数次程度の多項式で比較的良好に近似することができる。画像信号処理装置1は、例えば、多項式の形式で歪曲量の情報を有している。
図4は、補正座標点を示す図である。図4の右側の図は、画像の全体図である。同図において歪曲した横線は、現実空間における直線が歪曲して映っていることを示す。歪曲収差補正処理では、この歪曲した横線が直線になるように補正する。
具体的には、アドレス生成部24が、歪曲量に基づいて歪曲した横線を特定する。画像の光学中心から離れるほど、垂直方向のズーム倍率を上げるようなフレームメモリ12上のアドレスを生成することで、歪曲した横線を表すことができる。例えば、画像の光学中心からの画素数および歪曲量を表す多項式の係数に対して歪曲収差補正量を調整するための係数を持たせればよい。そして、第1補正処理部16は、その横線上の補色データを読み出し、読み出したデータを同一ライン上に表示することにより、歪曲収差を補正することができる。
図4の左側の図は、右側の全体画像の中の左上領域の拡大図である。同図に示すように、歪曲した線と画素の列とが交差する位置に補正座標点P1〜P6が生成される。第1補正処理部16は、補正座標点の補色データを読み出す。ただし、図4から分かるとおり、座標1〜6は必ずしもフレームメモリ12上の画素位置と一致していないので、フレームメモリ12の画素位置と一致していない補正座標点については、周辺の画素のデータを補間して補正座標点の補色データを生成する必要がある。
第1補正処理部16は、画素値を補間する処理を行うための構成として、色データ選択部26と、色データ生成部28と、輝度データ生成部30と、色データ対応輝度データ選択部32と、色データ対応輝度データ生成部34と、輝度ベースデータ生成部36と、補色データ生成部38とを有している。本実施の形態では、補色データ生成部38は、色データ生成部28にて生成された色データと、色データ対応輝度データ生成部34にて生成された色データ対応輝度データと、輝度ベースデータ生成部36にて生成された輝度ベースデータとに基づいて、垂直方向の歪曲収差を補正した補色データを生成する。次に、第1補正処理部16の各構成について説明する。
色データ選択部26は、上下のラインから所望の色データを有するラインを選択し、選択したラインを特定する情報を色データ生成部28に入力する。色データ生成部28は、アドレス生成部24にて生成された補正座標点とその上下にある画素との位置関係とに基づいて、色データの補間処理を行う。色データ生成部28は、補間処理された色データを補色データ生成部38に入力する。
輝度データ生成部30は、フレームメモリ12から読み出された画像データから輝度データを生成し、生成した輝度データを色対応輝度データ選択部32と輝度ベースデータ生成部36に入力する。色データ対応輝度データ選択部32は、入力された輝度データから所望の色データに対応する画素の輝度データを選択し、選択した輝度データを色データ対応輝度データ生成部34に入力する。色データ対応輝度データ生成部34は、アドレス生成部24にて生成された補正座標点とその上下にある画素との位置関係とに基づいて、色データに対応する輝度データの補間処理を行う。色データ対応輝度データ生成部34は、補間処理された輝度データを補色データ生成部38に入力する。ここで生成される輝度データは、請求項における「第1の輝度データ」に相当する。
輝度ベースデータ生成部36は、アドレス生成部24にて生成された補正座標点とその上下にある画素との位置関係に基づいて、輝度データの補間処理を行う。輝度ベースデータ生成部36は、補間処理された輝度データを補色データ生成部38に入力する。ここで生成される輝度データは、請求項における「第2の輝度データ」に相当する。
補色データ生成部38は、色データ生成部28から入力された色データと、色データ対応輝度データ生成部34から入力された輝度データ(第1の輝度データ)と、輝度ベースデータ生成部36から入力された輝度データ(第2の輝度データ)とに基づいて、垂直方向の歪曲収差を補正した補色データを生成する。
図2は、本発明の実施の形態の画像信号処理装置1のカメラ信号処理の動作を示す図である。図2を参照して画像信号処理装置1の動作について説明する。画像信号処理装置1は、補色フィールド色差順次形式カラー画像信号の前段処理を行う(S10)。画像信号はディジタル化されているものとする。画像データは、撮像素子から得てもよいし、記憶装置に格納されたデータを入力してもよい。前段処理(S10)としては、ゲイン付加やオプティカルブラック調整等を行う。次に、画像信号処理装置1は、前段処理後の画像信号をフレームメモリ12に格納する。
次に、画像信号処理装置1は、フレームメモリ12を用いたカメラ信号処理として、フレーム巡回型ノイズ抑圧処理(S12)や、電子ズーム、上下反転、画像更新停止(フリーズ)等を行う。ここで、フレーム巡回型ノイズ抑圧処理(S12)は、フレームメモリ12を用いて時間方向の無限インパルス応答フィルタを形成する処理である。このフレーム巡回型ノイズ抑圧処理(S12)は、ノイズ抑圧力が高い。このため、画像信号処理装置1にフレームメモリ12を搭載する事例が増えてきている。
次に、画像信号処理装置1は、フレームメモリ12に格納された画像信号に対して、第1の歪曲収差補正処理(以下、「第1補正処理」という)を行う(S14)。第1補正処理は、垂直方向の歪曲収差を補正する処理である。以下、図1も参照しながら、第1補正処理について詳しく説明する。
フレームメモリ12に格納された補色画像データがフィールド色差順次であるとすると、ライン単位でR−G系とB−G系が交互に現れる。歪曲収差補正等を考えない通常のフレームメモリ12への読出しアクセスの場合、ラスタスキャンによってライン単位でR−G系とB−G系が交互に読み出され、輝度色信号生成部18に入力されることになる。輝度色信号生成部18では、R−G系とB−G系とで色生成処理を切り替える等して、補色データから輝度色信号を生成する。垂直方向の歪曲収差を補正する場合、歪曲に沿って任意のラインのデータを読み出し、輝度色信号生成部18が処理可能であるようなデータを生成することになる。ここで、図3を用いて、補色データ系列とRGB系列との対応関係について説明する。
図3(a)は、補色フィールド色差順次形式のデータ列の例を示す図、図3(b)はインターレース走査のAフィールド、図3(b)はインターレース走査のBフィールドを示す図である。図3(a)〜図3(c)では、色データを以下のように記載している。「CM」または「CyMg」は、Cyan+Magentaを表す。「YG」または「YeGr」は、Yellow+Greenを表す。「CG」または「CyGr」は、Cyan+Greenを表す。「YM」または「YeMg」は、Yellow+Magentaを表す。
図3(b)に示す画素列において、1つ隣の画素との減算処理を考える。図3(b)において、0行0a列は「CM」、1行0a列は「YG」である。「CM」は、上に示したように、CyanとMagentaを加算したものである。「YG」はYellowとGreenを加算したものである。さらに、CyanはBlue(B)とGreen(G)からなる。MagentaはRed(R)とBlue(B)からなる。Yellow(Y)は、Green(G)とRed(R)からなる。従って、0行0a列の「CM」から、その左隣の1行0a列の「YG」を減算すると以下のようになる。
CM−YG=B+G+R+B−(G+R+G)=2B−G
同様に図3(b)の0行1a列は「CG」、1行1a列は「YM」である。「CG」は上に示したように、CyanとGreenを加算したものである。「YM」はYellowとMagentaを加算したものである。従って、1行1a列の「YM」から、その右隣の0行1a列の「CG」を減算すると以下のようになる。
YM−CG=G+R+R+B−(B+G+G)=2R−G
これらの関係は、図3(c)の0行0b列のCMと、1行0b列のYGについても同様であり、さらに、図3(c)の0行1b列のCGと、1行1b列のYMについても同様である。つまり、CMYGラインはB−G系であり、YMCGラインはR−G系である。
図4は、補正座標点を示す図である。アドレス生成部24は、歪曲収差情報と光学中心からの距離とに基づいて、表示すべき画面内におけるあるライン上の各画素の位置に対応するフレームメモリ12上における各位置として補正座標点P1〜P6を得る。図4では、一のフィールドについて説明している。実際には、図3(b)及び図3(c)に示すように、Aフィールド(図3(b)参照)とBフィールド(図3(c)参照)は、垂直方向に0.5ラインずれている。アドレス生成部24は、このラインのずれに対応して、フィールド信号(図示せず)によって垂直方向の光学中心位置を0.5ラインずらすことができる。図5は、フィールドの違いによる垂直光学中心位置について示す図である。垂直中心は、Aフィールドの場合には4ライン、Bフィールドの場合には3.5ラインである。これにより、AフィールドとBフィールドとの間で、垂直中心を合わせることができる。
次に、補正座標点P1〜P6の補色データを補間処理によって生成する処理について説明する。ここでは、補正座標点P1〜P6のR−G系データを算出する場合を例として説明する。補正座標点P1〜P6は、フレームメモリ12の画素位置と必ずしも一致していないので、周辺データからの補間によって補色データを算出し、空間位相を合わせる。補正座標と所望の色フィルタ(ここではR−G系)との相対位置関係は様々である。補間処理は、色データと輝度データを出来る限り劣化(なまらせたり、偽信号を付加したり)させないように行わなくてはならない。そのような補間処理を実施するために、本実施の形態では、補正座標点の上下2ラインの合計4ラインを使用する。
なお、歪曲収差補正後の画素データのそれぞれについて、必要なライン数(本実施の形態では4ライン)のデータをフレームメモリ12から読み出してもよいし、垂直座標が連続的に変化することを利用して、ライン単位でのバッファを設ける等して単位時間あたりにフレームメモリ12から読み出すデータを削減してもよい。
ここで、ライン単位でのバッファを設けて読み出しデータを削減する方法について説明する。
図4の座標1の補間処理に必要な4ラインの垂直座標は、
Y(2n)、Y(2n+1)、Y(2n+2)、Y(2n+3)
である。座標2の補間処理に必要な4ラインの垂直座標は、
Y(2n−1)、Y(2n)、Y(2n+1)、Y(2n+2)
である。座標3の補間処理に必要な4ラインの垂直座標は、
Y(2n−1)、Y(2n)、Y(2n+1)、Y(2n+2)
である。
ライン単位で考えれば、座標1の処理に必要なデータと座標2の処理に必要なデータとの差分は、垂直座標Y(2n−1)とY(2n+3)で示すラインのデータである。座標2の処理でY(2n+3)で示すラインのデータは使用しないので廃棄し、新たにY(2n−1)で示すラインのデータをフレームメモリ12から読み出す。同様にライン単位で考えれば、座標2の処理と座標3の処理に必要なデータの差分はない。座標1の処理から座標2の処理に移る際には、垂直座標Y(2n−1)で示すラインのデータのみを新たにフレームメモリ12から読み出せば良い。座標2の処理から座標3の処理に移る際には、ライン単位で言えば、フレームメモリ12からデータを読み出す必要はなくなる。
図6は、図4に示す補正座標点P3について、さらに詳細に説明する図である。補正座標点P3(line=2.5、pixel=2)のR−G系データを算出する場合を考える。色プレーン毎の補間を考えると、R−G系であるYMCGラインからデータ選択することになる。補正座標P3におけるR−G系のデータとしてCGを算出する必要があり、2行1列のデータと2行3列のデータ(いずれもCG)から補間することになる。
ここで、同じ色フィルタからなる色データが2ライン毎にしか現れず、かつ、本実施の形態のようにインターレース読み出しの場合に、色プレーン毎の線形補間を行おうとすると、周波数帯域での折り返し発生や、補間演算による垂直解像度の劣化が避けられない。特に、監視カメラのように、垂直方向において、光学的に帯域を制限されていない場合には、この劣化の度合が大きくなる。
図7(a)は補正前画像を示す図、図7(b)は理想的な歪曲収差補正画像を示す図、図7(c)はインターレース同色プレーン毎の線形補間による歪曲収差補正画像を示す図である。図7(c)より、色プレーン毎の線形補間では画質が大きく損なわれることが分かる。
そこで本実施の形態では、画質を出来る限り劣化(なまらせたり、偽信号を付加したり)させないようにするため、補色データを以下の3成分に基づいて算出する。
1.色データ Tgt_H
2.色データ対応輝度データ(第1の輝度データ) yl_compre
3.輝度ベースデータ(第2の輝度データ) YLc
まず、「1.色データTgt_H」について説明する。先に述べたように、本実施の形態では、補正座標点の上下2ラインの合計4ラインを使用して補正を行う。色データ選択部26によって、フレームメモリ12から読み出した4ラインから、算出対象(ここではR−G系)と同じ色差系の2ラインのデータを選択する。
図6に示す例の場合、垂直方向に第1ライン、第2ライン、第3ライン、第4ラインの4ラインのデータがフレームメモリ12から読み出されている。算出対象がR−G系の場合、色データ選択部26は、図6に(A)で示すように、第1ラインと第3ラインのデータを選択する。なお、算出対象がB−G系の場合には、図6に(B)で示すように、第2ラインと第4ラインのデータを選択する。
色データ生成部28は、補正座標点の位置に基づいて、選択した2ラインのデータに重み付けをして、補間処理を行う。補正座標点は、図6に示す例では、ライン上に乗っておらず、座標値は整数部と小数部からなる。図6における垂直方向座標が2.5だった場合、第1ラインからの距離が1.5、第3ラインからの距離が0.5である。距離の合計の補数を重み係数とすればよい。重み係数について以下に示す。
第1ラインの重み:(1.5+0.5)−1.5=0.5
第3ラインの重み:(1.5+0.5)−0.5=1.5
本実施の形態では、色データの補間演算方法は線形補間である。
なお、色データの補間は、空間位相が遠いデータを利用する必要がある。すなわち、座標PのR−G系のデータを求めるためには、隣接する第2ラインより遠い第1ラインのデータを用いる必要がある。
次に、「2.色データ対応輝度データ yl_compre」について説明する。なお、色対応輝度データの補間も色データと同様に、空間位相が遠いデータを利用する必要がある。先に述べたように、本実施の形態では、補正座標点の上下2ラインの合計4ラインを使用する。輝度データ生成部30は、この4ラインのデータから、ライン毎に輝度データを生成する。色データ対応輝度データ選択部32は、生成した4ラインの輝度データから、算出対象(ここではR−G系)と同じ色差系のラインである2ラインのデータを選択する。色データ対応輝度データ生成部34は、補正座標点の位置に基づいて、選択した2ラインのデータに重み付けをして、補間処理を行う。補正座標点は整数部と小数部からなるが、色データ生成部28と同様の重み付けを用いればよい。
図8は、輝度データ生成部30による4ライン分の輝度生成と、色データ対応輝度データ選択部32による2ラインの選択と、色データ対応輝度データ生成部34による2ラインからの輝度データの補間処理の概要を示す図である。
補色フィールド色差順次形式の画像データは、直流成分が輝度を構成する。従って、輝度データ生成部30は、低域通過フィルタ(Low Pass Filter:LPF)を適用することで輝度データを得ることができる。本実施の形態では、ディジタル信号処理であることやフレーム内処理であること、直線位相フィルタを構成できること等から、奇数タップの有限インパルス応答(Finite Impulse Response:FIR)LPFを用いている。
輝度データ生成FIRLPFは、以下の項目について考慮する必要がある。
(1)フレームメモリ帯域とタップ数
(2)減衰量
(3)通過帯域幅
ディジタルフィルタは、一般にタップ数が多いほど通過帯域幅や遮断周波数及び減衰量などの設計自由度が高まる。本件においては、タップ数が多いほど単位時間あたりにフレームメモリ12から読み出さなければならないデータ量が増えることになる。フレームメモリ帯域を広くするには、読出し速度を上げるかデータバスを広げる等しなければならない。速度やバス幅はどちらもコスト増要因になりえるので、(2)と(3)に示した条件とバランスをとる必要がある。
色データ対応輝度データは、高周波成分として存在する色データ(色キャリア成分)を十分に減衰させる必要がある。色キャリア成分が残っていると、後段の輝度色信号生成(S16)において算出された色データが劣化する場合がある。
図9(a)は色キャリアの減衰が65dB時の色成分が正しい画像、図9(b)は減衰が14dB時の劣化画像の例を示す図である。輝度データ生成で色キャリア成分減衰量が足りない場合、図9(b)の右図に示すように輝度色信号処理後の色データがベクトルスコープ上でMg−Gr方向への広がる症状を示すことがある。色キャリア成分減衰量は、輝度色信号処理後にこのような現象が発生しないように設定しなければならない。
図10(a)は2TAP(1,1)を輝度データ生成に使用した画像の例を示す図、図10(b)は3TAP(1,2,1)を輝度データ生成に使用した画像例を示す図である。2TAP(1,1)や3TAP(1,2,1)は色キャリア減衰量に問題はないが、2TAP(1,1)は色データと空間位相がずれてしまうので、画質劣化が発生する(斜め線が局所的に太くなる)。3TAP(1,2,1)は色データとの空間位相は合っているが、通過周波数帯域幅が比較的狭いため、斜め線が全体的に太くなる。画質劣化をできるかぎり回避するため、通過帯域が広いLPFを構成するほうが良い。本実施の形態では、フレームメモリ帯域とフィルタ性能のトレードオフから、輝度データ生成部30では、11TAPFIRLPFを構成するものとした。図10(c)は、11TAPFIRLPFを輝度データ生成に使用した画像の例を示す図である。
図8に示すように、色データ対応輝度データは、同じ列の上下を見て、算出したい対象の色系列と同じ色系列の補色フィルタデータの存在するラインの輝度データを用いて補間生成する。後述する輝度ベースデータ(空間位相近い)と差し替えるために使用する。
次に、「3.輝度ベースデータ YLc」について説明する。輝度ベースデータは、隣接する画素のデータを用いて生成できるので、空間位相が近い。輝度ベースデータ生成部36は、処理対象垂直座標の上下2ライン計4ラインを用いて、輝度ベースデータを生成する。本実施の形態では、BiCubic補間を用いる。
図11は、垂直方向の補間方式による輝度色信号処理後の画像データの違いについて示す図である。BiLinearでは、斜め線の太さが変化する。B−Splineでは、斜め線の太さの変化がほとんど見られないが、輝度色処理前データに行う演算としては全体に信号のなまりが大きい。BiCubicでは、斜め線の太さの変化や波形のなまりがないわけではないが、概して良好な処理結果が得られる。
ここで、B-SplineとBiCubicの補間式を以下に示す。
・B-Spline:
(3*t*t*t-6*t*t+4)/6 : (0<=t<1)
-(t-2)*(t-2)*(t-2)/6 : (1<=t<2)
t:補正座標点と補間計算に用いる画素との距離
・BiCubic:
(a+2)*t*t*t-(a+3)*t*t+1 : (0<=t<1)
a*t*t*t-5*a*t*t+8*a*t-4*a : (1<=t<2)
t:補正座標点と補間計算に用いる画素との距離
BiCubic補間式の係数aがa=−1とa=−0.5に場合の処理結果を示している。a=−1とすると、良好な解像感を持つ処理結果が得られる。a=−0.5とすると比較的、斜め線の太さの変化が少ない処理結果が得られる。
以上の3つのデータから、補色データ生成部38によって、空間的に遠い色データに対応する輝度データを空間的に近い輝度ベースデータに差し替えることで、所望の補色フィルタデータoutを算出する。以下に式を示す。
out = YLc + (Tgt_H - yl_compre)
以上に詳細に説明した処理によって、垂直方向の歪曲収差が補正された補色フィールド色差順次データを得ることができる。
図2に戻って説明する。画像信号処理装置1は、得られた補色フィールド色差順次データを輝度色信号生成部18で処理し、輝度データと色データを得る(S16)。次に、画像信号処理装置は、生成された輝度色信号に対し、第2の歪曲収差補正処理(以下、「第2補正処理」という)を行う(S18)。第2補正処理は、水平方向における歪曲収差の補正処理である。水平方法の歪曲収差補正に必要なメモリはライン単位であるため、第2補正処理の実施箇所の自由度が高い。なお、歪曲量の規定は垂直方向処理(S14)と同じでよい。輝度色信号生成後であり、インターレースのような特殊なサンプリングをしているわけではないので、水平方向については、単純に歪曲量に従って補間演算を行うことで、比較的良好な処理結果を得ることができる。最後に、画像信号処理装置1は、第2補正処理後の輝度色信号に対し後処理を行う(S20)。以上、本実施の形態の画像信号処理装置1の構成および動作について説明した。
本実施の形態の画像信号処理装置1は、従来の画像信号処理装置に比べて、補色フィールド色差順次信号画像を歪曲収差補正する際に、垂直方向については、補色フィールド色差順次信号に対して、空間位相が遠い色データ、色データに対応する輝度データと、空間位相が近い輝度ベースデータとを用いて補色データを算出する。輝度データは空間位相の近いものを、色データは空間位相の遠い同色フィルタのものを用いて良好な画質の補色フィールド色差順次カラー画像信号を得る。水平方向については、輝度生成後に歪曲収差を補正する補間演算を行うことができる。
以上、本発明の画像信号処理装置および画像信号処理方法について、実施の形態を挙げて詳細に説明したが、本発明は上記した実施の形態に限定されるものではない。
画像信号処理装置1の機能は,磁気ディスク、光磁気ディスク,ROM等の記録媒体にプログラムとして記録することができる。よって、この記録媒体をコンピュータで読み取って、MPU、DSP等で実行することにより画像信号処理装置1の機能を実現することができる。
上記した実施の形態では、第1補正処理(垂直方向の歪曲収差補正処理)は、補色フィールド色差順次形式入力、補色フィールド色差順次出力を例として説明を行った。これは、処理の切れ目を明確にし、機能ブロックの分離性を高める構成で説明することで本件によって実現される優れた機能と効果を明確化するためである。第1補正処理の最後が輝度色信号生成部18の最前段となる構成でもよい。また、一体化するのであれば、輝度色信号処理において、輝度データはそのまま使用し、色データは別途色差生成部に入力するという構成をとってもよい。
以上のように、本発明にかかる画像信号処理装置は、補色フィールド色差順次信号画像を歪曲収差補正するとき、垂直方向については、補色フィールド色差順次信号に対して、空間位相が遠い色データ、色データに対応する輝度データと、空間位相が近い輝度ベースデータを用いて良好な画質の補色フィールド色差順次カラー画像信号を得ることができ、監視カメラ等の歪曲補正処理装置等として有用である。
1 画像信号処理装置
10 前段処理部
12 フレームメモリ
16 第1の歪曲補正処理部
18 輝度色信号生成部
20 第2の歪曲補正処理部
22 後段処理部
24 アドレス生成部
26 色データ選択部
28 色データ生成部
30 輝度データ生成部
32 色データ対応輝度データ選択部
34 色データ対応輝度データ生成部
36 輝度ベースデータ生成部
38 補色データ生成部
100 色プレーン分解部
102 座標変換部
104 サンプリング部
106 色生成部

Claims (5)

  1. フィールド色差順次補色形式の画像データを格納するフレームメモリと、
    予め与えられた歪曲情報に基づいて、表示すべき画面内の各画素の位置に対応する前記フレームメモリ上における各位置を示すアドレスを生成するアドレス生成部と、
    前記アドレスによって特定される点の色データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の色データを補間して生成する色データ生成部と、
    前記アドレスによって特定される点の第1の輝度データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の輝度データを補間して生成する色データ対応輝度データ生成部と、
    前記アドレスによって特定される点の第2の輝度データを、その上下にある所定数のラインに含まれる同列の画素の輝度データを補間して生成する輝度ベースデータ生成部と、
    前記アドレスによって特定される点の補色データを、前記色データと前記第1の輝度データと前記第2の輝度データとに基づいて生成する補色データ生成部と、
    を備える画像信号処理装置。
  2. 前記補色データ生成部にて生成された補色データに基づいて、輝度色信号を生成する輝度色信号生成部と、
    前記輝度色信号生成部にて生成された輝度色信号の水平方向における歪曲収差を補正する補正処理部と、
    を備える請求項1に記載の画像信号処理装置。
  3. フレームメモリにフィールド色差順次補色形式の画像データを格納するステップと、
    予め与えられた歪曲情報に基づいて、表示すべき画面内の各画素の位置に対応する前記フレームメモリ上における各位置を示すアドレスを生成するステップと、
    前記アドレスによって特定される点の色データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の色データを補間して生成するステップと、
    前記アドレスによって特定される点の第1の輝度データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の輝度データを補間して生成するステップと、
    前記アドレスによって特定される点の第2の輝度データを、その上下にある所定数のラインに含まれる同列の画素の輝度データを補間して生成するステップと、
    前記アドレスによって特定される点の補色データを、前記色データと前記第1の輝度データと前記第2の輝度データとに基づいて生成するステップと、
    を備える画像信号処理方法。
  4. フィールド色差順次補色形式の画像データの歪曲収差を補正するためのプログラムであって、コンピュータに、
    フレームメモリに前記画像データを格納するステップと、
    予め与えられた歪曲情報に基づいて、表示すべき画面内の各画素の位置に対応する前記フレームメモリ上における各位置を示すアドレスを生成するステップと、
    前記アドレスによって特定される点の色データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の色データを補間して生成するステップと、
    前記アドレスによって特定される点の第1の輝度データを、その上下にある所定数のラインに含まれる同列の画素であって補間により生成しようとする色系列と同色系列の画素の輝度データを補間して生成するステップと、
    前記アドレスによって特定される点の第2の輝度データを、その上下にある所定数のラインに含まれる同列の画素の輝度データを補間して生成するステップと、
    前記アドレスによって特定される点の補色データを、前記色データと前記第1の輝度データと前記第2の輝度データとに基づいて生成するステップと、
    を実行させるプログラム。
  5. 請求項4に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2010239523A 2010-10-26 2010-10-26 画像信号処理装置、画像信号処理方法およびプログラム Expired - Fee Related JP5503497B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2010239523A JP5503497B2 (ja) 2010-10-26 2010-10-26 画像信号処理装置、画像信号処理方法およびプログラム
PCT/JP2011/005954 WO2012056684A1 (ja) 2010-10-26 2011-10-26 画像信号処理装置、画像信号処理方法およびプログラム
CN201180003577.2A CN103154999B (zh) 2010-10-26 2011-10-26 图像信号处理装置、图像信号处理方法
US13/392,763 US8682069B2 (en) 2010-10-26 2011-10-26 Image signal processing apparatus, image signal processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010239523A JP5503497B2 (ja) 2010-10-26 2010-10-26 画像信号処理装置、画像信号処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2012095020A true JP2012095020A (ja) 2012-05-17
JP5503497B2 JP5503497B2 (ja) 2014-05-28

Family

ID=45993430

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010239523A Expired - Fee Related JP5503497B2 (ja) 2010-10-26 2010-10-26 画像信号処理装置、画像信号処理方法およびプログラム

Country Status (4)

Country Link
US (1) US8682069B2 (ja)
JP (1) JP5503497B2 (ja)
CN (1) CN103154999B (ja)
WO (1) WO2012056684A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10531067B2 (en) 2017-03-26 2020-01-07 Apple Inc. Enhancing spatial resolution in a stereo camera imaging system
JP7210337B2 (ja) * 2019-03-14 2023-01-23 株式会社東芝 画像処理装置、及び、歪み補正係数算出方法
WO2021195829A1 (zh) * 2020-03-30 2021-10-07 深圳市大疆创新科技有限公司 图像处理方法、装置和可移动平台

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61214862A (ja) * 1985-03-21 1986-09-24 Canon Inc カラ−画像形成方法
KR910006465B1 (ko) * 1988-12-31 1991-08-26 삼성전자 주식회사 영상신호와 보색관계를 가지는 문자를 영상신호에 삽입하는 문자 합성장치
US5422738A (en) * 1990-10-22 1995-06-06 Matsushita Electric Industrial Co., Ltd. Color image forming method and an apparatus employed therefor, and a correction factor determining method
US5452018A (en) * 1991-04-19 1995-09-19 Sony Electronics Inc. Digital color correction system having gross and fine adjustment modes
US5382976A (en) * 1993-06-30 1995-01-17 Eastman Kodak Company Apparatus and method for adaptively interpolating a full color image utilizing luminance gradients
JPH0795595A (ja) 1993-09-21 1995-04-07 Canon Inc カラー撮像装置
US5474494A (en) * 1994-03-17 1995-12-12 Sims; Ralph W. Fish cleaning apparatus
JP3707187B2 (ja) * 1996-09-18 2005-10-19 コニカミノルタホールディングス株式会社 電子カメラ
JP3909930B2 (ja) * 1997-09-30 2007-04-25 オリンパス株式会社 単板カラー固体撮像装置
JP3969836B2 (ja) * 1998-04-24 2007-09-05 キヤノン株式会社 信号処理装置および撮像用信号処理方法
US7009734B2 (en) * 2000-08-22 2006-03-07 Canon Kabushiki Kaisha Method and apparatus for forming color transform lookup table, and image processing method
JP4055927B2 (ja) * 2000-08-25 2008-03-05 シャープ株式会社 画像処理装置およびデジタルカメラ
JP3745948B2 (ja) * 2000-08-25 2006-02-15 シャープ株式会社 画像処理装置およびデジタルカメラ
JP3634730B2 (ja) * 2000-09-18 2005-03-30 三洋電機株式会社 色調補正回路および色相補正回路
JP3744808B2 (ja) * 2001-03-28 2006-02-15 セイコーエプソン株式会社 画像処理装置、画像処理方法、プログラムおよび記録媒体
US7471321B2 (en) * 2002-01-30 2008-12-30 Ricoh Company, Ltd. Photographing apparatus and photographing method
JP4158496B2 (ja) * 2002-11-18 2008-10-01 松下電器産業株式会社 画像処理装置
JP3934597B2 (ja) * 2003-12-09 2007-06-20 オリンパス株式会社 撮像システムおよび画像処理プログラム
JP4600301B2 (ja) * 2006-01-16 2010-12-15 ソニー株式会社 色差信号の補正方法とこれを用いた色差信号処理回路及びカメラシステム
JP4144630B2 (ja) * 2006-04-14 2008-09-03 ソニー株式会社 撮像装置
JP4983093B2 (ja) * 2006-05-15 2012-07-25 ソニー株式会社 撮像装置および方法
JP4781229B2 (ja) * 2006-11-01 2011-09-28 キヤノン株式会社 歪曲収差補正装置、撮像装置、及び歪曲収差補正装置の制御方法
JP2008301395A (ja) 2007-06-04 2008-12-11 Panasonic Corp 映像信号処理回路および固体撮像装置
JP5036421B2 (ja) 2007-06-25 2012-09-26 シリコン ヒフェ ベー.フェー. 画像処理装置、画像処理方法、プログラムおよび撮像装置
JP2009157733A (ja) 2007-12-27 2009-07-16 Konica Minolta Holdings Inc 画像歪み補正方法、画像歪み補正装置及び画像形成装置

Also Published As

Publication number Publication date
CN103154999A (zh) 2013-06-12
JP5503497B2 (ja) 2014-05-28
WO2012056684A1 (ja) 2012-05-03
CN103154999B (zh) 2016-05-25
US8682069B2 (en) 2014-03-25
US20120169904A1 (en) 2012-07-05

Similar Documents

Publication Publication Date Title
JP4104571B2 (ja) 歪曲補正装置及びこの歪曲補正装置を備えた撮像装置
EP2458873B1 (en) Image processing device for correcting chromatic aberration, method for processing image, program, and storage medium
US7881563B2 (en) Distortion correction of images using hybrid interpolation technique
JP5438579B2 (ja) 画像処理装置及びその制御方法
EP2184915B1 (en) Image processing device, image processing method, and image processing program
JP2004241991A (ja) 撮像装置、画像処理装置及び画像処理プログラム
JP5984493B2 (ja) 画像処理装置、画像処理方法、撮像装置およびプログラム
JP2016213702A (ja) 画像処理装置、その制御方法、および制御プログラム
KR20180118790A (ko) 화상 처리 장치, 화상 처리 방법, 기록 매체, 프로그램 및 촬상 장치
JP2010034964A (ja) 画像合成装置、画像合成方法及び画像合成プログラム
JP4649171B2 (ja) 倍率色収差補正装置、倍率色収差補正方法及び倍率色収差補正プログラム
WO2019008693A1 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラムおよび記憶媒体
JP5503497B2 (ja) 画像信号処理装置、画像信号処理方法およびプログラム
JP5911166B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、撮像装置、及び画像表示装置
JP5353945B2 (ja) 画像処理装置および画像処理プログラム並びに電子カメラ
JP4827213B2 (ja) 画像補正装置および画像補正方法
JP2009100150A (ja) 画像処理装置及び画像処理方法、画像処理プログラム
JPWO2012056982A1 (ja) 画像処理方法、画像処理装置及び撮像装置
JP2015095890A (ja) 画像処理装置およびその制御方法
JP6105960B2 (ja) 画像処理装置、画像処理方法、および撮像装置
JP5359814B2 (ja) 画像処理装置
JPWO2015083502A1 (ja) 画像処理装置、該方法および該プログラム
JP2014110507A (ja) 画像処理装置および画像処理方法
JP5334265B2 (ja) 倍率色収差・像歪補正装置およびそのプログラム
JPH0795595A (ja) カラー撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140304

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140314

R151 Written notification of patent or utility model registration

Ref document number: 5503497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees