JP2008142421A - 画像処理プロセッサ - Google Patents

画像処理プロセッサ Download PDF

Info

Publication number
JP2008142421A
JP2008142421A JP2006335010A JP2006335010A JP2008142421A JP 2008142421 A JP2008142421 A JP 2008142421A JP 2006335010 A JP2006335010 A JP 2006335010A JP 2006335010 A JP2006335010 A JP 2006335010A JP 2008142421 A JP2008142421 A JP 2008142421A
Authority
JP
Japan
Prior art keywords
image data
unit
processing
data
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006335010A
Other languages
English (en)
Other versions
JP5362954B2 (ja
Inventor
Hidenari Honda
秀成 本多
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2006335010A priority Critical patent/JP5362954B2/ja
Publication of JP2008142421A publication Critical patent/JP2008142421A/ja
Application granted granted Critical
Publication of JP5362954B2 publication Critical patent/JP5362954B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)
  • Endoscopes (AREA)

Abstract

【課題】単一の画像処理部で処理可能な信号を処理時間を抑えつつ得ることが可能な画像処理プロセッサを提供する。
【解決手段】撮像方式判定部200で、撮像方式に対応して撮像画像データに順次行うべき処理を決定し、点順次方式、二板方式、三板方式、面順次方式にそれぞれ対応する信号処理部201の複数の形式変換部の組み合わせを決定する。そして、撮像画像データを色信号R,G,Bに変換した変換画像データ、及び画像処理を行うための基準となる画像処理タイミング信号を生成し、セレクタ212を介して出力することで、単一の画像処理部での画像処理を可能とする。
【選択図】図2

Description

本発明は、撮像方式の異なる複数のスコープによって撮像された画像に対し、画像処理を行う画像処理プロセッサに関する。
従来、内視鏡用の画像処理プロセッサは、方式が異なるスコープで撮像された画像の処理を行うためには、複数の画像処理部を持つことで対応していた。そこで、特許文献1(特公平4−039854号公報)には、面順次式映像信号とモザイク式映像信号に対応する画像処理部を設け、スコープの撮像方式を変えても単一の画像処理部で処理可能な内視鏡用撮像装置が提案されている。
特公平4−39854号公報
特許文献1の技術は、スコープの撮像方式が面順次式であってもモザイク方式であっても一旦NTSCに変換し、その後で単一の画像処理部で処理するようにしている。この技術は、撮像部(スコープ)と画像処理部とが別な装置として構成され、その組み合わせが様々である内視鏡装置において好適なものである。しかしながら、処理時間についての観点からは言及されていない。
本発明は上記事情に鑑みてなされたもので、単一の画像処理部で処理可能な信号を処理時間を抑えつつ得ることが可能な画像処理プロセッサを提供することを目的としている。
上記目的を達成するため、本発明による第1の画像処理プロセッサは、接続された内視鏡スコープに係る撮像方式を判定し、その判定結果たる撮像方式データと前記内視鏡スコープにより観察される被写体に係る撮像画像データとを出力するスコープ接続部と、入力されるデータに対して所定の信号処理を実行して出力する、前記信号処理の属性に応じて複数備えられる機能モジュールと、前記複数の機能モジュールの中から、入力される前記撮像画像データを単一のデータ出力形式を有する変換画像データに変換するための前記機能モジュールの組み合わせを前記撮像方式データに基づき判定する撮像方式判定部とを備え、ここで、各機能モジュールは前記信号処理済みのデータが出力されるタイミングに係る出力タイミング信号を生成するタイミング調整部を備え、前記組み合わせの前段に位置する第1の機能モジュールからの前記出力タイミング信号に基づき、第2の機能モジュールは前記第1の機能モジュールにより信号処理された前記撮像画像データに対して前記所定の信号処理を実行する変換部と、前記変換画像データに対して所定の画像処理を実行し、処理画像データを生成する画像処理部とを備えることを特徴とする。
本発明による第2の画像処理プロセッサは、第1の画像処理プロセッサにおいて、前記変換部は、少なくとも、点順次方式の前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする。
本発明による第3の画像処理プロセッサは、第1の画像処理プロセッサにおいて、前記変換部は、少なくとも、面順次方式の前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする。
本発明による第4の画像処理プロセッサは、第1の画像処理プロセッサにおいて、前記変換部は、少なくとも、基本となる複数の原色の各々に対応する前記撮像画像データを出力する2つの異なる撮像素子からの前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする。
本発明による第5の画像処理プロセッサは、第1の画像処理プロセッサにおいて、前記変換部は、少なくとも、基本となる複数の原色の各々に対応する前記撮像画像データを出力する3つの異なる撮像素子からの前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする。
本発明による第6の画像処理プロセッサは、第1の画像処理プロセッサにおいて、前記画像処理部は、インタレース方式に係る前記変換画像データに適した画像処理を実行する第1の専用処理部、及びプログレッシブ方式に係る前記変換画像データに適した画像処理を実行する第2の専用処理部を具備し、前記撮像方式に応じた前記処理画像データを出力することを特徴とする。
本発明の第1の画像処理プロセッサは、複数の機能モジュールの中から、入力される撮像画像データを単一のデータ出力形式に変換するための機能モジュールの組み合わせを、スコープ接続部からの撮像方式データに基づき判定すると共に、信号処理済みのデータを出力するタイミングに係る出力タイミング信号を生成するタイミング調整部を各機能モジュールに備え、組み合わせの前段に位置する第1の機能モジュールからの出力タイミング信号に基づき、第2の機能モジュールが第1の機能モジュールにより信号処理された撮像画像データに対して所定の信号処理を実行することで各機能モジュール間でのタイムラグが抑えられるので、入力される撮像画像データを、単一の画像処理部で処理可能な単一のデータ出力形式に変換するための処理時間を抑えること、即ち高速化が可能となる。
第2の画像処理プロセッサは、機能モジュールとして、点順次方式の撮像画像データを変換画像データに変換するための組み合わせに係る機能モジュールを備えているので、点順次方式に対応することができる。
第3の画像処理プロセッサは、機能モジュールとして、面順次方式の撮像画像データを変換画像データに変換するための組み合わせに係る機能モジュールを備えているので、面順次方式に対応することができる。
第4の画像処理プロセッサは、機能モジュールとして、基本となる複数の原色の各々に対応する撮像画像データを出力する2つの異なる撮像素子からの撮像画像データを変換画像データに変換するための組み合わせに係る機能モジュールを備えているので、2つの異なる撮像素子を用いる所謂二板方式に対応することができる。
第5の画像処理プロセッサは、機能モジュールとして、基本となる複数の原色の各々に対応する撮像画像データを出力する3つの異なる撮像素子からの撮像画像データを変換画像データに変換するための組み合わせに係る機能モジュールを備えているので、3つの異なる撮像素子を用いる所謂三板方式に対応することができる。
第6の画像処理プロセッサは、第1の専用処理部及び第2の専用処理部を備えることで、一方の撮像方式に変換画像データを変換する、例えばインターレース方式からプログレッシブ方式への変換に係る処理を省くことができるため、処理時間を抑えることが可能となる。
以下、図面を参照して本発明の実施の形態を説明する。
[第1の実施形態]
図1〜図8は本発明の第1の実施形態に係り、図1は画像処理プロセッサの基本構成図、図2は変換部の構成を示すブロック図、図3は形式変換部の構成を示すブロック図、図4は画像処理部の構成を示すブロック図、図5は点順次方式のスコープが接続された場合の変換処理の例を示すタイムチャート、図6は二板方式のスコープが接続された場合の変換処理の例を示すタイムチャート、図7は三板方式のスコープが接続された場合の変換処理の例を示すタイムチャート、図8は面順次方式のスコープが接続された場合の変換処理の例を示すタイムチャートである。
本発明による画像処理プロセッサは、撮像方式の異なる複数のスコープを接続することができ、スコープの撮像方式に応じた単一の形式の画像データに変換して画像処理を行うことにより、処理回路を共通化して回路規模の削減を可能とするものである。第1の実施形態における画像処理プロセッサは、各スコープによって撮像された画像に関する撮像画像データを、色信号R,G,Bで表す変換画像データに変換し、変換画像データに対して色調整やゲイン調整やガンマ補正などの画像処理を行った後に、輝度信号Y、色差信号Cb,Crで表す処理画像データに変換し、外部に出力する。
以下では、撮像素子としてCCDを採用するものとし、単一のCCDを有するスコープの撮像方式として、点順次方式や面順次方式を例にとり、また、複数個のCCDを有するスコープの撮像方式として、R,G,B各色を一部共用して二つのCCDで撮像する所謂二板方式、R,G,B各色を三つのCCDで分担或いは一部供用して撮像する所謂三板方式の撮像方式を例に取って説明する。更に、CCDの画素読み出し方式の相違に関して、インターレース方式とプログレッシブ方式とを考慮する(但し、本実施の形態では、インターレース方式かプログレッシブ方式かに依存せず、単一の処理を行うことが可能である)。
尚、本発明の画像処理プロセッサに接続されるスコープとは、細径の挿入部先端にCCDを内蔵した電子内視鏡のみならず、挿入部先端に対物レンズで結像された光学像をファイババンドルで手元側に伝送する光学式内視鏡にカメラユニットを装着したものも含むものとする。
本実施の形態では、撮像方式によって異なる変換処理を行い、単一の形式である変換画像データを生成することで、色調整やゲイン調整やガンマ補正などの画像処理を共通化するようにしており、これにより、回路規模を削減することができる。また、撮像方式によって変換処理に要する時間は異なるが、変換処理に要する時間に応じた最適なタイミングで画像処理を行うことで、プロセッサ全体としての処理時間を短縮することができる。
具体的には、図1に示すように、本実施の形態の画像処理プロセッサ1は、撮像方式が異なる複数のスコープA,B,…を接続可能なスコープ接続部101と、スコープ接続部101から出力される撮像画像データを、スコープの撮像方式に応じた単一の形式の変換画像に変換する変換部102と、変換部102から出力される変換画像に対して所定の画像処理を施し、処理画像データを生成する画像処理部103とを基本構成として備えている。
スコープ接続部101は、接続されたスコープによって撮像された撮像画像データ、及び撮像画像データの水平,垂直同期信号HD,VDを出力する。また、スコープ接続部101は、接続されたスコープの種類を判別するための撮像方式データを生成し、撮像画像データ、同期信号HD,VDと共に出力する。
変換部102は、撮像方式データから判別した撮像方式に応じて、撮像画像データを色信号R,G,Bに変換した変換画像データ、及び画像処理部103が画像処理を行うための基準となる画像処理タイミング信号を生成する。
詳細には、変換部102は、図2に示される構成を有している。すなわち、変換部102は、撮像方式データから接続されているスコープの種類を判別し、撮像画像データに順次行うべき処理を決定する撮像方式判定部200と、撮像方式に対応した各種処理及びタイミング調整を行うための複数の機能モジュールとしての形式変換部を備えた信号処理部201と、変換画像データとして出力するデータを選択するセレクタ212とを備えて構成されている。
信号処理部201における複数の形式変換部としては、YC補間部202、RGB補間部203、YCノイズ除去部204、RGBノイズ除去部205、面順次ノイズ除去部206、RGB→YC変換部207、YCWB(WB;ホワイトバランス)処理部208、面順次WB処理部209、YC→RGB変換部210、及び面順次位相調整部211が備えられている。これらの形式変換部は、撮像方式判定部200で撮像方式に対応して決定される順次処理の組み合わせに応じて適宜選択される。
すなわち、点順次方式に対応する順次処理の組み合わせとして、YC補間部202,YCノイズ除去部204,YCWB処理部208,YC→RGB変換部210が選択される。また、二板方式に対応する順次処理の組み合わせとして、RGB補間部203,RGBノイズ除去部205,RGB→YC変換部207,YCWB処理部208,YC→RGB変換部210が選択され、三板方式に対応する順次処理の組み合わせとして、RGBノイズ除去部205,RGB→YC変換部207,YCWB処理部208,YC→RGB変換部210が選択される。更に、面順次方式に対応する順次処理の組み合わせとして、面順次ノイズ除去部206,面順次WB処理部209,面順次位相調整部211が選択される。
これらの形式変換部の機能の概要は、それぞれ以下の通りである。
(YC補間部202)…撮像画像データに補間処理を行い、撮像画像データの輝度・色差成分であるYC補間データを生成する。
(RGB補間部203)…撮像画像データに補間処理を行い、撮像画像データのR,G,B成分であるRGB補間データを生成する。
(YCノイズ除去部204)…YC補間データのノイズを除去し、YCノイズ除去データを生成する。
(RGBノイズ除去部205)…撮像画像データ、またはRGB補間データのノイズを除去し、RGBノイズ除去データを生成する。
(面順次ノイズ除去部206)…撮像画像データのノイズを除去し、面順次ノイズ除去データを生成する。
(RGB→YC変換部207)…RGBノイズ除去データにマトリクス演算を行い、RGB→YC変換データを生成する。
(YCWB処理部208)…YCノイズ除去データ、またはRGB→YC変換データにWB処理を行い、YCWB処理データを生成する。
(面順次WB処理部209)…面順次ノイズ除去データにWB処理を行い、面順次WB処理データを生成する。
(YC→RGB変換部210)…YCWB処理データにマトリクス演算を行い、YC→RGB変換データを生成する。
(位相調整部211)…面順次WB処理データの位相を調整し、面順次位相調整データを生成する。
以上の各形式変換部は、それぞれの構成が単純化されており、図3に示すように、変換処理部301とタイミング調整部302とによって構成されている。変換処理部301は、それぞれの機能に対応する入力データを、それぞれの機能に従って処理し、所望の出力データを生成するものである。また、タイミング調整部302は、それぞれの機能に要する処理時間に応じて、画像処理タイミング信号を調整するものである。
一方、画像処理部103は、変換画像データに対して色調整やゲイン調整やガンマ補正などの空間的な画像処理を施し、処理画像データを生成する機能を有している。これらの機能は、詳細には、図4に示すように、色調整部401と、ゲイン調整部402と、ガンマ補正部403と、RGB→YC変換部404とによって表現することができる。
画像処理部103における各部の機能の概要は、以下に示す通りである。
(色調整部401)…変換画像データの色調整を行い、色調整画像データを生成する。
(ゲイン調整部402)…色調整画像データのゲイン調整を行い、ゲイン調整画像データを生成する。
(ガンマ補正部403)…ゲイン調整画像データのガンマ補正を行い、ガンマ補正画像データを生成する。
(RGB→YC変換部404)…ガンマ補正画像データにマトリクス演算を行い、処理画像データを生成する。
次に、以上の構成を有する画像処理プロセッサ1の動作について説明する。先ず、所定の撮像方式のスコープを、画像処理プロセッサ1のスコープ接続部101に接続する。すると、接続されたスコープから、スコープの種類によって決まるスコープコードがスコープ接続部101に出力される。
尚、スコープコードは、本実施の形態においては各スコープの撮像方式を識別できれば良く、特定の形態に制限されることはない。例えば、各スコープに、スコープの種別、撮像方式、画素読み出し方式等を識別するコードを書き込んだROMを内蔵し、このROMからのデータを読み出すようにしても良く、また、スコープとスコープ接続部101とを接続するコネクタに撮像方式を示す識別用ピン等を設け、このピンを検出するようにしても良い。
スコープ接続部101は、スコープコードよりスコープの撮像方式を示す撮像方式データを生成し、また、スコープによって得られた撮像画像データや撮像画像データの同期信号HD,VDを、変換部102へ出力する。本実施形態においては、撮像方式データとして、点順次方式、二板方式、三板方式、面順次方式の何れであるかを示す撮像方式データが生成され、変換部102に出力される。
変換部102は、接続されているスコープが点順次方式であった場合、以下の(1)に示す処理を行い、二板方式であった場合、(2)に示す処理を行い、三板方式であった場合、(3)に示す処理を行い、面順次方式であった場合、(4)に示す処理を行う。
(1)点順次方式のスコープが接続された場合
変換部102は、撮像方式判定部200において、撮像方式データから接続されているスコープが点順次方式であると判定すると、点順次方式に対応した補間やノイズ除去、補正や変換処理等の順次処理を行う形式変換部の組み合わせを決定する。そして、撮像方式判定部200から同期信号HD,VD、撮像画像データがYC補間部202へ出力され、YCノイズ除去部204,YCWB処理部208,YC→RGB変換部210を経て、色信号R,G,Bに変換された変換画像データがセレクタ212に出力される。
詳細には、YC補間部202は、内部の変換処理部301において、撮像画像データにYC補間処理を行い、撮像画像データの輝度・色差成分であるYC補間データを生成し、YCノイズ除去部204に出力する。また、YC補間部202は、内部のタイミング調整部302において、YC補間処理に要する処理時間に応じて同期信号HD,VDを遅延させ、YC補間HD,YC補間VDとしてYCノイズ除去部204に出力する。
YCノイズ除去部204は、内部の変換処理部301において、YC補間部202から出力されたYC補間データにフィルタ処理を行うことでノイズを除去し、YCノイズ除去データを生成してYCWB処理部208に出力する。また、YCノイズ除去部204は、内部のタイミング調整部302において、ノイズ除去に要する処理時間に応じてYC補間HD,YC補間VDを遅延させ、YCノイズ除去HD,YCノイズ除去VDとしてYCWB処理部208に出力する。
YCWB処理部208は、内部の変換処理部301において、YCノイズ除去部204でフィルタ処理されたYCノイズ除去データにWB処理を行うことでYCWB処理データを生成し、YC→RGB変換部210に出力する。また、YCWB処理部208は、内部のタイミング調整部302において、YCWB処理に要する処理時間に応じてYCノイズ除去HD,YCノイズ除去VDを遅延させ、YCWB処理HD,YCWB処理VDとしてYC→RGB変換部210に出力する。
YC→RGB変換部210は、内部の変換処理部301において、YCWB処理部208で処理されたYCWB処理データにマトリクス演算処理を行い、色信号R,G,Bに変換されたYC→RGB変換データを生成し、セレクタ212に出力する。また、YC→RGB変換部210は、内部のタイミング調整部302において、マトリクス演算処理に要する処理時間に応じてYCWB処理HD,YCWB処理VDを遅延させ、YC→RGB変換HD,YC→RGB変換VDとしてセレクタ212に出力する。
セレクタ212からは、YC→RGB変換データが変換画像データとして、また、YC→RGB変換HD,YC→RGB変換VDが画像処理タイミング信号として、画像処理部103に出力される。
図5に、接続されているスコープが点順次方式であった場合の変換処理におけるタイムチャートを示す。図5のタイムチャートにおいては、撮像画像データ(DIN)が入力されると、撮像画像データに対して補間やノイズ除去、補正や変換処理等の処理が実施され、処理遅延を考慮して所定の期間を経て生成・出力される画像処理タイミング信号(VD_OUT,HD_OUT)により、変換画像データDOUT_A,DOUT_B,DOUT_C)が出力される例を示している。
尚、図5における撮像画像データが入力されてから変換画像データが出力されるまでの期間は一例であり、この限りではない。
(2)二板方式のスコープが接続された場合
変換部102は、撮像方式判定部200において、撮像方式データから接続されているスコープが二板方式であると判定すると、二板方式に対応した補間やノイズ除去、補正や変換処理等の順次処理の組み合わせを決定する。そして、撮像方式判定部200から同期信号HD,VD、撮像画像データがRGB補間部203へ出力され、RGBノイズ除去部205,RGB→YC変換部207、YCWB処理部208,RGB変換部210を経て、色信号R,G,Bに変換された変換画像データがセレクタ212に出力される。
詳細には、RGB補間部203は、内部の変換処理部301において、撮像画像データに補間処理を行い、撮像画像データのR,G,B成分であるRGB補間データを生成し、RGBノイズ除去部205に出力する。また、RGB補間部203は、内部のタイミング調整部302において、補間処理に要する処理時間に応じて同期信号HD,VDを遅延させ、RGB補間HD,RGB補間VDとしてRGBノイズ除去部205に出力する。
RGBノイズ除去部205は、内部の変換処理部301において、RGB補間部203にて補間処理されたRGB補間データにフィルタ処理を行うことでノイズを除去し、RGBノイズ除去データを生成してRGB→YC変換部207に出力する。また、RGBノイズ除去部205は、内部のタイミング調整部302において、ノイズ除去に要する処理時間に応じてRGB補間HD,RGB補間VDを遅延させ、RGBノイズ除去HD,RGBノイズ除去VDとしてRGB→YC変換部207に出力する。
RGB→YC変換部207は、内部の変換処理部301において、RGBノイズ除去データにマトリクス演算処理を行い、輝度・色差信号Y,Cb,Crに変換されたRGB→YC変換データを生成し、YCWB処理部208に出力する。また、RGB→YC変換部207は、内部のタイミング調整部302において、マトリクス演算処理に要する処理時間に応じてRGBノイズ除去HD,RGBノイズ除去VDを遅延させ、RGB→YC変換HD,RGB→YC変換VDとしてYCWB処理部208に出力する。
YCWB処理部208は、内部の変換処理部301において、RGB→YC変換データにWB処理を行うことでYCWB処理データを生成し、YC→RGB変換部210に出力する。また、YCWB処理部208は、内部のタイミング調整部302において、YCWB処理に要する処理時間に応じてRGB→YC変換HD,RGB→YC変換VDを遅延させ、YCWB処理HD,YCWB処理VDとしてYC→RGB変換部210に出力する。
YC→RGB変換部210は、内部の変換処理部301において、YCWB処理データにマトリクス演算処理を行い、色信号R,G,Bに変換されたYC→RGB変換データを生成し、セレクタ212に出力する。また、YC→RGB変換部210は、内部のタイミング調整部302において、マトリクス演算処理に要する処理時間に応じてYCWB処理HD,YCWB処理VDを遅延させ、YC→RGB変換HD,YC→RGB変換VDとしてセレクタ212に出力する。
以降は、接続されているスコープが点順次方式であった場合と同等の処理であり、セレクタ212は、YC→RGB変換データを変換画像データとして、また、YC→RGB変換HD,YC→RGB変換VDを画像処理タイミング信号として、画像処理部103に出力する。
図6に、接続されているスコープが二板方式であった場合の変換処理におけるタイムチャートを示す。図6のタイムチャートにおいては、2つのCCDによる撮像画像データ(DIN_A,DIN_B)が入力されると、撮像画像データに対して補間やノイズ除去、補正や変換処理等の処理を行い、処理遅延を考慮して所定の期間を経て生成・出力される画像処理タイミング信号(VD_OUT,HD_OUT)により、変換画像データDOUT_A,DOUT_B,DOUT_C)が出力される。
尚、図6における撮像画像データが入力されてから変換画像データが出力されるまでの期間は一例であり、この限りではない。
(3)三板方式のスコープが接続された場合
変換部102は、撮像方式判定部200において、撮像方式データから接続されているスコープが三板方式であると判定すると、三板方式に対応したノイズ除去や変換処理等の順次処理の組み合わせを決定する。そして、撮像方式判定部200から同期信号HD,VD、撮像画像データがRGBノイズ除去部205へ出力され、RGB→YC変換部207、YCWB処理部208、YC→RGB変換部210を経て各種信号処理が実施され、色信号R,G,Bに変換された変換画像データがセレクタ212に出力される。
RGBノイズ除去部205は、内部の変換処理部301において、撮像画像データにフィルタ処理を行うことでノイズを除去し、RGBノイズ除去データを生成してRGB→YC変換部207に出力する。また、RGBノイズ除去部205は、内部のタイミング調整部302において、ノイズ除去に要する処理時間に応じて同期信号HD,VDを遅延させ、RGBノイズ除去HD,RGBノイズ除去VDとしてRGB→YC変換部207に出力する。
以降は、RGB→YC変換部207とYCWB処理部208とYC→RGB変換部210とセレクタ212により、接続されているスコープが二板方式であった場合と同等の処理を行う。
図7に、接続されているスコープが三板方式であった場合の変換処理におけるタイムチャートを示す。図7のタイムチャートにおいては、3つのCCDによる撮像画像データ(DIN_A,DIN_B,DIN_C)が入力されると、撮像画像データに対してノイズ除去や補正、変換処理等の処理を行い、処理遅延を考慮した所定の期間を経て生成・出力される画像処理タイミング信号(VD_OUT,HD_OUT)により、変換画像データDOUT_A,DOUT_B,DOUT_C)が出力される例を示している。
尚、図7における撮像画像データが入力されてから変換画像データが出力されるまでの期間は一例であり、この限りではない。
(4)面順次方式のスコープが接続された場合
変換部102は、撮像方式判定部200において、撮像方式データから接続されているスコープが面順次方式であると判定すると、面順次方式に対応したノイズ除去や補正処理等の順次処理の組み合わせを決定する。そして、撮像方式判定部200から同期信号HD,VD、撮像画像データが面順次ノイズ除去部206へ出力され、面順次WB処理部209,面順次位相調整部211を経て、面順次位相調整された変換画像がセレクタ212に出力される。
面順次ノイズ除去部206は、内部の変換処理部301において、撮像画像データにフィルタ処理を行うことでノイズを除去し、面順次ノイズ除去データを生成し、面順次WB処理部209に出力する。また、面順次ノイズ除去部206は、内部のタイミング調整部302において、ノイズ除去に要する処理時間に応じて同期信号HD,VDを遅延させ、面順次ノイズ除去HD,面順次ノイズ除去VDとして、面順次WB処理部209に出力する。
面順次WB処理部209は、内部の変換処理部301において、面順次ノイズ除去データにWB処理を行うことで面順次WB処理データを生成し、面順次位相調整部211に出力する。また、面順次WB処理部209は、内部のタイミング調整部302において、WB処理に要する処理時間に応じて面順次ノイズ除去HD,面順次ノイズ除去VDを遅延させ、面順次WB処理HD,面順次WB処理VDとして、面順次位相調整部211に出力する。
面順次位相調整部211は、内部の変換処理部301にフレームメモリを備えており、面順次WB処理データのRフィールドとGフィールドとBフィールドとを一旦フレームメモリに書き込んだ後、同時に読み出すことで位相を揃えて面順次位相調整データを生成し、セレクタ212に出力する。
また、面順次位相調整部211は、内部のタイミング調整部302において、位相調整に要する時間に応じて面順次WB処理HD,面順次WB処理VDを遅延させ、面順次位相調整HD,面順次位相調整VDとしてセレクタ212に出力する。
セレクタ212は、面順次位相調整データを変換画像データとして、また、面順次位相調整HD,面順次位相調整VDを画像処理タイミング信号として、画像処理部103に出力する。
図8に、接続されているスコープが面順次方式であった場合の変換処理におけるタイムチャートを示す。図8のタイムチャートにおいては、面順次により撮像画像データ(DIN)が順次入力されると、撮像画像データに対してノイズ除去や補正、位相調整等の処理を行い、処理遅延を考慮した所定の期間を経て生成・出力される画像処理タイミング信号(VD_OUT,HD_OUT)により、変換画像データDOUT_A,DOUT_B,DOUT_C)が出力される。
尚、図8における撮像画像データが入力されてから変換画像データが出力されるまでの期間は一例であり、この限りではないが、各撮像方式に対する変換処理を比較すると、撮像色情報を得られるタイミングの相違から、三板方式(図7)、二板方式(図6)、点順次方式(図5)、面順次方式(図8)の順に、処理遅延時間が大きくなる。
次に、以上の変換処理を経て画像処理部103に変換画像データが入力されると、画像処理部103は、色調整部401、ゲイン調整部402、ガンマ補正部403、RGB→YC変換部404において、変換画像データに対して、画像処理タイミング信号でタイミングを調整しながら、順次、画像処理を行う。この画像処理された信号は、例えば図示しないモニタに出力され、スコープによる観察画像が表示される。
以上のように本実施形態においては、接続されたスコープが点順次方式、二板方式、三板方式、面順次方式の何れであっても共通の形式を持つ変換画像データに変換することができ、単一の画像処理部での画像処理を行うことが可能となり、回路規模の縮小及び開発工数の削減を行うことができる。
しかも、同期信号HD,VDを基に、各機能の処理に応じたタイミングの調整を繰り返すことで、変換画像データに同期した画像処理タイミング信号を生成し、接続されたスコープによって最適なタイミングで変換処理を行っているため、画像処理プロセッサ全体の処理を高速化することができる。また、画像処理プロセッサ全体の動作を制御するCPUの負荷も軽減される。
[第2の実施形態]
次に、本発明の第2の実施形態について説明する。図9は本発明の第2の実施形態に係り、画像処理部の構成を示すブロック図である。
前述した第1の実施の形態では、スコープの画素読み出し方式がインタレース方式であるかプログレッシブ方式であるかに依存せず、単一の処理を行うことが可能な画像処理について述べてきた。しかし、例えばズームやエンハンス等の画像処理では、隣接するライン間の影響を考慮した方が高画質に処理できるため、インタレース方式の場合、片フィールドの撮像画像データをメモリに蓄え、両フィールドの撮像画像データが揃ってから処理を行うことが多い。
前記の方式では、メモリを備えなければならない点やフィールド遅延が生ずる点で不利であり、インタレース方式の場合でもフィールド単位で処理をすることが望まれる。そこで、インタレース方式の場合には、片フィールドのデータが欠けていることを考慮した画像処理を実施することにより画質の改善を行うことが可能であり、そのためには、インタレース方式とプログレッシブ方式とで異なる処理が必要となる。
本発明の第2の実施形態は、このようなインタレース方式とプログレッシブ方式との双方に対応するものであり、第2の実施形態における画像処理プロセッサは、スコープの画素読み出し方式がインタレース方式であるかプログレッシブ方式であるかによって一部異なる処理を行う機能を追加している。その他は第1の実施の形態と全く同構成である。
よって、ここでは第1の実施の形態と同構成である部分についての説明は省略し、異なる構成について説明する。第1の実施の形態に対して新たな機能を加える対象は、変換部102における撮像方式判定部200及びタイミング調整部302、画像処理部103である。
第2の実施形態においては、撮像方式判定部200に対して、撮像方式データから接続されているスコープの種類を判定する際に、スコープの画素読み出し方式も併せて考慮しする機能を追加し、撮像画像データに行うべき処理を決定する。また、タイミング調整部302に対しては、それぞれの機能に要する処理時間に応じて、画像データの同期信号及びフィールド信号からなる画像処理タイミング信号を調整する機能を追加する。尚、フィールド信号は、インタレース方式において奇数フィールド/偶数フィールドを示す信号である。
また、図9に示すように、第2の実施形態においては、第1の実施形態の画像処理部103を、インタレース方式用とプログレッシブ方式用の専用のズーム処理部及びエンハンス処理部を加えた画像処理部103Aとしている。画像処理部103Aは、インタレース方式とプログレッシブ方式とに共通する処理部として、共通色調整部501、共通ゲイン調整部502、共通ガンマ補正部503、共通RGB→YC変換部504を備え、また、インタレース方式とプログレッシブ方式とで専用の処理部として、インタレース用ズーム処理部505、インタレース用エンハンス処理部506、プログレッシブ用ズーム処理部507、プログレッシブ用エンハンス処理部508を備え、更に、セレクタ509を備えて構成されている。
画像処理部103Aの各部の機能の概要は以下の通りである。
(共通色調整部501)…変換画像データの色調整を行い、共通色調整画像データを生成する。
(共通ゲイン調整部502)…色調整画像データのゲイン調整を行い、共通ゲイン調整画像データを生成する。
(共通ガンマ補正部503)ゲイン調整画像データのガンマ補正を行い、共通ガンマ補正画像データを生成する。
(共通RGB→YC変換部504)…ガンマ補正画像データにマトリクス演算を行い、共通RGB→YC変換画像データを生成する。
(インタレース用ズーム処理部505)…RGB→YC変換画像データに、インタレース方式時のズーム処理をフィールド信号に応じて行い、インタレース用ズーム画像データを生成する。
(インタレース用エンハンス処理部506)…インタレース用ズーム画像データに、インタレース方式時のエンハンス処理をフィールド信号に応じて行い、インタレース用エンハンス画像データを生成する。
(プログレッシブ用ズーム処理部507)…RGB→YC変換画像データに、プログレッシブ方式時のズーム処理を行い、プログレッシブ用ズーム画像データを生成する。
(プログレッシブ用エンハンス処理部508)…プログレッシブ用ズーム画像データに、プログレッシブ方式時のエンハンス処理を行い、プログレッシブ用エンハンス画像データを生成する。
(セレクタ509)…処理画像データとして出力するデータを選択する。
次に、本実施の形態の作用を説明する。先ず、スコープをスコープ接続部101に接続すると、スコープの種類によって決まるスコープコードがスコープ接続部101に出力される。
スコープ接続部101は、スコープコードよりスコープの画素読み出し方式がインタレース方式であるかプログレッシブ方式であるかを判別すると共に、スコープの撮像方式が点順次方式であるか二板方式であるか三板方式であるか面順次方式であるかを判別する。そして、スコープ接続部101は、スコープコードの判別結果に基づいて、スコープの画素読み出し方式を示す情報と撮像方式を示す情報とを撮像方式データとして生成し、第1の実施の形態と同様の手順で、撮像画像データ、撮像方式データ、及び同期信号HD,VDを変換部102へ出力する。
このとき、接続されているスコープの画素読み出し方式がインタレース方式であった場合には、変換部102及び画像処理部103は、以下の(a)に示す処理を行い、プログレッシブ方式であった場合、(b)に示す処理を行う。
(a)インターレース方式のスコープが接続された場合
変換部102の撮像方式判定部200において、撮像方式データより接続されているスコープの画素読み出し方式がインタレース方式であると判別すると、撮像方式判定部200は、現在読み出されているフィールドが偶数フィールドであるか奇数フィールドであるかを示すフィールド信号を生成し、同期信号HD,VDと共に出力する。
変換部102における各形式変換部、すなわち、YC補間部202、RGB補間部203、YCノイズ除去部204、RGBノイズ除去部205、面順次ノイズ除去部206、RGB→YC変換部207、YCWB処理部208、面順次WB処理部209、YC→RGB変換部210、面順次位相調整部211は、それぞれの変換処理部301において、第1の実施の形態と同様の手順で順次処理を行い、変換画像データを生成してセレクタ212を介して画像処理部103Aに出力する。
このとき、各形式変換部は、それぞれのタイミング調整部302において、第1の実施の形態と同様の手順で順次同期信号HD,VDを遅延させるが、このとき、フィールド信号も遅延させ、併せて画像処理タイミング信号として生成する。
画像処理部103Aは、共通色調整部501、共通ゲイン調整部502、共通ガンマ補正部503、共通RGB→YC変換部504、インタレース用ズーム処理部505、インタレース用エンハンス処理部506において、変換画像データに対して画像処理タイミング信号でタイミングを調整しながら順次画像処理を行い、インタレース用エンハンス処理画像データを生成し、セレクタ509に出力する。セレクタ509は、インタレース用エンハンス処理画像データを処理画像データとして出力する。
尚、画像処理タイミング信号に含まれるフィールド信号を用いることにより、インタレース用ズーム処理部505及びインタレース用エンハンス処理部506では、奇数フィールド/偶数フィールドに適した処理を選択している。
(b)プログレッシブ方式のスコープが接続された場合
変換部102の撮像方式判定部200において、撮像方式データより接続されているスコープの画素読み出し方式がプログレッシブ方式であると判定すると、撮像方式判定部200は、撮像画像データ,同期信号HD,VDを出力する。
変換部102における各形式変換部、すなわち、YC補間部202、RGB補間部203、YCノイズ除去部204、RGBノイズ除去部205、面順次ノイズ除去部206、RGB→YC変換部207、YCWB処理部208、面順次WB処理部209、YC→RGB変換部210、面順次位相調整部211は、それぞれの変換処理301において、第1の実施の形態と同様の手順で順次処理を行い、変換画像データを生成してセレクタ212を介して画像処理部103Aに出力する。また、各形式変換部は、それぞれのタイミング調整部302において、第1の実施の形態と同様の手順で同期信号HD,VDを遅延させ、画像処理タイミング信号を生成する。
画像処理部103Aは、共通色調整部501、共通ゲイン調整部502、共通ガンマ補正部503、共通RGB→YC変換部504、プログレッシブ用ズーム処理部507、プログレッシブ用エンハンス処理部508において、変換画像データに対して画像処理タイミング信号でタイミングを調整しながら順次画像処理を行い、プログレッシブ用エンハンス処理画像データを生成し、セレクタ509に出力する。セレクタ509は、プログレッシブ用エンハンス処理画像データを処理画像データとして出力する。
以上のように、第2の実施の形態においては、第1の実施の形態と同様、スコープの撮像方式に拘わらず共通の形式を持つ変換画像データに変換して単一の画像処理部での画像処理を行うことができるばかりでなく、接続されたスコープの画素読み出し方式がインタレース方式であるかプログレッシブ方式であるかに応じて一部の処理を切り替えることで、インタレース方式時のフィールド遅延を防止することができる。
尚、以上の説明においては、作用を理解しやすいように、ズーム処理部及びエンハンス処理部をプログレッシブ用とインタレース用とで別個の処理部としたが、これらは同一の処理部としても良く、モード切り替え機能を設けることで、切り替えによってプログレッシブモード、インタレースモードとして動作させるようにしても良い。
本発明の第1の実施形態に係り、画像処理プロセッサの基本構成図 同上、変換部の構成を示すブロック図 同上、形式変換部の構成を示すブロック図 同上、画像処理部の構成を示すブロック図 同上、点順次方式のスコープが接続された場合の変換処理の例を示すタイムチャート 同上、二板方式のスコープが接続された場合の変換処理の例を示すタイムチャート 同上、三板方式のスコープが接続された場合の変換処理の例を示すタイムチャート 同上、面順次方式のスコープが接続された場合の変換処理の例を示すタイムチャート 本発明の第2の実施形態に係り、画像処理部の構成を示すブロック図
符号の説明
1…画像処理プロセッサ
101…スコープ接続部
102…変換部
103,103A…画像処理部
200…撮像方式判定部
201…信号処理部(複数の形式変換部)
301…変換処理部
302…タイミング調整部

Claims (6)

  1. 接続された内視鏡スコープに係る撮像方式を判定し、その判定結果たる撮像方式データと前記内視鏡スコープにより観察される被写体に係る撮像画像データとを出力するスコープ接続部と、
    入力されるデータに対して所定の信号処理を実行して出力する、前記信号処理の属性に応じて複数備えられる機能モジュールと、前記複数の機能モジュールの中から、入力される前記撮像画像データを単一のデータ出力形式を有する変換画像データに変換するための前記機能モジュールの組み合わせを前記撮像方式データに基づき判定する撮像方式判定部とを備え、ここで、各機能モジュールは前記信号処理済みのデータが出力されるタイミングに係る出力タイミング信号を生成するタイミング調整部を備え、前記組み合わせの前段に位置する第1の機能モジュールからの前記出力タイミング信号に基づき、第2の機能モジュールは前記第1の機能モジュールにより信号処理された前記撮像画像データに対して前記所定の信号処理を実行する変換部と、
    前記変換画像データに対して所定の画像処理を実行し、処理画像データを生成する画像処理部と
    を備えることを特徴とする画像処理プロセッサ。
  2. 前記変換部は、少なくとも、点順次方式の前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする請求項1記載の画像処理プロセッサ。
  3. 前記変換部は、少なくとも、面順次方式の前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする請求項1記載の画像処理プロセッサ。
  4. 前記変換部は、少なくとも、基本となる複数の原色の各々に対応する前記撮像画像データを出力する2つの異なる撮像素子からの前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする請求項1記載の画像処理プロセッサ。
  5. 前記変換部は、少なくとも、基本となる複数の原色の各々に対応する前記撮像画像データを出力する3つの異なる撮像素子からの前記撮像画像データを前記変換画像データに変換するための前記組み合わせに係る前記機能モジュールを備えていることを特徴とする請求項1記載の画像処理プロセッサ。
  6. 前記画像処理部は、インタレース方式に係る前記変換画像データに適した画像処理を実行する第1の専用処理部、及びプログレッシブ方式に係る前記変換画像データに適した画像処理を実行する第2の専用処理部を具備し、前記撮像方式に応じた前記処理画像データを出力することを特徴とする請求項1記載の画像処理プロセッサ。
JP2006335010A 2006-12-12 2006-12-12 画像処理プロセッサ Active JP5362954B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006335010A JP5362954B2 (ja) 2006-12-12 2006-12-12 画像処理プロセッサ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006335010A JP5362954B2 (ja) 2006-12-12 2006-12-12 画像処理プロセッサ

Publications (2)

Publication Number Publication Date
JP2008142421A true JP2008142421A (ja) 2008-06-26
JP5362954B2 JP5362954B2 (ja) 2013-12-11

Family

ID=39603249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006335010A Active JP5362954B2 (ja) 2006-12-12 2006-12-12 画像処理プロセッサ

Country Status (1)

Country Link
JP (1) JP5362954B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2169592A1 (en) * 2008-09-25 2010-03-31 Sony Corporation Method and system for reducing noise in image data
WO2013108873A1 (ja) * 2012-01-18 2013-07-25 オリンパス株式会社 内視鏡用画像プロセッサ
WO2014188852A1 (ja) * 2013-05-20 2014-11-27 オリンパスメディカルシステムズ株式会社 撮像装置
JP2017006259A (ja) * 2015-06-18 2017-01-12 オリンパス株式会社 内視鏡用画像信号処理装置
US10951870B2 (en) 2015-07-03 2021-03-16 Baidu Online Network Technology (Beijing) Co., Ltd. Digital image conversion method and apparatus, storage medium, and device

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63200735A (ja) * 1987-02-17 1988-08-19 オリンパス光学工業株式会社 内視鏡用撮像装置
JPH02142531A (ja) * 1988-11-24 1990-05-31 Toshiba Corp 電子内視鏡装置
JPH05277065A (ja) * 1992-02-07 1993-10-26 Olympus Optical Co Ltd 電子内視鏡装置
JPH07360A (ja) * 1993-06-17 1995-01-06 Olympus Optical Co Ltd 撮像システム
JP2000287203A (ja) * 1999-03-30 2000-10-13 Fuji Photo Optical Co Ltd デジタル出力可能な電子内視鏡装置
JP2002016931A (ja) * 2000-06-29 2002-01-18 Victor Co Of Japan Ltd 撮像装置
JP2004230061A (ja) * 2003-01-31 2004-08-19 Olympus Corp 撮像装置
JP2005185358A (ja) * 2003-12-24 2005-07-14 Olympus Corp 映像信号処理装置及び内視鏡撮像システム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63200735A (ja) * 1987-02-17 1988-08-19 オリンパス光学工業株式会社 内視鏡用撮像装置
JPH02142531A (ja) * 1988-11-24 1990-05-31 Toshiba Corp 電子内視鏡装置
JPH05277065A (ja) * 1992-02-07 1993-10-26 Olympus Optical Co Ltd 電子内視鏡装置
JPH07360A (ja) * 1993-06-17 1995-01-06 Olympus Optical Co Ltd 撮像システム
JP2000287203A (ja) * 1999-03-30 2000-10-13 Fuji Photo Optical Co Ltd デジタル出力可能な電子内視鏡装置
JP2002016931A (ja) * 2000-06-29 2002-01-18 Victor Co Of Japan Ltd 撮像装置
JP2004230061A (ja) * 2003-01-31 2004-08-19 Olympus Corp 撮像装置
JP2005185358A (ja) * 2003-12-24 2005-07-14 Olympus Corp 映像信号処理装置及び内視鏡撮像システム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2169592A1 (en) * 2008-09-25 2010-03-31 Sony Corporation Method and system for reducing noise in image data
US8208045B2 (en) 2008-09-25 2012-06-26 Sony Corporation Method and system for reducing noise in image data
WO2013108873A1 (ja) * 2012-01-18 2013-07-25 オリンパス株式会社 内視鏡用画像プロセッサ
WO2014188852A1 (ja) * 2013-05-20 2014-11-27 オリンパスメディカルシステムズ株式会社 撮像装置
US10188266B2 (en) 2013-05-20 2019-01-29 Olympus Corporation Endoscopic imaging device for reducing data amount of image signal
JP2017006259A (ja) * 2015-06-18 2017-01-12 オリンパス株式会社 内視鏡用画像信号処理装置
US10951870B2 (en) 2015-07-03 2021-03-16 Baidu Online Network Technology (Beijing) Co., Ltd. Digital image conversion method and apparatus, storage medium, and device

Also Published As

Publication number Publication date
JP5362954B2 (ja) 2013-12-11

Similar Documents

Publication Publication Date Title
JP2931520B2 (ja) 単板式カラービデオカメラの色分離回路
JP3923335B2 (ja) データ転送システム、データ転送方法およびデジタル・カメラ
JP4424088B2 (ja) 撮像装置
EP1187455A2 (en) Image data processing apparatus and electronic camera
JP5006814B2 (ja) 撮像装置
KR20090087811A (ko) 촬상 장치, 화상 처리 장치, 화상 처리 방법, 화상 처리방법의 프로그램 및 화상 처리 방법의 프로그램을 기록한기록 매체
WO2007077730A1 (ja) 撮像システム、画像処理プログラム
JP2008005048A (ja) 撮像装置及び信号処理装置
JP2010011072A (ja) 撮像システム、画像処理方法および画像処理プログラム
JP5362954B2 (ja) 画像処理プロセッサ
JP4320657B2 (ja) 信号処理装置
JP2004304460A (ja) 画像処理装置及び画像処理システム並びに撮像装置
US7126634B2 (en) Image processing system, image pickup apparatus and image processing apparatus
JP6948810B2 (ja) 画像処理システム
TW201223268A (en) Imaging apparatus, signal processing method, and program
JP5012493B2 (ja) 映像出力装置、映像出力方法及び映像出力プログラム、映像処理システム、並びに映像処理装置、映像処理方法及び映像処理プログラム
JP2004336608A (ja) 画像データの変換方法および変換回路と、電子カメラ
JP2006303774A (ja) 撮像装置
JP7022544B2 (ja) 画像処理装置及び方法、及び撮像装置
JPH0918790A (ja) カメラ装置
US9648232B2 (en) Image processing apparatus, image capturing apparatus, control method and recording medium
JP4844446B2 (ja) 撮像装置及び撮像方法
JP5572992B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
JP2007243819A (ja) 画像処理装置
JP5115888B2 (ja) 画像処理装置及び撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130813

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130905

R151 Written notification of patent or utility model registration

Ref document number: 5362954

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250