JP2021145317A - 画像処理装置、及び画像処理方法 - Google Patents

画像処理装置、及び画像処理方法 Download PDF

Info

Publication number
JP2021145317A
JP2021145317A JP2020044677A JP2020044677A JP2021145317A JP 2021145317 A JP2021145317 A JP 2021145317A JP 2020044677 A JP2020044677 A JP 2020044677A JP 2020044677 A JP2020044677 A JP 2020044677A JP 2021145317 A JP2021145317 A JP 2021145317A
Authority
JP
Japan
Prior art keywords
unit
calculation
calculation unit
image signal
matrix
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020044677A
Other languages
English (en)
Inventor
泰平 道畑
Taihei Michihata
泰平 道畑
浩資 妙見
Kosuke Yoshimi
浩資 妙見
敏 三井
Satoshi Mitsui
敏 三井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Olympus Medical Solutions Inc
Original Assignee
Sony Olympus Medical Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Olympus Medical Solutions Inc filed Critical Sony Olympus Medical Solutions Inc
Priority to JP2020044677A priority Critical patent/JP2021145317A/ja
Priority to US17/149,759 priority patent/US11445888B2/en
Publication of JP2021145317A publication Critical patent/JP2021145317A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000095Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope for image enhancement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/05Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances characterised by the image sensor, e.g. camera, being in the distal end portion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K15/00Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers
    • G06K15/02Arrangements for producing a permanent visual presentation of the output data, e.g. computer output printers using printers
    • G06K15/18Conditioning data for presenting it to the physical printing elements
    • G06K15/1867Post-processing of the composed and rasterized print image
    • G06K15/1872Image enhancement
    • G06K15/1878Adjusting colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6016Conversion to subtractive colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/957Light-field or plenoptic cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/555Constructional details for picking-up images in sites, inaccessible due to their dimensions or hazardous conditions, e.g. endoscopes or borescopes

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Multimedia (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Processing Of Color Television Signals (AREA)
  • Picture Signal Circuits (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】リニアマトリクス演算において、色再現性を確保しながら誤作動を防止することができる画像処理装置を提供すること。【解決手段】画像処理装置は、入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行うリニアマトリクス演算部を備える。好ましくは、前記リニアマトリクス演算部は、互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、前記演算部の演算結果が所定の条件を満たすか否かを判定する判定部と、前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、を有する。【選択図】図4

Description

本開示は、画像処理装置、及び画像処理方法に関する。
従来、観察対象を撮像装置により撮像して生成された画像信号に画像処理を施す画像処理装置が知られている。撮像装置の分光特性は、理想的なRGB特性からは乖離しているため、RGB信号を補正せずにそのまま用いると色再現性がよくない。そのため、画像処理装置は、RGB信号を3×3のマトリクスにより変換し、理想的なRGB特性に近づけるリニアマトリクス演算を行う(例えば、特許文献1参照)。
特開2013−26987号公報
しかしながら、リニアマトリクス演算では、全ての色を理想的なRGBに近づける最適解は存在しない。そして、ある色を理想的なRGBに近づけると、他の色が実在しない色(例えば、輝度Yが負になる)となる場合がある。このようなエラーが発生した場合に、従来の画像処理装置では、リニアマトリクス演算における補正係数を小さくする制御を行って誤作動を防止していたため、十分に色再現性を確保できない場合があった。
本開示は、上記に鑑みてなされたものであって、リニアマトリクス演算において、色再現性を確保しながら誤作動を防止することができる画像処理装置、及び画像処理方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本開示の一態様に係る画像処理装置は、入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行うリニアマトリクス演算部を備える。
また、本開示の一態様に係る画像処理装置は、前記リニアマトリクス演算部は、互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、前記演算部の演算結果が所定の条件を満たすか否かを判定する判定部と、前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、を有する。
また、本開示の一態様に係る画像処理装置は、前記所定の条件は、前記演算部の演算結果を用いて算出される輝度が負であるか否かである。
また、本開示の一態様に係る画像処理装置は、前記所定の条件は、前記演算部の演算結果を用いて算出される輝度と前記演算部の演算結果を用いて算出される色差とが、所定の条件を満たすか否かである。
また、本開示の一態様に係る画像処理装置は、前記リニアマトリクス演算部は、互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、前記演算部の演算結果に応じて前記演算部の演算結果を合成する比率を算出する算出部と、前記算出部が算出した比率に基づいて、前記演算部の演算結果を合成して出力する制御部と、を有する。
また、本開示の一態様に係る画像処理装置は、前記リニアマトリクス演算部は、前記画像信号が所定の条件を満たすか否かを判定する判定部と、互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、を有する。
また、本開示の一態様に係る画像処理装置は、前記所定の条件は、前記画像信号を前記演算部に入力した場合の演算結果を用いて算出される輝度が負であるか否かである。
また、本開示の一態様に係る画像処理装置は、前記所定の条件は、前記画像信号を前記演算部に入力した場合の演算結果を用いて算出される輝度と前記画像信号を前記演算部に入力した場合の演算結果とを用いて算出される色差とが、所定の条件を満たすか否かである。
また、本開示の一態様に係る画像処理装置は、前記リニアマトリクス演算部は、互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、前記画像信号に応じて前記演算部の演算結果を合成する比率を算出し、前記比率に基づいて、前記演算部の演算結果を合成して出力する制御部と、を有する。
また、本開示の一態様に係る画像処理装置は、前記リニアマトリクス演算部は、前記画像信号が所定の条件を満たすか否かを判定する判定部と、前記画像信号にリニアマトリクス演算を行う演算部と、前記判定部の判定結果に応じて前記演算部のマトリクス係数を変調させる係数変調部と、を有する。
また、本開示の一態様に係る画像処理装置は、前記リニアマトリクス演算部は、前記画像信号が所定の条件を満たす場合、前記画像信号を出力する。
また、本開示の一態様に係る画像処理方法は、入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行う。
本開示によれば、リニアマトリクス演算において、色再現性を確保しながら誤作動を防止することができる画像処理装置、及び画像処理方法を実現することができる。
図1は、実施の形態1に係る画像処理装置を含む観察装置の構成を示す模式図である。 図2は、制御装置の構成を示すブロック図である。 図3は、画像処理部の構成を示すブロック図である。 図4は、図3に示すリニアマトリクス演算部の構成を説明する図である。 図5は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。 図6は、実施の形態2に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。 図7は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。 図8は、実施の形態3に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。 図9は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。 図10は、実施の形態4に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。 図11は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。 図12は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。 図13は、実施の形態5に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。 図14は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。
以下に、図面を参照して、本開示を実施するための形態(以下、実施の形態)について説明する。なお、以下に説明する実施の形態によって本開示が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付している。
(実施の形態1)
〔観察システムの構成〕
図1は、実施の形態1に係る画像処理装置を含む観察装置の構成を示す模式図である。観察装置1は、医療分野において用いられ、生体内を観察する装置である。この観察装置1は、図1に示すように、挿入部2と、光源装置3と、ライトガイド4と、カメラヘッド5と、第1伝送ケーブル6と、表示装置7と、第2伝送ケーブル8と、制御装置9と、第3伝送ケーブル10と、を備える。
挿入部2は、本実施の形態では、硬性内視鏡で構成されている。すなわち、挿入部2は、全体が硬質、又は一部が軟質で他の部分が硬質である細長形状を有し、生体内に挿入される。この挿入部2内には、1又は複数のレンズを用いて構成され、被写体像を集光する光学系が設けられている。ただし、挿入部2は、軟性内視鏡であってもよい。
光源装置3は、ライトガイド4の一端が接続され、制御装置9による制御の下、当該ライトガイド4の一端に生体内を照明するための光を供給する。なお、本実施の形態では、光源装置3は、制御装置9とは別体で構成されているが、これに限らず、当該制御装置9内部に設けられた構成を採用しても構わない。
ライトガイド4は、一端が光源装置3に着脱自在に接続されるとともに、他端が挿入部2に着脱自在に接続される。そして、ライトガイド4は、光源装置3から供給された光を一端から他端に伝達し、挿入部2に供給する。挿入部2に供給された光は、当該挿入部2の先端から出射され、生体内に照射される。生体内に照射され、当該生体内で反射された光(被写体像)は、挿入部2内の光学系により集光される。
カメラヘッド5は、挿入部2の基端(接眼部21(図1))に着脱自在に接続される。そして、カメラヘッド5は、制御装置9による制御の下、挿入部2にて集光された被写体像を撮像し、当該撮像による画像信号(RAW信号)を出力する。当該画像信号は、例えば、4K以上の画像信号である。
第1伝送ケーブル6は、一端がコネクタCN1(図1)を介して制御装置9に着脱自在に接続され、他端がコネクタCN2(図1)を介してカメラヘッド5に着脱自在に接続される。そして、第1伝送ケーブル6は、カメラヘッド5から出力される画像信号等を制御装置9に伝送するとともに、制御装置9から出力される制御信号、同期信号、クロック、及び電力等をカメラヘッド5にそれぞれ伝送する。なお、第1伝送ケーブル6を介したカメラヘッド5から制御装置9への画像信号等の伝送は、当該画像信号等を光信号で伝送してもよく、あるいは、電気信号で伝送しても構わない。第1伝送ケーブル6を介した制御装置9からカメラヘッド5への制御信号、同期信号、クロックの伝送も同様である。
表示装置7は、液晶又は有機EL(Electro Luminescence)等を用いた表示ディスプレイで構成され、制御装置9による制御の下、当該制御装置9からの映像信号に基づく画像を表示する。
第2伝送ケーブル8は、一端が表示装置7に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第2伝送ケーブル8は、制御装置9にて処理された映像信号を表示装置7に伝送する。
制御装置9は、本実施の形態1に係る画像処理装置に相当する。この制御装置9は、CPU(Central Processing Unit)等を含んで構成され、光源装置3、カメラヘッド5、及び表示装置7の動作を統括的に制御する。なお、制御装置9の詳細な構成については、後述する。
第3伝送ケーブル10は、一端が光源装置3に着脱自在に接続され、他端が制御装置9に着脱自在に接続される。そして、第3伝送ケーブル10は、制御装置9からの制御信号を光源装置3に伝送する。
〔制御装置の構成〕
次に、制御装置9の構成について図2を参照しながら説明する。図2は、制御装置の構成を示すブロック図である。制御装置9は、図2に示すように、通信部91と、画像処理部92と、表示制御部93と、制御部94と、入力部95と、出力部96と、記憶部97と、を備える。
通信部91は、第1伝送ケーブル6を介して、カメラヘッド5から出力される画像信号(RAW信号(デジタル信号))を受信するレシーバとして機能する。この通信部91は、例えば、カメラヘッド5との間で、1Gbps以上の伝送レートで画像信号の通信を行う高速シリアルインターフェースで構成されている。
画像処理部92は、制御部94による制御の下、カメラヘッド5から出力され、通信部91にて受信した画像信号(RAW信号(デジタル信号))に画像処理を施す。なお、画像処理部92の詳細な構成については、後述する。
表示制御部93は、制御部94による制御の下、画像処理部92にて画像処理が施された画像信号(Y,Cb,Cr)に基づく表示用の映像信号を生成する。そして、表示制御部93は、第2伝送ケーブル8を介して、当該映像信号を表示装置7に出力する。これにより、表示装置7は、当該映像信号に基づく画像を表示する。
制御部94は、例えば、CPU等を用いて構成され、第1〜第3伝送ケーブル6,8,10を介して制御信号を出力することで、光源装置3、カメラヘッド5、及び表示装置7の動作を制御するとともに、制御装置9全体の動作を制御する。
入力部95は、マウス、キーボード、及びタッチパネル等の操作デバイスを用いて構成され、医師等のユーザによるユーザ操作を受け付ける。そして、入力部95は、当該ユーザ操作に応じた操作信号を制御部94に出力する。
出力部96は、スピーカやプリンタ等を用いて構成され、各種情報を出力する。
記憶部97は、制御部94が実行するプログラムや、制御部94の処理に必要な情報等を記憶する。
〔画像処理部の機能構成〕
次に、画像処理部92の構成について図3を参照しながら説明する。図3は、画像処理部の構成を示すブロック図である。図3に示すように、画像処理部92は、リニアマトリクス演算部924と、ガンマ補正部927と、YC変換部928と、を有する。なお、画像処理部92において、ホワイトバランスの調整、輪郭補正処理、ノイズ成分を低減させるノイズリダクション処理、オフセット成分を除去するクランプ処理、白傷等による欠陥を補正する欠陥補正処理、デモザイク処理、色差信号に対する色差補正処理等の画像処理を行ってもよい。
リニアマトリクス演算部924は、入力される画像信号に対して、リニアマトリクス演算を行う機能を有する。具体的には、リニアマトリクス演算部924は、入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。リニアマトリクス演算は、カメラヘッド5が出力するRGB信号を理想的なRGB特性に近づけ、色再現性を向上させるために行う演算である。例えば、リニアマトリクス演算部924は、カメラヘッド5から通信部91を経由して入力されたRGBの画像信号に対して、マトリクス係数を乗算するリニアマトリクス演算を行う。そして、リニアマトリクス演算部924は、リニアマトリクス演算後の画像信号をガンマ補正部927へ出力する。なお、リニアマトリクス演算部924の詳細な構成については、後述する。
ガンマ補正部927は、入力される画像信号に対して、ガンマ補正を行う機能を有する。例えば、ガンマ補正部927は、リニアマトリクス演算部924から入力される画像信号に対して、表示装置7のガンマ特性の逆関数にて補正するガンマ補正を行う。そして、ガンマ補正部927は、ガンマ補正後の画像信号をYC変換部928へ出力する。
YC変換部928は、入力される画像信号から輝度信号(以下において、「輝度Y」ともいう。)を生成する機能を有する。例えば、YC変換部928は、ガンマ補正部927から入力される画像信号に含まれるRGB信号を輝度信号に変換する変換処理を行う。また、YC変換部928は、入力される画像信号から色差信号を生成する機能を有する。例えば、YC変換部928は、ガンマ補正部927から入力される画像信号に含まれるRGB信号を色差信号に変換する変換処理を行う。そして、YC変換部928は、生成した画像信号(Y,Cb,Cr)を表示制御部93へ出力する。
〔リニアマトリクス演算部の構成〕
次に、リニアマトリクス演算部924の構成について図4を参照しながら説明する。図4は、図3に示すリニアマトリクス演算部の構成を説明する図である。図4に示すように、リニアマトリクス演算部924は、第1演算部9241と、第2演算部9242と、判定部9243と、制御部9244と、を有する。
第1演算部9241は、所定のマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。第1演算部9241のマトリクス係数は、色再現性を十分に高める値に設定されていることが好ましい。以下の式(1)におけるm11−m33がリニアマトリクス係数であり、RGB信号である入力された画像信号(Rimg,Gimg,Bimg)に対してリニアマトリクス係数を乗算すると演算結果(Rlmt,Glmt,Blmt)が算出される。

Figure 2021145317
第2演算部9242は、所定のマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。第2演算部9242のマトリクス係数は、第1演算部9241と異なる値であれば特に限定されないが、輝度Yが負になるなどの誤作動を防止する値に設定されていることが好ましい。誤作動を防止するマトリクス係数とは、例えば以下の式(2)に示す単位行列である。

Figure 2021145317
第2演算部9242が単位行列である場合、演算結果が実在しない色になることがなく、誤作動が生じない。なお、第2演算部9242は、単位行列を乗算せずに入力された画像信号をそのまま出力してもよい。すなわち、リニアマトリクス演算部924は、画像信号をそのまま出力してもよい。
判定部9243は、演算部の演算結果が実在しない色空間となる場合や、色再現が現実と乖離してしまっている場合を検出するため、演算部の演算結果が所定の条件を満たすか否かを判定する。判定部9243は、例えば、第1演算部9241の演算結果を用いて算出される輝度Yが負であるか否かを判定する。具体的には、判定部9243は、リニアマトリクス演算部924が第1演算部9241の演算結果を出力し、ガンマ補正部927、YC変換部928がそれぞれ演算を行った結果として生成される画像信号(Y,Cb,Cr)の輝度Yが負となるか否かを判定する。輝度Yが負となる計算例は後述する。
制御部9244は、判定部9243の判定結果に応じて選択した演算部(第1演算部9241又は第2演算部9242のどちらか一方)の演算結果を出力する。具体的には、制御部9244は、判定部9243が第1演算部9241の演算結果を用いて算出される輝度Yが負ではないと判定した場合、第1演算部9241の演算結果をガンマ補正部927に出力する。一方、制御部9244は、判定部9243が第1演算部9241の演算結果を用いて算出される輝度Yが負であると判定した場合、第2演算部9242の演算結果をガンマ補正部927に出力する。
〔輝度が負となる計算例〕
次に、輝度Yが負となる計算例について説明する。まず、第1演算部9241のマトリクス係数は、以下の式(3)に示す値であるものとする。

Figure 2021145317
例えば、入力された画像信号(Rimg,Gimg,Bimg)=(1,0,0)である場合、第1演算部9241により演算結果(Rlmt,Glmt,Blmt)=(0.6,−0.4,0)が得られる。
この演算結果(Rlmt,Glmt,Blmt)は、ガンマ補正部927においてガンマ処理を施され、信号(Rgam,Ggam,Bgam)となる。ガンマ処理は、映像フォーマットBT.2020において規定されている計算式によりfgam()と表すと、Rgam=fgam(Rlmt)=fgam(0.6)=0.774、Ggam=fgam(Glmt)=fgam(−0.4)=−0.628と算出される。なお、ガンマ処理において、入力が負である場合の規定がないので、入力が負である場合、符号を反転して計算し、再度符号を反転して出力するものとした。
さらに、算出したRgam,Ggam,Bgamを用いて、映像フォーマットBT.2020において規定されている以下の式(4)によりY,Cb,Crを計算する。

Figure 2021145317
すると、輝度Yは、以下の式(5)により負になる。

Figure 2021145317
以上説明したように、輝度Yが負になる場合があり、このような場合には、判定部9243は、第1演算部9241の演算結果を用いて算出される輝度Yが負であると判定する。
〔リニアマトリクス演算処理〕
図5は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。図5に示すように、まず、第1演算部9241及び第2演算部9242は、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS1)。
続いて、判定部9243は、第1演算部9241の演算結果を用いて算出される輝度Yが負であるか否かを判定する(ステップS2)。
判定部9243が、第1演算部9241の演算結果を用いて算出される輝度Yが負ではないと判定した場合(ステップS2:No)、制御部9244は、第1演算部9241の演算結果をガンマ補正部927に出力する(ステップS3)。
一方、判定部9243が、第1演算部9241の演算結果を用いて算出される輝度Yが負であると判定した場合(ステップS2:Yes)、制御部9244は、第2演算部9242の演算結果をガンマ補正部927に出力する(ステップS4)。
以上説明した実施の形態1によれば、第1演算部9241の演算結果を用いて算出される輝度Yが負ではない場合には、第1演算部9241の演算結果がガンマ補正部927に出力されるため、色再現性が十分よく、第1演算部9241の演算結果を用いて算出される輝度Yが負である場合には、第2演算部9242の演算結果がガンマ補正部927に出力されるため、輝度Yが負になる誤作動を防止することができる。
なお、図5のステップS2では、判定部9243が、輝度Yが負になるか否かを判定したが、これに代えて、第1演算部9241の演算結果(Rlmt1,Glmt1,Blmt1)が、Rlmt1>Rmax×δ1、Glmt1>Gmax×δ1、かつBlmt1>Bmax×δ1を満たすか否かを判定してもよい。なお、Rmax,Gmax,Bmaxは、各色(赤色、緑色、青色)の画像信号における最大値である。例えば、10bitの場合、リニアマトリクス演算部924に入力される画像信号は、0〜1023の範囲となるので、Rmax,Gmax,Bmaxはいずれも1023となる。また、δ1は、比率であって、例えば、0.8〜0.95に設定する。
また、図5のステップS2では、判定部9243は、第1演算部9241の演算結果(Rlmt1,Glmt1,Blmt1)が、Rlmt1<Rmax×δ2、Glmt1<Gmax×δ2、かつBlmt1<Bmax×δ2を満たすか否かを判断してもよい。なお、δ2は、比率であって、例えば、0.05〜0.2に設定する。
また、図5のステップS2では、判定部9243が、Rlmt1>Rmax×δ1、Glmt1>Gmax×δ1、かつBlmt1>Bmax×δ1を満たさない、かつ、Rlmt1<Rmax×δ2、Glmt1<Gmax×δ2、かつBlmt1<Bmax×δ2を満たさないと判定した場合(ステップS2:No)、制御部9244は、第1演算部9241の演算結果をガンマ補正部927に出力する(ステップS3)。一方、判定部9243が、Rlmt1>Rmax×δ1、Glmt1>Gmax×δ1、かつBlmt1>Bmax×δ1を満たす、もしくは、Rlmt1<Rmax×δ2、Glmt1<Gmax×δ2、かつBlmt1<Bmax×δ2を満たすと判定した場合(ステップS2:Yes)、制御部9244は、第2演算部9242の演算結果をガンマ補正部927に出力する(ステップS4)。このようにすることで、暗い被写体、明るい被写体であっても、不要な色付きを防止することができる。
また、図5のステップS2では、判定部9243が、輝度Yが負になるか否かを判定したが、これに代えて、輝度Yと色差信号Cr、Cbとが所定の条件を満たすか否かを判定してもよい。具体的には、判定部9243が、ε1×Ymax<Y<ε2×Ymax、Cb>ε3×Cbmax、かつε4×Crmax<Cr<ε5×Crmaxを満たすか否かを判定してもよい。なお、Ymaxは輝度Yの最大値である。例えば、10bitの場合、輝度Yは、0〜1023となるので、Ymaxは1023となる。また、Cbmaxは色差信号Cbの最大値である。例えば、10bitの場合、色差信号Cbは−512〜+511となるので、Cbmaxは、+511となる。Crmaxは、色差信号Crの最大値である。例えば、10bitの場合、色差信号Cbは−512〜+511となるので、Crmaxは、+511となる。また、ε1,ε2,ε3、ε4、ε5は、比率であって、例えば、ε1=0.5,ε2=0.6,ε3=0.8,ε4=−0.2,ε5=0.2に設定する。
判定部9243が、ε1×Ymax<Y<ε2×Ymax、Cb>ε3×Cbmax、かつε4×Crmax<Cr<ε5×Crmaxを満たさないと判定した場合(ステップS2:No)、制御部9244は、第1演算部9241の演算結果をガンマ補正部927に出力する(ステップS3)。一方、判定部9243が、ε1×Ymax<Y<ε2×Ymax、Cb>ε3×Cbmax、かつε4×Crmax<Cr<ε5×Crmaxを満たすと判定した場合(ステップS2:Yes)、制御部9244は、第2演算部9242の演算結果をガンマ補正部927に出力する(ステップS4)。このようにすることで、ある特定の色再現だけが悪い場合に、それを低減することができる。
(実施の形態2)
実施の形態2に係る画像処理装置において、リニアマトリクス演算部以外の構成は、実施の形態1と同様であるから説明を省略する。
〔リニアマトリクス演算部の構成〕
図6は、実施の形態2に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。図6に示すように、リニアマトリクス演算部924Aは、算出部9243Aと、制御部9244Aと、を有する。なお、実施の形態1と同様の構成には実施の形態1と同一の符号を付し、説明を省略する。
算出部9243Aは、演算部の演算結果に応じて演算部の演算結果を合成する比率を算出する。算出部9243Aは、例えば、第1演算部9241の演算結果を用いて算出される輝度Yに応じて演算部の演算結果を合成する比率を算出する。具体的には、算出部9243Aは、リニアマトリクス演算部924Aが第1演算部9241の演算結果を出力し、ガンマ補正部927、YC変換部928がそれぞれ演算を行った結果として生成される画像信号(Y,Cb,Cr)の輝度Yに応じて演算部の演算結果を合成する比率を算出する。算出部9243Aは、輝度Yが負である場合、第2演算部9242の比率を100%と算出する。また、算出部9243Aは、輝度Yがゼロ以上である場合、輝度Yが大きいほど第1演算部9241の比率を大きくするように合成する比率を算出する。
制御部9244Aは、算出部9243Aが算出した比率に基づいて、演算部(第1演算部9241及び第2演算部9242)の演算結果を合成して出力する。
制御部9244Aは、合成部9244Aaを有する。合成部9244Aaは、第1演算部9241及び第2演算部9242の演算結果を合成する。例えば、第1演算部9241の比率が80%、第2演算部9242の比率が20%であり、第1演算部9241の演算結果(Rlmt1,Glmt1,Blmt1)、第2演算部9242の演算結果(Rlmt2,Glmt2,Blmt2)が入力された場合、合成部9244Aaは、合成結果(Rlmt3,Glmt3,Blmt3)=(0.8×Rlmt1+0.2×Rlmt2,0.8×Glmt1+0.2×Glmt2,0.8×Blmt1+0.2×Blmt2)をガンマ補正部927に出力する。
〔リニアマトリクス演算処理〕
図7は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。図7に示すように、まず、第1演算部9241及び第2演算部9242は、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS11)。
続いて、算出部9243Aは、第1演算部9241の演算結果を用いて算出される輝度Yに応じて演算部の演算結果を合成する比率を算出する(ステップS12)。
その後、制御部9244Aは、算出部9243Aが算出した比率に基づいて、第1演算部9241及び第2演算部9242の演算結果を合成してガンマ補正部927に出力する(ステップS13)。
以上説明した実施の形態2によれば、第1演算部9241の演算結果を用いて算出される輝度Yがゼロ以上の場合、輝度Yが大きいほど第1演算部9241の比率を大きくするため、滑らかに色を変えることにより自然に色を表現でき、色再現性をさらに向上させることができる。また、実施の形態2によれば、第1演算部9241の演算結果を用いて算出される輝度Yが負の場合、第2演算部9242の比率を100%として演算結果を出力するため、輝度Yが負になる誤作動を防止することができる。
(実施の形態3)
実施の形態3に係る画像処理装置において、リニアマトリクス演算部以外の構成は、実施の形態1と同様であるから説明を省略する。
〔リニアマトリクス演算部の構成〕
図8は、実施の形態3に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。図8に示すように、リニアマトリクス演算部924Bは、判定部9243Bと、制御部9244Bと、を有する。なお、実施の形態1と同様の構成には実施の形態1と同一の符号を付し、説明を省略する。
判定部9243Bは、画像信号が所定の条件を満たすか否かを判定する。判定部9243Bは、例えば、画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負であるか否かを判定する。その結果、判定部9243Bは、予め輝度Yを負にする画像信号を検出する。なお、第1演算部9241のマトリクス係数を用いて、予め輝度Yを負にする画像信号を計算しておくことができる。この計算結果をテーブルとして記憶部97に記憶し、判定部9243Bは、このテーブルを参照することにより判定を行うことができる。
制御部9244Bは、判定部9243Bの判定結果に応じて選択した演算部(第1演算部9241又は第2演算部9242のどちらか一方)の演算結果を出力する。具体的には、制御部9244Bは、判定部9243Bが画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負ではないと判定した場合、第1演算部9241の演算結果をガンマ補正部927に出力する。一方、制御部9244Bは、判定部9243Bが画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負であると判定した場合、第2演算部9242の演算結果をガンマ補正部927に出力する。
〔リニアマトリクス演算処理〕
図9は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。図9に示すように、まず、判定部9243Bは、画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負であるか否かを判定する(ステップS21)。
判定部9243Bが、画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負ではないと判定した場合(ステップS21:No)、第1演算部9241は、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS22)。
その後、制御部9244Bは、第1演算部9241の演算結果をガンマ補正部927に出力する(ステップS23)。
ステップS21において、判定部9243Bが、画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負であると判定した場合(ステップS21:Yes)、第2演算部9242は、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS24)。
その後、制御部9244Bは、第2演算部9242の演算結果をガンマ補正部927に出力する(ステップS25)。
以上説明した実施の形態3によれば、画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負ではない場合には、第1演算部9241の演算結果がガンマ補正部927に出力されるため、色再現性が十分よく、画像信号を第1演算部9241に入力した場合の演算結果を用いて算出される輝度Yが負である場合には、第2演算部9242の演算結果がガンマ補正部927に出力されるため、輝度Yが負になる誤作動を防止することができる。
なお、図9のステップS21では、判定部9243Bが、輝度Yが負になるか否かを判定したが、実施の形態1に示すように、Rlmt1>Rmax×δ1、Glmt1>Gmax×δ1、かつBlmt1>Bmax×δ1を満たすか否かを判定してもよいし、Rlmt1<Rmax×δ2、Glmt1<Gmax×δ2、かつBlmt1<Bmax×δ2を満たすか否かを判定してもよい。また、判定部9243Bが、ε1×Ymax<Y<ε2×Ymax、Cb>ε3×Cbmax、かつε4×Crmax<Cr<ε5×Crmaxを満たすか否かを判定してもよい。
実施の形態3に示すように、演算部に入力される画像信号を用いて、どの演算部の演算結果を出力するかを判定してもよい。同様に、実施の形態2のように制御部が合成部を有する場合においても、演算部に入力される画像信号を用いて、演算部の演算結果を合成する比率を算出してもよい。
(実施の形態4)
実施の形態4に係る画像処理装置において、リニアマトリクス演算部以外の構成は、実施の形態1と同様であるから説明を省略する。
〔リニアマトリクス演算部の構成〕
図10は、実施の形態4に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。図10に示すように、リニアマトリクス演算部924Cは、第1演算部9241Cと、第2演算部9242Cと、第3演算部9243Cと、判定部9244Cと、制御部9245Cと、を有する。
第1演算部9241Cは、所定のマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。第1演算部9241Cのマトリクス係数は、例えば赤色について最適化した係数に設定されている。以下において、第1演算部9241Cが最適化した色を第1色(Rmtx1,Gmtx11,Bmtx1)とする。
第2演算部9242Cは、所定のマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。第2演算部9242Cのマトリクス係数は、例えば青色について最適化した係数に設定されている。以下において、第2演算部9242Cが最適化した色を第2色(Rmtx2,Gmtx2,Bmtx2)とする。
第3演算部9243Cは、所定のマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。第3演算部9243Cのマトリクス係数は、例えば赤色及び青色以外の色について最適化した係数に設定されている。ただし、第3演算部9243Cのマトリクス係数は、単位行列とされていてもよい。
判定部9244Cは、画像信号が所定の条件を満たすか否かを判定する。判定部9244Cは、例えば、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1、又はRimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たすか否かを判定する。また、判定部9244Cは、第1色(Rmtx1,Gmtx1,Bmtx1)、第2色(Rmtx2,Gmtx2,Bmtx2)、及び画像信号(Rimg,Gimg,Bimg)をベクトルとして扱い、第1色(Rmtx1,Gmtx1,Bmtx1)と画像信号(Rimg,Gimg,Bimg)との距離L1、又は第2色(Rmtx2,Gmtx2,Bmtx2)と画像信号(Rimg,Gimg,Bimg)との距離L2が所定の閾値以下であるか否かを判定してもよい。この距離L1は、L1=√((Rmtx1−Rimg+(Gmtx1−Gimg+(Bmtx1−Bimg)により算出され、距離L2は、L2=√((Rmtx2−Rimg+(Gmtx2−Gimg+(Bmtx2−Bimg)により算出される。距離L1又は距離L2が所定の閾値以下であるか否かを判定することにより、第1演算部9241Cが最適化した第1色、又は第2演算部9242Cが最適化した第2色に比較的近い色であるか否かを判定することができる。
制御部9245Cは、判定部9244Cの判定結果に応じて選択した演算部(第1演算部9241C、第2演算部9242C又は第3演算部9243Cのいずれか1つ)の演算結果を出力する。具体的には、制御部9245Cは、判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1を満たすと判定した場合、第1演算部9241Cの演算結果をガンマ補正部927に出力する。また、制御部9245Cは、判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たすと判定した場合、第2演算部9242Cの演算結果をガンマ補正部927に出力する。また、制御部9245Cは、判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1及びRimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2のどちらも満たさないと判定した場合、第3演算部9243Cの演算結果をガンマ補正部927に出力する。また、制御部9245Cは、距離L1が所定の閾値以下である場合、第1演算部9241Cの演算結果をガンマ補正部927に出力し、距離L2が所定の閾値以下である場合、第2演算部9242Cの演算結果をガンマ補正部927に出力し、距離L1及び距離L2の双方が所定の閾値より大きい場合、第3演算部9243Cの演算結果をガンマ補正部927に出力してもよい。
〔リニアマトリクス演算処理〕
図11は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。図11に示すように、まず、判定部9244Cは、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1を満たすか否かを判定する(ステップS31)。なお、判定部9244Cは、距離L1が第1閾値T1以下になるか否かを判定してもよい。具体的には、判定部9244Cは、距離L1が第1閾値T1以下の場合、Rimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1を満たすと判定し、距離L1が第1閾値T1より大きい場合、Rimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1を満たさないと判定する。
判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1を満たすと判定した場合(ステップS31:Yes)、第1演算部9241Cは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS32)。
その後、制御部9245Cは、第1演算部9241Cの演算結果をガンマ補正部927に出力する(ステップS33)。
ステップS31において、判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx1,Gimg≒Gmtx1,Bimg≒Bmtx1を満たさないと判定した場合(ステップS31:No)、判定部9244Cは、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たすか否かを判定する(ステップS34)。なお、判定部9244Cは、距離L2が第2閾値T2以下になるか否かを判定してもよい。具体的には、判定部9244Cは、距離L2が第2閾値T2以下の場合、Rimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たすと判定し、距離L2が第2閾値T2より大きい場合、Rimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たさないと判定する。
判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たすと判定した場合(ステップS34:Yes)、第2演算部9242Cは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS35)。
その後、制御部9245Cは、第2演算部9242Cの演算結果をガンマ補正部927に出力する(ステップS36)。
ステップS34において、判定部9244Cが、入力された画像信号(Rimg,Gimg,Bimg)がRimg≒Rmtx2,Gimg≒Gmtx2,Bimg≒Bmtx2を満たさないと判定した場合(ステップS34:No)、第3演算部9243Cは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS37)。
その後、制御部9245Cは、第3演算部9243Cの演算結果をガンマ補正部927に出力する(ステップS38)。
以上説明した実施の形態3によれば、入力色に応じて最適なマトリクス係数を用いてリニアマトリクス演算を行うことができるため、さらに色再現性を向上させることができる。なお、実施の形態3では、3つの演算部を有する例を説明したが、演算部は4つ以上であってもよい。
また、実施の形態2のように、演算部の演算結果を合成する場合にも、複数の演算部の演算結果を合成してもよい。この場合におけるリニアマトリクス演算部924Cが実行する処理の概要を示すフローチャートを図12に示す。なお、リニアマトリクス演算部の構成は、略同じのため説明を省略する。
図12に示すように、まず、判定部9244Cは、距離L1が第1閾値T1以内であるか否かを判定する(ステップS51)。
判定部9244Cが、距離L1が第1閾値T1以内であると判定した場合(ステップS51:Yes)、判定部9244Cは、距離L1が第3閾値T1(T1<T1)以内であるか否かを判定する(ステップS52)。
判定部9244Cが、距離L1が第3閾値T1以内であると判定した場合(ステップS52:Yes)、第1演算部9241Cは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS53)。
その後、制御部9245Cは、第1演算部9241Cの演算結果をガンマ補正部927に出力する(ステップS54)。
判定部9244Cは、距離L1が第3閾値T1より大きいと判定した場合(ステップS52:No)、第1演算部9241Cと第3演算部9243Cとは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS55)。
その後、制御部9245Cは、第1演算部9241C及び第3演算部9243Cの演算結果を合成するための合成比率α(0≦α≦1)を、距離L1に基づいて算出する(ステップS56)。例えば、合成比率αは、距離L1が大きいほど小さくなるような値に設定する。
制御部9245Cは、合成比率αに基づき、第1演算部9241Cの演算結果(Rlmtout1,Glmtout1,Blmtout1)と第3演算部9243Cの演算結果(Rlmtout3,Glmtout3,Blmtout3)とを合成し、合成結果{Rlmtout1×α+Rlmtout3×(1−α),Glmtout1×α+Glmtout3×(1−α),Blmttou1×α+Blmtout3×(1−α)}をガンマ補正部927に出力する(ステップS57)。
判定部9244Cが、距離L1が第1閾値T1よりも大きいと判定した場合(ステップS51:No)、距離L2が第2閾値T2以内であるか否かを判定する(ステップS58)。
判定部9244Cが、距離L2が第2閾値T2以内であると判定した場合(ステップS58:Yes)、判定部9244Cは、距離L2が第4閾値T2(T2<T2)以内であるか否かを判定する(ステップS59)。
判定部9244Cが、距離L2が第4閾値T2以内であると判断した場合(ステップS59:Yes)、第2演算部9242Cは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS60)。
その後、制御部9245Cは、第2演算部9242Cの演算結果をガンマ補正部927に出力する(ステップS61)。
判定部9244Cが、距離L2が第4閾値T2をより大きいと判断した場合(ステップS59:No)、第2演算部9242Cと第3演算部9243Cとは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS62)。
その後、制御部9245Cは、第2演算部9242C及び第3演算部9243Cの演算結果を合成するための合成比率β(0≦β≦1)を、距離L2に基づいて算出する(ステップS63)。例えば、合成比率βは、距離L2が大きいほど小さくなるような値に設定する。
制御部9245Cは、合成比率βに基づき、第2演算部9242Cの演算結果(Rlmtout2,Glmtout2,Blmttou2)と第3演算部9243Cの演算結果(Rlmtout3,Glmtout3,Blmtout3)とを合成し、合成結果{Rlmtout2×β+Rlmtout3×(1−β),Glmtout2×β+Glmtout3×(1−β),Blmtout2×β+Blmtout3×(1−β)}をガンマ補正部927に出力する(ステップS64)。
判定部9244Cが、距離L2が第2閾値T2よりも大きいと判定した場合(ステップS58:No)、第3演算部9243Cは、RGB信号である入力された画像信号に対して、マトリクス係数を乗算するマトリクス演算を行う(ステップS65)。
その後、制御部9245Cは、第3演算部9243Cの演算結果をガンマ補正部927に出力する(ステップS66)。
このように、入力された画像信号(Rimg,Gimg,Bimg)が、第1色(Rmtx1,Gmtx1,Bmtx1)もしくは第2色(Rmtx2,Gmtx2,Bmtx2)と、どの程度近い色かによって、合成比率(α,β)を算出する。また、算出した合成比率によって演算部(第1演算部9241C、第2演算部9242C、第3演算部9243C)からの出力を、合成するので、さらに色再現性を向上させることができる。
(実施の形態5)
実施の形態5に係る画像処理装置において、リニアマトリクス演算部以外の構成は、実施の形態1と同様であるから説明を省略する。
〔リニアマトリクス演算部の構成〕
図12は、実施の形態5に係る画像処理装置におけるリニアマトリクス演算部の構成を説明する図である。図12に示すように、リニアマトリクス演算部924Dは、判定部9241Dと、演算部9242Dと、係数変調部9243Dと、を有する。
判定部9241Dは、画像信号が所定の条件を満たすか否かを判定する。判定部9241Dは、例えば、画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負であるか否かを判定する。その結果、判定部9241Dは、予め輝度Yを負にする画像信号を検出する。なお、演算部9242Dの予め設定されているマトリクス係数を用いて、予め輝度Yを負にする画像信号を計算しておくことができる。この計算結果をテーブルとして記憶部97に記憶し、判定部9241Dは、このテーブルを参照することにより判定を行うことができる。
演算部9242Dは、所定のマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。具体的には、演算部9242Dは、予め設定されたマトリクス係数、又は係数変調部9243Dが変調させたマトリクス係数を用いて画像信号にリニアマトリクス演算を行う。
係数変調部9243Dは、判定部9241Dの判定結果に応じて係数変調部9243Dのマトリクス係数を変調させる。具体的には、係数変調部9243Dは、判定部9241Dが画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負ではないと判定した場合、演算部9242Dのマトリクス係数の変調は行わない。一方、係数変調部9243Dは、判定部9241Dが画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負であると判定した場合、演算部9242Dのマトリクス係数を変調させる。このとき、係数変調部9243Dは、演算部9242Dのマトリクス係数を例えば単位行列に変調するが、変調の態様は特に限定されない。
〔リニアマトリクス演算処理〕
図13は、リニアマトリクス演算部が実行する処理の概要を示すフローチャートである。図13に示すように、まず、判定部9241Dは、画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負であるか否かを判定する(ステップS41)。
判定部9241Dが、画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負ではないと判定した場合(ステップS41:No)、演算部9242Dは、RGB信号である入力された画像信号に対して、予め設定されたマトリクス係数を乗算するマトリクス演算を行う(ステップS42)。
演算部9242Dが、画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負であると判定した場合(ステップS41:Yes)、係数変調部9243Dは、演算部9242Dのマトリクス係数を例えば単位行列に変調させる(ステップS43)。
その後、演算部9242Dは、RGB信号である入力された画像信号に対して、係数変調部9243Dが変調させたマトリクス係数を乗算するマトリクス演算を行う(ステップS42)。
以上説明した実施の形態5によれば、画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負ではない場合には、予め設定されたマトリクス係数による演算結果がガンマ補正部927に出力されるため、色再現性が十分よく、画像信号を演算部9242Dに入力した場合の演算結果を用いて算出される輝度Yが負である場合には、単位行列であるマトリクス係数による演算結果がガンマ補正部927に出力されるため、輝度Yが負になる誤作動を防止することができる。実施の形態5に示すように、マトリクス係数を変調させる場合、演算部は1つとしてもよい。
なお、図13のステップS41では、判定部9241Dが、輝度Yが負になるか否かを判定したが、実施の形態1と同様に、判定部9241Dが、演算部9242Dの演算結果(Rlmt,lmt,lmt)がRlmt>Rmax×δ1、Glmt>Gmax×δ1、かつBlmt>Bmax×δ1を満たすか否かを判定してもよいし、Rlmt<Rmax×δ2、Glmt<Gmax×δ2、かつBlmt<Bmax×δ2を満たすか否かを判定してもよい。
また、判定部9241Dが、輝度Yが負になるか否かを判定したが、これに代えて、ε1×Ymax<Y<ε2×Ymax、Cb>ε3×Cbmax、かつε4×Crmax<Cr<ε5×Crmaxを満たすか否かを判定してもよい。
また、上述した実施の形態では、内視鏡により撮像された画像信号が入力され、この画像信号に画像処理を施す画像処理装置に適用する例を説明したが、カメラやビデオ、顕微鏡等の撮像装置により撮像された画像信号に画像処理を施す画像処理装置に適用してもよい。
以上、添付図面を参照しながら本開示の好適な実施の形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、本明細書において説明した各装置は、単独の装置として実現されてもよく、一部又は全部が別々の装置として実現されても良い。例えば、制御装置9は、単独の装置として実現されてもよい。また、例えば、制御装置9が、表示装置7とネットワーク等で接続されたサーバ装置として実現されてもよい。
また、本明細書において説明した制御装置9は、各構成要素の一部又は全部が別々の装置として実現されることでシステムとして構成されてもよい。例えば、制御装置9は光源及び撮像装置を備え、制御部は外部装置により実現されるシステムであってもよい。
また、本明細書において説明した各装置による一連の処理は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアを構成するプログラムは、例えば、各装置の内部又は外部に設けられる記録媒体(非一時的な媒体:non−transitory media)に予め格納される。そして、各プログラムは、例えば、コンピュータによる実行時にRAMに読み込まれ、CPUなどのプロセッサにより実行される。
また、本明細書においてフローチャートを用いて説明した処理は、必ずしも図示された順序で実行されなくてもよい。いくつかの処理ステップは、並列的に実行されてもよい。また、追加的な処理ステップが採用されてもよく、一部の処理ステップが省略されてもよい。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行うリニアマトリクス演算部を備える画像処理装置。
(2)
前記リニアマトリクス演算部は、
互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
前記演算部の演算結果が所定の条件を満たすか否かを判定する判定部と、
前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、
を有する前記(1)に記載の画像処理装置。
(3)
前記所定の条件は、前記演算部の演算結果を用いて算出される輝度が負であるか否かである前記(2)に記載の画像処理装置。
(4)
前記所定の条件は、前記演算部の演算結果を用いて算出される輝度と前記演算部の演算結果を用いて算出される色差とが、所定の条件を満たすか否かである前記(2)に記載の画像処理装置。
(5)
前記リニアマトリクス演算部は、
互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
前記演算部の演算結果に応じて前記演算部の演算結果を合成する比率を算出する算出部と、
前記算出部が算出した比率に基づいて、前記演算部の演算結果を合成して出力する制御部と、
を有する前記(1)に記載の画像処理装置。
(6)
前記リニアマトリクス演算部は、
前記画像信号が所定の条件を満たすか否かを判定する判定部と、
互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、
を有する前記(1)に記載の画像処理装置。
(7)
前記所定の条件は、前記画像信号を前記演算部に入力した場合の演算結果を用いて算出される輝度が負であるか否かである前記(6)に記載の画像処理装置。
(8)
前記所定の条件は、前記画像信号を前記演算部に入力した場合の演算結果を用いて算出される輝度と前記画像信号を前記演算部に入力した場合の演算結果とを用いて算出される色差とが、所定の条件を満たすか否かである前記(6)に記載の画像処理装置。
(9)
前記リニアマトリクス演算部は、
互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
前記画像信号に応じて前記演算部の演算結果を合成する比率を算出し、前記比率に基づいて、前記演算部の演算結果を合成して出力する制御部と、
を有する前記(1)に記載の画像処理装置。
(10)
前記リニアマトリクス演算部は、
前記画像信号が所定の条件を満たすか否かを判定する判定部と、
前記画像信号にリニアマトリクス演算を行う演算部と、
前記判定部の判定結果に応じて前記演算部のマトリクス係数を変調させる係数変調部と、
を有する前記(1)に記載の画像処理装置。
(11)
前記リニアマトリクス演算部は、前記画像信号が所定の条件を満たす場合、前記画像信号を出力する前記(1)〜(10)のいずれか一項に記載の画像処理装置。
(12)
入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行う画像処理方法。
1 観察装置
2 挿入部
3 光源装置
4 ライトガイド
5 カメラヘッド
6 第1伝送ケーブル
7 表示装置
8 第2伝送ケーブル
9 制御装置
10 第3伝送ケーブル
21 接眼部
91 通信部
92 画像処理部
93 表示制御部
94 制御部
95 入力部
96 出力部
97 記憶部
200 表示装置
924、924A、924B、924C、924D リニアマトリクス演算部
927 ガンマ補正部
928 YC変換部
1000 観察システム
9241、9241C 第1演算部
9242、9242C 第2演算部
9242D 係数変調部
9243、9243B、9244C、9241D 判定部
9243A 算出部
9243C 第3演算部
9243D 演算部
9244、9244A、9244B、9245C 制御部
9244Aa 合成部

Claims (12)

  1. 入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行うリニアマトリクス演算部を備える画像処理装置。
  2. 前記リニアマトリクス演算部は、
    互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
    前記演算部の演算結果が所定の条件を満たすか否かを判定する判定部と、
    前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、
    を有する請求項1に記載の画像処理装置。
  3. 前記所定の条件は、前記演算部の演算結果を用いて算出される輝度が負であるか否かである請求項2に記載の画像処理装置。
  4. 前記所定の条件は、前記演算部の演算結果を用いて算出される輝度と前記演算部の演算結果を用いて算出される色差とが、所定の条件を満たすか否かである請求項2に記載の画像処理装置。
  5. 前記リニアマトリクス演算部は、
    互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
    前記演算部の演算結果に応じて前記演算部の演算結果を合成する比率を算出する算出部と、
    前記算出部が算出した比率に基づいて、前記演算部の演算結果を合成して出力する制御部と、
    を有する請求項1に記載の画像処理装置。
  6. 前記リニアマトリクス演算部は、
    前記画像信号が所定の条件を満たすか否かを判定する判定部と、
    互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
    前記判定部の判定結果に応じて選択した前記演算部の演算結果を出力する制御部と、
    を有する請求項1に記載の画像処理装置。
  7. 前記所定の条件は、前記画像信号を前記演算部に入力した場合の演算結果を用いて算出される輝度が負であるか否かである請求項6に記載の画像処理装置。
  8. 前記所定の条件は、前記画像信号を前記演算部に入力した場合の演算結果を用いて算出される輝度と前記画像信号を前記演算部に入力した場合の演算結果とを用いて算出される色差とが、所定の条件を満たすか否かである請求項6に記載の画像処理装置。
  9. 前記リニアマトリクス演算部は、
    互いに異なるマトリクス係数により前記画像信号にリニアマトリクス演算を行う複数の演算部と、
    前記画像信号に応じて前記演算部の演算結果を合成する比率を算出し、前記比率に基づいて、前記演算部の演算結果を合成して出力する制御部と、
    を有する請求項1に記載の画像処理装置。
  10. 前記リニアマトリクス演算部は、
    前記画像信号が所定の条件を満たすか否かを判定する判定部と、
    前記画像信号にリニアマトリクス演算を行う演算部と、
    前記判定部の判定結果に応じて前記演算部のマトリクス係数を変調させる係数変調部と、
    を有する請求項1に記載の画像処理装置。
  11. 前記リニアマトリクス演算部は、前記画像信号が所定の条件を満たす場合、前記画像信号を出力する請求項1に記載の画像処理装置。
  12. 入力された画像信号に応じてマトリクス係数を設定し、設定したマトリクス係数を用いて前記画像信号にリニアマトリクス演算を行う画像処理方法。
JP2020044677A 2020-03-13 2020-03-13 画像処理装置、及び画像処理方法 Pending JP2021145317A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020044677A JP2021145317A (ja) 2020-03-13 2020-03-13 画像処理装置、及び画像処理方法
US17/149,759 US11445888B2 (en) 2020-03-13 2021-01-15 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020044677A JP2021145317A (ja) 2020-03-13 2020-03-13 画像処理装置、及び画像処理方法

Publications (1)

Publication Number Publication Date
JP2021145317A true JP2021145317A (ja) 2021-09-24

Family

ID=77664010

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020044677A Pending JP2021145317A (ja) 2020-03-13 2020-03-13 画像処理装置、及び画像処理方法

Country Status (2)

Country Link
US (1) US11445888B2 (ja)
JP (1) JP2021145317A (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6788339B1 (en) * 1997-12-25 2004-09-07 Canon Kabushiki Kaisha Image pickup apparatus
JP2001051672A (ja) * 1999-08-05 2001-02-23 Neucore Technol Inc 画像処理装置
US9332239B2 (en) * 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing
EP3523976A4 (en) * 2016-10-05 2020-04-29 Telefonaktiebolaget LM Ericsson (publ) EFFICIENT IMPLEMENTATION OF LUMINANCE ADJUSTMENT LUT

Also Published As

Publication number Publication date
US11445888B2 (en) 2022-09-20
US20210282623A1 (en) 2021-09-16

Similar Documents

Publication Publication Date Title
KR102493933B1 (ko) 비디오 신호 처리 방법 및 장치
JP5611508B2 (ja) 周辺光適応的な色補正装置および方法
JP4311411B2 (ja) 色変換テーブル生成装置、表示装置、色変換テーブル生成方法、及び表示装置の製造方法
US7978384B2 (en) Image processing system, image processing apparatus, image processing method, and storage medium thereof
US9107268B2 (en) Calibration method and endoscope system
WO2011061954A1 (ja) 画像処理装置および画像処理方法
JP2007157116A (ja) 特定の色属性を調整する装置とその方法
JP2007300972A (ja) 内視鏡用画像処理装置
WO2002076106A1 (fr) Systeme d'affichage d'images adaptatif a tout environnement, support de memorisation d'informations et procede de traitement d'images
JP2011223568A (ja) 画像処理方法及び装置、並びに画像処理プログラム
JP2008006191A (ja) 画像処理装置
US20180242827A1 (en) Medical imaging apparatus and medical observation system
JP2017167402A (ja) 情報処理装置および情報処理方法
WO2018055945A1 (ja) 映像信号処理装置、映像信号処理方法および映像信号処理システム
JP2018146949A (ja) 画像処理装置および画像処理方法
JPWO2009075027A1 (ja) 輝度情報表示装置および方法
JP2010183232A (ja) 色域変換装置
JP2004304793A (ja) 色変換装置及び色変換方法
JP2021145317A (ja) 画像処理装置、及び画像処理方法
US10152935B2 (en) Color correction apparatus, display apparatus, and color correction method
KR100985571B1 (ko) 디스플레이 및 그 구동방법
JP5079576B2 (ja) 電子内視鏡システム
JP2007041296A (ja) 画像処理装置および方法、プログラム並びに記録媒体
KR101101328B1 (ko) 주위 밝기에 따른 영상 기기의 색 보정 장치 및 방법
US20200021762A1 (en) Medical image processing apparatus and medical observation system