JP2023121532A - 撮像装置及びその制御方法及びプログラム - Google Patents

撮像装置及びその制御方法及びプログラム Download PDF

Info

Publication number
JP2023121532A
JP2023121532A JP2022024918A JP2022024918A JP2023121532A JP 2023121532 A JP2023121532 A JP 2023121532A JP 2022024918 A JP2022024918 A JP 2022024918A JP 2022024918 A JP2022024918 A JP 2022024918A JP 2023121532 A JP2023121532 A JP 2023121532A
Authority
JP
Japan
Prior art keywords
degree
lookup table
image
application
lut
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022024918A
Other languages
English (en)
Inventor
圭介 松野
Keisuke Matsuno
隼 渡邊
Jun Watanabe
康平 佐藤
Kohei Sato
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2022024918A priority Critical patent/JP2023121532A/ja
Priority to US18/168,880 priority patent/US20230269495A1/en
Publication of JP2023121532A publication Critical patent/JP2023121532A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/85Camera processing pipelines; Components thereof for processing colour signals for matrixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

【課題】 ルックアップテーブルによる画像処理において、単一のLUT処理回路のみで3D-LUTの適用度合いを変えて、ユーザの好みの画質に補正した画像を得る。【解決手段】撮像装置は、画像データを変換するため第1のルックアップテーブルを取得する取得部と、該取得部で取得した第1のルックアップテーブルの適用の度合いを設定する設定部と、該設定部で設定した適用の度合いに基づいて、第1のルックアップテーブルから、第2のルックアップテーブルを生成する生成部とを有し、生成部で生成された第2のルックアップテーブルを用いて、撮像部で得た画像データを変換する。【選択図】 図4

Description

本発明は、撮像装置及びその制御方法及びプログラムに関するものである。
画像の色やコントラストを補正する手段として一般的に3次元ルックアップテーブル(以下、3D-LUT)が用いられている。撮像装置においても撮像装置に内蔵されている3D-LUTに基づいて画像を変換することや、外部アプリケーションなどで作成した3D-LUTを撮像装置に取り込んで画像を変換することができるものが多くなっている。
また、シネマ風の画に変換する3D-LUTや、特殊な効果を狙った3D-LUTなど、有償無償問わずWeb上などで提供されていことも多く、ユーザは好みの3D-LUTを入手して画像を変換することができるようになっている。
しかしながら、Web上などで提供されている3D-LUTは、その作成者が良いと考えた画に変換する3D-LUTであり、万人がその画を良いと感じるわけではない。人によっては効果を弱めて変換したいと考える場合もある。その際には、一旦その3D-LUTによる変換をせずに画を撮影してから、ポストプロダクションで撮影したままの画と3D-LUTによって変換した画とを合成するような処理が必要となるため、大きな手間が発生する。
3D-LUTによる画の変化の程度を変える手段として、例えば特許文献1には、シーン検出を行い、候補となった複数シーンの信頼度に応じて各シーン用の補正テーブルを合成する、という技術が記載されている。
特開2012-165147号公報
上記従来例では判定されたシーンによって補正テーブルが変化するが、補正の程度はカメラとして適切と認識しているレベルであり、それがユーザの好みに合致するとは限らない。また、ユーザの好みと異なっていたとしても、ユーザが好みに合わせて変えることは難しい。
この課題を解決するため、例えば本発明の撮像装置は以下の構成を備える。すなわち、
撮像手段を有する撮像装置であって、
画像データを変換するため第1のルックアップテーブルを取得する取得手段と、
該取得手段で取得した第1のルックアップテーブルの適用の度合いを設定する設定手段と、
該設定手段で設定した適用の度合いに基づいて、前記第1のルックアップテーブルから、第2のルックアップテーブルを生成する生成手段とを有し、
前記生成手段で生成された第2のルックアップテーブルを用いて、前記撮像手段で得た画像データを変換することを特徴とする。
本発明によれば、ルックアップテーブルによる画像処理において、単一のLUT処理回路のみで3D-LUTの適用度合いを変えて、ユーザの好みの画質に補正した画像を得ることができる。
実施形態に係る撮像装置の内部構成を示すブロック図。 第1の実施形態に係るポストプロダクションの処理の流れを示す図。 第1の実施形態に係る撮像装置の画像処理ブロックの処理の流れを示す図。 第1の実施形態に係る画像変換の処理を示すフローチャート。 第1の実施形態に係る3D-LUTデータの一部を示す図。 第1の実施形態に係る3D-LUTデータの一部を示す図。 第1の実施形態に係る3D-LUTデータの一部を示す図。 第2の実施形態に係る表示の例を示す図。 第3の実施形態に係る撮像装置の3D-LUTデータ生成方法の処理の流れを示す図。 第4の実施形態に係る3D-LUTに基づいた画像変換の処理を示すフローチャート。 第4の実施形態に係る3D-LUTファイルの例を示す図。 第4の実施形態に係る表示の例を示す図。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。また、実施形態では、ルックアップテーブルの構成要素を3次元として説明しているが、3次元以外のルックアップテーブルでも良い。
[第1の実施形態]
図1は、第1の実施形態の撮像装置100の内部構成を示すブロック図である。図1において、撮像レンズ103はズームレンズ、フォーカスレンズ、シフトレンズを含むレンズ群であり、被写体の光学像を撮像部22の撮像面上に結像させる。絞り101は光量調整に使用する絞りであり、ND104は減光するND(Neutral Density)フィルタである。撮像部22は、自身の撮像面に結像した光学像を電気信号に変換するCCDやCMOS素子等で構成される撮像素子を有する。また、撮像部22には電子シャッタによる蓄積の制御や、アナログゲインの変更、読み出し速度の変更などの機能も備える。A/D変換器23は、撮像部22から出力されるアナログ信号をデジタル信号に変換するために用いられる。
画像処理部24は、システム制御部50の制御の下で、A/D変換器23からのデジタル画像データ(以降、単に画像データ)、又は、メモリ制御部15からのデータに対し所定の画素補間処理、縮小処理といったリサイズ処理や、輝度情報、色情報、特徴的な被写体等の検出処理、色変換処理、ガンマ補正処理、デジタルゲインの付加処理等の処理を行う。画像処理の方法として、専用の演算回路による画像処理や、3D-LUT処理回路による画像処理などが含まれる。また、画像処理部24は、撮像して得た画像データを用いて所定の演算処理を行い、演算結果をシステム制御部50に送信する。送信された演算結果に基づいて、システム制御部50は、露出制御、測距制御、ホワイトバランス制御等を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理等が行われる。また、ジャイロ40で検出した手振れなどによる撮像装置100の動きや姿勢変化に対して、システム制御部50は、撮像レンズ103のシフトレンズを動作させるか、もしくは画像処理部24で画像をずらすことで像振れ補正を行う。
A/D変換器23からの画像データは、画像処理部24及びメモリ制御部15を介して、或いは、メモリ制御部15を介してメモリ32に直接書き込まれる。メモリ32は、撮像部22によって撮像されA/D変換器23によりデジタルデータに変換された画像データや、表示部28に表示するための画像データを格納する。また、このメモリ32は、画像処理部24で画像処理された画像を一時的に記憶し、再度画像処理部24に戻して別の画像処理を適用する、といった使い方もされる。メモリ32は、所定時間の動画像および音声を格納するのに十分な記憶容量を備えている。また、メモリ32は、画像表示用のメモリ(ビデオメモリ)を兼ねている。
D/A変換器13は、メモリ32に格納されている画像表示用のデータをアナログ信号に変換して表示部28に供給する。こうして、メモリ32に書き込まれた表示用の画像データはD/A変換器13を介して表示部28により表示される。表示部28は、LCD等の表示器上に、D/A変換器13からのアナログ信号に応じた表示を行う。A/D変換器23によって一度A/D変換されメモリ32に蓄積されたデジタル信号をD/A変換器13においてアナログ変換し、表示部28に逐次転送して表示することで、電子ビューファインダが実現され、スルー画像表示を行うことができる。
不揮発性メモリ56は、電気的に消去・記録可能なメモリであり、例えばEEPROMが用いられる。不揮発性メモリ56には、システム制御部50が実行するプログラム、並びに、各種パラメータや処理用の定数が記憶される。ここでいう、プログラムとは、後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部50は、CPUで構成され、撮像装置100全体を制御する。前述した不揮発性メモリ56に記録されたプログラムを実行することにより、後述する本実施形態の各処理を実行する。システムメモリ52には、RAMが用いられ、システム制御部50の動作用の定数、変数、不揮発性メモリ56から読み出したプログラム等を展開する。また、システム制御部50はメモリ32、D/A変換器13、表示部28等を制御することにより表示制御も行う。
システムタイマー53は各種制御に用いる時間や、内蔵された時計の時間を計測する計時部である。モード切替スイッチ60、録画スイッチ61、操作部70は、システム制御部50に、ユーザからの各種の動作指示を入力するための操作手段である。
モード切替スイッチ60は、システム制御部50の動作モードを、動画記録モード、静止画記録モード、再生モード等のいずれかに切り替える。動画記録モードや静止画記録モードに含まれるモードとして、オート撮影モード、オートシーン判定モード、マニュアルモード、撮影シーン別の撮影設定となる各種シーンモード、プログラムAEモード、カスタムモード等がある。モード切替スイッチ60を操作することにより、動画撮影モードに含まれるこれらのモードのいずれかに直接切り替えることができる。あるいは、モード切替スイッチ60で動画撮影モードに一旦切り替えた後に、動画撮影モードに含まれるこれらのモードのいずれかに、他の操作部材を用いて切り替えるようにしてもよい。録画スイッチ61は撮影待機状態と撮影状態を切り替える。システム制御部50は、録画スイッチ61がONされると、撮像部22からの信号読み出しから外部記録媒体150への動画データの書込みまでの一連の動作を開始する。
操作部70の各操作部材は、表示部28に表示される種々の機能アイコンを選択操作することなどにより、場面ごとに適宜機能が割り当てられ、各種機能ボタンとして動作する。機能ボタンとしては、例えば終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞り込みボタン、属性変更ボタン等がある。例えば、メニューボタンが押されると各種の設定可能なメニュー画面が表示部28に表示される。ユーザは、表示部28に表示されたメニュー画面と、上下左右4方向の十字キーやSETボタンを用いて直感的に各種設定を行うことができる。
電源制御部80は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部80は、その検出結果及びシステム制御部50の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、外部記録媒体150を含む各部へ供給する。
電源部30は、アルカリ電池やリチウム電池などの一次電池やNiCd電池やNiMH電池、Liイオン電池などの二次電池、ACアダプター等からなる。I/F18は、メモリカードやハードディスク等の外部記録媒体150や、外部表示装置160とのインターフェースである。外部記録媒体150は、撮影された画像の記録や外部とのデータのやりとりをするためのメモリカード等の記録媒体であり、半導体メモリなどが用いられる。
本実施形態では、PCやタブレット等に代表される情報処理装置上で動作する外部アプリケーションで作成された3D-LUTを、撮像装置100が取り込み、画像を変換する場合の動作について説明する。そのため、ユーザは、自身が所有する情報処理装置上で動作するアプリケーションで作成した、3D-LUTを外部記録媒体150にファイルとして格納しておくものとする。
まず、ユーザは、3D-LUTファイルを保存した外部記録媒体150を、撮像装置100の不図示のスロットに挿入(接続)する。そして、ユーザは、操作部70を操作し、3D-LUTの取り込み操作を入力する。この操作を受けたシステム制御部50は、I/F18を介して取得した3D-LUTファイルに記述されている文字列をシステムメモリ52に一旦記憶し、文字列の解析を行う。システム制御部50は、文字列から数値へと変換し、画像処理部24で扱えるデータ形式の3D-LUTデータを生成し、システムメモリ52もしくは不揮発性メモリ56に記録する。その後、生成した3D-LUTデータを画像処理部24の3D-LUT処理部で画像を変換することで目的の画像を得ることができる。なお、本実施形態では3D-LUTファイルに、文字列で3D-LUTデータが記述されている前提で説明しているが、バイナリ形式や他の形式でも良い。なお、上記例では、3D-LUTファイルを保存した外部記録媒体150を、撮像装置100に接続するものとしたが、例えば撮像装置100と情報処理装置とをI/F18を介してダイレクトに接続して、撮像装置100が情報処理装置から3D-LUTをダウンロードするようにしても良い。
次に図2を用いて、3D-LUTの適用度合いを変える場合に、ポストプロダクションで行う一般的な処理の流れの一例を説明する。ポストプロダクションにおいてよく使われるアプリケーションでは、3D-LUTに基づいて画像を変換する機能が搭載されているが、3D-LUTの適用度合いを変える場合には工夫が必要となる。
まず入力画像201に対し、各種画像処理202を適用する。これは適用度合いを変えたい3D-LUTを除く画像処理であり、階調や色の補正など多くの処理が含まれる。この例では入力画像201に対し処理を行っているが、後述する画像合成後に行ってもよいし、無くてもよい。次に処理を分岐させ片方にのみ3D-LUT処理203により画像を変換する。その後、3D-LUT処理203から出力した画像と分岐させたもう片方の画像を画像合成処理204で合成して出力画像205を得る。適用度合いに基づいて合成比率を変えることで3D-LUTの適用度合いを調整することが可能となる。図2の例では適用度合いを80%としている。
図2で説明したポストプロダクションの処理を撮像装置100で行う場合には、画像処理部24が図3(a)に示すような処理ブロックの構成となるであろう。まず入力画像301に対し、3D-LUT処理の前の画像処理を画像処理部302で実施し、RAM303に一旦記録する。次にRAM303から読み出した画像に対し、3D-LUT処理部304で3D-LUTに基づいて画像を変換し、RAM305に記録する。その後、RAM303とRAM305に記録された画像を画像合成処理部306に入力し、ここで操作部70によりメニューで設定された適用度合い307に基づいた比率で画像合成を行い、出力画像308として出力する。なお、ここでは画像処理部302で画像処理してから画像合成処理部306で画像合成を行っているが、画像合成後に画像処理部302出の画像処理を行ってもよいし、画像処理部302で何も処理しなくてもよい。また、ここではRAM303とRAM305を別のRAMとして表現しているが、同一のRAMの別領域でも良い。
本実施形態では、図3(a)の参照符号303~306のブロックで行っている処理を、1つの3D-LUTとしてデータを生成し、処理ブロックの単純化を行うことを特徴とする。この場合の適用度合いを考慮した3D-LUTデータの生成方法は後述する。
図3(b)に、本実施形態における画像処理部24のブロック図を示す。まず入力画像311に対し3D-LUT処理の前の画像処理を画像処理部312で実施する。その後、3D-LUT処理部314で、適用度合い317を考慮して生成した3D-LUT319に基づいて画像を変換し、出力画像318を生成する。
図4に、本実施形態におけるシステム制御部50の処理の流れを表したフローチャートを示す。
まず、S401にて、システム制御部50は、3D-LUTデータを取得する。次に、S402にて、システム制御部50は、メニューを介した、ユーザによる操作部70からの操作によって設定された適用度合いを取得する。その後、S403にて、システム制御部50は、S401で取得した3D-LUTデータに対し、S402で取得した適用度合いに基づいて3D-LUTを構成するデータの補正を行い、適用度合いを考慮した3D-LUTデータを生成する。なお、適用度合いを考慮した3D-LUTデータの生成方法については後述する。最後に、S404にて、システム制御部50は、生成した3D-LUTを、画像処理部24に設定し、画像データの変換を行わせる。これにより、好適な画質効果を施した画像を取得することができる。
次に、適用度合いを考慮した3D-LUTデータの生成方法を説明する。
本実施形態では、画質効果を狙った3D-LUTに基づいて画像を変換することで得られる画像では効果が強すぎるため、ユーザが操作部70を介して3D-LUTの適用度を80%に抑制する指示入力を行った場合を説明する。
まず、外部アプリケーションで作成して撮像装置100に取り込まれた3D-LUT(以下、画質効果LUTとも言う)データの一部を図5Aに示す。ここではRGB信号に対する17Gridの3D-LUTで、R成分からインクリメントされるLUTを例としているが、RGB以外の信号に対するLUTでも良いし、データの並びが異なっていても良い。また実施形態では各RGBの値は、0~1(小数点)として表している。
システム制御部50は、3D-LUTに基づいた変換をした場合の画像と、3D-LUTを利用しない画像とを80:20の割合で合成した状態を1つの3D-LUTで再現させるため、入力=出力となる3D-LUT(以下、スルールックアップテーブルorスルーLUT)を用意する。このスルーLUTは、入力=出力の関係にあるので、容易に作成できる。スルーLUTデータの一部を図5Bに示す。そして、システム制御部50は、これらの画質効果LUTとスルーLUTを構成する各データを、次式(1)で示す数式で演算することで、80:20の割合で合成し、合成LUTを生成する。
合成LUT=(画質効果LUTデータ)×0.8+(スルーLUTデータ)×0.2 …(1)
例えば17Gridの3D-LUTの場合、17×17×17×3=14739個のデータに対して数式(1)の演算を施すことで80:20の割合で合成された合成LUTを生成することができる。システム制御部50が生成した合成LUTの例を図5(c)に示す。なお、実施形態ではグリッド間は、例えば線形補間処理で補うものとする。
システム制御部50は、上記のようにして生成した合成LUTを画像処理部24に設定する。この結果、画像処理部24は、図3(b)の3D-LUT処理部314に相当する画像変換を行うことが可能となり、図3(a)で示したブロックで画像処理と等価の結果を、図3(b)のようなより単純なブロックで実現することが可能となる。
本実施形態では外部アプリケーションで作成された3D-LUTを撮像装置100に取り込み、適用度合いに基づいて3D-LUTによる画質効果を補正したうえで画像を変換する場合の動作について説明したが、撮像装置100に、予め記録されている3D-LUTに対して適用度合いによる補正を行っても良い。また、一旦適用度合いによる補正を施した後の3D-LUTに対して再度適用度合いによる補正を行っても良い。その場合は、適用度合いの表現を1段階目の補正の適用度合いを考慮した表現にしても良いし、1段階目の補正後の状態を100%として表現しても良い。
また、本実施形態では適用度合いをパーセントで表現しているが、ユーザに対して大中小などの抽象的な表現で選択させても良い。
[第2の実施形態]
上記第1の実施形態では、ユーザが指定した適用度合いに基づいて3D-LUTデータを生成する方法について説明したが、元の画質効果LUTに基づいて変換した画像から適用度合いをどの程度にすれば自分の好みの画質になるかを推測するのは困難である。そこで、本実施形態では適用度合いを決めるのに有効なユーザインターフェースについて説明する。本実施形態の撮像装置の構成は、第1の実施形態(図1)と同等のため、その説明は割愛する。
ユーザは表示部28もしくは外部表示装置160に表示された撮像画像を見ながら、操作部70を操作し、メニューから適用度合いの値を設定する。ここでは表示部28に表示する場合について説明する。
メニューで設定された適用度合いに基づいてシステム制御部50が合成LUTを生成し、画像処理部24に設定する。そして、画像処理部24が、その合成LUTで変換した画像を表示部28に表示する。そして、ユーザは、変換で得た画像を見ながら、操作部70を操作し、合成比率(適用度合い)を自身の好みで調整する。以降、ユーザが望む画像が表示されるまで、これを繰り返す。
しかし、補正後の画像のみで適用度合いを判断するよりも、3D-LUTに基づいて変換する前の画像や適用度100%の画像と比較した方がより適切な適用度合いを決定することができる。
そこで、本実施形態では、図6に示すように表示部28に表示する撮影画像の領域を3分割し、それぞれの領域に3D-LUTによる変換をしていない画像601、3D-LUTに基づいて変換した画像602、適用度合いに基づいた補正を行った3D-LUTに基づいて変換した画像603を表示することで、ユーザはどの程度の適用度合いにすることで最適な画質効果にすることができるのかを容易に判断することが可能となる。図6の場合、画面右上の適用度合いを設定するウインドウを、操作部70により操作で上下にスクロールすることで、ユーザは、自由に適用度合いを設定できる。システム制御部50は、ユーザから適用度合いが変更される度に、適用度合いに基づいて3D-LUTを生成して、画像処理部24に設定して、撮像画像を変換させる。そして、システム制御部50は、その変換で得た画像データを、画像603として表示する(画像603を更新する)。なお、画像を表示する領域を3つとするのではなく、2つの領域に画像602と画像603を表示するようにしても良い。
3D-LUTによる変換状態が異なる複数の画像を同時に生成するためには、図3(a)のブロック図で得た各画像をRAMに保持しておき、それらを1画面に合成する必要がある。しかし、それぞれの画像のフレームレートを低下させることで、複数の画像を時分割で生成して合成することで、図3(b)に示すより簡易な処理ブロックでも実現が可能となる。その際、適用度合いに基づいた画像以外のフレームレートを落とすなどしても良い。また、3D-LUTによる変換をしていない画像および3D-LUTに基づいて変換した画像を画角全体ではなく一部分をトリミングした画像としても良い。
また、別の手段として3D-LUTによる変換をしていない画像、3D-LUTに基づいて変換した画像、適用度合いに基づいた補正を行った3D-LUTに基づいて変換した画像を時分割で切り替えて表示しても良いし、ユーザが指示したときのみ3D-LUTによる変換をしていない画像や3D-LUTに基づいて変換した画像を表示しても良い。また、ユーザの指示に基づいて、自動で1秒間隔など所定の期間ごとに適用度合いを変更しながら複数枚の静止画もしくは連続した動画として記録を行い、記録されたコンテンツから最適な適用度合いを探れるようにしても良い。
これらにより、ユーザは3D-LUTによる画質効果を比較し、最適な適用度合いを決定することが可能となる。
[第3の実施形態]
第1の実施形態ではユーザが指定した適用度合いに基づいて数式(1)で演算することにより、3D-LUTデータを生成する方法について説明した。しかし、3D-LUTで扱う色空間の各成分を同一の適用度合いで演算すると、必ずしもユーザの好みの画になるとは限らない。そこで、本第3の実施形態では、より自由度が高い適用度合いの設定方法と3D-LUTデータ生成方法について説明する。本第3の実施形態の撮像装置の構成は第1の実施形態と同等であるものとし、その説明は割愛する。
以下、本実施形態における3D-LUTデータ生成方法について、図7に例示するブロック図を用いて説明する。なお、同図に示す各構成要素は、システム制御部50が画像処理部24に対して設定したものであると理解されたい。
先ず、システム制御部50は、スルーLUT701をRGB―YUV変換ブロック703によって変換して、1つの輝度(Y)、2つの色差(U,V)で表されるYUV色空間用のスルーLUT701’を生成する。同様に、システム制御部50は、画質効果LUT702を、RGB―YUV変換ブロック704によって変換して、1つの輝度(Y)、2つの色差(U,V)のYUV色空間用の画質効果LUTデータ702’を生成する。
そして、システム制御部50は、これらスルーLUTデータ701’、及び、画質効果LUTデータ702’を、ユーザにより輝度、色差それぞれに独立して設定された適用度合いに応じて合成することで、YUV色空間用の3D-LUTデータ706を生成する。そして、システム制御部50は、生成されたYUV色空間用の3D-LUTデータ706を、YUV-RGB変換ブロック707で変換することで、RGB空間用の3D-LUTデータ314を生成し、それを画像処理部24に設定する。
以下、YUV信号の成分ごとに調整できる適用度合いを考慮した3D-LUTデータの生成方法の具体例を説明する。本実施形態では、輝度成分Yの信号については、画質効果を狙った3D-LUTを100%活用して変換して得られる画像とする。そして、色差成分U、Vの信号については、3D-LUTの適用度合いをそれぞれ80%、50%に抑制する場合を例として説明する。
スルーLUT701’と画質効果LUT702’を構成する各データを、次式(2)乃至(4)で示す数式で演算することで、YUV色空間用の3D-LUT706を生成する。
[輝度成分Y]
合成LUT=(画質効果LUTデータ702’)×1.0+(スルーLUTデータ701’)×0.0 …(1)
[色差成分U]
合成LUT=(画質効果LUTデータ702’)×0.8+(スルーLUTデータ701’)×0.2 …(2)
[色差成分V]
合成LUT=(画質効果LUTデータ702’)×0.5+(スルーLUTデータ701’)×0.5 …(3)
このように輝度成分と色差成分に分解して成分ごとに適用度合いを調整することで、ユーザ好みの画に微調整する3D-LUT706を生成できる。ただし、生成された3D-LUTは、YUV色空間用である。それ故、システム制御部50は、3D-LUT706をYUV-RGB変換ブロックで変換することで、RGB色空間用の3D-LUT314を生成する。
本実施形態ではRGB信号からYUV信号に変換し、成分ごとに適用度合いを調整する場合について説明したが、変換を行わずRGB信号の成分ごとに適用度合いを調整するようにしても良い。また、YUV信号への変換に限定する必要はなく、他の色空間、例えばL*a*b*空間やICtCp空間等でも同様に各処理を行うことも可能である。
[第4の実施形態]
第1乃至第3の実施形態ではユーザが3D-LUTの適用度合いを自由に設定する方法について説明した。しかし、画質効果としての3D-LUTではなく色空間の変換としての3D-LUTの場合はフォーマット変換としての側面が強いため、適用度合いをユーザが自由に設定できることが望ましくない場合がある。また、LUT作成者の意図として適用度合いを変更してほしくない場合もある。さらに、適用度合いを強める方向に変更する余地を持たせるために、適用度合いの初期値としては100%よりも小さい値を設定したい場合がある。そこで、本第4の実施形態では、3D-LUTに含まれる適用度合い変更の可否、非推奨の情報や適用度合いの初期値を読み取り、それに応じた動作をさせる方法について図8のフローチャートを参照しながら説明する。なお、3D-LUTに含まれる適用度合い変更の可否、非推奨の情報や適用度合いの初期値に関する情報は、3D-LUTファイルのファイルヘッダ等、メインの3D-LUTデータに付随して記述されていれば良い。
S801にて、システム制御部50は、第1の実施形態と同様に外部記録媒体150から3D-LUTファイルの読み込みを行い、システムメモリ52に格納する。その際、図9(a)や図9(b)の「#」から始まる行のように適用度合いの変更に関する情報や適用度合いの初期値に関する情報を含む3D-LUTを読み込む場合には、それらの情報も併せて読み込む。
S802にて、システム制御部50は、S801で読み込んだ情報の中に適用度合い初期値の情報が含まれているかどうかを判定する。図9(a)は適用度合い初期値の情報を含まない3D-LUTであり、同図(b)は適用度合い初期値の情報を含む3D-LUTを示している。システム制御部50は、適用度合い初期値の情報が含まれないと判定した場合は処理をS803に進め、含まれると判定した場合は処理をS804に進める。なお、本実施形態では、3D-LUTが文字列によって表現されている例を示しているが、バイナリ形式やその他の形式で3D-LUTの数値データと適用度合い変更の情報が表現されていてもよい。
S803にて、システム制御部50は、S802において適用度合い初期値を含まない3D-LUTであると判断されたため、適用度合い317を100%に設定する。
S804にて、システム制御部50は、適用度合い317をS801で読み込んだ適用度合いに設定する。
S805にて、システム制御部50は、S801で読み込んだ情報の中に適用度合い変更の可不可または非推奨の情報が存在するかどうかを判定する。図9(a)は適用度合い変更不可の情報を含む3D-LUTファイルを示し、同図(b)は適用度合い変更非推奨の情報を含む3D-LUTファイルを示している。システム制御部50は、3D-LUTファイルを解析して、適用度合いに関する情報を抽出することを試みる。そして、システム制御部50は、抽出した情報に適用度合い変更や非推奨の情報が含まれると判定した場合は処理をS806に、適用度合い変更不可の情報が含まれると判定した場合は処理をS807に進める。また、システム制御部50は、これらの情報が含まれない、もしくは、適用度合い変更可の情報が含まれると判定した場合は処理をS808に進める。なお、本実施形態においては3D-LUTが文字列によって表現されている例を示しているが、バイナリ形式やその他の形式で3D-LUTの数値データと適用度合い変更の情報が表現されていてもよい。
S806にて、システム制御部50は、ユーザがユーザインターフェースを通じて適用度合いを変更する場合に図10の警告1002のような警告を表示するモードにユーザインターフェースを変更する。警告1002は、ユーザが推奨値とは異なる適用度合いに設定した場合に表示される。例えば、適用度合いの推奨値が50%であったところ、ユーザが60%の適用度合いを設定しようとした場合、システム制御部50は、「LUT適用度合いの推奨値は50%です」と表示する。適用度合い変更のためのユーザインターフェースに入った時点で警告を表示してもよい。また、警告1002とは別に推奨値表示1001のような推奨値を示す情報を表示してもよい。
S807にて、システム制御部50は、適用度合いの変更を行うユーザインターフェースをロックし、ユーザが適用度合いを変更できないようにする。これ以外としては、例えば、適用度合い変更のユーザインターフェースに入ることができないようにする、異なる適用度合いを選択しようとしても、それを無効とし、元の適用度合いに戻るようにする、等で良い。
S808にて、システム制御部50は、第1の実施形態と同様に、3D-LUT処理部304に適用度合い317を考慮して生成した3D-LUT319を設定する。その際、適用度合い317は、S803またはS804で設定した適用度合いである。
本実施形態では、3D-LUTから読みとった適用度合いの初期値や適用度合い変更の可否、非推奨に関する情報を読み取り、適用度合い317とユーザインターフェースへの反映を行う方法について説明した。本実施形態によれば、適用度合いの変更が望ましくない3D-LUTにおいて、適用度合いの変更を禁止したり、変更が非推奨である旨をユーザに通知することが可能になる。また、適用度合いを強める余地を持たせるために適用度合いの初期値を100%(最大値)よりも下げた値に設定することが可能となる。
なお、本実施形態においては適用度合い変更の可否、非推奨のパターンを説明したが、条件を満たしたユーザに対してのみ変更を可能とするということも考えられる。例えば、基本的には適用度合いは固定で使用させるが、ライセンスを取得したユーザは適用度合いの変更を可能とするような形態が考えられる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
100…撮像装置、22…撮像部、23…A/D変換器、24…画像処理部、50…システム制御部、52…システムメモリ

Claims (8)

  1. 撮像手段を有する撮像装置であって、
    画像データを変換するため第1のルックアップテーブルを取得する取得手段と、
    該取得手段で取得した第1のルックアップテーブルの適用の度合いを設定する設定手段と、
    該設定手段で設定した適用の度合いに基づいて、前記第1のルックアップテーブルから、第2のルックアップテーブルを生成する生成手段とを有し、
    前記生成手段で生成された第2のルックアップテーブルを用いて、前記撮像手段で得た画像データを変換することを特徴とする撮像装置。
  2. 前記取得手段は、撮像装置が有する所定のメモリより前記第1のルックアップテーブルを取得することを特徴とする請求項1に記載の撮像装置。
  3. 前記取得手段は、撮像装置の外部から前記第1のルックアップテーブルを取得することを特徴とする請求項1に記載の撮像装置。
  4. 前記撮像手段で得た第1の画像、当該第1の撮像画像を前記第1のルックアップテーブルで変換して得た第2の画像、及び、前記第1の撮像画像を前記第2のルックアップテーブルで変換して得た第3の画像を並べて表示する表示手段を更に有し、
    前記設定手段により、適用の度合いが変更される度に、前記生成手段による前記第2のルックアップテーブルを再生させ、
    前記表示手段は、適用の度合いが変更される度に生成された前記第2のルックアップテーブルによる変換で得た第3の画像を、前記第1の画像、前記第2の画像と並べて表示する
    ことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. RGB色空間用のルックアップテーブルを、1つの輝度成分、2つの色差成分を持つ色空間用のルックアップテーブルに変換する第1の変換手段と、
    1つの輝度成分、2つの色差成分を持つ色空間用のルックアップテーブルを、RGB色空間用のルックアップテーブルに変換する第2の変換手段とを有し、
    前記設定手段は、前記輝度成分、前記2つの色差成分それぞれに対する適用度合いを設定し、
    前記生成手段は、
    入力=出力の関係を有するRGB色空間用のスルールックアップテーブル、及び、前記取得手段で取得したRGB色空間用の第1のルックアップテーブルそれぞれを、前記第1の変換手段で変換し、
    当該変換で得た2つのルックアップテーブルの輝度成分、色差成分を、それぞれの成分の適用度合いに応じて合成することで、合成後の輝度成分、2つの色差成分のデータを持つルックアップテーブルを生成し、
    当該生成されたルックアップテーブルを、前記第2の変換手段で変換することで、前記第2のルックアップテーブルを生成する
    ことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記取得手段が取得した第1のルックアップテーブルに付随する情報を抽出し、当該抽出で得た情報に、適用度の変更の可不可を示す情報、適用度の初期値に関する情報があるか否かを判定する判定手段を更に有し、
    前記生成手段は、
    前記判定手段による判定の結果が、適用度の初期値が設定されていることを示す場合は、前記初期値に従って前記第2のルックアップテーブルを生成し、
    前記判定手段による判定の結果が、適用度の初期値が設定されていないと判定した場合は適用度が最大となっているものとして、前記第2のルックアップテーブルを生成し、
    前記判定手段の判定の結果が、適用度の変更が不可となっていると判定した場合は、前記設定手段による適用度の設定を無効にし、
    前記判定手段の判定の結果が、適用度の変更が可となっていると判定した場合は、前記設定手段による適用度の設定に従って、前記第2のルックアップテーブルを生成する
    ことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 撮像手段を有する撮像装置の制御方法であって、
    画像データを変換するため第1のルックアップテーブルを取得する取得工程と、
    該取得工程で取得した第1のルックアップテーブルの適用の度合いを設定する設定工程と、
    該設定工程で設定した適用の度合いに基づいて、前記第1のルックアップテーブルから、第2のルックアップテーブルを生成する生成工程とを有し、
    前記生成工程で生成された第2のルックアップテーブルを用いて、撮像手段で得た画像データを変換することを特徴とする撮像装置の制御方法。
  8. コンピュータが読み込み実行することで、前記コンピュータに、請求項7に記載の方法が有する各工程を実行させるためのプログラム。
JP2022024918A 2022-02-21 2022-02-21 撮像装置及びその制御方法及びプログラム Pending JP2023121532A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022024918A JP2023121532A (ja) 2022-02-21 2022-02-21 撮像装置及びその制御方法及びプログラム
US18/168,880 US20230269495A1 (en) 2022-02-21 2023-02-14 Image capturing apparatus and method for controlling the same, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022024918A JP2023121532A (ja) 2022-02-21 2022-02-21 撮像装置及びその制御方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2023121532A true JP2023121532A (ja) 2023-08-31

Family

ID=87574887

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022024918A Pending JP2023121532A (ja) 2022-02-21 2022-02-21 撮像装置及びその制御方法及びプログラム

Country Status (2)

Country Link
US (1) US20230269495A1 (ja)
JP (1) JP2023121532A (ja)

Also Published As

Publication number Publication date
US20230269495A1 (en) 2023-08-24

Similar Documents

Publication Publication Date Title
JP4919160B2 (ja) 撮像装置及びそのプログラム
JP4340806B2 (ja) 画像処理装置、方法及びプログラム
KR20010100929A (ko) 촬상장치
US10972674B2 (en) Electronic apparatus
US10205872B2 (en) Display control apparatus and method for controlling the same
US7106376B1 (en) Method and system for improving image quality of portrait images using a focus zone shift
JP7129813B2 (ja) 画像処理装置およびその制御方法、プログラム並びに記憶媒体
JP6253007B2 (ja) 表示装置
JP6883971B2 (ja) 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体
JP2013058976A (ja) 撮像装置
JP2008178147A (ja) 撮像装置
JP2017212550A (ja) 画像再生装置及びその制御方法、プログラム、記憶媒体
KR20160115694A (ko) 이미지 처리 장치, 이미지 처리 방법 및 기록 매체에 저장된 컴퓨터 프로그램
US20100054693A1 (en) Apparatuses for and methods of previewing a moving picture file in digital image processor
JP6775386B2 (ja) 撮像装置、その制御方法、プログラムならびに記録媒体
JP6765919B2 (ja) 画像処理装置、その制御方法、プログラム
JP2023121532A (ja) 撮像装置及びその制御方法及びプログラム
JP7378999B2 (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2012049841A (ja) 撮像装置およびプログラム
JP2017163339A (ja) 映像処理装置、映像処理方法、及びプログラム
JP6046952B2 (ja) 撮像装置及びその制御方法
JP2023121533A (ja) 撮像装置及びその制御方法及びプログラム
JP2010074620A (ja) 電子カメラ
JP5206421B2 (ja) デジタルカメラ、撮影記録方法、及び、撮影制御プログラム
JP2010016671A (ja) カメラ、および情報処理装置