JPWO2016002447A1 - フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置 - Google Patents

フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置 Download PDF

Info

Publication number
JPWO2016002447A1
JPWO2016002447A1 JP2016531219A JP2016531219A JPWO2016002447A1 JP WO2016002447 A1 JPWO2016002447 A1 JP WO2016002447A1 JP 2016531219 A JP2016531219 A JP 2016531219A JP 2016531219 A JP2016531219 A JP 2016531219A JP WO2016002447 A1 JPWO2016002447 A1 JP WO2016002447A1
Authority
JP
Japan
Prior art keywords
image
low
pass
filter
pass filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016531219A
Other languages
English (en)
Other versions
JP6669065B2 (ja
Inventor
淳 水口
淳 水口
明 竹尾
明 竹尾
恭敏 勝田
恭敏 勝田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2016002447A1 publication Critical patent/JPWO2016002447A1/ja
Application granted granted Critical
Publication of JP6669065B2 publication Critical patent/JP6669065B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/18Control of exposure by setting shutters, diaphragms or filters, separately or conjointly in accordance with light-reducing "factor" of filter or other obturator used with or on the lens of the camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/20Control of exposure by setting shutters, diaphragms or filters, separately or conjointly in accordance with change of lens
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Blocking Light For Cameras (AREA)
  • Polarising Elements (AREA)

Abstract

本開示のフィルタ制御装置は、撮影された画像に対する、画像処理により変更される画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部を備える。

Description

本開示は、静止画または動画を撮影する撮像装置(カメラ)に好適なフィルタ制御装置およびフィルタ制御方法、ならびに撮像装置に関する。
デジタルカメラには通常、撮像時のサンプリングに起因するエイリアシングで発生する偽信号を防ぐため、光学ローパスフィルタ(OLPF)が搭載されている(特許文献1,2参照)。
特開2013−156379号公報 特開2013−190603号公報
通常の光学ローパスフィルタでは、設計時に決めた1種類のローパス特性を持たせることしかできないため、偽信号が少なくなるようにローパス特性を強く設定すると画像のシャープネス(鮮鋭性)も低下してしまい、逆にシャープネスの低下を抑えると偽信号が多くなってしまう。すなわち、1種類のローパス特性では、これらトレードオフとなる画質要因を両立させることが困難であった。
一方、画像の倍率を画像処理により変更し拡大や縮小を行う技術が知られている。画像を拡大する場合、画素値を補間する処理を行うが、このとき、拡大と補間にともなうシャープネスの低下により画質の低下が生じていた。また、撮影時にモアレのように周期的な偽信号が生じた場合は、それが拡大によって低周波の領域に移動し、より目立つようになり画質が低下していた。
シャープネスの低下は、画像処理によりある程度の補正が可能であるが、この処理ではノイズ等も同時に強調してしまうため別の要因による画質低下が生じていた。光学ローパスフィルタを搭載しなければ、拡大時に生じるシャープネス低下も含めたシャープネス全般の向上が、ノイズを増やすことなく可能なため、従来、光学ローパスフィルタを非搭載としシャープネスを高めたカメラが存在した。しかし、このようなカメラでは、トレードオフとなる偽信号の発生が防げなくなるため望ましい解決策ではなかった。また、光学ローパスフィルタの光路への挿入/非挿入をメカ的に切り替える技術も知られていたが、この方法では、ローパス効果あり/なしの2状態のみが可能で、拡大倍率によってシャープネスの低下度合いが異なることには十分な対応が困難であった。加えて、動画撮影では、連続的に記録が行われるため、撮影中に画像を拡大する操作(電子ズーム)が行われた場合、光学ローパスフィルタの切り替えができず対応が困難であった。
従って、高画質の画像を得ることができるようにしたフィルタ制御装置およびフィルタ制御方法、ならびに撮像装置を提供することが望ましい。
本開示の一実施の形態に係るフィルタ制御装置は、撮影された画像に対する、画像処理により変更される画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部を備えたものである。
本開示の一実施の形態に係るフィルタ制御方法は、撮影された画像に対する、画像処理により変更される画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行うものである。
本開示の一実施の形態に係る撮像装置は、光学ローパスフィルタと、撮影された画像に対する、画像処理により変更される画像の倍率に応じて、光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部とを備えたものである。
本開示の一実施の形態に係るフィルタ制御装置、フィルタ制御方法または撮像装置では、撮影された画像に対して画像処理によって倍率の変更がなされた場合に、倍率に応じて光学ローパスフィルタのローパス特性を変化させる。
本開示の一実施の形態に係るフィルタ制御装置、フィルタ制御方法または撮像装置によれば、撮影された画像に対して画像処理によって倍率の変更がなされた場合に、倍率に応じて光学ローパスフィルタのローパス特性を変化させるようにしたので、高画質の画像を得ることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本開示の一実施の形態に係るフィルタ制御装置を含むカメラ(撮像装置)の一構成例を示すブロック図である。 Rawデータを処理する外部装置の一構成例を示すブロック図である。 可変光学ローパスフィルタの一構成例を示す断面図である。 図3に示した可変光学ローパスフィルタにおけるローパス効果が0%の状態の一例を示す説明図である。 図3に示した可変光学ローパスフィルタにおけるローパス効果が100%の状態の一例を示す説明図である。 図3に示した可変光学ローパスフィルタにおけるローパス効果が50%の状態の一例を示す説明図である。 図3に示した可変光学ローパスフィルタの印加電圧によるMTF特性の変化の一例を示す特性図である。 図3に示した可変光学ローパスフィルタに撮像レンズを組み合わせた場合における、印加電圧によるMTF特性の変化の一例を示す特性図である。 通常の光学ローパスフィルタのMTF特性の一例を示す特性図である。 画像拡大時におけるMTF特性の変化の一例を示す説明図である。 画像拡大時の画素補間アルゴリズムの違いによるMTF特性の変化の一例を示す説明図である。 画像拡大時におけるMTF特性の低下をローパス特性を変更することによって補正した例を示す説明図である。 画像拡大時におけるMTF特性の低下をローパス特性の変更とシャープネスの補正とを併用して補正した例を示す説明図である。 図13の補正に比べてローパス効果とシャープネスの補正とを強めた場合の例を示す説明図である。 画像縮小時に発生するエイリアシングの一例を示す説明図である。 図15に示したエイリアシングを可変光学ローパスフィルタのローパス効果によって抑制した例を示す説明図である。 カメラ全体の制御の流れの一例を示す流れ図である。 ライブビュー処理(1)時の制御の流れの一例を示す流れ図である。 静止画撮影処理時の制御の流れの一例を示す流れ図である。 動画撮影処理時の制御の流れの一例を示す流れ図である。 ローパス効果調整モードがノーマルのときに使用する、可変光学ローパスフィルタへの印加電圧の一例を示す説明図である。 ローパス効果調整モードがオートのときに使用する、高周波成分検出用のハイパスフィルタの一例を示す説明図である。 可変光学ローパスフィルタへの印加電圧に応じた、シャープネス補正量(空間フィルタ係数)の一例を示す説明図である。 可変光学ローパスフィルタの他の構成例を示す断面図である。
以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
<1.構成>
[1.1 カメラ(撮像装置)の構成例](図1)
[1.2 Rawデータを処理する外部装置の構成例](図2)
[1.3 可変光学ローパスフィルタの構成および原理](図3〜図6)
[1.4 画像処理時の画質低下とその解決手段](図7〜図16)
<2.動作>
[2.1 カメラ全体の制御動作](図17)
[2.2 ライブビュー処理](図18)
[2.3 静止画撮影処理](図19、図21〜図23)
[2.4 動画撮影処理](図20)
<3.効果>
<4.その他の実施の形態>
<1.構成>
[1.1 カメラ(撮像装置)の構成例]
図1は、本開示の一実施の形態に係るフィルタ制御装置を含むカメラ(撮像装置)100の一構成例を示している。このカメラ100は、撮像光学系1と、レンズ制御部4と、可変光学ローパスフィルタ制御部(OLPF制御部)5と、撮像素子6と、画像処理部7とを備えている。このカメラ100はまた、拡大・間引き処理部8と、シャープネス補正処理部9と、圧縮・記録処理部10と、表示パネル11と、記録メディア12と、制御マイコン(マイクロコンピュータ)13と、操作部20とを備えている。
撮像光学系1は、撮像レンズ1Aと、可変光学ローパスフィルタ(可変OLPF)30とを有している。撮像レンズ1Aは、光学的な被写体像を撮像素子6上に形成するものである。撮像レンズ1Aは、複数のレンズを有し、少なくとも1つのレンズを移動させることにより、光学的なフォーカス調節やズーム調節が可能となっている。可変光学ローパスフィルタ30は、あらかじめ撮像光学系1に組み込まれて搭載されてもよいし、交換可能なフィルタとしてユーザにより搭載されてもよい。レンズ制御部4は、光学的なズーム倍率、およびフォーカスの調節等のために撮像レンズ1Aの少なくとも1つのレンズを駆動するものである。撮像素子6は、撮像レンズ1Aおよび可変光学ローパスフィルタ30を介して受光面に結像された被写体像を光電変換により電気信号に変換して画像データを生成するものである。撮像素子6は、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)イメージセンサにより構成されている。
画像処理部7は、撮像素子6から読み出された画像データに対して、ホワイトバランス、デモザイク、階調変換、色変換、およびノイズリダクションなどの画像処理を行うものである。
表示パネル11は、例えば液晶パネルにより構成され、ライブビュー画像を表示する表示部としての機能を有している。その他、表示パネル11には、装置の設定メニューやユーザの操作状態を表示してもよい。また、撮影条件等の各種の撮影データを表示してもよい。
圧縮・記録処理部10は、画像データを表示パネル11に表示するのに適した表示データに変換したり、画像データを記録メディア12への記録に適したデータに変換する等の処理を行うものである。記録メディア12は、撮影された画像データが記録されるものである。圧縮・記録処理部10は、通常、記録メディア12に記録する画像データとしてJPEG等の圧縮された画像データを記録する。その他、いわゆるRawデータを記録メディア12に記録してもよい。
操作部20は、メインスイッチ(メインSW)と、シャッタボタン21と、可変OLPF効果設定ボタン22と、ピント調整操作部23とを有している。操作部20はまた、シャッタボタン21の押下量に応じてオン(On)されるスイッチSW1およびスイッチSW2を有している。
ピント調整操作部23は手動(マニュアル)によるピント調整を可能にするものであり、例えば、撮像レンズ1Aのレンズ鏡胴に設けられたピント調整リングであってもよい。可変OLPF効果設定ボタン22は、可変光学ローパスフィルタ30のローパス特性を手動により設定するためのものである。
可変光学ローパスフィルタ30は、第1の可変光学ローパスフィルタ2と、第2の可変光学ローパスフィルタ3とを有している。後述するように、可変光学ローパスフィルタ30が、特定の一次元方向のローパス特性を制御するタイプのものである場合、2組の可変光学ローパスフィルタ30(第1の可変光学ローパスフィルタ2および第2の可変光学ローパスフィルタ3)を用いることにより、水平方向と垂直方向との双方に対するローパス特性を制御することができる。
拡大・間引き処理部8は、画像処理によって、撮影された画像の倍率を変更(拡大もしくは縮小)する電子ズーム処理を行うものである。拡大・間引き処理部8は、画像の縮小を行う場合、画素の間引き処理を行う。拡大・間引き処理部8は、画像の拡大を行う場合、画素の補間処理を行う。
シャープネス補正処理部9は、画像処理によって画像のシャープネスを補正するものである。シャープネス補正処理部9は、後述するように、撮影された画像に対して画像処理によって倍率の変更がなされた場合に、倍率に応じてシャープネス補正特性を変化させる処理を行う。シャープネス補正処理部9はまた、例えばハイパスフィルタによってエイリアシングによる偽信号の発生の検出、または予測を行うエイリアシング検出・予測部14としての機能を有していてもよい。
制御マイコン13は、各回路ブロックの統括制御を行うものである。OLPF制御部5は、操作部20または制御マイコン13からの指示に従って、可変光学ローパスフィルタ30のローパス特性を制御するものである。制御マイコン13およびOLPF制御部5は、後述するように、撮影された画像に対して画像処理によって倍率の変更がなされた場合に、倍率に応じて可変光学ローパスフィルタ30のローパス特性を変化させる制御を行う。
制御マイコン13およびOLPF制御部5は例えば、画像処理によって画像が拡大され、かつエイリアシングの発生が検出されない、または予測されない場合に、後述の図12および図13に示すように、可変光学ローパスフィルタ30のローパス特性を倍率が1倍のときよりも弱くする制御を行ってもよい。制御マイコン13およびOLPF制御部5はまた、例えば画像処理によって画像が拡大され、かつエイリアシングの発生が検出または予測される場合に、後述の図14に示すように、可変光学ローパスフィルタ30のローパス特性を、エイリアシングの発生が検出されない、または予測されない場合よりも強くする制御を行ってもよい。制御マイコン13およびOLPF制御部5はまた、例えば画像処理によって画像が拡大された場合に、可変光学ローパスフィルタ30のローパス特性を、後述の図12に示すように、画像の拡大前よりも弱くする制御を行ってもよい。制御マイコン13およびOLPF制御部5はまた、例えば画像処理によって画像が縮小された場合に、可変光学ローパスフィルタ30のローパス特性を、後述の図16に示すように、画像の縮小前よりも強くする制御を行ってもよい。
[1.2 Rawデータを処理する外部装置の構成例]
図2は、Rawデータを処理する外部装置103の一構成例を示している。図1には、カメラ100内において画像データに対して各種の画像処理を施す構成を示したが、図2に示したように、カメラ100が、Rawデータ記録部109を備え、Rawデータ101と共に、撮影時のローパス特性を示すデータをメタデータ102として記録し、外部装置103において画像処理を行ってもよい。外部装置103における画像処理の機能は、例えばPC(パーソナルコンピュータ)上のアプリケーションで実現される。なお、カメラ100において、Rawデータの記録時には、画像処理部7、拡大・間引き処理部8、およびシャープネス補正部9で行われる処理は適用されない(信号が各部を素通りする)。
外部装置103は、画像処理部104と、拡大・間引き処理部105と、シャープネス補正処理部106と、圧縮・記録処理部107とを備えている。
図2に示した外部装置103において、図1のカメラ100内の各回路ブロックと同じ名称の回路ブロックは、基本的に、同等の処理機能を持つ。外部装置103で処理された画像データは、出力ファイル108として記録される。
[1.3 可変光学ローパスフィルタの構成および原理]
図3〜図6をさらに参照しつつ、より具体的に可変光学ローパスフィルタ30の構成および原理を説明する。
(可変光学ローパスフィルタ30の構成例)
図3は、可変光学ローパスフィルタ30の一構成例を示している。可変光学ローパスフィルタ30は、第1の複屈折板31および第2の複屈折板32と、液晶層33と、第1の電極34および第2の電極35とを有している。液晶層33が、第1の電極34および第2の電極35によって挟まれ、その外側をさらに第1の複屈折板31および第2の複屈折板32で挟んだ構成となっている。第1の電極34および第2の電極35は、液晶層33に電界を印加するためのものである。なお、可変光学ローパスフィルタ30はさらに、例えば、液晶層33の配向を規制する配向膜をさらに備えていてもよい。第1の電極34および第2の電極35はそれぞれ、1枚の透明なシート状電極からなる。なお、第1の電極34および第2の電極35の少なくとも一方が、複数の部分電極で構成されていてもよい。
第1の複屈折板31は、可変光学ローパスフィルタ30の光入射側に配置されており、例えば、第1の複屈折板31の外側の表面が光入射面となっている。入射光L1は、被写体側から光入射面に入射する光である。第2の複屈折板32は、可変光学ローパスフィルタ30の光出射側に配置されており、例えば、第2の複屈折板32の外側の表面が光出射面となっている。可変光学ローパスフィルタ30の透過光L2は、光出射面から外部に出射された光である。
第1の複屈折板31および第2の複屈折板32はそれぞれ、複屈折性を有しており、1軸性結晶の構造を有している。第1の複屈折板31および第2の複屈折板32はそれぞれ、複屈折性を利用して円偏光の光をps分離する機能を有している。第1の複屈折板31および第2の複屈折板32はそれぞれ、例えば、水晶、方解石またはニオブ酸リチウムによって構成されている。
液晶層33は例えば、TN(Twisted Nematic)液晶で構成されている。TN液晶は、通過する光の偏光方向をネマティック液晶の回転に沿って回転させる旋光性を有している。
図3の基本構成で、特定の一次元方向のローパス特性がコントロールできるため、本実施の形態では図3の可変光学ローパスフィルタ30を第1の可変光学ローパスフィルタ2と第2の可変光学ローパスフィルタ3との2組搭載し、水平方向と垂直方向に対するローパス特性を制御する。
(可変光学ローパスフィルタ30の原理)
図4〜図6を参照して、可変光学ローパスフィルタ30の原理を説明する。図4は、図3に示した可変光学ローパスフィルタにおけるローパス効果が0%の状態の一例を示している。図5はローパス効果が100%の状態の一例を示している。図6はローパス効果が50%の状態の一例を示している。なお、図4〜図6では、第1の複屈折板31の光学軸と第2の複屈折板32の光学軸とが互いに平行である場合を例にしている。また、図4〜図6に示す電圧値は一例であり、図示した電圧値に限られるものではない。以降の他の図において示す電圧値等の数値についても同様である。
可変光学ローパスフィルタ30では、光の偏光状態をコントロールし、連続的にローパス特性を変化させることが可能となっている。可変光学ローパスフィルタ30では、液晶層33に印加する電界(第1の電極34および第2の電極35間への印加電圧)を変えることでローパス特性を制御できる。例えば図4に示したように、印加電圧が0Vの状態でローパス効果がゼロ(素通しと同じ)、図5に示したように、5Vを印加した状態でローパス効果が最大(100%)となる。また、図6に示したように、3Vを印加した状態でローパス効果が中間状態(50%)となる。ローパス効果が最大となるときの特性は、第1の複屈折板31および第2の複屈折板32の特性によって決まる。
図4〜図6の各状態において、第1の複屈折板31で入射光L1がs偏光成分とp偏光成分とに分離する。
図4に示した状態では、液晶層33での旋光が90°となることにより、液晶層33においてs偏光成分がp偏光成分に変換され、p偏光成分がs偏光成分に変換される。その後、第2の複屈折板32でp偏光成分とs偏光成分とが合成され、透過光L2となる。図4に示した状態では、最終的なs偏光成分とp偏光成分との分離幅dはゼロであり、ローパス効果はゼロとなる。
図5に示した状態では、液晶層33での旋光が0°となることにより、液晶層33をs偏光成分がs偏光成分のまま透過し、p偏光成分がp偏光成分のまま透過する。その後、第2の複屈折板32でp偏光成分とs偏光成分との分離幅がさらに拡大される。図5に示した状態では、最終的な透過光L2において、s偏光成分とp偏光成分との分離幅dが最大となり、ローパス効果は最大(100%)となる。
図6に示した状態では、液晶層33での旋光が45°となることにより、液晶層33をs偏光成分がs偏光成分とp偏光成分とを含む状態で透過し、その後、第2の複屈折板32でs偏光成分とp偏光成分とに分離する。p偏光成分も同様に、液晶層33をs偏光成分とp偏光成分とを含む状態で透過し、その後、第2の複屈折板32でs偏光成分とp偏光成分とに分離する。最終的な透過光L2には、分離幅dで分離されたs偏光成分およびp偏光成分と、p偏光成分およびs偏光成分とが合成された成分とが含まれた状態となり、ローパス効果が中間状態(50%)となる。
[1.4 画像処理時の画質低下とその解決手段]
ローパス効果を連続的に変化させることが可能な可変光学ローパスフィルタ30の技術を用いて、静止画撮影時、動画撮影時、およびライブビュー時のように画素ピッチが異なるケースでローパス効果を変化させ、それぞれで特性を最適化する技術が知られている。しかしながら、画像の拡大時に生じるシャープネス低下に対しては、なんら対応が行われておらず画質低下が生じていた。
一方、画像を縮小する場合も、画像を間引くために画像処理段階で生じるエイリアシングにより画質の低下を招いていた。このエイリアシングは、画像処理によるフィルタで低減が可能であるが、複数の画素信号とフィルタ特性を与える信号のコンボリューション(畳み込み)演算を行う必要があるため、それなりの演算時間を要し、実現のためのコストも必要であった。従来、光学ローパスフィルタは同様にエイリアシングを防ぐ目的で搭載されているが、その特性は縮小しない状態に最適化された一定のものであるため、画像の縮小時にはまったく寄与していなかった。
可変光学ローパスフィルタ30を用いることで、上記、一連の問題を解決することが可能であるが(具体的な解決方法は別途記述)、手動によるピント調整を行う場合には、撮影時にトレードオフとなるシャープネスと偽信号の関係がトレードオフとならないため新たな問題が発生する。すなわち、手動によるピント合わせを行う場合、像がもっともシャープになるピント位置を見つけるのであるが、このときは、シャープネスが高い方がピントの合っている時とボケているときの差がより多くなり、ピントが合わせやすくなる。そして偽信号も、ピントが合っているときに最も多く発生するため、むしろ偽信号を抑制しない方がピントの合う位置がよくわかるのである。
また、従来、カメラ内で上記のような画像処理を行わず、いわゆるRawデータ101を記録し、PC上のアプリケーションソフトウェアで、拡大やシャープネスの補正を行うカメラが存在するが、このようなカメラでも別の問題が生じる。可変光学ローパスフィルタ30のローパス特性を変化させた状態でRawデータ101を記録し、拡大時のシャープネス補正をPC上のアプリで最適化する場合、PCアプリではローパス特性を知ることができないため適切な処理ができなかった。Rawデータ101に種々のメタデータを埋め込む手段は公知であるが、可変光学ローパスフィルタ30のローパス特性を示すデータに関しては記録されておらず上記のような問題が生じてしまう。
また、可変光学ローパスフィルタ30を用いた場合、撮影時と同じ画素ピッチで画像の一部を拡大表示する手段があれば、偽信号の発生とシャープネスの低下を実際に確認しつつ手動で効果を設定し、最適なトレードオフの状態を得ることが可能であるにもかかわらず、従来このような手法は知られていなかった。
図7に、可変光学ローパスフィルタ30に印加する電圧を変化させた場合のMTF特性の変化の一例を示す。図7において、横軸は空間周波数(c/mm(cycle/mm))、縦軸はMTF値を示す。以降の他のMTF特性を示す図についても同様である。
図8は、図3に示した可変光学ローパスフィルタ30に撮像レンズ1Aを組み合わせた場合における、印加電圧によるMTF特性の変化の一例を示している。0Vでは、ローパス効果なしの素通し状態なので、撮像レンズ1AのMTF特性そのものとなる。
図9は、通常の光学ローパスフィルタのMTF特性の一例を示している。この場合は、設計時に決めた特定のローパス特性のみを与えることになる。
図10および図11を参照して、画像の拡大時に生じるMTF特性の低下について説明する。図10は、画像拡大時におけるMTF特性の変化の一例を示している。図11は、像拡大時の画素補間アルゴリズムの違いによるMTF特性の変化の一例を示している。
画像処理で画像を拡大した場合、次の2つの要因でシャープネスの低下が生じる。1つめは、拡大そのものの影響である。画像データを拡大した場合、仮に理想的に拡大できたとしても、その周波数特性は、拡大した分だけ低周波側にシフトしたものになってしまう。図10では通常時(1倍)と2倍拡大した場合のそれぞれのMTF特性を示している。拡大すると元の画像に比べるとシャープネスが低下したものとなってしまう。
2つめの要因は、画素補間アルゴリズムによる周波数特性の低下である。拡大する場合、なんらかの方法で画素と画素の間に新しい画素情報を生成しなければならない。通常、これは周辺の画素から補間により生成する。補間で画素を生成する場合、周波数特性の低下が発生し、その特性は補間アルゴリズムによって決まる。図11では、代表的な補間アルゴリズムである、最近傍値法、平均法、およびCubic−convolution法の周波数特性を示している。いずれのアルゴリズムも周波数特性の低下が生じることが分かる。
図12は、画像の拡大によるMTF特性の低下を可変光学ローパスフィルタ30のローパス特性を変更することで補正した例を示す。図10および図11で示したように、画像を拡大した場合、拡大そのものの影響と、補間アルゴリズムの影響とによってMTF特性の低下が生じる。このMTF特性の低下は、画像処理で一部、補正することが可能であるが、画像処理で補正した場合は、ノイズ等の画像以外の信号も同時に強調してしまうため、画質の低下が生じてしまう。
可変光学ローパスフィルタ30を搭載したカメラ100では、拡大時に可変光学ローパスフィルタ30のローパス特性を通常時(倍率が1倍)よりも弱く設定することで、ノイズの増加を抑えつつシャープネスの補正が可能となる。例えば、可変光学ローパスフィルタ30の印加電圧を3Vから0Vに設定する。ローパス効果を弱めると、撮影時にエイリアシングが発生する可能性があるが、発生するか否かは被写体に大きく依存する。一方、拡大によるシャープネスの低下は、拡大すると常に発生してしまうため、ローパス効果を弱めシャープネスを補正する方が確率的には高画質の画像を得ることが可能となる。
図13に画像の拡大によるMTF特性の低下を可変光学ローパスフィルタ30のローパスフィルタ特性の変更と画像処理(シャープネスの補正)とを併用して補正した例を示す。図12で説明したように、画像拡大時に生じるMTF特性の低下を可変光学ローパスフィルタ30の特性を弱く設定することで補正できる。しかし、図12から分かるように補間処理では、高周波部分の情報は欠落したままとなり、この部分に本来被写体が持っている情報が生じることはない。このため、可変光学ローパスフィルタ30を弱めてもなお画像としてのシャープネスは不足している印象を与えることが多い。このため、さらに画像のシャープネスを強調し、このシャープネスの不足感を補うことが有効である。このさらなる強調には、可変光学ローパスフィルタ30をさらに弱める手段も可能であるが、この方法ではローパスなしの状態(電圧0V)以上にはシャープネスを補正することができない。このため、シャープネス補正処理部9またはシャープネス補正処理部106によって、画像処理によるシャープネス補正処理を併用することが有効である。最適な補正量は、拡大率によって変化するため、拡大率に応じて可変光学ローパスフィルタ30でカバーできる範囲はこれにより補正し、残りを画像処理で補うように補正する考え方が、ノイズ増加を少なくするという観点では有効である。画像処理によるシャープネスの補正は、後に説明するように空間フィルタによる処理等を利用できる。
図14に、撮影時にエイリアシングが発生するか否かを検出、予測することで、さらに適応的な動作を行い画質を向上させた例を示す。図14では、図13の補正に比べてローパス効果とシャープネスの補正とを強めた場合の例を示している。図13において、拡大時のシャープネス低下を補正するために、可変光学ローパスフィルタ30のローパス効果調整と画像処理による補正とを併用した場合を説明した。このとき、画像処理による補正はノイズの増加を招くため、ローパス効果を弱める方法を優先させる方法が有効であることを述べた。一方で、ローパス効果を弱くするとエイリアシングによる偽信号の発生が、懸念されることも既に説明した。このトレードオフは、偽信号の発生を検出ないし予測する手段があれば、改善が可能である。すなわち、シャープネスの補正を行う際、偽信号が検出ないし予測される場合は、図14に示すように可変光学ローパスフィルタ30の効果を強めて偽信号を抑制し、それによるシャープネスの低下分は画像処理による補正を強める。逆に偽信号が検出されない、ないし予測されない場合は、図13で示したようにローパス効果を弱め、画像処理によるシャープネス補正は弱めるようにする。モアレのような周期的な偽信号が発生すると、拡大時にはその周波数がより低い方にシフトし、影響が目立ちやすくなるのでこのような適応的な処理が有効となる。偽信号の具体的な検出、予測手段については、後の静止画撮影処理の部分で説明する。
図15および図16に画像縮小時に生じるエイリアシングの発生例と、それを可変光学ローパスフィルタ30によって抑制した例を示す。図15および図16において、上段は画像の縮小前の状態を示し、下段は画像を1/2に縮小した状態を示す。画像の縮小は、すなわち画像のサンプリング間隔を粗くするということであり、このとき図15に示すようにエイリアシングによる偽信号が発生する。通常は、縮小前に画像処理によるローパスフィルタを適用し、高い周波数成分を取り除くようにする。この処理は、シャープネス補正と同様な空間フィルタによって行われるが、ローパスフィルタの信号と画素値の二次元畳み込み演算を行わなければならないため一定の処理時間を要する。
画像の縮小時、画像処理の代わりに可変光学ローパスフィルタ30でローパス特性を適用することで、図16に示すようにエイリアシングの原因となる高周波の成分を除去できる。この時のローパス特性は通常時よりも効果を強くする。可変光学ローパスフィルタ30でローパス効果を適用した場合は、画像処理によるフィルタ処理が不要なので、処理速度を向上させることが可能となる。このように、可変光学ローパスフィルタ30を用いて処理を高速化する方法は、例えば、カメラ100に通常モードの他に画像サイズは小さくなるが連続撮影(連写)速度が速くなる高速連写モードを設ける場合に特に有効である。また、拡大モードを持たず、縮小のみが可能なカメラ100の場合、画像処理によるローパス処理回路を省略できるので、カメラ100のコストを抑えることができる。
<2.動作>
[2.1 カメラ全体の制御動作])
図17にカメラ全体の制御の流れの一例を示す。制御マイコン13は自身で、または他の回路ブロックを制御することにより、カメラ全体の制御処理として、図17に示したステップS1〜ステップS13の処理を行う。
カメラ100の起動後、制御マイコン13は、ステップS1でメインスイッチ(メインSW)の状態を判定し、Onの場合ステップS2に進み、Offの場合は、そのままスイッチの状態判定を繰り返す。ステップS2では、必要な初期化を行う。
ステップS3では、制御マイコン13は、ライブビュー画像の表示と、ピント調整操作部23によってマニュアルでピント調整を行う場合、および画像を拡大して可変光学ローパスフィルタ30の効果をマニュアルで設定する場合に必要な処理を行う。詳細は、後述する。
ステップS4では、制御マイコン13は、再びメインSWの状態を判定し、Onのままの場合は次のステップS5に進み、Offの場合は、ステップS13へ進み、カメラ100を待機状態にするための終了処理を行った後、ステップS1に戻る。
ステップS5では、制御マイコン13は、シャッタボタン21を半押しした状態でOnとなるスイッチSW1の状態を検出し、スイッチSW1がOnの場合は、ステップS6の撮影準備動作に移る。スイッチSW1がOnでない場合は、ステップS3に戻り、ライブビュー処理(1)を繰り返す。
ステップS6では、制御マイコン13は、撮影のために必要な準備処理を行う。本実施の形態では、ここでの主要な処理であるオートフォーカスによるピント合わせの処理のみ説明する。制御マイコン13からレンズ制御部4に所定の指示を与え、撮像レンズ1Aのフォーカス位置を連続的に変化させつつ画像の読み出しを繰り返す。制御マイコン13は、読み出した画像データから被写体のコントラスト評価値を算出し、評価値が最大となる位置を求め、そこにレンズのフォーカス位置を固定する。デジタルカメラで一般的なコントラストAF(オートフォーカス)方式である。
ステップS7では、制御マイコン13は、再度ライブビュー画像を表示するためステップS3と同様の処理を行う。スイッチSW1がOnになった状態では露出を固定するようにするため、ここでは露出演算は行わない点がステップS3との相違点である。
ステップS8では、制御マイコン13は、シャッタボタン21が押されたことを検出するスイッチSW2がOnかOffかを判定する。制御マイコン13は、Onだった場合は、ステップS9以下の撮影動作に移る。制御マイコン13は、スイッチSW2がOffだった場合は、ステップS11でスイッチSW1がOffになったかどうかを判定し、Offになった場合は、ステップS3に戻りライブビュー処理(1)以降を繰り返す。制御マイコン13は、スイッチSW1がOnのままだった場合は、ステップS7に戻りライブビュー処理(2)以降の動作を繰り返す。
ステップS9では、制御マイコン13は、カメラ100の記録モードを判定する。制御マイコン13は、記録モードが静止画モードだった場合はステップS10の静止画撮影処理に、動画モードだった場合はステップS12の動画撮影処理に分岐する。ステップS10の静止画撮影処理とステップS12の動画撮影処理については、後に詳述する。制御マイコン13は、両処理の終了後は、ステップS3に戻って一連の動作を繰り返す。
[2.2 ライブビュー処理]
図18にライブビュー処理(1)の流れの一例を示す。制御マイコン13は自身で、または他の回路ブロックを制御することにより、上記ステップS3のライブビュー処理(1)として、図18に示したステップS100〜ステップS106の処理を行う。
まず、ステップS100で、制御マイコン13は、撮像素子6からライブビュー画像データを読み出す。ライブビュー画像データは、表示パネル11に表示するために必要な画素数だけあればよいので、撮像素子6内部で垂直方向に複数の画素を加算し、画素を間引いたデータを読み出すようにする。
次にステップS101で、制御マイコン13は、読み出した画像データから露出(AE)とホワイトバランス(AWB)の演算を行う。制御マイコン13は、露出演算の結果から、レンズ制御部4に設定する絞り値と撮像素子6に設定するシャッタ速度とを求め、露出を適正にコントロールする(この結果が反映されるのは、次の読み出し画像からになる)。ホワイトバランス演算で求めたホワイトバランスゲインは、次の画像処理段階で適用される。
ステップS102で、読み出した画像データに対し、画像処理部7で適切な処理を行う。この画像処理には、ホワイトバランス、デモザイク、階調変換、色変換、およびノイズリダクションなどの処理を含むが、いずれもデジタルカメラとして一般的なものであり、ここでは説明を省略する。電子ズームの指示が行われている場合は、画像データに対し、電子ズームブロック(拡大・間引き処理部8)で拡大処理が行われる。次にシャープネス補正処理部9で、シャープネスの補正が行われる。電子ズームとシャープネス補正処理の詳細は、後の静止画撮影処理(図19)において説明する。これらの処理を経た画像は、表示パネル11に出力されライブビュー画像が表示される。
ステップS103では、制御マイコン13は、カメラ100のフォーカスモード設定がマニュアルフォーカスモードか否かを判定する。制御マイコン13は、マニュアルフォーカスモードの場合はステップS104へ、そうでない場合はそのままライブビュー処理(1)を終了する。
ステップS104では、制御マイコン13は、ピント調整操作部23からの指示に基づきマニュアルによるピント調整動作を行う。このモードでは、撮像素子6から、表示パネル11に表示可能な画素数の画像データを部分的に間引かずに読み出す。表示パネル11には被写体を部分的に拡大した画像が表示されピント調整に適した状態となる。このモードでは、ピント調整操作部23として、例えばレンズ鏡胴に設けたピント調整リングの回転量によって、ピント位置が変化するようにレンズ制御部4が動作し、ユーザは表示される画像を見ながら、このリングを手で回転することによってピント調整ができる。また、撮像素子6から読み出す位置は、詳細の説明は省略するが、上下左右4方向で方向を指定可能なスイッチによって変更が可能となっている。このモードでは、可変光学ローパスフィルタ30に印加する電圧を0Vにするように、制御マイコン13からOLPF制御部5に指示を出す。すなわち、ローパス効果がゼロとなるようにする。こうすることで、ピントが合っていない状態とピントの合った状態の差が大きくなり、ピント合わせがよりやり易くなる。また、エイリアシングによる偽信号は、ピントが合った状態でもっとも多くなるため、ローパス効果をゼロとすることで偽信号の出方を目安にしたピント調整も可能となり、さらにピント調整を容易にすることが可能となる。
なお、上記ではマニュアルによるピント調整時に被写体の拡大画像を表示させる場合を例にしたが、画像を拡大表示することなくピント調整を行うことも可能である。この場合であっても、ピント調整前に比べてピント調整時のローパス効果を弱める制御を行うことで、ピント合わせがやり易くなるので好ましい。
ステップS105では、制御マイコン13は、ローパス効果の調整モードが、マニュアルか否かを判定する。本実施の形態では、ローパス効果調整モードとして、ノーマル、オート、マニュアルの3種類を有する。制御マイコン13は、モードがマニュアルだった場合は、ステップS106へ進む。制御マイコン13は、モードがマニュアル以外の場合は、そのままライブビュー処理(1)を終了する。
ステップS106では、制御マイコン13は、マニュアルローパス効果調整モードの動作を行う。このモードでは、ピント調整操作部23によってマニュアルでピントを合わせた後、表示されている画像を見ながら、強/弱2方向の可変OLPF効果設定ボタン22を操作することで、適切なローパス効果を設定できる。ライブビュー画像は、カメラ100のフレーミングのために上述のように間引いた画像を読み出し、画像全体を表示する。このときに発生する偽信号は、画素ピッチが異なるため最終的に記録される画像に現れるものとは異なる。このモードでは、マニュアルフォーカスモードと同様、画像を間引かずに読み出して表示する。全体が表示できないので、マニュアルフォーカスモードと同様、4方向のスイッチによって表示する位置を変更できるようになっている。なお、本実施の形態では、マニュアルでピントを合わせた後にローパス効果を調整する構成としたが、本モードに切り替わったときに既に述べたオートフォーカスの動作を1回行わせてから効果調整をするようにしてもよい。また、画像の倍率は、上記のとおり間引いたり縮小したりしない状態であれば、さらに拡大して表示できるようにしてもよく、このような構成では、被写体のさらに細かな部分のチェックがより容易となる。
[2.3 静止画撮影処理]
図19に静止画撮影処理の流れの一例を示す。制御マイコン13は自身で、または他の回路ブロックを制御することにより、静止画撮影処理として、図19に示したステップS200〜ステップS209の処理を行う。
なお、以下の説明では適宜、図21〜図23を参照する。図21は、ローパス効果調整モードがノーマルのときに使用する、可変光学ローパスフィルタ30への印加電圧をまとめたパラメータ表を示す。図22は、ローパス効果調整モードがオートのときに使用する、高周波成分検出用のハイパスフィルタを示す。図23は、可変光学ローパスフィルタ30への印加電圧に応じた、シャープネス補正量(空間フィルタ係数)をまとめたパラメータ表を示す。
図19において、制御マイコン13は、最初に、ステップS200で可変光学ローパスフィルタ30に印加する電圧を決定し、OLPF制御部5に指示を与えて可変光学ローパスフィルタ30に電圧を印加する。印加電圧の決定は、以下のように行う。
本実施の形態では、上記ライブビュー処理(1)の説明で述べたように、ローパス効果調整モードとして、ノーマル、オート、マニュアルの3モードを持つ。ノーマルモードは、あらかじめカメラ100内に保持したモードごとの印加電圧を記述したテーブルに従い印加電圧を決定する。オートモードでは、仮画像を撮影し、取得した画像を解析することでローパス効果を決定する。マニュアルモードは、手動で効果を調整するモードで、既にライブビュー処理(1)でその内容を説明した。
ステップS200では、制御マイコン13は、最初に上記のローパス効果調整モードを判定し、それぞれのモードに応じた処理に分岐する。制御マイコン13は、ノーマルモードでは、カメラ100の設定、すなわち電子ズームモードないし高速連写モードのそれぞれに応じて、カメラ100内に保持するパラメータ表(図21)を参照して印加電圧を決定する。制御マイコン13は、電子ズームの場合、表に示すように、電圧は、倍率に対し離散的に記録されているので、その中間の倍率だった場合は、表から該当する区間の電圧を読み出し、それを補間して印加電圧を決定する。制御マイコン13は、高速連写モードでは、画像の間引き状態に対応した1種類の印加電圧を読み出す。
オートモードでは、取得した仮画像からローパス効果を決定する。まず、可変光学ローパスフィルタ30に対し電圧0V(ローパス効果なし状態)を印加し、その状態で撮像素子6から仮画像を取得する。読み出した画像は、画像処理部7で通常時と同じ処理を適用された後、拡大・間引き処理部8を何も処理を適用せずに素通りし、シャープネス補正処理部9のエイリアシング検出・予測部14で、ハイパスフィルタによる高周波成分の検出処理が行われる。
ハイパスフィルタは例えば図22に示すもので、処理を適用した後、残った高周波成分が積算される。この高周波成分の積算値に対しあらかじめ印加電圧を決めておき、それに従って可変光学ローパスフィルタ30に印加する電圧を決定する。すなわち、高周波成分が多い被写体では、それだけエイリアシングによる偽信号の発生が多くなる可能性があるため、ローパス効果を強くする。逆に高周波成分がほとんど存在しない被写体では、偽信号が発生する可能性が低いためローパス効果を弱くする。なお、本実施の形態では、高周波成分の検出により偽信号の発生を予測する構成としたが、これ以外にも例えば、ローパス効果を適用しない状態と適用した状態の2種類の画像を取得し、その差分から偽信号の発生を検出するようにしてもよい。また、取得した画像をフーリエ変換し、モアレのような周期的な成分を検出するような手法も有効である。
マニュアルモードでは、ライブビュー処理(1)の部分で説明したように、すでに可変光学ローパスフィルタ30への印加電圧が決まっており、それが適用されている。
ノーマルモードおよびオートモードの場合は、制御マイコン13は、ステップS200の最後で、それぞれのローパス効果調整モードに応じて決定した印加電圧をOLPF制御部5に指示し、効果を適用する。
続くステップS201で、撮像素子6から画像データを読み出す。ステップS202では、制御マイコン13は、撮影モードがRaw撮影モードか否かを判定する。Raw撮影モードだった場合は、ステップS209へ分岐し、カメラ100内で画像処理を適用する前のRaw画像をファイルに保存し、終了する。このとき、ステップS200で決定した可変光学ローパスフィルタ30への印加電圧をローパス特性を示すデータとして、他の撮影データとともにメタデータ102としてファイルに記録する。撮影モードがRaw撮影モードでなかった場合は、ステップS203へと進む。
ステップS203では、読み出した画像データに画像処理部7でホワイトバランス、デモザイク、階調変換、色変換、およびノイズリダクションなどの処理を適用する。続くステップS204では、制御マイコン13は、撮影モードを判定し、モードが電子ズームモードの場合は、ステップS205へ、高速連写モードの場合はステップS206へそれぞれ分岐し、通常モードの場合は、ステップS207へ進む。
ステップS205では、制御マイコン13は、電子ズーム設定に応じた画像の拡大処理を行う。これは、拡大・間引き処理部8に対し、入力画像サイズと出力画像サイズ、拡大倍率を指定することで必要な変換が行われる。電子ズーム時は、入力画素数と出力画素数を通常時(1倍)と同じように指定し、ユーザに設定されたズーム倍率を拡大倍率に設定することで、画像サイズを保ったまま、画像中心部を補間処理で拡大した画像が出力される。画像の補間は、例えば図11に特性を示したcubic−convolution法で行われる。このアルゴリズムの詳細は、種々の画像処理に関する文献で公知であるので省略する。
ステップS206では、制御マイコン13は、高速連写モードの処理を行う。高速連写モードでは、画像の倍率は1倍に保ったまま、画素数を減らす処理を行う。すなわち、拡大・間引き処理部8に、入力画素数として通常時と同じ画素数、出力画素数として水平、垂直のサイズを例えば半分(画素数で1/4)になる値を設定する。この場合、拡大倍率は、画素数の比から自動設定される。拡大・間引き処理部8では入出力の画素数の比に対応した間隔で、例えば最近傍法により単純に画素が間引かれる。水平、垂直とも半分なので、一つ置きに画素が間引かれる。通常、このような単純間引きで再サンプルを行うと、エイリアシングが生じ画質が劣化するが、例えば、可変光学ローパスフィルタ30のローパス特性を通常時の画素ピッチの半分のところでゼロとなるような特性を設定することで、エイリアシングを発生させることなく高画質な間引き画像を得ることができる。
次にステップS207で、シャープネス補正を適用する。シャープネス補正は、例えば5×5の空間フィルタによって行われる。ステップS200で決定した可変光学ローパスフィルタ30のローパス特性(印加電圧)に応じて、あらかじめ決定しカメラ100内に保持したシャープネス補正パラメータ表(図23)を参照することで、フィルタ係数を決定、処理を適用する。
ステップS208で、制御マイコン13は、圧縮・記録処理部10に必要な指示を与えることで、一連の処理を適用した画像を例えばJPEGアルゴリズムで圧縮し、記録メディア12に記録する。このとき、撮影条件などのメタデータ102も同時に記録し、終了する。
(外部装置でRawデータを処理する場合の動作例)
図2において、カメラ100から出力されたRawデータ101を外部装置103に読み込んで画像処理を行う。画像処理部104は、カメラ100内の画像処理部7と同等の機能を持ち、上述の静止画撮影処理のステップS203で説明したものと同じ処理を行う。以下、図1のカメラ100内の各回路ブロックと同じ機能を持つ拡大・間引き処理部105、シャープネス補正処理部106、および圧縮・記録処理部107のそれぞれで、カメラ100内における静止画撮影処理時と同等の処理を行う。
カメラ100内の処理との差分として、拡大・間引き処理で用いるカメラ100のモード設定、電子ズーム時の拡大倍率は、Rawデータ101に記録されたメタデータ102の中に記録されている情報を使用する。また、シャープネス補正処理で使用するローパス特性は、同様にメタデータ102として記録された印加電圧を使用する。
外部装置103で上記一連の処理を適用された画像データは、出力ファイル108として記録される。
[2.4 動画撮影処理]
図20に動画撮影処理の流れの一例を示す。制御マイコン13は自身で、または他の回路ブロックを制御することにより、動画撮影処理として、図20に示したステップS300〜ステップS309の処理を行う。動画撮影時の処理は、同じ名称の処理については、基本的に静止画撮影処理で説明したものと同じ内容となるため、以下に差分のみ説明する。
本実施の形態では、静止画撮影時も動画撮影時も撮像素子から読みだす画像データは同じであるが、もしこれが異なり、静止画撮影時と画素ピッチが異なる場合は、ステップS300で、可変光学ローパスフィルタ30に印加する電圧を決定する際に用いる表を動画専用のものに入れ替える。動画時は、高速で画像を読み出す必要があるため、画素を間引く場合があり、このような場合に画素ピッチが変化する。
ステップS303として、動画撮影中も連続してピント調整、露出制御、ホワイトバランス処理を行うためのAF・AE・AWB処理が追加される。ここでの処理は、例えば算出した露出値が直前のフレームに対して急激に変化しないように変化をスムージングするなど、動画撮影に最適化した処理となる。
動画時は、静止画撮影にあった高速連写モードが無いので、ステップS305の撮影モード判定は、電子ズームかそれ以外かを判定するだけとなる。
ステップS308の圧縮と記録処理については、動画に適した例えばITU−T H.264などの圧縮方式とAVCHDなど動画ファイルフォーマットに変更される。
ステップS309には、動画記録の終了判定が追加され、記録が終了していない場合は、ステップS300に戻り、一連の動作を繰り返す。記録終了が指示された場合は動画撮影処理を終了する。動画記録の終了指示は、シャッタボタン21のスイッチSW2を記録開始後いったんOffにしてから再度Onにすることで行う。
<3.効果>
本実施の形態によれば、撮影された画像に対して画像処理によって倍率の変更がなされた場合に、倍率に応じて可変光学ローパスフィルタ30のローパス特性を変化させるようにしたので、高画質の画像を得ることができる。また、以下の効果が得られる。
シャープネスが低下する画像の拡大時、可変光学ローパスフィルタ30のローパス特性を弱く設定することで、シャープネスの低下を抑えた高画質な画像を得ることが可能となる。さらに、画像の拡大時に設定した可変光学ローパスフィルタ30のローパス特性に対し、画像処理によるシャープネス補正処理を最適化するように調整することで、より高画質な画像を得ることが可能となる。
また、同じく画像の拡大時、エイリアシングによるモアレの発生が検出されない、または予測されない場合は、可変光学ローパスフィルタ30のローパス特性を弱く設定することで、シャープネスの低下を抑えた高画質な画像を得ることが可能となる。
上記とは逆に、画像の拡大時、エイリアシングの発生が検出、または予測される場合は、可変光学ローパスフィルタ30のローパス特性を強く設定することで、撮影時に発生する偽信号を抑え、かつシャープネス低下分をシャープネス補正処理部9で画像処理により補正することで、偽信号がより低周波に変換されて目立つことを防ぎつつ、シャープネスの低下も抑えた高画質な画像を得ることが可能となる。
上記いずれの場合も、単に拡大時のシャープネス低下を防ぐと言う点だけなら、可変光学ローパスフィルタ30を使用しないことで同様の効果を得ることが可能であるが、この場合は、エイリアシングによる偽信号が発生するため、別の意味で画質が劣化する。本実施の形態によれば、通常時撮影時の偽信号による画質劣化と、拡大時のシャープネス低下に適応的に対応可能となり、常に高画質の写真が撮影できるようになる。
メカ的に光学ローパスフィルタの挿入/非挿入を切り替える先行例に対しては、拡大倍率によって異なるシャープネスの低下度合に適応的に対応が可能であり、さらに動画撮影中に拡大が行われた場合でも、記録画像に不連続な変化を与えることなく対応可能で、より高画質の写真(動画)を得ることができる。
一方、画像を縮小する際は、可変光学ローパスフィルタ30で縮小時の画素ピッチに対応したローパス特性を適用することで、画像処理によるフィルタを適用しなくてもエイリアシングを生じることなく高画質の縮小画像が得られるため、処理が高速でカメラ100の構成が簡略化できコストも低減できる。
さらに、手動によるピント調整時のピントの合わせやすさと、記録時の画質を両立することが可能となるので、ピント精度の向上による効果も含む、さらに高画質の画像を得ることが可能となる。
また、可変光学ローパスフィルタ30と、撮影時と同じ画素ピッチで画像の一部を拡大表示する表示パネル11とを組み合わせることで、偽信号の発生とシャープネスの低下を実際に確認しつつ手動で効果を設定することが可能となり、撮影時要件に応じた最適なトレードオフ状態を設定することで高画質な写真を得ることが可能となる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
<4.その他の実施の形態>
本開示による技術は、上記実施の形態の説明に限定されず種々の変形実施が可能である。
例えば、可変光学ローパスフィルタ30は図3〜図6に示した構成例に限らず、他の構成であってもよい。例えば、圧電素子を用いて撮像素子6を微小振動させることでローパスフィルタ効果を得るようなものであってもよい。また例えば、図24に示したように、液晶層33と第1の電極34および第2の電極35とを第1の透明基板36および第2の透明基板37によって挟み、その外側に第1の複屈折板31および第2の複屈折板32を配置した構成となっていてもよい。第1の透明基板36および第2の透明基板37としては、複屈折性の影響を与えないよう、石英ガラスなどの光学的等方性材料を用いることが好ましい。
また例えば、本技術は以下のような構成を取ることができる。
(1)
撮影された画像に対する、画像処理により変更される前記画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部を備えた
フィルタ制御装置。
(2)
画像処理によって前記画像のシャープネスを補正するシャープネス補正処理部をさらに備え、
前記シャープネス補正処理部は、前記倍率に応じてシャープネス補正特性を変化させる
上記(1)に記載のフィルタ制御装置。
(3)
前記フィルタ制御部は、画像処理による前記画像の拡大と、エイリアシングの発生の検出または予測とに応じて、前記光学ローパスフィルタのローパス特性を前記倍率が1倍のときよりも弱くする
上記(1)または(2)に記載のフィルタ制御装置。
(4)
前記フィルタ制御部は、画像処理によって前記画像が拡大され、かつエイリアシングの発生が検出または予測される場合に、前記光学ローパスフィルタのローパス特性を、前記エイリアシングの発生が検出されない、または予測されない場合よりも強くする
上記(3)に記載のフィルタ制御装置。
(5)
前記フィルタ制御部は、画像処理によって前記画像が拡大された場合に、前記光学ローパスフィルタのローパス特性を、前記画像が拡大される前よりも弱くする
上記(1)または(2)に記載のフィルタ制御装置。
(6)
前記フィルタ制御部は、画像処理によって前記画像が縮小された場合に、前記光学ローパスフィルタのローパス特性を、前記画像の縮小前よりも強くする
上記(1)ないし(5)のいずれか1つに記載のフィルタ制御装置。
(7)
前記フィルタ制御部は、ピント調整操作部によるピント調整が行われている間は、前記光学ローパスフィルタのローパス効果を、前記ピント調整が行われていない場合よりも弱くする
上記(1)ないし(6)のいずれか1つに記載のフィルタ制御装置。
(8)
前記光学ローパスフィルタのローパス特性を示すデータをRawデータと共に記録するRawデータ記録部をさらに備えた
上記(1)ないし(7)のいずれか1つに記載のフィルタ制御装置。
(9)
前記撮像装置は、前記撮影された画像をライブビュー画像として表示する
上記(1)ないし(8)のいずれか1つに記載のフィルタ制御装置。
(10)
ライブビュー画像の倍率の変更がなされた場合に、前記光学ローパスフィルタのローパス特性を変化させることが可能なローパスフィルタ効果設定部をさらに備えた
上記(1)ないし(9)のいずれか1つに記載のフィルタ制御装置。
(11)
前記光学ローパスフィルタは、
液晶層と、
前記液晶層を挟んで互いに対向配置され、前記液晶層に電界を印加する第1および第2の電極と、
前記液晶層、ならびに前記第1および第2の電極を挟んで互いに対向配置された第1および第2の複屈折板とを有し、
前記第1および第2の電極間の電圧変化に応じてローパス特性が変化する
上記(1)ないし(10)のいずれか1つに記載のフィルタ制御装置。
(12)
撮影された画像に対する、画像処理により変更される前記画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行う
フィルタ制御方法。
(13)
光学ローパスフィルタと、
撮影された画像に対する、画像処理により変更される前記画像の倍率に応じて、前記光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部と
を備えた撮像装置。
本出願は、日本国特許庁において2014年7月3日に出願された日本特許出願番号第2014−138060号を基礎として優先権を主張するものであり、この出願のすべての内容を参照によって本出願に援用する。
当業者であれば、設計上の要件や他の要因に応じて、種々の修正、コンビネーション、サブコンビネーション、および変更を想到し得るが、それらは添付の請求の範囲やその均等物の範囲に含まれるものであることが理解される。

Claims (13)

  1. 撮影された画像に対する、画像処理により変更される前記画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部を備えた
    フィルタ制御装置。
  2. 画像処理によって前記画像のシャープネスを補正するシャープネス補正処理部をさらに備え、
    前記シャープネス補正処理部は、前記倍率に応じてシャープネス補正特性を変化させる
    請求項1に記載のフィルタ制御装置。
  3. 前記フィルタ制御部は、画像処理による前記画像の拡大と、エイリアシングの発生の検出または予測とに応じて、前記光学ローパスフィルタのローパス特性を前記倍率が1倍のときよりも弱くする
    請求項1に記載のフィルタ制御装置。
  4. 前記フィルタ制御部は、画像処理によって前記画像が拡大され、かつエイリアシングの発生が検出または予測される場合に、前記光学ローパスフィルタのローパス特性を、前記エイリアシングの発生が検出されない、または予測されない場合よりも強くする
    請求項3に記載のフィルタ制御装置。
  5. 前記フィルタ制御部は、画像処理によって前記画像が拡大された場合に、前記光学ローパスフィルタのローパス特性を、前記画像が拡大される前よりも弱くする
    請求項1に記載のフィルタ制御装置。
  6. 前記フィルタ制御部は、画像処理によって前記画像が縮小された場合に、前記光学ローパスフィルタのローパス特性を、前記画像の縮小前よりも強くする
    請求項1に記載のフィルタ制御装置。
  7. 前記フィルタ制御部は、ピント調整操作部によるピント調整が行われている間は、前記光学ローパスフィルタのローパス効果を、前記ピント調整が行われていない場合よりも弱くする
    請求項1に記載のフィルタ制御装置。
  8. 前記光学ローパスフィルタのローパス特性を示すデータをRawデータと共に記録するRawデータ記録部をさらに備えた
    請求項1に記載のフィルタ制御装置。
  9. 前記撮像装置は、前記撮影された画像をライブビュー画像として表示する
    請求項1に記載のフィルタ制御装置。
  10. ライブビュー画像の倍率の変更がなされた場合に、前記光学ローパスフィルタのローパス特性を変化させることが可能なローパスフィルタ効果設定部をさらに備えた
    請求項1に記載のフィルタ制御装置。
  11. 前記光学ローパスフィルタは、
    液晶層と、
    前記液晶層を挟んで互いに対向配置され、前記液晶層に電界を印加する第1および第2の電極と、
    前記液晶層、ならびに前記第1および第2の電極を挟んで互いに対向配置された第1および第2の複屈折板とを有し、
    前記第1および第2の電極間の電圧変化に応じてローパス特性が変化する
    請求項1に記載のフィルタ制御装置。
  12. 撮影された画像に対する、画像処理により変更される前記画像の倍率に応じて、撮像装置に搭載される光学ローパスフィルタのローパス特性を変化させる制御を行う
    フィルタ制御方法。
  13. 光学ローパスフィルタと、
    撮影された画像に対する、画像処理により変更される前記画像の倍率に応じて、前記光学ローパスフィルタのローパス特性を変化させる制御を行うフィルタ制御部と
    を備えた撮像装置。
JP2016531219A 2014-07-03 2015-06-10 フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置 Expired - Fee Related JP6669065B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014138060 2014-07-03
JP2014138060 2014-07-03
PCT/JP2015/066698 WO2016002447A1 (ja) 2014-07-03 2015-06-10 フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置

Publications (2)

Publication Number Publication Date
JPWO2016002447A1 true JPWO2016002447A1 (ja) 2017-05-25
JP6669065B2 JP6669065B2 (ja) 2020-03-18

Family

ID=55018996

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016531219A Expired - Fee Related JP6669065B2 (ja) 2014-07-03 2015-06-10 フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置

Country Status (3)

Country Link
US (1) US20170139308A1 (ja)
JP (1) JP6669065B2 (ja)
WO (1) WO2016002447A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2017154366A1 (ja) * 2016-03-11 2019-01-17 ソニー株式会社 ローパスフィルタ制御装置、およびローパスフィルタ制御方法、ならびに撮像装置
JP7160042B2 (ja) * 2017-09-08 2022-10-25 ソニーグループ株式会社 画像処理装置、画像処理方法および画像処理プログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0915535A (ja) * 1995-06-27 1997-01-17 Olympus Optical Co Ltd 光学的ローパスフィルタ
JPH1065949A (ja) * 1996-08-13 1998-03-06 Canon Inc 画像処理装置及び撮像装置
JP2007013475A (ja) * 2005-06-29 2007-01-18 Canon Inc 画像処理装置および方法
JP2007295129A (ja) * 2006-04-21 2007-11-08 Casio Comput Co Ltd 撮像装置及び電子ズーム方法と、プログラム
JP2011135495A (ja) * 2009-12-25 2011-07-07 Nikon Corp 撮影画像へのメモ書きシステムおよび撮影装置
JP2012005044A (ja) * 2010-06-21 2012-01-05 Nikon Corp ディジタルカメラ
JP2013131905A (ja) * 2011-12-21 2013-07-04 Nikon Corp 撮像装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5233431A (en) * 1990-10-26 1993-08-03 Fuji Photo Film Co., Ltd. Image pickup device
US6449013B1 (en) * 1993-10-27 2002-09-10 Canon Kabushiki Kaisha Image pickup apparatus capable of taking color natural images and high-resolution images of a monochrome object
JP2001203969A (ja) * 2000-01-21 2001-07-27 Fuji Photo Film Co Ltd 撮像装置およびその動作制御方法
US7102669B2 (en) * 2002-04-02 2006-09-05 Freescale Semiconductor, Inc. Digital color image pre-processing
US7616818B2 (en) * 2003-02-19 2009-11-10 Agfa Healthcare Method of determining the orientation of an image
JP4250437B2 (ja) * 2003-03-04 2009-04-08 キヤノン株式会社 信号処理装置、信号処理方法およびプログラム
US7180673B2 (en) * 2003-03-28 2007-02-20 Cdm Optics, Inc. Mechanically-adjustable optical phase filters for modifying depth of field, aberration-tolerance, anti-aliasing in optical systems
JP2006340120A (ja) * 2005-06-03 2006-12-14 Sony Corp 撮像装置、撮像結果の処理方法、画像処理装置、撮像結果の処理方法のプログラム、撮像結果の処理方法のプログラムを記録した記録媒体及び撮像結果の処理システム
KR101441583B1 (ko) * 2008-01-21 2014-09-19 삼성전자 주식회사 디지털 이미징 기기의 모아레 제거장치 및 방법
US8228418B2 (en) * 2009-03-20 2012-07-24 Eastman Kodak Company Anti-aliasing spatial filter system
JP2010268426A (ja) * 2009-04-15 2010-11-25 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP5411623B2 (ja) * 2009-08-18 2014-02-12 キヤノン株式会社 画像処理装置及び方法
JP5432664B2 (ja) * 2009-10-22 2014-03-05 キヤノン株式会社 撮像装置
US8159600B2 (en) * 2009-12-07 2012-04-17 Hiok Nam Tay Auto-focus image system

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0915535A (ja) * 1995-06-27 1997-01-17 Olympus Optical Co Ltd 光学的ローパスフィルタ
JPH1065949A (ja) * 1996-08-13 1998-03-06 Canon Inc 画像処理装置及び撮像装置
JP2007013475A (ja) * 2005-06-29 2007-01-18 Canon Inc 画像処理装置および方法
JP2007295129A (ja) * 2006-04-21 2007-11-08 Casio Comput Co Ltd 撮像装置及び電子ズーム方法と、プログラム
JP2011135495A (ja) * 2009-12-25 2011-07-07 Nikon Corp 撮影画像へのメモ書きシステムおよび撮影装置
JP2012005044A (ja) * 2010-06-21 2012-01-05 Nikon Corp ディジタルカメラ
JP2013131905A (ja) * 2011-12-21 2013-07-04 Nikon Corp 撮像装置

Also Published As

Publication number Publication date
US20170139308A1 (en) 2017-05-18
WO2016002447A1 (ja) 2016-01-07
JP6669065B2 (ja) 2020-03-18

Similar Documents

Publication Publication Date Title
JP4528235B2 (ja) デジタルカメラ
JP4767838B2 (ja) 撮像装置および撮像方法
US11729500B2 (en) Lowpass filter control apparatus and lowpass filter control method for controlling variable lowpass filter
US8854503B2 (en) Image enhancements through multi-image processing
JP6291747B2 (ja) 光学的ローパスフィルタ、撮像デバイスおよび撮像装置
JP5013852B2 (ja) 画角補正装置及び方法並びに撮像装置
JP6669065B2 (ja) フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置
US10911681B2 (en) Display control apparatus and imaging apparatus
WO2016006440A1 (ja) フィルタ制御装置およびフィルタ制御方法、ならびに撮像装置
US20100097499A1 (en) Image pickup apparatus and method of using the same
JP2006253970A (ja) 撮像装置、シェーディング補正データ作成方法およびプログラム
JP5673137B2 (ja) 撮像装置および撮像方法
WO2017043131A1 (ja) 撮像装置、シェーディング補正方法
JP4781670B2 (ja) 撮像装置
JP2012005044A (ja) ディジタルカメラ
US11467482B2 (en) Signal processing device, signal processing method, and image capture device
WO2014136703A1 (ja) 撮像装置及び画像表示方法
WO2012140919A1 (ja) ステレオ画像生成装置およびステレオ画像生成方法
US10972710B2 (en) Control apparatus and imaging apparatus
JP2011172031A (ja) 撮像装置、画質調整システム、撮像方法及びプログラム
JP2014132701A (ja) ステレオ画像生成装置およびステレオ画像生成方法
JP2014155042A (ja) 撮像装置
JP2016208064A (ja) 撮像装置及び撮像方法
JP2014132700A (ja) ステレオ画像生成装置およびステレオ画像生成方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180502

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200210

R151 Written notification of patent or utility model registration

Ref document number: 6669065

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees