JPWO2014171423A1 - 撮像装置、キャリブレーションシステム、及びプログラム - Google Patents

撮像装置、キャリブレーションシステム、及びプログラム Download PDF

Info

Publication number
JPWO2014171423A1
JPWO2014171423A1 JP2015512472A JP2015512472A JPWO2014171423A1 JP WO2014171423 A1 JPWO2014171423 A1 JP WO2014171423A1 JP 2015512472 A JP2015512472 A JP 2015512472A JP 2015512472 A JP2015512472 A JP 2015512472A JP WO2014171423 A1 JPWO2014171423 A1 JP WO2014171423A1
Authority
JP
Japan
Prior art keywords
calibration
unit
imaging
image
chart
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015512472A
Other languages
English (en)
Other versions
JP5897769B2 (ja
Inventor
杉本 雅彦
雅彦 杉本
林 健吉
健吉 林
洋介 成瀬
洋介 成瀬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2015512472A priority Critical patent/JP5897769B2/ja
Application granted granted Critical
Publication of JP5897769B2 publication Critical patent/JP5897769B2/ja
Publication of JPWO2014171423A1 publication Critical patent/JPWO2014171423A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/743Bracketing, i.e. taking a series of images with varying exposure conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)

Abstract

本発明は、撮像装置における点像復元処理に関してのキャリブレーションを行う際に、キャリブレーションの必要性を判断し、キャリブレーションが必要な場合に的確にキャリブレーションを行う撮像装置、キャリブレーションシステム、キャリブレーション方法及びプログラムを提供する。撮影装置100は、撮像部248と、チャート保持部240と、チャート送信制御部242と、外部表示装置に表示されたキャリブレーション用チャートが撮像部248により撮影されることにより得られるキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行うキャリブレーション必要性判断部244と、キャリブレーション必要性判断部244が行ったキャリブレーションが必要か否かの判断に応じて、キャリブレーションの実行を制御するキャリブレーション制御部246と、キャリブレーション実行部247と、を備える。

Description

本発明は、撮像装置、キャリブレーションシステム、キャリブレーション方法、及びプログラムに関する技術であり、特に点像分布関数(PSF:Point Spread Function)に基づいて行われる撮影画像への点像復元処理におけるキャリブレーションに関する。
デジタルカメラ等の撮像装置により、被写体を撮影して得られた撮影画像には、光学系(撮影レンズ等)に関する種々の収差に由来する画像劣化が生じている場合がある。
この収差に由来する画像劣化(回折ボケ、周辺ボケ、倍率色収差等)を改善するために、被写体像の画像データに画像処理を行って、収差に由来する画像劣化を取り除く(修正する)技術が考えられてきた。
収差による画像劣化は、点像分布関数により表現することができ、画質劣化した撮影画像に対し点像分布関数に基づく点像復元処理を行うことにより画質を回復することができる。すなわち点像復元処理は、点像分布関数の復元フィルタ(逆フィルタ)を撮影画像データに実行することによって、画像劣化をキャンセルする処理である。
画像劣化は光学系(レンズ)の個体ばらつきや撮像装置本体の製造時の個体ばらつきによって影響を受けるため、ユーザーが使用する光学系と撮像装置本体とをキャリブレーションしてから撮影することにより、撮影画像の画質が向上することが期待できる。
特許文献1には、製造ばらつきによるレンズの特性がある場合であっても、ユーザーが回復処理(本願の点像復元処理に対応するものと考えられる)がなされた画像データを確認しながら回復処理のパラメータを調節するために、回復処理が効果的である調整画像領域を自動的に提示し、パラメータ調整の際のユーザーの負担を軽減する技術が開示されている。
特許文献2には、撮像手段を用いて外部画像表示装置の調整用画像パターンを撮像し、ホワイトバランス等の画像処理のパラメータの補正値を算出し、ユーザーの周囲に関する環境や外部表示装置の表示特性に適した表示調整を行うことができる技術が開示されている。
特許文献3には、画像出力装置に表示される画像を撮像することにより得られた画像に基づいて、画像出力特性調整を簡便に行う技術が開示されている。
特開2011−193277号公報 特開2007−81685号公報 特開2009−200782号公報
しかしながら、特許文献1から3に開示された技術では、点像復元処理機能を備えた撮像装置において点像復元処理のパラメータのキャリブレーションを行う上で有効的な技術は開示されていなく、キャリブレーションを行う際のユーザーへの負担が大きく、精度が良いキャリブレーションを実行することができない場合がある。すなわち、撮影した画像(撮影画像ともいう)に対し点像復元処理を行う撮像装置において、点像復元処理が行われる画像の撮影をする前にキャリブレーション(パラメータの調整)を行う技術について開示されていない。
本発明はこのような事情に鑑みてなされたものであり、本発明によれば、撮像装置等の個体ばらつきに応じた点像復元処理のパラメータに関するキャリブレーションを行う際に、ユーザーの負担を軽減しつつも精度良くキャリブレーションを行うことができ、その結果、撮像装置における個体ばらつきにより生じる撮影画像の劣化を低減することができる。
上記目的を達成するために、本発明の一の態様に係る撮像装置は、撮像部と、点像復元処理のパラメータに関するキャリブレーション用チャートを保持するチャート保持部と、チャート保持部が保持するキャリブレーション用チャートを外部表示装置に送信するチャート送信制御部と、外部表示装置に表示されたキャリブレーション用チャートが撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行い、当該判断を出力するキャリブレーション必要性判断部と、キャリブレーション必要性判断部から出力されたキャリブレーションが必要か否かの判断に応じて、キャリブレーション実行命令を出力することによりキャリブレーションの実行を制御するキャリブレーション制御部と、キャリブレーション制御部より出力された前記キャリブレーション実行命令により、キャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーション実行部と、を備える。
これにより、撮影装置等の個体ばらつきに応じた点像復元処理のパラメータに関するキャリブレーションを行う際に、ユーザーの負担を軽減しつつも精度良くキャリブレーションを行うことができ、撮像装置等の個体ばらつきにより生じる撮影画像の劣化を低減することができる。
また、キャリブレーションが必要であるか否かを判断してキャリブレーションを行うため、キャリブレーションが必要な場合に的確にキャリブレーションを行うことができ、得られる撮影画像の個体ばらつきを抑制することができる。
撮像装置において、好ましくは、撮像部は、ブラケッティング撮影モードを有し、キャリブレーション実行部は、ブラケッティング撮影モードで撮像部により撮影された複数のキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行う。
これにより、自動的に複数のキャリブレーション画像を取得することができユーザーの負担の軽減をすることが可能であり、複数のキャリブレーション画像に基づいて点像復元処理のパラメータに関するキャリブレーションを行うため、より的確なキャリブレーションを行うことが可能である。
撮像装置において、好ましくは、撮像部は、ブラケッティング撮影モードにおいて、複数の撮影条件のうちの一部の撮影条件により、キャリブレーション画像を撮影し、キャリブレーション実行部は、複数の撮影条件のうちの一部の撮影条件により撮影されたキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行う。
これにより、キャリブレーション画像を取得する際の負荷及びユーザーの負担を軽減することができる。
撮像装置において、好ましくは、撮像部は、外部表示装置と同期されており、撮像部は、ブラケッティング撮影モードによる撮像部の撮影に応じて外部表示装置に同期して表示される、キャリブレーション用チャートを撮影する。
これにより、外部表示装置と撮影のタイミングを、ユーザーにおいて図る必要がなく、キャリブレーション画像を取得する際のユーザーの負担軽減となる。
撮像装置において、好ましくは、撮像部は、外部表示装置と同期されており、撮像部は、撮像部の撮影に応じて外部表示装置に同期して表示される、キャリブレーション用チャートを撮影する。
これにより、外部表示装置と撮影のタイミングを、ユーザーにおいて図る必要がなく、キャリブレーション画像を取得する際のユーザーの負担軽減となる。
撮像装置において、好ましくは、撮像装置は、さらに、キャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断する撮影環境判断部を備え、キャリブレーション制御部は、さらに、キャリブレーション画像が取得されることに適した撮影環境か否かの撮影環境判断部の判断に応じて、キャリブレーションの実行を制御する。
これにより、キャリブレーション画像を取得することに適した撮影環境において、キャリブレーション画像を取得することができるので、より的確なキャリブレーションを行うことができる。
撮像装置において、好ましくは、チャート保持部は、さらに、環境判断用チャートを有し、チャート送信制御部は、さらに、環境判断用チャートを外部表示装置に送信し、撮影環境判断部は、外部表示装置に表示された環境判断用チャートが撮像部により撮影されることにより得られる環境判断画像、又は、環境判断画像及びキャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断する。
これにより、より多様な条件に関して、キャリブレーション画像を取得することに適した撮影環境か否かを判断することができる。
撮像装置において、好ましくは、撮影環境判断部は、複数のキャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断する。
これにより、より的確なキャリブレーション画像を取得することに適した撮影環境において、キャリブレーション画像を取得することができ、より的確なキャリブレーションを行うことができる。
撮像装置において、好ましくは、撮影環境判断部は、複数の環境判断画像、又は、単数若しくは複数の環境判断画像及び単数若しくは複数のキャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断する。
これにより、より的確なキャリブレーション画像を取得することに適した撮影環境において、キャリブレーション画像を取得することができ、より的確なキャリブレーションを行うことができる。
撮像装置において、好ましくは、チャート送信制御部は、外部表示装置の表示性能に関する情報を取得し、表示性能に応じたキャリブレーション用チャートを外部表示装置に送信する。
これにより、より的確にキャリブレーション用チャートが外部表示装置に表示されるため、より適切なキャリブレーション画像の取得が可能となる。
撮像装置において、好ましくは、チャート送信制御部は、表示装置の表示性能に関する情報を取得し、表示性能に応じたキャリブレーション用チャート及び環境判断用チャートを表示装置に送信する。
これにより、より的確にキャリブレーション用チャートが外部表示装置に表示されるため、より適切なキャリブレーション画像の取得が可能となる。
撮像装置において、好ましくは、撮像装置は、さらに、撮像部により撮影された画像に点像復元処理を行う点像復元処理部を備え、点像復元処理部は、キャリブレーションが行われた点像復元処理のパラメータを使用して点像復元処理を行う。
これにより、撮像装置の個体ばらつきに応じた、点像復元処理のパラメータを使用して点像復元処理を実行することができ、より撮像装置の個体ばらつきが抑制された撮影画像を得ることが可能である。
撮像装置において、好ましくは、撮像装置は、キャリブレーションが行われた点像復元処理のパラメータに対応する撮影条件により撮影すること及びキャリブレーションが行われた点像復元処理のパラメータにより点像復元処理を優先して行う、優先撮影モードを有する。
これにより、得られる撮影画像に点像復元処理を行った場合に、より撮像装置の個体ばらつきが抑制された撮影画像を得ることが可能である。
撮像装置において、好ましくは、撮像装置は、さらに、確認画像表示制御部及び確認画像表示部を有しており、確認画像表示制御部は、キャリブレーションが行われた点像復元処理のパラメータに対応する撮影条件を使用して撮影を行う場合には、キャリブレーション済みであることの情報を確認画像表示部に表示する。
これにより、ユーザーにキャリブレーション済みの撮影条件であることを提示することができ、不要なキャリブレーションの実行を防ぐことが可能であり、ユーザーの負担を軽減することができる。
撮像装置において、好ましくは、撮像装置は、さらに、確認画像表示制御部及び確認画像表示部を有しており、撮影環境判断部の判断が適した撮影環境でないという判断の場合に、確認画像表示制御部は警告表示を確認画像表示部に表示する。
これにより、キャリブレーション画像を取得することに適した撮影環境でキャリブレーション画像が取得される可能性を高めることができる。
撮像装置において、好ましくは、確認画像表示制御部は、予備撮影指示信号に応じて、本撮影前の確認画像及びキャリブレーション済みであることの情報を確認画像表示部に表示する。
撮像装置において、好ましくは、確認画像表示制御部は、キャリブレーションが行われた点像復元処理のパラメータに対応する撮影条件で撮像部により撮影された撮影画像を表示する際に、キャリブレーション済みであることの情報を、確認画像表示部に表示する。
撮像装置において、好ましくは、撮像部は、交換式レンズを有する。また、撮像装置において、好ましくは、撮像部は、位相を変調して被写界深度を拡大させるレンズを有する。
上記目的を達成するために、本発明の他の態様に係るキャリブレーションシステムは、撮像装置と表示装置を有し、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーションシステムであって、撮像装置は、撮像部と、点像復元処理のパラメータに関するキャリブレーション用チャートを保持するチャート保持部と、チャート保持部が保持するキャリブレーション用チャートを表示装置に送信するチャート送信制御部と、表示装置の表示部に表示されたキャリブレーション用チャートが撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行うキャリブレーション必要性判断部と、キャリブレーション必要性判断部が行ったキャリブレーションが必要か否かの判断に応じて、キャリブレーションの実行を制御するキャリブレーション制御部と、キャリブレーション制御部の制御により、キャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーション実行部と、を備え、表示装置は、チャート保持部から送信されてくるキャリブレーション用チャートを受信するチャート受信部と、キャリブレーション用チャートの表示画面への表示を制御するチャート表示制御部と、キャリブレーション用チャートを表示する表示部と、を備える。
上記目的を達成するために、本発明の他の態様に係るキャリブレーション方法は、点像復元処理のパラメータに関するキャリブレーション用チャートを外部表示装置に送信するチャート送信制御ステップと、外部表示装置に表示されたキャリブレーション用チャートが撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行うキャリブレーション必要性判断ステップと、キャリブレーション必要性判断ステップで行ったキャリブレーションが必要か否かの判断に応じて、キャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーション実行ステップと、を含む。
上記目的を達成するために、本発明の他の態様に係るプログラムは、点像復元処理のパラメータに関するキャリブレーション用チャートを外部表示装置に送信するチャート送信制御ステップと、外部表示装置に表示されたキャリブレーション用チャートが撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行うキャリブレーション必要性判断ステップと、キャリブレーション必要性判断ステップで行ったキャリブレーションが必要か否かの判断に応じて、キャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーション実行ステップをコンピュータに実行させる。
本発明によれば、撮像装置等の個体ばらつきに応じた点像復元処理のパラメータに関するキャリブレーションを行う際に、ユーザーの負担を軽減しつつも精度良くキャリブレーションを行うことができ、撮像装置における個体ばらつきにより生じる撮影画像の劣化を低減することができる。
図1(A)および図1(B)は、本発明の撮像装置がキャリブレーション用チャートを撮影することを説明する図である。 撮像装置の正面からの外観を示す斜視図である。 撮像装置の背面からの外観を示す斜視図である。 撮像装置の要部に関するブロック図である。 撮像装置の要部に関するブロック図である。 必要性判断部が行う判断の例を説明する図である。 点像復元処理を説明する図である。 点像復元処理を説明する図である。 撮像装置の動作を説明する図である。 撮像装置の変形例における要部に関するブロック図である。 撮像装置の変形例に関して説明する図である。 撮像装置の変形例に関して動作を説明する図である。 撮像装置の変形例に関して説明する図である。 撮像装置の変形例に関して動作を説明する図である。 撮像装置の変形例に関して動作を説明する図である。 撮像装置の変形例に関して動作を説明する図である。 撮像装置の変形例に関して動作を説明する図である。 キャリブレーションシステムの要部に関するブロック図である。 EDoF光学系を備える撮像モジュールの一形態を示すブロック図である。 EDoF光学系の一例を示す図である。 図19に示す復元処理ブロックにおける復元処理の一例を示すフローチャートである。 点像復元処理により復元される点像の様子を示す図である。 撮像装置の他の態様を示す図である。 図23に示す撮像装置の構成を示すブロック図である。
添付図面を参照して本発明の実施形態について説明する。なお、以下の説明は、本発明の例であり、本発明を限定するものではない。
図1(A)および図1(B)は、本発明の一つの例である撮像装置100が外部表示装置101に表示されるキャリブレーション用チャートを撮影することを概略的に示している。図1(A)には、撮像装置100が外部表示装置101に表示されるキャリブレーション用チャートを撮影し、点像復元処理のパラメータに関するキャリブレーションを行うことが示されている。なお、図1(A)における、撮像装置100はデジタルカメラであり、外部表示装置101はモニターであり、外部表示装置101の表示部111はキャリブレーション用チャートである。この外部表示装置101の表示部111に表示されたキャリブレーション用チャートを撮像装置100により撮影し、キャリブレーション画像を取得することにより、キャリブレーションが行われることとなる。
図1(B)においても、撮像装置100が外部表示装置101に表示されるキャリブレーション用チャートを撮影することを概略的に示されている。図1(B)では、外部表示装置101がスマートフォン(多機能携帯電話)により構成されている。このように、画像を表示することが可能な表示部111を有すれば、外部表示装置101の具体的な機器は特に限定されるものではない。例えば、図1(A)及び(B)の例に加え、外部表示装置101としてタブレット端末等を使用することも想定される。
なお、撮像装置100の撮像部248(図4参照)と外部表示装置101とは同期されており、撮像部248は、撮像部248の撮影に応じて外部表示装置101に同期して表示される、キャリブレーション用チャートを撮影する態様にしてもよい。また、撮像部248は、外部表示装置101と同期されており、撮像部248は、後述するブラケッティング撮影モードによる撮像部248の撮影に応じて外部表示装置101に同期して表示される、キャリブレーション用チャートを撮影する態様にしてもよい。
図2は、撮像装置100の外観を示す斜視図である。撮像装置100は、撮像装置本体105と、撮像装置本体105に交換可能に装着されるレンズ装置150と、を備える。撮像装置本体105とレンズ装置150とは、撮像装置本体105に備えられたマウント146(送信手段、受信手段)と、マウント146に対応するレンズ装置150側のマウント(受信手段、送信手段)(図示せず)と、が結合されることにより交換可能に装着される。また、撮像装置本体105の前面にはマウント146の他、フラッシュ140が設けられており、上面にはレリーズボタン120−1及び撮影モード設定用のダイヤル120−2が設けられている。なお、撮影モード設定用のダイヤルにより設定可能な撮影モードとして、キャリブレーションモードや、キャリブレーションが行われた点像復元処理のパラメータに対応する撮影条件による撮影を優先して行う、優先撮影モードが考えられる。また、図2では交換式レンズを有する撮像装置100に関して説明をしたが、特にこれに限定されるものではない。
マウント146には端子147(送信手段、受信手段)が設けられており、レンズ装置150側のマウントには端子(送信手段、受信手段)(図示せず)が設けられていて、レンズ装置150を撮像装置本体105に装着すると、対応する端子147とレンズ装置150側のマウントにおける端子とが接触して通信が可能となる。なお、図2における端子147は概念的に示したものであり、本発明における端子の位置及び個数はこれらの図におけるものに限定されるものではない。
一方、図3に示すように、撮像装置本体105の背面には、モニター(確認画像表示部225)、十字ボタン160、MENU/OKボタン165、再生ボタン170、BACKボタン175等が配設されている。
図4は、本発明に係る撮像装置100の要部を説明した要部ブロック図である。撮像装置100は、撮像部248、確認画像表示部225、確認画像表示制御部227、チャート送信制御部242、チャート保持部240、キャリブレーション必要性判断部244、キャリブレーション制御部246、及びキャリブレーション実行部247を有する。さらに、撮像部248は、レンズ部218、シャッター220、撮像素子222、A/D変換器224、CPU212、操作部214、デバイス制御部216、メモリ部226、画像処理部228、点像復元処理部229、エンコーダ230、ドライバ232を有する。
撮像装置100は、撮像した撮影画像を内部メモリ(メモリ部226)、又は外部の記録メディア(図示せず)に記録することが可能であり、装置全体の動作は、中央処理装置(CPU)212によって統括制御される。
撮像装置100には、シャッターボタン又はシャッタースイッチ、モードダイヤル、再生ボタン、MENU/OKキー、十字キー、ズームボタン、及びBACKキー等を含む操作部214が設けられている。この操作部214からの信号はCPU212に入力され、CPU212は入力信号に基づいて撮像装置100の各回路を制御し、例えば、デバイス制御部216を介してレンズ部218、シャッター220、及び撮像素子222を制御するとともに、撮影動作制御、画像処理制御、画像データの記録/再生制御、及び確認画像表示部225の表示制御などを行う。
レンズ部218は、フォーカスレンズ、ズームレンズ、絞り等を含み、レンズ部218及びシャッター220を通過した光束は、撮像素子222の受光面に結像される。また、撮像部248のレンズ部218は交換式であってもよいし、非交換式であってもよい。また、撮像部248のレンズ部218は、位相を変調して被写界深度を拡大させてもよい。
撮像素子222は、多数の受光素子(フォトダイオード)が2次元配列されており、各フォトダイオードの受光面に結像された被写体像は、その入射光量に応じた量の信号電圧(又は電荷)に変換される。
撮像素子222に使用されるカラーフィルタは、様々な配列(カラーフィルタ配列)を採用することができ、特に限定されるものではない。例えば、撮像素子222は、ベイヤ配列を採用することができる。
撮像素子222に蓄積された信号電荷は、デバイス制御部216から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。撮像素子222から読み出された電圧信号は、A/D変換器224に加えられ、ここで、順次カラーフィルタ配列に対応するデジタルのR(赤色)、G(緑色)、及びB(青色)信号に変換され、一旦、メモリ部226に保存される。
メモリ部226は、揮発性メモリであるSDRAMや、書き換え可能な不揮発性メモリであるEEPROM等を含み、SDRAMは、CPU212によるプログラムの実行時におけるワークエリアとして、又、撮像され取得されたデジタル画像信号を一時保持する記憶エリアとして使用される。一方、EEPROMには、画像処理プログラムを含むカメラ制御プログラム、撮像素子222の画素の欠陥情報、画像処理等に使用する各種のパラメータやテーブル等が記憶されている。
画像処理部228は、メモリ部226に一旦格納されたデジタルの画像信号に対して、ホワイトバランス補正、ガンマ補正処理、デモザイク処理(同時化処理とも言われる)、RGB/YC変換、輪郭補正、色収差補正、点像復元処理等の信号処理を行う。なお、本発明においてはこれらの信号処理の順序については特に制限されるものではない。また、画像処理部228内に、点像復元処理部229が備えられている。点像復元処理部229の詳しい説明は後述する。なお、図4では、点像復元処理部229は撮像部248における画像処理部228内に設けられているが、これに限定されるものではない。例えば、点像復元処理部229が画像処理部228とは別に設けられていてもよいし、撮像部248とは別に設けられていてもよい。
画像処理部228を用いて処理された画像データは、エンコーダ230において画像表示用のデータにエンコーディングされ、ドライバ232を介してカメラ背面に設けられている確認画像表示部225に出力される。これにより、被写体像が連続的に確認画像表示部225の表示画面上に表示される。
操作部214のシャッターボタン(レリーズスイッチ)は、撮像開始の指示を入力するための操作手段であり、いわゆる「半押し」と「全押し」とからなる2段ストローク式のスイッチにより構成されている。撮像装置100(デジタルカメラ)は、シャッターボタンが半押しされることによってS1オンの信号(予備撮影指示信号)、半押しからさらに押し込む全押しがされることによってS2オンの信号(本撮影指示信号)が出力され、S1オン信号が出力されると自動焦点調節(AF処理)や自動露出制御(AE処理)などの撮影準備処理を実行し、S2オン信号が出力されると撮影処理を実行する。
なお、シャッターボタンは半押しと全押しとからなる2段ストローク式のスイッチの形態に限られず、1回の操作によってS1オンの信号及びS2オンの信号を出力しても良く、それぞれ個別のスイッチを設けてS1オンの信号及びS2オンの信号を出力しても良い。また、タッチ式パネル等により操作指示を行う形態においては、これら操作手段としてタッチ式パネルの画面に表示される操作指示に対応する領域をタッチすることにより操作指示を出力するようにしても良く、本発明においては撮影準備処理や撮影処理を指示するものであれば操作手段の形態はこれらに限られない。また、1つの操作手段への操作指示により撮影準備処理と撮影処理を連続して実行するようにしても良い。
操作部214のシャッターボタンに対し、第1段階の押下(半押し)が実行されると、CPU212は第1段階の押下(半押し)に応じて出力される予備撮影指示信号を受信し、AF動作及びAE動作を開始させる。次いで、デバイス制御部216を介してレンズ部218のフォーカスレンズを光軸方向に移動させ、フォーカスレンズが合焦位置と一致するように制御する。
CPU212は、シャッターボタンの半押しにより出力される予備撮影指示信号を受信し、A/D変換器224から出力される画像データに基づいて被写体の明るさを算出し、露出条件を決定する。なお、露出条件を決定するのは、シャッターボタンの半押し時に限られものではない。
AE動作及びAF動作が終了し、シャッターボタンの第2段階の押下(全押し)があると、上記決定した露出条件により絞り、シャッター220及び撮像素子222での電荷蓄積時間を制御して本撮像が行われる。本撮像時に撮像素子222から読み出され、A/D変換器224によりA/D変換されたR、G及びBのモザイク画像(カラーフィルタ配列に対応する画像)の画像データは、メモリ部226に一時的に記憶される。
メモリ部226に一時的に記憶された画像データは、画像処理部228により適宜読み出され、ここで、ホワイトバランス補正、ガンマ補正、デモザイク処理(同時化処理)、RGB/YC変換、輪郭補正、色補正、点像復元処理等を含む所定の信号処理が行われる。RGB/YC変換された画像データ(YCデータ)は、所定の圧縮フォーマット(例えば、JPEG方式)にしたがって圧縮され、圧縮された画像データは、所定の画像ファイル(例えば、Exifファイル)形式で内部メモリや外部メモリに記録される。
確認画像表示制御部227は、ドライバ232から送られてくる撮像部248が撮影した撮影画像を、確認画像表示部225へ表示する。また、キャリブレーションが行われた点像復元処理のパラメータに対応する撮影条件を使用して撮影を行う場合には、キャリブレーション済みであることの情報が確認画像表示部225に表示されてもよい。さらに、後述するが、撮影環境判断部245の判断が適した撮影環境でないという判断の場合に、確認画像表示制御部227は警告表示を確認画像表示部225に表示する。
また、確認画像表示制御部227は、撮像部248の操作部214に備えられているシャッターボタンが半押しされ出力される予備撮影指示信号に応じて、本撮影前の確認画像及びキャリブレーション済みであることの情報を確認画像表示部225に表示してもよい。さらに、確認画像表示制御部227は、キャリブレーションが行われた点像復元処理のパラメータに対応する撮影条件で撮像部248により撮影された撮影画像を表示する際に、キャリブレーション済みであることの情報を、確認画像表示部225に表示する。
また、撮像装置100は、チャート送信制御部242、チャート保持部240、キャリブレーション必要性判断部244、キャリブレーション制御部246、及びキャリブレーション実行部247を有する。これらについては、図5に沿って詳しく説明する。
図5では、撮像装置100のチャート送信制御部242、チャート保持部240、キャリブレーション必要性判断部244、キャリブレーション制御部246、及びキャリブレーション実行部247に関して説明する図である。
チャート保持部240は、点像復元処理のパラメータに関するキャリブレーション用チャートを保持する。ここで、点像復元処理のパラメータに関するキャリブレーション用チャートとは、点像復元処理のパラメータに関するキャリブレーションに好適なものであれば特に限定されるものではない。すなわち、一般的な意味での(画像評価用の)チャートに限られず、キャリブレーションに使えるものであれば通常の画像含め、様々な画像を使用することができる。
例えば、図1(A)及び(B)に示されるような、コントラストが大きい部分がキャリブレーション用チャートのタンジェンシャル方向に配列したようなパターンを有するキャリブレーション用チャートが挙げられる。また、コントラストの大きい部分がキャリブレーション用チャートの四隅に配置されているようなパターンを有するキャリブレーション用チャートも好適に採用することができる。さらに、タンジェンシャル方向に垂直に交わるサジタル方向にコントラスの大きい部分が配置されているようなキャリブレーション用チャートを用いることもできる。
さらに具体例として、サジタル又はタンジェンシャル方向に沿った直線状の像がある画像が挙げられる。直線状の像がサジタル又はタンジェンシャル方向にあることにより、キャリブレーションを行う場合のデータの取得面積をより大きくすることができる。すなわち、撮影画像におけるサジタル方向又はタンジェンシャル方向に配置された直線状の像が得られるような被写体を撮影した場合、点像復元処理のパラメータを調整する観点で、有用なデータを得ることが可能となる。
ここで、サジタル方向又はタンジェンシャル方向に沿ってとは、本発明の効果を阻害しない範囲で、サジタル方向又はタンジェンシャル方向から逸れていてもよいことを意味する。
また、ここで、サジタル方向及びタンジェンシャル方向の基準は撮影画像(撮像部により撮影されて得られる画像)とする。本来は、撮像素子面状に投影された光学像のサジタル方向又はタンジェンシャル方向と規定することが望ましいが、撮像素子で受光し取得した画像データに基づいてしかキャリブレーション画像を得られない。従って、撮影画像を基準としてサジタル方向及びタンジェンシャル方向を考えても問題がない。ここで、タンジェンシャル方向とは撮影画像の中心を基準とした円周に対する接線方向のことをいい、サジタル方向とは、タンジェンシャル方向に垂直に交わる方向のことをいう。
また、ここで点像復元処理のパラメータとは、復元フィルタ係数、コアリング係数、ゲイン係数、PSF(点像分布関数)等のように点像復元処理内容に寄与するパラメータをいう。なお、チャート保持部240は、単数又は複数のキャリブレーション用チャートを保持することが可能である。
チャート送信制御部242は、チャート保持部240が保持するキャリブレーション用チャートを選択して、選択されたキャリブレーション用チャートを外部表示装置101に送信する。撮像部248内にある操作部214(図4を参照)によりキャリブレーションを行うことが指示されると、撮像部248内にあるCPU212からチャート送信制御部242へ、キャリブレーション用チャートの選択及び送信の指令が出される。なお、チャート送信制御部242へのキャリブレーション用チャートの選択及び送信の指令は、撮像部248内のCPU212から出されることに限定されるものではない。
チャート送信制御部242は、外部表示装置101へキャリブレーション用チャートを送信する。外部表示装置101がチャート受信部等を有する場合は、チャート送信制御部242は、チャート受信部等にキャリブレーション用チャートを送信する。なお、ここで、
チャート送信制御部242のチャートの送信の手段は特に限定されない。例えば、無線通信により、チャート送信制御部242から外部表示装置101へキャリブレーション用チャートを送信してもよい。また、SDカード等の外部メモリを利用することにより、キャリブレーション用チャートをチャート送信制御部242から外部表示装置101のチャート受信部270へ送信してもよい。また、例えばHDMI(High−Definition Multimedia Interface)(登録商標)ケーブルのような通信ケーブルで撮像装置100と外部表示装置101を接続し、撮像装置100から外部表示装置101にキャリブレーション用チャートを送信し、外部表示装置101は受信したキャリブレーション用チャートを表示するようにしても良い。
撮像装置100の撮像部248は、外部表示装置101に表示されたキャリブレーション用チャートを撮影する。
撮像部248によりキャリブレーション用チャートが撮影され、撮像部248によりキャリブレーション画像が取得される。そして、取得されたキャリブレーション画像は、キャリブレーション必要性判断部244に送られる。キャリブレーション必要性判断部244では、キャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断が行われる。
キャリブレーション必要性判断部244は、様々な方法で、キャリブレーションが必要であるか否かを判断することができる。例えば、図6に示されるように取得したキャリブレーション画像における周波数レスポンスに基づいて、キャリブレーションが必要であるか否かを判断することができる。
図6には、キャリブレーション必要性判断部244がキャリブレーションを必要と判断する場合のキャリブレーション画像の周波数レスポンスのグラフ(I)と、キャリブレーション必要性判断部244がキャリブレーションを不必要と判断する場合のキャリブレーション画像の周波数レスポンスのグラフ(II)と、キャリブレーション画像に対して点像復元処理を行った場合に得ることが期待できる周波数レスポンスのグラフ(III)が示されている。
キャリブレーション必要性判断部244では、取得したキャリブレーション画像の解析を行い、図6の(I)で示されるグラフを取得した場合は、キャリブレーションが必要であると判断する。図6で示される例では、キャリブレーションを行うか否かの判断基準は、ある周波数におけるレスポンスが一定の範囲内にあるか否かである。すなわち、図6の(IV)により、ある周波数におけるレスポンスの一定の範囲が示されており、(I)の曲線は、(IV)が示す範囲内にないので、キャリブレーション必要性判断部244はキャリブレーションを行うと判断する。
一方、キャリブレーション必要性判断部244において取得したキャリブレーション画像の解析を行い、図6の(II)で示されるグラフを取得した場合は、キャリブレーションが不必要であると判断する。すなわち、(II)の曲線は、(IV)が示す範囲内にあるので、キャリブレーション必要性判断部244はキャリブレーションを行わないと判断する。キャリブレーション必要性判断部244が行ったキャリブレーションが必要か否かの判断は、キャリブレーション制御部246へ送られる。なお、ここでいう、ある周波数とは、レスポンスを好適に確認できる周波数であれば特に限定されるものではない。例えば、ナイキスト周波数の半分の周波数(0.25Fs)を採用することができる。また、レスポンスの一定範囲とは、キャリブレーションを行うか否かを判断することが好適に判断できる範囲であれば特に限定されない。例えば、キャリブレーション画像に対して点像復元処理を行った場合に得ることが期待できる周波数レスポンスのグラフ(III)において、ある周波数のレスポンスの20%の範囲、好ましくは10%の範囲をレスポンスの一定範囲(IV)として採用することができる。
キャリブレーション制御部246では、キャリブレーション必要性判断部244が行ったキャリブレーションが必要か否かの判断結果を受信する。キャリブレーション必要性判断部244が行ったキャリブレーションが必要か否かの判断に応じて、キャリブレーション実行命令をキャリブレーション実行部247へ送信することにより、キャリブレーションの実行を制御する。
キャリブレーション実行部247では、キャリブレーション制御部246の制御により、キャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行う。キャリブレーション実行部247で行われた結果は、撮像部248に戻され、点像復元処理に反映される。
次に、図7及び図8に沿って、点像復元処理部229(図4参照)で行われる点像復元処理に関して説明を行う。
撮像装置100は、撮像部248により撮影された画像に対して、点像復元処理を行う点像復元処理部229を備える。そして、点像復元処理部229は、キャリブレーションが行われた点像復元処理のパラメータを使用して点像復元処理を行う。このようにキャリブレーション済みの点像復元処理のパラメータを使用して点像復元処理を行うことにより、撮像装置の個体ばらつきに応じた、点像復元処理を実行することができ、より撮像装置の個体ばらつきが抑制された撮影画像を得ることが可能である。
図7は、画像の撮影から点像復元処理までの概略を示す図である。点像を被写体として撮影を行う場合、被写体像はレンズ部218(レンズ、絞り等)を介して撮像素子222(イメージセンサ)により受光され、撮像素子222から原画像データDoが出力される。この原画像データDoは、レンズ部218の特性に由来する点拡がり現象によって、本来の被写体像がぼけた状態の画像データとなる。
このぼけ画像の原画像データDoから本来の被写体像(点像)を復元するため、原画像データDoに対して復元フィルタFを用いた点像復元処理P10を行うことにより、本来の被写体像(点像)により近い像(回復画像)を表す回復画像データDrが得られる。
点像復元処理P10において用いられる復元フィルタFは、原画像データDo取得時の撮影条件に応じたレンズ部218の点像情報(点拡がり関数)から、所定の復元フィルタ算出アルゴリズムP20によって得られる。レンズ部218の点像情報(点拡がり関数)は、レンズの種類だけではなく、絞り量、焦点距離、ズーム量、像高、記録画素数、画素ピッチ等の各種の撮影条件によって変動しうるため、復元フィルタFを算出する際には、これらの撮影条件が取得される。
図8により、点像復元処理部229(図4参照)にて行われる点像復元処理に関して概略を説明する。図8は、点像復元処理の一例の概略を示すブロック図である。点像復元処理P10とは、復元フィルタFを用いたフィルタリング処理によって、点像復元処理前画像データD10から点像復元処理後画像データD11を作成する処理である。すなわち、N×Mのタップによって構成される復元フィルタFを処理対象の画像データに適用し、各タップに割り当てられるフィルタ係数と、対応の画素データ(点像復元処理前画像データD10の処理対象画素データ及び隣接画素データ)と、を加重平均演算することにより、点像復元処理後の画素データ(点像復元処理後画像データD11)を算出することができる。この復元フィルタFを用いた加重平均処理を、対象画素を順番に代え、画像データを構成する全画素データに適用することにより、点像復元処理を行うことができる。
撮像装置100では、点像復元処理前画像データD10がキャリブレーション画像の画像データである。そして、キャリブレーション実行部247において、キャリブレーション画像(点像復元処理前画像データD10)に基づいて、フィルタ係数を調整又は算出する。このように、個々の撮像装置100が有する撮像部248により得たキャリブレーション画像の画像データに基づいて、フィルタ係数を算出することにより、個々の撮像部248に適したフィルタ係数を算出することができる。ここで、キャリブレーションとは、好ましい撮影画像を得るために、点像復元処理に関するパラメータを調節することを意味し、例えば、フィルタ係数を調節することが挙げられる。
図9は、本発明の撮像装置100の動作フロー図である。先ず、撮像装置100のチャート送信制御部242により、チャート保持部240に保持されているキャリブレーション用チャートを選択し外部表示装置101に送信する(ステップS10)(チャート送信制御ステップ)。そして、撮像装置100から送られてきたキャリブレーション用チャートを、外部表示装置101が受信する。
次に、外部表示装置101により、表示部111にキャリブレーション用チャートを表示される。そして、撮像装置100の撮像部248により、表示部111に表示されたキャリブレーション用チャートを撮影する(ステップS20)。そして、キャリブレーション用チャートが撮像部248により撮影されることにより得られるキャリブレーション画像に基づいて、キャリブレーション必要性判断部244により、点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断が行われる(ステップS30)(キャリブレーション必要性判断ステップ)。
そして、点像復元処理のパラメータに関するキャリブレーションが必要という判断の場合(ステップS30のYesの場合)、キャリブレーション制御部246がキャリブレーション実行命令をキャリブレーション実行部247へ送信する。キャリブレーション実行命令を受信したキャリブレーション実行部247は、点像復元処理のパラメータに関するキャリブレーションを行う(ステップS40)(キャリブレーション実行ステップ)。一方、点像復元処理のパラメータに関するキャリブレーションが不必要という判断の場合(ステップS30のNoの場合)は、キャリブレーション制御部246はキャリブレーション実行命令を出力せず、点像復元処理のパラメータに関するキャリブレーションは行われない(ステップS50)。本例においては、キャリブレーションを行わない場合、キャリブレーション制御部246はキャリブレーション実行命令を出力しないとしているが、キャリブレーション制御部246は、キャリブレーション実行部247へ、キャリブレーションを行わないという内容のキャリブレーション実行命令を送信することでも良い。
上述のような態様を採用することにより、点像復元処理が行われる撮影画像の撮影をする前にキャリブレーションを行うことにより、ユーザーへの負担を軽減し精度が良いキャリブレーションを実現した。また、撮像装置100の個体ばらつきに応じた点像復元処理のパラメータに関するキャリブレーションを行う際に、ユーザーの負担を軽減しつつも精度良くキャリブレーションを行うことができ、撮像装置100の個体ばらつきにより生じる撮影画像の劣化を低減することができる。
また、キャリブレーション必要性判断部244によりキャリブレーションが必要であるか否かを判断してキャリブレーションを行うため、キャリブレーションが必要な場合に的確にキャリブレーションを行うことができ、得られる撮影画像の撮像装置100における個体ばらつきを抑制することができる。
[撮像装置の変形例1]
図10は、撮像装置100の変形例1に関して、要部を示す要部ブロック図である。図10に示された撮像装置100の変形例1に関する要部ブロック図と図5に示された撮像装置100の要部を示す要部ブロック図を比較すると、図10に記載された撮像装置100の変形例1は撮影環境判断部245を有する点において異なる。なお、図5に示された撮像装置100と同様の要部は同じ符号を付し説明は省略する。
撮影環境判断部245により、キャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断し、キャリブレーション制御部246は、キャリブレーション画像が取得されることに適した撮影環境か否かの撮影環境判断部245の判断に応じて、キャリブレーションの実行を制御する。
図10に示された変形例1の場合には、キャリブレーション必要性判断部244からキャリブレーションが必要であるという結果が撮影環境判断部245に送付される。そして、撮影環境判断部245により、撮影環境が整っているかを判断する。
具体的には、キャリブレーション画像及び必要性判断結果を取得した撮影環境判断部245は、必要性判断結果がキャリブレーションは必要という判断結果の場合には、取得したキャリブレーション画像に基づいて、キャリブレーション画像が取得されることに適した撮影環境であるか否かを判断する。キャリブレーション画像が取得されることに適した撮影環境であるか否かの判断は、様々な方法を採用することができる。例えば、キャリブレーション画像内の特徴点を抽出して、キャリブレーション用チャートが傾いている、ずれている、撮像装置100があおり気味になっていること等が判明した場合には、警告表示を外部表示装置101の表示部111に行う。なお、警告表示を行う場合は、撮影環境判断部245から警告表示がチャート送信制御部242へ送られチャート送信制御より外部表示装置101に送信される。また、警告表示は、撮像装置100が有する確認画像表示部225に表示を行ってもよい。
図11には、警告表示を確認画像表示部225に表示する場合を示している。すなわち、図11においては、外部表示装置101の表示部111にキャリブレーション用チャートが表示されている。そして、撮像装置100内の撮像部248によりキャリブレーション用チャートを撮影しキャリブレーション画像が取得される。その後、撮影環境判断部245において、カメラが下を向いていると判断され、確認画像表示部225に警告表示が表示される。
図12では、図10に示された撮像装置100の変形例1の動作フロー図を示す。なお、図9に示された動作フロー図と同様の箇所には同じ符号を付し説明は省略する。図12に記載された変形例1の動作フロー図と図9に記載された動作フロー図を比較すると、図12に記載された変形例1の動作フロー図は撮影環境を判断している点(ステップS52)及び警告表示を行う点(ステップS54)に関して異なる。キャリブレーション必要性判断部244により、キャリブレーションを行う必要性があると判断された場合(ステップS30のYesの場合)には、次に、撮影環境判断部245により、撮影環境が整っているか否かを判断する。そして、撮影環境が整っている場合(ステップS52のYesの場合)には、キャリブレーション制御部246がキャリブレーション実行命令をキャリブレーション実行部247へ送信することにより、キャリブレーションを行う。一方、撮影環境が整っていない場合(ステップS52のNoの場合)は、警告表示を表示部111又は確認画像表示部225に表示する(ステップS54)。
また、撮像装置100が撮影環境判断部245を有している場合には、チャート保持部240は、さらに、環境判断用チャートを有していてもよい。ここで、環境判断用チャートとは、キャリブレーション用チャートを撮影する際の撮影環境が整っているかを確認することができるチャートのことをいう。撮影環境が整っているかを確認することが可能であれば特に限定されるものではない。例えば、一面グレーの環境判断用チャートが考えられ、一面グレーの環境判断用チャートにより表示部111にスポットライトが当たっているか否かを確認する。
チャート保持部240が、キャリブレーション用チャート及び環境判断用チャートを保持している場合には、撮影環境判断部245は、環境判断用チャートが撮像部248により撮影されることにより得られる環境判断画像、又は、環境判断画像及びキャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断する。なお、撮影環境判断部245は、キャリブレーション画像又は環境判断画像により、撮影環境が整っているか否かを判断することができる。
図13には、環境判断用チャートを用いた場合の警告表示を確認画像表示部225に表示する場合を示している。すなわち、図13においては、外部表示装置101の表示部111に環境判断用チャートが表示されている。そして、撮像装置100内の撮像部248(図4参照)により環境判断用チャートを撮影し環境判断画像が取得される。その後、撮影環境判断部245において、表示部111にスポットライトSが当たっていると判断され、確認画像表示部225に警告表示が表示される。
撮像装置の変形例1の構成を採用することにより、より多様な条件に関して、キャリブレーション画像を取得することに適した撮影環境か否かを判断することができる。また、撮像装置の変形例1の構成を採用することにより、より的確なキャリブレーション画像を取得することに適した撮影環境において、キャリブレーション画像を取得することができ、より的確なキャリブレーションを行うことができる。
[撮像装置の変形例2]
撮像装置100の変形例2では、複数のキャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断する。すなわち、撮像部248により複数のキャリブレーション用チャートを撮影することにより、複数のキャリブレーション画像を取得し、取得した複数のキャリブレーション画像に基づいて撮影環境判断部245は撮影環境が整っているかを判断する。また、撮影環境判断部245は、複数の環境判断画像、又は、単数若しくは複数の環境判断画像及び単数若しくは複数のキャリブレーション画像に基づいて、キャリブレーション画像を取得することに適した撮影環境か否かを判断してもよい。
図14には、撮像装置100の変形例2に関しての動作フロー図が示されている。なお、図9又は図12と同様の部分には同じ符号を付し説明は省略する。また、図14では、キャリブレーションを行う必要性があるか否かの判断(ステップS30)より後の動作フローに関して記載を行っている。キャリブレーションを行う必要性があるか否かの判断(ステップS30)以前の動作(図9におけるステップS10、ステップS20)は図9と同様であり、図14では省略されている。
図14に記載された撮像装置100の変形例2では、キャリブレーション必要性判断部244によりキャリブレーションを行う必要があると判断された場合(ステップS30のYesの場合)には、撮影環境判断部245内にあるカウンターのカウントiを1に設定する。その後、撮影環境判断部245により、カウンターのカウントiが撮影環境を判断可能である送信されたチャート(撮影環境用チャート、キャリブレーション用チャート)の総枚数より大きいか否かを判断する。カウントiが送信されるチャートの総枚数より大きくない場合(ステップS74のNoの場合)には、[i]番目のチャートが外部表示装置101にチャート送信制御部242により送信されて(ステップS75)、[i]番目のチャートが表示される(ステップS76)。なお、次に、撮像部248により、表示された[i]番目のチャートを撮影する(ステップS78)。その後、取得された撮影環境用画像及び/又はキャリブレーション画像に基づいて撮影環境判断部245により、撮影環境が整っているか否かの判断(ステップS52)が行われる。そして、撮影環境が整っているか否かの判断(ステップS52)において、撮影環境が整っているとされた場合(ステップS52のYesの場合)には、カウントiを一つ進める(+1する)(ステップS80)。
一方、カウントiが送信されるチャートの総枚数より大きい場合(ステップS74のYesの場合)には、キャリブレーションが行われる(ステップS40)。
撮像装置の変形例2の構成を採用することにより、より的確なキャリブレーション画像を取得することに適した撮影環境において、キャリブレーション画像を取得することができ、より的確なキャリブレーションを行うことができる。
[撮像装置の変形例3]
撮像装置100の変形例3では、チャート送信制御部242は、外部表示装置101の表示性能に関する情報を取得し、表示性能に応じたキャリブレーション用チャートを外部表示装置101に送信する。図15には、撮像装置100が外部表示装置101の表示性能を取得する場合の動作フローを示した図である。
変形例3の撮像装置100は、チャート送信制御部242内にある外部表示装置リストを有している。なお、外部表示装置リストはチャート送信制御部242内にあることに特に限定されるものではない。ここで、外部表示装置リストとは、外部表示装置101を特定することができる型番や商品名と外部表示装置101の表示性能が対応しているリストのことをいい、外部表示装置101を特定しリスト内にその外部表示装置101があれば、撮像装置100は、外部表示装置101の表示性能を把握することができる。先ず、チャート送信制御部242が保持している外部表示装置リストにおいて、チャートを表示する外部表示装置101があるか否かを検索する(ステップS100)。その後、チャート送信制御部242により、対象外部表示装置101が外部表示装置リスト内あるか否かを判断し、外部表示装置リストに対象外部表示装置101がある場合(ステップS102のYesの場合)には、チャート送信制御部242は対象外部表示装置101の表示性能に関する情報を取得する。ここで、対象外部表示装置101とは、チャート送信制御部242からチャートが送られる表示装置のことをいう。
一方、外部表示リストに対象外部表示装置101がない場合(ステップS102のNo場合)、チャート送信制御部242は、撮像装置100が存在する環境においてインターネットに接続可能であるか否かを判断する(ステップS104)。インターネットに接続可能であると判断した場合(ステップS104のYesの場合)には、対象外部表示装置101の表示性能をインターネット上で検索する(ステップS106)。そして、表示性能を検索により見つけられた場合(ステップS108のYesの場合)には、対象外部表示装置101の表示性能を取得する。一方、対象外部表示装置101の表示性能を検索しても見つけられなかった場合(ステップS108のNoの場合)には、対象外部表示装置101の表示性能を直接入力可能か否かについて判断する(ステップS110)。また、インターネットに接続可能でない場合(ステップS104のNoの場合)にも、対象外部表示装置101の表示性能を直接入力可能か否かについて判断する(ステップS110)。ここで、撮像装置100において、直接対象外部表示装置101の表示能力を入力する場合は、例えば操作部214により入力される。そして、対象外部表示装置101の表示性能を直接入力可能である場合(ステップS110のYesの場合)には、対象外部表示装置101の表示能力を直接入力する(ステップS112)。その後、対象外部表示装置101の表示能力に合うようにチャートの解像度を変換する(ステップS114)。また、対象外部表示装置101の表示性能を取得した(ステップS116)後にも、対象外部表示装置101の表示能力に合うようにチャートの解像度を変換する(ステップS114)。一方、対象外部表示装置101の表示性能を直接入力不可能である場合(ステップS110のNoの場合)には、外部表示装置101の表示能力を取得することはしない。なお、図
15で示された動作フローが終了した後に、図9で示された動作フローが開始されキャリブレーション必要性判断や、キャリブレーションが実行される。
撮像装置の変形例3の態様を採用することにより、より的確にキャリブレーション用チャートが外部表示装置に表示されるため、より適切なキャリブレーション画像の取得が可能となる。
[撮像装置の変形例4]
撮像装置100の変形例4では、撮像部248はブラケッティング撮影モードを有し、キャリブレーション実行部247は、ブラケッティング撮影モードを選択して撮像部248により撮影された複数のキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行う。
ここで、ブラケッティング撮影モードとは、自動的に撮影条件を変えて、同様の被写体を連続的に撮影することをいう。この場合の撮影条件とは、F値(絞り値)、ズームポジション(焦点距離)、被写体距離等のことを意味する。点像復元処理のパラメータは撮影条件ごとに異なるため、キャリブレーション画像の取得も撮影条件ごとに行うことが好ましい。とりわけ、F値(絞り値)については異なる値ごとにキャリブレーションを行うことが望ましい。この理由は、キャリブレーション画像の撮影ではF値(絞り値)が変わると明るさが変わりキャリブレーションの精度に大きく影響を与えるからである。また、点像復元処理のパラメータは撮影条件ごとに異なり、撮影条件ごとにキャリブレーション画像を撮影する場合には撮影条件を変えながら多くの撮影を行わなければならず、ユーザーに非常に負荷がかかるとともにキャリブレーション画像の撮影精度も低下しやすくなる。このため、ブラケッティング撮影を用いてキャリブレーション画像を撮影することにより、ユーザーは容易に撮影条件ごとにキャリブレーション画像を撮影することができるとともに撮影精度の低下も抑制できる。
ブラケッティング撮影モードの場合、撮像部248は、外部表示装置101と同期されており、撮像部248は、ブラケッティング撮影モードによる撮像部248の撮影に応じて外部表示装置101に同期して表示される、キャリブレーション用チャートを撮影する(図1参照)。
撮像部248がブラケッティング撮影モードにより撮影する際には、撮像装置100のチャート送信制御部242から外部表示装置101のチャート受信部270に対して同期制御信号を送信し、外部表示装置にキャリブレーション画像を順次表示するよう制御する(図1参照)。なお、チャート送信制御部242によるキャリブレーション用チャートの送信の手段は特に限定されず、例えば、無線通信により、チャート送信制御部242から外部表示装置101へキャリブレーション用チャートを送信してもよく、SDカード等の外部メモリを利用することにより、キャリブレーション用チャートをチャート送信制御部242から外部表示装置101のチャート受信部270へ送信してもよい。
また、このような形態に限らず、例えばHDMI(High−Definition Multimedia Interface)(登録商標)ケーブルのような通信ケーブルを介して撮像装置100と外部表示装置101を接続し、撮像装置100から外部表示装置101にキャリブレーション画像を順次送信し、外部表示装置101は受信したキャリブレーション画像を順次表示するようにしても良い。すなわち、撮像装置100を用いてブラケッティング撮影モードによる撮影及びキャリブレーション用チャートの切り替え制御を行ってもよい。この場合、外部表示装置101は、一般的な外部表示装置101を利用することができ、例えば、4K2K対応の高解像度のテレビなどを利用することにより高精度にキャリブレーション用チャートを表示することが可能であり、より的確にキャリブレーションを行うことができる。
図16には、撮像装置100の変形例4に関しての動作フロー図が示されている。なお、図9と同様の部分には同じ符号を付し説明は省略する。キャリブレーションを行う必要があるか否かを判断(ステップS30)し、キャリブレーションを行う必要があるとした場合(ステップS30のYesの場合)、先ず絞りを最大の開放位置(最小Fナンバ)にセットする(ステップS82)。その後、外部表示装置101に表示されたキャリブレーション用チャートを撮像部248により撮影し、キャリブレーション画像を取得する。なお、外部表示装置101に表示されるキャリブレーション用チャートは、絞り位置(Fナンバ:F値)に応じて変えてもよいし、変えなくてもよい。その後、取得したキャリブレーション画像に基づいて、点像復元処理のパラメータのキャリブレーションをキャリブレーション実行部247により行う。その後、撮像部248により、絞り位置が最小の小絞りにセット(最大Fナンバ)されているかを判断((ステップS88)し、最小の小絞りにセットされていない場合(ステップS88のNoの場合)は、絞りを一段階絞る(ステップS90)。その後、再び、表示されたキャリブレーション用チャートが撮像部248により撮影される。一方、最小の小絞りにセットされている場合(ステップS88のYesの場合)は、終了する。なお、図16では、キャリブレーション画像を取得後、順次キャリブレーションを行っているが、特にこれに限定されるものではない。例えば、複数のキャリブレーション画像を取得後、点像復元処理のパラメータに関するキャリブレーションを行ってもよい。
撮像装置100変形例4の態様を採用することにより、自動的に複数のキャリブレーション画像を取得することができユーザーの負担の軽減をすることが可能であり、複数のキャリブレーション画像に基づいて点像復元処理のパラメータに関するキャリブレーションを行うため、より的確なキャリブレーションを行うことが可能である。
[撮像装置の変形例5]
撮像装置100の変形例5では、撮像部248はブラケッティング撮影モードを有し、キャリブレーション実行部247は、ブラケッティング撮影モードを選択して撮像部248により撮影された複数のキャリブレーション画像に基づいて、点像復元処理のパラメータに関するキャリブレーションを行う。また、撮像装置100の変形例5では、一つの条件において複数のキャリブレーション用チャートを撮影し、複数のキャリブレーション画像を取得する。
図17には、撮像装置100の変形例5に関しての動作フロー図が示されている。なお、図9及び図16と同様の部分には同じ符号を付し説明は省略する。また、図17では、キャリブレーションを行う必要性があるか否かの判断(ステップS30)より後の動作フローに関して記載を行っている。キャリブレーションを行う必要性があるか否かの判断(ステップS30)以前の動作(図9におけるステップS10、ステップS20)は図9と同様であり、図17では省略されている。
撮像装置100の変形例5では、キャリブレーション必要性判断部244によりキャリブレーションの必要性があると判断された場合(ステップS30のYes)、撮像部248により、絞り位置を最大の開放位置にセットする(最小Fナンバにセットする)(ステップS82)。その後、撮像部248内にあるカウンターのカウントnを1にセットする(ステップS92)。そして、カウントnが外部表示装置101に送信されたキャリブレーション用チャートの総数より大きいか否かを撮像部248により判断する(ステップS94)。
そして、撮像部248内にあるカウンターのカウントnが外部表示装置101に送信されたキャリブレーション用チャートの総数より大きくない場合(ステップS94のNoの場合)には、n番目のキャリブレーション用チャートが外部表示装置101に送信され(ステップS95)、送信されたn番目のチャートが外部表示装置101に表示される(ステップS96)。その後、撮像部248により、外部表示装置101に表示されたキャリブレーション用チャートが撮影される(ステップS98)。そして、撮像部248内にあるカウンターのカウントnにプラス1がされる(ステップS100)。その後、再びカウントnが送信されたキャリブレーション用チャートの総数よりも大きいか否かが判断される(ステップS94)。
撮像部248により、撮像部248内のカンウンタのカウントnが送信されたキャリブレーション用チャートの総数よりも大きい場合には、最小の小絞り(最大Fナンバ)にセットされているか否かを判断する。
撮像装置100変形例4の態様を採用することにより、自動的に複数のキャリブレーション画像を取得することができユーザーの負担の軽減をすることが可能であり、複数のキャリブレーション画像に基づいて点像復元処理のパラメータに関するキャリブレーションを行うため、より的確なキャリブレーションを行うことが可能である。
[他の実施形態]
本発明の他の実施形態として、キャリブレーションシステム1が挙げられる。図18は、本発明の他の実施形態であるキャリブレーションシステム1の要部を示す要部ブロック図である。すなわち、図18には、撮像装置100と外部表示装置101を有し、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーションシステム1が説明されている。撮像装置100は、チャート保持部240、チャート送信制御部242、キャリブレーション必要性判断部244、キャリブレーション制御部246、キャリブレーション実行部247、撮像部248を主に備える。なお、撮像装置100における全体の動作は、中央処理装置(CPU)212(図4参照)によって統括制御される。また、外部表示装置101は、チャート受信部270、チャート表示制御部272、表示部111を主に備える。ここで、撮像装置100については、図5と同様である為同じ番号付し説明は省略する。
撮像装置100のチャート送信制御部242は、チャート保持部240が保持するキャリブレーション用チャートを選択して、選択されたキャリブレーション用チャートを外部表示装置101に送信する。撮像部248内にある操作部214(図4参照)によりキャリブレーションを行うことが指示されると、撮像部248内にあるCPU212からチャート送信制御部242へ、キャリブレーション用チャートの選択及び送信の指令が出される。なお、チャート送信制御部242へのキャリブレーション用チャートの選択及び送信の指令は、撮像部248内のCPU212から出されることに限定されるものではない。
図18で示された場合は、チャート送信制御部242は、外部表示装置101のチャート受信部270へキャリブレーション用チャートを送信する。ここで、チャート送信制御部242のチャートの送信の手段は特に限定されない。例えば、無線通信により、チャート送信制御部242から外部表示装置101のチャート受信部270へキャリブレーション用チャートを送信してもよい。また、SDカード等の外部メモリを利用することにより、キャリブレーション用チャートをチャート送信制御部242から外部表示装置101のチャート受信部270へ送信してもよい。
チャート送信制御部242から送付されてきたキャリブレーション用チャートは、外部表示装置101のチャート受信部270により受信される。そして、チャート受信部270は、チャート表示制御部272へキャリブレーション用チャートが送られる。その後、
チャート表示制御部272により、表示部111にキャリブレーション用チャートが表示される。
<EDoFシステムへの適用例>
上述の説明における点像復元処理のパラメータを使用して行う点像復元処理は、特定の撮影条件(例えば、絞り値、焦点距離、レンズ種類、など)に応じて点拡がり(点像ボケ)を回復修正することで、本来の被写体像を復元する画像処理であるが、本発明を適用可能な画像処理は上述の実施形態における点像復元処理に限定されるものではない。例えば、拡大された被写界(焦点)深度(EDoF:Extended Depth of Field(Focus))を有する光学系を有する撮像部248によって撮影取得された画像データへの点像復元処理に対しても、本発明に係る点像復元処理を適用することが可能である。EDoF光学系によって被写界深度(焦点深度)が拡大された状態において撮影取得されるボケ画像の画像データに対して点像復元処理を行うことで、広範囲でピントが合った状態の高解像度の画像データを復元生成することができる。この場合、EDoF光学系の点拡がり関数(PSF、OTF、MTF、PTF、等)に基づく復元フィルタであって、拡大された被写界深度(焦点深度)の範囲内において良好な画像復元が可能となるように設定されたフィルタ係数を有する復元フィルタを用いた点像復元処理が行われる。
以下に、EDoF光学系を介して撮影取得された画像データの復元に関するシステム(EDoFシステム)の一例について説明する。なお、以下に示す例においても、デモザイク処理後の画像データ(RGBデータ)から得られる輝度信号(輝度信号Y)に対して点像復元処理を行う。
図19は、EDoF光学系を備える撮像モジュール301の一形態を示すブロック図である。本例の撮像モジュール(デジタルカメラ等)301は、EDoF光学系(レンズユニット)310と、撮像素子312と、AD変換部314と、点像復元処理ブロック(画像処理部)320とを含む。
図20は、EDoF光学系310の一例を示す図である。本例のEDoF光学系310は、単焦点の固定された撮影レンズ310Aと、瞳位置に配置される光学フィルタ311とを有する。光学フィルタ311は、位相を変調させるものであり、拡大された被写界深度(焦点深度)(EDoF)が得られるようにEDoF光学系310(撮影レンズ310A)をEDoF化する。このように、撮影レンズ310A及び光学フィルタ311は、位相を変調して被写界深度を拡大させる撮影レンズ部を構成する。
なお、EDoF光学系310は必要に応じて他の構成要素を含み、例えば光学フィルタ311の近傍には絞り(図示省略)が配設されている。また、光学フィルタ311は、1枚でもよいし、複数枚を組み合わせたものでもよい。また、光学フィルタ311は、光学的位相変調手段の一例に過ぎず、EDoF光学系310(撮影レンズ310A)のEDoF化は他の手段によって実現されてもよい。例えば、光学フィルタ311を設ける代わりに、本例の光学フィルタ311と同等の機能を有するようにレンズ設計された撮影レンズ310AによってEDoF光学系310のEDoF化を実現してもよい。
すなわち、撮像素子312の受光面への結像の波面を変化させる各種の手段によって、EDoF光学系310のEDoF化を実現することが可能である。例えば、「厚みが変化する光学素子」、「屈折率が変化する光学素子(屈折率分布型波面変調レンズ等)」、「レンズ表面へのコーディング等により厚みや屈折率が変化する光学素子(波面変調ハイブリッドレンズ、レンズ面上に位相面として形成される光学素子、等)」、「光の位相分布を変調可能な液晶素子(液晶空間位相変調素子等)」を、EDoF光学系310のEDoF化手段として採用しうる。このように、光波面変調素子(光学フィルタ311(位相板))によって規則的に分散した画像形成が可能なケースだけではなく、光波面変調素子を用いた場合と同様の分散画像を、光波面変調素子を用いずに撮影レンズ310A自体によって形成可能なケースに対しても、本発明は応用可能である。
図20に示すEDoF光学系310は、メカ的に焦点調節を行う焦点調節機構を省略することができるため小型化が可能であり、カメラ付き携帯電話や携帯情報端末に好適に搭載可能である。
EDoF化されたEDoF光学系310を通過後の光学像は、図19に示す撮像素子312に結像され、ここで電気信号に変換される。
撮像素子312は、所定のパターン配列(ベイヤ配列、GストライプR/G完全市松、X−Trans配列、ハニカム配列、等)によりマトリクス状に配置された複数画素によって構成され、各画素はマイクロレンズ、カラーフィルタ(本例ではRGBカラーフィルタ)及びフォトダイオードを含んで構成される。EDoF光学系310を介して撮像素子312の受光面に入射した光学像は、その受光面に配列された各フォトダイオードにより入射光量に応じた量の信号電荷に変換される。そして、各フォトダイオードに蓄積されたR、G及びBの信号電荷は、画素毎の電圧信号(画像信号)として順次出力される。
AD変換部314は、撮像素子312から画素毎に出力されるアナログのR、G及びB画像信号をデジタルのR、G及びBの画像信号に変換する。AD変換部314によりデジタルの画像信号に変換されたデジタル画像信号は、点像復元処理ブロック320に加えられる。
点像復元処理ブロック320は、例えば、黒レベル調整部322と、ホワイトバランスゲイン部323と、ガンマ処理部324と、デモザイク処理部325と、RGB/YCrCb変換部326と、輝度信号Y点像復元処理部327と、を含む。
黒レベル調整部322は、AD変換部314から出力されたデジタル画像信号に黒レベル調整を施す。黒レベル調整には、公知の方法が採用されうる。例えば、ある有効光電変換素子に着目した場合、その有効光電変換素子を含む光電変換素子行に含まれる複数のOB光電変換素子の各々に対応する暗電流量取得用信号の平均を求め、その有効光電変換素子に対応する暗電流量取得用信号から該平均を減算することにより、黒レベル調整が行われる。
ホワイトバランスゲイン部323は、黒レベルデータが調整されたデジタル画像信号に含まれるR、G及びBの各色信号のホワイトバランスゲインに応じたゲイン調整を行う。
ガンマ処理部324は、ホワイトバランス調整されたR、G及びBの画像信号が所望のガンマ特性となるように中間調等の階調補正を行うガンマ補正を行う。
デモザイク処理部325は、ガンマ補正後のR、G及びBの画像信号にデモザイク処理を施す。具体的には、デモザイク処理部325は、R、G及びBの画像信号に色補間処理を施すことにより、撮像素子312の各受光画素から出力される一組の画像信号(R信号、G信号、B信号)を生成する。すなわち、色デモザイク処理前は、各受光画素からの画素信号はR、G及びBの画像信号のいずれかであるが、色デモザイク処理後は、各受光画素に対応するR、G及びB信号の3つの画素信号の組が出力されることとなる。
RGB/YCrCb変換部326は、デモザイク処理された画素毎のR、G及びB信号を、輝度信号Yと色差信号Cr、Cbに変換し、画素毎の輝度信号Y及び色差信号Cr、Cbを出力する。
輝度信号Y点像復元処理部327は、予め記憶された復元フィルタに基づいて、RGB/YCrCb変換部326からの輝度信号Yに点像復元処理を行う。復元フィルタは、例えば、7×7のカーネルサイズを有するデコンボリューションカーネル(M=7、N=7のタップ数に対応)と、そのデコンボリューションカーネルに対応する演算係数(復元ゲインデータ、フィルタ係数に対応)とからなり、光学フィルタ311の位相変調分のデコンボリューション処理(逆畳み込み演算処理)に使用される。なお、復元フィルタは、光学フィルタ311に対応するものが図示しないメモリ(例えば輝度信号Y点像復元処理部327が付随的に設けられるメモリ)に記憶される。また、デコンボリューションカーネルのカーネルサイズは、7×7のものに限らない。
次に、点像復元処理ブロック320による点像復元処理について説明する。図21は、図19に示す点像復元処理ブロック320における点像復元処理の一例を示すフローチャートである。
黒レベル調整部322の一方の入力には、AD変換部314からデジタル画像信号が加えられており、他の入力には黒レベルデータが加えられており、黒レベル調整部322は、デジタル画像信号から黒レベルデータを減算し、黒レベルデータが減算されたデジタル画像信号をホワイトバランスゲイン部323に出力する(ステップS1)。これにより、デジタル画像信号には黒レベル成分が含まれなくなり、黒レベルを示すデジタル画像信号は0になる。
黒レベル調整後の画像データに対し、順次、ホワイトバランスゲイン部323、ガンマ処理部324による処理が施される(ステップS2及びS3)。
ガンマ補正されたR、G及びBの信号は、デモザイク処理部325でデモザイク処理された後に、RGB/YCrCb変換部326において輝度信号Yとクロマ信号Cr、Cbに変換される(ステップS4)。
輝度信号Y点像復元処理部327は、輝度信号Yに、EDoF光学系310の光学フィルタ311の位相変調分のデコンボリューション処理をかける点像復元処理を行う(ステップS5)。すなわち、輝度信号Y点像復元処理部327は、任意の処理対象の画素を中心とする所定単位の画素群に対応する輝度信号(ここでは7×7画素の輝度信号)と、予めメモリなどに記憶されている復元フィルタ(7×7のデコンボリューションカーネルとその演算係数)とのデコンボリューション処理(逆畳み込み演算処理)を行う。輝度信号Y点像復元処理部327は、この所定単位の画素群ごとのデコンボリューション処理を撮像面の全領域をカバーするよう繰り返すことにより画像全体の像ボケを取り除く点像復元処理を行う。復元フィルタは、デコンボリューション処理を施す画素群の中心の位置に応じて定められている。すなわち、近接する画素群には、共通の復元フィルタが適用される。さらに点像復元処理を簡略化するためには、全ての画素群に共通の復元フィルタが適用されることが好ましい。
上述したように、EDoFシステムへの応用例でも同様に、図22(A)に示すように、EDoF光学系310を通過後の輝度信号の点像(光学像)は、大きな点像(ボケた画像)として撮像素子312に結像されるが、輝度信号Y点像復元処理部327でのデコンボリューション処理により、図22(B)に示すように小さな点像(高解像度の画像)に復元される。
上述のようにデモザイク処理後の輝度信号に点像復元処理をかけることにより、点像復元処理のパラメータをR、G及びBに個別に有する必要がなくなり、点像復元処理を高速化することができる。また、飛び飛びの位置にあるR、G及びBの画素に対応するR、G及びBの画像信号をそれぞれ1単位にまとめてデコンボリューション処理するのでなく、近接する画素の輝度信号同士を所定の単位にまとめ、その単位には共通の復元フィルタを適用してデコンボリューション処理するため、点像復元処理の精度が向上する。なお、色差信号Cr・Cbについては、人の目による視覚の特性上、点像復元処理を用いて解像度を上げなくても画質的には許容される。また、JPEGのような圧縮形式により画像を記録する場合、色差信号は輝度信号よりも高い圧縮率で圧縮されることから、点像復元処理を用いて解像度を上げる必要性が乏しい。こうして、復元精度の向上と処理の簡易化及び高速化を両立できる。
以上説明したようなEDoFシステムの点像復元処理に対しても、本発明の各実施形態に係る点像復元処理を適用することが可能である。
[撮像装置における他の実施形態]
以上、本発明の撮像装置100の実施形態として、デジタルカメラについて説明してきたが、撮影装置の構成はこれに限定されない。本発明のその他の撮影装置としては、例えば、内蔵型又は外付け型のPC用カメラ、あるいは、以下に説明するような、撮影機能を有する携帯端末装置とすることができる。
本発明の撮影装置の一実施形態である携帯端末装置としては、例えば、携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機が挙げられる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
図23は、本発明の撮影装置の一実施形態であるスマートフォン401の外観を示すものである。図23に示すスマートフォン401は、平板状の筐体402を有し、筐体402の一方の面に表示部としての表示パネル421と、入力部としての操作パネル422とが一体となった表示入力部420を備えている。また、係る筐体402は、スピーカ431と、マイクロホン432、操作部440と、カメラ部441と、を備えている。なお、筐体402の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用したりすることもできる。
図24は、図23に示すスマートフォン401の構成を示すブロック図である。図24に示すように、スマートフォンの主たる構成要素として、無線通信部410と、表示入力部420と、通話部430と、操作部440と、カメラ部441と、記憶部450と、外部入出力部460と、GPS(Global Positioning System)受信部470と、モーションセンサ部480と、電源部490と、主制御部500と、を備える。また、スマートフォン401の主たる機能として、基地局装置BSと移動通信網NWと、を介した移動無線通信を行う無線通信機能を備える。
無線通信部410は、主制御部500の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。係る無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
表示入力部420は、主制御部500の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザーに情報を伝達するとともに、表示した情報に対するユーザー操作を検出する、いわゆるタッチパネルであって、表示パネル421と、操作パネル422と、を備える。
表示パネル421は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル422は、表示パネル421の表示面上に表示される画像を視認可能に載置され、ユーザーの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザーの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部500に出力する。次いで、主制御部500は、受信した検出信号に基づいて、表示パネル421上の操作位置(座標)を検出する。
図23に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン401の表示パネル421と操作パネル422とは一体となって表示入力部420を構成しているが、操作パネル422が表示パネル421を完全に覆うような配置となっている。係る配置を採用した場合、操作パネル422は、表示パネル421外の領域についても、ユーザー操作を検出する機能を備えてもよい。換言すると、操作パネル422は、表示パネル421に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル421に重ならない外縁部分についての検出領域(以下、非表示領域と称する)と、を備えていてもよい。
なお、表示領域の大きさと表示パネル421の大きさと、を完全に一致させても良いが、両者を必ずしも一致させる必要はない。また、操作パネル422が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。さらに、外縁部分の幅は、筐体402の大きさなどに応じて適宜設計されるものである。さらにまた、操作パネル422において採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部430は、スピーカ431やマイクロホン432を備え、マイクロホン432を通じて入力されたユーザーの音声を主制御部500にて処理可能な音声データに変換して主制御部500に出力したり、無線通信部410あるいは外部入出力部460により受信された音声データを復号してスピーカ431から出力したりするものである。また、図23に示すように、例えば、スピーカ431を表示入力部420が設けられた面と同じ面に搭載し、マイクロホン432を筐体402の側面に搭載することができる。
操作部440は、キースイッチなどを用いたハードウェアキーであって、ユーザーからの指示を受け付けるものである。例えば、図23に示すように、操作部440は、スマートフォン401の筐体402の側面に搭載され、指などを用いて押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部450は、主制御部500の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記憶部450は、スマートフォン内蔵の内部記憶部451と着脱自在な外部メモリスロットを有する外部記憶部452により構成される。なお、記憶部450を構成するそれぞれの内部記憶部451と外部記憶部452は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの格納媒体を用いて実現される。
外部入出力部460は、スマートフォン401に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394など)又はネットワーク(例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン401に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)やSIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン401の内部の各構成要素に伝達することや、スマートフォン401の内部のデータが外部機器に伝送されるようにすることができる。
GPS受信部470は、主制御部500の指示にしたがって、GPS衛星ST1〜STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン401の緯度、経度、高度からなる位置を検出する。GPS受信部470は、無線通信部410や外部入出力部460(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部480は、例えば、3軸の加速度センサなどを備え、主制御部500の指示にしたがって、スマートフォン401の物理的な動きを検出する。スマートフォン401の物理的な動きを検出することにより、スマートフォン401の動く方向や加速度が検出される。係る検出結果は、主制御部500に出力されるものである。
電源部490は、主制御部500の指示にしたがって、スマートフォン401の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部500は、マイクロプロセッサを備え、記憶部450が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン401の各部を統括して制御するものである。また、主制御部500は、無線通信部410を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部450が記憶するアプリケーションソフトウェアにしたがって主制御部500が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部460を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
また、主制御部500は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部420に表示する等の画像処理機能を備える。画像処理機能とは、主制御部500が、上記画像データを復号し、係る復号結果に画像処理を施して、画像を表示入力部420に表示する機能のことをいう。
さらに、主制御部500は、表示パネル421の表示制御と、操作部440及び操作パネル422を通じたユーザー操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部500は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成するためのウィンドウを表示したりする。なお、スクロールバーとは、表示パネル421の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部500は、操作部440を通じたユーザー操作を検出したり、操作パネル422を通じて、上記アイコンの操作や、上記ウィンドウの入力欄への文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
さらに、操作検出制御の実行により主制御部500は、操作パネル422の操作位置が、表示パネル421に重なる重畳部分(表示領域)か、それ以外の表示パネル421に重ならない外縁部分(非表示領域)かを判定し、操作パネル422の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部500は、操作パネル422に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部441は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラである。また、カメラ部441は、主制御部500の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換し、記憶部450に記録したり、入出力部460や無線通信部410を通じて出力したりすることができる。図23に示すにスマートフォン401において、カメラ部441は表示入力部420と同じ面に搭載されているが、カメラ部441の搭載位置はこれに限らず、表示入力部420の背面に搭載されてもよいし、あるいは、複数のカメラ部441が搭載されてもよい。なお、複数のカメラ部441が搭載されている場合には、撮影に供するカメラ部441を切り替えて単独にて撮影したり、あるいは、複数のカメラ部441を同時に使用して撮影したりすることもできる。
また、カメラ部441はスマートフォン401の各種機能に利用することができる。例えば、表示パネル421にカメラ部441で取得した画像を表示することや、操作パネル422の操作入力の一つとして、カメラ部441の画像を利用することができる。また、GPS受信部470が位置を検出する際に、カメラ部441からの画像を参照して位置を検出することもできる。さらには、カメラ部441からの画像を参照して、3軸の加速度センサを用いずに、あるいは、3軸の加速度センサと併用して、スマートフォン401のカメラ部441の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部441からの画像をアプリケーションソフトウェア内において利用することもできる。
その他、静止画または動画の画像データにGPS受信部470により取得した位置情報、マイクロホン432により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部480により取得した姿勢情報等などを付加して記憶部450に記録したり、入出力部460や無線通信部410を通じて出力したりすることもできる。
本発明の目的は、上述した実施形態として示したフローの手順を実現するプログラムコード(プログラム)を記憶した記憶媒体から、システムあるいは装置のコンピュータ(またはCPUやMPU)が、そのプログラムコードを読出し実行することによっても達成される。
この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになる。そのため、このプログラムコード及びプログラムコードを記憶/記録したコンピュータ読み取り可能な記憶媒体も本発明の一つを構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROMなどを用いることができる。
また、前述した実施形態の機能は、コンピュータが、読み出したプログラムを実行することによって実現される。また、このプログラムの実行とは、そのプログラムの指示に基づき、コンピュータ上において稼動しているOSなどが、実際の処理の一部又は全部を行う場合も含まれる。
さらに、前述した実施形態の機能は、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットによっても実現することもできる。この場合、先ず、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行う。こうした機能拡張ボードや機能拡張ユニットによる処理によっても前述した実施形態の機能が実現される。
また、前述した実施形態のフローの各ステップは、ソフトウェア(コンピュータ)を用いて実現するものに限るものではなく、ハードウェア(電子回路)を用いて実現してもよい。
100…撮像装置、101…対象外部表示装置、101…外部表示装置、105…撮像装置本体、111…表示部、212…CPU、214…操作部、216…デバイス制御部、218…レンズ部、220…シャッター、222…撮像素子、224…A/D変換器、225…確認画像表示部、226…メモリ部、227…確認画像表示制御部、228…画像処理部、229…点像復元処理部、230…エンコーダ、232…ドライバ、240…チャート保持部、242…チャート送信制御部、244…キャリブレーション必要性判断部、245…撮影環境判断部、246…キャリブレーション制御部、247…キャリブレーション実行部、248…撮像部、270…チャート受信部、272…チャート表示制御部、1…キャリブレーションシステム、301…撮像モジュール、310…EDoF光学系、401…スマートフォン、421…表示パネル

Claims (22)

  1. 撮像部と、
    点像復元処理のパラメータに関するキャリブレーション用チャートを保持するチャート保持部と、
    前記チャート保持部が保持する前記キャリブレーション用チャートを外部表示装置に送信するチャート送信制御部と、
    前記外部表示装置に表示された前記キャリブレーション用チャートが前記撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、前記点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行い、当該判断を出力するキャリブレーション必要性判断部と、
    前記キャリブレーション必要性判断部から出力された前記キャリブレーションが必要か否かの判断に応じて、前記キャリブレーションが必要と判断された場合に、キャリブレーション実行命令を出力することにより前記キャリブレーションの実行を制御するキャリブレーション制御部と、
    前記キャリブレーション制御部から出力された前記キャリブレーション実行命令により、前記キャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションを行うキャリブレーション実行部と、
    を備える撮像装置。
  2. 前記撮像部は、ブラケッティング撮影モードを有し、
    前記キャリブレーション実行部は、前記ブラケッティング撮影モードを選択して前記撮像部により撮影された複数の前記キャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションを行う請求項1に記載の撮像装置。
  3. 前記撮像部は、前記ブラケッティング撮影モードにおいて、複数の撮影条件のうちの一部の撮影条件により、前記キャリブレーション画像を取得し、
    前記キャリブレーション実行部は、前記複数の撮影条件のうちの一部の撮影条件により撮影された前記キャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションを行う請求項2に記載の撮像装置。
  4. 前記撮像部は、前記外部表示装置と同期されており、
    前記撮像部は、前記ブラケッティング撮影モードによる前記撮像部の撮影に応じて前記外部表示装置に同期して表示される、前記キャリブレーション用チャートを撮影する請求項2又は3に記載の撮像装置。
  5. 前記撮像部は、前記外部表示装置と同期されており、
    前記撮像部は、前記撮像部の撮影に応じて前記外部表示装置に同期して表示される、前記キャリブレーション用チャートを撮影する請求項1に記載の撮像装置。
  6. 前記撮像装置は、さらに、前記キャリブレーション画像に基づいて、前記キャリブレーション画像を取得することに適した撮影環境か否かを判断する撮影環境判断部を備え、
    前記キャリブレーション制御部は、さらに、前記キャリブレーション画像が取得されることに適した前記撮影環境か否かの前記撮影環境判断部の判断に応じて、前記キャリブレーションの実行を制御する請求項1から5のいずれか1項に記載の撮像装置。
  7. 前記チャート保持部は、さらに、環境判断用チャートを有し、
    前記チャート送信制御部は、さらに、環境判断用チャートを前記外部表示装置に送信し、
    前記撮影環境判断部は、前記外部表示装置に表示された前記環境判断用チャートが前記撮像部により撮影されることにより得られる環境判断画像、又は、前記環境判断画像及び前記キャリブレーション画像に基づいて、前記キャリブレーション画像を取得することに適した前記撮影環境か否かを判断する請求項6に記載の撮像装置。
  8. 前記撮影環境判断部は、複数の前記キャリブレーション画像に基づいて、前記キャリブレーション画像を取得することに適した前記撮影環境か否かを判断する請求項6に記載の撮像装置。
  9. 前記撮影環境判断部は、複数の前記環境判断画像、又は、単数若しくは複数の前記環境判断画像及び単数若しくは複数の前記キャリブレーション画像に基づいて、前記キャリブレーション画像を取得することに適した前記撮影環境か否かを判断する請求項7に記載の撮像装置。
  10. 前記チャート送信制御部は、前記外部表示装置の表示性能に関する情報を取得し、前記表示性能に応じた前記キャリブレーション用チャートを前記外部表示装置に送信する請求項1から9のいずれか1項に記載の撮像装置。
  11. 前記チャート送信制御部は、前記外部表示装置の表示性能に関する情報を取得し、前記表示性能に応じた前記キャリブレーション用チャート及び前記環境判断用チャートを前記外部表示装置に送信する請求項7に記載の撮像装置。
  12. 前記撮像装置は、さらに、前記撮像部により撮影された画像に点像復元処理を行う点像復元処理部を備え、
    前記点像復元処理部は、前記キャリブレーションが行われた前記点像復元処理のパラメータを使用して前記点像復元処理を行う請求項1から11のいずれか1項に記載の撮像装置。
  13. 前記撮像装置は、前記キャリブレーションが行われた前記点像復元処理のパラメータに対応する撮影条件により撮影すること及び前記キャリブレーションが行われた点像復元処理のパラメータにより前記点像復元処理を優先して行う優先撮影モードを有する請求項1から12のいずれか1項に記載の撮像装置。
  14. 前記撮像装置は、さらに、確認画像表示制御部及び確認画像表示部を有しており、
    前記確認画像表示制御部は、前記キャリブレーションが行われた前記点像復元処理のパラメータに対応する撮影条件を使用して撮影を行う場合には、キャリブレーション済みであることの情報を前記確認画像表示部に表示する請求項1から13のいずれか1項に記載の撮像装置。
  15. 前記撮像装置は、さらに、確認画像表示制御部及び確認画像表示部を有しており、
    前記撮影環境判断部の判断が適した前記撮影環境ではないという判断の場合に、前記確認画像表示制御部は警告表示を前記確認画像表示部に表示する請求項6に記載の撮像装置。
  16. 前記確認画像表示制御部は、予備撮影指示信号に応じて、本撮影前の確認画像及び前記キャリブレーション済みであることの情報を前記確認画像表示部に表示する請求項14又は15に記載の撮像装置。
  17. 前記確認画像表示制御部は、前記キャリブレーションが行われた前記点像復元処理のパラメータに対応する撮影条件下において前記撮像部により撮影された撮影画像を表示する際に、前記キャリブレーション済みであることの情報を、前記確認画像表示部に表示する請求項14又は15に記載の撮像装置。
  18. 前記撮像部は、交換式レンズを有する請求項1から17のいずれか1項に記載の撮像装置。
  19. 前記撮像部は、位相を変調して被写界深度を拡大させるレンズを有する請求項1から17のいずれか1項に記載の撮像装置。
  20. 撮像装置と表示装置を有し、点像復元処理のパラメータに関するキャリブレーションを行うキャリブレーションシステムであって、
    前記撮像装置は、
    撮像部と、
    前記点像復元処理のパラメータに関するキャリブレーション用チャートを保持するチャート保持部と、
    前記チャート保持部が保持する前記キャリブレーション用チャートを前記表示装置に送信するチャート送信制御部と、
    前記表示装置の表示部に表示された前記キャリブレーション用チャートが前記撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションが必要か否かの判断を行い、当該判断を出力するキャリブレーション必要性判断部と、
    前記キャリブレーション必要性判断部から出力された前記キャリブレーションが必要か否かの判断に応じて、キャリブレーション実行命令を出力することにより前記キャリブレーションの実行を制御するキャリブレーション制御部と、
    前記キャリブレーション制御部より出力された前記キャリブレーション実行命令により、前記キャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションを行うキャリブレーション実行部と、
    を備え、
    前記表示装置は、
    前記チャート保持部から送信されてくる前記キャリブレーション用チャートを受信するチャート受信部と、
    前記キャリブレーション用チャートの前記表示部への表示を制御するチャート表示制御部と、
    前記表示部と、
    を備えるキャリブレーションシステム。
  21. 点像復元処理のパラメータに関するキャリブレーション用チャートを外部表示装置に送信するチャート送信制御ステップと、
    前記外部表示装置に表示された前記キャリブレーション用チャートが撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、前記点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行い、当該判断を出力するキャリブレーション必要性判断ステップと、
    前記キャリブレーション必要性判断ステップにおいて出力された前記キャリブレーションが必要か否かの判断に応じて、キャリブレーション実行命令を出力するステップと、
    前記キャリブレーション実行命令及び前記キャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションを行うキャリブレーション実行ステップと、
    を含むキャリブレーション方法。
  22. 点像復元処理のパラメータに関するキャリブレーション用チャートを外部表示装置に送信するチャート送信制御ステップと、
    前記外部表示装置に表示された前記キャリブレーション用チャートが撮像部により撮影されることにより得られるキャリブレーション画像に基づいて、前記点像復元処理のパラメータに関するキャリブレーションが必要か否かの判断を行い、当該判断を出力するキャリブレーション必要性判断ステップと、
    前記キャリブレーション必要性判断ステップにおいて出力された前記キャリブレーションが必要か否かの判断に応じて、キャリブレーション実行命令を出力するステップと、
    前記キャリブレーション実行命令及び前記キャリブレーション画像に基づいて、前記点像復元処理のパラメータに関する前記キャリブレーションを行うキャリブレーション実行ステップと、
    をコンピューターに実行させる為のプログラム。
JP2015512472A 2013-04-16 2014-04-14 撮像装置、キャリブレーションシステム、及びプログラム Active JP5897769B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015512472A JP5897769B2 (ja) 2013-04-16 2014-04-14 撮像装置、キャリブレーションシステム、及びプログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2013085781 2013-04-16
JP2013085781 2013-04-16
PCT/JP2014/060616 WO2014171423A1 (ja) 2013-04-16 2014-04-14 撮像装置、キャリブレーションシステム、キャリブレーション方法、及びプログラム
JP2015512472A JP5897769B2 (ja) 2013-04-16 2014-04-14 撮像装置、キャリブレーションシステム、及びプログラム

Publications (2)

Publication Number Publication Date
JP5897769B2 JP5897769B2 (ja) 2016-03-30
JPWO2014171423A1 true JPWO2014171423A1 (ja) 2017-02-23

Family

ID=51731364

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015512472A Active JP5897769B2 (ja) 2013-04-16 2014-04-14 撮像装置、キャリブレーションシステム、及びプログラム

Country Status (4)

Country Link
US (1) US9584801B2 (ja)
JP (1) JP5897769B2 (ja)
CN (1) CN105122787B (ja)
WO (1) WO2014171423A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017057043A1 (ja) * 2015-09-30 2017-04-06 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
WO2017057057A1 (ja) * 2015-09-30 2017-04-06 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
US10376199B2 (en) * 2015-10-26 2019-08-13 Kyocera Corporation Imaging apparatus
KR102437049B1 (ko) * 2015-12-31 2022-08-25 엘지디스플레이 주식회사 표시장치, 광학보상 시스템 및 광학보상 방법
EP3840685A1 (en) * 2018-08-24 2021-06-30 Intuitive Surgical Operations, Inc. Off-camera calibration parameters for an image capture device

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003284707A (ja) * 2002-03-27 2003-10-07 Canon Inc 撮影装置、ゲイン補正方法、記録媒体及びプログラム
JP2006030859A (ja) * 2004-07-21 2006-02-02 Canon Inc カメラシステム及びカメラ
JP2007033997A (ja) * 2005-07-28 2007-02-08 Canon Inc 焦点検出装置
JP2007041095A (ja) * 2005-08-01 2007-02-15 Canon Inc 焦点検出装置および撮影装置
JP2011150635A (ja) * 2010-01-25 2011-08-04 Fujifilm Corp 画像復元方法および装置
JP2012075060A (ja) * 2010-09-30 2012-04-12 Hitachi Automotive Systems Ltd 画像処理装置及びそれを用いた撮像装置
WO2012063449A1 (ja) * 2010-11-08 2012-05-18 パナソニック株式会社 撮像装置、撮像方法、プログラム、および集積回路

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6285799B1 (en) * 1998-12-15 2001-09-04 Xerox Corporation Apparatus and method for measuring a two-dimensional point spread function of a digital image acquisition system
JP2007081685A (ja) 2005-09-13 2007-03-29 Sony Corp 画像信号処理装置、画像信号処理方法及び画像信号処理システム
JP5088166B2 (ja) 2008-02-21 2012-12-05 株式会社ニコン 画像出力特性補正システム
US8897595B2 (en) * 2008-03-26 2014-11-25 Ricoh Co., Ltd. Adaptive image acquisition for multiframe reconstruction
JP5423024B2 (ja) * 2009-02-09 2014-02-19 株式会社ニコン 電子カメラ、および、電子カメラシステム
JP5641751B2 (ja) 2010-03-15 2014-12-17 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003284707A (ja) * 2002-03-27 2003-10-07 Canon Inc 撮影装置、ゲイン補正方法、記録媒体及びプログラム
JP2006030859A (ja) * 2004-07-21 2006-02-02 Canon Inc カメラシステム及びカメラ
JP2007033997A (ja) * 2005-07-28 2007-02-08 Canon Inc 焦点検出装置
JP2007041095A (ja) * 2005-08-01 2007-02-15 Canon Inc 焦点検出装置および撮影装置
JP2011150635A (ja) * 2010-01-25 2011-08-04 Fujifilm Corp 画像復元方法および装置
JP2012075060A (ja) * 2010-09-30 2012-04-12 Hitachi Automotive Systems Ltd 画像処理装置及びそれを用いた撮像装置
WO2012063449A1 (ja) * 2010-11-08 2012-05-18 パナソニック株式会社 撮像装置、撮像方法、プログラム、および集積回路

Also Published As

Publication number Publication date
US20160037158A1 (en) 2016-02-04
JP5897769B2 (ja) 2016-03-30
CN105122787B (zh) 2018-11-27
US9584801B2 (en) 2017-02-28
WO2014171423A1 (ja) 2014-10-23
CN105122787A (zh) 2015-12-02

Similar Documents

Publication Publication Date Title
JP5833794B2 (ja) 撮像装置
JP5830186B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5851650B2 (ja) 復元フィルタ生成装置及び方法、画像処理装置、撮像装置、復元フィルタ生成プログラム並びに記録媒体
US9906732B2 (en) Image processing device, image capture device, image processing method, and program
US9699427B2 (en) Imaging device, imaging method, and image processing device
US9881362B2 (en) Image processing device, image-capturing device, image processing method, and program
JP5903528B2 (ja) 撮像装置及び画像処理方法
JP6096382B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5897769B2 (ja) 撮像装置、キャリブレーションシステム、及びプログラム
US9633418B2 (en) Image processing device, imaging apparatus, image processing method, and program
JP6342083B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5768193B2 (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム
JP6580801B2 (ja) 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
WO2014050191A1 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160302

R150 Certificate of patent or registration of utility model

Ref document number: 5897769

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250