JP2016058840A - 撮像装置、画像処理装置、撮像方法及びプログラム - Google Patents
撮像装置、画像処理装置、撮像方法及びプログラム Download PDFInfo
- Publication number
- JP2016058840A JP2016058840A JP2014182630A JP2014182630A JP2016058840A JP 2016058840 A JP2016058840 A JP 2016058840A JP 2014182630 A JP2014182630 A JP 2014182630A JP 2014182630 A JP2014182630 A JP 2014182630A JP 2016058840 A JP2016058840 A JP 2016058840A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- divided
- imaging
- scene
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
- G03B37/04—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe with cameras or projectors providing touching or overlapping fields of view
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B7/00—Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
- G03B7/08—Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
- G03B7/091—Digital circuits
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
Abstract
【課題】画像に複数のシーンが含まれていても、最適な画質の画像を生成する。【解決手段】実施形態の撮像装置は、画像を撮像する撮像部と、画像を複数の分割画像に分割する分割部と、分割画像毎に、分割画像のシーンを決定する決定部と、分割画像毎に、シーンに応じた補正パラメータにより画像処理を行う処理部と、を備える。【選択図】図2
Description
本発明は撮像装置、画像処理装置、撮像方法及びプログラムに関する。
撮像地点の全方位を撮像し、撮像地点の全方位を一枚の画像(以下「全天球画像」という。)にする技術が知られている。例えば特許文献1には、全天球画像から高精度に逆光領域を検出し、適切な逆光補正を行うことができる画像処理装置の発明が開示されている。
しかしながら従来の技術では、画像に複数のシーンが含まれている場合に、最適な画質の画像を生成することが難しかった。
本発明は、上記に鑑みてなされたものであって、画像に複数のシーンが含まれていても、最適な画質の画像を生成することができる撮像装置、画像処理装置、撮像方法及びプログラムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、画像を撮像する撮像部と、前記画像を複数の分割画像に分割する分割部と、前記分割画像毎に、前記分割画像のシーンを決定する決定部と、前記分割画像毎に、前記シーンに応じた補正パラメータにより画像処理を行う処理部と、を備える。
本発明によれば、画像に複数のシーンが含まれていても、最適な画質の画像を生成することができるという効果を奏する。
以下に添付図面を参照して、撮像装置、画像処理装置、撮像方法及びプログラムの実施形態を詳細に説明する。なお、本実施形態においては、2つの撮像部を用いた構成である全天球撮像装置について説明する。しかしながら、本発明は、撮影した画像に複数のカテゴリとシーンが含まれている場合に適用できる。つまり、画像を複数の領域に分割し、分割された領域毎にカテゴリとシーンとを設定することができれば、通常の一眼レフ、やスマートフォン等の撮像装置にも適用できる。
図1は実施形態の撮像装置100の例を示す模式図である。実施形態の撮像装置100は、撮像素子101、魚眼レンズ102、撮像素子103、魚眼レンズ104、筐体121及び撮像スイッチ122を備える。撮像素子101は、撮像装置100の前面180°以上の画角を有する魚眼レンズ102を介した光を電気信号に変換する。撮像素子103は、撮像装置100の背面180°以上の画角を有する魚眼レンズ104を介した光を電気信号に変換する。撮像素子101及び撮像素子103は、例えばCMOSセンサ(Complementary Metal Oxide Semiconductor)等である。また筐体121の側面には撮像スイッチ122がある。なお撮像装置100は、図1では図示されていないが、種々の操作ボタン、電源スイッチ及びタッチパネル等も備える。
図2は実施形態の撮像装置100の構成の例を示す図である。実施形態の撮像装置100は、第1撮像部1、第2撮像部2、記憶部3、合成部4、第1検出部5、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12、第2補正部13、表示部14及び選択部15を備える。
第1撮像部1は第1画像を撮像する。第1画像は撮像装置100の前面(0°〜180°)の被写体を含む画像である。このとき、第1撮像部1の撮影する画角は180°以上(好ましくは180°以上190°以下)である。この第1撮像部1が撮影した第1画像は、後述する背面の第2画像と重複領域を有する。第1撮像部1は第1画像を記憶部3に記憶する。
第2撮像部2は第2画像を撮像する。第2画像は撮像装置100の背面(180°〜360°)の被写体を含む画像である。このとき、第2撮像部2の撮影する画角は180°以上(好ましくは180°以上190°以下)である。この第2撮像部2が撮影した第2画像は、先に述べた前面の第1画像と重複領域を有する。第2撮像部2は第2画像を記憶部3に記憶する。
記憶部3は第1画像及び第2画像を記憶する。また記憶部3は、第1画像及び第2画像を合成し、生成される後述の全天球画像を記憶する。また記憶部3は後述の分割画像(全天球画像の一部の領域に対応する画像)毎にカテゴリ及びシーンを記憶する。シーンは、分割画像に含まれる被写体に応じて定まる分割画像の種類を示す。カテゴリは、分割画像をシーンに応じて分類した情報である。分割画像のカテゴリは、屋外を撮像した屋外画像、屋内を撮像した屋内画像、又は、屋外画像と屋内画像との境界に位置する境界画像である。また記憶部3はカテゴリ(の種類)、及び、カテゴリに含まれるシーン(の種類)を記憶する。また記憶部3は、後述の処理部10により使用される補正パラメータを記憶する。記憶部3は補正パラメータをシーン毎に記憶する。シーン毎に記憶される補正パラメータの例については、図5を参照して後述する。
合成部4は第1画像と第2画像とを、重複領域を重ね合わせることで合成することにより、撮像地点からの全方位の画像を示す全天球画像を生成する。合成部4は全天球画像を記憶部3に記憶する。
図3は実施形態の全天球画像23の例を示す図である。図3は、第1画像21及び第2画像22の重複領域を互いの目印として合成することにより、撮像地点からの全方位の被写体を含む全天球画像23を生成する場合の例である。なお、全天球画像23は、正距円筒図法やメルカトル図法等により作成される。この全天球画像23を、球形に貼り付けて表示を行うと、全方位に渡る画像が表示されることとなる。なお全天球画像23は動画であっても静止画であってもよい。
図2に戻り、第1検出部5は撮像時の撮像装置100の天頂方向(撮像時の撮像装置100の傾き)を検出する。第1検出部5は、例えば加速度センサにより撮像時の撮像装置100の天頂方向を検出する。第1検出部5は撮像時の天頂方向を示す天頂方向情報を第1補正部6に入力する。
第1補正部6は第1検出部5から天頂方向情報を受け付ける。また第1補正部6は記憶部3から全天球画像を読み出す。第1補正部6は天頂方向情報に基づいて全天球画像を補正する。具体的には、第1補正部6は全天球画像の回転、又は全天球画像の位置の移動により、全天球画像の天頂方向を補正する。これにより撮像時の撮像装置100の傾きに起因する全天球画像の天頂方向のずれを補正する。第1補正部6は補正後の全天球画像により記憶部3の全天球画像を上書きする。
分割部7は記憶部3から天頂方向のずれが補正された全天球画像を読み出す。分割部7は当該全天球画像を複数の分割画像に分割する。
図4は実施形態の分割画像の例を示す図である。分割部7は全天球画像23を垂直方向にN個(Nは2以上の整数)、水平方向に2個に分割することにより、全天球画像を2N個の分割画像に分割する。具体的には、分割部7は、まず第1画像21に対応する領域を短冊状にn個(n=N/2)に分割し、短冊状に分割された領域を更に上半分と下半分に2つに分割することにより、分割画像Fun及び分割画像Fbn(1≦n≦N/2)を得る。同様に、分割部7は、第2画像22に対応する領域を短冊状にn個(n=N/2)に分割し、短冊状に分割された領域を更に上半分と下半分に2つに分割することにより分割画像Run及び分割画像Rbn(1≦n≦N/2)を得る。
図2に戻り、判定部8は記憶部3から全天球画像23の上半分の分割画像(分割画像Fun(1≦n≦N/2)及び分割画像Run(1≦n≦N/2))を読み出す。判定部8は、それぞれの分割画像について、分割画像のカテゴリの判定処理を行う。判定処理は、屋外を撮像した屋外画像、屋内を撮像した屋内画像、及び、屋外画像と屋内画像との境界に位置する境界画像のいずれかを示す、分割画像のカテゴリ(屋外、屋内又は境界)を判定する処理である。判定処理の詳細については、図8及び図9を参照して後述する。なお判定部8は、上半分のそれぞれの分割画像のカテゴリにより、水平方向の位置が同じ下半分のそれぞれの分割画像(分割画像Fbn(1≦n≦N/2)及び分割画像Rbn(1≦n≦N/2))のカテゴリを判定する。判定部8は、それぞれの分割画像に対して判定されたカテゴリを関連づけて記憶部3に記憶する。
決定部9は分割画像毎に、分割画像のシーンを決定する。具体的には、決定部9は記憶部3から分割画像及び、分割画像のカテゴリを読み出す。そして決定部9はカテゴリに関連付けられた複数のシーンから最適なシーンを認識することにより、分割画像のシーンを決定する。シーンは、後述の処理部10が分割画像毎に、被写体に応じた補正パラメータを使用して適切な画像処理を行うために決定される。屋内カテゴリのシーンは、例えば料理及び家具等である。屋外カテゴリのシーンは、紅葉、雪、雲及び木等である。なお決定部9は分割画像のカテゴリが境界の場合、分割画像のシーンを決定しない。決定部9は分割画像毎に決定したシーンを記憶部3に記憶する。このため、記憶部3では、各分割画像毎にカテゴリーと、シーンとが対応づけられて記憶されている。なお、カテゴリが境界の場合には、シーンはNullとして記憶される。
処理部10は分割画像毎に、シーンに応じた補正パラメータにより画像処理を行う。なお、処理部10は、分割画像のカテゴリが境界の場合、境界画像に隣接する屋外画像に使用される補正パラメータと、境界画像に隣接する屋内画像に使用される補正パラメータと、の中間値の補正パラメータにより画像処理を行う。例えば屋外画像(紅葉)と、屋内画像(料理)に挟まれた境界画像の画像処理には、シーンが紅葉である場合に使用される補正パラメータと、シーンが料理である場合に使用される補正パラメータと、の中間値の補正パラメータが使用される。これにより異なる補正パラメータを使用した画像処理の影響によって、境界画像の領域に生じる不整合を防止することができる。処理部10は画像処理後の分割画像により記憶部3の分割画像(全天球画像の一部の領域)を上書きする。
ここで、シーンに応じた補正パラメータの例について説明する。
図5は実施形態の補正パラメータの例を示す図である。例えばシーンが料理である場合、処理部10は、分割画像を明るめにする、露出設定に関する補正パラメータと、分割画像の彩度を上げる、カラーマトリクスパラメータ(色再現補正)に関する補正パラメータと、により画像処理を行う。なお、補正パラメータの実際の数値は、撮影条件などにより適切な数値を設定すれば良い。
図2に戻り、第2検出部11は記憶部3から画像処理後の分割画像を読み出す。第2検出部11は当該分割画像の輝度を検出する。第2検出部11は分割画像の輝度を示す輝度情報を算出部12に入力する。
算出部12は第2検出部11から、それぞれの分割画像の輝度情報を受け付ける。算出部12は上半分の分割画像と下半分の分割画像のそれぞれについて、水平方向の位置が同じ上半分の分割画像と下半分の分割画像の輝度の差を算出する。算出部12は水平方向の位置が同じ上半分の分割画像と下半分の分割画像の輝度の差を示す輝度差情報を第2補正部13に入力する。
第2補正部13は算出部12から輝度差情報を受け付ける。第2補正部13は輝度の差が第1閾値以上となる上半分の分割画像と下半分の分割画像の組の数が、第2閾値以上の場合、上半分の分割画像と下半分の分割画像とで異なる階調特性の補正を行う。これにより輝度のDレンジの広い全天球画像を得ることができる。第2補正部13は上半分の分割画像と下半分の分割画像とで異なる階調特性の補正を行った全天球画像により、記憶部3の全天球画像を上書きする。
表示部14は撮像装置100の状態等を表示する。表示部14は、例えば撮像装置100により撮像を行うときの撮像地点の全方位の状態を示すモニタリング画面を表示する。このとき上述の第1撮像部1、第2撮像部2、記憶部3、合成部4、第1検出部5、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12及び第2補正部13の処理が、モニタリング中にリアルタイムに行われ、当該処理の結果得られる全天球画像が表示部14に表示(再生)される。また表示部14は上述の決定部9により決定された1以上のシーンの種類(紅葉及び料理等)を表示する。
選択部15は撮像装置100のユーザの操作に基づいて、表示部14に表示された1以上のシーンの種類からシーンを選択する。このとき表示部14は当該シーンとして認識されている1以上の分割画像を、1つの画像として表示(再生)する。また記憶部3は当該シーンとして認識されている1以上の分割画像を、1つの画像として記憶する。これにより撮像装置100のユーザが撮像したいシーンを含む画像のみの表示及び記憶ができる。
図6は実施形態の撮像装置100が選択したシーンの例を示す模式図である。図6は撮像装置100のユーザにより、撮像したいシーンとして犬が選択された場合を示す。このとき表示部14は被写体として犬を含む1以上の分割画像(図6の例では3枚)を1つの画像として表示する。また記憶部3は被写体として犬を含む1以上の分割画像を1つの画像として記憶する。
次に実施形態の撮像装置100の動作方法について説明する。
図7は実施形態の撮像装置100の動作方法の例を示すフローチャートである。
はじめに、第1撮像部1が第1画像を撮像し、第2撮像部2が第2画像を撮像する(ステップS1)。次に、合成部4が第1画像と第2画像とを合成することにより、撮像地点の全方位の画像を示す全天球画像を生成する(ステップS2)。次に、第1補正部6が天頂方向に合わせて全天球画像の回転、又は全天球画像の位置の移動により、全天球画像の天頂方向を補正する(ステップS3)。
次に、分割部7が全天球画像を複数の分割画像に分割する(ステップS4)。次に、判定部8が、それぞれの分割画像について、分割画像のカテゴリ(屋内画像/屋外画像)の判定処理を行う(ステップS5)。ステップS4の屋内/屋外判定処理の詳細については図8を参照して後述する。
次に、判定部8が、それぞれの分割画像について、分割画像のカテゴリ(境界画像)の判定処理を行う(ステップS6)。ステップS6の境界判定処理の詳細については図9を参照して後述する。
次に、決定部9が分割画像毎に、分割画像のカテゴリに関連付けられた複数のシーンから最適なシーンを認識することにより、分割画像のシーンを決定し、処理部10が分割画像毎に、シーンに応じた補正パラメータにより画像処理を行う(ステップS7)。ステップS6の画像処理の詳細については図10を参照して後述する。
次に、第2補正部13が全天球画像の階調特性の補正を行う(ステップS8)。具体的には、まず第2検出部11が分割画像の輝度を検出する。次に、算出部12が上半分の分割画像と下半分の分割画像のそれぞれについて、水平方向の位置が同じ上半分の分割画像と下半分の分割画像の輝度の差を算出する。そして、第2補正部13が輝度の差が第1閾値以上となる上半分の分割画像と下半分の分割画像の組の数が、第2閾値以上の場合、上半分の分割画像と下半分の分割画像とで異なる階調特性の補正を行う。
次に上述のステップS5の屋内/屋外判定方法の詳細について説明する。
図8は実施形態の屋内/屋外判定方法の例を示すフローチャートである。図8では、第1画像21の上半分の領域に対応する分割画像Fun(1≦n≦N/2)及び第1画像21の下半分の領域に対応する分割画像Fbn(1≦n≦N/2)の屋内/屋外判定方法について説明する。
はじめに、判定部8は分割画像Fun(1≦n≦N/2)に青空を示す画像が含まれているか否かを判定する(ステップS21)。判定部8は、例えば分割画像Funと、予め記憶されている青空を示す画像とを比較し、当該2つの画像の類似度に基づいて分割画像Funに青空を示す画像が含まれているか否かを判定する。青空を示す画像が含まれている場合(ステップS21、Yes)、判定部8は分割画像Funのカテゴリを屋外と判定する(ステップS26)。
青空を示す画像が含まれていない場合(ステップS21、No)、判定部8は分割画像Funに雲を示す画像が含まれているか否かを判定する(ステップS22)。雲を示す画像が含まれている場合(ステップS22、Yes)、判定部8は分割画像Funのカテゴリを屋外と判定する(ステップS26)。
雲を示す画像が含まれていない場合(ステップS22、No)、判定部8は分割画像Funに朝焼け又は夕焼けを示す画像が含まれているか否かを判定する(ステップS23)。朝焼け又は夕焼けを示す画像が含まれている場合(ステップS23、Yes)、判定部8は分割画像Funのカテゴリを屋外と判定する(ステップS26)。
朝焼け又は夕焼けを示す画像が含まれていない場合(ステップS23、No)、判定部8は分割画像Funに夜空を示す画像が含まれているか否かを判定する(ステップS24)。夜空を示す画像が含まれている場合(ステップS24、Yes)、判定部8は分割画像Funのカテゴリを屋外と判定する(ステップS26)。
夜空を示す画像が含まれていない場合(ステップS24、No)、判定部8は分割画像Funのカテゴリを屋内と判定する(ステップS25)。
なお判定部8は、下半分の分割画像Fbn(1≦n≦N/2)のカテゴリは、水平方向の位置が同じ上半分の分割画像Fun(1≦n≦N/2)を使用して判定する。例えば分割画像Fu1=屋外であれば、分割画像Fb1=屋外とし、分割画像Fu2=屋内であれば、分割画像Fb2=屋内とする。
また第2画像22の上半分の領域に対応する分割画像Run(1≦n≦N/2)及び第2画像22の下半分の領域に対応する分割画像Rbn(1≦n≦N/2)についても、図8のフローチャートと同様である。
次に上述のステップS6の境界判定方法の詳細について説明する。
図9は実施形態の境界判定方法の例を示すフローチャートである。図9では、第1画像21の上半分の領域(分割画像Fun(1≦n≦N/2))の境界を判定する場合について説明する。なお第1画像21の下半分の領域(分割画像Fbn(1≦n≦N/2))、並びに、第2画像22の上半分の領域(分割画像Run(1≦n≦N/2))及び第2画像22の下半分の領域(分割画像Rbn(1≦n≦N/2))についても、図8のフローチャートと同様である。
はじめに、判定部8は変数xに1を代入する(ステップS41)。次に、判定部8はFux(S)=屋内、かつ、Fux+1(S)=屋外であるか否かを判定する(ステップS42)。ここで、Fux(S)は、図8のフローチャートにより判定された分割画像Fuxのカテゴリ(屋外又は屋内)を示す。
Fux(S)=屋内、かつ、Fux+1(S)=屋外の場合(ステップS42、Yes)、判定部8はFux(S)=境界とする(ステップS44)。次に、処理はステップS45に進む。
Fux(S)=屋内、かつ、Fux+1(S)=屋外でない場合(ステップS42、No)、判定部8はFux(S)=屋外、かつ、Fux+1(S)=屋内であるか否かを判定する(ステップS43)。
Fux(S)=屋外、かつ、Fux+1(S)=屋内の場合(ステップS43、Yes)、判定部8はFux(S)=境界とする(ステップS44)。次に、処理はステップS45に進む。
Fux(S)=屋外、かつ、Fux+1(S)=屋内でない場合(ステップS43、No)、処理はステップS45に進む。
次に、判定部8はx+1=N/2であるか否かを判定する(ステップS45)。x+1=N/2でない場合(ステップS45、No)、判定部8はxにx+1を代入し(ステップS46)、ステップS42に戻る。x+1=N/2の場合(ステップS45、Yes)、処理は終了する。
次に上述のステップS7の画像処理方法の詳細について説明する。図10では、第1画像21の上半分の領域(分割画像Fun(1≦n≦N/2))の画像処理を行う場合について説明する。なお第1画像21の下半分の領域(分割画像Fbn(1≦n≦N/2))、並びに、第2画像22の上半分の領域(分割画像Run(1≦n≦N/2))及び第2画像22の下半分の領域(分割画像Rbn(1≦n≦N/2))についても、図10のフローチャートと同様である。
図10は実施形態の画像処理方法の例を示すフローチャートである。はじめに、決定部9は変数xに1を代入する(ステップS61)。次に、決定部9はFux(S)=屋外であるか否かを判定する(ステップS62)。ここで、Fux(S)は、図8及び図9のフローチャートにより判定された分割画像Fuxのカテゴリ(屋外、屋内又は境界)を示す。
Fux(S)=屋外の場合(ステップS62、Yes)、決定部9が屋外カテゴリのシーンの中からシーン認識を行い(ステップS63)、分割画像Fuxのシーンを決定する。屋外カテゴリのシーンは、例えば紅葉、雪、雲及び木等である。次に、処理部10がシーン毎に最適化された画像処理を分割画像Fuxに行う(ステップS64)。具体的には、処理部10がステップS62で決定されたシーンに応じた補正パラメータを使用して分割画像Fuxの画像処理を行う。次に、処理はステップS69に進む。
Fux(S)=屋外でない場合(ステップS62、No)、決定部9はFux(S)=境界であるか否かを判定する(ステップS65)。
Fux(S)=境界でない場合(ステップS65、No)、決定部9が屋内カテゴリのシーンの中からシーン認識を行い(ステップS66)、分割画像Fuxのシーンを決定する。屋内カテゴリのシーンは、例えば料理及び家具等である。次に、処理部10がシーン毎に最適化された画像処理を分割画像Fuxに行う(ステップS67)。具体的には、処理部10がステップS66で決定されたシーンに応じた補正パラメータを使用して分割画像Fuxの画像処理を行う。次に、処理はステップS69に進む。
Fux(S)=境界の場合(ステップS65、Yes)、処理部10が隣接する分割画像の画像処理に使用される補正パラメータの中間値の補正パラメータにより分割画像Fuxの画像処理を行う。処理部10は、例えば境界画像Fuxに隣接する屋外画像Fux−1に使用される補正パラメータと、境界画像に隣接する屋内画像Fux+1に使用される補正パラメータと、の中間値の補正パラメータにより画像処理を行う。(ステップS68)。次に、処理はステップS69に進む。
次に、決定部9はx+1=nであるか否かを判定する(ステップS69)。x+1=nでない場合(ステップS69、No)、決定部9はxにx+1を代入し(ステップS70)、ステップS62に戻る。x+1=nの場合(ステップS69、Yes)、処理は終了する。
最後に、実施形態の撮像装置100のハードウェア構成の例について説明する。
図11は実施形態の撮像装置100のハードウェア構成の例を示す図である。実施形態の撮像装置100は、撮像素子101、魚眼レンズ102、撮像素子103、魚眼レンズ104、画像処理装置105、CPU106、加速度センサ107、表示装置108、操作ボタン109及び記憶媒体111を備える。また撮像装置100はスマートデバイス110と通信可能である。
撮像素子101は魚眼レンズ102から入射する光を結像する。撮像素子101に結像した対象物像は第1画像21を示す画像信号(電気信号)に変換される。撮像素子101は画像信号を画像処理装置105に入力する。撮像素子101及び魚眼レンズ102は第1撮像部1(図2参照)に対応する。
撮像素子103は魚眼レンズ104から入射する光を結像する。撮像素子103に結像した対象物像は第2画像22を示す画像信号(電気信号)に変換される。撮像素子103は画像信号を画像処理装置105に入力する。撮像素子103及び魚眼レンズ104は第2撮像部2(図2参照)に対応する。
画像処理装置105及びCPU106は、合成部4、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12及び第2補正部13(図2参照)に対応する。ハードウェアにより実現する機能ブロックは、画像処理装置105により実現する。またソフトウェア(プログラム)により実現する機能ブロックは、CPU106により実現する。なお合成部4、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12及び第2補正部13のうち、どの機能ブロックをハードウェアにより実現し、どの機能ブロックをソフトウェアにより実現するかは任意に決定してよい。
加速度センサ107は撮像時の撮像装置100の天頂方向を検出する。加速度センサ107により検出された情報は、画像処理装置105又はCPU106により実現される第1補正部6により処理される。
表示装置108、操作ボタン109及びスマートデバイス110は、撮像装置100を操作するためのユーザインタフェースである。表示装置108、操作ボタン109及びスマートデバイス110は、表示部14及び選択部15(図2参照)に対応する。
記憶媒体111は、第1画像21、第2画像22及び全天球画像23等を記憶する。記憶媒体111は記憶部3(図2参照)に対応する。
なお合成部4、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12及び第2補正部13の一部又は全部をプログラムとして実現する場合、合成部4、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12及び第2補正部13の一部又は全部を含むモジュール構成のプログラムを記憶媒体111に格納する。上述のCPU106が、記憶媒体111の当該プログラムを実行することにより、図11では図示されていないRAM上に合成部4、第1補正部6、分割部7、判定部8、決定部9、処理部10、第2検出部11、算出部12及び第2補正部13の一部又は全部が実現される。
なお当該プログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また当該プログラムをインターネット等のネットワーク経由で提供又は配布するように構成してもよい。
以上説明したように、実施形態の撮像装置では、分割部7が全天球画像を複数の分割画像に分割する。決定部9が分割画像毎に、分割画像のシーンを決定する。これにより処理部10は分割画像毎に、シーンに応じた補正パラメータを使用して画像処理を行うことができるので、1枚の全天球画像に複数のシーンが含まれていても、最適な画質の全天球画像を生成することができる。
なお、撮像装置を一眼レフカメラや、スマートフォン等の撮像装置に適用した場合でも、分割部7が画像を複数の分割画像に分割する。決定部9が分割画像毎に、分割画像のシーンを決定する。これにより処理部10は分割画像毎に、シーンに応じた補正パラメータを使用して画像処理を行うことができるので、1枚の画像に複数のシーンが含まれていても、最適な画質の画像を生成することができる。
1 第1撮像部
2 第2撮像部
3 記憶部
4 合成部
5 第1検出部
6 第1補正部
7 分割部
8 判定部
9 決定部
10 処理部
11 第2検出部
12 算出部
13 第2補正部
14 表示部
15 選択部
2 第2撮像部
3 記憶部
4 合成部
5 第1検出部
6 第1補正部
7 分割部
8 判定部
9 決定部
10 処理部
11 第2検出部
12 算出部
13 第2補正部
14 表示部
15 選択部
Claims (12)
- 画像を撮像する撮像部と、
前記画像を複数の分割画像に分割する分割部と、
前記分割画像毎に、前記分割画像のシーンを決定する決定部と、
前記分割画像毎に、前記シーンに応じた補正パラメータにより画像処理を行う処理部と、
を備える撮像装置。 - 屋外を撮像した屋外画像、屋内を撮像した屋内画像、及び、前記屋外画像と前記屋内画像との境界に位置する境界画像のいずれかを示す、前記分割画像のカテゴリを判定する判定部を更に備え、
前記決定部は、前記カテゴリに関連付けられた複数のシーンから最適なシーンを認識することにより前記シーンを決定する、
請求項1に記載の撮像装置。 - 前記分割部は、前記画像を垂直方向にN個(Nは2以上の整数)、水平方向に2個に分割することにより、前記画像を2N個の前記分割画像に分割し、
前記判定部は、上半分のそれぞれの前記分割画像を使用して、水平方向の位置が同じ下半分のそれぞれの前記分割画像のカテゴリを判定する、
請求項1又は2に記載の撮像装置。 - 前記処理部は、前記分割画像のカテゴリが前記境界画像である場合、前記境界画像に隣接する前記屋外画像に使用される前記補正パラメータと、前記境界画像に隣接する前記屋内画像に使用される前記補正パラメータと、の中間値の補正パラメータにより画像処理を行う、
請求項2乃至3のいずれか1項に記載の撮像装置。 - 前記分割画像の輝度を検出する第2検出部と、
前記上半分の分割画像と前記下半分の分割画像のそれぞれについて、水平方向の位置が同じ前記上半分の分割画像と前記下半分の分割画像の輝度の差を算出する算出部と、
前記輝度の差が第1閾値以上となる前記上半分の前記分割画像と前記下半分の分割画像の組の数が第2閾値以上の場合、前記上半分の分割画像と前記下半分の分割画像とで異なる階調特性の補正を行う第2補正部と、
を更に備える請求項3又は4に記載の撮像装置。 - 前記画像に含まれる1以上の前記シーンの種類を表示する表示部と、
前記1以上のシーンの種類から前記シーンを選択する選択部と、
前記選択されたシーンの1以上の前記分割画像を記憶する記憶部と、
を更に備える請求項2乃至5のいずれか1項に記載の撮像装置。 - 前記表示部は、前記選択部により選択されたシーンの1以上の前記分割画像を表示する、
請求項6に記載の撮像装置。 - 前記撮像部は、第1画像を撮像する第1撮像部と、第2画像を撮像する第2撮像部と、を有し、
前記第1画像と前記第2画像とを合成することにより、撮像地点の全方位の画像を示す全天球画像を生成する合成部、
を更に備える請求項1乃至7のいずれか1項に記載の撮像装置。 - 撮像時の前記撮像装置の天頂方向を検出する第1検出部と、
前記天頂方向に基づいて前記全天球画像の天頂方向のずれを補正する第1補正部と、
を更に備える請求項8に記載の撮像装置。 - 画像を複数の分割画像に分割する分割部と、
前記分割画像毎に、前記分割画像のシーンを決定する決定部と、
前記分割画像毎に、前記シーンに応じた補正パラメータにより画像処理を行う処理部と、
を備える画像処理装置。 - 撮像部が、画像を撮像するステップと、
分割部が、前記画像を複数の分割画像に分割するステップと、
決定部が、前記分割画像毎に、前記分割画像のシーンを決定するステップと、
処理部が、前記分割画像毎に、前記シーンに応じた補正パラメータにより画像処理を行うステップと、
を含む撮像方法。 - 画像を撮像する撮像部を備える撮像装置を、
前記画像を複数の分割画像に分割する分割部と、
前記分割画像毎に、前記分割画像のシーンを決定する決定部と、
前記分割画像毎に、前記シーンに応じた補正パラメータにより画像処理を行う処理部、
として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014182630A JP2016058840A (ja) | 2014-09-08 | 2014-09-08 | 撮像装置、画像処理装置、撮像方法及びプログラム |
PCT/JP2015/004566 WO2016038886A1 (en) | 2014-09-08 | 2015-09-08 | Imaging device, image processing device, and imaging method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014182630A JP2016058840A (ja) | 2014-09-08 | 2014-09-08 | 撮像装置、画像処理装置、撮像方法及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019144060A Division JP6780749B2 (ja) | 2019-08-05 | 2019-08-05 | 撮像装置、画像処理装置、撮像方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016058840A true JP2016058840A (ja) | 2016-04-21 |
Family
ID=55458656
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014182630A Pending JP2016058840A (ja) | 2014-09-08 | 2014-09-08 | 撮像装置、画像処理装置、撮像方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2016058840A (ja) |
WO (1) | WO2016038886A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020024687A (ja) * | 2018-07-27 | 2020-02-13 | 大日本印刷株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
US10943328B2 (en) | 2018-08-27 | 2021-03-09 | Canon Kabushiki Kaisha | Image capturing apparatus, method for controlling same, and storage medium |
US11914039B2 (en) | 2019-03-20 | 2024-02-27 | Ricoh Company, Ltd. | Range finding device and range finding method |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108462833B (zh) * | 2018-03-26 | 2021-01-22 | 北京小米移动软件有限公司 | 拍摄方法、装置及计算机可读存储介质 |
US10764494B2 (en) | 2018-05-25 | 2020-09-01 | Microsoft Technology Licensing, Llc | Adaptive panoramic video streaming using composite pictures |
US10666863B2 (en) | 2018-05-25 | 2020-05-26 | Microsoft Technology Licensing, Llc | Adaptive panoramic video streaming using overlapping partitioned sections |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007336099A (ja) * | 2006-06-13 | 2007-12-27 | Canon Inc | 撮像装置及び撮像方法 |
US20130121578A1 (en) * | 2011-11-10 | 2013-05-16 | Canon Kabushiki Kaisha | Image processing apparatus and control method therefor |
WO2014042104A1 (en) * | 2012-09-11 | 2014-03-20 | Ricoh Company, Ltd. | Imaging controller and imaging control method and program |
-
2014
- 2014-09-08 JP JP2014182630A patent/JP2016058840A/ja active Pending
-
2015
- 2015-09-08 WO PCT/JP2015/004566 patent/WO2016038886A1/en active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007336099A (ja) * | 2006-06-13 | 2007-12-27 | Canon Inc | 撮像装置及び撮像方法 |
US20130121578A1 (en) * | 2011-11-10 | 2013-05-16 | Canon Kabushiki Kaisha | Image processing apparatus and control method therefor |
WO2014042104A1 (en) * | 2012-09-11 | 2014-03-20 | Ricoh Company, Ltd. | Imaging controller and imaging control method and program |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020024687A (ja) * | 2018-07-27 | 2020-02-13 | 大日本印刷株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
JP7447403B2 (ja) | 2018-07-27 | 2024-03-12 | 大日本印刷株式会社 | 情報処理装置、情報処理システム、情報処理方法及びプログラム |
US10943328B2 (en) | 2018-08-27 | 2021-03-09 | Canon Kabushiki Kaisha | Image capturing apparatus, method for controlling same, and storage medium |
US11914039B2 (en) | 2019-03-20 | 2024-02-27 | Ricoh Company, Ltd. | Range finding device and range finding method |
Also Published As
Publication number | Publication date |
---|---|
WO2016038886A1 (en) | 2016-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2016058840A (ja) | 撮像装置、画像処理装置、撮像方法及びプログラム | |
JP5390707B2 (ja) | 立体パノラマ画像合成装置、撮像装置並びに立体パノラマ画像合成方法、記録媒体及びコンピュータプログラム | |
WO2016112704A1 (zh) | 调节投影仪焦距的方法和装置、计算机存储介质 | |
CN102474628B (zh) | 图像处理方法和设备 | |
WO2014132548A1 (en) | Image processing apparatus, image processing method, and program | |
JP5205007B2 (ja) | 光源推定方法および装置 | |
CN106576143A (zh) | 图像拍摄装置和图像拍摄方法 | |
US20170256067A1 (en) | Image processing device, image processing method, and solid-state imaging device | |
WO2016008359A1 (zh) | 物体运动轨迹图像的合成方法、装置及计算机存储介质 | |
US9723201B2 (en) | Image capturing apparatus and control method therefor | |
JP6172935B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JPWO2019146226A1 (ja) | 画像処理装置、および出力情報制御方法、並びにプログラム | |
US9094601B2 (en) | Image capture device and audio hinting method thereof in focusing | |
JP4067033B2 (ja) | 画像処理装置及び方法 | |
JP6780749B2 (ja) | 撮像装置、画像処理装置、撮像方法及びプログラム | |
CN107430841B (zh) | 信息处理设备、信息处理方法、程序以及图像显示系统 | |
WO2019146419A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP4026516B2 (ja) | 画像処理装置及び方法 | |
JP5956844B2 (ja) | 画像処理装置およびその制御方法 | |
WO2017071560A1 (zh) | 图片处理方法及装置 | |
US10447937B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and storage medium that perform image processing based on an image processing parameter set for a first object area, and information on a positional relationship between an object in a second object area and an object in the first object area | |
JP2017138927A (ja) | 画像処理装置、撮像装置およびそれらの制御方法、それらのプログラム | |
JP2017130106A (ja) | データ処理装置、撮像装置、およびデータ処理方法 | |
JP2016129281A (ja) | 画像処理装置 | |
US11762532B2 (en) | Image processing device, control method therefor, imaging device, and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170822 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181030 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190514 |