JP2015194587A - 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法 - Google Patents

画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法 Download PDF

Info

Publication number
JP2015194587A
JP2015194587A JP2014072134A JP2014072134A JP2015194587A JP 2015194587 A JP2015194587 A JP 2015194587A JP 2014072134 A JP2014072134 A JP 2014072134A JP 2014072134 A JP2014072134 A JP 2014072134A JP 2015194587 A JP2015194587 A JP 2015194587A
Authority
JP
Japan
Prior art keywords
image data
distortion
image
captured image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014072134A
Other languages
English (en)
Inventor
祐治 中畑
Yuji Nakahata
祐治 中畑
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2014072134A priority Critical patent/JP2015194587A/ja
Priority to US14/662,422 priority patent/US20150278995A1/en
Publication of JP2015194587A publication Critical patent/JP2015194587A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/32Determination of transform parameters for the alignment of images, i.e. image registration using correlation-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/20Contour coding, e.g. using detection of edges
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30221Sports video; Sports image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネルの表示面形状に応じた適切な画像表示が行われるようにする。
【解決手段】画像データ処理装置では、撮像画像データに対して当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御と、歪み度情報が付帯された撮像画像データが記録媒体に記録されるように制御を行う記録制御とを行う。画像歪み対応処理装置では、歪み度情報が付帯された撮像画像データを取得すると共に、歪み度情報に基づいて、撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理を行う。
【選択図】図1

Description

本技術は、撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データについて処理を行う画像データ処理装置とその方法に関し、特に、画像の歪みが生じている撮像画像データについて処理を行う技術分野に関する。また、画像の歪みが生じている撮像画像データについて処理を行う画像歪み対応処理装置とその方法についての技術分野に関する。
国際公開第2009/050812号
画像表示が可能な表示パネルとして各種のものが存在している。
例えば、表示面が平面とされた平面表示パネル、表示面が曲面とされた曲面表示パネルが存在している。また、上記特許文献1等には、可撓性を有する表示面の曲率(屈曲率)を変化させることのできる曲率可変表示パネルが開示されている。
一方で、表示コンテンツとしての画像については、例えば撮像装置をパンさせながら複数枚撮像した画像をパノラマ合成したパノラマ画像や、高解像度の撮像素子を用いて広角レンズにより撮像した広角高解像度画像などによって臨場感の向上を図っている。
ここで、上記のようなパノラマ画像や広角高解像度画像は、画角の広さから、通常は歪み(被写体の形状の歪み)が生じた画像とされる。
このように歪みが生じた画像は、これをそのまま平面表示パネル上に表示した場合には観察者に違和感を与えてしまう。また、曲面表示パネルを用いた場合であっても、表示パネルの曲率が画像の歪み度合いに対応したものでない場合には、臨場感を適切に与えることができない虞がある。
そこで、本技術では上記した問題点を克服し、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネルの表示面形状に応じた適切な画像表示が行われるように図ることを目的とする。
第1に、本技術に係る画像データ処理装置は、撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御部と、前記歪み度情報が付帯された前記撮像画像データが記録媒体に記録されるように制御を行う記録制御部とを備えるものである。
これにより、例えばパノラマ画像データや広角撮像画像データ等の画像の歪みが生じている撮像画像データに歪み度情報が付帯され、所要の記録媒体に記録される。
第2に、上記した本技術に係る画像データ処理装置は、それぞれが異なる方向を撮像して得られた複数の撮像画像データをパノラマ合成してパノラマ画像データを生成するパノラマ合成処理部を備え、前記歪み度情報付帯制御部は、前記複数の撮像画像データのうち互いの撮像方向の差が最大である一端側撮像画像データと他端側撮像画像データとの撮像方向の差分角度である撮像方向最大差角に基づいて前記歪み度情報を生成し、生成した前記歪み度情報を前記パノラマ画像データとしての撮像画像データに付帯させることが望ましい。
これにより、パノラマ画像データの画像の歪み度合いと適切に相関する歪み度情報がパノラマ画像データに付帯される。
第3に、上記した本技術に係る画像データ処理装置においては、前記歪み度情報付帯制御部は、前記撮像方向最大差角と、前記一端側撮像画像データと前記他端側撮像画像データの画角とに基づいて前記歪み度情報を生成することが望ましい。
これにより、パノラマ画像データの画像の歪み度合いとより適切に相関する歪み度情報がパノラマ画像データに付帯される。
第4に、上記した本技術に係る画像データ処理装置においては、前記パノラマ合成処理部は、スウィングパノラマ撮影により得られた複数の撮像画像データを合成して前記パノラマ画像データを生成することが望ましい。
これにより、パノラマ画像データを生成するにあたり撮像装置を複数台用いる必要がなくなる。
第5に、上記した本技術に係る画像データ処理装置においては、前記歪み度情報付帯制御部は、前記スウィングパノラマ撮影の開始から終了までの時間長であるパノラマ撮影時間長と、前記スウィングパノラマ撮影におけるスウィング動作の平均角速度とに基づいて前記撮像方向最大差角を計算することが望ましい。
これにより、スウィングパノラマ撮影によりパノラマ画像データを生成する場合の撮像方向最大差角が適切に求められる。
第6に、上記した本技術に係る画像データ処理装置においては、前記パノラマ合成処理部は、それぞれが異なる方向を撮像する複数の撮像装置により撮像された複数の撮像画像データを合成して前記パノラマ画像データを生成することが望ましい。
これにより、パノラマ画像データの生成に必要とされる複数の撮像画像データを同時に得ることが可能とされる。
第7に、上記した本技術に係る画像データ処理装置においては、前記歪み度情報付帯制御部は、前記複数の撮像装置のうち撮像方向の角度差が最大である一端側撮像装置と他端側撮像装置に設けられた磁気センサの検出情報に基づき、前記撮像方向最大差角を計算することが望ましい。
これにより、複数の撮像装置による撮像画像データを合成してパノラマ画像データを得る場合の撮像方向最大差角が適切に求められる。
第8に、上記した本技術に係る画像データ処理装置においては、前記歪み度情報付帯制御部は、前記撮像画像データを得るための撮像に用いられたレンズユニットの焦点距離と前記撮像素子のサイズとに基づき計算される画角の情報を前記歪み度情報として前記撮像画像データに付帯させることが望ましい。
これにより、画像の歪みが生じている撮像画像データが広角レンズユニットを介した撮像により得られた撮像画像データである場合に対応して、撮像画像データの画像の歪み度合いと適切に相関する歪み度情報が当該撮像画像データに付帯される。
また、本技術に係る画像データ処理方法は、撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御手順と、前記歪み度情報が付帯された前記撮像画像データが記録媒体に記録されるように制御を行う記録制御手順とを有するものである。
これにより、上記した本技術に係る画像データ処理装置と同様に、例えばパノラマ画像データや広角撮像画像データ等の画像の歪みが生じている撮像画像データに歪み度情報が付帯され、所要の記録媒体に記録される。
また、本技術に係る画像歪み対応処理は、第一に、撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報が付帯された撮像画像データを取得する画像取得部と、前記歪み度情報に基づいて、前記撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理部とを備えるものである。
このように歪み度情報に基づいて歪み補正処理、又は曲率可変表示パネルの曲率調整の何れかが行われることで、画像の歪みが生じている撮像画像データに基づく画像を表示面の曲率が固定とされた曲率固定表示パネル、又は曲率可変表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
第二に、上記した本技術に係る画像歪み対応処理装置においては、前記画像歪み対応処理部は、前記歪み度情報に基づいて前記撮像画像データの歪み補正処理が実行されるように制御を行い、前記歪み補正処理が施された前記撮像画像データに基づく画像が表示面の曲率が固定とされた表示パネルに表示されるように制御を行う第一表示制御部を備えることが望ましい。
これにより、画像の歪みが生じている撮像画像データに基づく画像を表示面の曲率が固定とされた曲率固定表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
第三に、上記した本技術に係る画像歪み対応処理装置においては、前記画像歪み対応処理部は、前記歪み度情報に基づいて前記曲率可変表示パネルの曲率調整が行われるように制御を行い、前記撮像画像データに基づく画像が前記曲率可変表示パネルに表示されるように制御を行う第二表示制御部を備えることが望ましい。
これにより、画像の歪みが生じている撮像画像データに基づく画像を曲率可変表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
第四に、上記した本技術に係る画像歪み対応処理装置においては、前記画像歪み対応処理部は、前記歪み度情報が表す歪み度と、前記曲率可変表示パネルの曲率に対応する歪み度との差分に応じた前記歪み補正処理が行われるように制御を行い、前記歪み補正処理が施された前記撮像画像データに基づく画像が前記曲率可変表示パネルに表示されるように制御を行う第三表示制御部を備えることが望ましい。
これにより、曲率可変表示パネルには、当該表示パネルの現在の設定曲率に応じた歪みを有する画像が表示される。
また、本技術に係る画像歪み対応処理方法は、撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報が付帯された撮像画像データを取得する画像取得手順と、前記歪み度情報に基づいて、前記撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理手順とを有するものである。
これにより、上記した本技術に係る画像歪み対応処理装置と同様に、画像の歪みが生じている撮像画像データに基づく画像を表示面の曲率が固定とされた曲率固定表示パネル、又は曲率可変表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
本技術によれば、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネルの表示面形状に応じた適切な画像表示が行われるように図ることができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
第1の実施の形態の画像表示システムの概要についての説明図である。 パノラマ画像の例を示した図である。 スウィングパノラマ撮影についての説明図である。 シームの例(図4A)、及びシームに従った接合により得られたパノラマ画像の模式図(図4B)である。 第1の実施の形態の画像データ処理装置(撮像装置)内部のハードウェア構成を示したブロック図である。 パノラマ画像データの画角についての説明図である 第1の実施の形態の画像データ処理装置において実行される処理の手順を示したフローチャートである。 構成・処理例Iに対応する画像歪み対応処理装置(表示装置)の内部ハードウェア構成を示したブロック図である。 歪み補正処理を経たパノラマ画像データに基づく画像が平面表示パネルに表示された様子を示した図である。 曲面表示パネルに当該表示パネルの曲率に対応する歪み度との差分に応じた歪み補正処理を施した画像を表示した際のイメージを示した図である。 構成・処理例IIに対応する画像歪み対応処理装置(表示装置)の内部ハードウェア構成を示したブロック図である。 構成・処理例IIに対応する画像歪み対応処理装置において実行される処理の手順を示したフローチャートである。 構成・処理例IIIに対応する画像歪み対応処理装置において実行される処理の手順を示したフローチャートである。 第2の実施の形態の画像表示システムの概要についての説明図である。 第2の実施の形態の画像表示システムが備える撮像装置、パノラマ画像生成装置(第2の実施の形態の画像データ処理装置)それぞれの内部ハードウェア構成を示したブロック図である。 第2の実施の形態としての歪み度情報の付帯制御、及び記録制御を実現するための具体的な処理手順を示したフローチャートである。 第3の実施の形態の画像データ処理装置の内部ハードウェア構成を示したブロック図である。 第3の実施の形態の画像データ処理装置において実行される処理の手順を示したフローチャートである。
以下、実施の形態を次の順序で説明する。
<1.第1の実施の形態>
[1-1.画像表示システムの概要]
[1-2.画像データ処理装置の構成]
[1-3.歪み度情報の付帯制御、記録制御]
[1-4.処理手順]
[1-5.画像歪み対応処理装置]
(構成・処理例I)
(構成・処理例II)
(構成・処理例III)
<2.第2の実施の形態>
[2-1.画像表示システムの概要]
[2-2.画像データ処理装置の構成]
[2-3.歪み度情報の付帯制御、記録制御]
[2-4.処理手順]
<3.第3の実施の形態>
[3-1.画像データ処理装置の構成]
[3-2.処理手順]
<4.実施の形態のまとめ>
<5.変形例>
<6.本技術>
<1.第1の実施の形態>
[1-1.画像表示システムの概要]

図1は、第1の実施の形態の画像表示システム100の概要についての説明図である。
画像表示システム100は、撮像装置1と表示装置2を少なくとも備えている。
撮像装置1は、本技術画像データ処理装置の一実施形態であり、表示装置2は、本技術画像歪み対応処理装置の一実施形態である。
撮像装置1は、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどによる撮像素子(後述する撮像素子11)を備えたデジタルスチルカメラとされ、撮像素子により得られた撮像画像信号に基づいて撮像画像データを生成する。撮像装置1は、撮像画像データとして、いわゆるパノラマ画像データとしての撮像画像データを生成する機能を有している。
パノラマ画像データは、それぞれが異なる方向を撮像して得られた複数の撮像画像データをパノラマ合成して生成された撮像画像データであり、図2に例示するように、画角が比較的広いものとなっている。
第1の実施の形態の場合、パノラマ画像データは、いわゆるスウィングパノラマ撮影によって生成される。
図3は、スウィングパノラマ撮影についての説明図であり、図3Aはスウィングパノラマ撮影時の撮像装置1の動きを示し、図3Bはスウィング中に得られた複数の撮像画像データを模式的に表している。
スウィングパノラマ撮影は、撮像者がある地点(回転軸)Csにおいて撮像装置1を回転させながら撮像装置1に複数枚の撮像画像データ(静止画像データ)を撮像させる撮影形態を意味する。
以下、スウィングパノラマ撮影時における撮像装置1の回転運動のことを「スイープ」と表記する。
また、スイープ中の撮像により得られた複数枚(n枚とする)の撮像画像データのことを「パノラマ用フレーム画像データFM」と表記し、これに撮像順に応じた番号(0〜(n−1))を「#」と共に付して各パノラマ用フレーム画像データFMを区別する。
パノラマ画像データの生成にあたっては、図3Bに示すように、スイープ中に得られたn枚のパノラマ用フレーム画像データFM#0〜FM#(n−1)を適切に位置合わせする。なお、図3Bに例示したように、このような各パノラマ用フレーム画像データFMの位置合わせの結果、一般的にスイープ方向だけでなく、スイープ方向に垂直な方向にも若干の移動が認められる場合もある。これは、撮影者のスイープ時の手振れ等によって生じるズレである。
図3Bのような位置合わせを行った上で、パノラマ用フレーム画像データFM#0〜FM#(n−1)について次のように合成処理を行う。
先ず、図3Bに示したように、撮像された各フレーム画像データFMは隣接するフレーム画像データFMと重なり部分を持つので、当該重なり部分を考慮して、各フレーム画像データFMに対して最終的なパノラマ画像に使用する領域を決定する。これは言い換えると、パノラマ合成処理における画像のつなぎ目(シーム:seam、以下「シームSM」と表記)を決めていることと同一である。
図4Aは、シームSMの例を示している。
シームSMは、図4Aに示すようにスイープ方向に垂直な直線とすることができる。なお、シームSMは、必ずしも直線に限定されるものではなく、非直線(曲線など)とすることもできる。
図4Aにおいて、シームSM0はパノラマ用フレーム画像データFM#0,FM#1間のつなぎ目、シームSM1はパノラマ用フレーム画像データFM#1,FM#2間のつなぎ目、・・・シームSM(n−2)はパノラマ用フレーム画像データFM#(n−2),FM#(n−1)間のつなぎ目として示している。
なお、これらシームSM0〜SM(n−2)が合成時の隣接画像間のつなぎ目とされることで、各フレーム画像データFMにおいて斜線部とした部分は、最終的なパノラマ画像に使用されない画像領域となる。
パノラマ用フレーム画像データFM#0〜FM#(n−1)の合成は、このように決定したシームSM0〜SM(n−2)に基づいて行うが、シームSM付近の画像の不自然さを低減することを目的とし、シームSM付近の画像領域についてブレンド処理を行うこともできる。
すなわち、隣接関係にある各フレーム画像データFMのシームSM付近の画像領域同士をブレンドし、シームSMに従って接合するものである。
なお、フレンド処理は必須ではなく、省略することも可能である。
このように各フレーム画像データFMのシームSMを決定し、その境界領域で接合、又はブレンド処理することによる接合を行い、最終的に手振れ量を考慮してスイープと垂直な方向の不要な部分をトリミングすることによって、図4Bに示すような、スイープ方向を長辺方向とする、画角の広いパノラマ画像データを得ることができる。
なお、図4Bでは縦線がシームSMを表しており、n個のパノラマ用フレーム画像データFM#0〜FM#(n−1)がシームSM0〜SM(n−2)でそれぞれ接合されてパノラマ画像データが生成された状態を模式的に示している。
説明を図1に戻す。
本実施の形態の撮像装置1においては、上記のようなスウィングパノラマ撮影が行われて生成されたパノラマ画像データが得られる。パノラマ画像データは、その画角の広さより、画像の歪み(画像内に写し出された被写体の形状の歪み)の発生が避けられない。
撮像装置1においては、このように画像の歪みが生じているパノラマ画像データが生成されることに対応して、図1に歪み度情報付帯制御部1a、記録制御部1bとしてそれぞれ示す機能を有している。
歪み度情報付帯制御部1aは、パノラマ画像データのような画像歪みが生じている撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報Dsを付帯させる。
記録制御部1bは、歪み度情報Dsが付帯された撮像画像データが記録媒体に記録されるように制御を行う。後述するように、撮像装置1においては、記録/再生デバイス15が設けられ、所要の記録媒体に対して撮像画像データを記録することが可能とされている。
なお、歪み度情報Dsの具体的な取得手法や、歪み度情報付帯制御部1a、記録制御部1bとしての機能を実現するための具体的な構成については後に改めて説明する。
表示装置2は、画像表示が可能な表示パネル2cを備え、撮像装置1の記録制御部1bにより記録された撮像画像データに基づく画像表示を行うことが可能とされている。
表示装置2は、図中に画像取得部2a、画像歪み対応処理部2bとしてそれぞれ示す機能を有している。
画像取得部2aとしての機能は、歪み度情報Dsが付帯された撮像画像データを取得する機能を表している。
ここで、表示装置2に撮像装置1側から撮像画像データを取得させる手法については各種が考えられる。
例えば、撮像装置1がメモリカードなどのリムーバブルメディアに撮像画像データを記録する場合には、表示装置2は、装填された当該リムーバブルメディアから撮像画像データを読み込んで取得することが可能である。或いは、撮像装置1と表示装置2との間をUSB(Universal Serial Bus)ケーブル等での有線接続、又は無線接続、又はインターネット等のネットワーク経由で接続させることで、表示装置2に撮像画像データを取得させることもできる。
また、撮像装置1で得られた撮像画像データを撮像装置1、表示装置2以外の他の装置に一旦転送し、当該他の装置から表示装置2に転送するということもできる。この場合、他の装置はインターネット等の所要のネットワークに接続されたサーバ装置とすることができ、その場合には表示装置2はネットワーク経由で当該サーバ装置にアクセスし、撮像画像データを取得することができる。
画像歪み対応処理部2bは、歪み度情報Dsに基づいて、撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルとしての表示パネル2cの曲率調整の何れかが行われるように制御を行う。
このような画像歪み対応処理部2bとしての機能により、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
なお、画像取得部2a、画像歪み対応処理部2bとしての機能を実現するための具体的な構成については後に改めて説明する。
[1-2.画像データ処理装置]

図5は、撮像装置1内部のハードウェア構成を示したブロック図である。
撮像装置1は、レンズユニット10、撮像素子11、画像処理部12、パノラマ合成処理部13、エンコード/デコード部14、記録/再生デバイス15、表示部16、通信部17、制御部18、操作部19、センサ部20、メモリ部21、及びバス22を備えている。図示するように画像処理部12、パノラマ合成処理部13、エンコード/デコード部14、記録/再生デバイス部15、表示部16、通信部17、制御部18、操作部19、センサ部20、及びメモリ部21は、バス22を介して相互に接続され、画像データや制御信号等がやりとりされる。
レンズユニット10は、被写体からの光を集光し、撮像素子11の撮像面に結像させる。レンズユニット10は、制御部18からの指示に従い、適切な画像が得られるように焦点距離、被写体距離、絞りなどを調整する機構を持つ。レンズユニット10には、光学的に画像のブレを抑止するための手ブレ補正機構を持たせることもできる。
撮像素子11は、例えばCCDイメージセンサやCMOSイメージセンサなどで構成され、レンズユニット10により結像された被写体像に基づく光を受光して光電変換し、電気信号(撮像画像信号)に変換する。
画像処理部12は、撮像素子11からの電気信号をサンプリングするサンプリング回路、アナログ信号をデジタル信号に変換するA/D変換回路、デジタル信号に所定の画像処理を施す画像処理回路などから構成される。画像処理部12は、撮像素子11で得られた撮像信号に基づく画像データ(撮像画像データ)を得る処理を行う。撮像画像データとしては、前述のパノラマ用フレーム画像データFMとしても用いられる静止画像データと共に、動画像データの生成も可能とされる。
画像処理部12により得られた撮像画像データは、メモリ部21に一時記憶(記録)される。
パノラマ合成処理部13は、制御部18からの指示に基づき、前述したパノラマ合成を実現するためのパノラマ合成処理を行う。
具体的には、スウィングパノラマ撮影中に得られたn枚のパノラマ用フレーム画像データFM#0〜FM#(n−1)について、図3Bに示したような位置合わせ、シームSM0〜SM(n−2)の決定、それらシームSMに従った接合、及び接合後の画像についてのトリミングを行うことによって、パノラマ画像データを生成する。
なお、画像処理部12やパノラマ合成処理部13は、専用のハードウエア回路のみではなく、柔軟な画像処理に対応するためにCPU(Central Processing Unit)やDSP(Digital Signal Processor)等によるソフトウエア処理で実現することも可能である。
エンコード/デコード部14は、制御部18からの指示に基づき、撮像画像データについてのエンコード処理、及びエンコードされた状態の撮像画像データについてのデコード処理を行う。
例えば、エンコード/デコード部14は、静止画撮影時には、画像処理部12で得られメモリ部21に一時記憶された撮像画像データをJPEG(Joint Photographic Experts Group)形式などの所定の静止画圧縮形式によりエンコードして静止画ファイルとしての画像ファイルを生成する。また、動画撮影時には、画像処理部12でられメモリ部21に一時記憶された撮像画像データに基づいて例えばAVCHD(Advanced Video Codec High Definition)形式等の所定の動画圧縮形式によるエンコードを行って動画ファイルとしての画像ファイルを生成する。
またエンコード/デコード部14は、これら所定の静止画形式、動画形式による画像ファイルをデコードする。
記録/再生デバイス15は、フラッシュメモリ(Flash Memory)などの半導体メモリを備えたメモリーカード(カード型メモリ装置)、磁気ディスク、光ディスク、光磁気ディスクなどのリムーバブルメディアとしての記録媒体に対する記録再生系回路・機構により構成されている。
記録/再生デバイス15は、制御部18からの指示に基づき、エンコード/デコード部14によるエンコード処理で得られた画像ファイルや各種データを記録媒体に記録する。また記録/再生デバイス15は、制御部18からの指示に基づき、記録媒体に記録されている画像ファイルや各種データを再生する。
なお、記録/再生デバイス15は、撮像装置1に内蔵された記録媒体に対する記録/再生を行うものであってもよい。
表示部16は、例えばLCD(Liquid Crystal Display)ディスプレイや有機EL(Electroluminescence)ディスプレイ等の画像表示が可能なディスプレイを備えており、制御部18からの指示に基づき画像等の各種情報の表示を行う。
例えば表示部16は、エンコード/デコード部14によるデコード処理で得られた撮像画像データに基づく画像の表示を行う。また、表示部16は、画像信号処理部12で得られた撮像画像データに基づく画像をいわゆるスルー画として表示する。
通信部17は外部機器との通信やネットワーク通信を行う。具体的に、通信部17は3G,4G通信などと呼ばれる携帯電話系の移動通信システムやIEEE802.11シリーズなどによる無線LAN(Local Area Network)などの無線通信、あるいは有線LANやUSBなどの有線通信を行うモジュールから構成される。これにより、例えば表示装置2などの外部機器との各種データの受け渡しが可能とされている。
メモリ部21は、DRAM(Dynamic Random Access Memory)などの半導体メモリで構成され、画像処理部12で得られた撮像画像データや、制御部18が扱う各種データなどが一時記憶される。
操作部19は、シャッタボタン(レリーズボタン)、上下左右矢印キー、決定キー、キャンセルキーなどのハードウエアキー、操作ダイアル、タッチパネル、ズームレバーなどの操作子を備え、ユーザの入力操作を検出し、制御部18に入力操作に応じた情報(操作入力情報)を伝達する。制御部18は操作入力情報に応じて撮像装置1の動作を決定し、各部が必要な動作を行うように制御する。
センサ部20は、角速度を検出するジャイロセンサ、加速度を検出する加速度センサ、現在位置を検出するGPS(Global Positioning System)センサ、磁場(磁界)の大きさや方向を検出する磁気センサなどを有して構成され、各種情報の検出を行う。
制御部18は、例えばCPU、ROM(Read Only Memory)、RAM(Random Access Memory)を備えたマイクロコンピュータで構成され、例えば上記ROMに記憶されたプログラムに基づいた処理を実行することで撮像装置1の各部の制御を行う。
ここで、撮像装置1には、パノラマ撮影を行うためのパノラマ撮影モードが用意されている。撮影者は、操作部19に設けられた所定の操作子を操作してパノラマ撮影モードへの移行を指示するための操作入力を行うことが可能とされている。本例の場合、パノラマ撮影モード時においては、シャッタボタンの押圧操作がパノラマ撮影の開始、終了の操作として割り当てられている。すなわち、パノラマ撮影モード時には、撮影者がシャッタボタンを一度押圧操作するとパノラマ撮影として例えば所定の時間間隔でパノラマ用フレーム画像データFMを生成する処理が開始され、再度シャッタボタンが押圧操作されると当該処理が終了する。撮影者は、このような二度のシャッタボタン操作の間に撮像装置1をスイープする。これにより、図3Bに示したようなn枚のパノラマ用フレーム画像データFMが生成される。
制御部18は、このようなパノラマ撮影によるn枚のパノラマ用フレーム画像データFMの生成を実現するべく、パノラマ撮影モード時において、シャッタボタンの押圧操作を監視し、シャッタボタンの押圧操作が行われたことに応じて画像信号処理部12による所定時間間隔ごとの撮像画像データ(静止画)の生成を実行させる。これらパノラマ撮影モード中に生成された撮像画像データは、メモリ部21に記憶される。そして、制御部18は、再度シャッタボタンの押圧操作が行われたことに応じて、画像信号処理部12による上記の所定時間間隔ごとの撮像画像データの生成処理を停止させると共に、メモリ部21に記憶されたn枚の撮像画像データ(パノラマ用フレーム画像データFM)についてのパノラマ合成処理をパノラマ合成処理部13に実行させて、パノラマ画像データを生成させる。
なお、パノラマ撮影の終了条件は上記のようなシャッタボタンの再度の押圧操作に限定されず、多様に考えられる。例えば、シャッタボタンの押圧操作が解除されたことを終了条件とする(つまりこの場合はパノラマ用フレーム画像データFMの生成を継続させるためにシャッタボタンを押圧操作し続けることを要する)こともできる。或いは、スイープ動作が終了したことを終了条件とすることもできる。また、予めパノラマ撮影の角度(スイープによる撮像装置1の回転角度)を180度,270度、360度などから選択させる場合には、パノラマ撮影の開始条件成立(シャッタボタン押圧操作)からの撮像装置1の回転角度が選択された回転角度に達したことを終了条件とすることもできる。この場合、撮像装置1の回転角度は、センサ部20による検出情報に基づき検出できる。
また、制御部18は、先に説明した歪み度情報付帯制御部1a、記録制御部1bとしての機能を実現するための処理を実行する。
[1-3.歪み度情報の付帯制御、記録制御]

ここで、第1の実施の形態では、スウィングパノラマ撮影により得られたパノラマ画像データに対して、歪み度情報Dsを付帯させる。
具体的に、本例においては、歪み度情報Dsとしてパノラマ画像データの画角θの情報を取得し、パノラマ画像データに付帯させる。
図6は、パノラマ画像データの画角θについての説明図である。
図6において、矢印SWは、パノラマ撮影時に撮像装置1が前述した回転軸Csを中心としてスイープ(回転)された軌跡を模式的に表している。回転角度θrは、このようなスイープに伴って撮像装置1が回転された角度を意味している。
図中「as」は、パノラマ撮影の開始時点での撮像装置1の光軸位置、「ae」はパノラマ撮影の終了時点での撮像装置1の光軸位置を模式的に表している。光軸位置asは、パノラマ撮影において最初のパノラマ用フレーム画像データFM#0が撮像された時点での撮像装置1の光軸位置とみなすことができ、光軸位置aeは、パノラマ撮影において最後のパノラマ用フレーム画像データFM#(n−1)が撮像された時点での撮像装置1の光軸位置とみなすことができる。
なお、これらパノラマ用フレーム画像データFM#0、パノラマ用フレーム画像データFM#(n−1)は、互いの撮像方向の差が最大である「一端側撮像画像データ」、「他端側撮像画像データ」とそれぞれ表現することができる。
また、回転角度θrは、これら一端側撮像画像データと他端側撮像画像データとの撮像方向の差分角度である「撮像方向最大差角」と表現することができる。
ここで、パノラマ撮影時における画角(パノラマ用フレーム画像データFMの画角)を画角θaとおく。なお、この場合の画角θaは、レンズの歪みについては考慮しておらず、撮像素子11のサイズとレンズユニット10の焦点距離とから求まる画角を意味している。
一端側撮像画像データとしてのパノラマ用フレーム画像データFM#0について、スイープ方向とは逆方向の画像端の位置は、光軸位置asからθa/2度だけ同方向にずれた位置と言うことができる。また、他端側撮像画像データとしてのパノラマ用フレーム画像データFM#(n−1)について、スイープ方向と同方向の画像端の位置は、光軸位置asからθa/2度だけ同方向にずれた位置と言うことができる。
従って、パノラマ画像データの画角θは、回転角度θrに対してθa/2とθa/2を加算した値、すなわち「θr+θa」として求めることができる。
この際、回転角度θrについては、センサ部20の検出情報に基づいて求めることができる。
具体的に、本例では、回転角度θrはパノラマ撮影時(スイープ時)の平均角速度ωとパノラマ撮影の開始から終了までの時間長としてのパノラマ撮影時間長Tpとを積算した値として求める。
なお、回転角度θrは、加速度センサの検出情報に基づいて求めたスイープ時の撮像装置1の移動量から求めることもできる。或いは、回転角度θrは、磁気センサの検出情報に基づきパノラマ撮影の開始時、終了時の方位角を検出しそれらの角度差として求めることもでき、具体的な検出手法は上記の平均角速度ωとパノラマ撮影時間長Tpとを用いた手法に限定されるものではない。
図5に示した制御部18は、上記のような「θr+θa」による計算を行って得た画角θを歪み度情報Dsとして取得する。
そして、制御部18は、取得した歪み度情報Dsがパノラマ画像データに付帯されるように制御を行う。本例の場合、パノラマ画像データに対する歪み度情報Dsの付帯は、パノラマ画像データをエンコード/デコード部14がエンコードして得られた画像ファイルのメタデータとして埋め込ませることで行う。すなわち、制御部18は、取得した歪み度情報Dsが、このようなパノラマ画像データのエンコード後の画像ファイルのメタデータとして埋め込まれるようにエンコード/デコード部14に対する指示を行う。
さらに、制御部18は、前記した記録制御部1bに対応する処理として、上記のように歪み度情報Dsが付帯された撮像画像データが記録媒体に記録されるように記録/再生デバイス15に対する指示を行う。
[1-4.処理手順]

図7のフローチャートを参照して、歪み度情報付帯制御部1a、記録制御部1bとしての機能を実現するために行われるべき具体的な処理手順を説明する。
なお、図7に示す処理は、制御部18が前述したROM等に記憶されたプログラムに従って実行するものである。
図7において、制御部18は、ステップS101でパノラマ撮影の開始指示が行われるまで待機している。つまり、本例においては、パノラマ撮影モード時において、操作部19におけるシャッタボタンが押圧操作されるまで待機する。
そして、パノラマ撮影の開始指示が行われた場合、制御部18はステップS102で時間計測を開始し、続くステップS103でセンサ出力のサンプリングを開始する。具体的には、センサ部20におけるジャイロセンサが検出している角速度の情報のサンプリングを開始する。
次いで、制御部18は、ステップS104で現在の画角θaの情報を取得する。
画角θaの情報を取得したことに応じて、制御部18はステップS105でパノラマ撮影の終了指示が行われるまで待機する。すなわち、本例ではシャッタボタンが再度押圧操作されるまで待機する。
そして、パノラマ撮影の終了指示が行われた場合、制御部18はステップS106で時間計測(ステップS102で開始した時間計測)とサンプリング(ステップS103で開始したサンプリング)を終了する。
続くステップS107で制御部18は、計測時間長をパノラマ撮影時間長Tpとして保持し、ステップS108で平均角速度ωを計算する。すなわち、サンプリングした角速度の平均値を平均角速度ωとして計算する。
上記のようにパノラマ撮影時間長Tpと平均角速度ωの情報を得た上で、制御部18はステップS109で「パノラマ撮影時間長Tp×平均角速度ω」により回転角度θrを計算し、ステップS110で「回転角度θr×画角θa」によりパノラマ画像データの画角θを計算する。
画角θを計算したことに応じ、制御部18はステップS111で画角θを歪み度情報Dsとして付帯させる処理を行う。すなわち、画角θによる歪み度情報Dsが、パノラマ画像データのエンコード画像ファイルのメタデータとして埋め込まれるようにエンコード/デコード部14に対する指示を行う。
さらに、制御部18は、次のステップS112で、ステップS111の処理により歪み度情報Dsが付帯されたパノラマ画像データについての記録制御処理を行う。すなわち、当該パノラマ画像データが記録媒体に記録されるように記録/再生デバイス15に対する指示を行う。
制御部18は、ステップS112の記録制御処理を実行したことに応じてこの図に示す処理を終了する。
この図7に示す処理により、前述した歪み度情報付帯制御部1a、及び記録制御部1bとしての機能が実現される。
[1-5.画像歪み対応処理装置の構成]
(構成・処理例I)

続いて、表示装置2について説明する。
表示装置2については、その構成及び処理例としてI〜IIIを挙げることができる。
図8は、構成・処理例Iに対応する表示装置2内部のハードウェア構成を示したブロック図である。
本例の表示装置2は、表示パネル2cを備えると共に、記録/再生デバイス30、画像信号処理部31、表示駆動部32、通信部33、制御部34、操作部35、及びバス36を備えている。記録/再生デバイス部30、画像信号処理部31、表示制御部32、通信部33、制御部34、及び操作部35は、バス36を介して相互に接続され、画像データや制御信号等がやりとりされる。
記録/再生デバイス30は、図5に示した記録/再生デバイス15と同様、フラッシュメモリなどの半導体メモリを備えたメモリーカード、磁気ディスク、光ディスク、光磁気ディスクなどのリムーバブルメディアとしての記録媒体に対する記録再生系回路・機構により構成されており、制御部34からの指示に基づき、記録媒体へのデータ記録、記録媒体に記録された画像ファイル等の各種データの再生を行う。
なお、記録/再生デバイス30は、表示装置2に内蔵された記録媒体に対する記録/再生を行うものであってもよい。
画像信号処理部31は、制御部34からの指示に基づき静止画ファイルとしての画像ファイルや動画ファイルとしての画像ファイルについてのデコード処理を行うと共に、デコードした画像データについて各種の画像信号処理を行う。画像信号処理部31は、画像信号処理として少なくとも画像歪みを補正する歪み補正処理を実行可能とされている。
表示駆動部32は、表示パネル2cの画素を駆動するための表示駆動回路を備え、制御部34からの指示に基づき、画像処理部31によるデコード後の画像データに基づく画像やその他の情報の表示が行われるように表示パネル2cを表示駆動する。
本例における表示パネル2cは、表示面の曲率が固定とされた表示パネル(曲率固定パネル)とされている。この場合の表示パネル2cとしては、表示面が平面とされた平面表示パネル、又は表示面が曲面とされた曲面表示パネルの何れであってもよい。
なお、曲面表示パネルにおける表示面の湾曲は、略長方形状とされた表示面の少なくとも長辺方向(本例では横方向)において為されており、表示面と対面する位置から見た際には、表示面の長辺方向の中央部が最も奥側に位置し、長辺方向の端部が最も手前側に位置する。
通信部33は、外部機器との有線又は無線による通信やネットワーク通信を行う。
操作部35は、各種の操作子を備え、ユーザの入力操作を検出し、制御部34に入力操作に応じた情報(操作入力情報)を伝達する。制御部34は操作入力情報に応じて表示装置2の動作を決定し、各部が必要な動作を行うように制御する。
なお、表示装置2に対する操作入力はリモートコントローラを介して行われるように構成することもできる。
制御部34は、例えばCPU、ROM、RAMを備えたマイクロコンピュータで構成され、例えば上記ROMに記憶されたプログラムに基づいた処理を実行することで表示装置2の各部の制御を行う。
ここで、上記構成による表示装置2においては、撮像装置1により歪み度情報Dsが付帯されたパノラマ画像データをリムーバブルメディアや通信部33を経由して取得可能とされている。この点からも理解されるように、記録/再生デバイス30、又は通信部33は、前述した画像取得部2aとしての機能を担うものである。
そして、本例の制御部34は、このように画像取得部2aとしての機能を担う記録/再生デバイス30、又は通信部33によって取得されたパノラマ画像データに付帯されている歪み度情報Dsに基づいて、パノラマ画像データの歪み補正処理が行われるように画像信号処理部31に対する指示を行う。
例えば、制御部34は、記録/再生デバイス30、又は通信部33によって取得されたパノラマ画像データの表示を指示する操作入力に応じて、当該パノラマ画像データの歪み補正処理の実行を指示し、歪み補正処理後のパノラマ画像データに基づく画像表示が表示パネル2c上に行われるように表示駆動部32に対する指示を行う。
この際、歪み補正処理としては、表示パネル2cが平面表示パネルである場合には、取得したパノラマ画像データの歪み度をゼロとすることを目標とした補正が行われるようにする。
このような歪み補正処理を経たパノラマ画像データに基づく画像が平面表示パネルとしての表示パネル2cに表示されることで、図9に示すように、観察者に違和感を与えない画像表示が実現される。
或いは、表示パネル2cが曲面表示パネルである場合には、取得した歪み度情報Dsが表す歪み度と表示パネル2cの曲率に対応する歪み度との差分に応じた歪み補正処理が実行されるようにする。具体的には、歪み度情報Dsが表す歪み度と表示パネル2cの曲率に対応する歪み度との差分を解消させるための歪み補正処理を実行する。換言すれば、取得したパノラマ画像データの歪み度を表示パネル2cの曲率に対応する歪み度と一致させることを目標とした歪み補正処理を実行させる。
ここで、表示パネル2cの曲率に対応する歪み度とは、当該曲率による表示パネル2cに表示した際に観察者に画像歪みがほぼ知覚されない画像の歪み度を意味する。
この場合の表示装置2においては、表示パネル2cの曲率に対応する歪み度の情報が、例えば前述したROM等の制御部34が読み出し可能な記憶装置に記憶されている。制御部34は、このように記憶された表示パネル2cの曲率に対応する歪み度の情報を読み出して取得し、当該取得した歪み度を目標の歪み度として画像信号処理部31に指示し、歪み補正処理を実行させる。
図10は、曲面表示パネルとしての表示パネル2cに当該表示パネル2cの曲率に対応する歪み度との差分に応じた歪み補正処理を施した画像を表示した際のイメージを示している。
このように曲面表示パネルにその曲率に応じた歪みを有する画像が表示されることで、観察者に違和感を与えることなく、臨場感を適切に与えることができる。
(構成・処理例II)

図11は、構成・処理例IIに対応する表示装置2内部のハードウェア構成を示したブロック図である。
なお、以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号を付して説明を省略する。
構成・処理例IIは、表示パネル2cが、表示面の曲率が可変とされた曲率可変表示パネルとされた場合に対応したものである。
この場合の表示装置2においては、図8に示した構成に加えて、パネルアクチュエータ37が設けられている。パネルアクチュエータ37は、バス36を介して制御部34との間で各種信号のやりとりが可能とされている。
この場合の表示パネル2cは、可撓性を有しており、パネルアクチュエータ37が発生する駆動力に応じて表示面の曲率が変化するように構成されている。
図12は、構成・処理例IIとしての表示装置2において実行される処理の手順を示したフローチャートである。
なお、図12に示す処理は制御部34が前述のROM等に記憶されたプログラムに基づき実行するものである。また、図12に示す処理は、例えば記録/再生デバイス30、又は通信部33によって取得されたパノラマ画像データの表示を指示する操作入力に応じて開始される。
先ず、制御部34は、ステップS201で歪み度情報Dsを取得する処理を実行する。すなわち、記録/再生デバイス30、又は通信部33によって取得されたパノラマ画像データに付帯された歪み度情報Dsを取得する。
そして、制御部34は、続くステップS202で歪み度情報Dsに基づきパネルアクチュエータ37を制御する。具体的には、表示パネル2cの曲率が、取得した歪み度情報Dsが表す歪み度に対応する曲率となるようにパネルアクチュエータ37を制御する。
本例の場合、表示装置2には、歪み度と表示パネル2cの曲率との対応関係を表す対応関係情報が記憶されている。制御部34は、このような対応関係情報に基づいて、歪み度情報Dsに対応する曲率の情報を取得し、表示パネル2cの曲率が当該取得した曲率に一致するようにパネルアクチュエータ37を制御する。
これにより、表示パネル2cの曲率が、表示対象としてのパノラマ画像データの画像の歪み度に応じた曲率に調整される。
このように曲率調整された表示パネル2cにパノラマ画像データが表示された際のイメージは、先の図10に示したものと同様である。このことからも理解されるように、上記の曲率調整により、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、観察者に違和感を与えることなく、臨場感を適切に与えることができる。
(構成・処理例III)

構成・処理例IIIは、曲率可変表示パネルとしての表示パネル2cが用いられる場合において、歪み度情報Dsが表す歪み度と、表示パネル2cの曲率に対応する歪み度との差分に応じた歪み補正処理が行われるようにするものである。
ここで、曲率可変表示パネルとしての表示パネル2cを備えた表示装置2については、ユーザが表示パネル2cの曲率を指定して表示画像を鑑賞するということが考えられる。例えば、表示パネル2cの前に複数人が並んで表示画像を鑑賞する際には、端に位置する人の見やすさを考慮すると表示パネル2cの曲率をあまり大きくすることはできない。例えばこのようなケースに代表されるように、表示パネル2cの曲率はユーザにより指定された曲率から変化させないことが望ましい場合がある。
構成・処理例IIIは、このようにユーザによって表示パネル2cの曲率が指定された場合等に対応して、歪み度情報Dsが表す歪み度と表示パネル2cの曲率に対応する歪み度との差分に応じた歪み補正処理が行われるようにするものである。
なお、構成・処理例IIIに対応する表示装置2のハードウェア構成は図11で説明したものと同様となるため、改めての図示による説明は省略する。
図13は、構成・処理例IIIとしての表示装置2において実行される処理の手順を示したフローチャートである。
なお、図13に示す処理は制御部34がROM等に記憶されたプログラムに基づき実行するものである。また、図13に示す処理としても、先の図12と同様に例えば記録/再生デバイス30、又は通信部33によって取得されたパノラマ画像データの表示を指示する操作入力に応じて開始される。
以下、既に説明済みの処理と同内容となる処理については同一のステップ番号を付して詳細説明を省略する。
この場合の制御部34は、ステップS201で歪み度情報Dsを取得し、続くステップS301でパネル曲率情報を取得する。すなわち、表示パネル2cの現在における曲率の情報を取得する。なお、制御部34は自らパネルアクチュエータ37を制御して表示パネル2cの曲率調整を行っているため、表示パネル2cの曲率情報を把握している。
制御部34は、次のステップS302で表示パネル2cの曲率に対応する歪み度と取得した歪み度情報Dsが表す歪み度との差分に応じた歪み補正処理の実行指示を行う。
この場合の表示装置2においては、表示パネル2cの曲率と歪み度との対応関係を表す対応関係情報が記憶されており、制御部34は、このように記憶された対応関係情報に基づいて表示パネル2cの曲率に対応する歪み度の情報を取得する。そして、このように取得した表示パネル2cの曲率に対応する歪み度と、歪み度情報Dsが表す歪み度との差分に応じた歪み補正処理を実行するように画像信号処理部31に指示を行う。具体的には、取得したパノラマ画像データの歪み度を表示パネル2cの曲率に対応する歪み度と一致させることを目標とした歪み補正処理を実行するように指示を行う。
このような構成・処理例IIIによれば、曲率可変の表示パネル2cには、当該表示パネル2cの現在の設定曲率に応じた歪みを有する画像が表示されるので、観察者に違和感を与えることなく、臨場感を適切に与えることができる。
<2.第2の実施の形態>
[2-1.画像表示システムの概要]

続いて、第2の実施の形態について説明する。
第2の実施の形態は、それぞれが異なる方向を撮像する複数の撮像装置により撮像された複数の撮像画像データを合成してパノラマ画像データを生成するものである。
図14は、第2の実施の形態の画像表示システム100Aの概要についての説明図である。
図示するように画像表示システム100Aは、複数(n個)の撮像装置3とパノラマ画像生成装置1Aと表示装置2とを備えている。
複数の撮像装置3は、それぞれが異なる方向を撮像するように配置されている。具体的には、それぞれの撮像装置3による撮像方向が地点Csを中心とした放射方向となるように配置されている。
ここで、図14に示すように、これら複数の撮像装置3については、紙面における最も左側の端部に位置する撮像装置3から順に撮像装置3の番号を付し、撮像装置3−1、撮像装置3−2、…撮像装置3−nと表す。撮像装置3−1と撮像装置3−nは、撮像方向の角度差が最大である一端側撮像装置と他端側撮像装置と表現することができる。
本例の場合、撮像装置3−1〜3−nは、それぞれ雲台にセットされた状態で三脚上に固定されている。雲台により撮像装置3−1〜3−nのパン方向の回転角度が調整されて、撮像装置3のそれぞれの撮像方向が上記した方向にセットされている。
パノラマ画像生成装置1Aは、撮像装置3−1〜3−nにより撮像された複数の撮像画像データを合成してパノラマ画像データを生成する。また、パノラマ画像生成装置1Aは、前述した歪み度情報付帯制御部1a及び記録制御部1bとしての機能を有する。すなわち、パノラマ画像生成装置1Aは、本技術に係る画像データ処理装置の実施形態である。
表示装置2は、第1の実施の形態で説明した構成・処理例I〜IIIの何れかによる表示装置2とされている。第1の実施の形態の場合との差異点は、取得するパノラマ画像データ(及びその歪み度情報Ds)がパノラマ画像生成装置1Aにより生成されたものとなる点であり、画像取得部2a、対応処理部2bとしての機能については第1の実施の形態の場合と同様である。
[2-2.画像データ処理装置の構成]

図15は、撮像装置3、パノラマ画像生成装置1Aそれぞれの内部ハードウェア構成を示したブロック図である。
撮像装置3は、第1の実施の形態の撮像装置1が備えていたものと同様のレンズユニット10、撮像素子11、画像処理部12、及びセンサ部20を備えていると共に、制御部40、通信部41、及びバス42を備えている。画像処理部12、センサ部20、制御部40、及び通信部41は、バス42を介して相互に接続され、画像データや制御信号等がやりとりされる。
通信部41は、外部機器との有線又は無線による通信やネットワーク通信を行う。特に本例の場合は、パノラマ画像生成装置1Aとの間の通信が可能とされている。
制御部40は、例えばCPU、ROM、RAMを備えたマイクロコンピュータで構成され、例えば上記ROMに記憶されたプログラムに従った処理を実行することで撮像装置3の各部の制御を行う。
例えば、制御部40は、通信部41を介してパノラマ画像生成装置1Aの後述する制御部18Aからの撮像指示信号が入力されたことに応じて、画像処理部12に撮像素子11からの撮像信号に基づく撮像画像データを生成させ、生成された撮像画像データ(パノラマ用フレーム画像データFMに相当)を通信部41を介してパノラマ画像生成装置1Aに送信する処理を実行する。また、制御部40は、パノラマ画像生成装置1Aの制御部18Aからの指示に基づき、センサ部20による検出情報等の各種の情報を通信部41経由でパノラマ画像生成装置1A側に送信する処理を行う。
パノラマ画像生成装置1Aは、第1の実施の形態の撮像装置1が備えていたものと同様のパノラマ合成処理部13、エンコード/デコード部14、記録/再生デバイス15、表示部16、通信部17、操作部19、メモリ部21、及びバス22を備えていると共に、制御部18Aを備えている。
制御部18Aは、バス22に接続されてパノラマ合成処理部13、エンコード/デコード部14、記録/再生デバイス15、表示部16、通信部17、操作部19、及びメモリ部21との間で相互通信が可能とされている。制御部18Aは、例えばCPU、ROM、RAMを備えたマイクロコンピュータで構成され、例えば上記ROMに記憶されたプログラムに従った処理を実行することでパノラマ画像生成装置1Aの各部の制御を行う。
特に、制御部18Aは、操作部19からの操作入力に基づき、通信部17を介して上記した撮像指示信号を各撮像装置3に送信して、各撮像装置3に撮像画像データの生成及び生成した撮像画像データのパノラマ画像生成装置1A側への送信を実行させる。制御部18Aは、各撮像装置3から送信され通信部17を介して受信された複数の撮像画像データをメモリ部21に一時記憶させ、このようにメモリ部21に一時記憶された複数の撮像画像データをパノラマ合成処理部13により合成させ、パノラマ画像データを生成させる。
[2-3.歪み度情報の付帯制御、記録制御]

先ず、第2の実施の形態における歪み度情報Dsの取得手法について説明する。
本実施の形態においても、パノラマ画像データの歪み度情報Dsとしては、パノラマ画像データの画角θの情報とする。
図14に示したように、第2の実施の形態の場合におけるパノラマ画像データの画角θは、一端側撮像装置としての撮像装置3−1と他端側撮像装置としての撮像装置3−nとの撮像方向の差分角度θr’(前述した「撮像方向最大差角」に相当)に対して、撮像装置3−1の画角θaの半値「θa/2」と撮像装置3−nの画角θaの半値「θa/2」とを加えたものと表すことができる。すなわち、「θr’+θa」と表すことができる。
なお、第2の実施の形態において、1枚のパノラマ画像データを得るにあたっての各撮像装置3の画角θaは略同一に設定されているとする。
第2の実施の形態において、差分角度θr’は、例えば撮像装置3−1と撮像装置3−nのセンサ部20にそれぞれ設けられた磁気センサによる検出情報に基づき求める。具体的に、本例においては、これら磁気センサによる検出情報に基づき、撮像装置3−1の光軸が向く方位角d1と撮像装置3−nの光軸が向く方位角dnとを求め、方位角d1と方位角dnの差分を差分角度θr’として計算する。
なお、差分角度θr’は、例えば地点Csを中心とした円周方向における撮像装置3の傾き角を検出する傾きセンサの検出情報に基づいて求めることもできる。或いは、差分角度θr’は、本例のように雲台を用いる場合には、雲台のパン方向における回転角度情報に基づき求めることもでき、差分角度θr’を求めるための手法は磁気センサの検出情報に基づく手法に限定されるものではない。
パノラマ画像生成装置1Aの制御部18Aは、上記の「θr’+θa」により計算した画角θの情報が、パノラマ画像データの歪み度情報Dsとして付帯されるように制御を行う。本例においても、歪み度情報Dsは、パノラマ画像データをエンコード/デコード部14がエンコードして得られた画像ファイルのメタデータとして付帯させる。
そして、制御部18Aは、このように歪み度情報Dsが付帯されたパノラマ画像データが記録媒体に記録されるように記録/再生デバイス15に対する指示を行う。
[2-4.処理手順]

図16は、上記により説明した第2の実施の形態としての歪み度情報Dsの付帯制御、及び記録制御を実現するための具体的な処理手順を示したフローチャートである。
なお、図16に示す処理は、制御部18Aが前述したROM等に記憶されたプログラムに従って実行する。
図16に示す処理は、操作部19からパノラマ画像データの生成を指示する操作入力が行われたことに応じて開始されるものである。なお、先に説明した各撮像装置3への撮像指示信号の送信、及び当該撮像指示信号に応じて各撮像装置3から送信された撮像画像データに基づくパノラマ画像データの生成を実行させるための処理は、図16に示す処理と並行して行われる。
図16において、制御部18Aは、ステップS401で一端側、他端側の撮像装置3(つまり撮像装置3−1と撮像装置3−n)の方位角度情報、画角θaを取得するための処理を実行する。
具体的に、制御部18Aは、上記のパノラマ画像データの生成を指示する操作入力に応じて、撮像装置3−1と撮像装置3−nの制御部40に対して磁気センサの検出情報と画角θaの情報の送信を指示する。そして、該指示に応じて撮像装置3−1と撮像装置3−nから送信されてきた磁気センサの検出情報と画角θaの情報とを取得し、取得した磁気センサの検出情報に基づいて撮像装置3−1の方位角d1と撮像装置3−nの方位角dnとを求める。
このようにステップS401で方位角d1及び方位角dnの情報と画角θaを取得したことに応じ、制御部18AはステップS402で、取得した方位角d1と方位角dnの差分を差分角度θr’として計算し、続くステップS403で「θr’+θa」によりパノラマ画像データの画角θを計算する。
次のステップS403で制御部18Aは、計算した画角θを歪み度情報Dsとしてパノラマ画像データに付帯させる処理を行う。すなわち、画角θによる歪み度情報Dsが、パノラマ画像データのエンコード画像ファイルのメタデータとして埋め込まれるようにエンコード/デコード部14に対する指示を行う。
さらに、制御部18Aは、次のステップS405で、歪み度情報Dsが付帯されたパノラマ画像データについての記録制御処理を行う。すなわち、当該パノラマ画像データが記録媒体に記録されるように記録/再生デバイス15に対する指示を行う。
制御部18Aは、ステップS405の記録制御処理を実行したことに応じてこの図に示す処理を終了する。
このように歪み度情報Dsが付帯されたパノラマ画像データが記録媒体に記録されることで、当該記録媒体、或いは通信部17を経由して表示装置2側に当該パノラマ画像データを取得させることが可能となり、表示装置2においては、歪み度情報Dsが付帯されたパノラマ画像データに基づき、先の構成・処理例I〜IIIとして説明した何れかの画像歪み対応処理が行われる。
これにより、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
<3.第3の実施の形態>
[3-1.画像データ処理装置の構成]

第3の実施の形態は、画像の歪みが生じている撮像画像データが広角レンズにより撮像された画像データとされるものである。
図17は、第3の実施の形態としての撮像装置1B内部のハードウェア構成を示したブロック図である。
撮像装置1Bは、第1の実施の形態の撮像装置1と比較して、レンズユニット10に代えて広角レンズユニット10’が設けられ、パノラマ合成処理部13が省略されたと共に、制御部18に代えて制御部18Bが設けられた点が異なる。
広角レンズユニット10’は、撮像素子11のサイズとの兼ね合いで例えば100度以上の画角θaを実現する超広角レンズに属するレンズユニットとされている。このような広角レンズユニット10’を介した撮像により得られた撮像画像データには、画像の歪みが生じる。
制御部18Bは、例えばCPU、ROM、RAMを備えたマイクロコンピュータで構成され、例えば上記ROMに記憶されたプログラムに従った処理を実行することで撮像装置1Bの各部の制御を行う。
[3-2.処理手順]

図18は、第3の実施の形態の撮像装置1Bにおいて実行される処理の手順を示したフローチャートである。
なお、図18に示す処理は制御部18Bが前述のROM等に格納されたプログラムに従って実行するものである。
図18において、制御部18Bは、ステップS501でレリーズ操作が行われるまで待機する。具体的には、操作部19に設けられたシャッタボタンの押圧操作が行われるまで待機する。
レリーズ操作が行われた場合、制御部18BはステップS502で広角レンズユニット10’の画角θaの情報を取得する。具体的には、広角レンズユニット10’の焦点距離と撮像素子11のサイズとに基づき計算される画角θaの情報を取得する。
そして、続くステップS503で制御部18Bは、取得した画角θaの情報を歪み度情報Dsとして撮像画像データ、すなわちステップS501のレリーズ操作に応じて生成された撮像画像データに付帯させる処理を行う。具体的には、画角θaによる歪み度情報Dsが、当該撮像画像データのエンコード画像ファイルのメタデータとして埋め込まれるようにエンコード/デコード部14に対する指示を行う。
さらに、制御部18Bは、次のステップS504で、歪み度情報Dsが付帯された撮像画像データについての記録制御処理を行う。すなわち、当該撮像画像データが記録媒体に記録されるように記録/再生デバイス15に対する指示を行う。
制御部18Bは、ステップS504の記録制御処理を実行したことに応じてこの図に示す処理を終了する。
このように歪み度情報Dsが付帯された撮像画像データ(広角撮像画像データ)が記録媒体に記録されることで、当該記録媒体、或いは通信部17を経由して表示装置2側に当該撮像画像データを取得させることが可能となり、表示装置2においては、歪み度情報Dsが付帯された撮像画像データに基づき、先の構成・処理例I〜IIIとして説明した何れかの画像歪み対応処理が行われる。
これにより、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
なお、広角レンズユニット10’は、いわゆる交換レンズとされる場合もある。この場合において、特に交換レンズとしての広角レンズユニット10’が単焦点レンズである場合には、制御部18Bは、広角レンズユニット10’の画角θaの情報を、例えば広角レンズユニット10’に記憶されている当該広角レンズユニット10’の製品情報等に含まれる焦点距離の情報と撮像素子11のサイズの情報とに基づいて計算により取得することができる。
また、上記では、静止画像としての撮像画像データについて歪み度情報Dsの付帯制御、及び記録制御を行う場合を例示したが、動画像としての撮像画像データについて歪み度情報Dsの付帯制御、及び記録制御を行うこともできる。この場合、ステップS501では、操作部19に設けられたRECボタンの押圧操作等、動画像としての撮像画像データの記録開始を指示する操作入力を待機すればよい。
<4.実施の形態のまとめ>

上記のように実施の形態の画像データ処理装置(撮像装置1、パノラマ画像生成装置1A、撮像装置1B)は、撮像素子11により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報Dsを付帯させる歪み度情報付帯制御部1aと、歪み度情報Dsが付帯された撮像画像データが記録媒体に記録されるように制御を行う記録制御部1bとを備えている。
これにより、例えばパノラマ画像データや広角撮像画像データ等の画像の歪みが生じている撮像画像データに歪み度情報Dsが付帯され、所要の記録媒体に記録される。
表示装置2側では、このように付帯された歪み度情報Dsに基づいて、撮像画像データを適切に表示するための対応処理(画像歪み対応処理)を行うことが可能となる。
従って、上記した実施の形態としての画像データ処理装置によれば、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
また、第1又は第2の実施の形態の画像データ処理装置(撮像装置1、パノラマ画像生成装置1A)は、それぞれが異なる方向を撮像して得られた複数の撮像画像データをパノラマ合成してパノラマ画像データを生成するパノラマ合成処理部13を備え、歪み度情報付帯制御部1aは、前記複数の撮像画像データのうち互いの撮像方向の差が最大である一端側撮像画像データと他端側撮像画像データとの撮像方向の差分角度である撮像方向最大差角(θr、θr’)に基づいて歪み度情報Dsを生成し、生成した歪み度情報Dsをパノラマ画像データとしての撮像画像データに付帯させている。
これにより、パノラマ画像データの画像の歪み度合いと適切に相関する歪み度情報Dsがパノラマ画像データに付帯される。
従って、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
さらに、第1又は第2の実施の形態の画像データ処理装置においては、歪み度情報付帯制御部1aは、撮像方向最大差角と、一端側撮像画像データと他端側撮像画像データの画角θaとに基づいて歪み度情報Dsを生成している。
これにより、パノラマ画像データの画像の歪み度合いとより適切に相関する歪み度情報Dsがパノラマ画像データに付帯される。
従って、表示パネル2cの表示面形状に応じたより適切な画像表示が行われるように図ることができる。
さらにまた、第1の実施の形態の画像データ処理装置においては、パノラマ合成処理部13は、スウィングパノラマ撮影により得られた複数の撮像画像データを合成してパノラマ画像データを生成する。
これにより、パノラマ画像データを生成するにあたり撮像装置を複数台用いる必要がなくなる。
従って、パノラマ画像データをより簡易に生成することができる。
さらに、第1の実施の形態の画像データ処理装置においては、歪み度情報付帯制御部1aは、スウィングパノラマ撮影の開始から終了までの時間長であるパノラマ撮影時間長Tpと、スウィングパノラマ撮影におけるスウィング動作の平均角速度ωとに基づいて撮像方向最大差角を計算している。
これにより、スウィングパノラマ撮影によりパノラマ画像データを生成する場合の撮像方向最大差角が適切に求められる。
従って、適切な歪み度情報Dsをパノラマ画像データに付帯させることができ、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
また、第2の実施の形態の画像データ処理装置においては、パノラマ合成処理部13は、それぞれが異なる方向を撮像する複数の撮像装置3−1〜3−nにより撮像された複数の撮像画像データを合成してパノラマ画像データを生成している。
これにより、パノラマ画像データの生成に必要とされる複数の撮像画像データを同時に得ることが可能とされる。
従って、パノラマ画像データの生成に要する時間を短縮化することができる。
また、パノラマ画像データの生成に必要とされる複数の撮像画像データを同時に撮像できるので、スウィングパノラマ撮影の場合のように、動被写体を避けてシームSMを決定する必要がなくなり、パノラマ合成処理の簡易化を図ることができる。この点においても、パノラマ画像データの生成に要する時間を短縮化が図られる。
なお、上記では特に言及しなかったが、第2の実施の形態の画像データ処理装置(パノラマ画像生成装置1A)としては、パノラマ合成処理部13で生成された複数のパノラマ画像データに基づき動画像データを生成し、当該動画像データについての歪み度情報Dsの付帯制御、及び記録制御を行うように構成することもできる。
さらに、第2の実施の形態の画像データ処理装置においては、歪み度情報付帯制御部1aは、複数の撮像装置3−1〜3−nのうち撮像方向の角度差が最大である一端側撮像装置(撮像装置3−1)と他端側撮像装置(撮像装置3−n)に設けられた磁気センサの検出情報に基づき、撮像方向最大差角を計算している。
これにより、複数の撮像装置による撮像画像データを合成してパノラマ画像データを得る場合の撮像方向最大差角が適切に求められる。
従って、適切な歪み度情報Dsをパノラマ画像データに付帯させることができ、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
また、第3の実施の形態の画像データ処理装置においては、歪み度情報付帯制御部1aは、撮像画像データを得るための撮像に用いられたレンズユニット(広角レンズユニット10’)の焦点距離と撮像素子11のサイズとに基づき計算される画角θaの情報を歪み度情報Dsとして撮像画像データに付帯させている。
これにより、画像の歪みが生じている撮像画像データが広角レンズユニット10’を介した撮像により得られた撮像画像データである場合に対応して、撮像画像データの画像の歪み度合いと適切に相関する歪み度情報Dsが当該撮像画像データに付帯される。
従って、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
また、実施の形態の画像歪み対応処理装置(表示装置2)は、撮像素子11により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報Dsが付帯された撮像画像データを取得する画像取得部2aと、歪み度情報Dsに基づいて、撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理部2bとを備えている。
このように歪み度情報Dsに基づいて歪み補正処理、又は曲率可変表示パネルの曲率調整の何れかが行われることで、画像の歪みが生じている撮像画像データに基づく画像を表示面の曲率が固定とされた曲率固定表示パネル、又は曲率可変表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
従って、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
さらに、実施の形態の画像歪み対応処理装置においては、画像歪み対応処理部2bは、歪み度情報Dsに基づいて撮像画像データの歪み補正処理が実行されるように制御を行い、歪み補正処理が施された撮像画像データに基づく画像が表示面の曲率が固定とされた表示パネル2cに表示されるように制御を行う第一表示制御部(構成・処理例Iの制御部34)を備えている。
これにより、画像の歪みが生じている撮像画像データに基づく画像を表示面の曲率が固定とされた曲率固定表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
従って、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
さらにまた、実施の形態の画像歪み対応処理装置においては、画像歪み対応処理部2bは、歪み度情報Dsに基づいて曲率可変表示パネルの曲率調整が行われるように制御を行い、撮像画像データに基づく画像が曲率可変表示パネルに表示されるように制御を行う第二表示制御部(構成・処理例IIの制御部34)を備えている。
これにより、画像の歪みが生じている撮像画像データに基づく画像を曲率可変表示パネルに表示する場合に対応して、観察者に違和感を与えることなく、臨場感を適切に与えることが可能とされる。
従って、画像の歪みが生じている撮像画像データに基づいた画像表示を行う場合において、表示パネル2cの表示面形状に応じた適切な画像表示が行われるように図ることができる。
また、実施の形態の画像歪み対応処理装置においては、画像歪み対応処理部2bは、歪み度情報Dsが表す歪み度と、曲率可変表示パネルの曲率に対応する歪み度との差分に応じた歪み補正処理が行われるように制御を行い、歪み補正処理が施された撮像画像データに基づく画像が曲率可変表示パネルに表示されるように制御を行う第三表示制御部(構成・処理例IIIの制御部34)を備えている。
これにより、曲率可変の表示パネル2cには、当該表示パネル2cの現在の設定曲率に応じた歪みを有する画像が表示されるようになり、観察者に違和感を与えることなく、臨場感を適切に与えることができる。
従って、表示面の曲率をあまり大きくできない等の制約がある下においても、表示パネル2cの現在の設定曲率に応じた適切な画像表示が行われるように図ることができる。
<5.変形例>

以上、本技術に係る実施の形態を説明したが、本技術は上記で例示した具体例に限定されるべきものではない。
例えば、上記では、歪み度情報Dsをパノラマ画像データの画角θやレンズユニットの焦点距離及び撮像装置11のサイズに基づき計算される画角θaの情報とする場合を例示したが、歪み度情報Dsとしては、例えば画像の歪み度合いを画像処理により計測した情報とするなど、画像の歪み度合いに相関する情報であれば他の情報とすることもできる。
また、上記では、本技術に係る歪み度情報付帯制御部1a、記録制御部1b、画像取得部2a、及び画像歪み対応処理部2bの各処理がCPUによるソフトウェア処理で実行される場合を例示したが、これらの処理の少なくとも一部をハードウェアにより実行する構成を採ることもできる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
<6.本技術>

なお本技術は以下のような構成も採ることができる。
(1)
撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御部と、
前記歪み度情報が付帯された前記撮像画像データが記録媒体に記録されるように制御を行う記録制御部とを備える
画像データ処理装置。
(2)
それぞれが異なる方向を撮像して得られた複数の撮像画像データをパノラマ合成してパノラマ画像データを生成するパノラマ合成処理部を備え、
前記歪み度情報付帯制御部は、
前記複数の撮像画像データのうち互いの撮像方向の差が最大である一端側撮像画像データと他端側撮像画像データとの撮像方向の差分角度である撮像方向最大差角に基づいて前記歪み度情報を生成し、生成した前記歪み度情報を前記パノラマ画像データとしての撮像画像データに付帯させる
前記(1)に記載の画像データ処理装置。
(3)
前記歪み度情報付帯制御部は、
前記撮像方向最大差角と、前記一端側撮像画像データと前記他端側撮像画像データの画角とに基づいて前記歪み度情報を生成する
前記(2)に記載の画像データ処理装置。
(4)
前記パノラマ合成処理部は、
スウィングパノラマ撮影により得られた複数の撮像画像データを合成して前記パノラマ画像データを生成する
前記(2)又は(3)に記載の画像データ処理装置。
(5)
前記歪み度情報付帯制御部は、
前記スウィングパノラマ撮影の開始から終了までの時間長であるパノラマ撮影時間長と、前記スウィングパノラマ撮影におけるスウィング動作の平均角速度とに基づいて前記撮像方向最大差角を計算する
前記(4)に記載の画像データ処理装置。
(6)
前記パノラマ合成処理部は、
それぞれが異なる方向を撮像する複数の撮像装置により撮像された複数の撮像画像データを合成して前記パノラマ画像データを生成する
前記(2)又は(3)に記載の画像データ処理装置。
(7)
前記歪み度情報付帯制御部は、
前記複数の撮像装置のうち撮像方向の角度差が最大である一端側撮像装置と他端側撮像装置に設けられた磁気センサの検出情報に基づき、前記撮像方向最大差角を計算する
前記(6)に記載の画像データ処理装置。
(8)
前記歪み度情報付帯制御部は、
前記撮像画像データを得るための撮像に用いられたレンズユニットの焦点距離と前記撮像素子のサイズとに基づき計算される画角の情報を前記歪み度情報として前記撮像画像データに付帯させる
前記(1)に記載の画像データ処理装置。
(9)
撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御手順と、
前記歪み度情報が付帯された前記撮像画像データが記録媒体に記録されるように制御を行う記録制御手順とを有する
画像データ処理方法。
(10)
撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報が付帯された撮像画像データを取得する画像取得部と、
前記歪み度情報に基づいて、前記撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理部とを備える
画像歪み対応処理装置。
(11)
前記画像歪み対応処理部は、
前記歪み度情報に基づいて前記撮像画像データの歪み補正処理が実行されるように制御を行い、
前記歪み補正処理が施された前記撮像画像データに基づく画像が表示面の曲率が固定とされた表示パネルに表示されるように制御を行う第一表示制御部を備える
前記(10)に記載の画像歪み対応処理装置。
(12)
前記画像歪み対応処理部は、
前記歪み度情報に基づいて前記曲率可変表示パネルの曲率調整が行われるように制御を行い、
前記撮像画像データに基づく画像が前記曲率可変表示パネルに表示されるように制御を行う第二表示制御部を備える
前記(10)に記載の画像歪み対応処理装置。
(13)
前記画像歪み対応処理部は、
前記歪み度情報が表す歪み度と、前記曲率可変表示パネルの曲率に対応する歪み度との差分に応じた前記歪み補正処理が行われるように制御を行い、
前記歪み補正処理が施された前記撮像画像データに基づく画像が前記曲率可変表示パネルに表示されるように制御を行う第三表示制御部を備える
前記(10)に記載の画像歪み対応処理装置。
(14)
撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報が付帯された撮像画像データを取得する画像取得手順と、
前記歪み度情報に基づいて、前記撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理手順とを有する
画像歪み対応処理方法。
1,1B…撮像装置、1A…パノラマ画像生成装置、1a…歪み度情報付帯制御部、1b…記録制御部、2…表示装置、2a…画像取得部、2b…画像歪み対応処理部、2c…表示パネル、10…レンズユニット、10’…広角レンズユニット、11…撮像素子、12…画像処理部、13…パノラマ合成処理部、15,30…記録/再生デバイス、18,18A,18B,34…制御部、31…画像信号処理部、37…パネルアクチュエータ

Claims (14)

  1. 撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御部と、
    前記歪み度情報が付帯された前記撮像画像データが記録媒体に記録されるように制御を行う記録制御部とを備える
    画像データ処理装置。
  2. それぞれが異なる方向を撮像して得られた複数の撮像画像データをパノラマ合成してパノラマ画像データを生成するパノラマ合成処理部を備え、
    前記歪み度情報付帯制御部は、
    前記複数の撮像画像データのうち互いの撮像方向の差が最大である一端側撮像画像データと他端側撮像画像データとの撮像方向の差分角度である撮像方向最大差角に基づいて前記歪み度情報を生成し、生成した前記歪み度情報を前記パノラマ画像データとしての撮像画像データに付帯させる
    請求項1に記載の画像データ処理装置。
  3. 前記歪み度情報付帯制御部は、
    前記撮像方向最大差角と、前記一端側撮像画像データと前記他端側撮像画像データの画角とに基づいて前記歪み度情報を生成する
    請求項2に記載の画像データ処理装置。
  4. 前記パノラマ合成処理部は、
    スウィングパノラマ撮影により得られた複数の撮像画像データを合成して前記パノラマ画像データを生成する
    請求項2に記載の画像データ処理装置。
  5. 前記歪み度情報付帯制御部は、
    前記スウィングパノラマ撮影の開始から終了までの時間長であるパノラマ撮影時間長と、前記スウィングパノラマ撮影におけるスウィング動作の平均角速度とに基づいて前記撮像方向最大差角を計算する
    請求項4に記載の画像データ処理装置。
  6. 前記パノラマ合成処理部は、
    それぞれが異なる方向を撮像する複数の撮像装置により撮像された複数の撮像画像データを合成して前記パノラマ画像データを生成する
    請求項2に記載の画像データ処理装置。
  7. 前記歪み度情報付帯制御部は、
    前記複数の撮像装置のうち撮像方向の角度差が最大である一端側撮像装置と他端側撮像装置に設けられた磁気センサの検出情報に基づき、前記撮像方向最大差角を計算する
    請求項6に記載の画像データ処理装置。
  8. 前記歪み度情報付帯制御部は、
    前記撮像画像データを得るための撮像に用いられたレンズユニットの焦点距離と前記撮像素子のサイズとに基づき計算される画角の情報を前記歪み度情報として前記撮像画像データに付帯させる
    請求項1に記載の画像データ処理装置。
  9. 撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データに対して、当該撮像画像データの画像の歪み度合いと相関する歪み度情報を付帯させる歪み度情報付帯制御手順と、
    前記歪み度情報が付帯された前記撮像画像データが記録媒体に記録されるように制御を行う記録制御手順とを有する
    画像データ処理方法。
  10. 撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報が付帯された撮像画像データを取得する画像取得部と、
    前記歪み度情報に基づいて、前記撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理部とを備える
    画像歪み対応処理装置。
  11. 前記画像歪み対応処理部は、
    前記歪み度情報に基づいて前記撮像画像データの歪み補正処理が実行されるように制御を行い、
    前記歪み補正処理が施された前記撮像画像データに基づく画像が表示面の曲率が固定とされた表示パネルに表示されるように制御を行う第一表示制御部を備える
    請求項10に記載の画像歪み対応処理装置。
  12. 前記画像歪み対応処理部は、
    前記歪み度情報に基づいて前記曲率可変表示パネルの曲率調整が行われるように制御を行い、
    前記撮像画像データに基づく画像が前記曲率可変表示パネルに表示されるように制御を行う第二表示制御部を備える
    請求項10に記載の画像歪み対応処理装置。
  13. 前記画像歪み対応処理部は、
    前記歪み度情報が表す歪み度と、前記曲率可変表示パネルの曲率に対応する歪み度との差分に応じた前記歪み補正処理が行われるように制御を行い、
    前記歪み補正処理が施された前記撮像画像データに基づく画像が前記曲率可変表示パネルに表示されるように制御を行う第三表示制御部を備える
    請求項10に記載の画像歪み対応処理装置。
  14. 撮像素子により得られた撮像画像信号に基づいて生成された撮像画像データであって、当該撮像画像データの画像の歪み度合いと相関する歪み度情報が付帯された撮像画像データを取得する画像取得手順と、
    前記歪み度情報に基づいて、前記撮像画像データの歪み補正処理、又は表示面の曲率が可変とされた曲率可変表示パネルの曲率調整の何れかが行われるように制御を行う画像歪み対応処理手順とを有する
    画像歪み対応処理方法。
JP2014072134A 2014-03-31 2014-03-31 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法 Pending JP2015194587A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014072134A JP2015194587A (ja) 2014-03-31 2014-03-31 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法
US14/662,422 US20150278995A1 (en) 2014-03-31 2015-03-19 Image data processing apparatus, image data processing method, image distortion corresponding processing apparatus, and image distortion corresponding processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014072134A JP2015194587A (ja) 2014-03-31 2014-03-31 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法

Publications (1)

Publication Number Publication Date
JP2015194587A true JP2015194587A (ja) 2015-11-05

Family

ID=54191088

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014072134A Pending JP2015194587A (ja) 2014-03-31 2014-03-31 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法

Country Status (2)

Country Link
US (1) US20150278995A1 (ja)
JP (1) JP2015194587A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019182101A1 (ja) * 2018-03-23 2019-09-26 カムイ・イノベーション株式会社 多眼カメラシステム、多眼撮影用カメラヘッド、画像処理装置、多眼撮影用プログラムおよび多眼撮影方法

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016015624A1 (en) * 2014-07-28 2016-02-04 Mediatek Inc. Portable device capable of generating panoramic file
KR20160067518A (ko) * 2014-12-04 2016-06-14 삼성전자주식회사 영상 생성 방법 및 장치
US10339627B2 (en) 2016-10-10 2019-07-02 Gopro, Inc. Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image
CN106792180B (zh) * 2016-12-31 2018-08-24 惠科股份有限公司 可调整曲面显示器曲率的控制方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3980234B2 (ja) * 2000-01-07 2007-09-26 ペンタックス株式会社 デジタルカメラ
KR100819301B1 (ko) * 2006-12-20 2008-04-03 삼성전자주식회사 모바일 기기용 카메라 모듈의 손떨림 보정 방법 및 장치
US8724007B2 (en) * 2008-08-29 2014-05-13 Adobe Systems Incorporated Metadata-driven method and apparatus for multi-image processing
US8237787B2 (en) * 2009-05-02 2012-08-07 Steven J. Hollinger Ball with camera and trajectory control for reconnaissance or recreation
US8743219B1 (en) * 2010-07-13 2014-06-03 Marvell International Ltd. Image rotation correction and restoration using gyroscope and accelerometer
JP5413344B2 (ja) * 2010-09-27 2014-02-12 カシオ計算機株式会社 撮像装置、画像合成方法及びプログラム
US8970665B2 (en) * 2011-05-25 2015-03-03 Microsoft Corporation Orientation-based generation of panoramic fields
US20130089301A1 (en) * 2011-10-06 2013-04-11 Chi-cheng Ju Method and apparatus for processing video frames image with image registration information involved therein
WO2013162509A1 (en) * 2012-04-23 2013-10-31 Empire Technology Development Llc Distortion-correcting deformable displays

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019182101A1 (ja) * 2018-03-23 2019-09-26 カムイ・イノベーション株式会社 多眼カメラシステム、多眼撮影用カメラヘッド、画像処理装置、多眼撮影用プログラムおよび多眼撮影方法
JP2019169830A (ja) * 2018-03-23 2019-10-03 カムイ・イノベーション株式会社 多眼カメラシステム、多眼撮影用カメラヘッド、画像処理装置、多眼撮影用プログラムおよび多眼撮影方法
JP7076131B2 (ja) 2018-03-23 2022-05-27 カムイ・イノベーション株式会社 多眼カメラシステム、多眼撮影用カメラヘッド、画像処理装置、多眼撮影用プログラムおよび多眼撮影方法

Also Published As

Publication number Publication date
US20150278995A1 (en) 2015-10-01

Similar Documents

Publication Publication Date Title
JP4293053B2 (ja) 撮像装置及び方法
JP6471777B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5428210B2 (ja) 情報処理装置、撮像システム、録画制御方法及びプログラム
JP6192940B2 (ja) 撮影機器及び連携撮影方法
JP4957759B2 (ja) 撮像装置及び撮像方法
JP4356621B2 (ja) 撮像装置及び撮像方法
US11716537B2 (en) Image processing device, image processing method, and program
JP2015194587A (ja) 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法
JP2012199752A (ja) 画像処理装置と画像処理方法およびプログラム
JP2010199971A (ja) 撮像装置、撮像方法、及びプログラム
JP6061657B2 (ja) 撮影装置
JP2011035752A (ja) 撮像装置
JP5896102B2 (ja) 撮像装置、撮像制御方法、及びプログラム
JP5861420B2 (ja) 電子カメラ
JP2015012550A (ja) 撮像装置および撮像システム
JP2017085466A (ja) 撮像装置、及びその制御方法
JP5962974B2 (ja) 撮像装置、撮像方法、及びプログラム
JP4828486B2 (ja) デジタルカメラ、撮影方法及び撮影プログラム
JP2005348448A (ja) パノラマ撮像装置
JP2004117195A (ja) 速度計測機能付デジタルカメラ
US20220303465A1 (en) Imaging apparatus
JP2013121104A (ja) 電子カメラ
US20230103051A1 (en) Image processing apparatus, image processing method, and program
JP2011114802A (ja) 撮像装置
JP2011135374A (ja) 3次元デジタルカメラ