JP5668466B2 - 画像処理装置、その制御方法およびプログラム - Google Patents

画像処理装置、その制御方法およびプログラム Download PDF

Info

Publication number
JP5668466B2
JP5668466B2 JP2010292027A JP2010292027A JP5668466B2 JP 5668466 B2 JP5668466 B2 JP 5668466B2 JP 2010292027 A JP2010292027 A JP 2010292027A JP 2010292027 A JP2010292027 A JP 2010292027A JP 5668466 B2 JP5668466 B2 JP 5668466B2
Authority
JP
Japan
Prior art keywords
image
vertical
unit
imaging
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010292027A
Other languages
English (en)
Other versions
JP2012142663A5 (ja
JP2012142663A (ja
Inventor
秀治 桶川
秀治 桶川
貴宏 徳田
貴宏 徳田
浩和 中弥
浩和 中弥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010292027A priority Critical patent/JP5668466B2/ja
Priority to US13/329,815 priority patent/US20120162381A1/en
Priority to CN201110446741.9A priority patent/CN102572481B/zh
Publication of JP2012142663A publication Critical patent/JP2012142663A/ja
Publication of JP2012142663A5 publication Critical patent/JP2012142663A5/ja
Application granted granted Critical
Publication of JP5668466B2 publication Critical patent/JP5668466B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00281Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal
    • H04N1/00307Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a telecommunication apparatus, e.g. a switched network of teleprinters for the distribution of text-based information, a selective call terminal with a mobile telephone apparatus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/0035User-machine interface; Control console
    • H04N1/00405Output means
    • H04N1/00408Display of information to the user, e.g. menus
    • H04N1/0044Display of information to the user, e.g. menus for image preview or review, e.g. to help the user position a sheet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/133Equalising the characteristics of different image components, e.g. their average brightness or colour balance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/32Circuits or arrangements for control or supervision between transmitter and receiver or between image input and image output device, e.g. between a still-image camera and its memory or between a still-image camera and a printer device
    • H04N2201/3201Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title
    • H04N2201/3225Display, printing, storage or transmission of additional information, e.g. ID code, date and time or title of data relating to an image, a page or a document
    • H04N2201/3254Orientation, e.g. landscape or portrait; Location or order of the image data, e.g. in memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

本発明は、画像処理装置に関し、特に、立体視画像を扱う画像処理装置およびその制御方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
近年、人物等の被写体を撮像して撮像画像(画像データ)を生成し、この生成された撮像画像を画像コンテンツ(画像ファイル)として記録するデジタルスチルカメラやデジタルビデオカメラ(例えば、カメラ一体型レコーダ)等の撮像装置が普及している。例えば、撮像装置において生成された撮像画像は、所定の記録フォーマットを用いて記録媒体に記録される。
ここで、撮像画像の記録に用いられる記録フォーマットでは、アスペクト比が定められていることが多い。例えば、動画像の記録フォーマットの場合には、アスペクト比として16:9(=横:縦)または4:3(=横:縦)等が定められていることが多い。また、近年では、このようなアスペクト比を扱う技術が開発されている。
例えば、複数種類のアスペクト比を互いに判別し、最適なアスペクト比で画像を出力する映像信号処理装置が提案されている(例えば、特許文献1参照。)。
特開2009−3240号公報
上述の従来技術では、横長のアスペクト比を有する画像の間でアスペクト比を最適化することができる。
ここで、撮像時における撮像装置は一定の姿勢であるとは限らない。このため、撮像装置の姿勢によっては、被写体の上下と、画像再生時におけるユーザ(視聴者)の上下とが異なること(例えば、被写体が逆となる場合、被写体が横倒しとなる場合)も想定される。そこで、撮像時における撮像装置の姿勢を考慮した画像変換処理を行うことにより、被写体の上下と、画像再生時におけるユーザ(視聴者)の上下とが適切な関係となるように表示することができる。
ここで、立体視画像について記録処理や表示処理を行う場合を想定する。立体視画像は、左右眼の視差を利用して立体的な視覚を得るため、例えば、左眼視用画像および右眼視用画像に含まれる被写体が水平方向にズレている。このため、立体視画像(左眼視用画像および右眼視用画像)を見る場合には、表示される立体視画像に対して、ユーザ(視聴者)は所定の位置および姿勢で見る必要がある。このため、撮像時における撮像装置の姿勢を考慮した画像変換処理を行った場合には、立体視画像における上下方向を正しく表示することができるが、その立体視画像から立体的な視覚を得ることができなくなる。
本発明はこのような状況に鑑みてなされたものであり、画像に応じて適切に画像処理を行うことを目的とする。
本発明は、上記課題を解決するためになされたものであり、その第1の側面は、画像の縦横を変換する縦横変換処理を行う画像変換部と、撮像装置に備えられた撮像部によって立体視画像撮像モードで撮像された立体視画像については、上記画像変換部による上記縦横変換処理を行わず、上記撮像部によって平面画像撮像モードで撮像された平面画像については、上記平面画像の撮像時の上記撮像装置の姿勢に基づいて上記画像変換部による上記縦横変換処理の有無を制御する制御部とを具備し、上記制御部は、上記平面画像撮像モードが設定されている場合に、動画の記録が行われるときには、上記動画の記録開始時に検出された上記撮像装置の姿勢に基づいて、当該記録開始後の当該動画についての上記画像変換部による上記縦横変換処理の有無を決定する画像処理装置およびその制御方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、立体視画像撮像モードで撮像された立体視画像については、縦横変換処理を行わず、平面画像撮像モードで撮像された平面画像については、平面画像の撮像時の撮像装置の姿勢に基づいて、縦横変換処理の有無を制御し、平面画像撮像モードが設定されている場合に、動画の記録が行われるときには、動画の記録開始時に検出された撮像装置の姿勢に基づいて、その記録開始後のその動画についての縦横変換処理の有無を決定するという作用をもたらす。
また、この第1の側面において、上記制御部は、上記立体視画像については、上記縦横変換処理が行われていない画像を記録し、上記平面画像については、上記姿勢に基づいて、上記縦横変換処理が行われていない画像と上記縦横変換処理が行われた画像の一方を記録するようにしてもよい。これにより、立体視画像については、縦横変換処理が行われていない画像を記録し、平面画像については、撮像装置の姿勢に基づいて、縦横変換処理が行われていない画像と縦横変換処理が行われた画像の一方を記録するという作用をもたらす。
また、この第1の側面において、上記制御部は、上記立体視画像については、上記縦横変換処理が行われていない画像を外部の記憶装置に送信する制御を行い、上記平面画像については、上記姿勢に基づいて、上記縦横変換処理が行われていない画像と上記縦横変換処理が行われた画像の一方を上記外部の記憶装置に送信する制御を行うようにしてもよい。これにより、立体視画像については、縦横変換処理が行われていない画像を外部の記憶装置に送信する制御を行い、平面画像については、撮像装置の姿勢に基づいて、縦横変換処理が行われていない画像と縦横変換処理が行われた画像の一方を外部の記憶装置に送信するという作用をもたらす。
また、この第1の側面において、上記制御部は、外部の表示装置に送信する画像に関しては、上記立体視画像か上記平面画像かに関わらず表示対象画像の上記縦横変換処理を行わないようにしてもよい。これにより、外部の表示装置に送信する画像に関しては、立体視画像か平面画像かに関わらず表示対象画像の縦横変換処理を行わないという作用をもたらす。
また、この第1の側面において、上記撮像装置の姿勢を検出する姿勢検出部を備えるようにしてもよい。これにより、姿勢検出部により撮像装置の姿勢を検出するという作用をもたらす。
また、この第1の側面において、上記画像変換部は、上記縦横変換処理と合わせて上記画像を縮小する縮小処理を行うようにしてもよい。これにより、縦横変換処理と合わせて画像を縮小する縮小処理を行うという作用をもたらす。
また、本発明の第2の側面は、画像の縦横を変換する縦横変換処理を行う画像変換部と、表示部への表示対象画像が立体視画像である場合には、上記画像変換部による上記縦横変換処理を行わず、上記表示対象画像が平面画像である場合には、上記表示対象画像の記録処理時に上記表示対象画像について上記縦横変換処理が行われたか否かと画像処理装置の姿勢に基づいて、上記画像変換部による上記縦横変換処理の有無を制御する制御部とを具備する画像処理装置およびその制御方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、表示対象画像が立体視画像である場合には、縦横変換処理を行わず、表示対象画像が平面画像である場合には、表示対象画像の記録処理時に表示対象画像について縦横変換処理が行われたか否かと画像処理装置の姿勢に基づいて、縦横変換処理の有無を制御するという作用をもたらす。
また、この第2の側面において上記制御部は、上記表示対象画像が平面画像である場合において、上記記録処理時に上記表示対象画像について上記縦横変換処理が行われた場合には、上記画像変換部による上記縦横変換処理を行わず、上記記録処理時に上記表示対象画像について上記縦横変換処理が行われていない場合には、上記画像処理装置の姿勢に基づいて、上記画像変換部による上記縦横変換処理の有無を判断するようにしてもよい。これにより、表示対象画像が平面画像である場合において、記録処理時に表示対象画像について縦横変換処理が行われた場合には、縦横変換処理を行わず、記録処理時に表示対象画像について縦横変換処理が行われていない場合には、画像処理装置の姿勢に基づいて、縦横変換処理の有無を判断するという作用をもたらす。
また、この第2の側面において、上記立体視画像を、撮像時に上記縦横変換処理が行われていない画像とするようにしてもよい。これにより、撮像時に上記縦横変換処理が行われていない画像を立体画像として用いるという作用をもたらす。
また、この第2の側面において、上記制御部は、上記表示対象画像が、上記平面画像か上記立体視画像かをメタデータに基づいて判断するようにしてもよい。これにより、表示対象画像が、平面画像か立体視画像かをメタデータに基づいて判断するという作用をもたらす。
また、この第2の側面において、上記制御部は、外部の表示装置に送信する画像に関しては、上記立体視画像か上記平面画像かに関わらず上記表示対象画像の上記縦横変換処理を行わないようにしてもよい。これにより、外部の表示装置に送信する画像に関しては、立体視画像か平面画像かに関わらず表示対象画像の縦横変換処理を行わないという作用をもたらす。
また、この第2の側面において、上記姿勢を検出する姿勢検出部を備えるようにしてもよい。これにより、姿勢検出部により画像処理装置の姿勢を検出するという作用をもたらす。
また、この第2の側面において、上記表示部を備えるようにしてもよい。これにより、表示対象画像を表示部に表示させるという作用をもたらす。
本発明によれば、画像に応じて適切に画像処理を行うことができるという優れた効果を奏し得る。

本発明の第1の実施の形態における撮像装置100の外観構成例を示す図である。 本発明の第1の実施の形態における撮像装置100の外観構成例を示す図である。 本発明の第1の実施の形態における撮像装置100の内部構成例を示すブロック図である。 本発明の第1の実施の形態における撮像装置100の機能構成例を示すブロック図である。 本発明の第1の実施の形態における撮像装置100を用いて行われる撮像動作と、この撮像動作により生成される撮像画像との関係を示す図である。 本発明の第1の実施の形態における撮像装置100を用いて行われる撮像動作と、この撮像動作により生成される撮像画像との関係を示す図である。 本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、その姿勢により生成される撮像画像との関係例を示す図である。 本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、その姿勢により生成される撮像画像との関係例を示す図である。 本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、画像変換部172により画像変換処理が行われた画像との関係例を示す図である。 本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、画像変換部172により画像変換処理が行われた画像との関係例を示す図である。 本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、撮像部190により生成される立体視画像との関係例を示す図である。 本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、撮像部190により生成される立体視画像との関係例を示す図である。 本発明の第1の実施の形態における撮像装置100による画像変換制御処理の処理手順の一例を示すフローチャートである。 本発明の第1の実施の形態における撮像装置100により記録された画像を再生させる場合における画像再生例を示す図である。 本発明の第1の実施の形態における撮像装置100により記録された画像を再生させる場合における画像再生例を示す図である。 本発明の第1の実施の形態における撮像装置100による画像変換制御処理の処理手順の一例を示すフローチャートである。
以下、本発明を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(画像変換制御:撮像部により生成された画像について画像変換処理を行う場合にその画像変換処理を撮像モードに応じて変更する例)
2.変形例
<1.第1の実施の形態>
[撮像装置の外観構成例]
図1および図2は、本発明の第1の実施の形態における撮像装置100の外観構成例を示す図である。
図1(a)は、撮像装置100の正面(すなわち、被写体に向けられるレンズが設けられている面)の外観を示す正面図である。また、図1(b)は、撮像装置100の背面(すなわち、撮影者に向けられる入出力パネル151の面)の外観を示す背面図である。また、図2(a)は、撮像装置100の正面(図1(a)に示す状態から矢印102方向に90度回転させた状態)の外観を示す正面図である。また、図2(b)は、撮像装置100の背面(図1(b)に示す状態から矢印103方向に90度回転させた状態)の外観を示す背面図である。なお、撮像装置100は、例えば、立体視撮像対応の2つの撮像部を備え、被写体を撮像して2つの画像(画像データ)を生成し、これらの各画像(左眼視用画像および右眼視用画像)を関連付けて記録することが可能な撮像装置により実現される。この撮像装置は、例えば、生成された各画像を静止画コンテンツまたは動画コンテンツとしてとして記録媒体に記録することが可能なデジタルスチルカメラ、デジタルビデオカメラ(例えば、カメラ一体型レコーダ)等である。なお、撮像装置100は、特許請求の範囲に記載の画像処理装置の一例である。
撮像装置100は、第1撮像部110と、第2撮像部120と、電源スイッチ141と、シャッターボタン142と、操作ボタン群143と、上下左右ボタン144と、録画ボタン145と、入出力パネル151とを備える。
第1撮像部110および第2撮像部120は、被写体を撮像してその被写体を含む画像を生成するものである。例えば、平面画像(2D画像)を記録するための平面画像撮像モード(2D撮像モード)が設定されている場合には、第1撮像部110が、被写体を撮像してその被写体を含む画像(平面画像)を生成する。また、例えば、立体視画像(3D画像)を記録するための立体視画像撮像モード(3D撮像モード)が設定されている場合には、第1撮像部110および第2撮像部120が、立体視画像を生成する。すなわち、第1撮像部110が、立体視画像を生成するための左眼視用画像を生成し、第2撮像部120が、立体視画像を生成するための右眼視用画像を生成する。また、例えば、立体視画像の撮像動作を行う場合には、図2(a)および(b)に示す状態で撮像動作が行われる。なお、本発明の第1の実施の形態では、図2(a)および(b)に示す状態を撮像装置100の横長状態(または、横姿勢)と称する。すなわち、撮像装置100の横長状態は、第1撮像部110および第2撮像部120が設けられている面(正面)を被写体に向けた状態で、水平方向と撮像装置100の長手方向とを同一方向とした状態である。また、本発明の第1の実施の形態では、図1(a)および(b)に示す状態を撮像装置100の縦長状態(または、縦姿勢)と称する。すなわち、撮像装置100の縦長状態は、第1撮像部110および第2撮像部120が設けられている面(正面)を被写体に向けた状態で、垂直方向と撮像装置100の長手方向とを同一方向とした状態である。なお、第1撮像部110および第2撮像部120については、図3、図4を参照して詳細に説明する。
電源スイッチ141は、撮像装置100の電源をオン/オフする際に用いられる操作部材である。
シャッターボタン142は、第1撮像部110および第2撮像部120のうちの少なくとも1つにより生成された画像(画像データ)をコンテンツ(静止画コンテンツ)として記録する際にユーザにより押下される操作部材である。例えば、立体視画像撮像モード(3D撮像モード)が設定されている場合において、シャッターボタン142が半押しされた場合には、オートフォーカスを行うためのフォーカス制御が行われる。また、シャッターボタン142が全押しされた場合には、そのフォーカス制御が行われ、この全押しの際に第1撮像部110および第2撮像部120により生成された画像(画像データ)がコンテンツ(静止画(立体視画像)コンテンツ)として記録される。この記録処理により、コンテンツ(静止画(立体視画像)コンテンツ)が、例えば、図3に示す記憶部180に記録される。
操作ボタン群143は、各種操作を行う際に用いられる操作ボタンである。
上下左右ボタン144は、上下左右に関する各種操作を行う際に用いられる操作ボタンである。
録画ボタン145は、第1撮像部110および第2撮像部120の少なくとも1つにより生成された画像(画像データ)をコンテンツ(動画コンテンツ)として記録する際にユーザにより押下される操作部材である。例えば、立体視画像撮像モードが設定されている場合において、録画ボタン145が押下された場合には、第1撮像部110および第2撮像部120により生成された画像(画像データ)の記録処理が開始される。また、録画ボタン145が再度押下された場合には、画像(画像データ)の記録処理が終了する。この記録処理により、コンテンツ(動画(立体視画像)コンテンツ)が、例えば、図3に示す記憶部180に記録される。
入出力パネル151は、各種画像を表示するとともに、表示面に近接または接触する物体の検出状態に基づいてユーザからの操作入力を受け付けるものである。なお、入出力パネル151は、タッチスクリーンまたはタッチパネルとも称される。入出力パネル151は、操作受付部および表示パネルを備える。例えば、操作受付部として、導電性を有する物体(例えば、人物の指)の接触または近接を、静電容量の変化に基づいて検出する静電式(静電容量方式)のタッチパネルを用いることができる。また、例えば、表示パネルとして、LCD(Liquid Crystal Display)、有機EL(Electro Luminescence)パネル等の表示パネルを用いることができる。そして、入出力パネル151は、例えば、表示パネルの表示面上に、透明なタッチパネルを重ね合わせることにより構成される。
[撮像装置の内部構成例]
図3は、本発明の第1の実施の形態における撮像装置100の内部構成例を示すブロック図である。
撮像装置100は、第1撮像部110と、第2撮像部120と、姿勢検出部130と、操作受付部140と、表示部150と、通信部160と、DSP(Digital Signal Processor)170と、記憶部180とを備える。
第1撮像部110および第2撮像部120は、左眼視用画像および右眼視用画像を生成するため、光学系、撮像素子のそれぞれが左右1組となるように構成されている。すなわち、第1撮像部110は、撮像光学系111と、撮像素子112と、TG(Timing Generator)113と、光学部品駆動部114、115とを備える。また、第2撮像部120は、撮像光学系121と、撮像素子122と、TG123と、光学部品駆動部124、125とを備える。
なお、第1撮像部110および第2撮像部120の各構成(各光学系、各撮像素子等)は、配置位置が異なる点以外は略同一である。このため、以下では、これらの左右の構成のうち何れかについては一部の説明を省略して説明する。
撮像光学系111は、一方向の被写体を撮像するために光学設計された光学系であり、フォーカスレンズ、ズームレンズ等の各種レンズ、不要な波長を除去する光学フィルタ、絞り等の光学部品を備える。被写体から入射された光学像(被写体像)は、撮像光学系111における各光学部品を介して撮像素子112の露光面に結像される。また、撮像光学系111には、撮像光学系111を構成する光学部品を駆動するための光学部品駆動部114、115が機械的に接続されている。
撮像素子112は、撮像光学系111から供給される光学像を光電変換して電気信号(アナログの画像信号)を生成するものであり、この生成された電気信号をDSP170に出力する。撮像素子112として、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子(イメージセンサ)を用いることができる。
TG113は、DSP170の制御に基づいて、撮像素子112に必要な動作パルスを生成するタイミングジェネレータである。TG113は、例えば、垂直転送のための4相パルス、フィールドシフトパルス、水平転送のための2相パルス、シャッタパルス等の各種パルスを生成し、撮像素子112に供給する。そして、TG113による撮像素子112の駆動により被写体像が撮像される。また、TG113が、撮像素子112のシャッタースピードを調整することにより、撮像画像の露光量や露光期間が制御される(電子シャッタ機能)。
光学部品駆動部114、115は、DSP170の制御に基づいて、撮像光学系111を構成する光学部品を駆動させるものであり、例えば、ズームモータ、フォーカスモータ等により構成される。光学部品駆動部114、115は、例えば、撮像光学系111を構成するズームレンズ、フォーカスレンズ等を移動させ、絞りを調整する。
姿勢検出部130は、撮像装置100の加速度、動き、傾き等を検出することにより撮像装置100の姿勢を検出するものであり、検出された姿勢に関する情報(姿勢情報)をDSP170に出力する。姿勢検出部130は、例えば、ジャイロセンサを用いて実現される。このジャイロセンサにより、撮像装置100の角速度(3軸方向の回転角速度)が検出され、撮像装置100の姿勢が検出される。なお、ジャイロセンサ以外の他のセンサ(例えば、加速度センサ、磁気センサ)を用いて、撮像装置100の加速度、動き、傾き等を検出し、この検出結果に基づいて、撮像装置100の姿勢およびその変化を検出するようにしてもよい。
操作受付部140は、ユーザからの操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作信号をDSP170に出力する。操作受付部140は、例えば、図1および図2に示す電源スイッチ141、シャッターボタン142、操作ボタン群143、上下左右ボタン144、録画ボタン145、入出力パネル151に対応する。
表示部150は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ等により構成される。表示部150は、DSP170の制御に基づいて、入力された各種の画像データを表示する。例えば、表示部150は、撮像動作中にDSP170からリアルタイムで入力される撮像中の撮像画像(スルー画像)を表示する。この撮像動作中では、撮像装置100の姿勢とは無関係に撮像画像(スルー画像)が表示される。これにより、ユーザは、撮像動作中の画像を表示部150で見ながら、撮像装置100を操作することができる。また、記憶部180に記憶されているコンテンツの再生指示操作が行われた場合には、表示部150は、DSP170から入力されたコンテンツを表示する。これにより、ユーザは、記憶部180に記憶されているコンテンツの内容を確認することができる。表示部150は、例えば、図1および図2に示す入出力パネル151に対応する。
通信部160は、第1撮像部110および第2撮像部120により生成された撮像画像、記憶部180に記憶されている画像等を外部装置(例えば、表示装置)に出力するための通信部である。通信部160は、例えば、HDMI(High-Definition Multimedia Interface)を含む。
DSP170は、撮像画像の画像処理や、撮像装置100の動作制御を行うための演算処理装置である。DSP170は、図4に示す信号処理部171、画像変換部172、モード設定部173、制御部174、記録制御部175および表示制御部176を備える。例えば、制御部174は、DSP170に設けられているマイクロコントローラ等の演算処理装置で構成され、撮像装置100の全体の動作を制御する。制御部174は、例えば、記憶部180に含まれるフラッシュROM(Read Only Memory)等に格納されているプログラムに基づいて動作することにより、制御のために必要な各種の演算処理を実行する。この演算処理には、記憶部180に含まれるDRAM(Dynamic Random Access Memory)を用いるようにしてもよい。なお、そのプログラムとして、ディスク状記録媒体、またはメモリカード等のリムーバブル記憶媒体に格納されて撮像装置100に供給されるものを用いるようにしてもよい。また、LAN(Local Area Network)、インターネット等のネットワークを介して撮像装置100にダウンロードされるものを用いるようにしてもよい。
また、例えば、制御部174は、TG113、123や光学部品駆動部114、115、124、125を制御し、第1撮像部110による撮像動作を制御する。また、制御部174は、撮像光学系111、121の絞りの調整、撮像素子112、122の電子シャッタースピードの設定、信号処理部171のAGCのゲイン設定等により、自動露光制御を行う(AE機能)。また、制御部174は、撮像光学系111、121のフォーカスレンズを移動させ、特定の被写体に対して撮像光学系111、121の焦点を自動的に合わせるオートフォーカス制御を行う(AF機能)。また、制御部174は、撮像光学系111、121のズームレンズを移動させ、撮像画像の画角を調整する。また、制御部174は、記録制御部175による画像データの記録処理、表示制御部176による画像データの再生処理を制御する。さらに、制御部174は、表示部150に各種の表示データを表示させるための表示制御を行う。なお、DSP170を構成する各部については、図4を参照して詳細に説明する。
記憶部180は、各種データ(例えば、撮像装置100における各処理に用いられるデータ)を格納する記憶部である。記憶部180として、例えば、半導体メモリ、光ディスクまたはハードディスク等を用いることができる。なお、半導体メモリとして、フラッシュROM(Read Only Memory)、DRAM(Dynamic Random Access Memory)等を用いることができる。また、光ディスクとして、BD(Blu-ray Disc)、DVD(Digital Versatile Disc)、CD(Compact Disc)等を用いることができる。記憶部180として、撮像装置100に内蔵される記憶装置を用いるようにしてもよく、撮像装置100に着脱可能なメモリカード等のリムーバブルメディア(記録媒体)を用いるようにしてもよい。また、記憶部180として、複数の種類の記憶装置またはリムーバブルメディアを用いるようにしてもよい。
[撮像装置の機能構成例]
図4は、本発明の第1の実施の形態における撮像装置100の機能構成例を示すブロック図である。なお、図3に示す機能構成と同一の部分については、同一の符号を付してこれらの説明の一部を省略する。また、信号線等の一部については、その図示および説明を省略する。
撮像装置100は、撮像部190と、姿勢検出部130と、操作受付部140と、表示部150と、通信部160とを備える。また、撮像装置100は、信号処理部171と、画像変換部172と、モード設定部173と、制御部174と、記録制御部175と、表示制御部176と、記憶部180とを備える。なお、撮像部190は、第1撮像部110および第2撮像部120を備える。
撮像部190は、被写体を撮像してその被写体を含む平面画像またはその被写体を立体視するための立体視画像を生成する撮像部であり、モード設定部173により設定された撮像モードに応じた撮像処理を行う。すなわち、モード設定部173により平面画像撮像モード、立体視画像撮像モードおよび再生モードの何れかのモードが設定される。平面画像撮像モードは、平面画像を記録する撮像モードである。また、立体視画像撮像モードは、立体視画像を記録するための撮像モードである。なお、これらの各撮像モードについては、静止画を記録するための静止画撮像モードと、動画を記録するための動画撮像モードとの何れについても設定することができるものとする。すなわち、平面画像撮像モードおよび立体視画像撮像モードの何れかの撮像モードが設定されている場合には、ユーザ操作に基づいて、静止画の記録動作および動画の記録動作の何れについても行うことができる。また、再生モードは、記憶部180に記憶されている画像コンテンツの再生を行うためのモードである。
具体的には、撮像部190は、第1撮像部110および第2撮像部120を備える。例えば、平面画像撮像モードが設定されている場合には、第1撮像部110は、特定方向(例えば、光軸方向)の被写体を撮像して平面画像を生成する。また、立体視画像撮像モードが設定されている場合には、第1撮像部110および第2撮像部120により立体視画像が生成される。すなわち、第1撮像部110は、特定方向の被写体を撮像して立体視画像を表示するための第1画像(左眼視用画像)を生成し、第2撮像部120は、その立体視画像を表示するための第2画像(右眼視用画像)を生成する。そして、撮像部190は、このように生成された画像(画像データ)を信号処理部171に出力する。
姿勢検出部130は、撮像装置100の姿勢を検出するものであり、検出された姿勢に関する姿勢情報を制御部174に出力する。
操作受付部140は、ユーザからの操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作信号を制御部174に出力する。例えば、操作受付部140は、静止画の記録動作の指示操作や動画の記録動作開始(または記録動作終了)の指示操作を受け付ける。また、操作受付部140は、モードを設定する設定操作を受け付ける。
信号処理部171は、制御部174の制御に基づいて、撮像部190から出力された画像(画像データ)に対して所定の信号処理を実行するものであり、信号処理後の画像(画像データ)を画像変換部172に供給する。例えば、信号処理部171は、図3に示す撮像素子112、122から出力された画像信号(アナログの画像信号)に対して所定の信号処理を実行し、信号処理後の画像信号(デジタルの画像信号)を各部に供給する。また、信号処理部171は、例えば、アナログ信号処理部、A/D(アナログ/デジタル)変換部、デジタル信号処理部により構成される。アナログ信号処理部は、画像信号を前処理する処理部(いわゆる、アナログフロントエンド)である。このアナログ信号処理部は、例えば、撮像素子112、122から出力された画像信号に対して、CDS(correlated double sampling:相関2重サンプリング)処理、プログラマブルゲインアンプ(PGA)によるゲイン処理等を行う。A/D変換部は、アナログ信号処理部から出力された画像信号(アナログの画像信号)をデジタル画像信号に変換してデジタル信号処理部に出力する。デジタル信号処理部は、A/D変換部から出力されたデジタル画像信号に対して、例えば、ノイズ除去、ホワイトバランス調整、色補正、エッジ強調、ガンマ補正等のデジタル信号処理を行い、各部に出力する。なお、信号処理部171は、必ずしもアナログおよびデジタル信号処理を実行しなくてもよい。例えば、第1撮像部110および第2撮像部120がデジタル画像信号を出力し、信号処理部171がデジタル信号処理のみを実行するようにしてもよい。
画像変換部172は、制御部174の制御に基づいて信号処理部171から出力された画像(画像データ)について各種画像変換処理を行うものであり、画像変換処理が行われた画像を通信部160、記録制御部175または表示制御部176に出力する。また、画像変換部172は、再生モードの設定時には、制御部174の制御に基づいて表示制御部176から出力された画像(画像データ)について各種画像変換処理を行い、画像変換処理が行われた画像を通信部160または表示制御部176に出力する。また、画像変換部172は、モード設定部173により設定されているモードに応じた画像処理を行う。例えば、画像変換部172は、撮像部190により生成された画像(信号処理部171から出力された画像)について、縦横変換処理、縮小処理、回転処理(180度の回転)を行うことにより、その画像を変換する。また、画像変換部172は、記憶部180に記録されている画像(表示制御部176により取得された画像)について、縦横変換処理および拡大処理を行うことにより、その画像を変換する。なお、画像変換部172は、画像変換が不要な場合には、信号処理部171から出力された画像(画像データ)について画像変換処理を行わずに、通信部160、記録制御部175または表示制御部176に出力する。また、画像変換部172は、撮像モードの設定時において表示部150にスルー画像を表示する場合には、信号処理部171から出力された画像(画像変換処理が行われていない画像)を表示制御部176に出力する。
モード設定部173は、制御部174の制御に基づいて撮像モードまたは再生モードを設定するものである。具体的には、モード設定部173は、平面画像撮像モードと、立体視画像撮像モードと、再生モードとの何れかを設定する。例えば、操作受付部140により受け付けられるユーザ操作に基づいて各モードが設定される。
制御部174は、撮像装置100全体の制御を行うものである。例えば、制御部174は、操作受付部140により受け付けられたユーザからの操作入力に応じた制御を行う。
また、例えば、制御部174は、立体視画像撮像モードの設定時には、姿勢検出部130により検出された撮像装置100の姿勢にかかわらず、立体視画像を記憶部180に記録させる制御を行う。また、制御部174は、平面画像撮像モードの設定時には、姿勢検出部130により検出された撮像装置100の姿勢に基づいて、平面画像と、画像変換部172により平面画像が変換された画像(変換画像)との何れかを記憶部180に記録させる制御を行う。この場合に、制御部174は、平面画像撮像モードの設定時において、撮像装置100の筐体の長手方向と水平方向とが一致する姿勢(第1姿勢(基本姿勢))が検出された場合には、平面画像を記憶部180に記録させる制御を行う。一方、撮像装置100の筐体の長手方向と垂直方向とが一致する姿勢(第2姿勢(縦姿勢))が検出された場合には、その変換画像を記憶部180に記録させる制御を行う。
ただし、平面画像撮像モードの設定時において、第1姿勢(基本姿勢)を基準として撮像装置100の筐体の上下方向が逆となっている姿勢(逆姿勢)が検出された場合を想定する。この場合には、制御部174は、画像変換部172により平面画像が回転処理(180度の回転)された画像を記憶部180に記録させる制御を行う。また、第2姿勢(縦姿勢)を基準として撮像装置100の筐体の上下方向が逆となっている姿勢(縦姿勢かつ逆姿勢)が検出された場合を想定する。この場合には、制御部174は、画像変換部172により変換画像がさらに回転処理(180度の回転)された画像を記憶部180に記録させる制御を行う。
また、制御部174は、平面画像撮像モードの設定時には、操作受付部140により動画の記録動作開始の指示操作が受け付けられた際に姿勢検出部130により検出された撮像装置100の姿勢を基準として上述した画像変換処理を行わせる。すなわち、その指示操作が受け付けられた際に姿勢検出部130により検出された撮像装置100の姿勢に基づいて、平面画像と、変換画像との何れかをその指示操作に係る動画として記憶部180に記録させるかを決定する。
また、制御部174は、立体視画像撮像モードの設定時には、姿勢検出部130により検出された撮像装置100の姿勢にかかわらず立体視画像を表示させるための立体視画像情報を外部の表示装置に送信する制御を行う。また、制御部174は、平面画像撮像モードの設定時には、姿勢検出部130により検出された撮像装置100の姿勢に基づいて、平面画像と変換画像との何れかの画像を表示させるための画像情報をその表示装置に送信する制御を行う。
また、制御部174は、再生モードの設定時において、表示対象画像が立体視画像である場合には、姿勢検出部130により検出された撮像装置100の姿勢にかかわらず、立体視画像を表示部150に表示させる制御を行う。また、制御部174は、表示対象画像が立体視画像でない場合には、その検出された姿勢と、表示対象画像が変換画像であるか否かとに基づいて、平面画像と変換画像と画像変換部172による新たな変換画像との何れかを表示部150に表示させる制御を行う。
記録制御部175は、制御部174の制御に基づいて、画像変換部172から出力された画像の圧縮記録処理を行うものである。例えば、記録制御部175は、撮像モードの設定時において、録画ボタン145(図1等に示す)が押下された場合には、所定の記録フォーマットにより撮像画像(フレーム)を圧縮する。そして、その圧縮された画像データを、動画コンテンツとして記憶部180に記録させる。なお、所定の記録フォーマットとして、例えば、MPEG(Moving Picture Experts Group)4を用いることができる。また、記録制御部175は、撮像モードが設定されている場合においてシャッターボタン142(図2等に示す)が押下された場合には、撮像画像(静止画)を所定の圧縮符号化方式で圧縮し、静止画コンテンツとして記憶部180に記録させる。また、記録制御部175は、画像変換部172から出力された画像を記憶部180に記録させる際に、その画像に関するメタデータ(付随情報)を付加して記録させる。
表示制御部176は、制御部174の制御に基づいて、画像変換部172から出力された画像または記憶部180に記憶されている画像を表示部150に表示させるものである。例えば、表示制御部176は、撮像モードが設定されている場合には、画像変換部172から出力された画像(画像変換処理がされていない画像)をスルー画像として表示部150に表示させる。また、表示制御部176は、再生モードが設定されている場合には、操作受付部140からの再生指示操作に係る画像コンテンツを記憶部180から取得して圧縮画像データを伸張して表示部150に表示させる。また、表示制御部176は、記憶部180から取得された画像コンテンツに付加されているメタデータを取得し、これを制御部174に出力する。このメタデータに基づいて、画像コンテンツに対応する画像について、画像変換部172による画像変換処理が必要な場合には、表示制御部176は、その画像コンテンツを画像変換部172に出力する。そして、画像変換部172は、その画像コンテンツに対応する画像について画像変換処理を行い、表示制御部176に出力する。
[撮像動作例およびこれにより生成される画像例]
図5および図6は、本発明の第1の実施の形態における撮像装置100を用いて行われる撮像動作と、この撮像動作により生成される撮像画像との関係を示す図である。
図5(a)には、撮像装置100を用いた撮像動作の対象(撮像対象)となる人物401、402を示す。図5(b)には、図5(a)に示す人物401、402を被写体とする画像を記録する場合における撮像動作(人物403による撮像動作)を側面から見た場合を示す。なお、図5等では、説明の容易のため、人物401、402およびその背景を簡略化して示す。
図6(a)には、横長状態とされた撮像装置100を用いて、図5(b)に示す状態で撮像動作が行われた場合に入出力パネル151に表示されるスルー画像の一例を示す。
図6(b)には、平面画像撮像モードが設定されている場合において、図6(a)に示す状態でシャッターボタン142が全押しされた際に記録される画像(平面画像430)を示す。このように平面画像撮像モードが設定されている場合には、第1撮像部110により生成された画像(平面画像430)が記録対象画像となる。この平面画像430は、人物401、402が並んで配置された横長画像である。
図6(c)には、立体視画像撮像モードが設定されている場合において、図6(a)に示す状態でシャッターボタン142が全押しされた際に記録される画像(立体視画像440)を示す。このように立体視画像撮像モードが設定されている場合には、第1撮像部110および第2撮像部120により生成された画像(立体視画像440)が記録対象画像となる。この立体視画像440は、第1撮像部110により生成された左眼視用画像441と、第2撮像部120により生成された右眼視用画像442とにより構成される。左眼視用画像441および右眼視用画像442は、立体視画像を表示するための1組の画像であり、撮像範囲に含まれる被写体(人物401、402)が水平方向にズレている(矢印445で示す)。なお、点線の楕円444は、右眼視用画像442に含まれる人物401の顔の輪郭を表す。
このように、撮像装置100を用いて撮像動作を行う場合には、複数種類の撮像画像を記録することができる。また、撮像装置100の姿勢を変化させることにより、他の構図となる撮像画像を記録することができる。この例を図7および図8に示す。
[撮像装置の姿勢と撮像画像との関係例]
図7および図8は、本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、その姿勢により生成される撮像画像との関係例を示す図である。
図7(a)乃至(d)には、人物401、402を被写体として撮像動作を行う撮像装置100の姿勢として4種類の姿勢を示す。なお、光軸方向を軸として撮像装置100を90度回転(矢印451乃至454)させることにより、図7(a)乃至(d)に示す各姿勢とすることができる。
ここで、人物401、402を被写体として撮像動作を行う場合には、例えば、図7(a)に示す横長状態で撮像動作が行われる。ここで、以下では、図7(a)に示す横長状態を基本姿勢と称して説明する。また、人物401のみを被写体として撮像動作を行う場合には、例えば、図7(b)に示す横長状態(縦姿勢)で撮像動作が行われる。しかしながら、例えば、人物403が左手のみで撮像装置100を操作する場合等も想定される。この場合には、撮像装置100の姿勢が図7(c)および(d)に示す姿勢となることも想定される。
そこで、以下では、撮像装置100の姿勢について、2つの分類を用いて説明する。例えば、図7(a)乃至(d)に示す撮像装置100の各姿勢のうち、図7(b)および(d)に示す撮像装置100の姿勢を縦姿勢と称する。また、図7(c)および(d)に示す撮像装置100の姿勢を逆姿勢と称する。なお、ここでは、撮像装置100の姿勢として、撮像装置100を用いて撮像動作を行う場合における姿勢について説明するが、撮像装置100が画像を表示する場合についても同様の名称(基本姿勢、縦姿勢、逆姿勢)を用いるものとする。
最初に、図7(b)および(d)に示すように、撮像装置100が縦姿勢である場合について説明する。この場合に生成される撮像画像は、撮像装置100が横長状態とされている場合に生成される撮像画像と比較すると、縦横が逆転した画像となる。
次に、図7(c)および(d)に示すように、撮像装置100が逆姿勢である場合について説明する。例えば、人物403が撮像装置100を手に持った状態で撮像動作(静止画の撮像動作)を行う場合には、入出力パネル151が見える状態で右手(例えば、人差し指や親指)をシャッターボタン142にかける。そして、所望のタイミングでシャッターボタン142を押下することにより撮像動作を行う。このため、一般に、人物が撮像装置100を手に持った状態で撮像動作(静止画の撮像動作)を行う場合には、図7(a)または(b)に示す姿勢で行われることが多い。これに対して、図7(c)に示す姿勢は、一般に行われる図7(a)に示す姿勢と比べて上下が逆転した姿勢となる。このため、上述したように、図7(c)に示す撮像装置100の姿勢を逆姿勢と称する。
また、上述したように、撮像装置100の縦姿勢として、図7(b)および(d)に示す撮像装置100の姿勢の2種類がある。そこで、本発明の第1の実施の形態では、その2種類の姿勢を区別するため、縦姿勢についても逆姿勢であるか否かに応じて名称を区別して用いる。
上述したように、一般に、人物が撮像装置100を手に持った状態で撮像動作(静止画の撮像動作)を行う場合には、図7(a)または(b)に示す姿勢で行われることが多い。これに対して、図7(d)に示す姿勢は、一般に行われる図7(b)に示す姿勢と比べて上下が逆転した姿勢となる。そこで、図7(d)に示す撮像装置100の姿勢を縦姿勢かつ逆姿勢と称する。
図8(a)には、撮像装置100が縦姿勢である場合に、第1撮像部110により生成される撮像画像の一例(平面画像460)を示す。図8(a)に示す撮像装置100の姿勢は、図7(a)に示す撮像装置100の姿勢(基準姿勢)から光軸方向を軸として、CCW(Counter ClockWise:反時計回り)方向に撮像装置100を−90°回転させた姿勢である。この場合には、第1撮像部110も撮像装置100の回転に応じてCCW方向に−90°回転しているため、第1撮像部110により生成される平面画像460においても人物401が90°回転した横倒しの状態となる。
図8(b)には、撮像装置100が縦姿勢かつ逆姿勢である場合に、第1撮像部110により生成される撮像画像の一例(平面画像470)を示す。図8(b)に示す撮像装置100の姿勢は、図7(a)に示す撮像装置100の姿勢(基準姿勢)から光軸方向を軸としてCCW方向に撮像装置100を180°回転させた姿勢である。この場合には、第1撮像部110も撮像装置100の回転に応じて180°回転しているため、第1撮像部110により生成される平面画像470においても人物401、402が180°回転した状態となる。
図8(a)および(b)に示す撮像装置100の姿勢により生成された平面画像460、470を入出力パネル151に表示させる場合には、撮像装置100の姿勢による影響が生じる。例えば、図7(a)に示す撮像装置100の姿勢で撮像動作が行われて記録された平面画像を、図7(b)に示す撮像装置100の姿勢で再生させる場合を想定する。この場合には、入出力パネル151に表示される平面画像(再生画像)において、人物401、402は、CCW方向に−90°回転した横倒しの状態として表示される。
また、例えば、図7(a)に示す撮像装置100の姿勢で撮像動作が行われて記録された平面画像を、図7(c)に示す撮像装置100の姿勢で再生させる場合を想定する。この場合には、入出力パネル151に表示される平面画像(再生画像)において、人物401、402がCCW方向に180°回転した状態(すなわち、上下が逆転した状態)として表示される。
このように、撮像動作時における撮像装置100の姿勢および画像再生時における撮像装置100の姿勢によっては、画像再生時において表示画像を適切に表示することができないおそれがある。そこで、本発明の第1の実施の形態では、撮像動作時における撮像装置100の姿勢に基づいて撮像画像を変換して記録する。
[画像変換例]
図9および図10は、本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、画像変換部172により画像変換処理が行われた画像との関係例を示す図である。
図9(a)には、撮像装置100を縦姿勢として撮像動作が行われている場合における入出力パネル151の表示例を示す。なお、図9(a)に示す表示例は、図7(b)と同一である。
図9(b)には、撮像装置100が縦姿勢である場合(すなわち、図9(a)に示す姿勢である場合)に、記録制御部175により記録される変換画像510を示す。
図9(c)には、撮像装置100が縦姿勢である場合(すなわち、図9(a)に示す姿勢である場合)に、通信部160から表示装置520に出力された画像を表示装置520において表示する場合を簡略化して示す。なお、表示装置520が備える表示部の表示面におけるアスペクト比は横長であるものとする。
図9(a)に示す例では、撮像装置100は、基本姿勢(すなわち、図7(a)に示す姿勢)からCCW方向に−90°回転された姿勢(縦姿勢)となっている。この場合、画像変換部172は、制御部174の制御に基づいて、第1撮像部110により生成された撮像画像について縦横変換処理および縮小処理を行い、その撮像画像を変換する。また、記録制御部175は、制御部174の制御に基づいて、画像変換部172により変換された画像(変換画像510)を記憶部180に記録させる。また、通信部160は、制御部174の制御に基づいて、画像変換部172により変換された画像(変換画像510)を外部の表示装置520に出力する。すなわち、表示面におけるアスペクト比が横長である表示装置520を用いて、変換画像510(図9(b)に示す)を表示する場合には、変換画像510がそのまま表示される。また、この場合に、表示装置520が備える表示部の表示面に対応する拡大縮小処理等が適宜行われる。
このように、図9(a)に示す姿勢(縦姿勢)で撮像動作が行われて記憶部180に記憶された画像(変換画像510)は、縦姿勢で撮像装置100により生成された画像であるため、縦長の画像として表示部150に表示されるようにする。しかしながら、記憶部180に記憶される画像(変換画像510)は横長である。そこで、第1撮像部110により生成された画像について、縦横変換処理および縮小処理が行われ、長手方向の両側に黒画像が付加される。その縮小処理では、その縦サイズが記録対象画像のサイズを超えないように縮小される。
同様に、図9(a)に示す姿勢(縦姿勢)で撮像動作が行われて表示装置520に表示される画像は、縦姿勢で撮像装置100により生成された画像であるため、縦長の画像として表示装置520に表示されるようにする。この場合についても、上述したように、縦横変換処理および縮小処理が行われ、長手方向の両側に黒画像が付加される。
すなわち、制御部174は、姿勢検出部130からの姿勢情報に基づいて撮像装置100の姿勢を判断する。そして、撮像装置100が縦姿勢であると判断された場合には、画像変換部172は、制御部174の制御に基づいて、第1撮像部110および信号処理部171により生成された撮像画像を、縦横変換画像に変換する。具体的には、画像変換部172は、その撮像画像をCCW方向に90°回転させる。この回転により、撮像画像の縦横が変換される。撮像装置100が縦姿勢の場合、基本姿勢の場合と比較して、撮像画像の縦横が逆転しているため、その撮像画像の縦横をさらに逆転させることにより、撮像画像の縦横を元に戻すことができる。
続いて、画像変換部172は、縦横変換された画像を縮小する。ここで、本発明の第1の実施の形態では、記録フォーマットとして、16:9(=横:縦)のアスペクト比が定められている例を示す。上述したように、縦横変換処理後の画像のアスペクト比は、9:16(=横:縦)となるため、縦サイズが、記録フォーマットにより記録可能なサイズを超えてしまう。そこで、記録対象画像の縦サイズが記録フォーマットにより記録可能なサイズを超えないように画像を縮小する。なお、他のアスペクト比(例えば、4:3(=横:縦))が定められている場合についても、本発明の第1の実施の形態を適用することができる。
続いて、画像変換部172は、縮小された画像に所定画像(例えば、黒画像)を付加する。すなわち、縮小後の画像については、横長のアスペクト比の画像に、縮小した縦長の画像が含まれるため、画像の左右が開いてしまう。そこで、画像変換部172は、画像の左右両側に所定画像(例えば、水平方向におけるサイズW1の領域)を付加する。なお、この画像付加処理では、画像の開いている部分を埋めることができればよいため、所定画像以外の表示要素(例えば、壁紙等の画像)を代わりに付加するようにしてもよい。これらの各処理により、撮像画像と同じサイズの変換画像が生成される。
なお、撮像装置100が縦姿勢でない場合には、制御部174は、撮像画像について縦横変換処理および縮小処理を行わないと判断する。
図10(a)には、撮像装置100を逆姿勢として撮像動作が行われている場合における入出力パネル151の表示例を示す。なお、図10(a)に示す表示例は、図7(c)と同一である。
図10(b)には、撮像装置100が逆姿勢である場合(すなわち、図10(a)に示す姿勢である場合)に、記録制御部175により記録される変換画像540を示す。
図10(c)には、撮像装置100が逆姿勢である場合(すなわち、図10(a)に示す姿勢である場合)に、通信部160から表示装置550に出力された画像を表示装置550において表示する場合を簡略化して示す。なお、表示装置550が備える表示部の表示面におけるアスペクト比は横長であるものとする。
図10(a)に示す例では、撮像装置100は、基本姿勢(すなわち、図7(a)に示す姿勢)から180°回転された姿勢(逆姿勢)となっている。この場合、画像変換部172は、制御部174の制御に基づいて、第1撮像部110により生成された撮像画像について回転処理を行い、その撮像画像を変換する。また、記録制御部175は、制御部174の制御に基づいて、画像変換部172により変換された画像(変換画像540)を記憶部180に記録させる。また、通信部160は、制御部174の制御に基づいて、画像変換部172により変換された画像(変換画像540)を外部の表示装置550に出力する。すなわち、表示面におけるアスペクト比が横長である表示装置550を用いて、変換画像540を表示する場合には、変換画像540がそのまま表示される。また、この場合に、表示装置550が備える表示部の表示面に対応する拡大縮小処理等が適宜行われる。
すなわち、制御部174は、姿勢検出部130からの姿勢情報に基づいて撮像装置100の姿勢を判断する。そして、撮像装置100が逆姿勢であると判断された場合には、画像変換部172は、制御部174の制御に基づいて、第1撮像部110および信号処理部171により生成された撮像画像を回転させる。具体的には、画像変換部172は、その撮像画像を180°回転させる。この回転により、撮像画像の上下が変換される。撮像装置100が逆姿勢の場合、基本姿勢の場合と比較して、撮像画像の上下が逆転しているため、その撮像画像の上下をさらに逆転させることにより、撮像画像の上下関係を元に戻すことができる。なお、撮像画像自体は横長であるため、サイズを変更しなくてもよい。
なお、撮像装置100が逆姿勢でない場合には、制御部174は、撮像画像について回転処理を行わないと判断する。
また、撮像装置100が縦姿勢かつ逆姿勢である場合(すなわち、図7(b)に示す姿勢である場合)には、上述した縦横変換処理および縮小処理と、回転処理とが順次行われる。
ここで、制御部174は、記録制御部175が動画の記録を開始する場合には、姿勢検出部130からの姿勢情報に基づいてその開始時における撮像装置100の姿勢を判断し、以後もその判断結果を継続して用いるようにする。すなわち、制御部174は、動画の撮像動作により記録制御部175による画像の記録が継続して行われる場合でも、記録制御部175による画像の記録開始時における撮像装置100の姿勢に基づいて、画像変換部172を制御する。例えば、撮像画像の記録が開始された後の撮像装置100の姿勢の変化は、ユーザが意図的に行っていることが多いため、このような構成が有効である。ただし、制御部174は、記録制御部175による動画の記録の間、姿勢検出部130からの姿勢情報に基づいて撮像装置100の姿勢を判断し続け、その判断された姿勢に基づいて画像変換部172を順次制御するようにしてもよい。また、これらの判断のタイミングについては、ユーザ操作により設定内容を変更するようにしてもよい。
また、上述した各処理(縦横変換処理、縮小処理、回転処理等)により変換された変換画像が画像コンテンツとして記憶部180に記録される場合には、変換された画像である旨を示すメタデータ(付随情報)がその画像コンテンツに含めて記録される。例えば、記録制御部175は、制御部174の制御に基づいて、変換された画像である旨を示すメタデータ(付随情報)を、画像ファイルに含まれるタグ情報として記録させる。このメタデータには、変換画像の種類(縦横変換処理および縮小処理がされた画像、回転処理がされた画像、立体視画像等)についても記録される。
ここで、上述した各処理(縦横変換処理、縮小処理、回転処理等)により画像(記録対象画像、外部機器への出力対象画像)が変換された場合でも、入出力パネル151には、第1撮像部110により生成された撮像画像がスルー画像として表示される。すなわち、入出力パネル151は撮像装置100に設けられているため、入出力パネル151は、第1撮像部110とともに回転している。このため、撮像装置100の姿勢に関わらず、入出力パネル151に表示されるスルー画像については縦横または上下が逆転しないため、入出力パネル151に表示される画像を変換する必要がない。
このように、平面画像撮像モードが設定されている場合において、撮像装置100が縦姿勢または逆姿勢である場合には画像変換処理を行うことにより、表示画像における上下方向を正しく表示することができる。次に、立体視画像撮像モードが設定されている場合において、撮像装置100が縦姿勢または逆姿勢である場合について説明する。
[立体視画像撮像モード設定時における画像生成例]
図11および図12は、本発明の第1の実施の形態における撮像装置100の撮像動作時の姿勢と、撮像部190により生成される立体視画像との関係例を示す図である。
図11(a)には、立体視画像撮像モードが設定されている場合において、撮像装置100を縦姿勢とした状態で行われている撮像動作中における撮像装置100の背面側を示す。すなわち、図11(a)に示す例では、人物401のみを被写体として撮像動作を行う場合における入出力パネル151の表示例を示す。
図11(b)には、図11(a)に示す状態でシャッターボタン142が全押しされた際に生成される立体視画像560を示す。上述したように、立体視画像560は、第1撮像部110により生成される左眼視用画像561と、第2撮像部120により生成される右眼視用画像562とにより構成される。左眼視用画像561および右眼視用画像562は、立体視画像を表示するための1組の画像であり、撮像範囲に含まれる被写体(人物401)が水平方向にズレている(矢印565で示す)。なお、点線の楕円564は、右眼視用画像562に含まれる人物401の顔の輪郭を表す。
図12(a)には、立体視画像撮像モードが設定されている場合において、撮像装置100を逆姿勢とした状態で行われている撮像動作中における撮像装置100の背面側を示す。すなわち、図12(a)に示す例では、人物401、402を被写体として撮像動作を行う場合における入出力パネル151の表示例を示す。
図12(b)には、図12(a)に示す状態でシャッターボタン142が全押しされた際に生成される立体視画像570を示す。上述したように、立体視画像570は、第1撮像部110により生成される左眼視用画像571と、第2撮像部120により生成される右眼視用画像572とにより構成される。左眼視用画像571および右眼視用画像572は、立体視画像を表示するための1組の画像であり、撮像範囲に含まれる被写体(人物401、402)が水平方向にズレている(矢印575で示す)。なお、点線の楕円574は、右眼視用画像572に含まれる人物401の顔の輪郭を表す。
図11(b)および図12(b)に示すように、立体視画像は、左右眼の視差を利用して立体的な視覚を得るため、左眼視用画像および右眼視用画像に含まれる被写体が水平方向にズレている。このように構成されている立体視画像(左眼視用画像および右眼視用画像)を見る場合には、表示される立体視画像に対して、ユーザは所定の位置および姿勢で見る必要がある。このため、立体視画像撮像モードが設定されている場合において、上述した画像変換処理を行った場合には、立体視画像における上下方向を正しく表示することができるが、その立体視画像から立体的な視覚を得ることができなくなる。そこで、本発明の第1の実施の形態では、立体視画像撮像モードが設定されている場合には、上述した画像変換処理を行わないようにする。これにより、平面画像撮像モードまたは立体視画像撮像モードの何れの撮像モードが設定されている場合でも、適切な画像を記録することができる。
[撮像装置の動作例]
次に、本発明の第1の実施の形態における撮像装置100の動作について図面を参照して説明する。
図13は、本発明の第1の実施の形態における撮像装置100による画像変換制御処理の処理手順の一例を示すフローチャートである。この例では、撮像モードが設定され、動画の記録処理が行われている場合における画像変換制御処理例を示す。
最初に、制御部174が、立体視画像撮像モードが設定されているか否かを判断する(ステップS901)。立体視画像撮像モードが設定されている場合には(ステップS901)、上述した画像変換処理を行わずに、画像変換制御処理の動作を終了する。
また、立体視画像撮像モードが設定されていない場合(すなわち、平面画像撮像モードの設定時)には(ステップS901)、制御部174が、姿勢検出部130からの姿勢情報に基づいて、撮像装置100が縦姿勢であるか否かを判断する(ステップS902)。撮像装置100が縦姿勢でない場合には(ステップS902)、ステップS906に進む。
一方、撮像装置100が縦姿勢である場合には(ステップS902)、画像変換部172が、制御部174の制御に基づいて、第1撮像部110から信号処理部171を経て出力される撮像画像について縦横変換処理を行う(ステップS903)。具体的には、画像変換部172が、撮像画像をCCW方向に90°回転させることにより、縦横変換処理を行う(ステップS903)。
続いて、画像変換部172が、縦横変換処理後の画像について縮小処理を行う(ステップS904)。続いて、画像変換部172が、その縮小された画像に所定画像(例えば、黒画像)を付加する画像付加処理を行う(ステップS905)。
続いて、制御部174が、姿勢検出部130からの姿勢情報に基づいて、撮像装置100が逆姿勢であるか否かを判断する(ステップS906)。撮像装置100が逆姿勢でない場合には(ステップS906)、画像変換制御処理の動作を終了する。
一方、撮像装置100が逆姿勢である場合には(ステップS906)、画像変換部172は、制御部174の制御に基づいて、対象画像について回転処理を行う(ステップS907)。ここで、対象画像は、第1撮像部110から信号処理部171を経て出力される撮像画像、または、ステップS903乃至S905における各画像変換処理により生成された変換画像である。具体的には、画像変換部172が、対象画像を180°回転させる(ステップS907)。なお、ステップS901は、特許請求の範囲に記載の判断手順の一例である。また、ステップS902、S906は、特許請求の範囲に記載の姿勢検出手順の一例である。また、ステップS903乃至S905、S907は、特許請求の範囲に記載の制御手順の一例である。
このように画像変換処理(ステップS903乃至S905、S907)が行われた変換画像、または、画像変換処理が行われなかった撮像画像(立体視画像、平面画像)については、記録制御部175が、制御部174の制御に基づいて画像記録処理を行う。また、画像コンテンツが記憶部180に記録される場合には、上述したように、画像の種類を示すメタデータ(付随情報)がその画像コンテンツに含めて記録される。
また、上述したように、画像変換処理により画像が変換された場合でも、入出力パネル151には、撮像部190により生成された撮像画像がスルー画像として表示される。
なお、この例では、画像を記憶部180に記録する例を示したが、第1撮像部110および第2の撮像部120の少なくとも1つにより生成される画像を外部の表示装置に出力する場合についても同様に適用することができる。この場合には、画像記録処理の代わりに、通信部160が、制御部174の制御に基づいて、画像出力処理を行う。
また、この例では、記録制御部175による動画の記録の間、姿勢検出部130からの姿勢情報に基づいて撮像装置100の姿勢を判断し続け(ステップS902)、その判断された姿勢に基づいて画像変換部172を順次制御する例を示した。ただし、上述したように、姿勢検出部130からの姿勢情報に基づいて、動画の記録の開始時における撮像装置100の姿勢を判断し、以後もその判断結果を継続して用いるようにしてもよい。
[画像再生例]
図14および図15は、本発明の第1の実施の形態における撮像装置100により記録された画像を再生させる場合における画像再生例を示す図である。
図14(a)には、平面画像撮像モードが設定されている場合において、撮像装置100が縦姿勢となっている状態で記録処理が行われた変換画像600を示す。変換画像600は、図9(b)に示す変換画像510と同一であり、水平方向における両側に黒画像(サイズW1の領域)が付加されている。
図14(b)には、再生モードが設定されている場合において、撮像装置100が縦姿勢となっている状態で、図14(a)に示す変換画像600が表示される場合における表示例を示す。図14(b)では、撮像装置100が、基本姿勢からCCW方向に−90°回転されて縦姿勢となっている。
このように表示対象画像が変換画像であり、撮像装置100が縦姿勢である場合には、表示対象画像を変換して表示させる。すなわち、画像変換部172は、制御部174の制御に基づいて、表示制御部176が記憶部180から取得した変換画像600から黒画像を削除し、黒画像が削除された変換画像600を拡大することにより表示画像に変換する。そして、表示制御部176は、制御部174の制御に基づいて、変換画像600の代わりに表示画像(変換画像600に対して黒画像削除処理、拡大処理が施された画像)を入出力パネル151に表示させる。このように変換画像600を表示させることにより、図14(b)に示すように、人物401を含む画像の上下方向がユーザの上下方向と一致するように表示させることができる。
すなわち、撮像装置100が縦姿勢であり、入出力パネル151の表示面におけるアスペクト比が縦長になっている場合には、変換画像は、その縮小サイズから撮像時のサイズに拡大されて表示される。
図14(c)には、表示装置610を用いて変換画像600(図14(a)に示す)を表示する場合における表示例を示す。なお、表示装置610が備える表示部の表示面におけるアスペクト比は横長であるものとする。このように、表示面におけるアスペクト比が横長である表示装置610を用いて、変換画像600(図14(a)に示す)を表示する場合には、変換画像600から黒画像が削除されずにそのまま表示される。また、この場合に、表示装置610が備える表示部の表示面に対応する拡大縮小処理等が適宜行われる。
図15(a)には、平面画像撮像モードが設定されている場合において、撮像装置100が基本姿勢となっている状態で記録処理が行われた平面画像620を示す。平面画像620は、図6(b)に示す平面画像430と同一である(すなわち、平面画像620は、変換画像ではない)。
図15(b)には、再生モードが設定されている場合において、撮像装置100が縦姿勢となっている状態で、図15(a)に示す平面画像620が表示される場合における表示例を示す。図15(b)では、撮像装置100が、基本姿勢からCCW方向に−90°回転されて縦姿勢となっている。
このように表示対象画像が変換画像でなく、撮像装置100が縦姿勢である場合には、表示対象画像を変換して表示させる。すなわち、画像変換部172は、制御部174の制御に基づいて、表示制御部176が記憶部180から取得した平面画像620をCCW方向に90度回転させて縮小し、所定画像(例えば、黒画像)を付加することにより表示画像に変換する。この縮小処理では、例えば、平面画像620における横のサイズが、入出力パネル151の表示面において表示可能なサイズとなるように縮小が行われる。
そして、表示制御部176は、制御部174の制御に基づいて、平面画像620の代わりに表示画像(平面画像620に回転処理、縮小処理、黒画像付加処理が施された画像)を入出力パネル151に表示させる。このように平面画像620を表示させることにより、図15(b)に示すように、人物401、402を含む画像の上下方向がユーザの上下方向と一致するように表示させることができる。
すなわち、撮像装置100が縦姿勢であり、入出力パネル151の表示面におけるアスペクト比が縦長になっている場合には、平面画像(横長のアスペクト比)は、回転処理、縮小処理、黒画像付加処理が施されて表示される。
図15(c)には、表示装置640を用いて平面画像620(図15(a)に示す)を表示する場合における表示例を示す。なお、表示装置640が備える表示部の表示面におけるアスペクト比は横長であるものとする。このように、表示面におけるアスペクト比が横長である表示装置640を用いて、平面画像620を表示する場合には、平面画像620がそのまま表示される。この場合に、表示装置640が備える表示部の表示面に対応する拡大縮小処理等が適宜行われる。
ここで、変換画像600(図14(a)に示す)または平面画像620(図15(a)に示す)を表示する場合に、撮像装置100が逆姿勢、または、縦姿勢かつ逆姿勢である場合を想定する。この場合には、上述した各処理を行った場合でも、表示される画像の上下方向と、ユーザの上下方向とが逆転していることになる。そこで、撮像装置100が逆姿勢、または、縦姿勢かつ逆姿勢である場合には、表示対象画像について回転処理を行うことにより変換して表示させるようにする。すなわち、画像変換部172は、制御部174の制御に基づいて、上述した各処理が施された表示対象画像を180°回転させる。この回転により、上述した各処理が施された表示対象画像の上下を逆転させることができる。
このように、撮像装置100が縦姿勢または逆姿勢である場合には画像変換処理を行うことにより、表示画像における上下方向を正しく表示することができる。
ここで、再生モードが設定されている場合において、表示対象画像が立体視画像である場合を想定する。上述したように、立体視画像(左眼視用画像および右眼視用画像)を見る場合には、表示される立体視画像に対して、ユーザは所定の位置および姿勢で見る必要がある。このため、再生モードが設定されている場合において、上述した画像変換処理を行った場合には、立体視画像における上下方向を正しく表示することができるが、その立体視画像から立体的な視覚を得ることができなくなるおそれがある。そこで、本発明の第1の実施の形態では、再生モードが設定されている場合において、表示対象画像が立体視画像である場合には、上述した画像変換処理を行わないようにする。これにより、再生モードが設定されている場合において、立体視画像が表示される場合でも、適切な画像を表示させることができる。
[撮像装置の動作例]
次に、本発明の第1の実施の形態における撮像装置100の動作について図面を参照して説明する。
図16は、本発明の第1の実施の形態における撮像装置100による画像変換制御処理の処理手順の一例を示すフローチャートである。この例では、撮像装置100により記録された画像(平面画像(縦横変換画像および逆転画像を含む)または立体視画像)を表示させる場合における画像変換制御処理例を示す。また、この例では、ユーザ操作に基づいて表示制御部176により取得された画像について表示処理を行う場合における画像変換制御処理例を示す。
最初に、制御部174は、表示対象画像が立体視画像であるか否かを判断する(ステップS921)。例えば、画像コンテンツに含まれるメタデータ(付随情報(例えば、画像ファイルに含まれるタグ情報)に基づいて、表示対象画像が立体視画像であるか否かが判断される。表示対象画像が立体視画像である場合には(ステップS921)、画像変換制御処理の動作を終了する。一方、表示対象画像が立体視画像である場合には(ステップS921)、制御部174は、表示対象画像が縦横変換画像であるか否かを判断する(ステップS922)。例えば、画像コンテンツに含まれるメタデータ(付随情報(例えば、画像ファイルに含まれるタグ情報)に基づいて、表示対象画像が縦横変換画像であるか否かが判断される。
表示対象画像が縦横変換画像である場合には(ステップS922)、制御部174は、姿勢検出部130からの姿勢情報に基づいて、撮像装置100が縦姿勢であるか否かを判断する(ステップS923)。撮像装置100が縦姿勢でない場合には(ステップS923)、ステップS930に進む。一方、撮像装置100が縦姿勢である場合には(ステップS923)、画像変換部172が、制御部174の制御に基づいて記憶部180から表示制御部176が取得した表示対象画像(画像コンテンツ)について画像変換処理を行う(ステップS924、S925)。すなわち、画像変換部172は、縦横変換画像(表示対象画像)の水平方向における両側に付加されている所定画像(例えば、黒画像)を削除する(ステップS924)。続いて、画像変換部172は、黒画像が削除された縦横変換画像について拡大処理を行う(ステップS925)。例えば、黒画像が削除された縦横変換画像のサイズが、表示部150の表示面のサイズに合うように拡大処理が行われる。
表示対象画像が縦横変換画像でない場合には(ステップS922)、制御部174は、姿勢検出部130からの姿勢情報に基づいて、撮像装置100が縦姿勢であるか否かを判断する(ステップS926)。撮像装置100が縦姿勢でない場合には(ステップS926)、ステップS930に進む。
また、撮像装置100が縦姿勢である場合には(ステップS926)、画像変換部172が、制御部174の制御に基づいて画像変換処理を行う(ステップS927乃至S929)。すなわち、画像変換部172が、制御部174の制御に基づいて、表示制御部176が記憶部180から取得した表示対象画像(画像コンテンツ)について縦横変換処理(CCW方向に90度回転)を行う(ステップS927)。続いて、画像変換部172が、縦横変換された表示対象画像について縮小処理を行う(ステップS928)。例えば、表示対象画像の水平方向のサイズが、表示部150の表示面のサイズを超えないように縮小処理が行われる(ステップS928)。続いて、画像変換部172が、表示対象画像の垂直方向における両側に所定画像(例えば、黒画像)を付加する画像付加処理を行う(ステップS929)。すなわち、図15(b)に示すように、縮小処理が施された画像が縦長状態の入出力パネル151に表示される場合には、縮小された横長状態の表示対象画像が表示されるため、表示対象画像の上下が開いてしまう。そこで、画像変換部172は、表示対象画像の上下両側に所定画像(例えば、黒画像)を付加する。なお、黒画像を付加する代わりに、黒画像以外の表示要素(例えば、壁紙等の画像)を付加するようにしてもよい。
続いて、制御部174は、姿勢検出部130から姿勢情報に基づいて、撮像装置100が逆姿勢であるか否かを判断する(ステップS930)。撮像装置100が逆姿勢でない場合には(ステップS930)、画像変換制御処理の動作を終了する。一方、撮像装置100が逆姿勢である場合(ステップS930)、画像変換部172は、制御部174の制御に基づいて表示対象画像について回転処理を行う(ステップS931)。すなわち、画像変換部172は、表示対象画像を180°回転させる(ステップS931)。この表示対象画像は、ステップS924、S925、S927乃至S929により画像処理が行われた画像を含む。この回転処理により、表示対象画像の上下が逆転する。すなわり、撮像装置100が逆姿勢の場合には、表示対象画像をそのまま入出力パネル151に表示させると、上下が逆転してしまう。このため、表示対象画像の上下を逆転させることにより、入出力パネル151に正しい上下の画像を表示させることができる。
また、この例では、表示制御部176による表示処理の間、姿勢検出部130からの姿勢情報に基づいて撮像装置100の姿勢を判断し続け(ステップS922)、その判断された姿勢に基づいて画像変換部172を順次制御する例を示した。ただし、姿勢検出部130からの姿勢情報に基づいて、表示処理の開始時における撮像装置100の姿勢を判断し、以後もその判断結果を継続して用いるようにしてもよい。
なお、この例では、画像を表示部150に表示する例を示した。ここで、記憶部180に記憶されている画像を外部の表示装置に出力する場合については、上述した画像変換処理を行わない。すなわち、外部の表示装置は、撮像装置100の姿勢に関わらず一定の姿勢であると想定されるため、撮像装置100の姿勢にかかわらず、表示対象画像と、外部の表示装置に表示される画像との間では縦横または上下が逆転しない。このため、上述した画像変換処理を行う必要がない。
このように、本発明の第1の実施の形態では、平面画像撮像モードの設定時において、撮像時の撮像装置100が縦姿勢や逆姿勢であっても、被写体の上下とユーザの上下とが一致する画像を記録することができる。ただし、撮像装置100における入出力パネル151には、撮像部190により生成された画像をスルー画像として表示させる。これにより、被写体の上下とユーザの上下とが一致するスルー画像を表示させることができる。
また、再生モード設定時における平面画像の表示時は、撮像装置100が縦姿勢や逆姿勢であっても、被写体の上下とユーザの上下とが一致する画像を表示させることができる。
また、外部の表示装置の姿勢は撮像装置100の姿勢に影響されない。このため、外部の表示装置に画像を出力する場合には、外部の表示装置において、上述した画像変換処理をすることなく、被写体の上下とユーザの上下とが一致する画像を表示させることができる。
また、本発明の第1の実施の形態では、立体視画像撮像モードの設定時には、上述した画像変換処理を行わない。これにより、立体視画像から立体的な視覚を得ることができる画像コンテンツを適切に記録することができる。すなわち、平面画像撮像モードまたは立体視画像撮像モードの何れの撮像モードが設定されている場合でも、撮像モードに応じて適切に画像処理を行うことができ、適切な画像を記録することができる。また、再生モードの設定時において表示対象画像が立体視画像(立体視画像コンテンツ)である場合には、上述した画像変換処理を行わない。これにより、表示される立体視画像から立体的な視覚を適切に得ることができる。すなわち、平面画像撮像モードまたは立体視画像撮像モードの何れの撮像モードにより記録された画像コンテンツであっても、撮像モードに応じて適切に画像処理を行うことができ、適切な画像を表示することができる。
なお、本発明の第1の実施の形態では、撮像部190により生成された画像(画像データ)を撮像装置100の記憶部180に記憶させる例を示した。ただし、例えば、その画像(画像データ)を通信部160を介して外部の記憶装置に記憶させる場合についても、本発明の第1の実施の形態を適用することができる。
また、本発明の第1の実施の形態では、再生時において撮像装置100の記憶部180から画像(画像データ)を読み出す例を示した。ただし、例えば、再生時において、通信部160を介して外部の記憶装置から画像(画像データ)を読み出し、これを表示対象画像とする場合についても、本発明の第1の実施の形態を適用することができる。
また、本発明の第1の実施の形態では、画像コンテンツに付加されるメタデータによって、画像の種類を判断する例を示した。ただし、例えば、記憶部180に別途作成されるプロパティファイルにそのメタデータを記録させておき、そのメタデータを用いて、画像の種類を判断するようにしてもよい。
<2.変形例>
本発明の第1の実施の形態では、2つの撮像部を備える撮像装置(いわゆる、2眼式3Dカメラ)を例にして説明した。ただし、1つの撮像部により立体視画像および平面画像を生成することが可能な撮像装置(いわゆる、1眼式3Dカメラ)についても本発明の第1の実施の形態を適用するようにしてもよい。
また、本発明の実施の形態では、画像処理装置の一例として撮像装置を例にして説明した。ただし、各種画像(平面画像、立体視画像等)を扱うことが可能な携帯電話機、ナビゲーションシステム、携帯型メディアプレイヤー等の画像処理装置(例えば、撮像機能付電子機器)に本発明の実施の形態を適用することができる。
なお、本発明の実施の形態は本発明を具現化するための一例を示したものであり、本発明の実施の形態において明示したように、本発明の実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本発明の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本発明は実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
100 撮像装置
110 第1撮像部
111、121 撮像光学系
112、122 撮像素子
113、123 TG
114、115、124、125 光学部品駆動部
120 第2撮像部
130 姿勢検出部
140 操作受付部
141 電源スイッチ
142 シャッターボタン
143 操作ボタン群
144 上下左右ボタン
145 録画ボタン
150 表示部
151 入出力パネル
160 通信部
170 DSP
171 信号処理部
172 画像変換部
173 モード設定部
174 制御部
175 記録制御部
176 表示制御部
180 記憶部
190 撮像部
520、550、610、640 表示装置

Claims (17)

  1. 画像の縦横を変換する縦横変換処理を行う画像変換部と、
    撮像装置に備えられた撮像部によって立体視画像撮像モードで撮像された立体視画像については、前記画像変換部による前記縦横変換処理を行わず、前記撮像部によって平面画像撮像モードで撮像された平面画像については、前記平面画像の撮像時の前記撮像装置の姿勢に基づいて、前記画像変換部による前記縦横変換処理の有無を制御する制御部とを具備し、
    前記制御部は、前記平面画像撮像モードが設定されている場合に、動画の記録が行われるときには、前記動画の記録開始時に検出された前記撮像装置の姿勢に基づいて、当該記録開始後の当該動画についての前記画像変換部による前記縦横変換処理の有無を決定する
    画像処理装置。
  2. 前記制御部は、前記立体視画像については、前記縦横変換処理が行われていない画像を記録し、前記平面画像については、前記姿勢に基づいて、前記縦横変換処理が行われていない画像と前記縦横変換処理が行われた画像の一方を記録する請求項1記載の画像処理装置。
  3. 前記制御部は、前記立体視画像については、前記縦横変換処理が行われていない画像を外部の記憶装置に送信する制御を行い、前記平面画像については、前記姿勢に基づいて、前記縦横変換処理が行われていない画像と前記縦横変換処理が行われた画像の一方を前記外部の記憶装置に送信する制御を行う請求項1記載の画像処理装置。
  4. 前記制御部は、外部の表示装置に送信する画像に関しては、前記立体視画像か前記平面画像かに関わらず表示対象画像の前記縦横変換処理を行わない請求項1記載の画像処理装置。
  5. 前記撮像装置の姿勢を検出する姿勢検出部を備える請求項1記載の画像処理装置。
  6. 前記画像変換部は、前記縦横変換処理と合わせて前記画像を縮小する縮小処理を行う請求項1記載の画像処理装置。
  7. 画像の縦横を変換する縦横変換処理を行う画像変換部と、
    表示部への表示対象画像が立体視画像である場合には、前記画像変換部による前記縦横変換処理を行わず、前記表示対象画像が平面画像である場合には、前記表示対象画像の記録処理時に前記表示対象画像について前記縦横変換処理が行われたか否かと画像処理装置の姿勢に基づいて、前記画像変換部による前記縦横変換処理の有無を制御する制御部と
    を具備する画像処理装置。
  8. 前記制御部は、前記表示対象画像が平面画像である場合において、前記記録処理時に前記表示対象画像について前記縦横変換処理が行われた場合には、前記画像変換部による前記縦横変換処理を行わず、前記記録処理時に前記表示対象画像について前記縦横変換処理が行われていない場合には、前記画像処理装置の姿勢に基づいて、前記画像変換部による前記縦横変換処理の有無を判断する請求項7記載の画像処理装置。
  9. 前記立体視画像は、撮像時に前記縦横変換処理が行われていない画像である請求項記載の画像処理装置。
  10. 前記制御部は、前記表示対象画像が、前記平面画像か前記立体視画像かをメタデータに基づいて判断する請求項記載の画像処理装置。
  11. 前記制御部は、外部の表示装置に送信する画像に関しては、前記立体視画像か前記平面画像かに関わらず前記表示対象画像の前記縦横変換処理を行わない請求項記載の画像処理装置。
  12. 前記姿勢を検出する姿勢検出部を備える請求項記載の画像処理装置。
  13. 前記表示部を備える請求項記載の画像処理装置。
  14. 画像の縦横を変換する縦横変換処理を行う画像変換手順と、
    撮像装置に備えられた撮像部によって立体視画像撮像モードで撮像された立体視画像については、前記縦横変換処理を行わず、前記撮像部によって平面画像撮像モードで撮像された平面画像については、前記平面画像の撮像時の前記撮像装置の姿勢に基づいて、前記縦横変換処理の有無を制御する制御手順とを具備し、
    前記制御手順は、前記平面画像撮像モードが設定されている場合に、動画の記録が行われるときには、前記動画の記録開始時に検出された前記撮像装置の姿勢に基づいて、当該記録開始後の当該動画についての前記縦横変換処理の有無を決定する
    画像処理装置の制御方法。
  15. 画像の縦横を変換する縦横変換処理を行う画像変換手順と、
    表示部への表示対象画像が立体視画像である場合には、前記縦横変換処理を行わず、前記表示対象画像が平面画像である場合には、前記表示対象画像の記録処理時に前記表示対象画像について前記縦横変換処理が行われたか否かと画像処理装置の姿勢に基づいて、前記縦横変換処理の有無を制御する制御手順と
    を具備する画像処理装置の制御方法。
  16. 画像の縦横を変換する縦横変換処理を行う画像変換手順と、
    撮像装置に備えられた撮像部によって立体視画像撮像モードで撮像された立体視画像については、前記縦横変換処理を行わず、前記撮像部によって平面画像撮像モードで撮像された平面画像については、前記平面画像の撮像時の前記撮像装置の姿勢に基づいて、前記縦横変換処理の有無を制御する制御手順とをコンピュータに実行させるプログラムであって、
    前記制御手順は、前記平面画像撮像モードが設定されている場合に、動画の記録が行われるときには、前記動画の記録開始時に検出された前記撮像装置の姿勢に基づいて、当該記録開始後の当該動画についての前記縦横変換処理の有無を決定する
    プログラム。
  17. 画像の縦横を変換する縦横変換処理を行う画像変換手順と、
    表示部への表示対象画像が立体視画像である場合には、前記縦横変換処理を行わず、前記表示対象画像が平面画像である場合には、前記表示対象画像の記録処理時に前記表示対象画像について前記縦横変換処理が行われたか否かと画像処理装置の姿勢に基づいて、前記縦横変換処理の有無を制御する制御手順と
    をコンピュータに実行させるプログラム。
JP2010292027A 2010-12-28 2010-12-28 画像処理装置、その制御方法およびプログラム Expired - Fee Related JP5668466B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010292027A JP5668466B2 (ja) 2010-12-28 2010-12-28 画像処理装置、その制御方法およびプログラム
US13/329,815 US20120162381A1 (en) 2010-12-28 2011-12-19 Image processing apparatus, control method thereof, and program
CN201110446741.9A CN102572481B (zh) 2010-12-28 2011-12-28 图像处理设备及其控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010292027A JP5668466B2 (ja) 2010-12-28 2010-12-28 画像処理装置、その制御方法およびプログラム

Publications (3)

Publication Number Publication Date
JP2012142663A JP2012142663A (ja) 2012-07-26
JP2012142663A5 JP2012142663A5 (ja) 2014-01-16
JP5668466B2 true JP5668466B2 (ja) 2015-02-12

Family

ID=46316195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010292027A Expired - Fee Related JP5668466B2 (ja) 2010-12-28 2010-12-28 画像処理装置、その制御方法およびプログラム

Country Status (3)

Country Link
US (1) US20120162381A1 (ja)
JP (1) JP5668466B2 (ja)
CN (1) CN102572481B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6249788B2 (ja) * 2014-01-17 2017-12-20 オリンパス株式会社 表示機器、表示方法およびプログラム
CN107087150B (zh) * 2017-04-26 2019-05-21 成都通甲优博科技有限责任公司 一种基于双目立体和光度立体的三维摄像方法、系统及装置
JP2022015597A (ja) * 2020-07-09 2022-01-21 キヤノン株式会社 電子機器およびその制御方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3407169B2 (ja) * 1995-10-12 2003-05-19 富士写真光機株式会社 超音波画像立体表示装置及び超音波画像立体表示方法
JP2000312329A (ja) * 1999-02-26 2000-11-07 Canon Inc 画像処理装置、画像処理システム、画像処理制御方法、及び記憶媒体
US7062722B1 (en) * 2000-08-22 2006-06-13 Bruce Carlin Network-linked interactive three-dimensional composition and display of saleable objects in situ in viewer-selected scenes for purposes of promotion and procurement
US7375755B2 (en) * 2001-08-30 2008-05-20 Canon Kabushiki Kaisha Image processing apparatus and method for displaying an image and posture information
EP1345422A1 (en) * 2002-03-14 2003-09-17 Creo IL. Ltd. A device and a method for determining the orientation of an image capture apparatus
JP2004145291A (ja) * 2002-10-03 2004-05-20 Casio Comput Co Ltd 画像表示装置、画像表示方法及びプログラム
JP2005341087A (ja) * 2004-05-26 2005-12-08 Sharp Corp 動画撮像装置
JP4771671B2 (ja) * 2004-07-16 2011-09-14 シャープ株式会社 撮影装置及び撮影表示装置
JP4579613B2 (ja) * 2004-08-04 2010-11-10 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
KR100703332B1 (ko) * 2005-06-07 2007-04-03 삼성전자주식회사 휴대단말기의 동작모드 전환방법
JP2007258989A (ja) * 2006-03-22 2007-10-04 Eastman Kodak Co デジタルカメラ、構図補正装置、および、構図補正方法
JP4802077B2 (ja) * 2006-09-29 2011-10-26 富士フイルム株式会社 携帯機器
JP4730616B2 (ja) * 2006-12-01 2011-07-20 富士フイルム株式会社 複眼デジタルカメラ
JP4662071B2 (ja) * 2006-12-27 2011-03-30 富士フイルム株式会社 画像再生方法
KR101276605B1 (ko) * 2007-06-19 2013-06-19 한국전자통신연구원 스테레오스코픽 데이터의 저장 및 재생을 위한 메타데이터구조 및 이를 이용하는 스테레오스코픽 콘텐츠 파일의 저장방법
JP5383356B2 (ja) * 2009-07-08 2014-01-08 キヤノン株式会社 撮像装置、情報処理装置、撮像装置の制御方法、情報処理装置の制御方法、及びコンピュータプログラム
JP5249149B2 (ja) * 2009-07-17 2013-07-31 富士フイルム株式会社 立体画像記録装置及び方法、立体画像出力装置及び方法、並びに立体画像記録出力システム
KR20110020082A (ko) * 2009-08-21 2011-03-02 엘지전자 주식회사 이동 단말기의 제어 장치 및 그 방법

Also Published As

Publication number Publication date
CN102572481B (zh) 2017-05-24
CN102572481A (zh) 2012-07-11
US20120162381A1 (en) 2012-06-28
JP2012142663A (ja) 2012-07-26

Similar Documents

Publication Publication Date Title
US9001185B2 (en) Image processing apparatus, image processing method, and program
JP5652142B2 (ja) 撮像装置、表示制御方法およびプログラム
JP5853359B2 (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP5402612B2 (ja) 表示装置、表示方法及びプログラム
US8106991B2 (en) Image processing apparatus and image processing method
US9225966B2 (en) Imaging apparatus, controlling method thereof, and program
JP5851766B2 (ja) 携帯機器
JP2008129554A (ja) 撮像装置及びオートフォーカス制御方法
JP4236986B2 (ja) 撮影装置および方法並びにプログラム
CN102006403A (zh) 摄像装置及再生装置
JPWO2007063680A1 (ja) 撮像装置、表示制御装置、表示装置および画像表示システム
JP5995637B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、記憶媒体
JP2012054682A (ja) 画像処理装置および画像処理方法
KR20150032165A (ko) 결합하는 동영상의 동영상 선별 장치, 동영상 선별 방법 및 기억 매체
JP5322817B2 (ja) 3次元画像撮像装置及び3次元画像表示方法
US20120026381A1 (en) Digital image signal processing method, digital image signal processing apparatus and recording medium having recorded thereon the method
JP5668466B2 (ja) 画像処理装置、その制御方法およびプログラム
JP2006279291A (ja) 撮影装置
JP2009290318A (ja) 撮像装置およびズーム調整方法
JP2009094741A (ja) 撮像装置、撮像方法及びプログラム
JP2012151708A (ja) 撮像装置
JP4887461B2 (ja) 3次元画像撮像装置及び3次元画像表示方法
JP2008244805A (ja) デジタルカメラ
JP6184229B2 (ja) 表示制御装置及びその制御方法
JP2010263548A (ja) 撮像装置、その制御方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140724

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141201

LAPS Cancellation because of no payment of annual fees