JP7365133B2 - 通信装置およびその制御方法、プログラム - Google Patents

通信装置およびその制御方法、プログラム Download PDF

Info

Publication number
JP7365133B2
JP7365133B2 JP2019080471A JP2019080471A JP7365133B2 JP 7365133 B2 JP7365133 B2 JP 7365133B2 JP 2019080471 A JP2019080471 A JP 2019080471A JP 2019080471 A JP2019080471 A JP 2019080471A JP 7365133 B2 JP7365133 B2 JP 7365133B2
Authority
JP
Japan
Prior art keywords
image data
encoded
external device
image
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019080471A
Other languages
English (en)
Other versions
JP2020178292A (ja
JP2020178292A5 (ja
Inventor
篤志 福田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019080471A priority Critical patent/JP7365133B2/ja
Priority to US16/849,317 priority patent/US11336836B2/en
Publication of JP2020178292A publication Critical patent/JP2020178292A/ja
Priority to US17/718,566 priority patent/US11778336B2/en
Publication of JP2020178292A5 publication Critical patent/JP2020178292A5/ja
Application granted granted Critical
Publication of JP7365133B2 publication Critical patent/JP7365133B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85Assembly of content; Generation of multimedia applications
    • H04N21/854Content authoring
    • H04N21/85406Content authoring involving a specific file format, e.g. MP4 format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00132Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture in a digital photofinishing system, i.e. a system where digital photographic images undergo typical photofinishing processing, e.g. printing ordering
    • H04N1/00169Digital image input
    • H04N1/00172Digital image input directly from a still digital camera or from a storage medium mounted in a still digital camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00204Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a digital computer or a digital computer system, e.g. an internet server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00249Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a photographic apparatus, e.g. a photographic printer or a projector
    • H04N1/00251Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a photographic apparatus, e.g. a photographic printer or a projector with an apparatus for taking photographic images, e.g. a camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/21Intermediate information storage
    • H04N1/2104Intermediate information storage for one or a few pictures
    • H04N1/2112Intermediate information storage for one or a few pictures using still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video stream to a specific local network, e.g. a Bluetooth® network
    • H04N21/43632Adapting the video stream to a specific local network, e.g. a Bluetooth® network involving a wired protocol, e.g. IEEE 1394
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440218Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/38Transmitter circuitry for the transmission of television signals according to analogue transmission standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/91Television signal processing therefor
    • H04N5/93Regeneration of the television signal or of selected parts thereof
    • H04N5/95Time-base error compensation
    • H04N5/953Time-base error compensation by using an analogue memory, e.g. a CCD shift register, the delay of which is controlled by a voltage controlled oscillator
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Studio Devices (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、通信装置およびその制御方法、プログラムに関する。
デジタルカメラなどの撮像装置は、撮影したRAW画像から、従来のSDR(Standard Dynamic Range)画像に比べてより広いダイナミックレンジを持つHDR(High Dynamic Range)画像を生成することが可能である。RAW画像とは現像処理前の生の画像である。特許文献1には、HDRビデオのコンテンツを記録する場合には、当該コンテンツがHDRビデオであるか否かの識別情報と共に記録することが記載されている。
特開2018-7194号公報
ここで、撮像装置で撮影されたHDR画像を外部機器に転送し表示/保存を行うようなユースケースがある。外部機器で画像を保存する場合は、保存した画像データの他の利用が想定されるため、互換性の高いファイル形式で保存できることが望ましい。HDR画像をファイル形式で送信することで、外部機器で追加の処理を行わずに保存することができる。外部機器でHDR画像を表示する場合は、高いフレームレートで滑らかに表示できることが望ましい。
HDR画像をファイル形式で外部機器に送信すると、データサイズが大きくなってしまう。また、ファイル形式を解析するための追加の処理が必要になる。そのような処理時間が増加することは、滑らかな表示の妨げになる。また、HDR画像を格納するファイル形式であるHEVCは、圧縮符号化された画像データを復号するためのデコード情報を画像データに埋め込むことができない。このため、画像データだけを送信しても外部機器において復号して表示することができない。
本発明は、上記課題に鑑みてなされ、その目的は、画像データを外部機器において滑らかに表示でき、互換性の高いファイル形式で保存できるようにすることである。
上記課題を解決し、目的を達成するために、本発明の通信装置は、外部装置と接続する接続手段と、前記接続手段により接続された外部装置に画像データを送信する送信手段と、前記画像データを符号化する処理手段と、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報とともに前記画像データが符号化される場合、前記デコード情報とともに符号化された画像データを前記外部装置に送信し、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに前記画像データが符号化される場合、当該符号化された画像データを前記外部装置に送信するとともに、前記デコード情報も前記外部装置に送信するよう制御する制御手段と、を有し、前記制御手段は、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに前記画像データが符号化される場合、前記画像データのデコード情報を生成し、前記外部装置に前記画像データと前記デコード情報とを送信する。
本発明によれば、画像データを外部機器において滑らかに表示でき、互換性の高いファイル形式で保存できるようにする技術を実現することである。
本実施形態の装置の外観図。 本実施形態の装置構成を示すブロック図。 本実施形態の装置接続例を示す図。 本実施形態のライブビュー表示処理を示すフローチャート。 本実施形態の接続処理のシーケンス図。 本実施形態のライブビュー撮影処理を示すフローチャート。 本実施形態のHDR撮影処理を示すフローチャート。 実施形態におけるRAWファイルのデータ構成図。 RAWファイルにおけるImageDataのデータ構成図。 本実施形態の画像ファイル形式の例を示す図。 実施形態のホワイトバランス処理を示すフローチャート。 CxCy平面を示す図。 本実施形態の階調補正パラメータ生成処理を示すフローチャート。 階調補正量を示す図。 SDR画像およびHDR画像の見た目の例を示す図。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
[実施形態1]
以下に、本発明の撮像装置を、静止画や動画を撮影可能なデジタル一眼レフカメラに適用した実施の形態について、添付図面を参照して詳細に説明する。
<装置構成>図1及び図2を参照して、本実施形態のデジタルカメラの構成および機能について説明する。
図1(a)はデジタルカメラ100の前面斜視図、図1(b)はデジタルカメラ100の背面斜視図である。
図1において、背面表示部101は、画像や各種情報を表示する、カメラ本体の背面に設けられたLCDなどの表示デバイスである。また、背面表示部101は、静止画撮影後の静止画再生や記録中の動画表示、及びライブビュー表示機能を併せ持っている。ファインダー外表示部243は、カメラ本体の上面に設けられたLCDなどの表示デバイスであり、シャッター速度や絞りなどのカメラの様々な設定値を表示する。
シャッターボタン102は撮影指示を行うための操作部である。モード切替スイッチ103は各種モードを切り替えるためのダイヤル式の操作部である。端子カバー104は外部機器とデジタルカメラ100をUSBなどのケーブルを介して接続するためのコネクタ(不図示)を保護するカバー部材である。メイン電子ダイヤル105は図2で後述する操作部270に含まれる回転操作部材であり、このメイン電子ダイヤル105を回すことで、シャッター速度や絞りなどの設定値が変更できる。
電源スイッチ106はデジタルカメラ100の電源のオン/オフを切り替える操作部材である。サブ電子ダイヤル107も図2で後述する操作部270に含まれる回転操作部材であり、選択枠の移動や画像送りなどを行える。十字キー108も図2で後述する操作部270に含まれる移動指示部材であり、上、下、左、右からなる4方向ボタンのいずれかを押し込むことで、十字キー108の押した部分に応じた操作が可能である。
SETボタン109も図2で後述する操作部270に含まれる押しボタンであり、主に選択項目の決定などに用いられる。ライブビューボタン110も図2で述する操作部270に含まれる押しボタンであり、静止画撮影モードではライブビュー(以下、LVと表記する場合もある)表示のオン/オフを切り替え、動画記録モードでは動画撮影(記録)の開始や停止の指示に使用される。拡大ボタン111も図2で後述する操作部270に含まれる押しボタンであり、ライブビュー中における拡大表示のオン/オフ、及び拡大表示中の拡大率の変更を行うための操作部材である。また、拡大ボタン111は、再生モードでは再生画像を拡大し、拡大率を増加させるための操作部材である。縮小ボタン112も図2で後述する操作部270に含まれる押しボタンであり、拡大された再生画像の拡大率を減少させ、画面を縮小表示するための操作部材である。再生ボタン113も図2で後述する操作部270に含まれる押しボタンであり、撮影モードと再生モードとを切り替えるための操作部材である。撮影モード中に再生ボタン113を押下することで再生モードに移行し、記録媒体250に記録された画像のうち最新の画像を背面表示部101または外部機器300に表示させることができる。
クイックリターンミラー212は、図2で後述するシステム制御部201の指示に応じて、不図示のアクチュエータによってアップ位置(露光位置)又はダウン位置(ライブビュー位置)に駆動される。通信端子210はデジタルカメラ100がレンズユニット200(図2)と通信を行うための電気的接点である。覗き込み型の接眼ファインダー216はフォーカシングスクリーン213(図2)を観察することで、レンズユニット200を通じて取り込んだ被写体像の焦点や構図の確認を行うための光学部材である。蓋116はデジタルカメラ100に対して記録媒体250を着脱するためにスロットを開閉する部材である。グリップ部115は、ユーザがデジタルカメラ100を構えた際に右手で握りやすい形状を有する。
さらに、デジタルカメラ100には、図2で後述する操作部270に含まれる操作部材として、AF-ONボタン270b、クイック設定ボタン270c、アクティブ枠切替ボタン270d、メニューボタン270e、ファンクションボタン270f、インフォボタン270gがある。
次に、図2を参照して、本実施形態のデジタルカメラ100及びレンズユニット200の内部構成について説明する。図2において、図1と共通する構成には同じ符号を付して示している。
図2において、レンズユニット200は撮影レンズ207を搭載し、デジタルカメラ100に対して着脱可能である。撮影レンズ207は通常、複数枚のレンズから構成されるが、ここでは簡略して1枚のレンズのみで示している。通信端子206はレンズユニット200がデジタルカメラ100と通信を行うための電気的接点である。通信端子210はデジタルカメラ100がレンズユニット200と通信を行うための電気的接点である。レンズユニット200は、通信端子206を介してシステム制御部201と通信し、内蔵されたレンズ制御部204が絞り駆動回路202を制御して絞り205を駆動し、AF駆動回路203を制御して撮影レンズ207の位置を変位させることで焦点を合わせる。
AEセンサ217は、レンズユニット200を通じて取り込んだ被写体の輝度を測光する。焦点検出部211は、システム制御部201にデフォーカス量を出力し、システム制御部201はデフォーカス量に応じてレンズユニット200と通信し、位相差検出方式でのオートフォーカス処理に関する制御を行う。
クイックリターンミラー(以下、ミラー)212は、露光、ライブビュー表示、動画撮影の際にシステム制御部201から指示を受けて、不図示のアクチュエータによってアップ位置又はダウン位置に駆動される。クイックリターンミラー212は、撮影レンズ207から入射した光束を接眼ファインダー216又は撮像部222へ切り替える。クイックリターンミラー212は通常、光束を反射して接眼ファインダー216へ光束を導くようダウン位置に付勢されているが、露光やライブビュー表示には、撮像部222へ光束を導くように上方に跳ね上がり光束中から待避する(アップ位置)。また、クイックリターンミラー212は、光束の一部が透過して焦点検出部211に入射するように、中央部がハーフミラーとなっている。撮影者は、ペンタプリズム214と接眼ファインダー216を介して、フォーカシングスクリーン213を観察することで、レンズユニット200を通じて取り込んだ被写体像の焦点や構図の確認が可能となる。
フォーカルプレーンシャッター221は、システム制御部201の指示に応じて撮像部222での露光時間を自由に制御できる。撮像部222は被写体像を電気信号に変換するCCDやCMOS等の撮像素子で構成されたイメージセンサである。撮像部222の撮像面には、R,G,Bの各色成分のフィルタが2次元的に周期的に配置されている。隣接する2×2個のフィルタについて着目したとき、その対角関係にある2つにはG成分のフィルタが配置され、残りの2つに成分とB成分のフィルタが配置される。そして、この2×2個のフィルタが、撮像部222の撮像面に配列されている。この配列は一般にベイヤ配列と呼ばれる。それ故、撮像部222から出力される信号(アナログ信号)が表す画像も、ベイヤ配列の画素信号となる。A/D変換器223は、撮像部222から出力される1画素のアナログ信号を、例えば10ビットのデジタル信号に変換する。なお、この段階での画像データは、上記のように、1画素1成分で、1成分当たり10ビットのベイヤ配列の画像データであり、未現像の画像データである。そのため、この段階での画像データをRAW画像データという。なお、欠陥画素を補った後のベイヤ配列の画像データをRAW画像データとしてもよい。なお、本実施形態ではA/D変換器223がアナログ信号を10ビットのデジタルデータに変換するものとしているが、このビット数は8ビットを超えるビット数であればよく、特に制限はない。ビット数が多いほど、高階調表現が可能となる。
画像処理部224は、A/D変換器223からのデータ、又は、メモリ制御部215からのデータに対して所定の画素補間、縮小といったリサイズ処理や色変換処理を行う。また、画像処理部224では、撮像した画像データを用いて所定の演算処理が行われ、システム制御部201は演算結果に基づいて露光制御、測距制御を行う。これにより、TTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、EF(フラッシュプリ発光)処理が行われる。画像処理部224では更に、撮像した画像データを用いて所定の演算処理を行い、演算結果に基づいてTTL方式のAWB(オートホワイトバランス)処理も行っている。さらに、画像処理部224は、システム制御部201の制御により、画像データの圧縮符号化/復号(デコード)処理も行う。圧縮符号化処理には、JPEG(Joint Photographic Experts Group)、HEVCが含まれる。JPEGは1色成分当たり8ビットの画像データを圧縮符号化する方式であり、HEVCは1色成分当たり8ビットを超える画像データを圧縮符号化する方式である。
A/D変換器223から出力されるデジタルデータは、画像処理部224及びメモリ制御部215を介して、あるいは、メモリ制御部215を介してメモリ232に直接書き込まれる。メモリ232は、撮像部222及びA/D変換器223から得られる画像データや、背面表示部101または外部機器300に表示するための画像表示用のデータを格納する。メモリ232は、所定枚数の静止画や所定時間の動画及び音声を格納するのに十分な記憶容量を備えている。また、メモリ232は画像表示用のメモリ(ビデオメモリ)を兼ねている。
D/A変換器219は、メモリ232に格納されている画像表示用のデータをアナログ信号に変換して背面表示部101に供給する。メモリ232に書き込まれた表示用の画像データはD/A変換器219を介して背面表示部101により表示される。背面表示部101は、D/A変換器219からのアナログ信号に応じた表示を行う。このように、メモリ232に格納されたデジタル信号をアナログ信号に変換し、背面表示部101に逐次転送して表示することで、電子ビューファインダー(EVF)機能を実現し、ライブビュー表示(スルー画像表示)を行える。
ファインダー内表示部241には、ファインダー内表示部駆動回路242を介して、現在AF処理が行われている測距点(AF位置)を示す枠やカメラの設定状態を表すアイコンなどが表示される。これにより、ユーザは、接眼ファインダー216を覗くことでレンズユニット200により取り込まれた被写体像を視認できる光学ファインダー(OVF)を介して、AF位置やカメラの設定状態を確認することが可能となる。
ファインダー外表示部243には、ファインダー外表示部駆動回路244を介して、シャッター速度や絞りなどのカメラの様々な設定値が表示される。
外部出力I/F290は、メモリ232に格納されている画像表示用のデータをデジタル信号のまま外部機器300に供給する。例えば、HDMI(登録商標)(High-Definition Multimedia Interface)規格に準拠した通信プロトコルに従って、動画データをストリーム形式で出力する。こうして、メモリ232に書き込まれた表示用の画像データは外部機器300に表示される。
不揮発性メモリ256は、電気的に消去・記録可能な、例えばEEPROMなどである。不揮発性メモリ256には、システム制御部201の動作用の定数、プログラム等が記憶される。ここでいう、プログラムとは、後述する各種フローチャートを実行するためのプログラムのことである。
システム制御部201は、デジタルカメラ100全体を統括して制御するCPUやMPUを備え、不揮発性メモリ256に格納されたプログラムを実行することで、後述するフローチャートの各処理を実現する。システムメモリ252はRAMなどであり、システム制御部201の動作用の定数、変数、不揮発性メモリ256から読み出したプログラムなどを展開するワークメモリとしても使用される。また、システム制御部201は、メモリ232、D/A変換器219、背面表示部101、外部出力I/F290などを制御することにより表示制御も行う。システムタイマー253は各種制御に用いる時間や、内蔵時計の時間を計測する計時部である。
モード切替スイッチ103、第1シャッタースイッチ261、第2シャッタースイッチ262、操作部270はシステム制御部201に各種の指示を入力するための操作手段である。モード切替スイッチ103は、システム制御部201の動作モードを、静止画撮影モード、動画記録モード、再生モードのいずれかに切り替える。静止画撮影モードには、例えば、オート撮影モード、オートシーン判別モード、マニュアルモード、絞り優先モード(Avモード)、シャッター速度優先モード(Tvモード)が含まれる。また、静止画撮影モードには、例えば、撮影シーン別の撮影設定となる各種シーンモード、プログラムAEモード、カスタムモードなどが含まれる。
モード切替スイッチ103で、静止画撮影モードに含まれる複数のモードのいずれかに直接切り替える。あるいは、モード切替スイッチ103で静止画撮影モードに一旦切り替えた後に、静止画撮影モードに含まれる複数のモードのいずれかに他の操作部材を用いて切り替えるようにしてもよい。同様に、動画記録モードや再生モードにも複数のモードが含まれていてもよい。
第1シャッタースイッチ261は、デジタルカメラ100に設けられたシャッターボタン102の操作途中、いわゆる半押し(撮影準備指示)でオンとなり、第1シャッタースイッチ信号SW1を発生する。システム制御部201は、第1シャッタースイッチ信号SW1を受けて画像処理部224によって、AF処理、AE処理、AWB処理、EF処理などを開始する。
第2シャッタースイッチ262は、シャッターボタン102の操作完了、いわゆる全押し(撮影指示)でオンとなり、第2シャッタースイッチ信号SW2を発生する。システム制御部201は、第2シャッタースイッチ信号SW2により、撮像部222からの信号読み出しから記録媒体250に画像データを書き込むまでの一連の撮影処理を開始する。
操作部270は、背面表示部101や外部機器300に表示される種々の機能に関するに設定を行うための項目や設定値を示すアイテムを選択することにより、場面ごとに適宜機能が割り当てられ、各種機能ボタンとして作用する。機能ボタンとしては、例えば、メニューボタン270eや、終了ボタン、戻るボタン、画像送りボタン、ジャンプボタン、絞込みボタン、属性変更ボタンなどがある。例えば、メニューボタン270eが押されると各種の設定可能なメニュー画面が背面表示部101や外部機器300に表示される。ユーザは、背面表示部101や外部機器300に表示されたメニュー画面と、十字キー108やSETボタン109を用いて直感的に各種設定を行うことができる。
なお、本実施形態における背面表示部101はSDR画質の画像表示機能、すなわち、R,G,Bの各色成分が8ビット(256階調)で表示可能とする。また、外部機器300がデジタルカメラ100に接続された場合は、外部機器300が、背面表示部101に代わって撮像画像やライブビューの出力対象デバイスとして設定されるものとする。また、ユーザが、操作部270を操作して、背面表示部101と外部機器300のいずれに表示するかを明示的に選択した場合には、その選択した方が出力対象デバイスとなるものとする。
操作部270は、ユーザからの操作を受け付けて、システム制御部201へ通知する入力部であり、少なくとも以下の操作部材が含まれる。シャッターボタン102、メイン電子ダイヤル105、電源スイッチ106、サブ電子ダイヤル107、十字キー108、SETボタン109、ライブビューボタン110、拡大ボタン111、縮小ボタン112、再生ボタン113。十字キー108は、十字キー108における上、下、右、左の各部を押し込み可能な方向ボタンである。本実施形態では一体的な操作部として説明しているが、上ボタン、下ボタン、右ボタン、左ボタンがそれぞれ独立したボタンであってもよい。以下、上、または下部分を上下キー、左または右部分を左右キーと称する。また、操作部270には以下の操作部も含まれる。
AF-ONボタン270bは、操作部270に含まれる押しボタンスイッチであり、押下することでAFの実行を指示することができる。AF-ONボタン270bの押下方向は、レンズユニット200から撮像部222に入射する被写体光の方向(光軸)と平行である。
クイック設定ボタン270c(以下、Qボタン270c)は、操作部270に含まれる押しボタンスイッチであり、押下することで、各動作モードにおいて設定可能な設定項目の一覧であるクイック設定メニューが表示される。例えばライブビュー撮影での撮影待機中に押下されると、電子先幕シャッター、モニターの明るさ、LV画面のWB、2点拡大、無音撮影などの設定項目の一覧がLVに重畳して1列に表示される。ユーザは表示されたクイック設定メニューの内、任意の選択肢を上下キーで選択してセットボタンを押下することで、選択した設定項目に関する設定変更や動作モードへの移行を行うことができる。
アクティブ枠切替ボタン270dは、操作部270に含まれる押しボタンスイッチであり、拡大している2箇所のうち、アクティブな拡大位置(枠)を切り替えることができる。また、動作モードによって異なる機能が割り当てられており、再生モードにおいて押下すると、表示している画像にプロテクト属性を付与することができる。
メニューボタン270eは、操作部270に含まれる押しボタンスイッチであり、各種の設定が可能なメニュー画面が背面表示部101、または、外部機器300に表示される。
ファンクションボタン270fは、操作部270に含まれる3つの押しボタンスイッチであり、それぞれ機能が割り当てられている。ファンクションボタン270fのそれぞれは、グリップ部115を保持する右手の指(中指または薬指または小指)によって操作可能な位置に配置されており、押下方向はレンズユニット200から撮像部222に入射する被写体光の方向(光軸)と平行である。
インフォボタン270gは、操作部270に含まれる押しボタンスイッチであり、各種情報表示の切り替えなどに使用される。
電源制御部280は、電池検出回路、DC-DCコンバータ、通電するブロックを切り替えるスイッチ回路等により構成され、電池の装着の有無、電池の種類、電池残量の検出を行う。また、電源制御部280は、その検出結果及びシステム制御部201の指示に基づいてDC-DCコンバータを制御し、必要な電圧を必要な期間、記録媒体250を含む各部へ供給する。
電源部230は、アルカリ電池やリチウム電池等の一次電池やNiCd電池やNiMH電池、Liイオン電池等の二次電池、ACアダプタ等からなる。記録媒体I/F218は、メモリカードやハードディスク等の記録媒体250とのインターフェースである。記録媒体250は、撮影された画像を記録するためのメモリカード等の記録媒体であり、半導体メモリや磁気ディスク等から構成される。
通信部254は、無線又は有線ケーブルによって接続し、映像信号や音声信号の送受信を行う。通信部254は無線LAN(Local Area Network)やインターネットとも接続可能である。通信プロトコルは、PTP(Picture Transfer Protocol)やPTP-IP(Picture Transfer Protocol over Internet Protocol)などの画像転送プロトコルを想定しているが、既存の技術を使う想定であるため、本実施形態では特に限定しない。通信部254は撮像部222で撮像した画像(スルー画像を含む)や、記録媒体250に記録された画像ファイルを送信可能であり、また、外部機器から画像ファイルやその他の各種情報を受信することができる。
姿勢検知部255は重力方向に対するデジタルカメラ100の姿勢を検知する。姿勢検知部255で検知された姿勢に基づいて、撮像部222で撮影された画像が、デジタルカメラ100を横に構えて撮影された画像であるか、縦に構えて撮影された画像なのかを判別可能である。システム制御部201は、姿勢検知部255で検知された姿勢に応じた向き情報を撮像部222で撮像された画像の画像ファイルに付加したり、画像を回転して記録することが可能である。姿勢検知部255としては、加速度センサやジャイロセンサなどを用いることができる。
なお、操作部270の1つとして、背面表示部101に対する接触を検出可能なタッチパネル270aを有する。タッチパネル270aと背面表示部101とは一体的に構成することができる。例えば、タッチパネル270aを光の透過率が背面表示部101の表示を妨げないように構成し、背面表示部101の表示面の上層に取り付ける。そして、タッチパネル270aにおける入力座標と、背面表示部101上の表示座標とを対応付ける。これにより、あたかもユーザが背面表示部101上に表示された画面を直接的に操作可能であるかのようなGUIを構成することができる。システム制御部201はタッチパネル270aへの以下の操作、あるいは状態を検出できる。
・タッチパネル270aにタッチしていなかった指やペンが新たにタッチパネル270aにタッチしたこと。すなわち、タッチの開始(以下、タッチダウン(Touch-Down)と称する)。
・タッチパネル270aを指やペンでタッチしている状態であること(以下、タッチオン(Touch-On)と称する)。
・タッチパネル270aを指やペンでタッチしたまま移動していること(以下、タッチムーブ(Touch-Move)と称する)。
・タッチパネル270aへタッチしていた指やペンを離したこと。すなわち、タッチの終了(以下、タッチアップ(Touch-Up)と称する)。
・タッチパネル270aに何もタッチしていない状態(以下、タッチオフ(Touch-Off)と称する)。
タッチダウンが検出されると、同時にタッチオンであることも検出される。タッチダウンの後、タッチアップが検出されない限りは、通常はタッチオンが検出され続ける。タッチムーブが検出されるのもタッチオンが検出されている状態である。タッチオンが検出されていても、タッチ位置が移動していなければタッチムーブは検出されない。タッチしていた全ての指やペンがタッチアップしたことが検出された後は、タッチオフとなる。
これらの操作・状態や、タッチパネル270aa上に指やペンがタッチしている位置座標は内部バスを通じてシステム制御部201に通知される。システム制御部201は通知された情報に基づいてタッチパネル270a上にどのような操作(タッチ操作)が行われたかを判定する。タッチムーブについてはタッチパネル270a上で移動する指やペンの移動方向についても、位置座標の変化に基づいて、タッチパネル270a上の垂直成分・水平成分毎に判定できる。所定距離以上をタッチムーブしたことが検出された場合はスライド操作(ドラッグ)が行われたと判定するものとする。タッチパネル上に指をタッチしたままある程度の距離だけ素早く動かして、そのまま離すといった操作をフリックと呼ぶ。フリックは、言い換えればタッチパネル270a上を指ではじくように素早くなぞる操作である。所定距離以上を、所定速度以上でタッチムーブしたことが検出され、そのままタッチアップが検出されるとフリックが行われたと判定できる(ドラッグに続いてフリックがあったものと判定できる)。更に、複数箇所(例えば2点)を同時にタッチして、互いのタッチ位置を近づけるタッチ操作をピンチイン、互いのタッチ位置を遠ざけるタッチ操作をピンチアウトと称する。ピンチアウトとピンチインを総称してピンチ操作(あるいは単にピンチ)と称する。
タッチパネル270aは、抵抗膜方式や静電容量方式、表面弾性波方式、赤外線方式、電磁誘導方式、画像認識方式、光センサ方式等、様々な方式のタッチパネルのうちいずれの方式のものを用いてもよい。方式によって、タッチパネルに対する接触があったことでタッチがあったと検出する方式や、タッチパネルに対する指やペンの接近があったことでタッチがあったと検出する方式ものがあるが、いずれの方式でもよい。
また、撮像装置本体に限らず、有線または無線通信を介して撮像装置(ネットワークカメラを含む)と通信し、撮像装置を遠隔で制御する制御装置にも本発明を適用可能である。撮像装置を遠隔で制御する装置としては、例えば、スマートフォンやタブレットPC、デスクトップPCなどの装置がある。制御装置側で行われた操作や制御装置側で行われた処理に基づいて、制御装置側から撮像装置に各種動作や設定を行わせるコマンドを通知することにより、撮像装置を遠隔から制御可能である。また、撮像装置で撮影したライブビュー画像を有線または無線通信を介して受信して制御装置側で表示できるようにしてもよい。
なお、本実施形態においては、本発明をデジタルカメラに適用した場合を例にして説明したが、これはこの例に限定されない。すなわち、PDA(Personal Digital Assistant)、携帯電話端末や携帯型の画像ビューワ、ディスプレイを備えるプリンタ装置、デジタルフォトフレーム、音楽プレーヤ、ゲーム機、電子ブックリーダなど、表示部を備え、表示部を備え、外部機器にデータを転送可能な装置であれば、本発明は適用可能である。
<LV表示処理>次に、図3および図4を参照して、本実施形態のLV表示処理について説明する。
図3はデジタルカメラ100と外部機器300とを接続した例を示している。デジタルカメラ100と外部機器300を接続ケーブル303で接続し、デジタルカメラ100をLV撮影モードにする。デジタルカメラ100の背面表示部101に表示しているLV表示と同様の表示が、外部機器300のアプリケーションソフトウェアを介して外部機器300のディスプレイ301に表示される。
図4は、デジタルカメラ100と外部機器300を接続した場合におけるLV表示モード処理を示している。なお、図4の処理は、不揮発性メモリ256に記録されたプログラムをシステムメモリ252に展開してシステム制御部201が実行することで実現する。後述する図6でも同様である。
まず、本実施形態におけるHDR撮影モードおよびSDR撮影モードについて説明する。本実施形態のデジタルカメラ100は、ユーザからのメニュー操作などによってHDR撮影モードまたはSDR撮影モードを設定できる。これらのモードは、ユーザが最終的にHDR画質の画像データを得るかSDR画質の画像データを得るかを設定するためのモードであり、以下の処理はいずれのモードが設定されているかに応じて種々の制御が行われる。以下、HDR撮影モード及びSDR撮影モードで撮影を行うことを「HDR撮影」、「SDR撮影」と記載することもある。ただし、後述するようにRAW形式のみの記録を設定することも可能であるため、HDR撮影モードで撮影された場合に必ずHDR画像が記録されるとは限らない。
S401にて、システム制御部201は、ユーザ操作に応じた撮影モードの設定がHDR撮影モードとなっているか否かを判定する。システム制御部201は、HDR撮影モードに設定されていると判定した場合は処理をS402に進め、SDR撮影モードに設定されていると判定した場合は処理をS422に進める。
S402にて、システム制御部201は、デジタルカメラ100に外部機器300が接続されているか否かを判定する。システム制御部201は、外部機器300が接続されていると判定した場合はS403に、接続されていないと判定した場合は処理をS404に進める。
S403にて、システム制御部201は、デジタルカメラ100と外部機器300の接続処理を行う。そして、システム制御部201は処理をS404へ進める。接続処理については図5で後述する。
S404にて、システム制御部201は、撮像部222で撮像しA/D変換器223でデジタル信号に変換して得られたRAW画像データに対し、画像処理部224を用いてHDR画質の現像処理を行う。以下、HDR画質の現像処理で得た画像をHDR画像という。
なお、実施形態における、HDR画像データとは、1画素が3成分(LuvやYCbCr等)で構成され、且つ、実施形態では各成分が10ビット(1024階調)で表されるデータである。HDR画像データには、HDR画像用のガンマカーブ(例えば、ITU-Rの勧告BT.2100のPQやHLG)が適用されている。
S405にて、システム制御部201は、圧縮符号化する画像のフォーマットは画像データにデコード情報を含むか否かを判定する。デコード情報を含まないと判定した場合は処理をS406に進め、デコード情報を含むと判定した場合は処理をS409に進める。
図10(a)はImageData910にDecodeData907を含まない画像ファイルフォーマットとしてHEIF(High Efficiency Image File Format)の例を示している。画像ファイル901は、先頭にファイルタイプの記述のためのボックスftyp902、全てのメタデータを含むボックスmeta903、トラックのメディアデータ本体のボックスmdat909、その他のボックス908を有する。ボックスmeta903は子要素として、MetaData905を格納するボックスuuid904とDecodeData907を格納するボックスprop906を有する。MetaData905には、画像のメタデータが記載されており、例えば画像の作成日時、撮影時条件、HDRまたはSDRで撮影したかどうかの情報、検出メタデータ、その他の撮影情報から構成される。DecodeData907には、ImageData910をデコードするためのデータが記載されており、例えばVPS(VideoParameterSet)、SPS(SequenceParameterSet)、PPS(PictureParameterSet)等で構成される。ボックスmdat909は子要素として、撮影した画像の圧縮画像データであるImageData910を持つ。ImageData910はHEVCで圧縮符号化した画像データのみで構成されるため、DecodeData907を組み合わせなければImageData910のデコードができないことになる。本実施形態では、画像ファイル901の全体ではなく、DecodeData907とImageData910のみを送信することで、外部機器300での表示を高速化することができる。
図10(b)はImageData928にDecodeData929を含む画像ファイルフォーマットとしてJPEGの例を示している。画像ファイル921は、データの開始を表すマーカーSOI(Start Of Image)922を有する。量子化テーブルを格納するためのマーカーDQT(Define Quantization Table)923、ハフマンテーブルを格納するためのマーカーDHT(Define Huffman Table)924を有する。フレームに関するパラメータを格納するためのマーカーSOF(Start Of Frame)925、コンポーネントに関するパラメータを格納するためのマーカーSOS(Start Of Scan)926を有する。データの終了を表すマーカーEOI(End Of Image)927を有する。画像ファイル921は、ImageData928をデコードするためのDecodeData929を含み、外部機器300に送信して、デコード、表示を行うことができる。
図4に戻り、S406にて、システム制御部201は、画像処理部224によりHDR画像をHEVC形式に圧縮符号化し、ImageData910を生成し、メモリ232に出力する。この場合、ImageData910を表示するために必要なデコード情報は、ImageData910とは別のデータDecodeData907としてメモリ232に出力されている。
S407にて、システム制御部201は、ImageData910とDecodeData907を外部出力I/F290を介して外部機器300に送信する。外部機器300はデジタルカメラ100から受信したデータを使用して表示用の画像を生成し、外部機器300のディスプレイ301に表示する。
S409にて、システム制御部201は、画像処理部224によりHDR画像をJPEG形式に圧縮符号化し、ImageData928を生成し、メモリ232に出力する。この場合、ImageData928を表示するために必要なデコード情報は、DecodeData929としてImageData928に埋め込まれている。
S410にて、システム制御部201は、DecodeData929を含むImageData928を外部出力I/F290を介して外部機器300に送信する。
S411にて、システム制御部201は、外部機器300がデジタルカメラ100に接続されているか否かを判定する。システム制御部201は、外部機器300が接続されていると判定した場合は処理をS412に進め、接続されていないと判定した場合は処理をS413に進める。
S412にて、システム制御部201は、デジタルカメラ100と外部機器300の接続処理を行い、処理をS413へ進める。接続処理については図5で後述する。
S413にて、システム制御部201は、撮像部222で撮像し、A/D変換器223でデジタル信号に変換した画像を画像処理部224でSDR画質(1画素3成分で、1成分当たり8ビット(256階調))に現像し、処理をS405に進める。なお、以降、SDR画質の現像処理後の画像をSDR画像という。ここで、S413におけるSDR画質の画像データ(SDR画像データ)とは、1成分当たり8ビットの画像データをいう。SDR画質の画像データには、SDR画像用のガンマカーブ(例えば、sRGB規格のガンマカーブ)が適用されている。なお、sRGB規格のガンマカーブは、一般的には暗部が直線で明部が2.4のべき乗のカーブであるが、簡易的には2.2のべき乗のカーブを用いてもよい。
S414にて、システム制御部201は、LVモードの終了指示があったか否かを判定し、LVモードの終了指示がないと判定した場合は処理をS401に戻し、終了指示があったと判定した場合は本処理を終了する。
なお、図4のS405の判定処理に加えて、後述する図6のLV撮影処理におけるS606の判定処理を行ってもよい。
図5は、デジタルカメラ100と外部機器300が接続された場合の、デジタルカメラ100と外部機器300の通信手順を示している。ここでは、デジタルカメラ100と外部機器300がUSBインターフェースを介して接続されているものとして説明する。
S501では、外部機器300は、接続ケーブル303のVBUS信号線(不図示)からVBUS信号の送信を開始する。デジタルカメラ100の外部出力I/F290は、送信されたVBUS信号を、接続ケーブル303を介して受信する。外部出力I/F290は、VBUS信号を受信すると、システム制御部201にVBUS信号の受信を通知する。
S502にて、システム制御部201は、VBUSの通知によって外部機器300からの接続応答を検知し、処理をS503へ進める。
S503、S504にて、システム制御部201は、外部出力I/F290を制御して、外部機器300とエニュメレーション処理を行い、PTP(Picture Transfer Protocol)による接続を完了する。
S505にて、外部機器300は、デジタルカメラ100に対して画像の取得要求を行う。
S506にて、システム制御部201は、図4で説明した処理を行い、送信する画像を生成する。
S508にて、外部機器300はデジタルカメラ100から受信した画像を表示する。S505からS508を繰り返すことで、LV表示のような時間的に連続した画像の表示を行うことができる。
このように、本実施形態のデジタルカメラ100は、画像データ(ImageData910、928)にデコード情報(DecodeData907、929)を含むか否かに応じて、外部機器300に送信するデータを切り替えることが可能となる。
<LV撮影処理>次に、図6を参照して、本実施形態のLV撮影処理について説明する。なお、以下では、図4と同一の処理を行うものについては、同一の符号を付して説明を省略する。
図4のLV表示処理は、デジタルカメラ100で撮影された画像を外部機器300でLV表示する処理であるのに対し、図6のLV撮影処理は、デジタルカメラ100で撮影され、記録され画像を外部機器300で表示または保存する処理である。
S601にて、システム制御部201は、第1シャッタースイッチ信号SW1を受信しているか否かに基づき、シャッターボタン102が半押し状態か否かを判定する。システム制御部201は、シャッターボタン102が半押しされていないと判定した場合は処理をS401に進め、半押し状態であると判定した場合は処理をS602に進める。
S602にて、システム制御部201は、図2で説明したAF/AE処理を行い、S603に進む。
S603にて、システム制御部201は、第2シャッタースイッチ信号SW2を受信しているか否かに基づき、シャッターボタン102が全押し状態か否かを判定し、全押し状態でないと判定した場合は処理をS604に進め、全押し状態であると判定した場合は処理をS605に進める。
S604にて、システム制御部201は、シャッターボタン102が半押し状態が保持されているかを判定し、半押し状態が保持されていれば処理をS602に戻し、半押し状態が保持されていないと判定した場合は処理をS401に戻す。
S605にて、システム制御部201は、HDR撮影処理を行い、記録媒体250に予め設定した記録形式に応じた画像ファイルを記録する。図10(a)は、記録されるファイルのデータ構造を示している。なお、HDR撮影処理については図7で後述する。そして、システム制御部201は処理をS606に進める。
S606にて、システム制御部201は、S605で生成した画像ファイル901が外部機器300で保存されるのか表示されるのかを判定する。システム制御部201は、外部機器300で表示すると判定した場合は処理をS607に進め、保存すると判定した場合は処理をS609に進める。外部機器300がデジタルカメラ100から受信した画像ファイルを保存するか否かは、デジタルカメラ100が外部機器300から画像表示要求や画像保存要求を受信することで判定される。
S607にて、システム制御部201は、ImageData910とDecodeData907を外部出力I/F290を介して外部機器300に送信する。外部機器300はデジタルカメラ100から受信したデータを使用して表示用の画像を生成し、外部機器300のディスプレイ301に表示する。本実施形態では、画像ファイル901の全体ではなく、DecodeData907とImageData910のみを送信することで、外部機器300での表示の高速化を実現している。
S609にて、システム制御部201は、S605で生成した画像ファイル901を外部出力I/F290を介して外部機器300に送信する。外部機器300はデジタルカメラ100から受信した画像ファイルを外部機器300の記憶装置302に保存する。本実施形態では、ファイル形式で画像ファイル901を送信することで、外部機器300は互換性が高い画像ファイルを保存することができる。
S611にて、システム制御部201は、シャッターボタン102が半押し状態か否かを判定し、半押し状態にないと判定した場合は処理をS401に進め、半押し状態であると判定した場合は処理をS612に進める。
S612にて、システム制御部201は、図2で説明したAF/AE処理を行い、S432に進める。
S613にて、システム制御部201は、第2シャッタースイッチ信号SW2を受信したか否かに基づき、シャッターボタン102が全押し状態か否かを判定する。システム制御部201は、全押し状態でないと判定した場合は処理をS612に進め、全押し状態であると判定した場合は処理をS615に進める。
S614にて、システム制御部201は、第1シャッタースイッチ信号SW1を受信したか否かに基づき、シャッターボタン102が半押し状態が保持されているか否かを判定する。システム制御部201は、半押し状態が保持されていると判定した場合は処理をS612に戻し、半押し状態が保持されていないと判定した場合は処理をS414に進める
S615にて、システム制御部201は、SDR撮影処理を行い、S606に進む。SDR撮影処理では、システム制御部201は、SDR撮影で得たRAW画像データをSDR画質で現像処理し、SDR画像をJPEG圧縮符号化してJPEG画像データを生成し、JPEG形式のファイルとして記録媒体250に記録する。図10(b)は、記録されるファイルのデータ構造を示している。
SDR画像の場合は、S606にて、システム制御部201は、S615で生成した画像ファイルを外部機器300で保存するか表示するかにかかわらず、S609にて外部機器300に送信する。外部機器300はデジタルカメラ100から受信したJPEG画像データを記憶装置302に記憶、または、デコードしてディスプレイ301に表示する。
このように、デジタルカメラ100は、圧縮符号化された画像ファイル901が外部機器300において表示する対象となっているか保存する対象となっているかに応じて、外部機器300に送信するデータを切り替えることが可能である。
なお、図4のLV表示処理におけるS405の判定処理と、図6のLV撮影処理におけるS606の判定処理とを組み合わせてもよい。この場合、S606で外部機器300がデジタルカメラ100から受信したHDR画像またはSDR画像を表示すると判定された場合に、図4のS405の判定を行い、S406~S409の処理を行えばよい。
<HDR撮影処理>次に、図7を参照して、図6のS605におけるHDR撮影処理について説明する。
HDR撮影処理は、メモリ232に書き込まれたRAWデータを画像処理部224におおいてHDR画質で現像処理を行う。
デジタルカメラやデジタルビデオカメラ等の撮像装置は、撮影時の光源に応じて撮影画像の色調を補正するホワイトバランス機能を備えている。ホワイトバランス機能は、光源(晴天や曇天等の自然光源、蛍光灯や白熱灯等の人工光源)によって変わる色調の違いを補正し、光源に関わらず白さが同じに見えるようにする機能である。S701~S703において、ホワイトバランス処理に必要なホワイトバランス係数が算出されることになる。また、本実施形態では、空などの高輝度領域の階調をなるべく白飛びさせないよう、人物などの明るさが適正となる露出よりも低い露出で撮影するものとする。
S701にて、システム制御部201は、メモリ制御部215を介して、RAW画像データを取得する。
S702にて、システム制御部201は、ホワイトバランス係数を算出するために取得したRAW画像データに対して白らしい画素を判定する、白サーチ枠内判定処理を行う。
S703にて、システム制御部201は、白サーチ枠内判定結果に基づいてホワイトバランス用係数を算出する。
S702、S703の処理の詳細について図11のフローチャートを用いて説明する。
RAW画像データは、前述したように、1つの画素はR,G,Bのいずれか1つの成分の信号しか有さない。白サーチを行うため、システム制御部201は、色信号に変換する必要があるためデベイヤ処理S1101を行い、1画素につきR,G,Bの全チャンネルの信号を生成する。デベイヤの方法は幾つかあるが、例えばローパスフィルターによる線形補間で信号生成できる。RAW画像データは一般的にノイズによる影響があるため光学的黒(Optical Black)は、0ではなく値を持っている。よってシステム制御部201は、デベイヤ後の信号からOB分を減算する処理(S1102)を行う。そして、システム制御部201は、取得したRGB信号から色信号Cx、Cyを式1により算出する(S1103)。
(式1)
Cx={(R+G2)-(R+G1)}/Yi
Cy={(R+B)-(G1+G2)}/Yi
Yi=(R+G1+G2+B)/4
G1,G2は、ベイヤ配列の2×2画素における2つのG成分値である。また、Cxは色温度を表し、Cyは緑方向補正量を表している。また、Yiは輝度値である。
図12に、Cx-Cy平面を示す。図12に示すように、撮像装置において予め白色を高色温度下(例えば日中など)から低色温度下(例えば日暮れ時など)まで撮影し、色評価値Cx、Cyを座標上にプロットすることで、白色を検出するための基準となる白軸1200を定めることができる。実際の光源において白色には若干のばらつきが存在するため、システム制御部201は、白軸1200の両側に或る程度の幅を持たせる(S1104)。この白軸に幅を持たせた枠を白サーチ枠1201と呼ぶ。
S1105にて、システム制御部201は、デベイヤ後の各画素についてCx-Cy座標系にプロットし、白サーチ枠内に入っているかどうかを判定する。S1106にて、システム制御部201は、白サーチ枠内に入った画素の中で、積分対象とする画素を輝度方向で制限する明暗除外処理を行う。これは暗すぎる色はノイズの影響を受けやすくなるのでホワイトバランス係数の算出精度が低下してしまうことを防ぐために行う。同様に明るすぎる色は各チャンネルのいずれかがセンサ飽和することでR/GもしくはB/G比のバランスが崩れ正しい色から離れていってしまいホワイトバランス係数の算出精度が低下してしまうことを防ぐために行う。このとき、SDRとHDRでは明暗除外処理の対象とする画素の輝度を異ならせる。つまり、SDRとHDRとで後述するホワイトバランス係数の算出に用いる画素を異ならせる。これはSDRに比べてHDRの方が高輝度域の再現性が高いことによる。本実施形態では、SDRでは明度側が例えば+1EVまでの明るさまで対象とするのに対して、HDRでは+2EVまでの明るさまで対象とすることでよりHDRに最適化されたホワイトバランス係数を算出することが可能となる。
S1107にて、システム制御部201は、白サーチ枠内でかつ明暗除外処理のなされたCx、Cyからそれぞれの色評価値の積分値SumR、SumG、SumBを算出する。そして、S1108にて、システム制御部201は、算出した積分値から、式2によりホワイトバランス係数WBCoR、WBCoG、WBCoBを算出する。
(式2)
WBCoR=(SumY×1024)/SumR
WBCoG=(SumY×1024)/SumG
WBCoB=(SumY×1024)/SumB
SumY=(SumR+2×SumG+SumB)/4
式2における右辺の“1024”は、1色成分が10ビット精度となっているためである。
なお、ホワイトバランス係数はユーザによって設定されている撮影モード(SDR撮影もしくはHDR撮影)用の値を算出してもよいし、SDR用、HDR用の両方を算出してもよい。
図7の説明に戻り、S704~S706において、システム制御部201は、階調補正処理に必要な階調補正テーブルを算出する。階調補正の詳細を図13のフローチャートを用いて説明する。
S1321にて、システム制御部201は、図7のS701~S703の処理で生成したWB係数を用いてWB処理を行う。S1322にて、システム制御部201は、ヒストグラム検出を行う。具体的には、S1321で得られたホワイトバランスのゲイン値を画像データ全体に適用し、さらにガンマ補正処理を行った画素値について、輝度情報としてヒストグラムを作成する。ガンマ補正処理は公知のルックアップテーブルを用いる方法でよいが、現像で用いるものと同じガンマ特性を用いることが好ましい。ただし、処理時間やメモリ量の節約のために、折れ線で近似したガンマ特性など、簡略化したガンマ特性を用いてもよい。なお、画像の端の部分は、一般に重要でないことが多く、また撮像レンズによっては周辺光量の低下の影響を受ける部分であるため、周縁部の画素を除いてヒストグラムを作成してもよい。
S1323にて、システム制御部201は、顔検出前処理を行う。これは画像データに対して縮小処理、ガンマ処理等を施して、顔を容易に検出しやすいようにする処理である。S1324にて、システム制御部201は、前処理した画像データに対し、公知の方法を用いて顔検出処理を実行する。この顔検出処理により、顔と思われる領域(顔領域)の位置とサイズ、検出の信頼度とが得られる。
S1325にて、システム制御部201は、露出補正量(低下量)を補うための階調補正量(階調補正量(A))を第1の階調補正量として算出する。この際、画像の暗部については適正露出になるようにする一方、予め定めた輝度レベル以上の高輝度画素については補正されない(少なくとも、露出補正量を完全には補わない)、入出力特性の階調補正量を算出する。これにより、階調補正後の明部が白トビすることをさらに抑制することができる。この階調補正量は、露出補正量に応じた複数の補正テーブルとして予め用意しておくことができる。
S1326にて、システム制御部201は、S1324の顔検出処理により検出された顔領域のうち、信頼度が予め設定した評価閾値より高い顔領域がある場合に、顔が検出されたと判定する。システム制御部201は、顔が検出されたと判定した場合は処理をS1327に進め、顔が検出されなかったと判定した場合は処理をS1331に進める。
S1327にて、システム制御部201は、検出された顔領域の一部の領域を、顔輝度取得領域として算出する。顔輝度取得領域は、顔の明るい部分の輝度を取得するための領域であり、その数や位置などに関して特に制限はない。S1328にて、システム制御部201は、顔輝度取得領域の各々について、含まれるR画素、G画素、B画素の種類ごとに平均値を求める。さらにシステム制御部201は、RGB画素の各平均値に対し、ヒストグラム検出と同様にしてホワイトバランスのゲイン値を適用し、ガンマ補正を行った後、式3により輝度値Yに変換する。
(式3)
Y=0.299×R+0.587×G+0.114×B
なお、ヒストグラム検出および顔検出において適用するホワイトバランスのゲイン値は、同一画像データに対してWB処理で使用したゲイン値を用いることが好ましい。輝度ガンマも、理想的には現像と同じものを用いるのが好ましいが、処理時間やメモリ量の節約のために、折れ線で近似したガンマ特性など、簡略化したガンマ特性を用いてもよい。
S1329にて、システム制御部201は、S1328で顔輝度取得領域の各々について求めた輝度値を、適正露出時を想定した値に変換する。これは、画像データが、適正露出よりも低い露出で撮像されていることから、適正露出で撮像した場合よりも顔の輝度が低く検出されることを補正する処理である。輝度値の変換は、露出制御が決定した露出補正量(低下量)を補償するように行ってもよいし、S1325で算出した階調補正量を用いて行ってもよい。
S1330にて、システム制御部201は、検出された顔の輝度の代表値を算出する。代表値としては例えば検出されている顔領域の顔輝度取得領域の各々の輝度値の中から最大値を求めるなどが考えられる
S1331の処理は、S1326にてシステム制御部201が顔領域が検出されなかったと判定した場合の処理である。S1331にて、システム制御部201は、ヒストグラム特徴量を検出する。ヒストグラム特徴量は例えば、ヒストグラムで暗部側から累積度数が1%である画素が属するレベル(SD)、明部側から累積度数が1%である画素が属するレベル(HL)等であってよい。続くS1332にて、システム制御部201は、S1331で算出したヒストグラム特徴量を、適正露出での撮像を想定した値に変換する。これは、画像データが、適正露出よりも低い露出で撮像されていることから、適正露出で撮像した場合よりもヒストグラム特徴量が低く検出されることを補正する処理である。輝度値の変換は、露出制御が決定した露出補正量(低下量)を補償するように行ってもよいし、S1325で算出した階調補正量を用いて行ってもよい。
S1333にて、システム制御部201は、目標の補正量の算出を行う。システム制御部201は、顔の代表輝度値、もしくはヒストグラム特徴量に対する目標輝度レベルを求める。そして、システム制御部201は、これらの目標輝度レベルと、画像データ中の輝度の最小値と最大値とから、スプライン補間などにより、入力輝度レベルに対する出力輝度レベルを定めたルックアップテーブル(入出力特性)を、階調補正量(B)として作成する。階調補正量(B)は、第2の階調補正量である。
ここで、HDRはSDRと目標の階調補正量を変えてもよい。例えば、図15(a)はSDR画像の見た目、図15(b)はHDR画像の見た目を示している。被写体(人物)の輝度値はいずれも同じ値であるが、背景についてSDRでは高くても100cd/mが上限であるのに対して、HDRでは100cd/mを超えた値となる。その結果、被写体の輝度値は同じであっても、HDRの方が暗く感じる場合がある。これは明度対比と言って、人間の視覚特性に起因する現象である。例えば図15(a)と図15(b)では被写体の輝度は同じであるが、被写体の輝度と背景の輝度の差は、図15(a)よりも図15(b)の方が大きい。このような場合、ユーザは図15(a)よりも図15(b)の方が被写体を暗く感じてしまう。つまり、HDRは空などの高輝度域をより明るく表現することが可能であるため、SDRに比べて被写体が暗く見えてしまう可能性が高い。そこで、本実施形態では、SDRの場合は図14(a)に示すような階調特性を用いるのに対し、HDRの場合は図14(b)で示すような階調特性を用いて、より暗部を持ち上げる階調補正量を適用することで、見た目として好ましい結果にすることができる。なお、本実施形態の階調補正は露出の不足を補うための補正を例としたが、画作りのための明るさ補正においても同様の階調補正を行うことができる。
顔の代表輝度値や画像データのヒストグラム特徴量に対する目標輝度レベルは、経験的に好ましいと考えられる固定値に設定することが可能であるが、代表輝度値やヒストグラム特徴量の値に応じて異なる目標輝度レベルを設定してもよい。この場合、目標輝度レベルを設定するパラメータ(代表輝度値やヒストグラム特徴量)毎に、入力レベルに対する目標輝度レベルの関係を定めたルックアップテーブルを用意しておけばよい。
このようにして定めた目標輝度レベルへの変換を実現するための補正特性を、スプライン補間などの方法によって求め、必要であれば階調補正量(B)を適用するルックアップテーブル(又は関係式)として保存する。
S1334にて、システム制御部201は、S1325で算出した階調補正量(A)と、S1333で算出した階調補正量(B)を合成する。システム制御部201は、例えば各入力輝度レベルに対して、まず階調補正量(A)を適用した後に、補正後の輝度レベルに対して階調補正量(B)を適用した結果の輝度値を求め、各入力輝度レベルに対する出力輝度レベルのルックアップテーブルを作成する。
S1335にて、システム制御部201は、S1334で求めた合成補正量(合成階調補正量)の上限値を制限する処理(リミッター処理)を行う。階調補正量(A)と階調補正量(B)を合成することで、補正量が大きくなり、補正後の画像においてノイズ量が目立ちやすくなるため、全体の補正量に制限を設ける。リミッター処理は、各輝度値において許容する最大の補正量をテーブルとして用意しておき、S1334で作成したルックアップテーブルの値のうち、最大補正量を超える出力レベルを最大補正量に対応する出力レベルに置換することで実現できる。尚、階調補正量はユーザによって設定されている撮影モード(SDR撮影もしくはHDR撮影)用の値を算出してもよいし、SDR用、HDR用の両方を算出してもよい。
図7の説明に戻り、S707にて、システム制御部201は、算出したホワイトバランス係数、階調補正用パラメータおよび種々のHDR用のパラメータを用いて現像する。その他の現像パラメータとして、色マトリクス、カメラOETFカーブデータ、色調整パラメータ、ノイズリダクションパラメータ、シャープネスパラメータなどを用いてHDR現像画像を生成する。カメラOETF(ガンマカーブ)としては、例えばITU-Rの勧告BT.2100のPQ(Perceptual Quantization)のEOTF(Electro-Optical Transfer Function)の逆特性を想定しているが、カメラ側の味付けをOOTF(Opto-Optical Transfer Function)として組み合わせてもよい。もしくは同じくITU-Rの勧告BT.2100のHLG(Hybrid Log-Gamma)のOETFを使用しても構わない。
S708にて、システム制御部201は、S707で現像した画像からリサイズして2画面比較画像用などの簡易表示用としてMPF(Multi Picture Format)用画像を生成し、HEVCで圧縮符号化する。
S709にて、システム制御部201は、S708で生成したMPF画像をさらにリサイズしてインデックス表示などに用いるサムネイル画像を生成、圧縮する。
S710にて、システム制御部201は、本画像としてS707で現像したHDR画像を圧縮する。圧縮する方法はいろいろ考えられるが例えば、10bitのYUV422のデータであればH.265(ISO/IEC 23008-2 HEVC)で圧縮すればよい。
S711にて、システム制御部201は、システム制御部201は、ユーザにより記録画質設定を判定する。システム制御部201は、RAW画像のみが記録される設定であると判定した場合は処理をS712に進め、HDR画像のみが記録される設定であると判定した場合は処理をS713に進め、RAW画像及びHDR画像が記録される設定であると判定した場合は処理をS714に進める。
S712にて、システム制御部201は、RAW画像を圧縮してヘッダを付加して図8のような構造のRAW画像ファイルとして、記録媒体I/F218を介して記録媒体250に記録される。圧縮方式としては幾つか考えられるが劣化のない可逆であるロスレス圧縮や、非可逆ではあるがファイルサイズが軽くなるロッシー圧縮などを用いればよい。またヘッダには、検出メタデータとしてS1105で求めたホワイトバランスの白サーチ枠内判定結果とS704で求めたヒストグラムおよびS705で求めた顔検出結果を記録する。ここで検出される白サーチ枠内判定結果は、S1106における明暗除外処理を行う前の判定結果である。したがって、HDR撮影でもSDR撮影でも同じ判定結果が記録されることになる。また、ユーザによりHDR撮影モードとなっていた場合は、図11の処理で求めたホワイトバランス係数や図13で求めた階調補正量といったHDR用の現像パラメータ、S708でHDR現像した画像データからHEVCで符号化して生成した表示用のMPF用画像もメタデータとして図9(b)のように併せて記録する。上述したようにこれらのデータはHDR撮影かSDR撮影かで内容が異なる。なお、SDR撮影であれば、上述したSDR用の白サーチ枠内判定や階調特性を用いた場合の現像パラメータが記録される。なお、HDR撮影時であっても、SDR用にS702~S706の処理を行い、SDR用の現像パラメータも生成して両方を記録しても構わない。なお、HDR、SDR両方の現像パラメータを生成するのは処理負荷が大きいため、連写時などには行わず、単写時など比較的処理負荷に余裕がある場合に行うようにしてもよい。
また単写など処理負荷に余裕がある時はHDR用の表示用画像とは別に、SDR用の現像パラメータを用いてSDR画質の本画像、MPF用画像、サムネイル用画像を作成し、HDR用の表示用画像とSDR用の表示用画像を同じファイルに記録しても構わない(図9(c))。
また、サムネイルを表示する際は、画像が小さいのでどのような画像かが分かれば十分であるため、S709で作成するサムネイル用画像のみSDR現像画像で作成し保存しても構わない(図9(d))。このような構成にすることで、HDRの圧縮方式であるH.265のデコードに対応していない表示装置やPCでもサムネイル画像のみ表示することも可能になる。
S713にて、システム制御部201は、現像したHDR画像をHEVCで圧縮符号化して静的メタデータもしくは動的メタデータを付加し、HIEF(High Efficiency Image File Format)形式のファイルとして、記録媒体I/F218を介して記録媒体250に記録する。静的メタデータとしては、CEA-861.3に準拠したディスプレイの3原色および白色点のx,y座標、マスタリングディスプレイの最大輝度値、最小輝度値、コンテンツ最大輝度値(Maximum Content Light Level)、フレーム平均輝度レベル(Maximum Frame-average Light Level)などである。また、動的メタデータとしては、SMPTE ST 2094で定義されているカラーボリューム変換の動的トーンマッピングのメタデータなどである。尚、HDR特性をPQ信号で表すには10bit以上の深度であることが好ましいが従来のJPEGフォーマットならば8bitであるため新たに静止画HDR用のコンテナを採用する必要がある。ここでは、MPEG(Moving Picture Experts Group)によって開発され、MPEG-H Part12(ISO/IEC 23008-12)で定義された画像ファイルフォーマットであるHEIFのコンテナを使用する。HEIFは本画像だけでなく、サムネイルや複数の時間的に関連ある画像やEXIFやXMPといったメタデータも1つのファイルの中に格納することができる。よって、HEVCで圧縮符号化された10bitのイメージシーケンスも格納できるため使い回しがよい。
S714及びS715では、S712及びS713の処理を順次行い、RAW画像とHDR画像の両方を記録する。
図8は上述した記録処理において記録媒体250に記録されるRAW画像ファイルのデータ構造を示している。以下で例示するファイル形式はISO/IEC14496-12で規定されているISOベースメディアファイルフォーマットである。このファイルフォーマットは木構造を持ち、ボックスと呼ばれる各ノードを持っている。また、各ボックスは複数のボックスを子要素として持つことができる。
RAW画像ファイル801は先頭にファイルタイプの記述のためのボックスftyp802、全てのメタデータを含むボックスmoov803、トラックのメディアデータ本体のボックスmdat808、その他のボックス807を有する。ボックスmoov803は子要素として、MetaData805を格納するボックスuuid804とImageDataを参照する情報を格納するボックスtrak806を有する。MetaData805には、画像のメタデータが記載されており、例えば画像の作成日時、撮影時条件、HDRまたはSDRで撮影した情報、前述した検出メタデータ、その他の撮影情報から構成される。ボックスmdat808は子要素として、撮影した静止画像データであるImageData809を持つ。
なお、SDRで撮影したRAW画像ファイルと、HDRで撮影したRAW画像ファイルとでは、ImageData809に記録される画像データが異なる。
図9(a)はSDRで撮影したRAW画像ファイルに記録されるImageData809を示している。この場合のImageData809は、SDR画質現像しJPEG圧縮したTHM画像821、MPF画像822、本画像823とRAW画像824及び、RAW現像パラメータ825を持つ。各SDR画質の画像は、その1色成分が8ビット(256階調)の画像である。なお、図9(a)のRAW現像パラメータ825は、少なくともSDR現像用の現像パラメータを含む。
図9(b)はHDRで撮影時にHDR画像のみ表示用画像として持つRAW画像ファイルに記録されるImageData809である。この場合のImageData809は、HDR画質現像しHEVC圧縮したTHM画像826、MPF画像827、本画像828とRAW画像824及び、RAW現像パラメータ825を持つ。各HDR画質の画像は、1色成分が10ビット(1024階調)の画像である。図9(b)、(c)、(d)のRAW現像パラメータ825は、少なくともHDR現像用の現像パラメータを含む。
図9(c)はHDRで撮影時にHDR画像とSDR画像の両方を表示用画像として持つRAW画像ファイルに記録されるImageData809である。この場合のImageData809は、SDR画質現像しJPEG圧縮したTHM画像821、MPF画像822、本画像823とHDR画質現像しHEVC圧縮したTHM画像826、MPF画像827、本画像828とRAW画像824及び、RAW現像パラメータ825を持つ。
図9(d)はHDRで撮影時にTHM画像のみSDR画像で、MPFと本画像はHDR画像の表示用画像として持つRAW画像ファイルに記録されるImageData809である。この場合のImageData809は、SDR画質現像しJPEG圧縮したTHM画像821とHDR画質現像しHEVC圧縮したMPF画像827、本画像828とRAW画像824及び、RAW現像パラメータ825を持つ。
本実施形態で示したファイル形式は一例であり、必要に応じて他のボックスを有してもよい。また、表示用画像をmoov803のボックスや、その他のボックス807に持つ構成としてもよい。
上記のようなファイルフォーマットを有することにより、SDRで撮影されたRAW画像ファイルにはSDR画像用の現像パラメータが記録され、HDRで撮影されたRAW画像ファイルにはHDR画像用の現像パラメータが記録される。このようにすることで、後からRAW現像を行う場合も、撮影時の設定を反映した現像パラメータで現像を行うことが可能となる。例えばRAW現像を行う装置(デジタルカメラ100でもよいし、PCなどの他の装置でもよい)は、RAW画像ファイルのMetaData805を参照し、HDRで撮影したか、SDRで撮影したかを判定する。そして、HDRで撮影したと判定した場合は、RAW画像データをファイルに含まれるHDR画像用の現像パラメータを用いてHDR画像として現像する。また、SDRで撮影したと判定した場合は、RAW画像データをファイルに含まれるSDR画像用の現像パラメータを用いてSDR画像として現像する。このような処理を可能とするために、本実施形態のデジタルカメラ100は、SDRで撮影されたRAW画像ファイルにはSDR画像用の現像パラメータを記録し、HDRで撮影されたRAW画像ファイルにはHDR画像用の現像パラメータを記録している。なお、RAW現像を行う装置は、前述したHEIFのコンテナを使用して現像した静止画HDR画像を記録するようにすればよい。
さらに、検出メタデータとしてHDR撮影でもSDR撮影でも同じ判定結果を記録することとしたため、HDR撮影モードで撮影されたRAW画像ファイルであっても、記録された検出データを用いてSDR画像に現像することも可能となる。したがって、SDR画像にしか対応していない装置でも、HDR撮影モードで撮影されたRAW画像ファイルを適切に表示することが可能となる。
[他の実施形態]
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、上述した実施形態では、1色成分が8ビットを超える画像データの符号化にHEVC(High Efficiency Video Coding)を採用するものとしたが、1色成分当たり8ビットを超える画像を符号化することが可能であれば、特にその種類は問わない。また、上記実施形態ではデジタルカメラに適用するものとして説明したが、撮像機能を有するコンピュータ(スマートフォンやカメラ付きノートPC等)に適用しても構わず、上記実施形態に限定されるものではない。また、上記実施形態では外部機器との接続をUSB接続で説明したが、他の接続形態(無線接続等)に適用しても構わず、上記実施形態に限定されるものではない。
また、本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
100…デジタルカメラ、101…背面表示部、201…システム制御部、254…通信部、290…外部出力I/F、300…外部機器、301…ディスプレイ、302…記憶装置

Claims (12)

  1. 外部装置と接続する接続手段と、
    前記接続手段により接続された外部装置に画像データを送信する送信手段と、
    前記画像データを符号化する処理手段と、
    前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報とともに前記画像データが符号化される場合、前記デコード情報とともに符号化された画像データを前記外部装置に送信し、
    前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに前記画像データが符号化される場合、当該符号化された画像データを前記外部装置に送信するとともに、前記デコード情報も前記外部装置に送信するよう制御する制御手段と、を有し、
    前記制御手段は、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに前記画像データが符号化される場合、前記画像データのデコード情報を生成し、前記外部装置に前記画像データと前記デコード情報とを送信することを特徴とする通信装置。
  2. 外部装置と接続する接続手段と、
    前記接続手段により接続された外部装置に画像データを送信する送信手段と、
    前記画像データを所定の形式で符号化する処理手段と、
    前記画像データが前記外部装置において表示される対象であるか保存される対象であるかを判定する判定手段と、
    前記判定の結果に応じて、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに符号化された前記画像データを前記外部装置に送信するとともに、当該画像データを復号するためのデコード情報も前記外部装置に送信する処理と、前記画像データが符号化される際に用いられる符号化形式によって、前記デコード情報とともに符号化された前記画像データを前記外部装置に送信する処理とを切り替える制御手段と、を有し、
    前記制御手段は、前記画像データが前記外部装置において表示される対象である場合、前記画像データのデコード情報を生成し、当該デコード情報を伴わずに符号化された前記画像データを前記外部装置に送信するとともに、前記デコード情報も前記外部装置に送信することを特徴とする通信装置。
  3. 前記画像データが符号化される際に用いられる符号化形式によって、前記デコード情報とともに符号化された画像データの符号化形式は、JPEG(Joint Photographic Experts Group)であることを特徴とする請求項1または2に記載の通信装置。
  4. 前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに符号化された画像データの符号化形式はHEVC(High Efficiency Video Coding)であることを特徴とする請求項1からのいずれか1項に記載の通信装置。
  5. 前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに符号化された画像データは、HEIF(High Efficiency Image File Format)ファイルに格納されることを特徴とする請求項1からのいずれか1項に記載の通信装置。
  6. 前記HEIF(High Efficiency Image File Format)ファイルは、該ファイルに含まれる画像データを復号するためのデコード情報を含むことを特徴とする請求項に記載の通信装置。
  7. 前記外部装置との画像転送プロトコルは、PTP(Picture Transfer Protocol)またはPTP-IP(Picture Transfer Protocol over Internet Protocol)を含むことを特徴とする請求項1からのいずれか1項に記載の通信装置。
  8. 前記画像データはHDR(High Dynamic Range)撮影された画像データまたはSDR(Standard Dynamic Range)撮影された画像データであり、
    前記外部装置は、前記HDR撮影された画像を表示可能な装置であることを特徴とする請求項1からのいずれか1項に記載の通信装置。
  9. SDR記録モードとHDR記録モードとを有する撮像手段をさらに有し、
    前記SDR記録モードで撮影して得られる画像データは、当該画像データが符号化される際に用いられる符号化形式によって、前記デコード情報とともに符号化され、
    前記HDR記録モードで撮影して得られる画像データは、当該画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに符号化されることを特徴とする請求項1からのいずれか1項に記載の通信装置。
  10. 接続手段により接続された外部装置に画像データを送信する送信手段と、前記画像データを符号化する処理手段と、を有する通信装置の制御方法であって、
    前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報とともに前記画像データが符号化される場合、前記デコード情報とともに符号化された前記画像データを前記外部装置に送信するステップと、
    前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに前記画像データが符号化される場合、当該符号化された画像データを前記外部装置に送信するとともに、前記デコード情報も前記外部装置に送信するよう制御するステップと、を有し、
    前記制御するステップでは、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに前記画像データが符号化される場合、前記画像データのデコード情報を生成し、前記外部装置に前記画像データと前記デコード情報とを送信することを特徴とする通信装置の制御方法。
  11. 接続手段により接続された外部装置に画像データを送信する送信手段と、前記画像データを所定の形式で符号化する処理手段と、を有する通信装置の制御方法であって、
    前記画像データが前記外部装置において表示される対象であるか保存される対象であるかを判定するステップと、
    前記判定の結果に応じて、前記画像データが符号化される際に用いられる符号化形式によって、当該画像データを復号するためのデコード情報を伴わずに符号化された前記画像データを前記外部装置に送信するとともに、当該前記画像データを復号するためのデコード情報も前記外部装置に送信する処理と、当該画像データが符号化される際に用いられる符号化形式によって、前記デコード情報とともに符号化された前記画像データを前記外部装置に送信する処理とを切り替えるステップと、を有し、
    前記切り替えるステップでは、前記画像データが前記外部装置において表示される対象である場合、前記画像データのデコード情報を生成し、当該デコード情報を伴わずに符号化された前記画像データを前記外部装置に送信するとともに、前記デコード情報も前記外部装置に送信することを特徴とする通信装置の制御方法。
  12. コンピュータを、請求項1からのいずれか1項に記載された通信装置として機能させるためのプログラム。
JP2019080471A 2019-04-19 2019-04-19 通信装置およびその制御方法、プログラム Active JP7365133B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2019080471A JP7365133B2 (ja) 2019-04-19 2019-04-19 通信装置およびその制御方法、プログラム
US16/849,317 US11336836B2 (en) 2019-04-19 2020-04-15 Image capturing apparatus and control method thereof
US17/718,566 US11778336B2 (en) 2019-04-19 2022-04-12 Image capturing apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019080471A JP7365133B2 (ja) 2019-04-19 2019-04-19 通信装置およびその制御方法、プログラム

Publications (3)

Publication Number Publication Date
JP2020178292A JP2020178292A (ja) 2020-10-29
JP2020178292A5 JP2020178292A5 (ja) 2022-04-27
JP7365133B2 true JP7365133B2 (ja) 2023-10-19

Family

ID=72832139

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019080471A Active JP7365133B2 (ja) 2019-04-19 2019-04-19 通信装置およびその制御方法、プログラム

Country Status (2)

Country Link
US (2) US11336836B2 (ja)
JP (1) JP7365133B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2021020142A1 (ja) * 2019-07-30 2021-02-04
JP7451162B2 (ja) * 2019-12-13 2024-03-18 キヤノン株式会社 撮像装置
JP7475187B2 (ja) * 2020-04-15 2024-04-26 キヤノン株式会社 表示制御装置および方法、プログラム、記憶媒体
CN114938418A (zh) * 2021-02-04 2022-08-23 佳能株式会社 具有视线检测功能的取景器单元、摄像设备和附接配件
US20230176377A1 (en) 2021-12-06 2023-06-08 Facebook Technologies, Llc Directional illuminator and display apparatus with switchable diffuser
JP2023098173A (ja) * 2021-12-28 2023-07-10 キヤノン株式会社 撮像装置、制御方法、及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014178286A1 (ja) 2013-04-30 2014-11-06 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
WO2018092711A1 (ja) 2016-11-17 2018-05-24 パナソニックIpマネジメント株式会社 画像処理装置、画像処理方法、およびプログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6618271B2 (ja) * 2015-05-01 2019-12-11 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置
JP6647162B2 (ja) 2016-07-08 2020-02-14 三菱電機株式会社 映像記録装置、映像再生装置、記録方法、及び再生方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014178286A1 (ja) 2013-04-30 2014-11-06 ソニー株式会社 送信装置、送信方法、受信装置および受信方法
WO2018092711A1 (ja) 2016-11-17 2018-05-24 パナソニックIpマネジメント株式会社 画像処理装置、画像処理方法、およびプログラム

Also Published As

Publication number Publication date
US20220239823A1 (en) 2022-07-28
US11336836B2 (en) 2022-05-17
JP2020178292A (ja) 2020-10-29
US20200336645A1 (en) 2020-10-22
US11778336B2 (en) 2023-10-03

Similar Documents

Publication Publication Date Title
JP7365133B2 (ja) 通信装置およびその制御方法、プログラム
US11750934B2 (en) Imaging apparatus, image processing apparatus, control method of these, and storage medium
US10972674B2 (en) Electronic apparatus
JP7313893B2 (ja) 撮像装置及び記録制御方法及びプログラム
US11438523B2 (en) Display control apparatus, display control method, and a non-transitory computer-readable medium
JP2006262451A (ja) 画像記録装置及び方法
JP2024015185A (ja) 撮像装置及びその制御方法及びプログラム
JP2014107837A (ja) 撮像装置、画像処理装置、及び制御方法
US11165970B2 (en) Image processing apparatus, imaging apparatus, image processing method, and non-transitory computer readable medium
JP6765919B2 (ja) 画像処理装置、その制御方法、プログラム
US11871124B2 (en) Image capturing apparatus, method of controlling the same, and non-transitory computer-readable storage medium
JP2020141334A (ja) 撮像装置及びその制御方法及びプログラム
JP2018207418A (ja) 撮像装置
JP2018078492A (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、記憶媒体
JP2016181798A (ja) 撮像装置及びその制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230313

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230327

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231006

R151 Written notification of patent or utility model registration

Ref document number: 7365133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151