JP2022190118A - 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、撮影装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP2022190118A
JP2022190118A JP2022176987A JP2022176987A JP2022190118A JP 2022190118 A JP2022190118 A JP 2022190118A JP 2022176987 A JP2022176987 A JP 2022176987A JP 2022176987 A JP2022176987 A JP 2022176987A JP 2022190118 A JP2022190118 A JP 2022190118A
Authority
JP
Japan
Prior art keywords
moving image
range
image
unit
shooting mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022176987A
Other languages
English (en)
Other versions
JP7498756B2 (ja
Inventor
幸徳 西山
Yukinori Nishiyama
哲 和田
Satoru Wada
康一 田中
Koichi Tanaka
哲也 藤川
Tetsuya Fujikawa
健吉 林
Kenkichi Hayashi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JP2022190118A publication Critical patent/JP2022190118A/ja
Priority to JP2024088878A priority Critical patent/JP2024103668A/ja
Application granted granted Critical
Publication of JP7498756B2 publication Critical patent/JP7498756B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/782Television signal recording using magnetic recording on tape
    • H04N5/783Adaptations for reproducing at a rate different from the recording rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

Figure 2022190118000001
【課題】撮影条件が異なる第1動画撮影モード及び第2動画撮影モードに応じて、各動画撮影モードにより撮影される動画に対して好適な圧縮処理を行う画像処理装置、撮影装置、画像処理方法及び画像処理プログラムを提供する。
【解決手段】画像処理方法において、撮影条件が異なる第1動画撮影モードと第2動画撮影モードとでは、動画を圧縮する場合に適用される量子化パラメータのとり得る範囲を異ならせる。第1動画撮影モードの場合、第1範囲内で量子化パラメータを決定し、第2動画撮影モードの場合、第1範囲よりも狭い第2範囲内で量子化パラメータを決定する。特に第2範囲の第2上限値は、第1範囲の第1上限値よりも小さくし、第2範囲の第2下限値は第1範囲の第1下限値よりも大きくする。
【選択図】図8

Description

本発明は画像処理装置、撮影装置、画像処理方法及び画像処理プログラムに係り、特に動画の圧縮技術に関する。
近年、被写体の一瞬のシーンを捉えるために、静止画抽出用の動画を撮影する動画撮影モードを有する撮影装置が提案されている(特許文献1)。
特許文献1に記載の静止画抽出用の動画は、例えば、通常の動画と比べて1フレームの露光時間が短く設定されたものである。
ところで、動画のデータ量は膨大であるため、動画を記録する場合には、例えば、MPEG(Moving Picture Experts Group)符号化方式等により動画を圧縮して記録している。
動画を圧縮する場合、動画の圧縮率を高くすると、画質が低下し、一方、圧縮率を低くすると、ビットレート(単位時間当たりに転送又は処理するビット数)が高くなり、装置の処理能力を超えるという問題がある。
そこで、動画の過去のフレームの画像データの量子化後の発生符号量に応じて量子化パラメータ(QP:Quantization Parameter)値を制御し、発生符号量が大きくなると、Q
P値を大きく(圧縮率を高く)してビットレートが処理能力を超えないように制限し、発生符号量が小さくなると、QP値を小さく(圧縮率を低く)して高画質化を図っている。
特許文献2には、処理する画像が静止画から動画に切り替わった直後における画質の劣化を回避することが可能な画像処理装置が提案されている。この画像処理装置は、処理する画像が静止画から動画に切り替わった直後に発生し得る、発生符号量が予め設定された下限値以下になる場合、その発生符号量を下限値に制限している。
即ち、圧縮処理する画像が静止画であることにより実際の発生符号量がゼロ又はそれに近い場合であっても、ある程度の符号量(下限値)が発生したものとみなし、これにより、圧縮処理する画像が静止画から動画に切り替わった時点において、QP値が過度に小さく設定されないようにしている。その結果、圧縮処理する画像が静止画から動画に切り替わった直後において、QP値が過度に小さく設定される領域と過度に大きく設定される領域とが繰り返されるという事態が発生せず、静止画から動画に切り替わった時点の動画の画質の劣化を回避するようにしている。
特開2016-32303号公報 特開2013-187634号公報
特許文献2に記載の画像処理装置は、静止画のフレームと動画のフレームとが混在する入力画像に対して圧縮処理するものであり、静止画抽出用の動画を圧縮処理するものではない。
また、静止画抽出用の動画を圧縮処理の対象とする場合、動画の任意のフレームが静止画として抽出される可能性があるため、動画の全てのフレームに対して一定の画質(静止画として要求される画質)を保つ必要があるが、特許文献2には、静止画抽出用の動画を圧縮処理する記載がなく、動画の全てのフレームに対して一定の画質を保つための圧縮処理を行っていない。
動画として鑑賞される通常の動画の場合、動画全体の画質を考慮して圧縮処理の最適化が行われるため、動画の1枚のフレームを静止画として抽出する用途に対して、QP値が大き過ぎる調整がされる可能性があり、静止画としての画質が得られないという問題がある。
本発明はこのような事情に鑑みてなされたもので、撮影条件が異なる第1動画撮影モード及び第2動画撮影モードに応じて、各動画撮影モードにより撮影される動画に対して好適な圧縮処理を行うことができる画像処理装置、撮影装置、画像処理方法及び画像処理プログラムを提供することを目的とする。
上記目的を達成するために一の態様に係る発明は、第1動画撮影モード、又は第1動画撮影モードとは撮影条件が異なる第2動画撮影モードに基づいて撮影された動画を取得する動画取得部と、動画取得部で取得した動画を構成するフレームの画像データの量子化パラメータを決定し、画像データを圧縮する圧縮処理部と、を備える画像処理装置であって、圧縮処理部は、第1動画撮影モードの場合、第1範囲内で量子化パラメータを決定し、第2動画撮影モードの場合、第2範囲内で量子化パラメータを決定し、第2範囲の第2上限値は第1範囲の第1上限値よりも小さく、第2範囲の第2下限値は第1範囲の第1下限値よりも大きい。
本発明の一の態様によれば、第1動画撮影モードと第2動画撮影モードとでは、動画を圧縮する場合に適用される量子化パラメータのとり得る範囲を異ならせ、第1動画撮影モードの場合、第1範囲内で量子化パラメータを決定し、第2動画撮影モードの場合、第1範囲よりも狭い第2範囲内で量子化パラメータを決定する。特に第2範囲の第2上限値は第1範囲の第1上限値よりも小さくし、第2範囲の第2下限値は第1範囲の第1下限値よりも大きくすることで、第2動画撮影モードにより撮影される動画に対する圧縮処理は、第1動画撮影モードにより撮影される動画に対する圧縮処理に比べて、動画の全てのフレームに対して一定の画質を保ちつつ、ビットレートが過大にならないように圧縮処理を行うことができる。
本発明の他の態様に係る画像処理装置において、第2範囲は、フレームレートの設定値に応じて設定されることが好ましい。
本発明の更に他の態様に係る画像処理装置において、第2範囲は、外部からの指示を入力する指示入力部からの入力に応じて設定されることが好ましい。
本発明の更に他の態様に係る画像処理装置において、動画取得部で取得した動画のシーンを判別するシーン判別部を備え、第2範囲は、シーン判別部により判別されるシーンに応じて設定されることが好ましい。スポーツシーンのように被写体の動きが多いシーンでは、よりビットレートが過大にならないように第2下限値を、動きの少ない他のモードに比べて大きくする態様が考えられる。
本発明の更に他の態様に係る画像処理装置において、圧縮処理部は、MPEG符号化方式により動画を圧縮することが好ましい。MPEG符号化方式は、動画を圧縮する代表的な符号化方式であり、MPEG-2、MPEG-4、及びH.264/AVC等を含む。
本発明の更に他の態様に係る画像処理装置において、圧縮処理部は、動画の過去のフレームの画像データの量子化後の発生符号量に応じて量子化パラメータを決定することが好ましい。
本発明の更に他の態様に係る画像処理装置において、第2動画撮影モードは、第1動画撮影モードに対してシャッタスピード、オートフォーカスの速度、自動露出の追従速度、ホワイトバランスの追従速度及びフレームレートの少なくとも1つが高速に設定されることが好ましい。
本発明の更に他の態様に係る撮影装置は、上記の画像処理装置と、第1動画撮影モード、又は第2動画撮影モードに基づいて動画を撮影する動画撮影部と、を備え、動画取得部は、動画撮影部により撮影された動画を取得する。
更に他の態様に係る発明は、第1動画撮影モード、又は第1動画撮影モードとは撮影条件が異なる第2動画撮影モードに基づいて撮影された動画を取得する動画取得ステップと、動画取得ステップで取得した動画を構成するフレームの画像データの量子化パラメータを決定し、画像データを圧縮する圧縮処理ステップと、を含む画像処理方法であって、圧縮処理ステップは、第1動画撮影モードの場合、第1範囲内で量子化パラメータを決定し、第2動画撮影モードの場合、第2範囲内で量子化パラメータを決定し、第2範囲の第2上限値は第1範囲の第1上限値よりも小さく、第2範囲の第2下限値は第1範囲の第1下限値よりも大きい。
本発明の更に他の態様に係る画像処理方法において、第2範囲は、フレームレートの設定値に応じて設定されることが好ましい。
本発明の更に他の態様に係る画像処理方法において、第2範囲は、外部からの指示を入力する指示入力部からの入力に応じて設定されることが好ましい。
本発明の更に他の態様に係る画像処理方法において、動画取得ステップで取得した動画のシーンを判別するステップを含み、第2範囲は、判別されたシーンに応じて設定されることが好ましい。
本発明の更に他の態様に係る画像処理方法において、圧縮処理ステップは、MPEG符号化方式により動画を圧縮することが好ましい。
本発明の更に他の態様に係る画像処理方法において、圧縮処理ステップは、動画の過去のフレームの画像データの量子化後の発生符号量に応じて量子化パラメータを決定することが好ましい。
本発明の更に他の態様に係る画像処理方法において、第2動画撮影モードは、第1動画撮影モードに対してシャッタスピード、オートフォーカスの速度、自動露出の追従速度、ホワイトバランスの追従速度及びフレームレートの少なくとも1つが高速に設定されることが好ましい。
更に他の態様に係る発明は、第1動画撮影モード、又は第1動画撮影モードとは撮影条件が異なる第2動画撮影モードに基づいて撮影された動画を取得する動画取得機能と、動画取得機能で取得した動画を構成するフレームの画像データの量子化パラメータを決定し、画像データを圧縮する圧縮処理機能と、をコンピュータに実現させる画像処理プログラムであって、圧縮処理機能は、第1動画撮影モードの場合、第1範囲内で量子化パラメータを決定し、第2動画撮影モードの場合、第2範囲内で量子化パラメータを決定し、第2範囲の第2上限値は第1範囲の第1上限値よりも小さく、第2範囲の第2下限値は第1範囲の第1下限値よりも大きい。
本発明によれば、撮影条件が異なる第1動画撮影モード及び第2動画撮影モードに応じて、各動画撮影モードにより撮影される動画に対して好適な圧縮処理を行うことができ、特に第2動画撮影モードにより撮影される動画に対する圧縮処理は、第1動画撮影モードにより撮影される動画に対する圧縮処理に比べて、動画の全てのフレームに対して一定の画質を保ちつつ、ビットレートが過大にならないように圧縮処理を行うことができる。
図1は本発明に係る撮影装置を斜め前方から見た斜視図である。 図2は撮影装置の背面図である。 図3は撮影装置の内部構成の実施形態を示すブロック図である。 図4は本発明に係る画像処理装置の第1実施形態を示すブロック図である。 図5は通常の動画を圧縮処理する際の過去のフレームの画像データの量子化後の発生符号量の変化と、QP値との関係を示す模式図である。 図6は静止画抽出用の動画を圧縮処理する際の過去のフレームの画像データの量子化後の発生符号量の変化と、QP値との関係を示す模式図である。 図7は本発明に係る画像処理装置の第2実施形態を示すブロック図である。 図8は本発明に係る画像処理方法の実施形態を示すフローチャートである。 図9は本発明に係る撮影装置の一実施形態であるスマートフォンの外観図である。 図10はスマートフォンの構成を示すブロック図である。
以下、添付図面にしたがって本発明に係る画像処理装置、撮影装置、画像処理方法及び画像処理プログラムの好ましい実施形態について説明する。
<撮影装置の外観>
図1は、本発明に係る撮影装置を斜め前方から見た斜視図であり、図2は撮影装置の背面図である。
図1に示すように撮影装置10は、交換レンズ100と、交換レンズ100が着脱可能なカメラ本体200とから構成されたミラーレスのデジタル一眼カメラである。
図1において、カメラ本体200の前面には、交換レンズ100が装着される本体マウント260と、光学ファインダのファインダ窓20等が設けられ、カメラ本体200の上面には、主としてシャッタレリーズスイッチ22、シャッタスピードダイヤル23、露出補正ダイヤル24、電源レバー25、及び内蔵フラッシュ30が設けられている。
また、図2に示すようにカメラ本体200の背面には、主として液晶モニタ216、光学ファインダの接眼部26、MENU/OKキー27、十字キー28、再生ボタン29等が設けられている。
液晶モニタ216は、撮影モード時にライブビュー画像を表示したり、再生モード時に撮影した画像を再生表示する他、各種のメニュー画面を表示する表示部として機能し、またユーザに対して各種の情報を通知する通知部として機能する。MENU/OKキー27は、液晶モニタ216の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。十字キー28は、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするマルチファンクションキーとして機能する。また、十字キー28の上キー及び下キーは撮影時のズームスイッチあるいは再生モード時の再生ズームスイッチとして機能し、左キー及び右キーは再生モード時のコマ送り(順方向及び逆方向送り)ボタンとして機能する。また、液晶モニタ216に表示された複数の被写体から焦点調節を行う任意の被写体を指定する操作部としても機能する。
また、MENU/OKキー27、十字キー28、及び液晶モニタ216は、各種の撮影モードを選択する撮影モード選択部として機能するとともに、シーン選択部(シーン判別部)として機能する。
即ち、MENU/OKキー27を操作し、液晶モニタ216にメニュー画面を表示させ、そのメニュー画面を使用することで、1枚の静止画を撮影する静止画撮影モードの他に動画を撮影する動画撮影モードを設定することができる。また、動画撮影モードには、第1動画撮影モードと、第1動画撮影モードとは撮影条件が異なる第2動画撮影モードとがある。
第2動画撮影モードでは、第1動画撮影モードと撮影条件が異なる動画(動画自体の鑑賞よりも静止画の抽出を重視した撮影条件の動画)を撮影する。具体的には、第2動画撮影モードでは、第1動画撮影モードに対してシャッタスピード、オートフォーカスの速度、自動露出の追従速度、ホワイトバランスの追従速度のうち少なくとも1つが高速に設定され、かつ/または第1動画撮影モードに対してフレームレートが高く設定される。また、解像度及びフレームレートは撮影装置10で設定可能な最高値(例えば4,000×2,000画素、30fps(フレーム/秒))に設定され、色調も静止画抽出を前提として設定される。ISO感度の上限も第1動画撮影モードより高くする。
例えば、シャッタスピードに関しては、第1動画撮影モードでは記録する動画のフレームレートに対応した値(フレームレートが30fpsの場合、1/30秒)に設定されるが、第2動画モードではフレーム間隔よりも高速(例えば、1/30秒未満)に設定される。第1動画撮影モードでは、滑らかな動画が再生されるようにシャッタスピードが動画のフレームレートに対応した値に設定されるが、この場合、動く被写体に対してはブレが生じる可能性がある。このため、第2動画撮影モードでは、シャッタスピードを第1画撮影モードよりも高速(フレーム間隔よりも高速)に設定しており、これにより被写体のブレが少ない、高画質な静止画を抽出することが可能になる。同様に、ISO感度の上限を高くすることでシャッタスピードを高速化でき、これによりブレが少ない静止画を抽出することができる。また、オートフォーカスの速度,自動露出の追従速度やオートホワイトバランスの追従速度等が第1動画撮影モードよりも高速に設定されることで、被写体に合焦したフレーム、露出が適正なフレーム等を多く取得することができる。フレームレートについても、高レートに設定することで動画のフレーム間隔が短くなり、静止画として抽出できるフレームが増加する。尚、フレームレートの設定値(30fps,60fps等)は、MENU/OKキー27、十字キー28等を使用して設定することができる。
上述した第2動画撮影モードによれば、動画を記憶しておき動画を構成するフレームを静止画として抽出することができるので、ユーザはいつ発生するか分からないイベント(自然現象やアクシデント、ハプニング等)の写真、時間の経過と共に状態が変化する被写体や動きのある被写体の瞬間的な状態の写真等を容易に撮影することができる。この際、静止画の記録を指示したタイミングだけでなく、その他のタイミングについても静止画を抽出できるので、ユーザは所望のタイミングの静止画を取得することができる。また、静止画抽出に適した撮影条件(上述したシャッタスピード、解像度、フレームレート等)を設定することにより高画質の静止画を抽出することができる。
また、MENU/OKキー27を操作し、液晶モニタ216にメニュー画面を表示させ、そのメニュー画面を使用することで、撮影シーンを選択することができる。撮影シーンには、風景、夜景、夕焼け、マクロ、人物、動体、スポーツなどの撮影シーンがあり、これらの撮影シーンのうちの何れかの撮影シーンを手動又は自動で選択又は判定し、カメラに設定することができる。尚、カメラに設定される撮影シーンに応じてその撮影シーンに最適な撮影条件が設定される。
再生ボタン29は、記録した静止画又は動画を液晶モニタ216に表示させる再生モードに切り替えるためのボタンである。
<撮影装置の内部構成>
[交換レンズ]
図3は、撮影装置10の内部構成の実施形態を示すブロック図である。
撮影装置10を構成する撮影光学系として機能する交換レンズ100は、カメラ本体200の通信規格に沿って製造されたものであり、後述するようにカメラ本体200との間で通信を行うことができる交換レンズである。この交換レンズ100は、撮影光学系102、フォーカスレンズ制御部116、絞り制御部118、レンズ側CPU(Central Processing Unit)120、フラッシュROM(Read Only Memory)126、レンズ側通信部150、及びレンズマウント160を備える。
交換レンズ100の撮影光学系102は、フォーカスレンズを含むレンズ群104及び絞り108を含む。
フォーカスレンズ制御部116は、レンズ側CPU120からの指令にしたがってフォーカスレンズを移動させ、フォーカスレンズの位置(合焦位置)を制御する。絞り制御部118は、レンズ側CPU120からの指令にしたがって絞り108を制御する。
レンズ側CPU120は、交換レンズ100を統括制御するもので、ROM124及びRAM(Random Access Memory)122を内蔵している。
フラッシュROM126は、カメラ本体200からダウンロードされたプログラム等を格納する不揮発性のメモリである。
レンズ側CPU120は、ROM124又はフラッシュROM126に格納された制御プログラムに従い、RAM122を作業領域として、交換レンズ100の各部を統括制御する。
レンズ側通信部150は、レンズマウント160がカメラ本体200の本体マウント260に装着されている状態で、レンズマウント160に設けられた複数の信号端子(レンズ側信号端子)を介してカメラ本体200との通信を行う。即ち、レンズ側通信部150は、レンズ側CPU120の指令にしたがって、レンズマウント160及び本体マウント260を介して接続されたカメラ本体200の本体側通信部250との間で、リクエスト信号、回答信号の送受信(双方向通信)を行い、撮影光学系102の各光学部材のレンズ情報(フォーカスレンズの位置情報、焦点距離情報及び絞り情報等)を、カメラ本体200に通知する。
また、交換レンズ100は、フォーカスレンズの位置情報、及び絞り情報を検出する検出部(図示せず)を備えている。ここで、絞り情報とは、絞り108の絞り値(F値)、絞り108の開口径等を示す情報である。
レンズ側CPU120は、カメラ本体200からのレンズ情報のリクエストに応えるために、検出されたフォーカスレンズの位置情報及び絞り情報を含む各種のレンズ情報をRAM122に保持することが好ましい。また、レンズ情報は、カメラ本体200からのレンズ情報の要求があると検出され、又は光学部材が駆動されるときに検出され、又は一定の周期(動画のフレーム周期よりも十分に短い周期)で検出され、検出結果を保持することができる。
[カメラ本体]
図3に示す撮影装置10を構成するカメラ本体200は、イメージセンサ201、イメージセンサ制御部202、アナログ信号処理部203、A/D(Analog/Digital)変換器204、画像入力コントローラ205、デジタル信号処理部206、RAM207、圧縮伸張処理部208、メディア制御部210、メモリカード212、表示制御部214、液晶モニタ216、本体側CPU220、操作部222、時計部224、フラッシュROM226、ROM228、AF(Autofocus)制御部230、AE(Auto Exposure)制御部232、ホワイトバランス補正部234、無線通信部236、GPS(Global Positioning System)受信部238、電源制御部240、バッテリ242、本体側通信部250、本体マウント260、内蔵フラッシュ30(図1)を構成するフラッシュ発光部270、フラッシュ制御部272、フォーカルプレーンシャッタ(FPS:focal-plane shutter)280、及びFPS制御部296を備える。
イメージセンサ201は、CMOS(Complementary Metal-Oxide Semiconductor)型のカラーイメージセンサにより構成されている。尚、イメージセンサ201は、CMOS型に限らず、XYアドレス型、又はCCD(Charge Coupled Device)型のイメージセンサ
でもよい。
イメージセンサ201の各画素には、赤(R)、緑(G)、青(B)の3原色のカラーフィルタ(Rフィルタ、Gフィルタ、Bフィルタ)のうちのいずれか1色のカラーフィルタが、所定のカラーフィルタ配列にしたがって配置されている。カラーフィルタ配列は、一般的なベイヤー配列とすることできるが、これに限定されるものではなく、例えば、Trans(登録商標)配列等の他のカラーフィルタ配列でもよい。
さて、交換レンズ100の撮影光学系102によってイメージセンサ201の受光面に結像された被写体の光学像は、イメージセンサ201によって電気信号に変換される。イメージセンサ201の各画素には、入射する光量に応じた電荷が蓄積され、イメージセンサ201からは各画素に蓄積された電荷量(信号電荷)に応じた電気信号が画像信号として読み出される。
イメージセンサ制御部202は、本体側CPU220の指令にしたがってイメージセンサ201から画像信号の読み出し制御を行う。また、イメージセンサ制御部202は、静止画の撮影が行われる場合には、FPS280の開閉により露光時間が制御された後、FPS280が閉じた状態でイメージセンサ201の全ラインを読み出す。また、本例のイメージセンサ201及びイメージセンサ制御部202は、少なくとも1つ以上のライン毎や画素毎に順次露光動作を行う(即ち、ライン毎や画素毎に順次リセットを行い、電荷の蓄積を開始し、蓄積した電荷を読み出す方式である)、いわゆるローリングシャッタ方式にて駆動することができ、特にFPS280を開放した状態でローリングシャッタ方式にて動画の撮影、又はライブビュー画像の撮影を行う機能を有する。
アナログ信号処理部203は、イメージセンサ201で被写体を撮影して得られたアナログの画像信号に対して、各種のアナログ信号処理を施す。アナログ信号処理部203は、サンプリングホールド回路、色分離回路、AGC(Automatic Gain Control)回路等を含んで構成されている。AGC回路は、撮影時の感度(ISO感度(ISO:International Organization for Standardization))を調整する感度調整部として機能し、入力する画像信号を増幅する増幅器のゲインを調整し、画像信号の信号レベルが適切な範囲に入るようにする。A/D変換器204は、アナログ信号処理部203から出力されたアナログの画像信号をデジタルの画像信号に変換する。
静止画又は動画の撮影時にイメージセンサ201、アナログ信号処理部203、及びA/D変換器204を介して出力されるRGBの画素毎の画像データ(モザイク画像データ)は、画像入力コントローラ205からRAM207に入力され、一時的に記憶される。尚、イメージセンサ201がCMOS型イメージセンサである場合、アナログ信号処理部203及びA/D変換器204は、イメージセンサ201内に内蔵されていることが多い。
デジタル信号処理部206は、RAM207に格納されている画像データに対して、各種のデジタル信号処理を施す。デジタル信号処理部206は、RAM207に記憶されている画像データを適宜読み出し、読み出した画像データに対してオフセット処理、感度補正を含むゲイン・コントロール処理、ガンマ補正処理、デモザイク処理(デモザイキング処理、同時化処理とも言う)、RGB/YCrCb変換処理等のデジタル信号処理を行い、デジタル信号処理後の画像データを再びRAM207に記憶させる。尚、デモザイク処理とは、例えば、RGB3色のカラーフィルタからなるイメージセンサの場合、RGBからなるモザイク画像から画素毎にRGB全ての色情報を算出する処理であり、モザイクデータ(点順次のRGBデータ)から同時化されたRGB3面の画像データを生成する。
RGB/YCrCb変換処理は、同時化されたRGBデータを輝度データ(Y)及び色差データ(Cr、Cb)に変換する処理である。
圧縮伸張処理部208は、静止画又は動画の記録時に、一旦RAM207に格納された非圧縮の輝度データY及び色差データCb,Crに対して圧縮処理を施す。静止画の場合には、例えばJPEG(Joint Photographic coding Experts Group)形式で圧縮し、動画の場合には、例えばMPEG符号化方式の一つであるH.264/AVC(Advanced Video Coding)方式で圧縮する。圧縮伸張処理部208により圧縮された画像データは、メディア制御部210を介してメモリカード212に記録される。また、圧縮伸張処理部208は、再生モード時にメディア制御部210を介してメモリカード212から得た圧縮された画像データに対して伸張処理を施し、非圧縮の画像データを生成する。
尚、本発明に係る圧縮伸張処理部208(特に、圧縮処理部)の詳細については後述する。
メディア制御部210は、圧縮伸張処理部208で圧縮された画像データを、メモリカード212に記録する制御を行う。また、メディア制御部210は、メモリカード212から、圧縮された画像データを読み出す制御を行う。
表示制御部214は、RAM207に格納されている非圧縮の画像データを、液晶モニタ216に表示させる制御を行う。液晶モニタ216は、液晶表示デバイスにより構成されているが、液晶モニタ216の代わりに有機エレクトロルミネッセンスなどの表示デバイスによって構成してもよい。
液晶モニタ216にライブビュー画像を表示させる場合には、デジタル信号処理部206で連続的に生成されたデジタルの画像信号が、RAM207に一時的に記憶される。表示制御部214は、このRAM207に一時記憶されたデジタルの画像信号を表示用の信号形式に変換して、液晶モニタ216に順次出力する。これにより、液晶モニタ216に撮影画像がリアルタイムに表示され、液晶モニタ216を電子ビューファインダとして使用することができる。
シャッタレリーズスイッチ22は、静止画や動画の撮影指示を入力するための撮影指示部であり、いわゆる「半押し」と「全押し」とからなる2段ストローク式のスイッチで構成されている。
静止画撮影モードの場合、シャッタレリーズスイッチ22が半押しされることによってS1オンの信号、半押しから更に押し込む全押しがされることによってS2オンの信号が出力され、S1オン信号が出力されると、本体側CPU220は、AF制御(自動焦点調節)及びAE制御(自動露出制御)などの撮影準備処理を実行し、S2オン信号が出力されると、静止画の撮影処理及び記録処理を実行する。
尚、AF及びAEは、それぞれ操作部222によりオートモードが設定されている場合に自動的に行われ、マニュアルモードが設定されている場合には、AF及びAEが行われないことは言うまでもない。
また、動画撮影モード(通常の動画用の第1動画撮影モード、又は静止画抽出用の第2動画撮影モード)の場合、シャッタレリーズスイッチ22が全押しされることによってS2オンの信号が出力されると、カメラ本体200は、動画の記録を開始する動画記録モードになり、動画の画像処理及び記録処理を実行し、その後、シャッタレリーズスイッチ22が再び全押しされることによってS2オンの信号が出力されると、カメラ本体200は、スタンバイ状態になり、動画の記録処理を一時停止する。
尚、シャッタレリーズスイッチ22は半押しと全押しとからなる2段ストローク式のスイッチの形態に限られず、1回の操作でS1オンの信号、S2オンの信号を出力しても良く、それぞれ個別のスイッチを設けてS1オンの信号、S2オンの信号を出力しても良い。
また、タッチ式パネル等により操作指示を行う形態では、これら操作手段としてタッチ式パネルの画面に表示される操作指示に対応する領域をタッチすることで操作指示を出力するようにしても良く、撮影準備処理や撮影処理を指示するものであれば操作手段の形態はこれらに限られない。
撮影により取得された静止画又は動画は、圧縮伸張処理部208により圧縮され、圧縮された画像データは、撮影日時、GPS情報、撮影条件(F値、シャッタスピード、ISO感度等)の所要の付属情報が、ヘッダに付加された画像ファイルとされた後、メディア制御部210を介してメモリカード212に格納される。
本体側CPU220は、カメラ本体200全体の動作及び交換レンズ100の光学部材の駆動等を統括制御するもので、シャッタレリーズスイッチ22を含む操作部222等からの入力に基づき、カメラ本体200の各部及び交換レンズ100を制御する。
時計部224は、タイマとして、本体側CPU220からの指令に基づいて時間を計測する。また、時計部224は、カレンダとして、現在の年月日及び時刻を計測する。
フラッシュROM226は、読み取り及び書き込みが可能な不揮発性メモリであり、設定情報を記憶する。
ROM228には、本体側CPU220が実行するカメラ制御プログラム、本発明に係る画像処理プログラム、イメージセンサ201の欠陥情報、画像処理等に使用する各種のパラメータやテーブルが記憶されている。本体側CPU220は、ROM228に格納されたカメラ制御プログラム、あるいは画像処理プログラムにしたがい、RAM207を作業領域としながらカメラ本体200の各部、及び交換レンズ100を制御する。
自動焦点調節部として機能するAF制御部230は、イメージセンサ201が位相差画素を含む場合には、位相差AFの制御に必要なデフォーカス量を算出し、算出したデフォーカス量に基づいて、フォーカスレンズが移動すべき位置(合焦位置)指令を、本体側CPU220及び本体側通信部250を介して交換レンズ100に通知する。
AF制御部230により算出されたデフォーカス量に対応するフォーカスレンズの位置指令は、交換レンズ100に通知され、フォーカスレンズの位置指令を受け付けた交換レンズ100のレンズ側CPU120は、フォーカスレンズ制御部116を介してフォーカスレンズを移動させ、フォーカスレンズの位置(合焦位置)を制御する。尚、AF制御部230は、位相差AFを行うものに限らず、AF領域のコントラストが最大になるようにフォーカスレンズを移動させるコントラストAFを行うものでもよい。
AE制御部232は、被写体の明るさ(被写体輝度)を検出する部分であり、被写体輝度に対応するAE制御及びAWB(Auto White Balance)制御に必要な数値(露出値(EV値(exposure value)))を算出する。AE制御部232は、イメージセンサ201を介して取得した画像の輝度、画像の輝度の取得時のシャッタスピード及びF値によりEV値を算出する。
本体側CPU220は、AE制御部232から得たEV値に基づいて所定のプログラム線図からF値、シャッタスピード及びISO感度を決定し、AE制御を行うことができる。
ホワイトバランス補正部234は、RGBデータ(Rデータ、Gデータ及びBデータ)の色データ毎のホワイトバランスゲイン(WB(White Balance)ゲイン)Gr,Gg,Gbを算出し、Rデータ、Gデータ及びBデータに、それぞれ算出したWBゲインGr,Gg,Gbを乗算することによりホワイトバランス補正を行う。ここで、WBゲインGr,Gg,Gbの算出方法としては、被写体の明るさ(EV値)によるシーン認識(屋外、屋内の判定等)及び周囲光の色温度等に基づいて被写体を照明している光源種を特定し、予め光源種毎に適切なWBゲインが記憶されている記憶部から特定した光源種に対応するWBゲインを読み出す方法が考えられるが、少なくともEV値を使用してWBゲインGr,Gg,Gbを求める他の公知の方法が考えられる。
無線通信部236は、Wi-Fi(Wireless Fidelity)(登録商標)、Bluetooth(登録商標)等の規格の近距離無線通信を行う部分であり、周辺のデジタル機器(スマートフォン、等の携帯端末)との間で必要な情報の送受信を行う。
GPS受信部238は、本体側CPU220の指示にしたがって、複数のGPS衛星から送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、カメラ本体200の緯度、経度、及び高度からなるGPS情報を取得する。取得されたGPS情報は、撮影された画像の撮影位置を示す付属情報として画像ファイルのヘッダに記録することができる。
電源制御部240は、本体側CPU220の指令にしたがって、バッテリ242から供給される電源電圧をカメラ本体200の各部に与える。また、電源制御部240は、本体側CPU220の指令にしたがって、本体マウント260及びレンズマウント160を介して、バッテリ242から供給される電源電圧を交換レンズ100の各部に与える。
レンズ電源スイッチ244は、本体側CPU220の指令にしたがって、本体マウント260及びレンズマウント160を介して交換レンズ100に与える電源電圧のオン及びオフの切り替えとレベルの切り替えを行う。
本体側通信部250は、本体側CPU220の指令にしたがって、本体マウント260及びレンズマウント160を介して接続された交換レンズ100のレンズ側通信部150との間で、リクエスト信号、回答信号の送受信(双方向通信)を行う。尚、本体マウント260には、図1に示すように複数の端子260Aが設けられており、交換レンズ100がカメラ本体200に装着(レンズマウント160と本体マウント260とが接続)されると、本体マウント260に設けられた複数の端子260A(図1)と、レンズマウント160に設けられた複数の端子(図示せず)とが電気的に接続され、本体側通信部250とレンズ側通信部150との間で双方向通信が可能になる。
内蔵フラッシュ30(図1)は、例えば、TTL(Through The Lens)自動調光方式のフラッシュであり、フラッシュ発光部270と、フラッシュ制御部272とから構成されている。
フラッシュ制御部272は、フラッシュ発光部270から発光するフラッシュ光の発光量(ガイドナンバー)を調整する機能を有する。即ち、フラッシュ制御部272は、本体側CPU220からのフラッシュ撮影指示に同期してフラッシュ発光部270から、発光量の小さいフラッシュ光をプリ発光(調光発光)させ、交換レンズ100の撮影光学系102を介して入射する反射光(周囲光を含む)に基づいて本発光するフラッシュ光の発光量を決定し、決定した発光量のフラッシュ光を、フラッシュ発光部270から発光(本発光)させる。
FPS280は、撮影装置10のメカシャッタを構成し、イメージセンサ201の直前に配置される。FPS制御部296は、本体側CPU220からの入力情報(S2オン信号、シャッタスピード等)に基づいてFPS280の先幕、後幕の開閉を制御し、イメージセンサ201における露光時間(シャッタスピード)を制御する。
次に、第1動画撮影モード又は第2動画撮影モードが設定され、第1動画撮影モード又は第2動画撮影モードにより撮影された動画を圧縮する圧縮伸張処理部208について説明する。
[第1実施形態]
図4は、本発明に係る画像処理装置の第1実施形態を示すブロック図であり、特にカメラ本体200内の圧縮伸張処理部208の圧縮処理部に関して示している。
図4に示す圧縮処理部208-1は、主として動画取得部302、直交変換器310、量子化部320、符号化部330、及びビットレート制御部340から構成されている。尚、本例の圧縮処理部208-1は、MPEG符号化方式の一つであるH.264/AVC方式で圧縮するものとする。
MPEG圧縮方式では、動画の数フレーム(例えば、15フレーム)の集合である1GOP(Group Of Pictures)の単位で圧縮、編集等がなされる。1GOPには、自フレームの情報のみが圧縮され、時間的に前後する他のフレームとの相関情報を用いないI(Intra)フレームと、時間的に過去のフレームからの相関情報で表わされるP(Predictive)フレームと、時間的に前後するフレームからの相関情報で表されるB(Bidirectionally)フレームとが含まれており、1GOPの先頭のフレームは、少なくともIフレームで
ある。
図4に示す圧縮処理部208-1は、撮影装置10の動画撮影部(交換レンズ100及びカメラ本体200のイメージセンサ201等)により撮影された通常の動画又は静止画抽出用の動画300を圧縮処理する部分である。
圧縮処理部208-1の動画取得部302は、動画撮影部により撮影された動画300を構成するフレームの画像データを取得する部分であり、本例では、説明を簡単にするために、1GOPを構成するIフレーム、Pフレーム、及びBフレームを順次取得するものとする。
1GOPを構成する各フレームは、16×16画素のマクロブロック単位で符号化される。1つのマクロブロックの輝度データY及び色差データCb,Crは、例えば、Y:Cr:Cb=4:1:1のフォーマットの8×8画素の4つの輝度データYのブロックと、8×8画素に間引かれたそれぞれ1つの色差データCr,Cbのブロックとに変換されてから、ブロック(単位ブロック)毎に量子化処理が行われる。
直交変換器310は、8×8画素の単位ブロックのデータを、離散コサイン変換(DCT:Discrete Cosine Transform)と呼ばれる手法に従い直交変換して周波数成分に分解し、直交変換係数を算出する。
量子化部320は、直交変換器310による変換された直交変換係数を、ビットレート制御部340により決定(設定)された量子化パラメータ(QP値)に基づいて量子化する。
H.264/AVCでは、QP値は、1~51の範囲に規定されており、この範囲内でQP値が決定されると、QP値に対応する量子化ステップサイズ(Qstep)が決まる。Qstepは、量子化処理で行われる直交変換係数を除算する値であり、H.264/AVCでは、QP値が6増えると2倍になる値であり、決定したQP値に基づいてルックアップテーブルを用いて、又は計算により導出することができる。
圧縮されたビットストリームの品質及びビットレートは、主に各マクロブロックを量子化するために選択されるQP値によって決定される。QP値に対応するQstepは、圧縮されたマクロブロックに空間的ディテールをどの程度保持させるかを調整するための数値である。
stepが小さいほど、ディテールの保持は大きく、画像の品質は良いが、ビットレートが高くなる。Qstepが増加するにしたがってディテールの保持が小さくなり、ビットレートは削減されるが、画像の品質が低下する。したがって、ビットレート制御部340は、画質とビットレートとを勘案してQP値(Qstep)を決定する必要がある。
尚、ビットレート制御部340によるQP値の決定方法については後述する。
符号化部330は、量子化部320から供給される量子化値をエントロピー符号化する部分であり、H.264/AVCでは、ハフマン符号をベースとした可変長符号化 (VLC; Variable Length Coding) と、算術符号化のいずれかを選択することができる。符号化部330により更に圧縮された圧縮データ350(符号化データ)は、ビットストリームとしてメディア制御部210(図3)に送出される。尚、メディア制御部210は、圧縮された通常の動画及び静止画抽出用の動画の圧縮データを、メモリカード212に記録する動画記録部として機能する。
ビットレート制御部340は、VBV(Video Buffering Verifier)バッファとしての機能を有し、符号化部330から出力される動画の過去のフレームの画像データの量子化後の符号化データ(発生符号量)を、例えばマクロブロック単位で取得し、取得した発生符号量と予め設定されたビットストリームのビットレートとからVBVバッファ占有量を算出し、VBVバッファが破綻しないQP値を決定する。ビットレート制御部340は、決定したQP値を量子化部320に出力する。
ビットレート制御部340は、決定したQP値の代わりに、そのQP値に対応する量子化ステップサイズ(Qstep)を量子化部320に出力してもよい。また、ビットレート制御部340は、フレーム単位又はGOP単位でQP値を決定してもよい。
量子化部320は、ビットレート制御部340から入力するQP値に対応するQstepを取得し、又はビットレート制御部340から直接Qstepを取得し、直交変換係数をQstepで除算して整数に丸めた量子化値を算出する。
次に、ビットレート制御部340によるQP値の決定方法について更に詳述する。
図4に示すように、ビットレート制御部340には、撮影モード選択部360から通常の動画用の第1動画撮影モード、又は静止画抽出用の第2動画撮影モードを示す撮影モード指令が加えられるようになっている。
撮影モード選択部360は、本例では、MENU/OKキー27、十字キー28及び液晶モニタ216等を使用したオンスクリーン対話方式による操作部であるが、各種の撮影モードを選択するためのモードダイヤルでもよい。
撮影装置10は、撮影モード選択部360により第1動画撮影モードが選択された状態で、シャッタレリーズスイッチ22から動画の撮影指示を入力すると、動画の鑑賞に適した撮影条件で動画(通常の動画)を撮影し、一方、撮影モード選択部360により第2動画撮影モードが選択された状態で、シャッタレリーズスイッチ22から動画の撮影指示を入力すると、静止画の抽出に適した撮影条件で動画(静止画抽出用の動画)を撮影する。
ここで、静止画抽出用の動画の撮影条件と通常の動画の撮影条件とは、例えば、シャッタスピードが異なり、静止画抽出用の動画の各フレームのシャッタスピードは、通常の動画に比べて高速に設定される。
静止画抽出用の動画の場合、各フレームに手ブレや像ブレが発生しないシャッタスピードに設定することが好ましいからである。一方、通常の動画の場合、各フレームの連続性を確保するために、フレームレートにより決まるフレーム間隔に相当するシャッタスピードに設定することが好ましい。また、静止画抽出用の動画の場合、AF、AE及びAWBの追従速度を可能な限り速くし、一方、通常の動画の場合、AF、AE及びAWBの追従速度を緩やかにすることが好ましい。また、静止画抽出用の動画の場合、一瞬のシーンをとらえるために、通常の動画に比べてフレームレートを高くすること(単位時間当りのフレーム数を多くすること)が好ましい。
さて、ビットレート制御部340は、撮影モード選択部360から第1動画撮影モードを示す撮影モード指令が加えられる場合と、第2動画撮影モードを示す撮影モード指令が加えられる場合とで、QP値の範囲(下限値と上限値)を異ならせる。
図5は、通常の動画の圧縮を圧縮処理する際の過去のフレームの画像データの量子化後の発生符号量の変化と、QP値との関係を示す模式図である。
図5に示すように、ビットレート制御部340は、通常の動画の量子化に使用するQP値を、第1下限値(Min.1)と第1上限値(Max.1)との範囲(第1範囲)内で決定する。H.264/AVCの場合、QP値のとり得る最大範囲は、1~51であるため、Min.1及びMax.1は、1~51の範囲内で設定される。Min.1及びMax.1は、動画全体の画質を考慮して設定することが好ましい。
図5に示すように、QP値がMin.1に設定されている場合、シーンチェンジのように動きのあるシーンのフレームやGOPを量子化すると、量子化後の発生符号量は、急激に増加する。この場合、ビットレート制御部340は、VBVバッファが破綻(VBVバッファ占有量がオーバーフロー)しないようにQP値を大きくする。
図5に示す例では、発生符号量が急激に増加した場合、QP値をMin.1からMax.1にしている。
その後、動きのあるシーンから静止したシーンになると、QP値がMax.1に保持されているため、量子化後の発生符号量は急激に減少する。ビットレート制御部340は、発生符号量の減少により、VBVバッファが破綻(VBVバッファ占有量がアンダーフロー)しないようにQP値を小さくする。
通常の動画に対するMin.1及びMax.1は、動画全体の画質を考慮して設定されるため、動画として鑑賞するには適しているが、通常の動画から1枚のフレームを静止画として抽出する場合には、抽出された静止画に対するQP値が大き過ぎる可能性がある。
図6は、静止画抽出用の動画を圧縮処理する際の過去のフレームの画像データの量子化後の発生符号量の変化と、QP値との関係を示す模式図である。
図6に示すように、ビットレート制御部340は、静止画抽出用の動画の量子化に使用するQP値を、第2下限値(Min.2)と第2上限値(Max.2)との範囲(第2範囲)内で決定する。
Min.2及びMax.2は、それぞれ静止画抽出用の動画の全てのフレームに対して一定の画質(静止画として要求される画質)を保証することができ、かつ通常の動画の場合と同等のビットレートになるように設定する。
具体的には、Min.2は、Min.1よりも大きい値にする。Min.2は、シーンチェンジのように動きのあるシーンのフレームやGOPを量子化する場合に、量子化後の発生符号量が大幅に増加しないように設定する。
また、Min.1よりも大きいMin.2を設定することで、Min.1が設定される場合に比べて、量子化後の発生符号量の増加を抑制することができる。
一方、Max.2は、Max.1よりも小さい値にする。Max.2は、量子化に使用するQP値としてMax.2が使用されたフレームでも、そのフレームが静止画として所望の画質を保持でき
る値に設定する。
図6に示すように、QP値がMin.1よりも大きいMin.2に設定されている場合、静止しているシーン等において、通常の動画に比べて量子化後の発生符号量が抑制され、その結果、シーンチェンジのように動きのあるシーンのフレームやGOPを量子化する場合でも、急激に増加しないように抑制することができる。
また、図6に示す例では、発生符号量が増加した場合、QP値をMin.2からMax.2にしているが、発生符号量の増加が抑制されているため、Max.1よりも小さいMax.2でもVBVバッファが破綻(VBVバッファ占有量がオーバーフロー)しないようにすることができる。
特にQP値が、最大でもMax.1よりも小さいMax.2に制限することができるため、静止画抽出用の動画の全てのフレームに対して、静止画として要求される画質を保証することができる。
[第2実施形態]
図7は、本発明に係る画像処理装置の第2実施形態を示すブロック図であり、特にカメラ本体200内の圧縮伸張処理部208の圧縮処理部に関して示している。尚、図7に示す第2実施形態において、図4に示した第1実施形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図7に示す圧縮処理部208-2は、主として静止画抽出用の動画のシーンを判別するシーン判別部を有する点で、図4に示した第1実施形態の圧縮処理部208-1と相違する。
シーン判別部は、風景、夜景、夕焼け、マクロ、人物、動体、スポーツなどの撮影シーンを選択するシーン選択部370からのシーン情報に基づいて撮影シーンを判別する部分であり、ビットレート制御部340がシーン判別部として機能するものでもよいし、ビットレート制御部340とは独立したシーン判別部を備えていてもよい。また、シーン判別部は、ライブビュー画像を解析し、その解析結果に基づいて自動的に撮影シーンを判別するものでもよい。
ビットレート制御部340は、静止画抽出用の第2動画撮影モードに設定されている場合、シーン判別部に判別された動画の撮影シーンを示すシーン情報に応じて、選択可能なQP値の範囲(第2範囲)を設定する。例えば、シーン情報に応じて、シーン情報とMin.2及びMax.2との関係が記録されているテーブルから、シーン情報に対応して記録されたMin.2及びMax.2を読み出すことで、Min.2とMax.2とにより規定されるQP値の第2範囲を設定することができる。
尚、動画の撮影シーンに応じて設定されるMin.2は、通常の動画のQP値のMin.1よりも大きく、Max.2は通常の動画のQP値のMax.1よりも小さいことは言うまでもない。また、ビットレート制御部340は、通常の動画用の第1動画撮影モードに設定されている場合、シーン判別部に判別された動画の撮影シーンを示すシーン情報に応じて、選択可能なQP値の範囲(第1範囲)を設定してもよい。
シーン判別とそのシーン判別結果により設定されるQP値の範囲としては、例えば、風や動体の有無等の撮影シーンを動画から判別し、その判別結果から「瞬間的に変化するシーン」かどうかを判定してQP値の範囲を決めてもよい。また、静止画抽出用の第2動画撮影モードとして、更に「瞬間変化切り出しモード」と「通常の切り出しモード(瞬間変化切り出しモード以外のモード)」とを設け、ユーザーが「瞬間変化切り出しモード」を選択した場合は、「通常の切り出しモード」よりもQP値の範囲(第2範囲)を狭くしてもよい。
また、第2動画撮影モードではフレームレートに応じてフレームレート応じてQP値の第2範囲をシフト(フレームレートが高くなるとQP値を高い方へシフトさせる)させてもよい。
次の[表1]に、QP値の下限値及び上限値の一例を示す。
Figure 2022190118000002
[シーン判別について]
急激にシーンが変わる場面としては、例えば、雷撮影が考えられる。
同じ構図のフレームの動画が続く場合、同じ構図のフレームにおいてQP値が徐々に下がり、画像の圧縮率が下がる。この場合に急激に画面が変化すると、圧縮率が出来ずQP値が大きくなってしまう懸念がある。
そこで、静止画抽出用の第2動画撮影モードとして、「瞬間変化切り出しモード」を設け、「通常の切り出しモード」に比べて更にQP値の幅を狭くすることが好ましい。
[フレームレートについて]
フレームレートが30fpsから60fpsに変化する場合、データ量が単純に2倍になる。
フレームレートが上がる場合は、それに応じてQP値の範囲をシフト(下限値も上限値も上げる。) させることが好ましい。これにより、30fpsと60fpsの圧縮後のビットレートが同じようにでき、フレームレートが30fpsから60fpsになっても画質の劣化が抑制出来る。
尚、[表1]に示したQP値の上限値、下限値に限らず、第2動画撮影モードにおけるQP値の第2範囲は、外部からの指示を入力する指示入力部からの入力に応じて適宜設定してもよい。
[画像処理方法]
図8は、本発明に係る画像処理方法の実施形態を示すフローチャートである。以下、主として図4に示した圧縮処理部208-1の各部の処理動作について説明する。
図8において、ビットレート制御部340は、撮影モード選択部360から入力する撮影モード指令により、通常の動画用の第1動画撮影モードが選択されているか、又は静止画抽出用の第2動画撮影モードが選択されているかを判別する(ステップS10)。
第1動画撮影モードが選択されている場合には、通常の動画用の量子化パラメータ(QP値)の第1範囲(第1下限値Min.1、第1上限値Max.1)を設定し(ステップS12)、第2動画撮影モードが選択されている場合には、静止画抽出用のQP値の第2範囲(第2下限値Min.2、第2上限値Max.2)を設定する(ステップS13)。尚、Min.2は、Min.1よりも大きい値であり、Max.2は、Max.1よりも小さい値である。また、ステップS14は、シーン判別部により静止画抽出用の動画のシーンを判別するステップを含み、判別されたシーンに応じて第2範囲を設定してもよい。
続いて、撮影装置10の本体側CPU220は、操作部222(シャッタレリーズスイッチ22)からの入力信号により動画撮影が開始したか否かを判別する(ステップS14)。
ステップS14により動画撮影が開始されたと判別されると、本体側CPU220は、動画撮影部により第1動画撮影モード又は第2動画撮影モードによる動画撮影を行わせる(ステップS15、動画取得ステップ)。
続いて、動画撮像部により撮影される動画に対して、MPEG符号化方式の一つであるH.264/AVC方式により1GOPの単位で、撮影された動画の圧縮等を行う(圧縮処理ステップ)。
即ち、圧縮処理部208-1の動画取得部302は、動画撮影が開始されると、通常の動画又は静止画抽出用の動画の各フレーム(1GOPを構成するIフレーム、Pフレーム、及びBフレーム)を順次取得する(ステップS16)。
各フレームは、8×8画素の単位ブロック毎に圧縮処理が行われる。直交変換器310は、単位ブロックのデータを離散コサイン変換(DCT)し、直交変換係数を算出する(ステップS18)。
VBVバッファとしての機能を有するビットレート制御部340は、符号化部330から出力される符号化データ(動画の過去のフレームの画像データの量子化後の発生符号量)を、例えばマクロブロック単位で取得する(ステップS20)。ビットレート制御部340は、取得した発生符号量と予め設定されたビットストリームのビットレートとからVBVバッファ占有量を算出し、VBVバッファが破綻しない量子化パラメータ(QP値)を決定する(ステップS22)。
ここで、ステップS22におけるQP値の決定は、現在圧縮処理している動画が、通常の動画の場合には、ステップS12で設定された第1範囲(第1下限値Min.1、第1上限値Max.1)内でQP値を決定し、静止画抽出用の動画の場合には、ステップS13で設定された第2範囲(第2下限値Min.2、第2上限値Max.2)内でQP値を決定する。
量子化部320は、直交変換器310から入力する直交変換係数を、ビットレート制御部340により決定されたQP値に対応する量子化ステップサイズ(Qstep)で除算して整数に丸めた量子化値を算出する(ステップS24)。
ステップS12で設定された第1範囲内でQP値を決定し、動画のフレームを単位ブロック毎に量子化して圧縮するステップS18~ステップS24は、通常の動画を圧縮する第1圧縮ステップに対応し、ステップS13で設定された第2範囲内でQP値を決定し、動画のフレームを単位ブロック毎に量子化して圧縮するステップS18~ステップS24は、静止画抽出用の動画を圧縮する第2圧縮ステップに対応する。
量子化部320により算出された量子化値は、符号化部330によりエントロピー符号化され、ビットストリームとしてメディア制御部210(図3)に出力され、メディア制御部210により通常の動画又は静止画抽出用の動画としてメモリカード212に記録される(ステップS26)。
続いて、撮影装置10の本体側CPU220は、操作部222からの入力信号により動画撮影が終了したか否かを判別する(ステップS28)。動画撮影が終了していないと判別されると(「No」の場合)、ステップS15に遷移させる。これにより、動画の撮影、圧縮処理及び記録処理等が継続して行われる。動画撮影が終了したと判別されると(「Yes」の場合)、本画像処理を終了させる。
本実施形態の撮影装置10は、ミラーレスのデジタル一眼カメラであるが、これに限らず、一眼レフカメラ、レンズ一体型の撮影装置、デジタルビデオカメラ等でもよく、また、撮影機能に加えて撮影以外の他の機能(通話機能、通信機能、その他のコンピュータ機能)を備えるモバイル機器に対しても適用可能である。本発明を適用可能な他の態様としては、例えば、カメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機が挙げられる。以下、本発明を適用可能なスマートフォンの一例について説明する。
<スマートフォンの構成>
図9は、本発明の撮影装置の一実施形態であるスマートフォン500の外観を示すものである。図9に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、係る筐体502は、スピーカ531と、マイクロホン532、操作部540と、カメラ部541とを備えている。尚、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド機構を有する構成を採用することもできる。
図10は、図9に示すスマートフォン500の構成を示すブロック図である。図10に示すように、スマートフォンの主たる構成要素として、基地局と移動通信網とを介した移動無線通信を行う無線通信部510と、表示入力部520と、通話部530と、操作部540と、カメラ部541と、記録部550と、外部入出力部560と、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501とを備える。
無線通信部510は、主制御部501の指示にしたがって、移動通信網に収容された基地局に対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信、Webデータ及びストリーミングデータなどの受信を行う。
表示入力部520は、主制御部501の制御により、画像(静止画像及び動画像)や文字情報などを表示して視覚的にユーザに情報を伝達し、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。
表示パネル521は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。かかるデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
図9に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。かかる配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
尚、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。さらに、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。また、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
通話部530は、スピーカ531やマイクロホン532を備え、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力したり、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力するものである。また、図9に示すように、例えば、スピーカ531、マイクロホン532を表示入力部520が設けられた面と同じ面に搭載することができる。
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図9に示すように、操作部540は、スマートフォン500の筐体502の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
記録部550は、主制御部501の制御プログラム、制御データ、アプリケーションソフトウェア(本発明に係る画像処理プログラムを含む)、通信相手の名称及び電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータ、及びダウンロードしたコンテンツデータを記憶し、またストリーミングデータなどを一時的に記憶するものである。また、記録部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部562により構成される。尚、記録部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、Micro SD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)などの記録媒体を用いて実現される。
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、及びIEEE1394など)又はネットワーク(例えば、インターネット、無線LAN(Local Area Network)、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)など)により直接的又は間接的に接続するためのものである。
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)、SIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、又はオーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオビデオ機器、無線接続される外部オーディオビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、及びイヤホンなどがある。外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達し、又はスマートフォン500の内部のデータを外部機器に伝送することが可能である。
GPS受信部570は、主制御部501の指示にしたがって、GPS衛星ST1~STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、スマートフォン500の緯度、経度、及び高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部580は、例えば、3軸の加速度センサ及びジャイロセンサなどを備え、主制御部501の指示にしたがって、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
電源部590は、主制御部501の指示にしたがって、スマートフォン500の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部501は、マイクロプロセッサを備え、記録部550が記憶する制御プログラム及び制御データにしたがって動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能及びアプリケーション処理機能を備える。
アプリケーション処理機能は、記録部550が記憶するアプリケーションソフトウェアにしたがって主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能、本発明に係る圧縮処理を行う画像処理機能などがある。
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画や動画のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、係る復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコン及びスクロールバーなどのソフトウェアキーを表示したり、或いは電子メールを作成するためのウィンドウを表示する。尚、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じてアイコンに対する操作、及びウィンドウの入力欄に対する文字列の入力を受け付け、或いはスクロールバーを通じた表示画像のスクロール要求を受け付ける。
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル521に重ならない外縁部分(非表示領域)かを判定し、操作パネル522の感応領域及びソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、或いはこれらを組合せて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部541は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge-Coupled Device)などの撮像素子を用いて電子撮影するデジタルカメラであり、図1に示した撮影装置10に相当する。また、カメラ部541は、主制御部501の制御により、撮影によって得た静止画の画像データを、例えばJPEG(Joint Photographic coding Experts Group)で圧縮し、又は動画の画像データを、例えばH.264/AVCで圧縮して記録部550に記録したり、外部入出力部560や無線通信部510を通じて出力することができる。図9に示すようにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、或いは、複数のカメラ部541が搭載されてもよい。尚、複数のカメラ部541が搭載されている場合、撮影に供するカメラ部541を切り替えて単独にて撮影したり、或いは、複数のカメラ部541を同時に使用して撮影することもできる。
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。さらには、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサ(ジャイロセンサ)と併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部580により取得した姿勢情報等などを付加して記録部550に記録したり、外部入出力部560や無線通信部510を通じて出力することもできる。
[その他]
本実施形態では、H.264/AVCの符号化方式を例に説明したが、これに限らず、MPEG-2、MPEG-4等の他の符号化方式で圧縮する場合にも適用できる。例えば、MPEG-2では、QP値は、1~31の範囲に規定されている。したがって、通常の動画と静止画抽出用の動画とで異なるQP値の範囲(下限値と上限値)を設定する場合、符号化方式に応じて設定する必要がある。
本発明に係る撮影装置の圧縮伸張処理部208における各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
更に、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
更にまた、本発明は、撮影装置にインストールされることにより、本発明に係る撮影装置として機能させる画像処理プログラム、及びこの画像処理プログラムが記録された記録媒体を含む。
また、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10 撮影装置
20 ファインダ窓
22 シャッタレリーズスイッチ
23 シャッタスピードダイヤル
24 露出補正ダイヤル
25 電源レバー
26 接眼部
27 MENU/OKキー
28 十字キー
29 再生ボタン
30 内蔵フラッシュ
100 交換レンズ
102 撮影光学系
104 レンズ群
108 絞り
116 フォーカスレンズ制御部
118 絞り制御部
120 レンズ側CPU
122 RAM
124 ROM
126 フラッシュROM
150 レンズ側通信部
160 レンズマウント
200 カメラ本体
201 イメージセンサ
202 イメージセンサ制御部
203 アナログ信号処理部
204 A/D変換器
205 画像入力コントローラ
206 デジタル信号処理部
207 RAM
208 圧縮伸張処理部
208-1、208-2 圧縮処理部
210 メディア制御部
212 メモリカード
214 表示制御部
216 液晶モニタ
220 本体側CPU
222 操作部
224 時計部
226 フラッシュROM
228 ROM
230 AF制御部
232 AE制御部
234 ホワイトバランス補正部
236 無線通信部
238 GPS受信部
240 電源制御部
242 バッテリ
244 レンズ電源スイッチ
250 本体側通信部
260 本体マウント
260A 端子
270 フラッシュ発光部
272 フラッシュ制御部
296 FPS制御部
300 動画
302 動画取得部
310 直交変換器
320 量子化部
330 符号化部
340 ビットレート制御部
350 圧縮データ
360 撮影モード選択部
370 シーン選択部
500 スマートフォン
501 主制御部
502 筐体
510 無線通信部
520 表示入力部
521 表示パネル
522 操作パネル
530 通話部
531 スピーカ
532 マイクロホン
540 操作部
541 カメラ部
550 記録部
551 内部記憶部
552 外部記憶部
560 外部入出力部
562 外部記憶部
570 GPS受信部
570 受信部
580 モーションセンサ部
590 電源部
Max.1 第1上限値
Max.2 第2上限値
Min.1 第1下限値
Min.2 第2下限値
S10~S28 ステップ

Claims (18)

  1. 第1動画撮影モード、又は前記第1動画撮影モードとは撮影条件が異なる第2動画撮影モードに基づいて撮影された動画を取得する動画取得部と、
    前記動画取得部で取得した動画を構成するフレームの画像データの量子化パラメータを決定し、前記画像データを圧縮する圧縮処理部と、
    を備える画像処理装置であって、
    前記圧縮処理部は、前記第1動画撮影モードの場合、第1範囲内で前記量子化パラメータを決定し、前記第2動画撮影モードの場合、第2範囲内で前記量子化パラメータを決定し、前記第2範囲の第2上限値は前記第1範囲の第1上限値よりも小さい、又は、前記第2範囲の第2下限値は前記第1範囲の第1下限値よりも大きい画像処理装置。
  2. 前記第2範囲は、フレームレートの設定値に応じて設定される、請求項1に記載の画像処理装置。
  3. 前記第2範囲は、外部からの指示を入力する指示入力部からの入力に応じて設定される、請求項1又は2に記載の画像処理装置。
  4. 前記動画取得部で取得した動画のシーンを判別するシーン判別部を備え、
    前記第2範囲は、前記シーン判別部により判別されたシーンに応じて設定される請求項1から3のいずれか1項に記載の画像処理装置。
  5. 前記圧縮処理部は、MPEG符号化方式により前記動画を圧縮する請求項1から4のいずれか1項に記載の画像処理装置。
  6. 前記圧縮処理部は、前記動画の過去のフレームの画像データの量子化後の発生符号量に応じて量子化パラメータを決定する請求項1から5のいずれか1項に記載の画像処理装置。
  7. 前記第1動画撮影モードは、動画の鑑賞に適した撮影条件で動画を撮影する動画撮影モードであり、前記第2動画撮影モードは、静止画の抽出に適した撮影条件で動画を撮影する動画撮影モードである、
    請求項1から6のいずれか1項に記載の画像処理装置。
  8. 前記第2動画撮影モードは、前記第1動画撮影モードに対してシャッタスピード、オートフォーカスの速度、自動露出の追従速度、ホワイトバランスの追従速度及びフレームレートの少なくとも1つが高速に設定される請求項1から7のいずれか1項に記載の画像処理装置。
  9. 請求項1から8のいずれか1項に記載の画像処理装置と、
    前記第1動画撮影モード、又は前記第2動画撮影モードに基づいて動画を撮影する動画撮影部と、を備え、
    前記動画取得部は、前記動画撮影部により撮影された前記動画を取得する撮影装置。
  10. 第1動画撮影モード、又は前記第1動画撮影モードとは撮影条件が異なる第2動画撮影モードに基づいて撮影された動画を取得する動画取得ステップと、
    前記動画取得ステップで取得した動画を構成するフレームの画像データの量子化パラメータを決定し、前記画像データを圧縮する圧縮処理ステップと、
    を含む画像処理方法であって、
    前記圧縮処理ステップは、前記第1動画撮影モードの場合、第1範囲内で前記量子化パラメータを決定し、前記第2動画撮影モードの場合、第2範囲内で前記量子化パラメータを決定し、前記第2範囲の第2上限値は前記第1範囲の第1上限値よりも小さい、又は、前記第2範囲の第2下限値は前記第1範囲の第1下限値よりも大きい画像処理方法。
  11. 前記第2範囲は、フレームレートの設定値に応じて設定される、請求項10に記載の画像処理方法。
  12. 前記第2範囲は、外部からの指示を入力する指示入力部からの入力に応じて設定される、請求項10又は11に記載の画像処理方法。
  13. 前記動画取得ステップで取得した動画のシーンを判別するステップを含み、
    前記第2範囲は、前記判別されたシーンに応じて設定される請求項10から12のいずれか1項に記載の画像処理方法。
  14. 前記圧縮処理ステップは、MPEG符号化方式により前記動画を圧縮する請求項10から13のいずれか1項に記載の画像処理方法。
  15. 前記圧縮処理ステップは、前記動画の過去のフレームの画像データの量子化後の発生符号量に応じて量子化パラメータを決定する請求項10から14のいずれか1項に記載の画像処理方法。
  16. 前記第1動画撮影モードは、動画の鑑賞に適した撮影条件で動画を撮影する動画撮影モードであり、前記第2動画撮影モードは、静止画の抽出に適した撮影条件で動画を撮影する動画撮影モードである、
    請求項10から15のいずれか1項に記載の画像処理方法。
  17. 前記第2動画撮影モードは、前記第1動画撮影モードに対してシャッタスピード、オートフォーカスの速度、自動露出の追従速度、ホワイトバランスの追従速度及びフレームレートの少なくとも1つが高速に設定される請求項10から16のいずれか1項に記載の画像処理方法。
  18. 第1動画撮影モード、又は前記第1動画撮影モードとは撮影条件が異なる第2動画撮影モードに基づいて撮影された動画を取得する動画取得機能と、
    前記動画取得機能で取得した動画を構成するフレームの画像データの量子化パラメータを決定し、前記画像データを圧縮する圧縮処理機能と、
    をコンピュータに実現させる画像処理プログラムであって、
    前記圧縮処理機能は、前記第1動画撮影モードの場合、第1範囲内で前記量子化パラメータを決定し、前記第2動画撮影モードの場合、第2範囲内で前記量子化パラメータを決定し、前記第2範囲の第2上限値は前記第1範囲の第1上限値よりも小さい、又は、前記第2範囲の第2下限値は前記第1範囲の第1下限値よりも大きい画像処理プログラム。
JP2022176987A 2018-09-26 2022-11-04 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム Active JP7498756B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024088878A JP2024103668A (ja) 2018-09-26 2024-05-31 画像処理装置、画像処理方法及び画像処理プログラム

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2018179972 2018-09-26
JP2018179972 2018-09-26
JP2020548110A JP6941744B2 (ja) 2018-09-26 2019-08-07 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP2021144857A JP7174123B2 (ja) 2018-09-26 2021-09-06 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021144857A Division JP7174123B2 (ja) 2018-09-26 2021-09-06 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024088878A Division JP2024103668A (ja) 2018-09-26 2024-05-31 画像処理装置、画像処理方法及び画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2022190118A true JP2022190118A (ja) 2022-12-22
JP7498756B2 JP7498756B2 (ja) 2024-06-12

Family

ID=69952033

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2020548110A Active JP6941744B2 (ja) 2018-09-26 2019-08-07 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP2021144857A Active JP7174123B2 (ja) 2018-09-26 2021-09-06 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP2022176987A Active JP7498756B2 (ja) 2018-09-26 2022-11-04 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP2024088878A Pending JP2024103668A (ja) 2018-09-26 2024-05-31 画像処理装置、画像処理方法及び画像処理プログラム

Family Applications Before (2)

Application Number Title Priority Date Filing Date
JP2020548110A Active JP6941744B2 (ja) 2018-09-26 2019-08-07 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP2021144857A Active JP7174123B2 (ja) 2018-09-26 2021-09-06 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024088878A Pending JP2024103668A (ja) 2018-09-26 2024-05-31 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (3)

Country Link
US (3) US11223826B2 (ja)
JP (4) JP6941744B2 (ja)
WO (1) WO2020066326A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020066326A1 (ja) 2018-09-26 2020-04-02 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08256337A (ja) * 1995-03-16 1996-10-01 Toshiba Corp 動画像符号化装置
JP2006295852A (ja) * 2005-04-14 2006-10-26 Sony Corp 画像符号化装置,画像符号化方法,撮像装置およびプログラム
JP4725183B2 (ja) 2005-05-11 2011-07-13 ソニー株式会社 撮像装置、および方法
US20090060039A1 (en) * 2007-09-05 2009-03-05 Yasuharu Tanaka Method and apparatus for compression-encoding moving image
WO2011021345A1 (ja) * 2009-08-21 2011-02-24 パナソニック株式会社 画像処理装置及びカメラシステム
JP2012178818A (ja) 2011-01-31 2012-09-13 Panasonic Corp 映像符号化装置および映像符号化方法
JP2013187834A (ja) 2012-03-09 2013-09-19 Nikon Corp デジタルカメラ
KR102212762B1 (ko) * 2014-09-17 2021-02-05 삼성전자주식회사 코덱과 이를 포함하는 장치들
GB201417535D0 (en) * 2014-10-03 2014-11-19 Microsoft Corp Adapting encoding properties
MY190923A (en) * 2015-07-27 2022-05-19 Tencent Tech Shenzhen Co Ltd Video sharing method and device, and video playing method and device
JP5938814B2 (ja) 2015-11-10 2016-06-22 パナソニックIpマネジメント株式会社 撮像装置
US10362307B2 (en) 2016-09-09 2019-07-23 Hanwha Techwin Co., Ltd. Quantization parameter determination method and image capture apparatus
AU2016231584A1 (en) * 2016-09-22 2018-04-05 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding video data
US10218906B2 (en) * 2017-03-22 2019-02-26 Htc Corporation Camera device and method for camera device
CN108391127B (zh) * 2018-04-27 2021-08-10 腾讯科技(深圳)有限公司 视频编码方法、装置、存储介质及设备
WO2020066326A1 (ja) 2018-09-26 2020-04-02 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム

Also Published As

Publication number Publication date
JP7498756B2 (ja) 2024-06-12
US20240223763A1 (en) 2024-07-04
JP6941744B2 (ja) 2021-09-29
US20220094935A1 (en) 2022-03-24
US11223826B2 (en) 2022-01-11
JP2021192544A (ja) 2021-12-16
JP2024103668A (ja) 2024-08-01
WO2020066326A1 (ja) 2020-04-02
JP7174123B2 (ja) 2022-11-17
US20210176470A1 (en) 2021-06-10
JPWO2020066326A1 (ja) 2021-08-30

Similar Documents

Publication Publication Date Title
US9854216B2 (en) Image pickup apparatus that displays image based on signal output from image pickup device, method of controlling the same, and storage medium
US10542216B2 (en) Apparatus and method for storing moving image portions
US8526685B2 (en) Method and apparatus for selectively supporting raw format in digital image processor
JP2007025650A (ja) カメラの自動焦点調節装置及びその方法
US20240223763A1 (en) Device and method for adaptive quantization based on video capturing mode
US20120113515A1 (en) Imaging system with automatically engaging image stabilization
US8189055B2 (en) Digital photographing apparatus and method of controlling the same
JP2009508381A (ja) カメラシステム
JP7112529B2 (ja) 撮像装置、撮像方法、及びプログラム
JP2016534609A (ja) 携帯電話タイプの装置に接続することが可能な低照明で写真を撮るための装置
CN111095912B (zh) 摄像装置、摄像方法及记录介质
KR101547828B1 (ko) 영상 처리 장치 및 방법
KR20130094632A (ko) 카메라의 연속 촬영 장치 및 방법.
JP7110408B2 (ja) 画像処理装置、撮影装置、画像処理方法及び画像処理プログラム
JP7060703B2 (ja) 撮影装置、撮影方法、及びプログラム
CN104754193B (zh) 具有拍摄功能的电子装置和控制该电子装置的方法
KR20080013110A (ko) 휴대단말기의 영상 촬영 장치 및 방법
JP2023059952A (ja) 画像処理装置、撮像装置、画像処理方法、画像処理プログラム及び記録媒体
US20130242167A1 (en) Apparatus and method for capturing image in mobile terminal
WO2020066332A1 (ja) 撮影装置、撮影方法、及びプログラム
CN118592035A (zh) 信息处理装置、信息处理方法和程序
JP2006098589A (ja) 撮影方法、撮像装置、カメラ付き携帯電話機、及びプログラム
JP2005159603A (ja) 撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240227

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240502

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240531

R150 Certificate of patent or registration of utility model

Ref document number: 7498756

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150