JP2016134631A - 画像処理装置、撮像装置、画像処理方法 - Google Patents
画像処理装置、撮像装置、画像処理方法 Download PDFInfo
- Publication number
- JP2016134631A JP2016134631A JP2015005791A JP2015005791A JP2016134631A JP 2016134631 A JP2016134631 A JP 2016134631A JP 2015005791 A JP2015005791 A JP 2015005791A JP 2015005791 A JP2015005791 A JP 2015005791A JP 2016134631 A JP2016134631 A JP 2016134631A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- coordinate
- unit
- geometric deformation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
- H04N25/531—Control of the integration time by controlling rolling shutters in CMOS SSIS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Television Signal Processing For Recording (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
本発明の目的は、画像データを付加情報とともに記録する場合の情報量の増加を抑制することである。
図1は、本実施形態に係る撮像装置の構成例を示すブロック図である。光学系100はレンズや絞りなどの光学部材を備える撮影光学系である。光学系100は、レンズの光学収差を伴う光学系であり、手振れなどに対して像ブレ補正を行う光学補正機構を備える。撮像センサ部101は、光学系100を介して集光された被写体像を光電変換して画像信号を出力する撮像素子を備える。
座標選択部106は、特徴量抽出部105によって抽出された特徴量に基づいて、幾何変形パラメータを求める基準となる座標を選択する。特徴量抽出部105から取得される特徴量のデータのうち、特徴量の高い座標が優先的に複数選択される。座標選択処理の詳細に関しては後述する。動き検出部107は、座標選択部106によって選択された複数の座標の動きベクトルを検出する。具体的には、動き検出部107は、時系列にて1つ前の画像データと、現時点の画像データとを比較することにより、座標選択部106によって選択された座標の動きベクトルを検出する。
特徴量については、画像にて動きが目立つ領域と、各種光学収差が目立つ領域と、ローリングシャッター歪が目立つ領域を兼ねるものとする。但し、これは、いずれも補正を実施する場合であり、ローリングシャッター歪補正を実施しない場合には、前記領域がローリングシャッター歪の目立つ領域を兼ねていなくても構わない。これらの領域は、おおむね被写体像のエッジ部分に目立つ傾向がある。このため、図2に示すようなソーベル(sobel)フィルタの処理結果を用いるか、演算リソースに余裕があるシステムであればHarrisオペレータやShi・Tomasiの特徴量算出方法を用いると、より効果的である。本実施形態では、図2を参照して、ソーベルフィルタを用いる場合について説明する。ソーベルフィルタは空間1次微分を計算して輪郭を検出するフィルタである。
・ファイルヘッダ領域(800):RAW動画の全フレーム数やフレームサイズ等の、RAW動画全体に対して所定数存在する情報を記録した領域であり、記録ファイルの先頭に位置する。
・フレーム情報領域(810):フレームヘッダ領域とフレーム画像データ領域とのペアで構成される領域である。
記録媒体にデータが記録されたRAW動画には、幾何変形の出力座標に対応する入力座標を示す幾何変形パラメータが関連付けられて記録されている。再生処理にて再生部113(図1参照)は、図6に示すように、出力座標に対して表示制御に合わせた順序で走査を行う。図6に例示する出力画像の座標空間600において、左上から右への走査が上から下へ順次に行われていき、着目点での座標(着目座標601)である出力座標(x,y)に対応する入力座標が算出される。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
103 現像部
105 特徴量抽出部
106 座標選択部
107 動き検出部
108 幾何変形パラメータ生成部
109 記録部
110 像ブレ補正部
111 収差補正部
112 ローリングシャッター歪補正部
113 再生部
Claims (12)
- 光学系を通して撮像された画像の画像データを圧縮する圧縮手段と、
前記画像データを取得して画像の特徴量を抽出する抽出手段と、
前記抽出手段により抽出される前記特徴量を取得し、前記特徴量が相対的に高い複数の座標を選択する座標選択手段と、
前記座標選択手段によって選択された前記複数の座標に係る座標点の動きを検出する動き検出手段と、
前記動き検出手段により検出された座標点の動きおよび前記光学系に係るレンズ情報を取得して幾何変形パラメータを生成する生成手段と、
前記圧縮手段によって圧縮された画像データに対して、前記生成手段により生成された幾何変形パラメータを付加情報としてフレームごとに関連付けて記録する記録手段と、を備えることを特徴とする画像処理装置。 - 前記座標選択手段は、前記画像データに係る画像の領域を分割し、分割された領域ごとに前記特徴量を前記抽出手段から取得して前記複数の座標を選択することを特徴とする請求項1に記載の画像処理装置。
- 前記抽出手段は、
前記画像データを処理する複数のフィルタ手段と、
前記複数のフィルタ手段の出力値を比較して1つを選択し、前記特徴量として出力する選択手段を備えることを特徴とする請求項1または2に記載の画像処理装置。 - 前記光学系のレンズ情報は、レンズの位置および歪曲収差もしくは倍率色収差の情報を含み、
前記幾何変形パラメータは、画像の像ブレを補正する処理および歪曲収差もしくは倍率色収差の補正に用いるパラメータを兼ねており、幾何変形における複数の座標点の移動量を示すことを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。 - 振れ検出信号を出力する振れ検出手段をさらに備え、
前記生成手段は、前記振れ検出信号を取得して前記幾何変形パラメータを生成し、
前記幾何変形パラメータは、画像の像ブレを補正する処理およびローリングシャッター歪補正に用いるパラメータを兼ねることを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。 - 前記記録手段は、前記幾何変形パラメータを記録媒体に記録する際に、前記画像データの座標を示す複数の座標データと、該座標データのそれぞれに対する幾何変形後の座標データとを対にしたデータを、前記圧縮手段によって圧縮された、現像処理が行われていない画像データとともに記録することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
- 請求項1から6のいずれか1項に記載の画像処理装置と、
前記光学系を通して撮像した画像の画像データを出力する撮像手段を備えることを特徴とする撮像装置。 - 前記幾何変形パラメータを用いて、前記画像の像ブレを補正する補正手段を備えることを特徴とする請求項7に記載の撮像装置。
- 前記幾何変形パラメータを用いて、前記光学系のレンズの歪曲収差または倍率色収差を補正する収差補正手段を備えることを特徴とする請求項7または8に記載の撮像装置。
- 前記幾何変形パラメータを用いて、ローリングシャッター歪補正を行う歪補正手段を備えることを特徴とする請求項7から9のいずれか1項に記載の撮像装置。
- 請求項1から6のいずれか1項に記載の画像処理装置と、
前記光学系を通して撮像した画像の画像データを出力する撮像手段と、
圧縮された画像データおよび幾何変形パラメータを取得し、幾何変形時に座標補間処理を行って画素値を出力する再生手段と、を備えることを特徴とする撮像装置。 - 画像処理装置にて画像処理および記録処理を実行する画像処理方法であって、
光学系を通して撮像された画像の画像データを圧縮する圧縮工程と、
前記画像データを取得して画像の特徴量を抽出する抽出工程と、
前記抽出工程で抽出された前記特徴量を取得し、前記特徴量が相対的に高い複数の座標を選択する座標選択工程と、
前記座標選択工程で選択された前記複数の座標に係る座標点の動きを検出する動き検出工程と、
前記動き検出工程で検出された座標点の動きおよび前記光学系に係るレンズ情報を取得して幾何変形パラメータを生成する生成工程と、
前記圧縮工程で圧縮された画像データに対して、前記生成工程で生成された幾何変形パラメータを付加情報としてフレームごとに関連付けて記録する記録工程と、を有することを特徴とする画像処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015005791A JP6415330B2 (ja) | 2015-01-15 | 2015-01-15 | 画像処理装置、撮像装置、画像処理方法 |
US14/994,760 US9635260B2 (en) | 2015-01-15 | 2016-01-13 | Image processing apparatus, image pickup apparatus, and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015005791A JP6415330B2 (ja) | 2015-01-15 | 2015-01-15 | 画像処理装置、撮像装置、画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016134631A true JP2016134631A (ja) | 2016-07-25 |
JP6415330B2 JP6415330B2 (ja) | 2018-10-31 |
Family
ID=56408767
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015005791A Active JP6415330B2 (ja) | 2015-01-15 | 2015-01-15 | 画像処理装置、撮像装置、画像処理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9635260B2 (ja) |
JP (1) | JP6415330B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10075640B2 (en) * | 2015-12-31 | 2018-09-11 | Sony Corporation | Motion compensation for image sensor with a block based analog-to-digital converter |
CN113206951B (zh) * | 2021-04-13 | 2022-07-05 | 武汉科技大学 | 一种基于扑翼飞行系统的实时电子稳像方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009071759A (ja) * | 2007-09-18 | 2009-04-02 | Victor Co Of Japan Ltd | 手振れ補正システム |
WO2010100677A1 (ja) * | 2009-03-05 | 2010-09-10 | 富士通株式会社 | 画像処理装置およびぶれ量算出方法 |
JP2010273245A (ja) * | 2009-05-25 | 2010-12-02 | Sony Corp | 撮像装置と振れ補正方法 |
JP2011233985A (ja) * | 2010-04-23 | 2011-11-17 | Canon Inc | 画像処理装置及びその制御方法 |
JP2012249158A (ja) * | 2011-05-30 | 2012-12-13 | Sony Corp | 撮影装置および方法、画像再生装置および方法、プログラム、並びに記録媒体 |
JP2014131190A (ja) * | 2012-12-28 | 2014-07-10 | Canon Inc | 撮像装置、その制御方法、および制御プログラム |
JP2015005221A (ja) * | 2013-06-21 | 2015-01-08 | キヤノン株式会社 | 情報処理装置、情報処理方法、及び、コンピュータプログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4114720B2 (ja) * | 2002-10-25 | 2008-07-09 | 株式会社ソニー・コンピュータエンタテインメント | 画像生成方法および画像生成装置 |
JP5214476B2 (ja) * | 2009-01-15 | 2013-06-19 | 富士フイルム株式会社 | 撮像装置及び画像処理方法並びにプログラム |
JP5975794B2 (ja) * | 2012-08-29 | 2016-08-23 | キヤノン株式会社 | 表示制御装置、表示制御方法、プログラム及び記憶媒体 |
JP6255663B2 (ja) * | 2012-11-19 | 2018-01-10 | カシオ計算機株式会社 | 投影装置、投影状態調整方法、及び投影状態調整プログラム |
JP6047008B2 (ja) * | 2012-12-25 | 2016-12-21 | キヤノン株式会社 | 画像処理装置およびそれを備えた撮像装置、ならびに画像処理装置の制御方法 |
-
2015
- 2015-01-15 JP JP2015005791A patent/JP6415330B2/ja active Active
-
2016
- 2016-01-13 US US14/994,760 patent/US9635260B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009071759A (ja) * | 2007-09-18 | 2009-04-02 | Victor Co Of Japan Ltd | 手振れ補正システム |
WO2010100677A1 (ja) * | 2009-03-05 | 2010-09-10 | 富士通株式会社 | 画像処理装置およびぶれ量算出方法 |
JP2010273245A (ja) * | 2009-05-25 | 2010-12-02 | Sony Corp | 撮像装置と振れ補正方法 |
JP2011233985A (ja) * | 2010-04-23 | 2011-11-17 | Canon Inc | 画像処理装置及びその制御方法 |
JP2012249158A (ja) * | 2011-05-30 | 2012-12-13 | Sony Corp | 撮影装置および方法、画像再生装置および方法、プログラム、並びに記録媒体 |
JP2014131190A (ja) * | 2012-12-28 | 2014-07-10 | Canon Inc | 撮像装置、その制御方法、および制御プログラム |
JP2015005221A (ja) * | 2013-06-21 | 2015-01-08 | キヤノン株式会社 | 情報処理装置、情報処理方法、及び、コンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20160212347A1 (en) | 2016-07-21 |
US9635260B2 (en) | 2017-04-25 |
JP6415330B2 (ja) | 2018-10-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5222472B2 (ja) | 画像処理装置、画像復元方法およびプログラム | |
JP5438579B2 (ja) | 画像処理装置及びその制御方法 | |
JP5984493B2 (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム | |
KR101109532B1 (ko) | 촬상 장치, 촬상 방법 및 촬상 프로그램이 기록된 기록 매체 | |
US9369693B2 (en) | Stereoscopic imaging device and shading correction method | |
US8982234B2 (en) | Information processing apparatus and method | |
JP2006319578A (ja) | 奥行方向移動判定装置、その奥行方向移動判定装置を有する手ぶれ補正システム、およびその方法、プログラム、そのプログラムが記録された計算機に読み取り可能な記録媒体、および手ぶれ補正システムを備える電子機器。 | |
JP6415330B2 (ja) | 画像処理装置、撮像装置、画像処理方法 | |
WO2015186510A1 (ja) | 撮像装置および方法、並びにプログラム | |
US9083883B2 (en) | Camera module, electronic apparatus, and photographing method for image stabilization and increasing resolution | |
CN109672810B (zh) | 图像处理设备、图像处理方法和存储介质 | |
JP6153318B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6730423B2 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JPH06153087A (ja) | 画素欠陥補正方法 | |
JP6245847B2 (ja) | 画像処理装置および画像処理方法 | |
JP6218520B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2009200981A (ja) | ビデオカメラ | |
JP2016201600A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2017173920A (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および記録媒体 | |
JP2008172309A (ja) | 電子式手振れ補正方法及びその装置並びに電子式手振れ補正プログラムと撮像装置 | |
JP5855485B2 (ja) | 画像生成装置、画像生成方法、撮像装置、および撮像方法 | |
JP2015094834A (ja) | 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体 | |
JP5769790B2 (ja) | 画像処理装置および画像処理方法 | |
JP2014093714A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP2020086824A (ja) | 画像処理装置、画像処理方法、撮像装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171218 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180827 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180904 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181002 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6415330 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |