JP5084696B2 - 画像処理装置、画像処理方法及び電子機器 - Google Patents
画像処理装置、画像処理方法及び電子機器 Download PDFInfo
- Publication number
- JP5084696B2 JP5084696B2 JP2008275218A JP2008275218A JP5084696B2 JP 5084696 B2 JP5084696 B2 JP 5084696B2 JP 2008275218 A JP2008275218 A JP 2008275218A JP 2008275218 A JP2008275218 A JP 2008275218A JP 5084696 B2 JP5084696 B2 JP 5084696B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- image
- sub
- cutout
- main subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
- H04N23/635—Region indicators; Field of view indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Television Signal Processing For Recording (AREA)
Description
まず、撮像装置の構成について、図1を参照して説明する。図1は、本発明の実施形態における撮像装置の構成を示すブロック図である。また、図1に示す撮像装置1は、撮像した画像に対して切り出し処理を行い、得られる切り出し画像を記録するものである。
次に、図1に示した切り出し処理部60の構成について、図面を参照して説明する。図2は、本発明の実施形態における撮像装置に備えられる切り出し処理部の構成を示すブロック図である。なお、以下では説明の具体化のために、切り出し処理部60に入力されて切り出し処理が行われる画像信号を画像として表現するとともに、「入力画像」と呼ぶこととする。また、切り出し処理部60から出力される画像信号を「切り出し画像」と呼ぶこととする。
上記の撮像装置1は、画像処理部6に切り出し処理部60を備え、撮像部で得られた画像に対して切り出し処理を行い、外部メモリ10に記録するものである。しかしながら、本発明の電子機器は、以下に示すように画像の再生時に切り出し処理を行う構成とすることも可能である。なお、以下においても電子機器の一例として撮像装置を挙げて説明する。
次に、上述した関係度の算出方法について、各実施例(算出に用いる各パラメータ)を挙げるとともに図面を参照して説明する。
本実施例では、主要被写体及び副被写体間の距離R1に基づいて関係度を設定する。例えば、上述の顔検出処理を行うことによって設定される矩形の顔検出枠を用いて距離R1を算出することとしても構わない。
本実施例では、主要被写体及び副被写体の顔の向きの相関性を示す顔向き度R2に基づいて関係度を設定する。例えば、上述の顔検出処理を行うことによって設定される矩形の顔検出枠の位置と、顔検出処理によって得られる顔の向きと、を用いて顔向き度R2を算出することとしても構わない。なお、顔検出処理によって主要被写体及び副被写体の顔の向きを検出する場合、例えば、種々の方向を向いた顔のサンプルを用いてマッチングを行うこととしても構わない。
本実施例では、集音部5で集音されて得られる音声信号の有無を示す音声関係度R3を用いて関係度を設定する。例えば、図2に示す被写体検出部61が音声信号を取得可能な構成として、被写体情報に音声信号の有無を示す情報を含ませることとしても構わない。
本実施例では、主要被写体と副被写体との顔の類似性を示す顔類似度R4に基づいて関係度を設定する。例えば、上述の顔認識処理を行うことによって、主要被写体と副被写体との顔類似度R4を算出することとしても構わない。
本実施例では、主要被写体及び副被写体の移動方向の類似性を示す移動方向類似度R5に基づいて関係度を設定する。例えば、順次入力される入力画像から検出される主要被写体及び副被写体の位置の変化により、それぞれの移動方向を算出することによって、移動方向類似度R5を算出することとしても構わない。
本実施例では、主要被写体と副被写体との色の類似性を示す色類似度R6に基づいて関係度を設定する。例えば、上述の顔認識処理を行うことによって設定される顔検出枠に基づいて、主要被写体と副被写体との全体がそれぞれ含まれる被写体領域をそれぞれ設定し、被写体領域内のそれぞれの色情報を用いて色類似度R6を算出することとしても構わない。
本実施例では、入力画像中の副被写体が特定の被写体として認識されるか否かを示す特定被写体存在度R7に基づいて関係度を設定する。例えば、特定の被写体の顔をサンプルとして予め記録して顔認識処理を行い、副被写体の顔が特定の被写体の顔として認識されるか否かで特定被写体存在度R7を算出しても構わない。
本実施例では、副被写体の出現割合を示す出現度R8に基づいて関係度を設定する。例えば、切り出し処理部60に順次入力される入力画像中の副被写体が含まれる入力画像の割合に基づいて、出現度R8を算出することとしても構わない。
なお、上述の第1、2及び5実施例では、主要被写体及び副被写体の位置を顔検出枠で示すこととしたが、主要被写体及び副被写体の全体を含む領域で位置を示すこととしても構わない。例えば、第6実施例において示した被写体領域としても構わない。また、顔検出枠の左上以外の頂点や中心点を用いて主要被写体及び副被写体の位置を示すこととしても構わない。
次に、上述した関係度を用いた切り出し処理の具体例について、図面を参照して説明する。特に、図2の切り出し領域設定部63による切り出し領域の設定方法について説明する。
また、本発明の実施形態における撮像装置1,1aについて、画像処理部6,6a,6bや切り出し処理部60などのそれぞれの動作を、マイコンなどの制御装置が行うこととしても構わない。さらに、このような制御装置によって実現される機能の全部または一部をプログラムとして記述し、該プログラムをプログラム実行装置(例えばコンピュータ)上で実行することによって、その機能の全部または一部を実現するようにしても構わない。
2 イメージサンサ
3 レンズ部
4 AFE
5 集音部
6,6a,6b 画像処理部
60 切り出し処理部
61 被写体検出部
62 関係度算出部
63 切り出し領域設定部
64 切り出し部
7 音声処理部
8 圧縮処理部
9 ドライバ部
10 外部メモリ
11 伸長処理部
12 画像出力回路部
13 音声出力回路部
14 CPU
15 メモリ
16 操作部
17 TG部
18 バス
19 バス
Claims (6)
- 入力画像の一部を切り出して切り出し画像を生成する切り出し処理部を備える画像処理装置において、
前記切り出し処理部が、
前記入力画像から所定の被写体を検出するとともに、検出した前記被写体の一つを主要被写体として設定し、他を副被写体として設定する被写体検出部と、
前記被写体検出部で検出される前記主要被写体と前記副被写体との関係の強さを示す関係度を算出する関係度算出部と、
前記入力画像中の前記主要被写体及び前記副被写体の位置と、前記関係度と、に基づいて、前記入力画像に対して切り出し領域を設定する切り出し領域設定部と、
前記入力画像から前記切り出し領域を切り出して前記切り出し画像を生成する切り出し部と、
を備えることを特徴とする画像処理装置。 - 前記切り出し領域設定部が、
前記主要被写体と、前記主要被写体との前記関係度が所定の値以上である前記副被写体と、が含まれる前記切り出し領域を設定することを特徴とする請求項1に記載の画像処理装置。 - 前記被写体検出部が、顔を検出することによって前記被写体を検出するものであり、
前記入力画像中最も大きい顔と、前記入力画像中最も中央に近い顔と、特定の顔として認識される顔と、外部より入力される選択信号によって指定される顔と、
の少なくとも一つに該当する顔を有する前記被写体を、前記主要被写体として設定することを特徴とする請求項1または請求項2に記載の画像処理装置。 - 前記関係度算出部が、
前記主要被写体と前記副被写体との距離と、前記主要被写体及び前記副被写体のそれぞれの顔の向きと、前記主要被写体及び前記副被写体が発する音と、前記主要被写体及び前記副被写体の顔が類似する程度と、前記主要被写体及び前記副被写体の色が類似する程度と、前記副被写体の顔が特定の顔であると認識される程度と、順次入力される前記入力画像中に前記副被写体が含まれる割合と、
の少なくとも一つに基づいて前記関係度を算出することを特徴とする請求項1〜請求項3のいずれかに記載の画像処理装置。 - 請求項1〜請求項4のいずれかに記載の画像処理装置を備え、
前記画像処理装置から出力される前記切り出し画像を記録または表示することを特徴とする電子機器。 - 入力画像から所定の被写体を検出するとともに、検出した前記被写体の一つを主要被写体として設定し、他を副被写体として設定する第1ステップと、
前記第1ステップで設定された前記主要被写体と前記副被写体との関係の強さを示す関係度を算出する第2ステップと、
前記入力画像中の前記主要被写体及び前記副被写体の位置と、前記第2ステップで算出される前記関係度と、に基づいて、前記入力画像に対して切り出し領域を設定する第3ステップと、
前記入力画像から前記第3ステップで設定された前記切り出し領域を切り出して切り出し画像を生成する第4ステップと、
を備えることを特徴とする画像処理方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008275218A JP5084696B2 (ja) | 2008-10-27 | 2008-10-27 | 画像処理装置、画像処理方法及び電子機器 |
US12/606,411 US8488840B2 (en) | 2008-10-27 | 2009-10-27 | Image processing device, image processing method and electronic apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008275218A JP5084696B2 (ja) | 2008-10-27 | 2008-10-27 | 画像処理装置、画像処理方法及び電子機器 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010103884A JP2010103884A (ja) | 2010-05-06 |
JP5084696B2 true JP5084696B2 (ja) | 2012-11-28 |
Family
ID=42117050
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008275218A Expired - Fee Related JP5084696B2 (ja) | 2008-10-27 | 2008-10-27 | 画像処理装置、画像処理方法及び電子機器 |
Country Status (2)
Country | Link |
---|---|
US (1) | US8488840B2 (ja) |
JP (1) | JP5084696B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5427577B2 (ja) * | 2009-12-04 | 2014-02-26 | パナソニック株式会社 | 表示制御装置及び表示画像形成方法 |
JP2012160039A (ja) * | 2011-02-01 | 2012-08-23 | Fujifilm Corp | 画像処理装置、立体画像印刷システム、画像処理方法およびプログラム |
JP5389083B2 (ja) * | 2011-03-25 | 2014-01-15 | 株式会社東芝 | 画像処理装置、画像符号化システム及び画像復号システム |
JP5862071B2 (ja) * | 2011-06-30 | 2016-02-16 | 株式会社ニコン | 画像処理装置、撮像装置およびプログラム |
CN103535025B (zh) * | 2012-03-15 | 2018-03-06 | 松下电器(美国)知识产权公司 | 内容数据处理装置、内容数据处理方法以及程序 |
US9049382B2 (en) * | 2012-04-05 | 2015-06-02 | Canon Kabushiki Kaisha | Image processing apparatus and image processing method |
US9648205B2 (en) | 2013-03-26 | 2017-05-09 | Panasonic Intellectual Property Management Co., Ltd. | Image generation device, imaging device, image generation method, and program for generating a new image from a captured image based on a cut-out frame |
US9769424B2 (en) | 2013-10-24 | 2017-09-19 | Telefonaktiebolaget Lm Ericsson (Publ) | Arrangements and method thereof for video retargeting for video conferencing |
JP6701706B2 (ja) * | 2015-12-09 | 2020-05-27 | 株式会社ニコン | 電子機器及びプログラム |
US10402945B2 (en) | 2016-02-18 | 2019-09-03 | Imint Image Intelligence Ab | System and method for video processing |
EP3287947A1 (en) * | 2016-08-25 | 2018-02-28 | Dolby Laboratories Licensing Corp. | Automatic video framing of conference participants |
JP2020072457A (ja) * | 2018-11-02 | 2020-05-07 | ソニー株式会社 | 映像処理装置、映像処理方法、およびプログラム |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6275258B1 (en) * | 1996-12-17 | 2001-08-14 | Nicholas Chim | Voice responsive image tracking system |
JP2000295517A (ja) | 1999-04-06 | 2000-10-20 | Matsushita Electric Ind Co Ltd | 被写体追尾装置、及びカメラシステム |
JP2001149643A (ja) * | 1999-09-16 | 2001-06-05 | Sony Computer Entertainment Inc | 3次元ゲームにおけるオブジェクト表示方法、情報記録媒体およびエンタテインメント装置 |
KR20020064888A (ko) | 1999-10-22 | 2002-08-10 | 액티브스카이 인코포레이티드 | 객체 지향형 비디오 시스템 |
JP2001169169A (ja) | 1999-12-10 | 2001-06-22 | Fuji Photo Optical Co Ltd | 自動追尾装置 |
US6661450B2 (en) | 1999-12-03 | 2003-12-09 | Fuji Photo Optical Co., Ltd. | Automatic following device |
US20020161561A1 (en) | 2001-01-16 | 2002-10-31 | Sridevi Sarma | System and method for association of object sets |
US7782357B2 (en) * | 2002-06-21 | 2010-08-24 | Microsoft Corporation | Minimizing dead zones in panoramic images |
JP3789121B2 (ja) | 2002-11-27 | 2006-06-21 | 中央電子株式会社 | 表示方法および表示装置 |
GB2395780A (en) * | 2002-11-29 | 2004-06-02 | Sony Uk Ltd | Face detection |
US7349008B2 (en) * | 2002-11-30 | 2008-03-25 | Microsoft Corporation | Automated camera management system and method for capturing presentations using videography rules |
KR100839772B1 (ko) * | 2003-07-15 | 2008-06-20 | 오므론 가부시키가이샤 | 대상 결정 장치 및 촬상 장치 |
JP2006099058A (ja) * | 2004-09-03 | 2006-04-13 | Fuji Photo Film Co Ltd | 表示装置、表示方法、およびプログラム |
JP2006270488A (ja) * | 2005-03-24 | 2006-10-05 | Seiko Epson Corp | 撮像装置、及び、画像処理方法 |
US7209577B2 (en) * | 2005-07-14 | 2007-04-24 | Logitech Europe S.A. | Facial feature-localized and global real-time video morphing |
JP2007274017A (ja) * | 2006-03-30 | 2007-10-18 | Fujifilm Corp | 自動トリミング方法および装置ならびにプログラム |
JP2007272685A (ja) * | 2006-03-31 | 2007-10-18 | Fujifilm Corp | 自動トリミング方法および装置ならびにプログラム |
JP4182117B2 (ja) * | 2006-05-10 | 2008-11-19 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム及び記憶媒体 |
JP2007316417A (ja) * | 2006-05-26 | 2007-12-06 | Matsushita Electric Ind Co Ltd | 高域情報検出処理装置および撮像装置 |
JP4509063B2 (ja) * | 2006-06-07 | 2010-07-21 | 富士フイルム株式会社 | 画像処理装置,その制御方法およびその制御プログラム |
JP4207980B2 (ja) * | 2006-06-09 | 2009-01-14 | ソニー株式会社 | 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム |
JP2008022240A (ja) * | 2006-07-12 | 2008-01-31 | Fujifilm Corp | 撮影装置,画像処理装置、及び画像ファイル生成方法,画像処理方法、並びに画像処理プログラム |
JP4228320B2 (ja) * | 2006-09-11 | 2009-02-25 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP4912117B2 (ja) | 2006-10-27 | 2012-04-11 | 三洋電機株式会社 | 追跡機能付き撮像装置 |
US7916894B1 (en) * | 2007-01-29 | 2011-03-29 | Adobe Systems Incorporated | Summary of a video using faces |
KR100818289B1 (ko) * | 2007-02-02 | 2008-03-31 | 삼성전자주식회사 | 비디오 영상 트레킹 방법 및 장치 |
JP4396720B2 (ja) * | 2007-03-26 | 2010-01-13 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2009004873A (ja) | 2007-06-19 | 2009-01-08 | Canon Inc | カメラ制御システム及び方法、並びにプログラム及び記憶媒体 |
GB2452510A (en) * | 2007-09-05 | 2009-03-11 | Sony Corp | System For Communicating A Three Dimensional Representation Of A Sporting Event |
US20090290791A1 (en) * | 2008-05-20 | 2009-11-26 | Holub Alex David | Automatic tracking of people and bodies in video |
-
2008
- 2008-10-27 JP JP2008275218A patent/JP5084696B2/ja not_active Expired - Fee Related
-
2009
- 2009-10-27 US US12/606,411 patent/US8488840B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20100103192A1 (en) | 2010-04-29 |
JP2010103884A (ja) | 2010-05-06 |
US8488840B2 (en) | 2013-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5084696B2 (ja) | 画像処理装置、画像処理方法及び電子機器 | |
JP5202283B2 (ja) | 撮像装置及び電子機器 | |
JP5202211B2 (ja) | 画像処理装置及び電子機器 | |
US8421887B2 (en) | Image sensing apparatus | |
JP5183297B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP4674471B2 (ja) | デジタルカメラ | |
JP5359783B2 (ja) | 画像処理装置および方法、並びにプログラム | |
JP2010103972A (ja) | 画像処理装置及び電子機器 | |
JP2010088105A (ja) | 撮像装置および方法、並びにプログラム | |
JP4839908B2 (ja) | 撮像装置、自動焦点調整方法、およびプログラム | |
JP2010161760A (ja) | 画像処理装置及び電子機器 | |
JP2010153969A (ja) | 撮像装置 | |
JP2007336411A (ja) | 撮像装置、オートブラケティング撮影方法、およびプログラム | |
JP2010028608A (ja) | 画像処理装置、撮像装置、再生装置及び画像処理方法 | |
JP5261765B2 (ja) | 撮像装置及び撮像方法 | |
JP2009124644A (ja) | 画像処理装置、撮像装置及び画像再生装置 | |
JP2013165488A (ja) | 画像処理装置、撮像装置、およびプログラム | |
JP2009089220A (ja) | 撮像装置 | |
JP2011128643A (ja) | 撮像装置、自動焦点調整方法、およびプログラム | |
JP2011066827A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP5267279B2 (ja) | 画像合成装置及びプログラム | |
JP2009044329A (ja) | プログラム、画像処理方法および画像処理装置 | |
JP2008172395A (ja) | 撮像装置、画像処理装置、方法およびプログラム | |
JP2011155582A (ja) | 撮像装置 | |
JP2014132771A (ja) | 画像処理装置および方法、並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110928 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120802 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120807 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120904 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150914 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150914 Year of fee payment: 3 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150914 Year of fee payment: 3 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |