JP2020087005A - 画像処理装置、画像生成方法およびプログラム - Google Patents
画像処理装置、画像生成方法およびプログラム Download PDFInfo
- Publication number
- JP2020087005A JP2020087005A JP2018221346A JP2018221346A JP2020087005A JP 2020087005 A JP2020087005 A JP 2020087005A JP 2018221346 A JP2018221346 A JP 2018221346A JP 2018221346 A JP2018221346 A JP 2018221346A JP 2020087005 A JP2020087005 A JP 2020087005A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- image
- value
- feature amount
- input image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 50
- 230000008569 process Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 5
- 230000008719 thickening Effects 0.000 description 5
- 238000011410 subtraction method Methods 0.000 description 4
- 230000004075 alteration Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
Description
本実施形態では、仮想視点画像の生成に用いられる前景領域を生成する形態を説明する。そのために、仮想視点画像の概要を簡単に説明する。複数のカメラを異なる位置に設置して多視点で同期撮像し、当該撮像により得られた複数視点画像を用いて仮想視点画像を生成する技術がある。この複数視点画像から仮想視点画像を生成する技術によれば、例えば、サッカーやバスケットボールのハイライトシーンを様々な角度から視聴閲覧することが出来るため、通常の画像と比較してユーザに高臨場感を与えることができる。複数視点画像に基づく仮想視点画像の生成は、複数のカメラが撮像した画像の画像データを、画像処理をするサーバに集約し、レンダリングなどの処理を施すことにより行われる。
図2は、本実施形態のシステム200の概略構成を説明する図である。競技場の周囲に、複数の撮像装置であるカメラ202が並べて配置されており、複数のカメラ202によって、複数の視点から競技場のフィールド201が撮像されるように構成されている。
図3は、画像処理装置300の内部構成を示すブロック図である。画像処理装置300は、入力画像取得部301、背景生成部302、入力輝度値取得部303、背景輝度値取得部304、特徴量決定部305、閾値決定部306、前景生成部307および仮想視点画像生成部308を備える。
図4は、画像処理装置300で行われる処理のフローチャートの一例を示す図である。図4におけるステップの一部または全部の機能は画像処理装置300のASIC、FPGA、または電子回路等のハードウェアで実現される。あるいは、図4のフローチャートで示される一連の処理は、画像処理装置300のCPUがHDDに記憶されているプログラムコードをRAMに展開し実行することにより行われてもよい。なお、各処理の説明における記号「S」は、当該フローチャートにおけるステップであることを意味する。以下、図4を参照して、画像処理装置300における処理の概要を説明する。
実施形態1では、第一の特徴量は背景画像の輝度値であり、第二の特徴量はフィルタ領域における入力画素と背景画素の輝度値の差の最大値として、第一の特徴量および第二の特徴量から閾値を決定する形態を説明した。本実施形態では、特徴量として他の値を用いて閾値を決定する形態について説明する。
図8は、本実施形態の画像処理装置300で行われるフローチャートの一例を示す図である。S801〜S805についてはS401〜405の処理と同一であるため説明を省略する。
上述の実施形態では、競技場の周囲に複数のカメラを配置して仮想視点画像を生成するシステムを例に説明した。しかしながら、単一カメラによって撮像された画像データから前景領域の判定処理する形態でもよく、複数カメラ間の相対的な幾何学的設置条件に縛られるものではない。従って、例えば、画像処理装置300が構内、屋外または遠隔地に設置された監視カメラから画像データを取得して前景領域を判定するようなシステムにおいても実現可能である。
301 入力画像取得部
302 背景生成部
305 特徴量決定部
306 閾値決定部
307 前景生成部
Claims (21)
- 入力画像を取得する第一の取得手段と、
前記入力画像に応じた背景画像を取得する第二の取得手段と、
前記第一の取得手段が取得した前記入力画像における処理対象の画素を含む第一の領域に含まれる画素の情報と、前記第二の取得手段が取得した前記背景画像の前記第一の領域に対応する領域に含まれる画素の情報とのうち少なくとも一方の領域に含まれる画素の情報に基づいて、前記処理対象の画素ごとに、第一の特徴量と、前記第一の特徴量とは異なる第二の特徴量と、を含む複数の特徴量を決定する第一の決定手段と、
前記第一の決定手段が決定した前記複数の特徴量に基づき、前記処理対象の画素ごとにおける閾値を決定する第二の決定手段と、
前記処理対象の画素の値と、前記背景画像の前記処理対象の画素に対応する画素の値と、前記第二の決定手段によって決定された前記閾値と、に基づいて前記入力画像の前景領域を示す画像を生成する生成手段と、
を有することを特徴とする画像処理装置。 - 前記生成手段は、
前記入力画像の画素のうち前記処理対象の画素ごとに、前記入力画像の前景領域を構成する画素であるかを判定し、判定の結果に基づき前記前景領域を示す画像を生成する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記第一の決定手段は、
前記処理対象の画素に対応する前記背景画像の画素の輝度値を、前記第一の特徴量として決定する
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記第一の決定手段は、
前記入力画像の前記処理対象の画素の輝度値を、前記第一の特徴量として決定する
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記第一の決定手段は、
前記入力画像の前記処理対象の画素の輝度値と、前記処理対象の画素に対応する前記背景画像の画素の輝度値と、のうち小さい値を、前記第一の特徴量として決定する
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記第一の決定手段は、
前記入力画像の前記第一の領域を構成する各画素と、前記背景画像のうち前記第一の領域に対応する領域を構成する各画素と、の画素ごとの輝度値の差分のうち、最も大きい値を、第二の特徴量として決定する
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記第一の決定手段は、
前記入力画像の前記第一の領域を構成する各画素と、前記背景画像のうち前記第一の領域に対応する領域を構成する各画素との画素ごとの輝度値の差分から求まる値であって、前記第一の領域における輝度値の差分の分布に基づく値を、第二の特徴量として決定する
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記分布に基づく値とは分散に基づく値である
ことを特徴とする請求項7に記載の画像処理装置。 - 前記第一の決定手段は、
前記入力画像の前記第一の領域を構成する各画素と、前記背景画像のうち前記第一の領域に対応する領域を構成する各画素と、における画素ごとの輝度値の差分の最大値、平均値、および最小値を決定し、最大値と平均値の中間値または最小値と平均値の中間値を、前記第二の特徴量として決定する
ことを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 前記第二の決定手段は、
前記第一の特徴量が第一の値である場合の前記閾値は、前記第一の特徴量が前記第一の値より小さい第二の値の場合の前記閾値よりも大きくなるように、前記閾値を決定する
ことを特徴とする請求項1から9のいずれか1項に記載の画像処理装置。 - 前記第二の決定手段は、
前記第二の特徴量が第三の値である場合の前記閾値は、前記第二の特徴量が前記第三の値より小さい第四の値の場合の前記閾値よりも大きくなるように、前記閾値を決定する
ことを特徴とする請求項1から10のいずれか1項に記載の画像処理装置。 - 前記生成手段は、
前記入力画像における前記処理対象の画素の輝度値と、前記処理対象の画素に対応する前記背景画像の画素の輝度値と、の差分が、前記第二の決定手段によって決定された前記閾値をより大きい場合は、前記処理対象の画素は前記前景領域を構成する画素であるものとして前記入力画像の前記前景領域を示す画像を生成する
ことを特徴とする請求項1から11のいずれか1項に記載の画像処理装置。 - 前記複数の特徴量は、前記第一の特徴量および前記第二の特徴量の2つである
ことを特徴とする請求項1から12のいずれか1項に記載の画像処理装置。 - 前記第二の決定手段は
第一の軸が前記第一の特徴量を規定し、第二の軸が前記第二の特徴量を規定する二次元テーブルに基づき前記閾値を決定する
ことを特徴とする請求項13に記載の画像処理装置。 - 前記第一の領域は、前記処理対象の画素を中心とした矩形の領域である
ことを特徴とする請求項1から14のいずれか1項に記載の画像処理装置。 - 前記第一の取得手段は、複数のカメラにより撮像された複数視点画像を前記入力画像として取得し、
前記画像処理装置は、前記複数視点画像と、前記生成手段によって生成された前記複数視点画像ごとの前記入力画像の前記前景領域を示す画像と、を用いて仮想視点画像を生成する
ことを特徴とする請求項1から15のいずれか1項に記載の画像処理装置。 - 入力画像を取得する第一の取得ステップと、
前記入力画像に応じた背景画像を取得する第二の取得ステップと、
前記第一の取得ステップにより取得した前記入力画像における処理対象の画素を含む第一の領域に含まれる画素の情報と、前記第二の取得ステップにより取得した前記背景画像の前記第一の領域に対応する領域に含まれる画素の情報とのうち少なくとも一方の領域に含まれる画素の情報に基づいて、前記処理対象の画素ごとに、第一の特徴量と、前記第一の特徴量とは異なる第二の特徴量と、を含む複数の特徴量を決定する第一の決定ステップと、
前記第一の決定ステップにより決定した前記複数の特徴量に基づき、前記処理対象の画素ごとにおける閾値を決定する第二の決定ステップと、
前記処理対象の画素の値と、前記背景画像の前記処理対象の画素に対応する画素の値と、前記第二の決定ステップによって決定された前記閾値と、に基づいて前記入力画像の前景領域を示す画像を生成する生成ステップと、
を含むことを特徴とする画像生成方法。 - 前記第二の決定ステップは、
前記第一の特徴量が第一の値である場合の前記閾値は、前記第一の特徴量が前記第一の値より小さい第二の値の場合の前記閾値よりも大きくなるように、前記閾値を決定する
ことを特徴とする請求項17に記載の画像生成方法。 - 前記第二の決定ステップは、
前記第二の特徴量が第三の値である場合の前記閾値は、前記第二の特徴量が前記第三の値より小さい第四の値の場合の前記閾値よりも大きくなるように、前記閾値を決定する
ことを特徴とする請求項17または18に記載の画像生成方法。 - 前記生成ステップは、
前記入力画像における前記処理対象の画素の輝度値と、前記処理対象の画素に対応する前記背景画像の画素の輝度値と、の差分が、前記第二の決定ステップによって決定された前記閾値をより大きい場合は、前記処理対象の画素は前記前景領域を構成する画素であるものとして前記入力画像の前記前景領域を示す画像を生成する
ことを特徴とする請求項17から19のいずれか1項に記載の画像生成方法。 - コンピュータを、請求項1から16のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018221346A JP7374582B2 (ja) | 2018-11-27 | 2018-11-27 | 画像処理装置、画像生成方法およびプログラム |
US16/668,387 US11127141B2 (en) | 2018-11-27 | 2019-10-30 | Image processing apparatus, image processing method, and a non-transitory computer readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018221346A JP7374582B2 (ja) | 2018-11-27 | 2018-11-27 | 画像処理装置、画像生成方法およびプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2020087005A true JP2020087005A (ja) | 2020-06-04 |
JP2020087005A5 JP2020087005A5 (ja) | 2022-01-06 |
JP7374582B2 JP7374582B2 (ja) | 2023-11-07 |
Family
ID=70770167
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018221346A Active JP7374582B2 (ja) | 2018-11-27 | 2018-11-27 | 画像処理装置、画像生成方法およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11127141B2 (ja) |
JP (1) | JP7374582B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018147329A1 (ja) * | 2017-02-10 | 2018-08-16 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 自由視点映像生成方法及び自由視点映像生成システム |
CN113255696B (zh) * | 2021-05-25 | 2024-05-24 | 深圳市亚辉龙生物科技股份有限公司 | 图像识别方法、装置、计算机设备和存储介质 |
JP2023013538A (ja) * | 2021-07-16 | 2023-01-26 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04333182A (ja) * | 1991-05-09 | 1992-11-20 | Toshiba Corp | 画像2値化装置 |
JP2002150440A (ja) * | 2000-11-13 | 2002-05-24 | Fujitsu General Ltd | 監視対象物検出装置 |
JP2018026064A (ja) * | 2016-08-12 | 2018-02-15 | キヤノン株式会社 | 画像処理装置、画像処理方法、システム |
JP2018152106A (ja) * | 2018-05-02 | 2018-09-27 | 株式会社日立国際電気 | 水上侵入検知システムおよびその方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3123587B2 (ja) * | 1994-03-09 | 2001-01-15 | 日本電信電話株式会社 | 背景差分による動物体領域抽出方法 |
US6721461B1 (en) * | 1997-11-24 | 2004-04-13 | Cognex Technology And Investment Corporation | Method and apparatus using image subtraction and dynamic thresholding |
JP4333182B2 (ja) | 2003-03-28 | 2009-09-16 | 三菱電機株式会社 | レーザ制御装置及び廃材加工処理方法 |
TWI382360B (zh) * | 2008-08-01 | 2013-01-11 | Univ Nat Taiwan Science Tech | 物件偵測方法及其裝置 |
US9117310B2 (en) * | 2010-04-02 | 2015-08-25 | Imec | Virtual camera system |
JP5948983B2 (ja) | 2012-03-09 | 2016-07-06 | オムロン株式会社 | 画像処理装置、画像処理方法、および画像処理プログラム |
US9466121B2 (en) * | 2012-09-11 | 2016-10-11 | Qualcomm Incorporated | Devices and methods for augmented reality applications |
JP6366143B2 (ja) * | 2015-09-18 | 2018-08-01 | 富士フイルム株式会社 | ディザマスク生成方法及び装置、並びにプログラム |
-
2018
- 2018-11-27 JP JP2018221346A patent/JP7374582B2/ja active Active
-
2019
- 2019-10-30 US US16/668,387 patent/US11127141B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04333182A (ja) * | 1991-05-09 | 1992-11-20 | Toshiba Corp | 画像2値化装置 |
JP2002150440A (ja) * | 2000-11-13 | 2002-05-24 | Fujitsu General Ltd | 監視対象物検出装置 |
JP2018026064A (ja) * | 2016-08-12 | 2018-02-15 | キヤノン株式会社 | 画像処理装置、画像処理方法、システム |
JP2018152106A (ja) * | 2018-05-02 | 2018-09-27 | 株式会社日立国際電気 | 水上侵入検知システムおよびその方法 |
Non-Patent Citations (1)
Title |
---|
SUOPING ZHANG;ZHANHUI QI;DONGLIANG ZHANG: "Ship Tracking Using Background Subtraction and Inter-Frame Correlation", 2009 2ND INTERNATIONAL CONGRESS ON IMAGE AND SIGNAL PROCESSING, JPN6023000078, 17 October 2009 (2009-10-17), US, ISSN: 0005097729 * |
Also Published As
Publication number | Publication date |
---|---|
US20200167933A1 (en) | 2020-05-28 |
US11127141B2 (en) | 2021-09-21 |
JP7374582B2 (ja) | 2023-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10997696B2 (en) | Image processing method, apparatus and device | |
CN111028189B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US9558543B2 (en) | Image fusion method and image processing apparatus | |
US9288392B2 (en) | Image capturing device capable of blending images and image processing method for blending images thereof | |
WO2019042216A1 (zh) | 图像虚化处理方法、装置及拍摄终端 | |
TWI767985B (zh) | 用於處理影像性質圖的方法及裝置 | |
KR102316061B1 (ko) | 화상 처리장치, 방법 및 컴퓨터 프로그램 | |
US20140218557A1 (en) | Image processing method, image processing apparatus, non-transitory computer-readable medium, and image-pickup apparatus | |
KR20200023651A (ko) | 미리보기 사진 블러링 방법 및 장치 및 저장 매체 | |
KR20110078175A (ko) | 영상 데이터 생성 방법 및 장치 | |
US11838674B2 (en) | Image processing system, image processing method and storage medium | |
JP2020129276A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
US11282176B2 (en) | Image refocusing | |
JP7374582B2 (ja) | 画像処理装置、画像生成方法およびプログラム | |
KR20140118031A (ko) | 영상 처리 장치 및 방법 | |
JP2020197989A5 (ja) | 画像処理システム、画像処理方法、およびプログラム | |
CN110866882A (zh) | 基于深度置信度的分层联合双边滤波深度图修复算法 | |
US10742852B2 (en) | Image processing apparatus, object shape estimation method, and storage medium | |
JP2013127759A (ja) | 画像処理装置、撮像装置、画像処理方法、および、画像処理プログラム | |
CN110136085B (zh) | 一种图像的降噪方法及装置 | |
EP4090006A2 (en) | Image signal processing based on virtual superimposition | |
TWI551141B (zh) | A high dynamic range image synthesizing apparatus and a method thereof for performing exposure mapping based on individual pixels | |
WO2022036338A2 (en) | System and methods for depth-aware video processing and depth perception enhancement | |
JP5970387B2 (ja) | 画像生成装置、画像生成方法及びプログラム | |
JP2020046744A (ja) | 画像処理装置、背景画像の生成方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211126 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211126 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230310 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230904 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230926 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231025 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7374582 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |