JP2019534599A - 多層シフトを使用してステレオビジョンを容易にするための方法および装置 - Google Patents
多層シフトを使用してステレオビジョンを容易にするための方法および装置 Download PDFInfo
- Publication number
- JP2019534599A JP2019534599A JP2019512883A JP2019512883A JP2019534599A JP 2019534599 A JP2019534599 A JP 2019534599A JP 2019512883 A JP2019512883 A JP 2019512883A JP 2019512883 A JP2019512883 A JP 2019512883A JP 2019534599 A JP2019534599 A JP 2019534599A
- Authority
- JP
- Japan
- Prior art keywords
- image
- background layer
- segmentation
- layer
- depth image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20036—Morphological image processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0092—Image segmentation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Image Analysis (AREA)
Abstract
Description
(a)ハードウェアのみの回路実装(アナログおよび/またはデジタル回路のみでの実装など)、
(b)次のような回路とソフトウェア(および/またはファームウェア)の組み合わせ、
(i)プロセッサを組み合わせたもの、または
(ii)さまざまな機能を実行する携帯電話やサーバなど、ソフトウェア、およびメモリを組み合わせて装置を生成するプロセッサ/ソフトウェアの一部(デジタル信号プロセッサを含む)、
(c)ソフトウェアまたはファームウェアが物理的に存在しなくても、動作のためにソフトウェアまたはファームウェアを必要とするマイクロプロセッサまたはマイクロプロセッサの一部などの回路。
Claims (21)
- 少なくとも、第1の位置からキャプチャされたオブジェクトを含む第1の画像および第2の位置からキャプチャされた前記オブジェクトを含む第2の画像を受信するステップであって、該第1位置は該第2位置とは異なる、ステップと、
少なくとも、前記第1の画像に対応する第1の深度画像および、前記第2の画像に対応する第2の深度画像を受信するステップと、
前記第1の深度画像および前記第2の深度画像に対して、予め定義された閾値に基づいて実行される第1のセグメント化をさせるステップであって、該第1のセグメント化は、第1のオブジェクトマスクと第2のオブジェクトマスクとを含む一組の画像をもたらす、ステップと、
前記第1の深度画像および前記第2の深度画像に対して、前記第1のオブジェクトマスクと前記第2のオブジェクトマスクを制約条件として利用して、実行される第2のセグメンテト化をさせるステップであって、該第2のセグメント化は、第1のオブジェクト画像、第2のオブジェクト画像、第1の背景層、および、第2の背景層を含む一組の画像をもたらす、ステップと、
背景層を形成するために、前記第1の背景層と前記第2の背景層とをステッチさせるステップと、
前記第1の位置からのビューを表す第1の画像および前記第2の位置からのビューを表す第2の画像を含む、一連の画像を生成するステップであって、該一連の画像は、前記背景層のシフトよりも速い速度でおこるオブジェクト層のシフトを示す、ステップと、
を含む方法。 - 前記第1の画像は、前記背景層で補間された前記第1のオブジェクト画像を含み、前記第2の画像は、前記背景層で補間された前記第2のオブジェクト画像を含む、請求項1に記載の方法。
- 第2のセグメント化は最大フロー最小カットアルゴリズムにしたがって行われる、請求項1に記載の方法。
- 前記第1の背景層と前記第2の背景層とのステッチから生じる第1の穴埋めのステップと、近傍の有効画素に関連する値を平均するためのプロセスを実行するステップと、黒領域における前記ピクセルに対する新しい値として該平均を設定するステップとを含む第2の穴埋めのステップと、をさらに含む請求項1に記載の方法。
- 前記第1のセグメント化のステップは、さらに、前記第1の画像および前記第2の画像から、それぞれ、前記第1深度画像および前記第2深度画像を生成するステップを含む、請求項1に記載の方法。
- 距離に対応する前記所定の閾値を設定するステップと、前記深度画像セグメント化から、前記人物の形状マスクを利用してオブジェクト層を識別するステップと、前記画像の反転を決定し、該反転を前記背景マスクにするステップと、をさらに含む請求項1に記載の方法。
- 層の前記シフトが異なる前記速度は、前記オブジェクト層と前記背景層との間の距離に間接的に比例する、請求項1に記載の方法。
- 少なくとも1つのプロセッサと、コンピュータ・プログラム・コードを含む少なくとも1つのメモリとを備える装置であって、前記少なくとも1つのメモリおよび前記コンピュータ・プログラム・コードは、該プロセッサを用いて、該装置に、少なくとも、
少なくとも、第1の位置からキャプチャされたオブジェクトを含む第1の画像、および、第2の位置からキャプチャされたオブジェクトを含む第2の画像を受信させ、ここで、該第1の位置は該第2の位置とは異なるものであり、
少なくとも、前記第1の画像に対応する第1の深度画像、および、前記第2の画像に対応する第2の深度画像を受信させ、前記第1の深度画像および前記第2の深度画像に対して実行され、予め定められた閾値に基づいて、前記第1のセグメント化は、第1のオブジェクトマスクと第2のオブジェクトマスクとを含む一組の画像をもたらす、第1のセグメント化をさせ、前記第1のオブジェクトマスクと前記第2のオブジェクトマスクを制約として利用して、前記第1の画像と前記第2の画像に対して実行され、第1のオブジェクト画像、第2のオブジェクト画像、第1の背景層、および、第2の背景層を含む一組のセグメントをもたらす、第2のセグメント化をさせ、
背景層を形成するために前記第1の背景層と前記第2の背景層とをステッチさせ、前記第1の位置からのビューを表す第1の画像と、前記第2の位置からのビューを表す第2の画像とを含み、前記背景層のシフトよりも速い速度で行われるオブジェクト層のシフトを示す一連の画像を生成させるように構成される、
装置。 - 前記第1の画像は、前記背景層で補間された前記第1のオブジェクト画像を含み、前記第2の画像は、前記背景層で補間された前記第2のオブジェクト画像を含む、請求項8に記載の装置。
- 前記第2のセグメント化は、最大フロー最小カットアルゴリズムにしたがって実行される、請求項8に記載の装置。
- 前記少なくとも1つのメモリおよび前記コンピュータ・プログラム・コードは、前記プロセッサを用いて、前記装置に、前記第1の背景層と前記第2の背景層との前記ステッチングから生じる第1の穴埋めステップを実行させ、近傍の有効画素に関連する値を平均するためのプロセスをインプリメントすること、および、前記平均値を、黒領域の前記ピクセルの新しい値として設定することを含む第2の穴埋めステップを実行させるようにさらに構成される、請求項8に記載の装置。
- 前記第1セグメント化は、さらに、前記第1の画像および前記第2の画像からそれぞれ前記第1の深度画像および前記第2の深度画像を生成することを含む、請求項8に記載の装置。
- 前記少なくとも1つのメモリおよび前記コンピュータ・プログラム・コードは、前記装置に、前記プロセッサを用いて、さらに、距離に対応する前記所定の閾値を設定させ、前記深度画像セグメント化から、前記人物の形状マスクを利用してオブジェクト層を識別し、前記画像の反転を決定し、該反転を前記背景マスクにさせるように構成される、請求項8に記載の装置。
- 層の前記シフトが異なる前記速度は、前記オブジェクト層と前記背景層との間の距離に間接的に比例する、請求項8に記載の装置。
- その中に格納されたコンピュータ実行可能プログラム・コード命令を有する少なくとも1つの固定コンピュータ読取り可能記憶媒体を備えるコンピュータ・プログラム・プロダクトであって、該コンピュータ実行可能プログラム・コード命令は、少なくとも、
第1の位置からキャプチャされたオブジェクトを含む第1の画像および第2の位置からキャプチャされた前記オブジェクトを含む第2の画像を受信することであって、該第1の位置は該第2の位置とは異なるものである、受信することと、少なくとも、前記第1の画像に対応する第1の深度画像、および、前記第2の画像に対応する第2の深度画像を受信することと、前記第1の深度画像および前記第2の深度画像に対して、予め定義された閾値に基づいて実行される第1のセグメント化をさせることであって、該第1のセグメント化は、第1のオブジェクトマスクと第2のオブジェクトマスクとを含む一組の画像をもたらす、第1のセグメント化をさせることと、
前記第1の深度画像および前記第2の深度画像に対して、前記第1のオブジェクトマスクと前記第2のオブジェクトマスクを制約条件として利用して、実行される第2のセグメンテト化をさせることであって、該第2のセグメント化は、第1のオブジェクト画像、第2のオブジェクト画像、第1の背景層、および、第2の背景層を含む一組の画像をもたらす、第2のセグメンテト化をさせることと、
背景層を形成するために前記第1の背景層と前記第2の背景層とをステッチさせるステップと、前記第1の位置からのビューを表す第1の画像と、前記第2の位置からのビューを表す第2の画像と、を含む、一連の画像を生成することであって、前記背景層のシフトよりも速い速度で行われるオブジェクト層のシフトを示す一連の画像を生成することと、
のためのプログラム・コード命令を備える、コンピュータ・プログラム・プロダクト。 - 前記第1の画像は、前記背景層で補間された前記第1のオブジェクト画像を含み、前記第2の画像は、前記背景層で補間された前記第2のオブジェクト画像を含む、請求項15に記載のコンピュータ・プログラム・プロダクト。
- 前記第2のセグメント化は、最大フロー最小カットアルゴリズムにしたがって実行される、請求項15に記載のコンピュータ・プログラム・プロダクト。
- 該コンピュータ実行可能プログラム・コード命令は、さらに、前記第1の背景層と前記第2の背景層とのステッチから生じる第1の穴埋めすることと、
近傍の有効画素に関連する値を平均するためのプロセスをインプリメントすること、前記平均値を、黒領域の前記ピクセルの新しい値として設定することを含む第2の穴埋めすることと、
のためのプログラム・コード命令を備える、請求項15に記載のコンピュータ・プログラム・プロダクト。 - 前記第1セグメント化は、さらに、前記第1の画像および前記第2の画像からそれぞれ前記第1の深度画像および前記第2の深度画像を生成することを含む、請求項15に記載のコンピュータ・プログラム・プロダクト。
- 該コンピュータ実行可能プログラム・コード命令は、さらに、
距離に対応する前記所定の閾値を設定することと、
前記深度画像セグメント化から、前記人物の形状マスクを利用してオブジェクト層を識別することと、
前記画像の反転を決定し、該反転を前記背景マスクにすることと、
のためのプログラム・コード命令を備える、請求項15に記載のコンピュータ・プログラム・プロダクト。 - 層の前記シフトが異なる前記速度は、前記オブジェクト層と前記背景層との間の距離に間接的に比例する、請求項15に記載のコンピュータ・プログラム・プロダクト。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/258,737 US10204418B2 (en) | 2016-09-07 | 2016-09-07 | Method and apparatus for facilitating stereo vision through the use of multi-layer shifting |
US15/258,737 | 2016-09-07 | ||
PCT/IB2017/055138 WO2018047033A1 (en) | 2016-09-07 | 2017-08-25 | Method and apparatus for facilitating stereo vision through the use of multi-layer shifting |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019534599A true JP2019534599A (ja) | 2019-11-28 |
JP6795689B2 JP6795689B2 (ja) | 2020-12-02 |
Family
ID=61281374
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019512883A Active JP6795689B2 (ja) | 2016-09-07 | 2017-08-25 | 多層シフトを使用してステレオビジョンを容易にするための方法および装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10204418B2 (ja) |
EP (1) | EP3510769A4 (ja) |
JP (1) | JP6795689B2 (ja) |
CN (1) | CN109983504A (ja) |
WO (1) | WO2018047033A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108596102B (zh) * | 2018-04-26 | 2022-04-05 | 北京航空航天大学青岛研究院 | 基于rgb-d的室内场景物体分割分类器构造方法 |
CN110992359B (zh) * | 2019-12-20 | 2020-12-08 | 泗县智来机械科技有限公司 | 一种基于深度图的混凝土裂缝检测方法、装置及电子设备 |
CN112541438A (zh) * | 2020-12-15 | 2021-03-23 | 深兰人工智能(深圳)有限公司 | 文本识别方法及装置 |
Family Cites Families (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5852673A (en) | 1996-03-27 | 1998-12-22 | Chroma Graphics, Inc. | Method for general image manipulation and composition |
US7720282B2 (en) | 2005-08-02 | 2010-05-18 | Microsoft Corporation | Stereo image segmentation |
EP1862969A1 (en) * | 2006-06-02 | 2007-12-05 | Eidgenössische Technische Hochschule Zürich | Method and system for generating a representation of a dynamically changing 3D scene |
CA2653815C (en) * | 2006-06-23 | 2016-10-04 | Imax Corporation | Methods and systems for converting 2d motion pictures for stereoscopic 3d exhibition |
WO2009091563A1 (en) * | 2008-01-18 | 2009-07-23 | Thomson Licensing | Depth-image-based rendering |
US8502862B2 (en) * | 2009-09-30 | 2013-08-06 | Disney Enterprises, Inc. | Method and system for utilizing pre-existing image layers of a two-dimensional image to create a stereoscopic image |
KR101705119B1 (ko) | 2010-09-15 | 2017-02-10 | 삼성전자 주식회사 | 전자 기기에서 2차원 이미지로 3차원 화면을 구성하는 방법 및 그 전자 기기 |
US8401225B2 (en) * | 2011-01-31 | 2013-03-19 | Microsoft Corporation | Moving object segmentation using depth images |
US8823745B2 (en) * | 2011-06-02 | 2014-09-02 | Yoostar Entertainment Group, Inc. | Image processing based on depth information and color data of a scene |
US20120313932A1 (en) * | 2011-06-10 | 2012-12-13 | Samsung Electronics Co., Ltd. | Image processing method and apparatus |
US8565520B2 (en) | 2011-06-10 | 2013-10-22 | Microsoft Corporation | Determining foreground regions and background regions in an image |
KR20130001869A (ko) * | 2011-06-28 | 2013-01-07 | 삼성전자주식회사 | 영상처리장치 및 영상처리방법 |
WO2013062944A1 (en) * | 2011-10-26 | 2013-05-02 | The Regents Of The University Of California | Multi view synthesis method and display devices with spatial and inter-view consistency |
EP2792149A4 (en) * | 2011-12-12 | 2016-04-27 | Intel Corp | SCENE SEGMENTATION BY USING PREVIOUS IMAGING MOVEMENTS |
US8872898B2 (en) * | 2011-12-14 | 2014-10-28 | Ebay Inc. | Mobile device capture and display of multiple-angle imagery of physical objects |
US9106908B2 (en) * | 2012-07-30 | 2015-08-11 | Intel Corporation | Video communication with three dimensional perception |
KR101348929B1 (ko) | 2012-08-20 | 2014-01-09 | 광운대학교 산학협력단 | 깊이 조절을 이용한 레이어 합성 기반 다시점 영상 생성 방법 |
JP6019970B2 (ja) * | 2012-09-11 | 2016-11-02 | 株式会社リコー | 全天球型の撮像システムおよび撮像光学系 |
TWI526045B (zh) | 2012-12-10 | 2016-03-11 | 聯詠科技股份有限公司 | 立體影像的調整方法與影像處理裝置 |
CN102999943B (zh) | 2012-12-21 | 2016-04-13 | 吴心妮 | 图像处理方法及系统 |
US9025051B2 (en) * | 2013-02-28 | 2015-05-05 | Nokia Technologies Oy | Method and apparatus for automatically rendering dolly zoom effect |
US10719939B2 (en) * | 2014-10-31 | 2020-07-21 | Fyusion, Inc. | Real-time mobile device capture and generation of AR/VR content |
JP6299720B2 (ja) * | 2015-10-02 | 2018-03-28 | トヨタ自動車株式会社 | 物体認識装置及び煙判定方法 |
-
2016
- 2016-09-07 US US15/258,737 patent/US10204418B2/en active Active
-
2017
- 2017-08-25 EP EP17848223.8A patent/EP3510769A4/en active Pending
- 2017-08-25 JP JP2019512883A patent/JP6795689B2/ja active Active
- 2017-08-25 WO PCT/IB2017/055138 patent/WO2018047033A1/en unknown
- 2017-08-25 CN CN201780067543.7A patent/CN109983504A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
US20180068450A1 (en) | 2018-03-08 |
EP3510769A1 (en) | 2019-07-17 |
JP6795689B2 (ja) | 2020-12-02 |
EP3510769A4 (en) | 2020-05-13 |
WO2018047033A1 (en) | 2018-03-15 |
CN109983504A (zh) | 2019-07-05 |
US10204418B2 (en) | 2019-02-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102646695B1 (ko) | 비디오 프레임 보간을 위한 특징 피라미드 워핑 | |
US9025051B2 (en) | Method and apparatus for automatically rendering dolly zoom effect | |
JP5996013B2 (ja) | 立体画像の視差マップ推定のための方法,装置及びコンピュータプログラム製品 | |
WO2018119786A1 (zh) | 一种显示数据处理方法及装置 | |
JP2015516627A5 (ja) | ||
US9275490B2 (en) | Post-render motion blur | |
JP6795689B2 (ja) | 多層シフトを使用してステレオビジョンを容易にするための方法および装置 | |
WO2020001022A1 (zh) | 图片展示方法、计算设备及计算机存储介质 | |
BR102020027013A2 (pt) | Método para gerar uma imagem multiplano adaptativa a partir de uma única imagem de alta resolução | |
US10650488B2 (en) | Apparatus, method, and computer program code for producing composite image | |
US11620777B2 (en) | Editor for images with depth data | |
US11341611B2 (en) | Automatic generation of perceived real depth animation | |
TW201607296A (zh) | 快速產生影像景深圖的方法及影像處理裝置 | |
US10699375B2 (en) | Method and apparatus for image adjustment for panoramic image stitching | |
US11250258B2 (en) | Systems and methods for preventing information dissemination from an image of a pupil | |
TWI723119B (zh) | 相機應用的圖像預覽方法、裝置及相機應用系統 | |
US11917283B2 (en) | Split rendering for lightfield/immersive media using edge-cloud architecture and peer-to-peer streaming | |
US12002132B1 (en) | Rendering using analytic signed distance fields | |
JP2018200505A (ja) | 3次元画像のインタラクティブ表示方法及びシステム | |
JP2017174416A5 (ja) | ||
US20130176332A1 (en) | Method and apparatus for image presentation | |
CN116917900A (zh) | 在像素到像素神经网络中处理数据 | |
CN117726711A (zh) | 特效图像生成方法、装置、电子设备及存储介质 | |
CN118043859A (zh) | 高效视觉感知 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190418 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190418 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200423 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200519 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20200819 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200831 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201013 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201112 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6795689 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |