JP2016503631A - 手ぶれ検出付きビデオ会議サーバー - Google Patents
手ぶれ検出付きビデオ会議サーバー Download PDFInfo
- Publication number
- JP2016503631A JP2016503631A JP2015544423A JP2015544423A JP2016503631A JP 2016503631 A JP2016503631 A JP 2016503631A JP 2015544423 A JP2015544423 A JP 2015544423A JP 2015544423 A JP2015544423 A JP 2015544423A JP 2016503631 A JP2016503631 A JP 2016503631A
- Authority
- JP
- Japan
- Prior art keywords
- video
- features
- subset
- displacement vector
- camera shake
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/765—Media network packet handling intermediate
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/80—Responding to QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Studio Devices (AREA)
- Telephonic Communication Services (AREA)
Abstract
Description
− 会議クライアントから受信されるビデオフレームに対する前景マスクを生成するように構成された切り抜きモジュールと、
− 前記ビデオフレームの特徴の部分集合に対する変位ベクトルを決定するように構成された手ぶれ検出器であって、変位ベクトルが、前景マスクを反転させることで得られる背景マスクと、会議クライアントから受信された以前のビデオフレームに対して生成された以前の背景マスクとの間の特徴の部分集合の2次元の動きを表す、手ぶれ検出器と、
− 前景マスクに、没入型ビデオストリームにおけるその使用の前に、変位ベクトルとは逆の変位を適用して、会議クライアントの手ぶれ効果を補正するように構成された手ぶれ補正モジュールと、
− ぶれ表示を、会議クライアントへ配信される没入型ビデオストリーム内へ生成するように構成された報知ユニットと
を備える、ビデオ会議サーバーにより実現される。
− ビデオフレームおよび以前のビデオフレーム内の特徴の集合を選択するためのビデオストリームプロセッサと、
− ビデオフレームの背景マスクと、以前のフレームの以前の背景マスクとに属する特徴の部分集合を得るために、特徴の集合をフィルタリングするためのフィルタリングロジックと、
− ピラミッド型ルーカスカンデ(Lukas−Kanade)アルゴリズムにより、特徴の部分集合に対する疎なオプティックフローを計算するための処理ロジックと
を備える。
− 特徴の部分集合に対する疎なオプティカルフローから、統計的平均化により、変位ベクトルを形成する動きの大きさおよび動きの方向を計算するための統計ロジック
を備える。
− 特徴の部分集合内の各特徴に対して、疎なオプティカルフローの大きさを所定の閾値と比較するように構成され、疎なオプティカルフローの大きさが所定の閾値より小さい場合に、変位ベクトルの計算から特徴を破棄するように構成された処理ロジック
をさらに備える。
− 特徴の部分集合内の各特徴を、その疎なオプティカルフローの方向に応じて、各々が360度/nの範囲をカバーする第1のn個のヒストグラムビンの組の中の第1のビンと、各々が360度/nの範囲をカバーする第2のn個のヒストグラムビンの組の中の第2のビンとに割り当てるように構成された処理ロジックであって、nは正の整数値であり、第2のn個のビンの組は、第1のn個のビンの組に対して180度/nだけ回転されている、処理ロジックと、
− 第1のn個のビンの組および第2のn個のビンの組の中の、最大量の特徴を含む主要なビンを、特徴の部分集合から選択するように構成された処理ロジックと、
− 主要なビンに属さない全ての特徴を、変位ベクトルの計算から破棄するように構成された処理ロジックと
をさらに備える。
− 会議クライアントから受信されるビデオフレームに対する前景マスクを生成することと、
− ビデオフレームの特徴の部分集合に対する変位ベクトルを決定することであって、変位ベクトルが、前景マスクを反転させることで得られる背景マスクと、会議クライアントから受信された以前のビデオフレームに対して生成された以前の背景マスクとの間の特徴の部分集合の2次元の動きを表す、決定することと、
− 前景マスクに、没入型ビデオストリームにおけるその使用の前に、変位ベクトルとは逆の変位を適用することであって、それにより前記会議クライアントの手ぶれ効果を補正する、適用することと、
− ぶれ表示を、会議クライアントへ配信される没入型ビデオストリーム内へ生成することと
を備える、方法に関する。
|Ft(f)−Ft−1(f)|>Tdiff
を課すことでフィルタリングされる。
Claims (9)
- 没入型ビデオ会議のためのビデオ会議サーバー(100)であって、複数のビデオクライアント(101)のカメラにより撮像されたビデオストリームを受信および結合し、前記複数のビデオクライアント(101)へ配信され再生出力される没入型ビデオストリーム(124、125)を生成するように構成され、
会議クライアント(101)から受信されるビデオフレーム(121)に対する前景マスク(122)を生成するように構成された切り抜きモジュール(102)と、
前記ビデオフレーム(121)の特徴の部分集合に対する変位ベクトル(123)を決定するように構成された手ぶれ検出器(103)であって、前記変位ベクトル(123)が、前記前景マスク(122)を反転させることで得られる背景マスクと、前記会議クライアント(101)から受信された以前のビデオフレームに対して生成された以前の背景マスクとの間の前記特徴の部分集合の2次元の動きを表す、手ぶれ検出器(103)と、
前記前景マスク(122)に、前記没入型ビデオストリーム(124、125)におけるその使用の前に、前記変位ベクトル(123)とは逆の変位を適用して、前記会議クライアント(101)の手ぶれ効果を補正するように構成された手ぶれ補正モジュール(102、104)と、
ぶれ表示(311、312)を、前記会議クライアントへ配信される没入型ビデオストリーム(124)内へ生成するように構成された報知ユニット(104)と
を備える、ビデオ会議サーバー(100)。 - 前記手ぶれ検出器(103)が、
前記ビデオフレームおよび前記以前のビデオフレーム内の特徴の集合を選択するためのビデオストリームプロセッサと、
前記ビデオフレームの前記背景マスクと、前記以前のフレームの前記以前の背景マスクとに属する特徴の部分集合を得るために、前記特徴の集合をフィルタリングするためのフィルタリングロジックと、
ピラミッド型ルーカスカンデ(Lukas−Kanade)アルゴリズムにより、前記特徴の部分集合に対する疎なオプティックフローを計算するための処理ロジックと
を備える、請求項1に記載のビデオ会議サーバー(100)。 - 前記手ぶれ検出器(103)が、
前記特徴の部分集合に対する前記疎なオプティカルフローから、統計的平均化により、前記変位ベクトル(123)を形成する動きの大きさおよび動きの方向を計算するための統計ロジック
をさらに備える、請求項2に記載のビデオ会議サーバー(100)。 - 前記手ぶれ検出器(103)が、
前記特徴の部分集合内の各特徴に対して、前記疎なオプティカルフローの大きさを所定の閾値と比較するように構成され、前記疎なオプティカルフローの前記大きさが前記所定の閾値より小さい場合に、前記変位ベクトルの計算から前記特徴を破棄するように構成された処理ロジック
をさらに備える、請求項2に記載のビデオ会議サーバー(100)。 - 前記手ぶれ検出器(103)が、
前記特徴の部分集合内の各特徴(201)を、その疎なオプティカルフローの方向に応じて、各々が360度/nの範囲をカバーする第1のn個のヒストグラムビンの組の中の第1のビン(211...21n)と、各々が360度/nの範囲をカバーする第2のn個のヒストグラムビンの組の中の第2のビン(221...22n)とに割り当てるように構成された処理ロジックであって、nは正の整数値であり、前記第2のn個のビンの組は、前記第1のn個のビンの組に対して180度/nだけ回転されている、処理ロジックと、
前記第1のn個のビンの組および前記第2のn個のビンの組の中の、最大量の特徴を含む主要なビン(22n)を、前記特徴の部分集合から選択するように構成された処理ロジックと、
前記主要なビン(22n)に属さない全ての特徴を、前記変位ベクトル(123)の計算から破棄するように構成された処理ロジックと
をさらに備える、請求項2に記載のビデオ会議サーバー(100)。 - 複数のビデオクライアント(101)のカメラにより撮像されたビデオストリームを受信および結合し、前記複数のビデオクライアント(101)へ配信され再生出力される没入型ビデオストリーム(124、125)を生成するように構成されたビデオ会議サーバー(100)における手ぶれ検出のための方法であって、
会議クライアント(101)から受信されるビデオフレーム(121)に対する前景マスク(122)を生成することと、
前記ビデオフレーム(121)の特徴の部分集合に対する変位ベクトル(123)を決定することであって、前記変位ベクトル(123)が、前記前景マスク(122)を反転させることで得られる背景マスクと、前記会議クライアント(101)から受信された以前のビデオフレームに対して生成された以前の背景マスクとの間の前記特徴の部分集合の2次元の動きを表す、決定することと、
前記前景マスク(122)に、前記没入型ビデオストリーム(124、125)におけるその使用の前に、前記変位ベクトル(123)とは逆の変位を適用することであって、それにより前記会議クライアント(101)の手ぶれ効果を補正する、適用することと、
ぶれ表示(311、312)を、前記会議クライアント(101)へ配信される没入型ビデオストリーム(124)内へ生成することと
を備える、方法。 - 請求項6に記載の方法を実行するための手段を備える、データ処理システム。
- 請求項6に記載の方法を実施するように構成されたソフトウェアコードを備える、コンピュータプログラム。
- 請求項8に記載のコンピュータプログラムを備える、コンピュータ可読記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP12290418.8A EP2739044B1 (en) | 2012-11-29 | 2012-11-29 | A video conferencing server with camera shake detection |
EP12290418.8 | 2012-11-29 | ||
PCT/EP2013/074528 WO2014082941A1 (en) | 2012-11-29 | 2013-11-25 | A videoconferencing server with camera shake detection |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016503631A true JP2016503631A (ja) | 2016-02-04 |
JP6159816B2 JP6159816B2 (ja) | 2017-07-05 |
Family
ID=47326002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015544423A Expired - Fee Related JP6159816B2 (ja) | 2012-11-29 | 2013-11-25 | 手ぶれ検出付きビデオ会議サーバー |
Country Status (6)
Country | Link |
---|---|
US (1) | US9762856B2 (ja) |
EP (1) | EP2739044B1 (ja) |
JP (1) | JP6159816B2 (ja) |
KR (1) | KR101697495B1 (ja) |
CN (1) | CN104813656B (ja) |
WO (1) | WO2014082941A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017174296A (ja) * | 2016-03-25 | 2017-09-28 | 隆夫 西谷 | 画像処理装置および画像処理方法 |
US12034785B2 (en) | 2021-01-27 | 2024-07-09 | Tmrw Foundation Ip S.Àr.L. | System and method enabling interactions in virtual environments with virtual presence |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9071740B1 (en) * | 2011-10-28 | 2015-06-30 | Google Inc. | Modular camera system |
EP2602692A1 (en) * | 2011-12-05 | 2013-06-12 | Alcatel Lucent | Method for recognizing gestures and gesture detector |
US9374532B2 (en) * | 2013-03-15 | 2016-06-21 | Google Inc. | Cascaded camera motion estimation, rolling shutter detection, and camera shake detection for video stabilization |
CA3001480C (en) | 2015-10-16 | 2019-06-18 | Tribune Broadcasting Company, Llc | Video-production system with dve feature |
JP6904843B2 (ja) * | 2017-08-03 | 2021-07-21 | キヤノン株式会社 | 撮像装置およびその制御方法 |
CN110245688B (zh) * | 2019-05-21 | 2024-05-28 | 中国平安财产保险股份有限公司 | 一种数据处理的方法及相关装置 |
CN114640754B (zh) * | 2022-03-08 | 2024-06-14 | 京东科技信息技术有限公司 | 视频抖动检测方法、装置、计算机设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11289524A (ja) * | 1998-04-01 | 1999-10-19 | Nippon Telegr & Teleph Corp <Ntt> | 仮想空間会議方法およびこの方法を記録した記録媒体 |
JP2004206320A (ja) * | 2002-12-25 | 2004-07-22 | Matsushita Electric Ind Co Ltd | 画像認識装置および方法 |
JP2011160423A (ja) * | 2010-01-29 | 2011-08-18 | Sharp Corp | 非接触スキャンシステムおよび非接触スキャン方法 |
EP2525573A1 (en) * | 2011-05-17 | 2012-11-21 | Alcatel Lucent | Method and system for conducting a video conference |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101189870A (zh) * | 2005-04-28 | 2008-05-28 | 德州仪器公司 | 运动稳定 |
US20070076982A1 (en) * | 2005-09-30 | 2007-04-05 | Petrescu Doina I | System and method for video stabilization |
WO2007077614A1 (ja) * | 2005-12-28 | 2007-07-12 | Fujitsu Limited | Tv電話機能の撮影画像処理切り替え装置 |
JP2008124850A (ja) * | 2006-11-14 | 2008-05-29 | Matsushita Electric Ind Co Ltd | 画像動き補正装置、レンズ装置および撮像装置 |
JP4274233B2 (ja) * | 2006-11-30 | 2009-06-03 | ソニー株式会社 | 撮影装置、画像処理装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム |
US8345921B1 (en) * | 2009-03-10 | 2013-01-01 | Google Inc. | Object detection with false positive filtering |
US8466952B2 (en) * | 2009-10-27 | 2013-06-18 | Hewlett-Packard Development Company, L.P. | Analysis of video composition of participants in a video conference |
US20110096137A1 (en) * | 2009-10-27 | 2011-04-28 | Mary Baker | Audiovisual Feedback To Users Of Video Conferencing Applications |
US8731152B2 (en) | 2010-06-18 | 2014-05-20 | Microsoft Corporation | Reducing use of periodic key frames in video conferencing |
JP2012165338A (ja) * | 2011-02-09 | 2012-08-30 | Canon Inc | 画像処理装置、画像処理方法及びプログラム |
CN102693545A (zh) * | 2012-04-19 | 2012-09-26 | 浙江师范大学 | 高速ccd图像序列的任意运动模糊图像复原方法 |
-
2012
- 2012-11-29 EP EP12290418.8A patent/EP2739044B1/en not_active Not-in-force
-
2013
- 2013-11-25 US US14/648,057 patent/US9762856B2/en not_active Expired - Fee Related
- 2013-11-25 JP JP2015544423A patent/JP6159816B2/ja not_active Expired - Fee Related
- 2013-11-25 KR KR1020157016412A patent/KR101697495B1/ko active IP Right Grant
- 2013-11-25 WO PCT/EP2013/074528 patent/WO2014082941A1/en active Application Filing
- 2013-11-25 CN CN201380062084.5A patent/CN104813656B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH11289524A (ja) * | 1998-04-01 | 1999-10-19 | Nippon Telegr & Teleph Corp <Ntt> | 仮想空間会議方法およびこの方法を記録した記録媒体 |
JP2004206320A (ja) * | 2002-12-25 | 2004-07-22 | Matsushita Electric Ind Co Ltd | 画像認識装置および方法 |
JP2011160423A (ja) * | 2010-01-29 | 2011-08-18 | Sharp Corp | 非接触スキャンシステムおよび非接触スキャン方法 |
EP2525573A1 (en) * | 2011-05-17 | 2012-11-21 | Alcatel Lucent | Method and system for conducting a video conference |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017174296A (ja) * | 2016-03-25 | 2017-09-28 | 隆夫 西谷 | 画像処理装置および画像処理方法 |
US12034785B2 (en) | 2021-01-27 | 2024-07-09 | Tmrw Foundation Ip S.Àr.L. | System and method enabling interactions in virtual environments with virtual presence |
Also Published As
Publication number | Publication date |
---|---|
KR101697495B1 (ko) | 2017-01-18 |
US9762856B2 (en) | 2017-09-12 |
EP2739044A1 (en) | 2014-06-04 |
CN104813656B (zh) | 2018-03-27 |
EP2739044B1 (en) | 2015-08-12 |
US20150304606A1 (en) | 2015-10-22 |
CN104813656A (zh) | 2015-07-29 |
WO2014082941A1 (en) | 2014-06-05 |
JP6159816B2 (ja) | 2017-07-05 |
KR20150102985A (ko) | 2015-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6159816B2 (ja) | 手ぶれ検出付きビデオ会議サーバー | |
US10425582B2 (en) | Video stabilization system for 360-degree video data | |
US9282285B2 (en) | Providing user video having a virtual curtain to an online conference | |
US9886622B2 (en) | Adaptive facial expression calibration | |
US20230088433A1 (en) | Arbitrary view generation | |
JP2017507557A (ja) | 高解像度の動画ストリームを自身の端末で視聴するユーザの体感品質を向上するためのプロセス | |
US20210056747A1 (en) | Puppeteering Remote Avatar by Facial Expressions | |
WO2018102880A1 (en) | Systems and methods for replacing faces in videos | |
US20170127039A1 (en) | Ultrasonic proximity detection system | |
JP2015517239A (ja) | ビデオインターフェースを制御するための方法、ビデオインターフェースを動作させるための方法、顔向き検出器、およびビデオ会議サーバ | |
JP2021526693A (ja) | ポーズ補正 | |
CN107733874B (zh) | 信息处理方法、装置、计算机设备和存储介质 | |
WO2015050795A1 (en) | Image mastering systems and methods | |
JP2019512781A (ja) | 特徴追跡及びモデル登録により三次元多視点を再構成するための方法。 | |
US10282633B2 (en) | Cross-asset media analysis and processing | |
KR20160062665A (ko) | 동작 인식 장치 및 방법 | |
US10832425B2 (en) | Image registration method and apparatus for terminal, and terminal | |
US9361540B2 (en) | Fast image processing for recognition objectives system | |
CN111095922B (zh) | 电子设备及其操作方法 | |
US20130286289A1 (en) | Image processing apparatus, image display apparatus, and image processing method | |
CN111314627A (zh) | 用于处理视频帧的方法和装置 | |
CN111179310A (zh) | 视频数据处理方法、装置、电子设备及计算机可读介质 | |
JP2016070891A (ja) | 映像データ処理装置及び映像データ処理プログラム | |
KR20150090540A (ko) | 홀로그램 생성 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160830 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20161124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170223 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170606 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170612 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6159816 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |