JP6651989B2 - 映像処理装置、映像処理方法、及び映像処理システム - Google Patents
映像処理装置、映像処理方法、及び映像処理システム Download PDFInfo
- Publication number
- JP6651989B2 JP6651989B2 JP2016111652A JP2016111652A JP6651989B2 JP 6651989 B2 JP6651989 B2 JP 6651989B2 JP 2016111652 A JP2016111652 A JP 2016111652A JP 2016111652 A JP2016111652 A JP 2016111652A JP 6651989 B2 JP6651989 B2 JP 6651989B2
- Authority
- JP
- Japan
- Prior art keywords
- person
- speaker
- video
- information
- video information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000000034 method Methods 0.000 description 47
- 230000008859 change Effects 0.000 description 13
- 230000008569 process Effects 0.000 description 12
- 238000003384 imaging method Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003827 upregulation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/802—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving processing of the sound signal
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Telephonic Communication Services (AREA)
Description
映像切り替えの激しい動きを抑制しつつ、現在の発言者と、その発言者以外にもアップで映し出す対象となる人物がいるかを判断し、その対象人物と現在の発言者を確実にアップで映すことができる映像処理装置、映像処理方法、及び映像処理システムを提供することである。
また、発言交代回数ではなく、発言回数からアップ対象となる人物を判断することも可能である。所定の時間範囲の発言者情報に「どの人物が何回発言したか」という発言回数の情報を含め、現時点で発言している発言者を推定したら過去の発言回数を参照し、所定の条件を満たしている場合に現時点の発言者と、発言回数が多い人物を優先的にアップで映し出す。
音声入出力I/F208は、音声入力用のマイク211を介して入力された音声信号を音声、および音声に関連する情報として取り込む。また、出力する音声をスピーカ210で再生可能な音声信号に変換する。システムバスは、アドレスバス、データバス及び各種制御信号を伝達する。
次に、特定の人物をアップで映し出すための判断手段104の具体例を、実施例ごとに説明する。図6はアップで映し出す人物を判断するために、記憶手段103で記憶する所定の時間範囲での発言交代履歴を参照し、発言交代回数からアップにする人物を判断するフローである。第1の実施例として図6を参照しながら説明する。
尚、図6と後述する図8、図10は図5のフローチャートのステップ3の詳細な手法としての位置付けである。
(a)音声で判断する場合には、音声が所定時間停止した場合、発言が完了したと判断する。
(b)音声で判断する場合には、音声認識により話者が交代して、交代した話者が所定時間発言を続けた場合には、前の話者の発言が完了したと判断する。
(c)映像で判断する場合には、口の動きが所定時間停止した場合、発言が完了したと判断する。
次に、特定の人物をアップで映し出すための判断手段104の二つ目の具体例を説明する。図8はアップで映し出す人物を判断するために、記憶手段103で記憶する所定の時間範囲でのアップ情報履歴を参照し、アップ情報履歴からアップにする人物を判断するフローである。第2の実施例として図8を参照しながら説明する。
発言交代回数の所定のしきい値を小さくすれば、現在の発言者であるAと共にアップ対象となる人物がより多くなるように判断でき、会議等に参加している人物をより多くアップ対象とすることができる。また、発言交代回数の所定のしきい値を大きくすれば、会議等の発言の中心である人物に的を絞った形でアップ対象とする人物を制限することができる。
次に、特定の人物をアップで映し出すための判断手段104の3つ目の具体例を説明する。図10はアップで映し出す人物を判断するために、記憶手段103で記憶する所定の時間範囲での発言者ごとの発言回数を参照し、発言回数の情報からアップにする人物を判断するフローである。第3の実施例として図10を参照しながら説明する。
次に、他の実施例の一例として、発言者の音声、および音声に関連する情報からアップ対象とする人物を判断する一連の流れについて説明する。図11は、音声情報に着手した映像処理装置10と映像受信側端末20の一連のフローチャートである。
102 推定手段
103 記憶手段
104 判断手段
Claims (11)
- 被写体を連続的に撮影し、映像情報を取得する映像取得手段と、
前記映像情報に含まれる複数の人物から発言している人物を推定する推定手段と、
前記推定手段より前記映像情報における発言者と推定された人物を、発言履歴情報として該映像情報が取得された時間ごとに記憶する記憶手段と、
前記発言履歴情報を基に、現在の発言者である第1の人物とともに拡大表示の対象とすべき人物を判断する判断手段と、
を備え、
前記判断手段は、過去の所定の時間範囲において前記第1の人物に続いて発言者となった回数が第1のしきい値より大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
ことを特徴とする映像処理装置。 - 前記記憶手段は、前記発言者が拡大表示された拡大表示履歴を更に記憶し、
前記判断手段は、過去の所定の時間範囲の前記拡大表示履歴を参照し、前記第1の人物とともに拡大表示された人物との拡大表示された時間範囲に応じて前記第1のしきい値を増減させる、
ことを特徴とする請求項1に記載の映像処理装置。 - 被写体を連続的に撮影し、映像情報を取得する映像取得手段と、
前記映像情報に含まれる複数の人物から発言している人物を推定する推定手段と、
前記推定手段より前記映像情報における発言者と推定された人物を、発言履歴情報として該映像情報が取得された時間ごとに記憶する記憶手段と、
前記発言履歴情報を基に、現在の発言者である第1の人物とともに拡大表示の対象とすべき人物を判断する判断手段と、
を備え、
前記判断手段は、過去の所定の時間範囲における各発言者の発言回数を参照し、前記発言回数の合計値が第2のしきい値よりも大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
ことを特徴とする映像処理装置。 - 前記判断手段は、過去の所定の時間範囲における各発言者の発言回数を参照し、前記発言回数の合計値が前記第2のしきい値よりも大きく、かつ前記発言回数と各発言者の発言回数の平均との差分が第3のしきい値よりも大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
ことを特徴とする請求項3に記載の映像処理装置。 - 前記推定手段は、前記映像情報に含まれる複数の人物の位置を顔の座標情報として認識し、前記発言者と推定した人物の顔の座標情報を出力する、
ことを特徴とする請求項1ないし4のいずれか1項に記載の映像処理装置。 - 音声到来方向の情報を含む音声情報を取得する音声取得手段を更に備え、
前記推定手段は、前記音声情報から発言している人物を推定する、
ことを特徴とする請求項1ないし5のいずれか1項に記載の映像処理装置。 - 前記推定手段は、前記映像情報と前記音声情報から発言している人物を推定する、
ことを特徴とする請求項6に記載の映像処理装置。 - 被写体を連続的に撮影し、映像情報を取得するステップと、
前記映像情報に含まれる複数の人物から発言している人物を推定するステップと、
前記映像情報における発言者と推定された人物を、発言履歴情報として該映像情報が取得された時間ごとに記憶するステップと、
前記発言履歴情報を基に、現在の発言者である第1の人物とともに拡大表示の対象とすべき人物を判断するステップと、
を備え、
判断する前記ステップでは、過去の所定の時間範囲において前記第1の人物に続いて発言者となった回数が第1のしきい値より大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
映像処理方法。 - 被写体を連続的に撮影し、映像情報を取得するステップと、
前記映像情報に含まれる複数の人物から発言している人物を推定するステップと、
前記映像情報における発言者と推定された人物を、発言履歴情報として該映像情報が取得された時間ごとに記憶するステップと、
前記発言履歴情報を基に、現在の発言者である第1の人物とともに拡大表示の対象とすべき人物を判断するステップと、
を備え、
判断する前記ステップでは、過去の所定の時間範囲における各発言者の発言回数を参照し、前記発言回数の合計値が第2のしきい値よりも大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
映像処理方法。 - 被写体を連続的に撮影し、映像情報を取得する手段と、
前記映像情報に含まれる複数の人物から発言している人物を推定する手段と、
前記映像情報における発言者と推定された人物を、発言履歴情報として該映像情報が取得された時間ごとに記憶する手段と、
前記発言履歴情報を基に、現在の発言者である第1の人物とともに拡大表示の対象とすべき人物を判断する手段と、
を備え、
判断する前記手段は、過去の所定の時間範囲において前記第1の人物に続いて発言者となった回数が第1のしきい値より大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
映像処理システム。 - 被写体を連続的に撮影し、映像情報を取得する手段と、
前記映像情報に含まれる複数の人物から発言している人物を推定する手段と、
前記映像情報における発言者と推定された人物を、発言履歴情報として該映像情報が取得された時間ごとに記憶する手段と、
前記発言履歴情報を基に、現在の発言者である第1の人物とともに拡大表示の対象とすべき人物を判断する手段と、
を備え、
判断する前記手段は、過去の所定の時間範囲における各発言者の発言回数を参照し、前記発言回数の合計値が第2のしきい値よりも大きい人物を、前記第1の人物とともに拡大表示の対象とすべき人物と判断する、
映像処理システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/218,655 US10264210B2 (en) | 2015-08-03 | 2016-07-25 | Video processing apparatus, method, and system |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015153451 | 2015-08-03 | ||
JP2015153451 | 2015-08-03 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017034658A JP2017034658A (ja) | 2017-02-09 |
JP6651989B2 true JP6651989B2 (ja) | 2020-02-19 |
Family
ID=57986318
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016111652A Active JP6651989B2 (ja) | 2015-08-03 | 2016-06-03 | 映像処理装置、映像処理方法、及び映像処理システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10264210B2 (ja) |
JP (1) | JP6651989B2 (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017059902A (ja) * | 2015-09-14 | 2017-03-23 | 株式会社リコー | 情報処理装置、プログラム、画像処理システム |
US20180232566A1 (en) * | 2017-02-15 | 2018-08-16 | Cisco Technology, Inc. | Enabling face recognition in a cognitive collaboration environment |
US11302317B2 (en) * | 2017-03-24 | 2022-04-12 | Sony Corporation | Information processing apparatus and information processing method to attract interest of targets using voice utterance |
CN110770688B (zh) | 2017-06-12 | 2024-08-02 | 索尼公司 | 信息处理系统、信息处理方法及程序 |
CN109492506A (zh) * | 2017-09-13 | 2019-03-19 | 华为技术有限公司 | 图像处理方法、装置和系统 |
US10902050B2 (en) * | 2017-09-15 | 2021-01-26 | International Business Machines Corporation | Analyzing and weighting media information |
EP3739573B1 (en) * | 2018-01-12 | 2023-06-28 | Sony Group Corporation | Information processing device, information processing method, and program |
KR102453084B1 (ko) * | 2018-04-17 | 2022-10-12 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
KR102460538B1 (ko) * | 2018-05-28 | 2022-10-28 | 삼성에스디에스 주식회사 | 영상 품질 조정 방법과 이를 수행하기 위한 단말 및 중계 서버 |
JP7100824B2 (ja) * | 2018-06-20 | 2022-07-14 | カシオ計算機株式会社 | データ処理装置、データ処理方法及びプログラム |
CN109068089A (zh) * | 2018-09-30 | 2018-12-21 | 视联动力信息技术股份有限公司 | 一种会议数据生成方法和装置 |
CN109561273A (zh) * | 2018-10-23 | 2019-04-02 | 视联动力信息技术股份有限公司 | 识别视频会议发言人的方法和装置 |
EP3892001A4 (en) * | 2018-12-03 | 2022-12-28 | Smule, Inc. | AUGMENTED REALITY FILTERS FOR CAPTURED AUDIOVISUAL PERFORMANCES |
US20220122573A1 (en) * | 2018-12-03 | 2022-04-21 | Smule, Inc. | Augmented Reality Filters for Captured Audiovisual Performances |
CN111918127B (zh) * | 2020-07-02 | 2023-04-07 | 影石创新科技股份有限公司 | 一种视频剪辑方法、装置、计算机可读存储介质及相机 |
JP2022076384A (ja) * | 2020-11-09 | 2022-05-19 | シャープ株式会社 | 画像形成装置、制御方法、及びプログラム |
US20220415003A1 (en) * | 2021-06-27 | 2022-12-29 | Realtek Semiconductor Corp. | Video processing method and associated system on chip |
US11606508B1 (en) * | 2021-11-18 | 2023-03-14 | Motorola Mobility Llc | Enhanced representations based on sensor data |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH01140884A (ja) | 1987-11-27 | 1989-06-02 | Fujitsu Ltd | 電子会議における話者自動検出方法 |
JPH04309087A (ja) | 1991-04-08 | 1992-10-30 | Ricoh Co Ltd | ビデオカメラ制御装置 |
JPH05111020A (ja) | 1991-10-17 | 1993-04-30 | Matsushita Electric Ind Co Ltd | テレビ会議用画面切替制御装置 |
JPH11352987A (ja) | 1998-06-04 | 1999-12-24 | Toyota Motor Corp | 音声認識装置 |
JP2001067098A (ja) | 1999-08-25 | 2001-03-16 | Sanyo Electric Co Ltd | 人物検出方法と人物検出機能搭載装置 |
JP4310916B2 (ja) * | 2000-11-08 | 2009-08-12 | コニカミノルタホールディングス株式会社 | 映像表示装置 |
JP2003299051A (ja) * | 2002-03-29 | 2003-10-17 | Matsushita Electric Ind Co Ltd | 情報出力装置および情報出力方法 |
JP4595364B2 (ja) | 2004-03-23 | 2010-12-08 | ソニー株式会社 | 情報処理装置および方法、プログラム、並びに記録媒体 |
US7894637B2 (en) | 2004-05-21 | 2011-02-22 | Asahi Kasei Corporation | Device, program, and method for classifying behavior content of an object person |
JP4356663B2 (ja) * | 2005-08-17 | 2009-11-04 | ソニー株式会社 | カメラ制御装置および電子会議システム |
US7664246B2 (en) * | 2006-01-13 | 2010-02-16 | Microsoft Corporation | Sorting speakers in a network-enabled conference |
JP4957119B2 (ja) * | 2006-08-11 | 2012-06-20 | 富士通東芝モバイルコミュニケーションズ株式会社 | 情報処理装置 |
US8289363B2 (en) * | 2006-12-28 | 2012-10-16 | Mark Buckler | Video conferencing |
WO2009004731A1 (ja) * | 2007-07-05 | 2009-01-08 | Panasonic Corporation | 画像音声通信装置及び画像表示方法 |
JP4458128B2 (ja) | 2007-07-31 | 2010-04-28 | ソニー株式会社 | 方向検出装置、方向検出方法および方向検出プログラム、ならびに、方向制御装置、方向制御方法および方向制御プログラム |
JP2010192956A (ja) | 2009-02-16 | 2010-09-02 | Nikon Corp | 撮像装置および話し手認識方法 |
US20130083151A1 (en) * | 2011-09-30 | 2013-04-04 | Lg Electronics Inc. | Electronic device and method for controlling electronic device |
US20130169742A1 (en) * | 2011-12-28 | 2013-07-04 | Google Inc. | Video conferencing with unlimited dynamic active participants |
JP2014165565A (ja) * | 2013-02-22 | 2014-09-08 | Hitachi Ltd | テレビ会議装置およびシステムおよび方法 |
US9641585B2 (en) * | 2015-06-08 | 2017-05-02 | Cisco Technology, Inc. | Automated video editing based on activity in video conference |
-
2016
- 2016-06-03 JP JP2016111652A patent/JP6651989B2/ja active Active
- 2016-07-25 US US15/218,655 patent/US10264210B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US10264210B2 (en) | 2019-04-16 |
JP2017034658A (ja) | 2017-02-09 |
US20170041556A1 (en) | 2017-02-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6651989B2 (ja) | 映像処理装置、映像処理方法、及び映像処理システム | |
US9179098B2 (en) | Video conferencing | |
US20190222950A1 (en) | Intelligent audio rendering for video recording | |
JP2023540908A (ja) | オーディオ処理方法および電子デバイス | |
US9959881B2 (en) | Voice processing device, audio and video output apparatus, communication system, and sound processing method | |
US11405584B1 (en) | Smart audio muting in a videoconferencing system | |
JP2019220848A (ja) | データ処理装置、データ処理方法及びプログラム | |
TW201801069A (zh) | 語音資訊的接收方法、系統及裝置 | |
US9319513B2 (en) | Automatic un-muting of a telephone call | |
US20240096343A1 (en) | Voice quality enhancement method and related device | |
JP2017118364A (ja) | コミュニケーションシステム、コミュニケーション装置およびコミュニケーションプログラム | |
JP2011061450A (ja) | 会議通信システム、会議通信方法及びプログラム | |
CN111988704A (zh) | 声音信号处理方法、装置以及存储介质 | |
JP4244416B2 (ja) | 情報処理装置および方法、並びに記録媒体 | |
JP2001057672A (ja) | 通信装置および方法、並びに媒体 | |
JP6550951B2 (ja) | 端末、ビデオ会議システム、及びプログラム | |
JP2007251355A (ja) | 対話システム用中継装置、対話システム、対話方法 | |
JP2004248125A (ja) | 映像切り替え装置、映像切り替え方法、この方法のプログラムおよびこのプログラムを記録した記録媒体 | |
JP5432805B2 (ja) | 発言機会均等化方法、発言機会均等化装置及び発言機会均等化プログラム | |
TWI687917B (zh) | 語音系統及聲音偵測方法 | |
EP2575362A1 (en) | Multimodal mobile video telephony | |
CN111182256A (zh) | 一种信息处理方法及服务器 | |
JP6813176B2 (ja) | 音声抑制システム及び音声抑制装置 | |
JP2015043507A (ja) | 情報処理装置、通信システムおよびプログラム | |
CN110913056A (zh) | 通信的转录的基于事件的呈现 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190308 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20190313 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190829 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190917 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191114 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191224 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200106 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6651989 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |