JP6946684B2 - 電子情報ボードシステム、画像処理装置、及びプログラム - Google Patents
電子情報ボードシステム、画像処理装置、及びプログラム Download PDFInfo
- Publication number
- JP6946684B2 JP6946684B2 JP2017052342A JP2017052342A JP6946684B2 JP 6946684 B2 JP6946684 B2 JP 6946684B2 JP 2017052342 A JP2017052342 A JP 2017052342A JP 2017052342 A JP2017052342 A JP 2017052342A JP 6946684 B2 JP6946684 B2 JP 6946684B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- user
- camera
- face
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/15—Conference systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/142—Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
- H04N7/147—Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/16—Image acquisition using multiple overlapping images; Image stitching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Analysis (AREA)
Description
画像とを取得する取得部と、前記第1の画像と前記第2の画像とから各ユーザの顔の領域
を検出する検出部と、前記検出部により検出された各ユーザの顔の領域の間を区切りの位
置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせる合成部と
、を有し、前記合成部は、前記第1の画像及び前記第2の画像に含まれる各ユーザの顔の領域が重ならないように前記第1の画像と前記第2の画像とを繋ぎ合わせる。
まず、本実施形態に係る通信システム1のシステム構成について、図1を用いて説明する。図1は、実施形態に係る通信システム1のシステム構成の一例を示す図である。
<ハードウェア構成>
次に、第1の実施形態に係るIWB10のハードウェア構成について、図2を用いて説明する。図2は、第1の実施形態に係るIWB10のハードウェア構成の一例を示す図である。
次に、図3を参照し、第1の実施形態に係るIWB10の画像処理装置40の機能構成について説明する。図3は、第1の実施形態に係るIWB10の画像処理装置40の機能ブロックの一例を示す図である。
次に、図4を参照し、実施形態に係る通信システム1の処理について説明する。図4は、実施形態に係る通信システム1の処理の一例を示すシーケンス図である。
続いて、ステップS2の、カメラ101A、カメラ101Bにより撮影された画像を合成する処理について、より詳細に説明する。図6は、画像を合成する処理の一例を示すフローチャートである。
≪同一ユーザ判定の変形例≫
ステップS107において、検出部42による顔認識を行わずに、合成部43は、各画像において顔として検出された各領域の大きさ(面積)が最も小さい領域の顔を、同一ユーザの顔であると見なすようにしてもよい。
合成部43は、カメラ101A、カメラ101Bにより撮影された各画像において、いずれか一方の画像においてのみ、検出部42によりユーザの顔が検出された場合、各画像を合成せずに、ユーザの顔が検出された一方の画像のみを、テレビ会議の相手先に送信してもよい。この場合、他方の画像においてユーザの顔が検出された際に、上述した図6の処理による合成を行うようにしてもよい。
2つのカメラの画像を横に並べる代わりに、3つ以上のカメラの画像を横に並べるようにしてもよい。この場合、上述した例と同様に、他の画像と繋ぎ合わせる際の継ぎ目を、各ユーザの顔の間の位置とすればよい。
第1の実施形態では、IWB10の正面に、IWB10に平行な線を短辺とする矩形の机が設置されている場合の例について説明した。第2の実施形態では、IWB10の正面に、略円形の机が設置されている場合の例について説明する。第2の実施形態によれば、会議の参加者が略円形の机を囲んで着席している場合でも、第1の実施形態と同様に、各画像を合成することができる。なお、第2の実施形態は一部を除いて第1の実施形態と同様であるため、適宜説明を省略する。以下では、第1の実施形態と共通する部分については説明を省略し、異なる部分についてのみ説明する。
第1の実施形態では、IWB10の正面に、IWB10に平行な線を短辺とする矩形の机が設置されている場合の例について説明した。第3の実施形態では、IWB10の正面に、IWB10に平行な線を長辺とする矩形の机が設置されている場合の例について説明する。第3の実施形態によれば、会議の参加者が、IWB10と正対する矩形の机を囲んで着席している場合でも、第1の実施形態と同様に、各画像を合成することができる。なお、第3の実施形態は一部を除いて第1の実施形態または第2の実施形態と同様であるため、適宜説明を省略する。以下では、第1の実施形態または第2の実施形態と共通する部分については説明を省略し、異なる部分についてのみ説明する。
第4の実施形態では、第1の実施形態乃至第3の実施形態の機能に加え、複数のマイクを用いて話者を検出し、話者の顔をズーム表示する例について説明する。なお、第4の実施形態は一部を除いて第1の実施形態乃至第3の実施形態と同様であるため、適宜説明を省略する。以下では、第1の実施形態乃至第3の実施形態と共通する部分については説明を省略し、異なる部分についてのみ説明する。
図13は、第4の実施形態に係るIWB10のハードウェア構成の一例を示す図である。
図14は、第4の実施形態に係るIWB10の機能ブロックの一例を示す図である。
図15は、第4の実施形態に係る発話者をズーム表示する処理の一例を示すフローチャート図である。
第1の実施形態では、IWB10の左右に設置された2つのカメラの画像を並べて合成する例について説明した。第5の実施形態では、第1の実施形態乃至第3の実施形態の機能に加え、IWB10の上にもカメラを設け、当該カメラの画像と、左右に設置された2つのカメラの画像を並べて合成した画像とを切り替える例について説明する。なお、第3の実施形態は一部を除いて第1の実施形態乃至第3の実施形態と同様であるため、適宜説明を省略する。以下では、第1の実施形態乃至第3の実施形態と共通する部分については説明を省略し、異なる部分についてのみ説明する。
図18は、第5の実施形態に係るIWB10のハードウェア構成の一例を示す図である。
図19は、第5の実施形態に係る画像を切り替える処理の一例を示すフローチャート図である。
合成部43は、カメラ101A、カメラ101B、及びカメラ101Cのうちのいずれかの視野を、ユーザが塞いでいない場合、カメラ101A、カメラ101B、及びカメラ101Cの各画像を合成してもよい。
合成部43は、検出された顔の領域に、所定の画像等を合成してもよい。図22は、検出された顔の領域に、所定の画像等を合成する例について説明する図である。図22に示すように、合成部43は、会議の参加者が顔の非表示にしたい場合、検出された顔の領域に、予め設定されたアイコン(アニメ顔)をはめ込むようにしてもよい。または、合成部43は、検出された顔の領域を黒く塗り潰してもよい。また、合成部43は、検出された顔の領域に、予め登録された名前の文字情報をはめ込むようにしてもよい。
上述した各実施形態によれば、それぞれ異なる視点から撮影された複数の画像中のユーザの顔を検出し、少なくとも一方の画像において検出された複数のユーザの顔と顔の間の領域をつなぎ目として、各画像を横に並べた画像を合成する。
10 IWB(「電子情報ボードシステム」の一例)
101A カメラ(「第1のカメラ」の一例)
101B カメラ(「第2のカメラ」の一例)
101C カメラ
20 パネル部(「ボード」の一例)
40 画像処理装置
41 取得部
42 検出部
43 合成部
44 表示制御部
45 通信部(「送信部」の一例)
46 制御部
47 推定部
Claims (9)
- 第1の画像と、前記第1の画像とは異なる視点から撮影された第2の画像とを取得する取得部と、
前記第1の画像と前記第2の画像とから各ユーザの顔の領域を検出する検出部と、
前記検出部により検出された各ユーザの顔の領域の間を区切りの位置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせる合成部と、
を有し、
前記合成部は、前記第1の画像及び前記第2の画像に含まれる各ユーザの顔の領域が重ならないように前記第1の画像と前記第2の画像とを繋ぎ合わせる、
画像処理装置。 - 前記検出部は、各ユーザの顔を認識し、
前記合成部は、前記検出部により認識された各ユーザの顔に基づいて、前記第1の画像及び前記第2の画像に含まれる各ユーザの顔の領域が重複せずに含まれる画像を合成する、
請求項1記載の画像処理装置。 - 第1の画像と、前記第1の画像とは異なる視点から撮影された第2の画像とを取得する取得部と、
前記第1の画像と前記第2の画像とから各ユーザの顔の領域を検出する検出部と、
前記検出部により検出された各ユーザの顔の領域の間を区切りの位置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせる合成部と、
を有し、
前記合成部は、前記第1の画像及び前記第2の画像に、同一のユーザの顔が含まれない場合、前記第1の画像と、前記第2の画像とを並べて繋ぎ合わせる、
画像処理装置。 - 第1の画像と、前記第1の画像とは異なる視点から撮影された第2の画像とを取得する取得部と、
前記第1の画像と前記第2の画像とから各ユーザの顔の領域を検出する検出部と、
前記検出部により検出された各ユーザの顔の領域の間を区切りの位置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせる合成部と、
を有し、
前記合成部は、前記第1の画像における各ユーザの顔の領域のうち最も小さい領域と、
前記最も小さい領域に隣接する顔の領域との間を区切りの位置とする、
画像処理装置。 - 前記取得部は、前記第1の画像と前記第2の画像とを動画像として取得し、
前記合成部は、前記動画像のフレーム画像に対して、所定の間隔で合成する、
請求項1乃至4のいずれか一項に記載の画像処理装置。 - 第1の画像と、前記第1の画像とは異なる視点から撮影された第2の画像とを取得する取得部と、
前記第1の画像と前記第2の画像とから各ユーザの顔の領域を検出する検出部と、
前記検出部により検出された各ユーザの顔の領域の間を区切りの位置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせる合成部と、
を有し、
前記合成部は、前記第1の画像の少なくとも一部の高さ、及び前記第2の画像の少なくとも一部の高さのうち少なくとも一方を、前記第1の画像及び前記第2の画像における同一のユーザの顔の各領域の高さが揃うように調整して合成する、
画像処理装置。 - 前記合成部は、前記第1の画像の背景と、前記第2の画像の背景の傾きの差が縮小するよう、前記第1の画像、及び前記第2の画像を補正する、
請求項1乃至6のいずれか一項に記載の画像処理装置。 - 第1のカメラ、第2のカメラ、ボード、及び画像処理装置を有する電子情報ボードシステムであって、
前記第1のカメラ、及び前記第2のカメラは、それぞれ異なる視点から、前記ボードの前方を撮影し、
前記画像処理装置は、
前記第1のカメラで撮影された第1の画像と、前記第2のカメラで撮影された第2の画像とを取得する取得部と、
前記第1の画像と前記第2の画像とから各ユーザの顔の領域を検出する検出部と、
前記検出部により検出された各ユーザの顔の領域の間を区切りの位置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせる合成部と、
を有する電子情報ボードシステム。 - コンピュータに、
第1の画像と、前記第1の画像とは異なる視点から撮影された第2の画像とを取得する処理と、
前記第1の画像と前記第2の画像とから各ユーザの顔の領域を検出する処理と、
前記検出する処理により検出された各ユーザの顔の領域の間を区切りの位置とし、前記第1の画像と前記第2の画像とを前記区切りの位置で繋ぎ合わせ合成する処理と、
前記合成する処理では、前記第1の画像及び前記第2の画像に含まれる各ユーザの顔の領域が重ならないように前記第1の画像と前記第2の画像とを繋ぎ合わせる処理
を実行させるプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017052342A JP6946684B2 (ja) | 2017-03-17 | 2017-03-17 | 電子情報ボードシステム、画像処理装置、及びプログラム |
US15/911,295 US20180270428A1 (en) | 2017-03-17 | 2018-03-05 | Electronic information board system, image processing device, and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017052342A JP6946684B2 (ja) | 2017-03-17 | 2017-03-17 | 電子情報ボードシステム、画像処理装置、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018156368A JP2018156368A (ja) | 2018-10-04 |
JP6946684B2 true JP6946684B2 (ja) | 2021-10-06 |
Family
ID=63519772
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017052342A Active JP6946684B2 (ja) | 2017-03-17 | 2017-03-17 | 電子情報ボードシステム、画像処理装置、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20180270428A1 (ja) |
JP (1) | JP6946684B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10498968B1 (en) * | 2017-03-01 | 2019-12-03 | Altia Systems, Inc. | Intelligent zoom method and video system implementing same |
JP7006302B2 (ja) | 2018-01-23 | 2022-01-24 | 株式会社リコー | 画像処理装置、画像処理システム、及びビデオ会議システム |
US11636708B2 (en) * | 2019-01-04 | 2023-04-25 | Gopro, Inc. | Face detection in spherical images |
US20210303824A1 (en) * | 2020-03-31 | 2021-09-30 | Gopro, Inc. | Face detection in spherical images using overcapture |
US20230403367A1 (en) * | 2022-06-08 | 2023-12-14 | Microsoft Technology Licensing, Llc | Customization of a user interface displaying a rendering of multiple participants of a hybrid communication session |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7015954B1 (en) * | 1999-08-09 | 2006-03-21 | Fuji Xerox Co., Ltd. | Automatic video system using multiple cameras |
US7259784B2 (en) * | 2002-06-21 | 2007-08-21 | Microsoft Corporation | System and method for camera color calibration and image stitching |
JP4611231B2 (ja) * | 2006-03-28 | 2011-01-12 | 富士通株式会社 | パノラマ画像作成装置、方法およびプログラム |
WO2009135078A2 (en) * | 2008-04-30 | 2009-11-05 | The Regents Of The University Of California | Method and apparatus for fabricating optoelectromechanical devices by structural transfer using re-usable substrate |
US8957940B2 (en) * | 2013-03-11 | 2015-02-17 | Cisco Technology, Inc. | Utilizing a smart camera system for immersive telepresence |
US10257494B2 (en) * | 2014-09-22 | 2019-04-09 | Samsung Electronics Co., Ltd. | Reconstruction of three-dimensional video |
-
2017
- 2017-03-17 JP JP2017052342A patent/JP6946684B2/ja active Active
-
2018
- 2018-03-05 US US15/911,295 patent/US20180270428A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
US20180270428A1 (en) | 2018-09-20 |
JP2018156368A (ja) | 2018-10-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6946684B2 (ja) | 電子情報ボードシステム、画像処理装置、及びプログラム | |
US10554921B1 (en) | Gaze-correct video conferencing systems and methods | |
US10114458B2 (en) | Apparatus and method of controlling mobile terminal based on analysis of user's face | |
US11729342B2 (en) | Designated view within a multi-view composited webcam signal | |
US11736801B2 (en) | Merging webcam signals from multiple cameras | |
US8908008B2 (en) | Methods and systems for establishing eye contact and accurate gaze in remote collaboration | |
CN109739361B (zh) | 基于眼睛跟踪的可见度提高方法和电子装置 | |
JP6229314B2 (ja) | 情報処理装置、表示制御方法及びプログラム | |
WO2017215295A1 (zh) | 一种摄像机参数调整方法、导播摄像机及系统 | |
JP2018521593A (ja) | 角度分離されたサブシーンの合成およびスケーリング | |
US20130314489A1 (en) | Information processing apparatus, information processing system and information processing method | |
US10600218B2 (en) | Display control system, display control apparatus, display control method, and storage medium | |
JP6157077B2 (ja) | カメラ付き表示装置 | |
CN110168630B (zh) | 增强视频现实 | |
JP2011097447A (ja) | コミュニケーションシステム | |
US20230231983A1 (en) | System and method for determining directionality of imagery using head tracking | |
JP2005117285A (ja) | 情報入力装置、通信端末及び通信方法 | |
US20200342229A1 (en) | Information processing device, information processing method, and program | |
US11972505B2 (en) | Augmented image overlay on external panel | |
JP6700672B2 (ja) | 遠隔コミュニケーションシステム、その制御方法、及びプログラム | |
US10754444B2 (en) | Electronic apparatus and control method therefor | |
WO2019138682A1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP4586447B2 (ja) | 画像処理装置及び方法、プログラム | |
WO2022130798A1 (ja) | 表示装置、表示制御方法、およびプログラム | |
JP7427739B2 (ja) | 表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200109 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20210208 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210331 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210817 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210830 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6946684 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |