JP6857032B2 - 制御装置、システム、制御装置の制御方法 - Google Patents
制御装置、システム、制御装置の制御方法 Download PDFInfo
- Publication number
- JP6857032B2 JP6857032B2 JP2017000709A JP2017000709A JP6857032B2 JP 6857032 B2 JP6857032 B2 JP 6857032B2 JP 2017000709 A JP2017000709 A JP 2017000709A JP 2017000709 A JP2017000709 A JP 2017000709A JP 6857032 B2 JP6857032 B2 JP 6857032B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- information
- control device
- camera
- captured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 57
- 238000011144 upstream manufacturing Methods 0.000 claims description 54
- 230000005540 biological transmission Effects 0.000 claims description 34
- 238000003384 imaging method Methods 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 53
- 238000000605 extraction Methods 0.000 description 45
- 238000000926 separation method Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 6
- 239000000428 dust Substances 0.000 description 4
- 230000002411 adverse Effects 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 238000011835 investigation Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 239000000126 substance Substances 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000010561 standard procedure Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
- H04N23/661—Transmitting camera control signals through networks, e.g. control via the Internet
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/38—Transmitter circuitry for the transmission of television signals according to analogue transmission standards
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Description
競技場(スタジアム)やコンサートホールなどの施設に複数のカメラ及びマイクを設置して撮影及び集音を行う画像処理システムについて、該画像処理システムの機能構成例を示す図1のブロック図を用いて説明する。図1の画像処理システム100は、センサシステム110a(一端:最も上流)−センサシステム110z(他端:最も下流)、サーバ200、コントローラ300、スイッチハブ180、及びエンドユーザ端末190を有する。
・ 前景背景分離部124が自カメラ画像から分離した前景画像及び背景画像
・ 生成部125が生成した三次元モデル情報
・ 破綻画像判定部123(オブジェクト抽出部401)が生成したオブジェクト抽出画像
また、カメラアダプタ120の動作モードとしてバイパスモードが設定された場合、データ送信部127は、以下に列挙するデータを、下流側のカメラアダプタ120に送信する。
・ 破綻画像判定部123(オブジェクト抽出部401)が生成したオブジェクト抽出画像
また、カメラアダプタ120の動作モードとしてマスクモードが設定された場合、データ送信部127は、以下に列挙するデータを、下流側のカメラアダプタ120に送信する。
・ 前景背景分離部124がマスク処理済画像から分離した前景画像及び背景画像
・ 生成部125が生成した三次元モデル情報
・ 破綻画像判定部123(オブジェクト抽出部401)が生成したオブジェクト抽出画像
自カメラ画像に応じたカメラアダプタ120の動作について、図7を用いて説明する。図7(A)、(B)、(C)の何れも、サッカーの試合を撮影中にカメラアダプタ120に取り込まれた自カメラ画像であり、それぞれ任意の時間に取り込まれた自カメラ画像である。
図2,3に示した各機能部は全てハードウェアで実装しても良いし、一部若しくは全部をソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、例えば、記憶部126をメモリで実装し、それ以外の機能部をコンピュータプログラムで実装しても良く、その場合、このコンピュータプログラムは、カメラアダプタ120内の不図示のプロセッサなどで実行されることになる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (11)
- 着目撮像装置による撮像画像と、該着目撮像装置の上流側の撮像装置の制御装置から伝送された第1の情報と、に基づいて、該撮像画像中のオブジェクトの三次元モデルを生成するための第2の情報を生成し、前記第1の情報と前記第2の情報とを含む伝送情報を、下流側の撮像装置の制御装置に伝送する、該着目撮像装置の制御装置であって、
前記着目撮像装置による撮像画像に、予め登録された情報に該当するオブジェクトではない無効オブジェクトが含まれている場合には、該撮像画像におけるオブジェクトのサイズ、若しくは前記撮像画像におけるオブジェクトのサイズ及び位置に応じて、前記伝送情報の生成及び伝送を制御する制御手段を備えることを特徴とする前記着目撮像装置の制御装置。 - 前記制御手段は、前記撮像画像に前記無効オブジェクトが含まれていない場合には、前記撮像画像の前景画像及び背景画像、該撮像画像においてオブジェクトの領域以外をマスクした画像、前記第1の情報と該前景画像とに基づく該オブジェクトの三次元モデルの生成に要するモデル情報、を前記第2の情報として生成し、該生成した第2の情報と前記第1の情報とを含む前記伝送情報を、前記下流側の撮像装置の制御装置に伝送することを特徴とする請求項1に記載の制御装置。
- 前記制御手段は、前記撮像画像における前記無効オブジェクトの占有率が規定値以上であれば、前記撮像画像においてオブジェクトの領域以外をマスクした画像を前記第2の情報として生成し、該生成した第2の情報と前記第1の情報とを含む前記伝送情報を、前記下流側の撮像装置の制御装置に伝送することを特徴とする請求項1又は2に記載の制御装置。
- 前記制御手段は、前記撮像画像における前記無効オブジェクトの占有率が規定値未満で、前記撮像画像に規定サイズ以上のサイズを有するオブジェクトが含まれていない場合には、前記撮像画像において前記無効オブジェクトの領域を背景画像を用いてマスクしたマスク処理済画像を生成し、該マスク処理済画像の前景画像及び背景画像、該撮像画像においてオブジェクトの領域以外をマスクした画像、前記第1の情報と該前景画像とに基づく該オブジェクトの三次元モデルの生成に要するモデル情報、を前記第2の情報として生成し、該生成した第2の情報と前記第1の情報とを含む前記伝送情報を、前記下流側の撮像装置の制御装置に伝送することを特徴とする請求項1乃至3の何れか1項に記載の制御装置。
- 前記制御手段は、前記撮像画像における前記無効オブジェクトの占有率が規定値未満で、前記撮像画像に規定サイズ以上のサイズを有するオブジェクトが該撮像画像の中央領域に位置していない場合には、前記撮像画像において前記無効オブジェクトの領域を背景画像を用いてマスクしたマスク処理済画像を生成し、該マスク処理済画像の前景画像及び背景画像、該撮像画像においてオブジェクトの領域以外をマスクした画像、前記第1の情報と該前景画像とに基づく該オブジェクトの三次元モデルの生成に要するモデル情報、を前記第2の情報として生成し、該生成した第2の情報と前記第1の情報とを含む前記伝送情報を、前記下流側の撮像装置の制御装置に伝送することを特徴とする請求項1乃至4の何れか1項に記載の制御装置。
- 前記制御手段は、前記撮像画像における前記無効オブジェクトの占有率が規定値未満で、前記撮像画像に規定サイズ以上のサイズを有するオブジェクトが該撮像画像の中央領域に位置している場合には、前記撮像画像においてオブジェクトの領域以外をマスクした画像を前記第2の情報として生成し、該生成した第2の情報と前記第1の情報とを含む前記伝送情報を、前記下流側の撮像装置の制御装置に伝送することを特徴とする請求項1乃至5の何れか1項に記載の制御装置。
- 前記着目撮像装置の制御装置は、該着目撮像装置に内蔵され、他の撮像装置と接続されているアダプタであることを特徴とする請求項1乃至6の何れか1項に記載の制御装置。
- 前記着目撮像装置の制御装置は、複数の撮像装置を制御する複数の制御装置のうちの1つであり、該複数の制御装置はデイジーチェーン接続されており、該複数の制御装置の一端の制御装置が最も上流の制御装置、他端の制御装置が最も下流の制御装置であることを特徴とする請求項1乃至7の何れか1項に記載の制御装置。
- 複数の撮像装置のそれぞれを制御する複数の制御装置と、
前記制御装置から伝送された伝送情報に基づいて、指定された視点からの画像を生成する装置と
を有するシステムであって、
着目撮像装置による撮像画像と、該着目撮像装置の上流側の撮像装置の制御装置から伝送された第1の情報と、に基づいて、該撮像画像中のオブジェクトの三次元モデルを生成するための第2の情報を生成し、前記第1の情報と前記第2の情報とを含む伝送情報を、下流側の撮像装置の制御装置に伝送する、該着目撮像装置の制御装置は、
前記着目撮像装置による撮像画像に、予め登録された情報に該当するオブジェクトではない無効オブジェクトが含まれている場合には、該撮像画像におけるオブジェクトのサイズ、若しくは前記撮像画像におけるオブジェクトのサイズ及び位置に応じて、前記伝送情報の生成及び伝送を制御する制御手段を備えることを特徴とするシステム。 - 着目撮像装置による撮像画像と、該着目撮像装置の上流側の撮像装置の制御装置から伝送された第1の情報と、に基づいて、該撮像画像中のオブジェクトの三次元モデルを生成するための第2の情報を生成し、前記第1の情報と前記第2の情報とを含む伝送情報を、下流側の撮像装置の制御装置に伝送する、該着目撮像装置の制御装置の制御方法であって、
前記着目撮像装置による撮像画像に、予め登録された情報に該当するオブジェクトではない無効オブジェクトが含まれている場合には、該撮像画像におけるオブジェクトのサイズ、若しくは前記撮像画像におけるオブジェクトのサイズ及び位置に応じて、前記伝送情報の生成及び伝送を制御することを特徴とする前記着目撮像装置の制御装置の制御方法。 - 着目撮像装置の制御装置のコンピュータに、請求項1乃至8の何れか1項に記載の着目撮像装置の制御装置の制御手段として機能させるためのコンピュータプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017000709A JP6857032B2 (ja) | 2017-01-05 | 2017-01-05 | 制御装置、システム、制御装置の制御方法 |
US15/856,327 US10397461B2 (en) | 2017-01-05 | 2017-12-28 | Control apparatus, control method, and non-transitory computer-readable storage medium |
US16/507,178 US10659673B2 (en) | 2017-01-05 | 2019-07-10 | Control apparatus, control method, and non-transitory computer-readable storage medium |
JP2021046237A JP2021119459A (ja) | 2017-01-05 | 2021-03-19 | 生成装置、生成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017000709A JP6857032B2 (ja) | 2017-01-05 | 2017-01-05 | 制御装置、システム、制御装置の制御方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021046237A Division JP2021119459A (ja) | 2017-01-05 | 2021-03-19 | 生成装置、生成方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018109904A JP2018109904A (ja) | 2018-07-12 |
JP2018109904A5 JP2018109904A5 (ja) | 2020-02-06 |
JP6857032B2 true JP6857032B2 (ja) | 2021-04-14 |
Family
ID=62711390
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017000709A Active JP6857032B2 (ja) | 2017-01-05 | 2017-01-05 | 制御装置、システム、制御装置の制御方法 |
JP2021046237A Pending JP2021119459A (ja) | 2017-01-05 | 2021-03-19 | 生成装置、生成方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021046237A Pending JP2021119459A (ja) | 2017-01-05 | 2021-03-19 | 生成装置、生成方法 |
Country Status (2)
Country | Link |
---|---|
US (2) | US10397461B2 (ja) |
JP (2) | JP6857032B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7250493B2 (ja) * | 2018-12-03 | 2023-04-03 | キヤノン株式会社 | 画像処理装置、三次元形状データの生成方法およびプログラム |
CN114762355B (zh) * | 2019-12-09 | 2024-08-02 | 索尼集团公司 | 信息处理装置和方法、程序以及信息处理系统 |
CN111901661B (zh) * | 2020-07-30 | 2022-05-24 | 海信视像科技股份有限公司 | 一种视频录制方法、播放方法及显示设备 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4354708B2 (ja) * | 2003-01-15 | 2009-10-28 | 独立行政法人科学技術振興機構 | 多視点カメラシステム |
JP2005323330A (ja) * | 2004-04-08 | 2005-11-17 | Shimizu Corp | 室内観察システム |
JP4836086B2 (ja) * | 2007-09-10 | 2011-12-14 | 三菱電機株式会社 | 3次元形状検出装置 |
JP4935647B2 (ja) * | 2007-11-29 | 2012-05-23 | カシオ計算機株式会社 | 合成画像出力装置および合成画像出力処理プログラム |
JP4214291B1 (ja) * | 2008-03-26 | 2009-01-28 | 株式会社ザイナス | 接地点推定装置、接地点推定方法、動線表示システムおよびサーバ |
JP2012015669A (ja) | 2010-06-30 | 2012-01-19 | Hitachi Consumer Electronics Co Ltd | 表示装置および画像処理装置 |
JP2012175533A (ja) * | 2011-02-23 | 2012-09-10 | Sanyo Electric Co Ltd | 電子機器 |
US9681125B2 (en) * | 2011-12-29 | 2017-06-13 | Pelco, Inc | Method and system for video coding with noise filtering |
JP2014191475A (ja) | 2013-03-26 | 2014-10-06 | Honda Motor Co Ltd | 運転支援装置 |
JP6471541B2 (ja) * | 2015-03-05 | 2019-02-20 | サクサ株式会社 | 画像処理装置 |
US10051180B1 (en) * | 2016-03-04 | 2018-08-14 | Scott Zhihao Chen | Method and system for removing an obstructing object in a panoramic image |
-
2017
- 2017-01-05 JP JP2017000709A patent/JP6857032B2/ja active Active
- 2017-12-28 US US15/856,327 patent/US10397461B2/en active Active
-
2019
- 2019-07-10 US US16/507,178 patent/US10659673B2/en active Active
-
2021
- 2021-03-19 JP JP2021046237A patent/JP2021119459A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
US20190335085A1 (en) | 2019-10-31 |
JP2021119459A (ja) | 2021-08-12 |
US20180191941A1 (en) | 2018-07-05 |
US10659673B2 (en) | 2020-05-19 |
JP2018109904A (ja) | 2018-07-12 |
US10397461B2 (en) | 2019-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11037364B2 (en) | Image processing system for generating a virtual viewpoint image, method of controlling image processing system, and storage medium | |
US11750792B2 (en) | Information processing apparatus, image generation method, control method, and storage medium | |
KR102121931B1 (ko) | 제어 디바이스, 제어 방법 및 저장 매체 | |
JP7121470B2 (ja) | 画像処理システム、制御方法、及び、プログラム | |
US10757397B2 (en) | Information processing apparatus, information processing system, information processing method, and storage medium | |
KR102032082B1 (ko) | 데이지 체인 접속이 있는 카메라 어레이로부터, 유저에 의해 선택된 시점으로부터의 가상 화상을 생성하는 방법 및 장치 | |
CN109565580B (zh) | 信息处理设备、图像生成方法、控制方法和程序 | |
JP2021119459A (ja) | 生成装置、生成方法 | |
JP7179515B2 (ja) | 装置、制御方法、及びプログラム | |
JP6871801B2 (ja) | 画像処理装置、画像処理方法、情報処理装置、撮像装置および画像処理システム | |
US20200329189A1 (en) | Control device, control method, and program | |
US10812770B2 (en) | Image processing system, image processing apparatus, image processing method, and program | |
US10623715B2 (en) | Information processing apparatus and control method therefor | |
US11095871B2 (en) | System that generates virtual viewpoint image, method and storage medium | |
JP2019022151A (ja) | 情報処理装置、画像処理システム、制御方法、及び、プログラム | |
US20180376131A1 (en) | Image processing apparatus, image processing system, and image processing method | |
JP2019140483A (ja) | 画像処理システム、画像処理システムの制御方法、伝送装置、伝送方法及びプログラム | |
JP7104504B2 (ja) | 画像処理システム、画像処理装置、画像伝送方法、及び、プログラム | |
JP7134636B2 (ja) | 制御装置、制御方法及びプログラム | |
JP2021093648A (ja) | 画像データ処理装置、画像データ処理方法、及びプログラム | |
JP2021034972A (ja) | 情報処理システム、情報処理方法、及びプログラム | |
JP2018191236A (ja) | 情報処理システム、情報処理方法、装置およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191218 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191218 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210319 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6857032 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |