JP7492331B2 - IMAGE PROCESSING APPARATUS, CONTROL METHOD AND PROGRAM FOR IMAGE PROCESSING APPARATUS - Google Patents
IMAGE PROCESSING APPARATUS, CONTROL METHOD AND PROGRAM FOR IMAGE PROCESSING APPARATUS Download PDFInfo
- Publication number
- JP7492331B2 JP7492331B2 JP2019224023A JP2019224023A JP7492331B2 JP 7492331 B2 JP7492331 B2 JP 7492331B2 JP 2019224023 A JP2019224023 A JP 2019224023A JP 2019224023 A JP2019224023 A JP 2019224023A JP 7492331 B2 JP7492331 B2 JP 7492331B2
- Authority
- JP
- Japan
- Prior art keywords
- image processing
- processing device
- image
- image data
- transfer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 119
- 238000000034 method Methods 0.000 title claims description 65
- PWPJGUXAGUPAHP-UHFFFAOYSA-N lufenuron Chemical compound C1=C(Cl)C(OC(F)(F)C(C(F)(F)F)F)=CC(Cl)=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F PWPJGUXAGUPAHP-UHFFFAOYSA-N 0.000 title 1
- 230000005540 biological transmission Effects 0.000 claims description 88
- 230000008569 process Effects 0.000 claims description 49
- 238000012546 transfer Methods 0.000 claims description 43
- 238000003384 imaging method Methods 0.000 claims description 18
- 238000001514 detection method Methods 0.000 claims description 12
- 239000012634 fragment Substances 0.000 claims description 7
- 238000005259 measurement Methods 0.000 claims description 4
- 230000004083 survival effect Effects 0.000 claims 2
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000013500 data storage Methods 0.000 description 6
- 238000011144 upstream manufacturing Methods 0.000 description 5
- 230000002159 abnormal effect Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Landscapes
- Studio Devices (AREA)
- Small-Scale Networks (AREA)
Description
本発明は、画像処理装置、画像処理装置の制御方法及びプログラムに関するものである。 The present invention relates to an image processing device, a control method for an image processing device, and a program.
近年、複数のカメラを異なる位置に設置して多視点で同期撮影し、当該撮影により得られた複数の画像を用いて仮想視点画像を生成する技術が注目されている。このような仮想視点画像を生成する技術によれば、例えば、サッカーやバスケットボールのハイライトシーンを様々な角度から視聴することができるため、通常の画像と比較してユーザに高臨場感を与えることができる。 In recent years, technology has been gaining attention for its use in which multiple cameras are installed in different positions to capture images from multiple viewpoints simultaneously, and a virtual viewpoint image is generated using the multiple images obtained by the capture. This technology for generating virtual viewpoint images allows users to view, for example, highlight scenes from a soccer or basketball game from a variety of angles, providing a greater sense of realism to the user than with normal images.
また、仮想視点画像の生成及び閲覧は、複数のカメラが撮影した画像をサーバなどに集約し、当該サーバにおいて三次元モデル生成やレンダリングなどの処理を施し、ユーザ端末に伝送を行うことで実現できる。このような仮想視点画像を生成するシステムでは、複数のカメラが複数の画像を取得し、サーバに伝送することが必要であり、伝送経路の十分な帯域が確保できないと生成する仮想視点画像の画質劣化を招くことになる。また、シーンによりカメラ毎に必要となる伝送帯域が動的に変化する場合には適応的に帯域を割り当てる必要がある。 In addition, virtual viewpoint images can be generated and viewed by collecting images captured by multiple cameras on a server or the like, performing processing such as three-dimensional model generation and rendering on the server, and transmitting the images to a user terminal. In a system that generates such virtual viewpoint images, multiple cameras need to capture multiple images and transmit them to the server, and if sufficient bandwidth cannot be secured for the transmission path, the image quality of the generated virtual viewpoint image will deteriorate. In addition, if the transmission bandwidth required for each camera dynamically changes depending on the scene, it is necessary to allocate the bandwidth adaptively.
これに対して、特許文献1は、トークン制御方式によりデータ送信を行う伝送手法を開示している。トークンを使用してカメラ毎に撮影データの送信タイミングを決定することにより、カメラ毎に無駄のない帯域割り当てが可能である。
In response to this,
しかしながら、特許文献1に記載の技術では、撮影データの伝送だけでなくトークンをカメラ間で還流させて制御するための仕組みが必要である。また、カメラの台数が増えるとトークンを取得して送信を開始するまでのオーバーヘッドが大きくなる。
However, the technology described in
本発明は、上記の課題に鑑みてなされたものであり、画像処理装置において、処理された画像データを適切に送信するための技術を提供することを目的とする。 The present invention has been made in consideration of the above problems, and aims to provide a technique for appropriately transmitting processed image data in an image processing device.
上記の目的を達成する本発明に係る画像処理装置の一態様は、
複数の撮影装置により同期して撮影を行う撮影システムにおける、第1画像処理装置及び第2画像処理装置と接続された画像処理装置であって、
前記第1画像処理装置から、前記第1画像処理装置により処理された画像データを受信する受信手段と、
前記受信手段により受信した前記画像データを、前記第2画像処理装置に転送する転送手段と、
前記受信手段により受信した前記画像データのヘッダ情報に基づいて、前記受信手段により受信した前記画像データの前記第2画像処理装置への転送が終了することを検知する検知手段と、
前記検知手段により前記受信手段により受信した前記画像データの前記第2画像処理装置への転送が終了することが検知されたことに基づいて、前記画像処理装置が処理した画像データを前記第2画像処理装置に送信する送信手段と、
前記複数の撮影装置による撮影の同期信号に基づいて、時間を計測する計測手段と、
を有し、
前記送信手段は、前記計測手段により計測する時間が所定時間を経過する前に前記検知手段により前記転送の終了が検知されない場合、前記画像処理装置が処理した画像データを破棄することを特徴とする。
One aspect of the image processing device according to the present invention that achieves the above object is to
An image processing device connected to a first image processing device and a second image processing device in an imaging system that synchronously captures images using a plurality of imaging devices ,
a receiving means for receiving image data processed by the first image processing device from the first image processing device;
a transfer means for transferring the image data received by the receiving means to the second image processing device;
a detection means for detecting that transfer of the image data received by the receiving means to the second image processing device is completed based on header information of the image data received by the receiving means;
a transmitting means for transmitting the image data processed by the image processing device to the second image processing device based on the detection means detecting that the transfer of the image data received by the receiving means to the second image processing device is completed;
a time measuring means for measuring time based on a synchronization signal of the plurality of image capturing devices;
having
The transmitting means is characterized in that if the detection means does not detect the end of the transfer before the time measured by the measurement means reaches a predetermined time, the transmitting means discards the image data processed by the image processing device .
本発明によれば、画像処理装置において、処理された画像データを適切に送信することが可能となる。 According to the present invention, it is possible for an image processing device to appropriately transmit processed image data.
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。 The following embodiments are described in detail with reference to the attached drawings. Note that the following embodiments do not limit the invention according to the claims. Although the embodiments describe multiple features, not all of these multiple features are necessarily essential to the invention, and multiple features may be combined in any manner. Furthermore, in the attached drawings, the same reference numbers are used for the same or similar configurations, and duplicate explanations are omitted.
(実施形態1)
まず、図1を参照しながら、競技場(スタジアム)やコンサートホールなどの施設に複数のカメラを設置して撮影を行う撮影システムについて説明する。撮影システム100は、カメラ(撮影装置)112a-112h、カメラアダプタ(画像処理装置)120a-120h、スイッチングハブ180、画像コンピューティングサーバ200、タイムサーバ290、及びコントローラ300を含んで構成される。
(Embodiment 1)
First, an imaging system that captures images by installing multiple cameras in a facility such as a sports field (stadium) or concert hall will be described with reference to Fig. 1. The
本実施形態において、特別な説明がない場合は、カメラ112aからカメラ112hまでを区別せずカメラ112と記載する。同様にカメラアダプタ120a-120hも特別な説明がない場合は区別せず、カメラアダプタ120と記載する。
In this embodiment, unless otherwise specified,
なお、本実施形態では、特に断りがない限り、画像という文言が、動画と静止画の概念を含むものとして説明する。すなわち、本実施形態の撮影システム100は、静止画及び動画の何れについても撮影可能である。
In this embodiment, unless otherwise specified, the term "image" is explained as including the concepts of moving images and still images. In other words, the
本実施形態の撮影システム100では、スイッチングハブ180に対して画像コンピューティングサーバ200、タイムサーバ290、カメラアダプタ120aが接続されている。そして、画像コンピューティングサーバ200に対してコントローラ300が接続されている。また、カメラアダプタ120a-120hはデイジーチェーン接続されている。また、カメラ112a-112hは、それぞれ1台ずつのカメラアダプタ120a-120hと関連づけられ、接続されている。
In the
カメラアダプタ120は、カメラ112と接続し、カメラ112の制御、撮影した画像の取得、同期信号の提供、及び時刻設定などを行う機能を有している。カメラ112の制御には、例えば撮影パラメータ(画素数、色深度、フレームレート、及びホワイトバランスの設定など)の設定及び参照、カメラ112の状態(撮影中、停止中、同期中、及びエラーなど)の取得、撮影の開始及び停止や、ピント調整などがある。同期信号の提供は、カメラアダプタ120がタイムサーバ290と同期した時刻を利用し、撮影タイミング(制御クロック)をカメラ112に提供することで行われる。時刻設定は、カメラアダプタ120がタイムサーバ290と同期した時刻を、例えばSMPTE12Mのフォーマットに準拠したタイムコードで提供することで行われる。これにより、カメラ112から受け取る画像データに提供したタイムコードが付与されることになる。なお、タイムコードのフォーマットはSMPTE12Mに限定されるわけではなく、他のフォーマットであってもよい。
The
コントローラ300は、撮影システム100のネットワークを介してカメラアダプタ120a-120hに制御信号を送ることによりカメラ112a-112hの撮影を制御する。また、コントローラ300は、ネットワークを介してカメラ112a-112hが撮影した画像データを画像コンピューティングサーバ200に転送するとともに画像コンピューティングサーバ200から選択した画像データを取り出す。
The
図2は、一実施形態における注視点及びカメラ配置を説明する図である。カメラ112a-112hおよびカメラアダプタ120a-120hは、フィールド250を取り囲むように設置されている。また、カメラ112a-112hは、各々光軸が注視点Aを向くようになっている。
Figure 2 is a diagram explaining the gaze point and camera arrangement in one embodiment. The
<ハードウェア構成>
図3(a)を用いて、画像処理装置として機能するカメラアダプタ120のハードウェア構成について説明する。カメラアダプタ120は、CPU211、ROM212、RAM213、補助記憶装置214、通信I/F215、及びバス216を有する。
<Hardware Configuration>
3A, the hardware configuration of the
CPU211は、ROM212やRAM213に格納されているコンピュータプログラムやデータを用いてカメラアダプタ120の全体を制御することで、図1に示すカメラアダプタ120の各機能を実現する。なお、カメラアダプタ120がCPU211とは異なる1又は複数の専用のハードウェアを有し、CPU211による処理の少なくとも一部を専用のハードウェアが実行してもよい。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、およびDSP(デジタルシグナルプロセッサ)などがある。ROM212は、変更を必要としないプログラムなどを格納する。RAM213は、補助記憶装置214から供給されるプログラムやデータ、及び通信I/F215を介して外部から供給されるデータなどを一時記憶する。補助記憶装置214は、例えばハードディスクドライブ等で構成され、画像データや音声データなどの種々のデータを記憶する。
The
通信I/F215は、カメラアダプタ120の外部の装置との通信に用いられる。例えば、カメラアダプタ120が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F215に接続される。カメラアダプタ120が外部の装置と無線通信する機能を有する場合には、通信I/F215はアンテナを備える。バス216は、カメラアダプタ120の各部をつないで情報を伝達する。
The communication I/
<機能構成>
次に、図3(b)を用いて、画像処理装置として機能するカメラアダプタ120の機能構成について説明する。図3(b)は、特にカメラアダプタ120の送受信処理部130周辺の構成を示している。図3(b)に示すように、カメラアダプタ120は、撮影データ生成部121、送受信処理部130、ポート122、及びポート123を備えている。送受信処理部130は、受信データ保持部131、受信処理部132、送信処理部133、送品データ保持部134、カウンタ135、及びカウンタ136を備えている。
<Functional configuration>
Next, the functional configuration of the
撮影データ生成部121は、カメラ112が撮影した画像データを送信する。ポート122及びポート123は、隣接するカメラアダプタ120間でパケットを送受信するための入力部及び出力部である。
The image
送受信処理部130は、カメラアダプタ120が送受信するパケットを処理する。受信データ保持部131は、ポート122が受信したパケットを一時保持する。受信処理部132は、受信データ保持部131に一時保持した受信パケットのヘッダ情報に基づいて受信処理を行う。
The transmission/
送信処理部133は、受信処理部132で受信処理された受信データおよび撮影データ生成部121で生成された撮影データを送信するための送信処理を行う。送信データ保持部134は、送信処理部133で送信処理された送信データを一時保持する。
The
カウンタ135は、カメラ112の垂直同期信号に基づくフレーム開始時にリセットされた後、クロックをカウントする。所定値に達すると、カメラアダプタ120における転送を不可の状態にする。カウンタ136は、カメラ112の垂直同期信号に基づくフレーム開始時にリセットされた後、クロックをカウントする。所定値に達すると、カメラ112が生成した撮影データが破棄される。
The
<ヘッダフォーマット>
図4は、インターネットプロトコルのヘッダフォーマットを示す図である。本実施形態においては、図1に示したネットワーク上でカメラアダプタ120から画像コンピューティングサーバ200に、カメラ112の撮影データにヘッダを付加したパケットを送信する。本実施形態では、ヘッダの生存時間フィールド402に全てのカメラアダプタ120に共通の初期値を与えカメラアダプタ120を1つ経由する毎に1減じていく。このため転送するパケットの生存時間フィールド402の値が"初期値-1"であれば1つ上流の隣接したカメラアダプタ120が送信した撮影データであることが判別できる。また本実施形態では、フラグフィールド401のビット2を参照してフラグメント化された後続のパケットがあるかどうかを判別する。
<Header format>
4 is a diagram showing a header format of the Internet Protocol. In this embodiment, a packet in which a header is added to the photographic data of the
<カメラアダプタの転送動作>
図5は、実施形態1におけるカメラアダプタ120、特に送受信処理部130の転送動作の手順を示すフローチャートである。
<Camera adapter transfer operation>
FIG. 5 is a flowchart showing the procedure of the transfer operation of the
ステップS501において、送受信処理部130は、カメラ112の垂直同期信号をモニタしており、フレーム開始を検知する。そして、フレーム開始を検知した後、カウンタ135はクロックのカウントを開始し、ステップS502へ進む。一方、フレーム開始を検知していない場合、検知するまで待機する。
In step S501, the transmission/
ステップS502において、送受信処理部130は、カウンタ135のカウント値があらかじめ設定された値に達してタイムアウトしたか否かを判定する。タイムアウトしたと判定された場合、ステップS508へ進む。一方、タイムアウトしていないと判定された場合、ステップS503へ進む。
In step S502, the transmission/
ステップS503において、カメラアダプタ120は、ポート122を介して上流側のカメラアダプタ120から転送されたパケットを受信したか否かを判定する。パケットを受信した場合、ステップS504へ進む。一方、パケットを受信していない場合、ステップS502に戻る。
In step S503, the
ステップS504において、受信処理部132は、送受信処理部130内の転送ステータスが転送可になっているか否かを判定する。本実施形態では、送受信処理部130は上流側のカメラアダプタ120が送信する撮影データを全て転送したと判断するまでは転送ステータスは転送可であり、全ての転送が終了した後は転送不可となる。転送可であると判定された場合、ステップS505へ進む。一方、転送不可であると判定された場合、ステップS509へ進む。
In step S504, the reception processing unit 132 determines whether the transfer status in the transmission/
ステップS505において、転送ステータスが転送可であるため、カメラアダプタ120は、ポート123を介して下流側のカメラアダプタ120にデータを転送する。
In step S505, since the transfer status is transferable, the
ステップS506において、カメラアダプタ120は、受信したパケットのヘッダ情報を参照し、生存時間フィールド402から、受信パケットが隣接しているカメラアダプタ120の撮影データであるか否かを判定する。前述したように受信パケットの生存時間フィールド402が初期値-1であれば隣接したカメラアダプタ120の送信データを転送していると判定することができる。そして、隣接するカメラアダプタ120の撮影データであると判定された場合、ステップS507へ進む。一方、隣接するカメラアダプタ120の撮影データではないと判定された場合、ステップS510へ進む。
In step S506, the
ステップS507において、受信処理部132は、受信パケットのフラグフィールド401を参照し、後続するフラグメントデータがあるか否か、すなわちラストフラグであるか否かを判定する。後続するフラグメントデータがあると判定された場合は、ラストフラグではないので、ステップS510へ進む。一方、後続するフラグメントデータがないと判定された場合は、ラストフラグであるので、ステップS508へ進む。
In step S507, the reception processing unit 132 refers to the
ステップS508において、受信処理部132は、転送ステータスを転送不可に変更する。例えば、ステップS507からステップS508へ遷移した場合、転送したパケットが隣接したカメラアダプタ120の最後のパケットであるため、上流側のカメラアダプタ120の撮影データを全て転送したと判定し、転送ステータスを転送不可に変更する。
In step S508, the reception processing unit 132 changes the transfer status to transfer not possible. For example, when transitioning from step S507 to step S508, since the transferred packet is the last packet of the
ステップS509において、受信処理部132は、受信したパケットを破棄し、ステップS510に進む。 In step S509, the reception processing unit 132 discards the received packet and proceeds to step S510.
ステップS510において、送受信処理部130は、次のフレーム開始を検知する。そして、次のフレーム開始が検知されない場合は、ステップS502に戻る。一方、次のフレーム開始が検知された場合は、ステップS511へ進む。
In step S510, the transmission/
ステップS511において、送受信処理部130は、転送ステータスを転送可に変更した後、ステップS512へ進む。
In step S511, the transmission/
ステップS512において、カメラアダプタ120は、処理を終了するか否かを判定する。処理を終了しない場合、ステップS502に戻り、一連の処理を繰り返す。
In step S512, the
なお、ステップS508以降、次のフレームになるまで送受信処理部130は通常はパケットを受信しない。しかし、異常なケースとしてパケットを受信した場合、ステップS502からステップS503、ステップS504へ進み、転送ステータスが転送不可であるためステップS509へ進み、その結果、受信した異常なパケットは破棄されることになる。
After step S508, the transmission/
<カメラアダプタの送信動作>
図6は、実施形態1におけるカメラアダプタ120、特に送受信処理部130の送信動作の手順を示すフローチャートである。
<Camera adapter transmission operation>
FIG. 6 is a flowchart showing the procedure of the transmission operation of the
ステップS601において、送受信処理部130は、カメラ112の垂直同期信号をモニタしており、フレーム開始を検知する。そして、フレーム開始を検知した後、カウンタ136はクロックのカウントを開始し、ステップS602へ進む。一方、フレーム開始を検知していない場合、検知するまで待機する。
In step S601, the transmission/
ステップS602において、送受信処理部130は、カウンタ136のカウント値があらかじめ設定された値に達してタイムアウトしたか否かを判定する。タイムアウトしたと判定された場合、ステップS605へ進む。一方、タイムアウトしていないと判定された場合、ステップS603へ進む。
In step S602, the transmission/
ステップS603において、受信処理部132は、送受信処理部130内の転送ステータスを参照し、転送ステータスが転送可になっているか否かを判定する。転送可であると判定された場合、ステップS602に戻る。一方、転送不可であると判定された場合、ステップS604へ進む。
In step S603, the reception processing unit 132 refers to the forwarding status in the transmission/
ステップS604において、送受信処理部130は、送信データ保持部134に一時保持していた送信データを、ポート123を介して次のカメラアダプタ120に送信する。なお、送信データ保持部134に一時保持していた送信データは、カメラ112が撮影したデータに送信処理部133がヘッダを付加したものである。
In step S604, the transmission/
ステップS605において、送受信処理部130は、送信データ保持部134に一時保持していた送信データを破棄する。このように、所定時間内に転送の終了が検知されない場合、カメラアダプタ120が処理した画像データを破棄する。
In step S605, the transmission/
ステップ606において、カメラアダプタ120は、処理を終了するか否かを判定する。処理を終了しない場合、ステップS601に戻り、一連の処理を繰り返す。
In step S606, the
なお、所定時間内に転送の終了が検知されない場合には、カメラアダプタ120が処理した画像データの下流側のカメラアダプタへの送信を開始するようにしてもよい。
If the end of the transfer is not detected within a specified time, the
<撮影システムの動作>
図7は、実施形態1における撮影システム100の動作シーケンスを示した図である。
<Operation of the imaging system>
FIG. 7 is a diagram showing an operation sequence of the
ステップS701において、コントローラ300が、各カメラアダプタ120を介してカメラ112の撮影条件を決定するカメラパラメータを設定する。また、コントローラ300は、カメラアダプタ120およびカメラ112の時刻同期を行う。
In step S701, the
ステップS702において、コントローラ300は、各カメラアダプタ120に送受信制御に関する送受信パラメータを設定する。ステップS703において、コントローラ300は、カメラアダプタ120を介してカメラ112に撮影を開始させる。
In step S702, the
ステップS704において、カメラ112は、1フレーム期間、撮影を行う。ステップS705において、カメラ112は、カメラアダプタ120に対して1フレーム分の画像データを出力する。ステップS706において、カメラアダプタ120hは、カメラ112hが撮影したデータにヘッダを付加して隣接するカメラアダプタ120gに送信する。
In step S704, the
ステップS707において、カメラアダプタ120gは、隣接するカメラアダプタ120hからカメラ112hが撮影したデータを受信し、隣接するカメラアダプタ120fに転送する。同様に、カメラアダプタ120fから、カメラ112hが撮影したデータを、カメラアダプタ120e、カメラアダプタ120d、カメラアダプタ120c、カメラアダプタ120bと順次転送する。
In step S707,
そして、ステップS712において、カメラアダプタ120bから、カメラ112hが撮影したデータをカメラアダプタ120aに転送する。その後、ステップS713において、カメラアダプタ120aから、カメラ112hが撮影したデータを画像コンピューティングサーバ200に転送する。このようにして、カメラアダプタ120hからカメラ112hが撮影したデータを画像コンピューティングサーバ200に送信することができる。
Then, in step S712, the data captured by the
一方、ステップS707において、カメラアダプタ120gが、カメラ112hが撮影したデータの転送を終了したことを検知すると、ステップS714において、カメラアダプタ120gはカメラ112gが撮影したデータをカメラアダプタ120fに送信する。そして、カメラ112hの場合と同様にカメラ112gが撮影したデータは最終的に画像コンピューティングサーバ200に転送される。同様の手順で、カメラ112fからカメラ112aが各々撮影したデータを画像コンピューティングサーバ200に送信する。
On the other hand, when the
以上説明したステップS706以降に示したカメラ112が撮影したデータの画像コンピューティングサーバ200への送信は1フレーム期間内に完了する必要がある。カメラ112は、ステップS704に示した撮影動作と撮影データの伝送動作とを並行して行うことができる。そのため、カメラアダプタ120は、画像コンピューティングサーバ200bへの1フレーム分の伝送が終了した後、次のフレームの伝送動作を開始することができる。
The transmission of data captured by the
以上説明したように、本実施形態によれば、トークンパケットを使用することなく、IPヘッダの情報のみでカスケード接続した複数台のカメラの撮影データを順次隙間なく伝送することができる。 As described above, according to this embodiment, it is possible to transmit image data from multiple cascaded cameras sequentially and seamlessly using only IP header information, without using token packets.
(実施形態2)
本実施形態では、カメラの撮影データの転送動作と送信動作とを一部同時に行う例を説明する。本実施形態では、実施形態1で示した転送ステータスに加えて送信ステータスを導入し、送信ステータスが送信可のときに送信を行うものとする。また、図4に示したヘッダフォーマットを一部変更し、フラグメント化された最後の4パケットにおいてフラグフィールド401のビット0を1にして送信する。残りが4パケットと少ないパケットになっていることが分かるので、送信が終了することを検知することができる。そして、下流側のカメラアダプタ120は、隣接したカメラアダプタ120の最後の4パケットを受信したときに、送信ステータスを送信可に変更して送信を開始する。なお、最後の4パケットは一例であり、最後の3パケット、最後の2パケットなどその他の数を設定してもよい。
(Embodiment 2)
In this embodiment, an example will be described in which the transfer operation and the transmission operation of the camera's photographed data are performed partly at the same time. In this embodiment, a transmission status is introduced in addition to the transfer status shown in the first embodiment, and transmission is performed when the transmission status is transmission possible. Also, the header format shown in FIG. 4 is partially changed, and
なお、撮影システム100に含まれる装置構成については実施形態1と同様であるので、詳細な説明は省略する。
The device configuration included in the
<カメラアダプタの転送動作>
図8は、実施形態2におけるカメラアダプタ120、特に送受信処理部130の転送動作の手順を示すフローチャートである。
<Camera adapter transfer operation>
FIG. 8 is a flowchart showing the procedure of the transfer operation of the
ステップS801からステップS804までの各処理は、実施形態1におけるステップS501からステップS504までの各処理と同じ動作であるので説明を省略する。また、ステップS810の処理は、ステップS508の処理と同じ動作であるので説明を省略する。
The processes from step S801 to step S804 are the same as the processes from step S501 to step S504 in
ステップS805において、カメラアダプタ120は、受信したパケットのヘッダ情報を参照し、生存時間フィールド402から受信パケットが隣接しているカメラアダプタ120の撮影データであるか否かを判定する。前述したように受信パケットの生存時間フィールド402が初期値-1であれば隣接したカメラアダプタ120の送信データを転送していると判定することができる。そして、隣接するカメラアダプタ120の撮影データであると判定された場合、ステップS50806へ進む。一方、隣接するカメラアダプタ120の撮影データではないと判定された場合、ステップS811へ進む。
In step S805, the
ステップS806において、カメラアダプタ120は、受信パケットのフラグフィールド401のビット0を参照し、受信パケットの最後の4パケットであるか否か、すなわち送信可能であるか否かを判定する。最後の4パケットである場合は、送信可能であると判定できるため、ステップS807へ進む。一方、最後の4パケットではない場合は、送信可能ではないと判定できるため、ステップS811へ進む。
In step S806, the
ステップS807において、送受信処理部130は、初期状態で送信不可である送信ステータスを送信可に変更する。
In step S807, the transmission/
ステップS808において、受信処理部132は、受信パケットのフラグフィールド401を参照し、後続するフラグメントデータがあるか否か、すなわちラストフラグであるか否かを判定する。後続するフラグメントデータがあると判定された場合は、ラストフラグではないので、ステップS811へ進む。一方、後続するフラグメントデータがないと判定された場合は、ラストフラグであるので、ステップS809へ進む。ステップS809において、受信処理部132は、転送したパケットが隣接したカメラアダプタ120の最後のパケットであるため、上流のカメラアダプタ120の撮影データを全て転送したと判定し、転送ステータスを転送不可に変更する。
In step S808, the reception processing unit 132 refers to the
ステップS810において、受信処理部132は、受信したパケットを破棄し、ステップS811に進む。ステップS811において、送受信処理部130は、カメラ112の垂直同期信号に基づいて次のフレーム開始を検知する。そして、次のフレーム開始が検知されない場合は、ステップS802に戻る。一方、次のフレーム開始が検知された場合は、ステップS812へ進む。
In step S810, the reception processing unit 132 discards the received packet and proceeds to step S811. In step S811, the transmission/
ステップS812において、送受信処理部130は、送信ステータスを送信不可に変更する。続いて、ステップS813において、送受信処理部130は、転送ステータスを転送可に変更する。
In step S812, the transmission/
ステップS814において、カメラアダプタ120は、処理を終了するか否かを判定する。処理を終了しない場合、ステップS802に戻り、一連の処理を繰り返す。
In step S814, the
なお、ステップS809以降、次のフレームになるまで送受信処理部130は通常はパケットを受信しない。しかし、異常なケースとしてパケットを受信した場合、ステップS802からステップS803へ進み、転送ステータスが転送不可であるためステップS810へ進み、その結果、受信した異常なパケットは破棄されることになる。
After step S809, the transmission/
<カメラアダプタの送信動作>
図9は、実施形態2におけるカメラアダプタ120、特に送受信処理部130の送信動作の手順を示すフローチャートである。
<Camera adapter transmission operation>
FIG. 9 is a flowchart showing the procedure of the transmission operation of the
ステップS901において、送受信処理部130は、カメラ112の垂直同期信号をモニタしており、フレーム開始を検知する。そして、フレーム開始を検知した後、ステップS902へ進む。
In step S901, the transmission/
ステップS902において、送受信処理部130は、送信ステータスを参照し、送信ステータスが送信可になっているか否かを判定する。送信可であると判定された場合、ステップS903へ進む。一方、送信可ではないと判定された場合、送信可になるまで待機する。
In step S902, the transmission/
ステップS903において、送受信処理部130は、送信データ保持部134に一時保持していた送信データを、ポート123を介して次のカメラアダプタ120へ送信する。
In step S903, the transmission/
以上説明したように、本実施形態によれば、トークンパケットを使用することなく、IPヘッダの情報のみでカスケード接続した複数台のカメラの撮影データを順次隙間なく伝送することができる。さらに、本実施形態によればカメラの撮影データの転送動作と送信動作とを一部同時に行うことが可能となる。 As described above, according to this embodiment, it is possible to transmit the image data of multiple cascaded cameras sequentially and seamlessly using only the IP header information, without using token packets. Furthermore, according to this embodiment, it is possible to perform the transfer and transmission operations of the camera's image data partially simultaneously.
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Other Embodiments
The present invention can also be realized by a process in which a program for implementing one or more of the functions of the above-described embodiments is supplied to a system or device via a network or a storage medium, and one or more processors in a computer of the system or device read and execute the program. The present invention can also be realized by a circuit (e.g., ASIC) that implements one or more of the functions.
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。 The invention is not limited to the above-described embodiments, and various modifications and variations are possible without departing from the spirit and scope of the invention.
112:カメラ、120:カメラアダプタ、121:撮影データ生成部、122,123:ポート、130:送受信処理部、131:受信データ保持部、132:受信処理部、133:送信処理部、134:送信データ保持部、135,136:カウンタ、180:スイッチングハブ、200:画像コンピューティングサーバ、290:タイムサーバ、300:コントローラ 112: Camera, 120: Camera adapter, 121: Shooting data generation unit, 122, 123: Port, 130: Transmission/reception processing unit, 131: Received data storage unit, 132: Reception processing unit, 133: Transmission processing unit, 134: Transmitted data storage unit, 135, 136: Counter, 180: Switching hub, 200: Image computing server, 290: Time server, 300: Controller
Claims (10)
前記第1画像処理装置から、前記第1画像処理装置により処理された画像データを受信する受信手段と、
前記受信手段により受信した前記画像データを、前記第2画像処理装置に転送する転送手段と、
前記受信手段により受信した前記画像データのヘッダ情報に基づいて、前記受信手段により受信した前記画像データの前記第2画像処理装置への転送が終了することを検知する検知手段と、
前記検知手段により前記受信手段により受信した前記画像データの前記第2画像処理装置への転送が終了することが検知されたことに基づいて、前記画像処理装置が処理した画像データを前記第2画像処理装置に送信する送信手段と、
前記複数の撮影装置による撮影の同期信号に基づいて、時間を計測する計測手段と、
を有し、
前記送信手段は、前記計測手段により計測する時間が所定時間を経過する前に前記検知手段により前記転送の終了が検知されない場合、前記画像処理装置が処理した画像データを破棄することを特徴とする画像処理装置。 An image processing device connected to a first image processing device and a second image processing device in an imaging system that synchronously performs imaging using a plurality of imaging devices ,
a receiving means for receiving image data processed by the first image processing device from the first image processing device;
a transfer means for transferring the image data received by the receiving means to the second image processing device;
a detection means for detecting that transfer of the image data received by the receiving means to the second image processing device is completed based on header information of the image data received by the receiving means;
a transmitting means for transmitting the image data processed by the image processing device to the second image processing device based on the detection means detecting that the transfer of the image data received by the receiving means to the second image processing device is completed;
a time measuring means for measuring time based on a synchronization signal of the plurality of image capturing devices;
having
The image processing device is characterized in that the transmitting means discards the image data processed by the image processing device if the detection means does not detect the end of the transfer before the time measured by the measurement means elapses a predetermined time .
前記検知手段は、前記ヘッダ情報の前記フラグフィールドを参照し、後続するフラグメントデータがないことを検知することにより、前記転送が終了することを検知することを特徴とする請求項1に記載の画像処理装置。 the header information includes a flags field;
2. The image processing apparatus according to claim 1, wherein said detection means detects that the transfer is to end by referring to the flag field of the header information and detecting that there is no subsequent fragment data.
前記検知手段は、前記ヘッダ情報の前記生存時間フィールドを参照し、前記生存時間フィールドの値に基づいて、前記受信手段により受信された画像データが、前記第1画像処理装置により処理された画像データであることをさらに検知することを特徴とする請求項1又は2に記載の画像処理装置。 the header information includes a time to live field;
3. The image processing device according to claim 1, wherein the detection means further detects, by referring to the survival time field of the header information and based on the value of the survival time field, that the image data received by the receiving means is image data processed by the first image processing device.
前記検知手段は、前記ヘッダ情報の前記フラグフィールドを参照し、前記第1画像処理装置により処理される画像データの残りのパケットが所定の値であることを検知することにより、前記転送が終了することを検知することを特徴とする請求項1に記載の画像処理装置。 the header information includes a flags field;
The image processing device according to claim 1, characterized in that the detection means detects that the transfer is completed by referring to the flag field of the header information and detecting that the remaining packets of image data to be processed by the first image processing device have a predetermined value .
前記送信手段は、前記取得手段により取得されて前記画像処理装置により処理された画像データを、前記第2画像処理装置へ送信することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。 The image processing device further includes an acquisition unit for acquiring image data captured by a photographing device associated with the image processing device from the photographing device,
5. The image processing apparatus according to claim 1 , wherein the transmitting means transmits the image data acquired by the acquiring means and processed by the image processing apparatus to the second image processing apparatus.
前記画像処理装置が処理した各画像データは、前記カスケード接続を介して前記サーバ装置に送信されることを特徴とする請求項7に記載の画像処理装置。 another image processing apparatus located most downstream in the cascade connection among the plurality of image processing apparatuses is connected to a server apparatus via a switching hub;
8. The image processing apparatus according to claim 7 , wherein each image data processed by said image processing apparatus is transmitted to said server apparatus via said cascade connection.
前記第1画像処理装置から、前記第1画像処理装置により処理された画像データを受信する受信工程と、
前記受信工程により受信した前記画像データを、前記第2画像処理装置に転送する転送工程と、
前記受信工程により受信した前記画像データのヘッダ情報に基づいて、前記受信工程により受信した前記画像データの前記第2画像処理装置への転送が終了することを検知する検知工程と、
前記検知工程により前記受信工程により受信した前記画像データの前記第2画像処理装置への転送が終了することが検知されたことに基づいて、前記画像処理装置が処理した画像データを前記第2画像処理装置に送信する送信工程と、
前記複数の撮影装置による撮影の同期信号に基づいて、時間を計測する計測工程と、
を有し、
前記送信工程では、前記計測工程により計測する時間が所定時間を経過する前に前記検知工程により前記転送の終了が検知されない場合、前記画像処理装置が処理した画像データを破棄することを特徴とする画像処理装置の制御方法。 A method for controlling an image processing device connected to a first image processing device and a second image processing device in an image capture system that captures images synchronously using a plurality of image capture devices , comprising:
a receiving step of receiving image data processed by the first image processing device from the first image processing device;
a transfer step of transferring the image data received in the receiving step to the second image processing device;
a detection step of detecting that transfer of the image data received in the receiving step to the second image processing device is completed based on header information of the image data received in the receiving step;
a transmitting step of transmitting the image data processed by the image processing device to the second image processing device based on the detection step of the completion of the transfer of the image data received by the receiving step to the second image processing device;
a measurement step of measuring time based on a synchronization signal of the plurality of image capturing devices;
having
A method for controlling an image processing device, characterized in that, in the transmission process, if the detection process does not detect the end of the transfer before the time measured by the measurement process elapses a predetermined time, the image data processed by the image processing device is discarded .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019224023A JP7492331B2 (en) | 2019-12-11 | 2019-12-11 | IMAGE PROCESSING APPARATUS, CONTROL METHOD AND PROGRAM FOR IMAGE PROCESSING APPARATUS |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019224023A JP7492331B2 (en) | 2019-12-11 | 2019-12-11 | IMAGE PROCESSING APPARATUS, CONTROL METHOD AND PROGRAM FOR IMAGE PROCESSING APPARATUS |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021093661A JP2021093661A (en) | 2021-06-17 |
JP7492331B2 true JP7492331B2 (en) | 2024-05-29 |
Family
ID=76312882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019224023A Active JP7492331B2 (en) | 2019-12-11 | 2019-12-11 | IMAGE PROCESSING APPARATUS, CONTROL METHOD AND PROGRAM FOR IMAGE PROCESSING APPARATUS |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7492331B2 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009021700A (en) | 2007-07-10 | 2009-01-29 | Canon Inc | Communication system, communication equipment, and communication method of communication system |
JP2010154130A (en) | 2008-12-24 | 2010-07-08 | Nippon Telegr & Teleph Corp <Ntt> | Routing authentication device, routing authentication system, routing authentication method and program thereof |
JP2017211827A (en) | 2016-05-25 | 2017-11-30 | キヤノン株式会社 | Information processing unit, control method and program |
-
2019
- 2019-12-11 JP JP2019224023A patent/JP7492331B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009021700A (en) | 2007-07-10 | 2009-01-29 | Canon Inc | Communication system, communication equipment, and communication method of communication system |
JP2010154130A (en) | 2008-12-24 | 2010-07-08 | Nippon Telegr & Teleph Corp <Ntt> | Routing authentication device, routing authentication system, routing authentication method and program thereof |
JP2017211827A (en) | 2016-05-25 | 2017-11-30 | キヤノン株式会社 | Information processing unit, control method and program |
Also Published As
Publication number | Publication date |
---|---|
JP2021093661A (en) | 2021-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11032490B2 (en) | Camera array including camera modules | |
JP2007266781A (en) | Photographing system | |
US20200045221A1 (en) | Photographing synchronization method and apparatus | |
TWI449418B (en) | Camera system, signal delay amount adjusting method and program | |
JP5995928B2 (en) | Network system, network switch, and distribution destination network device | |
US20180376131A1 (en) | Image processing apparatus, image processing system, and image processing method | |
JP7492331B2 (en) | IMAGE PROCESSING APPARATUS, CONTROL METHOD AND PROGRAM FOR IMAGE PROCESSING APPARATUS | |
US20070096012A1 (en) | Vehicle Service System Digital Camera Interface | |
JP5593078B2 (en) | Camera device | |
JP2018077674A (en) | Image processing device, image processing method and program | |
WO2021193342A1 (en) | Camera system, communication method, signal processing device, and camera | |
JP7467130B2 (en) | Information processing device, information processing method, and program | |
JP2023077927A (en) | Data transmission device and control method for the same, data transmission system, and program | |
JP2022155063A (en) | Communication device, control method, and program | |
JP2019080183A (en) | Image transmission device, image transmission method, and program | |
JP2021190937A (en) | Transmission processing apparatus, transmission processing method, and program | |
JP2020077997A (en) | Image processing apparatus, system, information processing method, and program | |
JP2020145559A (en) | Information processor, information processing method, and program | |
US11778145B2 (en) | Control apparatus, control method, and storage medium | |
JP2019140643A (en) | Transmission equipment | |
JP2022155062A (en) | Communication device, control method, and program | |
US20240107094A1 (en) | Communication apparatus, control method, and storage medium | |
TWI822158B (en) | System and method for immersive capture of streaming video and imaging | |
JP2021089647A (en) | Data processing apparatus, data processing method, and program | |
JP2019103087A (en) | Video distribution device, control method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221202 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240122 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240419 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240517 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7492331 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |