JP7448012B2 - 通信制御方法、通信システム、及び送信装置 - Google Patents

通信制御方法、通信システム、及び送信装置 Download PDF

Info

Publication number
JP7448012B2
JP7448012B2 JP2022539877A JP2022539877A JP7448012B2 JP 7448012 B2 JP7448012 B2 JP 7448012B2 JP 2022539877 A JP2022539877 A JP 2022539877A JP 2022539877 A JP2022539877 A JP 2022539877A JP 7448012 B2 JP7448012 B2 JP 7448012B2
Authority
JP
Japan
Prior art keywords
communication
video
imaging devices
camera
transmitting device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022539877A
Other languages
English (en)
Other versions
JPWO2022024268A5 (ja
JPWO2022024268A1 (ja
Inventor
浩一 二瓶
孝法 岩井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2022024268A1 publication Critical patent/JPWO2022024268A1/ja
Publication of JPWO2022024268A5 publication Critical patent/JPWO2022024268A5/ja
Application granted granted Critical
Publication of JP7448012B2 publication Critical patent/JP7448012B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/238Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、通信制御方法、通信システム、及び送信装置に関する。
近年、自動運転車の技術開発が進み、公道における自動運転車の走行実験が進められている。自動運転車には通常、歩行者の有無、もしくは他車両の有無等の周辺状態を認識するための各種センサが搭載されている。各種センサは、例えば、カメラもしくはレーダ、LiDAR(Light Detection and Ranging)等である。各種センサにおいて検出された情報は、運転制御や遠隔監視に利用される。
特許文献1には、通信装置が、車両に搭載されているそれぞれのカメラの優先度を決定し、優先度に応じてそれぞれのカメラに対して、映像をサーバ装置へ送信する際の帯域を割り当てることが記載されている。
国際公開第2020/090285号
しかし、特許文献1に開示されている通信装置のように、複数のカメラのそれぞれの優先度に応じて帯域を割り当てた場合、優先度の高いカメラに過剰に帯域が割り当てられる可能性が高くなるという問題がある。
本開示の目的は、特定の装置に過剰に帯域が割り当てられることを防止することができる通信制御方法、通信システム、及び送信装置を提供することにある。
本開示の第1の態様にかかる通信制御方法は、複数の撮像装置において撮像された映像の映像データをネットワークを介して受信した監視装置に表示される前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を推定し、推定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する。
本開示の第2の態様にかかる通信システムは、複数の撮像装置において撮像された映像の映像データをネットワークを介して送信する送信装置と、前記映像をネットワークを介して受信した前記映像を表示する監視装置と、を備え、前記送信装置は、前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を推定し、推定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する。
本開示の第3の態様にかかる送信装置は、複数の撮像装置において撮像された映像の映像データをネットワークを介して受信した監視装置に表示される前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を推定する推定部と、推定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する制御部と、を備える。
本開示により、特定の装置に過剰に帯域が割り当てられることを防止することができる通信制御方法、通信システム、及び送信装置を提供することができる。
実施の形態1にかかる通信システムの構成図である。 実施の形態1にかかる通信制御処理の流れを示す図である。 実施の形態2にかかる送信装置の構成図である。 実施の形態2にかかる車両の制御イメージを示す図である。 実施の形態2にかかる体感品質の推移を示す図である。 実施の形態2にかかる監視装置の図である。 実施の形態2にかかる通信制御処理の流れを示す図である。 実施の形態2にかかる帯域割り当て処理の流れを示す図である。 実施の形態3にかかる帯域割り当て処理の流れを示す図である。 それぞれの実施の形態にかかる送信装置及び監視装置の構成図である。
(実施の形態1)
以下、図面を参照して本開示の実施の形態について説明する。図1を用いて実施の形態1にかかる通信システムの構成例について説明する。図1の通信システムは、送信装置10、撮像装置20、及び監視装置30を有している。送信装置10は、ネットワーク40を介して監視装置30と通信する。
送信装置10、撮像装置20、及び監視装置30は、プロセッサがメモリに格納されたプログラムを実行することによって動作するコンピュータ装置であってもよい。ネットワーク40は、例えば、IPネットワークであってもよい。もしくは、ネットワーク40は、通信事業者が管理する通信ネットワークであってもよい。通信事業者が管理する通信ネットワークは、モバイルネットワークと称されてもよい。送信装置10は、ネットワーク40と無線通信回線を介して接続してもよい。送信装置10がネットワーク40に接続するとは、送信装置10が、ネットワーク40と通信を行うことができる状態を示す。
続いて、送信装置10の構成例について説明する。送信装置10は、推定部11及び通信制御部12を有している。推定部11及び通信制御部12等の送信装置10の構成要素は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアもしくはモジュールであってもよい。または、送信装置10の構成要素は、回路もしくはチップ等のハードウェアであってもよい。
推定部11は、複数の撮像装置20において撮像された映像の映像データをネットワーク40を介して受信した監視装置30に表示される映像を監視する監視者が、映像を視認した際に感じる体感品質を推定する。
撮像装置20は、例えば、カメラ装置であってもよい。また、図1においては、送信装置10と撮像装置20とが異なる装置として示されているが、撮像装置20は、送信装置10に搭載されてもよい。つまり、送信装置10と撮像装置20とは、一体の装置であってもよい。また、図1においては、複数の撮像装置20が、一つの通信回線を介して送信装置10と接続している構成を示しているが、それぞれの撮像装置20毎に通信回線が設定されてもよい。
映像は、例えば、動画であってもよく、静止画であってもよい。監視装置30は、受信した映像データを用いて映像を再生する。映像データは、映像ファイル、映像フレーム等と称されてもよい。
監視装置30は、例えば、複数の撮像装置20のそれぞれから映像データを受信した場合、撮像装置20毎に撮影された映像をディスプレイ等の表示部に表示してもよい。つまり、監視装置30は、ディスプレイの表示領域を分割して、それぞれの撮像装置20において撮像された映像を同時に表示してもよい。もしくは、監視装置30は、複数の撮像装置20のそれぞれから映像データを合成して、一つの映像として表示してもよい。このとき、すべての映像データの表示サイズを同一にしてもよく、映像データごとに異なるサイズにしてもよい。また、監視装置30は、表示部に映像の一部領域を削除して表示してもよい。
体感品質は、監視装置30が表示する映像の品質を示す指標の一つであり、監視者による主観的な評価を示す指標である。
通信制御部12は、推定された体感品質に基づいて、それぞれの撮像装置20において撮像された映像をネットワーク40を介して監視装置30へ送信するための通信を制御する。
通信を制御するとは、例えば、監視装置30へ送信する映像データの符号化パラメータを決定することであってもよい。符号化パラメータは、例えば、映像データの送信に割り当てられる帯域であってもよい。例えば、通信制御部12は、監視者の体感品質を高めるように符号化パラメータを決定してもよい。
通信制御部12は、推定部11において推定されたそれぞれの撮像装置20において撮像された映像に関する体感品質に基づいて、通信を制御してもよい。もしくは、通信制御部12は、推定部11において、それぞれの撮像装置20において撮像された映像を総合的に考慮して推定された体感品質に基づいて、通信を制御してもよい。
それぞれの撮像装置20において撮像された映像を総合的に考慮して体感品質を推定するとは、監視者が複数の撮像装置20において撮像された映像を同時に視認した際に感じる体感品質を推定することであってもよい。一般的に、監視者が複数の映像を同時に視認する場合、一つの撮像装置20において撮像された映像の品質のみが高くても、他の撮像装置20において撮像された映像の品質が低い場合、監視者の体感品質は高くならないことがある。このような場合、監視者の体感品質を高めるには、複数の撮像装置20において撮像された映像の総合的な品質を向上させる必要がある。
例えば、監視者が複数の撮像装置20において撮像された映像を同時に視認した際に感じる体感品質は、監視者がそれぞれの映像を視認した際に感じる体感品質の総和であってもよい。この場合、それぞれの映像を視認した際に感じる体感品質を足し合わせる際に、それぞれの映像の体感品質に重みづけを行ってもよい。重みづけの値は、例えば、それぞれの映像の優先情報に従って定められてもよい。
続いて、図2を用いて実施の形態1にかかる送信装置10における通信制御処理の流れについて説明する。はじめに、推定部11は、複数の撮像装置20において撮像された映像の映像データをネットワーク40を介して受信した監視装置30に表示される映像を監視する監視者が、映像を視認した際に感じる体感品質を推定する(S11)。
次に、通信制御部12は、推定された体感品質に基づいて、それぞれの撮像装置20において撮像された映像をネットワーク40を介して監視装置30へ送信するための通信を制御する(S12)。
以上説明したように、実施の形態1にかかる送信装置10は、ネットワーク40を介して接続されている監視装置30に表示される映像を監視する監視者が映像を視認した際に感じる体感品質に基づいて、映像データを送信するための通信を制御する。また、監視者の体感品質は、複数の撮像装置20において撮像された映像を視認した際に感じる品質である。そのため、通信制御部12は、特定の撮像装置20の映像データのみが高品質となるように符号化パラメータを決定するのではなく、それぞれの撮像装置20において撮像された複数の映像データ全体の品質を向上させるように符号化パラメータを決定する。その結果、通信制御部12は、特定の撮像装置20の映像データを送信するために過剰に帯域を割り当てることを回避することができ、複数の映像データ全体の品質を向上させるように帯域を割り当てることができる。
(実施の形態2)
続いて、図3を用いて実施の形態2にかかる送信装置50の構成例について説明する。送信装置50は、図1の送信装置10に相当する。送信装置50は、通信部51、通信品質取得部52、再生環境取得部53、符号化制御部54、優先度決定部55、体感品質算出部56、符号化部57~60、及び、カメラ61~64を有している。
送信装置50は、移動体に搭載されてもよい。移動体は、例えば、車両であってもよい。車両は、例えば、運転者による操作が行われることなく、自律的に運転が実行される自動運転車であってもよく、遠隔監視もしくは運転支援が行われる車両であってもよい。例えば、図4に示すように、車両は、インターネットを介して、自動運転が行われてもよく、遠隔監視が行われてもよい。さらに、図4に示すように、車両に搭載された撮像装置(カメラ)において撮影された映像を、インターネットを介して受信した監視装置に表示される映像として監視する監視者の体感品質が推定される。図4においては、車両とは異なる装置において体感品質が推定されることが示されているが、以下において説明するように、体感品質の推定は、車両に搭載される送信装置50において行われてもよい。カメラ61~64は、車両の周囲を撮影してもよい。具体的には、カメラ61~64は、車両の前後左右の方向を撮影することができる位置に取り付けられてもよい。図3は、カメラ61~64が、送信装置50と一体として用いられる構成を示している。
符号化制御部54は、図1の通信制御部12に相当する。体感品質算出部56は、図1の推定部11に相当する。図3においては、図1の送信装置10と異なる機能もしくは動作について主に説明し、図1の送信装置10と同様の機能もしくは動作に関する詳細な説明を省略する。
通信部51は、ネットワーク40を介して監視装置30と通信する。また、通信部51は、無線通信回線を介して、ネットワーク40と通信する。つまり、通信部51は、無線フレームをネットワーク40へ送信し、ネットワーク40から無線フレームを受信する。例えば、通信部51は、3GPP(3rd Generation Partnership Project)において規定されているLTE(Long Term Evolution)もしくは5G(5 Generation)等の無線通信規格を用いて、無線通信を行ってもよい。
通信品質取得部52は、通信部51を介して監視装置30から、送信装置50と監視装置30との間の通信経路の品質に関する情報を取得する。例えば、送信装置50が映像データを送信してから、監視装置30が映像データを受信するまでの伝送時間に関する情報を取得してもよい。
通信品質取得部52は、監視装置30へ送信した映像データのデータサイズと、その映像データに関する伝送時間とを用いて、送信装置50が転送可能なビットレートを算出する。ビットレートは、単位時間あたりに転送可能なデータ量を示す。ビットレートは、伝送路容量、帯域幅、もしくは単に帯域と言い換えられてもよい。また、通信品質取得部52が算出したビットレートは、可用帯域と称されてもよい。通信品質取得部52は、算出したビットレートに関する情報を符号化制御部54へ出力する。このビットレートの算出は、監視装置30において実施されてもよく、この場合、送信装置50は、その結果を通信部51を介して通信品質取得部52で取得してもよい。
再生環境取得部53は、通信部51を介して、監視装置30における再生環境に関する情報を、監視装置30から取得する。例えば、再生環境に関する情報は、監視装置30における画面表示に関する情報、監視者の視線、及び再生遅延等であってもよい。画面表示に関する情報は、例えば、カメラ61~64において撮影されたカメラ映像の表示有無、画面上におけるカメラ映像の表示サイズ、それぞれのカメラ映像の表示サイズの違い、画面から監視者までの距離、等に関する情報であってもよい。監視者の視線に関する情報は、例えば、監視者が画面を凝視しているか否かに関する情報であってもよい。監視者が画面を凝視しているか否かは、例えば、視線を追跡するセンサ等によって検出されてもよい。
再生環境取得部53は、再生環境に関する情報を符号化制御部54へ出力する。
優先度決定部55は、複数のカメラの優先情報を定める。例えば、優先度決定部55は、カメラ61~64の優先度を決定する。各カメラの優先度は、車両の進行方向に基づいて決定されてもよい。車両の進行方向は、例えば、車両のシフトレーバー情報に基づいて決定されてもよい。さらに、車両のハンドル情報もしくはウインカー情報等を用いることによって、車両が右折するか左折するかを決定することができる。もしくは、優先度決定部55は、カーナビゲーションのような運転を支援するソフトウェアから、車両の進行方向に関する情報を取得してもよい。
例えば、車両の進行方向を撮影しているカメラの優先度が、他のカメラよりも高く設定されてもよい。具体的には、車両が前進している場合、車両の前方を撮影するカメラの優先度が、他のカメラよりも高く設定されてもよい。また、車両が右折する場合、車両の右側を撮影するカメラの優先度が、他のカメラよりも高く設定されてもよい。
また、各カメラの優先度は、各カメラが撮影した映像に映っている対象物に応じて決定されてもよい。例えば、撮影した映像に、他の車両、歩行者、障害物、交通信号、もしくは交通標識が映っている場合には、それらの映像を撮影したカメラの優先度が、他のカメラよりも高く設定されてもよい。もしくは、優先度決定部55は、カメラに用いられているレンズの種類に応じて、優先度を決定してもよい。例えば、優先度決定部55は、車両が停車している場合もしくは発車する場合などには、広範囲を確認できる魚眼レンズを用いたカメラの優先度を高くしてもよい。
優先度決定部55は、例えば、カメラ61~64のうち、最も優先されるカメラの優先度を4とし、次に優先されるカメラの優先度を3とし、さらに、次に優先されるカメラの優先度を2としてもよい。優先度決定部55は、最も優先されないカメラの優先度を1としてもよい。優先度決定部55が決定する優先度の値1~4は、一例であり、他の数値が設定されてもよい。さらに、優先度決定部55は、決定した優先度の値pと、任意の単調増加関数m(x)とを用いて、P=m(p)のようにして、新たな優先度Pを算出してもよい。つまり、優先度決定部55は、優先度pを、任意の単調増加関数m(x)を用いて新たな優先度Pに変換してもよい。これにより、例えば、最も優先されるカメラの優先度と、他のカメラの優先度とに設定される数値の差を大きくする、もしくは、小さくすることができる。優先度決定部55は、決定した優先度pもしくはPを符号化制御部54へ出力する。
符号化制御部54は、通信品質取得部52及び再生環境取得部53から取得した情報を体感品質算出部56へ出力する。さらに、符号化制御部54は、カメラ61~64に割り当てるビットレート、フレームレート、解像度、コーデック種別を体感品質算出部56へ出力してもよい。解像度は、送信装置50が監視装置30へ送信する際に適用する映像データの解像度であってもよい。例えば、符号化制御部54は、カメラに割り当てるビットレートを下げた場合、体感品質を高めるために、そのカメラにおいて撮影された映像の映像データを監視装置30へ送信する際に、フレームレート及び解像度の少なくとも一方を、下げてもよい。さらに、符号化制御部54は、カメラ61~64の設置場所、カメラ61~64の向き、カメラの種類、車両の速度、車両の操作情報等を体感品質算出部56へ出力してもよい。
体感品質算出部56は、符号化制御部54から取得した情報をパラメータとして、体感品質qを算出する。例えば、体感品質qは、ある関数f(x、x、・・・x)(Nは1以上の整数)を用いて、q=f(x、x、・・・x)と定義されてもよい。この場合、体感品質qは、f(x、x、・・・x)のパラメータとして、符号化制御部54から取得した情報を設定することによって、算出されてもよい。
体感品質qを算出するq=f(x、x、・・・x)の式は、例えば、ITU-T G.1070において定義された式を用いてもよい。ITU-T G.1070において定義された式は、既知の式であるため詳細な説明を省略する。
もしくは、予め監視者が、体感品質算出部56において取得されるパラメータが変更された映像を視認して映像の品質を評価する主観評価実験を行い、実験結果を用いて、パラメータと体感品質qとの関係をモデル化してもよい。このモデル化には、深層学習などの機械学習を用いてもよい。体感品質算出部56は、符号化制御部54から情報を取得すると、予め生成されたモデルを用いて、体感品質qを決定してもよい。
体感品質算出部56は、算出した体感品質qを符号化制御部54へ出力する。
符号化制御部54は、体感品質算出部56から取得した体感品質q及び優先度決定部55から取得した優先度pを用いて、符号化パラメータを決定する。
例えば、符号化制御部54は、目的関数A1を、次の式(1)のように定義する。pは、カメラiの優先度を示し、qは、カメラiの体感品質を示す。カメラiの体感品質とは、カメラiにおいて撮影された映像を視認した監視者が評価する体感品質である。n(nは1以上の整数)は、カメラの台数を示す。
Figure 0007448012000001
さらに、符号化制御部54は、制約条件Bを次の式(2)ように定義する。rは、カメラiのビットレートを示し、Cは、可用帯域を示す。
Figure 0007448012000002
符号化制御部54は、制約条件Bのもとで、A1が最大となるように、符号化パラメータを決定してもよい。
例えば、各カメラに割り当てられるビットレート(帯域)と、監視者が各カメラを視認した際の体感品質とは、図5に示されるように変化することを前提としてもよい。図5の横軸は、単位をbps(bit per second)とする各カメラに割り当てられるビットレートを示している。縦軸は、監視者が映像を視認した際の体感品質をMOS(Mean Opinion Score)値を用いて示している。カメラにビットレートを割り当てるとは、カメラにおいて撮影された映像の映像データを監視装置30へ送信する際に適用するビットレートを定める、と言い換えられてもよい。
図5は、低ビットレート領域では、体感品質の変動(傾き)が大きい一方、高ビットレート領域では、体感品質の変動(傾き)が小さいことを示している。つまり、図5は、ビットレートの増加と、体感品質の増加とは比例しないことを示している。また、ビットレートと体感品質との関係は、図5のグラフに限定されず、ビットレートの増加と体感品質の増加とが比例しない関係を示す他のグラフによって定められてもよい。
図3に戻り、符号化制御部54は、符号化パラメータとして、各カメラに割り当てるビットレートを変化させることによって体感品質qの値を変化させ、式(1)のA1の値が最大となるように、各カメラに割り当てるビットレートを決定してもよい。各カメラに割り当てられるビットレートの合計は、式(2)の制約条件Bに従う。さらに、符号化制御部54は、決定されたビットレートに応じて、各カメラにおいて撮影された映像の映像データに適用するフレームレート及び解像度の少なくとも一方を決定してもよい。符号化制御部54が制御する符号化パラメータは、ビットレートを含み、さらに、フレームレート及び解像度を含んでもよい。
符号化制御部54は、決定したカメラ61の符号化パラメータを符号化部57へ出力する。さらに、符号化制御部54は、決定したカメラ62の符号化パラメータを符号化部58へ出力し、決定したカメラ63の符号化パラメータを符号化部59へ出力し、決定したカメラ64の符号化パラメータを符号化部60へ出力する。
カメラ61~64のそれぞれは、符号化部57~60のそれぞれに、撮影した映像の映像データを出力する。符号化部57は、例えば、符号化制御部54から取得した符号化パラメータとして、ビットレート、フレームレート、及び解像度を適用した映像データを、通信部51へ出力する。同様に、符号化部58~60は、符号化制御部54から取得した符号化パラメータを適用した映像データを通信部51へ出力する。通信部51は、符号化部57~60から取得した映像データを、ネットワーク40を介して監視装置30へ送信する。
続いて、図6を用いて監視装置30の構成例について説明する。監視装置30は、再生部31及び通信部32を有している。再生部31及び通信部32等の監視装置30の構成要素は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアもしくはモジュールであってもよい。または、監視装置30の構成要素は、回路もしくはチップ等のハードウェアであってもよい。
通信部32は、送信装置50から受信した映像データを再生部31へ出力する。再生部31は、取得した映像データを再生し、監視装置30に内蔵されるもしくは監視装置30と一体として用いられるディスプレイ等に映像を表示する。監視者は、ディスプレイに表示された映像を視認する。また、再生部31は、画面表示に関する情報を、通信部32を介して送信装置50へ送信する。
続いて、図7を用いて実施の形態2にかかる送信装置50における通信制御処理の流れについて説明する。はじめに、通信品質取得部52は、送信装置50と監視装置30との間の通信経路の品質に関する情報を取得する(S21)。例えば、通信品質取得部52は、送信装置50が映像データを送信してから、監視装置30が映像データを受信するまでの伝送時間に関する情報を取得する。さらに、通信品質取得部52は、通信経路の品質に関する情報として、伝送時間に関する情報を取得した後に、通信経路の可用帯域を算出する。可用帯域の算出は、例えば送信した映像データのサイズと伝送時間の除算によって算出してもよい。
次に、再生環境取得部53は、通信部51を介して、監視装置30における再生環境に関する情報を、監視装置30から取得する(S22)。例えば、再生環境取得部53は、監視装置30における画面表示に関する情報、監視者の視線、及び再生遅延等であってもよい。
次に、優先度決定部55は、カメラ61~64の優先度を決定する(S23)。例えば、優先度決定部55は、車両の進行方向に基づいて、カメラ61の優先度を4、カメラ62の優先度を3、カメラ63の優先度を2、カメラ64の優先度を1のように決定してもよい。ここでは、優先度の数値が大きいほど、重要なカメラであることを示している。重要なカメラとは、そのカメラが撮影する映像が他のカメラにおいて撮影された映像よりも重要であることを示している。
次に、体感品質算出部56は、符号化制御部54から取得した情報をパラメータとして、各カメラにおいて撮影された映像を監視者が視認した際の監視者の体感品質qを算出する。符号化制御部54は、通信品質取得部52及び再生環境取得部53から取得した情報を体感品質算出部56へ出力する。さらに、符号化制御部54は、カメラ61~64に割り当てるビットレート、フレームレート、カメラ61~64が撮影した映像の解像度、コーデック種別を体感品質算出部56へ出力してもよい。さらに、符号化制御部54は、カメラ61~64の設置場所、カメラ61~64の向き、カメラの種類、車両の速度、車両の操作情報等を体感品質算出部56へ出力してもよい。
次に、符号化制御部54は、体感品質算出部56から取得した体感品質q及び優先度決定部55から取得した優先度pを用いて、符号化パラメータを決定する。
続いて、図8を用いて、実施の形態2にかかる符号化パラメータの決定処理の流れについて説明する。図8においては、各カメラに割り当てる帯域を決定する処理の流れについて説明する。図8は、図7のステップS24及びS25に関する詳細な処理を示す。
はじめに、符号化制御部54は、カメラ61~64に割り当てる帯域を所定量増加させた場合の目的関数の値を算出する(S31)。例えば、式(1)におけるpをカメラ61の優先度とし、qをカメラ61の体感品質とする。さらに、pをカメラ62の優先度とし、qをカメラ62の体感品質とし、pをカメラ63の優先度とし、qをカメラ63の体感品質とし、pをカメラ64の優先度とし、qをカメラ64の体感品質とする。
例えば、符号化制御部54は、カメラ61に100kbpsを割り当てた場合のカメラ61の体感品質を算出し、算出した体感品質と優先度とを用いて目的関数の値を算出する。同様に、カメラ62に100kbpsを割り当てた場合の目的関数の値と、カメラ63に100kbpsを割り当てた場合の目的関数の値と、カメラ64に100kbpsを割り当てた場合の目的関数の値とを算出する。優先度pは、図7のステップS23において決定された値である。体感品質qは、例えば、図5に示す体感品質と帯域との関係を示すグラフを用いて、帯域(ビットレート)が決定された場合に、一意に定まる。ビットレートが同一であっても、フレームレート、解像度などによって体感品質が変動する場合には、符号化制御部54は、当該ビットレートにおいて体感品質が最大になるようにフレームレートや解像度などを調整してもよい。
符号化制御部54は、それぞれの目的関数の値を比較し、帯域を割り当てるカメラを決定する(S32)。例えば、カメラ61に100kbpsを割り当てた場合の目的関数が、他のカメラに100kbpsを割り当てた場合の目的関数よりも大きい場合、符号化制御部54は、カメラ61に100kbpsを割り当てることを決定する。
次に、符号化制御部54は、各カメラの合計帯域が、可用帯域を下回っているか否かを判定する(S33)。可用帯域は、図7のステップS21において通信品質取得部52において算出された値を用いる。具体的に、ステップS32において、カメラ61に100kbpsを割り当てると決定した場合について説明する。この場合、各カメラの合計帯域は、カメラ61に100kbpsが割り当てられており、その他のカメラには帯域が割り当てられていないため、合計帯域は100kbpsである。符号化制御部54は、各カメラの合計帯域が可用帯域を下回っていると判定した場合、ステップS31以降の処理を繰り返す。また、可用帯域と、各カメラの合計帯域との差が所定増加量である100kbpsを下回る場合、ステップS31以降において、符号化制御部54は、可用帯域と各カメラの合計帯域との差を、所定増加量としてもよい。
具体的には、はじめのステップS32において、符号化制御部54が、カメラ61に100kps割り当てることを決定しているとする。この場合、ステップS33の次に繰り返して実施されるステップS31において、符号化制御部54は、カメラ62~64に帯域が割り当てられていない状態において、カメラ61に200kbpsを割り当てた際の体感品質を算出し、目的関数の値を算出する。さらに、符号化制御部54は、カメラ61に100kbps割り当てられている状態において、それぞれのカメラ62~64に100kbpsを割り当てた際のそれぞれの目的関数の値を算出する。
符号化制御部54は、ステップS32において、各カメラの合計帯域が可用帯域に達したと判定した場合、符号化パラメータの決定処理を終了する。
以上説明したように、実施の形態2にかかる送信装置50は、複数のカメラにおいて撮影された映像の映像データに適用する帯域を、優先度と体感品質とを考慮して決定することができる。つまり、送信装置50は、体感品質を考慮することによって、優先度の高いカメラにおいて撮影された映像の映像データに対して過度に帯域が割り当てられることを防止することができる。
また、符号化制御部54は、目的関数A1の代わりに、次のように定義された式(3)における目的関数A2を用いてもよい。符号化制御部54は、制約条件Bのもとで、A2が最大となるように、符号化パラメータを決定してもよい。
Figure 0007448012000003
目的関数A2は、1ビットあたりの目的関数A1の値が最大となるように、各カメラに割り当てる帯域を決定するために用いられる。
また、各カメラに割り当てる帯域に上限を、式(4)のように定めてもよい。qUBは、体感品質の上限の値を定めている。
Figure 0007448012000004
割り当てる帯域を増加していった場合に、体感品質がqUBに達した場合に、そのカメラに対する帯域の割り当てを停止してもよい。
また、通信品質取得部52は、算出した可用帯域から、カメラ61~64において撮影された映像の映像データを監視装置30へ送信する通信以外の通信に割り当てる帯域を減算してもよい。映像データを送信する通信以外の通信とは、例えば、送信装置50に搭載された他のセンサが検知したセンサデータを送信するための通信であってもよい。もしくは、映像データを送信する通信以外の通信とは、車両に乗車中のユーザが使用するアプリケーションに関する通信であってもよい。
通信品質取得部52は、算出した可用帯域から、映像データを送信する通信以外の通信に割り当てる帯域を減算した値を、符号化制御部54へ出力してもよい。符号化制御部54は、図8のステップS33において、符号化制御部54は、各カメラの合計帯域が、可用帯域から、映像データを送信する通信以外の通信に割り当てる帯域を減算した値を上回っているか否かを判定してもよい。
これにより、送信装置50は、映像データ及びその他のデータを、監視装置30の監視者等が要望する品質に合わせて送信することができる。
また、図8における符号化パラメータの決定処理は、カメラに加えて、センサ等のカメラ以外の装置において生成されたデータを送信する際に割り当てる帯域を決定するために用いられてもよい。さらに、映像データを送信する通信が、センサにおいて検出されたデータを送信する通信よりも優先度が高い場合、カメラに優先的に帯域を割り当て、その後、センサに帯域を割り当ててもよい。
さらに、送信装置50は、図7における通信制御処理、及び図8における符号化パラメータの決定処理を、定期的に実行してもよく、可用帯域が大きく変動した際に実行してもよい。定期的とは、例えば、数百ミリ秒から、数秒(典型的には1秒)周期であってもよい。これにより、送信装置50は、無線品質の変化等に応じて、カメラ61~64が撮影した映像の映像データに適用する符号化パラメータを変更することができる。もしくは、送信装置50は、図7における通信制御処理、及び図8における符号化パラメータの決定処理を、車の動作に応じて実行してもよい。例えば、送信装置50は、右折もしくは左折すると判明したタイミングにおいて、図7及び図8における処理を実行してもよい。車両が自動運転車である場合、自動運転車両の動作もしくは走行予定経路から右折もしくは左折することが判明し、遠隔監視もしくは運転支援が行われる車両である場合、ウインカーを出したタイミングに、右折もしくは左折することが判明してもよい。
(実施の形態3)
続いて、図9を用いて実施の形態3にかかる符号化パラメータの決定処理の流れについて説明する。図9においては、各カメラに割り当てる帯域を決定する処理の流れについて説明する。図9は、図7のステップS24及びS25に関する詳細な処理を示す。図9において、符号化制御部54は、カメラ61~64の優先情報として、優先順位を用いる。ここでは、カメラ61の優先順位を1位とし、カメラ62の優先順位を2位とし、カメラ63の優先順位を3位とし、カメラ64の優先順位を4位とすることを前提とする。各カメラの優先順位は、図7のステップS23において、優先度決定部55において決定されるとする。
はじめに、符号化制御部54は、カメラ61の体感品質がqとなるように帯域b1を割り当てる(S41)。ここでは、カメラの映像ごとに、帯域bと体感品質qとの関係を示すグラフが定められてもよい。帯域bと体感品質qとの関係を示すグラフは、図5に類似するグラフであってもよい。この場合、カメラ61の映像を視認した際の体感品質がqとなるように割り当てる帯域b1は、カメラ61に関する帯域bと体感品質qとの関係を示すグラフに従うとする。次に、符号化制御部54は、図7のステップS21において算出された可用帯域から、帯域b1を減算した値が、帯域b2を上回っているか否かを判定する(S42)。帯域b2は、カメラ62の映像を視認した際の体感品質がqとなるように割り当てる帯域である。
ステップS42において、符号化制御部54は、可用帯域から、帯域b1を減算した値が、帯域b2を上回っていると判定した場合、カメラ62の体感品質がqとなるように帯域b2を割り当てる(S43)。
次に、符号化制御部54は、図7のステップS21において算出された可用帯域から、帯域b1及びb2を減算した値が、帯域b3を上回っているか否かを判定する(S44)。帯域b3は、カメラ63の映像を視認した際の体感品質がqとなるように割り当てる帯域である。
ステップS44において、符号化制御部54は、可用帯域から、帯域b1及びb2を減算した値が、帯域b3を上回っていると判定した場合、カメラ63の体感品質がqとなるように帯域b3を割り当てる(S45)。
次に、符号化制御部54は、図7のステップS21において算出された可用帯域から、帯域b1、b2及びb3を減算した値が、帯域b4を上回っているか否かを判定する(S46)。帯域b4は、カメラ64の映像を視認した際の体感品質がqとなるように割り当てる帯域である。
ステップS46において、符号化制御部54は、可用帯域から、帯域b1、b2、及びb3を減算した値が、帯域b4を上回っていると判定した場合、カメラ64の体感品質がqとなるように帯域b4を割り当てる(S47)。
ステップS42において、符号化制御部54は、可用帯域から、帯域b1を減算した値が、帯域b2を上回っていないと判定した場合、カメラ62に割り当て可能な全ての帯域を割り当てる(S48)。可用帯域から帯域b1を減算した値が、帯域b2を上回っていないとは、可用帯域から帯域b1を減算した値が、帯域b2を下回っていることを示す。
ステップS44において、符号化制御部54は、可用帯域から、帯域b1及びb2を減算した値が、帯域b3を上回っていないと判定した場合、カメラ63に割り当て可能な全ての帯域を割り当てる(S49)。
ステップS46において、符号化制御部54は、可用帯域から、帯域b1、b2及びb3を減算した値が、帯域b4を上回っていないと判定した場合、カメラ64に割り当て可能な全ての帯域を割り当てる(S50)。
図9においては、カメラ61~64のそれぞれが異なる優先順位である場合について説明したが、例えば、カメラ62及び63が同じ優先順位となる場合もある。このような場合、例えば、図9のステップS42において、符号化制御部54は、可用帯域から帯域b1を減算した値が、帯域b2の2倍を上回っているか否かを判定してもよい。符号化制御部54は、可用帯域から帯域b1を減算した値が、帯域b2×2を上回っていると判定した場合、同じ優先順位であるカメラ62及び63に、帯域b2を割り当てる。符号化制御部54は、可用帯域から帯域b1を減算した値が、帯域b2×2を上回っていないと判定した場合、残りの帯域の半分の帯域を、カメラ62及びカメラ63にそれぞれ割り当てる。
もしくは、ステップS42、S44、S46において、符号化制御部54は、それぞれ残りの帯域が帯域b2、b3、もしくはb4を上回っていないと判定した場合、残りの帯域を割り当てず、処理を終了してもよい。
また、図9においては、優先順位の異なるカメラ61~64に対して、同じ体感品質qとなるように帯域を割り当てる場合について説明したが、優先順位に応じて異なる体感品質となるように帯域を割り当ててもよい。例えば、符号化制御部54は、最も優先順位が高いカメラ61に、体感品質が最も高くなるような帯域を割り当て、最も優先順位が低いカメラ64に、体感品質が最も低くなるような帯域を割り当ててもよい。
以上説明したように、実施の形態3にかかる送信装置50は、複数のカメラにおいて撮影された映像の映像データに適用する帯域を、優先順位と体感品質とを考慮して決定することができる。つまり、送信装置50は、体感品質を考慮することによって、優先順位の高いカメラにおいて撮影された映像の映像データに対して過度に帯域が割り当てられることを防止することができる。
また、優先順位の高いカメラに多くの帯域を割り当てて、優先順位の高いカメラに関する体感品質を高めたとしても、他のカメラの映像に関する体感品質を高めることができなければ、全てのカメラの映像を合わせた総合的な体感品質を高めることができない。そのため、送信装置50は、優先順位の高いカメラから順番に、所定の体感品質を満たすように帯域を割り当てることによって、複数のカメラの映像を合わせた総合的な体感品質を高めるように、映像データを監視装置30へ送信することができる。
さらに、優先順位に応じて、満たすべき体感品質を変更することによって、全てのカメラの映像を合わせた総合的な体感品質をさらに高めることができる。例えば、優先度の高いカメラの映像は、他のカメラの映像よりも、監視者によってより注視される映像といえる。このような場合、優先度の高いカメラの映像に関する体感品質を、他のカメラの映像に関する体感品質よりも高くするように帯域を割り当てることによって、全てのカメラの体感品質が同じとなるように制御するよりも、総合的な体感品質を高めることができる。
また、符号化制御部54は、ステップS41を実行する前に、カメラ61~64に、最低限の帯域を割り当て、その後、ステップS41以降の処理を実行してもよい。これにより、符号化制御部54は、それぞれのカメラに、映像データを監視装置30へ送信するために最低限の帯域を割り当てることができる。
また、実施の形態3にかかる送信装置50は、実施の形態2と同様に、通信品質取得部52が、算出した可用帯域から、カメラ61~64において撮影された映像の映像データを監視装置30へ送信する通信以外の通信に割り当てる帯域を減算してもよい。例えば、図9のステップS42、S44、及びS46において、符号化制御部54は、可用帯域から、それぞれのカメラに割り当てられる帯域b及び映像データの通信以外の通信に割り当てる帯域を減算してもよい。
さらに、送信装置50は、図9における符号化パラメータの決定処理を、定期的に実行してもよく、可用帯域が大きく変動した際に実行してもよい。これにより、送信装置50は、無線品質の変化等に応じて、カメラ61~64が撮影した映像の映像データに適用する符号化パラメータを変更することができる。
図10は、送信装置10、監視装置30、及び送信装置50(以下、送信装置10等と称する)の構成例を示すブロック図である。図10を参照すると、送信装置10等は、ネットワークインタフェース1201、プロセッサ1202、及びメモリ1203を含む。ネットワークインタフェース1201は、ネットワークノード(e.g., eNB、MME、P-GW、)と通信するために使用される。ネットワークインタフェース1201は、例えば、IEEE 802.3 seriesに準拠したネットワークインタフェースカード(NIC)を含んでもよい。ここで、eNBはevolved Node B、MMEはMobility Management Entity、P-GWはPacket Data Network Gatewayを表す。IEEEは、Institute of Electrical and Electronics Engineersを表す。
プロセッサ1202は、メモリ1203からソフトウェア(コンピュータプログラム)を読み出して実行することで、上述の実施形態においてフローチャートを用いて説明された映像送信端末10等の処理を行う。プロセッサ1202は、例えば、マイクロプロセッサ、MPU、又はCPUであってもよい。プロセッサ1202は、複数のプロセッサを含んでもよい。
メモリ1203は、揮発性メモリ及び不揮発性メモリの組み合わせによって構成される。メモリ1203は、プロセッサ1202から離れて配置されたストレージを含んでもよい。この場合、プロセッサ1202は、図示されていないI/O(Input/Output)インタフェースを介してメモリ1203にアクセスしてもよい。
図10の例では、メモリ1203は、ソフトウェアモジュール群を格納するために使用される。プロセッサ1202は、これらのソフトウェアモジュール群をメモリ1203から読み出して実行することで、上述の実施形態において説明された送信装置10等の処理を行うことができる。
図10を用いて説明したように、上述の実施形態における送信装置10等が有するプロセッサの各々は、図面を用いて説明されたアルゴリズムをコンピュータに行わせるための命令群を含む1又は複数のプログラムを実行する。
上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
なお、本開示は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
なお、本開示は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
複数の撮像装置において撮像された映像の映像データをネットワークを介して受信した監視装置に表示される前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を推定し、
推定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する、送信装置における通信制御方法。
(付記2)
前記撮像装置及び前記送信装置は、移動体に搭載され、
前記体感品質は、
前記移動体の状態に基づいて決定される、付記1に記載の通信制御方法。
(付記3)
前記通信を制御する際に、
それぞれの前記撮像装置において撮像された前記映像の符号化パラメータを制御する、付記1又は2に記載の通信制御方法。
(付記4)
前記符号化パラメータは、
前記映像のビットレートを含む、付記3に記載の通信制御方法。
(付記5)
前記通信を制御する際に、
それぞれの前記撮像装置の優先情報と、前記体感品質に基づいて、前記通信を制御する、付記1乃至4のいずれか1項に記載の通信制御方法。
(付記6)
前記優先情報は、
それぞれの前記撮像装置に割り当てられる値である優先度、もしくは、前記撮像装置の優先順位、を示す、付記5に記載の通信制御方法。
(付記7)
複数の撮像装置において撮像された映像の映像データをネットワークを介して送信する送信装置と、
前記映像をネットワークを介して受信した前記映像を表示する監視装置と、を備え、
前記送信装置は、
前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を推定し、
推定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する、通信システム。
(付記8)
前記撮像装置及び前記送信装置は、移動体に搭載され、
前記体感品質は、
前記移動体の状態に基づいて決定される、付記7に記載の通信システム。
(付記9)
前記送信装置は、
それぞれの前記撮像装置において撮像された前記映像の符号化パラメータを制御する、付記7又は8に記載の通信システム。
(付記10)
前記符号化パラメータは、
前記映像のビットレートを含む、付記9に記載の通信システム。
(付記11)
前記送信装置は、
それぞれの前記撮像装置の優先情報と、前記体感品質に基づいて、前記通信を制御する、付記7乃至10のいずれか1項に記載の通信システム。
(付記12)
前記優先情報は、
それぞれの前記撮像装置に割り当てられる値である優先度、もしくは、前記撮像装置の優先順位、を示す、付記11に記載の通信システム。
(付記13)
複数の撮像装置において撮像された映像の映像データをネットワークを介して受信した監視装置に表示される前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を推定する推定部と、
推定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する通信制御部と、を備える送信装置。
(付記14)
前記撮像装置及び前記送信装置は、移動体に搭載され、
前記体感品質は、
前記移動体の状態に基づいて決定される、付記13に記載の送信装置。
(付記15)
前記通信制御部は、
それぞれの前記撮像装置において撮像された前記映像の符号化パラメータを制御する、付記13又は14に記載の送信装置。
(付記16)
前記符号化パラメータは、
前記映像のビットレートを含む、付記15に記載の送信装置。
(付記17)
前記通信制御部は、
それぞれの前記撮像装置の優先情報と、前記体感品質に基づいて、前記通信を制御する、付記13乃至16のいずれか1項に記載の送信装置。
(付記18)
前記優先情報は、
それぞれの前記撮像装置に割り当てられる値である優先度、もしくは、前記撮像装置の優先順位、を示す、付記17に記載の送信装置。
10 送信装置
11 推定部
12 通信制御部
20 撮像装置
30 監視装置
31 再生部
32 通信部
40 ネットワーク
50 送信装置
51 通信部
52 通信品質取得部
53 再生環境取得部
54 符号化制御部
55 優先度決定部
56 体感品質算出部
57 符号化部
58 符号化部
59 符号化部
60 符号化部
61 カメラ
62 カメラ
63 カメラ
64 カメラ

Claims (10)

  1. 複数の撮像装置において撮像された映像の映像データをネットワークを介して受信した監視装置に表示される前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を前記複数の撮像装置が搭載された移動体の状態を示すパラメータを用いてモデル化された学習モデルを用いて決定し、
    決定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する、送信装置における通信制御方法。
  2. 前記撮像装置及び前記送信装置は、移動体に搭載され、
    前記体感品質は、
    前記移動体の状態に基づいて決定される、請求項1に記載の通信制御方法。
  3. 前記通信を制御する際に、
    それぞれの前記撮像装置において撮像された前記映像の符号化パラメータを制御する、請求項1又は2に記載の通信制御方法。
  4. 前記符号化パラメータは、
    前記映像のビットレートを含む、請求項3に記載の通信制御方法。
  5. 前記通信を制御する際に、
    それぞれの前記撮像装置の優先情報と、前記体感品質に基づいて、前記通信を制御する、請求項1乃至4のいずれか1項に記載の通信制御方法。
  6. 前記優先情報は、
    それぞれの前記撮像装置に割り当てられる値である優先度、もしくは、前記撮像装置の優先順位、を示す、請求項5に記載の通信制御方法。
  7. 複数の撮像装置において撮像された映像の映像データをネットワークを介して送信する送信装置と、
    前記映像をネットワークを介して受信した前記映像を表示する監視装置と、を備え、
    前記送信装置は、
    前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を前記複数の撮像装置が搭載された移動体の状態を示すパラメータを用いてモデル化された学習モデルを用いて決定し、
    決定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する、通信システム。
  8. 複数の撮像装置において撮像された映像の映像データをネットワークを介して受信した監視装置に表示される前記映像を監視する監視者が、前記映像を視認した際に感じる体感品質を前記複数の撮像装置が搭載された移動体の状態を示すパラメータを用いてモデル化された学習モデルを用いて決定する推定部と、
    決定された前記体感品質に基づいて、それぞれの前記撮像装置において撮像された映像をネットワークを介して前記監視装置へ送信するための通信を制御する通信制御部と、を備える送信装置。
  9. 前記撮像装置及び前記送信装置は、移動体に搭載され、
    前記体感品質は、
    前記移動体の状態に基づいて決定される、請求項8に記載の送信装置。
  10. 前記通信制御部は、
    それぞれの前記撮像装置において撮像された前記映像の符号化パラメータを制御する、請求項8又は9に記載の送信装置。
JP2022539877A 2020-07-29 2020-07-29 通信制御方法、通信システム、及び送信装置 Active JP7448012B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/029091 WO2022024268A1 (ja) 2020-07-29 2020-07-29 通信制御方法、通信システム、及び送信装置

Publications (3)

Publication Number Publication Date
JPWO2022024268A1 JPWO2022024268A1 (ja) 2022-02-03
JPWO2022024268A5 JPWO2022024268A5 (ja) 2023-04-03
JP7448012B2 true JP7448012B2 (ja) 2024-03-12

Family

ID=80037762

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022539877A Active JP7448012B2 (ja) 2020-07-29 2020-07-29 通信制御方法、通信システム、及び送信装置

Country Status (3)

Country Link
US (1) US20230283818A1 (ja)
JP (1) JP7448012B2 (ja)
WO (1) WO2022024268A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005051517A (ja) 2003-07-29 2005-02-24 Hitachi Kokusai Electric Inc 映像配信システム本発明は、映像配信システムに関し、複数の撮像装置からの映像信号に対してクライアントから要求があった映像信号をエンコーダを用いて符号化し、通信ネットワークを介して接続されるクライアントに対して配信を行う映像配信システムに関する。
WO2013099488A1 (ja) 2011-12-28 2013-07-04 日産自動車株式会社 監視システム
JP2014071778A (ja) 2012-09-28 2014-04-21 Equos Research Co Ltd 車両
JP2016134816A (ja) 2015-01-21 2016-07-25 株式会社日立製作所 画像調整方法、サーバ及び動画撮影システム
US20180334099A1 (en) 2017-05-16 2018-11-22 GM Global Technology Operations LLC Vehicle environment imaging systems and methods

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005051517A (ja) 2003-07-29 2005-02-24 Hitachi Kokusai Electric Inc 映像配信システム本発明は、映像配信システムに関し、複数の撮像装置からの映像信号に対してクライアントから要求があった映像信号をエンコーダを用いて符号化し、通信ネットワークを介して接続されるクライアントに対して配信を行う映像配信システムに関する。
WO2013099488A1 (ja) 2011-12-28 2013-07-04 日産自動車株式会社 監視システム
JP2014071778A (ja) 2012-09-28 2014-04-21 Equos Research Co Ltd 車両
JP2016134816A (ja) 2015-01-21 2016-07-25 株式会社日立製作所 画像調整方法、サーバ及び動画撮影システム
US20180334099A1 (en) 2017-05-16 2018-11-22 GM Global Technology Operations LLC Vehicle environment imaging systems and methods

Also Published As

Publication number Publication date
WO2022024268A1 (ja) 2022-02-03
US20230283818A1 (en) 2023-09-07
JPWO2022024268A1 (ja) 2022-02-03

Similar Documents

Publication Publication Date Title
US20200327350A1 (en) System and method for pre-processing images captured by a vehicle
JP7505500B2 (ja) 送信方法、送信システム及びシステム制御装置
JP4987573B2 (ja) 車外監視装置
JP7095788B2 (ja) 通信方法、及び通信装置
JPWO2019116784A1 (ja) 情報処理装置、移動体、制御システム、情報処理方法及びプログラム
KR20210056336A (ko) 정보 처리 장치 및 정보 처리 방법, 촬상 장치, 이동체 장치, 그리고 컴퓨터 프로그램
KR20200050959A (ko) 화상 처리 디바이스, 화상 처리 방법, 및 프로그램
JP7452620B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP7147867B2 (ja) 通信装置、通信制御方法、及びプログラム
JP2001216519A (ja) 交通監視装置
WO2021070215A1 (ja) 映像分析方法、映像分析システム及び情報処理装置
US20140270719A1 (en) Image encoding device, photographing system, photographing recording system, image encoding method, and non-transitory computer readable medium storing image encoding control program
JP2016197795A (ja) 撮像装置
TW201929210A (zh) 半導體裝置、攝影系統及程式
JP7448012B2 (ja) 通信制御方法、通信システム、及び送信装置
KR102672095B1 (ko) 차량에 설치되는 인캐빈 안전센서 및 그 서비스 플랫폼 제공 방법
WO2022074701A1 (ja) 情報処理装置、情報処理システム、および情報処理方法
JP7318809B2 (ja) 映像分析装置、映像分析システム及び映像分析方法
JP7123215B2 (ja) 統計ベースの電子画像安定化
JP7415327B2 (ja) 携帯端末制御方法、携帯端末制御装置、プログラム
Sakaushi et al. Edge-centric video surveillance system based on event-driven rate adaptation for 24-hour monitoring
JP5838775B2 (ja) 画像処理方法、画像処理システムおよび画像処理プログラム
WO2019026985A1 (ja) 分析装置、分析システム、分析方法およびプログラム記憶媒体
JP2019041195A (ja) 撮像装置
WO2022209347A1 (ja) 情報処理装置、情報処理方法、コンピュータ可読媒体、及び情報処理システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230120

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240212

R151 Written notification of patent or utility model registration

Ref document number: 7448012

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151