JP2020010321A - 映像通話サービスの品質をリアルタイムで測定する方法およびシステム - Google Patents

映像通話サービスの品質をリアルタイムで測定する方法およびシステム Download PDF

Info

Publication number
JP2020010321A
JP2020010321A JP2019108788A JP2019108788A JP2020010321A JP 2020010321 A JP2020010321 A JP 2020010321A JP 2019108788 A JP2019108788 A JP 2019108788A JP 2019108788 A JP2019108788 A JP 2019108788A JP 2020010321 A JP2020010321 A JP 2020010321A
Authority
JP
Japan
Prior art keywords
original
terminal
video
quality
video call
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019108788A
Other languages
English (en)
Other versions
JP7431514B2 (ja
Inventor
ドンウォン イ
Dong Won Lee
ドンウォン イ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Line Plus Corp
Original Assignee
Line Plus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Line Plus Corp filed Critical Line Plus Corp
Publication of JP2020010321A publication Critical patent/JP2020010321A/ja
Application granted granted Critical
Publication of JP7431514B2 publication Critical patent/JP7431514B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003Managing SLA; Interaction between SLA and QoS
    • H04L41/5009Determining service level performance parameters or violations of service level contracts, e.g. violations of agreed response time or mean time between failures [MTBF]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/508Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement
    • H04L41/509Network service management, e.g. ensuring proper service fulfilment according to agreements based on type of value added network service under agreement wherein the managed service relates to media content delivery, e.g. audio, video or TV
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0876Network utilisation, e.g. volume of load or congestion level
    • H04L43/0894Packet rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/762Media network packet handling at the source 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/004Diagnosis, testing or measuring for television systems or their details for digital television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23614Multiplexing of additional data and video streams

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Environmental & Geological Engineering (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

【課題】 映像通話サービスの品質をリアルタイムで測定する方法およびシステムを提供する。【解決手段】 本発明の実施形態に係る送信端末の映像通話品質測定方法は、映像通話サービスに従って、原本映像に含まれる原本フレームを加工する加工工程、受信端末との映像通話のために、カメラから得られるリアルタイム映像フレームを、加工された原本フレームのうちの少なくとも一部で代替する代替工程、および映像通話サービスの品質指標の算出のために、代替された少なくとも一部の原本フレームを、受信端末との映像通話のためのフレームとし、映像通話サービスを経て受信端末に送信する送信工程を含む。【選択図】 図3

Description

以下の説明は、映像通話サービスの品質をリアルタイムで測定する方法およびシステムに関し、より詳細には、映像通話中に送信端末のカメラリアルタイム映像フレームを原本映像で代替して送信し、受信端末で受信した原本映像を分析して映像通話サービスの品質を測定することができる、映像通話品質測定方法および映像通話品質測定システムを提供する。
モバイルインターネット環境の発展によって高速/大容量モバイルサービスが普遍化している。特に、音声中心であった従来の通話から映像を利用した通話へと迅速に変化している。さらに、映像通話環境では、多様なサービスの開発によって新たなビジネスモデルが論議されているが、これに伴って映像通話サービスの品質に対する基準および評価方法を設ける必要性が提議されている。サービスの品質に問題が発生した場合には迅速な原因把握と対処が必要となり、最終利用者に提供されるサービス品質が一定の水準を満たしているかを評価したりモニタリングしたりすることも必要となる。
一方、実際のユーザが実感するモバイル映像通話サービスの品質測定に対する要求が継続して増加しているが、従来の研究や標準はIPTVやストリーミングビデオサービスのような単方向サービスに焦点が当てられてり、映像通話のようなリアルタイム双方向サービスへの適用には難点が多い。例えば、特許文献1は、高性能の計測器を利用せずに符号化された大容量ビデオコンテンツの損失をフレームに含まれた単位構造に基づいて測定することができる映像品質測定装置および方法を開示している。さらに、様々な客観評価方法は、アクセス方法によって互いに異なる形態の品質を評価するため、映像通話サービスの全般的な品質を表すには不十分である。
韓国公開特許第10−2018−0045726号公報
映像通話中に送信端末のカメラリアルタイム映像フレームを原本映像で代替して送信し、受信端末で受信した原本映像を分析して映像通話サービスの品質を測定することができる、映像通話品質測定方法および映像通話品質測定システムを提供する。
受信される原本映像の原本フレームと原本フレームごとのインデックスおよびタイムスタンプに基づき、FR(Full−Reference)方式およびNR(No−Reference)方式の両方について品質指標を生成することができる、映像通話品質測定方法および映像通話品質測定システムを提供する。
位置を基盤としてカメラから得られるリアルタイム映像フレームを原本映像で代替する方式によって、映像通話中の端末にコンテンツを提供することができる、コンテンツ提供方法およびコンテンツ提供システムを提供する。
送信端末の映像通話品質測定方法であって、映像通話サービスに従って、原本映像に含まれる原本フレームを加工する加工工程、受信端末との映像通話のために、カメラから得られるリアルタイム映像フレームを、前記加工された原本フレームのうちの少なくとも一部で代替する代替工程、および前記映像通話サービスの品質指標の算出のために、前記代替された少なくとも一部の原本フレームを前記受信端末との映像通話のためのフレームとし、前記映像通話サービスを経て前記受信端末に送信する送信工程を含む、映像通話品質測定方法を提供する。
一側面によると、前記加工工程は、前記原本映像に含まれる原本フレームのそれぞれを、前記映像通話サービスのフレームレートおよび解像度のうちの少なくとも一方によって加工することを特徴としてよい。
他の側面によると、前記送信工程は、前記受信端末または前記受信端末と連係する分析端末で前記代替された少なくとも一部の原本フレームに基づいて前記映像通話サービスの品質指標が算出されるように、前記代替された少なくとも一部の原本フレームを、前記映像通話サービスを経て前記受信端末に送信することを特徴としてよい。
また他の側面によると、前記受信端末または前記受信端末と連係する分析端末で、前記代替された少なくとも一部の原本フレームと前記原本映像に含まれる原本フレームとを互いに比較してFR(Full−Reference)方式によって第1品質指標が算出され、前記代替された少なくとも一部の原本フレームに基づいてNR(No−Reference)方式によって第2品質指標が算出され、前記第1品質指標と前記第2品質指標とを組み合わせて前記映像通話サービスの最終品質指標が生成されることを特徴としてよい。
また他の側面によると、前記原本映像に含まれる原本フレームは、前記原本フレームのためのインデックスを含むように生成され、前記受信端末または前記分析端末で、前記代替された少なくとも一部の原本フレームのそれぞれに対して同じインデックスをもつ前記原本映像の原本フレームを互いに比較し、前記FR方式によって前記第1品質指標が算出されることを特徴としてよい。
また他の側面によると、前記受信端末または前記分析端末で、前記代替された少なくとも一部の原本フレームおよび前記代替された少なくとも一部の原本フレームのそれぞれと関連するタイムスタンプに少なくとも基づき、前記NR方式によって前記第2品質指標を算出することを特徴としてよい。
さらに他の側面によると、前記タイムスタンプは、対応する原本フレームが前記送信端末から送信された時刻と、前記対応する原本フレームが前記受信端末に受信された時刻のうちの少なくとも一方を含むことを特徴としてよい。
受信端末の映像通話品質測定方法であって、送信端末から、映像通話サービスを経て、原本映像に含まれる原本フレームのうちの少なくとも一部の原本フレームを受信する受信工程であって、前記少なくとも一部の原本フレームは、前記映像通話サービスのために前記送信端末のカメラから得られるリアルタイム映像フレームを前記送信端末で前記少なくとも一部の原本フレームに代替することにより、前記映像通話サービスを経て受信される受信工程、および前記代替された少なくとも一部の原本フレームに基づいて、前記映像通話サービスの品質を測定するように処理する処理工程を含む、映像通話品質測定方法を提供する。
第1端末と第2端末との映像通話中にコンテンツを提供するコンテンツ提供方法であって、位置別の原本映像をデータベースに記録する記録工程、映像通話を実施中の前記第1端末および前記第2端末のうちの少なくとも一方の位置情報を取得する取得工程、前記取得した位置情報に対応する原本映像を、前記データベースから検出する検出工程、および前記第1端末および前記第2端末のうちの少なくとも一方が、カメラから得られるリアルタイム映像フレームを、前記検出された原本映像の少なくとも一部の原本フレームで代替して表示または送信するように、前記検出された原本映像を前記第1端末および前記第2端末のうちの少なくとも一方に送信する送信工程を含む、コンテンツ提供方法を提供する。
前記方法をコンピュータに実行させるためのコンピュータプログラムを提供する。
コンピュータで実現される送信端末であって、映像通話サービスに従って原本映像に含まれる原本フレームを加工する加工手段、および受信端末との映像通話のために、カメラから得られるリアルタイム映像フレームを、前記加工された原本フレームのうちの少なくとも一部で代替し、前記映像通話サービスの品質指標の算出のために、前記代替された少なくとも一部の原本フレームを前記受信端末との映像通話のためのフレームとし、前記映像通話サービスを経て前記受信端末に送信する送信手段を含む、送信端末を提供する。
コンピュータで実現される受信端末であって、送信端末から、映像通話サービスを経て、原本映像に含まれる原本フレームのうちの少なくとも一部の原本フレームを受信する受信手段であって、前記少なくとも一部の原本フレームは、前記映像通話サービスのために、前記送信端末のカメラから得られるリアルタイム映像フレームを、前記送信端末で前記少なくとも一部の原本フレームに代替することにより、前記映像通話サービスを経て受信される受信手段、および前記代替された少なくとも一部の原本フレームに基づいて、前記映像通話サービスの品質を測定するように処理する処理手段とを含む、受信端末を提供する。
映像通話中に送信端末のカメラリアルタイム映像フレームを原本映像で代替して送信し、受信端末で受信した原本映像を分析して映像通話サービスの品質を測定することができる。
受信される原本映像の原本フレームと原本フレームごとのインデックスおよびタイムスタンプに基づき、FR(Full−Reference)方式およびNR(No−Reference)方式の両方について品質指標を生成することができる。
位置を基盤としてカメラから得られるリアルタイム映像フレームを原本映像で代替する方式により、映像通話中の端末にコンテンツを提供することができる。
本発明の一実施形態における、ネットワーク環境の例を示した図である。 本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。 本発明の一実施形態における、映像通話品質測定過程の例を示した図である。 本発明の一実施形態における、送信端末の観点から見た映像通話品質測定方法の例を示したフローチャートである。 本発明の一実施形態における、受信端末の観点から見た映像通話品質測定方法の例を示したフローチャートである。 本発明の一実施形態における、FR方式の品質評価を説明するための例を示した図である。 本発明の一実施形態における、NR方式の品質評価を説明するための例を示した図である。 本発明の一実施形態において、コンテンツ提供方法の例を示したフローチャートである。
以下、実施形態について、添付の図面を参照しながら詳しく説明する。
本発明の実施形態に係るシステムは、以下で説明される少なくとも1つのコンピュータ装置によって実現されてよく、本発明の実施形態に係る方法は、以下で説明される少なくとも1つのコンピュータ装置によって実行されてよい。このとき、コンピュータ装置においては、本発明の一実施形態に係るコンピュータプログラムがインストールされて実行されてよく、コンピュータ装置は、実行されたコンピュータプログラムの制御に従って本発明の実施形態に係る方法を実行してよい。上述したコンピュータプログラムは、コンピュータ装置と結合して本発明の実施形態に係る方法をコンピュータ装置に実行させるためにコンピュータ読み取り可能な記録媒体に記録されてよい。
図1は、本発明の一実施形態における、ネットワーク環境の例を示した図である。図1のネットワーク環境は、複数の電子機器110、120、130、140、複数のサーバ150、160、およびネットワーク170を含む例を示している。このような図1は、発明の説明のための一例に過ぎず、電子機器の数やサーバの数が図1のように限定されることはない。また、図1のネットワーク環境は、本実施形態に適用可能な環境のうちの一例に過ぎず、本実施形態に適用可能な環境が図1のネットワーク環境に限定されることはない。
複数の電子機器110、120、130、140は、コンピュータ装置によって実現される固定端末や移動端末であってよい。複数の電子機器110、120、130、140の例としては、スマートフォン、携帯電話、ナビゲーション、PC(personal computer)、ノート型PC、デジタル放送用端末、PDA(Personal Digital Assistant)、PMP(Portable Multimedia Player)、タブレットなどがある。一例として、図1では、電子機器1(110)の例としてスマートフォンを示しているが、本発明の実施形態において、電子機器1(110)は、実質的に無線または有線通信方式を利用し、ネットワーク170を介して他の電子機器120、130、140および/またはサーバ150、160と通信することのできる多様な物理的なコンピュータ装置のうちの1つを意味してよい。
通信方式が限定されることはなく、ネットワーク170が含むことができる通信網(一例として、移動通信網、有線インターネット、無線インターネット、放送網)を利用する通信方式だけではなく、機器間の近距離無線通信が含まれてよい。例えば、ネットワーク170は、PAN(personal area network)、LAN(local area network)、CAN(campus area network)、MAN(metropolitan area network)、WAN(wide area network)、BBN(broadband network)、インターネットなどのネットワークのうちの1つ以上の任意のネットワークを含んでよい。さらに、ネットワーク170は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター−バスネットワーク、ツリーまたは階層的ネットワークなどを含むネットワークトポロジのうちの任意の1つ以上を含んでもよいが、これらに限定されることはない。
サーバ150、160のそれぞれは、複数の電子機器110、120、130、140とネットワーク170を介して通信して命令、コード、ファイル、コンテンツ、サービスなどを提供する1つ以上のコンピュータ装置によって実現されてよい。例えば、サーバ150は、ネットワーク170を介して接続した複数の電子機器110、120、130、140にサービス(一例として、映像通話サービス、金融サービス、決済サービス、ソーシャルネットワークサービス、メッセージングサービス、検索サービス、メールサービス、コンテンツ提供サービスなど)を提供するシステムであってよい。
図2は、本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。上述した複数の電子機器110、120、130、140のそれぞれやサーバ150、160のそれぞれは、図2に示されたコンピュータ装置200によって実現されてよく、本発明の実施形態に係る方法は、このようなコンピュータ装置200によって実行されてよい。
このとき、図2に示すように、コンピュータ装置200は、メモリ210、プロセッサ220、通信インタフェース230、および入力/出力インタフェース240を含んでよい。メモリ210は、コンピュータ読み取り可能な記録媒体であって、RAM(random access memory)、ROM(read only memory)、およびディスクドライブのような永続的大容量記録装置を含んでよい。ここで、ROMやディスクドライブのような永続的大容量記録装置は、メモリ210とは区分される別の永続的記録装置としてコンピュータ装置200に含まれてもよい。また、メモリ210には、オペレーティングシステムと、少なくとも1つのプログラムコードが記録されてよい。このようなソフトウェア構成要素は、メモリ210とは別のコンピュータ読み取り可能な記録媒体からメモリ210にロードされてよい。このような別のコンピュータ読み取り可能な記録媒体は、フロッピー(登録商標)ドライブ、ディスク、テープ、DVD/CD−ROMドライブ、メモリカードなどのコンピュータ読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータ読み取り可能な記録媒体ではない通信インタフェース230を通じてメモリ210にロードされてもよい。例えば、ソフトウェア構成要素は、ネットワーク170を介して受信されたファイルによってインストールされるコンピュータプログラムに基づいてコンピュータ装置200のメモリ210にロードされてよい。
プロセッサ220は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ210または通信インタフェース230によって、プロセッサ220に提供されてよい。例えば、プロセッサ220は、メモリ210のような記録装置に記録されたプログラムコードに従って受信される命令を実行するように構成されてよい。
通信インタフェース230は、ネットワーク170を介してコンピュータ装置200が他の装置(一例として、上述した記録装置)と互いに通信するための機能を提供してよい。一例として、コンピュータ装置200のプロセッサ220がメモリ210のような記録装置に記録されたプログラムコードに従って生成した要求や命令、データ、ファイルなどが、通信インタフェース230の制御に従ってネットワーク170を介して他の装置に伝達されてよい。これとは逆に、他の装置からの信号や命令、データ、ファイルなどが、ネットワーク170を介してコンピュータ装置200の通信インタフェース230を通じてコンピュータ装置200に受信されてよい。通信インタフェース230を通じて受信された制御信号や命令、データなどは、プロセッサ220やメモリ210に伝達されてよく、ファイルなどは、コンピュータ装置200がさらに含むことのできる記録媒体(上述した永続的記録装置)に記録されてよい。
入力/出力インタフェース240は、入力/出力装置250とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、カメラ、またはマウスなどの装置を、出力装置は、ディスプレイ、スピーカなどのような装置を含んでよい。他の例として、入力/出力インタフェース240は、タッチスクリーンのように入力と出力のための機能が1つに統合された装置とのインタフェースのための手段であってもよい。入力/出力装置250は、コンピュータ装置200と1つの装置で構成されてもよい。
また、他の実施形態において、コンピュータ装置200は、図2の構成要素よりも少ないか多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータ装置200は、上述した入力/出力装置250のうちの少なくとも一部を含むように実現されてもよいし、トランシーバやデータベースなどのような他の構成要素をさらに含んでもよい。
図3は、本発明の一実施形態における、映像通話品質測定過程の例を示した図である。図3は、第1端末310と第2端末320が映像通話を行っている状況であると仮定する。第1端末310と第2端末320のそれぞれは、映像通話のためのメディア(映像やオーディオなど)の送信端末であると同時に受信端末であってよく、図3の実施形態では、送信端末としての第1端末310が受信端末としての第2端末320にメディアを伝達する過程について説明する。
一般的な映像通話の過程では、第1端末310は、カメラ311で撮影された映像の信号である入力信号312を、エンコーダおよびパケタイザ313によってエンコードおよびパケット化して、メディアストリームを生成し、生成されたメディアストリームは、ネットワーク170を介して第2端末320に伝達される。映像通話サービスの種類によっては、メディアストリームは、映像通話サービスを提供するサーバ(図示せず)を経て第1端末310から第2端末320に送信されることもある。このとき、第2端末320は、第1端末310から受信されるメディアストリームを、デコーダおよびデパケタイザ321によってデコードおよびデパケット化して、出力信号322を生成する。一般的な映像通話の過程であれば、第2端末320は、出力信号322を出力部323から出力するが、これが、映像通話のための映像やオーディオなどを第2端末320から出力することとなる。第2端末320も、同じような方法によって第1端末310に映像通話のための映像やオーディオなどを伝達し、第1端末310が映像やオーディオなどを出力することにより、第1端末310と第2端末320との間に映像通話サービス提供が成立するようになる。
一方、本実施形態では、映像通話サービスの品質を測定するために、第1端末310は、入力信号312の代わりに、第1格納場所314に格納されていた原本映像を第2端末320に送信してよい。まず、第1端末310は、原本映像を原本映像加工部315で加工してよい。例えば、予め生成された原本映像と、映像通話サービスのフレームレートおよび/または解像度などとが互いに合わない場合があるため、第1端末310は、原本映像加工部315において、原本映像のフレームレートおよび解像度が、品質を測定しようとする映像通話サービスのフレームレートおよび解像度に対応するように、原本映像に含まれる原本フレームを加工してよい。より具体的な例として、カメラに入力される映像のフレームレートが15fps(frame per second)であり、原本映像のフレームレートが30fpsである場合、原本映像を1フレームずつ飛ばしながら代替してよい。原本映像に含まれる原本フレームのインデックスが「1、2、3、4、5、6、7、・・・」のように付与されている場合、「1、3、5、7、・・・」の原本フレームで、カメラに入力される映像のフレームを代替することができる。また、第1端末310は、入力信号312として含まれるリアルタイム映像フレームを、加工された原本フレームのうちの少なくとも一部で代替してよい。この場合、代替された少なくとも一部の原本フレームに含まれる入力信号312が、エンコードおよびパケット化されて第2端末320に送信されてよい。
第2端末320は、メディアストリームの形態で送信された入力信号をデコードおよびデパケット化することで、代替された少なくとも一部の原本フレームを含む出力信号322を得ることができ、代替された少なくとも一部の原本フレームに基づいて、映像通話サービスの品質を測定することができる。このとき、映像通話サービスの品質を測定するために、代替された少なくとも一部の原本フレームが分析モジュール330に伝達されてよい。実施形態によっては、分析モジュール330は、第2端末320に含まれてもよく、第2端末320と連係する別の分析端末(図示せず)に含まれてもよい。図3では、分析モジュール330が第2端末320に含まれる場合を仮定している。
このとき、図3の実施形態では、分析モジュール330がFR(Full−Reference)モデル331、RR(Reduced−Reference)モデル332、およびNR(No−Reference)モデル333と、第2格納場所334を含む例を示している。実施形態によっては、RR(Reduced−Reference)モデル332は省略されてもよく、第2格納場所334は、分析モジュール330ではなく第2端末320の別の場所や上述した別の分析端末に含まれてもよい。
FRモデル331は、代替された少なくとも一部の原本フレームに含まれるインデックスを利用し、第2格納場所334に格納された原本映像に含まれる原本フレームから、同じインデックスの原本フレームを見つけ出して互いに比較するFR方式によって、映像通話サービスの品質に対する第1品質指標を算出することができる。FR方式は、原本映像と処理映像の両方が分かっている場合、これらを直接比較して受信された処理映像の品質を測定する方法であり、一例として、ピーク信号対雑音比(PSNR:Peak Signal−to−Noise Ratio)もこれに含まれると言える。このようなFR方式は、原本映像(一例として、第2格納場所334に格納された原本映像)と処理映像(代替された少なくとも一部の原本フレーム)の両方を用いるため、比較的正確に人間が認識する画質を測定することはできるが、実際の応用においては原本映像が存在しない場合が多いため、適用範囲は制限される。FR方式は、ピクセル(pixel)別の歪み(ノイズ)程度を測定するPSNRから人間の視覚システム(Human Visual System:HVS)を考慮する方式やマシンラーニングによって評価する方式など、多様な方法が存在する。一実施形態において、インターネット技術特別調査委員会(Internet Engineering Task Force:IETF)で標準化が進められている「Video Codec Testing and Quality Measurement(draft−ietf−netvc−testing−01)」で採択される方法がFR方式として使用されてよい。この標準化は2016年2月から始まり、使用されたFR方式は、現在まで開発された方式の中でも学術的にも実際の使用においてもその性能が証明された。FR方式は、フレーム内(intra−frame)映像の歪み程度を適切に評価することは可能であるが、フレーム間(inter−frame)の歪み、すなわち、画面スキップ(skip)、画面フリーズ(freezing)、ジャーキネス(jerkiness)などのような歪みの評価には困難があるという短所がある。本発明の実施形態では、インターネット状況の変化が著しいモバイル環境を考慮し、FR方式だけではなくNR方式をハイブリッドに組み合わせて評価を行う。
また、NRモデル333は、FR方式では測定が困難である画面スキップ、画面フリーズ、ブラックネス(blackness)程度などを評価するために、NR方式によって映像通話サービスの品質に対する第2品質指標を算出してよい。NR方式は、原本映像に関するいかなる情報も利用せず、処理映像のみを利用して品質を評価する方式である。原本映像が必要ないため適用範囲は極めて多様ではあるものの、処理映像だけで画質を測定することは容易でない。しかし、MPEG(Moving Picture Experts Group)のようなブロック基盤の符号化方法で特徴的に現われる低周波領域のブロック化現象や高周波領域の波型雑音などを測定する方法に関する研究が進められている。一方、NR方式は、映像に雑音が常に存在するという仮定を前提とする。このような仮定は、画質測定エラーが発生する危険性を内包しており、映像内にチェス盤が存在する場合、歪みが全くなかったとしてもブロック型の雑音として認識される現象がその一例であるが、本発明の実施形態では、測定映像および/または原本映像を指定することができるため、このようなエラーをなくすことができる。このようなNR方式の品質評価は、受信された映像と映像内のインデックス(一例として、時間情報)を利用することで、映像通話サービスのフレームレート(frame rate)、解像度、実際に送信されたフレームの間隔、映像スキップ、映像フリーズ、ブラックネス、ジャーキネスなど、一般的なNR方式によって測定されるメトリック(metric)のうちの1つを測定して評価する。測定メトリック中の遅延(delay)測定方式は、正確な単方向遅延のために送信端末と受信端末とを時間同期化させる方式と、受信端末で再生される映像信号をカメラに再挿入して送信端末に戻すループバック(loopback)方式とがある。同期化方式の場合、GPS(Global Positioning System)を使用する方式が一般的であるが、衛星を受信しない室内で測定する場合にはネットワークタイププロトコル(NTP:Network Time protocol)を用いる方式が利用されることもある。同期化された送信端末から送るタイムスタンプN値が、受信された端末のタイムスタンプM値から探知されれば、遅延はM−N値として計算されてよい。複数回の遅延測定を行うことで平均や標準偏差などの統計的特性を評価してよい。ループバック方式の場合、回路スイッチ(circuit switch)方式の通話で主に使用されるが、ネットワーク特性が変化するパケットスイッチ(packet switch)方式では多少のジッタ(jitter)が発生することがある。しかし、インターネットを介した映像通話サービスのほとんどには約400〜700msの遅延が生じるため、ループバック方式の不正確性は約10%となる。遅延の値は大体の趨勢をみる程度のものであるため、この程度の不正確性は許容範囲内である。同期化がなされていない送信端末から送るタイムスタンプN値が、受信された端末からループバックされ、再び送信端末のタイムスタンプL値で探知されれば、遅延(L−N)/2値として計算されてよい。この場合にも、複数回の遅延測定を行うことで平均や標準偏差などの統計的特性を評価してよい。遅延の値を絶対評価手段ではなく相対評価手段、例えば、標準偏差、ピーク/平均の比率(peak/mean ratio)などのようなサービス安全性の評価手段として使用すれば、ループバック方式も意味のあるメトリックを提供することができる。H.26X、MPEGなどのブロック−離散コサイン変換(DCT:Discrete Cosine Transform)映像符号化の場合、大部分は8×8または4×4に固定されたブロックで変換符号化を実行するため、ブロック型雑音もこの構造で発生するようになり、この性質を利用してブロック型雑音を中心に映像に含まれた雑音水準を推定する方法が活発に研究されている。本発明の実施形態では、ソーベル(Sobel)演算によって映像に存在するエッジを抽出し、エッジとエッジ内部のエネルギーの比率を垂直および水平軸に対して計算して歪みの程度を測定する。さらに、ブロックの平坦度(flatness)、人間の視覚システム特性に基づいたテクスチャマスキング(texture masking)効果、輝度適応(luminance adaption)を考慮して評価性能を高めてもよい。受信映像のフレームカウント(frame count)情報の規則性に基づいて映像スキップとフレームレートを判別してよい。例えば、フレームカウントが「1、3、5、7、・・・」のように2ずつ増加する場合、原本映像のフレームレートである30fps(frame per second)の1/2であることが分かる。フレームカウントが規則的に増加しなければ、ネットワーク環境の不安定によるパケットエラー(packet error)が発生して映像スキップが発生したことが分かる。1単位時間にスキップされたフレームの比率を計算すれば、統計的特性を利用してスキップ程度を測定することができる。複数のスキップが発生すれば、タイムスタンプ(time stamp)情報と比例してフレームカウントが増加せずに階段式に増加し、映像フリーズが発生する。一定時間内のそれぞれのフリーズ比率と全体フリーズの比率に適合する加重合(weight sum)を出せば、停止フリーズを測定することができる。
一方、RR方式とは、原本映像と処理映像の両方は存在しないが、それぞれの映像から抽出した特徴(features)を用いて処理映像の品質を測定する方式である。このようなRR方式の使用のために、第1端末310は、代替された少なくとも一部の原本フレームのそれぞれから特徴を抽出して第2端末320に送信してよく、RR(Reduced−Reference)モデル332は、第2端末320が受信した特徴を利用して処理映像の品質を測定することができる。これに関して2つの形態の応用が考えられる。一実施形態は、受信側での品質評価である。単方向通信網の場合、符号化された動画データとともに原本映像の特徴を送信すれば、受信側では圧縮された動画を復号化し、復号化された動画から処理映像の特徴を抽出する。そして、このような処理映像の特徴と原本映像の特徴とを互いに比較して処理映像の品質を測定してよい。他の実施形態は、送信側での品質評価である。双方向通信網の場合、受信側で復号化された動画の特徴を抽出した後、リターンチャネルを介して抽出された特徴を送信側に送信し、送信側で原本映像の特徴とリターンされた処理映像の特徴とを比較して処理映像の品質をモニタリングしてよい。
図4は、本発明の一実施形態における、送信端末の観点から見た映像通話品質測定方法の例を示したフローチャートである。本実施形態に係る映像通話品質測定方法は、一例として、上述した送信端末である第1端末310を実現するコンピュータ装置200によって実行されてよい。例えば、コンピュータ装置200のプロセッサ220は、メモリ210が含むオペレーティングシステムのコードと少なくとも1つのプログラムのコードとによる制御命令(instruction)を実行するように実現されてよい。ここで、プロセッサ220は、コンピュータ装置200に記録されたコードが提供する制御命令に従ってコンピュータ装置200が図4の方法に含まれる段階410〜段階430を実行するようにコンピュータ装置200を制御してよい。図4では、このようなコンピュータ装置200によって実現された第1端末310が図4の方法を実行する実施形態について説明する。
段階410において、第1端末310は、映像通話サービスに従って、原本映像に含まれる原本フレームを加工することができる。上述したように、原本映像に対する加工は、代替される原本映像を、映像通話サービスを経て第2端末320に送信するために、映像通話サービスのフレームレートおよび/または解像度などに適合するように原本映像の原本フレームを加工する過程であってよい。
段階420において、第1端末310は、受信端末との映像通話のためにカメラから得られるリアルタイム映像フレームを、加工された原本フレームのうちの少なくとも一部に代替することができる。例えば、30fpsの原本映像を15fpsの映像通話サービスで送信するために、原本映像の2つの原本フレームごとに1つの原本フレームが、カメラから得られるリアルタイム映像フレームのそれぞれに対応して代替されてよい。受信端末は、上述した第2端末320に対応してよい。
段階430において、第1端末310は、映像通話サービスの品質指標の算出のために、代替された少なくとも一部の原本フレームを、受信端末との映像通話のためのフレームとして使用して、映像通話サービスを経て受信端末に送信することができる。例えば、第1端末310は、段階430において、受信端末または受信端末と連係する分析端末で代替された少なくとも一部の原本フレームに基づいて映像通話サービスの品質指標を算出するように、代替された少なくとも一部の原本フレームを、映像通話サービスを経て受信端末に送信してよい。このような代替された原本フレームの送信は、受信端末である第2端末320に、上述したようなFR方式、RR方式、および/またはNR方式によって映像通話サービスの品質を測定することができる能力を提供してよい。
一実施形態として、受信端末または分析端末は、代替された少なくとも一部の原本フレームと、原本映像に含まれる原本フレームとを互いに比較してFR方式によって第1品質指標を算出し、代替された少なくとも一部の原本フレームに基づいて、NR方式によって第2品質指標を算出し、第1品質指標と第2品質指標とを組み合わせて映像通話サービスの最終品質指標を生成してよい。例えば、原本映像に含まれる原本フレームは、原本フレームのためのインデックスを含むように生成されてよい。このようなインデックスは、原本フレームの再生と関連する時間情報および/または順序情報を含んでよい。このとき、受信端末または分析端末は、代替された少なくとも一部の原本フレームのそれぞれに対して同じインデックスをもつ原本映像の原本フレームを互いに比較し、FR方式によって第1品質指標を算出してよい。また、受信端末または分析端末は、代替された少なくとも一部の原本フレームおよび該代替された少なくとも一部の原本フレームのそれぞれと関連するタイムスタンプに少なくとも基づき、NR方式によって第2品質指標を算出してよい。このとき、タイムスタンプは、対応する原本フレームが送信端末である第1端末310から送信された時刻と、対応する原本フレームが受信端末に受信された時刻のうちの少なくとも一方を含んでよい。
図5は、本発明の一実施形態における、受信端末の観点から見た映像通話品質測定方法の例を示したフローチャートである。本実施形態に係る映像通話品質測定方法は、一例として、上述した受信端末である第2端末320を実現するコンピュータ装置200によって実行されてよい。例えば、コンピュータ装置200のプロセッサ220は、メモリ210が含むオペレーティングシステムのコードと少なくとも1つのプログラムのコードとによる制御命令(instruction)を実行するように実現されてよい。ここで、プロセッサ220は、コンピュータ装置200に記録されたコードが提供する制御命令に従ってコンピュータ装置200が図5の方法に含まれる段階510および段階520を実行するようにコンピュータ装置200を制御してよい。図5では、このようなコンピュータ装置200によって実現された第2端末320が図5の方法を実行する実施形態について説明する。
段階510において、第2端末320は、送信端末から、映像通話サービスを経て、原本映像に含まれる原本フレームのうちの少なくとも一部の原本フレームを受信することができる。ここで、送信端末は、上述した第1端末310に対応してよく、少なくとも一部の原本フレームは、映像通話サービスのために送信端末のカメラから得られたリアルタイム映像フレームを、送信端末が少なくとも一部の原本フレームに代替することにより、映像通話サービスを経て受信されてよい。
段階520において、第2端末320は、代替された少なくとも一部の原本フレームに基づいて映像通話サービスの品質を測定するように処理することができる。品質の測定が第2端末320とは別の分析端末によってなされる場合、第2端末320は、段階520において、代替された少なくとも一部の原本フレームを分析端末に伝達するだけでよい。図5では、第2端末320が品質の測定を直接処理する実施形態について説明しており、このために、段階520が段階521〜段階523を含む実施形態について説明する。別の分析端末が活用される場合、段階521〜段階523は段階520とは分離され、分析端末によって実行されてよい。
段階521において、第2端末320は、代替された少なくとも一部の原本フレームと、原本映像に含まれる原本フレームとを互いに比較し、FR方式によって第1品質指標を算出してよい。上述したように、原本映像に含まれる原本フレームは、原本フレームのためのインデックスを含むように生成されてよく、このとき、インデックスは、原本フレームの再生と関連する時間情報および/または順序情報を含んでよい。この場合、第2端末320は、段階521において、代替された少なくとも一部の原本フレームのそれぞれに対して同じインデックスをもつ原本映像の原本フレームを互いに比較し、FR方式によって第1品質指標を算出してよい。
段階522において、第2端末320は、代替された少なくとも一部の原本フレームに基づき、NR方式によって第2品質指標を算出してよい。このとき、第2端末320は、代替された少なくとも一部の原本フレームおよび該代替された少なくとも一部の原本フレームのそれぞれと関連するタイムスタンプに少なくとも基づき、NR方式によって第2品質指標を算出してよい。
段階523において、第2端末320は、第1品質指標と第2品質指標とを組み合わせて映像通話サービスの最終品質指標を生成してよい。FR方式によって算出された第1品質指標は、上述したように、フレーム間の歪み、すなわち、画面スキップ、画面フリーズ、ジャーキネスなどのような歪みを評価することが困難である反面、NR方式によって算出された第2品質指標は、映像通話サービスのフレームレート、解像度、実際に送信されたフレームの間隔、映像スキップ、映像フリーズ、ブラックネス、ジャーキネスなどのような多様な指標の測定が可能である。したがって、このような第1および第2品質指標を組み合わせた最終品質指標は、インターネット状況の変化が著しいモバイル環境でも、映像通話サービス品質を正確に測定することが可能となる。
図6は、本発明の一実施形態における、FR方式の品質評価を説明するための例を示した図である。送信端末610と受信端末620との間に映像通話が連結されると、一定の安定化時間(time stable)の後、送信端末610は映像を受信端末620に送信する。このとき、送信端末610は、映像通話サービスに適合するように原本映像630を加工し、原本映像630の原本フレームを受信端末620に送信してよい。図6では、30fpsの原本映像630を15fpsの映像通話サービスを経て送信するために、2つの原本フレームごとに1つの原本フレームを送信する例について説明している。言い換えれば、「1、2、3、4、5、6、7、・・・」のインデックスで原本映像630の原本フレームを識別するとき、「1、3、5、7、・・・」の原本フレームが送信端末610から受信端末620に送信されてよい。このとき、受信端末620は、受信された原本フレーム640と、受信端末620が取得した原本映像の原本フレームのうちで受信された原本フレーム640と同じインデックスをもつ原本フレーム650とを互いに比較することにより、FR方式の評価660を処理してよい。
図7は、本発明の一実施形態における、NR方式の品質評価を説明するための例を示した図である。図7は、図6と同じように、送信端末610が映像通話サービスに適合するように原本映像630を加工して原本映像630の原本フレームを受信端末620に送信することにより、受信端末620が原本フレーム640を受信した例について示している。また、図7では、原本フレーム640のそれぞれが受信された時刻に関する情報を含むタイムスタンプ710を利用することで、NR方式の評価720を処理することについて示している。
言い換えれば、受信端末620が受信された原本映像630の原本フレームを「1、3、5、7、・・・」のインデックスで識別するとき、インデックス変化の統計的特性、例えば、画面がフリーズした間隔や回数などの比率を線形あるいは非線形で組み合わせることで、画面スキップや画面フリーズを測定してよい。また、受信端末620が受信された原本映像630の原本フレームを「0、67、133、200、・・・」のタイムスタンプで識別するとき、タイムスタンプの間隔、受信された原本フレームの動き変化度を利用してジャーキネスを測定してよい。
一方、他の実施形態として、映像通話中の映像の代替は、映像通話中であるユーザにコンテンツを提供するための技術としても活用可能である。
図8は、本発明の一実施形態における、コンテンツ提供方法の例を示したフローチャートである。図8の実施形態に係るコンテンツ提供方法は、上述した少なくとも1つのコンピュータ装置200によって実現されてよく、コンテンツ提供サーバによって実行されてよい。このようなコンテンツ提供サーバは、第1端末と第2端末との映像通話中にコンテンツを提供するように実現されてよい。例えば、コンピュータ装置200のプロセッサ220は、メモリ210が含むオペレーティングシステムのコードと少なくとも1つのプログラムのコードとによる制御命令(instruction)を実行するように実現されてよい。ここで、プロセッサ220は、コンピュータ装置200に記録されたコードが提供する制御命令に従ってコンピュータ装置200が図8の方法に含まれる段階810〜段階840を実行するようにコンピュータ装置200を制御してよい。
段階810において、コンピュータ装置200は、位置別の原本映像をデータベースに記録することができる。原本映像は、コンテンツ提供サーバがユーザに提供しようとする映像コンテンツを含んでよい。このような位置別の原本映像は、該当の位置と関連する情報を含んでよく、特定の位置と関連するコンテンツ提供者によって登録されてよい。
段階820において、コンピュータ装置200は、映像通話を実施している第1端末および第2端末のうちの少なくとも一方の位置情報を取得することができる。このような位置情報は、基本的に、第1端末および第2端末のうちの少なくとも一方から受信されるGPS座標に基づいて取得されてよいが、第1端末および第2端末のうちの少なくとも一方の室内位置などを把握するためのWi−Fi信号の強度やビーコン情報などを活用して取得されてもよい。
段階830において、コンピュータ装置200は、取得した位置情報に対応する原本映像を、データベースから検出することができる。例えば、位置情報によって識別される場所Aと関連されて登録された原本映像Bを、データベースから検出することができる。
段階840において、コンピュータ装置200は、第1端末および第2端末のうちの少なくとも一方が、カメラから得られるリアルタイム映像フレームを、検出された原本映像の少なくとも一部の原本フレームで代替して表示または送信するように、検出された原本映像を第1端末および第2端末のうちの少なくとも一方に送信することができる。この場合、第1端末および第2端末のうちの少なくとも一方は、送信された原本映像に含まれる原本フレームを、映像通話サービスのフレームレートおよび解像度のうちの少なくとも一方によって加工し、加工された原本フレームのうちの少なくとも一部の原本フレームで、カメラから得られるリアルタイム映像フレームを代替して表示または送信することにより、映像通話中に第1端末および/または第2端末で原本映像によるコンテンツを表示することができる。したがって、第1端末および第2端末のうちの少なくとも一方のディスプレイには、既存の映像通話のためにカメラから得られるリアルタイム映像ではない、加工された原本映像が表示されてよく、第1端末および第2端末のうちの少なくとも一方は、自身の現在位置や場所と関連する情報、または映像通話の相手の現在位置や場所と関連する情報を映像コンテンツの形態で得ることが可能となる。
このように、本発明の実施形態によると、映像通話中に送信端末のカメラリアルタイム映像フレームを原本映像に代替して送信し、受信端末で受信した原本映像を分析して映像通話サービスの品質を測定することができる。また、受信される原本映像の原本フレームと、原本フレームごとのインデックスおよびタイムスタンプに基づき、FR方式およびNR方式の両方について品質指標を生成することができる。これだけでなく、位置を基盤としてカメラから得られるリアルタイム映像フレームを原本映像に代替する方式により、映像通話中の端末にコンテンツを提供することができる。
上述したシステムまたは装置は、ハードウェア構成要素、またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、例えば、プロセッサ、コントローラ、ALU(arithmetic logic unit)、デジタル信号プロセッサ、マイクロコンピュータ、FPGA(field programmable gate array)、PLU(programmable logic unit)、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、1つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム(OS)およびOS上で実行される1つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および生成してもよい。理解の便宜のために、1つの処理装置が使用されるとして説明される場合もあるが、当業者は、処理装置が複数個の処理要素および/または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは1つのプロセッサおよび1つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。
ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの1つ以上の組み合わせを含んでもよく、思うままに動作するように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび/またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、仮想装置、コンピュータ記録媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、1つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。
実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。前記コンピュータ読み取り可能な媒体は、プログラム命令、データファイル、データ構造などを単独でまたは組み合わせて含んでよい。媒体は、コンピュータで実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例としては、ハードディスク、フロッピディスク、磁気テープのような磁気媒体、CD−ROM、DVDのような光媒体、フロプティカルディスク(floptical disk)のような光磁気媒体、およびROM、RAM、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアやその他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。プログラム命令の例には、コンパイラによって生成されるもののような機械語コードだけでなく、インタプリタなどを使用してコンピュータによって実行されることのできる高級言語コードを含む。
以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ/あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって代替されたり置換されたとしても、適切な結果を達成することができる。
したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。
310:第1端末
320:第2端末
330:分析モジュール

Claims (20)

  1. 送信端末の映像通話品質測定方法であって、
    映像通話サービスに従って、原本映像に含まれる原本フレームを加工する加工工程、
    受信端末との映像通話のために、カメラから得られるリアルタイム映像フレームを、前記加工された原本フレームのうちの少なくとも一部で代替する代替工程、および
    前記映像通話サービスの品質指標の算出のために、前記代替された少なくとも一部の原本フレームを前記受信端末との映像通話のためのフレームとし、前記映像通話サービスを経て前記受信端末に送信する送信工程
    を含む、映像通話品質測定方法。
  2. 前記加工工程は、
    前記原本映像に含まれる原本フレームのそれぞれを、前記映像通話サービスのフレームレートおよび解像度のうちの少なくとも一方によって加工する、請求項1に記載の映像通話品質測定方法。
  3. 前記送信工程は、
    前記受信端末または前記受信端末と連係する分析端末で前記代替された少なくとも一部の原本フレームに基づいて前記映像通話サービスの品質指標が算出されるように、前記代替された少なくとも一部の原本フレームを、前記映像通話サービスを経て前記受信端末に送信する、請求項1に記載の映像通話品質測定方法。
  4. 前記受信端末または前記受信端末と連係する分析端末で、前記代替された少なくとも一部の原本フレームと前記原本映像に含まれる原本フレームとを互いに比較してFR(Full−Reference)方式によって第1品質指標が算出され、前記代替された少なくとも一部の原本フレームに基づいてNR(No−Reference)方式によって第2品質指標が算出され、前記第1品質指標と前記第2品質指標とを組み合わせて前記映像通話サービスの最終品質指標が生成される、請求項1に記載の映像通話品質測定方法。
  5. 前記原本映像に含まれる原本フレームは、前記原本フレームのためのインデックスを含むように生成され、
    前記受信端末または前記分析端末で、前記代替された少なくとも一部の原本フレームのそれぞれに対して同じインデックスをもつ前記原本映像の原本フレームを互いに比較し、前記FR方式によって前記第1品質指標が算出される、請求項4に記載の映像通話品質測定方法。
  6. 前記受信端末または前記分析端末で、前記代替された少なくとも一部の原本フレームおよび前記代替された少なくとも一部の原本フレームのそれぞれと関連するタイムスタンプに少なくとも基づき、前記NR方式によって前記第2品質指標が算出される、請求項4に記載の映像通話品質測定方法。
  7. 前記タイムスタンプは、対応する原本フレームが前記送信端末から送信された時刻と、前記対応する原本フレームが前記受信端末で受信された時刻のうちの少なくとも一方を含む、請求項6に記載の映像通話品質測定方法。
  8. 受信端末の映像通話品質測定方法であって、
    送信端末から、映像通話サービスを経て、原本映像に含まれる原本フレームのうちの少なくとも一部の原本フレームを受信する受信工程であって、前記少なくとも一部の原本フレームは、前記映像通話サービスのために前記送信端末のカメラから得られるリアルタイム映像フレームを、前記送信端末で前記少なくとも一部の原本フレームに代替することにより、前記映像通話サービスを経て受信される、受信工程、および
    前記代替された少なくとも一部の原本フレームに基づいて、前記映像通話サービスの品質を測定するように処理する処理工程
    を含む、映像通話品質測定方法。
  9. 前記処理工程は、
    前記代替された少なくとも一部の原本フレームと前記原本映像に含まれる原本フレームとを互いに比較し、FR方式によって第1品質指標を算出する第1品質指標算出工程、
    前記代替された少なくとも一部の原本フレームに基づき、NR方式によって第2品質指標を算出する第2品質指標算出工程、および
    前記第1品質指標と前記第2品質指標とを組み合わせて前記映像通話サービスの最終品質指標を生成する生成工程
    を含む、請求項8に記載の映像通話品質測定方法。
  10. 前記原本映像に含まれる原本フレームは、前記原本フレームのためのインデックスを含むように生成され、
    前記第1品質指標算出工程は、
    前記代替された少なくとも一部の原本フレームのそれぞれに対して同じインデックスをもつ前記原本映像の原本フレームを互いに比較し、前記FR方式によって前記第1品質指標を算出する、請求項9に記載の映像通話品質測定方法。
  11. 前記第2品質指標算出工程は、
    前記代替された少なくとも一部の原本フレームおよび前記代替された少なくとも一部の原本フレームのそれぞれと関連するタイムスタンプに少なくとも基づき、前記NR方式によって前記第2品質指標を算出する、請求項9に記載の映像通話品質測定方法。
  12. 前記処理工程は、
    前記代替された少なくとも一部の原本フレームに基づいて前記映像通話サービスの品質を測定する分析端末に、前記代替された少なくとも一部の原本フレームを送信し、
    前記分析端末で前記代替された少なくとも一部の原本フレームと前記原本映像に含まれる原本フレームとを互いに比較してFR方式によって第1品質指標が算出され、前記代替された少なくとも一部の原本フレームに基づいてNR方式によって第2品質指標が算出され、前記第1品質指標と前記第2品質指標とを組み合わせて前記映像通話サービスの最終品質指標が生成される、請求項8に記載の映像通話品質測定方法。
  13. 第1端末と第2端末との映像通話中にコンテンツを提供するコンテンツ提供方法であって、
    位置別の原本映像をデータベースに記録する記録工程、
    映像通話を実施中の前記第1端末および前記第2端末のうちの少なくとも一方の位置情報を取得する取得工程、
    前記取得した位置情報に対応する原本映像を、前記データベースから検出する検出工程、および
    前記第1端末および前記第2端末のうちの少なくとも一方が、カメラから得られるリアルタイム映像フレームを、前記検出された原本映像の少なくとも一部の原本フレームで代替して表示または送信するように、前記検出された原本映像を前記第1端末および前記第2端末のうちの少なくとも一方に送信する送信工程
    を含む、コンテンツ提供方法。
  14. 前記第1端末および前記第2端末のうちの少なくとも一方で、前記送信された原本映像に含まれる原本フレームを、映像通話サービスのフレームレートおよび解像度のうちの少なくとも一方によって加工し、前記加工された原本フレームのうちの少なくとも一部の原本フレームで前記カメラから得られるリアルタイム映像フレームを代替して表示または送信する、請求項13に記載のコンテンツ提供方法。
  15. 請求項1乃至14のうちのいずれか一項に記載の方法をコンピュータに実行させるためのコンピュータプログラム。
  16. コンピュータで実現される送信端末であって、
    映像通話サービスに従って、原本映像に含まれる原本フレームを加工する加工手段、
    受信端末との映像通話のために、カメラから得られるリアルタイム映像フレームを、前記加工された原本フレームのうちの少なくとも一部で代替する代替手段、および
    前記映像通話サービスの品質指標の算出のために、前記代替された少なくとも一部の原本フレームを前記受信端末との映像通話のためのフレームとし、前記映像通話サービスを経て前記受信端末に送信する送信手段、
    を含む、送信端末。
  17. 前記送信手段は、
    前記受信端末または前記受信端末と連係する分析端末で前記代替された少なくとも一部の原本フレームに基づいて前記映像通話サービスの品質指標が算出されるように、前記代替された少なくとも一部の原本フレームを、前記映像通話サービスを経て前記受信端末に送信する、請求項16に記載の送信端末。
  18. 前記受信端末または前記受信端末と連係する分析端末で、前記代替された少なくとも一部の原本フレームと前記原本映像に含まれる原本フレームとを互いに比較してFR方式によって第1品質指標が算出され、前記代替された少なくとも一部の原本フレームに基づいてNR方式によって第2品質指標が算出され、前記第1品質指標と前記第2品質指標とを組み合わせて前記映像通話サービスの最終品質指標が生成される、請求項16に記載の送信端末。
  19. コンピュータで実現される受信端末であって、
    送信端末から、映像通話サービスを経て、原本映像に含まれる原本フレームのうちの少なくとも一部の原本フレームを受信する受信手段であって、前記少なくとも一部の原本フレームは、前記映像通話サービスのために、前記送信端末のカメラから得られるリアルタイム映像フレームを、前記送信端末で前記少なくとも一部の原本フレームに代替することにより、前記映像通話サービスを経て受信される、受信手段、および
    前記代替された少なくとも一部の原本フレームに基づいて、前記映像通話サービスの品質を測定するように処理する処理手段、
    を含む、受信端末。
  20. 前記処理手段は、
    前記代替された少なくとも一部の原本フレームと前記原本映像に含まれる原本フレームとを互いに比較してFR方式によって第1品質指標を算出する第1品質指標算出手段、
    前記代替された少なくとも一部の原本フレームに基づいてNR方式によって第2品質指標を算出する第2品質指標算出手段、および
    前記第1品質指標と前記第2品質指標とを組み合わせて前記映像通話サービスの最終品質指標を生成する生成手段を含む、請求項19に記載の受信端末。
JP2019108788A 2018-07-02 2019-06-11 映像通話サービスの品質をリアルタイムで測定する方法およびシステム Active JP7431514B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180076566A KR102084469B1 (ko) 2018-07-02 2018-07-02 영상통화 서비스의 품질을 실시간으로 측정하는 방법 및 시스템
KR10-2018-0076566 2018-07-02

Publications (2)

Publication Number Publication Date
JP2020010321A true JP2020010321A (ja) 2020-01-16
JP7431514B2 JP7431514B2 (ja) 2024-02-15

Family

ID=69055503

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019108788A Active JP7431514B2 (ja) 2018-07-02 2019-06-11 映像通話サービスの品質をリアルタイムで測定する方法およびシステム

Country Status (3)

Country Link
US (1) US11343299B2 (ja)
JP (1) JP7431514B2 (ja)
KR (1) KR102084469B1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023209800A1 (ja) * 2022-04-26 2023-11-02 日本電信電話株式会社 映像品質推定装置、映像品質推定方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06303594A (ja) * 1993-04-12 1994-10-28 Oki Electric Ind Co Ltd 静止画像の符号化方式、および復号化方式
US20080137968A1 (en) * 2006-11-23 2008-06-12 Innowireless Co., Ltd. Apparatus and method for measuring quality of image received via communication network
KR20080099903A (ko) * 2007-05-11 2008-11-14 주식회사 스파이어테크놀로지 영상 통화 호의 통화 품질 측정 방법 및 장치
WO2009025027A1 (ja) * 2007-08-20 2009-02-26 Fujitsu Limited 映像品質監視方法及び配信サーバ及びクライアント

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100922898B1 (ko) * 2007-12-17 2009-10-20 한국전자통신연구원 IP 미디어의 QoE 보장형 영상품질 측정장치 및측정방법
US8422795B2 (en) * 2009-02-12 2013-04-16 Dolby Laboratories Licensing Corporation Quality evaluation of sequences of images
US9037743B2 (en) * 2010-10-28 2015-05-19 Avvasi Inc. Methods and apparatus for providing a presentation quality signal
US20130060908A1 (en) * 2011-09-07 2013-03-07 Wesley W. Whitmyer, Jr. Location-based streaming media channels
US20170237986A1 (en) * 2016-02-11 2017-08-17 Samsung Electronics Co., Ltd. Video encoding method and electronic device adapted thereto
KR102548427B1 (ko) 2016-10-26 2023-06-26 에스케이텔레콤 주식회사 영상품질 측정장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06303594A (ja) * 1993-04-12 1994-10-28 Oki Electric Ind Co Ltd 静止画像の符号化方式、および復号化方式
US20080137968A1 (en) * 2006-11-23 2008-06-12 Innowireless Co., Ltd. Apparatus and method for measuring quality of image received via communication network
KR20080099903A (ko) * 2007-05-11 2008-11-14 주식회사 스파이어테크놀로지 영상 통화 호의 통화 품질 측정 방법 및 장치
WO2009025027A1 (ja) * 2007-08-20 2009-02-26 Fujitsu Limited 映像品質監視方法及び配信サーバ及びクライアント

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023209800A1 (ja) * 2022-04-26 2023-11-02 日本電信電話株式会社 映像品質推定装置、映像品質推定方法及びプログラム

Also Published As

Publication number Publication date
US11343299B2 (en) 2022-05-24
KR20200003598A (ko) 2020-01-10
JP7431514B2 (ja) 2024-02-15
KR102084469B1 (ko) 2020-03-04
US20200007605A1 (en) 2020-01-02

Similar Documents

Publication Publication Date Title
US11423942B2 (en) Reference and non-reference video quality evaluation
US10623789B1 (en) Quality evaluation of multimedia delivery in cloud environments
JP6190525B2 (ja) 品質対ビットレートが変動するメディアデータストリームの品質を決定するための概念
CN110868600B (zh) 目标跟踪视频推流方法、显示方法、装置和存储介质
US9681125B2 (en) Method and system for video coding with noise filtering
US9609338B2 (en) Layered video encoding and decoding
CN110585702B (zh) 一种音画同步数据处理方法、装置、设备及介质
US10609440B1 (en) Timing data anomaly detection and correction
CN103988500A (zh) 视频质量测量
Chan et al. Temporal quality assessment for mobile videos
US11539985B2 (en) No reference realtime video quality assessment
Ickin et al. VLQoE: Video QoE instrumentation on the smartphone
JP2008005108A (ja) 映像品質推定装置、映像品質管理装置、映像品質推定方法、映像品質管理方法、およびプログラム
JP2008301026A (ja) 映像品質推定方法、装置、およびプログラム
CN111385576B (zh) 视频编码方法、装置、移动终端及存储介质
EP3491784A1 (en) Estimation of losses in a video stream
JP7431514B2 (ja) 映像通話サービスの品質をリアルタイムで測定する方法およびシステム
US11638051B2 (en) Real-time latency measurement of video streams
CN103200419B (zh) 一种高速识别视频内容变化程度的方法
CN113839829A (zh) 云游戏延时测试方法、装置、系统及电子设备
CN105959798A (zh) 视频流的帧定位方法、装置和设备
CN113840157A (zh) 访问检测方法、系统及装置
CN115037951B (zh) 直播处理方法及装置
CN108023855B (zh) 一种视频质量监控方法、视频质量监控服务器及设备
JP2009194609A (ja) 映像品質推定装置、方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220525

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231030

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240130

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240202

R150 Certificate of patent or registration of utility model

Ref document number: 7431514

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150