JP2024508865A - 点群符号化・復号方法、装置、及び電子機器 - Google Patents

点群符号化・復号方法、装置、及び電子機器 Download PDF

Info

Publication number
JP2024508865A
JP2024508865A JP2023552564A JP2023552564A JP2024508865A JP 2024508865 A JP2024508865 A JP 2024508865A JP 2023552564 A JP2023552564 A JP 2023552564A JP 2023552564 A JP2023552564 A JP 2023552564A JP 2024508865 A JP2024508865 A JP 2024508865A
Authority
JP
Japan
Prior art keywords
point cloud
frame rate
file
track
media
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023552564A
Other languages
English (en)
Inventor
▲穎▼ 胡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Publication of JP2024508865A publication Critical patent/JP2024508865A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/001Model-based coding, e.g. wire frame
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/612Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for unicast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/762Media network packet handling at the source 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23605Creation or processing of packetized elementary streams [PES]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本願は、コンピュータ、及び通信の技術分野に属し、具体的には点群符号化・復号方法、点群符号化・復号装置、コンピュータ可読媒体、及び電子機器に関する。本願の実施例における点群復号方法は、データソースによって伝送された点群ファイルを受信するステップであって、点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ステップと、1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、ファイルカプセル化情報中に持っているフレームレート指示情報を得るステップであって、フレームレート指示情報は、1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる、ステップと、ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップと、を含む。

Description

本願は、コンピュータ、及び通信の技術分野に属し、具体的には、点群符号化・復号方法、点群符号化・復号装置、コンピュータ可読媒体、及び電子機器に関する。
本願は、2021年4月22日に提出された、出願番号が第202110437255.4号であり、発明の名称が「点群符号化・復号方法、及び関連機器」である中国特許出願の優先権を主張する。
点群は、空間において不規則に分布する、3次元物体、又はシーンの空間構造、及び表面属性を表現する1つのグループの離散点のセットである。点群収集機器によって大規模な点群データを取得した後に、点群データに対して符号化、及びカプセル化を行うことでユーザに伝送、及び提示することができる。
本願の実施例は、点群符号化・復号方法、点群符号化・復号装置、コンピュータ可読媒体、及び電子機器を提供する。
本願の実施例の1つの態様に基づいて、点群復号方法を提供し、該方法は、データソースによって伝送された点群ファイルを受信するステップであって、前記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ステップと、前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、前記ファイルカプセル化情報中に持っているフレームレート指示情報を得るステップであって、前記フレームレート指示情報は、前記1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる、ステップと、前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップと、を含む。
本願の実施例の1つの態様に基づいて、点群復号装置を提供し、該装置は、データソースによって伝送された点群ファイルを受信するように構成される受信モジュールであって、前記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、受信モジュールと、前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、前記ファイルカプセル化情報中に持っているフレームレート指示情報を得るように構成される解析モジュールであって、前記フレームレート指示情報は、前記1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる、解析モジュールと、前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するように構成される復号モジュールと、を含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記受信モジュールは、データソースによって送信された、点群データを伝送することに用いられるストリームメディアシグナリングを受信するように構成されるシグナリング受信ユニットと、前記ストリームメディアシグナリングを解析して、前記ストリームメディアシグナリング中に持っている、トラックグループを識別することに用いられる時間領域階層グループ識別子を得るように構成されるシグナリング解析ユニットであって、前記トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、シグナリング解析ユニットと、前記時間領域階層グループ識別子に基づいて、前記データソースに第1データ伝送要求を送信するように構成される要求送信ユニットと、前記データソースによって伝送された、前記第1データ伝送要求と対応する点群ファイルを受信するように構成されるファイル受信ユニットと、を含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記要求送信ユニットは、前記データソースとデータ伝送を行うネットワーク帯域幅を取得するように構成される帯域幅取得サブユニットと、前記時間領域階層グループ識別子に基づいて、前記トラックグループ中から前記ネットワーク帯域幅とマッチングする、ターゲットフレームレートを有する1つ又は複数のターゲット点群メディアトラックを選択するように構成されるトラック選択サブユニットと、前記1つ又は複数のターゲット点群メディアトラックの伝送を要求することに用いられる第1データ伝送要求を前記データソースに送信するように構成される要求送信サブユニットと、を含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記解析モジュールは、前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析することで、前記1つ又は複数の点群メディアトラックのフレームレートと対応するフレームレート指示フィールドを決定するように構成される情報解析ユニットと、前記フレームレート指示フィールドの値に基づいて、前記1つ又は複数の点群メディアトラックのフレームレート指示情報を決定するように構成される情報決定ユニットと、を含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記点群復号装置は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から前記表示対象の点群メディアトラックと同じフレームレートを有する他の点群メディアトラックを選択するように構成されるトラック選択モジュールと、前記表示対象の点群メディアトラックを前記他の点群メディアトラックに置き換えることで、前記他の点群メディアトラックを復号し、かつ表示するように構成される第1置き換えモジュールと、を更に含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記点群復号装置は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から前記表示対象の点群メディアトラックと同じフレームレートを有する1つ又は複数の他の点群メディアトラックを選択するように構成されるトラック選択モジュールと、前記1つ又は複数の他の点群メディアトラックを復号し、かつ前記1つ又は複数の他の点群メディアトラックと前記表示対象の点群メディアトラックとを合併して表示するように構成される第1合併モジュールと、を更に含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記点群復号装置は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、前記データソースに第2データ伝送要求を送信することで、前記データソースによって伝送された補足点群ファイルを受信するように構成されるファイル取得モジュールであって、前記補足点群ファイルは、前記表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する他の点群メディアトラックを含む、ファイル取得モジュールと、前記表示対象の点群メディアトラックを前記他の点群メディアトラックに置き換えることで、前記他の点群メディアトラックを復号し、かつ表示するように構成される第2置き換えモジュールと、を更に含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記点群復号装置は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、前記データソースに第3データ伝送要求を送信することで、前記データソースによって伝送された補足点群ファイルを受信するように構成されるファイル取得モジュールであって、前記補足点群ファイルは、前記表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する1つ又は複数の他の点群メディアトラックを含む、ファイル取得モジュールと、前記1つ又は複数の他の点群メディアトラックを復号し、かつ前記1つ又は複数の他の点群メディアトラックと前記表示対象の点群メディアトラックとを合併して表示するように構成される第2合併モジュールと、を更に含む。
本願の実施例の1つの態様に基づいて、点群符号化方法を提供し、該方法は、異なる符号化標準に応じて伝送対象の点群データに対して符号化処理を行って、同じ点群コンテンツを有する複数の点群コードストリームを得るステップであって、前記複数の点群コードストリームにおいてフレームレートの異なる一部の点群コードストリームが含まれる、ステップと、前記複数の点群コードストリームを複数の点群メディアトラックにカプセル化するステップであって、前記複数の点群メディアトラックに前記複数の点群コードストリームと対応するフレームレート指示情報を埋め込み、前記フレームレート指示情報は、前記複数の点群メディアトラックのフレームレートを指示することに用いられる、ステップと、を含む。
本願の実施例の1つの態様に基づいて、点群符号化装置を提供し、該装置は、異なる符号化標準に応じて伝送対象の点群データに対して符号化処理を行って、同じ点群コンテンツを有する複数の点群コードストリームを得るように構成される符号化モジュールであって、前記複数の点群コードストリームにおいてフレームレートの異なる一部の点群コードストリームが含まれる、符号化モジュールと、前記複数の点群コードストリームを複数の点群メディアトラックにカプセル化し、かつ前記複数の点群メディアトラックに前記複数の点群コードストリームと対応するフレームレート指示情報を埋め込むように構成されるカプセル化モジュールであって、前記フレームレート指示情報は、前記複数の点群メディアトラックのフレームレートを指示することに用いられる、カプセル化モジュールと、を含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記点群符号化装置は、点群データを伝送することに用いられるストリームメディアシグナリングを生成するように構成されるシグナリング生成モジュールと、前記ストリームメディアシグナリングにトラックグループを識別することに用いられる時間領域階層グループ識別子を埋め込むように構成されるシグナリング埋め込みモジュールであって、前記トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、シグナリング埋め込みモジュールと、データ受信側に前記ストリームメディアシグナリングを送信するように構成されるシグナリング送信モジュールと、を更に含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記点群符号化装置は、前記データ受信側によって送信された、前記ストリームメディアシグナリングに基づき生成されたデータ伝送要求を受信するように構成される要求受信モジュールと、前記データ伝送要求に基づいて、前記データ受信側に点群ファイルを伝送するように構成されるファイル伝送モジュールであって、前記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ファイル伝送モジュールと、を更に含む。
本願のいくつかの実施例において、以上の技術的手段に基づき、前記カプセル化モジュールは、前記複数の点群メディアトラックのファイルカプセル化情報において前記フレームレート指示情報と対応するフレームレート指示フィールドを決定するように構成される情報決定ユニットと、前記複数の点群コードストリームと対応するフレームレート指示情報を前記ファイルカプセル化情報におけるフレームレート指示フィールドに埋め込むように構成される情報埋め込みユニットと、を含む。
本願の実施例の1つの態様に基づいて、コンピュータ可読媒体を提供し、それにコンピュータプログラムが記憶され、該コンピュータプログラムがプロセッサによって実行されるときに前記技術的手段における方法を実現する。
本願の実施例の1つの態様に基づいて、電子機器を提供し、該電子機器はプロセッサと、前記プロセッサの実行可能命令を記憶することに用いられるメモリと、を含み、ここで、前記プロセッサは、前記実行可能命令を実行することによって前記技術的手段における方法を実行するように構成される。
本願の実施例の1つの態様に基づいて、コンピュータプログラム製品、又はコンピュータプログラムを提供し、該コンピュータプログラム製品、又はコンピュータプログラムはコンピュータ命令を含み、該コンピュータ命令はコンピュータ可読記憶媒体において記憶される。コンピュータ機器のプロセッサは、コンピュータ可読記憶媒体から該コンピュータ命令を読み取り、プロセッサは、該コンピュータ命令を実行し、該コンピュータ機器に前記技術的手段における方法を実行させる。
本願の実施例が提供する技術的手段において、同じフレームレートを有する点群メディアリソース、異なるフレームレートを有する点群メディアリソースを関連付けることにより、点群メディアの時間的な漸進的関係が構築される。このような時間的な漸進的関係に基づき、ユーザは、点群メディアを消費するときに、自分のニーズに基づいて対応する点群メディアファイルを要求することができ、それにより伝送ネットワークの帯域幅を節約し、点群データの符号化・復号の柔軟性を向上させることができる。
本願の実施例の技術的手段を応用することができる例示的なシステムアーキテクチャの模式図を示す。 点群符号化装置と点群復号装置のストリーミング伝送環境における置き方式を示す。 本願の1つの実施例における点群復号方法のステップフローチャートを示す。 本願の1つの実施例におけるマルチトラックでカプセル化された置換可能なグループの模式図を示す。 本願の1つの実施例におけるデータソースから点群ファイルを受信するステップフローチャートを示す。 本願の1つの実施例における点群符号化方法のステップフローチャートを示す。 本願の実施例の1つの応用シーンにおいて点群データの符号化・復号を行うステップフローチャートを示す。 本願の実施例が提供する点群復号装置の構造ブロック図を模式的に示す。 本願の実施例が提供する点群符号化装置の構造ブロック図を模式的に示す。 本願の実施例の電子機器を実現するために用いられるのに適するコンピュータシステムの構造ブロック図を模式的に示す。
今から、図面を参照して例示的な実施形態をより全面的に記述する。しかし、例示的な実施形態は複数種の形式で実施されてもよく、且つここで論述される例に限定されると理解されるべきではない。逆に、これらの実施形態を提供することにより、本願をより全面的、かつ完全にし、かつ例示的な実施形態の構想を当業者に全面的に伝達する。
この他、記述された特徴、構造、又は特性は任意の適切な方式によって1つ、又はより多くの実施例において結合されてもよい。以下の記述においては、多くの具体的な細部を提供し、それにより本願の実施例に対する十分な理解を与える。しかし、当業者が認識するように、特定の細部のうちの1つ、又はより多くがなくても本願の技術的手段を実践することができる、又はその他の方法、構成要素、装置、ステップなどを採用してもよい。その他の状況において、公知の方法、装置、実現、又は操作を詳細に示さない、又は記述しないことで本願の各態様の曖昧さを回避する。
図面において示されるブロック図は機能エンティティに過ぎず、必ずしも物理的に独立したエンティティと対応するものではない。すなわち、ソフトウェアの形式を採用してこれらの機能エンティティを実現してもよく、又は1つ又は複数のハードウェアモジュール、又は集積回路においてこれらの機能エンティティを実現してもよく、又は異なるネットワーク、及び/又はプロセッサ装置、及び/又はマイクロコントローラ装置においてこれらの機能エンティティを実現してもよい。
図面において示されるフローチャートは、例示的に説明されるものに過ぎず、必ず以下のすべてのコンテンツ、及び操作/ステップを含むものではなく、記述された順序で実行されることは必須ではない。例えば、ある操作/ステップを分解してもよく、ある操作/ステップを合併、又は部分的に合併してもよく、従って、実際に実行される順序は、実際の状況に基づいて変更される可能性がある。
点群は、空間において不規則に分布している、3次元物体、又はシーンの空間構造、及び表面属性を表現する1つのグループの離散点のセットである。点群における各々の点は少なくとも3次元位置情報を有し、応用シーンにおける相違に基づいて、色彩、マテリアル、又は他の情報を有する可能性がある。通常、点群における各々の点はいずれも同じ数の追加属性を有する。点群メディアは、符号化方式において、従来のビデオ符号化方式に基づき圧縮された点群メディア(Video-based Point Cloud Compression 、VPCC)、及び幾何学的特徴に基づき圧縮された点群メディア(Geometry-based Point Cloud Compression、GPCC)に更に分けられてもよい。点群メディアのファイルカプセル化において、3次元位置情報は通常、点群ファイルの幾何コンポーネント(Geometry Component)と呼ばれ、属性情報は点群ファイルの属性コンポーネント(Attribute Component)と呼ばれる。1つの点群ファイルは、1つのみの幾何コンポーネントを有する可能性があるが、1つ又は複数の属性コンポーネントが存在し得る。
点群は、3次元物体、又はシーンの空間構造、及び表面属性を柔軟、かつ容易に表現することができるため、広く応用されており、その主な応用シーンを2つのカテゴリに分類することができる。1)機械感知点群は、例えば自律航法システム、リアルタイムパトロールシステム、地理情報システム、視覚選別ロボット、災害救援ロボットである。2)目感知点群は、例えばデジタル文化遺産、自由視点ブロードキャスト、3次元没入型通信、3次元没入型インタラクションなどの点群応用シーンである。
点群の取得は主に、コンピュータによる生成、3Dレーザースキャン、3D撮影測定などの方法を有する。コンピュータは仮想3次元物体、及びシーンの点群を生成することができる。3Dスキャンは静的現実世界の3次元物体、又はシーンの点群を獲得することができ、1秒あたりに数百万の点群を取得することができる。3D撮像は動的現実世界の3次元物体、又はシーンの点群を獲得することができ、1秒あたりに数千万の点群を取得することができる。この他、医学分野では、MRI、CT、電磁測位情報により、生体組織・器官の点群を獲得することができる。これらの技術は点群データの取得コスト、及び時間周期を低減させ、データの精度を向上させる。点群データの取得方式の変革は、大量の点群データの取得を可能にする。大規模な点群データの継続的な蓄積に伴い、点群データの効率的な記憶、伝送、発行、共有、及び標準化は、点群応用の鍵となる。
点群メディアを符号化した後に、符号化された後のデータストリームをカプセル化し、かつユーザに伝送する必要がある。これと対応して、点群メディアプレーヤー側では、まず点群ファイルに対してカプセル化解除を行い、次に復号し、最後に復号された後のデータストリームを提示する必要がある。
図1は、本願の実施例の技術的手段を応用することができる例示的なシステムアーキテクチャの模式図を示す。
図1に示されるように、システムアーキテクチャ100は、複数の端末装置を含み、上記端末装置は、例えばネットワーク150を介して互いに通信することができる。例を挙げて言えば、システムアーキテクチャ100は、ネットワーク150を介して相互接続された第1端末装置110と第2端末装置120とを含んでもよい。図1の実施例において、第1端末装置110と第2端末装置120は一方向データ伝送を実行する。
例を挙げて言えば、第1端末装置110は、点群データ(例えば第1端末装置110によって収集された点群コードストリーム)を符号化することで第2端末装置120にネットワーク150を介して伝送することができる。符号化された点群データは1つ又は複数の符号化された点群コードストリームの形式で伝送され、第2端末装置120は、ネットワーク150から符号化された点群データを受信し、符号化された点群データを復号し、かつ復号された点群データをディスプレイすることができる。
本願の1つの実施例において、システムアーキテクチャ100は、符号化された点群データの双方向伝送を実行する第3端末装置130と第4端末装置140とを含んでもよく、上記双方向伝送は、例えばビデオ会議期間に生じ得る。双方向データ伝送について、第3端末装置130と第4端末装置140のうちの各々の端末装置は、点群データ(例えば端末装置によって収集された点群コードストリーム)を符号化することで、第3端末装置130と第4端末装置140のうちの他方の端末装置にネットワーク150を介して伝送することができる。第3端末装置130と第4端末装置140のうちの各々の端末装置は、第3端末装置130と第4端末装置140のうちの他方の端末装置によって伝送された符号化された点群データを受信することができ、且つ符号化された点群データを復号することで点群データを復元することができ、かつ復元された点群データに基づいてアクセスできるディスプレイ装置上に点群データをディスプレイすることができる。
図1の実施例において、第1端末装置110、第2端末装置120、第3端末装置130、及び第4端末装置140は、サーバ、パーソナルコンピュータ、及びスマートフォンであってもよいが、本願に開示されている原理はこれに限定されない。本願に開示されている実施例は、ラップトップコンピュータ、タブレットパソコン、メディアプレーヤー、及び/又は専用のビデオ会議機器に適用される。ネットワーク150は、第1端末装置110、第2端末装置120、第3端末装置130、及び第4端末装置140の間で符号化された点群データを転送する任意の個数のネットワークを表し、例えば有線、及び/又は無線通信ネットワークを含む。ネットワーク150は、回路交換、及び/又はパケット交換チャネルにおいてデータを交換することができる。該ネットワークは、電気通信ネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク、及び/又はインターネットを含んでもよい。本願の目的のために、以下に解釈されない限り、ネットワーク150のアーキテクチャ、及びトポロジーは、本願に開示されている操作に対して言えば重要ではない可能性がある。
本願の1つの実施例において、図2は、点群符号化装置と点群復号装置のストリーミング伝送環境における設置方式を示す。本願に開示された主題は、点群をサポートすることに用いられるその他のアプリケーションに同等に適用することができ、例えばビデオ会議、デジタルテレビ、及びCD、DVD、記憶スティックなどを含むデジタル媒体上に圧縮された点群データを記憶することなどを含む。
ストリーミング伝送システムは、収集サブシステム213を含んでもよく、収集サブシステム213は、デジタルカメラなどの点群データソース201を含んでもよく、点群データソース201は、例えば圧縮されていない点群データ202を新規作成することができる。実施例において、点群データ202はデジタルカメラによって撮影されたサンプルを含む。符号化された点群データ204(又は符号化された点群コードストリーム204)と比較して、点群データ202は太い線として描画されることで、高データ量の点群データを強調する。点群データ202は電子装置220によって処理されてもよく、電子装置220は、ビデオソース201にカップリングされたビデオ符号化装置203を含む。ビデオ符号化装置203は、ハードウェア、ソフトウェア、又はソフトウェアとハードウェアとの組み合わせを含むことで、以下より詳細に記述される開示された主題の各態様を実現、又は実施することができる。点群データ202と比較して、符号化された点群データ204(又は符号化された点群コードストリーム204)は細い線として描画されることで、比較的低いデータ量の符号化された点群データ204(又は符号化された点群コードストリーム204)を強調し、これら将来の使用のためにストリーミング伝送サーバ205上に記憶されてもよい。1つ又は複数のストリーミング伝送クライアント端末サブシステム、例えば図2におけるクライアント端末サブシステム206とクライアント端末サブシステム208は、ストリーミング伝送サーバ205にアクセスすることで、点群データ204のコピーとして符号化された点群データ207と点群データ209を検索することができる。クライアント端末サブシステム206は、例えば電子装置230における点群復号装置210を含んでもよい。点群復号装置210は、符号化された点群データの着信コピー207を復号し、且つディスプレイ212(例えばディスプレイスクリーン)、又は別の提示装置上に提示できる出力点群データ211を発生させる。いくつかのストリーミング伝送システムにおいて、あるいくつかの点群符号化/圧縮標準に基づいて符号化された点群データ204、点群データ207、及び点群データ209(例えば点群コードストリーム)を符号化することができる。これらの標準の実施例はMPEGによってGPCCのために開発された標準を含んでもよい。
留意すべきであるように、電子装置220と電子装置230は図において示されていないその他の構成部品を含んでもよい。例を挙げて言えば、電子装置220は点群復号装置を含んでもよく、且つ電子装置230は点群符号化装置を更に含んでもよい。
以下、具体的な実施形態を併せて本願が提供する点群符号化・復号方法、点群符号化・復号装置、コンピュータ可読媒体、及び電子機器などの技術的手段を詳細に説明する。
図3は、本願の1つの実施例における点群復号方法のステップフローチャートを示し、該方法は、点群メディアシステムのサーバ、クライアント端末、及び中間ノードなどの段階に応用されてもよく、本願の実施例では、点群復号装置がインストールされたクライアント端末機器によって実行される点群復号方法を例とする。図3に示されるように、該点群復号方法は、主に以下のステップS310~ステップS330を含んでもよい。
ステップS310:データソースによって伝送された点群ファイルを受信し、点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる。
本願の1つの実施例において、点群ファイルは、指定フレームレートに対応する1つの点群メディアトラックを個別にカプセル化してもよく、又は、同じか、異なるフレームレートを有する複数の点群メディアトラックをカプセル化してもよい。ここで、複数の点群メディアトラックは1つのトラックグループを形成することができ、トラックグループのコンテンツはシングルトラックカプセル化モードにおける点群メディアトラック(幾何学的成分、及び属性成分を含む)を含んでもよく、又はマルチトラックカプセル化モードにおける幾何学的成分トラックを含んでもよい(属性成分トラックは幾何学的成分トラックでインデックスして得られる)。同じフレームレートの点群メディアトラックを復号、及び表示するときに、相互に代替することができ、且つ同じフレームレートの点群メディアトラックを組み合わせて消費することで、より良好な点群提示効果を達成することができる。
本願の1つの実施例において、点群ファイルにおける一部の点群メディアトラックは同じフレームレートを有するが、他の点群メディアトラックは異なるフレームレートを有してもよい。例えば、点群ファイルにおいてtrack1、track2、及びtrack3の3つの点群メディアトラックがカプセル化され、ここでtrack1のフレームレートは60fpsであり、track2とtrack3のフレームレートはいずれも30fpsである。
点群ファイルにおいて異なる点群メディアトラックに対応する置換可能なグループ(alternative group)をカプセル化することができ、同じ点群コンテンツを有し、且つ異なる点群品質を有する点群メディアトラックは同一の置換可能なグループ内に分割されてもよく、点群品質はコードレート、フレームレート、解像度などの、異なる標準に対応する各種の品質パラメータを含んでもよい。
GPCC点群データがシングルトラックでカプセル化されるときに、異なる品質の点群コンテンツのトラックは1つの置換可能なグループに属する。GPCC点群データがマルチトラックでカプセル化されるときに、異なる品質の点群コンテンツの幾何学的成分トラックは1つの置換可能なグループに属するが、属性成分トラックは幾何学的成分トラックに関連付けられてもよい。
図4は、本願の1つの実施例におけるマルチトラックでカプセル化された置換可能なグループの模式図を示す。図4に示されるように、置換可能なグループ400においては同じ点群コンテンツを有する第1点群データ410と第2点群データ420が含まれる。ここで、第1点群データ410は点群品質が相対的に比較的高い無損失圧縮点群データ(Lossless coded GPCC)であり、第2点群データ420は点群品質が相対的に比較的低い損失圧縮点群データ(Lossy coded GPCC)である。
第1点群データ410においては第1幾何学的成分トラック411と第1幾何学的成分トラック411に関連付けられた第1属性成分トラック412が含まれ、第2点群データ420においては第2幾何学的成分トラック421と第2幾何学的成分トラック421に関連付けられた第2属性成分トラック422が含まれる。
ステップS320:1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、ファイルカプセル化情報中に持っているフレームレート指示情報を得て、フレームレート指示情報は、1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる。
本願の1つの実施例において、ファイルカプセル化情報を解析して品質指示情報(フレームレート指示情報)を得る方法は、1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析することで、1つ又は複数の点群メディアトラックのフレームレートと対応するフレームレート指示フィールドを決定するステップと、フレームレート指示フィールドの値に基づいて、1つ又は複数の点群メディアトラックのフレームレート指示情報を決定するステップと、を含んでもよい。
本願の1つの実施例において、ファイルカプセル化情報は、点群コードストリームを点群メディアトラックにカプセル化するときに生成されたISOBMFF(ISOベースメディアファイルフォーマット)データボックスであり、ISOBMFFの具体的なコンテンツは国際標準ISO/IEC 14496-12を参照すればよい。
本願の1つの実施例において、ファイルカプセル化情報は具体的には、拡張して得られたトラックグループデータボックスTrackGroupTypeBoxとして表現されてもよく、その構文は以下の通りである。
aligned(8) class GPCCTemporalScaleBox extends TrackGroupTypeBox(‘gpts’) {
// track_group_id is inherited from TrackGroupTypeBox;
unsigned int(8)frame_rate;

ここで、frame_rateは点群ファイルの対応するフレームレートを指示することに用いられるフレームレート指示情報であり、その値は長さが8バイトの1つの符号なし整数である。
トラックグループデータボックスを拡張することにより、同一のコンテンツ、異なるフレームレートの点群メディアトラックを相互に関連付けることができる。1つのトラックグループに属する点群トラックは以下の条件を満たす。
(1)該トラックは、シングルトラックカプセル化モードにおける点群トラック(幾何学的、及び属性成分を含む)、又はマルチトラックカプセル化モードにおける幾何学的成分トラックである(属性成分トラックは幾何学的成分トラックでインデックスして得られる)。
(2)同じフレームレートのトラックを復号、及び提示するときに相互に代替することができる。
(3)同じフレームレートのトラックを組み合わせて消費することで、より高いフレームレートの提示効果を達成することができる。
ステップS330:ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号する。
各々の点群メディアトラックに対応するファイルカプセル化情報中に、いずれも該点群メディアトラックのフレームレート指示情報を持っており、該フレームレート指示情報は、明示的な識別方式で点群メディアトラックのフレームレートを識別する。点群ファイルがデータソースによってユーザがあるデータ受信側に伝送されるときに、データ受信側は、機器性能、及びユーザのニーズに基づいて指定フレームレートを有する点群メディアトラックを復号することができる。
本願の1つの実施例において、データ受信側の機器性能を収集し、かつ機器性能とファイルカプセル化情報中に持っている品質指示情報(フレームレート指示情報)とに対してマッチング検出を行うことにより、データ受信側の機器性能とマッチングするフレームレートを決定し、更に点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号することができる。
機器性能はハードウェア性能、ソフトウェア性能、及びネットワーク性能のうちの少なくとも一種を含んでもよい。ハードウェア性能は、例えば電子機器の機器型番、プロセッサ型番、メモリ容量、及びディスプレイサイズなどを含んでもよく、ソフトウェア性能は、例えばデータ受信側によってインストールされた点群デコーダのプログラムバージョンを含んでもよく、ネットワーク性能は、例えばネットワーク帯域幅、及びネットワーク伝送状態などを含んでもよい。
本願の1つの実施例において、データ受信側によって配置されたフレームレート選択規則を取得し、かつフレームレート選択規則とファイルカプセル化情報中に持っているフレームレート指示情報とに対してマッチング検出を行い、データ受信側によって配置されたフレームレート選択規則とマッチングするフレームレートを決定し、更に点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号することができる。
フレームレート選択規則は、ユーザのニーズに基づいて配置された、指定フレームレートを有する点群データを選択することに用いられる選択規則であってもよく、例えばユーザの命令に基づいてフレームレートが指定された数値よりも大きい(又は小さい)点群データを選択する。
図5は、本願の1つの実施例におけるデータソースから点群ファイルを受信するステップフローチャートを示す。図5に示されるように、以上の実施例を基礎として、ステップS310におけるデータソースによって伝送された点群ファイルを受信するステップは、以下のステップS510~ステップS540を含んでもよい。
ステップS510:データソースによって送信された、点群データを伝送することに用いられるストリームメディアシグナリングを受信する。
本願の1つの実施例において、点群データを伝送することに用いられるストリームメディアシグナリングは、HTTPに基づく動的適応ストリーム(dynamic adaptive streaming over HTTP、DASH)シグナリングであってもよく、DASHは、一種の適応ビットレートストリーム技術であり、該技術は、高品質のストリームメディアを従来のHTTPネットワークサーバによってインターネットで伝達することができる。
ステップS520:ストリームメディアシグナリングを解析して、ストリームメディアシグナリング中に持っている、トラックグループを識別することに用いられる時間領域階層グループ識別子を得て、トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる。
DASHシグナリングにおいて、既存のフィールドを利用して点群メディアトラックのフレームレート指示情報を記憶することができ、例えばDASHシグナリングにおけるframeRateフィールドを利用して複数種の異なる点群メディアトラックのフレームレートを指示することができる。
本願の1つの実施例において、ファイルカプセル化において1つのgptsトラックグループに属するすべてのフレームレートの点群メディアトラックに対しては、DASHシグナリングにおいて1つのグループIDを介して識別することができ、例えば、GPCC時間領域階層グループ識別子(GPCCTemporalScaleGroupId)である。該グループID要素は、適応セットAdaptationSet要素のサブ要素である。GPCCTemporalScaleGroupId要素は、adaptation set階層に出現し得る、いかなる他の階層にも出現してはならない。表1は、本願の1つの実施例におけるGPCC時間領域階層グループIDのセマンティクス、及び属性を示す。
Figure 2024508865000002
ステップS530:時間領域階層グループ識別子に基づいて、上記データソースにデータ伝送要求を送信する。
解析して得られた、ストリームメディアシグナリング中に持っている時間領域階層グループ識別子に基づいて、そのうちの一種、又は複数種のフレームレート指示情報をターゲットフレームレートとして選び、かつ更にターゲットフレームレートに対応するデータ伝送要求をデータソースに送信することができる。該データ伝送要求は、例えば第1データ伝送要求である。
本願の1つの実施例において、データ伝送要求を送信する方法は、データソースとデータ伝送を行うネットワーク帯域幅を取得するステップと、時間領域階層グループ識別子に基づいて、トラックグループ中からネットワーク帯域幅とマッチングする、ターゲットフレームレートを有する1つ又は複数のターゲット点群メディアトラックを選択するステップと、ターゲット点群メディアトラックの伝送を要求することに用いられるデータ伝送要求をデータソースに送信するステップと、を含んでもよい。
本願の1つの実施例において、ネットワーク帯域幅が設定閾値よりも大きいときに、2つ、又は2つ以上のターゲット点群メディアトラックを選択することができる。ネットワーク帯域幅が設定閾値よりも小さい、又は等しいときに、1つのターゲット点群メディアトラックを選択することができる。
ステップS540:データソースによって伝送された、データ伝送要求と対応する点群ファイルを受信する。
時間領域階層グループ識別子に基づいてターゲット点群メディアトラックに対応する1つのデータ伝送要求をデータソースに送信するときに、データソースは、該要求に基づき1つの相応なターゲット点群メディアトラックをデータ受信側に伝送することができる。時間領域階層グループ識別子に基づいてターゲット点群メディアトラックに対応する複数のデータ伝送要求をデータソースに送信するときに、データソースは、該要求に基づき同じフレームレート、又は異なるフレームレートを有する相応な複数のターゲット点群メディアトラックをデータ受信側に伝送することができる。
本願の1つの実施例において、同じフレームレートを有する複数の点群メディアファイルを取得することにより、個々の点群メディアファイルを置き換え、又は合併して、点群メディアファイルの表示効果を改善することができる。
本願の1つの実施例において、表示対象の点群メディアトラックにおいて選択が失敗する、復号が失敗する、又は復号した後に得られた点群品質が悪いなどの問題が出現したときに、同じフレームレートを有する他の点群メディアトラックを利用してトラック置き換えを行うことができる。例えば、フレームレートがいずれも30fpsの、同じ点群コンテンツを有する2つの点群メディアファイルを相互に置き換えることができる。
本願の1つの実施例において、データ受信側のネットワーク環境が最適化され、ネットワーク帯域幅が比較的高いときに、同じフレームレートを有する複数の点群メディアトラックのトラック合併を行うことで、点群データの表示フレームレートを向上させることができる。例えば、フレームレートがいずれも30fpsの、同じ点群コンテンツを有する2つの点群メディアトラックは、トラック合併を経た後にフレームレートが60fpsとなる1つの点群メディアトラックを形成することができ、それによりフレームレートを向上させる方式でより良好な点群メディアファイル表示効果を獲得する。
本願の1つの実施例において、点群ファイル中から表示対象の点群メディアトラックを選択し、かつ復号した後に、もし点群ファイルにおいて同じフレームレートを有する他の点群メディアトラックが更に含まれるならば、点群メディアトラックの置き換え方法を実行することができる。すなわち、表示対象の点群メディアトラックのフレームレートを取得し、ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、点群ファイル中から表示対象の点群メディアトラックと同じフレームレートを有する他の点群メディアトラックを選択し、表示対象の点群メディアトラックを他の点群メディアトラックに置き換えることで、他の点群メディアトラックを復号し、かつ表示する。
本願の1つの実施例において、点群ファイル中から表示対象の点群メディアトラックを選択し、かつ復号した後に、もし点群ファイルにおいて同じフレームレートを有する他の点群メディアトラックが更に含まれるならば、点群メディアトラックの合併方法を実行することができ、すなわち、表示対象の点群メディアトラックのフレームレートを取得し、ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、点群ファイル中から表示対象の点群メディアトラックと同じフレームレートを有する1つ又は複数の他の点群メディアトラックを選択し、1つ又は複数の他の点群メディアトラックを復号し、かつ1つ又は複数の他の点群メディアトラックと表示対象の点群メディアトラックとを合併して表示する。
本願の1つの実施例において、点群ファイル中から表示対象の点群メディアトラックを選択し、かつ復号した後に、もし点群ファイルには1つの点群メディアトラックのみがカプセル化されるか、又は点群ファイルにおける他の点群メディアトラックのフレームレートがいずれも表示対象の点群メディアトラックと一致しないならば、点群メディアトラックの置き換え方法を実行することができる。すなわち、表示対象の点群メディアトラックのフレームレートを取得し、データソースにデータ伝送要求(例えば、第2データ伝送要求)を送信することで、データソースによって伝送された補足点群ファイルを受信し、補足点群ファイルは、表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する他の点群メディアトラックを含み、表示対象の点群メディアトラックを他の点群メディアトラックに置き換えることで、他の点群メディアトラックを復号し、かつ表示する。
本願の1つの実施例において、点群ファイル中から表示対象の点群メディアトラックを選択し、かつ復号した後に、もし点群ファイルには1つの点群メディアトラックのみがカプセル化されるか、又は点群ファイルにおける他の点群メディアトラックのフレームレートがいずれも表示対象の点群メディアトラックと一致しないならば、点群メディアトラックの合併方法を実行することができる。すなわち、表示対象の点群メディアトラックのフレームレートを取得し、データソースにデータ伝送要求(例えば、第3データ伝送要求)を送信することで、データソースによって伝送された補足点群ファイルを送信する。補足点群ファイルは、表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する1つ又は複数の他の点群メディアトラックを含み、1つ又は複数の他の点群メディアトラックを復号し、かつ1つ又は複数の他の点群メディアトラックと表示対象の点群メディアトラックとを合併して表示する。
図6は、本願の1つの実施例における点群符号化方法のステップフローチャートを示す。該点群符号化方法は、点群メディアシステムのサーバ、クライアント端末、及び中間ノードなどの段階に応用されてもよく、本願の実施例は、点群符号化装置がインストールされたサーバ機器によって実行される点群符号化方法を例とする。図6に示されるように、該点群符号化方法は、主に以下のステップS610~ステップS620を含んでもよい。
ステップS610:異なる符号化標準に応じて伝送対象の点群データに対して符号化処理を行って、同じ点群コンテンツを有する複数の点群コードストリームを得て、複数の点群コードストリームにおいてフレームレートの異なる一部の点群コードストリームが含まれる。
異なるデータ受信側の点群データに対するフレームレートニーズを満たすために、ある点群コンテンツの点群データに対して、複数種の異なる符号化標準に応じて符号化処理を行った後に、同じフレームレート、又は異なるフレームレートを有する複数の点群コードストリームを得ることができる。符号化標準は、一種又は複数種の品質パラメータのパラメータ値を含んでもよく、各種の品質パラメータの異なるパラメータ値を組み合わせて複数種の異なる符号化標準を形成することができる。例えば、品質パラメータはコードレートとフレームレートを含み、コードレートは2種の異なるコードレート値A1、A2を含み、フレームレートも2種の異なるフレームレート値B1、B2を含み、これにより異なる品質パラメータ値に対応する4種の符号化標準A1B1、A1B2、A2B1、及びA2B2を決定することができる。
ステップS620:複数の点群コードストリームを複数の点群メディアトラックにカプセル化し、かつ複数の点群メディアトラックに複数の点群コードストリームと対応するフレームレート指示情報を埋め込む。フレームレート指示情報は、複数の点群メディアトラックのフレームレートを指示することに用いられる。
各々の点群メディアトラックは、いずれもそれに対応するファイルカプセル化情報を有し、該ファイルカプセル化情報は、点群コードストリームを点群メディアトラックにカプセル化するときに生成されたISOBMFFデータボックスであってもよく、例えば拡張して得られたトラックグループデータボックスTrackGroupTypeBoxであってもよい。点群メディアトラックのファイルカプセル化情報においてフレームレート指示情報と対応するフレームレート指示フィールドを決定した後に、点群コードストリームのフレームレートを引用する方式により、点群コードストリームと対応するフレームレート指示情報をファイルカプセル化情報におけるフレームレート指示フィールドに埋め込むことができる。
本願の1つの実施例において、点群コードストリームを点群メディアトラックにカプセル化した後に、データ伝送ニーズに基づいて、点群データを伝送することに用いられるストリームメディアシグナリングを生成することができ、該ストリームメディアシグナリングは以上の実施例におけるDASHシグナリングであってもよい。ストリームメディアシグナリングにトラックグループを識別することに用いられる時間領域階層グループ識別子を埋め込み、トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、トラックグループにおいてはフレームレートの異なる一部の点群メディアトラックが含まれる。次にデータ受信側にストリームメディアシグナリングを送信することで、データソースとデータ受信側との間で点群データ伝送を行う。
本願の1つの実施例において、データ受信側がストリームメディアシグナリングに応答した後に、データソースは、データ受信側によって送信された、ストリームメディアシグナリングに基づき生成されたデータ伝送要求を受信することができ、データ伝送要求に基づいて、データ受信側に点群ファイルを伝送する。点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる。
図7は、本願の実施例の1つの応用シーンにおいて点群データの符号化・復号を行うステップフローチャートを示す。図7に示されるように、サーバは点群データを生成するデータソースとして、サーバとユーザがあるクライアント端末との間で点群データの伝送、及び符号化・復号を行う方法は、以下のステップを含んでもよい。
ステップS701:サーバ上の点群コンテンツAに対して符号化処理を行って、2種の異なるフレームレートに対応する3つの点群コードストリームS1、S2、及びS3を得る。例えば、点群コードストリームS1のフレームレートは60fpsであり、点群コードストリームS2のフレームレートは30fpsであり、点群コードストリームS3のフレームレートも30fpsである。
ステップS702:3つの点群コードストリームを相互に関連付けられた3つの点群メディアトラックTrack1、Track2、及びTrack3にそれぞれカプセル化し、各々の点群メディアトラックのフレームレート指示情報を対応させて埋め込む。例えば、トラックグループデータボックスに、点群メディアトラックTrack1のフレームレート指示フィールドをframe_rate=60として埋め込み、点群メディアトラックTrack2のフレームレート指示フィールドをframe_rate=30として埋め込み、点群メディアトラックTrack3のフレームレート指示フィールドをframe_rate=30として埋め込む。
ステップS703:DASHシグナリングにおけるframeRateフィールドを利用して個々の点群メディアトラックのフレームレートを示し、DASHシグナリングにおける時間領域階層グループ識別子GPCCTemporalScaleGroupIdを利用して複数の点群メディアトラックからなるトラックグループを示し、DASHシグナリングをユーザがあるクライアント端末C1とC2に送信する。
ステップS704:クライアント端末C1とC2は、ネットワーク帯域幅とDASHシグナリングにおける情報に基づいて、点群ファイルを要求する。ここで、C1によって要求された点群ファイルにおいては点群メディアトラックTrack1が含まれ、C2によって要求された点群ファイルにおいては点群メディアトラックTrack2が含まれる。
ステップS705:サーバは、それぞれクライアント端末C1とC2に点群ファイルを伝送する。サーバがクライアント端末C1に伝送した点群ファイルにおいては点群メディアトラックTrack1が含まれ、クライアント端末C2に伝送した点群ファイルにおいて点群メディアトラックTrack2が含まれる。
ステップS706:クライアント端末は、点群ファイルを受信し、Track1とTrack2におけるframeRateフィールド情報により相応な点群メディアトラックを復号し、かつ表示する。
クライアント端末C2のネットワーク状態が好転した後に、更に点群メディアトラックTrack3を要求することができ、点群メディアトラックTrack2を点群メディアトラックTrack3と共に提示して消費を行い、それによりフレームレートが60fpsとなる点群表示効果を達成する。
本願の実施例が提供する技術的手段において、同じフレームレートを有する点群メディアリソース、及び異なるフレームレートを有する点群メディアリソースを関連付けることにより、点群メディアの時間的な漸進的関係が構築される。このような時間的な漸進的関係に基づき、ユーザは、点群メディアを消費するときに、自分のニーズに基づいて対応する点群メディアファイルを要求し、それにより伝送帯域幅を節約することができる。
留意すべきであるように、図面において特定の順序で本願における方法の個々のステップが記述されているが、これは、所望の結果を実現するには該特定の順序に応じてこれらのステップを実行する必要があるか、又は示された全部のステップを実行する必要があることを要求、又は暗示するものではない。追加的に、又は選択可能に、あるいくつかのステップを省略し、複数のステップを1つのステップに合併して実行し、及び/又は1つのステップを複数のステップに分解して実行するなどのようにしてもよい。
以下、本願の上記実施例における点群符号化・復号方法を実行することに用いることができる、本願の装置実施例を紹介する。
図8は、本願の1つの実施例における点群復号装置の構造ブロック図を示す。図8に示されるように、点群復号装置800は主に、データソースによって伝送された点群ファイルを受信するように構成される受信モジュール810であって、上記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、上記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、受信モジュール810と、上記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、上記ファイルカプセル化情報中に持っているフレームレート指示情報を得るように構成される解析モジュール820であって、上記フレームレート指示情報は、上記1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる、解析モジュール820と、上記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、上記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するように構成される復号モジュール830と、を含んでもよい。
本願のいくつかの実施例において、以上の各実施例に基づき、上記受信モジュール810は、データソースによって送信された、点群データを伝送することに用いられるストリームメディアシグナリングを受信するように構成されるシグナリング受信ユニットと、上記ストリームメディアシグナリングを解析して、上記ストリームメディアシグナリング中に持っている、トラックグループを識別することに用いられる時間領域階層グループ識別子を得るように構成されるシグナリング解析ユニットであって、上記トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、上記トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、シグナリング解析ユニットと、上記時間領域階層グループ識別子に基づいて、上記データソースに第1データ伝送要求を送信するように構成される要求送信ユニットと、上記データソースによって伝送された、上記第1データ伝送要求と対応する点群ファイルを受信するように構成されるファイル受信ユニットと、を含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記要求送信ユニットは、上記データソースとデータ伝送を行うネットワーク帯域幅を取得するように構成される帯域幅取得サブユニットと、上記時間領域階層グループ識別子に基づいて、上記トラックグループ中から上記ネットワーク帯域幅とマッチングする、ターゲットフレームレートを有する1つ又は複数のターゲット点群メディアトラックを選択するように構成されるトラック選択サブユニットと、上記1つ又は複数のターゲット点群メディアトラックの伝送を要求することに用いられる第1データ伝送要求を上記データソースに送信するように構成される要求送信サブユニットと、を含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記解析モジュール820は、上記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析することで、上記1つ又は複数の点群メディアトラックのフレームレートと対応するフレームレート指示フィールドを決定するように構成される情報解析ユニットと、上記フレームレート指示フィールドの値に基づいて、上記1つ又は複数の点群メディアトラックのフレームレート指示情報を決定するように構成される情報決定ユニットと、を含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記点群復号装置800は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、上記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、上記点群ファイル中から上記表示対象の点群メディアトラックと同じフレームレートを有する他の点群メディアトラックを選択するように構成されるトラック選択モジュールと、上記表示対象の点群メディアトラックを上記他の点群メディアトラックに置き換えることで、上記他の点群メディアトラックを復号し、かつ表示するように構成される第1置き換えモジュールと、を更に含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記点群復号装置800は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、上記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、上記点群ファイル中から上記表示対象の点群メディアトラックと同じフレームレートを有する1つ又は複数の他の点群メディアトラックを選択するように構成されるトラック選択モジュールと、上記1つ又は複数の他の点群メディアトラックを復号し、かつ上記1つ又は複数の他の点群メディアトラックと上記表示対象の点群メディアトラックとを合併して表示するように構成される第1合併モジュールと、を更に含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記点群復号装置800は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、上記データソースに第2データ伝送要求を送信することで、上記データソースによって伝送された補足点群ファイルを受信するように構成されるファイル取得モジュールであって、上記補足点群ファイルは、上記表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する他の点群メディアトラックを含む、ファイル取得モジュールと、上記表示対象の点群メディアトラックを上記他の点群メディアトラックに置き換えることで、上記他の点群メディアトラックを復号し、かつ表示するように構成される第2置き換えモジュールと、を更に含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記点群復号装置800は、表示対象の点群メディアトラックのフレームレートを取得するように構成されるフレームレート取得モジュールと、上記データソースに第3データ伝送要求を送信することで、上記データソースによって伝送された補足点群ファイルを受信するように構成されるファイル取得モジュールであって、上記補足点群ファイルは、上記表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する1つ又は複数の他の点群メディアトラックを含む、ファイル取得モジュールと、上記1つ又は複数の他の点群メディアトラックを復号し、かつ上記1つ又は複数の他の点群メディアトラックと上記表示対象の点群メディアトラックとを合併して表示するように構成される第2合併モジュールと、を更に含む。
図9は、本願の1つの実施例における点群符号化装置の構造ブロック図を示す。図9に示されるように、点群符号化装置900は主に、異なる符号化標準に応じて伝送対象の点群データに対して符号化処理を行って、同じ点群コンテンツを有する複数の点群コードストリームを得るように構成される符号化モジュール910であって、上記複数の点群コードストリームにおいてフレームレートの異なる一部の点群コードストリームが含まれる、符号化モジュール910と、上記複数の点群コードストリームを複数の点群メディアトラックにカプセル化し、かつ上記複数の点群メディアトラックに上記複数の点群コードストリームと対応するフレームレート指示情報を埋め込むように構成されるカプセル化モジュール920であって、上記フレームレート指示情報は、上記複数の点群メディアトラックのフレームレートを指示することに用いられる、カプセル化モジュール920と、を含んでもよい。
本願のいくつかの実施例において、以上の各実施例に基づき、上記点群符号化装置900は、点群データを伝送することに用いられるストリームメディアシグナリングを生成するように構成されるシグナリング生成モジュールと、上記ストリームメディアシグナリングにトラックグループを識別することに用いられる時間領域階層グループ識別子を埋め込むように構成されるシグナリング埋め込みモジュールであって、上記トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、上記トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、シグナリング埋め込みモジュールと、データ受信側に上記ストリームメディアシグナリングを送信するように構成されるシグナリング送信モジュールと、を更に含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記点群符号化装置900は、上記データ受信側によって送信された、上記ストリームメディアシグナリングに基づき生成されたデータ伝送要求を受信するように構成される要求受信モジュールと、上記データ伝送要求に基づいて、上記データ受信側に点群ファイルを伝送するように構成されるファイル伝送モジュールであって、上記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、上記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ファイル伝送モジュールと、を更に含む。
本願のいくつかの実施例において、以上の各実施例に基づき、上記カプセル化モジュール920は、上記複数の点群メディアトラックのファイルカプセル化情報において上記フレームレート指示情報と対応するフレームレート指示フィールドを決定するように構成される情報決定ユニットと、上記複数の点群コードストリームと対応するフレームレート指示情報を上記ファイルカプセル化情報におけるフレームレート指示フィールドに埋め込むように構成される情報埋め込みユニットと、を含む。
本願の各実施例において提供された点群符号化・復号装置の具体的な細部は対応する方法実施例において詳細に記述されており、ここでは詳細な説明を省略する。
図10は、本願の実施例の電子機器を実現することに用いられるコンピュータシステムの構造ブロック図を模式的に示す。
説明する必要があるように、図10に示される電子機器のコンピュータシステム1000は、1つの例に過ぎず、本願の実施例の機能、及び使用範囲に対していかなる制限を与えるものではない。
図10に示されるように、コンピュータシステム1000は、中央プロセッサ1001(Central Processing Unit、CPU)を含み、それは読み取り専用メモリ1002(Read-Only Memory、ROM)において記憶されたプログラム、又は記憶部分1008からランダムアクセスメモリ1003(Random Access Memory、RAM)においてロードされたプログラムに基づいて各種の適切な動作と処理を実行することができる。ランダムアクセスメモリ1003において、システム操作に必要な各種のプログラム、及びデータが更に記憶される。中央プロセッサ1001、読み取り専用メモリ1002、及びランダムアクセスメモリ1003はバス1004を介して互いに連結される。入力/出力インタフェース1005(Input/Outputインタフェース、すなわちI/Oインタフェース)もバス1004に接続される。
キーボード、マウスなどを含む入力部分1006、例えば陰極線管(Cathode Ray Tube、CRT)、液晶ディスプレイ(Liquid Crystal Display、LCD)など、及びスピーカなどを含む出力部分1007、ハードディスクなどを含む記憶部分1008、及び例えばローカルエリアネットワークカード、モデムなどのネットワークインタフェースカードを含む通信部分1009などの部材は入力/出力インタフェース1005に接続される。通信部分1009は、例えばインターネットのネットワークを経由して通信処理を実行する。ドライバ1010も必要に応じて入力/出力インタフェース1005に接続される。例えば磁気ディスク、光ディスク、光磁気ディスク、半導体メモリなどのリムーバブル媒体1011は必要に応じてドライバ1010上にインストールされることで、その上から読み出されたコンピュータプログラムが必要に応じて記憶部分1008にインストールされる。
特に、本願の実施例に基づいて、個々の方法のフローチャートにおいて記述された過程はコンピュータソフトウェアプログラムとして実現されてもよい。例えば、本願の実施例はコンピュータプログラム製品を含み、それはコンピュータ可読媒体上に搭載されたコンピュータプログラムを含み、該コンピュータプログラムはフローチャートに示される方法を実行することに用いられるプログラムコードを含む。このような実施例において、該コンピュータプログラムは通信部分1009を介してネットワーク上からダウンロード、及びインストールされてもよく、及び/又はリムーバブル媒体1011からインストールされてもよい。該コンピュータプログラムが中央プロセッサ1001によって実行されるときに、本願のシステムにおいて限定される各種の機能を実行する。
説明する必要があるように、本願の実施例に示されるコンピュータ可読媒体は、コンピュータ可読信号媒体、又はコンピュータ可読記憶媒体、又は上記の両者の任意の組み合わせであってもよい。コンピュータ可読記憶媒体は、例えば電気、磁気、光、電磁、赤外線、又は半導体のシステム、装置、又はデバイス、又は以上の任意の組み合わせであってもよいがこれらに限定されない。コンピュータ可読記憶媒体のより具体的な例は、1つ又は複数の導線を有する電気的接続、ポータブルコンピュータ磁気ディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラマブル読み取り専用メモリ(Erasable Programmable Read Only Memory、EPROM)、フラッシュメモリ、光ファイバ、ポータブルコンパクト磁気ディスク読み取り専用メモリ(Compact Disc Read-Only Memory、CD-ROM)、光記憶デバイス、磁気記憶デバイス、又は上記の任意の適切な組み合わせを含んでもよいがこれらに限定されない。本願において、コンピュータ可読記憶媒体はプログラムを含む、又は記憶するいかなる有形媒体であってもよく、該プログラムは命令実行システム、装置、又はデバイスによって使用されてもよく、又はそれらと結合して使用されてもよい。本願において、コンピュータ可読信号媒体は、ベースバンドにおいて、又は搬送波の一部として伝搬されるデータ信号を含んでもよく、ここでコンピュータ可読プログラムコードが搭載される。このように伝搬されるデータ信号は複数種の形式のものを採用してもよく、電磁信号、光信号、又は上記の任意の適切な組み合わせを含むがこれらに限定されない。コンピュータ可読信号媒体はコンピュータ可読記憶媒体以外のいかなるコンピュータ可読媒体であってもよく、該コンピュータ可読媒体は、命令実行システム、装置、又はデバイスによって使用されるか、又はそれらと結合して使用されることに用いられるプログラムを送信、伝搬、又は伝送することができる。コンピュータ可読媒体上に含まれるプログラムコードは、いかなる適切な媒体を用いて伝送されてもよく、無線、有線など、又は上記の任意の適切な組み合わせを含むがこれらに限定されない。
当業者は、明細書を考慮し、且つここで開示された発明を実践した後に、本願のその他の実施手段を容易に想到し得る。本願は、本願のいかなる変形、用途、又は適応的変化をもカバーすることを意図するものであり、これらの変形、用途、又は適応的変化は、本願の一般的な原理に従うものであって、かつ本願に開示されていない本技術分野における公知常識、又は慣用されている技術的手段を含む。
理解すべきであるように、本願は、上記のように記載され、且つ図面において示される正確な構造に限定されるものではなく、その範囲から逸脱することなく各種の修正、及び変更を行うことができる。本願の範囲は添付の特許請求の範囲によってのみ制限される。
110 第1端末装置
120 第2端末装置
130 第3端末装置
140 第4端末装置
150 ネットワーク
201 ビデオソース
202 点群データ
203 ビデオ符号化装置
204 点群データ
205 ストリーミング伝送サーバ
206 クライアント端末サブシステム
208 クライアント端末サブシステム
209 点群データ
210 点群復号装置
211 出力点群データ
212 ディスプレイ
213 収集サブシステム
800 点群復号装置
810 受信モジュール
820 解析モジュール
830 復号モジュール
900 点群符号化装置
910 符号化モジュール
920 カプセル化モジュール
1000 コンピュータシステム
1001 中央プロセッサ
1002 専用メモリ
1003 ランダムアクセスメモリ
1004 バス
1005 出力インタフェース
1006 入力部分
1007 出力部分
1008 記憶部分
1009 通信部分
1010 ドライバ
1011 リムーバブル媒体

Claims (15)

  1. 点群復号方法であって、
    データソースによって伝送された点群ファイルを受信するステップであって、前記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ステップと、
    前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、前記ファイルカプセル化情報中に持っているフレームレート指示情報を得るステップであって、前記フレームレート指示情報は、前記1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる、ステップと、
    前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップと、を含む、ことを特徴とする点群復号方法。
  2. データソースによって伝送された点群ファイルを受信する前記ステップは、
    データソースによって送信された、点群データを伝送することに用いられるストリームメディアシグナリングを受信するステップと、
    前記ストリームメディアシグナリングを解析して、前記ストリームメディアシグナリング中に持っている、トラックグループを識別することに用いられる時間領域階層グループ識別子を得るステップであって、前記トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ステップと、
    前記時間領域階層グループ識別子に基づいて、前記データソースに第1データ伝送要求を送信するステップと、
    前記データソースによって伝送された、前記第1データ伝送要求と対応する点群ファイルを受信するステップと、を含む、ことを特徴とする請求項1に記載の点群復号方法。
  3. 前記時間領域階層グループ識別子に基づいて、前記データソースに第1データ伝送要求を送信する前記ステップは、
    前記データソースとデータ伝送を行うネットワーク帯域幅を取得するステップと、
    前記時間領域階層グループ識別子に基づいて、前記トラックグループ中から前記ネットワーク帯域幅とマッチングする、ターゲットフレームレートを有する1つ又は複数のターゲット点群メディアトラックを選択するステップと、
    前記1つ又は複数のターゲット点群メディアトラックの伝送を要求することに用いられる第1データ伝送要求を前記データソースに送信するステップと、を含む、ことを特徴とする請求項2に記載の点群復号方法。
  4. 前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、前記ファイルカプセル化情報中に持っているフレームレート指示情報を得るステップは、
    前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析することで、前記1つ又は複数の点群メディアトラックのフレームレートと対応するフレームレート指示フィールドを決定するステップと、
    前記フレームレート指示フィールドの値に基づいて、前記1つ又は複数の点群メディアトラックのフレームレート指示情報を決定するステップと、を含む、ことを特徴とする請求項1に記載の点群復号方法。
  5. 前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップの後に、前記方法は、
    表示対象の点群メディアトラックのフレームレートを取得するステップと、
    前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から前記表示対象の点群メディアトラックと同じフレームレートを有する他の点群メディアトラックを選択するステップと、
    前記表示対象の点群メディアトラックを前記他の点群メディアトラックに置き換えることで、前記他の点群メディアトラックを復号し、かつ表示するステップと、を更に含む、ことを特徴とする請求項1~4のいずれか一項に記載の点群復号方法。
  6. 前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップの後に、前記方法は、
    表示対象の点群メディアトラックのフレームレートを取得するステップと、
    前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から前記表示対象の点群メディアトラックと同じフレームレートを有する1つ又は複数の他の点群メディアトラックを選択するステップと、
    前記1つ又は複数の他の点群メディアトラックを復号し、かつ前記1つ又は複数の他の点群メディアトラックと前記表示対象の点群メディアトラックとを合併して表示するステップと、を更に含む、ことを特徴とする請求項1~4のいずれか一項に記載の点群復号方法。
  7. 前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップの後に、前記方法は、
    表示対象の点群メディアトラックのフレームレートを取得するステップと、
    前記データソースに第2データ伝送要求を送信することで、前記データソースによって伝送された補足点群ファイルを受信するステップであって、前記補足点群ファイルは、前記表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する他の点群メディアトラックを含む、ステップと、
    前記表示対象の点群メディアトラックを前記他の点群メディアトラックに置き換えることで、前記他の点群メディアトラックを復号し、かつ表示するステップと、を更に含む、ことを特徴とする請求項1~4のいずれか一項に記載の点群復号方法。
  8. 前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて、前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するステップの後に、前記方法は、
    表示対象の点群メディアトラックのフレームレートを取得するステップと、
    前記データソースに第3データ伝送要求を送信することで、前記データソースによって伝送された補足点群ファイルを受信するステップであって、前記補足点群ファイルは、前記表示対象の点群メディアトラックと同じ点群コンテンツ、及び同じフレームレートを有する1つ又は複数の他の点群メディアトラックを含む、ステップと、
    前記1つ又は複数の他の点群メディアトラックを復号し、かつ前記1つ又は複数の他の点群メディアトラックと前記表示対象の点群メディアトラックとを合併して表示するステップと、を更に含む、ことを特徴とする請求項1~4のいずれか一項に記載の点群復号方法。
  9. 点群符号化方法であって、
    異なる符号化標準に応じて伝送対象の点群データに対して符号化処理を行って、同じ点群コンテンツを有する複数の点群コードストリームを得るステップであって、前記複数の点群コードストリームにおいてフレームレートの異なる一部の点群コードストリームが含まれる、ステップと、
    前記複数の点群コードストリームを複数の点群メディアトラックにカプセル化するステップであって、前記複数の点群メディアトラックに前記複数の点群コードストリームと対応するフレームレート指示情報を埋め込み、前記フレームレート指示情報は、前記複数の点群メディアトラックのフレームレートを指示することに用いられる、ステップと、を含む、ことを特徴とする点群符号化方法。
  10. 前記複数の点群コードストリームを複数の点群メディアトラックにカプセル化するステップの後に、前記方法は、
    点群データを伝送することに用いられるストリームメディアシグナリングを生成するステップと、
    前記ストリームメディアシグナリングにトラックグループを識別することに用いられる時間領域階層グループ識別子を埋め込むステップであって、前記トラックグループは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記トラックグループにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ステップと、
    データ受信側に前記ストリームメディアシグナリングを送信するステップと、を更に含む、ことを特徴とする請求項9に記載の点群符号化方法。
  11. データ受信側に前記ストリームメディアシグナリングを送信するステップの後に、前記方法は、
    前記データ受信側によって送信された、前記ストリームメディアシグナリングに基づき生成されたデータ伝送要求を受信するステップと、
    前記データ伝送要求に基づいて、前記データ受信側に点群ファイルを伝送するステップであって、前記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、ステップと、を更に含む、ことを特徴とする請求項10に記載の点群符号化方法。
  12. 前記複数の点群メディアトラックに前記複数の点群コードストリームと対応するフレームレート指示情報を埋め込むことは、
    前記複数の点群メディアトラックのファイルカプセル化情報において前記フレームレート指示情報と対応するフレームレート指示フィールドを決定するステップと、
    前記複数の点群コードストリームと対応するフレームレート指示情報を前記ファイルカプセル化情報におけるフレームレート指示フィールドに埋め込むステップと、を含む、ことを特徴とする請求項9~11のいずれか一項に記載の点群符号化方法。
  13. 点群復号装置であって、
    データソースによって伝送された点群ファイルを受信するように構成される受信モジュールであって、前記点群ファイルは、同じ点群コンテンツを有する1つ又は複数の点群メディアトラックを含み、前記点群ファイルにおいてフレームレートの異なる一部の点群メディアトラックが含まれる、受信モジュールと、
    前記1つ又は複数の点群メディアトラックのファイルカプセル化情報を解析して、前記ファイルカプセル化情報中に持っているフレームレート指示情報を得るように構成される解析モジュールであって、前記フレームレート指示情報は、前記1つ又は複数の点群メディアトラックのフレームレートを指示することに用いられる、解析モジュールと、
    前記ファイルカプセル化情報中に持っているフレームレート指示情報に基づいて前記点群ファイル中から指定フレームレートを有する点群メディアトラックを選択し、かつ復号するように構成される復号モジュールと、を含む、ことを特徴とする点群復号装置。
  14. 点群符号化装置であって、
    異なる符号化標準に応じて伝送対象の点群データに対して符号化処理を行って、同じ点群コンテンツを有する複数の点群コードストリームを得るように構成される符号化モジュールであって、前記複数の点群コードストリームにおいてフレームレートの異なる一部の点群コードストリームが含まれる、符号化モジュールと、
    前記複数の点群コードストリームを複数の点群メディアトラックにカプセル化し、かつ前記複数の点群メディアトラックに前記複数の点群コードストリームと対応するフレームレート指示情報を埋め込むように構成されるカプセル化モジュールであって、前記フレームレート指示情報は、前記複数の点群メディアトラックのフレームレートを指示することに用いられる、カプセル化モジュールと、を含む、ことを特徴とする点群符号化装置。
  15. 電子機器であって、
    プロセッサと、
    前記プロセッサの実行可能命令を記憶することに用いられるメモリと、を含み、
    前記プロセッサは、前記実行可能命令を実行することによって請求項1~12のいずれか一項に記載の方法を実行するように構成される、ことを特徴とする電子機器。
JP2023552564A 2021-04-22 2022-03-11 点群符号化・復号方法、装置、及び電子機器 Pending JP2024508865A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202110437255.4 2021-04-22
CN202110437255.4A CN115243053B (zh) 2021-04-22 2021-04-22 点云编解码方法及相关设备
PCT/CN2022/080266 WO2022222641A1 (zh) 2021-04-22 2022-03-11 点云编解码方法、装置、计算机可读介质以及电子设备

Publications (1)

Publication Number Publication Date
JP2024508865A true JP2024508865A (ja) 2024-02-28

Family

ID=83666808

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023552564A Pending JP2024508865A (ja) 2021-04-22 2022-03-11 点群符号化・復号方法、装置、及び電子機器

Country Status (6)

Country Link
US (1) US20230061573A1 (ja)
JP (1) JP2024508865A (ja)
KR (1) KR20230144620A (ja)
CN (1) CN115243053B (ja)
TW (1) TWI803274B (ja)
WO (1) WO2022222641A1 (ja)

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10535161B2 (en) * 2017-11-09 2020-01-14 Samsung Electronics Co., Ltd. Point cloud compression using non-orthogonal projection
CN110012279B (zh) * 2018-01-05 2020-11-17 上海交通大学 基于3d点云数据的分视角压缩和传输方法及系统
US10984541B2 (en) * 2018-04-12 2021-04-20 Samsung Electronics Co., Ltd. 3D point cloud compression systems for delivery and access of a subset of a compressed 3D point cloud
US11049266B2 (en) * 2018-07-31 2021-06-29 Intel Corporation Point cloud viewpoint and scalable compression/decompression
US20210194946A1 (en) * 2018-09-12 2021-06-24 Nokia Technologies Oy An apparatus, a method and a computer program for video coding and decoding
JP7460611B2 (ja) * 2018-09-18 2024-04-02 ヴィド スケール インコーポレイテッド ポイントクラウド圧縮ビットストリームフォーマットに対する方法および装置
WO2020070379A1 (en) * 2018-10-03 2020-04-09 Nokia Technologies Oy Method and apparatus for storage and signaling of compressed point clouds
CN112955713A (zh) * 2018-10-29 2021-06-11 大疆科技股份有限公司 用于在可移动物体环境中进行实时地图构建的技术
CN113302844A (zh) * 2018-12-28 2021-08-24 索尼集团公司 信息处理装置和信息处理方法
US11457231B2 (en) * 2019-03-15 2022-09-27 Mediatek Singapore Pte. Ltd. Methods and apparatus for signaling spatial relationships for point cloud multimedia data tracks
US11581022B2 (en) * 2019-05-29 2023-02-14 Nokia Technologies Oy Method and apparatus for storage and signaling of compressed point clouds
US11704867B2 (en) * 2019-09-27 2023-07-18 Intel Corporation Methods for timed metadata priority rank signaling for point clouds
WO2021022266A2 (en) * 2019-10-07 2021-02-04 Futurewei Technologies, Inc. Video-based point cloud compression (v-pcc) timing information
US11302063B2 (en) * 2020-07-21 2022-04-12 Facebook Technologies, Llc 3D conversations in an artificial reality environment
CN114079781B (zh) * 2020-08-18 2023-08-22 腾讯科技(深圳)有限公司 一种点云媒体的数据处理方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN115243053B (zh) 2024-04-16
TWI803274B (zh) 2023-05-21
WO2022222641A1 (zh) 2022-10-27
US20230061573A1 (en) 2023-03-02
CN115243053A (zh) 2022-10-25
TW202243481A (zh) 2022-11-01
KR20230144620A (ko) 2023-10-16

Similar Documents

Publication Publication Date Title
CN108989885B (zh) 视频文件转码系统、分割方法、转码方法及装置
EP3782368A1 (en) Processing video patches for three-dimensional content
US10504246B2 (en) Distinct encoding and decoding of stable information and transient/stochastic information
CN112804256B (zh) 多媒体文件中轨道数据的处理方法、装置、介质及设备
CN114697668B (zh) 点云媒体的编解码方法及相关产品
JP7480773B2 (ja) 情報処理装置、情報処理方法、再生処理装置及び再生処理方法
CN115396645B (zh) 一种沉浸媒体的数据处理方法、装置、设备及存储介质
WO2023226504A1 (zh) 一种媒体数据处理方法、装置、设备以及可读存储介质
US20230082784A1 (en) Point cloud encoding and decoding method and apparatus, computer-readable medium, and electronic device
CN115396647B (zh) 一种沉浸媒体的数据处理方法、装置、设备及存储介质
JP2024508865A (ja) 点群符号化・復号方法、装置、及び電子機器
US20240046562A1 (en) Information processing device and method
CN110213583B (zh) 视频编码方法、系统、装置及计算机程序介质
CN115150368B (zh) 媒体文件的关联处理方法、装置、介质及电子设备
WO2024114519A1 (zh) 点云封装与解封装方法、装置、介质及电子设备
WO2023169003A1 (zh) 点云媒体的解码方法、点云媒体的编码方法及装置
CN118118694A (zh) 点云封装与解封装方法、装置、介质及电子设备
WO2023130893A1 (zh) 流媒体传输方法、装置、电子设备及计算机可读存储介质
US20240129537A1 (en) Method and apparatus for signaling cmaf switching sets in isobmff
EP4325871A1 (en) Information processing device and method
WO2022134962A1 (zh) 点云视窗的呈现方法、装置、计算机可读介质及电子设备
WO2023169004A1 (zh) 点云媒体的数据处理方法、装置、设备及介质
US20230089154A1 (en) Virtual and index assembly for cloud-based video processing
CN117981326A (zh) 用于基于云的视频处理的虚拟和索引装配
WO2023049629A1 (en) Virtual and index assembly for cloud-based video processing

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230830

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230830