TW201642655A - 基於藝術意向之視訊編碼 - Google Patents

基於藝術意向之視訊編碼 Download PDF

Info

Publication number
TW201642655A
TW201642655A TW105112390A TW105112390A TW201642655A TW 201642655 A TW201642655 A TW 201642655A TW 105112390 A TW105112390 A TW 105112390A TW 105112390 A TW105112390 A TW 105112390A TW 201642655 A TW201642655 A TW 201642655A
Authority
TW
Taiwan
Prior art keywords
sample
artistic intent
characteristic
content
artistic
Prior art date
Application number
TW105112390A
Other languages
English (en)
Inventor
炳K 伊
葉言
何玉文
修小玉
永 何
拉爾夫 内夫
Original Assignee
Vid衡器股份有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vid衡器股份有限公司 filed Critical Vid衡器股份有限公司
Publication of TW201642655A publication Critical patent/TW201642655A/zh

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/115Selection of the code volume for a coding unit prior to coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

揭露了用於保留內容中的藝術意向表示的基於藝術意向的內容編碼的系統、方法和裝置。藝術意向的表示被識別(例如,藉由傳訊或內容分析)並被表示為藝術意向位置PART 和藝術意向特性CART 的集合。藝術意向特性CART 可以被傳訊並被用於識別藝術意向位置PART 。藝術意向保留編碼和處理可以被應用到樣本位置PART 以保留特性CART 。編碼使用者介面可以允許使用者指定藝術集合(例如,PART 及/或CART )並選擇及/或配置與藝術集合相關聯的像素及/或區塊的處理,例如保真增強、QP調整值及/或後處理。內容優先順序或重要性等級可以在內容的細(例如,像素、樣本)及/或粗(例如,區塊)等級被隱含地或明確地表明,以變化(例如,增強,降低)內容編碼、傳遞、處理及/或誤差恢復/強健性中的處理的等級。

Description

基於藝術意向之視訊編碼
現今,藝術家可能希望向其觀眾描繪的包括意義、原因或概念的藝術意向可以在內容(例如,圖像、視訊、音訊等)中被表示、刻畫、傳達等。這樣的內容可以被編碼(例如,壓縮)以降低儲存及/或傳輸頻寬,例如,以便於內容可以被流傳輸及/或儲存在實體媒體上。不幸地是,編碼可以負面影響(例如,失真、使不重要等)及/或甚至消除該藝術意向的表示。
揭露了用於保留內容中的藝術意向表示的基於藝術意向的內容編碼的系統、方法和裝置。藝術意向的表示被識別(例如,藉由傳訊或內容分析)並被表示為藝術意向位置PART 和藝術意向特性CART 的集合。藝術意向特性CART 可以被傳訊並被用於識別藝術意向位置PART 。藝術意向保留編碼和處理可以被應用到樣本位置PART 以保留特性CART 。編碼使用者介面可以允許使用者指定藝術集合(例如,PART 及/或CART )並選擇及/或配置與藝術集合相關聯的像素及/或區塊的處理,例如保真增強、QP調整值及/或後處理。內容優先順序或重要性等級可以在內容的細(例如,像素、樣本)及/或粗(例如,區塊)等級中被隱含地或明確地表明,以變化(例如,增強的、降低的)內容編碼、傳遞、處理及/或誤差恢復/強健性中的處理的等級。
現在參考各種圖描述示意性實施方式的詳細描述。雖然該描述提供了可能實施的詳細示例,應當注意這些細節旨在示意性而絕不限制本申請的範圍。
例如,視訊編碼系統壓縮數位視訊信號以降低用於數位視訊信號的儲存及/或傳輸頻寬。可以有多種類型的視訊編碼系統,例如基於區塊、基於小波、基於物件和基於區塊的混合視訊編碼系統。此外,可以有多種基於區塊的視訊編碼系統,其中一些可以基於國際視訊編碼標準。MPEG1/2/4 部分2、H.264/MPEG-4部分10 AVC、VC-1和 H.265/HEVC(高效率視訊編碼)可以是基於國際視訊編碼標準的基於區塊的視訊編碼系統的示例。MPEG-2、H.264/AVC和HEVC標準例如由ITU-T/SG16/Q.6/視訊編碼專家組(VCEG)和ISO/IEC JTC1 SC29 WG11運動圖像專家組 (MPEG)開發。如這裡所述,編碼可以影響藝術家可能想要描繪內容的藝術家的意向。例如,視訊編碼系統可以照亮藝術家可能已經想要其更生動的物件的顏色,由此其可以突出且由此物件可以在編碼之後在內容中不再突出。
第1圖是基於區塊的混合視訊編碼器的示例的圖。輸入視訊訊號2可以被處理,例如逐區塊處理。視訊區塊單元可以例如在MPEG1/2/4和H.264/AVC中包括16x16亮度樣本和對應的色度樣本。色度樣本的數量可以取決於輸入視訊訊號的色度格式。例如當使用4:2:0二次取樣時,兩個8x8色度區塊可以對應於亮度樣本的一個16x16區塊。編碼區塊單元(例如,標準編碼區塊單元)可以被稱為巨集區塊(MB)。擴展區塊尺寸可以稱為“編碼樹單元(CTU)”。CTU可以例如用於壓縮高解析度視訊訊號,例如1080和更高解析度。CTU可以具有各種尺寸,例如64x64、32x32和16x16亮度樣本。CTU尺寸可以例如在序列級被選擇並在序列參數集(SPS)被傳訊。CTU可以例如經由四叉樹分割被分割成編碼單元(CU)。可以例如在CU級選擇訊框內或訊框間預測模式。CU可以被分割成預測單元(PU)。分開的預測可以被應用到PU。
第3圖是HEVC中預測單元(PU)模式或CU的分割的圖。可以針對任一個或多個輸入視訊區塊(MB或CU)執行空間預測(160)及/或時間預測(162)。
空間預測(稱為“訊框內預測”)可以例如通過使用來自視訊圖像/片(slice)內的已經編碼的相鄰區塊的像素預測目前視訊區塊。空間預測可以降低視訊訊號中的空間冗餘。
時間預測(稱為“訊框間預測”或“運動補償預測”)可以例如藉由使用來自已經編碼的視訊圖像的像素預測目前視訊區塊。時間預測可以降低視訊訊號的時間冗餘。可以例如藉由一個或多個運動向量和一個或多個參考索引來傳訊針對給定視訊區塊的時間預測。運動向量可以表明目前區塊與參考區塊之間的運動的量(例如,幅度或速率)和方向。參考索引可以識別解碼圖像緩衝器中的一個或多個參考圖像,一個或多個時間預測區塊來自該參考圖像。解碼圖像緩衝器的示例在第1圖中被標記為“參考圖像庫64”。
第1圖中示出的編碼器中的模式決定區塊80可以選擇(例如,最佳)預測模式(例如,訊框內模式或訊框間模式)和相關聯的預測資訊(例如,用於訊框內編碼或運動分割的亮度和色度預測模式;用於訊框間編碼的運動向量和參考索引)。選擇可以在空間及/或時間預測之後發生。
編碼器模式決定邏輯可以例如依賴速率-失真最佳化技術以選擇模式(例如,最佳模式)來提供失真和速率之間的最佳折衷。失真可以例如意味著重建視訊區塊和原始視訊區塊之間的均方誤差。速率可以是例如花費在對區塊進行編碼的位元數。
求和區塊16可以藉由從目前視訊區塊減去預測區塊來產生預測殘差。變換4可以變換預測殘差。量化6可以量化變換的預測殘差。逆量化10可以逆量化被量化的殘差係數。逆變換12可以逆變換被逆量化的殘差係數。逆量化10和逆變換12的替代方式是變換跳過模式。在變換單元(TU)級的變換跳過模式可以繞過變換階段並直接在空間域中量化TU區塊的預測殘差。逆量化10和逆變換12的另一示例或替代方式可以是變換和量化繞過模式。在變換單元(TU)級的變換和量化繞過模式可以繞過變換階段和量化階段。
逆量化10和逆變換12產生重建殘差。求和26藉由將重建殘差加到預測區塊來產生重建視訊區塊。
環路濾波器66可以將環內濾波應用到重建視訊區塊。參考圖像庫64可以儲存濾波後的重建視訊區塊。濾波後的重建視訊區塊可以用於編碼將來的視訊區塊。解塊濾波器可以被例如H.264/AVC和HEVC支援。解塊濾波器是在區塊邊界應用的自適應平滑濾波器以降低由於用於編碼兩個相鄰區塊的不同模式及/或參數導致的區塊假影。非線性環內濾波器(例如,樣本自適應偏移(SAO)濾波器)可以被例如HEVC支援。可以有兩種類型的SAO濾波:1)帶偏移(BO),其可以降低帶狀假影,和2)邊緣偏移(EO),其可以恢復例如在量化期間失真的邊緣。可以支援其他環內濾波方法,例如自適應環濾波(ALF)。
熵編碼單元8產生輸出視訊位元流20。編碼模式(例如,訊框內或訊框間)、預測模式資訊、運動資訊(例如,運動向量和參考索引)、量化的殘差係數、環內濾波參數(例如,EO及/或BO參數)可以被提供給熵編碼單元8,用於進一步的壓縮和打包以產生位元流20。
第4圖示出了具有死區的標量量化的示例。量化6可以例如藉由具有死區的量化在壓縮期間帶來失真。在量化期間帶來的失真量可取決於死區的尺寸和量化步長。雖然量化過程可能引入失真,但其還可以明顯降低用於編碼視訊的位元數。藉由量化過程量化的信號可以被量化為在一定範圍內具有相同的量化輸出值。例如,死區內的輸入值可以具有等於零的量化輸出值。一些編解碼器,例如H.264/AVC 和HEVC,可以使用具有死區的標量量化。死區可以用於以小幅度來抑制空間域中變換係數及/或預測殘差。例如依據編碼模式可以使用不同尺寸的死區。
第2圖是基於區塊的視訊解碼器的示例的圖。第2圖示出了可以與第1圖中的編碼器對應的基於區塊的混合視訊解碼器。熵解碼單元208拆包並熵解碼視訊位元流202。編碼模式和相關聯的預測資訊可以被提供給空間預測單元260(例如,當訊框內編碼時)或時間預測單元(運動補償預測單元)262(例如,當訊框間編碼時)。空間預測單元260或運動補償預測單元262可以產生預測區塊。
逆量化單元210和逆變換單元212從由熵解碼單元208產生的殘差變換係數來重建殘差區塊。求和226將預測區塊與重建殘差區塊相加以形成重建區塊。重建區塊可以被提供給環內濾波單元266並儲存在參考圖像庫264。雖然沒有在第2圖中顯示,環內濾波參數(例如,EO及/或BO參數)可以從位元流被解析並可被發送給環內濾波單元266,例如以控制環濾波操作。參考圖像庫264中的重建視訊可以被提供以驅動顯示裝置及/或預測將來的視訊區塊。
可以使用具有不同等級的複雜度和不同等級的編碼效率的多種技術來實施第1圖和第2圖中示出的示例系統架構中的功能區塊。例如,雙預測(形式是時間預測、多參考圖像和解塊濾波器)、靈活區塊結構和SAO可以被實施。更複雜的技術可以涉及在編碼器和解碼器處的更多計算。但是,更複雜的技術可以提供明顯改善的編碼效率。在視訊編碼標準的演進中,更近一代的編解碼器可以是例如上一代編解碼器效率的兩倍。作為示例,HEVC可以使用平均低於H.264/AVC使用的位元速率一半的位元速率來傳遞相同的主觀視訊品質。
由於有線和無線網路容量的明顯技術進步,世界越來越連在一起。智慧型電話、平板電腦和其他可擕式裝置具有增加的計算能力和更快的網路連接。這些趨勢和視訊壓縮技術的進步一起導致了廣泛存在的經過不同市場分段的高解析度(HD)視訊。HD視訊被提供在線性TV節目中、TV廣播中、基於訂閱或廣告支援的隨選視訊流服務中(例如,Netflix、Hulu、Amazon、Google’s YouTube)、直播流中以及行動視訊應用(例如,使用者產生的內容、視訊記錄、重播、視訊聊天)中。
視訊品質改善繼續到HD之上。超高解析度(UHD)視訊技術可以提供下一代視訊服務,具有給消費者的改善的圖像品質。在UHD顯示器(例如,4K解析度TV)的製造和銷售以及相關聯服務(例如,更高速有線和無線通訊連接以隨時隨地接收及/或傳送UHD品質視訊)中存在顯著利益。
UHD視訊格式已經正式在建議ITU-R BT.2020和SMPTE ST 2036-1中被定義。UHD格式在視訊訊號的一些方面中定義增強的參數。表1提供了針對HD和UHD的視訊參數之間的比較。與HD相比,UHD支援更高空間解析度(例如,3840x2160和7680x4320)、更高訊框率(例如,高達120 Hz)、更高樣本位元度(例如,針對高動態範圍支援高達12位元)以及實現更生動顏色呈現的更寬色域。 1- 高解析度( HD )和超高解析度( UHD )視訊格式的比較
第5圖示出了BT.709和BT.2020色域的比較。第5圖示出了HD色域(內三角形)和UHD色域(外三角形),覆蓋有CIE 1931顏色空間色度圖(馬蹄形)。馬蹄形代表人眼可見顏色的範圍。BT.709色域和BT.2020色域分別覆蓋CIE 1931顏色空間的約36%和76%。換句話說,與可以在BT.709(HD)顯示器(其已經統治消費者顯示器市場許多年)上再現的顏色量相比,BT.2020顯示器明顯增加了可再現顏色的量。BT.2020可以提供更多更生動和更豐富的顏色給視訊消費者。
第6圖示出了3D顏色量,具有沿著Y軸的亮度和沿著x、y軸的顏色。(x,y)平面對應於第5圖中的CIE 1931顏色空間。垂直Y軸對應於亮度(例如,明亮度)信號。亮度信號以cd/m2 (燭光/每平方公尺)為單位被測量,也稱為尼特(1尼特=1 cd/m2 )。動態範圍是顯示器支援的亮度信號的範圍。許多消費者顯示器支援大約100尼特的峰值亮度。高動態範圍(HDR)顯示器(例如,具有大約1000至4000尼特的峰值亮度)可以提供明顯的可察覺品質收益。
HDR支援可以涉及明顯的修改,例如整個生態系統改變。HDR修改可以發生在獲取、內容創建工作流、傳遞和顯示中。從HDR視訊的強烈的品質收益的角度,HDR對消費者部署具有先進性,例如杜比視界(Dolby Vision)。在HDR顯示器的支援中,顯示器製造者已經演示了HDR顯示器。在HDR內容創建的支援中,可察覺量化器(PQ)被標準化到SMPET ST 2084中。在HDR傳遞的支援中,HEVC的主10設定檔可以用於壓縮使用BT.2020容器的以10位元Y’CbCr格式攜帶的HDR信號。可以有對HEVC主10設定檔的編碼效率改進,提供與標準動態範圍(SDR)視訊的舊版相容性。
除了UHD和HDR視訊提供的視訊品質改進,3D視訊還提供增強的視訊品質。3D視訊產生、傳遞和呈現研究與3D內容的擴展和特殊眼鏡(例如,3D眼鏡)的取消一起繼續。自動立體(無眼鏡)顯示技術正在開發以避免眼睛疲勞、頭痛、由於降低的空間解析度導致的內容混疊。視圖的數量可以明顯增加,例如以緩解這樣的問題。但是,直接在許多視圖中編碼視訊樣本可能有明顯的負荷消耗。深度圖和有效視圖間預測的使用可以是3D視訊改善的部分,例如以降低3D視訊產生和傳遞成本的負擔。
第7圖是深度圖的示例的圖。深度圖是具有灰度值樣本的影像,其中灰度值可以表明物件離觀察者的深度或距離。一些相機獲取的視圖伴隨有高品質深度圖,例如可以允許接收器/顯示器在任意視圖位置呈現物件以創建期望的3D效果。
第8圖是使用相機視圖產生任意視圖的示例。第8圖示出了使用固定數量的相機獲取的視圖和對應的深度圖產生任意視圖的示例。深度圖支援任意視圖呈現並還可以支援相機獲取視圖的有效率的壓縮。作為示例,從第8圖中的第一相機視圖直接預測第二相機視圖的替代方式是深度圖用於將第一相機視圖投影到第二相機視圖的位置。深度圖可以用於提供第二相機視圖的更精確的預測。HEVC標準的擴展,即3D-HEVC,可以使用深度圖和高級視圖合成演算法來增加壓縮效率並降低用於傳遞3D視訊的頻寬。
如這裡所述,視訊產生、傳遞和呈現技術的進步,例如HDR、WCG和基於深度的3D視訊,可以為內容製造者(例如,導演、色彩藝術家和創建使用者產生的內容的使用者)提供更大的“調色板” (例如,視訊參數和工具的更寬集合),以更自由和精確地表示他們的藝術意向。作為示例,調色師可以選擇應用尤其生動飽和的紅色來作為盛開的花的場景。飽和的紅色可以使用BT.2020顏色空間得到,但BT.709顏色空間(例如,其可以是可用的顏色空間或由於編碼得到)不可以。這樣,在示例中,藝術家可以例如使用HDR在圖像中相比於星光更如實地呈現日出。在自然世界中,星光的亮度等級大約在10-3 尼特,而陽光的亮度要高出許多數量級,在大約105 尼特。從事3D視訊的導演或調色師可能想要強調距離觀眾或觀看者特定距離(例如,深度)的3D物件。在空間域中工作的導演可以選擇將主物件放置在場景的某區域來傳達藝術意向。作為示例,導演可以選擇將女主角的臉放在圖像的右側。在示例中,用於編碼的目前技術可能不能提供相同的強調及/或可能導致導演期望的且在編碼前的內容中描繪的女演員的位置及/或3D物件丟失強調。
第9圖是內容產生和內容傳遞工作流的示例300。如圖所示,在302,內容可以被記錄。內容可以包括音訊、視訊、還仍然可包括影像、及/或如這裡的示例中所述的類似者。在304,例如在302的獲取或記錄之後,解馬賽克可以被應用以從來自影像感測器的不完全顏色樣本輸出來重建完全顏色影像。調色師可以使用參考顯示來創建表示其藝術意向的影像(例如,在306和308)。參考顯示可以是具有Rec.709顏色空間(例如,藝術家可以與其交互,在306)的SDR顯示、或具有Rec.2020顏色空間(例如,藝術家可以與其交互,在308)的高級HDR顯示。不管是哪種顯示,調色師可以期望呈現的影像代表其藝術意向(例如,並可以在306和308使用這樣的顯示來調整影像以反映或表示此意向)。在310,影像可以被輸出及/或呈現到合適的格式,例如數位圖像交換(DPX)格式,其是用於SMPTE標準ST 268M-2003標準化的數位中間和視覺效果工作的檔案格式。第9圖中的最終功能可以準備專業工作室內容以用於遞送給消費者。在示例中,準備可以包括例如到消費者格式的格式轉換,例如DPX到YUV 4:2:0的轉換(在312),以及消費者格式視訊(例如,YUV 4:2:0)的壓縮(例如,編碼),以滿足頻寬需求(在314)。
在這裡的示例中,在第9圖中示出的中央功能區塊中(例如,在304-310中),藝術家意向可以在內容創建期間被表示。調色師可以例如依據呈現裝置(例如,顯示器)創建具有不同顏色的場景(在306及/或308)且具有表示強調的此場景可以被呈現(在310)。如這裡所述,藝術意向可以包括在影像的場景中物件、顏色、音訊等的強調。在具有藝術意向(例如,添加強調)的影像中包括的場景可以被呈現或輸出並可以在轉換到不同格式(例如,流傳輸、實體媒體等)時最終如這裡所述被編碼。不幸的是,使用目前的技術及/或方法,這樣的藝術意向可能在這樣的編碼期間被丟失。這樣,如這裡所述的系統、方法及/或裝置可以被提供以在例如在312和314的轉換和編碼期間保留這樣的(例如,在304-310輸入及/或添加的)強調。
第10圖是在不同參考顯示上具有不同顏色分級的內容的示例。作為示例,使用索尼F65相機獲取的內容在兩個不同參考顯示上被分級。左邊的內容在Rec.709參考顯示上分級,而右邊的內容在DCI-P3顯示上分級。DCI-P3是比Rec.709寬但是比Rec.2020窄的顏色空間。第10圖示出了xy色度圖上的分級內容的投影,與Rec.709空間(例如,每個軸集合中的較小三角形)和Rec.2020空間(例如,每個軸集合中的較大三角形)重疊。調色師對右邊的參考顯示有更多自由,例如因為其能夠表示(例如,呈現)更多顏色。
可以期望在第10圖的右側的分級內容的壓縮期間例如藉由確保增加的顏色(例如,較小Rec.709三角形外的顏色)不失真來保留藝術意向的表示。這些顏色可能在壓縮期間對量化敏感,這可以使得在目標顯示上的最終呈現顏色(在解碼之後)在視覺上看起來與藝術意向更加不同。
視訊編碼標準(例如,H.264和HEVC)可以用於支援原始視訊內容的方面(例如,表示的藝術意向)的保留。H.264和HEVC中的軟片粒特性補充增強資訊(SEI)訊息可以用於改善原始視訊內容中的軟片粒的保留。軟片粒是類雜訊信號,其經常存在於使用軟片原始獲取的內容中。其可以指“舒適雜訊”,一些內容創建者用來保留視訊(例如,電影)中的期望的“觀感”。
藝術導演可能更希望保留軟片粒,甚至在已經數位化視訊內容以後。數位視訊信號中的軟片粒可能例如藉由在變換域中產生大量的高頻係數而給編碼器帶來很大挑戰。例如當編碼器量化這些高頻係數時,原始軟片粒可能被失真及/或丟失。例如當轉碼器如實保留這些係數時,編碼位元速率可能明顯增加。軟片粒SEI可以指定用於軟片粒合成的參數化模型。編碼器可以在編碼之前從原始信號移除軟片粒,並使用該軟片粒SEI來向解碼器傳達如何重新產生軟片粒並在顯示之前將其添加回視訊訊號。
例如量化矩陣之類的編碼工具可以用於保留視訊內容中的藝術意向。H.264和HEVC中的預設量化/解量化可以將固定的標量量化器應用到變換的殘差係數的一個或多個頻率分量。量化矩陣可以被指定用於視訊序列或視訊圖像(例如,使用序列參數集或圖像參數集),例如以改善主觀品質。標量量化器的不同值可以被應用到變換域中的不同頻率分量。量化矩陣的規範可以被限制、且可以定址到一個特定功能區塊,例如第1圖和第2圖中的視訊編碼系統中的量化和解量化。軟片粒SEI訊息可以是可選的且可以是解碼器可以丟棄的額外資訊。換句話說,在示例中,可以限制保留藝術意向的能力。
編碼工具可以用於保留信號保真,改善主觀品質及/或移除編碼假影。例如區塊級量化參數(QP)調整、解塊濾波器、樣本自適應偏移(SAO)之類的編碼工具可以在區塊級被應用。區塊級QP調整可以允許QP值(例如,應的量化的量)例如在相鄰區塊間被改變。區塊級QP調整可以用於獨立於另一區塊來控制區塊的品質。不同QP調整可以被應用於亮度和色度顏色分量。語法元素可以例如在HEVC中作為變換單元(TU)語法結構的部分被傳訊,例如以表明增量(delta)QP被應用於到目前編碼單元(CU)。例如依據編碼器的模式決定邏輯(第1圖中的區塊180),不同的區塊尺寸可以被選擇用於對區域進行編碼,在該區域中藝術意向被表示。
具有表示的藝術意向的區域(例如,具有藝術表示的區域)可以具有不規則形狀。交替形狀可以用於代表並保留不規則形狀的藝術表示。視訊編碼技術可以用於促進藝術意向的保留,其可以在內容中被隱式或顯式表示。藝術意向可以在細粒度被識別,例如樣本可以符合藝術意向。藝術意向可以在樣本級(例如,像素級)被識別並保留而不導致明顯的傳訊負荷。編碼工具可以原始被設計或修改以在編碼的內容中保留藝術意向。
揭露了系統、方法和措施用於保留內容中的藝術意向的表示的基於藝術意向的內容編碼。藝術意向的表示被識別(例如,藉由傳訊或內容分析)並被表示為藝術意向位置PART 和藝術意向特性CART 的集合。藝術意向特性CART 可以被傳訊並用於識別藝術意向位置PART 。藝術意向保留編碼和處理被應用到樣本位置PART 以保留特性CART 。編碼使用者介面(例如,其可以包括圖形化使用者介面)可以允許用戶指定藝術集(例如,PART 及/或CART )並選擇及/或配置與藝術集相關聯的像素及/或區塊的處理,例如保真增強、QP調整值及/或後處理。內容優先順序或重要性等級可以用內容的細(例如,像素、樣本)或粗(例如,區塊)等級被隱含或明確地表明,以變化(例如,增強,降低)內容編碼、傳遞、處理及/或誤差恢復/強健性的處理的等級。
例如,如這裡所述,藝術家和電影工業可能對壓縮技術沒有控制,其可以用於將電影院品質的電影壓縮成其他格式,例如DVD、藍光、數位內容等。此外,沒有合適的技術可供藝術家使用來提供在這樣的壓縮期間(例如,編碼和解碼)可以使用的資訊來解譯影片(例如,可以用於解譯藝術家可以對影片中的物件、顏色及/或其他項做出的表示及/或增強)。根據示例,這樣的系統、方法及/或裝置可以使可以表明藝術家意向的資訊或中繼資料(例如,針對每個像素的特性,例如CART )被(例如,在像素級)添加到物件、顏色及/或其他者。此外,在這樣的系統中、方法及/裝置中,可以表明藝術家意向的資訊或中繼資料可以被關聯到壓縮過程,即如這裡所述,其可以在壓縮期間被編碼且在重播期間被解碼。
在這裡的示例中,包括提供這些中繼資料或資訊的保留藝術意向,高品質內容(例如,無損內容)可以被提供給藝術家或其他使用者。藝術家或使用者可以與例如圖形化使用者介面的介面交互以在壓縮格式(例如,藍光)中調整內容看起來如何。藝術家或使用者可以使用工具,該工具可與經由介面提供的動作、功能、方法等相關聯,以指定內容的什麼元件或部分在內容中進行不同處理或調整。藝術家或使用者可以在使用者介面中視覺上看到對像素的這種調整的結果。
在選擇內容的像素或部分進行不同處理後,藝術家或使用者可以使用工具來表明在轉換期間如何對像素或部分進行不同處理或調整,即是否模糊,增加顏色,及/或如這裡所述的類似操作。在示例中,在此階段(例如,使用工具調整或表明如何對像素進行不同處理),藝術家或使用者可以使用使用者介面及其工具來降低量化步長,由此更多位元流到內容的所選像素或部分,所選像素或部分可以因此而在更高保真度中,該更多位元流可以調整環路濾波器如何被應用到內容的所選像素或部分、及/或可以執行任何其他合適的調整、增強或修改以對內容的所選像素或部分進行不同處理。
在示例中(例如,在選擇像素並對其進行調整之後),編碼參數可以關聯到壓縮過程。例如,具有像素調整的內容可以被饋送到編碼器,使得編碼器可以針對所選的像素(例如,像素集)考慮特性集合(例如,針對所選像素的增強、調整等)、並將這樣的特性集合和像素(例如,可以是中繼資料的部分)編碼成位元流。這可以使解碼器知道要調整及/或增強的像素(例如,特性集合及/或像素集合)並如何對它們進行不同處理(例如,不同處理它們的編碼工具的規則或修改),使得解碼器能夠解譯這樣的資訊並相應地進行操作。
如這裡所述,藝術意向可以例如藉由特性以在圖像及/或圖像序列中被表示。藉由特性表示藝術意向的示例是例如基於顏色(例如,色度)、亮度值、深度值(例如,針對3D內容)、紋理屬性、音訊值、音訊屬性和場景中的物件的關聯的分級(例如,修改或增強)樣本。藉由特性表示藝術意向的示例是在空間位置中放置物件、將聲音或音訊效果應用到感興趣物件、以及應用視訊和音訊效果(例如,漸入/漸出)。
在位置(x,y)的樣本值可以被表示為Sx,y )。樣本可以包括與位置相關聯的顏色分量值及/或其他值(例如,深度或音訊)的三元組。Sx,y )的特性可以被表示為C (S (x,y ))。特性可以例如對應於如下一者或多者:色度圖的特定部分(例如,飽和紅花)、3D顏色量的特定部分(例如,月光)、深度值的給定範圍(例如,距離觀眾最近的移動物件)、視訊圖像的空間區域等。
藝術意向可以藉由被表示為CART 的特性值集合來表示。CART 可以具有離散值,例如K值的集合。例如當特性對應於數位視訊中的樣本的空間位置時,空間位置可以由離散座標集表示。CART 可以覆蓋一範圍的連續值。例如,當特性對應於色度圖的部分時,特性可以用浮點精確度來表示。例如,當位於位置(x,y)的樣本的特性屬於藝術意向集時,樣本位置(x,y)可以被定義為藝術意向位置。
內容中的藝術意向位置的集合可以被表示為。不是藝術意向位置的位置可以被稱為常規位置。具有所表示的藝術意向的內容的部分(例如,由PART 表明的部分)可以被保留具有高保真(例如,比內容的其他部分更高的保真)和影像品質。編碼和處理工具可以原始被設計及/或修改以保留及/或處理位於PART 的樣本。
第11圖是基於藝術意向的視訊編碼的示例流程圖。在第11圖示出的示例中,可以例如基於在樣本位置(x,y)的樣本值Sx,y )或像素,針對樣本位置(x,y)可以確定(例如,計算)特性值C(S (x,y )) (例如,在402)。樣本值S (x,y )可以是通用值或像素,例如對應於與位置相關聯的一個或多個(Y,U,V)分量及/或一個或多個其他值(例如,深度值、音訊值、音訊屬性、與周圍位置(例如,圍繞位置(x,y)的局部區域中的位置)相關聯的值)。
可以確定樣本位置(x,y)是否屬於PART (例如,作為406的部分)。該確定可以被表示為。可以針對一個或多個樣本位置做出這種確定。可以例如藉由顯式傳訊藝術意向位置PART 來做出確定。可以針對圖像序列中的一個或多個圖像提供傳訊。顯式傳訊藝術意向位置PART 可以導致高傳訊負荷。在另一實施方式中,對應於藝術意向的特性值的集合CART 可以顯式傳訊(例如,在404)。藝術意向樣本位置PART 可以例如基於所傳訊的CART 值和計算的特性值C(S(x,y)) 的一者或多者被識別,這可以允許使用最小傳訊負荷來識別位置PART (例如,作為406的部分)。例如,可以確定在位置(x,y)的樣本的特性是否是藝術意向集的部分或匹配(例如,屬於)該藝術意向集,例如。也就是說,在示例中,如果或當針對位於位置(x,y)的樣本計算出的特性值C(S(x,y)) 可以是與藝術意向對應的所傳訊的特性值集合CART 中包括的特性的部分、包括在該特性中或屬於(例如,可以匹配)該特性,則位置(x,y)可以表明藝術意向位置PART 的位置(例如,其可以表明藝術意向及/或其特性值可以被應用到的像素或樣本的位置)。
藝術意向保留編碼工具和後處理可以被應用(例如,在408和412)例如到具有表示的藝術意向的樣本位置(例如,如PART 表明的)。非藝術意向保留編碼工具和後處理可以被應用到例如沒有表示的藝術意向的樣本位置(例如,410)。例如,樣本位置的指示和來自被配置為應用到該樣本位置的特性值的集合的特性可以被輸出(例如,到各自的編碼工具及/或後處理工具)及/或傳訊或發送以應用藝術意向,如這裡所述。
如這裡所述,藝術意向位置可以基於特性集合CART 而在內容中被識別。例如當(具有或沒有變換的)量化在壓縮期間產生損失時,解碼器可以沒有原始樣本值S (x,y )。例如可以使用在編碼器和解碼器處都可用的樣本值來識別藝術意向樣本。這可以允許編碼器和解碼器針對藝術意向樣本保持同步。
在示例中,編碼器和解碼器可以例如使用預測的樣本(例如,屬於第1圖和第2圖中的“預測區塊”的樣本)來計算樣本特性並確定它們是否屬於PART (例如,在例如402和406)。預測的樣本可以來自訊框內預測(空間預測60、260)或訊框間預測(運動預測62、262)。在位置(x,y)處的預測的樣本可以被表示為。(例如,使用預測的樣本的)樣本特性可以被表示為。換句話說,如這裡所述(例如,上面的在402和406),當時,。因此,在示例中,用於計算特性(例如,在402)(其可以與接收的特性集合進行比較以確定(例如,在406)樣本值是否可以屬於或被包括在藝術意向樣本值中)的樣本值及/或位置可以包括或可以是預測的樣本。
在示例中,預測的樣本可以被濾波、解噪及/或以其他方式被處理以改善精確度。預測的樣本值與原始樣本值之間的差可以是實質的,其可以導致不準確的特性值的計算。在示例中,在環濾波之前的重建樣本值(例如,求和26或求和226的輸出)可以用於確定藝術意向表示的特性。環路濾波器(例如,66或266)處理可以使用重建樣本值來確定藝術意向表示。在位置(x,y)的環濾波之前的重建樣本可以被表示為的特性可以被表示為。換句話說,當時,
環濾波可以適用於藝術意向表示的保留。例如,可以在應用了環路濾波器之後確定目前位置(x,y)是否屬於PART (例如,在406)。在環濾波之後的重建樣本可以用於計算樣本特性和特性值C(例如,在402)。在位置(x,y)處的常規環濾波之後的重建樣本可以被表示為的特性可以被表示為。換句話說,如這裡所述(例如,上面的在402和406),當時,。因此,在示例中,用於計算特性(例如,在402)(其可以與接收的特性集合進行比較以確定(例如,在406)樣本值是否可以屬於或被包括在藝術意向樣本值中)的樣本值及/或位置可以包括重建樣本或可以是重建樣本。
後處理可以被應用到屬於PART 的樣本。在位置(x,y)處的修改的環濾波之後的重建樣本可以被表示為。如這裡所述(例如,上面),(例如,在修改的環濾波之後的)這樣的重建樣本可以是用於在402計算特性的樣本並可以用於確定其是否被包括在藝術意向位置或值中(在406)。的特性可以被表示為。例如,當時,可以計算藝術意向位置的細化集合。位置的細化集合可以在藝術意向樣本的後處理期間被使用。這種方式計算可以改善PART 的精確度。
可以傳訊藝術意向特性值的集合C ART 。傳訊可以例如用於識別藝術意向位置PART ,如這裡所述。C ART 中的一個或多個特性代表要被保留的藝術意向的一個或多個類型。特性可以是例如下列的一者或多者:色度、亮度、深度、空間位置、邊緣屬性、紋理屬性、音訊樣本和音訊效果或屬性。代表藝術意向表示的各種類型的特性的各種類型的值可以由各種技術來計算。
色度可以是一種類型的藝術意向。色度特性值可以例如對應於第5圖中的xy色度圖。色度特性值可以例如藉由將樣本值S(x,y) 從其使用中顏色空間(例如,YCbCr或RGB顏色空間)轉換到CIE XYZ或其他顏色空間被計算。樣本值可以是例如之前討論的中的一者。例如RGB到XYZ顏色空間轉換可以根據等式1來執行: 等式 1
在等式1中,3x3矩陣代表針對三個頻道(紅、綠和藍)的測量的CIE三刺激值。例如,Xr、Yr、Zr代表針對紅色頻道的測量的CIE三刺激值。例如依據RGB顏色空間的白點和不同版本,3x3矩陣可以包括不同的係數。還可以使用3x3矩陣來執行YCbCr到CIE XYZ顏色空間轉換。
可以根據等式2和等式3從XYZ三刺激值計算XY色度值: 等式 2 等式 3
值xc 和yc 代表樣本的色度特性。該值可以被表示為xc -yc (而不是x-y)以與樣本位置(x,y)的記法區別。
色度特性值可以在CIE XYZ顏色域或其他顏色空間中被指定。例如,色度值的範圍或集合可以在YCbCr顏色空間、RGB顏色空間或任意顏色空間(其中視訊內容被處理或編碼)中被指定。
亮度可以是一種類型的藝術意向。亮度特性值可以例如對應於第6圖中的垂直Y軸。可以例如藉由將樣本值S(x,y) 從其目前顏色空間(例如,YCbCr或RGB顏色空間)轉換到CIE XYZ顏色空間來計算亮度。樣本值可以是例如之前討論的中的一者。亮度值可以被設定為XYZ三刺激值的Y值。
可以有多種類型或子類型的亮度特性,其單獨或一起表示藝術意向,例如亮度幅度、亮度梯度(例如,對比度)。亮度特性值的計算可以例如依據亮度特性的類型或子類型而變化,例如幅度值的計算可以不同於對比度值的計算。
深度可以是一種類型的藝術意向。深度特性值可以被設定為例如在對應的深度圖中的位置(x,y)處的深度值。深度特性可以被表示為d(x,y)。對應的深度圖可以被編碼,例如被壓縮。原始深度值d(x,y)在解碼器處不可用。深度特性的值可以被設定為編碼的深度值,其可以被表示為
空間位置可以是一種類型的藝術意向。空間位置特性值可以被設定為樣本位置(x,y)。
邊緣及/或紋理屬性可以是一種或多種類型的藝術意向。基於局部紋理或邊緣的特性值可以基於例如圍繞給定位置(x,y)的局部區域中的處理值(例如,亮度和色度分量值的一者或多者)來設定。
在示例中,邊緣偵測演算法可以被應用到局部區域,其包括位置(x,y)(例如,以該位置為中心)。特性值可以被設定為例如邊緣偵測演算法的輸出。特性值可以被設定為例如表明邊緣存在或不存在的二進位值。特性值可以被設定為例如使用一個或多個邊緣偵測演算法計算的邊緣強度或信任值。
在示例中,一個或多個面向邊緣的偵測濾波器可以被應用以確定位置(x,y)是否與具有特定朝向的邊緣相關聯。特性值可以被設定為例如表明與位置(x,y)對應的一個或多個面向邊緣朝向或偵測濾波器。例如,水平及/或垂直邊緣偵測濾波器可以被用於確定位置(x,y)是沿著主要水平還是垂直邊緣特徵。特性值可以被設定為例如表明水平邊緣(或邊緣強度)及/或垂直邊緣(或邊緣強度)。位置(x,y)可以與對應於在不同朝向的邊緣偵測結果或邊緣強度測量的多個特性值相關聯。
在示例中,一個或多個紋理分類演算法可以被應用到以位置(x,y)為中心的局部區域。特性值可以被設定為紋理分類演算法的輸出。特性值可以被設定為圍繞位置(x,y)的局部區域的統計屬性。例如,特性值可以被設定為圍繞(x,y)的局部區域中的一個或多個分量的平均值或方差。特性值可以基於圍繞位置(x,y)的局部區域中的像素之間的相關性來設定。特性值可以被設定為在位置(x,y)處應用的1-D或2-D濾波器的輸出。1-D或2-D濾波器可以被設計用於產生結果以回應於一個或多個紋理屬性。濾波器可以是在特定標度和頻率的2-D加柏函數。特性值可以例如基於計算和處理圍繞位置(x,y)的局部區域的頻域表示被設定。可以例如使用DCT或其他合適的頻率變換來變換局部區域像素。頻域係數的子集的值可以被組合例如以產生針對特定頻率或頻率範圍的能量測量。組合可以例如包括簡單或加權加法組合。特性值可以表明在1-D或2-D頻率空間的某部分中是否有明顯的能量。
基於局部紋理或邊緣的特性值可以例如使用與關於位置(x,y)的局部區域相關聯的分量或值的一個或多個來計算。例如,亮度值或一個或多個色度值或分量的一者或多者可以用於計算紋理或邊緣特性值。
音訊效果可以是一種類型的藝術意向。音訊效果特性值可以被設定或使用與位置(x,y)相關聯的一個或多個音訊值來計算。音訊值可以被編碼。
作為示例,包括音訊樣本的音軌可以與感興趣物件或區域相關聯。感興趣區域可以是例如在視聽內容中表現的講話的人、接近的火車、爆炸等。與可聽藝術意向相關聯的位置(x,y)可以與音軌及/或音訊樣本相關聯。感興趣區域可以重疊。位置(x,y)可以與多個音軌相關聯。多個音軌可以被組合(例如,相加地)以形成針對位置(x,y)的音訊表現。視訊訊框中的位置(x,y)可以與音訊樣本及/或相關的音訊屬性相關聯。
相關聯的音訊樣本或音訊屬性可以被處理以確定位置(x,y)是否是特性集合的部分。作為示例,與位置(x,y)相關聯的音訊信號的一個或多個聲道的音量可以被得到。例如當音量高於(或低於)臨界值或在範圍內時,藝術意向可以被認為要被表示。例如基於音訊漸入/漸出的偵測,藝術意向可以被認為要被表示。音量的梯度可以被計算以偵測音訊漸入(例如,在正音量梯度)或音訊漸出(例如,在負音量梯度)。例如當音訊內容佔據某範圍的音訊頻率時,藝術意向可以被表示。例如,高於或低於截止頻率的能量的計算值或某頻帶內的能量的計算值可以被確定為高於表明藝術意向表示的臨界值。
伴隨視訊訊號的音訊信號的一個或多個聲道可以被編碼(例如,壓縮)。編碼器和解碼器可以使用壓縮的音訊信號來計算音訊特性值。
藝術意向的表示或特性化不限於這裡描述的示例。
特性值可以用標量或向量(例如,兩個或更多標量分量)的形式來表現。例如,色度特性和空間位置特性可以是二維的。二維特性CART 的對應範圍可以指定例如二維形狀。二維範圍可以具有任意形狀。多邊形近似可以被應用例如以指定針對任意形狀的範圍。
第12圖是使用多邊形近似的二維CART 形狀的示例。第12圖示出了在色度圖上指定橢圓形CART 區域的示例。多邊形(實線所示)可以用於例如近似橢圓形(虛線所示)。使用一個或多個多邊形及/或其他形狀表現來近似任意形狀的CART 可以提供益處。
多邊可以使用增加數量的頂點/邊來近似具有增加的精確度的形狀。可以例如藉由指定頂點/邊的數量和頂點的座標值來傳訊多邊形。確定給定點是否在多邊形內側可以減少用於確定是否的時間。點是否在多邊形內側可以例如藉由用有限個三角形表示多邊形、並確定點是否在任一個三角形的內側來決定。
可以使用以N個頂點和該N個頂點的座標的多邊形近似來指定2維CART。值N可以例如由編碼器選擇。選擇可以依據例如多邊形近似的精確度和傳訊負荷之間的期望折衷。例如當特性是一維時,可以使用兩個端點值來指定CART。例如當特性是深度時,可以使用深度範圍(dmin, dmax)來指定CART。例如當特性是亮度時,可以使用亮度範圍(Lmin, Lmax)來指定CART。一些用信號發送的參數可以具有浮點精確度。作為示例,xy色度圖上的亮度範圍值或座標可以是浮點數。浮點值的固定點近似可以被傳訊。固定點近似的精確度(例如,使用的位元數)可以作為CART傳訊的部分被傳訊。例如可以使用一範圍的值或區域表現(例如,多邊形)來指定CART,這可以指定特性值的集合中的一個或多個特性。
可以支援兩種或更多類型的特性的組合。不同類型的特性可以彼此正交。作為示例,CART可以包括M個成員(例如,正交)特性,。CART的共同範圍可以藉由分開指定單獨成員特性的範圍而被傳訊。例如,藝術意向可以在色度範圍和亮度範圍內被表示。這可以被表示為 M = 2、 ,其中(色度特性),和(亮度特性)。CART參數可以指定(例如,使用多邊形近似來指定色度值的區域)並可以指定(例如,使用兩個端點來指定亮度值的範圍)。
例如當成員特性彼此不正交時,可以組合成員特性。例如,色度和亮度可以被組合一起以定義3D顏色量圖(例如,第6圖中示出的圖)中的3D範圍。可以例如藉由傳訊3D形狀的表面來傳訊3D範圍。可以做出具有(x,y,z)座標的點是否位於3D形狀內的決定。
作為兩種或更多類型的特性的組合的示例,假定C0代表可以被表示為例如空間/像素域中的多邊形區域的感興趣空間區域。假定C1代表可以被表示為例如XY色度空間中的多邊形區域的XY色度空間的區域。CART = { C0 , C1 }可以表示由C0定義的空間區域中的像素(例如,所有像素),其可以具有位於由C1定義的色度區域內的色度分量。這種類型的特性集合組合可以用於例如針對處理特定色度特性的螢幕區域中的像素集指定更高保真、修改的解塊濾波或其他特殊處理。
使用者介面可以被提供以允許使用者(例如,人類藝術家)提供使用者輸入以指定一個或多個特性集合Cx和特性值集合。使用者介面工具可以允許使用者在視訊訊框中識別感興趣區域。例如,使用者介面可以允許藝術家使用指向裝置以圍繞顯示的內容訊框的區域繪製形狀。該使用者介面可以允許使用者例如使用文字輸入或值浮動塊識別一個或多個特性,例如亮度及/或色度值的範圍。使用者介面可以允許使用者例如使用顏色圖(例如,第5圖中示出的顏色圖示例)指定顏色區域。使用者介面可以允許使用者例如使用文字輸入或‘值浮動塊’介面指定目標深度或深度值的範圍。使用者介面可以允許使用者來指定邊緣朝向、邊緣強度或紋理分類。
使用者介面可以被配置為允許使用者指向內容的視覺表現,例如以説明選擇值來定義特性集合。例如,使用者可以指向顯示的內容訊框中的位置(x,y)。使用者介面可以藉由識別與該位置相關聯的一個或多個值(例如,亮度、色度、深度、邊緣強度、紋理分類)進行回應。使用者介面可以允許使用者選擇一範圍的值,其包括與所選位置相關聯的值或以該值為中心。使用者介面可以在顯示的內容訊框中顯示指示(例如,輪廓或高亮),例如以識別位置的集合PART(例如,像素集),其對應於由在使用者介面中選擇的值或值範圍所定義的一個或多個特性值集合。複合特性集合可以例如從任何特性集合類型的兩個或更多個特性集合的組合被形成。複合特性集合可以針對滿足兩個或更多個特性集合的位置或滿足至少一個特性集合(例如,使用者選擇或定義的多個特性集合的至少一個)的位置來指定藝術意向。
使用者介面可以允許使用者選擇及/或配置編碼工具來處理藝術集合位置PART。作為示例,使用者介面可以允許使用者指定可應用於與藝術集合相關聯的像素及/或區塊的保真增強和QP調整值的應用。介面可以允許使用者向與藝術集合相關聯的像素及/或區塊指定增強環路濾波器或修改的後處理階段應用。使用者介面可以允許使用者指定及/或配置為處理藝術集合位置而將被添加或修改的一個或多個解碼工具。
第13圖是CART 傳訊的示例流程圖。在第13圖中示出的示例中,CART 中的成員特性的總數M可以被傳訊,例如被發送及/或被接收(例如,在502)。對於成員特性,其中i=0至M-1,特性的類型可以被傳訊,例如被發送及/或被接收(例如,在504)。一種類型的特性可以是例如亮度、色度、深度、空間位置、邊緣朝向、邊緣強度、紋理屬性或分類以及音訊屬性或效果。一種類型的可以是例如2-D或1-D。例如,可以確定該類型的可以例如是2-D(二維)還是1-D(一維)(例如,在506)。在示例中(例如,基於在506的確定),該範圍的可以例如藉由指定兩個端點(例如,如果為1-D)(例如,在508)或的多邊形表示(例如,如果為2-D)(例如,在510)而被傳訊,例如被發送及/或被接收。多邊形表示可以藉由傳訊頂點數和頂點座標而被傳訊,例如被發送及/或接收(例如,在510)。這樣,在示例中,當基於該確定,成員特性可以是一維時,使用端點的用於成員特性的該特性類型的範圍可以被使用,包括發送及/或接收的(例如,用信號通知的),或者,當基於該確定,成員特性可以是二維時,可以使用用於成員特性的該特性類型的多邊形表示,包括被發送及/或接收的(例如,用信號通知的)。在示例中,可以在編碼、解碼、傳遞、處理和誤差恢復的至少一者中可使用用於成員特性的該特性類型的範圍及/或用於成員特性的該特性類型的多邊形表示。如所示,這可以針對具有該總數個特性的特性集合中的每個成員特性(例如,在512中示出)被重複,或直到達到該集合中的總數個特性。
可以例如在序列級(例如,在序列參數集、圖像參數集、視訊參數集)、圖像級(例如,圖像參數集、片段標頭)或片級(例如,片段標頭)發送例如在編碼的視訊位元流中的CART 傳訊。CART 的傳訊可以作為SEI訊息被發送。可以在接收器處被接收、解析和解譯的SEI訊息可以用於指導一個或多個後處理步驟,例如以改善具有藝術意向樣本的區域的品質。後處理技術可以包括以後環方式應用的自適應環路濾波器、跨分量濾波等。
解碼工具可以被設計及/或修改以支援藝術意向的保留。量化可能在壓縮期間帶來資訊丟失和信號失真。大量化步長可能導致明顯的資訊丟失,這可以意味著重建視訊可能包括可見編碼假影。明顯的資訊丟失可能是不期望的,尤其對於包括與藝術意向表示對應的樣本的區域,例如PART位置。位於PART的樣本的信號保真可以例如藉由應用更細量化步長來編碼對應PART樣本的預測殘差而被保留。
第14圖是具有PART區塊和常規區塊的編碼單元(CU)的示例。第14圖示出了具有一些PART樣本(“x”樣本)和一些常規樣本(“o”樣本)的CU。分割和處理可以是例如基於區塊的,而不是基於樣本的。作為示例,第14圖中的CU可以被分成四個區塊。左邊的兩個區塊主要包括常規樣本。具有主要常規樣本的區塊可以被標記為常規區塊。右邊的兩個區塊主要包括PART 樣本。具有主要PART樣本的區塊可以被標記為PART 區塊。
更細量化可以被應用到標記為PART區塊的區塊。HEVC中的CU級QP調整可以用於應用更細量化。但是,CU級QP調整不可以提供足夠的粒度。第14圖中示出的示例中的CU級QP調整的應用可以將相同的QP應用到相同CU中的樣本。較小CU級QP可以意味著常規區塊可以被較少量化,這可以導致位元速率增加。更大CU級QP可以意味著PART 區塊可以遭受更多失真。
PART樣本可以例如藉由在高等級指定增量(delta)QP值而被保留具有高保真。高等級可以是例如序列級、圖像級或片級。這可以稱為基於藝術意向的QP調整。PART 樣本可以藉由量化PART 區塊(例如,主要包括PART樣本的區塊)被保留。可以例如如之前所述的使用例如所傳訊的CART 參數來識別PART 樣本。例如當區塊包括部分、百分比或其他臨界值等級的PART 樣本時,區塊可以被識別為PART區塊。作為示例,臨界值可以被設定為10%或25%,使得包括多於10%或多於25%的PART樣本的任意區塊被識別為PART區塊。
藝術意向QP調整可以被應用到PART 區塊。在高等級所傳訊的增量(delta)QP值可以例如藉由從常規QP值減去增量QP而產生減小的QP值以例如在QP調整中被使用。減小的QP值可以被應用到PART 區塊以實現更細量化。區塊決定臨界值的值和增量QP值可以是靜態或動態的、以及固定或可變的(例如,值可以由例如人類藝術家之類的使用者配置、並可以在內容位元流中被傳訊)。
例如依據區塊中的PART 樣本的數量或部分,變化的QP調整可以被應用到區塊。例如基於值deltaQP_max 可以限制變化的QP調整。最大增量QP值(例如,deltaQP_max )可以例如由人類藝術家定義。例如,具有一數量的PART 像素的區塊可以遵守QP調整,其中根據等式4來計算deltaQPdeltaQP = round (num( ) / num(block)   *   deltaQP_max) 等式 4
在等式4中,num ()是目前區塊中的PART 像素的數量,num(block) 是目前區塊中的像素的總數,deltaQP_max 是目前藝術集合的最大QP調整以及round()可以是捨入運算。捨入運算可以保證deltaQP具有整數值。
針對例如未經量化之前變換的應用的區塊,作為PART 樣本的確定的替代或附加的PART 區塊的確定可以被取消。針對一些區塊,變換被應用到預測殘差(其一些可以對應於PART 樣本且其他對應於常規樣本)的區塊以產生可以被量化的變換係數。
在HEVC中的TU級,例如,可以實現變換跳過模式。可以例如在變換跳過模式中可以將量化直接應用到空間域中的預測殘差。例如給定不同的量化步長可以被應用到單獨的樣本位置,PART區塊的識別可以被消除。不同的步長大小可以例如取決於樣本是PART樣本還是常規樣本。
基於藝術意向的QP調整可以具有一個或多個增量(delta)QP值。QP值可以對應於一個或多個顏色分量。量化步長大小可以針對不同的顏色分量獨立地被調整。deltaQP及/或deltaQP_max的值可以由使用者配置。
解碼工具可以原始被設計及/或修改以保留藝術意向。解塊濾波器可以被修改以保留藝術意向。作為示例,H.264和HEVC中的解塊濾波器可以用於降低區塊邊界之間的區塊假影並改善主觀品質。
第15圖是使用相鄰區塊(區塊P)和目前區塊(區塊Q)的解塊的示例。如第15圖所示,解塊可以被應用到水平和垂直區塊邊界。可以例如藉由識別目前區塊(例如,區塊Q)的相鄰區塊(例如,區塊P)來應用解塊。相鄰區塊的識別可以取決於例如邊緣方向。
可以計算P和Q之間的邊界強度(Bs)參數。Bs的計算可以取決於例如P和Q的編碼模式、P和Q的參考圖像、P和Q的運動向量及/或在區塊P或區塊Q中是否存在任何非零變換係數。Bs可以控制解塊濾波器的強度,其可以被應用於P和Q中的相鄰樣本。
自適應解塊濾波器可以被分開應用於亮度分量和色度分量。區塊邊界的每一個邊上的樣本可以例如依據Bs的值被濾波。Bs的值可以例如多達四個亮度或色度。
可以例如藉由考慮P及/或Q是否是P ART 區塊來決定邊界強度Bs。例如當P或Q的一者或多者是PART 區塊時,Bs的值可以增加,使得更強的解塊濾波器被應用以提供更高主觀品質。可以簡化解塊複雜度。作為示例,例如當Bs大於1時,可以濾波HEVC中的色度分量。簡化可以導致用於藝術意向保留目的的重建信號中的色度的品質不足。例如,藉由在Bs等於1時應用解塊濾波器,可以針對色度分量應用更強解塊濾波器。
區塊P和區塊Q的QP值可以分別被表示為QP(P)和QP(Q)。例如基於多個因素(例如,QP(P)和QP(Q)的值),H.264和HEVC的解塊濾波過程可以是自適應的。在自適應解塊濾波期間使用的QP(P)和QP(Q)的值可以為來自在應用基於藝術意向的QP調整之前或之後的區塊QP值。
第16圖是用於藝術意向保留的基於區塊的視訊解碼器的示例的圖。第16圖示出了第2圖中所示的基於區塊的混合視訊解碼器圖的修改版本。如第16圖中所示,輸入位元流被熵解碼且該位元流被拆包。
可以從該位元流擷取模式及運動資訊以及CART 參數。CART 參數可以與預測的樣本(或與重建樣本)使用,例如以確定哪些區塊/樣本是PART 區塊/樣本(1620)。修改的逆量化(1610)和修改的環路濾波器(1640)可以例如依據對哪些區塊/樣本是PART 區塊/樣本的確定而被應用。PART 區塊/樣本決定(1620)可以用於將後處理(1630)應用到重建圖像,例如以進一步復原及/或增強在顯示器上呈現的圖像中的藝術意向。後處理可以包括例如自適應環路濾波器(例如,用作後濾波器)及/或跨分量色度增強濾波器。
基於區塊的混合視訊解碼被示出作為第16圖中的示例。藝術意向保留技術可以應用於其他類型的視訊編碼系統。CART 傳訊和PART 識別技術可應用於多種編碼系統。例如,傳訊CART 參數可以與基於小波的視訊編碼系統或基於物件的視訊編碼系統結合以保留藝術意向。
所傳訊的藝術意向特性(例如,CART 參數)可以用於改善或增強視訊傳遞系統的誤差恢復/強健性,例如視訊傳遞系統依賴易於發生誤差的頻道(例如,無線頻道)。例如,在傳輸期間,一部分位元流可以丟失(例如,由於惡化的或丟失的封包)。解碼器可以偵測到丟失的樣本對應於PART 區塊/樣本。增強的誤差消除演算法可以被應用以消除丟失的區塊/樣本。
在示例中,深度特性可以在CART 中被傳訊。解碼器可以參考對應的深度圖(假定接收到深度圖)來確定丟失的樣本是否對應於PART 區塊/樣本。在示例中,可以在CART 中傳訊空間特性。解碼器可以確定丟失的樣本的位置來確定這些樣本是否對應於PART 區塊/樣本。解碼器可以選擇合適的誤差消除策略來改善視訊品質。在示例中,可以在CART 中傳訊色度(或亮度)特性。解碼器可以確定丟失的樣本是否對應於PART 位置。解碼器可能不知道丟失的樣本的樣本值。解碼器可以例如使用可用的相鄰樣本(例如,空間相鄰樣本及/或時間相鄰樣本)來幫助決定丟失的樣本是否對應於PART 位置,並選擇合適的誤差消除技術。
編碼器可以壓縮不同片/磚片(tile)中更重要或優先的樣本,例如PART 樣本。重要的片/磚片可以與內容傳遞(例如,傳輸)階段及/或其他階段中的較高優先順序相關聯。例如,基於CART 傳訊可使用增強誤差保護(例如,更強FEC碼)及/或增強重傳來改善QoS。傳輸器/分封器可以例如使用基礎流中的CART 傳訊資訊來確定用於傳輸/分封化的QoS參數(例如,誤差保護率、傳輸優先順序)。
可以識別具有更多或更少重要性的內容中的位置集合。CART 是具有關於藝術意向的增強重要性的特性值的集合。PART 是具有關於藝術意向的增強重要性的樣本位置的集合。藝術意向特性CART 可以被傳訊並被用於識別藝術意向位置的集合PART (例如,如這裡所述)。具有不同重要性等級的位置的集合可以被識別。
例如在內容創建過程期間可以識別具有降低(例如,非常低)重要性的位置的集合。藝術家可以明確或隱含地將特性值的集合及/或樣本位置的集合識別為具有“低重要性”。當例如藝術家對樣本位置的集合沒有額外關注時,其可能暗示沒有藝術意向被表示。具有隱含的或明確的重要性降低的位置可以在編碼、後處理及/或誤差恢復期間被“取消強調”。例如,在編碼期間可應用更嚴重的量化,環濾波或後濾波可以被簡化或消除,及/或較低強健誤差保護可以用於降低的重要性樣本位置。
第17圖是針對任何位置的集合傳訊重要性等級的示例流程圖。特性的多個集合, k = 1…N可以被傳訊(例如,在602)。樣本位置的相關聯集合可以被識別(未示出,例如在602之後)。重要性指示符可以針對一個或多個集合被指派並傳訊(例如,在604)。第13圖示出了可以用於第17圖中所示的通用化傳訊框架的CART 傳訊流程圖的示例。例如,特性可以被傳訊,例如,如第13圖中所述被發送及/或接收(例如,在606)。這可以針對每個集合被重複(例如,如608所示)。
例如基於重要性指示符,可以應用合適的編碼、後處理及/或誤差恢復措施。通用化重要性傳訊可以允許視訊傳遞鏈在具有不同重要性等級的樣本位置的集合之間增強資源分配。資源分配可以包括在壓縮期間的位元速率分配(例如,在具有更高重要性的信號上花費更多位元)。資源分配可以包括計算資源分配(例如,更好處理和保留具有更高重要性的信號)。資源分配可以包括誤差保護資源分配(例如,具有更高重要性的信號的更強強健誤差保護)。
可以從重要性指示符值導出用於編碼工具的配置參數。例如,重要性指示符可以傳訊為0和100之間的值。針對所傳訊的QP值,50以上的重要性指示符可以表明QP降低,而低於50的重要性指示符可以表明QP增加。在示例中,增量(delta)QP的值可以基於重要性指示符與50之間的絕對差來計算。其他配置參數(例如,解塊濾波器選擇、邊界強度、頻道編碼強度、可接受重傳數、可接受誤差消除計算等級)可以基於重要性指示符來計算。
例如當來自具有不同重要性指示符的不同藝術意向集合的位置(例如,像素)在單元中(例如,在要被傳輸的封包中、片中、區塊中)混合一起時,可以使用組合的重要性指示符來導出相關配置參數。例如,單元中的像素的重要性指示符的加權組合可以被計算,由共用重要性指示符的像素的數量加權且得到的組合的重要性指示符可以用於導出用於該單元的配置參數。
位置(x,y)可以屬於多於一個的藝術意向集合規範。例如,第一藝術意向集合規範可以包括目前訊框的空間區域。第二(例如,分開的)藝術意向集合規範可以包括用於第一色度分量的值的範圍。第一藝術意向集合規範可以與第一重要性指示符IMP1相關聯。第二藝術意向集合規範可以與第二重要性指示符IMP2相關聯。位置(x,y)可以是在第一藝術意向集合規範的空間區域中且可以具有滿足第二藝術意向集合規範的值的範圍的色度分量。位置(x,y)可以與多於一個的藝術意向集合規範相關聯。
位置(x,y)可以與多於一個的重要性指示符相關聯。在示例中,組合的重要性指示符可以針對位置(x,y)被確定。組合的重要性指示符可以是與位置(x,y)相關聯的多個重要性指示符的組合。例如,多個重要性指示符可以被相加或平均以確定針對位置(x,y)的組合的重要性指示符。多個重要性指示符的最大或最小值可以被計算以確定針對位置(x,y)的組合的重要性指示符。該組合的重要性指示符可以用作用於確定位置(x,y)及/或包括位置(x,y)的區塊應當如何被處理(例如,使用添加及/或修改的編碼工具)的重要性指示符。
編碼針對各種藝術意向集合的通用重要性指示符可以提供便利的媒介供使用者(例如,人類藝術家)指示針對藝術意向集合的重要性等級。通用重要性指示符可以減少單獨確定。通用重要性指示符可以用於設定用於處理藝術意向集合的各種編碼工具的配置參數。使用者可以期望對識別的藝術意向集合的處理的更細顆粒的控制。使用者介面可以允許使用者指定用於各種工具(例如,編碼工具、傳遞工具、誤差消除工具)的詳細的配置參數。可以針對一個或多個藝術集合傳訊配置參數的詳細集合。作為傳訊IMPk 的附加或替代,可以傳訊工具配置參數,例如,如在第17圖中示出的示例中。
通用化傳訊可以允許CART 傳訊更有效率。例如,可以被定義為沒有藝術意向(例如,低重要性)的位置的集合。可以被定義為中的一數量或百分比的(例如,所有)位置共用的“非藝術意向”特性的集合。的傳訊可以導致比傳訊CART 更低的負荷。
第18A圖是在其中可以實施一個或更多個實施方式的示例通信系統100的圖。通信系統100可以是向多個使用者提供內容,例如語音、資料、視訊、訊息發送、廣播等的多重存取系統。通信系統100可以使多個無線使用者經由系統資源分享(包括無線頻寬)存取這些內容。例如,通信系統100可以使用一種或多種頻道存取方法,例如分碼多重存取(CDMA)、分時多重存取(TDMA)、分頻多重存取(FDMA)、正交FDMA(OFDMA)、單載波FMDA(SC-FDMA)等。
如第18A圖所示,通信系統100可以包括無線傳輸/接收單元(WTRU)102a、102b、102c及/或102d(其通常或整體上被稱為WTRU102)、無線電存取網路(RAN)103/104/105、核心網路106/107/109、公共交換電話網路(PSTN)108、網際網路110和其他網路112,不過應該理解的是,揭露的實施方式考慮到了任何數量的WTRU、基地台、網路及/或網路元件。WTRU 102a、102b、102c、102d的每一個可以是配置為在無線環境中進行操作及/或通信的任何類型的裝置。作為示例,可以將WTRU 102a、102b、102c、102d配置為發送及/或接收無線信號、並可以包括使用者設備(UE)、基地台、固定或者行動使用者單元、呼叫器、行動電話、個人數位助理(PDA)、智慧型電話、筆記型電腦、隨身型易網機、個人電腦、無線感測器、消費電子產品等等。
通信系統100還可以包括基地台114a和基地台114b。基地台114a、114b的每一個都可以是配置為與WTRU 102a、102b、102c、102d中的至少一個WTRU無線介接以便於存取一個或者更多個通信網路,例如核心網路106/107/109、網際網路110及/或網路112的任何裝置類型。作為示例,基地台114a、114b可以是基地收發站(BTS)、節點B、e節點B、本地節點B、本地e節點B、網站控制器、存取點(AP)、無線路由器等等。雖然基地台114a、114b的每一個被描述為單一元件,但是應該理解的是,基地台114a、114b可以包括任何數量互連的基地台及/或網路元件。
基地台114a可以是RAN 103/104/105的一部分,RAN 103/104/105還可以包括其他基地台及/或網路元件(未顯示),例如基地台控制器(BSC)、無線電網路控制器(RNC)、中繼節點等。可以將基地台114a及/或基地台114b配置為在特定地理區域之內發送及/或接收無線信號,該區域可以被稱為胞元(未顯示)。胞元還可以被分割為胞元扇區。例如,與基地台114a關聯的胞元可以分割為三個扇區。因此,在一種實施方式中,基地台114a可以包括三個收發器,即每一個用於胞元的一個扇區。在另一種實施方式中,基地台114a可以使用多輸入多輸出(MIMO)技術,因此可以將多個收發器用於胞元的每一個扇區。
基地台114a、114b可以經由空中介面115/116/117以與WTRU 102a、102b、102c、102d中的一個或者更多個進行通信,該空中介面115/116/117可以是任何合適的無線通訊鏈路(例如,射頻(RF)、微波、紅外(IR)、紫外線(UV)、可見光等)。可以使用任何合適的無線電存取技術(RAT)來建立空中介面115/116/117。
更具體地,如上所述,通信系統100可以是多重存取系統、並可以使用一種或者多種頻道存取方案,例如CDMA、TDMA、FDMA、OFDMA、SC-FDMA等等。例如,RAN 103/104/105中的基地台114a和WTRU 102a、102b、102c可以實施例如通用行動電信系統(UMTS)陸地無線電存取(UTRA)的無線電技術,其可以使用寬頻CDMA(WCDMA)來建立空中介面115/116/117。WCDMA可以包括例如高速封包存取(HSPA)及/或演進的HSPA(HSPA+)的通信協定。HSPA可以包括高速下鏈封包存取(HSDPA)及/或高速上鏈封包存取(HSUPA)。
在另一種實施方式中,基地台114a和WTRU 102a、102b、102c可以實施例如演進的UMTS陸地無線電存取(E-UTRA)的無線電技術,其可以使用長期演進(LTE)及/或高級LTE(LTE-A)來建立空中介面115/116/117。
在其他實施方式中,基地台114a和WTRU 102a、102b、102c可以實施例如IEEE 802.16(即,全球互通微波存取(WiMAX))、CDMA2000、CDMA2000 1X、CDMA2000 EV-DO、暫行標準 2000(IS-2000)、暫行標準95(IS-95)、暫行標準856(IS-856)、全球行動通信系統(GSM)、GSM演進的增強型資料速率(EDGE)、GSM EDGE(GERAN)等等的無線電技術。
第18A圖中的基地台114b可以是例如無線路由器、本地節點B、本地e節點B或者存取點、並且可以使用任何適當的RAT以方便例如商業場所、住宅、車輛、校園等等的局部區域中的無線連接。在一種實施方式中,基地台114b和WTRU 102c、102d可以實施例如IEEE 802.11之類的無線電技術來建立無線區域網路(WLAN)。在另一種實施方式中,基地台114b和WTRU 102c、102d可以實施例如IEEE 802.15之類的無線電技術來建立無線個人區域網路(WPAN)。在另一種實施方式中,基地台114b和WTRU 102c、102d可以使用基於蜂巢的RAT(例如,WCDMA、CDMA2000、GSM、LTE、LTE-A等)來建立微微胞元或毫微微胞元。如第18A圖所示,基地台114b可以具有到網際網路110的直接連接。因此,基地台114b可以不需要經由核心網路106/107/109而存取到網際網路110。
RAN 103/104/105可以與核心網路106/107/109通信,該核心網路106/107/109可以是被配置為向WTRU 102a、102b、102c、102d中的一個或更多個提供語音、資料、應用及/或網際網路協定語音(VoIP)服務等的任何類型的網路。例如,核心網路106/107/109可以提供呼叫控制、計費服務、基於移動位置的服務、預付費呼叫、網際網路連接、視訊分配等及/或執行高階安全功能,例如使用者認證。雖然第18A圖中未示出,應該理解的是,RAN 103/104/105及/或核心網路106/107/109可以與使用和RAN 103/104/105相同的RAT或不同RAT的其他RAN進行直接或間接的通信。例如,除了連接到正在使用E-UTRA無線電技術的RAN 103/104/105之外,核心網路106/107/109還可以與使用GSM無線電技術的另一個RAN(未示出)進行通信。
核心網路106/107/109還可以充當WTRU 102a、102b、102c、102d存取PSTN 108、網際網路110及/或其他網路112的閘道。PSTN 108可以包括提供普通老式電話服務(POTS)的電路交換電話網路。網際網路110可以包括使用公共通信協定的互連電腦網路和裝置的全球系統,該協定例如有TCP(傳輸控制協定)/IP(網際網路協定)網際網路協定組中的TCP、使用者資料包通訊協定(UDP)和IP。網路112可以包括被其他服務提供者擁有及/或操作的有線或無線的通信網路。例如,網路112可以包括連接到一個或更多個RAN的另一個核心網路,該RAN可以使用和RAN 103/104/105相同的RAT或不同的RAT。
通信系統100中的WTRU 102a、102b、102c、102d的一個或多個可以包括多模式能力,即WTRU 102a、102b、102c、102d可以包括用於在不同無線鏈路上與不同無線網路進行通信的多個收發器。例如,第18A圖中示出的WTRU 102c可被配置為與基地台114a通信以及與基地台114b通信,該基地台114a可以使用基於蜂巢的無線電技術,該基地台114b可以使用IEEE 802無線電技術。
第18B圖是WTRU 102示例的系統圖。如第18B圖所示,WTRU 102可以包括處理器118、收發器120、傳輸/接收元件122、揚聲器/麥克風124、鍵盤126、顯示器/觸控板128、非可移式記憶體130、可移式記憶體132、電源134、全球定位系統(GPS)晶片組136和其他週邊裝置138。應該理解的是,在保持與實施方式一致時,WTRU 102可以包括前述元件的任何子組合。而且,實施方式考慮了基地台114a和114b及/或基地台114a和114b可以表示的節點,諸如但不限於收發站(BTS)、節點B、網站控制器、存取點(AP)、本地節點B、演進型本地節點B(e節點B)、本地演進型節點B(HeNB)、本地演進型節點B閘道和代理節點等,其中可以包括第18B圖所描繪和這裡描述的一些或所有元件。
處理器118可以是通用處理器、專用處理器、常規處理器、數位訊號處理器(DSP)、多個微處理器、與DSP核心相關聯的一或更多個微處理器、控制器、微控制器、專用積體電路(ASIC)、場可程式設計閘陣列(FPGA)電路、任何其他類型的積體電路(IC)、狀態機等等。處理器118可執行信號解碼、資料處理、功率控制、輸入/輸出處理及/或使WTRU 102於無線環境中操作的任何其他功能。處理器118可以耦合到收發器120,該收發器120可耦合到傳輸/接收元件122。雖然第18B圖描述了處理器118和收發器120是單獨的元件,但是應該理解的是,處理器118和收發器120可以一起集成在電子封裝或晶片中。
傳輸/接收元件122可以被配置為經由空中介面115/116/117將信號發送到基地台(例如,基地台114a)、或從基地台(例如,基地台114a)接收信號。例如,在一種實施方式中,傳輸/接收元件122可以是被配置為發送及/或接收RF信號的天線。在另一種實施方式中,傳輸/接收元件122可以是被配置為發送及/或接收例如IR、UV或可見光信號的發射器/偵測器。在另一種實施方式中,傳輸/接收元件122可以被配置為發送和接收RF和光信號兩者。應當理解,傳輸/接收元件122可以被配置為發送及/或接收無線信號的任何組合。
另外,雖然傳輸/接收元件122在第18B圖中描述為單一元件,但是WTRU 102可以包括任意數量的傳輸/接收元件122。更具體的,WTRU 102可以使用例如MIMO技術。因此,在一種實施方式中,WTRU 102可以包括用於經由空中介面115/116/117發送和接收無線信號的兩個或更多個傳輸/接收元件122(例如,多個天線)。
收發器120可以被配置為調變將要由傳輸/接收元件122發送的信號及/或解調由傳輸/接收元件122接收的信號。如上面提到的,WTRU 102可以具有多模式能力。因此,收發器120可以包括使WTRU 102經由例如UTRA和IEEE 802.11之類的多個RAT進行通信的多個收發器。
WTRU 102的處理器118可以耦合到下述裝置、並且可以從下述裝置中接收使用者輸入資料:揚聲器/麥克風124、鍵盤126及/或顯示器/觸控板128(例如,液晶顯示器(LCD)顯示單元或有機發光二極體(OLED)顯示單元)。處理器118還可以輸出使用者資料到揚聲器/麥克風124、鍵盤126及/或顯示/觸控板128。另外,處理器118可以從任何類型的適當的記憶體存取資訊、並且可以儲存資料到任何類型的適當的記憶體中,例如非可移式記憶體130及/或可移式記憶體132。非可移式記憶體130可以包括隨機存取記憶體(RAM)、唯讀記憶體(ROM)、硬碟或任何其他類型的記憶體裝置。可移式記憶體132可以包括使用者身份模組(SIM)卡、記憶條、安全數位(SD)記憶體等等。在其他實施方式中,處理器118可以從在實體位置上沒有位於WTRU 102上(例如位於伺服器或家用電腦(未示出)上)的記憶體存取資訊、並且可以將資料儲存在該記憶體中。
處理器118可以從電源134接收電能、並且可以被配置為分配及/或控制到WTRU 102中的其他元件的電能。電源134可以是為WTRU 102供電的任何適當的裝置。例如,電源134可以包括一個或更多個乾電池(例如,鎳鎘(NiCd)、鎳鋅(NiZn)、鎳氫(NiMH)、鋰離子(Li-ion)等等)、太陽能電池、燃料電池等等。
處理器118還可以耦合到GPS晶片組136,該GPS晶片組136可以被配置為提供關於WTRU 102目前位置的位置資訊(例如,經度和緯度)。另外,作為來自GPS晶片組136的資訊的附加或其替代,WTRU 102可以經由空中介面115/116/117從基地台(例如,基地台114a、114b)接收位置資訊及/或基於從兩個或更多個鄰近基地台接收的信號的時序來確定其位置。應當理解,在保持實施方式的一致性時,WTRU 102可以用任何適當的位置確定方法獲得位置資訊。
處理器118可以耦合到其他週邊裝置138,該週邊裝置138可以包括一個或更多個提供附加特性、功能及/或有線或無線連接的軟體及/或硬體模組。例如,週邊裝置138可以包括加速計、電子羅盤、衛星收發器、數位相機(用於照片或視訊)、通用序列匯流排(USB)埠、振動裝置、電視收發器、免持耳機、藍牙(Bluetooth®)模組、調頻(FM)無線電單元、數位音樂播放器、媒體播放器、視訊遊戲機模組、網際網路瀏覽器等等。
第18C圖是根據實施方式的RAN 103和核心網路106的系統圖。如上面提到的,RAN 103可使用UTRA無線電技術以經由空中介面115而與WTRU 102a、102b、102c通信。RAN 103還可以與核心網路106通信。如第18C圖所示,RAN 103可以包括節點B 140a、140b、140c,該節點B 140a、140b、140c的每一個包括用於經由空中介面115以與WTRU 102a、102b、102c進行通信的一個或更多個收發器。節點B 140a、140b、140c的每一個可以與RAN 103內的特定胞元(未顯示)關聯。RAN 103還可以包括RNC 142a、142b。應當理解的是,在保持實施方式的一致性時,RAN 103可以包括任何數量的節點B和RNC。
如第18C圖所示,節點B 140a、140b可以與RNC 142a通信。此外,節點B 140c可以與RNC 142b通信。節點B 140a、140b、140c可以經由Iub介面分別與RNC 142a、142b通信。RNC 142a、142b可以經由Iur介面相互通信。RNC 142a、142b的每一個可以被配置以控制其連接的各自的節點B 140a、140b、140c。另外,RNC 142a、142b的每一個可以被配置以執行或支援其他功能,例如外環功率控制、負載控制、允許控制、封包排程、切換控制、巨集分集、安全功能、資料加密等等。
第18C圖中所示的核心網路106可以包括媒體閘道(MGW)144、行動交換中心(MSC)146、服務GPRS支援節點(SGSN)148、及/或閘道GPRS支援節點(GGSN)150。儘管前述元件的每一個被描述為核心網路106的部分,應當理解的是,這些元件中的任何一個可以被不是核心網路操作者的實體擁有或操作。
RAN 103中的RNC 142a可以經由IuCS介面而連接至核心網路106中的MSC 146。MSC 146可以連接至MGW 144。MSC 146和MGW 144可以向WTRU 102a、102b、102c提供到電路切換式網路(例如,PSTN 108)的存取,以便於WTRU 102a、102b、102c和傳統陸地線路通信裝置之間的通信。
RAN 103中RNC 142a還可以經由IuPS介面而連接至核心網路106中的SGSN 148。SGSN 148可以連接至GGSN 150。SGSN 148和GGSN 150可以向WTRU 102a、102b、102c提供到封包交換網路(例如網際網路110)的存取,以便於WTRU 102a、102b、102c和IP賦能裝置之間的通信。
如上所述,核心網路106還可以連接至網路112,該網路112可以包括由其他服務提供者擁有或操作的其他有線或無線網路。
第18D圖是根據實施方式的RAN 104和核心網路107的系統圖。如上面提到的,RAN 104可使用E-UTRA無線電技術以經由空中介面116而與WTRU 102a、102b、102c通信。RAN 104還可以與核心網路107通信。
RAN 104可包括e節點B 160a、160b、160c,但可以理解的是,RAN 104可以包括任意數量的e節點B而保持與各種實施方式的一致性。eNB 160a、160b、160c的每一個可包括用於經由空中介面116以與WTRU 102a、102b、102c通信的一個或更多個收發器。在一種實施方式中,e節點B 160a、160b、160c可以實施MIMO技術。因此,e節點B 160a例如可以使用多個天線來向WTRU 102a發送無線信號及/或從其接收無線信號。
e節點B 160a、160b、160c的每一個可以與特定胞元關聯(未顯示)、並可以被配置為處理無線電資源管理決策、切換決策、在上鏈及/或下鏈中的使用者排程等等。如第18D圖所示,e節點B 160a、160b、160c可以經由X2介面相互通信。
第18D圖中所示的核心網路107可以包括移動性管理實體(MME)162、服務閘道164及/或封包資料網路(PDN)閘道166。雖然前述元件的每一個被描述為核心網路107的一部分,應當理解的是,這些元件中的任一個可以由除了核心網路操作者之外的實體擁有及/或操作。
MME 162可以經由S1介面而連接到RAN 104中的e節點B 160a、160b、160c的每一個、並可以作為控制節點。例如,MME 162可以負責WTRU 102a、102b、102c的使用者認證、承載啟動/停用、在WTRU 102a、102b、102c的初始連結期間選擇特定服務閘道等等。MME 162還可以提供控制平面功能,用於在RAN 104和使用例如GSM或者WCDMA的其他無線電技術的其他RAN(未顯示)之間切換。
服務閘道164可以經由S1介面而連接到RAN 104中的eNB 160a、160b、160c的每一個。服務閘道164通常可以向/從WTRU 102a、102b、102c路由和轉發使用者資料封包。服務閘道164還可以執行其他功能,例如在e節點B間切換期間錨定使用者平面、當下鏈資料對於WTRU 102a、102b、102c可用時觸發傳呼、管理和儲存WTRU 102a、102b、102c的上下文(context)等等。
服務閘道164還可以連接到PDN閘道166,PDN閘道166可以向WTRU 102a、102b、102c提供到封包交換網路(例如網際網路110)的存取,以便於WTRU 102a、102b、102c與IP賦能裝置之間的通信。
核心網路107可以便於與其他網路的通信。例如,核心網路107可以向WTRU 102a、102b、102c提供到電路切換式網路(例如,PSTN 108)的存取,以便於WTRU 102a、102b、102c與陸地線路通信裝置之間的通信。例如,核心網路107可以包括IP閘道(例如,IP多媒體子系統(IMS)伺服器)、或者與之通信,該IP閘道作為核心網路107與PSTN 108之間的介面。另外,核心網路107可以向WTRU 102a、102b、102c提供到網路112的存取,該網路112可以包括被其他服務提供者擁有及/或操作的其他有線或無線網路。
第18E圖是根據實施方式的RAN 105和核心網路109的系統圖。RAN 105可以是使用IEEE 802.16無線電技術以經由空中介面117而與WTRU 102a、102b、102c進行通信的存取服務網路(ASN)。如下面進一步討論的,WTRU 102a、102b、102c、RAN 105和核心網路109的不同功能實體之間的通信鏈路可以被定義為參考點。
如第18E圖所示,RAN 105可以包括基地台180a、180b、180c和ASN閘道182,但應當理解的是,RAN 105可以包括任意數量的基地台和ASN閘道而與實施方式保持一致。基地台180a、180b、180c的每一個可以與RAN 105中特定胞元(未示出)關聯並可以包括經由空中介面117以與WTRU 102a、102b、102c通信的一個或更多個收發器。在一個實施方式中,基地台180a、180b、180c可以實施MIMO技術。因此,基地台180a例如使用多個天線來向WTRU 102a發送無線信號、或從其接收無線信號。基地台180a、180b、180c也可以提供移動性管理功能,例如呼叫切換(handoff)觸發、隧道建立、無線電資源管理、訊務分類、服務品質(QoS)策略執行等等。ASN閘道182可以充當訊務聚合點、並且負責傳呼、快取用戶設定檔(profile)、路由到核心網路109等等。
WTRU 102a、102b、102c和RAN 105之間的空中介面117可以被定義為實施IEEE802.16規範的R1參考點。另外,WTRU 102a、102b、102c的每一個可以與核心網路109建立邏輯介面(未顯示)。WTRU 102a、102b、102c和核心網路 109之間的邏輯介面可以定義為R2參考點,其可以用於認證、授權、IP主機(host)配置管理及/或移動性管理。
基地台180a、180b、180c的每一個之間的通信鏈路可以定義為包括便於WTRU切換和基地台間轉移資料的協定的R8參考點。基地台180a、180b、180c和ASN閘道182之間的通信鏈路可以定義為R6參考點。R6參考點可以包括用於基於與WTRU 102a、102b、102c的每一個相關聯的移動性事件促進移動性管理的協定。
如第18E圖所示,RAN 105可以連接至核心網路109。RAN 105和核心網路109之間的通信鏈路可以定義為包括例如促進資料轉移和移動性管理能力的協定的R3參考點。核心網路109可以包括行動IP本地代理(MIP-HA)184、認證、授權、計費(AAA)伺服器186和閘道188。儘管前述的每個元件被描述為核心網路109的部分,應當理解的是,這些元件中的任一個可以由不是核心網路操作者的實體擁有及/或操作。
MIP-HA可以負責IP位址管理、並可以使WTRU 102a、102b、102c在不同ASN及/或不同核心網路之間漫遊。MIP-HA 184可以向WTRU 102a、102b、102c提供封包交換網路(例如,網際網路110)的存取,以促進WTRU 102a、102b、102c和IP賦能裝置之間的通信。AAA伺服器186可以負責使用者認證和支援使用者服務。閘道188可促進與其他網路互通。例如,閘道188可以向WTRU 102a、102b、102c提供電路切換式網路(例如,PSTN 108)的存取,以促進WTRU 102a、102b、102c和陸地線路通信裝置之間的通信。此外,閘道188可以向WTRU 102a、102b、102c提供網路112,其可以包括由其他服務提供者擁有或操作的其他有線或無線網路。
儘管未在第18E圖中顯示,應當理解的是,RAN 105可以連接至其他ASN,並且核心網路109可以連接至其他核心網路。RAN 105和其他ASN之間的通信鏈路可以定義為R4參考點,其可以包括協調RAN 105和其他ASN之間的WTRU 102a、102b、102c的移動性的協定。核心網路109和其他核心網路之間的通信鏈路可以定義為R5參考點,其可以包括促進本地核心網路和被訪問核心網路之間的互通的協定。
揭露了用於保留內容中的藝術意向的表示的基於藝術意向的內容編碼的系統、方法和裝置。藝術意向的表示被識別(例如,經由傳訊或內容分析)並被表示為藝術意向位置PART 和藝術意向特性CART 的集合。藝術意向特性CART 可以被傳訊並用於識別藝術意向位置PART 。藝術意向保留編碼和處理可以被應用到樣本位置PART 以保留特性CART 。編碼使用者介面可以允許使用者指定藝術集合(例如,PART 及/或CART )並選擇及/或配置與藝術集合相關聯的像素及/或區塊的處理,例如保真增強、QP調整值及/或後處理。內容優先順序或重要性等級可以在內容的細(例如,像素、樣本)及/或粗(例如,區塊)等級被隱含地或明確地表明,以變化(例如,增強、降低)內容編碼、傳遞、處理及/或誤差恢復/強健性中的處理的等級。
雖然這裡可以使用術語像素、樣本、樣本值等,但可以且應當理解這些術語的使用可以互換使用,且由此可以不作區分。
類似地,雖然這裡可以使用術語特性、特性集合、藝術意向的特性等,但是可以且應當理解這些術語的使用可以互換使用且由此可以不作區分。
雖然以上以特定組合描述了特徵和元素,但是本領域中具有通常知識者可以理解每個特徵或元素能夠單獨使用或與其他特徵或元素任意結合使用。此外,這裡描述的方法可以用電腦程式、軟體及/或韌體實現,其可包含到由電腦或處理器執行的電腦可讀媒體中。電腦可讀媒體的示例包括電子信號(經由有線或無線連接傳送)和電腦可讀儲存媒體。電腦可讀儲存媒體的示例包括、但不限制為唯讀記憶體(ROM)、隨機存取記憶體(RAM)、暫存器、快取記憶體、半導體記憶體裝置、磁性媒體(例如,內部硬碟和抽取式磁碟)、磁光媒體和光學媒體(例如,CD-ROM盤和數位多功能光碟(DVD))。與軟體關聯的處理器用於實現射頻收發器,用於WTRU、UE、終端、基地台、RNC或任何主機電腦。
2‧‧‧輸入視訊
4‧‧‧變換
6‧‧‧量化
8、208‧‧‧熵編碼
10、210‧‧‧逆量化
12、212‧‧‧逆變換
20、202‧‧‧位元流
60、260‧‧‧空間預測
62‧‧‧運動預測
64、264‧‧‧參考圖像庫
66、266‧‧‧環路濾波器
100‧‧‧示例通信系統
102、102b、102c、102d、WTRU‧‧‧無線傳輸/接收單元
103、104、105、RAN‧‧‧無線電存取網路
106、107、109‧‧‧核心網路
108、PSTN‧‧‧公用交換電話網路
110‧‧‧網際網路
112‧‧‧其他網路
115、116、117‧‧‧空中介面
118‧‧‧處理器
120‧‧‧收發器
122‧‧‧傳輸/接收元件
124‧‧‧揚聲器/麥克風
126‧‧‧鍵盤
128‧‧‧顯示器/觸控板
130‧‧‧非可移式記憶體
132‧‧‧可移式記憶體
134‧‧‧電源
136‧‧‧全球定位系統(GPS)晶片組
138‧‧‧週邊裝置
140a、140b、140c‧‧‧節點B
142a、RNC‧‧‧無線電網路控制器
144、MGW‧‧‧媒體閘道
146、MSC‧‧‧行動交換中心
148、SGSN‧‧‧服務GPRS支援節點
150、GGSN‧‧‧閘道GPRS支援節點
160a、160b、160c‧‧‧ e節點B
162、MME‧‧‧移動性管理閘道
164‧‧‧服務閘道
180a、180b、180c‧‧‧基地台
182、ASN‧‧‧存取服務網路閘道
184、MIP-HA‧‧‧行動IP本地代理
186‧‧‧認證、授權、記帳(AAA)伺服器
220‧‧‧重建視訊輸出
262‧‧‧運動補償預測
302‧‧‧記錄(拍攝)
304‧‧‧解馬賽克
306、308‧‧‧顏色分級
310‧‧‧出口/呈現DPX
402‧‧‧計算特性
404‧‧‧所傳訊的CART的值
408‧‧‧修改的編碼工具
410‧‧‧已有的編碼工具
412‧‧‧後處理
ART‧‧‧藝術
DPX‧‧‧數位圖像交換
Iub、iur、IuCS、IuPS、S1、X2、R1、R3、R6、R8‧‧‧介面
IP‧‧‧網際協定
PDN‧‧‧封包資料網路
第1圖是基於區塊的混合視訊編碼器的示例的圖; 第2圖是基於區塊的視訊解碼器的示例的圖; 第3圖是HEVC中的預測單元模式的圖; 第4圖示出了具有死區的標量量化的示例; 第5圖示出了BT.709和BT.2020色域的比較; 第6圖示出了具有沿著Y軸的亮度和沿著x、y軸的顏色的3D顏色量; 第7圖是深度圖的示例的圖; 第8圖是使用相機視圖產生任意視圖的示例; 第9圖是內容產生和內容遞送工作流的示例; 第10圖是具有在不同參考顯示上的不同顏色分級的內容的示例; 第11圖是基於藝術意向的視訊編碼的示例流程圖; 第12圖是使用多邊形近似的二維CART 形狀的示例; 第13圖是CART 傳訊的示例流程圖; 第14圖是具有PART 區塊和常規區塊的編碼單元(CU)的示例; 第15圖是具有相鄰區塊和目前區塊的解塊的示例; 第16圖是用於藝術意向保留的基於區塊的視訊解碼器的示例的圖; 第17圖是傳訊任意位置集合的重要性等級的示例流程圖; 第18A圖是可以實施一個或多個揭露的實施方式的示例通信系統的系統圖; 第18B圖是可以在第18A圖中示出的通信系統中使用的示例無線傳輸/接收單元(WTRU)的系統圖; 第18C圖是可以在第18A圖中示出的通信系統中使用的示例無線電存取網和示例核心網路的系統圖; 第18D圖是可以在第18A圖中示出的通信系統中使用的另一示例無線電存取網路和示例核心網路的系統圖; 第18E圖是可以在第18A圖中示出的通信系統中使用的另一示例無線電存取網路和示例核心網路的系統圖。
ART‧‧‧藝術
402‧‧‧計算特性
404‧‧‧所傳訊的C ART 的值
408‧‧‧修改的編碼工具
410‧‧‧已有的編碼工具
412‧‧‧後處理

Claims (18)

  1. 一種方法,包括: 接收與一藝術意向對應的一特性值集合; 計算與一內容中的一樣本值相關聯的一樣本位置的一特性; 基於所計算的特性和所接收的特性值集合確定該樣本位置是否與該內容中的一藝術意向樣本位置對應,其中,當所計算的特性屬於所接收的特性值集合時,該樣本位置與該藝術意向樣本位置對應;以及 基於對所計算的特性屬於或不屬於所接收的特性集合的該確定,輸出該樣本位置是否屬於該藝術意向樣本位置的一指示。
  2. 如申請專利範圍第1項所述的方法,其中該樣本值包括一預測樣本值,以及其中該樣本位置是否與該內容中的一藝術意向樣本位置對應是藉由在該樣本位置處使用該預測樣本值來確定。
  3. 如申請專利範圍第1項所述的方法,其中該樣本值包括一預測樣本值,以及其中該樣本位置是否與該內容中的一藝術意向樣本位置對應是藉由在該樣本位置處使用該預測樣本值來確定。
  4. 如申請專利範圍第3項所述的方法,其中該重建樣本值被配置為被用於在環內濾波之前或環內濾波之後確定該樣本位置是否與該藝術意向樣本位置對應。
  5. 如申請專利範圍第1項所述的方法,更包括: 當該指示表明該樣本位置屬於該藝術意向樣本位置或該樣本位置與一藝術意向樣本位置對應時,將藝術保留編碼或解碼應用於該樣本位置;以及 當該指示表明該樣本位置不屬於該藝術意向樣本位置或該樣本位置不對應於藝術意向樣本位置時,將非藝術保留編碼或解碼應用於該樣本位置。
  6. 如申請專利範圍第1項所述的方法,更包括: 表明或偵測與對應於藝術意向的該特性值集合相關聯的一重要性等級。
  7. 如申請專利範圍第1項所述的方法,更包括:              基於與對應於藝術意向的該特性值集合相關聯的一重要性等級,將編碼、解碼、傳遞、處理和誤差恢復的至少一者中的不同等級的處理應用於與該樣本位置相關聯的該樣本值。
  8. 如申請專利範圍第1項所述的方法,更包括: 使用一編碼使用者介面來表明該內容中的該藝術意向的一表示並配置與關聯於該藝術意向的表示的該內容中的該樣本值相關聯的該樣本位置的處理。
  9. 如申請專利範圍第8項所述的方法,其中所配置的處理包括用於與該藝術意向的表示相關聯的該內容的一保真增強以及一QP調整值的一者或多者。
  10. 如申請專利範圍第1項所述的方法,更包括該內容的一區塊,其中在該內容的該區塊中具有表示藝術意向的該特性的集合中的一特性的樣本的一數量或一百分比被配置為與一臨界值進行比較以確定是將藝術保留編碼或解碼還是非藝術保留編碼或解碼應用到該內容的該區塊。
  11. 一種裝置,包括一處理器,該處理器被配置為執行如申請專利範圍第1項至第10項所述的方法。
  12. 一種裝置,包括一處理器,該處理器被配置為執行如申請專利範圍第1項至第10項所述的方法。
  13. 一種方法,包括: 接收用於表示一藝術意向的一特性集合中的一成員特性的一特性類型; 基於針對該成員特性接收的一對應特性類型,確定該特性集合中的該成員特性是一維還是二維;以及 當基於該確定,該成員特性是一維時,接收使用一端點的該成員特性的該特性類型的一範圍,或當基於該確定,該成員特性是二維時,接收用於該成員特性的該特性類型的一多邊形表示。
  14. 如申請專利範圍第13項所述的方法,更包括: 接收表示藝術意向的一特性集合中的一總數的成員特性。
  15. 如申請專利範圍第14項所述的方法,更包括:    接收用於該特性集合中該總數的成員特性中的其他成員特性的每一個的一特性類型; 基於針對該成員特性接收的對應特性類型,確定該特性集合中的該其他成員特性的每一個是一維還是二維;以及 當基於該確定,各自的其他成員特性是一維時,接收使用一端點的該其他成員特性的每一個的一特性類型的一範圍,或是,當基於該確定,各自的成員特性是二維時,接收該其他成員特性的每一個的該特性類型的一多邊形表示。
  16. 如申請專利範圍第13項所述的方法,其中該特性類型包括以下的一者或多者:一亮度、一色度、一深度、一空間位置、一邊緣朝向、一邊緣強度、一紋理屬性或分類、或一音訊屬性或效果。
  17. 一種裝置,包括一處理器,該處理器被配置為執行如申請專利範圍第13項至第16項所述的方法。
  18. 一種電腦可讀儲存媒體,在該電腦可讀儲存媒體上儲存有用於執行如申請專利範圍第13項至第16項所述的方法的多個電腦可執行指令。
TW105112390A 2015-04-21 2016-04-21 基於藝術意向之視訊編碼 TW201642655A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US201562150831P 2015-04-21 2015-04-21

Publications (1)

Publication Number Publication Date
TW201642655A true TW201642655A (zh) 2016-12-01

Family

ID=55863243

Family Applications (1)

Application Number Title Priority Date Filing Date
TW105112390A TW201642655A (zh) 2015-04-21 2016-04-21 基於藝術意向之視訊編碼

Country Status (7)

Country Link
US (1) US11323722B2 (zh)
EP (1) EP3286918A1 (zh)
JP (1) JP2018521522A (zh)
KR (1) KR20180010183A (zh)
CN (1) CN107548556A (zh)
TW (1) TW201642655A (zh)
WO (1) WO2016172314A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI823346B (zh) * 2021-03-19 2023-11-21 大陸商深圳市韶音科技有限公司 信號處理系統、方法、裝置及儲存媒體

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104769950B (zh) 2012-09-28 2018-11-13 Vid拓展公司 用于视频编码中的色度信号增强的交叉平面滤波
KR102318785B1 (ko) 2013-10-14 2021-10-27 마이크로소프트 테크놀로지 라이센싱, 엘엘씨 비디오 및 영상 코딩 및 디코딩에 대한 기본 색상 인덱스 맵 모드의 특징
US10542274B2 (en) 2014-02-21 2020-01-21 Microsoft Technology Licensing, Llc Dictionary encoding and decoding of screen content
CA2959682C (en) 2014-09-30 2022-12-06 Microsoft Technology Licensing, Llc Rules for intra-picture prediction modes when wavefront parallel processing is enabled
US10972728B2 (en) 2015-04-17 2021-04-06 Interdigital Madison Patent Holdings, Sas Chroma enhancement filtering for high dynamic range video coding
EP3308540B1 (en) * 2015-06-09 2020-04-15 Microsoft Technology Licensing, LLC Robust encoding/decoding of escape-coded pixels in palette mode
US10269257B1 (en) * 2015-08-11 2019-04-23 Gopro, Inc. Systems and methods for vehicle guidance
US10554976B2 (en) * 2016-07-25 2020-02-04 Synamedia Limited Framework for embedding data in encoded video
EP3613015A4 (en) 2017-04-21 2021-02-24 Zenimax Media Inc. SYSTEMS AND PROCEDURES FOR TOY GENERATED MOTION VECTORS
CN113628240A (zh) * 2017-04-21 2021-11-09 泽尼马克斯媒体公司 通过预期运动矢量的玩家输入运动补偿
TWI691200B (zh) 2017-04-21 2020-04-11 美商時美媒體公司 用於在視訊編碼中的順延後處理的系統及方法
TWI681666B (zh) 2017-04-21 2020-01-01 美商時美媒體公司 用於基於編碼器提示以演現及預編碼負載估計的系統及方法
KR102326456B1 (ko) 2017-04-21 2021-11-12 제니맥스 미디어 인크. 인코더-가이드 적응형-품질 렌더링을 위한 시스템들 및 방법들
EP3732880A4 (en) * 2017-12-29 2021-04-28 Sharp Kabushiki Kaisha SYSTEMS AND METHODS FOR PARTITIONING VIDEO BLOCKS TO ONE FRAME LIMIT FOR VIDEO ENCODING
CN111046893B (zh) * 2018-10-12 2024-02-02 富士通株式会社 图像相似性确定方法和装置、图像处理方法和装置
WO2020084556A1 (en) 2018-10-24 2020-04-30 Beijing Bytedance Network Technology Co., Ltd. Sub-block motion candidate list in video coding
CN109934917B (zh) * 2019-02-28 2023-05-16 武汉大学 基于机器学习预测计算强度的并行化点云生成dem方法
CN110085191A (zh) 2019-05-15 2019-08-02 京东方科技集团股份有限公司 显示装置及处理器、处理方法、驱动方法、存储介质和设备
GB2586484B (en) * 2019-08-20 2023-03-08 Canon Kk A filter
JP7322285B2 (ja) * 2019-09-14 2023-08-07 バイトダンス インコーポレイテッド クロマデブロックフィルタリングのための量子化パラメータオフセット
US11425405B2 (en) * 2019-11-15 2022-08-23 Qualcomm Incorporated Cross-component adaptive loop filter in video coding
CN114902657A (zh) 2019-12-31 2022-08-12 字节跳动有限公司 视频编解码中的自适应颜色变换
CA3167088A1 (en) * 2020-02-04 2021-08-12 Anand Meher Kotra An encoder, a decoder and corresponding methods about signaling high level syntax
US11765372B1 (en) * 2021-06-21 2023-09-19 Amazon Technologies, Inc. Efficient coefficient film grain synthesis for codecs without film grain synthesis
CN115988201B (zh) * 2023-03-14 2023-05-30 杭州微帧信息科技有限公司 一种编码胶片颗粒的方法、装置、电子设备和存储介质

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07154798A (ja) 1993-05-31 1995-06-16 Canon Inc 画像符号化装置および画像符号化方法
US8315466B2 (en) * 2006-12-22 2012-11-20 Qualcomm Incorporated Decoder-side region of interest video processing
CN102325257A (zh) * 2007-07-20 2012-01-18 富士胶片株式会社 图像处理设备和图像处理方法
JP4833309B2 (ja) 2009-03-06 2011-12-07 株式会社東芝 動画像圧縮符号化装置
CN102804780A (zh) 2009-06-19 2012-11-28 三菱电机株式会社 图像编码装置、图像解码装置、图像编码方法以及图像解码方法
US9226048B2 (en) 2010-02-22 2015-12-29 Dolby Laboratories Licensing Corporation Video delivery and control by overwriting video data
KR101538912B1 (ko) 2010-06-08 2015-07-23 돌비 레버러토리즈 라이쎈싱 코오포레이션 색조 및 색역 맵핑 방법들 및 장치
TWI538474B (zh) 2011-03-15 2016-06-11 杜比實驗室特許公司 影像資料轉換的方法與設備
CN103891294B (zh) * 2011-04-28 2017-09-01 皇家飞利浦有限公司 用于hdr图像编码和解码的装置与方法
US9262670B2 (en) 2012-02-10 2016-02-16 Google Inc. Adaptive region of interest
EP2680581A1 (en) * 2012-06-28 2014-01-01 Alcatel-Lucent Method and apparatus for dynamic adaptation of video encoder parameters
US10075735B2 (en) 2013-07-14 2018-09-11 Sharp Kabushiki Kaisha Video parameter set signaling
CN103927767B (zh) * 2014-04-18 2018-05-04 北京智谷睿拓技术服务有限公司 图像处理方法及图像处理装置
TWI508531B (zh) * 2014-06-04 2015-11-11 Hon Hai Prec Ind Co Ltd 視訊編碼裝置及方法
CN106664443B (zh) * 2014-06-27 2020-03-24 皇家Kpn公司 根据hevc拼贴视频流确定感兴趣区域

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI823346B (zh) * 2021-03-19 2023-11-21 大陸商深圳市韶音科技有限公司 信號處理系統、方法、裝置及儲存媒體

Also Published As

Publication number Publication date
KR20180010183A (ko) 2018-01-30
CN107548556A (zh) 2018-01-05
US20180146197A1 (en) 2018-05-24
US11323722B2 (en) 2022-05-03
EP3286918A1 (en) 2018-02-28
JP2018521522A (ja) 2018-08-02
WO2016172314A1 (en) 2016-10-27

Similar Documents

Publication Publication Date Title
US11323722B2 (en) Artistic intent based video coding
JP7448572B2 (ja) マルチレイヤビデオコーディングのコンバインドスケーラビリティ処理
JP6694031B2 (ja) 3次元ベースのカラーマッピングでのモデルパラメータ最適化のためのシステムおよび方法
JP7433019B2 (ja) ビデオコーディングにおけるクロマ信号強調のためのクロスプレーンフィルタリング
US10462439B2 (en) Color correction with a lookup table
JP6574223B2 (ja) 複数レイヤビデオ符号化のためのコーデックアーキテクチャ
KR102028186B1 (ko) 색역 확장성을 위한 3d 룩업 테이블 코딩을 제공하기 위한 시스템 및 방법
CN107534769B (zh) 用于高动态范围视频译码的色度增强滤波
US11109044B2 (en) Color space conversion
CN105830440B (zh) 使用插值进行亮度和色度的相位对准的色域可伸缩视频编码设备及方法
US20180309995A1 (en) High dynamic range video coding
TW201717627A (zh) 具多作業模式高動態範圍視訊編碼架構
TW201637448A (zh) 非4:4:4螢幕內容視訊調色盤編碼