RU2600935C1 - Способ и устройство для ограничения уровня квантования - Google Patents

Способ и устройство для ограничения уровня квантования Download PDF

Info

Publication number
RU2600935C1
RU2600935C1 RU2013145895/07A RU2013145895A RU2600935C1 RU 2600935 C1 RU2600935 C1 RU 2600935C1 RU 2013145895/07 A RU2013145895/07 A RU 2013145895/07A RU 2013145895 A RU2013145895 A RU 2013145895A RU 2600935 C1 RU2600935 C1 RU 2600935C1
Authority
RU
Russia
Prior art keywords
quantization
quantization level
range
limiting
bit depth
Prior art date
Application number
RU2013145895/07A
Other languages
English (en)
Inventor
Сюнь ГО
Шав-Минь ЛЭЙ
Original Assignee
ЭйчЭфАй Инновейшн Инк.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ЭйчЭфАй Инновейшн Инк. filed Critical ЭйчЭфАй Инновейшн Инк.
Application granted granted Critical
Publication of RU2600935C1 publication Critical patent/RU2600935C1/ru

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3059—Digital compression and data reduction techniques where the original information is represented by a subset or similar information, e.g. lossy compression
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

Изобретение относится к области кодирования, в частности к ограничению уровня квантования для стандарта высокоэффективного кодирования видео (HEVC). Техническим результатом является предотвращение переполнения квантованного коэффициента преобразования путем адаптивного ограничения уровня квантования после квантования. Предложен способ и устройство ограничения коэффициента преобразования, где способ содержит: генерирование уровня квантования для коэффициента преобразования единицы преобразования путем квантования коэффициента преобразования в соответствии с матрицей квантования и параметром квантования. Определяется условие ограничения, и уровень квантования ограничивается в соответствии с условием ограничения, чтобы генерировать обрабатываемый с ограничением уровень квантования. Условие ограничения включает в себя условие нулевого ограничения. Уровень квантования является ограниченным фиксированным диапазоном, представленным в n битах для условия нулевого ограничения, где n соответствуют 8, 16, 32, или уровень квантования может ограничиваться внутри диапазона от -m до m-1 для условия нулевого ограничения, где m может соответствовать 128, 32768 или 2147483648. 2 н. и 14 з.п. ф-лы, 1 ил.

Description

ПЕРЕКРЕСТНАЯ ССЫЛКА НА РОДСТВЕННЫЕ ЗАЯВКИ
Настоящее изобретение испрашивает приоритет Заявки на патент по Договору о международной патентной кооперации (PCT), имеющей порядковый номер № PCT/CN2011/084083, поданной 15 декабря 2011 года, озаглавленной "Method of Clipping Transformed Coefficients before De-Quantization" (Способ ограничения преобразованных коэффициентов до обращенного квантования). PCT заявка на патент тем самым полностью включена в документ путем ссылки.
ОБЛАСТЬ ТЕХНИКИ, К КОТОРОЙ ОТНОСИТСЯ ИЗОБРЕТЕНИЕ
Изобретение относится к кодированию видеосигнала. В частности, настоящее изобретение относится к ограничению уровня квантования для стандарта высокоэффективного кодирования видео (HEVC).
ПРЕДШЕСТВУЮЩИЙ УРОВЕНЬ ТЕХНИКИ
Высокоэффективное кодирование видео (HEVC) является новым международным стандартом кодирования видео, разрабатываемым Объединенной совместной группой по кодированию видео (JCT-VC). HEVC основывается на гибридной архитектуре блочного кодирования с компенсацией движения с преобразованием, подобным дискретному косинусному преобразованию (DCT). Базовой единицей для сжатия, называемой «единица кодирования» (Coding Unit, CU), является прямоугольный (двумерный) блок 2N×2N, и каждая CU может рекурсивно разбиваться на четыре меньшие CU, пока не будет достигнут заранее заданный минимальный размер. Каждая CU содержит один или несколько имеющих переменный размер блоков «единиц предсказания» (Prediction Unit, PU) и «единиц преобразования» (Transform Unit, TU). Для каждой PU выбирается предсказание либо внутрикадровое (режим intra), либо межкадровое (режим inter). Каждая TU обрабатывается посредством пространственного блочного преобразования, и коэффициенты преобразования для TU затем квантуются. Наименьшим размером TU, допускаемым для HEVC, является 4×4.
Квантование коэффициентов преобразования играет важную роль в скорости передачи битов и контроле качества при кодировании видео. Используется ряд шагов квантования, чтобы квантовать коэффициент преобразования в уровень квантования. Больший размер шага квантования будет иметь результатом более низкую скорость передачи битов и более низкое качество. С другой стороны, меньший размер шага квантования будет иметь результатом более высокую скорость передачи битов и более высокое качество. Прямая реализация процесса квантования предусматривает операцию деления, которая является более сложной в аппаратной реализации и потребляет больше вычислительных ресурсов в программной реализации. Соответственно, в области техники были разработаны различные способы для процесса квантования без (операций) деления. В Редакции 5 тестовой модели HEVC (HM-5.0) процесс квантования описывается, как изложено ниже по тексту. Определен набор параметров:
B=битовая ширина или битовая глубина входного исходного (источника) видео,
DB=B-8,
N= размер преобразования единицы преобразования (TU),
M=log2(N),
Q[x]=f(x), где f(x)={26214, 23302, 20560, 18396, 16384, 14564}, x=0..., 5, и
IQ[x]QN=g(x), где g(x)={40,45,51,57,64,72}, x=0..., 5.
Q[x] и IQ[x] называются шагом квантования и шагом обращенного квантования (деквантования) соответственно. Процесс квантования выполняется согласно:
Figure 00000001
где
Figure 00000002
(1)
где "%" - оператор деления «по модулю». Процесс обращенного квантования выполняется согласно:
Figure 00000003
, где
Figure 00000004
(2)
Переменная qlevel в уравнениях (1) и (2) представляет уровень квантования для коэффициента преобразования. Переменная coeffQ в уравнении (2) представляет обращенно квантованный коэффициент преобразования. IQ[x] указывает шаг обращенного квантования (также называемый размером шага обращенного квантования), и QP представляет параметр квантования. "QP/6" в уравнениях (1) и (2) представляет целую часть QP, деленного на 6. Как показано в уравнениях (1) и (2), процессы квантования и обращенного квантования реализуются целочисленным умножением, за которым следует арифметический сдвиг(и). Значение смещения добавлено в оба уравнения (1) и (2) для реализации целочисленного преобразования с использованием округления.
Битовой глубиной уровня квантования является 16 битов (включая 1 бит для знака) для стандарта HEVC. Другими словами, уровень квантования представляется в виде 2 байтов или 16-битового слова. Поскольку IQ(x)<=72 и QP<=51, динамическим диапазоном для IQ[x] является 7 битов и операция "<<QP/6)" выполняет арифметический сдвиг влево вплоть до 8 битов. Соответственно, динамическим диапазоном для обращенно квантованного коэффициента преобразования coeffQ, то есть "(qlevel*IQ[QP%6])<<(QP/6)", является 31 (16+7+8) бит. Следовательно, процесс обращенного квантования, как описано уравнением (2), никогда не вызовет переполнение, поскольку процесс обращенного квантования использует 32-битовое представление данных.
Однако когда вводится матрица квантования, процесс обращенного квантования модифицируется, как показано в уравнениях (3)-(5):
Figure 00000005
, (3)
если (iShift>QP/6),
Figure 00000006
, где
Figure 00000007
при
Figure 00000008
(4)
иначе
Figure 00000009
(5)
где "[i][j]" указывает позицию (также называемую индексами) преобразованного коэффициента внутри единицы преобразования, W обозначает матрицу квантования, nW и nH являются шириной и высотой преобразования. Если n представляет динамический диапазон уровня квантования для коэффициента преобразования, динамический диапазон n должен удовлетворять следующему условию, чтобы избегать переполнения:
n+w+iq+QP/6-M+DB-3≤32, (6)
где w - динамический диапазон матрицы W квантования, iq - динамический диапазон IQ[x], и битовой глубиной обращенно квантованного или восстановленного коэффициента преобразования является 32 бита.
Если динамическим диапазоном для матрицы W квантования является 8 битов, динамическим диапазоном восстановленного коэффициента преобразования, как описано уравнениями (3)-(5), становятся 34 (16+8+7+3) бита для QP=51, M=2 и DB=0. Если процесс обращенного квантования использует 32-битовое представление данных, восстановленный коэффициент преобразования согласно уравнениям уравнения (3)-(5) может выйти за границы и вызвать системный отказ. Следовательно, является желательным разработать схему восстановления коэффициентов преобразования с возможностью избегать возможного переполнения.
КРАТКОЕ ОПИСАНИЕ СУЩНОСТИ ИЗОБРЕТЕНИЯ
Раскрываются способ и устройство для ограничения (сведения к требуемому) уровня квантования. Варианты осуществления согласно настоящему изобретению предотвращают переполнение квантованного коэффициента преобразования путем ограничения уровня квантования адаптивно после квантования. В одном варианте осуществления настоящего изобретения способ содержит генерирование уровня квантования для коэффициента преобразования единицы преобразования путем квантования коэффициента преобразования согласно матрице квантования и параметру квантования; определение условия ограничения на основании матрицы квантования, параметра квантования, битовой глубины источника видео, размера преобразования единицы преобразования или любой комбинации таковых, причем условие ограничения включает в себя условие нулевого ограничения; и ограничение уровня квантования в соответствии с условием ограничения, чтобы генерировать обрабатываемый с ограничением уровень квантования. Упомянутое ограничение уровня квантования может соответствовать безусловному ограничению с фиксированным диапазоном, и ограниченный уровень квантования представляется в n битах, где n может соответствовать 8, 16 или 32. Упомянутое ограничение уровня квантования может также соответствовать безусловному ограничению с фиксированным диапазоном, и уровень квантования является ограниченным внутри диапазона от -m до m-1, где m может соответствовать 128, 32768 или 2147483648.
КРАТКОЕ ОПИСАНИЕ ЧЕРТЕЖЕЙ
Фиг.1 - иллюстрация примерной блок-схемы последовательности операций для ограничения коэффициента преобразования, включающей в себя осуществление настоящего изобретения для избегания переполнения.
ПОДРОБНОЕ ОПИСАНИЕ ИЗОБРЕТЕНИЯ
Как упомянуто ранее, процесс обращенного квантования (или восстановления) коэффициентов, как описано выше по тексту, может испытывать переполнение при введении матрицы квантования. Чтобы избегать потенциального переполнения в течение восстановления коэффициентов преобразования, в вариантах осуществления согласно настоящему изобретению уровень квантования коэффициента преобразования ограничивается до выполнения процесса обращенного квантования. Динамический диапазон для уровня квантования коэффициента преобразования представлен целым числом n. В примере, как описано в уравнениях (3)-(5), динамический диапазон n не должен превышать 32 бита, если будет использоваться 32-битовое представление данных для обращенно квантованного (или восстановленного) коэффициента преобразования. Соответственно, n должно удовлетворять следующему ограничительному условию:
n+8+7+(QP/6-(M-l+DB+4))≤32, (7)
которое приводит к
n≤20+M+DB-QP/6. (8)
В этом случае уровень квантования, qlevel, коэффициента преобразования будет ограничиваться согласно уравнению (9):
Figure 00000010
(9)
Чтобы избежать переполнения, динамический диапазон уровня квантования коэффициента преобразования подлежит ограничению согласно уравнению (8). Согласно уравнению (8), n должно быть меньшим или равным (20+M+DB-QP/6), чтобы избежать переполнения. Однако поскольку уровень квантования представлен 16 битами в этом примере (то есть битовая глубина уровня квантования =16), n не должно превышать 16 битов. Соответственно, если (20+M+DB-QP/6) больше чем 16, уровень квантования коэффициента преобразования должен ограничиваться до диапазона, чтобы не превысить 16-битовое представление данных. Следующие псевдокоды (псевдокод A) иллюстрируют пример для ограничения уровня квантования, qlevel, для коэффициента преобразования согласно варианту осуществления настоящего изобретения для избегания переполнения данных в течение восстановления коэффициентов преобразования:
Псевдокод A:
если (20+M+DB-QP/6>=16)
Figure 00000011
иначе
Figure 00000012
Как показано в псевдокоде A, используются два диапазона ограничения для двух различных условий ограничения. Первое условие ограничения соответствует "20+M+B-8-QP/6≥16", и второе условие ограничения соответствует "20+M+B-8-QP/6<16". Первый диапазон ограничения соответствует диапазону с фиксированным ограничением, то есть (-215, 215-1), и второй диапазон ограничения соответствует (-220+M+B-8-QP/6 -1, 220+M+B-8-QP/61). Хотя проверяемое условие "если (20+M+B-8-QP/6≥16)" используется в примерном псевдокоде, показанном выше по тексту, также могут использоваться другие проверяемые условия. Например, проверяемое условие может использовать битовую глубину B источника видео вместо параметра DB. Проверяемым условием становится "если (20+M+B-8-QP/6>=16)", то есть "если (12+M+B-QP/6>=16)". Соответствующими псевдокодами (Псевдокод B) становятся:
Псевдокод B:
если (12+M+B-QP/6>=16)
Figure 00000013
иначе
Figure 00000014
Если битовой глубиной источника видео является 8 битов (DB=0) и размером преобразования является 4×4, уравнение (8) можно упростить к виду:
n≤22-QP/6.
Следовательно, проверяемым условием "если (12+M+B-QP/6≥16)" становится "если (22-QP/6≥16)" в этом случае. Проверяемое условие можно дополнительно упростить к виду "если (QP<=36)". Следовательно, процесс ограничения для уровня квантования коэффициента преобразования согласно другому варианту осуществления настоящего изобретения зависит только от QP для источника видео с фиксированным динамическим диапазоном. Примерный псевдокод (Псевдокод C) показан ниже:
Псевдокод C:
если (QP<=36)
Figure 00000015
иначе
Figure 00000016
.
Когда битовой глубиной источника видео является 10 битов или выше, то есть DB≥2, условие в (7) всегда удовлетворяется. В этом случае ограничение в 16-битов, а именно
Figure 00000017
или qlevel=max(-32768, min(32767, qlevel)), всегда используется безусловно. Хотя ограничение выполняется безусловно для битовой глубины, равной 10 битам или выше, уровень квантования коэффициента преобразования может также безусловно ограничиваться до требуемой битовой глубины независимо от битовой глубины источника видео. Требуемой битовой глубиной может быть 8, 16 или 32 битов, и соответствующими диапазонами ограничения могут быть [-128, 127], [-32768, 32767] и [-2147483648, 2147483647].
Три примерных псевдокода, включающие в себя исполнение настоящего изобретения, описаны выше по тексту. Эти псевдокоды предназначены для иллюстрации примерного процесса для избегания переполнения данных в течение восстановления коэффициентов преобразования. Специалист в данной области техники может осуществлять на практике настоящее изобретение с использованием других проверяемых условий. Например, вместо проверки "если (QP<=36)" может использоваться проверяемое условие "если (QP/6<=6)". В другом примере операция ограничения может быть реализована с использованием другой функции, такой как ограничивающая функция, clip(x,y,z), где переменная z (двусторонне) ограничивается между x и y (x<y). Операции ограничения для псевдокода C могут быть выражены в виде:
Figure 00000018
и
Figure 00000019
В вышеприведенных примерах используются конкретные параметры, чтобы проиллюстрировать процесс обращенного квантования, включающий в себя исполнения настоящего изобретения для избегания переполнения данных. Конкретные используемые параметры не должны рассматриваться в качестве ограничений настоящего изобретения. Специалист в данной области техники может модифицировать проверку условия ограничения на основании предоставленных параметров. Например, если шаг обращенного квантования имеет 6-битовый динамический диапазон вместо 7-битового динамического диапазона, ограничением уравнения (8) становится n≤19+M+DB-QP/6. Соответствующей проверкой условия ограничения в псевдокоде A становится "если (19+M+DB-QP/6>=16)".
Тогда как вышеупомянутый процесс ограничения уровня квантования выполняется для стороны декодера, процесс ограничения уровня квантования может также выполняться на стороне кодера после квантования. Для избегания потенциального переполнения, в вариантах осуществления согласно настоящему изобретению уровень квантования коэффициента преобразования ограничивают после выполнения процесса квантования. Условие ограничения может основываться на матрице квантования, параметре квантования, шаге обращенного квантования, битовой глубине источника видео, размере преобразования единицы преобразования или любой комбинации таковых. Условие ограничения может также включать в себя условие нулевого ограничения, где условие ограничения не устанавливается. Другими словами, нулевое условие соответствует безусловному ограничению, которое всегда ограничивает уровень квантования до некоторого диапазона. В варианте осуществления уровень квантования может ограничиваться до первого диапазона для первого условия ограничения, и уровень квантования может ограничиваться до второго диапазона для второго условия ограничения. Первый диапазон может соответствовать фиксированному диапазону, относящемуся к битовой глубине уровня квантования, и второй диапазон может относиться к динамическому диапазону уровня квантования. Условие ограничения может определяться сравнением первого взвешенного значения с пороговой величиной, причем первое взвешенное значение соответствует первой линейной функции матрицы квантования, параметра квантования, битовой глубины источника видео, размера преобразования единицы преобразования или любой комбинации таковых. Кроме того, пороговая величина может соответствовать фиксированному значению или второму взвешенному значению, причем второе взвешенное значение соответствует второй линейной функции матрицы квантования, параметра квантования, битовой глубины источника видео, размера преобразования единицы преобразования или любой комбинации такового.
Уровень квантования для коэффициента преобразования также может ограничиваться безусловно до требуемой битовой глубины независимо от битовой глубины источника видео. Требуемой битовой глубиной может быть 8, 16 или 32 битов, и соответствующими диапазонами с ограничением могут быть [-128, 127], [-32768, 32767] и [-2147483648, 2147483647].
На Фиг. 1 иллюстрируется примерная блок-схема последовательности операций ограничения уровня квантования для видеокодера, включающего в себя исполнение настоящего изобретения для избегания переполнения. На этапе 110 генерируется уровень квантования для коэффициента преобразования единицы преобразования путем квантования коэффициента преобразования согласно матрице квантования и параметру квантования. На этапе 120 определяется условие ограничения на основании матрицы квантования, параметра квантования, шага обращенного квантования, битовой глубины источника видео, размера преобразования единицы преобразования или любой комбинации такового, причем условие ограничения включает в себя условие нулевого ограничения. Уровень квантования на этапе 130 затем ограничивается согласно условию ограничения, чтобы сгенерировать обрабатываемый с ограничением уровень квантования.
Блок-схема последовательности операций на Фиг. 1 предназначена для иллюстрации примера ограничения уровня квантования для видеокодера, чтобы избегать переполнения уровня квантования. Специалист в данной области техники может осуществлять на практике настоящее изобретение путем перегруппировки этапов, разделения одного или нескольких этапов или объединения одного или нескольких этапов.
Вышеупомянутое описание представлено, чтобы дать возможность обычному специалисту в данной области техники осуществлять на практике настоящее изобретение, как предусмотрено в объеме конкретного применения и требований к нему. Различные модификации описанных вариантов осуществления будут очевидны специалистам в данной области техники, и общие принципы, определенные в документе, могут применяться к другим исполнениям. Следовательно, подразумевается, что настоящее изобретение не ограничивается конкретными показанными и описанными вариантами осуществления, а подлежит расширительному толкованию в соответствии с принципами и признаками новизны, раскрытыми в документе. В приведенном выше подробном описании иллюстрируются различные конкретные подробности для обеспечения полного понимания настоящего изобретения. Однако специалисты в данной области техники поймут, каким образом настоящее изобретение может быть осуществлено на практике.
Исполнение настоящего изобретения, как описано выше по тексту, может быть реализовано различными аппаратными средствами, кодами программного обеспечения или комбинациями такового. Например, исполнение настоящего изобретения может быть схемой, интегрированной в микросхему сжатия видео, или кодом программы, интегрированным в программное обеспечение сжатия видео, для выполнения обработки, описанной в документе. Вариант осуществления настоящего изобретения также может быть программным кодом, подлежащим исполнению в цифровом процессоре сигналов (DSP), для выполнения обработки, описанной в документе. Изобретение может также предусматривать ряд функций, подлежащих выполнению процессором компьютера, цифровым процессором сигналов, микропроцессором или программируемой вентильной матрицей (FPGA). Эти процессоры могут быть сконфигурированы для выполнения конкретных задач согласно изобретению путем исполнения машиночитаемого программного кода или микропрограммного кода, который задает конкретные способы, реализуемые изобретением. Программный код или микропрограммный код могут быть разработаны на различных языках программирования и в различных форматах или стилях. Программный код также может быть скомпилированным для различных целевых платформ. Однако различные форматы кода, стили и языки программных кодов и других средств конфигурирования кода, чтобы выполнять задачи в соответствии с изобретением, не будут выходить за рамки существа и объема изобретения.
Изобретение может осуществляться в других конкретных формах без выхода за рамки существа или существенных характеристик. Описанные примеры должны рассматриваться во всех отношениях только в качестве иллюстративных, а не ограничительных. Объем изобретения, следовательно, указывается прилагаемой формулой изобретения, а не предшествующим описанием. Все изменения, которые подпадают под смысл и область эквивалентности формулы изобретения, подлежат охвату рамками ее объема.

Claims (16)

1. Способ ограничения уровня квантования для видеокодера, содержащий:
генерирование уровня квантования для коэффициента преобразования единицы преобразования путем квантования коэффициента преобразования согласно параметру квантования;
определение условия ограничения в видеокодере на основании битовой глубины источника видео;
ограничение уровня квантования согласно условию ограничения, чтобы сгенерировать обработанный ограничением уровень квантования; и
выполнение процесса деквантования над обработанным ограничением уровнем квантования.
2. Способ по п. 1, в котором уровень квантования ограничивается до первого диапазона, когда битовая глубина источника видео равна первому значению, и уровень квантования ограничивается до второго диапазона, когда битовая глубина источника видео равна второму значению.
3. Способ по п. 2, в котором первый диапазон соответствует фиксированному диапазону.
4. Способ по п. 2, в котором второй диапазон является динамическим диапазоном.
5. Способ по п. 1, в котором условие ограничения определяется путем сравнения первого взвешенного значения с пороговой величиной, причем первое взвешенное значение соответствует первой линейной функции одного или более из параметра квантования, битовой глубины источника видео, размера преобразования единицы преобразования.
6. Способ по п. 5, в котором пороговая величина соответствует фиксированному значению.
7. Способ по п. 1, в котором упомянутое ограничение уровня квантования соответствует ограничению с фиксированным диапазоном.
8. Способ по п. 1, в котором условие ограничения определяется дополнительно на основе параметра квантования.
9. Способ по п. 1, в котором условие ограничения определяется дополнительно на основе размера преобразования единицы преобразования.
10. Устройство для ограничения уровня квантования для видеокодера, устройство содержит:
средство для генерирования уровня квантования для коэффициента преобразования единицы преобразования путем квантования коэффициента преобразования согласно параметру квантования;
средство для определения условия ограничения в видеокодере на основании битовой глубины источника видео;
средство для ограничения уровня квантования согласно условию ограничения, чтобы сгенерировать обработанный ограничением уровень квантования; и
средство для выполнения процесса деквантования над обработанным ограничением уровнем квантования.
11. Устройство по п. 10, в котором уровень квантования ограничивается до первого диапазона, когда битовая глубина источника видео равна первому значению, и уровень квантования ограничивается до второго диапазона, когда битовая глубина источника видео равна второму значению.
12. Устройство по п. 11, в котором первый диапазон соответствует фиксированному диапазону.
13. Устройство по п. 11, в котором второй диапазон является динамическим диапазоном.
14. Устройство по п. 10, в котором условие ограничения определяется путем сравнения первого взвешенного значения с пороговой величиной, причем первое взвешенное значение соответствует первой линейной функции одного или более из параметра квантования, битовой глубины источника видео, размера преобразования единицы преобразования.
15. Устройство по п. 14, в котором пороговая величина соответствует фиксированному значению.
16. Устройство по п. 10, в котором упомянутое ограничение уровня квантования соответствует ограничению с фиксированным диапазоном.
RU2013145895/07A 2011-12-15 2012-12-14 Способ и устройство для ограничения уровня квантования RU2600935C1 (ru)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
PCT/CN2011/084083 WO2013086724A1 (en) 2011-12-15 2011-12-15 Method of clippling transformed coefficients before de-quantization
CNPCT/CN2011/084083 2011-12-15
PCT/CN2012/086648 WO2013087021A1 (en) 2011-12-15 2012-12-14 Method and apparatus for quantization level clipping

Publications (1)

Publication Number Publication Date
RU2600935C1 true RU2600935C1 (ru) 2016-10-27

Family

ID=48611829

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2013145895/07A RU2600935C1 (ru) 2011-12-15 2012-12-14 Способ и устройство для ограничения уровня квантования

Country Status (8)

Country Link
US (4) US9420296B2 (ru)
EP (2) EP2737696B8 (ru)
JP (1) JP5753630B2 (ru)
AU (1) AU2012350503B2 (ru)
CA (1) CA2831019C (ru)
MX (1) MX2013012041A (ru)
RU (1) RU2600935C1 (ru)
WO (3) WO2013086724A1 (ru)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6157114B2 (ja) * 2012-12-28 2017-07-05 キヤノン株式会社 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
WO2014165960A1 (en) * 2013-04-08 2014-10-16 Blackberry Limited Methods for reconstructing an encoded video at a bit-depth lower than at which it was encoded
US9674538B2 (en) 2013-04-08 2017-06-06 Blackberry Limited Methods for reconstructing an encoded video at a bit-depth lower than at which it was encoded
JP6075875B2 (ja) * 2013-07-31 2017-02-08 日本電信電話株式会社 変換量子化方法、変換量子化装置及び変換量子化プログラム
JP6069128B2 (ja) * 2013-08-08 2017-02-01 日本電信電話株式会社 変換量子化方法、変換量子化装置及び変換量子化プログラム
KR102139159B1 (ko) 2015-11-06 2020-07-29 후아웨이 테크놀러지 컴퍼니 리미티드 변환 계수의 역양자화 방법 및 장치, 그리고 디코딩 기기
CN112771865A (zh) * 2018-08-23 2021-05-07 交互数字Vc控股法国公司 使用参数化模型对量化矩阵进行编解码
US10904550B2 (en) 2019-01-12 2021-01-26 Tencent America LLC Method and apparatus for video coding
US11973958B2 (en) * 2019-09-22 2024-04-30 Hfi Innovation Inc. Method and apparatus of sample clipping for prediction refinement with optical flow in video coding

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2350041C2 (ru) * 2003-07-18 2009-03-20 Сони Корпорейшн Устройство и способ кодирования информации изображения, а также устройство и способ декорирования информации изображения
US7778813B2 (en) * 2003-08-15 2010-08-17 Texas Instruments Incorporated Video coding quantization
WO2011043793A1 (en) * 2009-10-05 2011-04-14 Thomson Licensing Methods and apparatus for embedded quantization parameter adjustment in video encoding and decoding
RU2014102989A (ru) * 2011-06-30 2015-08-10 Самсунг Электроникс Ко., Лтд. Способ кодирования видео с регулированием битовой глубины для преобразования с фиксированной запятой и устройство для него, а также способ декодирования видео и устройство для него

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3202433B2 (ja) * 1993-09-17 2001-08-27 株式会社リコー 量子化装置、逆量子化装置及び画像処理装置並びに量子化方法、逆量子化方法及び画像処理方法
KR100188934B1 (ko) 1995-08-28 1999-06-01 윤종용 영상 신호 부호화 장치 및 방법
US6298085B1 (en) * 1997-10-23 2001-10-02 Sony Corporation Source encoding using shuffling of data to provide robust error recovery in a burst error-environment
US6931058B1 (en) * 2000-05-19 2005-08-16 Scientific-Atlanta, Inc. Method and apparatus for the compression and/or transport and/or decompression of a digital signal
US6628709B2 (en) * 2000-12-21 2003-09-30 Matsushita Electric Corporation Of America Bit number prediction for VLC coded DCT coefficients and its application in DV encoding/transcoding
US6898323B2 (en) * 2001-02-15 2005-05-24 Ricoh Company, Ltd. Memory usage scheme for performing wavelet processing
US20020118743A1 (en) * 2001-02-28 2002-08-29 Hong Jiang Method, apparatus and system for multiple-layer scalable video coding
KR100603592B1 (ko) * 2001-11-26 2006-07-24 학교법인 고황재단 영상 화질 향상 인자를 이용한 지능형 파문 스캔 장치 및 그 방법과 그를 이용한 영상 코딩/디코딩 장치 및 그 방법
US7130876B2 (en) * 2001-11-30 2006-10-31 General Instrument Corporation Systems and methods for efficient quantization
US7660355B2 (en) * 2003-12-18 2010-02-09 Lsi Corporation Low complexity transcoding between video streams using different entropy coding
US8031774B2 (en) * 2005-01-31 2011-10-04 Mediatek Incoropration Video encoding methods and systems with frame-layer rate control
JP4645948B2 (ja) * 2005-03-18 2011-03-09 富士ゼロックス株式会社 復号化装置及びプログラム
KR100668344B1 (ko) * 2005-09-20 2007-01-12 삼성전자주식회사 영상 부호화장치 및 방법, 영상 복호화장치 및 방법과 이를채용한 디스플레이 구동회로 및 방법
WO2007094100A1 (ja) * 2006-02-13 2007-08-23 Kabushiki Kaisha Toshiba 動画像符号化／復号化方法及び装置並びにプログラム
US8606023B2 (en) * 2006-06-26 2013-12-10 Qualcomm Incorporated Reduction of errors during computation of inverse discrete cosine transform
CN100556144C (zh) * 2007-02-14 2009-10-28 浙江大学 用于避免视频或图像压缩中反变换越界的方法及编码装置
CN101202912A (zh) * 2007-11-30 2008-06-18 上海广电（集团）有限公司中央研究院 一种平衡码率和图像质量的码率控制方法
CN100592795C (zh) * 2007-12-27 2010-02-24 武汉大学 一种视频编码标准中的整数变换基优选方法
WO2009132018A1 (en) 2008-04-22 2009-10-29 The Board Of Regents Of The University Of Texas System Fluidics-based pulsatile perfusion organ preservation device
EP2154895A1 (en) * 2008-08-15 2010-02-17 Thomson Licensing Method and apparatus for entropy encoding blocks of transform coefficients of a video signal using a zigzag scan sequence, and method and apparatus for a corresponding decoding
CA2785036A1 (en) * 2010-02-05 2011-08-11 Telefonaktiebolaget L M Ericsson (Publ) De-blocking filtering control
US10298939B2 (en) * 2011-06-22 2019-05-21 Qualcomm Incorporated Quantization in video coding
CN102271258A (zh) 2011-08-03 2011-12-07 中山大学深圳研究院 一种针对低编码率的视频编码方法及其装置
US9167261B2 (en) * 2011-11-07 2015-10-20 Sharp Laboratories Of America, Inc. Video decoder with constrained dynamic range

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2350041C2 (ru) * 2003-07-18 2009-03-20 Сони Корпорейшн Устройство и способ кодирования информации изображения, а также устройство и способ декорирования информации изображения
US7778813B2 (en) * 2003-08-15 2010-08-17 Texas Instruments Incorporated Video coding quantization
WO2011043793A1 (en) * 2009-10-05 2011-04-14 Thomson Licensing Methods and apparatus for embedded quantization parameter adjustment in video encoding and decoding
RU2014102989A (ru) * 2011-06-30 2015-08-10 Самсунг Электроникс Ко., Лтд. Способ кодирования видео с регулированием битовой глубины для преобразования с фиксированной запятой и устройство для него, а также способ декодирования видео и устройство для него

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
A.ALSHIN et al., About clip operation removal from de-quantization part of HM, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11, JCTVC-F257, 6th Meeting: Torino, 14-22 July, 2011. *

Also Published As

Publication number Publication date
AU2012350503B2 (en) 2015-11-05
WO2013086724A1 (en) 2013-06-20
US20130322527A1 (en) 2013-12-05
MX2013012041A (es) 2013-12-16
WO2013087021A1 (en) 2013-06-20
EP2737696B8 (en) 2019-10-02
CA2831019C (en) 2017-12-05
EP2737706A4 (en) 2015-05-27
JP2014526199A (ja) 2014-10-02
CA2831019A1 (en) 2013-06-20
US20140328395A1 (en) 2014-11-06
JP5753630B2 (ja) 2015-07-22
EP2737706A1 (en) 2014-06-04
US9749635B2 (en) 2017-08-29
US20170094275A1 (en) 2017-03-30
US9420296B2 (en) 2016-08-16
US20160205401A1 (en) 2016-07-14
EP2737696A4 (en) 2015-05-20
EP2737696A1 (en) 2014-06-04
WO2013087025A1 (en) 2013-06-20
AU2012350503A1 (en) 2014-02-06
EP2737696B1 (en) 2019-07-17
US9565441B2 (en) 2017-02-07

Similar Documents

Publication Publication Date Title
RU2600935C1 (ru) Способ и устройство для ограничения уровня квантования
US10419763B2 (en) Method and apparatus of context modelling for syntax elements in image and video coding
JP6423061B2 (ja) ビデオデコーダを実装するコンピューティングデバイス及びその方法
US20180176581A1 (en) Method and Apparatus for Transform Coefficient Coding of Non-Square Blocks
US20130016789A1 (en) Context modeling techniques for transform coefficient level coding
US10326990B2 (en) Method of alternative transform for data compression
KR100723411B1 (ko) 멀티 코덱용 변환 장치 및 방법과 멀티 코덱용 역변환 장치및 방법
JP2007295596A (ja) 画像符号化装置及び画像復号装置
KR20130132613A (ko) 인코딩 방법 및 장치와, 디코딩 방법 및 장치
US10171809B2 (en) Video encoding apparatus and video encoding method
JP2009290498A (ja) 画像符号化装置及び画像符号化方法
CN108353180B (zh) 具有延迟重构的视频编码
RU2571404C2 (ru) Способ для кодирования параметра квантования видео и способ для декодирования параметра квантования видео
US9407918B2 (en) Apparatus and method for coding image, and non-transitory computer readable medium thereof
CN103975592A (zh) 反量化变换系数的方法及装置
CN103959780A (zh) 量化电平截取装置及方法
KR101659377B1 (ko) 인코딩 방법 및 그 시스템
JP2018056957A (ja) 符号化装置、復号装置、符号化方法、及び、復号方法
CN116324805A (zh) 神经图像压缩中具有替代项的非线性量化
RU2574279C2 (ru) Способ кодирования параметров квантования изображений и способ декодирования параметров квантования изображений
JP2013062768A (ja) 動画像符号化装置及びそのプログラム
JP2014150307A (ja) 映像圧縮フォーマット変換装置、映像圧縮フォーマット変換方法、およびプログラム