RU2458397C1 - Способ поиска и распознавания объектов на цифровых изображениях - Google Patents

Способ поиска и распознавания объектов на цифровых изображениях Download PDF

Info

Publication number
RU2458397C1
RU2458397C1 RU2011111070/08A RU2011111070A RU2458397C1 RU 2458397 C1 RU2458397 C1 RU 2458397C1 RU 2011111070/08 A RU2011111070/08 A RU 2011111070/08A RU 2011111070 A RU2011111070 A RU 2011111070A RU 2458397 C1 RU2458397 C1 RU 2458397C1
Authority
RU
Russia
Prior art keywords
image
energy spectrum
matrix
input image
input
Prior art date
Application number
RU2011111070/08A
Other languages
English (en)
Inventor
Андрей Витальевич Богословский (RU)
Андрей Витальевич Богословский
Евгений Андреевич Богословский (RU)
Евгений Андреевич Богословский
Дмитрий Сергеевич Юдаков (RU)
Дмитрий Сергеевич Юдаков
Андрей Николаевич Четвертаков (RU)
Андрей Николаевич Четвертаков
Ирина Викторовна Жигулина (RU)
Ирина Викторовна Жигулина
Original Assignee
Федеральное государственное военное образовательное учреждение высшего профессионального образования "Военный авиационный инженерный университет" (г. Воронеж) Министерства обороны Российской Федерации
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Федеральное государственное военное образовательное учреждение высшего профессионального образования "Военный авиационный инженерный университет" (г. Воронеж) Министерства обороны Российской Федерации filed Critical Федеральное государственное военное образовательное учреждение высшего профессионального образования "Военный авиационный инженерный университет" (г. Воронеж) Министерства обороны Российской Федерации
Priority to RU2011111070/08A priority Critical patent/RU2458397C1/ru
Application granted granted Critical
Publication of RU2458397C1 publication Critical patent/RU2458397C1/ru

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

Изобретение относится к автоматике и вычислительной технике и может быть использовано при построении систем технического зрения различного назначения, а также для анализа и синтеза фильтров при обработке цифровых изображений. Техническим результатом предлагаемого способа является повышение вероятности правильного обнаружения и уменьшение времени распознавания объектов на неоднородном фоне цифровых изображений. Сущность изобретения заключается в том, что сначала измеряется энергетический спектр входного изображения. Затем выполняется адаптивная пространственная фильтрация входного изображения и сравнивается с эталонным изображением объекта. Далее измеряют энергетический спектр входного изображения. После чего синтезируют адаптивный пространственный дискретный фильтр, фильтруют входное изображение синтезированным фильтром. Далее сравнивают отфильтрованное изображение с порогом и получают бинарное изображение объекта и фона, получают бинарное изображение с расширенной областью объекта, путем дилатации объекта, получают изображение области интереса. После чего измеряют энергетический спектр изображения области интереса. 1 ил.

Description

Изобретение относится к автоматике и вычислительной технике и может быть использовано при построении систем технического зрения различного назначения, а также для анализа и синтеза фильтров при обработке цифровых изображений.
Известен способ поиска и распознавания объектов на цифровом изображении, основанный на пошаговом совмещении нормализованных изображений распознаваемых объектов, центрированных и вписанных в одинаковых размеров ячейки таблицы распознаваемых объектов и изображения шаблонов, центрированные и вписанные в аналогичные ячейки таблицы шаблонов (см. патент RU 2234127 С2, 05.06.2002 «Способ компьютерного распознавания объектов»). В данном способе является обязательным наличие процедуры предварительной нормализации (приведение объекта на изображении к стандартному виду - изменение масштаба, поворот в требуемое положение и пр.), центрированию, что ведет к увеличению времени поиска и, соответственно, распознавания. И только потом построчно снизу вверх или сбоку - поочередно совмещают строки или столбцы таблицы объектов с таблицей шаблонов, для окончательного распознавания.
Наиболее близкими по технической сущности к заявляемому способу являются способы поиска и распознавания объектов на цифровом изображении, основанные на выделении контуров одного цвета на изображении с их последующим представлением в виде коэффициентов преобразования Фурье (см., например, US Patent 6563959 B1, 13.05.2003, «Perceptual similarity image retrieval method») и на выделении замкнутого контура, максимально совпадающего с границами объекта с последующим поочередным наложением шаблонов, хранящихся в памяти компьютера (см. патент RU 2250499 С1, 17.11.2003 «Способ компьютерного распознавания объектов»), где в случае совпадения контуров заранее известных шаблонов с обнаруженными объектами последние фиксируются как распознанные. В первом случае степень схожести двух объектов на разных изображениях определяется по ряду коэффициентов, но этот способ очень чувствителен к качеству входного изображения и затрачивает много времени при его обработке, если изображение объекта представляется на сложном неоднородном фоне. Недостатком второго способа является низкая вероятность правильного обнаружения и распознавания, если изображения границ объекта размыты и имеют малый контраст, т.е. имеет место влияние характеристик фона на характеристики объекта, и таким образом бывает сложно выделить границы только объекта без составляющих фона, кроме того, при повороте распознаваемого объекта относительно идентичного шаблона может быть принято решение о нераспознавании.
Техническим результатом предлагаемого способа является повышение вероятности правильного обнаружения и уменьшение времени распознавания объектов на неоднородном фоне цифровых изображений.
Указанный технический результат достигается тем, что в предлагаемом способе поиска и распознавания объектов на цифровых изображениях измеряется энергетический спектр входного изображения, выполняется адаптивная пространственная фильтрация входного изображения и сравнивается с эталонным изображением объекта, при этом эталонное изображение представляют в виде Sэ-матрицы эталона, размерностью m×n, где
Figure 00000001
М =L/р - количество строк, L - длина изображения,
Figure 00000002
, N=H/p - количество столбцов, Н - ширина изображения и р - размер пикселя, элементами которой являются коэффициенты разложения энергетического спектра эталонного изображения в двумерный ряд Фурье по косинусам, измеряют энергетический спектр входного изображения и представляют его в виде Sвх-матрицы, размерностью q×q, где
Figure 00000003
, Q - количество коэффициентов разложения энергетического спектра входного изображения в двумерный ряд Фурье по косинусам, синтезируют адаптивный пространственный дискретный фильтр, фильтруют входное изображение синтезированным фильтром, сравнивают отфильтрованное изображение с порогом и получают бинарное изображение объекта и фона, получают бинарное изображение с расширенной областью объекта, путем дилатации объекта со структурообразующим элементом в виде матрицы размером m×n, получают изображение области интереса, путем умножения бинарного изображения с расширенной областью объекта на входное изображение, измеряют энергетический спектр изображения области интереса и представляют его в виде Sинт-матрицы размером m×n, элементами которой являются коэффициенты разложения его энергетического спектра в двумерный ряд Фурье по косинусам, и сравнивают ее с Sэ-матрицей.
Сущность предлагаемого способа заключается в следующем:
- в базу данных (память) вводится эталонное изображение объекта, в виде Sэ-матрицы эталона, размерностью m×n, где
Figure 00000004
М=L/р -количество строк, L - длина изображения,
Figure 00000005
, N=H/p - количество столбцов, Н - ширина изображения и р - размер пикселя, элементами которой являются коэффициенты разложения энергетического спектра эталонного изображения в двумерный ряд Фурье по косинусам (см. Богословский А.В., Жигулина И.В. Эффективность многомерной дискретной фильтрации //Радиотехника, 2008, №4); Sэ-матрицу эталона определяют по одному из способов, описанных в патентах RU 2373544 С1, 05.11.2008 «Способ измерения параметров энергетического спектра изображения» или RU 2370780 С1, 25.07.2008 «Способ измерения параметров энергетического спектра двумерного сигнала»; данная матрица коэффициентов хранится в базе данных (памяти) для последующего поиска и распознавания объекта на входном изображении;
- измеряют энергетический спектр входного изображения по одному из способов, описанных выше, и представляют его в виде Sвх-матрицы, размерностью q×q, где
Figure 00000006
, Q - количество коэффициентов разложения энергетического спектра входного изображения в двумерный ряд Фурье по косинусам;
- определяют характеристики (отсчеты импульсной характеристики и апертуру) синтезируемого пространственного дискретного фильтра (см. Богословский А.В., Загузова Н.Д., Пахольчак З.Д., Богословский Е.А. Определение ранга S-матрицы входного изображения и синтез дискретных фильтров //Труды Тамбовского ВВАИУРЭ(ВИ) №2 (2), 2008 г. (журнал в журнале «Успехи современной радиоэлектроники», 2008 г., №11));
- выполняют процедуру адаптивной (адаптация в данном случае заключается в формировании пространственного фильтра для обработки каждого кадра видеопоследовательности) пространственной фильтрации входного изображения синтезированным фильтром;
- сравнивают результат фильтрации с порогом (см., например, Гонсалес Р., Вудс Р., Эддинс С. Цифровая обработка изображений в среде MATLAB. М.: Техносфера, 2006. - с. 421-424) и получают бинарное изображение, параллельно сформировав структурообразующий элемент в виде матрицы размером m×n;
- получают бинарное изображение с расширенной областью объекта, путем дилатации (поэлементного умножения бинарного изображения на структурообразующий элемент, см. там же с.355-358) объекта и получают бинарное изображение с расширенной областью объекта;
- получают область интереса входного изображения, содержащую искомый объект, путем умножения бинарного изображения с расширенной областью на входное изображение;
- определяют коэффициенты разложения энергетического спектра сигнала в двумерный ряд Фурье по косинусам области интереса входного изображения, и формируют ее Sинт-матрицу;
- поиск (обнаружение) осуществляется, например, по критерию Неймана - Пирсона, а распознавание искомого объекта путем сравнения Sинт-матрицы с Sэ-матрицей.
Способ может быть реализован, например, с помощью устройства, представленного на фигуре 1, состоящего из последовательно соединенных блоков 1-4 и блоков 5, 6, 7, 8, 9, при этом выход блока 7 является выходом устройства. На структурной схеме обозначены:
1 - камера с ПЗС, предназначена для формирования цифрового изображения;
2 - перестраиваемый (адаптивный) фильтр, предназначен для фильтрации входного изображения;
3 - схема сравнения с порогом (блок пороговой обработки), предназначен для получения бинарного изображения;
4 - блок дилатации, предназначен для получения бинарного изображения с расширенной областью объекта;
5 - блок формирования структурообразующего элемента;
6 - формирователь S-матриц, предназначен для измерения энергетического спектра изображений и формирования S-матриц;
7 - блок поиска (обнаружения) и распознавания объектов;
8 - база данных (память) Sэ-матриц;
9 - блок синтеза пространственного дискретного фильтра, предназначен для определения отсчетов импульсной характеристики и апертуры синтезируемого пространственного дискретного фильтра.
Данная схема характеризуется двумя режимами работы обучением (пунктирная линия, Фиг.1), и поиском, и распознаванием объектов на цифровых изображениях.
В режиме обучения, с 3-го выхода блока 1 на 3-й вход блока 6 подается цифровое изображение эталона, где измеряется его энергетический спектр и формируется Sэ-матрица, элементами которой являются коэффициенты разложения энергетического спектра сигнала в двумерный ряд Фурье по косинусам, далее с 3-го выхода блока 6 Sэ-матрица поступает на первый вход блока 8 (память), где создается база данных различных изображений объектов (эталонов), для последующего поиска (обнаружения) и распознавания. Таким образом, база данных (блок 8) может постоянно расширяться за счет внесения в нее новых Sэ-матриц ранее не записанных изображений объектов.
Режим поиска и распознавания объектов можно реализовать следующей последовательностью:
1) изображение реальной сцены поступает на блок 1 (камеру с ПЗС);
2) далее цифровое изображение, в виде значений яркостей пикселей с первого выхода блока 1, подается на первый вход блока 6, где измеряется его энергетический спектр и формируется Sвх-матрица, элементами которой являются коэффициенты разложения энергетического спектра сигнала в двумерный ряд Фурье по косинусам;
3) с первого выхода блока 6 Sвх-матрица поступает на первый вход блока 9, а на второй вход блока 9 с первого выхода блока 8 подается Sэ-матрица, где из этих значений составляется система линейных уравнений, решениями которой являются значения отсчетов импульсной характеристики дискретного пространственного фильтра, т.е. синтезируется фильтр, причем апертура фильтра определяется по максимуму относительной эффективности обработки (см. Богословский А.В., Загузова Н.Д., Пахольчак З.Д., Богословский Е.А. Определение ранга S-матрицы входного изображения и синтез дискретных фильтров //Труды Тамбовского ВВАИУРЭ(ВИ) №2 (2), 2008 г. (журнал в журнале «Успехи современной радиоэлектроники», 2008 г., №11));
4) в камере с ПЗС входное изображение задерживается на время, которое необходимо для определения характеристик фильтра в блоке 9;
5) далее характеристики (отсчеты импульсной характеристики и значение апертуры) синтезируемого фильтра, с выхода блока 9 подаются на второй вход перестраиваемого фильтра (блок 2), после чего задержанное входное цифровое изображение реальной сцены, с выхода 2 блока 1 поступает на первый вход сформированного пространственного дискретного фильтра (блок 2);
6) отфильтрованное изображение с выхода блока 2 поступает на вход блока 3, где осуществляется его пороговая обработка и формируется бинарное изображение объекта и фона;
7) затем с выхода блока 3 бинарное изображение объекта и фона поступает на первый вход блока 4, куда из блока 5 на 2-й вход блока 4 подается структурообразующий элемент, осуществляется дилатация объекта и формируется бинарное изображение с расширенной областью объекта, которое умножается на входное изображение, поступающее на 3-й вход блока 4, и получают изображение области интереса;
8) изображение области интереса с выхода блока 4 поступает на 2-й вход блока 6, где измеряется его энергетический спектр и формируется Sинт-матрица, элементами которой являются коэффициенты разложения энергетического спектра изображения области интереса в двумерный ряд Фурье по косинусам;
9) с выхода 2 блока 6 Sинт-матрица поступает на первый вход блока 7, а с выхода 2 блока 8 на второй вход блока 7 подается Sэ-матрица;
10) в блоке 7 принимается решение об обнаружении объектов (например, по критерию Неймана-Пирсона) и происходит распознавание, путем сравнения Sэ-матрицы с Sинт-матрицей.
Применение данного способа поиска и распознавания позволит повысить вероятность правильного обнаружения и распознавания объектов на цифровых изображениях, обладающих сложным неоднородным фоном.
Предлагаемый авторами способ был реализован в виде компьютерной программы для ЭВМ в среде Scilab 4.0 (авторы Юдаков Д.С., Богословский Е.А., Четвертаков А.Н. Программа, моделирующая алгоритм определения размера апертуры и отсчетов импульсной характеристики цифрового фильтра, построенного на основе решения S-матрицы, по максимальной относительной эффективности подавления сигнала фона. Свид. 2009610542 РФ. - №2008615500; заявл. 26.11.2008; зарегистрировано в Реестре программ для ЭВМ Роспатента 22.01.2009), и проверен на различных тестовых изображениях (Богословский А.В., Юдаков Д.С., Богословский Е.А. Загузова Н.Д., Пахольчак З.Д. Обработка неподвижных изображений фильтрами, синтезированными на основе S-матрицы// Труды Тамбовского ВВАИУРЭ (ВИ) №2 (2), 2008 г. (журнал в журнале «Успехи современной радиоэлектроники», 2008 г., №11)).
Проведенный заявителями анализ уровня техники, включающий поиск по патентным и научно-техническим источникам информации и выявлению источников, содержащих сведения об аналогах изобретения, позволил установить, что заявители не обнаружили аналогов, характеризующихся признаками, тождественными всем существенным признакам изобретения.
Следовательно, заявленное изобретение «Способ поиска и распознавания объектов на цифровых изображениях» соответствует критерию «новизна».

Claims (1)

  1. Способ поиска и распознавания объектов на цифровых изображениях, основанный на измерении энергетического спектра входного изображения, адаптивной пространственной фильтрации и сравнении его с эталонным изображением, отличающийся тем, что эталонное изображение представляют в виде Sэ-матрицы эталона, размерностью m×n, где
    Figure 00000007
    , M=L/p - количество строк, L - длина изображения,
    Figure 00000008
    , N=H/p - количество столбцов, Н - ширина изображения и p - размер пикселя, элементами которой являются коэффициенты разложения энергетического спектра эталонного изображения в двумерный ряд Фурье по косинусам, измеряют энергетический спектр входного изображения и представляют его в виде Sвх-матрицы, размерностью q×q, где
    Figure 00000009
    , Q - количество коэффициентов разложения энергетического спектра входного изображения в двумерный ряд Фурье по косинусам, синтезируют адаптивный пространственный дискретный фильтр, фильтруют входное изображение синтезированным фильтром, сравнивают отфильтрованное изображение с порогом и получают бинарное изображение объекта и фона, получают бинарное изображение с расширенной областью объекта путем дилатации объекта со структурообразующим элементом в виде матрицы размером m×n, получают изображение области интереса путем умножения бинарного изображения с расширенной областью объекта на входное изображение, измеряют энергетический спектр изображения области интереса и представляют его в виде Sинт-матрицы размером m×n, элементами которой являются коэффициенты разложения его энергетического спектра в двумерный ряд Фурье по косинусам, и сравнивают ее с Sэ-матрицей.
RU2011111070/08A 2011-03-23 2011-03-23 Способ поиска и распознавания объектов на цифровых изображениях RU2458397C1 (ru)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2011111070/08A RU2458397C1 (ru) 2011-03-23 2011-03-23 Способ поиска и распознавания объектов на цифровых изображениях

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2011111070/08A RU2458397C1 (ru) 2011-03-23 2011-03-23 Способ поиска и распознавания объектов на цифровых изображениях

Publications (1)

Publication Number Publication Date
RU2458397C1 true RU2458397C1 (ru) 2012-08-10

Family

ID=46849729

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2011111070/08A RU2458397C1 (ru) 2011-03-23 2011-03-23 Способ поиска и распознавания объектов на цифровых изображениях

Country Status (1)

Country Link
RU (1) RU2458397C1 (ru)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2528140C1 (ru) * 2013-03-12 2014-09-10 Открытое акционерное общество "Научно-производственное объединение "Карат" (ОАО "НПО КАРАТ") Cпособ автоматического распознавания объектов на изображении
RU2623891C2 (ru) * 2015-10-12 2017-06-29 Федеральное государственное казенное военное образовательное учреждение высшего профессионального образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации Способ обнаружения объектов, определения их геометрической формы и ориентации на изображениях
RU2708348C1 (ru) * 2019-05-28 2019-12-05 Андрей Александрович Курило Способ определения охраноспособности обозначений в качестве товарных знаков с сохранением уровня разрешающей способности базы данных
RU2718172C1 (ru) * 2019-01-10 2020-03-30 Федеральное государственное казенное военное образовательное учреждение высшего образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации Способ поиска объектов на цифровых изображениях

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6477272B1 (en) * 1999-06-18 2002-11-05 Microsoft Corporation Object recognition with co-occurrence histograms and false alarm probability analysis for choosing optimal object recognition process parameters
RU2266565C1 (ru) * 2004-04-13 2005-12-20 Открытое акционерное общество "Корпорация "Тактическое ракетное вооружение" Распознающее устройство
RU2370817C2 (ru) * 2004-07-29 2009-10-20 Самсунг Электроникс Ко., Лтд. Система и способ отслеживания объекта
RU2382408C2 (ru) * 2007-09-13 2010-02-20 Институт прикладной физики РАН Способ и система для идентификации человека по изображению лица

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6477272B1 (en) * 1999-06-18 2002-11-05 Microsoft Corporation Object recognition with co-occurrence histograms and false alarm probability analysis for choosing optimal object recognition process parameters
RU2266565C1 (ru) * 2004-04-13 2005-12-20 Открытое акционерное общество "Корпорация "Тактическое ракетное вооружение" Распознающее устройство
RU2370817C2 (ru) * 2004-07-29 2009-10-20 Самсунг Электроникс Ко., Лтд. Система и способ отслеживания объекта
RU2382408C2 (ru) * 2007-09-13 2010-02-20 Институт прикладной физики РАН Способ и система для идентификации человека по изображению лица

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2528140C1 (ru) * 2013-03-12 2014-09-10 Открытое акционерное общество "Научно-производственное объединение "Карат" (ОАО "НПО КАРАТ") Cпособ автоматического распознавания объектов на изображении
RU2623891C2 (ru) * 2015-10-12 2017-06-29 Федеральное государственное казенное военное образовательное учреждение высшего профессионального образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации Способ обнаружения объектов, определения их геометрической формы и ориентации на изображениях
RU2718172C1 (ru) * 2019-01-10 2020-03-30 Федеральное государственное казенное военное образовательное учреждение высшего образования "Военный учебно-научный центр Военно-воздушных сил "Военно-воздушная академия имени профессора Н.Е. Жуковского и Ю.А. Гагарина" (г. Воронеж) Министерства обороны Российской Федерации Способ поиска объектов на цифровых изображениях
RU2708348C1 (ru) * 2019-05-28 2019-12-05 Андрей Александрович Курило Способ определения охраноспособности обозначений в качестве товарных знаков с сохранением уровня разрешающей способности базы данных

Similar Documents

Publication Publication Date Title
CN110533084B (zh) 一种基于自注意力机制的多尺度目标检测方法
CN113516012B (zh) 一种基于多层级特征融合的行人重识别方法及系统
CN106846362B (zh) 一种目标检测跟踪方法和装置
CN107563433B (zh) 一种基于卷积神经网络的红外小目标检测方法
CN111724372A (zh) 基于对抗神经网络的布匹缺陷检测方法、终端和存储介质
RU2458397C1 (ru) Способ поиска и распознавания объектов на цифровых изображениях
CN111091101B (zh) 基于一步法的高精度行人检测方法、系统、装置
CN109753996B (zh) 基于三维轻量化深度网络的高光谱图像分类方法
CN112991271B (zh) 基于改进yolov3的铝型材表面缺陷视觉检测方法
CN117173172B (zh) 一种基于机器视觉的硅胶成型效果检测方法及系统
CN112001901A (zh) 基于卷积神经网络的苹果缺陷检测方法及系统
CN110852369A (zh) 联合3d/2d卷积网络和自适应光谱解混的高光谱图像分类方法
CN112559791A (zh) 一种基于深度学习的布匹分类检索方法
CN114782997A (zh) 基于多损失注意力自适应网络的行人重识别方法及系统
CN113298146A (zh) 一种基于特征检测的图像匹配方法、装置、设备及介质
CN115272225A (zh) 一种基于对抗学习网络的带钢表面缺陷检测方法及系统
CN110942034A (zh) 用于检测多类型深度网络生成图像的方法、系统、装置
CN113112482A (zh) 一种基于注意力机制网络的pcb缺陷检测方法
CN108596906A (zh) 一种基于稀疏局部保持投影的全参考屏幕图像质量评价方法
Ramisa et al. Evaluation of the sift object recognition method in mobile robots
CN110969128A (zh) 一种基于多特征融合的海面背景下红外船舰的检测方法
CN115546862A (zh) 基于跨尺度局部差异深度子空间特征的表情识别方法和系统
CN113392916A (zh) 基于高光谱图像的麻竹笋营养成分检测方法、系统和存储介质
CN114494887A (zh) 遥感图像分类方法、装置、计算机设备和可读存储介质
CN112149582A (zh) 一种高光谱图像材质识别方法及系统

Legal Events

Date Code Title Description
MM4A The patent is invalid due to non-payment of fees

Effective date: 20130324