KR20010010214A - 스테레오 음향반향 제거기 및 그 제거방법 - Google Patents
스테레오 음향반향 제거기 및 그 제거방법 Download PDFInfo
- Publication number
- KR20010010214A KR20010010214A KR1019990028960A KR19990028960A KR20010010214A KR 20010010214 A KR20010010214 A KR 20010010214A KR 1019990028960 A KR1019990028960 A KR 1019990028960A KR 19990028960 A KR19990028960 A KR 19990028960A KR 20010010214 A KR20010010214 A KR 20010010214A
- Authority
- KR
- South Korea
- Prior art keywords
- filter
- channel signals
- channel
- adaptive
- signals
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R3/00—Circuits for transducers, loudspeakers or microphones
- H04R3/02—Circuits for transducers, loudspeakers or microphones for preventing acoustic reaction, i.e. acoustic oscillatory feedback
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B3/00—Line transmission systems
- H04B3/02—Details
- H04B3/20—Reducing echo effects or singing; Opening or closing transmitting path; Conditioning for transmission in one direction or the other
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Otolaryngology (AREA)
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
Abstract
본 발명은 전처리필터를 이용한 스테레오 음향반향 제거기 및 그 제거방법에 관한 것이다. 본 발명에서는 채널 신호 상호간의 상호상관을 감소시킬 수 있는 전저리필터를 제공하며, 본 발명의 전처리필터는 제 1 및 제 2 채널신호를 그람슈미트 함수 처리한 후, 그에 대응하는 제 1 및 제 2 처리값이 양수인 경우에 각 처리값을 소정치 감쇠시키고 그에 대응하는 상기 제 1 및 제 2 채널신호와 가산시켜 상기 제 1 및 제 2 채널신호간의 상호상관을 감소시켜 채널 신호들간의 직교화성분을 부각시키는 기능을 갖추고 있다.
Description
본 발명은 스테레오 음향반향 제거기 및 그 제거방법에 관한 것으로 특히 전처리필터를 이용한 스테레오 음향반향 제거기 및 그 제거방법에 관한 것이다.
일반적으로, 송신측의 화자로부터의 음향 (또는 음성)이 송신측 마이크로폰으로부터 전송 채널을 통하여 수신측으로 전달되어 수신측 스피커로부터 출력되는 경우에, 상기 출력된 음향 (음성)이 수신측 마이크로폰에 입력되어 전송 채널을 통하여 송신측 스피커로 재출력되는 경우가 발생되며, 이러한 현상을 음향반향 (echo)이라 한다. 음향반향 제거기는 이처럼 재전송되는 신호, 즉 음향반향,을 제거하기 위한 장치이다.
발명이 속하는 기술분야 및 그 분야의 종래기술
통상, 음향반향 제거기는 모노 음향반향 제거기와 스테레오 음향반향 제거기로 대별되며, 본 발명에서는 보다 진일보한 스테레오 음향반향 제거기에 대하여 기술하기로 한다.
먼저, 일반적인 스테레오 음향반향 제거기의 구조도를 도 1을 참조하여 설명하기로한다.
참고로, 도 1에서, s(k) 는 화자를 나타내고, g1과 g2는 화자(원단화자)와 두개의 마이크로폰사이의 전달경로를 나타내며, x1(k)와 x2(k)는 채널 신호를 나타내고, h1 과 h2는 수신측 스피커로부터 수신측 마이크로폰까지의 전달경로를 나타내고, W1 과 W2 는 h1 과 h2를 추정하는 적응필터의 계수를 나타내며, y(k) 는 수신자측 마이크로폰으로 입력되는 입력신호 즉 반향신호를 나타내며, y(k)는 적응필터의 출력을 나타내고, 또한 y(k)의 추정값이다. 또한 e(k)는 y(k)에서 y(k)를 감산한 값을 나타낸다. 여기서 k는 디지털 신호의 순차시간(time index)이며 k가 붙은 변수는 모두 k번째 순간에 가지는 값을 의미한다.
동작과 관련하여, 각 채널 신호 x1(k)와 x2(k)는 송신측에서의 화자(원단화자)와 두개의 마이크로폰사이의 전달함수 g1과 g2 사이의 콘벌루션(convolution)을 수행하여 발생된다. 각각 발생된 채널신호는 전송라인을 거처 수신측의 두 스피커로 출력된다. 각각의 채널신호는 수신측의 두스피커와 두 개중 하나의 마이크로폰 사이의 반향경로 h1과 h2와 콘벌루션을 수행하여 마이크로폰 출력신호 y(k)를 발생한다.
도 1 에 있어서, 수신측에 두 개의 마이크로폰이 있는 데 하나의 경우만 표현한 것은 나머지 하나도 결국 같은 구조로 서로 대칭관계에 있어 편의상 생략하였다. 출력신호 y(k)는 다시 송신측으로 전송되어 음향반향으로 작용한다. 이러한 수신측 마이크로폰 출력신호가 송신측으로 다시 전송되지 못하도록 작용하는 것이 스테레오 음향반향제거기의 역할이다. 이 제거기는 각 채널중간에 연결하여 각 채널신호를 적응필터의 입력으로 이용하고 적응필터가 수신측의 반향경로 h1과 h2를 각각 추정하도록 적응알고리듬을 구성한다. 전술한 바와같이, 오차신호 e(k)는 마이크로폰 입력신호 y(k)를 적응필터로 추정한 추정입력신호 y(k)로서 감산하여 발생되며 적응필터계수의 갱신(update)에 사용되어진다. 적응필터계수는 순차시간마다 갱신되어진다.
그러나 도 1에서는 상호상관이 큰 채널신호 x1 과 x2가 그대로 수신측에 전송되어 수신측 반향경로 h1과 h2를 거쳐 마이크로폰으로 서로 가산된다. 이렇게 발생되어진 마이크로폰 입력신호 y(k)는 오차신호 e(k)에 그대로 나타나며 적응필터계수의 갱신에 영향을 준다. 결국 적응필터가 반향경로를 잘못 적응하거나 매우느리게 적응하게되는 원인이 된다.
이러한 문제점을 해결하기위해 도 2와 같은 전송채널상에 전처리필터를 갖춘 스테레오 음향반향제거기가 제안되었다. 도 2에서 전처리필터의 기능은 상호상관이 큰 채널신호를 전처리필터에 통과시켜 상호상관을 줄인 변형된 채널신호를 수신측으로 전송하는 구조이다.
도 2 에 제안된 종래의 음향반향 제거기는 반파정류(halfwave rectifier)필터를 전처리필터로 사용하였다.
도 3 은 도 2 의 반파정류필터를 사용한 종래의 전처리필터 구조도를 도시한다. 반파정류필터의 비선형특성을 이용하여 채널신호간의 상호상관을 줄여 수신측으로 전송하는 구조이다.
도 3에서, 각 채널신호는 양수인 구간에서 자기자신의 신호를 일정비율()만큼 감쇄시켜 더한다. 여기서 일정비율은 스테레오신호의 공간감(spatial perception)을 줄이지 않는 범위내에서의 0 과 1 사이의 값으로 보통 0.5로 둔다. 이렇게 반파정류와 같은 비선형필터를 사용하여 채널신호간의 상호상관을 줄이면 적응필터의 경로추정은 보다 빨라지고 보다 정확해진다.
그러나 이 필터를 사용하면 두가지 문제점이 있다.
첫째 이와같은 비선형필터는 채널신호간의 상호상관을 크게 줄이지는 못한다.
둘째 송신측에서의 갑작스러운 변화에 민감하여 적응필터가 오동작 될 수있다. 이 경우는 화자가 움직이거나 또는 다른 화자가 말을 하게되면 화자(원단화자)로부터 각 마이크로폰사이의 전달함수 g1과 g2가 변한다. 이때 채널신호에 갑작스런 변화가 생기고 이 변화는 반파정류필터에도 그대로 전해서 반파정류필터 출력단에 변화폭이 더 큰 출력이 나타나게된다. 이때 적응필터는 오동작되기 쉬워진다.
본 발명은 전술한 종래의 문제점을 해결하기 위한 것으로, 보다 개선된 전처리 필터를 갖춘 스테레오 음향반향 제거기를 제공하는 것을 목적으로한다.
본 발명의 전처리 필터는 그람 쉬미트 함수를 이용한 직교화필터를 구비한다.
본 발명의 스테레오 음향반향 제거기는 반파정류필터 대신 직교화필터를 사용하여 상호상관을 보다 능동적으로 감소시키며, 전송룸의 변화에도 반파정류필터의 경우보다 훨신 둔감한 특성을 갖는다.
전술한 본 발명을 구현하기 위한 본 발명의 스테레오 음향반향 제거기는
제 1 및 제 2 채널 신호를 전달하는 제 1 및 제 2 전송 채널과,
상기 제 1 및 제 2 전송 채널 출력단에 설치된 제 1 및 제 2 스피커와,
상기 제 1 및 제 2 스피커로부터 출력되는 제 1 및 제 2 출력신호인 제 1 및 제 2 음성반향이 인가되는 제 1 및 제 2 마이크와,
상기 제 1 및 제 2 음성반향을 추정하여 제 1 및 제 2 적응계수를 갖는 제 1 및 제 2 적응 필터와,
상기 제 1 및 제 2 채널신호를 그람슈미트 함수 처리기에서 처리한 후, 그에 대응하는 제 1 및 제 2 채널신호값이 양수인 경우에 각 처리값을 소정치 감쇠시키고 그에 대응하는 상기 제 1 및 제 2 채널신호와 가산시켜 상기 제 1 및 제 2 채널신호간의 상호상관을 감소시키는 전처리 필터를 구비하며,
상기 전처리필터로부터 출력되는 제 1 및 제 2 전처리필터치는 상기 제 1 및 제 2 적응필터에 각각 인가되고, 상기 제 1 및 제 2 적응필터로부터 출력되는 제 1 및 제 2 적응필터치는 네거티브 부호가 곱해진 후 상기 제 1 및 제 2 마이크로 인가된 상기 제 1 및 제 2 음성반향 신호와 합산되며, 상기 합산된 신호는 적응 알고리듬 처리기에 인가되어 상기 제 1 및 제 2 적응 필터를 제어하는 것을 특징으로한다.
전술한 본 발명을 구현하기 위한 본 발명의 스테레오 음향반향 제거 방법은
제 1 및 제 2 채널 신호를 전달하는 단계와,
전처리필터를 사용하여 상기 제1 및 제 2 채널 신호를 전처리하는 단계를 구비하며,
상기 전처리필터는 상기 제 1 및 제 2 채널신호를 그람슈미트 함수 처리기에서 처리한 후, 그에 대응하는 제 1 및 제 2 채널신호값이 양수인 경우에 각 처리값을 소정치 감쇠시키고 그에 대응하는 상기 제 1 및 제 2 채널신호와 가산시켜 상기 제 1 및 제 2 채널신호간의 상호상관을 감소시키는 것을 특징으로한다.
도 1 은 일반적인 스테레오 음향반향 제거기의 구조도
도 2 는 전처리필터를 사용하여 채널신호간의 상호상관을 줄이는 종래의 스테레오 음향반향 제거기의 구조도
도 3 은 반파정류필터를 이용한 종래의 전처리필터의 구조도
도 4 는 본 발명의 실시예에 의한 전처리필터의 구조도.
(도면의 주요 부분에 대한 부호의 설명)
1. 전처리필터
2. 적응 알고리듬 처리기
3. 그람슈미트 함수 처리기
이하, 도 4를 참조하여 본 발명의 실시예를 보다 구체적으로 설명하기로 한다.
도 4 에 있어서, x1' x2' 는 전처리필터의 출력으로 채널신호 x1 x2에서 상호상관이 줄이든 출력을 나타낸다.
통상, 대수학에서 그람슈미트 직교화(orthogonalization) 함수는 임의의 베이시스(함수공간을 구성하는 단위벡터)들로 이루어진 함수공간에서 각 각의 베이시스들을 직교화시켜 가장 간단한 베이시스들을 얻는 함수식이다. 본 발명에서는 전처리필터 구현시 상기 함수를 채널신호 x1과 x2의 직교화에 적용하였다.
도 4는 제안하는 전처리필터의 구조도이다.
도 4의 전처리필터가 도 3의 전처리필터와 구별되는 점은 각 채널신호의 부호를 판단하는 논리연산 수행전에 각 채널신호를 직교화시키는 필터가 추가로 삽입된다는 것이다. 직교화필터의 추가삽입을 통하여 채널신호 서로간의 상호상관을 줄여 결국 수신측의 반향경로를 추정하는 적응필터의 적응을 보다 빠르고 보다 정확하게 수행할 수 있다.
여기서 직교화필터에 관해 보다 상세히 논하고자 한다.
채널신호 x1과 x2는 음향 또는 음성신호이므로 백색잡음(white noise)와 달리 함수공간에서 일정한 방향성을 띈다. 참고로 백색잡음은 함수공간에서 모든방향성분에 대해 일정한 크기를 갖는다. 즉 방향성을 띄지않는다. 그리고 채널신호들은 한명의 화자로부터 발생되어지므로 상호상관이 매우크다. 그래서 채널신호들은 함수공간에서 서로 유사한 방향성을 띄고 있다고 가정할 수 있다.
이 사실은 채널신호들을 상기에서 언급한 함수공간의 베이시스들처럼 함수공간의 백터로 생각할 수 있으며 그람슈미트 함수를 이용한 베이시스들의 직교화 처럼 채널신호를 직교화시킬 수 있다는 것이다.
여기서 직교는 두 백터의 수직을 의미한다. 일정한 차원을 갖는 함수공간내에 임의의 두 백터가 존재할 때 두 백터가 서로 직교(수직)인 방향이 아니면 반드시 서로 상대의 방향성분을 일정부분 포함하고 있다. 이부분을 두 백터간의 내적(inner product)이라고 하며 신호처리 분야에서는 상호상관이라고 한다.
한 백터에서 상대 백터에 내적인 부분을 백터연산에 의해 감산하면 감산결과백터는 상대백터와는 직교하게된다. 이러한 특성을 가지는 직교화필터를 이용하여 채널신호간에 상호상관이 없는 성분을 구하고 이것을 각 채널신호에 일정비율()로 감쇄시켜 더한다. 여기서 일정비율이란 0과 1사이값으로 스테레오 신호의 공간감(spatial perception)을 저하시키지 않도록 감쇄시키는 비율을 말한다.
이렇게 가산되어 상호상관이 보다 줄어들면 상기에서 적응필터의 반향경로추정이 보다 빨라지고 보다 정확해진다.
이 구조의 또다른 장점은 반파정류필터를 사용한 경우와 달리 갑자기 채널신호에 큰변화가 발생하여도 그 변화가 스테레오 신호에는 서로 유사하게 발생하므로 상호상관성분도 따라서 크지게 된다. 이성분에 본래의 채널신호에서 감산되어지므로 전처리필터 출력은 반파정류필터와 같이 더욱 민감해지는 것과 반대로 둔감해진다. 적응필터 알고리듬(algorithm)은 종래의 NLMS(normalized least mean square)와 APA2(affine projection algorithm of 2nd order)등이 사용되어 진다.
본 발명을 구현함에 있어서, 그람슈미트 함수의 기능은 그람 슈미트 함수 처리기에 의하여 처리되며, 일반적으로 집적회로로 구현된다. 또한, 적응 알고리듬이라고 설명된 블록부는 사실상 적응 알고리듬 처리기를 나타내며, 이 또한 집적 회로로 구현 가능하다.
이상에서 설명한 바와같이,직교화필터를 이용한 본 발명의 전처리필터를 스테레오 음향반향 제거기에 적용함으로써 다음과 같은 효과 또는 장점을 얻을 수 있다.
첫째, 반파정류필터를 사용한 경우보다 보다 많이 상호상관을 줄일 수 있다.
둘째, 전송룸에서의 갑작스런 변화에 반파정류필터보다 덜 민감하여 적응필터의 오동작을 방지할 수 있다.
Claims (2)
- 스테레오 음향반향 제거기에 있어서,제 1 및 제 2 채널 신호를 전달하는 제 1 및 제 2 전송 채널과,상기 제 1 및 제 2 전송 채널 출력단에 설치된 제 1 및 제 2 스피커와,상기 제 1 및 제 2 스피커로부터 출력되는 제 1 및 제 2 출력신호인 제 1 및 제 2 음성반향이 인가되는 제 1 및 제 2 마이크와,상기 제 1 및 제 2 음성반향을 추정하여 제 1 및 제 2 적응계수를 갖는 제 1 및 제 2 적응 필터와,상기 제 1 및 제 2 채널신호를 그람슈미트 함수 처리기에서 처리한 후, 그에 대응하는 제 1 및 제 2 채널신호값이 양수인 경우에 각 처리값을 소정치 감쇠시키고 그에 대응하는 상기 제 1 및 제 2 채널신호와 가산시켜 상기 제 1 및 제 2 채널신호간의 상호상관을 감소시키는 전처리 필터를 구비하며,상기 전처리필터로부터 출력되는 제 1 및 제 2 전처리필터치는 상기 제 1 및 제 2 적응필터에 각각 인가되고,상기 제 1 및 제 2 적응필터로부터 출력되는 제 1 및 제 2 적응필터치는 네거티브 부호가 곱해진 후 상기 제 1 및 제 2 마이크로 인가된 상기 제 1 및 제 2 음성반향 신호와 합산되며,상기 합산된 신호는 적응 알고리듬 처리기에 인가되어 상기 제 1 및 제 2 적응 필터를 제어하는 것을 특징으로하는 스테레오 음향반향 제거기.
- 스테레오 음향반향 제거 방법에 있어서,제 1 및 제 2 채널 신호를 전달하는 단계와,전처리필터를 사용하여 상기 제1 및 제 2 채널 신호를 전처리하는 단계를 구비하며,상기 전처리필터는 상기 제 1 및 제 2 채널신호를 그람슈미트 함수 처리기에서 처리한 후, 그에 대응하는 제 1 및 제 2 채널신호값이 양수인 경우에 각 처리값을 소정치 감쇠시키고 그에 대응하는 상기 제 1 및 제 2 채널신호와 가산시켜 상기 제 1 및 제 2 채널신호간의 상호상관을 감소시키는 것을 특징으로하는 스테레오 음향반향 제거 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1019990028960A KR100329427B1 (ko) | 1999-07-16 | 1999-07-16 | 스테레오 음향반향 제거기 및 그 제거방법 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1019990028960A KR100329427B1 (ko) | 1999-07-16 | 1999-07-16 | 스테레오 음향반향 제거기 및 그 제거방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20010010214A true KR20010010214A (ko) | 2001-02-05 |
KR100329427B1 KR100329427B1 (ko) | 2002-03-20 |
Family
ID=19602456
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1019990028960A KR100329427B1 (ko) | 1999-07-16 | 1999-07-16 | 스테레오 음향반향 제거기 및 그 제거방법 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100329427B1 (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100420581B1 (ko) * | 2001-07-16 | 2004-03-02 | (주) 에스제이-테크 | 전처리 알고리즘이 적용된 스테레오 음향반향 제거장치 및그 방법 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2546693B1 (fr) * | 1983-05-26 | 1985-08-30 | Centre Nat Rech Scient | Annuleur d'echo a filtre numerique adaptatif pour systeme de transmission |
NL8701633A (nl) * | 1987-07-10 | 1989-02-01 | Philips Nv | Digitale echocompensator. |
JP3311110B2 (ja) * | 1993-10-08 | 2002-08-05 | 松下電器産業株式会社 | クロストーク音制御装置 |
US5631899A (en) * | 1995-05-31 | 1997-05-20 | Lucent Technologies Inc. | Acoustic echo canceler |
US5664011A (en) * | 1995-08-25 | 1997-09-02 | Lucent Technologies Inc. | Echo canceller with adaptive and non-adaptive filters |
DE19647276A1 (de) * | 1996-11-15 | 1998-05-20 | Alsthom Cge Alcatel | Verfahren und Anordnung zur adaptiven Echokompensation |
JP3396393B2 (ja) * | 1997-04-30 | 2003-04-14 | 沖電気工業株式会社 | エコー・雑音成分除去装置 |
-
1999
- 1999-07-16 KR KR1019990028960A patent/KR100329427B1/ko not_active IP Right Cessation
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100420581B1 (ko) * | 2001-07-16 | 2004-03-02 | (주) 에스제이-테크 | 전처리 알고리즘이 적용된 스테레오 음향반향 제거장치 및그 방법 |
Also Published As
Publication number | Publication date |
---|---|
KR100329427B1 (ko) | 2002-03-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8594320B2 (en) | Hybrid echo and noise suppression method and device in a multi-channel audio signal | |
JP3727258B2 (ja) | エコー抑制処理システム | |
Shimauchi et al. | Stereo projection echo canceller with true echo path estimation | |
US7778408B2 (en) | Method and apparatus for acoustic echo cancellation utilizing dual filters | |
US20120063609A1 (en) | Acoustic multi-channel cancellation | |
US20020054685A1 (en) | System for suppressing acoustic echoes and interferences in multi-channel audio systems | |
JPH06338827A (ja) | エコー制御装置 | |
US7660425B1 (en) | Acoustic echo cancellation | |
KR20050073604A (ko) | 통계적 적응 필터 제어기 | |
US20080260172A1 (en) | Echo Canceller and Speech Processing Apparatus | |
US20050243995A1 (en) | Method and apparatus for canceling acoustic echo in a double-talk period | |
JPH09139696A (ja) | 適応識別とそれに関する適応エコーキャンセラのための方法と装置 | |
EP2930917A1 (en) | Method and apparatus for updating filter coefficients of an adaptive echo canceller | |
JP3756839B2 (ja) | 反響低減方法、反響低減装置、反響低減プログラム | |
KR100329427B1 (ko) | 스테레오 음향반향 제거기 및 그 제거방법 | |
Mayyas | Stereophonic acoustic echo cancellation using lattice orthogonalization | |
EP1055292B1 (en) | Echo canceller | |
Puder et al. | Controlling the adaptation of feedback cancellation filters-problem analysis and solution approaches | |
Khong et al. | A family of selective-tap algorithms for stereo acoustic echo cancellation | |
JPH07121027B2 (ja) | 拡声電話機 | |
Kallinger et al. | Multi-microphone residual echo estimation | |
JPH01215130A (ja) | エコーキャンセラー装置 | |
JP3725052B2 (ja) | 音声通信システム | |
Schwartz et al. | Efficient Joint Bemforming and Acoustic Echo Cancellation Structure for Conference Call Scenarios | |
Xiao et al. | A Stereophonic Acoustic Echo Cancellation Algorithm Based on Sub-band Extended LMS Algorithm and Dual-Filter Structure |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
LAPS | Lapse due to unpaid annual fee |