KR20160149961A - 음성 신호 처리 방법 및 장치 - Google Patents
음성 신호 처리 방법 및 장치 Download PDFInfo
- Publication number
- KR20160149961A KR20160149961A KR1020150106774A KR20150106774A KR20160149961A KR 20160149961 A KR20160149961 A KR 20160149961A KR 1020150106774 A KR1020150106774 A KR 1020150106774A KR 20150106774 A KR20150106774 A KR 20150106774A KR 20160149961 A KR20160149961 A KR 20160149961A
- Authority
- KR
- South Korea
- Prior art keywords
- signal
- power
- echo
- formant
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B13/00—Transmission systems characterised by the medium used for transmission, not provided for in groups H04B3/00 - H04B11/00
- H04B13/005—Transmission systems in which the medium consists of the human body
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Computer Networks & Wireless Communication (AREA)
- Mathematical Physics (AREA)
- Telephone Function (AREA)
Abstract
Description
도 2는 개시된 실시예에 따른 음성 신호 처리 장치의 내부 구성을 나타내는 블록도이다.
도 3은 개시된 실시예에 따라 웨어러블 기기를 이용하여 포먼트 증강 필터가 적용된 음성 신호를 인체를 매질로 하여 전달하는 예시를 나타내는 도면이다.
도 4는 개시된 실시예에 따른 음성 처리 신호 장치가 음성 신호에 포먼트 증강 필터를 적용하여 출력하는 과정을 나타내는 도면이다.
도 5는 개시된 실시예에 따라 웨어러블 기기를 통해 사용자 음성을 입력하는 과정을 나타내는 도면이다.
도 6은 개시된 실시예에 따른 음성 신호 처리 장치가 에코를 제거하는 과정을 나타내는 도면이다.
도 7은 개시된 실시예에 따라 음성 신호에 포먼트 증강 필터를 적용하여 출력하는 방법을 나타내는 순서도이다.
도 8은 개시된 실시예에 따라 에코를 제거하는 방법을 나타내는 순서도이다.
220: 액추에이터
230: 포먼트 증강 필터
240: 마이크부
250: 잡음 및 에코 제거 필터
260: 저장부
270: 제어부
Claims (20)
- 데이터를 송수신하는 통신부;
진동을 발생시켜 신호를 출력하는 액추에이터(actuator);
음성 신호의 포먼트를 증가시키는 포먼트 증강 필터; 및
상기 통신부를 통해 상기 음성 신호를 수신하도록 제어하고, 선형 예측 부호화(Linear Predictive Coding)를 기반으로 상기 음성 신호로부터 적어도 하나 이상의 포먼트 주파수를 추정하며, 상기 적어도 하나 이상의 포먼트 주파수의 대역폭을 추정하고, 상기 음성 신호가 유성음인지 무성음인지 판별하며, 상기 포먼트 주파수, 상기 포먼트 주파수의 대역폭, 상기 판별한 유성음 또는 무성음의 특성 및 인체의 신호 전달 특성을 기반으로 상기 포먼트 증강 필터를 구성하고, 상기 포먼트 증강 필터를 상기 음성 신호에 적용하며, 상기 액추에이터를 통해 상기 포먼트 증강 필터가 적용된 음성 신호를 상기 인체를 통해 출력하도록 제어하는 제어부를 포함하는 음성 신호 처리 장치.
- 제1항에 있어서,
상기 제어부는,
상기 포먼트 주파수를 추정 시, 선형 예측 부호화 분석을 통해 선형 예측 부호화 계수(Linear Predictive Coding Coefficients)를 획득하고, 상기 선형 예측 부호화 계수를 기반으로 선형 예측 부호화 엔벨로프(envelope)를 획득하며, 상기 선형 예측 부호화 엔벨로프의 기울기가 양수에서 음수가 되는 주파수를 상기 포먼트 주파수로 추정하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제2항에 있어서,
상기 제어부는,
상기 적어도 하나 이상의 포먼트 주파수의 대역폭을 추정 시, 상기 선형 예측 부호화 계수를 기반으로 상기 적어도 하나 이상의 포먼트 주파수의 대역폭을 추정하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제2항에 있어서,
상기 제어부는,
상기 음성 신호가 유성음인지 무성음인지 판별 시, 상기 선형 예측 부호화 엔벨로프를 기반으로 상기 음성 신호가 유성음인지 무성음인지 판별하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제1항에 있어서,
상기 포먼트 증강 필터는,
상기 포먼트 주파수 대역의 이득을 강화하는 윈도우 함수로 구현되는 것을 특징으로 하는 음성 신호 처리 장치.
- 제1항에 있어서,
오디오 신호를 입력 받는 마이크부; 및
잡음 성분과 에코(echo) 성분을 제거하는 잡음 및 에코 제거 필터를 더 포함하고,
상기 제어부는,
상기 마이크부를 통해 재입력 되는 상기 포먼트 증강 필터가 적용된 음성 신호를 기반으로 상기 에코 성분에 대하여 전력을 추정하여 에코 전력을 획득하고, 상기 마이크부를 통해 입력 되는 배경 잡음의 전력을 추정하여 잡음 신호 전력을 획득하며, 상기 에코 전력과 상기 잡음 신호 전력을 결합하여 결합 전력을 획득하고, 상기 결합 전력을 기반으로 에코 및 잡음 제거 필터를 구성하며, 상기 마이크부를 통해 사용자 음성 신호를 포함하는 상기 오디오 신호를 입력 받고, 상기 입력 받은 오디오 신호에 상기 잡음 및 에코 제거 필터를 적용하여 상기 오디오 신호에 포함된 상기 사용자 음성 신호를 추정하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제6항에 있어서,
상기 제어부는,
상기 에코 전력을 획득 시, 상기 포먼트 증강 필터가 적용된 음성 신호를 기반으로 이득값 필터를 추정하며, 상기 추정한 이득값 필터를 이용하여 상기 에코 성분에 대한 진폭 스펙트럼(magnitude spectrum)을 획득하고, 상기 획득한 진폭 스펙트럼 및 과거에 추정한 에코 전력을 이용한 스무딩(smoothing)을 수행하여 현재의 에코 전력을 획득하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제6항에 있어서,
상기 제어부는,
상기 에코 전력과 상기 잡음 신호 전력을 결합하여 결합 전력을 획득 시, 상기 에코 전력, 상기 잡음 신호 전력 및 과거 결합 전력을 이용한 스무딩을 수행하여 현재의 결합 전력을 획득하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제6항에 있어서,
상기 제어부는,
상기 결합 전력을 기반으로 에코 및 잡음 제거 필터를 구성 시, 상기 결합 전력을 기반으로 제1 사전 신호 대 결합 전력비(priori SCR) 및 사후 신호 대 결합 전력비(posteriori SCR)를 추정하고, 상기 결합 전력, 상기 사후 신호 대 결합 전력 비 및 과거 음성 신호의 전력을 기반으로 결정 지향 방식으로 제2 사전 신호 대 결합 전력 비를 추정하며, 상기 제2 사전 신호 대 결합 전력 비를 기반으로 상기 에코 및 잡음 제거 필터를 구성하는 것을 특징으로 하는 음성 신호 처리 장치.
- 제9항에 있어서,
상기 제어부는,
상기 오디오 신호에 포함된 상기 사용자 음성 신호를 추정 시, 상기 사후 신호 대 결합 전력비와 상기 사후 신호 대 결합 전력비의 문턱값을 비교하여 표시 함수(indicator function) 값을 결정하고, 상기 표시 함수 값과 과거 음성 신호가 존재하지 않을 때의 사전 확률을 기반으로 현재 음성 신호가 존재하지 않을 사전 확률을 추정하며, 상기 제1 사전 신호 대 결합 전력 비, 상기 사후 신호 대 결합 전력 비 및 제2 사전 신호 대 결합 전력 비를 기반으로 우도비(likelihood ratio)를 계산하고, 상기 현재 음성 신호가 존재하지 않을 사전 확률과 상기 우도비를 기반으로 음성 신호의 존재 확률을 계산하며, 상기 에코 및 잡음 제거 필터 및 상기 음성 신호의 존재 확률을 기반으로 상기 사용자 음성 신호를 추정하는 것을 특징으로 하는 음성 신호 처리 장치.
- 음성 신호를 수신하는 단계;
선형 예측 부호화를 기반으로 상기 음성 신호로부터 적어도 하나 이상의 포먼트 주파수를 추정하는 단계;
상기 적어도 하나 이상의 포먼트 주파수의 대역폭을 추정하는 단계;
상기 음성 신호가 유성음인지 무성음인지 판별하는 단계;
상기 포먼트 주파수, 상기 포먼트 주파수의 대역폭, 상기 판별한 유성음 또는 무성음의 특성 및 인체의 신호 전달 특성을 기반으로 포먼트 증강 필터를 구성하는 단계;
상기 포먼트 증강 필터를 상기 음성 신호에 적용하는 단계; 및
상기 포먼트 증강 필터가 적용된 음성 신호를 상기 인체를 통해 출력하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제11항에 있어서,
상기 포먼트 주파수를 추정하는 단계는,
선형 예측 부호화 분석을 통해 선형 예측 부호화 계수를 획득하는 단계;
상기 선형 예측 부호화 계수를 기반으로 선형 예측 부호화 엔벨로프를 획득하는 단계; 및
상기 선형 예측 부호화 엔벨로프의 기울기가 양수에서 음수가 되는 주파수를 상기 포먼트 주파수로 추정하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제12항에 있어서,
상기 적어도 하나 이상의 포먼트 주파수의 대역폭을 추정하는 단계는,
상기 선형 예측 부호화 계수를 기반으로 상기 적어도 하나 이상의 포먼트 주파수의 대역폭을 추정하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제12항에 있어서,
상기 음성 신호가 유성음인지 무성음인지 판별하는 단계는,
상기 선형 예측 부호화 엔벨로프를 기반으로 상기 음성 신호가 유성음인지 무성음인지 판별하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제11항에 있어서,
상기 포먼트 증강 필터는,
상기 포먼트 주파수 대역의 이득을 강화하는 윈도우 함수로 구현되는 것을 특징으로 하는 음성 신호 처리 방법.
- 제11항에 있어서,
마이크부를 통해 재입력 되는 상기 포먼트 증강 필터가 적용된 음성 신호를 기반으로 에코 성분에 대하여 전력을 추정하여 에코 전력을 획득하는 단계;
상기 마이크부를 통해 입력 되는 배경 잡음의 전력을 추정하여 잡음 신호 전력을 획득하는 단계;
상기 에코 전력과 상기 잡음 신호 전력을 결합하여 결합 전력을 획득하는 단계;
상기 결합 전력을 기반으로 에코 및 잡음 제거 필터를 구성하는 단계;
상기 마이크부를 통해 사용자 음성 신호를 포함하는 오디오 신호를 입력 받는 단계;
상기 입력 받은 오디오 신호에 상기 잡음 및 에코 제거 필터를 적용하여 상기 오디오 신호에 포함된 상기 사용자 음성 신호를 추정하는 단계를 더 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제16항에 있어서,
상기 에코 전력을 획득하는 단계는,
상기 포먼트 증강 필터가 적용된 음성 신호를 기반으로 이득값 필터를 추정하는 단계;
상기 추정한 이득값 필터를 이용하여 상기 에코 성분에 대한 진폭 스펙트럼을 획득하는 단계; 및
상기 획득한 진폭 스펙트럼 및 과거에 추정한 에코 전력을 이용한 스무딩을 수행하여 현재의 에코 전력을 획득하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제16항에 있어서,
상기 에코 전력과 상기 잡음 신호 전력을 결합하여 결합 전력을 획득하는 단계는,
상기 에코 전력, 상기 잡음 신호 전력 및 과거 결합 전력을 이용한 스무딩을 수행하여 현재의 결합 전력을 획득하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제16항에 있어서,
상기 결합 전력을 기반으로 에코 및 잡음 제거 필터를 구성하는 단계는,
상기 결합 전력을 기반으로 제1 사전 신호 대 결합 전력비 및 사후 신호 대 결합 전력비를 추정하는 단계;
상기 결합 전력, 상기 사후 신호 대 결합 전력 비 및 과거 음성 신호의 전력을 기반으로 결정 지향 방식으로 제2 사전 신호 대 결합 전력 비를 추정하는 단계;
상기 제2 사전 신호 대 결합 전력 비를 기반으로 상기 에코 및 잡음 제거 필터를 구성하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
- 제19항에 있어서,
상기 오디오 신호에 포함된 상기 사용자 음성 신호를 추정하는 단계는,
상기 사후 신호 대 결합 전력비와 상기 사후 신호 대 결합 전력비의 문턱값을 비교하여 표시 함수 값을 결정하는 단계;
상기 표시 함수 값과 과거 음성 신호가 존재하지 않을 때의 사전 확률을 기반으로 현재 음성 신호가 존재하지 않을 사전 확률을 추정하는 단계;
상기 제1 사전 신호 대 결합 전력 비, 상기 사후 신호 대 결합 전력 비 및 제2 사전 신호 대 결합 전력 비를 기반으로 우도비를 계산하는 단계;
상기 현재 음성 신호가 존재하지 않을 사전 확률과 상기 우도비를 기반으로 음성 신호의 존재 확률을 계산하는 단계; 및
상기 에코 및 잡음 제거 필터 및 상기 음성 신호의 존재 확률을 기반으로 상기 사용자 음성 신호를 추정하는 단계를 포함하는 것을 특징으로 하는 음성 신호 처리 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/181,716 US9847093B2 (en) | 2015-06-19 | 2016-06-14 | Method and apparatus for processing speech signal |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562182021P | 2015-06-19 | 2015-06-19 | |
US62/182,021 | 2015-06-19 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20160149961A true KR20160149961A (ko) | 2016-12-28 |
KR101824648B1 KR101824648B1 (ko) | 2018-03-14 |
Family
ID=57724434
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020150106774A Expired - Fee Related KR101824648B1 (ko) | 2015-06-19 | 2015-07-28 | 음성 신호 처리 방법 및 장치 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101824648B1 (ko) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019156338A1 (ko) * | 2018-02-12 | 2019-08-15 | 삼성전자 주식회사 | 노이즈가 정제된 음성 신호를 획득하는 방법 및 이를 수행하는 전자 장치 |
KR20190098475A (ko) * | 2018-02-14 | 2019-08-22 | 삼성전자주식회사 | 복수개의 개구부들을 이용하여 소리를 획득하는 마이크로폰을 포함하는 웨어러블 장치 |
WO2023033602A1 (ko) * | 2021-09-02 | 2023-03-09 | 삼성전자 주식회사 | 소리를 출력하는 전자 장치와 이의 동작 방법 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3067762B2 (ja) * | 1998-03-18 | 2000-07-24 | 日本電信電話株式会社 | 装着型通信装置 |
JP2012147077A (ja) * | 2011-01-07 | 2012-08-02 | Jvc Kenwood Corp | 骨伝導型音声伝達装置 |
JP2014175776A (ja) * | 2013-03-07 | 2014-09-22 | Sharp Corp | 携帯端末装置、携帯端末装置を制御する方法、および携帯端末装置を制御するためのプログラム |
-
2015
- 2015-07-28 KR KR1020150106774A patent/KR101824648B1/ko not_active Expired - Fee Related
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019156338A1 (ko) * | 2018-02-12 | 2019-08-15 | 삼성전자 주식회사 | 노이즈가 정제된 음성 신호를 획득하는 방법 및 이를 수행하는 전자 장치 |
KR20190097473A (ko) * | 2018-02-12 | 2019-08-21 | 삼성전자주식회사 | 노이즈가 정제된 음성 신호를 획득하는 방법 및 이를 수행하는 전자 장치 |
US11238880B2 (en) | 2018-02-12 | 2022-02-01 | Samsung Electronics Co., Ltd. | Method for acquiring noise-refined voice signal, and electronic device for performing same |
KR20190098475A (ko) * | 2018-02-14 | 2019-08-22 | 삼성전자주식회사 | 복수개의 개구부들을 이용하여 소리를 획득하는 마이크로폰을 포함하는 웨어러블 장치 |
WO2023033602A1 (ko) * | 2021-09-02 | 2023-03-09 | 삼성전자 주식회사 | 소리를 출력하는 전자 장치와 이의 동작 방법 |
Also Published As
Publication number | Publication date |
---|---|
KR101824648B1 (ko) | 2018-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103440871B (zh) | 一种语音中瞬态噪声抑制的方法 | |
RU2768514C2 (ru) | Процессор сигналов и способ обеспечения обработанного аудиосигнала с подавленным шумом и подавленной реверберацией | |
CN103440872B (zh) | 瞬态噪声的去噪方法 | |
EP2346032B1 (en) | Noise suppressor and voice decoder | |
US9390718B2 (en) | Audio signal restoration device and audio signal restoration method | |
CN108172231A (zh) | 一种基于卡尔曼滤波的去混响方法及系统 | |
US9847093B2 (en) | Method and apparatus for processing speech signal | |
EP2624254A1 (en) | Audio processing device and audio processing method for de-reverberation | |
CN101976566A (zh) | 语音增强方法及应用该方法的装置 | |
US20080312916A1 (en) | Receiver Intelligibility Enhancement System | |
CN111554315A (zh) | 单通道语音增强方法及装置、存储介质、终端 | |
Mosayyebpour et al. | Single-microphone early and late reverberation suppression in noisy speech | |
Udrea et al. | An improved spectral subtraction method for speech enhancement using a perceptual weighting filter | |
Seidel et al. | Y $^ 2$-Net FCRN for acoustic echo and noise suppression | |
EP1995722B1 (en) | Method for processing an acoustic input signal to provide an output signal with reduced noise | |
Zhou et al. | Speech dereverberation with a reverberation time shortening target | |
KR101824648B1 (ko) | 음성 신호 처리 방법 및 장치 | |
RU2725017C1 (ru) | Устройство и способ для обработки аудиосигнала | |
US8406430B2 (en) | Simulated background noise enabled echo canceller | |
KR101850693B1 (ko) | 인-이어 마이크로폰을 갖는 이어셋의 대역폭 확장 장치 및 방법 | |
CN107045874A (zh) | 一种基于相关性的非线性语音增强方法 | |
CN105938714B (zh) | 在免提通信中的重噪声条件下改善话音质量 | |
JP5840087B2 (ja) | 音声信号復元装置および音声信号復元方法 | |
KR20160045692A (ko) | 가청 신호의 후기 잔향을 억제하기 위한 방법 | |
Deepa et al. | Single channel speech enhancement using spectral gain shaping method and dereverberation for digital hearing aid |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20150728 |
|
A201 | Request for examination | ||
A302 | Request for accelerated examination | ||
AMND | Amendment | ||
PA0201 | Request for examination |
Patent event code: PA02012R01D Patent event date: 20161226 Comment text: Request for Examination of Application Patent event code: PA02011R01I Patent event date: 20150728 Comment text: Patent Application |
|
PA0302 | Request for accelerated examination |
Patent event date: 20161226 Patent event code: PA03022R01D Comment text: Request for Accelerated Examination Patent event date: 20150728 Patent event code: PA03021R01I Comment text: Patent Application |
|
PG1501 | Laying open of application | ||
AMND | Amendment | ||
AMND | Amendment | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20170406 Patent event code: PE09021S01D |
|
AMND | Amendment | ||
E601 | Decision to refuse application | ||
PE0601 | Decision on rejection of patent |
Patent event date: 20170828 Comment text: Decision to Refuse Application Patent event code: PE06012S01D Patent event date: 20170406 Comment text: Notification of reason for refusal Patent event code: PE06011S01I |
|
AMND | Amendment | ||
PX0901 | Re-examination |
Patent event code: PX09011S01I Patent event date: 20170828 Comment text: Decision to Refuse Application Patent event code: PX09012R01I Patent event date: 20170601 Comment text: Amendment to Specification, etc. Patent event code: PX09012R01I Patent event date: 20170307 Comment text: Amendment to Specification, etc. Patent event code: PX09012R01I Patent event date: 20170123 Comment text: Amendment to Specification, etc. Patent event code: PX09012R01I Patent event date: 20161226 Comment text: Amendment to Specification, etc. |
|
PX0701 | Decision of registration after re-examination |
Patent event date: 20171026 Comment text: Decision to Grant Registration Patent event code: PX07013S01D Patent event date: 20170927 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I Patent event date: 20170828 Comment text: Decision to Refuse Application Patent event code: PX07011S01I Patent event date: 20170601 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I Patent event date: 20170307 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I Patent event date: 20170123 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I Patent event date: 20161226 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I |
|
X701 | Decision to grant (after re-examination) | ||
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20180126 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20180129 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20201230 Start annual number: 4 End annual number: 4 |
|
PC1903 | Unpaid annual fee |
Termination category: Default of registration fee Termination date: 20221106 |