KR101877127B1 - 심화 신경망을 이용한 시간 및 주파수 간 상관도 기반의 음성 검출기 및 음성 검출 방법 - Google Patents
심화 신경망을 이용한 시간 및 주파수 간 상관도 기반의 음성 검출기 및 음성 검출 방법 Download PDFInfo
- Publication number
- KR101877127B1 KR101877127B1 KR1020160129031A KR20160129031A KR101877127B1 KR 101877127 B1 KR101877127 B1 KR 101877127B1 KR 1020160129031 A KR1020160129031 A KR 1020160129031A KR 20160129031 A KR20160129031 A KR 20160129031A KR 101877127 B1 KR101877127 B1 KR 101877127B1
- Authority
- KR
- South Korea
- Prior art keywords
- vector
- feature vector
- voice
- speech
- training
- Prior art date
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 18
- 238000000034 method Methods 0.000 title claims description 10
- 238000001514 detection method Methods 0.000 claims abstract description 39
- 239000013598 vector Substances 0.000 claims description 97
- 238000012549 training Methods 0.000 claims description 32
- 230000003595 spectral effect Effects 0.000 claims description 27
- 238000013145 classification model Methods 0.000 claims description 26
- 239000011159 matrix material Substances 0.000 claims description 23
- 238000001228 spectrum Methods 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 7
- 238000013179 statistical model Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000012795 verification Methods 0.000 claims description 5
- 238000012935 Averaging Methods 0.000 claims description 4
- 238000012360 testing method Methods 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 14
- 238000004891 communication Methods 0.000 abstract description 10
- 230000005540 biological transmission Effects 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 238000003657 Likelihood-ratio test Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 206010002953 Aphonia Diseases 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/02—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using spectral analysis, e.g. transform vocoders or subband vocoders
- G10L19/032—Quantisation or dequantisation of spectral components
- G10L19/038—Vector quantisation, e.g. TwinVQ audio
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
- G10L17/04—Training, enrolment or model building
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/06—Determination or coding of the spectral characteristics, e.g. of the short-term prediction coefficients
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/78—Detection of presence or absence of voice signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Complex Calculations (AREA)
- Telephonic Communication Services (AREA)
Abstract
Description
도 2는 본 발명의 일시시예에 대해서, 심화 신경망을 이용한 시간 및 주파수 사이의 상관도가 고려된 음성 검출 방법에서 각 단계의 순서도를 도시한 도면.
도 3은 본 발명의 일시시예에 대해서, 시간 및 주파수 사이의 상관도가 고려된 특징 벡터 추출과 심화 신경망을 결합한 음성 검출 방법을 도시한 도면.
도 4는 본 발명의 일시시예에 대해서, 음성 검출기에서의 신호 흐름을 도시한 도면.
도 5는 본 발명의 일시시예에 대해서, 시간 및 주파수 사이의 상관도의 고려 정도에 따른 여러 유형의 벡터 차원을 도시한 도면.
도 6는 본 발명의 일시시예에 대해서, 음성 검출 방법을 종래 기술과 비교하여 도시한 그래프 도면.
S200: 상관도가 고려된 벡터를 통해 특징 벡터를 추정하는 단계
S210: 입력 신호를 단구간 푸리에 변환(STFT)
S220: 시간 축과 주파수 축으로 인접한 스펙트럼을 통해 시간 및 주파수 사이의 상관도가 고려된 벡터 생성
S230: 확장된 벡터를 통해 입력 신호의 전력 스펙트럼 밀도(PSD) 행렬을 연산하고 재귀 평균을 통한 PSD 누적
S240: 깨끗한 음성 PSD 추정 및 음성 존재 확률(SPP) 추정
S250: 추정된 SPP와 가변 매개 변수를 통해 잡음 PSD 추정
S300: 입력 신호 PSD 행렬의 대각합과 SPP 연산을 통해 추정되는 일반화된 우도비를 특징 벡터로 추출 및 결합
S400: 심화 신경망을 이용한 분류 모델 훈련
S500: 학습된 분류 모델 이용하여 음성 검출 수행
100: 입력 수단
200: 상관도가 고려된 특징 벡터 산출 모듈
300: 특징 벡터 추출 및 결합 모듈
400: DNN 훈련 모듈
500: 음성 검출 모듈
Claims (11)
- 입력 신호를 입력하는 입력 수단;
상관도가 고려된 벡터를 통해 특징 벡터를 추정하는 특징 벡터 산출 모듈;
입력 신호에 대한 전력 스펙트럼 밀도 행렬의 대각합과 음성 존재 확률 연산을 통해 추정되는 일반화된 우도비를 특징 벡터로 추출하고 결합하는 특징 벡터 추출 및 결합 모듈;
결합된 특징 벡터를 심화 신경망에서 분류 모델을 학습하는 훈련 모듈; 및
학습된 분류 모델을 이용하여 음성을 검출하는 음성 검출 모듈;을 포함하며,
상기 특징 벡터 산출 모듈은,
스펙트럼 상에서 특정 시간, 특정 주파수에 해당하는 스펙트럼 계수의 시간 축 및 주파수 축으로 인접한 스펙트럼 계수들을 포함하는 벡터를 생성하여 특징 벡터를 추정하며,
상기 특징 벡터 추출 및 결합 모듈은,
매 프레임마다 누적 연산된 입력 신호의 전력 스펙트럼 밀도 행렬의 대각합 및 일반화된 우도비를 추출하고 이 특징 벡터들을 하나의 다중 특징으로 결합하며,
상기 훈련 모듈은,
훈련 단계에서 대조적 발산 알고리즘을 통해 분류 모델을 초기화하고 상대 엔트로피 오차를 최소화하는 방향으로 각 층의 가중치 매개 변수에 대한 상대 엔트로피 오차 함수의 도함수를 이용한 역전파 알고리즘을 통해 분류 모델을 갱신하고,
상기 음성 검출 모듈은,
검증 단계에서 훈련 단계와 마찬가지로 입력 특징 벡터를 구성하고 훈련 단계에서 생성된 분류 모델을 입력 특징 벡터에 적용하여 산출된, 출력 노드 값에 소프트맥스 알고리즘을 적용하여 나오는 확률 값을 특정 문턱값과 비교하여 음성을 검출하고,
상기 결합된 특징 벡터는 상기 입력 신호가 훈련 스테이지(training stage) 및 검증 스테이지(test stage)로 각각 분리된 후 특징 벡터가 추출되고 결합되어 생성되며,
추출된 벡터의 프레임이 음성 존재 또는 음성 부존재에 따라 훈련 목표값이 다르게 설정되는 것을 특징으로 하는 음성 검출기.
- 삭제
- 삭제
- 삭제
- 삭제
- 입력 수단에 신호 입력 단계;
상관도가 고려된 벡터를 통해 특징 벡터를 추정하는 단계;
입력 신호에 대한 전력 스펙트럼 밀도 행렬의 대각합과 음성 존재 확률 연산을 통해 추정되는 일반화된 우도비를 특징 벡터로 추출 및 결합 단계;
심화 신경망을 이용한 분류 모델 훈련 단계; 및
학습된 분류 모델 이용하여 음성 검출 수행 단계;를 포함하며,
상기 상관도가 고려된 벡터를 통해 특징 벡터를 추정하는 단계는,
스펙트럼 상에서 특정 시간, 특정 주파수에 해당하는 스펙트럼 계수의 시간 축 및 주파수 축으로 인접한 스펙트럼 계수들을 포함하는 벡터를 생성하여 특징 벡터를 추정하며,
상기 일반화된 우도비를 특징 벡터로 추출 및 결합 단계는,
매 프레임마다 누적 연산된 입력 신호의 전력 스펙트럼 밀도 행렬의 대각합 및 일반화된 우도비를 추출하고 이 특징 벡터들을 하나의 다중 특징으로 결합하며,
심화 신경망을 이용한 분류 모델 훈련 단계는,
훈련 단계에서 대조적 발산 알고리즘을 통해 분류 모델을 초기화하고 상대 엔트로피 오차를 최소화하는 방향으로 각 층의 가중치 매개 변수에 대한 상대 엔트로피 오차 함수의 도함수를 이용한 역전파 알고리즘을 통해 분류 모델을 갱신하고,
학습된 분류 모델 이용하여 음성 검출 수행 단계는,
검증 단계에서 훈련 단계와 마찬가지로 입력 특징 벡터를 구성하고 훈련 단계에서 생성된 분류 모델을 입력 특징 벡터에 적용하여 산출된, 출력 노드 값에 소프트맥스 알고리즘을 적용하여 나오는 확률 값을 특정 문턱값과 비교하여 음성을 검출하고,
상기 결합된 특징 벡터는 상기 입력 신호가 훈련 스테이지(training stage) 및 검증 스테이지(test stage)로 각각 분리된 후 특징 벡터가 추출되고 결합되어 생성되며,
추출된 벡터의 프레임이 음성 존재 또는 음성 부존재에 따라 훈련 목표값이 다르게 설정되는 것을 특징으로 하는 음성 검출 방법.
- 제6 항에 있어서,
상관도가 고려된 벡터를 통해 특징 벡터를 추정하는 단계는,
입력 신호를 단구간 푸리에 변환하는 단계;
시간 축과 주파수 축으로 인접한 스펙트럼을 통해 시간 및 주파수 사이의 상관도가 고려된 벡터 생성하는 단계;
확장된 벡터를 통해 입력 신호의 전력 스펙트럼 밀도 행렬을 연산하고 재귀 평균을 통해 전력 스펙트럼 밀도를 누적하는 단계;
깨끗한 음성의 전력 스펙트럼 밀도 추정 및 음성 존재 확률 추정하는 단계; 및
추정된 음성 존재 확률과 가변 매개 변수를 통해 잡음 신호의 전력 스펙트럼 밀도 추정하는 단계;를 포함하는 것을 특징으로 하는 음성 검출 방법. - 제6 항에 있어서,
시간 축과 주파수 축으로 인접한 스펙트럼을 통해 시간 및 주파수 사이의 상관도가 고려된 벡터 생성하는 단계는,
단구간 푸리에 변환을 통해 스펙트럼 상의 입력 신호에 대한 단구간 푸리에 변환 계수를 이에 시간 축과 주파수 축으로 인접한 단구간 푸리에 변환 계수를 추가하여 새롭게 생성된 상관도가 고려된 벡터를 생성하는 단계를 포함하는 것을 특징으로 하는 음성 검출 방법.
- 제6 항에 있어서,
입력 신호에 대한 전력 스펙트럼 밀도 행렬의 대각합과 음성 존재 확률 연산을 통해 추정되는 일반화된 우도비를 특징 벡터로 추출 및 결합 단계는,
통계적 모델을 가정하고 산출한 일반화된 우도비와 음향 모델에 해당하는 전력 스펙트럼 밀도 행렬의 대각합을 각각 특징 벡터로 추출하고 추출된 벡터를 합쳐 다중 특징으로 결합하는 것을 특징으로 하는 음성 검출 방법.
- 삭제
- 삭제
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160129031A KR101877127B1 (ko) | 2016-10-06 | 2016-10-06 | 심화 신경망을 이용한 시간 및 주파수 간 상관도 기반의 음성 검출기 및 음성 검출 방법 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160129031A KR101877127B1 (ko) | 2016-10-06 | 2016-10-06 | 심화 신경망을 이용한 시간 및 주파수 간 상관도 기반의 음성 검출기 및 음성 검출 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180038219A KR20180038219A (ko) | 2018-04-16 |
KR101877127B1 true KR101877127B1 (ko) | 2018-07-10 |
Family
ID=62082163
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160129031A KR101877127B1 (ko) | 2016-10-06 | 2016-10-06 | 심화 신경망을 이용한 시간 및 주파수 간 상관도 기반의 음성 검출기 및 음성 검출 방법 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101877127B1 (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11972752B2 (en) | 2022-09-02 | 2024-04-30 | Actionpower Corp. | Method for detecting speech segment from audio considering length of speech segment |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102137151B1 (ko) * | 2018-12-27 | 2020-07-24 | 엘지전자 주식회사 | 노이즈 캔슬링 장치 및 그 방법 |
CN110265065B (zh) * | 2019-05-13 | 2021-08-03 | 厦门亿联网络技术股份有限公司 | 一种构建语音端点检测模型的方法及语音端点检测系统 |
KR20210038051A (ko) | 2019-09-30 | 2021-04-07 | 국방과학연구소 | 음성 복원 장치 및 그 방법, 그 방법을 프로세서가 수행하도록 하기 위한 명령어를 포함하는 컴퓨터 판독 가능한 기록매체 및 컴퓨터 프로그램 |
CN111524525B (zh) * | 2020-04-28 | 2023-06-16 | 平安科技(深圳)有限公司 | 原始语音的声纹识别方法、装置、设备及存储介质 |
KR102598285B1 (ko) * | 2020-09-16 | 2023-11-06 | 서울과학기술대학교 산학협력단 | FS-Net 기반의 심층 신경망을 이용한 MIMO 무선 통신 시스템 및 방법 |
CN112414446B (zh) * | 2020-11-02 | 2023-01-17 | 南昌智能新能源汽车研究院 | 一种数据驱动的变速器传感器故障诊断方法 |
CN114238849A (zh) * | 2021-12-06 | 2022-03-25 | 安徽大学 | 基于复数谱子带融合的虚假音频检测方法及其系统 |
KR102688359B1 (ko) * | 2022-11-18 | 2024-07-26 | 광주과학기술원 | 음성 및 잡음 파워 스펙트럼 추정을 이용한 음성 향상 장치 및 방법 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004240214A (ja) * | 2003-02-06 | 2004-08-26 | Nippon Telegr & Teleph Corp <Ntt> | 音響信号判別方法、音響信号判別装置、音響信号判別プログラム |
JP2015057630A (ja) * | 2013-08-13 | 2015-03-26 | 日本電信電話株式会社 | 音響イベント識別モデル学習装置、音響イベント検出装置、音響イベント識別モデル学習方法、音響イベント検出方法及びプログラム |
-
2016
- 2016-10-06 KR KR1020160129031A patent/KR101877127B1/ko active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004240214A (ja) * | 2003-02-06 | 2004-08-26 | Nippon Telegr & Teleph Corp <Ntt> | 音響信号判別方法、音響信号判別装置、音響信号判別プログラム |
JP2015057630A (ja) * | 2013-08-13 | 2015-03-26 | 日本電信電話株式会社 | 音響イベント識別モデル学習装置、音響イベント検出装置、音響イベント識別モデル学習方法、音響イベント検出方法及びプログラム |
Non-Patent Citations (9)
Title |
---|
Inyoung Hwang, et al. Voice Activity Detection based on Statistical Model Employing Deep Neural Network. IEEE 2014 Tenth International Conference on IIH-MSP. 2014.08.29. * |
Inyoung Hwang, et al. Voice Activity Detection based on Statistical Model Employing Deep Neural Network. IEEE 2014 Tenth International Conference on IIH-MSP. 2014.08.29.* |
논문1:2014 * |
논문2:KSCSP2015 * |
논문3:한국통신학회지(2016.09) * |
표은종, et al. 시간 및 주파수 상관도를 고려한 음성 검출기. 음성통신 및 신호처리 학술대회. 2015.08. * |
표은종, et al. 시간 및 주파수 상관도를 고려한 음성 검출기. 음성통신 및 신호처리 학술대회. 2015.08.* |
황인영, et al. 통계모델 기반의 음성검출기를 위한 주변잡음식별기술을 이용한 다중심화신경망. 음성통신 및 신호처리 학술대회. 2015.08. * |
황인영, et al. 통계모델 기반의 음성검출기를 위한 주변잡음식별기술을 이용한 다중심화신경망. 음성통신 및 신호처리 학술대회. 2015.08.* |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11972752B2 (en) | 2022-09-02 | 2024-04-30 | Actionpower Corp. | Method for detecting speech segment from audio considering length of speech segment |
Also Published As
Publication number | Publication date |
---|---|
KR20180038219A (ko) | 2018-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101877127B1 (ko) | 심화 신경망을 이용한 시간 및 주파수 간 상관도 기반의 음성 검출기 및 음성 검출 방법 | |
US10672414B2 (en) | Systems, methods, and computer-readable media for improved real-time audio processing | |
Heymann et al. | Neural network based spectral mask estimation for acoustic beamforming | |
CN112735456B (zh) | 一种基于dnn-clstm网络的语音增强方法 | |
CN110767223B (zh) | 一种单声道鲁棒性的语音关键词实时检测方法 | |
US9489965B2 (en) | Method and apparatus for acoustic signal characterization | |
CN111653288A (zh) | 基于条件变分自编码器的目标人语音增强方法 | |
KR101640188B1 (ko) | 심화 신경망을 이용한 통계모델 기반의 음성 검출 방법 및 이를 수행하는 음성 검출 장치 | |
US20040199384A1 (en) | Speech model training technique for speech recognition | |
KR102406512B1 (ko) | 음성인식 방법 및 그 장치 | |
KR102206546B1 (ko) | 잡음 환경 분류 및 제거 기능을 갖는 보청기 및 그 방법 | |
Tashev et al. | DNN-based causal voice activity detector | |
CN111341332A (zh) | 基于深度神经网络的语音特征增强后置滤波方法 | |
Liu et al. | Loss and double-edge-triggered detector for robust small-footprint keyword spotting | |
Pandharipande et al. | An unsupervised frame selection technique for robust emotion recognition in noisy speech | |
Kang et al. | Discriminative weight training for a statistical model-based voice activity detection | |
Kang et al. | NMF-based speech enhancement incorporating deep neural network. | |
WO2005029463A9 (en) | A method for recovering target speech based on speech segment detection under a stationary noise | |
Sivapatham et al. | Gammatone filter bank-deep neural network-based monaural speech enhancement for unseen conditions | |
CN110310658B (zh) | 一种基于语音信号处理的语音分离办法 | |
Aralikatti et al. | Global snr estimation of speech signals using entropy and uncertainty estimates from dropout networks | |
CN112289337A (zh) | 一种滤除机器学习语音增强后的残留噪声的方法及装置 | |
CN108922557A (zh) | 一种聊天机器人的多人语音分离方法及系统 | |
Chazan et al. | LCMV beamformer with DNN-based multichannel concurrent speakers detector | |
Ram et al. | Recognition of fear from speech using adaptive algorithm with MLP classifier |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20161006 |
|
PA0201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20170818 Patent event code: PE09021S01D |
|
AMND | Amendment | ||
PG1501 | Laying open of application | ||
E601 | Decision to refuse application | ||
PE0601 | Decision on rejection of patent |
Patent event date: 20180423 Comment text: Decision to Refuse Application Patent event code: PE06012S01D Patent event date: 20170818 Comment text: Notification of reason for refusal Patent event code: PE06011S01I |
|
AMND | Amendment | ||
PX0901 | Re-examination |
Patent event code: PX09011S01I Patent event date: 20180423 Comment text: Decision to Refuse Application Patent event code: PX09012R01I Patent event date: 20171218 Comment text: Amendment to Specification, etc. |
|
PX0701 | Decision of registration after re-examination |
Patent event date: 20180702 Comment text: Decision to Grant Registration Patent event code: PX07013S01D Patent event date: 20180625 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I Patent event date: 20180423 Comment text: Decision to Refuse Application Patent event code: PX07011S01I Patent event date: 20171218 Comment text: Amendment to Specification, etc. Patent event code: PX07012R01I |
|
X701 | Decision to grant (after re-examination) | ||
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20180704 Patent event code: PR07011E01D |
|
PR1002 | Payment of registration fee |
Payment date: 20180704 End annual number: 3 Start annual number: 1 |
|
PG1601 | Publication of registration | ||
PR1001 | Payment of annual fee |
Payment date: 20210702 Start annual number: 4 End annual number: 4 |
|
PR1001 | Payment of annual fee |
Payment date: 20220704 Start annual number: 5 End annual number: 5 |
|
PR1001 | Payment of annual fee |
Payment date: 20230704 Start annual number: 6 End annual number: 6 |
|
PR1001 | Payment of annual fee |
Payment date: 20240702 Start annual number: 7 End annual number: 7 |