KR20120136567A - 신경망과 svm을 이용한 적조 발생 예측 방법 - Google Patents

신경망과 svm을 이용한 적조 발생 예측 방법 Download PDF

Info

Publication number
KR20120136567A
KR20120136567A KR1020110055573A KR20110055573A KR20120136567A KR 20120136567 A KR20120136567 A KR 20120136567A KR 1020110055573 A KR1020110055573 A KR 1020110055573A KR 20110055573 A KR20110055573 A KR 20110055573A KR 20120136567 A KR20120136567 A KR 20120136567A
Authority
KR
South Korea
Prior art keywords
red tide
neural network
occurrence
svm
predicting
Prior art date
Application number
KR1020110055573A
Other languages
English (en)
Inventor
박선
최명수
임정수
박재희
이연우
정민아
양후열
Original Assignee
목포대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 목포대학교산학협력단 filed Critical 목포대학교산학협력단
Priority to KR1020110055573A priority Critical patent/KR20120136567A/ko
Publication of KR20120136567A publication Critical patent/KR20120136567A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

신경망과 SVM을 이용한 적조 발생 예측 방법이 개시된다. 이 적조 발생 예측 방법은 적조 발생 예측을 위한 학습 자료를 전처리하는 단계, 상기 전처리된 학습 자료를 참조하여 입력 자료에 대해 적조 발생을 예측하는 단계를 포함하되, 상기 적조 발생 예측 단계에서 역전파 신경망 모형으로 입력변수와 출력 변수가 모두 연속변수들이며, 여러 개의 입력 변수와 한 개의 출력 변수로 구성되어있는 경우 출력변수와 입력변수들 간에 비선형변환함수를 설정하는데 가장 적절한 신경망 모형을 이용하여서 적조 발생을 예측한다. 이에 의해 기존보다 향상된 적조 발생 예측 결과를 얻을 수 있다.

Description

신경망과 SVM을 이용한 적조 발생 예측 방법{Red tide prediction method using neural network and SVM}
본 발명은 적조 관련 기술에 관한 것으로, 특히 적조 발생 예측 기술에 관한 것이다.
해양의 특성을 고려한 적조 사례 기반 추론 시스템과 원격 탐측을 이용한 유해 적조 발생 예측 방법이 제안되었다. 이 방법은 추론을 위한 사례베이스를 생성하고, KNN 알고리즘을 이용하여 가장 유사성이 높을 사례를 검색하여 추천한다. 또한 적조 발생과 이동 경로를 예측하기 위하여 기존의 적조 발생 자료와 위성의 원격 탐측 자료, 현장 조사 등을 이용하였다. 그러나 이들의 방법은 기존 적조 발생 사례를 기반으로 적조의 유무만을 분류하는데 그치고 있기 때문에, 적조 발생을 예측하는 방법에 대해서는 연구가 미흡한 편이다. 이들의 방법은 자동화된 분석 방법이 아닌 사람이 직접 자료를 분석하고 예측하는데 그치고 있다.
본 발명은 해양환경을 이용하여 적조 발생 예측을 통하여 적조 피해를 최소화 시킬 수 있도록 하는 기술적 방안을 제공함을 목적으로 한다.
전술한 기술적 과제를 달성하기 위한 본 발명의 일 양상에 따른 신경망과 SVM을 이용한 적조 발생 예측 방법은 적조 발생 예측을 위한 학습 자료를 전처리하는 단계, 상기 전처리된 학습 자료를 참조하여 입력 자료에 대해 적조 발생을 예측하는 단계를 포함하되, 상기 적조 발생 예측 단계에서 역전파 신경망 모형으로 입력변수와 출력 변수가 모두 연속변수들이며, 여러 개의 입력 변수와 한 개의 출력 변수로 구성되어있는 경우 출력변수와 입력변수들 간에 비선형변환함수를 설정하는데 가장 적절한 신경망 모형을 이용하여서 적조 발생을 예측함을 특징으로 한다.
나아가 상기 적조 발생을 예측하는 단계는 초평면으로부터 잘못된 쪽에 위치한 자료까지의 거리를 나타내는 여유 변수와 페널티 항을 첨가하는 SVM 모형을 이용하여 적조 발생을 예측함을 특징으로 한다.
본 발명에서 역전파 신경망과 회귀신경, SVM에 10일간의 수온, 기온, 강수량을 적용하여 미래에 발생할 적조를 예측하는 방법에 대하여 제안하였다. 제안 방법은 통영지역의 2002년부터 2010년 동안 발생한 coclodinium p. 적조 정보를 이용하였으며, 2002년부터 2007년까지는 학습 자료로, 2008년부터 2010년간의 자료는 검증 자료로 제안 방법을 평가하였다. 평가 결과 SVM이 역전파 신경망이나 회귀 신경망에 비하여서 더 좋은 결과를 보였다.
도 1은 본 발명의 일 실시예에 따른 적조 발생 예측을 설명하기 위한 블록도.
도 2는 BPNN, GRNN, SVM의 정확률을 비교한 그래프.
전술한, 그리고 추가적인 본 발명의 양상들은 첨부된 도면을 참조하여 설명되는 바람직한 실시예들을 통하여 더욱 명백해질 것이다. 이하에서는 본 발명을 이러한 실시예를 통해 당업자가 용이하게 이해하고 재현할 수 있도록 상세히 설명하기로 한다.
도 1은 본 발명의 일 실시예에 따른 적조 발생 예측을 설명하기 위한 블록도이다.
도시된 바와 같이, 본 발명의 일 양상에 따른 적조 발생 예측 과정은 전처리(100), 신경망 및 SVM(support vector machines)(200)에 의한 적조 발생 예측 단계로 구성된다. 전처리(100) 단계에서는 과거 적조 발생시의 해양 환경 자료를 신경망의 학습에 적합한 자료로 전처리한다. 신경망 및 SVM(200)을 이용한 적조 발생 예측 단계에서는 학습 자료를 이용하여 과거의 적조 발생 패턴을 학습하고, 입력 자료를 이용하여 미래에 발생할 적조의 발생을 예측한다. 신경망 및 SVM의 학습에는 자료를 정규화하는 전처리 과정이 필요하다. 전처리는 분류자의 효율을 높이기 위해서 잡음이나 왜곡에 의해 변형된 것을 바로 잡는 과정이며, 분류자에서 출력된 값을 다시 역변환하여 처리하는 후처리에 대응된다.
도 1의 전처리(100)에서는 적조 발생 예측을 위해서 입력된 학습 자료를 전처리한다. 신경망 및 SVM의 학습을 위해 사용되는 자료는 국립수산과학원의 적조 정보 시스템에서 획득한 2002년부터 2007년까지 통영 지역에서 발생한 유해적조인 coclodinium p.의 발생일자와 적조생물의 생물 밀도를 이용하였다. 또한 적조 발생일자를 기준으로 이 지역의 수온 정보는 해양수산 연구 정보 포털의 연안정지 관측 정보로부터 수집하여 이용하였고, 기온 및 강수량 정보는 기상청 관측 자료로부터 수집하여 이용하였다. 표 1은 적조가 가장 적게 발생한 연도인 2006년도의 적조 생물밀도와 적조 경보일이다. 그리고 표 2는 적조가 발생하기 전의 10일간의 수온, 기온, 강수량 정보이다.
Figure pat00001
Figure pat00002
학습 자료를 위한 전처리로 수온 및 기온은 수학식 1과 같이 적조 발생 전 10일간의 평균값을 계산하고, 강수량은 수학식 2와 같이 적조 발생 전 10일간의 총 강수량을 계산한다. 이들 중에서 10일 평균 수온, 10일 평균 기온 및 10일 총 강수량은 입력 학습 자료이고, 표 1의 생물밀도는 출력 학습 자료이다. 그리고 표 3의 수온 10일 평균, 기온 10일 평균, 강수량 10일 총량, 생물밀도 등이 학습 자료를 위한 학습 자료의 변수를 정의한 것이다.
Figure pat00003
분류자에 사용되는 출력함수는 최소값 -1과 최대값 1을 출력하기 때문에, 최종적으로 입력 자료를 분류자에 적용하기 위해서는 -1과 1 사이의 값으로 정규화시킨다.
Figure pat00004
Figure pat00005
여기서 N은 총 전처리 일수를 나타내고, 학습자료 변수를 구분하기 위하여 DW는 수온, DT는 기온, DR은 강수량, DRT는 적조생물 밀도를 각각 나타낸다.
신경망 및 SVM을 이용하여 적조 발생을 예측하기 위해서는 분류자 모형을 설계해야 한다. 일 실시예에 있어서, 신경망 모형을 두 개와 SVM 모형을 설계하여 서로 성능을 비교하였다. 첫 번째 모형은 역전파 신경망 모형으로 입력 변수와 출력 변수가 모두 연속 변수들이며, 여러 개의 입력 변수와 한 개의 출력 변수로 구성되어 있는 경우에 출력 변수와 입력 변수들 간에 비선형변환함수를 설정하는데 가장 적절한 신경망 모형으로 알려져 있다. 두 번째 설계 모형인 회귀 신경망은 확률망의 일반화된 모형으로 독립 변수들로서 확률 변수의 측정치들이 주어졌을 때, 종속 변수로서의 조건부 평균값을 계산하기 위한 표준적 통계적 모형이다. 회귀 신경망은 표본의 수가 많을수록 최적 회귀면에 수렴하며, 비정상적인 자료들을 잘 처리할 수 있다. 마지막으로 SVM의 모형을 설계하였다.
본 발명의 일 실시예에 따른 역전파 신경망의 모형은 입력 노드의 수를 입력 변수와 동일하게 하여 입력층의 처리소자(processing element, PE)의 수를 3개로, 출력층의 처리소자를 1개로, 은닉층의 처리소자의 수를 20개로 갖는 은닉층 1개를 설계하였다. 학습 규칙은 델타 규칙을 사용하였으며, 변환함수는 수학식 3과 같은 로지스틱 함수를 사용한다. 출력층과 은닉층 간의 연결 강도변화인 출력층 j번째 단위에 대한 연결강도의 변화량은 수학식 4와 같다.
Figure pat00006
Figure pat00007
여기서 n은 학습률을 나타낸다.
입력층과 은닉층 간의 연결 강도 변화로, 은닉층과 입력층의 연결 강도의 갱신은 수학식 5와 같다.
Figure pat00008
여기서 α는 모멘텀으로 바로 이전의 연결 강도인 변화량을 얼마만큼 적용시킬 것인지를 나타내며, 연결 강도를 변화시킴과 동시에 편의(bias)를 변화시킴으로써 국부 최소점에 빠지는 것을 어느 정도 방지하고 학습 시간을 줄이는데 유용하다.
일 실시예에 있어서, 회귀 신경망의 모형에서는 입력층의 처리기의 수는 3개, 출력층의 처리기의 수는 1개, 은닉층은 패턴층인 방사 기반 층(radial basis layer)과 특수 선형 층(special linear layer)인 덧셈층 2개로 구성된다. 회귀 신경망의 출력은 다음 수학식 6과 같이 주어지는 조건부 평균이 된다.
Figure pat00009
여기서 σ는 너비상수, W는 너비상수 영역의 중심으로 (입력 신경의 개수)×(출력 신경의 개수)의 행렬, D는 너비상수 영역의 중심, Y는 목표 출력 행렬이다. 지수함수는 너비상수 σ를 갖는 가우스 함수이다. 가우스 함수의 계산은 패턴층에서 실행되고, 가중치 벡터와 덧셈들의 곱은 덧셈층에서 실행되며, 나눗셈은 출력층에서 실행된다. 대부분의 신경망처럼 반복적으로 학습하지 않는 대신에, 패턴층에서 각 입력 패턴을 저장하고 덧셈층에서 가중치들을 계산하는 방식으로 학습한다. 가중치 계산에 관한 방정식은 수학식 7과 같다. 패턴층의 가중치들을 입력 패턴으로 놓는다.
Figure pat00010
여기서 Wp는 패턴층에 대한 입력행렬이며, XT는 입력된 훈련행렬이다. 덧셈층의 가중행렬은 훈련중인 목표 출력을 사용한다. 구체적으로, 수학식 8과 같이 행렬은 패턴층에 D-덧셈 신경을 연결한 1들의 벡터가 첨가된 목표 출력 값들이다.
Figure pat00011
대부분의 자료들은 선형 분리가 가능하지 않기 때문에, SVM의 제약 식을 만족하지 않는다. 이를 해결하기 위해서 초평면으로부터 잘못된 쪽에 위치한 자료까지의 거리를 나타내는 여유변수와 페널티 항을 첨가하여서 수학식 9를 제약조건으로 하는 수학식 10의 최적화 문제로 변화하여 학습 및 평가한다.
Figure pat00012
Figure pat00013
여기서
Figure pat00014
는 여유 변수이며, C는 페널티이다.
본 발명의 일 실시예에서는 국립수산과학원의 적조 정보 시스템, 해양 수산 연구 정보 포털의 연안정지 관측 정보, 기상청 관측 자료로부터 가져온 통영 지역의 9년간의 자료를 이용하여 제안 방법의 성능을 평가하였다. 표 4와 같이 2002년부터 2007년까지의 6년의 자료를 이용하여 신경망 및 SVM을 학습하였으며, 표 5와 같이 2008년부터 2010년까지 3년간의 자료를 이용하여 신경망 및 SVM을 검증하였다. 신경망 및 SVM을 검증하기 위하여 2008년부터 2010년 동안 발생한 coclodiniun p. 적조 경보 및 주의보 38건을 이용하였으며, 같은 연도의 연안정지 관측 정보로부터 121일간의 수온 정보, 기상청 관측 자료로부터 수집한 121일간의 기온 정보와 29건의 강수 정보를 이용하였다. 신경망 및 SVM의 평가 방법은 검증자료를 신경망 및 SVM에 입력하여 출력 값이 0 이상이면 적조 발생을 예측하고, 0 이하의 값을 출력하면 적조가 발생하지 않는 것을 예측하여 3년간의 검증 자료의 실제 발생 결과와 비교하여서 정확률을 평가한다.
Figure pat00015
표 6은 통영 지역에서 3년간 발생한 적조 coclodinium p.에 대한 적조 발생 예측의 정확률 평가결과이다. 여기서 BPNN(back propagation neural network)은 역전파 신경망을 나타내며, GRNN(general regression neural network)은 회귀 신경망을 나타낸다. 3년간의 평균 정확률이 BPNN은 73.7%이고, GRNN은 76.3%이며, SVM은 84.2%이다. SVM의 정확률이 BPNN 에비해서는 10.5%가 더 높고, GRNN에 비해서는 7.9%가 더 높음이 확인된다. 도 2는 표 6을 막대그래프로 도식화한 것이다.
Figure pat00017
이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.
100 : 전처리 200 : 신경망 및 SVM

Claims (2)

  1. 적조 발생 예측을 위한 학습 자료를 전처리하는 단계; 및
    상기 전처리된 학습 자료를 참조하여 입력 자료에 대해 적조 발생을 예측하는 단계;를 포함하되,
    상기 적조 발생 예측 단계에서 역전파 신경망 모형으로 입력변수와 출력 변수가 모두 연속변수들이며, 여러 개의 입력 변수와 한 개의 출력 변수로 구성되어있는 경우 출력변수와 입력변수들 간에 비선형변환함수를 설정하는데 가장 적절한 신경망 모형을 이용하여서 적조 발생을 예측함을 특징으로 하는 신경망과 SVM을 이용한 적조 발생 예측 방법.
  2. 제1항에 있어서,
    상기 적조 발생을 예측하는 단계는 초평면으로부터 잘못된 쪽에 위치한 자료까지의 거리를 나타내는 여유 변수와 페널티 항을 첨가하는 SVM 모형을 이용하여 적조 발생을 예측함을 특징으로 하는 신경망과 SVM을 이용한 적조 발생 예측 방법.
KR1020110055573A 2011-06-09 2011-06-09 신경망과 svm을 이용한 적조 발생 예측 방법 KR20120136567A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020110055573A KR20120136567A (ko) 2011-06-09 2011-06-09 신경망과 svm을 이용한 적조 발생 예측 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020110055573A KR20120136567A (ko) 2011-06-09 2011-06-09 신경망과 svm을 이용한 적조 발생 예측 방법

Publications (1)

Publication Number Publication Date
KR20120136567A true KR20120136567A (ko) 2012-12-20

Family

ID=47903920

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020110055573A KR20120136567A (ko) 2011-06-09 2011-06-09 신경망과 svm을 이용한 적조 발생 예측 방법

Country Status (1)

Country Link
KR (1) KR20120136567A (ko)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101502539B1 (ko) * 2012-08-09 2015-03-16 연세대학교 산학협력단 고속도로 휴게소의 최적 위치와 규모의 산출 방법 및 장치
CN109002888A (zh) * 2018-06-27 2018-12-14 厦门市海洋与渔业研究所 一种赤潮预警方法
CN110928187A (zh) * 2019-12-03 2020-03-27 北京工业大学 一种基于模糊宽度自适应学习模型的污水处理过程故障监测方法
CN112084716A (zh) * 2020-09-15 2020-12-15 河北省科学院地理科学研究所 一种基于富营养化综合评价的赤潮预测预警方法
CN112132190A (zh) * 2020-09-01 2020-12-25 厦门大学 赤潮样本数据筛选方法及计算机可读存储介质
CN112232544A (zh) * 2020-09-01 2021-01-15 福建省海洋预报台 业务化赤潮预警方法及计算机可读存储介质
KR102235437B1 (ko) * 2019-11-20 2021-04-02 (주)썬컴 해양에서 저궤도 인공 위성을 이용하여 통신하는 디바이스 및 비즈니스 모델
CN116307081A (zh) * 2023-02-03 2023-06-23 中国环境科学研究院 一种基于机器学习算法预测赤潮发生的方法及系统

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101502539B1 (ko) * 2012-08-09 2015-03-16 연세대학교 산학협력단 고속도로 휴게소의 최적 위치와 규모의 산출 방법 및 장치
CN109002888A (zh) * 2018-06-27 2018-12-14 厦门市海洋与渔业研究所 一种赤潮预警方法
CN109002888B (zh) * 2018-06-27 2022-01-11 厦门市海洋与渔业研究所 一种赤潮预警方法
KR102235437B1 (ko) * 2019-11-20 2021-04-02 (주)썬컴 해양에서 저궤도 인공 위성을 이용하여 통신하는 디바이스 및 비즈니스 모델
CN110928187A (zh) * 2019-12-03 2020-03-27 北京工业大学 一种基于模糊宽度自适应学习模型的污水处理过程故障监测方法
CN110928187B (zh) * 2019-12-03 2021-02-26 北京工业大学 一种基于模糊宽度自适应学习模型的污水处理过程故障监测方法
CN112132190A (zh) * 2020-09-01 2020-12-25 厦门大学 赤潮样本数据筛选方法及计算机可读存储介质
CN112232544A (zh) * 2020-09-01 2021-01-15 福建省海洋预报台 业务化赤潮预警方法及计算机可读存储介质
CN112232544B (zh) * 2020-09-01 2022-06-21 福建省海洋预报台 业务化赤潮预警方法及计算机可读存储介质
CN112132190B (zh) * 2020-09-01 2024-01-26 厦门大学 赤潮样本数据筛选方法及计算机可读存储介质
CN112084716A (zh) * 2020-09-15 2020-12-15 河北省科学院地理科学研究所 一种基于富营养化综合评价的赤潮预测预警方法
CN116307081A (zh) * 2023-02-03 2023-06-23 中国环境科学研究院 一种基于机器学习算法预测赤潮发生的方法及系统

Similar Documents

Publication Publication Date Title
US10999247B2 (en) Density estimation network for unsupervised anomaly detection
Kravchik et al. Efficient cyber attack detection in industrial control systems using lightweight neural networks and pca
KR20120136567A (ko) 신경망과 svm을 이용한 적조 발생 예측 방법
Azadeh et al. A flexible algorithm for fault diagnosis in a centrifugal pump with corrupted data and noise based on ANN and support vector machine with hyper-parameters optimization
CN109376913A (zh) 降水量的预测方法及装置
Zhang et al. Deep belief networks ensemble with multi-objective optimization for failure diagnosis
Jalali et al. An advanced short-term wind power forecasting framework based on the optimized deep neural network models
Rattá et al. Improved feature selection based on genetic algorithms for real time disruption prediction on JET
Shin et al. Intelligent sensor attack detection and identification for automotive cyber-physical systems
Fernández-Navarro et al. Development of a multi-classification neural network model to determine the microbial growth/no growth interface
Theodoropoulos et al. Use of Convolutional Neural Networks for vessel performance optimization and safety enhancement
Park et al. Red tides prediction system using fuzzy reasoning and the ensemble method
Dash et al. A comparative study of radial basis function network with different basis functions for stock trend prediction
Asim et al. Short term earthquake prediction in Hindukush region using tree based ensemble learning
Yun et al. Application of the PSO-SVM model for Credit Scoring
Ravi et al. Hybrid classification and regression models via particle swarm optimization auto associative neural network based nonlinear PCA
Ahmed et al. An investigation on disparity responds of machine learning algorithms to data normalization method
Ghanbari et al. Detecting a distributed denial of service attack using a pre-processed convolutional neural network
Chen et al. An enhanced artificial bee colony-based support vector machine for image-based fault detection
Castro-Cabrera et al. Adaptive classification using incremental learning for seismic-volcanic signals with concept drift
Kramer et al. Wind power ramp event prediction with support vector machines
Andriamanalimanana et al. Symmetric kullback-leibler divergence of softmaxed distributions for anomaly scores
Abd Elrahman et al. Class imbalance problem using a hybrid ensemble approach
Nureni et al. Loan approval prediction based on machine learning approach
Adisa et al. The Effect of Imbalanced Data and Parameter Selection via Genetic Algorithm Long Short-Term Memory (LSTM) for Financial Distress Prediction

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid