KR101923268B1

KR101923268B1 - 가공 조건을 조정하면서 가공을 실시하는 와이어 방전 가공기

Info

Publication number: KR101923268B1
Application number: KR1020160107482A
Authority: KR
Inventors: 미츠하루 오노데라; 가오루 히라가
Original assignee: 화낙 코퍼레이션
Priority date: 2015-08-27
Filing date: 2016-08-24
Publication date: 2018-11-28
Also published as: JP2017042882A; EP3135417A1; EP3135417B1; CN106475645B; US10088815B2; KR20170026195A; EP3825050A1; US20170060105A1; CN106475645A; JP6140228B2

Abstract

본 발명의 와이어 방전 가공기는, 상기 와이어 방전 가공기의 가공 조건의 조정을 기계 학습하는 기계 학습기를 구비하고, 상기 기계 학습기는, 피가공물의 가공 상태에 관련된 데이터를 취득하는 상태 관측부와, 가공 상태에 관련된 데이터에 기초하여 보수를 계산하는 보수 계산부와, 기계 학습 결과 및 가공 상태에 관련된 데이터에 기초하여 가공 조건의 조정량을 결정하는 가공 조건 조정 학습부와, 결정된 가공 조건의 조정량에 기초하여 가공 조건을 조정하는 가공 조건 조정부를 갖고, 상기 가공 조건 조정 학습부는, 결정한 상기 가공 조건의 조정량과, 상기 상태 관측부에 의해 취득된 가공 상태에 관련된 데이터와, 상기 보수 계산부가 계산한 보수에 기초하여 가공 조건의 조정을 기계 학습한다.

Description

가공 조건을 조정하면서 가공을 실시하는 와이어 방전 가공기{WIRE ELECTRIC DISCHARGE MACHINE PERFORMING MACHINING WHILE ADJUSTING MACHINING CONDITION}

본 발명은 와이어 방전 가공기에 관한 것으로, 특히 피가공물의 가공에 있어서의 가공 상태에 따른 가공 조건의 조정이 가능한 와이어 방전 가공기에 관한 것이다.

와이어 방전 가공기로 가공을 실시하는 경우, 피가공물이나 와이어 직경에 맞추어 준비된 가공 조건을 사용하여 가공을 실시한다 (일본 공개특허공보 평05-021690호 등). 통상적으로 이들 가공 조건은 얻어지는 가공 속도나 가공 정밀도는 이론값으로 결정되어 있지만, 실제로는 피가공물을 놓아둔 테이블 상의 위치나 기계의 경년 변화, 기계 차이 등에 의해, 반드시 결정되었던 가공 속도나 가공 정밀도가 얻어진다고는 말할 수 없다. 이것은, 전기 저항의 차이에서 오는 가공 에너지의 차이에 의한 것이라고 생각되며, 이것에 의해 가공 조건 취득시의 전압, 전류, 속도 (기준치 데이터) 가 재현되지 않기 때문에 일어나는 문제라고 생각된다.

이와 같은 문제에 대응하기 위해서, 종래에는 작업자가 가공품의 치수 확인을 실시하여, 추가 가공을 실시하거나, 가공 조건이나 피니싱 마진을 조정하거나 하여 재가공을 실시하고 있었다.

그러나, 가공 조건이나 피니싱 마진의 조정이 가능해지기 위해서는 경험이 필요하고, 작업자의 기량에 따라서는 가공 조건이나 피니싱 마진을 조정하는 데에 시간이 걸린다는 과제가 있었다. 또, 상기한 방법은 추가 가공이나 재가공을 실시하는 것이 전제로 되어 있어, 추가 작업이 발생하는 것에 따른 수고가 든다는 과제가 있었다.

그래서 본 발명의 목적은, 피가공물의 가공에 있어서의 가공 상태에 따른 가공 조건의 자동 조정이 가능한 와이어 방전 가공기를 제공하는 것이다.

본 발명에서는, 환경 정보, 위치 정보, 가공 정보에 기초한 기계 학습을 실시하여, 가공 데이터가 기준치 데이터와 일치하도록 각종 가공 조건의 조정을 실시하는 와이어 방전 가공기를 제공한다.

그리고, 본 발명에 의한 와이어 방전 가공기는, 가공 조건 설정부에 설정된 가공 조건에 따라 가공 전원, 가공액의 제어를 실시하고, 상하 노즐 사이에 장가 (張架) 된 와이어상 전극과 피가공물 사이에 전압을 인가하여 방전을 발생시킴과 함께, 상기 와이어상 전극과 피가공물을 상대 이동시켜 상기 피가공물의 가공을 실시하는 것으로서, 상기 가공에 관련된 환경을 나타내는 정보인 환경 정보를 기억하는 환경 정보 기억부와, 상기 가공 조건의 조정 대상 파라미터와 그 조정 대상 파라미터의 조정량을 기계 학습하는 가공 조건 조정 장치를 구비하고, 상기 가공 조건 조정 장치는, 상기 가공에 있어서의 가공 상태를 나타내는 정보인 상태 데이터를 취득하는 상태 관측부와, 보수 조건을 기억하는 보수 조건 기억부와, 상기 상태 데이터와 상기 보수 조건에 기초하여 보수를 계산하는 보수 계산부와, 가공 조건 조정을 기계 학습하는 가공 조건 조정 학습부와, 상기 가공 조건 조정 학습부에 의한 상기 가공 조건 조정의 기계 학습 결과와, 상기 상태 데이터 및 상기 환경 정보에 기초하여, 가공 조건 조정의 대상 파라미터와 그 조정량을 조정 행동으로서 결정하고, 그 조정 행동에 기초하여 상기 가공 조건 설정부에 설정된 가공 조건을 조정하고, 조정 후의 가공 조건을 출력하는 가공 조건 조정부를 갖고, 상기 가공 조건 조정 학습부는, 상기 조정 행동과, 출력된 상기 조정 후의 가공 조건에 기초한 가공 동작 후의 상기 상태 관측부에 의해 취득된 상기 상태 데이터와, 상기 보수 계산부가 계산한 상기 보수에 기초하여 상기 가공 조건 조정을 기계 학습하는 것을 구비한 것을 특징으로 한다.

상기 상태 데이터는, 상기 피가공물에 대한 상기 와이어상 전극의 위치 정보를 적어도 포함한다.

상기 상태 데이터는, 가공 전압, 가공 전류, 가공 속도, 방전 횟수, 가공액량, 가공액압, 단락의 발생, 단선의 발생 중 적어도 하나를 포함한다.

상기 보수 조건 기억부는, 상기 가공 조건 설정부에 설정된 가공 조건으로 가공한 경우의 가공 전압, 가공 전류, 가공 속도의 기준치 데이터를 기억한다.

상기 상태 데이터는, 적어도 가공 전압, 가공 전류, 가공 속도를 포함하고, 상기 보수 계산부는, 상기 상태 데이터에 포함되는 가공 전압, 가공 전류, 가공 속도가 상기 가공 조건 설정부에 설정된 가공 조건에 기초하여 얻어지는 기준치 데이터에 가까워지는 경우에 플러스의 보수를 부여한다.

상기 상태 데이터는, 적어도 가공 전압, 가공 전류, 가공 속도, 단락의 발생, 단선의 발생을 포함하고, 상기 보수 계산부는, 상기 상태 데이터에 포함되는 가공 전압, 가공 전류, 가공 속도가 상기 가공 조건 설정부에 설정된 가공 조건에 기초하여 얻어지는 기준치 데이터로부터 멀어지는 경우, 또는, 상기 상태 데이터에 포함되는 단락 및 단선 중 적어도 하나의 사상 (事象) 이 발생한 경우에 마이너스의 보수를 부여한다.

상기 와이어 방전 가공기는, 적어도 1 개의 다른 와이어 방전 가공기와 접속되어 있고, 상기 다른 와이어 방전 가공기와의 사이에서 기계 학습의 결과를 상호 교환 또는 공유해도 된다.

또, 본 발명에 관련된 가공 조건 조정 장치는, 가공 조건 설정부에 설정된 가공 조건에 따라 가공 전원, 가공액의 제어를 실시하고, 상하 노즐 사이에 장가된 와이어상 전극과 피가공물 사이에 전압을 인가하여 방전을 발생시킴과 함께, 상기 와이어상 전극과 피가공물을 상대 이동시켜 상기 피가공물의 가공을 실시하는 와이어 방전 가공기에 의한 가공 조건 조정을 기계 학습한 것으로서, 상기 가공 조건 조정의 학습 결과를 기억하는 학습 결과 기억부와, 상기 가공에 있어서의 가공 상태를 나타내는 정보인 상태 데이터를 취득하는 상태 관측부와, 상기 학습 결과 기억부에 기억된 학습 결과와, 상기 상태 관측부에서 관측한 상기 상태 데이터에 기초하여 가공 조건 조정의 대상 파라미터와 그 조정량 또는 그 조정 후의 값을 결정하고, 가공 조건을 조정하는 가공 조건 조정부를 구비한 것을 특징으로 하는 가공 조건 조정 장치이다.

본 발명에 있어서, 기계 학습에 의해 가공 에너지의 차이가 없어지도록 가공 조건을 조정함으로써, 가공의 안정성이나 재현성이 높아져, 추가 가공이나 재가공을 실시할 필요가 없어진다. 또, 복수의 와이어 방전 가공기의 각 데이터를 공유하여 기계 학습에 이용함으로써, 보다 우수한 결과가 얻어지는 기계 학습을 와이어 방전 가공기마다 실현하는 것이 가능해진다.

본 발명의 상기한 그리고 그 밖의 목적 및 특징은, 첨부 도면을 참조한 이하의 실시예의 설명으로부터 분명해질 것이다. 그들 도면 중 :
도 1 은, 와이어 방전 가공기에 있어서의 가공 위치에 따른 가공 에너지의 차이에 대해 설명하는 도면이다.
도 2 는, 본 발명의 기계 학습에 의한 가공 조건의 조정에 대해 설명하는 도면이다.
도 3 은, 강화 학습 알고리즘의 기본적인 개념을 설명하는 도면이다.
도 4 는, 본 발명의 실시형태에 있어서의 와이어 방전 가공기의 기계 학습에 관한 이미지도이다.
도 5 는, 본 발명의 실시형태에 있어서의 와이어 방전 가공기의 기능 블록도이다.
도 6 은, 본 발명의 실시형태에 있어서의 기계 학습의 흐름을 나타내는 플로차트이다.

이하, 본 발명의 실시형태를 도면과 함께 설명한다.

본 발명에서는, 피가공물을 가공하는 와이어 방전 가공기에 대하여 인공 지능이 되는 기계 학습기를 도입하여, 와이어 방전 가공기에서의 피가공물의 가공 상태에 대한 인가 전압의 전압값이나 인가 시간, 휴지 시간, 가공액의 공급량 등의 가공 조건의 조정에 관한 기계 학습을 실시함으로써, 가공 상태에 따라 가공 조건이 최적의 것이 되도록 조정을 실시하도록 한다. 본 발명에서는, 기계 학습기가 가공 조건 조정 장치로서 동작한다.

상기한 바와 같이, 와이어 방전 가공에 있어서는 설정된 가공 조건으로 얻어지는 현실의 가공 속도나 가공 정밀도는, 피가공물을 놓아둔 테이블 상의 위치나 기계의 경년 변화, 기차 등에 의해 변화한다. 예를 들어, 도 1 에 나타내는 바와 같이, 동일한 구멍 직경의 둥근 구멍을 가공하고자 동일한 가공 조건으로 가공을 실시한 경우라도, ＜1＞ 의 위치, ＜2＞ 의 위치, ＜3＞ 의 위치에서는 가공 에너지의 차이가 생겨 각 위치에서 가공한 둥근 구멍의 크기가 상이한 경우가 있다.

도 2a, 2b 는, 도 1 의 각 구멍의 가공에 있어서 계측되는 전압, 전류, 속도의 값을 그래프로서 나타낸 것이다. 도 2a 에 나타내는 바와 같이, 동일한 가공 조건으로 가공을 실시한 경우라도, 설정한 가공 조건에 의해 결정되는 전압, 전류, 속도의 값 (기준치 데이터) 과, 실제 가공시에 ＜1＞ 의 위치, ＜2＞ 의 위치, ＜3＞ 의 위치에서의 가공시의 전압, 전류, 속도의 값에 차이가 생겨, 결과적으로 각 위치에서 가공한 둥근 구멍의 크기가 상이해져 버린다. 그래서, 와이어 방전 가공기에서의 피가공물의 가공시의 가공 상태를 나타내는 데이터 (환경 정보, 위치 정보, 가공 정보) 에 기초하여, 가공 조건의 조정을 기계 학습하는 기계 학습기를 도입하여, 기계 학습의 결과에 기초하여 자동적으로 가공 조건의 조정을 실시하도록 한다.

이하에서는, 본 발명에서 도입하는 기계 학습에 대해 간단하게 설명한다.

＜1. 기계 학습＞

일반적으로, 기계 학습에는 교사가 있는 학습이나 교사가 없는 학습 등, 그 목적이나 조건에 따라 여러 가지 알고리즘으로 분류되어 있다. 본 발명에서는 피가공물을 가공하는 와이어 방전 가공기에 있어서의 가공 조건 조정의 학습을 목적으로 하고 있고, 와이어 방전 가공기로부터 출력되는 전압값, 전류값, 가공 속도, 각 축의 좌표값, 피가공물 정보 등의 가공 상태에 대하여 어떠한 행동 (가공 조건의 조정) 을 하는 것이 올바른지를 명시적으로 나타내는 것이 곤란한 점을 고려하여, 보수를 부여하는 것만으로 기계 학습기가 목표 도달을 위한 행동을 자동적으로 학습하는 강화 학습의 알고리즘을 채용한다.

도 3 은, 강화 학습 알고리즘의 기본적인 개념을 설명하는 도면이다. 강화 학습에 있어서는, 학습하는 주체가 되는 에이전트 (기계 학습기) 와 제어 대상이 되는 환경 (제어 대상 시스템) 의 주고받음에 의해, 에이전트 학습과 행동이 진행된다. 보다 구체적으로는, (1) 에이전트는 어떤 시점에 있어서의 환경의 상태 s_t 를 관측하고, (2) 관측 결과와 과거의 학습에 기초하여 자신이 취할 수 있는 행동 a_t 를 선택하여 행동 a_t 를 실행하고, (3) 행동 a_t 가 실행됨으로써 환경 상태 s_t 가 다음의 상태 s_t+1 로 변화되고, (4) 행동 a_t 의 결과로서의 상태의 변화에 기초하여 에이전트가 보수 r_t+1 을 받고, (5) 에이전트가 상태 s_t, 행동 a_t, 보수 r_t+1 및 과거의 학습의 결과에 기초하여 학습을 진행시킨다는 주고받음이 에이전트와 환경 사이에서 실시된다.

상기한 (5) 에 있어서의 학습에서는, 에이전트는 장래 취득할 수 있는 보수의 양을 판단하기 위한 기준이 되는 정보로서, 관측된 상태 s_t, 행동 a_t, 보수 r_t+1 의 맵핑을 획득한다. 예를 들어, 각 시각에 있어서 취할 수 있는 상태의 개수가 m, 취할 수 있는 행동의 개수가 n 이라고 하면, 행동을 반복함으로써 상태 s_t 와 행동 a_t 의 세트에 대한 보수 r_t+1 을 기억하는 m × n 의 2 차원 배열이 얻어진다.

그리고, 상기 얻어진 맵핑에 기초하여 현재의 상태나 행동이 어느 정도 양호한 것인지를 나타내는 함수인 가치 함수 (평가 함수) 를 사용하여, 행동을 반복하는 가운데 가치 함수 (평가 함수) 를 갱신해 감으로써 상태에 대한 최적의 행동을 학습해 간다.

상태 가치 함수는, 어떤 상태 s_t 가 어느 정도 양호한 상태인지를 나타내는 가치 함수이다. 상태 가치 함수는, 상태를 인수로 하는 함수로서 표현되고, 행동을 반복하는 와중의 학습에 있어서, 어떤 상태에 있어서의 행동에 대하여 얻어진 보수나, 그 행동에 의해 이행되는 미래의 상태의 가치 등에 기초하여 갱신된다. 상태 가치 함수의 갱신식은 강화 학습의 알고리즘에 따라 정의되어 있고, 예를 들어, 강화 학습 알고리즘의 하나인 TD 학습에 있어서는, 상태 가치 함수는 이하의 수학식 1 로 정의된다. 또한, 수학식 1 에 있어서 α 는 학습 계수, γ 는 할인율이라고 불리고, 0 ＜ α ≤ 1, 0 ＜ γ ≤ 1 의 범위에서 정의된다.

또, 행동 가치 함수는, 어떤 상태 s_t 에 있어서 행동 a_t 가 어느 정도 양호한 행동인지를 나타내는 가치 함수이다. 행동 가치 함수는, 상태와 행동을 인수로 하는 함수로서 표현되고, 행동을 반복하는 와중의 학습에 있어서, 어떤 상태에 있어서의 행동에 대하여 얻어진 보수나, 그 행동에 의해 이행되는 미래의 상태에 있어서의 행동의 가치 등에 기초하여 갱신된다. 행동 가치 함수의 갱신식은 강화 학습의 알고리즘에 따라 정의되어 있고, 예를 들어, 대표적인 강화 학습 알고리즘의 하나인 Q 학습에 있어서는, 행동 가치 함수는 이하의 수학식 2 로 정의된다. 또한, 수학식 2 에 있어서 α 는 학습 계수, γ 는 할인율이라고 불리고, 0 ＜ α ≤ 1, 0 ＜ γ ≤ 1 의 범위에서 정의된다.

또한, 학습 결과로서의 가치 함수 (평가 함수) 를 기억하는 방법으로는, 근사 함수를 사용하는 방법이나, 배열을 사용하는 방법 이외에도, 예를 들어 상태 s 가 많은 상태를 취하는 경우에는 상태 s_t, 행동 a_t 를 입력으로 하여 가치 (평가) 를 출력하는 다치 (多値) 출력의 SVM 이나 뉴럴 네트워크 등의 교사가 있는 학습기를 사용하는 방법 등이 있다.

그리고, 상기한 (2) 에 있어서의 행동의 선택에 있어서는, 과거의 학습에 의해 작성된 가치 함수 (평가 함수) 를 사용하여 현재의 상태 s_t 에 있어서 장래에 걸친 보수 (r_t+1 ＋ r_t+2 ＋ …) 가 최대가 되는 행동 a_t (상태 가치 함수를 사용하고 있는 경우에는, 가장 가치가 높은 상태로 이행하기 위한 행동, 행동 가치 함수를 사용하고 있는 경우에는 그 상태에 있어서 가장 가치가 높은 행동) 를 선택한다. 또한, 에이전트의 학습 중에는 학습의 진전을 목적으로 (2) 에 있어서의 행동의 선택에 있어서 일정한 확률로 랜덤한 행동을 선택하는 경우도 있다 (ε 그리디법).

이와 같이, (1) ∼ (5) 를 반복함으로써 학습이 진행된다. 어떤 환경에 있어서 학습이 종료된 후에, 에이전트가 새로운 환경에 놓인 경우라도 추가의 학습을 실시함으로써 그 환경에 적응하도록 학습을 진행시킬 수 있다. 따라서, 본 발명과 같이 와이어 방전 가공기에서의 피가공물의 가공에 있어서의 가공 조건 조정의 결정에 에이전트를 적용함으로써, 피가공물의 설치 위치를 변경하거나, 에이전트를 새로운 와이어 방전 가공기에 적용하거나 한 경우라도, 과거의 가공 조건 조정의 학습에 새로운 환경에 있어서의 추가의 학습을 함으로써, 에이전트는 가공 조건 조정의 학습을 단시간에 실시하는 것이 가능해진다.

또, 강화 학습에 있어서는, 복수의 에이전트를 네트워크 등을 통해 접속한 시스템으로 하고, 에이전트 사이에서 상태 s, 행동 a, 보수 r 등의 정보를 공유하여 각각의 학습에 이용함으로써, 각각의 에이전트가 다른 에이전트의 환경도 고려하여 학습을 하는 분산 강화 학습을 실시함으로써 효율적인 학습을 실시할 수 있다. 본 발명에 있어서도, 복수의 환경 (와이어 방전 가공기) 을 제어하는 복수의 에이전트 (기계 학습기) 가 네트워크 등을 통해 접속된 상태로 분산 기계 학습을 실시함으로써, 와이어 방전 가공기에서의 피가공물의 가공에 있어서의 가공 조건 조정의 학습을 효율적으로 실시하는 것이 가능해진다.

또한, 강화 학습의 알고리즘으로는, Q 학습, SARSA 법, TD 학습, AC 법 등 여러 가지 수법이 주지되어 있지만, 본 발명에 적용하는 방법으로서 어떤 강화 학습 알고리즘을 채용해도 된다. 상기한 각각의 강화 학습 알고리즘은 주지된 것이므로, 본 명세서에 있어서의 각 알고리즘의 상세한 설명은 생략한다.

이하에서는, 기계 학습기를 도입한 본 발명의 와이어 방전 가공기에 대해 구체적인 실시형태에 기초하여 설명한다.

＜2. 실시형태＞

도 4 는, 본 발명의 일 실시형태에 있어서의 기계 학습기를 도입한 와이어 방전 가공기에 있어서의 가공 조건 조정의 기계 학습에 관한 이미지를 나타내는 도면이다. 본 발명에서는, 기계 학습기가 가공 조건 조정 장치로서 동작한다. 또한, 도 4 에는 본 실시형태에 있어서의 와이어 방전 가공기에 있어서의 기계 학습의 설명에 필요한 구성만을 나타내고 있다.

본 실시형태에 있어서, 기계 학습기 (20) 가 환경 (＜1. 기계 학습＞ 에서 설명한 상태 s_t) 을 특정하기 위한 정보로서, 가공 대상이 되는 피가공물의 판두께, 피가공물의 재질, 가공에 사용하는 와이어의 와이어 직경, 와이어를 장가하는 상하 노즐과 피가공물의 거리를 나타내는 노즐 간극 등의 환경 정보, 와이어 방전 가공기의 각 축의 좌표값인 위치 정보, 및 피가공물 가공시에 측정되는 실전압값, 실전류값, 가공 속도, 방전 횟수, 가공액의 액압, 및 단락/단선의 발생 등의 가공 정보를 기계 학습기 (20) 에 대해 입력하고 있다. 이들 각 값은, 와이어 방전 가공기 (1) 의 각 부로부터 취득된 데이터, 및 제어부 (10), 가공 전원 (2) 으로부터 취득된 데이터이다.

본 실시형태에서는, 기계 학습기 (20) 가 환경에 대해 출력하는 것 (＜1. 기계 학습＞ 에서 설명한 행동 a_t), 요컨대 출력 데이터 와이어 방전 가공기에서의 가공시에 있어서의 극간 전압의 전압값이나 인가 시간, 휴지 시간, 가공액의 공급량 등의 가공 조건의 조정을 출력 데이터로 하고 있다.

또 본 실시형태에서는, 기계 학습기 (20) 에 대해 부여되는 보수 (＜1. 기계 학습＞ 에서 설명한 보수 r_t) 로서, 전압값, 전류값, 가공 속도값의 기준치 데이터와의 접근 또는 괴리 (플러스 보수, 마이너스 보수), 단락/단선의 발생 (마이너스 보수) 등을 채용한다.

전압값, 전류값, 가공 속도값의 기준치 데이터에 대해서는, 가공을 개시하기 전에 설정되어 있는 가공 조건에 기초하여 미리 이론적인 전압값, 전류값, 가공 속도값의 기준치 데이터를 결정해 둔다. 또한, 어느 데이터에 기초하여 보수를 결정하는지에 대해서는, 오퍼레이터가 적절히 설정하도록 해도 된다.

또한, 본 실시형태에서는, 기계 학습기 (20) 는 상기한 입력 데이터, 출력 데이터, 보수에 기초하여 기계 학습을 실시한다. 기계 학습에 있어서는, 어떤 시각 t 에 있어서, 입력 데이터의 조합에 의해 상태 s_t 가 정의되고, 정의된 상태 s_t 에 대하여 실시되는 가공 조건의 조정이 행동 a_t 가 되고, 그리고, 행동 a_t 에 의해 가공 조건의 조정이 실시된 결과로서 새롭게 얻어진 입력 데이터에 기초하여 평가 계산된 값이 보수 r_t+1 이 되고, 이것을 ＜1. 기계 학습＞ 에서 설명한 바와 같이, 기계 학습의 알고리즘에 따른 가치 함수 (평가 함수) 의 갱신식에 적용시킴으로써 학습을 진행시킨다.

이하에서는, 와이어 방전 가공기 (1) 의 기능 블록도에 기초하여 설명한다.

도 5 는, 본 실시형태의 와이어 방전 가공기의 기능 블록도이다. 본 실시형태의 와이어 방전 가공기 (1) 는, 와이어를 지지하는 상하 노즐과 피가공물을 재치 (載置) 한 테이블을 상대 이동시키는 복수의 축을 구비하고, 상하 노즐에 의해 지지되는 와이어와 피가공물 사이의 전위차에 의해 발생하는 방전에 의해 피가공물을 가공하는 가공기이다. 또한, 이들 각 구성은 와이어 방전 가공기의 일반적인 구성으로, 본 발명에 있어서의 기계 학습의 동작의 설명에는 특별히 필요하지 않기 때문에, 본 명세서에서의 상세한 설명은 생략한다. 와이어 방전 가공기 (1) 는, 와이어와 피가공물 사이에 인가되는 전압을 제어하는 가공 전원 (2), 와이어 방전 가공기 (1) 의 각 축이나 가공 전원 (2) 을 포함하는 전체를 프로그램 등에 기초하여 제어함과 함께 와이어 방전 가공기 (1) 의 각 부로부터 가공 상황 등의 데이터를 취득하는 제어부 (10), 및 기계 학습을 실시하는 인공 지능이 되는 기계 학습기 (20) 를 구비한다. 도 5 에 나타낸 구성을, 도 3 에 나타낸 강화 학습에 있어서의 요소와 대비하면, 기계 학습기 (20) 가 에이전트에 대응하고, 와이어 방전 가공기 (1) 가 구비하는 축이나 제어부 (10) 등을 포함하는 전체가 환경에 대응한다.

제어부 (10) 는, 도시되지 않은 메모리로부터 판독된 프로그램을 해석하고, 해석 결과로서 얻어진 제어 데이터에 기초하여 와이어 방전 가공기 (1) 의 축을 제어하여 피가공물의 가공을 실시한다. 통상적인 와이어 방전 가공기에서는, 작업자 등에 의해 설정되어 환경 정보 기억부 (11) 에 기억된 와이어 직경, 피가공물 판두께, 재질, 노즐 간극 등의 환경 정보의 설정값, 가공 조건 기억부 (12) 에 기억된 극간 전압의 전압값이나 인가 시간, 휴지 시간, 가공액의 공급량 등의 가공 조건의 설정값 등에 기초하여 제어부 (10) 가 가공 전원 (2) 을 제어하지만, 본 발명에 있어서는, 가공 조건에 대해서는 기계 학습기 (20) 가 가공 조건 기억부 (12) 에 기억된 가공 조건의 설정값에 기초하여 학습 결과에 기초한 가공 조건의 조정을 실시하고, 그 조정 결과에 기초하여 제어부 (10) 가 가공 전원 (2) 을 제어한다.

또, 제어부 (10) 는, 와이어 방전 가공기 (1) 에 형성된 각 구성으로부터 가공 상태에 관련된 데이터를 수집하고, 환경 정보 기억부 (11) 에 기억된 환경 정보, 가공 조건 기억부 (12) 에 기억된 가공 조건의 설정값과 함께 기계 학습기 (20) 에 대해 통지한다. 가공 상태에 관련된 데이터로는, 와이어 방전 가공기 (1) 의 각 축의 좌표값인 위치 정보, 및 피가공물 가공시에 측정되는 실전압값, 실전류값, 가공 속도값, 방전 횟수, 가공액의 액압, 및 단락/단선의 발생 등의 가공 정보 등을 들 수 있다.

기계 학습을 실시하는 기계 학습기 (20) 는, 상태 관측부 (21), 상태 데이터 기억부 (22), 보수 조건 기억부 (23), 보수 계산부 (24), 가공 조건 조정 학습부 (25), 학습 결과 기억부 (26), 가공 조건 조정부 (27) 를 구비한다. 기계 학습기 (20) 는, 와이어 방전 가공기 (1) 내에 구비해도 되고, 와이어 방전 가공기 (1) 외의 PC 등에 구비하도록 해도 된다.

상태 관측부 (21) 는, 제어부 (10) 를 통해 와이어 방전 가공기 (1) 에 있어서의 가공 상태에 관련된 데이터를 관측하여 기계 학습기 (20) 내에 취득하는 기능 수단이다. 가공 상태에 관련된 데이터로는, 상기한 와이어 직경, 피가공물 판두께, 재질, 노즐 간극 등의 환경 정보, 와이어 방전 가공기의 각 축의 좌표값인 위치 정보, 및 피가공물 가공시에 측정되는 실전압값, 실전류값, 가공 속도값, 방전 횟수, 가공액의 액압, 및 단락/단선의 발생 등의 가공 정보 등이 있다.

상태 데이터 기억부 (22) 는 가공 상태에 관련된 데이터를 입력하여 기억하고, 기억한 그 가공 상태에 관련된 데이터를 보수 계산부 (24) 나 가공 조건 조정 학습부 (25) 에 대해 출력하는 기능 수단이다. 입력되는 가공 상태에 관련된 데이터는, 최신의 가공 운전에서 취득한 데이터여도 되고, 과거의 가공 운전에서 취득한 데이터여도 상관없다. 또, 상태 데이터 기억부 (22) 는 다른 와이어 방전 가공기 (1) 나 집중 관리 시스템 (30) 에 기억된 가공 상태에 관련된 데이터를 입력하여 기억하거나 출력하거나 할 수도 있다.

보수 조건 기억부 (23) 는, 작업자 등에 의해 설정된 기계 학습에 있어서의 보수를 부여하는 조건을 기억하기 위한 기능 수단이다. 본 실시형태에 있어서는, 보수 조건 기억부 (23) 에는 설정된 보수를 부여하는 조건 외에, 제어부 (10) 가 구비하는 가공 조건 기억부 (12) 에 설정되어 있는 가공 조건에 기초하여 얻어지는 이론적인 전압값, 전류값, 가공 속도값의 기준치 데이터를 기억하고 있다. 보수에는 플러스의 보수와 마이너스의 보수가 있고, 적절히 설정이 가능하다.

보수 조건 기억부 (23) 에 대한 입력은 집중 관리 시스템 (30) 에서 사용하고 있는 PC 나 태블릿 단말 등으로부터여도 상관없지만, 와이어 방전 가공기 (1) 가 구비하는 도시되지 않은 MDI 기기를 통해 입력할 수 있도록 함으로써, 보다 간편하게 설정하는 것이 가능해진다.

보수 계산부 (24) 는, 보수 조건 기억부 (23) 에서 설정된 조건에 기초하여 상태 관측부 (21) 또는 상태 데이터 기억부 (22) 로부터 입력된 가공 상태에 관련된 데이터를 분석하여, 계산된 보수를 가공 조건 조정 학습부 (25) 에 출력한다.

이하에, 본 실시형태에 있어서의 보수 조건 기억부 (23) 에서 설정하는 보수 조건의 예를 나타낸다.

[보수 1 : 실전압값, 실전류값, 가공 속도값과 기준치 데이터의 접근 또는 괴리 (플러스 보수, 마이너스 보수)]

피가공물의 가공시에 측정된 극간의 실전압값이나 실전류값, 가공 속도 (와이어와 피가공물의 상대적인 이동 속도) 의 각 값이, 지난번의 가공 조건의 조정 (시각 t-1 에 있어서의 가공 조건의 조정) 에 의해 기준치 데이터로서 설정되어 있는 실전압값, 실전류값, 가공 속도값에 가까워진 경우에, 그 가까워진 정도에 따라 플러스의 보수를 부여한다.

한편으로, 값이 지난번의 가공 조건의 조정에 의해 기준치 데이터로서 설정되어 있는 실전압값, 실전류값, 가공 속도로부터 괴리된 경우에, 그 괴리의 정도에 따라 마이너스의 보수를 부여한다.

보수를 산출할 때에는, 실전압값이나 실전류값, 가공 속도의 각각의 접근량 및 괴리량에 대해 각 값에 가중치를 부여하도록 해도 된다. 또, 기준치 데이터의 수치와의 차이에 따라 가중치를 부여하는 방법을 변경하도록 해도 된다.

[보수 2 : 단락/단선의 발생 (마이너스 보수)]

와이어 방전 가공기 (1) 에 의한 피가공물의 가공에 있어서, 단락 또는 단선이 발생한 경우에 마이너스의 보수를 부여한다.

가공 조건 조정 학습부 (25) 는, 입력 데이터 등을 포함하는 가공 상태에 관련된 데이터와, 자신이 실시한 와이어 방전 가공기 (1) 의 가공 조건의 조정 결과, 및 보수 계산부 (24) 에서 계산된 보수에 기초하여 기계 학습 (강화 학습) 을 실시한다.

여기에서, 가공 조건 조정 학습부 (25) 가 실시하는 기계 학습에 있어서는, 어떤 시각 t 에 있어서의 가공 상태에 관련된 데이터의 조합에 의해 상태 s_t 가 정의되고, 정의된 상태 s_t 에 따라 가공 조건의 조정량을 결정하는 것이 행동 a_t 가 되고, 후술하는 가공 조건 조정부 (27) 에 의해 가공 조건 기억부 (12) 로부터 취득된 가공 조건의 조정을 실시하여 그 조정 결과가 출력되고, 그리고, 조정된 가공 조건에 기초하여 와이어 방전 가공기 (1) 의 가공 전원 (2) 이 제어되어 피가공물의 가공이 실시되고, 가공의 결과로서 얻어진 데이터에 기초하여 상기 보수 계산부 (24) 에서 계산된 값이 보수 r_t+1 이 된다. 학습에 사용되는 가치 함수에 대해서는, 적용하는 학습 알고리즘에 따라 결정한다. 예를 들어, Q 학습을 사용하는 경우에는, 상기한 수학식 2 에 따라 행동 가치 함수 Q (s_t, a_t) 를 갱신함으로써 학습을 진행하도록 하면 된다.

도 6 의 플로차트를 사용하여, 가공 조건 조정 학습부 (25) 가 실시하는 기계 학습의 흐름을 설명한다.

[스텝 SA01] 기계 학습이 개시되면, 상태 관측부 (21) 가 와이어 방전 가공기 (1) 의 가공 상태에 관련된 데이터를 취득한다.

[스텝 SA02] 가공 조건 조정 학습부 (25) 는, 상태 관측부 (21) 가 취득한 가공 상태에 관련된 데이터에 기초하여 현재의 상태 s_t 를 특정한다.

[스텝 SA03] 가공 조건 조정 학습부 (25) 는, 과거의 학습 결과와 스텝 SA02 에서 특정한 상태 s_t 에 기초하여 행동 a_t (가공 조건의 조정) 를 선택한다.

[스텝 SA04] 스텝 SA03 에서 선택된 행동 a_t 를 실행한다.

[스텝 SA05] 상태 관측부 (21) 가 와이어 방전 가공기 (1) 의 상태를 나타내는 가공 상태에 관련된 데이터를 취득한다. 이 단계에 있어서는, 와이어 방전 가공기 (1) 의 상태는 시각 t 로부터 시각 t＋1 로의 시간적 추이와 함께 스텝 SA04 에서 실행된 행동 a_t 에 의해 변화되고 있다.

[스텝 SA06] 스텝 SA05 에서 취득된 평가 결과의 데이터에 기초하여, 보수 계산부 (24) 가 보수 r_t+1 을 산출한다.

[스텝 SA07] 스텝 SA02 에서 특정된 상태 s_t, 스텝 SA03 에서 선택된 행동 a_t, 스텝 SA06 에서 산출된 보수 r_t+1 에 기초하여, 가공 조건 조정 학습부 (25) 가 기계 학습을 진행시키고, 스텝 SA02 로 되돌아온다.

도 5 로 되돌아와, 학습 결과 기억부 (26) 는, 가공 조건 조정 학습부 (25) 가 학습한 결과를 기억한다. 또, 가공 조건 조정 학습부 (25) 가 학습 결과를 재사용할 때에는, 기억하고 있는 학습 결과를 가공 조건 조정 학습부 (25) 에 출력한다. 학습 결과의 기억에는, 상기 서술한 바와 같이, 이용하는 기계 학습 알고리즘에 따른 가치 함수를, 근사 함수나, 배열, 또는 다치 출력의 SVM 이나 뉴럴 네트워크 등의 교사가 있는 학습기 등에 의해 기억하도록 하면 된다.

또한, 학습 결과 기억부 (26) 에, 다른 와이어 방전 가공기 (1) 나 집중 관리 시스템 (30) 이 기억하고 있는 학습 결과를 입력하여 기억시키거나, 학습 결과 기억부 (26) 가 기억하고 있는 학습 결과를 다른 와이어 방전 가공기 (1) 나 집중 관리 시스템 (30) 에 대해 출력하거나 하는 것도 가능하다.

가공 조건 조정부 (27) 는, 가공 조건 조정 학습부 (25) 가 학습한 결과와 현재의 가공 상태에 관련된 데이터에 기초하여 가공 조건의 조정량을 결정한다. 여기에서 말하는 가공 조건의 조정량의 결정이 기계 학습에 사용되는 행동 a 에 상당한다. 가공 조건의 조정은, 예를 들어, 가공 조건을 구성하는 각 파라미터의 변경량을 조합한 것을 선택 가능한 행동 (행동 1 : 전압값 = -5 ％, 행동 2 : 인가 시간 = ＋1 ％, …) 으로서 준비해 두고, 과거의 학습 결과에 기초하여 장래에 얻어지는 보수가 가장 커지는 행동을 선택하도록 해도 되고, 또, 복수의 가공 조건의 항목을 동시에 조정하는 행동을 준비하도록 해도 된다. 또한, 상기한 ε 그리디법을 채용하여, 소정의 확률로 랜덤한 행동을 선택함으로써 가공 조건 조정 학습부 (25) 의 학습의 진전을 도모하도록 해도 된다.

그 후, 가공 조건 조정부 (27) 는, 결정된 가공 조건의 조정량에 기초하여 가공 조건 기억부 (12) 로부터 취득된 가공 조건을 조정하고, 조정 결과가 되는 가공 조건을 가공 전원 (2) 에 대하여 설정한다. 그리고, 가공 조건 조정부 (27) 가 조정한 가공 조건에 기초하여 제어부 (10) 에 의해 가공 전원 (2) 의 제어가 실시된다.

그 후, 재차 현재의 와이어 방전 가공기 (1) 의 상황의 취득이 기계 학습기 (20) 에 의해 실시되어, 입력된 가공 상태에 관련된 데이터를 사용하여 학습을 반복함으로써, 보다 우수한 학습 결과를 얻을 수 있다.

이와 같이 하여 기계 학습기 (20) 가 학습한 결과로서, 와이어 방전 가공기 (1) 에서의 피가공물의 가공에 있어서 가공 상태에 따른 가공 조건의 조정이 실시되도록 된 단계에서 기계 학습기 (20) 에 의한 학습이 완료된다.

상기 학습이 완료된 학습 데이터를 사용하여 실제로 와이어 방전 가공기에 의해 가공할 때에는, 기계 학습기 (20) 는 새로운 학습을 실시하지 않도록 하고 학습 완료시의 학습 데이터를 그대로 사용하여 반복 운전을 하도록 해도 된다.

또, 학습이 완료된 기계 학습기 (20) (또는, 다른 기계 학습기 (20) 의 완료된 학습 데이터를 학습 결과 기억부 (26) 에 복사한 기계 학습기 (20)) 를 다른 와이어 방전 가공기 (1) 에 장착하고, 학습 완료시의 학습 데이터를 그대로 사용하여 반복 운전을 하도록 해도 된다.

또한, 학습이 완료된 기계 학습기 (20) 의 학습 기능을 유효하게 한 채로 다른 와이어 방전 가공기 (1) 에 장착하고, 피가공물의 가공을 계속함으로써, 와이어 방전 가공기마다 상이한 개체차나 경년 변화 등을 추가로 학습시켜, 당해 와이어 방전 가공기에게 있어서 보다 양호한 가공 조건의 조정을 탐색하면서 운전하는 것도 가능하다.

와이어 방전 가공기 (1) 의 기계 학습기 (20) 는 단독으로 기계 학습을 하도록 해도 되지만, 복수의 와이어 방전 가공기 (1) 가 각각 외부와의 통신 수단을 추가로 구비하면, 각각의 상태 데이터 기억부 (22) 가 기억한 가공 상태에 관련된 데이터나 학습 결과 기억부 (26) 가 기억한 학습 결과를 송수신하여 공유하는 것이 가능해져, 보다 효율적으로 기계 학습을 실시할 수 있다.

예를 들어, 소정의 범위 내에서 가공 조건을 변동시켜 학습할 때에, 복수의 와이어 방전 가공기 (1) 에 있어서 상이한 조정량을 소정의 범위 내에서 각각 변동시켜 가공하면서, 각각의 와이어 방전 가공기 (1) 사이에서 가공 상태에 관련된 데이터나 학습 데이터를 주고받음으로써 병렬적으로 학습을 진행하도록 함으로써 효율적으로 학습시킬 수 있다.

이와 같이 복수의 와이어 방전 가공기 (1) 사이에서 데이터를 주고받을 때에는, 통신은 집중 관리 시스템 (30) 등의 호스트 컴퓨터를 경유해도 되고, 직접 와이어 방전 가공기 (1) 끼리가 통신해도 상관없으며, 클라우드를 사용해도 상관없지만, 대량의 데이터를 취급하는 경우가 있기 때문에, 가능한 한 통신 속도가 빠른 통신 수단을 사용하는 것이 바람직하다.

이상, 본 발명의 실시형태에 대해 설명하였지만, 본 발명은 상기 서술한 실시형태의 예에만 한정되지 않고, 적절히 변경을 추가함으로써 여러 가지 양태로 실시할 수 있다.

Claims

가공 조건 설정부에 설정된 가공 조건에 따라 가공 전원, 가공액의 제어를 실시하고, 상하 노즐 사이에 장가 (張架) 된 와이어상 전극과 피가공물 사이에 전압을 인가하여 방전을 발생시킴과 함께, 상기 와이어상 전극과 피가공물을 상대 이동시켜 상기 피가공물의 가공을 실시하는 와이어 방전 가공기에 있어서,
상기 가공에 관련된 환경을 나타내는 정보인 환경 정보를 기억하는 환경 정보 기억부와,
상기 가공 조건의 조정 대상 파라미터와 그 조정 대상 파라미터의 조정량을 기계 학습하는 가공 조건 조정 장치를 구비하고,
상기 가공 조건 조정 장치는,
상기 가공에 있어서의 가공 상태를 나타내는 정보인 상태 데이터를 취득하는 상태 관측부와,
보수 조건을 기억하는 보수 조건 기억부와,
상기 상태 데이터와 상기 보수 조건에 기초하여 보수를 계산하는 보수 계산부와,
가공 조건 조정을 기계 학습하는 가공 조건 조정 학습부와,
상기 가공 조건 조정 학습부에 의한 상기 가공 조건 조정의 기계 학습 결과와, 상기 상태 데이터 및 상기 환경 정보에 기초하여, 가공 조건 조정의 대상 파라미터와 그 조정량을 조정 행동으로서 결정하고, 그 조정 행동에 기초하여 상기 가공 조건 설정부에 설정된 가공 조건을 조정하고, 조정 후의 가공 조건을 출력하는 가공 조건 조정부를 갖고,
상기 가공 조건 조정 학습부는, 상기 조정 행동과, 출력된 상기 조정 후의 가공 조건에 기초한 가공 동작 후의 상기 상태 관측부에 의해 취득된 상기 상태 데이터와, 상기 보수 계산부가 계산한 상기 보수에 기초하여 상기 가공 조건 조정을 기계 학습하는 것을 구비한 것을 특징으로 하는 와이어 방전 가공기.
제 1 항에 있어서,
상기 상태 데이터는, 상기 피가공물에 대한 상기 와이어상 전극의 위치 정보를 적어도 포함하는 것을 특징으로 하는 와이어 방전 가공기.
제 1 항에 있어서,
상기 상태 데이터는, 가공 전압, 가공 전류, 가공 속도, 방전 횟수, 가공액량, 가공액압, 단락의 발생, 단선의 발생 중 적어도 하나를 포함하는 것을 특징으로 하는 와이어 방전 가공기.
제 1 항에 있어서,
상기 보수 조건 기억부는, 상기 가공 조건 설정부에 설정된 가공 조건으로 가공한 경우의 가공 전압, 가공 전류, 가공 속도의 기준치 데이터를 기억하는 것을 특징으로 하는 와이어 방전 가공기.
제 1 항에 있어서,
상기 상태 데이터는, 적어도 가공 전압, 가공 전류, 가공 속도를 포함하고,
상기 보수 계산부는, 상기 상태 데이터에 포함되는 가공 전압, 가공 전류, 가공 속도가 상기 가공 조건 설정부에 설정된 가공 조건에 기초하여 얻어지는 기준치 데이터에 가까워지는 경우에 플러스의 보수를 부여하는 것을 특징으로 하는 와이어 방전 가공기.
제 1 항 내지 제 5 항 중 어느 한 항에 있어서,
상기 상태 데이터는, 적어도 가공 전압, 가공 전류, 가공 속도, 단락의 발생, 단선의 발생을 포함하고,
상기 보수 계산부는, 상기 상태 데이터에 포함되는 가공 전압, 가공 전류, 가공 속도가 상기 가공 조건 설정부에 설정된 가공 조건에 기초하여 얻어지는 기준치 데이터로부터 멀어지는 경우, 또는, 상기 상태 데이터에 포함되는 단락 및 단선 중 적어도 하나가 발생한 경우에 마이너스의 보수를 부여하는 것을 특징으로 하는 와이어 방전 가공기.
제 1 항 내지 제 5 항 중 어느 한 항에 있어서,
적어도 1 개의 다른 와이어 방전 가공기와 접속되어 있고,
상기 다른 와이어 방전 가공기와의 사이에서 기계 학습의 결과를 상호 교환 또는 공유하는 것을 특징으로 하는 와이어 방전 가공기.
가공 조건 설정부에 설정된 가공 조건에 따라 가공 전원, 가공액의 제어를 실시하고, 상하 노즐 사이에 장가 (張架) 된 와이어상 전극과 피가공물 사이에 전압을 인가하여 방전을 발생시킴과 함께, 상기 와이어상 전극과 피가공물을 상대 이동시켜 상기 피가공물의 가공을 실시하는 와이어 방전 가공기에 의한 가공 조건 조정을 기계 학습하는 가공 조건 조정 장치로서,
상기 가공 조건 조정의 함수 등으로 표현된 학습 결과를 불휘발성 메모리에 기억하는 학습 결과 기억부와,
상기 가공에 있어서의 가공 상태를 나타내는 정보인 상태 데이터를 취득하는 상태 관측부와,
상기 학습 결과 기억부에 기억된 학습 결과와, 상기 상태 관측부에서 관측한 상기 상태 데이터에 기초하여 가공 조건 조정의 대상 파라미터와 그 조정량 또는 그 조정 후의 값을 결정하고, 가공 조건을 조정하는 가공 조건 조정부를 구비한 것을 특징으로 하는 가공 조건 조정 장치.