KR20210061984A - 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체 - Google Patents

대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체 Download PDF

Info

Publication number
KR20210061984A
KR20210061984A KR1020210060314A KR20210060314A KR20210061984A KR 20210061984 A KR20210061984 A KR 20210061984A KR 1020210060314 A KR1020210060314 A KR 1020210060314A KR 20210060314 A KR20210060314 A KR 20210060314A KR 20210061984 A KR20210061984 A KR 20210061984A
Authority
KR
South Korea
Prior art keywords
test
conversation
platform
call
simulation data
Prior art date
Application number
KR1020210060314A
Other languages
English (en)
Other versions
KR102428685B1 (ko
Inventor
쿠오 판
유통 첸
동니 왕
Original Assignee
베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디. filed Critical 베이징 바이두 넷컴 사이언스 앤 테크놀로지 코., 엘티디.
Publication of KR20210061984A publication Critical patent/KR20210061984A/ko
Application granted granted Critical
Publication of KR102428685B1 publication Critical patent/KR102428685B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/22Arrangements for supervision, monitoring or testing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3692Test management for test results analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/22Arrangements for supervision, monitoring or testing
    • H04M3/26Arrangements for supervision, monitoring or testing with means for applying test signals or for measuring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3604Software analysis for verifying properties of programs
    • G06F11/3612Software analysis for verifying properties of programs by runtime analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3664Environments for testing or debugging software
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3696Methods or tools to render software testable
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06Q50/30
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/50Business processes related to the communications industry
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/01Assessment or evaluation of speech recognition systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/22Arrangements for supervision, monitoring or testing
    • H04M3/26Arrangements for supervision, monitoring or testing with means for applying test signals or for measuring
    • H04M3/28Automatic routine testing ; Fault testing; Installation testing; Test methods, test equipment or test arrangements therefor
    • H04M3/32Automatic routine testing ; Fault testing; Installation testing; Test methods, test equipment or test arrangements therefor for lines between exchanges
    • H04M3/323Automatic routine testing ; Fault testing; Installation testing; Test methods, test equipment or test arrangements therefor for lines between exchanges for the arrangements providing the connection (test connection, test call, call simulation)
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M3/00Automatic or semi-automatic exchanges
    • H04M3/42Systems providing special services or facilities to subscribers
    • H04M3/50Centralised arrangements for answering calls; Centralised arrangements for recording messages for absent or busy subscribers ; Centralised arrangements for recording messages
    • H04M3/51Centralised call answering arrangements requiring operator intervention, e.g. call or contact centers for telemarketing
    • H04M3/5175Call or contact centers supervision arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2203/00Aspects of automatic or semi-automatic exchanges
    • H04M2203/40Aspects of automatic or semi-automatic exchanges related to call centers
    • H04M2203/403Agent or workforce training

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Marketing (AREA)
  • Data Mining & Analysis (AREA)
  • Tourism & Hospitality (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Primary Health Care (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Telephonic Communication Services (AREA)
  • Debugging And Monitoring (AREA)
  • Operations Research (AREA)
  • Telephone Function (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

본 출원은 딥 러닝과 지능형 대화 기술분야에 관한 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체를 개시한다. 구체적인 방안은, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하고, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 대화 플랫폼이 피드백한 대화 데이터를 수신하도록 통화 시뮬레이션 데이터를 대화 플랫폼에 송신함으로써 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행하여 콜센터에 대한 의존을 제거하고, 테스트 원가를 저하시키며, 사용자에 대한 방해를 방지하여 테스트 효율을 향상시키고 종래기술에서 테스트 원가가 높고 효율이 낮은 동시에 사용자에게 방해를 가져오는 기술적 과제를 해결한다.

Description

대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체{ METHOD AND APPARATUS FOR TESTING A DIALOGUE PLATFORM, ELECTRONIC DEVICE AND STORAGE MEDIUM}
본 출원은 컴퓨터 기술분야에 관한 것으로, 특히 딥 러닝과 지능형 대화 기술분야에 관한 것이며, 구체적으로는 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체에 관한 것이다.
전형적인 지능형 대화 시스템에서는 모든 당사자의 대화를 수신해야 하고 트래픽 볼륨이 상대적으로 큰데 지능형 대화 시스템이 동시 통화가 많은 경우에 안정적으로 운행 할 수 있도록 하기 위하여 미리 지능형 대화 시스템에 대해 시뮬레이션 테스트를 수행해야 한다.
관련 기술에서, 지능형 대화 시스템에 대해 시뮬레이션 테스트를 수행할 경우, 콜센터 환경에 의존하여 다이얼 테스트를 수행해야 하는데 이러한 방법은 콜센터에서 많은 라인 사용료를 지불해야 할 뿐만 아니라 사용자를 방해하게 되어 테스트 난이도가 크므로 콜센터에 대한 의존에서 벗어나 지능형 대화 시스템의 테스트를 구현하는 것은 테스트 인원이 해결해야 할 중요한 과제이다.
본 출원은 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체를 제공한다.
제1 양태에 따르면, 대화 플랫폼의 테스트 방법을 제공하는데 상이한 테스트 인스턴스에서의 테스트 임무에 따라 미리 구축한 대화 플랫폼의 테스트에 필요한 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 이용하여 대화 플랫폼에 대해 대화 테스트를 수행하고, 대화 테스트 과정에서 실제로 통화할 필요가 없으므로 콜센터에 대한 의존을 제거하고 사용자를 방해하는 것을 방지하며 원가를 절감하고 테스트 효율이 더 높다.
본 출원의 제2 양태는 대화 플랫폼의 테스트 장치를 제공한다.
본 출원의 제3 양태는 전자기기를 제공한다.
본 출원의 제4 양태는 컴퓨터 명령이 저장되어 있는 비일시적 컴퓨터 판독 가능 저장매체를 제공한다.
제1 양태에 따르면,
다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 상기 테스트 임무 정보마다 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하는 단계;
테스트를 작동하도록 상기 테스트 번호를 상기 대화 플랫폼에 송신하는 단계;
상기 대화 플랫폼이 피드백한 임무 상태를 수신하도록 상기 링잉 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하는 단계;
상기 통화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하고 상기 대화 플랫폼이 피드백한 대화 데이터를 수신하는 단계; 및
상기 테스트 임무, 상기 테스트 임무에 대응하는 상기 임무 상태 및 상기 대화 데이터에 따라 상기 대화 플랫폼에 대해 대화 테스트를 수행하는 단계를 포함하는 대화 플랫폼의 테스트 방법을 제공한다.
제2 양태에 따르면,
다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 상기 테스트 임무 정보마다 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하는 크리에이트 모듈;
테스트를 작동하도록 상기 테스트 번호를 상기 대화 플랫폼에 송신하는 작동 모듈;
상기 대화 플랫폼이 피드백한 임무 상태를 수신하도록 상기 링잉 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하고,
또한, 상기 통화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하고 상기 대화 플랫폼이 피드백한 대화 데이터를 수신하는 수신 모듈; 및
상기 테스트 임무, 상기 테스트 임무에 대응하는 상기 임무 상태 및 상기 대화 데이터에 따라 상기 대화 플랫폼에 대해 대화 테스트를 수행하는 대화 테스트 모듈을 포함하는 대화 플랫폼의 테스트 장치를 제공한다.
제3 양태에 따르면, 전자기기를 제공하는데,
적어도 하나의 프로세서; 및
상기 적어도 하나의 프로세서와 통신 가능하게 연결되는 메모리를 포함하는 전자기기에 있어서,
상기 메모리에는 상기 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되며 상기 명령이 상기 적어도 하나의 프로세서에 의해 실행되어 상기 적어도 하나의 프로세서가 제1 양태에 따른 대화 플랫폼의 테스트 방법을 수행하도록 한다.
제4 양태에 따르면, 컴퓨터 명령이 저장되어 있는 비일시적 컴퓨터 판독 가능 저장매체를 제공하는데 상기 컴퓨터 명령은 상기 컴퓨터가 제1 양태에 따른 대화 플랫폼의 테스트 방법을 수행하도록 한다.
제5 양태에 따르면, 컴퓨터 판독 가능 매체에 저장되어 있는 컴퓨터 프로그램을 제공한다. 상기 컴퓨터 프로그램 중의 명령이 실행될 경우, 제1 양태에 따른 대화 플랫폼의 테스트 방법이 실행된다.
본 발명의 실시예에서 제공하는 기술적 해결수단은 아래와 같은 유리한 효과를 포함할 수 있다.
다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하고, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신하고, 및 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행한다. 본 출원에서는 다수의 테스트용 인스턴스를 크리에이트하는 것을 통해 테스트용 인스턴스에 따라 대응하는 대화 테스트 데이터를 시뮬레이션하여 생성하며, 데화 테스트 데이터에 기반하여 대화 플랫폼에 대해 대화 테스트를 수행하는 동시에 대화 테스트 과정에 실제로 통화할 필요가 없으므로 콜 센터에 대한 의존을 제거하고 사용자를 방해하는 것을 방지하며 자원을 절약하고 테스트 효율이 더 높다.
본 명세서에서 설명한 내용은 본 발명의 실시예의 관건적이거나 중요한 특징을 표기하기 위한 것이 아니고 본 발명의 범위를 한정하기 위한 것도 아님을 이해해야 한다. 본 발명의 기타 특징은 아래의 명세서를 통해 더 용이하게 이해할 수 있을 것이다.
첨부 도면은 본 방안을 더 잘 이해하기 위한 것으로, 본 출원을 한정하지 않는다. 여기서,
도 1은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도1이다.
도 2는 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도2이다.
도 3은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도3이다.
도 4는 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도4이다.
도 5는 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도5이다.
도 6은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도6이다.
도 7은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도7이다.
도 8은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 장치의 구조 개략도이다.
도 9는 본 출원의 실시예에 따른 대화 플랫폼의 테스트 방법의 전자기기의 블록도이다.
이하, 첨부 도면을 결부하여 본 출원의 예시적인 실시예들을 설명하고자 하며, 이해를 돕기 위해 본 출원의 실시예들의 다양한 세부 사항들이 포함되는데, 이들은 단지 예시적인 것으로 간주되어야 한다. 따라서, 본 출원의 기술 분야의 통상의 지식을 가진 자라면 본 출원의 범위 및 사상을 벗어나지 않으면서 본 명세서에 설명된 실시예들에 대해 다양한 변경 및 수정이 이루어질 수 있음을 알아야 한다. 또한, 명확성 및 간결성을 위해, 공지된 기능 및 구조에 대한 설명은 아래 설명에서 생략된다.
이하 도면을 참조하여 본 출원의 실시예에 따른 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체를 설명한다.
도 1은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도1이다.
관련 기술에서, 대화 플랫폼에 대해 테스트를 수행할 경우, 사용한 테스트 방안은 콜센터와 통합된 환경에서 다이얼링 테스트 즉, 실제 통화를 수행하여 대화 플랫폼의 통합 테스트를 구현하는 것이다. 대화 플랫폼 테스트 인원에게 있어서, 다이얼링 테스트를 수행하기 전에 많은 양의 진실한 휴대폰 번호를 수집해야 하지만 많은 양의 진실한 번호를 수집하는 것은 난이도가 크고 많은 인력을 소모하게 된다. 동시에, 많은 양의 통화는 많은 라인 사용료를 지불해야 할 뿐만 아니라 수신 인원을 방해하게 되어 전체적인 테스트 효율을 저하시키게 된다. 그러나 본 출원에서는 테스트 수요에 기반하여 미리 테스트 번호를 생성하고, 여러 가지 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 시뮬레이션하여 대화 플랫폼에 대한 통화 테스트를 구현하는 동시에 통화 테스트 과정에서 콜센터에 대한 의존을 제거하고 테스트 원가를 저하시키며 테스트 효율을 향상시키고 사용자를 방해하지 않게 된다.
도 1에 도시된 바와 같이, 상기 방법은 아래와 같은 단계를 포함한다.
단계101, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함한다.
본 실시예의 실행 주체는 대화 플랫폼의 테스트 장치이고, 상기 장치는 mock 기술에 기반한 테스트 시스템에 배치될 수 있다. 본 출원의 대화 플랫폼은 테스트 대기 시스템이고, 상기 테스트 대기 시스템은 지능 로봇과 같은 지능형 인터랙티브 제품에 배치될 수 있다.
시뮬레이션 테스트 인스턴스는 테스트 시나리오의 수요에 따라 대화 플랫폼에 대해 테스트를 수행하기 위하여 생성한 것으로서, 크리에이트한 테스트 인스턴스에 기반하여 대화 플랫폼의 여러 모듈에 대한 완전한 테스트를 완성할 수 있다. 시뮬레이션 테스트 인스턴스는 하나 또는 다수 일 수 있는 바, 시뮬레이션 테스트 인스턴스가 다수일 경우, 다수의 시뮬레이션 테스트 인스턴스는 순차적으로 수행될 수도 있고 병행될 수도 있다.
한가지 시나리오에서, 시뮬레이션 테스트 인스턴스는 하나이고 하나의 시뮬레이션 테스트 인스턴스를 통해 대화 플랫폼에 대해 대화 테스트를 수행할 수 있는 바, 즉 본 실시예의 대화 플랫폼의 테스트 방법의 단계에 따라 대화 테스트를 수행하여 콜센터에 의존하지 않고 대화 테스트를 구현할 수 있다.
두 번째 시나리오에서, 시뮬레이션 테스트 인스턴스는 다수이고 다수의 시뮬레이션 테스트 인스턴스는 순차적으로 수행될 수 있는데, 그 중 수행되는 순서는 기설정된 수행 순서 일 수도 있고 랜덤한 수행 순서 일 수도 있으며, 각 시뮬레이션 테스트 인스턴스는 모두 본 실시예의 대화 플랫폼의 테스트 방법의 단계에 따라 대화 테스트를 수행하여 콜센터에 의존하지 않고 대화 테스트를 구현할 수 있다.
세 번째 시나리오에서, 시뮬레이션 테스트 인스턴스는 다수이고 다수의 시뮬레이션 테스트 인스턴스는 동시에 수행되는데, 각 시뮬레이션 테스트 인스턴스는 모두 본 실시예의 대화 플랫폼의 테스트 방법의 단계에 따라 대화 테스트를 수행하여 콜센터에 의존하지 않고 대화 테스트를 구현할 수 있다.
다수의 테스트 인스턴스는 동일할 수도 있고 상이할 수도 있으며, 다수의 시뮬레이션 테스트 인스턴스를 설치하여 대화 플랫폼에 대해 동시에 테스트를 수행함으로써 대화 플랫폼이 대량의 동시 데이터에서의 성능, 안정성을 테스트할 수 있고, 대화 플랫폼에 대해 압력 테스트를 수행할 수 있는 바, 예를 들어 다수의 통화가 동시에 수행될 경우, 대화 플랫폼에 정체가 존재하는지를 테스트할 수 있다. 나아가 다수의 테스트 인스턴스의 동시 테스트 결과에 따라 대화 플랫폼을 적합하게 조절할 수 있다.
본 실시예에서 각 시뮬레이션 테스트 인스턴스는 테스트 과정에서 필요한 다수의 테스트 임무 정보를 포함하는데 여기서 테스트 임무는 호출 테스트 임무, 성능 조절 테스트 임무 등일 수 있고, 호출 테스트 임무는 상이한 테스트 수요와 테스트 시나리오에 기반하여 호출 재시도 테스트 임무, 통화 테스트 임무, 이상 통화 테스트 임무 등으로 분류되며, 본 실시예는 하나씩 열거하지 않는다.
본 실시예에서, 테스트 번호는 테스트 시스템이 상이한 번호 유형에 따라 자동으로 플랫폼에 대한 테스트를 생성하는 테스트 번호로서 상이한 시나리오의 테스트 수요를 만족시킨다.
한가지 시나리오에서는, 상이한 운영자의 상이한 휴대폰 번호 세그먼트에 따라 자동으로 테스트 번호를 생성하는 바, 예를 들어 133으로 시작하는 휴대폰 번호, 185로 시작하는 휴대폰 번호 또는 189로 시작하는 휴대폰 번호이며, 본 실시예는 하나씩 열거하지 않는다.
두 번째 시나리오에서는, 상이한 성과 시(省市)에 따라 대응하는 고정 전화의 테스트 번호를 생성할 수 있는데, 여기서 지역 번호와 번호 사이에는 괄호 또는 “-”로 이격한다.
세 번째 시나리오에서, 휴대폰의 숏 넘버와 특별 번호에 따라 자동으로 테스트 번호를 생성할 수 있는 바, 예를 들어 호스트의 숏 넘버 번호는 720이고, 관련 바인딩 휴대폰의 숏 넘버 번호는 722이다. 특별 번호는 특정된 시나리오 수요에 따라 생성한 번호를 말하는 바, 예를 들어 흔히 볼 수 있는 화재 신고 번호 119, 구조 번호 110 등이 있으며, 또 번호 520과 같이 자체로 제작한 번호로 사랑을 대표하는 특별 번호 일 수 있다.
네 번째 시나리오에서는, 자리수가 요구에 부합되지 않는 번호, 양식이 잘못된 번호 등과 같은 이상 번호를 생성할 수 있는 바, 예를 들어 정상적인 휴대폰 번호는 11자리이지만 9자리 또는 10자리의 테스트 번호 등을 생성할 수 있으며 본 실시예는 하나씩 열거하지 않는다.
본 실시예에서, 링잉 시뮬레이션 데이터는 상이한 통화 상태를 시뮬레이션한 리턴 상태를 통해 온라인 고객이 대화할 때의 접속 상황을 실제로 반영하는 것을 말하는 바, 통화 상태의 리턴 상태는 통화에서 종료, 셧 다운, 통화 중, 정지, 결번, 휴먼 서비스 및 기타 등을 포함하는 여러 가지가 있을 수 있으며, 여기서 링잉 시뮬레이션 데이터의 생성에 대하여 아래 실시예에서 상세히 소개한다.
본 실시예에서, 통화 시뮬레이션 데이터는 시뮬레이션 사용자가 실제 통화 과정에서의 통화 데이터를 말하는 바, 여기서 상이한 통화 시나리오에서 통화 시뮬레이션 데이터도 상이할 수 있으며, 예를 들어, 사용자와 대화 플랫폼의 로봇이 통화하는 것을 예로 하면, 사용자가 현재 통화를 원하지 않을 경우, 통화가 연결된 후 사용자는 즉시 종료하는데, 이러한 시나리오에서 통화 시뮬레이션 데이터는 통화 시간이 짧고 통화 기록에는 대화 플랫폼의 로봇의 오프닝만 포함되게 된다. 또 예를 들어, 통화 과정에서 사용자는 로봇을 일시 정지시키면 이는 인터랙티브 과정이 존재하므로 통화 기간이 길 수 있고 생성된 통화 시뮬레이션 데이터에는 사용자가 일시 정지시킨 대화 및 로봇이 정지된 후의 회답이 포함된다. 통화 시뮬레이션 데이터의 생성에 대하여 아래 실시예에서 상세히 소개한다.
단계102, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신한다.
구체적으로, 테스트 시스템은 테스트 번호를 생성한 후 생성한 테스트 번호를 대화 플랫폼에 송신하여 대화 플랫폼에 대한 테스트를 작동시킨다.
단계103, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신한다.
구체적으로, 대화 플랫폼이 작동된 후, 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하여 대화 플랫폼으가 링잉 시뮬레이션 데이터에 따라 대응하는 피드백 임무 상태를 생성하도록 하는데, 여기서 상이한 링잉 시뮬레이션 데이터에 대하여 대화 플랫폼으로부터 피드백한 임무 상태도 상이한 바, 예를 들어 현재 링잉 시뮬레이션 데이터에 대응하는 링잉 상태가 “셧 다운”이면 대화 플랫폼이 피드백한 임무 상태는 “재시도”이다. 또 예를 들어 현재 링잉 시뮬레이션 데이터에 대응하는 링잉 상태가 “종료”이면 대화 플랫폼이 피드백한 임무 상태는 “이미 완성”이다. 또 예를 들어 현재 링잉 시뮬레이션 데이터에 대응하는 링잉 상태가 “정지”이면 대화 플랫폼이 피드백한 임무 상태는 “이상”이다. 상이한 링잉 시뮬레이션 데이터에 대하여 대화 플랫폼이 피드백한 임무 상태를 수신하는 상황은 아래 표 1을 참조할 수 있는데 표 1에서는 여러 가지 상이한 링잉 시뮬레이션 데이터와 피드백 임무 상태의 대응 관계를 열거하였다.
링잉 시뮬레이션 데이터(링잉 상태) 피드백 임무 상태
통화 중, 휴먼 서비스 수행 중
기타(예를 들어 통화), 셧 다운, 사용 중 재시도 대기
끊기 이미 완성
정지, 결번, 기타(예를 들어, 미상) 이상
표 1단계104, 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신한다.
통화 시뮬레이션 데이터는, 랜덤 기간일 수도 있고 사용자가 설치한 고정 기간일 수도 있는 상이한 통화 기간에 기반한 것으로서, 상이한 통화 기간에 기반하여 시뮬레이션 하는 사용자가 실제로 통화하는 과정에서의 통화 데이터를 말한다.
구체적으로, 대화 플랫폼이 작동한 후, 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하여 대화 플랫폼으가 통화 시뮬레이션 데이터에 따라 대응하는 피드백 대화 데이터를 생성함으로써 실제 통화 과정에서의 통화 데이터를 획득할 수 있도록 한다.
단계105, 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행한다.
본 실시예에서, 상이한 테스트 시나리오는 상이한 테스트 임무에 대응하는데, 여기서 테스트 임무는 예를 들어 호출 재시도 테스트, 배치 스케줄링 성능 테스트 및 시스템 알람 테스트 등이다. 상이한 테스트 임무에 포함되는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터도 상이하고, 링잉 시뮬레이션 데이터에 대응하는 피드백 임무 상태 및 통화 시뮬레이션 데이터에 대응하는 피드백한 대화 데이터도 상이하므로 상이한 시나리오에 기반한 테스트 수요를 구현하고 대화 플랫폼에 대해 맞춤형 테스트를 수행하여 콜센터에 의존하지 않고 여러 가지 시나리오에서의 대화 테스트를 시뮬레이션 할 수 있어 사용자를 방해하는 것을 방지하며 테스트 효율을 향상시키고, 테스트 원가를 저하시킬 수 있다.
대화 플랫폼에 대한 대화 테스트 과정을 이해하기 편리하도록 하기 위하여 세 가지 구체적인 테스트 시나리오를 예로하여 설명한다.
한가지 시나리오에서, 테스트 임무는 호출 재시도 임무이고, 테스트 시스템은 호출 재시도 임무에 필요한 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 결정하는데, 호출 재시도 임무에서의 통화 시뮬레이션 데이터는 0으로서, 바꾸어 말하면 통화 시뮬레이션 데이터가 필요하지 않다. 우선, 테스트 시스템은 대화 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하여 대화 플랫폼으가 테스트 번호에 따라 전화를 걸도록 하고, 테스트 시스템은 콜 요청을 수신한 후, 테스트 번호에 대응하는 링잉 상태, 예를 들어 사용 중에 대응하는 링잉 상태인 사용 중을 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 사용 중에 대응하는 링잉 상태의 임무 상태, 즉 “재시도 대기”를 수신하고, 나아가 호출 재시도 임무에 따라 “재시도 대기”의 임무 상태에 기반하여 기설정된 재시도 횟수를 완성하거나 또는 기설정된 재시도 시간을 만족할 때까지 다시 다이얼링을 수행하여 호출 재시도 임무를 완성함으로써 상기 호출 재시도 임무가 대화 플랫폼에 대해 수행한 대화 테스트를 완성한다.
다른 한 시나리오에서, 테스트 임무는 정상적인 통화 테스트 임무이고, 테스트 시스템은 통화 테스트 임무에 대응하는 테스트 번호와 링잉 시뮬레이션 데이터와 통화 모드 데이터를 결정하는데, 설명의 편리를 위하여 본 실시예에서는 하나의 테스트 번호를 예로 들어 설명한다. 구체적으로 말하면, 테스트 시스템은 테스트를 작동하도록 187···075와 같은 테스트 번호를 대화 플랫폼에 송신하여 대화 플랫폼으가 테스트 번호를 테스트 시스템에 송신하도록 하고, 테스트 시스템은 상기 테스트 번호에 대응하는 링잉 시뮬레이션 데이터를 “통화 중”으로 결정하며, 상기 링잉 시뮬레이션 데이터인 “통화 중”을 대화 플랫폼에 송신하여 대화 플랫폼이 피드백한 임무 상태인 “수행 중”을 수신한다. 이로써, 상기 테스트 번호의 한 차례의 통화로부터 시작하여 테스트 시스템은 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하는 바, 예를 들어 송신한 내용이 “hi, 안녕”이고 대화 플랫폼으가 통화 시뮬레이션 데이터에 따라 통화 시뮬레이션 데이터로부터 대응하는 피드백 대화 데이터를 결정하도록 하며, 나아가 대화 플랫폼이 피드백한 대화 데이터인 “네, 안녕하세요, 누구세요, 무슨 일인가요?”를 수신하되, 바꾸어 말하면 통화 시뮬레이션 데이터에 미리 설치한 통화 기간과 완전한 대화 데이터에 따라 대화 플랫폼에 대해 전체 통화 테스트 임무를 완성하며, 또 바꾸어 말하면, 대화 플랫폼에서의 각 모듈의 스케줄링 기능을 테스트하여 콜센터에 의존하지 않는 상황에서 대화 플랫폼이 여러 가지 시나리오에서의 대화 테스트를 구현할 수 있어 원가가 저렴하고 효율이 높다.
또 다른 시나리오에서, 테스트 임무는 시스템 알람 테스트 임무이고, 여기서 알람 테스트 임무는 특정된 접속률 조건에 기반한 테스트 임무로서 기설정 접속률과 시스템 응답 사이의 기설정 관계에 기반하여 구현되는 바, 예를 들어 접속률이 30%인 상황에서 시스템이 알람 정보를 피드백 하는지 여부를 테스트하는 경우, 바꾸어 말하면 1000개의 테스트 번호를 테스트하는 경우, 여기에는 70%가 접속되지 않아 정상적인 상황에서의 접속률보다 낮으므로 이러한 상황에서 대화 플랫폼에는 이상이 존재하여 알람 응답을 송신하여 대화 플랫폼의 알람 응답 능력을 테스트함으로써 실제 시나리오에서 알람을 송신하고 대화 시스템을 제때에 처리할 수 있도록 한다. 구체적으로, 시스템 알람 시스템 임무에 필요한 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 결정하되, 링잉 시뮬레이션 데이터는 비율에 따라 시뮬레이션한 실제 온라인 사용자의 링잉 상태, 예를 들어 테스트 번호를 통해 전화를 걸 때 70%의 사용자를 시뮬레이션 하게 되고, 테스트 시스템은 대응하는 링잉 상태인 셧 다운을 리턴하게 된다. 나아가, 대응하는 테스트 번호를 이용하여 대화 플랫폼을 작동시키고 대응하는 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하여 대화 플랫폼이 피드백한 임무 상태의 수신 여부를 결정하며, 대응하는 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 대화 플랫폼이 피드백한 대화 데이터의 수신 여부를 결정하여 대화 플랫폼의 각 모듈이 테스트 임무에 따라 대응하는 응답 데이터를 피드백 할 수 있는지 여부를 테스트한다. 더 나아가, 콜센터에 의존하지 않는 상황에서 시스템 알람 테스트 임무에 기반하여 대화 플랫폼에 대한 대화 테스트를 구현한다.
설명해야 할 것은, 상기 시나리오에서의 대화 플랫폼의 테스트는 단지 예시일 뿐 본 출원을 한정하기 위한 것이 아니다. 본 출원에서는 미리 여러 가지 테스트 시나리오에 필요한 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 생성하여 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터에 따라 여러 가지 시나리오에서 대화 플랫폼에 대한 테스트를 구현할 수 있으며, 본 실시예에서는 여러 가지 시나리오에서 대화 플랫폼에 대한 테스트를 하나씩 열거하지 않는다.
본 실시예의 대화 플랫폼의 테스트 방법에서, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하고, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 시뮬레이션 통화 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신하고, 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행하며, 콜센터에 대한 의존을 제거하고 사용자에 대한 방해를 방지하여 테스트 효율을 향상시키고 테스트 원가를 저하시킨다.
이 전의 실시예에서는 시뮬레이션 통화 데이터를 대화 플랫폼에 송신하고 대화 플랫폼이 피드백한 임무 상태를 수신하며, 나아가 테스트 임무 및 테스트 임무에 대응하는 임무 상태와 대화 데이터에 기반하여 대화 플랫폼에 대해 대화 테스트를 수행함으로써 대화 플랫폼이 콜센터를 이탈한 상황에서 대화 테스트를 완성하는 것을 구현할 수 있다. 그러나 본 실시예에서는 대화 플랫폼이 피드백한 대화 데이터에 따라 음성 스트림을 시뮬레이션하여 여러 차례의 대화를 구현함으로써 대화 플랫폼이 지능형 대화를 구현할 수 있는지 여부를 테스트할 수 있는 바, 바꾸어 말하면, 대화 플랫폼에 대화 모델을 설치하되, 상기 대화 모델은 딥 러닝의 방법에 기반하여 얻을 수 있고, 여러 차례의 대화 과정에서 대화 모델의 대화 효과를 평가할 수 있으며, 나아가 대화 모델의 파라미터를 조절하여 여러 차례 대화의 효과를 향상시킬 수 있다. 이 때문에 본 실시예는 대화 플랫폼의 테스트 방법을 제공하고, 도 2는 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도2이다.
도 2에 도시된 바와 같이, 단계104 다음에 아래와 같은 단계를 더 포함한다.
단계201, 대화 플랫폼이 피드백한 대화 데이터에 따라 대화 시뮬레이션 데이터를 구축하고 대화 시뮬레이션 데이터를 대화 플랫폼에 송신한다.
단계202, 대화 플랫폼이 추가로 피드백한 대화 데이터를 수신한다.
본 실시예에서는, 상기 단계104에서 대화 플랫폼이 피드백한 대화 데이터를 수시한 후, 대화 플랫폼이 피드백한 대화 데이터에 따라 대화 시뮬레이션 데이터를 구축 하는데, 대화 시뮬레이션 데이터는 실제 사용자의 녹음 데이터이고, 대화 시뮬레이션 데이터를 시뮬레이션하여 생성하며 대화 시뮬레이션 데이터를 대화 플랫폼에 송신하고 대화 플랫폼이 대화 시뮬레이션 데이터에 따라 추가 피드백한 대화 데이터를 수신한다.
예를 들어, 수신한 대화 플랫폼이 피드백한 대화 데이터가 “안녕하세요”이면 구축하여 얻은 대화 시뮬레이션 데이터는 “저는 저의 택배가 어디까지 도착하였는지 조회하고 싶습니다”이고, 이 대화 시뮬레이션 데이터를 다시 대화 플랫폼에 송신하면 수신한 대화 플랫폼이 추가로 피드백한 대화 데이터는 “택배 배송번호를 말씀하시거나 입력하여 주세요”이며, 이로써 여러 차례 대화의 시뮬레이션을 구현하여 대화 플랫폼이 피드백한 여러 차례 대화 데이터를 획득한다. 나아가 대응하는 시나리오에서 여러 차례 대화 데이터에 기반하여 대화 플랫폼이 여러 차례 대화에 대한 응답 능력을 테스트하여 여러 가지 통화 시나리오에서의 테스트 수요를 만족시킨다.
본 실시예의 대화 플랫폼의 테스트 방법에서, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하고, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 시뮬레이션 통화 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신하고, 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행하며, 콜센터에 대한 의존을 제거하고 사용자에 대한 방해를 방지하여 테스트 효율을 향상시키고 테스트 원가를 저하시키며 여러 차례의 대화 데이터에 기반하여 대화 플랫폼이 여러 차례 대화에 대한 응답 능력을 테스트하여 지능형 대화 시나리오의 수요도 만족시켜 대화 플랫폼의 성능을 향상시킨다.
이 전의 실시예에서는 링잉 시뮬레이션 데이터에 기반하여 테스트 플랫폼을 테스트하므로 이 전의 실시예에 기반하여 아래에서는 두 개의 실시예를 통해 링잉 시뮬레이션 데이터를 어떻게 생성하는지에 대해 구체적으로 설명한다.
도 3은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도3으로서 링잉 시뮬레이션 데이터를 생성함에 있어서 가능한 구현방식을 제공한다.
도 3에 도시된 바와 같이, 단계101에서의 링잉 시뮬레이션 데이터는 아래와 같은 단계를 통해 생성될 수 있다.
단계301, 현재의 테스트 번호를 생성한다.
단계302, 테스트 번호가 기설정 번호 세그먼트에 속한다고 결정하면 링잉 시뮬레이션 데이터를 기설정 번호 세그먼트에 대응하는 링잉 상태로 설치한다.
기설정 번호 세그먼트는 상이한 테스트 시나리오 수요에 따라 생성된 것이고, 상이한 기설정 번호 세그먼트는 대응하는 링잉 상태를 가진다.
표 2를 통해 기설정 번호 세그먼트와 링잉 상태의 대응 관계를 나타내는데, 여기서 상이한 테스트 번호 세그먼트는 상응한 기설정 번호 세그먼트에 대응하는 바, 바꾸어 말하면 상이한 테스트 번호 세그먼트가 대응하는 기설정 번호 세그먼트는 동일할 수도 있고 상이할 수도 있다. 상이한 기설정 번호 세그먼트는 상이한 링잉 상태와 대응한다. 본 실시예에서는 주요하게 9 가지 흔히 보는 링잉 상태, 즉 링잉 상태 데이터를 열거하지만 본 실시예를 한정하는 것이 아니다.
테스트 번호 기설정 번호 세그먼트 링잉 상태
테스트 번호1 기설정 번호 세그먼트1 통화 중
테스트 번호2 기설정 번호 세그먼트3 끊기
테스트 번호3 기설정 번호 세그먼트2 셧 다운
테스트 번호4 기설정 번호 세그먼트5 사용 중
테스트 번호5 기설정 번호 세그먼트7 정지
테스트 번호6 기설정 번호 세그먼트6 결번
테스트 번호7 기설정 번호 세그먼트8 휴먼 서비스
테스트 번호8 기설정 번호 세그먼트9 기타(사용 중)
테스트 번호9 기설정 번호 세그먼트4 기타(미상 상태)
······ ······ ······
테스트 번호N 기설정 번호 세그먼트1 통화 중
표 2예를 들어, 기설정 번호 세그먼트177-178로 시작되는 휴대폰 번호 세그먼트에서, 상기 기설정 번호 세그먼트에 대응하는 링잉 상태가 셧 다운이고, 생성된 테스트 번호에 177*******2이라는 휴대폰 테스트 번호와 177*******8이라는 휴대폰 테스트 번호가 포함되면 상기 테스트 번호에 대응하는 링잉 시뮬레이션 데이터를 셧 다운된 링잉 상태로 설치하여 테스트 번호에 대하여 대응하는 링잉 시뮬레이션 데이터를 생성함으로써 실제로 사용자가 특정 번호에 접속하는 상황을 반영한다.
설명해야 할 것은, 테스트 번호에서 기설정 번호 세그먼트에 속하지 않는 테스트 번호에 대하여 랜덤 방식으로 링잉 상태로 리턴함으로써 상이한 테스트 번호가 모두 대응하는 리턴 링잉 상태를 가지도록 할 수 있다.
본 출원의 대화 플랫폼의 테스트 방법에서는, 기설정 번호 세그먼트를 설정하는 것을 통해 기설정 번호 세그먼트와 링잉 상태 사의 대응 관계를 구축하여 특정된 테스트 수요를 만족시킬 수 있는 바, 예를 들어 다수의 테스트 번호를 테스트해야 하는 시나리오에서, 하나차례의 테스트로 여러 가지 링잉 상태를 시뮬레이션해야 하고, 테스트가 완료된 후 테스트 인원들은 기설정 번호 세그먼트와 링잉 상태의 대응 관계에 따라 시스템의 리턴 상태가 기대에 부합되는지 여부를 배치 자동 검증하여 자동화 테스트 효율이 더 높도록 할 수 있다.
상기 실시예에 기반하면, 도 4는 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도4로서, 다른 링잉 시뮬레이션 데이터를 생성함에 있어서 가능한 구현방식을 제공한다.
도 4에 도시된 바와 같이, 단계101에서의 링잉 시뮬레이션 데이터는 아래와 같은 단계를 통해 생성될 수 있다.
단계401, 랜덤 비례값을 랜덤으로 생성한다.
단계402, 랜덤 비례값이 속하는 비례 구간을 획득하고 링잉 시뮬레이션 데이터를 비례 구간에 대응하는 링잉 상태로 설치한다.
본 실시예에서 링잉 시뮬레이션 데이터를 생성하는 것은 생성된 테스트 번호에 의존하지 않는 바, 바꾸어 말하면 특정된 테스트 번호에 대응하는 링잉 상태를 설치하지 않고 미리 상태에 따라 대응하는 비례 구간을 설정한 다음 랜덤 비례값이 속하는 비례 구간을 랜덤으로 생성하며 링잉 시뮬레이션 데이터를 비례 구간에 대응하는 링잉 상태로 설치한다. 예를 들어 20%의 테스트 번호가 속하는 비례 구간이 대응하는 링잉 상태가 결번이고, 16%의 테스트 번호가 속하는 비례 구간이 대응하는 링잉 상태가 사용 중이며, 35%의 테스트 번호가 속하는 비례 구간이 대응하는 링잉 상태가 사용 중이고, 35%의 테스트 번호가 속하는 비례 구간이 대응하는 링잉 상태가 통화 중이며, 본 실시예에서는 하나씩 열거하여 설명하지 않는다.
본 실시예의 링잉 시뮬레이션 데이터의 생성 방법은 맞춤형 테스트 수요를 만족시킬 수 있는 바, 온라인 운영 데이터에 따라 실제 온라인 클라이언트의 행위를 시뮬레이션 하고 설치한 랜덤 비례 값에 의해 대응하는 링잉 상태를 획득하여 특정 접속률에 기반하여 시스템 성능을 테스트함으로써 시스템 경계 또는 이상 상황을 시뮬레이션 하는데, 예를 들어 접속률이 일정한 비율 임계값보다 작을 경우 피측 시스템의 알람을 트리거 할지 여부를 테스트하여 피측 시스템의 안정성을 담보할 수 있다. 구체적으로 말하면, 알람 테스트 임무는 특정 접속률 조건에서의 테스트 임무에 기반하는 것으로서, 기설정 접속률과 시스템 응답 사이의 기설정 관계에 기반하여 구현되는 바, 예를 들어 접속률이 30%인 상황에서 시스템이 알람 정보를 피드백 하는지 여부를 테스트하는데, 바꾸어 말하면 1000개의 테스트 번호를 테스트하는 경우, 여기에는 70%가 접속되지 않아 정상적인 상황에서의 접속률보다 낮으므로 이러한 상황에서 대화 플랫폼에는 이상이 존재하여 알람 응답을 송신하여 대화 플랫폼의 알람 응답 능력을 테스트함으로써 실제 시나리오에서 알람을 송신하고 대화 시스템을 제때에 처리할 수 있도록 한다.
이 전의 실시예에서는 통화 시뮬레이션 데이터에 기반하여 테스트 플랫폼을 테스트하므로 아래에서는 두 개의 실시예를 통해 통화 시뮬레이션 데이터를 어떻게 생성하는지에 대해 구체적으로 설명한다.
이 전의 실시예에 기반하면, 도 5는 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도5로서 통화 시뮬레이션 데이터를 생성함에 있어서 가능한 구현방식을 제공한다.
도 5에 도시된 바와 같이, 단계101에서의 통화 시뮬레이션 데이터는 아래와 같은 단계를 통해 생성될 수 있다.
단계501, 온라인 통화 데이터를 획득한다.
온라인 통화 데이터는 온라인에서의 실제 사용자 통화 데이터를 말하는 바, 서버에 저장된 데이터에서 온라인 통화 데이터를 획득할 수 있다.
단계502, 온라인 통화 데이터에 따라 통화 시뮬레이션 데이터를 생성한다.
구체적으로, 온라인 통화 데이터를 획득한 후, 온라인 통화 데이터에 따라 온라인 통화 데이터의 통화 기간을 통계하고 비례에 따라 통화 기간을 결정할 수 있는데, 여기서 상기 비례는 랜덤으로 결정된 것으로, 예를 들어 20%의 통화 기간은 10초이고 60%의 통화 기간은 3분이며 10%의 통화는 30분 등이며 여기서 하나씩 열거하지 않는다. 그리고 통화 기간에 대응하는 통화 데이터를 획득하고, 나아가 비례에 기반하여 획득한 통화 기간 및 대응하는 통화 데이터를 통화 시뮬레이션 데이터로 한다.
본 실시예에서는, 실제 온라인 데이터에 따라 비례에 따라 상이한 통화 시간 및 대응하는 통화 데이터를 결정함으로써 생성된 통화 시뮬레이션 데이터가 가능한 실제와 부합되도록하여 대화 플랫폼에 대한 테스트 효과를 향상시킨다.
상기 실시예에 기반하면, 도 6은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도6로서, 통화 시뮬레이션 데이터를 생성하는 다른 가능한 구현방식을 제공한다.
도 6에 도시된 바와 같이, 단계101에서의 통화 시뮬레이션 데이터는 아래와 같은 단계를 통해 생성될 수 있다.
단계601, 다수의 통화 기간을 결정한다.
단계602, 각 통화 기간에 대하여 대응하는 통화 기록을 시뮬레이션하여 생성한다.
단계603, 통화 기간과 통화 기록에 따라 상응한 통화 시뮬레이션 데이터를 생성한다.
통화 시뮬레이션 데이터에는 통화한 기간과 통화한 기록이 포함된다.
본 실시예에서, 상이한 통화 시나리오에는 상이한 통화 시간을 설치할 수 있고, 상이한 통화 시간이 대응하는 통화 기록도 상이하므로 생성된 통화 시뮬레이션 데이터도 상이하다. 이하 상이한 시나리오에 대해 설치한 상이한 통화 시간과 통화 기록, 즉 통화 내용을 설명한다.
첫 번째 시나리오에서, 사용자가 스톱 오버하는 통화 시나리오를 시뮬레이션 하고 대응하는 통화 시뮬레이션 데이터를 생성한다.
구체적으로 말하면, 사용자가 스톱 오버하는 시나리오에서 통화 시간의 짧으므로 4초와 같은 비교적 짧은 통화 시간을 설치할 수 있다. 생성한 통화 기록에는 로봇의 오프닝만 포함할 수 있다. 예를 들어, 실제 상황에서, 한 통의 전화가 접속된 후 로봇이 “안녕하세요, 저는 XX입니다”라고 소개하면 사용자는 직접 끊고 전체 통화 과정은 약 3초정도 지속된다. 따라서, 상기 시나리오에 기반하여 짧은 제1 통화 시간 및 대응하는 통화 기록을 상기 시나리오에서의 통화 시뮬레이션 데이터로 설치한다.
두 번째 시나리오에서, 사용자가 침묵하는 통화 시나리오를 시뮬레이션 하고 대응하는 통화 시뮬레이션 데이터를 생성한다.
구체적으로 말하면, 사용자는 한 통의 전화를 접속한 후, 로봇의 오프닝을 듣고 관심이 없어 이 통화를 계속할 생각이 없거나 또는 사용자가 오프닝에 기반하여 사고할 경우 일정한 시간의 침묵이 흐르게 되는 바, 즉 사용자의 회답이 없게 된다. 이로써 상기 시나리오에서 통화 시간은 제2 통화 시간 및 대응하는 통화 기록을 설치하고 통화 기록은 로봇의 오프닝 및 침묵하는 회답을 상기 시나리오에서의 통화 시뮬레이션 데이터로 포함할 수 있다.
세 번째 시나리오에서, 사용자가 로봇의 통화를 끊어버리는 시나리오를 시뮬레이션 하고 대응하는 통화 시뮬레이션 데이터를 생성한다.
구체적으로 말하면, 사용자는 로봇과 통화하는 과정에서 사용자가 로봇의 말을 끊는 상황이 발생하게 되고 로봇은 사용자가 말을 끊을 때의 대화에 따라 말을 끊은 다음의 회답 문구를 생성함으로써 사용자가 말을 끊을 때의 문구 및 로봇이 말을 끊긴 다음의 회답한 통화 기록에 대응하는 통화 시간을 상기 시나리오에서의 통화 시뮬레이션 데이터로 포함한다.
네 번째 시나리오에서, 사용자가 로봇에 욕설을 퍼붓는 시나리오를 시뮬레이션 하고 대응하는 통화 시뮬레이션 데이터를 생성한다.
구체적으로 말하면, 사용자는 로봇과 통화하는 과정에서 사용자에게 불만이 생겨 로봇에게 욕설을 퍼붓는 상황이 발생할 수 있는데, 사용자가 로봇에게 욕설을 퍼붓는 문구를 인식하게 되면 욕설 이벤트를 트리거하여 로봇으가 자동으로 전화를 끊고 통화를 완료시키도록 할 수 있다. 사용자가 로봇에게 욕설을 퍼붓고 로봇이 회답하는 통화 기록을 상기 시나리오에서의 통화 시뮬레이션 데이터로 포함한다.
다섯 번째 시나리오에서, 정상적인 완전한 통화 시나리오를 시뮬레이션하고 대응하는 통화 시뮬레이션 데이터를 생성한다.
구체적으로 말하면, 대화 플랫폼이 설치한 기설정 최대 통화 시간에 따라 상기 완전한 대화 과정의 통화 시간을 설치하는 바, 바꾸어 말하면 완전한 대화 과정의 통화 시간은 기설정 최대 통화 시간보다 작거나 같으며, 상이한 대화 과정에 따라 로봇과 클라이언트의 대화가 포함된 통화 기록을 생성하고 상기 통화 기록을 상기 시나리오에서의 통화 시뮬레이션 데이터로 한다.
본 실시예에서, 상이한 통화 시나리오에 기반하여 상이한 통화 기간을 설치하고 상이한 통화 기록을 배합하며, 설치한 상이한 통화 기간 및 대응하는 통화 기록에 따라 상기 시나리오에서의 통화 시뮬레이션 데이터로 사용함으로써 각 시나리오에서 생성된 시뮬레이션 통화 데이터가 실제 시나리오와 가능한 맞물리도록하여 생성된 통화 시뮬레이션 데이터에 기반하여 스톱 오버 시나리오, 긴 통화의 이상 시나리오 등과 같은 특정 시나리오에 대한 테스트를 구현할 수 있으므로 통화 시뮬레이션 데이터 생성이 원활하고 테스트 효율이 높다.
상기 실시예에 기반하면, 도 7은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 방법의 흐름도7로서, 도 7에 도시된 바와 같이, 단계105 다음에 상기 방법은 아래와 같은 단계를 더 포함한다.
단계701, 대화 플랫폼의 운행 상태 정보를 획득한다.
단계702, 운행 상태 정보에 따라 대화 플랫폼에 대해 운행 테스트를 수행한다.
본 실시예에서, 대화 플랫폼이 대화 테스트를 수행하는 과정에서, 대화 플랫폼의 운행 상태 정보를 획득할 수도 있는데 여기서 운행 상태 정보는 피측 시스템의 시스템 메모리 점용 정보, 중앙 처리 장치 정보, 대화 기간 정보, 대화 플랫폼의 오류 정보 등을 포함한다. 운행 상태 정보에 따라 대화 플랫폼에 대해 운행 테스트를 수행함으로써 대화 플랫폼의 운행 상태의 안정성, 스트레스 내성 등을 테스트하고, 테스트 결과에 따라 운행 테스트 보고서를 생성함으로써 운행 테스트 보고서에 기반하여 대화 플랫폼의 성능을 구현한다.
본 실시예의 대화 플랫폼의 테스트 방법에서, 대화 플랫폼이 테스트 과정에서의 운행 상태 정보를 수집하는 것을 통해 운행 상태 정보에 따라 대화 플랫폼에 대해 운행 테스트를 수행함으로써 대화 플랫폼에 대한 안정성, 스트레스 내성을 테스트하여 테스트 결과에 따라 대화 플랫폼의 성능을 개선한다.
상기 실시예를 구현하기 위하여 본 실시예는 대화 플랫폼의 테스트 장치를 제공한다.
도 8은 본 출원의 실시예에서 제공하는 대화 플랫폼의 테스트 장치의 구조 개략도이다.
도 8에 도시된 바와 같이, 상기 장치는 크리에이트 모듈(81), 작동 모듈(82), 수신 모듈(83) 및 대화 테스트 모듈(84)을 포함한다.
크리에이트 모듈(81)은, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함한다.
작동 모듈(82)은, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신한다.
수신 모듈(83)은, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신한다.
상기 수신 모듈(83)은 또 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신한다.
대화 테스트 모듈(84)은, 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행한다.
본 발명의 실시예의 한가지 가능한 구현방식에서, 상기 장치는 획득 모듈과 운행 테스트 모듈을 더 포함한다.
획득 모듈은, 상기 대화 플랫폼의 운행 상태 정보를 획득한다.
운행 테스트 모듈은, 상기 운행 상태 정보에 따라 상기 대화 플랫폼에 대해 운행 테스트를 수행한다.
본 발명의 실시예의 한가지 가능한 구현방식에서, 상기 장치는 송신 모듈을 더 포함한다.
송신 모듈은, 상기 대화 플랫폼이 피드백한 대화 데이터에 따라 대화 시뮬레이션 데이터를 구축하고 상기 대화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신한다.
상기 수신 모듈(83)은 또한, 상기 대화 플랫폼이 추가로 피드백한 대화 데이터를 수신한다.
본 발명의 실시예의 한가지 가능한 구현방식에서, 상기 크리에이트 모듈(81)은 링잉 시뮬레이션 데이터를 생성할 경우 아래의 두 가지 가능한 구현방식을 통해 구현된다.
한가지 가능한 구현방식으로서, 상기 크리에이트 모듈(81)은 획득 유닛과 설치 유닛을 포함한다.
획득 유닛은, 현재의 상기 테스트 번호를 획득한다.
설치 유닛은, 상기 테스트 번호가 기설정 번호 세그먼트에 속한다고 결정하면 상기 링잉 시뮬레이션 데이터를 상기 기설정 번호 세그먼트에 대응하는 링잉 상태로 설치한다.
다른 한가지 가능한 구현방식으로서, 상기 크리에이트 모듈(81)은 생성 유닛을 더 포함한다.
생성 유닛은 랜덤 비례값을 랜덤으로 생성한다.
상기 설치 유닛은, 상기 랜덤 비례값이 속하는 비례 구간을 획득하고 상기 링잉 시뮬레이션 데이터를 상기 비례 구간에 대응하는 링잉 상태로 설치한다.
본 발명의 실시예의 한가지 가능한 구현방식에서, 상기 크리에이트 모듈(81)은 시뮬레이션 통화 데이터를 생성할 경우 아래의 두 가지 가능한 구현방식을 통해 구현된다.
한가지 가능한 구현방식으로서, 상기 획득 유닛은, 온라인 통화 데이터를 획득한다. 상기 생성 유닛은, 상기 온라인 통화 데이터에 따라 상기 통화 시뮬레이션 데이터를 생성한다.
다른 한가지 가능한 구현방식으로서, 상기 결정 유닛은, 다수의 통화 기간을 결정한다. 상기 생성 유닛은 또한, 각 통화 기간에 대하여 대응하는 통화 기록을 시뮬레이션하여 생성하고; 상기 통화 기간과 상기 통화 기록에 따라 상응한 통화 시뮬레이션 데이터를 생성한다.
설명해야 할 것은 상기 대화 플랫폼의 테스트 방법 실시예에 대한 해석과 설명은 본 실시예의 대화 플랫폼의 테스트 장치에도 적용되고 원리도 동일하므로 여기서 더 이상 설명하지 않는다.
본 실시예의 대화 플랫폼의 테스트 장치에서, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하고, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 통화 시뮬레이션 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신하고, 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행하여 콜센터에 대한 의존을 제거하고 사용자에 대한 방해를 방지함으로써 테스트 효율을 향상시키고 테스트 원가를 저하시킨다.
본 출원의 실시예에 따르면, 본 출원은 전자기기 및 판독 가능 저장 매체를 더 제공한다. 본 출원의 실시예에 따르면, 컴퓨터 판독 가능 매체에 저장되어 있는 컴퓨터 프로그램을 더 제공한다. 당해 컴퓨터 프로그램 중의 명령이 실행될 경우, 상기 대화 플랫폼의 테스트 방법이 실행된다.
도 9에 도시된 바와 같이, 이는 본 출원의 실시예에 따른 대화 플랫폼의 테스트 방법을 구현하는 전자기기의 블록도이다. 전자기기는 랩톱 컴퓨터, 데스크톱 컴퓨터, 워크 벤치, 개인용 정보 단말기, 서버, 블레이드 서버, 메인 프레임 컴퓨터 및 다른 적합한 컴퓨터 등의 다양한 형태의 디지털 컴퓨터를 가리킨다. 전자기기는 또한 개인용 정보 단말기, 셀룰러 폰, 스마트 폰, 웨어러블 장치 및 다른 유사한 컴퓨팅 장치와 같은 다양한 형태의 모바일 장치를 나타낼 수 있다. 본 명세서에 도시된 구성 요소, 그들의 연결 및 관계 및 그 기능은 단지 예시에 불과하며, 본 명세서에 기술되거나 및/또는 청구된 구현을 한정하도록 의도되지 않는다.
도 9에 도시된 바와 같이, 상기 전자기기는 하나 이상의 프로세서(901), 메모리(902) 및 고속 인터페이스 및 저속 인터페이스를 포함하는 다양한 구성 요소를 연결하기 위한 인터페이스를 포함한다. 다양한 구성 요소는 서로 다른 버스를 사용하여 서로 연결되며 마더 보드에 설치되거나 필요에 따라 다른 방식으로 설치될 수 있다. 프로세서는 외부 입력/출력 장치(예를 들어, 인터페이스에 연결된 디스플레이 장치)에 GUI의 그래픽 정보를 표시하기 위해 메모리에 저장된 명령을 포함하여 전자기기 내에서 실행되는 명령을 처리할 수 있다. 다른 실시형태에서, 필요한 경우, 다수의 프로세서 및/또는 다수의 버스를 다수의 메모리와 함께 사용할 수 있다. 마찬가지로, 여러 전자기기를 연결할 수 있고, 각 장치는 단지 몇 가지 필요한 기능(예를 들어, 서버 배열, 블레이드 서버 그룹 또는 다중 프로세서 시스템)을 제공할 수 있다. 도 9는 프로세서(901)가 하나인 경우를 예를 들어 설명한다.
메모리(902)는 본 출원에 의해 제공된 비 일시적 컴퓨터 판독 가능 저장 매체이다. 적어도 하나의 프로세서에 의해 본 출원의 대화 플랫폼의 테스트 방법을 수행하도록, 상기 메모리에는 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장된다. 본 출원의 비 일시적 컴퓨터 판독 가능 저장 매체에는 컴퓨터가 본 출원의 대화 플랫폼의 테스트 방법을 실행하게 하는 컴퓨터 명령어가 저장된다.
메모리(902)는 비 일시적 컴퓨터 판독 가능 저장 매체로서, 비 일시적 소프트웨어 프로그램, 비 일시적 컴퓨터 실행 가능 프로그램, 본 출원의 실시예의 대화 플랫폼의 테스트 방법에 대응하는 프로그램 명령/모듈과 같은 모듈(예를 들어, 도 8에 도시된 크리에이트 모듈(81), 작동 모듈(82), 수신 모듈(83) 및 대화 테스트 모듈(84))을 저장하기 위해 사용될 수 있다. 프로세서(901)는 메모리(902)에 저장된 비 일시적 소프트웨어 프로그램, 명령 및 모듈을 실행하여 서버의 다양한 기능적 애플리케이션 및 데이터 처리를 실행한다. 다시 말하면, 상기 방법 실시예의 대화 플랫폼의 테스트 방법을 구현한다.
메모리(902)는 프로그램을 저장하기 위한 영역 및 데이터를 저장하기 위한 영역을 포함할 수 있고, 여기서 프로그램을 저장하기 위한 영역은 운영 체제 및 적어도 하나의 기능에 필요한 응용 프로그램이 저장될 수 있고; 데이터를 저장하기 위한 영역에는 대화 플랫폼의 테스트 방법의 전자기기를 사용하여 생성된 데이터가 저장될 수 있다. 또한, 메모리(902)는 고속 랜덤 액세스 메모리를 포함할 수 있고, 또한 자기 디스크 저장 장치, 플래시 메모리 장치 또는 다른 비 일시적 솔리드 스테이트 저장 장치와 같은 적어도 하나의 비 일시적 메모리를 포함할 수 있다. 일부 실시예에서, 메모리(902)는 프로세서(901)에 대해 원격으로 설정된 메모리를 선택적으로 포함할 수 있고, 이러한 원격 메모리는 네트워크를 통해 대화 플랫폼의 테스트 방법의 전자기기에 연결될 수 있다. 상기 네트워크의 사례는 인터넷, 인트라넷, 근거리 통신망, 이동 통신망 및 이들의 조합을 포함하지만 이에 한정되지는 않는다.
대화 플랫폼의 테스트 방법을 수행하는 전자기기는 입력 장치(903) 및 출력 장치(904)를 더 포함할 수 있다. 프로세서(901), 메모리(902), 입력 장치(903) 및 출력 장치(904)는 버스를 통해 연결되거나 또는 다른 방식으로 연결될 수 있으며, 도 9는 버스를 통한 연결을 예시한 것이다.
입력 장치(903)는 입력된 숫자 또는 문자 정보를 수신할 수 있고, 대화 플랫폼의 테스트 방법의 전자기기의 사용자 설정 및 기능 제어와 관련된 키 신호 입력을 생성할 수 있으며, 터치 스크린, 키 패드, 마우스, 트랙 패드, 터치 패드, 포인팅 스틱, 하나 이상의 마우스 버튼, 트랙 볼, 조이스틱 및 기타 입력 장치일 수 있다. 출력 장치(904)는 디스플레이 장치, 보조 조명 장치(예를 들어, LED), 촉각 피드백 장치(예를 들어, 진동 모터) 등을 포함할 수 있다. 상기 디스플레이 장치는 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이 및 플라즈마 디스플레이를 포함할 수 있지만, 이에 한정되지는 않는다. 일부 실시형태에서, 디스플레이 장치는 터치 스크린일 수 있다.
본 명세서에 설명된 시스템 및 기술의 다양한 실시형태는 디지털 전자 회로, 집적 회로 시스템, 전용 ASIC(애플리케이션 특정 집적 회로), 컴퓨터 하드웨어, 펌웨어, 소프트웨어 및/또는 이들의 조합에 의해 구현될 수 있다. 이러한 다양한 실시형태는 하나 이상의 컴퓨터 프로그램에 의해 실시될 수 있고, 상기 하나 이상의 컴퓨터 프로그램은 적어도 하나의 프로그램 가능 시스템에 의해 실행 및/또는 해석될 수 있으며, 상기 프로그램 가능 프로세서는 전용 또는 범용 프로그램 가능 프로세서일 수 있고, 저장 시스템, 적어도 하나의 입력 장치 및 적어도 하나의 출력 장치로부터 데이터 및 명령을 수신하며, 데이터 및 명령을 저장 시스템, 적어도 하나의 입력 장치 및 적어도 하나의 출력 장치에 전송할 수 있다.
이러한 컴퓨터 프로그램(프로그램, 소프트웨어, 소프트웨어 응용 프로그램 또는 코드라고도 함)에는 프로그램 가능 프로세서의 기계 명령어가 포함되고, 고급 프로세스 및/또는 객체 지향 프로그래밍 언어 및/또는 어셈블리 언어/기계어를 사용하여 이러한 컴퓨터 프로그램을 구현할 수 있다. 본 명세서에서 사용되는 용어 “기계 판독 가능 매체” 및 “컴퓨터 판독 가능 매체”는 프로그램 가능 프로세서에 기계 명령 및/또는 데이터를 제공하기 위해 사용되는 임의의 컴퓨터 프로그램 제품, 장비 및/또는 장치(예를 들어, 자기 디스크, 광 디스크, 메모리, 프로그램 가능 논리 장치(PLD))를 가리키며, 기계 판독 가능 신호로서 기계 명령을 수신하는 기계 판독 가능 매체를 포함한다. 용어 “기계 판독 가능 신호”는 기계 명령 및/또는 데이터를 프로그램 가능 프로세서에 제공하기 위한 임의의 신호를 지칭한다.
사용자와의 인터랙티브를 제공하기 위해, 컴퓨터에서 여기에 설명된 시스템 및 기술을 구현할 수 있다. 컴퓨터는 사용자에게 정보를 표시하기 위한 디스플레이 장치(예를 들어, CRT(음극선관) 또는 LCD(액정 디스플레이) 모니터)와 키보드 및 포인팅 장치(예를 들어, 마우스 또는 트랙 볼)를 포함하고, 사용자는 상기 키보드 및 상기 포인팅 장치를 통해 정보를 입력하여 컴퓨터에 제공할 수 있다. 다른 종류의 장치를 사용하여 사용자와의 인터랙티브를 제공할 수도 있다. 예를 들어, 사용자에게 제공되는 피드백은 임의의 형태의 감각 피드백(예를 들어, 시각적 피드백, 청각 피드백 또는 촉각 피드백) 일 수 있고, 임의의 형태(음성 입력, 스피치 입력 또는 촉각 입력 포함)로 사용자에 의해 송신된 정보를 수신할 수 있다.
본 명세서에 설명된 시스템 및 기술은 백 엔드 구성 요소(예를 들어, 데이터 서버)를 포함하는 컴퓨팅 시스템 또는 미들웨어 구성 요소(예를 들어, 애플리케이션 서버)를 포함하는 컴퓨팅 시스템 또는 프론트 엔드 구성 요소(예를 들어, 예를 들어, 그래픽 사용자 인터페이스 또는 웹 브라우저를 가진 사용자 컴퓨터일 수 있으며, 사용자는 그래픽 사용자 인터페이스 또는 웹 브라우저를 통해 여기에 설명된 시스템 및 기술의 실시형태와 인터랙티브 할 수 있음)를 포함하는 컴퓨팅 시스템 또는 이러한 백 엔드 구성 요소, 미들웨어 구성 요소 또는 프론트 엔드 구성 요소의 임의의 조합을 포함하는 컴퓨팅 시스템에 의해 구현될 수 있다. 시스템의 구성 요소는 임의의 형태 또는 매체의 디지털 데이터 통신(예를 들어, 통신 네트워크)에 의해 상호 연결될 수 있다. 통신 네트워크의 예로는 근거리 통신망(LAN), 광역 통신망(WAN) 및 인터넷이 포함될 수 있다.
컴퓨터 시스템은 클라이언트 및 서버를 포함할 수 있다. 클라이언트와 서버는 일반적으로 서로 멀리 떨어져 있으며, 일반적으로 통신 네트워크를 통해 인터랙티브 한다. 클라이언트와 서버 간의 관계는 해당 컴퓨터에서 실행되고 서로 클라이언트-서버 관계가 있는 컴퓨터 프로그램에 의해 발생된다.
본 출원의 실시예의 기술적 해결수단에 따르면, 다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하되, 각 테스트 임무 정보는 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함하고, 테스트를 작동하도록 테스트 번호를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 임무 상태를 수신하도록 링잉 시뮬레이션 데이터를 대화 플랫폼에 송신하고, 시뮬레이션 통화 데이터를 대화 플랫폼에 송신하며, 대화 플랫폼이 피드백한 대화 데이터를 수신하고, 테스트 임무, 테스트 임무에 대응하는 임무 상태 및 대화 데이터에 따라 대화 플랫폼에 대해 대화 테스트를 수행하여 콜센터에 대한 의존을 제거하고 사용자에 대한 방해를 방지함으로써 테스트 효율을 향상시키고 종래기술에서 반드시 콜센터에 의존하여 대화 테스트를 수행하여 테스트 원가가 높고 효율이 낮은 동시에 사용자에게 방해를 가져오는 기술적 과제를 해결한다.
상기에 도시된 다양한 형태의 과정을 통해 단계를 재정렬, 추가 또는 삭제할 수 있다는 것을 이해해야 한다. 예를 들어, 본 출원에 설명된 각 단계들은 병렬, 순차적 또는 상이한 순서로 수행될 수 있으며, 본 출원에 개시된 기술적 해결책이 원하는 결과를 달성할 수만 있으면, 별도로 한정되지 않는다.
상기 구체적인 실시형태는 본 출원의 보호 범위에 대한 제한을 구성하지 않는다. 당업자는 설계 요건 및 다른 요인에 따라 다양한 변형, 조합, 하위 조합 및 대체가 이루어질 수 있다는 것을 이해해야 한다. 본 출원의 원리와 원칙 내에서 이루어진 모든 수정, 동등한 대체 및 개선은 모두 본 출원의 보호 범위에 포함된다.

Claims (17)

  1. 대화 플랫폼의 테스트 방법에 있어서,
    다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하는 단계 - 상기 테스트 임무 정보마다 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함함 -;
    테스트를 작동하도록 상기 테스트 번호를 상기 대화 플랫폼에 송신하는 단계;
    상기 대화 플랫폼이 피드백한 임무 상태를 수신하도록 상기 링잉 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하는 단계;
    상기 통화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하고 상기 대화 플랫폼이 피드백한 대화 데이터를 수신하는 단계; 및
    상기 테스트 임무, 상기 테스트 임무에 대응하는 상기 임무 상태 및 상기 대화 데이터에 따라 상기 대화 플랫폼에 대해 대화 테스트를 수행하는 단계를 포함하는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  2. 제1항에 있어서,
    상기 대화 플랫폼의 운행 상태 정보를 획득하는 단계; 및
    상기 운행 상태 정보에 따라 상기 대화 플랫폼에 대해 운행 테스트를 수행하는 단계를 더 포함하는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  3. 제1항에 있어서,
    상기 대화 플랫폼이 피드백한 대화 데이터에 따라 대화 시뮬레이션 데이터를 구축하고 상기 대화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하는 단계; 및
    상기 대화 플랫폼이 추가로 피드백한 대화 데이터를 수신하는 단계를 더 포함하는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  4. 제1항에 있어서,
    상기 링잉 시뮬레이션 데이터는,
    현재의 상기 테스트 번호를 획득하는 단계;
    상기 테스트 번호가 기설정 번호 세그먼트에 속한다고 결정하면 상기 링잉 시뮬레이션 데이터를 상기 기설정 번호 세그먼트에 대응하는 링잉 상태로 설치하는 단계를 통해 생성되는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  5. 제1항에 있어서,
    상기 링잉 시뮬레이션 데이터는,
    랜덤 비례값을 랜덤으로 생성하는 단계;
    상기 랜덤 비례값이 속하는 비례 구간을 획득하고 상기 링잉 시뮬레이션 데이터를 상기 비례 구간에 대응하는 링잉 상태로 설치하는 단계를 통해 생성되는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  6. 제1항에 있어서,
    상기 통화 시뮬레이션 데이터는,
    온라인 통화 데이터를 획득하는 단계;
    상기 온라인 통화 데이터에 따라 상기 통화 시뮬레이션 데이터를 생성하는 단계를 통해 생성되는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  7. 제1항에 있어서,
    상기 통화 시뮬레이션 데이터는,
    다수의 통화 기간을 결정하는 단계;
    각 통화 기간에 대하여 대응하는 통화 기록을 시뮬레이션하여 생성하는 단계;
    상기 통화 기간과 상기 통화 기록에 따라 상응한 통화 시뮬레이션 데이터를 생성하는 단계를 통해 생성되는
    것을 특징으로 하는 대화 플랫폼의 테스트 방법.
  8. 대화 플랫폼의 테스트 장치에 있어서,
    다수의 테스트 임무 정보를 포함하는 적어도 하나의 시뮬레이션 테스트 인스턴스를 크리에이트하는 크리에이트 모듈 - 상기 테스트 임무 정보마다 테스트 번호, 링잉 시뮬레이션 데이터 및 통화 시뮬레이션 데이터를 포함함 -;
    테스트를 작동하도록 상기 테스트 번호를 상기 대화 플랫폼에 송신하는 작동 모듈;
    상기 대화 플랫폼이 피드백한 임무 상태를 수신하도록 상기 링잉 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하고,
    또한 상기 통화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하며 상기 대화 플랫폼이 피드백한 대화 데이터를 수신하는 수신 모듈; 및
    상기 테스트 임무, 상기 테스트 임무에 대응하는 상기 임무 상태 및 상기 대화 데이터에 따라 상기 대화 플랫폼에 대해 대화 테스트를 수행하는 대화 테스트 모듈을 포함하는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  9. 제8항에 있어서,
    상기 대화 플랫폼의 운행 상태 정보를 획득하는 획득 모듈; 및
    상기 운행 상태 정보에 따라 상기 대화 플랫폼에 대해 운행 테스트를 수행하는 운행 테스트 모듈을 더 포함하는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  10. 제8항에 있어서,
    상기 대화 플랫폼이 피드백한 대화 데이터에 따라 대화 시뮬레이션 데이터를 구축하고 상기 대화 시뮬레이션 데이터를 상기 대화 플랫폼에 송신하는 구축 모듈을 더 포함하고;
    상기 수신 모듈은 상기 대화 플랫폼이 추가로 피드백한 대화 데이터를 수신하는데 더 사용되는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  11. 제8항에 있어서,
    상기 크리에이트 모듈은,
    현재의 상기 테스트 번호를 획득하는 획득 유닛; 및
    상기 테스트 번호가 기설정 번호 세그먼트에 속한다고 결정하면 상기 링잉 시뮬레이션 데이터를 상기 기설정 번호 세그먼트에 대응하는 링잉 상태로 설치하는 설치 유닛을 포함하는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  12. 제8항에 있어서,
    상기 크리에이트 모듈은,
    랜덤 비례값을 랜덤으로 생성하는 생성 유닛을 더 포함하고,
    상기 설치 유닛는 상기 랜덤 비례값이 속하는 비례 구간을 획득하고 상기 링잉 시뮬레이션 데이터를 상기 비례 구간에 대응하는 링잉 상태로 설치하는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  13. 제8항에 있어서,
    상기 획득 유닛은, 온라인 통화 데이터를 획득하고;
    상기 생성 유닛은, 상기 온라인 통화 데이터에 따라 상기 통화 시뮬레이션 데이터를 생성하는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  14. 제8항에 있어서,
    상기 결정 유닛은, 다수의 통화 기간을 결정하고;
    상기 생성 유닛은, 각 통화 기간에 대하여 대응하는 통화 기록을 시뮬레이션하여 생성하고, 상기 통화 기간과 상기 통화 기록에 따라 상응한 통화 시뮬레이션 데이터를 생성하는데 더 사용되는
    것을 특징으로 하는 대화 플랫폼의 테스트 장치.
  15. 전자기기에 있어서,
    적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서와 통신 가능하게 연결되는 메모리를 포함하고,
    상기 메모리에는 상기 적어도 하나의 프로세서에 의해 실행 가능한 명령이 저장되어 있고 상기 명령이 상기 적어도 하나의 프로세서에 의해 실행되어 상기 적어도 하나의 프로세서가 제1항 내지 제7항 중 어느 한 항에 따른 대화 플랫폼의 테스트 방법을 수행하도록 하는
    것을 특징으로 하는 전자기기.
  16. 컴퓨터 명령이 저장되어 있는 비일시적 컴퓨터 판독 가능 저장매체에 있어서,
    상기 컴퓨터 명령은 상기 컴퓨터가 제1항 내지 제7항 중 어느 한 항에 따른 대화 플랫폼의 테스트 방법을 수행하도록 하는
    것을 특징으로 하는 컴퓨터 명령이 저장되어 있는 비일시적 컴퓨터 판독 가능 저장매체.
  17. 컴퓨터 판독 가능 저장 매체에 저장되어 있는 컴퓨터 프로그램에 있어서,
    상기 컴퓨터 프로그램중의 명령이 실행될 경우, 제1항 내지 제7항 중 어느 한 항에 따른 대화 플랫폼의 테스트 방법이 실행되는,
    것을 특징으로 하는 컴퓨터 판독 가능 저장 매체에 저장되어 있는 컴퓨터 프로그램.
KR1020210060314A 2020-06-12 2021-05-10 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체 KR102428685B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010537919.XA CN111885268B (zh) 2020-06-12 2020-06-12 对话平台的测试方法、装置、电子设备和存储介质
CN202010537919.X 2020-06-12

Publications (2)

Publication Number Publication Date
KR20210061984A true KR20210061984A (ko) 2021-05-28
KR102428685B1 KR102428685B1 (ko) 2022-08-03

Family

ID=73156979

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210060314A KR102428685B1 (ko) 2020-06-12 2021-05-10 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체

Country Status (5)

Country Link
US (1) US20210390042A1 (ko)
EP (1) EP3923556A1 (ko)
JP (1) JP7250066B2 (ko)
KR (1) KR102428685B1 (ko)
CN (1) CN111885268B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113592305A (zh) * 2021-07-29 2021-11-02 北京百度网讯科技有限公司 测试方法、装置、电子设备以及存储介质
CN114363846A (zh) * 2021-12-30 2022-04-15 天翼物联科技有限公司 物联网5g-sa计费拨测验证方法、系统、装置及介质

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113065850A (zh) * 2021-04-02 2021-07-02 京东数科海益信息科技有限公司 用于智能外呼机器人的话术测试方法及装置
CN113032543B (zh) * 2021-04-27 2023-07-18 中国平安人寿保险股份有限公司 基于栈结构的对话诊断方法、装置、设备及介质
CN114374632B (zh) * 2022-01-10 2022-10-04 北京中电兴发科技有限公司 一种物联网数据平台多协议测试提效方法
CN114567627B (zh) * 2022-02-25 2024-01-26 山东云海国创云计算装备产业创新中心有限公司 一种仿真平台管理方法、系统、设备以及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101199311B1 (ko) * 2012-01-26 2012-11-07 주식회사 예스피치 자동응답시스템의 자동 시나리오 테스트 시스템, 장치 및 방법
KR20190097461A (ko) * 2018-02-12 2019-08-21 보리 주식회사 사람 - 인공지능 협업 콜센터 시스템 및 서비스 방법
KR20190116041A (ko) * 2018-03-23 2019-10-14 주식회사 포지큐브 인공지능 기반의 가상 호스트 캐릭터를 이용한 대화형 고객 응대 서비스 제공 시스템 및 방법
KR20200034295A (ko) * 2018-09-21 2020-03-31 나택균 이동통신망에서의 콜 테스트 자동화 시스템 및 방법

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5652791A (en) * 1995-07-19 1997-07-29 Rockwell International Corp. System and method for simulating operation of an automatic call distributor
US6173244B1 (en) * 1998-04-09 2001-01-09 Lucent Technologies, Inc. System and method for testing a switching system in a telecommunication network
GB0013180D0 (en) * 2000-06-01 2000-07-19 Ibm Testing voice message applications
US6914962B2 (en) * 2000-12-14 2005-07-05 Nortel Networks Limited Call-flow verification method and apparatus
US8670972B1 (en) * 2007-06-07 2014-03-11 West Corporation Method and apparatus for voice recognition unit simulation
CN101729681A (zh) * 2008-10-23 2010-06-09 华为技术有限公司 一种自动拨测方法、拨测终端及通信系统
KR101622783B1 (ko) * 2009-09-14 2016-05-19 에스케이텔레콤 주식회사 통신망 성능 검증 시스템 및 통신망 성능 검증 방법
US8625772B2 (en) * 2009-12-22 2014-01-07 Cyara Solutions Pty Ltd. Integrated testing platform for contact centres
US10691583B2 (en) * 2010-05-26 2020-06-23 Userzoom Technologies, Inc. System and method for unmoderated remote user testing and card sorting
CN103905659B (zh) * 2012-12-28 2017-11-07 北京大唐高鸿数据网络技术有限公司 测试呼叫中心智能话务排队系统功能的方法
CA2958309A1 (en) 2014-09-09 2016-03-17 Cyara Solutions Corp Call recording test suite
CN105472177B (zh) * 2015-12-10 2018-05-04 上海携程商务有限公司 呼叫中心的压力测试方法
CN106453972A (zh) * 2016-12-16 2017-02-22 携程旅游信息技术(上海)有限公司 呼叫中心的自动呼叫测试系统及方法
CN108737205A (zh) * 2017-04-18 2018-11-02 中兴通讯股份有限公司 拨测方法、装置及系统
US10326880B2 (en) * 2017-07-03 2019-06-18 Cyara Solutions Pty Ltd System and method for integrated CX-AX contact center testing
CN108132886A (zh) * 2018-01-08 2018-06-08 携程旅游信息技术(上海)有限公司 呼叫中心gui的测试方法及系统、计算机可读存储介质
CN108376115B (zh) * 2018-01-29 2022-01-18 数据通信科学技术研究所 一种跨Android平台自动化测试方法及系统
CN108540674B (zh) * 2018-03-22 2020-12-29 平安科技(深圳)有限公司 自动化测试方法、装置、计算机设备以及存储介质
CN108989583B (zh) * 2018-08-10 2021-08-31 携程旅游信息技术(上海)有限公司 呼叫中心的压力测试方法、系统、电子设备和存储介质
CN109600521B (zh) * 2018-11-14 2022-06-03 平安科技(深圳)有限公司 呼叫中心外呼测试方法及装置、电子设备、存储介质
CN109670016B (zh) * 2018-12-25 2021-02-02 苏州思必驰信息科技有限公司 用于语音对话平台内语音产品的技能测试方法及系统
CN110166636B (zh) * 2019-04-15 2022-07-29 深圳壹账通智能科技有限公司 压力测试的装置、方法及存储介质
CN110209561B (zh) * 2019-05-09 2024-02-09 北京百度网讯科技有限公司 用于对话平台的评测方法和评测装置
US11567846B2 (en) * 2019-10-17 2023-01-31 Cyara Solutions Pty Ltd System and method for contact center fault diagnostics
CN111246511B (zh) * 2020-01-19 2023-06-20 惠州Tcl移动通信有限公司 一种通话测试系统、方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101199311B1 (ko) * 2012-01-26 2012-11-07 주식회사 예스피치 자동응답시스템의 자동 시나리오 테스트 시스템, 장치 및 방법
KR20190097461A (ko) * 2018-02-12 2019-08-21 보리 주식회사 사람 - 인공지능 협업 콜센터 시스템 및 서비스 방법
KR20190116041A (ko) * 2018-03-23 2019-10-14 주식회사 포지큐브 인공지능 기반의 가상 호스트 캐릭터를 이용한 대화형 고객 응대 서비스 제공 시스템 및 방법
KR20200034295A (ko) * 2018-09-21 2020-03-31 나택균 이동통신망에서의 콜 테스트 자동화 시스템 및 방법

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113592305A (zh) * 2021-07-29 2021-11-02 北京百度网讯科技有限公司 测试方法、装置、电子设备以及存储介质
CN114363846A (zh) * 2021-12-30 2022-04-15 天翼物联科技有限公司 物联网5g-sa计费拨测验证方法、系统、装置及介质
CN114363846B (zh) * 2021-12-30 2023-12-12 天翼物联科技有限公司 物联网5g-sa计费拨测验证方法、系统、装置及介质

Also Published As

Publication number Publication date
CN111885268A (zh) 2020-11-03
US20210390042A1 (en) 2021-12-16
JP7250066B2 (ja) 2023-03-31
KR102428685B1 (ko) 2022-08-03
JP2021132413A (ja) 2021-09-09
EP3923556A1 (en) 2021-12-15
CN111885268B (zh) 2022-03-22

Similar Documents

Publication Publication Date Title
KR102428685B1 (ko) 대화 플랫폼의 테스트 방법, 대화 플랫폼의 테스트 장치, 전자기기 및 저장매체
US10582057B2 (en) Automatic quality management of chat agents via chat bots
CN114730429A (zh) 用于管理联系中心系统和其用户之间的对话的系统和方法
CN108989583B (zh) 呼叫中心的压力测试方法、系统、电子设备和存储介质
CN109495655B (zh) 呼叫中心坐席线路测试方法及装置、电子设备、存储介质
CN113704063B (zh) 一种云手机的性能监控方法、装置、设备及存储介质
WO2020135188A1 (zh) 消息读取状态的提示方法、装置和电子设备
CN112286485B (zh) 通过语音控制应用的方法、装置、电子设备与存储介质
CN107920173B (zh) 多方通话的电话会议发起方法、系统、设备及存储介质
CN103513858A (zh) 远程协助方法及装置
CN107170218B (zh) 一种用于消防报警系统调试的远程协助方法和系统
KR20210042276A (ko) 애플리케이션 실행 상태 검증 방법 및 장치
CN112954257A (zh) 一种视频会议的自动化校验方法及其系统
CN112988013A (zh) 一种信息互动方法、装置和存储介质
CN113012695B (zh) 智能控制方法、装置、电子设备及计算机可读存储介质
CN109587349B (zh) 多媒体坐席线路测试方法及装置、电子设备、存储介质
CN114745313A (zh) 终端远程测试方法、装置、电子设备和可读介质
CN111951788A (zh) 一种语言模型的优化方法、装置、电子设备及存储介质
CN114582339A (zh) 语音交互方法、装置、电子设备和介质
CN113377638B (zh) 性能测试工具的生成方法和装置
US20230216912A1 (en) Page Display Method and Electronic Device
CN114912522A (zh) 信息分类方法和装置
CN113656296A (zh) 代码测试方法、装置、电子设备以及存储介质
CN115357493A (zh) 测试方法、装置、电子设备和存储介质
CN112214370A (zh) 一种大屏终端的调试设备及方法

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right