JP2021121969A - Application program operation guidance method, device, apparatus, and readable storage medium - Google Patents

Application program operation guidance method, device, apparatus, and readable storage medium Download PDF

Info

Publication number
JP2021121969A
JP2021121969A JP2021086184A JP2021086184A JP2021121969A JP 2021121969 A JP2021121969 A JP 2021121969A JP 2021086184 A JP2021086184 A JP 2021086184A JP 2021086184 A JP2021086184 A JP 2021086184A JP 2021121969 A JP2021121969 A JP 2021121969A
Authority
JP
Japan
Prior art keywords
operation guidance
guidance data
application program
voice information
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021086184A
Other languages
Japanese (ja)
Other versions
JP7381518B2 (en
Inventor
ションヨン ズゥオ
Shengyong Zuo
ションヨン ズゥオ
ウェンチャン マオ
Wenqiang Mao
ウェンチャン マオ
ジュンモン チェン
Junmeng Chen
ジュンモン チェン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Publication of JP2021121969A publication Critical patent/JP2021121969A/en
Application granted granted Critical
Publication of JP7381518B2 publication Critical patent/JP7381518B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • G06F9/453Help systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/71Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure computing or processing of information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0483Interaction with page-structured environments, e.g. book metaphor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/445Program loading or initiating
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

To provide an effective and convenient operation guidance method, a device, an apparatus, and a readable storage medium to a user.SOLUTION: The operation guidance method of an application program includes receiving operation guidance data transmitted from a first application program, providing the operation guidance data to a user, receiving voice information input from the user, determining target operation guidance data matching the voice information, and transmitting the target operation guidance data to the first application program so that the first application program performs a next operation according to the target operation guidance data. As a result, efficient and convenient active multi-round operation guidance can be realized, the user does not need to remember it, and the first application program can easily acquire a user's specific operation behavior, and is useful for the analysis of user behaviors.SELECTED DRAWING: Figure 1

Description

本願は、コンピュータ技術に関し、特に音声認識技術の分野に関する。 The present application relates to computer technology, particularly to the field of speech recognition technology.

スマート機器とインターネット技術の急速な発展に伴い、ショッピングアプリケーションプログラム、音楽アプリケーションプログラム、ソーシャルアプリケーションプログラムなど、大量のアプリケーションプログラムが現れている。 With the rapid development of smart devices and Internet technology, a large number of application programs such as shopping application programs, music application programs, and social application programs are appearing.

ユーザの様々な可能なニーズを満たすために、アプリケーションプログラムのサポートする機能が増え、ページ操作もますます煩雑になっている。ユーザへの操作ガイダンスを行うために、現在ではアプリケーションプログラムに入った後、新たな機能アイコン、新たな機能アイコンに対する操作説明などが表示されている数ページの操作ガイダンスページをロードすることが一般的である。 In order to meet the various possible needs of users, the functions supported by application programs are increasing, and page operations are becoming more complicated. In order to provide operation guidance to users, it is now common to load several pages of operation guidance pages that display new function icons, operation instructions for new function icons, etc. after entering the application program. Is.

しかし、実際の使用プロセスでは、操作ガイダンスページのコンテンツが多くて乱雑であり、ユーザがこれを覚える必要があるため、ほとんどのユーザは、操作ガイダンスページをじっくり読む忍耐力がなく、ガイダンスの失敗につながる。如何にして効果的で便利な操作ガイダンスをユーザに提供するかが、早急に解決すべき技術的課題となっている。 However, in the actual usage process, the content of the operation guidance page is abundant and messy, and the user has to remember this, so most users do not have the patience to read the operation guidance page carefully and the guidance fails. Connect. How to provide users with effective and convenient operation guidance is a technical issue that needs to be resolved immediately.

本願の実施例は、ユーザに効果的で便利な操作ガイダンスを提供できるアプリケーションプログラムの操作ガイダンス方法、装置、機器及び読み取り可能な記憶媒体を提供する。 The embodiments of the present application provide operation guidance methods, devices, devices and readable storage media for application programs that can provide users with effective and convenient operation guidance.

第1の態様では、本願の実施例は、
第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するステップであって、前記操作ガイダンスデータは、ユーザの現在の操作に基づいて前記第1のアプリケーションプログラムによって得られた次の操作のガイダンスデータであるステップと、
前記操作ガイダンスデータを前記ユーザに提供するステップと、
前記ユーザから入力された音声情報を受信し、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップと、
前記第1のアプリケーションプログラムが前記ターゲット操作ガイダンスデータに従って次の操作を行うように、前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するステップと、を含むアプリケーションプログラムの操作ガイダンス方法を提供する。
In the first aspect, the embodiments of the present application are
It is a step of receiving the operation guidance data transmitted from the first application program, and the operation guidance data is the guidance data of the next operation obtained by the first application program based on the current operation of the user. Steps that are
A step of providing the operation guidance data to the user,
A step of receiving the voice information input from the user and determining the target operation guidance data to be matched with the voice information.
Provided is an operation guidance method of an application program including a step of transmitting the target operation guidance data to the first application program so that the first application program performs the next operation according to the target operation guidance data. ..

本願の実施例では、第1のアプリケーションプログラムから送信されたユーザの次の操作の操作ガイダンスデータを受信し、ユーザが次の操作を知るように該操作ガイダンスデータをユーザに提供し、ユーザは、次の操作の音声情報を入力した後、音声情報とマッチングするターゲット操作データを決定し、音声入力の方式により、ユーザの操作が便利になり、ユーザと音声サービスアプリケーションプログラムとの間のインタラクションエクスペリエンスが向上する。次に、ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信し、第1のアプリケーションプログラムは、ターゲット操作ガイダンスデータに従って次の操作を行うことができる。本実施例に係る第1のアプリケーションプログラムには音声認識機能が統合される必要はなく、即ち、第1のアプリケーションプログラムの内部実現ロジックを変更する必要はなく、操作ガイダンスデータを提供するだけで、次の操作を行うようにユーザを能動的にガイダンスすることができ、第1のアプリケーションプログラムがマルチラウンドの操作ガイダンスデータを提供するとき、ステップ順に逐次操作を行うようにユーザを能動的にガイダンスすることができ、効率的で便利なアクティブマルチラウンド操作ガイダンスを実現することができ、ユーザが覚える必要がないとともに、第1のアプリケーションプログラムがユーザの具体的な操作行動を取得しやすくなり、ユーザの行動分析に役立つ。 In the embodiment of the present application, the operation guidance data of the next operation of the user transmitted from the first application program is received, and the operation guidance data is provided to the user so that the user knows the next operation. After inputting the voice information of the next operation, the target operation data to be matched with the voice information is determined, and the voice input method makes the user's operation convenient and provides an interaction experience between the user and the voice service application program. improves. Next, the target operation guidance data is transmitted to the first application program, and the first application program can perform the next operation according to the target operation guidance data. It is not necessary to integrate the voice recognition function into the first application program according to the present embodiment, that is, it is not necessary to change the internal realization logic of the first application program, and only the operation guidance data is provided. The user can be actively instructed to perform the following operations, and when the first application program provides multi-round operation guidance data, the user is actively instructed to perform sequential operations in step order. It is possible to realize efficient and convenient active multi-round operation guidance, it is not necessary for the user to remember, and it becomes easier for the first application program to acquire the specific operation behavior of the user. Useful for behavioral analysis.

選択可能に、操作ガイダンスデータの数は少なくとも1つであり、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップの前に、
前記第1のアプリケーションプログラムから送信された各前記操作ガイダンスデータのキーワードを受信するステップを含み、
前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップは、
前記音声情報のキーワード認識を行い、前記音声情報のキーワードを取得するステップと、
各前記操作ガイダンスデータのキーワードと前記音声情報のキーワードとを比較し、比較結果がマッチングするターゲット操作ガイダンスデータを取得するステップと、をさらに含む。
Selectably, the number of operation guidance data is at least one, and before the step of determining the target operation guidance data to be matched with the voice information,
The step of receiving the keyword of each operation guidance data transmitted from the first application program is included.
The step of determining the target operation guidance data to be matched with the voice information is
The step of recognizing the keyword of the voice information and acquiring the keyword of the voice information,
The step of comparing the keyword of each operation guidance data with the keyword of the voice information and acquiring the target operation guidance data whose comparison result matches is further included.

上記の出願の1つの選択可能な実施形態として、キーワードを比較する方法により、音声情報とマッチングする操作ガイダンスデータを決定して、ターゲット操作ガイダンスデータを正確に取得し、また、キーワードを比較することによって操作ガイダンスデータを決定する方法は、より速く、より効率的である。 As one selectable embodiment of the above application, the operation guidance data to be matched with the voice information is determined by the method of comparing the keywords, the target operation guidance data is accurately acquired, and the keywords are compared. The method of determining the operation guidance data by means is faster and more efficient.

選択可能に、第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するステップは、
前記第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すのを監視した場合、前記クロスプロセスアクセスインタフェースから操作ガイダンスデータを読み出し、ここで、前記第1のアプリケーションプログラムは、前記クロスプロセスアクセスインタフェースを呼び出すことにより、前記操作ガイダンスデータを前記クロスプロセスアクセスインタフェースに記憶するステップを含み、
前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するステップは、
前記第1のアプリケーションプログラムが前記クロスプロセスアクセスインタフェースを呼び出すことにより前記ターゲット操作ガイダンスデータを取得するように、前記クロスプロセスアクセスインタフェースを呼び出すことにより前記ターゲット操作ガイダンスデータを前記クロスプロセスアクセスインタフェースに記憶するステップを含む。
Selectably, the step of receiving the operation guidance data transmitted from the first application program is
When the first application program is monitored to call the cross-process access interface, the operation guidance data is read from the cross-process access interface, and here, the first application program calls the cross-process access interface. Includes the step of storing the operational guidance data in the cross-process access interface.
The step of transmitting the target operation guidance data to the first application program is
Just as the first application program acquires the target operation guidance data by calling the cross-process access interface, the target operation guidance data is stored in the cross-process access interface by calling the cross-process access interface. Including steps.

上記の出願の1つの選択可能な実施形態として、クロスプロセスアクセスインタフェースを介して第1のアプリケーションプログラムと音声サービスアプリケーションプログラムとの間のデータ伝送を実現し、データ伝送の信頼性、安定性及び高効率を確保する。 As one selectable embodiment of the above application, data transmission between the first application program and the voice service application program via a cross-process access interface is realized, and the reliability, stability and high data transmission. Ensure efficiency.

選択可能に、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップの前に、
前記第1のアプリケーションプログラムから送信された、各前記操作ガイダンスデータに対応する初期ユーザインテント、及び各前記操作ガイダンスデータに対応する次の操作データを受信するステップをさらに含み、
前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップの後に、
アプリケーションプログラムのセットから、前記ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するステップと、
前記ターゲット操作ガイダンスデータに対応する次の操作データを前記第2のアプリケーションプログラムに送信し、前記第2のアプリケーションプログラムが前記次の操作データを操作するようにトリガーするステップと、をさらに含む。
Selectably, before the step of determining the target operation guidance data to match the voice information,
Further including a step of receiving an initial user intent corresponding to each of the operation guidance data and the next operation data corresponding to each of the operation guidance data transmitted from the first application program.
After the step of determining the target operation guidance data to match the voice information,
From the set of application programs, a step of determining a second application program that satisfies the initial user intent corresponding to the target operation guidance data, and
It further includes a step of transmitting the next operation data corresponding to the target operation guidance data to the second application program and triggering the second application program to operate the next operation data.

上記の出願の1つの選択可能な実施形態として、第1のアプリケーションプログラムは、操作ガイダンスデータの初期ユーザインテントを提供し、即ち、第1のアプリケーションプログラムが思った、ユーザが次の操作を実行するときの可能なユーザインテントを提供し、第2のアプリケーションプログラムが初期ユーザインテントを満たす場合、次の操作データを第2のアプリケーションプログラムに送信し、第2のアプリケーションプログラムが次の操作データを操作するように自動的にトリガーして、ユーザインテントを実現する。本実施例では、第1のアプリケーションプログラムで操作ガイダンスを行うだけでなく、第2のアプリケーションプログラムを自動的にトリガーしてユーザインテントを実現することもできる。 As one selectable embodiment of the above application, the first application program provides an initial user intent of operation guidance data, i.e., the user performs the next operation as the first application program thought. If the second application program satisfies the initial user intent, the next operation data is sent to the second application program, and the second application program receives the next operation data. Automatically triggers to operate and realizes user intent. In this embodiment, not only the operation guidance is given by the first application program, but also the user intent can be realized by automatically triggering the second application program.

選択可能に、アプリケーションプログラムのセットから、前記ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するステップは、
前記音声情報のインテント認識を行い、明確なユーザインテントを取得するステップと、
前記明確なユーザインテントが、前記ターゲット操作ガイダンスデータに対応する初期ユーザインテントとマッチングする場合、アプリケーションプログラムのセットから、前記初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するステップと、を含む。
Selectably, the step of determining from a set of application programs a second application program that satisfies the initial user intent corresponding to the target operation guidance data is
The step of recognizing the intent of the voice information and acquiring a clear user intent,
When the clear user intent matches the initial user intent corresponding to the target operation guidance data, a step of determining a second application program satisfying the initial user intent from the set of application programs. include.

上記の出願の1つの選択可能な実施形態として、明確なユーザインテントの精度が高いため、音声情報のインテント認識を行って明確なユーザインテントを再び取得し、音声情報の明確なユーザインテントが、ターゲット操作ガイダンスデータに対応する初期ユーザインテントとマッチングする場合、ユーザが確かに該インテントを持っていることを意味し、これにより、初期ユーザインテン及びと第2のアプリケーションプログラムの決定の精度が向上する。 As one selectable embodiment of the above application, since the accuracy of the clear user intent is high, the intent of the voice information is recognized to obtain the clear user intent again, and the clear user intent of the voice information is obtained. If the tent matches the initial user intent corresponding to the target operation guidance data, it means that the user does have that intent, thereby determining the initial user intense and the second application program. The accuracy of is improved.

選択可能に、前記操作ガイダンスデータを前記ユーザに提供するステップは、
前記操作ガイダンスデータを表示するステップ、及び/又は
前記操作ガイダンスデータの音声情報を再生するステップを含む。
The step of providing the operation guidance data to the user, which can be selected, is
The step of displaying the operation guidance data and / or the step of reproducing the voice information of the operation guidance data is included.

上記の出願の1つの選択可能な実施形態として、表示及び音声再生の少なくとも1つにより操作ガイダンスデータをユーザに提供し、提供方式が多様であり、従来技術の数ページの操作ガイダンスページと比較して、本実施例では、次の操作のガイダンスデータのみを表示又は再生することで、提供コンテンツが簡略化され、ユーザがより受け入れやすくなる。 As one selectable embodiment of the above application, the operation guidance data is provided to the user by at least one of display and voice reproduction, and the provision method is various, and the operation guidance page is compared with several pages of the prior art. Therefore, in the present embodiment, by displaying or playing back only the guidance data of the next operation, the provided content is simplified and the user can easily accept it.

選択可能に、前記操作ガイダンスデータを表示するステップは、
前記操作ガイダンスデータをページングで表示するステップを含み、
前記ユーザから入力された音声情報を受信し、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップは、
前記ユーザから入力された少なくとも1ラウンドの音声情報を受信し、各ラウンドの前記音声情報を認識するステップと、
ページ番号情報が認識された場合、前記ページ番号情報に対応する操作ガイダンスデータを表示するステップと、
ページ番号情報が認識されない場合、現在のページに表示されている操作ガイダンスデータから、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップと、を含む。
The step of displaying the operation guidance data so as to be selectable is
Including the step of displaying the operation guidance data by paging.
The step of receiving the voice information input from the user and determining the target operation guidance data to be matched with the voice information is
A step of receiving at least one round of voice information input from the user and recognizing the voice information of each round,
When the page number information is recognized, the step of displaying the operation guidance data corresponding to the page number information and
When the page number information is not recognized, the step of determining the target operation guidance data matching with the voice information from the operation guidance data displayed on the current page is included.

上記の出願の1つの選択可能な実施形態は、操作ガイダンスデータのページング表示をサポートし、これにより、操作ガイダンスデータのデータ量を増やし、ページングによってページの簡潔さを確保することができ、ユーザは音声でページ送りを制御でき、1ラウンドの操作ではマルチステップの音声入力操作を兼ねることができる。 One selectable embodiment of the above application supports paging display of operation guidance data, which can increase the amount of operation guidance data data and ensure page conciseness by paging. The page feed can be controlled by voice, and the one-round operation can also serve as a multi-step voice input operation.

選択可能に、第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するステップの前に、
前記第1のアプリケーションプログラムの署名を受信するステップと、
前記署名を検証し、検証合格の結果を取得するステップと、をさらに含む。
前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するステップは、
前記ターゲット操作ガイダンスデータを暗号化して前記第1のアプリケーションプログラムに送信するステップを含む。
Selectably, before the step of receiving the operation guidance data sent from the first application program,
The step of receiving the signature of the first application program,
It further comprises the step of verifying the signature and obtaining the result of passing the verification.
The step of transmitting the target operation guidance data to the first application program is
The step includes encrypting the target operation guidance data and transmitting it to the first application program.

上記の出願の1つの選択可能な実施形態では、第1のアプリケーションプログラムの署名を検証し、ターゲット操作ガイダンスデータを暗号化して送信することにより、データ伝送のセキュリティを確保する。 In one selectable embodiment of the above application, the signature of the first application program is verified and the target operation guidance data is encrypted and transmitted to ensure the security of data transmission.

第2の態様では、本願の実施例は、
第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するように構成され受信モジュールであって、前記操作ガイダンスデータは、ユーザの現在の操作に基づいて前記第1のアプリケーションプログラムによって得られた次の操作のガイダンスデータである受信モジュールと、
前記操作ガイダンスデータを前記ユーザに提供するように構成される提供モジュールと、
前記ユーザから入力された音声情報を受信し、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するように構成される決定モジュールと、
前記第1のアプリケーションプログラムが前記ターゲット操作ガイダンスデータに従って次の操作を行うように、前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するように構成される送信モジュールと、を含むアプリケーションプログラムの操作ガイダンス装置をさらに提供する。
In the second aspect, the embodiments of the present application are
A receiving module configured to receive operation guidance data transmitted from the first application program, wherein the operation guidance data is the next obtained by the first application program based on the user's current operation. The receiving module, which is the guidance data for the operation of
A providing module configured to provide the operation guidance data to the user,
A determination module configured to receive voice information input from the user and determine target operation guidance data to be matched with the voice information.
An application program comprising a transmission module configured to transmit the target operation guidance data to the first application program so that the first application program performs the next operation according to the target operation guidance data. An operation guidance device is further provided.

第3の態様では、本願の実施例は、
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含む電子機器であって、
前記メモリには前記少なくとも1つのプロセッサによって実行可能な命令が記憶され、前記命令が前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサが上記いずれかの実施例に記載のアプリケーションプログラムの操作ガイダンス方法を実行できる電子機器をさらに提供する。
In the third aspect, the embodiment of the present application is
With at least one processor
An electronic device including a memory that is communicatively connected to the at least one processor.
An instruction that can be executed by the at least one processor is stored in the memory, and when the instruction is executed by the at least one processor, the at least one processor is the application program according to any one of the above embodiments. Further provide an electronic device capable of executing the operation guidance method.

第4の態様では、本願の実施例は、コンピュータ命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体であって、前記コンピュータ命令は、前記コンピュータに上記いずれかの実施例に記載のアプリケーションプログラムの操作ガイダンス方法を実行させる非一時的なコンピュータ読み取り可能な記憶媒体をさらに提供する。 In a fourth aspect, an embodiment of the present application is a non-temporary computer-readable storage medium in which computer instructions are stored, the computer instructions being described in the computer in any of the above embodiments. It also provides a non-temporary computer-readable storage medium that executes the operation guidance method of the application program.

第5の態様では、本願の実施例は、コンピュータに上記いずれかの実施例に記載のアプリケーションプログラムの操作ガイダンス方法を実行させるコンピュータプログラムをさらに提供する。 In a fifth aspect, the embodiments of the present application further provide a computer program that causes a computer to execute the operation guidance method of the application program described in any of the above embodiments.

上記の選択可能な実施形態が奏する他の効果は、特定の実施例と併せて以下に記載される。 Other effects of the above selectable embodiments are described below, along with specific examples.

図面は、本技術案をよりよく理解するために使用され、本願を限定するものではない。
本願の実施例1に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。 本願の実施例2に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。 本願の実施例3に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。 本願の実施例4に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。 本願の実施例5に係るアプリケーションプログラムの操作ガイダンス装置の構成図である。 本願の実施例に係るアプリケーションプログラムの操作ガイダンス方法を実現するための電子機器のブロック図である。
The drawings are used to better understand the proposed technology and are not intended to limit the present application.
It is a flowchart of the operation guidance method of the application program which concerns on Example 1 of this application. It is a flowchart of the operation guidance method of the application program which concerns on Example 2 of this application. It is a flowchart of the operation guidance method of the application program which concerns on Example 3 of this application. It is a flowchart of the operation guidance method of the application program which concerns on Example 4 of this application. It is a block diagram of the operation guidance apparatus of the application program which concerns on Example 5 of this application. It is a block diagram of the electronic device for realizing the operation guidance method of the application program which concerns on embodiment of this application.

以下、図面を組み合わせて本願の例示的な実施例を説明し、理解を容易にするためにその中には本願の実施例の様々な詳細事項が含まれており、それらは単なる例示するものと見なされるべきである。したがって、当業者は、本願の範囲及び精神から逸脱することなく、ここで説明される実施例に対して様々な変更と修正を行うことができる。同様に、わかりやすくかつ簡潔にするために、以下の説明では、周知の機能及び構成の説明を省略する。 Hereinafter, exemplary embodiments of the present application will be described in combination with the drawings, which may include various details of the embodiments of the present application for ease of understanding, which are merely exemplary. Should be considered. Accordingly, one of ordinary skill in the art can make various changes and modifications to the embodiments described herein without departing from the scope and spirit of the present application. Similarly, for the sake of clarity and brevity, the following description omits the description of well-known functions and configurations.

[実施例1]
図1は、本願の実施例1に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。本願の実施例は、アプリケーションプログラムを逐次操作するようにユーザをガイダンスする場合に適する。該方法は、アプリケーションプログラムの操作ガイダンス装置によって実行され、該装置は、ソフトウェア及び/又はハードウェアで実現され、具体的には、一定のデータコンピューティング機能を備えた電子機器に配置される。選択可能に、電子機器は、スマートフォン又は車載機器側であり、車載機器側には、第1のアプリケーションプログラム及び音声サービスアプリケーションプログラムがインストールされており、第1のアプリケーションプログラムは、音声サービスアプリケーションプログラムの支援下でユーザに操作ガイダンスを行う。
[Example 1]
FIG. 1 is a flowchart of an operation guidance method of the application program according to the first embodiment of the present application. The embodiments of the present application are suitable for instructing the user to operate the application program sequentially. The method is performed by an operation guidance device of an application program, which is implemented in software and / or hardware, specifically placed in an electronic device having certain data computing capabilities. Selectably, the electronic device is the smartphone or the in-vehicle device side, the first application program and the voice service application program are installed on the in-vehicle device side, and the first application program is the voice service application program. Provide operation guidance to the user with assistance.

図1に示すアプリケーションプログラムの操作ガイダンス方法は、具体的には、電子機器内の音声サービスアプリケーションプログラムによって実行され、前記方法は、以下のステップS110〜ステップS140を含む。 Specifically, the operation guidance method of the application program shown in FIG. 1 is executed by the voice service application program in the electronic device, and the method includes the following steps S110 to S140.

S110において、第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信し、操作ガイダンスデータは、ユーザの現在の操作に基づいて第1のアプリケーションプログラムによって得られた次の操作のガイダンスデータである。 In S110, the operation guidance data transmitted from the first application program is received, and the operation guidance data is the guidance data for the next operation obtained by the first application program based on the current operation of the user.

第1のアプリケーションプログラムは、新しく起動されたアプリケーションプログラムや新しい機能を追加するアプリケーションプログラムなど、操作ガイダンス需要を持つアプリケーションプログラムであり、説明と区別の便宜上、操作ガイダンス需要を持つアプリケーションプログラムは、第1のアプリケーションプログラムと言う。 The first application program is an application program that has an operation guidance demand such as a newly started application program or an application program that adds a new function. For convenience of explanation and distinction, the application program that has the operation guidance demand is the first application program. It is called an application program.

ユーザは、第1のアプリケーションプログラムのアイコンをトリガーして第1のアプリケーションプログラムを開くか、又は第1のアプリケーションプログラムの機能アイコンをトリガーして第1のアプリケーションプログラムを制御して対応する機能を実行するなど、第1のアプリケーションプログラムに対して直接操作を行うことができる。また、ユーザは、音声情報を入力して次の操作データを取得し、次の操作データを第1のアプリケーションプログラムに送信して、第1のアプリケーションプログラムに対する間接操作を実現することもできる。ここでのユーザの現在の操作は、直接操作であってもよいし、間接操作であってもよいが、現在の操作はシングルステップ操作である必要がある。 The user either triggers the icon of the first application program to open the first application program, or triggers the function icon of the first application program to control the first application program and execute the corresponding function. It is possible to directly operate the first application program. Further, the user can also input voice information to acquire the next operation data and transmit the next operation data to the first application program to realize an indirect operation on the first application program. The user's current operation here may be a direct operation or an indirect operation, but the current operation needs to be a single step operation.

第1のアプリケーションプログラムは、内部実現ロジックに応じて、ユーザの現在の操作に従って応答し、現在の操作の次の操作のガイダンスデータを取得する。ここで、次の操作のガイダンスデータは、ユーザが次の操作を行うようにガイダンスするデータであり、次の操作の数及び操作ガイダンスデータの数は、いずれも少なくとも1つであり、次の操作と操作ガイダンスデータとは1対1で対応している。一例として、現在の操作は、飲食注文アイコンをクリックする操作であり、次の操作は、湖南料理アイコンを選択する操作、広東料理アイコンを選択する操作、及び西洋料理アイコンを選択する操作を含み、各々の次の操作のガイダンスデータはそれぞれ、「湖南料理を選択するか否か、広東料理を選択するか否か、及び西洋料理を選択するか否か」というテキストである。次に、第1のアプリケーションプログラムは、操作ガイダンスデータを音声サービスアプリケーションプログラムに送信する。 The first application program responds according to the user's current operation according to the internal realization logic, and acquires guidance data for the next operation of the current operation. Here, the guidance data for the next operation is data that guides the user to perform the next operation, and the number of the next operation and the number of the operation guidance data are both at least one, and the next operation And the operation guidance data have a one-to-one correspondence. As an example, the current operation is the operation of clicking the food and drink order icon, and the next operation includes the operation of selecting the Hunan food icon, the operation of selecting the Cantonese food icon, and the operation of selecting the Western food icon. The guidance data for each of the following operations is the text "whether to choose Hunan cuisine, whether to choose Cantonese cuisine, and whether to choose Western cuisine", respectively. Next, the first application program transmits the operation guidance data to the voice service application program.

S120において、操作ガイダンスデータをユーザに提供する。 In S120, operation guidance data is provided to the user.

音声サービスアプリケーションプログラムは、第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信した後、ユーザが次の操作のガイダンスデータを知るように操作ガイダンスデータをユーザに提供する。 After receiving the operation guidance data transmitted from the first application program, the voice service application program provides the operation guidance data to the user so that the user knows the guidance data for the next operation.

音声サービスアプリケーションプログラムは、操作ガイダンスに加えて、通常の音声インタラクション機能も備えており、つまり、ユーザが入力した音声情報を認識し、適切なコンテンツをマッチングして再生し、ユーザとの音声インタラクションを実現する。これに基づいて、操作ガイダンスデータをユーザに提供するとき又は提供する前に、操作ガイダンスデータにラベルを付ける。 In addition to the operation guidance, the voice service application program also has a normal voice interaction function, that is, it recognizes the voice information input by the user, matches and plays the appropriate content, and performs the voice interaction with the user. Realize. Based on this, label the operation guidance data when or before providing the operation guidance data to the user.

S130において、ユーザから入力された音声情報を受信し、音声情報とマッチングするターゲット操作ガイダンスデータを決定する。 In S130, the voice information input from the user is received, and the target operation guidance data to be matched with the voice information is determined.

ユーザは、次の操作のガイダンスデータを知った後、その中から、実行する次の操作を決定し、次の操作に対応する音声を能動的に送信する。上記の例に続いて、ユーザは「湖南料理を選択する」という音声情報を入力する。 After knowing the guidance data for the next operation, the user decides the next operation to be executed from the guidance data, and actively transmits the voice corresponding to the next operation. Following the above example, the user inputs the voice information "Select Hunan cuisine".

操作ガイダンスデータがラベル付けされている場合、S120の後に、前述した通常操作ではなく、受信した音声情報に対してS130、S140の操作を行う必要があることを意味する。逆に、あるデータがラベル付けされていない場合、その後受信した音声情報に対して通常の操作を行い、つまり、音声情報を認識し、適切なコンテンツをマッチングして再生する。 When the operation guidance data is labeled, it means that it is necessary to perform the operations of S130 and S140 on the received voice information instead of the above-mentioned normal operation after S120. On the contrary, when a certain data is not labeled, a normal operation is performed on the received voice information, that is, the voice information is recognized, and appropriate contents are matched and played back.

選択可能に、操作ガイダンスデータの数が1つである場合、音声情報が該操作ガイダンスデータとマッチングするか否かを判断し、マッチングする場合、該操作ガイダンスデータをターゲット操作ガイダンスデータとして決定し、マッチングしない場合、該操作ガイダンスデータはターゲット操作ガイダンスデータではない。操作ガイダンスデータの数が2つ以上である場合、2つ以上の操作ガイダンスデータから音声情報とマッチングする操作ガイダンスデータをターゲット操作ガイダンスデータとして決定する。具体的には、音声サービスアプリケーションプログラムは、音声情報を認識し、認識結果を操作ガイダンスデータとマッチングし、マッチングするターゲット操作ガイダンスデータを決定する。 Selectably, when the number of operation guidance data is one, it is determined whether or not the voice information matches the operation guidance data, and when matching, the operation guidance data is determined as the target operation guidance data. If there is no match, the operation guidance data is not target operation guidance data. When the number of operation guidance data is two or more, the operation guidance data matching with the voice information is determined as the target operation guidance data from the two or more operation guidance data. Specifically, the voice service application program recognizes voice information, matches the recognition result with the operation guidance data, and determines the target operation guidance data to be matched.

S140において、第1のアプリケーションプログラムがターゲット操作ガイダンスデータに従って次の操作を行うように、ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信する。 In S140, the target operation guidance data is transmitted to the first application program so that the first application program performs the next operation according to the target operation guidance data.

操作ガイダンスデータは、次の操作データと1対1で対応する。次の操作データには操作命令とパラメータが含まれ、例えば、「湖南料理を選択するか否か」に対応する次の操作データには、選択操作命令と湖南料理パラメータが含まれる。第1のアプリケーションプログラムは、ターゲット操作ガイダンスデータを得た後、ターゲット操作ガイダンスデータに応じて次の操作データを決定し、また操作命令とパラメータに従って次の操作を行い、例えば、湖南料理アイコンを選択する操作を行って湖南料理レストランページに入るなど。 The operation guidance data has a one-to-one correspondence with the following operation data. The next operation data includes operation commands and parameters, for example, the next operation data corresponding to "whether or not to select Hunan cuisine" includes selection operation instructions and Hunan cuisine parameters. After obtaining the target operation guidance data, the first application program determines the next operation data according to the target operation guidance data, and also performs the next operation according to the operation command and parameters, for example, selecting the Hunan cuisine icon. Enter the Hunan restaurant page by performing the operation.

選択可能に、第1のアプリケーションプログラムは、音声サービスアプリケーションプログラムに操作ガイダンスデータを送信するとき、操作ガイダンスデータに対応する次の操作データをも送信する。それに対応して、S130の前に、第1のアプリケーションプログラムから送信された操作ガイダンスデータに対応する次の操作データを受信するステップをさらに含む。さらに、S130の後に、ターゲット操作ガイダンスデータに応じて次の操作データを決定するステップをさらに含む。これに基づいて、音声サービスアプリケーションプログラムは、ユーザの次の操作データを知ることができ、ユーザの具体的な操作行動を取得しやすくなり、ユーザの行動分析とに役立つ。 Selectably, when the first application program transmits the operation guidance data to the voice service application program, it also transmits the next operation data corresponding to the operation guidance data. Correspondingly, the step of receiving the next operation data corresponding to the operation guidance data transmitted from the first application program is further included before S130. Further, after S130, a step of determining the next operation data according to the target operation guidance data is further included. Based on this, the voice service application program can know the next operation data of the user, can easily acquire the specific operation behavior of the user, and is useful for the analysis of the user's behavior.

本願の実施例では、第1のアプリケーションプログラムから送信されたユーザの次の操作の操作ガイダンスデータを受信し、ユーザが次の操作を知るように該操作ガイダンスデータをユーザに提供し、ユーザは、次の操作の音声情報を入力し、音声情報とマッチングするターゲット操作データを決定する。音声入力の方式により、ユーザの操作が便利になり、ユーザと音声サービスアプリケーションプログラムとの間のインタラクションエクスペリエンスが向上する。次に、ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信し、第1のアプリケーションプログラムは、ターゲット操作ガイダンスデータに従って次の操作を行うことができる。本実施例に係る第1のアプリケーションプログラムには音声認識機能が統合される必要がなく、即ち、第1のアプリケーションプログラムの内部実現ロジックを変更する必要はなく、操作ガイダンスデータを提供するだけで、次の操作を行うようにユーザを能動的にガイダンスすることができ、第1のアプリケーションプログラムがマルチラウンドの操作ガイダンスデータを提供するとき、ステップ順に逐次操作を行うようにユーザを能動的にガイダンスすることができ、効率的で便利なアクティブマルチラウンド操作ガイダンスを実現することができ、ユーザが覚える必要がないとともに、第1のアプリケーションプログラムがユーザの具体的な操作行動を取得しやすくなり、ユーザの行動分析に役立つ。 In the embodiment of the present application, the operation guidance data of the next operation of the user transmitted from the first application program is received, and the operation guidance data is provided to the user so that the user knows the next operation. Input the voice information of the next operation and determine the target operation data to match with the voice information. The voice input method facilitates the user's operation and improves the interaction experience between the user and the voice service application program. Next, the target operation guidance data is transmitted to the first application program, and the first application program can perform the next operation according to the target operation guidance data. It is not necessary to integrate the voice recognition function into the first application program according to the present embodiment, that is, it is not necessary to change the internal realization logic of the first application program, and only the operation guidance data is provided. The user can be actively instructed to perform the following operations, and when the first application program provides multi-round operation guidance data, the user is actively instructed to perform sequential operations in step order. It is possible to realize efficient and convenient active multi-round operation guidance, it is not necessary for the user to remember, and it becomes easier for the first application program to acquire the specific operation behavior of the user. Useful for behavioral analysis.

[実施例2]
図2は、本願の実施例2に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。本願の実施例は、上記の各実施例の技術案に基づいて最適化されるものである。
[Example 2]
FIG. 2 is a flowchart of an operation guidance method of the application program according to the second embodiment of the present application. The embodiments of the present application are optimized based on the technical proposals of the above-mentioned embodiments.

選択可能に、操作ガイダンスデータの数は、少なくとも1つであり、「音声情報とマッチングするターゲット操作ガイダンスデータを決定する」ステップの前に、「第1のアプリケーションプログラムから送信された各操作ガイダンスデータのキーワードを受信する」ステップを追加し、それに対応して、「音声情報とマッチングするターゲット操作ガイダンスデータを決定する」操作を「音声情報のキーワード認識を行い、音声情報のキーワードを取得し、各操作ガイダンスデータのキーワードと音声情報のキーワードとを比較し、比較結果がマッチングするターゲット操作ガイダンスデータを取得する」ステップに細分化することにより、マッチングする精度及び効率を向上させることができる。 Selectably, the number of operation guidance data is at least one, and before the step of "determining the target operation guidance data to match with the voice information", "each operation guidance data transmitted from the first application program". "Receive keywords of voice information" is added, and correspondingly, the operation of "determine target operation guidance data to match with voice information" is performed by "keyword recognition of voice information, acquisition of keywords of voice information, and each By comparing the keyword of the operation guidance data with the keyword of the voice information and subdividing it into the step of "acquiring the target operation guidance data for which the comparison result matches", the accuracy and efficiency of matching can be improved.

図2に示すアプリケーションプログラムの操作ガイダンス方法は、以下のステップS210〜ステップS250を含む。 The operation guidance method of the application program shown in FIG. 2 includes the following steps S210 to S250.

S210において、第1のアプリケーションプログラムから送信された、操作ガイダンスデータ及び各操作ガイダンスデータのキーワードを受信する。 In S210, the operation guidance data and the keywords of each operation guidance data transmitted from the first application program are received.

第1のアプリケーションプログラムは、操作ガイダンスデータをキーワードとともに送信することができ、このステップに示すように、それぞれ送信することもできる。具体的には、音声情報とマッチングするターゲット操作ガイダンスデータを決定する前に、各操作ガイダンスデータのキーワードを送信する。このようにすることで、音声サービスアプリケーションプログラムは、音声情報とマッチングするターゲット操作ガイダンスデータを決定する前に該キーワードを受信することができる。 The first application program can transmit the operation guidance data together with the keywords, and can also transmit each as shown in this step. Specifically, the keyword of each operation guidance data is transmitted before determining the target operation guidance data to be matched with the voice information. By doing so, the voice service application program can receive the keyword before determining the target operation guidance data to be matched with the voice information.

各操作ガイダンスデータのキーワードは少なくとも1つであり、例えば、「湖南料理を選択するか否か」のキーワードは湖南料理であり、「人民公園の駐車場に行く」のキーワードは、人民公園と駐車場とを含む。 The keyword of each operation guidance data is at least one. For example, the keyword of "whether or not to select Hunan cuisine" is Hunan cuisine, and the keyword of "go to the parking lot of People's Park" is people's park. Including the parking lot.

S220において、操作ガイダンスデータをユーザに提供する。 In S220, operation guidance data is provided to the user.

S230において、ユーザから入力された音声情報を受信し、音声情報のキーワード認識を行い、音声情報のキーワードを取得する。 In S230, the voice information input from the user is received, the keyword of the voice information is recognized, and the keyword of the voice information is acquired.

選択可能に、音声情報をテキストに変換し、該テキストに対して、次のいずれか1つの操作を行う。操作1)テキストを正規表現にマッチングし、キーワードの位置を特定してキーワードを認識する。操作2)テキストのプレフィックス及びサフィックスを除去し、キーワードを保持する。 The voice information is converted into text so as to be selectable, and any one of the following operations is performed on the text. Operation 1) Match the text to the regular expression, specify the position of the keyword, and recognize the keyword. Operation 2) Remove the text prefix and suffix and retain the keyword.

音声サービスアプリケーションプログラムは、音声情報をローカルで傍受し、音声情報に対してローカルでキーワード認識を行って音声情報のキーワードを取得するため、サーバでの認識を必要とせず、速度がより速く、効率がより高くなる。当然のことながら、音声情報をサーバに送信し、サーバが提供する方法でキーワードを認識することもできる。 The voice service application program intercepts the voice information locally and recognizes the voice information locally to acquire the keyword of the voice information, so that the recognition by the server is not required, the speed is faster, and the efficiency is higher. Will be higher. Of course, it is also possible to send voice information to the server and recognize the keyword by the method provided by the server.

S240において、各操作ガイダンスデータのキーワードと音声情報のキーワードとを比較し、比較結果がマッチングするターゲット操作ガイダンスデータを取得する。 In S240, the keywords of each operation guidance data and the keywords of voice information are compared, and the target operation guidance data whose comparison results match is acquired.

操作ガイダンスデータのキーワードが2つ以上あり、該操作ガイダンスデータのいずれかのキーワードが音声情報のキーワードとの比較結果がマッチングする場合、該操作ガイダンスデータがターゲット操作ガイダンスデータである。 When there are two or more keywords of the operation guidance data and the comparison result of any of the keywords of the operation guidance data matches with the keyword of the voice information, the operation guidance data is the target operation guidance data.

S250において、第1のアプリケーションプログラムがターゲット操作ガイダンスデータに従って次の操作を行うように、ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信する。 In S250, the target operation guidance data is transmitted to the first application program so that the first application program performs the next operation according to the target operation guidance data.

本実施例では、キーワード比較の方法により、音声情報とマッチングする操作ガイダンスデータを決定し、ターゲット操作ガイダンスデータを正確に取得する。また、キーワードを比較することによって操作ガイダンスデータを決定する方法は、より速く、より効率的である。 In this embodiment, the operation guidance data that matches the voice information is determined by the keyword comparison method, and the target operation guidance data is accurately acquired. Also, the method of determining operation guidance data by comparing keywords is faster and more efficient.

[実施例3]
図3は、本願の実施例3に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートである。本願の実施例は上記の各実施例の技術案に基づいて最適化されるものである。
[Example 3]
FIG. 3 is a flowchart of an operation guidance method of the application program according to the third embodiment of the present application. The embodiments of the present application are optimized based on the technical proposals of the above-mentioned embodiments.

選択可能に、「第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信する」ステップを、「第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すのを監視した場合、クロスプロセスアクセスインタフェースから操作ガイダンスデータを読み出し、ここで、第1のアプリケーションプログラムは、クロスプロセスアクセスインタフェースを呼び出すことにより、操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する」ステップに細分化し、それに対応して、「ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信する」ステップを、「第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すことによりターゲット操作ガイダンスデータを取得するように、クロスプロセスアクセスインタフェースを呼び出すことによりターゲット操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する」ステップに細分化する。 Selectably, the "Receive operational guidance data sent from the first application program" step is followed by "If you monitor the first application program to call the cross-process access interface, the operational guidance from the cross-process access interface. The data is read, and here, the first application program is subdivided into the steps of "storing the operation guidance data in the cross-process access interface by calling the cross-process access interface", and correspondingly, "target operation guidance data". To the first application program, the target operation guidance data by calling the cross-process access interface, just as the first application program obtains the target operation guidance data by calling the cross-process access interface. Is subdivided into "store in cross-process access interface" steps.

選択可能に、「第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信する」ステップの前に、「第1のアプリケーションプログラムの署名を受信し、署名を検証し、検証合格の結果を取得する」ステップを追加する。 Selectably, before the step "Receive the operation guidance data sent from the first application program", "Receive the signature of the first application program, verify the signature, and obtain the result of passing the verification." Add a step.

選択可能に、「ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信する」ステップを、「ターゲット操作ガイダンスデータを暗号化して第1のアプリケーションプログラムに送信する」ステップに細分化する。 The step of "transmitting the target operation guidance data to the first application program" is subdivided into a step of "encrypting the target operation guidance data and transmitting it to the first application program" so as to be selectable.

図3に示すアプリケーションプログラムの操作ガイダンス方法は、以下のステップS300〜ステップS350を含む。 The operation guidance method of the application program shown in FIG. 3 includes the following steps S300 to S350.

S300において、第1のアプリケーションプログラムの署名を受信する。 In S300, the signature of the first application program is received.

S310において、署名を検証し、検証合格の結果を取得する。 In S310, the signature is verified and the result of passing the verification is acquired.

具体的には、第1のアプリケーションプログラムは、自分の秘密キーを使用してデータパケットを暗号化して署名を取得し、署名をデータパケットに添付する。第1のアプリケーションプログラムは、署名とデータパケットとを音声サービスアプリケーションプログラムに送信する。音声サービスアプリケーションプログラムは、公開キーを使用して署名を成功に復号してデータパケットを取得し、データパケット名がホワイトリストに含まれている場合、検証に合格する。 Specifically, the first application program encrypts the data packet using its own private key to obtain a signature, and attaches the signature to the data packet. The first application program sends the signature and the data packet to the voice service application program. The voice service application program successfully decrypts the signature using the public key to retrieve the data packet and passes the validation if the data packet name is on the white list.

検証に合格した後、音声サービスアプリケーションプログラムは、検証を繰り返すことなく、第1のアプリケーションプログラムから送信されたデータを常に受信することができる。 After passing the verification, the voice service application program can always receive the data transmitted from the first application program without repeating the verification.

S320において、第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すのを監視した場合、クロスプロセスアクセスインタフェースから操作ガイダンスデータを読み出し、ここで、第1のアプリケーションプログラムは、クロスプロセスアクセスインタフェースを呼び出すことにより、操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する。 In S320, when the first application program is monitored to call the cross-process access interface, the operation guidance data is read from the cross-process access interface, and here, the first application program calls the cross-process access interface. , The operation guidance data is stored in the cross-process access interface.

本実施例では、第1のアプリケーションプログラムが呼び出すためにクロスプロセスアクセスインタフェースを開発した。クロスプロセスアクセスインタフェースは、アンドロイドインタフェース定義言語(Android Interface definition language,AIDL)を使用して開発される。これにより、第1のアプリケーションプログラムと音声インタラクティブシステムとの間のインタラクションが可能になる。クロスプロセスアクセスインタフェースにデータの記憶方法及び読み出し方法がカプセル化されており、第1のアプリケーションプログラムは、音声サービスアプリケーションプログラムが読み出すように、クロスプロセスアクセスインタフェースを呼び出すことにより操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する。 In this embodiment, a cross-process access interface has been developed for the first application program to call. The cross-process access interface is developed using the Android interface definition language (AIDL). This allows interaction between the first application program and the voice interactive system. The data storage method and reading method are encapsulated in the cross-process access interface, and the first application program cross-process access the operation guidance data by calling the cross-process access interface so that the voice service application program reads. Store in the interface.

一適用シナリオでは、第1のアプリケーションプログラムと音声サービスアプリケーションプログラムの両方がモバイル開発プラットフォーム、つまりモバイル開発プラットフォームが統合されたソフトウェア開発キット(Software Development Kit,SDK)にアクセスする。モバイル開発プラットフォームでクロスプロセスアクセスインタフェースを開発することにより、第1のアプリケーションプログラム及び音声サービスアプリケーションプログラムの呼び出し及び監視は、便利になる。 In one application scenario, both the first application program and the voice service application program access a mobile development platform, a software development kit (SDK) that integrates the mobile development platform. By developing a cross-process access interface on the mobile development platform, calling and monitoring of the first application program and voice service application program becomes convenient.

選択可能に、データ伝送のセキュリティを確保するために、第1のアプリケーションプログラムは、操作ガイダンスデータを暗号化した後、クロスプロセスアクセスインタフェースを呼び出して、記憶を行う。それに対応して、音声サービスアプリケーションプログラムは、後続の操作を行う前に、暗号化された操作ガイダンスデータを復号する必要がある。 Selectably, in order to ensure the security of data transmission, the first application program encrypts the operation guidance data and then calls the cross-process access interface to store the data. Correspondingly, the voice service application program needs to decrypt the encrypted operation guidance data before performing the subsequent operation.

選択可能に、占有帯域幅を減らすために、操作ガイダンスデータのフォーマットをJsonにする。 Selectably, the format of the operation guidance data is set to JSON in order to reduce the occupied bandwidth.

S330において、操作ガイダンスデータをユーザに提供する。 In S330, the operation guidance data is provided to the user.

S340において、ユーザから入力された音声情報を受信し、音声情報とマッチングするターゲット操作ガイダンスデータを決定する。 In S340, the voice information input from the user is received, and the target operation guidance data to be matched with the voice information is determined.

S350において、第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すことによりターゲット操作ガイダンスデータを取得し、ターゲット操作ガイダンスデータに従って次の操作を行うように、クロスプロセスアクセスインタフェースを呼び出すことによりターゲット操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する。 In S350, the target operation guidance data is acquired by calling the cross-process access interface, and the target operation guidance data is obtained by calling the cross-process access interface so that the first application program performs the next operation according to the target operation guidance data. Is stored in the cross-process access interface.

具体的には、音声サービスアプリケーションプログラムは、クロスプロセスアクセスインタフェースを呼び出すことにより、ターゲット操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する。第1のアプリケーションプログラムは、音声サービスアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すのを監視した場合、同様に、クロスプロセスアクセスインタフェースを呼び出すことにより、ターゲット操作ガイダンスデータを取得する。 Specifically, the voice service application program stores the target operation guidance data in the cross-process access interface by calling the cross-process access interface. When the first application program monitors the voice service application program to call the cross-process access interface, the target operation guidance data is acquired by calling the cross-process access interface as well.

選択可能に、音声サービスアプリケーションプログラムは、ターゲット操作ガイダンスデータを暗号化してクロスプロセスアクセスインタフェースに記憶し、第1のアプリケーションプログラムは、クロスプロセスアクセスインタフェースを呼び出すことにより、暗号化されたターゲット操作ガイダンスデータを取得し、ターゲット操作データを復号し、復号されたターゲット操作ガイダンスデータに従って次の操作を行う。 Selectably, the voice service application program encrypts the target operation guidance data and stores it in the cross-process access interface, and the first application program calls the cross-process access interface to encrypt the target operation guidance data. Is acquired, the target operation data is decrypted, and the following operation is performed according to the decoded target operation guidance data.

本実施例では、第1のアプリケーションプログラムの署名を検証し、ターゲット操作ガイダンスデータを暗号化して送信することにより、データ伝送のセキュリティを確保する。クロスプロセスアクセスインタフェースを介して第1のアプリケーションプログラムと音声サービスアプリケーションプログラムとの間のデータ伝送を実現し、データ伝送の信頼性、安定性及び高効率を確保する。なお、本実施例では、クロスプロセスアクセスインタフェースを呼び出すことにより、操作ガイダンスデータを送受信し、また、クロスプロセスアクセスインタフェースを呼び出すことにより、上記及び後続の実施例におけるキーワード、初期ユーザインテント及び次の操作データを送受信し、また、キーワード、初期ユーザインテント及び次の操作データを暗号化して送信することにより、すべてのデータのセキュリティ、信頼性、安定性及び高効率を確保する。 In this embodiment, the signature of the first application program is verified, and the target operation guidance data is encrypted and transmitted to ensure the security of data transmission. Data transmission between the first application program and the voice service application program is realized via the cross-process access interface, and the reliability, stability and high efficiency of the data transmission are ensured. In this embodiment, the operation guidance data is transmitted / received by calling the cross-process access interface, and the keywords, initial user intents, and the following in the above and subsequent examples are called by calling the cross-process access interface. By sending and receiving operation data, and by encrypting and transmitting keywords, initial user interfaces, and the next operation data, the security, reliability, stability, and high efficiency of all data are ensured.

[実施例4]
図4は、本願の実施例4に係るアプリケーションプログラムの操作ガイダンス方法のフローチャートであり、本願の実施例は、上記の各実施例の技術案に基づいて最適化されるものである。
[Example 4]
FIG. 4 is a flowchart of the operation guidance method of the application program according to the fourth embodiment of the present application, and the embodiment of the present application is optimized based on the technical proposal of each of the above-described embodiments.

選択可能に、「音声情報とマッチングするターゲット操作ガイダンスデータを決定する」ステップの前に、「第1のアプリケーションプログラムから送信された、各操作ガイダンスデータに対応する初期ユーザインテント、及び各操作ガイダンスデータに対応する次の操作データを受信する」ステップを追加し、それに対応して、「音声情報とマッチングするターゲット操作ガイダンスデータを決定する」ステップの後、「アプリケーションプログラムのセットから、ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定し、ターゲット操作ガイダンスデータに対応する次の操作データを第2のアプリケーションプログラムに送信し、第2のアプリケーションプログラムが次の操作データを操作するようにトリガーする」ステップを追加する。 Selectably, before the step of "determining the target operation guidance data to match with the voice information", "the initial user intent corresponding to each operation guidance data sent from the first application program, and each operation guidance". Add the "Receive the next operation data corresponding to the data" step, and correspondingly, after the "Determine the target operation guidance data to match with the voice information" step, "From the set of application programs, the target operation guidance" A second application program that satisfies the initial user intent corresponding to the data is determined, the next operation data corresponding to the target operation guidance data is transmitted to the second application program, and the second application program performs the next operation data. Add a "Trigger to operate" step.

選択可能に、「操作ガイダンスデータをユーザに提供する」ステップを、「操作ガイダンスデータを表示するステップ、及び/又は、操作ガイダンスデータの音声情報を再生するステップ」に細分化することにより、提供コンテンツが簡略化され、ユーザがより受け入れやすくなる。 The content provided by subdividing the step of "providing the operation guidance data to the user" into "the step of displaying the operation guidance data and / or the step of reproducing the voice information of the operation guidance data" so as to be selectable. Is simplified and more acceptable to users.

図4に示すアプリケーションプログラムの操作ガイダンス方法は、以下のステップS410〜ステップS460を含む。 The operation guidance method of the application program shown in FIG. 4 includes the following steps S410 to S460.

S410において、第1のアプリケーションプログラムから送信された、操作ガイダンスデータ、各操作ガイダンスデータに対応する初期ユーザインテント、及び各操作ガイダンスデータに対応する次の操作データを受信する。 In S410, the operation guidance data, the initial user intent corresponding to each operation guidance data, and the next operation data corresponding to each operation guidance data, which are transmitted from the first application program, are received.

第1のアプリケーションプログラムは、操作ガイダンスデータを初期ユーザインテント及び次の操作データとともに送信することができ、本ステップに示すようにそれぞれ送信することもできる。具体的には、音声情報とマッチングするターゲット操作ガイダンスデータを決定する前に、各操作ガイダンスデータに対応する初期ユーザインテント及び次の操作データを送信することにより、音声サービスアプリケーションプログラムは、音声情報とマッチングするターゲット操作ガイダンスデータを決定する前に初期ユーザインテント及び次の操作データを受信することができる。 The first application program can transmit the operation guidance data together with the initial user intent and the next operation data, and can also transmit each as shown in this step. Specifically, by transmitting the initial user intent corresponding to each operation guidance data and the next operation data before determining the target operation guidance data to be matched with the voice information, the voice service application program can perform the voice information. The initial user intent and the next operation data can be received before determining the target operation guidance data to match with.

各操作ガイダンスデータに対応する初期ユーザインテントは、第1のアプリケーションプログラムが操作ガイダンスデータに対してインテント分析を実行して得られたものであり、第1のアプリケーションプログラムが思った、ユーザが操作ガイダンスデータに対応する次の操作を行うときの可能なユーザインテントである。例えば、操作ガイダンスデータが人民公園の駐車場に行くことである場合、その対応する初期ユーザインテントはナビゲーションである。また、例えば、操作ガイダンスデータが歌手Aの歌である場合、そのに対応する初期ユーザインテントは音楽を聴くことである。 The initial user intent corresponding to each operation guidance data is obtained by the first application program performing intent analysis on the operation guidance data, and the user thinks that the first application program This is a possible user intent when performing the next operation corresponding to the operation guidance data. For example, if the operational guidance data is to go to a parking lot in People's Park, the corresponding initial user intent is navigation. Further, for example, when the operation guidance data is the song of the singer A, the initial user intent corresponding to the song is listening to music.

なお、第1のアプリケーションプログラムが初期ユーザインテントを満たすことができない場合、例えば、ナビゲーション及び音楽再生機能を具備しない場合、初期ユーザインテントを音声サービスアプリケーションプログラムに送信する。第1のアプリケーションプログラムが初期ユーザインテントを満たすことができる場合、第1のアプリケーションプログラムに送信する必要はなく、ターゲット操作ガイダンスデータを受信した後、本アプリケーションプログラムの関連機能により初期ユーザインテントを満たすことができる。これからわかるように、第1のアプリケーションプログラムから送信された初期ユーザインテントを受信した場合、初期ユーザインテントを満たすことができる機能サポートを外部から提供することが必要であることを意味する。 If the first application program cannot satisfy the initial user intent, for example, if it does not have the navigation and music playback functions, the initial user intent is transmitted to the voice service application program. If the first application program can satisfy the initial user intent, it is not necessary to send it to the first application program, and after receiving the target operation guidance data, the initial user intent is set by the related function of this application program. Can be met. As can be seen, when the initial user intent sent from the first application program is received, it means that it is necessary to provide functional support that can satisfy the initial user intent from the outside.

S420において、操作ガイダンスデータを表示し、及び/又は、操作ガイダンスデータの音声情報を再生する。 In S420, the operation guidance data is displayed and / or the voice information of the operation guidance data is reproduced.

選択可能に、スマートフォンや車載機器側の画面などの電子機器に操作ガイダンスデータをリスト形式で表示し、及び/又は操作ガイダンスデータを音声合成して音声情報を取得し、電子機器のプレーヤーで再生する。表示及び音声再生のの少なくとも1つにより操作ガイダンスデータをユーザに提供し、提供方法が多様であり、従来技術の数ページの操作ガイダンスページと比較して、本実施例では、次の操作のガイダンスデータのみを表示又は再生することで、提供コンテンツが簡略化され、ユーザがより受け入れやすくなる。 The operation guidance data is displayed in a list format on an electronic device such as a smartphone or the screen of an in-vehicle device so that it can be selected, and / or the operation guidance data is voice-synthesized to acquire voice information and played on the player of the electronic device. .. The operation guidance data is provided to the user by at least one of display and voice reproduction, and the method of providing the operation guidance data is various. Displaying or playing back only the data simplifies the content provided and makes it more acceptable to the user.

選択可能に、操作ガイダンスデータが多い場合、操作ガイダンスデータをページングで表示し、ページング表示モードは、操作ガイダンスデータのデータ量の増加に役立ち、ページング方式で1ページのデータ量が制限され、ページの簡潔さが確保される。 Selectable, when there is a lot of operation guidance data, the operation guidance data is displayed by paging, and the paging display mode helps to increase the data amount of the operation guidance data, the data amount of one page is limited by the paging method, and the page Conciseness is ensured.

S430において、ユーザから入力された音声情報を受信し、音声情報とマッチングするターゲット操作ガイダンスデータを決定する。 In S430, the voice information input from the user is received, and the target operation guidance data to be matched with the voice information is determined.

選択可能に、操作ガイダンスデータをページングで表示する場合、ユーザから入力された少なくとも1ラウンドの音声情報を受信し、各ラウンドの音声情報を認識し、ページ番号情報が認識された場合、ページ番号情報に対応する操作ガイダンスデータを表示し、ページ番号情報が認識されない場合、現在のページに表示されている操作ガイダンスデータから、音声情報とマッチングするターゲット操作ガイダンスデータを決定する。 Selectably, when displaying the operation guidance data by paging, it receives at least one round of voice information input from the user, recognizes the voice information of each round, and if the page number information is recognized, the page number information. If the page number information is not recognized, the target operation guidance data that matches the voice information is determined from the operation guidance data displayed on the current page.

ここで、ページ番号情報には、「前のページ」、「次のページ」、「Xページ目」が含まれる。ユーザは、少なくとも1ラウンドの音声情報を入力でき、例えば、「次のページ」を3ラウンド連続して入力する。ページ番号情報が認識された場合、ページ番号情報に対応する操作ガイダンスデータを電子機器の画面に表示する。ページ番号情報が認識されない場合、音声情報のキーワード認識を行い、音声情報のキーワードを取得し、現在のページに表示されている操作ガイダンスデータのキーワードと、音声情報のキーワードとを比較し、比較結果がマッチングするターゲット操作ガイダンスデータを取得する。本実施例では、ユーザは、音声でページ送りを制御でき、1ラウンドの操作ではマルチステップの音声入力操作を兼ねることができる。 Here, the page number information includes a "previous page", a "next page", and an "Xth page". The user can input at least one round of voice information, for example, inputting "next page" for three consecutive rounds. When the page number information is recognized, the operation guidance data corresponding to the page number information is displayed on the screen of the electronic device. If the page number information is not recognized, the voice information keyword is recognized, the voice information keyword is acquired, the operation guidance data keyword displayed on the current page is compared with the voice information keyword, and the comparison result is obtained. Gets the target operation guidance data that matches. In this embodiment, the user can control the page feed by voice, and the one-round operation can also serve as a multi-step voice input operation.

選択可能に、S420以降の設定時間、例えば、ユーザが入力した音声情報が2分間内に受信されない場合、いずれかの操作ガイダンスデータをターゲット操作ガイダンスデータとして使用するか、本回の操作を終了してもよい。 Selectably, if the set time after S420, for example, the voice information input by the user is not received within 2 minutes, one of the operation guidance data is used as the target operation guidance data, or the current operation is terminated. You may.

S440において、アプリケーションプログラムのセットから、ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定する。 In S440, a second application program that satisfies the initial user intent corresponding to the target operation guidance data is determined from the set of application programs.

電子機器には、第1のアプリケーションプログラム及び音声サービスアプリケーションプログラム以外の複数のアプリケーションプログラムもインストールされて、アプリケーションプログラムのセットを構成する。アプリケーションプログラムセット内のアプリケーションプログラムは、初期ユーザインテントを満たすことができる。 A plurality of application programs other than the first application program and the voice service application program are also installed in the electronic device to form a set of application programs. The application programs in the application program set can satisfy the initial user intent.

選択可能に、初期ユーザインテントと、初期ユーザインテントを満たすことができるアプリケーションプログラムとの対応関係を事前に確立し、例えば、ナビゲーションとマップアプリケーションプログラムとの対応関係を事前に確立し、リスニングミュージックと音楽アプリケーションプログラムとの対応関係を事前に確立する。ターゲット操作ガイダンスデータに対応する初期ユーザインテントを決定した後、対応関係に基づいて、決定された初期ユーザインテントに対応するアプリケーションプログラムを選択し、第1のアプリケーションプログラムと区別するために第2のアプリケーションプログラムと言う。 Selectably, the correspondence between the initial user intent and the application program that can satisfy the initial user intent is established in advance, for example, the correspondence between the navigation and the map application program is established in advance, and listening music. And establish the correspondence between the music application program and the music application program in advance. After determining the initial user intent corresponding to the target operation guidance data, the application program corresponding to the determined initial user intent is selected based on the correspondence, and the second application program is distinguished from the first application program. It is called an application program.

S450において、ターゲット操作ガイダンスデータに対応する次の操作データを第2のアプリケーションプログラムに送信し、第2のアプリケーションプログラムが次の操作データを操作するようにトリガーする。 In S450, the next operation data corresponding to the target operation guidance data is transmitted to the second application program, and the second application program triggers to operate the next operation data.

選択可能に、該アプリケーションプログラムは、同様にモバイル開発プラットフォームにもアクセスし、音声サービスアプリケーションプログラムによって制御することができる。具体的には、音声サービスアプリケーションプログラムは、ターゲット操作ガイダンスデータに対応する操作命令及びパラメータを第2のアプリケーションプログラムに送信し、例えば、「人民公園の駐車場に行く」の操作命令はナビゲーションであり、パラメータは現在の位置、及び目的地である人民公園の駐車場である。さらに、音声サービスアプリケーションプログラムは、第2のアプリケーションプログラムが操作命令及びパラメータを操作するようにトリガーし、例えば、第2のアプリケーションプログラムは人民公園の駐車場に自動的にナビゲートする。 Optionally, the application program can also access the mobile development platform and be controlled by the voice service application program. Specifically, the voice service application program sends operation instructions and parameters corresponding to the target operation guidance data to the second application program, for example, the operation instruction of "going to the parking lot of the People's Park" is navigation. , Parameters are the current location, and the parking lot of the People's Park, which is the destination. In addition, the voice service application program triggers the second application program to manipulate the operating instructions and parameters, for example, the second application program automatically navigates to the parking lot of the People's Park.

初期ユーザインテントの精度を優先することを考慮し、選択可能に、音声情報のインテント認識を行い、明確なユーザインテントを取得し、明確なユーザインテントが、ターゲット操作ガイダンスデータに対応する初期ユーザインテントとマッチングする場合、初期ユーザインテントを満たす第2のアプリケーションプログラムを決定する。具体的には、音声情報のテキストをインテント認識モデルに入力し、インテント認識モデルによって出力されたユーザインテントを取得し、初期ユーザインテントの命名と区別するために明確なユーザインテントと言う。明確なユーザインテントの精度が高いため、音声情報のインテント認識を行って明確なユーザインテントを再び取得し、音声情報の明確なユーザインテントが、ターゲット操作ガイダンスデータに対応する初期ユーザインテントとマッチングする場合、ユーザが確かに該インテントを持っていることを意味し、これにより、初期ユーザインテント及び第2のアプリケーションプログラムの決定精度が向上する。 Considering that priority is given to the accuracy of the initial user intent, intent recognition of voice information is performed, a clear user intent is acquired, and the clear user intent corresponds to the target operation guidance data. When matching with the initial user intent, a second application program that satisfies the initial user intent is determined. Specifically, the text of the voice information is input to the intent recognition model, the user intent output by the intent recognition model is acquired, and a clear user intent is used to distinguish it from the initial user intent naming. To tell. Since the accuracy of the clear user intent is high, the intent of the voice information is recognized and the clear user intent is acquired again, and the user intent with the clear voice information corresponds to the target operation guidance data. When matching with a tent, it means that the user does have the intent, which improves the determination accuracy of the initial user intent and the second application program.

S460において、第1のアプリケーションプログラムがターゲット操作ガイダンスデータに従って次の操作を行うようにターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信する。 In S460, the target operation guidance data is transmitted to the first application program so that the first application program performs the next operation according to the target operation guidance data.

なお、S460と並行してS440〜S450を実行してもよく、S460を先に実行してからS440〜S450を実行してもよい。 In addition, S440 to S450 may be executed in parallel with S460, or S460 may be executed first, and then S440 to S450 may be executed.

本実施例では、第1のアプリケーションプログラムは、操作ガイダンスデータの初期ユーザインテント及び次の操作データを提供し、初期ユーザインテントを満たす第2のアプリケーションプログラムを決定することにより、次の操作データを第2のアプリケーションプログラムに送信し、第2のアプリケーションプログラムが次の操作データを操作するように自動的にトリガーして、ユーザインテントを実現する。本実施例では、第1のアプリケーションプログラムで操作ガイダンスを行うだけでなく、第2のアプリケーションプログラムを自動的にトリガーしてユーザインテントを実現することもできる。 In this embodiment, the first application program provides the initial user intent of the operation guidance data and the next operation data, and by determining the second application program that satisfies the initial user intent, the next operation data. Is sent to the second application program, and the second application program automatically triggers to operate the next operation data to realize the user intent. In this embodiment, not only the operation guidance is given by the first application program, but also the user intent can be realized by automatically triggering the second application program.

[実施例5]
図5は、本願の実施例5に係るアプリケーションプログラムの操作ガイダンス装置の構成図である。本願の実施例は、アプリケーションプログラムを逐次操作するようにユーザをガイダンスする場合に適する。該装置は、ソフトウェア及び/又はハードウェアで実現され、具体的には、一定のデータコンピューティング機能を備えた電子機器に配置される。
[Example 5]
FIG. 5 is a configuration diagram of an operation guidance device for the application program according to the fifth embodiment of the present application. The embodiments of the present application are suitable for instructing the user to operate the application program sequentially. The device is implemented in software and / or hardware and is specifically located in an electronic device with certain data computing capabilities.

図5に示すアプリケーションプログラムの操作ガイダンス装置500は、受信モジュール501、提供モジュール502、決定モジュール503及び送信モジュール504を含む。 The application program operation guidance device 500 shown in FIG. 5 includes a receiving module 501, a providing module 502, a determination module 503, and a transmitting module 504.

受信モジュール501は、第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するように構成され、操作ガイダンスデータは、ユーザの現在の操作に基づいて第1のアプリケーションプログラムによって得られた次の操作のガイダンスデータである。 The receiving module 501 is configured to receive the operation guidance data transmitted from the first application program, and the operation guidance data is the next operation obtained by the first application program based on the user's current operation. Guidance data.

提供モジュール502は、操作ガイダンスデータをユーザに提供するように構成される。 The provision module 502 is configured to provide operation guidance data to the user.

決定モジュール503は、ユーザから入力された音声情報を受信し、音声情報とマッチングするターゲット操作ガイダンスデータを決定するように構成される。 The determination module 503 is configured to receive the voice information input from the user and determine the target operation guidance data to be matched with the voice information.

送信モジュール504は、第1のアプリケーションプログラムがターゲット操作ガイダンスデータに従って次の操作を行うように、ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信するように構成される。 The transmission module 504 is configured to transmit the target operation guidance data to the first application program so that the first application program performs the next operation according to the target operation guidance data.

本願の実施例では、第1のアプリケーションプログラムから送信されたユーザの次の操作の操作ガイダンスデータを受信し、ユーザが次の操作を知るように、該操作ガイダンスデータをユーザに提供し、ユーザは次の操作の音声情報を入力し、音声情報とマッチングするターゲット操作データを決定し、音声入力の方式により、ユーザの操作が便利になり、ユーザと音声サービスアプリケーションプログラムとの間のインタラクションエクスペリエンスが向上する。次に、ターゲット操作ガイダンスデータを第1のアプリケーションプログラムに送信し、第1のアプリケーションプログラムは、ターゲット操作ガイダンスデータに従って次の操作を行うことができる。本実施例に係る第1のアプリケーションプログラムには、音声認識機能が統合される必要がなく、即ち、第1のアプリケーションプログラムの内部実現ロジックを変更する必要がなく、操作ガイダンスデータを提供するだけで、次の操作を行うにユーザを能動的にガイダンスすることができ、第1のアプリケーションプログラムがマルチラウンド操作ガイダンスデータを提供するとき、ステップ順に逐次操作を行うようにユーザを能動的にガイダンスすることができ、効率的で便利なアクティブマルチラウンド操作ガイダンスを実現することができ、ユーザが覚える必要がないとともに、第1のアプリケーションプログラムがユーザの具体的な操作行動を取得すしやすくなり、ユーザの行動分析に役立つ。 In the embodiment of the present application, the operation guidance data of the next operation of the user transmitted from the first application program is received, and the operation guidance data is provided to the user so that the user knows the next operation. Input the voice information of the next operation, determine the target operation data to match with the voice information, and the voice input method makes the user's operation convenient and improves the interaction experience between the user and the voice service application program. do. Next, the target operation guidance data is transmitted to the first application program, and the first application program can perform the next operation according to the target operation guidance data. It is not necessary to integrate the voice recognition function into the first application program according to the present embodiment, that is, it is not necessary to change the internal realization logic of the first application program, and only the operation guidance data is provided. , Can actively guide the user to perform the next operation, and when the first application program provides multi-round operation guidance data, actively guide the user to perform sequential operations in step order. It is possible to realize efficient and convenient active multi-round operation guidance, it is not necessary for the user to remember, and it becomes easier for the first application program to acquire the specific operation behavior of the user, and the user's behavior. Useful for analysis.

さらに、操作ガイダンスデータの数は、少なくとも1つであり、該装置は、第1のアプリケーションプログラムから送信された各操作ガイダンスデータのキーワードを受信するように構成されるキーワード受信モジュールをさらに含む。決定モジュール503は、音声情報とマッチングするターゲット操作ガイダンスデータを決定するとき、具体的には、音声情報のキーワード認識を行い、音声情報のキーワードを取得し、各操作ガイダンスデータのキーワードと音声情報のキーワードとを比較し、比較結果がマッチングするターゲット操作ガイダンスデータを取得するように構成される。 Further, the number of operation guidance data is at least one, and the device further includes a keyword receiving module configured to receive keywords of each operation guidance data transmitted from the first application program. When the determination module 503 determines the target operation guidance data to be matched with the voice information, specifically, the determination module 503 recognizes the keyword of the voice information, acquires the keyword of the voice information, and sets the keyword of each operation guidance data and the voice information. It is configured to compare with keywords and acquire target operation guidance data that matches the comparison results.

さらに、受信モジュール501は、具体的には、第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すのを監視した場合、クロスプロセスアクセスインタフェースから操作ガイダンスデータを読み出すように構成され、ここで、第1のアプリケーションプログラムは、クロスプロセスアクセスインタフェースを呼び出すことにより、操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶する。送信モジュール504は、具体的には、第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すことによりターゲット操作ガイダンスデータを取得するように、クロスプロセスアクセスインタフェースを呼び出すことによりターゲット操作ガイダンスデータをクロスプロセスアクセスインタフェースに記憶するように構成される。 Further, the receiving module 501 is specifically configured to read operation guidance data from the cross-process access interface when it monitors the first application program to call the cross-process access interface. The application program of the above stores the operation guidance data in the cross-process access interface by calling the cross-process access interface. Specifically, the transmission module 504 cross-process access the target operation guidance data by calling the cross-process access interface, just as the first application program obtains the target operation guidance data by calling the cross-process access interface. It is configured to be stored in the interface.

さらに、該装置は、第1のアプリケーションプログラムから送信された、各操作ガイダンスデータに対応する初期ユーザインテント、及び各操作ガイダンスデータに対応する次の操作データを受信するように構成される初期ユーザインテント及び次の操作データ受信モジュールをさらに含む。該装置は、アプリケーションプログラム決定モジュール及びトリガーモジュールをさらに含む。アプリケーションプログラム決定モジュールは、アプリケーションプログラムのセットから、ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するように構成される。トリガーモジュールは、ターゲット操作ガイダンスデータに対応する次の操作データを第2のアプリケーションプログラムに送信し、第2のアプリケーションプログラムが次の操作データを操作するようにトリガーするように構成される。 Further, the device is configured to receive an initial user intent corresponding to each operation guidance data and the next operation data corresponding to each operation guidance data transmitted from the first application program. It further includes an intent and the following operation data receiving module. The device further includes an application program determination module and a trigger module. The application program determination module is configured to determine from a set of application programs a second application program that satisfies the initial user intent corresponding to the target operation guidance data. The trigger module is configured to send the next operation data corresponding to the target operation guidance data to the second application program and trigger the second application program to operate the next operation data.

さらに、アプリケーションプログラム決定モジュールは、具体的には、音声情報のインテント認識を行い、明確なユーザインテントを取得し、明確なユーザインテントが、ターゲット操作ガイダンスデータに対応する初期ユーザインテントとマッチングする場合、アプリケーションプログラムのセットから、初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するように構成される。 Furthermore, the application program determination module specifically recognizes the intent of voice information, acquires a clear user intent, and the clear user intent is the initial user intent corresponding to the target operation guidance data. When matching, it is configured to determine a second application program that satisfies the initial user intent from a set of application programs.

さらに、提供モジュール502は、具体的には、操作ガイダンスデータを表示し、及び/又は、操作ガイダンスデータの音声情報を再生するように構成される。提供モジュール502は、操作ガイダンスデータを表示するとき、具体的には、操作ガイダンスデータをページングで表示するように構成される。決定モジュール503は、具体的には、ユーザから入力された少なくとも1ラウンドの音声情報を受信し、各ラウンドの音声情報を認識し、ページ番号情報を認識した場合、ページ番号情報に対応する操作ガイダンスデータを表示し、ページ番号情報を認識しなかった場合、現在のページに表示されている操作ガイダンスデータから、音声情報とマッチングするターゲット操作ガイダンスデータを決定するように構成される。 Further, the providing module 502 is specifically configured to display the operation guidance data and / or to reproduce the voice information of the operation guidance data. When displaying the operation guidance data, the providing module 502 is specifically configured to display the operation guidance data by paging. Specifically, the determination module 503 receives at least one round of voice information input from the user, recognizes the voice information of each round, and when the page number information is recognized, the operation guidance corresponding to the page number information. When the data is displayed and the page number information is not recognized, the target operation guidance data to be matched with the voice information is determined from the operation guidance data displayed on the current page.

さらに、該装置は、第1のアプリケーションプログラムの署名を受信し、署名を検証し、検証合格の結果を取得するように構成される検証モジュールをさらに含む。送信モジュール504は、具体的には、ターゲット操作ガイダンスデータを暗号化して第1のアプリケーションプログラムに送信するように構成される。 Further, the device further includes a verification module configured to receive the signature of the first application program, verify the signature, and obtain the result of passing verification. Specifically, the transmission module 504 is configured to encrypt the target operation guidance data and transmit it to the first application program.

上記のアプリケーションプログラムの操作ガイダンス装置は、本願のいずれかの実施例に係るアプリケーションプログラムの操作ガイダンス方法を実行することができ、アプリケーションプログラムの操作ガイダンス方法を実行することに対応する機能モジュール及び有益な効果を有する。 The above-mentioned application program operation guidance device can execute the application program operation guidance method according to any embodiment of the present application, and is useful as a functional module corresponding to executing the application program operation guidance method. Has an effect.

[実施例6]
本願の実施例によれば、本願は、電子機器及び読み取り可能な記憶媒体をさらに提供する。
[Example 6]
According to the embodiments of the present application, the present application further provides electronic devices and readable storage media.

図6は、本願の実施例に係るアプリケーションプログラムの操作ガイダンス方法を実現する電子機器のブロック図である。電子機器は、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、メインフレームコンピュータ、及び他の適切なコンピュータなどの様々な形態のデジタルコンピュータを表すことを目的とする。電子機器は、パーソナルデジタルプロセッサ、携帯電話、スマートフォン、ウェアラブルデバイス、他の類似するコンピューティングデバイスなどの様々な形態のモバイル装置を表すこともできる。本明細書で示されるコンポーネント、それらの接続と関係、及びそれらの機能は単なる例であり、本明細書の説明及び/又は要求される本願の実現を制限することを意図したものではない。 FIG. 6 is a block diagram of an electronic device that realizes an operation guidance method for an application program according to an embodiment of the present application. Electronic devices are intended to represent various forms of digital computers such as laptop computers, desktop computers, workstations, personal digital assistants, servers, blade servers, mainframe computers, and other suitable computers. Electronic devices can also represent various forms of mobile devices such as personal digital processors, mobile phones, smartphones, wearable devices, and other similar computing devices. The components shown herein, their connections and relationships, and their functions are merely examples and are not intended to limit the description and / or the required realization of the present application.

図6に示すように、当該電子機器は、1つ又は複数のプロセッサ601と、メモリ602と、高速インタフェース及び低速インタフェースを含む各コンポーネントを接続するためのインタフェースと、を含む。各コンポーネントは、異なるバスで相互に接続され、共通のマザーボードに取り付けられるか、又は必要に応じて他の方式で取り付けることができる。プロセッサは、電子機器内で実行される命令を処理することができ、当該命令は、外部入力/出力装置(例えば、インタフェースに結合されたディスプレイデバイスなど)にGUIの図形情報をディスプレイするためにメモリ内又はメモリに記憶されている命令を含む。他の実施形態では、必要に応じて、複数のプロセッサ及び/又は複数のバスを、複数のメモリと一緒に使用することができる。同様に、複数の電子機器を接続することができ、各電子機器は、一部の必要な操作(例えば、サーバアレイ、1グループのブレードサーバ、又はマルチプロセッサシステムとする)を提供することができる。図6では、1つのプロセッサ601を例とする。 As shown in FIG. 6, the electronic device includes one or more processors 601 and memory 602, and an interface for connecting each component including a high-speed interface and a low-speed interface. The components are interconnected by different buses and can be mounted on a common motherboard or otherwise mounted as needed. The processor can process instructions executed within the electronic device, and the instructions are stored in memory to display GUI graphic information on an external input / output device (eg, a display device coupled to an interface). Contains instructions stored in or in memory. In other embodiments, a plurality of processors and / or a plurality of buses can be used together with a plurality of memories, if desired. Similarly, a plurality of electronic devices can be connected, and each electronic device can provide some necessary operations (for example, a server array, a group of blade servers, or a multiprocessor system). .. In FIG. 6, one processor 601 is taken as an example.

メモリ602は、本願に係る非一時的なコンピュータ読み取り可能な記憶媒体である。ここで、前記メモリには、少なくとも1つのプロセッサによって実行可能な命令が記憶され、前記少なくとも1つのプロセッサが本願に係るアプリケーションプログラムの操作ガイダンス方法を実行するようにする。本願の非一時的なコンピュータ読み取り可能な記憶媒体には、コンピュータに本願に係るアプリケーションプログラムの操作ガイダンス方法を実行させるためのコンピュータ命令が記憶されている。 The memory 602 is a non-temporary computer-readable storage medium according to the present application. Here, the memory stores instructions that can be executed by at least one processor, so that the at least one processor executes the operation guidance method of the application program according to the present application. The non-temporary computer-readable storage medium of the present application stores computer instructions for causing the computer to execute the operation guidance method of the application program according to the present application.

メモリ602は、非一時的なコンピュータ読み取り可能な記憶媒体として、本願の実施例におけるアプリケーションプログラムの操作ガイダンス方法に対応するプログラム命令/モジュール(例えば、図5に示す受信モジュール501、提供モジュール502、決定モジュール503及び送信モジュール504)のような、非一時的なソフトウェアプログラム、非一時的なコンピュータ実行可能なプログラム及びモジュールを記憶する。プロセッサ601は、メモリ602に記憶されている非一時的なソフトウェアプログラム、命令及びモジュールを実行することによって、サーバの様々な機能アプリケーション及びデータ処理を実行し、即ち上記の方法の実施例におけるアプリケーションプログラムの操作ガイダンス方法を実現する。 As a non-temporary computer-readable storage medium, the memory 602 is determined by a program instruction / module (for example, the receiving module 501 and the providing module 502 shown in FIG. 5) corresponding to the operation guidance method of the application program in the embodiment of the present application. Stores non-temporary software programs, non-temporary computer-executable programs and modules, such as module 503 and transmit module 504). The processor 601 executes various functional applications and data processing of the server by executing non-temporary software programs, instructions and modules stored in the memory 602, that is, the application program in the embodiment of the above method. Realize the operation guidance method of.

メモリ602は、プログラムストレージエリアとデータストレージエリアとを含むことができ、ここで、プログラムストレージエリアは、オペレーティングシステム、少なくとも1つの機能に必要なアプリケーションプログラムを記憶することができ、データストレージエリアは、アプリケーションプログラムの操作ガイダンス方法を実現する電子機器の使用によって作成されたデータなどを記憶することができる。また、メモリ602は、高速ランダムアクセスメモリを含むことができ、非一時的なメモリをさらに含むことができ、例えば、少なくとも1つの磁気ディスクストレージデバイス、フラッシュメモリデバイス、又は他の非一時的なソリッドステートストレージデバイスである。いくつかの実施例では、メモリ602は、プロセッサ601に対して遠隔に設定されたメモリを選択的に含むことができ、これらの遠隔メモリは、ネットワークを介してアプリケーションプログラムの操作ガイダンス方法を実行する電子機器に接続されることができる。上記のネットワークの例は、インターネット、イントラネット、ローカルエリアネットワーク、モバイル通信ネットワーク、及びその組み合わせを含むが、これらに限定されない。 The memory 602 can include a program storage area and a data storage area, where the program storage area can store an operating system, an application program required for at least one function, and the data storage area is a data storage area. It is possible to store data created by using an electronic device that realizes an operation guidance method for an application program. The memory 602 can also include fast random access memory and can further include non-temporary memory, eg, at least one magnetic disk storage device, flash memory device, or other non-temporary solid state. It is a state storage device. In some embodiments, the memory 602 can selectively include memory configured remotely with respect to the processor 601 and these remote memories perform operational guidance methods of the application program over the network. Can be connected to electronic devices. Examples of the above networks include, but are not limited to, the Internet, intranets, local area networks, mobile communication networks, and combinations thereof.


アプリケーションプログラムの操作ガイダンス方法を実行する電子機器は、入力装置603と出力装置604とをさらに含むことができる。プロセッサ601、メモリ602、入力装置603、及び出力装置604は、バス又は他の方式を介して接続することができ、図6では、バスを介して接続することを例とする。

The electronic device that executes the operation guidance method of the application program can further include an input device 603 and an output device 604. The processor 601, the memory 602, the input device 603, and the output device 604 can be connected via a bus or other method, and in FIG. 6, the connection via the bus is taken as an example.

入力装置603は、入力された数字又は文字情報を受信し、アプリケーションプログラムの操作ガイダンス方法を実行する電子機器のユーザ設定及び機能制御に関するキー信号入力を生成することができ、例えば、タッチスクリーン、キーパッド、マウス、トラックパッド、タッチパッド、ポインティングスティック、1つ又は複数のマウスボタン、トラックボール、ジョイスティックなどの入力装置である。出力装置604は、ディスプレイデバイス、補助照明装置(例えば、LED)、及び触覚フィードバックデバイス(例えば、振動モータ)などを含むことができる。当該ディスプレイデバイスは、液晶ディスプレイ(LCD)、発光ダイオード(LED)ディスプレイ、及びプラズマディスプレイを含むことができるが、これらに限定されない。いくつかの実施形態で、ディスプレイデバイスは、タッチスクリーンであってもよい。 The input device 603 can receive the input numerical or character information and generate a key signal input relating to user setting and function control of an electronic device that executes an operation guidance method of an application program, for example, a touch screen, a key. Input devices such as pads, mice, trackpads, touchpads, pointing sticks, one or more mouse buttons, trackballs, joysticks, and the like. The output device 604 can include a display device, an auxiliary lighting device (eg, LED), a tactile feedback device (eg, a vibration motor), and the like. The display device can include, but is not limited to, a liquid crystal display (LCD), a light emitting diode (LED) display, and a plasma display. In some embodiments, the display device may be a touch screen.

本明細書で説明されるシステムと技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、特定用途向けASIC(特定用途向け集積回路)、コンピュータハードウェア、ファームウェア、ソフトウェア、及び/又はそれらの組み合わせで実現することができる。これらの様々な実施形態は、1つ又は複数のコンピュータプログラムで実施され、当該1つ又は複数のコンピュータプログラムは、少なくとも1つのプログラマブルプロセッサを含むプログラム可能なシステムで実行及び/又は解釈されることができ、当該プログラマブルプロセッサは、専用又は汎用のプログラマブルプロセッサであってもよく、ストレージシステム、少なくとも1つの入力装置、及び少なくとも1つの出力装置からデータ及び命令を受信し、データ及び命令を当該ストレージシステム、当該少なくとも1つの入力装置、及び当該少なくとも1つの出力装置に伝送することができる。 Various embodiments of the systems and techniques described herein include digital electronic circuit systems, integrated circuit systems, application specific ASICs (ASICs), computer hardware, firmware, software, and / or them. It can be realized by the combination of. These various embodiments may be implemented in one or more computer programs, the one or more computer programs being executed and / or interpreted in a programmable system including at least one programmable processor. The programmable processor may be a dedicated or general purpose programmable processor, receiving data and instructions from a storage system, at least one input device, and at least one output device, and delivering the data and instructions to the storage system. It can be transmitted to the at least one input device and the at least one output device.

これらのコンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、又はコードとも呼ばれる)には、プログラマブルプロセッサの機械命令が含まれ、高レベルのプロセス及び/又はオブジェクト指向のプログラミング言語、及び/又はアセンブリ/機械言語でこれらのコンピュータプログラムを実施することができる。本明細書に使用されるような、「機械読み取り可能な媒体」及び「コンピュータ読み取り可能な媒体」という用語は、機械命令及び/又はデータをプログラマブルプロセッサに提供するための任意のコンピュータプログラム製品、機器、及び/又は装置(例えば、磁気ディスク、光ディスク、メモリ、プログラマブルロジック機器(PLD))を指し、機械読み取り可能な信号である機械命令を受信するための機械読み取り可能な媒体を含む。「機械読み取り可能な信号」という用語は、プログラマブルプロセッサに機械命令及び/又はデータを提供するための任意の信号を指す。 These computer programs (also called programs, software, software applications, or code) include programmable processor machine instructions in high-level process and / or object-oriented programming languages and / or assembly / machine languages. These computer programs can be implemented. As used herein, the terms "machine readable medium" and "computer readable medium" are any computer program products, devices for providing machine instructions and / or data to programmable processors. And / or devices (eg, magnetic disks, optical disks, memory, programmable logic equipment (PLD)), including machine-readable media for receiving machine instructions, which are machine-readable signals. The term "machine readable signal" refers to any signal for providing machine instructions and / or data to a programmable processor.

ユーザとのインタラクションを提供するために、コンピュータ上で、ここで説明されているシステム及び技術を実施することができ、当該コンピュータは、ユーザに情報を表示するためのディスプレイ装置(例えば、CRT(陰極線管)又はLCD(液晶ディスプレイ)モニタ)と、キーボード及びポインティングデバイス(例えば、マウス又はトラックボール)とを有し、ユーザは、当該キーボード及び当該ポインティングデバイスによって入力をコンピュータに提供することができる。他の種類の装置も、ユーザとのインタラクションを提供することができ、例えば、ユーザに提供されるフィードバックは、任意の形態のセンシングフィードバック(例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバック)であってもよく、任意の形態(音響入力と、音声入力と、触覚入力とを含む)でユーザからの入力を受信することができる。 In order to provide interaction with the user, the systems and techniques described herein can be implemented on the computer, which computer is a display device for displaying information to the user (eg, CRT). It has a tube) or LCD (liquid crystal display) monitor) and a keyboard and pointing device (eg, mouse or trackball), and the user can provide input to the computer by the keyboard and the pointing device. Other types of devices can also provide interaction with the user, eg, the feedback provided to the user is any form of sensing feedback (eg, visual feedback, auditory feedback, or tactile feedback). It is also possible to receive input from the user in any form (including acoustic input, voice input, and tactile input).

ここで説明されるシステム及び技術は、バックエンドコンポーネントを含むコンピューティングシステム(例えば、データサーバとする)、又はミドルウェアコンポーネントを含むコンピューティングシステム(例えば、アプリケーションサーバ)、又はフロントエンドコンポーネントを含むコンピューティングシステム(例えば、グラフィカルユーザインタフェース又はウェブブラウザを有するユーザコンピュータであり、ユーザは、当該グラフィカルユーザインタフェース又は当該ウェブブラウザによってここで説明されるシステム及び技術の実施形態とインタラクションする)、又はこのようなバックエンドコンポーネントと、ミドルウェアコンポーネントと、フロントエンドコンポーネントの任意の組み合わせを含むコンピューティングシステムで実施することができる。任意の形態又は媒体のデジタルデータ通信(例えば、通信ネットワーク)によってシステムのコンポーネントを相互に接続することができる。通信ネットワークの例は、ローカルエリアネットワーク(LAN)と、ワイドエリアネットワーク(WAN)と、インターネットと、ブロックチェーンネットワークとを含む。 The systems and techniques described herein are computing systems that include back-end components (eg, data servers), or computing systems that include middleware components (eg, application servers), or computing that includes front-end components. A system (eg, a user computer having a graphical user interface or web browser, in which the user interacts with embodiments of the system and technology described herein by the graphical user interface or web browser), or such back. It can be implemented in computing systems that include any combination of end components, middleware components, and front end components. The components of the system can be interconnected by digital data communication of any form or medium (eg, a communication network). Examples of communication networks include local area networks (LANs), wide area networks (WANs), the Internet, and blockchain networks.

コンピュータシステムは、クライアントとサーバとを含むことができる。クライアントとサーバは、一般に、互いに離れており、通常に通信ネットワークを介してインタラクションする。対応するコンピュータ上で実行され、かつ互いにクライアント−サーバの関係を有するコンピュータプログラムによって、クライアントとサーバとの関係が生成される。 A computer system can include a client and a server. Clients and servers are generally separated from each other and typically interact over a communication network. A client-server relationship is created by a computer program that runs on the corresponding computer and has a client-server relationship with each other.

上記に示される様々な形態のフローを使用して、ステップを並べ替え、追加、又は削除することができる。例えば、本願に記載されている各ステップは、並列に実行されてもよいし、順次的に実行されてもよいし、異なる順序で実行されてもよいが、本願で開示されている技術案が所望の結果を実現することができれば、本明細書では限定されない。 Steps can be rearranged, added, or deleted using the various forms of flow shown above. For example, each step described in the present application may be performed in parallel, sequentially, or in a different order, although the technical proposal disclosed in the present application is available. The present specification is not limited as long as the desired result can be achieved.

上記の具体的な実施形態は、本願の保護範囲を制限するものではない。当業者は、設計要件と他の要因に基づいて、様々な修正、組み合わせ、サブコンビネーション、及び置換を行うことができる。本願の精神と原則内で行われる任意の修正、同等の置換、及び改良などは、いずれも本願の保護範囲内に含まれるべきである。 The specific embodiments described above do not limit the scope of protection of the present application. One of ordinary skill in the art can make various modifications, combinations, subcombinations, and replacements based on design requirements and other factors. Any modifications, equivalent replacements, and improvements made within the spirit and principles of the present application should all be within the scope of protection of the present application.

Claims (12)

第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信し、前記操作ガイダンスデータは、ユーザの現在の操作に基づいて前記第1のアプリケーションプログラムによって得られた次の操作のガイダンスデータであるステップと、
前記操作ガイダンスデータを前記ユーザに提供するステップと、
前記ユーザから入力された音声情報を受信し、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップと、
前記第1のアプリケーションプログラムが前記ターゲット操作ガイダンスデータに従って次の操作を行うように、前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するステップと、を含む、
ことを特徴とするアプリケーションプログラムの操作ガイダンス方法。
The operation guidance data transmitted from the first application program is received, and the operation guidance data is a step that is guidance data for the next operation obtained by the first application program based on the current operation of the user. ,
A step of providing the operation guidance data to the user,
A step of receiving the voice information input from the user and determining the target operation guidance data to be matched with the voice information.
The first application program includes a step of transmitting the target operation guidance data to the first application program so that the first application program performs the next operation according to the target operation guidance data.
An operation guidance method for an application program.
前記操作ガイダンスデータの数は、少なくとも1つであり、
前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップの前に、
前記第1のアプリケーションプログラムから送信された各前記操作ガイダンスデータのキーワードを受信するステップをさらに含み、
前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップは、
前記音声情報のキーワード認識を行い、前記音声情報のキーワードを取得するステップと、
各前記操作ガイダンスデータのキーワードと前記音声情報のキーワードとを比較し、比較結果が一致するターゲット操作ガイダンスデータを取得するステップと、を含む、
ことを特徴とする請求項1に記載の方法。
The number of the operation guidance data is at least one.
Before the step of determining the target operation guidance data to be matched with the voice information,
The step of receiving the keyword of each operation guidance data transmitted from the first application program is further included.
The step of determining the target operation guidance data to be matched with the voice information is
The step of recognizing the keyword of the voice information and acquiring the keyword of the voice information,
Includes a step of comparing each keyword of the operation guidance data with the keyword of the voice information and acquiring target operation guidance data whose comparison results match.
The method according to claim 1.
第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するステップは、
前記第1のアプリケーションプログラムがクロスプロセスアクセスインタフェースを呼び出すのを監視した場合、前記クロスプロセスアクセスインタフェースから操作ガイダンスデータを読み出し、ここで、前記第1のアプリケーションプログラムは、前記クロスプロセスアクセスインタフェースを呼び出すことにより前記操作ガイダンスデータを前記クロスプロセスアクセスインタフェースに記憶するステップを含み、
前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するステップは、
前記第1のアプリケーションプログラムが前記クロスプロセスアクセスインタフェースを呼び出すことにより前記ターゲット操作ガイダンスデータを取得するように、前記クロスプロセスアクセスインタフェースを呼び出すことにより前記ターゲット操作ガイダンスデータを前記クロスプロセスアクセスインタフェースに記憶するステップを含む、
ことを特徴とする請求項1に記載の方法。
The step of receiving the operation guidance data transmitted from the first application program is
When the first application program is monitored to call the cross-process access interface, the operation guidance data is read from the cross-process access interface, and here, the first application program calls the cross-process access interface. Including the step of storing the operation guidance data in the cross-process access interface by
The step of transmitting the target operation guidance data to the first application program is
Just as the first application program acquires the target operation guidance data by calling the cross-process access interface, the target operation guidance data is stored in the cross-process access interface by calling the cross-process access interface. Including steps,
The method according to claim 1.
前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップの前に、
前記第1のアプリケーションプログラムから送信された、各前記操作ガイダンスデータに対応する初期ユーザインテント、及び各前記操作ガイダンスデータに対応する次の操作データを受信するステップをさらに含み、
前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップの後に、
アプリケーションプログラムのセットから、前記ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するステップと、
前記ターゲット操作ガイダンスデータに対応する次の操作データを前記第2のアプリケーションプログラムに送信し、前記第2のアプリケーションプログラムが前記次の操作データを操作するようにトリガーするステップと、をさらに含む、
ことを特徴とする請求項1に記載の方法。
Before the step of determining the target operation guidance data to be matched with the voice information,
Further including a step of receiving an initial user intent corresponding to each of the operation guidance data and the next operation data corresponding to each of the operation guidance data transmitted from the first application program.
After the step of determining the target operation guidance data to match the voice information,
From the set of application programs, a step of determining a second application program that satisfies the initial user intent corresponding to the target operation guidance data, and
Further including a step of transmitting the next operation data corresponding to the target operation guidance data to the second application program and triggering the second application program to operate the next operation data.
The method according to claim 1.
アプリケーションプログラムのセットから、前記ターゲット操作ガイダンスデータに対応する初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するステップは、
前記音声情報のインテント認識を行い、明確なユーザインテントを取得するステップと、
前記明確なユーザインテントが、前記ターゲット操作ガイダンスデータに対応する初期ユーザインテントとマッチングする場合、アプリケーションプログラムのセットから、前記初期ユーザインテントを満たす第2のアプリケーションプログラムを決定するステップと、を含む、
ことを特徴とする請求項4に記載の方法。
From the set of application programs, the step of determining a second application program that satisfies the initial user intent corresponding to the target operation guidance data is
The step of recognizing the intent of the voice information and acquiring a clear user intent,
When the clear user intent matches the initial user intent corresponding to the target operation guidance data, a step of determining a second application program satisfying the initial user intent from the set of application programs. include,
The method according to claim 4, wherein the method is characterized by the above.
前記操作ガイダンスデータを前記ユーザに提供するステップは、
前記操作ガイダンスデータを表示するステップ、及び/又は、
前記操作ガイダンスデータの音声情報を再生するステップを含む、
ことを特徴とする請求項1に記載の方法。
The step of providing the operation guidance data to the user is
Steps to display the operation guidance data and / or
Including the step of reproducing the voice information of the operation guidance data.
The method according to claim 1.
前記操作ガイダンスデータを表示するステップは、
前記操作ガイダンスデータをページングで表示するステップを含み、
前記ユーザから入力された音声情報を受信し、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップは、
前記ユーザから入力された少なくとも1ラウンドの音声情報を受信し、各ラウンドの前記音声情報を認識するステップと、
ページ番号情報が認識された場合、前記ページ番号情報に対応する操作ガイダンスデータを表示するステップと、
ページ番号情報が認識されなかった場合、現在のページに表示されている操作ガイダンスデータから、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するステップと、を含む、
ことを特徴とする請求項6に記載の方法。
The step of displaying the operation guidance data is
Including the step of displaying the operation guidance data by paging.
The step of receiving the voice information input from the user and determining the target operation guidance data to be matched with the voice information is
A step of receiving at least one round of voice information input from the user and recognizing the voice information of each round,
When the page number information is recognized, the step of displaying the operation guidance data corresponding to the page number information and
When the page number information is not recognized, the step of determining the target operation guidance data matching with the voice information from the operation guidance data displayed on the current page is included.
The method according to claim 6, wherein the method is characterized by the above.
第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するステップの前に、
前記第1のアプリケーションプログラムの署名を受信するステップと、
前記署名を検証し、検証合格の結果を取得するステップと、をさらに含み、
前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するステップは、
前記ターゲット操作ガイダンスデータを暗号化して前記第1のアプリケーションプログラムに送信するステップを含む、
ことを特徴とする請求項1〜7のいずれか一項に記載の方法。
Before the step of receiving the operation guidance data sent from the first application program,
The step of receiving the signature of the first application program,
Further including the step of verifying the signature and obtaining the result of passing the verification.
The step of transmitting the target operation guidance data to the first application program is
Including the step of encrypting the target operation guidance data and transmitting it to the first application program.
The method according to any one of claims 1 to 7, wherein the method is characterized by the above.
第1のアプリケーションプログラムから送信された操作ガイダンスデータを受信するように構成される受信モジュールであって、前記操作ガイダンスデータは、ユーザの現在の操作に基づいて前記第1のアプリケーションプログラムによって得られた次の操作のガイダンスデータである受信モジュールと、
前記操作ガイダンスデータを前記ユーザに提供するように構成される提供モジュールと、
前記ユーザから入力された音声情報を受信し、前記音声情報とマッチングするターゲット操作ガイダンスデータを決定するように構成される決定モジュールと、
前記第1のアプリケーションプログラムが前記ターゲット操作ガイダンスデータに従って次の操作を行うように、前記ターゲット操作ガイダンスデータを前記第1のアプリケーションプログラムに送信するように構成される送信モジュールと、を含む、
ことを特徴とするアプリケーションプログラムの操作ガイダンス装置。
A receiving module configured to receive operation guidance data transmitted from the first application program, wherein the operation guidance data is obtained by the first application program based on the user's current operation. The receiving module, which is the guidance data for the next operation,
A providing module configured to provide the operation guidance data to the user,
A determination module configured to receive voice information input from the user and determine target operation guidance data to be matched with the voice information.
A transmission module configured to transmit the target operation guidance data to the first application program so that the first application program performs the next operation according to the target operation guidance data.
An operation guidance device for application programs.
少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信接続されるメモリと、を含み、
前記メモリには前記少なくとも1つのプロセッサによって実行可能な命令が記憶され、前記命令が前記少なくとも1つのプロセッサによって実行される場合、前記少なくとも1つのプロセッサが請求項1〜8のいずれか一項に記載のアプリケーションプログラムの操作ガイダンス方法を実行できる、
ことを特徴とする電子機器。
With at least one processor
Includes a memory communicatively connected to the at least one processor.
The memory stores an instruction that can be executed by the at least one processor, and when the instruction is executed by the at least one processor, the at least one processor is described in any one of claims 1 to 8. Can execute the operation guidance method of the application program of
An electronic device characterized by that.
コンピュータ命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体であって、
前記コンピュータ命令は、前記コンピュータに請求項1〜8のいずれか一項に記載のアプリケーションプログラムの操作ガイダンス方法を実行させる、
ことを特徴とする非一時的なコンピュータ読み取り可能な記憶媒体。
A non-temporary computer-readable storage medium that stores computer instructions.
The computer instruction causes the computer to execute the operation guidance method of the application program according to any one of claims 1 to 8.
A non-temporary computer-readable storage medium characterized by that.
コンピュータに請求項1〜8のいずれか一項に記載のアプリケーションプログラムの操作ガイダンス方法を実行させる、
ことを特徴とするコンピュータプログラム。
Cause the computer to execute the operation guidance method of the application program according to any one of claims 1 to 8.
A computer program characterized by that.
JP2021086184A 2020-05-21 2021-05-21 Application program operation guidance methods, devices, equipment and readable storage media Active JP7381518B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010437003.7 2020-05-21
CN202010437003.7A CN111638928B (en) 2020-05-21 2020-05-21 Operation guiding method, device and equipment of application program and readable storage medium

Publications (2)

Publication Number Publication Date
JP2021121969A true JP2021121969A (en) 2021-08-26
JP7381518B2 JP7381518B2 (en) 2023-11-15

Family

ID=72333019

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021086184A Active JP7381518B2 (en) 2020-05-21 2021-05-21 Application program operation guidance methods, devices, equipment and readable storage media

Country Status (3)

Country Link
JP (1) JP7381518B2 (en)
KR (1) KR20210068333A (en)
CN (1) CN111638928B (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112347459A (en) * 2020-10-23 2021-02-09 上汽通用五菱汽车股份有限公司 ADAS function activation method, intelligent vehicle and computer storage medium
CN112885361A (en) * 2021-03-01 2021-06-01 长沙克莱自动化设备有限公司 Voice control method, device, electronic equipment and storage medium
CN113485779A (en) * 2021-07-19 2021-10-08 维沃移动通信有限公司 Operation guiding method and device for application program
CN114385053A (en) * 2022-01-18 2022-04-22 阿里巴巴(中国)有限公司 Interaction processing method and device, electronic equipment and computer storage medium
CN114489907B (en) * 2022-01-29 2024-03-12 国泰新点软件股份有限公司 System operation guiding method, device and storage medium
CN115220851B (en) * 2022-09-09 2023-07-21 荣耀终端有限公司 Operation guidance method, electronic device and readable storage medium

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003091412A (en) * 2001-09-18 2003-03-28 Hcx:Kk Document processor and document processing method
JP2007226793A (en) * 2007-02-16 2007-09-06 Mitsubishi Electric Corp Onboard multimedia unit

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140089861A (en) 2013-01-07 2014-07-16 삼성전자주식회사 display apparatus and method for controlling the display apparatus
US9524147B2 (en) * 2013-05-10 2016-12-20 Sap Se Entity-based cross-application navigation
US10176336B2 (en) * 2015-07-27 2019-01-08 Microsoft Technology Licensing, Llc Automated data transfer from mobile application silos to authorized third-party applications
CN108287739A (en) * 2017-12-19 2018-07-17 维沃移动通信有限公司 A kind of guiding method of operating and mobile terminal
CN108769725B (en) * 2018-06-07 2020-11-03 广州虎牙信息科技有限公司 Live broadcast application program starting method and device, storage medium and computer equipment
CN109657236B (en) * 2018-12-07 2022-02-18 腾讯科技(深圳)有限公司 Guidance information acquisition method, apparatus, electronic apparatus, and storage medium
CN110069177A (en) * 2019-03-13 2019-07-30 平安普惠企业管理有限公司 Electronic device, application program guiding method of operating and storage medium
CN110334352B (en) * 2019-07-08 2023-07-07 腾讯科技(深圳)有限公司 Guide information display method, device, terminal and storage medium
CN110459222A (en) * 2019-09-06 2019-11-15 Oppo广东移动通信有限公司 Sound control method, phonetic controller and terminal device
CN110647305B (en) * 2019-09-29 2023-10-31 阿波罗智联(北京)科技有限公司 Voice interaction method, device, equipment and medium of application program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003091412A (en) * 2001-09-18 2003-03-28 Hcx:Kk Document processor and document processing method
JP2007226793A (en) * 2007-02-16 2007-09-06 Mitsubishi Electric Corp Onboard multimedia unit

Also Published As

Publication number Publication date
CN111638928B (en) 2023-09-01
JP7381518B2 (en) 2023-11-15
CN111638928A (en) 2020-09-08
KR20210068333A (en) 2021-06-09

Similar Documents

Publication Publication Date Title
JP2021121969A (en) Application program operation guidance method, device, apparatus, and readable storage medium
JP7083270B2 (en) Management layer for multiple intelligent personal assistant services
KR102563314B1 (en) Electronic Device and the Method for Generating Short cut of Quick Command
CN107209781B (en) Contextual search using natural language
TWI511125B (en) Voice control method, mobile terminal apparatus and voice controlsystem
CN107464561B (en) Voice action discoverability system
US10115396B2 (en) Content streaming system
US11749276B2 (en) Voice assistant-enabled web application or web page
JP2020527753A (en) View-based voice interaction methods, devices, servers, terminals and media
US11675607B2 (en) Data transfers from memory to manage graphical output latency
US8340797B2 (en) Method and system for generating and processing digital content based on text-to-speech conversion
JP2022547598A (en) Techniques for interactive processing using contextual data
JP2021056986A (en) Voice control method, voice control device, electronic device, and readable storge medium
WO2024037480A1 (en) Interaction method and apparatus, electronic device, and storage medium
JP6986590B2 (en) Voice skill creation method, voice skill creation device, electronic device and storage medium
JP2021056989A (en) Voice skill recommendation method, apparatus, device, and storage medium
US20210182030A1 (en) System and method applied to integrated development environment
KR102660922B1 (en) Management layer for multiple intelligent personal assistant services
US20220343950A1 (en) Programmatically controlling media content navigation based on corresponding textual content
CN114564403A (en) Information display method and computing equipment
CN114564401A (en) Remote control method and computing device
CN117806746A (en) Display equipment and audio playing interface display method
CN114328272A (en) Application testing method, device and system and electronic equipment
KR20210038277A (en) Speech control method and apparatus, electronic device, and readable storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210521

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20211101

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220913

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220916

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221212

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230814

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20230824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231024

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231102

R150 Certificate of patent or registration of utility model

Ref document number: 7381518

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150