JP2021105796A

JP2021105796A - Artificial intelligence system

Info

Publication number: JP2021105796A
Application number: JP2019236232A
Authority: JP
Inventors: 貴司西脇; Takashi Nishiwaki; 淳也遊佐; Junya Yusa; 高貴土肥; Koki Doi; 智章片田; Tomoaki Katada
Original assignee: Panasonic Intellectual Property Management Co Ltd
Current assignee: Panasonic Intellectual Property Management Co Ltd
Priority date: 2019-12-26
Filing date: 2019-12-26
Publication date: 2021-07-26

Abstract

To provide an artificial intelligence system capable of improving security of information of a user.SOLUTION: An artificial intelligence system is an artificial intelligence system that performs machine learning on the basis of information of a user. The artificial intelligence system includes: a first artificial intelligence unit that acquires information of the user in a non-secure environment that is accessible from an outside of the artificial intelligence system and outputs learning results based on the information of the user to the external part; and a second artificial intelligence unit that acquires the information of the user from the first artificial intelligence unit and accumulates data relevant to the information of the user in a secure environment that is inaccessible from the outside. The first artificial intelligence unit is configured so as to, when a piece of information of the user acquired from the outside is handed over to the second artificial intelligence unit, delete the user's information from the non-secure environment of the first artificial intelligence unit.SELECTED DRAWING: Figure 1

Description

本開示は、人工知能システムに関する。 The present disclosure relates to an artificial intelligence system.

従来、学習、推論、判断といった人間の持つ機能を有する人工知能システムが知られている。言語の理解、推論、問題解決等の知的行動を人間に代わって人工知能システムが行う場合、当該人工知能システムは、インターネット等を介して外部のリソースから情報を取得する必要がある。しかしながら、外部との間で情報を授受することに起因して、外部から不正に人工知能システムにアクセスされるおそれがあるので、ユーザの個人情報保護の観点から、外部から人工知能システムにアクセスされることを防ぐ必要がある。 Conventionally, an artificial intelligence system having human functions such as learning, reasoning, and judgment has been known. When an artificial intelligence system performs intellectual actions such as language understanding, reasoning, and problem solving on behalf of humans, the artificial intelligence system needs to acquire information from an external resource via the Internet or the like. However, since there is a risk of unauthorized access to the artificial intelligence system from the outside due to the exchange of information with the outside, the artificial intelligence system is accessed from the outside from the viewpoint of protecting the personal information of the user. You need to prevent that.

例えば、特許文献１には、オープンな環境における情報交換をアシストする、または、自律的に行う第１の人工知能モジュールと、情報交換に伴う処理をクローズドな環境で行う第２の人工知能モジュールとを有するシステムが開示されている。 For example, Patent Document 1 describes a first artificial intelligence module that assists or autonomously exchanges information in an open environment, and a second artificial intelligence module that performs processing associated with information exchange in a closed environment. The system with is disclosed.

国際公開第２０１８／００８６０５号International Publication No. 2018/008605

しかしながら、特許文献１に記載のシステムでは、第１の人工知能モジュールが外部からアクセス可能であるオープンな環境であるので、ユーザの個人情報が外部に漏洩する恐れがある。 However, in the system described in Patent Document 1, since the first artificial intelligence module is an open environment that can be accessed from the outside, there is a risk that the personal information of the user may be leaked to the outside.

本開示の目的は、ユーザの情報のセキュリティを向上させることが可能な人工知能システムを提供することである。 An object of the present disclosure is to provide an artificial intelligence system capable of improving the security of user information.

本開示に係る人工知能システムは、
ユーザの情報に基づいて機械学習を行う人工知能システムであって、
前記人工知能システムの外部からアクセス可能な非セキュア環境において、前記ユーザの情報を取得し、かつ、前記ユーザの情報に基づく学習結果を前記外部に出力する第１人工知能部と、
前記外部からアクセス不可能なセキュア環境において、前記ユーザの情報を前記第１人工知能部から取得して前記ユーザの情報に関するデータを蓄積する第２人工知能部と、
を備え、
前記第１人工知能部は、前記外部から取得した前記ユーザの情報を前記第２人工知能部に引き渡した場合、当該ユーザの情報を前記第１人工知能部にかかる前記非セキュア環境から削除する。 The artificial intelligence system according to this disclosure is
An artificial intelligence system that performs machine learning based on user information.
In a non-secure environment accessible from the outside of the artificial intelligence system, a first artificial intelligence unit that acquires the user's information and outputs a learning result based on the user's information to the outside.
In a secure environment inaccessible from the outside, a second artificial intelligence unit that acquires the user's information from the first artificial intelligence unit and accumulates data related to the user's information.
With
When the first artificial intelligence unit delivers the user's information acquired from the outside to the second artificial intelligence unit, the first artificial intelligence unit deletes the user's information from the non-secure environment related to the first artificial intelligence unit.

本開示によれば、ユーザの情報のセキュリティを向上させることができる。 According to the present disclosure, the security of user information can be improved.

本開示の実施の形態に係る人工知能システムを示す図である。It is a figure which shows the artificial intelligence system which concerns on embodiment of this disclosure. 変形例に係る人工知能システムを示す図である。It is a figure which shows the artificial intelligence system which concerns on the modification.

以下、本開示の実施の形態を図面に基づいて詳細に説明する。図１は、本開示の実施の形態に係る人工知能システム１を示す図である。 Hereinafter, embodiments of the present disclosure will be described in detail with reference to the drawings. FIG. 1 is a diagram showing an artificial intelligence system 1 according to an embodiment of the present disclosure.

図１に示すように、人工知能システム１は、例えば車両に組み込まれるコンピュータシステムであり、ＳｏＣ（System on Chip）に組み込まれるシステムである。人工知能システム１は、ユーザの情報に基づいて機械学習する機能を有し、ハードウェアプラットフォーム１０と、第１ＯＳ（Operating System）２０と、第２ＯＳ３０と、データ授受部４０と、第１人工知能部５０と、第２人工知能部６０とを備える。 As shown in FIG. 1, the artificial intelligence system 1 is, for example, a computer system incorporated in a vehicle and a system incorporated in a SoC (System on Chip). The artificial intelligence system 1 has a function of machine learning based on user information, and has a hardware platform 10, a first OS (Operating System) 20, a second OS 30, a data transfer unit 40, and a first artificial intelligence unit. 50 and a second artificial intelligence unit 60 are provided.

ハードウェアプラットフォーム１０は、図示しないＣＰＵ（Central Processing Unit）等を有するプロセッサユニットを含んでおり、複数のコンピュータプログラムの実行環境を提供する。複数のコンピュータプログラムの実行環境には、セキュア環境と非セキュア環境とが含まれる。 The hardware platform 10 includes a processor unit having a CPU (Central Processing Unit) or the like (not shown), and provides an execution environment for a plurality of computer programs. The execution environment of a plurality of computer programs includes a secure environment and a non-secure environment.

セキュア環境は、外部からアクセス不可能な環境であり、例えば、メモリに保安領域が設定され、その保安領域へのアクセスを禁止するプロセッサユニットの支援機能により実現される環境である。 The secure environment is an environment inaccessible from the outside, for example, an environment realized by a support function of a processor unit in which a security area is set in a memory and access to the security area is prohibited.

非セキュア環境は、外部からアクセス可能な環境であり、セキュア環境よりも保安レベルが低い環境である。非セキュア環境では、例えば、プロセッサユニットの支援機能によりメモリの保安領域へのアクセスが禁止される。 A non-secure environment is an environment that can be accessed from the outside and has a lower security level than a secure environment. In a non-secure environment, for example, the support function of the processor unit prohibits access to the security area of the memory.

ハードウェアプラットフォーム１０は、非セキュア記憶部１１とセキュア記憶部１２とを含む。非セキュア記憶部１１は、非セキュア環境で使用されるメモリである。セキュア記憶部１２は、セキュア環境で使用されるメモリである。 The hardware platform 10 includes a non-secure storage unit 11 and a secure storage unit 12. The non-secure storage unit 11 is a memory used in a non-secure environment. The secure storage unit 12 is a memory used in a secure environment.

また、ハードウェアプラットフォーム１０は、人工知能システム１の外部からユーザの情報等が入力され、かつ、人工知能システム１における学習結果を出力するための入出力部１３を有する。 Further, the hardware platform 10 has an input / output unit 13 for inputting user information and the like from the outside of the artificial intelligence system 1 and outputting the learning result in the artificial intelligence system 1.

第１ＯＳ２０は、非セキュア環境で稼働するＯＳである。第２ＯＳ３０は、セキュア環境で稼働するＯＳである。 The first OS 20 is an OS that operates in a non-secure environment. The second OS 30 is an OS that operates in a secure environment.

データ授受部４０は、１つのハードウェアプラットフォーム１０上において、第１ＯＳ２０および第２ＯＳ３０を切り替えて実行させる機能を有する。データ授受部４０は、いわゆるハイパーバイザーであり得る。データ授受部４０は、１つのハードウェアプラットフォーム１０上において複数のＯＳを仮想化し得る。データ授受部４０は、例えばプロセッサユニットがハードウェアとして持つ支援機構を用いて複数のＯＳを分離する。 The data transfer unit 40 has a function of switching and executing the first OS 20 and the second OS 30 on one hardware platform 10. The data transfer unit 40 can be a so-called hypervisor. The data transfer unit 40 can virtualize a plurality of OSs on one hardware platform 10. The data transfer unit 40 separates a plurality of OSs by using, for example, a support mechanism that the processor unit has as hardware.

データ授受部４０は、第１ＯＳ２０（第１人工知能部５０）と第２ＯＳ３０（第２人工知能部６０）との間で、人工知能システム１の外部に漏洩することなく、ユーザの個人情報に関するデータを授受させる構成を有する。データ授受部４０は、ハードウェアの仮想化技術を利用して第２ＯＳ３０（第２人工知能部６０）側への、外部からのアクセスを抑制する。 The data transfer unit 40 receives data on the user's personal information between the first OS 20 (first artificial intelligence unit 50) and the second OS 30 (second artificial intelligence unit 60) without leaking to the outside of the artificial intelligence system 1. Has a structure for giving and receiving. The data transfer unit 40 suppresses access from the outside to the second OS 30 (second artificial intelligence unit 60) side by using the hardware virtualization technology.

第１人工知能部５０は、第１ＯＳ２０上、つまり、非セキュア環境で動作するアプリケーション（例えば人工知能アプリケーション）であり、非セキュア学習部５１と、動作判定部５２とを有する。 The first artificial intelligence unit 50 is an application (for example, an artificial intelligence application) that operates on the first OS 20, that is, in a non-secure environment, and has a non-secure learning unit 51 and an operation determination unit 52.

非セキュア学習部５１は、入出力部１３を介して人工知能システム１の外部からの情報を取得し、当該情報に基づいて初期学習を行う。非セキュア学習部５１は、教師データを用いた初期学習を行うことにより、例えば基本的な意図推定、予測支援、タスクエージェント、自律学習等の機械学習処理を行うことができる。 The non-secure learning unit 51 acquires information from the outside of the artificial intelligence system 1 via the input / output unit 13, and performs initial learning based on the information. The non-secure learning unit 51 can perform machine learning processing such as basic intention estimation, prediction support, task agent, and autonomous learning by performing initial learning using teacher data.

基本的な意図推定の機能は、例えば、人工知能システム１に対するユーザの言動（発話など）を理解（認識）したり、その言動の意図を推定すること等である。予測支援の機能は、例えば、ユーザの行動（ユーザが車両によって行く頻度の高い場所（自宅、職場等）や車両によって通る頻度の高い経路）を先読み（事前の推定）し動作を支援すること等である。 The basic intention estimation function is, for example, to understand (recognize) the user's words and actions (utterances, etc.) with respect to the artificial intelligence system 1, and to estimate the intention of the words and actions. The function of the prediction support is, for example, to pre-read (preliminarily estimate) the user's behavior (the place where the user frequently goes by the vehicle (home, work, etc.) or the route frequently taken by the vehicle) and support the operation. Is.

タスクエージェントの機能は、例えば、ユーザへのサービスを最終決定すること等である。自律学習の機能は、例えば、ユーザの言動（発話など）後に行われる行動を学習すること等である。 The function of the task agent is, for example, to finalize the service to the user. The function of autonomous learning is, for example, learning an action performed after a user's words and actions (speaking, etc.).

非セキュア学習部５１は、上記の機能を初期学習により取得したら、人工知能システム１の外部から入出力部１３等を介してユーザの動的学習データを取得する。 After acquiring the above functions by the initial learning, the non-secure learning unit 51 acquires the user's dynamic learning data from the outside of the artificial intelligence system 1 via the input / output unit 13 and the like.

ユーザの動的学習データについては、ユーザ自身の情報、ユーザの言動の情報（言動の履歴など）、ユーザの行動履歴の情報、ユーザによる車両の走行データに関する情報（走行データの履歴など）、ユーザの位置データに関する情報（位置の変化の履歴など）等が含まれる。ユーザ自身の情報については、ユーザの日常における自宅の不在時間、車両の移動経路、ユーザの運転特性、ユーザの嗜好性等の情報が含まれる。また、ユーザの動的学習データについては、ユーザによる機器の操作情報、ユーザの運転操作の情報、ユーザの車両内の振る舞いの情報、ユーザの車内環境（座席の位置やミラーの位置等）の情報等が含まれていても良い。 Regarding the user's dynamic learning data, the user's own information, the user's behavior information (word and behavior history, etc.), the user's behavior history information, the user's vehicle driving data information (driving data history, etc.), and the user. Information about the position data (history of position change, etc.) is included. The user's own information includes information such as the user's daily absence time at home, the vehicle's movement route, the user's driving characteristics, and the user's preference. Regarding the user's dynamic learning data, the user's device operation information, the user's driving operation information, the user's behavior information in the vehicle, and the user's vehicle environment (seat position, mirror position, etc.) information. Etc. may be included.

非セキュア学習部５１は、ユーザの動的学習データを取得した後、データ授受部４０を介して動的学習データを第２人工知能部６０に引き渡す。非セキュア学習部５１は、動的学習データを第２人工知能部６０に引き渡した後、当該動的学習データを非セキュア環境から削除する。 After acquiring the user's dynamic learning data, the non-secure learning unit 51 delivers the dynamic learning data to the second artificial intelligence unit 60 via the data transfer unit 40. The non-secure learning unit 51 delivers the dynamic learning data to the second artificial intelligence unit 60, and then deletes the dynamic learning data from the non-secure environment.

なお、非セキュア環境で削除される動的学習データについては、非セキュア記憶部１１に一時的に記憶される動的学習データも含まれる。 The dynamic learning data deleted in the non-secure environment includes the dynamic learning data temporarily stored in the non-secure storage unit 11.

これにより、人工知能システム１の外部よりアクセスされる可能性のある非セキュア環境である第１人工知能部５０に係る部分において、他のユーザに認識可能である動的学習データが削除されることとなる。すなわち、動的学習データは、発生する度に、セキュア環境に保存されるとともに、非セキュア環境から速やかに削除されるので、外部に漏洩することを防止できる。 As a result, the dynamic learning data that can be recognized by other users is deleted in the part related to the first artificial intelligence unit 50, which is a non-secure environment that may be accessed from the outside of the artificial intelligence system 1. It becomes. That is, each time the dynamic learning data is generated, it is stored in the secure environment and is promptly deleted from the non-secure environment, so that it can be prevented from leaking to the outside.

非セキュア学習部５１は、データ授受部４０を介して第２人工知能部６０より後述する特徴量データを取得する。特徴量データは、後述するが動的学習データを特徴量化した情報であり、ユーザおよび他のユーザ（人間）によって認識不可能な情報である。 The non-secure learning unit 51 acquires feature amount data described later from the second artificial intelligence unit 60 via the data transfer unit 40. The feature amount data is information obtained by converting the dynamic learning data into a feature amount, which will be described later, and is information that cannot be recognized by the user and other users (humans).

非セキュア学習部５１は、データ授受部４０を介して第２人工知能部６０より取得した特徴量データに基づいて機械学習を行う。非セキュア学習部５１による機械学習は、特徴量データに基づいて行われる。つまり、非セキュア学習部５１による機械学習の学習結果等は、ユーザなどには認識不可能な情報である。 The non-secure learning unit 51 performs machine learning based on the feature amount data acquired from the second artificial intelligence unit 60 via the data transfer unit 40. Machine learning by the non-secure learning unit 51 is performed based on the feature amount data. That is, the learning result of machine learning by the non-secure learning unit 51 is information that cannot be recognized by the user or the like.

動作判定部５２は、非セキュア学習部５１の学習結果に基づいて人工知能システム１の動作判定を行う。動作判定部５２の動作判定結果（動的学習データに基づく学習結果）は、図示しない出力処理部等を介して入出力部１３より人工知能システム１の外部に出力される。 The motion determination unit 52 determines the motion of the artificial intelligence system 1 based on the learning result of the non-secure learning unit 51. The motion determination result (learning result based on the dynamic learning data) of the motion determination unit 52 is output from the input / output unit 13 to the outside of the artificial intelligence system 1 via an output processing unit (not shown) or the like.

動作判定部５２の動作判定結果としては、例えばユーザの言動または操作による指示等が動的学習データである場合、当該指示に対する動作内容に関するもの（ユーザへの応答、車両や車内機器の動作、車両外部の道路状況、地図情報の内容等）となる。 As the operation determination result of the operation determination unit 52, for example, when the instruction by the user's behavior or operation is dynamic learning data, the operation content related to the instruction (response to the user, operation of the vehicle or in-vehicle device, vehicle). External road conditions, map information content, etc.).

動作判定結果は、出力処理部等によって、音声処理（音声認識など）、画像処理（画像認識、物体認識など）等の所定処理が施されてユーザが認識できる状態となって入出力部１３より出力される。 The operation determination result is subjected to predetermined processing such as voice processing (voice recognition, etc.) and image processing (image recognition, object recognition, etc.) by the output processing unit, etc., and is in a state where the user can recognize it from the input / output unit 13. It is output.

第２人工知能部６０は、第２ＯＳ３０上、つまり、セキュア環境で動作するアプリケーション（例えば人工知能アプリケーション）であり、人工知能システム１の外部からのアクセス不能である。第２人工知能部６０は、取得部６１と、特徴量化処理部６２とを有する。 The second artificial intelligence unit 60 is an application (for example, an artificial intelligence application) that operates on the second OS 30, that is, in a secure environment, and is inaccessible from the outside of the artificial intelligence system 1. The second artificial intelligence unit 60 includes an acquisition unit 61 and a feature quantification processing unit 62.

取得部６１は、データ授受部４０を介して動的学習データを第１人工知能部５０から取得して、その動的学習データのデータをセキュア記憶部１２に蓄積する。 The acquisition unit 61 acquires dynamic learning data from the first artificial intelligence unit 50 via the data transfer unit 40, and stores the data of the dynamic learning data in the secure storage unit 12.

特徴量化処理部６２は、セキュア記憶部１２に蓄積した動的学習データを用いて生成した特徴量をユーザに認識不可能な特徴量データに変換する。そして、特徴量化処理部６２は、その特徴量データを、データ授受部４０を介して第１人工知能部５０に引き渡す。もしくは、さらにセキュリティを強化するため、特徴量化処理部６２は、動的学習データを特徴量データに変換し、その特徴量データを暗号化して第１人工知能部５０に引き渡してもよい。 The feature quantification processing unit 62 converts the feature amount generated by using the dynamic learning data accumulated in the secure storage unit 12 into feature amount data that cannot be recognized by the user. Then, the feature quantification processing unit 62 delivers the feature amount data to the first artificial intelligence unit 50 via the data transfer unit 40. Alternatively, in order to further enhance security, the feature quantification processing unit 62 may convert the dynamic learning data into feature quantity data, encrypt the feature quantity data, and deliver it to the first artificial intelligence unit 50.

例えば、ユーザがカーナビゲーション等の車内機器を操作して目的地を勤務地に設定した指示を車内機器にしたとする。この場合、当該指示を動的学習データとして第１人工知能部５０が受け取った場合、当該動的学習データが第２人工知能部６０に引き渡される。その後、当該動的学習データが第１人工知能部５０で削除される。 For example, suppose that a user operates an in-vehicle device such as a car navigation system and gives an instruction to set a destination as a work location in the in-vehicle device. In this case, when the first artificial intelligence unit 50 receives the instruction as dynamic learning data, the dynamic learning data is delivered to the second artificial intelligence unit 60. After that, the dynamic learning data is deleted by the first artificial intelligence unit 50.

これにより、外部から第１人工知能部５０にアクセスされても、ユーザの動的学習データを漏洩されることがなくなる。 As a result, even if the first artificial intelligence unit 50 is accessed from the outside, the dynamic learning data of the user is not leaked.

第２人工知能部６０で動的学習データを受け取ったら、第２人工知能部６０は、セキュア環境において蓄積されたユーザの過去の行動履歴等の動的学習データを特徴量化し、第１人工知能部５０に引き渡す。または、第２人工知能部６０は、特徴量データを暗号化処理して、その暗号化した特徴量データを第１人工知能部５０に引き渡す。 When the second artificial intelligence unit 60 receives the dynamic learning data, the second artificial intelligence unit 60 features the dynamic learning data such as the user's past behavior history accumulated in the secure environment, and the first artificial intelligence unit 60. Hand over to department 50. Alternatively, the second artificial intelligence unit 60 encrypts the feature amount data and delivers the encrypted feature amount data to the first artificial intelligence unit 50.

このように、動的学習データを第２人工知能部６０で受け取っても、第２人工知能部６０はセキュア環境であるので、外部に動的学習データが漏洩されない。また、蓄積された動的学習データを第１人工知能部５０に引き渡す際、当該動的学習データを特徴量化するので、第１人工知能部５０で特徴量データが外部に漏洩しても、他のユーザが認識することができない。 In this way, even if the second artificial intelligence unit 60 receives the dynamic learning data, the second artificial intelligence unit 60 is in a secure environment, so that the dynamic learning data is not leaked to the outside. Further, when the accumulated dynamic learning data is handed over to the first artificial intelligence unit 50, the dynamic learning data is converted into a feature quantity. Therefore, even if the feature quantity data is leaked to the outside by the first artificial intelligence unit 50, other factors may occur. Cannot be recognized by the user.

第１人工知能部５０で特徴量データを受け取ったら、第１人工知能部５０は、特徴量データに基づいて機械学習を行い、ユーザが勤務地に向かう際、利用する頻度の高い移動経路を順に車内機器に表示するような学習結果を外部に出力する。 When the first artificial intelligence unit 50 receives the feature amount data, the first artificial intelligence unit 50 performs machine learning based on the feature amount data, and when the user heads to the work location, the frequently used movement routes are sequentially used. The learning result to be displayed on the in-vehicle device is output to the outside.

これに対して、ユーザが選択した移動経路を動的学習データとして第１人工知能部５０が受け取ると、当該動的学習データを第２人工知能部６０に引き渡す。その後、当該動的学習データは、第１人工知能部５０で削除される。 On the other hand, when the first artificial intelligence unit 50 receives the movement route selected by the user as dynamic learning data, the dynamic learning data is handed over to the second artificial intelligence unit 60. After that, the dynamic learning data is deleted by the first artificial intelligence unit 50.

第２人工知能部６０で動的学習データを受け取ったら、第２人工知能部６０は、この動的学習データに係る移動経路の情報を第２人工知能部６０で蓄積していく。 When the second artificial intelligence unit 60 receives the dynamic learning data, the second artificial intelligence unit 60 accumulates the information of the movement route related to the dynamic learning data in the second artificial intelligence unit 60.

上記のようなサイクルにより、本実施の形態では、外部に動的学習データが漏洩することなく、人工知能システム１における機械学習が行われる。 According to the cycle as described above, in the present embodiment, machine learning in the artificial intelligence system 1 is performed without leaking dynamic learning data to the outside.

すなわち、本実施の形態では、ユーザの動的学習データ（個人情報）の漏洩を抑制しつつ、当該動的学習データに基づいて学習することができ、ひいてはユーザの情報のセキュリティを向上させることができる。 That is, in the present embodiment, it is possible to learn based on the dynamic learning data while suppressing the leakage of the user's dynamic learning data (personal information), and eventually to improve the security of the user's information. can.

また、データ授受部４０としてハイパーバイザーを用いるので、１つのＳｏＣで人工知能システム１を構成することができる。その結果、人工知能システム１の小型化、人工知能システム１が搭載される車両の省スペース化、人工知能システム１全体におけるコストダウンを図ることができる。 Further, since the hypervisor is used as the data transfer unit 40, the artificial intelligence system 1 can be configured by one SoC. As a result, it is possible to reduce the size of the artificial intelligence system 1, save the space of the vehicle on which the artificial intelligence system 1 is mounted, and reduce the cost of the artificial intelligence system 1 as a whole.

また、第１人工知能部５０および第２人工知能部６０は、学習、推論および判断が可能なコンピュータシステム（ソフトウェア）であれば良い。第１人工知能部５０および第２人工知能部６０は、例えば、決定木、帰納論理プログラミング、強化学習、ベイジアンネットワーク、サポートベクターマシン等を含むデータ・知識型ＡＩ（Artificial Intelligence）であっても良い。また、第１人工知能部５０および第２人工知能部６０は、例えば、ニュートラルネットワーク、ディープニュートラルネットワークを含む脳型ＡＩであっても良いし、ファジィアルゴリズム、遺伝的アルゴリズム、進化的アルゴリズムを用いたものであっても良い。また、第１人工知能部５０および第２人工知能部６０は、例えば、これらをディープラーニングの技術を用いて進化させたものであっても良い。 Further, the first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be any computer system (software) capable of learning, inferring, and making a judgment. The first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be, for example, a data / knowledge type AI (Artificial Intelligence) including a decision tree, inductive logic programming, reinforcement learning, a Bayesian network, a support vector machine, and the like. .. Further, the first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be, for example, a brain-type AI including a neutral network and a deep neutral network, and a fuzzy algorithm, a genetic algorithm, and an evolutionary algorithm are used. It may be a thing. Further, the first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be, for example, those evolved by using a deep learning technique.

なお、上記実施の形態では、第１人工知能部５０が機械学習を行っていたが、本開示はこれに限定されず、例えば第２人工知能部６０が機械学習を行っても良い。つまり、図２に示すように、第２人工知能部６０がセキュア学習部６３を有する構成であっても良い。 In the above embodiment, the first artificial intelligence unit 50 performs machine learning, but the present disclosure is not limited to this, and for example, the second artificial intelligence unit 60 may perform machine learning. That is, as shown in FIG. 2, the second artificial intelligence unit 60 may have the secure learning unit 63.

セキュア学習部６３は、蓄積した動的学習データから生成された特徴量に基づいて機械学習を行う。セキュア学習部６３の学習結果を、データ授受部４０を介して第１人工知能部５０に引き渡す。または、特徴量化処理部６２は、セキュア学習部６３の学習結果を特徴量データに暗号化し、データ授受部４０を介して第１人工知能部５０に引き渡す。そして、第１人工知能部５０の動作判定部５２は、学習結果に基づいて動作判定を行う。 The secure learning unit 63 performs machine learning based on the feature amount generated from the accumulated dynamic learning data. The learning result of the secure learning unit 63 is delivered to the first artificial intelligence unit 50 via the data transfer unit 40. Alternatively, the feature quantification processing unit 62 encrypts the learning result of the secure learning unit 63 into feature quantity data and delivers it to the first artificial intelligence unit 50 via the data transfer unit 40. Then, the motion determination unit 52 of the first artificial intelligence unit 50 determines the motion based on the learning result.

このような構成であっても、ユーザの動的学習データ（個人情報）の漏洩を抑制しつつ、当該動的学習データに基づいて学習することができ、ひいてはユーザの情報のセキュリティを向上させることができる。 Even with such a configuration, it is possible to learn based on the dynamic learning data while suppressing the leakage of the user's dynamic learning data (personal information), and eventually improve the security of the user's information. Can be done.

ところで、上記のような人工知能システム１が長期的に使用される場合や、ユーザが変更になる場合等、第１人工知能部５０のアプリケーションをアップデートしたり、人工知能部において使用中のモデルから別のモデルに変更する必要が生じることがある。 By the way, when the artificial intelligence system 1 as described above is used for a long period of time, or when the user is changed, the application of the first artificial intelligence unit 50 is updated, or from the model used in the artificial intelligence unit. It may be necessary to change to another model.

このような場合、第１人工知能部５０が人工知能システム１における機能の変更指令を取得する。そして、この場合、第２人工知能部６０は、第１人工知能部５０における初期学習に係る情報を初期化する。また、第２人工知能部６０は、ユーザの変更がない場合、セキュア環境において蓄積した動的学習データに関するデータを、変更後の機能に対応する特徴量データ、学習モデルに変換する。第２人工知能部６０は、例えば、特徴量として動的学習データを平均値に変換するアルゴリズムを、分散値を変換するアルゴリズムに変更する。 In such a case, the first artificial intelligence unit 50 acquires a function change command in the artificial intelligence system 1. Then, in this case, the second artificial intelligence unit 60 initializes the information related to the initial learning in the first artificial intelligence unit 50. Further, when there is no change in the user, the second artificial intelligence unit 60 converts the data related to the dynamic learning data accumulated in the secure environment into the feature amount data and the learning model corresponding to the changed function. The second artificial intelligence unit 60 changes, for example, an algorithm for converting dynamic learning data into an average value as a feature amount to an algorithm for converting a variance value.

こうすることにより、ユーザの動的学習データ（個人情報）の漏洩を抑制しつつ、人工知能システム１における機能の変更を行うことができる。 By doing so, it is possible to change the function in the artificial intelligence system 1 while suppressing the leakage of the user's dynamic learning data (personal information).

また、上記実施の形態では、データ授受部４０がハイパーバイザーで構成されていたが、本開示はこれに限定されない。例えば、第１ＯＳと第２ＯＳとが異なるハードウェアプラットフォームに搭載される構成において、データ授受部が第１ＯＳと第２ＯＳとの間でデータを授受する構成であっても良い。 Further, in the above embodiment, the data transfer unit 40 is composed of a hypervisor, but the present disclosure is not limited to this. For example, in a configuration in which the first OS and the second OS are mounted on different hardware platforms, the data transfer unit may exchange data between the first OS and the second OS.

また、上記実施の形態では、人工知能システム１として車両を例示したが、本開示はこれに限定されず、例えば、家、工場等、車両以外のシステムであっても良い。 Further, in the above embodiment, the vehicle is illustrated as the artificial intelligence system 1, but the present disclosure is not limited to this, and a system other than the vehicle such as a house or a factory may be used.

その他、上記実施の形態は、何れも本開示を実施するにあたっての具体化の一例を示したものに過ぎず、これらによって本開示の技術的範囲が限定的に解釈されてはならないものである。すなわち、本開示はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。 In addition, the above embodiments are merely examples of embodiment of the present disclosure, and the technical scope of the present disclosure should not be construed in a limited manner by these. That is, the present disclosure can be implemented in various forms without departing from its gist or its main features.

本開示の人工知能システムは、ユーザの情報のセキュリティを向上させることが可能な装置として有用である。 The artificial intelligence system of the present disclosure is useful as a device capable of improving the security of user information.

１人工知能システム
１０ハードウェアプラットフォーム
１１非セキュア記憶部
１２セキュア記憶部
１３入出力部
２０第１ＯＳ
３０第２ＯＳ
４０データ授受部
５０第１人工知能部
５１非セキュア学習部
５２動作判定部
６０第２人工知能部
６１取得部
６２特徴量化処理部 1 Artificial intelligence system 10 Hardware platform 11 Non-secure storage 12 Secure storage 13 Input / output unit 20 1st OS
30 Second OS
40 Data transfer unit 50 1st artificial intelligence unit 51 Non-secure learning unit 52 Motion judgment unit 60 2nd artificial intelligence unit 61 Acquisition unit 62 Feature quantification processing unit

Claims

An artificial intelligence system that performs machine learning based on user information.
In a non-secure environment accessible from the outside of the artificial intelligence system, a first artificial intelligence unit that acquires the user's information and outputs a learning result based on the user's information to the outside.
In a secure environment inaccessible from the outside, a second artificial intelligence unit that acquires the user's information from the first artificial intelligence unit and accumulates data related to the user's information.
With
When the first artificial intelligence unit delivers the user's information acquired from the outside to the second artificial intelligence unit, the first artificial intelligence unit deletes the user's information from the non-secure environment related to the first artificial intelligence unit.
Artificial intelligence system.

The second artificial intelligence unit converts the accumulated data related to the user's information into feature amount data that cannot be recognized by the user, and delivers the feature amount data to the first artificial intelligence unit.
The artificial intelligence system according to claim 1.

The first artificial intelligence unit performs machine learning based on the feature amount data received from the second artificial intelligence unit, and outputs the learning result to the outside.
The artificial intelligence system according to claim 2.

The second artificial intelligence unit performs machine learning based on the user's information, and delivers the feature amount data or the learning result calculated using the feature amount data to the first artificial intelligence unit.
The first artificial intelligence unit is a learning result of machine learning performed by the first artificial intelligence unit using the feature amount data received from the second artificial intelligence unit, or a learning result received from the second artificial intelligence unit. Is output to the outside.
The artificial intelligence system according to claim 2.

When the first artificial intelligence unit acquires a function change command in the artificial intelligence system, the second artificial intelligence unit initializes information related to initial learning in the first artificial intelligence unit.
The artificial intelligence system according to any one of claims 1 to 4.

When the first artificial intelligence unit acquires a function change command in the artificial intelligence system, the second artificial intelligence unit converts the accumulated data related to the user's information into data corresponding to the changed function. ,
The artificial intelligence system according to any one of claims 1 to 5.

A data transfer unit is provided between the first artificial intelligence unit and the second artificial intelligence unit to transfer data related to the user's information without leaking to the outside.
The artificial intelligence system according to any one of claims 1 to 6.

The data transfer unit virtualizes a computer on one hardware platform, and switches and executes a first OS including the first artificial intelligence unit and a second OS including the second artificial intelligence unit.
The artificial intelligence system according to claim 7.

A computer system built into a vehicle,
The artificial intelligence system according to any one of claims 1 to 8.