JP2021105798A - Artificial intelligence system - Google Patents

Artificial intelligence system Download PDF

Info

Publication number
JP2021105798A
JP2021105798A JP2019236238A JP2019236238A JP2021105798A JP 2021105798 A JP2021105798 A JP 2021105798A JP 2019236238 A JP2019236238 A JP 2019236238A JP 2019236238 A JP2019236238 A JP 2019236238A JP 2021105798 A JP2021105798 A JP 2021105798A
Authority
JP
Japan
Prior art keywords
artificial intelligence
unit
data
intelligence system
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019236238A
Other languages
Japanese (ja)
Inventor
淳也 遊佐
Junya Yusa
淳也 遊佐
貴司 西脇
Takashi Nishiwaki
貴司 西脇
高貴 土肥
Koki Doi
高貴 土肥
智章 片田
Tomoaki Katada
智章 片田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2019236238A priority Critical patent/JP2021105798A/en
Publication of JP2021105798A publication Critical patent/JP2021105798A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Traffic Control Systems (AREA)

Abstract

To provide an artificial intelligence system capable of improving convenience of a user when changing the artificial intelligence system.SOLUTION: An artificial intelligence system is an artificial intelligence system that performs machine learning on the basis of information of a user. The artificial intelligence system includes: a first artificial intelligence unit that acquires encrypted data of the information of the user from another system corresponding to the artificial intelligence system and outputs to an outside, learning results based on the information of the user in a non-secure environment accessible from an outside the artificial intelligence system; and a second artificial intelligence unit that acquires encrypted data from the first artificial intelligence unit in a secure environment that is inaccessible from the outside. The second artificial intelligence unit decrypts the encrypted data into the decrypted data which is used for machine learning.SELECTED DRAWING: Figure 1

Description

本開示は、人工知能システムに関する。 The present disclosure relates to an artificial intelligence system.

従来、学習、推論、判断といった人間の持つ機能を有する人工知能システムが知られている。言語の理解、推論、問題解決等の知的行動を人間に代わって人工知能システムが行う場合、当該人工知能システムは、インターネット等を介して外部のリソースから情報を取得する必要がある。しかしながら、外部との間で情報を授受することに起因して、外部から不正に人工知能システムにアクセスされるおそれがあるので、ユーザの個人情報保護の観点から、外部から人工知能システムにアクセスされることを防ぐ必要がある。 Conventionally, an artificial intelligence system having human functions such as learning, reasoning, and judgment has been known. When an artificial intelligence system performs intellectual actions such as language understanding, reasoning, and problem solving on behalf of humans, the artificial intelligence system needs to acquire information from an external resource via the Internet or the like. However, since there is a risk of unauthorized access to the artificial intelligence system from the outside due to the exchange of information with the outside, the artificial intelligence system is accessed from the outside from the viewpoint of protecting the personal information of the user. You need to prevent that.

例えば、特許文献１には、オープンな環境における情報交換をアシストする、または、自律的に行う第１の人工知能モジュールと、情報交換に伴う処理をクローズドな環境で行う第２の人工知能モジュールとを有するシステムが開示されている。 For example, Patent Document 1 describes a first artificial intelligence module that assists or autonomously exchanges information in an open environment, and a second artificial intelligence module that performs processing associated with information exchange in a closed environment. The system with is disclosed.

国際公開第２０１８／００８６０５号International Publication No. 2018/008605

ところで、現在使用中の人工知能システムを、他の人工知能システムに変える場合がある。この場合、他の人工知能システムでは、ユーザ向けにパーソナライズされていないので、再度機械学習に用いる動的学習データを蓄積する必要が生じる。人工知能システムをパーソナライズするためには、長期間にわたって人工知能システムを使用する必要があるので、従来の人工知能システムはユーザにとって利便性が悪いものとなっていた。 By the way, the artificial intelligence system currently in use may be changed to another artificial intelligence system. In this case, since other artificial intelligence systems are not personalized for users, it becomes necessary to accumulate dynamic learning data to be used for machine learning again. In order to personalize an artificial intelligence system, it is necessary to use the artificial intelligence system for a long period of time, so that the conventional artificial intelligence system is inconvenient for the user.

本開示の目的は、人工知能システムを変える場合におけるユーザの利便性を向上させることが可能な人工知能システムを提供することである。 An object of the present disclosure is to provide an artificial intelligence system capable of improving user convenience when changing the artificial intelligence system.

本開示に係る人工知能システムは、
ユーザの情報に基づいて機械学習を行う人工知能システムであって、
前記人工知能システムの外部からアクセス可能な非セキュア環境において、前記ユーザの情報の暗号化データを、前記人工知能システムに対応する他のシステムから取得し、かつ、前記ユーザの情報に基づく学習結果を前記外部に出力する第１人工知能部と、
前記外部とアクセス不可能なセキュア環境において、前記暗号化データを前記第１人工知能部から取得する第２人工知能部と、
を備え、
前記第２人工知能部は、前記暗号化データを機械学習に用いる復号化データに復号化する。 The artificial intelligence system according to this disclosure is
An artificial intelligence system that performs machine learning based on user information.
In a non-secure environment accessible from the outside of the artificial intelligence system, the encrypted data of the user's information is acquired from another system corresponding to the artificial intelligence system, and the learning result based on the user's information is obtained. The first artificial intelligence unit that outputs to the outside and
In a secure environment inaccessible to the outside, a second artificial intelligence unit that acquires the encrypted data from the first artificial intelligence unit, and
With
The second artificial intelligence unit decodes the encrypted data into decrypted data used for machine learning.

本開示によれば、人工知能システムを変える場合におけるユーザの利便性を向上させることができる。 According to the present disclosure, it is possible to improve the convenience of the user when changing the artificial intelligence system.

本開示の実施の形態に係る人工知能システムを示す図である。It is a figure which shows the artificial intelligence system which concerns on embodiment of this disclosure. 変形例に係る人工知能システムを示す図である。It is a figure which shows the artificial intelligence system which concerns on the modification.

以下、本開示の実施の形態を図面に基づいて詳細に説明する。図１は、本開示の実施の形態に係る人工知能システム１を示す図である。 Hereinafter, embodiments of the present disclosure will be described in detail with reference to the drawings. FIG. 1 is a diagram showing an artificial intelligence system 1 according to an embodiment of the present disclosure.

図１に示すように、人工知能システム１は、例えば車両に組み込まれるコンピュータシステムであり、ＳｏＣ（System on Chip）に組み込まれるシステムである。人工知能システム１は、ユーザの情報に基づいて機械学習する機能を有し、ハードウェアプラットフォーム１０と、第１ＯＳ（Operating System）２０と、第２ＯＳ３０と、データ授受部４０と、第１人工知能部５０と、第２人工知能部６０とを備える。 As shown in FIG. 1, the artificial intelligence system 1 is, for example, a computer system incorporated in a vehicle and a system incorporated in a SoC (System on Chip). The artificial intelligence system 1 has a function of machine learning based on user information, and has a hardware platform 10, a first OS (Operating System) 20, a second OS 30, a data transfer unit 40, and a first artificial intelligence unit. 50 and a second artificial intelligence unit 60 are provided.

ハードウェアプラットフォーム１０は、図示しないＣＰＵ（Central Processing Unit）等を有するプロセッサユニットを含んでおり、複数のコンピュータプログラムの実行環境を提供する。複数のコンピュータプログラムの実行環境には、セキュア環境と非セキュア環境とが含まれる。 The hardware platform 10 includes a processor unit having a CPU (Central Processing Unit) or the like (not shown), and provides an execution environment for a plurality of computer programs. The execution environment of a plurality of computer programs includes a secure environment and a non-secure environment.

セキュア環境は、外部からアクセス不可能な環境であり、例えば、メモリに保安領域が設定され、その保安領域へのアクセスを禁止するプロセッサユニットの支援機能により実現される環境である。 The secure environment is an environment inaccessible from the outside, for example, an environment realized by a support function of a processor unit in which a security area is set in a memory and access to the security area is prohibited.

非セキュア環境は、外部からアクセス可能な環境であり、セキュア環境よりも保安レベルが低い環境である。非セキュア環境では、例えば、プロセッサユニットの支援機能によりメモリの保安領域へのアクセスが禁止される。 A non-secure environment is an environment that can be accessed from the outside and has a lower security level than a secure environment. In a non-secure environment, for example, the support function of the processor unit prohibits access to the security area of the memory.

ハードウェアプラットフォーム１０は、非セキュア記憶部１１とセキュア記憶部１２とを含む。非セキュア記憶部１１は、非セキュア環境で使用されるメモリである。セキュア記憶部１２は、セキュア環境で使用されるメモリである。 The hardware platform 10 includes a non-secure storage unit 11 and a secure storage unit 12. The non-secure storage unit 11 is a memory used in a non-secure environment. The secure storage unit 12 is a memory used in a secure environment.

また、ハードウェアプラットフォーム１０は、人工知能システム１の外部からユーザの情報等が入力され、かつ、人工知能システム１における学習結果を出力するための入出力部１３を有する。 Further, the hardware platform 10 has an input / output unit 13 for inputting user information and the like from the outside of the artificial intelligence system 1 and outputting the learning result in the artificial intelligence system 1.

第１ＯＳ２０は、非セキュア環境で稼働するＯＳである。第２ＯＳ３０は、セキュア環境で稼働するＯＳである。 The first OS 20 is an OS that operates in a non-secure environment. The second OS 30 is an OS that operates in a secure environment.

データ授受部４０は、１つのハードウェアプラットフォーム１０上において、第１ＯＳ２０および第２ＯＳ３０を切り替えて実行させる機能を有する。データ授受部４０は、いわゆるハイパーバイザーであり得る。データ授受部４０は、１つのハードウェアプラットフォーム１０上において複数のＯＳを仮想化し得る。データ授受部４０は、例えばプロセッサユニットがハードウェアとして持つ支援機構を用いて複数のＯＳを分離する。 The data transfer unit 40 has a function of switching and executing the first OS 20 and the second OS 30 on one hardware platform 10. The data transfer unit 40 can be a so-called hypervisor. The data transfer unit 40 can virtualize a plurality of OSs on one hardware platform 10. The data transfer unit 40 separates a plurality of OSs by using, for example, a support mechanism that the processor unit has as hardware.

データ授受部４０は、第１ＯＳ２０（第１人工知能部５０）と第２ＯＳ３０（第２人工知能部６０）との間で、人工知能システム１の外部に漏洩することなく、ユーザの個人情報に関するデータを授受させる構成を有する。データ授受部４０は、ハードウェアの仮想化技術を利用して第２ＯＳ３０（第２人工知能部６０）側への、外部からのアクセスを抑制する。 The data transfer unit 40 receives data on the user's personal information between the first OS 20 (first artificial intelligence unit 50) and the second OS 30 (second artificial intelligence unit 60) without leaking to the outside of the artificial intelligence system 1. Has a structure for giving and receiving. The data transfer unit 40 suppresses access from the outside to the second OS 30 (second artificial intelligence unit 60) side by using the hardware virtualization technology.

第１人工知能部５０は、第１ＯＳ２０上、つまり、非セキュア環境で動作するアプリケーション（例えば、人工知能アプリケーション）であり、非セキュア学習部５１と、動作判定部５２と、暗号データ授受部５３とを有する。 The first artificial intelligence unit 50 is an application (for example, an artificial intelligence application) that operates on the first OS 20, that is, in a non-secure environment, and includes a non-secure learning unit 51, an operation determination unit 52, and an encrypted data transfer unit 53. Has.

非セキュア学習部５１は、入出力部１３を介して人工知能システム１の外部からの情報を取得し、当該情報に基づいて初期学習を行う。非セキュア学習部５１は、教師データを用いた初期学習を行うことにより、例えば基本的な意図推定、予測支援、タスクエージェント、自律学習等の機械学習処理を行うことができる。 The non-secure learning unit 51 acquires information from the outside of the artificial intelligence system 1 via the input / output unit 13, and performs initial learning based on the information. The non-secure learning unit 51 can perform machine learning processing such as basic intention estimation, prediction support, task agent, and autonomous learning by performing initial learning using teacher data.

基本的な意図推定の機能は、例えば、人工知能システム１に対するユーザの言動（発話など）を理解（認識）したり、その言動の意図を推定すること等である。予測支援の機能は、例えば、ユーザの行動（ユーザが車両によって行く頻度の高い場所（自宅、職場等）や車両によって通る頻度の高い経路）を先読み（事前の推定）し動作を支援すること等である。 The basic intention estimation function is, for example, to understand (recognize) the user's words and actions (utterances, etc.) with respect to the artificial intelligence system 1, and to estimate the intention of the words and actions. The function of the prediction support is, for example, to pre-read (preliminarily estimate) the user's behavior (the place where the user frequently goes by the vehicle (home, work, etc.) or the route frequently taken by the vehicle) and support the operation. Is.

タスクエージェントの機能は、例えば、ユーザへのサービスを最終決定すること等である。自律学習の機能は、例えば、ユーザの言動（発話など）後に行われる行動を学習すること等である。 The function of the task agent is, for example, to finalize the service to the user. The function of autonomous learning is, for example, learning an action performed after a user's words and actions (speaking, etc.).

非セキュア学習部５１は、上記の機能を初期学習により取得したら、人工知能システム１の外部から入出力部１３等を介してユーザの動的学習データを取得する。 After acquiring the above functions by the initial learning, the non-secure learning unit 51 acquires the user's dynamic learning data from the outside of the artificial intelligence system 1 via the input / output unit 13 and the like.

ユーザの動的学習データについては、ユーザ自身の情報、ユーザの言動の情報（言動の履歴など）、ユーザの行動履歴の情報、ユーザによる車両の走行データに関する情報（走行データの履歴など）、ユーザの位置データに関する情報（位置の変化の履歴など）等が含まれる。ユーザ自身の情報については、ユーザの日常における自宅の不在時間、車両の移動経路、ユーザの運転特性、ユーザの嗜好性等の情報が含まれる。また、ユーザの動的学習データについては、ユーザによる機器の操作情報、ユーザの運転操作の情報、ユーザの車両内の振る舞いの情報、ユーザの車内環境（座席の位置やミラーの位置等）の情報等が含まれていても良い。 Regarding the user's dynamic learning data, the user's own information, the user's behavior information (word and behavior history, etc.), the user's behavior history information, the user's vehicle driving data information (driving data history, etc.), and the user. Information about the position data (history of position change, etc.) is included. The user's own information includes information such as the user's daily absence time at home, the vehicle's movement route, the user's driving characteristics, and the user's preference. Regarding the user's dynamic learning data, the user's device operation information, the user's driving operation information, the user's behavior information in the vehicle, and the user's vehicle environment (seat position, mirror position, etc.) information. Etc. may be included.

非セキュア学習部５１は、初期学習を行った後、ユーザの動的学習データを取得して機械学習を行う。 After performing the initial learning, the non-secure learning unit 51 acquires the dynamic learning data of the user and performs machine learning.

動作判定部５２は、非セキュア学習部５１の学習結果に基づいて人工知能システム１の動作判定を行う。動作判定部５２の動作判定結果（動的学習データに基づく学習結果）は、図示しない出力処理部等を介して入出力部１３より人工知能システム１の外部に出力される。 The motion determination unit 52 determines the motion of the artificial intelligence system 1 based on the learning result of the non-secure learning unit 51. The motion determination result (learning result based on the dynamic learning data) of the motion determination unit 52 is output from the input / output unit 13 to the outside of the artificial intelligence system 1 via an output processing unit (not shown) or the like.

動作判定部５２の動作判定結果としては、例えばユーザの言動または操作による指示等が動的学習データである場合、当該指示に対する動作内容に関するもの（ユーザへの応答、車両や車内機器の動作、車両外部の道路状況、地図情報の内容等）となる。 As the operation determination result of the operation determination unit 52, for example, when the instruction by the user's behavior or operation is dynamic learning data, the operation content related to the instruction (response to the user, operation of the vehicle or in-vehicle device, vehicle). External road conditions, map information content, etc.).

動作判定結果は、出力処理部等によって、音声処理（音声認識など）、画像処理（画像認識、物体認識など）等の所定処理が施されてユーザが認識できる状態となって入出力部１３より出力される。 The operation determination result is subjected to predetermined processing such as voice processing (voice recognition, etc.) and image processing (image recognition, object recognition, etc.) by the output processing unit, etc., and is in a state where the user can recognize it from the input / output unit 13. It is output.

例えば、ユーザがカーナビゲーション等の車内機器を操作して目的地を勤務地に設定した指示を車内機器にしたとする。この場合、人工知能システム１において蓄積されたユーザの過去の行動履歴等の動的学習データに基づいて、機械学習が行われる。 For example, suppose that a user operates an in-vehicle device such as a car navigation system and gives an instruction to set a destination as a work location in the in-vehicle device. In this case, machine learning is performed based on the dynamic learning data such as the user's past behavior history accumulated in the artificial intelligence system 1.

この場合、第１人工知能部５０は、例えばユーザが勤務地に向かう際、利用する頻度の高い移動経路を順に車内機器に表示するような学習結果を外部に出力する。これに対してユーザが選択した移動経路を動的学習データとして、当該動的学習データが人工知能システム１に蓄積されていく。 In this case, the first artificial intelligence unit 50 outputs a learning result to the outside so that, for example, when the user heads for the work location, the frequently used movement routes are displayed on the in-vehicle device in order. On the other hand, the movement route selected by the user is used as dynamic learning data, and the dynamic learning data is accumulated in the artificial intelligence system 1.

暗号データ授受部５３は、他の人工知能システム１Ａから暗号化データを、入出力部１３を介して取得する。他の人工知能システム１Ａは、本実施の形態に係る人工知能システム１に対応する他のシステムであり、略同様の機能を有するシステムである。なお、他の人工知能システム１Ａで用いられる動的学習データには、人工知能システム１で用いる複数の動的学習データのうち、全てが共通している必要はなく、共通で使用可能な動的学習データが含まれていれば良い。 The encrypted data transfer unit 53 acquires encrypted data from another artificial intelligence system 1A via the input / output unit 13. The other artificial intelligence system 1A is another system corresponding to the artificial intelligence system 1 according to the present embodiment, and is a system having substantially the same function. The dynamic learning data used in the other artificial intelligence system 1A does not have to be common to all of the plurality of dynamic learning data used in the artificial intelligence system 1, and can be used in common. It suffices if the training data is included.

暗号化データは、後述するが動的学習データを暗号化した情報であり、ユーザおよび他のユーザ（人間）によって認識不可能な情報である。また、暗号化データは、例えばネットワークを介して、システム間で授受されても良いし、記憶装置等、他の装置を介して、システム間で授受されても良い。 The encrypted data is information obtained by encrypting the dynamic learning data, which will be described later, and is information that cannot be recognized by the user and other users (humans). Further, the encrypted data may be exchanged between systems via a network, for example, or may be exchanged between systems via another device such as a storage device.

暗号データ授受部５３は、他の人工知能システム１Ａから取得した暗号化データを、データ授受部４０を介して第２人工知能部６０に引き渡す。 The encrypted data transfer unit 53 delivers the encrypted data acquired from the other artificial intelligence system 1A to the second artificial intelligence unit 60 via the data transfer unit 40.

第２人工知能部６０は、第２ＯＳ３０上、つまり、セキュア環境で動作するアプリケーション（例えば人工知能アプリケーション）であり、人工知能システム１の外部からのアクセス不能である。第２人工知能部６０は、復号化処理部６１と、暗号化処理部６２とを有する。 The second artificial intelligence unit 60 is an application (for example, an artificial intelligence application) that operates on the second OS 30, that is, in a secure environment, and is inaccessible from the outside of the artificial intelligence system 1. The second artificial intelligence unit 60 has a decryption processing unit 61 and an encryption processing unit 62.

復号化処理部６１は、データ授受部４０を介して暗号化データを第１人工知能部５０から取得する。復号化処理部６１は、取得した暗号化データを動的学習データ（復号化データ）に復号化する。復号化データは、例えば人工知能システム１と他の人工知能システム１Ａとの間における共通鍵等によって復号化される。 The decryption processing unit 61 acquires the encrypted data from the first artificial intelligence unit 50 via the data transfer unit 40. The decryption processing unit 61 decrypts the acquired encrypted data into dynamic learning data (decrypted data). The decrypted data is decoded by, for example, a common key between the artificial intelligence system 1 and another artificial intelligence system 1A.

復号化処理部６１によって復号化された復号化データは、データ授受部４０を介して第１人工知能部５０に引き渡される。これにより、非セキュア学習部５１が当該復号化データに基づいて機械学習を行うことができるので、他の人工知能システム１Ａにおいてパーソナライズされた動的学習環境を人工知能システム１に移行させることができる。 The decrypted data decoded by the decoding processing unit 61 is delivered to the first artificial intelligence unit 50 via the data transfer unit 40. As a result, the non-secure learning unit 51 can perform machine learning based on the decrypted data, so that the dynamic learning environment personalized in the other artificial intelligence system 1A can be transferred to the artificial intelligence system 1. ..

暗号化処理部６２は、人工知能システム１に蓄積された蓄積動的学習データを他の人工知能システム１Ａに引き渡す場合、当該蓄積動的学習データを暗号化する。暗号化処理部６２によって暗号化された暗号化データは、他の人工知能システム１Ａから取得する暗号化データと略同様のものである。蓄積動的学習データには、復号化処理部６１によって復号化された復号化データが含まれていても良い。 When the stored dynamic learning data stored in the artificial intelligence system 1 is handed over to another artificial intelligence system 1A, the encryption processing unit 62 encrypts the stored dynamic learning data. The encrypted data encrypted by the encryption processing unit 62 is substantially the same as the encrypted data acquired from the other artificial intelligence system 1A. The accumulated dynamic learning data may include the decrypted data decoded by the decoding processing unit 61.

蓄積動的学習データは、第１人工知能部５０において蓄積されても良いし、第２人工知能部６０で復号化された後、第２人工知能部６０において蓄積されても良い。ただし、蓄積動的学習データの外部漏洩防止の観点から、セキュア環境である第２人工知能部６０に蓄積動的学習データが蓄積されることが好ましい。 The accumulated dynamic learning data may be accumulated in the first artificial intelligence unit 50, or may be decoded in the second artificial intelligence unit 60 and then accumulated in the second artificial intelligence unit 60. However, from the viewpoint of preventing external leakage of the accumulated dynamic learning data, it is preferable that the accumulated dynamic learning data is accumulated in the second artificial intelligence unit 60 which is a secure environment.

暗号化処理部６２は、暗号化データを、データ授受部４０を介して第１人工知能部５０に引き渡す。上述の暗号データ授受部５３は、当該暗号化データを、入出力部１３を介して他の人工知能システム１Ａに送信する。 The encryption processing unit 62 delivers the encrypted data to the first artificial intelligence unit 50 via the data transfer unit 40. The above-mentioned encrypted data transfer unit 53 transmits the encrypted data to another artificial intelligence system 1A via the input / output unit 13.

これにより、人工知能システム１においてパーソナライズされた動的学習環境を他の人工知能システム１Ａに移行させることができる。 As a result, the personalized dynamic learning environment in the artificial intelligence system 1 can be transferred to another artificial intelligence system 1A.

例えば、ユーザが他の人工知能システム１Ａを搭載する車両から、人工知能システム１を搭載する車両に買い換えたとする。ここで、人工知能システム１は、ユーザ専用のシステムにパーソナライズされていないので、システム間で動的学習データの授受ができない構成である場合、長期間にわたって使用しないとユーザ専用のシステムにパーソナライズされないこととなる。 For example, suppose that the user replaces another vehicle equipped with the artificial intelligence system 1A with a vehicle equipped with the artificial intelligence system 1. Here, since the artificial intelligence system 1 is not personalized to the user-dedicated system, if the configuration is such that dynamic learning data cannot be exchanged between the systems, it will not be personalized to the user-dedicated system unless it is used for a long period of time. It becomes.

本実施の形態では、他の人工知能システム１Ａにおける動的学習環境を人工知能システム１に移行させることができるので、人工知能システム１を容易にユーザ専用のシステムにパーソナライズすることができる。すなわち、本実施の形態では、人工知能システムを変える場合におけるユーザの利便性を向上させることができる。 In the present embodiment, since the dynamic learning environment in the other artificial intelligence system 1A can be transferred to the artificial intelligence system 1, the artificial intelligence system 1 can be easily personalized to the user-specific system. That is, in the present embodiment, it is possible to improve the convenience of the user when changing the artificial intelligence system.

ところで、動的学習データのシステム間における移動のために、動的学習データが人工知能システムの外部に出力されるので、出力された動的学習データが外部に漏洩するおそれがある。 By the way, since the dynamic learning data is output to the outside of the artificial intelligence system due to the movement of the dynamic learning data between the systems, the output dynamic learning data may be leaked to the outside.

しかし、本実施の形態では、動的学習データを暗号化データとした上でシステム間で授受するので、外部に出力されても動的学習データを人間が認識することができない。すなわち、本実施の形態では、ユーザの動的学習データが外部に漏洩することを抑制することができる。 However, in the present embodiment, since the dynamic learning data is used as encrypted data and then exchanged between the systems, the dynamic learning data cannot be recognized by humans even if it is output to the outside. That is, in the present embodiment, it is possible to suppress the leakage of the user's dynamic learning data to the outside.

また、暗号化データを、セキュア環境（第２人工知能部６０）で復号するので、復号化された直後の動的学習データが外部に漏洩することがない。すなわち、本実施の形態では、ユーザの動的学習データが外部に漏洩することを防止することができる。 Further, since the encrypted data is decrypted in the secure environment (second artificial intelligence unit 60), the dynamic learning data immediately after the decryption is not leaked to the outside. That is, in the present embodiment, it is possible to prevent the user's dynamic learning data from being leaked to the outside.

また、人工知能システム１の動的学習データも他の人工知能システム１Ａに移行させることもできるので、同様の構成を有するシステム間において、容易に動的学習データを同期させることができ、ひいては人工知能システムの利便性をさらに向上させることができる。 Further, since the dynamic learning data of the artificial intelligence system 1 can also be transferred to another artificial intelligence system 1A, the dynamic learning data can be easily synchronized between the systems having the same configuration, and by extension, the artificial intelligence system 1 is artificial. The convenience of the intelligent system can be further improved.

また、データ授受部４０としてハイパーバイザーを用いるので、１つのＳｏＣで人工知能システム１を構成することができる。その結果、人工知能システム１の小型化、人工知能システム１が搭載される車両の省スペース化、人工知能システム１全体におけるコストダウンを図ることができる。 Further, since the hypervisor is used as the data transfer unit 40, the artificial intelligence system 1 can be configured by one SoC. As a result, it is possible to reduce the size of the artificial intelligence system 1, save the space of the vehicle on which the artificial intelligence system 1 is mounted, and reduce the cost of the artificial intelligence system 1 as a whole.

また、第１人工知能部５０および第２人工知能部６０は、学習、推論および判断が可能なコンピュータシステム（ソフトウェア）であれば良い。第１人工知能部５０および第２人工知能部６０は、例えば、決定木、帰納論理プログラミング、強化学習、ベイジアンネットワーク、サポートベクターマシン等を含むデータ・知識型ＡＩ（Artificial Intelligence）であっても良い。また、第１人工知能部５０および第２人工知能部６０は、例えば、ニュートラルネットワーク、ディープニュートラルネットワークを含む脳型ＡＩであっても良いし、ファジィアルゴリズム、遺伝的アルゴリズム、進化的アルゴリズムを用いたものであっても良い。また、第１人工知能部５０および第２人工知能部６０は、例えば、これらをディープラーニングの技術を用いて進化させたものであっても良い。 Further, the first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be any computer system (software) capable of learning, inferring, and making a judgment. The first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be, for example, a data / knowledge type AI (Artificial Intelligence) including a decision tree, inductive logic programming, reinforcement learning, a Bayesian network, a support vector machine, and the like. .. Further, the first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be, for example, a brain-type AI including a neutral network and a deep neutral network, and a fuzzy algorithm, a genetic algorithm, and an evolutionary algorithm are used. It may be a thing. Further, the first artificial intelligence unit 50 and the second artificial intelligence unit 60 may be, for example, those evolved by using a deep learning technique.

なお、上記実施の形態では、第１人工知能部５０が機械学習を行っていたが、本開示はこれに限定されず、例えば第２人工知能部６０が機械学習を行っても良い。つまり、図２に示すように、第２人工知能部６０がセキュア学習部６３を有する構成であっても良い。 In the above embodiment, the first artificial intelligence unit 50 performs machine learning, but the present disclosure is not limited to this, and for example, the second artificial intelligence unit 60 may perform machine learning. That is, as shown in FIG. 2, the second artificial intelligence unit 60 may have the secure learning unit 63.

セキュア学習部６３は、蓄積した動的学習データに基づいて機械学習を行う。セキュア学習部６３の学習結果は、データ授受部４０を介して第１人工知能部５０に引き渡される。 The secure learning unit 63 performs machine learning based on the accumulated dynamic learning data. The learning result of the secure learning unit 63 is handed over to the first artificial intelligence unit 50 via the data transfer unit 40.

このような構成であっても、人工知能システムを変える場合におけるユーザの利便性を向上させることができる。 Even with such a configuration, it is possible to improve the convenience of the user when changing the artificial intelligence system.

また、第２人工知能部６０において、機械学習を行うため、機械学習に用いる動的学習データがセキュア環境に存在することとなる。つまり、人間が認識可能な動的学習データに基づく機械学習が非セキュア環境（第１人工知能部５０）で行われないこととなるので、人工知能システム１において動的学習データが外部に漏洩することをさらに抑制することができる。 Further, since the second artificial intelligence unit 60 performs machine learning, the dynamic learning data used for machine learning exists in the secure environment. That is, since machine learning based on the dynamic learning data that can be recognized by humans is not performed in the non-secure environment (first artificial intelligence unit 50), the dynamic learning data is leaked to the outside in the artificial intelligence system 1. That can be further suppressed.

ところで、人工知能システム１が有する機能と、他の人工知能システム１Ａが有する機能とが完全に一致しない場合がある。そのため、人工知能システム１と他の人工知能システム１Ａとの間で動的学習データを授受する際、不要な情報が存在する場合がある。 By the way, the function of the artificial intelligence system 1 may not completely match the function of the other artificial intelligence system 1A. Therefore, when exchanging dynamic learning data between the artificial intelligence system 1 and another artificial intelligence system 1A, unnecessary information may exist.

不要な情報には、人工知能システム１で使用不可能な動的学習データの他、最新の情報のみ必要な場合等は、所定日数前（例えば、数ヶ月前等）の動的学習データや、ユーザが引っ越した場合等、引っ越し前の自宅の周辺に係る動的学習データ等も含まれていても良い。 Unnecessary information includes dynamic learning data that cannot be used by the artificial intelligence system 1, and when only the latest information is required, dynamic learning data that is a predetermined number of days ago (for example, several months ago) or Dynamic learning data and the like related to the surroundings of the home before the move may be included, such as when the user moves.

この場合、第２人工知能部６０において、他のシステムから取得した動的学習データのうち、不要なデータを削除するようにしても良い。つまり、第２人工知能部６０は、復号化処理部６１が復号化した動的学習データのうち、不要なデータを削除する。 In this case, the second artificial intelligence unit 60 may delete unnecessary data from the dynamic learning data acquired from other systems. That is, the second artificial intelligence unit 60 deletes unnecessary data from the dynamic learning data decoded by the decoding processing unit 61.

このようにすることで、人工知能システム１において不要なデータが蓄積されることを抑制することができる。 By doing so, it is possible to suppress the accumulation of unnecessary data in the artificial intelligence system 1.

また、人工知能システム１のユーザが、他の人工知能システム１Ａから動的学習データを移行した後も、他の人工知能システム１Ａを使用する場合がある。この場合、他の人工知能システム１Ａでは、蓄積される動的学習データが更新される。 Further, the user of the artificial intelligence system 1 may use the other artificial intelligence system 1A even after the dynamic learning data is transferred from the other artificial intelligence system 1A. In this case, in the other artificial intelligence system 1A, the accumulated dynamic learning data is updated.

上記実施の形態では、動的学習データの更新については言及されていなかったが、本開示はこれに限定されず、動的学習データの更新情報を都度取得するように構成しても良い。 In the above embodiment, the update of the dynamic learning data is not mentioned, but the present disclosure is not limited to this, and the update information of the dynamic learning data may be acquired each time.

具体的には、第１人工知能部５０は、過去に暗号化データを取得した他の人工知能システム１Ａで更新された動的学習データがある場合、更新された動的学習データに係る更新暗号化データを取得する。 Specifically, when the first artificial intelligence unit 50 has the dynamic learning data updated by another artificial intelligence system 1A that has acquired the encrypted data in the past, the first artificial intelligence unit 50 updates the encryption related to the updated dynamic learning data. Acquire the conversion data.

そして、第２人工知能部６０は、更新暗号化データを機械学習に用いる更新復号化データに復号化する。 Then, the second artificial intelligence unit 60 decodes the update encrypted data into the update decryption data used for machine learning.

このようにすることで、人工知能システム１と他の人工知能システム１Ａとを容易に同期させることができ、人工知能システム１を最新の動的学習環境にすることができる。 By doing so, the artificial intelligence system 1 and another artificial intelligence system 1A can be easily synchronized, and the artificial intelligence system 1 can be made into the latest dynamic learning environment.

また、人工知能システム１から他の人工知能システム１Ａに動的学習データの更新情報を都度送信するように構成しても良い。 Further, the artificial intelligence system 1 may be configured to transmit the update information of the dynamic learning data to the other artificial intelligence system 1A each time.

具体的には、第２人工知能部６０は、人工知能システム１に蓄積された蓄積動的学習データを他のシステム１Ａに引き渡す場合であって、当該蓄積動的学習データの中に他の人工知能システム１Ａに既に存在するデータがある場合、当該データを除いた蓄積動的学習データを暗号化する。 Specifically, the second artificial intelligence unit 60 is a case where the accumulated dynamic learning data accumulated in the artificial intelligence system 1 is handed over to another system 1A, and another artificial intelligence is included in the accumulated dynamic learning data. If there is data that already exists in the intelligent system 1A, the accumulated dynamic learning data excluding the data is encrypted.

そして、第２人工知能部６０は、暗号化したデータを、データ授受部４０を介して第１人工知能部５０に引き渡す。第１人工知能部５０は、引き渡されたデータを他の人工知能システム１Ａに出力する。 Then, the second artificial intelligence unit 60 delivers the encrypted data to the first artificial intelligence unit 50 via the data transfer unit 40. The first artificial intelligence unit 50 outputs the handed over data to another artificial intelligence system 1A.

このようにすることで、人工知能システム１と他の人工知能システム１Ａとを容易に同期させることができ、他の人工知能システム１Ａを最新の動的学習環境にすることができる。 By doing so, the artificial intelligence system 1 and the other artificial intelligence system 1A can be easily synchronized, and the other artificial intelligence system 1A can be made into the latest dynamic learning environment.

また、人工知能システム１から他の人工知能システム１Ａに暗号化データを送信する場合、他の人工知能システム１Ａにおいて不要な情報が含まれる場合がある。 Further, when the encrypted data is transmitted from the artificial intelligence system 1 to another artificial intelligence system 1A, unnecessary information may be included in the other artificial intelligence system 1A.

このような場合、第２人工知能部６０は、他の人工知能システム１Ａにおいて不要なデータを削除した上で、復号化データを暗号化処理する。暗号化処理されたデータは、第１人工知能部５０によって他の人工知能システム１Ａに送信される。 In such a case, the second artificial intelligence unit 60 deletes unnecessary data in the other artificial intelligence system 1A, and then encrypts the decrypted data. The encrypted data is transmitted to another artificial intelligence system 1A by the first artificial intelligence unit 50.

このようにすることで、送信データを小さくすることができるとともに、他の人工知能システム１Ａで不要なデータを取得することを抑制して、余計な処理を行うことを抑制することができる。 By doing so, it is possible to reduce the size of the transmitted data, suppress the acquisition of unnecessary data by the other artificial intelligence system 1A, and suppress unnecessary processing.

送信データ削減の観点から、第１人工知能部５０は、蓄積動的学習データの暗号化データを小分けにして他の人工知能システム１Ａに出力するようにしても良い。 From the viewpoint of reducing transmission data, the first artificial intelligence unit 50 may divide the encrypted data of the accumulated dynamic learning data into small pieces and output the encrypted data to another artificial intelligence system 1A.

このようにすることで、送信データを削減しつつ、他の人工知能システム１Ａを徐々に人工知能システム１に同期させることができる。 By doing so, it is possible to gradually synchronize the other artificial intelligence system 1A with the artificial intelligence system 1 while reducing the transmission data.

また、上記実施の形態では、データ授受部４０がハイパーバイザーで構成されていたが、本開示はこれに限定されない。例えば、データ授受部が、第１ＯＳと第２ＯＳとが異なるハードウェアプラットフォームに搭載される構成において、第１ＯＳと第２ＯＳとの間でデータを授受する構成であっても良い。 Further, in the above embodiment, the data transfer unit 40 is composed of a hypervisor, but the present disclosure is not limited to this. For example, the data transfer unit may be configured to transfer data between the first OS and the second OS in a configuration in which the first OS and the second OS are mounted on different hardware platforms.

また、上記実施の形態では、人工知能システム１として車両を例示したが、本開示はこれに限定されず、例えば、家、工場等、車両以外のシステムであっても良い。 Further, in the above embodiment, the vehicle is illustrated as the artificial intelligence system 1, but the present disclosure is not limited to this, and a system other than the vehicle such as a house or a factory may be used.

その他、上記実施の形態は、何れも本開示を実施するにあたっての具体化の一例を示したものに過ぎず、これらによって本開示の技術的範囲が限定的に解釈されてはならないものである。すなわち、本開示はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。 In addition, the above embodiments are merely examples of embodiment of the present disclosure, and the technical scope of the present disclosure should not be construed in a limited manner by these. That is, the present disclosure can be implemented in various forms without departing from its gist or its main features.

本開示の人工知能システムは、人工知能システムを変える場合におけるユーザの利便性を向上させることが可能な人工知能システムとして有用である。 The artificial intelligence system of the present disclosure is useful as an artificial intelligence system capable of improving user convenience when changing the artificial intelligence system.

１ 人工知能システム
１０ ハードウェアプラットフォーム
１１ 非セキュア記憶部
１２ セキュア記憶部
１３ 入出力部
２０ 第１ＯＳ
３０ 第２ＯＳ
４０ データ授受部
５０ 第１人工知能部
５１ 非セキュア学習部
５２ 動作判定部
５３ 暗号データ授受部
６０ 第２人工知能部
６１ 復号化処理部
６２ 暗号化処理部
1 Artificial intelligence system 10 Hardware platform 11 Non-secure storage 12 Secure storage 13 Input / output unit 20 1st OS
30 Second OS
40 Data transfer unit 50 1st artificial intelligence unit 51 Non-secure learning unit 52 Operation judgment unit 53 Cryptographic data transfer unit 60 2nd artificial intelligence unit 61 Decryption processing unit 62 Encryption processing unit

Claims (9)

ユーザの情報に基づいて機械学習を行う人工知能システムであって、
前記人工知能システムの外部からアクセス可能な非セキュア環境において、前記ユーザの情報の暗号化データを、前記人工知能システムに対応する他のシステムから取得し、かつ、前記ユーザの情報に基づく学習結果を前記外部に出力する第１人工知能部と、
前記外部とアクセス不可能なセキュア環境において、前記暗号化データを前記第１人工知能部から取得する第２人工知能部と、
を備え、
前記第２人工知能部は、前記暗号化データを機械学習に用いる復号化データに復号化する、
人工知能システム。 An artificial intelligence system that performs machine learning based on user information.
In a non-secure environment accessible from the outside of the artificial intelligence system, the encrypted data of the user's information is acquired from another system corresponding to the artificial intelligence system, and the learning result based on the user's information is obtained. The first artificial intelligence unit that outputs to the outside and
In a secure environment inaccessible to the outside, a second artificial intelligence unit that acquires the encrypted data from the first artificial intelligence unit, and
With
The second artificial intelligence unit decodes the encrypted data into decrypted data used for machine learning.
Artificial intelligence system. 前記第２人工知能部は、前記復号化データのうち、前記人工知能システムに不要なデータを削除する、
請求項１に記載の人工知能システム。 The second artificial intelligence unit deletes the decrypted data that is unnecessary for the artificial intelligence system.
The artificial intelligence system according to claim 1. 前記第１人工知能部は、過去に前記暗号化データを取得した前記他のシステムで更新されたユーザの情報がある場合、更新されたユーザの情報に係る更新暗号化データを取得し、
前記第２人工知能部は、前記更新暗号化データを機械学習に用いる更新復号化データに復号化する、
請求項１または請求項２に記載の人工知能システム。 When there is information of a user updated by the other system that has acquired the encrypted data in the past, the first artificial intelligence unit acquires the updated encrypted data related to the updated user information.
The second artificial intelligence unit decodes the update encrypted data into update decryption data used for machine learning.
The artificial intelligence system according to claim 1 or 2. 前記第２人工知能部は、前記人工知能システムに蓄積された蓄積データを前記他のシステムに引き渡す場合、当該蓄積データを暗号化し、
前記第１人工知能部は、前記第２人工知能部により暗号化されたデータを前記他のシステムに出力する、
請求項１〜３の何れか１項に記載の人工知能システム。 When the second artificial intelligence unit delivers the stored data stored in the artificial intelligence system to the other system, the second artificial intelligence unit encrypts the stored data.
The first artificial intelligence unit outputs the data encrypted by the second artificial intelligence unit to the other system.
The artificial intelligence system according to any one of claims 1 to 3. 前記第２人工知能部は、前記蓄積データの中に前記他のシステムに既に存在するデータがある場合、当該データを除いた蓄積データを暗号化する、
請求項４に記載の人工知能システム。 When the stored data includes data that already exists in the other system, the second artificial intelligence unit encrypts the stored data excluding the data.
The artificial intelligence system according to claim 4. 前記第１人工知能部は、前記蓄積データの暗号化データを小分けにして前記他のシステムに出力する、
請求項４または請求項５に記載の人工知能システム。 The first artificial intelligence unit divides the encrypted data of the stored data into small pieces and outputs the encrypted data to the other system.
The artificial intelligence system according to claim 4 or 5. 前記第１人工知能部と前記第２人工知能部との間で、前記外部に漏洩することなく前記ユーザの情報に関するデータを授受させるデータ授受部を備える、
請求項１〜６の何れか１項に記載の人工知能システム。 A data transfer unit is provided between the first artificial intelligence unit and the second artificial intelligence unit to transfer data related to the user's information without leaking to the outside.
The artificial intelligence system according to any one of claims 1 to 6. 前記データ授受部は、１つのハードウェアプラットフォーム上において、コンピュータを仮想化し、前記第１人工知能部を含む第１ＯＳと、前記第２人工知能部を含む第２ＯＳとを切り替えて実行させる、
請求項７に記載の人工知能システム。 The data transfer unit virtualizes a computer on one hardware platform, and switches and executes a first OS including the first artificial intelligence unit and a second OS including the second artificial intelligence unit.
The artificial intelligence system according to claim 7. 車両に組み込まれるコンピュータシステムである、
請求項１〜８の何れか１項に記載の人工知能システム。 A computer system built into a vehicle,
The artificial intelligence system according to any one of claims 1 to 8.
JP2019236238A 2019-12-26 2019-12-26 Artificial intelligence system Pending JP2021105798A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019236238A JP2021105798A (en) 2019-12-26 2019-12-26 Artificial intelligence system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019236238A JP2021105798A (en) 2019-12-26 2019-12-26 Artificial intelligence system

Publications (1)

Publication Number Publication Date
JP2021105798A true JP2021105798A (en) 2021-07-26

Family

ID=76918907

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019236238A Pending JP2021105798A (en) 2019-12-26 2019-12-26 Artificial intelligence system

Country Status (1)

Country Link
JP (1) JP2021105798A (en)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002182560A (en) * 2000-12-12 2002-06-26 Hitachi Ltd Information server device equipped with ciphering processing function
JP2006092198A (en) * 2004-09-22 2006-04-06 Fuji Xerox Co Ltd Data processor and program
WO2018008605A1 (en) * 2016-07-04 2018-01-11 株式会社Ｓｅｌｔｅｃｈ System having artificial intelligence
JP2018054765A (en) * 2016-09-27 2018-04-05 日本電気株式会社 Data processing device, data processing method, and program
JP6431231B1 (en) * 2017-12-24 2018-11-28 オリンパス株式会社 Imaging system, learning apparatus, and imaging apparatus
JP2018190045A (en) * 2017-04-28 2018-11-29 日立オートモティブシステムズ株式会社 Vehicle electronic control apparatus
WO2018225747A1 (en) * 2017-06-06 2018-12-13 日本電気株式会社 Distribution system, data management device, data management method, and computer-readable recording medium
JP2019028836A (en) * 2017-08-01 2019-02-21 三菱日立パワーシステムズ株式会社 Learning assistance device for plant and learning assistance method for plant
JP6600856B1 (en) * 2018-06-27 2019-11-06 株式会社クロスコンパス Distribution environment providing system providing distribution environment for artificial intelligence package

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002182560A (en) * 2000-12-12 2002-06-26 Hitachi Ltd Information server device equipped with ciphering processing function
JP2006092198A (en) * 2004-09-22 2006-04-06 Fuji Xerox Co Ltd Data processor and program
WO2018008605A1 (en) * 2016-07-04 2018-01-11 株式会社Ｓｅｌｔｅｃｈ System having artificial intelligence
JP2018054765A (en) * 2016-09-27 2018-04-05 日本電気株式会社 Data processing device, data processing method, and program
JP2018190045A (en) * 2017-04-28 2018-11-29 日立オートモティブシステムズ株式会社 Vehicle electronic control apparatus
WO2018225747A1 (en) * 2017-06-06 2018-12-13 日本電気株式会社 Distribution system, data management device, data management method, and computer-readable recording medium
JP2019028836A (en) * 2017-08-01 2019-02-21 三菱日立パワーシステムズ株式会社 Learning assistance device for plant and learning assistance method for plant
JP6431231B1 (en) * 2017-12-24 2018-11-28 オリンパス株式会社 Imaging system, learning apparatus, and imaging apparatus
JP6600856B1 (en) * 2018-06-27 2019-11-06 株式会社クロスコンパス Distribution environment providing system providing distribution environment for artificial intelligence package

Similar Documents

Publication Publication Date Title
KR102376626B1 (en) Data transmission with obfuscation for a data processing(dp) accelerator
US20220269942A1 (en) Privacy Enhancing Deep Learning Cloud Service Using a Trusted Execution Environment
CN110008735B (en) Method, node and storage medium for realizing contract calling in block chain
US20210403004A1 (en) Driver monitoring system (dms) data management
KR102295960B1 (en) Apparatus and method for security service based virtualization
CN107077428A (en) Protect using secret from operating system attack
US10372628B2 (en) Cross-domain security in cryptographically partitioned cloud
JP2018014081A (en) Information assurance system for secure program execution
CN101517549A (en) Memory access security management
US20210264274A1 (en) Secret sharing with a neural cryptosystem
CN104350486A (en) Method and apparatus for virtual machine interoperability
Garrigues et al. Promoting the development of secure mobile agent applications
CN107508846A (en) The update method and system and terminal device of applications client
US20220318046A1 (en) Method, system and domain for providing a security execution environment for security-relevant applications
US11755771B2 (en) System, method, and computer-accessible medium for training models on mixed sensitivity datasets
EP4035042B1 (en) Virtual primary platform (vpp) implemented on a secure element and an external environment
JP2021105798A (en) Artificial intelligence system
CN112650982B (en) Data processing accelerator and computer-implemented method performed by the data processing accelerator
CN112953886B (en) System and method for securely broadcasting messages to accelerators using virtual channels with switches
US11657332B2 (en) Method for AI model transferring with layer randomization
KR101823226B1 (en) Method and system for code protection
CN112838926A (en) Method for sharing key between accelerators
JP2021105796A (en) Artificial intelligence system
CN103927488A (en) Trusted platform module aiming at trusted embedded system
Nielson et al. Secure guarded commands

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230606

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231128