CN113507914A - 基于机器学习的安全控制器 - Google Patents

基于机器学习的安全控制器 Download PDF

Info

Publication number
CN113507914A
CN113507914A CN202080017942.4A CN202080017942A CN113507914A CN 113507914 A CN113507914 A CN 113507914A CN 202080017942 A CN202080017942 A CN 202080017942A CN 113507914 A CN113507914 A CN 113507914A
Authority
CN
China
Prior art keywords
clinician
shift
transaction records
shift associated
machine learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080017942.4A
Other languages
English (en)
Inventor
A·内格
C·雅美加
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Confort 303
CareFusion 303 Inc
Original Assignee
Confort 303
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Confort 303 filed Critical Confort 303
Publication of CN113507914A publication Critical patent/CN113507914A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/20—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the management or administration of healthcare resources or facilities, e.g. managing hospital staff or surgery rooms
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61G—TRANSPORT, PERSONAL CONVEYANCES, OR ACCOMMODATION SPECIALLY ADAPTED FOR PATIENTS OR DISABLED PERSONS; OPERATING TABLES OR CHAIRS; CHAIRS FOR DENTISTRY; FUNERAL DEVICES
    • A61G12/00—Accommodation for nursing, e.g. in hospitals, not covered by groups A61G1/00 - A61G11/00, e.g. trolleys for transport of medicaments or food; Prescription lists
    • A61G12/001—Trolleys for transport of medicaments, food, linen, nursing supplies
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00—Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/14—Infusion devices, e.g. infusing by gravity; Blood infusion; Accessories therefor
    • A61M5/1407—Infusion of two or more substances
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00—Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/14—Infusion devices, e.g. infusing by gravity; Blood infusion; Accessories therefor
    • A61M5/142—Pressure infusion, e.g. using pumps
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00—Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/14—Infusion devices, e.g. infusing by gravity; Blood infusion; Accessories therefor
    • A61M5/168—Means for controlling media flow to the body or for metering media to the body, e.g. drip meters, counters ; Monitoring media flow to the body
    • A61M5/16804—Flow controllers
    • A61M5/16827—Flow controllers controlling delivery of multiple fluids, e.g. sequencing, mixing or via separate flow-paths
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00—ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60—ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
    • G16H20/13—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients delivered from dispensers
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67—ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M5/00—Devices for bringing media into the body in a subcutaneous, intra-vascular or intramuscular way; Accessories therefor, e.g. filling or cleaning devices, arm-rests
    • A61M5/14—Infusion devices, e.g. infusing by gravity; Blood infusion; Accessories therefor
    • A61M5/142—Pressure infusion, e.g. using pumps
    • A61M2005/14208—Pressure infusion, e.g. using pumps with a programmable infusion control system, characterised by the infusion program
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M2205/00—General characteristics of the apparatus
    • A61M2205/50—General characteristics of the apparatus with microprocessors or computers
    • A61M2205/502—User interfaces, e.g. screens or keyboards
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/006—Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]

Abstract

一种方法可以包括通过应用机器学习模型来识别与临床医师相关的轮班，所述机器学习模型经过训练以基于与临床医师相关的一系列事务记录来识别与临床医师相关的一个或更多个轮班。至少基于与临床医师相关的轮班，可以将临床医师识别为可能参与危害行为。响应于确定出临床医师可能参与危害行为而激活保护工作流程。所述保护工作流程可以配置为防止临床医师参与危害行为以及配置为收集与危害行为相关的证据。还公开了相关方法和制品。

Description

基于机器学习的安全控制器
相关申请的交叉引用
本申请要求标题为“基于机器学习的轮班跟踪(MACHINE LEARNING BASED SHIFTTRACKING)”并且提交于2019年1月7日的美国临时申请No.62/789,337的优先权，其公开内容以全文引用的方式并入本文中。
技术领域
本文所描述的主题总体上涉及机器学习，并且更具体地，涉及用于检测和防止危害行为的基于机器学习的技术。
背景技术
在各种医疗环境中可能会出现导致损失资源和伤害患者以及临床医师的危害行为。转移可能是危害行为的一个示例，其中代替将物质施用于患者和/或废弃所述物质，临床医生保留所述物质以用于未授权的个人使用和/或个人利益。高价值医疗供给和受控药剂(例如，阿片剂、阿片类药物、麻醉剂和/或其类似者)可能尤其容易遭到转移。危害行为的其它示例可以包括对物质无意的误处置。例如，临床医师可能检取、施用和/或废弃不正确类型和/或数量的药剂。
发明内容
提供了基于机器学习的安全控制器的系统、方法和制品，包括计算机程序产品。在一些示例性实施方案中，提供一种系统，其包括至少一个处理器和至少一个存储器。所述至少一个存储器可以包括程序代码，所述程序代码在由至少一个处理器执行时提供操作。所述操作可以包括：通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为；以及响应于确定出第一临床医师可能参与危害行为而激活保护工作流程。
在一些变化形式中，本文公开的包含以下特征的一个或更多个特征可以任选地包括在任何可行的组合中。可以将与第一临床医师相关的第一轮班和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班进行比较。可以至少基于所述比较来确定第一临床医师可能参与危害行为。
在一些变化形式中，可以通过至少将与第一临床医师相关的第一轮班中包括的第一多个事务记录和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班中包括的第二多个事务记录进行比较，将第一轮班与第二轮班和/或第三轮班进行比较。响应于检测到第一多个事务记录中包括的一个或更多个异常事务记录，可以确定第一临床医师可能参与危害行为。
在一些变化形式中，可以至少基于与第一临床医师相关的第一轮班具有和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班共同的一个或更多个属性，将第一轮班与第二轮班和/或第三轮班进行比较。
在一些变化形式中，可以至少基于第一临床医师和第二临床医师具有共同的一个或更多个属性，将与第一临床医师相关的第一轮班和与第二临床医师相关的第三轮班进行比较。
在一些变化形式中，可以至少基于与第一临床医师相关的第一轮班来识别第一临床医师在其间可能参与危害行为的一个或更多个高风险时段。可以在一个或更多个高风险时段期间激活保护工作流程。
在一些变化形式中，一个或更多个高风险时段可以包括第一轮班的开始之后的第一时间量和第一轮班的结束之前的第二时间量中的至少一个。
在一些变化形式中，一个或更多个高风险时段可以包括第一轮班中超过阈值时间量的部分。
在一些变化形式中，机器学习模型可以包括概率机器学习模型。所述概率机器学习模型可以经过训练以至少基于与第一临床医师相关的一系列事务记录来确定第一临床医师处于上班状态和处于下班状态的概率。
在一些变化形式中，从下班状态到上班状态的第一转换可以对应于与第一临床医师相关的第一轮班的开始。从上班状态到下班状态的第二转换可以对应于与第一临床医师相关的第一轮班的结束。
在一些变化形式中，可以利用强化学习技术来训练概率机器学习模型，所述强化学习技术包括：Q学习(Q-learning)、蒙特卡罗(Monte Carlo)、状态-动作-奖励-状态-动作(state-action-reward-state-action，SARSA)、深度Q网络(deep Q network，DQN)、深度确定性策略梯度(deep deterministic policy gradient，DDPG)、异步演员-评论家算法(asynchronous actor-critic algorithm，A3C)、信任域策略优化(trust region policyoptimization，TRPO)和/或近端策略优化(proximal policy optimization，PPO)。
在一些变化形式中，一系列事务记录可以包括响应于第一临床医师与访问控制系统交互而生成的一个或更多个事务记录。事务记录可以指示经由访问控制系统在治疗机构的进入点处扫描访问标记。
在一些变化形式中，一系列事务记录可以包括响应于第一临床医师与分配系统交互而生成的一个或更多个事务记录。事务记录可以指示访问与分配系统相关的分配柜以检取物质。
在一些变化形式中，一系列事务记录可以包括响应于第一临床医师与电子医疗记录(EMR)系统交互而生成的一个或更多个事务记录。事务记录可以指示物质施用于EMR系统中识别的患者。
在一些变化形式中，保护工作流程可以包括生成警报，所述警报将第一临床医师识别为可能参与危害行为。
在一些变化形式中，保护工作流程可以包括响应于第一临床医师与医疗装置交互而激活一个或更多个监视装置和/或隔离由第一临床医师取用的物质。
在一些变化形式中，保护工作流程可以包括对一个或更多个医疗装置进行配置以防止第一临床医师在未经第二临床医师授权的情况下检取、施用和/或废弃物质。
在另一方面，提供了一种用于基于机器学习的安全控制的方法。所述方法可以包括：通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为；以及响应于确定出第一临床医师可能参与危害行为而激活保护工作流程。
在一些变化形式中，本文公开的包含以下特征的一个或更多个特征可以任选地包括在任何可行的组合中。所述方法还可以包括：将与第一临床医师相关的第一轮班和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班进行比较；以及至少基于所述比较来确定第一临床医师可能参与危害行为。
在一些变化形式中，可以通过至少将与第一临床医师相关的第一轮班中包括的第一多个事务记录和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班中包括的第二多个事务记录进行比较，将第一轮班与第二轮班和/或第三轮班进行比较。响应于检测到第一多个事务记录中包括的一个或更多个异常事务记录，可以确定第一临床医师可能参与危害行为。
在一些变化形式中，可以至少基于与第一临床医师相关的第一轮班具有和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班共同的一个或更多个属性，将第一轮班与第二轮班和/或第三轮班进行比较。
在一些变化形式中，可以至少基于第一临床医师和第二临床医师具有共同的一个或更多个属性，将与第一临床医师相关的第一轮班和与第二临床医师相关的第三轮班进行比较。
在一些变化形式中，所述方法还可以包括：至少基于与第一临床医师相关的第一轮班，识别第一临床医师在其间可能参与危害行为的一个或更多个高风险时段；以及在一个或更多个高风险时段期间激活保护工作流程。
在一些变化形式中，一个或更多个高风险时段可以包括第一轮班的开始之后的第一时间量和第一轮班的结束之前的第二时间量中的至少一个。
在一些变化形式中，一个或更多个高风险时段可以包括第一轮班中超过阈值时间量的部分。
在一些变化形式中，机器学习模型可以包括概率机器学习模型。所述概率机器学习模型可以经过训练以至少基于与第一临床医师相关的一系列事务记录来确定第一临床医师处于上班状态和处于下班状态的概率。
在一些变化形式中，从下班状态到上班状态的第一转换可以对应于与第一临床医师相关的第一轮班的开始。从上班状态到下班状态的第二转换可以对应于与第一临床医师相关的第一轮班的结束。
在一些变化形式中，可以利用强化学习技术来训练概率机器学习模型，所述强化学习技术包括：Q学习(Q-learning)、蒙特卡罗(Monte Carlo)、状态-动作-奖励-状态-动作(state-action-reward-state-action，SARSA)、深度Q网络(deep Q network，DQN)、深度确定性策略梯度(deep deterministic policy gradient，DDPG)、异步演员-评论家算法(asynchronous actor-critic algorithm，A3C)、信任域策略优化(trust region policyoptimization，TRPO)和/或近端策略优化(proximal policy optimization，PPO)。
在一些变化形式中，一系列事务记录可以包括响应于第一临床医师与访问控制系统交互而生成的一个或更多个事务记录。事务记录可以指示经由访问控制系统在治疗机构的进入点处扫描访问标记。
在一些变化形式中，一系列事务记录可以包括响应于第一临床医师与分配系统交互而生成的一个或更多个事务记录。事务记录可以指示访问与分配系统相关的分配柜以检取物质。
在一些变化形式中，一系列事务记录可以包括响应于第一临床医师与电子医疗记录(EMR)系统交互而生成的一个或更多个事务记录。事务记录可以指示物质施用于EMR系统中识别的患者。
在一些变化形式中，保护工作流程可以包括生成警报，所述警报将第一临床医师识别为可能参与危害行为。
在一些变化形式中，保护工作流程可以包括响应于第一临床医师与医疗装置交互而激活一个或更多个监视装置和/或隔离由第一临床医师取用的物质。
在一些变化形式中，保护工作流程可以包括对一个或更多个医疗装置进行配置以防止第一临床医师在未经第二临床医师授权的情况下检取、施用和/或废弃物质。
在另一方面，提供了一种计算机程序产品，所述计算机程序产品包含存储指令的非易失性计算机可读介质。所述指令可以在由至少一个数据处理器执行时引起操作。所述操作可以包括：通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为；以及响应于确定出第一临床医师可能参与危害行为而激活保护工作流程。
在另一方面，提供了一种用于基于机器学习的安全控制的设备。所述设备可以包括：用于通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班的构件，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；用于至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为的构件；以及用于响应于确定出第一临床医师可能参与危害行为而激活保护工作流程的构件。
当前主题的实施方式可以包括与本文提供的描述一致的方法以及包括有形地体现的机器可读介质的制品，所述机器可读介质可操作为使得一个或更多个机器(例如，计算机等)产生实施所描述的特征中的一个或更多个的操作。类似地，还描述了计算机系统，所述计算机系统可以包括一个或更多个处理器和联接到一个或更多个处理器的一个或更多个存储器。可以包括非易失性计算机可读或机器可读存储介质的存储器可以包括一个或更多个程序、对一个或更多个程序进行编码、存储等，所述一个或更多个程序使一个或更多个处理器执行本文所描述的一个或更多个操作。可以由存在于单个计算系统或多个计算系统中的一个或更多个数据处理器实施与当前主题的一个或更多个实施方式一致的计算机实施的方法。此类多个计算系统可以经由包括例如到网络(例如，互联网、无线广域网、局域网、广域网、有线网络等)上的连接的一个或更多个连接、经由多个计算系统中的一个或更多个计算系统之间的直接连接等进行连接并且可以交换数据和/或命令或其它指令等。
在附图和以下描述中阐述了本文所描述的主题的一个或更多个变化形式的细节。本文所描述的主题的其它特征和优势从描述和附图以及从权利要求书中将是显而易见的。虽然出于说明性目的关于应用机器学习模型以检测和防止危害行为描述了当前所公开主题的某些特征，但应容易理解，此类特征并非旨在是限制性的。本公开所附的权利要求书旨在限定受保护主题的范围。
附图说明
并入本说明书且构成本说明书的部分的附图示出了本文公开的主题的某些方面，并且与描述一起帮助解释与所公开的实施方式相关的一些原理。在附图中，
图1描绘了系统图，其示出根据一些示例性实施方案的安全控制系统的示例；
图2A描绘了流程图，其示出根据一些示例性实施方案的用于基于机器学习的安全控制的过程的示例；
图2B描绘了流程图，其示出根据一些示例性实施方案的用于基于机器学习的安全控制的过程的另一示例；
图3描绘了框图，其示出根据一些示例性实施方案的计算系统；
图4描绘了根据一些示例性实施方案的医疗装置的示例；以及
图5描绘了根据一些示例性实施方案的医疗装置的另一示例。
实际上，相似的附图标记表示相似的结构、特征或元件。
具体实施方式
在医疗机构中，可能在各种时间发生危害行为。例如，医疗供给和药剂在物质的运送、接收、储存、分配、施用和/或废弃期间的任一点处都可能容易遭到转移和/或无意的误处置。由于在处方止痛药剂的运送、接收、储存、分配、施用以及废弃期间缺乏足够的保管监督，因此所述处方止痛药剂可能尤其易于遭遇转移和无意的误处置。例如，医疗机构处的分配柜可以供多个临床医师访问。此外，不同的临床医师可能负责药剂的分配、施用和废弃。因此，通常在危害行为已产生损失和/或损伤这一实情之后才检测到危害行为。对危害行为的延迟检测可能进一步防止对引起所述危害行为的临床医师的识别。
在一些示例性实施方案中，安全控制器可以配置为检测和防止危害行为，包括通过分析表示各个临床医师的活动的事务数据。例如，安全控制器可以应用机器学习模型，所述机器学习模型经过训练以至少基于与临床医师相关的一系列事务数据来识别临床医师的一个或更多个轮班。此外，安全控制器可以至少基于与临床医师相关的一个或更多个轮班，识别临床医师在其间可能参与危害行为的一个或更多个高风险时段，一个或更多个高风险时段包括例如轮班变化、轮班超过阈值时间量的部分和/或其类似者。响应于识别出一个或更多个高风险时段，安全控制器可以激活保护工作流程，所述保护工作流程配置为防止临床医师在高风险时段期间参与危害行为并且配置为收集与危害行为相关的证据。
在一些示例性实施方案中，安全控制器还可以配置为：通过将与第一临床医师相关的第一轮班至少和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班进行比较，将第一临床医师识别为可能参与危害行为。安全控制器可以至少基于比较来检测指示第一临床医师已参与例如转移和/或误处置物质的危害行为的异常。响应于检测到危害行为，安全控制器可以激活保护工作流程，所述保护工作流程配置为防止临床医师继续在高风险时段期间参与危害行为并且配置为收集与所述危害行为相关的证据。
在一些示例性实施方案中，保护工作流程可以包括安全控制器生成并发送警报。警报可以使装置调整一个或更多个功能。例如，警报可以使装置例如经由用户界面、触觉电机或音频扬声器/放大器来呈现人可察觉的指示(例如，视觉、触觉、听觉消息收发)。作为另一示例，警报可以更改可经由装置激活的操作或引起装置的电路系统重新配置以改变操作模式(例如，锁定/解锁、断电等)。警报可以识别可能参与例如转移和/或误处置物质的危害行为的临床医师。替代地和/或另外地，保护工作流程可以包括限制和/或防止临床医师例如在某些高风险时段(例如，轮班变化、轮班超过阈值时间量的部分和/或其类似者)期间进行某些活动(例如，检取、施用和/或废弃某些物质)。保护工作流程还可以包括安全控制器每当临床医师访问医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)时，激活在医疗装置处的一个或更多个监视装置(例如，视频摄像机、静态图像摄像机、音频记录器和/或其类似者)。保护工作流程还可以包括安全控制器对医疗管理装置进行配置以隔离临床医师取用的物质。
图1描绘了系统图，其示出根据一些示例性实施方案的安全控制系统100的示例。参考图1，安全系统100可以包括安全控制器110、客户端120和一个或更多个数据系统130。如图1所示，安全控制器110、客户端120和一个或更多个数据系统130可以经由网络140以通信方式联接。例如，安全控制器110可以作为基于云的服务(例如，软件即服务(SaaS)和/或其类似者)被客户端120访问。或者，安全控制器110可以至少部分地嵌入和/或实施于例如访问控制系统135a、分配系统135b、电子医疗记录(EMR)系统135c和/或其类似者处的一个或更多个数据系统内。即，安全控制器110可以至少部分地嵌入和/或实施于例如分配柜、输注泵、废弃站和/或其类似者的医疗装置内。因此，安全控制器110的至少一些功能可以经由一个或更多个数据系统130访问。此外，安全控制器110可以更新和/或配置为服务和/或更新相应数据系统130的部分。客户端120可以是基于处理器的装置，包括例如智能电话、平板计算机、可穿戴设备、台式计算机、笔记本电脑、工作站和/或其类似者。此外，网络140可以是任何有线和/或无线网络，包括例如公用陆地移动网(PLMN)、局域网(LAN)、虚拟局域网(VLAN)、广域网(WAN)、互联网和/或其类似者。
在一些示例性实施方案中，安全控制器110可以配置为识别与包括例如第一临床医师150a、第二临床医师150b和/或其类似者的一个或更多个临床医师相关的轮班。例如，安全控制器110可以基于来自一个或更多个数据系统130的事务记录来识别与第一临床医师150a和第二临床医师150b中的每一个相关的轮班。再次参考图1，数据系统130可以包括访问控制系统135a、分配系统135b和电子医疗记录(EMR)系统135c。在治疗第一患者160a和/或第二患者160b时，第一临床医师150a和/或第二临床医师150b可以与数据系统130交互并触发一个或更多个相应事务记录的生成。安全控制器110可以将机器学习模型115应用于由数据系统130生成的事务记录的至少一部分，所述机器学习模型经过训练以至少识别与第一临床医师150a相关的第一轮班和/或与第二临床医师150b相关的第二轮班。
例如，第一临床医师150a例如通过在治疗机构中的进入点处扫描访问标记来与访问控制系统135a交互可以触发第一事务记录的生成，所述第一事务记录包括第一临床医师150a的至少一个标识符和指示第一临床医师150a何时与访问控制系统135a交互的时间戳。第一临床医师150a针对第一患者160a从分配柜分配物质可以触发第二事务记录的生成，所述第二事务记录包括：时间戳、第一临床医师150a的临床医师标识符、分配柜的装置标识符、第一患者160a的患者标识符、从分配柜检取的物质的标识符、从物质柜检取的物质的量，和/或其类似者。
替代地和/或另外地，第一临床医师150a使用废弃站废弃来自第一患者160a的未使用物质可以触发第三事务记录的生成，所述第三事务记录包括：时间戳、第一临床医师150a的临床医师标识符、见证废弃的第二临床医师150b的临床医师标识符、废弃站的装置标识符、第一患者160a的患者标识符、被废弃物质的标识符、被废弃物质的量，和/或其类似者。如本文中所使用，物质的“废弃”可以指根据机构指导方针和/或政府规定对物质的处置。例如，处方止痛药剂的正确废弃可能需要在一个或更多个见证者在场时将受控物质收集在指定容器(例如，废弃站)中。
应了解，一个或更多个数据系统130还可以提供非事务数据。例如，电子医疗记录系统135c可以存储多个电子医疗记录(EMR)，每个电子医疗记录包括患者的历史，患者的历史包括例如过往阿片类药物的使用和/或其类似者。虽然时间戳事务记录可以因第一临床医师150a和/或第二临床医师150b与电子医疗记录系统135c交互以创建、更新和/或检索第一患者160a和/或第二患者160b的电子医疗记录而生成，但电子医疗记录本身并非事务记录。
为了进一步说明，图4至图5描绘了可以为数据系统130的部分的医疗装置的示例。例如，图4描绘了根据一些示例性实施方案的分配柜400的示例。临床医师从分配柜400分配物质可以触发事务记录的生成，所述事务记录包括：时间戳、临床医师的临床医师标识符、分配柜的装置标识符、开处方具有所述物质的患者的患者标识符、从分配柜检取的物质的标识符、从物质柜检取的物质的量、位置标识符和/或其类似者。与分配柜400相关的额外细节描述于共同拥有并以全文引用的方式并入本文中的美国专利No.8,195,328中。
图5描绘了根据一些示例性实施方案的输注泵500的示例。临床医师使用输注泵500将物质施用于患者可以触发事务记录的生成，所述事务记录包括：时间戳、临床医师的临床医师标识符、输注泵的装置标识符、接收所述物质的患者的患者标识符、施用于患者的物质的标识符、施用于患者的物质的量、位置标识符和/或其类似者。与输注泵500相关的额外细节描述于共同拥有并以全文引用的方式并入本文中的美国专利No.9,227,025中。
如所指出，安全控制器110可以基于来自数据系统130的事务记录而至少识别与第一临床医师150a相关的第一轮班和与第二临床医师150b相关的第二轮班。如本文中所使用，轮班可以指临床医师在其间上班的时间段。应了解，单个临床医师可以与不同长度的轮班相关。此外，单个轮班可以包括一个或更多个不活动时段(例如，短休、会议和/或其类似者)，在此期间，临床医师不会生成任何事务记录。因此，安全控制器110可能无法通过应用基于一天的第一事务记录和当天的最后一个事务记录识别轮班的确定性规则来正确地识别与第一临床医师150a或第二临床医师150b相关的轮班。
替代地，根据一些示例性实施方案，安全控制器110可以应用机器学习模型115，所述机器学习模型115可以经过训练以基于来自一个或更多个数据系统130的事务记录来至少识别与第一临床医师150a相关的第一轮班和与第二临床医师150b相关的第二轮班。例如，机器学习模型115可以经过训练以至少基于与第一临床医师150a相关的事务记录来确定与第一临床医师150a相关的至少第一轮班的开始时间和/或结束时间。替代地和/或另外地，机器学习模型115可以经过训练以至少基于与第二临床医师150b相关的事务记录来确定至少与第二临床医师150b相关的第二轮班的开始时间和/或结束时间。机器学习模型115可以包括用于接收表示事务记录的值的向量的输入层。机器学习模型115可以包括用于提供识别轮班信息的一个或更多个输出值的输出层。输出值可以包括识别给定轮班信息输出的置信度的可能性或准确性值。例如，机器学习模型115可以接收来自先前时间段的事务的经编码版本。机器学习模型115的输出层可以包括各自表示一天中的一小时的二十四个输出值。二十四个输出值中的每一个可以与0到1中的值相关，其中0是最不可能的轮班边界，而1是几近确定的轮班边界。机器学习模型115可以包括将输入层连接到输出层的额外层。所述额外层可以称为隐藏层，并且包括能够利用历史事务和轮班数据经过训练以识别随后接收到的事务的轮班边界的权重。
在一些示例性实施方案中，机器学习模型115可以是概率机器学习模型，所述概率机器学习模型经过训练以基于与临床医师相关的一系列事务记录来确定临床医师处于上班或下班状态的概率。例如，机器学习模型115可以是隐式马尔可夫模型(Hidden MarkovModel)。此外，可以利用强化学习技术来训练机器学习模型115，所述强化学习技术训练机器学习模型115以使累积奖励最大化。强化学习技术的示例包括：Q学习、蒙特卡罗、状态-动作-奖励-状态-动作(SARSA)、深度Q网络(DQN)、深度确定性策略梯度(DDPG)、异步演员-评论家算法(A3C)、信任域策略优化(TRPO)、近端策略优化(PPO)和/或其类似者。
机器学习模型115可由元组(S，A)限定，其中S可以表示有限状态集{S1，S2}，其中第一状态S1对应于临床医师在上班，而第二状态S2对应于临床医师下班。此外，A可以表示临床医师可执行的有限动作集{A1，A2，...，An}。即，有限动作集{A1，A2，...，An}可以对应于来自数据系统130的不同类型的事务记录。例如，A可以包括对应于临床医师在治疗机构的进入点处扫描访问标记的第一动作A1、对应于临床医师访问分配柜以检取物质的第二动作A2以及对应于临床医师将所述物质施用于患者的第三动作A3。
在临床医师处于两个状态{S1，S2}中的一个时，临床医师执行动作{A1，A2，...，An}中的一个可以触发状态转换。例如，在临床医师处于对应于临床医师在上班的第一状态S1时，临床医师执行动作{A1，A2，...，An}中的一个可以触发状态转换到对应于临床医师仍在上班的第一状态S1或对应于临床医师下班的第二状态S2。替代地和/或另外地，在临床医师处于对应于临床医师下班的第二状态S2时，临床医师执行动作{A1，A2，...，An}中的一个可以触发状态转换到对应于临床医师仍下班的第二状态S2或对应于临床医师上班的第一状态S1。应了解，从第二状态S2到第一状态S1的状态转换(对应于临床医师从下班转换到上班)可以指示临床医师轮班的开始。相比之下，从第二状态S2到第一状态S1的状态转换(对应于临床医师从下班转换到上班)可以指示临床医师轮班的开始。
如所指出，可以利用强化学习技术来训练机器学习模型115。例如，可以利用作为强化学习技术的示例的Q学习来训练机器学习模型115。对第一软件应用程序145B的字段执行的动作的组合的质量Q可以表达为如下等式(1)：
Figure BDA0003239501150000101
在开始机器学习模型115的训练之前，值Q可以初始化到任意值。机器学习模型115的训练可以是更新值Q的迭代过程。例如，在每个时间t，可以选择动作at以触发到新状态st+1的转换，可以观察到相应奖励rt，并且可以更新值Q。值Q的迭代更新可以通过如下等式(2)表达：
Qnew(st，at)←(1-α)·Q(st，at)+α·(rt+γ·maxaQ(st+1，a)) (2)
其中，rt可以表示针对当前状态st观察到的奖励，α可以表示学习速率(例如，0≤α≤1)，γ可以表示折减因子，Q(st，at)可以表示来自前一迭代的值Q，并且maxaQ(st+1，a)可以对应于Q的估计的最优未来值。参考等式(2)，应了解(rt+γ·maxaQ(st+1，a))可以对应于学习值。此外，奖励rt可以对应于与直到时间t的所有状态转换相关联的累积奖励。
在一些示例性实施方案中，可以基于训练数据来训练机器学习模型115，所述训练数据包括形成基准真值(ground truth)轮班的一系列事务记录。例如，基准真值轮班可以是与第一临床医师150a和/或第二临床医师150b相关的实际轮班。替代地和/或另外地，可以基于与第一临床医师150a和/或第二临床医师150b相关的实际轮班以及包括例如医疗方案、一般化观察结果和/或其类似者的额外数据来合成所述基准真值轮班。
在一些示例性实施方案中，可离线和/或实时地执行机器学习模型115的训练。例如，安全控制器110可以检测机器学习模型115的输出与从数据系统130接收到的事务记录之间的偏差。偏差的示例可以包括数据系统130生成与机器学习模型115的输出不一致的事务记录，机器学习模型115的输出指示与第一临床医师150a和/或第二临床医师150b相关的轮班的开始或结束。安全控制器110可以通过至少触发机器学习模型115的重新训练来对偏差作出响应。例如，可以基于额外训练数据来离线或实时地重新训练机器学习模型115，所述额外训练数据包括经调整以包括所述事务记录的基准真值轮班。在安全控制器110至少部分地嵌入和/或实施于一个或更多个数据系统130内的实例中，重新训练的机器学习模型115可作为在一个或更多个数据系统130处的例行服务和/或软件更新的部分，传播到一个或更多个数据系统130(例如，访问控制系统135a、分配系统135b、电子医疗记录(EMR)系统135c和/或其类似者)。
在一些示例性实施方案中，安全控制器110可以配置为基于与第一临床医师150a和/或第二临床医师150b相关的一个或更多个轮班来检测一个或更多个高风险时段，在一个或更多个高风险时段期间第一临床医师150a和/或第二临床医师150b可能参与包括例如转移和/或误处置物质的危害行为。高风险时段的示例可以包括轮班变化(例如，在轮班结束之前的n时间量和/或在轮班开始之后的n时间量)、轮班超过阈值时间量的部分和/或其类似者。安全控制器110可以配置为响应于检测到一个或更多个高风险时段而激活保护工作流程。例如，安全控制器110可以在一个或更多个高风险时段期间激活保护工作流程。
保护工作流程可以配置为防止第一临床医师150a和/或第二临床医师150b在高风险时段期间参与危害行为。例如，保护工作流程可以包括：安全控制器110生成一个或更多个电子警报(例如，电子邮件、推送通知、短消息服务(SMS)消息和/或其类似者)并向与机构监视员相关的客户端120发送电子警报，所述电子警报将第一临床医师150a和/或第二临床医师150b识别为可能在高风险时段期间参与危害行为。
替代地和/或另外地，保护工作流程可以包括防止第一临床医师150a和/或第二临床医师150b在高风险时段期间进行某些活动(例如，检取、施用和/或废弃某些物质)。例如，保护工作流程可以包括：安全控制器110对一个或更多个医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)进行配置以限制和/或拒绝与某些物质的交互。安全控制器110可以对医疗装置进行配置以防止第一临床医师150a和/或第二临床医师150b在未经第三临床医师150c授权的情况下检取和/或施用某些物质。例如，作为保护工作流程的部分，分配柜可以配置为防止第一临床医师150a和/或第二临床医师150b在未经第三临床医师150c授权的情况下访问容纳处方止痛药剂的容器。
在一些示例性实施方案中，保护工作流程可以配置为收集危害行为的证据。例如，保护工作流程可以包括：安全控制器110每当第一临床医师150a和/或第二临床医师150b访问医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)时，激活在医疗装置处的一个或更多个监视装置(例如，视频摄像机、静态图像摄像机、音频记录器和/或其类似者)。替代地和/或另外地，保护工作流程可以包括：安全控制器110对医疗装置进行配置以隔离第一临床医师150a和/或第二临床医师150b取用的物质。
在一些示例性实施方案中，安全控制器110还可以配置为：通过至少将与第一临床医师150a相关的第一轮班和与第一临床医师150a相关的至少第二轮班和/或第二临床医师150b的第三轮班进行比较，将第一临床医师150a识别为可能已参与危害行为。应了解，安全控制器110可以选择性地比较两个或更多个轮班。即，安全控制器110可以比较因具有的一个或更多个共同属性而类似的两个或更多个轮班，一个或更多个共同属性包括例如持续时间、当日时间、机构、部门、患者和/或其类似者。此外，安全控制器110可以比较与不同临床医师相关的轮班，所述临床医师具有相同和/或类似的用户类型，用户类型包括例如医生、药剂师、护士管理人、护士从业者和/或其类似者。
安全控制器110可以通过至少将与第一临床医师150a相关的第一轮班中包括的事务记录和与第一临床医师150a相关的第二轮班和/或与第二临床医师150b相关的第三轮班中包括的事务记录进行比较，检测在与第一临床医师150a相关的第一轮班期间发生的危害行为的发生。在这样做时，安全控制器110可以检测包括一个或更多个异常事务记录的一个或更多个异常的存在。与第一临床医师150a相关的第一轮班中的异常的存在可以指示第一临床医师150a已参与包括例如转移和/或误处置物质的危害行为。
安全控制器110可以响应于将第一临床医师150a识别为可能已参与危害行为而激活保护工作流程。在一些示例性实施方案中，所述保护工作流程可以配置为防止危害行为的未来发生和/或收集与危害行为相关的证据。例如，保护工作流程可以包括安全控制器110生成并发送将第一临床医师150a识别为可能已参与危害行为的一个或更多个电子警报(例如，电子邮件、推送通知、短消息服务(SMS)消息和/或其类似者)。可以将一个或更多个电子警报发送到与机构监视员相关的客户端120。
在一些示例性实施方案中，保护工作流程还可以包括：安全控制器110每当第一临床医师150a访问医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)时，激活在医疗装置处的一个或更多个监视装置(例如，视频摄像机、静态图像摄像机、音频记录器和/或其类似者)。替代地和/或另外地，安全控制器110可以对医疗装置进行配置以隔离第一临床医师150a取用的物质。例如，安全控制器110可以响应于第一临床医师150a访问废弃站以处理未使用的物质而激活在废弃站处的监视装置。此外，安全控制器110可以对废弃站进行配置以隔离第一临床医师150a例如返还到指定容器中的未使用的物质，所述指定容器与容纳其它临床医师返还的未使用的物质的容器分开。
图2A描绘了流程图，其示出根据一些示例性实施方案的用于基于机器学习的安全控制的过程200的另一示例。参考图1和图2A，过程200可以由安全控制系统100执行，例如由安全控制器110执行。
在202处，安全控制器110可以通过至少应用机器学习模型来识别与临床医师相关的轮班，所述机器学习模型经过训练以至少基于与临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班。例如，安全控制器110可以应用机器学习模型115以便识别与第一临床医师150a相关的一个或更多个轮班。如所指出，机器学习模型115可以经过训练以至少基于与第一临床医师150a相关的一系列事务记录来识别与第一临床医师150a相关的一个或更多个轮班。
在一些示例性实施方案中，可以响应于第一临床医师150a与一个或更多个数据系统130交互而生成一系列事务记录中的每个事务记录，所述一个或更多个数据系统可以包括例如访问控制系统135a、分配系统135b和/或电子医疗记录系统135c。例如，可以响应于第一临床医师150a通过在治疗机构中的进入点处扫描访问标记而与访问控制系统135a交互来生成第一事务记录。此外，可以响应于第一临床医师150a与分配系统135b交互以检取、施用和/或废弃物质来生成第二事务记录。替代地和/或另外地，可以响应于第一临床医师150a在将物质施用于患者时与电子医疗记录(EMR)系统135c交互来生成第三事务记录。因此，机器学习模型115可以经过训练以辨识指示第一临床医师150a处于轮班的开始和/或轮班的结束的一个或更多个事务记录。
在204处，安全控制器110可以至少基于与临床医师相关的轮班来识别一个或更多个高风险时段。例如，安全控制器101可以至少基于与第一临床医师150a相关的轮班来识别一个或更多个高风险时段，在一个或更多个高风险时段期间第一临床医师150a可能参与例如转移和/或误处置物质的危害行为。高风险时段的示例可以包括轮班变化(例如，在轮班结束之前的n时间量和/或在轮班开始之后的n时间量)、轮班超过阈值时间量的部分和/或其类似者。
在206处，安全控制器110可以在一个或更多个高风险时段期间激活保护工作流程。在一些示例性实施方案中，安全控制器110可以激活保护工作流程，所述保护工作流程配置为防止第一临床医师150a在高风险时段期间参与危害行为和/或收集与危害行为相关的证据。例如，保护工作流程可以包括：安全控制器110生成一个或更多个电子警报(例如，电子邮件、推送通知、短消息服务(SMS)消息和/或其类似者)并且向与机构监视员相关的客户端120发送电子警报，所述电子警报将第一临床医师150a识别为可能在高风险时段期间参与危害行为。保护工作流程还可以包括：安全控制器110对一个或更多个医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)进行配置以限制和/或拒绝与某些物质的交互。例如，安全控制器110可以对医疗装置进行配置以防止第一临床医师150a在未经(例如，来自第三临床医师150c)额外授权的情况下检取和/或施用某些物质。
替代地和/或另外地，保护工作流程还可以包括：安全控制器110每当第一临床医师150a访问医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)时，激活在医疗装置处的一个或更多个监视装置(例如，视频摄像机、静态图像摄像机、音频记录器和/或其类似者)。保护工作流程还可以包括：安全控制器110对医疗装置进行配置以隔离第一临床医师150a取用的物质。
图2B描绘了流程图，其示出根据一些示例性实施方案的用于基于机器学习的安全控制的过程250的另一示例。参考图1和图2B，过程250可以由安全控制系统100执行，例如由安全控制器110执行。
在252处，安全控制器110可以通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班。在一些示例性实施方案中，安全控制器110可以应用机器学习模型115以便识别与第一临床医师150a相关的一个或更多个轮班。如所指出，机器学习模型115可以经过训练以至少基于与第一临床医师150a相关的一系列事务记录来识别与第一临床医师150a相关的一个或更多个轮班。
在254处，安全控制器110可以将与第一临床医师相关的第一轮班和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班进行比较。例如，安全控制器110可以将与第一临床医师150a相关的第一轮班中包括的事务记录和与第一临床医师150a相关的第二轮班和/或与第二临床医师150b相关的第三轮班中包括的事务记录进行比较。如所指出，安全控制器110可以通过至少比较一轮班和与同一临床医师和/或不同临床医师相关的类似轮班来检测所述轮班中异常行为的发生。因此，与第一临床医师150a相关的第一轮班、与第一临床医师150a相关的第二轮班和/或与第二临床医师150b相关的第三轮班可以共享至少一个共同属性，其包括例如持续时间、当日时间、机构、部门、患者和/或其类似者。
在256处，安全控制器110可以至少基于与第一临床医师相关的第一轮班、与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班之间的比较(例如，根据204)，检测在与第一临床医师相关的第一轮班期间异常行为的发生。在一些示例性实施方案中，安全控制器110可以将与第一临床医师150a相关的第一轮班中包括的事务记录和与第一临床医师150a相关的第二轮班和/或与第二临床医师150b相关的第三轮班中包括的事务记录进行比较，以便识别一个或更多个异常事务记录。异常事务可以是在一个轮班中出现但未在另一轮班中出现的事务。异常事务可以是在一个轮班中的给定时间和在另一轮班中的不同时间处出现的事务。可以利用聚合来识别异常事务。例如，在典型轮班中，临床医师可能执行十次某个类型的事务(例如，请求物质分配)，但在不同的轮班期间，所述类型的事务可能更频繁或没那么频繁地出现。可以利用阈值指定异常，所述阈值允许事务属性之间的小差异(例如，事务时间或分配请求的差异)，但标记超过所述阈值的差异。与第一临床医师150a相关的第一轮班中的一个或更多个异常事务记录的存在可以指示出第一临床医师150a已参与包括例如转移和/或误处置物质的危害行为。
在258处，安全控制器110可以响应于检测到在与第一临床医师相关的第一轮班期间异常行为的发生而激活保护工作流程。例如，安全控制器110可以确定出第一临床医师150a可能已参与例如转移和/或误处置物质的危害行为。因此，安全控制器110可以激活保护工作流程，所述保护工作流程配置为防止危害行为的未来发生和/或收集与危害行为相关的证据。例如，保护工作流程可以包括安全控制器110生成电子警报，所述电子警报包括例如无线警报消息，例如推送通知、短消息服务(SMS)消息和/或其类似者。可以将电子警报发送到可以与监视员相关的客户端120，所述监视员与第一临床医师150a相关。
在一些示例性实施方案中，保护工作流程还可以包括：安全控制器110对一个或更多个医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)进行配置以限制和/或拒绝与例如处方药剂、高价值医疗供给和/或其类似者的某些物质的交互。例如，安全控制器110可以对医疗装置进行配置以防止第一临床医师150a在未经(例如，来自第三临床医师150c)额外授权的情况下检取和/或施用某些物质。
替代地和/或另外地，保护工作流程还可以包括：安全控制器110每当第一临床医师150a访问医疗装置(例如，分配柜、输注泵、废弃站和/或其类似者)时，激活在医疗装置处的一个或更多个监视装置(例如，视频摄像机、静态图像摄像机、音频记录器和/或其类似者)。保护工作流程还可以包括：安全控制器110对医疗装置进行配置以隔离第一临床医师150a取用的物质。
图3描绘了框图，其示出与当前主题的实施方式一致的计算系统300。参考图1和图2，计算系统300可以用于实施安全控制器110和/或其中的任何组件。
如图3中所示，计算系统300可以包括：处理器310、存储器320、存储装置330和输入/输出装置340。处理器310、存储器320、存储装置330和输入/输出装置340可以经由系统总线350互连。处理器310能够处理用于在计算系统300内执行的指令。此类执行的指令可以执行例如安全控制器110的一个或更多个组件。在一些示例性实施方案中，处理器310可以是单线程处理器。或者，处理器310可以是多线程处理器。处理器310能够处理存储在存储器320中和/或存储装置330上的指令，以显示经由输入/输出装置340提供的用户界面的图形信息。
存储器320是将信息存储在计算系统300内的诸如易失性或非易失性的计算机可读介质。例如，存储器320可以存储表示配置对象数据库的数据结构。存储装置330能够为计算系统300提供永久性存储。存储装置330可以是软盘装置、硬盘装置、光盘装置、磁带装置、固态装置和/或任何其它合适的永久性存储构件。输入/输出装置340提供计算系统300的输入/输出操作。在一些示例性实施方案中，输入/输出装置340包括键盘和/或指向装置。在各种实施方式中，输入/输出装置340包括用于显示图形用户界面的显示单元。
根据一些示例性实施方案，输入/输出装置340可以为网络装置提供输入/输出操作。例如，输入/输出装置340可以包括以太网端口或其它联网端口以与一个或更多个有线和/或无线网络(例如，局域网(LAN)、广域网(WAN)、互联网)通信。
在一些示例性实施方案中，计算系统300可以用于执行各种交互的计算机软件应用程序，所述应用程序可以用于各种格式的数据的组织、分析和/或存储。或者，计算系统300可以用于执行任何类型的软件应用程序。这些应用程序可以用于执行各种功能，例如计划功能(例如，电子数据表文档、文字处理文档和/或任何其它对象等的生成、管理、编辑)、计算功能、通信功能等。所述应用程序可以包括各种加载项功能，或者可以是独立的计算产品和/或功能。在应用程序内激活后，功能可以用于生成经由输入/输出装置340提供的用户界面。用户界面可以由计算系统300(例如，在计算机屏幕监视器等上)生成并向用户呈现。
本文所描述的主题的一个或更多个方面或特征可以在数字电子电路、集成电路、专门设计的ASIC、现场可编程门阵列(FPGA)计算机硬件、固件、软件和/或其组合中实现。这些各种方面或特征可以包括能够在可编程系统上执行和/或解译的一个或更多个计算机程序中的实施方式，所述可编程系统包括可以是专用的或通用的至少一个可编程处理器，所述处理器被联接以从存储系统、至少一个输入装置和至少一个输出装置接收数据和指令以及向它们传输数据和指令。可编程系统或计算系统可以包括客户端和服务器。客户端和服务器通常彼此远离并且通常通过通信网络交互。客户端和服务器的关系借助于在相应计算机上运行并且彼此具有客户端-服务器关系的计算机程序产生。
也可以称为程序、软件、软件应用程序、应用程序、组件或代码的这些计算机程序包括用于可编程处理器的机器指令并且可以高级程序化和/或面向对象的编程语言和/或以汇编/机器语言来实施。如本文所使用，术语“机器可读介质”是指用以将机器指令和/或数据提供到可编程处理器的任何计算机程序产品、设备和/或装置，例如磁盘、光盘、存储器和可编程逻辑装置(PLD)，包括接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”是指用以将机器指令和/或数据提供到可编程处理器的任何信号。机器可读介质可以例如像非易失性固态存储器或磁性硬盘驱动器或任何等同存储介质那样非易失地存储此类机器指令。机器可读介质可以替代地或另外地以易失性方式存储此类机器指令，例如像与一个或更多个物理处理器核心相关的处理器高速缓存或其它随机存取存储器那样。
为了提供与用户的交互，本文所描述的主题的一个或更多个方面或特征可以实施于具有显示装置以及键盘和指向装置的计算机上，所述显示装置例如用于向用户显示信息的阴极射线管(CRT)或液晶显示器(LCD)或发光二极管(LED)监视器，所述指向装置例如鼠标或轨迹球，由此用户可以向计算机提供输入。其它类型的装置也可以用于提供与用户的交互。例如，提供给用户的反馈可以是任何形式的感觉反馈，例如视觉反馈、听觉反馈或触觉反馈；并且可以采用任何形式来接收来自用户的输入，包括声学、语音或触觉输入。其它可能的输入装置包括触摸屏或例如单点或多点电阻式或电容式跟踪垫的其它触敏装置、语音识别硬件和软件、光学扫描器、光学指针、数字图像捕捉装置和相关解译软件等。
在以上描述中以及在权利要求书中，可能出现例如“……中的至少一个”或“……中的一个或多个”的短语，之后是要素或特征的组合列表。术语“和/或”也可以出现在两个或更多个要素或特征的列表中。除非另有隐含或明确地与其使用的上下文相矛盾，否则此类短语旨在表示单独地列出的要素或特征中的任一个，或与其它记载的要素或特征相结合的记载要素或特征中的任一个。例如，短语“A和B中的至少一个”；“A和B中的一个或更多个”；以及“A和/或B”各自表示“单独A、单独B、或A和B一起”。类似解释也旨在用于包括三个或更多个项目的列表。例如，短语“A、B和C中的至少一个”；“A、B和C中的一个或更多个”；以及“A、B和/或C”各自旨在表示“单独A、单独B、单独C、A和B一起、A和C一起、B和C一起，或A、B和C一起”。在上文和权利要求书中，使用术语“基于”旨在表示“至少部分地基于”，使得也允许未记载的特征或要素。
如本文中所使用的，术语“确定”或“确定出”涵盖广泛的多种动作。例如，“确定”可以包括在没有用户干预的情况下经由硬件元件计算、运算、处理、推导、生成、获得、查找(例如，在表、数据库或其它数据结构中查找)、确认等。另外，“确定”可以包括在没有用户干预的情况下经由硬件元件接收(例如，接收信息)、访问(例如，访问存储器中的数据)等。“确定”可以包括在没有用户干预的情况下经由硬件元件进行分辨、选择、挑选、建立等。
如本文中所使用的，术语“提供”或“提供有”涵盖广泛的多种动作。例如，“提供”可以包括将值存储在存储装置的一个位置中以供后续检索、经由至少一个有线或无线通信介质直接向接收方传输值、传输或存储值的参考等。“提供”还可以包括经由硬件元件进行编码、解码、加密、解密、验证、检验等。
如本文中所使用的，术语“消息”涵盖用于传送(例如，传输或接收)信息的广泛的多种格式。消息可以包括例如XML文件、固定字段消息、逗号分隔的消息等的信息的机器可读聚合。在一些实施方式中，消息可以包括用以传输信息的一个或更多个表示的信号。虽然以单数形式记载，但应理解，消息可以在多个部分中组合、传输、存储、接收等。
如本文中所使用的，术语“选择性地”或“选择性”可以涵盖广泛的多种动作。例如，“选择性”过程可以包括从多个选项确定一个选项。“选择性”过程可以包括以下中的一个或更多个：为了作出确定的动态地确定的输入、预配置的输入或用户发起的输入。在一些实施方式中，可以包括n输入开关以在n是用于作出选择的输入数目的情况下提供选择性功能。
如本文中所使用的，术语“相对应”或“相应”涵盖两个或更多个对象、数据集、信息和/或其类似者之间的结构、功能、定量和/或定性相关性或关系，优选的是对应性或关系可以用于转化两个或更多个对象、数据集、信息和/或其类似者中的一个或更多个以呈现为相同的或等同的。可以利用阈值、值范围、模糊逻辑、图案匹配、机器学习测评模型或其组合中的一个或更多个来测评对应性。
在任何实施方案中，数据可以转发到“远程”装置或位置，其中“远程”意指执行程序的位置或装置之外的位置或装置。例如，远程位置可以是同一城市中的另一位置(例如，办公室、实验室等)、不同城市中的另一位置、不同州中的另一位置、不同国家中的另一位置等。由此，当一个项目被指示为处于另一项目的“远程”处时，这意指这两个项目可以在同一房间中但是分开的，或至少在不同房间或不同建筑物中，并且可以分开至少一英里、十英里或至少一百英里。“传送”信息是指将表示所述信息的数据作为电信号通过合适的通信信道(例如，私网或公网)传输。“转发”项目是指使无论以物理方式输送所述项目还是以其它方式(在可能的情况下)使所述项目从一个位置到下一位置的任何方法，并且至少在数据的情况下包括以物理方式输送携载所述数据的介质或传送所述数据。传送介质的示例包括无线电或红外传输信道以及到另一计算机或联网装置和互联网的网络连接，或包括电子邮件传输和记录在网站上的信息等。
可以通过模型完全或部分地实施所描述的人工智能的一个或更多个方面。模型可以实施为机器学习模型。所述学习可以是受监督、无监督、增强或混合学习，由此多个学习技术用以生成模型。可以作为训练的部分来执行学习。训练所述模型可以包括获得训练数据集并调整模型的特性，以获得期望的模型输出。例如，三个特性可以与期望的装置状态相关。在此类实例中，训练可以包括接收三个特性作为模型的输入并且调整模型的特性，使得对于三个特性集的每个中，输出装置状态匹配与历史数据相关的期望装置状态。
在一些实施方式中，训练可以是动态的。例如，系统可以利用事件集来更新模型。来自事件的可检测特性可以用于调整模型。
所述模型可以是等式、人工神经网络、递归神经网络、卷积神经网络、决策树或其它机器可读人工智能结构。在训练期间可供用于调整的结构特性可以基于选择的模型而改变。例如，如果神经网络是选择的模型，则特性可以包括输入元素、网络层、节点密度、节点激活阈值、节点之间的权重、输入或输出值权重等。如果将模型实施为等式(例如，回归)，则特性可以包括输入参数的权重、用于评估输出值的阈值或限值、或用于从等式集进行选择的准则。
在模型训练后，可以包括重新训练以优化或更新模型，从而反映额外数据或特定操作条件。所述重新训练可以基于由本文所描述的装置检测到的一个或更多个信号或作为本文所描述的方法的部分。在检测到指定信号后，系统可以激活训练过程以调整模型，如所描述的。
可以包括在上文所论述的实施方案中的机器学习和建模特征的另外示例描述于EURASIP信号处理进展期刊(EURASIP Journal on Advances in Signal Processing)(2016)中由邱(Qiu)等人发表的“对于大数据处理的机器学习综述(A survey of machinelearning for big data processing)”中，此文以全文引用的方式并入本文中。
如本文所使用的，“用户界面”(也称为交互式用户界面、图形用户界面或UI)可以指基于网络的接口，其包括用于接收输入信号或提供电子信息和/或用于响应于任何接收到的输入信号而提供信息给用户的数据字段和/或其它控制元素。控制元素可以包括经由UI呈现的拨号盘、按钮、图标、可选择区域或其它可感知标记，当与UI交互(例如，点击、触摸、选择等)时，所述UI针对呈现UI的装置发起数据交换。可以利用诸如超文本标记语言(HTML)、FLASHTM、JAVATM、NETTM、网络服务或丰富站点摘要(RSS)的技术来完全或部分地实现UI。在一些实施方式中，UI可以包括在配置为根据描述的一个或更多个方面进行通信(例如，发送或接收数据)的独立客户端(例如，胖型客户端、胖客户端)中。通信可以至或来自医疗装置、诊断装置、监测装置、或与它们通信的服务器。
根据期望的配置，本文中所描述的主题可以体现在系统、设备、方法和/或制品中。前文描述中阐述的实施方式并不表示符合本文中所描述的主题的所有实施方式。反而，这些实施方式仅是符合与所描述的主题相关的方面的一些示例。尽管上文已详细描述了几个变化形式，但其它修改或添加也是可能的。具体来说，除了本文阐述的那些内容之外，还可以提供另外的特征和/或变化形式。例如，上文所描述的实施方式可以涉及所公开的特征的各种组合和子组合和/或上文所公开的若干另外特征的组合和子组合。另外，附图中所描绘的和/或本文中所描述的逻辑流未必需要示出的特定次序或顺序来实现所期望的结果。其它实施方式可以在所附权利要求书的范围内。

Claims (39)

1.一种系统，其包括：
至少一个数据处理器；以及
至少一个存储器，其存储指令，所述指令在由至少一个数据处理器执行时产生包括以下各项的操作：
通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；
至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为；以及
响应于确定出第一临床医师可能参与危害行为而激活保护工作流程。
2.根据权利要求1所述的系统，其还包括：
将与第一临床医师相关的第一轮班和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班进行比较；以及
至少基于所述比较来确定第一临床医师可能参与危害行为。
3.根据权利要求2所述的系统，其中，通过至少将与第一临床医师相关的第一轮班中包括的第一多个事务记录和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班中包括的第二多个事务记录进行比较，将第一轮班与第二轮班和/或第三轮班进行比较。
4.根据权利要求3所述的系统，其中，响应于检测到第一多个事务记录中包括的一个或更多个异常事务记录，确定第一临床医师可能参与危害行为。
5.根据权利要求2至4中任一项所述的系统，其中，至少基于与第一临床医师相关的第一轮班具有和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班共同的一个或更多个属性，将第一轮班与第二轮班和/或第三轮班进行比较。
6.根据权利要求2至5中任一项所述的系统，其中，至少基于第一临床医师和第二临床医师具有共同的一个或更多个属性，将与第一临床医师相关的第一轮班和与第二临床医师相关的第三轮班进行比较。
7.根据权利要求1至6中任一项所述的系统，其还包括：
至少基于与第一临床医师相关的第一轮班，识别第一临床医师在其间可能参与危害行为的一个或更多个高风险时段；以及
在一个或更多个高风险时段期间激活保护工作流程。
8.根据权利要求7所述的系统，其中，所述一个或更多个高风险时段包括第一轮班的开始之后的第一时间量和第一轮班的结束之前的第二时间量中的至少一个。
9.根据权利要求7至8中任一项所述的系统，其中，所述一个或更多个高风险时段包括第一轮班中超过阈值时间量的部分。
10.根据权利要求1至9中任一项所述的系统，其中，所述机器学习模型包括概率机器学习模型，并且其中，所述概率机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来确定第一临床医师处于上班状态和处于下班状态的概率。
11.根据权利要求10所述的系统，其中，从下班状态到上班状态的第一转换对应于与第一临床医师相关的第一轮班的开始，并且其中，从上班状态到下班状态的第二转换对应于与第一临床医师相关的第一轮班的结束。
12.根据权利要求10至11中任一项所述的系统，其中，利用强化学习技术来训练概率机器学习模型，所述强化学习技术包括：Q学习、蒙特卡罗、状态-动作-奖励-状态-动作(SARSA)、深度Q网络(DQN)、深度确定性策略梯度(DDPG)、异步演员-评论家算法(A3C)、信任域策略优化(TRPO)和/或近端策略优化(PPO)。
13.根据权利要求1至12中任一项所述的系统，其中，所述一系列事务记录包括：响应于第一临床医师与访问控制系统交互而生成的一个或更多个事务记录，并且其中，事务记录指示经由访问控制系统在治疗机构的进入点处扫描访问标记。
14.根据权利要求1至13中任一项所述的系统，其中，所述一系列事务记录包括：响应于第一临床医师与分配系统交互而生成的一个或更多个事务记录，并且其中，事务记录指示访问与分配系统相关的分配柜以检取物质。
15.根据权利要求1至14中任一项所述的系统，其中，所述一系列事务记录包括：响应于第一临床医师与电子医疗记录(EMR)系统交互而生成的一个或更多个事务记录，并且其中，事务记录指示物质施用于EMR系统中识别的患者。
16.根据权利要求1至15中任一项所述的系统，其中，所述保护工作流程包括生成警报，所述警报将第一临床医师识别为可能参与危害行为。
17.根据权利要求1至16中任一项所述的系统，其中，所述保护工作流程包括：响应于第一临床医师与医疗装置交互而激活一个或更多个监视装置和/或隔离由第一临床医师取用的物质。
18.根据权利要求1至17中任一项所述的系统，其中，所述保护工作流程包括：对一个或更多个医疗装置进行配置以防止第一临床医师在未经第二临床医师授权的情况下检取、施用和/或废弃物质。
19.一种计算机实施的方法，其包括：
通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；
至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为；以及
响应于确定出第一临床医师可能参与危害行为而激活保护工作流程。
20.根据权利要求19所述的方法，其还包括：
将与第一临床医师相关的第一轮班和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班进行比较；以及
至少基于所述比较来确定第一临床医师可能参与危害行为。
21.根据权利要求20所述的方法，其中，通过至少将与第一临床医师相关的第一轮班中包括的第一多个事务记录和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班中包括的第二多个事务记录进行比较，将第一轮班与第二轮班和/或第三轮班进行比较。
22.根据权利要求21所述的方法，其中，响应于检测到第一多个事务记录中包括的一个或更多个异常事务记录，确定第一临床医师可能参与危害行为。
23.根据权利要求20至22中任一项所述的方法，其中，至少基于与第一临床医师相关的第一轮班具有和与第一临床医师相关的第二轮班和/或与第二临床医师相关的第三轮班共同的一个或更多个属性，将第一轮班与第二轮班和/或第三轮班进行比较。
24.根据权利要求20至23中任一项所述的系统，其中，至少基于第一临床医师和第二临床医师具有共同的一个或更多个属性，将与第一临床医师相关的第一轮班和与第二临床医师相关的第三轮班进行比较。
25.根据权利要求19至24中任一项所述的方法，其还包括：
至少基于与第一临床医师相关的第一轮班，识别第一临床医师在其间可能参与危害行为的一个或更多个高风险时段；以及
在一个或更多个高风险时段期间激活保护工作流程。
26.根据权利要求25所述的方法，其中，所述一个或更多个高风险时段包括第一轮班的开始之后的第一时间量和第一轮班的结束之前的第二时间量中的至少一个。
27.根据权利要求19至26中任一项所述的方法，其中，所述一个或更多个高风险时段包括第一轮班中超过阈值时间量的部分。
28.根据权利要求19至27中任一项所述的方法，其中，所述机器学习模型包括概率机器学习模型，并且其中，所述概率机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来确定第一临床医师处于上班状态和处于下班状态的概率。
29.根据权利要求28所述的方法，其中，从下班状态到上班状态的第一转换对应于与第一临床医师相关的第一轮班的开始，并且其中，从上班状态到下班状态的第二转换对应于与第一临床医师相关的第一轮班的结束。
30.根据权利要求29所述的方法，其中，利用强化学习技术训练概率机器学习模型，所述强化学习技术包括：Q学习、蒙特卡罗、状态-动作-奖励-状态-动作(SARSA)、深度Q网络(DQN)、深度确定性策略梯度(DDPG)、异步演员-评论家算法(A3C)、信任域策略优化(TRPO)和/或近端策略优化(PPO)。
31.根据权利要求19至20中任一项所述的方法，其中，所述一系列事务记录包括：响应于第一临床医师与访问控制系统交互而生成的一个或更多个事务记录，并且其中，事务记录指示经由访问控制系统在治疗机构的进入点处扫描访问标记。
32.根据权利要求19至31中任一项所述的方法，其中，所述一系列事务记录包括：响应于第一临床医师与分配系统交互而生成的一个或更多个事务记录，并且其中，事务记录指示访问与分配系统相关的分配柜以检取物质。
33.根据权利要求19至32中任一项所述的方法，其中，所述一系列事务记录包括：响应于第一临床医师与电子医疗记录(EMR)系统交互而生成的一个或更多个事务记录，并且其中，事务记录指示物质施用于EMR系统中识别的患者。
34.根据权利要求19至33中任一项所述的方法，其中，所述保护工作流程包括生成警报，所述警报将第一临床医师识别为可能参与危害行为。
35.根据权利要求19至34中任一项所述的方法，其中，所述保护工作流程包括：响应于第一临床医师与医疗装置交互而激活一个或更多个监视装置和/或隔离由第一临床医师取用的物质。
36.根据权利要求19至35中任一项所述的方法，其中，所述保护工作流程包括：对一个或更多个医疗装置进行配置以防止第一临床医师在未经第二临床医师授权的情况下检取、施用和/或废弃物质。
37.一种非易失性计算机可读介质，其存储指令，所述指令在由至少一个数据处理器执行时产生包括以下各项的操作：
通过至少应用机器学习模型来识别与临床医师相关的轮班，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与临床医师相关的一个或更多个轮班；
至少基于与临床医师相关的轮班来确定临床医师可能参与危害行为；以及
响应于确定出临床医师可能参与危害行为而激活保护工作流程。
38.一种设备，其包括：
用于通过至少应用机器学习模型来识别与第一临床医师相关的第一轮班的构件，所述机器学习模型经过训练以至少基于与第一临床医师相关的一系列事务记录来识别与第一临床医师相关的一个或更多个轮班；
用于至少基于与第一临床医师相关的第一轮班来确定第一临床医师可能参与危害行为的构件；以及
用于响应于确定出第一临床医师可能参与危害行为而激活保护工作流程的构件。
39.根据权利要求38所述的设备，其中，所述设备还配置为执行根据权利要求19至36中任一项所述的功能。
CN202080017942.4A 2019-01-07 2020-01-07 基于机器学习的安全控制器 Pending CN113507914A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962789337P 2019-01-07 2019-01-07
US62/789,337 2019-01-07
PCT/US2020/012605 WO2020146407A1 (en) 2019-01-07 2020-01-07 Machine learning based safety controller

Publications (1)

Publication Number Publication Date
CN113507914A true CN113507914A (zh) 2021-10-15

Family

ID=69423431

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080017942.4A Pending CN113507914A (zh) 2019-01-07 2020-01-07 基于机器学习的安全控制器

Country Status (6)

Country Link
US (1) US11804295B2 (zh)
CN (1) CN113507914A (zh)
CA (1) CA3125744A1 (zh)
DE (1) DE112020000335T5 (zh)
GB (1) GB2595108B (zh)
WO (1) WO2020146407A1 (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11081220B2 (en) 2018-02-02 2021-08-03 Carefusion 303, Inc. System and method for dispensing medication
US11222721B2 (en) 2018-05-04 2022-01-11 Carefusion 303, Inc. Peer community based anomalous behavior detection
WO2020150596A1 (en) 2019-01-18 2020-07-23 Carefusion 303, Inc. Medication tracking system
WO2022271384A1 (en) * 2021-06-25 2022-12-29 Carefusion 303, Inc. Automated dispensing cabinet trip management system

Family Cites Families (120)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5945651A (en) 1997-07-17 1999-08-31 Chorosinski; Leonard Remotely programmable medication dispensing system
US6842736B1 (en) 1998-10-21 2005-01-11 David J. Brzozowski Drug auditing method and system
US8666757B2 (en) 1999-07-28 2014-03-04 Fair Isaac Corporation Detection of upcoding and code gaming fraud and abuse in prospective payment healthcare systems
US9427520B2 (en) 2005-02-11 2016-08-30 Carefusion 303, Inc. Management of pending medication orders
US20040172283A1 (en) 2003-02-09 2004-09-02 Vanderveen Timothy W. Medication management and event logger and analysis system
US6868344B1 (en) 2001-06-22 2005-03-15 Vigilant Devices, Llc Controlled substance analysis, wastage disposal and documentation system, apparatus and method
US6650964B2 (en) 2002-04-16 2003-11-18 Mckesson Automation Inc. Medication dispensing apparatus override check and communication system
US7184897B2 (en) 2002-06-19 2007-02-27 Vigilant Devices, Llc Controlled substance analysis, wastage disposal and documentation system, apparatus and method
US20080319795A1 (en) 2002-11-21 2008-12-25 Cdex, Inc. System and methods for detection and identification of chemical substances
NZ542646A (en) 2003-03-28 2008-10-31 Cardinal Health 303 Inc Infusion data communication system
US7275645B2 (en) 2003-09-19 2007-10-02 Vesta Medical, Llc Handheld medical waste sorting device
US7562025B2 (en) 2003-09-19 2009-07-14 Vesta Medical, Llc Waste sorting system with query function, and method thereof
US7318529B2 (en) 2003-09-19 2008-01-15 Vest Medical, Llc Method for sorting discarded and spent pharmaceutical items
US7303081B2 (en) 2003-09-19 2007-12-04 Vesta Medical, Llc Handheld medical waste sorting method
WO2005029286A2 (en) 2003-09-19 2005-03-31 Vesta Medical, Llc System and method for sorting medical waste for disposal
US7311207B2 (en) 2003-09-19 2007-12-25 Vesta Medical, Llc System for sorting discarded and spent pharmaceutical items
US7660724B2 (en) 2003-09-19 2010-02-09 Vesta Medical, Llc Waste sorting system utilizing removable liners
US8195328B2 (en) 2003-09-19 2012-06-05 Vesta Medical, Llc Combination disposal and dispensing apparatus and method
US8340981B1 (en) 2004-03-02 2012-12-25 Cave Consulting Group, Inc. Method, system, and computer program product for physician efficiency measurement and patient health risk stratification utilizing variable windows for episode creation
US20060062734A1 (en) 2004-09-20 2006-03-23 Melker Richard J Methods and systems for preventing diversion of prescription drugs
US20080140715A1 (en) 2005-02-08 2008-06-12 George Hakos Method and Apparatus for Tracking the Distribution of Pharmaceutical Products
US8753308B2 (en) 2006-01-06 2014-06-17 Acelrx Pharmaceuticals, Inc. Methods for administering small volume oral transmucosal dosage forms using a dispensing device
US8357114B2 (en) 2006-01-06 2013-01-22 Acelrx Pharmaceuticals, Inc. Drug dispensing device with flexible push rod
US20080082360A1 (en) 2006-09-29 2008-04-03 Clear-View-Technologies, Inc Inventory monitoring and control applications
US7805391B2 (en) 2007-02-26 2010-09-28 International Business Machines Corporation Inference of anomalous behavior of members of cohorts and associate actors related to the anomalous behavior
US20080306796A1 (en) 2007-06-07 2008-12-11 Cardinal Health 303, Inc. Method and system for providing closed-loop operations consulting and optimization
US8280550B2 (en) 2008-06-17 2012-10-02 Omnicell, Inc. Cabinet with remote integration
EP2191399A1 (en) 2007-09-21 2010-06-02 International Business Machines Corporation System and method for analyzing electronic data records
US20090160646A1 (en) 2007-12-20 2009-06-25 General Electric Company System and method for monitoring and tracking inventories
US8319669B2 (en) 2009-04-22 2012-11-27 Jeffrey C Weller Text entry device with radial keypad layout
US9177269B2 (en) 2009-05-29 2015-11-03 International Business Machines Corporation Complexity reduction of user tasks
US8284068B2 (en) 2009-07-14 2012-10-09 Sam Johnson Activity monitor to alleviate controlled substance abuse
JP2011022705A (ja) 2009-07-14 2011-02-03 Hitachi Ltd 証跡管理方法、システム、及びプログラム
US8147479B1 (en) 2009-07-14 2012-04-03 Cell Precision, LLC Monitoring stress on a therapeutic agent during patient delivery
US20110161108A1 (en) * 2009-12-30 2011-06-30 Mckesson Automation Inc. Systems and methods for detecting diversion in drug dispensing
WO2011119511A1 (en) 2010-03-24 2011-09-29 Vesta Medical, Llc Systems and methods for disposing narcotic and other regulated waste
US20170017760A1 (en) 2010-03-31 2017-01-19 Fortel Analytics LLC Healthcare claims fraud, waste and abuse detection system using non-parametric statistics and probability based scores
US8768724B2 (en) 2010-04-27 2014-07-01 The Travelers Indemnity Company System and method for detecting drug fraud and abuse
US8606596B1 (en) 2010-06-27 2013-12-10 Crisi Medical Systems, Inc. Medication waste and data collection system
CA2802916C (en) 2010-07-01 2015-11-17 Pcas Patient Care Automation Services Inc. Vending machine for storage, labeling and dispensing of a container
AU2015264875B2 (en) 2010-08-13 2017-10-12 Respiratory Motion, Inc. Devices and methods for respiratory variation monitoring by measurement of respiratory volumes, motion and variability
SG187977A1 (en) 2010-09-09 2013-04-30 S E A Medical Systems Inc Systems and methods for intravenous drug management using immittance spectroscopy
US9636273B1 (en) 2010-12-06 2017-05-02 Vatex Explorations, LLC Drug monitoring methods and systems
US9836485B2 (en) 2011-02-25 2017-12-05 International Business Machines Corporation Auditing database access in a distributed medical computing environment
US9067014B2 (en) 2011-03-04 2015-06-30 Becton, Dickinson And Company Attachment device for identifying constituents within a fluid
AU2012250765B2 (en) 2011-05-02 2017-04-06 Omnicell, Inc. Facility-wide medication management systems
US10293107B2 (en) 2011-06-22 2019-05-21 Crisi Medical Systems, Inc. Selectively Controlling fluid flow through a fluid pathway
US20130018356A1 (en) 2011-07-13 2013-01-17 Crisi Medical Systems, Inc. Characterizing medication container preparation, use, and disposal within a clinical workflow
US9910965B2 (en) 2011-09-16 2018-03-06 Aesynt Incorporated Systems, methods and computer program product for monitoring interactions with a medication storage device
US8790307B2 (en) 2011-12-01 2014-07-29 Picolife Technologies, Llc Drug delivery device and methods therefor
US10762173B2 (en) 2011-12-05 2020-09-01 Omnicell, Inc. System and method for managing inventory at dispensing units
WO2013120029A1 (en) 2012-02-10 2013-08-15 Abiogenix Inc. Dispensing device
US9443370B2 (en) 2012-03-26 2016-09-13 Omnicare, Inc. Method and apparatus for onsite distribution of medications and medical supplies
US20130282392A1 (en) 2012-04-20 2013-10-24 Scott Wurm System and method of securely storing, dispensing, and inventorying medications and samples
US8725532B1 (en) 2012-06-29 2014-05-13 Mckesson Financial Holdings Systems and methods for monitoring controlled substance distribution
US11116892B2 (en) 2012-08-28 2021-09-14 Osprey Medical, Inc. Medium injection diversion and measurement
US20140081652A1 (en) 2012-09-14 2014-03-20 Risk Management Solutions Llc Automated Healthcare Risk Management System Utilizing Real-time Predictive Models, Risk Adjusted Provider Cost Index, Edit Analytics, Strategy Management, Managed Learning Environment, Contact Management, Forensic GUI, Case Management And Reporting System For Preventing And Detecting Healthcare Fraud, Abuse, Waste And Errors
US11246800B2 (en) 2012-10-05 2022-02-15 Alixa Rx, Llc Locking canister for dispensing medications
US20140149131A1 (en) 2012-11-27 2014-05-29 Covectra, Inc. Methods and systems for drug diversion tracking
US9342484B2 (en) 2013-01-30 2016-05-17 Carefusion 303, Inc. Variable dose dispensing system
CA2897959A1 (en) 2013-02-16 2014-08-21 Diversion Detection Technologies, Llc Method and apparatus for detecting controlled substance abuse or diversion
US20170083681A1 (en) 2013-02-16 2017-03-23 Michael Phillip Sprintz Method and apparatus for generating a clinical presentation related to controlled substance abuse or diversion
US9355071B2 (en) 2013-03-01 2016-05-31 Sas Institute Inc. System and method for Multivariate outlier detection
US9354178B2 (en) 2013-03-05 2016-05-31 Smiths Detection Inc. Transmission raman sample analysis
WO2014145074A1 (en) 2013-03-15 2014-09-18 Makefield Llc Functional desiccants
US9523635B2 (en) 2013-06-20 2016-12-20 Rigaku Raman Technologies, Inc. Apparatus and methods of spectral searching using wavelet transform coefficients
US9202052B1 (en) 2013-06-21 2015-12-01 Emc Corporation Dynamic graph anomaly detection framework and scalable system architecture
US20160166766A1 (en) 2013-07-12 2016-06-16 Oscillari Llc Acoustic based drug delivery monitor
US9561324B2 (en) 2013-07-19 2017-02-07 Bigfoot Biomedical, Inc. Infusion pump system and method
TW201517616A (zh) 2013-10-18 2015-05-01 Amaryllo International Inc 監視攝影裝置之控制方法及控制系統
US9779407B2 (en) 2014-08-08 2017-10-03 Brighterion, Inc. Healthcare fraud preemption
GB201405561D0 (en) 2014-03-27 2014-05-14 Smiths Detection Watford Ltd Detector inlet and sampling method
US9572748B2 (en) 2014-03-28 2017-02-21 Celico Partnership Prescription container and service for monitoring patients
US20150286783A1 (en) * 2014-04-02 2015-10-08 Palo Alto Research Center Incorporated Peer group discovery for anomaly detection
US20150362350A1 (en) 2014-05-09 2015-12-17 Marqmetrix, Inc. External Sensing Device for Machine Fluid Status and Machine Operation Status
WO2015172018A1 (en) 2014-05-09 2015-11-12 Marqmetrix, Inc. Constant fluid level and equipment monitor
WO2015187682A1 (en) 2014-06-02 2015-12-10 Marqmetrix, Inc. External sensing device for machine fluid status and machine operation status
WO2015195479A1 (en) 2014-06-16 2015-12-23 Murphy Brown, Llc Method and system for in-line analysis of products
US10101269B2 (en) 2014-07-30 2018-10-16 Smiths Detection Inc. Estimation of water interference for spectral correction
US9752935B2 (en) 2014-08-29 2017-09-05 Marqmetrix, Inc. Portable analytical equipment
JP6313908B2 (ja) 2014-09-03 2018-04-18 ゼブラ スキマーズ コーポレイションＺｅｂｒａ Ｓｋｉｍｍｅｒｓ Ｃｏｒｐ． 液体供給方法および液体供給システム
US20160161705A1 (en) 2014-12-04 2016-06-09 Marqmetrix, Inc. Removable optical assembly
US20160283691A1 (en) 2015-03-23 2016-09-29 Ammar Ali System, Method and Container Assembly for Prevention of Drug Diversion and for Compliance Assurance
US10591388B2 (en) 2015-04-27 2020-03-17 Virtual Fluid Monitoring Services LLC Fluid analysis and monitoring using optical spectroscopy
US20170032102A1 (en) 2015-05-01 2017-02-02 Ahkeo Ventures LLC Systems and methods for medical dispensing, management and monitoring
WO2016179033A2 (en) 2015-05-04 2016-11-10 Carefusion 303, Inc. Fluid infusion systems and methods
US9796526B2 (en) 2015-07-27 2017-10-24 Call2Recycle, Inc. Receptacle for secure collection of waste
US20170076065A1 (en) 2015-09-10 2017-03-16 Lynx Rx, Inc. System, device, and automated method for verification of medication integrity and chain of custody
US9953160B2 (en) 2015-10-13 2018-04-24 Paypal, Inc. Applying multi-level clustering at scale to unlabeled data for anomaly detection and security
US10515722B2 (en) * 2015-10-15 2019-12-24 Omnicell, Inc. Medical equipment with diversion mechanism
CA3001135A1 (en) 2015-10-16 2017-04-20 Carefusion 303, Inc. Controlled substance diversion detection systems and methods
WO2017083748A1 (en) 2015-11-13 2017-05-18 Mayo Foundation For Medical Education And Research Medication administration auditing systems and methods
US10032344B2 (en) 2016-03-29 2018-07-24 Vigilant Waste Technologies, Inc. Systems, apparatuses, and methods for disposing and documenting the disposal of controlled substances
US10675221B2 (en) 2016-07-26 2020-06-09 The Regents Of The University Of California Systems and methods for controlling and monitoring medication dispensation
US20180039736A1 (en) 2016-08-08 2018-02-08 Alicia Williams System and Method for Automated Tracking and Analysis of Pharmaceutical Use within Healthcare Facilities
WO2018035369A1 (en) 2016-08-17 2018-02-22 Nisha Sawhney Injection monitoring device and system
US10345242B2 (en) 2016-11-08 2019-07-09 B&W Tek Llc Reverse intensity correction for Raman spectral library search
US10956538B2 (en) 2016-12-03 2021-03-23 Verily Life Sciences Llc Low-power systems and methods for determining measurement times of values obtained by a measuring device
US10631777B2 (en) 2017-01-11 2020-04-28 Boston Scientific Neuromodulation Corporation Pain management based on functional measurements
US9958324B1 (en) 2017-02-15 2018-05-01 MarqMetrix Inc. Enclosed benchtop raman spectrometry device
US10408675B2 (en) 2017-02-15 2019-09-10 Marqmetrix, Inc. Enclosed benchtop Raman spectrometry device
SG11201907669UA (en) 2017-02-28 2019-09-27 Marqmetrix Inc Fluid flow cell including a spherical lens
US10187288B2 (en) 2017-03-09 2019-01-22 Caterpillar Inc. Communicating data link information using a light source
EP3622423A1 (en) * 2017-05-12 2020-03-18 The Regents of The University of Michigan Individual and cohort pharmacological phenotype prediction platform
US10522252B2 (en) * 2017-06-16 2019-12-31 Carefusion 303, Inc. Opioid management system
US10318729B2 (en) 2017-07-26 2019-06-11 Forcepoint, LLC Privacy protection during insider threat monitoring
EP3662271B1 (en) 2017-07-31 2023-10-11 Smiths Detection Inc. System for determining the presence of a substance of interest in a sample
US11448588B2 (en) 2017-08-07 2022-09-20 Horiba, Ltd. Analyzer, analysis method, analyzer program, and analysis learning device
JP6981817B2 (ja) 2017-08-31 2021-12-17 株式会社堀場製作所 分光分析装置及び分光分析方法
US20190088354A1 (en) 2017-09-01 2019-03-21 Kit Check, Inc. Identifying discrepancies between events from disparate systems
WO2019084036A1 (en) 2017-10-23 2019-05-02 Cerebral Therapeutics LLC SYRINGE FOR DELIVERING MEDICINES TO IMPLANT MEDICINAL DELIVERY SYSTEMS AND METHODS OF USE THEREOF
US11424020B2 (en) 2017-12-08 2022-08-23 Actual Healthcare Solutions Cloud-based interactive digital medical imaging and patient health information exchange platform
US11081220B2 (en) 2018-02-02 2021-08-03 Carefusion 303, Inc. System and method for dispensing medication
US11222721B2 (en) 2018-05-04 2022-01-11 Carefusion 303, Inc. Peer community based anomalous behavior detection
US20190355461A1 (en) * 2018-05-21 2019-11-21 Henry Ford Health System Prescription medication diversion analysis and reporting
US11135131B2 (en) 2018-09-14 2021-10-05 Board Of Trustees Of Michigan State University Medication bottle with anti-tampering features
SE542892C2 (en) 2018-12-06 2020-08-18 Eleiko Group Ab Open barbell with stand
CN113874949A (zh) 2019-01-10 2021-12-31 康尔福盛303公司 用于监测剂量模式和患者反应的系统
WO2020150596A1 (en) 2019-01-18 2020-07-23 Carefusion 303, Inc. Medication tracking system
US11037666B1 (en) * 2019-05-29 2021-06-15 Bottomline Technologies, Inc. Method and apparatus for detecting diverted drugs

Also Published As

Publication number Publication date
US11804295B2 (en) 2023-10-31
US20200219611A1 (en) 2020-07-09
CA3125744A1 (en) 2020-07-16
GB2595108B (en) 2023-05-03
GB202111028D0 (en) 2021-09-15
GB2595108A (en) 2021-11-17
DE112020000335T5 (de) 2021-10-21
WO2020146407A1 (en) 2020-07-16

Similar Documents

Publication Publication Date Title
US11804295B2 (en) Machine learning based safety controller
US20210343386A1 (en) System and method for dispensing medication
EP3683761A1 (en) Mobile device access for medical devices
US11222721B2 (en) Peer community based anomalous behavior detection
US20220246295A1 (en) Opioid management system
US20210265032A1 (en) Modular witnessing device
US11823792B2 (en) Peer community based anomalous behavior detection
US20220277838A1 (en) Dosage normalization for detection of anomalous behavior
US20210249121A1 (en) Diversion detection system
US20220375581A1 (en) Rare instance analytics for diversion detection
US20190164634A1 (en) Data notification system for health data
CN114072880A (zh) 医疗实体的网络当中的药物管理
CN117043869A (zh) 基于机器学习的临床资源控制器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination