CN110418627A - 药剂识别装置、药剂识别方法及药剂识别程序 - Google Patents
药剂识别装置、药剂识别方法及药剂识别程序 Download PDFInfo
- Publication number
- CN110418627A CN110418627A CN201880017385.9A CN201880017385A CN110418627A CN 110418627 A CN110418627 A CN 110418627A CN 201880017385 A CN201880017385 A CN 201880017385A CN 110418627 A CN110418627 A CN 110418627A
- Authority
- CN
- China
- Prior art keywords
- medicament
- master image
- identification device
- photographs
- photography
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/66—Trinkets, e.g. shirt buttons or jewellery items
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61J—CONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
- A61J1/00—Containers specially adapted for medical or pharmaceutical purposes
- A61J1/03—Containers specially adapted for medical or pharmaceutical purposes for pills or tablets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/28—Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/141—Control of illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/772—Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/10—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
- G16H20/13—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients delivered from dispensers
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61J—CONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
- A61J2200/00—General characteristics or adaptations
- A61J2200/70—Device provided with specific sensor or indicating means
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61J—CONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
- A61J2205/00—General identification or selection means
- A61J2205/40—General identification or selection means by shape or form, e.g. by using shape recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61J—CONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
- A61J2205/00—General identification or selection means
- A61J2205/50—General identification or selection means using icons or symbolic figures, e.g. by a graphical representation symbolising the type of pathology or the organ by an image
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
- G01N21/9508—Capsules; Tablets
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- Primary Health Care (AREA)
- Software Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Epidemiology (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Pharmacology & Pharmacy (AREA)
- Evolutionary Biology (AREA)
- Radiology & Medical Imaging (AREA)
- Chemical & Material Sciences (AREA)
- Medicinal Chemistry (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Medical Preparation Storing Or Oral Administration Devices (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种识别药剂时能够提高主图像的稳健性的药剂识别装置、药剂识别方法及药剂识别程序。本发明的药剂识别装置具备:照明部,照亮药剂;摄影部,拍摄被照亮的药剂;存储部,按药剂的每一种类存储主图像;药剂位置获取部,根据通过摄影部得到的摄影图像来获取药剂的位置;主图像生成部,由摄影图像中的药剂区域生成主图像;更新判定部,根据通过药剂位置获取部获取的药剂的位置来判定是否更新主图像;及登记部,在判定为更新主图像时,将主图像登记到存储部。
Description
技术领域
本发明涉及一种识别药剂时能够提高主图像的稳健性的药剂识别装置、药剂识别方法及药剂识别程序。
背景技术
一直以来提出或提供有识别药剂的种类的各种装置。例如,通过照亮药剂,拍摄该被照亮的药剂,并核对通过该拍摄得到的摄影图像中的药剂区域与按照药剂的每一种类预先登记的主图像,能够识别药剂的种类。
专利文献1中记载有如下技术:在针对在生产线上连续供给的工件的相异品种混入检查中,为了防止因照明的变化、工件的涂布状态的不同等外部原因引起的识别精度的变化,将最初供给的工件的图像数据作为主图像(基准图像数据)进行登记,并将陆续供给的多个工件的各个图像数据与主图像进行比较,从而判定为相同品种时,始终更新主图像。
并且,专利文献2中记载有如下技术:将药剂的计测值特性(色调、大小、形状等)作为查询检索项目而检索药剂信息数据库,并在屏幕上显示完全一致或近似的产品名。
并且,专利文献3中记载有如下技术:拍摄被照亮的药剂的图像且在与保存于数据库的各药剂的模板图像之间进行匹配来进行药剂的鉴别。
以往技术文献
专利文献
专利文献1:日本特开2005-249615号公报
专利文献2:日本特开平9-16681号公报
专利文献3:WO2015/152225号公报
发明内容
发明要解决的技术课题
即使将专利文献1中记载的技术适用于药剂的识别,且在判定为药包内的药剂与主图像的药剂为相同品种时始终更新主图像,也很难提高主图像的稳健性。其理由为,药包内的药剂的位置根据药包而不同,因此在识别力低的位置拍摄到药剂时更新主图像,则会导致药剂的识别精度降低。专利文献2中没有关于与主图像的核对及提高主图像的稳健性的任何记载。并且,专利文献3中虽然对模板匹配进行了记载,但没有关于提高主图像的稳健性的任何记载。
本发明的目的在于提供一种识别药剂时能够提高主图像的稳健性的药剂识别装置、药剂识别方法及药剂识别程序。
用于解决技术课题的手段
为了实现上述目的,本发明的一方式所涉及的药剂识别装置具备:照明部,照亮药剂;摄影部,拍摄通过照明部照亮的药剂;存储部,按药剂的每一种类存储表示药剂的主图像;药剂位置获取部,根据通过摄影部得到的摄影图像来获取药剂的位置;更新判定部,根据通过药剂位置获取部获取的药剂的位置来判定是否更新主图像;主图像生成部,由通过摄影部得到的摄影图像中的药剂区域生成主图像;及登记部,在通过更新判定部判定为更新主图像时,将通过主图像生成部生成的主图像登记到存储部。
根据本方式,根据通过摄影部得到的摄影图像获取药剂的位置,根据该药剂的位置,判定是否更新药剂的每一种类的主图像,因此即使药剂的位置按照药包不同,也能够以药剂的识别率变高的方式更新主图像。即,识别药剂时,能够提高主图像的稳健性。
本发明的其他方式所涉及的药剂识别装置中,登记部将表示药剂的位置的药剂位置信息与主图像建立关联地存储于存储部,更新判定部根据通过摄影部拍摄的药剂的位置和与主图像建立关联的药剂位置信息来判定是否更新主图像。
本发明的另一其他方式所涉及的药剂识别装置中,在通过摄影部拍摄的药剂的位置相较于通过与主图像建立关联的药剂位置信息表示的主图像的药剂的位置对于药剂的识别力高时,更新判定部判定为更新主图像。
本发明的另一其他方式所涉及的药剂识别装置中,在通过摄影部拍摄到未登记主图像的种类的药剂时,登记部将通过摄影部得到的摄影图像中的药剂区域作为主图像登记到存储部。
本发明的另一其他方式所涉及的药剂识别装置中,更新判定部根据摄影部的摄影范围内的对于药剂的识别力满足基准的基准位置与药剂的位置之间的距离,判定是否更新主图像。
本发明的另一其他方式所涉及的药剂识别装置具备基准位置设定部,预先求出摄影部的摄影范围内的对于药剂的识别力满足基准的位置并设定为基准位置。
本发明的另一其他方式所涉及的药剂识别装置中,基准位置为摄影范围内的对于药剂的识别力最高的位置或摄影范围内的对于药剂的识别力最高的区域的代表位置。
本发明的另一其他方式所涉及的药剂识别装置中,识别力为对于药剂的表面的刻印的识别力,且根据照明部的照明光入射于药剂的表面的刻印上的入射角确定。
本发明的另一其他方式所涉及的药剂识别装置中,照明部从包围药剂的多个照明方向照亮药剂,摄影部与包住药剂的包裹材料的至少一面对置,基准位置为摄影范围的中心位置,更新判定部根据摄影范围的中心位置与药剂位置之间的距离,判定是否更新主图像。
本发明的另一其他方式所涉及的药剂识别装置中,照明部构成为包含多个光源,多个光源与摄影部的光轴为等间隔。
本发明的另一其他方式所涉及的药剂识别装置中,照明部从4个以上的方向照亮药剂。
本发明的另一其他方式所涉及的药剂识别装置中,在多个药剂包含在1个药包时,更新判定部根据多个药剂彼此的间隔,判定是否更新主图像。
本发明的另一其他方式所涉及的药剂识别装置中,照明部构成为包含多个光源,所述药剂识别装置具备;照明控制部,通过切换多个光源中照亮药剂的光源而依次切换药剂的照明方向;及摄影控制部,每次切换照明方向时,使摄影部拍摄药剂,主图像生成部合成通过摄影部得到的多个摄影图像即与多个照明方向对应的多个摄影图像而生成主图像。
本发明的另一其他方式所涉及的药剂识别装置中,摄影部构成为包含:第一相机,从第一方向拍摄药剂;及第二相机,从与第一方向不同的第二方向拍摄药剂。
本发明的另一其他方式所涉及的药剂识别装置中,药剂被包装。
本发明的另一其他方式所涉及的药剂识别装置中,包装有药剂的多个药包连续,在从1个药包拍摄到相同种类的多个药剂时,或者遍及多个药包拍摄到相同种类的多个药剂时,主图像生成部利用拍摄到相同种类的多个药剂的多个药剂区域来生成主图像。另外,也可以设为从1个药包仅拍摄到相同种类的1个药剂时,由1个药剂区域生成主图像的结构。并且,遍及多个药包未拍摄到相同种类的多个药剂时,可以由1个药剂区域生成主图像。
本发明的另一其他方式所涉及的药剂识别装置中,在从1个药包拍摄到相同种类的多个药剂时,或者遍及多个药包拍摄到相同种类的多个药剂时,主图像生成部利用多个药剂区域并通过平均或加权平均来生成主图像。
本发明的另一其他方式所涉及的药剂识别装置具备:显示部;及显示控制部,使显示部显示摄影图像中的药剂区域。
本发明的另一其他方式所涉及的药剂识别装置具备计算主图像与摄影图像中的药剂区域的相关值的相关值计算部,显示控制部使显示部显示相关值。
本发明的另一其他方式所涉及的药剂识别装置中,显示控制部在显示部显示更新了主图像的历史记录。
本发明的另一其他方式所涉及的药剂识别装置中,显示控制部将药剂位置与主图像的更新建立关联地显示于显示部。
本发明的另一其他方式所涉及的药剂识别装置具备:药剂判断部,核对摄影图像与登记到存储部的主图像中最后登记的主图像来判断摄影图像所表示的药剂为哪一种药;及判断结果输出部,输出判断的结果。根据本方式,核对摄影图像与最后登记的主图像(即,通过上述方式提高了稳健性的主图像),因此能够准确地判断摄影图像所表示的药剂为哪一种药剂。本方式所涉及的药剂识别装置例如能够适用于药剂鉴别、药剂监查支持。
本发明的另一其他方式所涉及的药剂识别装置中,药剂判断部根据摄影图像与主图像的核对结果来选择摄影图像所表示的药剂的候选,判断结果输出部输出表示所选择的候选的信息。根据本方式,通过所输出的信息,能够确认摄影图像所表示的药剂的候选。
本发明的另一其他方式所涉及的药剂识别装置进一步具备输入与摄影图像所表示的药剂相关联的关联信息的关联信息输入部,药剂判断部参考关联信息进行判断。本方式中,能够将用于药剂的核对的信息作为关联信息输入,从而能够通过参考这种关联信息而准确地进行判断。
本发明的另一其他方式所涉及的药剂识别装置中,关联信息为处方数据中包含的药剂的信息,药剂判断部从存储部获取针对处方数据中包含的药剂的主图像,并核对摄影图像与所获取的主图像,来判断摄影图像所表示的药剂与所获取的主图像所表示的药剂是否相同。根据本方式,通过将处方数据中包含的药剂的信息作为关联信息输入,能够准确地判断摄影图像所表示的药剂与已获取的主图像所表示的药剂是否相同。
本发明的另一其他方式所涉及的药剂识别方法使用:照明部,照亮药剂;摄影部,拍摄通过照明部照亮的药剂;及存储部,按药剂的每一种类存储表示药剂的主图像,所述药剂识别方法包括:根据通过摄影部得到的摄影图像获取药剂的位置的步骤;根据已获取的药剂的位置来判定是否更新主图像的步骤;及在判定为更新主图像时,将摄影图像中的药剂区域作为主图像登记到存储部的步骤。
本发明的另一其他方式所涉及的药剂识别程序使计算机执行上述药剂识别方法。另外,作为本发明的另一其他方式,还能够举出记录有本方式所涉及的药剂识别程序的能够由计算机读取的代码的非暂时性记录介质。
根据本发明所涉及的药剂识别装置、药剂识别方法及药剂识别程序,在识别药剂时,能够提高主图像的稳健性。
附图说明
图1是表示本发明所涉及的一实施方式的药剂识别装置的结构例的图。
图2是表示多个药包连续的例子的图。
图3是表示照明部的光源及摄影部的相机的配置例的侧视图。
图4是表示照明部的光源及摄影部的相机的配置例的俯视图。
图5是表示很难检测药剂的刻印的条件的图。
图6是表示图5所示的情况下的亮度分布的图。
图7是表示为了设定基准位置而二维排列的药剂的图。
图8是用于说明用于设定基准位置的相关值计算的说明图。
图9是用于说明主图像的优选更新的说明图。
图10是用于说明核对的说明图。
图11是用于说明照明方向切换的第一说明图。
图12是用于说明照明方向切换的第二说明图。
图13是表示药剂识别结果的显示例的图。
图14是表示适用了本发明所涉及的药剂识别方法的处理例的流程的流程图。
图15是表示将本发明所涉及的药剂识别装置适用于药剂监查支持及药剂鉴别的系统的例子的图。
图16是表示将本发明所涉及的药剂识别方法适用于药剂监查支持的处理例的流程的流程图。
图17是表示将本发明所涉及的药剂识别方法及装置适用于药剂监查支持的结果的例子的图。
图18是表示将本发明所涉及的药剂识别方法及装置适用于药剂监查支持的结果的例子的其他图。
图19是表示将本发明所涉及的药剂识别装置适用于药剂鉴别的例子的图。
图20是表示将本发明所涉及的药剂识别装置适用于药剂鉴别的例子的其他图。
图21是表示将本发明所涉及的药剂识别方法适用于药剂鉴别的处理例的流程的流程图。
图22是表示将本发明所涉及的药剂识别方法及装置适用于药剂鉴别的结果的例子的图。
图23是表示将本发明所涉及的药剂识别方法及装置适用于药剂鉴别的结果的例子的图。
具体实施方式
以下,利用附图对本发明所涉及的药剂识别装置、药剂识别方法及药剂识别程序的实施方式进行说明。
图1是表示本发明所涉及的一实施方式的药剂识别装置的结构例的图。
本例的药剂识别装置10构成为包含:照明部12,照亮药剂;摄影部14,拍摄通过照明部12照亮的药剂;关联信息获取部16,获取表示针对用户的药剂的处方的处方数据等、与识别对象的药剂相关联的关联信息;存储部18(非暂时性记录介质),存储程序(包括本发明所涉及的药剂识别程序)及执行程序所需的信息;处理部20,按照存储于存储部18的程序进行各种处理;显示部22,能够显示图像;及操作部24,从用户接收操作。另外,以下关于药剂被包装的情况进行说明,但本发明还能够适用于药剂未被包装的情况(后述)。
药剂的“包装”中包含一包化。“一包化”是指按每次服用对开出处方的药剂进行分包(封装)。依据处方内容,存在不同种类的多个药剂封装于1个包裹材料的情况,相同种类的多个药剂封装于1个包裹材料的情况及仅1个药剂封装于1个包裹材料的情况。一包化的药剂的形态例如可举出片剂、胶囊剂,但并无特别限定。并且,包裹材料例如可举出纸、塑料,但并无特别限定。并且,在本说明书中“分包”(或者“包装”)并不限定于按照每次服用进行分包的情况,只要是药剂被包裹材料包装的情况即可。
照明部12构成为包含光源。照明部12的具体例进行后述。
摄影部14构成为包含相机。摄影部14的具体例进行后述。
关联信息获取部16例如通过光学地读取处方笺上的字符,获取处方数据等关联信息。作为处方数据,例如能够举出记载于处方笺的药剂的识别信息、名称、数量、用法、用量等,但并不限定于这些。关联信息获取部16可以通过读取赋予到处方笺的条形码(或二维代码)获取处方数据。并且,也可以通过通信获取由医生和/或药剂师利用计算机装置输入的处方数据。另外,“处方数据”可以为记载于处方笺上的信息,也可以为根据记载于处方笺的信息由医生和/或药剂师进行如设定、变更等的信息。例如,通过进行在处方笺记载有原创医药品的名称时变更为仿制医药品(通常医药品)、或者只记载有药剂的通常名称时选择原创医药品或仿制医药品等而得到的信息也能够包含在“处方数据”中。将药剂识别装置10使用于药剂监查支持、药剂鉴别等时(后述),作为关联信息,可以根据用户的操作,由关联信息获取部16(关联信息输入部)输入由肉眼等识别到的药剂的特征(例如,片剂或胶囊等药剂种类、形状、颜色等)或者记载于所谓的“药物手册”等手册上的药剂名称、数量、服用方法等信息。
存储部18由暂时性存储设备及非暂时性存储设备(非暂时性记录介质)构成。本例的存储部18存储按照药剂的每一种类表示药剂的主图像(也称作“药剂主图像”)。主图像优选与表示各药剂的属性的属性信息(例如药剂代码、名称、药剂类型、形状、尺寸等信息;参考图23的例子)建立关联地保存。
处理部20例如由CPU(central processing unit:中央处理器)构成。本例的处理部20具有更新存储于存储部18的主图像的功能。满足后述的特定条件时,本例的处理部20进行使用通过摄影部14得到的摄影图像更新存储于存储部18的主图像的主更新处理。
本例的处理部20构成为包含:照明控制部32,控制照明部12的照明;摄影控制部34,控制摄影部14的拍摄;药剂位置获取部35,根据通过摄影部14得到的摄影图像获取药剂的位置;主图像生成部36,由通过摄影部14得到的摄影图像中的药剂区域生成主图像;核对部42,核对通过摄影部14拍摄药剂而得到的摄影图像的药剂区域和存储于存储部18的主图像;更新判定部44,根据通过药剂位置获取部35获取的药剂的位置判定是否更新主图像;登记部46,通过更新判定部44判定为更新主图像时,将通过主图像生成部36生成的主图像登记到存储部18;及显示控制部48,控制显示部22的显示。也可以设置计算主图像与摄影图像中的药剂区域的相关值或药剂区域之间的相关值的相关值计算部49及设定基准位置的基准位置设定部50。
<药包>
图2表示包装有药剂T的多个药包TP连续的药包带PB。x轴为沿药包带PB的长度方向的轴,y轴为沿药包带PB的宽度方向的轴。能够沿x轴方向传送本例的药包带PB。通过刻印(或印字)在本例的药剂T示出药剂T的种类。为了便于说明以下内容,在各药剂T上刻印为“A”、“B”或“C”,但刻印内容(或印字内容)并无特别限定。
药包TP的包裹材料优选两个面均透明(包括半透明,以下相同)。也可以在药包TP的包裹材料的一面实施印字或消光加工。
连续的药包TP能够按1个药包TP的x轴方向上的每一尺寸传送。也可以是能够按每1个药包TP检测药包TP的位置。
另外,本发明并不限定于药包TP被传送的情况。也可以仅为药包TP载置于载置台等的情况。并且,本发明也可以是未包装有药剂T。例如,也可以将药剂T中所包含的各药剂直接或装入陪替氏培养皿等容器而载置于载置台。
<照明部及摄影部>
关于构成照明部12的光源及构成摄影部14的相机的配置进行说明。
图3及图4表示照明部12的光源13及摄影部14的相机15(15A、15B)的配置例。图3是从药包带PB的侧面观察的侧视图,图4是从上方或下方观察药包带PB的一面的俯视图。x轴为沿药包带PB的长度方向的轴,y轴为沿药包带PB的宽度方向的轴,z轴为与药包带PB的一面(上表面或下表面)正交的轴。
照明部12构成为包含多个光源13,如图4所示,从包围药剂T的多个照明方向照亮药剂T。本例的照明部12从4个方向照亮药剂T的一面(上表面或下表面)。也可以从4个以上的方向照亮药剂T。
摄影部14与包住药剂T的透明包裹材料的至少一面对置并拍摄药剂T。
如图3所示,摄影部14构成为包含:相机15A(第一相机),与药包带PB的上表面(包装有药剂T的包裹材料的一面)对置;相机15B(第二相机),与药包带PB的下表面(包装有药剂T的包裹材料的另一面)对置。即,相机15A从第一方向(从药包带PB的上方朝向下方的方向)拍摄药剂T,相机15B从第二方向(从药包带PB的下方朝向上方的方向)拍摄药剂T。在图4中,多个光源13的每一个与相机15(15A、15B)的摄影光轴PA的间隔d1、d2、d3、d4相同。即,多个光源13与摄影光轴PA为等间隔(d1=d2=d3=d4)。
<主图像的生成及更新判定>
主图像生成部36从通过摄影部14的相机15得到的摄影图像提取药剂区域来生成主图像。例如,通过从摄影图像检测药剂T的像的边缘识别药剂区域,且通过从摄影图像切出该药剂区域而提取药剂区域。提取药剂区域时,可以使用从上下两个方向拍摄药剂T得到的2张摄影图像。也可以使用更新了药剂背景的图像。也可以使用由透射药包TP的包裹材料的透射光构成的透射图像(药剂区域为黑色)生成掩模,并使用该掩模生成主图像。
通过摄影部14的相机15拍摄到未登记主图像的种类的药剂T时,登记部46将通过该相机15得到的新的摄影图像中的药剂区域作为主图像登记到存储部18。并且,判定为通过更新判定部44更新时,更新存储部18的主图像。
关于更新判定进行说明。药剂位置获取部35根据通过摄影部14得到的摄影图像获取摄影部14的摄影范围内的药剂位置。本例的药剂位置获取部35通过图像分析获取摄影图像中的药剂T的像的位置。即,实际空间的摄影范围内的药剂T的位置与摄影图像中的药剂T的像的位置对应,因此能够将摄影图像中的药剂T的像的位置用作摄影范围内的药剂的位置。
并且,在本说明书中,“药剂的位置”的获取并不限定于获取摄影范围(或摄影图像)内的药剂的绝对位置的情况,包括在摄影范围(或摄影图像)内获取与对于药剂的识别力满足基准的基准位置的距离(以下还称作“相对位置”)的情况。即,更新判定部44能够根据相对位置判定是否更新主图像。
并且,在本说明书中,对于药剂的“识别力”为根据摄影图像识别药剂的种类的识别力。该识别力通常根据摄影范围内的药剂位置变动。“识别力”可以由识别的几率(识别率)表示,也可以由预先计算出的评价值表示。例如,如后述,能够使用药剂图像之间的相关值表示示出识别力的评价值。
作为具体例,“识别力”为形成有在药剂的表面示出药剂的种类的刻印时,对于该药剂的表面的刻印的识别力。通常,对于药剂的表面的刻印的识别力根据照明部12的照明光入射于药剂的表面的刻印的角度(入射角)确定。并且,“识别力”为形成有在药剂的表面示出药剂的种类的印字时,对于该药剂的表面的印字的识别力。通常,对于药剂的表面的印字的识别力根据摄影部14的光轴(摄影光轴)相对于药剂的表面的印字的角度(摄影角度)确定。
如图4所示,配置有光源13及相机15时,主图像优选位于相机15的摄影范围(还称作“视野范围”)的中央区域的药剂的图像。其理由在于,图4所示的配置例的情况下,在摄影范围的中央区域拍摄到的药剂的图像的稳健性高,但在摄影范围的端部(即光源13的附近)拍摄到的药剂的图像的稳健性低。例如,片剂(药剂的一形态)具有3D(dimension:维)形状,越接近光源13,照明光相对于片剂的刻印的入射角越小,从而很难检测刻印。如图5所示,为了便于理解,假设为由实线表示的入射光LI及由虚线表示的反射光LO与药剂T的刻印EM的凹部侧面平行。如此一来,如图6所示,表示摄影图像的亮度分布的亮度轮廓L成为平坦形状,可知无法检测刻印EM。
因此,更新判定部44根据摄影部14的摄影范围内的对于药剂的识别力满足基准的基准位置与药剂位置的距离,判定是否更新主图像。其中,基于“基准位置与药剂位置的距离”的判定可以使用与实际空间中的基准位置、药剂位置及距离对应的摄影图像中的基准位置、药剂位置及距离进行。
基准位置例如为摄影范围内的对于药剂的识别力最高的位置或摄影范围内的对于药剂的识别力最高的区域的代表位置。
如图4所示,配置有光源13及相机15时,可以将摄影范围的中心位置(实际空间的摄影范围内为摄影光轴PA的位置,摄影图像中为图像中心)设为基准位置。此时,更新判定部44根据摄影范围的中心位置与药剂位置的距离,判定是否更新主图像。由此,能够提高使用了主图像的药剂识别的精度。即能够提高主图像的稳健性。也可以将摄影范围的中心位置附近的位置设为基准位置。
并且,作为基准位置,能够通过基准位置设定部50预先求出并设定摄影范围内的对于药剂的识别力高的位置(对于药剂的识别力满足基准的位置)。例如,如图7所示,能够在摄影范围R内等间隔地二维排列多个药剂T,通过相机15拍摄排列成二维的该多个药剂T,通过相关值计算部49计算在各药剂T的位置与其他药剂T的药剂图像(药剂区域的图像)的相关值,且根据该相关值求出摄影范围R内的识别力最高的区域。为了便于理解,将图7所示的摄影范围R内的四分之一大小的四分之一区域RQ中的药剂位置之间的药剂图像的相关值示于图8。在图8中,自相关值(关注位置PI的药剂图像与关注位置PI的药剂图像的相关值)为“1.00”。并且,在图8中,关注位置PI的药剂图像与其他位置的药剂图像的相关值小于“1.00”。由数值和颜色(但是,图8中为了便于图示成为渐变)表示计算出的该相关值。将摄影范围R内的二维排列的多个药剂T的每一个位置作为关注位置进行这种相关值的计算,能够将在整个摄影范围R(或药剂识别所需的范围)内的相关值的分布成为最优选的关注位置设为基准位置。例如,按照每一关注位置计算与其他位置的相关值的总和,且将该相关值的总和成为最大的关注位置设定为基准位置。即,能够将摄影范围R内的识别力最高的区域的代表位置设为基准位置。基本上,优选在药剂位于摄影范围R的中央部时拍摄药剂,但包装的药剂的位置按照每一药包不同,存在无意中在摄影范围R的端部拍摄药剂的情况。即,若无条件更新主图像,则使用了该主图像的药剂识别的精度下降。本例中,通过基准位置设定部50,预先求出在摄影范围R内的对于药剂的识别力满足基准的关注位置而设定为基准位置,根据该基准位置与进行药剂识别时拍摄到的实际的药剂位置的距离判定是否更新主图像,因此能够通过主图像的更新来提高使用了主图像的药剂识别的精度。即能够提高主图像的稳健性。
本例的登记部46将表示摄影范围内的药剂的位置(或基准位置与药剂位置的距离)的药剂位置信息与主图像建立关联地存储于存储部18。并且,更新判定部44根据通过摄影部14拍摄到的药剂位置(或基准位置与药剂位置的距离)及与主图像建立关联的药剂位置信息,判定是否更新主图像。
通过摄影部14拍摄到的药剂位置相较于通过与主图像建立关联的药剂位置信息表示的主图像的药剂位置更靠近基准位置时,本例的更新判定部44判定为更新主图像。
通过遵照这种基准的更新登记到存储部18的主图像依次更新为更良好的主图像。即,如图9所示,直至摄影范围R内的主图像的稳健性变高的区域AR内的药剂TR的图像成为主图像为止进行更新。若摄影范围R内的主图像的稳健性低的端部的药剂(图中的TE)的图像登记为主图像,则刻印EM的识别力变低,但是,本例中,收敛成更良好的主图像,且遵照基准的区域AR的药剂TR的图像登记为主图像,因此能够提高刻印EM的识别力。另外,图4所示的光源13及相机15的配置(多个光源13与摄影光轴PA为等间隔)中,使主图像的药剂位置逐渐靠近作为摄影范围R的中心位置的摄影光轴PA的位置。
<核对>
如图3所示,相机15A及相机15B配置在摄影对象的药包TP的上下位置时,如图10所示,使用通过相机15A从上方拍摄药剂T得到的摄影图像IMG11、IMG21)及通过相机15B从下方拍摄药剂T得到的摄影图像(本例中为IMG12、IMG22)进行核对。在图10中,第一包药包TP1内的药剂T11、T12、T13中的符号为T13的药剂的种类(设为“种类C”)的主图像未登记到存储部18时,该符号为T13的药剂的图像(本例中,从上方拍摄药剂T13得到的摄影图像IMG11的药剂区域与从下方拍摄药剂T13得到的摄影图像IMG12的药剂区域)作为主图像并通过登记部46登记到存储部18。例如,在图中由虚线箭头所示,从下方观察第一包药包TP1内的药剂T13的主图像与从上方拍摄第二包药包TP2得到的摄影图像IMG21中的药剂T21、T22、T23的图像及从下方拍摄第二包药包TP2得到的摄影图像IMG22中的药剂T21、T22、T23的图像进行核对。例如,核对到从下方观察第二包药包TP2内的符号为T23的药剂的图像与主图像匹配。
<主图像的变化>
关于主图像的变化进行说明。
从多个药包TP中的1个药包TP(例如第一个药包)拍摄到相同种类的多个药剂T时,主图像生成部36能够使用拍摄到相同种类的药剂T的多个药剂区域生成主图像。例如,主图像生成部36使用多个药剂区域并通过平均或加权平均生成主图像。
并且,如图2所示,遍及多个药包TP拍摄到相同种类的多个药剂T时,主图像生成部36使用与多个药包TP对应的多个摄影图像的药剂区域(多个药剂区域)生成主图像。例如,主图像生成部36使用多个药剂区域并通过平均或加权平均生成主图像。另外,也可以设为如下结构:从1个药包(例如第一个药包)仅拍摄到一个相同种类的药剂T时,由1个药剂T的区域生成主图像。并且,遍及多个药包TP未拍摄到相同种类的多个药剂T时,也可以由1个药剂T的区域生成主图像。
并且,优选主图像生成部36在更新主图像时不删除更新前的主图像而保存,且在生成新的主图像时利用更新前的主图像。
<照明方向切换>
关于依次切换对于药剂的照明方向的药剂识别方式进行说明。本方式的照明控制部32通过切换多个光源中照亮药剂的光源,依次切换对于药剂的照明方向。每次切换对于药剂的照明方向时,本方式的摄影控制部34使摄影部14拍摄药剂。本方式的主图像生成部36合成与多个照明方向对应的多个摄影图像而生成主图像。根据本方式,能够不受照亮药剂的照明方向、药剂的表面形状的影响而准确地识别赋予在药剂上的刻印字符。
如图11所示,刻印EM由形成于药剂T的表面上的槽构成。另外,图中的符号300为刻印EM的主视图,符号301为沿图中的直线CL的药剂T的剖视图,符号302为表面形状与符号301不同的药剂T的剖视图。若从一个方向照亮刻印EM,则沿刻印EM的照明光源侧的轮廓产生阴影。该阴影的朝向、形状及强度根据照明方向、刻印EM的形状及药剂T的表面形状不同。
如图12的上部(符号305)所示,在4个方向的药剂区域图像数据54上分别沿刻印EM的照明光源侧(照射照明光的光源13侧)的轮廓产生阴影图像56。另外,刻印EM与药剂T的表面为相同颜色,所以在实际的图像上很难识别,但在图中为了说明与照明方向相应的刻印EM与阴影图像56的关系而图示成能够识别刻印EM。
如图12的中部(符号306)所示,通过分别对每一药剂T的4个方向的药剂区域图像数据54实施边缘检测处理,从各药剂区域图像数据54提取分别与阴影图像56对应的特征图像数据58。由此,关于1分包量的药剂T的每一个药剂,得到4个方向的每一照明方向的特征图像数据58(以下,称作4个方向的特征图像数据58),并将每一药剂T的4个方向的特征图像数据58依次存储于存储部18。
如图12的下部(符号307)所示,从存储部18读出1分包量的每一药剂T的4个方向的特征图像数据58,按每一药剂T统合4个方向的特征图像数据58而生成统合图像数据60。例如,重叠4个方向的特征图像数据58而统合。由此,4个方向的每一照明方向的阴影图像56统合成1个,因此刻印EM的所有轮廓在统合图像数据60上变得明显。而且,按照1分包量的每一药剂T分别生成统合图像数据60,并将各个统合图像数据60存储于存储部18。
<显示控制>
显示控制部48具有在显示部22并列显示从摄影图像切出的药剂区域的功能。并且,显示控制部48具有在显示部22显示通过相关值计算部49计算的相关值的功能。
图13是表示识别图2所示的药包带PB的药包TP内的药剂的结果的图。图13的例子中,作为从药包带PB中的第一个药包TP及第2药包TP识别的药剂T,刻印“A”的药剂的图像、刻印“B”的药剂的图像及刻印“C”的药剂的图像显示于显示部22,作为从第3药包TP识别的药剂T,刻印“B”的药剂的图像及刻印“C”的药剂的图像显示于显示部22。各药剂的图像的下方的数值为通过相关值计算部49计算出的相关值,且为表示从摄影图像提取的药剂区域的图像与主图像的关联的相关值。并且,显示的药剂区域(药剂图像)实际上附加有与相关值相应的浓度的颜色。关于刻印“C”的药剂的图像的相关值,可知在识别第1药包TP的药剂时更新了主图像,因此第2药包及第3药包中的相关值变得高于第1药包中的相关值。
并且,显示控制部48具有在显示部22显示更新了主图像的历史记录的功能。
并且,显示控制部48具有将药剂位置(绝对位置或相对位置)与主图像的更新建立关联地显示于显示部22的功能。
<处理例>
图14是表示适用了本发明所涉及的药剂识别方法的处理例的流程的流程图。本处理通过构成药剂识别装置10的处理部20的CPU并按照程序(包括本发明所涉及的药剂识别程序)来执行。
首先,通过关联信息获取部16获取上述处方数据等关联信息(步骤S2)。
接着,通过照明部12照亮被分包的药剂(步骤S4)。
并且,通过摄影部14拍摄通过照明部12照亮的药剂(步骤S6)。
接着,通过药剂位置获取部35获取药剂位置,且通过主图像生成部36从摄影图像提取药剂区域(步骤S8)。
接着,通过核对部42核对存储于存储部18的主图像与摄影图像的药剂区域(步骤S10)。
接着,判定是否为主图像未登记到存储部18的药剂(步骤S12),当为未登记主图像的药剂时(步骤S12中,是的情况),进一步判定是否为第1包(步骤S14)。当未登记主图像且为第1包时(步骤S14中,是的情况),通过登记部46将从摄影图像提取的药剂区域的图像登记为主图像(步骤S16)。
为登记了主图像的药剂时(步骤S12中,否的情况),通过更新判定部44,且根据摄影范围的基准位置(例如中心位置)与药剂位置的距离,判定是否更新主图像(步骤S18)。
当判定为更新主图像时(步骤S18中,是的情况),通过登记部46将从摄影图像提取的药剂区域的图像登记为主图像(步骤S20)。
判定药包内是否存在其他药剂(步骤S22),当存在药包内的其他药剂时(步骤S22中,是的情况),返回步骤S10,进行对于药包内的其他药剂的核对处理。
对药包的所有药剂进行药剂识别处理且在药包内不存在其他药剂时(步骤S22中,否的情况),判定是否存在其他药包(步骤S24),当存在其他药包时,返回步骤S4。
另外,多个药剂包含在1个药包时,更新判定部44也可以根据多个药剂彼此的间隔判定是否更新主图像。即,进行刻印时,若旁边存在大的药剂则存在不易出现阴影的情况,因此优选在周围没有其他药剂时判定为更新主图像。例如,药剂间的距离小于阈值(或者阈值以下)时,在摄影图像中不易出现刻印的阴影,因此判定为不更新主图像。
上述说明中,主要以识别药剂的刻印的情况为例进行了说明,但也可以识别在药剂上进行打印的字符或符号。
并且,上述图1中示出的处理部2()能够构成为包含如下所示的各种处理器(processor)。各种处理器包括通过软件(程序)执行各种处理的通用处理器即CPU(centralprocessing unit)、FPGA(field programmable gate array现场可编程门阵列)等能够在制造之后变更电路结构的处理器即可编程逻辑设备(programmable logic device:PLD)、ASIC(application specific integrated circuit:专用集成电路)等具有为了执行特定处理而专门设计的电路结构的处理器即专用电路等。在上述实施方式中,处理部20的功能可由这些各种处理器中的一个实现,也可以由相同种类或不同种类的2个以上的处理器(例如,多个FPGA、或CPU与FPGA的组合)实现。并且,也可以由1个处理器实现多个功能。作为由1个处理器实现多个功能的例子,存在使用如以片上系统(system on chip:SoC)等为代表,由1个IC(integrated circuit:集成电路)芯片实现包含多个功能的整个系统的功能的处理器的方式。如此,各种功能通过作为硬件结构而使用1个以上的上述各种处理器来实现。另外,更具体而言,这些各种处理器的硬件结构为组合半导体元件等电路元件而成的电路(circuitry)。
上述处理器或电路执行软件(程序)时,将能够由所执行的软件的处理器(计算机)读取的代码存储于ROM(Read Only Memory:只读存储器)和/或闪存ROM等非暂时性记录介质,处理器参考该软件。存储于非暂时性记录介质的软件包括用于执行本发明所涉及的药剂识别方法的程序(药剂识别程序)。也可以将代码记录于各种光磁记录装置、半导体存储器等非暂时性记录介质而不是ROM。进行使用了软件的处理时,例如VRAM(Video RAM:视频存储器)、SDRAM(Synchronous Dynamic Random Access Memory:同步动态随机存取存储器)用作暂时性存储区域,并且,例如还能够参考存储于未图示的EEPROM(ElectronicallyErasable and Programmable Read Only Memory:电可擦除可编程只读存储器)的数据。
上述药剂识别装置例如能够适用于进行调剂监查的支持的监查支持装置、将药剂一包化的一包化装置、进行药剂的鉴别的药剂鉴别装置及支持药剂的服用的服药支持装置。也可以适用于其他装置。也可以由计算机装置、监查支持装置、一包化装置、药剂鉴别装置、服薬支持装置等按照药剂识别程序执行上述药剂识别方法。
<对于药剂监查支持及药剂鉴别的适用例>
关于将上述药剂识别装置、药剂识别方法及药剂识别程序适用于药剂监查支持及药剂鉴别的例子进行说明。图15是表示药剂识别装置10A(药剂监查支持装置、药剂鉴别装置)经由网络NW与医院信息系统70连接的系统的图。网络NW可以连接有其他装置(一包化装置、服薬支持装置等)。
药剂识别装置10A具备通信部26,能够经由通信部26及网络NW与医院信息系统70(HIS:Hospital Information System:医院信息系统)进行通信。其他结构与上述药剂识别装置10相同,因此对相同的结构标注相同的参考符号而省略详细的说明。处理部20的具体结构与图1相同。
图16是表示使用了药剂识别装置10A的药剂监查支持方法的处理的流程图。从步骤S2至步骤S24为止的处理与图14的流程图相同,在步骤S10中由核对部42(药剂判断部、判断结果输出部;参考图1)核对主图像与核对对象图像(从摄影图像提取的药剂区域的图像),并由显示控制部48(判断结果输出部;参考图1)在步骤S26中显示核对结果。在步骤S10中的核对时所使用的主图像为在步骤S16或步骤S20中最后登记的主图像。
图17是表示核对结果的显示例(关于药剂A的核对结果的一览表L1的例)的图。图17中,在一览表L1的左侧(区域L1A、L1B)分别显示药剂A的主图像及属性信息(表示药剂的属性的信息),在右侧(区域L1C)显示判别为“表示药剂A”的所有核对对象图像。图17中,一览表L1中仅包含有关于药剂的表面(实施刻印的一面)的图像,但也可以包含关于药剂的背面的图像。在一览表L1的区域L1C,核对对象图像按照每一分包袋且每一服用时间显示,并且,一并显示与药包TP相关联的检查支持信息(用于高效地进行药剂的核对、检查的信息)及核对对象图像。图17的例子中,检查支持信息为服用时间、分包袋编号、服用日,但也可以包含其他信息(摄影图像与主图像的类似度等)。另外,在图17的例子中,设为2片药剂A准确地分包在所有分包袋(1天服用3次×7天=21包)中,服用期间为7天。
核对部42输出核对结果(步骤S28)。可以将核对结果存储于存储部18,也可以将核对结果经由通信部26及网络NW发送到医院信息系统70。从与医院信息系统70之间的信息的互换性的观点而言,也可以以SS-MIX或SS-MIX2形式(SS-MIX:Standardized StructuredMedical Information eXchange:标准结构化医疗信息交流)进行输出核对结果。
药剂识别装置10A中,如上述核对最后登记的主图像与核对对象图像,因此能够使用稳健性得到提高的主图像进行准确的药剂识别及监查支持。
图18是表示关于指定的药剂及类似药剂的核对结果的显示例的图。图18的(a)部分表示包含关于药剂B的一览表L8A及关于药剂B的类似药剂即药剂D的一览表L8B的一览表L8。并且,图18的(b)部分表示在一览表L8中发生了药剂的核对错误的状态(在一览表L8A中,通过核对对象图像iS4表示的药剂D判断为药剂B,相反,在一览表L8B中,通过核对对象图像iS5表示的药剂B判断为药剂D)。如此,即使类似药剂之间(药剂B与药剂D)因核对错误而被调换时,通过与关于药剂B的一览表L8A一同显示关于类似药剂即药剂D的一览表L8B,用户(药剂师)也能够容易察觉核对错误。并且,与图17所示的例子同样地,能够使用稳健性得到提高的主图像进行准确的药剂识别及监查支持。
图19及图20是表示使用药剂识别装置10A进行药剂的鉴别的例子的图。关于药剂的鉴别,能够在例如患者将已处方的药剂带到医院、药店等的情况,医生和/或药剂师访问患者的住所管理剩余药剂的情况等,虽然没有原来的处方数据但是想掌握药剂的种类、数量等的情况下进行,但并不限定于这种情况。图19及图20所示的例子中,药剂T装入培养皿SC并载置到未图示的载置台,该状态下,与图3所示的例子同样地进行照明及拍摄。药剂T可以直接载置于载置台而不装入培养皿SC,也可以以分包成分包袋的状态载置。
图21是表示使用了药剂识别装置10A的药剂鉴别方法的处理的例子的流程图。另外,关于表示与图14、图16的流程图相同的处理的部分标注相同的步骤编号而省略详细的说明。图21所示的例子中,关联信息获取部16(关联信息输入部)经由基于用户的操作部24的操作获取关联信息(步骤S3)。核对部42(药剂判断部、判断结果输出部)参考所获取的关联信息,判断摄影图像所表示的药剂为哪一种药剂。进行药剂鉴别的状况下,可考虑到将患者服用的药剂带到药店等,没有处方笺或处方数据的情况,但该情况时,能够将记载于所谓的如“药物手册”那样的手册上的药剂的信息作为关联信息而获取。或者,也可以将由医生和/或药剂师等通过肉眼观察或其他方法获取的药剂的信息(片剂、胶囊等药剂类型、颜色、刻印和/或印刷等)作为关联信息而获取并输入。即使得不到有效的关联信息时,也可以输入住院患者姓名、性别、年龄等确定患者的信息、病房名称等,或者也可以省略。
核对部42根据在步骤S3中输入的关联信息选择核对对象(步骤S9)。例如,将记载于“药物手册”上的药剂及其类似药剂选择为核对对象。或者根据通过肉眼观察或其他方法获取的药剂的药剂类型、颜色等选择核对对象。通过如此选择核对对象,能够缩小核对的范围而迅速进行鉴别。另外,在步骤S3未输入有关联信息时,可以省略步骤S9的处理。
核对部42对核对对象图像(从摄影图像提取的药剂区域的图像)与关于在步骤S9中选择的核对对象的药剂的主图像进行核对,且根据核对结果选择核对对象图像(摄影图像)所表示的药剂的候选(步骤S10)。用于核对的主图像为在步骤S16或步骤S20中最后登记的主图像,因此能够使用稳健性得到提高的主图像准确地进行药剂的识别、鉴别。另外,在省略了步骤S9的处理的情况下,可以与所有药剂的主图像进行核对。
若鉴别结束(步骤S25中的否),则显示控制部48(判断结果输出部;参考图1)将核对结果显示于显示部22(步骤S26)。图22是表示核对结果的显示例(表示摄影图像所表示的药剂的候选的信息的输出例)的图,显示相对于核对对象的药剂的一致度高的药剂的主图像及药剂ID。由此,用户能够确认摄影图像所表示的药剂的候选。如图22的显示中,也可以按照所显示的药剂的指定(例如,基于操作部24的未图示的鼠标的点击),如图23那样由显示控制部48将主图像、属性信息显示于显示部22。
核对结果的输出(步骤S28)能够以与图16的流程图的步骤S28相同的方式进行。
上述的药剂的监查支持及鉴别可以由个人计算机、智能手机、平板电脑终端等设备(药剂识别装置的一方式)进行。例如,能够将执行本发明所涉及的药剂识别方法的处理的药剂识别程序安装于这些设备,并由内置和/或外设于这些设备的相机进行药剂的拍摄来与主图像进行核对。药剂识别、监查支持、鉴别的处理可以由这些设备进行,也可以在网络上、网盘上的服务器等处理输入于这些设备的信息并接收结果。
以上,对本发明的具体实施方式进行了说明,但本发明并不限定于上述实施方式及变形例,在不脱离本发明的主旨的范围内能够进行各种变形。
符号说明
10-药剂识别装置,10A-药剂识别装置,12-照明部,13-光源,14-摄影部,15(15A、15B)-相机,16-关联信息获取部,18-存储部,20-处理部,22-显示部,24-操作部,26-通信部,32-照明控制部,34-摄影控制部,35-药剂位置获取部,36-主图像生成部,42-核对部,44-更新判定部,46-登记部,48-显示控制部,49-相关值计算部,50-基准位置设定部,54-药剂区域图像数据,56-阴影图像,58-特征图像数据,60-统合图像数据,70-医院信息系统,A-药剂,AR-区域,B-药剂,D-药剂,EM-刻印,LI-入射光,L-亮度配置文件,LO-反射光,NW-网络,PA-摄影光轴,PB-药包带,PI-关注位置,R-摄影范围,RQ-四分之一区域,SC-培养皿,T、T11、T12、T13、T21、T22、T23-药剂,TE、TR-药剂,TP(TP1、TP2)-药包。
Claims (28)
1.一种药剂识别装置,其具备:
照明部,照亮药剂;
摄影部,拍摄通过所述照明部照亮的所述药剂;
存储部,按所述药剂的每一种类存储表示所述药剂的主图像;
药剂位置获取部,根据通过所述摄影部得到的摄影图像来获取所述药剂的位置;
更新判定部,根据通过所述药剂位置获取部获取的所述药剂的位置来判定是否更新所述主图像;
主图像生成部,由通过所述摄影部得到的摄影图像中的药剂区域生成所述主图像;及
登记部,在通过所述更新判定部判定为更新所述主图像时,将通过所述主图像生成部生成的所述主图像登记到所述存储部。
2.根据权利要求1所述的药剂识别装置,其中,
所述登记部将表示所述药剂的位置的药剂位置信息与所述主图像建立关联地存储于所述存储部,
所述更新判定部根据通过所述摄影部拍摄的所述药剂的位置和与所述主图像建立关联的所述药剂位置信息来判定是否更新所述主图像。
3.根据权利要求2所述的药剂识别装置,其中,
在通过所述摄影部拍摄的所述药剂的位置相较于通过与所述主图像建立关联的所述药剂位置信息表示的所述主图像的药剂的位置对于所述药剂的识别力高时,所述更新判定部判定为更新所述主图像。
4.根据权利要求3所述的药剂识别装置,其中,
在通过所述摄影部拍摄到未登记所述主图像的种类的所述药剂时,所述登记部将通过所述摄影部得到的摄影图像中的药剂区域作为所述主图像登记到所述存储部。
5.根据权利要求1至4中任一项所述的药剂识别装置,其中,
所述更新判定部根据所述摄影部的摄影范围内的对于所述药剂的识别力满足基准的基准位置与所述药剂的位置之间的距离,判定是否更新所述主图像。
6.根据权利要求5所述的药剂识别装置,其中,
该药剂识别装置具备:
基准位置设定部,预先求出所述摄影部的摄影范围内的对于所述药剂的识别力满足基准的位置并设定为所述基准位置。
7.根据权利要求5或6所述的药剂识别装置,其中,
所述基准位置为所述摄影范围内的对于所述药剂的识别力最高的位置或对于所述药剂的识别力最高的区域的代表位置。
8.根据权利要求3至7中任一项所述的药剂识别装置,其中,
所述识别力为对于所述药剂的表面的刻印的识别力,且根据所述照明部的照明光入射于所述药剂的表面的刻印上的入射角确定。
9.根据权利要求5所述的药剂识别装置,其中,
所述照明部从包围所述药剂的多个照明方向照亮所述药剂,
所述摄影部与包住所述药剂的包裹材料的至少一面对置,
所述基准位置为所述摄影范围的中心位置,
所述更新判定部根据所述摄影范围的中心位置与所述药剂的位置之间的距离,判定是否更新所述主图像。
10.根据权利要求9所述的药剂识别装置,其中,
所述照明部构成为包含多个光源,
所述多个光源与所述摄影部的光轴为等间隔。
11.根据权利要求1至10中任一项所述的药剂识别装置,其中,
所述照明部从四个以上的方向照亮所述药剂。
12.根据权利要求1至11中任一项所述的药剂识别装置,其中,
在多个所述药剂包含在1个药包时,所述更新判定部根据所述多个药剂彼此的间隔,判定是否更新所述主图像。
13.根据权利要求1至12中任一项所述的药剂识别装置,其中,
所述照明部构成为包含多个光源,
所述药剂识别装置具备:
照明控制部,通过切换所述多个光源中照亮所述药剂的光源而依次切换所述药剂的照明方向;及
摄影控制部,每次切换所述照明方向时,使所述摄影部拍摄所述药剂,
所述主图像生成部合成通过所述摄影部得到的多个摄影图像即与所述多个照明方向对应的多个摄影图像而生成所述主图像。
14.根据权利要求1至13中任一项所述的药剂识别装置,其中,
所述摄影部构成为包含:
第一相机,从第一方向拍摄所述药剂;及
第二相机,从与所述第一方向不同的第二方向拍摄所述药剂。
15.根据权利要求1至14中任一项所述的药剂识别装置,其中,
所述药剂被包装。
16.根据权利要求1至15中任一项所述的药剂识别装置,其中,
包装有所述药剂的多个药包连续,
在从1个所述药包拍摄到相同种类的多个药剂时,或者遍及所述多个药包拍摄到相同种类的多个药剂时,所述主图像生成部利用拍摄到所述相同种类的多个药剂的多个药剂区域来生成所述主图像。
17.根据权利要求16所述的药剂识别装置,其中,
在从1个所述药包拍摄到相同种类的多个药剂时,或者遍及所述多个药包拍摄到相同种类的多个药剂时,所述主图像生成部利用所述多个药剂区域并通过平均或加权平均来生成所述主图像。
18.根据权利要求1至17中任一项所述的药剂识别装置,其中,
该药剂识别装置具备:
显示部;及
显示控制部,使所述显示部显示所述摄影图像中的药剂区域。
19.根据权利要求18所述的药剂识别装置,其中,
该药剂识别装置具备计算所述主图像与所述摄影图像中的药剂区域的相关值的相关值计算部,
所述显示控制部使所述显示部显示所述相关值。
20.根据权利要求18或19所述的药剂识别装置,其中,
所述显示控制部使所述显示部显示更新了所述主图像的历史记录。
21.根据权利要求20所述的药剂识别装置,其中,
所述显示控制部将所述药剂的位置与所述主图像的更新建立关联地显示于所述显示部。
22.根据权利要求1至21中任一项所述的药剂识别装置,其中,
该药剂识别装置具备:
药剂判断部,核对所述摄影图像与登记到所述存储部的主图像中最后登记的主图像来判断所述摄影图像所表示的药剂为哪一种药剂;及
判断结果输出部,输出所述判断的结果。
23.根据权利要求22所述的药剂识别装置,其中,
所述药剂判断部根据所述摄影图像与所述主图像的核对结果来选择所述摄影图像所表示的药剂的候选,
所述判断结果输出部输出表示所选择的所述候选的信息。
24.根据权利要求22或23所述的药剂识别装置,其中,
该药剂识别装置进一步具备输入与所述摄影图像所表示的药剂相关联的关联信息的关联信息输入部,
所述药剂判断部参考所述关联信息进行所述判断。
25.根据权利要求24所述的药剂识别装置,其中,
所述关联信息为处方数据中包含的药剂的信息,
所述药剂判断部从所述存储部获取针对所述处方数据中包含的药剂的所述主图像,并核对所述摄影图像与所获取的所述主图像,来判断所述摄影图像所表示的药剂与所获取的所述主图像所表示的药剂是否相同。
26.一种药剂识别方法,其使用:
照明部,照亮药剂;
摄影部,拍摄通过所述照明部照亮的所述药剂;及
存储部,按所述药剂的每一种类存储表示所述药剂的主图像,
所述药剂识别方法包括:
根据通过所述摄影部得到的摄影图像来获取所述药剂的位置的步骤;
根据已获取的所述药剂的位置来判定是否更新所述主图像的步骤;及
在判定为更新所述主图像时,将所述摄影图像中的药剂区域作为主图像登记到所述存储部的步骤。
27.一种药剂识别程序,其使计算机执行权利要求26所述的药剂识别方法。
28.一种非暂时性记录介质,其记录有权利要求27所述的药剂识别程序且能够由计算机读取。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017057785 | 2017-03-23 | ||
JP2017-057785 | 2017-03-23 | ||
JP2017-224318 | 2017-11-22 | ||
JP2017224318 | 2017-11-22 | ||
PCT/JP2018/007235 WO2018173649A1 (ja) | 2017-03-23 | 2018-02-27 | 薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110418627A true CN110418627A (zh) | 2019-11-05 |
CN110418627B CN110418627B (zh) | 2021-11-16 |
Family
ID=63586489
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880017385.9A Active CN110418627B (zh) | 2017-03-23 | 2018-02-27 | 药剂识别装置、药剂识别方法及药剂识别程序 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11574141B2 (zh) |
EP (1) | EP3603604A4 (zh) |
JP (1) | JP6767565B2 (zh) |
CN (1) | CN110418627B (zh) |
WO (1) | WO2018173649A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111866458A (zh) * | 2020-07-14 | 2020-10-30 | 深圳市瑞意博医疗设备有限公司 | 一种毒麻药品三期码复核装置 |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019039300A1 (ja) * | 2017-08-22 | 2019-02-28 | 富士フイルム株式会社 | 薬剤検査支援装置、薬剤識別装置、画像処理装置、画像処理方法及びプログラム |
JP6974595B2 (ja) * | 2018-04-03 | 2021-12-01 | 富士フイルム富山化学株式会社 | 薬剤判定装置及び薬剤判定方法 |
JP7022989B2 (ja) * | 2018-10-24 | 2022-02-21 | 株式会社ナベル | パック詰め卵の撮像システム |
JP7125510B2 (ja) * | 2018-11-21 | 2022-08-24 | 富士フイルム富山化学株式会社 | 薬剤識別装置、薬剤識別方法及び薬剤識別プログラム |
JP7364888B2 (ja) * | 2018-12-27 | 2023-10-19 | 株式会社湯山製作所 | 種類判別装置 |
CN113260344A (zh) * | 2019-02-07 | 2021-08-13 | 富士胶片富山化学株式会社 | 药剂对照装置、药剂对照方法以及药剂对照系统 |
WO2021010277A1 (ja) * | 2019-07-16 | 2021-01-21 | 富士フイルム富山化学株式会社 | 薬剤識別装置、薬剤識別方法及びプログラム |
US11195270B2 (en) | 2019-07-19 | 2021-12-07 | Becton Dickinson Rowa Germany Gmbh | Measuring and verifying drug portions |
CN114450677A (zh) * | 2019-10-01 | 2022-05-06 | 富士胶片富山化学株式会社 | 药剂对照装置、药剂对照系统、药剂管理方法及程序 |
FR3122008B1 (fr) * | 2021-04-19 | 2023-10-20 | Buawei | Dispositif d’éclairage d’une surface à contrôler |
CN117524408A (zh) * | 2023-11-30 | 2024-02-06 | 青岛大学附属医院 | 基于ai的静脉用药配置核对系统及其使用方法 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005258680A (ja) * | 2004-03-10 | 2005-09-22 | Glory Ltd | 薬剤画像読取装置 |
CN102521479A (zh) * | 2005-04-06 | 2012-06-27 | 马林克罗特公司 | 管理有关医用液体及其容器的信息的系统与方法 |
CN103443617A (zh) * | 2011-03-24 | 2013-12-11 | 松下电器产业株式会社 | 药片检查装置以及采用了该装置的药片检查方法 |
JP2014120156A (ja) * | 2013-11-12 | 2014-06-30 | Team Lab Inc | 薬剤認識装置、薬剤認識方法及び薬剤認識プログラム |
CN104582670A (zh) * | 2012-09-27 | 2015-04-29 | 富士胶片株式会社 | 药剂检查支援装置及方法 |
CN104717952A (zh) * | 2012-09-27 | 2015-06-17 | 富士胶片株式会社 | 药剂检查装置及方法 |
US20150266604A1 (en) * | 2012-10-03 | 2015-09-24 | Yuyama Mfg. Co., Ltd. | Medicinal Agent Inspection System, Winding Device, Feed Device, And Holder |
EP2924647A1 (en) * | 2012-11-22 | 2015-09-30 | Yuyama Mfg. Co., Ltd. | Drug inspection device |
TW201544098A (zh) * | 2014-02-06 | 2015-12-01 | Yuyama Mfg Co Ltd | 藥品攝影裝置、藥品形狀測定裝置、藥品交付裝置 |
US20160210524A1 (en) * | 2013-09-30 | 2016-07-21 | Fujifilm Corporation | Drug recognition device and method |
CN106415251A (zh) * | 2014-03-31 | 2017-02-15 | 株式会社汤山制作所 | 药剂拍摄装置 |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0916681A (ja) | 1995-06-26 | 1997-01-17 | Bunkichi Kato | 薬剤鑑別装置 |
JP4923282B2 (ja) * | 2002-11-22 | 2012-04-25 | グローリー株式会社 | 薬剤認識装置 |
JP2005249615A (ja) | 2004-03-04 | 2005-09-15 | Denso Corp | 異品種混入検査方法 |
US9208394B2 (en) * | 2005-09-05 | 2015-12-08 | Alpvision S.A. | Authentication of an article of manufacture using an image of the microstructure of it surface |
CN102483845B (zh) | 2009-09-11 | 2018-09-04 | 富士通株式会社 | 生物体认证装置、生物体认证系统和生物体认证方法 |
KR101899269B1 (ko) * | 2011-04-28 | 2018-10-29 | 가부시키가이샤 유야마 세이사쿠쇼 | 약제 감사 장치 및 약제 분포 장치 |
JP6369456B2 (ja) * | 2013-02-20 | 2018-08-08 | 株式会社湯山製作所 | 薬剤鑑査装置、及び薬剤分包システム |
JP6118614B2 (ja) * | 2013-03-29 | 2017-04-19 | 富士フイルム株式会社 | キャリブレーション方法およびキャリブレーション装置 |
US9349076B1 (en) * | 2013-12-20 | 2016-05-24 | Amazon Technologies, Inc. | Template-based target object detection in an image |
AU2017252847A1 (en) * | 2016-04-19 | 2018-11-15 | Yuyama Mfg. Co., Ltd. | Image processing program and image processing device |
WO2019039300A1 (ja) | 2017-08-22 | 2019-02-28 | 富士フイルム株式会社 | 薬剤検査支援装置、薬剤識別装置、画像処理装置、画像処理方法及びプログラム |
JP6974595B2 (ja) * | 2018-04-03 | 2021-12-01 | 富士フイルム富山化学株式会社 | 薬剤判定装置及び薬剤判定方法 |
-
2018
- 2018-02-27 CN CN201880017385.9A patent/CN110418627B/zh active Active
- 2018-02-27 EP EP18770371.5A patent/EP3603604A4/en active Pending
- 2018-02-27 JP JP2019507478A patent/JP6767565B2/ja active Active
- 2018-02-27 WO PCT/JP2018/007235 patent/WO2018173649A1/ja unknown
-
2019
- 2019-08-21 US US16/547,208 patent/US11574141B2/en active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005258680A (ja) * | 2004-03-10 | 2005-09-22 | Glory Ltd | 薬剤画像読取装置 |
CN102521479A (zh) * | 2005-04-06 | 2012-06-27 | 马林克罗特公司 | 管理有关医用液体及其容器的信息的系统与方法 |
CN103443617A (zh) * | 2011-03-24 | 2013-12-11 | 松下电器产业株式会社 | 药片检查装置以及采用了该装置的药片检查方法 |
CN104582670A (zh) * | 2012-09-27 | 2015-04-29 | 富士胶片株式会社 | 药剂检查支援装置及方法 |
CN104717952A (zh) * | 2012-09-27 | 2015-06-17 | 富士胶片株式会社 | 药剂检查装置及方法 |
US20150266604A1 (en) * | 2012-10-03 | 2015-09-24 | Yuyama Mfg. Co., Ltd. | Medicinal Agent Inspection System, Winding Device, Feed Device, And Holder |
EP2924647A1 (en) * | 2012-11-22 | 2015-09-30 | Yuyama Mfg. Co., Ltd. | Drug inspection device |
US20160210524A1 (en) * | 2013-09-30 | 2016-07-21 | Fujifilm Corporation | Drug recognition device and method |
JP2014120156A (ja) * | 2013-11-12 | 2014-06-30 | Team Lab Inc | 薬剤認識装置、薬剤認識方法及び薬剤認識プログラム |
TW201544098A (zh) * | 2014-02-06 | 2015-12-01 | Yuyama Mfg Co Ltd | 藥品攝影裝置、藥品形狀測定裝置、藥品交付裝置 |
CN106415251A (zh) * | 2014-03-31 | 2017-02-15 | 株式会社汤山制作所 | 药剂拍摄装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111866458A (zh) * | 2020-07-14 | 2020-10-30 | 深圳市瑞意博医疗设备有限公司 | 一种毒麻药品三期码复核装置 |
Also Published As
Publication number | Publication date |
---|---|
US20190377977A1 (en) | 2019-12-12 |
EP3603604A4 (en) | 2020-04-01 |
JP6767565B2 (ja) | 2020-10-14 |
EP3603604A1 (en) | 2020-02-05 |
CN110418627B (zh) | 2021-11-16 |
WO2018173649A1 (ja) | 2018-09-27 |
JPWO2018173649A1 (ja) | 2019-12-12 |
US11574141B2 (en) | 2023-02-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110418627A (zh) | 药剂识别装置、药剂识别方法及药剂识别程序 | |
US20220344044A1 (en) | User-customized skin diagnosis system and method | |
KR101744123B1 (ko) | 의약품 식별 장치 및 그 방법 | |
JP6009888B2 (ja) | 薬剤検査装置及び方法 | |
CN110348543A (zh) | 眼底图像识别方法、装置、计算机设备及存储介质 | |
CN110309876A (zh) | 目标检测方法、装置、计算机可读存储介质和计算机设备 | |
CN105592792A (zh) | 表面状态测定分析信息管理系统及表面状态测定分析信息管理方法 | |
CN104933429B (zh) | 图像中信息提取的方法及装置 | |
CN108124486A (zh) | 基于云端的人脸活体检测方法、电子设备和程序产品 | |
CN108985861A (zh) | 一种基于开放式购物环境的购物结算控制方法和装置 | |
CN109934047A (zh) | 基于深度学习的人脸识别系统及其人脸识别方法 | |
CN106127865A (zh) | 检票方法和通道管理设备 | |
CN107111906A (zh) | 识别装置、识别方法、识别程序及包括识别程序的计算机可读介质 | |
ES2754612T3 (es) | Procedimiento de reconocimiento de caracteres en relieve, producto programa de ordenador y dispositivo correspondientes | |
CN109661668A (zh) | 用于虹膜识别的图像处理方法和系统 | |
CN108765014A (zh) | 一种基于门禁系统的智能广告投放方法 | |
CN107213019A (zh) | 药品分发装置及方法 | |
CN109243112A (zh) | 一种开放式环境购物控制方法和装置 | |
JP2020198053A (ja) | 情報処理装置、情報処理方法、人物検索システムおよび人物検索方法 | |
CN109145716A (zh) | 基于脸部识别的登机口检验平台 | |
CN110135268A (zh) | 人脸比对方法、装置、计算机设备和存储介质 | |
CN106127866A (zh) | 检票方法和通道管理设备 | |
KR102163240B1 (ko) | 영상 데이터 및 센싱 데이터에 기반한 운동 정보 제공 방법 및 장치 | |
CN115700759A (zh) | 医学图像显示方法、医学图像处理方法和图像显示系统 | |
CN114445759A (zh) | 一种用于远程采样的数据共享方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |