WO2018173649A1 - 薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム - Google Patents

薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム Download PDF

Info

Publication number
WO2018173649A1
WO2018173649A1 PCT/JP2018/007235 JP2018007235W WO2018173649A1 WO 2018173649 A1 WO2018173649 A1 WO 2018173649A1 JP 2018007235 W JP2018007235 W JP 2018007235W WO 2018173649 A1 WO2018173649 A1 WO 2018173649A1
Authority
WO
WIPO (PCT)
Prior art keywords
drug
medicine
unit
master image
image
Prior art date
Application number
PCT/JP2018/007235
Other languages
English (en)
French (fr)
Inventor
一央 岩見
高島 正伸
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to JP2019507478A priority Critical patent/JP6767565B2/ja
Priority to EP18770371.5A priority patent/EP3603604A4/en
Priority to CN201880017385.9A priority patent/CN110418627B/zh
Publication of WO2018173649A1 publication Critical patent/WO2018173649A1/ja
Priority to US16/547,208 priority patent/US11574141B2/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/66Trinkets, e.g. shirt buttons or jewellery items
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61JCONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
    • A61J1/00Containers specially adapted for medical or pharmaceutical purposes
    • A61J1/03Containers specially adapted for medical or pharmaceutical purposes for pills or tablets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/28Determining representative reference patterns, e.g. by averaging or distorting; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
    • G16H20/13ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients delivered from dispensers
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61JCONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
    • A61J2200/00General characteristics or adaptations
    • A61J2200/70Device provided with specific sensor or indicating means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61JCONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
    • A61J2205/00General identification or selection means
    • A61J2205/40General identification or selection means by shape or form, e.g. by using shape recognition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61JCONTAINERS SPECIALLY ADAPTED FOR MEDICAL OR PHARMACEUTICAL PURPOSES; DEVICES OR METHODS SPECIALLY ADAPTED FOR BRINGING PHARMACEUTICAL PRODUCTS INTO PARTICULAR PHYSICAL OR ADMINISTERING FORMS; DEVICES FOR ADMINISTERING FOOD OR MEDICINES ORALLY; BABY COMFORTERS; DEVICES FOR RECEIVING SPITTLE
    • A61J2205/00General identification or selection means
    • A61J2205/50General identification or selection means using icons or symbolic figures, e.g. by a graphical representation symbolising the type of pathology or the organ by an image
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/9508Capsules; Tablets
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Definitions

  • the present invention relates to a drug recognition device, a drug recognition method, and a drug recognition program that can increase the robustness of a master image when a drug is recognized.
  • Patent Document 1 in order to prevent a change in recognition accuracy due to an external factor such as a change in illumination and a difference in the coating state of a workpiece in a mixed inspection of workpieces continuously supplied on a production line,
  • a master image reference image data
  • each image data of a plurality of workpieces to be subsequently supplied is compared with the master image, and when it is determined that they are the same type, the master is always used. It is described that the image is updated.
  • Patent Document 2 describes that a drug information database is searched using the measured value characteristics (color tone, size, shape, etc.) of a drug as a query search item, and a completely matching or approximate product name is displayed on the screen. Yes.
  • Patent Document 3 describes that an image of an illuminated medicine is taken and matched with a template image of each medicine stored in a database to identify the medicine.
  • JP 2005-249615 A Japanese Patent Laid-Open No. 9-16681 WO2015 / 152225
  • Patent Document 1 Even if the technique described in Patent Document 1 is applied to drug recognition and it is determined that the drug in the medicine package is the same type as the drug in the master image, the master image is always robust even if the master image is updated. Is difficult to increase. This is because, since the position of the medicine in the medicine package is different for each medicine package, when the medicine is imaged at a position where the recognition power is low, the recognition accuracy of the medicine is lowered when the master image is updated. .
  • Patent Document 2 does not describe anything about collating with a master image and increasing the robustness of the master image.
  • Patent Document 3 describes template matching, but does not describe anything to increase the robustness of the master image.
  • An object of the present invention is to provide a drug recognition device, a drug recognition method, and a drug recognition program that can increase the robustness of a master image when a drug is recognized.
  • a drug recognition device includes an illumination unit that illuminates a drug, an imaging unit that images the drug illuminated by the illumination unit, and a drug for each type of drug.
  • a storage unit that stores a master image to be shown, a drug position acquisition unit that acquires the position of the drug based on the captured image obtained by the imaging unit, and a master image based on the position of the drug acquired by the drug position acquisition unit.
  • An update determination unit that determines whether or not to update, a master image generation unit that generates a master image from a medicine region among captured images obtained by the imaging unit, and an update determination unit that determines to update the master image
  • a registration unit that registers the master image generated by the master image generation unit in the storage unit.
  • the position of the medicine is acquired based on the photographed image obtained by the photographing unit, and it is determined whether or not to update the master image for each kind of medicine based on the position of the medicine. Even if the position of the medicine is different for each medicine package, the master image can be updated so that the recognition rate of the medicine is high. That is, the robustness of the master image can be increased when recognizing a medicine.
  • the registration unit stores the medicine position information indicating the position of the medicine in the storage unit in association with the master image
  • the update determination unit stores the medicine imaged by the imaging unit. Whether to update the master image is determined based on the position and the drug position information associated with the master image.
  • the update determination unit is configured such that the position of the medicine imaged by the imaging unit is more than the position of the medicine in the master image indicated by the medicine position information associated with the master image.
  • the cognitive power is high, it is determined that the master image is updated.
  • the registration unit when a medicine of a type whose master image is unregistered is photographed by the photographing part, stores the medicine region in the photographed image obtained by the photographing part. Register as a master image in the storage unit.
  • the update determination unit obtains a master image based on the distance between the reference position where the recognition power for the medicine satisfies the standard and the position of the medicine in the photographing range of the photographing unit. It is determined whether or not to update.
  • a drug recognition device includes a reference position setting unit that obtains in advance a position where the recognition power for a drug satisfies a standard in the imaging range of the imaging unit and sets the position as a reference position.
  • the reference position is a position having the highest recognition power for the drug in the imaging range, or a representative position of a region having the highest recognition power for the drug in the imaging range.
  • the recognition power is the recognition power for the marking on the surface of the drug, and is determined according to the incident angle at which the illumination light of the illumination unit enters the marking on the surface of the drug.
  • the illumination unit illuminates the medicine from a plurality of illumination directions surrounding the medicine
  • the imaging unit faces at least one surface of the packaging material that wraps the medicine
  • the reference The position is the center position of the imaging range
  • the update determination unit determines whether to update the master image based on the distance between the center position of the imaging range and the position of the medicine.
  • the illumination unit includes a plurality of light sources, and the plurality of light sources and the optical axis of the imaging unit are equally spaced.
  • the illumination unit illuminates the drug from four or more directions.
  • the update determination unit updates the master image based on the interval between the plurality of medicines when the plurality of medicines are included in one medicine package. Determine whether or not.
  • the illumination unit is configured to include a plurality of light sources, and the illumination unit sequentially switches the illumination direction of the medicine by switching a light source that illuminates the medicine among the plurality of light sources.
  • a control unit, and an imaging control unit that causes the imaging unit to image the drug every time the illumination direction is switched, and the master image generation unit is a plurality of captured images obtained by the imaging unit and corresponds to a plurality of illumination directions A master image is generated by combining a plurality of captured images.
  • the imaging unit captures the medicine from the first direction and the second camera that photographs the medicine from a second direction different from the first direction. And a camera.
  • the drug is packaged.
  • a plurality of medicine packages packed with medicine are continuous, and the master image generation unit captures a plurality of medicines of the same type from one medicine package.
  • the master image generation unit captures a plurality of medicines of the same type from one medicine package.
  • a master image is generated using a plurality of medicine regions in which a plurality of medicines of the same kind are photographed.
  • a master image may be generated from one medicine region.
  • the master image generation unit may capture a plurality of medicines of the same type when a plurality of medicines of the same type are photographed from one medicine package or across a plurality of medicine packages.
  • a master image is generated by averaging or weighted averaging using a plurality of drug regions.
  • a drug recognition device includes a display unit and a display control unit that causes the display unit to display a drug region in the captured image.
  • a drug recognition device includes a correlation value calculation unit that calculates a correlation value between a master image and a drug region in a captured image, and the display control unit displays the correlation value on the display unit.
  • the display control unit displays the history of updating the master image on the display unit.
  • the display control unit displays the position of the drug and the update of the master image in association with each other on the display unit.
  • the medicine indicated by the photographed image by comparing the photographed image with the master image registered last among the master images registered in the storage unit is any medicine.
  • the drug determination unit selects a drug candidate indicated by the captured image based on the result of matching between the captured image and the master image, and the determination result output unit selects the selected candidate.
  • the information indicating is output. According to this aspect, the drug candidate indicated by the captured image can be confirmed from the output information.
  • the drug recognition device further includes a related information input unit that inputs related information related to the drug indicated by the captured image, and the drug determination unit makes a determination with reference to the related information.
  • information used for drug collation can be input as related information, and determination can be made accurately by referring to such related information.
  • the related information is information of a drug included in the prescription data
  • the drug determination unit acquires a master image about the drug included in the prescription data from the storage unit
  • the photographed image is compared with the acquired master image to determine whether or not the medicine indicated by the photographed image is the same as the medicine indicated by the acquired master image.
  • a medicine recognition method includes an illumination unit that illuminates a medicine, an imaging unit that photographs the medicine illuminated by the illumination unit, and a memory that stores a master image indicating the medicine for each kind of medicine. And a step of acquiring the position of the drug based on the captured image obtained by the imaging unit, and whether to update the master image based on the acquired position of the drug And, when it is determined to update the master image, the step of registering the medicine region of the captured image as the master image in the storage unit is included.
  • a drug recognition program causes a computer to execute the above-described drug recognition method.
  • a non-temporary recording medium in which a computer-readable code of the drug recognition program according to this aspect is recorded can be cited as still another aspect of the present invention.
  • medicine recognition device medicine recognition method, and medicine recognition program according to the present invention, it is possible to increase the robustness of the master image when the medicine is recognized.
  • FIG. 1 is a diagram illustrating a configuration example of a drug recognition device according to an embodiment of the present invention.
  • FIG. 2 is a diagram showing an example in which a plurality of medicine packages are continuous.
  • FIG. 3 is a side view illustrating an arrangement example of the light source of the illumination unit and the camera of the photographing unit.
  • FIG. 4 is a plan view illustrating an arrangement example of the light source of the illumination unit and the camera of the photographing unit.
  • FIG. 5 is a diagram showing conditions that make it difficult to detect the marking of a medicine.
  • FIG. 6 is a diagram showing a luminance distribution in the case shown in FIG.
  • FIG. 7 is a diagram showing the drugs arranged two-dimensionally for setting the reference position.
  • FIG. 1 is a diagram illustrating a configuration example of a drug recognition device according to an embodiment of the present invention.
  • FIG. 2 is a diagram showing an example in which a plurality of medicine packages are continuous.
  • FIG. 3 is a side view illustrating an arrangement
  • FIG. 8 is an explanatory diagram used for explaining the calculation of the correlation value for setting the reference position.
  • FIG. 9 is an explanatory diagram used for explaining a preferred update of the master image.
  • FIG. 10 is an explanatory diagram used for explaining collation.
  • FIG. 11 is a first explanatory diagram used for explaining the illumination direction switching.
  • FIG. 12 is a second explanatory diagram used for explaining illumination direction switching.
  • FIG. 13 is a diagram illustrating a display example of a drug recognition result.
  • FIG. 14 is a flowchart showing a flow of a processing example to which the medicine recognition method according to the present invention is applied.
  • FIG. 15 is a diagram illustrating an example of a system in which the medicine recognition apparatus according to the present invention is applied to medicine inspection support and medicine discrimination.
  • FIG. 15 is a diagram illustrating an example of a system in which the medicine recognition apparatus according to the present invention is applied to medicine inspection support and medicine discrimination.
  • FIG. 16 is a flowchart showing a flow of a processing example in which the drug recognition method according to the present invention is applied to drug audit support.
  • FIG. 17 is a diagram showing an example of a result of applying the drug recognition method and apparatus according to the present invention to drug audit support.
  • FIG. 18 is another diagram showing an example of a result of applying the drug recognition method and apparatus according to the present invention to drug audit support.
  • FIG. 19 is a diagram showing an example in which the medicine recognition apparatus according to the present invention is applied to medicine discrimination.
  • FIG. 20 is another diagram showing an example in which the medicine recognition apparatus according to the present invention is applied to medicine discrimination.
  • FIG. 21 is a flowchart showing a flow of a processing example in which the medicine recognition method according to the present invention is applied to medicine discrimination.
  • FIG. 22 is a diagram showing an example of a result of applying the medicine recognition method and apparatus according to the present invention to medicine discrimination.
  • FIG. 23 is a diagram showing an example of a result obtained by applying the
  • FIG. 1 is a diagram illustrating a configuration example of a drug recognition device according to an embodiment of the present invention.
  • the medicine recognition device 10 of this example is configured to recognize a medicine to be recognized, such as an illumination part 12 that illuminates the medicine, an imaging part 14 that photographs the medicine illuminated by the illumination part 12, and prescription data indicating a medicine prescription for the user.
  • a related information acquisition unit 16 that acquires related information
  • a storage unit 18 non-temporary recording medium
  • a processing unit 20 that performs various processes according to a program stored in the unit 18, a display unit 22 that can display an image, and an operation unit 24 that receives an operation from a user are configured.
  • a medicine to be recognized such as an illumination part 12 that illuminates the medicine, an imaging part 14 that photographs the medicine illuminated by the illumination part 12, and prescription data indicating a medicine prescription for the user.
  • a related information acquisition unit 16 that acquires related information
  • Packaging means that a prescribed medicine is packaged (packaged) for each dose. Depending on the content of the prescription, when multiple drugs of different types are packaged in one packaging material, when multiple drugs of the same type are packaged in one packaging material, and only one drug is packaged in one packaging material There is a case.
  • Examples of the form of the medicine to be encapsulated include, but are not limited to, tablets and capsules.
  • Examples of the packaging material include paper and plastic, but are not particularly limited. Further, in this specification, “packaging” (or “packaging”) is not limited to the case of packaging each time of taking, and any drug may be used if it is packaged by a packaging material.
  • the illumination unit 12 includes a light source. A specific example of the illumination unit 12 will be described later.
  • the photographing unit 14 includes a camera. A specific example of the imaging unit 14 will be described later.
  • the related information acquisition unit 16 acquires related information such as prescription data by optically reading characters on the prescription, for example.
  • prescription data include, but are not limited to, drug identification information, name, quantity, usage, dosage, and the like described in a prescription.
  • the related information acquisition unit 16 may acquire the prescription data by reading the barcode (or two-dimensional code) given to the prescription. Moreover, you may acquire the prescription data which the doctor and / or the pharmacist input with the computer apparatus by communication.
  • the “prescription data” may be the information described in the prescription itself, or may be information set or changed by a doctor and / or pharmacist based on the information described in the prescription.
  • the obtained information can also be included in the “prescription data”.
  • the drug recognition device 10 is used for drug audit support, drug discrimination, etc. (described later), the characteristics of the drug recognized visually (for example, drug type such as tablet or capsule, shape, color, etc.) or so-called “o”
  • the related information acquisition unit 16 may input information such as a medicine name, quantity, and administration method written in a notebook such as “medicine notebook” as related information in accordance with a user operation.
  • the storage unit 18 includes a temporary storage device and a non-temporary storage device (non-temporary recording medium).
  • the storage unit 18 of this example stores a master image (also referred to as “medicine master image”) indicating a drug for each type of drug.
  • the master image is preferably stored in association with attribute information indicating the attribute of each drug (for example, information such as drug code, name, drug type, shape, size, etc .; see the example in FIG. 23).
  • the processing unit 20 is configured by, for example, a CPU (central processing unit).
  • the processing unit 20 of this example has a function of updating the master image stored in the storage unit 18.
  • the processing unit 20 of this example performs a master update process for updating a master image stored in the storage unit 18 using a captured image obtained by the imaging unit 14 when a specific condition described later is satisfied.
  • the processing unit 20 of this example includes an illumination control unit 32 that controls illumination of the illumination unit 12, an imaging control unit 34 that controls imaging of the imaging unit 14, and a drug image based on the captured image obtained by the imaging unit 14.
  • a drug position acquisition unit 35 for acquiring a position a master image generation unit 36 for generating a master image from a drug region among the captured images obtained by the imaging unit 14, and an imaging obtained by imaging the drug by the imaging unit 14
  • a collation unit 42 that collates the drug region of the image with the master image stored in the storage unit 18 and an update that determines whether or not to update the master image based on the position of the drug acquired by the drug position acquisition unit 35.
  • a registration unit 46 that registers the master image generated by the master image generation unit 36 in the storage unit 18, and a table A display control unit 48 for controlling the presentation of 22, is configured to include a. You may provide the correlation value calculation part 49 which calculates the correlation value with the chemical
  • FIG. 2 shows a medicine bandage PB in which a plurality of medicine packages TP packed with a medicine T are continuous.
  • the x-axis is an axis along the longitudinal direction of the medicine bandage PB
  • the y-axis is an axis along the width direction of the medicine bandage PB.
  • the medicine bandage PB of this example can be transported along the x-axis direction.
  • the type of the medicine T is indicated by marking (or printing) on the medicine T in this example. For convenience of the following description, it is assumed that each medicine T is marked with “A”, “B”, or “C”, but the marking content (or printing content) is not particularly limited.
  • the packaging material of the medicine package TP is preferably transparent on both sides (including translucent, the same applies hereinafter). Printing or mat processing may be applied to one side of the packaging material of the medicine package TP.
  • a continuous medicine package TP can be transported for each size of the medicine package TP in the x-axis direction.
  • the position of the medicine package TP may be detectable for each medicine package TP.
  • the present invention is not limited to the case where the medicine package TP is transported. It may be a case where the medicine package TP is merely placed on a placement table or the like. In the present invention, the medicine T may not be packaged. For example, each medicine contained in the medicine T may be placed directly or in a container such as a petri dish and placed on the placing table.
  • FIG. 3 and 4 show an arrangement example of the light source 13 of the illumination unit 12 and the camera 15 (15A, 15B) of the photographing unit 14.
  • FIG. 3 is a side view as seen from the side of the medicine bandage PB
  • FIG. 4 is a plan view of one side of the medicine bandage PB as seen from above or below.
  • the x axis is an axis along the longitudinal direction of the medicine bandage PB
  • the y axis is an axis along the width direction of the medicine bandage PB
  • the z axis is orthogonal to one surface (upper surface or lower surface) of the medicine bandage PB. Is the axis.
  • the illumination unit 12 includes a plurality of light sources 13 and illuminates the drug T from a plurality of illumination directions surrounding the drug T as shown in FIG.
  • the illumination part 12 of this example illuminates one surface (upper surface or lower surface) of the medicine T from four directions.
  • the medicine T may be illuminated from four or more directions.
  • the imaging unit 14 opposes at least one surface of a transparent wrapping material that wraps the drug T, and images the drug T.
  • the imaging unit 14 includes a camera 15A (first camera) facing the upper surface of the medicine bandage PB (which is one surface of the packaging material on which the medicine T is packaged), and the lower surface of the medicine bandage PB. And a camera 15B (second camera) facing the other side (the other side of the packaging material in which the medicine T is packaged). That is, the camera 15A captures the medicine T from the first direction (the direction from the upper side to the lower side of the medicine bandage PB), and the camera 15B takes the medicine T from the second direction (the direction from the lower side to the upper side of the medicine bandage PB). Shoot from.
  • first camera facing the upper surface of the medicine bandage PB
  • the camera 15B second camera facing the other side (the other side of the packaging material in which the medicine T is packaged). That is, the camera 15A captures the medicine T from the first direction (the direction from the upper side to the lower side of the medicine bandage PB), and the camera 15B takes the medicine T from the second direction (the direction from the lower side to the
  • the master image generation unit 36 extracts a drug region from the captured image obtained by the camera 15 of the imaging unit 14 and generates a master image.
  • the drug region is recognized by detecting the edge of the image of the drug T from the captured image, and the drug region is extracted by cutting out the drug region from the captured image.
  • two photographed images obtained by photographing the medicine T from both the upper and lower directions may be used. You may use the image which changed the chemical
  • a mask may be generated using a transmission image (drug region is black) that is transmitted light that has passed through the packaging material of the medicine package TP, and a master image may be generated using the mask.
  • the registration unit 46 stores, as a master image, a medicine region in a new photographed image obtained by the camera 15 when a type of medicine T whose master image is not registered is photographed by the camera 15 of the photographing unit 14. Register in the unit 18. If the update determination unit 44 determines to update, the master image in the storage unit 18 is updated.
  • the drug position acquisition unit 35 acquires the drug position in the imaging range of the imaging unit 14 based on the captured image obtained by the imaging unit 14.
  • the drug position acquisition unit 35 of this example acquires the position of the image of the drug T in the captured image by image analysis. That is, since the position of the medicine T in the photographing range in the real space corresponds to the position of the medicine T image in the photographed image, the position of the medicine T image in the photographed image is used as the position of the medicine in the photographing range. Can do.
  • the acquisition of the “drug position” is not limited to the acquisition of the absolute position of the drug in the imaging range (or captured image) in this specification, and the recognition ability for the drug in the imaging range (or captured image) is the reference. This includes the case of acquiring a distance (hereinafter also referred to as “relative position”) from a reference position that satisfies the above. That is, the update determination unit 44 can determine whether to update the master image based on the relative position.
  • the “recognition power” for a medicine is a recognition power for recognizing the kind of medicine based on a photographed image in this specification. This recognition power generally varies depending on the drug position in the imaging range.
  • the “recognition power” may be represented by a recognition probability (recognition rate) or may be represented by an evaluation value calculated in advance. For example, as will be described later, it is possible to represent an evaluation value indicating the recognition power using a correlation value between drug images.
  • “Recognition power” is, as a specific example, the recognition power for the marking on the surface of the drug when the marking indicating the type of the drug is formed on the surface of the drug.
  • the recognition power with respect to the marking on the surface of the medicine is determined according to the angle (incident angle) at which the illumination light of the illumination unit 12 enters the marking on the surface of the medicine.
  • the “recognition power” is the recognition power for printing on the surface of the medicine when the print indicating the kind of medicine is formed on the surface of the medicine.
  • the recognition power for printing on the surface of a medicine is determined according to the angle (shooting angle) of the optical axis (shooting optical axis) of the imaging unit 14 with respect to the printing on the surface of the medicine.
  • the master image is an image of the medicine located in the central region of the imaging range (also referred to as “field-of-view range”) of the camera 15. desirable.
  • the drug image captured in the central region of the imaging range has high robustness, but the drug image captured at the end of the imaging range (that is, near the light source 13) is robust. Is low.
  • a tablet which is a form of a medicine
  • the update determination unit 44 determines whether or not to update the master image based on the distance between the reference position where the recognition ability with respect to the medicine satisfies the standard in the imaging range of the imaging unit 14 and the position of the medicine.
  • the determination based on the “distance between the reference position and the position of the drug” is performed using the reference position in the captured image, the position of the drug, and the distance corresponding to the reference position in the real space, the position of the drug, and the distance. It's okay.
  • the reference position is, for example, a representative position of a region having the highest recognition power for a drug in the imaging range or a region having the highest recognition power for a drug in the imaging range.
  • the center position of the shooting range (the position of the shooting optical axis PA in the shooting range in real space and the image center in the shooting image) is set.
  • the reference position may be used.
  • the update determination unit 44 determines whether or not to update the master image based on the distance between the center position of the imaging range and the position of the medicine. Therefore, the accuracy of drug recognition using the master image can be increased. That is, the robustness of the master image can be increased.
  • a position near the center position of the shooting range may be set as the reference position.
  • a position where the recognition power for the medicine is high (the position where the recognition power for the medicine satisfies the standard) in the imaging range can be obtained and set in advance by the reference position setting unit 50.
  • a plurality of medicines T are two-dimensionally arranged in the imaging range R at equal intervals, and the two-dimensionally arranged medicines T are photographed by the camera 15.
  • the correlation value calculation unit 49 calculates the correlation value of the drug image (the drug region image) with the drug T, and based on the correlation value, the region having the highest recognition power in the imaging range R can be obtained. .
  • FIG. 1 For the sake of convenience, FIG.
  • the autocorrelation value (correlation value between the drug image at the target position PI and the drug image at the target position PI) is “1.00”.
  • the correlation value between the drug image at the target position PI and the drug image at another position is less than “1.00”.
  • the calculated correlation value is indicated by a numerical value and a color (however, in FIG. 8, it is a gradation for convenience of illustration).
  • Such a correlation value is calculated by using each position of the plurality of two-dimensionally arranged medicines T in the imaging range R as a target position, and the correlation is obtained in the entire imaging range R (or a range necessary for drug recognition).
  • the target position where the value distribution is most preferable can be set as the reference position.
  • the sum of correlation values with other positions is calculated for each position of interest, and the position of interest where the sum of the correlation values is maximum is set as the reference position. That is, the representative position of the region having the highest recognition power in the photographing range R can be set as the reference position.
  • the position of the packaged medicine differs for each medicine package, and the medicine is unintentionally at the end of the imaging range R. May be shot.
  • the reference position setting unit 50 obtains in advance an attention position where the recognition power for the medicine satisfies the reference in the imaging range R and sets it as the reference position, and the reference medicine and the actual medicine photographed at the time of medicine recognition. Since it is determined whether or not to update the master image based on the distance to the position, the accuracy of drug recognition using the master image can be increased by updating the master image. That is, the robustness of the master image can be increased.
  • the registration unit 46 of this example stores the drug position information indicating the position of the drug in the imaging range (or the distance between the reference position and the drug position) in the storage unit 18 in association with the master image. Further, the update determination unit 44 updates the master image based on the position of the medicine imaged by the imaging unit 14 (or the distance between the reference position and the position of the medicine) and the medicine position information associated with the master image. It is determined whether or not.
  • the update determination unit 44 of the present example selects the master image when the position of the drug imaged by the imaging unit 14 is closer to the reference position than the drug position of the master image indicated by the drug position information associated with the master image. Determine to update.
  • the master image registered in the storage unit 18 by updating in accordance with such a standard is sequentially updated to a better master image. That is, as shown in FIG. 9, the image of the medicine TR in the area AR where the robustness of the master image is high in the imaging range R is updated until the image becomes the master image. If the image of the drug (TE in the figure) at the end where the robustness of the master image is low in the imaging range R is registered as the master image, the recognition power of the engraved EM is lowered. Since it converges to a good master image and the image of the medicine TR in the area AR conforming to the reference is registered as the master image, the recognition power of the stamp EM can be increased. In the arrangement of the light source 13 and the camera 15 shown in FIG. 4 (the plurality of light sources 13 and the imaging optical axis PA are equally spaced), the medicine position of the master image is set to the imaging optical axis PA that is the center position of the imaging range R. It will gradually approach the position of.
  • An image of a medicine with the code T13 (in this example, a medicine area of a photographed image IMG11 obtained by photographing the medicine T13 from above and a medicine area of a photographed image IMG12 obtained by photographing the medicine T13 from below. ) Is registered in the storage unit 18 by the registration unit 46 as a master image.
  • the master image obtained by viewing the medicine T13 in the first medicine package TP1 from below is an image obtained by photographing the second medicine package TP2 from above, as indicated by a dotted arrow in the figure.
  • the images of the medicines T21, T22, T23 in the image IMG21 and the images of the medicines T21, T22, T23 in the photographed image IMG22 obtained by photographing from below are collated. For example, it is verified that an image of the medicine with the code T23 in the second medicine package TP2 seen from below matches the master image.
  • the master image generation unit 36 selects the same type of medicine T.
  • a master image can be generated using a plurality of photographed drug regions.
  • the master image generation unit 36 generates a master image by average or weighted average using a plurality of drug regions.
  • a master image is generated using a plurality of drug regions.
  • the master image generation unit 36 generates a master image by average or weighted average using a plurality of drug regions.
  • a master image may be generated from the region of one medicine T.
  • a master image may be generated from a region of one medicine T.
  • the master image generation unit 36 may store the master image before update without deleting it when updating the master image, and use the master image before update when generating a new master image. preferable.
  • the medicine recognition mode in which the illumination direction for the medicine is sequentially switched will be described.
  • the illumination control part 32 of this aspect switches the illumination direction with respect to a chemical
  • the imaging control unit 34 of this aspect causes the imaging unit 14 to image the medicine every time the illumination direction with respect to the medicine is switched.
  • the master image generation unit 36 of this aspect combines a plurality of captured images corresponding to a plurality of illumination directions to generate a master image. According to this aspect, it is possible to accurately recognize the stamped characters attached to the medicine without being affected by the illumination direction for illuminating the medicine and the surface shape of the medicine.
  • the marking EM is constituted by a groove formed on the surface of the medicine T.
  • symbol 300 in a figure is a front view of the marking EM
  • symbol 301 is sectional drawing of the chemical
  • symbol 302 is sectional drawing of the chemical
  • the drug region image data 54 in the four directions are respectively shadow images along the contour of the engraved EM on the side of the illumination light source (the side of the light source 13 irradiating illumination light) 56 is produced.
  • the stamp EM has the same color as the surface of the medicine T and is difficult to identify on the actual image.
  • the stamp EM is used to explain the relationship between the stamp EM and the shadow image 56 according to the illumination direction. It is shown in an identifiable manner.
  • each of the drug region image data 54 corresponds to the shadow image 56 by performing edge detection processing on the drug region image data 54 in four directions for each drug T.
  • the feature image data 58 to be extracted is extracted. Thereby, for each medicine T for one package, feature image data 58 for each of four illumination directions (hereinafter referred to as “four-way feature image data 58”) is obtained, and four-direction feature images for each medicine T are obtained.
  • Data 58 is sequentially stored in the storage unit 18.
  • the four-direction feature image data 58 for each medicine T for one sachet is read from the storage unit 18, and the four-direction feature image data 58 is integrated for each medicine T.
  • the integrated image data 60 is generated.
  • the feature image data 58 in four directions are overlapped and integrated. Thereby, since the shadow images 56 for each of the four illumination directions are integrated into one, all the contours of the marking EM are clarified on the integrated image data 60. Then, the integrated image data 60 is generated for each medicine T for one package, and each integrated image data 60 is stored in the storage unit 18.
  • the display control unit 48 has a function of causing the display unit 22 to display the drug regions cut out from the captured image side by side.
  • the display control unit 48 has a function of causing the display unit 22 to display the correlation value calculated by the correlation value calculation unit 49.
  • FIG. 13 is a diagram showing a display example of the result of recognizing the medicine in the medicine package TP of the medicine bandage PB shown in FIG.
  • an image of the medicine with the stamp “A” and an image of the medicine with the stamp “B” as the medicine T recognized from the first medicine package TP and the second medicine package TP of the medicine bandage PB is displayed on the display unit 22
  • an image of the medicine with the stamp “B” and an image of the medicine with the stamp “C” are displayed as the medicine T recognized from the third medicine package TP. It is displayed on the part 22.
  • the numerical value below each drug image is a correlation value calculated by the correlation value calculation unit 49, and is a correlation value indicating the correlation between the image of the drug region extracted from the captured image and the master image.
  • the displayed drug region (which is a drug image) is actually added with a color of density according to the correlation value.
  • the correlation value of the image of the medicine with the stamp “C” is the second and third higher than the correlation value in the first medicine package because the master image is updated in the medicine recognition of the first medicine package TP. It can be seen that the correlation value in the medicine package is high.
  • the display control unit 48 has a function of causing the display unit 22 to display a history of updating the master image.
  • the display control unit 48 has a function of causing the display unit 22 to display the position of the medicine (absolute position or relative position) and the update of the master image in association with each other.
  • FIG. 14 is a flowchart showing a flow of a processing example to which the medicine recognition method according to the present invention is applied. This process is executed by the CPU constituting the processing unit 20 of the medicine recognition apparatus 10 according to a program (including the medicine recognition program according to the present invention).
  • related information such as prescription data described above is acquired by the related information acquisition unit 16 (step S2).
  • the packaged medicine is illuminated by the illumination unit 12 (step S4).
  • the medicine illuminated by the illumination unit 12 is photographed by the photographing unit 14 (step S6).
  • the drug position is acquired by the drug position acquisition unit 35, and the drug region is extracted from the captured image by the master image generation unit 36 (step S8).
  • the collation unit 42 collates the master image stored in the storage unit 18 with the drug region of the photographed image (step S10).
  • step S12 it is determined whether or not the master image is a non-registered medicine in the storage unit 18 (step S12). If the master image is a non-registered medicine (YES in step S12), the first package It is determined whether or not (step S14). If the master image is unregistered and the first package (YES in step S14), the registration unit 46 registers the drug region image extracted from the captured image as a master image (step S16).
  • the update determination unit 44 updates the master image based on the distance between the reference position (for example, the center position) of the imaging range and the position of the medicine. It is determined whether or not to perform (step S18).
  • the registration unit 46 registers the image of the medicine region extracted from the captured image as a master image (step S20).
  • step S22 It is determined whether or not there are other drugs in the medicine package (step S22). If there are other medicines in the medicine package (YES in step S22), the process returns to step S10, and the other medicines in the medicine package. The matching process is performed on the drugs.
  • step S24 If there is no other medicine in the medicine package after performing the medicine recognition process on all medicines in the medicine package (NO in step S22), it is determined whether there is another medicine package (step S24), If there is another medicine package, the process returns to step S4.
  • the update determination unit 44 may determine whether to update the master image based on the interval between the plurality of medicines. That is, in the case of engraving, it may be difficult to cast a shadow if there is a large medicine next to it, so it is preferable to determine that the master image is updated when there is no other medicine around. For example, when the distance between medicines is less than a threshold value (or less than the threshold value), it is difficult to make an imprinted shadow on the captured image, so it is determined that the master image is not updated.
  • processors include processors (CPUs) that are general-purpose processors that execute various types of processing by software (programs), processors (gates, arrays, gates, arrays, etc.) that can change circuit configurations after manufacturing. Examples include a programmable logic device (PLD), a dedicated electric circuit which is a processor having a circuit configuration designed exclusively for executing a specific process such as an ASIC (application specific integrated circuit).
  • PLD programmable logic device
  • the function of the processing unit 20 may be realized by one of these various processors, or two or more processors of the same type or different types (for example, a plurality of FPGAs, or a CPU and an FPGA).
  • a plurality of functions may be realized by one processor.
  • SoC system-on-chip
  • the entire system function including a plurality of functions is integrated into a single IC (integrated circuit) chip.
  • IC integrated circuit
  • the processor When the above-described processor or electric circuit executes software (program), the processor (computer) -readable code of the executed software is stored in a non-temporary recording medium such as ROM (Read Only Memory) and / or flash ROM. Aside, the processor references the software.
  • the software stored in the non-temporary recording medium includes a program (drug recognition program) for executing the drug recognition method according to the present invention.
  • the code may be recorded on a non-temporary recording medium such as various magneto-optical recording devices and semiconductor memories instead of the ROM.
  • VRAM Video RAM
  • SDRAM Synchronous Dynamic Random Access Memory
  • EEPROM Electrically Erasable, Programmable, Read, Only Memory
  • the above-described drug recognition device is applied to, for example, an audit support device that supports dispensing audits, a package device that packs drugs, a drug discrimination device that performs drug discrimination, and a medication support device that supports drug medication Is possible. You may apply to other apparatuses.
  • the above-described drug recognition method may be executed in accordance with a drug recognition program by a computer device, an audit support device, a packaging device, a drug discrimination device, a medication support device, or the like.
  • FIG. 15 is a diagram showing a system in which a drug recognition device 10A (drug inspection support device, drug discrimination device) is connected to a hospital information system 70 via a network NW.
  • Other devices such as an encapsulating device and a medication support device may be connected to the network NW.
  • the drug recognition device 10A includes a communication unit 26, and can communicate with a hospital information system 70 (HIS: Hospital Information System) via the communication unit 26 and the network NW. Since the other configuration is the same as that of the medicine recognition apparatus 10 described above, the same reference numeral is given to the same configuration, and detailed description thereof is omitted.
  • the specific configuration of the processing unit 20 is the same as that in FIG.
  • FIG. 16 is a flowchart showing the process of the medicine inspection support method using the medicine recognition apparatus 10A.
  • the processing from step S2 to step S24 is the same as that in the flowchart of FIG. 14, and in step S10, the collation unit 42 (drug determination unit, determination result output unit; see FIG. 1) extracts the master image and the collation target image (extracted from the captured image). And the display control unit 48 (judgment result output unit; see FIG. 1) displays the collation result in step S26.
  • the master image used at the time of collation in step S10 is the master image registered last in step S16 or step S20.
  • FIG. 17 is a diagram showing a display example of the matching result (an example of the matching result list L1 for the medicine A).
  • the master image and attribute information (information indicating the drug attribute) of the drug A are displayed on the left side (areas L1A and L1B) of the list L1, and “Show drug A” is displayed on the right side (area L1C). All the identified images to be collated are displayed.
  • the list L1 includes only the image of the surface of the medicine (the surface on which the engraving is applied), but may include an image of the back of the medicine.
  • the image to be collated is displayed for each sachet and for each dosing timing, and examination support information related to the medicine package TP (information for efficiently performing medicine collation and examination) ) Is displayed together with the image to be collated.
  • the examination support information is a dosing timing, a sachet number, and a dosing date, but may include other information (such as the similarity between a captured image and a master image).
  • it is assumed that two tablets of Drug A are correctly packaged in all the sachets (3 times a day ⁇ 7 days 21 packets), and the dosing period is 7 days.
  • the collation unit 42 outputs the collation result (step S28).
  • the collation result may be stored in the storage unit 18 or the collation result may be transmitted to the hospital information system 70 via the communication unit 26 and the network NW. From the viewpoint of information compatibility with the hospital information system 70, the collation result may be output in SS-MIX or SS-MIX2 format (SS-MIX: Standardized Structured Medical Information eeXchange).
  • FIG. 18 is a diagram showing a display example of the matching result for the specified medicine and similar medicine.
  • Part (a) of FIG. 18 shows a list L8 including a list L8A for the drug B and a list L8B for the drug D that is a similar drug to the drug B.
  • 18B shows a state in which a drug collation error has occurred in the list L8 (in the list L8A, the drug D indicated by the collation target image iS4 is determined to be the drug B, and vice versa.
  • the medicine B indicated by the comparison target image iS5 is determined to be the medicine D).
  • FIGS. 19 and 20 are diagrams illustrating an example in which a medicine is identified using the medicine recognition apparatus 10A.
  • a medicine is identified using the medicine recognition apparatus 10A.
  • the medicine T is placed in the petri dish SC and placed on a placement table (not shown). In this state, illumination and photographing are performed as in the example shown in FIG.
  • the medicine T may be placed directly on the placing table without being placed in the petri dish SC, or may be placed in a state of being packaged in a packaging bag.
  • FIG. 21 is a flowchart showing an example of processing of a medicine discrimination method using the medicine recognition apparatus 10A.
  • the same step number is attached
  • the related information acquisition unit 16 acquires related information through the operation of the operation unit 24 by the user (step S ⁇ b> 3).
  • the collation unit 42 (drug determination unit, determination result output unit) refers to the acquired related information and determines which drug the drug indicated by the captured image is.
  • a notebook such as a so-called “medicine notebook”
  • the information of the medicine that has been obtained can be acquired as related information.
  • information on a drug such as a drug type such as a tablet or a capsule, a color, an inscription, and / or a print
  • information specifying a patient such as an inpatient name, sex, and age, a ward name, and the like may be input or omitted.
  • the collation unit 42 selects a collation target based on the related information input in step S3 (step S9).
  • a collation target For example, the drug described in the “medicine notebook” and its similar drugs are selected as collation targets.
  • the verification target is selected based on the drug type, color, and the like of the drug obtained by visual observation or the like. By selecting the collation target in this way, it is possible to narrow down the collation range and perform discrimination quickly. Note that if no related information is input in step S3, the process in step S9 may be omitted.
  • the collation unit 42 collates the collation target image (the drug region image extracted from the captured image) with the master image of the collation target drug selected in Step S9, and based on the collation result, the collation target image (the captured image). ) Is selected (step S10). Since the master image used for collation is the master image registered last in step S16 or step S20, medicine recognition and discrimination can be accurately performed using the master image with improved robustness. In addition, when the process of step S9 is abbreviate
  • FIG. 22 is a diagram showing a display example of collation results (an output example of information indicating drug candidates indicated by the photographed image). Yes. Thereby, the user can confirm the drug candidate indicated by the captured image.
  • the display control unit 48 displays the master image and attribute information as shown in FIG. 23 in accordance with the designation of the displayed medicine (for example, click with the mouse (not shown) on the operation unit 24). 22 may be displayed.
  • step S28 The output of the collation result (step S28) can be performed in the same manner as step S28 in the flowchart of FIG.
  • the above-described drug audit support and identification may be performed by a device (an aspect of a drug recognition device) such as a personal computer, a smartphone, or a tablet terminal.
  • a medicine recognition program for executing the processing of the medicine recognition method according to the present invention is installed in these devices, and the medicine is photographed with a camera built in and / or externally attached to these devices and collated with the master image. It can be performed.
  • Drug recognition, audit support, and discrimination processing may be performed by these devices, or information input to these devices may be processed by a server on the network or in the cloud, and the result may be received.

Abstract

薬剤を認識する場合にマスタ画像のロバスト性を高くすることが可能になる薬剤認識装置、薬剤認識方法、及び薬剤認識プログラムを提供する。薬剤認識装置は、薬剤を照明する照明部と、照明された薬剤を撮影する撮影部と、薬剤の種類ごとにマスタ画像を記憶する記憶部と、撮影部によって得られた撮影画像に基づいて薬剤の位置を取得する薬剤位置取得部と、撮影画像のうち薬剤領域からマスタ画像を生成するマスタ画像生成部と、薬剤位置取得部によって取得された薬剤の位置に基づいてマスタ画像を更新するか否かを判定する更新判定部と、マスタ画像を更新すると判定された場合、マスタ画像を記憶部に登録する登録部と、を備える。

Description

薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム
 本発明は、薬剤を認識する場合にマスタ画像のロバスト性を高くすることが可能になる薬剤認識装置、薬剤認識方法、及び薬剤認識プログラムに関する。
 従来、薬剤の種類を認識する各種の装置が提案または提供されてきた。例えば、薬剤を照明し、その照明された薬剤を撮影し、その撮影で得られた撮影画像のうち薬剤領域と薬剤の種類ごとに予め登録されたマスタ画像とを照合することにより、薬剤の種類を認識することができる。
 特許文献1には、生産ライン上で連続的に供給されるワークに対する異品種混入検査において、照明の変化、ワークの塗装状態の違い等の外部要因による認識精度の変化を防止するため、最初に供給されるワークの画像データをマスタ画像(基準画像データ)として登録し、続いて供給される複数のワークのそれぞれの画像データをマスタ画像と比較して、同一品種と判定した場合には常にマスタ画像を更新することが記載されている。
 また特許文献2には、薬剤の計測値特性(色調、大きさ、形等)を照会検索項目として薬剤情報データベースを検索し、完全一致あるいは近似する品名をスクリーン上に表示することが記載されている。
 また特許文献3には、照明された薬剤の画像を撮影しデータベースに保存された各薬剤のテンプレート画像との間でマッチングして薬剤の鑑別を行うことが記載されている。
特開2005-249615号公報 特開平9-16681号公報 WO2015/152225号公報
 特許文献1に記載された技術を薬剤の認識に適用し、薬包内の薬剤がマスタ画像の薬剤と同一品種であると判定した場合に常にマスタ画像を更新しても、マスタ画像のロバスト性を高くすることは困難である。なぜなら、薬包内における薬剤の位置が薬包ごとに異なるため、認識力が低い位置で薬剤が撮影された場合にマスタ画像が更新されると、薬剤の認識精度が低下してしまうからである。特許文献2にはマスタ画像との照合、及びマスタ画像のロバスト性を高くすることについて何ら記載されていない。また特許文献3にはテンプレートマッチングについては記載されているが、マスタ画像のロバスト性を高くすることについては何ら記載されていない。
 本発明は、薬剤を認識する場合にマスタ画像のロバスト性を高くすることが可能になる薬剤認識装置、薬剤認識方法、及び薬剤認識プログラムを提供することを目的とする。
 上述した目的を達成するため、本発明の一の態様に係る薬剤認識装置は、薬剤を照明する照明部と、照明部によって照明された薬剤を撮影する撮影部と、薬剤の種類ごとに薬剤を示すマスタ画像を記憶する記憶部と、撮影部によって得られた撮影画像に基づいて薬剤の位置を取得する薬剤位置取得部と、薬剤位置取得部によって取得された薬剤の位置に基づいてマスタ画像を更新するか否かを判定する更新判定部と、撮影部によって得られた撮影画像のうち薬剤領域からマスタ画像を生成するマスタ画像生成部と、更新判定部によってマスタ画像を更新すると判定された場合、マスタ画像生成部によって生成されたマスタ画像を記憶部に登録する登録部と、を備える。
 本態様によれば、撮影部によって得られた撮影画像に基づいて薬剤の位置が取得され、その薬剤の位置に基づいて、薬剤の種類ごとのマスタ画像を更新するか否かが判定されるので、薬剤の位置が薬包ごとに異なっても薬剤の認識率が高くなるようにマスタ画像を更新することが可能となる。つまり薬剤を認識する場合にマスタ画像のロバスト性を高くすることが可能になる。
 本発明の他の態様に係る薬剤認識装置では、登録部は、薬剤の位置を示す薬剤位置情報をマスタ画像に関連付けて記憶部に記憶させ、更新判定部は、撮影部によって撮影された薬剤の位置とマスタ画像に関連付けられた薬剤位置情報とに基づいて、マスタ画像を更新するか否かを判定する。
 本発明の更に他の態様に係る薬剤認識装置では、更新判定部は、撮影部によって撮影された薬剤の位置がマスタ画像に関連付けられた薬剤位置情報によって示されるマスタ画像の薬剤の位置よりも薬剤に対する認識力が高い場合、マスタ画像を更新すると判定する。
 本発明の更に他の態様に係る薬剤認識装置では、登録部は、マスタ画像が未登録である種類の薬剤が撮影部によって撮影された場合、撮影部によって得られた撮影画像のうち薬剤領域をマスタ画像として記憶部に登録する。
 本発明の更に他の態様に係る薬剤認識装置では、更新判定部は、撮影部の撮影範囲のうち薬剤に対する認識力が基準を満たす基準位置と薬剤の位置との距離に基づいて、マスタ画像を更新するか否かを判定する。
 本発明の更に他の態様に係る薬剤認識装置は、撮影部の撮影範囲のうち薬剤に対する認識力が基準を満たす位置を予め求めておき基準位置に設定する基準位置設定部を備える。
 本発明の更に他の態様に係る薬剤認識装置では、基準位置は、撮影範囲のうち薬剤に対する認識力が最も高い位置、または撮影範囲のうち薬剤に対する認識力が最も高い領域の代表位置である。
 本発明の更に他の態様に係る薬剤認識装置では、認識力は、薬剤の表面の刻印に対する認識力であり、薬剤の表面の刻印に照明部の照明光が入射する入射角に応じて定まる。
 本発明の更に他の態様に係る薬剤認識装置では、照明部は、薬剤を囲む複数の照明方向から薬剤を照明し、撮影部は、薬剤を包む包材の少なくとも一方の面に対向し、基準位置は、撮影範囲の中心位置であり、更新判定部は、撮影範囲の中心位置と薬剤の位置との距離に基づいて、マスタ画像を更新するか否かを判定する。
 本発明の更に他の態様に係る薬剤認識装置では、照明部は、複数の光源を含んで構成され、複数の光源と撮影部の光軸とが等間隔である。
 本発明の更に他の態様に係る薬剤認識装置では、照明部は、薬剤を四方向以上から照明する。
 本発明の更に他の態様に係る薬剤認識装置では、更新判定部は、複数の薬剤が一つの薬包に含まれている場合、複数の薬剤どうしの間隔に基づいて、マスタ画像を更新するか否かを判定する。
 本発明の更に他の態様に係る薬剤認識装置では、照明部は、複数の光源を含んで構成され、複数の光源のうち薬剤を照明する光源を切り替えることにより薬剤の照明方向を順番に切り替える照明制御部と、照明方向が切り替わるごとに撮影部に薬剤を撮影させる撮影制御部と、を備え、マスタ画像生成部は、撮影部によって得られた複数の撮影画像であって複数の照明方向に対応する複数の撮影画像を合成して、マスタ画像を生成する。
 本発明の更に他の態様に係る薬剤認識装置では、撮影部は、薬剤を第1の方向から撮影する第1のカメラと、薬剤を第1の方向と異なる第2の方向から撮影する第2のカメラと、を含んで構成される。
 本発明の更に他の態様に係る薬剤認識装置では、薬剤は包装されている。
 本発明の更に他の態様に係る薬剤認識装置では、薬剤が包装された複数の薬包が連続し、マスタ画像生成部は、一の薬包から同一種類の複数の薬剤が撮影された場合、または複数の薬包にわたり同一種類の複数の薬剤が撮影された場合は、同一種類の複数の薬剤が撮影された複数の薬剤領域を用いて、マスタ画像を生成する。なお、一の薬包から同一種類の薬剤が一つのみ撮影された場合に、一の薬剤領域からマスタ画像を生成する構成としてもよい。また、複数の薬包にわたり同一種類の複数の薬剤が撮影されない場合に、一の薬剤領域からマスタ画像を生成してよい。
 本発明の更に他の態様に係る薬剤認識装置では、マスタ画像生成部は、一の薬包から同一種類の複数の薬剤が撮影された場合、または複数の薬包にわたり同一種類の複数の薬剤が撮影された場合は、複数の薬剤領域を用いて平均または加重平均によりマスタ画像を生成する。
 本発明の更に他の態様に係る薬剤認識装置は、表示部と、表示部に、撮影画像のうちの薬剤領域を表示させる表示制御部を備える。
 本発明の更に他の態様に係る薬剤認識装置は、マスタ画像と撮影画像のうちの薬剤領域との相関値を算出する相関値算出部を備え、表示制御部は、相関値を表示部に表示させる。
 本発明の更に他の態様に係る薬剤認識装置では、表示制御部は、マスタ画像を更新した履歴を表示部に表示させる。
 本発明の更に他の態様に係る薬剤認識装置では、表示制御部は、薬剤の位置とマスタ画像の更新とを関連付けて表示部に表示させる。
 本発明の更に他の態様に係る薬剤認識装置は、撮影画像と、記憶部に登録されたマスタ画像のうち最後に登録されたマスタ画像と、を照合して撮影画像が示す薬剤がいずれの薬剤であるかを判断する薬剤判断部と、判断の結果を出力する判断結果出力部と、を備える。本態様によれば、撮影画像と、最後に登録されたマスタ画像(すなわち、上述の態様によりロバスト性が向上したマスタ画像)とを照合するので、撮影画像が示す薬剤がいずれの薬剤であるかの判断を正確に行うことができる。本態様に係る薬剤認識装置は、例えば薬剤鑑別、薬剤監査支援に適用することができる。
 本発明の更に他の態様に係る薬剤認識装置では、薬剤判断部は撮影画像とマスタ画像との照合結果に基づいて撮影画像が示す薬剤の候補を選択し、判断結果出力部は選択された候補を示す情報を出力する。本態様によれば、出力される情報により、撮影画像が示す薬剤の候補を確認することができる。
 本発明の更に他の態様に係る薬剤認識装置は、撮影画像が示す薬剤に関連する関連情報を入力する関連情報入力部をさらに備え、薬剤判断部は関連情報を参照して判断を行う。本態様では薬剤の照合に用いられる情報を関連情報として入力することができ、このような関連情報を参照することにより判断を正確に行うことができる。
 本発明の更に他の態様に係る薬剤認識装置では、関連情報は処方データに含まれる薬剤の情報であり、薬剤判断部は、処方データに含まれる薬剤についてのマスタ画像を記憶部から取得し、撮影画像と取得したマスタ画像とを照合して、撮影画像が示す薬剤と取得したマスタ画像が示す薬剤とが同一であるか否かを判断する。本態様によれば、処方データに含まれる薬剤の情報を関連情報として入力することにより、撮影画像が示す薬剤と取得したマスタ画像が示す薬剤とが同一であるか否かを正確に判断することができる。
 本発明の更に他の態様に係る薬剤認識方法は、薬剤を照明する照明部と、照明部によって照明された薬剤を撮影する撮影部と、薬剤の種類ごとに薬剤を示すマスタ画像を記憶する記憶部と、を用いる薬剤認識方法であって、撮影部によって得られた撮影画像に基づいて薬剤の位置を取得するステップと、取得された薬剤の位置に基づいて、マスタ画像を更新するか否かを判定するステップと、マスタ画像を更新すると判定された場合、撮影画像のうち薬剤領域をマスタ画像として記憶部に登録するステップと、を含む。
 本発明の更に他の態様に係る薬剤認識プログラムは、上記の薬剤認識方法をコンピュータに実行させる。なお、本態様に係る薬剤認識プログラムのコンピュータ読み取り可能なコードを記録した非一時的記録媒体も、本発明の更に他の態様として挙げることができる。
 本発明に係る薬剤認識装置、薬剤認識方法、及び薬剤認識プログラムによれば、薬剤を認識する場合にマスタ画像のロバスト性を高くすることが可能になる。
図1は、本発明に係る一実施形態の薬剤認識装置の構成例を示す図である。 図2は、複数の薬包が連続した例を示す図である。 図3は、照明部の光源及び撮影部のカメラの配置例を示す側面図である。 図4は、照明部の光源及び撮影部のカメラの配置例を示す平面図である。 図5は、薬剤の刻印検出が困難になる条件を示す図である。 図6は、図5に示した場合における輝度分布を示す図である。 図7は、基準位置設定のために二次元配列した薬剤を示す図である。 図8は、基準位置設定のための相関値算出の説明に用いる説明図である。 図9は、マスタ画像の好ましい更新の説明に用いる説明図である。 図10は、照合の説明に用いる説明図である。 図11は、照明方向切替の説明に用いる第1の説明図である。 図12は、照明方向切替の説明に用いる第2の説明図である。 図13は、薬剤認識結果の表示例を示す図である。 図14は、本発明に係る薬剤認識方法を適用した処理例の流れを示すフローチャートである。 図15は、本発明に係る薬剤認識装置を薬剤監査支援及び薬剤鑑別に適用したシステムの例を示す図である。 図16は、本発明に係る薬剤認識方法を薬剤監査支援に適用した処理例の流れを示すフローチャートである。 図17は、本発明に係る薬剤認識方法及び装置を薬剤監査支援に適用した結果の例を示す図である。 図18は、本発明に係る薬剤認識方法及び装置を薬剤監査支援に適用した結果の例を示す他の図である。 図19は、本発明に係る薬剤認識装置を薬剤鑑別に適用した例を示す図である。 図20は、本発明に係る薬剤認識装置を薬剤鑑別に適用した例を示す他の図である。 図21は、本発明に係る薬剤認識方法を薬剤鑑別に適用した処理例の流れを示すフローチャートである。 図22は、本発明に係る薬剤認識方法及び装置を薬剤鑑別に適用した結果の例を示す図である。 図23は、本発明に係る薬剤認識方法及び装置を薬剤鑑別に適用した結果の例を示す図である。
 以下、添付図面を用いて、本発明に係る薬剤認識装置、薬剤認識方法、及び薬剤認識プログラムの実施形態について説明する。
 図1は、本発明に係る一実施形態の薬剤認識装置の構成例を示す図である。
 本例の薬剤認識装置10は、薬剤を照明する照明部12と、照明部12によって照明された薬剤を撮影する撮影部14と、ユーザに対する薬剤の処方を示す処方データ等、認識対象の薬剤に関連する関連情報を取得する関連情報取得部16と、プログラム(本発明に係る薬剤認識プログラムを含む)及びプログラムの実行に必要な情報を記憶する記憶部18(非一時的記録媒体)と、記憶部18に記憶されたプログラムに従って各種の処理を行う処理部20と、画像表示可能な表示部22と、ユーザから操作を受け付ける操作部24と、を含んで構成される。なお以下では薬剤が包装されている場合について説明するが、本発明は薬剤が包装されていない場合にも適用することができる(後述)。
 薬剤の「包装」には一包化が含まれる。「一包化」とは、処方された薬剤を一回の服用ごとに分包(パッケージ)することをいう。処方内容に依って、一つの包材に種類が異なる複数薬剤がパッケージされる場合、一つの包材に同一種類の複数薬剤がパッケージされる場合、及び一つの包材に薬剤が一個だけパッケージされる場合がある。一包化される薬剤の形態は、例えば、錠剤、カプセル剤が挙げられるが、特に限定されない。また、包材は、例えば、紙、プラスティックが挙げられるが、特に限定されない。また、本明細書において「分包」(あるいは「包装」)は、一回の服用ごとに分包する場合に限定されず、薬剤が包材によって包装されている場合であればよい。
 照明部12は、光源を含んで構成される。照明部12の具体例は後述する。
 撮影部14は、カメラを含んで構成される。撮影部14の具体例は後述する。
 関連情報取得部16は、例えば、処方箋上の文字を光学的に読み取ることにより、処方データ等の関連情報を取得する。処方データとしては、例えば処方箋に記載された薬剤の識別情報、名称、数量、用法、用量等を挙げることができるが、これらに限定されるものではない。関連情報取得部16が処方箋に付与されたバーコード(または二次元コード)を読み取ることにより処方データを取得してもよい。また、医師及び/または薬剤師がコンピュータ装置で入力した処方データを、通信により取得してもよい。なお、「処方データ」は処方箋に記載された情報そのものでもよいし、処方箋に記載された情報に基づいて医師及び/または薬剤師が設定、変更等した情報でもよい。例えば、処方箋に先発医薬品の名称が記載されている場合に後発医薬品(ジェネリック医薬品)に変更する、あるいは薬剤の一般名称しか記載されていない場合に先発医薬品または後発医薬品を選択する、等を行って得られた情報も「処方データ」に含めることができる。薬剤認識装置10を薬剤監査支援、薬剤鑑別等に用いる場合(後述)は、目視等で認識した薬剤の特徴(例えば、錠剤かカプセルか等の薬剤種類、形状、色等)、あるいはいわゆる「お薬手帳」等の手帳に記載された薬剤名称、数量、服用方法等の情報を、ユーザの操作に応じて関連情報取得部16(関連情報入力部)が関連情報として入力してもよい。
 記憶部18は、一時的記憶デバイスと、非一時的記憶デバイス(非一時的記録媒体)とによって構成される。本例の記憶部18は、薬剤の種類ごとに薬剤を示すマスタ画像(「薬剤マスタ画像」ともいう)を記憶する。マスタ画像は、各薬剤の属性を示す属性情報(例えば薬剤コード、名称、薬剤タイプ、形状、寸法等の情報;図23の例を参照)と関連付けて記憶することが好ましい。
 処理部20は、例えばCPU(central processing unit)によって構成される。本例の処理部20は、記憶部18に記憶されたマスタ画像を更新する機能を有する。本例の処理部20は、後述する特定の条件が満たされた場合、撮影部14によって得られた撮影画像を用いて記憶部18に記憶されたマスタ画像を更新するマスタ更新処理を行う。
 本例の処理部20は、照明部12の照明を制御する照明制御部32と、撮影部14の撮影を制御する撮影制御部34と、撮影部14によって得られた撮影画像に基づいて薬剤の位置を取得する薬剤位置取得部35と、撮影部14によって得られた撮影画像のうち薬剤領域からマスタ画像を生成するマスタ画像生成部36と、撮影部14によって薬剤を撮影して得られた撮影画像の薬剤領域と記憶部18に記憶されたマスタ画像とを照合する照合部42と、薬剤位置取得部35によって取得された薬剤の位置に基づいてマスタ画像を更新するか否かを判定する更新判定部44と、更新判定部44によってマスタ画像を更新すると判定された場合、マスタ画像生成部36によって生成されたマスタ画像を記憶部18に登録する登録部46と、表示部22の表示を制御する表示制御部48と、を含んで構成されている。マスタ画像と撮影画像のうちの薬剤領域との相関値、あるいは薬剤領域間の相関値を算出する相関値算出部49と、基準位置を設定する基準位置設定部50とを、設けてもよい。
 <薬包>
 図2は、薬剤Tが包装された複数の薬包TPが連続する薬包帯PBを示す。x軸は薬包帯PBの長手方向に沿った軸であり、y軸は薬包帯PBの幅方向に沿った軸である。本例の薬包帯PBはx軸方向に沿って搬送させることが可能である。本例の薬剤Tには刻印(または印字に)より薬剤Tの種類が示されている。各薬剤Tには、以下の説明の便宜上、「A」、「B」または「C」と刻印されているものとするが、刻印内容(または印字内容)は特に限定されない。
 薬包TPの包材は、両面とも透明(半透明を含む、以下同じ)が、好ましい。薬包TPの包材の片面に、印字またはマット加工が、施されていてもよい。
 連続した薬包TPは、一つの薬包TPのx軸方向におけるサイズごとに、搬送可能である。一つの薬包TPごとに、薬包TPの位置を検出可能であってもよい。
 なお、本発明は、薬包TPが搬送される場合に限定されない。薬包TPが載置台等に載置されるだけの場合であってもよい。また、本発明は薬剤Tが包装されていなくてもよい。例えば薬剤Tに含まれる各薬剤を直接、あるいはシャーレ等の容器に入れて載置台に載置してもよい。
 <照明部及び撮影部>
 照明部12を構成する光源及び撮影部14を構成するカメラの配置について、説明する。
 図3及び図4は、照明部12の光源13及び撮影部14のカメラ15(15A、15B)の配置例を示す。図3は薬包帯PBの側面から見た側面図であり、図4は薬包帯PBの一方の面を上または下から見た平面図である。x軸は薬包帯PBの長手方向に沿った軸であり、y軸は薬包帯PBの幅方向に沿った軸であり、z軸は薬包帯PBの一方の面(上面または下面)に直交する軸である。
 照明部12は、複数の光源13を含んで構成され、図4に示すように、薬剤Tを囲む複数の照明方向から薬剤Tを照明する。本例の照明部12は、薬剤Tの一方の面(上面または下面)を四方向から照明している。薬剤Tを四方向以上から照明してもよい。
 撮影部14は、薬剤Tを包む透明な包材の少なくとも一方の面に対向し、薬剤Tを撮影する。
 撮影部14は、図3に示すように、薬包帯PBの上面(薬剤Tを包装した包材の一方の面である)に対向するカメラ15A(第1のカメラ)と、薬包帯PBの下面(薬剤Tを包装した包材の他方の面である)に対向するカメラ15B(第2のカメラ)と、を含んで構成される。すなわち、カメラ15Aは薬剤Tを第1の方向(薬包帯PBの上方から下方に向かう方向)から撮影し、カメラ15Bは薬剤Tを第2の方向(薬包帯PBの下方から上方に向かう方向)から撮影する。図4において、複数の光源13のそれぞれとカメラ15(15A、15B)の撮影光軸PAとの間隔d1、d2、d3、d4は同じである。つまり、複数の光源13と撮影光軸PAとが等間隔(d1=d2=d3=d4)である。
 <マスタ画像の生成及び更新判定>
 マスタ画像生成部36は、撮影部14のカメラ15によって得られた撮影画像から薬剤領域を抽出してマスタ画像を生成する。例えば、撮影画像から薬剤Tの像のエッジを検出することにより薬剤領域を認識し、その薬剤領域を撮影画像から切り出すことにより薬剤領域を抽出する。薬剤領域の抽出の際には、薬剤Tを上下の両方向から撮影して得られた二枚の撮影画像を用いてもよい。薬剤背景を変更した画像を用いてもよい。薬包TPの包材を透過した透過光からなる透過画像(薬剤領域が黒)を用いてマスクを生成し、そのマスクを用いてマスタ画像を生成してもよい。
 登録部46は、マスタ画像が未登録である種類の薬剤Tが撮影部14のカメラ15によって撮影された場合、そのカメラ15によって得られた新たな撮影画像のうち薬剤領域をマスタ画像として、記憶部18に登録する。また、更新判定部44により更新すると判定された場合、記憶部18のマスタ画像を更新する。
 更新判定について説明する。薬剤位置取得部35は、撮影部14によって得られた撮影画像に基づいて、撮影部14の撮影範囲のうちの薬剤位置を取得する。本例の薬剤位置取得部35は、画像解析により、撮影画像における薬剤Tの像の位置を取得する。つまり実空間の撮影範囲における薬剤Tの位置と撮影画像における薬剤Tの像の位置とが対応しているため、撮影画像における薬剤Tの像の位置を、撮影範囲における薬剤の位置として、用いることができる。
 また「薬剤の位置」の取得は、本明細書において、撮影範囲(または撮影画像)における薬剤の絶対位置を取得する場合に限定されず、撮影範囲(または撮影画像)において薬剤に対する認識力が基準を満たす基準位置との距離(以下「相対位置」ともいう)を取得する場合を含む。つまり、更新判定部44は、相対位置に基づいて、マスタ画像を更新するか否かを判定することができる。
 また、薬剤に対する「認識力」は、本明細書おいて、撮影画像に基づいて薬剤の種類を認識する認識力である。この認識力は、一般に、撮影範囲における薬剤位置に応じて変動する。「認識力」は、認識の確率(認識率)で表してもよいし、予め算出された評価値で表してもよい。例えば、後述のように薬剤画像間の相関値を用いて、認識力を示す評価値を表すことが可能である。
 「認識力」は、具体例として、薬剤の表面に薬剤の種類を示す刻印が形成されている場合、その薬剤の表面の刻印に対する認識力である。一般に、薬剤の表面の刻印に対する認識力は、薬剤の表面の刻印に照明部12の照明光が入射する角度(入射角)に応じて定まる。また、「認識力」は、薬剤の表面に薬剤の種類を示す印字が形成されている場合、その薬剤の表面の印字に対する認識力である。一般に、薬剤の表面の印字に対する認識力は、薬剤の表面の印字に対する撮影部14の光軸(撮影光軸)の角度(撮影角度)に応じて定まる。
 図4に示したように光源13及びカメラ15が配置されている場合、マスタ画像は、カメラ15の撮影範囲(「視野範囲」ともいう)の中央領域に位置した薬剤の画像であることが、望ましい。図4に示した配置例の場合、撮影範囲の中央領域で撮影された薬剤の画像はロバスト性が高いが、撮影範囲の端(つまり光源13の近傍)で撮影された薬剤の画像はロバスト性が低いからである。例えば、錠剤(薬剤の一形態である)は、3D(dimension)形状を有しており、光源13に近いほど、錠剤の刻印に対して照明光の入射角が小さくなり、刻印の検出が困難になる。理解を容易にするため、図5に示すように、実線で示した入射光LI及び点線で示した反射光LOが薬剤Tの刻印EMの凹部側面に平行であると仮定する。そうすると、図6に示すように、撮影画像の輝度分布を示す輝度プロファイルLは平坦形状になってしまい、刻印EMを検出できなくなることが分かる。
 そこで、更新判定部44は、撮影部14の撮影範囲のうち薬剤に対する認識力が基準を満たす基準位置と薬剤の位置との距離に基づいて、マスタ画像を更新するか否かを判定する。ここで、「基準位置と薬剤の位置との距離」に基づく判定は、実空間における基準位置、薬剤の位置及び距離に対応する、撮影画像における基準位置、薬剤の位置及び距離を用いて、行ってよい。
 基準位置は、例えば、撮影範囲のうち薬剤に対する認識力が最も高い位置、または撮影範囲のうち薬剤に対する認識力が最も高い領域の代表位置である。
 図4に示したように、光源13及びカメラ15が配置されている場合、撮影範囲の中心位置(実空間の撮影範囲では撮影光軸PAの位置であり、撮影画像では画像中心である)を、基準位置としてよい。この場合、更新判定部44は、撮影範囲の中心位置と薬剤の位置との距離に基づいて、マスタ画像を更新するか否かを判定する。よってマスタ画像を用いた薬剤認識の精度を高くすることが可能になる。つまりマスタ画像のロバスト性を高くすることができる。撮影範囲の中心位置の近傍の位置を基準位置としてもよい。
 また、基準位置として、撮影範囲のうち薬剤に対する認識力が高い位置(薬剤に対する認識力が基準を満たす位置である)を基準位置設定部50により予め求めておき設定しておくことが可能である。例えば、図7に示すように、撮影範囲Rに複数の薬剤Tを等間隔に二次元配列し、その二次元配列された複数の薬剤Tをカメラ15により撮影し、各薬剤Tの位置で他の薬剤Tとの薬剤画像(薬剤領域の画像である)の相関値を相関値算出部49により算出し、その相関値に基づいて撮影範囲Rのうち最も認識力が高い領域を求めることができる。理解のために便宜上、図7に示した撮影範囲Rのうちの四分の一の大きさであるクォーター領域RQにおける薬剤位置間の薬剤画像の相関値を図8に示す。図8において、自己相関値(注目位置PIの薬剤画像と注目位置PIの薬剤画像の相関値)は「1.00」である。また図8において、注目位置PIの薬剤画像と他の位置の薬剤画像との相関値は「1.00」未満である。その算出された相関値を数値と色(ただし図8では図示の便宜上グラデーションになっている)で示した。このような相関値の算出を、撮影範囲R内の二次元配列された複数の薬剤Tのそれぞれの位置を注目位置として行い、撮影範囲Rの全体(または薬剤認識に必要な範囲)において、相関値の分布が最も好ましくなる注目位置を、基準位置とすることができる。例えば、注目位置ごとに他の位置との相関値の総和を算出し、その相関値の総和が最大となる注目位置を基準位置として設定する。つまり、撮影範囲Rのうち認識力が最も高い領域の代表位置を基準位置とすることができる。基本的には薬剤が撮影範囲Rの中央部に位置した場合に薬剤を撮影することが好ましいが、包装された薬剤の位置は薬包ごとに異なり、意図せず撮影範囲Rの端部で薬剤が撮影されてしまう場合がある。つまり、無条件にマスタ画像を更新すると、そのマスタ画像を用いた薬剤認識の精度が低下してしまう。本例では、基準位置設定部50により、撮影範囲Rにおいて薬剤に対する認識力が基準を満たす注目位置を予め求めておいて基準位置に設定し、その基準位置と薬剤認識時に撮影された実際の薬剤の位置との距離に基づいてマスタ画像を更新するか否かを判定するため、マスタ画像を用いた薬剤認識の精度をマスタ画像の更新により高くすることが可能になる。つまりマスタ画像のロバスト性を高くすることができる。
 本例の登録部46は、撮影範囲における薬剤の位置(または基準位置と薬剤の位置との距離)を示す薬剤位置情報を、マスタ画像に関連付けて、記憶部18に記憶させる。また更新判定部44は、撮影部14によって撮影された薬剤の位置(または基準位置と薬剤の位置との距離)と、マスタ画像に関連付けられた薬剤位置情報とに基づいて、マスタ画像を更新するか否かを判定する。
 本例の更新判定部44は、撮影部14によって撮影された薬剤の位置が、マスタ画像に関連付けられた薬剤位置情報によって示されるマスタ画像の薬剤の位置よりも基準位置に近い場合、マスタ画像を更新すると判定する。
 このような基準に則した更新により記憶部18に登録されたマスタ画像は、より良いマスタ画像に順次更新されていく。つまり、図9に示すように、撮影範囲Rのうちマスタ画像のロバスト性が高くなる領域AR内の薬剤TRの画像がマスタ画像となるまで更新されてゆく。撮影範囲Rのうちマスタ画像のロバスト性が低い端部の薬剤(図中のTE)の画像がマスタ画像として登録されてしまうと刻印EMの認識力が低くなってしまうが、本例では、より良いマスタ画像に収束してゆき、基準に則した領域ARの薬剤TRの画像がマスタ画像として登録されるため、刻印EMの認識力を高くすることが可能になる。なお、図4に示した光源13及びカメラ15の配置(複数の光源13と撮影光軸PAとが等間隔)では、マスタ画像の薬剤位置を、撮影範囲Rの中心位置である撮影光軸PAの位置に徐々に近づけてゆくことになる。
 <照合>
 図3に示したようにカメラ15A及びカメラ15Bが撮影対象の薬包TPの上下に配置されている場合、図10に示すように、カメラ15Aによって薬剤Tを上から撮影して得られた撮影画像(IMG11、IMG21)と、カメラ15Bによって薬剤Tを下から撮影して得られた撮影画像(本例ではIMG12、IMG22)とを用いて、照合を行う。図10において、一包目の薬包TP1内の薬剤T11、T12、T13のうち符号がT13である薬剤の種類(「種類C」とする)のマスタ画像が記憶部18に未登録である場合、その符号がT13の薬剤の画像(本例では、薬剤T13を上から撮影して得られた撮影画像IMG11の薬剤領域と、薬剤T13を下から撮影して得られた撮影画像IMG12の薬剤領域)がマスタ画像として、登録部46により記憶部18に登録される。例えば、一包目の薬包TP1内の薬剤T13を下から見たマスタ画像は、図中に点線の矢印で示すように、二包目の薬包TP2を上から撮影して得られた撮影画像IMG21中の薬剤T21、T22、T23の画像、及び下から撮影して得られた撮影画像IMG22中の薬剤T21、T22、T23の画像と、照合されることになる。例えば、二包目の薬包TP2内の符号がT23の薬剤を下から見た画像がマスタ画像とマッチングしていることが照合される。
 <マスタ画像のバリエーション>
 マスタ画像のバリエーションについて、説明する。
 マスタ画像生成部36は、複数の薬包TPのうち一の薬包TP(例えば第1番目の薬包)から同一種類の複数の薬剤Tが撮影された場合には、同一種類の薬剤Tが撮影された複数の薬剤領域を用いて、マスタ画像を生成することができる。例えば、マスタ画像生成部36は、複数の薬剤領域を用いて、平均または加重平均によりマスタ画像を生成する。
 またマスタ画像生成部36は、図2に示したように複数の薬包TPにわたり同一種類の複数の薬剤Tが撮影された場合、複数の薬包TPに対応する複数の撮影画像の薬剤領域(複数の薬剤領域)を用いて、マスタ画像を生成する。例えば、マスタ画像生成部36は、複数の薬剤領域を用いて、平均または加重平均によりマスタ画像を生成する。なお、一の薬包(例えば第1包目の薬包)から同一種類の薬剤Tが一つのみ撮影された場合に、一の薬剤Tの領域からマスタ画像を生成する構成としてもよい。また、複数の薬包TPにわたり同一種類の複数の薬剤Tが撮影されない場合に、一の薬剤Tの領域からマスタ画像を生成してよい。
 また、マスタ画像生成部36は、更新前のマスタ画像をマスタ画像更新の際に削除せずに保存しておき、新たなマスタ画像を生成する際に更新前のマスタ画像を利用することが、好ましい。
 <照明方向切替>
 薬剤に対する照明方向を順番に切り替える薬剤認識態様について、説明する。本態様の照明制御部32は、複数の光源のうち薬剤を照明する光源を切り替えることにより、薬剤に対する照明方向を順番に切り替える。本態様の撮影制御部34は、薬剤に対する照明方向が切り替わるごとに、撮影部14に薬剤を撮影させる。本態様のマスタ画像生成部36は、複数の照明方向に対応する複数の撮影画像を合成して、マスタ画像を生成する。本態様によれば、薬剤を照明する照明方向、薬剤の表面形状の影響を受けることなく、薬剤に付された刻印文字の認識を正確に行うことができる。
 図11に示すように刻印EMは、薬剤Tの表面に形成された溝により構成されている。なお、図中の符号300は刻印EMの正面図であり、符号301は図中の直線CLに沿う薬剤Tの断面図であり、符号302は表面形状が符号301とは異なる薬剤Tの断面図である。刻印EMを一方向から照明すると、刻印EMの照明光源側の輪郭に沿って影が発生する。この影の向き、形状、及び強度は、照明方向、刻印EMの形状、及び薬剤Tの表面形状によって異なる。
 図12の上段(符号305)に示すように、4方向の薬剤領域画像データ54には、それぞれ刻印EMの照明光源側(照明光を照射している光源13側)の輪郭に沿って影画像56が生じる。なお、刻印EMは薬剤Tの表面と同色であるので実際の画像上では識別困難であるが、図中では照明方向に応じた刻印EMと影画像56との関係を説明するために刻印EMを識別可能に図示している。
 図12の中段(符号306)に示すように、薬剤Tごとの4方向の薬剤領域画像データ54に対してそれぞれエッジ検出処理を施すことにより、各薬剤領域画像データ54からそれぞれ影画像56に対応する特徴画像データ58を抽出する。これにより、1分包分の薬剤Tの各々について、4方向の照明方向ごとの特徴画像データ58(以下、4方向の特徴画像データ58という)が得られ、薬剤Tごとの4方向の特徴画像データ58を記憶部18に順次に格納する。
 図12の下段(符号307)に示すように、記憶部18から1分包分の薬剤Tごとの4方向の特徴画像データ58を読み出し、薬剤Tごとに4方向の特徴画像データ58を統合して統合画像データ60を生成する。例えば、4方向の特徴画像データ58を重ね合せて統合する。これにより、4方向の照明方向ごとの影画像56が一つに統合されるため、統合画像データ60上では刻印EMの全ての輪郭が明らかとなる。そして、1分包分の薬剤Tごとにそれぞれ統合画像データ60を生成し、個々の統合画像データ60を記憶部18に格納する。
 <表示制御>
 表示制御部48は、表示部22に、撮影画像から切り出された薬剤領域を並べて表示させる機能を有する。また表示制御部48は、表示部22に、相関値算出部49によって算出された相関値を表示させる機能を有する。
 図13は、図2に示した薬包帯PBの薬包TP内の薬剤を認識した結果の表示例を示す図である。図13の例では、薬包帯PBのうち第1番目の薬包TP及び第2番目の薬包TPから認識された薬剤Tとして刻印「A」の薬剤の画像、刻印「B」の薬剤の画像及び刻印「C」の薬剤の画像が表示部22に表示され、第3番目の薬包TPから認識された薬剤Tとして刻印「B」の薬剤の画像及び刻印「C」の薬剤の画像が表示部22に表示されている。各薬剤の画像の下の数値は、相関値算出部49によって算出された相関値であって、撮影画像から抽出された薬剤領域の画像とマスタ画像との相関を示す相関値である。また表示された薬剤領域(薬剤画像である)は、実際には相関値に応じた濃度の色を付加してある。刻印「C」の薬剤の画像の相関値は、第1番目の薬包TPの薬剤認識においてマスタ画像が更新されたため、第1番目の薬包における相関値よりも第2番目及び第3番目の薬包における相関値が高くなっていることが分かる。
 また表示制御部48は、表示部22に、マスタ画像を更新した履歴を表示させる機能を有する。
 また表示制御部48は、表示部22に、薬剤の位置(絶対位置または相対位置)とマスタ画像の更新とを関連付けて表示させる機能を有する。
 <処理例>
 図14は、本発明に係る薬剤認識方法を適用した処理例の流れを示すフローチャートである。本処理は、薬剤認識装置10の処理部20を構成するCPUによって、プログラム(本発明に係る薬剤認識プログラムを含む)に従い実行される。
 まず、関連情報取得部16によって、上述した処方データ等の関連情報を取得する(ステップS2)。
 次に、照明部12によって、分包された薬剤を照明する(ステップS4)。
 また、撮影部14によって、照明部12によって照明された薬剤を撮影する(ステップS6)。
 次に、薬剤位置取得部35によって薬剤位置を取得し、かつマスタ画像生成部36によって撮影画像から薬剤領域を抽出する(ステップS8)。
 次に、照合部42によって、記憶部18に記憶されたマスタ画像と撮影画像の薬剤領域とを照合する(ステップS10)。
 次に、記憶部18にマスタ画像が非登録の薬剤であるか否かを判定し(ステップS12)、マスタ画像が非登録の薬剤である場合(ステップS12でYESの場合)、さらに一包目であるか否かを判定する(ステップS14)。マスタ画像が非登録且つ一包目である場合(ステップS14でYESの場合)、登録部46によって、撮影画像から抽出された薬剤領域の画像をマスタ画像として登録する(ステップS16)。
 マスタ画像が登録された薬剤である場合(ステップS12でNOの場合)、更新判定部44によって、撮影範囲の基準位置(例えば中心位置)と薬剤の位置との距離に基づいて、マスタ画像を更新するか否かを判定する(ステップS18)。
 マスタ画像を更新すると判定された場合、(ステップS18でYESの場合)、登録部46によって、撮影画像から抽出された薬剤領域の画像をマスタ画像として登録する(ステップS20)。
 薬包内に他の薬剤が有るか否かを判定し(ステップS22)、薬包内の他の薬剤が有る場合(ステップS22でYESの場合)、ステップS10に戻って、薬包内の他の薬剤に対する照合処理が行われる。
 薬包の全ての薬剤に対し薬剤認識処理を行って薬包内に他に薬剤が無い場合(ステップS22でNOの場合)、他に薬包が有るか否かを判定し(ステップS24)、他の薬包が有る場合にはステップS4に戻る。
 なお、更新判定部44は、複数の薬剤が一つの薬包に含まれている場合、複数の薬剤どうしの間隔に基づいて、マスタ画像を更新するか否かを判定してもよい。つまり、刻印の場合、隣りに大きな薬剤が存在すると影が出難くなる場合があるので、周囲に他の薬剤が無い場合に、マスタ画像を更新すると判定することが好ましい。例えば、薬剤間の距離が閾値未満(あるいは閾値以下)である場合、撮影画像に刻印の影が出難くなるので、マスタ画像を更新しないと判定する。
 上述の説明では、主として薬剤の刻印を認識する場合を例に説明したが、薬剤に印字された文字または記号を認識してもよい。
 また前述の図1に示した処理部20は、次に示すような各種のプロセッサ(processor)を含んで構成することができる。各種のプロセッサには、ソフトウエア(プログラム)により各種の処理を実行する汎用的なプロセッサであるCPU(central processing unit)、FPGA(field programmable gate array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(programmable logic device:PLD)、ASIC(application specific integrated circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。前述の実施形態において、処理部20の機能は、これら各種のプロセッサのうちの1つで実現されてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で実現されてもよい。また、複数の機能を1つのプロセッサで実現してもよい。複数の機能を1つのプロセッサで実現する例としては、システムオンチップ(system on chip:SoC)などに代表されるように、複数の機能を含むシステム全体の機能を1つのIC(integrated circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の機能は、ハードウエア的な構造として、上述した各種のプロセッサを1つ以上用いて実現される。さらに、これらの各種のプロセッサのハードウエア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
 上述したプロセッサあるいは電気回路がソフトウェア(プログラム)を実行する際は、実行するソフトウェアのプロセッサ(コンピュータ)読み取り可能なコードをROM(Read Only Memory)及び/またはフラッシュROM等の非一時的記録媒体に記憶しておき、プロセッサがそのソフトウェアを参照する。非一時的記録媒体に記憶しておくソフトウェアは、本発明に係る薬剤認識方法を実行するためのプログラム(薬剤認識プログラム)を含む。ROMではなく各種光磁気記録装置、半導体メモリ等の非一時的記録媒体にコードを記録してもよい。ソフトウェアを用いた処理の際には例えばVRAM(Video RAM)、SDRAM(Synchronous Dynamic Random Access Memory)が一時的記憶領域として用いられ、また例えば不図示のEEPROM(Electronically Erasable and Programmable Read Only Memory)に記憶されたデータを参照することもできる。
 上述の薬剤認識装置は、例えば、調剤監査の支援を行う監査支援装置、薬剤を一包化する一包化装置、薬剤の鑑別を行う薬剤鑑別装置、薬剤の服薬を支援する服薬支援装置に適用可能である。他の装置に適用してもよい。上述の薬剤認識方法を、コンピュータ装置、監査支援装置、一包化装置、薬剤鑑別装置、服薬支援装置等で薬剤認識プログラムに従って実行してもよい。
 <薬剤監査支援及び薬剤鑑別への適用例>
 上述の薬剤認識装置、薬剤認識方法、及び薬剤認識プログラムを薬剤監査支援及び薬剤鑑別に適用した例について説明する。図15は薬剤認識装置10A(薬剤監査支援装置、薬剤鑑別装置)がネットワークNWを介して病院情報システム70と接続されたシステムを示す図である。ネットワークNWに他の装置(一包化装置、服薬支援装置等)が接続されていてもよい。
 薬剤認識装置10Aは通信部26を備えており、通信部26及びネットワークNWを介して病院情報システム70(HIS:Hospital Information System)との通信を行うことができる。他の構成は上述した薬剤認識装置10と同じなので、同一の構成には同一の参照符号を付し詳細な説明は省略する。処理部20の具体的な構成は図1と同じである。
 図16は薬剤認識装置10Aを用いた薬剤監査支援方法の処理を示すフローチャートである。ステップS2からステップS24までの処理は図14のフローチャートと同様であり、ステップS10で照合部42(薬剤判断部、判断結果出力部;図1参照)がマスタ画像と照合対象画像(撮影画像から抽出した薬剤領域の画像)とを照合し、表示制御部48(判断結果出力部;図1参照)が照合結果をステップS26で表示する。ステップS10での照合の際に用いるマスタ画像は、ステップS16またはステップS20において最後に登録されたマスタ画像である。
 図17は照合結果の表示例(薬剤Aについての照合結果の一覧表L1の例)を示す図である。図17では、一覧表L1の左側(領域L1A,L1B)に薬剤Aのマスタ画像及び属性情報(薬剤の属性を示す情報)がそれぞれ表示され、右側(領域L1C)に「薬剤Aを示す」と判別された全ての照合対象画像が表示される。図17では一覧表L1に薬剤の表面(刻印が施されている面)についての画像のみを含めているが、薬剤の裏面についての画像を含めてもよい。一覧表L1の領域L1Cには、照合対象画像が分包袋ごと、かつ服用タイミングごとに表示され、また薬包TPに関連する検査支援情報(薬剤の照合、検査を効率的に行うための情報)が照合対象画像と合わせて表示される。図17の例では,検査支援情報は服用タイミング、分包袋番号、服用日であるが、他の情報(撮影画像とマスタ画像の類似度等)を含めてもよい。なお、図17の例においては全ての分包袋(1日3度服用×7日=21包)に薬剤Aが2錠ずつ正しく分包されているものとし、服用期間は7日とする。
 照合部42は、照合結果を出力する(ステップS28)。照合結果を記憶部18に記憶してもよいし、照合結果を通信部26及びネットワークNWを介して病院情報システム70に送信してもよい。病院情報システム70との間での情報の互換性の観点から、照合結果の出力をSS-MIXあるいはSS-MIX2形式(SS-MIX:Standardized Structured Medical Information eXchange)で行ってもよい。
 薬剤認識装置10Aでは、上述のように最後に登録されたマスタ画像と照合対象画像とが照合されるので、ロバスト性が向上したマスタ画像を用いて正確な薬剤認識及び監査支援を行うことができる。
 図18は指定された薬剤及び類似薬剤についての照合結果の表示例を示す図である。図18の(a)部分は、薬剤Bについての一覧表L8A及び薬剤Bの類似薬剤である薬剤Dについての一覧表L8Bを含む一覧表L8を示す。また、図18の(b)部分は、一覧表L8において薬剤の照合エラーが発生している状態(一覧表L8Aにおいて、照合対象画像iS4により示される薬剤Dが薬剤Bと判断されており、逆に一覧表L8Bにおいて、照合対象画像iS5により示される薬剤Bが薬剤Dと判断されている)を示している。このように照合エラーにより類似薬剤間(薬剤Bと薬剤D)が入れ替わっている場合でも、薬剤Bについての一覧表L8Aと共に類似薬剤である薬剤Dについての一覧表L8Bを表示することにより、ユーザ(薬剤師)は照合の間違いに容易に気づくことができる。また、図17に示す例と同様に、ロバスト性が向上したマスタ画像を用いて正確な薬剤認識及び監査支援を行うことができる。
 図19及び図20は薬剤認識装置10Aを用いて薬剤の鑑別を行う例を示す図である。薬剤の鑑別は、例えば処方された薬剤を患者が病院、薬局等に持参した場合、医師及び/または薬剤師が患者の自宅に行き残薬を管理する場合等、元々の処方データは無いが薬剤の種類、数等を把握したい場合に行うことができるが、このような場合に限定されるものではない。図19及び図20に示す例では薬剤TがシャーレSCに入れられて図示せぬ載置台に載置されており、この状態で図3に示す例と同様に照明及び撮影を行う。薬剤TはシャーレSCに入れずに載置台に直接載置してもよいし、分包袋に分包した状態で載置してもよい。
 図21は薬剤認識装置10Aを用いた薬剤鑑別方法の処理の例を示すフローチャートである。なお、図14,16のフローチャートと同様の処理を示す部分については同一のステップ番号を付し、詳細な説明を省略する。図21に示す例では、関連情報取得部16(関連情報入力部)がユーザによる操作部24の操作を介して関連情報を取得する(ステップS3)。照合部42(薬剤判断部、判断結果出力部)は、取得した関連情報を参照して、撮影画像が示す薬剤がいずれの薬剤であるかを判断する。薬剤鑑別を行う状況では、患者が服用している薬剤を薬局に持参する等、処方箋あるいは処方データがない場合が考えられるが、そのような場合はいわゆる「お薬手帳」のような手帳に記載された薬剤の情報を関連情報として取得することができる。あるいは、医師及び/または薬剤師等が目視その他で取得した薬剤の情報(錠剤、カプセル等の薬剤タイプ、色、刻印及び/または印刷等)を関連情報として取得、入力してもよい。有効な関連情報が得られない場合でも、入院患者名、性別、年齢等の患者を特定する情報、病棟名等を入力してもよく、あるいは省略してもよい。
 照合部42は、ステップS3で入力した関連情報に基づいて、照合対象を選択する(ステップS9)。例えば、「お薬手帳」に記載された薬剤及びその類似薬剤を照合対象として選択する。あるいは、目視その他で取得した薬剤の薬剤タイプ、色等に基づいて照合対象を選択する。このように照合対象を選択することで、照合の範囲を絞り込み迅速に鑑別を行うことができる。なお、ステップS3で関連情報が入力されていない場合はステップS9の処理を省略してもよい。
 照合部42は、照合対象画像(撮影画像から抽出した薬剤領域の画像)とステップS9で選択された照合対象の薬剤についてのマスタ画像とを照合し、照合結果に基づいて照合対象画像(撮影画像)が示す薬剤の候補を選択する(ステップS10)。照合に用いるマスタ画像はステップS16またはステップS20において最後に登録されたマスタ画像なので、ロバスト性が向上したマスタ画像を用いて薬剤の認識、鑑別を正確に行うことができる。なおステップS9の処理が省略されている場合、全ての薬剤のマスタ画像との照合を行ってもよい。
 鑑別が終了すると(ステップS25でNO)、表示制御部48(判断結果出力部;図1参照)が照合結果を表示部22に表示する(ステップS26)。図22は照合結果の表示例(撮影画像が示す薬剤の候補を示す情報の出力例)を示す図であり、照合対象の薬剤に対し一致度の高い薬剤のマスタ画像及び薬剤IDを表示している。これによりユーザは撮影画像が示す薬剤の候補を確認することができる。図22のような表示において、表示された薬剤の指定(例えば、操作部24の図示せぬマウスによるクリック)に応じて、表示制御部48が図23のようにマスタ画像、属性情報を表示部22に表示してもよい。
 照合結果の出力(ステップS28)は、図16のフローチャートのステップS28と同様に行うことができる。
 上述した薬剤の監査支援及び鑑別は、パーソナルコンピュータ、スマートフォン、タブレット端末等の機器(薬剤認識装置の一態様)で行ってもよい。例えば、本発明に係る薬剤認識方法の処理を実行する薬剤認識プログラムをこれらの機器にインストールし、これらの機器に内蔵及び/または外付けされたカメラで薬剤の撮影を行ってマスタ画像との照合を行うことができる。薬剤認識、監査支援、鑑別の処理はこれらの機器で行ってもよいし、これらの機器に入力した情報をネットワーク上、クラウド上のサーバ等で処理して結果を受信してもよい。
 以上、本発明を実施するための形態に関して説明してきたが、本発明は上述した実施形態及び変形例に限定されず、本発明の主旨を逸脱しない範囲で種々の変形が可能である。
10  薬剤認識装置
10A 薬剤認識装置
12  照明部
13  光源
14  撮影部
15(15A、15B) カメラ
16  関連情報取得部
18  記憶部
20  処理部
22  表示部
24  操作部
26  通信部
32  照明制御部
34  撮影制御部
35  薬剤位置取得部
36  マスタ画像生成部
42  照合部
44  更新判定部
46  登録部
48  表示制御部
49  相関値算出部
50  基準位置設定部
54  薬剤領域画像データ
56  影画像
58  特徴画像データ
60  統合画像データ
70  病院情報システム
A   薬剤
AR  領域
B   薬剤
D   薬剤
EM  刻印
LI  入射光
L   輝度プロファイル
LO  反射光
NW  ネットワーク
PA  撮影光軸
PB  薬包帯
PI  注目位置
R   撮影範囲
RQ  クォーター領域
SC  シャーレ
T、T11、T12、T13、T21、T22、T23 薬剤
TE、TR 薬剤
TP(TP1、TP2) 薬包

Claims (28)

  1.  薬剤を照明する照明部と、
     前記照明部によって照明された前記薬剤を撮影する撮影部と、
     前記薬剤の種類ごとに前記薬剤を示すマスタ画像を記憶する記憶部と、
     前記撮影部によって得られた撮影画像に基づいて前記薬剤の位置を取得する薬剤位置取得部と、
     前記薬剤位置取得部によって取得された前記薬剤の位置に基づいて前記マスタ画像を更新するか否かを判定する更新判定部と、
     前記撮影部によって得られた撮影画像のうち薬剤領域から前記マスタ画像を生成するマスタ画像生成部と、
     前記更新判定部によって前記マスタ画像を更新すると判定された場合、前記マスタ画像生成部によって生成された前記マスタ画像を前記記憶部に登録する登録部と、
     を備える薬剤認識装置。
  2.  前記登録部は、前記薬剤の位置を示す薬剤位置情報を前記マスタ画像に関連付けて前記記憶部に記憶させ、
     前記更新判定部は、前記撮影部によって撮影された前記薬剤の位置と前記マスタ画像に関連付けられた前記薬剤位置情報とに基づいて、前記マスタ画像を更新するか否かを判定する、
     請求項1に記載の薬剤認識装置。
  3.  前記更新判定部は、前記撮影部によって撮影された前記薬剤の位置が前記マスタ画像に関連付けられた前記薬剤位置情報によって示される前記マスタ画像の薬剤の位置よりも前記薬剤に対する認識力が高い場合、前記マスタ画像を更新すると判定する、
     請求項2に記載の薬剤認識装置。
  4.  前記登録部は、前記マスタ画像が未登録である種類の前記薬剤が前記撮影部によって撮影された場合、前記撮影部によって得られた撮影画像のうち薬剤領域を前記マスタ画像として前記記憶部に登録する、
     請求項3に記載の薬剤認識装置。
  5.  前記更新判定部は、前記撮影部の撮影範囲のうち前記薬剤に対する認識力が基準を満たす基準位置と前記薬剤の位置との距離に基づいて、前記マスタ画像を更新するか否かを判定する、
     請求項1から4のうちいずれか一項に記載の薬剤認識装置。
  6.  前記撮影部の撮影範囲のうち前記薬剤に対する認識力が基準を満たす位置を予め求めておき前記基準位置に設定する基準位置設定部を備える、
     請求項5に記載の薬剤認識装置。
  7.  前記基準位置は、前記撮影範囲のうち前記薬剤に対する認識力が最も高い位置、または前記薬剤に対する認識力が最も高い領域の代表位置である、
     請求項5または6に記載の薬剤認識装置。
  8.  前記認識力は、前記薬剤の表面の刻印に対する認識力であり、前記薬剤の表面の刻印に前記照明部の照明光が入射する入射角に応じて定まる、
     請求項3から7のうちいずれか一項に記載の薬剤認識装置。
  9.  前記照明部は、前記薬剤を囲む複数の照明方向から前記薬剤を照明し、
     前記撮影部は、前記薬剤を包む包材の少なくとも一方の面に対向し、
     前記基準位置は、前記撮影範囲の中心位置であり、
     前記更新判定部は、前記撮影範囲の中心位置と前記薬剤の位置との距離に基づいて、前記マスタ画像を更新するか否かを判定する、
     請求項5に記載の薬剤認識装置。
  10.  前記照明部は、複数の光源を含んで構成され、
     前記複数の光源と前記撮影部の光軸とが等間隔である、
     請求項9に記載の薬剤認識装置。
  11.  前記照明部は、前記薬剤を四方向以上から照明する、
     請求項1から10のうちいずれか一項に記載の薬剤認識装置。
  12.  前記更新判定部は、複数の前記薬剤が一つの薬包に含まれている場合、前記複数の薬剤どうしの間隔に基づいて、前記マスタ画像を更新するか否かを判定する、
     請求項1から11のうちいずれか一項に記載の薬剤認識装置。
  13.  前記照明部は、複数の光源を含んで構成され、
     前記複数の光源のうち前記薬剤を照明する光源を切り替えることにより前記薬剤の照明方向を順番に切り替える照明制御部と、
     前記照明方向が切り替わるごとに前記撮影部に前記薬剤を撮影させる撮影制御部と、
     を備え、
     前記マスタ画像生成部は、前記撮影部によって得られた複数の撮影画像であって前記複数の照明方向に対応する複数の撮影画像を合成して、前記マスタ画像を生成する、
     請求項1から12のうちいずれか一項に記載の薬剤認識装置。
  14.  前記撮影部は、前記薬剤を第1の方向から撮影する第1のカメラと、前記薬剤を前記第1の方向と異なる第2の方向から撮影する第2のカメラと、を含んで構成される、請求項1から13のうちいずれか一項に記載の薬剤認識装置。
  15.  前記薬剤は包装されている請求項1から14のうちいずれか1項に記載の薬剤認識装置。
  16.  前記薬剤が包装された複数の薬包が連続し、
     前記マスタ画像生成部は、一の前記薬包から同一種類の複数の薬剤が撮影された場合、または前記複数の薬包にわたり同一種類の複数の薬剤が撮影された場合は、前記同一種類の複数の薬剤が撮影された複数の薬剤領域を用いて、前記マスタ画像を生成する、
     請求項1から15のうちいずれか一項に記載の薬剤認識装置。
  17.  前記マスタ画像生成部は、一の前記薬包から同一種類の複数の薬剤が撮影された場合、または前記複数の薬包にわたり同一種類の複数の薬剤が撮影された場合は、前記複数の薬剤領域を用いて平均または加重平均により前記マスタ画像を生成する、
     請求項16に記載の薬剤認識装置。
  18.  表示部と、
     前記表示部に、前記撮影画像のうちの薬剤領域を表示させる表示制御部を備える、
     請求項1から17のうちいずれか一項に記載の薬剤認識装置。
  19.  前記マスタ画像と前記撮影画像のうちの薬剤領域との相関値を算出する相関値算出部を備え、
     前記表示制御部は、前記相関値を前記表示部に表示させる、
     請求項18に記載の薬剤認識装置。
  20.  前記表示制御部は、前記マスタ画像を更新した履歴を前記表示部に表示させる、
     請求項18または19に記載の薬剤認識装置。
  21.  前記表示制御部は、前記薬剤の位置と前記マスタ画像の更新とを関連付けて前記表示部に表示させる、
     請求項20に記載の薬剤認識装置。
  22.  前記撮影画像と、前記記憶部に登録されたマスタ画像のうち最後に登録されたマスタ画像と、を照合して前記撮影画像が示す薬剤がいずれの薬剤であるかを判断する薬剤判断部と、
     前記判断の結果を出力する判断結果出力部と、
     を備える請求項1から21のうちいずれか1項に記載の薬剤認識装置。
  23.  前記薬剤判断部は前記撮影画像と前記マスタ画像との照合結果に基づいて前記撮影画像が示す薬剤の候補を選択し、
     前記判断結果出力部は前記選択された候補を示す情報を出力する請求項22に記載の薬剤認識装置。
  24.  前記撮影画像が示す薬剤に関連する関連情報を入力する関連情報入力部をさらに備え、
     前記薬剤判断部は前記関連情報を参照して前記判断を行う請求項22または23に記載の薬剤認識装置。
  25.  前記関連情報は処方データに含まれる薬剤の情報であり、
     前記薬剤判断部は、前記処方データに含まれる薬剤についての前記マスタ画像を前記記憶部から取得し、前記撮影画像と前記取得したマスタ画像とを照合して、前記撮影画像が示す薬剤と前記取得したマスタ画像が示す薬剤とが同一であるか否かを判断する請求項24に記載の薬剤認識装置。
  26.  薬剤を照明する照明部と、前記照明部によって照明された前記薬剤を撮影する撮影部と、前記薬剤の種類ごとに前記薬剤を示すマスタ画像を記憶する記憶部と、を用いる薬剤認識方法であって、
     前記撮影部によって得られた撮影画像に基づいて前記薬剤の位置を取得するステップと、
     取得された前記薬剤の位置に基づいて、前記マスタ画像を更新するか否かを判定するステップと、
     前記マスタ画像を更新すると判定された場合、前記撮影画像のうち薬剤領域をマスタ画像として前記記憶部に登録するステップと、
     を含む薬剤認識方法。
  27.  請求項26に記載の薬剤認識方法をコンピュータに実行させる薬剤認識プログラム。
  28.  請求項27に記載の薬剤認識プログラムを記録したコンピュータ読み取り可能な非一時的記録媒体。
     
PCT/JP2018/007235 2017-03-23 2018-02-27 薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム WO2018173649A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019507478A JP6767565B2 (ja) 2017-03-23 2018-02-27 薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム
EP18770371.5A EP3603604A4 (en) 2017-03-23 2018-02-27 MEDICINE RECOGNITION DEVICE, MEDICINAL RECOGNITION METHOD, AND MEDICINAL RECOGNITION PROGRAM
CN201880017385.9A CN110418627B (zh) 2017-03-23 2018-02-27 药剂识别装置、药剂识别方法及药剂识别程序
US16/547,208 US11574141B2 (en) 2017-03-23 2019-08-21 Drug recognizing apparatus, drug recognizing method, and drug recognizing program

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2017057785 2017-03-23
JP2017-057785 2017-03-23
JP2017-224318 2017-11-22
JP2017224318 2017-11-22

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US16/547,208 Continuation US11574141B2 (en) 2017-03-23 2019-08-21 Drug recognizing apparatus, drug recognizing method, and drug recognizing program

Publications (1)

Publication Number Publication Date
WO2018173649A1 true WO2018173649A1 (ja) 2018-09-27

Family

ID=63586489

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2018/007235 WO2018173649A1 (ja) 2017-03-23 2018-02-27 薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム

Country Status (5)

Country Link
US (1) US11574141B2 (ja)
EP (1) EP3603604A4 (ja)
JP (1) JP6767565B2 (ja)
CN (1) CN110418627B (ja)
WO (1) WO2018173649A1 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019193924A1 (ja) * 2018-04-03 2019-10-10 富士フイルム富山化学株式会社 薬剤判定装置及び薬剤判定方法
JP2020067354A (ja) * 2018-10-24 2020-04-30 株式会社ナベル パック詰め卵の撮像システム
WO2020105395A1 (ja) * 2018-11-21 2020-05-28 富士フイルム富山化学株式会社 薬剤識別装置、薬剤識別方法及び薬剤識別プログラム
JP2020103885A (ja) * 2018-12-27 2020-07-09 株式会社湯山製作所 種類判別装置
WO2020162263A1 (ja) * 2019-02-07 2020-08-13 富士フイルム富山化学株式会社 薬剤照合装置、薬剤照合方法及び薬剤照合システム
WO2021010277A1 (ja) * 2019-07-16 2021-01-21 富士フイルム富山化学株式会社 薬剤識別装置、薬剤識別方法及びプログラム
JPWO2021065658A1 (ja) * 2019-10-01 2021-04-08

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019039300A1 (ja) * 2017-08-22 2019-02-28 富士フイルム株式会社 薬剤検査支援装置、薬剤識別装置、画像処理装置、画像処理方法及びプログラム
US11195270B2 (en) 2019-07-19 2021-12-07 Becton Dickinson Rowa Germany Gmbh Measuring and verifying drug portions
CN111866458A (zh) * 2020-07-14 2020-10-30 深圳市瑞意博医疗设备有限公司 一种毒麻药品三期码复核装置
FR3122008B1 (fr) * 2021-04-19 2023-10-20 Buawei Dispositif d’éclairage d’une surface à contrôler
CN117524408A (zh) * 2023-11-30 2024-02-06 青岛大学附属医院 基于ai的静脉用药配置核对系统及其使用方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0916681A (ja) 1995-06-26 1997-01-17 Bunkichi Kato 薬剤鑑別装置
JP2004167158A (ja) * 2002-11-22 2004-06-17 Glory Ltd 薬剤認識装置
JP2005249615A (ja) 2004-03-04 2005-09-15 Denso Corp 異品種混入検査方法
WO2011030441A1 (ja) * 2009-09-11 2011-03-17 富士通株式会社 生体認証装置、生体認証システム、及び生体認証方法
JP2014067342A (ja) * 2012-09-27 2014-04-17 Fujifilm Corp 薬剤検査支援装置及び方法
JP2015068765A (ja) * 2013-09-30 2015-04-13 富士フイルム株式会社 薬剤認識装置及び方法
WO2015152225A1 (ja) 2014-03-31 2015-10-08 株式会社湯山製作所 薬剤撮影装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4349164B2 (ja) * 2004-03-10 2009-10-21 グローリー株式会社 薬剤画像読取装置
CA2622454C (en) * 2005-04-06 2012-07-10 Mallinckrodt Inc. Systems and methods for managing information relating to medical fluids and containers therefor
US9208394B2 (en) * 2005-09-05 2015-12-08 Alpvision S.A. Authentication of an article of manufacture using an image of the microstructure of it surface
JP5496348B2 (ja) 2011-03-24 2014-05-21 パナソニック株式会社 錠剤検査装置およびこれを用いた錠剤検査方法
KR101899269B1 (ko) * 2011-04-28 2018-10-29 가부시키가이샤 유야마 세이사쿠쇼 약제 감사 장치 및 약제 분포 장치
JP6009888B2 (ja) 2012-09-27 2016-10-19 富士フイルム株式会社 薬剤検査装置及び方法
US10858134B2 (en) * 2012-10-03 2020-12-08 Yuyama Mfg. Co., Ltd. Medicine inspection system, winding device, feed device, and holder
EP2924647A4 (en) * 2012-11-22 2016-08-31 Yuyama Mfg Co Ltd drug inspection
JP6369456B2 (ja) * 2013-02-20 2018-08-08 株式会社湯山製作所 薬剤鑑査装置、及び薬剤分包システム
JP6118614B2 (ja) * 2013-03-29 2017-04-19 富士フイルム株式会社 キャリブレーション方法およびキャリブレーション装置
JP6047475B2 (ja) * 2013-11-12 2016-12-21 チームラボ株式会社 画像認識装置、画像認識方法及び画像認識プログラム
US9349076B1 (en) * 2013-12-20 2016-05-24 Amazon Technologies, Inc. Template-based target object detection in an image
WO2015119055A1 (ja) * 2014-02-06 2015-08-13 株式会社湯山製作所 薬品撮影装置、薬品形状測定装置、薬品払出装置
AU2017252847A1 (en) * 2016-04-19 2018-11-15 Yuyama Mfg. Co., Ltd. Image processing program and image processing device
WO2019039300A1 (ja) 2017-08-22 2019-02-28 富士フイルム株式会社 薬剤検査支援装置、薬剤識別装置、画像処理装置、画像処理方法及びプログラム
JP6974595B2 (ja) * 2018-04-03 2021-12-01 富士フイルム富山化学株式会社 薬剤判定装置及び薬剤判定方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0916681A (ja) 1995-06-26 1997-01-17 Bunkichi Kato 薬剤鑑別装置
JP2004167158A (ja) * 2002-11-22 2004-06-17 Glory Ltd 薬剤認識装置
JP2005249615A (ja) 2004-03-04 2005-09-15 Denso Corp 異品種混入検査方法
WO2011030441A1 (ja) * 2009-09-11 2011-03-17 富士通株式会社 生体認証装置、生体認証システム、及び生体認証方法
JP2014067342A (ja) * 2012-09-27 2014-04-17 Fujifilm Corp 薬剤検査支援装置及び方法
JP2015068765A (ja) * 2013-09-30 2015-04-13 富士フイルム株式会社 薬剤認識装置及び方法
US20160210524A1 (en) * 2013-09-30 2016-07-21 Fujifilm Corporation Drug recognition device and method
WO2015152225A1 (ja) 2014-03-31 2015-10-08 株式会社湯山製作所 薬剤撮影装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3603604A4

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019193924A1 (ja) * 2018-04-03 2019-10-10 富士フイルム富山化学株式会社 薬剤判定装置及び薬剤判定方法
JP2020067354A (ja) * 2018-10-24 2020-04-30 株式会社ナベル パック詰め卵の撮像システム
JP7022989B2 (ja) 2018-10-24 2022-02-21 株式会社ナベル パック詰め卵の撮像システム
WO2020105395A1 (ja) * 2018-11-21 2020-05-28 富士フイルム富山化学株式会社 薬剤識別装置、薬剤識別方法及び薬剤識別プログラム
JP7125510B2 (ja) 2018-11-21 2022-08-24 富士フイルム富山化学株式会社 薬剤識別装置、薬剤識別方法及び薬剤識別プログラム
JPWO2020105395A1 (ja) * 2018-11-21 2021-10-07 富士フイルム富山化学株式会社 薬剤識別装置、薬剤識別方法及び薬剤識別プログラム
JP2020103885A (ja) * 2018-12-27 2020-07-09 株式会社湯山製作所 種類判別装置
JP7364888B2 (ja) 2018-12-27 2023-10-19 株式会社湯山製作所 種類判別装置
CN113260344A (zh) * 2019-02-07 2021-08-13 富士胶片富山化学株式会社 药剂对照装置、药剂对照方法以及药剂对照系统
JPWO2020162263A1 (ja) * 2019-02-07 2021-11-04 富士フイルム富山化学株式会社 薬剤照合装置、薬剤照合方法及び薬剤照合システム
WO2020162263A1 (ja) * 2019-02-07 2020-08-13 富士フイルム富山化学株式会社 薬剤照合装置、薬剤照合方法及び薬剤照合システム
WO2021010277A1 (ja) * 2019-07-16 2021-01-21 富士フイルム富山化学株式会社 薬剤識別装置、薬剤識別方法及びプログラム
WO2021065658A1 (ja) 2019-10-01 2021-04-08 富士フイルム富山化学株式会社 薬剤照合装置、薬剤照合システム、薬剤管理方法及びプログラム
JPWO2021065658A1 (ja) * 2019-10-01 2021-04-08
CN114450677A (zh) * 2019-10-01 2022-05-06 富士胶片富山化学株式会社 药剂对照装置、药剂对照系统、药剂管理方法及程序
JP7427684B2 (ja) 2019-10-01 2024-02-05 富士フイルム富山化学株式会社 薬剤照合システム、薬剤管理方法及びプログラム

Also Published As

Publication number Publication date
US20190377977A1 (en) 2019-12-12
CN110418627A (zh) 2019-11-05
EP3603604A4 (en) 2020-04-01
JP6767565B2 (ja) 2020-10-14
EP3603604A1 (en) 2020-02-05
CN110418627B (zh) 2021-11-16
JPWO2018173649A1 (ja) 2019-12-12
US11574141B2 (en) 2023-02-07

Similar Documents

Publication Publication Date Title
WO2018173649A1 (ja) 薬剤認識装置、薬剤認識方法、及び薬剤認識プログラム
JP5997120B2 (ja) 薬剤照合装置、薬剤照合システム、及び薬剤照合方法
KR101744123B1 (ko) 의약품 식별 장치 및 그 방법
JP2018027242A (ja) 錠剤検知方法、錠剤検知装置および錠剤検知プログラム
WO2019039016A1 (ja) 薬剤検査支援装置、画像処理装置、画像処理方法及びプログラム
US10937152B2 (en) Inspection support method and inspection support device
CN111095262A (zh) 药剂监查装置、图像处理装置、图像处理方法以及程序
JPWO2020044933A1 (ja) 対象物照合装置及び対象物照合方法
WO2020162263A1 (ja) 薬剤照合装置、薬剤照合方法及び薬剤照合システム
US11594322B2 (en) Dispensing audit support apparatus and dispensing audit support method
JP7375049B2 (ja) 画像処理装置及び方法
WO2019003972A1 (ja) 服薬管理システム、服薬管理方法、管理装置およびプログラム記憶媒体
JP6047475B2 (ja) 画像認識装置、画像認識方法及び画像認識プログラム
US11721432B1 (en) Medication inventory system including boundary outline based medication tray stocking list and related methods
JP5414879B1 (ja) 薬剤認識装置、薬剤認識方法及び薬剤認識プログラム
JP7280361B2 (ja) 薬剤識別装置、薬剤識別方法及びプログラム
JP7388564B2 (ja) Ptp管理システム
US11817207B1 (en) Medication inventory system including image based boundary determination for generating a medication tray stocking list and related methods
JP7437259B2 (ja) 画像処理装置、薬剤識別装置、画像処理方法及び薬剤識別方法
JP2019017913A (ja) 情報処理システム、情報処理システムの制御方法、およびプログラム
JP2017058920A (ja) 薬剤監査装置及び方法
JP2023130436A (ja) 一包化鑑査装置、一包化鑑査プログラムおよび一包化鑑査方法
JP2020121057A (ja) 薬剤鑑査装置
JP2009110169A (ja) 薬剤監査装置および画像処理方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18770371

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2019507478

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2018770371

Country of ref document: EP

Effective date: 20191023