JP2022025439A - Image processing device, medicine discriminating device, and image processing method - Google Patents

Image processing device, medicine discriminating device, and image processing method Download PDF

Info

Publication number
JP2022025439A
JP2022025439A JP2020128256A JP2020128256A JP2022025439A JP 2022025439 A JP2022025439 A JP 2022025439A JP 2020128256 A JP2020128256 A JP 2020128256A JP 2020128256 A JP2020128256 A JP 2020128256A JP 2022025439 A JP2022025439 A JP 2022025439A
Authority
JP
Japan
Prior art keywords
drug
image
lighting
processor
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020128256A
Other languages
Japanese (ja)
Other versions
JP7437259B2 (en
Inventor
康治 横内
Koji Yokouchi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Toyama Chemical Co Ltd
Original Assignee
Fujifilm Toyama Chemical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Toyama Chemical Co Ltd filed Critical Fujifilm Toyama Chemical Co Ltd
Priority to JP2020128256A priority Critical patent/JP7437259B2/en
Publication of JP2022025439A publication Critical patent/JP2022025439A/en
Application granted granted Critical
Publication of JP7437259B2 publication Critical patent/JP7437259B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Medical Preparation Storing Or Oral Administration Devices (AREA)
  • Image Analysis (AREA)
  • Medical Treatment And Welfare Office Work (AREA)

Abstract

To provide an image processing device, a medicine discriminating device and an image processing method, with which desirable photographic image display is realized when photographing a medicine placed on a first plane of a photography table from the first plane and a second plane that is reverse to the first plane.SOLUTION: The present invention acquires a first image obtained by photographing a medicine placed on a support table from the underside of the support table using a photographing device arranged at a lower position of the support table, generates a second image (220) in which the first image is reversed with respect to a medicine movement direction in which the medicine is moved when adjusting the position of the medicine relative to the photographing range of the photographing device, generates a display signal for causing the second image to be displayed in a first region (202) of a screen displayed on a display device, and outputs the display signal.SELECTED DRAWING: Figure 8

Description

本発明は画像処理装置、薬剤識別装置及び画像処理方法に関する。 The present invention relates to an image processing device, a drug identification device, and an image processing method.

病院及び薬局等の医療機関では、薬剤の監査及び持参薬の鑑別が実施される。目視を適用して薬剤の監査等を実施する場合、薬剤師等の作業者の負担が大きい。そのために、医療機関では薬剤の監査等を支援するシステムが採用されている。 At medical institutions such as hospitals and pharmacies, drug audits and identification of brought-in drugs are carried out. When auditing drugs by applying visual inspection, the burden on workers such as pharmacists is heavy. For this reason, medical institutions have adopted systems that support drug audits.

特許文献1は、薬剤鑑別システムに具備される薬剤の画像を撮影する薬剤撮影装置が記載されている。同文献に記載の装置は、薬剤を上から見た画像を撮影する第1カメラ及び薬剤を下から見た画像を撮影する第2カメラを備える。第1カメラ及び第2カメラを用いて撮影された薬剤の撮影画像は表示装置の画面に表示される。 Patent Document 1 describes a drug imaging device for capturing an image of a drug provided in a drug discrimination system. The apparatus described in the document includes a first camera that captures an image of the drug viewed from above and a second camera that captures an image of the drug viewed from below. The photographed images of the drug taken by the first camera and the second camera are displayed on the screen of the display device.

表示装置の画面に表示される錠剤画像鑑別ウインドウは、第1の部分、第2の部分及び第3の部分が含まれる。第1の部分は、撮影画像の全体を表示する。第2の部分は、第1の部分に表示された薬剤の中から選択された薬剤を拡大表示する。第3の部分は、選択された薬剤の鑑別が終了している場合に、鑑別結果が得られた候補薬のリストを表示する。 The tablet image identification window displayed on the screen of the display device includes a first portion, a second portion, and a third portion. The first part displays the entire captured image. The second part enlarges and displays the medicine selected from the medicines displayed in the first part. The third part displays a list of candidate drugs for which discrimination results have been obtained when the discrimination of the selected drug has been completed.

第1の部分は、上からビュータブが選択される場合に、薬剤を上から撮影した画像が表示され、下からビュータブが選択される場合に、薬剤を下から撮影した画像が表示される。 In the first part, when the view tab is selected from above, the image of the drug taken from above is displayed, and when the view tab is selected from the bottom, the image of the drug taken from below is displayed.

特開2019-76787号公報Japanese Unexamined Patent Publication No. 2019-76787

しかしながら、撮影台の下側の位置に設置されるカメラを用いて、撮影台の上側に載置される薬剤を撮影する場合、カメラの画角に応じて薬剤の位置を移動させる場合などに、薬剤を右方向へ移動させると、薬剤の撮影画像が表示される画面では、薬剤が左方向へ移動してしまい、オペレータが混乱してしまう。 However, when shooting a drug placed on the upper side of the shooting table using a camera installed at the lower position of the shooting table, or when moving the position of the drug according to the angle of view of the camera, etc. When the drug is moved to the right, the drug moves to the left on the screen where the photographed image of the drug is displayed, which confuses the operator.

特許文献1に記載のシステムは、第1カメラ及び第2カメラの画角に合わせて薬剤を収容するトレイの位置が決められており、上記の課題が存在していない。複数の分包紙が繋げられた分包紙連続体のそれぞれの分包紙を撮影する場合、分包紙連続体を移動させて各分包紙の位置合わせを実施する際に、上記の課題が発生する。 In the system described in Patent Document 1, the position of the tray for accommodating the medicine is determined according to the angles of view of the first camera and the second camera, and the above-mentioned problem does not exist. When taking a picture of each packing paper of a packing paper continuum in which a plurality of packing papers are connected, the above-mentioned problems when moving the packing paper continuous body and aligning each packing paper. Occurs.

上記した課題は、患者の持ち込み薬に対する鑑別だけでなく、薬局等において実施される処方薬の監査など、薬剤の識別において存在し得る。 The above-mentioned problems may exist not only in the discrimination of drugs brought in by patients, but also in the identification of drugs such as the audit of prescription drugs carried out at pharmacies and the like.

本発明はこのような事情に鑑みてなされたもので、撮影台の第一面に載置される薬剤を第一面と反対側の第二面の側から撮影する際の好ましい撮影画像の表示が実現される画像処理装置、薬剤識別装置及び画像処理方法を提供することを目的とする。 The present invention has been made in view of such circumstances, and display of a preferable photographed image when the drug placed on the first surface of the photographing table is photographed from the side of the second surface opposite to the first surface. It is an object of the present invention to provide an image processing device, a drug identification device, and an image processing method in which the above is realized.

上記目的を達成するために、次の発明態様を提供する。 In order to achieve the above object, the following aspects of the invention are provided.

本開示に係る画像処理装置は、一以上のプロセッサを備えた画像処理装置であって、プロセッサは、支持台の第一面に載置される薬剤を、支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、支持台の第二面の側から薬剤を撮影して得られた第一画像を取得し、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向について第一画像を反転させた第二画像を生成し、ディスプレイ装置に表示される画面の第一領域へ、第二画像を表示させる表示信号を生成し、表示信号を出力する画像処理装置である。 The image processing apparatus according to the present disclosure is an image processing apparatus including one or more processors, in which the processor transfers a drug placed on the first surface of the support base to the opposite side of the first surface of the support base. Using the imaging device located at the position on the side of the second surface, the first image obtained by photographing the drug from the side of the second surface of the support base is acquired, and the drug is taken with respect to the imaging range of the photographing device. A display signal that generates a second image in which the first image is inverted with respect to the direction of movement of the drug to move the drug when adjusting the position of, and displays the second image in the first area of the screen displayed on the display device. Is an image processing device that generates a display signal and outputs a display signal.

本開示に係る画像処理装置によれば、撮影台の第一面に載置される薬剤の位置を移動させる場合に、薬剤の移動方向とディスプレイ装置の画面に表示される第二画像の移動方向とを一致させ得る。 According to the image processing apparatus according to the present disclosure, when the position of the drug placed on the first surface of the photographing table is moved, the moving direction of the drug and the moving direction of the second image displayed on the screen of the display device. Can be matched with.

薬剤は、一つの固体として認識し得る錠剤及びカプセルなどを適用し得る。 The agent may be tablets, capsules, etc. that can be recognized as one solid.

撮影対象の薬剤は、一以上の薬剤が分包紙などを用いて包装された形態を含み得る。 The drug to be imaged may include a form in which one or more drugs are packaged using a packing paper or the like.

第一画像は、動画像を適用してもよいし、静止画像を適用してもよい。動画像は、スルー画を含み得る。第一画像はレンズ歪補正等の各種の補正がされていてもよい。 As the first image, a moving image may be applied or a still image may be applied. The moving image may include a through image. The first image may be subjected to various corrections such as lens distortion correction.

他の態様に係る画像処理装置において、プロセッサは、第一画像及び第二画像を第一領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor generates a display signal for displaying the first image and the second image in the first region.

かかる態様によれば、ディスプレイ装置の画面へ第一画像を表示し得る。これにより、薬剤の印刷及び刻印等を正しい向きで視認し得る。 According to such an embodiment, the first image can be displayed on the screen of the display device. As a result, the printing and engraving of the drug can be visually recognized in the correct direction.

他の態様に係る画像処理装置において、プロセッサは、第一画像に含まれる薬剤の画像を検出し、第一画像から検出された薬剤の画像を第一画像から抽出し、抽出された薬剤の画像を画面の第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor detects the image of the drug contained in the first image, extracts the image of the drug detected from the first image from the first image, and the image of the extracted drug. Is generated in the second area of the screen.

かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤を認識し得る。 According to such an embodiment, each drug can be individually recognized from a photographed image of a drug group containing a plurality of drugs.

他の態様に係る画像処理装置において、プロセッサは、第一画像から抽出された薬剤の画像を拡大させ、拡大させた薬剤の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor enlarges the image of the drug extracted from the first image and generates a display signal for displaying the enlarged image of the drug in the second region.

かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.

他の態様に係る画像処理装置において、プロセッサは、第一画像を縮小させ、縮小させた第一画像を第一領域へ表示させ、かつ、第一画像から抽出された薬剤の非縮小の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to another aspect, the processor reduces the first image, displays the reduced first image in the first region, and displays the non-reduced image of the drug extracted from the first image. Generate a display signal to be displayed in the second area.

かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.

他の態様に係る画像処理装置において、プロセッサは、第二画像に含まれる薬剤の画像を検出し、第二画像から検出された薬剤の画像を第二画像から抽出し、薬剤の画像を薬剤移動方向について反転させ、薬剤移動方向について反転させた薬剤の画像を画面の第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor detects the image of the drug contained in the second image, extracts the image of the drug detected from the second image from the second image, and moves the image of the drug to the drug. A display signal is generated in which the image of the drug inverted with respect to the direction of movement of the drug is displayed in the second area of the screen.

かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤を認識し得る。 According to such an embodiment, each drug can be individually recognized from a photographed image of a drug group containing a plurality of drugs.

他の態様に係る画像処理装置において、プロセッサは、薬剤移動方向について反転させた薬剤の画像を拡大させ、拡大させた薬剤の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor enlarges the image of the drug inverted with respect to the drug moving direction, and generates a display signal for displaying the enlarged image of the drug in the second region.

かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.

他の態様に係る画像処理装置において、プロセッサは、第二画像を縮小させ、縮小させた薬剤の画像を第一領域へ表示させ、かつ、第二画像から抽出され、反転させた薬剤の非縮小の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor reduces the second image, displays the image of the reduced drug in the first region, and is extracted from the second image and inverted, and the non-reduced drug. Generates a display signal to display the image of.

かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.

他の態様に係る画像処理装置において、プロセッサは、第二領域へ表示される画像の解像度が、第一領域へ表示させる画像の解像度を超える表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor generates a display signal in which the resolution of the image displayed in the second region exceeds the resolution of the image displayed in the first region.

かかる態様によれば、第一領域へ表示させる画像に対して、第二領域へ表示される各薬剤の画像の視認性が向上し得る。 According to such an aspect, the legibility of the image of each drug displayed in the second region can be improved with respect to the image displayed in the first region.

本開示に係る薬剤識別装置は、一以上のプロセッサを備え、支持台の第一面に載置される薬剤を、支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて取得した薬剤の撮影画像から薬剤を識別する薬剤識別装置であって、プロセッサは、撮影装置を用いて、支持台の第二面の側から薬剤を撮影して得られた第一画像を取得し、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向について第一画像を反転させた第二画像を生成し、ディスプレイ装置に表示される画面の第一領域へ、第二画像を表示させる表示信号を生成し、表示信号を出力する薬剤識別装置である。 The drug identification device according to the present disclosure comprises one or more processors, and a drug placed on the first surface of the support is placed at a position on the side of the second surface opposite to the first surface of the support. It is a drug identification device that identifies a drug from a photographed image of a drug acquired by using an imaging device, and the processor is obtained by photographing the drug from the second surface side of the support using the imaging device. The first image is acquired, and when adjusting the position of the drug with respect to the imaging range of the imaging device, a second image is generated in which the first image is inverted with respect to the direction of drug movement to move the drug, and the image is displayed on the display device. This is a drug identification device that generates a display signal for displaying a second image in the first area of the screen and outputs the display signal.

本開示に係る薬剤識別装置によれば、撮影台の第一面に載置される薬剤の位置を移動させる場合に、薬剤移動方向とディスプレイ装置の画面に表示される第二画像の移動方向とを一致させ得る。 According to the drug identification device according to the present disclosure, when the position of the drug placed on the first surface of the photographing table is moved, the drug moving direction and the moving direction of the second image displayed on the screen of the display device are used. Can be matched.

薬剤識別装置は、薬剤の鑑別及び薬剤の監査の少なくともいずれかを実施し得る。 The drug identification device may perform at least one of drug discrimination and drug audit.

他の態様に係る薬剤識別装置において、プロセッサは、第一画像に含まれる薬剤の画像を検出し、第一画像から検出された薬剤の画像を第一画像から抽出し、抽出された薬剤の画像に基づき、抽出された薬剤の画像に対応する薬剤を識別する。 In the drug identification device according to another aspect, the processor detects the image of the drug contained in the first image, extracts the image of the drug detected from the first image from the first image, and the image of the extracted drug. Based on, the drug corresponding to the image of the extracted drug is identified.

かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤の識別を実施し得る。 According to such an embodiment, each drug can be individually identified from a photographed image of a drug group containing a plurality of drugs.

他の態様に係る薬剤識別装置において、プロセッサは、第二画像に含まれる薬剤の画像を検出し、第二画像から検出された薬剤の画像を第二画像から抽出し、第二画像から抽出された薬剤の画像を薬剤移動方向について反転させ、薬剤移動方向について反転させた薬剤の画像に基づき、第二画像から抽出された薬剤の画像に対応する薬剤を識別する。 In the drug identification device according to another aspect, the processor detects the image of the drug contained in the second image, extracts the image of the drug detected from the second image from the second image, and extracts from the second image. The image of the drug is inverted with respect to the drug movement direction, and the drug corresponding to the image of the drug extracted from the second image is identified based on the image of the drug inverted with respect to the drug movement direction.

かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤の識別を実施し得る。 According to such an embodiment, each drug can be individually identified from a photographed image of a drug group containing a plurality of drugs.

他の態様に係る薬剤識別装置において、プロセッサは、識別対象の薬剤の画像が選択された場合に、候補となる薬剤の情報を画面へ表示させる表示信号を生成する。 In the drug identification device according to another aspect, the processor generates a display signal for displaying information on a candidate drug on the screen when an image of the drug to be identified is selected.

かかる態様によれば、画面に表示される候補となる薬剤の情報を用いて、薬剤の識別を実施し得る。 According to such an embodiment, the drug can be identified by using the information of the candidate drug displayed on the screen.

他の態様に係る薬剤識別装置において、支持台の第一面に載置される薬剤に対して、互いに異なる方向から照明光を照射する複数の照明装置を備え、プロセッサは、複数の照明装置のうち、二以上の照明装置を用いて薬剤に対して照明光を照射させる第一照明条件を適用し、撮影装置を用いて第一画像を取得し、かつ、第一照明条件よりも少ない数の照明装置を用いて薬剤に対して照明光を照射させる第二照明条件を適用し、撮影装置を用いて第一画像を取得し、第一照明条件が適用され取得された第一画像及び第二照明条件が適用され取得された第一画像の少なくともいずれかを用いて、薬剤を識別する。 In the drug identification device according to another aspect, a plurality of lighting devices that irradiate the drugs placed on the first surface of the support base with illumination light from different directions are provided, and the processor is a plurality of lighting devices. Of these, the first lighting condition for irradiating the drug with the illumination light using two or more lighting devices is applied, the first image is acquired using the photographing device, and the number is smaller than the first lighting condition. The second lighting condition for irradiating the drug with the illumination light using the lighting device is applied, the first image is acquired using the photographing device, and the first image and the second image obtained by applying the first lighting condition are applied. The drug is identified using at least one of the first images obtained with the lighting conditions applied.

かかる態様によれば、異なる照明条件を適用して取得された第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on the first image obtained by applying different lighting conditions.

他の態様に係る薬剤識別装置において、プロセッサは、第二照明条件を適用して複数の第一画像を取得する。 In the drug identification device according to another aspect, the processor applies a second lighting condition to acquire a plurality of first images.

かかる態様によれば、第二照明条件を適用して取得された複数の第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on a plurality of first images obtained by applying the second lighting condition.

他の態様に係る薬剤識別装置において、複数の照明装置は、撮影装置の光軸と直交する面内において撮影装置の光軸を中心として90度ずつ位置をずらして配置される第一照明装置、第二照明装置、第三照明装置及び第四照明装置を備え、プロセッサは、第一照明条件として第一照明装置、第二照明装置、第三照明装置及び第四照明装置を用いて薬剤に対して照明光を照射させ第一画像を取得し、かつ、第二照明条件として、第一照明装置、第二照明装置、第三照明装置及び第四照明装置のそれぞれから薬剤に対して照明光を照射させて、四つの第一画像を取得する。 In the drug identification device according to another aspect, the plurality of lighting devices are arranged so as to be displaced by 90 degrees with respect to the optical axis of the photographing device in a plane orthogonal to the optical axis of the photographing device. The second lighting device, the third lighting device, and the fourth lighting device are provided, and the processor uses the first lighting device, the second lighting device, the third lighting device, and the fourth lighting device as the first lighting condition for the drug. The first image is acquired by irradiating the illuminating light, and as the second illuminating condition, the illuminating light is emitted from each of the first illuminating device, the second illuminating device, the third illuminating device, and the fourth illuminating device to the chemicals. Irradiate and acquire four first images.

かかる態様によれば、互いに直交する四方向から薬剤に対して照明光を照射して取得される四つの第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on the four first images obtained by irradiating the drug with illumination light from four directions orthogonal to each other.

他の態様に係る薬剤識別装置において、プロセッサは、第二照明条件を適用して取得した複数の第一画像の少なくとも一つを用いて薬剤を識別する請求項15又は16に記載の薬剤識別装置。 The drug identification device according to claim 15 or 16, wherein in the drug identification device according to another embodiment, the processor uses at least one of a plurality of first images acquired by applying the second lighting condition to identify the drug. ..

かかる態様によれば、第二照明条件を適用して取得される一つ以上第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on one or more first images obtained by applying the second lighting condition.

本開示に係る画像処理方法は、支持台の第一面に載置される薬剤を、支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、支持台の第二面の側から薬剤を撮影して得られた第一画像を取得し、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向について第一画像を反転させた第二画像を生成し、ディスプレイ装置に表示される画面の第一領域へ、第二画像を表示させる表示信号を生成し、表示信号を出力する画像処理方法である。 The image processing method according to the present disclosure uses an imaging device in which a drug placed on the first surface of the support is placed at a position on the side of the second surface opposite to the first surface of the support. The first image obtained by photographing the drug from the side of the second surface of the support base is acquired, and the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the imaging range of the imaging device is the first. This is an image processing method that generates a second image in which an image is inverted, generates a display signal for displaying the second image in the first area of the screen displayed on the display device, and outputs the display signal.

本発明によれば、撮影台の第一面に載置される薬剤の位置を移動させる場合に、薬剤移動方向とディスプレイ装置の画面に表示される第二画像の移動方向とを一致させ得る。 According to the present invention, when the position of the drug placed on the first surface of the photographing table is moved, the moving direction of the drug can be matched with the moving direction of the second image displayed on the screen of the display device.

図1は課題の説明図である。FIG. 1 is an explanatory diagram of a problem. 図2は実施形態に係る薬剤識別システムの全体構成図である。FIG. 2 is an overall configuration diagram of a drug identification system according to an embodiment. 図3は図2に示す薬剤識別装置の概略構成を示す正面図である。FIG. 3 is a front view showing a schematic configuration of the drug identification device shown in FIG. 2. 図4は図3に示す薬剤識別装置の平面図である。FIG. 4 is a plan view of the drug identification device shown in FIG. 図5は薬剤の変形例の説明図である。FIG. 5 is an explanatory diagram of a modified example of the drug. 図6は図2に示す薬剤識別システムの機能ブロック図である。FIG. 6 is a functional block diagram of the drug identification system shown in FIG. 図7は実施形態に係る薬剤識別方法の手順を示すフローチャートである。FIG. 7 is a flowchart showing the procedure of the drug identification method according to the embodiment. 図8はディスプレイ装置へ表示される画面の構成例を示す画面構成図である。FIG. 8 is a screen configuration diagram showing a configuration example of a screen displayed on the display device. 図9はディスプレイ装置の画面へ表示される薬剤群16の撮影画像の模式図である。FIG. 9 is a schematic diagram of a photographed image of the drug group 16 displayed on the screen of the display device. 図10は変形例に係る画面構成例を示す画面構成図である。FIG. 10 is a screen configuration diagram showing a screen configuration example according to a modified example. 図11は画像処理装置への適用例に係る薬剤識別システムの全体構成図である。FIG. 11 is an overall configuration diagram of a drug identification system according to an application example to an image processing apparatus. 図12はネットワークシステムの適用例に係る薬剤識別システムの全体構成図である。FIG. 12 is an overall configuration diagram of a drug identification system according to an application example of a network system.

以下、添付図面に従って本発明の実施の形態について詳説する。本明細書では、同一の構成要素には同一の参照符号を付して、重複する説明は適宜省略する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the present specification, the same components are designated by the same reference numerals, and duplicate description will be omitted as appropriate.

[課題の説明]
図1は課題の説明図である。同図に示す符号1は、載置台に載置された薬剤5A及び薬剤5Bを表面の側から見た模式図である。符号2は、載置台の裏面の側に配置されるカメラを用いて撮影され、ディスプレイ装置へ表示される上記の薬剤群の表示画像の模式図である。
[Explanation of issues]
FIG. 1 is an explanatory diagram of a problem. Reference numeral 1 shown in the figure is a schematic view of the drug 5A and the drug 5B placed on the mounting table as viewed from the surface side. Reference numeral 2 is a schematic view of a display image of the above-mentioned drug group taken by a camera arranged on the back surface side of the mounting table and displayed on the display device.

薬剤群の表面は、載置台と接触する薬剤群の面と反対側の面である。例えば、薬剤群が水平面に対して平行に載置される場合は、薬剤の上側の面が薬剤の表面である。載置台の裏面は、載置台の薬剤群が載置される面の反対側の面である。 The surface of the drug group is the surface opposite to the surface of the drug group that comes into contact with the platform. For example, when the drug group is placed parallel to the horizontal plane, the upper surface of the drug is the surface of the drug. The back surface of the mounting table is the surface opposite to the surface on which the drug group of the mounting table is placed.

符号2に示す薬剤群の撮影画像は、カメラの撮影領域6に対して薬剤5Bの一部が左へはみ出している。かかる状態の薬剤5Bをカメラの撮影領域6へ収めることを意図して、オペレータがディスプレイ装置へ表示される上記の薬剤群の撮影画像を見ながら薬剤群を右方向へ移動させると、符号3を付した薬剤5A及び薬剤5Bを表面の側から見た模式図に示すように、薬剤5Bはカメラの撮影領域6から更にはみ出してしまう。 In the photographed image of the drug group indicated by reference numeral 2, a part of the agent 5B protrudes to the left with respect to the imaged area 6 of the camera. When the operator moves the drug group to the right while looking at the photographed image of the drug group displayed on the display device with the intention of fitting the drug 5B in such a state into the photographing area 6 of the camera, reference numeral 3 is assigned. As shown in the schematic view of the attached drug 5A and drug 5B viewed from the surface side, the drug 5B further protrudes from the photographing area 6 of the camera.

なお、カメラに具備されるイメージセンサの受光面と平行な面内において、カメラを90度回転させると、図1における左右方向について生じる反転が、上下方向について生じる。ここでいう左右方向及び上下方向は、説明の都合上、便宜的に規定した。以下に、上記の課題を解決し、オペレータの混乱を回避し得る薬剤識別システムについて詳細に説明する。 When the camera is rotated 90 degrees in a plane parallel to the light receiving surface of the image sensor provided in the camera, the inversion that occurs in the left-right direction in FIG. 1 occurs in the up-down direction. The left-right direction and the up-down direction referred to here are specified for convenience of explanation. The drug identification system that can solve the above problems and avoid operator confusion will be described in detail below.

[薬剤識別システム]
〔全体構成例〕
図2は実施形態に係る薬剤識別システムの全体構成図である。同図に示す薬剤識別システム10は、薬剤識別装置12及びディスプレイ装置14を備える。薬剤識別装置12は、載置台22へ載置される識別対象の薬剤群16を撮影し、一以上の薬剤17が含まれる薬剤群16の撮影画像を用いて、薬剤群16に含まれる薬剤17の識別を実施する。
[Drug identification system]
[Overall configuration example]
FIG. 2 is an overall configuration diagram of a drug identification system according to an embodiment. The drug identification system 10 shown in the figure includes a drug identification device 12 and a display device 14. The drug identification device 12 photographs the drug group 16 to be identified placed on the mounting table 22, and uses the photographed image of the drug group 16 containing one or more drugs 17 to capture the drug 17 included in the drug group 16. Perform identification.

薬剤識別装置12の筐体20の内部には、載置台22の薬剤群16を下側から撮影する撮影装置が具備される。すなわち、撮影装置は、載置台22の薬剤載置面24と反対側の撮影面の側の位置に配置される。 Inside the housing 20 of the drug identification device 12, a photographing device for photographing the drug group 16 of the mounting table 22 from below is provided. That is, the photographing device is arranged at a position on the side of the photographing surface opposite to the drug placing surface 24 of the mounting table 22.

撮影装置は、イメージセンサ、光学レンズ及び信号処理回路を備える。イメージセンサはCCDイメージセンサ及びCMOSイメージセンサ等を適用し得る。光学レンズの例として、フォーカスレンズ及び集光レンズ等が挙げられる。 The photographing device includes an image sensor, an optical lens, and a signal processing circuit. As the image sensor, a CCD image sensor, a CMOS image sensor, or the like can be applied. Examples of the optical lens include a focus lens and a condenser lens.

信号処理回路は、CCDイメージセンサへ入力された光学像に基づき、薬剤群16の撮影画像を生成する。ここでいう画像とは、画像データ及び画像信号の概念を含み得る。なお、CCDはCharge Coupled Deviceの省略語である。CMOSはComplementary Metal-Oxide Semiconductorの省略語である。図2では、載置台22の撮影面及び撮影装置の図示を省略する。 The signal processing circuit generates a photographed image of the drug group 16 based on the optical image input to the CCD image sensor. The image referred to here may include the concepts of image data and image signals. CCD is an abbreviation for Charge Coupled Device. CMOS is an abbreviation for Complementary Metal-Oxide Semiconductor. In FIG. 2, the imaging surface of the mounting table 22 and the imaging device are not shown.

載置台22は、透明板の周囲がフレームを用いて支持される構造を有する。透明板はガラス板などの、照明光及び照明光の反射光を透過させ、かつ、一定の剛性を有する板状の部材を適用し得る。ここでいう透過は、透過率が100パーセントに限定されない。例えば、透過率が50パーセント以上を透過としてもよい。 The mounting table 22 has a structure in which the periphery of the transparent plate is supported by using a frame. As the transparent plate, a plate-shaped member such as a glass plate that transmits the illumination light and the reflected light of the illumination light and has a certain rigidity can be applied. The transmittance referred to here is not limited to 100% transmittance. For example, the transmittance may be 50% or more.

筐体20は、載置台22の上部にカバー26が取り付けられる。カバー26は筐体20の背面に取り付けられる。カバー26は、載置台22に対して規定の距離を離した位置に配置される。 A cover 26 is attached to the upper part of the mounting table 22 of the housing 20. The cover 26 is attached to the back surface of the housing 20. The cover 26 is arranged at a position separated from the mounting table 22 by a predetermined distance.

薬剤識別装置12は、撮影装置を用いて取得される薬剤群16の撮影画像に対して画像処理を施す画像処理部を備える。画像処理部は、一以上のプロセッサ及び一以上のメモリを備えるコンピュータを適用し得る。画像処理部は、画像処理プログラムを実行し、薬剤群16の撮影画像に対して画像処理を施す。なお、図2では、画像処理部の図示を省略する。 The drug identification device 12 includes an image processing unit that performs image processing on the captured image of the drug group 16 acquired by using the photographing device. The image processing unit may apply a computer having one or more processors and one or more memories. The image processing unit executes an image processing program and performs image processing on the captured image of the drug group 16. In FIG. 2, the image processing unit is not shown.

ディスプレイ装置14は、画像処理部から送信される表示信号に基づき、薬剤群16に関する画像及び薬剤識別の識別結果等を画面15へ表示させる。ディスプレイ装置14の画面15における表示の詳細は後述する。 The display device 14 displays an image related to the drug group 16 and an identification result of drug identification on the screen 15 based on the display signal transmitted from the image processing unit. Details of the display on the screen 15 of the display device 14 will be described later.

薬剤識別システム10は、薬剤識別装置12へ各種の情報を入力する際にオペレータが使用する入力装置を備える。入力装置は、キーボード及びマウス等を適用し得る。タッチパネル方式のディスプレイ装置を適用して、ディスプレイ装置14と入力装置とを一体構成としてもよい。なお、図2では入力装置の図示を省略する。 The drug identification system 10 includes an input device used by the operator when inputting various information to the drug identification device 12. The input device may be a keyboard, a mouse, or the like. A touch panel type display device may be applied to integrally configure the display device 14 and the input device. Note that the input device is not shown in FIG.

図2には、識別対象の薬剤17を含む薬剤群16の例として、連続する複数の分包袋18のそれぞれに複数の薬剤17が内包される形態を示す。薬剤識別装置12は、複数の分包袋18のそれぞれを撮影し、分包袋18ごとに薬剤群16に含まれる薬剤17の識別を実施する。 FIG. 2 shows, as an example of the drug group 16 including the drug 17 to be identified, a form in which a plurality of drugs 17 are contained in each of a plurality of consecutive sachets 18. The drug identification device 12 photographs each of the plurality of packaging bags 18 and identifies the drugs 17 included in the drug group 16 for each packaging bag 18.

薬剤17は、PTPシートを用いて包装される錠剤及びカプセル等を適用してもよい。薬剤17は、ストリップ包装が適用される錠剤等でもよい。錠剤等は、複数の錠剤等が一体化される状態から分離させた状態でもよい。なお、PTPはPress Through Packの省略語である。 As the drug 17, tablets, capsules and the like packaged using a PTP sheet may be applied. The drug 17 may be a tablet or the like to which strip packaging is applied. The tablets and the like may be separated from the state in which a plurality of tablets and the like are integrated. PTP is an abbreviation for Press Through Pack.

薬剤17の識別は、処方箋に基づき調剤された薬剤17のそれぞれを処方箋と照合する薬剤監査を含み得る。薬剤17の識別は、持参薬とお薬手帳及び電子カルテ等の記載内容等とを照合する鑑別を含み得る。 Identification of the drug 17 may include a drug audit that matches each of the prescription-prepared drugs 17 with the prescription. The identification of the drug 17 may include a discrimination in which the brought-in drug is collated with the contents described in the medicine notebook, the electronic medical record, and the like.

図2に示す矢印線は、薬剤群16の移動方向を表す。薬剤群16の移動方向とは、オペレータが視認する薬剤群16の移動方向に対して、ディスプレイ装置14の画面15へ表示される薬剤群16の画像の移動方向が反転する際に、薬剤群16を移動させる方向を表す。すなわち、撮影装置に具備される撮像素子は、現実の薬剤群16の移動方向と薬剤群16の表示画像の移動方向とが反転する現象が生じる向きに配置される。 The arrow line shown in FIG. 2 indicates the moving direction of the drug group 16. The moving direction of the drug group 16 is the moving direction of the drug group 16 displayed on the screen 15 of the display device 14 when the moving direction of the image of the drug group 16 is reversed with respect to the moving direction of the drug group 16 visually recognized by the operator. Represents the direction in which to move. That is, the image pickup device provided in the photographing device is arranged in a direction in which the movement direction of the actual drug group 16 and the movement direction of the displayed image of the drug group 16 are reversed.

なお、ここでいう撮像素子の配置に関する向きとは、撮像素子の撮像面に対して平行となる面における回転方向を表す。また、薬剤群の16の移動方向は、薬剤17の移動方向と同義である。 The orientation with respect to the arrangement of the image pickup element here indicates the rotation direction on the plane parallel to the image pickup surface of the image pickup element. Further, the moving direction of 16 of the drug group is synonymous with the moving direction of the drug 17.

〔薬剤識別装置の構成例〕
図3は図2に示す薬剤識別装置の概略構成を示す正面図である。図4は図3に示す薬剤識別装置の平面図である。図3及び図4は、図2に示す筐体20の内部を模式的に図示する。以下、図3及び図4を適宜参照して、薬剤識別装置12の構成例について説明する。
[Configuration example of drug identification device]
FIG. 3 is a front view showing a schematic configuration of the drug identification device shown in FIG. 2. FIG. 4 is a plan view of the drug identification device shown in FIG. 3 and 4 schematically show the inside of the housing 20 shown in FIG. Hereinafter, a configuration example of the drug identification device 12 will be described with reference to FIGS. 3 and 4 as appropriate.

なお、図3及び図4に示す符号xは、照明装置の配置方向であり、薬剤群16の移動方向を表す。図4に示す符号yは、照明装置の配置方向であり、薬剤群16の移動方向に対して直交する方向を表す。図3に示す符号zは、鉛直上向き方向を表す。 The reference numeral x shown in FIGS. 3 and 4 is the arrangement direction of the lighting device, and represents the moving direction of the drug group 16. The symbol y shown in FIG. 4 is the arrangement direction of the lighting device, and represents the direction orthogonal to the moving direction of the drug group 16. The symbol z shown in FIG. 3 represents a vertical upward direction.

薬剤群16の移動方向は、撮影装置30の設置状態に応じて決められる。例えば、図1に示す左右方向は薬剤群16の移動方向の一例である。なお、実施形態に記載の薬剤群16の移動方向は、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向の一例である。 The moving direction of the drug group 16 is determined according to the installation state of the imaging device 30. For example, the left-right direction shown in FIG. 1 is an example of the movement direction of the drug group 16. The moving direction of the drug group 16 described in the embodiment is an example of a drug moving direction in which the drug is moved when the position of the drug is adjusted with respect to the photographing range of the photographing apparatus.

薬剤識別装置12は、撮影装置30、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38を備える。図3では、第二照明装置34及び第四照明装置38の図示を省略する。 The drug identification device 12 includes a photographing device 30, a first lighting device 32, a second lighting device 34, a third lighting device 36, and a fourth lighting device 38. In FIG. 3, the second lighting device 34 and the fourth lighting device 38 are not shown.

図3に示すように、撮影装置30は、z方向について、載置台22の撮影面28の側の位置に配置される。第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38を含む複数の照明装置は、撮影装置30と同様に、z方向について、載置台22の撮影面28の側の位置に配置される。 As shown in FIG. 3, the photographing apparatus 30 is arranged at a position on the side of the photographing surface 28 of the mounting table 22 in the z direction. Similar to the photographing device 30, the plurality of lighting devices including the first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 have the photographing surface 28 of the mounting table 22 in the z direction. Placed in a side position.

図4に示すように、撮影装置30は、x方向及びy方向について、載置台22のxy平面における中心位置を光軸31が通る位置に配置される。第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38は、撮影装置30の光軸31からの距離が等距離の位置に配置される。また、第一照明装置32及び第三照明装置36は、x方向について、撮影装置30を挟んで対向する位置に配置される。同様に、第二照明装置34及び第四照明装置38は、y方向について、撮影装置30を挟んで対向する位置に配置される。 As shown in FIG. 4, the photographing apparatus 30 is arranged at a position where the optical axis 31 passes through the center position of the mounting table 22 in the xy plane in the x direction and the y direction. The first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 are arranged at positions equidistant from the optical axis 31 of the photographing device 30. Further, the first lighting device 32 and the third lighting device 36 are arranged at positions facing each other with the photographing device 30 interposed therebetween in the x direction. Similarly, the second lighting device 34 and the fourth lighting device 38 are arranged at positions facing each other with the photographing device 30 interposed therebetween in the y direction.

換言すると、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38は、撮影装置30の光軸31と直交する面内において、撮影装置30の光軸31を中心として90度ずつ位置をずらして配置される。 In other words, the first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 have the optical axis 31 of the photographing device 30 in a plane orthogonal to the optical axis 31 of the photographing device 30. The positions are shifted by 90 degrees as the center.

撮影装置30は、第一照明装置32等のそれぞれから互いに薬剤群16へ順次に照射される、互いに異なる方向からの照明光の反射光を受光し、照明状態ごとに薬剤群16の撮影画像を生成する。撮影装置30は、照明状態に対応する照明条件が異なる複数の薬剤群16について、撮影画像を生成し得る。 The photographing device 30 receives the reflected light of the illumination light from different directions, which are sequentially irradiated to the drug group 16 from each of the first lighting device 32 and the like, and captures the photographed image of the drug group 16 for each lighting state. Generate. The photographing device 30 can generate a photographed image for a plurality of drug groups 16 having different lighting conditions corresponding to the lighting state.

照明条件の一例として、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38を全て用いて薬剤群16に対して照明光を照射する第一照明条件が挙げられる。第一照明条件は、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38のうち、二以上の照明装置を適用する態様を含み得る。 As an example of the lighting condition, the first lighting condition for irradiating the drug group 16 with the illumination light by using the first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 can be mentioned. Will be. The first lighting condition may include an embodiment in which two or more lighting devices among the first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 are applied.

照明条件の他の例として、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38のいずれか一つを用いて薬剤群16に対して照明光を照射する第二照明条件が挙げられる。第二照明条件は第一照明条件における照明装置の数よりも少ない数の照明装置を適用する態様を含み得る。 As another example of the lighting condition, any one of the first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 is used to irradiate the drug group 16 with the illumination light. The second lighting condition is mentioned. The second lighting condition may include an embodiment in which a smaller number of lighting devices is applied than the number of lighting devices in the first lighting condition.

なお、実施形態に記載の載置台22は支持台の一例である。実施形態に記載の載置台22の薬剤載置面24は第一面の一例である。実施形態に記載の載置台22の撮影面28は第二面の一例である。 The mounting table 22 described in the embodiment is an example of a support table. The drug mounting surface 24 of the mounting table 22 described in the embodiment is an example of the first surface. The photographing surface 28 of the mounting table 22 described in the embodiment is an example of the second surface.

図5は薬剤の変形例の説明図である。図5に示す識別対象の薬剤17を含む薬剤群40は、複数の薬剤17がシャーレ等の容器42へ収容される。容器42の底面44は、照明光及び照明光の反射光を透過させる材料が適用される。なお、図5では、容器42を支持する支持部材の図示を省略する。なお、実施形態に記載の容器42を支持する支持部材は支持台の一例である。 FIG. 5 is an explanatory diagram of a modified example of the drug. In the drug group 40 including the drug 17 to be identified shown in FIG. 5, a plurality of drugs 17 are housed in a container 42 such as a petri dish. A material that transmits illumination light and reflected light of the illumination light is applied to the bottom surface 44 of the container 42. In FIG. 5, the support member that supports the container 42 is not shown. The support member that supports the container 42 described in the embodiment is an example of a support base.

図5に示す薬剤群40は、一包化されていない複数の薬剤17を識別する際に適用される。一方、図2から図4に示す薬剤群16は一包化される複数の薬剤17を識別する際に適用される。 The drug group 40 shown in FIG. 5 is applied in identifying a plurality of unpackaged drugs 17. On the other hand, the drug group 16 shown in FIGS. 2 to 4 is applied when identifying a plurality of drugs 17 to be packaged.

薬剤識別装置12は、入出力ポートを備える。薬剤識別装置12は入出力ポートを介して、図2に示すディスプレイ装置14及び外部装置等と通信可能に接続される。入出力ポートは、信号伝送ケーブルが接続されるコネクタを備えてもよいし、無線LANポートを備えてもよい。入出力ポートはUSB(Universal Serial Bus)等の各種の規格を適用し得る。なお、LANはLocal Area Networkの省略語である。 The drug identification device 12 includes an input / output port. The drug identification device 12 is communicably connected to the display device 14 shown in FIG. 2, an external device, and the like via the input / output port. The input / output port may be provided with a connector to which a signal transmission cable is connected, or may be provided with a wireless LAN port. Various standards such as USB (Universal Serial Bus) can be applied to the input / output ports. LAN is an abbreviation for Local Area Network.

薬剤識別装置12は、複数の入出力ポートを備え得る。複数の入出力ポートは異なる種類のハードウェア及び異なる種類の規格を適用し得る。図2から図5では、入出力ポートの図示を省略する。 The drug identification device 12 may include a plurality of input / output ports. Multiple I / O ports may apply different types of hardware and different types of standards. In FIGS. 2 to 5, the input / output ports are not shown.

〔薬剤識別システムの機能ブロック〕
図6は図2に示す薬剤識別システムの機能ブロック図である。薬剤識別装置12は、メモリ102、入力インターフェース104及び入出力ポート106を備える。
[Functional block of drug identification system]
FIG. 6 is a functional block diagram of the drug identification system shown in FIG. The drug identification device 12 includes a memory 102, an input interface 104, and an input / output port 106.

メモリ102は、薬剤識別装置12に適用される各種のデータ、各種のパラメータ及び各種のプログラムが記憶される。薬剤識別装置12は、各種の処理に適用されるプログラムをメモリ102から読み出し、プログラムを実行して各種の処理を実施する。各種のプログラムの例として、薬剤識別処理へ適用される薬剤識別プログラム、各種の画像処理へ適用される画像処理プログラムが挙げられる。 The memory 102 stores various data, various parameters, and various programs applied to the drug identification device 12. The drug identification device 12 reads a program applied to various processes from the memory 102, executes the program, and performs various processes. Examples of various programs include a drug identification program applied to drug identification processing and an image processing program applied to various image processing.

薬剤識別装置12は、各種のプログラムを実行する際に、実行対象のプログラムに対応するパラメータ及びデータをメモリ102から読み出す。薬剤識別装置12は、各種のプログラムを実行して生成される各種のデータをメモリ102へ記憶する。 When executing various programs, the drug identification device 12 reads parameters and data corresponding to the program to be executed from the memory 102. The drug identification device 12 stores various data generated by executing various programs in the memory 102.

メモリ102は、半導体メモリ等の有体物たるコンピュータ可読媒体等を含んで構成され得る。メモリ102は、ハードディスク等の磁気記憶装置が含まれ得る。メモリ102は、複数の記憶装置等を用いて構成され得る。複数の記憶装置等は異なる複数の種類の記憶装置等を含み得る。メモリ102を構成する記憶装置等は、複数の記憶領域に分割されていてもよい。メモリ102は、各種データの一時記憶領域が含まれてもよい。 The memory 102 may be configured to include a computer-readable medium or the like which is a tangible object such as a semiconductor memory. The memory 102 may include a magnetic storage device such as a hard disk. The memory 102 may be configured by using a plurality of storage devices and the like. The plurality of storage devices and the like may include a plurality of different types of storage devices and the like. The storage device or the like constituting the memory 102 may be divided into a plurality of storage areas. The memory 102 may include a temporary storage area for various data.

薬剤識別装置12は、システム制御部120、照明制御部122、撮影制御部124、画像処理部126、薬剤情報取得部128、薬剤識別処理部130及びディスプレイドライバー132を備える。図6に示す各種の処理部のハードウェアはプロセッサ100を適用し得る。すなわち、図6に示す各種の処理部は、プロセッサ100を用いた信号処理を適用して実現される、薬剤識別装置12の各種の機能に対応する。 The drug identification device 12 includes a system control unit 120, a lighting control unit 122, an imaging control unit 124, an image processing unit 126, a drug information acquisition unit 128, a drug identification processing unit 130, and a display driver 132. The processor 100 can be applied to the hardware of the various processing units shown in FIG. That is, the various processing units shown in FIG. 6 correspond to various functions of the drug identification device 12 realized by applying signal processing using the processor 100.

システム制御部120は、薬剤識別装置12の各種の処理部を統括的に制御する。システム制御部120は、各種の処理部から送信される信号及び入力インターフェース104を介して入力される入力信号に基づき、各種の処理部へ指令信号を送信する。 The system control unit 120 comprehensively controls various processing units of the drug identification device 12. The system control unit 120 transmits command signals to various processing units based on signals transmitted from various processing units and input signals input via the input interface 104.

システム制御部120は、各種の処理において生成される各種のデータを、メモリ102へ記憶する。また、システム制御部120は、各種の処理に適用されるデータを、各種の処理を実施する処理部へ送信する。 The system control unit 120 stores various data generated in various processes in the memory 102. Further, the system control unit 120 transmits data applied to various processes to the processing unit that performs various processes.

照明制御部122は、システム制御部120から送信される指令信号に基づき、照明装置140を制御する。なお、図6に示す照明装置140は、図3等に示す第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38の総称である。すなわち、照明制御部122は、第一照明装置32等の点灯タイミング、消灯タイミング及び照明光量等を制御する。 The lighting control unit 122 controls the lighting device 140 based on the command signal transmitted from the system control unit 120. The lighting device 140 shown in FIG. 6 is a general term for the first lighting device 32, the second lighting device 34, the third lighting device 36, and the fourth lighting device 38 shown in FIG. 3 and the like. That is, the lighting control unit 122 controls the lighting timing, the extinguishing timing, the amount of illumination light, and the like of the first lighting device 32 and the like.

撮影制御部124は、システム制御部120から送信される指令信号に基づき、撮影装置30を制御する。撮影制御部124は、撮影装置30に対して撮影条件を設定する。撮影制御部124は、撮影タイミング等を制御する。 The imaging control unit 124 controls the imaging device 30 based on the command signal transmitted from the system control unit 120. The shooting control unit 124 sets shooting conditions for the shooting device 30. The shooting control unit 124 controls the shooting timing and the like.

画像処理部126は、撮影装置30を用いて生成される薬剤群16の撮影画像を取得する。すなわち、画像処理部126は、薬剤群16の撮影画像を取得する撮影画像取得部を具備する。画像処理部126は、撮影装置30から取得した薬剤群16の撮影画像に対して、撮影装置30に具備されるレンズの歪みを補正するレンズ歪補正を行い、画像処理対象となる薬剤群16の撮影画像としてもよい。画像処理部126は、レンズ歪補正後の薬剤群16の撮影画像を取得してもよい。 The image processing unit 126 acquires a photographed image of the drug group 16 generated by using the photographing apparatus 30. That is, the image processing unit 126 includes a photographed image acquisition unit that acquires a photographed image of the drug group 16. The image processing unit 126 performs lens distortion correction for correcting the distortion of the lens provided in the photographing device 30 on the photographed image of the drug group 16 acquired from the photographing device 30, and the image processing unit 16 of the drug group 16 to be image-processed. It may be a photographed image. The image processing unit 126 may acquire a photographed image of the drug group 16 after lens distortion correction.

画像処理部126は、薬剤群16の撮影画像に対して画像処理を実施する。画像処理は、薬剤群16の移動方向について薬剤群16の撮影画像を反転させる反転処理、薬剤群16の撮影画像から薬剤17の画像を切り取るトリミング処理、薬剤群16の撮影画像から切り取られた薬剤17の画像を拡大させる拡大処理、薬剤群16の撮影画像を縮小する処理、薬剤群16の撮影画像の反転画像を縮小させる処理及び薬剤群16の撮影画像における薬剤17の画像の強調処理等を含み得る。 The image processing unit 126 performs image processing on the captured image of the drug group 16. The image processing includes an inversion process of inverting the captured image of the drug group 16 with respect to the moving direction of the drug group 16, a trimming process of cutting out an image of the drug 17 from the captured image of the drug group 16, and a drug clipped from the captured image of the drug group 16. Enlargement processing for enlarging the image of the drug group 17, processing for reducing the captured image of the drug group 16, processing for reducing the inverted image of the captured image of the drug group 16, processing for enhancing the image of the drug 17 in the captured image of the drug group 16, and the like. Can include.

画像処理部126は、薬剤群16の撮影画像を反転させた反転画像から、薬剤群16に含まれる薬剤17の画像を検出し、反転画像から薬剤17の反転画像を切り出し、反転画像から切り出した薬剤17の反転画像を反転させて、薬剤17の画像を生成してもよい。 The image processing unit 126 detected the image of the drug 17 contained in the drug group 16 from the inverted image obtained by inverting the captured image of the drug group 16, cut out the inverted image of the drug 17 from the inverted image, and cut out from the inverted image. The inverted image of the drug 17 may be inverted to generate an image of the drug 17.

画像処理部126は、画像処理部126を用いて生成される各種の画像を、適宜、メモリ102へ記憶する。画像処理部126は、各種の画像を、適宜、ディスプレイ装置14へ表示させる。 The image processing unit 126 appropriately stores various images generated by the image processing unit 126 in the memory 102. The image processing unit 126 displays various images on the display device 14 as appropriate.

なお、薬剤群16の撮影画像は符号222を用いて図9に図示する。薬剤群16の撮影画像を反転させた反転画像は符号220を用いて図8に図示する。 The photographed image of the drug group 16 is shown in FIG. 9 using reference numeral 222. The inverted image obtained by inverting the photographed image of the drug group 16 is shown in FIG. 8 using reference numeral 220.

薬剤情報取得部128は、薬剤群16に含まれる薬剤17ごとの識別情報を取得する。薬剤監査を実施する場合、薬剤17の識別情報は、処方箋に記載の薬剤17の名称等を適用し得る。持ち込み薬の鑑別を実施する場合、薬剤17の識別情報は、お薬手帳に記載の薬剤17の名称等及び入力装置50を用いてオペレータが入力した薬剤17の名称等を適用し得る。例えば、オペレータは、薬剤17に印刷される薬剤の名称等を目視して、薬剤の名称等を認識し得る。 The drug information acquisition unit 128 acquires identification information for each drug 17 included in the drug group 16. When conducting a drug audit, the name of the drug 17 or the like described in the prescription may be applied to the identification information of the drug 17. When the carry-on drug is discriminated, the name of the drug 17 described in the drug notebook and the name of the drug 17 input by the operator using the input device 50 can be applied to the identification information of the drug 17. For example, the operator can visually recognize the name of the drug or the like printed on the drug 17 and recognize the name or the like of the drug.

薬剤情報取得部128は、バーコードリーダを用いてオペレータが薬剤17の包装に印刷されるGS1コード等のバーコードを読み取り、バーコードの読取データに基づき薬剤17の識別情報を取得し得る。薬剤情報取得部128は、薬剤17の画像を解析し、解析結果に基づき薬剤17の識別情報を取得し得る。 The drug information acquisition unit 128 can use a bar code reader to read a bar code such as a GS1 code printed on the package of the drug 17, and acquire identification information of the drug 17 based on the read data of the bar code. The drug information acquisition unit 128 can analyze the image of the drug 17 and acquire the identification information of the drug 17 based on the analysis result.

薬剤17の識別情報は、名称、コード番号及び外観の特徴等を適用し得る。薬剤の外観は、色及び形状を含み得る。薬剤の形状は、薬剤の全体形状、刻印の位置及び刻印の形状等を含み得る。薬剤17の識別情報は、複数の情報を併用してもよい。 As the identification information of the drug 17, a name, a code number, an appearance feature, and the like can be applied. The appearance of the drug may include color and shape. The shape of the drug may include the overall shape of the drug, the position of the marking, the shape of the marking, and the like. As the identification information of the drug 17, a plurality of information may be used in combination.

薬剤識別処理部130は、薬剤群16の撮影画像から切り出された薬剤17の画像を取得する。薬剤識別処理部130は、薬剤17の識別情報に応じた薬剤のマスター画像をマスター画像データベース60から取得する。 The drug identification processing unit 130 acquires an image of the drug 17 cut out from the captured image of the drug group 16. The drug identification processing unit 130 acquires a master image of the drug corresponding to the identification information of the drug 17 from the master image database 60.

薬剤識別処理部130は、薬剤17の画像と、マスター画像データベース60から取得したマスター画像とを照合して、薬剤17ごとの識別処理を実施する。薬剤識別処理部130は、識別結果をディスプレイ装置14へ表示させる。 The drug identification processing unit 130 collates the image of the drug 17 with the master image acquired from the master image database 60, and performs identification processing for each drug 17. The drug identification processing unit 130 causes the display device 14 to display the identification result.

マスター画像データベース60は、薬剤17の識別情報と薬剤17の画像とを関連付けして記憶される。マスター画像データベース60は、薬剤17の識別情報を検索パラメータとして、薬剤17の識別情報に対応するマスター画像を検索し得る。 The master image database 60 stores the identification information of the drug 17 in association with the image of the drug 17. The master image database 60 can search for a master image corresponding to the identification information of the drug 17 using the identification information of the drug 17 as a search parameter.

図6には、マスター画像データベース60が薬剤識別装置12へ具備される態様を例示したが、マスター画像データベース60は、外部の記憶装置を適用してもよい。薬剤識別装置12に具備されるマスター画像データベース60は、外部のマスター画像データベースと連携してもよい。 Although FIG. 6 illustrates an embodiment in which the master image database 60 is provided in the drug identification device 12, an external storage device may be applied to the master image database 60. The master image database 60 provided in the drug identification device 12 may be linked with an external master image database.

ディスプレイドライバー132は、ディスプレイ装置14へ表示させる各種の画像に対応する表示信号及び薬剤17ごとの識別結果に対応する表示信号をディスプレイ装置14へ送信する。ディスプレイ装置14は、各種の画像及び薬剤17ごとの識別結果を表示する。 The display driver 132 transmits to the display device 14 a display signal corresponding to various images to be displayed on the display device 14 and a display signal corresponding to the identification result for each drug 17. The display device 14 displays various images and identification results for each drug 17.

入力インターフェース104は、入力装置50から送信される信号が表す入力データを取得する。入力インターフェース104は、取得した入力データをシステム制御部120へ送信する。システム制御部120は入力データに基づき、薬剤識別装置12を制御する。 The input interface 104 acquires the input data represented by the signal transmitted from the input device 50. The input interface 104 transmits the acquired input data to the system control unit 120. The system control unit 120 controls the drug identification device 12 based on the input data.

例えば、入力装置50であるキーボードを用いてオペレータが薬剤17の名称を入力した場合、薬剤識別処理部130は、入力された薬剤17の名称に基づく薬剤17の識別を実施し得る。 For example, when the operator inputs the name of the drug 17 using the keyboard which is the input device 50, the drug identification processing unit 130 can identify the drug 17 based on the input name of the drug 17.

入出力ポート106は、外部装置から送信される各種のデータを取得する。例えば、入出力ポート106は、病院及び薬局等のサーバ装置から処方箋に記載される各種の情報を取得し得る。入出力ポート106は、外部のマスター画像データベースからマスター画像を取得し得る。 The input / output port 106 acquires various data transmitted from the external device. For example, the input / output port 106 can acquire various information described in the prescription from server devices such as hospitals and pharmacies. The input / output port 106 may acquire a master image from an external master image database.

[薬剤識別方法の手順]
図7は実施形態に係る薬剤識別方法の手順を示すフローチャートである。薬剤情報取得工程S10では、図6に示す薬剤情報取得部128は、識別対象の薬剤17ごとの識別情報を取得する。薬剤情報取得工程S10の後に、マスター画像取得工程S12へ進む。
[Procedure for drug identification method]
FIG. 7 is a flowchart showing the procedure of the drug identification method according to the embodiment. In the drug information acquisition step S10, the drug information acquisition unit 128 shown in FIG. 6 acquires identification information for each drug 17 to be identified. After the drug information acquisition step S10, the process proceeds to the master image acquisition step S12.

マスター画像取得工程S12では、薬剤識別処理部130は薬剤情報取得工程S10において取得した薬剤17の識別情報に基づき、マスター画像データベース60から薬剤17の識別情報に対応するマスター画像を取得する。マスター画像取得工程S12の後に撮影画像取得工程S14へ進む。 In the master image acquisition step S12, the drug identification processing unit 130 acquires a master image corresponding to the identification information of the drug 17 from the master image database 60 based on the identification information of the drug 17 acquired in the drug information acquisition step S10. After the master image acquisition step S12, the process proceeds to the captured image acquisition step S14.

撮影画像取得工程S14では、撮影装置30は薬剤群16の撮影を実施する。画像処理部126は撮影装置30から薬剤群16の撮影画像を取得する。撮影画像取得工程S14の後に画像処理工程S16へ進む。 In the photographed image acquisition step S14, the photographing apparatus 30 photographs the drug group 16. The image processing unit 126 acquires a photographed image of the drug group 16 from the photographing apparatus 30. After the captured image acquisition step S14, the process proceeds to the image processing step S16.

画像処理工程S16では、画像処理部126は、撮影画像取得工程S14において取得した薬剤群16の撮影画像に対して各種の画像処理を実施する。画像処理工程S16の後に撮影画像表示工程S18へ進む。 In the image processing step S16, the image processing unit 126 performs various image processing on the captured image of the drug group 16 acquired in the captured image acquisition step S14. After the image processing step S16, the process proceeds to the captured image display step S18.

各種の画像処理は、薬剤群16の移動方向について薬剤群16の撮影画像を反転させる反転処理が含まれる。各種の処理は、薬剤群16の撮影画像から薬剤17ごとの画像を個別に検出する検出処理、検出された薬剤17の画像を薬剤群16の撮影画像から切り出す切出処理及び切り出された薬剤17の画像を拡大させる拡大処理が含まれる。 The various image processes include a reversal process of reversing the captured image of the drug group 16 with respect to the moving direction of the drug group 16. The various processes include a detection process for individually detecting an image for each drug 17 from the captured image of the drug group 16, a cutting process for cutting out the detected image of the drug 17 from the captured image of the drug group 16, and the cut out drug 17. Includes enlargement processing to enlarge the image of.

各種の処理は、薬剤群16の撮影画像から検出された薬剤17を強調する強調処理を含み得る。強調処理の例として、薬剤17ごとにバウンディングボックスを重畳させる処理、薬剤17のエッジ及び刻印等を強調する処理が挙げられる。 The various treatments may include an enhancement process that emphasizes the agent 17 detected from the captured image of the agent group 16. Examples of the emphasizing process include a process of superimposing a bounding box for each drug 17, and a process of emphasizing the edges and markings of the drug 17.

薬剤17のエッジ及び刻印等を強調する処理は、図3等に示す第一照明装置32等のそれぞれを用いて照明した際に撮影される四種類の撮影画像を適用し得る。薬剤17の撮影画像は、照明方向に応じて影の向き、影の形状及び影の強度が異なる。画像処理部126は、四種類の撮影画像から特徴画像を生成し、四種類の特徴画像を統合して、薬剤17の輪郭及び刻印等を強調した強調画像を生成し得る。 For the process of emphasizing the edges and markings of the drug 17, four types of captured images taken when illuminated by each of the first lighting device 32 and the like shown in FIG. 3 and the like can be applied. The captured image of the agent 17 differs in the direction of the shadow, the shape of the shadow, and the intensity of the shadow depending on the illumination direction. The image processing unit 126 can generate a feature image from four types of captured images and integrate the four types of feature images to generate an enhanced image in which the contour and engraving of the drug 17 are emphasized.

撮影画像表示工程S18では、画像処理部126は、ディスプレイドライバー132を介して薬剤群16の移動方向について薬剤群16の撮影画像を反転させた反転画像に対応する表示信号をディスプレイ装置14へ出力する。ディスプレイ装置14の画面15は、反転画像が表示される。 In the captured image display step S18, the image processing unit 126 outputs a display signal corresponding to the inverted image obtained by inverting the captured image of the drug group 16 with respect to the moving direction of the drug group 16 to the display device 14 via the display driver 132. .. An inverted image is displayed on the screen 15 of the display device 14.

撮影画像表示工程S18では、画像処理部126は、ディスプレイドライバー132を介して、薬剤群16に含まれる薬剤17の拡大画像に対応する表示信号をディスプレイ装置14へ出力する。ディスプレイ装置14の画面15は、薬剤17の拡大画像が表示される。撮影画像表示工程S18の後に識別対象薬剤選択工程S20へ進む。 In the captured image display step S18, the image processing unit 126 outputs a display signal corresponding to the enlarged image of the drug 17 included in the drug group 16 to the display device 14 via the display driver 132. The screen 15 of the display device 14 displays an enlarged image of the drug 17. After the captured image display step S18, the process proceeds to the identification target drug selection step S20.

識別対象薬剤選択工程S20では、薬剤情報取得部128は、マスター画像との照合を実施する薬剤17の選択情報を取得する。すなわち、薬剤17の拡大画像のいずれかをオペレータが選択した際に、薬剤情報取得部128は薬剤17の選択情報を取得する。識別対象薬剤選択工程S20の後に薬剤識別工程S22へ進む。 In the identification target drug selection step S20, the drug information acquisition unit 128 acquires the selection information of the drug 17 to be collated with the master image. That is, when the operator selects any of the enlarged images of the drug 17, the drug information acquisition unit 128 acquires the selection information of the drug 17. After the identification target drug selection step S20, the process proceeds to the drug identification step S22.

薬剤識別工程S22では、薬剤情報取得部128は選択された薬剤17とマスター画像との照合を実施する。ここでいうマスター画像は、薬剤名称が一致する薬剤のマスター画像、形態の特徴が類似する薬剤のマスター画像及び先発薬と後発薬との関係にある薬剤のマスター画像などの複数の種類のマスター画像が含まれ得る。 In the drug identification step S22, the drug information acquisition unit 128 collates the selected drug 17 with the master image. The master image referred to here is a plurality of types of master images such as a master image of a drug having the same drug name, a master image of a drug having similar morphological characteristics, and a master image of a drug having a relationship between a generic drug and a generic drug. Can be included.

照合処理は、テンプレートマッチングを適し得る。テンプレートマッチングの例として、特開2014-67342号公報に記載の手法が挙げられる。テンプレートマッチングでは、薬剤17の画像とマスター画像との一致度、類似度及び相関等のマッチング度合いを算出し得る。テンプレートマッチングでは、薬剤17の画像とマスター画像との相対移動、それぞれの拡大又は縮小等の処理を適宜実施し得る。なお、相対移動は、相対的な回転を含み得る。 The matching process may be suitable for template matching. As an example of template matching, the method described in JP-A-2014-67342 can be mentioned. In the template matching, the degree of matching such as the degree of matching, the degree of similarity, and the correlation between the image of the drug 17 and the master image can be calculated. In the template matching, processing such as relative movement between the image of the drug 17 and the master image and enlargement or reduction of each can be appropriately performed. It should be noted that the relative movement may include a relative rotation.

照合処理は、学習済みの学習器を適用してもよい。学習はCNN(Convolutional Neural Network)等のディープラーニングを適用し得る。照合処理は、第一照明条件を適用して取得した薬剤17の撮影画像を適用してもよいし、第二照明条件を適用して取得した薬剤17の撮影画像を適用してもよい。また、照合処理は両者を併用してもよい。第二照明条件を適用して複数の薬剤17の撮影画像を取得した場合は、照合処理は複数の薬剤17の撮影画像のうち一つ以上を適用し得る。薬剤識別工程S22の後に候補画像表示工程S24へ進む。 The collation process may apply a learned learner. For learning, deep learning such as CNN (Convolutional Neural Network) can be applied. In the collation process, the captured image of the drug 17 acquired by applying the first lighting condition may be applied, or the captured image of the drug 17 acquired by applying the second lighting condition may be applied. Further, both may be used together in the collation process. When the second lighting condition is applied and the photographed images of the plurality of agents 17 are acquired, the collation process may apply one or more of the photographed images of the plurality of agents 17. After the drug identification step S22, the process proceeds to the candidate image display step S24.

候補画像表示工程S24では、薬剤情報取得部128は、ディスプレイドライバー132を介して、薬剤17との照合処理が実施されたマスター画像に対応する表示信号をディスプレイ装置14へ出力する。ディスプレイ装置14の画面15は、薬剤17との照合処理が実施されたマスター画像が候補画像として表示される。 In the candidate image display step S24, the drug information acquisition unit 128 outputs a display signal corresponding to the master image that has been collated with the drug 17 to the display device 14 via the display driver 132. On the screen 15 of the display device 14, the master image that has been collated with the drug 17 is displayed as a candidate image.

薬剤17との照合処理が実施されたマスター画像は、薬剤17との照合処理が実施された全てのマスター画像でもよいし、一致度が一定以上等の条件を満たす一部のマスター画像でもよい。 The master image subjected to the collation process with the drug 17 may be all the master images subjected to the collation process with the drug 17, or may be a part of the master images satisfying the conditions such as a certain degree of matching or more.

薬剤識別装置12は、マスター画像ごとの薬剤情報をディスプレイ装置14の画面15へ表示させてもよい。薬剤識別装置12は、マスター画像ごとの薬剤17の画像との一致度等をディスプレイ装置14の画面15へ表示させてもよい。候補画像表示工程S24の後に確定情報取得判定工程S26へ進む。 The drug identification device 12 may display the drug information for each master image on the screen 15 of the display device 14. The drug identification device 12 may display the degree of matching with the image of the drug 17 for each master image on the screen 15 of the display device 14. After the candidate image display step S24, the process proceeds to the confirmation information acquisition determination step S26.

確定情報取得判定工程S26では、薬剤識別処理部130は、ディスプレイ装置14の画面15へ表示される候補画像に対応する確定ボタンが操作されたか否かを判定する。確定情報取得判定工程S26において、薬剤識別処理部130が、確定ボタンが操作されていないと判定する場合はNo判定となる。No判定の場合は未確定情報記憶工程S28へ進む。 In the confirmation information acquisition determination step S26, the drug identification processing unit 130 determines whether or not the confirmation button corresponding to the candidate image displayed on the screen 15 of the display device 14 has been operated. In the confirmation information acquisition determination step S26, when the drug identification processing unit 130 determines that the confirmation button has not been operated, a No determination is made. In the case of No determination, the process proceeds to the undetermined information storage step S28.

薬剤識別処理部130は、確定ボタンの操作待ちの期間が規定の期間を経過した際に、確定ボタンが操作されていないと判定し得る。 The drug identification processing unit 130 may determine that the confirmation button has not been operated when the period of waiting for the operation of the confirmation button has elapsed a predetermined period.

一方、確定情報取得判定工程S26において、薬剤識別処理部130が、確定ボタンが操作されたと判定する場合はYes判定となる。Yes判定の場合は確定情報記憶工程S30へ進む。 On the other hand, in the confirmation information acquisition determination step S26, when the drug identification processing unit 130 determines that the confirmation button has been operated, the determination is Yes. In the case of Yes determination, the process proceeds to the definite information storage step S30.

未確定情報記憶工程S28では、薬剤識別処理部130は、識別対象の薬剤17に対応するマスター画像が表示されていないことを表す未確定情報を記憶する。未確定情報記憶工程S28の後に薬剤識別終了判定工程S32へ進む。 In the undetermined information storage step S28, the drug identification processing unit 130 stores undetermined information indicating that the master image corresponding to the drug 17 to be identified is not displayed. After the undetermined information storage step S28, the process proceeds to the drug identification end determination step S32.

また、確定情報記憶工程S30では、薬剤識別処理部130は、薬剤17に情報に対応するマスター画像が確定したことを表す確定情報を記憶する。確定情報として、薬剤識別工程S22において算出された一致度等が記憶されてもよい。確定情報記憶工程S30の後に薬剤識別終了判定工程S32へ進む。 Further, in the definite information storage step S30, the drug identification processing unit 130 stores definite information indicating that the master image corresponding to the information is confirmed in the drug 17. As the definite information, the degree of agreement calculated in the drug identification step S22 may be stored. After the definite information storage step S30, the process proceeds to the drug identification end determination step S32.

薬剤識別終了判定工程S32では、薬剤情報取得部128は一つの薬剤群16に含まれる全ての薬剤17について、識別処理が実施され、かつ、確定情報又は未確定情報が記憶されたか否かを判定する。 In the drug identification end determination step S32, the drug information acquisition unit 128 determines whether or not the identification process has been performed on all the drugs 17 included in one drug group 16 and whether the confirmed information or the unconfirmed information has been stored. do.

薬剤識別終了判定工程S32において、薬剤情報取得部128が一つの薬剤群16に含まれる全ての薬剤17について、識別処理が実施され、かつ、確定情報又は未確定情報が記憶されていないと判定する場合はNo判定となる。No判定の場合は、識別対象薬剤選択工程S20へ進み、薬剤識別終了判定工程S32においてYes判定となるまで、識別対象薬剤選択工程S20から薬剤識別終了判定工程S32までの各工程を繰り返し実施する。 In the drug identification end determination step S32, the drug information acquisition unit 128 determines that the identification process is performed for all the drugs 17 included in one drug group 16 and that the confirmed information or the unconfirmed information is not stored. In that case, it is judged as No. In the case of No determination, the process proceeds to the identification target drug selection step S20, and each step from the identification target drug selection step S20 to the drug identification end determination step S32 is repeatedly carried out until a Yes determination is made in the drug identification end determination step S32.

一方、薬剤識別終了判定工程S32において、薬剤情報取得部128が一つの薬剤群16に含まれる全ての薬剤17について、識別処理が実施され、かつ、確定情報又は未確定情報が記憶されていると判定する場合はYes判定となる。Yes判定の場合は、薬剤群識別終了判定S34へ進む。 On the other hand, in the drug identification end determination step S32, the drug information acquisition unit 128 performs identification processing on all the drugs 17 included in one drug group 16, and stores confirmed information or unconfirmed information. When making a judgment, it is a Yes judgment. In the case of Yes determination, the process proceeds to the drug group identification end determination S34.

薬剤群識別終了判定S34では、薬剤情報取得部128は全ての薬剤群16について、識別処理が実施されたか否かを判定する。薬剤群識別終了判定S34において、薬剤情報取得部128が全ての薬剤群16について、識別処理が実施されていないと判定する場合はNo判定となる。No判定の場合は撮影画像取得工程S14へ進み、薬剤群識別終了判定S34においてYes判定となるまで、撮影画像取得工程S14から薬剤群識別終了判定S34までの各工程を繰り返し実施する。 In the drug group identification end determination S34, the drug information acquisition unit 128 determines whether or not the identification process has been performed for all the drug groups 16. In the drug group identification end determination S34, if the drug information acquisition unit 128 determines that the identification process has not been performed for all the drug groups 16, a No determination is made. In the case of No determination, the process proceeds to the captured image acquisition step S14, and each step from the captured image acquisition step S14 to the drug group identification end determination S34 is repeatedly carried out until a Yes determination is made in the drug group identification end determination S34.

一方、薬剤群識別終了判定S34において、薬剤情報取得部128が全ての薬剤群16について、識別処理が実施されたと判定する場合はYes判定となる。Yes判定の場合は、薬剤識別装置12は薬剤識別方法を終了させる。なお、実施形態に記載の薬剤識別方法は画像処理方法の一例である。 On the other hand, in the drug group identification end determination S34, when the drug information acquisition unit 128 determines that the identification process has been performed for all the drug groups 16, the determination is Yes. In the case of Yes determination, the drug identification device 12 terminates the drug identification method. The drug identification method described in the embodiment is an example of an image processing method.

[画面構成例]
図8はディスプレイ装置へ表示される画面の構成例を示す画面構成図である。図9はディスプレイ装置の画面へ表示される薬剤群16の撮影画像の模式図である。なお、図8及び図9に示す薬剤に表示される文字列は任意の文字列である。ここでいう文字は数字、アルファベット及び記号を含み得る。図10についても同様である。
[Screen configuration example]
FIG. 8 is a screen configuration diagram showing a configuration example of a screen displayed on the display device. FIG. 9 is a schematic diagram of a photographed image of the drug group 16 displayed on the screen of the display device. The character string displayed on the drug shown in FIGS. 8 and 9 is an arbitrary character string. The letters here may include numbers, alphabets and symbols. The same applies to FIG.

図8に示すウインドウ200は、図2に示すディスプレイ装置14の画面15へ表示される。ウインドウ200は、第一表示領域202、第二表示領域204及び第三表示領域206が含まれる。ウインドウ200は、各種のボタン210が含まれる。マルチウインドウ表示が適用される場合、ウインドウごとにタブが表示される。 The window 200 shown in FIG. 8 is displayed on the screen 15 of the display device 14 shown in FIG. The window 200 includes a first display area 202, a second display area 204, and a third display area 206. The window 200 includes various buttons 210. When multi-window display is applied, tabs are displayed for each window.

第一表示領域202は、薬剤群16の反転画像220が表示される。反転画像220は、図9に示す薬剤群16の撮影画像222を、薬剤群16の移動方向について反転させて生成される。 In the first display area 202, the inverted image 220 of the drug group 16 is displayed. The inverted image 220 is generated by inverting the captured image 222 of the drug group 16 shown in FIG. 9 with respect to the moving direction of the drug group 16.

反転画像220は、図2に示す撮影装置30のスルー画の反転画像を適用してもよいし、任意のタイミングにおいて記憶された静止画の反転画像を適用してもよい。薬剤群16を移動させた場合に、反転画像220は更新される。第一表示領域202は、薬剤群16の撮影画像222の移動方向を表す矢印等のアシスト表示を表示し得る。なお、図8には、薬剤群16を構成する各薬剤17について、バウンディングボックス225を重畳表示させる態様を例示する。 As the inverted image 220, the inverted image of the through image of the photographing apparatus 30 shown in FIG. 2 may be applied, or the inverted image of the still image stored at an arbitrary timing may be applied. The inverted image 220 is updated when the drug group 16 is moved. The first display area 202 may display an assist display such as an arrow indicating the moving direction of the captured image 222 of the drug group 16. Note that FIG. 8 illustrates an embodiment in which the bounding box 225 is superimposed and displayed for each drug 17 constituting the drug group 16.

第二表示領域204は、図9に示す薬剤群16の撮影画像222から検出され、撮影画像222から切り出された全ての薬剤17のうち、識別処理が未処理の薬剤17に対応する拡大画像である第一拡大画像224が表示される。 The second display area 204 is an enlarged image corresponding to the untreated drug 17 among all the drugs 17 detected from the captured image 222 of the drug group 16 shown in FIG. 9 and cut out from the captured image 222. A first magnified image 224 is displayed.

第二表示領域204へ識別処理が未処理の薬剤17の画像の等倍画像を表示させ、第一表示領域202へ薬剤群16の撮影画像222を縮小させた縮小画像を表示させてもよい。第一表示領域202へ薬剤群16の撮影画像222の縮小画像を表示させる場合に、第二表示領域204へ第一拡大画像224を表示させてもよい。 The same size image of the image of the drug 17 which has not been identified may be displayed in the second display area 204, and a reduced image obtained by reducing the captured image 222 of the drug group 16 may be displayed in the first display area 202. When displaying the reduced image of the captured image 222 of the drug group 16 in the first display area 202, the first enlarged image 224 may be displayed in the second display area 204.

すなわち、第二表示領域204へ表示される画像の解像度は、第一表示領域202へ表示される薬剤群16の撮影画像222の解像度を超える解像度とされる。反転画像220から切り出された薬剤17の反転画像を反転させた薬剤17の画像を第二表示領域204へ表示させる場合も同様である。 That is, the resolution of the image displayed in the second display area 204 is set to be higher than the resolution of the captured image 222 of the drug group 16 displayed in the first display area 202. The same applies to the case where the inverted image of the agent 17 cut out from the inverted image 220 is displayed in the second display area 204.

なお、実施形態に記載の薬剤群16の撮影画像222に基づく第一拡大画像224及び薬剤17の等倍画像は、第一画像から抽出された薬剤の非縮小の画像の一例である。また、実施形態に記載の反転画像220に基づく第一拡大画像224及び薬剤17の等倍画像は、第二画像から抽出され、反転させた薬剤の非縮小の画像の一例である。 The first enlarged image 224 and the same-magnification image of the drug 17 based on the captured image 222 of the drug group 16 described in the embodiment are examples of non-reduced images of the drug extracted from the first image. Further, the first enlarged image 224 and the same-magnification image of the drug 17 based on the inverted image 220 described in the embodiment are examples of non-reduced images of the inverted drug extracted from the second image.

一方、第二表示領域204は、識別処理の対象として選択された薬剤17に対応する第一拡大画像224等が非表示とされる。図8には、複数の第一拡大画像224が一列に並べられて表示される態様を例示する。 On the other hand, in the second display area 204, the first enlarged image 224 or the like corresponding to the drug 17 selected as the target of the identification process is hidden. FIG. 8 illustrates an embodiment in which a plurality of first enlarged images 224 are displayed side by side in a row.

第三表示領域206は、オペレータが選択した認識対象の薬剤17に対応する第二拡大画像226が表示される。また、第三表示領域206は、認識対象の薬剤17に対応する第二拡大画像226の照合対象となるマスター画像228及び確定ボタン230が表示される。 In the third display area 206, the second enlarged image 226 corresponding to the drug 17 to be recognized selected by the operator is displayed. Further, in the third display area 206, the master image 228 and the confirmation button 230 to be collated with the second enlarged image 226 corresponding to the drug 17 to be recognized are displayed.

なお、実施形態に記載の第一表示領域202は第一領域の一例である。実施形態に記載の第二表示領域204は第二領域の一例である。実施形態に記載の薬剤群16の撮影画像222は第一画像の一例である。実施形態に記載の反転画像220は第二画像の一例である。 The first display area 202 described in the embodiment is an example of the first area. The second display area 204 described in the embodiment is an example of the second area. The photographed image 222 of the drug group 16 according to the embodiment is an example of the first image. The inverted image 220 described in the embodiment is an example of the second image.

実施形態に記載の薬剤群16の撮影画像から薬剤17の画像を切り出す処理は、第一画像から検出された薬剤の画像を第一画像から抽出する処理の一例である。 The process of cutting out the image of the drug 17 from the captured image of the drug group 16 according to the embodiment is an example of the process of extracting the image of the drug detected from the first image from the first image.

[画面構成例の変形例]
図10は変形例に係る画面構成例を示す画面構成図である。図10に示すウインドウ200Aの第一表示領域202Aは、図8に示す反転画像220及び図9に示す薬剤群16の撮影画像222が並べて表示される。
[Transformation example of screen configuration example]
FIG. 10 is a screen configuration diagram showing a screen configuration example according to a modified example. In the first display area 202A of the window 200A shown in FIG. 10, the inverted image 220 shown in FIG. 8 and the captured image 222 of the drug group 16 shown in FIG. 9 are displayed side by side.

図10に示すウインドウ200Aの第一表示領域202Aは、薬剤群16の撮影画像222の表示及び非表示を選択的に切り替えてもよい。例えば、第一表示領域202Aへ薬剤群16の撮影画像222を表示させることを表す操作をオペレータが実施した場合に、第一表示領域202Aへ薬剤群16の撮影画像222を表示させてもよい。 The first display area 202A of the window 200A shown in FIG. 10 may selectively switch the display and non-display of the captured image 222 of the drug group 16. For example, when the operator performs an operation indicating that the captured image 222 of the drug group 16 is displayed in the first display area 202A, the captured image 222 of the drug group 16 may be displayed in the first display area 202A.

薬剤群16の撮影画像222と反転画像220との大きさを異ならせてもよい。薬剤群16の撮影画像222は、反転画像220に対して縦方向及び横方向の比率を二分の一以下にしてもよい。薬剤群16の撮影画像222は静止画としてもよし、スルー画等の動画像としてもよい。 The photographed image 222 of the drug group 16 and the inverted image 220 may have different sizes. The captured image 222 of the drug group 16 may have a ratio of the vertical direction and the horizontal direction to the inverted image 220 to be half or less. The photographed image 222 of the drug group 16 may be a still image or a moving image such as a through image.

[作用効果]
実施形態に係る薬剤識別システム10及び薬剤識別方法によれば、以下の作用効果を得ることが可能である。
[Action effect]
According to the drug identification system 10 and the drug identification method according to the embodiment, the following effects can be obtained.

〔1〕
薬剤群16が載置される薬剤載置面24の下側から薬剤群16を撮影し、薬剤群16の撮影画像を薬剤群16の移動方向について反転させた反転画像220を生成し、ディスプレイ装置14の画面15へ反転画像220を表示させる。これにより、薬剤群16を移動させて薬剤群16の位置を合わせる際に、薬剤群16の移動方向と反転画像220の移動方向とが一致する。
[1]
The drug group 16 is photographed from the lower side of the drug placement surface 24 on which the drug group 16 is placed, and the photographed image of the drug group 16 is inverted with respect to the moving direction of the drug group 16 to generate an inverted image 220, which is a display device. The inverted image 220 is displayed on the screen 15 of 14. As a result, when the drug group 16 is moved to align the position of the drug group 16, the moving direction of the drug group 16 and the moving direction of the inverted image 220 coincide with each other.

〔2〕
薬剤群16の撮影画像222から薬剤群16に含まれる薬剤17を検出し、撮影画像222から各薬剤17の画像を切り出して拡大し、第一拡大画像224を生成する。第一拡大画像224は、ディスプレイ装置14の画面15の第二表示領域204へ表示される。これにより、オペレータは第二表示領域204へ表示される第一拡大画像224に基づき、識別対象の薬剤17を選択し得る。また、各薬剤17の画像が拡大されるので、各薬剤17の画像の視認性が向上し得る。
[2]
The drug 17 contained in the drug group 16 is detected from the photographed image 222 of the drug group 16, and the image of each drug 17 is cut out from the photographed image 222 and enlarged to generate a first enlarged image 224. The first enlarged image 224 is displayed on the second display area 204 of the screen 15 of the display device 14. Thereby, the operator can select the agent 17 to be identified based on the first enlarged image 224 displayed in the second display area 204. Further, since the image of each drug 17 is enlarged, the visibility of the image of each drug 17 can be improved.

第一表示領域202へ薬剤群16の撮影画像222の縮小画像を表示させ、第二表示領域204へ撮影画像222から各薬剤17の画像を切り出した等倍画像を表示させる場合も、各薬剤17の画像の視認性が向上し得る。 In the case where the reduced image of the captured image 222 of the drug group 16 is displayed in the first display area 202 and the same size image obtained by cutting out the image of each drug 17 from the captured image 222 is displayed in the second display area 204, each drug 17 is also displayed. The visibility of the image can be improved.

〔3〕
反転画像220から薬剤17の反転画像を検出し、反転画像220から薬剤17の反転画像を切り出し、薬剤17の反転画像を反転させ、拡大して、薬剤17の第一拡大画像224を生成する。これにより、オペレータは第二表示領域204へ表示される第一拡大画像224に基づき、識別対象の薬剤17を選択し得る。また、各薬剤17の画像が拡大されるので、各薬剤17の画像の視認性が向上し得る。
[3]
The inverted image of the drug 17 is detected from the inverted image 220, the inverted image of the agent 17 is cut out from the inverted image 220, the inverted image of the agent 17 is inverted and enlarged, and the first enlarged image 224 of the agent 17 is generated. Thereby, the operator can select the agent 17 to be identified based on the first enlarged image 224 displayed in the second display area 204. Further, since the image of each drug 17 is enlarged, the visibility of the image of each drug 17 can be improved.

第一表示領域202へ反転画像220の縮小画像を表示させ、第二表示領域204へ薬剤17の第一拡大画像224又は薬剤17の等倍画像を表示させる場合も、各薬剤17の画像の視認性が向上し得る。 Even when the reduced image of the inverted image 220 is displayed in the first display area 202 and the first enlarged image 224 of the drug 17 or the same size image of the drug 17 is displayed in the second display area 204, the image of each drug 17 is visually recognized. The sex can be improved.

〔4〕
ディスプレイ装置14の画面15へ表示される複数の第一拡大画像224から選択された薬剤17の識別処理を実施する。オペレータの操作等に基づく選択的な薬剤17の識別処理を実施し得る。
[4]
The identification process of the drug 17 selected from the plurality of first enlarged images 224 displayed on the screen 15 of the display device 14 is performed. Selective identification processing of the drug 17 based on the operation of the operator or the like can be performed.

〔5〕
薬剤17の識別処理の結果として、薬剤17と照合されたマスター画像が表示される。これにより、薬剤17と照合されたマスター画像から、薬剤17の識別情報に対応するマスター画像を選択し得る。
[5]
As a result of the identification process of the drug 17, a master image collated with the drug 17 is displayed. Thereby, the master image corresponding to the identification information of the drug 17 can be selected from the master image collated with the drug 17.

〔6〕
ディスプレイ装置14の画面15の反転画像220を表示させる第一拡大画像224は、薬剤群16の撮影画像222が反転画像220と並べて表示される。これにより、薬剤群16に含まれる薬剤17が正しく見える向きに表示される。
[6]
In the first enlarged image 224 for displaying the inverted image 220 of the screen 15 of the display device 14, the captured image 222 of the drug group 16 is displayed side by side with the inverted image 220. As a result, the drug 17 contained in the drug group 16 is displayed in the correct visible direction.

[薬剤識別システムの変形例]
〔画像処理装置への適用例〕
図11は画像処理装置への適用例に係る薬剤識別システムの全体構成図である。図11に示す薬剤監査システム300は、薬剤識別装置302、画像処理装置304、及びディスプレイ装置306、キーボード308及びマウス310を備える。なお、キーボード308及びマウス310は、図6に示す入力装置50に対応する。符号307はディスプレイ装置306の画面を示す。
[Modified example of drug identification system]
[Example of application to image processing equipment]
FIG. 11 is an overall configuration diagram of a drug identification system according to an application example to an image processing apparatus. The drug audit system 300 shown in FIG. 11 includes a drug identification device 302, an image processing device 304, a display device 306, a keyboard 308, and a mouse 310. The keyboard 308 and the mouse 310 correspond to the input device 50 shown in FIG. Reference numeral 307 indicates the screen of the display device 306.

薬剤識別装置302は、図6に示す撮影装置30、照明装置140及び薬剤識別処理部130の機能を有する。画像処理装置304は、図6に示す画像処理部126の機能を有する。画像処理装置304は、薬剤識別処理部130の機能を有していてもよい。 The drug identification device 302 has the functions of the photographing device 30, the lighting device 140, and the drug identification processing unit 130 shown in FIG. The image processing device 304 has the function of the image processing unit 126 shown in FIG. The image processing device 304 may have the function of the drug identification processing unit 130.

すなわち、図2に示す薬剤識別装置12は、撮影装置30及び照明装置140に対応する、主として薬剤群16の撮影画像を取得する構成要素と、画像処理部126及び薬剤識別処理部130に対応する、主として信号処理を実施する構成要素とに分割し得る。 That is, the drug identification device 12 shown in FIG. 2 corresponds to the components corresponding to the photographing device 30 and the lighting device 140, mainly for acquiring the photographed image of the drug group 16, and the image processing unit 126 and the drug identification processing unit 130. , Mainly can be divided into components that perform signal processing.

撮影装置30は、スマートフォン等の携帯型の撮影装置を適用してもよい。例えば、薬剤識別装置12は、携帯型の撮影装置を支持する支持部材及び携帯型の撮影装置とデータ通信を実施する通信インターフェースを備え得る。 As the photographing device 30, a portable photographing device such as a smartphone may be applied. For example, the drug identification device 12 may include a support member that supports the portable imaging device and a communication interface that performs data communication with the portable imaging device.

〔ネットワークシステムへの適用例〕
図12はネットワークシステムの適用例に係る薬剤認識システムの全体構成図である。同図に示す薬剤識別システム400は、薬剤識別装置402、ディスプレイ装置404、サーバ装置406、マスター画像データベース408を備える。なお、符号405はディスプレイ装置404の画面を示す。薬剤識別装置402は、ネットワーク410を介してサーバ装置406及びマスター画像データベース408と通信可能に接続される。
[Application example to network system]
FIG. 12 is an overall configuration diagram of a drug recognition system according to an application example of the network system. The drug identification system 400 shown in the figure includes a drug identification device 402, a display device 404, a server device 406, and a master image database 408. Reference numeral 405 indicates the screen of the display device 404. The drug identification device 402 is communicably connected to the server device 406 and the master image database 408 via the network 410.

サーバ装置406は、図6に示す画像処理部126の機能を有していてもよい。サーバ装置406は、薬剤識別処理部130の機能を備えてもよい。サーバ装置406はクラウドコンピューティングを適用してもよい。 The server device 406 may have the function of the image processing unit 126 shown in FIG. The server device 406 may include the function of the drug identification processing unit 130. The server device 406 may apply cloud computing.

ネットワーク410は、医療機関の内部に適用される小規模ネットワークを適用してもよいし、インターネット等の大規模ネットワークを適用してもよい。ネットワーク410は、複数のネットワークを含んで構成されてもよい。 As the network 410, a small-scale network applied to the inside of a medical institution may be applied, or a large-scale network such as the Internet may be applied. The network 410 may be configured to include a plurality of networks.

[各処理部及び制御部のハードウェア構成]
図6に示す各種の処理を実施する処理部のハードウェアは、各種のプロセッサを適用し得る。なお、処理部はprocessing unitと呼ばれる場合があり得る。各種のプロセッサには、CPU(Central Processing Unit)、PLD(Programmable Logic Device)及びASIC(Application Specific Integrated Circuit)等が含まれる。
[Hardware configuration of each processing unit and control unit]
Various processors can be applied to the hardware of the processing unit that performs various processes shown in FIG. The processing unit may be called a processing unit. Various processors include a CPU (Central Processing Unit), a PLD (Programmable Logic Device), an ASIC (Application Specific Integrated Circuit), and the like.

CPUは、プログラムを実行して各種の処理部として機能する汎用的なプロセッサである。PLDは、製造後に回路構成を変更可能なプロセッサである。PLDの例として、FPGA(Field Programmable Gate Array)が挙げられる。ASICは、特定の処理を実施させるために専用に設計された回路構成を有する専用電気回路である。 The CPU is a general-purpose processor that executes a program and functions as various processing units. The PLD is a processor whose circuit configuration can be changed after manufacturing. An example of PLD is FPGA (Field Programmable Gate Array). An ASIC is a dedicated electrical circuit having a circuit configuration specifically designed to perform a particular process.

一つの処理部は、これら各種のプロセッサのうちの一つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサで構成されてもよい。例えば、一つの処理部は、複数のFPGA等を用いて構成されてもよい。一つの処理部は、一つ以上のFPGA及び一つ以上のCPUを組み合わせて構成されてもよい。 One processing unit may be composed of one of these various processors, or may be composed of two or more processors of the same type or different types. For example, one processing unit may be configured by using a plurality of FPGAs and the like. One processing unit may be configured by combining one or more FPGAs and one or more CPUs.

また、一つのプロセッサを用いて複数の処理部を構成してもよい。一つのプロセッサを用いて複数の処理部を構成する例として、一つ以上のCPUとソフトウェアとを組み合わせて一つのプロセッサを構成し、一つプロセッサが複数の処理部として機能する形態がある。かかる形態は、クライアント端末装置及びサーバ装置等のコンピュータに代表される。 Further, a plurality of processing units may be configured by using one processor. As an example of configuring a plurality of processing units using one processor, there is a form in which one processor is configured by combining one or more CPUs and software, and one processor functions as a plurality of processing units. Such a form is represented by a computer such as a client terminal device and a server device.

他の構成例として。複数の処理部を含むシステム全体の機能を一つのICチップを用いて実現するプロセッサを使用する形態が挙げられる。かかる形態は、システムオンチップ(System On Chip)などに代表される。なお、ICはIntegrated Circuitの省略語である。また、システムオンチップは、System On Chipの省略語を用いてSoCと記載される場合がある。 As another configuration example. An example is a mode in which a processor that realizes the functions of the entire system including a plurality of processing units by using one IC chip is used. Such a form is typified by a system on chip and the like. IC is an abbreviation for Integrated Circuit. Further, the system on chip may be described as SoC by using the abbreviation of System On Chip.

このように、各種の処理部は、ハードウェア的な構造として、上記した各種のプロセッサを一つ以上用いて構成される。更に、各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。 As described above, the various processing units are configured by using one or more of the above-mentioned various processors as a hardware-like structure. Further, the hardware-like structure of various processors is, more specifically, an electric circuit (circuitry) in which circuit elements such as semiconductor elements are combined.

[プログラムへの適用例]
図2に示す薬剤識別装置12、図6に示す画像処理部126及び図7に手順を示す薬剤監査方法に対応するプログラムを構成し得る。すなわち、図6に示す各種の処理部の機能及び図7に示す各工程をコンピュータに実現させるプログラムを構成し得る。
[Example of application to programs]
A program corresponding to the drug identification device 12 shown in FIG. 2, the image processing unit 126 shown in FIG. 6, and the drug audit method shown in FIG. 7 may be configured. That is, it is possible to configure a program for realizing the functions of various processing units shown in FIG. 6 and each process shown in FIG. 7 on a computer.

以上説明した本発明の実施形態は、本発明の趣旨を逸脱しない範囲で、適宜構成要件を変更、追加、削除することが可能である。本発明は以上説明した実施形態に限定されるものではなく、本発明の技術的思想内で当該分野の通常の知識を有する者により、多くの変形が可能である。また、実施形態、変形例及び応用例は適宜組み合わせて実施してもよい。 In the embodiment of the present invention described above, the constituent requirements can be appropriately changed, added, or deleted without departing from the spirit of the present invention. The present invention is not limited to the embodiments described above, and many modifications can be made by a person having ordinary knowledge in the art within the technical idea of the present invention. Further, the embodiments, modifications and applications may be combined as appropriate.

1 薬剤を表面の側から見た模式図
2 薬剤の表示画像
3 薬剤群を表面の側から見た模式図
5A 薬剤
5B 薬剤
6 撮影領域
10 薬剤識別システム
12 薬剤識別装置
14 ディスプレイ装置
16 薬剤群
17 薬剤
18 分包袋
20 筐体
22 載置台
24 薬剤載置面
26 カバー
28 撮影面
30 撮影装置
31 光軸
32 第一照明装置
34 第二照明装置
36 第三照明装置
38 第四照明装置
40 薬剤群
42 容器
44 底面
50 入力装置
60 マスター画像データベース
100 プロセッサ
102 メモリ
104 入力インターフェース
106 入出力ポート
120 システム制御部
122 照明制御部
124 撮影制御部
126 画像処理部
128 薬剤情報取得部
130 薬剤識別処理部
132 ディスプレイドライバー
140 照明装置
200 ウインドウ
200A ウインドウ
202 第一表示領域
202A 第一表示領域
204 第二表示領域
206 第三表示領域
210 ボタン
220 反転画像
222 撮影画像
224 第一拡大画像
225 バウンディングボックス
226 第二拡大画像
228 マスター画像
230 確定ボタン
300 薬剤監査システム
302 薬剤識別装置
304 画像処理装置
306 ディスプレイ装置
307 画面
308 キーボード
310 マウス
400 薬剤識別システム
402 薬剤識別装置
404 ディスプレイ装置
405 画面
406 サーバ装置
408 マスター画像データベース
410 ネットワーク
S10からS34 薬剤識別処理方法の各工程
1 Schematic diagram of the drug viewed from the surface side 2 Display image of the drug 3 Schematic diagram of the drug group viewed from the surface side 5A Drug 5B Drug 6 Imaging area 10 Drug identification system 12 Drug identification device 14 Display device 16 Drug group 17 Drug 18-pack bag 20 Housing 22 Mounting table 24 Drug mounting surface 26 Cover 28 Imaging surface 30 Imaging device 31 Optical axis 32 First lighting device 34 Second lighting device 36 Third lighting device 38 Fourth lighting device 40 Drug group 42 Container 44 Bottom 50 Input device 60 Master image database 100 Processor 102 Memory 104 Input interface 106 Input / output port 120 System control unit 122 Lighting control unit 124 Imaging control unit 126 Image processing unit 128 Drug information acquisition unit 130 Drug identification processing unit 132 Display Driver 140 Lighting device 200 Window 200A Window 202 First display area 202A First display area 204 Second display area 206 Third display area 210 Button 220 Inverted image 222 Captured image 224 First enlarged image 225 Bounding box 226 Second enlarged image 228 Master image 230 Confirm button 300 Drug audit system 302 Drug identification device 304 Image processing device 306 Display device 307 Screen 308 Keyboard 310 Mouse 400 Drug identification system 402 Drug identification device 404 Display device 405 Screen 406 Server device 408 Master image database 410 From network S10 S34 Each step of the drug identification processing method

Claims (18)

一以上のプロセッサを備えた画像処理装置であって、
前記プロセッサは、
支持台の第一面に載置される薬剤を、前記支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、前記支持台の前記第二面の側から前記薬剤を撮影して得られた第一画像を取得し、
前記撮影装置の撮影範囲に対して前記薬剤の位置を調整する際に前記薬剤を移動させる薬剤移動方向について前記第一画像を反転させた第二画像を生成し、
ディスプレイ装置に表示される画面の第一領域へ、前記第二画像を表示させる表示信号を生成し、
前記表示信号を出力する画像処理装置。
An image processing device with one or more processors
The processor
The second surface of the support is placed on the first surface of the support by using an imaging device arranged at a position on the side of the second surface opposite to the first surface of the support. The first image obtained by photographing the drug from the side of
A second image obtained by reversing the first image with respect to the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the photographing range of the photographing device is generated.
A display signal for displaying the second image is generated in the first area of the screen displayed on the display device.
An image processing device that outputs the display signal.
前記プロセッサは、前記第一画像及び前記第二画像を前記第一領域へ表示させる表示信号を生成する請求項1に記載の画像処理装置。 The image processing device according to claim 1, wherein the processor generates a display signal for displaying the first image and the second image in the first region. 前記プロセッサは、
前記第一画像に含まれる薬剤の画像を検出し、
前記第一画像から検出された薬剤の画像を前記第一画像から抽出し、
前記抽出された薬剤の画像を前記画面の第二領域へ表示させる表示信号を生成する請求項1又は2に記載の画像処理装置。
The processor
The image of the drug contained in the first image is detected,
The image of the drug detected from the first image is extracted from the first image,
The image processing apparatus according to claim 1 or 2, which generates a display signal for displaying an image of the extracted drug in a second area of the screen.
前記プロセッサは、
前記第一画像から抽出された薬剤の画像を拡大させ、
前記拡大させた薬剤の画像を前記第二領域へ表示させる表示信号を生成する請求項3に記載の画像処理装置。
The processor
Enlarge the image of the drug extracted from the first image and
The image processing apparatus according to claim 3, wherein a display signal for displaying the enlarged image of the drug in the second region is generated.
前記プロセッサは、
前記第一画像を縮小させ、
前記縮小させた前記第一画像を前記第一領域へ表示させ、かつ、前記第一画像から抽出された薬剤の非縮小の画像を前記第二領域へ表示させる表示信号を生成する請求項3に記載の画像処理装置。
The processor
The first image is reduced and
3. The third aspect of the present invention is to generate a display signal for displaying the reduced first image in the first region and displaying a non-reduced image of the drug extracted from the first image in the second region. The image processing device described.
前記プロセッサは、
前記第二画像に含まれる薬剤の画像を検出し、
前記第二画像から検出された薬剤の画像を前記第二画像から抽出し、前記薬剤の画像を前記薬剤移動方向について反転させ、
前記薬剤移動方向について反転させた前記薬剤の画像を前記画面の第二領域へ表示させる表示信号を生成する請求項1又は2に記載の画像処理装置。
The processor
The image of the drug contained in the second image is detected,
The image of the drug detected from the second image is extracted from the second image, and the image of the drug is inverted in the direction of movement of the drug.
The image processing apparatus according to claim 1 or 2, wherein a display signal for displaying an image of the drug inverted with respect to the drug moving direction is displayed in a second region of the screen.
前記プロセッサは、
前記薬剤移動方向について反転させた前記薬剤の画像を拡大させ、
前記拡大させた薬剤の画像を前記第二領域へ表示させる表示信号を生成する請求項6に記載の画像処理装置。
The processor
The image of the drug inverted with respect to the drug movement direction is enlarged.
The image processing apparatus according to claim 6, wherein a display signal for displaying the enlarged image of the drug in the second region is generated.
前記プロセッサは、
前記第二画像を縮小させ、
前記縮小させた薬剤の画像を前記第一領域へ表示させ、かつ、前記第二画像から抽出され、前記反転させた薬剤の非縮小の画像を前記第二領域へ表示させる表示信号を生成する請求項6に記載の画像処理装置。
The processor
Reduce the second image and
A claim to generate a display signal for displaying a reduced image of a drug in the first region and displaying a non-reduced image of the inverted drug extracted from the second image in the second region. Item 6. The image processing apparatus according to item 6.
前記プロセッサは、
前記第二領域へ表示される画像の解像度が、前記第一領域へ表示させる画像の解像度を超える表示信号を生成する請求項3から7のいずれか一項に記載の画像処理装置。
The processor
The image processing apparatus according to any one of claims 3 to 7, wherein a display signal is generated in which the resolution of the image displayed in the second region exceeds the resolution of the image displayed in the first region.
一以上のプロセッサを備え、支持台の第一面に載置される薬剤を、前記支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて取得した薬剤の撮影画像から前記薬剤を識別する薬剤識別装置であって、
前記プロセッサは、
前記撮影装置を用いて、前記支持台の前記第二面の側から前記薬剤を撮影して得られた第一画像を取得し、
前記撮影装置の撮影範囲に対して前記薬剤の位置を調整する際に前記薬剤を移動させる薬剤移動方向について前記第一画像を反転させた第二画像を生成し、
ディスプレイ装置に表示される画面の第一領域へ、前記第二画像を表示させる表示信号を生成し、
前記表示信号を出力する薬剤識別装置。
The drug to be mounted on the first surface of the support with one or more processors was obtained using an imaging device located at a position on the side of the second surface opposite the first surface of the support. A drug identification device that identifies the drug from the photographed image of the drug.
The processor
Using the imaging device, the first image obtained by photographing the drug from the side of the second surface of the support base was acquired.
A second image obtained by reversing the first image with respect to the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the photographing range of the photographing device is generated.
A display signal for displaying the second image is generated in the first area of the screen displayed on the display device.
A drug identification device that outputs the display signal.
前記プロセッサは、
前記第一画像に含まれる薬剤の画像を検出し、
前記第一画像から検出された薬剤の画像を前記第一画像から抽出し、
前記抽出された薬剤の画像に基づき、前記抽出された薬剤の画像に対応する薬剤を識別する請求項10に記載の薬剤識別装置。
The processor
The image of the drug contained in the first image is detected,
The image of the drug detected from the first image is extracted from the first image,
The drug identification device according to claim 10, wherein the drug corresponding to the image of the extracted drug is identified based on the image of the extracted drug.
前記プロセッサは、
前記第二画像に含まれる薬剤の画像を検出し、
前記第二画像から検出された薬剤の画像を前記第二画像から抽出し、前記第二画像から抽出された前記薬剤の画像を前記薬剤移動方向について反転させ、
前記薬剤移動方向について反転させた前記薬剤の画像に基づき、前記第二画像から抽出された前記薬剤の画像に対応する薬剤を識別する請求項11に記載の薬剤識別装置。
The processor
The image of the drug contained in the second image is detected,
The image of the drug detected from the second image is extracted from the second image, and the image of the drug extracted from the second image is inverted with respect to the drug movement direction.
The drug identification device according to claim 11, wherein the drug corresponding to the image of the drug extracted from the second image is identified based on the image of the drug inverted with respect to the drug movement direction.
前記プロセッサは、識別対象の薬剤の画像が選択された場合に、候補となる薬剤の情報を前記画面へ表示させる表示信号を生成する請求項11又は12に記載の薬剤識別装置。 The drug identification device according to claim 11 or 12, wherein the processor generates a display signal for displaying information on a candidate drug on the screen when an image of the drug to be identified is selected. 前記支持台の第一面に載置される前記薬剤に対して、互いに異なる方向から照明光を照射する複数の照明装置を備え、
前記プロセッサは、
前記複数の照明装置のうち、二以上の前記照明装置を用いて前記薬剤に対して照明光を照射させる第一照明条件を適用し、前記撮影装置を用いて前記第一画像を取得し、かつ、前記第一照明条件よりも少ない数の前記照明装置を用いて前記薬剤に対して照明光を照射させる第二照明条件を適用し、前記撮影装置を用いて前記第一画像を取得し、
前記第一照明条件が適用され取得された前記第一画像及び前記第二照明条件が適用され取得された前記第一画像の少なくともいずれかを用いて、前記薬剤を識別する請求項10から13のいずれか一項に記載の薬剤識別装置。
A plurality of lighting devices for irradiating the drug placed on the first surface of the support base with illumination light from different directions are provided.
The processor
Among the plurality of lighting devices, the first lighting condition for irradiating the drug with the illumination light by using two or more of the lighting devices is applied, the first image is acquired by using the photographing device, and the first image is acquired. A second lighting condition for irradiating the drug with illumination light using a smaller number of the lighting devices than the first lighting condition is applied, and the first image is acquired using the photographing device.
13. The drug identification device according to any one of the above.
前記プロセッサは、前記第二照明条件を適用して複数の前記第一画像を取得する請求項14に記載の薬剤識別装置。 The drug identification device according to claim 14, wherein the processor applies the second lighting condition to acquire a plurality of the first images. 前記複数の照明装置は、前記撮影装置の光軸と直交する面内において前記撮影装置の光軸を中心として90度ずつ位置をずらして配置される第一照明装置、第二照明装置、第三照明装置及び第四照明装置を備え、
前記プロセッサは、前記第一照明条件として第一照明装置、第二照明装置、第三照明装置及び第四照明装置を用いて前記薬剤に対して照明光を照射させ前記第一画像を取得し、かつ、前記第二照明条件として、第一照明装置、第二照明装置、第三照明装置及び第四照明装置のそれぞれから前記薬剤に対して照明光を照射させて、四つの前記第一画像を取得する請求項14又は15に記載の薬剤識別装置。
The plurality of lighting devices are the first lighting device, the second lighting device, and the third, which are arranged so as to be displaced by 90 degrees with respect to the optical axis of the photographing device in a plane orthogonal to the optical axis of the photographing device. Equipped with a lighting device and a fourth lighting device
The processor uses the first lighting device, the second lighting device, the third lighting device, and the fourth lighting device as the first lighting condition to irradiate the drug with illumination light to acquire the first image. Further, as the second lighting condition, the chemicals are irradiated with illumination light from each of the first lighting device, the second lighting device, the third lighting device, and the fourth lighting device, and the four first images are displayed. The drug identification device according to claim 14 or 15 to be acquired.
前記プロセッサは、前記第二照明条件を適用して取得した複数の前記第一画像の少なくとも一つを用いて前記薬剤を識別する請求項15又は16に記載の薬剤識別装置。 The drug identification device according to claim 15 or 16, wherein the processor uses at least one of a plurality of the first images obtained by applying the second lighting condition to identify the drug. 支持台の第一面に載置される薬剤を、前記支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、前記支持台の前記第二面の側から前記薬剤を撮影して得られた第一画像を取得し、
前記撮影装置の撮影範囲に対して前記薬剤の位置を調整する際に前記薬剤を移動させる薬剤移動方向について前記第一画像を反転させた第二画像を生成し、
ディスプレイ装置に表示される画面の第一領域へ、前記第二画像を表示させる表示信号を生成し、
前記表示信号を出力する画像処理方法。
The second surface of the support is placed on the first surface of the support by using an imaging device arranged at a position on the side of the second surface opposite to the first surface of the support. The first image obtained by photographing the drug from the side of
A second image obtained by reversing the first image with respect to the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the photographing range of the photographing device is generated.
A display signal for displaying the second image is generated in the first area of the screen displayed on the display device.
An image processing method that outputs the display signal.
JP2020128256A 2020-07-29 2020-07-29 Image processing device, drug identification device, image processing method, and drug identification method Active JP7437259B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020128256A JP7437259B2 (en) 2020-07-29 2020-07-29 Image processing device, drug identification device, image processing method, and drug identification method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020128256A JP7437259B2 (en) 2020-07-29 2020-07-29 Image processing device, drug identification device, image processing method, and drug identification method

Publications (2)

Publication Number Publication Date
JP2022025439A true JP2022025439A (en) 2022-02-10
JP7437259B2 JP7437259B2 (en) 2024-02-22

Family

ID=80264115

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020128256A Active JP7437259B2 (en) 2020-07-29 2020-07-29 Image processing device, drug identification device, image processing method, and drug identification method

Country Status (1)

Country Link
JP (1) JP7437259B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006121286A (en) * 2004-10-20 2006-05-11 Yaskawa Electric Corp Image processor
WO2012147907A1 (en) * 2011-04-28 2012-11-01 株式会社湯山製作所 Medicine checking device and apparatus for separately packaging medicines
WO2015152225A1 (en) * 2014-03-31 2015-10-08 株式会社湯山製作所 Medicine photographing device
WO2017183459A1 (en) * 2016-04-22 2017-10-26 富士フイルム株式会社 Inspection assistance method and inspection assistance device
JP2019063514A (en) * 2017-09-28 2019-04-25 株式会社湯山製作所 Item confirmation device, audit supporting system, and item confirmation device program
WO2020105395A1 (en) * 2018-11-21 2020-05-28 富士フイルム富山化学株式会社 Drug identification device, drug identification method, and drug identification program

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006121286A (en) * 2004-10-20 2006-05-11 Yaskawa Electric Corp Image processor
WO2012147907A1 (en) * 2011-04-28 2012-11-01 株式会社湯山製作所 Medicine checking device and apparatus for separately packaging medicines
WO2015152225A1 (en) * 2014-03-31 2015-10-08 株式会社湯山製作所 Medicine photographing device
WO2017183459A1 (en) * 2016-04-22 2017-10-26 富士フイルム株式会社 Inspection assistance method and inspection assistance device
JP2019063514A (en) * 2017-09-28 2019-04-25 株式会社湯山製作所 Item confirmation device, audit supporting system, and item confirmation device program
WO2020105395A1 (en) * 2018-11-21 2020-05-28 富士フイルム富山化学株式会社 Drug identification device, drug identification method, and drug identification program

Also Published As

Publication number Publication date
JP7437259B2 (en) 2024-02-22

Similar Documents

Publication Publication Date Title
CN106415251B (en) Medicine imaging device
EP3608755B1 (en) Electronic apparatus operated by head movement and operation method thereof
US9750420B1 (en) Facial feature selection for heart rate detection
CN110418627B (en) Drug identification device, drug identification method, and drug identification program
GB2520146A (en) Augmented-reality signature capture
CN109803574A (en) Wearable device with display, lens, luminaire and imaging sensor
WO2019039302A1 (en) Medicine inspection support device, image processing device, image processing method, and program
US20210166393A1 (en) Pixel-wise Hand Segmentation of Multi-modal Hand Activity Video Dataset
CN111052145A (en) Medicine inspection support device, image processing method, and program
JP7427684B2 (en) Drug verification system, drug management method and program
JP6853891B2 (en) Drug audit equipment, image processing equipment, image processing methods and programs
Li et al. Real-time RGB-D image stitching using multiple Kinects for improved field of view
JP2024015271A (en) Medicine imaging auxiliary device, medicine imaging device, medicine discriminating method and medicine discriminating system
JP6915611B2 (en) Information processing equipment, information processing methods and programs
US11467400B2 (en) Information display method and information display system
CN104123552B (en) It is a kind of can be with the translation glasses of automatic identification
JP2022025439A (en) Image processing device, medicine discriminating device, and image processing method
KR20230172390A (en) Apparatus and method for identifying objects
Alkhalid Online preprocessing of gesture signs using background substructure and edge detection algorithms
Shehu et al. Paradigm Shift in Remote Eye Gaze Tracking Research: Highlights on Past and Recent Progress
WO2021138481A1 (en) High-resolution and hyperspectral imaging of skin
JP6759142B2 (en) Biometric device and method
JP2022040849A (en) Drug candidate display method and program, drug identification device, and drug identification system
JP7406645B2 (en) Drug identification system and drug identification method
Lander et al. Eyemirror: Mobile calibration-free gaze approximation using corneal imaging

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220905

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240209

R150 Certificate of patent or registration of utility model

Ref document number: 7437259

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150