JP2022025439A - Image processing device, medicine discriminating device, and image processing method - Google Patents
Image processing device, medicine discriminating device, and image processing method Download PDFInfo
- Publication number
- JP2022025439A JP2022025439A JP2020128256A JP2020128256A JP2022025439A JP 2022025439 A JP2022025439 A JP 2022025439A JP 2020128256 A JP2020128256 A JP 2020128256A JP 2020128256 A JP2020128256 A JP 2020128256A JP 2022025439 A JP2022025439 A JP 2022025439A
- Authority
- JP
- Japan
- Prior art keywords
- drug
- image
- lighting
- processor
- photographing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000003814 drug Substances 0.000 title claims abstract description 591
- 238000012545 processing Methods 0.000 title claims abstract description 121
- 238000003672 processing method Methods 0.000 title claims abstract description 9
- 229940079593 drug Drugs 0.000 claims description 581
- 238000003384 imaging method Methods 0.000 claims description 26
- 238000005286 illumination Methods 0.000 claims description 18
- 230000003287 optical effect Effects 0.000 claims description 12
- 230000001678 irradiating effect Effects 0.000 claims description 8
- 239000000126 substance Substances 0.000 claims description 2
- 238000000034 method Methods 0.000 description 62
- 230000008569 process Effects 0.000 description 51
- 238000010586 diagram Methods 0.000 description 20
- 230000015654 memory Effects 0.000 description 14
- 238000003860 storage Methods 0.000 description 14
- 239000003795 chemical substances by application Substances 0.000 description 13
- 238000012790 confirmation Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 10
- 238000012550 audit Methods 0.000 description 9
- 238000012856 packing Methods 0.000 description 6
- 238000005520 cutting process Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 238000012937 correction Methods 0.000 description 4
- 238000004806 packaging method and process Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 239000002775 capsule Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000003168 generic drug Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 239000000955 prescription drug Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000011282 treatment Methods 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Landscapes
- Medical Preparation Storing Or Oral Administration Devices (AREA)
- Image Analysis (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
Description
本発明は画像処理装置、薬剤識別装置及び画像処理方法に関する。 The present invention relates to an image processing device, a drug identification device, and an image processing method.
病院及び薬局等の医療機関では、薬剤の監査及び持参薬の鑑別が実施される。目視を適用して薬剤の監査等を実施する場合、薬剤師等の作業者の負担が大きい。そのために、医療機関では薬剤の監査等を支援するシステムが採用されている。 At medical institutions such as hospitals and pharmacies, drug audits and identification of brought-in drugs are carried out. When auditing drugs by applying visual inspection, the burden on workers such as pharmacists is heavy. For this reason, medical institutions have adopted systems that support drug audits.
特許文献1は、薬剤鑑別システムに具備される薬剤の画像を撮影する薬剤撮影装置が記載されている。同文献に記載の装置は、薬剤を上から見た画像を撮影する第1カメラ及び薬剤を下から見た画像を撮影する第2カメラを備える。第1カメラ及び第2カメラを用いて撮影された薬剤の撮影画像は表示装置の画面に表示される。
表示装置の画面に表示される錠剤画像鑑別ウインドウは、第1の部分、第2の部分及び第3の部分が含まれる。第1の部分は、撮影画像の全体を表示する。第2の部分は、第1の部分に表示された薬剤の中から選択された薬剤を拡大表示する。第3の部分は、選択された薬剤の鑑別が終了している場合に、鑑別結果が得られた候補薬のリストを表示する。 The tablet image identification window displayed on the screen of the display device includes a first portion, a second portion, and a third portion. The first part displays the entire captured image. The second part enlarges and displays the medicine selected from the medicines displayed in the first part. The third part displays a list of candidate drugs for which discrimination results have been obtained when the discrimination of the selected drug has been completed.
第1の部分は、上からビュータブが選択される場合に、薬剤を上から撮影した画像が表示され、下からビュータブが選択される場合に、薬剤を下から撮影した画像が表示される。 In the first part, when the view tab is selected from above, the image of the drug taken from above is displayed, and when the view tab is selected from the bottom, the image of the drug taken from below is displayed.
しかしながら、撮影台の下側の位置に設置されるカメラを用いて、撮影台の上側に載置される薬剤を撮影する場合、カメラの画角に応じて薬剤の位置を移動させる場合などに、薬剤を右方向へ移動させると、薬剤の撮影画像が表示される画面では、薬剤が左方向へ移動してしまい、オペレータが混乱してしまう。 However, when shooting a drug placed on the upper side of the shooting table using a camera installed at the lower position of the shooting table, or when moving the position of the drug according to the angle of view of the camera, etc. When the drug is moved to the right, the drug moves to the left on the screen where the photographed image of the drug is displayed, which confuses the operator.
特許文献1に記載のシステムは、第1カメラ及び第2カメラの画角に合わせて薬剤を収容するトレイの位置が決められており、上記の課題が存在していない。複数の分包紙が繋げられた分包紙連続体のそれぞれの分包紙を撮影する場合、分包紙連続体を移動させて各分包紙の位置合わせを実施する際に、上記の課題が発生する。
In the system described in
上記した課題は、患者の持ち込み薬に対する鑑別だけでなく、薬局等において実施される処方薬の監査など、薬剤の識別において存在し得る。 The above-mentioned problems may exist not only in the discrimination of drugs brought in by patients, but also in the identification of drugs such as the audit of prescription drugs carried out at pharmacies and the like.
本発明はこのような事情に鑑みてなされたもので、撮影台の第一面に載置される薬剤を第一面と反対側の第二面の側から撮影する際の好ましい撮影画像の表示が実現される画像処理装置、薬剤識別装置及び画像処理方法を提供することを目的とする。 The present invention has been made in view of such circumstances, and display of a preferable photographed image when the drug placed on the first surface of the photographing table is photographed from the side of the second surface opposite to the first surface. It is an object of the present invention to provide an image processing device, a drug identification device, and an image processing method in which the above is realized.
上記目的を達成するために、次の発明態様を提供する。 In order to achieve the above object, the following aspects of the invention are provided.
本開示に係る画像処理装置は、一以上のプロセッサを備えた画像処理装置であって、プロセッサは、支持台の第一面に載置される薬剤を、支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、支持台の第二面の側から薬剤を撮影して得られた第一画像を取得し、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向について第一画像を反転させた第二画像を生成し、ディスプレイ装置に表示される画面の第一領域へ、第二画像を表示させる表示信号を生成し、表示信号を出力する画像処理装置である。 The image processing apparatus according to the present disclosure is an image processing apparatus including one or more processors, in which the processor transfers a drug placed on the first surface of the support base to the opposite side of the first surface of the support base. Using the imaging device located at the position on the side of the second surface, the first image obtained by photographing the drug from the side of the second surface of the support base is acquired, and the drug is taken with respect to the imaging range of the photographing device. A display signal that generates a second image in which the first image is inverted with respect to the direction of movement of the drug to move the drug when adjusting the position of, and displays the second image in the first area of the screen displayed on the display device. Is an image processing device that generates a display signal and outputs a display signal.
本開示に係る画像処理装置によれば、撮影台の第一面に載置される薬剤の位置を移動させる場合に、薬剤の移動方向とディスプレイ装置の画面に表示される第二画像の移動方向とを一致させ得る。 According to the image processing apparatus according to the present disclosure, when the position of the drug placed on the first surface of the photographing table is moved, the moving direction of the drug and the moving direction of the second image displayed on the screen of the display device. Can be matched with.
薬剤は、一つの固体として認識し得る錠剤及びカプセルなどを適用し得る。 The agent may be tablets, capsules, etc. that can be recognized as one solid.
撮影対象の薬剤は、一以上の薬剤が分包紙などを用いて包装された形態を含み得る。 The drug to be imaged may include a form in which one or more drugs are packaged using a packing paper or the like.
第一画像は、動画像を適用してもよいし、静止画像を適用してもよい。動画像は、スルー画を含み得る。第一画像はレンズ歪補正等の各種の補正がされていてもよい。 As the first image, a moving image may be applied or a still image may be applied. The moving image may include a through image. The first image may be subjected to various corrections such as lens distortion correction.
他の態様に係る画像処理装置において、プロセッサは、第一画像及び第二画像を第一領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor generates a display signal for displaying the first image and the second image in the first region.
かかる態様によれば、ディスプレイ装置の画面へ第一画像を表示し得る。これにより、薬剤の印刷及び刻印等を正しい向きで視認し得る。 According to such an embodiment, the first image can be displayed on the screen of the display device. As a result, the printing and engraving of the drug can be visually recognized in the correct direction.
他の態様に係る画像処理装置において、プロセッサは、第一画像に含まれる薬剤の画像を検出し、第一画像から検出された薬剤の画像を第一画像から抽出し、抽出された薬剤の画像を画面の第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor detects the image of the drug contained in the first image, extracts the image of the drug detected from the first image from the first image, and the image of the extracted drug. Is generated in the second area of the screen.
かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤を認識し得る。 According to such an embodiment, each drug can be individually recognized from a photographed image of a drug group containing a plurality of drugs.
他の態様に係る画像処理装置において、プロセッサは、第一画像から抽出された薬剤の画像を拡大させ、拡大させた薬剤の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor enlarges the image of the drug extracted from the first image and generates a display signal for displaying the enlarged image of the drug in the second region.
かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.
他の態様に係る画像処理装置において、プロセッサは、第一画像を縮小させ、縮小させた第一画像を第一領域へ表示させ、かつ、第一画像から抽出された薬剤の非縮小の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to another aspect, the processor reduces the first image, displays the reduced first image in the first region, and displays the non-reduced image of the drug extracted from the first image. Generate a display signal to be displayed in the second area.
かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.
他の態様に係る画像処理装置において、プロセッサは、第二画像に含まれる薬剤の画像を検出し、第二画像から検出された薬剤の画像を第二画像から抽出し、薬剤の画像を薬剤移動方向について反転させ、薬剤移動方向について反転させた薬剤の画像を画面の第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor detects the image of the drug contained in the second image, extracts the image of the drug detected from the second image from the second image, and moves the image of the drug to the drug. A display signal is generated in which the image of the drug inverted with respect to the direction of movement of the drug is displayed in the second area of the screen.
かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤を認識し得る。 According to such an embodiment, each drug can be individually recognized from a photographed image of a drug group containing a plurality of drugs.
他の態様に係る画像処理装置において、プロセッサは、薬剤移動方向について反転させた薬剤の画像を拡大させ、拡大させた薬剤の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor enlarges the image of the drug inverted with respect to the drug moving direction, and generates a display signal for displaying the enlarged image of the drug in the second region.
かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.
他の態様に係る画像処理装置において、プロセッサは、第二画像を縮小させ、縮小させた薬剤の画像を第一領域へ表示させ、かつ、第二画像から抽出され、反転させた薬剤の非縮小の画像を第二領域へ表示させる表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor reduces the second image, displays the image of the reduced drug in the first region, and is extracted from the second image and inverted, and the non-reduced drug. Generates a display signal to display the image of.
かかる態様によれば、第二領域へ表示させる各薬剤の画像の視認性が向上し得る。 According to such an embodiment, the visibility of the image of each drug displayed in the second region can be improved.
他の態様に係る画像処理装置において、プロセッサは、第二領域へ表示される画像の解像度が、第一領域へ表示させる画像の解像度を超える表示信号を生成する。 In the image processing apparatus according to the other aspect, the processor generates a display signal in which the resolution of the image displayed in the second region exceeds the resolution of the image displayed in the first region.
かかる態様によれば、第一領域へ表示させる画像に対して、第二領域へ表示される各薬剤の画像の視認性が向上し得る。 According to such an aspect, the legibility of the image of each drug displayed in the second region can be improved with respect to the image displayed in the first region.
本開示に係る薬剤識別装置は、一以上のプロセッサを備え、支持台の第一面に載置される薬剤を、支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて取得した薬剤の撮影画像から薬剤を識別する薬剤識別装置であって、プロセッサは、撮影装置を用いて、支持台の第二面の側から薬剤を撮影して得られた第一画像を取得し、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向について第一画像を反転させた第二画像を生成し、ディスプレイ装置に表示される画面の第一領域へ、第二画像を表示させる表示信号を生成し、表示信号を出力する薬剤識別装置である。 The drug identification device according to the present disclosure comprises one or more processors, and a drug placed on the first surface of the support is placed at a position on the side of the second surface opposite to the first surface of the support. It is a drug identification device that identifies a drug from a photographed image of a drug acquired by using an imaging device, and the processor is obtained by photographing the drug from the second surface side of the support using the imaging device. The first image is acquired, and when adjusting the position of the drug with respect to the imaging range of the imaging device, a second image is generated in which the first image is inverted with respect to the direction of drug movement to move the drug, and the image is displayed on the display device. This is a drug identification device that generates a display signal for displaying a second image in the first area of the screen and outputs the display signal.
本開示に係る薬剤識別装置によれば、撮影台の第一面に載置される薬剤の位置を移動させる場合に、薬剤移動方向とディスプレイ装置の画面に表示される第二画像の移動方向とを一致させ得る。 According to the drug identification device according to the present disclosure, when the position of the drug placed on the first surface of the photographing table is moved, the drug moving direction and the moving direction of the second image displayed on the screen of the display device are used. Can be matched.
薬剤識別装置は、薬剤の鑑別及び薬剤の監査の少なくともいずれかを実施し得る。 The drug identification device may perform at least one of drug discrimination and drug audit.
他の態様に係る薬剤識別装置において、プロセッサは、第一画像に含まれる薬剤の画像を検出し、第一画像から検出された薬剤の画像を第一画像から抽出し、抽出された薬剤の画像に基づき、抽出された薬剤の画像に対応する薬剤を識別する。 In the drug identification device according to another aspect, the processor detects the image of the drug contained in the first image, extracts the image of the drug detected from the first image from the first image, and the image of the extracted drug. Based on, the drug corresponding to the image of the extracted drug is identified.
かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤の識別を実施し得る。 According to such an embodiment, each drug can be individually identified from a photographed image of a drug group containing a plurality of drugs.
他の態様に係る薬剤識別装置において、プロセッサは、第二画像に含まれる薬剤の画像を検出し、第二画像から検出された薬剤の画像を第二画像から抽出し、第二画像から抽出された薬剤の画像を薬剤移動方向について反転させ、薬剤移動方向について反転させた薬剤の画像に基づき、第二画像から抽出された薬剤の画像に対応する薬剤を識別する。 In the drug identification device according to another aspect, the processor detects the image of the drug contained in the second image, extracts the image of the drug detected from the second image from the second image, and extracts from the second image. The image of the drug is inverted with respect to the drug movement direction, and the drug corresponding to the image of the drug extracted from the second image is identified based on the image of the drug inverted with respect to the drug movement direction.
かかる態様によれば、複数の薬剤を含む薬剤群の撮影画像から、個別に各薬剤の識別を実施し得る。 According to such an embodiment, each drug can be individually identified from a photographed image of a drug group containing a plurality of drugs.
他の態様に係る薬剤識別装置において、プロセッサは、識別対象の薬剤の画像が選択された場合に、候補となる薬剤の情報を画面へ表示させる表示信号を生成する。 In the drug identification device according to another aspect, the processor generates a display signal for displaying information on a candidate drug on the screen when an image of the drug to be identified is selected.
かかる態様によれば、画面に表示される候補となる薬剤の情報を用いて、薬剤の識別を実施し得る。 According to such an embodiment, the drug can be identified by using the information of the candidate drug displayed on the screen.
他の態様に係る薬剤識別装置において、支持台の第一面に載置される薬剤に対して、互いに異なる方向から照明光を照射する複数の照明装置を備え、プロセッサは、複数の照明装置のうち、二以上の照明装置を用いて薬剤に対して照明光を照射させる第一照明条件を適用し、撮影装置を用いて第一画像を取得し、かつ、第一照明条件よりも少ない数の照明装置を用いて薬剤に対して照明光を照射させる第二照明条件を適用し、撮影装置を用いて第一画像を取得し、第一照明条件が適用され取得された第一画像及び第二照明条件が適用され取得された第一画像の少なくともいずれかを用いて、薬剤を識別する。 In the drug identification device according to another aspect, a plurality of lighting devices that irradiate the drugs placed on the first surface of the support base with illumination light from different directions are provided, and the processor is a plurality of lighting devices. Of these, the first lighting condition for irradiating the drug with the illumination light using two or more lighting devices is applied, the first image is acquired using the photographing device, and the number is smaller than the first lighting condition. The second lighting condition for irradiating the drug with the illumination light using the lighting device is applied, the first image is acquired using the photographing device, and the first image and the second image obtained by applying the first lighting condition are applied. The drug is identified using at least one of the first images obtained with the lighting conditions applied.
かかる態様によれば、異なる照明条件を適用して取得された第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on the first image obtained by applying different lighting conditions.
他の態様に係る薬剤識別装置において、プロセッサは、第二照明条件を適用して複数の第一画像を取得する。 In the drug identification device according to another aspect, the processor applies a second lighting condition to acquire a plurality of first images.
かかる態様によれば、第二照明条件を適用して取得された複数の第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on a plurality of first images obtained by applying the second lighting condition.
他の態様に係る薬剤識別装置において、複数の照明装置は、撮影装置の光軸と直交する面内において撮影装置の光軸を中心として90度ずつ位置をずらして配置される第一照明装置、第二照明装置、第三照明装置及び第四照明装置を備え、プロセッサは、第一照明条件として第一照明装置、第二照明装置、第三照明装置及び第四照明装置を用いて薬剤に対して照明光を照射させ第一画像を取得し、かつ、第二照明条件として、第一照明装置、第二照明装置、第三照明装置及び第四照明装置のそれぞれから薬剤に対して照明光を照射させて、四つの第一画像を取得する。 In the drug identification device according to another aspect, the plurality of lighting devices are arranged so as to be displaced by 90 degrees with respect to the optical axis of the photographing device in a plane orthogonal to the optical axis of the photographing device. The second lighting device, the third lighting device, and the fourth lighting device are provided, and the processor uses the first lighting device, the second lighting device, the third lighting device, and the fourth lighting device as the first lighting condition for the drug. The first image is acquired by irradiating the illuminating light, and as the second illuminating condition, the illuminating light is emitted from each of the first illuminating device, the second illuminating device, the third illuminating device, and the fourth illuminating device to the chemicals. Irradiate and acquire four first images.
かかる態様によれば、互いに直交する四方向から薬剤に対して照明光を照射して取得される四つの第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on the four first images obtained by irradiating the drug with illumination light from four directions orthogonal to each other.
他の態様に係る薬剤識別装置において、プロセッサは、第二照明条件を適用して取得した複数の第一画像の少なくとも一つを用いて薬剤を識別する請求項15又は16に記載の薬剤識別装置。 The drug identification device according to claim 15 or 16, wherein in the drug identification device according to another embodiment, the processor uses at least one of a plurality of first images acquired by applying the second lighting condition to identify the drug. ..
かかる態様によれば、第二照明条件を適用して取得される一つ以上第一画像に基づき薬剤を識別し得る。 According to such an embodiment, the drug can be identified based on one or more first images obtained by applying the second lighting condition.
本開示に係る画像処理方法は、支持台の第一面に載置される薬剤を、支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、支持台の第二面の側から薬剤を撮影して得られた第一画像を取得し、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向について第一画像を反転させた第二画像を生成し、ディスプレイ装置に表示される画面の第一領域へ、第二画像を表示させる表示信号を生成し、表示信号を出力する画像処理方法である。 The image processing method according to the present disclosure uses an imaging device in which a drug placed on the first surface of the support is placed at a position on the side of the second surface opposite to the first surface of the support. The first image obtained by photographing the drug from the side of the second surface of the support base is acquired, and the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the imaging range of the imaging device is the first. This is an image processing method that generates a second image in which an image is inverted, generates a display signal for displaying the second image in the first area of the screen displayed on the display device, and outputs the display signal.
本発明によれば、撮影台の第一面に載置される薬剤の位置を移動させる場合に、薬剤移動方向とディスプレイ装置の画面に表示される第二画像の移動方向とを一致させ得る。 According to the present invention, when the position of the drug placed on the first surface of the photographing table is moved, the moving direction of the drug can be matched with the moving direction of the second image displayed on the screen of the display device.
以下、添付図面に従って本発明の実施の形態について詳説する。本明細書では、同一の構成要素には同一の参照符号を付して、重複する説明は適宜省略する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the present specification, the same components are designated by the same reference numerals, and duplicate description will be omitted as appropriate.
[課題の説明]
図1は課題の説明図である。同図に示す符号1は、載置台に載置された薬剤5A及び薬剤5Bを表面の側から見た模式図である。符号2は、載置台の裏面の側に配置されるカメラを用いて撮影され、ディスプレイ装置へ表示される上記の薬剤群の表示画像の模式図である。
[Explanation of issues]
FIG. 1 is an explanatory diagram of a problem.
薬剤群の表面は、載置台と接触する薬剤群の面と反対側の面である。例えば、薬剤群が水平面に対して平行に載置される場合は、薬剤の上側の面が薬剤の表面である。載置台の裏面は、載置台の薬剤群が載置される面の反対側の面である。 The surface of the drug group is the surface opposite to the surface of the drug group that comes into contact with the platform. For example, when the drug group is placed parallel to the horizontal plane, the upper surface of the drug is the surface of the drug. The back surface of the mounting table is the surface opposite to the surface on which the drug group of the mounting table is placed.
符号2に示す薬剤群の撮影画像は、カメラの撮影領域6に対して薬剤5Bの一部が左へはみ出している。かかる状態の薬剤5Bをカメラの撮影領域6へ収めることを意図して、オペレータがディスプレイ装置へ表示される上記の薬剤群の撮影画像を見ながら薬剤群を右方向へ移動させると、符号3を付した薬剤5A及び薬剤5Bを表面の側から見た模式図に示すように、薬剤5Bはカメラの撮影領域6から更にはみ出してしまう。
In the photographed image of the drug group indicated by
なお、カメラに具備されるイメージセンサの受光面と平行な面内において、カメラを90度回転させると、図1における左右方向について生じる反転が、上下方向について生じる。ここでいう左右方向及び上下方向は、説明の都合上、便宜的に規定した。以下に、上記の課題を解決し、オペレータの混乱を回避し得る薬剤識別システムについて詳細に説明する。 When the camera is rotated 90 degrees in a plane parallel to the light receiving surface of the image sensor provided in the camera, the inversion that occurs in the left-right direction in FIG. 1 occurs in the up-down direction. The left-right direction and the up-down direction referred to here are specified for convenience of explanation. The drug identification system that can solve the above problems and avoid operator confusion will be described in detail below.
[薬剤識別システム]
〔全体構成例〕
図2は実施形態に係る薬剤識別システムの全体構成図である。同図に示す薬剤識別システム10は、薬剤識別装置12及びディスプレイ装置14を備える。薬剤識別装置12は、載置台22へ載置される識別対象の薬剤群16を撮影し、一以上の薬剤17が含まれる薬剤群16の撮影画像を用いて、薬剤群16に含まれる薬剤17の識別を実施する。
[Drug identification system]
[Overall configuration example]
FIG. 2 is an overall configuration diagram of a drug identification system according to an embodiment. The
薬剤識別装置12の筐体20の内部には、載置台22の薬剤群16を下側から撮影する撮影装置が具備される。すなわち、撮影装置は、載置台22の薬剤載置面24と反対側の撮影面の側の位置に配置される。
Inside the
撮影装置は、イメージセンサ、光学レンズ及び信号処理回路を備える。イメージセンサはCCDイメージセンサ及びCMOSイメージセンサ等を適用し得る。光学レンズの例として、フォーカスレンズ及び集光レンズ等が挙げられる。 The photographing device includes an image sensor, an optical lens, and a signal processing circuit. As the image sensor, a CCD image sensor, a CMOS image sensor, or the like can be applied. Examples of the optical lens include a focus lens and a condenser lens.
信号処理回路は、CCDイメージセンサへ入力された光学像に基づき、薬剤群16の撮影画像を生成する。ここでいう画像とは、画像データ及び画像信号の概念を含み得る。なお、CCDはCharge Coupled Deviceの省略語である。CMOSはComplementary Metal-Oxide Semiconductorの省略語である。図2では、載置台22の撮影面及び撮影装置の図示を省略する。
The signal processing circuit generates a photographed image of the
載置台22は、透明板の周囲がフレームを用いて支持される構造を有する。透明板はガラス板などの、照明光及び照明光の反射光を透過させ、かつ、一定の剛性を有する板状の部材を適用し得る。ここでいう透過は、透過率が100パーセントに限定されない。例えば、透過率が50パーセント以上を透過としてもよい。 The mounting table 22 has a structure in which the periphery of the transparent plate is supported by using a frame. As the transparent plate, a plate-shaped member such as a glass plate that transmits the illumination light and the reflected light of the illumination light and has a certain rigidity can be applied. The transmittance referred to here is not limited to 100% transmittance. For example, the transmittance may be 50% or more.
筐体20は、載置台22の上部にカバー26が取り付けられる。カバー26は筐体20の背面に取り付けられる。カバー26は、載置台22に対して規定の距離を離した位置に配置される。
A
薬剤識別装置12は、撮影装置を用いて取得される薬剤群16の撮影画像に対して画像処理を施す画像処理部を備える。画像処理部は、一以上のプロセッサ及び一以上のメモリを備えるコンピュータを適用し得る。画像処理部は、画像処理プログラムを実行し、薬剤群16の撮影画像に対して画像処理を施す。なお、図2では、画像処理部の図示を省略する。
The
ディスプレイ装置14は、画像処理部から送信される表示信号に基づき、薬剤群16に関する画像及び薬剤識別の識別結果等を画面15へ表示させる。ディスプレイ装置14の画面15における表示の詳細は後述する。
The
薬剤識別システム10は、薬剤識別装置12へ各種の情報を入力する際にオペレータが使用する入力装置を備える。入力装置は、キーボード及びマウス等を適用し得る。タッチパネル方式のディスプレイ装置を適用して、ディスプレイ装置14と入力装置とを一体構成としてもよい。なお、図2では入力装置の図示を省略する。
The
図2には、識別対象の薬剤17を含む薬剤群16の例として、連続する複数の分包袋18のそれぞれに複数の薬剤17が内包される形態を示す。薬剤識別装置12は、複数の分包袋18のそれぞれを撮影し、分包袋18ごとに薬剤群16に含まれる薬剤17の識別を実施する。
FIG. 2 shows, as an example of the
薬剤17は、PTPシートを用いて包装される錠剤及びカプセル等を適用してもよい。薬剤17は、ストリップ包装が適用される錠剤等でもよい。錠剤等は、複数の錠剤等が一体化される状態から分離させた状態でもよい。なお、PTPはPress Through Packの省略語である。
As the
薬剤17の識別は、処方箋に基づき調剤された薬剤17のそれぞれを処方箋と照合する薬剤監査を含み得る。薬剤17の識別は、持参薬とお薬手帳及び電子カルテ等の記載内容等とを照合する鑑別を含み得る。
Identification of the
図2に示す矢印線は、薬剤群16の移動方向を表す。薬剤群16の移動方向とは、オペレータが視認する薬剤群16の移動方向に対して、ディスプレイ装置14の画面15へ表示される薬剤群16の画像の移動方向が反転する際に、薬剤群16を移動させる方向を表す。すなわち、撮影装置に具備される撮像素子は、現実の薬剤群16の移動方向と薬剤群16の表示画像の移動方向とが反転する現象が生じる向きに配置される。
The arrow line shown in FIG. 2 indicates the moving direction of the
なお、ここでいう撮像素子の配置に関する向きとは、撮像素子の撮像面に対して平行となる面における回転方向を表す。また、薬剤群の16の移動方向は、薬剤17の移動方向と同義である。
The orientation with respect to the arrangement of the image pickup element here indicates the rotation direction on the plane parallel to the image pickup surface of the image pickup element. Further, the moving direction of 16 of the drug group is synonymous with the moving direction of the
〔薬剤識別装置の構成例〕
図3は図2に示す薬剤識別装置の概略構成を示す正面図である。図4は図3に示す薬剤識別装置の平面図である。図3及び図4は、図2に示す筐体20の内部を模式的に図示する。以下、図3及び図4を適宜参照して、薬剤識別装置12の構成例について説明する。
[Configuration example of drug identification device]
FIG. 3 is a front view showing a schematic configuration of the drug identification device shown in FIG. 2. FIG. 4 is a plan view of the drug identification device shown in FIG. 3 and 4 schematically show the inside of the
なお、図3及び図4に示す符号xは、照明装置の配置方向であり、薬剤群16の移動方向を表す。図4に示す符号yは、照明装置の配置方向であり、薬剤群16の移動方向に対して直交する方向を表す。図3に示す符号zは、鉛直上向き方向を表す。
The reference numeral x shown in FIGS. 3 and 4 is the arrangement direction of the lighting device, and represents the moving direction of the
薬剤群16の移動方向は、撮影装置30の設置状態に応じて決められる。例えば、図1に示す左右方向は薬剤群16の移動方向の一例である。なお、実施形態に記載の薬剤群16の移動方向は、撮影装置の撮影範囲に対して薬剤の位置を調整する際に薬剤を移動させる薬剤移動方向の一例である。
The moving direction of the
薬剤識別装置12は、撮影装置30、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38を備える。図3では、第二照明装置34及び第四照明装置38の図示を省略する。
The
図3に示すように、撮影装置30は、z方向について、載置台22の撮影面28の側の位置に配置される。第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38を含む複数の照明装置は、撮影装置30と同様に、z方向について、載置台22の撮影面28の側の位置に配置される。
As shown in FIG. 3, the photographing
図4に示すように、撮影装置30は、x方向及びy方向について、載置台22のxy平面における中心位置を光軸31が通る位置に配置される。第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38は、撮影装置30の光軸31からの距離が等距離の位置に配置される。また、第一照明装置32及び第三照明装置36は、x方向について、撮影装置30を挟んで対向する位置に配置される。同様に、第二照明装置34及び第四照明装置38は、y方向について、撮影装置30を挟んで対向する位置に配置される。
As shown in FIG. 4, the photographing
換言すると、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38は、撮影装置30の光軸31と直交する面内において、撮影装置30の光軸31を中心として90度ずつ位置をずらして配置される。
In other words, the
撮影装置30は、第一照明装置32等のそれぞれから互いに薬剤群16へ順次に照射される、互いに異なる方向からの照明光の反射光を受光し、照明状態ごとに薬剤群16の撮影画像を生成する。撮影装置30は、照明状態に対応する照明条件が異なる複数の薬剤群16について、撮影画像を生成し得る。
The photographing
照明条件の一例として、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38を全て用いて薬剤群16に対して照明光を照射する第一照明条件が挙げられる。第一照明条件は、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38のうち、二以上の照明装置を適用する態様を含み得る。
As an example of the lighting condition, the first lighting condition for irradiating the
照明条件の他の例として、第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38のいずれか一つを用いて薬剤群16に対して照明光を照射する第二照明条件が挙げられる。第二照明条件は第一照明条件における照明装置の数よりも少ない数の照明装置を適用する態様を含み得る。
As another example of the lighting condition, any one of the
なお、実施形態に記載の載置台22は支持台の一例である。実施形態に記載の載置台22の薬剤載置面24は第一面の一例である。実施形態に記載の載置台22の撮影面28は第二面の一例である。
The mounting table 22 described in the embodiment is an example of a support table. The
図5は薬剤の変形例の説明図である。図5に示す識別対象の薬剤17を含む薬剤群40は、複数の薬剤17がシャーレ等の容器42へ収容される。容器42の底面44は、照明光及び照明光の反射光を透過させる材料が適用される。なお、図5では、容器42を支持する支持部材の図示を省略する。なお、実施形態に記載の容器42を支持する支持部材は支持台の一例である。
FIG. 5 is an explanatory diagram of a modified example of the drug. In the
図5に示す薬剤群40は、一包化されていない複数の薬剤17を識別する際に適用される。一方、図2から図4に示す薬剤群16は一包化される複数の薬剤17を識別する際に適用される。
The
薬剤識別装置12は、入出力ポートを備える。薬剤識別装置12は入出力ポートを介して、図2に示すディスプレイ装置14及び外部装置等と通信可能に接続される。入出力ポートは、信号伝送ケーブルが接続されるコネクタを備えてもよいし、無線LANポートを備えてもよい。入出力ポートはUSB(Universal Serial Bus)等の各種の規格を適用し得る。なお、LANはLocal Area Networkの省略語である。
The
薬剤識別装置12は、複数の入出力ポートを備え得る。複数の入出力ポートは異なる種類のハードウェア及び異なる種類の規格を適用し得る。図2から図5では、入出力ポートの図示を省略する。
The
〔薬剤識別システムの機能ブロック〕
図6は図2に示す薬剤識別システムの機能ブロック図である。薬剤識別装置12は、メモリ102、入力インターフェース104及び入出力ポート106を備える。
[Functional block of drug identification system]
FIG. 6 is a functional block diagram of the drug identification system shown in FIG. The
メモリ102は、薬剤識別装置12に適用される各種のデータ、各種のパラメータ及び各種のプログラムが記憶される。薬剤識別装置12は、各種の処理に適用されるプログラムをメモリ102から読み出し、プログラムを実行して各種の処理を実施する。各種のプログラムの例として、薬剤識別処理へ適用される薬剤識別プログラム、各種の画像処理へ適用される画像処理プログラムが挙げられる。
The
薬剤識別装置12は、各種のプログラムを実行する際に、実行対象のプログラムに対応するパラメータ及びデータをメモリ102から読み出す。薬剤識別装置12は、各種のプログラムを実行して生成される各種のデータをメモリ102へ記憶する。
When executing various programs, the
メモリ102は、半導体メモリ等の有体物たるコンピュータ可読媒体等を含んで構成され得る。メモリ102は、ハードディスク等の磁気記憶装置が含まれ得る。メモリ102は、複数の記憶装置等を用いて構成され得る。複数の記憶装置等は異なる複数の種類の記憶装置等を含み得る。メモリ102を構成する記憶装置等は、複数の記憶領域に分割されていてもよい。メモリ102は、各種データの一時記憶領域が含まれてもよい。
The
薬剤識別装置12は、システム制御部120、照明制御部122、撮影制御部124、画像処理部126、薬剤情報取得部128、薬剤識別処理部130及びディスプレイドライバー132を備える。図6に示す各種の処理部のハードウェアはプロセッサ100を適用し得る。すなわち、図6に示す各種の処理部は、プロセッサ100を用いた信号処理を適用して実現される、薬剤識別装置12の各種の機能に対応する。
The
システム制御部120は、薬剤識別装置12の各種の処理部を統括的に制御する。システム制御部120は、各種の処理部から送信される信号及び入力インターフェース104を介して入力される入力信号に基づき、各種の処理部へ指令信号を送信する。
The
システム制御部120は、各種の処理において生成される各種のデータを、メモリ102へ記憶する。また、システム制御部120は、各種の処理に適用されるデータを、各種の処理を実施する処理部へ送信する。
The
照明制御部122は、システム制御部120から送信される指令信号に基づき、照明装置140を制御する。なお、図6に示す照明装置140は、図3等に示す第一照明装置32、第二照明装置34、第三照明装置36及び第四照明装置38の総称である。すなわち、照明制御部122は、第一照明装置32等の点灯タイミング、消灯タイミング及び照明光量等を制御する。
The
撮影制御部124は、システム制御部120から送信される指令信号に基づき、撮影装置30を制御する。撮影制御部124は、撮影装置30に対して撮影条件を設定する。撮影制御部124は、撮影タイミング等を制御する。
The
画像処理部126は、撮影装置30を用いて生成される薬剤群16の撮影画像を取得する。すなわち、画像処理部126は、薬剤群16の撮影画像を取得する撮影画像取得部を具備する。画像処理部126は、撮影装置30から取得した薬剤群16の撮影画像に対して、撮影装置30に具備されるレンズの歪みを補正するレンズ歪補正を行い、画像処理対象となる薬剤群16の撮影画像としてもよい。画像処理部126は、レンズ歪補正後の薬剤群16の撮影画像を取得してもよい。
The
画像処理部126は、薬剤群16の撮影画像に対して画像処理を実施する。画像処理は、薬剤群16の移動方向について薬剤群16の撮影画像を反転させる反転処理、薬剤群16の撮影画像から薬剤17の画像を切り取るトリミング処理、薬剤群16の撮影画像から切り取られた薬剤17の画像を拡大させる拡大処理、薬剤群16の撮影画像を縮小する処理、薬剤群16の撮影画像の反転画像を縮小させる処理及び薬剤群16の撮影画像における薬剤17の画像の強調処理等を含み得る。
The
画像処理部126は、薬剤群16の撮影画像を反転させた反転画像から、薬剤群16に含まれる薬剤17の画像を検出し、反転画像から薬剤17の反転画像を切り出し、反転画像から切り出した薬剤17の反転画像を反転させて、薬剤17の画像を生成してもよい。
The
画像処理部126は、画像処理部126を用いて生成される各種の画像を、適宜、メモリ102へ記憶する。画像処理部126は、各種の画像を、適宜、ディスプレイ装置14へ表示させる。
The
なお、薬剤群16の撮影画像は符号222を用いて図9に図示する。薬剤群16の撮影画像を反転させた反転画像は符号220を用いて図8に図示する。
The photographed image of the
薬剤情報取得部128は、薬剤群16に含まれる薬剤17ごとの識別情報を取得する。薬剤監査を実施する場合、薬剤17の識別情報は、処方箋に記載の薬剤17の名称等を適用し得る。持ち込み薬の鑑別を実施する場合、薬剤17の識別情報は、お薬手帳に記載の薬剤17の名称等及び入力装置50を用いてオペレータが入力した薬剤17の名称等を適用し得る。例えば、オペレータは、薬剤17に印刷される薬剤の名称等を目視して、薬剤の名称等を認識し得る。
The drug
薬剤情報取得部128は、バーコードリーダを用いてオペレータが薬剤17の包装に印刷されるGS1コード等のバーコードを読み取り、バーコードの読取データに基づき薬剤17の識別情報を取得し得る。薬剤情報取得部128は、薬剤17の画像を解析し、解析結果に基づき薬剤17の識別情報を取得し得る。
The drug
薬剤17の識別情報は、名称、コード番号及び外観の特徴等を適用し得る。薬剤の外観は、色及び形状を含み得る。薬剤の形状は、薬剤の全体形状、刻印の位置及び刻印の形状等を含み得る。薬剤17の識別情報は、複数の情報を併用してもよい。
As the identification information of the
薬剤識別処理部130は、薬剤群16の撮影画像から切り出された薬剤17の画像を取得する。薬剤識別処理部130は、薬剤17の識別情報に応じた薬剤のマスター画像をマスター画像データベース60から取得する。
The drug identification processing unit 130 acquires an image of the
薬剤識別処理部130は、薬剤17の画像と、マスター画像データベース60から取得したマスター画像とを照合して、薬剤17ごとの識別処理を実施する。薬剤識別処理部130は、識別結果をディスプレイ装置14へ表示させる。
The drug identification processing unit 130 collates the image of the
マスター画像データベース60は、薬剤17の識別情報と薬剤17の画像とを関連付けして記憶される。マスター画像データベース60は、薬剤17の識別情報を検索パラメータとして、薬剤17の識別情報に対応するマスター画像を検索し得る。
The
図6には、マスター画像データベース60が薬剤識別装置12へ具備される態様を例示したが、マスター画像データベース60は、外部の記憶装置を適用してもよい。薬剤識別装置12に具備されるマスター画像データベース60は、外部のマスター画像データベースと連携してもよい。
Although FIG. 6 illustrates an embodiment in which the
ディスプレイドライバー132は、ディスプレイ装置14へ表示させる各種の画像に対応する表示信号及び薬剤17ごとの識別結果に対応する表示信号をディスプレイ装置14へ送信する。ディスプレイ装置14は、各種の画像及び薬剤17ごとの識別結果を表示する。
The display driver 132 transmits to the display device 14 a display signal corresponding to various images to be displayed on the
入力インターフェース104は、入力装置50から送信される信号が表す入力データを取得する。入力インターフェース104は、取得した入力データをシステム制御部120へ送信する。システム制御部120は入力データに基づき、薬剤識別装置12を制御する。
The
例えば、入力装置50であるキーボードを用いてオペレータが薬剤17の名称を入力した場合、薬剤識別処理部130は、入力された薬剤17の名称に基づく薬剤17の識別を実施し得る。
For example, when the operator inputs the name of the
入出力ポート106は、外部装置から送信される各種のデータを取得する。例えば、入出力ポート106は、病院及び薬局等のサーバ装置から処方箋に記載される各種の情報を取得し得る。入出力ポート106は、外部のマスター画像データベースからマスター画像を取得し得る。 The input / output port 106 acquires various data transmitted from the external device. For example, the input / output port 106 can acquire various information described in the prescription from server devices such as hospitals and pharmacies. The input / output port 106 may acquire a master image from an external master image database.
[薬剤識別方法の手順]
図7は実施形態に係る薬剤識別方法の手順を示すフローチャートである。薬剤情報取得工程S10では、図6に示す薬剤情報取得部128は、識別対象の薬剤17ごとの識別情報を取得する。薬剤情報取得工程S10の後に、マスター画像取得工程S12へ進む。
[Procedure for drug identification method]
FIG. 7 is a flowchart showing the procedure of the drug identification method according to the embodiment. In the drug information acquisition step S10, the drug
マスター画像取得工程S12では、薬剤識別処理部130は薬剤情報取得工程S10において取得した薬剤17の識別情報に基づき、マスター画像データベース60から薬剤17の識別情報に対応するマスター画像を取得する。マスター画像取得工程S12の後に撮影画像取得工程S14へ進む。
In the master image acquisition step S12, the drug identification processing unit 130 acquires a master image corresponding to the identification information of the
撮影画像取得工程S14では、撮影装置30は薬剤群16の撮影を実施する。画像処理部126は撮影装置30から薬剤群16の撮影画像を取得する。撮影画像取得工程S14の後に画像処理工程S16へ進む。
In the photographed image acquisition step S14, the photographing
画像処理工程S16では、画像処理部126は、撮影画像取得工程S14において取得した薬剤群16の撮影画像に対して各種の画像処理を実施する。画像処理工程S16の後に撮影画像表示工程S18へ進む。
In the image processing step S16, the
各種の画像処理は、薬剤群16の移動方向について薬剤群16の撮影画像を反転させる反転処理が含まれる。各種の処理は、薬剤群16の撮影画像から薬剤17ごとの画像を個別に検出する検出処理、検出された薬剤17の画像を薬剤群16の撮影画像から切り出す切出処理及び切り出された薬剤17の画像を拡大させる拡大処理が含まれる。
The various image processes include a reversal process of reversing the captured image of the
各種の処理は、薬剤群16の撮影画像から検出された薬剤17を強調する強調処理を含み得る。強調処理の例として、薬剤17ごとにバウンディングボックスを重畳させる処理、薬剤17のエッジ及び刻印等を強調する処理が挙げられる。
The various treatments may include an enhancement process that emphasizes the
薬剤17のエッジ及び刻印等を強調する処理は、図3等に示す第一照明装置32等のそれぞれを用いて照明した際に撮影される四種類の撮影画像を適用し得る。薬剤17の撮影画像は、照明方向に応じて影の向き、影の形状及び影の強度が異なる。画像処理部126は、四種類の撮影画像から特徴画像を生成し、四種類の特徴画像を統合して、薬剤17の輪郭及び刻印等を強調した強調画像を生成し得る。
For the process of emphasizing the edges and markings of the
撮影画像表示工程S18では、画像処理部126は、ディスプレイドライバー132を介して薬剤群16の移動方向について薬剤群16の撮影画像を反転させた反転画像に対応する表示信号をディスプレイ装置14へ出力する。ディスプレイ装置14の画面15は、反転画像が表示される。
In the captured image display step S18, the
撮影画像表示工程S18では、画像処理部126は、ディスプレイドライバー132を介して、薬剤群16に含まれる薬剤17の拡大画像に対応する表示信号をディスプレイ装置14へ出力する。ディスプレイ装置14の画面15は、薬剤17の拡大画像が表示される。撮影画像表示工程S18の後に識別対象薬剤選択工程S20へ進む。
In the captured image display step S18, the
識別対象薬剤選択工程S20では、薬剤情報取得部128は、マスター画像との照合を実施する薬剤17の選択情報を取得する。すなわち、薬剤17の拡大画像のいずれかをオペレータが選択した際に、薬剤情報取得部128は薬剤17の選択情報を取得する。識別対象薬剤選択工程S20の後に薬剤識別工程S22へ進む。
In the identification target drug selection step S20, the drug
薬剤識別工程S22では、薬剤情報取得部128は選択された薬剤17とマスター画像との照合を実施する。ここでいうマスター画像は、薬剤名称が一致する薬剤のマスター画像、形態の特徴が類似する薬剤のマスター画像及び先発薬と後発薬との関係にある薬剤のマスター画像などの複数の種類のマスター画像が含まれ得る。
In the drug identification step S22, the drug
照合処理は、テンプレートマッチングを適し得る。テンプレートマッチングの例として、特開2014-67342号公報に記載の手法が挙げられる。テンプレートマッチングでは、薬剤17の画像とマスター画像との一致度、類似度及び相関等のマッチング度合いを算出し得る。テンプレートマッチングでは、薬剤17の画像とマスター画像との相対移動、それぞれの拡大又は縮小等の処理を適宜実施し得る。なお、相対移動は、相対的な回転を含み得る。
The matching process may be suitable for template matching. As an example of template matching, the method described in JP-A-2014-67342 can be mentioned. In the template matching, the degree of matching such as the degree of matching, the degree of similarity, and the correlation between the image of the
照合処理は、学習済みの学習器を適用してもよい。学習はCNN(Convolutional Neural Network)等のディープラーニングを適用し得る。照合処理は、第一照明条件を適用して取得した薬剤17の撮影画像を適用してもよいし、第二照明条件を適用して取得した薬剤17の撮影画像を適用してもよい。また、照合処理は両者を併用してもよい。第二照明条件を適用して複数の薬剤17の撮影画像を取得した場合は、照合処理は複数の薬剤17の撮影画像のうち一つ以上を適用し得る。薬剤識別工程S22の後に候補画像表示工程S24へ進む。
The collation process may apply a learned learner. For learning, deep learning such as CNN (Convolutional Neural Network) can be applied. In the collation process, the captured image of the
候補画像表示工程S24では、薬剤情報取得部128は、ディスプレイドライバー132を介して、薬剤17との照合処理が実施されたマスター画像に対応する表示信号をディスプレイ装置14へ出力する。ディスプレイ装置14の画面15は、薬剤17との照合処理が実施されたマスター画像が候補画像として表示される。
In the candidate image display step S24, the drug
薬剤17との照合処理が実施されたマスター画像は、薬剤17との照合処理が実施された全てのマスター画像でもよいし、一致度が一定以上等の条件を満たす一部のマスター画像でもよい。
The master image subjected to the collation process with the
薬剤識別装置12は、マスター画像ごとの薬剤情報をディスプレイ装置14の画面15へ表示させてもよい。薬剤識別装置12は、マスター画像ごとの薬剤17の画像との一致度等をディスプレイ装置14の画面15へ表示させてもよい。候補画像表示工程S24の後に確定情報取得判定工程S26へ進む。
The
確定情報取得判定工程S26では、薬剤識別処理部130は、ディスプレイ装置14の画面15へ表示される候補画像に対応する確定ボタンが操作されたか否かを判定する。確定情報取得判定工程S26において、薬剤識別処理部130が、確定ボタンが操作されていないと判定する場合はNo判定となる。No判定の場合は未確定情報記憶工程S28へ進む。
In the confirmation information acquisition determination step S26, the drug identification processing unit 130 determines whether or not the confirmation button corresponding to the candidate image displayed on the
薬剤識別処理部130は、確定ボタンの操作待ちの期間が規定の期間を経過した際に、確定ボタンが操作されていないと判定し得る。 The drug identification processing unit 130 may determine that the confirmation button has not been operated when the period of waiting for the operation of the confirmation button has elapsed a predetermined period.
一方、確定情報取得判定工程S26において、薬剤識別処理部130が、確定ボタンが操作されたと判定する場合はYes判定となる。Yes判定の場合は確定情報記憶工程S30へ進む。 On the other hand, in the confirmation information acquisition determination step S26, when the drug identification processing unit 130 determines that the confirmation button has been operated, the determination is Yes. In the case of Yes determination, the process proceeds to the definite information storage step S30.
未確定情報記憶工程S28では、薬剤識別処理部130は、識別対象の薬剤17に対応するマスター画像が表示されていないことを表す未確定情報を記憶する。未確定情報記憶工程S28の後に薬剤識別終了判定工程S32へ進む。
In the undetermined information storage step S28, the drug identification processing unit 130 stores undetermined information indicating that the master image corresponding to the
また、確定情報記憶工程S30では、薬剤識別処理部130は、薬剤17に情報に対応するマスター画像が確定したことを表す確定情報を記憶する。確定情報として、薬剤識別工程S22において算出された一致度等が記憶されてもよい。確定情報記憶工程S30の後に薬剤識別終了判定工程S32へ進む。
Further, in the definite information storage step S30, the drug identification processing unit 130 stores definite information indicating that the master image corresponding to the information is confirmed in the
薬剤識別終了判定工程S32では、薬剤情報取得部128は一つの薬剤群16に含まれる全ての薬剤17について、識別処理が実施され、かつ、確定情報又は未確定情報が記憶されたか否かを判定する。
In the drug identification end determination step S32, the drug
薬剤識別終了判定工程S32において、薬剤情報取得部128が一つの薬剤群16に含まれる全ての薬剤17について、識別処理が実施され、かつ、確定情報又は未確定情報が記憶されていないと判定する場合はNo判定となる。No判定の場合は、識別対象薬剤選択工程S20へ進み、薬剤識別終了判定工程S32においてYes判定となるまで、識別対象薬剤選択工程S20から薬剤識別終了判定工程S32までの各工程を繰り返し実施する。
In the drug identification end determination step S32, the drug
一方、薬剤識別終了判定工程S32において、薬剤情報取得部128が一つの薬剤群16に含まれる全ての薬剤17について、識別処理が実施され、かつ、確定情報又は未確定情報が記憶されていると判定する場合はYes判定となる。Yes判定の場合は、薬剤群識別終了判定S34へ進む。
On the other hand, in the drug identification end determination step S32, the drug
薬剤群識別終了判定S34では、薬剤情報取得部128は全ての薬剤群16について、識別処理が実施されたか否かを判定する。薬剤群識別終了判定S34において、薬剤情報取得部128が全ての薬剤群16について、識別処理が実施されていないと判定する場合はNo判定となる。No判定の場合は撮影画像取得工程S14へ進み、薬剤群識別終了判定S34においてYes判定となるまで、撮影画像取得工程S14から薬剤群識別終了判定S34までの各工程を繰り返し実施する。
In the drug group identification end determination S34, the drug
一方、薬剤群識別終了判定S34において、薬剤情報取得部128が全ての薬剤群16について、識別処理が実施されたと判定する場合はYes判定となる。Yes判定の場合は、薬剤識別装置12は薬剤識別方法を終了させる。なお、実施形態に記載の薬剤識別方法は画像処理方法の一例である。
On the other hand, in the drug group identification end determination S34, when the drug
[画面構成例]
図8はディスプレイ装置へ表示される画面の構成例を示す画面構成図である。図9はディスプレイ装置の画面へ表示される薬剤群16の撮影画像の模式図である。なお、図8及び図9に示す薬剤に表示される文字列は任意の文字列である。ここでいう文字は数字、アルファベット及び記号を含み得る。図10についても同様である。
[Screen configuration example]
FIG. 8 is a screen configuration diagram showing a configuration example of a screen displayed on the display device. FIG. 9 is a schematic diagram of a photographed image of the
図8に示すウインドウ200は、図2に示すディスプレイ装置14の画面15へ表示される。ウインドウ200は、第一表示領域202、第二表示領域204及び第三表示領域206が含まれる。ウインドウ200は、各種のボタン210が含まれる。マルチウインドウ表示が適用される場合、ウインドウごとにタブが表示される。
The
第一表示領域202は、薬剤群16の反転画像220が表示される。反転画像220は、図9に示す薬剤群16の撮影画像222を、薬剤群16の移動方向について反転させて生成される。
In the
反転画像220は、図2に示す撮影装置30のスルー画の反転画像を適用してもよいし、任意のタイミングにおいて記憶された静止画の反転画像を適用してもよい。薬剤群16を移動させた場合に、反転画像220は更新される。第一表示領域202は、薬剤群16の撮影画像222の移動方向を表す矢印等のアシスト表示を表示し得る。なお、図8には、薬剤群16を構成する各薬剤17について、バウンディングボックス225を重畳表示させる態様を例示する。
As the
第二表示領域204は、図9に示す薬剤群16の撮影画像222から検出され、撮影画像222から切り出された全ての薬剤17のうち、識別処理が未処理の薬剤17に対応する拡大画像である第一拡大画像224が表示される。
The
第二表示領域204へ識別処理が未処理の薬剤17の画像の等倍画像を表示させ、第一表示領域202へ薬剤群16の撮影画像222を縮小させた縮小画像を表示させてもよい。第一表示領域202へ薬剤群16の撮影画像222の縮小画像を表示させる場合に、第二表示領域204へ第一拡大画像224を表示させてもよい。
The same size image of the image of the
すなわち、第二表示領域204へ表示される画像の解像度は、第一表示領域202へ表示される薬剤群16の撮影画像222の解像度を超える解像度とされる。反転画像220から切り出された薬剤17の反転画像を反転させた薬剤17の画像を第二表示領域204へ表示させる場合も同様である。
That is, the resolution of the image displayed in the
なお、実施形態に記載の薬剤群16の撮影画像222に基づく第一拡大画像224及び薬剤17の等倍画像は、第一画像から抽出された薬剤の非縮小の画像の一例である。また、実施形態に記載の反転画像220に基づく第一拡大画像224及び薬剤17の等倍画像は、第二画像から抽出され、反転させた薬剤の非縮小の画像の一例である。
The first
一方、第二表示領域204は、識別処理の対象として選択された薬剤17に対応する第一拡大画像224等が非表示とされる。図8には、複数の第一拡大画像224が一列に並べられて表示される態様を例示する。
On the other hand, in the
第三表示領域206は、オペレータが選択した認識対象の薬剤17に対応する第二拡大画像226が表示される。また、第三表示領域206は、認識対象の薬剤17に対応する第二拡大画像226の照合対象となるマスター画像228及び確定ボタン230が表示される。
In the
なお、実施形態に記載の第一表示領域202は第一領域の一例である。実施形態に記載の第二表示領域204は第二領域の一例である。実施形態に記載の薬剤群16の撮影画像222は第一画像の一例である。実施形態に記載の反転画像220は第二画像の一例である。
The
実施形態に記載の薬剤群16の撮影画像から薬剤17の画像を切り出す処理は、第一画像から検出された薬剤の画像を第一画像から抽出する処理の一例である。
The process of cutting out the image of the
[画面構成例の変形例]
図10は変形例に係る画面構成例を示す画面構成図である。図10に示すウインドウ200Aの第一表示領域202Aは、図8に示す反転画像220及び図9に示す薬剤群16の撮影画像222が並べて表示される。
[Transformation example of screen configuration example]
FIG. 10 is a screen configuration diagram showing a screen configuration example according to a modified example. In the
図10に示すウインドウ200Aの第一表示領域202Aは、薬剤群16の撮影画像222の表示及び非表示を選択的に切り替えてもよい。例えば、第一表示領域202Aへ薬剤群16の撮影画像222を表示させることを表す操作をオペレータが実施した場合に、第一表示領域202Aへ薬剤群16の撮影画像222を表示させてもよい。
The
薬剤群16の撮影画像222と反転画像220との大きさを異ならせてもよい。薬剤群16の撮影画像222は、反転画像220に対して縦方向及び横方向の比率を二分の一以下にしてもよい。薬剤群16の撮影画像222は静止画としてもよし、スルー画等の動画像としてもよい。
The photographed
[作用効果]
実施形態に係る薬剤識別システム10及び薬剤識別方法によれば、以下の作用効果を得ることが可能である。
[Action effect]
According to the
〔1〕
薬剤群16が載置される薬剤載置面24の下側から薬剤群16を撮影し、薬剤群16の撮影画像を薬剤群16の移動方向について反転させた反転画像220を生成し、ディスプレイ装置14の画面15へ反転画像220を表示させる。これにより、薬剤群16を移動させて薬剤群16の位置を合わせる際に、薬剤群16の移動方向と反転画像220の移動方向とが一致する。
[1]
The
〔2〕
薬剤群16の撮影画像222から薬剤群16に含まれる薬剤17を検出し、撮影画像222から各薬剤17の画像を切り出して拡大し、第一拡大画像224を生成する。第一拡大画像224は、ディスプレイ装置14の画面15の第二表示領域204へ表示される。これにより、オペレータは第二表示領域204へ表示される第一拡大画像224に基づき、識別対象の薬剤17を選択し得る。また、各薬剤17の画像が拡大されるので、各薬剤17の画像の視認性が向上し得る。
[2]
The
第一表示領域202へ薬剤群16の撮影画像222の縮小画像を表示させ、第二表示領域204へ撮影画像222から各薬剤17の画像を切り出した等倍画像を表示させる場合も、各薬剤17の画像の視認性が向上し得る。
In the case where the reduced image of the captured
〔3〕
反転画像220から薬剤17の反転画像を検出し、反転画像220から薬剤17の反転画像を切り出し、薬剤17の反転画像を反転させ、拡大して、薬剤17の第一拡大画像224を生成する。これにより、オペレータは第二表示領域204へ表示される第一拡大画像224に基づき、識別対象の薬剤17を選択し得る。また、各薬剤17の画像が拡大されるので、各薬剤17の画像の視認性が向上し得る。
[3]
The inverted image of the
第一表示領域202へ反転画像220の縮小画像を表示させ、第二表示領域204へ薬剤17の第一拡大画像224又は薬剤17の等倍画像を表示させる場合も、各薬剤17の画像の視認性が向上し得る。
Even when the reduced image of the
〔4〕
ディスプレイ装置14の画面15へ表示される複数の第一拡大画像224から選択された薬剤17の識別処理を実施する。オペレータの操作等に基づく選択的な薬剤17の識別処理を実施し得る。
[4]
The identification process of the
〔5〕
薬剤17の識別処理の結果として、薬剤17と照合されたマスター画像が表示される。これにより、薬剤17と照合されたマスター画像から、薬剤17の識別情報に対応するマスター画像を選択し得る。
[5]
As a result of the identification process of the
〔6〕
ディスプレイ装置14の画面15の反転画像220を表示させる第一拡大画像224は、薬剤群16の撮影画像222が反転画像220と並べて表示される。これにより、薬剤群16に含まれる薬剤17が正しく見える向きに表示される。
[6]
In the first
[薬剤識別システムの変形例]
〔画像処理装置への適用例〕
図11は画像処理装置への適用例に係る薬剤識別システムの全体構成図である。図11に示す薬剤監査システム300は、薬剤識別装置302、画像処理装置304、及びディスプレイ装置306、キーボード308及びマウス310を備える。なお、キーボード308及びマウス310は、図6に示す入力装置50に対応する。符号307はディスプレイ装置306の画面を示す。
[Modified example of drug identification system]
[Example of application to image processing equipment]
FIG. 11 is an overall configuration diagram of a drug identification system according to an application example to an image processing apparatus. The
薬剤識別装置302は、図6に示す撮影装置30、照明装置140及び薬剤識別処理部130の機能を有する。画像処理装置304は、図6に示す画像処理部126の機能を有する。画像処理装置304は、薬剤識別処理部130の機能を有していてもよい。
The
すなわち、図2に示す薬剤識別装置12は、撮影装置30及び照明装置140に対応する、主として薬剤群16の撮影画像を取得する構成要素と、画像処理部126及び薬剤識別処理部130に対応する、主として信号処理を実施する構成要素とに分割し得る。
That is, the
撮影装置30は、スマートフォン等の携帯型の撮影装置を適用してもよい。例えば、薬剤識別装置12は、携帯型の撮影装置を支持する支持部材及び携帯型の撮影装置とデータ通信を実施する通信インターフェースを備え得る。
As the photographing
〔ネットワークシステムへの適用例〕
図12はネットワークシステムの適用例に係る薬剤認識システムの全体構成図である。同図に示す薬剤識別システム400は、薬剤識別装置402、ディスプレイ装置404、サーバ装置406、マスター画像データベース408を備える。なお、符号405はディスプレイ装置404の画面を示す。薬剤識別装置402は、ネットワーク410を介してサーバ装置406及びマスター画像データベース408と通信可能に接続される。
[Application example to network system]
FIG. 12 is an overall configuration diagram of a drug recognition system according to an application example of the network system. The
サーバ装置406は、図6に示す画像処理部126の機能を有していてもよい。サーバ装置406は、薬剤識別処理部130の機能を備えてもよい。サーバ装置406はクラウドコンピューティングを適用してもよい。
The
ネットワーク410は、医療機関の内部に適用される小規模ネットワークを適用してもよいし、インターネット等の大規模ネットワークを適用してもよい。ネットワーク410は、複数のネットワークを含んで構成されてもよい。
As the
[各処理部及び制御部のハードウェア構成]
図6に示す各種の処理を実施する処理部のハードウェアは、各種のプロセッサを適用し得る。なお、処理部はprocessing unitと呼ばれる場合があり得る。各種のプロセッサには、CPU(Central Processing Unit)、PLD(Programmable Logic Device)及びASIC(Application Specific Integrated Circuit)等が含まれる。
[Hardware configuration of each processing unit and control unit]
Various processors can be applied to the hardware of the processing unit that performs various processes shown in FIG. The processing unit may be called a processing unit. Various processors include a CPU (Central Processing Unit), a PLD (Programmable Logic Device), an ASIC (Application Specific Integrated Circuit), and the like.
CPUは、プログラムを実行して各種の処理部として機能する汎用的なプロセッサである。PLDは、製造後に回路構成を変更可能なプロセッサである。PLDの例として、FPGA(Field Programmable Gate Array)が挙げられる。ASICは、特定の処理を実施させるために専用に設計された回路構成を有する専用電気回路である。 The CPU is a general-purpose processor that executes a program and functions as various processing units. The PLD is a processor whose circuit configuration can be changed after manufacturing. An example of PLD is FPGA (Field Programmable Gate Array). An ASIC is a dedicated electrical circuit having a circuit configuration specifically designed to perform a particular process.
一つの処理部は、これら各種のプロセッサのうちの一つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサで構成されてもよい。例えば、一つの処理部は、複数のFPGA等を用いて構成されてもよい。一つの処理部は、一つ以上のFPGA及び一つ以上のCPUを組み合わせて構成されてもよい。 One processing unit may be composed of one of these various processors, or may be composed of two or more processors of the same type or different types. For example, one processing unit may be configured by using a plurality of FPGAs and the like. One processing unit may be configured by combining one or more FPGAs and one or more CPUs.
また、一つのプロセッサを用いて複数の処理部を構成してもよい。一つのプロセッサを用いて複数の処理部を構成する例として、一つ以上のCPUとソフトウェアとを組み合わせて一つのプロセッサを構成し、一つプロセッサが複数の処理部として機能する形態がある。かかる形態は、クライアント端末装置及びサーバ装置等のコンピュータに代表される。 Further, a plurality of processing units may be configured by using one processor. As an example of configuring a plurality of processing units using one processor, there is a form in which one processor is configured by combining one or more CPUs and software, and one processor functions as a plurality of processing units. Such a form is represented by a computer such as a client terminal device and a server device.
他の構成例として。複数の処理部を含むシステム全体の機能を一つのICチップを用いて実現するプロセッサを使用する形態が挙げられる。かかる形態は、システムオンチップ(System On Chip)などに代表される。なお、ICはIntegrated Circuitの省略語である。また、システムオンチップは、System On Chipの省略語を用いてSoCと記載される場合がある。 As another configuration example. An example is a mode in which a processor that realizes the functions of the entire system including a plurality of processing units by using one IC chip is used. Such a form is typified by a system on chip and the like. IC is an abbreviation for Integrated Circuit. Further, the system on chip may be described as SoC by using the abbreviation of System On Chip.
このように、各種の処理部は、ハードウェア的な構造として、上記した各種のプロセッサを一つ以上用いて構成される。更に、各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。 As described above, the various processing units are configured by using one or more of the above-mentioned various processors as a hardware-like structure. Further, the hardware-like structure of various processors is, more specifically, an electric circuit (circuitry) in which circuit elements such as semiconductor elements are combined.
[プログラムへの適用例]
図2に示す薬剤識別装置12、図6に示す画像処理部126及び図7に手順を示す薬剤監査方法に対応するプログラムを構成し得る。すなわち、図6に示す各種の処理部の機能及び図7に示す各工程をコンピュータに実現させるプログラムを構成し得る。
[Example of application to programs]
A program corresponding to the
以上説明した本発明の実施形態は、本発明の趣旨を逸脱しない範囲で、適宜構成要件を変更、追加、削除することが可能である。本発明は以上説明した実施形態に限定されるものではなく、本発明の技術的思想内で当該分野の通常の知識を有する者により、多くの変形が可能である。また、実施形態、変形例及び応用例は適宜組み合わせて実施してもよい。 In the embodiment of the present invention described above, the constituent requirements can be appropriately changed, added, or deleted without departing from the spirit of the present invention. The present invention is not limited to the embodiments described above, and many modifications can be made by a person having ordinary knowledge in the art within the technical idea of the present invention. Further, the embodiments, modifications and applications may be combined as appropriate.
1 薬剤を表面の側から見た模式図
2 薬剤の表示画像
3 薬剤群を表面の側から見た模式図
5A 薬剤
5B 薬剤
6 撮影領域
10 薬剤識別システム
12 薬剤識別装置
14 ディスプレイ装置
16 薬剤群
17 薬剤
18 分包袋
20 筐体
22 載置台
24 薬剤載置面
26 カバー
28 撮影面
30 撮影装置
31 光軸
32 第一照明装置
34 第二照明装置
36 第三照明装置
38 第四照明装置
40 薬剤群
42 容器
44 底面
50 入力装置
60 マスター画像データベース
100 プロセッサ
102 メモリ
104 入力インターフェース
106 入出力ポート
120 システム制御部
122 照明制御部
124 撮影制御部
126 画像処理部
128 薬剤情報取得部
130 薬剤識別処理部
132 ディスプレイドライバー
140 照明装置
200 ウインドウ
200A ウインドウ
202 第一表示領域
202A 第一表示領域
204 第二表示領域
206 第三表示領域
210 ボタン
220 反転画像
222 撮影画像
224 第一拡大画像
225 バウンディングボックス
226 第二拡大画像
228 マスター画像
230 確定ボタン
300 薬剤監査システム
302 薬剤識別装置
304 画像処理装置
306 ディスプレイ装置
307 画面
308 キーボード
310 マウス
400 薬剤識別システム
402 薬剤識別装置
404 ディスプレイ装置
405 画面
406 サーバ装置
408 マスター画像データベース
410 ネットワーク
S10からS34 薬剤識別処理方法の各工程
1 Schematic diagram of the drug viewed from the
Claims (18)
前記プロセッサは、
支持台の第一面に載置される薬剤を、前記支持台の第一面の反対側の第二面の側の位置に配置される撮影装置を用いて、前記支持台の前記第二面の側から前記薬剤を撮影して得られた第一画像を取得し、
前記撮影装置の撮影範囲に対して前記薬剤の位置を調整する際に前記薬剤を移動させる薬剤移動方向について前記第一画像を反転させた第二画像を生成し、
ディスプレイ装置に表示される画面の第一領域へ、前記第二画像を表示させる表示信号を生成し、
前記表示信号を出力する画像処理装置。 An image processing device with one or more processors
The processor
The second surface of the support is placed on the first surface of the support by using an imaging device arranged at a position on the side of the second surface opposite to the first surface of the support. The first image obtained by photographing the drug from the side of
A second image obtained by reversing the first image with respect to the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the photographing range of the photographing device is generated.
A display signal for displaying the second image is generated in the first area of the screen displayed on the display device.
An image processing device that outputs the display signal.
前記第一画像に含まれる薬剤の画像を検出し、
前記第一画像から検出された薬剤の画像を前記第一画像から抽出し、
前記抽出された薬剤の画像を前記画面の第二領域へ表示させる表示信号を生成する請求項1又は2に記載の画像処理装置。 The processor
The image of the drug contained in the first image is detected,
The image of the drug detected from the first image is extracted from the first image,
The image processing apparatus according to claim 1 or 2, which generates a display signal for displaying an image of the extracted drug in a second area of the screen.
前記第一画像から抽出された薬剤の画像を拡大させ、
前記拡大させた薬剤の画像を前記第二領域へ表示させる表示信号を生成する請求項3に記載の画像処理装置。 The processor
Enlarge the image of the drug extracted from the first image and
The image processing apparatus according to claim 3, wherein a display signal for displaying the enlarged image of the drug in the second region is generated.
前記第一画像を縮小させ、
前記縮小させた前記第一画像を前記第一領域へ表示させ、かつ、前記第一画像から抽出された薬剤の非縮小の画像を前記第二領域へ表示させる表示信号を生成する請求項3に記載の画像処理装置。 The processor
The first image is reduced and
3. The third aspect of the present invention is to generate a display signal for displaying the reduced first image in the first region and displaying a non-reduced image of the drug extracted from the first image in the second region. The image processing device described.
前記第二画像に含まれる薬剤の画像を検出し、
前記第二画像から検出された薬剤の画像を前記第二画像から抽出し、前記薬剤の画像を前記薬剤移動方向について反転させ、
前記薬剤移動方向について反転させた前記薬剤の画像を前記画面の第二領域へ表示させる表示信号を生成する請求項1又は2に記載の画像処理装置。 The processor
The image of the drug contained in the second image is detected,
The image of the drug detected from the second image is extracted from the second image, and the image of the drug is inverted in the direction of movement of the drug.
The image processing apparatus according to claim 1 or 2, wherein a display signal for displaying an image of the drug inverted with respect to the drug moving direction is displayed in a second region of the screen.
前記薬剤移動方向について反転させた前記薬剤の画像を拡大させ、
前記拡大させた薬剤の画像を前記第二領域へ表示させる表示信号を生成する請求項6に記載の画像処理装置。 The processor
The image of the drug inverted with respect to the drug movement direction is enlarged.
The image processing apparatus according to claim 6, wherein a display signal for displaying the enlarged image of the drug in the second region is generated.
前記第二画像を縮小させ、
前記縮小させた薬剤の画像を前記第一領域へ表示させ、かつ、前記第二画像から抽出され、前記反転させた薬剤の非縮小の画像を前記第二領域へ表示させる表示信号を生成する請求項6に記載の画像処理装置。 The processor
Reduce the second image and
A claim to generate a display signal for displaying a reduced image of a drug in the first region and displaying a non-reduced image of the inverted drug extracted from the second image in the second region. Item 6. The image processing apparatus according to item 6.
前記第二領域へ表示される画像の解像度が、前記第一領域へ表示させる画像の解像度を超える表示信号を生成する請求項3から7のいずれか一項に記載の画像処理装置。 The processor
The image processing apparatus according to any one of claims 3 to 7, wherein a display signal is generated in which the resolution of the image displayed in the second region exceeds the resolution of the image displayed in the first region.
前記プロセッサは、
前記撮影装置を用いて、前記支持台の前記第二面の側から前記薬剤を撮影して得られた第一画像を取得し、
前記撮影装置の撮影範囲に対して前記薬剤の位置を調整する際に前記薬剤を移動させる薬剤移動方向について前記第一画像を反転させた第二画像を生成し、
ディスプレイ装置に表示される画面の第一領域へ、前記第二画像を表示させる表示信号を生成し、
前記表示信号を出力する薬剤識別装置。 The drug to be mounted on the first surface of the support with one or more processors was obtained using an imaging device located at a position on the side of the second surface opposite the first surface of the support. A drug identification device that identifies the drug from the photographed image of the drug.
The processor
Using the imaging device, the first image obtained by photographing the drug from the side of the second surface of the support base was acquired.
A second image obtained by reversing the first image with respect to the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the photographing range of the photographing device is generated.
A display signal for displaying the second image is generated in the first area of the screen displayed on the display device.
A drug identification device that outputs the display signal.
前記第一画像に含まれる薬剤の画像を検出し、
前記第一画像から検出された薬剤の画像を前記第一画像から抽出し、
前記抽出された薬剤の画像に基づき、前記抽出された薬剤の画像に対応する薬剤を識別する請求項10に記載の薬剤識別装置。 The processor
The image of the drug contained in the first image is detected,
The image of the drug detected from the first image is extracted from the first image,
The drug identification device according to claim 10, wherein the drug corresponding to the image of the extracted drug is identified based on the image of the extracted drug.
前記第二画像に含まれる薬剤の画像を検出し、
前記第二画像から検出された薬剤の画像を前記第二画像から抽出し、前記第二画像から抽出された前記薬剤の画像を前記薬剤移動方向について反転させ、
前記薬剤移動方向について反転させた前記薬剤の画像に基づき、前記第二画像から抽出された前記薬剤の画像に対応する薬剤を識別する請求項11に記載の薬剤識別装置。 The processor
The image of the drug contained in the second image is detected,
The image of the drug detected from the second image is extracted from the second image, and the image of the drug extracted from the second image is inverted with respect to the drug movement direction.
The drug identification device according to claim 11, wherein the drug corresponding to the image of the drug extracted from the second image is identified based on the image of the drug inverted with respect to the drug movement direction.
前記プロセッサは、
前記複数の照明装置のうち、二以上の前記照明装置を用いて前記薬剤に対して照明光を照射させる第一照明条件を適用し、前記撮影装置を用いて前記第一画像を取得し、かつ、前記第一照明条件よりも少ない数の前記照明装置を用いて前記薬剤に対して照明光を照射させる第二照明条件を適用し、前記撮影装置を用いて前記第一画像を取得し、
前記第一照明条件が適用され取得された前記第一画像及び前記第二照明条件が適用され取得された前記第一画像の少なくともいずれかを用いて、前記薬剤を識別する請求項10から13のいずれか一項に記載の薬剤識別装置。 A plurality of lighting devices for irradiating the drug placed on the first surface of the support base with illumination light from different directions are provided.
The processor
Among the plurality of lighting devices, the first lighting condition for irradiating the drug with the illumination light by using two or more of the lighting devices is applied, the first image is acquired by using the photographing device, and the first image is acquired. A second lighting condition for irradiating the drug with illumination light using a smaller number of the lighting devices than the first lighting condition is applied, and the first image is acquired using the photographing device.
13. The drug identification device according to any one of the above.
前記プロセッサは、前記第一照明条件として第一照明装置、第二照明装置、第三照明装置及び第四照明装置を用いて前記薬剤に対して照明光を照射させ前記第一画像を取得し、かつ、前記第二照明条件として、第一照明装置、第二照明装置、第三照明装置及び第四照明装置のそれぞれから前記薬剤に対して照明光を照射させて、四つの前記第一画像を取得する請求項14又は15に記載の薬剤識別装置。 The plurality of lighting devices are the first lighting device, the second lighting device, and the third, which are arranged so as to be displaced by 90 degrees with respect to the optical axis of the photographing device in a plane orthogonal to the optical axis of the photographing device. Equipped with a lighting device and a fourth lighting device
The processor uses the first lighting device, the second lighting device, the third lighting device, and the fourth lighting device as the first lighting condition to irradiate the drug with illumination light to acquire the first image. Further, as the second lighting condition, the chemicals are irradiated with illumination light from each of the first lighting device, the second lighting device, the third lighting device, and the fourth lighting device, and the four first images are displayed. The drug identification device according to claim 14 or 15 to be acquired.
前記撮影装置の撮影範囲に対して前記薬剤の位置を調整する際に前記薬剤を移動させる薬剤移動方向について前記第一画像を反転させた第二画像を生成し、
ディスプレイ装置に表示される画面の第一領域へ、前記第二画像を表示させる表示信号を生成し、
前記表示信号を出力する画像処理方法。 The second surface of the support is placed on the first surface of the support by using an imaging device arranged at a position on the side of the second surface opposite to the first surface of the support. The first image obtained by photographing the drug from the side of
A second image obtained by reversing the first image with respect to the drug moving direction in which the drug is moved when adjusting the position of the drug with respect to the photographing range of the photographing device is generated.
A display signal for displaying the second image is generated in the first area of the screen displayed on the display device.
An image processing method that outputs the display signal.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020128256A JP7437259B2 (en) | 2020-07-29 | 2020-07-29 | Image processing device, drug identification device, image processing method, and drug identification method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020128256A JP7437259B2 (en) | 2020-07-29 | 2020-07-29 | Image processing device, drug identification device, image processing method, and drug identification method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022025439A true JP2022025439A (en) | 2022-02-10 |
JP7437259B2 JP7437259B2 (en) | 2024-02-22 |
Family
ID=80264115
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020128256A Active JP7437259B2 (en) | 2020-07-29 | 2020-07-29 | Image processing device, drug identification device, image processing method, and drug identification method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7437259B2 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006121286A (en) * | 2004-10-20 | 2006-05-11 | Yaskawa Electric Corp | Image processor |
WO2012147907A1 (en) * | 2011-04-28 | 2012-11-01 | 株式会社湯山製作所 | Medicine checking device and apparatus for separately packaging medicines |
WO2015152225A1 (en) * | 2014-03-31 | 2015-10-08 | 株式会社湯山製作所 | Medicine photographing device |
WO2017183459A1 (en) * | 2016-04-22 | 2017-10-26 | 富士フイルム株式会社 | Inspection assistance method and inspection assistance device |
JP2019063514A (en) * | 2017-09-28 | 2019-04-25 | 株式会社湯山製作所 | Item confirmation device, audit supporting system, and item confirmation device program |
WO2020105395A1 (en) * | 2018-11-21 | 2020-05-28 | 富士フイルム富山化学株式会社 | Drug identification device, drug identification method, and drug identification program |
-
2020
- 2020-07-29 JP JP2020128256A patent/JP7437259B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006121286A (en) * | 2004-10-20 | 2006-05-11 | Yaskawa Electric Corp | Image processor |
WO2012147907A1 (en) * | 2011-04-28 | 2012-11-01 | 株式会社湯山製作所 | Medicine checking device and apparatus for separately packaging medicines |
WO2015152225A1 (en) * | 2014-03-31 | 2015-10-08 | 株式会社湯山製作所 | Medicine photographing device |
WO2017183459A1 (en) * | 2016-04-22 | 2017-10-26 | 富士フイルム株式会社 | Inspection assistance method and inspection assistance device |
JP2019063514A (en) * | 2017-09-28 | 2019-04-25 | 株式会社湯山製作所 | Item confirmation device, audit supporting system, and item confirmation device program |
WO2020105395A1 (en) * | 2018-11-21 | 2020-05-28 | 富士フイルム富山化学株式会社 | Drug identification device, drug identification method, and drug identification program |
Also Published As
Publication number | Publication date |
---|---|
JP7437259B2 (en) | 2024-02-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106415251B (en) | Medicine imaging device | |
EP3608755B1 (en) | Electronic apparatus operated by head movement and operation method thereof | |
US9750420B1 (en) | Facial feature selection for heart rate detection | |
CN110418627B (en) | Drug identification device, drug identification method, and drug identification program | |
GB2520146A (en) | Augmented-reality signature capture | |
CN109803574A (en) | Wearable device with display, lens, luminaire and imaging sensor | |
WO2019039302A1 (en) | Medicine inspection support device, image processing device, image processing method, and program | |
US20210166393A1 (en) | Pixel-wise Hand Segmentation of Multi-modal Hand Activity Video Dataset | |
CN111052145A (en) | Medicine inspection support device, image processing method, and program | |
JP7427684B2 (en) | Drug verification system, drug management method and program | |
JP6853891B2 (en) | Drug audit equipment, image processing equipment, image processing methods and programs | |
Li et al. | Real-time RGB-D image stitching using multiple Kinects for improved field of view | |
JP2024015271A (en) | Medicine imaging auxiliary device, medicine imaging device, medicine discriminating method and medicine discriminating system | |
JP6915611B2 (en) | Information processing equipment, information processing methods and programs | |
US11467400B2 (en) | Information display method and information display system | |
CN104123552B (en) | It is a kind of can be with the translation glasses of automatic identification | |
JP2022025439A (en) | Image processing device, medicine discriminating device, and image processing method | |
KR20230172390A (en) | Apparatus and method for identifying objects | |
Alkhalid | Online preprocessing of gesture signs using background substructure and edge detection algorithms | |
Shehu et al. | Paradigm Shift in Remote Eye Gaze Tracking Research: Highlights on Past and Recent Progress | |
WO2021138481A1 (en) | High-resolution and hyperspectral imaging of skin | |
JP6759142B2 (en) | Biometric device and method | |
JP2022040849A (en) | Drug candidate display method and program, drug identification device, and drug identification system | |
JP7406645B2 (en) | Drug identification system and drug identification method | |
Lander et al. | Eyemirror: Mobile calibration-free gaze approximation using corneal imaging |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220905 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230914 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230919 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231113 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240129 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240209 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7437259 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |