JP6338454B2 - Dosing trail management terminal, dosing trail management system, and dosing trail management method - Google Patents

Dosing trail management terminal, dosing trail management system, and dosing trail management method Download PDF

Info

Publication number
JP6338454B2
JP6338454B2 JP2014112792A JP2014112792A JP6338454B2 JP 6338454 B2 JP6338454 B2 JP 6338454B2 JP 2014112792 A JP2014112792 A JP 2014112792A JP 2014112792 A JP2014112792 A JP 2014112792A JP 6338454 B2 JP6338454 B2 JP 6338454B2
Authority
JP
Japan
Prior art keywords
user
taking
drug
taken
medicine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014112792A
Other languages
Japanese (ja)
Other versions
JP2015228082A (en
Inventor
中村 亨
亨 中村
橋本 順子
順子 橋本
香央里 藤村
香央里 藤村
恒子 倉
恒子 倉
麻美 宮島
麻美 宮島
芳浩 吉田
芳浩 吉田
高橋 誠治
誠治 高橋
一雄 森村
一雄 森村
前田 裕二
裕二 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2014112792A priority Critical patent/JP6338454B2/en
Publication of JP2015228082A publication Critical patent/JP2015228082A/en
Application granted granted Critical
Publication of JP6338454B2 publication Critical patent/JP6338454B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、薬剤の服用証跡管理端末、服用証跡管理システム及び服用証跡管理方法に関するものである。   The present invention relates to a medication trail management terminal, a medication trail management system, and a medication trail management method.

これまで、服薬管理については様々なシステム、ソフトウェア等が提案されている。特にスマートフォンの普及に伴い、服薬の自己管理を目的としたアプリケーションは様々な種類のものが実用化されている。また、薬箱又は携帯用のピルケースからの薬剤の取り出しを検知することにより、服用履歴とみなして管理するシステムも存在する。
いずれの方式においても、正確な服用履歴を記録するためには、患者が真に協力的であることが必要であり、実際に薬剤を服用しなかったり飲み残した場合には、システム側では一切検知することができない。
このように特定の患者自身が、確かに薬剤を服用したという証拠を残すことは容易ではない。現状では、例えば、病院内で医師または看護師が服用の際に同席し、正しく飲んでいることを目で確認するというような方法に頼る他は無い。
このような問題に対し、非特許文献1では、インテリジェント薬ケース(iMec)とユビキタスセンサとを組み合わせ、iMec内の薬を内蔵カメラを用いて撮影して画像処理することにより服薬種、服薬量を認識する手法が用いられている。
Until now, various systems and software have been proposed for medication management. With the spread of smartphones in particular, various types of applications aimed at self-management of medications have been put into practical use. In addition, there is a system that manages by taking out a medicine from a medicine box or a portable pill case as a taking history.
In either method, it is necessary for the patient to be truly cooperative in order to record an accurate dosing history. If the drug is not actually taken or left untreated, the system will not It cannot be detected.
Thus, it is not easy to leave evidence that a particular patient himself has indeed taken the drug. Under the present circumstances, for example, there is no other way to rely on a method in which, for example, a doctor or nurse is present at the time of taking in a hospital and confirms that he / she is drinking correctly.
To deal with such problems, Non-Patent Document 1 combines an intelligent drug case (iMec) with a ubiquitous sensor, and uses the built-in camera to photograph and process the image of the drug in iMec, thereby determining the type of drug and amount of drug taken. A recognition method is used.

中内靖、鈴木拓央、“服用者を見守る服薬確認システム”、[online]、筑波大学大学院システム情報工学研究科、[平成26年5月15日検索]、インターネット<URL :http://hri.iit.tsukuba.ac.jp/publications/2009-14787.pdf>Satoshi Nakauchi, Takuo Suzuki, “Medication Confirmation System for Watching Users” [online], Graduate School of Systems and Information Engineering, University of Tsukuba, [Search May 15, 2014], Internet <URL: http: // hri.iit.tsukuba.ac.jp/publications/2009-14787.pdf>

しかし、単に服用前後の薬剤の状態についての情報が存在するだけでは、服用者が正しく服用したことについて証拠能力が十分あるとは言えず、その服用動作を終始動画像等証跡として管理する必要がある。   However, if there is simply information about the state of the drug before and after taking it, it cannot be said that there is sufficient evidence capacity that the user took it correctly, and it is necessary to manage the taking operation as a trail such as a final start image is there.

したがって、かかる点に鑑みてなされた本発明の目的は、服用履歴を正確に記録することができる服用証跡管理端末、服用証跡管理システム及び服用証跡管理方法を提供することにある。   Accordingly, an object of the present invention made in view of such a point is to provide a dose trail management terminal, a dose trail management system, and a dose trail management method capable of accurately recording a dose history.

上記課題を解決するため、本発明に係る服用証跡管理端末は、
画像センサから取得した画像データに基づき、服用された薬剤を認識する物体認識追跡部と、
前記画像データに基づき、利用者を認識するユーザ識別部と、
服用対象となる薬剤が正しく服用されたことを認証する証跡シーケンス管理部と
を備え、
前記証跡シーケンス管理部は、
前記服用対象となる服薬種及び服薬量の薬剤が準備され、
前記ユーザ識別部により認識された前記利用者が服用対象者と一致し、
服用開始から継続的に取得された前記画像データにおいて、前記利用者が前記画像センサによる撮影範囲から退去せず、前記利用者以外の者が前記画像センサによる撮影範囲に入らず、前記薬剤が撮影範囲から紛失していないことの条件を満たしているとき、服用の検出を開始し、
前記画像データに基づいて、前記服用対象となる前記薬剤が一定量以上減少し、前記薬剤が前記利用者の口腔内に入ったことを画像認識することにより、前記利用者の服用を検出し、さらに、前記利用者の服用によって残薬がないことを確認することにより、前記服用対象となる全ての薬剤が前記利用者により服用された旨の判定を行い、前記認証を行うことを特徴とする。
In order to solve the above problems, the taking trail management terminal according to the present invention is:
An object recognition tracking unit for recognizing a medicine taken based on image data acquired from an image sensor;
A user identification unit for recognizing a user based on the image data;
A trail sequence management unit for authenticating that the medicine to be taken has been taken correctly,
The trail sequence management unit
Preparations of medication types and doses to be taken are prepared,
The user recognized by the user identification unit matches the person to be taken,
In the image data continuously acquired from the start of taking, the user does not leave the imaging range by the image sensor, and a person other than the user does not enter the imaging range by the image sensor, and the medicine is imaged. When it meets the conditions that it is not lost from the range, it starts detecting the dose,
Based on the image data, the drug to be taken is reduced by a certain amount or more, and by recognizing that the medicine has entered the user's mouth, detecting the user's taking, further, by confirming that there are no residual drug by taking the user, and wherein all of the drug to be the taking subject have rows determination that has been taken by the user, performs the authentication To do.

また、上記課題を解決するため、本発明に係る服用証跡管理システムは、
上述の服用証跡管理端末と、サーバと、医師端末とを備える服用証跡管理システムであって、前記利用者の同意に基づいて、前記認証されたデータを前記医師端末に送信可能であることを特徴とする。
In addition, in order to solve the above problems, a dosage trail management system according to the present invention is:
A dosage trail management system comprising the above-described dosage trail management terminal, a server, and a doctor terminal, wherein the authenticated data can be transmitted to the doctor terminal based on the consent of the user. And

また、上記課題を解決するため、本発明に係る、服用証跡管理方法は、
服用証跡管理端末による服用証跡管理方法であって、
前記服用証跡管理端末が、
画像センサから取得した画像データに基づき、薬剤を認識し、前記服用対象となる服薬種及び服薬量の薬剤準備できたことを検知するステップと、
前記画像データに基づき、利用者を認識するステップと、
記利用者が服用対象者と一致し、且つ、服用開始から継続的に取得された前記画像データにおいて、前記利用者が前記画像センサによる撮影範囲から退去せず、前記利用者以外の者が前記画像センサによる撮影範囲に入らず、前記薬剤が撮影範囲から紛失していないことの条件を確認するステップと、
前記画像データに基づいて、前記服用対象となる前記薬剤が一定量以上減少し、前記薬剤が前記利用者の口腔内に入ったことを画像認識することにより、前記利用者の服用を検出し、さらに、前記利用者の服用によって残薬がないことを確認することにより、前記服用対象となる全ての薬剤が前記利用者により服用されたと判定し、服用対象となる薬剤が正しく服用されたことを認証するステップと
実行することを特徴とする。

Moreover, in order to solve the above-mentioned problem, according to the present invention, a dosage trail management method,
A dosage trail management method using a dosage trail management terminal,
The taking trail management terminal is
Recognizing a drug based on image data acquired from an image sensor , detecting that a drug of the type to be taken and a drug of a dose amount have been prepared;
Recognizing a user based on the image data;
Consistent with previous SL user taking the subject, and, in continuously the acquired image data from the dosing initiation, the user does not leave the imaging range by the image sensor, the non-user person Checking the condition that the imaging sensor does not enter the imaging range and the medicine is not lost from the imaging range;
Based on the image data, the drug to be taken is reduced by a certain amount or more, and by recognizing that the medicine has entered the user's mouth, detecting the user's taking, Further, by confirming that there is no remaining medicine by taking the user, it is determined that all the medicines to be taken are taken by the user, and that the medicine to be taken is correctly taken. Performing the authenticating step.

本発明によれば、服用履歴を正確に記録することができる服用証跡管理端末、服用証跡管理システム及び服用証跡管理方法を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, the taking trail management terminal which can record a dosing history correctly, a taking trail management system, and a taking trail management method can be provided.

本発明の一実施形態に係る服用証跡管理システムの概略構成図である。1 is a schematic configuration diagram of a medication trail management system according to an embodiment of the present invention. 本発明の一実施形態に係るユーザ端末(服用証跡管理端末)の構成を示すブロック図である。It is a block diagram which shows the structure of the user terminal (dosing trail management terminal) which concerns on one Embodiment of this invention. 本発明の一実施形態に係るユーザ端末に接続される画像センサを模式的に示す。1 schematically shows an image sensor connected to a user terminal according to an embodiment of the present invention. 本発明の一実施形態に係る服用証跡管理方法を示す、フローチャートである。It is a flowchart which shows the medication trail management method which concerns on one Embodiment of this invention.

以下、本発明に係る実施形態について、図面を参照して説明する。なお、本実施形態において、ユーザは、一定の手順に従って薬剤の服用を行い、その記録を証跡として残すことにあらかじめ同意しているものとする。   Hereinafter, embodiments according to the present invention will be described with reference to the drawings. In the present embodiment, it is assumed that the user has agreed in advance to take a medicine according to a certain procedure and leave the record as a trail.

図1は、本発明の一実施形態に係る服用証跡管理システム400の構成図である。図1に示す服用証跡管理システム400は、ユーザ端末100(服用証跡管理端末)と、サーバ200と、医師端末300とを備え、これらは例えばインターネット20により接続され、互いに情報の送受信を行うことができる。   FIG. 1 is a configuration diagram of a dosage trail management system 400 according to an embodiment of the present invention. A medication trail management system 400 shown in FIG. 1 includes a user terminal 100 (a medication trail management terminal), a server 200, and a doctor terminal 300, which are connected by, for example, the Internet 20 and can transmit and receive information to and from each other. it can.

ユーザ端末100は、ユーザの自宅等に設置される端末であり、画像センサ10及び生体認証機器11等のセンサを接続して用いられる。ユーザ端末100は、画像センサ10からの画像データ等に基づき各種処理を行う機能部を備える。   The user terminal 100 is a terminal installed at a user's home or the like, and is used by connecting sensors such as the image sensor 10 and the biometric authentication device 11. The user terminal 100 includes a functional unit that performs various processes based on image data from the image sensor 10 and the like.

サーバ200は、ユーザ端末100内で特定ユーザの識別情報、薬剤認識結果及び追跡状態などを統合して生成された、証跡シーケンスデータを受信して、その記憶及び管理を行う。また、サーバ200は、ユーザの服用履歴データの他、ユーザの同意があった場合に、証跡シーケンスデータにおける服用の証跡情報等を医師端末300に送信する。   The server 200 receives the trail sequence data generated by integrating the identification information of the specific user, the drug recognition result and the tracking state in the user terminal 100, and stores and manages the trail sequence data. In addition to the user's medication history data, the server 200 transmits the medication trail information and the like in the trail sequence data to the doctor terminal 300 when the user consents.

医師端末300は、ユーザが受診する病院等に設置される端末である。医師は、この医師端末300を用いてユーザの服用履歴データを参照することができる。また、ユーザ同意(認証)のもとで、服用の証跡情報を閲覧することが出来る。服用履歴データには、手順通りに服用された薬剤についての記録である服用確認記録、及び服用が確認出来なかった薬剤についての記録である損失記録の二種類が含まれる。ユーザが一定の手順を守って薬剤を服用した場合には、システムによって薬剤の服用が自動的に確認され、画像データ及び各種認識情報と合わせて、サーバ200に保存される。医師は、確実に服用した記録として服用確認記録を中心に参照し、診断等に役立てる。服薬コンプライアンス上問題のある時期等がみられる場合には、損失記録を確認したり、ユーザの同意があれば画像データ等の詳細な証跡データを参照することが出来る。   The doctor terminal 300 is a terminal installed in a hospital or the like where a user consults. The doctor can refer to the user's medication history data using the doctor terminal 300. In addition, it is possible to browse the trail information for taking under user consent (authentication). The medication history data includes two types, a medication confirmation record that is a record of medication taken according to the procedure and a loss record that is a record of medication that could not be taken. When a user takes a medicine in accordance with a certain procedure, the medicine is automatically confirmed by the system and stored in the server 200 together with image data and various recognition information. The doctor refers to the confirmation record mainly as a record of taking the medicine, which is useful for diagnosis and the like. When there is a time when there is a problem in medication compliance, the loss record can be confirmed, or detailed trail data such as image data can be referred to with the consent of the user.

次に、ユーザ端末100の構成について詳細に説明する。   Next, the configuration of the user terminal 100 will be described in detail.

図2は、一実施形態に係るユーザ端末100の構成を示す。ユーザ端末100は、証跡シーケンス管理部1と、物体認識追跡部2と、ユーザ識別部3と、送受信部4と、服用データベース5と、ユーザデータベース6と、薬剤データベース7と、調剤データベース8とを備える。なお、図2には、ユーザ端末100と接続して使用する画像センサ10、生体認証機器11、ユーザ通知デバイス12、インターネット20及びサーバ200を合わせて示す。   FIG. 2 shows a configuration of the user terminal 100 according to an embodiment. The user terminal 100 includes a trail sequence management unit 1, an object recognition tracking unit 2, a user identification unit 3, a transmission / reception unit 4, a dose database 5, a user database 6, a drug database 7, and a dispensing database 8. Prepare. In FIG. 2, the image sensor 10, the biometric authentication device 11, the user notification device 12, the Internet 20, and the server 200 that are used in connection with the user terminal 100 are shown together.

証跡シーケンス管理部1は、全体のプロセスを管理し、ユーザの実際の服用行動と画像認識の結果とを結びつけて証跡データを作成し、必要に応じて各機能部に処理の指示を行う。証跡シーケンス管理部1は、リアルタイムで生成される画像データ等に基づいて生成された、ユーザ識別部3からの特定ユーザの識別情報、物体認識追跡部2からの薬剤認識結果、及び追跡状態等を統合し、証跡シーケンスデータを生成する。生成された証跡シーケンスデータは、暗号化された後、送受信部4を経由して適宜サーバ200へ送付され、サーバ200で保管される。また、同時に認識された各薬剤の服用履歴データが生成され、ユーザ端末100内の服用データベース5に格納する他、サーバ200にも送信される。服用履歴データは、手順通りに服用された薬剤についての記録である服用確認記録、及び服用が確認出来なかった薬剤についての記録である損失記録の二種類が含まれる。   The trail sequence management unit 1 manages the entire process, creates the trail data by linking the actual taking action of the user and the result of the image recognition, and instructs each functional unit as necessary. The trail sequence management unit 1 displays identification information of a specific user from the user identification unit 3, a drug recognition result from the object recognition tracking unit 2, a tracking state, and the like generated based on image data generated in real time. Integrate and generate trail sequence data. The generated trail sequence data is encrypted and then sent to the server 200 as appropriate via the transmission / reception unit 4 and stored in the server 200. In addition, medication history data of each medicine recognized at the same time is generated and stored in the medication database 5 in the user terminal 100 and also transmitted to the server 200. The medication history data includes two types: a medication confirmation record that is a record of medication taken according to the procedure, and a loss record that is a record of medication that could not be taken.

また、証跡シーケンス管理部1は、各動作の際に、ユーザに対して様々な情報の通知を行う。これをユーザ通知と呼ぶ。ユーザ通知は、証跡シーケンス管理部1がユーザ通知デバイス12の制御を行うことにより行われる。   Also, the trail sequence management unit 1 notifies the user of various information during each operation. This is called user notification. The user notification is performed by the trail sequence management unit 1 controlling the user notification device 12.

物体認識追跡部2は、薬剤、服用皿、水用コップ及び人間等を画像センサからのデータによって認識し、追跡を行う。薬剤の認識は、薬剤モデルデータとの照合によって行う。本システムで取り扱う必要のある薬剤については、3次元モデルデータを含む薬剤データを事前に薬剤データベース7に登録しておく。またユーザは、使用する専用の服用皿と、服用時に水を飲むためのコップとを、事前にシステムに登録する。これにより画像データからの物体認識の精度を向上させることができる。   The object recognition and tracking unit 2 recognizes and tracks medicines, taking dishes, water cups, humans, and the like based on data from the image sensor. Drug recognition is performed by collation with drug model data. For drugs that need to be handled by this system, drug data including three-dimensional model data is registered in the drug database 7 in advance. In addition, the user registers, in advance, a dedicated serving plate to be used and a cup for drinking water when taking the medicine. Thereby, the accuracy of object recognition from image data can be improved.

認識した薬剤は、経口で服用されたと判定されるか、又は紛失したと判定されるまで、物体認識追跡部2によって、撮影画像を用いて自動追跡される。追跡が中断した場合は、一定時間内に再認識しない限り、紛失したものと判定される。   The recognized medicine is automatically tracked by the object recognition tracking unit 2 using the photographed image until it is determined that it has been taken orally or lost. If the tracking is interrupted, it is determined that it has been lost unless it is recognized again within a fixed time.

物体認識追跡部2によって認識された薬剤の情報は、薬剤認識結果として、証跡シーケンス管理部1に通知される。薬剤認識結果とは、特定の薬剤の種類を表す薬剤IDと、その種類の薬剤と画像認識結果がどれだけ近いかを表す近似スコアの組をリストにしたものである。近似スコアは例えば、最大値を100として、完全に一致した場合に100となり、一致の度合及び撮影状態によってスコアが低下する。一定値(例えば90)以上をリストアップの条件として、90以上に該当する薬剤を前述の通り、薬剤IDと近似スコアの組として全てリストアップする。最も高いスコアの薬剤が認識されたものと判定するが、次点以下の薬剤の情報も、証跡データの一部として記録される。   Information on the drug recognized by the object recognition tracking unit 2 is notified to the trail sequence management unit 1 as a drug recognition result. The drug recognition result is a list of a set of a drug ID representing a type of a specific drug and an approximate score representing how close the type of drug is to the image recognition result. The approximate score is, for example, 100 when the maximum value is 100, and the score decreases depending on the degree of matching and the shooting state. With a certain value (for example, 90) or more as a condition for listing, drugs corresponding to 90 or more are all listed as pairs of drug IDs and approximate scores as described above. Although it is determined that the medicine with the highest score is recognized, information on medicines below the second score is also recorded as part of the trail data.

物体認識追跡部2は、服用皿を認識し、その上に薬剤が置かれているかどうかを監視する。薬剤認識は、認識精度を上げるために主に服用皿上でなされることを想定している。服用皿は置かれたまま使われることを想定しているが、持ち上げたり移動してもよい。但し、撮影領域から外れた場合は、ユーザ通知デバイス12により警告が呈示される。   The object recognition tracking unit 2 recognizes a taking dish and monitors whether or not a medicine is placed thereon. It is assumed that the drug recognition is mainly performed on the taking plate in order to increase the recognition accuracy. Although it is assumed that the dosing plate is used while it is placed, it may be lifted or moved. However, a warning is presented by the user notification device 12 when the user is out of the shooting area.

物体認識追跡部2は、水用のコップを認識し、水量を監視する。薬剤準備完了後に撮影領域から外れた場合には、警告が呈示される。物体認識追跡部2は、画像センサ10でコップを常時監視し、水量の増加を検知することによって、服用手順が開始されたものと判定してもよい。   The object recognition tracking unit 2 recognizes a water cup and monitors the amount of water. A warning is presented if the patient is out of the imaging area after completing the drug preparation. The object recognition tracking unit 2 may determine that the dosing procedure has been started by constantly monitoring the cup with the image sensor 10 and detecting an increase in the amount of water.

物体認識追跡部2は、画像内の人物を認識し、追跡する。画像内で認識された人物の姿勢が常時チェックされ、手や胴体、頭部が画像内に完全に収まっているかどうかが判定される。   The object recognition tracking unit 2 recognizes and tracks a person in the image. The posture of the person recognized in the image is constantly checked to determine whether the hand, torso and head are completely within the image.

物体認識追跡部2は、上述のように、画像上の薬剤を追跡し続けるが、薬剤をユーザが手に持った場合など、一時的に死角に入ることがある。この死角に入った時間が一定時間以内である場合は、紛失ではなく、死角状態として認識され、再度物体認識追跡部2によって、同一薬剤が認識されるまでその状態を維持することが出来る。死角状態の前後で同一の薬剤が認識されなかった場合は、死角状態前に認識された薬剤は紛失したものと判定される。これらの状態は、物体認識追跡部2によって認識された全ての薬剤について管理される。幾つかの薬剤が同時に死角状態に入った場合は、入れ替わりが発生することがある。同一種の薬剤について入れ替わりは厳密には管理しない。これらの状態情報は物体認識追跡部2に随時通知される。   The object recognition tracking unit 2 continues to track the drug on the image as described above, but may temporarily enter the blind spot when the user holds the drug in his / her hand. If the dead angle is within a certain time, it is recognized as a blind spot state, not lost, and can be maintained until the same medicine is recognized by the object recognition tracking unit 2 again. When the same medicine is not recognized before and after the blind spot state, it is determined that the medicine recognized before the blind spot state is lost. These states are managed for all medicines recognized by the object recognition tracking unit 2. If several drugs enter the blind spot state at the same time, replacement may occur. The replacement of the same type of drug is not strictly controlled. Such state information is notified to the object recognition tracking unit 2 as needed.

ユーザ識別部3は、画像センサ10からの画像データ、及び/又は生体認証機器11からのデータに基づいて、ユーザ端末100の利用者を特定する。ユーザ識別部3は、例えば画像センサ10の出力データと予め登録された顔識別データとの照合を行い、特定のユーザかどうかを識別する。ユーザデータベース6に事前登録された特定ユーザであると判定された場合、そのユーザIDを、判定された画像フレームの時刻と共に証跡シーケンス管理部1に通知する。証跡シーケンス管理部1では、ユーザ識別部3において特定されたユーザの識別情報から証跡シーケンスデータが生成され、暗号化された後に送受信部4を経由して適宜サーバ200へ送付される。   The user identification unit 3 identifies the user of the user terminal 100 based on the image data from the image sensor 10 and / or the data from the biometric authentication device 11. The user identification unit 3 collates output data from the image sensor 10 with face identification data registered in advance, for example, and identifies whether the user is a specific user. When it is determined that the user is a specific user registered in advance in the user database 6, the user ID is notified to the trail sequence management unit 1 together with the determined time of the image frame. In the trail sequence management unit 1, trail sequence data is generated from the user identification information specified by the user identification unit 3, encrypted, and then sent to the server 200 as appropriate via the transmission / reception unit 4.

送受信部4は、インターネット20経由でサーバ200等と情報通信を行うためのデータ送受信用インターフェースである。   The transmission / reception unit 4 is a data transmission / reception interface for performing information communication with the server 200 or the like via the Internet 20.

服用データベース5は、証跡シーケンス管理部1が証跡シーケンスデータを生成する際に作成する、認識された各薬剤の服用履歴データを格納する。この服用履歴データには、手順通りに服用された薬剤についての記録である服用確認記録の他に、服用が確認出来なかった薬剤についての記録である損失記録が含まれる。   The medication database 5 stores the medication history data of each recognized drug that is created when the trail sequence management unit 1 creates the trail sequence data. The medication history data includes a loss record, which is a record of a medicine that could not be confirmed, in addition to a medication confirmation record, which is a record of a medicine taken according to the procedure.

ユーザデータベース6は、特定ユーザについての情報を事前に登録しておくための記憶部である。ユーザデータベース6に記憶される情報には、顔情報、指紋情報、声紋情報、静脈情報及び虹彩情報等を含めることができる。   The user database 6 is a storage unit for registering information about a specific user in advance. Information stored in the user database 6 can include face information, fingerprint information, voiceprint information, vein information, iris information, and the like.

薬剤データベース7は、製薬会社等からインターネット20等を経由して提供された各薬剤の情報を格納する。各薬剤は、剤形も含む個別の調剤単位ごとにユニークな薬剤IDによって管理され、名称、剤形、分量、メーカ名、分類、服用の注意事項等の情報に加えて、薬剤の3次元モデルデータを格納する。   The drug database 7 stores information on each drug provided from a pharmaceutical company or the like via the Internet 20 or the like. Each drug is managed by a unique drug ID for each individual dispensing unit, including the dosage form. In addition to information such as name, dosage form, quantity, manufacturer name, classification, and precautions for taking, a three-dimensional model of the drug Store the data.

なお、本実施形態では、製薬会社等からインターネット20を経由して提供された各薬剤の情報を薬剤データベース7に格納するように構成したが、この態様には限定されない。製薬会社等からインターネット20以外の専用線を用いて情報提供を受けてもよいし、利用者等が手動でこれらのデータを格納できるように構成してもよい。   In the present embodiment, information on each drug provided from a pharmaceutical company or the like via the Internet 20 is stored in the drug database 7, but the present invention is not limited to this mode. Information may be received from a pharmaceutical company or the like using a dedicated line other than the Internet 20, or the user may be able to store these data manually.

調剤データベース8は、薬局等からインターネット20等を経由して提供された、ユーザが服用すべき薬剤の調剤情報を格納する。調剤情報とは、医師が作成した処方箋の内容にもとづいて薬剤師又は医師本人が調剤した結果としての薬剤情報を、各ユーザについて各服用時点ごとにまとめたものである。服用時点とは、薬剤を服用するタイミングのことであり、朝食前、夕食後、就寝前、昼食後食間など、食事や睡眠を基準としたものが主体である。食事に関する服用時点としては、朝食、昼食、夕食の3食に対して、食前、食直前、食事中、食直後、食後、食間がそれぞれある。処方時には、毎食後などという一括での服用時点の指示もあるが、調剤データベース8では、毎食後なら朝食後、昼食後、夕食後の3つの服用時点のデータに分解されて格納する。この他に、起床時、就寝前、時間指定(一定時間ごと、も含む)、頓用がある。   The dispensation database 8 stores dispensation information of medicines to be taken by the user, which is provided from a pharmacy or the like via the Internet 20 or the like. Dispensing information is a collection of drug information as a result of dispensing by a pharmacist or a doctor himself / herself based on the content of a prescription created by a doctor for each user at each time point. The time of taking is the timing of taking the drug, and is mainly based on meal and sleep, such as before breakfast, after dinner, before going to bed, and between meals after lunch. As for the time of taking a meal, there are three meals, breakfast, lunch, and dinner, before meal, immediately before meal, during meal, immediately after meal, after meal, and between meals. At the time of prescription, there is an instruction for the time of taking at once, such as after every meal, but in the dispensing database 8, after every meal, it is decomposed and stored into data of three times taken after breakfast, after lunch and after dinner. In addition to this, there are a wake-up time, before going to bed, a time designation (including every fixed time), and an arbitrary use.

調剤データベース8には、頓用以外の予定回数が固定されている服用分については、各日付の服用時点毎に1つのレコードとして、服用すべき薬剤の種類(薬剤ID)と薬剤量とが、服用前に事前に格納されている。   In the dispensation database 8, the amount of medicine to be taken (medicine ID) and the amount of medicine are taken as one record for each taking time point of each date for the amount of time for which the scheduled number of times other than single use is fixed, Stored in advance before taking.

なお、本実施形態では、薬局等からインターネット20等を経由して提供されたユーザが服用すべき薬剤の調剤情報を調剤データベース8に格納するように構成したが、この態様には限定されない。薬剤データベース7と同様に、薬局等からインターネット20以外の専用線を用いて情報提供を受けてもよいし、利用者等が手動でこれらのデータを格納できるように構成してもよい。   In the present embodiment, the dispensing information of the medicine to be taken by the user provided from the pharmacy via the Internet 20 or the like is stored in the dispensing database 8, but the present invention is not limited to this mode. As with the drug database 7, information may be received from a pharmacy or the like using a dedicated line other than the Internet 20, or the user may manually store these data.

次に、ユーザ端末100と接続されて使用される構成要素について説明する。   Next, components used in connection with the user terminal 100 will be described.

画像センサ10は、カラービデオカメラ、深度センサ及び撮影光投影用のプロジェクタ等を組み合わせたものである。画像センサ10は、物体認識追跡部2又はユーザ識別部3からの制御に基づいて、図3に示すように、ユーザ、服用皿、薬剤及びコップ等を撮影し、それらの追跡を行う。また、画像センサ10として多軸センサを組み合わせた統合モーションセンサ等を利用してもよい。   The image sensor 10 is a combination of a color video camera, a depth sensor, and a projector for projecting light projection. Based on the control from the object recognition tracking unit 2 or the user identification unit 3, the image sensor 10 captures and tracks a user, a taking plate, a medicine, a cup, and the like as shown in FIG. 3. Further, an integrated motion sensor combined with a multi-axis sensor may be used as the image sensor 10.

生体認証機器11は、指紋認証、声紋認証、静脈認証、虹彩認証等を行うための機器であり、画像センサ10と共に、ユーザ端末100の利用者を特定する機能を有する。生体認証機器11は、例えば利用者の指紋データと予め登録された特定ユーザの指紋データとの照合を行い、特定のユーザかどうかを識別する。   The biometric authentication device 11 is a device for performing fingerprint authentication, voiceprint authentication, vein authentication, iris authentication, and the like, and has a function of specifying the user of the user terminal 100 together with the image sensor 10. For example, the biometric authentication device 11 compares the fingerprint data of the user with the fingerprint data of a specific user registered in advance, and identifies whether the user is a specific user.

なお、本実施形態では、画像センサ10及び生体認証機器11をユーザ端末100に接続して使用するように構成したが、この態様には限定されない。画像センサ10又は生体認証機器11があらかじめ一体のものとして組み込まれたユーザ端末100を用いるように構成してもよい。   In the present embodiment, the image sensor 10 and the biometric authentication device 11 are configured to be connected to the user terminal 100 for use, but the present invention is not limited to this mode. You may comprise so that the user terminal 100 in which the image sensor 10 or the biometrics authentication apparatus 11 was previously integrated as an integral thing may be used.

ユーザ通知デバイス12は、ユーザに対して様々な情報の通知を行う。ユーザ通知は、証跡シーケンス管理部1がユーザ通知デバイス12の制御を行うことにより行われる。このユーザ通知デバイス12の例としては、ディスプレイ又はLED等の表示装置、スピーカ又はブザー等の音声出力装置、バイブレータによる振動装置などがある。   The user notification device 12 notifies the user of various information. The user notification is performed by the trail sequence management unit 1 controlling the user notification device 12. Examples of the user notification device 12 include a display device such as a display or LED, a sound output device such as a speaker or a buzzer, and a vibration device using a vibrator.

ここで、服用の際の留意事項について簡潔に説明する。   Here, the points to be noted when taking are briefly described.

薬剤の服用に際しては、カメラで服用の様子を撮影記録しているため、ユーザは最後まで顔を隠さないようにしなければならない。そして、ユーザは、通知された顔識別結果が本人であることを確認してから服用を始める。   When taking a medicine, since the state of taking is photographed and recorded by a camera, the user must not hide his face until the end. Then, the user starts taking after confirming that the notified face identification result is the person himself / herself.

ユーザは、服用時に飲用しやすい量ごとに手でつまむか、服用皿ごと持ち上げて、薬剤を口まで運び、口腔内に入れる。この際、長時間死角を作るとシステムが警告するため、できるだけカメラから見えるようにする。   The user picks up the amount that is easy to drink at the time of taking, or lifts up the taking plate, carries the medicine to the mouth, and puts it into the oral cavity. At this time, the system will warn you if you make a blind spot for a long time, so make it visible from the camera as much as possible.

ユーザが服用の最中にカメラの撮影範囲外に入ると、記録がキャンセルされる。また、他の人がカメラに写ると同様にキャンセルされる。それまで服用した分は記録されるが、服用途中のものは服用したことにはならない。   If the user goes out of the shooting range of the camera while taking, the recording is canceled. In addition, if another person appears in the camera, it is canceled in the same way. The amount taken until then is recorded, but if it is in use, it is not taken.

また、途中で薬剤を落としたりしたものは、服用したことにならない。   Also, if you drop a drug on the way, you have never taken it.

次に、一実施形態に係るユーザ端末100の具体的な動作手順について図4のフローチャートにより説明する。   Next, a specific operation procedure of the user terminal 100 according to the embodiment will be described with reference to the flowchart of FIG.

まず、証跡シーケンス管理部1は、準備工程開始のトリガが有るか否かを判定する(ステップS101)。準備工程開始のトリガは、ユーザが服用の準備工程の開始を指示する場合と、システムが自動的に準備工程が開始されたと判定する場合とがある。前者では、ユーザが明示的に、専用のボタン押下又はタブレット等のタッチパネル操作によって、システムに開始を指示する。後者の場合には、服用皿に内蔵する加速度センサ、近接センサの出力、服用皿上の物体認識結果、又は水用コップの水量変化をトリガとして、服用準備が開始したものと判定する。   First, the trail sequence management unit 1 determines whether there is a trigger for starting the preparation process (step S101). The trigger for starting the preparation process includes a case where the user gives an instruction to start a preparation process for taking, and a case where the system automatically determines that the preparation process has started. In the former, the user explicitly instructs the system to start by pressing a dedicated button or operating a touch panel such as a tablet. In the latter case, it is determined that the preparation for taking has started, triggered by the acceleration sensor built in the taking plate, the output of the proximity sensor, the object recognition result on the taking plate, or the change in the amount of water in the water cup.

準備工程が開始されると、ユーザは、薬袋やお薬手帳、薬剤情報提供書などを見て、今回の服用時点で必要な全薬剤を服用皿上に準備する。この際、(i)服用皿の上に無関係な物がないことを確認し、次に(ii)薬袋や薬箱から、服用する薬剤を取り出し、(iii)必要な量をPTPなどの包装から取り出し、服用皿の上に置き、(iv)水用コップに、水を十分な量準備する。なお、この工程は、服用者以外の者が行ってもよい。   When the preparation process is started, the user looks at the medicine bag, the medicine notebook, the medicine information provision form, and the like, and prepares all medicines necessary at the time of taking this time on the taking dish. At this time, (i) Confirm that there are no irrelevant items on the dosing plate, then (ii) take out the medicine to be taken from the medicine bag or medicine box, and (iii) remove the necessary amount from the packaging such as PTP. Remove and place on a dosing pan, and (iv) prepare a sufficient amount of water in a water cup. This process may be performed by a person other than the user.

証跡シーケンス管理部1は、服用対象となる薬剤が準備されているか否かを物体認識追跡部2にスキャンさせる(ステップS102)。物体認識追跡部2は、画像センサ10からのデータを用いた画像認識によって常時服用皿をトラッキングして、薬剤の準備状況を確認する。そして、あらかじめ構築されている薬剤のモデルデータとの比較を行い、近似スコアが一定以上であり且つ最もスコアの高い薬剤であると判定する。いったん薬剤を認識したら、その後はその薬剤オブジェクトに対して物体追跡を行う。認識された薬剤について、ユーザによる確認のための通知を行うことも出来る。   The trail sequence management unit 1 causes the object recognition tracking unit 2 to scan whether or not a medicine to be taken is prepared (step S102). The object recognition tracking unit 2 always tracks the dose tray by image recognition using data from the image sensor 10 and confirms the preparation state of the medicine. And it compares with the model data of the medicine constructed | assembled beforehand, and it determines with an approximate score being more than fixed and having the highest score. Once the drug is recognized, object tracking is performed on the drug object. Notification for confirmation by the user can also be performed for the recognized medicine.

なお、服用皿又は服用皿を置く台にバイブレータを内蔵したり、台に回転機構を備えて、薬剤の置かれる状態(向き、重なり)を調整してもよい。これにより、物体認識結果が良好ではない場合に、バイブレータを作動させることにより皿上の薬剤をならすことができる。特に重なりがあった場合には有効な手段となる。また、ユーザ端末100に接続する画像センサ10としてのカメラ及びプロジェクタを2台以上に増やしてもよい。   In addition, you may adjust a state (orientation, overlap) where a medicine is placed by incorporating a vibrator in the platform for placing the medication tray or the medication tray, or by providing a rotation mechanism in the platform. Thereby, when the object recognition result is not good, the medicine on the dish can be smoothed by operating the vibrator. This is an effective means especially when there is an overlap. Further, the number of cameras and projectors as the image sensor 10 connected to the user terminal 100 may be increased to two or more.

次に、証跡シーケンス管理部1は、現在時刻と、服用データベース5に記憶されている情報から、今回の服用がどの服用予定であるかを判定する(ステップS103)。服用予定とは、夕食後、就寝前等のタイミングと、服用する薬剤の種類と量をセットにした、1回の服用の予定のことである。証跡シーケンス管理部1は、調剤データベース8及び薬剤データベース7の情報を統合し、服用時点における薬剤の候補を抽出する。服用時点の候補に含まれる服用予定の薬剤リストと、準備されている薬剤が一致しているかどうかを判定する(ステップS104)。この時、薬剤が一致しない、又はいずれの薬剤も準備されていない場合は、服用対象の薬剤を準備するようにユーザ通知デバイス12を通じて警告する(ステップS106)。但し、薬剤の不一致が所定回数以上である場合にはステップS106を実行することなく処理を終了する(ステップS105)。次に、証跡シーケンス管理部1は、準備された薬剤量が服用予定の薬剤量に等しいか否かを判定する(ステップS107)。準備された薬剤量の方が多い場合は、その薬剤を戻すように、画面表示や音声、バイブレータなどで通知する(ステップS108)。服用皿表面にディスプレイを装備している場合なら、超過した薬剤のところをマーキングする表示をしてもよい。   Next, the trail sequence management unit 1 determines which dose is scheduled to be taken from the current time and information stored in the dose database 5 (step S103). A dose schedule is a schedule for a single dose after a set of the timing and timing of dinner and before going to bed and the type and amount of the drug to be taken. The trail sequence management unit 1 integrates information in the dispensing database 8 and the drug database 7 and extracts drug candidates at the time of taking. It is determined whether the list of medicines scheduled to be taken included in the candidates for taking time and the prepared medicines match (step S104). At this time, if the medicines do not match or no medicine is prepared, a warning is given through the user notification device 12 to prepare the medicine to be taken (step S106). However, if the drug mismatch is equal to or greater than the predetermined number of times, the process is terminated without executing step S106 (step S105). Next, the trail sequence management unit 1 determines whether or not the prepared medicine amount is equal to the medicine amount scheduled to be taken (step S107). When the amount of the prepared medicine is larger, notification is made by a screen display, voice, vibrator, etc. so as to return the medicine (step S108). If the display surface is equipped with a display, an indication may be made to mark the excess drug.

逆に薬剤が不足している状態の場合、やはり同様に、画面表示や音声、バイブレータなどで通知する(ステップS108)。薬剤が準備されていない場合又は薬剤が不足している場合、薬剤の写真等を呈示するとわかりやすいため、ディスプレイや、皿上の表示装置に呈示して、薬剤の追加準備を促す。これらに加えて、薬剤データベース7からの情報により、薬剤ごとの服用時の注意事項がある場合、適宜その情報をユーザに呈示する。以上の情報提供を服薬ナビゲーションと呼ぶ。   On the other hand, if the medicine is insufficient, notification is similarly made by screen display, voice, vibrator, or the like (step S108). When the medicine is not prepared or when the medicine is insufficient, it is easy to understand if a photograph of the medicine or the like is presented. Therefore, the medicine is presented on a display or a display device on a plate to prompt the preparation for the addition of the medicine. In addition to these, if there are precautions when taking each drug according to information from the drug database 7, the information is appropriately presented to the user. This information provision is called medication navigation.

このような服薬ナビゲーションによって、適宜ユーザに有益な情報提供を行い、服用ミスを回避したり、服用漏れを効果的に防止することができる。   By such medication navigation, it is possible to provide useful information to the user as appropriate, avoiding medication errors, and effectively preventing medication leakage.

服用予定の薬剤が全て準備できたことを検知すると、証跡シーケンス管理部1は、薬剤準備完了のガイドを呈示する(S109)。   When it is detected that all the medicines scheduled to be taken have been prepared, the trail sequence management unit 1 presents a drug preparation completion guide (S109).

次に証跡シーケンス管理部1は、ユーザ識別部3にユーザの認証を開始させる(ステップS110)。ユーザ識別部3は、画像センサ10又は生体認証機器11から取得したデータに基づいて顔認証又は他の生体認証を行う。   Next, the trail sequence management unit 1 causes the user identification unit 3 to start user authentication (step S110). The user identification unit 3 performs face authentication or other biometric authentication based on data acquired from the image sensor 10 or the biometric authentication device 11.

ユーザ識別部3は、ユーザの認証情報と、あらかじめ登録されている服用予定者の情報とが一致するか否かを判定する(ステップS111)。そして、両者が一致する場合には、ユーザ認証が完了した旨のガイドを呈示して(ステップS113)ユーザに実際の薬剤服用を開始させる。   The user identification unit 3 determines whether or not the user authentication information matches the pre-registered information on the intended person (step S111). If the two match, a guide to the effect that user authentication has been completed is presented (step S113), and the user is allowed to start taking actual medicine.

一方、ステップS111において、ユーザの認証情報と、あらかじめ登録されている服用予定者の情報とが一致しないと判定された場合には、再度ユーザ認証を行う。但し、ユーザの認証情報と、服用予定者の情報との不一致が所定回数以上発生した場合には(ステップS112)、処理を終了する。   On the other hand, if it is determined in step S111 that the user authentication information does not match the pre-registered information on the intended user, user authentication is performed again. However, if a mismatch between the user authentication information and the information about the person scheduled to take has occurred a predetermined number of times (step S112), the process ends.

ユーザが薬剤の服用を開始すると、準備された全ての薬剤は、物体認識追跡部2によりそれぞれ画像追跡される。また、物体認識追跡部2は人物を認識し、服用終了までその人体を追跡する。そして、服用開始から服用終了までの間、物体認識追跡部2は、(i)服用者であるユーザが撮影範囲から退去せず、(ii)服用者以外の人物が撮影範囲内で混在しておらず、(iii)薬剤が画面から紛失していないこと、の3条件を継続的に確認する(ステップS114)。(i),(ii)が満たされないとユーザによる様々な詐称が可能になるためであり、(iii)が満たされない場合には、服用されなかった可能性が高いからである。なお、本実施形態では、ユーザが撮影領域から外れる可能性の高い、画面端の領域に入った場合には、画面表示や音声、バイブレータなどで警告をユーザ通知する。   When the user starts taking the medicine, all the prepared medicines are image-tracked by the object recognition tracking unit 2. The object recognition tracking unit 2 recognizes a person and tracks the human body until the end of taking. Then, during the period from the start of taking to the end of taking, the object recognition tracking unit 2 (i) the user who is the user does not leave the shooting range, and (ii) a person other than the user is mixed in the shooting range. (Iii) The three conditions that the medicine is not lost from the screen are continuously confirmed (step S114). This is because if the conditions (i) and (ii) are not satisfied, various misrepresentation by the user is possible. If (iii) is not satisfied, there is a high possibility that the user has not been taken. In the present embodiment, when the user enters an area at the edge of the screen where the user is likely to be out of the shooting area, a warning is notified to the user by screen display, sound, vibrator, or the like.

証跡シーケンス管理部1は、上記3つの条件を継続的に満たしている場合に、服用の検出を開始し、継続して検出を行う(ステップS115)。この服用の検出は、服用皿上の薬剤が一定量以上減少し、薬剤が服用者の口腔内に入ったことを画像認識することにより行う。   When the above three conditions are continuously satisfied, the trail sequence management unit 1 starts detecting the dose and continuously detects it (step S115). The detection of the dose is performed by recognizing an image that the drug on the dose plate has decreased by a certain amount or more and the drug has entered the oral cavity of the user.

証跡シーケンス管理部1は、上記の3条件が満たされることを継続的に確認しつつ(ステップS116)、服用完了したか否かを判定する(ステップS117)。服用完了の判定は、服用皿上の薬剤が服薬量分だけ減少し、薬剤が服用者の口腔内等に入り、服用皿上に残薬がないことの確認により行う。   The trail sequence management unit 1 continuously checks that the above three conditions are satisfied (step S116), and determines whether the dose has been completed (step S117). Judgment of completion of taking is performed by confirming that the amount of medicine on the taking dish is reduced by the amount taken, the medicine enters the oral cavity of the user, and there is no remaining medicine on the taking dish.

なお、上記3つの条件は、服用完了の認証を正確に行うことが出来る範囲において、完全に条件を満たすことを要求されない。例えば、薬剤は画面内に明らかに存在し続け、同一のユーザが画面から一時的に退去する場合などは、服用完了の認証に影響を与えないと判断し、処理を継続する。また、複数の人物が画像センサ10の撮影範囲に存在している時間があったとしても、服用予定者が常に特定できる状態であれば、服用完了の認証に影響を与えないと判断し、処理を継続する。   Note that the above three conditions are not required to completely satisfy the conditions as long as the completion of administration can be accurately performed. For example, when the medicine clearly exists in the screen and the same user temporarily leaves the screen, it is determined that the authentication of taking completion is not affected, and the processing is continued. Further, even if there are times when a plurality of persons exist in the imaging range of the image sensor 10, if it is in a state in which a person who is scheduled to be taken can always be identified, it is determined that there is no effect on the authentication of the completion of taking, Continue.

また、本実施形態では、上記3つの条件を満たす場合に正しく服用が完了したと判定するが、本発明はこの態様には限定されない。服用対象の薬剤の服用を開始してから終了するまでの間、同一のユーザが全ての準備された薬剤を服用したと画像データから判断することが出来れば、他の条件を使って判定を行ってもよい。   In the present embodiment, it is determined that the dose has been correctly completed when the above three conditions are satisfied, but the present invention is not limited to this mode. If it can be judged from the image data that the same user has taken all the prepared medicines from the start to the end of taking the medicine to be taken, the judgment is made using other conditions. May be.

服用完了判定された場合、完了のユーザ通知を行う。また、正しい手順で服用したとして、飲用の動作を全て証跡として動画像記録し、本人確認結果と合わせて一つのデータセットとして記録を行い、処理を終了する。この場合、服用した薬剤の種類と量が時刻とともに正確に記録される。一方、上記3条件のいずれかが満たされない場合(例えば紛失判定された場合)にも、同様に全ての動作を証跡として記録して処理を終了する。この場合、一部の薬剤が服用済みの場合は、そこまでの服用をもって服用履歴情報は中断するが、その一部の薬剤については、正しく服用されて消費されたかどうかを確認することが出来る。   When it is determined that the dose has been completed, the user is notified of the completion. Also, assuming that the medicine is taken according to the correct procedure, all the drinking operations are recorded as a trail, recorded as a single data set together with the identity confirmation result, and the process is terminated. In this case, the type and amount of medicine taken are accurately recorded with time. On the other hand, when any of the above three conditions is not satisfied (for example, when it is determined as lost), all the operations are similarly recorded as a trail and the process is terminated. In this case, if a part of the medicine has been taken, the medication history information is interrupted by taking the medicine so far, but it can be confirmed whether or not the part of the medicine has been taken and consumed correctly.

このように詳細な証跡を保存することで、服用の事実を事後証明することが可能となる。また、服用時にリアルタイムで薬剤を特定することで、飲み忘れ、飲み過ぎをユーザに警告でき、正しい服用を支援することが出来る。   By saving the detailed trail in this way, it becomes possible to prove the fact of taking it afterwards. In addition, by specifying the drug in real time when taking, it is possible to warn the user that he or she has forgotten to drink or drink too much, and can support correct taking.

なお、本実施形態では、画像センサ10としてユーザ端末100に接続したカメラを使用したが、この態様には限定されない。服用者が薬剤を確かに口に入れたことを確認するために、水用コップにカメラを内蔵し、口中にある薬剤を撮影するように構成してもよい。   In the present embodiment, a camera connected to the user terminal 100 is used as the image sensor 10, but the present invention is not limited to this aspect. In order to confirm that the user has surely put the medicine in the mouth, a camera may be built in the water cup and the medicine in the mouth may be photographed.

また、本実施形態では、服用皿の中に薬剤を置いてから服用するようにしているが、服用皿を用いない形態でもよい。この場合、薬剤認識の精度向上のため、服用皿を照らす照明を別途設けたり、服用皿にカメラを内蔵して側面や背面から薬剤を撮影するようにしたり、服用皿に加速度センサを内蔵して、皿上に薬剤が置かれたこと及び服用皿にユーザが触れたことを検知することにより、薬剤の認識タイミングを制御するように構成してもよい。   Further, in this embodiment, the medicine is placed after being placed in the taking dish, but the form without using the taking dish may be used. In this case, in order to improve the accuracy of drug recognition, there is a separate light to illuminate the dosing plate, a camera is built in the dosing plate and the drug is taken from the side and back, and an acceleration sensor is built in the taking plate. The recognition timing of the medicine may be controlled by detecting that the medicine is placed on the dish and that the user touches the taking dish.

また、本実施形態では、ユーザのプライバシー保護のため、証跡シーケンスデータはユーザ認証による同意のもとでのみ医師が閲覧出来る構成としているが、この態様には限定されない。運用ポリシーによっては、アクセス制限を排除したり、より厳格に閲覧制限してもよい。   Further, in this embodiment, in order to protect the privacy of the user, the trail sequence data is configured to be viewed by a doctor only with consent by user authentication, but is not limited to this mode. Depending on the operation policy, access restrictions may be removed or browsing may be restricted more strictly.

このように、本実施形態によれば、服用の開始から完了まで、薬剤及び服用者の追跡を継続して行うため、服用履歴を正確に記録することが出来る。それにより、服薬管理の品質が向上し、結果的に薬物治療の効果を最大化することが出来る。また、正確な服用履歴を踏まえた安全な投薬が可能となる。また、終末期医療における疼痛管理などで麻薬が使用されることがあるが、これらの厳格な管理が必要な薬剤について、正確な使用の記録を残すことが出来るため、適切な残薬管理が可能となる。   As described above, according to the present embodiment, since the medicine and the user are continuously tracked from the start to the end of taking, the taking history can be accurately recorded. Thereby, the quality of medication management is improved, and as a result, the effect of drug treatment can be maximized. In addition, safe medication based on an accurate dosing history becomes possible. In addition, narcotics may be used for pain management in end-of-life care, etc., but since it is possible to record accurate use of these drugs that require strict management, appropriate residual drug management is possible. It becomes.

本発明を諸図面や実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。例えば、各構成部、各ステップなどに含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部やステップなどを1つに組み合わせたり、或いは分割したりすることが可能である。また、本発明について装置を中心に説明してきたが、本発明は装置が備えるプロセッサにより実行される方法、プログラム、又はプログラムを記録した記憶媒体としても実現し得るものであり、本発明の範囲にはこれらも包含されるものと理解されたい。   Although the present invention has been described based on the drawings and examples, it should be noted that those skilled in the art can easily make various modifications and corrections based on the present disclosure. Therefore, it should be noted that these variations and modifications are included in the scope of the present invention. For example, the functions included in each component, each step, etc. can be rearranged so that there is no logical contradiction, and multiple components, steps, etc. can be combined or divided into one It is. Further, although the present invention has been described mainly with respect to the apparatus, the present invention can also be realized as a method, a program executed by a processor included in the apparatus, or a storage medium storing the program, and is within the scope of the present invention. It should be understood that these are also included.

1 証跡シーケンス管理部
2 物体認識追跡部
3 ユーザ識別部
4 送受信部
5 服用データベース
6 ユーザデータベース(記憶部)
7 薬剤データベース(記憶部)
8 調剤データベース(記憶部)
10 画像センサ
11 生体認証機器
12 ユーザ通知デバイス
20 インターネット
100 ユーザ端末(服用証跡管理端末)
200 サーバ
300 医師端末
400 服用証跡管理システム
DESCRIPTION OF SYMBOLS 1 Trail sequence management part 2 Object recognition tracking part 3 User identification part 4 Transmission / reception part 5 Dosing database 6 User database (memory | storage part)
7. Drug database (storage unit)
8 Dispensing database (storage unit)
DESCRIPTION OF SYMBOLS 10 Image sensor 11 Biometric authentication apparatus 12 User notification device 20 Internet 100 User terminal (dosing trail management terminal)
200 server 300 doctor terminal 400 taking trail management system

Claims (7)

画像センサから取得した画像データに基づき、服用された薬剤を認識する物体認識追跡部と、
前記画像データに基づき、利用者を認識するユーザ識別部と、
服用対象となる薬剤が正しく服用されたことを認証する証跡シーケンス管理部と
を備え、
前記証跡シーケンス管理部は、
前記服用対象となる服薬種及び服薬量の薬剤が準備され、
前記ユーザ識別部により認識された前記利用者が服用対象者と一致し、
服用開始から継続的に取得された前記画像データにおいて、前記利用者が前記画像センサによる撮影範囲から退去せず、前記利用者以外の者が前記画像センサによる撮影範囲に入らず、前記薬剤が撮影範囲から紛失していないことの条件を満たしているとき、服用の検出を開始し、
前記画像データに基づいて、前記服用対象となる前記薬剤が一定量以上減少し、前記薬剤が前記利用者の口腔内に入ったことを画像認識することにより、前記利用者の服用を検出し、さらに、前記利用者の服用によって残薬がないことを確認することにより、前記服用対象となる全ての薬剤が前記利用者により服用された旨の判定を行い、前記認証を行うことを特徴とする服用証跡管理端末。
An object recognition tracking unit for recognizing a medicine taken based on image data acquired from an image sensor;
A user identification unit for recognizing a user based on the image data;
A trail sequence management unit for authenticating that the medicine to be taken has been taken correctly,
The trail sequence management unit
Preparations of medication types and doses to be taken are prepared,
The user recognized by the user identification unit matches the person to be taken,
In the image data continuously acquired from the start of taking, the user does not leave the imaging range by the image sensor, and a person other than the user does not enter the imaging range by the image sensor, and the medicine is imaged. When it meets the conditions that it is not lost from the range, it starts detecting the dose,
Based on the image data, the drug to be taken is reduced by a certain amount or more, and by recognizing that the medicine has entered the user's mouth, detecting the user's taking, further, by confirming that there are no residual drug by taking the user, and wherein all of the drug to be the taking subject have rows determination that has been taken by the user, performs the authentication Doing trail management terminal.
前記物体認識追跡部は、認識した薬剤が、経口で服用されたと判定されるか、又は紛失したと判定されるまで、前記画像データを用いて前記薬剤を自動追跡し、追跡が中断して一定時間内に前記薬剤を再認識しないとき、当該薬剤は紛失したものと判定される、請求項1に記載の服用証跡管理端末。 The object recognition tracking unit automatically tracks the drug using the image data until it is determined that the recognized drug has been taken orally or lost, and tracking is interrupted and constant. The medication trail management terminal according to claim 1 , wherein when the drug is not re-recognized in time, the drug is determined to be lost . 前記証跡シーケンス管理部は、前記利用者の識別情報、薬剤認識結果及び追跡状態を統合した証跡シーケンスデータを生成する、請求項1に記載の服用証跡管理端末。   The dosage trail management terminal according to claim 1, wherein the trail sequence management unit generates trail sequence data in which the identification information of the user, a drug recognition result, and a tracking state are integrated. 前記物体認識追跡部は、前記画像データと、薬剤の3次元モデルデータを含む薬剤情報との比較に基づいて、前記服用された服薬種及び服薬量を認識する、請求項1乃至3のいずれか一項に記載の服用証跡管理端末。   The said object recognition tracking part recognizes the said medication type and dosage which were taken based on the comparison with the said image data and the chemical | medical agent information containing the three-dimensional model data of a chemical | medical agent. The taking trail management terminal according to one item. 前記物体認識追跡部は、前記利用者が服薬時に用いる服用皿に内蔵する加速度センサ若しくは近接センサの出力、前記服用皿上の物体の認識結果、又は前記利用者が服薬時に用いる水用コップ内の水量を検知することにより服用準備が開始したものと判定する、請求項1乃至4のいずれか一項に記載の服用証跡管理端末。   The object recognition tracking unit includes an output of an acceleration sensor or a proximity sensor built in a taking dish used by the user at the time of taking medicine, a recognition result of an object on the taking dish, or a water cup used by the user at the time of taking medicine. The dosing trail management terminal according to any one of claims 1 to 4, wherein the dosing preparation is determined to have started by detecting the amount of water. 請求項1に記載の服用証跡管理端末と、サーバと、医師端末とを備える服用証跡管理システムであって、前記利用者の同意に基づいて、前記認証されたデータを前記医師端末に送信可能である、服用証跡管理システム。   A dosage trail management system comprising the dosage trail management terminal according to claim 1, a server, and a doctor terminal, wherein the authenticated data can be transmitted to the doctor terminal based on the consent of the user. There is a medication trail management system. 服用証跡管理端末による服用証跡管理方法であって、
前記服用証跡管理端末が、
画像センサから取得した画像データに基づき、薬剤を認識し、服用対象となる服薬種及び服薬量の薬剤準備できたことを検知するステップと、
前記画像データに基づき、利用者を認識するステップと、
記利用者が服用対象者と一致し、且つ、服用開始から継続的に取得された前記画像データにおいて、前記利用者が前記画像センサによる撮影範囲から退去せず、前記利用者以外の者が前記画像センサによる撮影範囲に入らず、前記薬剤が撮影範囲から紛失していないことの条件を確認するステップと、
前記画像データに基づいて、前記服用対象となる前記薬剤が一定量以上減少し、前記薬剤が前記利用者の口腔内に入ったことを画像認識することにより、前記利用者の服用を検出し、さらに、前記利用者の服用によって残薬がないことを確認することにより、前記服用対象となる全ての薬剤が前記利用者により服用されたと判定し、服用対象となる薬剤が正しく服用されたことを認証するステップと
実行することを特徴とする服用証跡管理方法。
A dosage trail management method using a dosage trail management terminal,
The taking trail management terminal is
Recognizing the drug based on the image data acquired from the image sensor, and detecting that the drug of the type to be taken and the drug of the drug amount have been prepared;
Recognizing a user based on the image data;
Consistent with previous SL user taking the subject, and, in continuously the acquired image data from the dosing initiation, the user does not leave the imaging range by the image sensor, the non-user person Checking the condition that the imaging sensor does not enter the imaging range and the medicine is not lost from the imaging range;
Based on the image data, the drug to be taken is reduced by a certain amount or more, and by recognizing that the medicine has entered the user's mouth, detecting the user's taking, Further, by confirming that there is no remaining medicine by taking the user, it is determined that all the medicines to be taken are taken by the user, and that the medicine to be taken is correctly taken. taking trail management method characterized by performing the step of authenticating.
JP2014112792A 2014-05-30 2014-05-30 Dosing trail management terminal, dosing trail management system, and dosing trail management method Active JP6338454B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014112792A JP6338454B2 (en) 2014-05-30 2014-05-30 Dosing trail management terminal, dosing trail management system, and dosing trail management method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014112792A JP6338454B2 (en) 2014-05-30 2014-05-30 Dosing trail management terminal, dosing trail management system, and dosing trail management method

Publications (2)

Publication Number Publication Date
JP2015228082A JP2015228082A (en) 2015-12-17
JP6338454B2 true JP6338454B2 (en) 2018-06-06

Family

ID=54885530

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014112792A Active JP6338454B2 (en) 2014-05-30 2014-05-30 Dosing trail management terminal, dosing trail management system, and dosing trail management method

Country Status (1)

Country Link
JP (1) JP6338454B2 (en)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7016209B2 (en) * 2016-01-29 2022-02-04 東日本メディコム株式会社 Medical information provision system, server, terminal device, medical information provision method and program
JP6964397B2 (en) * 2016-08-03 2021-11-10 東進電機工業株式会社 Medication support system
WO2018159269A1 (en) 2017-02-28 2018-09-07 富士フイルム株式会社 Medication assist device, medication assist system, medication assist method, and program
ES2942668T3 (en) 2017-03-23 2023-06-05 Bayer Ag Support for patients with repeated medication intake
CN111402987A (en) * 2019-12-31 2020-07-10 武汉星巡智能科技有限公司 Medication reminding method, device and equipment based on visible light video and storage medium
JP7329463B2 (en) * 2020-02-06 2023-08-18 株式会社コンテック drug identification system
CN112037881B (en) * 2020-09-02 2023-11-24 杭州甘道智能科技有限公司 Data sharing system and method
WO2023058165A1 (en) * 2021-10-06 2023-04-13 日本電気株式会社 Medication management device, medication management method, and program
JP7426449B1 (en) 2022-09-21 2024-02-01 三菱電機Itソリューションズ株式会社 Medication support system, medication support method, and medication support program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX349809B (en) * 2011-12-21 2017-08-11 Deka Products Lp Pump system and method for acoustically estimating liquid delivery.
JP5763011B2 (en) * 2012-06-01 2015-08-12 日本電信電話株式会社 Medication information management system and medication information management method

Also Published As

Publication number Publication date
JP2015228082A (en) 2015-12-17

Similar Documents

Publication Publication Date Title
JP6338454B2 (en) Dosing trail management terminal, dosing trail management system, and dosing trail management method
US11728021B2 (en) Pill dispenser
EP2793796B1 (en) System and apparatus for dispensing oral medications
US9144399B2 (en) Medication recording device
US11289182B2 (en) Systems, devices and methods for securing and tracking drug dispensing devices
JP2021502219A (en) Systems, methods, and modules for integrated medication management
KR20160147899A (en) Biometrics for user identification in mobile health systems
CN109068974A (en) Opioid with improved safety and availability feature+equipment combination product
JP2020053078A (en) Medication delivery system and method
US20210264716A1 (en) Individual device and system to dispense pharmaceutical agents to an authorized patient
US20190080791A1 (en) System and method of medication delivery and adherence tracking
CN102483773A (en) Urgent access medication dispensing station
US11304656B2 (en) Wearable device for medication adherence monitoring
KR20130015708A (en) Automatic withdrawal system for prescription drugs
KR20160062664A (en) Medication guide apparatus, medication monitoring support system using the same, and medication guide method
KR20210130030A (en) Medication management device and method for discharging medicines set according to the time of medication
US20190252056A1 (en) Method and apparatus for verifying therapeutic compliance
WO2021152750A1 (en) Medication management system
US20230335250A1 (en) Pill dispenser
WO2019142453A1 (en) Medication management program, medication management apparatus, medication management method, and recording medium
JP2023172867A (en) Medicine delivery support system and medicine delivery support method
EP3818532A1 (en) A medicine reminder system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160912

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170814

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170912

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180508

R150 Certificate of patent or registration of utility model

Ref document number: 6338454

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150