JP6820886B2 - 薬剤のラベルおよび/またはパッケージによって、その薬剤を区分けし識別するための方法およびシステム - Google Patents
薬剤のラベルおよび/またはパッケージによって、その薬剤を区分けし識別するための方法およびシステム Download PDFInfo
- Publication number
- JP6820886B2 JP6820886B2 JP2018142102A JP2018142102A JP6820886B2 JP 6820886 B2 JP6820886 B2 JP 6820886B2 JP 2018142102 A JP2018142102 A JP 2018142102A JP 2018142102 A JP2018142102 A JP 2018142102A JP 6820886 B2 JP6820886 B2 JP 6820886B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- drug
- processed
- generate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 229940079593 drug Drugs 0.000 title claims description 142
- 239000003814 drug Substances 0.000 title claims description 142
- 238000000034 method Methods 0.000 title claims description 139
- 238000004806 packaging method and process Methods 0.000 title description 6
- 230000008569 process Effects 0.000 claims description 65
- 238000012545 processing Methods 0.000 claims description 62
- 238000010801 machine learning Methods 0.000 claims description 41
- 238000006243 chemical reaction Methods 0.000 claims description 17
- 230000009467 reduction Effects 0.000 claims description 6
- 238000007726 management method Methods 0.000 description 15
- 238000012549 training Methods 0.000 description 14
- 238000013135 deep learning Methods 0.000 description 13
- 239000003795 chemical substances by application Substances 0.000 description 5
- 239000000463 material Substances 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 238000012377 drug delivery Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000001788 irregular Effects 0.000 description 4
- 238000011946 reduction process Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- DIWRORZWFLOCLC-HNNXBMFYSA-N (3s)-7-chloro-5-(2-chlorophenyl)-3-hydroxy-1,3-dihydro-1,4-benzodiazepin-2-one Chemical compound N([C@H](C(NC1=CC=C(Cl)C=C11)=O)O)=C1C1=CC=CC=C1Cl DIWRORZWFLOCLC-HNNXBMFYSA-N 0.000 description 2
- 208000007271 Substance Withdrawal Syndrome Diseases 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 229960004391 lorazepam Drugs 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- BUADUHVXMFJVLH-UHFFFAOYSA-N 7-chloro-3-imidazol-1-yl-2H-1,2,4-benzotriazin-1-ium 1-oxide Chemical compound N1[N+](=O)C2=CC(Cl)=CC=C2N=C1N1C=CN=C1 BUADUHVXMFJVLH-UHFFFAOYSA-N 0.000 description 1
- NIXOWILDQLNWCW-UHFFFAOYSA-M Acrylate Chemical compound [O-]C(=O)C=C NIXOWILDQLNWCW-UHFFFAOYSA-M 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000002249 anxiolytic agent Substances 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229940127554 medical product Drugs 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000009512 pharmaceutical packaging Methods 0.000 description 1
- 239000000825 pharmaceutical preparation Substances 0.000 description 1
- 229940127557 pharmaceutical product Drugs 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000003856 thermoforming Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Landscapes
- Medical Preparation Storing Or Oral Administration Devices (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Description
便宜上、本明細書、諸例、および添付の特許請求の範囲中で用いられる特定の用語を本段落にまとめる。本明細書中で別途に定義されている場合を除き、本開示中で用いられる科学および技術用語は、一般的に理解され、当業者によって使われている意味を有するものとする。また、文脈上別途に要求されていなければ、単数用語はその複数形を含み、複数用語は単数形をも含むものとして理解することとする。具体的に、本明細書および特許請求の範囲中で用いられる、単数形「或る(aおよびan)」は、文脈が明瞭に別途に示している場合を除き、複数への言及も含む。また、本明細書および特許請求の範囲で用いられる、用語「少なくとも1つ」と「1つ以上」とは同じ意味を有し、1つ、2つ、3つ、またはそれ以上を含む。
患者介護における最大関心事は薬剤使用の安全性である。正しく処方を満たし薬剤を払い出すことは、患者介護の最重要事項である。ADCなどの従来型自動払い出しシステムは、まだ改良の余地があり、本発明は、前述の問題を取り扱うための、改良されハイライトされたディープラーニング法を提供することを目的としている。さらに、本発明は、臨床スタッフの作業量を低減するため、リアルタイムでの動作システムによる、自動薬剤検証(AMV:automatic medication verification)装置を開発することも目的としている。
本開示の第一態様は、コンピュータ可読ストレージ媒体中に実装された薬剤ライブラリを構築するための方法を対象とする。図1を参照することとする。
(S110)薬剤のパッケージの複数の生画像を受信するステップと、
(S120)組合せ画像を生成するために複数の生画像のうちの2つを並置するステップであって、これら2つの生画像は相互に異なる、ステップと、
(S130)基準画像を生成するために組合せ画像を処理するステップと、
(S140)基準画像を用いて薬剤ライブラリを確立するステップと、
を含む。
(S121)それぞれが画定された輪郭を有する複数の第一処理画像を生成するために、複数の生画像をそれぞれ処理するステップと、
(S122)第一処理画像の各画定された輪郭のコーナーの座標位置を算定するためにそれらコーナーを識別するステップと、
(S123)複数の第二処理画像を生成するために、ステップS122で算定された座標位置に基づいて、ステップS121の第一処理画像の各々を回転するステップと、
(S124)上記ステップS120の組合せ画像を生成するために、第二処理画像の何れか2つを組み合せるステップと、
を含む。
本開示の第二態様は、薬剤のパッケージ(例えばブリスターパッケージ)によって当該薬剤を識別するための方法を対象とする。図2を参照することとする。
(S210)薬剤のブリスターパッケージの前面および背面の画像を同時に取得するステップと、
(S220)候補画像を生成するために、ステップS210からの前面および背面の画像を並置するステップと、
(S230)オプションとして候補画像を薬剤ライブラリ中に移送するステップと、
(S240)候補画像を、前述の方法によって確立された薬剤ライブラリの基準画像と比較するステップと、
(S250)ステップS240の結果を出力するステップと、
を含む。
(S221)それぞれが画定された輪郭を有する2つの第一処理画像を生成するために、前面および背面画像を処理するステップと、
(S222)2つの第一処理画像の各画定された輪郭のコーナーの座標位置を算定するためにそれらコーナーを識別するステップと、
(S223)2つの第二処理画像を生成するために、ステップS222で算定された座標位置に基づいて、ステップS221の2つの第一処理画像の各々を回転するステップと、
(S224)候補画像を生成するために、ステップS223の2つの第二処理画像を組み合せるステップと、
を含む。
本明細書に記載された主題の別の態様において、調薬管理システムが提供される。図3を参照すると、システム300が示され、これは、画像取込デバイス310と、画像プロセッサ320と、機械学習プロセッサ330とを含み、この図では、画像取込デバイス310および機械学習プロセッサ330は、それぞれ画像プロセッサ320に連結されている。画像取込デバイス310は、薬剤のパッケージの複数の画像を取り込むように構成される。いくつかの実施形態において、画像取込デバイス310は、その構造中に、透明ボード3101、および透明ボードの各々の側の上下方に別個に配置された2つの画像取込ユニット3102を含み、このボードはガラスまたはアクリレート系ポリマーで作製することができる。実施において、薬剤は、透明ボード3101の上に置かれ、薬剤パッケージの両面の画像が2つの画像取込ユニット3102によって同時に取り込まれる。典型的には、これら2つの画像取込ユニット3102は、リアルタイムデジタルカメラである。
修正両面画像(RTI:Rectified Two−sided Image)を作成する
現在市販されている250を超える薬剤をマッケイメモリアル病院(台湾、台北)の病院薬局から収集した。薬剤ライブラリのデータベースを構築するために、全薬剤のブリスターパッケージの、できるだけ多くの写真を撮った。画像を、バックグラウンドノイズを最小化するためにトリミングし、画像プロセッサ中にプログラムされたオープンソースコンピュータービジョンライブラリバージョン2(OpenCV2:Open Source Computer Vision2)機能を用いて、各薬剤に対する複数の組み合せ画像(「修正両面画像(RTI)」とも言う)を生成するため処理した。各RTIを、所定のテンプレート(以下、修正両面テンプレートRTT(rectified two−sided template))に合わせ、これに1つの薬剤のブリスターパッケージの両面が包含された。CNNモデルを用いるさらなるディープラーニングプロセスのため、合計18,000のRTIを取得した。
検出対象の薬剤パッケージが、3つの直線辺と1つの湾曲辺によって構成される不規則四角形状の場合、幾何学的推測によって、湾曲辺および未画定のコーナーを算定するためにセントロイドアルゴリズム(表1)を用いた。
この例において、機械学習の目標は、畳み込みニューラルネットワーク(CNN)によって達成された。このために、グラフィックス処理ユニット(GPU:graphics processing unit)によって実行された最小構成バージョンYOLOv2(Tiny YOLOとしても知られる)ニューラルを、各RTIの視認を訓練するために用いた。従来型のYOLOv2の一般的な概念は、1つの画像を複数の格子セルに分割し、境界ボックスを予測するためにアンカーボックスを使用するものである。簡単に言えば、各々が416×416画素サイズを有するRTI画像がネットワークに入力され、次いで該ネットワークで、Tiny YOLOv2ニューラルが各画像中に奇数の格子セルを生成した。これにより、中央には1つだけの格子セル(すなわち、中央格子セル)があることになる。次いで、各格子セルおよびその隣接格子セルが、それらが何らかの特徴的情報を包含しているかどうかを判定するために分析した。例えば、入力画像は13×13の格子セルに分割することができ、これでは5サイズの境界ボックスを予測することができ、各格子セルから返された信頼性スコアを用いて格子セルが分析対象の被写体を包含していたかどうかを判定する。本例では、入力画像は前もってハイライトされ輪郭取りされていて、しかして、従来型Tiny YOLOは最適化されており、これにより識別の効率が向上され、作業コストの低減につながった。詳しくは、各RTIの入力画像は、「フルブリード画像」になるように且つ所定の画素サイズになるように処理していたので、作業のためのアンカーボックスの数は1つに最少化し、アンカーボックスのサイズは7×7格子セルに設定した。これらにより、当機械学習ネットワークは、入力画像のフルサイズの1つの境界ボックスを予測することが必要なだけであった。Tiny YOLOを最適化するための詳細パラメータを表2にリストする。
処理され組み合された画像
本開示のRTIに対する視認効率を検証するために、(無処理で組み合わせられていない)薬剤の生画像および(処理され組み合わせられた)RTIの両方を、ディープラーニングのための訓練モデル(最適化Tiny YOLO)に入力した。訓練の結果を表4に要約する。表4中のデータによれば、本開示の「ハイライトされた」画像は、処理のなかった生画像に比べて、視認の訓練において非常に効率的であった。訓練のF1スコアが高いほど、パッケージ画像の視認におけるディープラーニングネットワークの効率が高い。また、RTTに処理されたRTIは、処理のなかった画像に比べて、その訓練効率が大幅に増大した。
本訓練モデルの効果性を検証するために別の比較を行った。2つの従来型ディープラーニングモデル、ResNet101およびSE−ResNet101を用いてRTIによる訓練モデルを構築した。これらの比較結果を表5に要約する。
実施において、ランダムな薬剤を選び、ガラスで作製された透明ボードを備えた設計されたチャンバ中に置いた。照明のため、透明ボードの周りに光源が配置され、2つのBRIOウェブカメラ(Logitech、米国)を、それらの視野が透明ボードの全域が包含されるのが確実になるようにして該ボードの上下方に別々に配置した。他方で、構築された薬剤ライブラリが、リアルタイムの組み込みコンピューティングデバイス、JETSON(商標)TX2(NVIDIA、米国)に前もって格納しておいた。「開発者キット」と称されるJETSON(商標)TX2は、メモリ、CPU、GPU、USBポート、ウェブアンテナ、およびいくつかの他のコンピューティング要素を含み、これにより、同一のデバイス中で画像処理および機械学習ステップを行うことが可能であった。作動中、ウェブカメラは、USBケーブルによってJETSON(商標)TX2に、選択された薬剤の両側面の画像が、リアルタイムで同時にプロセッサに転送されるように接続した。選ばれた薬剤のブリスターパッケージの2つの生画像は1つのRTIに処理し、その後、RTIは、視認の速度が最高約200FPSのJETSON(商標)TX2中にプログラムされた学習モデルTiny YOLOにかけた。全体の手順(すなわち、画像取込から視認識別まで)に対する時間コストは約6.23FPSである。この識別の結果は、コンピュータ画面または携帯のユーザインターフェースなど、外部の表示デバイス上にリアルタイムで提示されることになる。これにより、外部のユーザは、薬剤がチャンバの中に投入されるのとほぼ同時に識別結果を得ることができる。
Claims (8)
- 薬剤ライブラリを構築するための、コンピュータが実施する方法であって、
(a)薬剤のブリスターパッケージの複数の生画像を受信するステップであって、前記複数の生画像は、前記薬剤のブリスターパッケージの前面の画像および背面の画像を含む、受信するステップと、
(b)前記ブリスターパッケージの前面の画像および背面の画像を示す並置画像を生成するために、前記複数の生画像のうちの2つを並置するステップと、
(c)機械学習アルゴリズムを実行することによって、基準画像を生成するために前記並置画像を処理するステップと、
(d)前記基準画像を用いて、前記薬剤ライブラリを構築するステップと、
を含み、
前記ステップ(b)は、
(b−1)複数の第一処理画像を生成するために、前記ステップ(a)の前記複数の生画像をそれぞれ処理するステップであって、前記第一処理画像の各々は前記ブリスターパッケージの画定された輪郭を有し、前記画定された輪郭は4つのコーナーを有する、処理するステップと、
(b−2)前記第一処理画像の各々に幾何学的推定を適用することによって、前記ステップ(b−1)の前記画定された輪郭の4つのコーナーを識別して、前記4つのコーナーの座標位置を導出するステップと、
(b−3)複数の第二処理画像を生成するために、前記ステップ(b−2)の前記導出された座標位置に基づいて、前記ステップ(b−1)の前記第一処理画像の各々を回転するステップと、
(b−4)前記ステップ(b)の前記並置画像を生成するために、前記ブリスターパッケージの前面の画像および背面の画像をそれぞれ示す前記第二処理画像のうちの2つを並置するステップであって、前記並置画像は、固定テンプレートに適合する、ステップと、
を含む、
コンピュータが実施する方法。 - ステップ(b−1)の前記複数の生画像の各々は、(i)グレースケール変換処理、(ii)ノイズ低減処理、(iii)エッジ識別処理、(iv)凸包処理、および(v)輪郭形成処理の処理に付される、請求項1に記載のコンピュータが実施する方法。
- 前記ステップ(b−2)は、ライン変換アルゴリズムまたはセントロイドアルゴリズムによって実行される、請求項1に記載のコンピュータが実施する方法。
- 薬剤のブリスターパッケージによって薬剤を識別するための、コンピュータが実施する方法であって、
(a)前記薬剤の前記ブリスターパッケージの前面および背面の画像を同時に取得するステップと、
(b)候補画像を生成するために、前記ステップ(a)の前記前面および背面の画像を並置するステップと、
(c)前記候補画像を、請求項1に記載の方法によって構築された薬剤ライブラリの基準画像と比較するステップと、
(d)前記ステップ(c)の結果を出力するステップと、
を含み、
前記ステップ(b)は、
(b−1)2つの第一処理画像を生成するために、前記ステップ(a)の前記前面および背面の画像をそれぞれ処理するステップであって、前記2つの第一処理画像の各々は前記ブリスターパッケージの画定された輪郭を有し、前記画定された輪郭は4つのコーナーを有する、処理するステップと、
(b−2)前記2つの第一処理画像の各々に幾何学的推定を適用することによって、前記ステップ(b−1)の前記画定された輪郭の4つのコーナーを識別して、前記4つのコーナーの座標位置を導出するステップと、
(b−3)2つの第二処理画像を生成するために、前記ステップ(b−2)の前記導出された座標位置に基づいて、前記ステップ(b−1)の前記2つの第一処理画像の各々を回転するステップと、
(b−4)前記ステップ(b)の前記候補画像を生成するために、前記ステップ(b−3)の前記2つの第二処理画像を並置するステップであって、前記候補画像は、固定テンプレートに適合する、ステップと、
を含む、
コンピュータが実施する方法。 - 前記ステップ(b−1)の前記前面および背面の画像は、それぞれ、(i)グレースケール変換処理、(ii)ノイズ低減処理、(iii)エッジ識別処理、(iv)凸包処理、および(v)輪郭形成処理の処理に付される、請求項4に記載のコンピュータが実施する方法。
- 前記ステップ(c)の前に、前記候補画像を前記薬剤ライブラリ中に移送するステップをさらに含む、請求項4に記載のコンピュータが実施する方法。
- 薬剤のブリスターパッケージの複数の画像を取り込むように構成された画像取込デバイスと、
固定テンプレートに適合する候補画像を生成するための方法を実行する命令をプログラムされた画像プロセッサであって、前記方法は、
(1)複数の第一処理画像を生成するために、前記薬剤の前記ブリスターパッケージの前記複数の画像をそれぞれ処理するステップであって、前記第一処理画像の各々は前記ブリスターパッケージの画定された輪郭を有し、前記画定された輪郭は4つのコーナーを有する、処理するステップと、
(2)前記第一処理画像の各々に幾何学的推定を適用することによって、前記ステップ(1)の前記画定された輪郭の4つのコーナーを識別して、前記4つのコーナーの座標位置を導出するステップと、
(3)複数の第二処理画像を生成するために、前記ステップ(2)の前記導出された座標位置に基づいて、前記ステップ(1)の前記第一処理画像の各々を回転するステップと、
(4)前記候補画像を生成するために、前記ステップ(3)の前記第二処理画像のうちの互いに異なる2つを並置するステップと、
を含む、前記画像プロセッサと、
前記候補画像と、請求項1に記載の方法によって構築された薬剤ライブラリの基準画像とを比較するための方法を実行する命令をプログラムされた機械学習プロセッサと、
を含む、調薬管理システム。 - 前記画像取込デバイスは、
前記薬剤が置かれる透明ボードと、
前記透明ボードの各々の側の上方に別々に配置された2つの画像取込ユニットと、
を含む、請求項7に記載のシステム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018142102A JP6820886B2 (ja) | 2018-07-30 | 2018-07-30 | 薬剤のラベルおよび/またはパッケージによって、その薬剤を区分けし識別するための方法およびシステム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018142102A JP6820886B2 (ja) | 2018-07-30 | 2018-07-30 | 薬剤のラベルおよび/またはパッケージによって、その薬剤を区分けし識別するための方法およびシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020018353A JP2020018353A (ja) | 2020-02-06 |
JP6820886B2 true JP6820886B2 (ja) | 2021-01-27 |
Family
ID=69589033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018142102A Active JP6820886B2 (ja) | 2018-07-30 | 2018-07-30 | 薬剤のラベルおよび/またはパッケージによって、その薬剤を区分けし識別するための方法およびシステム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6820886B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPWO2023276118A1 (ja) * | 2021-07-01 | 2023-01-05 | ||
CN114871120B (zh) * | 2022-05-26 | 2023-11-07 | 江苏省徐州医药高等职业学校 | 基于图像数据处理的药品确定分拣方法及装置 |
CN116429976B (zh) * | 2023-04-19 | 2023-11-21 | 北京市永康药业有限公司 | 一种注射剂生产包装质量检测方法及系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8943779B2 (en) * | 2011-04-28 | 2015-02-03 | Yuyama Mfg. Co., Ltd. | Medicine inspection device, and medicine packaging device |
JP6318529B2 (ja) * | 2013-10-04 | 2018-05-09 | キヤノンマーケティングジャパン株式会社 | 情報処理装置およびその制御方法とプログラム |
-
2018
- 2018-07-30 JP JP2018142102A patent/JP6820886B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2020018353A (ja) | 2020-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6820886B2 (ja) | 薬剤のラベルおよび/またはパッケージによって、その薬剤を区分けし識別するための方法およびシステム | |
US20110153341A1 (en) | Methods and systems for use of augmented reality to improve patient registration in medical practices | |
US9530078B2 (en) | Person recognition apparatus and person recognition method | |
Lim et al. | Real-time image-based 6-dof localization in large-scale environments | |
JP6154826B2 (ja) | 自動化された医薬品錠剤の識別 | |
Miller et al. | Interactive 3D model acquisition and tracking of building block structures | |
US9648297B1 (en) | Systems and methods for assisting a user in capturing images for three-dimensional reconstruction | |
KR20210075225A (ko) | 큐보이드 검출을 위한 딥 러닝 시스템 | |
AU2020386867B2 (en) | Item identification and tracking system | |
Lim et al. | Real-time monocular image-based 6-DoF localization | |
US10699162B2 (en) | Method and system for sorting and identifying medication via its label and/or package | |
CN106503684A (zh) | 一种人脸图像处理方法和装置 | |
US20170236304A1 (en) | System and method for detecting a gaze of a viewer | |
US20190318645A1 (en) | Measurement device | |
Panin et al. | Mutual information-based 3d object tracking | |
Čech et al. | Multi-view facial landmark detection by using a 3D shape model | |
Rocca et al. | Head pose estimation by perspective-n-point solution based on 2d markerless face tracking | |
CN113782159B (zh) | 医学图像标记点匹配方法、装置、电子设备及存储介质 | |
Asif et al. | Real-time pose estimation of rigid objects using RGB-D imagery | |
Attamimi et al. | Visual recognition system for cleaning tasks by humanoid robots | |
TWI692356B (zh) | 藉由行動裝置實現的藥片服用輔助方法 | |
WO2020230050A1 (en) | Automated product locker for inventory control | |
Hutton | Dense surface models of the human face | |
TWI731484B (zh) | 經由藥物泡型包裝影像建立藥物資料庫及管理藥物之方法及系統 | |
Nakano | Stereo vision based single-shot 6d object pose estimation for bin-picking by a robot manipulator |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180919 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190716 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191004 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200407 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200706 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201208 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210105 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6820886 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |