JP7015144B2 - 画像処理装置および顕微鏡システム - Google Patents
画像処理装置および顕微鏡システム Download PDFInfo
- Publication number
- JP7015144B2 JP7015144B2 JP2017205693A JP2017205693A JP7015144B2 JP 7015144 B2 JP7015144 B2 JP 7015144B2 JP 2017205693 A JP2017205693 A JP 2017205693A JP 2017205693 A JP2017205693 A JP 2017205693A JP 7015144 B2 JP7015144 B2 JP 7015144B2
- Authority
- JP
- Japan
- Prior art keywords
- cell
- plane
- image
- longitudinal axis
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/0004—Microscopes specially adapted for specific applications
- G02B21/002—Scanning microscopes
- G02B21/0024—Confocal scanning microscopes (CSOMs) or confocal "macroscopes"; Accessories which are not restricted to use with CSOMs, e.g. sample holders
- G02B21/0052—Optical details of the image generation
- G02B21/0076—Optical details of the image generation arrangements using fluorescence or luminescence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/20—Drawing from basic elements, e.g. lines or circles
- G06T11/206—Drawing of charts or graphs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/08—Volume rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/695—Preprocessing, e.g. image segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10148—Varying focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20092—Interactive image processing based on input by user
- G06T2207/20104—Interactive definition of region of interest [ROI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/008—Cut plane or projection plane definition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/12—Acquisition of 3D measurements of objects
- G06V2201/122—Computational image acquisition in electron microscopy
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
Description
この観察システムにおいては、蛍光または発光シグナルを計測して、その分布や強度から細胞を識別し、識別された細胞の2次元画像を配列して一覧表示するギャラリー表示を利用することによって、測定対象の細胞の目視確認を容易にしている。
しかしながら、各細胞の3次元画像データを2次元化する場合に、細胞の形態的特徴が損なわれてしまい、精度よく観察することが困難になるという不都合がある。
本発明の一態様は、顕微鏡により、細胞集塊に対して焦点位置を異ならせて取得された複数の2次元画像に基づいて、前記細胞集塊を構成している各細胞の3次元画像を生成する3次元画像生成部と、該3次元画像生成部により生成された前記3次元画像を処理して、前記細胞集塊を構成する各細胞について計測・解析する解析部と、該解析部による前記各細胞の特性の分布をグラフ化して表示する解析結果表示部と、該解析結果表示部により表示されたグラフ上において、関心領域をユーザに選択させる関心領域選択部と、該関心領域選択部により選択された前記関心領域に含まれる複数の前記細胞に対応する前記3次元画像から、前記細胞の形状的特徴に基づいて定まる軸を基準とした平面に沿う2次元の表示画像を生成する条件をユーザに入力させる条件設定部と、該条件設定部で設定された条件に基づいて生成された前記細胞の2次元の表示画像を一覧表示するギャラリー生成部とを備える画像処理装置を提供する。
このようにすることで、各細胞の長手軸を基準とした平面に沿う2次元画像を一覧表示することにより、各細胞の形状的特徴を表す画像として意味のある2次元画像どうしを比較可能とし、相互に比較し易く、3次元画像データで取得された各細胞の形態的特徴の目視観察を容易にして、観察精度を向上することができる。
このようにすることで、各細胞の重心位置における横断面を一覧表示することができ、各細胞の形状的特徴を表す画像として意味のある2次元画像どうしを比較可能とし、相互に比較し易くすることができる。
このようにすることで、各細胞の長手軸方向の中央位置における横断面を一覧表示することができ、各細胞の形状的特徴を表す画像として意味のある2次元画像どうしを比較可能とし、相互に比較し易くすることができる。
このようにすることで、各細胞の重心位置における縦断面を一覧表示することができ、各細胞の形状的特徴を表す画像として意味のある2次元画像どうしを比較可能とし、相互に比較し易くすることができる。
このようにすることで、各細胞の各画素の最大値を長手軸に直交する平面に投影した画像を一覧表示することができ、各細胞の形状的特徴を表す画像として意味のある2次元画像どうしを比較可能とし、相互に比較し易くすることができる。
また、上記態様においては、前記平面が、前記長手軸に直交する平面または前記長手軸に沿う平面のうち、前記細胞集塊の重心位置を含む平面であってもよい。
また、上記態様においては、前記平面が、前記長手軸に沿う平面のうち、前記細胞集塊の重心位置を含む平面であってもよい。
また、本発明の他の態様は、上記いずれかの画像処理装置と、前記細胞集塊に対して焦点位置を異ならせた複数の前記2次元画像を取得する顕微鏡とを備える顕微鏡システムを提供する。
本実施形態に係る顕微鏡システム1は、図1に示されるように、レーザ走査型顕微鏡(顕微鏡)3と、レーザ走査型顕微鏡3を制御したり画像を構築したりする制御装置5と、制御装置5により構築された画像を表示するモニタ7と、PC(Personal Computer:画像処理装置)9と、操作者が各種入力を行うマウスやキーボード等の入力部11とを備えている。
スキャナ17は、例えば、相互に直交する軸線回りに揺動させられる2枚のガルバノミラーを対向させて構成されたいわゆる近接ガルバノミラーである。
スキャナ17と対物レンズ19との間には、スキャナ17により走査されたレーザ光を集光する瞳投影レンズ47および結像レンズ49が配置されている。
PC9は、各種プログラムや画像データ、グラフデータ等を記憶するディスク(HDD:Hard Disk Drive)69と、ディスク69に記憶されているプログラムを実行するCPU(Central Processing Unit、3次元画像生成部、解析部、関心領域選択部、解析結果表示部、ギャラリー生成部)71と、CPU71によるプログラムの実行により得られた細胞Sの認識結果や解析結果を記憶するRAM(Random Access Memory)等のメモリ73とを備えている。
また、CPU71は、図8に示されるように、ギャラリー表示に関する条件をユーザに選択させる画面をモニタ7に表示するようになっている。ギャラリー表示に関する条件としては、表示する画像の種類を示す表示モード、表示する画像の細胞Sにおける位置、縦横に一覧表示する際の表示順序、および、表示するチャネルを挙げることができる。
表示順序としては、表示する横断面の大きさ順、最大輝度の大きさ順、平均輝度の大きさ順などを選択することができる。また、順序については昇順と降順を切り替えることができる。
最初に、本実施形態に係る顕微鏡システム1により、細胞Sの3次元画像を取得する場合について説明する。
まず、サンプルホルダ29により容器を保持させて、容器を電動ステージ13上に搭載し、レーザ光源部15からレーザ光を発生させる。
まず、CPU71により、認識プログラムが実行され、ディスク69に記憶されている3次元画像上の個々の細胞Sが認識されて互いに異なるラベルを付されて特定され、図3に示すようなラベル画像と図4に示すようなテーブルが生成される。また、認識された個々の細胞Sの3次元画像が生成される。
そして、CPU71により、ディスク69に記憶されているラベル画像およびテーブルにおいて、関心領域に含まれる全ての細胞Sのラベルが検索される(ステップSA3)。
ユーザが、例えば、図6に示されるように、断面画像、重心位置G、横断面積の大きさ、降順およびチャネルCH1,CH2の両方を選択した場合には、関心領域の指定により、関心領域内に含まれる全ての細胞Sの3次元画像から、図10に示されるように、各細胞Sの長手軸Aおよび重心位置Gが検出され、各細胞Sの長手軸Aに直交し重心位置Gを含む平面(図中、斜線部)に沿う2次元画像、すなわち、各細胞Sの重心位置Gの横断面画像が生成される。
例えば、球状の細胞Sからなる細胞集塊Tまたは球状の3次元の細胞集塊T等の長手軸A,Dを有しない場合には、球体という形状的特徴に基づいてZ軸(光軸方向)を基準とした平面に沿うようにギャラリー表示してもよい。
3 レーザ走査型顕微鏡(顕微鏡)
9 PC(画像処理装置)
71 CPU(解析部、関心領域選択部、解析結果表示部、ギャラリー生成部、3次元画像生成部)
A,D 長手軸(軸)
C 中央位置
G 重心位置
S 細胞
T スフェロイド(細胞集塊)
Claims (15)
- 顕微鏡により、細胞集塊に対して焦点位置を異ならせて取得された複数の2次元画像に基づいて、前記細胞集塊を構成している各細胞の3次元画像を生成する3次元画像生成部と、
該3次元画像生成部により生成された前記3次元画像を処理して、前記細胞集塊を構成する各細胞について計測・解析する解析部と、
該解析部による前記各細胞の特性の分布をグラフ化して表示する解析結果表示部と、
該解析結果表示部により表示されたグラフ上において、関心領域をユーザに選択させる関心領域選択部と、
該関心領域選択部により選択された前記関心領域に含まれる複数の前記細胞に対応する前記3次元画像から、前記細胞の形状的特徴に基づいて定まる軸を基準とした平面に沿う2次元の表示画像を生成する条件をユーザに入力させる条件設定部と、
該条件設定部で設定された条件に基づいて生成された前記細胞の2次元の表示画像を一覧表示するギャラリー生成部とを備える画像処理装置。 - 前記条件設定部が、前記2次元の表示画像を表示する表示条件をユーザに入力させ、
前記ギャラリー生成部が、前記条件設定部で設定された表示条件に基づいて前記2次元の表示画像を一覧表示する請求項1に記載の画像処理装置。 - 前記軸が、前記細胞の長手軸である請求項1または請求項2に記載の画像処理装置。
- 前記平面が、前記長手軸に直交する平面または前記長手軸に沿う平面のうち、前記細胞の重心位置を含む平面である請求項3に記載の画像処理装置。
- 前記平面が、前記長手軸に直交する平面のうち、前記長手軸方向の中央位置を含む平面である請求項3に記載の画像処理装置。
- 前記平面が、前記長手軸に沿う平面のうち、前記細胞の重心位置を含む平面である請求項3に記載の画像処理装置。
- 前記平面が、前記長手軸に直交する平面または前記長手軸に沿う平面であり、
前記表示画像が、前記長手軸方向または前記長手軸方向に直交する方向に沿って配置される各画素の輝度の最大値を前記平面に投影した画像である請求項3に記載の画像処理装置。 - 顕微鏡により、複数の細胞集塊に対して焦点位置を異ならせて取得された複数の2次元画像に基づいて、各前記細胞集塊の3次元画像を生成する3次元画像生成部と、
該3次元画像生成部により生成された前記3次元画像を処理して、前記細胞集塊について計測・解析する解析部と、
該解析部による前記細胞集塊の特性の分布をグラフ化して表示する解析結果表示部と、
該解析結果表示部により表示されたグラフ上において、関心領域をユーザに選択させる関心領域選択部と、
該関心領域選択部により選択された前記関心領域に含まれる複数の前記細胞集塊に対応する前記3次元画像から、前記細胞集塊の形状的特徴に基づいて定まる軸を基準とした平面に沿う2次元の表示画像を生成する条件をユーザに入力させる条件設定部と、
該条件設定部で設定された条件に基づいて生成された前記細胞集塊の2次元の表示画像を一覧表示するギャラリー生成部とを備える画像処理装置。 - 前記条件設定部が、前記2次元の表示画像を表示する表示条件をユーザに入力させ、
前記ギャラリー生成部が、前記条件設定部で設定された表示条件に基づいて前記2次元の表示画像を一覧表示する請求項8に記載の画像処理装置。 - 前記軸が、前記細胞集塊の長手軸である請求項8または請求項9に記載の画像処理装置。
- 前記平面が、前記長手軸に直交する平面または前記長手軸に沿う平面のうち、前記細胞集塊の重心位置を含む平面である請求項10に記載の画像処理装置。
- 前記平面が、前記長手軸に直交する平面のうち、前記長手軸方向の中央位置を含む平面である請求項10に記載の画像処理装置。
- 前記平面が、前記長手軸に沿う平面のうち、前記細胞集塊の重心位置を含む平面である請求項10に記載の画像処理装置。
- 前記平面が、前記長手軸に直交する平面または前記長手軸に沿う平面であり、
前記表示画像が、前記長手軸方向または該長手軸方向に直交する方向に沿って配置される各画素の輝度の最大値を前記平面に投影した画像である請求項10に記載の画像処理装置。 - 請求項1から請求項14のいずれかに記載の画像処理装置と、
前記細胞集塊に対して焦点位置を異ならせた複数の前記2次元画像を取得する顕微鏡とを備える顕微鏡システム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017205693A JP7015144B2 (ja) | 2017-10-25 | 2017-10-25 | 画像処理装置および顕微鏡システム |
US16/160,244 US10690902B2 (en) | 2017-10-25 | 2018-10-15 | Image processing device and microscope system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017205693A JP7015144B2 (ja) | 2017-10-25 | 2017-10-25 | 画像処理装置および顕微鏡システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019078884A JP2019078884A (ja) | 2019-05-23 |
JP7015144B2 true JP7015144B2 (ja) | 2022-02-02 |
Family
ID=66170547
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017205693A Active JP7015144B2 (ja) | 2017-10-25 | 2017-10-25 | 画像処理装置および顕微鏡システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10690902B2 (ja) |
JP (1) | JP7015144B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11422355B2 (en) | 2020-07-22 | 2022-08-23 | Sartorius Bioanalytical Instruments, Inc. | Method and system for acquisition of fluorescence images of live-cell biological samples |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016220613A (ja) | 2015-05-29 | 2016-12-28 | オリンパス株式会社 | 細胞解析方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005119575A2 (en) * | 2004-05-27 | 2005-12-15 | Aperio Technologies, Inc | Systems and methods for creating and viewing three dimensional virtual slides |
WO2009110614A1 (ja) | 2008-03-07 | 2009-09-11 | Kobayashi Yasunobu | エフェクター細胞の機能測定法及び測定用キット並びに測定システム |
JP5560966B2 (ja) * | 2010-07-01 | 2014-07-30 | ソニー株式会社 | 顕微鏡制御装置、画像管理サーバ、画像処理方法、プログラム及び画像管理システム |
JP5655557B2 (ja) * | 2010-07-12 | 2015-01-21 | ソニー株式会社 | 顕微鏡制御装置、画像表示装置、画像管理サーバ、合焦位置情報生成方法、画像表示方法、画像管理方法及び顕微鏡画像管理システム |
DE102012009257B4 (de) * | 2012-05-02 | 2023-10-05 | Leica Microsystems Cms Gmbh | Verfahren zur Ausführung beim Betreiben eines Mikroskops und Mikroskop |
US9151944B2 (en) * | 2012-07-19 | 2015-10-06 | Sony Corporation | Method and apparatus for navigating stacked microscopy images |
KR101400410B1 (ko) * | 2012-08-14 | 2014-05-28 | 이화여자대학교 산학협력단 | 현미경 영상 내 세포 분류 방법 및 장치 |
JP6832165B2 (ja) | 2017-01-16 | 2021-02-24 | オリンパス株式会社 | 観察システム |
WO2018158810A1 (ja) * | 2017-02-28 | 2018-09-07 | 株式会社島津製作所 | 細胞観察装置 |
-
2017
- 2017-10-25 JP JP2017205693A patent/JP7015144B2/ja active Active
-
2018
- 2018-10-15 US US16/160,244 patent/US10690902B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016220613A (ja) | 2015-05-29 | 2016-12-28 | オリンパス株式会社 | 細胞解析方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2019078884A (ja) | 2019-05-23 |
US20190121112A1 (en) | 2019-04-25 |
US10690902B2 (en) | 2020-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9383570B2 (en) | Image analysis method and image analysis apparatus | |
JP2012202761A (ja) | 光干渉断層撮影装置 | |
CN111630366A (zh) | 图像处理方法、程序及记录介质 | |
JP6548965B2 (ja) | 顕微鏡システムおよび顕微鏡観察方法 | |
US20220301155A1 (en) | Fertilized egg development stage determination method, recording medium, imaging method and imaging apparatus | |
JP2013109119A (ja) | 顕微鏡制御装置およびプログラム | |
US20240095910A1 (en) | Plaque detection method for imaging of cells | |
JP7015144B2 (ja) | 画像処理装置および顕微鏡システム | |
EP3528030A1 (en) | Sample observation device and sample observation method | |
JP2019184401A (ja) | 試料観察装置及び試料観察方法 | |
JP6971758B2 (ja) | 観察システム | |
JP6832165B2 (ja) | 観察システム | |
EP1857538B1 (en) | Microscope apparatus and cell observation method | |
JP7382289B2 (ja) | 画像処理方法、プログラムおよび記録媒体 | |
US20230230268A1 (en) | Image display method, image display device and recording medium | |
US20240102912A1 (en) | Plaque counting assay method | |
US20230341748A1 (en) | Method and apparatus for displaying cultured cells | |
EP4123354A1 (en) | Sample observation device and sample observation method | |
JP6978562B2 (ja) | 試料観察装置及び試料観察方法 | |
WO2023007828A1 (ja) | 試料観察装置及び試料観察方法 | |
US20230105170A1 (en) | Pre-scan focus and scan focus methods | |
WO2023189236A1 (ja) | 撮影方法および撮影装置 | |
JP6754408B2 (ja) | 試料観察装置及び試料観察方法 | |
WO2023164780A1 (en) | System and method for imaging histopathology-stained slides using coherent anti-stokes raman spectral imaging | |
JP2010217104A (ja) | 画像解析装置、画像解析方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201023 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20211006 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211012 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211129 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211228 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220121 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7015144 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |