BR112021001864B1 - Sistema para geração de uma imagem digital composta de uma amostra biológica - Google Patents

Sistema para geração de uma imagem digital composta de uma amostra biológica Download PDF

Info

Publication number
BR112021001864B1
BR112021001864B1 BR112021001864-6A BR112021001864A BR112021001864B1 BR 112021001864 B1 BR112021001864 B1 BR 112021001864B1 BR 112021001864 A BR112021001864 A BR 112021001864A BR 112021001864 B1 BR112021001864 B1 BR 112021001864B1
Authority
BR
Brazil
Prior art keywords
focal plane
image
objects
ideal
cells
Prior art date
Application number
BR112021001864-6A
Other languages
English (en)
Other versions
BR112021001864A2 (pt
Inventor
Mark Rutenberg
Richard Scott
Robert Tjon
Paul Seltzer
Original Assignee
Cdx Medical Ip, Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cdx Medical Ip, Inc filed Critical Cdx Medical Ip, Inc
Publication of BR112021001864A2 publication Critical patent/BR112021001864A2/pt
Publication of BR112021001864B1 publication Critical patent/BR112021001864B1/pt

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/361Optical details, e.g. image relay to the camera or image sensor
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/571Depth or shape recovery from multiple images from focus
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Stringed Musical Instruments (AREA)
  • Microscoopes, Condenser (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Analysing Materials By The Use Of Radiation (AREA)
  • Dental Preparations (AREA)
  • Materials For Medical Uses (AREA)

Abstract

Um sistema e método para construção de uma digital imagem digital composta de uma amostra biológica tridimensional. O sistema inclui um sistema óptico que captura imagens de células e tecidos apresentados em uma lâmina da amostra. O sistema adquire sistematicamente uma pilha de imagens em diferentes segmentos entre a lâmina da amostra. Para cada segmento, o sistema calcula dinamicamente um plano focal ideal. Uma vez determinado um plano focal ideal para cada uma das pilhas de imagens, o sistema gera uma imagem composta ao copiar os objetos mais nítidos de cada um dos planos focais ideais.

Description

CAMPO DA INVENÇÃO
[001] A presente invenção geralmente se refere à área de diagnósticos clínicos. Mais particularmente, a presente invenção pertence a sistemas e métodos aperfeiçoados para o processamento de imagens microscópicas digitais para facilitar a detecção de tecido e células cancerosos e pré- cancerosos.
ANTECEDENTES DA INVENÇÃO
[002] Os patologistas normalmente utilizam microscópios de alta resolução para examinar amostras teciduais, por exemplo, identificar sinais de câncer ou células pré-cancerosas. Para realizar um diagnóstico preciso e correto, o patologista pode observar as características celulares e teciduais em foco em um microscópio de alta resolução. No entanto, os microscópios de alta resolução usados pelos patologistas apresentam limitações que dificultam a análise de amostras biológicas espessas que apresentam objeto de interesse em diferentes planos.
[003] Especificamente, a lente do microscópio pode ser focada apenas em um único ponto e há uma distância finita à frente e atrás desse ponto focal que pode ser considerada nítida. Essa distância finita é conhecida como a profundidade de campo. Como é bem sabido, os microscópios de alta resolução, como aqueles usados pelos patologistas, apresentam uma profundidade de campo limitada ou estreita. Como resultado, os objetos que aparecem for a de uma determinada profundidade de campo ou plano focal do microscópio ficam borrados e fora de foco, forçando o patologista a alterar manual e continuamente o foco ao visualizar uma amostra espessa. Isso limita a produtividade do patologista e também aumenta a probabilidade de perder uma característica sutil que pode surgir apenas em um plano focal estreito.
[004] Essa limitação é particularmente acentuada na análise de amostras teciduais espessas (por exemplo, aquelas que são mais espessar que a profundidade de campo de uma objetiva de microscópio) ou amostras teciduais irregulares, uma vez que a amostra inteira não pode ser visualizada em um único plano focal. O caráter tridimensional dessas amostras exige o reposicionamento constante para observar as células em diversos contornos da amostra. Como resultado, o patologista não observa a amostra por inteiro em foco, limitando sua capacidade de reconhecer características diagnósticas sutis que se expandem ao longo de diversos planos focais.
[005] Por exemplo, ao obter uma biópsia por escovação sem laceração de um tecido, utiliza-se uma escova que seja suficientemente rígida de modo a penetrar o tecido. No processo de obtenção de uma amostra tecidual de espessura total, os fragmentos teciduais em adição às células únicas e aglomerado celular são obtidos e transferidos para uma lâmina microscópica. A coleção dessas amostras espessas é descrita, por exemplo, na patente norte-americana no 6.258.044.
[006] Essas amostras contêm células únicas, aglomerados de células e fragmentos teciduais e são essencialmente um híbrido entre um esfregaço citológico e as secções histológicas. Essas amostras podem ser, por exemplo, de 20 a 60 mícrons de espessura. No entanto, a profundidade de campo de um microscópio típico de 20x com uma 0,75 NA (Abertura numérica) pode ser de apenas 4 mícrons. Portanto, essas amostras não podem ser facilmente visualizadas e, como resultado, a microscopia convencional não apresenta todas as informações que um patologista precisa ao realizar um diagnóstico (por exemplo, uma imagem que esteja totalmente em foco).
[007] A capacidade de visualizar fragmentos teciduais, em adição a células únicas, conferiria uma vantagem ao patologista que realiza um diagnóstico. Por exemplo, o tecido intacto provê ao patologista informações importantes sobre a arquitetura de um tecido que não estejam disponível nos esfregaços citológicos. Esse benefício é especialmente crítico na avaliação do tecido gastrointestinal, que é um tecido complexo que contém diversos tipos celulares, inclusive, por exemplo, epitélio glandular, escamoso e colunar.
[008] Provê-se uma solução ao problema acima na patente norte-americana no 8.199.997 (doravante, “Patente ‘997”). Essa patente revela sistemas e métodos que compõem uma imagem bidimensional de uma amostra espessa tridimensional. Isso permite ao patologista capturar as informações disponíveis a partir da amostra tridimensional sem as desvantagens associadas a um microscópio convencional. Os sistemas e métodos revelados na Patente ‘997 utilizam técnicas de processamento de profundidade estendida de foco (“EDF”). Como ali descrito, com o processamento EDF, um microscópio automatizado captura um conjunto de lâminas coletadas a intervalos regulares ao longo do eixo z (na mesma localização) e então recupera a partir de cada lâmina aqueles pixels que estão em foco para construir uma única imagem composta a partir do pixels em foco.
[009] Embora a invenção da Patente ‘997 represente uma melhora significativa em relação às técnicas microscópicas convencionais, são necessárias outras melhorias nos sistemas de imagem à base de EDF para visualização de amostras biológicas espessas e semitransparentes. Nesse sentido, os sistemas e métodos EDF convencionais trazem à nitidez todos os elementos da imagem, independente de sua localização em um conjunto de imagens. Esses sistemas e métodos pode realizar isso ao percorrer iterativamente uma coleção de imagens e identificar as porções mais nítidas de cada imagem. Forma-se, então, uma imagem composta usando apenas os pixels localizados nas porções mais nítidas de cada imagem no conjunto de imagem. Esse processo convencional funciona bem com objetos não transparentes ou opacos, onde não é possível visualizar nenhum objeto abaixo da superfície. No entanto, em objetos de imagens semitransparentes, como amostras teciduais, os objetos abaixo da surface são visíveis ao microscópio, o que introduz complexidade adicional.
[010] Especificamente, os sistemas e métodos EDF convencionais colocariam os objetos na superfície e aqueles sob a superfície em foco, fazendo parecer que os objetos superiores e inferiores estão no mesmo plano focal e fazendo com que os objetos parecessem mais próximos entre si do que realmente são. Esses artefatos de imagem indesejáveis podem fazer com que as células pareçam aglomeradas e, portanto, não hígidas, o que poderia alterar significativamente o diagnóstico da área processada pelo patologista e/ou sistema informático, por exemplo, de benigno para displásico (ou seja, pré-canceroso). Quanto a isso, o tecido hígido parecerá ter espaçamento regular entre as células, ao passo que no tecido canceroso o espaçamento entre as células é altamente irregular, ou as células não estão uniformemente alinhadas entre si. O EDF convencional também possui uma tendência natural de dizimar a relação z entre os objetos para potencializar o foco, ao passo que seria desejável preservar o espaçamento entre os núcleos e, assim, o verdadeiro diagnóstico.
[011] Consequentemente, são necessários sistemas e métodos que criem uma imagem composta a partir de uma coleção de imagens enquanto preserva a relação espacial entre os objetos em diferentes planos. Além disso, são necessários sistemas e métodos que identifiquem o plano focal ideal para uma coleção de imagens.
[012] Outro problema com sistemas EDF convencionais é que a ampliação muda conforme a objetiva do microscópio é movida para cima e para baixo entre os planos focais. Em particular, quando a objetiva é movida, novos objetos entrarão em foco, enquanto outros objetos estarão menos evidenciados. Ao mesmo tempo, aqueles objetos menos evidenciados também ficam menores devido às alterações de ampliação. Como resultado, as margens da imagem movem conforme o foco muda e a imagem encolhe consequentemente, possivelmente fazendo com que o algoritmo reconheça cada borda em movimento como uma borda separada em cada plano focal. Isso pode resultar na divisão do sistema de uma única margem em uma “escadaria” de diversas margens adjacentes na imagem composta de EDF. Nessas circunstâncias, as falsas margens “em movimento” podem sobrecarregar a própria imagem e introduzir artefatos de escadaria nas imagens compostas de EDF. Esses artefatos podem, por exemplo, aparecer como flocos brancos na imagem composta.
[013] Nos sistemas EDF, geralmente é vantajoso obter uma pilha de imagens ao longo de um eixo z com degraus grandes entre as imagens (por exemplo, para velocidade elevada no processo de formação de imagem). Esse tamanho de degrau pode ser próximo à profundidade de campo do sistema. Portanto, são necessários sistemas e métodos que preservem as margens do objeto, permitindo ainda grandes degraus entre as imagens.
[014] Além disso, são necessários sistemas e métodos que tirem vantagem das informações diagnósticas valiosas contidas unicamente em uma amostra de biópsia com escova. Por meio de exemplo, um grande número de pacientes nos Estados Unidos e entre o mundo são submetidos a procedimentos endoscópicos, pelos quais um médico observa seções do gastrointestinal alto, do duto biliar e demais áreas do corpo usando um endoscópio. Nesses procedimentos, um médico pode realizar biópsias por pinças e/ou biópsias por escovas para recuperar amostras teciduais para análise laboratorial.
[015] Durante um procedimento de biópsia por pinça, pequenas secções do tecido são excisadas das áreas focadas do esôfago a intervalos determinados. Em um laboratório, os segmentos teciduais excisados são cortados com um micrótomo em lâminas planas para análise por um patologista. Dessa forma, uma patologista que revise essas amostras teciduais convencionais analisar as secções teciduais substancialmente planas em que é necessária uma reorientação mínima.
[016] Durante um procedimento de biópsia por escova, por outro lado, um instrumentos de biópsia com escova que apresenta cerdas duras é usado para fazer a varredura de uma ampla área do tecido e obter uma amostra tecidual de espessura total da ampla área tecidual. A escova de biópsia remove pequenos segmentos teciduais que são transferidos para uma lâmina de amostra substancialmente intacta. Uma vez que esses segmentos teciduais não são cortados (como descrito acima em relação às biópsias por pinça), a arquitetura natural do tecido é mantida. De forma significativa, isso preserva a vista frontal do tecido para observação por um patologista e/ou análise por um sistema informático (ao contrário das preparações teciduais histológicas convencionais em que a vista frontal é destruída devido ao corte tecidual).
[017] A vista frontal do tecido confere informações diagnósticas valiosas. Por exemplo, as células do trato gastrointestinal são organizadas em uma estrutura de treliça que forma uma “colmeia”. Essa arquitetura tecidual hexagonal é típica de células glandulares no corpo, como duto biliar, cólon, mama, etc., e de regiões de transição onde os tecidos escamosos e glandulares se encontram, como as células esofágicas ou endocervicais.
[018] No tecido hígido, os núcleos uniformemente espaçados podem ser observados formando a aparência alveolar. No entanto, na displasia inicial, os núcleos individuais podem se tornar discretamente aumentados e a proporção citoplasmática nuclear normal aumenta. Quando isso ocorre, os núcleos vizinhos crescem mais próximos entre si e começam a se aglomerar. Além disso, em vez de se agruparem em uma colmeia organizada, os núcleos ficam desorganizados e as relações entre as células tornam-se de natureza aleatória. Assim, a presença ou ausência de uma estrutura alveolar e o grau de aglomeração e desorganização são características diagnósticas importantes na detecção de doença em estágio inicial e no discernimento entre condições displásicas e benignas.
[019] Embora as biópsias por escova sejam capazes de obter fragmentos teciduais que retêm a vista frontal do tecido e retêm a estrutura alveolar para observação clínica, as células constituintes que formam a estrutura alveolar geralmente estão localizadas em diferentes planos focais e, dessa forma, o patologista não pode observar a estrutura alveolar em foco. Em vez disso, exige-se que o patologista visualize uma ou mais células a uma primeira distância focal isolada, em seguida visualize uma ou mais células a uma segunda distância focal isolada, e assim por diante. Esse processo manual não é apenas tedioso, também é inseguro. Nesse sentido, o patologista deve se lembrar da relação e distância entre as células a diferentes distâncias focais e então juntar mental todas as informações que observou. Por meio de analogia, em vez de visualizar uma imagem de uma floresta, o patologista é forçado a olhar árvores individuais e tentar construir mentalmente uma imagem da floresta.
[020] As técnicas EDF conhecidas não resultaram na formação adequada da imagem da estrutura alveolar, já que falham em preservar a relação espacial entre as células em amostras espessas e semitransparentes. Como resultado, a estrutura alveolar não claramente visualizada e sua regularidade e potencial anormalidade é mais difícil de avaliar. Em sistemas EDF convencionais, todos os núcleos aparecem no mesmo plano, fazendo assim com que a estrutura alveolar parece mais agrupada, dando ao patologista a falsa impressão de que as células estão se tornando displásicas.
[021] Consequentemente, são necessários sistemas e métodos aperfeiçoados que criem uma vista em foco da estrutura alveolar para análise por um computador e/ou patologista.
SUMÁRIO DA INVENÇÃO
[022] É um objeto da presente invenção prover um Sistema EDF que gere uma imagem composta em foco de uma amostra biológica em que os objetos de imagem diagnosticamente importantes são apresentados em foco e os objetos subjacentes não são destacados.
[023] É outro objeto da invenção determinar uma pluralidade de planos focais ideais para diferentes segmentos da amostra biológica e obter objetos de imagem a partir da pluralidade de planos focais ideais par gerar uma imagem digital composta.
[024] É ainda outro objeto da invenção determinar se uma distância entre as células em um tecido está dentro de uma distância hígida predeterminada, e quando realiza-se tal determinação, tirar a ênfase de objetos de imagem subjacentes a um plano ocupado pelas células dentro da distância hígida predeterminada.
[025] É outro objeto da invenção gerar uma imagem frontal de um tecido em que as células constituintes compreendendo o tecido estejam localizadas em diferentes planos.
[026]BREVE DESCRIÇÃO DOS DESENHOS
[027] As características e vantagens da presente revelação serão mais completamente compreendidas em referência à descrição detalhada a seguir quando em conjunto com as figuras anexas, em que:
[028] A FIG. 1 é uma vista esquemática transversal de uma amostra tecidual representativa cuja imagem foi feita usando um sistema EDF convencional.
[029] A FIG. 2 é uma vista esquemática transversal de uma amostra tecidual representativa cuja imagem foi realizada usando uma realização do sistema EDF aprimorado da presente invenção.
[030] A FIG. 3 é um diagrama em blocos do sistema EDF aprimorado, de acordo com uma realização da presente invenção.
[031] A FIG. 4 é um fluxograma de uma realização do método de processamento EDF aprimorado, de acordo com uma realização da presente invenção.
[032] A FIG. 5 é um diagrama que mostra os elementos de imagens representativas capturadas usando o sistema EDF aprimorado, de acordo com uma realização da presente invenção.
[033] A FIG. 6 é um gráfico que representa uma etapa do método realizado pelo sistema EDF aprimorado, de acordo com uma realização da presente invenção.
[034] A FIG. 7 é um gráfico que representa outra etapa do método realizado pelo sistema EDF aprimorado, de acordo com uma realização da presente invenção.
[035] A FIG. 8A é uma vista esquemática lateral em perspectiva de uma secção tecidual epitelial colunar.
[036] A FIG. 8B é uma vista esquemática superior da secção tecidual da FIG. 8A que mostra um padrão alveolar.
[037] A FIG. 9 mostra uma vista esquemática lateral de uma secção tecidual epitelial colunar em que as células constituintes da secção tecidual ocupam diferentes planos.
[038] A FIG. 10 mostra uma vista esquemática lateral de uma secção tecidual epitelial colunar em que uma série de células ocupa um plano superior e uma célula subjacente ocupa um plano inferior.
[039] A FIG. 11 mostra uma imagem composta de uma amostra tecidual obtida sem o sistema EDF aprimorado, em conformidade com as realizações da invenção.
[040] A FIG. 12 mostra uma imagem composta de amostra tecidual obtida usando o sistema EDF aprimorado, de acordo com uma realização da presente invenção.
[041] A FIG. 13 mostra representações esquemáticas comparativas da área de uma amostra com um “artefato em escadaria” e da mesma área de amostra em que o artefato é eliminado, de acordo com uma realização da presente invenção.
DESCRIÇÃO DETALHADA DA INVENÇÃO
[042] As realizações da presente invenção serão agora descritas em referência às figuras identificadas acima dos Desenhos. No entanto, os Desenhos e a descrição da invenção apresentada pelo presente documento não pretendem limitar o escopo da invenção. Será compreendido que diversas modificações da presente descrição da invenção são possíveis sem se desviar do espírito da invenção. Além disso, as características descritas aqui podem estar omitidas, características adicionais podem ser incluídas e/ou características aqui descritas podem ser combinadas de forma diferente a partir das combinações específicas aqui mencionadas, todas sem se desviar do espírito da invenção.
[043] Como discutido acima, os sistemas EDF convencionais normalmente extraem de forma cega os pixels mais nítidos de cada plano focal ao gerar uma imagem composta. Portanto, quando esses algoritmos são aplicados a amostras biológicas espessas e semitransparentes, não necessariamente levam em consideração quais pixels específicos pertencem a quais objetos específicos e, assim, algumas vezes não podem preservar a disposição espacial desses objetos. Por exemplo, onde diversos objetos ou células estão situados em diferentes planos (mas se sobrepõem), uma imagem composta gerada pelos sistemas EDF convencionais pode parecer representar uma única célula, quando na verdade há diversas células empilhadas umas sobre as outras. Isso se deve à relação especial entre os objetos em diferentes planos não ser sempre preservada quando utiliza-se EDF convencional. Esse problema pode mudar significativamente o diagnóstico da área apresentada pelo patologista e/ou sistema informático, por exemplo, de benigna para displásica (ou seja, pré- cancerosa).
[044] A Figura 1 demonstra a operação de sistemas EDF convencionais. A Amostra 1 é uma amostra tecidual semitransparente com uma profundidade D e contém objetos de interesse (por exemplo, células) 10, 20 e 30. Os objetos 30 estão localizados em um primeiro plano focal (mais próximo à parte superior da amostra), os objetos 20 estão localizados em um segundo plano focal mais baixo e os objetos 10 estão localizados em um terceiro plano focal que está abaixo do segundo plano focal. Os objetos 20 localizados no segundo plano focal sobrepõe os objetos 10 localizados no terceiro plano focal. O resultado de um sistema EDF padrão é mostrado em uma imagem composta 5. Como pode-se observar, os sistemas EDF convencionais extraem de forma cega os pixels que correspondem aos objetos mais nítidos em cada plano focal ao gerar a imagem composta. Os plano EDF convencional 6 não leva em consideração nem preserva a relação espacial dos diversos objetos na amostra 1. Como resultado, os objetos 10 e 20 parecem amontados na imagem composta 5, embora estejam, na verdade, localizados em diferentes planos. Esses objetos podem aparecer incorretamente como uma única célula ou massa na imagem composta 5, o que resultaria em um diagnóstico incorreto por um patologista ou um sistema informático. Nesse sentido, o patologista pode interpretar a imagem composta 5 como displásica, quando meramente inclui células hígidas localizadas em diferentes planos. Portanto, seria desejável se um sistema EDF pudesse prover uma imagem EDF composta com os objetos 20 e 30 em foco, mas os objetos 10 fora do foco.
[045] A operação do sistema EDF aprimorado da presente invenção é demonstrada em referência à Figura 2, que mostra a mesma amostra esquemática da Figura 1. Especificamente, a amostra 1 é uma amostra tecidual semitransparente com uma profundidade D e contém objetos de interesse (por exemplo, células) 10, 20 e 30. Os objetos 30 estão localizados em um primeiro plano focal (mais próximo à parte superior da amostra), os objetos 20 estão localizados em um segundo plano focal (sob os objetos 30) e os objetos 10 estão localizados em um terceiro plano focal (sob os objetos 20). Os objetos 20 sobrepõem os objetos 10. No entanto, em vez de copiar de forma cega os pixels que correspondem aos objetos mais nítidos em cada plano focal para a imagem composta 5, o sistema EDF aprimorado identifica o plano focal ideal 7 na amostra 1. Como resultado, quando a imagem composta 5 é gerada, os objetos 10 não são destacados e a representação espacial dos objetos 10 em relação aos objetos 20 é preservada.
Coleção e Preparação de Amostra:
[046] Embora aplicáveis a muitos campos, descobriu- se que os sistemas e métodos da presente invenção são úteis na análise de amostras teciduais coletadas usando um instrumento de biópsia por escova, para outras preparações de esfregaço e para amostras histológicas tradicionais representadas por imagem a 40X com uma objetiva de alta NA. Como discutido acima, ao obter uma biópsia por escova de um tecido, utiliza-se uma escova suficientemente rígida de modo a penetrar as diversas camadas do tecido (por exemplo, tecido epitelial). No processo de obtenção de uma amostra tecidual de espessura total, coletam-se fragmentos teciduais em adição às células únicas e aglomerados celulares.
[047] Normalmente, na preparação de uma amostra celular para patologia, um médico transferirá e fixará células e/ou tecido a uma lâmina microscópica de vidro. A lâmina é então enviada a um laboratório para processamento adicional e diagnóstico clínico. O processamento adicional pode incluir a coloração da lâmina para potencializar o contraste da amostra (ou características específicas de uma amostra) quando vista sob um microscópio. Esses corantes podem incluir, por exemplo, Feulgen, Papanicolaou, hematoxilina e eosina (H&E), azul de alcian e IHC. Um técnico de laboratório também pode aplicar uma lamela e um rótulo à lâmina. Entre outras coisas, o rótulo pode identificar o tipo de corante aplicado à amostra. Essas informações podem ser representadas em um código de barras ou incorporadas em um dispositivo de rastreamento eletrônico (por exemplo, RFID). Como discutido mais abaixo, em etapas de processamento posteriores, um sistema informático pode ler essas informações para determinar o algoritmo de processamento ideal para aplicar a uma amostra em particular.
[048] Na presente invenção, no entanto, uma lâmina pode ser submetida a processamento adicional antes de ser examinada por um patologista e/ou um sistema informático. Especificamente, as imagens microscópicas digitais capturadas da amostra celular são processadas ainda pelo sistema EDF aprimorado aqui descrito, que produz uma imagem digital aprimorada que preserva diagnosticamente objetos importantes e suas relações espaciais entre si. Isso aumenta a precisão do sistema de análise informática já que artefatos e falsas imagens são reduzidos e os objetos diagnosticamente importantes de interesse são apresentados ao computador em foco.
[049] Um diagrama em blocos do sistema EDF aprimorado 100 da presente invenção é mostrado na Figura 3. O sistema 100 compreende um sistema óptico 40 para obtenção de uma coleção de imagens de uma lâmina. O sistema óptico 40 pode incluir um microscópio de alta potência, um estágio de posicionamento de lâmina e uma câmera. Um aparelho de computador 44 controla o movimento do estágio na direção z para obter um número suficiente de lâminas da imagem para compor uma imagem de uma posição x-y particular. O sistema 100 compreende ainda um dispositivo de armazenamento 42 para armazenar a coleção de imagens. O dispositivo de armazenamento 42 pode compreender um disco rígido ou SSD (unidades de estado sólido) ou outro tipo de dispositivo de memória de alta velocidade. O aparelho de computador 44 (ou diversos computadores trabalhando em conjunto) processa a coleção de imagens da pilha z a fim de gerar a imagem composta aprimorada discutida acima. O aparelho de computador 44 pode utilizar o hardware de processamento de imagem especializado (como uma unidade de processamento gráfico ou “GPU”) para aumentar a velocidade de processamento.
[050] Será compreendido pelos técnicos no assunto que o sistema óptico 40 pode ser configurado para capturar e armazenar uma imagem após cada movimento do estágio, ou pode ser configurado alternativamente para capturar imagens consecutiva e continuamente a intervalos regulares enquanto o estágio se move a uma velocidade constante. Nas realizações da invenção, o último método pode ser mais rápido em criar pilhas z. No entanto, deve-se tomar cuidado para adicionar luz suficiente ao sistema (por exemplo, por meio de um estroboscópio), de modo que o tempo de integração de captura de imagem possa ser mantido a um mínimo. Em outras realizações da invenção, o sistema é configurado para realizar uma compressão com ou sem perdas nas imagens da pilha z e mover a versão comprimida das imagens da pilha z offline (por exemplo, por meio de ethernet) para cálculos EDF mais intensos. Isso é realizado de modo que o processo de captura de pilha z da imagem possa ocorrer em velocidade máxima (restringido por movimentos mecânicos), onde o processamento EDF pode ser realizado paralelamente por diversos computadores. Esse desacoplamento permite máximo rendimento com máxima escalabilidade a um custo mínimo. Todos os movimentos mecânicos são isolados para a parte do digitalizador/imagem, ao passo que a segunda parte é altamente escalonável por meio da adição de computadores adicionais conforme necessário para trabalhar nas pilhas z individuais em um modo round-robin.
[051] Uma realização das etapas de processamento realizadas por um sistema EDF aprimorado é mostrado no fluxograma da Fig. 4.
Coleção de Imagem:
[052] Como mostrado na Etapa S1 da Fig. 4, um sistema óptico obtém uma coleção de lâminas das imagens, cada uma tirada em diferentes profundidades focais (ou planos focais) ao longo de um eixo z (ou seja, o eixo do microscópio). A coleção de imagens são preferencialmente armazenadas na memória do computador onde a CPU possui acesso direto à memória do computador para realizar as operações EDF intensas, ou em outra realização, as imagens da pilha z podem ser armazenadas em um processamento separado ou placa de captura que possui um processador CPU, RISC, GPU ou FPGA separado capaz de realizar operações EDF rápidas. Assim que EDF é concluído, a coleção de imagens é armazenada em um dispositivo de armazenamento de dados (Fig. 3, 42) para recuperação pelo aparelho de computador. O número de imagens na pilha pode depender do número de fatores, incluindo a espessura da amostra em exame e a profundidade de campo da objetiva do microscópio. Geralmente prefere-se usar um intervalo inferior à profundidade de campo da objetiva do microscópio para atender aos critérios de sobreamostragem. Isso garante nitidez consistente em toda a espessura total da amostra. Por exemplo, presumindo que uma amostra tenha 60 um de espessura e uma imagem seja captada a intervalos de 4 um de profundidade focal, pode ser coletado um total de 15 ou mais imagens (ou lâminas).
[053] O intervalo de amostragem pode ser pré- determinado, por exemplo, com base nos dados pré- estabelecidos. Alternativamente, o intervalo de amostragem pode ser determinado dinamicamente pelo sistema informático, por exemplo, ao medir o número de pixels nítidos em cada plano focal e adaptando o processamento quando relativamente poucos pixels nítidos são encontrados. O algoritmo pode ser adaptado ao encerrar prematuramente a digitalização z ou ao estender a digitalização z caso pixels nítidos adicionais ainda forem encontrados, ou ao aumentar a distância z entre os planos focais caso sejam encontrados mínimos pixels nítidos. Quanto menos etapas podem ser tomadas, mais rápido o sistema pode apresentar a imagem EDF final, mas isso deve ser equilibrado com a perda de qualidade de imagem que pode ocorrer caso as etapas sejam muito grandes.
Pré-Processamento:
[054] Em uma realização, as imagens na pilha são convertidas para escala de cinza, como mostrado na Etapa S2 da Fig. 4. Descobriu-se que ao converter cada imagem para escala de cinza, a quantidade de dados da imagem e o processamento associado são significativamente reduzidos sem sacrificar a precisão diagnóstica. Nesse sentido, a conversão para escala de cinza pode ser otimizada para imunocolorações específicas, por exemplo, para H&E ou azul de Alcian. Por exemplo, a deconvolução de cor pode ser usada para potencializar as células imunocoradas e garantir que as cores em particular permaneçam em foco. Em uma realização, o sistema lê automaticamente as informações sobre as colorações aplicadas nas lâminas para determinar o algoritmo de processamento ideal para aplicar a uma amostra em particular.
[055] Em outra realização, em vez de converter as imagens coletadas para a escala de cinza, o sistema EDF aprimorado realiza o processamento EDF diretamente nas imagens coloridas. Por exemplo, o contraste de margem pode ser calculado diretamente a partir das três imagens coloridas RGB como o máximo do contraste vermelho, verde e azul.
[056] Na Etapa S3, podem ser iniciadas diversas estruturas de dados que serão necessárias para o processamento de imagem. Essas podem incluir diversas matrizes bidimensionais, incluindo a matriz de nitidez máxima e a matriz de índice Z, que será discutida mais abaixo. As estruturas de dados alternativas conhecidas pelos técnicos no assunto, como coleções, tabelas ou objetos de dados, podem ser usadas no lugar de matrizes de pixel.
Localizando os objetos mais nítidos na coleção de imagem:
[057] Em referência às Etapas S4, S5 e S6 da Fig. 4, o sistema EDF aprimorado percorre iterativamente a coleção de imagens obtidas de diferentes distâncias focais ao longo de um eixo z a fim de identificar a localização dos objetos mais nítidos na coleção de imagens. Especificamente, iniciando-se na parte superior (ou inferior) da pilha da imagem, o sistema inicializa ao calcular a nitidez dos objetos no primeiro plano da imagem. Os valores de nitidez calculados são armazenados na matriz de nitidez máxima e a matriz de índice Z é preenchida com o índice do plano de imagem inicial (por exemplo, Plano 1, representando o plano mais superior). Para todos os planos subsequentes ao longo do eixo z, o sistema calcula a nitidez para cada pixel ou objeto naquele plano e compara a nitidez dos objetos no novo plano de imagem com aqueles armazenados na matriz de nitidez máxima. Caso seja localizado um novo valor de nitidez máxima, o sistema armazena: (1) o novo valor de nitidez máximo na matriz de nitidez máxima (no lugar do valor máximo antigo) e (2) sua localização (ou seja, o índice da lâmina da imagem na qual está localizado) na matriz de índice z.
Determinando o plano focal ideal:
[058] O sistema EDF aprimorado calcula em seguida o plano focal ideal para a amostra em revisão (Etapa S7). Como discutido acima, essa etapa garante que a relação espacial entre os objetos de interesse na amostra seja mantida. Como resultado da obtenção do plano focal ideal e criação de uma imagem composta usando o plano focal ideal derivado, os objetos de sobreposição são apresentados em foco e os objetos subjacentes são mantidos fora do foco.
[059] Em uma realização da invenção, determina-se o plano focal ideal ao calcular a distância entre as células e determinando se as células estão ou não dentro de uma distância normal ou hígida uma da outra (denominada “distância h” na Fig. 2). Nas realizações da invenção, a distância hígida, ou “distância h” é uma distância predeterminada entre as margens celulares ou entre dois núcleos. Por exemplo, em uma realização da invenção, a distância h é calculada ao medir uma distância entre as margens dos núcleos de células vizinhas, em outra realização a distância h é calculada ao medir a distância entre os centros dos núcleos vizinhos.
[060] No caso de se determinar que duas células estão dentro da distância h, o sistema conclui que as duas células são do mesmo tecido e, dessa forma, o plano ocupado pelas células vizinhas será o plano focal, e as células subjacentes permanecerão fora do foco. No entanto, se a distância entre as duas células é maior que a distância h, o sistema deslocará o plano focal para permitir ambas as células não relacionadas sejam mantidas em foco.
[061] Por exemplo, em referência à FIG. 2, o sistema determinou que a distância entre os objetos 20 (por exemplo, distância A) está dentro da distância h. Portanto, o plano ocupado pelos objetos 20 é selecionado como o plano focal ideal para que o segmento de lâmina e objetos 20 sejam apresentados em foco. Os objetos subjacentes 10, por outro lado, permanecem fora do foco. Contrariamente, a distância B entre o objeto 20’ e o objeto 30’ é determinado como maior que a distância h. Como resultado, o plano focal desloca (para a direita na orientação mostrada) para o segmento da lâmina onde os objetos 30 estão posicionados dentro da distância h um do outro. A distância h pode ser medida pelas unidades métricas lineares ou por números de pixels, de acordo com as realizações da invenção.
[062] Em uma realização da invenção, o plano focal é determinado ao realizar um “fechamento” na matriz do índice z. Um fechamento é o conjunto de operações onde um número predefinido de dilatações em escala de cinza é seguido por um número igual de erosões em escala de cinza. Por exemplo, presumindo-se uma distância h de cinco pixels, o sistema utiliza um elemento de estruturação de cinco pixels, ou realiza diversas iterações para cobrir a distância h. Portanto, as dilatações cobrirão completamente a lacuna da distância h. Depois que a lacuna é preenchida e os pixels no outro lado da lacuna se fundem, quaisquer erosões subsequentes não terão nenhum efeito. No entanto, se a lacuna não for preenchida, as erosões subsequentes restabelecerão as margens às suas posições originais. Assim, o fechamento pode preencher a lacuna completamente (ou seja, produzir o mesmo índice z) e, portanto, não trazer uma imagem subjacente (por exemplo, um núcleo celular) à superfície caso essa imagem exista entre a lacuna. No entanto, se o fechamento não preencher a lacuna e houver um ou mais núcleos subjacentes entre a lacuna, ele trará os núcleos até o limite da superfície. Será compreendido que as erosões e dilatações podem ser realizadas por quaisquer das diversas técnicas conhecidas na técnica anterior, por exemplo, o algoritmo de dilatação/erosão de Gil-Kimmel (vide, Gil, J. Y., & Kimmel, R, Efficient dilation, erosion, opening, and closing algorithms. IEEE Transactions on Pattern Analysis and Machine Intelligence, 24(12), 1606-1617 (2002)).
[063] Portanto, na realização exemplar mostrada na FIG. 2, a distância B entre as células 20’ e 30’ é maior que a distância h. Dessa forma, embora as dilatações estendam a imagem da célula 20’ em todas as direções e também estendam a imagem da célula 30’ em todas as direções, a lacuna entre as respectivas células não será preenchida. Como resultado, após as erosões serem realizadas, as margens originais das células 20’ e 30’ serão restabelecidas e o plano ocupado pelas células 20 não se fundirá com o plano ocupado pelas células 30. Em vez disso, o plano focal desloca-se efetivamente do plano ocupado pelas células 20 para o plano ocupado pelas células 30. Contrariamente, devido à distância entre as células 20 estarem dentro da distância h, as dilatações realizadas nas células 20 terão o efeito de preenchimento das lacunas entre as respectivas células 20, que não será revertido pelas subsequentes erosões. Portanto, o plano ocupado pelas células 20 será determinado como o plano focal e, consequentemente, as células 20 serão apresentadas em foco, ao passo que as células 10 abaixo das lacunas entre as células 20 serão apresentadas fora do foco. Isso garante que a relação especial entre as células 20 e as células mais inferiores 10 são preservadas.
[064] Em uma realização, um núcleo plano aproximadamente circular de 5 x 5 é usado para as erosões e dilatações. Em outra realização, utiliza-se núcleo gaussiano em escala de cinza, como aquele ensinado na referência de Gil-Kimmel supracitada. O número de erosões e dilatações é selecionado para apresentar os objetos subjacentes em foco e manter os objetos subjacentes fora do foco. Devido à determinação de um plano focal ideal ser realizada em resposta às distâncias entre os objetos, o plano focal ideal pode variar conforme o sistema se move entre a distância de uma amostra, concentrando mais na camada do núcleo superior, onde os núcleos são mais visíveis e apresenta as características mais nítidas (a luz é menos difratada próxima à superfície do meio semitransparente), mas ainda capaz de trazer os núcleos mais profundos à superfície.
[065] O resultado do procedimento de dilatação/erosão discutido acima é ilustrado ainda nas Figs. 5 e 6. Na Fig. 5, mostra-se uma pilha de imagens 15, com a imagem I10 posicionada na parte superior da pilha de imagem. As imagens I5 e I1 incluem diversos objetos que estão em foco em cada um desses planos de imagem. Os objetos 20 sobrepõem os objetos 10 no eixo z. Uma porção de uma matriz de índice z representativa 11 gerada a partir da pilha de imagem 15 é mostrada na Fig. 6. Como pode-se observar, a matriz de índice z contém a localização (ou seja, o número de plano de imagem) dos pixels correspondentes aos objetos mais nítidos na pilha de imagem 15 (Fig. 5). Especificamente, a localização dos objetos 20 é indicada por um “5” e a localização dos objetos 10 é indicada por um “1”. Se a imagem composta final tiver que ser compilada a partir da matriz de índice z 11 na Fig. 6 (ou seja, como em EDF convencional), os objetos 10 e 20 apareceriam como um único objeto (ou seja, os objetos 10 aglomerariam os objetos 20). Como discutido acima, isso poderia resultar em um diagnóstico incorreto. Portanto, a relação especial na imagem composta precisa ser preservada para representar precisamente a amostra e realizar um diagnóstico correto.
[066] A Fig. 7 representa a matriz de índice z da Fig. 6 após a realização de diversas dilatações e erosões. Especificamente, os objetos localizados na Imagem I1 foram tirados do foco com sucesso e a relação especial dos objetos foi mantida. Como pode-se observar, apenas os objetos 20, indicados por um “5”, permanecem no Índice 12. Portanto, quando a imagem composta final é compilada, os pixels que, de outro modo, teriam sidos recuperados da Imagem I1, são recuperados da Imagem I5.
[067] Em uma realização, o número de dilatações ou erosões é igual à distância h entres os núcleos no tecido hígido. Como declarado acima, o sistema EDF aprimorado tirará o foco ou não focará os objetos inferiores caso a distância entre os núcleos da camada superior seja inferior à distância h. Por outro lado, caso a distância seja a distância h maior, pode-se presumir que os dois núcleos não sejam do mesmo tecido e, portanto, pode trazer quaisquer objetos de nível inferior em foco de forma segura sem introduzir o efeito de aglomeração discutido acima. Por exemplo, a distância h seria de 5 pixels, ou 18 mícrons.
[068] Descobriu-se que esse processo localizada eficazmente o plano focal ideal para uma coleção de imagens e elimina o efeito de aglomeração indesejável. O sistema descrito aqui pode ser usado para encontrar o plano focal ideal para as estruturas celulares de interesse, como núcleos celulares. No entanto, o sistema pode ser adaptado para focar em outras estruturas de interesse, particularmente bolsões de muco citoplasmático nas células caliciformes e/ou limites da célula para potencializar a detecção de disposições alveolares de células.
[069] Descobriu-se que, para encontrar áreas de muco grandes e brilhantes, o sistema pode realizar dilatações e erosões com núcleos de tamanho maior, como aqueles na faixa de 10x10 a 20x20 (dependendo da resolução da imagem). Esse processo produz uma matriz de índice z para objetos grandes e brilhantes de alto contraste, como regiões de mucina nas células caliciformes. Para encontrar os limites da célula, o algoritmo realiza uma operação morfológica para potencializar as linhas escuras finas (erosões por um elemento de estruturação em anel seguida por dilatação por um elemento de estruturação sólida do mesmo tamanho). Isso produz uma matriz de índice z para linhas escuras finas, como escamas de peixe na superfície apical da célula. As matrizes de índice z podem ser usadas para criar três imagens EDF separadas, permitindo que um usuário visualize diferentes estruturas celulares de interesse em diferentes planos focais. Alternativamente, as três matrizes de índice z podem ser combinadas tomando o índice z com nitidez máxima, então suavizando por um núcleo gaussiano de 5x5.
Geração de imagem composta e pós-processamento:
[070] Como mostrado na Etapa S8, o sistema gera em seguida a imagem composta com base na matriz de índice z (que agora contém a localização dos pixels ideais a serem incluídos na imagem composta) e a coleção original de imagens. Também deve-se compreender que as diversas pilha de imagens poderiam ser obtidas para uma única lâmina, separadamente analisadas (como discutido abaixo) e as imagens compostas resultantes fundidas para formar uma única imagem composta. Ou uma única pilha de imagens pode ser obtida e enviada a diversos algoritmos, cada algoritmo buscando características específicas e cada algoritmo gerando uma imagem composta exclusiva. Por exemplo, um usuário pode selecionar uma imagem composta ideal para células caliciformes, outra imagem composta para células displásica e outra imagem composta para padrões alveolares.
[071] Opcionalmente, diversas operações pós- processamento (Etapa S9) podem ser realizadas na imagem composta. Em uma realização, o pós-processamento inclui uma correção de nitidez, que faz com que as margens do objeto pareçam mais pronunciadas e auxilie no diagnóstico. Em uma realização, a correção de nitidez compreende máscara de nitidez, que é conhecida por tornar as margens mais nítidas sem aumentar o ruído. Geralmente a máscara de nitidez usa uma imagem negative desfocada (por exemplo, desfoque gaussiano) para criar uma máscara da imagem original para identificar áreas de alta e baixa frequência. A máscara é então combinada com a imagem original, criando uma imagem que é mais nítida que a imagem original. As etapas adicionais de pós- processamento incluem filtro guiado, dilatação XYZ, remoção de névoa e interpolação Z, como discutido abaixo.
Análise de Estrutura alveolar
[072] Como descrito, a coleção tecidual de biópsia por escova permite a coleção de fragmentos teciduais que mantêm a vista frontal do tecido intacta. Ou seja, as amostras histológicas convencionais são cortadas e apresentadas como lâminas teciduais a um patologista e, dessa forma, o patologista nunca observa a vista frontal do tecido. A aparência alveolar frontal do tecido fornece informações clínicas importantes exclusivamente disponíveis com a coleção de biópsia por escova. As realizações do sistema EDF aprimorado permitem a observação e análise de uma estrutura alveolar do tecido como um todo, mesmo quando as células constituintes que formam a colmeia podem ocupar diversos planos focais.
[073] A Fig. 8A mostra uma vista esquemática de um fragmento de tecido epitelial glandular 48. Como mostrado, o tecido é formado de células colunares (por exemplo 50) compactado longitudinalmente. Os núcleos das células 52 estão localizados em um segmento inferior das células 50. As células 50 estão localizadas em uma membrana basal 53. As superfícies apicais das células formam a superfície tecidual. Quando visualizado em um microscópio com o foco no nível dos núcleos, os núcleos aparecem em um padrão hexagonal. Quando o foco está na parte superior, as membranas celulares formam um padrão hexagonal de “escamas de peixe”. Quando o foco está entre a superfície superior e os núcleos, as regiões claras de mucina de células caliciformes podem ser observadas mais claramente. A maior parte da observação do patologista é focada no nível dos núcleos, embora as visualizações de nível de mucina e escama de peixe também são usadas para auxiliar um patologista no diagnóstico.
[074] A Fig. 8B mostra uma vista superior do fragmento tecidual da Fig. 8A com o nível de foco nos núcleos das células. Pode-se observar um padrão regular dos núcleos celulares (ou seja, “a colmeia”).
[075] Nas preparações do tecido de biópsia tridimensional por escova, no entanto, as células que formam a colmeia pode estar localizada em diferentes planos focais. A esse respeito, seria impossível visualizar a colmeia no foco sem criar uma imagem composta dela.
[076] Por exemplo, em referência à Fig. 9, os núcleos de células 54 e 60 são mostradas em um primeiro plano focal P1, núcleos de células 56 são mostradas em um plano focal P2 diferente e núcleos de células 58 são mostrado ainda em um plano focal P3 diferente. Quando a objetiva do microscópio é configurada para visualizar os núcleos de células 58 em foco, então os núcleos de células 54, 60 e 56 estarão fora do foco. Quando os núcleos de células 56 estão no foco, então os núcleos de células 58 e células 54 estarão fora do foco. Nesse respeito, um patologista que utiliza um microscópio manual não poderá visualizar todo o padrão alveolar em foco. Os sistemas EDF anteriores não tratam adequadamente desse problema devido a trazer indiscriminadamente todos os núcleos celulares à superfície superior. Dessa forma, os núcleos inferiores associados às células ou tecidos que podem estar subjacentes à colmeia podem ser incluídos na imagem composta, o que pode resultar em um artefato de imagem.
[077] O sistema da invenção, por outro lado, desloca dinamicamente o plano focal para capturar o melhor plano focal para cada segmento da amostra e, como resultado, a estrutura alveolar refletida em foco caso suas células constituintes estejam localizadas em diversos planos focais. Além disso, as células não associadas à colmeia permanecerão fora do foco.
[078] Por exemplo, ainda em referência à Fig. 9, o sistema EDF da invenção selecionará dinamicamente P1 como o plano focal ideal para a seção E da amostra, selecionará P2 como o plano focal ideal para a seção F da amostra, selecionará P3 como o plano focal ideal para a seção G da amostra e selecionará P1 como o plano focal ideal para a seção H da amostra. Além disso, como declarado, o sistema EDF da invenção cria uma imagem composta que tira o foco das características localizadas sob o plano focal ideal calculado. Portanto, onde determina-se um plano focal ideal com base na proximidade de uma série de células superiores, as células que podem estar diretamente sob as células superiores permanecerão fora do foco, preservando assim a relação espacial entre as células superiores e as células inferiores. Por exemplo, na Fig. 10 são mostradas uma série de células 62 com seus respectivos núcleos ocupando plano focal P4. Mostra-se uma célula 64 subjacente às células 62. No entanto, na realização mostrada, a distância entre as células 62 está dentro da distância h e, dessa forma, o plano focal P4 é determinado pelo sistema como o plano focal ideal. Como resultado, a célula subjacente 64 permanecerá fora do foco. Significativamente, as características associadas à célula 64 não serão trazidas à superfície.
[079] Um computador que analisa uma imagem composta resultante será mais preciso e sensível devido a cada uma das células na colmeia estarem presentes no foco e as células subjacentes não causará artefatos de imagem. Do mesmo modo, em vez de analisar células e aglomerados de células em isolamento, a imagem composta provê ao patologista uma vista de Gestalt da colmeia. Isso permite ao patologista analisar as células e aglomerados celulares no contexto de outras células e aglomerados celulares.
[080] A Fig. 11 é uma imagem composta de uma amostra tecidual obtida sem o sistema EDF aprimorado. Como pode-se observar, porções maiores da imagem estão embaçadas e fora do foco. Notavelmente, a estrutura alveolar como um todo não pode ser observada.
[081] A Fig. 12 é uma imagem composta da amostra tecidual obtida usando o sistema EDF aprimorado da presente invenção. Nessa imagem, a estrutura alveolar está em foco. Dessa forma, a colmeia pode ser prontamente observada e analisada por um patologista.
[082] Significativamente, como o sistema EDF aprimorado reflete toda a colmeia, um sistema informático pode realizar análise morfológica para identificar anormalidades na amostra. Por exemplo, descobriu-se que os núcleos celulares podem ser distinguidos do citoplasma. Assim que os núcleos tiverem sido isolados, a distância entre os núcleos (a distância h) pode ser medida. O sistema informático pode então avaliar se a colmeia é normal ou anormal, por exemplo, por meio do cálculo da média e desvio padrão das distâncias h para os vizinhos mais próximos do núcleo e, então cálculo da proporção de núcleos com as distâncias h fora da faixa encontrada no tecido regular hexagonal não displásico. Além disso, a disposição hexagonal pode ser visualizada e avaliada com o plano focal no nível dos limites da célula em vez de no nível dos núcleos, onde a imagem assume uma aparência regular hexagonal de "escama de peixe", sem núcleos distintos, como mostrado na Fig. 11.
Filtro guiado
[083] É vantajoso preservar as margens dos tecidos e estruturas celulares presentes na amostra. No entanto, a média padrão ou outras técnicas de suavização não discriminatórias são incapazes de distinguir as margens. Portanto, nas realizações da invenção, utiliza-se um novo filtro guiado para realizar suavização de preservação de margem precisa sem deslocamento da localização xy dos contornos acentuados na matriz de índice z, que são amostras especialmente precisas e espessas. Com qualquer objetiva que usa uma lente de ampliação, a ampliação muda conforme se distancia do plano focal. Em cada movimento z, o objeto sendo refletido encolhe, fazendo com que falsas margens consequentemente se movam. Usando um filtro guiado, enfatiza- se onde a verdadeira margem está, invalidando assim o efeito da falsa margem. O filtro guiado pode ser aplicado em imagens em escala de cinza ou coloridas. O novo uso do filtro guiado nessa aplicação suaviza a matriz de índice z, que contém a localização z dos pixels mais nítidos. Isso remove dinamicamente o ruído de índice z e é preferido frente outras técnicas de suavização.
Algoritmo de dilatação XYZ
[084] Um potencial efeito indesejado de obtenção de diversas imagens de diversas distâncias focais é o surgimento de margens de artefato que podem surgir com cada ponto focal. Ou seja, com a aquisição de cada lâmina da imagem EDF, os pixels fora de foco adjacentes à verdadeira margem podem apresentarem-se como “falsa” margem. Quando gera-se uma sucessão dessas margens de artefato, podem assumir a aparência de uma escadaria (ou seja, um efeito de escadaria). Por exemplo, a Fig. 13 (a imagem “ANTES”) mostra uma série de margens de artefato 66 formando uma apresentação similar a escadaria em uma imagem composta. Isso pode distorcer a amostra e obscurecer características teciduais ou celulares úteis diagnosticamente importantes.
[085] Nas realizações da invenção, essa questão de escadaria é abordada por um algoritmo de pós-processamento de índice z que é destinado a eliminar as margens de artefato de escadaria causado pela seleção de pixels fora de foco ao realizar as etapas de algoritmo de EDF, como descrito. Isso é atingido pela supressão de diversas margens adjacentes e preservando apenas a margem mais forte. Em uma realização da invenção, isso é atingido pela realização de dilatação com “carregamento” de valores z. Para essa finalidade, o sistema é configurado para determinar uma margem e segue uma rotina ou algoritmo que coloca a potência da margem nos 8 bits superiores de uma imagem de 16 bits, e o índice z do melhor foco nos 8 bits inferiores. Durante a dilatação (por exemplo, dilatação de 12x12), os valores z nos 8 bits inferiores são carregados com o contraste de margem correspondente nos 8 bits superiores, como um efeito colateral do algoritmo de dilatação. Como resultado, as margens adjacentes mais fracas com índices z errôneos são substituídas por margens mais fortes com melhores índices z. A imagem de índice z de melhor foco é então atualizada usando os 8 bits inferiores da imagem dilatada.
[086] Portanto, a Fig. 13 (imagem “ANTES”) mostra uma imagem composta processada com um sistema EDF que não incluiu a característica de “carregamento”, como descrito. Como mostrado, uma série de falsas margens 66 estão presentes na margem do tecido. Na imagem “APÓS”, por outro lado, a mesma amostra é mostrada tendo sido pós-processada usando o algoritmo “carregamento”, como descrito. Como mostrado, os artefatos de escadaria foram eliminados e uma margem verdadeira nítida 68 está presente.
Remoção de névoa
[087] As imagens de microscópio normalmente incluem névoa causada por luz sem foco e dispersa. A remoção de névoa pode ser realizada ao estimar a névoa da imagem e subtraindo a névoa das imagens originais para produzir imagens mais claras nas quais as informações diagnósticas estão mais prontamente visíveis. Em uma realização, o sistema estima a névoa ao erodir uma imagem R,G,B com um núcleo plano aproximadamente circular de 5 x 5, assumindo o valor mínimo da erosão, realizando a filtro de imagem guiada para suavizar a névoa e recortar o contraste de névoa removido para um valor máximo de 32 níveis de cinza (em uma escala de 256).
Interpolação de Z
[088] No sistema EDF descrito, pode haver um grande salto nos valores de índice z de um nível de foco para o próximo, quando na realidade, o nível de foco muda suavemente. Essa discrepância pode resultar artefatos de imagem. Para abordar esse problema, o sistema EDF pode ser configurado para realizar uma rotina de interpolação de z pós-processamento para eliminar esses artefatos. Nessa realização, o sistema determina o tamanho da etapa de foco de microscópio, que pode ser tão grande quanto a profundidade de campo do microscópio, por exemplo, até 4 mícrons para uma lente objetiva de 20x. o algoritmo de interpolação Z estica a matriz de índice Z para aumentar o contraste antes do filtro guiado da matriz de índice Z ser realizada. Isso produz índice z suavizados. O algoritmo então interpola a intensidade da imagem usando os dois melhores níveis de foco vizinhos, atingindo assim uma imagem suave.
[089] Como discutido acima, nos sistemas EDF telecêntrico e não telecêntrico, uma única margem pode aparecer como diversas margens na imagem EDF composta. Descobriu-se que esse problema pode ser abordado por uma ou mais das etapas de processamento acima. Em realizações alternativas, a ordem das etapas pode ser alterada, por exemplo, ao aplicar a dilatação XYZ antes do filtro guiado.
[090] Apesar de essa invenção ter sido descrito em conexão com as realizações destacadas acima, é evidente que muitas alternativas, modificações e variações ficarão evidentes aos técnicos no assunto. Consequentemente, as realizações exemplares da invenção, como estabelecido acima, são destinadas a serem ilustrativas e não limitantes. Diversas alterações podem ser realizadas sem se desviar do espírito e escopo da invenção.

Claims (6)

1. SISTEMA PARA GERAÇÃO DE UMA IMAGEM DIGITAL COMPOSTA DE UMA AMOSTRA BIOLÓGICA, caracterizada por compreender: um aparelho de computador configurado para gerar uma imagem composta da amostra biológica a partir de uma pluralidade de imagens da amostra biológica, cada uma da pluralidade de imagens tirada ao longo de um único eixo, em que o computador: (a) identifica um primeiro plano focal, em que o primeiro plano focal compreende uma primeira distância z, para uma primeira coleção de objetos de imagem em uma primeira localização x-y da amostra biológica, e (b) identifica um segundo plano focal, em que o segundo plano focal compreende uma segunda distância z, para uma segunda coleção de objetos de imagem em uma segunda localização x-y da amostra biológica, e (c) identifica um primeiro plano focal ideal e um segundo plano focal ideal com base em (a) e (b), respectivamente, e (d) combina objetos de imagem de um primeiro plano focal ideal e objetos de imagem de um segundo plano focal ideal e gera a imagem digital composta, em que o aparelho de computador calcula um valor de nitidez para os objetos de imagem no primeiro plano focal e calcula um valor de nitidez para os objetos de imagem no segundo plano focal e gera um mapa bidimensional da localização dos objetos com maiores valores de nitidez, e em que o aparelho de computador identifica um primeiro plano focal ideal e um segundo plano focal ideal para a primeira e segunda pluralidade de objetos de imagem ao realizar uma ou mais dilatações e erosões no mapa bidimensional da localização dos objetos de imagem com os maiores valores de nitidez no primeiro e segundo planos focais, em que o número de erosões e dilatações é proporcional à distância entre os limites da célula no tecido hígido, de modo a identificar assim um primeiro e um segundo plano focal ideal, e em que os objetos de imagem localizados no primeiro plano focal são apresentados em foco e objetos de imagem abaixo do primeiro plano focal ideal não são enfatizados, e em que objetos de imagem localizados no segundo plano focal ideal são apresentados em foco e objetos de imagem abaixo do segundo plano focal ideal não são enfatizados.
2. SISTEMA, de acordo com a reivindicação 1, caracterizado por uma ou mais das imagens na pluralidade de imagens serem imagens coloridas e o aparelho de computador converter a uma ou mais imagens coloridas na pluralidade de imagens para escala de cinza antes da identificação do plano focal ideal para a pluralidade de imagens.
3. SISTEMA, de acordo com a reivindicação 1, caracterizado pela imagem composta incluir uma estrutura alveolar da amostra biológica.
4. SISTEMA, de acordo com a reivindicação 3, caracterizado pela estrutura alveolar estar substancialmente em foco.
5. SISTEMA, de acordo com a reivindicação 1, caracterizado por compreender ainda um microscópio e uma câmera.
6. SISTEMA, de acordo com a reivindicação 5, caracterizado por compreender ainda um estágio de microscópio.
BR112021001864-6A 2018-08-01 2019-08-01 Sistema para geração de uma imagem digital composta de uma amostra biológica BR112021001864B1 (pt)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862713076P 2018-08-01 2018-08-01
US62/713,076 2018-08-01
PCT/US2019/044639 WO2020028648A1 (en) 2018-08-01 2019-08-01 Enhanced extended depth of focusing on biological samples

Publications (2)

Publication Number Publication Date
BR112021001864A2 BR112021001864A2 (pt) 2021-04-27
BR112021001864B1 true BR112021001864B1 (pt) 2022-08-23

Family

ID=69232648

Family Applications (1)

Application Number Title Priority Date Filing Date
BR112021001864-6A BR112021001864B1 (pt) 2018-08-01 2019-08-01 Sistema para geração de uma imagem digital composta de uma amostra biológica

Country Status (11)

Country Link
US (4) US11263735B2 (pt)
EP (1) EP3830749B1 (pt)
JP (2) JP7166456B2 (pt)
KR (2) KR102466218B1 (pt)
CN (1) CN112789622A (pt)
AU (2) AU2019312657B2 (pt)
BR (1) BR112021001864B1 (pt)
CA (1) CA3107949A1 (pt)
ES (1) ES2948295T3 (pt)
IL (2) IL280503B (pt)
WO (1) WO2020028648A1 (pt)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019077610A1 (en) * 2017-10-19 2019-04-25 Scopio Labs Ltd. DEPTH DETECTION BASED ON DEPTH
EP3830749B1 (en) * 2018-08-01 2023-05-31 CDx Medical IP, Inc. Enhanced extended depth of focusing on biological samples
US11983874B1 (en) 2023-07-25 2024-05-14 Pramana, Inc. Imaging device and a method for image generation of a specimen

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003088150A1 (en) * 2002-04-09 2003-10-23 University Of Iowa Research Foundation Reconstruction and motion analysis of an embryo
US20050036702A1 (en) * 2003-08-12 2005-02-17 Xiaoli Yang System and method to enhance depth of field of digital image from consecutive image taken at different focus
US7456377B2 (en) 2004-08-31 2008-11-25 Carl Zeiss Microimaging Ais, Inc. System and method for creating magnified images of a microscope slide
WO2009026258A1 (en) 2007-08-17 2009-02-26 Oral Cancer Prevention International Inc. Feature dependent extended depth of focusing on semi-transparent biological specimens
US20110090327A1 (en) 2009-10-15 2011-04-21 General Electric Company System and method for imaging with enhanced depth of field
JP2013516650A (ja) 2009-12-31 2013-05-13 アボット ポイント オブ ケア インコーポレイテッド 生物検体を高速フォーカス撮像する方法及び装置
JP5780865B2 (ja) 2011-07-14 2015-09-16 キヤノン株式会社 画像処理装置、撮像システム、画像処理システム
US9494521B2 (en) * 2012-07-25 2016-11-15 Theranos, Inc. Image analysis and measurement of biological samples
EP3239287A4 (en) * 2014-12-26 2018-08-15 The University of Tokyo Analysis device, analysis method, analysis program, cell manufacturing method and cells
JP2015108837A (ja) 2015-01-07 2015-06-11 キヤノン株式会社 画像処理装置及び画像処理方法
WO2016161163A2 (en) 2015-03-31 2016-10-06 Thrive Bioscience, Inc. Cell culture incubators with integrated imaging systems
WO2016204027A1 (ja) * 2015-06-18 2016-12-22 コニカミノルタ株式会社 目的生体物質の解析装置、解析システム、解析方法および解析プログラム
DE102015219971A1 (de) * 2015-10-14 2017-04-20 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und Vorrichtung zum Erstellen einer Mikroskopiepanoramadarstellung
CN107205113B (zh) 2016-03-18 2020-10-16 松下知识产权经营株式会社 图像生成装置、图像生成方法及计算机可读存储介质
WO2018106691A1 (en) 2016-12-06 2018-06-14 Abbott Laboratories Automated slide assessments and tracking in digital microscopy
GB201700487D0 (en) * 2017-01-11 2017-02-22 Hermon-Taylor John Diagnostic
JP6967232B2 (ja) * 2017-10-06 2021-11-17 株式会社ニコン 画像処理装置、画像処理方法及び画像処理プログラム
EP3830749B1 (en) * 2018-08-01 2023-05-31 CDx Medical IP, Inc. Enhanced extended depth of focusing on biological samples
US11717159B2 (en) * 2019-08-12 2023-08-08 Optos Plc Panoramic gonioscopic imaging
US20210149170A1 (en) * 2019-11-15 2021-05-20 Scopio Labs Ltd. Method and apparatus for z-stack acquisition for microscopic slide scanner

Also Published As

Publication number Publication date
AU2019312657A1 (en) 2021-02-18
IL295104B2 (en) 2023-09-01
IL295104A (en) 2022-09-01
US20240046419A1 (en) 2024-02-08
KR20210037714A (ko) 2021-04-06
IL295104B1 (en) 2023-05-01
AU2022209237A1 (en) 2022-08-18
US11263735B2 (en) 2022-03-01
IL280503A (en) 2021-03-25
US20210295482A1 (en) 2021-09-23
JP2021533389A (ja) 2021-12-02
IL280503B (en) 2022-09-01
KR20220151003A (ko) 2022-11-11
WO2020028648A1 (en) 2020-02-06
US11810280B2 (en) 2023-11-07
JP7244706B2 (ja) 2023-03-22
JP2023017808A (ja) 2023-02-07
KR102542267B1 (ko) 2023-06-13
CN112789622A (zh) 2021-05-11
US20220405901A1 (en) 2022-12-22
ES2948295T3 (es) 2023-09-07
CA3107949A1 (en) 2020-02-06
KR102466218B1 (ko) 2022-11-11
EP3830749A4 (en) 2022-04-27
JP7166456B2 (ja) 2022-11-07
EP3830749A1 (en) 2021-06-09
BR112021001864A2 (pt) 2021-04-27
AU2019312657B2 (en) 2022-04-28
US11449973B2 (en) 2022-09-20
EP3830749B1 (en) 2023-05-31
AU2022209237B2 (en) 2023-09-28
US20220156906A1 (en) 2022-05-19

Similar Documents

Publication Publication Date Title
US11449973B2 (en) Enhanced extended depth of focusing on biological samples
US8199997B2 (en) Feature dependent extended depth of focusing on semi-transparent biological specimens
Gerneke et al. Surface imaging microscopy using an ultramiller for large volume 3D reconstruction of wax‐and resin‐embedded tissues
JP2019528451A (ja) 組織生検材料からの細管検出のための装置
Adiga et al. Region based techniques for segmentation of volumetric histo-pathological images
US11854281B2 (en) System, method, and computer-accessible medium for processing brain images and extracting neuronal structures
Štajduhar et al. 3d localization of neurons in bright-field histological images
Turner et al. Automated image analysis technologies for biological 3D light microscopy
Hägerling et al. Light-Sheet Microscopy as a Novel Tool for Virtual Histology
Matula et al. Fast marching 3d reconstruction of interphase chromosomes
Adiga On Quantitative Evaluation of 3-D Histo-Pathological Images from Confocal Laser Scanning Microscope
Vissapragada Bright-field imaging of 3-dimensional (3-D) cell-matrix structures using new deconvolution and segmentation techniques
Indhumathi Volume processing of fluorescent laser confocal microscopic cellular images
Guan Processing, visualization and analysis of 3D confocal microscopic images

Legal Events

Date Code Title Description
B09A Decision: intention to grant [chapter 9.1 patent gazette]
B16A Patent or certificate of addition of invention granted [chapter 16.1 patent gazette]

Free format text: PRAZO DE VALIDADE: 20 (VINTE) ANOS CONTADOS A PARTIR DE 01/08/2019, OBSERVADAS AS CONDICOES LEGAIS